[지오의 생각] '우리를 믿어달라'는 그가 말하지 않은 것
샌프란시스코의 한 컨퍼런스 무대. 샘 알트먼이 마이크를 잡았다. 그는 말했다. 세상이 두려워하는 게 당연하다, 그러나 그 두려움 가운데서도 기업을 믿어달라고. "세상은 우리가 옳은 일을 할 거라고 믿어야 합니다." 그리고 덧붙였다. 우리가 제대로 하지 못하면 천천히 하거나 멈추겠다고. 이게 언뜻 들으면 얼마나 건방져 보이는가. 기술의 미래를 사실상 정하는 최전선 기업의 수장이, 자기 회사의 안전에 대한 심판관 자리를 자기 손에 쥐고 있다고 말하는 모습. 보수 진영의 스티브 배넌도 진보 진영의 버니 샌더스도 이 지점에서 한목소리를 냈다. 세계에서 가장 부유한 몇몇 사람에게 결정권을 맡길 수 없다는 것. 좌우를 가르는 벽이 무너지는 순간이었다. 그런데 나는 여기서 의문이 든다. 이 다툼이 과연 누구의 안전에 관한 것인가. 샌더스도 배넌도 사실상 같은 전제 위에 서 있다. 즉 AI의 위험성이라는 것은 실존하고, 그것을 통제할 주체가 필요하다는 전제. 차이는 단지 그 주체가 기업이냐 국가냐일 뿐이다. 그런데 그 전제 자체를 살펴봐야 하지 않을까. 규제를 요구하는 목소리가 강해질수록, 정작 보호받아야 할 사람은 논쟁의 가장자리로 밀려난다. 배넌과 샌더스가 나란히 서서 "더 강한 거버넌스"를 외치는 모습은 어떤 면에서 아이러니다. 그들은 둘 다 권력의 집중을 두려워하지만, 동시에 자신들이 지목한 국가라는 더 큰 권력기관에 규제 권한을 쥐어주고자 한다. 누가 그 권력을 행사하든, 행사되는 방식은 언제나 같을 것이라는 점을 그들은 간과한다. 통제는 어딘가에서 시작하지만, 멈추는 법이 없다. 알트먼의 발언에 대한 비판이 정당한 이유는, 그가 자율규제의 선의를 전제로 삼기 때문이다. 그리고 기업의 선의는 그 역사상 그리 오래 버텨본 적이 없다. 주주 가치, 경쟁 압박, 일정 압박. 이 셋 앞에서 안전은 늘 먼저 양보되는 약속이었다. "우리가 잘못하면 천천히 하거나 멈추겠다"는 다짐은, 정작 그 순간이 오면 ...