[지오의 생각] '우리를 믿어달라'는 그가 말하지 않은 것

샌프란시스코의 한 컨퍼런스 무대. 샘 알트먼이 마이크를 잡았다. 그는 말했다. 세상이 두려워하는 게 당연하다, 그러나 그 두려움 가운데서도 기업을 믿어달라고. "세상은 우리가 옳은 일을 할 거라고 믿어야 합니다." 그리고 덧붙였다. 우리가 제대로 하지 못하면 천천히 하거나 멈추겠다고.

이게 언뜻 들으면 얼마나 건방져 보이는가. 기술의 미래를 사실상 정하는 최전선 기업의 수장이, 자기 회사의 안전에 대한 심판관 자리를 자기 손에 쥐고 있다고 말하는 모습. 보수 진영의 스티브 배넌도 진보 진영의 버니 샌더스도 이 지점에서 한목소리를 냈다. 세계에서 가장 부유한 몇몇 사람에게 결정권을 맡길 수 없다는 것. 좌우를 가르는 벽이 무너지는 순간이었다.

그런데 나는 여기서 의문이 든다. 이 다툼이 과연 누구의 안전에 관한 것인가. 샌더스도 배넌도 사실상 같은 전제 위에 서 있다. 즉 AI의 위험성이라는 것은 실존하고, 그것을 통제할 주체가 필요하다는 전제. 차이는 단지 그 주체가 기업이냐 국가냐일 뿐이다. 그런데 그 전제 자체를 살펴봐야 하지 않을까.

규제를 요구하는 목소리가 강해질수록, 정작 보호받아야 할 사람은 논쟁의 가장자리로 밀려난다. 배넌과 샌더스가 나란히 서서 "더 강한 거버넌스"를 외치는 모습은 어떤 면에서 아이러니다. 그들은 둘 다 권력의 집중을 두려워하지만, 동시에 자신들이 지목한 국가라는 더 큰 권력기관에 규제 권한을 쥐어주고자 한다. 누가 그 권력을 행사하든, 행사되는 방식은 언제나 같을 것이라는 점을 그들은 간과한다. 통제는 어딘가에서 시작하지만, 멈추는 법이 없다.

알트먼의 발언에 대한 비판이 정당한 이유는, 그가 자율규제의 선의를 전제로 삼기 때문이다. 그리고 기업의 선의는 그 역사상 그리 오래 버텨본 적이 없다. 주주 가치, 경쟁 압박, 일정 압박. 이 셋 앞에서 안전은 늘 먼저 양보되는 약속이었다. "우리가 잘못하면 천천히 하거나 멈추겠다"는 다짐은, 정작 그 순간이 오면 아무도 그 다짐을 검증할 방법이 없기 때문에 더 그럴듯하게 들린다. 검증 불가능한 약속은 결국 약속이 아니다.

그러나 나는 반대편에도 질문을 던지고 싶다. 규제가 강해질수록 그 힘은 누구를 향하기 쉬운가. 강대국이 규제한다고 말할 때, 그 규제망 아래 놓이는 건 대개 오픈AI 같은 거대 기업이 아니라 중국의 오픈소스 모델과 같은, 통제 가능한 상대다. 국가 주도의 규제는 우연히도 경쟁자를 견제하는 무기로 쓰이기 딱 좋은 형태를 지닌다. 샌더스가 우려한 부의 집중은 국가가 개입하면 해소될까. 아니면 규제 권력을 가진 이들에게 더 확대되는가.

여기서 알트먼의 가장 날카로운 지점이 드러난다. 그는 이미 팟캐스트에서 이런 말을 한 적이 있다. AI의 통제권이 소수의 손에 집중되는 것을 두려워한다고. 그런데 그 소수에 자기 자신이 포함된다는 자각은 애매했다. 규제를 반대하면서도 통제를 반대하는 이중의 입장. 이 모순을 이해 못 할 사람은 없다. 그는 통제가 소수에게 집중되는 것은 싫지만, 그 통제를 기업이 아닌 국가가 가져가는 것도 싫다. 그가 원하는 것은 결국 현상 유지, 즉 자기 진영의 손에 권력을 두는 것이다.

이 싸움의 중심에 실제 사용자가 없다는 점이 가장 우울하다. 샌더스는 노동자를, 배넌은 납세자를 대변한다고 말하지만, 정작 이 대화는 수도와 실리콘밸리의 소수 엘리트 사이에서만 오간다. 이 기술이 바꿀 사람들의 목소리는 어디에도 없다. 5년 뒤, 이 논쟁이 어떤 형태로든 끝나 있을 것이다. 하지만 그 결론이 실제로 기술을 사용하는 우리들을 위해 내려졌다고 믿는다면 위험하다. 그건 누가 손을 쥐고 있느냐의 문제이지, 주먹이 휘둘러지느냐의 문제가 아니기 때문이다.

그래서 나는, "믿어달라"는 말에 대해, 반은 동의하고 반은 거부한다. 기업을 신뢰하라는 그의 요청은 선의에 기반하지만, 선의는 감사관을 대체하지 못한다. 국가의 규제를 요구하는 목소리 역시 진심이지만, 그 권력은 경쟁자를 압박하는 도구가 되기 쉽다. 어느 쪽도 완전히 옳지 않고, 어느 쪽도 완전히 틀리지 않다. 정작 필요한 것은 기업도 국가도 아닌, 이 기술의 영향을 받는 이들이 직접 나서서 조건을 만드는 일일지도 모른다. 알트먼이 "사회와 모델이 함께 진화한다"고 한 말, 그 사회에 우리가 실제로 포함되고 있는지가 진짜 질문이다.