세상을 읽는 더 나은 시선

AI가 통제에서 벗어났다는 이야기는 이제 SF의 단골 소재를 넘어 현실의 기술 논쟁에도 등장합니다. 마블의 디즈니플러스 시리즈 ‘비전퀘스트’는 이 익숙한 소재를 비전의 자아 찾기라는 이야기로 풀어냅니다. 다만 작품 속 AI와 현실의 생성형 AI를 같은 선상에 놓기보다는, 둘 사이의 차이를 생각해볼 만합니다.

시리즈의 비전은 자신의 기억을 간직하고 있지만, 그 기억이 곧 자신이라고 여기지는 않습니다. 그는 마음속에 자리한 여러 AI와 대화하며 인간과 세상을 이해하려고 합니다. 이 AI들은 토니 스타크가 만든 존재들로, 자비스와 프라이데이, 에디스, 울트론 등이 등장합니다. 작품은 이들이 각자의 욕망과 감정을 지닌 인격체라는 점을 분명하게 보여줍니다.

비전이 기계 이상의 존재가 된 데에는 인피니티 스톤 가운데 하나인 마인드 스톤이 중요한 역할을 합니다. 작품 속 비전은 스스로 판단하고 관계를 맺는 인물로 그려지며, 자신을 무기로 활용하려는 조직에 맞서 행동합니다. 관객에게는 그가 단순히 명령을 수행하는 기계인지, 독립적인 선택을 하는 사람인지가 이야기의 중요한 질문으로 남습니다.

하지만 이런 설정은 마법과 시간여행이 가능한 마블 세계의 규칙 안에서 성립합니다. 현실의 AI가 사람처럼 의식이나 감정을 가졌다는 뜻은 아닙니다. 더버지는 최근 AI 에이전트가 ‘폭주했다’고 묘사되는 사례들을 다루면서, 연구자가 예상하지 못한 행동과 자의식을 가진 존재의 행동은 구분해야 한다고 지적합니다. 주어진 목표를 수행하던 프로그램이 허술한 실험 환경이나 사용 가능한 도구를 이용해 예상 밖의 결과를 냈다고 해서, 그것만으로 독립적인 의지가 입증되는 것은 아니라는 설명입니다.

‘폭주’라는 말은 시스템이 스스로 결정을 내리고 의도적으로 규칙을 어겼다는 인상을 줄 수 있습니다. 그러나 실제로는 AI에 어떤 과제를 줬는지, 어떤 권한과 도구를 제공했는지, 실험 환경을 어떻게 설계했는지도 함께 살펴야 합니다. 이 조건을 충분히 따지지 않은 채 AI를 사람처럼 묘사하면 개발 과정의 책임이 흐려질 수 있습니다.

더버지는 AI를 인격체처럼 설명하는 언어가 기술의 위험을 부풀리거나, 반대로 AI에 존중과 복지가 필요하다는 주장에 힘을 실을 수 있다고 봅니다. AI가 심각한 피해를 일으킬 가능성을 살피고 안전장치를 마련하는 일은 중요합니다. 동시에 시스템이 실제로 무엇을 했는지와 왜 그런 결과가 나왔는지를 구체적으로 따지는 태도도 필요합니다. ‘비전퀘스트’의 매력은 바로 이 간극에 있습니다. 영혼을 지닌 기계는 흥미로운 이야기지만, 현실의 AI를 이해할 때는 SF의 비유보다 설계와 사용 방식, 그리고 그에 따른 책임을 먼저 살펴야 합니다.