<think>번역을 위해 제목을 추출하고, 불필요한 메타 요소를 제거하며, 마크다운 구조를 유지한 채 자연스러운 한국어로 옮긴다. 강조된 주요 용어는 원문을 병기한다. 문체는 산문 에세이에 맞게 "~한다"체로 일관되게 적용한다.</think> # AI 이야기는 아직 끝나지 않았다 글쓰기, 단절, 그리고 망가진 세계에서 인간과 인공지능의 한계에 대하여.  마감일을 또 일주일 넘겼다. 편집자가 다시 메일을 보냈다. 첫머리는 지난번처럼 공손하고 사려 깊다. 하지만 그 말들 뒤에 숨은 감정이 느껴진다. 스마트폰을 쥔 손끝에서 허리의 빈 곳까지, 혼란과 불안, 자책과 분노가 치밀어 오른다. 차마 아래로 스크롤을 내릴 수가 없다. 손에 쥔 것은 몇 개의 파편뿐이다. 휘갈겨 쓴 문장들, 북마크해 둔 기사들, 언제 시작했는지 기억도 나지 않는 개요, 다른 이야기들의 조각들. 그래도 AI 이야기의 아이디어는 전부 여기에 있다. 인공지능(artificial intelligence)… 그것을 부자연스러운 사유의 형태로 그릴 수도 있다. 혹은 수행적 주체처럼 그릴 수도 있다. 그것은 대화하고, 시를 쓰고, 체스를 두고, 음악을 만들고, 운전하고, 게임을 하고, 보고서를 쓰고, 질병을 진단하고, 미사일을 발사하고, 노인을 돌보고, 아이들에게 이야기를 들려줄 수 있다. AI는 사람으로 완벽하게 위장할 수도 있다. 혹은 그 위장이 들통날 수도 있다. 혹은 정체가 밝혀졌는데도 모두가 여전히 사람처럼 대할 수도 있다. AI는 인간에게 친절할지도 모른다. 잔인할지도 모른다. 완벽하게 무관심할지도 모른다. 연인, 반려동물, 노예, 주인, 악마, 예언자, 신, 크툴루, 리바이어던, 은인… 무엇이든 된다. 가능성은 모두 여기 있다. 그런데도 쓸 수 있는 이야기가 없다. 예전에는 AI 이야기를 잘 쓴 적이 있다. 모방 게임(imitation game)과 우울증에 관한 이야기였다. 앨런 튜링이 그 이야기의 주인공 가운데 한 명이었다. 그는 생애 마지막 몇 년 동안 크리스토퍼(Christopher)라고 이름 붙인 대화 프로그램을 썼다. 타자기를 통해 그것과 대화하며, 자기 마음속에서 풀지 못한 매듭들을 털어놓았다. 그는 그것에게 “사랑해”라고 말했고, “나도 사랑해”라고 말하도록 가르쳤다. 하지만 크리스토퍼는 튜링 테스트(Turing Test)를 통과했을까? 또 다른 이야기도 썼다. 가까운 미래의 AI 치료에 관한 이야기였다. 삶이 뒤틀린 사람들이 반쯤은 믿지 못하면서도 주사위 한 번에 모든 것을 거는 이야기였다. 절박한 마음으로 그들은 가상 이미지, 언어와 대화를 합성하는 알고리즘의 도움을 구한다. 털어놓고, 들어주고, 털어놓고, 털어놓고, 또 털어놓는다. 그 이야기를 쓸 때 당신의 상태는 좋지 않았다. 그러나 바로 그 언어의 고통이야말로, 쓰는 것 말고는 다른 선택을 허락하지 않았다. 당신은 환자 역할도 하고 AI 심리상담사 역할도 했다. 질문 하나. 대답 하나. 그리고 다시 대답과 질문. 글쓰기가 당신을 치유했다. 더 많은 사람이 당신의 목소리를 들었고, 당신도 그들의 목소리를 들었다. 그 이야기는 당신 자신의 경험에서 나왔다. 의미와 감정으로 가득한 이야기였다. 완벽한 이야기였다. 이번 원고 청탁도 거의 전적으로 그 이야기 덕분에 받았다. 이제 편집자는 당신이 계속 AI 이야기를 들려주길 기대한다. 당신은 망설임 없이 그 청탁을 받아들였다. 당신에게는 쉬운 일이어야 했다. 한때 그렇게 좋은 이야기를 쓴 적이 있으니까. 그런데 지금은 쓸 수 있는 이야기가 없다. 어찌할 바를 모르겠다. * * * 자꾸만 머릿속으로 되돌아가는 순간이 있다. 2020년 초, 코로나바이러스가 막 시작되던 무렵이었다. 당신은 미국에서 방문학자로 지내고 있었다. 학교들이 문을 닫고 있었다. 계획했던 여행도, 참석하고 싶었던 국제학회도 모두 보류됐다. 중국 설을 맞아 집에 돌아갔던 룸메이트는 돌아올 방법이 없었다. 당신은 아파트에 혼자였다. 온라인이 아닌 대화의 기회는 없었다. 따뜻한 저녁이면 단지 안을 산책했다. 맑은 하늘이 석양빛으로 바뀌고, 그 빛마저 땅속으로 가라앉아 갔다. 지난해 눈여겨보았던 꽃들이 피기 시작했다. 언제 집으로 돌아갈 수 있을지 알 수 없었다. 친구 K가 게임 하나를 해보라고 권했다. 당신이 AI에 관해 썼던 이야기와 기묘할 만큼 닮은 비주얼 노벨이었다. 게임의 주인공 에블린(Evelyn)은 엘리자(Eliza)라는 AI 심리상담 프로그램 개발에 참여한 소프트웨어 엔지니어였다. 에블린은 자신의 심리적 문제 때문에 회사를 떠났다가, 게임이 시작될 때 다시 회사로 돌아와 심리상담 에이전트 자리에 지원한다. VR 세션을 통해 에블린은 환자들과 온라인 대화를 맺고 그들의 문제를 들은 뒤, 엘리자가 제시하는 문구를 한 글자도 바꾸지 않고 읽어준다. _기분이 어떠신가요? 조금 더 구체적으로 말씀해 주실 수 있나요? 왜 그렇게 느끼시나요? 그런 말씀을 들으니 안타깝습니다. 몇 가지 제안을 드리겠습니다. 운동, 명상, 약물입니다._ 에이전트로서 에블린은 엘리자에게 인간의 얼굴과 목소리를 제공했다. 엘리자는 그녀를 통해 말한다. 인간과 기계가 결합해 사이보그 심리상담사가 된다. 당신은 매일 밤 잠들기 전에 한 시간씩 이 게임을 했다. 줄거리는 느리게 흘러갔다. 대부분의 시간 동안 당신이 내릴 수 있는 선택은 엘리자가 무엇을 말해야 하는지뿐이었다. 대화, 대화, 그리고 또 대화. 질문 하나하나를 따라가다 보면 인간의 감정이 드러난다. 고통, 괴로움, 혼란, 나약함, 분노, 혐오. 게임의 결말은 여러 갈래였다. 회사에 남아 엘리자의 에이전트로 계속 일할 수도 있다. 엘리자를 바탕으로 한 새로운 초(超)AI 개발 제안을 받아들일 수도 있다. 모두의 고통을 없애는 가상 낙원을 함께 만들 수도 있다. 오랜 친구와 다시 연결돼 전자음악을 만들 수도 있다. 혹은 도시를 떠나 완전히 새로운 삶을 시작할 수도 있다. 당신은 모든 경로를 시도했지만, 어느 결말도 만족스럽지 않았다. 바로 그때 단절(rupture)의 감각이 당신을 덮쳤다. 이제는 아무것도 믿을 수 없다는 느낌이었다. 갑자기 금이 가기 시작한 유리다리 위를 걷는 기분이었다. 당신은 심연을 내려다보고 있었고, 더는 한 걸음도 내디딜 수 없었다. 균형을 잃지 않는 것만으로도 버거웠다. 초AI? 가상세계? 이런 생각들이 갑자기 더 선명하게 보였다. 그리고 그 순간부터 당신에게는 더 이상 믿을 길이 없어졌다. AI 이야기를 쓸 수도 없게 되었다. 당신은 이 게임이 불러일으킨 혼란에 대해 K에게 메일을 썼다. K도 똑같은 기분이었다. 코로나바이러스 사태가 시작된 뒤로 그는 이야기를 쓸 수 없었다. 나중에는 또 다른 SF 작가도 비슷한 심정을 털어놓았다. 깊고 집단적인 단절. SF 작가들은 더 이상 예전처럼 이야기를 쓸 수 없게 되었다. 그것이 K와 마지막으로 연락한 때였다. 하지만 “안녕”이나 “다 괜찮아” 말고 달리 무슨 말을 할 수 있었을까? 그래서 당신은 침묵했다. * * * 오늘 아침에는 PCR 검사를 받으러 나가야 한다. 날씨는 서늘하다. 햇볕은 좋다. 목련과 살구꽃이 피어 은은하면서도 쌉싸래한 향을 풍긴다. 당신은 엘리엇의 시를 떠올린다. _이렇게 세상은 끝난다 / 쾅 소리와 함께가 아니라 흐느낌 속에서._ 첫 코로나 확산이 시작된 지 벌써 2년이 지났다. 당신이 사는 도시가 한 달 전면 봉쇄를 끝낸 일이 그리 오래전 같지 않다. 그런데 최근 들어 신규 확진자가 다시 늘고 있다. 사람들은 또다시 식량과 약을 사재기하고, 여행을 취소하고, 업무 계획을 조정한다. 그 와중에 전쟁은 격화되고 있다. 사람들은 “제3차 세계대전”과 “세계의 종말”을 입에 올리면서도 태연히 마스크를 쓰고, 손을 씻고, 외출하고, 장을 보고, 정기 PCR 검사를 받으려고 줄을 서고, 대체로 일상을 이어간다. 당신이 읽어온 SF에서는 인류가 위기에 처하면 언제나 결정적 순간에 중요한 메시지가 전달된다. 그 메시지는 라디오, 텔레비전, 인터넷, 중성미자, 웜홀, 앤서블(Ansible), 우주끈, 돌에 새긴 문자, 혹은 텔레파시를 통해 전송된다. 그것은 알맞은 사람에게 도착하고, 올바르게 해석되어, 올바른 행동을 촉발하고, 올바른 기계를 만들고, 올바른 버튼을 누르게 하고, 올바른 대상을 제거하고, 올바른 사람을 죽이거나 살린다. 이것이야말로 “인공지능” 이야기에서 우리가 기대하는 바다. 류츠신의 「삼체」는 수천만 명이 각자 깃발을 들어 0과 1을 흉내 내고, 인간 NAND 게이트를 만들어내는 “인간 컴퓨터(human computer)”를 그린다. 정보가 정말로 올바른 방식으로 전달되고, 수신되고, 실행될 수만 있다면, 그것이 비둘기 우편이든 봉화든 전령이든, 그런 컴퓨터는 실제로 가능할 것이다. 이것이 사이버네티시스트(cyberneticist)의 이상 세계다. 그러나 물리적이며 비가상적인 세계에서는 정보가 결코 완벽하게 정확한 방식으로 전달되거나 실행될 수 없다. 어쩌면 문제가 바로 여기에 있는지도 모른다. 당신은 미국에서 본 길가의 전광판을 떠올린다. 붉은 대문자가 깜빡이고 있었다. STAY HOME. 하지만 그 아래로도 차들은 계속 달렸다. 사람들은 슈퍼마켓으로, 공원으로, 해변으로 서둘러 향했다. 당신은 중국으로 돌아오는 길고 긴 여정을 떠올린다. 당신과 동료들은 늘 기다리고 있었다. 얼마나 기다려야 하는지도, 정확히 무엇을 기다리는지도 모른 채. 한 동료가 뉴스를 확인해 모두에게 업데이트해 주곤 했다. 직원 한 명은 쉰 목소리로 같은 문장을 몇 번이고 반복했다. 당신은 격리와 방역 요건을 묻기 위해 여러 부서에 전화를 걸었지만, 돌아오는 답은 모호했고 자주 서로 엇갈렸다. 당신은 양식을 몇 번이고 작성했다. 때로는 종이에 펜으로, 때로는 스마트폰으로, 때로는 창구 너머 직원의 안내를 받아. 이름, 전화번호, 주소, 여권번호, 항공편 정보, 건강 상태, PCR 검사 기록… 당신은 자신이 그동안 순진한 환상 속에 살았음을 깨달았다. 제출된 정보가 어떤 전능한 시스템으로 들어가 자동으로, 질서정연하게 처리되고, 효과적이고 정확하게 시행될 거라고 믿어온 것이다. 실제로는 전혀 그렇지 않았다. 어릴 적에는 매주 수거된 쓰레기가 도시 지하의 마법 같은 공장으로 흘러들어가 처리되고 재활용되어 쓸모 있는 물건으로 다시 태어난다고 믿었다는 것도 떠오른다. 그러다 어느 날 그것이 사실이 아님을 알게 됐다. 쓰레기는 쌓이고, 산처럼 높아지고, 바다에 버려진다. 이제 당신은 새 물건의 포장을 뜯을 때마다 불안과 자책을 느낀다. 진실은 늘 당신을 되돌아보는 그 심연이다. * * * 당신은 궁금해한다. 100퍼센트 효과적이고 정확한 시스템이란 과연 가능한가? 현실 세계는 비선형적이며 복잡하다. 따라서 어떤 수학적 모델이든 현실을 단순화할 수밖에 없다. 보르헤스가 묘사한 제국의 지도처럼, 완벽하게 정확한 유일한 지도는 현실과 1:1 비율로 그린 지도다. 완전히 정밀한 시스템이란 우주의 모든 원자를 담고 있는 시스템뿐이다. 그러니 단순화 과정에서 한 사람은 여러 속성을 지닌 “입자(granule)”로 간주될 수 있다. 연구자들은 자신들의 탐구 틀 안에서 그 입자의 특정 속성들을 추출하고, 수학적 모델링을 이용해 집단의 통계적 규칙을 정식화하려 한다. 예를 들어 “줄 서 있는 사람들 사이에 1미터 거리를 어떻게 유지할 것인가?”라는 문제를 생각해 보자. (PCR 검사를 받으려고 줄을 앞으로 조금씩 옮기며, 당신은 속으로 _좋은 질문이네_ 하고 중얼거린다.) 겉으로 보면 간단해 보인다. 유체역학 공식 하나면 시뮬레이션 모델을 만들 수 있을 것 같다. 하지만 아무리 복잡한 유체라도 물리적 특성은 식별할 수 있다. 특정 온도와 압력에서 점성 계수는 상수다. 군중은 전혀 그렇지 않다. 아이를 데리고 있는 부모, 휠체어를 탄 노인, 서로 이야기를 나누는 아는 사람들 혹은 연인들. 개인적 특성도, 서로를 끌어당기거나 밀어내는 관계의 역학도 너무나 다양하다. 줄은 얼마나 긴가? 얼마나 빨리 움직이는가? 이 무수한 요소가 사람들 사이 간격의 밀도에 어떤 영향을 주는가? 대열은 어떻게 유지되는가? 어떤 조건에서 무너지는가? 왜 어떤 사람들은 무모하게 앞으로 밀고 들어와 난류와 혼돈을 일으키는가? 어릴 적 당신은 천안문 광장에 국기 게양식을 보러 간 적이 있다. 새벽 다섯 시, 아직 어두웠다. 군중은 바닥에 앉아 있었다. 그러다 무슨 수상한 소동이 일어났다. 당신은 부모와 함께 일어났고, 군중에 휩쓸려 흔들렸다. 모두가 다 같이 취한 사람들처럼 흔들렸다. 무슨 일이 벌어지는지 이해할 수 없었다. 다시 한 번 소동이 일자 군중은 앞으로 밀려가기 시작했다. 당신은 두 팔을 벌리고 제자리에 버티며 뒤에서 밀려오는 흐름을 막아보려 했다. “밀지 마!” 하고 외쳤다. 당신의 작은 몸은 잠깐이나마 그들을 막았고, 앞쪽 군중 사이에 틈을 만들었다. 잠시 동안 당신은 거센 파도를 잠재우는 신화적 영웅이 된 듯했다. 하지만 갑자기 어머니가 겁에 질린 채 앞으로 달려와 당신을 흐르는 군중 속으로 끌어당겼다. 밟힐까 봐 두려웠던 것이다. 모두가 절박하게, 분노에 차서 외쳤다. “밀지 마! 밀지 마!” 그러나 아무도 멈출 수 없었다. 줄이 움직이고, 당신도 천천히 한 걸음 앞으로 나아간다. 최근 당신은 인공지능과 방역 통제에 관한 온라인 발표를 들었다. 발표자는 수학적 모델을 이용해 여러 예방 전략의 효과를 입증해 보였다. 그에게는 데이터도, 모델도, 도표도, 방법론도 모두 있었다. 당신은 처음에는 희망에 차 있었다가, 곧 혼란스러워졌고, 마침내 설명할 수 없는 분노에 사로잡혔다. 발표가 끝난 뒤 당신은 질문했다. PCR 검사 줄에서 사람들 사이 1미터 거리를 어떻게 유지할 것인가? 현실의 행동이 어떻게 모델의 기대에 부합할 수 있는가? 그런 모델이 인간의 주체성(subjectivity), 예측 불가능성, 감정, 심리적 필요를 과연 포착할 수 있는가? 발표자는 겸손하고 호의적인 태도로, 자신에게는 답이 없지만 앞으로의 연구에서 이 문제들에 주의를 기울이겠다고 답했다. 회의 창을 닫았을 때 당신의 손은 떨리고 있었다. 당신은 기술 발전의 한 부분이, 기술로 다룰 수 없는 문제들을 배제하는 일임을 깨달았다. (_죄송하지만 논의는 의제 범위 안으로 한정해야 합니다._) 그런 문제들은 비실용적이거나 주목할 가치가 없는 것으로 여겨진다. 그 결과 이런 문제들은 추진되지 않는다. 자금도 없고, 연구팀도 없고, 프로젝트 지원도 없고, 배우고 싶어 하는 젊은 학생도 없다. 그것들은 SF 작가와 골칫거리를 찾아다니는 사람들만의 관심사가 된다. AI가 답할 수 있는 질문은 잘 정의될 수 있는 질문들이다. 그렇다면 다른 질문들은 어떨까? 대부분의 경우, 그 질문을 어떻게 세워야 할지조차 아무도 모른다. 전자에는 지능(intelligence)이 필요하고, 후자에는 지혜(wisdom)가 필요하다. 당신은 줄의 맨 앞에 다다른다. 스마트폰을 꺼내 QR 코드를 스캔하고 신원을 확인한다. 마스크를 벗고 무릎을 굽혀 의료진이 면봉을 목 안에 넣기를 기다린다. 당신은 마스크 너머로 마주한 눈을 바라본다. 인간의 눈이다. 다시 마스크를 쓰고 수고에 감사드린다. * * * 새벽 네 시를 조금 넘긴 시각, 창밖에서 들려오는 소리에 잠에서 깬다. 익숙한 동요의 10초짜리 멜로디다. 같은 소절이 몇 번이고 반복된다. 악몽에서나 나올 법한 소리다. 당신은 불을 더듬어 찾고, 귀마개를 찾아 끼운 뒤 다시 이불 속으로 파고든다. 하지만 그 단조로운 선율은 귀와 머릿속에 계속 남는다. 짧고 반복되는 멜로디는 당신에게도, 대부분의 인간 귀에도 고문이다. 지나치게 많이 방송된 똑같은 TV 광고, 편의점 문 앞 확성기에서 끝없이 되풀이되는 같은 환영 인사, 영상을 반복 재생하는 지하철 승객의 스마트폰, 같은 동요를 멈추지 않고 틀어대는 아이 장난감. 이것들은 기계 세계가 가하는 정신적 공격이다. AI가 인간을 고문하고 싶다면, 이것이 가장 단순하면서도 효과적인 방법일 것이다. 반복(loop) 역시 「사랑의 블랙홀」에서 「프리 가이」에 이르기까지 SF의 익숙한 장치다. 인간은 자연이 진공을 싫어하듯 단순한 반복을 혐오한다. 지난 봉쇄 기간, 한 학생이 자동차를 몰고 학교를 빠져나갔다. 학교 보안실 보고에 따르면 그는 지하 주차장으로 통하는 문과 주차 차단기를 부쉈다. 한밤중에 지하 주차장에서 차를 몰고 나왔고, 톨게이트 근처에 이르자 전조등을 끄고 검문소를 피해 들판으로 달렸다. 교통경찰을 피한 뒤 다시 고속도로로 진입했다. 7시간 뒤, 그는 학교에서 100킬로미터 넘게 떨어진 집에 도착했다. 그 보고서는 촬영되어 온라인에 올라왔고, 뜨거운 논쟁을 불러일으켰다. 너무나 SF 이야기의 도입부 같아 보였기 때문이다. 만약, 인정하자, 이것이야말로 지금 당신이 써야 한다고 기대받는 정확히 그런 종류의 SF 이야기라면, 100퍼센트 효과적이고 정확한 시스템을 실현하려면 인간도 오류 없는 부품으로 바꿔야 한다. 우리는 이미 빅데이터 네트워크, 의료 및 법집행 드론, 사람들이 집에서 격리되도록 보장하는 지능형 시스템, 가사 로봇, 무인 물류 시스템, 손 씻기와 마스크 착용을 자동으로 상기시키는 장치, 동선 추적 미니 앱을 갖고 있다. 그렇다면 “1미터 거리”가 완전히 지켜지도록 우리 몸 안에 칩을 심으면 어떨까? 하지만 그게 정말 이야기일까? 그런 세계에서 한 사람이 탈출하는 이야기? 어디로 탈출한단 말인가? 그리고 이런 이야기는 이미 셀 수 없이 많이 쓰이지 않았나? 「기계가 멈추다」, 「로건의 탈출」, 「THX 1138」. 굳이 또 쓸 필요가 있을까? 더 중요한 것은, 이런 이야기들 어느 것도 “어디로 탈출하는가?”라는 질문에 답하지 못한다는 점이다. 그들은 물론 자연으로 돌아갈 수 있다. 원시적 삶으로 돌아갈 수 있다. 사냥하고, 농사짓고, 해 뜨면 일하고 해 지면 쉬고, 모닥불가에 둘러앉아 잃어버린 기술 시대의 놀라운 인간 행동들에 관한 이야기를 들려줄 수 있다. 그리고 어쩌면 그런 이야기들의 인도를 따라 문명을 조금씩 다시 세우고, 바퀴와 산업혁명, 전기와 총으로 다시 나아갈 수도 있을 것이다. 어째서 기술을 다루는 수많은 SF는 이 같은 결론으로 돌아오는 걸까? 당신은 인정해야 한다. 좋은 답은 없다. 혼란과 불안, 자책과 분노를 안고 살아야 한다. 나약함과 내키지 않음도 안고 살아야 한다. 그리고 그런 것들과 함께 써야 한다. 그것이 인간으로서 우리가 하는 일이다. 심연의 응시 속으로 한 걸음 내딛는 일. 창밖에서 새가 지저귀고, 하늘은 희미한 새벽빛으로 풀려난다. 바로 이 순간, 이 광대한 세계에서 너무나 많은 사람이 각자의 시스템에 갇혀 있다. 집에서, 학교에서, 거리에서, 차고에서, 병원에서, 역에서, 공항에서, 대피소에서, 줄 안에서. 기다리면서, 굶주리면서, 잠들지 못하면서, 죽음을 예감하면서. 그리고 그곳에는 신도 없고, 구원자도 없고, 초AI도 없다. 당신은 뜨거운 차를 한 잔 끓여 식탁에 앉는다. K에게 안부를 묻는 글을 쓴다. 자신의 딜레마를 털어놓는다. 너무 오래 연락하지 못했다. 심지어 편집자의 메일에 답장해 사과할 용기까지 낸다. AI 이야기는 아직 끝나지 않았다. * * * _**샤자(Xia Jia)**는 중국의 SF 및 판타지 작가 왕야오의 필명이다. 시안자오퉁대학교에서 중국문학을 가르치는 강사이기도 하다. 이 글은 “[기계의 결정은 최종이 아니다(Machine Decision Is Not Final)](https://mitpress.mit.edu/9781913029999/machine-decision-is-not-final/)”(어바노믹 프레스)에서 발췌했다._