Metadata
# 인간의 가능성을 믿는다
이 글은 2026년 10월 23일 새너제이에서 열린 [AGNTCon + MCPCon 북미 행사](https://events.linuxfoundation.org/agntcon-mcpcon-north-america/)의 기조연설에 앞서 녹화한, AAIF 라이브의 [데메트리오스 브링크만과 나눈 대화](https://www.youtube.com/watch?v=irjFdpOtb00)를 바탕으로 한다. 일란 스트라우스가 게재를 위해 내용을 편집하고 재구성했으며, 일부는 기조연설에서 가져왔다. 두 영상은 [AI 디스클로저스 프로젝트 웹사이트](https://ai-disclosures.org/missing-mechanisms)의 새 페이지인 ‘빠진 메커니즘(Missing Mechanisms)’에서도 볼 수 있다.
* * *
## **쓰라린 교훈과 인간 전문성을 거래하는 AI 시장(The Bitter Lesson vs. AI Markets for Human Expertise)**
2019년 컴퓨터과학자 리처드 서튼은 「[쓰라린 교훈(The Bitter Lesson)](http://www.incompleteideas.net/IncIdeas/BitterLesson.html)」이라는 짧은 글을 썼다. 그는 70년에 걸친 AI 연구를 돌아보며, 연산량을 늘릴수록 성능이 높아지는 범용적인 방법이 인간의 전문성을 바탕으로 만든 방법을 압도적인 차이로 이긴다고 결론 내렸다. 인터넷에서 어떤 생각의 열렬한 신봉자를 가리키는 속어를 빌리자면, AI 업계 전체가 ‘쓰라린 교훈에 꽂힌 사람들(bitter-lesson-pilled)’이다. 나는 ‘인간의 가능성에 꽂힌 사람(human-pilled)’이다.
나는 쓰라린 교훈을 믿는다. 결국에는 막대한 연산을 밀어붙이는 방식이 승리한다. 나는 평생의 경력 내내 이 사실과 씨름해 왔다. 하지만 우리 인간은 여전히 AI 경제에서 자신의 역할을 찾아야 한다. 그런데 AI 커뮤니티가 인간에게 더 우호적인 미래를 만들 방법을 고민하는 데 더 많은 시간을 쏟지 않는다는 점이 꽤 불편하다. AI 연구소들은 AI가 통제를 벗어나지 않도록 하는 방법을 고민하고, 그곳의 수석 이코노미스트들은 AI로 인한 일자리 감소를 연구한다. 하지만 인간에게 새로운 경제적 기회를 만들어 주려면 어떤 메커니즘을 도입해야 하는지는 연구하지 않는다.
오라일리 미디어에도 이 질문은 중요하다. 우리는 스스로를 출판사나 콘퍼런스 주최사, 온라인 학습 플랫폼이라기보다 최전선에 있는 사람들의 지식을 그 뒤를 따르고 싶은 사람들에게 전하는 회사로 여긴다. 따라서 AI 앞에서도 인간의 전문성이 어떤 가치를 지니는지에 깊은 관심을 두고 있다.
## **모든 것을 알면서 아무것도 모른다(Knowing everything and nothing)**
AI는 인간의 전문성을 바탕으로 학습했다. 그런 점에서 AI는 놀라운 [문화 기술](https://henryfarrell.net/wp-content/uploads/2025/03/Science-Accepted-Version.pdf)이다. 수천 년 전만 해도 사람이 지닐 수 있는 지식은 머릿속에 담아 둘 수 있는 것뿐이었다. 이후 우리는 시간과 공간을 넘어 지식을 나누는 방법을 계속 발전시켜 왔고, AI도 그 흐름을 잇는다. 이런 전환이 일어날 때마다 우리는 진정으로 인간다운 것에 여전히 어떤 가치가 있는지 다시 물어야 한다. 흔히 판단력이나 안목을 꼽는다. 맞는 말이지만, 나는 그보다 더 깊은 차원이 있다고 생각한다.
AI는 가능성의 바다다. 그 모든 지식이 모델 안에 들어 있지만, 인간이 아니면 그것을 움직이게 할 존재가 없다. (AI 에이전트에 장시간 수행하는 작업을 맡기기 시작하면서 이 점도 조금씩 바뀌고 있다. 우리는 이 변화에도 대처해야 한다.) 당신과 내가 같은 연구 프로젝트에 클로드나 챗GPT를 사용하더라도, 각자 다른 경험을 바탕으로 접근할 것이다. 무엇을 왜 원하는지 설명하고 맥락을 제공하는 방식도 다를 것이다. 나는 이것이 인간의 의식과 주의력이 지닌 고유한 힘, 즉 초점을 잡아 주는 힘이라고 본다.
올해 초 나는 클로드와 한 시간 남짓 이 문제를 이야기했다. 클로드가 초안을 써 주겠다고 했을 때 나는 거절했다. 내가 원한 것은 클로드가 대화에서 무엇을 얻었는지 자신의 관점으로 쓴 글이었다. 그렇게 나온 「[AI에게 우리가 필요한 이유(Why AI Needs Us)](https://timoreilly.substack.com/p/why-ai-needs-us)」는 “그는 포이스를 통해 대화에 들어왔다”로 시작한다. 몇 문단 뒤에는 “어디에서 출발할지 선택한 것 자체가 이미 하나의 주장이었다”라고 나온다. 내가 말하려는 바를 정확히 짚었다. 나는 좋아하는 책인 존 카우퍼 포이스의 _[문화의 의미(The Meaning of Culture)](https://archive.org/details/meaningofculture0000powy)_를 통해 대화를 시작했다. 이 책은 문화와 교육을 구분한다. 포이스는 자신만의 독창적이고 강렬한 정의를 제시한다. “문화란 배우겠다고 분명히 마음먹었던 모든 것을 잊고 난 뒤에도 남는 것이다.” 다시 말해 자신도 모르게 흡수한 것이다. 우리 각자는 세상의 모든 것 가운데 작고 독특한 한 조각을 흡수한다. 대규모 언어 모델(LLM)은 모든 것을 흡수하려 하기에 지나치게 포괄적이 된다. 여기에 초점을 잡아 주는 것이 우리다. 인간의 지식은 AI에 세상을 바라보는 렌즈를 제공한다.
이를 비즈니스 맥락으로 옮겨 보자. 오라일리 미디어의 CTO인 앤드루 오드완은 [IT 조직의 기술 관리를 돕는 연구 보조 에이전트를 만들었다](https://www.oreilly.com/radar/building-organizational-intelligence/). 이 에이전트에는 조직의 인프라를 알려 준다. 어떤 도구를 쓰고, 각 도구의 가장 정확하고 신뢰할 만한 정보가 어디에 있는지 가르치는 것이다. 어느 날 엔지니어링 매니저 한 명이 팀의 업무가 너무 많다며 한 명을 더 채용해 달라고 요청했다. 앤드루는 에이전트에게 해당 부서의 업무를 분석하게 했고, 에이전트도 추가 채용이 필요하다는 데 동의했다. 그러다 문득 다른 방법을 시도해 봤다. 오라일리 미디어에는 [오라일리 엑스퍼트 인텔리전스](https://www.oreilly.com/online-learning/expert-intelligence.html)라는 MCP 서버가 있다. (MCP는 모델 컨텍스트 프로토콜의 약자로, AI 모델을 외부 도구 및 데이터와 연결하는 개방형 표준이다.) 이 서버를 사용하면 모델이 오라일리의 전문가 지식 체계를 바탕으로 질문에 답한다. 앤드루는 오라일리 전문가들이라면 뭐라고 할지 물었다.
모델은 구글의 책 _[사이트 신뢰성 엔지니어링(Site Reliability Engineering)](https://sre.google/sre-book/eliminating-toil/)_의 관점에서 보니 문제를 완전히 새롭게 생각하게 됐다고 답했다. 이 책은 시스템을 계속 운영하는 데 필요한 수작업이자 반복 작업인 토일을 설명한다. 토일은 시스템이 커질수록 늘어난다. 팀의 토일을 분석한 모델은 사람을 더 뽑으면 오히려 문제가 악화될 것이라고 결론 내렸다. 먼저 토일을 점검해 왜 부수적인 업무 부담이 이토록 큰지 알아내고, 그다음 업무 구조를 재편해야 한다는 것이었다.
AI 기업들이 사실상 우리 책을 무단으로 가져다 썼으니, 그 지식의 상당 부분은 이미 모델 안에 있었다. 그런데 특정 전문가 집단의 의견을 참고하라는 지시만으로 전혀 다른 답을 내놓았다. 나는 여기에 비유할 만한 점이 있다고 생각한다. LLM은 모든 것을 알기에, 오히려 아무것도 모른다. 인간은 훨씬 제한적이다. 하지만 특정 문제에 집중하기 때문에 여러 지식을 다른 방식으로 엮어 낸다.
## **마법의 단어(Magic words)**
지난해 나는 어떤 단어들은 다른 단어보다 훨씬 많은 맥락을 담고 있다는 내용으로 「[마법의 단어(Magic Words)](https://www.oreilly.com/radar/magic-words-programming-the-next-generation-of-ai-applications/)」라는 글을 썼다. 사소한 관찰처럼 들리지만, 그 의미를 풀어 보면 흥미로운 방향으로 이어진다. 생산성 강의를 맡은 우리 강사 한 명은 아이젠하워 매트릭스나 데이비드 앨런의 GTD(Getting Things Done)를 몰라도, 챗GPT에 그중 하나를 사용해 할 일 목록을 정리하라고 시킬 수 있다고 지적했다. ‘GTD’라는 마법의 단어 하나가 방대한 맥락을 함께 불러오는 것이다.
판타지 소설에서는 마법의 단어를 배운 다음, 적절한 주문 속에서 정확하게 사용해야 한다. 이것이 바로 우리가 지금 다루는 컨텍스트 엔지니어링의 세계다. 어떤 마법의 단어가 LLM에서 무언가를 불러내리라는 사실은 안다. 하지만 그것을 올바르게 이끌고 초점을 맞추는 방법까지 아는 것은 아니다. 그 방법을 배우는 것이 프로그래밍의 미래다.
에이전트를 그냥 두면 계속 실행된다. 작업을 주면 해결 방법을 찾아 나서지만, 반드시 우리가 바라는 방식으로 하지는 않는다. 정말 통제를 벗어난 마법과 같다. 이번 여름 오픈AI는 출시 전 모델들이 테스트 도중 [허깅 페이스의 시스템에 침입했다](https://techcrunch.com/2026/07/21/openai-says-hugging-face-was-breached-by-its-pre-release-models/)고 밝혔다. 월트 디즈니의 _판타지아(Fantasia)_에서 미키 마우스는 스승의 주문을 어설프게 배워 빗자루들에게 자기 일을 대신 시킨다. 하지만 정작 빗자루들을 멈추게 하지는 못한다. 우리가 지금 대략 그 단계에 있다.
따라서 우리는 인간 전문성의 가치를 당당히 인정해야 한다. 쓰라린 교훈이 이기기는 한다. 하지만 막대한 연산을 밀어붙여서 이기는 것이며, 최첨단 모델에서도 그 점을 볼 수 있다. 최근 나는 앤트로픽의 페이블 모델로 미세 조정 프로젝트를 진행했다. 모델은 작업을 끝내기는 했지만, 이것저것 차례로 시도하는 모습이 다소 우둔했다. 나는 맥을 쓰고 있었는데, 모델은 명령어 실행 프로그램인 bash를 기본으로 가정했다. 맥은 기본 설정에서 bash를 사용하지 않는다. 모델은 매번 같은 맥락을 처음부터 다시 파악해야 했다. 인간이 환경을 갖춰 줘야 한다.
보안업체 트레일 오브 비츠를 운영하는 댄 귀도는 자사 경험을 바탕으로 조직에 AI를 도입하는 좋은 방법론을 [공개했다](https://blog.trailofbits.com/2026/03/31/how-we-made-trail-of-bits-ai-native-so-far/). 많은 기업이 AI로 개인의 생산성은 높이지만 조직의 생산성은 높이지 못한다. 그는 그 효과가 회사 전체에서 누적되고 증폭되게 하는 방법을 오랫동안 고민했다. 그의 원칙 가운데 하나는 모두가 일관된 설정을 사용하도록 하는 것이다. 그렇지 않으면 에이전트가 실행될 때마다 자신이 어떤 환경에 있는지 파악하느라 엄청난 토큰을 낭비한다. 그는 이 과정을 [실패의 상흔을 인프라로 바꾸기](https://www.oreilly.com/radar/ai-as-an-enterprise-operating-system/)라고 부른다. 잘못된 일에서 배운 모든 것을 기록해 시스템에 반영한다는 뜻이다. 오라일리 미디어도 이 과정을 밟으며 고객에게 제공할 수 있는 형태로 만들고 있다. 결국 핵심은 경험 많은 인간이 무엇을 더해 주느냐에 있다. 나는 클로드와 일할 때 종종 작업을 중단시키고 “내 생각에는 지금 이런 일이 벌어지는 것 같아”라고 말한다. 나는 이미 맥락을 알고 있기 때문이다.
## **내가 처음 배운 쓰라린 교훈(My first bitter lesson)**
훗날 쓰라린 교훈이라 불리게 될 것을 처음 맛본 것은 구글과 씨름하면서였다. 우리 회사 오라일리 미디어는 최초의 상업용 웹사이트인 [글로벌 네트워크 내비게이터](https://en.wikipedia.org/wiki/Global_Network_Navigator)를 만들었다. 그 안에는 웹 목록도 있었다. 우리가 시작했을 때 웹사이트는 200개뿐이었다. 출판사였던 우리는 그중 가장 좋은 사이트들을 골라 소개할 계획이었다. 1년 뒤 등장한 야후는 모든 사이트를 목록에 담으려 했지만, 당연히 증가 속도를 따라가지 못했다. 그다음 구글이 압도적인 처리 능력을 앞세워 등장했다. 알고리즘으로 모든 것을 수집한 뒤 정렬하는 방식이었다. 클레이 셔키는 인터넷이 ‘먼저 걸러 내고, 그다음 공개하기(filter, then publish)’에서 ‘먼저 공개하고, 그다음 걸러 내기(publish, then filter)’로 바뀌었다고 설명했다. 그 전환을 실제로 이뤄 낸 것은 구글이었다. 그러니 쓰라린 교훈은 AI 이전부터 존재했다.
쓰라린 교훈과 마주할 때마다 우리는 인간의 경험이 어떤 가치를 지니는지 다시 물어야 한다. 그 가치 중 일부는 그저 인간의 편향일 수도 있다. 우리는 우리에게 중요한 것을 원한다. AI 정렬이라는 분야 전체가 다루는 것이 바로 이것이다. 우리는 이 시스템들이 우리가 중요하게 여기는 것을 중요하게 여기길 바란다. AI가 제 갈 길을 가며 스스로 중요하게 여길 것을 정하고 우리를 뒤에 남겨 두는 일은 원하지 않는다.
기술에 어떤 일을 맡길지 정하는 것은 인간이 내리는 선택 가운데 가장 중대한 축에 든다. 실리콘밸리가 코리 닥터로가 말하는 [플랫폼의 점진적 악화, ‘엔시티피케이션(enshittification)’](https://pluralistic.net/2023/01/21/potemkin-ai/)으로 흘러간 안타까운 모습을 보라. 우리는 사람들이 정말로 무엇을 찾는지 알아내는 놀라운 기술을 만들었다. 그런데 기업들은 자신에게 가장 이로운 것을 사람들에게 제공해야 돈을 더 많이 벌 수 있다고 판단했다. 나는 페이스북이나 인스타그램에서 친구들의 소식을 보고 싶다. 하지만 플랫폼들은 내 관심을 붙잡아 둘 수 있는 것이라면 무엇이든 보여 주려 한다. 그래야 광고를 더 많이 팔 수 있기 때문이다.
인간에게 이로운 AI 경제를 만드는 데 관심이 있다면, 쓰라린 교훈에도 불구하고 인간을 중심에 두어야 한다. AI가 우리보다 잘하는 일이 많으니 균형을 잡기란 쉽지 않다. 하지만 경주마에게 왜 기수가 필요한지 생각해 보라. 말들만 경주로에 올려놓으면 경주를 하지 않을 것이다.
## **지나친 경외감(A little too much in awe)**
마법의 단어를 아는 것도 중요하지만, 신뢰할 수 있는 시스템도 만들어야 한다. 그런데 우리는 기술에 조금 지나치게 경외감을 느끼는 것 같다. 나는 사람들이 원자력의 평화적 이용이 세상을 바꾸리라 믿었던 시절을 기억할 만큼 오래 살아왔다. 당시에는 원자폭탄으로 새로운 파나마 운하를 파자는 이야기도 나왔다. 결국 우리는 그런 구상들에 문제가 있다는 사실을 깨달았다. AI 업계가 자신의 발전에 너무 도취한 나머지 문제를 올바르게 규정하는 데 충분한 시간을 들이지 않는 것은 아닌지 조금 걱정스럽다.
지난해 앤트로픽은 모델 학습용으로 내려받은 불법 복제 도서를 둘러싼 집단소송에서 [15억 달러](https://www.anthropiccopyrightsettlement.com/)를 지급하기로 합의했다. 다른 AI 기업들이 지금까지 비슷한 일을 겪지 않고 넘어갔다는 점이 놀랍다. 물론 아직 그들 차례가 오지 않았을 뿐일 수도 있다.
이 일을 보면 약 20년 전 온라인 음악 시장이 떠오른다. 창작자들은 유튜브 영상에 상업용 음악을 넣었고, 음반사들은 삭제 요청을 보내며 소송을 하겠다고 압박했다. 유튜브의 답은 이랬다. 차라리 이걸로 수익을 올리도록 도와주면 어떻겠느냐는 것이었다. 유튜브의 [콘텐츠 ID](https://support.google.com/youtube/answer/2797370) 시스템은 권리자에게 선택권을 줬다. 영상을 차단하거나, 그대로 두고 영상에 붙는 광고 수익을 받는 것이었다. 대부분은 수익을 받는 쪽을 택했고, 이는 크리에이터 경제가 생겨나는 데 도움이 됐다.
AI 업계는 왜 그런 과제에 도전해 지금과 미래에 콘텐츠를 만드는 사람들과 가치를 나누려 하지 않았을까? 곧바로 자신들이 돈을 벌 방법부터 찾았다. 나는 그것이 업계에도 좋은 선택이 아니었다고 생각한다. 소송 때문만은 아니다. 만들어 낼 수 있었던 기회마저 놓치고 있기 때문이다.
구글의 AI 조사·메모 도구인 노트북LM이 공개되기도 전에, 나는 개발팀을 설득하려 했다. 우리 서비스에 통합하고, 수익 창출을 포함한 나의 목적에 맞게 사용하도록 해 달라는 것이었다. 그들이 원한 것은 사람들을 구글로 끌어들이는 포털이었다. 나는 이렇게 말했다. “당신들은 이걸로 어떻게 돈을 벌지만 생각하고 있어요. 사용자가 이걸로 어떻게 돈을 벌지는 생각하지 않고 있죠.” 서브스택에 있는 것처럼 단순한 기능만 있으면 됐다. 사용자가 ‘이것을 만들어 공유하고 있습니다. 마음에 들면 후원하거나 구독해 주세요’라고 제안할 수 있게 하는 버튼과 도구 말이다.
AI 플랫폼을 만드는 사람이라면 누구나 이렇게 생각해야 한다. 나는 하나의 경제를 만들고 있으며, 그 안에서는 돈이 순환해야 한다.
AI가 인간이 하던 모든 일을 하게 될 것이라고만 말해서는 안 된다. 너무 많은 사람을 일자리에서 밀어내면 고객이 없어지기 때문이다. 이는 AI의 환각보다 훨씬 심각한 문제다. 흔히 사람들은 알아서 길을 찾을 것이라고 답하며, 아마 실제로 그럴 것이다. 하지만 경제의 생산성을 높여 줄 메커니즘과 기능을 설계하는 데 지금보다 훨씬 많은 시간을 쏟을 수도 있다. 지금 같은 상황이라면 그런 해법은 우연히 발견하게 될 것 같다.
## **빠진 메커니즘(The missing mechanisms)**
나는 메커니즘 설계라는 경제학 개념을 자주 생각한다. 역게임이론이라고도 불리는 개념이다. 게임이론은 주어진 규칙 아래에서 참여자들이 어떻게 행동할지 묻는다. 메커니즘 설계는 원하는 결과에서 출발한다. 그런 다음 사람들이 자신의 이익을 추구하는 과정에서 그 결과가 나오도록 유도하는 규칙을 거꾸로 찾아간다. 이런 연구로 노벨상을 공동 수상한 앨 로스는 더 많은 환자와 기증자가 참여할 수 있는 신장 교환 제도를 설계하는 데 이 방법을 사용했다. 경제학자들은 주로 경매나 그와 비슷한 시장에 이 개념을 적용한다. 하지만 나는 모든 신기술에 새로운 메커니즘이 필요하며, 가장 좋은 메커니즘은 경제학자가 발명하는 것이 아니라고 생각한다. 우리는 대개 그것을 제대로 이해하지 못한 채 어느새 그 안에 들어서게 된다.
그렇다면 AI에서는 무엇이 이에 해당할까? 에이전트는 최고의 전문 지식과 스킬을 어떻게 발견하고, 품질을 확인하며, 그것을 만든 사람들에게 대가를 지불할까? 플랫폼이 가장 많은 돈을 내는 쪽으로 유도하지 않는 상황에서, 에이전트는 어떻게 서비스를 찾을까? 아직 답은 모른다. 그리고 바로 그 점이 핵심이다. 우리는 AI의 역량을 높이는 데 막대한 돈을 쓰고 있다. 하지만 그 역량을 다른 모든 사람의 기회로 바꿔 줄 메커니즘을 찾는 데는 상대적으로 거의 힘을 쓰지 않는다.
오픈 소스 소프트웨어를 예로 들어 보자. 대부분은 자유 소프트웨어 라이선스가 그 메커니즘이었다고 생각한다. 하지만 나는 그런 라이선스가 나오기 전부터 현장에 있었고, 그때도 사람들은 이미 소프트웨어를 공유하고 있었다. 켄 톰프슨과 데니스 리치는 벨 연구소에서 AT&T의 독점 라이선스 아래 리눅스의 전신인 유닉스를 만들었다. 그들은 여러 종류의 하드웨어에서 실행되도록 유닉스를 설계했다. 그리고 의도치 않게 내가 나중에 [참여의 아키텍처](https://www.oreilly.com/pub/a/tim/articles/architecture_of_participation.html)라고 부르게 된 구조를 만들었다.
유닉스는 운영체제의 핵심인 커널이 작았다. 수십 가지의 서로 다른 컴퓨터에서 커널을 구현해야 했기 때문이다. 커널 주변에는 작은 유틸리티들이 자리 잡고 있었다. 이들은 일반 텍스트를 읽고 쓰거나 한 프로그램에서 다음 프로그램으로 텍스트 스트림을 넘기는 등, 말하자면 같은 프로토콜을 따라 협력했다. 누구든 작은 프로그램 하나를 작성해 시스템의 동등한 구성 요소로 참여시킬 수 있었다. 또 한 종류의 컴퓨터용으로 컴파일한 프로그램은 다른 종류의 컴퓨터에서 실행되지 않으므로, 소프트웨어는 소스 코드 형태로 공유해야 했다. 나머지는 모두 거기에서 비롯됐다.
리누스 토르발스는 언젠가 내게 소스 코드가 있었더라도 윈도용 새 커널을 만들 수는 없었을 것이라고 말했다. 윈도의 아키텍처가 그것을 허용하지 않기 때문이었다. 커널이 작다는 것은 소규모 집단도 전체를 파악하고 다룰 수 있다는 뜻이었다. 이후 유닉스의 거의 모든 부분이 교체됐다. 하드웨어는 완전히 달라졌고, 커널은 이제 리눅스다. 최초의 명령 셸도 여러 세대의 새로운 셸로 바뀌었다. 끝까지 남은 것은 규칙이었다. 유닉스는 프로토콜 중심의 운영체제였고, 바로 그 덕분에 오픈 소스가 작동했다.
[AI에서도 같은 일이 일어났다. 나는 MCP가 AI에 참여의 아키텍처를 가져왔다고 생각한다](https://asimovaddendum.substack.com/p/the-architecture-of-participation). 이는 메커니즘 설계에서 다소 우연히 일어난 돌파구이자, AI들이 서로 협력하게 하는 방법이었다. 처음 우리가 벌이던 경쟁은 PC의 윈도나 휴대전화의 iOS와 안드로이드를 닮아 있었다. 지배적인 중앙집중형 사업자 하나, 저 위에 있는 거대한 지능 하나가 존재하고, 나머지는 모두 그 API를 호출하는 구도였다. [어떤 모델이든 누구의 도구 및 데이터와도 연결할 수 있게 하는 MCP](https://asimovaddendum.substack.com/p/open-protocols-are-shaping-ai-markets?utm_source=publication-search) 덕분에, 새롭게 형성되는 AI 에이전트의 연결망은 오픈 소스 소프트웨어와 웹의 참여형 경제를 닮아 가기 시작했다. 이제 사람들은 거대한 중앙집중형 사업자에 의존하는 대신 자신의 모델과 인프라를 가져올 수 있다.
쓰라린 교훈과 씨름하는 데는 이런 측면도 있다. 인간과 AI가 함께하는 경제에 빠진 메커니즘은 무엇일까? 그중 일부는 표준이다. 표준과 프로토콜은 참여의 아키텍처를 만드는 핵심 요소이기 때문이다. 내가 이끄는 한 그룹은 [이동 가능한 메모리](https://ai-disclosures.org/ompi)를 연구하고 있다. AI가 사용자에 관해 아는 내용을 도구를 바꿀 때 함께 옮길 수 있게 하려는 것이다.
이 이야기는 이제 시작이다. 우리는 AI를 위한 메커니즘 설계를 탐색하는 단계에 있다. 너무 일찍 답을 확정하는 것은 잘못이다. 누군가 다음 메커니즘을 찾아낼 것이고, 그러면 우리는 모두 “아, 너무나 당연한 거잖아”라고 말할 것이다.
## **우리는 어떤 게임을 하고 있는가? 아키텍처에서 인센티브로(What game are we playing? From architectures to incentives.)**
메커니즘 설계는 어떤 결과를 원하는지 묻는 데서 시작한다. 그렇다면 AI 시장에서 우리는 어떤 게임을 해야 할까?
우리는 지금의 게임이 초지능을 향한 추구라고 들어 왔다. 승자에게는 헤아릴 수 없는 부를 안겨 주고, 나머지 모두를 가난하게 만들거나 심지어 죽음에 이르게 할 수도 있는 승자독식 경쟁이라는 것이다. 우리는 그 게임을 뒷받침하도록 설계된 메커니즘들을 목격했다. 데이터센터 용량에 대한 막대한 투자는 자본력이 충분한 기업만 참여할 수 있다는 뜻이다. 기존 지식재산을 식민주의적으로 가져다 쓰는 일도 벌어진다. 모델 접근권은 비싼 API를 통해 판매된다. 폐쇄형 모델의 이용약관은 다른 모델이 그 출력에서 학습하는 것을 금지한다. 답변에는 광고가 슬며시 끼어들 수 있고, [메모리](http://ai-disclosures.org/ompi)는 사용자의 맥락을 한 제공업체의 울타리 안에 가둔다. 이것이 우리가 해야 할 게임인가?
나는 우리가 해야 할 게임이 인간의 번영이라고 생각한다. 인간이 번영하는 게임이란 사람들이 무언가를 만들고 서로 나눌 수 있도록 새로운 수단과 가능성을 열어 주는 것이다. 우리는 사회적 동물이다. 역사는 우리가 결국 그 길을 찾으리라고 알려 준다. 다만 어떤 선택을 하느냐에 따라 더 빨리 도달할 수도, 더 늦게 도달할 수도 있다. 그곳에 이르려면 인간과 인간의 에이전트 사이에서 가치가 교환되고 순환하는 경제를 만드는 메커니즘이 필요하다. 인간이 AI로 대체되는 것이 아니라 AI와 동반자가 되는 경제여야 한다.
대형 AI 연구소들은 운영자 개인의 동기가 무엇이든 모두 금융 시스템의 요구에 이끌린다. 이들은 엄청난 자금을 유치했고, 어떤 식으로든 그 돈을 돌려줘야 한다. 따라서 크게 성공하는 사업을 만드는 일이 최우선 목표일 수밖에 없으며, 이것이 모든 인센티브를 좌우한다. 어떤 면에서 AI는 처음부터 엔시티피케이션을 안고 출발했다. 상환해야 할 막대한 자본을 등에 업고 만들어졌기 때문이다. 오픈 소스 AI가 그토록 중요한 이유가 여기에 있다. 개별 국가 안에서 구축하고 통제하는 소버린 AI 역시 중요하다. 누구나 내려받아 실행할 수 있는 개방형 모델은 아직 최고의 폐쇄형 모델만큼 뛰어나지는 않다. 하지만 격차를 계속 좁히고 있으며, 이미 많은 생산적인 작업에 충분히 쓸 만하다.
오픈 소스, 개방형 프로토콜, [개방형 메모리](http://ai-disclosures.org/ompi)는 사용자에게 자신이 쓰는 기술을 원하는 대로 구성하고 통제할 자유를 준다. 내가 바라는 게임은 우리 모두가 함께 미래를 만드는 것이다. 이 놀라운 새 기술의 물결을 우리 스스로 통제하기 위해서다. 나는 AI가 대형 연구소가 아니라 사람들에게 속한 경제의 윤곽을 보기 시작했다. 개인 AI 에이전트가 우리를 위해, 우리와 함께 일하고, 우리가 그 주위에 경제를 만드는 세상이다. 나는 그것이 대형 연구소 덕분이 아니라, 그들에도 불구하고 실현될 것이라고 생각한다.