# AI를 탄생시킨 기묘한 물리학 | 콴타 매거진 시리즈 현대의 사고 기계는 복잡한 물질의 물리학에서 얻은 통찰 덕분에 탄생했습니다. **스**핀 글라스(spin glasses)는 지금껏 발견된 쓸모없는 것 가운데 가장 쓸모 있는 존재로 밝혀질지도 모릅니다. 스핀 글라스는 이름과 달리 대개 유리보다 금속으로 만들어집니다. 이 물질이 보이는 수수께끼 같은 현상은 20세기 중반 소수의 물리학자를 사로잡았습니다. 스핀 글라스 자체는 물질로서 아무런 응용 가능성이 없는 듯했습니다. 하지만 그 기묘한 특성을 설명하려고 고안한 이론은 훗날 오늘날의 인공지능 혁명에 불을 붙였습니다. 1982년, 응집물질물리학자 존 홉필드(John Hopfield)는 스핀 글라스의 물리학을 빌려 학습하고 기억을 떠올릴 수 있는 단순한 네트워크를 만들었습니다. 이로써 인공지능 연구자들이 거의 포기했던 디지털 뉴런의 복잡한 그물망인 신경망 연구에 다시 활력을 불어넣었습니다. 또한 물리학을 생물학적 마음과 기계적 마음을 모두 연구하는 새로운 영역으로 확장했습니다. 홉필드는 기억을 집단의 물리학인 통계역학의 고전적 문제로 새롭게 해석했습니다. 여러 부분으로 이루어진 계가 있다면 전체는 어떻게 변화할까요? 스핀 글라스를 포함한 모든 단순한 물리계에서 답은 열역학이 알려 줍니다. 바로 “더 낮은 에너지를 향한다”는 것입니다. 홉필드는 집단이 지닌 이 단순한 특성을 이용해 디지털 뉴런 네트워크에 데이터를 저장하고 불러오는 방법을 찾아냈습니다. 본질적으로 기억을 에너지 경사면의 바닥에 배치한 것입니다. 이후 이러한 신경망은 홉필드 네트워크(Hopfield network)로 불리게 되었습니다. 기억을 떠올릴 때 홉필드 네트워크는 무언가를 찾아볼 필요가 없습니다. 그저 비탈을 따라 아래로 굴러가면 됩니다. 밀라노 보코니대학교의 이론물리학자 마르크 메자르(Marc Mézard)는 홉필드 네트워크가 “개념적 돌파구(conceptual breakthrough)”였다고 말했습니다. 이후 AI 연구자들은 스핀 글라스의 물리학을 빌려 “이 오래된 물리계를 연구하며 개발한 모든 도구를 이용할 수 있었습니다.” 2024년 홉필드와 또 다른 AI 선구자 제프리 힌턴(Geoffrey Hinton)은 신경망의 통계물리학을 연구한 공로로 노벨 물리학상을 받았습니다. 많은 이에게 뜻밖의 수상이었습니다. 물리학이 아니라 AI 연구에 상을 준 것처럼 보인다는 불만도 나왔습니다. 그러나 스핀 글라스의 물리학은 기억을 모델링하고 사고 기계를 만드는 데 기여했다고 해서 더 이상 물리학이 아닌 것이 되지는 않습니다. 오늘날 일부 연구자는 홉필드가 기억하는 기계를 만드는 데 활용한 동일한 물리학으로 상상하는 기계도 만들 수 있다고 봅니다. 나아가 인간이 실제로 이해할 수 있는 신경망을 설계하는 데도 도움이 될 것이라고 믿습니다. ## **창발적 기억(Emergent Memory)** 홉필드는 1960년대에 반도체 물리학을 연구하며 경력을 시작했습니다. 하지만 1960년대 말이 되자 “내 재능이 쓸모 있을 듯한 응집물질물리학의 문제를 모두 소진했다”고 [2018년 에세이](https://pni.princeton.edu/sites/g/files/toruqf321/files/documents/John%20Hopfield%20Now%20What%203_0.pdf)에 썼습니다. 그래서 새로운 분야를 찾아 나섰습니다. 생화학 분야에 잠시 뛰어들어 생물이 생화학 반응을 “[교정하는 방법](https://pmc.ncbi.nlm.nih.gov/articles/PMC434344/)”에 관한 이론을 내놓은 뒤, 홉필드는 신경과학에 정착했습니다. 그는 에세이에서 “나는 문제가 아니라 ‘대문자 문제(PROBLEM)’를 찾고 있었다”고 회고했습니다. 진정으로 중요한 무언가를 찾아야 한다는 점을 강조한 표현입니다. “마음이 뇌에서 어떻게 생겨나는가는 인간이라는 존재가 던지는 가장 심오한 질문이다. 분명 ‘대문자 문제’다.” 홉필드는 연상 기억(associative memory)이 그 문제의 일부이며, 자신이 응집물질물리학에서 익힌 도구로 이를 풀 수 있다는 사실을 깨달았습니다. 일반적인 컴퓨터에서는 데이터를 정적으로 저장하고 주소를 통해 접근합니다. 주소는 저장된 정보의 내용과 아무런 관련이 없습니다. 단지 데이터에 접근하는 코드일 뿐입니다. 따라서 주소를 조금이라도 틀리면 엉뚱한 데이터에 접근하게 됩니다. 하지만 인간이 무언가를 기억하는 방식은 이와 달라 보입니다. 우리는 흔히 연상을 통해 기억합니다. 어떤 단서나 기억의 파편을 접하면 전체 기억이 한꺼번에 밀려옵니다. 라일락 향기를 맡고 할아버지의 정원에서 보낸 어린 시절의 한때를 떠올리는 식입니다. 또는 노래의 첫 몇 소절을 듣고는 자신도 알고 있는 줄 몰랐던 발라드의 가사를 한 마디도 빠짐없이 목청껏 부르기도 합니다. 홉필드는 여러 해 동안 연상 기억을 이해하고 이를 신경망으로 구현하려고 노력했습니다. 무작위로 연결한 신경망을 비롯해 기억을 설명할 여러 후보 모델을 시험했습니다. 전망은 밝지 않았습니다. 그러다 마침내 홉필드는 그 “대문자 문제”를 풀 의외의 열쇠를 찾아냈습니다.  제프리 힌턴(왼쪽)과 존 홉필드는 12월 스톡홀름에서 열린 시상식에서 2024년 노벨 물리학상을 받았습니다. 이 상은 스핀 글라스의 물리학에 기반한 초기 신경망 모델을 개척한 두 사람의 업적을 기렸습니다. 위키미디어 커먼스 ## **스핀 글라스(Spin Glasses)** 1950년대에 금에 철을 소량 섞은 것과 같은 특정 희박 합금을 연구하던 과학자들은 시료에서 이상한 현상이 나타난다는 사실을 발견했습니다. 일정 온도보다 높을 때 이 합금은 알루미늄 같은 일반 물질과 비슷하게 움직입니다. 자체적으로 자성을 띠지는 않지만 외부 자기장과 약하게 상호작용합니다. 예를 들어 매우 강한 자석으로 알루미늄 캔을 움직일 수는 있지만, 알루미늄 자체를 자석으로 쓸 수는 없습니다. 알루미늄 같은 물질은 대개 외부 자석이 사라지는 즉시 자성을 잃습니다. 하지만 일정 온도 아래에서 스핀 글라스는 다르게 행동합니다. 일시적으로 생긴 자성이 약해진 상태로나마 계속 남습니다. 스핀 글라스가 보이는 기묘한 현상은 이것만이 아닙니다. 열적 특성 역시 수수께끼입니다. 1970년 무렵 응집물질물리학자들은 집단적 자기 현상을 설명할 때 널리 쓰이던 [이징 모형(Ising model)](https://www.quantamagazine.org/the-cartoon-picture-of-magnets-that-has-transformed-science-20200624/)을 변형해 이 물질을 이론적으로 이해하기 시작했습니다. 이징 모형은 위나 아래를 가리키는 화살표가 단순한 격자로 배열된 모습입니다. 각각의 화살표는 원자가 본래 지닌 자기 모멘트, 즉 “스핀(spin)”을 나타냅니다. 실제 원자계를 단순화한 모형이지만, 인접한 스핀이 서로 영향을 미치는 규칙을 조정하면 놀랄 만큼 복잡한 현상을 만들어 낼 수 있습니다. 일반적으로 가까이 있는 화살표가 같은 방향을 가리키면 에너지가 낮고, 반대 방향을 가리키면 에너지가 높습니다. 따라서 스핀이 자유롭게 뒤집힐 수 있다면 이징 모형의 상태는 공이 비탈을 굴러 내려가듯 정렬된 저에너지 상태로 변화합니다. 철 같은 자성 물질은 결국 모든 스핀이 위를 향하거나 아래를 향하는 두 가지 단순한 상태 가운데 하나에 정착합니다. 1975년 물리학자 데이비드 셰링턴(David Sherrington)과 스콧 커크패트릭(Scott Kirkpatrick)은 스핀 사이의 상호작용 규칙을 바꿔 스핀 글라스의 복잡한 움직임을 포착할 수 있는 모형을 고안했습니다. 두 사람은 스핀 쌍 사이의 상호작용 세기를 무작위로 달리했습니다. 또한 각 스핀이 가장 가까운 이웃뿐 아니라 다른 모든 스핀과 상호작용하도록 했습니다. 이 변화로 가능한 에너지 상태가 울퉁불퉁한 “지형(landscape)”을 이루게 되었습니다. 에너지가 높거나 낮은 구성에 대응하는 봉우리와 골짜기가 생긴 것입니다. 스핀 글라스가 이 지형의 어디에서 출발하느냐에 따라 고유한 골짜기, 즉 저에너지 평형 상태에 도달합니다. 이는 모든 스핀이 정렬된 두 가지 질서정연한 상태 중 하나로 “동결되는” 철 같은 강자성체와 크게 다릅니다. 스핀이 무작위로 요동하며 어떤 상태에도 정착하지 않는 비자성체와도 다릅니다. 스핀 글라스에서는 무작위성 자체가 동결됩니다. 이징 모형은 철저히 단순화된 장난감 모형입니다. 이 모형으로 실제 물질을 예측하려는 시도는 막대 인간 그림을 보고 수술을 계획하는 것과 비슷합니다. 그런데도 놀랍게 잘 맞는 경우가 많습니다. 이제 이징 모형은 통계역학에서 빠질 수 없는 핵심 도구가 되었습니다. 그 변형은 복잡한 집단 현상을 연구하는 거의 모든 분야에서 찾아볼 수 있습니다. 홉필드 덕분에 기억 연구도 그중 하나가 되었습니다. ## **스핀 기억(Spin Memory)** 서로 상호작용하는 뉴런을 단순하게 표현하면 자기 스핀의 이징 모형과 공통점이 많습니다. 우선 뉴런은 흔히 이진적인 켜짐·꺼짐 스위치로 모델링됩니다. 발화하거나 발화하지 않는 것입니다. 마찬가지로 스핀도 위나 아래를 가리킬 수 있습니다. 또한 발화한 뉴런은 이웃 뉴런의 발화를 촉진하거나 억제할 수 있습니다. 뉴런 사이에서 달라지는 이 상호작용의 세기는 스핀 글라스에서 스핀 사이의 상호작용 세기가 변하는 것과 유사합니다. 스위스 로잔 연방 공과대학교의 물리학자이자 컴퓨터 과학자인 [렌카 즈데보로바(Lenka Zdeborová)](https://www.quantamagazine.org/the-computer-scientist-who-builds-big-pictures-from-small-details-20241007/)는 “수학적으로는 스핀이나 원자였던 대상을 다른 것으로 대체할 수 있습니다. 같은 도구 모음으로 다른 계도 설명할 수 있습니다”라고 말했습니다. 홉필드는 “켜짐(on)”, 즉 발화 상태와 “꺼짐(off)”, 즉 휴지 상태 가운데 하나를 취하는 인공 뉴런의 망에서 출발했습니다. 각 뉴런은 다른 모든 뉴런의 상태에 영향을 미치며, 이 상호작용은 조정할 수 있습니다. 특정 시점의 네트워크 상태는 어느 뉴런이 발화하고 어느 뉴런이 쉬고 있는지에 따라 정해집니다. 이 두 상태를 이진수로 부호화할 수도 있습니다. 발화한 뉴런에는 1을, 쉬는 뉴런에는 0을 부여합니다. 특정 순간의 네트워크 전체 상태를 적으면 비트열이 됩니다. 엄밀히 말해 네트워크는 정보를 “저장하는” 것이 아닙니다. 네트워크 자체가 정보입니다. 홉필드는 네트워크에 패턴을 “가르치기” 위해 뉴런 사이의 상호작용 세기를 조정해 에너지 지형을 빚었습니다. 원하는 패턴이 저에너지 정상 상태에 놓이도록 한 것입니다. 이 상태에서 네트워크는 더 이상 변화하지 않고 하나의 패턴으로 안정됩니다. 홉필드는 신경과학의 고전적 원칙인 “함께 발화하는 뉴런은 함께 연결된다(neurons that fire together wire together)”에서 영감을 얻어 이를 구현할 규칙을 찾아냈습니다. 원하는 최종 상태에서 둘 다 발화하거나 둘 다 쉬는 뉴런 사이의 상호작용은 강화하고, 상태가 서로 다른 뉴런 쌍의 상호작용은 약화했습니다. 이런 방식으로 네트워크에 패턴을 가르치면, 이후 네트워크는 에너지 지형에서 비탈을 따라 내려가기만 해도 그 패턴에 다시 도달합니다. 평형 상태에 정착하면 자연스럽게 해당 패턴에 이릅니다. 메자르는 이렇게 설명했습니다. “홉필드는 둘 사이의 연관성을 발견하고 이렇게 말했습니다. ‘보세요. 스핀 글라스의 교환 결합을 조정하고 튜닝할 수 있다면, 평형점을 원하는 형태로 만들어 기억이 되게 할 수 있을지도 모릅니다.’” 홉필드 네트워크는 여러 기억을 저장할 수 있으며, 각각은 저마다 작은 에너지 골짜기에 자리 잡습니다. 네트워크가 어느 골짜기로 들어가는지는 에너지 지형의 어디에서 출발하느냐에 따라 달라집니다. 예를 들어 고양이 사진과 우주선 사진을 저장한 네트워크가 있다고 합시다. 희미하게나마 고양이와 닮은 상태에서 시작하면 대부분 고양이 골짜기로 굴러 내려갑니다. 마찬가지로 우주선의 기하학적 형태를 떠올리게 하는 상태에서 네트워크를 시작하면 대개 우주선 쪽으로 변화합니다. 바로 이 때문에 홉필드 네트워크가 연상 기억의 모형이 됩니다. 기억의 손상되거나 불완전한 형태를 입력하면 홉필드 네트워크가 전체 기억을 역동적으로 복원합니다. ## **오래된 모형, 새로운 발상(Old Model, New Ideas)** 1983년부터 1985년까지 힌턴과 동료들은 홉필드의 연구를 발전시켰습니다. 이들은 홉필드 네트워크에 무작위성을 주입해 볼츠만 머신(Boltzmann machine)이라는 새로운 유형의 신경망을 만드는 방법을 찾아냈습니다. 이 네트워크는 기억하는 대신 훈련 데이터의 통계적 패턴을 학습하고, 그 패턴에 맞는 새로운 데이터를 생성합니다. 초기 형태의 생성형 AI였던 셈입니다. 2000년대에 힌턴은 단순화한 볼츠만 머신을 이용해 여러 뉴런 층으로 이루어진 “심층(deep)” 신경망의 고질적인 훈련 문제를 마침내 해결했습니다. 2012년 무렵에는 힌턴을 비롯한 선구자들이 개발한 심층 신경망의 성공을 더 이상 무시할 수 없었습니다. 즈데보로바는 “이 기술이 실제로 놀라울 만큼 잘 작동하며 기술 산업 전체를 바꾸고 있다는 사실이 분명해졌습니다”라고 말했습니다. 오늘날 많은 사람이 매일 접하는 생성형 AI 모델은 모두 심층 신경망입니다. 챗GPT(ChatGPT) 같은 대규모 언어 모델과 미드저니(Midjourney) 같은 이미지 생성 모델이 여기에 포함됩니다. 이들의 성공은 스핀 글라스의 “쓸모없는” 특성을 설명하지 않은 채 내버려 두기를 거부했던 1970년대의 호기심 많은 물리학자들에게서 시작되었습니다. 하지만 홉필드 네트워크는 AI의 과거에만 머물지 않습니다. 새로운 발상에 힘입어 이 오래된 모형이 다시 주목받을 가능성이 있습니다. 2016년 홉필드와 IBM 리서치의 [드미트리 크로토프(Dmitry Krotov)](https://mitibmwatsonailab.mit.edu/people/dmitry-krotov/)는 홉필드 네트워크가 단일 모형이 아니라 [기억 저장 용량이 서로 다른 모형의 전체 계열](https://arxiv.org/abs/1606.01164)이라는 사실을 깨달았습니다. 이어 2020년에는 다른 연구진이 현대의 성공적인 AI 모델 대부분의 설계도인 트랜스포머 아키텍처의 핵심 요소가 [이 확장된 홉필드 네트워크 계열에 속한다](https://arxiv.org/abs/2008.02217)는 사실을 밝혔습니다. 이 통찰을 바탕으로 크로토프와 동료들은 최근 [에너지 트랜스포머(energy transformer)](https://arxiv.org/abs/2302.07253)라는 새로운 딥러닝 아키텍처를 개발했습니다. 일반적인 AI 아키텍처는 대개 시행착오로 찾아냅니다. 하지만 크로토프는 에너지 트랜스포머라면 홉필드 네트워크를 더 복잡하게 발전시키듯, 특정 에너지 지형을 염두에 두고 더욱 의도적으로 설계할 수 있다고 생각합니다. 홉필드 네트워크는 본래 기억하도록 설계되었지만, 이제 연구자들은 이를 창작에 이용하는 방법을 탐구하고 있습니다. 미드저니 같은 이미지 생성기는 “[확산 모델(diffusion models)](https://www.quantamagazine.org/the-physics-principle-that-inspired-modern-ai-art-20230105/)”로 작동하며, 확산 모델 자체도 물리학의 확산 현상에서 영감을 받았습니다. 연구자들은 모델을 훈련하기 위해 고양이 사진과 같은 훈련 데이터에 노이즈를 더한 다음, 모델이 노이즈를 제거하도록 가르칩니다. 이는 홉필드 네트워크의 작동 방식과 매우 비슷합니다. 다만 확산 모델은 항상 똑같은 고양이 사진에 도달하는 대신 노이즈가 섞인 무작위 상태에서 “고양이가 아닌” 노이즈를 제거해 새로운 고양이를 만들어 냅니다. 크로토프와 [벤저민 후버(Benjamin Hoover)](https://bhoov.com/), [위천 량(Yuchen Liang)](https://scholar.google.com/citations?user=yVhSIBcAAAAJ&hl=en), [바오 팜(Bao Pham)](https://bhqpham.com/)을 비롯한 동료들에 따르면, 확산 모델은 [현대 홉필드 네트워크의 특정 유형](https://arxiv.org/abs/2309.16750)으로 이해할 수 있습니다. 이 접근법을 이용하면 네트워크의 행동도 일부 예측할 수 있습니다. 이들의 연구에 따르면 현대 홉필드 네트워크에 데이터를 계속 늘려 입력해도 기억 용량이 포화되는 데 그치지 않습니다. 오히려 모델의 에너지 지형이 지나치게 험해져 실제 기억보다 꾸며 낸 기억에 정착할 가능성이 커집니다. 즉, [확산 모델로 변합니다](https://openreview.net/forum?id=zVMMaVy2BY). 단순한 양적 변화, 여기서는 훈련 데이터의 양이 예기치 않은 질적 변화를 일으킬 수 있다는 사실은 물리학자에게 새롭지 않습니다. 응집물질물리학자 필립 앤더슨(Philip Anderson)은 1972년에 “[양이 늘어나면 질이 달라진다(more is different)](https://www.science.org/doi/10.1126/science.177.4047.393)”고 썼습니다. 집단계에서는 각 부분 사이의 상호작용 네트워크를 단순히 확장하기만 해도 놀랍고 새로운 행동이 나타날 수 있습니다. 메자르는 “[신경망이] 작동한다는 사실 자체가 창발적 특성(emergent property)입니다”라고 말했습니다. 딥러닝 아키텍처나 뇌에서 나타나는 창발은 수수께끼인 만큼이나 매혹적입니다. 창발을 설명하는 보편 이론은 아직 없습니다. 집단적 행동을 이해할 최초의 도구를 제공한 통계물리학이 어쩌면 우리 세계를 바꾸고 있는 불가해한 기계 지능을 이용하는 데 그치지 않고, 그것을 이해하는 열쇠까지 제공할지도 모릅니다.