[OPINION] 속지 말자… AI 모델은 추론하지 않는다

알파고가 이세돌 9단과 대결해 승리한 지 10년이 지났지만 오늘날의 AI는 여전히 당시 승리를 가능하게 했던 핵심 기술을 제대로 활용하지 못하고 있다. 📋 한눈에 보는 AI 요약 AI 자동 요약 ▶ 펼쳐보기 2016년 알파고가 바둑 대결에서 보여준 창의적인 수는 단순한 직감이 아니라, 수많은 미래 경우의 수를 체계적으로 따져보는 '탐색' 능력 덕분에 가능했습니다. 하지만 오늘날 챗GPT 같은 AI 모델은 다음에 올 단어를 예측하는 방식으로만 작동하기 때문에 진짜로 깊이 생각하는 것이 아니라 그럴듯하게 보이는 답을 만들어낼 뿐입니다. 이 글의 저자인 알파고 개발 핵심 멤버 토어 그라펠은, AI가 의료나 과학처럼 중요한 분야에서 믿을 수 있으려면 자신이 무엇을 알고 무엇을 모르는지 기록하고, 증거에 따라 판단을 수정하는 진정한 추론 능력이 필요하다고 주장합니다. 단순히 모델을 더 크게 만드는 것만으로는 이 문제를 해결할 수 없으며, 알파고처럼 직관과 체계적 탐색을 결합한 새로운 접근 방식이 필요하다는 것이 핵심입니다. 왜 중요한가요? AI가 의료 진단, 신약 개발, 기후 연구 등 사람의 생명과 안전에 직결되는 분야에 쓰이려면 단순히 그럴듯한 답이 아니라 왜 그런 결론에 도달했는지 검증할 수 있어야 하기 때문에, 진짜 추론 능력의 확보는 우리 사회 전체의 안전과 신뢰에 매우 중요합니다. 주요 용어 설명 사고 사슬 (Chain of Thought) AI가 답을 바로 내놓지 않고 중간 단계를 하나씩 적어가며 풀어나가는 방식입니다. 수학 문제를 풀 때 풀이 과정을 노트에 적는 것과 비슷하지만, 현재 AI는 실제로 그렇게 생각한 것이 아니라 사후에 그럴듯한 풀이를 꾸며내는 경우가 많다는 한계가 있습니다. 시스템 1과 시스템 2 (System 1 & System 2) 노벨상 수상자 대니얼 카너먼이 제시한 인간 사고 분류입니다. 시스템 1은 직감적으로 빠르게 판단하는 것이고, 시스템 2는 천천히 논리적으로 따져보는 것입니다. 예를 들어 '2+2=?'는 시스템 1로 바로 답하지만, 복잡한 세금 계산은 시스템 2로 단계별로 풀어야 합니다. 게임 트리 (Game Tree) 바둑이나 체스에서 지금 이 수를 두면 상대는 어떤 수를 둘 수 있고, 그 다음에는 또 어떤 수가 가능한지를 나뭇가지처럼 펼쳐놓은 구조입니다. 알파고는 이 나무 구조를 만들어 수천 가지 미래 경우를 체계적으로 비교한 뒤 최선의 수를 골랐습니다. 정책 네트워크 (Policy Network) 알파고 내부에서 '이 상황에서 실력 좋은 사람이라면 어디에 돌을 놓을까'를 예측하는 부분입니다. 수많은 프로 기사의 대국 기록을 학습해서 직감적으로 유망한 수를 추천하는 역할을 하며, 마치 경험 많은 선배가 감으로 조언해주는 것과 비슷합니다. 개방형 세계 추론 (Open-world Reasoning) 바둑처럼 규칙이 정해진 세계가 아니라, 현실처럼 정보가 불완전하고 상황이 끊임없이 변하는 환경에서 판단하는 것을 말합니다. 예를 들어 의사가 환자의 불완전한 검사 결과와 다양한 가능성을 종합해 진단을 내리는 과정이 이에 해당합니다. ⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요. 2016년 3월 어느 날 오후 서울에서 필자는 개발에 참여했던 프로그램이 바둑판 다섯 번째 줄에 돌을 놓는 모습을 지켜봤다. 마치 상대인 인간에게 선물을 주는 것처럼 보였다. 5판으로 진행된 대결의 두 번째 판 37수째가 너무나 터무니없어 보여 일부 해설자들은 프로그래밍 오류라고 생각하기도 했다. 하지만 아니었다. 알파고는 이 판에서 승리했고, 결국 역대 최고의 프로 바둑 기사 중 한 명인 이세돌 9단을 4승 1패로 꺾었다. 이 9단은 경기 후 '알파고는 확률 계산에 기반한 그저 기계일 뿐이라고 생각했다. 하지만 이 수를 보고 생각이 바뀌었다. 알파고는 분명 창의적이다'라고 말했다. 1997년 IBM이 개발한 슈퍼컴퓨터 딥 블루(Deep Blue)가 당시 체스 세계 챔피언이었던 게리 카스파로프(Garry Kasparov)를 꺾었을 때 딥 블루는 인간이 미리 입력한 규칙을 사용해 플레이어당 6~8수 앞을 내다보고 초당 2억 개의 체스 포지션을 평가했다. 바둑은 훨씬 더 복잡한 게임이다. 한 돌의 가치는 수십 수에 걸쳐 돌무리와 영토가 어떻게 전개되느냐에 따라 결정된다. 가능한 결과의 극히 일부만 계산하는 데도 슈퍼컴퓨터로 수십억 년이 걸릴 것이다. 알파고는 승리하기 위해 한눈에 누가 앞서고 있는지 파악해야 했을 뿐만 아니라 그 누구도 생각해 보지 못한 수를 창안해 내야 했다.