집단 기억은 누구 것인가 [왜냐면]

0:00 Your browser does not support the audio element. 픽사베이 김창익 | 카이스트 안보과학기술대학원장 우리는 흔히 '기억'을 개인의 내밀한 영역이라 여긴다. 그러나 사회가 어떤 사건을 어떻게 규정하고, 무엇을 역사로 남기며, 무엇을 잊을지는 언제나 언론과 교과서, 기록보관소 같은 공적 장치를 통해 집단적으로 구성되어 왔다. 문제는 이제 그 구성 과정의 한복판에 인간이 아니라 인공지능(AI)이 자리 잡기 시작했다는 사실이다. 검색창에 사건을 물으면 인공지능이 요약해 주고 역사적 맥락까지 설명하는 시대에 '무엇이 사실인가'를 정하는 권한은 사람에서 인공지능으로 조용히 이동하고 있다. '집단 기억'은 한 사회가 공유하는 과거의 기록이자 정체성의 뿌리다. 프랑스의 사회학자 모리스 알브바시는 인간의 기억이 개별 뇌 속에 고립되어 존재하는 것이 아니라, 가치관과 매체라는 '사회적 틀'을 통해 함께 끊임없이 재구성된다고 보았다. 오늘날 이 사회적 틀의 가장 강력한 주체로 등장한 것은 다름 아닌 인공지능이다. 인공지능은 이제 단순한 정보 검색 도구를 넘어, 인류가 무엇을 사실로 믿고 무엇을 '공유된 과거'로 기억할지 결정하는 핵심 매개체로 자리 잡고 있다. 그러나 최근 등장한 기술적 오염 현상들은 인공지능이 조작하는 집단 기억의 위험성을 적나라하게 드러내고 있다. 대표적인 예가 시청각적 혼란을 야기하는 '딥페이크'다. 딥페이크는 시각적, 청각적 자극을 통해 대중의 기억을 직관적으로 재구성한다. 역사적 인물이 하지도 않은 발언을 하는 동영상이나 존재하지 않았던 사건의 사진이 유포될 때, 인간의 뇌는 정교하게 조작된 시각 정보에 선제적으로 반응한다. '백문이 불여일견'이라는 오랫동안 축적된 인식론적 가치는 딥페이크 앞에서 무력화된다. 정교한 조작 영상은 한번 형성되면 훗날 사실로 바로잡히더라도 각인된 집단적 잔상을 쉽게 지우지 못한다. 나아가 이는 '거짓말쟁이의 이득'이라는 또 다른 위험을 낳는다. 실제로 비위나 부정부패를 저지른 당사자가 자신에게 불리한 진실마저 '딥페이크일 뿐'이라고 주장하며 책임을 회피할 명분을 얻게 되기 때문이다. 결국 딥페이크는 진실마저 가짜로 의심하게 만들어 사회적 진실 규명 시스템 자체를 흔든다. 더 은밀하고 치명적인 구조적 위협은 거대언어모델(LLM)이 정보를 수집하고 참조하는 과정 자체를 겨냥하는 '거대언어모델 그루밍'이다. 이는 악성 세력이 허위 정보나 편향된 주장을 인터넷에 대량으로 유포해 인공지능이 검색하거나 참조하는 정보 환경을 오염시키는 전략이다. 이를 보여주는 사례가 러시아의 '프라우다 네트워크'다. 미디어 감시기관 뉴스가드는 약 150개의 친크렘린 사이트로 구성된 프라우다 네트워크가 수백만건의 콘텐츠를 인터넷에 쏟아내며 인공지능의 정보 수집 체계를 겨냥하고 있다고 분석했다. 실제로 지난해 3월 뉴스가드 발표에 따르면 10개 주요 생성형 인공지능을 대상으로 프라우다 네트워크가 유포한 15개의 허위 주장을 질문한 결과, 인공지능들은 이들 허위 주장을 전체 테스트의 33%에서 그대로 반복했다. 결국 사람이 아닌 기계를 겨냥해 설계된 이 데이터 오염 공작으로 인해, 인공지능이 왜곡된 주장을 사실인 것처럼 요약·답변하게 된 것이다. 문제는 여기서 끝나지 않는다. 인공지능이 한번 잘못 답변한 내용은 다시 인터넷에 게시되고 다른 이용자에게 인용되면서 허위 정보가 정보 생태계로 재유입되는 순환 구조를 만든다. 인공지능 시대의 집단 기억은 '알고리즘의 학습 데이터'와 '확률적 답변'에 의해 재편되고 있는 것이다. 집단 기억이 정교하게 조작된 인공물로 전락하는 것을 막기 위해서는 두가지 대응이 시급하다. 첫째는 인공지능이 학습·활용하는 정보의 출처와 인위적 변조 여부를 추적하고 검증하는 기술적 안전장치를 마련하는 것이다. 데이터의 출처와 신뢰성을 검증하는 기술은 기업의 자율적 노력이나 이용자의 주의만으로는 한계가 있기 때문이다. 둘째는 인공지능의 검색·학습 시스템에 허위 정보를 주입하는 행위에 사회적, 법적 책임을 묻는 것이다. 악성 세력은 물론 이를 방치한 플랫폼에도 실질적인 책임을 물을 수 있는 제도적 장치가 필요하다. 결국 중요한 것은 인공지능이 무엇을 기억하는지가 아니라 그 출처를 우리가 확인할 수 있어야 한다는 점이다. '인공지능이 접하는 데이터를 지배하는 자가 집단 기억을 지배한다'는 경고처럼, 기술이 진실을 압도하기 전에 무엇을 기억하고 기록할지에 대한 주도권을 되찾아야 한다. 그렇지 않다면 후손들은 기계가 골라 준 기억만을 물려받은 채 '우리가 기억하는 과거가 정말 우리가 살았던 과거인가'라는 질문 앞에 서게 될 것이다.