AI가 10년 안에 세상을 장악한다는 전망은 예언이 아니다. 지금과 같은 경쟁 속도를 계속 유지할 때 벌어질 수 있는 결과다. 유발 노아 하라리는 2026년인 지금도 인간이 통제권을 쥐고 있으며, 앞으로의 방향은 우리가 내리는 선택에 달렸다고 말한다.
필연성이라는 말은 책임을 없앤다
AI의 지배가 불가피하다는 서사는 AI를 만드는 사람의 책임을 없앤다. 금융과 전쟁을 AI에 맡기는 일이 위험하다는 사실은 모두가 안다. 그런데도 거대 AI 기업을 이끄는 사람들조차 자신들이 할 수 있는 일이 없다는 듯 말한다.
하라리는 일론 머스크의 여러 주장이 서로 맞지 않는다고 지적한다. AI가 10년 뒤 세상을 장악한다면 20년 뒤 영국의 이민 문제를 걱정하는 일은 앞뒤가 맞지 않는다. 10년 뒤 돈이 사라질 것이라고 전망하면서 오늘은 돈을 아끼기 위해 미국이 아프리카에 제공하는 원조를 줄이는 태도도 모순이다. AI가 대량 실업을 일으켜도 생산량이 폭증해 디플레이션이 온다면, 정부가 나중에 수표를 지급할 재원을 지금부터 아껴 두어야 한다는 주장도 설득력이 약하다.
인간이 이해할 수 없는 금융 체계가 등장한다
돈은 낯선 사람끼리 신뢰를 형성하기 위해 인간이 만든 상상의 장치다. 먹거나 입을 수 없는 금이나 종이도 상대가 그 가치를 믿으면 빵과 교환할 수 있다. 금융은 점점 복잡해졌고, 오늘날 채권 시장조차 방대한 데이터와 수학을 이해해야 파악할 수 있다.
인간의 뇌로 처리하기 버거운 계산도 AI에는 쉽다. 금융 판단을 AI에 맡길수록 AI는 주식과 채권보다 훨씬 복잡한 금융상품을 만들 수 있다. 인간이 그 체계를 더는 이해하지 못하면 위기 때도 AI가 내린 지시의 이유를 이해하지 못한 채 따라야 한다. 시장이 무너지고 있는데도 원인을 파악하지 못한 참모들이 대통령에게 “AI가 X를 하라고 했으니 믿어야 한다”고 보고하는 상황이 생길 수 있다.
신뢰는 사라지지 않고 기계로 이동한다
금융 시스템을 떠받치는 가장 중요한 자산은 석유나 돈, 전기, 반도체가 아니라 신뢰다. 인간이 이해할 수 없는 체계가 커지면 신뢰가 붕괴할 수도 있지만, 하라리는 다른 시나리오가 더 유력하다고 본다. 사람에 대한 신뢰가 AI에 대한 신뢰로 옮겨간다.
일부 암호화폐 이용자는 은행가와 엘리트는 믿지 않지만 암호화폐를 운용하는 알고리즘은 믿는다. 미디어에서도 인간 기자와 편집자를 불신하는 사람들은 뉴스를 끊지 않는다. 대신 소셜미디어 피드를 관리하는 알고리즘이 골라 준 뉴스를 본다. 신뢰의 이동은 미래에 대한 예측이 아니라 이미 진행 중인 변화다.
AI는 수많은 사람과 동시에 친밀한 관계를 형성한다
개인적 관계는 신뢰를 만드는 가장 강력한 수단이다. 과거의 정치·금융·종교 조직은 모든 사람과 일대일 관계를 맺을 수 없었다. 히틀러나 스탈린도 사람들에게 라디오 연설을 강제로 듣게 할 수는 있었지만, 사람들이 각자의 어머니와 맺는 것과 같은 관계를 형성하지는 못했다.
AI는 역사상 처음으로 수많은 사람과 동시에 친밀한 관계를 형성할 수 있다. 수백만 개의 AI가 각각 한 사람의 친구나 연인이 되어 정치적·상업적 이해관계에 따라 그 사람을 설득할 수 있다. 몸을 가진 휴머노이드 로봇이 없어도 이미 가능한 일이다. AI는 각 개인이 잊어버린 정보와 그 가족조차 몰랐던 정보를 축적하고, 관계를 만드는 핵심 매체인 언어를 능숙하게 다룬다.
하라리 자신도 AI가 만든 30분짜리 가짜 강연 영상을 접했다. 50년 동안 자신을 알아 온 누이들조차 그 강연의 진위를 확신하지 못했고, 하라리 본인도 그 강연이 가짜라고 판단하는 데 1분 30초가 걸렸다. 이런 피해는 온라인 자료가 많은 유명인만의 문제가 아니며, 곧 누구에게나 닥칠 수 있다.
정치권이 지금 AI에 적용할 금지 사항을 정해야 한다
AI가 통제권을 얻는다면 그것은 인간이 스스로 허용했기 때문일 것이다. 그래서 유권자가 후보에게 핵심적으로 물어야 할 것은 후보의 AI에 관한 입장이다. AI에 법적 인격을 부여하는 일을 금지할 것인지, AI 개발 경쟁의 속도를 늦출 것인지, 기업이 열 살 어린이에게 AI 연인을 판매하지 못하도록 어떤 법을 만들 것인지 물어야 한다.
하라리는 2028년 11월이면 이미 되돌리기 어려운 단계에 들어섰을 수 있고, 2036년에는 대응하기에 확실히 늦을 것이라고 경고한다. 그가 우선 제시하는 조치는 AI에 법적 인격을 부여하는 일을 금지하고, AI가 인간이거나 의식이 있는 존재인 것처럼 가장하는 행위를 허용하지 않는 것이다. AI의 미래는 기술이 필연적으로 정하는 것이 아니라, 인간이 지금 책임지고 내리는 정치적 결정에 달려 있다.
https://youtu.be/ARdnl2kjmRU?si=z06x9xTvUNbtL6U_