AI는 문서를 요약하고, 연구하고, 코드를 쓰고, 음악까지 만듭니다. 하지만 답을 잘 만드는 능력과 무엇이 좋은 답인지 아는 능력은 다릅니다. 기술이 발전할수록 질문의 목적과 결과의 가치를 판단하는 사람의 역할이 더 중요해집니다.
AI가 유창하게 답해도 내용을 이해하는 것은 아닙니다
과학, 기술, 공학, 수학은 세상이 어떻게 작동하는지 설명합니다. 그러나 우리가 왜 어떤 일을 해야 하는지, 그 일이 사람에게 어떤 뜻인지까지 정해 주지는 못합니다. 문학, 역사, 예술, 철학 같은 인문학이 다루는 질문입니다.
대규모 언어 모델은 언어에서 통계적 패턴을 찾고 다음에 올 법한 토큰을 예측합니다. 사람은 경험, 의도, 맥락, 가치, 책임을 바탕으로 지식을 이해합니다. 같은 말도 상황에 따라 뜻이 달라지고, 무엇이 중요한지도 사람마다 다릅니다. AI는 기호의 배열을 잘 다루지만 그 기호를 삶의 현실과 스스로 연결하지는 못합니다.
인문학은 언어가 현실과 어떻게 이어지는지, 맥락에 따라 해석이 어떻게 달라지는지, 모호함을 어떻게 풀어야 하는지 가르칩니다. 이런 바탕이 없으면 AI의 답은 겉보기에는 맞아도 실제와 어긋나거나 중요한 내용을 빠뜨리거나 사람을 잘못 이끌 수 있습니다.
많은 답보다 무엇을 믿을지 판단하는 힘이 필요합니다
인식론은 지식이 무엇인지, 무엇을 근거로 참이라고 믿을 수 있는지, 믿음과 지식은 어떻게 다른지 묻습니다. AI가 확신에 찬 말투로 틀린 답을 만들 수 있다는 점을 생각하면 실용적인 질문이기도 합니다. 학습 자료 가운데 상당 부분이 인터넷에서 왔지만 인터넷의 모든 정보가 사실인 것도 아닙니다.
AI는 많은 답을 내놓을 수 있습니다. 그래도 그 답이 옳은지, 근거가 충분한지, 얻은 정보를 어디에 써야 하는지는 사람이 정해야 합니다. 어떤 답이 중요한지는 사람이 판단해야 합니다.
수학으로 만든 기술도 사회에서는 중립적이지 않습니다
설계자가 수학으로 모델을 만들었다고 해서 그 쓰임까지 중립적이라고 볼 수는 없습니다. 설계자, 사용자, 사회는 같은 시스템을 서로 다른 의도와 맥락에서 바라봅니다. 한 사용자가 괜찮다고 여기는 결과를 사회 전체가 받아들인다고 볼 수도 없습니다.
학습 자료에는 오류와 편향이 들어갑니다. 설계자는 자신의 가정을 화면과 기능에 반영하고, 서비스를 만든 조직은 이해관계에 따라 서비스를 운영합니다. 그래서 윤리학, 정치 이론, 사회학의 질문이 필요합니다. 누가 이익을 얻는지, 자료에는 어떤 가정이 숨어 있는지, 어떤 피해와 그럴듯한 오답이 생길 수 있는지를 살펴야 합니다. 기술적으로 정확하게 작동하는 AI도 윤리적으로 잘못된 결과를 낼 수 있습니다.
AI의 결과는 사람이 해석해야 합니다
AI가 결과를 내놓아도 사람은 그 뜻을 해석하고 결정한 뒤 행동해야 합니다.
사람은 문학과 역사, 해석학을 공부하며 불확실한 상황에서 뜻을 읽는 법을 익힙니다. 같은 글에서 여러 타당한 해석이 나올 수 있고, 글쓴이의 본뜻을 언제나 알 수 있는 것도 아닙니다. 문장이 사실과 직접 어긋나지 않아도 사람을 잘못 이끌 수 있다는 점도 배웁니다. AI는 확률과 맥락을 바탕으로 답을 만듭니다. 따라서 그럴듯하다는 이유만으로 답이 참이라고 믿어서는 안 됩니다. 사용자는 AI의 답을 받은 뒤 그 뜻을 스스로 가려내야 합니다.
기술이 정확한지만 살피는 사람은 미묘한 왜곡과 편향, 누락을 놓칠 수 있습니다. 해석하는 법을 익힌 사람은 같은 출력에서도 무엇이 불분명하고 무엇이 빠졌는지 더 잘 찾아냅니다.
말하고 쓰는 법을 알아야 AI를 잘 다룰 수 있습니다
AI 시대에는 사람이 말과 글로 AI의 결과를 조정합니다. 사람이 질문을 어떻게 구성하고 어떤 제약과 맥락을 주며 의도를 얼마나 또렷하게 밝히는지에 따라 AI가 내놓는 결과가 달라집니다. 사람은 수사학, 언어 철학, 담화 분석에서 배운 방법과 글쓰기 수업에서 익힌 구성과 표현을 프롬프트를 만들 때 활용할 수 있습니다. 모호한 지시에는 AI가 답을 만드는 데 필요한 조건이 빠져 있습니다.
AI는 자주 나온 관점을 사실처럼 내놓고, 다수의 생각을 강화하며, 소수의 관점이나 문화적 맥락을 빠뜨릴 수 있습니다. 사람은 역사를 살피고 문화를 이해하며 주장을 비판적으로 분석하고 이야기의 틀을 읽어 이런 약점을 보완할 수 있습니다. 사람은 그럴듯하기만 한 답과 알맞고 쓸모 있는 답을 구분해야 합니다. 그래야 유창해도 내용이 얕은 답을 곧이곧대로 믿지 않습니다.
사람은 AI의 답이 윤리적으로 옳은지, 맥락에 맞는지, 다른 사람에게 어떻게 전달할지를 판단해야 합니다. AI가 반복 업무를 덜어 준다면, 그 시간을 사람과 사회를 더 깊이 이해하는 데 쓸 수도 있습니다.