Founders 팟캐스트의 David Senra가 Sam Altman을 78분 동안 인터뷰한다. Senra는 기업가의 전기를 읽고 그 원칙을 추출하는 사람이고, Altman에게 묻는 것도 OpenAI의 전략보다는 한 창업자가 불가능해 보이는 문제를 고르고 회사를 운영하며 조언을 구하는 방식에 가깝다. 대담은 15개 주제를 다루지만, 그 안에서 Altman이 반복해서 내세우는 입장은 몇 가지로 정리된다.
첫째, AI 전환은 기술보다 사람의 습관 때문에 느리고, Altman 자신도 예외가 아니다. 둘째, OpenAI는 멱법칙과 비주류 인재에 대한 확신으로 운영되며, 반복 배포가 안전을 만든다. 셋째, AI의 진짜 위험은 통제 상실과 권력 집중이고, 업계는 사람들의 자율성이 왜 중요한지 설명하는 데 실패했다. 넷째, 지금의 병목은 모델의 지능이 아니라 맥락이며, OpenAI는 제품 회사가 아니라 플랫폼이어야 한다. 마지막으로 그는 실패보다 성공에서 더 많이 배운다고 말한다.
Senra는 반론을 던지는 상대라기보다 감탄하며 묻는 상대다. 그래서 이 대담에서 견해가 갈리는 지점은 두 사람 사이보다 Altman과 업계의 통념 사이에 있다. 전환이 2026년에 일어나는지, 사람이 만든 콘텐츠가 AI 이후에도 살아남는지, AI 업계가 실제로 세상을 교육할 것인지는 결론이 나지 않은 채 끝난다.
전환은 기술이 아니라 습관 때문에 느리고, Altman 자신도 예외가 아니다
Altman이 가장 흥미로운 CEO로 꼽는 사람은 Shopify의 Tobi Lütke다. 소프트웨어를 직접 쓰고 모델을 직접 시험하며, 대기업 CEO이면서 정확하고 구체적인 제품 피드백을 보내는 사람은 Lütke뿐이라는 것이다. 대부분의 CEO는 여러 겹의 관리 조직을 거쳐 기술을 접하고, 실무팀이 불편한 부분을 미리 다듬어 주므로 실제 사용 감각을 얻지 못한다. Lütke는 2026년이 모든 사업의 주도권이 다시 결정되는 해로 기억될 것이라고 예측했지만, Altman은 시점에 이견을 단다. 전환은 더 오래 걸리고, AI가 좋아질수록 스포츠팀처럼 진정성 있는 비기술적 경험의 가치는 오히려 커질 수 있다는 것이다.
이 판단에는 자신의 오판이 반영되어 있다. 2023년 GPT-4 수준의 모델이 나왔을 때 그는 소프트웨어 업계의 구도가 곧 흔들릴 것으로 예상했지만 변화는 훨씬 느렸다. 이유는 경제의 관성이다. 사람들은 하던 일을 계속하고 익숙한 도구를 쓰고 싶어 한다. 그는 학창 시절 Netflix가 DVD를 우편으로 보내던 때에도 사람들이 Blockbuster 매장에 계속 가는 것을 이해하지 못했다고 회상한다.
Altman 자신도 같은 모순을 느낀다. Codex가 있는데도 20년 동안 하던 방식대로 클릭하고, 메시지를 복사해 붙여 넣고, 답하기 가장 덜 괴로운 메일을 고른다. 더 나은 방법을 안다는 사실과 그 방법으로 행동한다는 사실 사이에 간격이 있다. 그는 이것을 주로 제품의 실패로 해석한다. 제품이 사람이 컴퓨터를 쓰는 세계와 Codex가 대신 쓰는 세계 사이에 걸쳐 있어서 사용자가 무엇을 어느 쪽으로 처리할지 명확하지 않다는 것이다. 그가 든 비유는 iPhone 이전의 Palm Treo다. 기술 요소는 있었지만 iPhone을 iPhone답게 만든 제품 아이디어가 없었고, AI에도 그 순간은 아직 오지 않았다. 그럼에도 그는 지금 자기 시간의 대부분을 제품이 아니라 연구와 연산 자원에 쓴다. 똑똑한 모델을 만들고 많은 사람이 쓸 수 있게 운영하는 기반이 먼저라는 믿음이다.
OpenAI는 멱법칙과 비주류 인재에 대한 확신으로 움직인다
Altman은 지수적 발전을 이어 가게 만드는, 영향력이 크고 풀기 어려운 문제를 찾는 성향이 있다고 말한다. OpenAI에서 그 문제는 모델과 연산 자원이다. 자체 칩부터 반도체 공장, 랙 제조사, 전력 시스템까지 공급망이 얽히고, 역사상 가장 비싼 인프라 사업의 자금을 조달해야 한다. 기술과 사업과 정책과 물류가 결합된 일이고, 그는 그런 협력 관계를 설계하는 일을 좋아한다.
그가 보기에 연구 프로그램 관리는 스타트업 투자와 가장 닮은 일이다. 핵심은 멱법칙이다. 가장 좋은 투자 하나의 성과가 나머지 전부를 합친 것보다 크고, 두 번째도 그 아래 전부를 합친 것보다 크다. 이 분포는 직관에 맞지 않아 사고방식을 새로 익혀야 하며, AI 연구도 같은 분포를 보인다. 실패 가능성이 큰 시도를 피하기보다 성공했을 때 가치가 매우 큰 시도를 골라야 한다. 2015년 말 AGI를 목표로 하겠다고 말했을 때 그는 분야의 지적 권위자들에게 강한 비판을 받았고, 대규모 언어 모델에 집중했을 때 다시 비판받았다. 그해 사진 공유 앱을 시작한 창업자는 수천 명이었지만 AGI를 목표로 한 시도는 DeepMind 외에 한두 곳뿐이었다.
좋은 연구자에게서 찾는 특징은 남들과 다른 판단, 새로운 접근, 왕성한 활동력, 관행을 따르지 않는 성향이다. 그가 투자하고 싶지 않은 창업자는 수천 명이 제안한 아이디어에 작은 차이를 더하면서 Peter Thiel의 말투로 완전히 새로운 일이라고 설득하는 사람이다. 지금 그가 흥미롭게 보는 쪽은 AI가 현재 수준에 도달한 뒤에야 가능해졌지만 아직 좋은 아이디어로 받아들여지지 않는 일을 하는 두세 명이다. Senra가 혼자 몰두하는 연구자가 대형 연구소를 앞지를 가능성을 묻자 Altman은 확률을 수치로 제시할 수는 없지만 가능성은 분명히 있고, 그래서 이 분야가 계속 흥미롭다고 답한다.
투자자 경험이 운영자에게 준 것은 결정의 사례집이다
Altman은 어린 시절부터 AI를 가장 놀라운 기술로 여겼고 대학도 AI를 공부하려고 갔다. 그러나 1학년 여름 연구실에서 한 교수가 다른 방향은 시도해도 되지만 딥러닝만큼은 작동하지 않으며 경력을 망치는 가장 확실한 길이라고 말했다. 영향을 쉽게 받는 신입생이었던 그는 그 말을 믿고 방향을 바꿨다. 그는 이 일화를 당시의 판단과 그 판단에 영향을 준 조언으로 제시할 뿐, 오늘의 딥러닝을 설명하는 사실로 쓰지는 않는다.
우연히 들어간 스타트업과 이후의 투자자 경험은 AI로 가는 우회로가 아니었고 오히려 큰 도움이 됐다고 그는 본다. 회사 운영자는 임원 해임이나 전략 변경 같은 중대한 결정을 자신이 겪은 제한된 사례로 판단한다. 투자자는 일상 운영 경험은 적지만 여러 회사가 맞닥뜨리는 갈림길을 하루 종일 지켜본다. 그래서 결정할 일이 생기면 비슷한 상황에서 어느 회사가 어떻게 됐는지, 어떤 창업자가 무엇을 잘못했는지 떠올릴 수 있다. 이처럼 참고할 사례가 풍부하다는 점이 투자 경험의 핵심 가치다. Senra는 한 친구가 자신을 두고, 10년 동안 기업가의 전기를 읽어 창업자들의 역사를 학습한 LLM 같다고 농담했다는 이야기를 전하며 같은 구조라고 인정한다.
다만 Altman은 자신을 성공한 창업자가 투자자로 갔다가 돌아온 사례로 부르기는 어색하다고 덧붙인다. 첫 창업이 잘되지 않았기 때문이다. 두 일을 모두 해 본 입장에서 회사를 운영하는 일이 투자보다 훨씬 어렵다는 것, 그리고 투자자는 이미 너무 많다는 것이 그의 결론이다. 어린 시절에 대해 그는 로봇 동아리와 거북이 로봇을 분명히 기억하지만, 과학적 발견에 관심이 있었다는 기억은 현재의 관심사와 너무 닮아 있어서 재구성됐을 수 있다고 스스로 단서를 단다.
진짜 위험은 통제 상실과 권력 집중이고, 업계는 자율성의 가치를 설명하지 못했다
Altman이 가장 걱정하는 위험은 둘이다. AI가 너무 강해져 원하는 수준의 통제를 보장할 수 없게 되는 통제 상실, 그리고 한 회사나 한 모델이나 한 사람이 지나치게 많은 권력을 갖는 권력 집중이다. 둘은 긴장 관계에 있지만 어느 쪽이든 인간을 중요한 결정에서 배제한다. 하나의 모델을 전적으로 신뢰하고 세계에 관한 의사결정을 맡기자는 태도를 그는 인간을 혐오하는 입장이라고 부른다.
권력 집중은 안전이라는 명분으로도 추진될 수 있다. 기술이 잘못 쓰이면 끔찍하니 접근할 사람과 방법을 제한하고 소수 회사에 힘을 모아야 한다는 논리다. 그는 이것을 과장해서, 모든 질병의 치료법과 값싼 물건을 줄 테니 미래에 영향을 미칠 힘과 자율성은 내놓으라는 거래에 비유한다. 그 거래에는 극심한 불평등도 들어 있다. 왜 그런 주장이 나오느냐는 Senra의 질문에 그는 두려움과 권력이라고 답한다. 위험의 크기에 압도된 사람은 안전을 위해 많은 자유를 포기해도 된다고 판단할 수 있고, 그 논리는 권력 추구를 정당화하는 수단이 될 수 있다.
반론. 사람들은 AI를 쓰면서도 AI를 싫어한다. 이것을 어떻게 이해해야 하는가. Altman은 급격한 변화에 대한 두려움이 인간의 생물학적 특성이고 사회를 안정시키는 기능일 수 있다고 답한다. 그러면서 업계의 책임도 인정한다. 세계를 파괴할 확률이 25%라면서 나쁜 사람보다 먼저 개발하겠다는 말, 내년에 일자리 절반이 사라질 것이라며 괜찮기를 바란다는 말이 그 사례다. 이 숫자는 그의 예측이 아니라 업계가 무섭게 들리는 주장을 전달한 방식을 비판하려고 인용한 것이다. 업계가 빠뜨린 것은 사람들에게 더 많은 힘과 자유가 생기는 일이 왜 중요한지에 관한 논의다. AI 업계 사람들은 자기 자율성은 중요하게 여기면서 그것이 남에게 얼마나 중요한지는 인정하지 않는다. 그는 소규모 창업이 역사상 가장 크게 늘어나는 미래를 기대하지만, OpenAI를 포함한 업계가 이 가능성을 충분히 말하지도, 그런 창업을 가속하는 제품을 만들지도 않았다고 인정한다. Senra가 Intel의 창업자들이 마이크로프로세서로 넘어갈 때 하던 일을 멈추고 고객과 사회를 교육하러 나갔던 일화를 들며 왜 AI에서는 그런 일이 없느냐고 묻자, Altman은 변명의 여지가 없고 더 해야 한다고 답한다.
반복 배포가 안전을 만든다
OpenAI를 시작할 때 널리 퍼진 의견은 두 가지였다. AGI 비슷한 것은 적어도 10년 안에 불가능하다는 것, 그리고 만들더라도 안전하게 만들 수는 없다는 것이다. 약 10년 뒤 당시 기준으로 AGI와 매우 비슷한 시스템이 나왔고, 좋은 일은 많이 일어났지만 세계가 끝난다는 예측은 실현되지 않았다. Altman은 이 결과를 보고 미래 예측을 수정해야 한다고 주장한다. 다만 더 중대한 과제가 앞에 있다는 점은 인정한다.
그가 스타트업에서 배운 접근은 제품을 내놓고 실제 고객에게서 어디가 문제인지 확인하는 것이며, 그는 이것이 좋은 제품을 만드는 방법인 동시에 안전한 제품을 만드는 방법이라고 본다. 새 수준의 모델이 나올 때마다 실제로 내놓아 작동하는 부분과 실패하는 부분을 보고, 가드레일이 유용한 사용을 지나치게 막으면 완화하고, 정렬 실패와 안전 시스템의 실패도 발견한다. ChatGPT가 나온 지 4년이 안 됐는데 10억 명이 민감한 일에 쓰면서도 대체로 안전하다고 여겨지는 것은 현실에서 배운 덕분이라는 것이다. 그가 비행기에서 떠올린 사례는 FAA다. 철저한 사고 보고와 문제를 얼버무리지 않는 태도, 사고에서 최대한 많은 정보를 추출하는 절차가 겉으로 극히 위험해 보이는 활동을 안전하게 만들었다. 그는 사후 분석을 공개하고 다른 AI 개발자와도 공유하려 한다.
반복 배포는 무조건 즉시 출시하라는 원칙이 아니다. 모델의 능력이 높고 발전이 빠르므로 앞으로는 언제 개발을 늦출지, 실제로 사용하게 할지, 더 오래 연구할지에 관해 어려운 결정을 내려야 한다고 그는 말한다. 연구실에 앉아 모든 영향을 미리 계산하는 방식이 작동하지 않는 이유는 사회와 모델이 함께 변하기 때문이다.
병목은 지능이 아니라 맥락이고, OpenAI는 제품 회사가 아니라 플랫폼이다
Altman은 최신 모델이 이미 상당히 똑똑하다고 본다. 지금 더 크게 느끼는 제약은 AI가 Altman 자신에 관해 갖고 있는 유용한 맥락의 양이다. 그가 원하는 에이전트는 사내 Slack 전부와 고객의 모든 피드백처럼 자신이 직접 읽을 수 없는 양의 맥락을 읽고, 중요한 결정을 내릴 때 그 맥락을 적용해 조언하는 시스템이다. 아주 똑똑한 사람은 많아도 몇 초 안에 수만 페이지를 읽고 정확하게 활용하는 사람은 없다. 모델의 지능에 집중한 방향은 옳았지만, 사람보다 많은 맥락을 모델에 주고 큰 결정을 돕게 한다는 것이 무엇인지는 제품 측면에서 아직 충분히 고민하지 않았다고 말한다. Senra는 2018년부터 모은 독서 노트와 에피소드 대본을 넣은 내부 도구를 매일 쓴다고 답하며, 7년 전에 다룬 내용을 AI가 되살려 준다고 말한다.
제품 구성에 대해 Altman은 OpenAI가 제품 회사보다 플랫폼 회사에 가까워야 한다고 답한다. 대부분의 사람이 원하는 것은 자신의 AGI에 접근하는 하나의 인터페이스와 그 위에 원하는 것을 만들 API다. 모든 비용과 성능 수준에서 최고의 AI를 팔되, 모든 분야의 제품을 직접 만들거나 모든 고객과 경쟁하거나 경제 전체를 흡수하려 해서는 안 된다는 것이다. 이를 위해 좋은 아이디어를 버려야 했다. 작년에 Sora를 중단한 이유는 Sora가 좋고 재미있는 제품이었지만 연산 자원을 많이 쓰고 Codex보다 중요하지 않았기 때문이다. 최고의 브라우저라고 평가한 Atlas도 우선순위에 맞지 않아 중단했다. 좋은 아이디어를 희생해 더 좋은 아이디어에 집중하는 일은 창업자에게 가장 실천하기 어려운 교훈이며, 자신도 잘하지 못한다고 그는 인정한다.
막힐 때 찾는 사람은 Thiel과 Graham이고, 조언은 구체적 행동으로 제시된다
Altman이 조언을 구하는 상대는 세 부류다. 오랫동안 함께 일하며 공통의 언어와 직관을 만든 OpenAI 연구자들, 그리고 사업과 세상에 관한 질문에서 가장 많이 배운 Paul Graham과 Peter Thiel 각각이다. LLM이 다음 단어를 예측하는 시스템이라면 이 둘은 그가 다음 말을 가장 예측하기 어려운 사람들이다. 이 둘은 Altman이 선택지를 전부 생각했다고 느끼는 순간에 지금 제시한 것은 모두 좋지 않다고 말하며 다른 선택을 내놓는데, 이때 생각을 자극하는 질문보다 특정 행동을 직접 제안하는 경우가 많다.
Thiel이 조언한 때는 ChatGPT 출시 두 달 뒤였다. ChatGPT는 빠르게 성장했지만 호기심으로 한번 써 보는 사용자가 많아 Altman에게는 가치가 낮은 성장처럼 느껴졌고, 회사 안에서도 다른 것을 찾아야 한다는 의견이 있었다. 그가 다른 방향 대여섯 가지를 이야기하자 Thiel은 이것 외에 다른 일을 하는 것이 명백한 실수라고 말했다. 무엇이든 입력하면 적절한 결과를 내는 빈 텍스트 상자의 힘은 Google 검색창의 힘과 같고, 지난 20년 동안 모두가 그런 빈 입력창 사업을 다시 만들려 했다는 것이다. 피드도 네트워크 효과도 기억 기능도 없다는 내부의 불안보다, 이미 성공한 전례가 있다는 사실이 중요했다. OpenAI는 그 뒤 ChatGPT에 더욱 집중했다.
Graham에게서 배운 것은 부끄러울 정도의 첫 버전을 일찍 내놓고 고객 피드백으로 개선하라는 철학이다. ChatGPT 출시 전에 Graham에게 묻지 않았지만 답은 알았다. 다만 그 확신은 제품을 일찍 내놓아야 하는지에 관한 질문에만 적용되고, 다른 조언은 예측하지 못해서 가치가 있다고 그는 범위를 제한한다. YC가 OpenAI에 남긴 영향은 운영 방법만이 아니다. 반복 배포, 기술을 아는 사람이 책임을 맡는 구조, 경험은 적어도 야심이 큰 젊은 사람에게 기회를 주는 철학, 그리고 검증된 경력 없이도 젊은 기술 창업자가 많은 자본을 조달할 수 있게 된 생태계의 변화다. 2004년의 생태계에 2016년의 기술만 있었다면 OpenAI는 불가능했을 것이라고 그는 말한다.
고객 없는 연구소에서는 진행 신호를 직접 만들어야 했다
OpenAI는 설립부터 첫 제품까지 4년 반이 걸렸다. YC의 조언과 정반대다. 고객이 제품을 좋아하는지를 보여 주는 신호를, 연구가 제대로 진행되는지를 보여 주는 신호로 대체해야 했다. 효과가 있었던 것은 Dota 2에서 사람을 이기려던 시기의 순위표였다. 서로 다른 아이디어의 성과를 모두가 볼 수 있게 하자 연구자들이 그 객관적인 신호에 맞춰 움직이고 싶어 했다. 연구자들이 존경하는 외부 인사에게 시연하는 일도 강한 동기가 됐고, 인위적인 마감은 효과가 없었다. Bell Labs와 Xerox PARC의 전성기를 기억하는 사람들에게 조언을 구했지만, 과거 연구소 뒤에는 독점 이익을 내는 사업이 있었고 OpenAI에는 그런 기반이 없었다. 초기의 가장 강한 기억은 돈을 모으려다 실패한 경험이다.
첫 출근일의 기억은 그 혼란을 보여 준다. 2016년 1월 초 Greg Brockman의 아파트에 열한두 명이 모였고, 학교 첫날처럼 들떠 있다가 곧 서로를 보며 이제 무엇을 해야 하는지 물었다. 누군가 화이트보드를 구하자고 했지만 보드가 와도 다음에 할 일은 몰랐다. 할 줄 아는 일을 시작하고 많은 방법이 작동하지 않음을 알아 간 끝에, 감정 뉴런 논문에서 GPT 계열로 이어지는 연구와 스케일링 법칙이 나왔다.
반론. 실패보다 성공에서 더 배운다는 말은 그냥 지나칠 수 없다. Altman은 《Anna Karenina》의 첫 문장을 빌려 답한다. 실패는 저마다 다른 이유로 일어나고 그 이유가 너무 많아 원인을 하나로 정리하기 어렵지만, YC와 OpenAI의 무엇이 작동했는지는 이해하고 다음에 적용할 수 있다. 실패에서 얻은 교훈은 이미 아는 일반론일 때가 많고 때로는 다른 일을 방해했다. 그래서 그는 부정적 경고보다 사용자와 더 이야기하고, 더 일찍 출시하고, 채용 기준을 높이라는 긍정적 행동을 반복해서 상기하는 편을 택한다. Senra는 창업자에게 수없이 해 준 조언을 정작 자기 상황에는 적용하지 않는 순간이 있을 것이라고 짚고, Altman은 그런 사례가 많다고 인정한다.
정리된 것과 남은 것
Altman의 입장은 분명하다. 전환은 습관 때문에 느리고, 투자는 멱법칙을 따르며, 안전은 현실에서 배운 경험으로 확보되고, 위험은 통제 상실과 권력 집중이며, 병목은 맥락이고, OpenAI는 플랫폼이다.
결론이 나지 않은 채 끝난 질문도 있다. Lütke가 말한 2026년에 대해 Altman은 더 오래 걸린다고 보지만 시점을 말하지 않는다. AI 둘이 이 대담보다 흥미로운 팟캐스트를 만들면 사람들이 들을지에 대해, Senra는 사람이 사람에게 끌린다고 믿는다. Altman도 사람 사이의 연결은 AI 시대에 가치가 더 커진다고 본다. 다만 그것이 AI 이전에 태어난 세대의 믿음일 수 있다는 단서는 두 사람 모두 인정한다. AI 업계가 Intel의 창업자들처럼 세상을 교육하러 나설지는 Altman이 변명의 여지가 없고 더 해야 한다고 답했을 뿐, 실행 여부는 아직 확인되지 않았다. 대담의 마지막에 Senra는 Altman이 아들에게 쓰다 만 편지를 계속 쓰라고 권하고, Altman은 아이에게 쓰는 글에서는 자신을 감추기 어려워서 그 주에 있었던 일이 썩 좋지 않게 느껴지면 다음 주에는 다르게 행동해야겠다고 생각하게 된다고 답한다.