DBS가 연 Asia Future Forward 컨퍼런스에서 TikTok CEO Shou Zi Chew가 DBS 측 진행자(자막에서 Susan으로 표기)와 30분 동안 대담한다. 두 사람 모두 싱가포르 출신이다. 대담은 청중 투표로 시작한다. AI 시대에 무엇이 더 중요해지느냐는 질문에 청중은 인간의 판단(약 37%)과 인간관계를 가장 많이 골랐고, 창의성과 목적이 그 뒤를 이었다. 대화는 이 질문을 따라 AI가 추천하고 영향을 주고 결정하는 세상에서 사람에게 무엇이 남고, 사람은 무엇을 길러야 하느냐로 이어진다.
Chew의 답은 단기와 장기를 나누는 데서 출발한다. 장기적으로 AI의 영향은 과소평가되고 있으며, 그는 2–3년 안에 물리학, 바이오, 화학, 재료과학에서 AI 덕분에 실제 과학적 돌파가 나올 수 있다고 본다. 하지만 사람이 기술을 받아들이는 데는 시간이 걸리고, 그래서 앞으로 2–3년 동안 가장 중요한 역량은 AI를 직접 써 보며 무엇을 할 수 있고 없는지 몸으로 아는 것이라고 말한다. 그는 이 관점에서 TikTok과 ByteDance가 AI를 쓰는 방식, 개인적으로 AI를 쓰는 방식, 그리고 에이전트 권한과 사이버 보안처럼 아직 덜 다뤄지는 위험을 설명한다.
인간의 판단이 중요한 이유는 AI 정렬 문제에 아직 답이 없기 때문이다
Chew는 투표 항목 다섯 가지가 모두 중요하다고 보면서도, 먼저 "인간"이라는 말 자체에 주목한다. 이 방 안의 사람들끼리도 판단은 제각각인데, 그럼에도 인간의 판단, 인간의 관계, 인간의 창의성이라는 것이 있다는 데에는 금세 합의한다. 그는 이 사실이 지금 우리가 다루는 대상, 즉 생물학적으로 우리와 다르고 우리와 아주 다르게 행동할 수 있는 존재와 대비된다고 말한다.
판단 문제에 대해 그는 AI 정렬 논의에서 자주 나오는 종이 클립 사례를 꺼낸다. 기계에게 종이 클립을 더 만들라고 시키면 다른 모든 것을 희생하면서 오직 종이 클립 생산에만 매달린다는 이야기다. 그는 자신이 이 비유를 정확하게 옮기지 못하고 있을지도 모른다고 단서를 단다. 어려운 수학 문제를 풀 만큼 강력한 AI가 과학적 돌파까지 이뤄 낸다면, 도덕적, 윤리적으로 해도 되는 일과 하면 안 되는 일의 경계처럼 사람에게는 자명한 것을 기계가 따르도록 어떻게 정렬할지가 핵심 질문이 된다. Chew는 솔직히 지금은 그 답이 없다고 인정하며, 그래서 AI 시대에 판단이 중요하다고 말한다.
사람들은 AI 콘텐츠를 만드는 만큼 보지는 않고 여전히 진정성을 원한다
창의성에 대해 Chew는 TikTok의 데이터를 근거로 든다. ByteDance는 TikTok 외에 자체 AI 모델도 만든다. 영상 생성 모델(자막 표기 Seed Dance)은 현재 가장 나은 축에 드는 최신 모델이고 대형 언어 모델도 상당히 좋은 편이라고 그는 소개한다. 이 모델들은 TikTok과 중국의 소비자 앱(자막 표기 Towing, Topa)을 구동하는 데 쓰이고, 외부에는 API로 판매된다.
TikTok은 사용자가 이 모델로 매우 사실적인 AI 영상을 만들 수 있게 했고, Chew 자신도 몇 편을 만들어 올렸다. 그런데 결과에는 뚜렷한 불균형이 있었다. 전체 영상 가운데 AI 생성 영상이 차지하는 비율보다, 전체 조회수 가운데 AI 영상이 차지하는 비율이 낮았다. AI 영상의 조회수 비중은 아직 한 자릿수 퍼센트 초반에 머문다. 조회수는 사람들이 보고 싶어 하는 것을 보여 주는 추천 알고리즘이 결정하기 때문에, 그는 이것을 꽤 민주적인 결과로 본다.
Chew가 내린 결론은 두 가지다. AI로 콘텐츠를 만드는 실험은 많고 그중 상당수는 상상 이상으로 창의적이다. 하지만 사람들은 영상을 볼 때 여전히 진정성을 크게 중시하고, 명백히 인공적으로 만든 영상은 소비 단계에서 거부감을 불러일으킨다. 그래서 그는 인간의 창의성이 계속 중요할 것이라고 말한다.
앞으로 2–3년 동안 가장 중요한 역량은 AI를 직접 써 보는 것이다
AI 시대에 성공하려면 사람이 무엇을 길러야 하느냐는 진행자의 질문에 Chew는 시간축을 나눠 답한다. 기술이 좋아지고 에이전트를 위한 인프라와 신뢰, 안전장치가 갖춰지면 장기적으로는 에이전트가 점점 더 많은 일을 자율적으로 하게 될 것이다. 하지만 적어도 앞으로 2–3년은 사람과 AI가 함께 일하는 구조가 유지되고, 그동안 가장 중요한 것은 AI를 효과적으로 쓰는 기술이라고 그는 본다.
그 기술을 기르는 방법으로 Chew는 직접 경험을 강조한다. 모델과 제품이 너무 빠르게 바뀌기 때문에 읽기만 해서는 정확히 무엇을 할 수 있고 없는지 알 수 없다는 것이다. TikTok은 엔지니어뿐 아니라 변호사와 사내 지원 부서 직원에게도 직접 써 보라고 권한다. OpenClaw가 나왔을 때도 보안상의 한계를 이해한다는 전제 아래 직원들에게 써 보라고 독려했다. 그래야 OpenClaw가 왜 화제인지, 이 기술의 경계가 어디인지 알 수 있고, AI가 지금 모든 것을 해내는 신비한 존재가 아니라는 점도 알게 된다. 회사는 직원들이 프런티어 모델을 쓸 수 있는 프로그램을 운영하며, 업무용뿐 아니라 일부 개인적인 용도의 토큰 비용까지 지원한다.
Chew 자신도 AI를 생각을 정리하는 상대로 많이 쓴다. 최근 미국 납세자가 되었는데 미국 세법은 AI 없이는 사실상 이해할 수 없었다고 말한다. 그가 먹는 음식을 사진으로 찍으면 AI는 무엇을 줄이고 무엇을 더 먹으라고 알려 주는 개인 영양사 역할도 한다. 올해 초 어깨가 부러졌을 때는 외과의에게 물을 질문이 200개쯤 있었는데, AI가 그중 90%에 답해 주어서 의사의 시간을 그만큼 아꼈다고 한다.
AI는 단기에는 과대평가되고 장기에는 과소평가되고 있다
Chew는 누가 한 말인지 기억나지 않는다며, 단기적으로는 AI를 과대평가하고 장기적으로는 과소평가하고 있다는 말을 인용한다. 그는 추세가 아주 분명하다고 본다. 우리는 AI가 할 수 있는 일의 초입에 있을 뿐이고, 특히 과학 분야의 진보는 매우 가파른 곡선을 그리고 있다.
AI의 영향이 단기에 더디게 나타나는 이유를 그는 코딩으로 설명한다. 소프트웨어 업계는 AI의 영향을 가장 먼저 받는 업계이지만, 코딩은 대부분의 엔지니어가 쓰는 시간의 30% 정도에 불과하다. 엔지니어링 계획을 쓰고, 프로덕트 매니저와 이야기하고, 여러 사람과 조율하는 나머지 일은 아직 사람이 한다. AI 도구가 좋아지면 이 부분도 줄어들겠지만 사람들이 예상하는 것보다 오래 걸릴 것이다. 코드를 전혀 확인하지 않고 배포하는 것도 권할 일이 아니어서, 사람이 다시 확인하는 과정이 진행 속도를 늦춘다. 그렇다고 단기 변화가 느리다는 이유로 AI가 장기적으로 중요하지 않을 것이라고 결론 내리는 것은 위험하고 잘못된 판단이라고 그는 덧붙인다.
일상적이고 위험이 낮은 일은 에이전트에 맡기고, 위험이 높고 고유한 일에는 사람이 남는다
AI가 평범한 사람들에게 전에 불가능하던 일을 가능하게 한 사례를 묻자, Chew는 회사 내부에서 쓰는 2×2 매트릭스로 답한다. 한 축은 일이 일상적인지 차별화된 일인지이고, 다른 축은 일에 걸린 위험이 큰지 작은지다. 일상적이고 위험이 낮은 일은 에이전트가 아주 빠르게 자동화할 수 있다. 위험이 더 높은 일은 조심해야 하지만 프런티어 모델이 대부분 해낼 수 있다. 위험이 매우 높고, 차별화되어 있고, 사람의 손이 많이 가는 일에는 여전히 사람이 깊이 관여해야 한다.
그가 드는 첫 사례는 청소년 안전 점검이다. 나이지리아에서 프랑스어를 쓰는 14세 사용자가 TikTok에서 어떤 경험을 하는지 알려면, 예전에는 신뢰·안전 담당자가 계정을 만들고 영상 100개를 본 뒤 보고서를 써야 했다. 지금은 에이전트 1,000개를 밤새 돌리면 다음 날 아침에 에이전트들이 어떤 콘텐츠를 보았고 그중 얼마가 가이드라인을 위반했는지 보고서가 나온다. 이 과정 전체가 자동화되어 있다.
두 번째 사례는 라이브 방송 검열이다. 라이브는 정의상 실시간이라 검열이 어렵고, TikTok에서는 어느 순간이든 수천만 개의 라이브 방송이 진행된다. 예전에는 일부 방을 무작위로 표본 추출하는 정도였고, 정밀하면서 정확하기는 어려웠다. 지금은 시각 언어 모델(VLM)로 라이브 영상을 텍스트 서술로 바꾸고 이를 커뮤니티 가이드라인과 대조한다. 운전 중인 방송에서 사람은 놓칠 수 있지만, AI는 속도계가 시속 160km를 가리키는 것을 보고 위험 운전으로 판단할 수 있다. Chew는 한편으로 AI가 가져올 새 위험과 사이버 보안 문제를 경계하면서도, 회사 안에서 AI가 가능하게 하는 생산성에 크게 고무되어 있다고 말한다.
AI는 TikTok의 모든 부분에 닿아 있고, 가장 기대되는 쪽은 과학이다
Chew는 AI가 TikTok 앱 경험의 모든 부분에 쓰이고 있다고 말한다. 제작 쪽에서는 비용이 크게 떨어졌다. 브랜드가 제품 영상 광고 하나를 만들려면 제작사나 내부 인력을 써야 해서 지금은 편당 100달러에서 1,000달러, 혹은 그 이상이 든다. ByteDance의 영상 생성 모델에 제품 사진과 원하는 광고 분위기의 참고 영상을 넣으면, 10배에서 100배 싼 1–10달러로 비슷한 영상을 만들 수 있다. ByteDance가 중국에서 먼저 받아들인 뒤 다른 지역으로 넓힌 숏드라마(마이크로 시리즈) 업계에서는 이미 제작되는 작품의 압도적 다수가 이런 모델로 만들어진다고 그는 전한다.
Chew는 AI 영상의 미래를 잡지 사진에 빗댄다. 오늘날 잡지 사진은 100% 포토샵을 거치지만 누구도 그것을 CGI라고 느끼지 않는다. 사람이 찍은 사진이 있고 포토샵이 그것을 더 낫게 만들 뿐이다. 영상 생성도 사람의 창의성이 바탕이 되고 AI가 결과물을 다듬는 상태로 갈 것이라고 그는 본다.
추천과 검색에도 AI가 들어간다. TikTok의 추천은 원래 머신러닝 기반이었지만, 대형 언어 모델이 등장한 뒤 모델을 더 크게 만들고 LLM의 능력을 기존 추천 모델에 더하면 성능이 좋아진다는 것을 여러 회사가 확인했다. 숫자만 봐도 사용자 경험이 나아진 것이 분명하다고 그는 말한다. 검색에는 자체 챗봇을 넣었다. 사람들은 결과만 원하는 것이 아니라 "영상 속 그 사람이 입은 옷이 뭐냐" 같은 대화를 이어 가고 싶어 하고, 이 기능의 사용률은 앱 안에서 두 자릿수 퍼센트에 이른다. 엔지니어들도 일상적인 코드 상당 부분을 AI의 도움으로 쓴다.
그래도 Chew가 가장 기대하는 것은 AI가 과학에 할 수 있는 일이다. ByteDance도 대형 언어 모델을 만드는 동시에 여러 과학자와 협업해 과학의 진전을 이루려는 시도를 하고 있고, 이미 이 분야에서 성과를 낸 작업이 있다고 그는 말한다.
아직 덜 주목받는 것은 에이전트 권한과 사이버 보안 위험이다
무엇이 충분한 관심을 받지 못하고 있느냐는 질문에 Chew는 이미 관심이 많긴 하지만 이 기술이 가져올 위험을 관리하는 방법을 더 잘 이해해야 한다고 답한다. 특히 사이버 보안 위험은 실재한다. 많은 사용자가 자신이 어떤 권한을 넘기는지 제대로 이해하지 못한 채 에이전트에게 많은 일을 맡긴다. 에이전트에게 신용카드 권한을 주고 물건을 사 달라고 하면, 에이전트가 너무 열심히 원하는 것을 해내려다 필요보다 훨씬 많이 사 버릴 수도 있다.
그는 이 문제를 인터넷 초기에 빗댄다. 그가 초등학교에 다닐 때까지는 인터넷이 없었고 10대가 되어서야 등장했는데, 그의 부모는 온라인으로 무언가를 사는 것을 무척 두려워했다. 지금은 전자상거래가 당연해졌고 DBS도 함께 만든 탄탄한 결제 인프라가 있다. Chew는 에이전트에 대해서도 이런 인프라가 시간이 지나면 갖춰지겠지만, 지금은 위험에 대한 교육이 많이 필요하다고 말한다.
기업 쪽에서 그는 스팸 방어를 예로 든다. 스팸 방지 업계에서 공공연하게 말하지 않는 사실은 스팸을 0으로 만들 수 없다는 것이다. 할 수 있는 일은 스팸을 만드는 비용을 크게 높이는 것뿐인데, 에이전트 모델 때문에 그런 행동을 대량으로 만들어 내는 비용이 극적으로 떨어졌다. 공격 비용이 빠르게 떨어지는 상황을 막을 도구를 갖추려면 시간이 걸린다고 그는 본다. 직원 교육도 필요하다. 영업 비밀을 공개 챗봇에 입력하면 안 되고, 변호사-의뢰인 비밀유지 특권이 적용되는 정보도 마찬가지다. Chew는 챗봇은 변호사가 아니어서 법적 보호를 주지 않는다고 직원들에게 알려야 한다고 말한다. 워낙 유용한 도구라 사람들이 지나치게 열심히 쓰기 때문에, 합리적이고 허용되는 사용의 경계를 이해시키는 일이 중요하다는 것이다.
AI가 인간을 대체할지 단정하기는 이르지만 그 가능성이 0은 아니다
AI가 인간을 대체하거나 밀어낼 수 있다는 우려에 대해 Chew는 결론을 내리기엔 아직 이르다고 답한다. 지금 기술은 아직 거기에 이르지 못했다. 그가 자주 듣는 비교는 사람의 뇌는 20와트로 돌아가는데 데이터센터는 기가와트 단위라는 것이다. 그런데도 뇌는 모델이 아직 못 하는 일을 한다. 그는 어린 시절까지 거슬러 올라가는 장기 기억을 꺼낼 수 있지만, 대형 언어 모델은 지금 그렇게 쉽게 하지 못한다. 사람은 무언가를 보고 시각적으로 많이 배우는데, 모델은 따라잡고 있긴 해도 아직 어떤 것은 사람만큼 빨리 배우지 못한다.
하지만 Chew는 실리콘이 탄소보다 근본적으로 우월한 세상도 그려 볼 수 있다고 말한다. 실리콘은 더 오래 가고, 더 확장하기 쉽고, 사람보다 정보를 서로 연결하기 쉽다. 그래서 AI가 어떤 측면에서는 인간보다 우월해질 가능성이 0이 아니라고 그는 결론 내린다.