OpenAI에서 member of product staff라는 직함으로 일하는 홀리 리(Holly Li)는 자신을 그냥 PM이라고 소개한다. 그는 OpenAI Dev Day 무대에서 상시형 AI 비서 Dots를 시연했고, 그 전에는 Figma에서 Figma Make의 첫 PM으로 일하며 Config 2025 기조연설 무대에 올라 화제가 되었다. 이 영상은 전직 테크 PM이자 크리에이터인 클로이 시(Chloe Shih)가 진행하는 커리어 토크쇼 Office Drama의 한 회차이며, 홀리의 이력과 OpenAI의 PM 채용, Dots의 설계와 Dev Day 시연을 차례로 다룬다.
두 사람의 관점이 엇갈리는 지점은 후반부에 드러난다. 클로이는 스스로 AI 낙관론자라고 말하면서도, 받은편지함과 문자, 금융, 건강 데이터를 AI에 넘기는 일만큼은 받아들이지 못한다고 털어놓는다. 또한 크리에이터들은 장보기와 항공편 좌석 선택까지 직접 하고 싶어 하는데, 실리콘밸리의 데모는 모든 일을 자동화하라고 권한다고 지적한다. 홀리는 개인정보 문제에는 데이터 설정, 보수적인 제품 동작, 읽기 전용 기본값, 자연어로 정하는 사용자 규칙, AI 자동 검토자를 겹겹이 쌓은 통제 장치로 답한다. 자동화 문제에는 AI 비서를 쓰는 목적이 효율이 아니라 자기 하루에 대한 통제감을 되찾는 데 있다는 주장으로 답한다.
영상이 정리하는 결론은 이렇다. 홀리는 AI 제품을 만드는 사람에게 필요한 자질로, 제품을 직접 써 보고 자기 의견을 갖는 태도와 문제를 그날 안에 끝내려는 집요함을 꼽는다. 그리고 Dots의 안전장치는 위험을 줄일 뿐 없애지는 못하며, Dot이 이미 실행한 행동과 이미 본 정보는 되돌리기 어렵다는 점을 스스로 인정한다.
홀리 리는 진짜 제품을 만들기 위해 PM 자리를 직접 만들어 가며 AI 업계로 옮겨 왔다
홀리는 대학에서 경제학을 전공했고 컴퓨터공학은 공부한 적이 없었다. 컨설팅 회사에서 인턴을 해 본 뒤 하루 12시간씩 파워포인트 슬라이드를 만드는 일은 자신에게 맞지 않는다고 판단했고, 컴퓨터공학 전공 없이도 지원할 수 있는 마케팅 직군인 Google APMM 프로그램으로 경력을 시작했다. 이후 뉴욕의 Creative Lab으로 옮겨 Chrome 광고와 슈퍼볼 광고 대본을 쓰는 크리에이티브 프로듀서로 일했다. 제품을 만드는 일에 더 직접 참여하고 싶었던 그는 Creative Lab 안의 실험 팀을 설득해 합류했고, 그 팀은 Gemini만 쓰는 브라우저를 만드는 식의 실험을 했다.
클로이가 Magic Editor에 대해 묻자 홀리는 2020년에서 2021년 무렵의 작업을 설명한다. 리서치 팀이 새 이미지 생성 모델을 내놓자, 홀리의 팀은 사용자가 자기 사진을 10장쯤 올리면 그 사람에게 맞춘 모델을 학습시켜 여러 모습의 사진을 생성하는 내부 도구를 만들었다. 이어서 Pixel 팀과 함께 생성형 AI를 처음으로 넣은 특별판 Google Photos를 만들었다. 사진에서 특정 대상을 지우고, 배경의 하늘을 새로 생성하고, 사람의 위치를 조금 옮기거나 웨딩드레스 자락을 지우는 기능이었다. 홀리는 이것이 자신이 참여한 초기 대형 AI 작업 가운데 하나였다고 말한다.
그러나 그는 그 시절의 작업을 냉정하게 평가한다. ROI가 낮고 비용이 매우 많이 드는 탐색 작업이어서 지금의 테크 기업이라면 절대 허락하지 않았을 일이며, R&D라고 해도 마케팅에 지나치게 치우쳐 있었다는 것이다. 그 작업들은 Google이 창의적이고 혁신적인 회사라는 인상을 주려고 실험물을 온라인에 내놓는 성격이 강했다. 결국 그는 진짜 제품이 아니라 홍보물을 만들고 있다는 사실에 환멸을 느껴 그곳을 떠났다.
26살에 가족 문제가 겹치고 일에서도 더는 성장하지 못한다고 느끼자, 그는 머리를 자르고 마라톤을 뛰고 대학원에 지원한 끝에 퇴사를 결심했다. 그해 2월에 샌프란시스코행 편도 항공권을 끊었고, 친구 집 소파를 전전하면서 조건을 정했다. 일자리를 얻기 전에는 샌프란시스코를 떠나지 않고, 직무는 PMM이 아닌 PM이어야 하며, 회사는 AI 회사여야 한다는 조건이었다. 약 3주 동안 LinkedIn으로 연락하고 커피챗을 이어 간 끝에 Adept 팀을 만났고, 그들을 설득해 자신을 위한 PM 자리를 새로 만들게 했다. 클로이는 이것을 남의 회사에 자기 일자리를 만든 셈이라고 평하고, 홀리는 운이 정말 좋았다고 말한다.
Adept는 컴퓨터 사용 모델을 개발한 리서치 랩이었고, 물류 회사에서 흔한 업무처럼 사람이 양식을 채우느라 오래 클릭해야 하는 일을 대신하는 에이전트를 기업에 팔려고 했다. 홀리는 사실상 제품이 없었다고 말한다. 모델을 판매할 수 있는 제품으로 만들어 내는 데 고전했고 힘든 한 해였다는 것이다. 리서치 팀이 Amazon으로 옮겨 간 뒤, 그는 제품-시장 적합성이 더 분명한 곳으로 가야 한다고 판단했다. 대학 시절 내내 프리랜서 디자이너로 일했던 그에게 Figma는 꿈의 회사였고, 그는 직접 연락해 합류했다. 입사 5주 차에 Figma의 딜런(Dylan)이 코드 기반의 생성형 디자인 도구 같은 것을 만들어야 한다며 그 일을 그에게 맡겼다. 홀리는 Figma Make가 자신이 아니라 딜런의 아이디어였고, 주변에 맡을 사람이 달리 없어서 자신에게 온 일이었다고 솔직하게 말한다. 팀은 몇 달 만에 제품을 만들었다.
Figma에서 보낸 1년 동안 Figma Make 출시와 IPO, 대규모 AI 팀 구축이 이어졌다. 그는 이 기세를 이어 가고 싶어서 OpenAI로 옮겼다. 큰 연구소에서 일하는 것은 몹시 어렵겠지만 지금이 아니면 기회가 없다고 느꼈고, 어느 날 아침 직관적으로 결정했다고 한다. 'The Artist's Way' 독서 모임에서 만난 멘토가 OpenAI에서 일하며 회사를 높이 평가한 것도 계기가 되었다. 영상 끝의 속성 문답에서도 같은 커리어관이 드러난다. 그는 승진하기보다 옳은 쪽에 서기를 택하고, 승진을 좌우하는 실력과 가시성의 비중을 40% 대 60%로 본다. 관리자가 되려고 연봉 삭감을 감수하겠느냐는 질문에는 관리자가 사람들의 삶을 의미 있게 바꿀 수 있다며 감수하겠다고 답한다. 올해의 고민으로는 일과 별개로 예술을 보고 생각하는 창작 커리어를 꼽는데, 개인 SNS를 하지 않는 이유도 언젠가 시작할 예술과 인테리어 디자인 작업을 위해 개인 이름을 아껴 두고 싶어서라고 한다.
OpenAI PM 면접은 정석적이지만, OpenAI는 제품을 직접 써 본 경험과 집요함이 있는 사람을 찾는다
홀리는 OpenAI 면접이 예상보다 정석적이어서 조금 놀랐다고 말한다. 지금 PM 면접 질문을 검색하면 나오는 질문들이 그대로 나왔고, AI 회사다운 의외의 질문은 없었다. 그는 제품 감각과 실행 같은 표준 영역을 준비했고, 면접은 하루에 몰아서 진행되었다. member of product staff라는 직함도 직군 이름일 뿐 실제로는 PM이라고 설명한다.
OpenAI가 어떤 사람을 뽑느냐는 질문에 홀리는 PM들의 출신이 매우 다양하다고 답한다. 다만 공통점을 하나 꼽자면 무언가를 끝까지 밀어붙이는 열망과 끈기라고 말한다. 그 예로 자신의 상사를 든다. 상사는 상황이 아무리 어려워도 "지금 만나서 지금 해결하자"라며 문제가 해결될 때까지 자리를 뜨지 않는다는 것이다. 대부분의 회사는 내일 해결하자며 넘기지만, OpenAI는 지금 바로 해결하는 곳이라고 그는 말한다. 자신에게도 그런 기질이 있다고 생각했지만, 그곳 사람들은 그 기질이 훨씬 강하다는 것을 깨닫는 중이라고 덧붙인다.
AI PM 면접을 준비하는 사람에게 주는 조언은 하나다. 시중의 제품을 전부 직접 써 보라는 것이다. 당연해 보이지만, 그는 OpenAI의 제품 직무에 지원하면서도 Codex를 한 번도 써 보지 않은 지원자를 여럿 만났다고 말한다. 써 볼 것이 너무 많다는 사정은 이해하지만, 기본 워크플로조차 시도해 보지 않아서 무엇이 자신에게 통하는지 의견이 없는 사람이 놀라울 만큼 많다는 것이다. 그는 AI의 미래를 아는 사람은 아무도 없고 내부 사람들도 이것저것 시도하며 무엇이 통하는지 지켜보는 중이니, 그런 의미에서는 누구나 이 일을 할 자격이 똑같이 있다고 말한다.
지원자가 흔히 저지르는 실수로는 자신감 부족을 꼽는다. 지원자가 스스로를 확신하지 못하면 경직되어 보이고, 면접관이 원할 것 같은 준비된 답에 지나치게 매달리게 된다. 그러면 답이 외운 것처럼 들리고 미소조차 꾸민 것처럼 느껴진다. 홀리는 지원자가 그 자리에 부여하는 상징성 때문에 일자리를 간절히 원하는 사람보다, 직무 자체에 호기심을 갖고 편안하게 임하면서 실제 아이디어를 두고 면접관과 가볍게 논쟁해 보려는 사람을 원한다. 면접에서 어느 정도 자신을 연출하는 것은 당연하지만, 지원자가 실제로 무엇을 믿는지 면접관이 알 수 있어야 한다는 것이다. 이미 직장을 가진 사람이라서 할 수 있는 말이라는 점은 스스로 인정한다. 그리고 Substack이나 Twitter에서 읽은 문장을 외워 온 사람은 네트워킹 저녁 자리에서도 금방 티가 난다고 덧붙인다.
Dots는 설정 없이 어디서든 부를 수 있는 상시형 비서를 지향한다
홀리의 설명에 따르면 Dots는 항상 켜져 있는 개인 비서다. 휴대폰에서도 노트북에서도 같은 비서가 도와주고, 전화를 걸어 말로 일을 맡길 수 있다. 쉬지 않고 일하고, 먼저 나서서 제안하며, 시간이 지날수록 사용자에 대해 배운다. 홀리는 이미 자신의 Dot 없이는 일하기 어렵다고 말한다. 인터뷰 장소로 오는 차 안에서도 전화를 걸어 LA행 항공편을 예약하게 했고, 하루에 몇 시간씩 폰 부스에 들어가 Dot과 함께 제품 로드맵을 짜고 어려운 문제를 풀어 간다. 그는 Dot을 두 번째 뇌라고 부른다.
최근 쏟아진 다른 AI 비서들과 무엇이 다르냐는 질문에 홀리는 먼저 설정이 거의 필요 없다는 점을 든다. 사용자가 ChatGPT나 Codex에서 이미 쓰던 커넥터와 플러그인이 그대로 있어서, 비서가 처음부터 그 맥락을 알고 시작한다. 그리고 더 큰 차이로 여러 기기에서 같은 비서를 부를 수 있다는 점을 꼽는다. 사용자가 통화하면서 일을 맡긴 뒤 노트북으로 돌아오면, Dot이 클라우드에서 작업하거나 사용자 컴퓨터에 있는 자료로 작업을 이어 간다. 개발자나 노트북으로 콘텐츠를 만드는 사람에게는 고급 활용법이 따로 있지만, 대부분의 사람에게는 전화를 걸면 똑똑하게 일해 주는 비서라는 점만으로 충분하다는 것이 그의 설명이다.
홀리가 가장 많이 쓰는 방식은 그냥 말을 거는 것이다. 하루를 정리하고 큰 문제를 털어놓으며, 어려운 문제를 함께 생각해 줄 상대로 Dot을 쓴다. 동시에 "X가 일어나면 Z를 하라", "이런 일이 생기면 알려 달라" 같은 모니터링 업무도 맡긴다. 그의 경우에는 사용자 피드백과 조직 곳곳에서 벌어지는 일이 대상이며, 비즈니스 직군이라면 매출을 지켜보거나 회사 안에서 일어나는 일을 알려 주게 할 수 있다고 말한다. 또 많은 글의 초안을 Dot에게 맡기고 자신은 검토만 하는데, 덕분에 예전보다 훨씬 많은 사람과 소통하고 그들을 도울 수 있게 되었다고 한다.
클로이의 세부 질문에 대한 답도 설계 의도를 보여 준다. 전화를 걸면 신호음이 울리게 한 데에는 조금 더 즐겁고 사람처럼 느껴지게 하려는 의도도 있지만, 음성 모델이 시작하는 데 실제로 시간이 필요하다는 이유도 있다. Dots를 유료 요금제에만 제공하는 이유는 팀이 아직 배워 가는 단계이기 때문이다. 무엇이 통하는지, Dot이 얼마나 먼저 나서야 하는지 알아내야 하며, 가능한 한 많은 사람에게 제공하는 것이 목표라고 홀리는 말한다. 피드백은 외부 알파 사용자, Reddit과 Twitter, 그리고 내부 Slack 채널에서 받는다.
홀리는 4월에 OpenAI에 합류했다. 클로이가 7개월 전이냐고 묻자 5개월 전이라고 정정한다. 처음에는 팀을 위한 여러 사람이 함께 쓰는 에이전트인 Workspace Agents를 맡았는데, 에이전트를 Slack과 이메일처럼 실제로 필요한 곳에 넣는 방법을 고민하던 그 작업이 자연스럽게 Dots로 이어졌다. 그는 80명이 함께 아이 하나를 낳은 셈이라고 농담하며, 이번 출시는 회사의 거의 모든 부서가 참여한 일로, 자기 경력에서 가장 큰 출시였다고 말한다. Dots라는 이름은 매일 말을 걸고 싶은 대상에게 어울리는 친근하고 다정한 이름이며, 복수형으로도 단수형으로도 쓸 수 있고 사용자가 이름을 바꿀 수도 있다.
Dot 하나가 ChatGPT와 Codex를 지휘하고, Spaces는 대화만으로 다루기 어려운 일을 화면에 정리해 보여 준다
클로이는 ChatGPT부터 Codex, Dots, Spaces까지 제품이 늘어나 무엇을 언제 써야 할지 헷갈린다고 말한다. 홀리가 단순하게 정리한 답은 거의 모든 일을 Dot에게 맡기면 된다는 것이다. Dot이 Codex를 지휘하므로, 무언가를 만들거나 어려운 기술 작업을 하려고 Codex를 열던 일도 Dot에게 말하면 Dot이 감독한다. ChatGPT에서 묻고 답하던 대화도 Dot과 그대로 나눌 수 있다.
Spaces도 Dev Day에서 함께 공개되었으며, 사용자와 Dot이 함께 작업하는 캔버스 같은 공간이다. 홀리는 대화만으로는 한계가 있다고 말한다. 사람은 한 번에 몇 가지 생각밖에 다루지 못하는데, Dot이 페이지에 직접 차트를 그리거나 항목 목록을 적게 하자 큰 효과가 있었다는 것이다. 그는 사람에게 할 일 목록을 눈으로 보는 일이 이렇게까지 필요한지 놀랐다고 말한다.
페이지를 쓰면 Dot을 관리하는 새로운 방법도 생긴다. 홀리는 할 일 목록을 적어 두고, 지금 당장 맡길 항목에는 초록 체크 이모지를, 조사해 보라고 할 항목에는 물음표 이모지를 붙인 뒤 Dot에게 목록을 보라고만 말한다. 그는 이것이 시작에 불과하며, 시각 자료와 그래픽으로 에이전트를 관리하는 방식이 앞으로 많이 생길 것이라고 기대한다.
클로이는 왜 Discord 연동이 없느냐고 묻는다. 그의 팀과 크리에이터 커뮤니티는 음성 채널이 편하고 비용이 들지 않아서 Slack 대신 Discord를 쓴다는 것이다. 홀리는 좋은 피드백이라며 팀에 전달하겠다고 답하고, 이 문제는 그 자리에서 결론이 나지 않는다.
홀리는 Dev Day 라이브 데모가 중단되자 미리 세운 대비책과 즉흥 대응으로 수습했다
클로이는 홀리가 첫 연사 바로 다음 순서로 발표하는 큰 역할을 맡았다는 점을 짚는다. 홀리는 전날 밤 9시에 잠들었다. 주말 내내 충분히 준비해서 오히려 차분했고, 리허설 뒤에 사무실에 들러 동료들과 하이파이브를 나눈 다음 일찍 잤다. 새벽 5시에 일어나 음향 점검에 갔고, 무대 뒤에서 2시간 동안 헤어와 메이크업을 받으며 서성이고 첫 인사를 연습했다. 연극과 즉흥극을 해 본 그는 대중 연설을 좋아한다고 말한다.
데모에서 음성으로 부른 Dot은 응답하지 않았다. 홀리는 음성이 작동하지 않는 상황을 미리 대비해 두었다. 모든 것이 계속 바뀌는 환경이라 실패할 가능성이 있다고 보았기 때문이다. 실제로 응답이 없자 그는 Dot이 느린 아침을 보내는 중이라고 말한 뒤 타이핑으로 전환해 데모를 이어 갔다. 문제는 후반부였다. 그는 전반부를 진행하던 중에 기술 문제로 Codex 스레드가 시작되지 않은 것을 보았고, 준비한 약 3분 분량의 후반부 데모가 불가능하다는 것을 알았다. 대사를 말하는 내내 무엇을 할지 고민했고, 결국 즉석에서 마무리 발언을 만들어 냈다. 그는 아직 그 영상을 다시 보지 않았고 앞으로도 보지 않겠다고 말한다.
OpenAI는 이후 데모 중에 장애가 있었다고 공개적으로 밝혔다. 홀리의 설명에 따르면 데모가 진행되는 동안 20여 개 제품을 동시에 출시하고 있었고, 그 과정에서 무언가가 고장 났다. 그는 이 순간을 피하지 말고 직접 받아들여야 한다고 느꼈고, 관련 게시물에 "망할 와이파이"라는 문구를 붙여 리트윗했다. 이 문구는 그가 2007년 iPhone 데모라고 부른 장면, 곧 문제가 생기자 와이파이 탓이라며 넘겼던 장면에 대한 오마주였다. 와이파이는 실제 원인이 아니라 농담이었다. 클로이는 그 게시물이 100만 회 넘게 조회되었고 홀리의 팔로워가 1만 명을 넘었다고 말한다. Twitter를 시작한 지 24시간 만에 홀리는 옷차림에 대한 조롱과 친구의 반박, 조롱한 사람의 게시물 삭제와 사과까지 한 번에 겪었고, 지금도 Twitter가 무섭다고 말한다.
발표자로 뽑힌 과정은 단순했다. 많은 PM이 Dots에 참여했지만, 홀리는 Dot의 동작 설계에 깊이 관여했다. 어느 토요일 "즐겁게 하고 와, 네가 무대에 올라간다"라는 메시지를 받았고, 그는 경례 이모지로 답했다. 속성 문답에서 라이브 데모와 사전 녹화 가운데 무엇을 택하겠느냐는 질문에도 그는 라이브 데모라고 답한다.
무대 발표는 대사를 읊는 일이 아니라 이야기를 들려주는 일이다
더 나은 발표자가 되는 방법을 묻자 홀리는 격언 하나와 요령 하나를 내놓는다. 격언은 TikTok과 온라인에서 얻었다는 "자기 상상 속에서조차 패배자가 되지 말라"이다. 무대에 선 자신을 상상할 때는 가장 매력적이고 모두가 빠져드는, 이기는 모습을 그려야 한다는 뜻이다.
요령은 발표의 목적을 기억하는 것이다. 발표의 목적은 대사를 말하는 것이 아니라 사람들에게 이야기를 들려주고 그 안으로 끌어들이는 데 있다. 발표를 꼭 해내야 하는 과제가 아니라 들려주고 싶은 이야기로 받아들이면 훨씬 쉽고 즐거워진다고 그는 말한다. Dev Day에서 긴장하지 않았던 이유도 그 이야기를 정말 들려주고 싶었기 때문이라고 한다.
무대는 그에게 다른 의미도 있었다. 클로이가 AI 분야에서 공개적으로 발언하는 몇 안 되는 여성으로 지내는 것이 어떠냐고 묻자, 홀리는 그 현실을 바꿔야 한다고 단호하게 말한다. 더 많은 여성, 더 많은 창의적인 사람, 뛰어난 안목과 관점을 지닌 사람들이 이 분야에 와야 한다는 것이다. Dev Day 청중도 남성이 압도적으로 많았다고 그는 말한다. 자신이 그 자리에 섰기 때문에 다른 여성이 팀에 합류하는 일을 덜 부담스럽게 느낀다면 그것으로 충분하다고 말한다. 옷차림을 일부러 과감하게 고른 것도 그 점을 보여 주려는 선택이었다고 덧붙인다.
Dots는 개인 데이터 접근에 대한 불안에 여러 겹의 통제 장치로 답한다
Dots가 유용해지려면 받은편지함이나 메신저 같은 개인 데이터에 접근해야 한다. 홀리의 답은 데이터 사용, 모델, 제품 동작, 사용자 권한, 자동 검토 단계마다 통제 장치를 겹겹이 두어 통제권을 사용자에게 준다는 것이다.
반론. 받은편지함과 문자, 금융, 건강 데이터까지 AI에 넘기는 일을 어떻게 받아들이라는 것인가. 클로이는 자신이 AI 낙관론자이고 여러 베타 테스트 모임에도 참여하지만, 이런 데이터를 넘기는 일만큼은 받아들이지 못한다고 말한다. 데이터를 더 많이 공유할수록 AI가 더 강력해진다는 것을 알면서도 그렇다. 홀리는 먼저 개인정보와 통제를 구분한다. 데이터 사용 측면에서는 설정에 있는 데이터 제어 메뉴에서 데이터를 모델 개선에 쓰는 옵션을 끌 수 있고, 그러면 OpenAI가 그 데이터를 쓰지 않는다. 그는 더 많이 연결할수록 Dot이 더 많은 정보를 서로 이어 더 잘 도울 수 있다는 점도 숨기지 않는다.
Dot이 할 수 있는 일에 대해서는 층을 나눠 설명한다. 홀리는 바탕에 OpenAI에서 가장 정렬이 잘된 모델을 썼다고 말한다. 그 위에서 제품 동작을 일부러 보수적으로 설계했다. 원래 Dots는 답장하지 않은 이메일을 발견하면 먼저 답장 초안을 써 두고 보낼지 말지를 사용자에게 맡겼는데, 팀은 그것조차 과하다고 판단했다. 지금은 초안을 쓸지부터 사용자에게 묻는다.
그다음은 사용자가 직접 행사하는 통제다. 사용자는 Gmail 같은 커넥터별로 Dot의 접근 여부를 정할 수 있고, Dot이 이메일을 훑어볼 때도 기본값은 읽기 전용이어서 명시적으로 허락하지 않으면 쓰기 작업을 하지 못한다. 여기에 사용자 규칙이 더해진다. "내게 묻지 않고 X를 절대 하지 말라"처럼 막을 수도 있고, "X는 묻지 않고 해도 된다"처럼 풀어 줄 수도 있다. 미국 대형 마트 Target에서 휴지를 살 때마다 허락을 구할 필요는 없다는 사용자 의견이 있어서 그 판단을 사용자에게 맡겼다는 것이다. 마지막으로 AI 자동 검토자가 모든 상호작용을 살피다가, 사용자가 맡긴 일이 의도하지 않은 결과를 낳을 것 같으면 그 작업을 찾아내 알린다.
클로이는 공인이자 크리에이터여서, 자기 이름으로 이메일이 잘못 나가 스크린숏이 퍼지면 치명적이라고 말한다. 캘린더는 연결해 쓰는데, 최악이라고 해도 일정 하나가 지워지는 정도여서 다시 만들면 되기 때문이다. 홀리는 바로 이런 차이 때문에 사용자 규칙이 의미가 있다고 답한다. 사람마다 불안해하는 기준이 다르니, 모든 이메일 초안이나 특정한 사람에게 가는 초안은 반드시 본인을 거치게 하라는 규칙을 자연어로 정하면 된다는 것이다.
안전장치는 위험을 줄일 뿐이며, Dot이 이미 실행한 행동과 이미 본 정보는 되돌리기 어렵다
반론. AI는 하지 말라는 일을 하지 않는다는 말이 보장이 될 수 있는가. 클로이가 가장 두려워하는 것은 Dot이 허락 없이, 혹은 명시적으로 금지했는데도 다른 사람에게 이메일을 보내거나 프롬프트 인젝션을 당하는 상황이다. AI가 환각을 일으키거나 이미 정해 둔 규칙을 어겼다는 보고가 많고, 다른 제품 데모에서 AI는 하지 말라는 일은 당연히 하지 않는다는 말을 들었을 때 그는 AI가 원래 그렇게 작동하지 않는다고 생각했다. 홀리는 그런 위험이 본질적으로 존재한다고 인정한다. 자동 검토 과정은 리서치 팀과 함께 만들고 있으며, 사용자가 오래전에 준 허락이 지금도 유효한지 모델이 감지하도록 학습시키는 일이 지금 가장 집중하는 개선 영역 가운데 하나라고 말한다.
다른 사람이 보낸 이메일에 지시를 숨기는 프롬프트 인젝션에 대해서도 홀리는 자동 검토자를 답으로 내놓는다. 자동 검토자는 모든 작업을 한 번 더 살펴보는 AI 모델이며, 전체 맥락을 보고 수상하지 않은지, 클로이가 정말 이것을 원했을지를 판단한다. 홀리는 자동 검토자가 이런 문제를 매우 정확하게 잡아낸다고 말하지만, 정확도를 수치로 제시하지는 않는다.
홀리가 일반 사용자에게 꼭 알려 주고 싶은 점도 있다. Gmail 접근 권한을 줬다가 회수해도, 그때까지 Dot의 기록과 맥락에 들어간 내용은 남는다. Dot은 앞으로 오는 이메일은 읽지 못하지만 예전에 본 이메일은 기억할 수 있다. 그는 이것을 사람과 나눈 대화에 빗댄다. 대화를 멈춰도 상대는 그때까지 나눈 이야기를 기억한다는 것이다.
반론. Dot이 사용자가 예상하지 못한 일을 하면 무슨 일이 있었는지 어떻게 확인하고, 되돌리고, 멈추는가. 홀리는 Dot이 한 일을 모두 보여 주는 스레드가 앱에 있다고 답한다. 아이콘을 누르면 열리는 작은 활동 패널에서는 Dot의 전화번호와 Dot이 Slack에서 어디에 들어가 있는지, 활동 기록, 백그라운드에서 아직 진행 중인 장기 작업을 볼 수 있다. 멈추고 싶으면 그냥 멈추라고 말하거나 다른 지시를 내리면 된다. 하지만 그는 이미 실행된 행동은 되돌리기 어려울 때가 있다는 것이 AI의 현실이라고 인정한다. 그 자신도 Dot에게 이메일을 보내라고 직접 시켰다가 보내지 말았어야 했다는 것을 깨닫고 취소를 지시한 적이 있다. Gmail의 30초 발송 취소 시간 안이라면 되돌릴 수 있지만, 사람이 하는 일과 마찬가지로 어떤 일은 실행을 취소하기 어렵다고 그는 말한다.
안전 때문에 미룬 기능의 예로 홀리는 Slack 동작을 든다. 지금은 Dot을 Slack에 넣어도 주인에게만 응답한다. 처음에는 다른 사람에게도 응답하는 편이 자연스럽다고 보았다. 사용자의 형제가 그 사용자의 Dot에게 무언가를 부탁하면 Dot이 함께 일을 풀어 주는 식이다. 그러나 따져 볼 것이 많다고 판단해 처음에는 매우 보수적으로 시작했다. 지금은 주인이 아닌 사람이 말을 걸면 응답할 수 없다고 답하고 대화를 끝낸다.
AI 비서를 쓰는 목적은 효율이 아니라 자기 삶에 대한 통제감을 되찾는 데 있다
반론. 크리에이터는 장보기마저 직접 하고 싶어 하는데, 모든 것을 자동화하자는 AI 데모가 무슨 의미가 있는가. 클로이는 기술에 밝은 사람이 아니고 그렇게 되고 싶지도 않아서, 모델을 고를 필요 없이 사람에게 맡기듯 일을 맡길 수 있는 비서에 기대가 크다고 말한다. 하지만 실리콘밸리는 AI에 열광하는 사람들끼리 같은 이야기를 주고받는 에코 체임버라고 지적한다. 크리에이터 모임에서 제품 데모를 보면 다들 멋지지만 필요는 없다고 반응한다. 데모는 개인 셰프처럼 Instacart로 장을 봐 준다고 내세우지만, 크리에이터는 과정 자체를 즐긴다. 직접 장을 보고, 사람과 직접 이야기하고, 항공편 좌석도 직접 고르고 싶어 한다는 것이다.
홀리는 먼저 클로이의 말에 동의한다. 그는 오하이오 시골 출신이고 마케팅을 했으며, 쉬는 시간에는 예술가로서 몇 시간씩 물건을 만지고 무언가를 만드는 일을 가장 아끼는 사람이다. 그런 그가 AI 업계에서 일한다는 역설도 인정한다. Twitter에서 오가는 이야기가 온통 AI로 무엇을 자동화할지에 쏠려 있다는 것을 잘 알고 있으며, 자신도 AI가 대신 주문해 주기보다 식료품점에 직접 걸어 들어가고 싶다고 말한다.
그래도 Dots가 사람들에게 와닿을 수 있다고 보는 이유는, 그 자신이 Dot을 가장 많이 쓰는 방식이 그저 말을 거는 것이기 때문이다. 무언가를 털어놓고 나면, 어제 한 말과 지금 하는 말이 어긋난다거나 오늘 하겠다던 일에 아직 시간을 내지 않았다고 짚어 주는 존재가 있다는 사실만으로도 심리적인 효과가 있다고 그는 말한다. 그 덕분에 자기 하루를 더 통제한다고 느끼고, 정신이 더 온전해진 기분이 든다는 것이다. 그래서 그는 AI 비서를 쓰는 목적이 효율인 경우는 거의 없으며, 핵심은 통제감을 되찾는 데 있다고 말한다. 누군가에게는 AI 비서에게 바라는 일이 DoorDash 주문이나 코드 작업, 빠른 초안 작성일 수 있지만, 클로이나 자신 같은 사람에게 가장 와닿는 것은 삶에 대한 주도권을 되찾는 일이라고 한다.
클로이는 이 관점을 자기 처지에 대입해 본다. AI 마케팅과 데모는 대부분 사람을 초인으로 만드는 이야기인데, 컨디션이 100%일 때 그는 도움이 필요 없다. 그가 관심을 두는 것은 컨디션이 10%일 때다. 임신 중인 그는 출산 뒤 브레인 포그 때문에 평소 능력의 10% 정도밖에 발휘하지 못한다고 들었지만, 그때에도 가정과 일 전체를 총괄해야 한다. 몸이 따라 주지 않아 잠시 물러나야 할 때 대신 챙겨 주는 도움이 그가 원하는 것이다. 홀리는 필요한 순간에 누구에게나 비서가 있다는 것 자체가 큰 힘이 된다고 답한다. Dot이 먼저 연락해 X, Y, Z를 처리할지 묻고, 지난 영상의 성과 보고서를 건네고, 필요하면 초안을 써 주겠다고 제안하는 모습을 예로 든다.
AI는 Twitter의 1%가 아니라 AI를 가장 필요로 하는 일상 사용자에게 닿아야 한다
클로이는 크리에이터 입장에서 AI를 이야기하기가 어렵다고 말한다. 악성 댓글과 반발이 올 것을 알기에 메시지는 물론 행사 참석이나 게시물 하나에도 매우 조심한다. 균형 잡힌 AI 낙관론자로 남으려 하지만, AI에 관한 글을 올릴 때마다 마음을 졸인다는 것이다. 홀리의 솔직한 생각은 AI 업계가 Twitter의 1%보다 나머지 세상과 훨씬 더 많이 대화해야 한다는 것이다. 진부하게 들리겠지만 교사, 학생, 어머니처럼 AI가 가장 필요한 사람들이 실제로 혜택을 받게 해야 한다고 그는 말한다. 그는 Dots가 돈을 아끼고, 사업을 시작하고, 아이디어를 키우는 데 도움이 될 수 있다고 보며, Dots가 또 하나의 실리콘밸리 현상으로 끝나지 않기를 바란다.
그 근거로 홀리는 Dots의 인터페이스를 든다. 전화를 걸어 말만 하면 되므로 아마 OpenAI에서 가장 접근하기 쉬운 제품일 것이라고 말한다. 그가 만난 한 사용자는 아무것도 입력하지 않고 처음부터 전화를 걸어 프로젝트 이야기를 시작했고, 말로 하기만 해도 같이 일할 수 있다는 사실에 놀랐다. 가족의 예도 든다. 홀리의 어머니는 최근에야 처음으로 ChatGPT를 써서 80년대풍 가발에 형광 분홍 정장을 입은 자기 모습을 이미지로 만들어 봤을 만큼 개인 에이전트와는 거리가 멀다. 그러나 기술에 익숙하지 않은 어머니도 중국어로 에이전트에게 말하면, ChatGPT 사용법을 배우지 않고도 여러 일을 맡길 수 있을 것이라고 본다. 세 살이 안 된 두 아들을 키우며 의사로 일하는 여자 형제에게는 아이들 학교 일과 공과금 납부, 반려견까지 챙기는 Dot을 주고 싶다고 말한다. 여자 형제가 서류와 행정 처리에 쓰는 시간을 덜어 주어 Netflix를 볼 시간을 돌려주는 것이 목표라는 것이다.
클로이가 AI 개발에 대한 개인적인 두려움과 자기 위치에서 지키고 싶은 가드레일을 묻자, 홀리는 두려움을 직접 꼽기보다 리서치 팀과 계속 긴밀하게 소통하는 일이 중요하다고 답한다. 제품이 어떻게 동작해야 하는지, 사용자에게서 무엇을 듣고 있는지에 대한 제품 팀의 의견이 리서치 팀의 모델 학습 방식에 실제로 영향을 준다는 것을 보며 힘을 얻었다고 한다. 그는 사용자에게 정말 필요한 것을 리서치 팀에 전달하는 것이 자신의 책임이라고 말한다. 그리고 교사와 학생처럼 실제로 부담을 덜 수 있는 사람들에게 Dots를 전하고, 그들이 쓰는 방식을 다시 제품에 반영하는 피드백 고리를 만들고 싶다고 말한다.
클로이도 크리에이터로서 비슷한 역할을 자임한다. 일상 사용자들의 이야기를 듣고, 그 사람들을 직접 만날 기회가 없는 의사 결정자들에게 그 이야기를 전달하는 것이 자신의 책임이라는 것이다. 그는 참여했던 베타 테스트 Slack 채널 가운데 하나에 200명이 있었지만 여성은 자신을 포함해 두 명뿐이었다고 말한다.
영상이 확인하지 않은 것도 남는다. 자동 검토자가 매우 정확하다는 말은 홀리의 평가일 뿐이며, 수치나 검증 방법은 제시되지 않았다. 무료 요금제 제공은 의도로만 언급되었고 시기는 나오지 않았다. 클로이가 요청한 Discord 연동은 팀에 전달하겠다는 답만 나왔을 뿐 결론이 나지 않았다. 클로이는 캘린더 연결 정도는 받아들이지만, 받은편지함 접근에 대한 그의 불안이 풀렸는지는 영상 안에서 확인되지 않는다.