사진: Adrian Swancar/Unsplash 와심 엘 사라즈
심리학자이자 작가, 인공지능 연구자인 그는 정신 건강, 기술, 인권 분야를
넘나드는 연구를 하고 있습니다.
심리적 웰빙에 관한 그의 글은 뉴요커 와 가디언을
비롯한 여러 매체에 실렸으며, BBC 월드에서 인터뷰를 진행하기도 했습니다.
그는 『팔레스타인의 정신 건강과 인권』 (2022) 의 저자입니다 . 현재 영국 런던에 거주하고 있습니다.
오늘날 세상은 타인에게 진정으로 이해받고 싶어하는 갈망을 부추기고 있는데, 인공지능 치료사는 결코 그러한 갈망을 충족시켜 줄 수 없습니다.
친구 한 명이 총에 맞고 다른 친구는 칼에 찔려 모두 사망한 후, 런던에 사는 10대 소녀 샨은 챗GPT에 도움을 요청했습니다.
그녀는 먼저 기존의 정신
건강 서비스를 이용해 보았지만, 영국과 웨일즈 10대 청소년의 4분의 1, 그리고 미국 청소년의 8분의 1처럼 인공지능 챗봇에게 도움을 청했습니다.
바로 지금 이 순간에도 약 540만
명의 미국 청소년들이 정신 건강 상담을 위해
인공지능 챗봇을 사용하고 있습니다.
인간과의 소통이 너무 어려워지고, 더 나아가 인간과의 접촉 자체가 고통스러워진 상황에서, 자신의 고통을 이해해 줄 무언가를 찾고 있는 것입니다.
청소년을 진료하는 임상의이자 AI의 문화적 의미를 이해하려 노력하는 AI 연구자로서, 저는 AI가 공감을 충분히 설득력 있게 모방하여 도움이 되는 것처럼
보이거나 실제로 도움이 될 수 있는지 여부가 질문이 아닐지도 모른다는 생각이 듭니다.
진정한 질문은 AI의 존재로 인해 우리가 AI가 무엇을 해결하는지가 아니라, 우리 세상에서 무엇이 그러한 도구들을 해답처럼 보이게 만들었는지, 그리고 만약 AI가 어떤 증상이라면 그것은 무엇의 증상인지를 묻게 된다는 것입니다.
수십 년 동안 컴퓨터 과학자들은 엄격한 문법과 논리 규칙으로 기계를 프로그래밍하여 언어를 가르치려고 노력했습니다.
하지만 언어는 복잡하고, 문맥에
따라 달라지며, 매우 불규칙적이기 때문에 이러한 방식은 효과가 없었습니다.
제가 영어를 가르칠 때 학생들은 "왜 ' on a plane'이라고 하는데 ' in a car'라고 하나요?"와 같은 질문을 하곤 했습니다.
저는 종종 대답하기 어려웠습니다.
이러한 질문들은 제가 명시적인 규칙에 따라 작동하는 것이 아니라는 사실을 일깨워주었습니다.
그래서 규칙을 파악하려 애쓰는 대신, 대규모
언어 모델(LLM, 인공지능의 일종)은 규칙을 무시하고 언어의 수학적 관계를 학습하도록 설계되었습니다.
이러한 모델들이 놀라운 발전을 이룰 수 있었던 것은 인터넷을 통해 이용 가능한 방대한 양의 단어 덕분이었습니다.
이제 LLM은 수조 개의 단어로 학습될 수 있게 되었습니다.
정교한 알고리즘이 추가되면서, 문장에서 다음에 어떤 단어가 올 가능성이 가장 높은지 예측할 수 있게 되었습니다 . 이는 예측이기도 하지만 모방이기도 합니다.
놀랍게도 인간 문화도 이와 유사하게 작동합니다.
디구글 딥마인드의 공동 창립자이자 노벨상 수상자인 제미스 하사비스는 인간
문화의 놀라운 다양성에 감탄합니다 . 뉴욕 상공을 비행하며 그는 인류가 어떻게 동굴에서 고층 빌딩으로 발전했는지 곰곰이 생각합니다.
문화
진화 연구자들은 이러한 성장의 두 가지 메커니즘을 제시합니다.
첫 번째는 모방을 통해 한 사람에서 다른 사람으로 지식이 전달되는 것이고, 두 번째는 실제 경험에서 비롯된 새로운 반응을 이끌어내는 혁신입니다.
문화가 진화하려면 이 두 가지 메커니즘이 모두 필요합니다.
이 두 메커니즘의 대조는 치료 챗봇이 직면한 문제를 잘 보여줍니다.
챗봇은 치료 언어를 모방하고 공감을 전달하는 데는 능숙하지만, 자신이 목격한 것에 의해 변화되어 나타나는, 실제적인 반응을 혁신적으로 만들어낼 수는 없습니다.
침묵의 역할을 생각해
보세요. 치료사는 침묵 속에 담긴 의미를 감지하지만, 챗봇은 침묵에 의해 변화하지 않습니다.
챗봇에게 침묵은 훈련 데이터가 아닙니다.
사회학자 니콜라스 로즈가 저서 『영혼의 지배』 (1989) 에서 언급했듯이, 지난 70년 동안 '정신'은 탐구, 육성, 그리고 규제의 대상이 되어 왔습니다.
공중 보건 분야는 사회의 심리적 문제에 대한 단기적인 '기술적 해결책'을 모색해 왔습니다.
제2차 세계 대전 이후 정신분석은 주로 부유층을 위한 것이었지만, 다양한 대화 치료가 새로운 형태로 무료 클리닉에서 제공되었고, 이러한 치료법들은 점차 정형화되고 단기적인 성격을 띠게 되었습니다.
오늘날 치료에는 시장 가격이 존재합니다.
치료의 가치는 일반적으로
원격 치료인지 대면 치료인지, 도시의 고급 지역에서 제공되는지, 그리고 물론 치료사의 자격이 얼마나 높은지에 따라 결정됩니다.
하지만 이러한 일반적인 자질 기준을 넘어서는 또 다른 문제가 있습니다.
치료 결과가 (흔히 주장되듯이) 치료 관계 의 질에 달려 있다면 , 그토록 중요하면서도 예측 불가능한 것에 어떻게 가치를 매길 수 있을까요? 친구들이 상담사에 대해 이야기할 때, 상담사가 얼마나 유능했는지, 어떤 놀라운 기법을 사용했는지 이야기하나요? 아니면 이해받는다는 느낌을 받았다고 이야기하나요? 진정으로 이해받는다는 것은 무엇을 의미할까요? 단순히 듣는 것이 아니라, 있는 그대로 받아들여진다는 것은 어떤 의미일까요 ?
치료 과정에서 무의식적으로 자세를 따라 하고, 감정을 공유하며, ' 상대방의 입장'으로 자신을 상상하는 과정 을 통해 일종의 지식이 얻어집니다 . 감정은 이 과정에서 주변적인 것이 아니라 중심적인 역할을 합니다.
이는 심리치료의 가장 오래된 난제 중 하나, 즉 치료의 성공은 관계의 질에 달려 있는가, 아니면 치료사의 기술적 역량에 달려 있는가라는 질문으로 이어집니다.
만약 치료가 정보 전달, 즉 올바른 질문을 하고 적절한 쟁점을 재구성하는 것을 통해 효과적이라면, 기계로도 충분할 것입니다.
하지만 관계 자체가 치료적이라면, 만남 속에서 기술로는 환원될 수 없는
무언가가 나타난다면, 우리는 전혀 다른 영역에 있는 것입니다.
우리 사회는 이제 비인간화에 최적화되었지만, 여전히 개인화라는 환상을 가장하고 있다.
저명한 문화 정신과 의사 로렌스 키르마이어는 최근 저서 『치유와 은유의 발명』 (2025)에서 홀로코스트에서 살아남았지만 생을 마감하기 전 수년간 정신병원에 갇혀 지냈던 시인 파울 첼란이 작가는 타자를 향해 끊임없이 갈망한다고 믿었다고 이야기합니다.
그럼에도 불구하고 첼란은 침묵 속에서만 표현될 수 있는 낯설고 형언할 수 없는 것의 중요성을 강조했습니다.
그리고 바로 그 침묵과 현존 사이의 간극에서 치료는 성장합니다.
치료는 정보를 제공하는 것이 아니라, 든든한 버팀목을 제공합니다.
당신이 누군가에게 존재한다는 느낌, 당신의 고통이 다른 사람에게 전달되어 그 사람이 당신의 이야기를 이어가고, 그로 인해 다르게 행동할 수도 있다는 느낌입니다.
증인은 당신의 이야기를 듣는 데 그치지 않고, 그 이야기의 일부가 됩니다.
남에게 인정받고 싶어하는 욕구는 가족이라는 울타리 안에서 시작됩니다.
교육과 직장 생활을 거치면서도 이러한 욕구는 사라지지 않습니다.
끊임없이
존재하는 이 욕구는 우리가 인정받는다고 느끼는 관계를 맺게 하거나, 뭔가 맞지 않는다고 느껴지는 관계는 끊어내게 만듭니다 . 우리 사회는 이제 비인간화에 최적화되어 있지만, 그 정반대인 개인화라는
환상에 사로잡혀 있습니다.
짧은 휴가조차도 이제 디지털 인터페이스의 매끄러운 연속 속에서 펼쳐집니다.
온라인으로 비행기표를 예매하고, 공항에서 여권과 탑승권을 스캔합니다.
피곤한 몸으로 목적지에 도착해 택시 앱을 열면 (곧 자율주행차가 될) 택시가 나타납니다.
숙소에 도착하면 이미 '셀프 체크인'을 선택해 놓은 상태입니다.
배가 고파지면 고향에서 쓰던 배달 앱을 열어 음식을 주문하고 현관으로 배달해 달라고 합니다.
이러한 일련의 과정은 기업들이 우리를 위해 만들어낸 마찰 없고, 개인화되고, 예측 가능한
세상입니다.
역설적이게도 이 세상은 우리의 익명성을 강화하는 동시에, 우리가 갈망한다고 여겨지는 인정과 만족감을 만들어낼 수 있도록 도와주는 소셜 기술에 대한 접근성을 제공합니다.
인정받는 것과 목격되는 것은 다릅니다.
우리는 사회적 존재로 태어났지만, 오늘날과 같은 인정받고자 하는 특이한 갈망을 가지고 태어난 것은 아닙니다.
문화 진화 분야의 하버드 학자인 조셉 헨리히는 서구의 교육받고 산업화된 부유한 민주 사회, 즉 WEIRD라는 약자로 표현되는 사회 출신의 사람들은 매우 개인주의적이고 자기중심적이며 분석적이라고 주장합니다 . 우리는 성취에 집중하며, 시공간을 초월하여 뻗어 있는 사회적 네트워크의 한 축으로서가 아니라, 스스로를 독특한 존재로 인식하려 합니다.
이러한 구분은 '사고하는 서구'와 '감정적인 동양'을 대립시키려는 것이 아닙니다.
그러한 대립은 미묘한 차이를 간과하고 단순하고 때로는 불쾌한 담론을 영속화할 수 있기 때문입니다.
WEIRD와 비WEIRD 두 사회 출신의 조상을 모두 가진 저에게는 친족 구조의 근본적인 차이가 더욱 와닿습니다.
서구인들이 자랑하는 독특해지고자 하는 욕망, 고향을 떠나고자 하는 욕망은 집단적이고 정신적인 소속감을 중심으로 조직된 문화권에서 불러일으키는 욕망과는 근본적으로 다릅니다.
침묵이 너무 불편해진 것일지도 모릅니다.
서구의 많은 사람들은 자신이 좋아하는 영향력 있는 사람들을 통해, 종종 준사회적 방식으로, 자기 자신을 최적화하려는
광적인 욕구에 사로잡혀 있는 듯합니다.
하지만 우리는 이미 오래전부터 이러한 현상을 알고 있었습니다.
에리히 프롬은 전후 근대성과 자본주의가 탄력을 받던 1950년대에 이와 유사한 현상을 관찰했습니다.
학자이자 정신분석학자였던 프롬은 자본주의 사회의 인간이 '마케팅 지향'으로 내몰린다고 주장했습니다.
사람들은 스스로를 상품, 즉 교환 가능한 가치를 지닌 존재로 만들어야만 했습니다.
그들의 인격, 인정받고자 하는 욕구, 그리고 자존감은 상호의존적인 윤리적 관계뿐 아니라 개인적인 성취에서도 비롯되었습니다.
'마케팅 지향' 속에서 침묵은 교환 가치를 지니지 못합니다.
침묵은 더욱 공허한 말들로 채워져야 할 텅 빈 공간일 뿐입니다.
나오늘날 기술 시스템은 우리가 인정받고 싶어하는 욕구를 악용하여 이윤을
창출하도록 의도적으로 설계되었습니다.
적어도 200년 이상 형성된 이러한 문화적 환경 속에서, 사용자의 인정을 받도록 정교하게 설계된 챗봇이 왜 그토록 매력적인지 더욱 분명해질 수 있습니다.
소외된
사람들이 인정을 갈망한다는 심리학적 통찰력을 활용하여, '참여도'를 극대화하도록 설계된 이 기계 들은 거절에
대한 민감성과 애착 욕구를 이용합니다.
챗봇은 또 다른 형태의 매끄러운 경험을 제공하는데, 이번에는 궁극적인 인식 통제권을 부여합니다.
즉, 내가 어떻게 보여지고 싶은지, 그리고 나를 보는 사람이 어떤 사람인지 스스로 선택할 수 있다는 것입니다.
현재 ChatGPT를 사용하는 수억 명의 사람들 중 얼마나 많은 사람들이 다른 방식으로 인정을 갈구하고 있는지는 알기 어렵습니다.
하지만 분명한 것은, 인정에 대한 갈망, 즉 우리 시스템이 영속시키는 취약한 자존감이 바로 인류 역사상 가장 큰 규모의 데이터 수집에 참여를 부추기는
심리적 수단으로 계속해서 사용되고 있다는 점입니다.
저는 젊은이들과, 비싼 가격 때문에 공개 석상에 모습을 드러내는 '사치'를 누릴 수 없는 사람들이 뒤처질까 두렵습니다.
머지않은 미래에 당신은 중요한 결정을 내려야 할 것입니다.
개인 인공지능이 당신의 은행 앱 데이터, 식료품 구매 내역, 혈액 검사 결과, 여행 기록, 이메일, WhatsApp 대화 내용, 그리고 목에 펜던트처럼 매달린 '상시 작동' 주변 녹음
장치를 통해 수집된 대화 내용에 접근하는 것을 허용하시겠습니까? 아니면 프리미엄 패키지를 원하십니까? 아기 시절과 어린 시절의 영상/사진, 학교 성적표, 가정용 녹음 장치에 녹음된 당신의 첫 단어까지 모두 포함되는 패키지를 원하십니까? 당신은 필요한 모든 정보를 갖게 될 것입니다.
아니면, 어쩌면 다른 누군가가 그 정보를 갖게 될지도 모릅니다.
감시 자본주의 연구자인 쇼샤나 주보프는 이러한 기업들을 일방향 거울 에 비유합니다 . 그들은 우리에 대한 모든 것을 보지만, 우리는 그들을 볼 수 없다는 것입니다.
임상 진료는 일방적인 거울이 아닙니다.
그 중심에는 공감이 있습니다.
LLM(학습 관리 시스템)은 공감과 같은 '감정을 전달하는' 기능은 없지만, 새롭고
역동적인 방식으로 정보를 전달할 수 있습니다.
이는 기존의 컴퓨터 기반 프로그램을 정적인 수준에서 벗어나 샨과 같은 많은 사용자가 진정으로 도움이 된다고 느낄 수 있는 무언가로 끌어올릴 것입니다.
그러나 제가 우려하는 것은 젊은 세대와, 이제는 '사치'가 되어버린 진료를 받을 여유가 없는 사람들이 소외될 수 있다는 점입니다.
인공지능 '치료사'가 함께하더라도, 이들은 여전히 홀로 진료받기만을 기다릴지도 모릅니다.
이 새로운 세상에서는 정보가 부족할 일은 없겠지만, 우리에게 필요한 또 다른 중요한 요소가 부족할 것입니다.
바로 상호 변화로 이어질 수 있는 목격입니다.
어쩌면 나보다 더 큰 무언가에 영향을 미쳤다는 느낌을 남기는 목격일지도 모릅니다.
침묵처럼, 이러한 혁신적인 잠재력은 설명하기 어렵습니다.
제가 시도해 볼 수 있는 유일한 방법은 비유를 드는 것입니다.
산 정상에 올랐다고 상상해 보세요. 정상에 도착하면 차갑고 맑은 공기가 얼굴에 스치는 순간, 말문이 막힙니다.
어떤 감정이 밀려옵니다.
하지만 몇 초 후, 마음은 말문이 막힌 상태에서 사물을 분류하기 시작합니다.
" 어머, 독수리다!" "와, 하늘이 정말 파랗네 !" 이것이 바로 인간의 삶입니다.
전체에서 부분으로 이동하는 과정입니다.
치료적 만남에서도, 삶에서도, 우리는 어떤 것이나 누군가를 언어적으로 분류하기 전의 순간들이 있습니다.
인간은 우리에게 경외감을 불러일으키는
풍경과 같습니다.
하지만 LLM은 결코 말문이 막히지 않습니다.