인공지능이 감정을 가진 인지 능력을 지닌 존재인 척하기보다는, 실제 위험과 한계를 살펴보아야 합니다. 인공지능에 인간적인 면모를 부여하는 것은 사람들에게 이러한 시스템의 실제 모습에 대한 잘못된 인식을 심어줍니다. 그리고 이는 여러 가지 결과를 초래합니다. d3sign/게티 이미지
인공지능 모델을 더욱 인상적으로
보이게 하려는 경쟁 속에서 기술 기업들은 언어 사용에 있어 연극적인 접근 방식을 취하고 있습니다.
마치 인공지능이 사람인 것처럼 이야기하는 것입니다.
인공지능의 "생각"이나 "계획"에 대한 언급은 이미 논란의 여지가 많은데, 이제는 인공지능 모델의 "영혼" 이나 "욕망", "계획", "불확실함"과 같은 표현까지 사용하고 있습니다.
이는 단순한 마케팅 전략이 아닙니다.
인공지능을 의인화하는 것은 오해를 불러일으키고 무책임하며, 무엇보다 명확성이 가장 중요한 시기에 이미 투명성 부족에 시달리는 기술에 대한 대중의 이해를 해치는 행위입니다.
대형 AI 기업들이 생성형 AI의 행동 양식을 밝히기 위해 진행하는
연구들은 종종 오히려 진실을 가리는 방식으로 표현되는 경우가 많습니다.
예를 들어, 최근 오픈아이디(OpenAI)에서 발표한
게시물을 살펴보겠습니다.
이 게시물은 자사 모델이 오류나 편법을 "자백"하도록 하는 연구를 자세히 설명하고 있습니다.
챗봇이 환각이나 음모와 같은 특정 "잘못된 행동"을 스스로 보고하는 방식을 탐구하는 이 실험은 매우 가치 있는 것입니다.
그러나 오픈아이디가 이 과정을 "자백"이라고 표현한 것은 대규모 언어 모델의 결과물에 심리적인 요소가 개입되어 있다는 것을 암시합니다.
아마도 이는 LLM이 진정한 투명성을 달성하는 것이 얼마나
어려운지에 대한 인식에서 비롯된 것일 수 있습니다.
예를 들어, AI 모델은 스도쿠 퍼즐 풀이 와 같은 활동에서 자신의 작업 과정을 확실하게 입증하지 못하는 경우가 있습니다 .
인공지능이 생성할 수 있는 것과 생성하는 방식 사이에는 간극이 존재하며 , 바로 이 때문에 인간과 유사한 용어를 사용하는 것이 매우 위험합니다.
우리는 이 기술의 진정한 한계와 위험성에 대해 논의해야 하지만, 인공지능을 인지 능력을 가진 존재로 규정하는 용어는 우려를 경시하거나 위험성을 은폐하는 것에 불과합니다.
편견 없는 기술 콘텐츠와 실험실 기반 리뷰를 놓치지 마세요. CNET을 Google 기본 소스로 추가하세요.
AI에는 영혼이 없다
인공지능 시스템은 영혼, 동기, 감정, 도덕관념을 가지고 있지
않습니다.
계산기가 사용자가 잘못된 키를 눌렀을 때 "사과"하지 않는 것처럼, 인공지능 시스템은 정직해야 한다는 의무감 때문에 "자백"하는 것이 아닙니다.
이러한 시스템은 방대한 데이터 세트에서 학습한 통계적 관계를 기반으로 텍스트 패턴을 생성할 뿐입니다.
그게 다예요.
인간적인 느낌이 드는 모든 것은 우리 내면의 삶이 매우 정교한
거울에 투영된 것이다.
인공지능에 인간적인 면모를 부여하는 것은 사람들에게 이러한
시스템의 본질에 대한 잘못된 인식을 심어줍니다.
그리고 이는 심각한 결과를 초래합니다.
의식이나 감정적 지능이 존재하지 않는 존재에게 그러한 의미를 부여하기 시작하면, 우리는 인공지능을 본래 의도와는 다르게 신뢰하게 됩니다.
오늘날 점점 더 많은 사람들이 면허를 소지한 자격을 갖춘
의료진 대신 "닥터챗GPT"에 의료 조언을 구하고 있습니다 . 또한 재정 , 정신 건강 , 대인 관계와 같은 분야에서도 AI가 생성한 답변에 의존하는 사람들이 늘고 있습니다.
어떤 이들은 챗봇과 일종의 유사 친구 관계를 형성하고 ,
챗봇이 내놓는 모든 조언이 자신의 결정과 행동에 "충분히 도움이 된다"고 여기며 그들의 의견에 전적으로 의존하기도 합니다.
우리는 인공지능에 대해 어떻게 이야기해야 할까요?
기업들이 의인화된 언어를 남용할 때, 시뮬레이션과 지각 능력
사이의 경계가 모호해집니다.
이러한 용어는 기대감을 부풀리고, 공포심을 조장하며, 우리가 진정으로 관심을 기울여야 할 문제들, 즉 데이터셋의 편향성, 악의적인 행위자의 오용, 안전, 신뢰성, 그리고 권력 집중으로부터 주의를 분산시킵니다.
이러한 문제들은 그 어떤 것도 신비로운 은유를 필요로 하지 않습니다.
앤트로픽(Anthropic)이 최근 유출한 ' 영혼 문서 '를 예로 들어보겠습니다.
이 문서는 클로드 오푸스 4.5의 성격, 자아 인식, 정체성을 훈련하는 데 사용됩니다.
이 다소 엉뚱한 내부 문서는 애초에 형이상학적인
주장을 하려는 의도가 아니었습니다.
오히려 엔지니어들이 디버깅 가이드를 즉흥적으로 풀어쓴 것에 가깝습니다.
하지만 기업들이 내부에서 사용하는 용어는 필연적으로 일반 대중이 그 기술을 이야기하는 방식에 스며들게 됩니다.
그리고 일단 그 용어가 자리 잡으면, 기술에 대한 우리의 생각뿐 아니라 그 기술을 대하는 우리의 행동 방식까지 형성하게 됩니다.
OpenAI의 AI "음모" 연구를 예로 들어보겠습니다 . 드물지만 기만적인 몇몇 반응을 보고 일부 연구자들은 모델이 특정 기능을 의도적으로 숨기고 있다고 결론지었습니다.
AI 결과를 면밀히 검토하는 것은 좋은 관행이지만, 챗봇이 자체적인 동기나 전략을 가지고 있다고 암시하는 것은 옳지 않습니다.
OpenAI 보고서는 실제로 이러한 행동이 기만적인 행위의 징후가
아니라 훈련 데이터와 특정 프롬프트 경향의 결과라고 밝혔습니다.
하지만 "음모"라는 단어를 사용했기 때문에 AI가 일종의 교활한 존재라는 우려로 논의가 흘러갔습니다.
더 정확하고 전문적인 용어들이 있습니다.
"영혼"
대신 모델의 아키텍처나 훈련이라고 표현하고, "고백" 대신 오류 보고나 내부 일관성 검사라고 부르세요. 모델을 "계획"이라고 하는 대신 최적화 과정을 설명하세요. 인공지능을 설명할 때는 추세, 출력, 표현, 최적화 도구, 모델 업데이트, 훈련 동역학 같은 용어를 사용하는 것이 좋습니다.
"영혼"이나 "고백"처럼 극적인 표현은 아니지만, 현실에 기반을 두고 있다는 장점이 있습니다.
솔직히 말해서, 이러한 LLM의 행동이 인간처럼 보이는 데에는
이유가 있습니다.
기업들이 그들에게 우리를 모방하도록 훈련시켰기 때문입니다.
2021년 논문 " 확률적 앵무새의 위험성에 대하여 "의 저자들이 지적했듯이, 인간의 언어와 의사소통을 모방하도록 설계된 시스템은 결국 인간의 어휘, 구문, 어조, 말투 등을 그대로
반영하게 됩니다.
이러한 유사성이 진정한 이해를 의미하는 것은 아닙니다.
단지 모델이 최적화된 기능을 수행하고 있을 뿐입니다.
챗봇이 현재처럼 설득력 있게 모방할 때, 우리는 기계에 존재하지 않는 인간성을 부여하게 됩니다.
언어는 대중의 인식을 형성합니다.
단어가 부주의하거나,
마법처럼 사용되거나, 의도적으로 의인화될 때, 대중은 왜곡된 이미지를 갖게 됩니다.
이러한 왜곡은 오직 한 집단에게만 이익이 됩니다.
바로 언어 매개체(LLM)가 실제보다 더 유능하고 유용하며 인간처럼 보이도록 만들어 이익을 얻는 AI 기업들입니다.
인공지능 기업들이 대중의 신뢰를 얻고 싶다면, 첫 번째 단계는
간단합니다.
언어 모델을 마치 영혼을 가진 신비로운 존재처럼 대하는 것을 멈추는 것입니다.
언어 모델에는 감정이 없지만, 우리에게는 감정이 있습니다.
우리의 말은 이러한 사실을 반영해야 하며, 감추어서는 안 됩니다.
인공지능 시대에 의미란 무엇일까요?
논평: 우리는 인공지능으로 가득 찬 세상으로 향하고 있습니다.
모든 곳에 자동화가 만연한 세상에서, 우리의 주된 목적, 정체성, 그리고 의미의 원천은 무엇이 될지 궁금합니다.
의미는 인공지능이 할 수 없는 것에만 국한되지 않습니다. 의미는 우리가 어쨌든 무엇을 선택해서 하는지에 있습니다. 야나 이스카예바/게티 이미지
할로윈 직전, 저는
책상에 앉아 OpenAI 라이브 스트리밍을 보고 있었습니다 . 62분짜리 방송 중 58분쯤 지났을 때였는데, 그다지 흥미롭지는
않았죠. 솔직히 말해서, 그때쯤엔 집중이 좀 안 됐습니다.
자, 이제 마무리 짓고 점심 먹으러 가야겠어요!
오픈AI의 최고 과학자
야쿠브 파초키가 AI가 대규모 해고를 야기할 수 있는 역할에 대해 이야기를 막 끝냈을 때, CEO 샘 알트만이 갑자기 그에게 이렇게 물었다.
"당신 생각에 의미는 어떤 모습일까요? 미래의 직업은 어떤 모습일까요? AI가 현재의 많은 것들을 자동화할 때, 우리는 어떻게 만족감을 얻고 시간을 보낼 수 있을까요?"
그 질문은 저를 당황하게 했습니다.
억만장자
CEO가 그런 질문을 생각할 거라고는 전혀 예상하지 못했거든요. 그리고 그 질문에 완전히 집중하게 되었습니다.
의미가 어떤 모습으로 나타날 거라고 생각하세요?
파초키는 잠시 말을 멈춘 후, 인공지능이 더욱
발전함에 따라 세상에 대해 훨씬 더 많은 것을 이해할 수 있게 되고, 엄청나게 다양한 지식에 접근할 수 있게 될 것이라는 점에 대해 사려 깊은 답변을 내놓았다.
라이브 스트리밍이 끝났습니다.
제 업무는
계속되었습니다.
하지만 그 질문을 떨쳐낼 수 없었습니다.
신호등에 멈춰 섰을 때, 강아지와 산책할 때, 잠들기 직전에도 그 질문은 여전히 저를 괴롭힙니다.
친구들을 붙잡고 삶의 목적과 의미, 그리고 성취감에 대해 어떻게 생각하는지 묻곤 합니다.
인공지능 시대에 의미는 어떤 모습일까요?
편견 없는 기술 콘텐츠와 실험실 기반 리뷰를 놓치지 마세요. CNET을 Google 기본 소스로 추가하세요.
AI 자동화를 넘어선 의미
이 문제에 대해 오랫동안 생각해 봤습니다. 샘, 제 대답은 이렇습니다.
삶의 의미와 목적은 우리가 개인적으로 소중히
여기고 에너지를 쏟는 것들에 뿌리를 두고 있습니다.
인공지능이 자동화할 수 없는 것들 속에서도 의미를 찾을 수 있지만, 인공지능에도 불구하고 그러한 일들을 계속하는 데서도 의미를 찾을 수 있을 것 입니다.
자동화가 반드시 수작업의 가치를 떨어뜨리는
것은 아닙니다.
우리는 수 세기 동안 수공예품을 기계화해 왔지만, 사람들은 여전히 담요를 뜨개질하고, 반죽을 손으로 밀고, 캔버스에 유화를 그리고, 편지를 손으로 씁니다.
왜냐하면 그 이유는 바로 '행동' 그 자체에서 만족감을 얻기 때문입니다.
만족감은 결과물에서 오는 것이 아니라, 행동에 참여하는 과정에서 오는 것입니다.
삶의 의미와 목적은 우리가 개인적으로 소중히 여기고 에너지를 쏟는 것들에 뿌리를 두고 있습니다.
생성형 AI가 우리 삶의 구석구석에 스며드는 지금,
저는 그 어느 때보다 과정과 장인정신에 더욱 큰 감동을 받고 있습니다.
온라인 문화의 많은 부분이 뇌를 썩게 만들도록 설계된 것처럼 느껴지는 이 시대에, 저는 예술성이 경이로운 애니메이션을 감상하고, 손으로 무언가를 만들고 싶어서 도예 수업을 듣고, 영화 사운드 디자이너들이 세상을 어떻게 듣고 영화로 구현하는지에 매료되어 그들의 인터뷰를 읽고 있습니다.
이 모든 것들은 기계가 모방할 수 있고, 어쩌면 완벽하게 해낼 수도 있겠지만, 제가 의미 있다고 느끼는 것은 제가 그 과정의 일부라는 사실입니다.
시간과 노력, 호기심,
그리고 시도에 제가 직접 참여하고 있다는 것입니다.
의미는 인공지능이 할 수 없는 것에만 국한되지
않습니다.
의미는 우리가 그럼에도 불구하고 무엇을 선택해서 하는지에 있습니다.
기술이 충분히 정교하지 않아서가 아니라, 인공지능이 인간적이지 않기 때문입니다.
인간의 숙련된 기술, 세심한 관심, 따뜻한 보살핌을 목격하는 것은 그 어느 때보다 더 소중하게 느껴집니다.
이것은 단순한 향수가 아닙니다.
그저 공감일 뿐입니다.
아날로그적 경험과 공유된 경험의 가치
ChatGPT가 몇 초 만에 에세이를 쏟아내고, Sora가
실사 같은 영상을 만들어내고, NotebookLM이 전체 도서관 간의 연결고리를 찾아내고, Claude, Gemini, Grok 같은 생성형 챗봇들이 점점 더 많은 인지적이고 창의적인 작업을 수행하게 되면서, 만질 수 있고 불완전한 것들이 새롭게 다가옵니다.
아날로그적인 경험이 얼마나 소중한지 다시금 깨닫고 있습니다.
지난달 오하이오주 톨레도 미술관에서 30분 넘게
진행된 유리 불기 시연에 완전히 매료되었습니다.
작가는 2,000도가 넘는 고온의 녹은 유리를 다루며, 숨결과 도구, 그리고 수십 년간 축적된 노하우를 활용하여 형태를 만들어냈습니다.
저는 그가 중력과 섬세함으로 불완전함을 보완하고, 자칫 결함이 될 수 있었던 것을 의도적인 디자인 요소로 승화시키는 모습을 지켜보았습니다.
주변 관객들은 모두 숨죽이고 황홀경에 빠져 있었습니다.
우리는 단순히 유리 작품이 만들어지는 과정을 지켜보는 것이 아니었습니다.
한 인간이 물리 법칙과 우연, 그리고 자신의 한계와 실시간으로
씨름하는 모습을 목격하고 있었습니다.
어떤 인공지능도 그 특별한 씨름, 물질성과 위험과의 미묘한 조화를 재현할 수는 없습니다.
중요한 것은 인공지능이 유리를 불 수 없다는 것이 아니라, 우리 모두가 그 자리에 함께하며 그 경험을 공유했다는 점입니다.
인간의 기술, 인간의 세심함, 인간의 보살핌을 목격하는 것은 지금 그 어느 때보다 더 소중하게 느껴집니다.
디지털이 무한대로 확장됨에 따라 아날로그의
희소성은 더욱 값지게 될 것입니다.
이 글을 쓰는 동안 가장 친한 친구 시드니에게서 편지가 도착했습니다.
그녀의 필체를 보니, 특유의 기울기와 Y자를 둥글게 쓰는 방식 등 제 필체만큼이나 친숙한 그 글씨에 눈물이 핑 돌았습니다.
그 글씨에는 그녀의 모든 것이 담겨 있었습니다.
그녀의 손이 종이 위를 움직였고, 글자를 쓰는 동안 저를 생각했습니다.
인공지능은 그녀의 필체를 완벽하게 모방할 수는 있겠지만, 그녀가 펜을 들고 저를 생각하며 그 자리에 있었다는 사실은 결코 복제할 수 없을 것입니다.
AI 챗봇은 우리의 '생각'을 상당 부분 대신하고
업무 효율도 높여줄 수 있지만, 우리 모두는 신체를 중심으로 하는 직접적인 활동과 기술에 집중해야 합니다.
무술, 권투, 요가, 등산, 하이킹, 춤이 AI 과잉 공급에 대한 강력한 해독제로서 더욱 인기를 얻게 되더라도 놀랍지 않을 것입니다.
뇌 또한 물리적 실체라는 것을 기억하세요. 앉아서 글을 쓰는 사람이라도 어휘와 문법을 다듬고, 선택하고, 삭제하고, 다듬는 과정을 통해 의미를 찾아냅니다.
AI 모델은 산문을 작성하거나 누군가 춤추거나 권투하는 영상을 생성할 수는 있지만, 근육 기억이나 무용수가 특정한 순간에 음악을 해석하는
방식, 또는 작가가 원하는 의미를 전달할 때까지 문장을 고심하는 과정을 만들어낼 수는 없습니다.
인체 부위
제가 계속해서 되짚어보는 것은 이것입니다.
의미는 오직 우리를 감동시키는 것에서만 비롯됩니다.
그리고 인위적인 것은 결코 우리를 감동시킬 수 없습니다.
진정으로 중요한 의미에서는 말이죠.
목적, 정체성, 의미, 구원 등 우리에게 중요한
많은 것들이 혼란, 비효율, 좌절, 오해 속에 얽혀 있습니다.
이러한 현상은 인간만의 특징이 아닙니다.
생성형 AI의 결과물에서도 오류, 기이함, 실패가 나타나기 때문입니다.
하지만 우리 인간에게 이러한 실수는 매우 현실적인 결과를 초래합니다.
우리의 노력, 자존심, 희망, 그리고 배우고 성장하고 늙고 지치고 휴식을 필요로 하는 우리의 삶 자체가 위태로운 것입니다.
우리는 실수할 때 다시 시도하고, 바로 그 과정이 우리를 변화시키고 가치를 부여합니다.
의미는 오직 우리를 감동시키는 것에서만 나올 수 있다.
그리고 인위적인 것은 결코 우리를 감동시킬 수 없다.
적어도 진정으로 중요한 방식으로는 말이다.
저는 요즘 일본의 와비사비라는 개념에 대해 많이
생각하고 있습니다.
와비사비는 불완전함과 덧없음 속에서 아름다움을 찾는 미의 개념이죠. 영화 <스매싱 머신>을 보다가 문득 깨뜨린 생각인데, 에밀리 블런트가 연기한 캐릭터가 아름다운 파란색 그릇을 산산조각 내는 장면이 나옵니다.
영화 후반부에서 그녀는 금으로 수리한 도자기 그릇을 선물하며, 금, 은, 백금 가루를 뿌린 옻칠을 이용해 깨진 도자기를 붙이는 킨츠기라는 기법을 설명합니다.
킨츠기는 와비사비에 뿌리를 둔 기법으로, 깨진 도자기를 붙이는 데 사용됩니다.
이렇게 만들어진 그릇은 종종 비대칭적이고 결점이
드러나는데, 이는 인간의 손으로 만들어졌고 인간의 실수와 한계가 존재했음을 보여주는 증거입니다.
우리는 우리와 같은 의식을 가진 다른 존재의
흔적에 감동받습니다.
누군가 이곳에 있었고, 관심을 기울이고, 선택을 하고, 흔적을 남겼다는 증거에 감동받습니다.
무언가가 노력과 위험, 시간을 들여 만들어졌다는 사실, 바로 인공지능이 손쉽게 만들어내는 그 모든 것들에 감동받습니다.
인공지능이 "최적화된" 이미지, "최적화된" 산문, "최적화된" 예술 작품을 만들어낼 수 있는 세상에서, 불완전함은 더욱 값진 가치를 지닙니다.
인간의 손길이 남긴 흔적은 의미 그 자체의 서명이 될 것입니다.
샘, 인공지능 시대에 의미는 인공지능이 없애려고 했던 모든 것들을 닮은 모습으로 나타날 거야. 느림, 비효율, 불완전함, 위험, 그리고 인간적인 부분들. 우리가 어쩔 수 없이 하는 게 아니라 , 그런 경험들이 우리를 놀랍도록 변화시키기 때문에 계속해서 하는, 몸으로 체현된, 지극히 인간적인 경험들 말이야.