2023.05.12 09:00
7min
높은 시청률을 자랑하고 있다지만 난 <하우스 오브 드래곤>을 보지 않는다. 이전 시리즈 <왕좌의 게임>의 엔딩이 너무 별로여서 그 세계관에 관련된 걸 더 보고 싶지 않다. 어쩌면 AI가 내 생각을 바꿀 수 있을까?
3월 초 SXSW 행사에서 챗GPT를 만든 오픈AI의 사장 그렉 브록먼은 이렇게 말했다. "AI에게 다른 방식으로 끝나는 엔딩을 만들어달라고 요청할 수 있다고 상상해 보세요." 한 걸음 더 나가보는 건 어떨까? AI로 마음에 들지 않는 모든 소설과 대본을 고친다면 어떨까? 너무 짧아서 불만인 건 길게, 길어서 불만인 건 짧게, 선정성이나 PC함도 마음대로 고치고 말이다.
이는 해결책이 될 수 없다. 개인적으로 마음에 들지 않는 영화와 책의 내용을 AI로 바꿀 수 있다 하더라도, 작품을 갖고 사람들이 나누는 대화 또한 작품이 갖는 가치의 일부이기 때문이다. 대화를 나누려면 의견이 필요한데 역사적으로 존재하는 공통의 텍스트가 없으면 대화는 불가능하다.
작년 가을부터 챗GPT나 DALL-E 2 같은 생성AI 앱들이 등장하면서 최신의 인공지능 제품이 많은 사람들의 환호와 투자를 일으키고 있다. 하지만 이런 최신 제품들이 제시하는 사용 방법들을 보면 존재하는 문제에 대한 해법이라기보단 이미 존재하는 해법을 가지고 이걸 써먹을 수 있는 문제를 찾는 것처럼 느껴지는 이유가 있다. 바로 '솔루션주의(solutionism)'이다.
[PADO '언더그라운드 엠파이어' 북콘서트가 11월 30일(토) 광화문에서 열립니다! (안내)]
기술 비평가 에브게니 모로조프가 창안한 어휘인 '기술적 솔루션주의'는, 복잡한 딜레마의 핵심 문제들을 보다 단순한 공학적 문제들로 환원시키면 그 딜레마를 해결, 또는 완화하는 데 큰 진전을 이룰 수 있다는 착각에 기반한 믿음이다. 솔루션주의는 세 가지 이유로 매혹적이다. 첫째, 심리적으로 안심을 준다. 이 복잡한 세상에서 어려운 문제를 쉽고 간단하게 해결할 수 있다고 믿으면 기분이 좋다. 둘째, 기술적 솔루션주의는 재정적으로도 매력적이다. 자원이 한정된 세상에서 어려운 문제를 한 방에 해결할 수 있는 해법을 적당한 (또는 저렴한) 가격에 제시한다. 셋째, 기술적 솔루션주의는 혁신에 대한 낙관주의를 강화한다. 특히 문제 해결을 위해 공학적으로 접근하는 게 사회적, 정치적 해법을 추구하는 것보다 더 효과적이라는 기술관료적 사고방식에 잘 부합한다.
하지만 듣기에 너무 그럴싸해서 찜찜하다면(구린 드라마에 새로운 엔딩이라니!) 보통 사실이 아니라는 걸 우린 잘 안다. 솔루션주의가 실제로 작동하지 않는 까닭은 문제를 잘못 제시하고 또한 그 문제가 왜 발생하는지를 오해하기 때문이다. 솔루션주의자는 매우 중요한 정보를 무시하거나 과소평가해서 이런 실수를 하는데 보통 이런 중요한 정보는 맥락에 관한 것이다. 맥락에 관한 정보를 얻으려면 관련된 지식과 경험이 있는 사람들을 찾아 그들이 하는 말에 귀기울여야 한다.
솔루션주의는 IT 대기업이 대중과 투자자를 상대로 자신들의 혁신 비전을 팔아먹을 때 필수 요소다. 페이스북이 메타가 돼 자신들의 가상현실 비전에 대해 광고하기 시작했을 때, 페이스북은 미국 미식축구 리그 결승전 때 값비싸면서도 의도와는 달리 우울한 광고를 방영했다. 광고는 물질적 현실은 망가졌고 우릴 괴롭히는 모든 것의 해결책은 대안의 가상현실에서 찾을 수 있다는 메시지를 담고 있었다. 그 메시지는 널리 퍼져서 이제는 수사기관에서도 메타버스가 "수사기관의 인력난을 해결할 수 있는 온라인 솔루션"이라고 한다. 수사기관 지원 가능성이 있는 구직자가 메타버스에서 경찰차를 몰거나 사건을 해결하는 등의 몰입적 경험을 할 수 있기 때문이란다. 한편 메타는 자신들이 제시했던 솔루션주의가 홍보 전략에 불과했음을 보여주고 있다. 메타는 가상현실로 팀 업무를 협업할 수 있도록 해주는 자사의 메타버스 제품 호라이즌워크룸의 가능성에 대해 자신만만했지만 마크 저커버그는 자사 원격근무 정책을 뒤집었다. 저커버그는 또한 회사의 우선순위를 메타버스에서 AI로 바꿀 것임을 시사했다.
이제 솔루션주의는 AI의 허풍 잔치의 일부가 됐다. 새로운 AI 제품들이 우리가 일하고 어울리고 노는 방식에 지대한 영향을 미치리라는 데에는 의심의 여지가 없다. 하지만 우린 지금 과장광고의 홍수 속에 익사 직전이다. 심지어 미국 연방통상위원회(FTC)도 나서 AI 제품이 할 수 있는 것에 대한 과장광고에 우려를 표했다. "오늘날 장난감부터 자동차, 챗봇까지 많은 제품들에 대한 AI 과장광고가 이뤄지고 있습니다." FTC가 성명에서 한 말이다.
오픈AI의 CEO 샘 알트만이 쓴 다음 트윗을 읽어보라. "이러한 도구들은 우릴 보다 생산적(이제 이메일 쓰는 데 시간 좀 덜 쓰고 싶네요!)으로, 보다 건강하게(치료를 받을 돈이 없는 사람들을 위한 AI 의료 어드바이저), 보다 똑똑하게(챗GPT로 학습하는 학생들), 그리고 더 재미있게(AI로 만드는 밈 ㅎㅎㅎ) 만들 겁니다."
다행스럽게도 의료 연구와 진단 분야에서 AI를 통해 여러 가지 촉망되는 진전이 있었다. 그러나 AI 의료 어드바이저가 "치료를 받을 돈이 없는" 사람들에게 도움이 되리라는 생각은 좋게 말하면 과장이고 나쁘게 말하면 비현실적이다. 알트만의 말을 최대한 좋은 뜻으로 해석해서, AI 의료 어드바이저가 일부 의료 분야에서 양질의 조언을 지속적으로 제공할 수 있는 날이 온다고 치자. 그렇다하더라도 회의적일 수밖에 없는 이유는 많다.
[PADO 트럼프 특집: '미리보는 트럼프 2.0 시대']
첫째, 벤저민 메이저 존스홉킨스대 병리학 교수에 따르면 AI의 발전은 의료 비용의 상승으로 이어질 소지가 크다. AI가 발전해 각종 물리적 검사를 실시하고 진료 이력과 증상을 면밀히 분석할 수 있게 될 경우, 메이저 교수는 미국 의료업계가 각각의 진단과 분석을 개별 상품으로 분류해 각각에 대한 비용을 개별적으로 부담하게 할 것이라 본다. AI를 진단 자판기로 만드는 걸 넘어, 메이저 교수는 AI 시스템이 값비싼 검진과 수술을 더 많이 추천하게 되면서 "의료가 폭포수처럼 쏟아질 것"으로 예상한다. 여기에는 "불필요하고 우려되며, 때때로 해로운" 의료 조치도 포함된다. 한마디로 의료 자동화가 발달하면 의료비는 스멀스멀 상승할 가능성이 매우 높다.
둘째, 의료 조언을 받더라도 그걸 실행하지 못하면 무슨 쓸모가 있을까? 진단과 수술 비용 뿐만 아니라 약제, 각종 요법(물리치료 등), 건강한 식습관 등 의료적 문제를 해결하는 데 필요한 통상적인 대응책은 모두 값비싼 것들로, 의료비를 감당할 수 없는 사람들이 겪는 문제가 바로 여기서 나온다. 대체 어떻게 챗봇이 이 중 어느 하나라도 저렴하게 만들 수 있는지는 분명치 않다. 셋째, 심지어 AI의 의료 조언을 실행하는 데 비용이 그리 들지 않더라도 그 결과는 각기 다를 것이다. 예를 들어 어떤 사람들은 AI 기반 인지행동치료가 도움이 된다고 판단하는 반면, 다른 사람들은 진정으로 공감(이를 흉내낼 수 있을 뿐인 AI와는 다른)하고 지속적인 확인을 통해 목표를 달성할 수 있도록 도와주는 인간 치료사를 선호한다. 이런 상황에서 형편이 여의치 않은 사람들은 시원찮은 AI 로봇 치료나 받아야 할 수 있고 재정적 여력이 되는 사람들은 자신들이 선호하는 인간 진료를 받을 수 있을 것이다. 전자의 경우는 AI를 불평등을 더 악화시키는 것으로 보지, 뭔가를 해결하는 걸로 보지 않을 것이다.
알트만의 AI에 대한 생각은 근본적으로 솔루션주의적인 것일까 아니면 그저 나쁜 예를 든 것 뿐일까? 그의 제안 속에 담겨 있는 본질적인 사상을 포착할 수 있는 다른 상황을 가정해보자. 비싼 상담료를 요구하는 인간 변호사 대신 무료 또는 저렴한 AI 법률 어드바이저를 이용하는 저소득층의 경우는 어떨까? 월세 계약을 하거나 취업, 또는 집 수리 때문에 계약서를 작성해야 하는 상황에서 AI가 난해한 법률용어들을 보다 쉬운 말로 이해할 수 있게 도와주고 계약조건의 장단점에 대해 분석해 줄 수 있다고 생각해보자. 비현실적인 상상이 아니다. MSNBC는 최근 "세계 최초의 AI 법률 어시스턴트"에 대해 보도하기도 했다.
나는 계약법 학자이자 펜실베니아대 로스쿨 교수인 테스 윌킨슨-라이언에게 견해를 물었다. "저는 계약 관련으로 저소득층에게 가장 심각한 위험이 되는 문제들을 해결하는 데 저렴한 AI가 도움이 별로 안 될 거라고 봐요. 계약에서 가장 큰 문제는 계약서 내용을 잘 이해하지 못해서 발생하는 게 아니라는 게 제 일반적인 견해입니다. 그보다는 좋은 조건으로 거래를 할 수 있게 만들어 주는 재정적 자원(대출 신용이나 현금 보유)이 없는 게 문제죠." 유일한 예외라면 AI가 시행이 불가능한 조건을 포함한 계약을 발견할 수 있을 때라고 한다. 하지만 이런 경우에도 AI의 효용은 제한적이라고 윌킨슨-라이언 교수는 강조한다. "집주인과 분쟁을 협상 중인 세입자들에겐 도움이 될 수 있어요. 하지만 이 아파트를 월세로 빌릴지를 결정하는 데는 별 도움이 안될 수 있습니다."
그럼 학생들이 챗GPT로 학습해서 더 똑똑해질 수 있다는 알트만의 주장은? 몇몇 학생은 수업에서는 이해하지 못했던 내용을 챗GPT에게 물어 학습을 더 용이하게 하고 있지만 한편으로는 AI가 학교를 공황 상태로 만들고 있기도 하다. 교사들은 표절이 더 손쉬워지고 적발하긴 더 어려워진 상황에서 어떻게 점수를 매겨야 할지 씨름하고 있다. 게다가 효과적인 교육 정책을 개발하기란 더 어려워지고 있다. 특히 챗봇이 빠르게 발달하면서 교육법이나 절차의 유효기간이 더 짧아졌기 때문이다. 종합적으로 볼 때 챗GPT 같은 기술이 학생들을 더 똑똑하게 만들어주는지 판단하기엔 너무 이르다. 어떤 기술 기반의 교수법이 적응 가능한 것으로 드러날지 모르기 때문이다.
그래도 우리가 보다 생산적이 되리라는 알트만의 말은 맞지 않을까? 글쎄. 생산성 향상이란 개념은 오해의 소지가 있다. 많은 사람들이 효율성의 증대가 곧 적게 일하면서 더 좋은 결과물을 얻을 수 있는 걸로 이어진다고 여기기 때문이다. SNS에는 오픈AI의 새로운 GPT-4 대규모 언어 모델을 사용한 챗GPT의 최신 업데이트를 찬양하는 글이 넘쳐난다. 이전에 시간을 많이 잡아먹던 작업들을 빠르게 자동화할 수 있기 때문이다. 사람들이 간과하는 점은 그러한 이점은 수명이 짧으리라는 것이다. 이전의 작업 방식과 비교해보면 지금 AI 얼리어답터들이 쓰는 프롬프트 엔지니어링이 시간을 절약하는 건 사실이다. 하지만 다른 사람들도 AI 사용법을 익히면서 자동화로 똑같은 이점을 취하게 되면 경쟁적인 환경에서 '일 잘한다'는 것의 기준은 올라가게 된다. 그래서 워싱턴대 교수 이언 보고스트는 오픈AI가 "솔루션주의의 고전적인 모델"을 사용하고 있다면서 챗GPT 같은 도구들이 "노동을 줄인다는 노력을 실행하는 데 필요한 노동에 더해 새로운 노동과 관리 제도를 도입할 것"이라고 지적한다.
[새로운 PADO 기사가 올라올 때마다 카톡으로 알려드립니다 (무료)]
AI를 최대한으로 이용하려면 AI의 이용이 사회에 어떤 영향을 미칠지를 현실적으로 바라봐야 한다. AI의 긍정적인 면을 과장하는 건 이러한 목표에 역행한다. 그리고 솔루션주의는 가장 나쁜 과장법 중 하나다.
에반 셀린저는 로체스터공과대학교의 철학과 교수다. 기술철학을 연구하고 가르치며 저서로 <인류의 개량(Re-engineering Humanity)> 등이 있다.
