/사진제공=Google DeepMind
2025.02.21 16:07
26min
응답① 테리 위노그라드: 돌봄의 기계
목표는 인간을 대체하는 것이 아니라 지원하는 것이어야 한다
모로조프는 오늘날 통제 불가능한 산업을 이끄는 것과는 다른 목적으로 AI가 어떻게 나아갈 수 있었을지에 대한 도발적인 질문을 제기한다. 모든 기술과 마찬가지로, 우리는 AI의 기술적 당위성과 그 기저에 깔린 인간의 가치관과 용도 모두에 대해 의문을 제기해야 한다. 수십 년 된 '사회적 책임을 위한 컴퓨터 전문가 모임Computer Professionals for Social Responsibility'의 슬로건을 빌리자면, "기술이 미래를 이끌고 있다... 하지만 방향을 조종하는 것은 우리의 몫이다."
모로조프는 또한 "효율성 로비"가 지금까지 AI와 다른 많은 현대 컴퓨팅 기술들의 방향을 잡는 데 지배적인 역할을 해왔음을 정확히 지적한다. 하지만 사회적으로 의미 있는 관점에서 던져야 할 질문은, 다른 세계에서 우리가 어디로 갈 수 있었을지가 아니라 여기서부터 어떻게 나아갈 것인지이다.
이는 과거에서 배우는 게 유용하지 않다는 말이 아니다. 실제로 AI와 관련 기술의 초기부터 모로조프가 찾고 있는 종류의 대안들이 존재했다. 선구적인 예시로는 고든 파스크Gordon Pask가 1953년 로빈 매키넌-우드Robin McKinnon-Wood와 협력하여 제작한 '뮤지컬러Musicolour 머신'이 있는데, 이는 음악 입력을 시각적 출력으로 변환하면서 이를 조작하는 음악가와의 상호작용을 통해 학습하는 방식을 취했다. 파스크의 표현을 빌자면,
[새로운 PADO 기사가 올라올 때마다 카톡으로 알려드립니다 (무료)]
"적절한 디자인과 시각적 어휘의 즐거운 선택이 주어진다면 연주자는 (시각적 디스플레이의 영향을 받으면서) 시스템과 긴밀한 참여적 상호작용에 참여할 수 있다. 그는 기계를 훈련시켰고 기계는 그와 함께 게임을 했다. 이런 의미에서 시스템은 연주자의 확장으로 작용했고, 그는 이를 통해 혼자서는 달성할 수 없는 효과를 얻기 위해 협력할 수 있었다."
이와 같은 탐구들은 이후 수십 년간 세계가—더 정확히 말하자면, 상업적 기술 개발자들이—선택하지 않은 방향을 가리키고 있었다. 하지만 이것이 현재 AI의 광범위한 대안을 찾아야 할 방향일까?
나는 스톰의 '산책자flâneur' 세계에 모로조프만큼 매료되지는 않는다. 해결할 문제도 추구할 목표도 없는 유희성, 상상력, 독창성의 이미지에 매력적인 면이 있다는 것에는 동의한다. 하지만 우리가 기술을 디자인할 때는 기술이 인간에게 주는 영향과 기회가 그보다 더 크다는 걸 알아야 한다. 모로조프가 효율성 대 유희성의 이분법에서 빠뜨린 것은 인간의 돌봄과 관심의 역할이다. 이는 그가 인간됨의 척도로 보는 지능에 대해 이야기하는 방식에서 명백히 드러난다. 따라서 그는 "문제 해결이나 목표 달성에 초점을 맞추지 않는 비목적론적 형태의 지능"이라는 대안적 형태를 추구한다.
하지만 돌봄은 지능의 한 형태가 아니다. 철학자 존 호글랜드John Haugeland는 "인공지능의 문제는 컴퓨터가 전혀 신경 쓰지 않는다는 것"이라는 유명한 말을 남겼다. 이는 호글랜드가 비판했던 "구식 AI"만큼이나 오늘날의 LLM(거대언어모델) 기반 시스템에도 똑같이 적용된다. 돌봄은 지능의 한 종류가 아니라 인간적 의미의 근본적인 토대이다. 우리는 돌봄이 없는 효율성 생성기만큼이나 돌봄이 없는 유희적 기계들로 세상을 채우고 싶지 않다.
모로조프는 또한 내가 페르난도 플로레스와 한 작업에서 인용한 예시들의 근본적인 요점들을 놓치고 있다. '코디네이터'가 조직의 효율성 증대를 제시하며 마케팅된 것은 사실이나 그 근본적인 철학은 인간관계에 대한 보다 깊은 시각을 반영했다. 이는 언어의 기초로서 참여commitment의 역할에 기반한 것이었다. 코디네이터는 이를 사용하는 사람들이 일상의 커뮤니케이션에서 참여의 인식과 표현을 분명히 할 수 있도록 디자인됐다. 코디네이터 프로젝트와 플로레스의 후속 작업의 주제는 우리의 직장 관계에서 "참여의 문화를 심어주는 것"으로, 이를 통해 우리가 함께 만들어내는 가치에 집중할 수 있게 한다.
내가 AI를 관료제에 빗댔던 것은 관료적 규칙 준수의 메커니즘뿐만 아니라 인간적 의미와 의도의 공동화를 표현한다. 우리는 모두 대화 상대가 "죄송하지만, 귀하의 우려는 이해하나 규정상 귀하께서는 반드시..."라고 말하는 관료적 상호작용에 익숙하다. . ." 즉, 지시받는 사람의 생활세계에 대한 배려는 고려사항이 될 수 없다. 호글랜드의 통찰로 돌아가자면, 관료제는 그런 것에 전혀 신경 쓰지 않는다. 이는 의도적으로 그렇게 설계된 것으로, 결정적이고 삶을 좌우하는 중요한 문제에서조차 인간의 주관성과 판단을 제거하기 위해서다.
모로조프는 AI가 대체로 기업의 통제 하에 있는 한, 큰 사회적 문제를 해결하는 데 AI를 신뢰하는 것은 시장을 신뢰하는 것과 다름없다는 걸 인식한다. 하지만 현재 세계 각국 정부들의 성격을 고려할 때, 이를 정부 통제 하에 두더라도 개선이 되지 않을 수 있다. 문제는 더 유희적이고 덜 지루한 AI 시스템을 만드는 방법이 아니라, 인간의 관심과 돌봄을 지원하는 시스템을 만들고 배치하는 것의 의미를 규명하는 것이다. 나는 이러한 시스템들이 인간의 상호작용을 대체하는 것이 아니라 향상시키도록 설계되어야 한다는 데 동의한다. 더글러스 엥겔바트1의 초기 비전에서 제시됐던 것처럼 그 목표는 '인공지능'보다는 '지능 증강intelligence augmentation'이 되어야 한다.
인간의 가치와 관심사에 대한 AI의 '정렬2alignment'을 향해 나아가자는 많은 요구가 있었지만 우리가 요구할 수 있는 단순한 정렬 메커니즘은 존재하지 않는다. 아르투로 에스코바르3Arturo Escobar가 주장하듯, 전통적인 기술 설계는 효율성, 경제 성장, 기술 발전을 우선시하는 단일한 세계화된 관점을 지지하는 경향이 있으며 이는 종종 문화적 다양성과 생태계 건강을 희생시키는 대가로 이루어진다. 이는 "폐쇄된 세계"라는 가정의 결과가 아니라, 데이터가 수집되고 네트워크가 훈련되며 모델이 배포되는 과정의 결과이다.
우리는 처음에 제기했던 질문, '과거에는 어떻게 달랐을까?'가 아닌 '미래에는 어떻게 달라질 수 있을까?'라는 질문으로 돌아온다. 모로조프는 흥미로운 선언으로 끝을 맺는다. 라틴아메리카의 실험들이 주는 교훈은 '기술의 해방적 잠재력은 오직 근본적인 정치적 프로젝트를 통해서만 확보될 수 있다'는 것이다. 현존하는 국가적, 국제적 거버넌스 체계 내에서 AI의 해방적 잠재력을 육성할 것을 약속하는 우리 시대의 근본적 정치 프로젝트는 무엇인가? 안타깝게도 이는 훨씬 더 어렵고 중대한 질문이다.
테리 위노그라드Terry Winograd는 스탠퍼드대학교 컴퓨터공학과 명예교수이며 스탠퍼드에서 '인간-컴퓨터 상호작용 그룹Human-Computer Interaction Group'을 설립했다.
응답② 브라이언 이노: AI는 두 발로 걸어다니는 강아지와 같다
오늘날의 기술은 창작 과정의 가치를 뒤집어 놓는다
"새 옷이 필요한 모든 사업을 경계하라"는 소로의 격언은 이제 "벤처캐피털이 필요한 모든 사업을 경계하라"로 업데이트되어야 할지도 모르겠다.
모로조프는 AI 자체는 제공할 것이 많지만 공공의 이익을 위해 봉사할 잠재력을 발휘하지 못했으며, AI 기술 발달의 맥락이 그 이유를 설명한다고 주장한다. 동의한다. AI에 대한 나의 우려는 기술 자체보다는 누가 그것을 소유하고 있으며, 그들이 그것으로 무엇을 하고자 하는가라는 문제적 본질을 향한다. 벤처캐피탈리스트 마크 앤드리슨Marc Andreessen의 지나치게 오만한 미래에 대한 비전은 웨스트코스트 테크 업계에서는 흔한 일이다. 그들은 어떤 부작용의 가능성조차 축소하고 이를 "안전주의"라며 무례하게 일축한다. 나는 SNS의 알고리즘이 만들어지던 당시 "안전주의자들"이 좀 더 많았더라면 좋았으리라고 생각한다.
시장의 "보이지 않는 손"을 맹신하는 사람들의 주장에도 불구하고, 회사가 주로 이윤을 위해 운영된다면 공공의 이익을 위해 운영될 때와는 완전히 다른 결과를 얻게 될 것이다. SNS가 가장 좋은 예시다. SNS에서 일어난 일들의 경험은 AI에서 일어날 수 있는(그리고 이미 일어나고 있는!) 일에 대한 나쁜 징조다. 두 단어—"참여도 극대화"라고 쓰고 "이윤 극대화"로 읽는다—만으로도 SNS를 오늘날과 같은 분노 표출의 심연으로 몰아넣기에 충분했다.
더 많은 이윤(또는 이와 같은 의미인 "시장 점유율" 증가)을 향한 욕구는 많은 왜곡을 만들어낸다. 예를 들어 이는 사회적 영향을 고려하는 부분을 건너뛰더라도 제품을 가능한 한 빨리 시장에 내놓아야 함을 의미한다. 이는 사회적 가치와 안전성이 한참 뒷전이라는 뜻이다. 그 결과는 할리우드 총격전 판타지와 같다. 다만 할리우드 영화와는 달리 이건 우리가 몸소 살아야만 하는 판타지다.
오늘날의 AI는 창작 과정의 가치를 뒤집어 놓는다. 놀이의 마법은 평범한 것이 의미 있는 것으로 변화하는 걸 경험하는 것이다. 그러한 변화가 일어나기 위해서는 우리는 평범한 것의 기원을 인식해야 한다. 우리는 변화한 모습에 경탄하기 전에 그 소박한 시작을 느껴야 한다. 평범한 것에서 시작하여 타자, 그리고 다른 이들과 우리를 연결할 수 있는 자아의 발견이야말로 창조적 상상력의 가장 큰 성취다.
하지만 AI는 사람들이 서로로부터, 심지어 자신의 내면의 삶과 자기이해로부터도 완전히 분리되어 살 수 있게 해주는 신기술이다. 기원provenance의 문제는 창작 과정에서 매우 중요하지만 오늘날의 AI에게는 그렇지 않다. 어떤 것이 어디서 왔으며, 어떻게 그리고 왜 존재하게 되었는지는 우리가 창작에 대해 느끼는 감정의 주요 부분이다. 우리는 콘서트홀에서 오케스트라가 연주한 곡과 동일한 곡을 좋은 샘플 뱅크를 가진 아이가 자기 방에서 만든 것에 대해 다르게 느낀다. 배경 이야기는 중요하다! 사건은 중요하다! 의도는 중요하다! 우리는 AI가 우리에게 전달하는 텍스트의 실제 출처를 알 수 없다. 우리가 AI를 학습시키기 위해 인터넷에서 긁어모은 것이 결코 세계의 모든 지식이 아니라, 영어권 세계의 일부가 우연히 출판하고—AI 봇이 접근할 수 있게 만든—인쇄된 책들의 일부라는 사실이 중요할까? 이것은 어떤 종류의 소시지일까? 분명 정육점 바닥에 떨어진 부스러기로 만든 바이스부어스트일 것이다.
AI는 첫 만남에서 항상 놀랍다. 비인간적인 것이 인간이 만드는 것과 매우 비슷해 보이는 것을 만들 수 있다는 사실에 경탄하게 된다. 하지만 이는 뒷다리로 걷는 개에 대해 새뮤얼 존슨이 한 말과 비슷하다. 우리가 뒷다리로 걷는 개를 보며 감명을 받는 까닭은 그렇게 해서 잘 걷기 때문이 아니라 그렇게 걸을 수 있다는 사실 자체 때문이다. 시간이 지나면 AI에 대한 감정은 경이로움에서 우스꽝스러움으로, 약간의 터무니없음, 그리고 결국 괴상한 것으로 빠르게 변한다. 걷는 개에게 의도성이 없다는 것—자신이 무엇을 하고 있는지 "모른다"는 것—또한 중요하지 않을까?
예술가로서 나의 경험상 AI와의 실험은 엇갈리는 결과를 낳았다. 나는 여러 '작곡' AI와 비슷비슷한 '그림 제작' AI들을 사용해 보았다. 나는 흥미와 지루함을 동시에 느낀다. 그것이 금방 매우 지루해진다는 것을 발견한다. 나는 그것을 가지고 놀 때 일종의 내적 불만족을 느낀다. 배고플 때 과자를 많이 먹었을 때 느끼는 감정과 비슷하다. 이는 아마도 예술의 즐거움이 최종 결과물의 즐거움 뿐만 아니라 그것을 만드는 과정의 경험이기 때문이리라. 산책을 나갈 때 그것은 목적지에 도달하는 즐거움만을(혹은 주로 그것을) 위한 것이 아니라, 걷는 과정을 위한 것이다. 나에게 AI를 사용하는 것은 사회적으로 쓸모없는 과정에 참여하는 것처럼 느껴질 때가 너무 많다. 그 과정에서 나는 거의 아무것도 배우지 못하고 나의 비학습을 다른 이들에게 전달한다. 마치 휴가를 가는 대신 엽서를 받는 것과 같다. 물론 사람들이 'AI 바이스부어스트'에서 아름다움과 가치를 발견하는 것도 가능하다. 하지만 그것은 AI의 영리함보다는 인간 상상력의 힘이 더 크게 작용하는 것이다.
그럼에도 나는 AI 도구가 예술가에게 매우 유용할 수 있다고 생각한다. AI는 당신이 만드는 것에서 패턴을 발견하고 이를 당신에게 일깨워주는 시스템을 고안할 수 있게 하며, 낯설지만 흥미롭게 연결된 영역으로 당신을 살짝 밀어줄 수 있다. 나는 마르코프 체인 생성기와 다양한 단순 무작위화 절차를 사용한 나 자신의 (AI 이전) 실험에서 좋은 경험을 했기에 이렇게 말한다. AI에 대한 유보적 태도를 취하면 곧잘 러다이트로 매도당한다. 하지만 새로운 방직 기계가 어떤 영향을 미칠지 보다 총체적으로 이해한 것은 공장 주인이 아닌 러다이트였음은 충분히 기억할 만한 가치가 있다.
AI를 사용하여 놀랍고 아름다운 것을 만들려면 프롬프트를 매우 신중하게 준비해야 한다. 까딱하면 하품을 일으키는 평범함으로 빠져버릴 수 있기에 그 모든 구멍들을 꼼꼼히 차단해야 한다. 만약 'moon'이 'June'과 운(라임)을 맞추는 걸 원하지 않는다면 명시적으로 "moon을 June과 운을 맞추지 마세요!" 같은 지시를 해야 한다. 그리고 나서는 결과물을 엄격하게 필터링해야 한다. 때때로 예상치 못한 것이 나타난다. 하지만 그러한 노력을 들이더라도, 다음으로 가장 가능성 높은 단계를 밟도록 하는 것이 프로그래밍의 핵심인 AI 시스템이 어떻게 놀라운 결과를 만들어낼 수 있을까? AI가 놀라운 것은 주로 속도와 양이지, 내용이 아니다.
"교양 있는" 사람들이 자신의 입에 들어가는 것들의 출처에 대해 그토록 신경 쓴다고 주장하는 시대에, 그들은 자신의 정신에 들어가는 것들의 출처에 대해서도 그만큼 신중할까? 그들은 AI가 접대하는 정보 소시지를 거부할 수 있을까?
브라이언 이노Brian Eno는 음악가, 프로듀서, 시각 예술가, 그리고 활동가다. 2019년 록시뮤직의 멤버로서 로큰롤 명예의 전당에 헌액되었다.
응답③ 브루스 슈나이어, 네이선 샌더스: 신뢰의 문제
폐쇄적인 기업 생태계가 문제다
놀라운 현대성을 가진 기술처럼 보이지만 AI의 역사는 길다. 구글 번역, 오픈AI의 챗봇, 메타의 AI 이미지 생성기는 컴퓨팅 초기 시절부터 이어져 온 언어학, 신호 처리, 통계학 및 기타 분야의 수십 년간의 발전과 미국 국방부의 초기 자금 지원을 기반으로 구축되었다. 하지만 오늘날의 도구들은 이전 세대의 다양한 혁신가들이 의도한 산물과는 거리가 멀다.
우리는 모로조프가 말하는 "거부론자refusenik"들이 AI가 국방부 자금으로 탄생했기 때문에 "돌이킬 수 없이 오염되었다"고 보는 것은 잘못되었다는 그의 의견에 동의한다. AI는 미국의 벤처캐피털, 사모펀드, 빅테크가 대부분 장악한 창의적이고 글로벌한 인류의 노력 중 하나로 이해하는 것이 더 낫다. 하지만 그것은 결코 필연적인 게 아니었으며 꼭 그렇게 유지될 필요도 없다.
인터넷이 좋은 예시다. 인터넷이 군대에서 시작되었다는 사실은 역사적 흥미거리일 뿐, 그것의 본질적 능력이나 사회적 중요성을 나타내지 않는다. 인터넷이 서로 다른, 호환되지 않는 국방부 네트워크들을 연결하기 위해 만들어진 것은 사실이다. 핵전쟁으로 인한 물리적 피해에서도 살아남을 수 있도록 설계된 것도 사실이다. 그리고 당시에는 인터넷이 경박한 것이 금지되고 상업 활동이 허용되지 않는 관료주의적으로 통제된 공간이었던 것도 사실이다.
수십 년에 걸쳐 인터넷은 군사 프로젝트에서 학술 도구로, 그리고 오늘날의 기업 시장으로 변모했다. 이러한 세력들은 각각 차례로 인터넷이 무엇이었고 무엇을 할 수 있는지에 영향을 끼쳤다. 오늘날 온라인에 있는 수십억 명의 대부분에게, 우리가 알아온 유일한 인터넷은 기업의 것이었다. 자본가들이 장악하기 전까지 인터넷은 번창하지 않았기 때문이다.
AI도 비슷한 경로를 따랐다. 처음에는 군사적 목적을 염두에 두고 군의 예산 지원을 받았다. 하지만 미 국방부가 오늘날의 인터넷을 설계하지 않은 것처럼 오늘날의 AI 생태계의 설계에도 국방부가 관여한 것은 아니다. 당시에는 AI가 제대로 작동하지 않았기 때문에 AI에 대한 국방부의 영향력은 더욱 적었다고 할 수 있다. 인터넷 사용이 폭발적으로 증가하는 동안, AI는 일련의 막다른 길에 부딪혔다. AI 연구는 군사와 기업을 포함한 모든 종류의 투자자들이 환멸을 느끼고 연구 자금이 몇 년씩 끊기는 여러 번의 "겨울"을 겪었다. 챗GPT의 출시 이후, AI는 인터넷과 같은 종착점에 도달했다. 기업 권력에 의해 완전히 지배된 것이다. 심층 강화학습과 대규모언어모델(LLM)을 갖춘 현대 AI는 군대가 아닌 벤처캐피털리스트들의 영향을 받았다. 이제는 옛날처럼 이상주의에 경도된 학자들의 영향도 받지 않는다.
우리는 기업 통제에 대한 모로조프의 비판 대부분에 동의하지만 그렇다고 해서 도구적 이성의 가치를 거부해야 한다는 것은 아니다. 문제 해결과 목표 추구는 나쁜 것이 아니며 현재 AI의 사용에 대해 사람들이 흥분할 만한 실질적인 이유도 존재한다. 모로조프는 자신의 경험을 통해 이를 설명한다. 그는 언어 학습이라는 명확한 목표를 추구하기 위해 AI를 사용한다.
AI 도구들은 우리의 개인적 능력을 향상시키고, 우리의 역량을 증폭시키며, 우리가 갖지 못했을 기술과 지식, 능력을 부여할 것을 약속한다. 이는 일종의 개인 집사 같은, 독특한 형태의 보조 기술이다. 그다지 똑똑하거나 유능하지 않을 수 있고 때로는 잘못되거나 원하지 않는 일을 할 수 있지만, 모든 명령을 따르려 시도하고 그것 없이는 가질 수 없었을 능력을 우리에게 제공한다.
물론 우리의 AI 집사들이 가치 있으려면 그들이 일을 잘 해야 한다. 이 점에서는 적어도 기업 모델들이 꽤 잘 해내고 있다. 아직 많은 결함을 가지고 있지만 불과 몇 개월 사이에 현저하게 개선되고 있다. 챗GPT의 2022년 11월 초기 모델인 GPT-3.5는 객관식 과학추론 벤치마크 GPQA에서 약 30%의 점수를 받았다. 5개월 후 GPT-4는 36%를 기록했고 2024년 5월에는 GPT-4o가 약 50%를 기록했으며, 최근 출시된 o1 모델은 78%에 도달하여 박사 학위를 가진 전문가 수준을 넘어섰다. 물론 AI 성능을 측정하는 단일한 척도는 없지만 다른 지표들도 개선을 보여주고 있다.
하지만 이것만으로는 충분하지 않다. 인간이든 AI든 보조자가 아무리 똑똑하다 하더라도, 신뢰할 수 없다면 중요한 작업에서 이들을 사용하진 않을 것이다. 신뢰할 수 없는 인간을 다룬 경험은 수천 년이지만 신뢰할 수 없는 AI 보조자를 다룬 경험은 사실상 전무하다. 이것이 AI의 출처provenance가 가장 중요한 영역이다. 오픈AI, 구글, 메타, 앤트로픽 등 소수의 영리 기업들이 가장 주목받는 AI 모델들을 어떻게 훈련시킬지, 어떤 데이터를 사용할지, 어떤 종류의 가치를 구현할지, 누구의 편향을 반영할 수 있을지, 심지어 어떤 질문에 답할 수 있을지를 결정한다. 그리고 그들은 자신들의 이익을 위해 이러한 것들을 비밀리에 결정한다.
기업 AI 생태계가 얼마나 폐쇄적이고, 따라서 신뢰할 수 없는지의 문제는 매우 중요하다. 메타는 LLaMa 모델 제품군의 "오픈소스" 정책으로 많은 언론의 주목을 받았지만 실제로 모델에 대해 개방된 것은 거의 없다. 우선, 그들이 훈련에 사용한 데이터는 공개되지 않았다. 다른 사람의 저작권을 침해하기 위해 LLaMa를 사용해서는 안 되지만, 메타는 그것을 구축하는 과정에서 저작권을 침해했는지에 대한 질문에 답하기를 원하지 않는다. 메타가 EU의 AI법에서 예상되는 규제 요건을 충족하기를 거부했기 때문에 유럽에서는 이를 사용할 수 없다. 그리고 우리에겐 메타가 다음 모델을 어떻게 구축할지에 대해 발언권이 없다.
회사는 LLaMa의 사용을 무료로 제공하고 있을지 모르지만 여전히 사람들이 자기네 모델을 사용하는 게 자신들에게 이익이 될 것이라고 생각하기 때문에 그렇게 하는 것이다. 메타의 CEO 마크 저커버그는 결국에는 메타가 대규모 사용에 대한 요금 부과, 프리미엄 모델 수수료, 광고 등 모든 일반적인 방식으로 AI를 수익화할 것이라고 인정했다. 기업형 AI의 문제는 이러한 도구들을 사용하기 위해 "높은 입장료"를 부과한다는 것이 아니다. 모로조프가 적절히 지적했듯이, 이를 구축하고 운영하는 데는 실제 비용이 든다. 문제는 이들이 우리의 삶, 웰빙, 또는 사회를 풍요롭게 하기 위해서가 아니라 소유자들을 부유하게 만들기 위한 목적으로 구축되고 운영된다는 것이다.
하지만 기업형 AI 세계 밖에서 등장하는 일부 모델들은 진정으로 개방되어 있으며, 그 결과 보다 신뢰할 수 있다. 2022년 연구 협력체인 빅사이언스BigScience는 자유롭게 라이선스된 데이터와 코드, 그리고 공공 컴퓨팅 인프라를 갖춘 BLOOM이라는 LLM을 개발했다. 빅코드BigCode라는 협력체는 이러한 정신을 이어받아 프로그래밍에 중점을 둔 LLM을 개발하고 있다. 싱가포르 정부는 동남아시아 언어에 중점을 둔 오픈소스 LLM인 SEA-LION을 구축했다. 우리 모두에게 이익이 되는 방식으로 AI 모델을 사용하는 미래—우리의 삶을 더 쉽게 만들고, 서로를 돕고, 공공 서비스를 개선하는—를 상상한다면 우리는 이런 진정한 오픈소스 모델들이 더 필요할 것이다. 이것들은 모로조프가 상상하는 것과 같은 "에올리스적" 추구가 아닐 수 있지만 목표로 삼을 만한 가치가 충분하다. 이러한 사용 사례들은 신뢰할 수 있는 AI 모델을 필요로 하며, 이는 투명한 조건하에서 공익에 부합하는 인센티브를 가지고 구축된 모델을 의미한다.
아마도 기업형 AI는 결코 그러한 목표를 만족시키지 못할 것이다. 설계상 항상 착취하고 뽑아내려고 할 것이다. 하지만 AI가 반드시 이윤 창출 산업이어야만 하는 것은 아니다. 우리는 이러한 모델들을 21세기 공공 인프라의 일부로 간주하고 투자해야 한다. 민주적 정부와 시민사회 조직들은 기업의 도구들에 대한 균형추를 제공하기 위해 AI를 개발할 수 있다. 이렇게 구축되는 기술은 결함이 있을지라도 기업형 AI가 결코 가질 수 없는 초능력을 가질 것이다. 공익에 대해 책임을 지고 개발의 투명성, 개방성, 신뢰성에 있어 공공의 의지에 따르는 능력이다.
브루스 슈나이어Bruce Schneier는 공익 기술자이자 하버드대학교 케네디행정대학원의 강사다. 그의 최신 저서는 '해커의 마음: 권력자들이 사회의 규칙을 어떻게 왜곡하는가, 그리고 이를 어떻게 바로잡을 것인가'이다.
네이선 샌더스Nathan Sanders는 데이터 과학자이자 하버드 버크만클라인 인터넷·사회센터의 연구원이다.
응답④ 오드리 탕: 사이버네틱스의 진정한 유산
퍼스널 컴퓨터 혁명의 교훈
자율적으로 행동하는 기계에게 인간의 능력을 복제하는 매혹적인 AI 서사에서 벗어나, 대신 기계가 사람들을 연결하여 더 능숙하게 협력하고 자치할 수 있는 세상을 상상했던 사이버네틱스와 듀이식 실용주의의 풍부한 전통으로 돌아가야 한다는 모로조프의 주장은 옳다. 그는 또한 라틴아메리카의 급진주의처럼 역사 속 잊혀진 영감을 활용하여 이 투쟁을 좌우 정치적 분열에 투영한다. 대만의 디지털 장관으로서 내 경험은 칠레의 살바도르 아옌데 같은 낭만성은 부족하지만, 내가 적용하고자 했던 실용주의는 아마도 모로조프의 야망을 향한 보다 많은 컨센서를 유도할 수 있는 길을 제시할 수 있을 것이다.
나의 작업은 현대 컴퓨팅의 주류 역사에 깊이 뿌리를 두고 있다. 사이버네틱스가 쿠데타로 전복된 칠레의 사회주의 실험과 히피 공동체에 영감을 준 것은 사실이나 또한 전후 시대의 가장 중요하고 성공적인 기술 및 경영 트렌드 중 적어도 세 가지, 퍼스널 컴퓨팅, 일본 제조업 기적, 인터넷에 주된 영향을 미쳤다. 좌파의 순교자들과 실리콘밸리 사업가들 모두 스스로를 사이버네틱스의 반항아 영웅으로 여겼다. 하지만 사이버네틱스가 이룬 성취는 기업, 정부, 학계—모로조프라면 분명 이 네트워크를 "군산복합체"라고 불렀으리라—를 자유롭게 넘나들었던 JCR 리클라이더Licklider(일명 "릭Lick")와 에드워즈 데밍W Edwards Deming과 같은 학자형 관료들의 보다 지루한 작업 덕분이라고 할 수 있다.
이른바 AI 기술은 우리 모두의 삶에 영향을 미칠 것이며 우리는 인류가 그 운전대를 잡을 수 있도록 모든 노력을 다해야 한다. 하지만 AI 이전에 디지털 시대를 이끌어온 도구들은 모로조프가 적절하게 비판하는 도구적 효율성과 인간 소외의 논리를 훨씬 덜 가지고 있다. 릭의 말을 빌리면 퍼스널 컴퓨터는 인공일반지능(AGI)이 아닌 "인간-컴퓨터 공생man-computer symbiosis"을 제공한다. 한편 일본의 카이젠改善 방식의 기적은 생산라인 작업자들이 전체 생산 과정을 이해할 수 있도록 권한을 부여하면 품질을 지속적으로 개선하고 그들을 기계로 대체하거나 변형시키는 것을 피할 수 있다는 데밍의 통찰에 기반을 두었다. 인터넷의 경우, 패킷 스위칭, 하이퍼텍스트, 그리고 듀이식의 협력적이고 표준 기반의 거버넌스는 컴퓨터공학의 선구자 토니 호어Tony Hoare가 "모든 악의 근원"이라고 지적한 성급한 최적화의 노예가 되지 않으면서도 놀라운 범위의 상호작용을 위한 강력한 기반을 제공한다.
물론 인터넷과 개인용 컴퓨팅이 점점 더 AI 기반의 중앙화된 디지털 플랫폼이라는 기계의 톱니바퀴가 되어감에 따라 AI와는 대조적인 기존 패러다임의 영향력은 쇠퇴하고 있는 것일지도 모른다. 하지만 릭이 1979년 그의 선견지명 넘치는 에세이 '컴퓨터와 정부'에서 인터넷의 탄생 시점에 이러한 비극적인 전환을 예견했을 때 그는 그 원인을 모로조프가 창송하는 바로 그 반(反)군산복합체적 선동에서 찾았다.
미 국방부 고등연구계획국(ARPA) 정보처리기술실Information Processing Techniques Office의 프로그램 책임자로서, 릭은 국방부 예산으로 스탠퍼드의 더글라스 엥겔바트의 증강연구센터를 포함한 최초의 컴퓨터공학 학과들의 자금 지원을 시작했고, 이들을 오늘날의 인터넷의 전신인 ARPANET을 통해 연결했다. 그는 맨스필드 개정안4의 국방부 지원 기초연구 금지를 촉발한 반베트남전 정서에 공감했지만, 미국 정부의 네트워킹 포기가 어떻게 기업 독점을 허용하여 디지털 혁신을 억압할 것인지를 분명히 보았다.
이러한 제약으로 인해 연구의 초점을 무기 체계의 성능에만 협소하게 맞추도록 강요받은 ARPA는, 모로조프가 한탄하듯이 좁은 효율성의 논리로 전환했다. 이러한 변화는 기관의 이름이 고등연구계획국(ARPA)에서 국방고등연구계획국(DARPA)로 바뀐 것에서도 상징적으로 나타난다. 모로조프가 설명하듯이, 이는 자금에 굶주린 AI 커뮤니티의 손에 들어갔는데 아이러니하게도 이 커뮤니티는 존 매카시와 마빈 민스키 같은 선구자들의 작업이 주도했다. 그들은 신자유주의자와는 거리가 멀었으며 소련의 계획가들이 생각했던 것보다 훨씬 더 큰 AI 기반 유토피아를 주창했다. 지난 15년 동안 서구에서 AI와 암호화폐 모두를 향해 보여준 전환은 이러한 우선순위 변화의 파급 효과로 볼 수 있으며, 이는 마치 인터넷과 개인용 컴퓨팅 혁명이 릭의 기초 투자의 파급 효과였던 것과 같다.
최근의 저서 '⿻ 數位 다원성: 협력적 기술과 민주주의의 미래'에서 글렌 웨일E Glen Weyl과 나는 산업계, 연구계, 정부 전반의 수십 명의 리더들과 협력하여, 사이버네틱스가 죽었다는 이야기가 사실과 다르다고 주장한다. 사이버네틱스의 뿌리는 서구보다 아시아에 훨씬 더 깊이 심어졌다. 결국 데밍은 참여적 생산을 일본의 수백만 명의 삶의 핵심으로 가져왔고 1919~1921년 사이의 듀이의 광범위한 중국 여행은 그의 실용적이고 민주적인 교육 이론을 대만의 토지 개혁과 교육의 기초로 만들었다.
따라서 AI와 암호화폐, 그리고 그것들에 대한—모로조프의 비평을 포함한—비판들이 서구의 기술 담론을 지배하는 동안, 지구 반대편에서는 더 희망적이고 합의적인 내러티브가 펼쳐지고 있다. 일본의 미래관 국립과학혁신박물관은 보스턴 과학박물관의 과시적이고 명백히 쓸모없는 로봇 강아지 대신 유희적이면서도 돌봄을 제공하는 보조 기술을 선호한다. 인도에서는 공적 자금으로 운영되고 공개적으로 상호운용 가능한 애그리스택Agri Stack—국가의 디지털 공공 인프라를 구축하는 더 광범위한 인디아스택India Stack 사업의 일부—이 암호화폐 광풍의 영향을 받지 않은 1억 명 이상의 은행 거래가 없는 농민들에게 공공 서비스와 결제 시스템을 제공했다. 그리고 대만의 신흥 디지털 민주주의는 반세기 전 릭의 권고를 실현했다. "컴퓨터 기술의 발전에 대한 결정은... 대중 스스로가 그들의 미래를 형성할 의사결정 과정에 참여할 수 있는 수단을 제공하는 것을 목적으로... 이루어져야 한다.
이는 배우고 발전시킬 가치가 있는 전통이다. 하지만 이는 우리 시대의 제한된 정치적 내러티브에 쉽게 들어맞지 않는다. 미국의 정치 주류가 강력한 동맹국으로 자주 칭송하는 일본, 인도, 대만에서 기술 혁신은 전통적이고 종종 종교적인 사회 구조와 깊이 통합되어 있다. 이는 실존적 위험의 세속적 종말론과 사회정의를 논하는 정치가 기업의 AI 야망에 대한 주요 견제 수단인 서구의 내러티브와는 이질적이다. 하지만 이는 현재의 디지털 사회가 우리에게 설치한 함정으로부터 우리를 더 완전히 자유롭게 할 수 있는 길을 제시할 수 있다.
AI는 단지 불안한 미래의 위협이 아니다. 분열적인 콘텐츠와의 참여를 극대화하고 이를 통해 광고 수익을 높이는 데 적용되면서 AI는 이미 우리가 서로를 보고 우리 주변의 세상을 보는 능력을 왜곡하고 있다. 따라서 가장 효과적인 반항적 행위는 문화와 이데올로기를 넘어 서로 소통함으로써 기존의 분열을 강화하는 이러한 유인을 초월하여 우리가 함께 살고 싶은 미래를 만드는 것일 수 있다.
오드리 탕Audrey Tang은 대만의 사이버 순회대사이며 대만의 초대 디지털부 장관을 역임했다. 글렌 웨일과 함께 '다원성: 협력적 기술과 민주주의의 미래'를 썼다.
응답⑤ 사라 마이어스 웨스트, 암바 카크: AI에서 결여된 타자들
실리콘밸리에서 배제된 이들을 보면 AI가 나아가야 할 길을 알 수 있다
챗봇과 생성 이미지가 넘쳐나는 지금, 심각한 불평등과 전 세계적 위기의 시대에서 모로조프의 말은 옳다. 우리에겐 우리가 거부하는 세상이 무엇인지 뿐만 아니라 우리가 살고 싶은 세상이 무엇인지에 대해 더 명확한 설명이 절실히 필요하다. 하지만 그 비전을 구체화하고 더 나아가 그것을 실현하기 위해서는 앞으로의 과제들과 이를 극복하기 위한 정치적 힘을 어디서 구축할 수 있을지에 대한 더 세련된 교훈이 필요하다.
AI 분야는 소수의 지배적인 기술 기업들에 의해 포섭됐을 뿐만 아니라 그들에 의해 조성되었다. 컴퓨팅과 데이터 자원의 규모를 성능의 대리 지표로 사용하는 지배적인 "클수록 좋다"는 패러다임이 이러한 자원을 불균형적으로 통제하는 실리콘밸리의 소수 기업들의 이해관계와 깔끔하게 일치하는 것은 우연이 아니다. 널리 찬사를 받았던 2012년 '알렉스넷AlexNet' 논문은 변곡점이었다. 그 이후 대규모 데이터와 임시 노동력, 기하급수적으로 큰 컴퓨팅 자원에 의존하는 딥러닝 방식이 이 분야를 지배하게 되었는데 권위 있는 머신러닝 학회에서 기업 연구소의 존재감이 커진 것도 원인이었다.
이는 새로운 현상이 아니다. AI 분야에서 미국의 기술적 우위를 보장하기 위한 레이건 행정부의 전략적 컴퓨팅 계획 구상에도 동일한 요소들이 영향을 미쳤다. 이 사업은 결국 성공을 위해서는 무한대의 컴퓨팅 파워와 데이터의 확장이 필요하다는 것을 깨닫고 폐기되었다.
비용에 상관없이 무한한 규모를 추구하는 구상은 다시 무덤에서 깨어나 이제 샘 올트먼과 같은 AI 대표 인물들이 칩 제조에 대한 공공 투자와 데이터센터를 위한 무자비한 전력 확장을 위해 로비하도록 만든다. 지난 15년간의 규제받지 않은 감시 비즈니스 모델이 빅테크의 지배적 위치를 확보하기 위한 데이터, 컴퓨팅, 자본 자산을 생성했다면, 다음 단계에서는 이러한 인프라 우위에 대한 추가적인 투자가 필요할 것이다. 이러한 관점에서 챗GPT의 등장은 AI 역사의 명확한 분기점이라기보다는 2000년대 초반 기업들이 갖고 있던 원칙을 강화하는 것이다.
상황은 다른 방향으로 진행될 수도 있었다. 모로조프가 주장하듯 "인공지능"이라는 용어는 70년의 역사 동안 여러가지 다른 의미를 가져왔다. 그가 언급하진 않았지만 그의 주장과 공명하는 다른 모델들이 여전히 존재한다. 앨리슨 애덤Alison Adam 같은 페미니스트 AI 학자들은 한때 상황적 로봇공학을 대안적 패러다임으로 제시했는데 지능을 규칙에 묶인 관료적 전문가 모델이 아닌 외부 세계와의 접촉을 통해 구현된 경험에서 나오는 것으로 해석했다. 한때 기업 AI 연구소는 훨씬 더 급진적인 정치적 성향을 가진 연구자들의 경력을 육성했다. 루시 서치맨Lucy Suchman이 그중 하나다. 제록스 PARC에서 성장한 그는 혼란스러운 세상에서 인간이 기계와 어떻게 상호작용하는지에 대한 우발성을 이해하는 데 전념하는 인간-컴퓨터 상호작용 분야를 설립하는 데 도움을 주었다. (서치맨은 또한 전략적 컴퓨팅 계획과 전쟁에서의 AI 사용에 반대하여 조직된 단체인 '사회적 책임을 위한 컴퓨터 전문가 모임'의 설립자 중 하나였다.)
최근에는 구글에서 마이크로소프트에 이르는 빅테크 연구소 내에서도 AI 개발의 궤적을 재정의하고자 했던 비판적 학문과 노동자 주도의 조직화가 잠시나마 존재했었다. 우리 연구소인 AI나우AI Now와 티므닛 게브루Timnit Gebru가 설립한 분산형AI연구소Distributed AI Research Institute와 같은 기관들을 만들어낸 흐름이었다. 하지만 테크 기업들이 효율성, 감시, 군국주의의 이름으로 AI의 빠른 개발과 출시를 추구하면서 빅테크의 내부 반발에 대한 관용은 빠르게 사라졌다. 극히 일부의 예외를 제외하고, 노동자 주도의 조직화와 비판적 논문의 발행은 기업의 이윤에 위협이 되는 순간 신속하게 진압되어, 원래부터 다양성이 크지 않았던 AI 필드의 다양성을 더욱 공동화空洞化했다. 보다 비판적인 흐름 대신, AI 기업들은 개발에 대한 헬리콥터식 접근을 채택하여, 해결책을 제시할 수 있는 고착화된 문제들의 AI 규모 버전을 만들어냈다. 교사 부족 문제를 해결하기 위한 유치원생용 아이패드 앱, 간호사를 대체하기 위한 의료 챗봇 등이다.
AI를 "민주화"하려는 사명이 등장한 것은 바로 이러한 맥락에서였으며, 이는 이제 AI 규제와 공공 투자 제안을 둘러싼 노력에도 스며들었다. 이러한 운동들은 흔히 AI의 직접적인 영향을 받는 공동체들—교육 기술의 영향을 받는 교사들, 결함이 있는 임상 예측 도구와 씨름하는 간호사들, 임대 심사 시스템으로 인해 저렴한 주택을 거부당한 임차인들—이 피해 감소에 관한 논의에서 발언권을 가져야 한다고 주장한다. 다른 경우에는 더 다양한 범위의 행위자들이 시장 논리를 벗어나 AI를 구축할 수 있도록 컴퓨팅 자원에 접근할 수 있게 하는 데 초점을 맞춘다. 이러한 노력들의 동기는 적절한 사람들이 대화에 참여하거나 약간의 자원만 주어진다면 의미 있는 대안—아마도 모로조프가 말하는 AI의 "결여된 타자"에 가까운 것—을 가질 수 있을 것이라는 생각이다.
"가장 큰 영향을 받는 이들을 참여시킨다"는 아이디어는 분명 그럴싸하게 들리지만 실제로는 공허한 기표에 불과할 때가 잦다. 권력이 테크 기업들에게 강력히 집중된 상황에서 발언권을 준다는 초대는 무의미하다. 그냥 발언권이 있다는 것과 AI의 사용 여부와 방법을 결정하는 데 의미 있는 목소리를 내는 것 사이의 거대한 간극은 AI 규제에 관한 논쟁에서 특히 두드러진다. 예를 들어 AI 시스템 감사audit에 대한 의무 규정은 AI로 영향을 받는 공동체들의 목소리를 그냥 공적인 정당성을 부여하는 데 쓸 수 있는 형식적인 증거 이상으로 취급하지 않는 경우가 잦았는데 엘렌 굿맨Ellen Goodman과 줄리아 트레후Julia Tréhu는 이를 두고 "AI 감사 세탁AI audit washing"이라 부른다. 이는 산업계가 평소처럼 사업을 계속하도록 허용하는 결과를 낳으며 구조적 불의를 변화시키거나 '해결책을 위해 문제를 찾는 AI'라는 왜곡된 과정을 추동하는 잘못된 인센티브를 고치는 데 아무것도 하지 않는다.
이러한 긴장은 AI에 대한 정부 주도의 R&D 투자를 둘러싼 미국의 논쟁에서도 나타나는데 입법자들은 이것이 테크 산업이 지출하는 수십억 달러(수조 원)에 비해 여전히 미미한 수준이라고 한탄한다. 산업정책 역사가들이 증언하듯이 정부는 역사적으로 더 장기적인 시야와 혁신적인 공공 이익의 잠재력을 가지고 R&D 지출을 주도해 왔지만 산업계는 좁은 의미의 상업화에만 집중한다. 하지만 의제 설정 권력과 널리 채택된 벤치마크 덕분에 테크 업계는 이제 기초 연구에서의 진보가 무엇인지를 좌우한다. 그 결과 과학 연구와 상업화 사이의 경계가 흐려지고, 전례 없는 규모의 자본 투자를 정당화하기 위해 초지능superintelligence과 인공일반지능(AGI)를 향한 노력으로 기울어지게 된다. 이로 인해 AI 혁신이라는 전제로 표면상 추진되는 많은 현재의 "공공 AI" 계획들은 "AI를 위한 맨해튼 프로젝트"와 같은 국방 중심의 의제에 크게 기울어지거나 산업 발전의 가장자리를 건드리는 수준의 사업을 제안한다. 이러한 노력은 기술 테크 기업들만 돕고, 가능성의 지평을 넓히는 대신 끊임없이 성장하는 규모에 초점을 맞춘 미래로 우리를 몰아간다.
모로조프가 이러한 길을 거부하는 것은 옳다. 하지만 그가 제시하는 "공공적이고, 연대에 기반하며, 사회화된" 미래라는 비전을 달성하기 위해서는 그가 제안하는 것보다 더 나아가야 한다. 이러한 노력은 "기술의 해방적 잠재력"에 대한 널리 공유된 믿음이라는 전제에서 시작하는 대신, AI의 결여된 타자들—실리콘밸리가 단호하게 배제해 온 비판적 흐름과 대안적 비전—의 관점에서 비롯되어야 한다.
사라 마이어스 웨스트Sarah Myers West는 AI Now 연구소의 공동 연구소장이며 OECD의 AI 미래 전문가 그룹 위원이다.
암바 카크Amba Kak는 AI Now 연구소의 공동 연구소장이며 전직 연방거래위원회(FTC) AI 수석 자문위원이다.
모로조프의 재응답: 의미를 배양하기
'AI의 결여된 타자'를 어떻게 존재하게 할 것인가라는 핵심 질문에 대한 사려 깊은 응답들에 감사한다. 개별 응답에 대한 구체적인 내용에 들어가기에 앞서, 나는 '타자'가 실제로 무엇을 의미하는지에 대해 보다 분명히 하고자 한다.
브루스 슈나이어와 네이선 샌더스는 문제 해결의 중요성(내가 이를 경시한다고 보면서)을 옹호하고, 테리 위노그라드는 내 입장을 "해결할 문제도, 추구할 목표도 없는... 유희성"을 주장하는 것으로 특징짓는다. 하지만 이러한 해석들은 도구적 이성과 생태적 이성 간의 관계를 근본적으로 오해하고 있다. 에올리스적 산보자flâneur는 의도적으로 돌을 찾아 나서지는 않지만 그럼에도 장기 프로젝트, 목적, 그리고 해결해야 할 문제들의 틀 안에서 활동한다. 스톰 자신이 언급했듯이, "돌은... 이미 목적에 맞게 충분히 잘 적응된 형태와... 목적을 강하게 시사하는 형태로 수집되었다."
이러한 목적들은 문화, 역사, 사회로부터 나타나지만 그 구체적인 형태는 우리 각자가 그것들을 어떻게 해석(그리고 재해석)하는지에 달려있다. 이것이 인간이 컴퓨터와 근본적으로 다른 지점 중 하나다. 우리가 가진 의미의 집합은 서로 달라 동일한 대상에 대해 근본적으로 다른 해석으로 이어진다. 그래서 나는 컴퓨터에게 로르샤흐 테스트를 실시하는 것이 무의미하다고 주장한 것이다. 이 검사는 오직 인간적인 삶의 기획—그에 관한 모든 불안, 열망, 좌절감을 포함한—의 관점에서만 의미가 있으며 이것이 우리가 로르샤흐 이미지를 이해하는 방식을 형성한다.
내가 생각하는 지능은 위노그라드가 주장하는 것처럼 돌봄과 관심의 문제를 무시하는 게 아니라 오히려 그것을 중심에 둔다. 이것들이 그 자체로 지능의 형태는 아니라는 점에는 동의하지만 이들은 세계가 우리에게 제시하는 돌봄의 촉발—도덕적, 정치적, 또는 미학적인—에 우리가 반응하는 방식과 분리할 수 없다.
이러한 이해는 '결여된 타자'를 명확히 하는 데 도움이 된다. 위노그라드의 해석과는 달리 나는 고든 파스크의 뮤지컬러 기계와 같은 더 유희적인 AI 시스템을 옹호하는 게 아니다. 그 대신 나는 현재 AI에서 사용되는 기술 일부를—다른 사회적, 문화적 자원들과 함께—생태적 이성을 육성하는 데 활용하는 대안적인 비非AI 프로젝트를 상상한다. 목표는 소음이나 지루함을 의미와 관심으로 변환하는 관심사와 기술을 배양할 수 있게 함으로써 더 많은 사람들에게 더 많은 것들을 의미 있게 만드는 것이다.
냉전 시기의 AI는 도구적 이성을—점차 기술 시스템에 내재화되어—모든 사회 영역에 깊이 뿌리내리게 하는 대규모 군사 케인스주의 프로젝트였다. 이와 달리, 오늘날의 대안 AI 프로젝트는 기술을(하지만 기술에만 그치지 않고) 활용하여 인간의 도덕적 추론, 정치적 상상력, 그리고 미학적 감상을 증진시킬 것이다.
놀이는 분명 도움이 될 수 있다. 브라이언 이노가 썼듯 "놀이의 마법은 평범한 것이 의미 있는 것으로 변화하는 것을 보는 것이다." 이는 올바른 세계관Weltanschauung을 발전시키는 것에 대한 내 마무리 발언을 강조한다. 요점은 놀이의 의식ritual을 따르는 것(우리가 축구나 체스를 할 때 하듯)이 아니라 다른 세계가 실제로 가능함을 의심하지 않는 것이다. 동일한 재료와 시작 조건에서도 매우 다른 결과를 낳을 수 있다는 것을 깨닫는 것이 좋은 시작점이 될 것이다. 단순한 돌 하나도 훨씬 더 다양한 것이 될 수 있다.
바로 그러한 정신으로 나는 내가 역사에서 가정을 사용한 걸 옹호한다. 이러한 가정들이 행동을 위한 로드맵을 제공하지는 않지만 내 발제문에 대한 많은 응답들이 분명히 하듯, 우리의 상상력을 열어젖히는 역할을 한다. 우리가 어떻게 미래를 구상하는지를 실리콘밸리가 장악하고 있는 상황에서 이는 특히 중요한 것이다.
기존 기술의 구조적 개혁—자금 조달 메커니즘의 개편(에드워드 옹웨소 주니어가 주장하는 것처럼), 노동자 권한 강화(브라이언 머천트와 웬디 리우가 제안하는 것처럼), 또는 더 투명한 인프라 구축(슈나이어와 샌더스가 옹호하는 것처럼)—과 같은 것들이 중요하긴 하지만 우리가 상상하는 대안이 여기에 국한될 필요는 없다. 보다 근본적으로, 우리는 애초에 지능을 향상시키기 위해 기술을 배치할 때 우리가 달성하고자 하는 것이 무엇인지 새로이 상상할 필요가 있다. AI를 "민주적", "유희적", "사회주의적" 등의 형용사로 끝없이 한정하기보다는, 아마도 우리는 근본원칙으로 돌아가서 기술과 지능 간의 관계가 냉전시대 '효율성 로비'로부터 물려받은 틀을 완전히 벗어나 개념화될 수 있는지 물어야 할 것이다.
이는 물론 어려운 일이다. 따라서 사라 마이어스 웨스트와 암바 카크의 기술 낙관주의에 대한 우려에 공감하지만 그들은 나의 주장을 기술의 해방적 잠재력에 대한 새로운 신념에 의존하는 것으로 잘못 특징짓고 있다. 위노그라드가 정확히 지적했듯이, 나는 1970년대 초 라틴아메리카의 사례들을 정반대의 논점을 보여주기 위해 언급했다. 단순히 기술에 대한 우리의 사고방식을 바꾸는 것—그것의 대안적 가능성에 대해 "아하" 하는 순간을 갖는 것—만으로는 충분하지 않다는 것이다. 이러한 통찰—이 세계관—을 급진적 정치 프로젝트 안에 내포하지 않고서는 기술의 잠재력에 대한 우리의 인식은 그저 잠재력, 실현되지 않았고 실현도 불가능한 잠재력으로 남을 뿐이다.
위노그라드가 나의 핵심 질문—오늘날 그러한 대안 프로젝트가 어떤 모습일 수 있는가—이 난제라고 한 것은 옳다. 많은 응답자들이 자신만의 답을 제시한다. 나는 대안 프로젝트의 기초적인 윤곽이 종속이론5의 깊은 영향을 받은 1970년대 라틴아메리카 프로젝트들과 유사하리라고 생각한다. 시작점은 현대 기술 발전이—문제 해결 능력에도 불구하고—본질적으로 자본주의적이며 따라서 궁극적으로 인간의 번영과 생태적 생존에 대립됨을 인식하는 게 될 것이다. 필요한 것은 기술 뿐만 아니라 사회 전체를 위한 비자본주의적 발전 경로를 상상하고 실행하는 국가적—그리고 경우에 따라서는 지역적—프로젝트다. 물론 그러한 의제는 서로 다른 맥락에서 극적으로 다른 형태를 취할 것이다. 미국에서 작동하는 것은 과테말라, 태국, 또는 케냐에서 성공할 수 있는 것과는 현저히 다를 것이다. 그리고 세계 경제의 공고한 패권국인 미국에 대해 무엇을 할 것인가도 쉬운 질문이 아니다.
오드리 탕은 북미와 유럽 외부의 발전에 대한 가치 있는 논의를 제시했지만 '비자본주의적 발전 대안'이라는 이 중요한 질문을 간과한다. 에드워즈 데밍과 같은 인물들에 대한 사이버네틱스의 정확한 영향력을 논할 수는 있지만 우리는 일본의 경제 기적을 이끈 도요타주의와 린6lean 생산방식에 대한—일본과 다른 사상가들 모두의—광범위한 비판들을 잊어서는 안 된다. 노동자 참여를 일부 포함하고 피드백과 같은 개념을 사용했다는 이유만으로 이러한 시스템들을 찬양하는 것은 그들의 매우 정치적이고 이념적인 본질을 놓치는 것이다. 어쨌든 이러한 시스템들은 (여전히) 고도로 위계적이고 대체로 권위주의적인 자본주의 작업장에서 더 높은 생산성을 추구했다. 이러한 접근은 내가 도전하고자 하는, 대안적 경로에 대한 고려와 유리된 바로 그러한 종류의 기술관료적 사고의 전형이다.
인디아스택 같은 프로젝트에도 비슷한 비판이 적용된다. 탕이 이 사례를 지역 혁신의 승리로 제시하지만 이는 단지 하나의 발전 모델—실리콘밸리에 공물을 바치는 것을 피하려고 인도국내 자본가 계급에게 복무하는—을 대표할 뿐이다. 자본주의가 그 국제적·국가적 형태 모두에서 축적을 촉진하는 전통과 사회구조의 요소들을 어떻게 포섭하는지를 주의 깊게 검토하지 않으면 결과적으로는 동질화시키는 영향을 간과하고 표면적 수준의 다양성을 찬양할 위험이 있다. 시간이 인디아스택이 생태적 이성을 증진시키는지 아니면 저해하는지를 말해주겠지만 나는 매우 회의적이다.
기술적 대안의 가능성은 실리콘밸리의 디지털 제국주의를 지역적 변형으로 대체하는 것이 아니라 자본 축적의 논리 바깥에서 기술의 역할을 재개념화하는 데 있다. 이는 기술적 혁신이나 지역적 통제 이상의 것을 요구한다. 이는 진정한 사회적 변혁과 얼굴만 바꾼 자본주의적 발전을 구별할 수 있는 급진적 정치적 비전을 필요로 한다. 우리의 과제는 AI를 더 민주적으로 만들거나 디지털 인프라를 더 국가적 색채를 띠게 하는 것이 아니다. "대안이 없다"고 계속해서 설교하는 바로 그 틀에서 벗어나는 기술적 미래를 구축하는 것이다.
에브게니 모로조프Evgeny Morozov는 기술과 정치를 연구한다. 저서로 'The Net Delusion'과 'To Save Everything, Click Here: The Folly of Technological Solutionism'이 있다. 최근작은 'A Sense of Rebellion'이란 팟캐스트다.
앞으로 AI가 미래를 좌우하리라는 데는 별다른 이견이 없는 듯합니다. 하지만 그 미래에 대한 논의의 터전은 황량합니다. 너무 장밋빛이라 언뜻 듣기에도 쉬이 믿기지 않는 '온탕'과 영화 속의 디스토피아 같은 '냉탕'을 오갑니다. 그 와중에 우리가 '원하는' 미래는 무엇인지에 대한 논의는 거의 전무합니다. AI 기술의 발전 방향을 결정하는 것은 주로 거대 테크 기업들이고, 우리의 논의는 여전히 그들이 제시하는 프레임 안에 갇혀 있는 것 같습니다.
지난주에 소개한 에브게니 모로조프의 발제문 '다른 AI는 가능하다'는 이를 탈피하기 위한 시도입니다. 이번주에는 보스턴리뷰에서 모로조프의 발제문과 함께 소개한 다양한 AI 전문가들의 응답을 소개합니다.
초기 AI연구의 선구자 테리 위노그라드는 AI가 인간의 돌봄을 지원하는 방향으로 나아가야 한다고 주장합니다. 세계적으로 존경받는 음악가 브라이언 이노는 예술가의 관점에서 AI의 창의성이 가진 한계를 짚어냅니다. 암호학자 브루스 슈나이어와 데이터 과학자 네이선 샌더스는 AI의 신뢰성 문제를, 여성 AI 전문가 사라 마이어스 웨스트와 암바 카크는 기술 발전에서 배제된 목소리들의 중요성을 강조합니다. 대만의 전 디지털부 장관 오드리 탕은 아시아의 경험에서 대안적 길을 찾습니다.
분량 문제로 본문에는 싣지 못한 응답에도 시사점이 많습니다. 전직 소프트웨어 엔지니어이자 저자인 웬디 리우Wendy Liu는 현재 AI 개발이 소수 기술 기업들의 이해관계에 따라 왜곡되어 있다고 지적합니다. AI 옹호론자들이 주장하는 '객관적 지능'이나 '무한한 사랑'과 같은 수사는 실제 AI의 능력과 큰 괴리가 있으며, 이는 수조 원대 투기 거품을 정당화하는 도구가 되고 있다고 비판합니다. AI는 결국 개발자와 기업의 가치관이 반영된 결과물이므로, AI의 진정한 사회적 가치 실현을 위해서는 민주적 통제와 정치적 변화가 필요하다고 주장합니다.
테크 칼럼니스트 브라이언 머천트Brian Merchant는 19세기 초 러다이트 운동의 교훈을 통해 현재 AI 기술에 대한 저항과 대안을 모색합니다. 생성AI가 노동자 감시 강화, 차별 심화, 임금 하락을 초래하고 실리콘밸리 기업들에게 권력을 집중시키는 현실에서, 예술가, 작가 등 숙련 노동자들의 집단적 거부 운동이 의미 있는 저항의 형태가 될 수 있다고 봅니다. 궁극적으로는 이러한 저항의 에너지를 기술의 재창조와 재상상으로 전환하여, 노동자들이 기술 통제권을 가질 수 있는 근본적 변화를 이뤄내야 한다고 주장합니다.
테크, 금융, 노동 분야를 주로 다루는 저자 에드워드 옹웨소 주니어Edward Ongweso Jr는 AI 산업의 현재 상황을 금융화의 관점에서 분석합니다. 빅테크 기업들이 AI 인프라 확장에 천문학적 투자를 하고 있으며, 이들이 화석연료 기업들과 결탁하여 데이터센터용 발전소를 건설하는 등 생태계를 위협하고 있다고 지적합니다. 이러한 문제를 해결하기 위해서는 실리콘밸리와 월스트리트, 화석연료 기업, 국방 산업을 동시에 견제할 수 있는 근본적 정치 프로젝트가 필요하다고 주장합니다. 구체적으로 벤처캐피털에 대한 공격적 과세, 연기금의 벤처캐피털 투자 제한, 국가투자청(NIA) 설립을 통한 공공 투자 확대 등을 제안합니다.
서로 다른 이 관점들이 한데 모여 우리에게 던지는 질문은 하나입니다. 현재 진행되고 있는AI 발전방향이 정말 유일한 길인가? AI는 지금과는 다른 어떤 것이 될 수 있을까? 이 질문들은 단순히 철학적인 것이 아닙니다. AI가 우리의 삶과 사회를 근본적으로 바꿀 것이라면 그 방향을 결정하는 것은 소수 기업의 이윤 추구가 아닌 우리 모두의 숙의여야 하기 때문입니다. 물론 AI 논의가 복잡한 기술적 요소를 가져 일반인이 논의에 쉽게 참여할 수 없다는 한계는 있습니다만, 우리의 삶에 너무나 큰 영향을 미치는 사안이기에 그것에 대한 토론을 외면할 수가 없습니다. 이 글이 그러한 토론의 출발점이 되기를 바랍니다.