2024.05.17 13:55
2021년, '인간-기계 팀: 우리의 세상을 혁신할 인간과 인공지능 간의 시너지 창출법'이라는 영문 서적이 'Y.S 준장'이라는 필명으로 출간되었다. 이스라엘의 엘리트 정보부대인 8200부대1의 현직 지휘관으로 확인된 저자는 이 책에서 방대한 규모의 데이터를 신속하게 처리하여 전쟁이 한창 진행되는 상황에서 공격에 사용할 수천 개의 '표적'을 생성할 수 있는 특수한 체계를 개발해야 한다고 주장했다. 저자는 이런 기술이 "새로운 표적을 찾고 선택하는 의사결정 과정에 있어 '인간이 유발하는 병목현상' 문제를 해결할 것"이라고 말한다.
이런 체계는 실제로 존재한다. +972매거진과 로컬콜의 취재에 따르면 이스라엘군은 '라벤더'라는 AI 기반 프로그램을 개발했으며, 이 프로그램의 정체는 이번에 최초로 공개되었다. 현재 가자지구를 대상으로 한 전쟁에 참전 중이고 공격 목표를 지정하기 위해 인공지능을 사용한 경험이 있는 6명의 이스라엘군 정보부서 장교들에 의하면, 이 '라벤더'는 특히 전쟁 초기 단계에서 팔레스타인을 목표로 진행된 전례를 찾아볼 수 없는 폭격의 핵심 요소로 보인다. 이 제보자들의 증언에 따르면, 라벤더가 군사 작전에 미친 영향력은 너무 커서, 이스라엘군은 AI 체계가 출력한 결과를 '마치 인간의 결정인 것처럼' 취급할 정도였다.
공식적으로, 라벤더 시스템은 하마스2와 팔레스타인이슬라믹지하드3(PIJ)의 전투부서에 소속된 것으로 의심되는 하위 요원을 포함한 모든 구성원을 잠재적인 공격 표적으로 지정하도록 설계되었다. +972와 로컬콜의 제보자들은 이스라엘군이 전쟁 초기에 몇 주 동안 거의 전적으로 라벤더에 의존했고, 라벤더는 최대 37000명에 달하는 팔레스타인인을 무장세력 가담자로 분류했고, 그들의 집을 공습대상으로 지목했다고 전했다.
그리고 군은 라벤더의 사살표적목록을 가감없이 채택하도록 승인했으며, 이 결정이 내려진 이후 장교들은 인공지능 체계가 왜 그런 결정을 내렸는지 철저하게 확인하지 않았고, 판단의 근거가 된 원시 정보 데이터를 확인하지도 않았다. 한 소식통은 인간이 AI체계가 내린 결정에 '거수기' 역할만 하는 경우가 많았다며, 폭격을 승인하기 전에 라벤더가 지시한 표적 당 20초가량의 시간을 할애해 표적이 남성인지 아닌지만을 확인했을 뿐이라고 증언하기도 했다. 이는 시스템이 평균적으로 10%가량 '오류'를 범했으며, 무장단체와 느슨한 연관관계에 있거나, 전혀 연관이 없는 인물을 지목하는 경우도 있음을 알고 있는 상태에서 벌어진 일이었다.
[PADO '언더그라운드 엠파이어' 북콘서트가 11월 30일(토) 광화문에서 열립니다! (안내)]
그리고 이스라엘군은 표적이 군사활동에 참가중일 때가 아니라, 주로 가족들과 함께 모여 있을 야간에 체계적인 공격을 가했다. 제보자들의 설명에 따르면, 이런 공격은 정보기관의 관점에서는 (은신중인 무장조직보다는) 자가로 돌아간 개인을 찾아내는 편이 훨씬 용이했기 때문이었다. 이번에는 '아빠 어딨어?Where's Daddy?'라는 이름의 자동 감시 체계도 처음으로 정체가 드러났는데, 이 감시체계는 주로 표적이 된 개인을 감시하다 표적이 귀가했을 때 집을 폭격하는 용도로 사용되었다.
관계자들의 증언에 의하면, 전쟁 초기의 몇 주 동안 이 AI 프로그램의 결정에 따라 진행된 이스라엘의 공습으로 사망한 수천명의 팔레스타인인 가운데 대부분은 여성과 어린이, 혹은 전투에 관련되지 않은 사람들이었다.
정보장교인 A는 +972와 로컬콜에게 이렇게 증언했다. "우리는 그동안 (하마스) 요원들이 군사시설에 있거나 군사적 활동을 하고 있을 때 공격하는 데 중점을 두지 않았습니다. 오히려 이스라엘군은 첫 번째 옵션으로 주저없이 주거지를 폭격했습니다. 표적의 가족과 그 집을 폭격하는 것은 훨씬 쉬운 선택입니다. 이 시스템은 이런 상황에서 표적을 찾기 위해 만들어진 것입니다."
라벤더 체계는 2023년 11월, +972와 로컬콜의 과거 탐사보도와 이스라엘군의 발표를 통해 공개된 또다른 AI 시스템인 '가스펠4Gospel'과 함께 사용된다. 두 시스템의 근본적인 차이는 표적의 정의에 있다. 가스펠은 이스라엘군에서 팔레스타인 무장단체가 활동한다고 주장하는 건물이나 다른 군사 구조물을 표적으로 탐지하도록 개발된 반면, 라벤더는 사람을 표적으로 규정하고 이들을 표적 명단에 올린다.
그리고 제보자들은 이스라엘군이 (라벤더의 지시에 따라 공격하는 것으로 추정되는) 하위 요원에 대한 공습에 정밀한 '스마트 병기' 대신 '멍텅구리 폭탄'이라 불리는 재래식 무유도 폭탄을 선호한다고 증언했다. 이런 정밀하지 않은 폭탄은 건물 전체를 파괴하고, 상당한 사상자를 유발할 수 있다. 정보장교인 C는 이런 선택을 다음과 같이 해설했다. "중요하지 않는 표적에는 비싼 폭탄을 낭비하지 않으려는 것입니다. 국가의 관점에서 비용이 많이 드는데다, (스마트 폭탄은) 매우 부족하기 때문입니다." 또다른 증언자는 라벤더가 하위 작전요원으로 추정되는 사람들의 거주지 수백 곳에 대한 폭격을 개별적으로 승인했으며, 상당수의 공격에 따른 '부수적 피해'로 주변 민간인이나 (표적의) 가족 전체가 사망하기도 했다고 말했다.
복수의 소식통에 따르면 이스라엘군은 전쟁 초기 몇 주 동안 라벤더가 지목한 하위 하마스 요원 한 명당 최대 15명, 혹은 20명의 민간인 사망자를 허용하는 전례없는 결정을 내렸는데, 이전에는 하위 요원을 공격하는 경우에 부수적 피해 자체를 허용하지 않았다. 소식통은 공격 대상이 적어도 대대장이나 여단장급 이상인 하마스 고위 간부일 경우 한 명당 100명 이상의 부수적 피해를 몇 차례 허용했다고 덧붙였다
[PADO 트럼프 특집: '미리보는 트럼프 2.0 시대']
.
본 탐사보도는 가자지구 전쟁 초기의 몇 주 동안 이스라엘군이 수행한 고도로 자동화된 표적 생성 과정을 시간 순서에 따라 6단계로 구분한다.
첫째, AI를 사용하여 수만 명의 팔레스타인인을 표적화한 라벤더 체계에 대해 해설한다.
둘째, 표적을 추적하고, 그들이 가족이 기다리는 집으로 돌아갔을 때 군에게 신호를 보내는 '아빠 어딨어?' 체계에 대한 정보를 공개한다.
셋째, 표적과 그 가족들을 공격하기 위해 왜 비유도폭탄을 선택하게 되었는지를 설명한다.
넷째, 군이 목표를 폭격하는 동안 허용 가능한 민간인 사망자의 수를 어떻게 늘려 왔는가를 설명한다.
[새로운 PADO 기사가 올라올 때마다 카톡으로 알려드립니다 (무료)]
다섯째, 자동화된 소프트웨어가 각 가정의 비전투원(민간인) 수효를 부정확하게 계산한 방법에 주목한다.
여섯째, 야간에 주택을 공격할 때 장교들이 실시간으로 정보를 확인하지 않았기 때문에, 정작 표적들이 공격대상이 된 집 안에 없었던 경우가 빈번했음을 설명한다.
STEP 1: 표적 생성 '자동 모드로 돌리면 표적은 미친듯이 늘어난다'
과거 이스라엘군 내에서 '인간 표적human target'이라는 용어는 군의 국제법 부서가 지정한 규칙에 따라 주변에 민간인이 존재하더라도 거주지 내에서 사살할 수 있는 고위 군사작전 요원들만을 지칭했다. 제보자들은 +972와 로컬콜에게 과거 이스라엘이 치른 전쟁에서 인간 표적 공격은 누군가를(종종 그의 가족과 함께) 공격하는 '매우 잔인한 방식'이었기 때문에 매우 신중하게 구분되었으며, 국제법상 비례의 원칙을 유지하기 위해 하마스의 '고위' 군 지휘관들만이 자신의 집에서도 공격당할 수 있었다고 증언했다.
하지만 하마스가 이끄는 무장세력이 이스라엘 남부 지역에 치명적인 공격을 가해 약 1200명이 사망하고 240명이 납치된 10월 7일 이후, 이스라엘군은 극단적으로 다른 접근방식을 취하기 시작했다. '철의 검' 작전5 발동 이후, 이스라엘군은 계급과 군사적 중요성에 관계없이 하마스의 모든 요원을 인간 표적으로 지정하기로 결정했다. 그리고 모든 것이 변했다.
새로운 정책은 이스라엘의 정보기관에도 기술적인 문제를 야기했다. 이전까지 치러진 전쟁에서는 한 명의 인간 표적을 공격하기 위해서는 정보장교가 그 사람이 실제로 하마스의 군부 고위층이라는 증거를 교차 확인하고, 거주지와 연락처를 파악하고, 마지막으로 그가 언제 집에 있는지 실시간으로 파악하는 등, 복잡하고 긴 '신원확인' 철차를 거쳐야 했다. 표적 리스트에 수십 명의 고위 요원만이 포함되어 있을 때는 정보 요원들이 개별적으로 이들을 색출하고 위치를 찾는 데 필요한 작업을 처리할 수 있었다.
그러나 표적명단이 수만 명의 하위 요원들로 확대되자 이스라엘군은 자동화된 소프트웨어와 인공지능의 힘을 빌려야 한다고 판단했다. 내부 소식통들에 의하면, 이 판단으로 인해 팔레스타인인들 가운데 군사작전 요원들만을 솎아내는 작업에서 인간의 역할은 뒤로 밀려났으며, 인공지능이 대부분의 작업을 대신 수행하게 되었다. +972나 로컬콜과 통화한 4명의 관계자들에 따르면, 현재의 전쟁에서 휴먼 타겟을 생성하기 위해 개발된 라벤더는 최대 37000명의 팔레스타인인을 공격 대상인 '하마스 무장요원'으로 표기했다. (이스라엘군 대변인은 +972와 로컬콜에 보낸 성명을 통해 이와 같은 표적 리스트의 존재를 부인했다.)
+972와 로컬콜에 접촉한 익명의 고위 장교 B는 이번 전쟁을 위해 (라벤더를) 개발하게 된 배경을 다음과 같이 설명했다. "이스라엘은 (전쟁 이전까지) 하위 요원들을 일상적으로 추적하지 않았기 때문에, 우리는 하마스의 하위 요원들이 누구인지 알지 못했습니다. 하지만 그들은 우리가 하위 요원들을 자동으로 공격할 수 있는 능력을 지니기를 원했습니다. 그것은 성배와 같은 존재였습니다. 자동화가 시작되면 표적 생성은 미친듯이 증가합니다."
정보부서의 이 제보자들은 과거에 보조적 도구로만 사용되던 라벤더의 공격 목록을 검증절차 없이 수용하라는 결정은 전쟁이 시작되고 약 2주 후, 정보 요원들이 AI 시스템이 선택한 수백 개의 표적 중 무작위로 추출한 샘플의 정확도를 '수동'으로 확인한 후에 내려졌다고 말한다. 이 샘플에서 라벤더가 하마스 요원을 정확히 식별할 확률은 90%에 달한다는 결과가 도출되었고, 군은 라벤더 체계의 전면적인 사용을 승인했다. 제보자들은 그 결정이 내려진 이후 라벤더가 특정 팔레스타인인을 하마스의 무장 요원이라고 판단하면 기계가 왜 그런 판단을 했는지 독립적으로 확인하거나, 그 근거가 되는 원시 정보 데이터를 검토하지 않고, 이를 명령으로 간주하라는 지시를 받았다고 증언했다.
제보자인 장교 B는 이렇게 증언했다. "새벽 5시에 공군이 우리가 지목한 모든 주택을 폭격했습니다. 수천 명의 사람들이 사망했습니다. 한 명 한 명 일일이 살펴보고 결정한 것이 아니라, 모든 것을 자동화된 시스템이 결정하고 표적이 된 인물 중 한 명이 자신의 집에 들어가면 우리는 즉시 그와 그의 집을 폭격해버렸습니다."
또다른 제보자는 이렇게 말한다. "전투에서 중요도가 낮은 일개 보병을 공격하기 위해 거주중인 집을 폭격하라는 지시를 받는 것은 매우 놀라운 일이었습니다. 저는 이런 표적들을 깡통 표적이라고 불렀습니다. 하지만 단순히 "억제를 위해 폭격하는 표적들, 그러니까 단지 파괴를 목적으로 사람들을 쫓아내거나 고층건물을 무너뜨리는 것보다는 윤리적이라고 생각했습니다."
전쟁 초기에 이러한 제한 완화가 가져온 치명적인 결과는 엄청났다. 이스라엘군이 전쟁 초기부터 거의 전적으로 의존해 온 가자지구 팔레스타인 보건부의 자료에 따르면, 이스라엘이 개전 이후부터 11월 24일 일주일간의 휴전이 합의될 때까지 전쟁 초기 6주 동안 사망한 팔레스타인인은 약 15000명으로, 이는 지금까지 발생한 사망자 수의 절반에 가깝다.
'정보와 다양성은 많을수록 좋다'
라벤더 소프트웨어는 대규모 감시체계를 통해 가자지구 주민 230만 명 가운데 대다수를 대상으로 수집한 정보를 분석 및 분류한 후, 각 개인이 하마스나 이슬라믹 지하드의 군사조직에서 활동할 가능성을 평가하고 랭크를 부여한다. 소식통에 따르면 이 체계는 가자지구의 거의 모든 사람에게 1에서 100까지 랭크를 부여하여 무장세력 소속 가능성을 표기한다.
라벤더는 사전에 학습된 데이터로 제공된 정보를 통해 하마스와 이슬라믹 지하드 요원들의 특징을 파악한 후, 일반인 가운데 동일한 특징의 인물을 찾아내는 방법을 사용한다. 기존의 요원들과 여러 공통적 특징을 공유하는 개인일수록 높은 랭크가 부여되며, 일정 랭크 이상이 되면 자동으로 공격 대상인 잠재적 표적으로 지목된다.
이 기사의 서두에 언급된 책 '인간-기계 팀'에서 저자인 8200부대의 현직 지휘관은 라벤더를 구체적으로 언급하지는 않았지만 그와 같은 시스템을 지지했다. (지휘관의 이름은 공개적으로 언급된 사례가 없으나,6 8200부대에 소속된 제보자 다섯 명은 이스라엘 유력일간지 하아레츠가 보도했듯 소속 부대의 지휘관이 책의 저자임을 확인해주었다.) 책의 저자는 군사 작전에서 인간을 군의 능력을 제한하는 '인간 병목 현상'을 유발하는 요소로 설명하며 다음과 같이 한탄한다. "우리(인간)는 너무 많은 정보를 처리할 수 없다. 전시에 표적 생성 임무를 수행하는 인력이 몇 명이나 되는지는 중요하지 않다. 몇 명이 되더라도 하루만에 충분한 표적을 생성할 수 없기 때문이다."
저자는 이 문제에 대한 해결책으로 인공지능을 제시하며, AI와 머신러닝 알고리즘을 기반으로 라벤더와 유사한 '표적 분석 체계'를 구축하는 방법에 대한 짧은 설명서를 제공한다. 이 설명서는 개인을 구별할 수 있는 수백, 수천 가지 특징들 가운데 무장세력의 왓츠앱 그룹에 가입되어 있거나, 몇 달마다 휴대폰을 바꾸거나, 주소를 빈번하게 바꾸는 등 대표적인 몇 가지 예를 들며 다음과 같이 설명한다.
"시각적 정보, 휴대폰 정보, 소셜미디어 연결, 전장 정보, 전화 연락처, 사진 등등, 정보는 많을수록, 그리고 다양할수록 좋다. 그리고 처음에는 사람이 이런 요소들을 선별하지만, 시간이 지나면 기계가 스스로 이런 특징들을 학습하고 식별하게 될 것이다. 이를 통해 군대는 수만 개의 표적을 생성할 수 있지만, 공격 여부에 대한 실질적 결정은 여전히 인간이 내릴 것이다."
이스라엘 고위 장교가 라벤더와 같은 인간 표적 지시 체계의 존재를 암시한 사례는 이 책 외에도 존재한다. +972와 로컬 콜은 8200부대의 데이터과학-AI 센터 책임자인 (신원이 기밀로 보호되는) '요아브 대령'이 2023년 텔 아비브 대학의 AI 주간에 진행한 비공개 강연 영상을 입수했다.
이 강연에서 요아브 대령은 이스라엘군이 기존 무장세력과 유사성을 바탕으로 '위험인물'을 탐지하는 새롭고 정교한 표적 식별 체계에 대해 설명했다. 요아브 대령은 강연에서 이 시스템이 처음 실전에 투입된 2021년 5월 가자지구 방면의 군사작전7을 언급하며 이렇게 말했다. "이 시스템을 사용하면 우리는 하마스의 대전차 미사일 분대 지휘관을 식별할 수 있습니다."
+972와 로컬콜이 입수한 해당 강의의 프리젠테이션 슬라이드에는 기존 하마스 요원들에 대한 데이터를 입력하고, 그들의 특징을 파악하는 방식을 학습한 후, 무장 세력과의 유사성에 따라 일반적인 팔레스타인 시민들을 평가하는 시스템 작동방식에 대한 설명을 확인할 수 있다. 요아브 대령은 강연에서 이렇게 설명했다.
"우리는 결과에 랭크를 부여하고 (목표물을 공격할) 임계치를 결정하게 됩니다. 결국 결정은 살아있는 사람들이 내리는 것입니다. 국방분야에서는 윤리적으로 이 점을 매우 중요하게 여깁니다. 이런 도구들은 (정보장교들이) 자신의 한계를 극복할 수 있도록 돕기 위한 것입니다."
그러나 최근 몇 달 동안 라벤더를 사용해본 소식통들은 '인간 주도'와 정확성이 대량 표적 생성과 치사율에 자리를 내줬다고 증언한다.
'무오류 정책은 없었다'
실제로 라벤더를 사용했던 고위 장교 B는 +972와 로컬콜과 연락하면서 이번 전쟁에서 장교들은 시간을 절약하고 인간 표적을 대량으로 생성하는 데 집중해야 했으며 AI 시스템의 결정을 개별적으로 검토할 수 없었다고 증언했다.
B는 "모든 것이 통계였고, 단정적이었고, 극히 건조했다"며, 라벤더의 계산이 90%만 정확하다는 내부 점검 결과가 확인되었음에도 이와 같은 감독의 부재가 허용되었다고 지적했다. 즉 이스라엘군은 표적의 10%가 하마스의 군사부서 조직원이 아닐 수 있음을 사전에 파악하고 있었던 것이다.
관계자들은 경찰이나 민방위대원, 무장요원의 친척, 우연히 요원과 동일한 이름과 별칭을 가진 주민, 한때 하마스 요원이 사용하던 기기를 쓰게 된 가자지구 거주자 등, 기존에 확인된 하마스나 PIJ 요원과 유사한 통신 패턴을 가진 사람들이 라벤더 시스템의 오인으로 표적이 되는 경우가 있었다고 증언한다.
또다른 제보자는 라벤더의 부정확성을 비판했다. "한 명의 사람이(AI 머신에 의해) 조직에 연관되어 있다고 간주되려면 하마스와 얼마나 얽혀 있어야 합니까? 그 경계는 극히 모호합니다. 하마스에게 급료를 받지는 않지만 몇 가지 업무에 협조하는 사람은 하마스 작전 요원입니까? 과거에 하마스에 소속되었다가 이제는 아닌 사람은 하마스 작전 요원입니까? 소위 '특징'들, 즉 기계가 의심 징후로 구분할 수 있는 각각의 특징들은 매우 부정확합니다."
공격 표적이 된 개인이 사용하는 휴대폰 변수를 평가하는 표적 체계의 능력에도 비슷한 문제가 존재한다. 관계자들은 이 문제에 대해 다음과 같이 지적하고 있다. "전쟁 중에 팔레스타인 사람들은 항상 휴대폰을 바꿉니다. 사람들은 가족과 연락이 끊기거나, 친구나 아내에게 휴대폰을 건네거나, 혹은 잃어버릴 때도 있습니다. 어떤 번호의 단말기가 누구와 함께 있는가를 자동 메커니즘이 100% 신뢰할 수 없습니다.
제보자들에 따르면 이스라엘군은 최소화된 인간 감독체계만으로는 이런 결함을 발견할 수 없다는 사실을 파악하고 있었다. 라벤더를 실제 사용해본 제보자는 다음과 같이 증언한다. "'무오류' 정책은 존재하지 않았습니다. 실수는 통계적으로만 처리되었습니다. (공격 표적 목록의 방대한) 범위와 규모 때문에, 기계가 올바른 결과를 도출했는지 확실치 않더라도 통계적으로 양호하다는 것만 알면 그 프로토콜을 따르는 것입니다. 그래서 그들은 그냥 진행하기로 했습니다."
고위 장교인 B는 이렇게 증언했다. "그 자체로 증명되었다고 할 수 있습니다. 통계적 접근 방식에는 특정한 규범과 기준을 설정하는 무엇인가가 있습니다. 이번 작전은 폭격의 규모가 논리적으로 설명할 수 없을 정도로 방대했습니다. 적어도 제 기억 중에는 전례가 없는 일입니다. 그리고 저는 이틀 전에 친구를 잃은 군인의 판단보다는 통계적 메커니즘을 훨씬 더 신뢰합니다. 저를 포함해 그곳에 있는 모든 사람들이 10월 7일에 누군가를 잃었습니다. 기계는 그 일을 냉정하게 처리했고, 그것이 일을 더 쉽게 만들었습니다."
라벤더가 생성하는 팔레스타인인 표적 목록에 대한 의존을 옹호하는 또다른 정보부서의 제보자는 표적이 하마스의 고위 지휘관일 경우 정보장교들의 시간을 투자해 정보를 검증할 가치가 있다고 설명하면서도 대규모 공격의 경우 그 양상이 다르다고 주장했다.
"하지만 하위 무장요원이라면 인력과 시간을 투자하고 싶지 않습니다. 전쟁에서는 모든 표적의 유죄를 일일이 입증할 시간이 없습니다. 그래서 인공지능을 사용하면서 부수적 피해와 민간인 사망의 위험성, 그리고 오인공격의 위험성을 감수하고 진행할 수밖에 없습니다."
고위 장교 B는 이런 표적 생성의 자동화는 공격 대상을 보다 많이 생성하기 위한 끊임없는 노력의 결과라고 말한다. "공격을 승인하기에 충분한 수준의 표적이 없는 날에는 임계값을 낮춰 더 하위 레벨의 표적을 공격했습니다. 우리는 '더 많은 표적을 가져오라'는 압박을 계속해서 받았습니다. 그들은 정말 우리에게 소리를 질러 댔고, 우리는 표적들을 매우 빠르게 (공격해서) 끝냈습니다."
B는 라벤더의 공격 대상이 되는 기준을 낮출수록 더 많은 사람이 공격 대상으로 표기된다고 설명했다. "이 시스템은 최대 3만 7천명까지 잠재적 인간 표적으로 지정한 적이 있습니다. 하지만 이 숫자는 계속 변했습니다. 하마스 작전 요원의 기준을 어디에 설정하는가에 따라 계속 표적이 달라졌기 때문입니다. 하마스 작전 요원의 정의를 보다 광범위하게 넓히자, 이 체계는 우리에게 수많은 민방위 요원과 경찰관들의 정보까지 제시하기 시작했습니다. 그들에게 폭탄을 투하하는 건 부끄러운 일이었을 겁니다. 그들은 하마스 정부를 돕지만 우리 군인을 위험에 빠뜨리진 않습니다."
라벤더를 훈련시킨 군사 데이터 과학팀과 함께 일했던 한 정보원은 무장세력으로 간주되지 않는, 하마스가 운영중인 내무부 직원들의 데이터도 이 체계에 입력되었다고 증언했다. "라벤더를 훈련시킬 때 '하마스 요원'이라는 용어가 느슨한 정의로 사용되었고, 민방위대원들의 정보도 머신러닝 데이터 세트에 포함되었다는 사실이 저를 불편하게 만들었습니다."
그는 설령 이런 사람들이 사살되어 마땅하다 하더라도, 통신 프로필을 바탕으로 시스템을 훈련시킬 경우 라벤더의 알고리즘이 일반인을 대상으로 적용될 때 실수로 민간인을 선택할 가능성을 더 높일 것이라고 주장했다. "사람이 수동으로 조작하지 않는 자동 시스템이기 때문에, 민간인의 통신 프로필을 지닌 많은 사람을 잠재적 표적에 포함한다는 의미에서, 이 결정(민방위대원의 AI 머신러닝 데이터 세트 포함)의 의미는 매우 큽니다."
'표적이 남성인지만 확인했다'
이스라엘군은 이런 주장을 단호하게 부정하고 있다. 군 대변인은 +972와 로컬콜에 보낸 설명을 통해 인공지능은 "장교들이 표적을 결심하는 과정을 보조하는 보조기구일 뿐" 이라며 표적을 식별하는 과정에 인공지능을 사용한다는 지적을 부인했다. 해당 성명은 "어떤 경우에서도 이스라엘군 지침과 국제법에 명시된 조건에 따라 식별된 표적이 합법적인 공격 대상인지 확인하는 정보분석가의 독립적인 검토가 필요하다"고 강조했다.
그러나 내부 제보자들은 라벤더가 지목한 '하위' 무장단체 용의자들의 주택을 폭격하기 전에 시행된 유일한 인간 감독 절차는 단 한 번의 확인, 즉 AI가 지정한 표적이 여성이 아닌 남성인지 확인하는 것뿐이라고 말했다. 하마스와 이슬라믹 지하드의 군사조직 내에는 여성이 없기 때문에, 표적이 여성이라면 기계의 착오일 가능성이 높다는 것이 군 내부의 가정이었다.
이 문제에 대한 B의 증언은 다음과 같다. "인간에게 허락된 (표적 확인) 시간은 단 몇 초뿐이었습니다. 라벤더 시스템이 대부분의 경우 제대로 작동한다는 사실을 깨달은 뒤에는 이것이 프로토콜이 되었습니다. 처음에는 기계가 착오를 일으키지 않는지 확인하기 위해 검사를 했습니다. 하지만 어느 순간부터 우리는 자동 시스템에 의존했고, 우리는 (표적이) 남자인지 아닌지만 확인하게 되었습니다. 그것으로 충분했습니다. 누군가의 목소리가 남성인지 여성인지 구분하는 데는 긴 시간이 필요하지 않았습니다."
B는 현재 전쟁에서 남성·여성 확인 절차가 도입된 이후의 업무에 대해 이렇게 설명했다. "그 뒤로 저는 각 표적에 대해 20초 이상을 사용하지 않았고, 매일 수십 개의 표적을 처리하게 되었습니다. 저는 이제 승인 도장을 찍는 것 외에는 인간으로서 부가적으로 하는 일이 없습니다. 그래서 시간이 많이 절약되고 있습니다. 자동화된 메커니즘에 (하마스 작전요원이) 등재되고, 그가 남자라는 것을 확인하면, 부수적인 피해 검토를 조건으로 그를 폭격하라는 허가가 내려지는 것입니다."
실제로 관계자들에 의하면 라벤더에 의해 실수로 표적 지정된 민간인 남성의 경우, 이 실수를 찾아낼 감독 메커니즘이 존재하지 않는다. B는 이런 사례를 다음과 같이 설명한다. "(하마스) 표적들이 아들이나 형제, 혹은 임의의 남성에게 (자신의 휴대폰을) 건넨 경우에 흔히 오류가 발생했습니다. 이 사람(민간인)은 가족과 함께 자신의 집에서 폭격을 당하는 것입니다. 이런 일이 빈번히 발생했습니다. 라벤더의 오류는 대부분 이런 것들이었습니다."
STEP 2: 표적과 가족의 집 연결하기 '사망한 사람들은 상당수가 여성과 아이들'
이스라엘군이 수행하는 공격 절차의 다음 단계는 라벤더가 생성한 표적을 어디에서 공격할지 파악하는 것이다.
이스라엘군 대변인은 +972와 로컬콜에 보낸 설명에서 다음과 같이 주장했다. "하마스는 민간인 거주구의 중심부에 요원과 군사 자산을 배치하고, 민간인을 인간 방패로서 체계적으로 이용하며, 병원, 모스크, 학교, UN 시설과 같은 민감한 장소를 포함한 민간 구조물 내부에서 전투를 수행하고 있다. 이스라엘군은 국제법을 준수하고 그에 따라 행동하며, 군사목표와 요원에 대해서만 공격을 실시한다."
취재에 응한 6명의 제보자들은 이런 주장에 대해 어느정도 동의하면서, 하마스의 광범위한 땅굴 시스템이 의도적으로 병원과 학교 지하를 통과하고, 무장세력들은 구급차를 통해 이동하며, 다수의 군사 자산이 민간 건물 근처에 위치해 있다고 설명했다. 그들은 하마스의 전술로 인해 이스라엘의 공습이 불가피하게 많은 민간인들을 살상하게 되었다고 주장하는데, 이는 인권 단체들이 이스라엘이 사상자 발생의 책임을 회피한다고 비판하는 부분이기도 하다.
그러나 제보자들의 설명에 따르면 이번 공습으로 전례 없는 규모의 사상자가 발생한 주요 원인은 이스라엘군의 공식 발표와 달리 이스라엘군이 자동화된 시스템을 사용해 가족들과 함께 거주지를 표적으로 공격한 것이며, 이는 부분적으로 정보의 관점에서 자동화된 시스템을 사용해 가족 주택을 공격하는 것이 더 쉬웠기 때문이다.
실제로 여러 제보자들은 하마스 요원들이 민간인 거주구역에서 군사활동을 벌인 수많은 사례들과 달리, 체계적인 공습이 군사활동이 이뤄지지 않는 민간거주구역에 대해 진행되었고, 민간거주지 내에 표적이 있다고 의심될 때 폭격하는 선택을 일상적으로 반복했다고 강조하고 있다. 그들은 이런 선택이 가자지구에 대한 이스라엘의 대규모 감시시스템이 설계된 방식을 반영하고 있다고 주장한다.
제보자들은 +972와 로컬콜에게 가자지구의 모든 사람들은 자신의 거주지를 가지고 있기 때문에, 군의 감시 시스템이 그 개인과 가족의 거주지를 쉽게 자동으로 '연결'할 수 있었다고 말한다. 실시간으로 (하마스) 요원이 집에 돌아가는 순간을 식별하기 위한 다양한 추가 자동화 소프트웨어들이 개발되었다. 이런 프로그램들은 수천 명의 개인을 동시에 추적하고, 그들이 집에 돌아간 시점을 식별하고, 표적 담당 장교에게 자동으로 신호를 보내는 역할을 했다. 그러면 장교는 그 집을 폭격 대상으로 지정하게 된다. 여기서 처음으로 공개하는 몇 가지 추적 소프트웨어 중 하나가 바로 '아빠 어딨어?'다.
이 시스템에 대해 잘 알고 있는 한 정보원은 이렇게 설명했다. "수백 명의 표적을 이 시스템에 입력한 후 누구를 먼저 공격할 수 있을지 기다리는 것입니다. 이것을 광역 사냥broad hunting이라고 부르는데, 그저 표적 체계가 생성하는 목록을 복사해 붙여넣기만 하면 작동합니다."
UN의 통계에 따르면 전쟁 첫 달 동안 발생한 사망자의 절반 이상인 6120명이 1340가구에 집중되어 있었으며, 이 가운데 상당수는 집 안에 함께 있다 변을 당했다. 이번 전쟁에서 주택 내에서 가족 전원이 폭격 피해를 입은 비율은 2014년 이스라엘이 가자지구에 대해 수행한 작전8보다 훨씬 더 높았다. 이는 새로운 공격 정책이 매우 심각하게 진행되고 있음을 시사한다.
또 다른 소식통은 공격의 속도가 느려질 때마다 '아빠 어딨어?'와 같은 시스템에 더 많은 대상이 추가되어 집에 들어가는 사람들을 추적하고 폭격할 수 있게 된다고 말했다. 그는 이러한 추적 시스템에 누구를 추가할지 결정하는 것이 군 계급 체계에서 비교적 낮은 계급의 장교들에 의해 이루어질 수 있다고 말했다.
한 제보자는 이렇게 증언했다. "하루는 완전히 제 의사로 1200명의 신규 표적을 추적 시스템에 추가했습니다. 그간 수행하던 공격횟수가 줄어들었기 때문입니다. 그것은 제가 보기에 타당한 일이었습니다만 돌이켜보면 제가 내리기에는 너무 중대한 결정이었던 것 같습니다. 그 결정은 고위 결정권자가 내린 것이 아니었습니다."
관련 제보자들은 전쟁 초기 2주 동안 '아빠 어딨어?' 같은 위치추적 프로그램에 '수천 명'의 목표가 입력되었다고 말한다. 여기에는 하마스의 정예 특수부대인 누크바9의 모든 대원, 하마스의 모든 대전차부대 대원, 10월 7일 당시 이스라엘에 입국했던 모든 사람들이 포함되어 있었다. 하지만 얼마 지나지 않아 공격 명단의 대상자가 급격히 확대되었다.
한 제보자는 이 명단의 증가를 이렇게 설명했다. "결국 모든 사람이 (라벤더가 지목하는) 목표가 되어갔습니다. 수만명이요. (개전 후) 몇 주가 지나고 (지상군) 여단이 가자지구에 진입했을 때, 이미 가자지구의 북부 지역에는 하마스와 무관한 인물로 지정된 사람들이 더 적을 지경이었습니다." 이 정보원의 설명에 따르면 라벤더는 심지어 몇몇 미성년자들까지 폭격 목표로 지정했다. 일반적으로 전투요원들은 17세 이상의 성년에서 선발되지만, 라벤더에는 그런 옵션이 없었기 때문이다.
'라벤더'나 '아빠 어딨어?' 와 같은 시스템이 결합된 결과, 온 가족이 변을 당하는 끔찍한 결과가 빈번히 발생하게 되었다.제보자 A는 라벤더가 생성한 명단의 이름이 '아빠 어딨어?' 주거지 추적 시스템에 추가하면, 표시된 인물은 지속적인 감시를 받게 되고, 집에 발을 들여놓는 순간 일가족과 함께 공격받게 된다고 말한다.
"하마스 요원 한 명의 집 안에 민간인 열 명이 함께 있다고 계산해 봅시다. 보통 이 열 명은 여성과 어린이들입니다. 그러니까, 어처구니없게도 공격을 받은 사람들 대다수는 여성과 아이들인 겁니다."
STEP 3: 무기 선택 '우리는 일반적으로 비유도폭탄을 사용했습니다'
라벤더가 공격 대상을 지정하고, 군의 요원이 표적이 남성임을 확인하고, 추적 소프트웨어가 대상의 거주지를 찾아내면, 다음 단계는 공격에 사용할 무기를 선택하는 것이다.
2023년 12월, CNN은 미국 정보당국의 추정을 근거로 이스라엘 공군이 가자지구에서 사용한 무기의 약 45%가 유도폭탄보다 많은 부수적 피해를 유발하는 무유도 폭탄들이라고 보도했다. CNN 보도에 대해 본 기사에 인용된 이스라엘군 대변인은 "국제법과 도덕적 행동강령을 준수하는 군대로서, 우리는 하마스가 인간 방패 역할을 하도록 강요받는 민간인들에 대한 피해를 최소화하기 위해 막대한 자원을 투입하고 있으며, 우리의 전쟁은 하마스를 상대로 하는 것이지, 가자지구 주민을 상대로 하는 것이 아니다"라고 항변했다.
그러나 세 명의 제보자들은 +972 및 로컬콜에 라벤더가 지목한 하위 요원들을 공격할 때 고가의 무기를 절약하기 위해 무유도 폭탄으로만 공격했다고 말했다. 한 제보자는 가치가 낮은 인간 표적이 고층 건물에 거주한다면 군은 그를 공격하지 않으려 할 것인데, 그를 공격하기 위해 값비싼 정밀유도폭탄10을 사용하지 않을 것이기 때문이라고 설명했다. 반면 하위 표적이 저층 건물에 살고 있다면, 군은 무유도 폭탄으로 표적과 그 건물 내에 있는 모든 사람들을 공격할 것이다.
이번 전쟁에서 다양한 자동화 프로그램을 사용했던 제보자 C는 이 문제에 대해 다음과 같이 증언했다. "모든 하위 표적들이 그랬습니다. 유일한 문제는 부수적 피해 관점에서 그 건물을 공격할 수 있느냐 없느냐 하는 것이었습니다. 우리는 일반적으로 무유도폭탄으로 공격을 수행했고, 이 무기는 말 그대로 건물의 거주자는 물론 건물 전체를 파괴한다는 것을 의미했기 때문입니다. 설령 표적이 공격을 회피하더라도 같은 수준의 다른 표적들이 많이 있기 때문에 문제가 되지 않습니다. 표적 지시 시스템 때문에 표적은 결코 줄어들지 않습니다. 또다른 36000개의 표적이 기다리고 있는 겁니다."
STEP 4: 민간인 사상자 허용 '부수적 피해는 거의 고려하지 않고 공격했다'
한 제보자는 전쟁이 시작된 이후 적어도 몇 주 동안은, 인공지능 시스템이 표적으로 지목한 하위 요원들과 함께 공격할 수 있는 민간인의 규모가 최대 20명으로 제한되었다고 주장했다. 또다른 정보원은 상한선이 최대 15명이라고 증언했다. 이런 정보원들에 의하면 군이 '부수적 피해 규모'라 부르는 이 기준은 표적의 계급, 군사적 중요성, 연령에 관계없이 모든 하위 무장 요원 용의자에게 광범위하게 적용되었고, 그들을 공격하는 데 따른 군사적 이점이나, 그에 따른 민간인 피해의 경중을 비교하는 사례 별 검토는 이뤄지지 않았다.
이번 전쟁에서 표적관리국의 장교로 근무했던 A는 군의 국제법 부서가 과거에 이렇게 높은 부수적 피해를 '전면적으로 승인'한 사례가 없었다고 말한다. "하마스 전투부서의 대원은 누구든 공격할 수 있습니다. 이는 국제법상 명백히 허용되는 합법적인 일11입니다. 하지만 그들(국제법 부서)은 이렇게 말했습니다. "'당신은 그들(하마스 군인)을 다수의 민간인과 함께 공격할 수 있습니다'라고 말입니다.
"지난해와 올해엔 하마스 군복을 입고 있는 모든 사람들은 별도의 허가 없이도 20명의 부수적 피해를 감수하고 공격할 수 있었습니다. 현실에서 (국제법상의) '비례성 원칙'은 존재하지 않았습니다."
A의 설명에 따르면 이는 A가 이번 작전에 참여한 거의 대부분의 기간 동안 유지된 정책이었다. 그리고 군은 한참이 지나서야 부수적 피해의 허용규모를 줄였다. "이 계산법에 따르면 하위 요원 한 명 당 어린이 20명이 변을 당할 수도 있었습니다… 과거에는 이렇지는 않았습니다." 이 정책의 배경에 있는 안보적 근거를 묻자, A는 '치명성lethality'이라고 답했다.
제보자들은 사전에 설정된 부수적 피해 규모가 시간을 절약해 주었기 때문에 라벤더 체계를 통한 대규모 표적 생성의 가속에 도움이 되었다고 말한다. B는 전쟁 첫 주에 AI에 의해 제시된 하위 무장 세력 용의자 한 명당 허용된 민간인 부수적 피해 규모는 15명이었지만, 이 규모는 시간이 지나면서 늘어나거나 줄어들었다고 증언했다.
그 가운데 10월 7일 이후 첫 주에 대한 B의 증언은 이렇다. "처음에는 부수적 피해를 거의 고려하지 않고 공격했습니다. 실제로는 폭격이 가해진 각 주택에 사람이 있는지 없는지 정확히 알 수 없었기 때문에 (폭격 대상이 된 각 가정의) 사람들을 실제로 세지 않았습니다. 1주가 지나자 부수적 피해에 대한 제한이 시작되었습니다. 부수적 피해 제한 규모는 15명에서 5명으로 급격히 줄어들었고, 이 제한은 공격을 정말 어렵게 했습니다. 온 가족이 집에 있다면 절대 폭격을 할 수 없기 때문입니다12. 그러자 상부에서 부수적 피해 허용규모를 다시 늘렸습니다."
'우리는 100명 이상이 민간인 피해가 발생할 것을 알고 있었다'
제보자들은 +972와 로컬콜에게 (부분적으로는) 미국의 압력으로 인해 이스라엘군이 더이상 민간인 주거지를 대상으로 폭격 목표를 대량 생성하지 않게 되었다고 증언했다. 가자 지구의 대다수 주택이 이미 파괴되거나 크게 파손되었고 거의 모든 인구가 피난을 떠났으므로 정보 데이터베이스와 자동화된 주택 탐색 프로그램에 의존하는 군의 능력도 손상되었다.
제보자 E는 하위 무장 요원에 대한 대규모 폭격은 전쟁 초기의 1~2주만 이뤄졌으며, 주로 폭탄을 낭비하지 않기 위해 중단되었다고 주장했다. 그는 이 문제를 다음과 같이 설명했다. "탄약의 재고도 생각해야 합니다. 그들(이스라엘군)은 언제나 북부전선(레바논의 헤즈볼라)도 걱정해야 하는 처지입니다. 그래서 이제 하위 요원들을 공격하지 않게 되었습니다."
그러나 하마스 고위 지휘관에 대한 공습은 여전히 진행중이다. 관계자에 따르면 이러한 공격의 경우 군이 표적 당 '수백명'의 민간인 사망자가 발생하더라도 승인하고 있는데, 이는 이스라엘은 물론 미국의 최근 군사작전 사례를 포함하더라도 역사적으로 전례를 찾을 수 없는 정책이다.
B는 이스라엘군 대변인이 위삼 파하트13를 공격하기 위해 실시했다고 한 12월 2일 폭격에 대해 설명했다. "슈자이아Shuja'iya대대의 지휘관을 공격할 때, 우리는 100명 이상의 민간인 피해가 발생할 것을 알고 있었습니다. 저에게는 심리적으로 이례적인 일이었습니다. 100명 이상의 민간인이 희생되는 것은 레드라인을 넘는 일입니다."
가자지구 출신의 팔레스타인 청년 암자드 알 셰이크는 이 폭격으로 많은 가족들이 사망했다고 말한다. 가자시 동쪽 슈자이아에 거주하던 그는 당일 동네 슈퍼마켓에 있다가 유리창이 깨지는 소리와 함께 다섯 차례 폭발음을 들었다. 알 셰이크는 +972와 로컬콜과 진행한 인터뷰에서 이렇게 회상했다.
"저는 집으로 달려갔지만 그곳에는 건물이 남아있지 않았습니다. 주변 거리는 비명과 연기로 가득 찼습니다. 주거용 건물 블록 전체가 잔해의 산과 깊은 구덩이로 변해버렸죠. 사람들은 시멘트 더미를 손으로 뒤지기 시작했고, 저도 그랬습니다. 가족과 집의 흔적을 찾으려고요."
알 셰이크의 아내와 갓난 딸은 그들의 위로 떨어진 옷장이 건물 잔해를 막아주어 가까스로 살아남았다. 그러나 형제 자매와 그들의 자녀를 포함한 가족 열한 명은 사망한채 발견되었다. 인권단체인 B'Tselem에 따르면 그날의 폭격으로 수십 채의 건물이 파괴되고 수십 명이 사망했으며, 수백 명이 자신의 집 잔해 아래 깔려버렸다.
'가족 전체가 공격받았다'
정보부서의 제보자들은 +972와 로컬콜에게 보다 치명적인 공격에 대해 증언했다. 한 제보자는 하마스의 중앙 가자 여단Central Gaza Brigade 지휘관 아이만 노팔14을 공격하기 위해 10월 17일 알 부레이 난민 캠프에 대해 공습을 실시했는데, 노팔의 정확한 위치를 파악하지 못한 이스라엘군은 민간인 300여명을 공격하고 다수의 건물을 파괴하는 것을 승인했다고 증언했다. 현장의 위성사진과 영상들을 통해 여러 채의 대형 다층 아파트 건물들이 파괴된 모습을 볼 수 있다.
이 난민캠프에 거주하던 암로 알-카팁은 +972, 로컬콜과 진행한 인터뷰에서 당시 상황을 증언했다. "그 공격으로 16~18채의 건물이 완전히 사라졌습니다. 한 아파트와 다른 아파트를 구분할 수 없을 정도로 모두 잔해가 뒤섞여 버렸고, 이곳 저곳에서 사람들이 쓰러져 있었다." 알-카팁은 첫날에만 50여구의 시신을 잔해에서 꺼냈고, 200여명의 부상자 가운데 다수가 중상자였다고 회상했다. 그는 이후 캠프 주민들이 5일동안 사상자들을 잔해에서 꺼내는 데 시간을 보냈다고 말했다.
구급요원인 나엘 알-바히시는 현장에 처음 도착한 사람들 중 한 명이었다. 그는 첫날에 50~70명의 사상자를 확인했다. 그는 +972, 로컬콜과 인터뷰에서 이렇게 증언했다. "어느 순간, 우리는 공습 표적이 하마스 지휘관 아이만 노팔이라는 사실을 알게 되었습니다. 그 공습으로 노팔은 사망했고, 그가 거기 함께 있었다는 것을 알지 못했던 많은 사람들도 사망했습니다. 아이들과 함께 온 가족이 사망했습니다."
또다른 제보자는 +972와 로컬콜에게 이스라엘군이 12월 중순 라파에 위치한 고층 건물을 파괴하면서 '수십명의 민간인'이 변을 당했다고 증언했다. 이는 하마스의 라파 여단장 무함마드 샤바네Mohammed Shabaneh를 목표로 한 공격으로 보인다(그가 사망했는지는 불분명하다). 제보자에 따르면 고위 지휘관들은 종종 민간 건물 지하를 통과하는 터널에 은신하기 때문에, 공습으로 이들을 공격할 경우, 필연적으로 건물에 있는 민간인들도 공격하게 된다.
또다른 누군가를 공격하기 위한 것으로 추정되고 있는 어느 대규모 공습의 목격자인 55세의 와엘 알-시르는 자신이 목격한 공습의 피해자가 대부분 어린이였다고 강조했다. 그는 +972와 로컬콜에게 12월 20일 진행된 폭격으로 주거지 전체가 파괴되고, 최소 10명의 어린이가 사망했다고 주장했다.
제보자 D는 이 문제에 대해 다음과 같이 설명했다. "(폭격)작전의 사상자 발생에 대해 매우 허용적인 정책이 있었습니다. (이 정책은) 지나치게 사상자 발생에 무감각해서, 제 생각에는 복수의 측면이 있었다고 봅니다. 이 작전의 핵심은 수백 명의 이스라엘 민간인을 죽음으로 몰아넣은 (하마스, 이슬라믹 지하드의) 고위 지휘관들을 사살하는 것입니다. 여단장 한 명당 몇 명, 대대장 한 명당 몇 명 등의 계산이 있었습니다."
또다른 정보원인 E도 이렇게 말했다. "규정은 있었지만 매우 느슨하게 적용되었습니다. 우리는 부수적 피해로 수십, 혹은 백수십명에 가까운 사람들을 공격했습니다. 이전에는 일어나지 않았던 일입니다."
이와 같이 높은 '부수적 피해' 비율은 이스라엘군이 이전까지 용인해 온 선례는 물론, 미국이 이라크, 시리아, 아프가니스탄에서 벌인 전쟁과 비교해도 극히 이례적이다.
이라크와 시리아에서 IS에 대응하는 국제 연합작전인 '내재적 결의' 작전에서 연합사령부 작전-정보 담당참모였던 피터 거스텐15 장군은 2021년 미국의 군사전문지 인터뷰를 통해 민간인 15명의 부수적 피해를 야기할 수 있는 공격은 정규 절차를 벗어난 것으로, 이를 수행하기 위해서는 현재 국방부 장관이 된 로이드 오스틴 중부사령부 사령관의 특별 허가를 받아야 했다16고 말했다.
거스텐은 "오사마 빈 라덴의 경우 비전투원사상자수non-combatant casualty value (NCV)가 30명이었지만, 하위 지휘관의 경우 NCV는 일반적으로 0이었습니다. 우리는 최대한 오랫동안 NCV를 0으로 유지했습니다."
'폭격할 수 있는 것은 뭐든지 폭격하라고 하더군요'
이번 탐사보도를 위해 인터뷰한 모든 제보자들은 10월 7일 하마스의 학살과 인질 납치가 군의 공격 방침과 부수적 피해 규모 설정에 큰 영향을 끼쳤다고 증언했다. 10월 7일 직후 군에 동원되어 표적관리국에서 근무한 B는 이렇게 증언했다. "처음에는 다들 고통스러워하고 복수심에 가득 차 있었습니다. 공격 수칙도 매우 느슨했습니다. 목표가 건물 네 곳 중 어느 한 곳에 있다고 확인하면 건물 네 곳을 전부 무너뜨려 버렸습니다. 미친 짓이었죠. 그곳에는 끔찍한 혼란이 있었습니다. 한쪽에는 우리가 충분히 공격하지 않는다고 불만을 품는 사람들이 있었고, 다른 한쪽에는 하루마다 수천명의 가자 사람들이 사망했습니다. 그 대부분은 민간인이었습니다."
10월 7일 직후 징집된 또다른 제보자 D의 증언도 비슷하다. "전문가 집단 안에서 히스테리적인 반응이 있었습니다. 그들은 어떻게 반응해야 할지 갈피를 잡지 못했습니다. 그들이 아는 유일한 방법은 하마스를 해체하기 위해 미친듯이 폭격을 하는 것뿐이었습니다."
제보자 D는 이스라엘군의 목표가 복수라고 명시적으로 들은 바는 없었지만 이렇게 표현했다. "하마스와 연관된 모든 표적이 합법화되고, 거의 모든 부수적 피해가 승인되는 순간, 수천 명의 사람들이 사망할 것이라는 점이 분명해졌습니다. 공식적으로는 모든 표적이 하마스와 직접 연관된 것이라 하더라도 정책이 지나치게 허용적이라면 모든 의미를 잃게 됩니다."
제보자 A 역시 10월 7일 이후 군 내부의 분위기를 묘사하기 위해 '복수'라는 단어를 사용했다. "어느 누구도 전쟁이 끝났을 때, 그 뒤에 무엇을 해야 할지, 또는 가자에서 어떻게 살 수 있을지, 그곳을 어떻게 할 것인지에 대해 생각하지 않았습니다. 우리는 이런 말을 들었습니다. 이제 우리는 어떤 대가를 치르든 하마스를 파괴해야 하니까, 할 수 있는 건 뭐든 폭격하라고요."
고위 제보자인 B는 가자지구의 팔레스타인 사람들을 살상하는 이 '과잉대응disproportionate' 정책이 이스라엘인들에게도 위험하다고 믿으며, 이것이 그가 인터뷰를 하기로 결심한 이유라고 설명했다.
"단기적으로는 우리가 하마스를 파괴하는 만큼 더 안전해질 것입니다. 하지만 장기적으로는 우리가 덜 안전해질 것이라고 생각합니다. 저는 10년 후, 가자의 모든 유가족들이—아마 거의 모든 사람들이 유가족일 겁니다—하마스에 가입하도록 동기를 부여하는 상황을 보고 있습니다. 그때가 되면 하마스가 사람을 모집하는 것은 훨씬 쉬워질 겁니다."
이스라엘군은 +972와 로컬콜에 보낸 설명을 통해 취재에 응한 제보자들의 증언을 대부분 부인하면서 다음과 같이 주장했다. "각 표적들은 개별적으로 검토되며, 공격에서 예상되는 군사적 이익과 부수적 피해에 대한 개별적 평가가 이뤄집니다…(중략)…이스라엘군은 공격으로 예상되는 부수적 피해가 군사적 이득에 비해 과도할 경우에는 공격을 수행하지 않습니다."
STEP 5: 부수적 피해 계산 '계산 모델은 현실에 부합하지 않았다'
정보부서의 제보자들에 따르면, 이스라엘군이 목표를 공격했을 때 해당 주거지에서 동시에 사망할 민간인의 규모를 계산하는 절차는 +972와 로컬콜이 이전에 탐사보도했던 부정확한 자동도구로 진행되었다. 과거의 전쟁에서는 정보요원들이 폭격 표적이 될 집에 몇 명이 체류중인지 확인하는 데 많은 시간을 할애했고, 부수적 피해 규모를 목표 파일의 일부로 반영했다. 그러나 이와 같은 철저한 검증절차는 10월 7일 이후 자동화과정에서 대부분 버려졌다.
지난 10월, 뉴욕타임스는 이스라엘 남부의 특수 기지에서 운용되는 시스템이 가자지구의 휴대폰에서 정보를 수집하여 가자지구 북부에서 남부로 탈출하는 팔레스타인인들의 규모를 실시간으로 군에 제공한다고 보도했다. 우디 벤 모하 준장은 "100% 완벽한 것은 아니지만, 결정을 내리는 데 필요한 정보를 제공한다"고 설명했다. 이 시스템은 색상으로 정보를 표기하는데, 붉은색은 인구밀도가 높은 지역을, 녹색과 노란색은 밀도가 상대적으로 낮은 지역을 의미한다.
+972, 로컬콜과 연락한 제보자들은 가자의 건물들을 폭격할 때 이와 비슷한 시스템이 결정과정에서 부수적 피해를 계산하기 위해 사용되었다고 설명했다. 그들은 이 소프트웨어가 건물의 규모를 평가하고, 거주자 명단을 검토하여 전쟁이 발발하기 전 각 가정에 거주하던 민간인 수를 적당히 계산한 후, 해당 지역을 떠난 것으로 추정되는 주민의 비율만큼 그 수를 줄이는 방식으로 작동했다고 말했다. 예를 들어 군이 한 지역에서 주민 절반이 떠났다고 추정한다면, 이 프로그램은 보통 10명이 거주하던 집을 5명이 거주하는 집으로 계산하는 것이다. 시간을 절약하기 위해 군은 이전에 진행되던 작전처럼 프로그램의 추정이 정확한지 알아보기 위해 실제로 그곳에 얼마나 많은 사람이 살고 있는지 감시하지 않았다.
한 정보원은 이 문제를 강하게 지적했다."이 모델은 현실적이지 않습니다. 전쟁 전에 그곳에 거주하는 것으로 등록된 사람들과 전쟁 도중에 그 집에 있는 사람들 사이에는 아무 연관도 없습니다. 한번은 우리가 여러 가족들이 그곳에 함께 숨어있다는 사실을 모른 채로 그 집을 폭격했습니다."
이 제보자는 군이 이런 오류가 발생할 수 있다는 사실을 알고 있었음에도 단지 그 방법이 더 빨랐기 때문에 보다 부정확한 모델을 채택했다고 주장했다. 따라서 부수적 피해계산은 자동적이고 통계적이었으며, 심지어 정수가 아닌 숫자를 산출하더라도 용인되었다.
STEP 6: 주거지 폭격 '무고한 가족을 공격했다'
+972, 로컬콜과 통화한 제보자에 따르면 '아빠 어딨어?'와 같은 추적 시스템이 표적의 귀가시간을 정보장교에게 통보한 시점과 실제로 폭격이 이뤄지는 시점 사이에 상당한 시간차가 있어서, 군은 목표를 놓치고 무고한 가족들만 공격 당하는 결과를 초래하곤 했다. 한 소식통은 이렇게 증언한다. "우리가 한 집을 공격했는데, 표적이 집에 없었던 경우가 몇 번 있었습니다. 결과적으로 아무 이유 없이 가족들이 희생된 셈입니다."
세 명의 제보자들은 +972와 로컬콜에게 이스라엘군이 어느 가족의 주거지를 폭격한 사건에 대해 증언했는데, 추가 확인이 실시간으로 이뤄지지 않는 바람에 표적이 공격 당시 집 안에 있지 않았다는 사실은 폭격후 뒤늦게 밝혀졌다.
한 제보자는 이렇게 설명한다. (표적이) "일찍 귀가했다가 밤에 다른 곳, 예를 들어 지하로 들어가 잠을 잤는데 그걸 모를 때도 있습니다. 위치를 이중으로 확인할 때도 있고, 그냥 '좋아, 그는 지난 몇 시간동안 집에 있었으니까 그냥 폭격해버려' 라고 말할 때도 있었습니다."
또다른 제보자는 이번 취재 인터뷰에 응하게 된 동기가 된 유사 사건에 대해 이야기해주었다. "우리는 표적이 오후 8시에 집에 있다는 사실을 파악했습니다. 공군은 오전 3시에 그 집을 폭격했습니다. 그리고 우리는 그동안 표적이 가족과 함께 다른 집으로 이동했다는 사실을 파악했습니다. 우리가 폭격한 건물에는 아이들이 포함된 다른 두 가족이 살고 있었습니다."
과거 가자지구에서 인간 표적을 공격한 후에는 이스라엘 정부가 폭격피해평가bomb damage assessment (BDA) 절차를 수행했는데, 과거 +972와 로컬콜의 탐사보도에서 확인되었듯이 이는 고위 지휘관이 공격으로 사망했는지, 표적과 함께 얼마나 많은 민간인이 사망했는지 확인하기 위한 일반적인 공격 후 확인 절차였다. 이전에 +972와 로컬콜이 조사한 바와 같이, 여기에는 사랑하는 사람들을 잃은 친척들의 전화 통화를 도청하는 과정 등이 포함되어 있었다. 그러나 적어도 현재 진행중인 전쟁에서, AI가 파악해 살생부에 올린 하위 무장요원들의 경우 시간을 절약하기 위해 이 절차를 진행하지 않고 있는 것으로 보인다. 관계자들은 각 공습에서 실제로 얼마나 많은 민간인들이 사망했는지, AI가 파악한 하위 하마스/이슬라믹 지하드 작전요원 표적이 제거되었는지 아닌지 파악하지 못하고 있다.
한 제보자는 1월에 발표된 이전 조사에 대해 로컬콜에게 이렇게 제보했다. "정확히 몇 명이 사망했는지, 누가 사망했는지 알 수가 없습니다. BDA 절차를 따르는 것은 하마스 고위 요원이 타겟이 됐을 때뿐입니다. 다른 경우에는 신경을 쓰지 않습니다. 공군에게 건물이 폭파되었는지, 아닌지 보고받고 그것으로 끝입니다. 부수적인 피해가 얼마나 나오는지는 전혀 알지 못합니다. 그 즉시 다음 표적으로 넘어가야 합니다. 중점사항은 가능한 빨리, 가능한 많은 표적을 생성하는 것뿐입니다."
이스라엘군은 사상자 수에 연연하지 않고 매번의 공격을 기억에서 지워버릴 수 있지만, 12월 2일 폭격으로 열한 명의 가족을 잃은 슈자이아 주민 암자드 알-셰이크는 자신과 이웃 주민들이 여전히 시신을 찾고 있다고 말한다. "건물 14채가 주민들과 함께 폭탄을 맞았습니다. 제 친척들과 이웃들이 여전히 이 아래 묻혀 있습니다."
+972매거진은 이스라엘의 온라인 언론으로, 주로 영문으로 발행되며, 이스라엘-팔레스타인 분쟁과 이스라엘 사회, 중동지역 정치에 대해 심층보도하고 있다.
로컬콜(Sikha Mekomit)은 이스라엘의 온라인 언론으로, +972매거진이 저스트비전과 공동으로 운영하고 있으며 히브리어로 발행된다.
전쟁은 그 자체로 비극이지만 각종 첨단기술이 경합하는 장이기도 합니다. 최근 가장 두드러지는 것은 드론 기술입니다. 특히 우크라이나 전쟁에서는 드론이 저렴함을 앞세워 전장을 크게 뒤바꾸었습니다. 한편으로는 AI 기술도 여러 방면으로 실전에 사용되고 있는데 소프트웨어 중심적인 특성상 일반에 그 내막이 공개되는 경우는 별로 없습니다.
이스라엘 +972매거진의 2024년 4월 3일 기사가 폭로하는 '라벤더' AI 체계는 우리가 그동안 전장에서의 AI 사용에 대해 우려하고 있던 모든 점들을 현실로 보여줍니다. 인간에게는 불가능한 속도와 물량으로 표적을 지정하는 한편, '위기상황'이라는 미명 하에 민간인에 대한 '부수적 피해' 가능성에 대해서는 눈을 돌림으로써 기계가 정한 표적을 사람이 공격하는 사례가 등장하고 있습니다. 물론 기사의 일부 제보자가 주장한대로 격앙된 상황에서 교전당사자들보다 정해진 로직에 따라 움직이는 AI가 덜 잔인할 수도 있습니다만, 이 기사는 AI의 오용에 초점을 맞추고 있습니다. 또 격앙된 교전당사자가 애초에 AI의 로직 자체를 과도하게 공격적으로 세팅할 수도 있음을 보여줍니다.
이 기사는 AI의 군사적 사용 및 오용을 다루면서 하마스-이스라엘 전쟁의 참화에 좀 더 초점에 맞춰진 느낌이 적지 않지만 군사기술적 관점에 시선을 좁혀 읽는다면 앞으로 AI를 어떻게 사용해야 할지에 대해 생각해볼 거리를 줄 수 있으리라 생각됩니다.