인공지능의 무기화: 효율성과 정밀함, 미묘함과 머뭇거림 사이의 선택(김가연)

김가연(피스모모 리서치랩 실장)

미국과 이란이 종전 및 후속 협상의 틀을 담은 양해각서에 서명했습니다. 이로써 미국-이스라엘과 이란 사이의 전쟁이 100여 일 만에 멈출 듯 보입니다. 그러나 이란 공습에 함께했던 이스라엘은 이번 양해각서의 당사자가 아니고, 오히려 레바논을 향한 공격을 멈추지 않고 있어서, 전쟁이 정말 종식될지 의문을 제기하는 목소리도 큽니다.

전쟁 그 자체도 수많은 고통과 피해, 충격을 안기지만, 특히 이번 이란 전쟁은 인공지능 기술이 군사 작전에 노골적으로 사용된 사례라는 점에서 더욱 아프게 기억됩니다. ‘장대한 분노’라는 이름으로 시작된 미국과 이스라엘의 이란 공습 첫날, 미나브 샤자레 타예베 초등학교에서 수업을 하고 있던 어린이와 교사 170여 명이 사망한 사건을 기억하실 것입니다. 이란은 현장에서 미국의 토마호크 미사일 파편이 발견되었다며, 미군의 오폭 가능성을 제기했지만, 미국은 지금까지도 아무런 대답을 내놓고 있지 않습니다.¹⁾

여러 매체들은 미국이 이란 공격에 핵심 타격 자동화 플랫폼, 즉, ‘메이븐 스마트 시스템’(Maven Smart System)을 사용했고, 이 시스템이 오래된 위성 데이터를 사용하는 바람에 오폭이 일어난 것으로 확인해 보도했습니다. 메이븐 스마트 시스템은 빅테크 기업 팔란티어(Palantir)가 2024년에 미국 펜타곤과 13억 달러 규모의 계약을 맺고 구축한 것으로, 위성 이미지와 드론 영상, 통신 정보 등 방대한 데이터를 통합하고 AI가 실시간으로 분석해 전장의 표적 설정과 의사결정을 지원하는 플랫폼입니다.

여기에 앤트로픽(Anthropic)의 클로드 AI가 내장되어 전략적으로 중요한 정도에 따라 표적 순위를 매기고, 각 타격에 대한 법적 정당성 초안까지 자동으로 작성했다고 전해집니다.²⁾ 이 시스템을 이용하여 미국은 개전 첫 24시간 동안 1,000개 이상의 표적을 타격할 수 있었습니다. 메이븐 스마트 시스템이 골라낸 천여 개의 표적 중 이란 혁명수비대(IRGC) 기지가 포함되었는데, 10년 전에 기지 중 일부가 학교로 변경된 데이터를 업데이트하지 않고 타격했습니다. BBC의 보도에 따르면 학교와 “이란 혁명수비대 기지를 구분하는 것은 아이들이 그린 벽화와 페르시아어 알파벳으로 장식된 벽”뿐이라고 알려집니다.³⁾

메이븐 스마트 시스템처럼 전쟁에서 표적을 찾고 공격하는 과정에 인공지능 기술을 도입하는 흐름은 이십여 년 전에 시작되었습니다. 이스라엘이 하마스 요원을 타격하고자 개발한 ‘라벤더’(Lavender)와 ‘가스펠’(Gospel) 등은 인공지능을 이용하여 ‘타깃’을 식별하고, 공격을 위한 의사결정을 돕는 인공지능 살상 시스템입니다. 이 시스템이 제공하는 ‘타깃’을 정말 공격할 것인지 사람이 결정하는 시간은 단 20초 내외라고 알려집니다.⁴⁾ 여기에 인공지능의 자율성이 더해진 공격 시스템을 ‘자율 살상 무기 체계’(LAWS, Lethal Autonomous Weapons Systems)’라고 부릅니다. 즉, ‘인간이 직접 조작하지 않아도 스스로 표적을 찾아 공격할 수 있는 무기’입니다(피스모모, 2025).

국제 사회는 2009년부터 ‘로봇 기술’의 급속한 발전과 군사 영역과의 결합이 국제 안보와 평화, 인권에 치명적인 위험을 끼칠 것을 우려하며 무인 시스템이 핵무기를 비롯한 무기 시스템에 장착되는 것, 자율 무장 무인 시스템을 개발하거나 배치, 사용하는 것을 금지하자고 촉구하기 시작했습니다.⁵⁾ 이러한 국제 사회의 논의를 바탕으로 2013년에 유엔 특정재래식무기금지협약(CCW, Convention on Certain Conventional Weapons) 당사국 회의에서 자율 살상 무기 체계를 별도로 논의하기 시작했습니다.

2017년부터는 정부 전문가 그룹(GGE, Group of Governmental Experts)을 공식 출범하여 각국 정부 대표, 전문가, 실무자들이 연 1-2회 모여 자율 무기의 법적•윤리적•기술적 문제와 국제 규범 마련 방향을 집중적으로 논의하게 되었습니다. 자율 살상 무기 체계를 어떻게 정의할지부터, 무기 체계의 개발‧배치‧운용 전반에 국제 인도법을 어떻게 적용할지, 무기 체계의 위험성을 어떻게 규제하거나 금지할지를 논의하는 것이 이 회의의 임무입니다.

그러나, 정부 전문가 그룹이 출범한 지 10년이 지나도록, 국제 사회는 ‘법적 구속력이 있는 규제’ 안을 마련하지 못하고 있습니다. 인공지능 기술 개발과 무기 산업이 가져다주는 사회•경제적 이익에 걸림돌이 되지 않도록, 주요 강대국들이 규제와 금지를 완화하는 방향에 힘을 싣고 있기 때문입니다. 특히 “모든 것이 합의되기 전에는 아무것도 합의된 게 아니다”(nothing is agreed until everything is agreed)라는 만장일치를 기본으로 하는 회의인 만큼, 한 국가라도 반대 의견을 던지면 국제 협약 단계로 진입할 수 없습니다.

이에 안토니우 구테흐스 유엔 사무총장은 올해까지 자율 살상 무기 체계 금지를 위한 국제 협약에 합의할 것을 요청했습니다. 올해 초 3월에 2026년도 1차 정부 전문가 그룹 회의가 진행되었고, 오는 9월의 2차 회의와 11월의 CCW 검토 회의가 예정되어 있습니다만, 모든 당사국이 협약 초안에 합의할 수 있을지는 여전히 미지수입니다.

피스모모는 2020년 인공지능 무기화 관련 보고서를 발간했고, 인공지능 무기화 과정을 면밀히 모니터링하고 있습니다. 한국 정부는 올해 1월 “인공지능 기본법”을 공포하며 인공지능 무기를 규제에서 면제하고, 국가 정책으로 인공지능 무기 개발에 힘을 싣고 있습니다. 이에 피스모모는 인공지능이 무기와 결합하더라도 인간이 개입하고 통제할 수 있도록, 그래서 무기 체계가 미치는 피해에 대해 인간이 책임을 질 수 있도록, 그리고 인공지능 무기가 인권을 침해하는 영향을 미치지는 않을지 미리 평가하여 인공지능 무기에 대한 윤리적 책임을 다하도록 지속적으로 요구하고 있습니다.

인공지능이 자율적으로 누구를 ‘적’으로 식별하고 죽여도 될지를 판단하고 공격하는 시스템은 ‘사람을 데이터로 치환하며, 생명을 계산 가능한 변수로 전락’시켜 버립니다(피스모모, 2025). 전장에서 상대 병사가 항복 의사를 밝히고 있는지, 앞에 선 사람이 총을 든 군인이지 아니면 검은 카메라를 든 기자인지 판단하는 일에는 알고리즘으로 환원될 수 없는 인간의 ‘미묘함’과 ‘머뭇거림’이 필요합니다. 인공지능의 ‘효율성’과 ‘정밀함’만 남는 순간, 누군가는 ‘죽어도 마땅한 존재’가 됩니다. 이란의 혁명수비대원 10명을 죽일 수 있다면, 무고한 어린이 100명의 죽음은 ‘부수적 피해’(collateral damage)로 여겨지는 것입니다.

교황 레오 14세는 지난 5월 25일, 첫 회칙 『위대한 인간성』(Magnifica Humanitas)을 통해 인공지능 시대의 인간 존엄을 이야기하며 “인공지능은 무장 해제되어야 한다”라고 말했습니다. “아무리 정교한 계산 시스템이라도 자기 자신을 내어 주는 마음이나 선과 악을 식별하는 양심을 만들어 낼 수는 없다”는 이유 때문입니다. 생명의 경중을 계산하는 효율적인 기계 앞에 인류는 또 다른 ‘바벨탑을 세울지 결정하는 기로’에 서 있습니다. 인공지능이 죽음을 딛고 선 소수만을 위한 기술이 될지, 공존을 위한 기술이 될지는 모두의 선택에 달려있습니다.

1) 정연우, “뉴욕타임스 ‘이란이 공개한 175명 사망 초교 미사일 파편, 미국 토마호크 부품’”, 「KBS뉴스」, 2026. 3. 11.

2) Katie Livingstone, “Deadly Iran school strike casts shadow over Pentagon’s AI targeting push”, Military Times, 2026. 5. 25.

3) 멀린 토마스 외, “위성 사진 분석을 통해 드러난 이란 내 여학교 및 인근 군사기지 피격 정황”, 「BBC News 코리아」, 2026. 3. 6.

4) 이철민, “이스라엘 정보요원들 ‘AI가 선정한 하마스 타깃, 승인까지 20초였다’”, 「조선일보」, 2024. 4. 5.

5) ICRAC는 그러한 군비 통제 체제에 논의를 촉구하기 위해 2009년 설립되었다.