미·러, '킬러 AI' 안전장치 삭제... 전장은 이미 '기계의 판단'에 맡겨졌다

미국과 러시아가 인공지능(AI) 자율살상무기를 규제하기 위한 유엔 협상에서 ‘인간 검토’라는 핵심 안전장치를 삭제했다는 소식이 전해졌습니다. 현지시간 지난 26일 워싱턴포스트(WP) 보도에 따르면, 이달 초 스위스 제네바에서 열린 관련 협상에서 두 나라는 AI 무기의 자율성을 제한하는 주요 문구를 잇달아 걷어냈는데요. 전장의 살상 결정권을 기계에 넘기지 않으려는 국제사회의 노력이 강대국의 이해관계에 부딪혀 뒷걸음질 치고 있다는 목소리가 높습니다.

1. 15시간의 마라톤 수정, '윤리'와 '통제'가 사라진 자리

이번 협상은 AI가 스스로 표적을 식별하고 공격하는 자율무기에 대해 국제적 법적 구속력을 갖는 조약을 만들기 위한 사전 단계였습니다. 하지만 워싱턴포스트가 인용한 협상 관계자들의 증언을 보면, 협상 마지막 날 미국과 러시아 대표단은 약 15시간 동안 문안을 집중적으로 수정하며 규제의 핵심을 무력화했습니다. 이 과정에서 AI 무기가 ‘예측 가능하고 신뢰할 수 있는 방식으로 작동해야 한다’는 기본 전제는 물론, 무기 사용 시 윤리적 고려를 해야 한다는 내용까지 삭제됐죠.

특히 가장 우려되는 대목은 AI가 선정한 군사 표적을 실제로 타격하기 전 ‘인간이 이를 검토해야 한다’는 조항이 사라졌다는 점입니다. 협상 막판에는 유엔의 카메라도 꺼지고 시민사회 참관인들이 퇴장한 가운데, 양국은 각각 변호사를 포함한 약 10명의 법률 전문가를 투입해 대대적으로 문구를 손질한 것으로 알려졌습니다. 한 협상 관계자는 이러한 과정을 두고 "조금씩 잘라내 결국 죽이는 것과 같았다"라고 당시 분위기를 전하기도 했습니다.

미국과 러시아는 자율무기에 대한 국제 규정을 약화할 수 있는 외교적 역량과 법률팀, 그리고 명확한 정치적 동기를 가지고 있다.

휴먼라이츠워치(HRW)

2. 이미 전장에 투입된 AI, ‘1000곳의 표적’을 찾아냈다

규범은 뒷걸음질 치고 있지만, 기술은 이미 전쟁의 양상을 바꾸고 있습니다. 워싱턴포스트는 미군이 이란과의 전쟁 첫 24시간 동안 엔트로픽의 챗봇을 활용해 약 1000곳의 공격 대상을 식별했다고 보도했습니다. 이스라엘군 역시 가자지구 군사작전에서 AI를 광범위하게 활용하고 있는 상황인데요. 여기서 한 가지 생각해볼 게 있습니다. AI가 표적을 고르고 인간의 확인 절차마저 생략된다면, 오작동으로 인한 민간인 피해가 발생했을 때 그 책임은 과연 누구에게 물어야 할까요?

이런 흐름 속에서 미국은 국내 군사 지침마저 완화하려는 움직임을 보이고 있습니다. 도널드 트럼프 대통령은 지난 6월 국가안보 각서를 통해 국방부에 자율·반자율 무기 사용 지침을 90일 안에 개정하라고 지시했습니다. 백악관은 AI의 신속한 군사적 도입을 위해 지침 업데이트가 필요하다는 입장이죠. 기존 지침이 인간의 판단 활용과 전쟁법 준수를 강조했던 것과 비교하면, 새로운 지침은 AI의 빠른 현장 투입에 무게를 둘 것으로 보입니다.

3. 강대국의 기술 패권 경쟁, 국제 규범은 무력화되나

국제 사회의 시선은 싸늘합니다. 국제 비정부기구 연합체인 ‘킬러 로봇 저지’의 니콜 반 루이옌 사무총장은 미국과 러시아가 정치적 영향력을 이용해 다른 국가들에 압력을 행사하고 있다고 비판했습니다. 수십 개국이 합의해야 하는 협상판에서 소수 강대국이 법률 전문가를 동원해 문구를 복잡하게 수정하면, 규모가 작은 국가 대표단은 이를 따라가기조차 벅차다는 것이죠.

인권 단체 휴먼라이츠워치는 미국이 군사적·기술적 우위를 지키기 위해 법적 구속력이 있는 규칙 대신 ‘자발적 지침’만을 내세우는 전략을 반복하고 있다고 지적했습니다. 과거 사이버 무기나 우주 군비 통제 논의에서 보여준 행보를 AI 무기 분야에서도 그대로 답습하고 있다는 분석입니다. 결국 기술의 속도를 윤리가 따라가지 못하는 상황에서, 살상 결정권마저 기계의 알고리즘에 맡겨질 위험이 커지고 있습니다.

현재의 협상은 아직 법적 구속력이 없는 단계에 머물러 있습니다. 각국은 오는 11월, 이번 논의를 공식적인 협상 권한을 가진 절차로 격상시킬지, 혹은 법적 구속력이 있는 조약으로 발전시킬지를 두고 다시 한번 머리를 맞댈 예정입니다. 인간의 손가락이 방아쇠에서 완전히 떨어지게 될지, 아니면 마지막 안전장치를 되살릴 수 있을지가 다음 관전 포인트입니다.