미국과 러시아가 인공지능(AI) 자율살상무기를 규제하기 위한 유엔 협상에서 핵심 안전장치를 제거했습니다. 지난 9월 초 스위스 제네바에서 열린 유엔 자율살상무기 회의에서 미국과 러시아 대표단은 협상 문서에서 AI 무기의 안전성을 보장하는 3개 주요 조항을 삭제했다고 워싱턴포스트가 26일 보도했습니다. 전장에서 AI의 사용이 급속도로 확대되는 상황에서 오히려 이를 제어할 국제 규범이 약해지고 있다는 지적입니다.

삭제된 조항은 구체적으로 다음과 같습니다. 첫째, AI 무기가 "예측할 수 있고 신뢰할 수 있는 방식으로 작동해야 한다"는 조항이 빠졌습니다. 둘째, 무기를 사용할 때 윤리적 고려를 해야 한다는 내용도 삭제됐죠. 셋째, AI가 표적으로 선정한 대상을 실제로 공격하기 전에 인간이 이를 검토해야 한다는 조항도 사라졌습니다. 이 세 가지 모두 AI 무기의 의사결정 과정에 인간의 통제와 판단이 개입될 수 있도록 하려는 조항들이었습니다.

사진: Pexels · Pavel Danilyuk

협상의 마지막 날 미국과 러시아는 약 15시간 동안 문안을 집중 수정했는데요. 이 과정에서 유엔 측 카메라가 꺼졌고 시민사회 참관인들은 퇴장당했으며, 양국이 각각 변호사 등 법률 전문가 약 10명씩을 투입해 대대적으로 문서를 손질한 것으로 알려졌습니다. 국제 비정부기구 연합체 '킬러 로봇을 멈춰라'의 니콜 반 루이옌 사무총장은 미국과 러시아가 자율무기 규제 협상에서 "너무 큰 영향력을 행사하고 있다"고 지적했습니다.

이렇게 규제를 약화시키려 하는 배경엔 전쟁터에서의 AI 활용이 이미 현실화됐다는 점이 있습니다. 미군은 이란과의 전쟁 첫 24시간 동안 앤트로픽의 챗봇을 활용해 약 1000개의 공격 표적을 식별했습니다. 이스라엘군도 가자지구 군사작전에서 AI를 광범위하게 이용해온 것으로 알려졌는데요. 이제 AI가 표적 식별부터 실제 공격까지 전쟁의 핵심 단계에 관여하고 있다는 의미입니다.

AI의 이러한 활용이 확대되면서 인간이 살상 결정에 대한 최종 통제권을 갖도록 국제적 기준을 마련해야 한다는 요구가 커지고 있습니다. AI의 판단으로 인간의 생사가 결정될 수 있고, 민간인 피해 발생 시 책임 소재가 불분명해질 수 있기 때문입니다. 이와 별개로 미국은 국내에서도 움직이고 있습니다. 도널드 트럼프 대통령은 지난 6월 국가안보 각서를 통해 국방부에 자율·반자율 무기 사용 지침을 90일 안에 개정하도록 지시했으며, 백악관은 "AI의 신속한 군사적 도입과 활용을 위해 관련 지침을 업데이트해야 한다"고 밝혔습니다. 더 나아가 트럼프 대통령은 지난 22일 유엔 연설에서 "미국은 AI 통제를 위한 세계주의적 계획을 수립하려는 모든 시도를 전적으로 거부한다"고 명언했습니다.

국제 인권단체 휴먼라이츠워치 관계자는 "미국이 군사적·기술적 우위를 유지하려 할 때 법적 구속력이 있는 규칙보다 자발적 지침을 내세우는 전략을 사이버와 우주 등 군비 통제 논의에서도 반복해왔다"고 지적했습니다. 향후 협상 내용이 법적 구속력이 있는 국제 조약으로 발전할 것인지, 아니면 자발적 지침에 머물 것인지가 관전 포인트입니다.