기사 메일전송
교황청 “어떤 알고리즘도 전쟁을 도덕적으로 정당화할 수 없다”
  • 강재선
  • 등록 2026-11-21 20:43:59

기사수정


▲ 자율살상무기 반대를 촉구하는 국제 캠페인 활동 모습. 2013년 자료사진. (사진=Campaign to Stop Killer Robots. CC BY 2.0)



“생사 결정은 인간의 책임”…법적 구속력 있는 국제협약 마련 요구


교황청이 인공지능(AI)을 활용한 자율살상무기의 개발과 사용을 유예하고, 이를 규제할 법적 구속력 있는 국제협약을 마련해야 한다고 촉구했다. 전쟁에서 인간의 생사를 결정하는 권한을 기계에 맡길 수 없으며, 기술의 발전이 인간의 도덕적 판단과 책임을 대신할 수 없다는 것이다.


교황청은 11월 16일부터 20일까지 스위스 제네바에서 열린 제7차 특정재래식무기금지협약(CCW) 평가회의에 '치명적 자율무기체계(LAWS)에 관한 교황청 입장문'을 제출했다. 19일 공개된 이 문서는 인공지능이 전쟁의 양상을 변화시키는 상황에서 인간의 존엄성과 국제인도법의 원칙을 지키기 위한 규제 방안을 제시했다.


교황청은 문서에서 기계는 계산할 수 있지만 도덕적 판단은 계산으로 환원될 수 없다고 강조했다. 도덕적 판단에는 양심과 개인적 책임, 상대방을 한 인간으로 인정하는 태도가 필요하기 때문이다. 특히 “어떤 알고리즘도 전쟁을 도덕적으로 정당화할 수 없다”고 밝히며, 인간의 생명을 빼앗는 결정을 인공지능에 위임해서는 안 된다고 강조했다.


“기계는 계산하지만, 도덕적 판단은 인간의 몫”


자율살상무기는 인간의 직접적인 개입 없이 표적을 식별하고 공격할 수 있는 무기체계를 가리킨다. 인공지능 기술의 발전으로 이러한 무기의 자율성이 높아지면서, 전쟁에서 인간의 판단과 통제가 약화될 수 있다는 우려가 제기돼 왔다.


교황청은 알고리즘이 인간의 판단을 대신하게 되면 정치·군사 지도자들이 전쟁의 인명 피해로부터 더욱 멀어질 수 있다고 지적했다. 전쟁을 인간의 고통과 책임의 문제가 아니라 기술적 효율성과 계산의 문제로 다루게 될 위험이 있다는 것이다.


특히 인공지능이 전쟁의 속도를 높이고 무력 사용의 문턱을 낮추면서, 공격 대상이 되는 사람을 하나의 데이터로 취급하게 만들 수 있다고 경고했다.


교황청은 국제인도법을 준수하는 것만으로 자율살상무기의 윤리적 문제가 모두 해결되는 것은 아니라고 밝혔다. 무력 사용이 법적으로 허용되는 상황인지 판단하는 것과, 그 판단 자체를 기계에 맡겨도 되는지는 서로 다른 문제라는 설명이다.


민간인과 전투원을 구별하고 공격의 비례성을 판단하는 과정에는 구체적인 상황에 대한 이해와 신중한 판단이 필요하다. 교황청은 이러한 판단을 단순한 데이터 분류나 알고리즘의 계산으로 대체할 수 없다고 강조했다.


자율무기체계의 예측 불가능성도 주요 위험으로 지목했다. 프로그램 오류나 편향된 학습자료, 사이버공격뿐 아니라 적대하는 무기체계의 알고리즘이 예상하지 못한 방식으로 상호작용할 경우, 충돌이 급격하고 통제 불가능한 수준으로 확대될 수 있다는 것이다.


“인간이 최종 통제해야”…책임 소재도 명확히


교황청은 자율살상무기 규제의 핵심 원칙으로 인간의 실질적인 통제와 책임을 제시했다.


단순히 인간이 무기체계의 작동 과정을 감독하는 형식적인 절차만으로는 충분하지 않다는 것이다. 무력 사용을 결정하는 사람에게는 인공지능의 판단을 검토하고, 그 결과에 이의를 제기하거나 공격을 중단할 수 있는 실질적인 권한과 시간이 보장돼야 한다고 밝혔다. 특히 작전 수행 속도가 지나치게 빨라 인간이 판단할 여유가 없다면, 감독 권한이 존재하더라도 이를 실질적인 통제로 볼 수 없다고 지적했다.


무기 사용에 따른 책임을 기계에 떠넘겨서는 안 된다는 점도 강조했다. 인공지능 무기체계를 설계하고 훈련시키며 사용을 승인하고 실제 운용하는 사람들의 책임이 명확히 규정돼야 한다는 것이다.


이를 위해 무기체계의 개발과 운용 과정, 공격 승인 기록 등을 추적할 수 있어야 하며, 사고나 국제법 위반이 발생했을 때 책임을 규명할 수 있는 제도적 장치가 필요하다고 밝혔다. 교황청은 이러한 원칙을 실현하기 위해 모든 국가가 참여하는 법적 구속력 있는 국제협약을 마련해야 한다고 촉구했다.


협약이 마련되기 전까지는 자율살상무기의 개발과 사용을 유예해야 한다는 기존 입장도 재확인했다. 특히 인간을 직접 표적으로 삼거나 사용 과정에서 의도하지 않은 인명 피해가 예상되는 무기체계에 대해서는 명확한 금지 규정이 필요하다고 강조했다.


기술 발전보다 앞서야 할 인간의 존엄성


이번 입장문은 레오 14세 교황이 인공지능과 전쟁의 관계에 대해 제기해 온 윤리적 문제의식을 국제사회에 구체적인 규제 요구로 제시했다는 점에서 주목된다.


레오 14세 교황은 지난 5월 발표한 회칙 『Magnifica Humanitas(위대한 인간성)』

에서 인공지능이 전쟁을 더욱 빠르고 비인격적으로 만들 수 있다고 경고했다. 인간의 생명을 좌우하는 결정은 자동화된 절차에 맡길 수 없으며, 무력 사용에 대한 책임은 언제나 인간에게 남아 있어야 한다는 것이다.


교황청은 이번 문서에서도 기술의 발전 자체를 반대하는 것은 아니라는 점을 분명히 했다. 인공지능은 민간인 보호와 분쟁 조기경보, 위기 대응, 군비통제 협정의 이행 검증 등 평화를 위한 목적으로 활용될 수 있다고 설명했다. 다만, 인간의 존엄성을 훼손하고 생명을 위협하는 기술에는 국제사회가 공동의 한계를 설정해야 한다고 밝혔다.


교황청은 2021년 제6차 특정재래식무기금지협약 평가회의에서 제안했던 '국제인공지능기구' 설립 구상도 다시 제시했다. 인공지능의 평화적 이용을 촉진하고 국제적 협력을 강화하기 위한 별도의 기구를 검토할 필요가 있다는 것이다.


자율살상무기에 관한 국제적 논의는 10년 넘게 이어져 왔다. 교황청은 올해 9월 관련 정부전문가그룹이 최종보고서를 채택한 사실을 언급하며, 이제는 그동안 축적된 논의를 구체적이고 실행 가능한 규범으로 발전시켜야 할 때라고 강조했다.


인공지능이 군사적 판단과 무기체계에 빠르게 도입되는 상황에서, 이번 교황청의 입장은 기술이 무엇을 할 수 있는가에 앞서 무엇을 해서는 안 되는가를 국제사회가 함께 결정해야 한다는 요구로 볼 수 있다.


전쟁의 속도와 효율성을 높이는 기술이 인간의 생명을 보호하는 방향으로 사용될 수 있을지, 그 판단과 책임을 끝까지 인간의 손에 남겨둘 수 있을지가 앞으로 국제사회가 풀어야 할 과제로 남아 있다.



TAG
키워드관련기사
0
  • 목록 바로가기
  • 인쇄


가스펠툰더보기
이전 기사 보기 다음 기사 보기
주의 11-06
모바일 버전 바로가기