尹정부 주도 '군사AI 규범 청사진'..“핵무기, 인간이 통제해야”

9~10일 서울서 군사AI 규범 청사진 채택
AI 아닌 인간의 무기 통제 유지가 골자
"어떤 경우에도 기계에 책임 전가 안돼
무력 사용에 인간의 적절한 개입 유지돼야"
특히 핵무기는 '모든 행동' 인간 통제 강조
구속력 없는 선언이지만 한미일 등 61개국 지지

10일 오후 서울 중구 웨스틴조선호텔에서 열린 '2024 제2차 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급회의'(REAIM 고위급회의) 라운드테이블에서 김용현 국방부 장관과 조태열 외교부 장관 등 참석자들이 기념촬영을 하고 있다. 사진=뉴스1

[파이낸셜뉴스] 윤석열 정부 주도로 9~10일 서울에서 열린 ‘인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급회의(REAIM)’는 군사 분야 AI 규범 마련을 위한 ‘행동을 위한 청사진(Blueprint for Action)’ 문서가 채택했다. AI를 이용한 자율무기체계에 온전히 판단을 맡기지 않고 인간의 통제가 유지돼야 한다는 내용이 골자다.

10일 REAIM에서 채택한 문서는 “군사 분야 AI 적용이 국제 평화·안보 및 안정을 유지하며 저해하지 않는 방식으로 개발·배치·이용돼야 한다”면서 구체적으로 국제연합(UN) 헌장, 국제인도법, 국제인권법 등 법적 체제와 합치되도록 해야 한다는 촉구를 담았다.

국제 평화와 안보 유지, 이를 위한 국제법 합치라는 큰 틀 외에 구체적으로 짚는 부분은 인간의 통제와 개입 유지이다.

문서는 “AI의 적용은 윤리적이고 인간 중심적이어야 한다. 인간은 군사 분야 AI 활용과 효과에 대한 책임과 책무를 지며 어떤 경우에도 기계에 전가할 수 없다”며 “무력 사용에 대한 인간의 판단·통제와 연관된 적절한 조치를 포함해 군사 분야 AI 개발·배치·이용에 인간의 적절한 개개입이 유지돼야 한다”고 규정했다.

특히 대표적인 대량살상무기(WMD)인 핵무기에 대해선 사용하는 ‘모든 행동’에 인간의 통제와 개입이 유지돼야 한다고 강조했다. 또 이를 방지할 보안 조치의 필요성도 제기했다.

문서는 “AI 기술이 핵무기 없는 세계라는 궁극적 목표를 저해하지 않아야 한다”며 “핵무기 사용 주권적 결정 관련 정보 제공과 실행에 있어 필수적인 모든 행동에 대해 인간의 통제와 개입을 유지하는 게 중요하다”고 부각했다.

이어 “군사 분야 AI 역량을 무책임한 행위자들이 획득·오용하는 걸 방지키 위한 강력한 통제·보안조치 마련의 중요성을 강조한다”며 “국가 및 여타 이해관계자들이 데이터 수집, 저장, 처리, 교환, 삭제, 보호를 위한 투명한 정책과 절차를 포함하는 적절한 데이터 거버넌스 메커니즘 관련 추가적 논의에 참여할 필요가 있음에 주목한다”고 제안했다.

한편 해당 문서는 첫 REAIM 때 채택된 이니셔티브와 마찬가지로 구속력이 없고 선언적이라는 한계가 있다. 하지만 이번 REAIM 참석 96개국 중 과반 이상인 61개국이 지지했다는 점에서 한 발 더 나아갔다는 평가를 받는다.

지지에 나선 국가 중에는 우리나라를 위시해 미국과일본도 포함돼있다.

[e-mail] 김윤호 기자