[fn사설] 첫 AI법 제정 EU 따르되 과도한 규제는 경계를

"AI가 인류 멸종 위협" 美 보고서도
안전장치, 기술혁신 동시 진행해야

챗GPT의 개발사 미국 오픈AI의 로고. 사진=로이터 뉴스1

유럽연합(EU)이 세계 처음으로 인공지능(AI) 기술 규제법안을 13일(현지시간) 최종 승인했다. 법이 통과된 것은 규제법안이 처음 제안된 지 5년 만이다. 유럽 각국의 의견이 달라 초반에는 입법 논의가 지지부진했으나 생성형 AI 개발 붐과 맞물려 법 처리 속도도 빨라졌다. EU 의원들은 압도적 찬성으로 법을 통과시켰는데, 그만큼 AI 위험성을 공유한 것이라 할 수 있다.

법은 연말부터 순차적으로 시행될 예정이다.

자율주행, 의료장비 등 고위험 등급으로 분류된 기술을 출시하는 기업은 데이터를 공개해야 하고 까다로운 사전시험도 거쳐야 한다. 고위험기술을 활용할 땐 사람이 반드시 감독해야 하는 규정도 있다. 딥페이크 영상이나 이미지는 AI로 만든 조작콘텐츠라는 점도 표기해야 한다. 중대범죄 수색 등의 경우를 제외하고 AI를 활용한 실시간 원격 생체인식시스템 사용은 금지된다. 이를 위반하면 매출의 7% 또는 3500만유로(약 500억원)의 막대한 벌금을 물도록 했다.

AI의 위험성에 대한 경고는 일찌감치 나왔다. 최근엔 생성형 AI가 만들어낸 딥페이크와 가짜뉴스의 여론조작 위험성에 대한 우려도 빗발치고 있다. 딥페이크는 AI 기술을 기반으로 만들어 낸 가짜 이미지나 오디오, 비디오 콘텐츠를 말한다. 해외에선 AI발 가짜영상으로 주가가 급락하고 선거 판세가 바뀐 사례가 적지 않다.

첨단 AI와 AGI(범용 인공지능)가 가이드라인 없이 무기로 쓰일 경우 인류는 상상할 수 없는 재앙에 맞닥뜨릴 수 있다. 스티븐 호킹 등 수많은 과학자들이 우려했던 바다. 최근 미국 국무부 의뢰로 AI 안전성을 연구한 글래드스톤AI도 비슷한 보고서를 내놨다. AI가 향후 인류를 멸종시킬 수준의 위협이 될 수 있다고 경고했는데, AGI의 진화속도를 위험 핵심요인으로 지목했다. AGI는 대부분의 작업을 인간 수준 이상으로 수행하는 AI를 말한다. 전문가들은 향후 5년 내 AGI가 완성될 것으로 보고 있다.

급속한 기술진보에 상응하는 안전장치 마련을 각국이 서두를 수밖에 없다. 우리도 AI 부작용을 최대한 줄일 수 있는 적절한 규범 도입에 힘을 모아야 한다. AI는 제대로 활용하면 인류에게 혁신적인 미래를 안겨줄 수 있다. 기술의 풍요를 지속적으로 누리기 위해 필요한 조치를 마다할 이유가 없다. 그렇지만 과도한 규제로 AI 기술 전쟁에서 뒤처지는 우를 범해선 곤란하다.

글로벌 산업은 AI 중심으로 급속한 재편기를 맞고 있다. 미국 빅테크 기업들과 투자 큰손들의 AI 투자는 거침없다. 중국도 최근 대규모 차세대 AI 투자를 공식화했다. 우리의 AI 기술력은 경쟁국과 비교해 갈 길이 먼 수준이다.

부작용과 위험을 피해가면서 기술개발에 박차를 가해야 하는 것이 당연하다. 과감한 AI 지원책과 함께 AI산업 윤리를 고민할 때다.

그러지 않으면 AI 시대에 구경꾼 신세가 될 수 있다.

[e-mail] 최진숙 기자