- 마라톤 회의 끝에 세계 최초 AI법 합의
- EU 집행위원 "유럽이 AI 경쟁 주도하는 도약대 역할 할 것"
- 안면인식 등 엄격히 제한, 위반하면 최대 497억원 벌금
- 일부 기술단체 법규정 까다롭다며 "엔지니어 대신 변호사 고용해야 할 판" 비판
유럽연합(EU)이 세계 최초의 인공지능(AI) 규제법을 만들었다.
AI 스타트업과 연구자들이 AI를 개발하고 사용하는 원칙을 규정한 세계 최초의 법이다.
지난해 11월 오픈AI가 제대로 쓸 만한 AI인 챗봇 챗GPT-3를 공개하면서 전세계에 돌풍을 몰고 온 가운데 EU가 최초로 이 흐름을 통제할 수 있는 법규를 마련했다.
세계 최초 AI규제법
파이낸셜타임스(FT)는 9일(이하 현지시간) 유럽의회가 6일부터 법안 문구 수정에 들어가 8일 마침내 세계 최초의 'AI법'을 만들었다고 보도했다.
티에리 브레통 EU 내수정책 담당 집행위원은 이날 소셜미디어X에 법안이 합의에 이르렀다면서 '역사적 합의'라고 평가했다.
브레통 위원은 "유럽이 AI 활용에 관한 명확한 규정을 만든 최초의 대륙이 됐다"면서 "AI법은 그저 단순한 규정집이 아니라 EU 스타트업과 연구자들이 글로벌 AI 경쟁을 주도할 수 있도록 하는 도약대(launch pad)"라고 강조했다.
EU의 AI법 제정은 회원국과 EU 의원들간에 수년에 걸친 논의 끝에 나왔다.
이들은 AI법 핵심 기조로 AI가 인간의 이익을 침해하지 못하도록 하는 방안 마련에 고심했다. 이번 법안 문구 합의는 6일 시작된 마라톤 회의의 결과물이다.
투명성에 초점
아직 구체적인 법안 세부 내용은 나오지 않은 가운데 일부 내용들이 공개되고 있다.
브레통은 의회에서 2단계 접근법에 합의했다고 설명했다.
챗GPT 같은 범용 AI 모델의 경우 이를 투명하게 공개하는 투명성을 강제하기로 했다.
그러나 사회 시스템 자체에 영향을 미칠 수 있는 이보다 더 강력한 AI 모델에는 더 강력한 기준을 적용하기로 했다.
브레통은 AI법이 AI기술 사용에 관한 안전장치 역할을 하는 한편 동시에 기업들에 '과도한 부담'이 되지 않도록 하는 기준 역할도 하게 된다고 강조했다.
명확한 기준이 없어 해도 되는지, 하면 안 될지를 고민할 필요 없이 금지되지 않은 행위는 가능토록 하는 법안을 통해 기업들의 AI 이용에 날개를 달아줄 수 있다는 의미로 보인다.
'소셜 스코어링' 금지
AI법은 안면인식 기술 활용을 엄격히 제한하는 한편 법 집행기관들이 예외로 적용할 수 있는 사례들도 명확히 규정했다.
아울러 AI를 '소셜 스코어링(social scoring)'을 하는 데 사용하는 것을 금지했다.
소셜 스코어링은 소셜미디어 등 인터넷에서 유명인이나 기업, 브랜드 등의 영향력을 점수화한 이른바 '소셜 스코어'를 높이는 행위다.
EU는 AI를 활용해 인터넷에서 사회적인 인지도를 높이는 행위를 하지 못하도록 금지한 것이다.
AI법은 또 AI 시스템을 통해 "인간의 행동을 조작해 인간의 자유의지를 왜곡하는 것"도 금지했다.
AI를 통해 나이나 신체 장애, 또는 경제적 상황 등의 취약성을 이용하는 행위도 금지했다.
법 위반 업체는 3500만유로(약 497억원) 또는 전세계 매출의 7%를 벌금으로 물어야 한다.
"엔지니어 대신 변호사 고용해야 할 판"
일부 기술 단체들은 반발했다.
유럽 기술업체들의 모임인 디지털유럽 사무총장 세실리아 보네펠드-달은 "법안을 마련했지만 그 비용이 터무니없다"고 비판했다.
그는 AI법이 AI활용에 따른 위험을 해결하기보다 근본적인 모델을 규제하려 하고 있다면서 업체들이 AI 엔지니어를 고용하는 대신 변호사들을 고용해야 할 판이라고 말했다.
dympna@fnnews.com 송경재 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지