AI 규범 어떻게 만들어야하나…"혁신과 안전, 균형적 접근 중요"

[파이낸셜뉴스] "혁신의 기회를 잘 살리면서도 안전하고 신뢰받을 수 있는 인공지능(AI) 기반 조성이 긴요한 시점이다."
과학기술정보통신부는 28일 서울 여의도 FKI전경련플라자에서 ‘AI 시대, 글로벌 규범 논의 주도를 위한 간담회’를 열고 관련 논의를 진행했다.

과기정통부 박윤규 제2차관은 "올해는 생성형 AI라는 기술적 진보를 이뤄내면서 전 세계가 AI 혁신성과 무한한 가능성을 체감한 반면, AI 오남용에 대한 우려가 본격화된 한 해"라며 이같이 말했다.

박 차관은 모두발언을 통해 "생성형 AI의 발전에 따라 미국, EU 뿐만 아니라 G7 ‘히로시마 AI 프로세스’, UN ‘고위급 AI 자문기구 운영’ 등 국제 사회 차원의 인공지능 규범에 대한 주도권 경쟁이 치열하게 진행 중"이라며 "미국식 자율규제와 EU의 강력한 규제 등 서로 다른 규율이 추진되는 상황 속에서 우리나라는 우리에게 주어진 혁신의 기회를 잘 살리면서 안전에 위협이 되지 않도록 하는 균형적 접근이 중요하다"고 지적했다. 이어 "인공지능 산업을 체계적으로 지원하면서, 부작용에 대응할 수 있는 법적 기반을 담고 있는 인공지능 법안의 조속한 제정과 함께 내년 인공지능 안전성 정상회의에서 우리가 인공지능에 관한 규범을 선도해나갈 수 있도록 최선의 노력을 다하겠다"고 덧붙였다.

이번 간담회에서는 지난 10월 미국 바이든 대통령의 행정명령 서명, 이달 EU의 인공지능법안 제정 합의 등 주요국의 인공지능 규범 관련 주도권 경쟁 동향을 공유하고, 우리나라 인공지능 규범 정립 방향에 대한 업계 의견을 수렴했다.

발제자로 나선 한국과학기술원(KAIST) 박성필 문술미래전략대학원장은 미국 바이든 대통령의 인공지능의 안전·보안·신뢰 관련 8가지 원칙 및 주요 기업의 자율적 이행 서약과 안전하고 신뢰할 수 있는 인공지능을 위한 행정명령의 주요 내용과 시사점을 공유했다.

박 문술미래전략대학원장은 "현실 사례와 데이터 없이 비교 분석은 어렵지만 EU가 좀 더 규제 중심이라면 미국은 시장 중심의 규제"라며 "다만 미국의 행정명령(EO)는 단순한 지침이 아닌 포괄적으로 사안별 규제 근거로 작동할 여지는 크다"고 지적했다.

그러면서 "기업 입장에서는 AI 개발과 사용을 둘러싼 법적 환경이 갈수록 복잡해지고 있는 만큼 AI 기술전문가 뿐 아니라 AI 규제와 윤리 전문가 팀의 양성도 중요하다"고 제언했다.

김앤장 법률사무소의 강지원 변호사는 최근 EU 집행위·이사회·의회 간 정치적 합의를 통해 내년 초 제정될 예정인 EU 인공지능 법안의 주요 내용 및 시사점을 소개했다.

강 변호사는 이번에 합의된 EU 인공지능 법안은 기존 집행위 안에 비해 금지 대상 AI를 확대하고, 범용 AI 규제를 신설하는 내용이 포함된 점과 기본법적 성격의 포괄적 규제방식을 채택하고 있다고 설명했다. 또 EU 인공지능 법안의 적용 범위, 위험 기반 규제체계, 거버넌스 및 혁신을 위한 지원 등 주요 내용에 대해서도 자세히 소개했다.

발제에 이어진 토론에서는 미국, EU의 규제에 맞서 기업의 준비 상황 및 애로사항을 공유하고, 우리나라의 인공지능 신뢰성·안전성 확보 정책과의 비교 등을 논의했다.

[e-mail] 조윤주 기자