정부, AI안전연구소 차린다...'AI 위협' 국가 차원 대비

[파이낸셜뉴스] 국가 차원의 인공지능(AI) 안전 연구와 글로벌 협력을 도맡을 AI안전연구소가 내달 출범한다.

과학기술정보통신부는 18일 서울 종로구 국가과학기술자문회의 청사에서 개최한 제17차 정보통신전략위원회에서 AI안전연구소 설립·운영계획안을 의결했다.

연구소의 주요기능은 관리 대상 AI를 찾아 안전평가·연구를 진행한다. 장기적으로는 세계적 AI안전 연구를 선도하는 기관으로 발전시킨다는 목표다. 연구소는 안전정책·평가·기술분야 등 3개 연구실로 운영되며, 사무실은 판교 글로벌 R&D센터에 4층에 설치한다.

AI연구소 설립은 지난 5월 개최된 ‘AI서울정상회의’에서 논의된 핵심 의제 중 하나였다. 연구소는 '아태지역을 대표하는 글로벌 AI 안전 거점연구소' 구현을 비전으로 △AI 안전에 대한 과학적 이해 증진 △AI 안전 정책 고도화 및 안전제도 확립 △국내 AI 기업의 안전 확보 지원 등 3대 핵심 목표를 설정했다.

안전평가 지표·방법은 기업·대학·연구기관과 개발하고 평가도구와 데이터셋을 구축할 계획이다. 나아가 주요국의 AI 규범을 분석해 국내 안전정책을 수립하도록 지원하고 기업·기관을 위한 국제인증 컨설팅과 국내외 협력도 맡는다.

이 밖에 통제력 잃은 AI에 대응하는 '정렬(Alignment)기술'과 AI의 사회적 차별·편향을 완화하는 기술도 연구소가 연구개발(R&D)을 수행한다.

연구소는 한국전자통신연구원(ETRI) 아래 30여명 규모로 설치될 예정이다.

첫 주요일정은 다음달 20일 미국 샌프란시스코에서 개막하는 '국제 AI안전연구소 네트워크' 행사에 참가한다.

[e-mail] 주원규 기자