업스테이지 찾은 박윤규2차관..AI신뢰성 확보 강조

[파이낸셜뉴스] 과학기술정보통신부(과기정통부) 박윤규 제2차관이 인공지능(AI) 서비스 분야별 대표기업의 AI 윤리 및 신뢰성 준수현황을 점검하고 윤리의식을 확산하기 위해 연속 현장방문을 추진한다. 우선 최근 이슈가 되고 있는 생성형 AI 대표기업 방문을 시작으로 의료, 제조, 교육, 교통 및 운송, 금융 등 분야별 대표 AI 기업을 순차적으로 방문할 계획이다.

박윤규 2차관은 15일 첫 번째 현장방문 기업인 업스테이지에서 생성형 AI 문제점으로 꼽히는 환각(Hallucination) 현상을 완화하기 위한 기업의 노력과 AI 윤리·신뢰성 확산을 위한 애로사항 관련 의견을 나누었다.

업스테이지는 카카오톡 기반 챗AI인 ‘애스크업(AskUp)’을 운영하면서 ‘? 검색’을 도입, 팩트 기반의 정보를 제공하고 있다는 평가다. 또 개인정보 텍스트에 대한 마스킹 처리, 부적절한 이미지 생성 요청 시 거절 메시지 노출과 출력 거부 조치 등 다양한 노력을 기울이고 있다.

업스테이지 이활석 최고기술책임자(CTO)는 “챗GPT 등 생성형 AI 시대가 열리면서 AI 윤리·신뢰성에 대한 논의가 가속화되고 있다”며 “다양한 노력을 통해 AI 기술 발전에 필수인 윤리·신뢰성 확보를 위한 노력을 지속할 것이다”는 의지를 밝혔다.

이에 박 차관은 “AI가 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 전단계에서 윤리와 신뢰성을 확보하는 것이 산업발전의 전제조건이 되고 있다”고 강조했다. 이어 “국내 기업들이 자사 제품 및 서비스에 AI 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업현장에 방문해 애로사항과 지원 필요사항을 경청하고 AI 윤리·신뢰성 확산에 앞장서 나가겠다”고 덧붙였다.

앞서 과기정통부는 AI 윤리·신뢰성 확보를 위해 경제협력개발기구(OECD), 유럽연합(EU) 등의 AI 권고안을 반영한 AI 윤리기준을 2020년 12월 수립한 바 있다. 이후 2022년 2월 AI 윤리기준을 자율적으로 준수·점검할 수 있는 가이드라인을 마련했다.

또 각 주체가 분야별·사안별 특성에 맞는 세부지침을 수립해 나갈 수 있도록 챗봇(대화형AI), 영상, 작문 등 윤리·신뢰성이 강조되는 분야 가이드라인을 마련했으며, 향후 채용과 초거대 AI 분야로 확대할 예정이다.

[e-mail] 김미희 기자