'60만명 카톡대화 무단 사용' 이루다 개발사에 과징금·과태료 제재

[파이낸셜뉴스] 60만명에 달하는 이용자의 카카오톡 대화 94억여건을 무단으로 이용한 인공지능(AI) 챗봇 서비스업체가 철퇴를 맞았다.

29일 개인정보보보호위원회는 전날 전체회의를 열어 AI 챗봇 이루다의 개발사 스캐터랩에 1억330만원의 과징금(5500만원)과 과태료(4780만원)를 부과했다.

이는 AI 기술 기업의 무분별한 개인정보 처리를 제재한 첫 사례다.

기업이 특정 서비스를 목적으로 수집한 개인정보를 이용자의 명시적 동의 없이 다른 서비스를 위해 이용하는 것을 제한했다는 데 의미가 있다.

이루다는 20대 여대생을 캐릭터로 한 대화형 AI 챗봇이다.

개인정보 침해, 성희롱 발언, 소수자에 대한 차별 및 혐오 발언 등 논란에 휩싸여 지난 1월12일 서비스를 중단했다. 현재 이루다 서비스의 개인정보유출 피해를 주장하는 이용자들은 개발사인 스캐터랩을 상대로 2억원의 손해배상청구 소송을 제기한 상태다. 시민사회단체들도 정부에 민원 등을 통해 처벌 및 시정을 요청했다.

개인정보위 조사 결과, 스캐터랩은 자사의 앱 서비스인 텍스트앳과 연애의 과학에서 수집한 카카오톡 대화를 지난해 2월부터 올해 1월까지 페이스북 이용자 대상의 챗봇 서비스 이루다의 AI 개발과 운영에 이용한 것으로 확인됐다.

스캐터랩은 이루다 AI 모델의 개발을 위한 알고리즘 학습 과정에서, 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않았다. 이렇게 약 60만 명에 달하는 이용자의 카카오톡 대화문장 94억여건을 이용했다.

이루다 서비스 운영 과정에서는 20대 여성의 카카오톡 대화문장 약 1억건을 응답 DB로 구축하고, 이루다가 이 중 한 문장을 선택, 발화할 수 있도록 운영했다.

개인정보위는 스캐터랩이 이용자의 개인정보를 수집한 목적을 벗어나 이용한 것이라고 판단했다. 신규 서비스 개발이라는 개인정보처리방침상 동의 기재만으로 이용자가 자신의 카카오톡 대화가 이용될 것에 대해 예상하기 어려웠다는 점, 이용자의 개인정보 자기결정권이 제한돼 이용자가 예측할 수 없는 손해를 입을 우려가 있다는 점 등에서다.

또 개인정보위는 스캐터랩이 코드 공유·협업 사이트인 깃허브(Github)에 지난 2019년10월부터 올해 1월까지 이름 22건과 지명정보 34건, 성별, 대화 상대방과의 관계 등이 포함된 카카오톡 대화문장 1431건과 함께 AI 모델을 게시했다.

이같이 가명정보를 불특정 다수에게 제공하면서 특정 개인을 알아보기 위해 사용될 수 있는 정보를 포함한 행위 또한 개인정보보호법 위반이다.

개인정보위는 조사 과정에서 정보주체가 명확히 인지할 수 있도록 알리고 동의를 받지 않은 사실 등 추가 위반사실도 확인했다.

윤종인 개인정보위 위원장은 "이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않고, 개인정보 처리에 대해 정보주체가 명확하게 인지할 수 있도록 알리고 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다"고 말했다.

[e-mail] 정상균 기자