"심심한데 섹시한 대화나 할까요" 요즘 급증한 'AI 여친'의 정체

[파이낸셜뉴스] SNS에 인공지능(AI)으로 만든 성적 콘텐츠 광고가 넘쳐나고 있다. 성매매 등을 유도하는 이런 광고는 엄격한 단속 대상이지만, 실제 사람이 아니기 때문에 SNS의 자체 검열 시스템에서 걸러지지 않는 틈을 파고 들어 최근 급증하고 있다.

지난 2일(현지시간) 미국 NBC에 따르면 페이스북과 인스타그램 모회사 메타가 소유한 앱에서 최근 몇 달간 AI를 활용한 성적 콘텐츠 광고가 1000여개 이상 확인됐다고 보도했다.

틱톡에도 수백개의 성적 AI광고가 게재됐다.

SNS를 통한 직접적인 성매매 광고는 엄격한 단속 대상이다. 하지만 이들 광고에는 큰 가슴과 타이트한 옷을 입은 AI로 만든 ‘여자 친구’가 등장해 ‘성적으로 부적절한(NSFW) 사진’이나 ‘맞춤형 핀업 걸’, ‘검열이 안되는 채팅’을 약속하며 이용자들을 유혹하고 있다.

일부 광고는 네모바지 스폰지밥과 쿠키 몬스터 등 인기 어린이 TV 캐릭터가 포함된 밈을 사용해 ‘NSFW 사진’을 만드는 앱을 홍보한다. 또 다른 광고에서는 10대 이하로 보이는 소녀를 애니메이션으로 등장시키기도 한다.

NBC 방송은 페이스북과 인스타그램 모회사 메타가 소유한 앱에서 이런 성적 광고를 올리는 앱 개발자 35명을 확인됐다고 보도했다. 이와 같은 앱 개발자들은 대부분 미국이 아닌 해외에 기반을 두고 맞춤형 디지털 캐릭터와 성적 또는 연애에 관심이 있는 고객을 겨냥했다.

메타는 이에 대해 “사람이 만든 콘텐츠와 AI가 생성한 콘텐츠에 동일하게 성인용 콘텐츠 금지가 적용된다”고 밝혔다. 틱톡도 “성적으로 자극적인 광고는 금지하고 문제가 된 사례는 삭제하고 있다”고 설명했다.

NBC 방송은 이런 광고는 실제 성 노동자와 다르게 취급되는 이중적인 기준으로부터 이익을 얻고 있다는 지적도 나온다고 보도했다.

[e-mail] 문영진 기자