IBM "기업 AI 도입, '티핑 포인트' 넘어...딥페이크, 법적책임 물어야"

[파이낸셜뉴스] "기업의 인공지능(AI) 도입은 이미 '티핑 포인트'를 넘어섰다. 도입 여부가 아니라 어느 시점에, 어느 정도 할 것인가의 단계가 됐다". 티핑 포인트는 '갑자기 뒤집히는 점'이라는 의미로, 시장의 반응이 한 순간 폭발적으로 늘어날 때를 말한다.

폴 버튼 IBM 아시아태평양 지역 총괄 사장은 20일 서울 여의도 한국IBM 사무실에서 열린 IBM 기자간담회에서 "많은 기업들에게 AI 도입은 현실이 됐고, 이같은 트렌드는 가속화될 것"이라며 이같이 말했다.

그는 "전 세계적으로 인구 구성에 변곡점을 맞이하고 있다"며 " "전 세계적으로 수십년간 디지털 전환이 이어져 왔는데, 이제는 디지털화된 산업 생태계를 누가 관리하고, 고도화해 나갈 것인가가 고민 지점"이라고 전했다. 고령화와 인구 감소에 따라 숙련된 인력이 줄어드는 상황에서, 생산성 유지를 위해서는 AI 자동화 만이 유일한 대책이라는 것이 폴 버튼 사장의 설명이다.

폴 버튼 사장은 "전 세계에 걸쳐 약 85% 이상이 이미 AI를 적용했거나 AI 적용을 준비하고 있고, 한국에서도 94%의 응답자들이 AI가 필요하다고 답했다"며 "기술을 발전시켜 나가면서 해악보다 좋은 점이 우리 삶에 녹아들 수 있도록, AI 기술에 대한 신뢰를 확보하는 게 중요하다"고 말했다.

그러면서 IBM이 AI 개발 관련 중점 과제로 개방성, 투명성, 신뢰성, 확장성 등 4가지를 강조했다. 그는 "AI 기술은 망치나 못, 드라이버와 같은 도구"라며 "중요한 것은 실제 AI 기술을 도입하려는 분명한 목적과 어떻게 운용하겠다는 계획, 이를 통해 얻고자 하는 것이 무엇인지를 명확하게 정의하는 것"이라고 덧붙였다. 이같은 계획이 명확해야 생성형AI, 머신러닝 등 기술을 구분해 도입할 수 있고 최적의 효과를 얻을 수 있다는 조언이다.

IBM측은 AI 기술 발전에 따라 딥페이크, 가짜뉴스 등 오남용 행위에 대해 법적 책임도 지워야 한다는 의견도 내놨다.

크리스토퍼 패딜라 IBM 대정부 및 규제담당 총괄 부사장은 "딥페이크 콘텐츠를 게시하거나 사용하는 사람들에 대해 법적 책임을 묻는 게 반드시 필요하다"며 "플랫폼 기업도 문제가 된 게시물을 빨리 내리지 않는 등 신속하게 대처하지 않는다면 제재나 페널티 부과 등의 조치가 있어야 한다"고 지적했다.

다만 딥페이크 등의 문제가 있다고 AI 개발 자체를 규제하거나 막는 것은 바람직하지 않다고 선을 그었다. 패딜라 부사장은 "AI 개발이나 구축을 제약하는 규제 방식은 적합하지 않다"라며 "AI를 어떻게 사용하는지에 따라 면밀히 살펴보고 필요하다면 규제하는 방식으로 규제를 접근해야 한다"고 했다.

즉, 식당 예약이나 추천, 옷 추천 등의 리스크가 낮은 부분은 규제 대상에서 제외하고, 의료진의 진단이나 은행의 대출 심사 과정에서의 AI 사용은 정부가 좀 더 면밀히 들여다보는 방식이다.

패딜라 부사장은 딥페이크 규제와 표현의 자유 억압 문제에 대해서도 "의견을 제시하는 것과 기술을 악용해 누군가의 평판을 저해하는 유해 허위 정보를 게시하는 것은 법적으로 분명한 선을 그을 수 있다"며 "허위 사실을 신문 등의 매체 기사로 보도하는 것이 불법이듯, AI를 이용해 온라인에 허위 게시물을 올리는 것도 똑같이 불법이 돼야 한다"고 강조했다.

이어 “새로운 도구가 출현하면 새 법규가 필요하고 AI 역시 예외는 될 수 없다”고 말했다.

[e-mail] 조윤주 기자