"블록체인과 AI 결합땐 학습용 데이터 불투명성 해소" [코리아 블록체인 위크 KBW 2024]

<기조연설> 비탈릭 부테린 이더리움 창시자
AI의 가짜뉴스 학습·문화 편향
크립토 활용해 오류 극복 가능

fnDB

"생성형 인공지능의 강화학습용(트레이닝) 데이터가 적대적 공격을 받는 상황을 블록체인이 막을 수 있다."

3일 서울 광진구 그랜드워커힐 서울에서 열린 코리아블록체인위크(KBW) 메인 컨퍼런스 '임팩트(KBW 2024: IMPACT)'에서 '웹3 생태계의 작은 거인' 이더리움 창시자 비탈릭 부테린(사진)은 이같이 말했다. 부테린은 "지난 2021년 이후 블록체인 기술과 인공지능(AI)의 결합에 대한 굉장히 많은 논의가 있었다"면서 "그 결합이 유의미한지 두 기술의 교집합이 중앙화될지 탈중앙화될지 우리는 이야기해야 한다"고 말했다.

각각의 영역에서 AI와 블록체인(크립토)은 그 중요성이 커지고 있지만 중앙화와 탈중앙화라는 상반된 성격을 갖고 있는 만큼 두 기술의 융합, 즉 교집합에서 어떤 현상이 어떻게 발생할 것인지 면밀하게 살펴야 한다는 지적이다. 또 원장 공개라는 투명성을 내세우는 블록체인과 달리 학습 데이터는 물론 알고리즘조차 불투명한 AI의 결합에 있어 상호 보완할 지점이 많다고 지적했다.

부테린은 AI와 블록체인을 결합하면 △게임 내 플레이어로서의 Al △게임 인터페이스로서의 AI △게임 규칙으로서의 AI △게임의 목표인 AI 등 네 가지 접점이 가능하다고 말했다. 부테린은 "여기서 게임이란 일종의 시스템이자 규칙, 인센티브(보상) 체계, 프로젝트 등을 총괄하는 개념"이라며 "게임 내 플레이어로서 AI가 행위할 수 있도록 하며, 블록체인은 참여자가 따를 수 있는 규칙을 만든다"고 설명했다.

인터페이스로서의 AI 측면에 대해서는 X(트위터)의 커뮤니티 노트 기능을 예시로 설명했다.

현재의 커뮤니티 노트에서도 일종의 위키백과 프로젝트처럼 진실과 거짓에 대한 규명이나 정보 전달이 이뤄지고 있다. 여기에 크립토를 활용한 보상이 적용되면 현재의 느리고 비싼 정보전달 방식이 보다 저렴하고 빠르게 이뤄질 수 있다. 또 이 과정에서 AI가 활용된다.

부테린은 "예를 들어 '누군가 부테린은 마술을 숭배한다'는 글을 올렸을 때 1센트의 보상으로 이것이 사실이 아니라는 댓글(커뮤니티 노트)이 달릴 것"이라며 "이는 증빙이자 일종의 자정작용"이라고 설명했다.

그는 거대언어모델(LLM) 생성형 AI의 약점으로 꼽히는 '가짜뉴스' 관련 학습이나 문화 편향도 크립토를 활용해 극복할 수 있을 것으로 전망했다. 부테린은 "게임에서 AI 심판, AI 규칙 판단관이 있다고 한다면 AI의 학습 데이터에 기초한 바이러스(오류)가 미국·백인 편향 방식으로 발생할 수 있다"면서 "학습용 데이터가 불투명하다면 AI의 판단도 불투명할 것"이라고 말했다.

그는 "블록체인 기술을 활용한 보안을 강화해 이를 해결할 수 있다"고 주장했다. 예를 들어 안면인식 AI는 마스크나 빨간색 뿔테안경을 쓴 얼굴을 인식하지 못한다. AI에게 다양한 색깔의 마스크와 안경 데이터를 10억회 이상 학습시키면 얼굴을 인식해내겠지만, 학습용 데이터가 공개돼있다면 적대적 공격의 대상이 될 수 있다. 하지만 학습용 데이터에 프라이빗한 블록체인 결합을 통해 투명성을 확보한다면 이 문제를 해결할 수 있다는 주장이다. 부테린은 "블록체인의 암호화 기술은 인공지능이 학습과 추론 작업을 할 때 프라이버시를 유지하면서도 가능하게 한다"면서 "학습용 데이터, 프로세스(알고리즘) 모두를 효율적으로 만들 수 있다"고 강조했다.

그는 민주주의적 거버넌스를 통해 트레이닝 데이터에 어떠한 데이터가 들어가는지도 결정할 수 있다고 밝혔다. AI의 결정이 미국, 백인, 특정 개발자의 사고 알고리즘으로부터 벗어날 수 없다는 경고가 이어지는 가운데 블록체인과의 결합을 통해 이를 극복할 수 있다는 지적이다.

고려대 블록체인학회 '블록체인밸리' 소속으로 키노트 현장을 찾은 박성훈씨와 정건우씨는 "부테린의 지적에 공감한다며 학습용 데이터에 블록체인으로 일반적으로 드러나지 않는 꼬리표를 다는 방식으로 해결한 사례가 이미 있다"면서 "이미지 생성형 AI의 저작권 침해 문제 해결을 위해 학습용 데이터에 꼬리표를 다는 방식"이라고 말했다. AI의 불투명성 문제 해결을 위한 블록체인 기술 활용 가능성에 공감한 것이다.

부테린은 "블록체인 측에서도 AI를 도입하면 이는 정당하고 합리적이어야 한다"면서 "인공지능이 실제로 필요한건지, 도입했을 때 보안이 유지될 수 있는지, 앱에서 내가 원하는 것이 구현되는 것인지 확인해볼 필요가 있다"고 설명했다. 실제 수많은 앱이 두 기술을 결합했다고 주장했지만 따로 노는 경우가 많다는 것. 그는 "크립토 AI 앱 중 온체인에서 데이터 퍼블리싱을 하거나 트레이닝 데이터를 해시한 것뿐인 경우가 많다"면서 "어떤 보안적 노력이 있는지 확실히 해야한다"고 덧붙였다.

부테린은 "앱을 만들 때 인공지능, 블록체인 요소를 모두 넣을 때 어떤 기술적 강력한 스토리를 갖게 되는지, 둘이 정확히 결합됐는지 사용자에게 설명해야 한다"면서 "이 조건을 만족할 때 강력하고 엄청난 일을 할 수 있을 것"이라고 말했다.