아마추어 바둑 고수가 인공지능(AI)과 바둑 대결에서 시스템의 허점을 파고들어 압승을 거뒀다고 파이낸셜타임스(FT)가 18일(이하 현지시간) 보도했다.
2016년 구글의 AI 알파고가 이세돌 9단을 4승 1패로 물리치며 인간이 완전히 패배했지만 시스템 허점을 노린 아마추어가 설욕한 셈이 됐다. 다만 AI 시스템 허점은 컴퓨터 프로그램을 통해 알아낸 터라 온전한 인간의 승리라고만 할 수는 없다.
14승 1패
FT에 따르면 아마 최고 랭킹 바로 아래 단계인 미국인 켈린 펄린이 AI를 이겼다. 펄린은 14승 1패로 AI를 완파했다.
아마추어 바둑단수는 1~7단까지다. 펄린은 아마 6단인 것으로 보인다.
전례 없는 인간의 승리는 최고 바둑 프로그램의 취약점을 파고든 덕이었다.
이세돌 등 프로 바둑기사들은 바둑으로 승부를 가리려 했지만 펄린은 AI의 맹점을 이용했다.
오픈AI의 '생성형 AI' 챗봇인 챗GPT가 지난해 12월 일반에 시험버전이 공개된 뒤 AI가 인간을 대체할 것이란 우려가 높아지는 가운데 바둑에서 인간이 AI를 완파했다는 소식이 나왔다.
컴퓨터 도움받아 AI 맹점 노려
비록 펄린이 AI를 완파하기는 했지만 그가 AI를 이긴 전략은 컴퓨터 프로그램의 도움을 받은 것이었다.
AI의 취약점을 찾기 위해 고안된 프로그램이 맹점을 펄린에게 알려줬고, 펄린이 이를 바탕으로 공격적으로 AI를 밀어붙여 승리를 따낸 것이다.
프로그램을 설계한 캘리포니아의 리서치 업체 FRA AI 최고경영자(CEO) 애덤 글리브는 "이(AI) 시스템을 파고드는 것은 놀라우리 만치 쉬웠다"고 말했다.
FAR AI는 최고 바둑 AI 시스템 가운데 하나인 카타고(KataGo)를 상대로 100만번 넘는 대국을 치른 끝에 인간이 노려볼 만한 '맹점'을 발견해냈다고 글리브는 밝혔다.
펄린은 소프트웨어가 찾아낸 승리 전략이 간단한 것은 아니었지만 사람이 배우기에 엄청나게 어려운 것도 아니었다면서 이를 습득하면 아마추어 중급자라도 AI를 이길 수 있다고 말했다.
펄린은 카타고 외에 또 다른 AI바둑 시스템인 릴라제로(Leela Zero)와 대국에서도 이 전략을 써먹었다.
비록 컴퓨터가 제안한 전술 도움을 받은 것이기는 하지만 세계 최고 프로 바둑 기사들이 AI에 참패한지 수년 뒤 거둔 이번 압승은 그 나름대로 의미가 깊다. AI에 여전히 맹점이 있으며 인간이 이를 역이용할 여지가 아직 충분하다는 점이 확인된 것이다.
성동격서로 AI의 주의 분산
FT는 세계 바둑 챔피언인 이세돌 9단이 2016년 구글의 딥마인드가 고안한 바둑AI 알파고에 1대 4로 패한 3년 뒤 AI의 부상을 이유로 은퇴했다면서 당시 그가 "AI는 패배할 수 없는 존재"라고 말했다고 전했다.
알파고는 일반에 공개된 프로그램이 아니어서 펄린이 직접 대국을 펼칠 수는 없었지만 그가 대결한 카타고, 릴라제로 등은 알파고와 비슷한 성능을 가진 것으로 간주되고 있다.
펄린이 AI를 공략한 전술은 AI를 바둑판 구석에서 몰아붙여 여기에 주의를 빼앗기게 한 뒤 다른 구석에서 조금씩 상대방을 포위하는 전술이었다.
동쪽에서 소란을 피우며 주의를 이 곳으로 쏠리게 한 뒤 서쪽을 치는 이른바 '성동격서' 식의 전술을 활용한 것이다.
펄린은 AI가 대국 도중 다른 곳에서 진행되는 위험을 인식하지 못했다면서 심지어 집이 거의 넘어올 때까지도 눈치채지 못했다고 말했다.
그는 "인간은 매우 알아치리기 쉬운 맹점"이라고 덧붙였다.
과거만을 '이해'하는 딥러닝
캘리포니아 버클리대(UC버클리) 컴퓨터과학과의 스튜어트 러셀 교수는 이번 바둑 AI의 맹점 발견은 가장 선진화된 딥러닝 AI라도 인간이 공략할 수 있는 맹점이 있다는 점을 보여준다고 말했다.
러셀 교수는 딥러닝 시스템은 과거에 노출됐던 특수한 상황만을 "이해한다"면서 인간이 쉽게 찾아내는 일반화는 AI에 불가능하다고 지적했다.
그는 이번 사례는 인간이 AI를 섣부르게 과대평가하고 있음을 다시 한 번 깨우쳐준다고 말했다.
한편 연구진에 따르면 바둑 AI의 맹점은 추측의 문제에 관한 시스템 실패에서 비롯됐다.
펄린이 사용한 전술은 거의 사용되지 않는 것이어서 AI가 이와 비슷한 경험을 충분히 하지 못했고, 따라서 그 취약성을 인지하지 못했다고 글리브는 설명했다.
dympna@fnnews.com 송경재 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지