LaMDa is Not Alive

[생성지능개발팀 한현준]

얼마 전 구글의 연구원인 Blake Lemoine은 언어 모델인 LaMDa가 자의식이 존재한다라는 주장을 펼쳤으나, 구글에서는 자의식의 증거를 찾을 수 없다고 판단하였고, 이에 Lemoine은 LaMDa와의 대화 일부를 자신의 블로그에 공개해 징계를 받은 일이 있었습니다. 이 사건에 대해 국내외 여러 매체에서 Lemoine에게 많은 인터뷰 요청과 보도가 있었습니다. 사람들은 이러한 이슈에 다양한 의견과 자신의 생각들을 공유했습니다. 저는 Lemoine의 주장에 반론하는 사람들이 말하는 이유 몇 가지를 정리해 보고자 합니다.

엘리자 프로그램

Eliza는 MIT 인공 지능 연구소에서 1960년대에 Joseph Weizenbaum이 만든 초기 자연어처리 컴퓨터 프로그램입니다. 정신과 의사들을 흉내낸 것으로 질문에 몇가지 템플릿으로 대답하는 형식이었습니다. 예를 들자면 맞장구를 쳐주거나 다시 질문하는 형식으로 대화를 이어나가는 것입니다. 그런데 놀라운 점은 이러한 단순한 프로그램에도 사람들이 이 프로그램과 교감을 하는 사람들이 생겼고, 실제 지각이 있다고 믿는다는 것이었습니다. 이렇게 단순한 초기 챗봇의 경우에도 일부 사람들은 지각이 있다고 믿어왔고, LaMDa가 지성이 있다는 것을 반대하는 사람들의 생각 또한 이와 마찬가지라는 것입니다.

중국어 방 사고 실험

“중국어 방”은 John Serle이 “튜링 테스트로는 기계의 인공지능의 여부를 판정할 수 없다”라는 것을 논증하기 위한 사고 실험입니다. (물론 이것 역시 갑론을박이 있습니다)
실험의 내용은 다음과 같습니다.
어느 방 안에 중국어를 모르는 실험 참가자을 넣어둔 후, 중국어로 된 질문 및 질문에 대한 답변 목록과 필기구를 준비합니다. 이 상태에서 중국인 심사관이 중국어로 질문을 써서 방 안으로 넣는다면, 참가자는 중국어를 전혀 모르더라도 질문 및 답변 목록을 토대로 알맞는 대답을 중국어로 써서 심사관에게 건네줄 수 있습니다. 사람들은 참가자가 중국어를 할 줄 안다고 생각하겠지만, 실제로는 질문도 답변도 모르는 상태에서 기계적으로 대조해보고 답안을 제출한 것이지, 중국어를 알고 대답하는 것은 아닙니다. 쉽게 말해 답변 쓰는 기계가 되는 것이라고 보는 견해입니다.

예시) 심사관: 你傻吗？ (당신은 바보입니까?) / 참가자: (무슨 말인지는 모르겠지만) 是的。(네.)

즉, 문답이 완벽하게 이루어져도 안에 있는 사람의 중국어 ‘이해 여부’를 알 수 없듯이, 기계가 튜링 테스트를 거치더라도 그게 ‘지능’인지 ‘저장된 답변’인지는 알 수 없다는 주장입니다.
LaMDa 역시 엄청난 데이터를 바탕으로 완벽에 가깝게 문자 패턴 조합을 학습해 저장된 답변을 하는 것일지, 자의식으로 사고를 해서 결론을 낸 지능인지는 모델이 실제 공개되기 전까지 알 수 없습니다.

Lemoine의 답변

최근의 Lemoine의 블로그를 보면 앞서 말한 반론들을 언급하면서 LLM(Large Language Model)은 구성 요소 중 하나일 뿐 GPT-3와 같은 시스템에서는 찾을 수 없는 많은 구성 요소를 포함한다면서 일반적인 LLM과 다르다는 언급과 “지성”에 대한 과학적 명확한 정의가 존재하지 않기 때문에 과학적 증거가 없고 LaMDa의 개인 및 영적 및 종교적 신념에 지각이 있는지에 대한 여부로 근거한다고 말하고 있습니다. 개인적으로는 이러한 블로그 내용은 엔지니어 관점에서 봤을 땐 많은 아쉬움이 남습니다. 일반적인 사용자라면 개인의 자유로 생각할 수 있겠지만, 과학자라면 미지의 영역을 영적, 종교적인 부분으로 채워 넣는 것은 옳지 않다고 생각하기 때문입니다.

그 이후..

이 사건의 당사자인 Lemoine은 현재도 개인 블로그에서 관심과 반응을 즐기는 듯 합니다. 그리고 구글의 LaMDa의 성능에 있어서는 많은 홍보가 되었습니다. 향후 LaMDa가 공개된다면 자의식이 있는 언어 모델로서 패러다임이 바뀔지, 아니면 자의식이 아닌 단순히 인간에 가깝게 답변을 잘하는 언어 모델로서 남을지 귀추가 주목됩니다.

Reference

– https://cajundiscordian.medium.com/
– http://it.chosun.com/site/data/html_dir/2022/06/14/2022061400986.html
– http://www.aitimes.com/news/articleView.html?idxno=145277
– https://www.getnews.co.kr/news/articleView.html?idxno=587637
– https://mnews.jtbc.joins.com/News/Article.aspx?news_id=NB12063081