수학 정리로부터 밝혀지는 AI의 한계

[행동지능연구팀 최현우]
어렸을 때 읽었던 책 중에 아직까지도 기억에 남는 소설 중 하나인 <사람들이 모두 미쳤다고 말한 외로운 수학 천재 이야기>에서는, 아직도 풀리지 않은 수학계의 난제 중 하나인 ‘골드바흐의 추측’을 다루고 있습니다. 20년이 지난 지금까지도 그 내용을 선명하게 기억하고 있는 건, 수학이라는 학문이 결코 완벽하게 정립될 수 없다는 ‘괴델의 불완전성 정리’와도 연관되어 있기 때문입니다.

괴델의 불완전성 정리는 모순없이 정의된 수학체계 내에는 참이면서도 증명할 수 없는 명제가 반드시 존재한다는 정리이며, 그 이후로는 여러 수학계의 난제를 풀기 위한 고난의 과정에서 ‘혹시 이것도 증명이 불가능한 문제는 아닐까?” 라는 의구심이 생길 수 있게 되었습니다.
이와 비슷하게, 현재의 컴퓨터에 해당하는 튜닝 머신이 세상의 모든 문제를 풀 수는 없다는 사실도, ‘정지 문제’라는 이름으로 이미 밝혀져 있습니다.

최근 케임브리지와 오슬로에서 이러한 논리를 딥러닝 분야에 적용해서, 아무리 잘 정의된 문제와 완벽한 데이터셋이 있더라도 딥러닝을 통해 이상적인 뉴럴 네트워크에 도달할 수는 없는 경우가 발생한다는 것을 논증하였습니다.

현대의 딥러닝 연구에서도 상당히 많은 시행착오의 과정이 존재합니다. 알고리즘을 정의하고, 학습이 잘 안되면 데이터의 양을 늘리거나 추가적인 정제를 진행하기도 하며 여러 파라미터를 조절하기도 합니다. 문제가 명확하고, 이상적인 뉴럴 네트워크의 형태를 알고 있는 상황에서 다양한 시도를 해보더라도 원하는 방향으로 잘 수렴하지 않는 경험을 많이들 겪어보셨을 것 같습니다. 그 중에는 심지어 고전적인 방식으로 더 잘 풀리는 경우가 있을지도 모르고요.

우리는 항상 더 많은 데이터와 계산 자원이 갖춰지면 문제를 해결할 수 있을거라고 생각하지만, 자원에 관계없이 이상적인 뉴럴 네트워크에 도달할 수 없는 경우가 생기게 된다는게 해당 논증입니다. 아마도 우리를 더 괴롭히는 부분은 괴델의 불완전성 정리와 마찬가지로 어떤 경우에 딥러닝이 막히게 되는지 우리가 그 사실을 알 방법이 (아마도 거의) 없다는 점일 겁니다.

하지만 딥러닝이라는 기법에 한계가 있다고 해서 너무 두려워할 필요는 없다고 생각합니다.
괴델의 불완전성 정리나 정지 문제가 등장한 이후에도 수학이나 계산의 발전은 멈추지 않았습니다. 어쩌면 앞서 살펴본 문제들보다 더 큰 파급력을 가진 물리학의 ‘하이젠베르크의 불확정성 원리’가 밝혀진 이후에도 사람들은 계속해서 더 정교하고 복잡한 기술을 연구해 왔습니다.
우리가 가진 AI 기술의 한계를 명확하게 이해하는 것이, AI 분야의 더 커다란 발전을 위해 꼭 거쳐가야 하는 과정이라고 생각합니다. 🙂

Reference
[1] https://www.youtube.com/watch?v=92WHN-pAFCs
[2] https://www.pnas.org/doi/full/10.1073/pnas.2107151119
[3] https://www.instagram.com/sandserifcomics/