환각

최근 ChatGPT가 각광을 받으면서 놀라운 기능을 보여주고 있다. 글을 쓰고, 시를 짓고, 그림을 그리며, 음악을 작곡하기도 한다. 소위 인간의 고유 영역이라고 생각했던 정신 분야에 대해서도 ChatGPT가 인간을 능가하는 현상이 발생되고 있기 때문이다. 이렇게 ChatGPT가 대단하지만 때로는 정말 얼토당토 않은 대답을 내어 놓기도 한다. 소위 환각 문제다.
미국의 한 변호사가 ChatGPT가 제시한 답변을 법정에 제출했다가 낭패를 당한 적이 있다고 한다. ChatGPT가 엉터리 대답을  내놓은 것이다. ChatGPT는 인간의 두뇌처럼 확률적으로 대답을 생성하기 때문에, 훈련받지 않은 부분에 대해서도 “모른다”는 대답 대신에 그럴듯한 대답을 내놓는다. 모르는 것은 “모른다”고 대답하는 것이 중요한데, ChatGPT의 동작 원리상 이는 어려운 문제이기 때문이다. 인간의 두뇌를 모방한 인공지능이 환각 현상을 보이듯이 인간의 두뇌도 마찬가지다.
인간이 말하고, 행동하고, 생각하고, 느끼는 것도 두뇌의 동작에서 나온다. 따라서 두뇌 신경망이 어떻게 형성되어 있는가에 따라 그 결과가 결정된다. 두뇌 신경망에서 숨쉬기와 혈액순환과 같은 생명활동에 관계하는 뇌간과 변연계의 일부는 태어날 때부터 형성되어 탄생한다. 하지만 나머지부분은 자라면서 환경이 빅데이터가 되어 훈련하면서 만들어진다. 즉 경험을 하면서 만들어지고, 좀 자라서는 공부를 하면서 만들어진다. 그래서 경험과 독서가 중요하다고 하는 것이다.
인간도 경험하지 않는 분야에 대해서도 결과를 만들어낸다. 젊은이들이 노인에 대해서 다 아는 것 같이 말하고 반응한다. 내가 젊었을 때 부모님이 여기저기 아프다고 하면 “늙으면 다 그런데” 하면서 대수롭지 않게 생각했다. “늙으면 건강이 제일 중요하다”라는 이야기를 들어도 그냥 한쪽 귀로 듣고 흘렸다. 그러면서 언제나 건강할 것처럼 젊은 때 건강에 대해 별로 신경쓰지 않았다. 그러다 막상 늙어서 아파보면 건강이 얼마나 중요한 것인지 알게 된다. 즉 늙어보지 않고 늙음을 아는 것처럼 처신하는 것도 일종의 환각이라는 이야기다.
췌장암환자가 되어 본 경험이 없는 의사가 매뉴얼에 따라 치료하면서 아픔을 호소하는 환자를 과장이 심한 환자처럼 취급하는 것도 일종의 환각일 수 있다. 췌장암 환자가 되어 본 경험이 없는 의사가 췌장암 환자의 고통을 어떻게 알겠는가? 그런데도 다 알고 있는 것처럼 반응하고 있으니 말이다.
우리는 경험해 보거나 공부해 보지 않는 것에 대해서는 신경망이 없다. 노인이 된 경험이나 암환자가 된 경험과 같이,  경험하기 어려운 것에 대해서도 진정으로 알지 못한다. 그럼에도 불구하고 다 아는 것처럼 반응하는 것은 일종의 환각일 수 있다. 우리는 내가 경험해 보지 않는 분야에 대해서는 내 생각이 환각도 있음을 알아차려야 한다. 그리고 겸손하게 처신해야 실수를 최소화할 수 있지 않을까.