인공지능의 발달이 대단합니다. 자고 나면 달라질 정도로 급변하고 있습니다. 그리고 인공지능은 기억용량이나 처리속도면에서 이미 인간을 능가한 것 같습니다. 바둑의 알파고가 인간을 뛰어 넘어선 것 같이, 이제 챗GPT는 보통 인간이 하는 정신적인 일을 대부분 커버하고 있습니다.
그러나 인공지능의 가장 큰 문제점이 환각입니다. 환각은 인공지능이 훈련받지 않은 부분에 대해서도 확신에 차서 잘못된 정보를 생성하는 현상입니다. 즉 인공지능은 “모른다”는 사실을 인지하지 못하고, 마치 아는 것처럼 답변을 생성하는 것입니다. 바둑의 알파고가 통역 문제를 자신있게 대답하는 것과 같은 현상입니다.
인간도 마찬가지입니다. 신경망을 만들 때 사용한 환경과 지금 살아가는 환경이 아주 다른데도 불구하고, 마치 다 아는 것처럼 동작한다는 사실입니다.
인간 신경망은 DNA에서 만들어진 부분과 육아환경에서 만들어진 부분이 대부분입니다. 물론 살아가면서 가소성에 의해 조금씩 바뀌는 부분도 있지만 대부분의 신경망은 DNA에 의해 만들어지거나 육아환경에 의해 형성된 것입니다.
DNA를 통해 형성한 부분은 진화를 거치면서 만들어진 부분인데, 대부분이 원시밀림의 환경에서 만들어진 부분입니다. 인간의 DNA는 진화 과정을 거쳐 주로 자연 상태, 특히 밀림과 같은 환경에서 생존과 번식에 유리하도록 형성되었습니다. 그리고 노인의 경우 육아환경은 60년 전의 환경으로, 지금의 환경과는 아주 다른 환경에서 형성되었습니다.
이와 같이 원시밀림의 환경과 육아환경에서 훈련된 신경망으로 현대 정보화, 인공지능 환경에서 동작하다 보니, 자신도 모르게 “모른다는 사실을 모르고” 반응하고, 행동하고, 말하고, 느끼는 것입니다. 한마디로 오동작하는 경우가 많은 것입니다. 식량이 모자란 환경에서 형성되어 식량이 풍부한 지금 환경에서 먹다 보니 과식하여 배가 나오고, 고기를 먹기 어려운 환경에서 형성된 신경망으로 육식이 풍부한 환경에서 먹다 보니 암과 같은 병이 많이 발생되는 것입니다. 호랑이를 만나면 반응하던 Fight/Flight 신경망으로 마누라 말 한마디에 화가 나서 반응하다 보니 이혼에 이르기도 하는 것입니다.
이와 같이 신경망을 형성한 환경과 지금 살아가는 환경이 판이한데도 불구하고 신경망에 프로그램된 대로 살아가다 보니 잘못 대응하게 되고, 그 댓가를 톡톡히 치르게 됩니다. 즉 과거 환경에서 훈련된 신경망이 현대 환경과 불일치함에도 불구하고, 프로그램된 대로 자동 반응하다 보니 잘못된 대응을 하게 됩니다. 그 결과, 스트레스, 질병, 관계 문제 등 다양한 대가를 치르게 됩니다.
우리는 “나는 어떤 사람이다”라고 생각하는데, 내가 말하고, 행동하고, 느끼고, 생각하는 것은 신경망의 동작에 의해 이루어집니다. 그리고 이 신경망에 프로그램된 대로 살아가다 보니 잘못 반응하고 그 대가를 치르는 것입니다. 우리는 신경망의 동작을 ‘나’라는 정체성으로 인식하지만, 실제로는 신경망에 프로그램된 동작에 따라 말하고, 행동하며, 느끼고, 생각합니다. 이 과정에서 과거 환경에 최적화된 신경망이 현재 환경과 불일치하여 잘못 반응하고, 그로 인한 대가를 치르게 됩니다.
요사이는 음식이 풍부하여 굶어 죽는 경우는 없는데도, 우리 두뇌는 새로운 도전에 아주 소극적인 경우가 많습니다. 원시 밀림에는 부스럭거리는 소리도 무시하면 생명이 위험해지니 아주 조심스러울 필요가 있는데, 이런 신경망으로 현대를 살아가다 보니 인공지능 시대에는 새로운 도전을 해야 하는데 그렇지 못해 직업까지 위험해지는 것입니다.
이렇게 신경망에 프로그램된 대로 살아가면 부작용으로 고통을 피할 수 없습니다. 따라서 우리는 내 신경망대로 살아갈 것이 아니라, “또 신경망이 오동작하고 있지 않은지” 살펴 가며 살아가야 합니다. 신경망에 프로그램된 대로 살아가지 않으려면 알아차려야 합니다. 의식해야 합니다. 이 의식이 인간과 인공지능의 차이점입니다.
순간순간 알아차림, 그래야 자신의 신경망이 프로그램된 대로 동작하는 것을 멈출 수 있고, 프로그램된 대로 동작하는 것에서 벗어나야 고통을 벗어날 수 있습니다. 인간이 인공지능처럼 프로그램된 대로 살지 않으려면 순간순간 알아차려야 합니다. 모른다는 사실을 알아차리고 변화에 적절히 대응해야 고통에서 벗어날 수 있습니다.
Published in Brain
