의식을 제외한 모든 분야에서 기계가 인간을 능가한다. 육체적인 분야는 물론이고 정신적인 분야도 마찬가지다. 손으로 둑을 쌓는 것과 포크레인으로 하는 것을 비교하면 알 수 있듯이 정신적인 분야도 마찬가지다. 기억 용량이나 처리 속도에서 인간은 기계를 따라갈 수 없다. 따라서 CEO 입장에서 보면 사람 대신에 포크레인을 사용하듯이 인간 대신에 AI를 사용하는 것은 너무나 당연하다.
그러면 인간은 AI와 비교하여 무엇이 다른가? 환경 변화에 적응할 수 있다는 점이다. AI는 훈련받은 분야에서 프로그램된 대로 동작하지만 인간은 다른 것을 할 수 있다. 알파고는 바둑만 둘 수 있지만 인간은 바둑을 두다가 통역을 할 수도 있다.
AI도 바둑과 통역을 동시에 할 수 있도록 훈련하면 되지 않는가? 물론 가능하다. 그러나 언제 바둑을 두고 언제 통역을 할 것인지 선택하는 것은 인간(혹은 상위 계층의 프로그램)이 해 주어야 한다. 더구나 훈련할 데이터가 없는 새로운 환경을 AI가 처리하는 것은 어렵다.
인간은 프로그램된 대로 살 수도 있지만(무의식적으로) 다르게 반응할 수도 있다. 그러기 위해서는 알아차려야 한다. 의식해야 한다. 인공지능에게는 의식이 없지만 인간은 의식이 있다. 의식함으로써 프로그램된 대로 살지 않을 수 있다.
인공지능의 가장 큰 문제가 환각이다. 프로그램이 잘못된 것이다. 인간의 두뇌 신경망도 프로그램에 버그가 있다. 오랜 역사를 통해 땜질하는 식으로 진화해 온 두뇌도 버그가 있다. 탄수화물과 같이 단 것을 좋아한다거나, 변화를 두려워한다거나, 생명의 위협이 없는데도 불구하고 생명이 위험한 것처럼 착각하고 반응하는(화를 내는) 등과 같이 오동작을 한다. 두뇌가 진화해 온 환경과 현대사회가 너무나 다르기 때문이다.
옛날에는 에너지원이 부족한 환경에서는 먹을 것이 있을 때 많이 먹어두는 것이 유리했지만, 지금처럼 먹을 것이 풍부한 환경에서 매일 과식을 한다면 병에 걸리기 쉽다. 옛날에는 새로운 것에 도전하는 것이 생명을 건 도전이었지만, 지금처럼 안전한 세상에서 새로운 도전을 피한다면 기회를 잡기 어렵다. 그리고 배우자 잔소리를 생명이 위험한 것으로 착각하고 목소리가 높아지고 얼굴이 붉어진다면 분명 오동작임에는 틀림없다.
두뇌 신경망의 버그는 무수히 많다. 오동작하는 경우가 많지만 가벼운 경우는 별문제가 되지 않는다. 그러나 중요한 결정을 해야 할 경우에 오동작을 하면 기회를 잡지 못할 수도 있고 큰 고통을 당할 수도 있다.
두뇌 신경망의 오동작에서 벗어나려면 가장 먼저 알아차려야 한다. 바꾸려면 알아차려야 한다. 의식해야 한다. 무의식적으로 프로그램된 대로 동작하면 오동작을 벗어날 수가 없다. 알아차려야 비로소 프로그램된 대로 동작하는 것을 멈출 수 있다. 멈추고 난 후에 환경을 벗어나거나 반복 연습하여 새로운 신경망을 형성해야 한다.
Published in Brain
