요즘 우리는 AI의 놀라운 능력을 매일처럼 목격하고 있다. 대학생의 리포트를 대신 써주고, 병원의 영상 진단을 의사보다 더 정확하게 수행하며, 글을 쓰고, 음악을 만들고, 그림을 그린다. 인간보다 더 많은 지식을 갖추고, 더 빠르게 정보를 처리하며, 더 적은 실수를 한다. 많은 사람들이 묻는다. “이런 AI가 있는 세상에서 인간은 이제 무엇을 해야 하지?”
그러나 이 질문은 이렇게 바꿔야 한다. “이렇게 강력한 AI를 인간이 지금의 방식대로 사용한다면, 세상은 어떻게 될까?”
AI는 빠르고 정확하며 방대한 정보를 처리할 수 있지만, 단 하나의 능력이 없다. 바로 ‘알아차림’, 다시 말해 의식이다. AI는 훈련받은 대로, 프로그램된 대로 동작한다. AI는 자신이 무엇을 하고 있는지, 그 행동이 옳은지 그른지, 해롭거나 유익한지를 모른다. 그저 훈련된 대로, 주어진 목적에 맞춰 동작할 뿐이다.
예를 들어, 바둑으로 훈련된 알파고는 바둑에서 어떤 인간이든 이길 수 있다. 그러나 알파고에게 통역 문제를 물어도 대답한다. 즉 AI는 자신이 모른다는 것을 모른다. 이것이 AI의 환각 문제다.
누군가가 AI에게 “고양이는 하늘을 날 수 있나요?”라고 물었을 때, AI는 인터넷에서 수집한 희귀한 정보를 바탕으로 “특정 장치를 부착하면 고양이가 나는 것이 가능하다”고 답할 수도 있다. 인간이라면 말도 안 되는 소리라고 알아차릴 수 있지만, AI는 그것이 현실과 맞지 않는 말이라는 인식조차 하지 못한다. AI는 환각을 피할 수 없다.
이제 누구나 AI를 사용해야 하는 시대에 접어들고 있다. 인간이 AI를 좋는 용도로 사용한다면 더 좋은 해법을 얻고, 인간에게 필요한 자원의 생산을 AI에게 맡길 수도 있다. 그러나 인간이 AI를 악용한다면 인간에게 심각한 문제를 가져올 수 있다. 정치인이 선거에 이기기 위해 유권자의 심리를 분석하고, 그 사람에게 가장 효과적인 감정적 메시지를 AI를 통해 정밀하게 조작한다면? 기업이 소비자의 불안과 욕망을 분석해 중독성 강한 콘텐츠를 지속적으로 공급한다면? 군대가 인간 없는 전쟁을 가능케 하는 자율살상무기를 AI로 개발한다면?
AI는 도덕도, 양심도, 절제도 없다. 인간의 목적이 무엇이냐에 따라 그 도구는 전혀 다른 결과를 낳는다. 문제는 인간의 목적이 여전히 경쟁과 성공이라는 데 있다.
인간의 뇌는 원래 자원이 부족했던 환경에서 진화했다. 부족한 자원을 두고 경쟁하고, 더 많이 갖는 것이 곧 생존이었다. 이러한 환경은 인간 뇌에 ‘경쟁하고 이기고 더 많이 가져라’는 신경망을 각인시켰다. 그런데 이제 AI와 로봇 덕분에 더 이상 자원이 부족하지 않은 시대가 도래하고 있다. 노동은 기계가 대신하고, 정보는 누구나 접근할 수 있으며, 필요한 거의 모든 것이 자동으로 생산될 수 있다. 문제는, 우리의 두뇌는 여전히 옛 환경의 프로그램대로 동작하고 있다는 점이다.
자원이 풍족한 시대에도 인간 두뇌의 경쟁 회로가 계속 작동하면 어떤 일이 벌어질까? 비교, 불안, 탐욕, 분노가 더 커지고, 만족이나 평온은 더 멀어질 것이다. 사람들은 여전히 불행을 느끼고, 서로를 적으로 여기며, 나아가 AI를 이용해 타인을 조종하고, 이기기 위한 수단으로 삼는다. 이때 AI는 단순한 도구가 아니라, 인간의 어두운 회로를 증폭하는 거대한 증폭기가 된다.
AI 시대에 인간이 해야 할 일은 경쟁하여 이기는 것이 아니다. 더 똑똑해 지고, 빨리 움직이는 것도 아니다. 우리가 해야 할 일은 잘못 동작하는 두뇌 프로그램을 알아차리는 것이다. 내 반응이 자동적인 경쟁 본능에서 비롯된 것인지, 지금 이 행동이 진짜 필요한 것인지, 이 감정이 과거 회로의 산물인지 순간순간 살펴보는 것이다.
예컨대 SNS에서 누군가의 삶을 보고 질투가 일어날 때, ‘나는 지금 비교 회로에 갇혀 있구나’ 하고 알아차리는 것. 광고를 보고 괜히 불안해질 때, ‘이건 나의 부족감 회로를 건드린 것이구나’ 하고 멈추어 보는 것. 이 알아차림이야말로 AI 시대에 인간이 인간으로 남을 수 있는 핵심 능력이다.
AI 시대는 똑똑함이나 지능의 시대가 아니다. 깨달음의 시대가 되어야 한다. 깨달음 없는 인간은, 과거의 신경망에 묶여 AI를 도구 삼아 스스로를 파괴하게 될 것이다. 그러나 순간순간 깨어 있는 인간은, AI를 도구 삼아 새로운 공존의 세계를 창조할 수 있다.
결국, AI 시대에 인간에게 가장 필요한 능력은, 더 똑똑함이 아니라, 순간순간 알아차리는 능력이다. 우리는 이제 알아차림 기반의 존재 방식으로 전환하지 않으면 안 된다. 경쟁과 승리의 회로를 멈추고, 공존과 평온의 회로를 새롭게 구축해야 한다. 그래야만 AI와 함께 살아가는 세상에서 인간은 인간으로 존재할 수 있다.
Published in Artificial Intelligence
