인공지능 시대, 슈퍼 휴먼에 열광하는 모습에서 놓치는 것들.

 마림바를 연주하고 작곡까지 하는 로봇 '시몬(Shimon)'(Hoffman & Weinberg, 2010)이나 우주 비행사의 스트레스를 줄이는 역할을 수행한 시몬(Cimon)(https://en.wikipedia.org/wiki/Cimon_(robot) 등 다양한 인공지능과 로봇의 출연에, 그동안 이루지 못해 아쉬워했던 사람들은 열광하고 있습니다. 신체적인 장애를 뛰어넘는 것뿐만 아니라 어릴 적에 포기했던 예술 감성을 되살릴 수 있기 때문에 일반인들도 열광하고 있습니다. 재난 지역 구호 활동 등 인간이 하지 못하는 영역에서 활동하는 로봇뿐만 아니라 예술의 영역까지 성큼성큼 들어온 인공지능. 게다가 기능적 감정까지 장착한 인공지능(Anthropic, 2026)은 인간과 교감할 모든 준비를 마친 듯합니다. 그리고 인간을 대체할 모든 준비도 착실히 하고 있다는 우려도 낳습니다. 

모두가 한 방향을 향해 달려갈 때 놓치고 있는 것은 무엇일까요? 무엇을 흘리고 있을까요? 모두가 100미터 경주하듯이 달려가고 있을 때 사랑하는 연인이 전해 준 손수건이 떨어져도 외면하게 됩니다. 딸이 고사리손으로 정성스럽게 만들어 준 스티커가 떨어져 나가도 모른 체하게 됩니다. 산책하다가 목줄을 잡아당기며 멈춰서서 늘 봤던 꽃과 나무, 길 옆 모래, 자갈, 흙 냄새를 맡는 강아지들의 한가로움은 사치가 됩니다. 

기술적 효율성이 극대화되는 초지능(Superintelligence) 시대에 잠시 돌아보고 싶습니다. 

현재 AI와 슈퍼 휴먼의 능력을 찬양하는 사회적 분위기의 기저에는 결과물의 양과 질(효율성)을 극대화하는 것만이 최고의 선(善)이라는 믿음이 깔려 있습니다. 이를 철학자들은 '공리주의(Utilitarianism)'와 '도구적 합리성(Instrumental Rationality)'이라고 부릅니다. 어떤 대상(인공지능)이 인간과 동일한 기능(예: 작곡, 추론)을 수행한다면 그것을 동등한 지능으로 간주하게 됩니다. 심리철학에서는 이를 '기능주의(Functionalism)'라고 설명하고 있습니다. 하지만, 대상을 오직 '유용성과 기능'의 측면에서만 파악하는 형식적 사고는 인간과 사물의 본질적 잠재력을 무시하거나 억압하고, 이를 단순한 '수단(means)'으로 전락시킵니다. 이를 목놓아 외치는 현대 철학자로 앤드루 핀버그(Andrew Feenberg)가 유명합니다(Feenberg, 2002). 

만약 인간의 가치를 '무엇을 얼마나 효율적으로 해낼 수 있는가(수행 능력)'로만 평가한다면 어떤 일이 벌어질까요? AI가 인간의 인지 능력과 창작 능력을 압도하는 순간, 인간은 시스템 내에서 열등하고 불필요한 부품으로 전락하게 됩니다. 지금은 누구도 그렇게 생각하고 있지 않겠지만, 조만간 AI를 활용하지 못하는 사람을 열등한 존재, 불필요한 존재로 평가하는 분위기가 만들어질 겁니다. 그리고 그 다음에는 그렇게 생각하는 사람 역시 더 뛰어난 인공지능에 의해서 열등한 존재로 평가될 겁니다. 그리고 이런 현실에서 내세울 것이 없는 인간은 마지막 남은 자존심으로 자신보다 뛰어난 인공지능을 어떻게 통제할 것인지만 생각하겠지요. 

과학기술은 끊임없이 "우리가 이것을 할 수 있는가?(Can we do it?)"를 물으며 시스템의 '강화 루프(Reinforcing Loop)'를 가속합니다. 그래서 잠시 멈춰서 기술의 맹목적 폭주를 제어하는 '조절 루프(Balancing Loop)'의 역할을 생각해야 합니다.

효율성이라는 가면에 가려진 '인간 소외'를 경고하며, 인간을 수단이 아닌 '목적 그 자체(Intrinsic Telos)'로 대우해야 하지 않을까요? 이런 생각을 쫓아가면 칸트(Immanuel Kant, 1724~1804)를 만나게 됩니다. 인간을 목적으로 간주하면서 내재적 가치를 회복해야 한다고 했으니까요. 

클로드라는 인공지능을 개발한 앤트로픽이 최근 전 세계 최고의 보안 시스템을 자랑하는 최고의 은행의 보안 시스템도 손쉽게 뚫어버릴 수 있는 강력한 인공지능인 미토스(Claude Mythos Preview)를 개발한 뒤, 그 영향력 때문에 공개를 보류했습니다. 그런데 그 앤스로픽(Anthropic)의 CEO 다리오 아모데이도 자신의 에세이에서, AI가 모든 경제적 노동과 예술을 인간보다 잘하게 되더라도 인간의 삶이 무의미해지는 것은 아니라고 역설합니다(Amodei, 2024). 인간이 추구하는 의미는 경제적 가치 창출이나 '세계 최고가 되는 것'에서 오는 것이 아니라, 다른 인간과의 관계, 유대감, 그리고 완벽하지 않더라도 목표를 향해 노력하는 '과정 그 자체'에서 오기 때문이라는 겁니다. 우리는 바로 이 '과정적이고 관계적인 의미'를 목적 함수(Objective Function)의 최상단에 재배치해야 하지 않을까요? 

Amodei, D. (2024, October). Machines of loving grace: How AI could transform the world for the better. Dario Amodei Blog.

Anthropic. (2026, April 2). Emotion concepts and their function in a large language model. Anthropic Research. https://www.anthropic.com/research/emotion-concepts-function

Feenberg, A. (2002). Transforming technology: A critical theory revised. Oxford University Press.

Hoffman, G., & Weinberg, G. (2010). Shimon: an interactive improvisational robotic marimba player. In CHI'10 extended abstracts on Human Factors in Computing Systems (pp. 3097-3102).

Kant, I. (2002). Groundwork for the metaphysics of morals (A. Wood, Trans.). Yale University Press. (Original work published 1785).