[The Electronic Oracle] ① 델포이의 신탁에서 AI까지: 우리는 왜 '절대적 정답'에 집착하는가?

21세기에 현직 대통령의 친위 쿠테타를 겪은 대한민국의 뜨거운 화두 중 하나는 이번 기회에 우리 삶의 수면 위로 드러난 '무속'입니다. 왜 무속에 의지해서 중요한 결정을 하는 것일까요? 그 뿌리는 깊습니다. 고대 그리스인들은 미래가 불안할 때 국가의 운명을 좌지우지하는 결정도 델포이의 신탁(Oracle)에서 해답을 찾았습니다. 

앞으로 시리즈 글로 다루게 될 내용은 델포이 신탁(Oracle)처럼 현대인들이 의사결정의 기준으로 삼는 컴퓨터 모델에 대한 것입니다. 

컴퓨터 모델은 과거 델포이 신탁처럼 '객관적이고', '전지전능한' 것처럼 취급되는 경향이 커졌습니다. 여기에 인공지능까지 결합하면서, 그 추론 과정은 중요하게 생각하지 않으면서 그 놀라운 결과물에 열광하고 의사결정의 기준까지 권위를 부여하고 있습니다. 


[The Electronic Oracle]
- Computer Models and Social Decisions
by D. H. Meadows and J. M. Robinson

이 책은 컴퓨터 모델의 유용성과 한계를 잘 설명하고 있습니다. 따라서, SD 모델링을 염두에 두는 연구자라면 보석 같은 내용이 많이 소개되는 이 책 내용을 꼭 참고해야 합니다. 

Part I 핵심 메세지는 아래와 같습니다. 

"우리는 컴퓨터 모델을 마치 절대적 진리(Oracle)를 말해주는 도구로 오해하고 있다."

하지만, 저자가 강조하는 것은 컴퓨터 모델은 마법 상자가 아니며, 단지 인간의 머릿속에 있는 생각, 즉, 정신 모델(Mental Model)을 수학적 언어로 번역해 놓은 것에 불과하다는 것입니다. 따라서, 수학적 기법에 압도되지 마십시오. 중요한 것은 그 모델이 담고 있는 이야기(Story)와 구조(Structure)입니다. 이 책이 좋은 점은, 모델을 처음부터 수식으로 설명하지 않는다는 것입니다. 

모델=현실에 대한 일반화 또는 가정의 집합

모델 중에서 가장 쉽게 이해할 수 있고, 인간이 숨 쉬는 매 순간마다 만드는 것이 바로 머릿속에서 작동하는 정신 모델(Mental Model)입니다. 

그런데 조직·정책 수준에서는 한 사람의 직관이 부족하니, 위원회·전문가·투표 등으로 여러 정신 모델을 통합하려고 하지만, 정신 모델을 글이나 말로 정확하게 옮기는 것은 매우 어렵습니다. 언어의 모호성, 자기 인식의 한계 때문입니다. 그래서 컴퓨터 모델이 새로운 신탁(New Oracle)의 지위에 오르게 되었다고 합니다. 다음과 같은 장점이 있기 때문입니다. 

  • 엄밀성(Rigor): 가정을 공개해야 하고 정의를 내려야 하며 일관성이 유지되어야 합니다. 
  • 포괄성(Comprehensiveness): 인간 보다 훨씬 많은 정보를 다룰 수 있습니다. 
  • 논리성(Logic): 컴퓨터는 입력된 가정에 따라 한 치의 오차도 없이 계산을 수행합니다(내적 논리성). 최근 AI의 환각(Hallucination) 문제와는 결이 다르지만, 인간의 논리가 감정이나 편향에 의해 흔들리는 것과 달리 모델은 '계산상으로는' 항상 일관됨을 의미합니다.
  • 접근성(Accessibility): 비판·수정하려고 해도 정신 모델은 감춰져 있기 때문에 어렵습니다. 반면, 컴퓨터 언어로 정확하게 드러났기 때문에 비판·수정을 할 내용에 접근할 수 있습니다. 
  • 유연성(Flexiblity): 모델의 파라미터를 바꾸는 것으로 다양한 정책과 조건을 실험할 수 있습니다. 

저는 컴퓨터 모델이 가진 이러한 명확성이야말로, 은밀하고 검증하기 어려운 개인의 직관(정신 모델)과 비교했을 때 진정한 의미의 '민주적 도구'가 될 잠재력이라고 봅니다. 감춰진 생각은 비판할 수 없지만, 드러난 모델은 토론할 수 있기 때문입니다.여러분은 어떻게 생각하시나요?

그런데 저자는 이질적인 두 세계가 늘 충돌하고 있다고 말합니다. 

  • 모델러의 세계( The World of Modelers): 논리적이고, 정량적이며, 명확한 인과관계(Causality)를 추구하는 세계입니다. 이곳은 피드백 루프(Feedback Loop)와 데이터로 구성된 질서 있는 곳입니다. 
  • 정책가의 세계( The World of Policy Makers): 가치관이 충돌하고, 정치적이며, 모호함이 지배하는 세계입니다. 이곳은 직관과 사회적 압력이 작용하는 곳입니다. 

하지만, 정작 문제는 수많은 컴퓨터 모델이 있는데 왜 현실에 미치는 영향력은 적다는 점입니다.  

  • 모델러: "왜 우리 모델을 안 쓰나요?"
  • 정책 결정자: "왜 우리가 쓸 수 있는 모델을 안 만드나요?"

이 간극을 어떻게 줄일 수 있을까요? 

컴퓨터 모델은 정신 모델만으로는 얻기 어려운 교훈을 줄 수 있고, 시민이 이해할 언어로 번역될 수 있으며, 민주주의 도구가 될 수 있습니다. 물론, '컴퓨터 전문가 집단'이 책임 없이 권력을 쥐는 상황, 효율성이라는 칼을 쥐고 권력을 쥐는 상황(블랙 박스 모델의 정치적 수용, 기술 관료화, 능력주의-Meritocracy-의 정치 권력화)를 경계해야 합니다. 

다음 글에서는 Part I에서 다룬 내용을 토대로 우리 스스로 던지면 좋은 질문 세 가지를 소개하겠습니다. 

댓글

댓글 쓰기

이 블로그의 인기 게시물

경연제도와 시스템사고: 세종대왕의 조세제도 개혁에서 배우는 구조적 경청의 리더십

이미지
제 현대 사회에서 우리는 복잡한 문제에 직면하면 빠른 해결책을 추구하는 경향이 있습니다. 하지만 시스템 문제는 단순한 처방으로 해결되지 않습니다. 시스템사고는 문제를 다양한 관점에서 바라보고, 충분한 논의를 통해 합의를 이끌어내는 과정을 중요시합니다. 보는 관점에 따라 다른 해석이 가능하기 때문입니다. 이런 접근법이 시간이 많이 소요된다는 이유로 현대인들에게 부적합하다고 생각할 수 있지만, 사실 이런 방식은 우리 역사 속에 깊이 뿌리내리고 있습니다. 오늘은 조선시대 '경연(經筵)' 제도를 통해 시스템 문제 해결의 지혜를 살펴보려 합니다. 특히 세종대왕이 경연을 통해 조세제도를 어떻게 개혁했는지 알아보면서, 현대 시스템사고의 원리와 놀랍도록 닮아있는 우리 전통의 지혜를 재발견하려 합니다. 경연제도의 역사: 집단지성의 전통 경연(經筵)은 글자 그대로 “경전을 펼쳐놓는 자리”라는 뜻으로, 왕과 신하가 함께 유교 경전과 역사서를 공부하고 국정을 논의하던 제도였습니다. 고려 인종 때 시작되어 공민왕 때 정례화되었고, 조선시대에 들어 더욱 체계화되었습니다. 특히 세종대왕 시기에 전성기를 맞았는데, 『세종실록』에 따르면 세종은 즉위 32년 동안 약 1,900회 내외의 경연을 열었다고 전해집니다. 이는 세종이 얼마나 토론과 집단지성을 중시했는지를 잘 보여줍니다. 경연은 단순한 강독 자리가 아니라, 왕과 신하가 서로의 견해를 개방적으로 공유하고 비판을 주고받는 공간이었습니다. 이는 시스템사고에서 강조하는 다양한 관점의 경청과 합의 기반 문제 해결의 원형이라 할 수 있습니다. 세종의 경연 운영 방식: 시스템사고의 원형 세종의 경연은 몇 가지 특징적인 운영 방식을 보였습니다: 개방성 : “벼슬의 높고 낮음을 가리지 말고 자유롭게 의견을 말하라”고 지시하며 다양한 관점을 존중했습니다. 지속성 : 한 사안을 여러 차례 논의하면서 충분한 숙의를 거쳤습니다. 통합적 관점 : 현전 학자, 의정부 대신, 지방관 등 다양한 전문가의 의견을 경청하고 통합했습니다....
자세한 내용 보기

무기력을 이기는 시스템사고 (1) — 태도와 전략 사이에서

이미지
[시스템사고 팟캐스트] 음성으로 요약을 들어 보세요. (7분 9초) 클릭 세상을 시스템으로 바라볼 때, 우리는 종종 압도당하는 기분을 느끼게 됩니다. 마치 거대한 물결 앞에 선 작은 배처럼, 시스템의 힘은 때로 너무나 강력해 보이기 때문입니다. 그리고 이 무력감은 가장 위험한 태도로 이어질 수 있습니다 - "어차피 난 아무것도 바꿀 수 없어." 맞는 말입니다. 시스템은 크고, 우리는 작습니다. 그래서 시스템은 종종 개인을 압도하는 힘으로 다가옵니다. 마치 거대한 물결 앞에 선 작은 배처럼, 인간은 종종 무기력함을 느낍니다. 하지만 시스템사고는 단지 “구조를 보라”는 통찰에서 멈추지 않습니다. 그것은 “당신도 그 구조의 일부”라는 불편한 진실을 함께 제시합니다. 다시 말해, 구조는 우리를 만들지만, 우리 역시 구조를 구성합니다. 오늘은 이 무기력이라는 함정에서 벗어나는 시스템사고의 전략에 대해 이야기해보려 합니다. 시스템은 가치 중립, 태도는 선택 우선 하나의 대전제를 세워봅시다. 시스템은 가치 중립적이다. 그러나 태도는 절대 중립일 수 없다. 이 통찰은 홀로코스트에서 살아남은 정신과 의사 빅터 프랭클(Viktor E. Frankl)의 다음 말과도 닿아 있습니다. “시련을 주는 상황을 변화시킬 수는 없어도, 그 시련에 대한 태도는 내가 선택할 수 있다.” – 『죽음의 수용소에서』, p.233 하지만 여기서 멈추면 또 다른 딜레마가 생깁니다. 시스템은 그대로인데, 태도만 바꾸라고 말하면 결국 개인에게 모든 책임을 전가하는 셈이 되기 때문입니다. 1964년 줄리안 로터(Julian Rotter)가 제시해서 환경 교육의 근간이 된 내적 조절점(Internal locus of control)의 한계와 연결됩니다. 내적 조절점 또는 내적 통제라는 개념에 따르면 자신의 행동과 노력이 결과를 결정한다고 주장합니다. 하지만, 실제로 존재하는 계층 구조의 벽, 경제 양극화의 벽등은 개인의 노력으로 해결이 안 되는 현실이기도 합니다.  시스템사고를 ...
자세한 내용 보기

Fishery Game과 내쉬 균형

이미지
🎣 Fishery Game과 내쉬 균형 “전략이 아니라 구조가 행동을 만든다” Fishery Ltd. Game(이하 피셔리 게임)을 해보면, 누구도 악의를 품지 않았는데도 어장(공유 자원)은 고갈 됩니다. 참가자들은 각자 합리적인 결정을 했지만, 결과는 공멸 이었죠. 도대체 왜 이런 일이 벌어질까요? 모든 팀이 합리적으로 판단하고, 최선을 다해 전략을 세웠는데… 결과는 참담한 자원 고갈. 왜 이런 일이 벌어졌을까요? 이 질문은 단순한 ‘전략의 실패’가 아니라, ‘구조가 행동을 결정한다’는 시스템사고의 시선으로 다시 들여다볼 필요가 있습니다. 그 전에 잠시 게임이론의 내쉬 균형(Nash Equilibrium) 이란 개념으로 엿볼 수 있습니다.  🤔 모두가 합리적인데 왜 모두가 실패할까? 이런 결과는 게임이론의 대표 개념인 내쉬 균형(Nash Equilibrium)으로 설명할 수 있습니다. 내 전략을 바꿔봐야 손해이고, 남도 마찬가지인 상태 → 이것이 바로 ‘내쉬 균형’입니다. 쉽게 말해, 모두가 자기 입장에서는 더 이상 전략을 바꿀 유인이 없는 상태입니다. 이때의 전략 조합이 바로 **‘균형’**입니다. 하지만 그 결과가 꼭 ‘좋은 것’은 아닙니다. ✔ 모두가 최선을 골랐는데 결과는 최악일 수 있는 구조. ✔ 그게 바로 죄수의 딜레마이고, 바로 Fishery Game에서 우리가 겪은 상황입니다. 이 개념은 1994년 노벨 경제학상을 수상한 미국의 수학자 존 내쉬(John Forbes Nash, Jr., 1928~2015)가 제안한 것입니다. 그는 영화 A Beautiful Mind 의 실제 주인공이기도 하지요.  내쉬 균형을 설명하는 다양한 문장을 정리해 보면 다음과 같습니다: A. “모두가 전략을 바꿔봐야 손해이므로 움직이지 않는 상태” B. “다른 사람 전략에 영향 받고, 나도 영향 주는 구조 속에서 최선이라고 믿는 선택” C. “개인이 똑똑해서라기보다, 불신과 협력 유인 부재라는 구조의 산물” D. “모두 개별 최적을 추구한 끝에, 집...
자세한 내용 보기