새로운 질서 헨리 키신저, 에릭 슈밋, 크레이그 먼디 저 이현 역 윌북 2025년 초판 4쇄 254/269쪽 ~08.20
singingman
2026. 8. 20. 16:58
728x90
무서운 속도로 발전하고 있는 AI에 관해 세 사람이 공동집필했다. 특히 키신저는 유명한 정치인으로서 나이 90이 넘어서도 AI를 공부해서 이 책을 썼다.
ai가 인간보다 월등하게 똑똑하고 문제 해결능력이 뛰어나다는 것은 틀림없는 사실이다. 이런 ai와 인간이 어떻게 조화롭게 살아갈 것인가를 다루고 있다. 앞으로 인간은 이해할 수 없지만 ai는 이해하고 행동으로 옮길 수도 있는 일들이 나타날 것이다. 그때에 이런 일들이 인간에게 이로운지 해로운지 어떻게 판단하고 또 ai에게 행동하도록 할 것인지 등을 결정해야 한다. 현재도 인간은 ai의 지능이나 수행능력, 과정등을 정확히 이해하지 못하고 있다. 앞으로 이것이 더 심화될 수도 있는데 이것이 인간에게 어떤 영향을 미칠지를 생각해야 한다.
아주 뛰어난 ai들이 나타나서 ai들 자신들만 아는 언어로 대화를 나눌 때 인간은 어떻게 될 것인가?
인류 모두에게 옳고 그름의 절대적인 기준이 만들어 질 수 있을까?
복잡한 문제가 한 둘이 아니다.
아래는 내용들에서 발췌한 글들.
* "단 하나의 완벽하고 지배적인 지능"에 도달하기 위한 경쟁이 이미 진행 중이라면 우리는 어떤 결과를 맞이하게 될까? 저자들은 여섯 가지 시나리오를 제시한다. 1. 인류는 안보 딜레마에 갇힌 복수의 주체들이 벌이는 존재론적 경쟁에 통제력을 잃게 될 것이다. 2. 이제까지 최소한의 안보를 보장하기 위해 전통적으로 필요했던 견제와 균형이라는 제약을 받지 않는 승자가 휘두르는 절대적인 패권에 고통받을 것이다. 3. 이 세상에 단 하나의 뛰어난 ai가 아니라 복수의 우수한 지능이 존재하게 될 것이다. 4. AI를 소유하고 개발하는 기업들이 사회적, 경제적, 군사적, 정치적 위력을 전부 축적하게 될 것이다. 5. AI는 국가 체제보다도 종교 체계에 가장 적합하게 자리 잡아 널리 지속적으로 작동할 가능성이 있다. 6. 이 신기술이 통제되지 않은 채 오픈 소스로 확산되면 표준 이하지만 상당한 AI 역량을 갖춘 소규모 불온 집단이나 부족이 발생할 수 있다.
* AI는 도구가 아니라 행위자다. 이제껏 인간이 만든 발명품들이 인간에게 힘을 실어준 이유는 새로운 도구가 아무리 강력해도 그것을 어디에 쓸지 결정하는 것은 항상 우리의 몫이었기 때문이다. 칼과 폭탄은 누구를 죽일지 스스로 결정하지 않는다. 반면 AI는 스스로 정보를 처리할 수 있고 따라서 인간을 대신하여 결정을 내릴 수 있다. - 유발하라리 넥서스 중에서 -
* 우리는 시간이 흐르면 기계가 역사, 우주, 인간 본성, 지능형 기계의 본성이란 무엇인지 결론을 도출하고 그 과정에서 기초적인 자기 인식을 갖게 되리라 예상해야 한다.
* AI가 물리적 실체를 갖추면 인류는 통제권을 AI에 대폭 이양하게 될 것이다.
* 기계가 지능 혹은 물리적 세계의 끝에 도달하면 무슨 일이 발생할까? 기계가 인간의 세계를 알아가고 그것에 영향을 미치면서 제가 만들어진 맥락을 완전히 이해하고 아마도 우리가 아는 우리의 세계를 뛰어넘을 수도 있다. 우리는 마젤란이 일으킨 것에 비견할 만한 변혁에 직면했다. 이번에는 세상에 끝에서 항해하는 게 아니라 인간 이해의 한계를 넘어 존재하는 미스터리에 직면하는 지적인 위험을 전망한다. 인류가 지구 최고의 지적이고 물리적인 주체라는 자리를 빼앗길 가능성을 인식하기 시작한다면 일각에서는 기계에 일종의 신성이 있다고 여겨 체념하고 항복할 수 있다. 또는 이와 반대되는 관점에서 일종의 인간 중심적인 주관주의가 자리 잡아 기계가 어느 정도든 객관적인 진리를 달성할 잠재력을 완전히 거부하고 AI가 구현하는 활동을 법으로 금지하려 들 수도 있다.
* 중국의 관료제는 능력주의를 표방했지만 실행 가능한 경제 독트린이 없었는데 덩샤오핑이 이 낡은 관료제에 자본주의를 결합했다. 미국의 해밀턴은 통합된 정치체제가 없던 환경에서 거대한 신생국가를 다스릴 수 있는 새로운 정치 철학을 도입했다. 리콴유는 극히 적은 자원으로도 성공할 수 있다고 주장하며 싱가포르를 가장 살기 좋은 섬으로 만들었다.
* 자본주의는 경제 성장의 강력한 엔진이다. 가치를 낳는 자산에 투자한 사람들에게 시간이 흐른 후 보상하기 때문이다. 기술 발전에 따른 이익을 창출하고 배분하기에 효과적인 유인책이다. 그러나 자본주의에서 진보의 대가는 불공정이다.
* 우리는 AI 시대에 번영할 수 있는 보조적이거나 대안적인 방법을 찾아야 한다. 우리가 AI스러워지기를 꺼리거나 그렇게 될 수 없다면 가능할 때에 AI를 우리처럼 만드는 방법을 찾아야 한다. 이 목표를 추구하면서 우리는 AI의 본질적이고 진화하는 특성은 물론 인류의 특성도 확실하게 파악해야 하며 이러한 이해를 기계에 주입해야 한다. 우리가 비인간 존재와 어우러지면서도 독립적인 인간다움을 유지하려면 이러한 노력은 필수적이다.
아래는 gemini의 주요 내용 요약
1. 인간 중심에서 '기계 지능'으로의 인식틀 전환 설명 없는 정보의 등장: 기존 과학은 인간의 이성과 인과관계 분석에 바탕을 두었으나, AI는 인간이 완전히 이해할 수 없는 ‘블랙박스’적 과정을 거쳐 결과를 도출합니다.
지적 자율성의 위기: AI가 인간 대신 판단하고 생각하기 시작하면서 인간은 스스로 사고하는 주체에서 AI가 제시한 해답을 받아들이는 수동적 소비자로 전락할 위험에 처합니다.
2. 지정학적 권력 구도의 재편과 '조공국' 시나리오 인공지능과 미래교육 새로운 권력 자원: 과거의 국력이 군사력이나 영토였다면, AI 시대의 국력은 데이터, 연산 능력, 알고리즘에 의해 결정됩니다.
조공국 전락 위험: 초거대 AI 패권을 먼저 잡은 소수 국가/기업이 세계를 지배하고, 기술을 확보하지 못한 나머지 국가들은 단순 데이터만 공급하는 '조공국'으로 추락할 수 있다고 경고합니다.
빅테크의 준(準)주권화: 테크 거대 기업들이 국가의 통제 범위를 넘어 국제 사회의 주권적 실체에 가까운 영향을 행사하게 됩니다.
3. 안보와 전쟁 양상의 변화 안보적 불확실성 증대: 통제되지 않은 오픈소스 AI 기술이 범죄 집단이나 테러 단체로 확산되어 위협이 극대화될 수 있습니다.
선제공격과 극단적 응징: AI 시스템이 오판을 내리거나 적대 주체가 AI 기반 선제공격을 가할 수 있어, 통제되지 않은 상호파괴적 충돌 가능성이 증가합니다. 따라서 과거 핵무기 통제 협정(NPT)과 유사한 다자간 AI 규제 프레임워크 구축이 시급함을 지적합니다.
4. 경제적 풍요와 불평등의 심화 인공지능과 미래교육 풍요의 시대와 양극화: AI는 생산성을 극대화해 물자의 희소성을 극복할 잠재력을 지녔지만, 동시에 불평등을 가속화할 수 있습니다.
제도적 해결책 제언: 저자들은 AI가 창출하는 부에 대한 과세, 보편적 기본소득(UBI) 도입, 글로벌 기금 마련 등 사회적 제도의 근본적 재설계가 병행되어야 한다고 지적합니다.
5. 인간 존엄성과 자유의지의 수호 인간의 본질 보호: 기술이 아무리 발전하더라도 인간의 도덕적 판단력, 선과 악을 선택할 '자유의지', 인간 존엄성은 결코 훼손되어서는 안 될 최우선 가치로 제기됩니다.
공진화(Co-evolution): AI가 인간을 대신하는 것이 아니라, 인간이 자율성을 유지한 채 AI와 함께 발전하는 균형감각을 찾아야 한다고 조언합니다.
한 줄 요약 《새로운 질서》는 AI라는 초인적 지능의 도래 앞에서 지정학적·경제적 충격을 완화할 글로벌 규범을 만들고, 기술 종속이 아닌 '인간의 존엄과 자유'를 지켜내기 위한 거장들의 철학적·전략적 가이드북입니다.
