유발 하라리 - 넥서스 [Nexus]

 

 

 

유발 하라리의 넥서스는 끊임없이 진화하는 인류와 정보의 관계, 그리고 사회, 이념, 현실에 대한 우리의 인식을 형성하는 정보의 힘에 대한 생각을 자극하는 책입니다. 역사, 기술, 인간 행동에 대한 예리한 시각으로 유명한 유발 하라리는 정보의 통제와 조작이 수천 년 동안 사회를 어떻게 이끌어왔는지 풀어내고 있습니다. 고대 문명부터 현재의 디지털 시대에 이르기까지 정보가 미친 영향을 추적하면서, 특히 AI가 진리, 지식, 권력의 지형을 변화시키면서 정보가 집단과 개인의 삶에서 어떤 역할을 하는지에 대해 이야기합니다.

핵심 아이디어: 권력으로서의 정보

넥서스는 정보 자체가 본질적으로 유익하지도 해롭지도 않다 것을 강조합니다. 대신, 정보는 사회에 힘을 실어주기도 하고 대중을 조종하기도 하는 강력한 도구로 작용한다고 합니다. 역사적으로 종교 지도자, 정치 체제, 기관은 권력을 공고히 하고 이데올로기를 전파하기 위해 정보를 전략적으로 활용했고, 유발 하라리는 종교 텍스트의 정경화부터 현대의 선전 전술에 이르기까지 정보를 통제하는 사람들이 사회적 신념, 문화적 가치, 심지어 도덕성까지 효과적으로 통제하고 있음을 보여준다.

오늘날에는 디지털 채널을 통해 정보가 끊임없이 즉각적으로 흐르는 시대에 전례 없는 기술의 발달로 인해 이러한 역학관계가 어떻게 작용하고 있는지 생각해 볼 것을 촉구합니다. AI 기반 알고리즘이 뉴스 큐레이션, 대중 담론 형성, 심지어 정치적 성향 결정까지 담당하게 되면서, 누가 정보에 대한 권력을 쥐고 있으며 그들의 이해관계가 무엇인지 파악해야 할 필요성에 대해 제기하고 있습니다.

 

 

인공지능의 시대와 진실의 위기

유발 하라리는 인공지능이 발전함에 따라 정보에 대한 우리의 신뢰가 심하게 흔들릴 수 있다고 합니다. 인공지능이 정보의 확산을 촉진할 뿐만 아니라 개인의 편견에 맞춰 매우 설득력 있는 내러티브를 조작할 수 있는 힘을 가지고 있고, 인간이 선별한 정보에서 AI가 생성한 '진실'로의 전환은 사실과 허구 사이의 경계를 모호하게 만들 위험이 있습니다. 유발 하라리는 AI가 정보의 주요 원천이 되면 사람들이 현실을 인식하는 방식 자체를 통제하여 사회가 대규모 조작에 취약해질 수 있다고 우려합니다. 정보가 조작되고 특정 개인에게 공감을 불러일으키도록 맞춤화될 수 있는 세상에서 사회가 자기 강화적 반향실로 빠져들 수 있으며, 이는 민주주의, 열린 담론, 정보에 입각한 의사 결정에 가장 큰 위협이 될 수 있다고 주장합니다.

 

 

자유로운 정보와 잘못된 정보의 균형

정보의 자유로운 흐름은 개인에게 힘을 실어줄 수 있지만, 동시에 잘못된 정보가 무분별하게 퍼질 수 있는 토양이 되기도 합니다. 인류가 정보에 대한 열린 접근을 유지하는 것과 허위와 편견에 대한 안전장치를 마련하는 것 사이에서 미묘한 균형을 유지해야 한다고 말합니다. 그 예로, 제2차 세계대전 당시 프로파간다의 역할과 전체주의 국가의 미디어 조작 등 역사적 유사점을 분석함으로써 과거에 확인되지 않은 정보가 어떻게 무기화되었는지를 보여줍니다. 특히 진짜와 가짜 콘텐츠가 순식간에 유통되는 디지털 시대에 현대 사회가 정보 관리에 보다 신중해야한다고 말합니다.

 

정보에 대한 우리의 역할 재구상

유발 하라리는 독자들에게 보다 의식적인 정보 소비자가 되기 위한 가이드를 제시합니다. 회의주의, 비판적 사고, 정보 출처를 교차 검증하는 노력을 장려합니다. AI가 인간의 창의성과 지능을 모방한 콘텐츠를 생산할 수 있는 능력이 커짐에 따라, 하라리는 수동적으로 소비하기보다는 질문하고 분석하는 능력을 배양하는 것이 우리의 주요 방어책이라고 주장합니다. 또한, 미디어 리터러시, 비판적 사고, 디지털 윤리를 교육 커리큘럼에 포함시켜야 한다고 주장합니다. AI로 생성된 콘텐츠의 복잡성을 분별할 수 있는 교육을 받은 정보에 정통한 대중은 미래의 정보 지뢰밭을 훨씬 더 잘 탐색할 수 있다고 말합니다.

 

 

##

유발 하라리는 우리에게 비판적이고 의식적인 정보 소비자가 되라고 권합니다. AI가 생성하는 콘텐츠가 점점 복잡해지고 창의적인 수준에 가까워지면서, 단순히 소비하는 게 아니라 정보 출처를 꼼꼼히 확인하고 분석할 수 있는 능력을 키워야 한다는 말하며, 복잡한 정보 시대에 정보의 힘을 제대로 이해하고 활용할 수 있도록 우리에게 중요한 질문을 던지고 있습니다.

 

- 21세기에 정치가 분열된다면, 민주주의와 전체주의 사이의 분열이 아니라 인간과 비인간 사이의 분열이 될 것이다. 새로운 실리콘 장막은 민주주의 체제를 전체주의 체제와 분리하는 대신, 모든 인류를 불가해한 알고리즘 지배자와 분리할 것이다. 

- 마녀사냥은 정보 생태계 탄생의 어두운 면을 잘 보여준다. ≪탈무드≫에 대한 랍비들의 토론과 기독교 경전에 대한 스콜라철학자들의 토론이 그랬듯이, 마녀사냥을 부추긴 원동력은 현실을 재현하기보다는 새로운 현실을 창조하며 점점 확장되는 정보의 바다였다.

- 알고리즘도 인간 개발자가 프로그래밍하지 않은 것을 스스로 학습할 수 있고 인간 경영진이 예특하지 못한 결정을 내릴 수 있다. 새로운 주체들이 세상에 등장하여 강력한 영향력을 행사하고 있다는 것, 이것이 AI 혁명의 본질이다.

- 컴퓨터 네트워크가 항상 세상을 정확하게 이해하는 것은 아니다. 정보는 진실이 아니다. 완전한 감시 시스템은 세상과 인간 존재에 대한 대단히 왜곡된 이해를 형성할 수 있다. 네트워크가 세상과 인간에 대한 진실을 발견하는 대신 자신의 막강한 힘을 이용해 새로운 종류의 세계 질서를 만들고 그것을 우리에게 강요할지도 모른다.

- 오히려, 현명한 네트워크를 만들기 위해서, 우리는 정보의 순진한 관점과 포퓰리스트의 관점을 버리고 우리의 완전성의 판타지를 치워두며 강력한 자가 성찰 메커니즘을 갖는 조직을 만들기 위해 우리 자신을 힘들고 재미없는 일에 몰아 붙여야 한다. 이것이 아마 이 책이 주어야 하는 가장 큰 중점이다.