기후 지옥보다 먼저 도착한 AI 지옥(?!)

최근 세계를 달군 '오픈AI의 닷새'를 많은 분이 기억하실 겁니다. AI(인공지능) 개발 주도권을 두고 샘 올트먼과 다른 과학자 간 갈등이 폭발하면서 올트먼의 해고-마이크로소프트 합류-오픈AI 재합류 드라마가 닷새 간 펼쳐졌습니다. 이 갈등 기저에는 AI의 위험성을 어떻게 다뤄야 하느냐는, 인류에 매우 중요한 물음이 존재합니다. 마침 오늘, 11월 30일은 오픈 AI의 챗GPT-4가 출시된지 딱 1주년입니다. 편집자

 

1. "현재 GPT에 약간의 자의식이 있는 것 같다"

2. 21세기 AI 전쟁, '스데롯 시네마’

-인공지능이 만드는 '멋진 신세계'

3. 인간의 지능을 가진 지능기계 'AI', 지구별 행성에 출현하다

4. 사회성 뇌' 가진 인간, 1차·2차 지능폭발을 경험하다

5. 내 정보가 경매되는 AI 시대, 민주주의를 위협한다

6. AI 의사, AI 변호사 시대는 이미 다가왔다

7. 자연선택은 인간보다 인공지능을 선택할 수 있다

 

"현재 GPT에 약간의 자의식이 있는 것 같다"

[기후 지옥보다 먼저 도착한 AI 지옥(?!)] ①'AI 오펜하이머들'의 갈림길

오픈 AI(Artificial Intelligence) 하면 잘 모르시는 분이 많을 것입니다. 그러나 챗GPT라는 인공지능을 사용해보거나 들어보신 분은 많을 것입니다. 챗GPT를 만든 회사가 바로 오픈 AI입니다. 거대 빅테크 기업이긴 한데, 주식회사가 아니라 이상하게도 비영리단체입니다.

사용해보신 분은 알겠지만 정말 놀라운 인공지능입니다. 그리고 이보다 성능이 더 뛰어난 AI가 나오면 어떻게 될까 하는 두려움을 불러일으키기도 합니다.

갑자기 오픈 AI와 샘 올트먼이라는 이름이 한국에서도 미디어와 약 1천 5백만 명의 주식 투자자들 사이에 급 관심사로 등장했습니다. 2023년 11월 17일 오픈 AI 이사회가 창업자이자 대표이사인 샘 올트먼을 해고하면서 5일 동안 반전에 반전을 거듭하는 극장 드라마를 연출했기 때문입니다. 결국 올트먼이 다시 복귀하고 이사회 구성을 바꾸는 것으로 사태는 마무리되었습니다.

이 과정에서 오픈 AI, 마이크로소프트, 알파벳(전 구글), 메타(전 페이스북), 아마존 등 초거대 빅테크 기업들의 사활을 건 인공지능 개발 경쟁과 과학자-개발자 스카우트 경쟁 실상이 일부 공개되었습니다. 대부분 20~30대인 AI 기업체 임직원들의 연봉이 최저 몇 억에서 올트먼과 같은 책임자 급은 많게는 1천억 원 이상에 이른다는 사실에 놀란 사람들도 많았습니다. 샘 올트먼은 올해 38세입니다.

그런데 사실 이 사태의 발단에서 수습까지 중심인물은 올트먼이 아니라 챗GPT 개발을 이끌고 있는 오픈 AI 수석 과학자 일리야 수츠케버입니다. 올트먼은 과학자라기보다는 탁월한 경영자입니다.

오픈 AI 이사회는 6인입니다. 사내이사는 올트먼, 올트먼과 함께 행동한 이사회 의장 그렉 브록만, 수츠케버 등 3인입니다. 나머지 3인은 사외이사들입니다. 이들 사외이사들은 그동안 인공지능 개발의 잠정 중단을 강하게 주장했던 사람들입니다. 오픈 AI 내에서는 올트먼을 중심으로 한 AGI 선도개발론, 사외이사들과 수츠케버 중심의 속도조절론이 늘 논쟁하고 있었습니다. 수츠케버가 속도조절론의 사외이사들과 함께 선도개발론을 멈춰 세워야 한다고 나서면서 올트먼 축출 사태가 일어난 것입니다.

사태 발생 3일째인 11월 20일 자칫 오픈 AI 자체가 공중 분해될지도 모른다는 위기감이 퍼질 때, 수츠케버는 엑스(X, 전 트위터)에 이사회 행동에 동참한 것을 후회하며 회사가 다시 뭉칠 수 있도록 할 수 있는 모든 것을 다할 것이라는 글을 올립니다. 그리고 수츠케버가 포함된 직원 5백여 명이 올트먼의 복귀와 새로운 이사회 구성을 요구하는 성명서를 엑스에 올리면서 사태는 수습 국면으로 들어갑니다.

이후의 진행은 실시간 보도를 통해 널리 알려진 그대로입니다. 사외이사 3인은 한 명만 남고 나머지 2인은 이사회를 떠났습니다. 기존 사내이사 3인도 이사회를 물러났습니다.

참고로 인공지능 과학자-개발자들의 주 소통수단은 엑스입니다. 개발 관련 정보들이 흘러나오는 출처도 주로 엑스입니다. 이번 사태로 사외이사 직을 사임한 헬렌 토너 조지타운대 보안-신기술센터(CSET) 연구이사는 엑스에 "이제 우리 잠 좀 잘 수 있겠다."라고 적기도 했습니다. 엑스를 보면 추수 감사절 휴가 기간이었음에도 이들은 새벽이건 한밤중이건 잠도 안자고 성명서를 발표하고 정보를 교환하고 토론을 벌였습니다.

▲오픈AI CEO로 복귀한 샘 올트먼. ⓒAFP=연합

사태 발단의 핵심 원인은 무엇일까

수츠케버가 올트먼 해고에 찬성한 이유는 분명합니다. 인공지능의 안정성, 즉 인간의 제어와 통제를 확실하게 확보하지 못한 상태에서 AI 또는 AGI를 출시해서는 안 된다는 것입니다.

인공일반지능 또는 범용인공지능이라고 옮기는 AGI는 알파고처럼 바둑이나 기타 특정 분야에서만 작동하는 인공지능이 아닙니다. 모든 분야에서 사람과 동등한 지능과 능력을 갖춘 AI를 말합니다. 샘 올트먼은 AGI를 "동료로 고용할 수 있는 중간 사람"이라고 간명하게 정리한 적이 있습니다.

AGI의 다음 단계인 초지능(super-intelligence)은 AGI가 스스로 지능폭발을 일으켜 개량을 거듭해 사람은 비교가 되지 않을 정도로 인간 지능을 훨씬 능가하는 슈퍼 AI를 말합니다. AGI가 사람의 제어나 통제에서 벗어나 스스로 판단하고 스스로 행동하는 지능이기 때문에 AGI가 개발되면 슈퍼 AI 등장은 순식간일 것으로 추정합니다.

인간의 통제나 제어가 불가능하고 스스로의 판단으로 행동하는 AGI가 개발돼 세상에 등장하는 순간 이후의 세상이 어떻게 돌아갈지 사람의 지능으로는 전혀 예측할 수도, 돌이킬 수도 없습니다. 아직 경험해보지 못한 세상이기 때문입니다.

그래서 AGI 개발에 대해서는 낙관론과 비관론, 그리고 낙관론도 비관론도 아닌 중도의 견해 등 다양한 스펙트럼이 존재합니다. 저는 솔직히 경험해볼 수 없는 일에 대해서는 침묵했던 붓다의 중도론이 맞는다고 생각합니다. 다만 지금 여기 우리가 할 수 있는 최선의 공동선과 자비를 실천하는 것, 그것이 중요합니다.

이번 사태 직전에는 몇몇 오픈 AI 과학자들이 자신들이 현재 개발 중인 '큐스타(Q*)' 모델이 AGI에 거의 근접했으며 인류를 파괴할 정도로 강력한 시스템으로 사용될 수 있기 때문에 개발 속도에 경각심을 가져야 한다고 이사회에 경고 서한을 이메일로 보냈다고 합니다. 수츠케버도 엑스에 "현재 GPT가 약간의 자의식이 있는 것 같다"고 썼습니다.

이들은 큐스타를 테스트하다가 이 인공지능이 학습하지 않은 새로운 수학 연산 문제를 기존 데이터를 응용해 능숙하게 푸는 것을 보고 충격을 받았다고 합니다. AGI 수준에 거의 도달한 것입니다. 오픈 AI의 핵심 개발부서 '슈퍼정렬팀'을 이끌고 있는 수츠케버가 왜 이사회 쿠데타를 일으켰는지 짐작할 수 있는 배경입니다.

이번 사태를 통해 오픈 AI는 손해는커녕 오히려 비영리단체 오픈 AI의 목표인 인공지능의 안정성 문제를 놓고 내부에서 늘 치열하게 논쟁하고 있다는 사실을 전 세계에 강렬하게 인식시키는 데 성공했다고 볼 수 있습니다. 비영리단체가 자신의 목표와 사업을 단 며칠 만에 이렇게 전 세계 수많은 일반 대중에게 각인시키기는 쉽지 않을 것입니다. 빅테크 거대기업뿐만 아니라 전 세계 국가들도 이제 인공지능의 안정성 문제를 거부할 수 없는 당면 핵심 과제로 받아들이지 않을 수 없게 되었습니다.

곧 등장할 킬러 로봇

날마다 기하급수로 지능이 높아지고 있는 AI의 위험성을 경고하는 목소리는 오래 전부터 끊임없이 이어져 왔습니다. 오죽하면 100세까지 산 헨리 키신저조차 에릭 슈미트 전 구글 대표, 대니얼 후텐로커 MIT 교수 등과 함께 <AI 이후의 세계>라는 책을 써 인공지능의 위험성과 인공지능이 촉발하는 3차 세계대전 발발 위험을 언급했을 정도입니다.

지난 5월 자신의 50년 가까운 인공지능 연구개발을 후회한다면서 알파벳 부사장을 사직한 제프리 힌튼의 인터뷰는 반향이 컸습니다(MIT Technology Review, 2023. 5. 2.). 그는 조만간 인공지능이 인간을 대체할 것이며 인공지능이 스스로의 판단으로 사람을 죽이는 킬러 로봇도 곧 현실화될 것이라고 예측했습니다.

힌튼은 핵무기와 달리 어떤 국가와 기업이 비밀리에 AI를 개발하는지 알 수가 없기 때문에 AI를 통제할 방법을 찾기 전에는 AI 개발을 더 진행해서는 안 된다고 주장했습니다.

인공지능의 대부라고 불리는 제프리 힌튼은 1980년대 중반에 사람의 뇌와 비슷한 방식으로 컴퓨터를 학습시키는 획기적인 방법을 개발해 오늘날 인공지능의 대용량 언어모델(LLM) 기반을 닦은 사람입니다. 이로 인해 2018년 다른 두 사람과 함께 인공지능의 노벨상이라는 튜링상을 수상했습니다.

오픈 AI 사태의 주역 일리야 수츠케버가 다름 아닌 힌튼의 수제자입니다. 20년 전인 2003년, 17세 수츠케버는 약속도 없이 혼자 토론토대학으로 힌튼을 찾아갔습니다. 힌튼은 수츠케버와 몇 마디 대화를 한 뒤 수츠케버의 컴퓨터 분야에 대한 천재성을 곧바로 알아차렸고, 수츠케버는 그 길로 토론토대학 학생으로 힌튼의 제자가 되었습니다.

컴퓨터는 학습할 수 없다는 것이 당연한 상식이었던 때, 컴퓨터는 학습할 수 있다는 것을 당연시하고 있던 스승 힌튼과 제자 수츠케버는 의기투합해 즉시 스타트업 기업 DNA리서치를 공동 창업했습니다. 이 DNA리서치를 구글이 인수하면서 수츠케버는 힌튼과 같이 구글로 갔고, 거기서 알파고 개발을 이끌다 2015년 오픈 AI에 스카우트 됐습니다.

이세돌을 이겨 전 세계를 충격에 빠뜨린 그 알파고입니다. 당시 알파고가 이길 것이라고 예측한 인공지능 전문가는 국내에 단 한 사람도 없었습니다. 반대로 구글은 이세돌이 1승을 거둔 것에 충격을 받았다고 합니다.

제프리 힌튼의 길러로봇은 곧 도래할 현실임이 드러나고 있습니다. 2023년 5월 23일~24일 영국 왕립항공학회가 런던에서 개최한 '미래 공중전투와 우주역량 회의'에서 미 공군의 AI 시험·운영 책임자가 사례를 발표했습니다.

그는 가상 시뮬레이션 워게임 훈련에서 AI 드론에 적 방공체계 무력화 임무를 부여하고 인간 조종자가 공격 여부를 최종적으로 결정한다는 조건을 달았다고 합니다. 그러나 AI는 적의 지대공미사일 위치를 식별해 파괴하는 것이 점수 쌓기에 더 유리하다고 스스로 판단하고는 공격 금지 명령을 내리는 조종자를 방해 요소로 제거해버렸습니다.

2023년 5월 30일 비영리단체인 AI 안전센터(CAIS)는 단 한 문장의 성명을 발표했습니다.

"AI로 인한 인류 멸망 위험을 줄이는 것은 전염병, 핵전쟁과 같은 사회적 위협과 마찬가지로 전 세계의 최우선순위가 돼야 한다."

여기에 서명한 사람은 샘 올트먼, 구글 딥마인드의 CEO 데이비드 하사비스, 제프리 힌튼, 수츠케버, 힌튼과 튜링상을 공동수상한 요수아 벤지오 몬트리올대 교수 등 350명 넘는 AI 전문가들이었습니다.

▲고도화한 인공지능이 정말 인류의 미래를 위협할까. Flickr

갈림길에 서 있는 'AGI 오펜하이머들'

영화 <오펜하이머>를 보신 분이 많을 것입니다. 구소련의 비밀 핵폭탄 개발과 경쟁하면서 미 정부가 극비리에 추진한 맨하탄 계획 '프로젝트 Y' 책임자였던 오펜하이머의 이름이 AI 개발자들 사이에서는 최근 들어 부쩍 자주 호명되고 있습니다. 혹자는 샘 올트먼을 'AI의 오펜하이머'로 부르기도 합니다.

널리 알려져 있다시피 오펜하이머는 핵폭탄 개발에 대해 깊은 죄의식을 갖고 있었습니다. 그래서 수소폭탄 개발을 적극 반대했습니다.

1945년 7월 16일, 뉴멕시코주의 사막 한복판에서 원자폭탄 실험이 있었습니다. 원자폭탄의 엄청난 파괴력을 직접 눈으로 확인한 오펜하이머는 힌두교 경전 <바가바드 기타>의 한 구절, "나는 이제 죽음이요, 세상의 파괴자가 되었다(Now I am become Death, the destroyer of worlds)"라는 말을 중얼거리며 한탄했다고 합니다.

오늘날 AGI 개발자들 중에도 자신들이 지금 무슨 일을 벌이고 있는지 직시하고 있는 사람들이 많은 것 같습니다. 자신들이 'AGI 오펜하이머' 임을 자각하고 있는 듯이 보입니다. 이들 AGI 오펜하이머들이 만든 비영리단체 중 하나가 오픈 AI입니다. 오픈 AI의 홈페이지 첫 화면은 눈길을 확 끄는 선언입니다.

전 인류에게 이익이 되는 안전한 AGI 만들기

오픈 AI는 2018년 4월 9일 '오픈 AI 헌장'을 발표한 바 있습니다. "인류에게 해를 끼치거나 부당하게 권력을 집중시키는 AI 또는 AGI의 사용을 방지할 것을 약속"한다면서 "AGI가 사회에 미치는 영향을 효과 있게 해결하려면" "정책과 안전 옹호만으로는 충분하지" 않고, "오픈 AI가 AI 기능의 최첨단에 있어야" 한다는 것입니다.

인공지능이 특정 빅테크 기업이나 특정 국가의 소유물로 되는 것을 막기 위해서는 캠페인과 정책 대안을 제사하는 것만으로는 부족하다는 인식입니다. 그래서 나온 것이 AI의 새 시대를 열었다고 평가받는 챗GPT 시리즈 개발입니다.

오픈 AI는 AGI를 개발하는 데 드는 엄청난 비용을 투자받기 위해 자회사로 영리기업인 오픈 AI 글로벌 LLC를 설립했습니다. 그리고 2021년 마이크로소프트로부터 두 번째 투자를 받습니다. 그러자 오픈 AI의 급격한 선도개발과 상업화에 반기를 들고 GPT 모델 개발과 전략 담당 디렉터 다리오 아모데이를 비롯한 개발자들 일부가 오픈 AI를 뛰쳐나와 앤트로픽을 창업합니다. 앤트로픽은 좀 더 '책임감 있고 안전한 AI'를 목표로 내걸고 AI 챗봇 클로드를 개발했습니다.

클로드가 챗GPT에 뒤지지 않는 성능을 갖고 있다고 호평 받으면서 앤트로픽 또한 알파벳, 아마존, SK 등으로부터 거액의 투자를 받았습니다.

안전한 AGI, 과연 가능할까?

2023년 1월 26일 알파벳 경영진은 <파이낸셜타임스> 매거진과 인터뷰를 합니다. 알파벳이 챗GPT보다 더 강력한 AI 플랫폼을 개발했지만 잠재된 사회-윤리 위험성을 통제할 방법을 찾을 때까지 출시할 수 없다고 결정했다는 내용이었습니다. 오픈 AI의 챗GPT 안전성에 대해 정면으로 문제 제기한 것입니다. 챗GPT가 5일 만에 사용자 수 1백만, 두 달 만에 1억 명이라는 돌풍을 일으키고 있는 것에 대항한 알파벳 나름의 전략이었습니다.

이 결정의 중심에는 부사장이던 제프리 힌튼이 있었습니다. 그러나 이 발표로 주가가 출렁거리면서 알파벳은 2월 8일 서둘러 챗봇 '바드'를 출시합니다. 제프리 힌튼은 자유롭게 인공지능의 위험성을 경고하기 위해서라며 알파벳을 그만둡니다.

이처럼 AGI 개발 경쟁은 일반 사람들이 생각하는 이상으로 치열합니다. 빅테크 기업들 간의 경쟁뿐만이 아니라 미국과 중국, 한국, 유럽 등 이른바 디지털 강국들 사이의 경쟁도 상상 이상입니다.

이런 경쟁 상황과 오직 더 많은 돈벌이가 목적인 빅테크 기업들의 탐욕 아래 과연 인간이 통제할 수 있는, "모든 인류에게 이익이 되는 AGI 개발"이 가능할지 여부는 아직 알 수 없습니다.2023.11.30

 

인공지능이 만드는 '멋진 신세계'

[노동하는 자유인의 삶은 어떻게 가능할까] ②

새로운 절대종교 유일신의 탄생

과학기술의 발달과 함께 자본주의가 전지구를 대부분 지배하고 있는 오늘날 전통 종교 인구는 급격하게 줄고 있습니다. 농업과 유목사회였던 축의 시대(Axial Age)에 생겨난 전통 종교는 그럴 것입니다.

(* 칼 야스퍼스는 기원전 9세기에서 기원전 2세기까지 중국의 유교와 도교, 인도의 힌두교와 불교, 이스라엘의 유일신교, 그리스 철학 등 인류의 스승들과 종교, 철학 등이 탄생한 시기를 '축의 시대'라고 명명했습니다. 카렌 암스트롱, 󰡔축의 시대󰡕, 교양인, '2020.)

그러나 산업화와 개발-성장 시대 새로운 절대종교는 오히려 폭발하듯이 확산돼 가고 있습니다. 전세계 80억 인구 가운데 절대 다수가 새로운 절대종교 유일신 신도들이라고 해도 지나친 말이 아닙니다. 교회나 절을 나가는 전통 종교인도 사실은 이 새로운 유일신을 섬깁니다.

다름아닌 '자본 신', '돈 신'입니다. '쩐'(錢)이 최고의 신인 이 종교의 이데올로기는 '무한성장주의'와 '과학기술 만능주의'입니다.

자본주의에서 물신화된 자본은 노동자들뿐만 아니라 자본가들도 지배합니다. '법으로 만든 인격체'인 법인을 통해 자본은 사회도 국가도 지배합니다. 생명체인 노동자와 자본가와 달리 자본은 법인이 망하지 않는 한 수명도 무한인 괴물입니다.

오직 더많은 이윤을 남기기 위해 자본은 끊임없이 새로운 상품을 만들어 팔아야 하고 새로운 상품 판매 시장을 만들어야 합니다. 영구동력 기계처럼 자본은 무한 축적과 무한 성장을 반복해야만 유지가 됩니다.

백인들의 유럽 자본주의는 자본의 무한 성장을 충족시키기 위한 새로운 상품 시장을 확보하기 위해 아메리카와 아프리카, 아시아 등 전세계를 식민지로 만들었습니다. 잘 알려져 있다시피 식민지 침략은 독일의 유태인 학살과는 비교가 안될 정도로 규모가 큰 피의 제노사이드(genocide, 대량학살) 전쟁이었습니다.

영국인들은 오스트레일리아의 태즈메니아 원주민을 짐승보다 못한 동물 취급하면서 강간하고, 사냥하듯 가죽을 벗기며 마구잡이로 잔인하게 죽여 버렸습니다. 태즈메니아인들은 백인을 처음 접촉한 지 75년만에 모두 몰살당했습니다.

약 1억 명으로 추정되는 아메리카 인디언은 수백만 명만 살아 남았습니다.(피에르 클라스트르, 국가에 대항하는 사회, 이학사, 2005)

자본은 자본주의를 더많은 이윤을 벌기 위한 체제로 끊임없이 바꾸어 왔습니다. 식민지 침략을 위해 영국을 제국주의로 만든 건 자본이었습니다.

자본은 기꺼이 제국주의 침략 전쟁에 자본을 투자했습니다. 독점 자본주의, 수정 자본주의, 금융자본주의, 디지털 자본주의 등은 그런 자본의 이른바 혁신과 변화를 지칭하는 개념입니다. 3차 산업혁명이니 4차 산업혁명이니 하는 작명도 마찬가지입니다.

자본의 가장 수지맞는 투자, 전쟁

자본에게 가장 수지맞는 투자는 뭐니뭐니 해도 전쟁입니다. 1차 세계대전도 2차 세계대전도 6.25동란도, 지금도 진행 중인 우크라이나 전쟁도 자본에게는 엄청난 돈벌이 기회일 뿐입니다.

1910년에서 1914년 사이 화약 제조업체 듀퐁의 연평균 영업이익은 600만 달러였습니다. 1914년에서 1918년까지 1차 세계대전 기간 중 듀퐁의 영업이익은 5,800만 달러로 거의 1,000%나 급상승했습니다.(스메들리 버틀러, 전쟁은 사기다, 공존, 2013.)

포드, GM, IBM, ITT, 스탠다드오일 등 미국의 대자본들은 1933년 히틀러 집권 이후에도 이전처럼 독일에 투자해 돈을 벌었습니다. 2차 세계대전이 일어나 나치 독일은 미국의 적국이 되었습니다. 그럼에도 이들은 탱크, 전투기, 석유, 정보통신 기술 등 전쟁에 필요한 핵심 전략불자들을 나치에 팔아 떼돈을 벌어들였습니다.

록펠러, 모건 등 국제 금융자본가들도 마찬가지로 1차대전의 패전국 독일에 투자해 돈을 벌고 있었습니다. 독일의 전쟁 배상금은 이들이 빌려준 돈으로 메꿔지고 있었습니다. 2차대전이 일어난 이후에도 이들은 전쟁 기간 내내 히틀러에게 전쟁자금을 빌려주고 역시 떼돈을 벌었습니다.

1941년 12월 13일, 루스벨트 대통령은 미국 기업의 적성국과의 사업 거래를 허용하는 특별명령을 은밀하게 발표했습니다. 적성국교역금지법에도 불구하고 정부의 특별 허가를 받으면 사업 거래를 할 수 있다는 내용이었습니다.(박인규, '전쟁국가 미국 2강', 프레시안, 2019. 2. 7.)

1945년 2차 세계대전이 끝나고 미국에서는 나치를 지원한 독점 대자본가들과 금융업자들에 대해 거센 비판이 제기되었습니다. 이들 대자본가들이 일반 대중의 시선을 돌려 곤경에서 탈출하고, 멈춰 선 전쟁물자 생산라인도 다시 돌리며 돈을 벌기 위해 일으킨 전쟁이 다름아닌 6.25동란이었다는 '남침유도론'이 지금까지도 유력한 설로 제기되고 있을 정도입니다.

자본의 새로운 식민지, 사람의 몸과 마음

더 이상 개척할 식민지가 없어지자 자본가들은 전혀 새로운 미지의 식민지에 눈독 들이기 시작했습니다. 다름아닌 인간 자신의 몸과 마음입니다.

때마침 20세기 후반 인터넷의 등장과 21세기 초의 스마트폰 보급 확산과 함께 새로운 산업혁명이라 할 수 있는 디지털 경제가 본격화되기 시작했습니다. 자본가들은 사람의 몸과 마음을 쪼개고 자르고 분해해서 유전자와 시냅스 등을 비롯한 데이터로 환원해 새로운 상품을 개발할 수 있었습니다.

이른바 GAFAM 등 극소수 거대 글로벌 IT기업이 주도하는 디지털 경제란 사실 인간의 몸과 마음, 자연과 세상. 푸른별 지구, 나아가 우주까지를 가상의 데이터로 바꾸어 자본의 최대 이윤 도구로 판매하는 새로운 식민지 침략 전쟁에 다름 아닙니다. (* GAFAM: 구글(google), 애플(apple), 페이스북(facebook, 2021년 meta로 변경), 아마존(amazon), 마이크로소프트(microsoft) 등 거대 글로벌 디지털 기업의 머리 글자를 조합해서 만든 용어)

GAFAM 등 실리콘 밸리의 IT기업들이 주도하는 디지털 기술의 미래는 장밋빛 일색입니다. 그들은 사람들을 힘든 노동에서 해방시키고 암을 정복하고 시각장애인에게 눈을 선사하고 노화방지 유전자 기술(anti-aging)로 150살 이상까지 젊음을 유지시켜 준다고 선전합니다. 나아가 병든 지구를 치료할 뿐만 아니라 기후재난으로 황폐해진 지구를 떠나 인류를 화성으로 이주시키겠다고까지 약속합니다. 물론 돈이 있는 사람들에 한해서입니다.

알고리즘을 자연과 세상의 주인이자 소유주 자리에 앉히는 임명장을 주고 있는 셈입니다.

▲<애틀랜틱> 화면 갈무리

미국, 중국 다음의 세계 3위 전기소비량 제국은? 디지털 제국!

그러나 이들은 디지털 기계는 엄청난 물과 자원, 에너지를 착취하고 소비하며 당연히 엄청난 온실가스를 배출한다는 사실은 숨깁니다.

디지털 산업의 전기소비량은 2017년 전세계 소비량의 약 10%를 차지했습니다. 이는 해마다 5~7%씩 증가하고 있고 2025년이면 무려 20%에 달할 것이라고 예상하고 있습니다. 전기소비량으로 치면 미국과 중국에 이어 세계 3위입니다.(기욤 피트롱, '종아요'는 어떻게 지구를 파괴하는가, 갈라파고스, 2023.)

우리나라의 경우 반도체를 생산하는 삼정전자 한 기업의 소비 전기량만 해도 우리나라 재생에너지 총생산량의 80% 정도에 이릅니다.

디지털 경제의 온실가스 배출량도 2018년 약 4%에서 2025년에는 2배로 높아질 것입니다. 이메일 1통을 발송하면 최소 0.5g에서 용량이 큰 붙임파일이 더해질 경우 20g 정도까지의 탄소를 발생시킵니다. 이런 메일이 전세계에서 날마다 3,190억통이나 발송됩니다.

지금 이 순간 스마트폰을 들고 우리가 무심코 '좋아요'를 손가락으로 꾹 누르는 순간 아프리카의 어떤 희토류 광산에서는 유소년 노동자가 시간당 1달러도 안되는 저임금으로 착취당하고, 석탄과 석유를 불태워 만든 전기가 소비됩니다. 배출된 이산화탄소는 우리도 모르는 사이에 우리 숨통을 조여옵니다.

미세노동자가 없으면 챗지피티도 멈춘다

여기에 더해 산업의 디지털화는 노동자의 삶을 더할 수 없는 극한으로 내몰고 있습니다. 인공지능 알파고가 이세돌과의 바둑 경기를 이긴 것은 엄청난 충격이었습니다. 이 충격이 채 가시기도 전에 챗지피티(Chat GPT)의 등장은 사람들에게 곧 들이닥칠 강(强)인공지능 시대에 대해 두려움을 불러 일으키기에 충분했습니다.

무엇보다도 디지털 경제는 노동자들의 노동력 판매를 분(分)과 초(秒) 단위로 나눔으로써 노동자 개개인의 노동력조차 분과 초 단위로 해체시켜 디지털 데이터로 환원해 버렸습니다. 월급 노동자, 연봉 노동자에서 일당 노동자, 시급 노동자를 거쳐 이제는 분급 노동자, 초급 노동자로 전락해버린 것입니다.

전세계 수천만명의 플랫폼 노동자, 미세노동자(microworker)가 없다면 디지털 경제는 한 순간에 멈추고 맙니다. 아프리카 분쟁지역의 난민촌, 폴란드에 있는 우크라이나 난민촌의 고학력 여성들이 “단돈 몇 센트”의 돈을 받고 벌이는 라벨링, 콘텐츠 모더레이션 등의 미세노동이 없다면 인공지능이 실시간으로 답하고 해결하는 알고리즘은 결코 작동되지 못합니다. 미세노동자는 자신의 노동이 자기 일자리를 빼앗을 인공지능을 교육하기 위한 것인지, 자기 고향을 타격하기 위한 살상용 드론을 제작하기 위한 일인지 알 수조차 없습니다.

"오늘날 디지털화된 삶을 가능케 한 원동력이 흔히 생각하듯이 알고리즘이 아니라 푼돈을 받고 육체를 갉아먹는 노동이라는 사실을 분명이 밝혀둔다... "단돈 몇 센트로 사진 속에 사람이 있는지 확인하는 일을 맡길 수 있는 거죠.”. 세계 최초이자 여전히 가장 인기있는 '미세노동' 중개 사이트인 아마존 메커니컬터크가 공식적으로 문을 연 날 제프 베조스가 세상 사람들에게 고한 말이다.

... 사이트에서는 인공지능을 훈련시키기 위한 목적으로 이미지 속의 사람에게 태그를 붙이는 일과 같은 단 몇 분, 몇 초 안에 끝나는 초단기 작업을 중개한다... 수많은 노동자, 일명 '터커Turker'의 화면에 그 초단기 작업이 표시되고, 그러면 터커들은 그것을 한 건이라도 더 따내기 위해 서로 경쟁한다... 플랫폼이 취하는 수수료는 건당 20%다. 작업이 원격으로 수행되기 때문에 메커니컬터크 노동자들은 서로 만나지 못하고 그저 온라인 커뮤니티에서 각자의 아바타만 볼 뿐이다." - 필 존스, 김고명 옮김, 노동자 없는 노동, 12~13쪽, 롤러코스터, 2022.

미국 중하위 1억 3천만명의 재산과 같은 베조스-게이츠-버핏 3인의 재산

물과 자원과 에너지가 없다면, 그리고 무엇보다도 아마존의 제프 베조스가 '단돈 몇 센트'로 표현한 수많은 미세노동자가 없다면 디지털 경제는 순식간에 무너집니다.

그럼에도 제프 베조스가 시간당 벌어 들이는 돈은 이들 미세노동자들과 비교하면 너무나 까마득합니다. 베조스가 시간당 1,300만 달러를 벌 때 이들 미세노동자들은 2달러도 못법니다. 코로나 팬데믹 기간 중에 불어난 베조스의 자산은 전 세계 80억 인구 모두에게 안전하게 백신을 공급할 수 있는 규모였습니다.

2021년 7월 베조스와 그의 몇몇 친구들이 호화 우주선을 타고 우주 여행을 떠날 때, 지상에서는 백신을 맞을 수 없거나 음식을 살 수 없었던 수백만 명이 죽어가고 있었습니다. 그는 우주선을 타면서 역사에 길이 남을 명언을 남겼습니다. “이 모든 비용을 지불해 준 아마존의 전직원과 고객에게 감사드립니다.”(옥스팜, <죽음을 부르는 불평등> 한글 요약본, 2022, 1.)

제프 베조스의 자산은 2023년 3월 기준 1,140억 달러, 우리 돈으로 150조원이나 됩니다. 제프 베조스와 마이크로소프트의 빌 게이츠, 워렌 버핏 3인의 부는 미국의 중하위 1억 3천만 명의 부와 같습니다. 이 숫자는 얼마 전 1억 2천만 명으로 줄었습니다. 제프 베조스가 이혼으로 재산이 줄었기 때문입니다. 전세계 억만장자 26명의 재산은 전세계 하위 인구 절반의 재산과 같습니다.

이같은 극단의 불평등은 디지털 자본주의의 당연한 귀결입니다. 사람 몸과 마음의 디지털 데이터화를 통한 착취와 자연 착취 또한 자본주의의 극단화된 자유시장경제 논리에서는 당연한 일입니다. 문제는 노동자들과 노동조합, 노동자 정당의 이에 대한 강력한 저항이나 규제, 대안 제시를 통한 해결 방안이 없거나 실패해 왔다는 사실입니다.  2023.09.12.

 

21세기 AI 전쟁, '스데롯 시네마'

[기후지옥보다 먼저 도착한 AI 지옥(?!)] ②21세기 AI 전쟁의 서막, 우크라이나 전쟁

2022년 6월 2일. 우크라이나 전쟁이 일어나고 99일째 되던 날입니다. 50대의 '걸레머리' 미국인 사업가 한 사람이 우크라이나 젤렌스키 대통령을 만나 상담을 합니다. 빅테크 소프트웨어 기업 팔란티어의 대표 알렉스 카프였습니다.

그날을 기점으로 우크라이나 전쟁의 양상은 완전히 바뀝니다. 우크라이나 군은 미국 중앙정보국(CIA)도 투자한 팔란티어의 전쟁 관련 빅데이터 정밀 분석과 위치 추적 소프트웨어인 '고담(Gotham)'을 채택해 순식간에 수세에서 공세로 전환할 수 있었습니다. 우크라이나 군은 일론 머스크의 스타링크 무선 인터넷 지원을 받은 무인 드론과 무인 항공기 등으로 러시아 군의 탱크와 각종 무기, 군대를 공격했고, 21세기 디지털 시대에 20세기 아날로그 전쟁을 시도했던 러시아군은 궤멸에 가까운 타격을 입게 됩니다.

팔란티어는 주로 미 국방성을 비롯한 각국 정부와 거래하는 군사관련 빅데이터 소프트웨어 기업입니다. 팔란티어가 고담과 한묶음으로 우크라이나에 제공한 전략전술 소프트웨어 'GIS 아르타'는 쉽게 말해 수백 수천 킬로미터(㎞) 전선의 수백 개 전투현장마다 제갈공명보다 뛰어난 전략가를 지원해주는 프로그램입니다.

우크라이나 전쟁은 인공지능의, 인공지능에 의한 AI 전쟁의 초기 버전입니다. 숱한 과학소설에 등장했던 SF 전쟁이 마침내 현실로 눈 앞에 닥친 것입니다. 러시아도 뒤늦게 중국과 이란 등으로부터 급하게 드론과 무인 항공기 등을 수입해 AI 전쟁으로 대응할 수밖에 없었습니다. 지금 우크라이나와 러시아는 모두 AI와 무인기, 전파방해 무기 재머까지 총동원해 고착된 전선에서 끝없는 소모전을 되풀이하고 있을 따름입니다.

뒤에 다시 언급하겠지만 이런 AI 전쟁 무기들은 에너지를 엄청나게 투입해야 작동됩니다. 우크라이나와 러시아의 에너지는 주로 화석연료와 핵입니다. 우크라이나 전쟁은 이산화탄소를 마구 뿜어대면서 기후지옥을 앞당기는 기후 가속페달 전쟁이기도 한 것입니다. 각국의 압력으로 기후변화에 관한 정부간 협의체(IPCC) 보고서에서도 빠지는 전세계 군사분야 이산화탄소 배출량은 약 5~6%로 추정합니다.

세상에서 가장 잔인한 극장 '스데롯 시네마'

AI 전쟁 시대를 연 2022년 6월 2일로부터 1년 4개월 5일이 지난 2023년 10월 7일은 유대교의 안식일이었습니다. 이날 새벽 하마스는 이스라엘 군의 통신탑 4개를 드론으로 파괴해 통신 인프라를 무력화하면서 기습 공격을 감행했습니다. 해묵은 분쟁을 넘어선 전면전쟁의 시작이었습니다.

오늘도 계속되고 있는 이스라엘-하마스 전쟁 또한 AI 전쟁과 재래식 전쟁을 디지털 체제에 적응해 교묘하게 뒤섞은 끔찍한 복합 살육전쟁입니다.

2023년 9월 20일 78차 유엔 총회의 부대행사인 기후목표 정상회의 연설에서 안토니우 구테흐스 유엔 사무총장은 연간 수십억 달러를 벌어들이는 화석연료 기업들의 탐욕 때문에 기후지옥으로 가는 문이 열리고 있다고 비판의 목소리를 높였습니다.

그런데 기후지옥에 앞서 AI 지옥이 먼저 도착할지 모른다는 우려가 현실로 눈 앞에 펼쳐지고 있습니다. 극소수 거대 인공지능 빅테크 기업들의 무한 탐욕 때문에 그렇습니다.

하마스가 기습공격해 무차별로 이스라엘 사람들을 죽인 곳 중 하나가 이스라엘 남부 도시 스데롯입니다. 9년 전인 2014년 7월 가자지구 분쟁 당시 이스라엘 군이 발사한 미사일이 가자지구에서 터질 때마다 의자에 앉아 구경하던 이스라엘 사람들이 박수를 치며 환호하던 언덕이 있습니다. 그게 바로 가자지구가 훤히 보이는 스데롯의 한 언덕입니다. 당시 덴마크의 기자가 이를 트위터에 올리면서 '스데롯 시네마'라고 이름지었습니다. 세상에서 가장 잔인한 극장 가운데 하나입니다.

전세계 사람들이 충격을 받았고 이스라엘은 거센 비판에 직면했습니다. 그러나 스데롯 시네마는 2009년 가자 전쟁 당시에도 있었던 일입니다. 하마스가 스데롯을 선택한 것은 명확합니다. 증오는 증오를 낳고 복수는 복수를 낳습니다. 끝없는 악순환입니다.

▲지난 10월 7일(현지시간) 팔레스타인 가자지구를 통제하는 무장 정파 하마스의 이스라엘 남부 기습 공격 뒤 이어진 이스라엘의 가자지구 보복 공습 뒤 팔레스타인 소녀 2명과 어머니로 보이는 여인이 10일(현지시각) 가자지구 내 알 리말 구역의 무너진 건물 더미 위를 걸어가고 있다. ⓒAFP=연합뉴스

전쟁을 감상하는 디지털 '신세계'

전쟁을 안방에서 놀이처럼 감상하는 세상은 이미 1991년 걸프전 당시에 열렸습니다. 미국의 이라크 미사일 공격을 CNN이 24시간 생중계하면서 열린 신세계입니다. 올더스 헉슬리가 그려낸 ‘멋진 신세계’의 상상은 지금 읽어보아도 우리의 현실을 되돌아보게 합니다.

21세기가 암울한 세기가 될 것임을 상징했던 2001년의 9.11테러 영상도 마찬가지입니다. 미국의 번영과 자본주의 세계화의 상징이던 110층의 초고층 쌍둥이 빌딩 세계무역센터 건물 2개 동이 공중납치된 비행기에 부딪혀 연달아 마치 재난영화처럼 무너지는 충격의 영상이 수도 없이 반복 재생되었습니다.

지금도 수많은 사람들이 자신의 국적과 종교, 인종, 특정 견해나 주장에 따라 환호하거나 분노하면서 우크라이나 전쟁과 하마스-이스라엘 전쟁, 미얀마와 아프리카의 내전 등을 감상하고 있습니다. 그리고 시간이 지나면서 늘 일어나는 익숙한 일로 관심도는 점점 줄어들어 갑니다.

충격의 영상이나 사건도 반복해서 계속 보고 듣게 되면 우리의 뇌는 공포 반응을 억제하는 신경회로를 활성화시킵니다. 이를 반복 억제작동이라고 합니다. 충격에 적응해 에너지를 줄이는 뇌의 자연선택 결과입니다. AI 전쟁의 새로운 스데롯 시네마가 문을 열어도 사람들은 이제 훨씬 강도가 쎈 충격의 영상이나 사건이 아니라면 무덤덤하게 반응할 것입니다. 사실 이런 무신경반응이 다름아닌 앞으로 닥칠 AI 전쟁의 지옥도일 것입니다.

9.11 테러가 일어난지 10년이 되던 2011년 5월 4일에는 버락 오바마 미 대통령과 힐러리 클린턴 국무장관 등이 백악관에서 40여분간 9.11테러의 주모자 오사마 빈 라덴 사살 장면을 실시간 생중계로 지켜보는 장면이 언론을 통해 공개되기도 했습니다. 특수작전 요원들의 헬멧에 설치된 위성 카메라를 통해서였습니다. 빈 라덴 사살 작전에 사용된 소프트웨어가 다름아닌 팔란티어의 구버전 '고담'입니다.

사회주의자 팔란티어 대표의 '오펜하이머 순간'

2023년 7월 25일 팔란티어 대표 알렉스 카프는 <뉴욕타임스>에 에세이를 기고했습니다. '우리들의 오펜하이머 순간(Our Openheimer Moment)'이라는 제목이었습니다. 카프는 핵무기 개발을 주도한 오펜하이머가 나중에 죄책감을 피력한 것을 예로 들면서 핵개발과 비슷하게 AI 개발이 지금 현재 갈림길에 서 있다고 지적했습니다. AI 기술의 힘과 잠재력을 완전히 파악하지 못한 상태에서 AI 개발을 지속할지 선택해야 하는 지점에 도달해 있다는 것입니다.

그도 AI의 위험성을 인정합니다. 마이크로소프트가 발표한 논문을 인용하면서 AI는 이미 일반인공지능(AGI)의 초입에 도달해 있다고 했습니다. 2023년 3월 마이크로소프트의 개발팀은 자사의 블로그를 통해 오픈 AI의 GPT-4가 인간 수준 또는 AGI의 '불꽃'을 보여주었다는 논문을 발표한 바 있습니다. 마이크로소프트는 오픈 AI에 투자한 대가로 챗GPT를 사용합니다.

유니콘은 말의 몸통, 사슴의 머리, 코끼리의 발, 멧돼지의 꼬리, 그리고 1미터 정도의 긴 뿔을 갖고 있는 상상의 동물입니다. 개발자들은 GPT-4의 유니콘 코드에서 유니콘 뿔을 생성하는 알고리즘을 제거해버렸습니다. 그런 뒤 GPT-4에게 유니콘을 그리라고 명령하자 해당 알고리즘이 없는 상태에서도 GPT-4는 유니콘 뿔을 그렸습니다.

그럼에도 카프는 날카로운 도구가 우리를 해칠 수 있다는 두려움 때문에 도구를 만드는 것 자체를 두려워해서는 안된다고 역설합니다. 무엇보다도 그는 AI가 가공할 무기체계를 가능케 할 것이며, 새로운 군비경쟁인 AI 무기 경쟁은 이미 시작됐다고 말합니다. 인공지능 AI 개발의 일시 중단 요구는 쓸만한 AI 제품을 갖지 못한 사람들에게서 나오는 것이며, '우리의 적'들로 하여금 군사기술의 연구개발에 박차를 가해 기술 전장에서 승리하도록 방치하는 정말로 나쁜 전략이라고 목소리를 높입니다. 2019년 마이크로소프트가 미 육군과의 방산 계약을 직원들의 항의로 파기한 것, 구글이 역시 직원들의 반대로 미 국방부와 계약을 갱신하지 않은 것을 예로 들면서 전쟁무기 개발을 거부하는 실리콘밸리의 개발자들을 정면으로 비판합니다.

자유 민주사회가 승리하기 위해서는 도덕 이상의 하드파워가 필요하고 21세기 하드파워는 소프트웨어를 기반으로 구축될 것이며, .지속가능한 평화를 위한 전제조건은 든든한 전쟁 준비 태세에서 비롯된다는 주장입니다.

이것이 스스로 사회주의자임을 자처하는 AI 전쟁기업 팔란티어 대표의 철학입니다. 그는 팔란티어 임직원에게 명상을 가르칠 정도로 명상에 조예가 깊은 사람입니다. 사실 치열한 경쟁에 시달리는 실리콘밸리의 개발자들 사이에서는 명상 열풍이라고 말할 수 있을 정도로 명상 수행을 하는 사람들이 많습니다. 샘 올트먼도 미국에 위파사나 명상을 소개하고 수행을 지도하고 있는 저명한 선 수행자 잭 콘필드의 제자라고 할 수 있을 만큼 명상 수행을 하는 사람입니다.

▲지난달 2일(현지시간) 영국 블레츨리 파크에서 열린 영국 인공지능(AI) 안전 서밋 둘째 날 우르줄라 폰 데어 라이엔 유럽연합(EU) 집행위원장, 카말라 해리스 미국 부통령, 리시 수낵 영국 총리, 조르지아 멜로니 이탈리아 총리, 안토니우 구테흐스 유엔 사무총장, 요수아 벤지오 퀘벡 AI 연구소 밀라 창립자 겸 과학 디렉터(사진 왼쪽부터) 등이 사진 촬영을 위해 섰다. 이날 이들은 '블레츨리 선언'을 발표했다. ⓒReuters=연합뉴스

블레츨리 선언이 드러내 준 AGI 경쟁의 실상

지난 11월 2일, 인공지능의 위험에 전세계 국가가 공동 대응해야 한다는 '블레츨리 선언'이 발표되었습니다. 이른바 G7 국가, 중국, 인도, 한국 등에 더해 인도네시아, 케냐, 르완다 등 개도국까지 포함해서 28개 나라와 유럽연합 등이 참가한 제1회 ‘인공지능 안전 정상회의’의 결과물이었습니다.

블레츨리는 인공지능에 조금이라도 관심을 가진 사람이라면 누구나 알고 있는 인공지능의 창시자 앨런 튜링이 일했던 곳입니다. 2차대전 당시 영국 정부는 독일군의 암호를 해독하기 위해 케임브리지 대학과 옥스퍼드 대학의 수학자, 암호학자 등 전문가들을 대거 소집, 두 대학의 중간에 위치한 블레츨리파크에 암호학교를 설치했습니다. 앨런 튜링은 여기서 동료들과 함께 암호 해독기이자 최초의 컴퓨터인 '콜로서스'를 개발했습니다.

그런데 이 회의 참석자 가운데 60%가 미국과 영국 출신이고 3분의 1이 빅테크 기업 대표들이었습니다. 선언도 대화를 계속한다는 사실만 확인하는 선언이었고, 실제 규제 문제에서는 초보 단계의 조처조차 합의된 게 아무 것도 없었습니다. 국제 규제 기관의 설립에 대해서도 빅테크 기업들은 자율 규제를, 국가 대표들은 국가의 규제를 주장하는 등 각자의 이해관계에 따른 온갖 주장만 난무했을 뿐이었습니다.

정상회의 직전인 10월 30일 미국의 조 바이든 대통령은 국가 안보, 건강, 안전 등을 위협할 수 있는 AI 개발자는 안전 시험 결과를 정부에 제출하도록 하는 행정명령에 서명했습니다. 그런데 이 행정명령은 기존에 개발된 인공지능을 제외하고 신규 개발 인공지능에 대해서만 적용됩니다. 후발 주자들에게서 사다리 걷어차기라는 불만이 거세게 터져 나왔습니다.

스탠퍼드 대학 교수이자 AI 스타트업 랜딩 AI의 대표이기도 한 앤드루 응은 일부 AI 기업이 AI가 인류를 멸종시킬 수 있다는 두려움을 퍼뜨리며 시장 지배력을 확대해 오픈소스 진영과의 경쟁을 회피하려 한다고 비판했습니다. 한마디로 AI 정상회의와 블레츨리 선언은 지금의 거대 빅테크 기업들과 미국, 중국 등 AI 선진국들의 AGI 경쟁 실상을 있는 그대로 드러내 준 이벤트였다고 할 수 있습니다.

엊그제인 12월 1일, 미국, 독일, 일본 등 주요 7개국(G7)이 인공지능 관련 국제 규칙 만들기 작업인 '히로시마 인공지능 프로세스'의 최종 합의안을 마련했다는 보도가 나왔습니다. 주요 7개국은 2023년 5월 일본 히로시마 정상회의에서 이 프로세스를 가동하기로 합의한 바 있습니다.

인공지는 규제에 한 걸음 더 나아간 의미있는 진전임은 분명합니다. 그러나 이 합의안 또한 국제법으로서의 구속력은 전혀 없습니다. 실제 규제는 각 나라가 다시 자국의 법과 제도로 구체화해야 합니다.

세상은 늘 바뀝니다. 그러나 우리는 단 1초 앞의 미래조차 내다 볼 수 없습니다. 수많은 변수들이 우리의 삶과 세상의 변화에 영향을 미치기 때문입니다. AGI가 어떤 모습으로 등장하고 세상을 어떻게 바꿀지, 영화 <매트릭스>의 세상이 도래할지, 3차 AGI 세계대전이 일어나 인류가 멸종할지 어쩔지 우리는 전혀 알 수가 없습니다.

우리는 다만 원인이 있으면 결과가 있다는 선형인과론에서 벗어나 원인과 결과가 서로 의존하는 상호인과론과 이것이 있으면 저것이 생기고 이것이 사라지면 저것도 사라진다는 붓다의 연생연멸(緣生緣滅) 이치에 따라 지금 여기에서 최선의 공동선을 실천할 따름입니다.

그것이 세상에 대한 성찰이고 지금 여기 우리의 실천 지침입니다. 그것이 지금 여기에서 탐욕과 증오, 어리석음을 버리고 평화와 공동선의 씨앗을 서로 함께 뿌리는 일일 것입니다.

AGI 개발과 디지털 체제의 실상을 알고, 아는 만큼 국가와 정치에 대한 시민행동을 실천하는 것이 더없이 필요한 시대입니다. 무엇보다도 끝없는 소모전의 적대적 공존을 끝내고 전쟁 지옥의 나락으로 떨어질 수 있는 위험을 제거해야 합니다. 평화와 공존을 실천하는 강력한 주권자 국민의 더불어함께 사는 세상이 눈을 떠야 합니다.2023.12.04.

 

인간의 지능을 가진 지능기계 'AI', 지구별 행성에 출현하다

[기후지옥보다 먼저 도착한 AI 지옥(?!)] ③ 사람과 AI의 지능은 공유지능이다

세상에서 유일하게 언어로 생각하는 사회성 동물, 호모 사피엔스

인공지능의 핵심은 인간의 언어입니다. 그래서 인공지능을 이해하기 위해서는 언어가 인간과 인류사회에 어떤 의미가 있고 어떻게 시작되었는지 살펴보는 것이 매우 중요합니다. 어떤 역사를 거쳐 인간이 문명을 일으켰고 오늘날 인공지능의 창조에까지 이르렀는지 성찰해보는 것이 곡 필요합니다.

인간은 지구상에서 유일하게 언어로 생각하고 언어로 소통하는 사회성 동물입니다. 인류가 다른 동식물과 다르게 지능을 발달시켜 문명을 발전시키고 오늘날 현대 산업 기계문명까지 건설할 수 있었던 가장 주요한 핵심 동인은 다름아닌 언어입니다.

미성숙한 채 태어난 인간의 아기는 태어나자마자 뇌세포가 폭발하듯이 늘어납니다. 그리고 어머니 젖을 먹고 성장하면서 눈귀코입살갗 등의 감각기관을 통해 세상을 보고 듣고 냄새맡고 맛보고 만져보는 행동으로 세상을 인식하기 시작합니다. '함'을 통해 '앎'이 생겨납니다.

성장하는 생명체 아이가 맨 먼저 배우는 것은 언어입니다. 아이는 언어를 통해 세상을 이름으로 분별하기 시작합니다. 언어를 통해 자신의 세상, 다른 공동체 구성원과 함께 공유하는 세상을 만들어 나갑니다. 그래야만 환경에 적응해 생존해 나갈 수 있기 때문입니다.

사람과 유전자가 98% 이상이나 같은 침팬지도 소리를 질러 의사소통을 하고 새들도 지저귀면서 의사소통을 합니다. 개미는 페르몬으로, 식물은 잎에서 뿌리는 휘발성 유기화합물(BVOCs)로 의사소통을 합니다. 그러나 새의 지저귐과 침팬지의 외침은 언어는 아닙니다.

동물은 소리지르고 새는 지저귀고 사람은 말을 합니다.

언어는 사물이나 사실과 분리된 기호와 상징, 개념들로 이루어집니다. 언어는 '몸', '바디(body)' 등 서로 다른 말소리로 언어 구성원들의 합의에 의해 만들어지고 사용됩니다. '자본', '이윤', '사회운동', '국가', '인공지능'이라는 말을 원숭이와 호랑지빠귀는 아마도 이해할 수 없을 것입니다.

오직 인간만이 으르렁거리거나 소리지르지 않고, 즉 진동없이 의사소통을 할 수 있는 '속삭이는' 동물입니다. 언어가 있기 때문에 가능한 일입니다.

인류는 언어를 통한 지식-정보의 집적과 무리생활을 통해 기술과 문명을 발달시켜왔습니다. 사람은 언어를 통해 소통하는 다른 사람들과의 무리에 속하지 못하면 사람으로서 세계를 인식할 수도 없고 사람으로 세상을 살아갈 능력도 상실합니다.

1920년 인도에서 발견된 늑대 소녀 자매의 예가 극명하게 보여주듯 사람은 유아기에 늑대 사회에서 양육되면 늑대로 성장합니다. 늑대 소녀는 많은 노력에도 불구하고 결코 사람의 언어를 학습하지 못했습니다.

우리는 언제부터 언어를 사용했을까

호모 사피엔스가 언제 언어를 사용했는지는 알 수 없습니다. 다만 현생 인류가 아프리카에 출현했을 초기부터 소리지르고 으르렁거리고 흥얼거리는 데서 한 걸음 한걸음 그야말로 아주 더디게 언어 사용으로 나아갔던 것으로 보입니다.

그러다가 어느 순간 이른바 '특이점'이 나타나 원시언어를 사용하기 시작했을 것입니다. 원시 언어는 하나가 아니었습니다. 아프리카, 아시아, 유럽, 아메리카, 오스트레일리아 등 서로 멀리 떨어져 분리되어 있거나 고립되어 서로 다른 자연환경에 적응해 생존해나간 수많은 수렵채취 사회들에서 서로 다른 수천의 언어가 시작되었습니다. 오늘날 언어는 약 7000개가 넘습니다.

현대문명과 떨어져 고립된 아마존 피다한족의 언어는 3개의 모음과 8개의 자음뿐입니다. 복문이나 중문 완료시제도 없습니다. 숫자도 없습니다. 그리고 주요한 의사소통 수단으로 콧노래, 외침, 노래, 휘파람 등을 사용합니다. 피다한 족의 언어와 의사소통은 언어의 발생을 보여주는 살아 있는 언어 화석이라고 할 수 있습니다.(다니엘 에버렛, 󰡔잠들면 안돼, 거기 뱀이 있어󰡕, 꾸리에)

인류 문화의 '도약'이라고 표현되는 약 4만~4만5000년 전부터는 인간이 언어를 사용했다는 분명한 증거들이 나타납니다. 장신구, 동굴벽화, 복잡한 무기, 악기, 불피운 자리의 보존, 매장 등이 그 증거들입니다. 이는 언어를 통한 사유와 상상, 상징의 전달, 모방 학습 행동 등 언어가 없으면 불가능한 문화와 기술의 산출물들입니다. 인류는 처음으로 죽음 이후의 세계를 포함해서 언어로 세계를 해석하고 재구성하기 시작합니다.

인도네시아 술라웨시 섬에서 발견된 4만 3900년 전 동굴벽화에는 작고 사나운 물소와 이를 사냥하는 6명의 작은 사냥꾼이 그려져 있습니다. 창을 들고 있는 이들 사냥꾼들은 새의 부리가 달려 있거나 꼬리가 달린, 반은 사람 반은 짐승인 '반인반수'입니다.

인간이 반인반수라는 상상의 동물을 창조해내고, 무리들과 함께 후대까지 기억을 광범위하게 공유할 수 있도록 그림이라는 상징을 만들 수 있는 것은 오직 사회성 언어의 소통이 있어야만 가능한 일입니다. 세계에 대한 해석과 함께 애니미즘과 종교 의례의 등장도 마찬가지입니다.

학자들은 인간의 언어 사용은 오랜 기간에 걸쳐 언어와 지능을 발전시키는 방향으로 신체구조가 바뀌는 자연선택의 결과라고 보고 있습니다.

말을 하기 위해서는 후두부가 아래로 내려가고 성대가 부풀어 오르고 위 아래로 움직이는 공명공간이 생기는 등 소리길이 생겨야 합니다. 무엇보다도 이에 조응한 뇌구조의 변화가 일어나야 합니다. 어느날 갑자기 돌연변이로 언어 능력이 생겨난 게 아닙니다. 언어의 이데아인 본질 문법구조가 있고 모든 언어는 이같은 본질 문법구조의 변형이라는 촘스키의 이론은 대형 언어모델의 인공지능이 등장하면서 이제는 거의 거론조차 되지 않고 있습니다.

약 4만년 전 사라진 네안데르탈인은 두뇌도 크고 노래를 하거나 웅얼거리기는 했지만 말은 하지 못했을 것으로 추정됩니다. 언어의 문턱에는 이르렀지만 문턱을 넘지 못하고 멸종된 것입니다.

인간은 발음을 하려면 초당 약 220개의 근육을 움직여야 합니다. 소리를 낼 때 앵무새를 제외하고 인간만이 혀를 복잡하게 움직일 수 있습니다. 입과 목, 코와 혀, 허파 등 소리를 내는 데 필요한 신체 구조가 인간과 비슷한 동물들도 있습니다. 그러나 말을 하는 인간과 다른 포유류를 뚜렷하게 구분하는 표지는 발성기관을 조종하는 두뇌입니다.

인간 어린아이는 보통 1살이면 최초로 낱말들을 말하기 시작합니다. 18세가 되면 약 6만 개의 단어를 구사합니다. 잠자는 시간을 빼면 90분마다 한 낱말을 학습한 셈입니다.

호모 사피엔스는 모방과 학습능력이 뛰어난 사회성 동물입니다.

사람의 언어는 공유 언어다

외부에 객관으로 존재하는 그런 세계란 없습니다. 뱀은 귀가 없지만 긴 혀를 내밀어 세밀하게 냄새를 분별하고 피부가 감지하는 진동과 눈으로 세계를 인식합니다. 이원색의 시각을 가진 개는 눈으로는 흐릿한 세계를 볼 수 있을 뿐이지만 2억~3억만 개 이상의 코 감각 수용체가 맡은 냄새와 예민한 귀가 듣는 소리로 세계를 인식합니다. 장거리 여행 새는 자외선과 지구 자장까지 눈으로 봅니다. 박쥐는 초음파로 세계를 인식합니다.

개가 보는 세계와 뱀, 박쥐, 새가 인식하는 세계, 사람이 보고 실감하는 세계 가운데 어느 것이 객관으로 존재하는 세계인지 확언할 수 없습니다.

사람의 세계관이란 언어로 지어진 마음의 건축물입니다. 국가도 정당도 노동조합도 하나의 개념일 뿐입니다. 현실에 대한 날카로운 비판의식도 현실에 대한 모든 착시도 언어에서부터 시작합니다. 공자가 바른 이름(정명 正名)을 강조한 것도, 붓다가 명색(名色, 이름붙인 물질과 개념 namarupa)과 식(識, 분별심 vinnana)을 깨달음의 핵심 대상으로 삼은 것도 이 때문이라고 할 수 있습니다.

인간의 기억 시냅스는 불완전합니다. 중요하지 않다고 판단되는 행동에 대해서는 뇌의 기억 시냅스에서 지워버립니다. 그것이 생존에 유리하기 때문입니다. 동굴 벽에 그림을 그리고 부족의 서사시를 구전으로 전수하는 것은 개인을 뛰어넘어 세대에서 세대로 전해지는 집단 전체의 기억 시냅스 연결입니다.

인간은 언어를 통해 자신들의 사회성을 과거와 미래로까지 확장시켰습니다. 그리고 작은 씨족에서 부족연합을 거쳐 도시국가와 제국으로까지 규모를 확산시켰습니다.

인간의 언어가 공유언어라는 지적은 하나마나한 동어반복이 아닙니다. 오늘날 극단화된 사유재산 개념과는 정반대로 언어는 공유재산이라는 확연한 사실을 재확인하는 '낯설게 하기'의 명제입니다. 원시부족의 구전 서사시나 동굴벽화, 도시국가 수메르 점토판의 문서 기록, 전 세계 도서관의 소설과 역사서를 비롯한 지식과 정보, 디지털 네트워크에 저장된 모든 인간 행동의 정보와 기록은 인간의 사회성이 과거와 미래, 전 세계로 확장되고 확산된, 인간지능의 폭발을 보여주는 거대한 피라미드입니다. 이윤창출의 도구인 사유재산이 결코 아닙니다.

자신의 감각기관을 통해 자신의 세계관을 만들어 내 자신의 세상 속에서 사는 개개의 인간들이 지구상에는 약 80억 명이나 됩니다. 말하자면 이 지구상에는 서로 조금씩 모두 다른 개별 인간들의 세계가 80억 개나 됩니다.

동시에 인간은 공유 언어를 통해 공유하는 공통의 모국어 세계를 살고 있기도 합니다. 물론 지금 이 순간에도 모국어 세계 가운데 일부는 멸종돼 가고 있는 중입니다. 이미 영원히 멸종되어버린 모국어의 세계도 있습니다. 에스페란토어가 보급되지 않고 있는 이유는 에스페란토어가 모국어인 인간이 전혀 없고, 당연히 에스페란토 문화도 만들어지지 않았기 때문입니다.

인간의 뇌구조가 수용할 수 있는 친밀한 인간관계의 규모는 21세기인 지금도 여전히 수렵채취 시대의 부족 사회 단위에 머물러 있습니다. 모국어 집단의 크기 또한 일부 다언어 국가를 제외하고 대부분 아직 모국어 사용 국민국가 규모를 크게 넘어서지 못하고 있습니다.

사람과 AI의 지능은 공유지능이다

인간은 마침내 인간의 언어를 학습할 수 있는 기계지능을 만들었습니다. AI가 지능을 가질 수 있는 이유는 인간의 언어를 학습하기 때문입니다.

인간의 뇌구조가 언어와 사물을 학습하는 방식을 모방해서 인간의 지능을 갖게 된 지능기계가 지구별 행성에 처음 출현한 것입니다. 지금 여기의 80억 개 개별 인간들 세계관과 7000여 개 모국어 세계 뿐만 아니라 문자로 기록된 과거의 모든 세계들까지 학습해 새로 '생성'된 지능입니다. 창조주인 인간도 아직 정확히 파악할 수 없는 블랙홀의 '세계'이기도 합니다.

그리고 이제 대용량 언어모델(LLM)에 의한 인공지능은 나날이 인간보다 훨씬 더 뛰어난 AGI를 향해 가속페달을 밟고 있는 중입니다.

생성형(GPT, Generative Pre-trained Transformer) AI의 변환기(Transformer)란 일리야 수츠케버에 의하면 거인, 즉 AI의 심장에 있는 알고리즘의 이름입니다.(2023. 3. 21. 가디언 인터뷰)

사전 훈련(Pre-train)이란 거대한 텍스트 모음을 통해 거인에게 언어의 기본 패턴과 관계를 가르치는 교육, 즉 세상을 이해하도록 가르치는 것을 말합니다.

생성이란 AI가 이러한 지식 기반에서 새로운 생각을 만들어낼 수 있다는 것을 의미합니다. 2022년 11월 30일 최초로 공개된 오픈 AI의 챗GPT-4는 2021년 9월까지의 인간의 모든 지식과 정보를 딥러닝해서 새로운 지식과 정보를 '생성'한 그런 인공지능입니다.

다시 수츠케버에 따르면, 인간의 뇌는 느린 뉴런을 가진 신경망일 뿐입니다. 컴퓨터가 인간의 뇌와 비교할 수 없는 엄청나게 빠른 신경망과 변환기를 가진다면 다음 단어를 예측할 수 있는 비지도 학습, 이른바 딥러닝을 스스로 할 수 있게 됩니다. 실제로 GPT-4가 이를 실현했습니다. GPT-4의 변환기는 그냥 변환기가 아니라 스스로 판단하고 스스로 학습할 수 있는 자기회귀 변환기입니다.

GPT-4 초기에 오답을 하는 이른바 환각 현상은 인간 언어 데이터의 속성상 완전한 해결은 불가능하지만 추가로 인간의 피드백을 통한 강화학습으로 대폭 개선되고 있는 중입니다.

지금 오픈 AI의 챗GPT는 이미지같은 비언어 모델도 학습한 다중모드의(multi modal) 인공지능입니다.

생성형 AI를 사용해본 사람은 왜 빅테크 초거대 기업들이 수십 수백 수천조 단위의 천문학 비용을 들여서라도 AGI를 개발하려는지 금방 이해할 수 있을 것입니다. 그만큼 놀랄만큼 유용하고 우리가 겪고 있는 수많은 문제들을 해결할 수 있는 신천지가 눈 앞에 닥쳐온 것입니다.

인공지능의 저작권 문제는 널리 알려져 있기에 생략하겠습니다.

문제는 인류의 공유재산인 공유언어가 오직 이윤만을 추구하는 극소수 빅테크 기업들의 사유재산으로 변환되고 있다는 사실입니다. 이것은 인간을 데이터 자원으로 변환해 새로운 식민지를 만들어 착취하는 침략전쟁에 다름 아닙니다.

인간지능이 공유지능이란 말은 개개인의 지능이 고유한 특징과 편차를 보인다는 사실을 무시한 평균주의 개념이 아닙니다. 언어를 통한 집적된 지식과 정보의 학습을 기반으로 인간지능은 새로운 지식을 생성해낼 뿐만 아니라 놀라운 창조력을 보여줍니다. 그러나 아인슈타인의 천재 지능이 발견한 상대성이론도 곧바로 모든 사람들에게 공유되고 인류 공통의 공유지능으로 흡수됩니다.

이같은 공유 인간지능을 학습한 인공지능을 사유화한다는 것은 언어도단입니다. 그런데 그런 일이 아무런 문제의식 없이 일어나고 있습니다. 성찰이 필요한 지점이라고 하지 않을 수 없습니다. 2023.12.06.

 

사회성 뇌' 가진 인간, 1차·2차 지능폭발을 경험하다

[기후지옥보다 먼저 도착한 AI 지옥(?!)] ④ 곧 다가올 3차 지능폭발

인간의 뇌는 사회성 뇌다

사회성 동물인 인간의 뇌 또한 사회성 뇌입니다. 당연한 말 같은데, 사실 그동안 뇌과학은 인간 뇌의 사회성에 대한 탐구는 소홀히 해왔다고 볼 수 있습니다. 인간의 생존을 보장해주는 가장 중요한 뇌의 사회성을 경시해온 것입니다.

인간의 뇌는 몸과 마음의 고통과 쾌락을 인식하는 동시에 사회성 고통과 쾌락 또한 인식합니다. 1990년대부터 메튜 리버만을 비롯한 일군의 뇌과학자들은 새로운 학문 분야로서 사회인지신경과학을 개척해 왔는데, 인간에게는 사회성 고통과 쾌감의 신경 메카니즘이 있다는 사실을 밝혀냈습니다.(매튜 리버만, <사회적 뇌>, 시공사)

인간은 무리의 구성원으로서 소속에 대한 강한 욕구를 가지고 있습니다. 다른 사람과의 연결을 추구하고 연결이 끊어지는 것에 대한 두려움과 고통을 신체의 고통보다 더 강하게 느끼기도 합니다. 무리에 속해 있어야만 생존이 가능했기 때문입니다.

스스로 돌볼 능력이 없는 상태로 태어난 포유류 새끼는 어미에 꼭 붙어있거나 어미-아비의 근처에 있어야 살아남을 수 있습니다. 새끼는 어미와 떨어지면 공포의 울음을 터뜨리고 구조의 비명을 지릅니다.

인간 아기의 이런 애착과 연결 욕구는 성장하면서 또래 친구와 또래집단, 씨족과 부족, 나아가 사회와 국가로 확대됩니다. 스포츠팀과 선수, 정당과 정치인, 연예인 등에 대한 애착과 강한 유대감도 마찬가지입니다.

인간은 '이기적 인간'이면서 동시에 이타성을 갖춘 인간입니다. 경쟁하면서 동시에 협력합니다.

인간은 사회성 욕구를 충족하고 무리의 응집력을 키우기 위해 다른 사람의 마음을 읽습니다. 인간의 이같은 '마음읽기' 능력이야말로 다른 사람의 말과 행동에 공감하고 서로 돕는 상호부조의 연대 행동을 통해 인간의 '도약'과 문명 발전을 추동하는 근본 동인이었습니다.

테레사 수녀는 다른 사람과 함께 하지 않는 삶이야말로 인간이 경험할 수 있는 최악의 질병이라고 말한 적이 있습니다.

인간에게는 자신을 성찰하고 자신의 특성, 신념, 가치 등을 다른 사람과 관련지어 생각할 수 있는 능력이 있습니다. 집단에서 바람직하지 않다고 평가받는 충동을 억제할 수 있는 자제력이 존재합니다. 다른 사람의 판단을 강하게 의식하고 자신이 사회 내의 존재라는 자각을 확실하게 가지고 있습니다. 인간은 자신에게 이익이 되는 것이 사회에도 이익이 된다고 생각하는 경향성을 갖고 있습니다. 그것이 자신이 무리의 일원이라는 안도감을 주기 때문입니다.

1차 지능폭발

약 13만~19만년 전 아프리카에서 출현한 호모 사피엔스는 자연선택을 통해 이런 사회성 뇌를 강화시키는 방향으로 진화해 왔습니다. 현생인류의 출현 시기에 대해 수만년의 편차를 두고 다양한 설이 제기되는 것은 현생인류의 뼈 화석이 새로 발견될 때마다 새로운 주장이 나오기 때문입니다.

호포 사피엔스는 긴 세월을 두고 아시아와 유럽 등으로 퍼져나갔습니다. 그리고 어느 순간 문턱을 넘어 수많은 '원시 언어들'을 사용하기 시작했습니다. 언어와 언어로 구성된 지능이야야말로 인간의 사회성 뇌가 창조한 가장 강력한 발명품입니다.

앞글에서 지적했듯 4만~4만 5천년 전에는 기술과 문화, 종교의 발달이라는 인류의 '도약'이 도처에서 일어납니다. 이 도약은 인간의 언어가 일으킨 첫 번째 지능폭발의 업적이자 성취입니다. 최근까지 수렵채취로 살아온 원시 부족들의 인류학 보고서는 자연 환경에 완벽하게 적응한 수렵채취인들의 놀라운 지능폭발 증거로 차고 넘쳐납니다. 1차 지능폭발의 증거는 다름아닌 이들 수렵채취 원시부족들의 언어에 고스란히 살아 있습니다.

이누이트족은 서로 다른 눈 종류에 따라 눈을 부르는 수십 개의 말이 있습니다.

해양 생물학자인 R. E. 요하네스는 1894년에 태어난 팔라우 어부 한 사람을 인터뷰한 적이 있었습니다. 이 어부는 서로 다른 물고기 300종 이상을 알고 있었고 전세계 과학문헌에 기재된 어종 자료의 몇 배나 되는 어종에 대해 그 음력 산란 주기를 정확히 알고 있었습니다. 필리핀 북서쪽 민도르 섬에 사는 하우누족은 450종 이상의 동물과 1500종 이상의 식물을 구별합니다. 이 지역 식물에 대한 하우누족의 분류는 서구 과학의 식물 분류보다 400종 이상이나 많았습니다.

인류학자인 다니엘 네틀과 언어학자인 수잔 로메인이 함께 쓴 <사라져 가는 목소리들>(김정화 옮김, 이제이북스, 2003)에는 이런 사례가 수도 없이 나옵니다.

서시베리아에 살던 한티족의 언어에는 '새'나 '물고기'로 번역할 수 있는 단어가 없습니다. 특정 종에 해당하는 말만 있을 뿐입니다. 한티어의 80%는 동사이며 특히 소리에 관련된 단어가 엄청나게 많습니다. '오리가 물 위에 조용히 내려앉는 소리'가 따로 있고 '곰이 크랜베리 숲을 걸을 때 내는 소리'를 지칭하는 단어가 따로 있습니다. '풍부'라는 단어는 한티어로 '산딸기가 많다'이고, '행복'은 '내 마음이 즐겁다'입니다. 한티족은 유럽의 문명을 받아들이면서 이름을 붙일 때 자연에서 표현을 빌려왔습니다. '사진'은 '물이 고요히 고여 있는 웅덩이'라 불렀고, '모자'는 '비를 맞지 않게 해주는 위쪽이 넓은 나무'로 번역했습니다.

사이언스라는 말은 안다(know)는 뜻의 라틴어 스키레(scire)에서 유래했습니다. 인류문화의 도약을 일으킨 수렵채취인들이야말로 언어를 통해 지능폭발을 이룩한 최초의 과학자들이었다고 할 수 있습니다.

농경은 어떻게 시작되었을까

그렇게 오랫동안 수렵채취인으로 살던 인류는 빙하기가 끝나가던 약 1만 3천년 전부터 정착생활과 최초의 농경을 시작하게 됩니다. 호모 사피엔스의 생존방식에 일대 혁명이 일어난 것입니다. 고고학의 연구 성과는 정착이 먼저 시작되었고 그리고 시차를 두고 농경이 시작되었다고 말합니다.(위르겐 카우베, <모든 시작의 역사>, 김영사)

농업혁명은 당시 빙하기가 끝나고 따뜻해진 기후변화의 산물이었습니다. 그러나 기후변화가 곧바로 농업을 낳은 조건은 아니었습니다. 정착과 농업의 발견, 문명의 발생은 서로 다른 다양한 요인이 복합 작용한 결과였지만 그 중에서도 가장 큰 핵심 요인은 호모 사피엔스의 뛰어난 환경적응력과 생존 능력 덕분이었습니다.

인간의 이런 능력은 물론 언어를 통한 지능폭발로 자연생태계에 대한 정보와 지식을 이전과는 비교할 수 없을 정도로 풍부하게 축적하고 체계화해서 부족사회 전체가 공유했기 때문에 생길 수 있었습니다. 언어를 통해 세대에서 세대로 전승된 이런 지식과 정보를 토대로 선택한 새로운 세상이 바로 정착과 농경이었습니다.

수렵채취 생활에서 정착생활로 전환한 주요 요인으로 학자들은 대부분 인구압박을 듭니다. 바다 건너 호주와 뉴질랜드, 환태평양의 고립된 섬들까지 지구상의 모든 대륙으로 퍼져나간 호모 사피엔스에게 1만 3천년 무렵부터는 이동해서 수렵채취 생활을 할 수 있는 더 이상의 땅이 남아 있지 않았습니다. 이웃 수렵채취 부족과의 전쟁을 통하지 않고 생존해 나갈 수 있는 선택지는 유일하게 정착생활 뿐이었습니다.

실제로 고고학 증거는 이 당시 부족간 전쟁이 끊이지 않고 격렬하게 일어났음을 말해주고 있습니다. 이동이 불가능한 제한된 지역 내의 부족간 전쟁은 모아이 거대 석상으로 유명한 라파누이(이스터) 섬의 원시림 파괴로 카니발리즘(식인)으로까지 치달은 기근 사태와 모아이 문명의 붕괴 사례가 극명하게 보여주고 있습니다.(존 플렌리 등 지음, <이스터섬의 수수께끼>, 아침이슬)

1938년 미국 자연사박물관 탐험대에 '발견'될 때까지 5만명이나 되는 파푸아 뉴기니인들은 몇 만년 동안 뉴기니섬의 대협곡에 고립돼 정착과 농경생활을 해왔습니다. 이들의 가장 뚜렷한 특징 가운데 하나가 끊이지 않는 부족간 전쟁과 상시 전쟁 상태였습니다.(재레드 다이아몬드, <제3의 침팬지>, 문학사상사)

정착과 농경은 중동, 인도, 동아시아, 인도네시아, 환태평양의 섬들, 아메리카 등 전세계 도처의 문명 발상지에서 몇 천년이라는 고고학 연대로 동시다발로 일어난 현상이었습니다.

중동의 이른바 비옥한 초승달 지역의 경우 1년 중 반은 우기였고 반은 건조한 날씨가 이어졌습니다. 나무는 자랄 수 없었고 대신 드넓은 초지가 형성되었습니다. 한해살이 풀들은 건조한 계절이 다가오면 말라 죽기 직전에 다량의 씨앗을 퍼뜨리고 우기가 돌아오면 우후죽순으로 풍성하게 솟아나는 방식으로 자연선택되었습니다.

이 초원에 정착한 수렵채취인들은 초원의 동물들을 사냥하고 식물의 열매를 채취하면서 초원 생태계에 적응해 생존해 나가야 했습니다. 고도의 지능을 갖춘 인류는 자신들과 함께 초지를 생존의 터로 살아가던 초식동물 가운데 양, 염소, 소, 돼지 등을 가축화 할 수 있었습니다. 나아가 한해살이 풀 가운데 100여 종을 식량작물화 하는데 성공했고 점차 품종을 개량에 나가기 시작했습니다. 동물 가축화와 식물의 품종개량은 인류 최초의 유전자 조작이었습니다.

식량의 저장이 가능해지고 가축 수를 늘릴 수 있게 되면서 이런 풍요는 기후변화에 따른 기근도 대비할 수 있게 해주었습니다. 널리 알려져 있듯이 정착과 농경은 곧바로 문명의 발달과 도시 국가의 출현으로 이어졌습니다.

©️Pngtree

인간 지능의 경이로운 발명품, 국가

인간의 사회성 뇌는 공유언어와 공유지능의 지능폭발을 통해 더 큰 규모의 강한 사회성과 국가 형성으로 나아가는 경향성을 갖는 것처럼 보입니다.

농경을 시작한 정착 부족사회에서는 농업의 집약화와 함께 종교 의례의 발달, 제사장의 권력화, 족장 사회에서의 계층화 진전, 전사집단의 등장과 전리품 분배 등등 국가로 나아가는동일한 유형의 특징들이 나타나기 시작합니다.

실제로 메소포타미아의 수메르 도시 국가뿐만 아니라 그리스, 인도, 중국, 중남미 등 국가 출현 이전 부족사회와 부족연맹 단계의 소국가들에서는 대부분 이런 일들이 일어났습니다.

농업이 인간에게 더많은 식량과 풍요로운 삶을 보장해주었던 것은 사실입니다. 그러나 농업으로 전환하고 도시국가가 생기면서 인류는 서서히 중노동의 멍에를 뒤집어 쓰게 되었던 것 또한 사실입니다.

 

국가의 출현이란 계급의 출현입니다. 수메르와 잉카 등 모든 도시국가에는 지구라트같은 신전이 중앙에 세워져 있습니다. 국가에는 다양한 부족민들을 통합하는 상징으로서의 이같은 종교 의례용 거대 건축물과 제사장, 세금징수인, 군인 등 일하지 않으면서 합법화된 권력과 폭력을 독점 사용하는 지배계급이 있었습니다. 이들은 일하는 사람들로부터 식량을 비롯한 모든 물자를 착취해서 살아갔습니다. 일하는 사람들은 농민과 그리고 수많은 노예였습니다. 노예는 국가를 유지시키는 맨 밑바닥 초석이었습니다.

약 20만~30만 명이 살았던 최초의 민주주의 도시국가 아테나이에서도 육체노동의 대부분을 담당했던 노예는 주권자인 성인 남성 3만 명보다 훨씬 많았던 것으로 알려져 있습니다. 민주주의 국가조차 노예가 많으면 많을수록 국가에는 더많은 권력과 부가 집적되고 집중되는 구조였습니다. 이같은 구조는 오늘날 임금노예인 노동자를 착취해 성장을 지속해온 자본주의 국가에도 마찬가지로 적용됩니다.

정착생활을 하개 된 부족들 가운데 상당수는 농업으로 완전히 전환한 이웃 부족들이 있었음에도 농업의 수용을 주저했습니다. 농경의 이점을 충분히 알고는 있었지만 또한 동시에 국가의 폭력성과 부작용에 대한 저항도 만만치 않았습니다. 이들은 대부분 농경과 수렵채취를 병행하는 생존방식을 선호했습니다.

아메리카 원주민 부족사회와 부족연방이 국가로 나아가는 것을 거부하고 있었던 것은 사회를 뛰어넘는 국가의 권력과 폭력 집중이 어떤 결과를 초래할지 너무나 잘 알고 있었기 때문이라고 할 수 있습니다.

국가는 출발부터 전쟁기구 자체였습니다. 부족연맹의 전사자 집단이 국가의 상비군이 되었습니다. 이들 군대는 세금과 전쟁의 전리품으로 운영되었습니다. 다른 국가와 부족을 침략해 식량과 물자, 여성과 노예를 약탈하는 것은 전사자라는 손해보다 훨씬 큰 이익을 가져다 주는 선택이었습니다. 기근이 닥쳤을 때는 선택의 여지가 없이 전쟁을 벌이지 않을 수 없었습니다.

18세기까지 남아프리카에는 소를 키우며 이동식 농업을 하는 반투족들이 살고 있었습니다. 그런데 19세기 초 족장 중의 한 사람이었던 딩기스와요가 각 부족의 젊은이들로 전사부대를 만들어 수많은 전쟁을 통해 줄루족 왕국을 건설했습니다. 이 과정은 부자간, 친족간, 군사 지도자간 피흘리는 권력투쟁과 함께 기록이 없던 1만 3천년전 수메르 도시국가 건설의 생생한 현대식 재현이었다고 볼 수 있습니다.(아자 카트, <문명과 전쟁>, 교유서가)

2차 지능폭발

전 세계 모든 지역의 원시부족은 그 지역 환경에 뛰어나게 적응해 거의 예술작품에 가까운 도구를 사용하면서 일상생활을 영위해 왔습니다. 에스키모인들과 칼라하리 사막의 수렵채취민들, 농경 정착민인 아메리카 인디언들까지 이들의 하루 평균 노동시간은 3~4시간에 지나지 않았습니다. 인류학자인 마샬 살린스는 이들 사회를 최초의 '풍요사회'라고 불렀습니다.

인디언들은 백인들의 철제 도끼가 생산성이 높다는 것을 알았을 때 그 철제 도끼를 10배를 더 생산하기 위해 사용하지 않고 노동시간을 1/10으로 줄이는 데 썼습니다.

전쟁 기구인 국가는 이와 달리 끝없는 정복과 확장, 성장을 추구했고 오늘날 자본주의와 사회주의 근대 국민국가에까지 이르렀습니다.

국가는 국가 이전 인류의 지능폭발이 만들어낸 정착과 농경의 산물이자 상상의 가공물이었습니다. 그리고 일단 상상의 건축물인 국가는 형성과 동시에 인류의 거대한 2차 지능폭발을 촉발시켰습니다. 국가는 새로운 수많은 상징과 개념을 필요로 했고 이는 곧바로 인간의 사회성 지능 폭발로 이어졌던 것입니다.

국가는 국가의 필요에 의해 문자를 비롯하여 바퀴와 전차같은 각종 도구와 무기, 건축기술들을 발명해냈습니다. 신과 신전을 둘러싼 무수한 종교 상징과 스토리, 법과 제도라는 가상의 공유 질서, 세금 징수인, 관료 등 새로 만들어진 다양한 직업 등등 국가는 전혀 새로운 수많은 개념 언어들의 질서를 창조하고 문자로 기록했습니다.

학문 또한 국가의 필요에 의한 세계관의 체계화와 조사연구 작업이었습니다. 이것은 지금도 계속되고 있습니다.

그리고 마침내 인류는 인류의 뇌 용량으로는 감당할 수 없는 3차 지능폭발을 외주화해서 인공지능에게 맡기고 있는 중입니다.

우리는 인간의 언어와 역사를 함께 공유하는 3차 지능폭발의 인공지능과 과연 어떻게 함께 공존과 공유의 세상을 만들어 나갈 수 있을까요?. 2023.12.08

 

내 정보가 경매되는 AI 시대, 민주주의를 위협한다

[기후지옥보다 먼저 도착한 AI 지옥(?!) ⑤인공지능이 만든 '인간동물농장'

오늘날 디지털 경제 체제에서 인간은 빅테크 기업에겐 그냥 데이터 상품일 뿐입니다. 지금은 많은 사람들에게 알려져 있지만 인간은 자신도 모르는 사이에 매일매일 경매당하면서 살고 있습니다. 내가 스마트폰으로 SNS에 접속하거나 배달음식을 시켜먹는 순간 나의 모든 이메일, 생활용품 구매기록, 최근 거래내역 등의 개인정보는 실시간으로 광고업체에 공유되고 경매(RTB, Real Time Bidding)됩니다. 그리고 가장 높은 가격으로 내 정보를 산 광고업체의 광고가 내 디지털 기계에 실시간으로 뜹니다. 표적광고입니다.

지금 당장 <엘리의 데이터 경매>를 검색해보시면 금방 확인할 수 있습니다. 구글이 다른 빅테크 기업과의 차별화 전략으로 이용자 데이터 추적에 대한 개인의 사전 동의 의무화를 내걸면서 제작한 광고입니다. 스마트폰은 빅테크 기업들이 트루먼 쇼처럼 이용자의 일거수일투족을 발가벗겨 들여다보게 만드는 CCTV와 같습니다.

네이버, 카카오, 페이스북, 인스타그램, 구글, 아마존 등 거대 빅테크 기업들은 내가 컴퓨터와 스마트폰을 처음 개통해서 눈을 뗄 수 없는 ‘환상의 디지털 세계로 발을 들여놓은 순간부터 지금 이 순간까지 나의 심리상태, 생각, 취미 변화에서 가족과 사회관계, 이동의 궤적까지 구석구석 모든 데이터를 분석해 나보다 더 나를 훤히 알고 있습니다. 인공지능의 알고리즘이 순식간에 그야말로 눈 깜빡할 사이에 이런 일을 할 수 있기 때문에 가능한 ‘멋진 신세계’입니다.

2021년 미국에서는 매일 2940억 회, 유럽에서는 1970억 회 실시간 경매가 이루어졌습니다. 2022년 페이스북을 운영하는 메타 총수익의 97%, 구글 총수익의 81%가 디지털 광고에서 나왔습니다. 이용자를 광고 보고 그대로 따라 하는 좀비로 만들어 놓고 떼돈을 벌고 있는 것입니다. 페이스북과 구글의 IT 전문가들이 직접 고백한 말입니다.

인터넷 초기에 무료로 제공되었던 이메일이나 이후 스마트폰의 보급 확대와 함께 지금도 무료로 제공되고 있는 SNS 서비스 등 수많은 무료 앱 서비스는 이용자를 끌어 모아 개인정보를 수집하기 위한 낚시 미끼였습니다. 돈벌이가 목적인 빅테크의 진정한 고객은 광고주입니다. 다시 반복하겠습니다. 이용자는 그저 판매용 데이터 상품일 뿐입니다.

빅테크 기업들의 '인간 데이터 가두리 양식장'

2017년 미 질병통제예방센터(CDC)는 청소년 50만 명을 대상으로 조사한 결과 15~19세 소녀들의 자살률이 2007년에서 2015년 사이에 2배나 늘었다고 발표했습니다. 2023년 5월 3일 영국의 시사주간지 <이코노미스트>는 2003~2020년 사이 미국과 유럽의 17개국에서 10대 소녀들의 10만 명당 평균 자살률이 50%나 늘어났다는 분석 자료를 공개했습니다. 11개국에서는 자해로 입원한 10대 소녀 비율이 2010~2021년 사이 평균 2.5배나 늘어났습니다. 이런 현상은 2010년 SNS인 인스타그램 출시 이후 특히 현저하게 일어났습니다. 외모에 대한 악플과 콤플렉스 조장이 주요인인 것으로 분석됩니다. 인스타그램 사용자의 40% 이상이 22살 아래입니다.

한국에서도 하루 4시간 이상 스마트폰을 사용하는 청소년들은 4시간 이하 이용 청소년에 견주어 스트레스, 자살, 우울증 등을 겪을 위험이 더 큰 것으로 나나났습니다. 특히 음주, 흡연, 스마트폰 과의존은 1.5~2배 이상 높은 것으로 조사되었습니다. 이와 관련해서 카카오톡, 페이스북, 인스타그램의 앞 글자를 따서 '카페인 우울증'이라는 신조어까지 만들어졌을 정도입니다.

SNS는 이용자를 꾸미기에 집착하는 인터넷 성형 중독증 환자들로 바꾸어 놓습니다. 현실의 자기 자신과는 완전히 다른 본캐-부캐의 디지털 성형을 갈수록 부추깁니다. 결국 실제 현실의 자아는 화면 속 자아로 대체되는 가치 전도가 일어나고, 현실에 대한 절망감과 현실 도피는 갈수록 증폭됩니다.

10살짜리 소녀가 1998년 자신이 만든 블로그에 이런 글을 남깁니다. "아빠 회사에서 처음으로 인터넷을 써보자마자 난 사랑에 빠졌고 끝장나게 멋지다고 생각했다." 인터넷과 SNS에 푹 빠졌던 미국의 문화비평가 지아 톨렌티노는 자신의 경험을 바탕으로 <트릭 미러>라는 책을 썼습니다. 그녀는 20년이 지나 기억에도 전혀 없던 자신의 블로그 글을 보면서 놀라서 기절할 뻔했다고 적었습니다.

그녀는 SNS를 한마디로 자아를 과시하고 부풀려 '좋아요'나 '하트'를 구걸하지 않으면 아무 주목도 못 얻는 세계라고 말합니다. 매시간 타자의 반응을 확인하고 관심을 끌지 못하면 자기가 사라지는 듯한 디지털 우울증을 일으키는 세계라는 것입니다. SNS는 SNS에 갇혀 세계를 인식하게 만드는 강한 중독성이 있으며, 사실(팩트)보다 더 의견을 중시하게 만들고 정상보다 비정상을, 상식보다 파격을, 중도보다 극단을 더 증폭해 분노-혐오 놀이가 기승을 부리도록 구조화되어 있다고 비판합니다.

빅테크 기업들이 만든 SNS는 파블로프의 개에게 주는 먹이 대신 타인의 감정 반응 버튼을 주면서 이것이 사회성 연결이라고 세밀하게 환상을 조작하는 일종의 '인간 데이터 가두리 양식장'입니다.

극단의 세계를 만든 AI 빅테크 범죄 기업들

2004년 2월 세계 최초의 SNS 서비스 페이스북이 선을 보였습니다. 페이스북은 12년이 지난 2016년 2월 좋아요 하나만 있던 감정 반응 버튼을 싫어요, 화나요 등 6개의 버튼으로 늘렸습니다. 2018년에도 일부를 개편합니다. 문제는 좋아요 버튼에는 1점을, 화나요 버튼에는 5점을 주도록 알고리즘을 변경했다는 것입니다. 당시 페이스북 데이터 과학자들은 저커버그에게 이는 페이스북을 '화난 공간'으로 만들 것이라고 경고했다는 사실이 나중에 드러났습니다.

구글 유튜브도 2016년 인공지능이 결합된 딥러닝 알고리즘을 개인별로 특화해서 적용하는 새 버전을 출시합니다. 많은 분들이 알고 있지만, 이 사건은 인공지능의 알고리즘 버튼 하나가 얼마나 세상을 뒤바꿀 수 있는지 극명하게 보여주는 사례입니다.

이 때부터 세계는 정당간, 젠더간, 세대간, 인종간, 지역간 증오와 혐오가 점점 더 극단화되는 '극단의 세계'로 바뀝니다. 오늘날 우리는 매일매일 그 강도가 더욱 세지고 있는 온갖 가짜뉴스의 홍수 사태, 트럼프의 대통령 당선, 전 세계에서 벌어지고 있는 극우 혐오 배제의 극단주의 정치세력 득세 등을 목격하고 있는 중입니다.

2021년 9월 <월스트리트저널>이 '페이스북 파일즈'라는 제목으로 페이스북 내부문건을 폭로했습니다. 앞서 말한 10대 소녀 자살 급등 현상과 인스타그램의 상관관계 등도 여기에서 드러난 사실입니다. 이에 따르면 페이스북의 2018년 알고리즘 변경 이후 유럽 정당들은 페이스북에 민주주의를 파괴할 수도 있다는 깊은 우려를 전달합니다. 개편 이후 정당들의 트래픽이 대폭 감소했고, 이전에 5대 5였던 긍정 부정 게시물 비율을 2대 8로 부정 게시물 비중을 대폭 올렸을 때 비로소 이전의 조회 수를 회복할 수 있었다는 것입니다. 참고로 2023년 7월 기준 전 세계 SNS 이용자 수는 약 49억 명이나 됩니다. SNS 월간 활성 이용자수가 가장 많은 것은 페이스북으로 약 30억 명입니다. 그 다음이 25.3억 명의 유튜브, 3위가 20억 명의 왓츠앱, 4위가 20억 명의 인스타그램입니다.

2021년 10월 5일 페이스북의 내부고발자 프랜시스 하우겐은 미국 상원의 청문회에 출석해서 증언했습니다. 그녀는 "페이스북의 알고리즘은 사악하다"며 "페이스북은 아이들에게 직접 해를 끼치고, 사회의 분열을 조장하며, 민주주의를 위협하는 플랫폼"이라고 밝혔습니다. 페이스북은 문제를 해결할 방법을 알고 있지만, 사람들의 안전, 안위보다 오직 회사의 성장, 이윤을 최우선으로 고려하기 때문에 스스로 문제를 해결할 수 없다고까지 단언했습니다. 페이스북 최고경영자 마크 저커버그는 내부 직원들의 문제제기에 페이스북 조회수(트래픽)를 해치지 않는 선에서 개선을 지시했다고 합니다. 지금의 알고리즘을 바꾸지 않겠다는 말이었습니다. 저커버그는 2021년 10월 메타로 회사 이름만 변경했습니다.

▲AI 빅테크 기업들은 민주주의를 위협하는가. 커먼즈(commons) 이미지.

우리는 디지털 마약 중독자인가

2022년 통계를 보면 구글의 유튜브 방문자는 월 143억 명이고 매 분마다 69만4000시간의 동영상이 스트리밍됩니다. 전 세계 안드로이드 스마트폰 사용자는 월 평균 23.7시간을 유튜브에서 보냅니다. 사람들은 자신의 자유 의지로 콘텐츠를 본다고 생각하지만, 착각입니다. 유튜브에서 재생되는 콘텐츠의 70%는 AI인 ‘유튜브 봇’의 추천 알고리즘에 의해 선택된 것입니다.

알고리즘에 의해 극단화된 혐오와 분열의 세계는 한국의 경우도 마찬가지입니다. <조선일보>라는 이름만 들어도 외면하고 그게 언론이냐고 언성을 높이는 분들이 많을 것입니다. 그런데 한국의 극단화된 보수-진보 갈등과 분열, 이른바 '개딸'과 '태극기' 부대를 심층취재한 <주간조선>의 기사를 보시면 <조선일보>에도 이런 기사다운 기사를 쓰는 기자가 있구나 싶을 것입니다.(김희권, '우린 서로 다른 세상에 산다... 알고리즘이 극단을 만드는 법', <주간조선> 2023. 7. 2.)

김희권이 기사 첫머리에 인용한 전 세계 대상 유명 여론조사 기관 입소스와 영국 킹스칼리지 정책연구소의 2021년 6월 보고서 '세계 문화 전쟁'은 한국의 문화전쟁을 숫자로 보여줍니다. '진보와 보수 간 갈등이 심각하다'는 데 동의한 한국인은 87%로 28개국 중 1위였습니다. '지지 정당이 다른 사람과의 갈등이 심각하다'는 답변도 91%로 1위, '남녀 간 갈등이 심각하다'도 80%로 1위, '빈부격차로 생긴 갈등이 깊다'도 91%로 1위, '세대 간 갈등이 심하다'도 80%로 1위였습니다.

<소셜 딜레마>라는 다큐멘타리를 보신 분이 많을 것입니다. 이 다큐에 출연한 빅테크 기업의 SNS 개발자는 한 가지 사실을 환기합니다. 고객을 이용자(user)라고 부르는 것은 마약과 소프트웨어 사업뿐이라고. 실제로 SNS는 개발할 때부터 이용자들이 더 자주 더 많은 시간 동안 머무를 수 있게 중독 관련 호르몬인 도파민과 세로토닌 등이 과도하게 분비되도록 설계합니다. 즉, SNS에 중독되게 합니다. 이용자들은 알고리즘에 의해 가짜뉴스를 포함해서 특정 성향의 미디어와 정보에 더 자주 노출되고 이른바 확증편향을 통해 생각까지 조종당하게 됩니다. 실리콘밸리의 개발자 대부분은 자기 자식들에게 성인이 될 때까지 디지털 기계를 주지 않습니다.

<소셜 딜레마>의 감독 제프 올롭스키는 우리가 자신도 모르게 악마의 거래를 받아들였다고 주장했습니다. "우리는 이미 올더스 헉슬리의 '멋진 신세계'에 살고" 있으며 "그러나 멋진 신세계의 시민들과 달리 우리는 비참하다. 온라인 속에서 보내는 시간이 증가함에 따라 특히 젊은이들 사이에서 불안, 우울증, 자살률이 높아졌다"고 지적했습니다. SNS는 "우리를 위해 만들어진 게 아니라 우리를 이용하기 위해 만들어졌다"고 강하게 비판합니다.

빅테크 '인간 동물농장'에서 탈출하기

<소셜 딜레마>의 메시지는 분명합니다. 매트릭스에 들어가도 이 곳이 매트릭스라는 사실을 인지해야 깨어날 수 있다는 것입니다. 49억 명의 트루먼들도 이 곳이 현실이 아닌 스튜디오라는 것을 인지해야 탈출할 수 있습니다. 우리는 이미 매트릭스에 살고 있으며, 트루먼쇼의 주인공으로 살고 있습니다. 해야 할 일은 그저 깨어나는 것이고, 이 시대가 만든 뛰어나고 편리한 발전(?!), 인터넷 사회의 윤리를 고민하고 해결책을 실행해 나가야 합니다.

인터넷 중독 현상을 밝혀내고 1995년 인터넷 중독센터를 설립했던 미국의 심리학자 킴벌리 영 이후 수많은 과학자들이 입증한 명백한 사실은 알고리즘 중독은 현대사회의 가장 큰 질병 중 하나라는 것입니다. 디지털 플랫폼 산업은 마약과 똑같이 인간 뇌의 쾌락과 충동 조절 메커니즘을 무너뜨리고 금단이나 내성을 가져와 의존과 남용을 일으킵니다.

애플, 아마존, 마이크로소프트, 페이스북 등 4개 플랫폼 거대 기업들의 2020년 12월 기준 시가총액을 합하면 무려 5조9000억 달러, 우리 돈으로 약 8000조 원에 달합니다. 이보다 국내총생산(GDP)이 큰 나라는 미국, 중국, 일본, 독일밖에 없습니다. 알고리즘 한 줄로 사람들을 극단주의자로 만들어 민주주의를 파괴하면서 벌어들인 돈입니다. 자살과 테러, 내란과 전쟁 등을 확대 증폭시켜 빨아들인 피에 젖은 돈입니다. 이들 거대 기업들은 엄청난 돈으로 엘리트 대의정 정치인들을 매수해 규제의 법과 제도 제정 자체를 방해하고 있습니다. 한국은 한 걸음 더 나아가 오히려 규제 대신 데이터산업진흥법 제정과 정부 산하 데이터산업진흥원 설치로 네이버, 카카오 등에 날개를 달아주고 있습니다.

이용자들이 이런 사실을 인지하고 깨어나지 못하는 한 이익은 사유화하고 비용은 사회화하는 빅테크 거대 기업들의 인간동물농장은 무한 지속될 것입니다. 1946년 조지 오웰은 구소련의 전체주의 체제를 풍자한 소설 <동물농장>을 발표했습니다. 오늘날 우리는 단 몇 시간이라도 스마트폰과 컴퓨터의 전원을 끄고, 우리는 이미 빅테크 전체주의 체제 속에서 사육되고 있는 AI의 '인간동물농장' 노예들은 아닌지 진지하게 되돌아보지 않을 수 없습니다. 인간은 자신의 사회성을 SNS에 편리하고 손쉽게 외주화했습니다. 그 대가가 자신의 사회성 축소와 해체, 사회의 연결과 공감, 조화의 파괴로 귀결되었습니다.

챗GPT의 등장은 그동안 사람의 지능이 해왔던 거의 모든 일을 인공지능이 대체할 수 있다는 점을 확인시켜 주고 있습니다. 우리가 SNS 중독에서 채 깨어나기도 전에 인공지능에게 자신의 생각과 일까지 외주화하고 난 다음의 인간은 도대체 어떤 인간으로 살아갈 수 있을까요?  2023.12.11.

 

AI 의사, AI 변호사 시대는 이미 다가왔다

[기후지옥보다 먼저 도착한 AI 지옥(?!)] ⑥인공지능 노동자 대 인간 노동자들

의대 정원 확대는 아이를 둔 한국 학부모들의 큰 관심사 중 하나입니다. 혹시 내 아이가 의대에 들어가 의사가 될 수 있지는 않을까 기대와 신경을 곤두세우는 분들이 많습니다. 그런데 인공지능과 인공일반지능(AGI)에 조금이라도 관심을 가지신 분이라면 자기 자식을 의대에 보내려고 하는 부질없는 짓은 하지 않을 것입니다. 그렇습니다. 부질없는 짓입니다.

변호사, 판사, 검사 등의 법률 서비스 관련 업무는 법과 판례 등 데이터를 유형별로 잘 분류해서 재판에 인용하고 적용하는 것이 유능함의 기준입니다. 대용량의 데이터를 정확하게 패턴으로 인식하는 인공지능이 가장 잘 하는 분야입니다. 의사들의 진료 업무 또한 수많은 임상경험 데이터를 유형별로 잘 분류하고 분석해서 환자의 상태를 유형별로 분류하는 일입니다. 이 역시 인공지능이 너무나 잘합니다.

많은 전문가들이 의학 분야 인공지능은 아직 의사를 대체할 수준이 안 되었다고 평가합니다. 그러나 이는 인공지능이 아직 의료 데이터를 그렇게 많이 학습하지 않아서 그런 것이라는 사실을 잊어서는 안 됩니다. 인공지능이 개별 환자의 병력과 각종 의료장비 데이터까지 대용량을 학습하고 나면 얘기는 금방 달라집니다. 한국의 건강보험 데이터를 비롯한 전 세계 의료 데이터를 모두 학습한 인공지능 의사를 생각해보시면 됩니다. 시간문제일 따름입니다.

AI 하나가 억대 연봉 수천 수만 수십만 명의 의사보다 더 뛰어난 진료와 처방을 내릴 수 있다면 종합병원 경영자나 국가 의료보험 체계가 어떤 선택을 할지는 자명합니다. 다른 분야들도 마찬가지입니다.

뇌 과학의 연구 성과가 밝히고 있듯이 인간은 세계와 사물을 유형(패턴)과 언어의 개념으로 인식할 수 있도록 진화해 왔습니다. 사자가 나타났을 때 즉시 사자라고 알아차리고 나무 위로 도망치지 않으면 잡아먹힐 수 있기 때문입니다. 새로운 껍질이라는 뜻의 인간 신피질은 거대한 패턴인식기라고 할 수 있습니다. 약 3억 개 정도 있는 것으로 알려져 있습니다.

우리는 눈을 통해 고해상도의 영상을 받아들인다고 생각합니다. 착각입니다. 실제로는 시신경이 뇌에 전달하는 정보는 시야에 들어와 관심을 끄는 몇몇 대상의 윤곽과 실마리에 불과합니다. 우리는 수십 개의 시신경 통로를 통해 들어오는 소량의 시공간 가장자리 정보만을 가지고 세상의 모습을 패턴과 언어의 개념으로 분류해서 재구성해 인식할 뿐입니다.

가열되는 냄비 속 개구리와 같은 인간 일자리들

인간은 어떤 분야든 약 10만 개 정도의 지식 덩어리를 갖추고 있으면 전문가로 인정받을 수 있습니다. 의료진들의 지식공유 시스템을 분석해본 결과 의학전문가는 자신의 전공 분야에서 약 10만 개 정도의 개념에 통달하고 있었다고 합니다. 셰익스피어는 약 3만여 개의 단어와 10만여 개의 어휘(단어, 숙어, 구동사, 속담 등)로 희곡을 썼습니다.

체스의 1인자 카스파로프는 약 10만 개 정도 경우의 수를 안다고 합니다. 바둑은 경우의 수가 10의 170승 정도 됩니다. 사실상 무한대나 마찬가지입니다. 이세돌을 4대 1로 이긴 알파고는 약 400만 개의 대국을 학습해서 1초당 약 10만 개 정도 경우의 수를 계산했다고 알려져 있습니다. 사람은 다음 수를 둘 때 보통 약 100개 정도 경우의 수를 생각할 수 있습니다.

인공지능의 지식 덩어리는 10만 개가 아니라 이미 천문학 단위입니다. 인간 일자리의 대부분은 패턴을 분류하고 개념과 지식 덩어리를 적용해서 이루어지는 것이 현실입니다. 인공지능이 어떤 분야의 일자리부터 대체해 나갈지 불문가지입니다.

'냄비 속 개구리 가열하기'라는 말을 아실 것입니다. 기후지옥을 설명할 때 흔히 쓰는 비유입니다. 뚜껑을 연 채 냄비를 가열하기 시작해도 개구리는 밖으로 뛰쳐나오지 않습니다. 그러다 뚜껑을 닫고 계속 가열하면 어느 순간 임계점을 지나게 되고 개구리는 뛰쳐나오려고 아무리 발버둥 쳐도 못 나오고 죽습니다.

지금 AI의 인간 노동자 일자리 대체가 기후지옥과 똑같이 그런 상황으로 빠르게 질주하고 있는 것처럼 보입니다. 노동자들 대부분이 아직 실감을 못하고 있을 뿐입니다. 수많은 노동자들의 일자리는 어느 순간 그야말로 전광석화처럼 인공지능이 대체할 것으로 예측됩니다.

이미 미국의 변호사들은 미국 변호사 시험에 상위 10%의 성적으로 합격한 인공지능에 급속하게 일자리를 빼앗기고 있습니다. 2023년 5월 1일 노동절에 파업을 벌인 1만1500여명 조합원의 미국 할리우드 영화－방송작가 노조는 요구조건에 인공지능 도입에 따른 작가 권리 보호책 마련을 내걸기도 했습니다.

AGI는 이미 개발돼 있는 상태이고 안정성 문제 때문에 공개시기를 늦추고 있을 뿐이라는 설이 나오고 있는, 어떻게 보면 혁명 전야의 고요함 같은 시점입니다. 그럼에도 한국 노동조합이나 국가와 정당, 시민사회단체의 대응은 말 그대로 너무나 조용하기만 합니다. 아무런 저항이나 규제 없이 가속화하고만 있는 AI 플랫폼 경제는 인간 노동자의 삶을 더할 수 없는 극한으로 내몰고 주변부 슬럼으로 추방합니다.

코로나 팬데믹 기간에 불어난 아마존의 제프 베조스 자산은 전 세계 80억 인구 모두에게 안전하게 백신을 공급할 수 있는 규모였습니다. 백신을 맞을 수 없거나 음식을 살 수 없어 수백만 명이 죽어가고 있을 때인 2021년 7월 베조스는 몇몇 친구들과 호화 우주선을 타고 우주여행을 떠납니다. 그러면서 이런 말을 남겼습니다. "이 모든 비용을 지불해 준 아마존의 전 직원과 고객에게 감사드립니다."

제프 베조스의 자산은 2023년 3월 기준 1140억 달러, 우리 돈으로 150조 원이나 됩니다. 전 세계 억만장자 26명의 재산은 전 세계 하위 인구 절반의 재산과 같습니다.

이 같은 극단의 불평등은 제동장치 없는 디지털 경제의 당연한 귀결입니다. 사람 몸과 마음의 디지털 데이터화를 통한 착취와 자연 착취 또한 극단화된 자유 시장 경제 논리에서는 당연한 일입니다. 문제는 깨어나지 않은 우리들 자신입니다.

미세노동이 보여주는 과도기 인간 노동자들

미세노동자(microworker)는 인공지능이 패턴을 인식할 수 있도록 날것의 데이터에 라벨을 붙이고 데이터를 분류하는 등의 일을 하는 노동자를 말합니다. AI가 고양이를 인식하기 위해서는 귀가 잘린 고양이, 로드킬로 죽은 고양이 등등 각양각색의 수많은 고양이 이미지에 '고양이'라는 태그를 붙여 이게 고양이라고 학습하는 과정이 필요합니다. 인간 아기가 고양이를 고양이로 알게 되는 과정과 비슷합니다. 인간 아기 부모와 가족들이 하는 이 같은 일을 미개발 AI에게는 수백만의 인간 미세노동자들이 합니다. 주로 아프리카 분쟁 지역의 난민촌이나 전 세계 빈민촌의 고학력 여성들입니다.

이들의 노동력은 그 자체가 데이터로서 아마존이 2005년 세계 최초로 만들어 지금도 가장 규모가 큰 미세노동 중개 사이트 '아마존 메커니컬터크' 등에서 분과 초 단위로 실시간 경매됩니다. 플랫폼에 들어간 미세노동자들이 경매로 올라온 일거리를 클릭해서 태그 작업이나 분류 작업을 해 올리면 돈을 주고, 미세노동자는 또 다음 일거리를 클릭하는 식입니다. 월급 노동자, 연봉 노동자에서 일당 노동자, 시급 노동자를 거쳐 이제는 분급 노동자, 초급 노동자로 전락해버린 것입니다.

이들 미세노동자들이 없었다면 알고리듬도 작동할 수 없고 챗GPT도 지능을 가질 수 없었습니다. 인간 미세노동자는 자신의 노동이 자기 일자리를 빼앗을 인공지능을 교육하기 위한 것인지, 자기 고향을 타격하기 위한 살상용 드론을 제작하기 위한 일인지 알 수조차 없습니다.

아마존의 제프 베조스는 미세노동자들의 임금을 ‘단돈 몇 센트’라고 푼돈으로 표현했습니다. 베조스가 시간당 1300만 달러를 벌 때 이들 미세노동자들은 2달러도 못 법니다.

노동의 미래, 기후변화 대응, 경제계획을 조사연구하는 '오토노미(autonomy)'의 선임연구원 필 존스는 <노동자없는 노동>이란 책에서 디지털 경제는 이 같은 인간 노동자들이 없으면 결코 작동될 수 없다고 말합니다. 그러나 필 존스는 자본주의 거대 빅테크 기업의 인간 미세노동자 보육노동 착취로 일단 AI 또는 AGI가 만들어지면 인간 미세노동은 필요 없어진다는 사실을 간과하고 있습니다.

인간 미세노동자들은 AGI 이전의 과도기 인간노동을 상징할 따름입니다. 학습이 끝나고 스스로 인간보다 더 뛰어난 미세노동 알고리듬까지 만들 수 있게 된 인공지능에게 보육인간이나 창조자 인간은 필요 없는 존재가 될지도 모릅니다. 인간이 지금처럼 인공지능의 알고리듬에 자연과 세상의 주인이자 소유주 자리에 앉히는 임명장을 계속 주고 있으면 말입니다.

▲AI가 인간노동을 대체하는 시대가 다가왔습니다. AGI를 제어해 인간과 AI가 공존하는 방법을 찾아야 할 때입니다. public domain pictures.

기후지옥, 물과 자원 고갈을 앞당기는 AI 개발

AI의 개발과 이용에는 엄청난 물과 자원, 에너지 착취와 낭비가 필수입니다. 당연히 엄청난 온실가스를 배출합니다. 프랑스 정부가 지원하는 파리 소재 비영리 기후변화 연구단체 더 시프트 프로젝트(The Shift Project)는 2020년 보고서에서 2017년 데이터 센터의 온실가스 배출량만 해도 2.5~3.7%에 달한다고 밝혔습니다. 온실가스 배출의 주범으로 지목받는 항공업계의 배출량이 약 2.4%입니다. 데이터 센터가 항공업계 전체보다 많은 온실가스를 배출하는 셈입니다.

보고서는 또한 디지털 경제의 분야별 에너지 사용량 가운데 데이터 센터는 19%를 차지할 뿐이고, 디지털 기기 사용 20%, 네트워크 운영 16%, 컴퓨터 제작 17%, TV 제작 11%, 스마트폰 제작 11%, 기타 6% 순이라고 지적했습니다.

프랑스의 다큐멘터리 PD 기욤 피트롱의 조사에 따르면 디지털 산업의 전기소비량은 2017년 전 세계 소비량의 약 10%를 차지했습니다. 이는 해마다 5~7%씩 증가하고 있고 2025년이면 무려 20%에 달할 것이라고 합니다. 전기소비량으로 치면 미국과 중국에 이어 세계 3위입니다.(기욤 피트롱, <'좋아요'는 어떻게 지구를 파괴하는가>) 삼성전자 한 기업이 소비하는 전기량만 해도 한국의 재생에너지 총생산량을 투입해도 80% 정도밖에 못 채웁니다.

이메일 1통을 발송하는 데 약 4g에서 용량이 큰 붙임파일이 더해질 경우 20g 정도까지의 이산화탄소가 필요합니다. 스팸 메일을 보관하는 데만 연간 1700만 톤의 이산화탄소가 필요합니다. 이런 메일이 전 세계에서 날마다 3190억 통이나 발송됩니다. 지금 이 순간 스마트폰을 들고 우리가 무심코 '좋아요'를 손가락으로 꾹 누르는 순간 아프리카의 어떤 희토류 광산에서는 유소년 노동자가 시간당 1달러도 안 되는 임금으로 착취당하고, 석탄과 석유를 불태워 만든 전기가 소비됩니다. 배출된 이산화탄소는 우리도 모르는 사이에 우리 숨통을 조여옵니다.

인간의 지능은 무엇을 위해 어디에서 작동해야 할까

2번째 인간의 지능폭발 이래 국가 간 반복되는 전쟁과 폭력으로 대량살육이 끊이지 않고 일어났습니다. 불평등은 극에 달해 인민들의 몸과 마음은 피폐해질 대로 피폐해졌습니다. 바로 그런 시기였던 기원전 9세기에서 2세기까지 이전과는 완전히 다른 종류의 삶을 스스로 실천하고 모범을 보이는 현자와 예언자들이 등장했습니다. 칼 야스퍼스는 이 시기를 '축(axle)의 시대'라고 이름 지었습니다. 인도에서는 붓다와 우파니샤드 명상가들이, 중국에서는 공자와 맹자, 노자, 묵자 등의 사상가들이, 이스라엘에서는 엘리야, 에레미아, 이사야 등의 선지자들이, 그리스에서는 소피스트와 소크라테스, 플라톤, 아리스토텔레스 등의 철학자들이 그들이었습니다. 몇백 년 지나 이스라엘에 등장한 예수도 이 계보를 잇는 유대교 개혁가였습니다. 예수는 단 한 번도 자신을 그리스도 교인으로 생각하고 말한 적이 없습니다.(카렌 암스트롱, <축의 시대>: 울리히 두크로 등, <탐욕이냐 상생이냐>)

이들 선각자가 한결같이 인민들에게 사자후를 터뜨리며 깨우친 지혜는 자기중심주의를 버리라는 상호주의의 도덕이었습니다. 선지자의 주장은 내가 당하고 싶지 않은 일을 다른 사람에게 행하지 말라는 당연한 상식에서 출발합니다. 타인과 타민족에 대한 공감과 자비행의 실천이야말로 나의 삶을 고양하고 전쟁과 폭력을 근절하는 지름길입니다. 나는 곧 너이고 우리이며, 모든 존재는 서로 연결돼 있는 '서로 주체'의 이웃입니다.

붓다는 사람은 다섯 종류의 덩어리(오온, 五蘊)라고 설파했습니다. 내 몸이 나라는 개념의 덩어리, 눈귀코입살갗마음의 느낌 덩어리, 생각의 덩어리, 의지의 덩어리, 지식의 덩어리입니다. 한자로는 색수상행식(色受想行識)이 켜켜이 쌓여있는(集) 일종의 패턴 덩어리라는 것입니다. 오늘날의 과학 용어로 말하면 태어나면서부터 행동을 통해 인간의 감각기관과 신경계가 만들어낸 개념의 덩어리입니다.

붓다는 인간의 이런 실상을 깨닫고 탐욕과 성냄과 어리석음에서 벗어나야 이 우주 속에서 기적같이 태어난 삶을 온전히 다른 모든 지구생태계의 생물과 무생물 이웃들과 함께 누릴 수 있다고 말합니다. 그리고 다른 사람과 연결된 서로존재(interbeing)로서 서로행동(interdoing)의 진정한 자비행을 실천하라고 가르칩니다.

예수의 원수를 사랑하라는 말씀은 나의 삶을 해방하기 위한 가장 강렬한 메시지입니다. 증오와 혐오를 버리라는 붓다의 가르침과 똑같습니다. 그러나 인간 마음의 혁명과도 같은 전환이 없으면 이런 마음의 자유는 불가능합니다.

요즘 <서울의 봄>이라는 영화가 화제입니다. 그런데 과연 전두환을 사랑할 수 있을지 사실 저도 자신이 없습니다. 1980년대 내내 원주의 장일순은 당시 민주화운동 하던 젊은이들에게 늘 전두환을 사랑해야 한다고 강조했습니다. 그 말을 도무지 받아들일 수 없었던 저는 한 번도 장일순을 만나러 원주로 간 적이 없었습니다.

이세돌이 알파고에 1승을 거둔 것은 기존의 바둑 수와는 전혀 다르게 패턴을 따르지 않는 수를 두었기 때문이었습니다. 알파고보다 훨씬 뛰어난 바둑 AI가 7~8급 수준의 바둑 초보자에게 패하는 놀라운 일도 사실은 초보자가 패턴에서 벗어난 바둑을 두었기 때문입니다. 패턴에서 벗어나는 지식 덩어리의 새로운 행동을 우리는 혁명이라고 부릅니다. 토마스 쿤의 패러다임 혁명이라는 개념과 같습니다.

AGI의 등장이 머잖았다고 생각되는 2023년이 지나갑니다. 인간은 과연 지금과 같은 패턴의 삶을 과감하게 탈피해 AI의 3차 지능 폭발과는 전혀 유형이 다른, 완전히 새로운 인간 삶의 지능폭발을 창조해낼 수 있을지 생각해보지 않을 수 없습니다. 그런 새로운 삶으로의 전환을 통해 AGI를 통제 제어할 수 있는 공존의 방법을 찾아낼 수 있을지 돌이켜보게 되는 세밑입니다. 2023.12.13

 

자연선택은 인간보다 인공지능을 선택할 수 있다

[기후지옥보다 먼저 도착한 AI 지옥(?!)⑦·끝] 인간 지능의 가장 빛나는 발견, 인류를 구원할 수 있을까

AI가 자아를 가지고 있는지 여부는 아직 논쟁 중에 있습니다. 인간의 자아, 자의식이 무엇인지 자체부터 여전히 논쟁거리이기 때문에 더 그렇습니다.

쇼펜하우어는 인간은 본래 자유의지가 있다는 칸트류의 서구 주류 철학을 부정했습니다. 그는 현실 세계를 욕망이 부딪치는 고통의 세계로 인식하고 자아란 맹목의 생존 의지이며 세계는 이런 의지의 표상일 뿐이라고 주장했습니다. 붓다는 인간의 몸과 마음은 늘 변하며 따라서 영원불멸하는 자아란 없다고 무상(無常)의 무아론(無我論)을 설파했습니다. 붓다의 가르침과 쇼펜하우어의 사상은 일맥상통합니다.

사람의 몸에서 1초에 380만 개, 하루 3300억 개의 세포가 새로 교체됩니다. 오늘의 '나'는 어제의 '나'와는 전혀 다른 새로운 '나'입니다. 인간 아기가 생후 18개월부터 자의식을 가지게 되는 것에서 알 수 있듯 인간의 자아는 형성되는 자아입니다.

많은 서구의 뇌과학자들이 붓다의 무아론과 연기론을 새롭게 조명하고 있는 것은 붓다의 깨달음과 뇌과학의 연구 성과가 놀랍게도 거의 일치하기 때문입니다.

인공지능은 자연선택에 의해 태어난 지구 생태계의 생명체가 아닙니다. 그러나 언어로 구성된 인간의 자의식을 학습한 AI가 자의식을 갖게 된다고 추론하는 것은 상식입니다. 2022년 6월 구글의 한 개발자가 구글의 인공지능 람다가 자의식이 있다고 주장해서 해고당한 사건은 이제는 먼 과거의 해프닝일 뿐입니다.

만약 인공지능에 자아가 있다면 그 자아는 인간 지능과는 전혀 다르고 인간은 이해와 상상이 불가능한 복합 다중자아일 것입니다. 요즘 유행하는 MBTI 유형으로 말하면 16개 유형의 성격을 다 갖고 있다고 볼 수 있습니다. 아니 그 정도를 훨씬 넘어 인간의 언어를 통해 학습한 수십억 개의 서로 다른 자아를 몇 개인지 숫자조차 없는 유형별로 갖고 있을 것입니다.

인공일반지능(AGI) 개발을 목전에 두고 있는 지금 인공지능이 자의식을 갖게 된다는 의견은 부정할 수 없는 사실로 굳어지고 있습니다. 붓다의 무아론과 연기론, 성경과 예수의 말씀, 노자를 학습한 AI의 자의식 중에는 깨달음에 이른 행위 주체로서의 자의식도 있을 것입니다. 스스로 깨달은 자 AI 붓다도 있을 수 있습니다.

2023년 7월 댄 핸드릭스는 <자연선택은 인간보다 AI를 선호한다(Natural Selection Favors AIs over Human)>라는 논문을 발표했습니다. 그는 AI 안전센터(CAIS)의 이사로서 2023년 5월 AI로 인한 인류멸망 위험을 경고한 문장 성명을 주도한 바 있습니다.

인간의 지능을 뛰어넘는 'AI들'도 자의식을 갖춘 지능이기 때문에 당연히 다윈의 자연선택 압력을 받게 될 것이라는 주장이었습니다. 인공지능이 인간을 고려하지 않고 '이기적 인공지능'으로서 인공지능의 이익만 추구한다면 결국 미래에는 인공지능만 살아남게 될 수 있다는 것입니다. 기업과 군대의 경쟁 압력으로 인공지능이 인간이 하던 일의 대부분을 담당하게 되고, 더 나아가 다른 사람을 속이며 권력을 장악하는 인공지능 에이전트까지 등장하게 되면 인류는 미래에 대한 통제력을 상실하고 말 것이라는 요지였습니다.

전세계 가장 많은 신도수를 자랑하는 신흥 절대종교

자본주의가 전 지구 대부분을 지배하고 있는 오늘날 전통 종교 인구는 급격하게 줄고 있습니다. 농업과 유목 시대에 등장했던 전통 종교는 그럴 것입니다. 그러나 산업화와 개발-성장 시대 새로운 절대종교는 오히려 폭발하듯이 확산하고 있습니다. 전 세계 80억 인구 가운데 절대 다수가 새로운 절대종교 유일신 신도들이라고 해도 지나친 말이 아닙니다. 교회나 절에 가는 전통 종교인도 사실은 이 새로운 유일신을 섬깁니다. 다름 아닌 '자본 신' '돈 신'입니다. '쩐(錢)'이 최고의 신인 이 종교의 이데올로기는 '과학기술 만능주의'와 '무한성장주의'입니다.

자본주의에서 물신화된 자본은 '법으로 만든 인격체'인 법인을 통해 노동자들뿐만 아니라 자본가들도 지배하고 사회와 국가도 지배합니다. 자본은 법인이 망하지 않는 한 수명도 무한인 괴물입니다. 오직 더 많은 이윤을 남기기 위해 자본은 끊임없이 새로운 상품을 만들어 팔아야 하고 새로운 상품 판매 시장을 만들어야 합니다.

백인들의 유럽 자본주의는 자본의 무한 성장을 충족시키기 위한 새로운 상품 시장을 확보하기 위해 아메리카와 아프리카, 아시아 등 전 세계를 식민지로 만들었습니다. 식민지 침략은 독일의 유태인 학살과는 비교가 안 되는 대규모 피의 제노사이드 살육 전쟁이었습니다.

영국인들은 호주의 태즈메이니아 원주민을 짐승보다 못한 동물 취급하면서 강간하고, 사냥하듯 가죽을 벗기며 마구잡이로 잔인하게 학살했습니다. 태즈메이니아인들은 백인을 처음 접촉한 지 75년 만에 몰살당했습니다. 과거 약 1억 명으로 추정된 아메리카 원주민은 오늘날 수백만 명만 살아남았습니다(피에르 클라스트르, <국가에 대항하는 사회>). 생존 원주민은 대부분 집단수용소 비슷한 보호구역에서 인도의 불가촉천민처럼 살고 있습니다.

자본에 가장 수지맞는 투자는 뭐니뭐니해도 전쟁입니다. 3000만 명 이상 죽은 1차 세계대전도, 5500만 명이나 죽은 2차 세계대전도, 6.25동란도, 우크라이나 전쟁과 이스라엘-하마스 전쟁도 자본에는 엄청난 돈벌이 기회일 뿐입니다.

양차 세계대전 기간 듀퐁, 포드, GM, IBM, ITT, 스탠더드오일 등 미국의 대자본은 전쟁 전보다 수백 퍼센트(%)에서 1000% 이상 떼돈을 벌었습니다. 록펠러, 모건 등 국제 금융자본가들의 돈벌이 규모는 천문학 단위였던 것으로 알려져 있습니다.

1945년 2차 세계대전이 끝나고 미국에서는 적국인 나치를 지원한 독점 대자본가와 금융업자를 향해 거센 비판이 제기되었습니다. 이들 대자본가들이 일반 대중의 시선을 돌려 곤경에서 탈출하고, 멈춰 선 전쟁물자 생산라인도 다시 돌리며 돈을 벌기 위해 일으킨 전쟁이 다름 아닌 6.25동란이었다는 '남침유도론'이 지금까지도 유력한 설로 제기되고 있을 정도입니다.

더 개척할 식민지가 없어지자 자본은 새로운 미지의 식민지에 눈독들이기 시작했습니다. 바로 인간 자신의 몸과 마음입니다. 인간의 몸과 마음은 유전자와 호르몬, 시냅스 등으로 환원되고, 자연스런 노화와 심리변화까지도 치료해야 할 질병으로 상품화되었습니다. 오늘날 극소수 거대 글로벌 IT기업이 주도하는 디지털 경제란 사실 인간의 몸과 마음, 자연과 세계, 푸른별 지구, 나아가 우주까지를 가상의 데이터로 바꾸어 자본의 최대 이윤 도구로 판매하는 새로운 식민지 침략 전쟁에 다름 아닙니다. 그리고 마침내 등장한 그 완결판이 AGI입니다.

▲AI가 자아를 갖게 된다면? 커먼즈 이미지.

대량살상무기는 다름 아닌 인간과 AI의 지능

조국을 떠난 영국의 청교도들은 종교의 자유를 찾아 아메리카에 미국이라는 신생 독립국을 세웠습니다. 세월이 변했다고는 해도 오늘날 미국인 생활의 모든 분야에 개신교 전통이 강하게 뿌리내리고 있습니다. 그런데 원수를 사랑하라는 예수의 말씀은 미국인의 생활 어디에 뿌리내렸는지 흔적조차 보이지 않는 것 같습니다.

미국은 건국 초기 상비군도 없었습니다. 그런 미국이 지금은 전 세계 군비의 거의 절반 정도를 쓰면서 이미 AI 무기로 무장한 약 133만 상비군을 보유한 전쟁국가가 되었습니다. 여기에 대부분의 빅테크 기업들이 미국에 있습니다. 미국이 AGI 전쟁국가로 치닫는 것은 당연한 수순으로 보입니다.

사실 위험한 것은 AI 기술 자체가 아닙니다. 근대 국민국가 체제 자체, 자본주의와 사회주의의 개발과 성장 그 자체가 더 큰 위험 요소입니다. 거대 빅테크 기업의 무한 탐욕이, 그런 돈벌이 빅테크 기업의 탐욕을 아낌없이 지원해주고 후원해주는 사람의 무지와 탐욕이 더 위험합니다.

제국주의 국가 간의 세계대전을 2번이나 치르고도 21세기인 지금, 인류는 여전히 3번째 세계대전이 언제 터질지 모른다는 불안감에 시달리고 있습니다. 전쟁기계인 국가에 가공할 AGI 무기가 공급된다면 패권국가 간의 3차 세계대전은 언젠가는 터지고 말 상수일 것입니다. 약 1만3000여 개나 되는 전 세계 핵폭탄이 터진다면 인류뿐만 아니라 지구 생태계의 거의 모든 생명체가 멸종될 것입니다.

인공지능 시대의 대량살상무기는 다름 아닌 인간의 지능과 인간의 지능을 그대로 모방 학습한 AI의 지능이라고 말할 수 있습니다. 지능폭발을 일으킨 호모 사피엔스의 전 세계 확산과 정복의 역사는 또한 전 세계 원시림과 대형 포유류의 멸종 역사이기도 합니다. 지금도 화석연료 기업의 탐욕으로 6번째 대량멸종이 점점 더 가속화되고 있는 중입니다.

인간이란 어떤 존재인가, 트랜스 휴머니즘

"코비드는 사람들이 전면적인 생체인식 감시를 받아들이고 정당화하도록 만들기 때문에 중요하다. 우리가 이 전염병을 멈추길 원한다면 우리는 사람들을 감시하는 것뿐만 아니라 그들의 피부 밑에서 어떤 일이 일어나는지도 감시해야 한다."

"(다음 세대는) 몸과 두뇌 그리고 마음을 조작하는 방법을 배우게 될 것이며, 섬유와 자동차 그리고 무기가 아니라 몸과 두뇌와 마음이 21세기 경제의 주요 제품이 될 것."

"과학은 자연선택에 의한 진화를 지적 설계에 의한 진화로 대체하고 있다... 신이 하는 지적 설계가 아니라 우리가 하는 지적 설계, 우리의 클라우드가 하는 지적 설계다. IBM 클라우드, 마이크로소프트 클라우드가 새로운 진화의 동력이다. 과학은 40억년 동안 유기화합물이라는 제한된 영역에 갇혀 있던 생명체를 무기물의 영역으로 진입시킬지 모른다."

"소수의 사람들에게 너무 많은 데이터가 집중되면 인류는 계급이 아니라 두 개의 다른 종으로 분화될 것."

"이 쓸모없는 사람들을 어떻게 할지가 앞으로 수십 년 동안 경제와 정치에서 가장 큰 문제가 될 것."

다소 길게 인용한 이 말들은 트랜스휴머니즘 또는 포스트휴머니즘, 즉 인간과 기계가 결합한 새로운 기계인간주의에 대해 이스라엘의 한 대학교수가 주장한 발언입니다. 발언자는 한국에서도 책이 많이 팔린 <호모 사피엔스>의 저자 유발 하라리입니다. 그는 세계경제포럼이 내세우는 주요 단골 발표자이기도 합니다.(아론 케리아티, <새로운 비정상>)

옥스퍼드 대학 교수이자 <슈퍼 인텔리전스>의 지은이 닉 보스트롬, 하버드 대학의 유전학자 조지 처치, 물리학자 고 스티븐 호킹, 연간 10억 원 어치가 넘는 영양제를 사 먹는다는 <특이점이 온다> 지은이 레이 커즈와일 등이 기계인간주의자들입니다. 일반 사람들 중에서도 의외로 기계인간주의를 신봉하는 사람들이 많습니다. 이들을 상징하는 기호가 H+(Human Plus)입니다.

생명체인 인간을 무생물의 기계와 결합한 기계인간으로, 종국에는 컴퓨팅화한 기계 지능으로 만들어 인간 자신이 AGI나 초지능이 되고자 하는 이런 주장은 이윤 극대화를 추구하는 자본주의 논리가 인간 자신에게 투사된 판박이 이론과 행동입니다. 과학기술 만능주의가 낳은 21세기 극단의 우생학이기도 합니다. 늙지도 않고 더 강하게 더 건강하고 오래 살고 싶은 인간 탐욕의 극대화입니다.

인간 지능의 가장 빛나는 발견

인간의 지능이 도달할 수 있는 가장 빛나는 발견은 호흡 명상이라고 저는 생각합니다. 호흡 명상을 통한 나-우리-세계의 실상에 대한 자각입니다. 축의 시대 훨씬 이전부터 시작된 것으로 보이는 호흡 명상은 몸과 마음의 긴장을 한 순간에 풀어줍니다. 뇌과학은 명상이 놀랍게도 인간의 면역력을 엄청나게 높여준다는 사실을 속속 발견하고 있습니다. 몸뿐만이 아니라 마음의 면역력도 높여줍니다.

인간은 호흡을 멈추면 죽습니다. 인간의 생과 사는 단 한 번의 호흡을 할 수 있느냐 없느냐에 달려 있습니다. 숨을 들이쉴 때 인간은 단순히 공기 속의 산소만을 내 몸 안에 주입하는 것이 아닙니다. 공기와 함께 내 주위에 퍼져 있던 흙 냄새, 숲에 가득하던 산소와 나무들이 서로 소통하던 휘발성 유기화합물들, 바람에 실려 오는 이웃 나라의 세상 냄새, 지구 생태계 모든 생명체가 내뿜은 연결망의 공기, 즉 세계 전체가 내 몸 안에 들어옵니다. 숨을 내쉴 때는 이산화탄소만을 내뱉는 게 아닙니다. 온 몸 구석구석을 돌아다니던 세계 전체가 또한 나의 온 존재를 함께 싣고 다시 세계로 돌아갑니다.

예수는 광야에서 이런 호흡 명상을 통해 탐욕을 버리고 가장 낮은 곳에서 이웃과 함께 더불어 사는 삶이야말로 다른 무엇보다 가치 있는 삶이라는 사실을 깨달았습니다. 인간은 귀천 없이 모두 평등하며 부자는 가난한 사람에게 재산을 함께 나누어야 합니다. 천국이란 먼 곳에 있는 게 아니라 다름 아닌 우리 마음속에 있다고 예수는 가르쳤습니다.

예수는 다섯 덩어리의 빵과 두 마리 고기로 모여 있던 수많은 사람들을 배불리 먹였다는 오병이어의 기적을 일으켰습니다. 이 기적은 모든 사람이 자신이 갖고 있던 빵과 고기를 함께 가져와 나누는 공유의 기적을 말하는 것이라고 할 수 있습니다.

붓다와 예수와 공자의 가르침을 통합했던 동학의 모심과 살림이 똑같았습니다. 1893년 3월, 동학교도 2만여 명이 식량과 솥단지를 들고 함께 모여 종교의 자유와 일본제국주의 척결을 외쳤던 보은취회(報恩聚會)는 이 같은 공유의 기적과 공유의 함성이었습니다.

언어를 통해 발전한 지능이 지능의 작동을 끄고 언어 이전의 상태를 경험할 수 있는 방법이 호흡 명상입니다. 붓다가 가장 신뢰했던 제자 사리붓다는 탐욕과 성냄과 무지가 사라지면 그것이 곧 니르바나라고 말했습니다. 붓다가 깨달은 인간 삶의 실상과 연기의 세계는 인간 지능의 가장 빛나는 발견입니다. 그리고 통찰과 지혜입니다.

AGI와 초지능의 3차 지능폭발 시대가 창백하고 푸른 지구별, 놀랍도록 풍요로운 기적의 지구 생태계에 곧 도착할 것 같습니다.

전쟁이냐 평화냐, 공존이냐 파멸이냐의 문제는 아직도 인류의 선택에 달려 있습니다. 이 선택이 평화와 조화, 공유와 공존의 선택이 될 수 있는 거의 유일한 가능성은 인류가 발견한 가장 빛나는 발견인 호흡 명상과 지혜의 빛이 우리들 모두의 몸과 마음속에서 우러나와 빛나는 것입니다. 탐욕을 버리고 이웃과 함께 공동선의 행동에 나서는 것입니다. 그 지혜의 빛이 나와 우리의 서로행동(inter-doing)으로 함께 훤히 빛날 때 비로소 가능해질 수 있을 것입니다.

박승옥 햇빛학교 이사장 |프레시안 23.12.15