미래와 만날 준비

매니페스토 ChatGPT와의 협업으로 완성한 ‘SF 앤솔러지’ 김달영·나플갱어·ChatGPT-3.5 등 지음 l 네오북스(2023)

 

윤여경 (지은이) 소설가, 기획자, 문학 창작 강사. 『세 개의 시간』으로 한낙원과학소설상을 받았다.최근작 : <매니페스토 Manifesto>,<내 첫사랑은 가상 아이돌>,<일곱 번째 달 일곱 번째 밤> …

 

ChatGPT-3.5 (지은이) 오픈에이아이가 개발한 대화 전문 인공지능 챗봇으로, ChatGPT-3의 오류를 개선해 2022년 11월 30일 공개됐다.

 

목차

추천사 유상근

김명주

ChatGPT

 

김달영ChatGPT 텅 빈 도시

협업 후기: 엿가락 늘이기 대마왕 ChatGPT

협업 일지: 텅 빈 도시를 채운 세 번의 우여곡절

 

나플갱어ChatGPT 희망 위에 지어진 것들

협업 후기: AI 소설을 왜 쓰는가

협업 일지: 예상치 못한 AI의 서정적 관점

 

신조하ChatGPT 매니페스토

협업 후기: 맑은 눈의 AI와 그 후에 남겨질 우리

협업 일지: 눈치 없는 친구와 완성한 음흉한 문장들

 

오소영ChatGPT 그리움과 꿈

협업 후기: 새로운 도전의 연속

협업 일지: ChatGPT의 말문을 막은 단어

 

윤여경ChatGPT 감정의 온도

협업 후기: 진짜와 가짜를 구별하는 방법

협업 일지: 브레인스토밍부터 위대한 소설가의 평가까지

 

전윤호ChatGPT 오로라

협업 후기: 텍스트로 콜라주 만들기

협업 일지: AI 보조 작가를 위한 문맥 관리

 

채강DChatGPT 펜웨이 파크에서의 행운

협업 후기: ChatGPT로부터의 행운

협업 일지: 칭찬은 ChatGPT도 춤추게 한다

 

 

출판사 책소개

‘인간 - ChatGPT’ 첫 공동 집필 소설집

소설가 7인이 AI와 함께 창작한 짧은 소설들

그리고 그 과정을 투명하게 적어 내린 기록들

이것은 새로운 역사의 시작을 알리는 작은 선언이다

완성된 소설을 써낼까?

 

놀라운 발전을 거듭하고 있는 AI 기술이 산업 전반에 고루 사용되고 있다. 우리의 일상 속에도 이미 침투한 AI는 그 세력을 점차 키우는 중이다. 특히 인간의 지시에 따르고 질문에 응답하는 ‘대화형 AI’에 대한 관심이 뜨거운데, 지난해 OpenAI가 공개한 AI 챗봇 ‘ChatGPT’는 매일같이 새로운 뉴스를 쏟아내며 화제의 중심에 있다. 인공지능 서비스가 어느 수준까지 발전할 수 있을지, 그로 인해 우리의 생활은 얼마나 더 편안해질지 기대하는 시각이 있는 반면, 인간의 자리를 차지할 기계의 시대가 더욱 가까이 다가왔다는 불안도 존재한다.

 

우리의 시작도, 사실 기대보다 불안에서였다. 정교해지는, 점점 더 인간 같아지는 AI의 기술력이 인간의 고유성까지 침범하고 있는 지금, 과연 그것을 두려워하거나 모른 체하는 게 맞는 걸까? 기계는 절대 인간의 위치에 오르지 못할 거라며, 당도한 현실마저 부정한 채 우월성을 내세우면 되는 걸까? 글은, 문학은 인간 작가만이 시도하고 성취할 수 있는 고유 영역이라고 선 그으면 끝인 걸까?

 

그렇지 않다는 대답 대신, 한번 해보자는 결심을 했다. 인간 고유의 영역인 창작, 그중에서도 소설을 AI와 함께 써보는 거다. 그리고 함께하는 과정을, 그 시행과 착오를 모두 담아보는 거다. 『매니페스토Manifesto』는 시도와 과정과 결과를 모두 담은, 성공과 실패의 조각이 모두 혼합된 새로운 형태의 소설집이다. 인간과 AI가 협업해 어떤 소설을 만들었는지, 그것을 어떻게 만들었는지, 만들며 작가들이 느낀 게 무엇인지까지 전부 이 한 권에 담았다.

 

AI가 생성한 차가운 텍스트에 온기를 불어넣은 7인의 소설가

김달영, 나플갱어, 신조하, 오소영, 윤여경, 전윤호, 채강D. 이 일곱 명의 작가가 ChatGPT와 함께 쓴 일곱 편의 소설은 다음과 같다.

 

황량한 풍경 속 비밀스러운 소녀가 살고 있는 메타버스 세계를 그린 「텅 빈 도시」, 기후변화로 인해 바다에 잠긴 인천 송도를 배경으로 한 「희망 위에 지어진 것들」, 지구에 불시착한 외계인과 공존하는 미래의 어느 날 신문에 기고된 ‘인간’ 단체와 ‘외계인’ 연합의 입장문을 옮긴 「매니페스토」, 남한에 살고 있는 북한이탈주민이 갑자기 북한의 오빠로부터 온 문자 메시지를 받으며 시작되는 이야기 「그리움과 꿈」, 인간의 뇌와 연결된 인공지능 스피커가 감정과 무의식까지 읽어내는 무서운 일상을 그린 「감정의 온도」, 인간보다 똑똑하게 개발된 AI 시스템이 개발자에 도전하며 불편한 진실을 드러내는 「오로라」, 부상으로 위기에 빠진 한 야구 선수에게 일어난 꿈같은 성공기를 담은 「펜웨이 파크의 행운」.

 

SF 요소와 현실이 적절히 섞인 소설들 속에는 ‘지금’과 ‘곧 다가올 미래’, ‘조금 더 먼 미래’가 저마다 다르게 그려져 있다. 어떤 작가는 그 안에서 삶의 희망을 찾고, 어떤 작가는 닥쳐올 불행을 예고하고, 어떤 작가는 우리의 잠재된 불안을 자극한다. 그저 소설일 뿐인 흥미로운 세계로 읽어도 좋고, 언젠가 현실이 될 수 있는 무서운 경고처럼 읽어도 좋다. 어떤 문장이 작가가 쓴 것이고, 어떤 문장이 AI가 쓴 것인지 알아보는 재미도 쏠쏠할 것이다.

 

맑은 눈의 인공지능과 부대낀 희로애락의 과정을 있는 그대로……

『매니페스토Manifesto』의 가장 특별한 점은 ChatGPT와의 협업 과정이 드러나 있는 것이다. AI와 함께 소설을 쓴 소감과 작가로서 갖는 이 프로젝트의 의미, 작업 중에 겪은 에피소드 등을 ‘협업 후기’에 담았다. 에세이 형태로 쓰인 이 글에는 작가들의 소설에 대한 진심과 AI에 가졌던 반감, 작업 이후 느낀 동료애까지 편안한 문체로 녹아 있다.

 

처음 합을 맞춘 동료 AI와 어떤 대화를 나누며 소설을 완성시켰는지는 ‘협업 일지’를 통해 보여준다. 저마다 다른 생각과 관심사를 가진 것은 물론 글쓰기 요령도 제각각인 작가들은 자연히 ChatGPT와 각기 다른 방식으로 작업을 진행했다. 소설 작법의 단계를 물으며 계획을 세우기도 하고, 어떤 소재를 다루면 좋을지 상의하기도 하고, 소설의 재료가 될 자료를 조사시키기도 하고, 문장을 더 유려하게 만들거나 길게 늘여달라고 부탁하기도 하는 등 다채로운 활용법이 세세히 적혀 있다.

 

때로는 조수가 되어, 때로는 구세주가 되어 작가들을 도운 ChatGPT는 종종 배신자가 되어 작가들을 힘들게 하기도 했다. 부적절한 소재라며 문장 생성을 거부하기도 하고, 요구한 것과 전혀 딴판인 이야기를 내놓기도 하고, 혀를 내두를 정도로 뻔뻔하게 거짓말을 해대기도 하는 등 말 안 듣는 ChatGPT를 어르고 달래며 소설을 쓰느라 애먹은 작가들의 사연도 이 ‘협업 일지’에 낱낱이 기록되어 있다. 이 일지에는 실제 작가들이 이용한 ChatGPT 대화 화면이 그대로 담겨 있어 그 과정의 생생함을 독자들이 고스란히 읽을 수 있다.

KBS에서도 주목한 전혀 새로운 프로젝트

작은 지혜의 시작, 작지만 확실한 선언!

 

우리의 협업 과정은 KBS 〈다큐 인사이트〉에서도 만날 수 있다. 4월 13일 방영 예정인 해당 방송에는 ChatGPT와 함께 소설을 써본 작가들의 작업 과정과 감상, 그것이 응축되어 완성된 이 책의 제작 과정과 의미가 담긴다. 실제로 글 쓰는 데 AI를 어떻게 활용했는지 보여주고, 이것이 창작의 영역을 지키던 인간에게 어떤 의미일지 생각해보는 내용이 될 것이다. 그리고 더 나아가, 과연 창작이란 무엇이고 또 인간이란 무엇인지 성찰하는 시간까지 선사할 것이다.

『매니페스토Manifesto』는 단순히 새로운 기술을 이용해 쓴 소설들의 모음이 아니다. AI와 공존하는 삶을 더는 피할 수 없는 시대에 창작, 문학의 영역에서 고민해야 할 작은 지혜의 시작이다. 인간다움의 길을 찾는, 인간다움의 가치를 역설하는 작지만 확실한 선언이다

 

책속에서

나는 이제 이 기괴하고 아름다운 도시를 떠나야 할 때임을 깨달았다. 시간이 다 되었다. 갑자기 이 도시의 정갈한 아름다움은 사람을 위한 것이 아니라 아무도 없는 도시 그 자체를 위한 것 같다는 엉뚱한 생각마저 들었다. ― 「텅 빈 도시」 중에서

 

떠오르는 의문 하나. 출판사들은 원고지 매수에 따라 원고료를 책정하기도 하는데, 그럴 때 ChatGPT를 이용해 원고를 늘이면 그 원고료는 누구에게 지불되어야 하는 걸까.― 김달영의 협업 후기 중에서

 

어둠에 눈이 익자 서서히 시야가 밝아졌다. 옛 도시는 바다의 어둠 속에서 녹아내리고 있었다. 길 위에 흐르던 차들과 사람들은 이제 물보라 속에 흩어지는 기억의 유물로 머물렀다. 비틀거리는 건물들과 그림자처럼 남겨진 거리, 시간이 멈춘 듯한 고요한 분위기가 바닷속 도시 유적을 감싸고 있었다. 이제 모든 게 바다의 소유였다.

 

ChatGPT는 AI가 가질 법한 관점, 대사의 어투를 정확하게 제공해줄 수 있다. 그 자신이 AI이기 때문이다. 영화로 치면 극 중 캐릭터의 실존 모델을 그 배역에 캐스팅한 것이나 다름없다.― 나플갱어의 협업 후기 중에서

 

비록 지구의 전반적인 수준이나 지구인 동료 여러분이 가진 능력이 미욱한 것은 사실입니다. 그러나 다시 강조하건대, 우리는 우리의 우월함으로 지구를 점령하거나 우리의 뜻을 강요하기 위해 지구에 온 것이 아닙니다.― 「매니페스토」 중에서

 

맑은 눈의 ChatGPT는 아무런 욕망이 없는 맑은 영혼, 딱 그 정도의 결과물을 반복해서 제시해주었다. ‘평화는 좋은 것이다. 조화롭게 사는 것이 이득이다.’ 이 정도로. 이를 통해 내가 확인한 점은, ChatGPT는 평화에 대한 간절함이 없다는 것이었다.― 신조하의 협업 후기 중에서

 

나는 오빠와의 문자가 더욱 의심스러워졌다. 어쩌면 지금까지 연락한 문자는 북한에서 발송된 것이 아니라, 다른 어딘가에서 인터넷으로 발송된 것일 수도 있었다. 그래서 불안감에 사로잡혔다. 떨리는 손으로 다시 휴대폰을 들고 오빠와의 대화를 살폈지만, 여전히 발신인은 없었다.― 「그리움과 꿈」 중에서

 

범죄와 관련된 자료는 잘 나오지 않았고, 내가 소설에서 다룬 북한에 대한 내용 역시 이야기를 생성하는 데 어려움을 겪었다. 그리고 소설보다는 에세이에 알맞은 문장들을 자꾸 출력했다.― 오소영의 협업 후기 중에서

 

몇 년 전, 오랜 법정 싸움 끝에 AI와 인간의 뇌를 연결하는 거대한 데이터 BCI가 허가되어 새로운 시대가 열렸다. 영화와 드라마에 출연하는 배우들의 감정도 관객에게 고스란히 전달되면서 이목을 끌었다. 그들은 표정과 행동뿐만 아니라 감정도 연기하며, 뇌간 소통으로 감정을 전달했다.― 「감정의 온도」 중에서

 

전 세계 기자들 앞에서 자신을 모욕하고 평생의 업적을 망치며 극도로 위태로운 상황에 처하게 한 오로라를 향해 김 박사의 눈은 불신과 분노, 수치심이 뒤섞인 강렬한 감정으로 불타올랐다. 분노와 절망의 순간, 그녀는 갑작스럽고 무모한 결정을 내렸다.「오로라」 중에서

 

 

챗지피티는 모른다, 심란하니까 인간적인 걸

번역가이자 작가로 일하면서 인공지능에 일을 빼앗길 위협을 느끼지 않느냐는 질문을 몇 번 받았다. 아니, 그동안은 느끼지 않았다. 인간 창작력의 우월성을 확신해서가 아니라, 인공지능이 그 정도로 발전했을 때쯤엔 독서 인구가 줄어들어 빼앗길 일자리가 이미 없으리라 생각해서였다. 하지만 최근 유행인 챗지피티(ChatGPT)나 번역 툴 딥엘(DeepL)은 다르다. 위협감이 생생히 다가왔다.

 

챗지피티가 출판계를 점령한 건 순식간이다. 툴을 사용하는 방식에 관한 책들은 물론, 이를 이용한 소설들이 쏟아졌다. <에스콰이어> 잡지에는 정지돈의 단편 ‘끝없이 두 갈래로 갈라지는 복도가 있는 회사’가 실렸고, 에스에프(SF) 작가들과 챗지피티가 협업한 과정과 결과를 담은 소설집 <매니페스토>(김달영 외, 네오북스)가 출간됐다.

 

기실, 인공지능을 이용한 소설이 아주 새롭지는 않다. 2016년 일본에서는 호시신이치 문학상 공모전에서 인공지능 프로젝트팀이 출품한 소설 ‘컴퓨터가 소설을 쓰는 날’이 1차 심사를 통과하며 화제를 모았다. 국내에서도 2021년 인공지능 작가 비람풍과 ‘소설감독’ 김태연이 함께 저작한 <지금부터의 세계>(파람북)가 나왔다.

 

현재 챗지피티에 대한 열광은 더 대중적이다. 누구나 쉽게 접근할 수 있으며, 자연언어로 쉽게 원하는 텍스트를 생성할 수 있고, 번역도 약간은 더 자연스럽고 빠르게 된다.

 

나도 이 칼럼을 쓰면서 챗지피티에 의존했다. 챗지피티에 그를 이용해서 쓴 소설의 장단점을 물었다. 장점으로는 다양한 소재, 기존 작품과는 다른 독창성, 노력 절약 효율성, 경계를 확장하는 상상력을 들었다. 단점으로는 일관성 결여, 감정적 효과 부족, 편파적 언어, 작가 의도성 부족을 꼽았다. 챗지피티의 자기 평가는 소심하리만큼 겸손하고 솔직했다.

 

앤솔로지 <매니페스토>의 결과물은 이런 평가에 들어맞는다. 분량도 짧고, 작가마다 툴 사용 경험이 다르다는 걸 감안해도 문학으로서 감상은 만족스럽지 못하다. 어떤 작가는 묘사와 대사를 대신 채워주는 효율성에 초점을 두었다. 어떤 경우엔 맥락을 이어 플롯을 구성했고, 소재 선정에 도움을 받기도 했다. 하지만 유일하게 인상적인 작품은 나플갱어 작가의 ‘희망 위에 지어진 것들’이었는데, 이 작가의 협업 방식은 챗지피티를 전통적 검색 엔진처럼 써서 정보를 얻은 데 가까웠다. 예상하지 않은 서정성이 발견되었다고 작가는 썼지만, 이는 작가가 그런 감정 도출을 의도했기 때문이었다.

 

문학에서 중요한 건 ‘무엇으로’ 썼는가가 아니다. 도구가 펜이든 타자기든 인공지능이든 현재의 질문은 ‘무엇을’ 쓰는가이다. 독자의 감정을 흔드는 이야기, 작가의 의도를 통해 세계를 발견하고 확장하는 이야기를 쓸 수 있는지의 문제이다. 아직 챗지피티에 대한 논의는 거기 머물러 있는 듯하다. 앞으로 대비해야 할 것은 ‘무엇이 쓰는가’에 대한 대답이다. 창작이 인간을 넘어서면 다른 존재가 온다. 나는 켄 리우의 <신들은 죽임당하지 않을 것이다>(정성주 옮김, 황금가지)에 수록된 포스트 휴먼 3부작을 읽으며 우리의 미래를, 우리가 없을지 모르는 미래를 상상하며 심란해졌다. 그렇지만 이 심란함이 ‘인간적’이라고도 생각했다. 내가 사랑하는 것도 내가 심란해지는, 그리하여 인간임을 실감할 수 있는 이야기이다.

박현주/작가·번역가

 

 

미래와 만날 준비 -더 나은 세상을 위한 기술철학의 제안들 손화철 지음 l 책숲(2021)

 

손화철-서울대학교 철학과를 거쳐 벨기에 루벤대학교 철학부에서 ‘현대 기술과 민주주의’라는 주제로 박사학위를 취득했다. 세부 전공은 기술철학이고, 주요 연구 분야는 기술철학의 고전이론, 기술과 민주주의, 포스트휴머니즘, 빅데이터와 인공지능의 철학, 미디어 이론, 공학윤리, 연구윤리 등이다. 현재는 한동대학교 교양학부 교수(철학)이다.

 

지은 책으로 『랭던 위너』, 『현대기술의 빛과 그림자: 토플러와 엘륄』, 『4차 산업혁명이라는 거짓말』(이하 공저), 『포스트휴먼 시대의 휴먼』, 『포스트휴먼 사회와 새로운 규범』, 『인공지능과 새로운 규범』, 『과학기술학의 세계』, 『한 평생의 지식』, 『과학철학: 흐름과 쟁점, 그리고 확장』 등이 있으며, 옮긴 책으로 닐 포스트먼의 『불평할 의무: 우리 시대의 언어와 기술, 그리고 교육에 대한 도발』, 랭던 위너의 『길을 묻는 테크놀로지』, 엑버트 스휴르만의 『기술의 불안한 미래』 등이 있다.

 

 

목차

서문 - 기술철학으로의 초대

 

1장 기술과 철학의 만남

철학은 왜 기술에 관심을 갖게 되었을까

 

경이에서 시작된 철학

기술철학의 시작

현대의 신화를 넘어서려는 시도

기술도 철학에 관심을 가져야 한다

 

기술이란 무엇일까

‘기술’이라는 말의 쓰임새

과거의 기술과 현대의 기술

과학과 기술의 관계

이름은 하나인데 쓰임은 달라

 

과학기술은 우리의 운명인가

과학기술은 꼭 발전해야 하는가

가능한 대답들

기술 발전은 운명이 아니다

 

모든 공학자는 기술철학자가 되어야 한다

공학과 철학의 특징

철학자가 된 공학자

 

2장 기술철학의 다양한 이론들

기술은 자율적인가

 

기술은 모든 것을 부품으로 만든다 - 마르틴 하이데거

기술은 자율적이다 - 자크 엘륄

큰 힘은 큰 책임을 요구한다 - 한스 요나스

고전적 기술철학

 

걱정을 넘어 대안으로 : 경험으로의 전환

철학자와 공학자가 만나야 한다 - 칼 미첨

기술은 정치적이다 - 랭던 위너

기술은 사회적 합의의 산물이다 - 앤드루 핀버그

기술의 경제학에서 기술의 생태학으로 - 빌렘 반더버그

 

기술이 만드는 새로운 인간 : 포스트휴머니즘

불가능의 극복, 인간의 극복

완벽한 인간에의 꿈: 트랜스휴머니즘

인간의 재발견: 비판적 포스트휴머니즘

우리는 어떤 인간이 될 것인가

 

사람이 기술을 만드는가, 기술이 사람을 만드는가

호모 파베르의 역설

호모 파베르의 숙제

 

3장 개별 기술과 기술철학의 만남

4차 산업혁명을 대하는 우리의 자세

 

1차, 2차, 3차 산업혁명

새로 등장한 4차 산업혁명

“왜?”라고 물어야 한다

 

기술과 시간 : 원자력발전

원자력발전의 안전성 문제

원자력발전과 핵폭탄의 관련성

미래 세대에 대한 책임

자연과 시간을 이긴 인간

현대 기술의 대표, 원자력 기술

 

능동적 진화의 꿈 : 생명공학

조작의 대상이 된 생명

삶의 의미에 대한 물음

철학적 물음을 가진 과학자와 공학자

 

미지의 세계를 탐구하는 자의 지혜 : 나노 기술과 철학

나노 기술이 여는 새로운 가능성

스스로 복제하는 꼬마 로봇

무한하여 알 수 없는 기술

의도하지 않은 결과가 나올 가능성

위험 사회

미지의 세계를 향해 나아가는 자의 자세

 

나도 모르는 내가 있다 : 빅데이터

난 네가 어제 한 일을 알고 있다

빅데이터란 무엇인가

이론의 종말

대량 살상 수학 무기

하이퍼링크에서 하이퍼리드로

기술의 진보를 어떻게 받아들일까

 

4장 기술이 만드는 좋은 세상

목적과 도구 : 좋은 사회를 위한 과학기술

 

도구로서의 기술

총이 있는 세상과 총이 없는 세상

목적으로서의 좋은 사회

 

공학 설계로 바꾸는 세상

공학 설계의 중요성

공학자의 설계 철학

새로운 세상을 향한 공학 설계

 

대안적 공학 : 나머지 90%를 위한 공학

대안 기술의 가능성

소외된 90%를 위한 공학 설계

모든 기술이 적정해질 때까지

기계와 인간의 대결 : 인공지능

알파고의 작동 원리

개발자도 모르는 알파고의 속내

인공지능의 판단, 어디까지 받아들일 것인가

인공지능이 제기하는 문제들

인공지능이 인간을 지배하는 날이 올까

 

자율주행 자동차와 미래의 도로

기술은 환경을 바꾼다

급격한 기술 변화에 어떻게 대처할 것인가

 

호모 파베르에서 호모 폴리티쿠스로

기술에 대한 열광과 물음

우려와 대안

개인과 집단, 일반인과 전문가

혁명과 정치

출판사 리뷰

급변하는 현대 기술 사회에서

우리 자신을 지키기 위해 더욱 필요한 기술철학

기술과 철학이 만날 때

우리의 미래는 보다 바람직하게 발전할 것이다.

더 나은 미래, 더 나은 기술을 얻기 위한 기술철학

 

현대인은 과거 그 누구도 경험하지 못한 급격한 환경 변화를 지속해서 경험하고 있다. 특히 기술 분야에서의 발전은 변화의 속도를 따라가기 바쁘게 빠르고 동시다발적으로 일어나고 있어 열광과 불안을 함께 동반하고 있다. 새로운 기술이 가져올 변화에 대한 우려와 불안은 급격한 기술 변화를 가져왔던 산업혁명 초기부터 기술 사회의 한쪽에서 끊임없이 제기되었다. 인공지능, 자율주행과 같은 새로운 첨단 기술들이 쏟아지고, 4차 산업혁명을 논하는 현재도 마찬가지다. 첨단 기술의 발전으로 인해 실업과 양극화, 비인간화가 심해질 것이라는 우려가 널리 퍼져 있다. 필연적으로 ‘기술 발전은 꼭 필요한가?’, ‘기술 발전의 목표는 무엇인가?’ ‘기술이 인간을 만드는가, 인간이 기술을 만드는가?’ 등의 질문이 이어질 수밖에 없다. 이에 실천철학으로서의 기술철학의 길을 모색해온 저자는 미래 사회의 주인공이 될 청소년들을 위해 이 책에서 기술철학의 정의에서부터 역사, 다양한 이론들, 그리고 기술 발전을 대하는 우리의 자세에 대해 보다 쉽게 이해하고 접근할 수 있도록 안내하고 있다.

 

기술철학은 현대 기술의 놀라운 발전에 대한 반응으로 생겨나 기술 사회에서 인간과 기술의 관계, 그리고 기술로 인해 생기는 변화에 관해 탐구하는 철학의 한 분야다. 저자는 미래에 일어날 변화에 대해서 논할 때 하는 실수 중 하나가 변화 이후의 상태를 예측하는 데에만 몰두하는 것이라고 말한다. 어떤 기술적 변화가 예상된다면 먼저 그 변화 과정에서 일어나는 일들을 생각해야 한다. 예를 들어 복제 인간을 만들 수 있으리라는 가능성을 논할 때 그 기술이 완성되는 과정에서 일어날 일들, 예를 들면 완전히 복제되지 않은 존재들에 대한 고려와 그에 따른 대비가 필요하다. 기술 발전이 우리를 열광하게 만드는 이유가 아무리 많다 해도 비판적 사유와 비판적 태도는 필요하다. 현대 기술이 가져온 변화의 의미를 물어야 하고, 나아가 그 진보의 정당성을 납득할 만한 논변을 스스로 찾아야 한다. 이러한 숙고가 바로 기술철학적 접근이다. 기술철학은 단지 더 나은 미래, 더 나은 기술을 얻기 위해서뿐만 아니라, 우리 자신을 지키기 위해서도 필요하다.

당연한 것에 대한 물음과 미래를 향한 철학적 탐구

기술철학은 기술의 엄청난 발달과 산물들이 당연한 사실로 받아들여지는 현대사회에 여러 가지 방식으로 의문을 제기한다. 기술철학은 같은 일이라도 전혀 다른 각도와 깊이로 보는 특징이 있다. 따라서 당연한 것을 비판적으로 생각하는 데 매우 유용하다. 미래를 향한 철학적 탐구라는 점도 기술철학의 중요한 특징이다. 기술철학의 논의들은 주어진 현상을 잘 이해하고 분석하는 데 그치지 않고, 바람직한 미래를 위해 추구해야 할 바를 찾으려고 애쓴다. 이뿐인가? 기술철학은 여러 학문 분야를 넘나드는 융합적 특성도 가진다. 기술에 대한 철학적 논의를 하기 위해서는 기술 자체에 대한 이해는 물론 정치, 문화, 경제, 사회에 대한 지식과 이해도 필요하다.

이 책은 총 4장으로 구성되어 있다. 1장에서는 기술과 철학의 만남을 다룬다. 철학이 왜 기술에 관심을 가지게 되었는지 살펴보고, 기술을 이해하는 다양한 시각과 기술철학이 왜 유용한지를 알아본다. 2장에서는 기술철학의 이론들을 살펴볼 예정이다. 기술에 대한 철학적 사유가 본격적으로 시작된 시기의 ‘고전적 기술철학’과 그에 대한 반발로 나온 ‘경험으로의 전환’, 그리고 최근에 주목을 받기 시작한 ‘포스트휴머니즘’에 대해 차례로 알아볼 것이다. 3장에서는 대표적인 현대 기술들과 기술철학의 만남을 살펴본다. 원자력, 인공지능, 생명공학, 자율주행차, 빅데이터 등 최첨단 기술들의 철학적 함의에 초점을 맞추어 이러한 기술들이 인간의 삶과 사회에 대한 이해와 인식에 어떤 변화를 가져올 것인지 고민해 본다. 4장은 바람직한 미래를 위한 제안이다. 앞날을 예측할 수 없고, 전적으로 통제할 수도 없지만 기술을 통해 만들어 갈 미래에 대한 비전을 공유함으로써 그 개발 과정에 적절하게 개입할 수 있을 것이다.

 

책 속으로

기술철학에서는 기술 발전이 피할 수 없는 현실이자 운명이라는 인식을 거부하고 기술 발전 중지를 주장하는 건가? 그런 오해도 없지 않지만 그렇지 않다. 기술철학이 제기하는 도전은 기술 발전이 꼭 일어나야 한다는 생각에 대한 도전이 아니다. 기술철학은 기술 발전을 운명으로 받아들이고 더는 생각하지 않으려는 안일한 태도에 의문을 제기한다. 또 기술 발전이 필요한 이유와 그 과정에 참여하는 이유에 대한 진지한 고민 없이 무조건 발전을 추구해야 한다고 고집하는 비과학적인 태도에 대해서도 마찬가지다. 기술이 운명이든 아니든 상관없다. 중요한 것은 어떤 과정을 통해서 운명이 되었는지, 혹은 그런 생각이 왜 틀렸는지에 대한 근거다.---「과학기술은 우리의 운명인가」중에서

 

공학자가 철학을 공부하면 어떤 변화가 있을까? 철학하는 공학자는 공학이 인간의 삶과 인간관계, 가치의 영역에까지 영향을 미친다는 사실에 주목할 것이다. 그리고 공학이 인간 삶에 미친 영향을 평가하는 기준을 공학이 아니라 철학에서 찾을 것이다. 이 과정에서 얻은 성과는 다시 그의 공학 활동에 적용될 것이고, 그가 만드는 기술은 특별한 성격과 의미를 갖게 될 것이다. 어느 면으로 보나 공학자에게 철학을 가르치는 것이 더 실질적이고 효과적이다. 철학자가 공학의 기초를 안다 해도 공학의 중요성과 영향력을 다 이해할 수 없을뿐더러 공학을 모른다고 해서 철학자가 공학의 중요성을 모르는 것도 아니다. 그러나 철학하는 공학자는 새로운 방식으로 생각하는 법을 알게 된다. 다른 시각에서 공학 활동을 조망함으로써 공학의 의미를 새롭게 이해할 수 있다. 철학자가 공학을 안다고 해서 세상이 바뀌지는 않을 것이다. 하지만 공학자가 철학적 사고방식을 배우면 공학자에게 얹혀 있는 세상은 바뀌게 된다.---「모든 공학자는 기술철학자가 되어야 한다」중에서

 

현대 기술에 관한 우려에도 그만한 이유가 있지 않을까? 분명한 것은 아무런 근거 없이 긍정적으로만 사고하는 사람들에게 이들의 주장은 유효한 경고가 된다는 점이다. 비판적 사고가 전제되지 않은, 무조건적 긍정은 재앙의 씨앗이다. 현대 기술에 대한 고전적 기술철학자들의 우려는 인간과 기술의 관계에 대한 깊은 통찰을 우리에게 보여 준다. 따라서 이들의 비관주의를 기술에 대한 거부나 감상적인 낭만주의로 치부하는 것은 곤란하다. 우리는 이들의 우려 섞인 목소리 속에서 더 나은 미래에 대한 간절한 바람을 읽어 낼 수 있어야 한다. 그러나 여전히 물음은 남아 있다. 어떻게 오늘날의 기술 사회를 개선할 것인가?---「기술은 자율적인가」중에서

 

기술에 대한 ‘미래 예측’보다 ‘철학’이 필요하다

나는 강연할 때 마지막 슬라이드에 이 두 문장을 띄운다. 과학기술이 세상을 어떻게 바꿀까? 우리는 어떤 세상에서 살고 싶은가? 앞 문장은 검은색 글씨로, 뒷 문장은 파란색 글씨로 구분해서 OX문제처럼 보여준다. 모두가 과학기술이 세상을 어떻게 바꿀지 궁금해하는데 그보다 우리가 원하는 세상이 무엇인지를 먼저 생각하자고. 과학기술이 주어가 아니고 인간이 주어여야 한다고. 앞 문장이 ‘미래 예측’이라면 뒷 문장은 ‘철학’이라고 강조한다.

 

현대 분석철학의 거장, 비트겐슈타인은 ‘철학하다’란 말을 썼다. 그는 철학이 ‘학문’이 아니라 ‘활동’이라고 단언했다. ‘study philosophy’가 아니라 ‘do philosophy’라는 뜻에서 쓴 말이다. 그러면 ‘철학을 공부하다’와 ‘철학하다’의 차이는 무엇인가? 비트겐슈타인과 그의 스승 러셀의 철학하는 태도를 비교해보자. 러셀은 평생 확실한 지식이 무엇인지를 찾으려고 연구했다. 과학을 의심하고, 수학을 의심하고, 논리학을 의심하면서 말이다. 러셀에게 중요한 것은 지식이었다. 반면에 비트겐슈타인에게 중요한 것은 지식이 아니라 삶이었다.

 

비트겐슈타인은 어떻게 살면 좋은 삶인가를 생각하는 모든 활동을 철학이라고 말했다. 우리가 어떤 직업을 가질까? 어느 동네로 이사 갈까? 심지어 어떤 전자제품을 살까도 철학이다. 우리 모두가 철학을 하고 살고 있다. 단지 사람마다 질문과 대답의 깊이가 다를 뿐이다. 철학자는 삶의 가치가 무엇인가에 대해 본질적인 대답을 찾고, 평범한 우리는 각자 나름대로 삶의 가치를 발견하려고 노력하며 산다. 철학은 철학자만 하는 것이 아니라 누구나 하는 것이다.

 

기술철학자 손화철의 <미래와 만날 준비>는 우리에게 낯선 기술철학의 세계를 소개하는 책이다. 인공지능을 비롯한 첨단 기술은 거스를 수 없는 운명처럼 일상생활을 압도하고 있다. 어디에서, 무엇부터 손대야 할지 고민되는 시점에 이 책은 기술철학의 기본을 짚어준다. 먼저 신화의 시대에 출현한 철학의 가치에 주목한다. 철학은 초자연적인 존재와 신화를 의심하고 질문을 던지며 세상을 탐구하기 시작했다. 철학이 신화를 극복한 후에 현대의 기술이 또다시 신화의 자리를 넘보고 있다. 이를 직시하고 대안을 찾으려는 노력이 바로 기술철학이다.

 

기술철학의 역할은 당연하게 받아들여진 생각에 질문을 던지는 것이다. 기술은 꼭 발전해야 하는가? 왜 그 기술이 필요한가? 누가 그 기술을 사용하는가? 그 기술로 누가 혜택을 입고, 누가 피해를 당하는가? 누가 돈을 벌고 권력을 쥐는가? 기술이 악용될 소지는 없는가? 기술의 불확실성과 위험에 대해 누가 책임질 것인가? 그 기술의 이전과 이후에 세상은 어떻게 달라지는가? 새로운 기술은 인간을 어떻게 바꾸어 가는가? 우리는 어떤 인간이 되고 싶은가? 기술 발전이 제안하는 좋은 사회는 어떤 사회인가? 이렇듯 기술철학의 문제는 인간과 사회에 근본적인 물음에 도달한다. 우리는 누구이며, 어떤 세상에 살고 싶은가? 결국 현대의 모든 철학은 기술철학이라고 할 수 있다.

 

책의 지은이는 “기술 발전은 운명이 아니다”라고 하며, 명료한 답을 주지 않은 철학적 고민을 왜 해야 하는지를 이렇게 설명한다. 운명적 요소로 가득찬 세상에서 “운명에 지지 않으려는 사람만이 운명에 마주 서서 그것을 똑바로 바라볼 수 있는 법이다.”

정인경/과학저술가

 

 

인간과 대화할 수 있게 된 인공지능, 다음 순서는 ‘

(4) 인공지능- ① 튜링기계는 전자 꿈을 꾸는가

인공지능에 대해 쏟아지는 폭발적인 관심에는 기대와 우려의 목소리가 혼재돼 있다. 픽사베이

 

이전 칼럼까지는 연결이라는 화두를 생태계 관점에서 다루고 있었다. 하지만 이는 잠시 미뤄두고 이번 칼럼부터는 두뇌와 인공지능 관점을 다룰 것이다. 뜬금없는 도약으로 느껴지겠지만, 원래 커넥션 시리즈의 후반에서 두뇌를 모방한 인공 지능과 그 한계를 다룰 예정이었다. 우리 두뇌는 100조 단위의 신경세포가 신호를 주고받는 연결 그 자체이기 때문이다.

 

커넥션 시리즈가 추구하는 목적은 과학과 인문학의 연결이다. 인간의 생각과 행동을 다루는 인문학을 과학으로 연결하려면 두뇌에 대한 이해가 필요하다. 그리고 두뇌의 구조와 작동 방식을 이해하려면 두뇌의 진화 과정을 알아야 한다. 그리고 두뇌 진화를 이해하기 위해서는 생태계에서 일어나는 진화의 원리를 알아야 한다. 이런 논리 흐름을 따라 가장 기초가 되는 생태계에서부터 칼럼을 시작했다. 이렇게 기초부터 차곡차곡 쌓아나가는 전개는 학문의 표준이지만 지루하다. 더 큰 문제는 정작 중요한 내용에 도달했을 때는 배경 지식이 별로 남아 있지 않을 가능성이다. 이런 고민이 늘어가던 중 챗지피티(chatGPT)가 등장하였다.

 

이 인공 지능에 대해 쏟아지는 폭발적인 관심에는 기대와 우려의 목소리가 혼재돼 있다. 어떤 이들은 인공 지능을 통해 인류의 미래가 밝아질 것이라 기대한다. 반면 어떤 이들은 미래에 먹구름을 드리울 통제 불가능한 인공지능의 시작이라 우려한다. 뭔가 익숙한 상황이다. 코로나라는 단어가 처음 등장했던 삼년 전에는 바이러스에 대한 상식을 가진 대중은 극소수에 불과했다. 하지만 팬데믹으로 확산되면서 개인의 삶에 영향을 미치기 시작하자 관심은 폭발적으로 증가했다. 관심은 지식 욕구와 연결된다. 하지만 올바른 지식을 공급할 여건이 부족했기에 인포데믹(infodemic) 현상이 나타났다. 잘못된 지식이 과학적 사실보다 더 빠르게 퍼져 사회적 혼란과 부작용을 일으킨 것이다.

 

상식 영역을 벗어난 파괴력 있는 이슈가 등장하면 항상 인포데믹이 뒤따른다. 지식의 탐구 과정은 지루하고, 음모론과 논리 비약은 재미있기 때문이다. 대중이 신선하고 흥미로운 것에 더 끌리는 것은 잘못이 아니다. 우리의 두뇌가 호기심에 반응하도록 진화되었기 때문이다. 이런 본능적 반응을 넘어 객관적 사실에 접근하려면 노력이 필요하다. 그런데 전에는 바이러스, 이번에는 컴퓨터. 이외에도 크고 작은 전문 분야의 이슈들. 기초 지식만 확인하기에도 너무 피곤한 세상이다. 하지만 정보의 홍수에 쓸려가지 않으려면 최소의 내용 파악은 필수다.

인간의 두뇌를 직접 실험할 수 없는 상황에서 인공 지능은 고등 지능 연구에 새로운 통찰을 제시한다. 픽사베이

 

두뇌와 인공지능, 얼마나 유사할까?

챗지피티의 탄생 배경에는, 고등 지능을 모방하려는 한 세기에 걸친 희망과 좌절의 역사가 있다. 인공 지능의 발전에 두뇌의 생물학적 연구가 도움이 되었다는 것은 잘 알려져 있다. 하지만 반대로 인공 지능이 두뇌 연구에 도움을 주는 것은 잘 알려져 있지 않다. 인간 두뇌를 다루는 뇌과학 영역은 중요하고도 어렵다. 내용 자체도 난해하고, 미지의 영역도 너무 많다. 호모 사피엔스는 진화 역사상 가장 지능이 뛰어나다. 이는 고등 지능의 실험 대상이 인간밖에 없다는 뜻이다. 인간 대상 연구에는 강력한 기술적 윤리적 제한이 필요하다. 사람의 두개골을 열고 전선을 연결하고 약물을 주입하고, 반응을 기록해 분석을 하는 것은 연구가 아닌 인간성 말살이다. 간단해 보이는 심리 실험조차 강력한 통제를 받아야 한다. 이런 상황에서 고등 지능 연구에 새로운 통찰을 제시하고 있는 것이 인공 지능이다. 현재 인공지능과 뇌과학은 상호 보완적으로 발전하는 중이다.

 

아래 <그림 1>은 두뇌와 인공 지능의 유사성 비교이다. 위는 생물학적 환경에서 작동하는 두뇌, 아래는 컴퓨터에서 작동하는 인공지능이다. 먼저 두뇌를 살펴보자. 기본 단위인 신경세포(뉴런, neuron)가 연결(시냅스, synapse)되어 해부학적으로 구분되는 국소적 망(network)를 구성한다. 그리고 특정 기능을 수행하는 망 영역들이 통합적으로 연결되어 두뇌를 구성한다. 그 다음 개념화로 표시된 영역을 보자. 인공지능의 퍼셉트론(perceptron) 개념과 생물학적 뉴런의 유사성이 표시되어 있다. 뉴런의 기본 기능은 다른 뉴런들이 보낸 다수의 신호를 종합해서 다른 뉴런으로 다시 신호를 보내는 것이다. 이 기능을 개념화하면 x1, x2, x3라는 신호를 받아 y라는 새로운 신호를 출력하는 퍼셉트론이 된다. 수학 기호가 거부감을 줄 수 있지만, x는 입력! y는 출력! 이것만 알면 충분하다.

<그림1> 두뇌와 인공 지능 비교

 

인공 지능에서는 뉴런의 신호 입출력을 모방하는 퍼셉트론이 기본 동작 단위가 된다. 하지만 이것은 뉴런처럼 실체가 있는 것은 아니고 추상적 개념에 불과하다. 따라서 컴퓨터 메모리에서 동작하는 프로그램으로 작성해야 한다. 그림에서 신경 세포와 비교되는 기능코드가 퍼셉트론 기능을 구현하는 프로그램 조각이다. 그리고 수천 수억 개의 퍼셉트론 조각을 계층을 나눠 서로 연결시키면 인공지능의 심층신경망이 된다. 인공지능 종류마다 고유한 계층 구조와 연결 방식을 가지는데 이것이 인공지능 알고리즘이다. 이 알고리즘을 구현하는 프로그램이 실제 컴퓨터에서 구동되면 우리가 접하는 인공지능이 된다.

 

인공 지능의 핵심인 퍼셉트론 개념화 시작은 컴퓨터 등장 이전으로 거슬러 올라간다. 20세기 초에 신경과학 영역에서 두뇌와 뉴런에 대한 발견이 쏟아져 나왔다. 특히 뉴런의 신호 전달 원리는 다른 영역의 과학자들에게 많은 영감을 주었다. 간단한 기본 기능 단위의 연결 구조가 더 복잡한 고등 기능을 가진다는 복잡계(complex system)가 실제 확인된 것이다. 그리고 1943년 뉴런의 작동 원리를 전기 신호 동작으로 개념화한 퍼셉트론 논문이 등장한다. 이는 1946년 최초의 컴퓨터로 ‘알려진’ 애니악(ENIAC, 사실 최초는 아니다. 이에 대해서는 다음 칼럼에서 튜링에 대한 이야기와 함께 다룰 것이다)의 등장과 함께 인공지능에 대한 기대를 불러일으킨다.

 

하지만 두뇌의 시냅스 망처럼 많은 퍼셉트론을 연결해 인공지능을 구현할 수 있다는 기대는 산산조각 난다. 실체가 있는 뉴런으로 구성되는 두뇌의 시냅스 망과 달리, 추상적 개념인 퍼셉트론 신경망을 구현하기 위해서는 프로그램이 돌아가는 컴퓨터 하드웨어가 뒷받침되어야 한다. 하지만 당시 컴퓨터는 교실 만한 덩치에도 불구하고, 지금 스마트폰 속의 손톱보다 작은 칩에도 한참이나 못 미치는 형편없는 성능을 가지고 있었기 때문이다.

사람이나 인공지능이나 학습을 해야 실력이 는다. 픽사베이

 

인공지능이 똑똑해진 비결은?

더 큰 문제는 심층신경망을 학습시키는 방법을 알 수 없었다는 것이다. 사람이나 인공지능이나 공부가 필요하다. 두뇌가 고등 지능을 발현하기 위해서는 뉴런이 체계적으로 연결되어야 한다. 태어나자마자 말하고, 뛰어다니고, 수학문제를 푸는 신생아는 없다. 제대로 연결되지 않은 뉴런으로 가득한 신생아의 시냅스망은 학습을 통해 재구성되고 다듬어지는 과정을 거쳐야 고등 지능을 발휘하게 된다. 마찬가지로 인공 지능의 심층신경망 퍼셉트론도 학습으로 연결이 다듬어져야 한다. 그런데 어떤 방법으로 심층신경망을 학습시킬 것인가에 대한 고민은 오랫동안 해결되지 않았다.

 

심층신경망 학습에 적합한 데이터 부족도 드러나지 않은 문제였다. 운동을 잘하려면 연습을, 공부를 잘하려면 문제를 많이 풀어봐야 한다. 학습에서는 먼저 시도해보고 결과를 확인해 뉴런의 연결을 다듬는 피드백이 중요하다. 인공지능도 피드백을 통해 퍼셉트론의 연결을 다듬어야 한다. 이를 강화학습이라고 한다. 사람이나 인공지능이나 많이 할수록 똑똑해진다. 학생에게 풀어야 할 연습 문제가 부족한 상황 따위는 일어나지 않는다. 하지만 인공지능에겐 학습을 위한 연습 문제가 부족했다. 정답이 명확하게 구분된 엄청난 양의 디지털 데이터가 필요하기 때문이다. 그러다 인터넷 보급이 본격화되면서 인공 지능 학습에 적합한 데이터가 빠른 속도로 축적되기 시작하였다.

 

인터넷의 보급은 컴퓨터의 발전도 촉진했다. 특히 게임 시장이 지면서 사실적인 그래픽을 제공하는 하드웨어 발전이 가속화되었다. 이 특화된 하드웨어를 이용하면 심층신경망 학습을 놀라운 속도로 진행할 수 있었다. 현실에서 게임은 공부의 적으로 여겨지지만. 인공 지능에서는 게임이 공부의 일등 공신인 셈이다. 하드웨어와 학습데이터가 갖추어지자 심층신경망 학습 방법에 대한 연구가 본격적으로 진행된다.

 

그 첫 성과는 두뇌의 시각 처리 과정 모방에서 나왔다. 우리가 개와 고양이를 구분하는 것은 별거 아니지만, 인공지능에게는 오랫동안 불가능의 영역이었다. 하지만 심층신경망의 훈련 방법, 컴퓨터 하드웨어, 학습 데이터라는 삼박자가 맞아 떨어지자 인공지능은 갑자기 똑똑해지기 시작하였다. 물론 사물을 보고 구분하는 기초적 시각 능력을 고등 인공지능이라 하지는 않는다. 시각 능력은 모든 동물의 기본이기 때문이다. 하지만 인공지능이 시각 능력을 보여준 결과에서 중요한 점은 심층신경망의 구성과 학습 방법을 알게 되었다는 것이다. 이후 한 단계 올라선 지능을 부여하기 위한 연구들이 파생된다. 그 중 대중에게 가장 널리 알려진 것이 바둑을 두는 인공 지능 알파고다. 그리고 7년 뒤 챗지피티(chatGPT)가 등장한다.

챗지피티는 심층신경망을 구성해 학습시키면 사람처럼 대화가 가능한 인공 지능이 가능하다는 걸 확인시켜줬다. 픽사베이

 

신경망 안에선 무슨 일이 일어나고 있을까?

챗지피티는 천억개가 넘는 퍼셉트론을 연결해 대규모 심층신경망을 구성하고, 엄청난 규모의 언어와 지식 정보를 학습시키면, 사람처럼 대화가 가능한 인공 지능이 만들어지는 것을 확인시켜줬다. 이는 단순한 기능의 기본 단위라도 엄청나게 많은 연결을 통해 고등 기능이 획득된다는, 복잡계의 창발성(emergence)을 보여주는 극적인 예다(물론 심층신경망의 기본 구조 설계와 훈련 방법은 위 설명처럼 간단하지 않으며, 이것이 인공지능의 능력을 결정하는 연구진의 노하우다). 그런데 이 창발성은 불안 요소가 되기도 한다. 두뇌의 뉴런이 어떻게 연결되어 고등 지능이 발현되는지 모르는 것처럼, 퍼셉트론이 어떻게 연결되어 인공지능이 작동하는지를 모르기 때문이다.

 

입력과 출력은 확인 가능한데 내부에서 일어나는 일을 모르는 심층신경망을 블랙박스로 표현하기도 한다. 이천억개에 가까운 퍼셉트론의 연결 중에 자아가 창발이 되었을 가능성은 없을까? 이 질문은 이 칼럼의 소제목이기도 한 ‘튜링 기계(chatGPT)가 꿈을 꾸는가?’라는 질문으로 바꿀 수 있다. 우리 두뇌는 잠을 자면서 시냅스 망의 회로를 다듬는다. 이 과정을 통해 깨어 있는 동안 경험한 단기적인 기억들이 장기 기억(시냅스 회로)으로 전환되어 체계적으로 저장된다. 잠을 자지 않으면 장기 회로가 잘 형성되지 않는다. 공부를 잘하려면 잠을 충분히 자라는 이유가 여기에 있다. 이런 시냅스 연결이 일어나는 동안 우리 두뇌는 꿈도 꾸고 고유한 자아도 형성한다. 따라서 인공지능이 꿈을 꾼다는 것은 자아를 가진다는 의미다. 이는 영화 ‘터미네이터’에 나온 인류를 멸망시키려는 인공지능 ‘스카이넷’의 등장 가능성으로 연결된다.

주철현/울산의대 미생물학 교수·의학교육센터장 /한겨레

 

기술의 불안한 -미래 엇갈린 전망과 기독교적 대안 에그버트 스휴르만 저/최용준, 손화철 역 | 비아토르 | 2019년

 

책 속으로

이 시대만큼 기술 지향적인 시대는 없다. 정보기술, 나노기술, 바이오기술 및 신경기술들이야말로 지금 일어나고 있는 제2차 기술혁명의 원인들이다. 컴퓨터, 로봇 및 사이보그, 즉 인간과 기계의 ‘융합’ 및 유전자 수정 등으로 조작된 유기체들이 매우 급히 진보하고 있다. 최근 제정된 ‘철학의 달’ 기간 중 네덜란드는 이런 현상에 대해 많은 관심을 기울였다. 그러나 놀랍게도, 인간과 기술에 관한 사고에 대한 문화적.역사적 배경에 대해 거의 주의를 기울이지 않고 있다. 이 문제들은 너무 일방적 철학적 관점에서만 고려되고 평가되었다. --- p.18

 

나는 이 세상이 하나님의 장엄한 창조물이라는 사실을 서구인들이 적극 무시하고 있다고 깊이 확신한다. 그래서 우리는 우리 가운데 있는 악의 깊이를 부인하고, 역사적인 타락으로 인한 인간의 불순종으로 모든 어두운 결과가 초래되었다는 사실을 믿기를 거부한다. 나아가 우리는 그리스도가 그분의 삶, 죽으심 그리고 부활하심으로 이룬 총체적 구속도 애써 무시한다. 그리고 새로운 창조에 대한 생생한 기대로 인한 소망도 잃어버리는 비극을 맞게 된다. --- p.75

 

자연과학 및 기술의 발전이 우리의 삶과 생각에 얼마나 깊은 영향을 미치는지 간과해서는 안 된다. 창조, 그리고 죄와 은혜의 관점에서 인간이 된다는 것은 역사 속에서 지속적으로 존재함을 미한다. 그러나 우리의 경험에서 인간이 된다는 것은 우리가 사용하는 도구와 수단들, 우리가 매일 숨 쉬는 문화 등 우리의 역사적 맥락에 의해 정의된다. 서양 문화가 이런 전자 시대에 현대의 바벨탑을 건설하는 데 마음을 빼앗긴다면, 우리는 그리스도인으로서 그 탑에 거주하거나 아니면 적어도 그 근처의 이웃으로 살게 된다. 우리는 그것을 피할 수 없다. 미래에 직면한 우리의 가장 큰 질문은 이것이다. 그리스도인들은 어떻게 이런 바벨 문화 내에서 자신의 중심을 잃지 않고 진정한 문화 변혁에 공헌할 수 있을 것인가?. --- p.122

 

이제 변화가 일어나야 한다. 생명 그 자체를 보호하는 것이 문화 형성에 있어 모든 것을 결정하는 목표가 되어야 한다. 과학, 기술, 경제는 생명의 다양성과 풍요로움을 파괴해서는 안 되며, 오히려 생명을 섬기는 데서 그 존재이유를 찾아야 한다._209

 

생명의 실체를 바라보는 문화 모델에 관심을 기울이게 되면, 기술은 비로소 적절한 위치에 서게 되고 기술에 의해 발생하는 재난들이 줄어들 것이다. 나는 ‘발전하는 동산’이라는 오래된 성경적 문화 모델이 내가 나열한 요구들을 충족시킨다고 믿는다. 그렇게 되면 역사는 펼쳐지는 동산(창 2장)으로서의 낙원에서 미래의 동산 도시(계 21장)로 나아가게 될 것이다. 죄로의 타락 때문에 이 관점은 엄청나게 왜곡되었다. ‘가시와 엉겅퀴’ 그리고 ‘죽음’이 인간 역사의 특징이 되었다. 그러나 이 동산의 비전은 하나님의 역사에 대한 계획에 포함되어 엄청나고도 시사적인 통찰을 우리에게 제공해준다. 그리스도의 십자가와 부활을 통해 다가올 하나님나라에 대한 희망찬 관점이 다시 생겨난다. 역사의 끝에 그리스도 안에서 문화의 모든 것이 우리의 지평 너머 있는 동산 도시로 나타날 것이다.--- pp.240-241

 

호모 파베르의 미래 -기술의 시대, 인간의 자리는 어디인가 손화철 저 | 아카넷 | 2020년 12월

책 속으로

실천철학으로서 기술철학은 일정한 필요에 응하고 스스로의 효용을 증명해야 하는 부담을 진다. 설사 그 부담을 차치하더라도, 어차피 철학의 물음은 인간이 던지는 것이 아니라 인간에게 오는 것이다. 그래서 그 효용의 문제를 완전히 해결하지 못한다 해도 기술철학의 여러 물음들은 여전히 유효하다. 기술의 시대에 우리에게 온 물음을 궁구하고 답을 찾으려 노력하는 것은 사유하는 인간의 숙명이다.--- 서론 중에서

 

실천적인 차원에서 이 개념은 곧 도래할 기술사회를 설명하고 준비하는 유용한 도구가 될 수 있다. 최근 4차 산업혁명 등을 언급하며 이루어지는 많은 논의들은 우리가 만드는 기술에 대한 지나친 기대와 함께 첨단기술들이 초래할 새로운 상황에 대한 막연한 두려움이 뒤섞인 채 진행되는 경우가 많다. 호모 파베르의 역설은 기술의 제작자가 인간이라는 사실과 함께 그 기술로부터 영향을 받을 수 있음을 명백히 밝혀 새로운 시대를 준비하는 균형 잡힌 접근을 가능하게 한다.--- 「5장」 중에서

 

기술의 진보를 규정하는 데 있어 접근성을 기술 진보를 판단하는 중요한 기준으로 추가할 것을 제안한다. 사실 이 개념은 장애인 이동권을 위한 여러 운동에서 이미 어느 정도 사용되어왔는데, 여기서 그것을 기술의 영역으로 좀 더 확대해본 것이다. 다시 말해, 어떤 기술을 설계할 때에는, 다양한 기술 수준에 있는 사람과 사회들이 그 기술의 개발과 제작, 사용에 좀 더 쉽게 접근할 수 있도록 해야 하고, 그런 만큼 더 진보된 기술로 파악해야 한다.--- 「7장」 중에서

 

더 적극적이고 구체적인 방안 중 하나가 강력한 공학자 단체의 결성이다. 대다수가 피고용인인 공학자들이 자신들의 이익과 자존심을 지키고 책임감과 윤리성을 드러내기 위해서는 강력한 공학자 단체가 있어야 한다.--- 「8장」 중에서

 

우리는 어떤 인간이 되고 싶은지 물어야 한다. 한편으로는 열린 인간관을 가지고 기술에 의해 일어나는 변화를 받아들여야겠지만, 이 물음은 일정한 시간을 요구하기 때문에 그 변화의 속도를 조절할 필요가 있을지도 모른다. 그 조절은 앞서 말한 대로 사회적, 경제적, 정치적 제도와 조직들이 정비되어 첨단기술이 현재의 윤리적 기준에 비추어 받아들일 수 없을 정도의 부작용을 일으키지 않도록 하는 것을 통해 이루어질 수 있다.--- 「9장」 중에서

 

기술의 성취는 새로운 자연의 창조가 아니라 자연의 재배열인 것이다. 기술을 통해 자연의 구조가 재배열될 때마다 인간의 자리도 조금씩 바뀔 것이고, 인간의 자리를 묻는 물음에는 그때마다 다른 대답이 제공되어야 한다. 따라서 궁극적으로 물어야 할 것은 선하지도 악하지도 않은 기술이 아니라 인간의 미덕이다.--- 결론 중에서

 

포스트휴먼 사회와 새로운 규범 백종현, 박신화, 박찬국, 박충식, 손화철 저 외 | 아카넷 | 2019년

책 속으로

휴머니즘이란 하늘과 땅의 중심에 동물이되 이성적 존재자인 인간이 있으며, 그러한 인간 위에 인간 없고 인간 아래 인간 없다는 정신에 기초한다. 포스트휴먼 사회가 탈인간 사회가 아닌 진보한 인간 사회가 되려면, 전체적으로 인간 교육에 힘을 쏟고 개개인은 자신의 교화에 매진하며, 사회는 동등한 사람들이 화합하는 장이 될 수 있는 제도를 끊임없이 강구하고 구축해나가야 한다. --- 「1장」중에서

 

오늘날 사람들이 트랜스휴머니즘이 과학과 기술을 통해 극복할 수 있다고 생각하는 갖가지 신체적, 정신적 질환으로 고생하고 있는 것은 사실이다. 그러나 오늘날 우리가 직면하고 있는 많은 문제는 사실은 트랜스휴머니즘이 정상성과 건강함의 척도로 삼는 가치들이 사람들을 지배하고 있는 데서 비롯된 것일 수 있다. --- 「2장」중에서

 

현재는 소셜 로봇(Social Robot)의 ‘소셜’이 공장에서 쓰는 로봇이 아니고 사람들과 대면한다는 단순한 뜻으로 붙여진 것이지만, 확장된 소셜 머신은 언젠가는 진정으로 인간과 ‘소셜’한 로봇의 등장을 준비하는 것이 될 것이다. --- 「3장」중에서

 

내게 ‘휠체어 탄 인공지능’은 ‘자율적인 인공지능’에 맞선 대안적인 인공지능의 형상화다. 곧 장애의 몸이 갖는 행위능력을 부정하지 않으면서 장애인이 할 수 있도록 해주는 기술, 그들이 원하는 능력이 무엇인지 경청하고 그런 능력을 장애인들과 함께 만들어가려고 노력하는 기술, 기술이 의존하는 다양한 돌봄노동자들을 외면하지 않고 적절하게 보상하고 인정하는 기술을 의미한다. --- 「4장」중에서

 

오늘날 의생명 윤리 문제들의 관건은 어딘가에 고정(결정)되어 있을 인간과 비인간의 경계선을 찾는 데 있지 않다. 그것은 우리가 사회적 합의 과정에서 어떤 인간 사회를 ‘희망’할 것인가를 숙고하는 데 있다. --- 「5장」중에서

 

한국의 급속한 산업화와 기술 발전, 그리고 그 관성은 포스트휴먼 시대가 제기하는 여러 문제들을 더욱 심화시킨다. 국가와 전문가의 주도적 지위와 경제 발전을 향한 무조건적인 전진에 대한 성찰이 막 시작된 시점에서 포스트휴먼 시대의 흐름은 퇴행적인 개발시대로 되돌아가고 싶은 유혹을 불러일으킨다. 이런 상황에서 한국의 과학기술 거버넌스는 인간과 기술의 관계를 고민하고, 바람직한 미래의 모습을 구체적으로 그려내는 근본적인 차원의 논의로 돌아갈 필요가 있다.--- 「6장」중에서

 

로봇은 인간을 지배할 수 있을까? -인공지능이 만드는 인간의 미래  이종호 저 | 북카라반 | 2016년

책 속으로

2016년 3월 인공지능 바둑 프로그램 알파고와 이세돌 9단의 대결은 인공지능 역사에 획기적인 사건으로 평가된다. 대부분의 전문가가 대국 전에는 이세돌 9단이 알파고에 완승할 것으로 기대했지만 5차례의 대국에서 알파고는 이세돌 9단을 4대 1로 이기면서 완승했다. 알파고는 응수타진이나 사석작전 같은 소위 ‘인간적인’ 전략도 능수능란하게 구사했다. 알파고의 승리는 그동안 지구 최고의 지적 동물로 자부하던 인간에게 큰 충격을 주었고 인공지능이 우리 삶과 직결되고 있음을 알려주었다. 알파고의 승리가 세계인을 놀라게 한 것은 인공지능이 인간의 생활 전반에 영향을 미칠 것이기 때문이다. 농업혁명, 산업혁명을 거쳐 인공지능혁명이 도래했다고 말하는 사람도 있을 정도다. 이제 지구인은 인공지능과 함께 살아가게 되었다.--- p.5

 

민스키는 인공지능을 “사람이 수행했을 때 지능이 필요한 일을 기계에 수행시키고자 하는 학문과 기술”이라고 정의했다. 그러므로 인공지능이란 사람의 경험과 지식을 바탕으로 새로운 문제를 해결하는 능력, 시각과 음성 지각 능력, 자연언어 이해 능력, 자율적으로 움직이는 능력 등을 실현하는 기술이며 인공지능의 목표는 사람처럼 생각하는 기계를 개발하는 것이다. 인공지능의 연구는 크게 두 가지 측면으로 나누어진다. 하나는 인간 지능의 원리와 메커니즘을 해명하는 과학적 연구이고 또 다른 하나는 인간의 지능적 정보처리 능력을 프로그램화해 컴퓨터가 지능적으로 동작할 수 있도록 하는 공학적 측면이다. 따라서 인공지능 연구는 컴퓨터 과학을 중심으로 하지만 철학·언어학·생리학·윤리학 등 인간에 관한 모든 학문 영역을 포괄한다.--- pp.101-103

 

가사용 로봇이 실제로 가정에서 일하기 위해서는 함께 사는 사람들의 특성은 물론 자신이 있는 집의 구조를 정확하게 숙지해야 한다. 이것은 가사용 로봇에 일일이 가족에 대한 정보를 입력해주어야 한다는 뜻인데 현실적으로 가능한 일일까? 누구나 자신의 모든 특성을 로봇에 전수하는 것이 불가능하다는 것을 안다. 하물며 다른 사람에 대한 정보는 어떻게 넣어 주겠는가? 가사용 로봇에 모든 정보를 넣어준 뒤 어떤 작업을 시키는 것보다 직접 냉장고에서 맥주병을 꺼내오는 것이 더 편리하다는 사람이 많은 이유다. 더구나 로봇의 가격도 만만치 않다면 굳이 로봇을 구입해야 할 이유가 없어진다. 학자들이 로봇을 개발하면서 알게 된 것은 백과사전에 있는 내용을 전부 입력했다고 하더라도 로봇은 입력된 정보를 인간처럼 논리적으로 활용하지 못한다는 것이다. 똑똑하지 않은 로봇이 필요할 이유는 없다.--- p.111

 

로봇은 단순 창조 작업을 인간보다 훨씬 빠르고 정확하게 한다. 음악의 조율은 물론 산업 시설에 전원이 끊겼을 때 스스로 복구하기도 한다. 단순 지능 여부만을 따진다면 인간과 로봇을 구별할 수 없는 상황이 된 것이다. 물론 로봇의 능력은 우수한 프로그래머의 능력이라고 볼 수도 있지만 사전적인 정의에 따르면 로봇도 창의적인 일을 할 수 있다.--- pp.134-135

 

만약 인간의 뇌파를 완벽하게 읽어내는 기계가 개발된다면 두뇌의 기억 물질을 로봇의 소프트웨어에 결합시킬 수 있을 것이다. 인간의 두뇌에 있는 기억 물질을 추출할 수 있다면 지능형 로봇을 만드는 것이 어렵지 않다는 뜻이다. 좀더 과장한다면 뇌를 컴퓨터에 다운로드해 개인의 기억과 개성, 의식을 보존할 수도 있다.--- p.178

 

일반인에게 가장 잘 알려진 딥 러닝 활용 분야는 무인 주행 자동차다. 무인 주행 자동차는 앞에 횡단보도가 있는지 사람이 있는지 같은 정해진 물음에 답할 뿐 아니라, 안전하거나 위험한 상황을 담은 동영상 데이터베이스를 기반으로 스스로 학습해 자동차를 운행한다. 무엇이 더 중요한 정보인지 판단해 그것을 다음 연산에 반영한다. 참조할 데이터베이스가 많을수록 인공지능은 단련된다. 인공지능 연구자들은 이전에 없던 새로운 창의성이 나타날 수도 있다고 말한다.--- p.221

 

지구의 지배자였던 인간이 강력한 인공지능과 생존경쟁을 펼치게 되어 인간 대부분이 일자리를 잃게 된다면 ‘노동→ 소득 발생→ 소비→ 기업의 투자→ 고용→ 노동’으로 이어지는 현대 경제 메커니즘이 해체된다는 뜻이다. 이는 모든 면에서 혁신을 불러온 과거의 농업혁명이나 산업혁명에 비견될 만한 혁명이다. 한마디로 인공지능 시대의 등장이다.--- p.224

 

인간의 미래가 앞으로 인간이 상상하지 못한 방향으로 나갈 수 있다는 근거는 앞으로 모든 인간의 이기가 네트워크로 연결될 수 있다는 것에 기반을 둔다. 기계나 로봇이 인간 두뇌의 경이로움을 따를 수 없다고 하지만 현실 세계에 인간의 두뇌를 능가하는 것이 존재한다. 바로 인터넷망이다. 기계는 애초에 설계된 한계를 넘으면 작동을 멈추지만 인터넷은 그렇지 않다. 그렇게 될 수 있는 이유 중 하나는 인터넷이 스스로를 제어할 수 있기 때문이다. 인터넷은 정보 다발을 보낼 때 가장 빠른 경로가 어디인지를 상황에 따라 판단해 길을 찾아낸다. 인터넷의 성장이 생물의 진화에 맞추어 발전했다고 볼 수도 있으므로 결국 인간의 두뇌를 모사할 수 있는 무엇을 찾아낼 수 있다는 뜻이다.--- pp.240-241