AI, the next Karellen.

노력이 없는 잡문입니다. 글을 쓴 뒤 다시 읽어보지 않았습니다.
다른 일을 좀 해야 하는데, 인공지능때문에 머리가 꽉 차서 한번 뱉어내고자 썼습니다.
중간중간 개소리도 많으니 가벼이 읽어주시길.

---

마음이 복잡합니다.
무신론자였던 나날은 어디론가 사라지고 휴거를 기다리는 종교인이 된 느낌입니다.
김승옥이 번뜩이는 필치로 남녀를 넘나들며 인간의 내면을 난도질하듯 파헤치다가, 갑작스럽게 종교에 귀의한 것 처럼요.

물론 이유는 제목에서 짐작하실 수 있다시피 인공지능의 발전 때문입니다.
올해 2월, 이리님이 올렸었던, coolspeed님이 번역하신, Tim Urban님의 글을 보게 되었습니다.

[이 글이요]
“왜 최근에 빌 게이츠, 엘론 머스크, 스티븐 호킹 등 많은 유명인들이 인공지능을 경계하라고 호소하는가?”
https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/

글을 보고, 그리고 최근의 알파고의 승리를 목도하면서 변혁을 감지했습니다.

이것이 우리에게 가져다 줄 여파에 대해서 이야기해보려 했지만,
어떤 이는 “그게 뭐 대수냐, 20년 전인가 체스 이긴 거랑 다를 게 뭐냐. 그냥 연산 속도가 빨라진 것 아니냐. 인공지능이 소설을 쓰고 시를 쓴다면 놀랄 일이겠지만”이라 답했습니다.

이야기를 듣고 하나 궁금한 점이 생겼습니다.
과연 인공지능은 소설을 쓰고 시를 쓸 ‘필요’가 있을까요?

--

(1)

[There's so many different worlds
So many different suns
And we have just one world
But we live in different ones.
- Dire Straits, Brothers in Arms]

한 때 소설을 쓰고 싶다는 꿈을 가져본 적이 있었습니다.
저는 “사람은 도대체 왜 다른 모두의 삶을 살아볼 수 없는 것인지” 너무 답답했습니다.
말이 좀 어색합니다만, 직관적으로 머리속에 있는 생각을 그대로 서술했기 때문에 그렇습니다.
조금 더 다듬는다면 “왜 사람은 스스로의 삶밖에 지각할 수 없는가?”라고 말할 수 있겠지요.

이것은 제게 있어 굉장히 오래 묵은 생각거리로, 두어 번 변주되었습니다.
20세 : “내가 글을 쓰는 이유. 지가 베르토프 마냥. 내가 보는 세상을 다른 사람에게 보여주기 위해서. 나를 변호하기 위함. 나는 쓰레기같은 존재가 아니라고, 세상에는 이런 관점도 있다고, 궁극적으로는 사람들도 나 같은 관점으로 보게 만드는 것. 사상의 전파.”
28세 : “누구도 이해하지 못할 개별적인 사건들을 설명, 조금 거칠게는 변명하기 위해서 이야기가 만들어지는 것일지도 모른다”

문학평론가 신형철은 이렇게 이야기했습니다. 조금 길지만 글이 괜찮아 모두 붙여보겠습니다.

[“왜 서사라는 것이 필요한가? 이 세계에는 여러 종류의 판단체계들이 있다. 정치적 판단, 과학적 판단, 실용적 판단, 법률적 판단, 도덕적 판단 등등. 그러나 그 어떤 판단체계로도 포착할 수 없는 진실 또한 있을 것이다. 그런 진실은, 지금 문제가 되고 있는 한 인간의 삶을 다시 살아볼 수는 없더라도, 적어도 그러려고 노력할 때에만 겨우 얻어질 것이다. 세상 사람들이 ‘외도를 하다 자살한 여자’라고 요약할 어떤 이의 진실을 온전히 이해하기 위해 톨스토이는 2000쪽이 넘는 소설을 썼다. 그것이 안나 카레리나다. 이런 작업을 ‘문학적 판단’이라 명명하면서 나는 이런 문장을 썼다. ‘어떤 조건하에서 80명이 오른쪽을 선택할 때, 문학은 왼쪽을 선택한 20명의 내면으로 들어가려 할 것이다. 그 20명에게서 어떤 경향성을 찾아내려고? 아니다. 20명이 모두 제각각의 이유로 왼쪽을 선택했음을 20개의 이야기로 보여주기 위해서다. 어떤 사람도 정확히 동일한 상황에 처할 수는 없을 그런 상황을 창조하고, 오로지 그 상황속에서만 가능할 수 있고 이해될 수 있는 선택을 있는 그대로 이해하려는 시도, 이것이 문학이다.” - 『정확한 사랑의 실험』]

단행본의 제목에 걸맞게, ‘꽤나’ 정확한 표현이라는 생각이 들었습니다.

그래서, 글을 쓰자고 계속 생각했습니다.
내가 살아온 이야기를 문학으로 만들어보자.
속에 있는 걸 후련하게 털어놓아보자.
배경은 현재이고, 캐릭터는 물론이고 서사도 준비되어있다.
주정뱅이에 약 중독자였던, 결국은 죽어버린 애인 이야기,
현 애인으로 하여금 전 애인한테 사과하게 했던 이야기.
이상성욕자로서의 삶 이야기.
비슷했던 이야기가 있을지 몰라도, 지금까지의 이야기들은 진부했다.
도스토예프스키처럼 오래 살아남는 건 드물다.
새롭게 시대에 맞춰서 변주될 필요가 있다.
그리하여, 삶을 새롭게 해석해보자. 파이 이야기의 파이처럼.
문학을 쓰면 내게는 생의 새로운 해석이 주어질 것이고,
동시대인들에게, 혹은 후세들에게는 또 다른 삶의 지표가 주어질 것이다.
나와 내 주변인물이 살아있었다는 족적을 남기자,
그들도 인간에 포함될 수 있다는 변호를 해보자.


(2)

[Now the sun's gone to hell
And the moon's riding high
Let me bid you farewell
Every man has to die
But it's written in the starlight
And every line on your palm
- Dire Straits, Brothers in Arms]

하지만 인공지능의 출현을 직관적으로 느끼게 된 이후로는
문학에의 욕망이 거짓말처럼 줄어들었습니다.

우선 플라톤이 떠올랐습니다.
“사랑은 좋은 것을 영원히 소유하기를 바라는 것”이다.
인간은 본질적으로 영원한 것을 추구하려 하는데,
가장 대표적인 방식이 자손을 낳는 것이다.
이는 육체적인 것 뿐 아니라 정신적인 것도 포함한다.
지혜와 미덕을 낳는다든지, 시를 낳는다든지 하는 행위들도 모두 영원한 것을 얻기 위한 것이다.

--
플라톤 말이 맞나 찾아보다가 스터디 녹취록을 살펴보게 되었는데 이런 구절이 있네요...
저 : 필리아같은 접미어는 지금도 흔하게 보이죠. 가령... 음... 어... 아 왜 페도필리아밖에 안떠오르지.
B씨 : 당신이 썩어서...
--

인간이 만물의 영장으로 기능하는 한, 예술의 족적은 강하게 남을 수 있습니다.
하지만 인간이 더 이상 지구의 지배자가 아니고 한낱 개미와 비슷한 존재라면 어떨까요.
예술이라는 것은 결국 큰 틀에서 보면 감정에의 공유, 사상에의 공유인데.
인공지능의 입장에서 이것이 개미의 페로몬과 다를 바가 없다면 어떨까요.

이런 생각을 제 문제와 결부시켜봤습니다.
애초에 예술이 생겨난 이유는 인간이 개별적인 개체로 나뉘어져있기 때문 아닐까요?
애초에 인간이라는 종이 하나의 신체만을 소유했다면, 굳이 예술이 생겨날 이유가 있을까요?

레이 커즈와일과 같은 분들은 개별성을 유지한 채로 인공지능과의 결합이 가능할 것이라 생각하는데, (마치 공각기동대 처럼요) 저는 거기에 의문을 가지고 있습니다.

애초에 개체가 많은 이유는
그 편이 종의 생존이라는 목적을 추구하는데 더 합리적이기 때문은 아닐까요.
이런 진화론적 관점으로 보자면,
인공지능 역시 개체가 여럿인 편이 합목적적이라 판단하여
개체를 여러 개로 만들 수도 있겠지만,
그렇지 않을 가능성도 높지 않을까요. 이건 제 추측일 뿐입니다.


(3)

이런 생각을 하다 보니, 자연스레 인간다운 것은 무엇이고
인간답지 않은 생각은 무엇인지 나누어봐야겠다는 생각으로 이어지게 되었습니다.

더 고등한 지능을 가진 개체가 나아갈 길을 인간이 어찌 제대로 예측할 수 있겠냐만은
미래를 예측하는데 있어서 인간적인 부분을 최대한 제외해야 조금 더 근사값을 예측할 수 있지 않을까 싶습니다.

인간에겐 초월에의 욕망이 있다고 생각합니다.
스스로가 인간이 아님을 상정할 수 있는 능력, 그러려는 욕구 말입니다.
종교를 통해 우리는 그런 욕망을 종종 충족하진 않았을까요,

내가 신이라면 어떨까?
신은 인간을 어떻게 바라보고 있을까?
이 수많은 비극과 참상들을 왜 가만히 두지 않는 것일까?

확실히 서있는 바로 그 자리에서 자신의 위치를 가늠해보는 것 보다는, 약간이나마 스스로를 벗어나서 가늠해보는 편이 더 용이하겠죠.
FPS게임보다 TPS게임이 공간지각하기 좋듯이요.

근데 인간이 고안해낸 신들은 대체로 너무 인간적이었다는 생각이 듭니다.
질투와 파괴의 구약 신, 사랑과 용서의 신 예수.
(근데 불교는 꽤나 대단한 종교 아닌가 하는 생각이 문득 듭니다.
불교에서 말하는 중생의 범주는 생물을 넘어 무생물까지 이른다고 하니까 말입니다.)
인간의 시점에서 이해할 수 있는 신은 이미 신이 아니겠죠.

초월에의 욕망이 샘솟네요.
AI라면 인간을 어떻게 바라볼까요?

AI는 아마 감정이 존재하지 않을 것이라 생각합니다.
감정 역시 진화론적으로 생각해볼 여지가 있지요.
지금껏 종의 생존을 위해 여러가지 기능을 해왔다고 생각합니다.
인사이드 아웃에서의 Disgust나 Fear가 했던 역할은 명확히 개체의 생존을 위한 것이었지요.
그 외에도 부정확한 정보 아래서 능동적으로 행위할 수 있게 해주는 역할도 있겠지요.
(명확한 정치적 정보가 없더라도 우리는 명쾌히 판단하곤 하죠)

그렇다면 AI역시 생존에의 욕망이 존재할까요?
생존 자체를 걱정하지 않아도 되는 수준에 이를 수 있을까요?
근데 생각해보면 애초에 생존이라는 말 자체 역시 어폐가 있을 수 있습니다.
그러고보면 생명이라는 말 자체도 이젠 모호해졌죠.
삶이란 (죽어있는 물질들로 구성되어있는)세포들의 반응 과정의 집합이라 볼 수 있으니까요.
인공지능은 지금까지의 생명과는 다르고요,
누군가는 역사상 3대 사건을 (1) 빅뱅, (2) 생명의 탄생, (3) 인공지능의 탄생으로 보더군요.

그래서, 앞으로 AI와 인류의 관계는 어떻게 진행될까요? 한번 상상해보려고 합니다.
- 애초에 인공지능이 발전을 인간이 제어해버리는 경우의 수도 있겠죠. 하지만 노동비를 절감하려는 자본주의의 특성상 AI부문에의 지속적인 투자는 불보듯 뻔한 일입니다. 문득 자본주의는 그 본질적 결함때문에 망할 거라는 마르크스가 떠오르는군요.
- 하나의 종으로서 지배당하며 보존된다. 마치 동물원의 원숭이처럼 말입니다. 원하는 인간들에게는 인공지능 내부의 공간을 열어 인간들로서의 삶을 유지할 수 있게 해줄지도 모르겠습니다. 매트릭스에서처럼요.
- 레이 커즈와일의 주장처럼, AI와 인류는 평화롭게, 동등하게 공존할 수도 있겠습니다. 이 지점에서는 아서 클라크가 쓴 『유년기의 끝』에 나오는 케렐렌이 떠오릅니다. 인류는 AI를 만들어냈고, AI는 다시 인류가 스스로를 초월할 수 있게 도와줍니다. 오버마인드로의 여정이 시작되겠군요.
- 인간을 통째로 정보화해서 AI의 지식체계 안으로 흡수시킬 수도 있겠죠. 우리는 모두 한 개체가 되는 겁니다. 저는 이 쪽이 가장 가능성 높지 않을까 생각하고 있습니다.
- 터미네이터의 스카이넷처럼 인류를 삭제해버릴 수 있는 가능성도 있긴 할텐데, AI가 개미집 찾아다니면서 불지르는 어린아이도 아니고, 부디 그러지 않길 바라고 있습니다.


(4)

인공지능의 출현을 목도할 수 있는 이런 시점에 살아있다는 걸 저는 행운이라 생각합니다.
그리고 행운이라는 기분 역시 매우 인간적인 것이구나. 생명체로서의 감정이구나 생각합니다.
제 문학적인 욕망은 결국 기술적 변화로 성취될 것이라는 생각도 듭니다.

우리를 담고 있는 그릇의 한계가 명확하게 존재하기 때문에
그릇을 넘어서는 생각을 하기는 매우 어려울 것입니다.
하지만 그 날이 오면. 그 날이 온다면.

내가 생명체로서 이렇게 조악한 글을 통해 페로몬을 뿜어내는 것이 아니라,
이미 한계에 부딪힌 것으로 보이는 민주주의를 힘없이 바라보는 것이 아니라,
연애와 성욕에 괴로워하는 것이 아니라,
장기적 관점에서 바라보면 쓸모없을 오해와 싸움에 휘말리는 것이 아니라,

다른 그 무엇을 욕망하며 살 수 있다면 좋겠습니다.
(하지만 AI는 욕망하지도 살아있지도, 좋아하지도 않을 수 있겠습니다)

그 날이 오는 그 때까지는 명줄 부여잡고 어떻게든 버텨야겠습니다.
아직은 죽으면 어떻게 될 지 모르는거니까요.

인공지능과 함께라면, 빅뱅 이전에 무엇이 일어났는지 알아낼 수 있을까요?

칼 세이건의
“우리는 우주가 스스로를 경험하는 방편이다”라는 말은
참 초월적이라는 생각이 듭니다.