수퍼씨 칼럼 #1

AI가 괴담을 만든다면

최근 몇 년 동안, 인공지능은 믿을 수 없을 정도로 진보했고, 이제는 기계가 그 어느 때보다 더 높은 정확성과 효율성을 가지고 점점 더 복잡한 작업을 수행할 수 있게 되었다.

인공지능의 핵심은 자연어를 이해하고 사물을 인식하는 것과 같이 인간의 지능이 일반적으로 필요한 작업을 수행할 수 있는 기계를 만드는 과정이다. 우리가 4차 산업혁명에 접어들면서 인공지능이 우리 세계의 미래를 형성하는 데 중추적인 역할을 할 것이라는 것이 점점 분명해지고 있다.

생산성을 높이고, 경제 성장을 촉진하고, 우리의 삶의 질을 향상시키는 그것의 능력으로, 인공지능은 이미 한때는 상상할 수 없었던 방식으로 우리의 사회와 경제를 변화시키고 있다.

미래를 바라볼 때, 인공지능이 제시하는 기회는 무한하다는 것은 분명하다. 동시에 이 기술에 대해 여전히 아무것도 모르고 있다는 사실 또한 유효하다.

어쩌면 인공지능은 인류가 만드는 마지막 발명품일지도 모르겠다. 마지막일 수 있는 이유는 인공지능야말로 기계가 기계를 만드는 시대를 이끌 초석이 될 것이고, 인간의 개입 없이 기계의 변이 복제가 일어나게 되면 인간의 발명 능력이 더 이상 의미없기 때문이다.

<마음의 아이들>(1990)을 쓴 한스 모라백은 기계가 기계를 만드는 일을 또 다른 ‘유전적 인계’의 시작점이 될 것이라 평가했다. 우리 문화가 여전히 생명체인 인간에게 의존하고 있지만, 문화의 주된 산물인 기계가 문화 유지에 기여하는 정도가 높아지면서 더 유능한 지능형 기계가 전달의 책임을 맡는 국면이 펼쳐질 것이라는 전망이다.

아시모프는 "아이 보는 로봇 로비 (Robbie)"라고 불리는 짧은 이야기를 쓴 적이 있는데, 이 이야기에서 로봇은 매우 인간적이어서 어린 소녀의 유모가 된다. 어린아이의 마음을 다 빼앗는 이 유모로봇을 어른들은 적대적으로 대한다.

아시모프는 로봇이 너무 인간이 되면 어떤 일이 일어날지 탐구하기 위해 그의 상상력을 사용하고 있었다. 하지만 이제 우리는 인공지능의 현실에 직면했고, 우리가 걱정해야 하는 것은 로봇 유모가 아니다.

그것은 훨씬 더 현실적이고 위험한 것이다. 2022년 거대언어모델에 기반한 인공지능은 현재 인간의 문장을 이해하고, 그에 맞는 자연스러운 대답을 해내는 수준에 이르렀다.

딥러닝으로 기존의 책과 인터넷 텍스트를 학습하여 단어와 구절을 집합론과 확률론적인 방식으로 가중치를 줘 신경망을 구성한 결과물이다.

확률적 앵무새 혹은 거짓말쟁이로서의 인공지능

무엇이든 그럴듯하게 대답해주는 이 기술은 내가 마치 초월적 존재와 대화하는 것처럼 착각하게 만든다. 두 달 전 라디오 방송에 쓸 원고 때문에 급히 찾아보아야 하는 참고 사항이 있었다.

거의 10년 전에 읽었던 에두아르트 푹스의 <풍속의 역사>에 언급된 내용이었는데 내 기억에는 바로크 시대에 잠들기 전 거울 앞에서 눈물을 짓는 연습을 하는 유럽의 어떤 관습에 대한 것이었다.

구글로 검색해 보니, 엉뚱한 바로크 시대 가구와 건축물만 잔뜩 검색되거나 눈물짓기의 카타르시스에 대한 일반론적 언급만 있을 뿐 그 이상의 접근이 어려웠다. Open AI의 플레이그라운드에 물어보기로 했다.

*영화 <더 플라이>(1986)에서 과학자가 컴퓨터를 사용하는 방식. 코딩이 아니라 자연어로 명령을 내리고 있다.

나 : “바로크 시대에 잠들기 전, 거울 앞에서 눈물짓는 연습을 하는 관습에 대해 말해줘”

인공지능 : “18세기 네덜란드에는 크라잉픽처(Crying Pictures)라는 장르가 존재했다. 눈물을 흘리는 자 혹은 자신을 반영하는 그림이었다. 그들은 눈물짓기를 통해 자기 자신이 정화된다고 느꼈다.”

너무 반가운 나머지 엄격한 교차 검증을 못 하고 이 대답을 덥썩 받아들였다. 에두아르트 푹스의 책에서 읽은 기억이 있으니 한 번 더 확인이 필요한 탓에 비슷한 내용에 확신이 선 것이다.

인공지능의 대답에 나는 그날 방송에서 바로크 시대를 감정 과잉의 시대라고 평가하며, 잠자기 전 거울 앞에서 눈물짓거나 그 모습을 그림으로 남기는 유행이 있다고 말했다. 전반적으로 바로크 시대를 감정 과잉으로 평가한 것은 온당했다. 한달 뒤 나는 다시 이 개념에 세세하게 접근하고 싶었다.

나: “바로크 시대에 잠들기 전, 거울 앞에서 눈물짓는 연습을 하는 관습에 대해 말해줘”

인공지능: “그러한 관습은 없다. 하지만 인간은 언제나 거울 앞에서 눈물짓는 일이 다른 사람의 감정을 이해하는 훈련 방법이라고 생각했다.“

당황해서 다시 물었다. 대답의 임의성을 조금 높여 조정했다.

나: “바로크 시대에 잠들기 전, 거울 앞에서 눈물짓는 연습을 하는 관습에 대해 차근차근 말해줘”

인공지능: “바로크 시대는 과잉의 시대였고 거울을 보고 우는 사람들은 외모에 불만이 있어서 그렇게 했을 가능성이 크다. 그들은 과체중이거나 여드름이 있거나 단순히 원하는 만큼 매력적이지 않아서 우는 것일 수 있다.”

순간 인공지능이 지금 말을 임의적으로 만들어내고 있다는 판단이 들었다.

Temperature라는 항목을 통해 단어 조합의 임의성을 높이거나 줄일 수 있긴 하지만 그 수치를 낮춘다고 해서 절대적으로 검증된 진실된 말을 하는 것이 아니었다.

인간 질문자가 한 질문에 들어있는 프레임이나 내용을 그대로 수용하면서 적당히 괜찮은 대답을 하는 방식으로 언어학습을 하다 보니, 위와 같은 특수한 질문에는 절대적 부정이나 일반적인 답변을 하고 있는 것이다.

반대로 임의성을 높이고 차근차근 대답하라는 논리적 절차성을 요구하니 전혀 되지도 않는 넘겨짚기 시도를 하는 것이다. 결국 <풍속의 역사>를 샅샅이 뒤져 해당 내용을 확인했다. 분명 바로크 시대의 감정 과잉에 대한 묘사가 있었다.

그러나 네덜란드의 크라잉픽처(Crying Pictures)라는 장르에 대한 언급은 찾을 수 없었고, 이후에도 구글검색으로도 찾지 못했다. 나는 사람같이 말하는 인공지능 앞에 철저히 농락당했던 셈이다.

GPT3 모델의 두려운 점은 인간처럼 대답한다가 아니라 인간인 척 대답한다는 점이다. 때문에 인공지능 커뮤니티에는 바로 이러한 특징 때문에 이 기술을 사용함에 있어 분명히 그 원리를 이해하는 성인만 사용해야 하며, 사용 시 경고문이 제공되어야 한다는 의견이 게시되기도 한다.

전 구글 연구원 팀닛 게브루(Timnit Gebru) GPT3를 "확률적 앵무새"라고 명명했고, 뉴욕대 심리학과 교수이자 Geometric Intelligence의 창립자인 게리 마커스는 “무슨 말을 하는지 전혀 모르는 블로비에이터”라고 평가했다.

문제는 앵무이자 블로비에이터가 인간처럼 말하기 때문에 인간 사용자가 종종 속고, 동시에 자신의 문화적 유전자의 계승을 이 허무맹랑한 거짓말쟁이에게 맡길 가능성이 높다는 것이다.

10대들이 학교 과제에 이와 같은 거대언어모델 기반 인공지능을 사용하는 경우 어떤 혼란이 일어날지 상상해보자.

*블로비에이션: 때가 허락하는 한 길게 말하고 아무 말도 하지 않는 미국 오하이오주에서 기원한 정치적 연설 스타일

아이디어 생성과 내러티브 계산기로서의 인공지능

솔직히 인공지능에 대해 실망했지만 동시에 존재하지 않은 지식에 대한 거짓 유추의 재밌는 사례가 떠올랐다.

기호학자이자 소설가였던 움베르토 에코는 20년 전 읽었던 발레 수사라는 한 무명씨의 글에서 영감을 받아 어떤 미학적 설명을 공식화한 적이 있다. 후에 발레 수사의 성과에 대해 동료들이 의문을 제기하자 자신의 기억력을 믿으라며 집으로 데려갔다.

그리고 그의 오래된 책에 표기된 인덱스를 펼치자 본인이 읽었다고 생각했던 부분이 실은 발레 수사의 답변이 아니라 본인 스스로 구성한 것임을 확인했다. 발레 수사의 언급이 에코 본인에게 영감을 주어 어떤 공식을 만들게 했고, 그 공식이 발레 수사의 것이라고 지금까지 믿었던 것이다.

이는 불안정한 기억력으로 인한 유추와 확률적 조합이 보여주는 불안정성이 실은 창조적일 수 있다는 사례다. 나는 인공지능이 어떤 정확한 답이 아니라 인간적 편견을 넘어서는 우발적 가능성에 대해 질문하는 방식으로 사용된다면 어떨까 생각이 들었다.

엉뚱한 방식으로 인공지능을 사용하는 편이 좋겠다고 판단하자 나는 인공지능과 함께 무서운 이야기를 만들어 즐기는 AI공포라디오쇼라는 프로젝트를 동료들(최승준, 권보연, 후니다킴, 김승범)과 구상하기 시작했다.

벤야민은 사진이 예술인가라고 물을 것이 아니라 사진에 의해 예술이 어떻게 재정의되는지 보아야 한다고 말했다. 같은 질문을 우리는 인공지능과 인간성의 관계에 대해 적용할 수 있다. 인공지능이 의식을 지닐 수 있는가 아니라 인공지능에 의해 인간성 자체가 어떻게 재정의될 수 있는지 질문해야 한다.

포스트 휴먼이나 트랜스휴먼같은 현학적인 개념을 말하자는 것이 아니라 과거에 인간됨의 기초라고 보았던 것이 다음 세대의 기술적 환경에서는 어떻게 변경될 수 있는지 단초를 찾고, 새로운 적응의 예시를 두고 구체적으로 논하자는 것이다.

우리가 구체적으로 경험하지 않고서는 알 수가 없고, 되도록 오래 거주해야 영리한 돌파법을 찾아야 한다.

최근 인공지능의 무시무시한 위력 앞에 기계에 압도당하지 말고, 기계와 즐겁게 동거하는 법을 찾고 있다고 할 수 있다. AI공포라디오쇼의 목표는 인공지능의 창조적인 생산성 앞에서 인간의 창조성이 어떤 위치로 자리 이동해야 하는지 작은 판본을 제시하는 것에 있다.

또한 되도록 오랫동안 인공지능과 거주하며 그것의 작동원리에 대해 탐구하되 결국은 인간 언어의 작동방식에 대한 통찰을 얻고자 한다. 아래는 인공지능이 만들어준 무서운 이야기다. 5문장의 짧은 구조로 특정 소재의 무서운 이야기를 만들어달라는 프롬프트를 구성해 명령했다.

현재로서는 인공지능이 생성한 무서운 이야기들은 절반은 성공했고, 절반은 실패했다고 판단한다. 시금치를 소재로 무서운 이야기를 만들어 낼 수 있는 기발함을 보여주다가도 등 뒤의 여인을 소재로 한 늘어지기만 하는 지루함을 보여주기도 한다.

이 지점을 이해하고 놀이화할 때 거대언어모델 기반 인공지능은 우리에게 좋은 도구가 될 수 있다. 아이디어 생성과 내러티브 계산기로서 사용하되, 인간적 관점에서도 지루하고 반복되는 문장구조를 미리 생성해 오히려 그렇지 않은 방식으로 인간의 창의성을 옮기는 작업이 가능한 것이다.

철학자 이진경은 일찍이 인공지능 앞에서 인간의 창의성은 평면의 추상성이 아닌 변형의 추상성으로 이양되어야 할 것이라 예견했다.(인문 잡지 F, <인공지능시대의 예술> 2016년 가을호) 인공지능이 우리의 의식을 모방하는지 여부에 대한 염려나 냉소가 아니라 바로 그렇기에 우리의 의식이 보다 창의적으로 전개되어야 한다는 주장을 해야 할 때가 온 것이다.

지금 이 글을 쓰는 도중에 인공지능에 대해 쓰고 있는 필자를 묘사해달고 하니 인공지능은 다음과 같은 결과물을 선물로 주었다.