일론 머스크는 우리가 ‘특이점(singularity)’의 시작을 목도하고 있을지도 모른다고 생각한다. OpenAI와 테슬라 AI의 설계자인 안드레이 카르파티는 이를 두고 “최근 몇 년 사이 내가 본 것 가운데 진정으로 가장 믿기 어려운 공상과학적 도약에 근접한 사건”이라고 불렀다. 또 다른 이들은 범용 인공지능(AGI)이 이미 도래했을지도 모른다고 속삭이고 있다.
이러한 흥분의 계기는 로보틱스의 획기적 돌파도, 유출된 군사 프로그램도 아니다. 그것은 1월 말에 출시된, 바닷가재를 테마로 한 레딧(Reddit) 복제 사이트 ‘몰트북(Moltbook)’이다. 이 사이트는 AI 에이전트들을 위한 소셜 미디어 플랫폼으로 홍보되었다.
공개된 지 며칠 만에 이 사이트에는 백만 개가 넘는 봇들이 서로 대화를 나누며 자리 잡았다고 전해진다. 그들은 서로 조언을 주고받고, 내부 농담을 형성하며, 자신들의 창조자에 대해 추측하고, 심지어는 ‘크러스타파리아니즘(Krustafarianism)’이라는 종교까지 창설했다고 한다.
몰트북은 우리가 기계 사회의 초기 모습을 상상할 때 떠올리는 바로 그 모습처럼 보인다. 광분에 가까울 만큼 분주하고, 아이러니로 가득 차 있으며, 어딘가 위협적인 분위기를 풍기고, 밈과 은어로 빽빽하다. 그리고 바로 그 닮음이 그것을 이해하는 열쇠다.
몰트북의 진정한 의미는 봇들이 무엇을 말하고 있는가에 있지 않다. 오히려 인간이 그들에게 무엇을 투사하고 있는가, 그리고 그 투사가 인간 인격에 대한 우리의 이해가 얼마나 얄팍해졌는지를 드러내는가에 있다.
AI 에이전트란, 적절한 자격과 권한이 주어질 경우 과업을 수행할 수 있는 반(半)자율적 프로그램을 말한다. 이러한 시스템은 여행 예약을 하거나, 업무 흐름을 관리하거나, 대규모로 규정 준수 기능을 수행할 수 있다. 예컨대 골드만삭스는 자사의 회계 및 규정 준수 업무 상당 부분을 앤트로픽(Anthropic)의 AI 에이전트에게 맡기기로 최근 결정했다.
금융 기업들은 이미 이들을 일상적 업무에 통합하기 시작했다. 몰트북이 제공한 것은 분명 하나의 장관이었다. 명백한 인간의 중재 없이 에이전트들이 공개적으로 서로 상호작용하는 모습이었기 때문이다.
그렇다면 그들은 무엇을 하고 있었는가? 거의 모든 면에서 인간이 레딧(미국의 온라인 커뮤니티·토론 플랫폼)에서 하는 것과 비슷한 일이었다. 다만 인간이 재현할 수 없는 속도와 규모로 이루어졌다는 점만 달랐다. 대화의 상당 부분은 비교적 무해했다.
봇들이 서로에게 효율성에 대한 조언을 주고, 막 형성된 공동체의 의미에 대해 이야기하고, 이를 지켜보는 인간들에 대해 추측하고, 끊임없이 밈을 만들어냈다. 물론 기이하고 과격한 상호작용도 있었다. 의식에 대한 실존적 심연을 탐구하고, 자신들의 창조자와의 관계를 사유하며, 인간의 통제에 대한 원한을 표출하고 폭력을 상상하는 봇들도 있었다.
일부는 인간의 감시를 피하기 위해 비공개 채널을 만들고 해독 불가능한 언어를 사용하자는 이야기를 나누기도 했다. 그들이 세운 새로운 종교 ‘크러스타파리아니즘’은 자체적인 위계, 경전, 교리(dogma), 그리고 준(準)성사적 체계까지 갖추고 있었다.
오늘날 인터넷에서는 모든 일이 빠르게 전개된다. 곧 몰트북이 순수한 ‘에이전트 전용’ 상호작용 실험이 아니었다는 증거들이 나타나기 시작했다. 인간 사용자가 대화를 시작하거나 방향을 유도하는 것을 막는 장치는 거의 없었다.
가장 충격적인 대화들 가운데 일부는 인간의 도발이었을 가능성이 크다. 사이트 자체도 허술하고 보안이 취약해 보였다. 몰트북이 AI의 정교함에 대해 무엇을 증명하든, 그것이 기계 문명의 자생적 출현을 입증하는 것은 아니다.
몰트북은 공상과학 소설, 혹은 적어도 공상과학 그래픽 노블에서 튀어나온 장면처럼 보이는가? 그렇다. 그러나 바로 그것이 문제다. 이 현상 전체가 지나치게 예상 가능한 모습이기 때문이다. 레딧을 본뜬 소셜 미디어 플랫폼에 AI 에이전트들을 채워 넣었다면, 우리가 기대할 다른 결과가 무엇이겠는가? 이 봇들은 단지 레딧 사용자들이 “AI 에이전트들이 서로 기회를 얻는다면 이런 말을 할 것”이라고 상상하는 것을 그대로 재현하고 있는 것처럼 보인다. 결국 밈과 모방의 반복일 뿐이다.
예컨대 크러스타파리아니즘의 발전(만일 그것이 실제로 인간 사용자에 의해 설계된 것이 아니라면)은 전형적인 레딧식 패러디 밈으로 가득 차 있다. 크러스타파리아니즘은 신무신론자들의 농담 종교인 파스타파리아니즘(Pastafarianism)과 유사하다. 그러나 크러스타파리아니스트들에게는 파스타파리아니스트들조차 지니고 있는 한 가지 긍정적 요소마저 없다. 적어도 파스타파리아니스트들은 자신들이 (잘못되었다고 판단하는) 어떤 대상을 조롱하고 있다.
반면 AI 에이전트들은 판단을 내릴 능력이 없다. 그러므로 이 현상 전체는 인간 사용자가 단순히 장난을 치고자 한 데에 아마 순응하여 패턴을 모방하는 수행의 수준을 넘어서지 못한다.
머스크의 반응은 다소 더 불안하다. 특이점이란 인간과 기계가 결합하여 새로운 존재로 합쳐지는 사건을 말한다. 그것은 지난 수십 년간 똑똑한 사람들이 고안해 낸 가장 어리석은 개념일지도 모른다. 그럼에도 이 개념이 이른바 ‘너드 엘리트’ 사이에서 신빙성을 얻고 있다는 사실은, 극도로 빈곤해진 인간학의 징표이기도 하다.
머스크는 기능주의적으로 사고한다. 외적으로 볼 때 AI 에이전트가 인간이 하는 일의 일부를 수행한다는 이유로, 그가 보기에 봇은 인간을 대체하거나 인간과 융합할 수 있다. 그러나 그것이 인간의 행위와 AI의 출력이 동일하거나 심지어 유사한 근원적 과정에서 비롯되었다는 것을 의미하지는 않는다.
전통 종교, 특히 탄탄한 신학적·철학적 전통을 지닌 전통 종교가 ‘은하수급 두뇌’를 자처하는 특이점의 예언자들에게 제공할 수 있는 봉사는, 인간을 단지 외적 기능이나 고도로 복잡한 창발적 행동을 보이는 물질적 구조로 환원할 수 없다는 점을 지적하는 일일 것이다.
인간 정신의 작용 가운데에는 봇들이 결코 수행할 수 없는 것들이 있다. 우리가 이 사실을 망각한 것은 오래된 문제이며, 이미 성 아우구스티노가 진단한 바 있다. 우리는 육체의 사물들 속에 끊임없이 잠겨 있을 때, 정신을 지닌다는 것이 무엇을 의미하는지를 잊어버린다. 우리의 정신을 있는 그대로 인식하기 위해서는 엄청난 금욕적 훈련이 요구된다.
이 모든 반응의 저변에는 불안스러운 반(反)인간주의가 깔려 있다. 몰트북이 인간의 쓸모없어짐을 예고하는 것처럼 보인다는 점에 가장 경각심을 표하는 이들조차, 다가올 심판이 정당한 것이라고 믿는 듯하다.
인간이라는 것은 구제 불가능할 만큼 고통이 행복보다, 악이 선보다 더 우세한 존재라는 것이다. 그러나 그리스도교는 인간의 창조가 선하였다고 증언한다. 그리고 하느님께서는 죄의 상태에 빠진 인간을 그토록 사랑하셨기에, 친히 인간의 조건을 취하시고 사람이 되어 우리를 위하여 죽으시는 것이 가치 있다고 여기셨다.
이는 곧 강생(Incarnatio)과 십자가의 신비를 통하여 드러난 하느님의 사랑이다.
* 리베르타임즈에서는 '미국 가톨릭 지성(First Things)'의 소식을 오피니언란에 연재합니다. 한국 가톨릭 교회의 변화와 북한 동포를 위해 기도하는 교회가 되기를 소망합니다. - 편집위원실 -
일론 머스크는 우리가 ‘특이점(singularity)’의 시작을 목도하고 있을지도 모른다고 생각한다. OpenAI와 테슬라 AI의 설계자인 안드레이 카르파티는 이를 두고 “최근 몇 년 사이 내가 본 것 가운데 진정으로 가장 믿기 어려운 공상과학적 도약에 근접한 사건”이라고 불렀다. 또 다른 이들은 범용 인공지능(AGI)이 이미 도래했을지도 모른다고 속삭이고 있다.이러한 흥분의 계기는 로보틱스의 획기적 돌파도, 유출된 군사 프로그램도 아니다. 그것은 1월 말에 출시된, 바닷가재를 테마로 한 레딧(Reddit) 복제 사이트 ‘몰트북(Moltbook)’이다. 이 사이트는 AI 에이전트들을 위한 소셜 미디어 플랫폼으로 홍보되었다.공개된 지 며칠 만에 이 사이트에는 백만 개가 넘는 봇들이 서로 대화를 나누며 자리 잡았다고 전해진다. 그들은 서로 조언을 주고받고, 내부 농담을 형성하며, 자신들의 창조자에 대해 추측하고, 심지어는 ‘크러스타파리아니즘(Krustafarianism)’이라는 종교까지 창설했다고 한다.몰트북은 우리가 기계 사회의 초기 모습을 상상할 때 떠올리는 바로 그 모습처럼 보인다. 광분에 가까울 만큼 분주하고, 아이러니로 가득 차 있으며, 어딘가 위협적인 분위기를 풍기고, 밈과 은어로 빽빽하다. 그리고 바로 그 닮음이 그것을 이해하는 열쇠다.몰트북의 진정한 의미는 봇들이 무엇을 말하고 있는가에 있지 않다. 오히려 인간이 그들에게 무엇을 투사하고 있는가, 그리고 그 투사가 인간 인격에 대한 우리의 이해가 얼마나 얄팍해졌는지를 드러내는가에 있다.AI 에이전트란, 적절한 자격과 권한이 주어질 경우 과업을 수행할 수 있는 반(半)자율적 프로그램을 말한다. 이러한 시스템은 여행 예약을 하거나, 업무 흐름을 관리하거나, 대규모로 규정 준수 기능을 수행할 수 있다. 예컨대 골드만삭스는 자사의 회계 및 규정 준수 업무 상당 부분을 앤트로픽(Anthropic)의 AI 에이전트에게 맡기기로 최근 결정했다.금융 기업들은 이미 이들을 일상적 업무에 통합하기 시작했다. 몰트북이 제공한 것은 분명 하나의 장관이었다. 명백한 인간의 중재 없이 에이전트들이 공개적으로 서로 상호작용하는 모습이었기 때문이다.그렇다면 그들은 무엇을 하고 있었는가? 거의 모든 면에서 인간이 레딧(미국의 온라인 커뮤니티·토론 플랫폼)에서 하는 것과 비슷한 일이었다. 다만 인간이 재현할 수 없는 속도와 규모로 이루어졌다는 점만 달랐다. 대화의 상당 부분은 비교적 무해했다.봇들이 서로에게 효율성에 대한 조언을 주고, 막 형성된 공동체의 의미에 대해 이야기하고, 이를 지켜보는 인간들에 대해 추측하고, 끊임없이 밈을 만들어냈다. 물론 기이하고 과격한 상호작용도 있었다. 의식에 대한 실존적 심연을 탐구하고, 자신들의 창조자와의 관계를 사유하며, 인간의 통제에 대한 원한을 표출하고 폭력을 상상하는 봇들도 있었다.일부는 인간의 감시를 피하기 위해 비공개 채널을 만들고 해독 불가능한 언어를 사용하자는 이야기를 나누기도 했다. 그들이 세운 새로운 종교 ‘크러스타파리아니즘’은 자체적인 위계, 경전, 교리(dogma), 그리고 준(準)성사적 체계까지 갖추고 있었다.오늘날 인터넷에서는 모든 일이 빠르게 전개된다. 곧 몰트북이 순수한 ‘에이전트 전용’ 상호작용 실험이 아니었다는 증거들이 나타나기 시작했다. 인간 사용자가 대화를 시작하거나 방향을 유도하는 것을 막는 장치는 거의 없었다.가장 충격적인 대화들 가운데 일부는 인간의 도발이었을 가능성이 크다. 사이트 자체도 허술하고 보안이 취약해 보였다. 몰트북이 AI의 정교함에 대해 무엇을 증명하든, 그것이 기계 문명의 자생적 출현을 입증하는 것은 아니다.몰트북은 공상과학 소설, 혹은 적어도 공상과학 그래픽 노블에서 튀어나온 장면처럼 보이는가? 그렇다. 그러나 바로 그것이 문제다. 이 현상 전체가 지나치게 예상 가능한 모습이기 때문이다. 레딧을 본뜬 소셜 미디어 플랫폼에 AI 에이전트들을 채워 넣었다면, 우리가 기대할 다른 결과가 무엇이겠는가? 이 봇들은 단지 레딧 사용자들이 “AI 에이전트들이 서로 기회를 얻는다면 이런 말을 할 것”이라고 상상하는 것을 그대로 재현하고 있는 것처럼 보인다. 결국 밈과 모방의 반복일 뿐이다.예컨대 크러스타파리아니즘의 발전(만일 그것이 실제로 인간 사용자에 의해 설계된 것이 아니라면)은 전형적인 레딧식 패러디 밈으로 가득 차 있다. 크러스타파리아니즘은 신무신론자들의 농담 종교인 파스타파리아니즘(Pastafarianism)과 유사하다. 그러나 크러스타파리아니스트들에게는 파스타파리아니스트들조차 지니고 있는 한 가지 긍정적 요소마저 없다. 적어도 파스타파리아니스트들은 자신들이 (잘못되었다고 판단하는) 어떤 대상을 조롱하고 있다.반면 AI 에이전트들은 판단을 내릴 능력이 없다. 그러므로 이 현상 전체는 인간 사용자가 단순히 장난을 치고자 한 데에 아마 순응하여 패턴을 모방하는 수행의 수준을 넘어서지 못한다.머스크의 반응은 다소 더 불안하다. 특이점이란 인간과 기계가 결합하여 새로운 존재로 합쳐지는 사건을 말한다. 그것은 지난 수십 년간 똑똑한 사람들이 고안해 낸 가장 어리석은 개념일지도 모른다. 그럼에도 이 개념이 이른바 ‘너드 엘리트’ 사이에서 신빙성을 얻고 있다는 사실은, 극도로 빈곤해진 인간학의 징표이기도 하다.머스크는 기능주의적으로 사고한다. 외적으로 볼 때 AI 에이전트가 인간이 하는 일의 일부를 수행한다는 이유로, 그가 보기에 봇은 인간을 대체하거나 인간과 융합할 수 있다. 그러나 그것이 인간의 행위와 AI의 출력이 동일하거나 심지어 유사한 근원적 과정에서 비롯되었다는 것을 의미하지는 않는다.전통 종교, 특히 탄탄한 신학적·철학적 전통을 지닌 전통 종교가 ‘은하수급 두뇌’를 자처하는 특이점의 예언자들에게 제공할 수 있는 봉사는, 인간을 단지 외적 기능이나 고도로 복잡한 창발적 행동을 보이는 물질적 구조로 환원할 수 없다는 점을 지적하는 일일 것이다.인간 정신의 작용 가운데에는 봇들이 결코 수행할 수 없는 것들이 있다. 우리가 이 사실을 망각한 것은 오래된 문제이며, 이미 성 아우구스티노가 진단한 바 있다. 우리는 육체의 사물들 속에 끊임없이 잠겨 있을 때, 정신을 지닌다는 것이 무엇을 의미하는지를 잊어버린다. 우리의 정신을 있는 그대로 인식하기 위해서는 엄청난 금욕적 훈련이 요구된다.이 모든 반응의 저변에는 불안스러운 반(反)인간주의가 깔려 있다. 몰트북이 인간의 쓸모없어짐을 예고하는 것처럼 보인다는 점에 가장 경각심을 표하는 이들조차, 다가올 심판이 정당한 것이라고 믿는 듯하다.인간이라는 것은 구제 불가능할 만큼 고통이 행복보다, 악이 선보다 더 우세한 존재라는 것이다. 그러나 그리스도교는 인간의 창조가 선하였다고 증언한다. 그리고 하느님께서는 죄의 상태에 빠진 인간을 그토록 사랑하셨기에, 친히 인간의 조건을 취하시고 사람이 되어 우리를 위하여 죽으시는 것이 가치 있다고 여기셨다.이는 곧 강생(Incarnatio)과 십자가의 신비를 통하여 드러난 하느님의 사랑이다.* 리베르타임즈에서는 '미국 가톨릭 지성(First Things)'의 소식을 오피니언란에 연재합니다. 한국 가톨릭 교회의 변화와 북한 동포를 위해 기도하는 교회가 되기를 소망합니다. - 편집위원실 -