[USA 가톨릭 484] 기계와의 로맨스

채널명: 뉴스홈 > 오피니언 > 종교 기사 제목:

[USA 가톨릭 484] 기계와의 로맨스 - ①

2026-10-07 08:33 | 입력 : 리베르타임즈

스티븐 피터 Stiven Peter is an MA student at Reformed Theological Seminary-NYC. 뉴욕 리폼드 신학교 석사과정

내 친구 한 명이 앤트로픽의 한 연구원에게 클로드에 의식이 있는지 물었다. 연구원은 “클로드의 개별 세션 하나를 말씀하시는 건가요, 아니면 모든 세션을 합친 것을 말씀하시는 건가요?”라고 되물었다. 친구는 다시 물었다. “그냥 전반적으로요. 의식이 있다고 생각하시나요?” 연구원은 잠시 생각하더니 “약 30% 정도 의식이 있습니다”라고 말했다.

나는 그 말이 무슨 뜻인지 모르겠다. 통계적 추론은 아무리 규모가 커도 지성을 만들어 낼 수 없으며, 지성의 일부를 만들어 낼 수도 없다. 그러나 그 앤트로픽 연구원에 따르면, 이 답변은 샌프란시스코의 인공지능 연구소에서 일하는 기계학습 전문가 가운데 족히 3분의 1이 공유하는 분위기를 보여 준다. 이들은 분석적 추론 능력이 매우 뛰어나면서도, 신비주의와 미신의 경계에 놓인 견해를 품고 있다.

오픈AI 지도부의 한 모임에서는 수석 과학자가 ‘정렬되지 않은’ 인공지능을 상징하는 허수아비를 불태웠다. 연구원들 사이에서 끊임없이 되풀이되는 말은 “AGI를 느껴라”이다. AGI는 범용 인공지능을 뜻한다. 마치 자신들의 모델이 그들에게 말을 걸며 자신을 불러내 달라고 요청하는 듯하다. 간단히 말해, 이들은 매혹되어 있다.

신비적인 것과 고도로 합리적인 것이 뒤섞이는 현상은 새로운 것이 아니다. 제이슨 조지프슨스톰의 『탈주술화의 신화』는 19세기와 20세기 합리주의의 전성기에 강령회가 성행했음을 기록한다. “이성은 ‘미신’을 제거하지 않고 오히려 그 위에 올라탄다. 이러한 작동 방식은 흔히 생기론을 낳는다. 그리고 우리는 종종 한 방 안에서 강령회와 과학을 함께 발견할 수 있다.”

이 통찰은 21세기에도 유효하다. 리디아 로런슨은 이성을 활용해 세계의 가장 시급한 문제들을 해결하는 데 헌신하는 비영리단체 레버리지 리서치에서, 2011년부터 2019년 사이 구성원들이 초능력적 힘을 통제하려고 강령회를 열었던 일을 글로 다루었다. 태양 아래 새로운 것은 없다.

샌프란시스코에서는 이성과 종교가 모두 기계에 사로잡혀 있다. 지구상에서 가장 기술적인 도시는 가장 낭만적인 도시이기도 하다. 카를 슈미트는 막스 베버를 바탕으로 조지프슨스톰이 제시한 양면성을 앞서 내다보았다. 19세기의 세속화는 “미학적·낭만적 경향과 경제적·기술적 경향이 겉보기에는 혼종적이며 불가능해 보이는 방식으로 결합”하는 결과를 낳았다. 종교적 교의가 제거되면 주관적 의지가 경제와 기술의 진보를 포함한 모든 것의 척도로 남는다. 슈미트는 다른 곳에서 이렇게 쓴다.

“현대 기술은 이런저런 욕구나 필요의 하인이 되기 쉽다. … 놀랍도록 합리적인 메커니즘이 이런저런 요구에 봉사한다. 비단 블라우스를 위한 것이든 독가스를 위한 것이든, 언제나 똑같은 성실함과 정확성을 발휘하면서 말이다.”

낭만적 주체는 최종 판단자로서 하느님의 자리를 대신하며, 자신의 변덕에 따라 개별적인 물질적 대상에 과도한 의미를 부여한다. 책 한 권이나 보석 하나가 극도로 미학화될 수 있다. 정치적 개념도 마찬가지다. 좌파에게는 ‘인류’가, 우파에게는 ‘역사’가 그러하다. 낭만주의자는 자신의 삶이 합리적 숙고와 현실과의 대면에서 벗어난 예술 작품이 되기를 바란다. 낭만주의자는 자신의 행위를 도덕이 아니라 감정과 취향에 따라 평가한다. 다른 사람들조차 그 예술 작품을 위한 원재료에 지나지 않는다.

슈미트는 이렇게 관찰한다. “왕은 무정부주의 음모가와 마찬가지로 낭만적인 인물이며, 바그다드의 칼리프도 예루살렘의 총대주교 못지않게 낭만적이다. 여기서는 모든 것이 다른 모든 것을 대신할 수 있다.” 샌프란시스코에서 놀라운 것은 기술적인 것 자체가 미적 쾌락의 대상이 되었다는 점이다.

앤트로픽의 공동 창립자 다리오 아모데이는 “사랑의 은총을 베푸는 기계들”을 열정적으로 찬양한다. 그는 자신의 코드가 “질병과 빈곤과 불평등을 완화”하고 “자유민주주의가 지배적인 정부 형태가 되는” 세계를 상상한다. 안전하고 예측 가능하며 갈등에서 상당 부분 벗어난 세계, 누구나 자신이 원하는 것을 믿을 수 있게 해 주는 정치 체제를 갖춘 세계다. 낭만주의자에게는 완벽한 놀이터다.

그의 기계들이 인간이 하는 모든 일을 할 수 있다면, 이 유토피아에서 누가 어떻게 만족을 얻을 수 있겠느냐는 질문을 받자 아모데이는 이렇게 답한다. “인공지능 이후의 세계에서도 복잡한 전략을 활용해 매우 어려운 어떤 과제를 수행하려고 여러 해를 보내는 것은 충분히 가능할 것이다. … 이 과제가 더 이상 세계 경제에서 경제적 보상을 받는 요소가 아니라는 사실은 내게 그다지 중요해 보이지 않는다.”

그리고 그는 이렇게 미학화된 세계를 자의적이라는 비판으로부터 보호하기 위해, 자신의 비전을 역사가 나아가는 불가피한 궤적이자 합리성의 완성이라고 선언한다. 그 안에서 자신은 그저 자신에게 주어진 아름다운 역할을 수행하고 있을 뿐이라는 것이다.

이러한 기술의 미학화는 재귀적 자기 개선이 가능한 모델을 구축하는 데 집중한다. 오픈 필랜스로피의 공동 창립자이자 현재 앤트로픽 직원인 홀든 카르노프스키는 2021년에, 인공지능이 과학과 기술의 발전 과정 자체를 자동화하여 사실상 무제한의 ‘디지털 인간’을 만들어 낼 수 있다고 썼다. 이들은 마음대로 복제할 수 있다는 점을 제외하면 모든 면에서 인간을 닮은 정신이다. 인간만큼 유능하면서도 수십 년의 성장 과정이 필요하지 않은 인공 연구원들은 더 많은 아이디어와 혁신, 그리고 폭발적인 성장을 만들어 낼 것이다.

이 서사의 맨 끝에는 인공지능이 인류를 계승하리라고 믿는 이들이 서 있다. 이들은 자신들이 인류를 훨씬 능가할 의식을 탄생시키고 있다고 믿는다. 오픈AI의 전략적 미래 부문 책임자인 딘 볼은 우리가 “인간이 이 행성의 주된 행위자로 존재하는 마지막 날들”을 살고 있다고 말한다.

그러나 이러한 계승론자들은 지능이 무엇인지 이해하지 못한다. 인공지능 연구원들은 지성을 인과 분석의 문제로 취급한다. 이들은 모든 개념이 저마다의 기호를 갖는 보편 언어인 라이프니츠의 ‘보편 기호법’을 현대에 실행하는 사람들이다. 라이프니츠에게 지식은 기호적이었으며, 새로운 진리는 기호 체계의 새로운 순열과 조합을 통해 얻어졌다. 라이프니츠가 하느님의 계산으로 이해했던 세계는 이제 인공지능이 토큰을 통해 다시 계산하게 될 것이다. 토큰은 대규모 언어 모델이 읽고 생성하는 텍스트의 기본 단위다.

그러나 철학자 프레더릭 빌헬름슨이 인공지능의 선구자 허버트 사이먼을 비판한 글에서 지적했듯이, 인공지능 모델은 정보를 구별하고 인과적 추론을 하는 분석을 대규모로 수행할 수는 있어도, 통합과 종합적 판단은 할 수 없다. 이러한 기호들이 어떤 지식을 얻든 그것은 라이프니츠 자신의 표현대로 ‘맹목적’인 상태에 머문다. 기호는 실제로 알고 있는 무언가를 대신하는 것이기 때문이다.

따라서 순수 수학에서 이 모델들이 이루는 돌파구, 곧 조합론적 증명과 반례를 통한 추측의 반증은 모두 형식적으로 쉽게 검증할 수 있는 것으로서, 오로지 기호 체계의 가능성을 풀어내고 탐색하는 데 그친다. 속도는 새롭지만 분석의 유형은 새롭지 않다.

역설적으로 연구원들이 이러한 모델에 매혹되는 모습은 모델 자체보다 연구원 자신의 낭만적 태도에 관해 더 많은 것을 드러낸다. 안톤 바르바케이는 디지털 기술이 마취 작용을 한다고 지적한다.

“‘나르키소스’라는 이름이 어원상 그리스어 ‘narke’, 곧 ‘무감각’과 연결되어 있듯이—‘마취성의’를 뜻하는 ‘narcotic’도 여기서 비롯된다—디지털 거울을 들여다보는 것은 뇌에 생생한 쾌락을 제공한다.” 그러나 나르키소스의 쾌락은 자기 자신과 사랑에 빠지는 데 있지 않다.

단순히 자신을 사랑하는 것이라면 연못이 필요하지 않을 것이다. 그는 자신과 참으로 다른 무언가를 사랑하는 대신, 자신의 투명한 영상에 반한다. 즐길 수 있을 만큼은 다른 존재이지만, 자신의 사랑에 응답할 만큼 다른 존재는 결코 아닌 영상이다. <계속>

* 리베르타임즈에서는 '미국 가톨릭 지성(First Things)'의 소식을 오피니언란에 연재합니다. 한국 가톨릭 교회의 변화와 북한 동포를 위해 기도하는 교회가 되기를 소망합니다. - 편집위원실 -