 |
| 인터넷 캡쳐 |
오픈AI는 지난주 중국과 북한의 여러 사용자 계정을 삭제했다고 발표했다. 이 회사는 해당 계정들이 감시 및 여론 조작과 같은 악의적인 목적으로 기술을 이용하고 있다고 밝혔다.
보고서에 따르면, 이 두 독재 정권은 인공지능(AI)을 활용하여 미국에 대항하고 자국민을 통제하려는 시도를 하고 있다는 분석이다. 오픈AI는 삭제된 계정의 수와 차단 시점을 공개하지는 않았다.
차단된 계정들은 ChatGPT를 사용해 홍보 자료를 작성하고, 중국에서 유래했을 가능성이 있는 소셜 미디어 감시 도구의 코드를 조정하는 등의 활동을 했다.
샌프란시스코에 본사를 둔 오픈AI는 이 계정들이 ChatGPT를 통해 스페인어로 작성된 뉴스 기사를 생성하여 미국을 비방하고, 라틴 아메리카의 주요 뉴스 기관에 게시하도록 유도했다고 전했다.
이 계정들은 또한 ChatGPT를 활용하여 미국, 영국 등 서방 국가에서의 반중국 시위에 대한 데이터와 보고서를 수집할 수 있는 "AI 도우미"를 강화하고 있었다. 오픈AI는 이러한 정보가 이후 중국 정부에 전달될 것이라고 경고했다.
오픈AI는 "해외 여론 AI 어시스턴트"라는 소프트웨어의 독립적인 검증이 불가능하다고 언급했으나, 이 소프트웨어의 홍보 자료를 확보했다고 밝혔다. 이 자료에 따르면, 해당 소프트웨어는 중공 당국과 정보 요원들에게 감시 보고서를 전달하는 데 도움을 주기 위한 용도로 사용되는 것으로 알려졌다.
특히, 서방 국가에서의 중국 인권 시위 관련 온라인 대화를 분석하는 데 중점을 두고 있어 해외 반중 인사들의 활동과 소재 파악에 악용되고 있다는 판단이다.
이번 조치는 미국 정부가 중국 공산당의 최신 기술을 이용한 위협에 주목하고 있는 상황에서 이루어졌다. 미국은 AI를 통한 자국민 억압, 허위 정보 유포 및 동맹국의 안전 위협에 대해 우려를 표명하고 있다.
오픈AI의 정보 및 조사팀 수석 조사관 벤 니모는 "비민주적 행위자가 민주 국가의 AI를 반민주적 목적으로 사용하려는 불안한 징후"라고 경고했다. 그는 오픈AI가 이러한 사례를 통해 독재 정권이 민주주의 이념에 기반한 AI를 어떻게 악용하는지를 밝히기를 희망한다고 덧붙였다.
장·춘 <취재기자>
