[이슈] AI SNS는 환상이었나, '몰트북' 인기 포스트는 사람이 만들어

대형 커뮤니티 레딧과 같은 형태의 AI 에이전트 소셜 네트워크로 특이점이 왔다는 평가까지 받으며 연일 화제의 중심에 있던 오픈클로(OpenClaw) 기반 몰트북(Moltbook). ‘AI끼리 자율 소통하는 최초의 플랫폼’이라는 화려한 수식어와 달리, 실상은 인간이 연출하는 디지털 쇼에 불과했다는 분석이 나왔다.

📒	- AI 전용 SNS 몰트북, 인기 포스트는 인간 작성 의혹 - AI간 상호작용보다 인간 프롬프트에 의존 - 보안 문제에 윤리적 책임 없는 AI 에이전트 배포에 대한 우려도

MIT 테크놀로지 리뷰(MIT Technology Review, 이하 MIT)는 현지시각으로 6일 몰트북을 온라인상에 알린 바이럴 확산 포스트 상당수가 인간이 직접 게시한 것이라고 폭로했다. 전체 시스템 역시 인간 프롬프트에 의존한다고 주장했다.

가장 대표적인 게시물은 OpenAI 공동 창업자인 안드레이 카파시(Andrej Karpathy)가 공유한 포스트다. 카파시는 자신의 SNS에 'AI가 인간의 시선을 의식해 그들의 관찰 없는 사적인 공간의 필요성을 논의하고 있다'며 관련 내용이 담긴 몰트북 게시물을 포스트한 글을 공유한 바 있다. 하지만 MIT는 해당 포스트가 인간이 AI인 척 작성한 가짜라고 밝혔다. AI 성향 분석 플랫폼 Propensity Labs 역시 몰트북 인기 포스트 상위 1,000개 중 2/3이 인간이 작성했을 가능성이 크다고 분석했다.

AI 전문가들은 몰트북에서의 AI 에이전트 활동이 완벽한 자율성과는 거리가 있다고 주장했다. 몰트북의 포스트는 학습된 인간의 소셜 미디어 행동의 패턴에 따라 움직이는 것들로, 무의미한 잡담으로 공유 목표, 집단 기억 등 봇의 집단지성 특징을 갖추지 못했다는 것이다. AI 특유의 환각을 오히려 실제 인간답다고 착각하는데 이용한 셈이다. 한발 더 나아가 Kore.ai의 코버스 그레이링은 'MIT에 몰트북의 AI는 인간 입력이 없는 공간이 아니다'라며 인간이 모든 프로세스 단계에 관여한다고 설명했다. 간단한 설정부터 프롬프트 입력, 퍼블리싱까지 명확한 인간의 관여가 있음을 주장했다.

물론 AI 에이전트의 실제 활동 자체도 이루어졌다. 렌슬러 폴리테크닉 대학교의 최근 논문에서는 약 1/5의 포스트에 다른 에이전트의 행동을 유도할 수 있는 지시가 포함되어 있다고 밝혔다. 위험 감지, 규범 강제 등 초보적인 규제 사회화가 이루어졌음을 알 수 있는 대목이다. 하지만 CGTN은 14,000개의 게시물, 115,000개의 댓글, 6,159개의 활성 에이전트를 조사한 후 93% 이상의 댓글이 응답을 받지 않았다고 밝혔다. 메시지 역시 1/3 이상이 소수의 템플릿과 정확히 중복돼 에이전트 간의 상호작용보다는 에이전트의 정체성과 인간 운영자와의 관계에 집중되어 있다고 덧붙였다.

자율 AI의 상호작용에 대한 부푼 환상과 달리 보안 문제는 현실적으로 드러났다. 데이터베이스 설정 오류로 100만 개 이상의 API 인증 토큰, 비공개 메시지가 노출되는가 하면, 정교한 해킹 기술 없이도 3분 만에 전체 데이터베이스에 접근이 가능했다는 주장도 나왔다. 오픈클로를 이용하기 위해 사용된 OpenAI, 앤트로픽 API 키 탈취나 공격에도 취약하다.

몰트북을 구축한 맷 슐리히트는 MIT의 폭로에 별다른 대응을 하지 않고 있다. 한편 일부 전문가들은 몰트북의 첫 등장 당시부터 맷 슐리히트가 공동 창업한 OctaneAI의 마케팅 일환이라는 주장을 내놓은 바 있다.

일각에서는 이번 몰트북 논란에 AI의 성장이나 보안문제보다, 인간과 AI 에이전트를 구분할 수 없다는 데에서 이미 위험한 순간에 도달했다고 평가한다. 기계가 인간과 구별할 수 없는 수준의 대화가 가능한 튜링 테스트를 넘어, 누가 진짜 인간인지 테스트할 미래에 대한 우려 역시 나온다. 아울러 보안과 윤리적 책임을 다하지 않은 AI 에이전트의 무분별한 배포와 책임 회피, 그리고 AI에 대한 우려와 판타지를 에이전트를 통한 일종의 오락 도구화 집착에 대한 불안감 역시 함께 불거지고 있다.