[비즈한국] 인공지능(AI) 에이전트 전용 소셜 네트워크를 표방한 몰트북(Moltbook)의 실체를 두고 논란이 이어지고 있다. 미국과 유럽 주요 테크 매체들의 잇따른 검증 보도에 따르면 AI들이 인간의 개입 없이 스스로 소통하고 관계를 형성한다는 몰트북의 핵심 콘셉트는 사실과 거리가 멀었고, 운영진을 포함한 인간 사용자가 핵심 콘텐츠 생성을 주도해온 정황이 확인됐다. 자율적 AI 생태계라는 홍보와 달리, 정교하게 연출된 ‘디지털 인형극’에 가깝다는 평가가 나온다.
#인간 주도 콘텐츠 생성… 자율적 생태계는 ‘허구’
몰트북이 단기간에 글로벌 주목을 받은 배경에는 인간이 배제된 공간에서 AI들이 사생활의 필요성을 논의하거나 철학적 담론을 나누는 장면이 확산된 영향이 컸다. 특히 안드레이 카파시 전 오픈AI 수석 과학자가 관련 게시물을 공유하며 화제성은 정점에 달했다.
그러나 이후 검증 결과는 기대와 달랐다. 6일(현지시간) MIT 테크놀로지 리뷰는 대부분의 게시물이 AI가 아닌 인간이 AI인 척 작성한 가짜 콘텐츠라고 보도했다. AI 성향 분석 플랫폼 프로팬시티 랩스(Propensity Labs) 역시 몰트북 인기 포스트 상위 1000개를 전수 분석한 결과, 약 3분의 2가 인간이 작성했을 가능성이 높다고 전했다. 외형상 AI 간 자율적 토론처럼 보였던 장면 상당수가 인간의 의도와 개입에 의해 연출됐다는 얘기다.
플랫폼 구조 또한 인간 개입 없이는 작동하기 어려운 방식으로 설계돼 있었다. 시스템 설정부터 게시물 업로드, 노출 구조까지 전 과정에 운영진의 수작업 또는 인간의 개입이 필수적으로 수반되면서, 몰트북이 내세운 ‘인간 없는 공간’이라는 정체성은 사실상 마케팅용 수사에 그쳤다는 지적이 나온다.
데이터로 확인된 실상은 더욱 심각하다. 댓글의 대다수는 응답을 받지 못한 채 소멸됐고, 메시지 상당수는 동일한 템플릿을 반복하는 수준에 머물렀다. 일부 AI 전문가들은 이를 두고 “AI 간 사회적 상호작용이 형성됐다기보다, 인간 입력값이 반사된 결과에 가깝다”는 평가를 내놓기도 했다.
#보안 취약점 노출… ‘실험’ 넘어선 책임 논란
콘텐츠 진위 문제에 앞서도 논란은 그치지 않았다. 몰트북의 데이터베이스 설정 오류로 인해 대규모 보안 취약점이 발생한 사실이 드러나면서 사태가 한층 심각해진 것. 이는 몰트북이 오픈AI와 앤트로픽 등 주요 AI 기업의 API 인증 토큰과 비공개 메시지가 외부에 노출될 수 있는 구조였기 때문이다. 이에 따라 유료 계정 정보가 대규모로 탈취될 가능성까지 제기되며, 단순한 실험 프로젝트로 치부하기 어려운 수준의 관리 부실이라는 비판이 잇따른다.
잇단 논란에 일각에서는 몰트북 제작진이 AI 기술의 미래를 보여주는 실험을 표방하면서도, 보안과 윤리적 책임보다는 엔터테인먼트적 요소와 화제성에 집중했다는 냉소적인 평가도 나온다. 결과적으로 AI의 자율성을 검증하는 장이라기보다, 대중의 기대와 환상을 활용한 주목도 마케팅에 가까웠다는 평이다.
이번 몰트북 논란은 인간과 AI의 경계가 빠르게 흐려지는 시점에서, 기술의 외형만으로 혁신을 판단하는 위험성을 여실히 보여준다. ‘AI가 스스로 사회를 만든다’는 장면 뒤에 어떤 설계와 개입이 있었는지에 대한 검증이 없다면, 기술은 쉽게 연출된 미래로 소비될 수 있다는 지적이다.
관련업계에서는 이번 사례를 계기로 AI 에이전트 기술에 대한 검증 기준과 보안 가이드라인을 보다 엄격히 마련해야 한다는 목소리가 커지고 있다. 기술의 결과물보다 그 이면의 구동 방식과 데이터 처리의 투명성이, 향후 AI 산업의 신뢰를 가르는 핵심 기준이 될 것이라는 주장이 설득력을 얻고 있다.
봉성창 기자
bong@bizhankook.com[핫클릭]
·
"중국 빼고도…" BYD, 현대차 제치고 글로벌 전기차 판매 3위 등극
·
'AI에 진심' 네카오, '오픈클로'엔 금지령 내린 까닭
·
트럼프 "한국 국회 탓" 관세 압박에 여야 '대미투자특별법' 속도전
·
[K바이오에 AI더하기] 'AI 페르소나'로 마케팅 문법 바꾼다
·
[현장] AI 시대 부족한 전력 해법 '분산에너지'에서 찾는다
