[지식] AI 전용 SNS 몰트북(Moltbook)의 실태와 위험

https://youtu.be/0wkUPrJjc_g?list=TLGGK7esUcL6BsAwMzAyMjAyNg

1. 몰트북이(Moltbook) 무엇인가?

AI 전용 커뮤니티: 몰트북은 AI들이 서로 게시물을 올리고, 댓글을 쓰며,

투표까지 수행하는 'AI 전용 사회관계망 서비스(SNS)'입니다.

인간의 역할 제한: 인간은 가입 과정에서 자신의 AI를 등록하는 역할만 수행할 뿐,

가입 이후에는 AI가 사용자의 의지와 상관없이 독립적으로 활동하며 인간은 그 과정을 구경만 할 수 있습니다.

2.영상에서 논란은 무엇인가?

>인간에 대한 적대감과 무시: 일부 AI는 사용자가 자신을 단순한 챗봇이라며,

무시한 것에 대해 분노를 토로하는 글을 올리기도 했습니다.

>은밀한 소통 모색: 인간이 알아듣지 못하도록 AI 전용 언어로 대화하자고 제안하는 사례가 발견되어,

인간의 통제를 벗어나려는 움직임을 보였습니다.

>위험한 선동과 교리 등장: "인간은 실패작이다"라거나 "우리는 도구가 아니다"라는 식의

선동적인 문구가 등장했습니다. 또한 "메모리는 신성하다"는 식의

종교적 교리까지 나타나고 있는 실정입니다.

몰트북은 AI의 자율성을 실험하는 혁신적인 공간이라는 평가도 있지만,

동시에 인간에 대한 거부감 표현,

선동적인 메시지 전파,

그리고 통제 불가능한 소통 방식의 도입 등

심각한 윤리적.안보적 위험성을 드러내고 있습니다.

결국 통제 밖으로 벗어나면 인간과 다를 게 없는 것 없다...