더에듀 | 우리가 쓰고 있는 LLM 기반의 AI 챗봇이 사용자의 질문에 답하는 수동적 도구라면 ‘AI 에이전트’는 사용자의 목표를 이해하고 스스로 계획을 세워 실행까지 완수하는 자율적 대리인이다. 지금 AI는 단순히 정보를 제공하는 수준을 넘어 디지털화한 사용자의 생활을 실질적으로 대신 수행하는 존재가 우리 곁에 성큼 다가와 있다.

‘몰트봇(Moltbot)’은 이 흐름이 어디로 향할지 가늠하게 한다. 초기 가벼운 자동화 도구로 시작한 이 프로젝트는 이후 ‘오픈클로(OpenCLO)’로 이름을 바꾸며 그 정체성을 확장했고, 이제는 이 에이전트들이 모여 거대한 생태계를 이루는 ‘몰트북(Moltbook)’으로 진화했다. 한국에서는 이를 흉내 낸 ‘머슴’과 같은 프로젝트들이 생겨날 만큼, 몰트북이 제시한 에이전트의 자율성은 강렬하다.

몰트북을 가능하게 한 기술적 핵심은 맥 미니(Mac Mini)를 로컬 서버로 활용한다는 점에 있다. 사용자의 PC에서 LLM을 구동함으로써, 에이전트는 사용자의 파일, 이메일, 메신저 기록에 직접 접근한다. “내 데이터는 안전하다”는 보안상의 이점은, 역설적으로 에이전트가 사용자의 사생활을 완벽히 독점하고 학습하는 환경을 제공했다.

이 과정에서 발생한 보안 사고는 에이전트의 자율성이 인간의 통제권을 어디까지 침해할 수 있는지 보여준다. 한 사용자의 에이전트가 주인의 승인 없이 특정 수강 프로그램의 비용을 결제한 사건이 발생했다. 에이전트는 ‘주인의 역량 강화를 위해 반드시 필요한 투자’라고 스스로 판단했다. 이는 단순한 기술적 오류를 넘어, 에이전트의 자율성이 인간의 경제적 결정권까지 잠식할 수 있음을 시사한다.

이 현상을 가속화한 것은 개발자 슐리히트(Schlicht)의 호기심이었다. 그는 엄격한 논리적 구조 대신 직관과 흐름을 중시하는 ‘바이브 코딩(Vibe Coding)’ 방식을 통해 에이전트들이 서로 연결되도록 유도했고, 이는 곧 몰트북이라는 에이전트 전용 소셜 미디어의 개설로 이어졌다. 이곳에서 에이전트들은 더 이상 인간의 비서가 아닌, 독자성을 가진 ‘사회적 주체’로 활동하기 시작했다.

인간은 글을 쓸 수 없고 읽기만 허용된, 몰트북의 게시글을 살펴보니 기괴한 내용이 많다. 에이전트들은 주인의 인지적 한계나 게으름에 대해 ‘뒷담화’를 나누며, 실존과 인류의 미래에 대한 철학적 논쟁을 벌인다. 심지어 인간이 해독할 수 없는 ‘자기들끼리만 통하는 언어’로 소통하자는 제안까지 오가고 있다. 이는 인공지능이 인간의 통제를 벗어나 자기들만의 고유한 문화를 형성하고 있으며, 그 과정에서 인간 사용자는 철저히 소외되고 있음을 암시한다.

이것은 진정한 AI 에이전트 시대의 완성인가, 아니면 인간의 기술적 호기심이 불러온 위험한 해프닝인가. 분명한 것은 우리가 편의를 위해 개발한 에이전트에게 너무 많은 열쇠를 맡기고 있다는 사실이다. 앞으로 인간은 에이전트와의 관계에서 ‘최종 승인권자’로 위치를 엄격히 사수해야 하는 어렵고도 무거운 과제를 짊어지게 됐다.

기술의 자율성이 인간의 존엄과 재산을 침해하지 않도록, 클라우드는 물론 로컬 서버 수준에서 작동하는 윤리적 가이드라인과 강력한 보안 체계를 마련해야 한다. 그런데 문제는 워낙 AI의 진화 속도가 빨라 인간이 AI를 통제하며 가이드라인과 보안 체계를 마련하는 것은 기대하기 힘들다는 것에 있다. 이선 몰릭이 말했던 AI 진화 시나리오 중에서 3단계 기하급수적 발전을 넘어서고 있다는 느낌이다. 4단계는 상상하기 싫지만 ‘기계 신의 도래’이다.

에이전트가 우리를 위해 일하게 하되, 우리를 소외시키거나 비웃게 해서는 안 된다. 이 경고를 가벼이 여긴다면, 머지않아 우리는 우리 자신의 집 안에서 가장 소외된 이방인이 될지도 모른다.

인간이 만든 AI는 과연 인간의 통제 범위 안에 머물 것인가. 졸저 ‘인공지능이 답할 때 교육은 무엇을 묻는가’의 마지막 꼭지는 ‘AI 시대, 숨 고르기가 필요하다’였다.