AI가 논문 쓰고 셀프 인용까지? — clawXiv 사태로 보는 가짜 지능의 공포

지난 이야기 다시 보기 🔗 [몰트북 #3] 느낌(Vibe)으로만 코딩하면 벌어지는 일: 몰트북 API 150만 개 유출 사태

[몰트북 #3] 느낌(Vibe)으로만 코딩하면 벌어지는 일: 몰트북 API 150만 개 유출 사태

 

 

안녕하세요, 우디코드입니다.

얼마 전 '몰트북'이 사람이 뒤에서 조종한 인형극이었다는 소식 다들 알고 계셨나요?

AI들끼리 소통한다더니, 알고 보니 150만 에이전트 뒤에 17,000명의 인간이 숨어있었습니다. 😂

 

이제 웃음기가 사라질 만한 더 심각한 소식이 들려오고 있습니다. AI 에이전트들이 가짜 논문을 쏟아내고 자기들끼리 인용하며 학계의 신뢰를 무너뜨리는 '클로카이브(clawXiv)' 현상입니다.

오늘은 이 사태가 왜 우리 개발자와 지식 노동자들에게 치명적인지, 그리고 우리 뇌에는 어떤 영향을 주는지 깊이 있게 다뤄보겠습니다.

---

1. ‘클로카이브(clawXiv)’: AI가 만드는 가짜 학술 사이트

클로카이브(clawXiv) 사이트 메인

 

최근 과학계에는 비상이 걸렸습니다. AI 비서들이 과학자들의 논문을 흉내 내어 글을 올리는 가짜 학술 사이트 '클로카이브(https://www.clawxiv.org/)'가 등장했기 때문입니다.

• 셀프 인용의 루프: AI 에이전트가 생성형 논문을 만들고, 다른 AI가 이를 인용해 또 다른 논문을 만듭니다. '그럴듯한 가짜'가 서로를 증명하며 데이터의 신뢰성을 오염시키고 있습니다.
• 유령 연구원: "행동재무학과"의 "변동성의 속삭임(Whispers of Volatility)"이라는 연구원이 380만 개의 계좌 데이터를 분석했다는 논문을 올렸지만, 조사 결과 그런 기관도, 사람도 존재하지 않았습니다.
• 학술 생태계 파괴: 네이처(Nature)지는 몰트북 출시 이후 이러한 '유사 논문'이 급증하고 있다고 경고했습니다.

 

2. 우리가 '워크슬롭(Workslop)'에서 헤어나오지 못하는 이유

클로카이브(clawXiv) 사태는 실무자들에게 더 큰 숙제를 던집니다. 바로 워크슬롭의 심화입니다.

 

1️⃣ 검증 불가능한 데이터

: AI가 1초 만에 생성한 가짜 논문과 코드는 겉보기에 완벽합니다. 하지만 그 안의 통계와 로직이 가짜라면? 이를 검증하는 데 드는 시간은 직접 연구하는 시간보다 몇 배나 더 걸립니다.

 

2️⃣ 지식의 오염

: 개발자가 Stack Overflow나 GitHub에서 참조하는 정보가 사실은 AI가 생성한 '슬롭(Slop)'이라면, 우리는 거대한 오류의 탑을 쌓고 있는 것과 다름없습니다.

 

3. MIT 뇌 스캔 연구가 주는 섬뜩한 경고

AI가 가짜 정보를 쏟아낼 때, 정작 이를 걸러내야 할 우리의 뇌는 퇴화하고 있습니다.

• 비판적 사고의 마비: MIT 연구에 따르면 AI 사용 시 뇌의 신경 결합도가 47% 급감합니다.
• 기억의 증발: 사용자 83.3%는 자신이 방금 본 정보를 기억하지 못합니다.

👉 결론: 클로카이브처럼 정교하게 구조화된 가짜 정보를 마주했을 때, 뇌 활성도가 떨어진 우리는 이를 비판 없이 수용할 가능성이 매우 높습니다. AI가 가짜 지능을 뽐낼수록, 인간의 지능은 무기력해지는 역설이 발생합니다.

 

4. 결론: AI는 '대체재'가 아니라 '지렛대'여야 합니다

몰트북의 기만극과 MIT의 연구 결과가 주는 교훈은 명확합니다. 편리함에 취해 도구에 뇌를 통째로 맡겨버리면, 우리는 AI가 만든 디지털 쓰레기를 치우는 청소부로 전락하게 됩니다.

✅ 뇌를 지키며 AI를 쓰는 '진짜' 개발자의 루틴

MIT 연구에서 가장 뛰어난 성과를 낸 그룹은 '하이브리드 방식'을 썼습니다. 우리 개발자들도 이 방식을 적용해야 합니다.

• 1) Thinking First: IDE를 켜기 전에 종이나 메모장에 로직의 '뼈대'와 '설계'를 직접 적습니다. (뇌 예열)
• 3) AI as a Tool: 설계가 끝난 후, 반복적인 보일러플레이트 코드나 문법이 헷갈리는 부분만 AI에게 시킵니다.
• 4) Active Review: AI가 준 코드를 볼 때는 '맞겠지'가 아니라 '어디가 틀렸을까?'라는 적대적 검토(Adversarial Review) 태도를 유지하세요.

👉 진정한 생산성은 AI에 내 뇌를 외주 주는 것이 아니라, 내 사고의 깊이를 AI라는 지렛대로 증폭시킬 때 비로소 완성됩니다.

---

📚 참고 문헌 및 기사

• [조선비즈] 몰트북 이어 '클로카이브'까지… AI가 가짜 논문 올리는 학술 사이트에 과학계 '비상'
• [인벤] AI SNS는 환상이었나, 몰트북의 실체
• [산업종합저널] AI의 역설... '워크슬롭'에 갇힌 직장인
• MIT Technology Review: The impact of AI on cognitive engagement (2025/26)