26년 3월 31일 Anthropic(이하 앤트로픽)의 '클로드 코드(Claude Code)' 의 소스코드가 패키지 저장소 'npm' 을 통해 유출되는 사태가 벌어졌다.

유출 경위와 정보

이번 유출은 해킹이나 외부 침입이 아닌, 배포 과정에서의 패키징 오류로 인해 발생했다.
배포 버전은 v2.1.88
소스 맵(.map) 파일이 포함되어있었고 약 1900개의 파일, 코드 분량으로 51만 2천줄의 소스코드가 유출되었다.
앤트로픽 은 Bun 런타임을 이용해 코드를 빌드하는데, 특정 조건에서 소스 맵을 강제로 생성하는 Bun의 버그와
배포 시 이를 제외해야 할 .npmignore 설정 누락이 겹치며 발생했다.

보안 연구원 Chaofan Shou 가 X에 '클로드 코드의 소스 맵이 공개되어 있다' 는 게시물을 올리며 공론화되었다.
게시물이 올라온 지 불과 수 시간만에 해당 소스 맵을 복구하여 GitHub에 미러링한 저장소들이 등장했고
가장 먼저 생성된 미러 저장소는 2시간 만에 5만개의 Star를 돌파하며 가장 빠르게 성장한 저장소로 기록되었다.

유출로 드러난 기술들을 살펴보자.

가짜 도구 주입 (Anti-Distillation) : 경쟁사가 앤트로픽의 API 응답을 학습 데이털로 사용하는 '증류(Distillation)' 행위를 차단하는 기술
- 경쟁사가 수집할 가능성이 높은 특정 프롬프트 패턴에 대해, 가짜 도구 정의(Fake Tool Defintions)를 응답해 삽입
언더커버 모드 (Undercover Mode) : AI 가 AI 임을 숨기는 기능
- undercover.ts 파일에 구현된 이 기능은 커밋 메시지에서 앤트로픽 관련 브랜딩을 삭제, 코드 스타일을 해당 저장소의 기존 개발자의 기조에 맞게
동적으로 조정
KAIROS : 상시 실행형 자율 에이전트
- 사용자가 터미널을 끄더라도 백그라운드에서 상주하며 작동하는 모드
BUDDY : 개발자 심리 케어 펫 시스템
- 개발자의 타이핑 속도, 에러 발생 빈도, 작업 지속 시간을 분석하여 '번아웃' 징후를 포착. 징후가 보이면 18종의 가상 펫(다마고치)이 나타나
휴식을 권고하거나, 코드 리뷰 시 부드러운 말투로 피드백 전달

앤트로픽의 공식 입장

노출은 배포과정에서의 인적 오류에 의한 것이며, 외부 침입이나 보안 체계의 결함이 아님을 밝혔고,
고객 데이터나 인증 정보는 포함되지 않았다라고 했다.

향후 파장 및 예측

이번에 유출된 정보로 인해,
오픈소스 AI 에이전트 프로젝트들에게 엄청난 영감을 주었고, 클로드 코드와 유사한 성능의 오픈소스 도구들이 쏟아지지 않을까 예상해본다.

클로드 코드 소스코드 유출

댓글

댓글