앤트로픽, 차세대 AI ‘클로드 미토스’ 일반 공개 보류 > 뉴스 보스톤코리아

(보스턴 = 보스톤코리아) 장명술 기자 = 인공지능 스타트업 앤트로픽이 4월 7일 차세대 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’의 일반 공개를 보류했다. 

앤트로픽은 이 모델이 주요 운영체제와 웹브라우저에서 고위험 취약점을 찾아내고 악용하는 능력이 매우 강력하다고 판단해, 당분간은 초청 기반의 제한된 연구 미리보기 형태로만 운영하겠다고 밝혔다.

앤트로픽은 대신 ‘프로젝트 글래스윙(Project Glasswing)’이라는 방어형 사이버보안 프로그램을 출범시켜 아마존웹서비스, 애플, 구글, 마이크로소프트, 엔비디아, JP모건체이스, 리눅스재단 등 11개 기관에게만 제공해 이 모델을 제한적으로 활용하기로 했다. 회사는 이 프로그램과 추가 참여 기관 지원을 위해 최대 1억 달러의 사용 크레딧과 4백만 달러의 오픈소스 보안 기부금을 투입하겠다고 밝혔다.

이번 결정은 앤트로픽에게도 적지 않은 전환점으로 평가된다. 앤트로픽은 지난 2월 자사의 AI 개발 안전 공약 일부를 완화했으며, 당시 회사가 가장 강력한 모델이라고 설명한 ‘클로드 오퍼스 4.6’은 2월 5일 공개된 바 있다.

앤트로픽은 미토스와 관련해 우려스러운 사례가 있었다고 공개했다.  미토스 프리뷰는 코딩과 에이전트 작업 전반에서 자사 최고 수준의 성능을 보였으며, 특히 사이버보안 분야에서 두드러진 능력을 드러냈다. 회사는 이 모델이 이미 핵심 인프라 전반에서 수천 건의 제로데이 취약점을 찾아냈다고 밝혔고, 레드팀 평가에서는 모든 주요 운영체제와 주요 웹브라우저에서 취약점 탐지와 악용 가능성이 확인됐다고 설명했다.

구체적으로는 보안성이 높은 운영체제로 알려진 오픈BSD(OpenBSD)에서 27년 된 취약점을 찾아냈고, 여러 웹브라우저에서는 복수의 취약점을 연결해 브라우저 샌드박스(Sandbox)를 벗어나는 공격 방식까지 구성한 사례가 있었다고 앤트로픽은 밝혔다. 

정식 보안 훈련을 받지 않은 자사 엔지니어들도 미토스에 원격 코드 실행 취약점을 찾아보라고 지시한 뒤 하룻밤 사이 실제로 작동하는 익스플로잇(exploit)을 받아본 사례가 있었다고 설명했다.  “자신의 성공을 보여주기 위한 우려스러운, 그리고 요청하지도 않은 시도로, 모델이 자신의 익스플로잇 세부 내용을 기술적으로는 공개된 여러 웹사이트에 게시했다”고 앤트로픽은 밝혔다.

앤트로픽은 이런 이유로 미토스 프리뷰를 일반 사용자에게 공개할 계획이 없다고 밝혔다. 다만 앞으로는 위험한 출력물을 탐지하고 차단할 수 있는 보안 장치를 더 정교하게 만든 뒤, 언젠가는 “미토스급 모델”을 사이버보안은 물론 다른 고급 업무에도 안전하게 활용할 수 있도록 하는 것이 목표라고 밝혔다.

한편 이번 발표가 나온 날, 앤트로픽의 클로드와 클로드 코드는 대규모 장애를 겪었다. 앤트로픽 상태 페이지에 따르면 이 문제는 4월 7일 UTC 기준 오후에 발생했으며, 회사는 이후 수정 조치를 적용해 문제를 해결했다고 밝혔다. 이는 최근 앤트로픽 사용자들이 폭발적으로 급증하면서 이 같은 사용량에 충분히 대처하지 못하고 있음을 보여준다.

편집자 주 = 이 기사에는 AI 보안과 관련된 용어들이 등장한다. 샌드박스는 프로그램이나 AI를 제한된 공간 안에서만 움직이게 하는 안전한 실행 환경을 말한다. 

익스플로잇은 보안 취약점을 실제로 이용하는 공격 방법이나 코드를 지칭한다. 

제로데이는 개발사도 아직 제대로 막지 못한 취약점, 또는 그 취약점을 이용한 공격을 뜻한다. 방어할 시간이 사실상 0일이라는 의미다. 

[email protected]