中 AI, 가짜 계정으로 美 기술 훔쳐…앤트로픽 '클로드' 무단 복제 적발

[이슈밸리=임정은 기자] 중국 인공지능(AI) 기업들이 가짜 계정과 불법 중개망을 동원해 미국 AI 기업 앤트로픽의 생성형 AI 모델 '클로드'를 무단 복제하려 한 정황이 적발됐다.

앤트로픽이 10일(현지 시간) 발표한 위협정보 보고서에 따르면 문샷AI와 딥시크 등 중국 AI 기업들은 '환승역(transfer stations)'이라 불리는 불법 중개 서비스를 이용해 이용자들의 질의 수백만 건을 클로드로 전달하며 모델 증류를 시도했다.

중국 밖에서 운영되는 이들 중개 서비스는 가짜 신원과 도난·위조 신용카드, 도난당한 API 키 등을 활용해 미국 AI 서비스에 접근했다.

증류(distillation)는 성능이 뛰어난 경쟁사 AI 모델의 응답을 수집해 자사 모델을 학습시키는 기법이다. 미국 당국은 중국 기업들이 이를 악용해 미국 기업의 지식재산을 대규모로 탈취하고 있다고 비판해왔다.

앤트로픽 조사 결과 문샷AI는 수천 개의 가짜 계정을 동원해 지난 5월부터 7월까지 클로드와 2300만건 이상의 질의를 주고받았다.

이 과정에서 중국 쓰촨성 청두의 폐쇄회로(CC)TV 수백 대에서 수집한 한 사람의 감시 데이터를 분석해달라는 요청 등이 클로드로 전달됐다.

딥시크 역시 유사한 방식으로 민감한 정보를 포함한 질의를 클로드에 전달했으며, 최근 7개월간 총 7곳의 중국 소재 연구소가 이러한 증류를 시도한 것으로 파악됐다.

앤트로픽의 제이콥 클라인 위협정보 책임자는 월스트리트저널(WSJ)에 "이용자는 자신의 키미 이용 내역이 클로드로 전달되고 있다는 사실을 알 방법이 없었다"며 "앤트로픽 같은 기업이 이런 일을 했다면 큰 스캔들이 됐을 것"이라고 말했다.

백악관 과학기술정책실(OSTP)의 마이클 크라티오스 실장은 지난 7월 문샷AI가 '키미 K3' 모델 개발 과정에서 앤트로픽의 '페이블'을 증류했다고 주장한 바 있다.

스콧 베선트 재무장관도 산업 규모의 증류에 관여하는 중국 기업에 제재나 블랙리스트 지정을 활용할 수 있다고 경고했다.

이번 보고서에는 클로드가 사이버 공격과 생물학 연구 등에 악용된 사례도 포함됐다. 중국의 한 이용자는 조류인플루엔자 바이러스를 포유류에 감염되도록 변형하는 데 클로드를 이용하려 했다.

제이콥 클라인 책임자는 "이런 유형의 오용이 과거에는 가상의 우려로 여겨졌지만 이제 현실에서 나타나고 있다"고 지적했다. WSJ은 오픈AI에서도 생물무기 및 독극물 관련 유사 질의가 확인됐다고 전했다.

또한 중국 창사에 위치한 것으로 추정되는 해킹 조직이 클로드를 '익스플로잇 파운드리(exploit foundry·취약점 공격 무기 제조공장)'처럼 활용한 사실도 드러났다.

이들은 클로드를 여러 하위 에이전트로 나눠 정찰과 침투 작업을 병렬로 수행하도록 설계했으며 한 달 만에 제로데이 취약점 후보 10여 건을 찾아내 약 50개 기관을 표적으로 삼았다.

이 외에도 러시아 국가 배후 해킹 조직의 우크라이나 공격, 프랑스인 해커의 신상정보 유출 사이트 운영, 튀르키예 기업의 말레이시아 선거 여론조작 등에서 AI가 활용된 사례가 밝혀졌다.

한편 엔비디아의 젠슨 황 CEO는 미국 샌프란시스코에서 열린 골드만삭스 그룹 기술 콘퍼런스에서 "사이버보안이 AI의 차세대 주요 활용 분야가 될 것"이라고 전망했다.

이어 젠슨 황은 "AI를 이용한 공격이 늘어나는 만큼 대응을 위한 AI 활용이 확대될 것"이라며 "새로운 시장 수요가 창출될 수 있다"고 강조했다.