6TB 모델 데이터, 암호화 키 접근 가능성… 19개 기업 정보 유출 우려 (+AI 모델, 보안 취약점, 데이터 유출, 기업 정보)

서비스 주요 내용 관련 기업 연구자

※ 본 정보는 외부 공개 자료를 바탕으로 작성되었습니다. 기관 사정 등에 따라 변경 내용이 존재할 수 있습니다.

(서울=호수뉴스) 보안 연구자 쇼우 차오판이 최근 대형 중국 언어 모델(LLM) 프록시로부터 약 6TB 분량의 모델 호출 데이터를 구매했고, 이 데이터셋에 SSH 키, VPN 구성, 알리바바 클라우드 키, 깃랩 토큰 등 민감한 자격 증명이 포함되어 있다는 사실이 알려졌다고 합니다.

해당 키들은 화웨이, 샤오미, 니오, 미니맥스 등 19개 선도 중국 기업과 7개 중국 및 CIS 정부 관련 기관의 서버 또는 내부 시스템에 접근하는 데 충분할 수 있다고 연구자는 덧붙였으며, LLM 프록시는 사용자와 클로드와 같은 모델 사이에 위치하여 모든 요청과 응답을 처리하기 때문에 평문 데이터에 완전히 접근할 수 있다고 합니다.

개발자가 SSH 키, API 키, VPN 구성 등 민감한 데이터를 에이전트 컨텍스트에 삽입하고 프록시가 이러한 기록을 저장하거나 판매하면 회사의 시스템 키가 유출될 수 있으며, 이는 쇼우 연구자가 프록시 위험에 대해 경고한 것이 이번이 처음이 아니라고 합니다.

지난 4월 공동 집필한 논문에서 428개의 LLM 프록시를 테스트한 결과, 9개는 악성 코드를 주입했고, 17개는 의도적으로 설치된 AWS 테스트 키를 사용해 AWS 서비스에 접근했으며, 1개는 테스트 지갑에서 ETH를 직접 빼냈다고 밝히고 있습니다.

6TB 데이터셋과 기업 보안 위협

쇼우 차오판은 블록체인 보안 회사 퍼즈랜드의 공동 창립자로서 취약점 및 공급망 보안 연구에 오랫동안 집중해왔다고 합니다.

그는 또한 지난 3월 말 클로드 코드 2.1.88의 릴리스 패키지가 소스 맵을 통해 약 50만 줄의 TypeScript 소스 코드를 실수로 노출했다는 사실을 발견하는 데 주도적인 역할을 했다고 합니다.

이러한 연구 결과는 LLM 프록시를 통한 데이터 유출 위험성을 강조하며, 기업들의 보안 관리 강화 필요성을 제기하고 있습니다.

이는 대규모 언어 모델의 확산과 함께 데이터 보안의 중요성이 더욱 커지고 있음을 보여주는 사례라고 할 수 있습니다.

LLM 프록시의 작동 방식과 보안 취약점

LLM 프록시는 사용자 요청을 받아 처리하는 중간 단계에서 작동하며, 이 과정에서 민감한 정보가 포함된 데이터를 평문으로 접하게 된다고 합니다.

개발자들이 API 키나 SSH 키 등을 에이전트 컨텍스트에 입력할 경우, 프록시가 해당 데이터를 저장하거나 거래하면 기업 시스템의 보안 키가 노출될 위험이 발생한다고 합니다.

과거 연구에서도 일부 LLM 프록시가 악성 코드를 심거나 실제 AWS 테스트 키를 이용해 접근하는 등의 사례가 발견되었고, 심지어 테스트 지갑에서 암호화폐를 빼가는 일도 있었다고 합니다.

이러한 맥락에서 6TB 규모의 대량 데이터셋 구매는 단순한 데이터 수집을 넘어 보안 시스템 접근 가능성을 시사한다는 점에서 주목받고 있다고 합니다.

#LLM #데이터보안 #보안취약점 #암호화키 #화웨이 #샤오미 #공급망보안 #퍼즈랜드 #쇼우차오판 #중국기업 #정보기술 #데이터유출 #클로드 #AI프록시 #알리바바클라우드 #깃랩 #SSH키 #VPN #기술동향 #보안뉴스

자주 묻는 질문

Q1. 6TB 규모의 LLM 프록시 데이터셋 구매가 구체적으로 어떤 위험을 내포하고 있는지 궁금하다?
A. 해당 데이터셋에는 SSH 키, VPN 구성, 클라우드 키, 깃랩 토큰 등 민감한 정보가 포함되어 있어 기업 시스템 접근이 가능할 수 있다고 한다.

Q2. LLM 프록시가 기업 보안에 미치는 영향은 어느 정도인가?
A. LLM 프록시는 사용자 요청을 처리하는 과정에서 민감한 정보를 평문으로 접하게 되는데, 이 정보가 저장되거나 거래될 경우 시스템 키가 유출될 수 있다.

Q3. 쇼우 차오판 연구자의 과거 연구 사례에는 어떤 것들이 있는지 알고 싶다?
A. 과거 연구에서 일부 LLM 프록시가 악성 코드를 주입하거나 AWS 테스트 키를 이용해 접근하고, 암호화폐를 빼가는 사례가 발견되었다고 한다.

Q4. 화웨이, 샤오미와 같은 기업들이 이 사건으로 인해 직접적인 피해를 입었는지 궁금하다?
A. 해당 데이터셋에 포함된 키들이 19개 기업 및 정부 관련 기관의 시스템 접근에 충분할 수 있다고 언급되었지만, 실제 피해 발생 여부는 확인되지 않았다.

Q5. LLM 프록시의 보안 취약점을 줄이기 위해 기업들이 어떤 노력을 해야 하는가?
A. 개발자는 민감 정보를 프록시 컨텍스트에 입력하는 것을 최소화하고, 프록시 제공업체는 데이터 저장 및 거래에 대한 보안 정책을 강화해야 한다.

{ "@context": "[https://schema.org](https://schema.org)", "@type": "FAQPage", "mainEntity": [ { "@type": "Question", "name": "6TB 규모의 LLM 프록시 데이터셋 구매가 구체적으로 어떤 위험을 내포하고 있는지 궁금하다?", "acceptedAnswer": { "@type": "Answer", "text": "해당 데이터셋에는 SSH 키, VPN 구성, 클라우드 키, 깃랩 토큰 등 민감한 정보가 포함되어 있어 기업 시스템 접근이 가능할 수 있다고 한다." } }, { "@type": "Question", "name": "LLM 프록시가 기업 보안에 미치는 영향은 어느 정도인가?", "acceptedAnswer": { "@type": "Answer", "text": "LLM 프록시는 사용자 요청을 처리하는 과정에서 민감한 정보를 평문으로 접하게 되는데, 이 정보가 저장되거나 거래될 경우 시스템 키가 유출될 수 있다." } }, { "@type": "Question", "name": "쇼우 차오판 연구자의 과거 연구 사례에는 어떤 것들이 있는지 알고 싶다?", "acceptedAnswer": { "@type": "Answer", "text": "과거 연구에서 일부 LLM 프록시가 악성 코드를 주입하거나 AWS 테스트 키를 이용해 접근하고, 암호화폐를 빼가는 사례가 발견되었다고 한다." } }, { "@type": "Question", "name": "화웨이, 샤오미와 같은 기업들이 이 사건으로 인해 직접적인 피해를 입었는지 궁금하다?", "acceptedAnswer": { "@type": "Answer", "text": "해당 데이터셋에 포함된 키들이 19개 기업 및 정부 관련 기관의 시스템 접근에 충분할 수 있다고 언급되었지만, 실제 피해 발생 여부는 확인되지 않았다." } }, { "@type": "Question", "name": "LLM 프록시의 보안 취약점을 줄이기 위해 기업들이 어떤 노력을 해야 하는가?", "acceptedAnswer": { "@type": "Answer", "text": "개발자는 민감 정보를 프록시 컨텍스트에 입력하는 것을 최소화하고, 프록시 제공업체는 데이터 저장 및 거래에 대한 보안 정책을 강화해야 한다." } } ] }