LLM - 딥시크 (DeepSeek) - 딥시크(DeepSeek)의 등장과 AI 보안 이슈

목차

Ⅰ 딥시크(DeepSeek) 현황
  1-1. 딥시크(DeepSeeK) 개요 및 특징

Ⅱ 딥시크 관련 보안 이슈 및 국내·외 대응 현황
  2-1. 딥시크 관련 보안 이슈
  2-2. 국외 주요국 대응 현황
  2-3. 국내 대응 현황

Ⅲ 딥시크(DeepSeek) 등 AI 보안 위협 분석
  3-1. 인공지능(AI) 위험(Risk)과 보안(Security)
  3-2. AI 보안 관점에서의 보안 위협 분석

Ⅳ 시사점

 

 

딥시크(DeepSeek)의 등장과 AI 보안 이슈

딥시크(DeepSeek)는 최근 인공지능(AI) 기술의 발전에 따른 새로운 AI 챗봇으로, 중국 기반의 기업이 개발하였습니다. 이 AI는 오픈소스 대규모 언어 모델을 사용하여 텍스트 생성, 프로그래밍, 데이터 분석 등의 다양한 작업을 지원합니다.

개인정보 유출 우려

딥시크의 등장과 함께 개인정보 유출에 대한 우려 또한 커지고 있습니다. 이 AI는 사용자로부터 수집하는 데이터가 중국 내 서버에 저장된다는 점이 큰 문제로 지적되고 있습니다. 또한, 사용자들이 제공하는 기기 정보, IP 주소, 키보드 입력 패턴 등의 데이터가 수집되며, 중국의 데이터 보안법에 따라 이 정보가 제3자에게 공유될 수 있다는 우려가 제기되고 있습니다56.

글로벌 차단 움직임

이러한 보안 문제로 인해 여러 국가와 기업에서는 딥시크 사용을 금지하는 조치를 취하고 있습니다. 예를 들어, 미국의 여러 정부 기관이 딥시크 사용을 금지했으며, 일본, 호주, 대만의 공공기관들도 사용을 제한하고 있습니다. 이탈리아는 딥시크의 데이터 보호 정책이 불만족스럽다는 이유로 해당 앱의 접근을 차단하기도 했습니다6 . 이러한 조치들은 딥시크의 보안 취약점과 데이터 처리 방식을 우려한 결과로 볼 수 있습니다.

보안 취약점

보안 전문가는 딥시크가 여러 보안 취약점을 포함하고 있다고 경고합니다. 예를 들어, Cisco의 보고서에 따르면 딥시크의 AI 모델은 특정 공격에 대해 높은 취약성을 보인다고 합니다. 이는 악의적인 사용자가 딥시크 AI를 악용할 수 있는 위험을 증가시키고 있습니다9.

결론

딥시크는 기능적으로 매력적인 AI 툴이지만, 개인정보 보호 및 보안 문제로 인해 전문가들 사이에서 경계의 대상이 되고 있습니다. 이에 따라 사용자뿐만 아니라 정부와 기업에서도 이 AI의 사용을 신중하게 검토해야 할 필요성이 커지고 있습니다.

---

딥시크의 보안 문제는 그 기능성과 함께 많은 논란을 일으키고 있습니다. 특히, 딥시크가 오픈소스 소프트웨어라는 점에서 추가적인 보안 우려가 제기되고 있습니다. 전문가들은 오픈소스 기반의 AI 모델이 일반적으로 보안이 더 취약할 수 있으며, 이는 해커가 소스 코드를 쉽게 분석하여 공격 포인트를 찾아낼 수 있기 때문이라고 지적합니다. 또한, 딥시크의 사용으로 인해 발생할 수 있는 개인정보 유출은 단지 개인의 정보 손실에 그치지 않고, 국가적 차원에서의 보안 위협으로 이어질 수 있습니다.14

딥시크는 과도하게 개인정보를 수집할 뿐 아니라, 사용자 입력 정보를 학습 데이터로 사용하고, 해당 데이터를 광고주와 공유하고 있습니다. 이로 인해 사용자의 민감한 정보가 더 큰 위험에 노출될 수 있습니다. 이러한 사실은 많은 국가에서 딥시크의 사용을 금지하는 중요한 이유 중 하나입니다.2

이와 함께 보안 전문가들은 딥시크와 같은 오픈소스 AI 모델의 보안을 강화하기 위해 거대언어모델(LLM) 방화벽, 프롬프트 필터링, LLM 결과 필터링 등의 기술을 사용하는 것을 권장합니다. 이러한 방안들은 AI가 최소한의 개인정보만을 사용할 수 있도록 설계되고, 부적절한 응답을 사전에 차단하기 위한 조치로 기대됩니다.3

이러한 보안 취약점과 악용 가능성에도 불구하고, 딥시크와 같은 오픈소스 AI의 발전은 다양한 기업들이 저렴한 비용으로 AI 모델을 구축할 수 있는 기회를 제공하고 있습니다. 그러나 이를 위해서는 사용자와 기업 모두가 각별히 주의해야 하며, 안전한 AI 사용으로 인한 이점을 극대화하기 위한 노력이 필요합니다.

 

 

 

 

딥시크에 대한 보안 테스트 및 분석 보고서 등을 기반으로 확인한 딥시크의 보안 위협은

△ AI DB 보안 설정 등 일반적인 보안 관리 미흡,

△ AI 모델 공격에 대한 취약성,

△ DDoS 등 시스템·서비스 기반 공격 취약,

△ AI 모델의 오픈소스화로 인한 보안 위협 등이 있음

 

 

 

https://www.kisa.or.kr/20301/form?postSeq=30&page=1#fnPostAttachDownload

KISA 한국인터넷진흥원