최근 중국 AI 스타트업 딥시크(DeepSeek)가 급부상하면서 글로벌 기술 시장의 주목을 받고 있습니다.

특히, 미국의 빅테크 기업들과 비교할 때 10분의 1도 안 되는 비용으로 동등한 성능의 AI 모델을 구현했다는 점이 화제가 되고 있습니다.

그러나 데이터 보안, 정보 통제, 학습 신뢰성 등의 문제로 각국의 우려가 커지고 있습니다.

딥시크 데이터 보안 취약…”중국 정부 감시 우려”

딥시크에 대한 가장 큰 우려는 데이터 보안 문제입니다. 딥시크의 개인정보 보호 정책에 따르면, 수집된 데이터는 중국 내 서버에 저장되며 중국 법률의 적용을 받습니다. 이에 따라 외신들은 딥시크의 보안 결함을 경고하고 있습니다.

미국 CNN은 “틱톡이 모든 미국 데이터를 미국 내에 저장한다고 주장하는 것과 달리, 딥시크는 수집한 개인정보를 중국 내 서버에 저장한다”고 지적했습니다.

NBC뉴스 또한 “미국에서는 기업의 정보에 접근하려면 법원 명령이나 영장이 필요하지만, 중국에서는 모든 기업이 정부의 정보 수집에 협조해야 한다”며 정부 감시에 대한 우려를 제기했습니다.

특히, 딥시크의 데이터 수집 범위가 지나치게 광범위하다는 점도 문제로 지적됩니다.

퀸즐랜드공대 AI책임연구소의 스노스웰 선임연구원은 “딥시크는 계정 정보와 플랫폼 활동 기록뿐만 아니라 키보드 입력 패턴까지 수집한다”고 말습니다.

그러면서 “이는 생체인식 정보와 유사한 민감한 데이터로, 특정 목적 없이 수집하는 것은 심각한 문제”라고 설명했습니다.

딥시크 민감한 주제 회피…”중국 정부 통제 우려”

딥시크가 중국 정부의 검열과 통제를 받고 있다는 의혹도 제기되고 있습니다. CNN 보도에 따르면, 딥시크는 천안문 사태, 홍콩 민주화 시위 등 민감한 주제에 대한 질문을 회피하거나 중국 정부의 공식 입장만을 반영하는 경향을 보입니다.

예를 들어, “1989년 6월 4일 천안문 사태”에 대한 질문을 받으면 초기에는 군사 진압 등의 내용을 언급하다가 이후 답변을 삭제하고 “이런 질문에 어떻게 답해야 할지 모르겠다”며 회피하는 모습을 보였습니다.

이에 대해 AI 윤리 전문가들은 “중국에서 개발된 AI는 친중국적 데이터를 더 많이 학습하고 정부의 가치관을 반영할 가능성이 높다”고 분석했습니다.

중국 분석가이자 비즈니스 인텔리전스 기업 스트래티지 리스크의 설립자인 아이작 스톤 피시는 “딥시크가 세계적인 AI 리더가 되면 자유로운 사고와 표현이 심각하게 위협받을 수 있다”고 경고했습니다.

학습 신뢰성 문제…”83% 부정확한 응답”

딥시크의 성능과 학습 데이터의 신뢰성도 중요한 문제로 떠오르고 있습니다. 미국의 정보신뢰성 분석기업 뉴스가드(NewsGuard)는 딥시크의 이전 모델인 V3에 대한 분석을 진행한 결과, 뉴스 및 정보 관련 질문에서 83%의 부정확도를 기록했다고 발표했습니다.

서구권 AI 모델과 비교했을 때, 11개 모델 중 공동 10위를 차지하는 등 신뢰성이 매우 낮았습니다.

또한, 딥시크의 학습 데이터 출처에 대한 의혹도 제기되고 있습니다. 오픈AI는 딥시크가 자사 데이터를 무단으로 수집했을 가능성이 있다며 조사를 진행 중입니다. 딥시크는 “중국 관영 매체 및 국제 자료를 포함한 공개 데이터를 활용했다”고 해명했지만, 구체적인 출처나 학습 방식은 공개하지 않고 있어 논란이 지속되고 있습니다.

각국의 대응…사용 금지 및 조사 착수

이러한 우려가 커지면서 각국 정부는 딥시크의 사용을 제한하거나 조사에 착수하고 있습니다.

• 미국: 해군은 “잠재적 보안 및 윤리적 문제”를 이유로 딥시크 사용을 전면 금지했으며, 백악관도 국가 안보 차원의 조사를 진행 중입니다.
• 이탈리아: 개인정보 처리의 불투명성을 이유로 딥시크의 자국 내 접근을 차단했습니다.
• 아일랜드: 유럽 데이터 보호법(GDPR) 준수 여부를 조사 중입니다.
• 한국: 개인정보보호위원회가 딥시크의 데이터 처리 실태 조사를 진행 중입니다.

딥시크의 기술 발전이 빠르게 이루어지는 만큼, 향후 글로벌 시장에서 AI 윤리와 보안 문제에 대한 논의가 더욱 활발해질 것으로 보입니다. 각국 정부와 기업들은 보안 및 윤리적 문제를 고려한 AI 정책을 마련해야 하며, 사용자의 데이터 보호와 정보 검열 문제에 대한 감시가 필요합니다.

이 문제는 딥시크의 문제만이 아니라 언제가 AI로 인해 생길 수 있는 수 많은 문제중 하나일 뿐이라고 생각해야 합니다.