딥시크(DeepSeek)?? 중국 AI 돌풍의 모든 것

다음은 Stratechery에 업로드된 딥시크 관련 질의응답 내용을 재구성한 글입니다. 최근 뜨거운 화제가 되고 있는 딥시크에 대해, 기사를 읽거나 리포트를 이해할 정도로 기본적인 내용을 익힐 수 있도록 작성해 보았습니다.

출처 : https://stratechery.com/2025/deepseek-faq/

 

2024년 초, 중국의 AI 스타트업 딥시크(DeepSeek)가 발표한 혁신적인 AI 모델들이 기술 업계에 큰 반향을 일으키고 있습니다. 딥시크는 AI 모델의 훈련 효율성 극대화, 훈련 비용 절감, 그리고 추론 능력 강화라는 측면에서 새로운 기준을 제시하며 세계적인 주목을 받고 있습니다. 이번 글에서는 질의 응답을 통해 딥시크의 주요 기술, 영향, 그리고 AI 업계에 미치는 의미를 구체적으로 살펴보겠습니다.

 

Q1. 딥시크는 어떤 회사이며, 무엇을 목표로 하나요?

딥시크는 2023년에 설립된 중국의 AI 스타트업으로, 본사는 베이징에 위치해 있습니다. 이 회사는 효율적이고 경제적인 AI 모델 개발을 목표로 하고 있으며, 이를 위해 혁신적인 기술과 접근 방식을 도입하고 있습니다. 딥시크는 AI 기술을 오픈소스로 공개하여 전 세계 연구자들과 협력하고 있으며, 훈련 비용을 줄이고 고성능 AI 모델을 개발하기 위한 새로운 설계와 최적화 기술을 실험하고 있습니다. 또한, 미국의 첨단 칩 수출 제한이라는 어려운 환경 속에서도 독창적인 기술 최적화를 통해 경쟁력을 확보하고 있습니다.

Q2. 딥시크가 발표한 주요 AI 모델(V2, V3, R1)은 무엇이고, 어떤 특징을 가지고 있나요?

딥시크는 2023년부터 2024년 초까지 V2, V3, R1이라는 세 가지 주요 AI 모델을 발표했습니다.

 

V2 모델은 DeepSeekMoE와 DeepSeekMLA라는 두 가지 혁신적인 기술을 선보였습니다.

• DeepSeekMoE (Mixture of Experts): 거대 AI 모델을 여러 개의 작은 "전문가(Expert)" 모델로 나누어, 특정 작업에 필요한 전문가만 골라서 사용하는 기술입니다. 마치 여러 명의 전문가로 구성된 팀에서 각자 전문 분야를 담당하는 것과 유사합니다. 이를 통해 훈련 및 추론 효율성을 극대화할 수 있습니다.
• DeepSeekMLA (Multi-head Latent Attention): 추론 과정에서 발생하는 메모리 병목 현상을 해결하는 기술입니다. 기존에는 모든 토큰(단어)에 대한 키(Key)와 값(Value) 쌍을 메모리에 저장해야 했기 때문에, 문장이 길어질수록 메모리 사용량이 기하급수적으로 증가했습니다. MLA는 이 키-값 쌍을 압축하여 메모리 사용량을 획기적으로 줄이는 데 성공했습니다.

V3 모델은 V2의 기술을 기반으로 더 발전된 로드 밸런싱(작업 분배)과 다중 토큰 예측 방식을 도입하여 훈련 효율성을 극대화했습니다. 이를 통해 V3는 훈련 비용을 획기적으로 낮추는 데 성공했으며, 278만 8천 H800 GPU 시간을 사용했으며, 이는 시간당 2달러로 계산했을 때 약 557만 6천 달러에 불과습니다. 물론 이 비용은 최종 훈련(Final Training Run)에만 소요된 비용이며, 초기 연구, 실험, 그리고 데이터 수집 및 정제와 같은 다른 모든 비용은 제외된 것입니다. 그럼에도 불구하고, V3 아키텍처의 효율성을 고려하면, 이 비용은 충분히 납득할 수 있는 수준입니다.

 

R1은 OpenAI의 o1과 유사한 추론(Reasoning) 모델로, 수학, 코딩, 논리와 같은 분야에서 높은 수준의 문제 해결 능력을 보여줍니다. 특히, R1은 오픈소스 모델로 공개되어, 누구나 자유롭게 R1 모델을 연구, 활용, 개선할 수 있습니다. 이는 폐쇄적인 모델 정책을 고수하는 OpenAI와는 대조적인 행보입니다.

Q3. R1-Zero는 무엇이며, 어떤 점에서 주목할 만한가요?

R1-Zero는 순수 강화 학습(Pure Reinforcement Learning)만으로 훈련된 실험적 모델입니다. 기존의 AI 모델들은 인간의 피드백을 활용하는 강화 학습 방식을 사용했지만, R1-Zero는 인간의 개입 없이 자체적으로 학습하며 문제 해결 능력을 발전시켰습니다. 특히, 훈련 과정에서 ‘아하 모멘트’라고 불리는 독특한 학습 패턴이 관찰되었는데, 이는 모델이 스스로 문제 해결 전략을 터득하는 순간을 의미합니다. R1-Zero는 비록 가독성과 언어 혼합 문제 등 몇 가지 한계를 가지고 있지만, AI 모델이 스스로 학습하고 진화할 수 있다는 가능성을 보여주며 AI 연구에 중요한 방향성을 제시했습니다.

Q4. 딥시크의 기술은 미국의 칩 수출 금지 조치와 어떤 관련이 있나요?

딥시크의 기술적 혁신은 미국의 칩 수출 금지 조치와 깊은 관련이 있습니다. 딥시크는 H100 GPU 대신 성능이 제한된 H800 GPU를 사용하여 AI 모델을 훈련했습니다. 이는 미국의 제재로 인해 고성능 칩을 확보하기 어려운 상황에서 이루어진 것이며, 딥시크는 이와 같은 제약 조건을 극복하기 위해 모델 설계와 훈련 기법을 최적화했습니다. 특히, H800 GPU의 메모리 대역폭 부족 문제를 해결하기 위해 딥시크는 하드웨어와 소프트웨어를 긴밀히 조율하며 놀라운 성과를 냈습니다. 이는 미국의 제재가 오히려 딥시크의 기술 혁신을 촉진하는 역설적인 결과를 낳았다고 평가할 수 있습니다.

Q5. 딥시크의 혁신이 AI 업계에 어떤 영향을 미칠까요?

딥시크의 기술은 AI 산업 전반에 걸쳐 광범위한 영향을 미칠 것으로 예상됩니다.

• AI 모델 개발 비용 절감: 딥시크의 효율적인 모델 아키텍처와 훈련 기법은 AI 모델 개발 비용을 획기적으로 절감할 수 있습니다.
• AI 기술의 민주화: 저렴한 비용으로 고성능 AI 모델을 개발할 수 있게 됨으로써, 더 많은 기업과 개발자들이 AI 기술에 접근하고 활용할 수 있게 될 것입니다.
• 오픈소스 AI 생태계 활성화: 딥시크의 오픈소스 모델 공개는 AI 연구 및 개발의 개방성과 협력을 촉진할 것입니다.
• 미국과 중국의 AI 기술 경쟁 심화: 딥시크의 등장은 미국과 중국 간의 AI 기술 패권 경쟁을 더욱 심화시킬 것입니다.

Q6. 딥시크의 혁신이 엔비디아와 같은 기존 강자들에게 미치는 영향은 무엇인가요?

딥시크의 등장은 엔비디아와 같은 기존 AI 칩 제조업체들에게 분명한 위협 요인입니다. 딥시크는 엔비디아 GPU에 의존하지 않고도 고성능 AI 모델을 개발할 수 있음을 보여주었으며, 이는 엔비디아의 독점적 지위에 균열을 낼 수 있습니다. 특히, 딥시크의 효율적인 모델 아키텍처와 저렴한 훈련 비용은 AI 모델 개발의 진입 장벽을 낮추어, 더 많은 기업들이 AI 시장에 뛰어들 수 있는 길을 열어줄 것입니다. 그러나 여전히 엔비디아는 고성능 칩과 CUDA 소프트웨어 생태계를 통해 강력한 위치를 유지하고 있습니다.

Q7. 딥시크의 등장으로 AI 산업의 미래는 어떻게 변화할까요?

딥시크의 등장은 AI 산업의 새로운 전환점을 예고하고 있습니다. 딥시크는 효율성, 개방성, 저비용이라는 강점을 바탕으로 AI 기술의 민주화를 가속화하고 있습니다. 앞으로 더 많은 기업과 연구자들이 AI 기술에 접근할 수 있게 되면서, AI는 특정 기업의 독점 기술에서 벗어나 전 세계적으로 활용될 가능성이 높아지고 있습니다. 또한, AI 기술 발전의 속도가 빨라짐에 따라 기존 산업은 물론, 의료, 금융, 교육 등 다양한 분야에서도 AI의 활용이 급격히 증가할 것으로 예상됩니다. 딥시크의 행보가 AI 기술의 미래를 어떻게 변화시킬지 주목할 필요가 있습니다.