DeepSeek V3 — MoE 671B từ Trung Quốc rẻ hơn 50 lần GPT-4 💸

Cú sốc giá của DeepSeek V3

DeepSeek (Trung Quốc) công bố DeepSeek V3 với pricing API:

• Input: $0.27/1M tokens
• Output: $1.10/1M tokens

So sánh nhanh GPT-4o:

• Input: $2.50/1M (rẻ hơn ~9x)
• Output: $10/1M (rẻ hơn ~9x)

Kiến trúc MoE — Vì sao rẻ

DeepSeek V3 có 671B parameters tổng cộng nhưng chỉ active 37B per token thông qua MoE routing. Nghĩa là compute cost chỉ ~5.5% so với dense model cùng size.

Training trên cluster 2048 H800 GPU trong 2 tháng — tổng chi phí $5.5M, bằng 1% của GPT-4 (ước tính $63M).

Chất lượng

Benchmark độc lập:

• MMLU: 88.5 (vs GPT-4o 88.7)
• HumanEval: 89% (vs Claude 3.5 Sonnet 92%)
• MATH: 76% (vs GPT-4o 76.6%)

Ngang ngửa GPT-4o và Claude 3.5 Sonnet trên hầu hết benchmark.

Lưu ý dùng DeepSeek

• Data sovereignty: server tại Trung Quốc — không phù hợp data nhạy cảm EU/US/VN finance
• Latency: ~800ms TTFT từ Đông Nam Á — chậm hơn OpenAI
• Tooling: SDK Python OK, JS/Go community-maintained

Dùng DeepSeek cho dev/research/non-sensitive workload thì cực kỳ kinh tế. Production critical thì cân nhắc thêm về compliance.