deepseek
DeepSeek là một gia đình mô hình ngôn ngữ lớn mã nguồn mở được biết đến với giá trị tốt, khả năng suy luận mạnh mẽ và ngữ cảnh dài 1 triệu. Nó cung cấp nhiều cấp độ—V3 / V4 Pro / V4 Flash—và hỗ trợ bộ nhớ đệm ngữ cảnh dựa trên đĩa, nơi các lần truy cập vào bộ nhớ đệm chỉ tốn khoảng 26% giá trị đầu vào, mang lại lợi thế chi phí lớn trong các kịch bản ngữ cảnh dài.
1 triệu token cửa sổ ngữ cảnh; bộ nhớ đệm đĩa (cache_hit ~26% của cache_miss); khả năng hiểu hình ảnh; Function Calling; chế độ JSON; hoàn tất FIM; tương thích với giao diện Chat Completions của OpenAI; giảm giá Batch API.
Nhiệm vụ suy luận giá trị cao; tạo và hoàn thiện mã; phân tích tài liệu dài; hiểu ngôn ngữ Trung Quốc; quy trình tác nhân; xử lý dữ liệu hàng loạt; nghiên cứu và giáo dục học thuật.
Không tạo hình ảnh; bộ nhớ đệm phụ thuộc vào số lần truy cập (không được đảm bảo); độ đồng thời cao cần liên hệ bộ phận bán hàng; một số tính năng doanh nghiệp cần kích hoạt riêng; các phiên bản được lượng tử hóa FP8 rẻ hơn nhưng độ chính xác hơi giảm.
| Mô hình | Đầu vào / 1M | Đầu ra / 1M | Đọc cache / 1M | Trên 1M |
|---|---|---|---|---|
| 1M | ||||
| 1M | ||||
| - | 1M | |||
| 1M | ||||
| - | 1M | |||
| 1M |