DGX Spark vs Cloud vs Các gói LLM — Benchmark kinh tế giết chết ước mơ phần cứng địa phương
Đăng ngày 06 May 2026
- Bối cảnh: Một Thị trường Đã Thay đổi
- Bảng Tùy chọn
- Suy luận Đơn giản: Cái chết của Phần cứng Địa phương
- Fine-Tuning: Cloud Là Không Đối Thủ
- Lý Do Thực Sự Duy Nhất: Quyền Chủ Quyền Dữ Liệu
- Tổng hợp: Ma trận Quyết định
- Trường hợp đặc biệt: Gói thuê bao Pro đối mặt với các mô hình Trung Quốc
- Còn Huawei thì sao?
- Kết luận: Sự Sang trọng của sự Gần gũi
NVIDIA bán DGX Spark như một "siêu máy tính AI để bàn" với giá 4 699 $. Ollama cung cấp các mô hình cloud với giá 20$/tháng. Một chiếc H100 được cho thuê với giá 1.38$/h tại Vast.ai. Và các mô hình mã nguồn mở của Trung Quốc — DeepSeek, Qwen, GLM — có sẵn ở mọi nơi, miễn phí, mà không cần phải mua card đồ họa. Vậy thì, chiếc Spark này thực sự dùng để làm gì? Tôi đã làm một phép tính.
Bối cảnh: Một Thị trường Đã Thay đổi
Vào tháng 5 năm 2026, bối cảnh AI đã thay đổi căn bản so với thời điểm công bố DGX Spark tại CES 2025. Ba lực lượng đã hội tụ khiến cho phần cứng cục bộ ngày càng khó để biện minh:
-
Sự sụp đổ giá cloud GPU: một chiếc H100 được cho thuê với giá từ $1.38 đến $3/h, so với $5-8/h cách đây 18 tháng
-
Sự bùng nổ của các mô hình mã nguồn mở Trung Quốc: DeepSeek-V4, Qwen-3, GLM-5 có khả năng cạnh tranh với các mô hình phương Tây, được cung cấp miễn phí
-
Sự trỗi dậy của các nền tảng suy luận được quản lý: Ollama, Groq, Together AI cung cấp các API với mức giá cạnh tranh, cùng các gói miễn phí hào phóng
DGX Spark, được công bố với giá $2 999 rồi tăng lên $4 699, ra mắt trong một thế giới không còn cần đến nó nữa.
Bảng Tùy chọn
Dưới đây là các giải pháp có sẵn vào tháng 5 năm 2026 để chạy các LLM, từ nhẹ nhất đến nặng nhất:
| Tùy chọn | Chi phí | VRAM / Dung lượng | Các mô hình có sẵn | Ràng buộc chính |
|---|---|---|---|---|
Ollama Miễn phí |
$0/tháng |
Cloud nhẹ |
Tất cả các mô hình công khai |
Sử dụng hạn chế, 1 mô hình đồng thời |
Claude Pro |
20 USD/tháng (~240 USD/năm) |
N/A (API đã đóng) |
Chỉ dành cho Claude 4.x |
Mô hình duy nhất, không phải mã nguồn mở |
Ollama Pro |
$20/tháng (~$200/năm) |
Phương tiện đám mây |
Tất cả các mô hình công khai |
Tối đa 3 mô hình đồng thời |
Ollama Max |
100 USD/tháng (~1.200 USD/năm) |
Đám mây dày đặc |
Tất cả các mô hình công khai |
10 mô hình đồng thời |
Cloud GPU (H100) |
$1.38-3/h |
80 Go HBM |
Tất cả các mô hình, fine-tuning |
Tính phí theo giờ, yêu cầu thiết lập (setup) |
DGX Spark |
$4 699 (mua) |
128 Go unifié |
Tous modèles <128 Go |
Chậm (~10 lần ít hơn một |
Mac Studio M3 Ultra |
~$5 000+ |
192 Go unifié |
Tous modèles <192 Go |
Không CUDA, hệ sinh thái MLX |
|
Giá cloud GPU được trích dẫn là của Vast.ai và RunPod vào tháng 5 năm 2026 — loại spot/on-demand, không phải loại dự trữ (reserved). Giá của các hyperscaler (AWS, GCP, Azure) vẫn cao hơn gấp 2-3 lần. |
Những Điều Tôi Đã Loại Bỏ (và Tại Sao)
Tôi đã chủ động loại bỏ các tùy chọn sau khỏi benchmark này:
-
API OpenAI / Anthropic / Google: chủ đề ở đây là chạy các mô hình open-source mà chúng ta có thể tự chọn, fine-tuner, và không bị phụ thuộc vào một vendor duy nhất
-
Huawei Ascend / Atlas : Huawei không thương mại hóa sản phẩm desktop tương đương với DGX Spark. Dòng Ascend (910C, 910D) và Atlas (300I Duo, 350) hướng tới datacenter — card PCIe, máy chủ rack — không phải các bộ máy nhỏ gọn sẵn sàng cắm là chạy. Chip Ascend 910C tích hợp 128 Go HBM nhưng là chip máy chủ, không phải một hệ thống độc lập. Atlas 300I Duo cung cấp 96 Go với giá ~$1 400 nhưng yêu cầu một máy chủ điều khiển
Suy luận Đơn giản: Cái chết của Phần cứng Địa phương
Hãy bắt đầu với trường hợp sử dụng phổ biến nhất: trò chuyện với một LLM, đánh giá mã nguồn (code review), tạo văn bản. Không fine-tuning, không batch processing, chỉ đơn thuần là suy luận tương tác (interactive inference).
Phép tính
Một DGX Spark giá $4 699. Chia cho chi phí hàng năm của mỗi gói đăng ký:
@startuml skinparam backgroundColor #FEFEFE skinparam defaultTextAlignment center title Điểm hòa vốn — DGX Spark ($4 699) so với các gói đăng ký rectangle "DGX Spark\n$4 699" as spark #FFCDD2 rectangle "Ollama Pro\n$200/an" as opro #C8E6C9 rectangle "Claude Pro\n$240/an" as cpro #C8E6C9 rectangle "Ollama Max\n$1 200/an" as omax #FFF9C4 rectangle "Cloud H100\n$3/h × 10h/sem" as cloud #BBDEFB spark --> opro : 23.5 năm ⏳ spark --> cpro : 19.6 năm ⏳ spark --> omax : 3.9 năm spark --> cloud : 3.0 năm (lúc 10giờ/semaine, ngắt quãng) note bottom of spark Không kể tiền điện (~$150/an) Không kể sự lỗi thời phần cứng Không kể việc nó chậm 10 lần end note @enduml
Phán quyết thật tàn khốc. Đối với việc suy luận:
-
Ollama Pro: bạn sẽ cần23 tuổiđể khấu hao một DGX Spark. Spark sẽ bị lỗi thời sau 20 năm.
-
Ollama MaxVui lòng cung cấp văn bản cần dịch.4 năm— với điều kiện là sử dụng Spark 24/7, điều mà không ai làm
-
Claude Pro: cùng một vấn đề,20 tuổicho mô hình đơn đóng (single-model fermé)
Vui lòng cung cấp văn bản cần dịch. Lời hứa về một "siêu máy tính AI để bàn" vấp phải một thực tế tính toán cơ bản: $4 699 / $20 mỗi tháng = không bao giờ có lãi đối với mục đích sử dụng cá nhân. Vui lòng cung cấp văn bản cần dịch.
Ngay cả với mức Sử dụng Cường độ cao
Hãy lấy kịch bản tệ nhất cho cloud: bạn chạy một H100 8 giờ/ngày, 5 ngày/tuần, 52 tuần/năm.
-
8 × 5 × 52 = 2 080 giờ/năm
-
2 080 × $2/h (giá spot trung bình H100) =4 160 USD/năm
Spark ($4 699) được hoàn vốn trong13 tháng. Ngoại trừ việc :
-
H100 lànhanh hơn ~10 lầnhơn cả GB10 của Spark. Bạn làm trong 1 giờ những gì Spark làm trong 10 giờ. Với cùng một khối lượng công việc, H100 tiêu tốn của bạn $416/năm, chứ không phải $4 160.
-
Le H100 a 80 Go HBM à 3.35 To/s de bande passante. Le Spark a 128 Go LPDDR5X à 273 Go/s. Pour les gros modèles, la bande passante compte plus que la capacité.
|
Việc so sánh 1 giờ của H100 với 1 giờ của Spark là không có ý nghĩa. H100 thực hiện công việc nhanh hơn 10 lần. Do đó, chi phí cloud thực tế cho một workload nhất định thấp hơn khoảng 10 lần so với tính toán ngây thơ dựa trên số giờ. |
Fine-Tuning: Cloud Là Không Đối Thủ
Lập luận kinh điển của những người ủng hộ Spark: « đúng vậy nhưng đối với fine-tuning, thì lại khác ».
Không, không phải vậy.
Chi phí thực tế của một bản Fine-Tune
Một bản fine-tune LoRA/QLoRA trên Unsloth của một mô hình 7B:
-
~2-3 giờ trên H100 =$5 đến $9
-
Điều tương tự đối với Spark =20-30h(chậm hơn 10 lần), làm treo máy
Với 4 699 $ từ Spark, bạn có thể tài trợ cho:
-
~500 đến ~900 bản fine-tunetrên cloud H100
-
Ou ~23 tuổicủa Ollama Pro
-
Ou ~4 nămcủa Ollama Max
Và đối với các mô hình lớn hơn (70B+):
-
Le Spark avec ses 128 Go peut charger un 70B en Q4 — mais le fine-tune sera extrêmement lent
-
Un H100 avec 80 Go peut fine-tuner un 70B en QLoRA 4-bit en quelques heures
-
Đối với full fine-tune, dù sao cũng cần đa GPU — Spark không thể đáp ứng được
Các Tác nhân Chuyên biệt
Vào năm 2026, các nền tảng như Unsloth, Modal, Replicate và Together AI cung cấp dịch vụ fine-tuning serverless:
-
Không quản lý GPU
-
Không có cấu hình môi trường
-
Thanh toán theo phút
-
Các tối ưu hóa tích hợp (flash attention, quantization automatique)
@startuml skinparam backgroundColor #FEFEFE skinparam defaultTextAlignment center title Chi phí của một Fine‑Tune LoRA 7B — Comparaison</size> note as N |= Lựa chọn |= Chi phí mỗi fine-tune |= Số lượng fine-tunes có thể thực hiện với $4 699 | | **Replicate** | $3-5 | ~1 000 | | **Modal (serverless)** | $2-4 | ~1 500 | | **Unsloth + Vast.ai H100** | $5-9 | ~500-900 | | **Together AI** | $4-8 | ~600-1 000 | | **DGX Spark** | « miễn phí » nhưng 20-30h | ∞ (trong lý thuyết) | end note note bottom Spark là « gratuit » chỉ khi việc fine‑tune của bạn có giá trị $0/h và bạn không cần dùng máy để làm gì khác trong 30 giờ end note @enduml
Lý Do Thực Sự Duy Nhất: Quyền Chủ Quyền Dữ Liệu
Sau khi loại bỏ suy luận, tinh chỉnh và tỷ lệ chất lượng/giá cả — Spark còn lại gì?
Sự bảo mật tuyệt đối.
Không phải là vấn đề bảo mật kiểu "tôi không muốn các prompt của mình bị nhân viên OpenAI đọc". Đó là một vấn đề giả tạo vào năm 2026: Ollama, Groq và hầu hết các nhà cung cấp uy tín đều có chính sách không lưu nhật ký (zero log) và không lưu giữ dữ liệu (zero retention).
Quyền riêng tư thực sự là:
-
Khoảng cách vật lý quy định: quốc phòng, ngoại giao, y tế — dữ liệu về mặt vật lý không thể rời khỏi tòa nhà
-
Dữ liệu độc quyền quan trọng: mã nguồn của một sản phẩm chưa công bố, bí mật công nghiệp, thuật toán giao dịch
-
Khả năng phục hồi mạng: AI phải tiếp tục hoạt động ngay cả khi Internet bị ngắt
|
Nhưng hãy thành thật đi: có bao nhiêu phần trăm người mua DGX Spark thực sự rơi vào trường hợp này? 1%? Phần còn lại chỉ là những thứ "có thì tốt" (nice to have) nhưng lại biến thành một khoản chi phí 4 699$. |
Cách Tính Bảo Mật Thực Sự
Cho mục đích sử dụng cá nhân:
-
Ollama Pro($20/tháng) + các mô hình open source Trung Quốc = giải pháp thực tế
-
Nếu một prompt bị rò rỉ tại Ollama, nó sẽ chìm nghỉm trong hàng triệu yêu cầu mỗi ngày. Đó chỉ là một giọt nước giữa đại dương.
-
Rủi ro thực sự không phải là việc rò rỉ một prompt — mà là việc huấn luyện không có sự đồng ý trên dữ liệu của bạn. Và điều này, các nhà cung cấp nghiêm túc đều cấm trong hợp đồng.
Please provide the text you would like me to translate. Nỗi sợ về việc "chưng cất prompt của mình vào LLM" là một mức độ lan truyền thông tin cá nhân bị pha loãng đến mức nó giống như sự lo âu hơn là một mối đe dọa thực sự. Ở quy mô công nghiệp, điều đó sẽ khác. Nhưng ở quy mô cá nhân, đó chỉ là những nhiễu loạn. Please provide the text you would like me to translate.
Tổng hợp: Ma trận Quyết định
@startuml
skinparam backgroundColor #FEFEFE
skinparam defaultTextAlignment center
title Giai pháp AI nào nên được chọn vào năm 2026?
start
:Bạn có nhu cầu chính gì?;
switch (Besoin)
case (Inférence interactive occasionnelle)
:**Ollama Free**\n$0/mois, tất cả các mô hình mã nguồn mở;
stop
case (Inférence quotidienne, code review, dev)
:**Ollama Pro** ($20/mois)\nTruy cập vào tất cả các mô hình nguồn mở\nDeepSeek, Qwen, GLM, Llama, Mistral;
stop
case (Agents IA, multi-modèles, usage intensif)
:Bối cảnh > 30K tokens?;
if (Oui) then
:Ollama Max ($100/mois)\n10 mô hình đồng thời\nBối cảnhlong không suy giảm;
stop
else (Non)
:**Đám mây GPU H100 điểm** ($1.38–3/h)\n+ Unsloth/Modal để fine-tuning\nHiệu suất thô tối đa;
stop
endif
case (Fine-tuning régulier)
:Vast.ai H100 + Unsloth" ($5–9/fine-tune)\nhoặc **Together AI / Modal** (serverless)\n500+ lần fine-tune với giá một Spark;
stop
case (Air-gap obligatoire)
:Dữ liệu được phân loại ?;
if (Oui) then
:**DGX Spark** hoặc **Mac Studio M3 Ultra**\nChỉ là trường hợp trong đó phần cứng địa phương được lý giải\n(không phải về mặt kinh tế — về mặt chính trị);
stop
else (Non)
:Về đám mây: không cần air-gap;
stop
endif
endswitch
@enduml
| Tiêu chí | Ollama Miễn phí | Ollama Pro | Cloud GPU H100 | DGX Spark |
|---|---|---|---|---|
Suy luận |
✅ Giới hạn |
✅ Thoải mái |
✅ Quá mức cần thiết |
⚠️ Chậm |
Tinh chỉnh |
❌ |
❌ |
✅ Không thể đánh bại |
⚠️ Có thể nhưng chậm hơn |
Chi phí hàng năm |
$0 |
$200 |
Biến đổi (~$416-2 080*) |
4 699 $ trả trước |
Bảo mật |
⚠️ Cloud US |
⚠️ Cloud US |
⚠️ Cloud US (biến) |
✅ Tổng cộng |
Bảo trì |
Không có |
Không có |
Thiết lập duy nhất |
Điện, cập nhật |
Sự lạc hậu |
Không có |
Không có |
Không có |
3-5 tuổi |
Hệ sinh thái phần mềm |
Tất cả các mô hình open |
Tất cả các mô hình open |
Tất cả các mô hình open |
CUDA (nhưng chậm hơn) |
Phán quyết |
Thỉnh thoảng |
Được đề xuất |
Ưu điểm/Nghiên cứu |
Chỉ air-gap |
*Thay đổi tùy theo khối lượng công việc; với tốc độ H100 ~10x > Spark, chi phí thực tế cho một khối lượng công việc nhất định là thấp.
Trường hợp đặc biệt: Gói thuê bao Pro đối mặt với các mô hình Trung Quốc
Một điểm đáng lưu ý là: sự kết hợpOllama Pro giá $20/tháng + các mô hình open-source Trung Quốccó lẽ là sản phẩm có tỷ lệ chất lượng/giá thành tốt nhất trong lịch sử AI dành cho người tiêu dùng.
Tại sao các Mô hình Trung Quốc Thay đổi Tất cả
-
DeepSeek-V4-Pro: 1.6T params, CSA+HCA, 1M context, cạnh tranh với Claude 4 và GPT-5 về lập trình
-
Qwen-3: 235B, 256K ngữ cảnh, xuất sắc về tiếng Pháp và khả năng lập luận
-
GLM-5.1: 744B, MLA+DSA, 200K ngữ cảnh, được thiết kế cho tác vụ agentic
Tất cả đều có sẵn trên Ollama. Tất cả đều là mã nguồn mở (giấy phép cho phép). Tất cả đều có thể sử dụng không hạn chế thông qua gói đăng ký $20/tháng.
|
Với Ollama Pro, bạn có quyền truy cập vào ~5 mô hình « frontier » mã nguồn mở với mức giá của một mô hình đóng duy nhất (Claude Pro). Giá trị này bất đối xứng đến mức gần như trở nên vô lý. |
Điều này Có Nghĩa là Gì đối với Phần cứng
Nếu tỷ lệ chất lượng/giá thành tốt nhất là một gói đăng ký cloud với giá $20/tháng, thì phần cứng cục bộ trở thành một lựa chọn về sự tiện nghi hoặc nguyên tắc — chứ không phải là một lựa chọn kinh tế.
Một chiếc DGX Spark giá $4 699, tương đương với:
-
235 tháng Ollama Pro
-
23 game AAA ngày phát hành
-
4 MacBook Air M4
-
Một năm tiền thuê căn hộ T2 tại Lyon
Để tính toán. Chậm.
Còn Huawei thì sao?
Vì tôi đã được hỏi câu này trong quá trình nghiên cứu: không, Huawei không kinh doanh sản phẩm nào tương đương với DGX Spark.
Những gì đang tồn tại:
-
Ascend 910C : 128 Go HBM, 800 TFLOPS FP16 — nhưng đây là chip máy chủ, không phải desktop
-
Atlas 300I Duo : 96 Go LPDDR4X, thẻ PCIe khoảng ~$1 400 — cần máy chủ điều khiển
-
Atlas 350 : 112 Go HBM, 1.56 PFLOPS FP4 — bộ tăng tốc datacenter, không phải dạng máy nhỏ gọn
Huawei vẫn tập trung vào thị trường máy chủ và trung tâm dữ liệu. Đối với một thiết bị nhỏ gọn "cắm là chạy" với 120+ Go VRAM, DGX Spark (128 Go thống nhất) và Mac Studio M3 Ultra (192 Go thống nhất) là những lựa chọn duy nhất vào năm 2026. Và hiện tại, chưa có nhà sản xuất Trung Quốc nào công bố sản phẩm tương đương với định dạng này.
Kết luận: Sự Sang trọng của sự Gần gũi
DGX Spark không phải là một sản phẩm tồi. Đó là một khoản đầu tư tồi đối với 99% người mua tiềm năng.
@startuml
skinparam backgroundColor #FEFEFE
skinparam defaultTextAlignment center
title Khung cảnh AI năm 2026 — Ai chiếm ưu thế ?
left to right direction
package "Sử dụng cá nhân / PME" #C8E6C9 {
rectangle "🏆 Ollama Pro\n$20/mois" as pro
rectangle "Ollama Free\n$0/mois" as free
rectangle "Cloud GPU spot\n$1-3/h" as spot
}
package "Sử dụng mạnh mẽ / Pro" #FFF9C4 {
rectangle "🏆 Ollama Max\n$100/mois" as max
rectangle "🏆 Cloud GPU dành riêng\n$2-4/h" as dedicated
rectangle "Modal / Together AI\nServerless" as serverless
}
package "Air-Gap bắt buộc" #FFCDD2 {
rectangle "DGX Spark\n$4 699" as spark
rectangle "Mac Studio M3U\n~$5 000" as mac
}
note bottom of spark
1% các trường hợp sử dụng — phòng thủ,
sức khỏe được quản lý chặt chẽ,
các bí mật công nghiệp quan trọng
end note
@enduml
Vui lòng cung cấp văn bản cần dịch. Mua một chiếc DGX Spark vào năm 2026 cũng giống như mua một máy chủ mail vào năm 2010: về mặt kỹ thuật thì có thể, về mặt triết học thì thỏa mãn, nhưng về mặt kinh tế thì thật phi lý đối với một cá nhân. Vui lòng cung cấp văn bản cần dịch.
Phép tính rất đơn giản, và nó không hề nói dối:
-
$0để chat với DeepSeek trên Ollama Free
-
200$/nămđể làm việc nghiêm túc với Ollama Pro
-
$5-9cho việc fine-tune nhất thời trên cloud GPU
-
4 699$cho… trải nghiệm có một chiếc case NVIDIA trên bàn làm việc của mình?
Thị trường đã đưa ra quyết định. Các gói thuê bao cloud và các mô hình mã nguồn mở của Trung Quốc đã chiến thắng trong cuộc chiến về giá. Phần cứng nội địa chỉ tồn tại trong các ngách quy định, chứ không phải trong văn phòng của các lập trình viên.
Please provide the French text you would like me to translate. DGX Spark không phải là một công cụ mang lại lợi nhuận. Đó là một lời tuyên bố. "Tôi muốn AI của mình ở tại nhà, chứ không phải trong đám mây của một ai khác." Điều đó đáng tôn trọng. Nhưng vào năm 2026, khi Ollama cung cấp cho bạn DeepSeek-V4-Pro trên đám mây với giá $20/tháng, thì đó chủ yếu là một lời tuyên bố vô cùng tốn kém. Vui lòng cung cấp văn bản tiếng Pháp cần dịch.
Bài viết này được rút ra từ một cuộc trò chuyện với tác nhân AI của tôi về tính phù hợp kinh tế của DGX Spark, kết hợp với việc theo dõi thị trường về giá cloud GPU (Vast.ai, RunPod), bảng giá của Ollama/Claude và hệ sinh thái các mô hình mã nguồn mở của Trung Quốc. Các mức giá được trích dẫn là của tháng 5 năm 2026 — chúng có thể sẽ còn giảm thêm khi bạn đọc những dòng này.