LLM training GPUs
High-VRAM GPU listings suitable for training large language models. Filtered to configurations with at least 80 GB of VRAM and sorted by price.
| Provider | GPU | COUNT | VRAM TOTAL | $/HR | SPOT | $/MO | COMPLIANCE | STATUS | Action | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| VastCHEAPEST | A100 80GBBeijing, CN | 1x Show all 17 configurations
| 80GB | $0.47/hr | $0.13/hr | $343.10/mo | — | Unavail | Rent | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| RunPod | MI300XRegion n/a | 192GB | $0.50/hr | — | $365.00/mo | — | Unavail | Rent | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| RunPod | H200Region n/a | 143GB | $0.50/hr | — | $365.00/mo | — | Unavail | Rent | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| AutoDL | A800CN | 1x | 80GB | $0.68/hr | — | $496.40/mo | — | Unavail | Rent | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Alibaba Cloud | H100 80GBcn-beijing | 1x Show all 11 configurations
| 80GB | $0.79/hr | — | $576.70/mo | — | Unavail | Rent | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| AutoDL | NVIDIA RTX Pro 6000CN | 1x | 96GB | $0.82/hr | — | $598.60/mo | — | Unavail | Rent | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Vast | RTX PRO 6000, CN | 1x Show all 8 configurations | 96GB | $0.87/hr | $0.53/hr | $635.10/mo | — | Unavail | Rent | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Lium | H100 80GBCanada | 80GB | $1.00/hr | — | $730.00/mo | — | Unavail | Rent | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Vast | A100CZ | 1x | 80GB | $1.04/hr | — | $759.20/mo | — | Unavail | Rent | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| AutoDL | H20CN | 1x | 96GB | $1.04/hr | — | $759.20/mo | — | Unavail | Rent | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Vast | RTX PRO 6000 Max-QDE | 1x | 96GB | $1.07/hr | — | $781.10/mo | — | Unavail | Rent |
Spot = gpufinder-published price strictly below on-demand — gpufinder is the only feed that differentiates spot. '—' means the provider doesn't publish a differential spot price (unknown, not zero).