企业官网建设流程全解析

1. 写在前面：为什么高校学生越来越需要租GPU

先说结论：但凡你在校园里跑过深度学习实验，应该都体会过什么叫“算力焦虑”。实验室几台机器轮流排队，导师的模型一训就是两三天，你这边连个MNIST都跑不利索；自己电脑倒是能跑，显存8G撑死加载个ResNet-50，想微调一下BERT直接OOM；至于Kaggle、Colab免费额度，断连、排队、限时三板斧下来，心态基本就崩了。

我也是从这条路上走过来的。研究生前两年，干的最多的事情就是“想办法搞到一张卡”。后来帮学弟学妹们搭环境、选平台，前前后后把国内主流的GPU租用服务都摸了一遍，踩过不少坑，也总结出一些比较实用的判断标准。这篇就把我实测过、也愿意继续付费的4家平台拿出来做个横向对比，覆盖价格、卡型、易用性、适合场景和隐藏扣费项，尽量把话说透。

先说清楚，这篇指南主要面向这几类人：刚入门深度学习、需要跑通课程作业或复现论文的学生；手里有模型要训练但实验室算力紧张的研究生；以及在秋招/毕设阶段需要短期跑实验、不想给台式机再添一张显卡的准毕业生。如果你只是跑跑小数据集、学习一下PyTorch语法，那其实免费额度就够用，不必花钱；但如果你已经开始碰ImageNet级别数据、Transformer结构或大模型微调，那租卡基本是绕不开的选项。

GPU租用这件事，本质上就是把“买卡”变成“按小时买算力”，把一次性几万块的成本拆成每小时几块钱。理解了这件事，你再看各家平台的定价和计费设计，思路就会清晰很多。

2. GPU怎么选：先搞懂你需要的“卡”到底是什么

很多学生第一次打开租用平台，面对满屏的“RTX 3090”“A100 80G”“V100 32G”会有点懵，不知道该选哪个。这里先说一套很粗但实用的筛选逻辑：看显存、看算力、看显存带宽，最后看价格。深度学习任务大头是矩阵乘法和卷积，这两件事主要靠GPU的Tensor Core和显存带宽顶着。

入门和课程级任务（图像分类、CNN、简单RNN），选RTX 4090或者RTX 3090都够用。24G显存的好处在于，你可以不用太纠结batch size，ResNet、ViT-Small甚至一些轻量级生成模型都能跑。实测下来，4090在训练效率上基本是3090的1.5到2倍，但价格也贵一截，视预算而定。

目标检测、语义分割、Transformer中等规模微调，建议选3090或A100 40G这个档位。尤其是NLP里微调BERT、T5这类模型，显存不够是真的寸步难行，梯度累积加上去训练时间翻倍，语法上没问题但钱包受不了。

大模型微调（7B及以上）、全量微调、PEFT+LORA这类，老实上A100 80G或H800吧。很多人问“我用4090跑大模型微调行不行”，只能说能跑，但只能跑极小的batch size，稍微长一点的序列就OOM。80G显存可以让你把batch size、序列长度、LoRA rank这些超参调到比较正常的范围，不必天天和显存做斗争。

另外一个容易被忽略的指标是GPU之间的通信方式，特别当你需要多卡并行。同一个实例内多卡走NVLink/NVSwitch，性能远好于跨实例走以太网。如果你只是单卡跑实验，那通信这块可以不用管；但如果你打算上分布式训练，建议优先选同一物理机内的多卡套餐，否则光是初始化就够你折腾半天。

关于显存溢出的问题，后面我会单独写一节常见的排查技巧。这里先记住一句话：租卡的时候，显存宁多勿少，很多OOM不是算力不够，而是显存卡死。

3. 4家平台速览：定位、优劣势和适用人群

先给个总览表，后面再逐个拆解。我测下来的总体感受是：没有“最好的平台”，只有“最适合你当前阶段”的平台。每家平台的底层卡资源实际差不多，真正的差距体现在调度策略、易用性和计费设计上。

以上评分带有个人主观成分，别太当真。更关键的是各家在细节上的差异，下面逐家聊。

3.1 AutoDL：上手门槛低，学术型选手的首选

AutoDL是目前校园圈子里知名度最高的一家，很大原因在于它的“学术加速”和“无卡模式”设计确实切中学生痛点。注册之后，第一次创建实例大概十分钟内能跑起来，界面是图形化的，可以选镜像、选卡型、选数据盘大小，全程不需要跟命令行死磕。

价格上，我这个月在AutoDL跑了几次4090，每小时大约2到3元区间，比同配置的公有云便宜不少。很多人会忽略一个细节：AutoDL的“关机后计费减半，但仅收存储费”，意思是实例关机状态下，GPU不再计费，但系统盘和数据盘还是会按容量收取少量费用。这个设计对学生很友好，因为你可以白天调代码、晚上关机省成本，第二天再开机接着跑，环境还在。

AutoDL让我比较满意的是镜像市场。PyTorch、TensorFlow、PaddlePaddle都有现成镜像，版本可以自己选，CUDA、cuDNN也基本配好了。哪怕是你想用“动手学深度学习”的d2l包或者PyTorch的L2正则化实验代码，直接在JupyterLab里配置环境就行，省掉了在裸机上装CUDA的痛。

缺点也很明显：热门卡型经常无货，尤其是晚上和周末，4090经常要排队。另外AutoDL的大模型相关镜像更新速度一般，如果你是冲着一键微调大模型去的，可能需要自己装一些依赖。

适合谁：刚开始接触租GPU的本科生、研究生，以及主要跑中小规模模型、希望“开机即用”的人。

3.2 恒源云：按量计费灵活，老手专属

恒源云比AutoDL更“极客”一些，它的界面不像AutoDL那么花哨，但按量计费的粒度很细，可以按分钟结算，特别适合“断断续续跑实验”的人。比如说你白天在公司或学校调代码，晚上回家开机跑两小时，第二天早上再看结果，这种节奏下恒源云的成本控制做得很好。

卡型选择上，恒源云有4090、A100、V100等主流卡，部分节点还有比较老的2080Ti和T4，价格更低，适合不太吃显存的任务。需要注意的是，恒源云的数据盘和系统盘是分开计费的，而且一些套餐的存储空间需要额外购买，买之前看清楚容量和价格，别到时候一开机才发现磁盘满了。

这个平台吸引我的一点是它提供了相对友好的SSH直连体验。你可以像操作自己服务器一样，用终端连上去，跑TensorBoard、开Jupyter、传数据，所有端口映射都比较自由。如果你以后打算进互联网公司做算法岗，提前习惯这种纯命令行的操作模式其实也是一种积累。

但恒源云对新手不算友好，镜像模板少一些，部分镜像里的PyTorch版本和CUDA版本需要自己调整。之前我帮一个学弟在上面配环境，光是nvidia-driver和PyTorch的CUDA版本不匹配就折腾了一晚上，后来直接换了AutoDL才解决。所以建议至少有一定Linux基础再来用恒源云。

3.3 矩池云：镜像和团队协作做得不错

矩池云最开始我是被它的“RTX 3090按小时租赁”价格吸引过去的，后来发现它真正的亮点在镜像管理和团队协作。

矩池云的镜像系统允许你把自己配置好的环境导出为镜像，下次创建实例时一键加载。这个功能对于课题组特别有用——你花了一周配置好的PyTorch+OpenMMLab环境，直接导出镜像发给同门，他那边秒级复制，再也不用重复采坑。我自己有一次帮实验室搭了完整的mmdetection环境，后来直接传到矩池云镜像，几个师弟师妹用起来都挺顺利。

价格方面，矩池云整体和AutoDL接近，但偶尔会有特价活动，比如特定时段的3090会便宜一点。它也有类似“关机不计费”的选项，只不过存储费用计算方式和AutoDL略有不同，跑长任务前建议自己算一下。

矩池云的劣势在于：界面操作偶尔会卡顿，创建实例有时候要等比较久；另外客服响应速度一般，遇到问题主要靠文档自救，好在它的文档写得还算全。

适合谁：有团队协作需求、需要频繁迁移环境、已经对深度学习环境有一定了解的人。

3.4 揽睿星舟：大模型、长任务的上选

揽睿星舟这个平台在高校圈里讨论度没那么高，但如果你开始接触大模型微调，它就变得很有存在感。

揽睿星舟的卡型覆盖包括A100 80G、H800等高端卡，而且对长任务支持比较友好。它的计费方式偏向“预充值+按小时扣费”，跑个几十小时的微调任务，不太会中途因为欠费停机。更关键的是，它提供了比较完善的任务管理和日志系统，你可以把训练脚本丢进去，然后定期查看输出，不必一直盯着终端。这点和传统租卡平台“实例+SSH”的模式体验不同，更接近云厂商的“训练任务”抽象。

我自己在揽睿星舟上跑过一次Llama-2-7B的LoRA微调，配了A100 80G，体验比较流畅，显存占用控制在60G上下，batch size可以开到8到16，这在4090上是不太现实的。

不过揽睿星舟的价格相对偏高，入门学生如果只是跑课程作业，性价比不如AutoDL。另外平台的社区和文档规模比前三家小，遇到问题需要自己多花点时间排查。

适合谁：开始做大模型相关实验、需要稳定长任务训练、预算相对充裕的研究生或准科研人员。

4. 实操过程与关键技巧：从注册到跑通一次训练

这个环节我会把一个典型的租用流程走一遍，从注册到成功跑起PyTorch训练，讲清楚每一步的核心操作和你可能会掉进去的坑。

4.1 创建实例时的三个关键选择

创建实例时，通常需要你选择三样东西：镜像、卡型、数据盘大小。很多新手只关注卡型，忽略另外两个，后面就出各种问题。

镜像选择上，我的建议是“选成熟镜像，不选最新镜像”。以PyTorch为例，选择带“1.13”或“2.0”的稳定版镜像通常比追“2.1 nightly”版本省心很多。因为很多第三方库如mmcv、transformers对新版本PyTorch的适配往往滞后，你装完A库又因为A库和B库的依赖冲突而报错，纯浪费时间。

数据盘大小上，建议把系统盘和数据盘分开理解。系统盘放环境，20到30G足够；数据盘放数据集和模型权重，根据项目大小来定。很多人贪便宜选了最小数据盘，结果CIFAR、ImageNet这种数据集往里一拷就满了，又得重新扩容，很影响心情。扩容虽然通常不用换实例，但涉及数据迁移，建议一步到位。

卡型选择上，先算一下自己模型的显存占用。有一个粗略的估算公式：参数量乘以精度字节数再乘以优化器系数。以FP16混合精度训练为例，一个7B参数的模型，光参数和梯度就接近28G，加上优化器状态和激活值，A100 80G几乎是必须。小模型比如BERT-base（约1.1亿参数），用FP32训练大概需要4到8G显存，3090/4090完全够。

4.2 SSH与端口映射：为什么你连不上Jupyter

SSH连接是租GPU之后最常用、也最容易出问题的环节。大部分平台在你创建实例后，会给你一个SSH登录命令，形如ssh -p 12345 root@regionX.thudm.com，密码在控制台里显示。第一次连接时，常会遇到“Permission denied”或者“Connection refused”，原因多半是密码复制多了空格，或者平台还没把SSH服务启动完成，等一两分钟再试就好。

JupyterLab的访问逻辑和SSH不太一样，通常是通过平台提供的“自定义服务”或“端口映射”来实现。比如你想在实例上开一个8888端口的Jupyter，就要先在平台控制台里把实例的8888端口映射到一个公网地址，然后浏览器访问那个地址。有些平台还支持一键打开JupyterLab，省去手动映射。

这里分享一个我踩过很多次的坑：用nohup或者screen启动训练脚本，而不仅仅是python train.py。因为SSH会话一旦断开，前台进程就会被杀掉，训练也就中断了。我一般是这样操作的：在终端里先screen -S train开一个新会话，然后在会话里运行训练脚本，用Ctrl+A+D退出会话，之后随时可以用screen -r train重新进去看进度。这样哪怕电脑休眠、网络断开，训练仍然在远端跑着。

4.3 文件传输：大数据集怎么快速传上去

传代码和小文件，用scp或者平台自带的网盘都行。但传几十个G的数据集，就要讲究一点方法。

推荐用压缩包+断点续传的方式。先把数据集压缩成单个tar.gz文件，然后通过支持断点续传的工具（比如lrzsz的rz/sz在交互式终端里用，或者用FileZilla这类SFTP客户端）上传。不要直接拖一个几百MB的小文件队列，每个文件都要经过一次握手，效率极低，而且中途断了就前功尽弃。

其实更省事的方式是用网盘同步。很多平台内置了阿里云盘、百度网盘的同步插件，或者支持从URL直接下载。你只要把数据集传到自己的网盘里，然后在实例上用命令行工具下载，速度往往比scp快得多。我传一个15G的检测数据集，用平台网盘中转，十分钟左右就搞定，而scp可能要跑四十分钟。

4.4 环境安装的顺序：先定版本再装包

在租来的GPU上配置深度学习环境，最忌讳的就是“先装包、后想版本”。这里给一套我验证过多次的顺序，适用于绝大多数PyTorch项目：

1. 确认CUDA版本：运行nvidia-smi，看Driver Version和CUDA Version。不一定说PyTorch的CUDA版本必须和驱动完全一致，但驱动版本不能低于PyTorch需要的CUDA版本。
2. 创建虚拟环境：用conda创建独立环境，而不是直接在base环境里装包。conda create -n torch python=3.10，然后conda activate torch。
3. 安装PyTorch：去PyTorch官网选对应CUDA版本的安装命令，比如pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118。注意不要用pip install torch直接装，那个默认是CPU版本或者CUDA版本不确定，特别容易出坑。
4. 验证GPU可用：在Python里运行import torch; print(torch.cuda.is_available())，输出True再继续装其他依赖。
5. 最后装项目依赖：比如transformers、mmcv、timm等，装完再跑一遍训练脚本，确认没有import错误。

这套顺序几乎能规避掉90%的“为什么我的PyTorch用不了GPU”类问题。很多新手一上来就pip install -r requirements.txt，结果torch被降级成CPU版，跑起来发现奇慢无比，还以为是机器问题。

5. 真实成本对比：跑同样的任务，四家相差多大

光说体验，不说钱，那就是耍流氓。我拿一个典型的深度学习任务来做个对比测试：微调ResNet-50，ImageNet-1k的10%子集，batch size 256，训练30个epoch，大致相当于3090上跑6个小时的工作量。我用同一个脚本分别在四家平台上跑，记录实际产生的费用。

先说AutoDL：选RTX 3090（24G），单价约每小时2.5元，6小时费用大约15元。中途我关了一次机再开机，关机期间只收存储费，约每小时0.1元。总计约16元。

恒源云：同样选RTX 3090，按分钟计费，单价约每小时2.6元，使用分钟数略有零头，6小时总计约16元。但注意，恒源云的数据盘是单独买的，20G数据盘约每月5元，按量折算到这次任务约1元，总计约17元。

矩池云：RTX 3090价格相近，约2.4元每小时，镜像导出和创建实例不额外收费，但存储费用单独算，总计约16.5元。

揽睿星舟：如果选A100 80G，单价约6到7元每小时，6小时约40元；如果也选3090，价格和前面几家差不多。所以跑中小任务用它不划算。

这里还涉及一个很容易被忽略的成本：等待成本。高峰期AutoDL的4090要排队，假设你排队等了2小时，虽然不计费，但时间成本也是成本。如果你任务急，建议提前看好各家的余量情况，灵活切换平台。

另外，按量计费平台通常会有“最低消费时长”之类的规则，比如创建实例至少开机1小时，关机后再次开机要重新计费。这个在批量跑多个小实验的时候尤其要小心，不然你会发现每次开关机都扣了1小时的钱，实际跑的任务只有20分钟，成本翻好几倍。

6. 常见问题与避坑实录

这一节把我自己以及周围同学遇到过的高频问题整理成一个速查表，附带排查思路。这些问题如果你已经跑到一定阶段，大概率都撞上过。

单独说几个我认为值得展开的坑。

第一个坑和“格式化工厂GPU加速不出来”的搜索结果有点类似，就是很多人以为安装完驱动和CUDA就万事大吉，但实际上容器化环境里的GPU透传可能没开。租用平台通常已经帮你处理好了，但如果你在自己搭建的Docker里跑深度学习，记得启动容器时加--gpus all参数，否则容器内根本看不到GPU。

第二个坑是“免费GPU训练模型”这事别抱太大期望。免费额度要么限时，要么限显存，要么断连，要么排队半天。用来学习可以，但正经科研实验不稳定。我当时用免费额度跑了一个12小时的训练，凌晨断线，结果早上起来发现模型权重只保存到第8个小时，前功尽弃。自那以后，重要任务我必上付费卡。

第三个坑是关于“深度学习环境配置GPU版”的搜索，很多教程会教你手动装NVIDIA驱动。但在租用平台上，这一步通常完全不需要你做，驱动是平台预装好的。你要是手贱在实例上重装驱动，反而可能把整个环境弄崩，还得重新创建实例。在租用平台上，你的操作范围基本停留在PyTorch、conda、Python包这个层面，尽量不要碰内核层的东西。

第四个坑和网络相关：有时候训练中途发现数据加载特别慢，GPU利用率只有30%左右。新手以为是GPU不行，实际上是数据加载线程数和数据预处理方式的问题。在租用平台上，数据往往是网络盘，I/O比本地盘慢，建议先用torchdata或webdataset做流式读取，或者把数据先拷贝到实例的本地数据盘，再做DataLoader，训练速度能有很大提升。

7. 一些选型之外的个人心得

最后分享一点我自己的体会，不一定对，但你听了可能会少走点弯路。

第一，租GPU这件事，别只看单价。单价便宜但存储费、镜像费、排队时间加起来，最后总成本未必低。建议第一次用时，小额充值，把创建、存储、传输、关机、再开机这套流程完整走一遍，算一下实际花销，再进行大额充值。很多平台充了钱就不太好退，谨慎一点没坏处。

第二，平台换着用是常态，不用死守一家。我的做法是：AutoDL和恒源云各充一点小金额，谁家有卡用谁家；矩池云作为课题组的共享资源；大模型任务才考虑揽睿星舟。这样既避免高峰期卡荒，也能让成本处于相对低位。

第三，培养良好的实验习惯，比选平台更重要。实验记录、随机种子、代码版本管理、自动保存checkpoint，这些做不好，再贵的GPU也救不了你。尤其是长任务训练，每隔一个epoch保存一次模型权重，不仅是常识，更是对你时间和金钱的尊重。

第四，能跑通小实验，再上大机器。不要一上来就租一张A100 80G去跑一个你还没调通的代码。先在本地用小数据集、小模型把流程跑通，确认没有bug了，再上大卡。这样不仅省钱，也更不容易浪费排队时间。我之前见到过很多同学，代码里一个维度错误，上卡前没测，上卡后跑了两小时才报错，白白烧掉几十块，心态直接崩了。

第五，重视数据管理。很多平台的数据盘是独立的，关机后仍会产生存储费用，长期不用的数据尽量下载回本地或者转存到公共网盘，不要一直放在平台里。我之前有一个项目的数据集在AutoDL上放了半年，关机状态下存储费累计了差不多二十多块钱，虽然不贵，但完全没必要。

说了这么多，其实核心就一句话：GPU租用是工具，不是目标。工具选对了，你的精力才能真正花在算法、模型和实验设计上，而不是跟环境较劲。希望这篇实测对比能帮你省下一些时间，也省下一些真金白银。如果看完还有什么细节没说明白，欢迎在评论区把你的具体场景写出来，我看到会尽量回复。