热点资讯小程序开发公司 天命东谈主闲置的4090，把GPU租借价钱打下来了（doge）
GPU 租用市集越来越奇幻了，价钱被打下来的原因，果然不错是天命东谈主闲置的 4090被轮回期骗了？
最近，一种新式的 GPU 租借神气驱动兴起。
它能让手上有闲置计较卡的东谈主，把资源租给需要的东谈主。
举个例子，为了打黑听说买了 4090 的天命东谈主，不错把卡租给真金不怕火丹侠们。我方能挂机"躺着"收成，真金不怕火丹侠还能以更合算的价钱租算力（4090 只需每小时 1 块钱那种）。
距离大规模算力荒才往常只是 1 年，算力租借市集依然是一番新表象了。
不仅如斯，老牌租借平台们也纷纷主动降价。国外，H100 价钱被卷到每小时 2 好意思元。
国内情况亦是如斯，A100（80GB）租用价低至6.68 元 / 小时，40GB 为3.28 元 / 时，A800 则是5.98 元 / 小时。
按理说，当今恰是 AI 算力需求鼎沸的时刻。大型云厂商打价钱战为了赛马圈地还可清醒，算力租借平台价钱莫得情随事迁，反而驱动降价……
这背后，到底发生了啥啊？
"白菜价"措置高端算力
先一句话归来，相较于 ChatGPT 元年，AI 算力告急问题总体得到缓解，然则依旧濒临挑战。
如上变化由算力供需侧共同影响而来。
最初在算力供给上，大模子趋势进一步鼓励 AI 底层硬件以及基础关节发展。
国际方面，英伟达这两年不仅扩大了 AI 计较产物线，更在产能上大幅进步，以高傲暴增的市集需求。
Hopper 架构和 Blackwell 架构均包含 Transformer 引擎，鉴识推出了 2 款产物供市集袭取，且不同架构之间的代际升级相等昭彰。B200 的晶体管数目已达到 2080 亿，鉴识是 H100 的 2.6 倍、A100 的 3.8 倍，后两者则发布于大模子波澜之前。
两个 B200 GPU 与 Grace CPU 接头就成为 GB200 超等芯片。在模范 1750 亿参数 GPT-3 基准测试中，GB200 的性能是 H100 的 7 倍，提供的磨砺算力是 H100 的 4 倍。
脚下首批工程版 B200 依然送到 OpenAI 干涉使用。据天风国际分析师郭明錤透露，英伟达 Blackwell GB200 四季度的出货量将在 15 万块至 20 万块，来岁第一季度出货量将显耀增长 200%-250%，达到 50-55 万块。
这同期带动了全行业的产物迭代升级节拍，AMD、英特尔等为保合手竞争力，近两年也纷纷推出更先进 AI 计较产物。
更具范畴的变化体当今算力基建方面。据中国信息通讯参谋院测算，适度 2023 年底，全球算力基础关节总范畴达到 910EFLOPS，同比增长 40%。
好意思国、中国算力基础关节范畴位列前两名，算力全球占比鉴识为 32%、26%。
另一方面，算力需求也在近一年内发生变化。
跟着开源模子性能达到 GPT-4 水平（如 405B Llama 3、DeepSeek-v2 等），以及中小模子（7B-70B 范畴）应用愈加教诲，中小企业 / 开拓者赓续入场，以及近期趋势推理 Scaling law 成为新主义。黄仁勋预测，跟着推理链的出现，推理的范畴瞻望将迎来千万乃至十亿倍的增长。
各样原因皆导致市集的微调推理需求大幅增多，磨砺需求的增长趋势驱动放缓。
相较于磨砺，推理阶段对硬件的条目莫得那么高。在本体场景中，经常是用开首进建立进行磨砺，上一代产物进行推理。
因此不错看到，大型厂商依旧追捧 H100、B200 等高端 GPU，然则中小企业 / 开拓者不再趋之若鹜，转而关注更具性价比的袭取。
但问题是，算力供需不服衡问题依旧辣手。
宏不雅上，《东谈主工智能算力高质料发展评估体系敷陈》中示意，我国算力市集还濒临供给不及、算力智能水平较低、动力磨真金不怕火、供应链完备性不及等问题。
微不雅上，以学术圈为例，"算力荒"照旧多半征象。
本年 5 月，李飞飞在采访中透露，斯坦福 NLP 执行室唯有 64 块 A100。比较于产业界，这个数字微不足道，但在高校圈里依然是绝顶裕如了。
更多半的征象是，许多高校执行室皆唯有蹧跶级显卡，公共还需要列队使用。执行经费有限导致租借算力也将濒临更多制约。
在这些矛盾下，算力市集驱动愈加主动、自觉建议新式嘱咐门径。
最昭彰的迹象莫过于——经典算力平台主动降价 + 新兴算力租用花样浮现。
能薅羊毛更能挂机收成
本年算力市集最热点的话题莫过于"价钱战"，这并不局限于卖大模子功绩的云厂商，提供算力租借的各大平台亦然主角。
不同类型的平台降价神气也有所差距。
当前算力租借平台主要有两种类型：
算力云平台
C2C 算力租用平台
前者好比京东，其悉数的 GPU 功绩器是自营资源，频繁在提供算力的同期也保险一系列配套功绩，能让用户更低门槛、更便利调用算力。该花样下，订价权在运营方我方手里，本年以来多家平台皆在主动降价。
后者好比淘宝，为机主和用户提供平台，供两边进行功绩来去。这种花样较为新兴，不错让有闲置计较资源的机主将 GPU 出租，广州小程序开发"挂机收成"。它天生就能提供更具性价比的租借价钱。
不外需要把稳，关于算力租借，价钱低只是考量身分之一，用户同期关注平台提供的功绩才气。
关于前者，用户更温雅平台提供的算力是否弥漫合算、使用是否弥漫友好；关于后者，机主和用户则更看重平台是否靠谱。
更具体的花样分析，来看行业典型案例。
经典算力云平台中，论谁打价钱战最凶猛，AutoDL 必是其一。
有经历的真金不怕火丹侠们对这个平台应该皆不生分。等于它当年把 3090 的租用价钱从 4.5 元 / 小时打到了 1.32 元 / 小时，在用户这儿是颂声遍野了。
它在 2021 年上线，专注于提供弹性、好用、省钱的 GPU 算力功绩。
GPU 总范畴在国内同类型平台中位列前茅，提供丰富的 GPU 袭取，包括 A100、A800、V100、4090、3090 等。
它的主要斟酌用户包含了高校科研东谈主群以及企业用户，是以在极具性价比的同期也主要初学友好。
平台复旧各样深度学习框架，如 TensorFlow 和 PyTorch，并提供相应的 CUDA 环境，用户可凭证需求袭取合适的镜像。
奖号大小比分析：前区上期奖号大小比为0：5，大小码小码热出；最近10期奖号大小比24：26，大小码小码热出，本期预计大码热出，参考大小比3：2。
具体才气上，兼顾科研、企业需求。主要包括：
用卡弹性：提供容器实例和 API 弹性和洽花样，复旧千卡级别弹性和洽；
团队照管：复旧执行室、团队等场景中对多个子账号照管；
独有云：复旧腹地机器免费接入，将 AutoDL 云上高效照管与使用体验移植腹地；
CodeWithGPU 社区：复旧镜像和模子分享，分享镜像可得到收益
付费方面更相宜"羊毛党"需求，主要提供按秒计费、包卡计费两种花样。
按量计费花样下，实例开机驱动计费，关机落幕计费，时长可精准到秒，最低计费 0.01 元。关机所罕见据会保留（15 天），复旧镜像保存、文献存储等。
包年包月为预留 GPU 花样，复旧按日按周按月等租用，价钱比按量计费更低廉，长久使用更合算。
何况只消注册，平台就送一个月真金不怕火丹会员，认证学生径直升级真金不怕火丹会员，认证时间内将一直有用。会员将享有价钱优惠。
app另一方面，大模子趋势兴起后，C2C（用户对用户）花样变得火热。
硅谷的代表为 San Francisco Compute，从寂寂无名到成为黑马，它只是用了半年时分。还拿下了山姆 · 奥特曼弟弟领投的 1200 万好意思元种子轮融资，估值达到 7000 万好意思元。
国内如今也出现雷同趋势，比如刚刚上线 3 个月的橘皮优，现已和 AutoDL 达成计谋迷惑。
按照自我界说，橘皮优是一个促进 C2C 双边 AI 算力来去的撮合平台。
它的中枢斟酌是通过分享经济的花样，镌汰用户使用 AI 算力的老本，同期让独有闲置算力被高效应用，鼓励了算力普惠和绿色低碳。
该平台复旧的算力类型包括 GPU、NPU、CPU、ASIC、ARM、RISC-V 等，能够高傲 AI 磨砺、AI 推理、图像生成以及渲染等任务需求。
相较于 AutoDL，橘皮优提供的算力租借功绩价钱更低，适用于对机器建设不解锐的东谈主群。
同期它愈加定制化，复旧个东谈主的外部镜像、实例端口活泼。
也不错在该平台上成为机主对出门租赚外快，复旧自助上机，不限制机器和数目。
由于和 AutoDL 达成计谋迷惑，背后团队是算力行业老兵，在鱼龙羼杂的算力市集里是愈加靠谱的袭取。
大致也毋庸记念没东谈主来租，毕竟 AutoDL 靠着性价比上风，在短短 3 年时分里酿成雄壮的用户基础。之前公共用卡皆是靠抢的。
是以也难免有东谈主赞佩，这样低的价钱，它图啥啊？
其实，AutoDL 时间团队本人就来自学术圈，从 2017 年驱动就在作念 GPU 相关功绩。这样的出生配景下，AutoDL 团队当然更懂 AI 行业痛点，并积聚了丰富训诫。
由此也就不难清醒 AutoDL 为何坚合手提供量大管饱还合算的算力资源。
跟着 AI 大模子应用落地趋势络续，对 AI 算力的需求还会络续增多。
关于许多科研高校、中小企业而言，算力会成为研发和落地应用上的第沿途门槛。
如今，跟着算力租借市集发展愈加完善，花样愈加各样化，使用算力也变得像去食堂打饭同样——量大管饱还确凿。
关于行业而言，这能更猛过程缓解算力供需不服衡问题，同期也让资源完满更高效绿色流转。
固然，最主要的照旧诸君真金不怕火丹师们不错薅到羊毛，因为玩黑听说动手 4090 的天命东谈主们也能找到回本的渠谈。
终末，附上文中两个平台的官网，感兴味同学可进一步了解！
AutoDL 官网：https://www.autodl.com
橘皮优官网：https://gpu.pro小程序开发公司