AMD锐龙AI Max+ PRO 495单机吞下三千亿参数大模型
通过更聚焦的阅读结构呈现文章主线、时间信息与延展入口,帮助访问者更轻松地完成完整阅读与继续浏览。
AMD锐龙AI Max+ PRO 495单机吞下三千亿参数大模型
五万元一台的桌面小主机,能装下近三千亿参数的大模型。极摩客EVO-X5 Pro搭载AMD锐龙AI Max+ PRO 495,192GB统一内存最多可划出160GB当显存。 作者 | 毛 烁 几个月前,DeepSeek V4 Flash开源,我第一时间点开了下载页。 名字叫“Flash”,听上去是个轻量版。可往下一拉,总参数2840亿,就算是4-bit量化版本,权重文件也有一百四五十GB。 我看了一眼桌上那台用了一年多的128GB统一内存锐龙AI Max+ 395主机,虽然它已经够强,但最多只能给GPU划出96GB显存,远远装不下这个模型。一年前,它还是我心里本地AI的“终极答案”;可那一刻,它连模型权重都放不进去。 没过多久,AMD发布了第二代Halo产品线的锐龙AI Max PRO 400系列,旗舰型号的AMD锐龙AI Max+ PRO 495最高支持192GB统一内存,其中160GB可以划给GPU当显存。我拿DeepSeek V4 Flash的体积一比,终于够得着了。 芯片有了,剩下的就是等整机。前几天,我在京东上刷到一台刚上架的新品:极摩客EVO-X5 Pro,搭载的正是AMD锐龙AI Max+ PRO 495,10月9日已经正式开卖。 首发有两种配置:192GB+2TB版本售价46999元,192GB+4TB版本售价49999元。查了查海外同平台的机器,价格也都在五万元左右。 价格为什么涨得这么快?一方面,模型越做越大,能不能装得下取决于总参数量,内存容量只能跟着往上加;另一方面,内存本身也在涨价,据Sigmaintell数据,今年第二季度LPDDR5X合约价环比上涨了89%。 这五万元花得值不值?我替大家算了一笔账。 如果用显卡拼出同样的160GB显存,需要5张32GB的旗舰显卡。按目前旗舰显卡3万元以上的零售价计算,光显卡就要15万元以上,主板、电源和机箱还没算在内。功耗上,5张卡满载时接近3000瓦,而EVO-X5 Pro处理器的峰值功耗只有160W。 那如果干脆不买,把模型交给云端运行呢? 对普通用户来说,这当然是个选项。可对医院、律所和企业财务部门来说,病历、合同、财务报表一旦传上云,就离开了自己的掌控范围,合规上根本过不去。而对很多依赖大模型的小型AI开发和创作团队来说,token重度消耗带来的成本也是一笔要算的帐。 两笔账放在一起看:比起15万元以上的独立显卡方案,五万元便宜了一大截,对于长期重度消耗Token的用户来说,一次投入比长期的支出也要划算;而对那些数据不能出门的用户来说,本地部署从来就不是选不选的问题,而是必须项。 想到这儿,我又切回EVO-X5 Pro的商品页,往下翻到参数介绍,看到这样一行字:“最高离线运行3200亿大模型”。3200亿,比DeepSeek V4 Flash的2840亿还多。几个月前我只能看、不能下的那个模型,这台机器说它能运行。 能不能运行,得自己试过才知道。我借来一台测试机,今天,它就摆在了我的桌上。 192GB统一内存、DASH远程管理、dTPM硬件加密,构筑商用旗舰 我把极摩客EVO-X5 Pro从包装盒里取出来,第一感觉是“厚重”:CNC全金属中框握在手里很有分量,棱线利落,有一股工作站的硬朗气质。机身可以横放,也可以竖放,还预留了标准机柜的安装位。 随机附带的是一个330W电源适配器(19.5V/16.9A)。EVO-X5 Pro提供静音、平衡、性能三档模式,处理器的持续功耗分别为54W、85W和120W,短时峰值可达160W。前面板设有性能模式切换键,按一下就能换挡。 功耗越高,发热就越大。为此,EVO-X5 Pro采用了一块VC均热板加3个风扇的散热系统。VC均热板相当于一根扁平化的热管,能把芯片的热量快速、均匀地传到散热鳍片上,再由风扇排出机外。有了这套散热,EVO-X5 Pro可以在120W下长时间满载运行。 接口配置,同样能看出EVO-X5 Pro“商用旗舰”的定位。 前面板有2个USB 3.2 Gen2 Type-A(10Gbps)、2个40Gbps的USB4 Type-C和1个3.5mm音频接口,外加RESET键和性能模式切换键。电源键集成了MoC指纹模块,关机状态下按下电源键,开机和指纹登录一次完成,不用再输入密码。 背面有HDMI 2.1(FRL,8K@60Hz)、2个USB 2.0、3.5mm耳机口和防盗锁孔。更值得关注的,是两个80Gbps的USB4 V2接口和两个10G万兆RJ45网口。 图:EVO-X5 Pro前后面板接口 两个万兆网口的分工并不相同:一个是RTL8127AT普通万兆网口,负责日常数据传输;另一个靠近DC IN的是RTL8127AP DASH专用管理网口。借助AMD DASH带外远程管理,即使设备已经关机或蓝屏,IT管理