Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

着实有点Amazing啊。

这两天GPU圈子发生了个事儿,被网友们讨论地津津乐道——有一款显卡卖爆了。

火到什么程度呢?就是一进货就被抢光。

GPU供不应求其实已经司空见惯了,但之所以这次能被热议起来,是因为这款产品背后的厂家。

不是你以为的NVIDIA、AMD,而是……Intel。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

为什么会如此?

从玩家们的讨论中不难得出答案——性价比够高,2000元价位就能在2K画质下畅玩3A游戏。

The Verge也非常直给地给予了一句评价:

Intel终于在GPU上拿下了一次胜利。

而这款显卡,正是Intel不久前发布的第二代锐炫B580,售价仅2049元起。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

要知道,NVIDIA 299美元的RTX 4060和AMD 269美元的RX 7600,仅配备了8GB的VRAM。

但Intel的锐炫B580不仅价格比它们低,还配备了12GB的VRAM和192bit的显存位宽。

即使是价格更低的锐炫B570(219美元,下个月上市)也配备了10GB的VRAM。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

除此之外,还有一个更有意思的事情。

虽然锐炫是游戏显卡,但毕竟是GPU啊,于是……也有一部分人买来开始搞AI了。而这,可能会让它未来的销售再增三分热度。

这不,有人在Reddit上就分享了怎么在锐炫B580上搞AI画图Comfy UI了:

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

不仅是个人用户的尝鲜,我们还打听到有些企业已经着手把Intel的显卡塞进包括工作站和服务器在内的商用计算设备中了,具体搭配的食谱就是:Intel至强系列CPU+锐炫显卡。

不过暂时用的还是Intel上一代的A770,作为上一代的旗舰型号,A770有着16G大显存,用在AI推理上,也算游刃有余。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

据可靠的消息,如此组合最为抢眼的优势,同样是性价比三字。

而由此引发的,更值得讨论的一个话题应当是:

消费级显卡搞AI,到底行不行?

首先可以看出来,无论个人还是企业,买Intel消费级显卡来搞AI,基本都是来做AI推理的。

实际上,推理算力需求正在飞速增长,大有超过训练算力需求之势。

一方面,随着行业热议的预训练Scaling Law撞墙了,像OpenAI o1/o3系列模型也开始依靠增加推理算力提高模型能力。

另一方面,AI应用落地的爆发也使得推理需求大幅增长,这些需求往往不强求算力的溢出甚至极致,即所谓硬需求不高,而是更加注重实现够用的性能(包括并发度和时延),以及与之同步的易获取、易部署、易使用和成本上是否够实惠。

那么做AI推理为什么选择Intel游戏显卡

正如前面分析,性价比肯定是一大考虑因素。

从硬件方面讲,即使是顶级的算力卡,单卡做AI推理在面对高并发等场景时,显存也会成为瓶颈,但升级到四卡、八卡成本又会飙升。此时,Intel A770这种2000元价位就有16G大显存的型号,就成了兼顾性能与成本之选。

从应用方面讲,很多场景其实对每秒token生成速度要求并不高,特别是有流式传输等优化手段,只要first token latency到位了,后面生成速度满足一定要求,体验就很好。

这是我们拿到的4张Intel锐炫A770显卡跑Qwen2.5 32B模型的演示Demo,来感受一下这个速度,是不是足够了?

看到这里可能有人要问了,用Intel显卡跑AI,CUDA的问题怎么解决?

拿最流行的大模型推理框架之一vLLM来说,得益于开源软件的发展,其早已实现了高级别的抽象和封装,其实换用哪种硬件,用起来都没差太多。

再加上Intel自己提供的开源oneAPI,就能做到很低的迁移成本。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

可能还有人要问了,那为什么不选专用AI推理加速器,比如风头正盛的Groq、Sambanova这些?

这就要说到,多模态交互是现在AI应用的一大趋势,无论是与AI视频对话、数字人,还是直播、短视频场景的一些应用,都同时会用到视频解码或图形渲染能力,这就非得是通用GPU不可。

专用加速器虽然在特定任务上有优势,但在处理多样化需求时,通用GPU更具灵活性。

所以总结来看,用Intel显卡搞AI推理,算力够用,大显存还有,可行性就有了,性价比也有了,对于现有业务来说,迁移成本更是理想。

后面能拿下多大市场,会不会成为一个趋势,就拭目以待了。

Intel的曲线突围

Intel消费级显卡被企业拿去搞AI推理了,Intel自己是什么态度?

那肯定是乐见其成的,而且相当重视。

其实,Intel在两年前刚推出锐炫系列时就采取与友商不同的策略,许可证方面明确不限制数据中心使用

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

为了方便大家用好AI,Intel的软件团队一直没闲着,除了更新oneAPI,还在持续推出和更新一系列开源工具,吸粉不断。

例如加速库IPEX-LLM,可用于大模型的推理和微调,在GitHub上已经有6.8k star。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

以及低比特量化工具neural-compressor,也获得2.3k star。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

从IPEX-LLM也可以看出Intel对中国市场的重视,针对中国主流的开源大模型ChatGLM、Qwen、MiniCPM等都提供了适配,中文文档和教程也做的比较完善。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

为了方便大家选择模型,Intel还在HuggingFace上维护了一个低比特量化模型的排行榜,设置好条件,就可以一键比较并筛选出自己需要的模型。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

其中性能排名靠前的,不乏Intel自己动手量化的开源社区优秀模型。

Intel新显卡卖爆!24GB大显存也在路上 AI玩家都来抢了

这么看下来,Intel为AI开源社区做的众多贡献,给企业和开发者提供了便利,也是现在大家愿意尝试Intel显卡的原因之一。

最后,我们还打听到一个内幕消息:

Intel看到AI推理这个市场需求逐渐扩大后,在后续产品策略上也有所调整。

2025年,Intel准备推出Battlemage系列显卡的更大显存版本,其容量将增至24G

以后就是现有版本继续服务于游戏等消费级市场,24G的更大显存版本瞄准生产力市场

生产力市场的目标用户涵盖了数据中心、边缘机房、教育科研和个人开发者等。

拥有更大显存的Intel显卡,不仅可在AI推理需求上,也能在渲染和视频编解码应用上做到比专业图形卡、工作站显卡性价比更高。

还真别说,从游戏人间转向打工赚钱+算力够用、显存保大,很有可能会成为IntelGPU突围的一招妙棋。

参考链接:

[1]https://www.reddit.com/r/pcgaming/comments/1hh2dvn/intel_finally_notches_a_gpu_win_confirms_锐炫_b580/

[2]https://www.techspot.com/news/105810-intel-launches-new-锐炫-battlemage-b580-b570-gaming.html

[3]videocardz.com/newz/intel-will-not-prohibit-gaming-锐炫-gpu-use-in-data-centers

[4]https://github.com/intel-analytics/ipex-llm

[5]https://github.com/intel/neural-compressor[6]https://huggingface.co/spaces/Intel/low_bit_open_llm_leaderboard

平台声明:该文观点仅代表作者本人,火星财经系信息发布平台。发布者:sengcheng,转转请注明出处:https://www.sengcheng.com/18973.html

(0)
sengcheng的头像sengcheng
上一篇 2024年12月24日 下午5:00
下一篇 2024年12月24日 下午5:00

相关推荐

  • 赵明回应iPhone降价对行业的影响:让行业更加聚焦消费者价值呈现

    12月26日消息,近日,有媒体就iPhone降价一事向荣耀CEO赵明进行提问。 赵明表示,竞争越来越卷,iPhone的降价和华为高端常态化可以影响行业,能够让行业更加聚焦消费者价值呈现,自己要在产品价值呈现上与华为和苹果进行竞争。 他还表示,荣耀品牌理念是go beyond(超越),在面对强大的竞争对手的时候,荣耀要有突破一切的勇气和力量。 在访谈中,赵明还…

    2024年12月26日
    200
  • HKC惠科展示最新成果:点亮36.5英寸8K 120Hz/4K 240双模显示器面板!

    12月24日消息,HKC惠科今天展示了近期在面板研发方面取得了令人瞩目的一系列成果: 成功研发并点亮了36.5英寸8K 120Hz超高清显示器面板、16英寸1Hz超低刷笔记本面板、12.3英寸FHD in-cell触控车载显示面板、10.1英寸mini LED直显以及2.6英寸四色电子标签。 36.5英寸8K MNT面板: 惠科开发了36.5 8K MNT,…

    2024年12月24日
    1500
  • 高速网络覆盖23省市!理想汽车超充站突破1400座

    12月26日消息,理想汽车近日宣布,其超充站数量已超过1400座,其中高速理想超充站达705座,实现了全国七纵三横高速核心路段的贯通,覆盖23个省市。 京津冀、长三角、大湾区和成渝等四大经济带核心城市已实现全联通。 目前,理想超充站总数为1405座,拥有7206根充电桩,覆盖31个省份和197个城市。 此外,理想还布局了2851座优选超充站,覆盖215个城市…

    2024年12月26日
    300
  • “AI张文宏”深夜带货!本人最新回应:气到想报警 像蝗灾一样一次次害人

    12月13日消息,近日,据国内媒体综合报道,有网友发消息称张文宏是不是带货了? 根据网友提供的视频,张文宏在卖一种蛋白棒!网友反映家里的老人信以为真,不但下单买了,而且还转发了很多群宣传。 经核实,这个张文宏带货的视频是AI合成的!该伪造视频已被账号设置为不可见。 对此,知名抗疫硬核医生、复旦大学附属华山医院感染科主任张文宏医生本人做出了回应。 张文宏称,我…

    市场 2024年12月13日
    2700
  • 取代入门独显!AMD“Strix Halo”APU最新测试:Radeon 8050S与RTX 3060相当

    12月23日消息,AMD即将推出的Strix Halo系列APU最新的基准测试结果出炉,集显性能可与NVIDIA的RTX 3060独立显卡相媲美。 在Passmark的测试中,AMD的Ryzen AI Max+ Pro 395和Ryzen AI Max Pro 390展现了强大的图形处理能力,尤其是Radeon 8050S性能表现。 这两款高端APU分别配备…

    2024年12月23日
    1200

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信