当前位置:数智频道首页 > 人工智能 > 正文

高通发布 AI200 和 AI250 人工智能芯片挑战英伟达,股价涨超 20%

高通公司发布新一代数据中心AI推理优化解决方案,包括基于高通AI200和AI250芯片的加速卡和机架。AI200专为机架级AI推理设计,提供低总拥有成本和优化性能,适用于大型语言和多模态模型推理及其他AI工作负载。每张卡支持768GB的LPDDR内存,以实现更高的内存容量和更低的成本。

高通发布 AI200 和 AI250 人工智能芯片挑战英伟达,股价涨超 20%

AI250解决方案采用近内存计算架构,通过提供超过10倍的内存带宽提升和降低功耗,显著提高AI推理工作的效率与性能。这两种机架解决方案均采用直接液冷技术以提高散热效率,支持PCIe扩展、以太网扩展、机密计算以及160 kW的机架级功耗。

高通发布 AI200 和 AI250 人工智能芯片挑战英伟达,股价涨超 20%

高通的超大规模AI软件栈覆盖从应用层到系统软件层,专为AI推理进行了优化。该栈支持领先的机器学习框架、推理引擎、生成式AI框架及LLM/LMM推理优化技术。开发者可利用高通技术的Efficient Transformers Library和高通AI推理套件,实现模型的平滑上载和Hugging Face模型的一键部署。高通还提供了即用型AI应用和代理、全面的工具、库、API和服务,用于AI的运营。

高通发布 AI200 和 AI250 人工智能芯片挑战英伟达,股价涨超 20%

高通AI200和AI250预计分别于2026年和2027年商用。高通公司股价因此大涨20%。

热点推送

本周关注

MORE