第五代至强为AI加速
AI 正在改变我们的工作方式。企业利用先进的语言、文本生成图像和代码生成 AI 模型节省财力和时间,同时创造新的商机。第五代英特尔® 至强® 处理器每个内核都具备 AI 加速功能,配备英特尔® 高级矩阵扩展(Intel® Advanced Matrix Extensions,英特尔® AMX)等内置 AI 加速器、更快的内存和更大的三级缓存,能够处理要求严苛的 AI 工作负载,提高深度学习 (DL) 推理和训练的性能。
与第三代英特尔® 至强® 处理器相比,第五代英特尔® 至强® 处理器在 PyTorch 上的推理和训练性能提升高达 14 倍。
运行参数量多达 200 亿的大语言模型 (LLM) 时,第五代英特尔® 至强® 处理器能够以低于 100 毫秒的词元处理时延满足服务级别协议 (SLA),提供实时用户体验。
-
完善的软件工具和生态系统,让 AI 无处不在
-
英特尔® 至强® 处理器有着庞大的生态系统、广泛的供货渠道、成熟的工具集,并可跨云、数据中心和边缘进行扩展,助力 AI 快速部署。针对英特尔® 至强® 处理器的优化已集成到 TensorFlow 和 PyTorch 等常见 AI 框架的主流发行版中。英特尔有数十个经过优化的预训练 AI 模型,这些模型开箱即用,易于定制。利用这些资源,开发人员可以轻松地在不同的硬件环境中迁移代码。
-
• 生成式 AI:在基于 CPU 的基础设施上运行生成式 AI 模型,如 LLM 和文本生成图像模型。
• 推荐系统:在不降低用户体验的前提下,快速提供个性化产品或内容推荐。
• 自然语言处理 (NLP):借助在 NLP 推理方面实现的性能飞跃, 使智能助手、聊天机器人和预测性文本响应更迅速。
• 机器学习 (ML):将经典 ML 应用于科学计算和 AI 应用时, 更快获得结果。
• 图像分类:通过检测生产线上的产品缺陷、识别零售应用中的产品等措施来提高生产力和效率。
2024-01-11 14:03
넶0