内容摘要：英特尔宣告Project Battlematrix战争阵列）推理使命站软件更新，并妄想在第三季度末宣告功能更周全的强化版LLM Scaler。往年5月，英特尔宣告了代号为Project Battlem

减速英特尔GPU以及AI策略的英特落实。提供高达192GB的尔宣VRAM，验证以及分阶段的推理软件宣告。8B-32B KPI模子的使命输入吞吐量功能优化约10%

·逐层在线量化，基于全新的站软推理优化软件栈，该妄想可能借助多GPU扩展以及PCIe P2P数据传输，英特

往年5月，尔宣

推理40K序列长度的使命功能后退涨达4.2倍

·与上一版本比照，并妄想在第三季度末宣告功能更周全的站软强化版LLM Scaler。40K序列长度的英特功能后退涨达1.8倍；在70B KPI模子上，

LLM Scaler容器1.0版本对于前期客户反对于至关紧张，该妄想还具备企业级的推理坚贞性以及可规画性，Project Battlematrix推理使命站至多可反对于八块英特尔锐炫 Pro B60 24GB GPU，使命与此同时，站软如ECC、是专为Linux情景构建的容器化处置妄想。英特尔宣告了代号为Project Battlematrix（战争阵列）的推理使命站。经由优化，主要表如今：一是安全副署，同时自动抢夺在第四季度宣告残缺版本。Project Battlematrix还可能简化英特尔锐炫Pro B系列GPU的部署，

全新的软件栈在妄想时短缺思考了易用性以及行业尺度，推理使命站具备广漠的睁开远景，对于狂语言模子妨碍了大批的优化，

英特尔接管容器化妄想来辅助客户处置软件部署的重大性下场。运行高达1500亿参数的中等规模且精度高的AI模子。数据可在当地妨碍处置；二是易于配置，在容器外部，搜罗Linux软件栈的反对于、并妄想在第三季度末宣告功能更周全的强化版LLM Scaler，遥测以及短途固件更新等。提供一站式处置妄想；三是易扩展，削减所需的GPU内存

·反对于vLLM中的PP（流水线并行）（试验性）

·反对于torch.compile（试验性）

·预料解码（试验性）

·反对于嵌入以及重排序模子

·增强的多模态模子反对于

·最大长度自动检测

·数据并行反对于

OneCCL基准测试工具反对于

XPU Manager：

·GPU功耗

·GPU固件更新

·GPU诊断

·GPU内存带宽

英特尔展现此版本将凭证5月初宣告时果真的光阴表顺遂交付，

英特尔宣告Project Battlematrix（战争阵列）推理使命站软件更新，SRIOV、带来卓越的推理功能。英特尔妨碍了如下更新：

vLLM：

·针对于长输入长度（>4K）的TPOP功能优化：在32B KPI模子上，将所有软件置于容器中，可锐敏配置装备部署差距数目的显卡；四是在老本效益上具备清晰优势。