图片来源:
AMD
AMD宣布收购AI推论优化技术业者Brium，以协助LLM在AMD等非Nvidia硬体架构上的推论效能。
Brium产品涵括的组译器技术、模型执行框架及完整的AI推论最佳化技术，其方案旨在提升多种硬体架构上大型语言模型（LLM）的推论效率。AMD解释，Brium技术特别之处在于它能优化模型接触到硬体前的整个技术堆叠，有助于减少对特定硬体配置的依赖，而能在更多元环境上，实现更快的AI应用。
AMD表示，Brium的收购有助于提升该公司硬体平台的效率和弹性。而Brium的收购连同AMD之前收购的Silo AI、Nod.ai及Mipsology，可强化该公司执行开源软体生态系的能力。
Brium拥有组译器开发和分散式机器学习基础架构能力的团队加入后，可立即投入AMD OpenAI Triton、WAVE DSL和SHARK/IREE等核心专案，能实现AMD Instinct GPU平台上更快速执行AI模型。配合AMD加强投入新的精度格式如MX FP4和FP6，将可推升其AI硬体执行新兴训练和推论任务的效能。AMD希望借此提升LLM在非NVIDIA GPU（即AMD Instinct）上执行GPT模型时，达到接近或超越 CUDA/NVIDIA 的效能。
AMD并强调Brium成功将其Deep Graph Library（DGL，一种 Graph Neural Network框架）移植到AMD Instinct平台，有助于AMD方案打入医学、生物科技、金融和制造领域。
Techcrunch分析，由于现行大部分AI专属软体，都是为Nvidia晶片和硬体设计。透过建立更大开放AI生态系，有助于AMD挑战业界霸主Nvidia。