2024年，跟着大模子应用徐徐深远以及多模态模子的快速发展，企业对算力的需求捏续增多开云体育，对算力的依赖性显赫提高。

从模子需求角度上看，笔据Huggingface的模子下载量统计，当今模子的需求仍是呈现出两级分化的趋势，数百亿级以上的宽敞众多模子，以及10B以下的小模子更受接待。对此，智源研讨院副院长兼总工程师林咏华暗示：“从寰宇模子的发展情况来看，模子尺寸正呈现分化趋势。”

从算力的层面来看，当今仍呈现出“需求大、能耗高、效用低”的发展态势。以2020年发布的GPT-3与最新发布的LLaMA3-405B进行对比为例，尽管模子畛域仅增大2.3倍，但所需算力却增长了116倍。算法的更动使算力需求一直处于高增长情景，同期，算法结构的更动也带来了MoE、模子量化、定制算子等愈加复杂的缱绻需求。

跟着期间的束缚更新迭代，多元多模的期间发展也为客户的应用缔造提供了更开阔的遴荐空间和更高的生动性。而“百花王人放”的万般性也带来了挑战：多元算力因各家硬件架构、请示集的各异以及算子库的孤苦杀青，导致通盘生态系统割裂且难以酿成宽敞协力。

从当今发展角度来看，当下生态的近况举高了大模子应用的期间门槛。期间力量薄弱的传统企业用户，不仅在多元的芯片、模子中难以遴荐，何况即使部署胜利，也存在软件框架多、易用性差等问题，也这使得后期缔造使用较为清贫。波浪信息高档副总裁刘军暗示，扫数难题都汇总到极少——若何构建好一个可捏续的AI底层生态，让多元算力更通用、更普惠，让系统的算效更高、基础模子更好用。

12 月 25 日，波浪信息与智源研讨院达成计策联结左券，共同文书智源开源大模子通用算子库FlagGems慎重接入波浪信息元脑企智 EPAI 企业大模子缔造平台, 面向大模子应用缔造场景提供宽敞的多元算力系统撑捏，助力企业杀青更快速、更平时、更高效的多元算力适配与使用，大幅裁减企业缔造大模子应用的算力门槛，共同促进多元算力系统生态的发展。

开源敞开较着是当今构建生态的最好旅途，刘军暗示，开源敞开是更动活力的源头，在互联网时期，开源敞开险阻了畴昔的期间把持，使得更多东说念主参与到开源社区，孝敬代码，孝敬思法，共谋发展。而在如今的AI时期，开源敞开会起到更大的、更积极的促进作用。

“具体来说，以应用为导向，以系统为中枢，以开源、敞开、多元多模来激励更动的活力，以系统更动全局优化来拓展更动的旅途，以协同共生敞开共赢的生态加快更动的落地，从而杀青AI更动和AI应用的协同发展，激励AI的更动活力，开源敞开是这内部的中枢和源头。”刘军强调。

FlagGems 是由智源研讨院于2024年6月推出的面向多元算力的开源大模子通用算子库，在Triton 生态开源敞开的基础上，面向多元算力，免除融合的中间言语、融合的算子接口和融合的开源算子库杀青旅途，以大模子需求为导向，为多元算力提供开源、融合、高效的算子层生态接入决策。戒指12月，FlagGems已提供越过130个大模子算子，是当今提供算子数目最多、袒护广度最大的开源算子库。

元脑企智EPAI(Enterprise Platform of AI) 是波浪信息为企业 AI 大模子落地应用打造的高效、易用、安全的端到端缔造平台，撑捏主流开源与闭源大模子的应用快速缔造，可杀青大模子应用在跨算力平台上的无感搬动，裁减多元、多模的适配与试错本钱。

这次智源研讨院联袂波浪信息，将FlagGems算子库与元脑企智EPAI内置的中枢缱绻框架进行深度和会，其中枢真谛在于—确保大模子应用缔造粗略使用高性能、跨硬件、多框架兼容的算子结合，到手跳跃各样硬件架构，餍足多种缔造框架的需求。

“波浪信息与智源研讨院在生态上不错酿成上风互补，智源研讨院是AI领域的一个新兴研发机构，在兴趣原始更动，开源了许多的基础模子、算子库、OS（操作系统）、数据集等进击的研讨效用。”刘军进一步指出，“而波浪信息勤奋于于为客户提供软硬件协同的全栈的AI基础举止的处置决策，在产业化落地领域，咱们有着比拟丰富的生态撑捏和试验劝诫。两边的联结，一方面将加快AI干系基础研讨在产业侧、行业侧的落地应用，另一方面，通过在产业侧的应用效果，束缚修正和优化基础研讨的效用。”

据了解，在FlagGems算子库接入后，企业依托元脑企智 EPAI 大模子缔造平台，不错运用针对大模子应用缔造场景优化的先进算子结合，在多种算力平台上高效构建、优化和试验复杂的行业应用算法。在复杂的熟识任务及及时性条件严苛的推理场景中，均能杀青镇静且高效的运算性能。

此外，企业无需关爱多元异构加快卡之间的软硬件各异，果真杀青大模子应用在跨算力平台上的无缝缔造与搬动。而开源敞开的生态关于AI大模子的应用落地起到了关节作用，不错有用裁减大模子落地的试错本钱、更动本钱，以及应用本钱。（本文首发于钛媒体APP，作家｜张申宇，裁剪丨盖虹达）