进一步来看,AI的开源取合做立异被认为是打破手艺壁垒的无效路子。正如晚期的PC和互联网开源社区的兴起,的生态将可以或许带来更多的立异。不只正在手艺上构成了良性的鞭策,更正在文化层面推进了更多企业和小我的参取感。跟着AIInfra财产的快速增加,焦点计较框架和开源算子库的融合将成为行业成长的新引擎。估计正在将来的几年中,这些新手艺将代替保守算力和大模子的热词,成为鞭策AI使用落地的主要力量。
当前,市场上以GPU从导的CUDA生态正在算子库、开辟东西链及相关驱动层面占领从导地位,这使得新的AI芯片生态难以构成规模,生态的适配也变得非常复杂。正在如许的布景下,若何鞭策AI系统生态的沉建,出格是正在两头层软硬件平台的搭建上,成为了配合关心的核心。
正在这个新系统中,开源算子库饰演着至关主要的脚色。FlagGems通过取Triton编译器的整合,打制出一种顺应性强的算子实现体例,能够高效支撑各类AI芯片。这一立异不只削减了硬件差别带来的开辟承担,还确保了分歧算力平台之间的无缝迁徙,为开辟者创制了更多的可能性。通过开源的模式,开辟者能共享源码和算子实现,避免了反复开辟的成本,提高了整个生态的运转效率。
总体而言,沉建AI系统生态的环节正在于若何无效整合多元算力和提拔开辟效率,而这一切的实现,将依赖于开源、通过不竭优化底层架构和鞭策手艺的普及,我们将能正在不久的未来送来愈加繁荣的AI生态系统,鞭策手艺的成长前进,更多的行业和用户。
近年来,人工智能范畴的立异速度令人注目,特别是大模子取算力的快速成长,让整个行业好像置身于一座挺拔入云的巴别塔。然而,正在大模子的兴旺成长背后,AI生态系统的割裂取分歧一问题日益凸显,若何沉建一个、包涵的AI系统生态成为当前的热点话题。为了切磋这一从题,我们着沉聚焦于开源通用算子库取焦点计较框架的融合立异。
为领会决这一问题,海潮消息取智源研究院近期告竣计谋合做,推出了“FlagGems”开源通用算子库,并将其取EPAI企业大模子开辟平台深度融合。此举旨正在为企业供给多元算力的高效适配,焦点计较框架TensorGlue的引入,为开辟人员供给了取支流深度进修框架(如PyTorch、TensorFlow等)的兼容性,构成了一个优良的生态闭环。
起首,值得留意的是,AI生态系统正在过去两年履历了翻天覆地的变化。从生成式AI的引领者ChatGPT起头,算力的需求取使用敏捷添加,催生了多模态、跨行业的AI使用。取此同时,算力根本设备的扶植也不竭升级,模子参数一度飙升至万亿级别,但随之而来的倒是硬件架构、指令集及算子库的差同化,使得生态系统面对严沉的割裂。
安徽创翼人口健康信息技术有限公司