昆仑芯：昆仑芯科技

       昆仑芯科技前身为百度智能芯片及架构部，于2021年4月完成独立融资，首轮估值约130亿元。公司团队在国内最早布局AI加速领域，深耕十余年，是一家在体系结构、芯片实现、软件系统和场景应用均有深厚积累的AI芯片企业。

秉承着“让计算更智能”的使命，昆仑芯科技专注打造拥有强大通用性、易用性和高性能的通用AI芯片。目前，昆仑芯科技已成功推出两代通用AI计算处理器产品昆仑芯1代AI芯片、昆仑芯2代AI芯片，及多款基于昆仑芯AI芯片的AI加速卡K100、K200、R200/R200-8F系列，以及AI加速器组R480-X8。

昆仑芯在持续推进核心技术攻关的，致力于提升面向不同场景的性能和可靠性，提供大模型端到端解决方案。昆仑芯大模型端到端解决方案是昆仑芯为创新企业推出的一款大模型算力软硬件解决方案。

该方案采用昆仑芯2代系列产品搭载新一代核心架构XPU-R，昆仑芯XPU专为密集型计算而设计，相比GPU可提供更多AI加速单元，兼具高性能和可编程性。性能相较一代提升2-3倍，在分布式场景中优势明显，满足不同行业的大模型训练推理需求。应用的昆仑芯2代AI芯片较市面上同价位产品中内存最大，适合大模型场景并支持芯片间200GB/s高速互联，实现了大模型分布式推理和训练。昆仑芯打造出大模型时代高性价比的算力产品，满足客户对于大模型的算力需求，达到百家客户数万片部署。

昆仑芯大模型解决方案坚持软硬件协同创新，方案实现基于昆仑芯AI加速器组R480-X8，可实现芯片间互联。单机可提供高达1PetaFLOPS@FP16的算力，多机可构建多节点大规模并行计算集群。并且昆仑芯推出针对百亿、千亿不同参数级别的大模型产品矩阵，兼具显存和算力成本优势。软件生态层面，昆仑芯提供了针对大模型场景的XFT（XPU Faster Transforr）推理加速库，较原生框架小算子版本性能提升5倍以上。，丰富的云原生插件帮助用户快速完成和大模型平台的适配，已支持文心一言、LLaMA、Bloom、ChatGLM、GPT等行业主流大模型。

昆仑芯已与业界主流开源大模型完成适配，向客户开放开源软件库，满足不同推理场景下的个性化定制需求。针对大语言模型训练场景，昆仑芯可提供一整套精调的训练策略。昆仑芯解决方案已通过某能源行业SFT训练模式，客户短期可打造专属行业大模型。除此之外，昆仑芯与智源研究院已完成和Aquila大语言模型推理任务的适配、精度调试和性能优化，并实现大规模分布式推理上线。

       目前昆仑芯大模型端到端解决方案已获得第七届世界智能大会“WIC智能科技创新应用优秀案例”和2023世界人工智能大会卓越人工智能引领者奖（简称SAIL奖）TOP30等各类奖项，得到了业界认可。未来昆仑芯将继续加大研发投入，夯实AI领域综合优势，加速大模型产业落地。