公司新闻

信息与通信技术研究所的李·伦:关于人工智能软

作者: bet356在线官方网站   点击次数:    发布时间: 2025-07-19 10:16

人工智能正在迅速迭代。在大型模型期间,模型性能线性的巧合不再通过计算统一性来实现。模型算法与基础硬件,软件堆栈和开发框架之间的协同效果最终会影响培训和性能的效率,以及人工智能软件和硬件生态系统的重要性。中国信息与通信技术学院人工智能研究所软件,硬件和创新生态部主任Li Lun分享了许多关于人工智能软件和硬件产品的变化和生态结构的想法,帮助我的国家开发了领先的技术和健康的软件生态系统Insoon。 1。大型模型的创新重复以及深耦合软件和硬件系统。升级升级大型型号需要在大型软件和硬件系统上进行实验。模型的最初更改和重复非常依赖于高级软件和技术技术的硬件合作,以及框架,芯片,集群,网络等之间的协调。 DeepSeek代表的当前模型通过现代工程实现了绩效的显着改善。特别是,通过确定模型的体系结构和合作,硬件计算强度和相互关联的交流来提高培训和推理的效率。从全球的角度来看,元和外国公司(例如Meta和Byte)也加速了较大集群的协调软件和硬件,例如现代集群网络架构,开发高级操作和维护工具,并在线协调共享技术。我们希望在下一个阶段,建设与硬件和生态系统的软件和合作将成为竞争的重点,用于全球模型和计算设施的构建。 2。当前我国家开发状态的模型以及对软件的硬件适应以及硬件协调和适应性的适应是是否可以完全发布硬件功能的关键。将大型模型DeepSeek的典型开源作为一个例子,目前在主要家庭制造商的软件Andhardware产品中运行DeepSeek模型仍然需要根据实际应用程序方案进行深入优化,以满足准确性,性能和产品服务的扩展需求。我们将软件和硬件适应分为三个阶段。第一阶段是完成软件和硬件产品的基本改编,以确保该模型在没有错误的情况下在软件和硬件系统上运行,并达到“通常可用”状态。 SECOND阶段是完成系统性能,例如准确性的一致性,提高吞吐量,延迟和其他指标性能,并最初达到“轻松使用”状态。第三阶段是将其合并为实际情况,并通过合作用户,业务提供商,供应商和其他各方进一步改善实施影响。在这种背景下,中国信息与通信技术研究所通过开发Aishperf,人工智能软件和硬件基准系统开发了国内适应测试的测试。我们发现,大量的国内软件和硬件系统可以支持DeepSeek操作。通过一系列优化,它可以在几天之内“可用”,并且对某些制造商的模型适应与官方技术报告保持一致。同时,各种工具包,多合一机器,公共云服务和其他产品表格W疾病在短期内出现,模型的易用性将继续改善。 3。从一般开发的角度来看,人工计算功率设施的开发道路,软件和硬件产品的发展,我们认为该规模法将在未来几年内持续下去。该行业有两个主要的发展思想:一种是扩大计算强度的大小,增加模型的规模并改善模型。输入准确性。第二个是专注于在一组参数集中更改模型和出色的培训。特别是在计算限制下,通过参数模型的有效比率和培训数据和算法体系结构的变化提高培训效率是技术制造商竞争的关键。在这样的发展路径下,有三个创新的优先级:首先,专注于系统性能并改善计算强度的使用。虽然需求段在计算的强度仍在显着增长中,当前计算强度使用大量簇的速率小于50%。需要深入的软件和硬件协调来计算,存储和通信以实现系统性能的改进。第二个是专注于改变推理的推理。大型构想已成为主要的实施链接。通过将硬件和软件的结合集成以及在概念的并行技术中分发,可以有效提高识别效率,并出现了新产品和服务形式,例如全元素和有序簇。第三,适应不同情况是实施的关键。期望诸如DeepSeek之类的生态系统模型的开源来源将进一步促进行业的ANG应用需求增加,但是不同情况的性能指标存在差异,并且有大量P选择点适应问题,需要深层适应和优化。 4.我的国家需要继续促进软件和硬件产品的变化,生态施工应用模型的有效扩展以及为响应应用需求而建立生态合作游行,这是下一阶段更改AI产品的关键。为了进一步建立工业共识并减少软件和硬件选择技术的难度和发展阈值,依靠工业和信息技术部的人工智能标准化技术委员会委员框架工具,边端S系统,智能计算互连,网络等。此外,我们还建立了北京Yizhuang的第一个人工智能软件和硬件协作创新和适应性验证中心,该中心提供了相应的实验验证,测试和工业培养,用于用于人工具,服务器,二元式式驱动器,框架,框架,框架,框架,所有机构的芯片,二线类型的芯片,台式和硬件的产品,包括筹码,框架,框架和开发的类型。由大规模软件和硬件整合设备,框架软件和工具制成的一系列测试和验证,这些设备和工具是confession coctivitiests,大规模的竞争活动等。尽快领先和健康的行业生态系统。