燧原科技加入人工智能开放计算体系DeepLink

【CC博客】7月10日消息，燧原科技与上海人工智能实验室合作，基于人工智能开放计算体系-DeepLink共建AI软硬件生态，当前双方的合作主要基于燧原科技已量产的第二代训练产品云燧T20和第二代推理产品云燧i20。

2022年11月，燧原科技与上海人工智能实验室就云燧T20、云燧i20和深度学习框架的适配开始进行深入合作，逐步在人工智能开放计算体系（DeepLink）上实现接入T20和i20，共同打造人工智能软硬件生态。

目前，T20和i20已基于DeepLink实现多个模型的训练和推理的适配，支持CV、NLP 等核心领域以及开源LLaMA大模型。双方的合作降低了硬件接入AI 模型训练和推理的门槛，为大模型的发展提供强劲算力保证。

燧原科技同时参与了DeepLink芯片评测工作，DeepLink评测体系针对送测芯片进行多维度测试并提供季度评测报告，其评测结论为各类加速卡提供优化参考，推动AI芯片技术规范的标准建设。

DeepLink作为连接硬件芯片与深度学习软件框架间适配的“桥梁”，厂商可基于DeepLink一次适配即接入广泛的算法生态，根本性实现软硬件解耦。目前DeepLink已提供200余个标准算子接口，支持超过5000个算子测例，同时支持大语言模型和视觉模型。遵循DeepLink标准可以实现主流框架与AI芯片高效适配，极大降低算力使用门槛，节省适配时间，更容易实现算力对模型的使能。同时通过编译的优化，系统性提升整体训练效率。

云燧T20是面向数据中心的第二代人工智能训练加速卡，具有模型覆盖面广、性能强、软件生态开放等特点，可支持多种人工智能训练场景。同时具备灵活的可扩展性，提供业界领先的人工智能算力集群方案。

云燧i20是面向数据中心的第二代人工智能推理加速卡，具有高性能高能效、模型覆盖面广、易部署易运维等特点，已广泛应用于计算机视觉、语音识别与合成、自然语言处理、搜索与推荐等推理场景。

燧原科技相关负责人表示:“ DeepLink可以让上游芯片和下游框架两层在适配工程实施时能有效地解耦，并复用到不同的训练框架适配中去，从而降低芯片和框架的适配成本，同时保障算子实现正确性。燧原科技将与上海人工智能实验室合作，在算力和算法上进行深度融合，为业界构建软硬一体、更加优化的计算解决方案，为产业赋能，共建软硬协同生态，推动中国数字化产业转型和升级。”