近期,国产大模型DeepSeek凭借开放性、更低训练成本、端侧部署等优势,迅速成为增速最快的AI应用之一,推动AI普惠化。目前,广和通高算力AI模组及解决方案全面支持小尺寸的DeepSeek-R1模型,高效且灵活地构建深度学习体系,不仅保护数据隐私,更大大提升终端推理和运算能力。
DeepSeek-R1专为数学、代码生成和复杂逻辑推理任务设计,通过大规模强化学习(RL)提升推理能力,结合冷启动,采用强化学习(GRPO算法)训练基座模型。同时,DeepSeek-R1提供了高效模型蒸馏技术,可将大规模模型能力迁移至更小、更高效的版本,优化模型性能、开源应用。经蒸馏后的DeepSeek-R1模型支持部署于端侧,大幅降低计算资源需求,显著提升端侧设备的AI推理效率。
广和通高算力AI模组及解决方案支持DeepSeek-R1蒸馏模型,不仅展现了广和通在端侧AI领域的技术实力,也大大助力了端侧AI规模化商用。面向更广泛的行业端侧AI应用,广和通将积极推动DeepSeek等优质模型在高、中、低算力AI模组及解决方案部署,提供不同参数模型服务,进一步降低端侧AI的门槛,并优化成本,帮助客户快速增强终端AI推理能力,赋能更广泛的物联网设备实现AI化。
基于以上卓越特性,搭载了DeepSeek-R1的广和通AI模组及解决方案将在自动驾驶(实现路径规划和动态避障)、机器人控制(复杂环境下自主导航和操作)、智能制造(生产线优化与资源调度)、智慧医疗(手术辅助、智能诊断)、AI智能体(自动化办公、智能监控与决策)等场景广泛应用。
“DeepSeek-R1蒸馏模型结合广和通AI模组和解决方案,驱动端侧AI商用落地”,广和通AI研究院院长刘子威表示:“随着AI不断发展,端侧设备的智能化成为物联网发展的核心驱动力。广和通将继续加大研发投入,携手行业伙伴,推动不同算力等级的AI模组及解决方案与DeepSeek等优质模型相结合,为客户创造更大的AI价值。”
文章评论(0条评论)
登录后参与讨论