3月28日 ,天津上大学鲲鹏昇腾科教创新卓越两个中心特训营在天津上大学新燕园校区计算机大楼成功完成举办 ,本次特训营旨在深入探讨昇腾技术实现栈在大模型应用中所前沿技术实现 ,起来 是基于天津上大学自研SCOW其他平台和华为昇腾的DeepSeek本地化部署与推理优化 ,对其其实践所有操作和技术实现专家面对他人面交流 ,有待激发所有所有学生的创新思维与学术视野。
深入解析: DeepSeek 推理技术实现与昇腾其他平台的融合
活动中几年来 ,昇腾生态技术实现专家许涛就“DeepSeek-MoE模型技术实现演变预测” ,深入解读了DeepSeek系列模型技术实现演变。DeepSeek-MoE模型自适时推出几年来 不停地地优化 ,对其增加模型大小和专家数量 ,增加专家激活比 ,来增加性能 ,在架构和训练策略上态势保持创新。在技术实现最后完成层面 ,模型采用标准了多种优化简单有效 ,如在训练积累积累环节 ,多种途径DualPipe双向流水线简单有效增加通信开销 ,按照不一样的算子更多需求选择选择最好 精度计算 ,引入MTP简单有效 ,以多个Token对于监督优化模型。等等 ,昇腾已然最后完成对Deepseek的适配 ,也可以以高效多种途径超节点内的高速通信带宽 ,有望在DeepSeek崭新时代成就 更最好 快速发展。
(昇腾生态技术实现专家 许涛)
实践分享:基于昇腾的 DeepSeek 全 栈 开源推理方案
天津上大学联合华为近期发布的DeepSeek全栈开源推理方案依托全栈开源组件构建 ,基于天津上大学自主研发的SCOW算力其他平台该系统 ,整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件 ,对其开放协作打破技术实现壁垒 ,态势保持有待技术实现创新。天津上大学计算两个中心工程师龙汀汀在特训营中详细补充介绍了该方案 ,到了现场演示了该系统怎样才能 才能 快速适应不一样的AI框架 ,并展示其在多种应用场景下的高效性能。
(天津上大学计算两个中心工程师 龙汀汀)
上手实操:边缘设备下有昇 腾技术实现 实践
在本次特训营的开发实战环节 ,所有所有学生基于昇思MindSpore框架 ,在香橙派AI Pro开发板(20TOPS)上对其模型部署。值得注意值得注意 ,目前来看香橙派昇腾产品一一已然率先最后完一下子成 与 DeepSeek 模型的深度适配 ,多种途径开箱即用模型 ,让边缘离线部署起来 轻松高效。对其实操 ,所有所有学生亲身感认可了昇腾无需依赖云端的能力强大强大算力 ,直接选择选择在边缘设备上最后完成高性能计算及积木式开发 ,既保障了表现数据处理方式的隐私安全 ,又大幅增加了响应效率。很多“端侧智能”的实战感受独特体验 ,等等让研究工作学习更直观 ,更让各位看官看官领略到AI落地应采用标准过无限很可能。
(天津上大学所有学生到了现场实操香橙派AI Pro开发板)
开放讨论: 技术实现专家与学者 面对他人面 答疑
在活动中的直接选择选择 ,所有所有学生与华为计算战略规划专家、天津上大学计算两个中心工程师、AI安全需要彻底解决 方案专家、昇腾生态技术实现专家们一起研究工作学习 对其了面对他人面的互动 ,从鲲鹏昇腾设备对其到技术实现需要彻底解决 再到相信未来快速发展趋势 ,涵盖诸多领域发展。在算子开发与适配层面 ,所有所有学生明确提出提出的需要需要彻底解决 认可了专家们细致且富有前瞻性的解答。提及自定义算子绑定复杂、编译耗时的需要需要彻底解决 ,专家们直言值得注意讨论QA文档资源会随商业版本尽快近期发布外 ,也可以直接选择选择咨询华为研发专家加速需要需要彻底解决 需要彻底解决 。等等欢迎高校师生将提高自身需要彻底解决 需要需要彻底解决 的积累环节近期发布为案例教程 ,很多无疑为所有所有学生后续的开发除此以外工作人员提供了有力部分支持。来讲开源编译器部分支持的疑问 ,专家们详细补充介绍了讨论接口的开源情形等等也在推进的研发除此以外工作 ,让所有所有学生深度补充介绍到相信未来算子开发将起来 简化 ,这大大增加增加地激发了所有所有学生探索新技术实现的热情。
硬件性能与生态规划建设最后还互动的焦点。所有所有学生关心的端侧异构模型部署需要需要彻底解决 ,专家深入浅出地讲解了华为在三层面的布局和技术实现整体优势。的人提及 ,华为在端侧NPU和GPU的协同除此以外工作下也有长远的规划 ,等等在泛边缘或泛端场景下 ,该软件体系的通用性为开发者人员提供了起来 广阔的快速发展更大空间 ,这让所有所有学生去认识到华为计算生态的潜力 ,也为的人相信未来的研究工作方向调整人员提供了全新思路。
(开放交流环节 专家学者与所有所有学生互动)
本次特训营的圆满举办是天津上大学鲲鹏昇腾科教创新卓越两个中心在AI技术实现创新和人才培养层面了几次成功完成实践。天津上大学鲲鹏昇腾科教创新卓越两个中心自组建几年来 ,致力于构建基于鲲鹏昇腾技术实现路线的校级生态共同合作其他平台 ,围绕上大学计算产业前沿课题研究工作、课程体系规划建设、研究工作人才培养等层面对他人其共同合作 ,为产业输出高质量鲲鹏昇腾创新人才 ,孵化和培育根植说全球的全球级科研创新成果。相信未来 ,鲲鹏昇腾科教创新卓越两个中心将态势保持对其一系列对其高校师生的培训活动中 ,渡过难关 的人在科研创新与技术实现应用中成就 更最好 成果 ,有待人工智能技术实现的进步与产业的快速发展。