成功孵化首个大型模型解决方案的重庆人工智能创新中心

发布时间：2023-08-06

点击次数：

最近，重庆人工智能创新中心成功孵化了云从科技的首个大模型解决方案，名为“从容大模型训推一体机”，并已成功部署。作为国内最早布局大模型的云服务商之一，华为不仅致力于深耕算力，打造强大的算力基础设施来支持中国人工智能事业的发展，而且还着眼于通用大模型和行业大模型，真正实现为千行百业和科学研究提供优质的人工智能服务

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

成功孵化首个大型模型解决方案的重庆人工智能创新中心

经过重庆人工智能创新中心技术团队、昇腾研发专家和云从科技人工智能研究院的共同努力，一个月内顺利完成了“从容大模型训推一体机”的精度与性能对齐、产品集成与测试等工作，这成为了重庆人工智能创新中心孵化的首个大模型解决方案

“从容大模型训推一体机”基于昇腾AI基础软硬件平台，包括昇腾AI服务器、异构计算架构CANN和全场景AI框架昇思MindSpore，同时兼容PyTorch，单机2.5 PFLOPS FP16算力，训练性能超8000 tokens/s，支持多机组网部署及企业私有化部署，满足数据不出厂的信息安全要求。

云从科技自主研发的从容大模型生产平台，内置云从科技自主研发的从容大模型生产平台，支持企业打造专属行业大模型，以实现5倍效率提升。可选的模型参数规格包括十亿、百亿和千亿，结合云从传统视觉优势，提供语言、视觉和多模态三类基础模型。通过利用企业私有的行业和场景化数据，进行强化学习和模型精调（如SFT、RM和PPO），为基础模型注入专家知识和专家技术，使其在企业关注的领域内变得智能和精准，从而打造行业大模型，提升企业业务场景的效率和产品竞争力。在参数和loss曲线收敛对齐的条件下，基于昇腾和昇思MindSpore的模型训练性能超过业界平均水平1.6倍，并且推理问答结果更为优质

昇腾AI与产业界合作，构建了全流程的大模型使能体系，共同建设中国大模型生态。该体系已成功孵化和适配了30多个主流大模型，并在遥感和多模态领域成立了产业联合体。目前，已有80多家科研机构和企业加入其中，共同孵化出100多个行业新应用

昇腾AI将与云从科技合作，致力于打造基础软硬件平台，推动AI技术在重庆的城市特色产业中发挥作用，并创建具有示范效应的应用案例，为各行业提供全面的提升，助力企业实现持续高质量发展