首页 > 国内 > 正文

重庆人工智能创新中心成功孵化首个大模型解决方案

2023-08-04 17:28:33来源:上游新闻  


(资料图)

近日,重庆人工智能创新中心成功孵化首个大模型解决方案,云从科技“从容大模型训推一体机”顺利完成孵化和部署。华为作为国内最早布局大模型的云服务商之一,一方面,深耕算力,打造强有力的算力底座来支撑中国的人工智能事业发展;另一方面,从通用大模型到行业大模型,真正实现人工智能服务好千行百业、服务好科学研究。

在重庆人工智能创新中心技术团队、昇腾研发专家、云从科技人工智能研究院的共同努力下,“从容大模型训推一体机”在一个月内顺利完成精度与性能对齐、产品集成与测试等工作,成为重庆人工智能创新中心孵化的首个大模型解决方案。

“从容大模型训推一体机”基于昇腾AI基础软硬件平台,包括昇腾AI服务器、异构计算架构CANN和全场景AI框架昇思MindSpore,同时兼容PyTorch,单机2.5 PFLOPS FP16算力,训练性能超8000 tokens/s,支持多机组网部署及企业私有化部署,满足数据不出厂的信息安全要求。

“从容大模型训推一体机”内置云从科技自主研发的从容大模型生产平台,助力企业打造专属行业大模型,实现5倍效率提升。模型参数规格十亿、百亿、千亿可选,结合云从传统视觉优势,提供语言、视觉和多模态三类基础模型,利用企业私有的行业和场景化数据,进行SFT、RM和PPO等强化学习和模型精调,为基础模型注入专家知识和专家技术,使之在企业关注的领域内变得足够智能和精准,打造行业大模型,进而服务企业的业务场景,提升业务效率和产品竞争力。在参数和loss曲线收敛对齐的条件下,基于昇腾和昇思MindSpore的模型训练性能是业界的1.6倍,且推理问答结果更为优质。

昇腾AI与产业界共同构建了从规划、开发到产业化的大模型全流程使能体系,共筑中国大模型生态,已孵化和适配了30多个主流大模型。同时在遥感和多模态两个领域成立的产业联合体,已经吸引了80多家科研机构和企业加入,联合孵化出100多个行业新应用。

展望未来,昇腾AI将努力做好基础软硬件平台,携手云从科技推进AI走深向实,在重庆探索一体机赋能城市特色产业,形成具有示范效应的应用案例,为各个行业提供更为全面的提升,帮助企业实现持续高质量发展。

(文章来源:上游新闻)

关键词:

责任编辑:hnmd003

精彩推送