英伟达挑战者?专访Graphcore总裁、大中华区总经理卢涛:IPU的稀疏性要强于GPU
2023-07-08 12:46:12来源:每日经济新闻
7月6日至7月8日,2023世界人工智能大会在上海举办。7月6日下午,Graphcore(中文名“拟未”)总裁、大中华区总经理卢涛接受了《每日经济新闻》记者专访。
(资料图片)
本届大会评选出九大“镇馆之宝”,拟未“Graphcore C600 IPU处理器PCIe卡”就位列其中。据悉,Graphcore C600 IPU处理器PCIe卡主打推理,兼做训练,可以支持各种主流的AI应用,在搜索和推荐等业务上具有一定优势。它在提供低延时、高吞吐量的同时不损失精度,帮助AI开发人员解决“精度与速度难两全”的痛点。
值得一提的是,C600在提供强大的算力、易用性和灵活性的同时,还实现了低时延和低功耗,在运行典型工作负载时的散热设计功耗为185瓦,可为运维人员减少数据中心运营开支。
IPU与GPU有何差异?
目前,业界普遍使用英伟达的GPGPU作为算力芯片,拟未的IPU和英伟达的GPGPU相比,有何差异呢?
卢涛表示:“首先从设计理念上,就和(英伟达)挺不一样的。一是计算架构不一样,二是存储架构不一样。我们是综合了非常多个核的处理器,比如C600,每个IPU具有1472个处理核心,能够并行运行8832个独立程序线程。而英伟达GPU的SM Core(stream multiprocessor核心)大概是100多个,不同产品配置不一样。其所谓的CUDA Core和Tensor Core其实是挂在SM上面的加速器、运算器。CUDA Core只是一个运算单元。”
图片来源:每经记者朱成祥摄
存储架构方面,卢涛表示:“无论是英伟达的GPU,还是谷歌的TPU,都是两级内存。一级是(显示)芯片里面有一个四五十兆的内存,外面挂着HBM或者显存。我们IPU,在芯片里面就有900兆的片上SRAM存储,并且是分布式的。之前我们所说的1472个处理核心,跟片上SRAM存储是耦合在一起的。”
IPU这种架构有何好处呢?卢涛称:“计算(核心)跟存储耦合,非常适合做稀疏化,以及做一些高维运算。跟GPU对比,如果对稀疏性要求比较高、高维方面要求比较高,我们的优势会更大。如果是矩阵运算,我们就差不多或者是优势小一些。”
软件生态:不兼容CUDA,为客户提供更优解
从上述介绍来看,C600是主打推理,兼做训练。那么拟未本身的芯片产品,主要应用于训练端还是用于推理端呢?
卢涛表示:“我们是训练、推理一体的,只不过针对系统层面会有不一样的要求。比如说训练,要做大规模的扩展。如训练集群,需要一千个或者几千个处理器连接在一起。推理不需要那么大规模的互联。训练和推理,我们处理器本身没有特别大的区别,更多是从系统层面体现。”
值得一提的是,英伟达不仅强在硬件,其软件生态CUDA更是难以替代。那么,拟未的IPU能兼容CUDA吗?
卢涛表示:“我们不兼容CUDA,这是一个非常有意思的问题,属于哲学层面上的问题。如果你是客户,询问是否CUDA兼容,本质是想不花任何功夫,或者花很少的精力,把软件、把应用在处理器上用起来。”
他进一步分析称:“这里面就有两个命题,一是CUDA兼容,但CUDA是英伟达自己的软件生态,是针对英伟达GPU架构实现的。API你能看得到,但底层各种优化,都是针对其GPU体系结构优化的,你根本不知道怎么做。二是CUDA不兼容,这就需要尽量减少客户迁移的成本,让客户在极端情况下,不需要做什么就能迁移,或者花比较少的工作量就能迁移。”
(文章来源:每日经济新闻)
关键词:
责任编辑:hnmd003
精彩推送
- 英伟达挑战者?专访Graphcore总裁、大中华区总经理卢涛:IPU的稀疏性要强于GPU
- 央行研究局巡视员周学东:财富管理市场迫切需要解决“基金赚钱基民不赚钱”问题
- 支付宝账号怎么查看真实姓名_支付宝账号怎么查看
- 赵露思新剧被举报?不冤
- 北大恢复校园预约参观!酷暑中,来看校门口队有多长
- 平安知鸟亮相2023全球数字经济大会
- 安徽省安委办决定:挂牌督办!
- 上半年全国机动车达4.26亿辆 新能源汽车保有量达1620万辆
- 菜鸟出海 !“样板间”欧洲势头正劲 覆盖西班牙超30城!
- 生态产品价值实现指导性文件将出台 第四批案例正准备
- 杨伟民:居民消费恢复是今年经济运行整体好转的关键
- 俄农业部长:去年俄农工企业出口额超410亿美元 粮食出口量创新高
- 加强电动化攻势 上半年宝马集团纯电动车型在中国销量同比增长近三倍
- 科技早报|知乎匿名功能将正式下线 华为云发布盘古大模型3.0
- 全球最大白银ETF--iShares Silver Trust 7月7日持仓较前一日减少51.38吨
- 何氏眼科07月07日获深股通增持1.8万股
- 《瘟疫传说》新作疑似开发中 工作室招聘信息显端倪
- 海斯谈与詹姆斯做队友:太疯狂了 因为我小时候一直看骑士比赛
- 保险业“养老社区账”:“轻”“重”发展模式取舍有道
- 最后的战斗:英国兵眼中的朝鲜战争(关于最后的战斗:英国兵眼中的朝鲜战争介绍)
- 救市!刺激楼市 香港出手了!扎克伯格收到马斯克“警告信” 啥情况?
- 平台企业金融业务大部分突出问题已完成整改 金融管理部门工作重点转入常态化监管
- 最不期待的保时捷?这全新 SUV 比 911 快 要刷新地表最强!
- 有突破亦有痛点 燃料电池汽车探路中
- 瓶盖上有多少个齿(瓶盖上有几个齿 阅读答案)
- 欧盟给苹果下死命令:iPhone或将开放第三方商店
- 阿根廷央行发布月度经济调查:预计2023年GDP将下降3%
- “白色石油”期货要来了!证监会同意广期所碳酸锂期货及期权注册 防止价格暴涨暴跌
- 空客:冰岛航空确认订购13架超远程型A321XLR飞机
- 又增4家!朝阳26家社区卫生中心儿科门诊开诊时间→
- 2023世界人工智能大会聚焦前瞻科技—— 中外企业竞秀“大模型”
- 中国太子参之乡:科技引领中药材种植现代化
- 插混汽车“绿牌”政策切换半年考 上海新能源汽车市场格局生变
- 白酒行业库存承压 渠道竞争骤然升温
- 科曼:京多安的优秀无需争论,但我认为巴萨更应该签22岁的球员
- 火箭两则消息更新!美记透露火箭放弃哈登真因 格林合同为两年
- 杨登云的简介(杨登云)
- 沉浮三年厚积薄发 旅游业暗战暑期档
- 财富管理“智变”
- 服务器逐步走向“液冷时代” 千亿元规模下多家上市公司积极布局
- 酒店迎战“最热暑期档”
- 台湾省天降“诸葛亮”,军事才能无人匹敌,绿媒: 台湾“有救”了
- dpi是什么意思越高越好吗(dpi是什么)
- 美缝剂瓷砖地砖家用防水防霉勾缝(瓷砖缝用什么填能防水)
- 又反转了!中石油北京项目管理公司:胡继勇真的糊了,晚节不保!
- “最美警花”被抢劫活埋,临死前哀求:孩子不能没有妈妈
- 没约上塞尔达展,还能去游研档案馆看游戏展品么?
- 美联储古尔斯比:不要过分看重单个月份的就业数据
- 通讯:中企助安哥拉贫困地区实现教育梦想
- 一财老友记:既看凤凰起舞 也听寒鸦心事 是财经媒体应有的模样
- 蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”
- 用AI提速数据安全技术基建 蚂蚁集团发布两项隐私计算开源产品
- 《2023年中国奥特莱斯行业白皮书》:奥莱业态逆市增长12%
- 镓锗留给美国时间不多了,三大软肋出现,或引爆美国金融危机核弹
- 天津市监测发现一例猴痘病例
- 四川盆地最高温度地热矿泉井今日验收 出水温度最高达84℃
- 哈萨克斯坦战略研究所所长:中哈合作达到新高度
- 实际使用感受如何?来看看这份《人工智能大模型体验报告》
- 2023年7月总票房破20亿
- 金融业数据库加速国产化 太保已完成全险种核心迁至国产数据库
- 中国工程机械工业协会:6月挖掘机销售15766台 同比下降24.1%
- 国企牵手门女主已停职 国企牵手门男领导被双开 基本情况讲解
- 美元指数直线跳水,现货黄金短线拉升
- 就业数据好于预期加央行加息概率上升
- 招商银行:王小青副行长任职资格已获得核准
- 吉祥航空将为90分钟飞行时长航班提供正餐
- 清华大学汪玉:大模型落地最后一公里 人工智能应解决四个痛点
- 聚焦数字家庭领域新发展 2023数字家庭生态研讨会在郑举行
- 2023游戏责任论坛在京举行 游族网络实现游戏和文化双向赋能
- 汽车回油管的位置在哪里
- 苦等失主无果 多亏一张缴费单
- [快讯]源飞宠物:部分募集资金投资项目延期
- 上海市经信委副主任阮力:积极推进大模型创新和应用 加强大模型风险管理与行业治理
- 香港放宽楼市政策!1500万港元以下自住物业按揭上限七成
- 9岁女孩被蛇咬伤家人抓蜘蛛吸毒:毒没吸出来,反而加剧毒性
- 海原县乡村振兴创业创新大赛初赛圆满成功
- 县统计局召开劳动力调查培训会议
- 本周盘点(7.3-7.7):福建水泥周跌0.20%,主力资金合计净流出409.79万元
- 四川:念好产教融合“实”字诀 激活轻工人才“一池水”
- 痤疮治疗方法较30年前进展有限 AI技术有望推动痤疮高效诊断及精准治疗
- 工业和信息化部召开专精特新中小企业圆桌会议
- 开店宝支付河南分公司被罚1984万元
- 四大养猪企业签《互不挖人公约》 律师:若封杀员工正常跳槽涉嫌违法
- 北京发布雷电蓝色预警!局地雷雨云团+8级左右大风
- 华为官宣!盘古大模型3.0正式发布
- 女明星们皮衣穿搭教科书,皮衣搭配牛仔裤高级时髦,超好看
- 特变电工:公司1500V的液冷电池柜 目前仍在研发阶段 液冷专柜采用单簇单柜设计
- 广州市地方金融监管局:力争3年新增境内外上市公司75家
- 富德生命人寿:合规护航高质量发展
- 汤加的色彩
- 农安北银村镇银行被罚90万元:因内部控制体系不健全等
- 众安保险总经理姜兴:金融保险行业可能成为AIGC应用发展的天然土壤
- 沉迷买量的三七互娱,把自己坑了?
- 《失孤》原型郭刚堂之子被拐案今日开庭 案件侦破细节披露→
- 4.73亿签约官宣!还是保罗聪明,哈登若答应杜兰特,不会亏2.67亿
- 衡阳市政协来祁调研缓解城区停车难问题
- OTA大版本升级助力阿维塔销量节节攀升
- GPS可能无法定位影响救援 部分雷克萨斯NX系列被召回
- 这种东西别再放进外卖里!多家餐饮店被罚!
- 直击2023WAIC|达闼机器人黄晓庆:智能机器人必须要使用云端大脑