算力普惠孕育“芯”机会?
大模型太招人喜欢了。有工程师请ChatGPT以科幻作家刘慈欣口吻写一封情书,结果夫人收到后泪流满面。帮影像科医生撰写专业年终总结、为创作者提供天津快板和说唱风相结合的诗词,这些对大模型而言都不在话下。
AI算力需求改变了全球半导体产业格局。2020年7月9日,或是半导体行业极具里程碑意义的一天——这天,以AI算力为强项的英伟达,其市值首次超过半导体行业原霸主英特尔。如今,英伟达市值更已跃上万亿美元台阶。
(相关资料图)
业内预测数据显示,到2030年,全球半导体行业接近万亿美元规模的市场中,AI高性能计算将占比40%。这意味着,眼下狂热大模型背后,有一个关乎“肌肉展示”的冷思考难以回避。业内公认的说法是,1万张英伟达A100,是做好一个大模型的基本算力门槛。
国内正酣的“百模大战”,必须直面“烧不烧得起”的灵魂拷问,由此带出“算力普惠”的话题。就在昨天2023世界人工智能大会“从‘端’到‘云’,勇攀‘芯’高峰”芯片主题论坛上,AI产业界既感到压力也充满了动力——大模型意味着海量算力需求,也带来了国产芯“创新架构+开源生态”的逆袭新机会。
能否如水电般普惠?
在本届世界人工智能大会上,30余款大模型竞相博眼球,包括华为盘古、阿里通义、讯飞星火、百度文心、复旦Moss等通用大模型,商汤商量、云知声山海等对话模型,腾讯X music等音乐模型及多个垂直行业专业模型。就在不久前,科技部新一代人工智能发展研究中心发布了《中国人工智能大模型地图研究报告》,指出我国已发布79个10亿级以上参数规模的大模型,“百模大战”近在眼前。
燧原科技创始人、董事长兼CEO赵立东分析了这些大模型未来指数级增长的算力刚需——
在大模型的技术萌芽期,根据前人经验,训练一个GPT3参数规模的大模型,需要用到1万张英伟达V100,用时14.8天,训练成本极为高昂。今年下半年晚些时候,我国大模型有望进入技术膨胀期和应用萌芽期,开启推理部署阶段。以谷歌的经验,用大模型来代替谷歌每秒32万个查询,需部署约410万张英伟达A100,由此新增约360亿美元的推理成本。此后,前进到应用加速膨胀期,大模型应用真正赋能千行百业,所需算力又要来一波乘数效应。比如微信月活数十亿,有千万个小程序,其算力需求简直就是天文数字。
再狂热的大模型训练和推理,终要回归商业逻辑,实现经济效益而非“不计代价”。这就涉及算力能否如水电般普惠。所谓“普”,是指需要的时候能获得;所谓“惠”,是指能负担得起。但芯片主题论坛上,与会专家们都不得不承认,目前我国距离算力普惠还有较长的路要走。
赶超出现“窗口期”?
如何实现算力普惠?赵立东和中国科学院院士毛军发的观点都是——创新的架构,加上开源的生态。
据记者了解,目前半导体市场的AI芯片,基本都是以英伟达推出的GPU和CUDA为主流架构,许多应用也以这些主流架构为基础而开发。然而从长远计,国内芯片产业界必须建立第二解决方案,为市场和客户提供第二选择。
事实上,算力如此“烧钱”甚至“求而不得”,这对于国产芯努力构建自主创新架构、满足市场对性价比和能效比的多元需求,无疑是一个极佳的时间窗口。“大模型数量上的收敛,生态也得到浓缩和集约,这对于建立AI芯片新生态来讲,是非常有利的机会。”燧原科技创始人兼COO张亚林说。
论坛上,对于走开源共享之路的呼吁也不时提出。专家认为,出于商业考虑,一些厂商多不会选择开源,这本无可厚非。但如果想要走出一条赶超之路,就不能自缚手脚、在技术上自我设限。上海市集成电路行业协会会长张素心在论坛上呼吁,孤木不成林,国产芯应汇聚合力,扩大开发者群体的加入,形成生态闭环,继而加速产业发展乃至国际化之路。
国产芯能否多上场?
种种可喜现象表明,部分国产芯正加速励志奋进路。
比如燧原科技,专注人工智能云边端算力技术产品,基于自研芯片架构与编程框架,不依赖国外厂商或生态,自主打造云端训练和推理两条产品线,拥有覆盖芯片、板卡、系统、集群、计算平台的完整解决方案。成立于首届世界人工智能大会举办前夕的燧原科技,已步入从自主研发到大批量产、从商业应用到优化迭代的正向循环发展轨道。
其中燧原科技已在大型实验室落地的1280卡规模的全液冷AI训练集群,是其为国内大规模AI算力基础设施量身定制的算力集群。值得一提的是,燧原科技的全液冷AI训练集群,其减碳核心指标PUE(数据中心总能耗/IT设备能耗)小于等于1.1。
记者发现,国内许多芯片厂商不愿亦步亦趋跟随巨头脚步,也渴盼着市场和政府部门的支持。芯片产业发展有节奏、有阶段,政府或可探索予以分段支持,在预训练、精调、推理各个阶段,逐步增大支持力度,更好地推进AI芯片产业发展。
“上场多,比赛成绩自然就上去了。谁也不可能直接从观众席一步登上领奖台。”赵立东说,“芯片是‘用进废退’,越用才能越好用。在渐进式过程中培育算力生态、迭代算力产品,这个过程是我们必须经过的。”
(文章来源:解放日报)
标签:
-
2022-05-23 16:13:32
上海奉贤等区开展常态化防疫压力测试 有序开放公交、公园、公共服务场所、公共街区商区<
本报上海5月21日电 (记者刘士安、曹玲娟)上海正在奉贤等区开展常态化防疫压力测试。在21日召开的上海市疫情防控工作新闻发布会上,奉
-
2022-05-23 16:13:32
“抗疫 宅家云课堂”,吸引沪上老同志观看50万人次<
由上海市委老干部局主办,上海市老干部大学、市科技助老服务中心承办的“抗疫 宅家云课堂”系列直播讲座自4月12日启动以来,深受老同
-
2022-05-23 16:13:32
“代跑腿”买药、开通绿色通道 丰台为管控区居民提供便捷医疗服务<
“真是太感谢了,解决了我的燃眉之急!”家住假日万恒社区的杨女士对前来送药的居委会工作人员说。 自5月17日6时起,丰台区对青塔街...
-
2022-05-23 16:13:32
上海嘉定:儿童计划免疫接种全部恢复,实行预约制<
在5月22日召开的上海市新冠肺炎疫情防控新闻发布会上,嘉定区副区长王浩介绍,从4月28日开始,嘉定在防范区逐步有序恢复老年人疫苗接种
-
2022-05-23 16:13:32
乡村振兴看新疆 | 种下红樱桃 结出“致富果”<
央广网阿图什5月22日消息(记者 罗成 通讯员 杨林)乡村振兴靠产业,产业发展靠特色。新疆阿图什市阿扎克镇麦依村积极引导农民因地制
-
2023-07-07 06:04:38
算力普惠孕育“芯”机会?
大模型太招人喜欢了。有工程师请ChatGPT以科幻作家刘慈欣口吻写一封情
-
2023-07-07 05:12:44
2023年5月企业资产证券化备案简报
一、2023年5月企业ABS备案情况2023年5月,企业资产证券化产品共备案确
-
2023-07-07 01:16:17
2023年石家庄市长安区、桥西区、新华区、裕华区、高新区等五区公办义务教育学校“招生地图”公布
长安区、桥西区、新华区、裕华区、高新区等五区根据本行政区域内适龄人
-
2023-07-06 22:34:00
米兰跟队记者:卢卡-罗梅罗等待获得竞技许可,随后与米兰签约
直播吧7月6日讯米兰跟队记者AntonioVitiello报道,卢卡-罗梅罗现在在等
-
2023-07-06 21:48:11
阵风7~8级!济南发布大风蓝色预警
记者王贝艺济南市气象台于2023年7月6日20时38分发布大风蓝色预警信号:
-
2023-07-06 20:54:45
吉利汽车6月销量137897辆 连续5个月同环比双增长
7月6日,吉利汽车控股有限公司(0175 HK)公布2023年6月及上半年销量数
-
2023-07-06 19:16:39
[DCDU][同人]蝙蝠侠:罗宾之死:破窗点
[蝙蝠电脑旁]“所以我们不会一直待在这里的”已经数不清萨沙到了蝙蝠洞
-
2023-07-06 18:47:29
中国在这方面正引领世界!外籍人士点赞亚运之城低碳实践
中新网杭州7月6日电(唐炜妮)近日,“Hello,Carbon Neutrality”(你
-
2023-07-06 18:06:59
龙头性、结构性!
龙头性、结构性!,加息,唱空,龙头性,美联储
-
2023-07-06 17:32:39
福建福州、宁德等地水泥价格弱势下行
7月初以来福建福州、宁德等地一些主要厂家继续通知下调水泥价格10-30元
-
2023-07-06 16:57:17
经常接吻的人,身体会发生什么变化?最后1个意想不到!
如果做个统计,可能很多人的爱情都是从一个吻开始的。从小时候和父母看
-
2023-07-06 16:27:30
2023苏州市吴江再生水有限公司是国企吗
是国企苏州市吴江再生水有限公司成立于2021年06月15日,是苏州市吴江水
-
2023-07-06 15:52:34
北京卫视《我是大医生》警惕高死亡率的特殊脑梗|全球观热点
《我是大医生》提醒警惕高死亡率的特殊脑梗
-
2023-07-06 15:30:45
泰国多地强降雨 政府发布山洪预警
中新社曼谷7月6日电(记者李映民)泰国正处于雨季,多地降雨量大。当地时
-
2023-07-06 14:49:22
百事通!阿丽亚娜5型火箭完成“谢幕之旅”
欧洲阿丽亚娜5型火箭于欧洲中部时间6日零时(北京时间6日6时)从法属圭
-
2023-07-06 14:14:11
丝路传说官网首页_丝路传说蝴蝶挂
丝路传说官网首页,丝路传说蝴蝶挂这个很多人还不知道,现在让我们一起
-
2023-07-06 13:25:13
最新:今日河北已经有10站达到40℃以上,局地可达43℃
据@weatherman_信欣(中国气象频道气象分析师信欣)消息,今天截至12时
-
2023-07-06 13:16:37
企鹅FM将停运,你用哪款在线音频APP?
北京日报客户端|记者袁璐“由于业务调整,企鹅FM很遗憾要和大家说再见
-
2023-07-06 12:38:03
朝阳市朝阳县科技局(对于朝阳市朝阳县科技局简单介绍)
聊聊一篇阳市朝阳县科技局,对于朝阳市朝阳县科技局简单介绍的文章,网
-
2023-07-06 12:29:58
杨浦区中心医院“冬病夏治”门诊即将开诊→
小儿受寒易发作下列疾患皆适用小儿哮喘、支气管炎、反复呼吸道感染、过
-
2023-07-06 11:17:12
宁静即兴展现演技,秒入剧情动人心,全场嘉宾佩服!
宁静即兴展现演技,秒入剧情动人心,全场嘉宾佩服!,宁静,她的演技
-
2023-07-06 11:02:11
全运会体操项目分竞技体操等 全运会体操项目不包括 世界时快讯
2、?全运会体操项目比赛时间安排方案。3、?全运会体操项目比赛时间安排
-
2023-07-06 11:03:39
买车位贷款哪个银行好?找个人房贷银行比较好
车位贷款申请一般是与个人房屋贷款一起的,即申请个人住房贷款可用于购
-
2023-07-06 10:46:32
世界焦点!广西出台方案提升适老化无障碍交通出行服务 今年新增40条敬老爱老公交线路
近日,记者从自治区交通运输厅了解到,广西近日印发《广西2023年持续提
-
2023-07-06 10:39:42
当前要闻:“宝宝,阿姨下来了!” 谢谢你,江丽君!
她果断跳下站台,成功将孩子救上来。
-
2023-07-06 10:10:43
以画为舟 航向文明的深海|天天热文
以画为舟航向文明的深海“中国历代绘画大系”宁波特展的启示在日本宫内
-
2023-07-06 07:56:40
京新药业07月05日被深股通减持110.8万股_环球微动态
07月05日,京新药业被深股通减持万股,已连续4日被深股通减持,共计万
-
2023-07-06 07:16:27
2023年5月大众探岳GTE插电混动销量如何? 在SUV车型中排名怎么样?
近日,2023年5月份乘用车销量数据出炉,众车网行业监测数据表明:探岳G
-
2023-07-06 06:15:19
重庆海事对部分水域实施临时交通管制-每日报道
7月5日下午,重庆海事局发布消息称,近日,长江重庆段部分航段水位急涨
-
2023-07-06 02:57:49
天天微资讯!ngo含义_ngo组织是什么
1、NGO,是非政府组织(Non-GovernmentalOrganization)的英文缩写。2
-
特写:风吹稻香忆袁老——袁隆平逝世一周年的墓前追思
2022-05-23 16:13:29 -
北京5月21日区域核酸筛查初筛10管混采阳性
2022-05-23 16:13:29 -
北京两地由高风险降为中风险 一地降为低风险地区
2022-05-23 16:13:29 -
5月21日15时至22日15时,北京新增本土新冠肺炎病毒感染者94例
2022-05-23 16:13:29 -
108岁病人顺利出院,瑞金医院卢湾分院已收治10位百岁老人
2022-05-23 16:13:29 -
生态花园助力乡村振兴 重庆小山村展现“乡土美学”
2022-05-23 16:13:29 -
上海金山政务服务场所逐步恢复服务
2022-05-23 16:13:29