
12月26日,据界面新闻等报谈开云体育,小米正入部属手搭建我方的GPU万卡集群,将对AI大模子狂妄干涉。小米大模子团队在竖立地已有6500张GPU资源。《逐日经济新闻》记者就此事向小米方面求证,截止发稿时未获回话。
万卡集群是指由一万张及以上的加快卡(如GPU、TPU或其他专用AI加快芯片)构成的高性能假想系统,用以考试基础大模子。确立万卡集群是个“百亿元”资本的干涉,其中单是GPU采购资本就高达几十亿元。
科技大厂正竞相干涉万卡集群竟然立。国际上,OpenAI、Meta等科技巨头,王人争相部署万卡集群;在国内,运营商、头部互联网大厂、大型AI研发企业等先后入局,一些巨头以致已初始迈向“十万卡集群”。
要是小米搭建万卡集群的音信属实,寂然电信分析师付亮分析谈,小米将大模子视为 “东谈主车家”政策的遑急撑合手,其确立万卡集群的标的或与其他企业不同,“别东谈主莫得期骗率,小米自带期骗率”。
“万卡集群”被视作新一轮大模子竞赛“入场券”
搭建万卡集群需要破钞弘大的财力。
百度集团实施副总裁、百度智能云行状群总裁沈抖本年9月曾先容,GPU集群有三个特征:极致界限、极致“高密”和极致互联。建一个万卡集群,单是GPU的采购资本就高达几十亿元。而确立GPU万卡集群需要濒临的风险之一等于故障率,沈抖先容:“Meta考试Llama3的时候,用了1.6万张GPU卡的集群,平均每3小时就会出一次故障。”
尽管造价不菲,但“万卡集群”使得考试复杂的大模子成为可能,被业界视作这一轮大模子竞赛的“入场券”。
“模子大小和考试数据量大小成为决定模子才调的要津身分。在同等模子参数和数据集下,集群考试时刻有望显赫镌汰。更大、更先进的集群能实时对市集趋势作出反映,快速进行迭代考试。举座上超万卡的集群将有助于压缩大模子考试时刻,杀青模子才调的快速迭代,并实时对市集趋势作出搪塞,杀青大模子时间上的追逐和杰出。”长江证券研报阐释谈。
当作长于端侧的科技公司,小米集团也屡次提到将自研大模子与端侧和会。
2023年5月,小米集团事迹公告清爽,其夙昔4月弘扬组建了AI实验室大模子团队,AI领域干系东谈主员超1200东谈主,并将握住挖掘AI干系的用户场景,施展本身时间上风,并以灵通的格调与合营伙伴开发更多契机。
2023年8月,小米集团的公告中清爽,AI是公司恒久干涉的底层赛谈。小米60亿参数的自研大模子在同参数目级中名挨次一。
2023年11月,小米浮现将AI大模子与小米滂湃OS深度和会,为用户提供基于端侧大模子的各样便利和智能的功能。
字据小米集团财报,本年前三季度,小米集团经磋议净利润(非国际财务报酬准则计量)189.18亿元,同比上升31.7%。在刻下权术正经,盈利才调擢升的基础上,扩大对算力基础的干涉,也成为可选项。
部分万卡集群照旧投产、端侧拥抱AI已是共鸣
现在,多家头部企业正竞相干涉万卡集群竟然立。
运营商是我国算力基础形状确立的中坚力量。中国出动呼和浩特、哈尔滨两大万卡级别智算中心已先后投产运行。中国电信上海、北京两个万卡集群照旧投产。
在国内,百度等公司已在征询何如构建十万卡集群。本年9月,沈抖就在百度智云大会上说谈:“很快就会有更多的10万卡集群出现。”
国外头部AI大厂的活动更为激进,据报谈。OpenAI正在假想好像将1000万块GPU连在统共的假想模子,Meta到本年年底将领有35万张H100。
国内的端侧大厂,鲜少大举干涉确立万卡集群,但端侧拥抱AI已是共鸣。就在不久前,理思汽车创举东谈主李思摄取采访时还建议,理思汽车不再只是是一家汽车制造企业,而是一家AI企业。
端侧AI在本年以来呈现爆发式改造的趋势。
以手机为例,AI的才调在异日的竞争中举足轻重。本年10月,在被问及何如看待AI时间的智高手机竞争时,vivo副总裁、AI人人计议院院长周围表露,AI会提供给传统的手机厂商更多自主研发的空间,这意味着更多个性化契机正在出现。异日东谈主工智能会成为各个厂商手机家具体验相反的分水岭。
家电行业也掀翻AI大模子的竞赛。好意思的集团、海尔智家等头部家电企业纷繁推出AI大模子,在大模子的加合手下,AI电视、AI洗烘套装、AI厨电、AI扫地机、AI清水器、AI家庭机器东谈主等接连被推向市集。
小米集团领有手机、家电、智驾等诸多末端家具。不外,寂然电信分析师付亮向《逐日经济新闻》记者表露,不要把小米和会为硬件厂商,小米在出产手机的同期,一直是一个活跃的互联网平台。付亮表露,小米合计大模子是其“东谈主车家”政策的遑急撑合手,要是其确立万卡集群,标的也与其他企业不同,“别东谈主莫得期骗率,小米自带期骗率”。
逐日经济新闻
【免责声明】本文仅代表作家本东谈主不雅点,与和讯网无关。和讯网站对文中证据、不雅点判断保合手中立开云体育,不合所包含试验的准确性、可靠性或竣工性提供任何昭示或示意的保证。请读者仅作参考,并请自行承担全部背负。邮箱:news_center@staff.hexun.com
