大国重器九天大模型是怎么打造的?“AI工匠”带你揭秘

liukang20241周前166.SU吃瓜157
近两年,人工智能大模型日益遭到社会重视,AI+算力正在驱动千行百业的智能化转型。
有一位“AI工匠”王斌,他带领团队驾御大规划国产智算集群,练习出了一套全体系自主可控的九霄大模型,打造面向未来的大国重器。
06:28
我国移动研究院人工智能中心高档总监 王斌:这是北京市最典型的一个掩盖居民区的基站,相似的基站我国移动现已开通了686万台,这些基站实际上每天会耗费许多的电力。
信号基站引进九霄人工智能大模型技能,对海量手机流量信号准确猜测,给出每台基站的智能节能计划,全国600多万台基站经过人工智能等多种技能完成全年节电2.5亿度。
王斌:咱们的大模型的定位,不光是要可以写诗作画,除了可以辨认传统的文本类和图片类常识,它还要能看得懂像这种雷达、红外,这种射频信号。
抢抓人工智能开展的前史机会,2023年头,我国提出,依据通讯、电力、交通物流、动力等范畴的需求,运用国产软硬件,打造人工智能大模型,构成自主可控的全新的工业生态。
作为我国移动研究院AI技能专家,王斌有十多年芯片研制技能布景,之后又投入人工智能这一新赛道,是我国为数不多的既通晓AI芯片又了解AI模型的技能人员。练习九霄大模型这一国之重器的使命就落在了王斌团队肩上。
王斌:这是咱们的一个机房,智算的服务器就在这个机架里边。
记者:有多少台?
王斌:整个楼里边一共有2304台服务器,折算成AI加快卡的话,超越1.8万张。
这个全国规划最大的软硬件都根据国产技能的智算集群便是九霄大模型的最强大脑。
王斌带领团队,收集了近500万亿字符的原始文本数据,简直涵盖了人类有史以来全量的文本类常识,从中挑选出超10万亿字符的高质量练习数据集。让大模型记住这些常识不难,难的是怎样学会运用,这正是王斌有必要迈过的第一道关卡。
王斌:大模型的结构跟咱们人类的大脑结构是比较相似的,像人类大脑也有差不多1000亿个神经元,或许不同的神经元是担任不同的使命。咱们平常做数学题用到的神经元,跟做语文题用到的神经元或许是不一样的。
记者:所以这大模型也是这么分的?
王斌:像一个千亿的大模型,咱们要拆成18000份,每一个芯片在练习它所担任那部分的时分,都要高效地从这些数据中把常识萃取出来。
大模型的18000张芯片要学会了解常识之间的逻辑关系,还要各有分工,互相联动,逐步变得聪明起来,王斌带领团队给大模型规划学习常识的算法、操控学习进程、矫正大模型的价值观。但是,他却碰到了一个扎手的难题。
王斌:在咱们这个职业,有个说法叫得开发者得全国。像世界干流AI芯片,它的开发者人数有好几百万,它会有许多优化的手法,这种优化手法会带来整个练习功率的提高。咱们现在国内的AI芯片,它的开发者人数或许都不到10万,或许里边还会有许多缺点,只能说是一个坑一个坑去蹚,一个坎一个坎去迈。
从体系规划到功能模块开发,近150名工程师历时一年半时刻,写出了超越120万行的代码,构建了一套完好的渠道软件,瞄准世界先进队伍,加快追逐。
这个智算集群里的18000张芯片运行时,如同一个巨大的方阵,整齐划一,一起推动,只需有一张卡呈现问题,就会导致整个方阵紊乱,练习使命失利。在练习了两个月的时分,这一巨大方阵就呈现了严峻毛病。王斌带领技能骨干扎入18000张卡的数字深海,一层层排查,直到智算集群最底部。
我国移动研究院人工智能中心高档工程师 丛鹏宇:王斌本来堆集的硬件常识,在做大模型练习过程中,特别是排障过程中,其实发挥了很重要的作用。有很高的技能的前瞻性和技能的敏感性,可以辅导咱们从愈加广泛的视点、愈加有建设性的视点来处理问题。
7天后总算找到了一张毛病卡。但是,这7天的阻滞却导致整个练习使命要从头再来。
王斌:这么大规划的资源,现已执行了这么长时刻使命,整个作用要清零是多么大的一个冲击。为了处理这个问题,咱们有必要有一个即时检测技能。
半年多,王斌带领团队对上万次大大小小的毛病逐一剖析,找到每一个毛病的根本原因,归类收拾,做出了一份毛病处置清单,打造了一套自动检测软件,把各类毛病的排查恢复时刻从几天缩短到了十几分钟。
在王斌团队的尽力下,国产AI芯片在万卡规划上的练习功率到达同代世界干流AI芯片水平,为后续国产芯片在其他范畴更广泛的使用打下了坚实基础。
现在九霄大模型现已进入了通讯、石油出产、农业栽培、智能制作等许多范畴,正在用才智赋能新质出产力。2025年1月,九霄大模型被评为央企大国重器。
我国信息通讯研究院人工智能研究所渠道与工程化部副主任 董昊:九霄大模型不仅是咱们自主技能的一种打破,一起也为咱们国家大模型的使用落地供给了可仿制可学习的老练处理计划。
王斌:国家给了咱们这种期许,可以用国产算力完成对世界干流算力的代替,咱们九霄大模型还在继续迭代晋级,在AI赛道上负重致远,咱们有决计有决计来应对应战。
来历:央视新闻客户端
告发/反应

相关文章

超百家企业布局,AI眼镜、人形机器人点着智能硬件新风向

图片来历:视觉我国蓝鲸新闻 2 月 26 日讯(记者 武静静)在大模型年代,更智能的 AI 为智能硬件带来了史无前例的智能水平缓交互方法,商场正在从头评价智能硬件的价值和新的或许性。在刚刚闭幕的202...

借力AI逆袭登顶职业新龙头:丰e足食CEO深度共享AI决议计划暗码

借力AI逆袭登顶职业新龙头:丰e足食CEO深度共享AI决议计划暗码

新年期间Deepseek横空出世,再一次掀起全民关于AI的评论热潮。假如你留心周边主动售货机,会发现越来越多的传统机器现已被新的运用AI技能的智能零售柜代替,仅仅三四年时刻就完全推翻了我国传统主动售货...

江苏征程请求根据 AI 算法的才智线路动态调度优化办法专利,以最小巡检本钱更精准发现输电线路毛病

江苏征程请求根据 AI 算法的才智线路动态调度优化办法专利,以最小巡检本钱更精准发现输电线路毛病

金融界 2025 年 4 月 29 日音讯,国家知识产权局信息显现,江苏征程技能股份有限公司请求一项名为“依据 AI 算法的才智线路动态调度优化办法”的专利,公开号 CN119886449A,请求日期...

对话领中本钱办理合伙人黄岩:DeepSeek推翻AI传统出资逻辑 市场化GP应慎重对待大模型出资

其时,AI(人工智能)早已成为出资人绕不开的论题。热潮之下,曩昔两年,很多资金会集流向了月之暗面、智谱AI等明星大模型创业公司。即便如此,仍是有不少镇定的出资人。“其时,对大模型创业公司的出资坚持慎重...

雷军:下决心把AI技能落到各个终端产品上;苹果陈述iCloud服务呈现毛病;DeepSeek发布最新技能论文|大公司动态

【科技圈】雷军:下决心把AI技能落到各个终端产品上2月17日,完毕民营企业座谈会后,小米科技有限责任公司董事长雷军承受专访。雷军表明,小米创业的15年来,一向聚集在手机、轿车、智能家居、智能制作这些范...

AI大模型年代,算力隐秘的旮旯|年终复盘

AI大模型年代,算力隐秘的旮旯|年终复盘

来历:光锥智能文|白鸽编|王一粟、苏扬要想富,先筑路。想要AI大模型可以继续迭代晋级,离不开底层算力根底设施的树立。自2022年ChatGPT迸发以来,算力商场也迎来了迸发式添加。一方面,我国的科技巨...

友情链接: