大禹小说

手机浏览器扫描二维码访问

本站弹窗广告每日仅弹出一次
尽可能不去影响用户体验
为了生存请广大读者理解

基础算力,人工智能的底层支撑(第2页)

本小章还未完,请点击下一页继续阅读后面精彩内容!

举个直观的例子:同样大小的芯片,5nm芯片比14nm芯片能多装好几倍的晶体管,计算速度能提升30%以上,耗电却能减少50%。这对AI来说太重要了——AI需要长时间、高强度计算,芯片又快又省电,就能让AI服务器不用频繁断电散热,还能降低成本。

再说说“架构创新”。以前芯片多是“通用架构”,比如CPU的x86架构、ARM架构,能处理各种任务,但面对AI的“并行计算”需求(也就是同时处理大量数据),效率就不够高。所以现在专门为AI设计的“专用架构”越来越多,比如NPU(神经网络处理单元)。

NPU的设计思路很简单:AI最常用的是“神经网络计算”,就像人脑的神经元一样,需要大量“重复且相似”的计算。NPU就专门优化这种计算,去掉了通用架构里用不上的功能,把所有“力气”都用在神经网络计算上。比如手机里的NPU,能快速处理拍照时的图像优化、人脸识别,比用CPU处理快好几倍,还不耗电——这就是“专芯专用”的优势。

现在的芯片,就是“先进制程+专用架构”双轮驱动,既保证了计算速度,又提高了AI任务的处理效率,成了算力升级的“核心引擎”。

2. 服务器:算力的“运输车”,装得越多、跑得越稳

如果说芯片是“心脏”,那服务器就是算力的“运输车”——芯片产生的算力,要靠服务器整合、输出,才能供AI使用。现在的服务器,主要往“装得多”(高密度)和“不趴窝”(高可靠性)两个方向发展,尤其是AI服务器,更是如此。

先看“高密度”。AI需要的算力特别大,一台服务器里装的芯片越多,能提供的算力就越大。以前的普通服务器,最多装2-4块GPU,而现在的AI服务器,能装8-16块GPU——就像以前的卡车只能装2吨货,现在的卡车能装16吨货,运输效率直接翻了好几倍。

比如2023年的时候,全球AI服务器市场规模同比增长了80%以上,很多科技公司比如谷歌、百度、阿里,都在大量采购这种多GPU的AI服务器,就是为了满足大模型训练的需求。一台能装16块GPU的AI服务器,一次能处理的数据量,比普通服务器多十几倍,大大缩短了大模型的训练时间——以前可能要几个月才能练完的模型,现在几周就能搞定。

再看“高可靠性”。AI的计算任务往往不能中断,比如训练一个大模型,要是服务器中途坏了,之前的计算成果可能就白费了,得重新开始。所以现在的服务器都做了“冗余设计”——比如关键部件(电源、风扇、硬盘)都装两个,一个坏了另一个能立刻顶上;还有“故障预警系统”,能提前检测到服务器的问题,比如某个部件温度太高,会自动报警并调整,避免突然“趴窝”。这种高可靠性,保证了AI计算能连续不断地进行,不会因为硬件故障耽误事。

3. 数据中心:算力的“仓库+调度站”,又绿色又高效

数据中心就是存放服务器、存储数据、调度算力的地方,相当于算力的“仓库”和“调度站”。现在的数据中心,不只是“堆服务器”,而是往“绿色化”和“集约化”发展,既要提供足够的算力,又要减少能耗、提高效率。

先说说“绿色化”。数据中心里有大量服务器,这些服务器运行时会产生很多热量,需要空调散热,所以耗电特别大——以前的 data center,每提供1单位的算力,可能要消耗1.5单位以上的电(用PUE值衡量,PUE=总耗电量/算力耗电量,越接近1越省电)。现在为了减少能耗,都在用“液冷技术”——不是用空调吹,而是用特殊的冷却液直接接触服务器,散热效率比空调高好几倍,能把PUE降到1.1以下。

举个例子:阿里在张北建的数据中心,用了液冷技术后,PUE只有1.09,也就是说,每提供100度的算力用电,总共只消耗109度电,比传统数据中心省了40%以上的电。这对AI来说很重要,因为AI需要长期占用大量算力,省电就等于省成本,还能减少碳排放,符合绿色发展的要求。

再说说“集约化”。以前的数据中心大多建在大城市,但大城市的土地、电力成本高,而且数据传输距离远,会有延迟。现在都在搞“边缘数据中心”——把小型数据中心建在靠近用户或设备的地方,比如城市的基站旁边、工厂的车间里、高速公路的服务区里。

这样做的好处很明显:数据不用传到远处的大型数据中心,能在本地处理,减少传输延迟。比如在自动驾驶场景里,车辆需要实时处理路况数据(比如前面有没有车、红绿灯是不是红灯),如果数据要传到几十公里外的数据中心,再传回来,哪怕只有1秒的延迟,都可能引发事故。而边缘数据中心就在路边,数据处理的响应时间能控制在毫秒级(1毫秒=0.001秒),相当于“即时反应”,能保证自动驾驶的安全。

本小章还未完,请点击下一页继续阅读后面精彩内容!

现在的数据中心,就是通过“绿色化”降成本、减排放,通过“集约化”缩延迟、提响应,成了算力的“稳定后方”,让算力既能持续输出,又能高效到达需要的地方。

三、算力怎么用得好?边缘计算+调度平台,打破“算力孤岛”

有了算力,也有了硬件支撑,还得解决一个问题:算力不能“浪费”。现在很多地方都有算力,但有的地方算力不够用(比如东部大城市),有的地方算力用不完(比如西部偏远地区),就像有的地方水多泛滥,有的地方水少干旱,这就是“算力孤岛”。要解决这个问题,就得靠算力网络建设——核心是“边缘计算”和“算力调度平台”,一个让算力“靠近用户”,一个让算力“按需分配”。

1. 边缘计算:把算力“搬”到用户身边,减少延迟更安全

热门小说推荐
我见诸君皆废材

我见诸君皆废材

【正文完结,番外不定时掉落中。】成为修仙界顶级战力后,有个自称系统的玩意找上崔淮。“我可以教导你修炼,条件是你去攻略男主晋衍剑尊。”这简直匪夷所思,整个修仙界都没人敢口出狂言,说什么教她修炼。“晋衍剑尊?没记错的话,三百年前他死在我剑下。”突闻男主暴毙的噩耗,系统抽噎着问:”那明霄仙君呢?男配上位也可以。”崔淮:明霄啊,他可死得更早,五百年前就被我杀了。*迟来了一千年,眼看着这本《仙尊他悔不当初》的剧情是无力回天了。系统:没关系,办法总比困难多。算算时间,《大道巅峰》这本男频无CP文剧情已经开始,正好缺个女主,你就去这里谈恋爱吧。被不可抗力压着开小号重头再来的崔淮:“我****你个***”“哔——”系统:检测到宿主情绪激烈,涉及不文明用语,已屏蔽。*扶钦自幼长在凤凰谷,是公认的谷内最强者。凤凰每千年要涅槃一次,将有几十年会实力低微。不同于在谷中安稳度过,扶钦决定出去走走。稀里糊涂拜入一个三流门派,扶钦与平平无奇、修为低微的师妹比了比剑。当晚他把自己关在房里,连夜修书给族内长老。“你们都说我是世上数一数二的强者,怕不是哄我,境界退到炼气后,连我未入道的师妹都没打过。”*当崔淮与扶钦有了几分不清白。她/他:要如何让师兄/师妹知道,我其实长他/她一千岁呢?这是一个互相以为自己是老牛吃嫩草,其实是老牛互啃的故事。*更多说明:1.攻略任务不是本文主要内容,后续有反转。2.不是大女主文,但不会出现女主因受人挟制而爱上一个男人的情节。3.男主大部分情况下打不过女主,但他皮实,比女主抗揍。---下一本大概率会开《重生不涨智商》,求收藏~预收文案如下:林蕴前一秒还在试验田观测,下一秒就穿进宅斗场。农学院大师姐雄赳赳气昂昂,要在大周朝施展拳脚,跨时空实现自我价值。三日后林蕴猝于家中,林府缟素。再次睁开眼睛,林蕴回到三日前,这次一定小心谨慎,争取跨时空实现自我价值。两日后林蕴猝于家中,林府缟素。当林蕴第N次睁开眼睛:……谢邀,人在大周,刚刚重开。建议下次别邀了,放过我吧。*谢钧身负血海深仇,蛰伏十余年,如今位高权重,大仇将报。说完“准备动手”,再睁开眼就回到三日前。没关系,这次加快行动。他刚把仇人的头颅斩下,睁开眼,仇人又活了。当谢钧第七次睁开眼:难不成天道眷顾他的仇人,让他报仇无门?后来谢钧遇到林蕴,才知道不是天灾,是人祸——怎么能有一个蠢货,死七次还不长记性的?*谢钧被迫和林蕴绑定重开,只要林蕴一死,他的复仇大业进度归零。一开始对于林蕴在大宅里的挣扎,他隔岸观火,后面转变为——林蕴你千万别斗了,放着我来!...

快穿之娘娘万福

快穿之娘娘万福

书名:快穿之娘娘万福作者:大行星文案:皇后、贵妃、贵人……作为深宫中的一员,她们无数遗憾掩埋在历史长河中,直至叶湘雅将遗憾挖掘出来,让其重见天日。第一个世界,宋仁宗×郭皇后(已完成)第二个世界,雍正帝×年贵妃(已完成)第三个世界,永琏×孝仪纯皇后(已完成)……ps:快穿后妃,有各朝各代的妃嫔。快穿,穿越背景不考据内容标签:清穿宫斗系统...

迷失大陆

迷失大陆

恐怖的亡灵岛……生命的禁地,亡灵巫师的大本营……也是冒险的目标。 在这个死者横行的土地上,没有生命可以幸免…… 在经过龙族长老和修·克的指导后,冒险者们踏上了这片土地,但是,即使是击败过亡灵巫师的龙族,上一次和亡灵巫师接触也是一百年前了,一百年足够可以发生很多的事情…… 现在的亡灵巫师已经聚集了可怕的力量,可以把人类从世界上抹消的力量……...

我的运势里有你

我的运势里有你

[gl百合]《我的运势里有你gl》作者:安乐思【完结+番外】  简介  白伊来的竞赛名额被人抢了。  她心有不甘,去酒吧借酒消愁。  于是,误打误撞下认识占卜师安斯远。新项目没头绪?安斯远甩方案提...

黑化后我满级归来

黑化后我满级归来

魔族三公主离央天资寻常,在一众貌美的姐姐妹妹衬托下平平无奇,唯一值得称道的,只有那桩因着出生凑巧,与龙族太子定下的婚约。 只是离央三百岁那年,与她青梅竹马的龙族太子对狐妖一见钟情,非卿不娶,执意上门退亲,惹得离央成了六界笑柄。 流言蜚语四起,离央不堪其扰,便隐瞒身份去了神界散心,却得在六界中地位尊崇的明霄帝尊青眼,被他收为弟子,赐下上古神器为本命法器,成了玉朝宫小师妹。 神魔大战重启,离央身份暴露,被魔族指为背叛,身为魔君的父亲震怒,与她断绝关系。 不久,玉朝宫另外一位神尊回归,离央以为待她最好的师尊,为给师妹疗伤,取出赠予她的上古神器,失了本命法器的离央数百年修为尽丧,沦为废人。 这时她才知,自己能入明霄门下,不过是因为他将自己误认为了师妹转世。 后来,离央纵身跳入神魔也要止步的无尽深渊。 魔族三公主,玉朝宫小师妹,皆化尘灰。 千年后,沧海桑田,时移世易,有一女子提剑走出深渊。 在她剑下,神魔也要低眉。 昔日亲故、师尊同门,见了她,都要称一句尊上。 开篇出深渊,各种古早狗血烂梗,文笔有限,如有不适及时退出 排雷:开篇由男主视角引入,剧情需要前期男主含量极高,之后可能也不会太低,主线在女主,所以真的是女主文QAQ不能接受的小天使及时避雷...

灵元苍生录

灵元苍生录

阴为恶,阳为善。善执一恶而独生。恶存一善而独存。善恶交汇,阴阳重生。被人谋杀,却被命运救下,重生的少年朝着复仇前进,当复仇完成之时,却不知苍生大劫已悄然来临。......