小说屋

手机浏览器扫描二维码访问

第354章 算力还是电力(第1页)

“算力是AI世界发展的基础,而算力的瓶颈归根到底还是电力....”

“根据ChatGPT原国外团队,提供的数据来说,他们的AI大模型训练,电力需求将以每年约10%的速度增长,能耗将为常规云工作的三倍。”

“而这仅仅是训练AI模型的前期电力,仅占模型实际使用时所消耗电力的40%。而我们的1%,在这一方面,即便服务器使用的相对来说比运算量的ChatGPT要少30%,这一年来的运转下来,我们的用电量依旧是相当惊人的。”

“是的,AI服务器的功率较普通服务器高6-8倍,这对于电源的需求也将同步提升,通用型服务器原来只需要2颗800W服务器电源,而AI服务器的需求直接提升为4颗1800W高功率电源,服务器能耗成本直接3100元直接飙升到元,大涨3倍。”

“你还没有算应对为运行日益能源密集型工作负载的计算机服务器组群供电和散热而产生的额外成本。”

“以目前的形式来看,大厦的回收电量勉强能够支撑部分支出,但是到了冬日....”

“据全球最大商业房地产服务公司统计,数据中心客户囊括了小型企业到大型云服务供应商,目前消耗电力的速度快于数据中心运营商扩展容量的速度。由于人工智能用例的增加,供应限制日益严重,导致数据中心收取的价格更是离谱,显然这个方案是不可行的。”

.......

在ly大厦的一间会议室中,大家为1%“吃电”的大模型服务器,而感到头疼。

何依霖看着会计送过来的账单,竖起了眉头。“技术开发那块现在怎么说了?”

“可使用高度优化、甚至是更简单、更专业的小型神经网络模型来降低数据中心成本,方法是减少云端的模型规模,将海量参数网络用于快速训练较小的模型,并将工作负载完全移出云端,从而将生成式AI应用程序更加经济高效地分发给智能手机、PC、车辆和移动XR产品等分布式平台上运行。”技术部总监说道。

何依霖在桌子上敲动着手指,对这一块拿不定主意,他技术方面得仰仗李奥才行啊。

“随着消费者使用量的增加,成本将不可避免地攀升。将计算转移到边缘,并将其分配给PC、智能手机和XR设备等客户端是降低资本和运营成本的关键途径。”技术部总监又补充说明道。

“通俗的来说....就是现在人工智能的潜力是无限的,但物理和成本最终可能是界限。”何依霖概括的说道。

“是的。”技术部总监点头说道。

按照当前的技术路线和发展模式,1%必将引发两个问题:一方面,数据中心的规模将会越来越庞大,其功耗也随之水涨船高,且运行越来越缓慢。

另一方面,AI芯片朝高算力、高集成方向演进,依靠制程工艺来支撑峰值算力的增长,制程越来越先进,其功耗和水耗也越来越大。

这时,李奥打来了电话。

何依霖的烦恼顿时烟消云散,今天是李奥出院的日子,今天早上还发微信过来说过几天来新家过生日派对呢。

何依霖赶忙接起,刚接通,就听到李奥近乎咆哮的声音。

“他妈的,我要你从现在开始,以任何手段,针对深控这个狗娘养的,我要穆家从此再无翻身之日,马勒戈壁的。艹!!”

港夜雨眠  正经养崽四年后,豪门亲爹找上门  (历史同人)皇的意志觉醒了  苟在将军府  遥远的回航  混迹在宝可梦中世纪的女巫仙布  为了100亿,我扮演十年恶女  沙洲末世:萝莉也要勇敢驱魔!  惊爆!地下情人是京圈太子爷  被关女子监狱十八年,出狱即无敌  梦归夏朝:拥有貔貅血脉不要太爽  靠美甲系统养病弱王爷  在无限世界努力保持正常人状态  中奖五百万后我随心所欲的人生!  穿越后我拍飞攻略系统  神豪,天降万亿,独领风骚!  我和偏执将军假戏真做了  从突击开始的特种兵  桃桃爱你  你是来上班的吗?  

热门小说推荐
情敌先生,你好啊

情敌先生,你好啊

无女主双洁1v1作为一个含着金汤匙出生的富二代,岑沐白觉得自己的一生也就这样了,别人眼里不学无术的纨绔,父亲眼里的一无是处的废物。除了郁天青自己,没人知道他之所以能够容忍岑沐白各种有理无理的要求和不断的骚扰挑衅,不是因为他脾气好,而是因为他是颜控,岑沐白连每一根眼睫毛都长在了他的审美上!郁天青你喜欢韩轻...

逍遥诸天我只喜欢美人

逍遥诸天我只喜欢美人

看主角成为诸天角色的兄弟,刚开始笑傲林平之大哥倚天谢逊弟弟谢谦…神雕杨过哥哥杨穆…天龙段正熙~大唐双龙徐子陵大哥徐莫然…领略诸天风景,有打斗也有日常,伪无敌,无狗血,女主未知。...

朕法

朕法

阅文安之杯网络文学擂台大赛家国变迁参赛作品魔蝎小说...

最强召唤师

最强召唤师

上一世被人骗财夺命,庄易一直到死前才知道他不是个废物,他是曾经辉煌过的召唤师家族嫡系,只是一直没有觉醒,也再也没有机会变强。重生回到十六岁,庄易做的第一件事就是拿好祖传的玲珑盒尝试让自己觉醒,并且迈出召唤师最重要的第一步召唤本命兽。只是这个本命兽看起来怎么和大陆第一高手雷修总有千丝万缕的关系?恩,一定是错觉。这...

无双轮回

无双轮回

勘破黑客帝国的真实虚幻,留影复仇联盟的武神霸斩争锋中华风云的不世剑决,引领蜀山古剑的乘奔御风对决哈利波特的巫术魔法,逆转X—战警的过去未来御使星球大战的原力波涛,碰撞阿凡达的星球意识且看乐观开朗笑面无限的高天心如何融魔幻古武科技修真四大精华元素为一体,力破千难,智克万险,纵横诸天,无双轮回!...

每日热搜小说推荐