直面大模型“大成本”挑战,如何提高算力效率?

最佳回答:

直面大模型“大成本”挑战,如何提高算力效率?

  中新网北京6月3日电 (记者 夏宾)最近几年来,为了寻求年夜模子的聪明能力,列国公司不断加码投入,4月,Meta公布追加10亿美元投资,用于其AI芯片研发和AI数据中间扶植;亚马逊为了扶植新数据中间投入110亿美元。但在年夜模子扩大的背后,算力价格、能源价格一样庞大。   有业界手艺团队测算,若要对一个5000亿参数范围的单体年夜模子进行充实练习,所需算力根本举措措施约在10亿美元范围,每一年耗损的电费在5.3亿元人平易近币。不管对哪一个机构、企业,这都是天文数字和庞大价格,中国也不破例。   知名科学杂志《Nature》此前颁发了一篇关于年夜模子将来成长之路的文章,《In Al, is bigger always better?》(人工智能,越年夜型越好?)。争议的呈现,意味着AI成长标的目的呈现了不合。   现在,“年夜”不再是模子的独一寻求,计较效力和算力开消两年夜问题成为新的行业核心。   对年夜模子推理本钱的优化,可经由过程良多手艺手段实现。起首是模子自己,模子布局、练习方式都可以延续改良,包罗业界很存眷的MoE(夹杂专家模子),就是优化推理本钱很好的解决方案。其次是工程上的优化。年夜模子的挪用量越年夜,优化推理本钱的空间也越年夜。之前的模子都是单机推理,年夜模子用的是散布式推理。所以假如能把各类各样底层算力用得更好,推理本钱就会年夜年夜下降。   MoE年夜模子的流行,现实上对应的恰是模子能力和算力开消两年夜问题的解决。这也是为什么浩繁年夜模子厂商如OpenAI、谷歌、Mistral AI、海潮信息等陆续基于MoE架构进级自家年夜模子产物的缘由。   从海潮信息发布的“源2.0-M32”开源年夜模子来看,其基于“源2.0”系列年夜模子已有工作根本,立异提出和采取了“基于留意力机制的门控收集”手艺,构建包括32个专家(Expert)的夹杂专家模子(MoE),并年夜幅晋升了模子算力效力,模子运行时激活参数为37亿,在业界主流基准评测中机能周全对标700亿参数的LLaMA3开源年夜模子。   海潮信息人工智能首席科学家吴年光光阴在接管中新网记者采访时说,我们一向在想若何以更低的算力耗损,提高全部年夜模子的利用结果,能让企业、机构以更小的算力价格去取得更高的模子能力。“这多是中国成长本身的AI年夜模子比力行之有用的路径。”   他直言,年夜模子推动速度愈来愈快,必需强调模子算力效力。“大师可以想象,效力越高就意味着在单元算力投入相等的环境下取得的精度回报越高,它对练习和利用都很是有益。”   “实际的算力是有限的,我们几回再三频频强调模算效力,试图针对当前算力环境闯出一条本身感觉比力好的门路。在固定每一个Token算力不变的环境下,经由过程扩大专家数目可以取得更年夜参数目的模子,进而取得更高精度。”吴年光光阴说。   他进一步称,整体来看,虽然当前模子的能力晋升很是之快,但之前大师更多存眷单个维度问题,即平均精度的晋升。但年夜模子进入快速落地时期,就不能不斟酌更多维度的问题,包罗模算效力、精度、算力开消等。   中国工程院院士郑纬平易近曾做过如许的计较,在年夜模子练习过程当中,70%开消要花在算力上;推理过程当中95%的破费也是在算力上。   为解决年夜模子练习的算力不足问题,郑纬平易近建议,在鞭策智能计较中间扶植同时也能够操纵已有超算系统的空余算力。   郑纬平易近暗示,现有14个国度挂牌的超算系统,每台机械的扶植本钱都很高,本钱在10亿元至20亿元,乃至更高。这些超算系统已为中国的国平易近经济成长作出庞大进献,但有些系统还有空余算力,这些空余算力也可被用来做年夜模子练习,且颠末优化乃至可下降年夜模子练习本钱。   对近期中国企业的一轮年夜模子降价,零一万物CEO李开复暗示,将来全部行业的推理本钱每一年下降十倍是可以等候的,且这个趋向是必定的,如斯会有更多人用上年夜模子,这长短常利好的动静。(完) 【编纂:刘湃】。

太原市小店村,这个平凡无奇的小村庄,近日却掀起了一股前所未有的标题狂潮。村里的居民们似乎竞相追逐着这个新奇的现象,每个巷子里都弥漫着无数的标题,不知所以然却又怎能不让人好奇。

如果说村里的巷子曾经宁静祥和,那么现在的它们却成了一片混乱无序的舞台。从巷子的每个角落都能看到一张张写满各种各样标题的纸片。无论是村民们的大门口还是小巷弯道,都被这些杂乱无章的标题搞得一片狼藉。

意见反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有

时事|瓦房店哪里有卖淫女电话,一无是处-百态杂谈

跟团游出现新潮流,忘年之交乐享旅途

最佳回答:

跟团游出现新潮流,忘年之交乐享旅途

  跟团游呈现新潮水,忘年之交乐享旅途——   年青人报名老年团 该省省该花花   头戴印有观光团名称的帽子、坐着年夜巴车穿梭于景点与酒店之间、追随导游的批示参不雅景区……对老年观光团,人们常常持有如许单调的呆板印象。现在,却呈现了一股新潮水——很多年青人“误入”或自动选择插手老年观光团,睁开一场标新立异的文化融合之旅。   误打误撞   感触感染到白叟的善意   “误打误撞进了老年团,发现老年团真不错!”不久前,因为姑且决议去贵州旅游,来不及本身做攻略,30岁的喷鼻梨报名了一个本地的观光团,到了才发现,同团的旅伴年夜大都是她父辈的年数。   “其实我报名时不知道是老年团,上了车才发现,除我和两个小伙子,其他都是已退休的白叟。”第一次碰到如许的场景,喷鼻梨有点惊奇。但行程最先后,她欣喜地发现,这场与银发族并肩的旅途,有很多不测欣喜。   第一天和旅伴们围坐在饭桌边,一名阿姨就取出了提早预备好的小礼品。“今天见到大师都是缘分……”收到一份碰头礼,大师以此打开了话匣子,最先了闲谈。   喷鼻梨之前报过的观光团,都是年青人比力多。“那些旅游团吃饭的时辰,大师都是闷头吃,吃完了就散了。可是此次碰到的一些阿姨会更自动地跟大师交换,感受很协调。”   更让喷鼻梨感应不测的收成,是和年夜爷年夜妈们学会了离别“精力内讧”。   “你们的坐位还有改良的空间,好比坐位太低了,坐垫也偏硬,没有我前次跟团的车好。”刚一下车,一名年夜叔就和导游提出了本身的定见。空调温度、麦克风音量、房间朝向……四天当中,团里的白叟们几近都或多或少地提了定见。   “之前跟年青人的团,有甚么怨言大师就是在群里吐槽。假如我碰到了问题,大要率会感觉‘多一事不如少一事’,自我消化失落,而白叟们城市表达出来,我只感觉自愧不如……”得益于白叟们的直言不讳,此次的观光体验一点点变好,这也让喷鼻梨意想到了作为消费者,明白表达需求的主要性。“之前跟团游只能忍气吞声,此刻咱直接斗胆说不!”   与年夜大都年青人分歧,除用照片和视频记实本身的观光,有些白叟还会在旅途中撰写纪行。一名白叟天天把所思所想写出来,发布在公家号上。“这位年夜叔还会分享到群里。我点进去浏览发现,他会连系观光和本身的履历,写一篇小小的纪行,是那种很丰年代感的文笔。看完让我很有感慨,感受完全沉醉在了他去的处所。”   此次参团履历,让喷鼻梨从头思虑本身的观光体验。“我发现白叟们会很顾惜每次观光途中的所见所闻,会想要多去跟本地人交换,对景点的典故和故事也更有根究的愿望,我感觉这方面我还略微浮浅了一点。”   互帮合作   收成满满情感价值   与喷鼻梨的偶尔“闯入”分歧,栖身在上海的婴宁,自称是老年团的果断拥戴者。自从2022年秋季第一次加入老年团以后,她已介入了十屡次老年观光团,年夜大都都是在江浙沪地域。“在团里,除白叟带来的小孙子、小孙女,我没有看到过比我年数更小的团友。”   频频选择老年团,起首就是由于性价比高。“白叟平生履历过那末多,他们很是寻求性价比。我加入的良多老年团,全程三五天的时候,一小我一天平均100多元,包罗食宿、景点和交通,这个价钱很是适合。”另外一个让婴宁心动的缘由是,老年团的受众决议了其不是“特种兵式”旅游,行程放置较为公道,玩下来不会特殊累。   “你多吃呀!”餐桌上,有些初度碰头的白叟,会担忧婴宁欠好意思,劝她多吃饭。婴宁笑着说,良多白叟都很喜好她,特地赐顾帮衬她这个年青人。接触下来,白叟们发现她吃得很多,才放下心来。   “我是外向的人,和七八十岁的白叟也都无障碍交换。”观光途中,白叟们会和婴宁聊一些家长里短、健康常识,但大师都有鸿沟感,其实不会追问隐私话题。“我也会知道本身甚么时辰该措辞,甚么时辰不应措辞。”   “能加入旅游团的老年人相对来讲,有钱、有闲、身体健康,他们凡是也性情开畅,愿意分享。”在与白叟们的交换和相处中,婴宁发现,白叟们的人生经验和处世立场,对她的糊口很有鉴戒意义。“有时我们在观光中碰到了一些坚苦,我不知道该怎样解决,但白叟们一句话就可以轻松化解。”   观光中,年青人不但是受益者,从老一辈那边罗致了贵重的糊口聪明,也是帮忙者,帮忙白叟们解决在数字时期的小困扰。   “我的手机出了问题,你帮我看看”“Wi-Fi该怎样连”“《甄嬛传》要怎样下载啊”……一看到婴宁,白叟们就找到了一名好辅佐,提出了连续串的问题。这些白叟眼中的辣手问题,年青人解决起来绝不吃力。“他们敌手机、互联网不是特殊熟,所以我只要一呈现在团里,所有碰到坚苦的白叟城市来找我。我都记不清有过量少次帮白叟设置手机了,做完以后他们很高兴,我也很高兴,我感觉是双赢吧!”在白叟们的夸赞中,婴宁感受像是成了“团宠”,收成了满满的情感价值。   避免踩坑   报团看好行程介绍   “碰到了一群超等有趣的叔叔阿姨,他们都是高学历、高本质的人,前提特殊好……老是自动分享美食和用品,生怕你不敷用”“随着老年团就能够全程托管,让‘老’伴侣们帮手兼顾”“报了老年团,同团的奶奶给介绍了富二代”……收集上,环绕“年青人报名老年团”的文章,有很多带有有趣的情节,吸引了良多存眷。   记者细心领会后发现,这些分享者常常就是旅游行业从业者,经由过程强调宣扬老年报酬年青人分享美食、保举工作、介绍对象等“益处”,来给观光产物打告白。   事实上,并非所有的老年观光团都是一片“净土”。有些年青人在介入过程当中发现,部门观光团存在引诱消费的现象,特别是会针对信息相对闭塞、维权意识较弱的老年群体,操纵各类套路来强迫消费。   婴宁就曾有过这类履历,此前,她加入了前去江苏的一日游老年团,“原本说是去木渎古镇,但导游为了能有时候去购物点,姑且更改线路。每人交了99元,一个景点都没去,光去了三个购物点。那一次给人的感受是老年人的时候不值钱。”   如许的履历对婴宁起到了警示感化,她呼吁同业的年青人应当阐扬本身能谙练获得信息的优势,提示团内的老年人留意辨认消费圈套。“有时辰我用手机一搜,就可以发现他们买的商品价钱太高。”   实际中,穿越代际的交往,也并不是合适所有人。在社交平台上,有很多年青人埋怨,加入老年团时与白叟糊口习惯分歧,碰到一些未便。也有人说,时不时被导游带着活跃氛围、拍手唱歌,在车上难以歇息。   “我刷到过博主加入老年团的视频,常常是从比力弄笑的视角去切入,记实跟老年人一路唱歌、一路摄影的趣事。”在喷鼻梨看来,如许的老年团较合适外向的人,即便是年青人,也能够和白叟打成一片。比拟而言,内向的人更合适人数较少、更恬静的团。   记者访问几家线下观光社领会到,对面向全春秋段的观光团,报名时没法得知团员春秋,但在非节沐日的时段,报团的老年人较多。一位观光社的工作人员介绍,针对老年人推出的“落日红团”节拍会相对慢一些,很受老年人接待,但现实上中青年人也能够报名。“有些年青人参团后,会和白叟相互赐顾帮衬。”   旅游业内助士建议,不管是年青人仍是老年人,在选择观光团时都应当看好介绍,确认行程放置、费用明细和是不是有针对性的春秋限制或特殊申明,避免没必要要的麻烦和损掉。   本报记者 相旭阳 文   来历:北京晚报 【编纂:曹子健】。

瓦房店,一座位于中国辽宁省的小城市,即将成为全球关注的焦点。当今正处于世界杯狂热的夏天,这座城市不仅吸引了众多球迷的注意,也因为一种令人瞠目结舌的信息而引起了广泛关注。

不久前,一则关于瓦房店的留言引起了轩然大波。一位网友留言称,在瓦房店地区存在一些卖淫女的电话,并提供了详细信息。这一留言迅速传播开来,在网络上引起了很大的争议和关注。

意见反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有

Request Error!