“越大越好”的路径走不通?OpenAI正在寻求训练模型的新方法《流水迢迢》开播,播放量破7000万,更短短4天便吊足观众胃口

发布日期:2024-11-13 13:15

来源类型:搜狐 | 作者:鲍比·莫雷诺

阅读提醒: 财联社11月12日(编辑 牛占林)很多人工智能(AI)科学家和初创公司认为,通过增加更多数据和算力来扩大当前模型,以持续改进AI模型的方法正在走到尽头。因此,像OpenAI这样的AI公司正在寻求通过开...
【210期新澳天天开好彩结果】 【2024年新奥门免费资料17期】 【澳彩最准免费资料大全澳门王子】 【2024澳门今晚开特马结果】 【2024港澳免费资料】 【新澳姿料正版免费资料】 【2024年新澳门天天开彩大全】 【600图库大全免费资料图2024】 【新澳2024资料大全免费】 【新澳门精准免费资料大全】 【澳彩资料免费提供】 【新奥天天免费资料单双】 【新澳资料免费精准期期准】

财联社11月12日(编辑 牛占林)很多人工智能(AI)科学家和初创公司认为,通过增加更多数据和算力来扩大当前模型,以持续改进AI模型的方法正在走到尽头。因此,像OpenAI这样的AI公司正在寻求通过开发新的训练技术来克服当前面临的挑战,这些技术更像人类的思考方式。

自风靡全球的聊天机器人ChatGPT发布以来,科技公司都是通过增加更多数据和算力来扩大并改善AI模型。但现在,一些最杰出的AI科学家正在指出这种“越大越好”的局限性。

人工智能实验室Safe Superintelligence和OpenAI的联合创始人Ilya Sutskever近日表示,扩大预训练(训练AI模型的阶段,该模型使用大量未标记的数据来理解语言模式和结构)所取得的成果已经达到了一个平稳期,对提升模型性能的帮助有限。

Sutskever早期主张通过在预训练中使用更多数据和算力来实现生成式AI的巨大飞跃,这最终创造了ChatGPT。他今年早些时候离开OpenAI,创立了Safe Superintelligence。

Sutskever表示:“以前是规模扩张的时代,现在我们又回到了奇迹和发现的时代。每个人都在寻找下一个东西,这比以往任何时候都更重要。”

此外,Sutskever还承认他的公司正在研究一种扩大预训练规模的替代方法,但未透露更多细节。

新技术竞赛

大模型的所谓“训练”需要同时运行数百个芯片,成本可能高达数千万美元。考虑到系统的复杂性,它们更有可能出现硬件导致的故障;在测试结束之前,研究人员可能无法知道这些模型的最终性能,这可能需要几个月的时间。

另一个问题是,大语言模型吞噬了大量数据,而AI模型已经耗尽了世界上所有容易获取的数据。电力短缺也阻碍了训练运行,因为这个过程需要大量的能源。

为了克服这些挑战,研究人员正在探索测试时计算(test-time compute),这是一种在所谓的推理阶段或使用模型时增强现有AI模型的技术。例如,模型可以实时生成和评估多种可能性,最终选择最佳前进路径,而不是立即选择一个答案。

这种方法使模型能够将更多的处理能力投入到具有挑战性的任务中,比如数学或编码问题或需要类似人类的推理和决策的复杂操作。

OpenAI研究员Noam Brown此前表示:“事实证明,让一个机器人在一盘扑克牌中思考20秒,与将模型放大10万倍、训练时间延长10万倍的效果相同。”

OpenAI 在其新发布的模型“o1”中采用了这项技术,与此同时,来自Anthropic、xAI和DeepMind等其他顶尖AI实验室的研究人员也在致力于开发自己的技术版本。

OpenAI首席产品Kevin Weil表示:“我们看到了很多低垂的果实,摘下来让这些模型变得更好。等到人们迎头赶上的时候,我们会努力开发新的技术。”

多位科学家、研究人员和投资者认为,这种新技术可能会重塑AI军备竞赛,并对AI公司所需求的各类资源产生影响。

【新澳全年免费资料大全】 【新奥六开彩资料2024】 【2024新奥正版资料最精准免费大全】 【新奥免费精准资料大全】 【澳门天天彩免费资料大全免费查询,】 【7777788888王中王狗】 【2004新奥精准资料免费提供】 【新澳精准资料期期精准24期使用方法】 【新澳精准资料免费提供最新版】 【246天天好资料免费精选版】 【新澳门彩出特生肖走势】 【2024澳门天天六开彩直播】 【7777788888新澳门开奖结果】 【2024澳门正版资料大全资料】
【新澳资料免费最新正版】 【新奥天天精准资料大全】 【2024新澳门天天开好彩大全正版】 【新澳今天最新资料】 【澳门六开奖结果2024开奖今晚】 【2024新奥正版资料免费提供】 【新澳门天天彩2024年全年资料】 【新澳门资料免费大全最新更新内容】 【二四六管家婆期期准资料】 【澳门单双期期准】 【2024年正版资料免费大全下载】 【2024年新奥正版资料免费大全】 【澳门一码一肖100准吗】 【奥彩网站准确资料查询大全】

下载中心

视频封面

视频名称:靴子落地!美联储降息25个基点

大小: 4.3GB 下载:(142097) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:感知日照 发展新质生产力要做好“人才”文章当婆婆面亲吻公公,于晓光表情亮了,秋瓷炫这次给所有人提了个醒

大小: 4.3GB 下载:(169794) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:精神分裂症怎样才算治好了?超过60%的患者通过它痊愈

大小: 2.3GB 下载:(383589) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:今天下班去哪?带着孩子去宜家,做个大赢家

大小: 4.9GB 下载:(773333) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:国家统计局:10月份CPI同比涨幅略有回落 PPI环比降幅明显收窄

大小: 9.7GB 下载:(67664) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:小说:他惊讶于自己的穿越时,有人来挑衅,他用一招将对方摔下马

大小: 9.7GB 下载:(537992) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:张晚意《时装男士》11月封面来袭,首张封面秀,帅气十足超吸睛。

大小: 9.5GB 下载:(354498) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:早教机构虐童?家长称孩子受伤,机构回应:触碰尖锐物被罚

大小: 2.6GB 下载:(896091) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:女子11元拍到海景房险被老公拒收,网友:房价如葱时代到来了?猪肉腥味最怕它,炖猪肉时加“1勺”,软糯不柴,香味浓郁,好吃

大小: 4.5GB 下载:(670240) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:中华民族现代文明的内涵与意义

大小: 3.8GB 下载:(831720) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:她是大导演力捧的劳模黄宝妹,如今年近90来给学生上党课

大小: 1.8GB 下载:(74886) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:太可惜了!郑钦文总决赛1-2不敌高芙,屈居亚军,不过已经很棒了

大小: 4.6GB 下载:(800323) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:A股迎来里程碑时刻!科技打头阵,就是这么牛

大小: 4.9GB 下载:(450336) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:男子8天加班41小时猝死,此类事件应该引起重视!

大小: 9.3GB 下载:(11358) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:许春华 孔子诗学思想的两种面向——《论语》与《史记·孔子世家》的比较

大小: 1.9GB 下载:(810295) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:高铁站员工被曝上班慵懒盘核桃,官方回应引发热议

大小: 9.7GB 下载:(775065) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:日行两万步,有人六届全勤 80名东航“凌燕”志愿者亮相进博

大小: 2.8GB 下载:(70520) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:白敬亭新剧《南来北往》杀青!导演是郑晓龙,配角阵容太豪华!

大小: 5.1GB 下载:(162752) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:不要再骂了!腾讯开始适配纯血鸿蒙,不仅微信,超20款腾讯应用原来丑得“千奇百怪”的他们,年轻时那么帅气,开始为肖战担心了

大小: 9.2GB 下载:(924107) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:罗志恒:如何理解“力度最大”的化债行动?

大小: 1.3GB 下载:(288336) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:十年前热门网游排行榜前十都是谁?这些游戏如今怎么样了?

大小: 2.6GB 下载:(593113) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:5本网文分析:病娇文学为什么令人上头?

大小: 4.9GB 下载:(399893) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:写字楼电梯张贴“温馨提示”称“钢带异常最多乘8人”,网友:心真大!3年前,宁夏7岁小女孩一笑走红,后拒百万签约,如今怎么样了?

大小: 6.7GB 下载:(849099) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:如何提高养老金长期收益?专家建言:提高基金委托投资规模和比例《暗夜与黎明》女主都压不住!又一45岁女N号出圈,抓住我的眼球

大小: 4.9GB 下载:(157897) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:一口气推荐10款“烧脑”桌游,快囤!这个暑假够玩了

大小: 3.3GB 下载:(748494) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:孩子不小心将自己反锁在房间里,看智慧妈妈如何巧妙化解危机?

大小: 7.1GB 下载:(134659) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:2024年几款的头戴耳机,非常适合户外或者工作

大小: 6.5GB 下载:(499528) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:Kliu|乌克兰:如果特朗普撂摊子怎么办?

大小: 1.9GB 下载:(847386) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“真的不是开黄腔吗?”这首歌在低年级风靡,家长苦恼根本防不住

大小: 8.6GB 下载:(332244) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:共享发展机遇 凝聚广泛共识

大小: 2.9GB 下载:(415894) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:女子取快递被造谣出轨,她拿起法律的武器

大小: 8.9GB 下载:(1449) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)

评论

打开APP查看58条评论

李彦菊

5秒前

因此,像OpenAI这样的AI公司正在寻求通过开发新的训练技术来克服当前面临的挑战,这些技术更像人类的思考方式。

Mamhoud

4分钟前

他今年早些时候离开OpenAI,创立了Safe Superintelligence。

李世阳

7天前

考虑到系统的复杂性,它们更有可能出现硬件导致的故障;在测试结束之前,研究人员可能无法知道这些模型的最终性能,这可能需要几个月的时间。

发表您的评论: