“越大越好”的路径走不通?OpenAI正在寻求训练模型的新方法《流水迢迢》开播,播放量破7000万,更短短4天便吊足观众胃口

发布日期:2024-11-13 24:15

来源类型:雷雷星座 | 作者:新竹

阅读提醒: 财联社11月12日(编辑 牛占林)很多人工智能(AI)科学家和初创公司认为,通过增加更多数据和算力来扩大当前模型,以持续改进AI模型的方法正在走到尽头。因此,像OpenAI这样的AI公司正在寻求通过开...
【香港二四六开奖资料大全?微厂一】 【新澳资料免费】 【2024澳门天天开好彩免费】 【新澳天天彩免费资料大全特色】 【澳门二四六天天免费好材料】 【澳门一码一肖一待一中四不像】 【新澳免费资料网站大全】 【7777788888精准新传真】 【新奥2024年免费资料大全】 【新奥天天免费资料单双】 【新澳全年免费正版资料】 【新澳门免费资料挂牌大全】 【2024新澳免费资料40期】

财联社11月12日(编辑 牛占林)很多人工智能(AI)科学家和初创公司认为,通过增加更多数据和算力来扩大当前模型,以持续改进AI模型的方法正在走到尽头。因此,像OpenAI这样的AI公司正在寻求通过开发新的训练技术来克服当前面临的挑战,这些技术更像人类的思考方式。

自风靡全球的聊天机器人ChatGPT发布以来,科技公司都是通过增加更多数据和算力来扩大并改善AI模型。但现在,一些最杰出的AI科学家正在指出这种“越大越好”的局限性。

人工智能实验室Safe Superintelligence和OpenAI的联合创始人Ilya Sutskever近日表示,扩大预训练(训练AI模型的阶段,该模型使用大量未标记的数据来理解语言模式和结构)所取得的成果已经达到了一个平稳期,对提升模型性能的帮助有限。

Sutskever早期主张通过在预训练中使用更多数据和算力来实现生成式AI的巨大飞跃,这最终创造了ChatGPT。他今年早些时候离开OpenAI,创立了Safe Superintelligence。

Sutskever表示:“以前是规模扩张的时代,现在我们又回到了奇迹和发现的时代。每个人都在寻找下一个东西,这比以往任何时候都更重要。”

此外,Sutskever还承认他的公司正在研究一种扩大预训练规模的替代方法,但未透露更多细节。

新技术竞赛

大模型的所谓“训练”需要同时运行数百个芯片,成本可能高达数千万美元。考虑到系统的复杂性,它们更有可能出现硬件导致的故障;在测试结束之前,研究人员可能无法知道这些模型的最终性能,这可能需要几个月的时间。

另一个问题是,大语言模型吞噬了大量数据,而AI模型已经耗尽了世界上所有容易获取的数据。电力短缺也阻碍了训练运行,因为这个过程需要大量的能源。

为了克服这些挑战,研究人员正在探索测试时计算(test-time compute),这是一种在所谓的推理阶段或使用模型时增强现有AI模型的技术。例如,模型可以实时生成和评估多种可能性,最终选择最佳前进路径,而不是立即选择一个答案。

这种方法使模型能够将更多的处理能力投入到具有挑战性的任务中,比如数学或编码问题或需要类似人类的推理和决策的复杂操作。

OpenAI研究员Noam Brown此前表示:“事实证明,让一个机器人在一盘扑克牌中思考20秒,与将模型放大10万倍、训练时间延长10万倍的效果相同。”

OpenAI 在其新发布的模型“o1”中采用了这项技术,与此同时,来自Anthropic、xAI和DeepMind等其他顶尖AI实验室的研究人员也在致力于开发自己的技术版本。

OpenAI首席产品Kevin Weil表示:“我们看到了很多低垂的果实,摘下来让这些模型变得更好。等到人们迎头赶上的时候,我们会努力开发新的技术。”

多位科学家、研究人员和投资者认为,这种新技术可能会重塑AI军备竞赛,并对AI公司所需求的各类资源产生影响。

【新澳2024大全正版免费】 【2024正版资料免费公开】 【2024新澳最快最新资料】 【新澳门精准资料大全管家婆料】 【2024澳门正版资料大全资料】 【新奥门免费资料大全历史记录开马】 【新奥好彩最准确免费资料】 【新澳天天开奖资料大全最新】 【202024新澳精准资料免费】 【新奥天天精准资料大全】 【二四六期期更新资料大全】 【2024新澳最精准资料大全】 【7777788888澳门开奖2023年一】 【7777788888香港马】
【澳门2O24年全免咨料】 【2024澳门天天六开彩免费资料】 【2024澳门今晚开特马结果】 【新奥精准资料免费提供】 【2024澳门码今晚开奖结果】 【2024新澳正版免费资料大全一一】 【2024澳门天天彩免费正版资料】 【新澳最精准资料免费提供】 【澳门天天开彩免费资料大全新版】 【2024澳门天天开好彩大全免费】 【2024新澳门免费资料免费大全】 【香港今晚六给彩开奖结果七十八】 【2024新澳最精准资料】 【澳门六开彩天天免费资讯统计】

下载中心

视频封面

视频名称:幼师体罚学生!被警方采取强制措施!当地回应

大小: 4.4GB 下载:(688076) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:进一步释放进博会吸引力,上海青浦推出六大进博出行主题游线路

大小: 3.2GB 下载:(724424) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:财政部部长:对新增隐性债务“零容忍”都市爱情剧《失笑》今晚开播,高颜值阵容堪称颜粉春天,该火了

大小: 3.7GB 下载:(371051) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:让一追四!王曼昱4-1陈幸同挺进决赛 世界第二刚复出就显统治力

大小: 2.5GB 下载:(598207) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:【惠誉常青】受邀参加第十五届财新峰会:中国ESG30人论坛2024 年会

大小: 8.9GB 下载:(267253) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:对孩子没有期待真的是最好的养育方式吗?

大小: 7.7GB 下载:(205917) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:中国古典学的开阔视野与包容特征

大小: 1.1GB 下载:(638823) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:特朗普胜选,对海运业影响有多大?

大小: 2.8GB 下载:(970259) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:小鹏发布鲲鹏超级电动体系,增程、飞行器全都有

大小: 1.2GB 下载:(270008) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:文旅副局长爆火后被质疑“太年轻”“开美颜”,本人回应

大小: 9.8GB 下载:(562971) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:堪比宫心计的发布会,从赵露思到刘宇宁,全员为博热度各显神通

大小: 2.8GB 下载:(209413) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:百万年薪流浪汉再创神迹,从赛季0表现到价值亿万他书写新传奇

大小: 9.6GB 下载:(499524) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:隐形战机苏-57抵达! 运-20、歼-10C、歼-16都来了

大小: 1.4GB 下载:(18321) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:气场不输闫妮,演技不输蒋欣,出道多年的李倩却不火,如今出圈了基辅会战多残酷?苏军50个师成建制消失,70万损失打醒苏联北极熊

大小: 8.5GB 下载:(743494) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:真是越贵就越安全?还真未必,解读懂车帝30款热门车碰撞测试

大小: 1.6GB 下载:(381159) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:狗为什么可以成为人类最忠实的朋友?它和人之间到底发生了什么?

大小: 4.7GB 下载:(248355) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:澳门演唱会,徐子尧刀郎合唱亮眼,云朵解约错失走红良机金星事件后续,国内演出全部取消,黑料太多或出国,结局大快人心

大小: 8.1GB 下载:(876483) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:十方融海助力老年教育,打造数字时代银发学习新篇章

大小: 9.8GB 下载:(712743) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:吞噬星空2—第三集 第三集第36章镇压(抢先版) 持续更新

大小: 4.9GB 下载:(696287) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:“四叶草”观察家|上海地铁国家会展中心站迎大客流,上午10时前已有5万余人抵达“四叶草”

大小: 5.8GB 下载:(857849) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:魏后凯实现高质量、全面、可持续的区域协调发展

大小: 4.4GB 下载:(898058) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:我家买智能马桶,只看这7点,别的不为,就为省钱和实用

大小: 1.7GB 下载:(464520) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:4部热门必看动漫推荐,有哪个让你印象最深呢

大小: 1.5GB 下载:(490933) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:约旦2-0韩国晋级亚洲杯决赛!奈马特破门,塔马里一条龙+助攻

大小: 1.6GB 下载:(876027) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:《中国国家地理》——航拍

大小: 6.5GB 下载:(379961) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:歼35正式官宣,中国拿下世界第二,完美避开了美国踩过的“坑”

大小: 4.2GB 下载:(2587) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:中央点名后 南昌决心“一拆到底”

大小: 2.9GB 下载:(76048) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:曾靠与奶茶联名翻红的阿华田再现颓势

大小: 8.4GB 下载:(601741) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:又飒又温馨ฅ ˘ฅ云南“汪汪队”是怎样炼成的?

大小: 1.8GB 下载:(512224) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:《永夜星河》首播将至,阿娇出山演配角,古装剧又有颜值天花板

大小: 3.8GB 下载:(280900) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)
视频封面

视频名称:国行 iPhone 无线充电功率腰斩,到底是谁的锅?

大小: 8.5GB 下载:(97887) 语言: 中文字幕 最后更新: 2024年11月14日

下载视频 (注:防盗链已开启)

评论

打开APP查看59条评论

李爱明

7秒前

电力短缺也阻碍了训练运行,因为这个过程需要大量的能源。

节俊红

5分钟前

等到人们迎头赶上的时候,我们会努力开发新的技术。

刘万利

1天前

此外,Sutskever还承认他的公司正在研究一种扩大预训练规模的替代方法,但未透露更多细节。

发表您的评论: