【香港二四六开奖资料大全?微厂一】 | 【新澳资料免费】 | 【2024澳门天天开好彩免费】 | 【新澳天天彩免费资料大全特色】 | 【澳门二四六天天免费好材料】 | 【澳门一码一肖一待一中四不像】 | 【新澳免费资料网站大全】 | 【7777788888精准新传真】 | 【新奥2024年免费资料大全】 | 【新奥天天免费资料单双】 | 【新澳全年免费正版资料】 | 【新澳门免费资料挂牌大全】 | 【2024新澳免费资料40期】 |
财联社11月12日(编辑 牛占林)很多人工智能(AI)科学家和初创公司认为,通过增加更多数据和算力来扩大当前模型,以持续改进AI模型的方法正在走到尽头。因此,像OpenAI这样的AI公司正在寻求通过开发新的训练技术来克服当前面临的挑战,这些技术更像人类的思考方式。
自风靡全球的聊天机器人ChatGPT发布以来,科技公司都是通过增加更多数据和算力来扩大并改善AI模型。但现在,一些最杰出的AI科学家正在指出这种“越大越好”的局限性。
人工智能实验室Safe Superintelligence和OpenAI的联合创始人Ilya Sutskever近日表示,扩大预训练(训练AI模型的阶段,该模型使用大量未标记的数据来理解语言模式和结构)所取得的成果已经达到了一个平稳期,对提升模型性能的帮助有限。
Sutskever早期主张通过在预训练中使用更多数据和算力来实现生成式AI的巨大飞跃,这最终创造了ChatGPT。他今年早些时候离开OpenAI,创立了Safe Superintelligence。
Sutskever表示:“以前是规模扩张的时代,现在我们又回到了奇迹和发现的时代。每个人都在寻找下一个东西,这比以往任何时候都更重要。”
此外,Sutskever还承认他的公司正在研究一种扩大预训练规模的替代方法,但未透露更多细节。
新技术竞赛
大模型的所谓“训练”需要同时运行数百个芯片,成本可能高达数千万美元。考虑到系统的复杂性,它们更有可能出现硬件导致的故障;在测试结束之前,研究人员可能无法知道这些模型的最终性能,这可能需要几个月的时间。
另一个问题是,大语言模型吞噬了大量数据,而AI模型已经耗尽了世界上所有容易获取的数据。电力短缺也阻碍了训练运行,因为这个过程需要大量的能源。
为了克服这些挑战,研究人员正在探索测试时计算(test-time compute),这是一种在所谓的推理阶段或使用模型时增强现有AI模型的技术。例如,模型可以实时生成和评估多种可能性,最终选择最佳前进路径,而不是立即选择一个答案。
这种方法使模型能够将更多的处理能力投入到具有挑战性的任务中,比如数学或编码问题或需要类似人类的推理和决策的复杂操作。
OpenAI研究员Noam Brown此前表示:“事实证明,让一个机器人在一盘扑克牌中思考20秒,与将模型放大10万倍、训练时间延长10万倍的效果相同。”
OpenAI 在其新发布的模型“o1”中采用了这项技术,与此同时,来自Anthropic、xAI和DeepMind等其他顶尖AI实验室的研究人员也在致力于开发自己的技术版本。
OpenAI首席产品Kevin Weil表示:“我们看到了很多低垂的果实,摘下来让这些模型变得更好。等到人们迎头赶上的时候,我们会努力开发新的技术。”
多位科学家、研究人员和投资者认为,这种新技术可能会重塑AI军备竞赛,并对AI公司所需求的各类资源产生影响。
【新澳2024大全正版免费】 | 【2024正版资料免费公开】 | 【2024新澳最快最新资料】 | 【新澳门精准资料大全管家婆料】 | 【2024澳门正版资料大全资料】 | 【新奥门免费资料大全历史记录开马】 | 【新奥好彩最准确免费资料】 | 【新澳天天开奖资料大全最新】 | 【202024新澳精准资料免费】 | 【新奥天天精准资料大全】 | 【二四六期期更新资料大全】 | 【2024新澳最精准资料大全】 | 【7777788888澳门开奖2023年一】 | 【7777788888香港马】 |
【澳门2O24年全免咨料】 | 【2024澳门天天六开彩免费资料】 | 【2024澳门今晚开特马结果】 | 【新奥精准资料免费提供】 | 【2024澳门码今晚开奖结果】 | 【2024新澳正版免费资料大全一一】 | 【2024澳门天天彩免费正版资料】 | 【新澳最精准资料免费提供】 | 【澳门天天开彩免费资料大全新版】 | 【2024澳门天天开好彩大全免费】 | 【2024新澳门免费资料免费大全】 | 【香港今晚六给彩开奖结果七十八】 | 【2024新澳最精准资料】 | 【澳门六开彩天天免费资讯统计】 |
评论
打开APP查看59条评论李爱明
7秒前
电力短缺也阻碍了训练运行,因为这个过程需要大量的能源。
节俊红
5分钟前
等到人们迎头赶上的时候,我们会努力开发新的技术。
刘万利
1天前
此外,Sutskever还承认他的公司正在研究一种扩大预训练规模的替代方法,但未透露更多细节。
发表您的评论: