推理规模扩展定律（inference scaling law）会成为大力出奇迹的新 …
网页并非因为 o1 的数学能力特别强，或者它能理解晦涩的小说内容，而是 o1 似乎真的探索出了大力出奇迹的一条新的方向，那就是在推理上的大力出奇迹，或者有学术一点的说法，叫推理规模扩展定律（inference scaling law）。. 以前我们谈论的大力出奇迹或者说规模 ...
刚刚，OpenAI震撼发布o1大模型！强化学习突破LLM推理极限 | 机 …
网页2024年9月13日 · OpenAI 发现，随着更多的强化学习（训练时计算）和更多的思考时间（测试时计算），o1 的性能持续提高。而且扩展这种方法的限制与大模型预训练的限制有很大不同，OpenAI 也还在继续研究。 评估
大模型的规模扩展是否可持续？ - 知乎专栏
网页2024年1月29日 · 如果我们能不断扩展LLMs++的规模（并因此取得更好和更通用的性能），就有理由期望到2040年（或更早）出现强人工智能，它能够自动化大部分认知劳动并加速人工智能研究。. 然而，如果扩展（scaling）不起作用，那么实现AGI的道路则会变得更加漫长、棘手。. 为 ...
大模型的规模扩展是否可持续？ - CSDN博客
网页2024年1月29日 · 如果我们能不断扩展LLMs++的规模（并因此取得更好和更通用的性能），就有理由期望到2040年（或更早）出现强人工智能，它能够自动化大部分认知劳动并加速 人工智能研究。. 然而，如果扩展（scaling）不起作用，那么实现AGI的道路则会变得更加漫长、棘手。. 为 ...
AI规模定律：为什么Scaling Law如此重要？-虎嗅网
网页2024年8月30日 · 规模越大，性能提升越显著。 从 Scaling Law 出发，以大语言模型为例，其性能主要围绕三个维度成长：第一，模型的参数量；第二，训练模型所用的数据量，尤其是数据的熵结构；第三，模型训练所消耗的计算量。
OpenAI科学家最新大语言模型演讲火了，洞见LLM成功的关键_澎 …
网页2023年10月17日 · 规模扩展何以有效？ Chung 说：「总结起来，我们做的一切都与规模相关，采用规模优先（scale first）的视角是至关重要的。」但规模扩展何以有效呢？ 首先我们要从 Transformer 谈起。 目前所有的 LLM 都使用了 Transformer 架构。
OpenAI震撼发布o1大模型，强化学习突破LLM推理极限_澎湃号·湃 …
网页2024年9月13日 · OpenAI 发现，随着更多的强化学习（训练时计算）和更多的思考时间（测试时计算），o1 的性能持续提高。而且扩展这种方法的限制与大模型预训练的限制有很大不同，OpenAI 也还在继续研究。 评估
What、Why、How：从六个维度着手扩大创新的规模 - 36氪
网页数量扩展：以经济、高效的方式，实现数量上的规模化； 横向扩展：提高创新的受众数量； 纵向扩展：通过扩大和最大化利用创新来产生更大的 ...
大模型的规模扩展：可持续性与未来展望 - 百度智能云
网页2024年2月27日 · 随着 深度学习 技术的飞速发展，大模型的规模不断扩大，其强大的性能和功能在各个领域都取得了显著的成果。. 然而，大模型的规模扩展也带来了诸多挑战，如计算资源消耗、训练时间和成本、模型的可解释性和部署等问题。. 因此，我们需要探讨大模型规 …
大模型的规模扩展：可持续性与未来展望-百度开发者中心
网页随着深度学习技术的飞速发展，大模型的规模不断扩大，其强大的性能和功能在各个领域都取得了显著的成果。然而，大模型的规模扩展也带来了诸多挑战，如计算资源消耗、训练时间和成本、模型的可解释性和部署等问题。