2025年AI预测
- 高飞
- 2024-12-24 09:27:45
模型时代2025年AI预测
OpenAI的12天发布会期间,有很多国内外AI博主预测将发布的内容。
X上有一位叫Mark的博主对最后的O3发布,做到了几乎100%准确预测。
他在O3发布前预告说,OpenAI将进行:
1) O3 演示
2) O3 可解决 ARC-AGI 基准测试
3) 没有实际发布,只有演示和封闭测试版
由于 ARC-AGI 的原因,他们将把 O3 称为"AGI"。
除了最后说O3是AGI有点失误,其他全中,是有点水平的。
所以,这两天他又发布了一下对2025年的AI预测,我就也转译一下:
1) 分词(Tokenization)最终将死亡。
2) 测试时计算转移到潜在空间,使用抽象概念,而不是文本。这将实现多模态推理。
新技术的组合将标志着古典LLM的终结。它的继任者将是全模态的,可被视为原型 AGI。
4)计算将成为限制因素。这也意味着强大的模型在推断时会变得昂贵。
5)至少有一个实验室(OpenAI)将宣布 AGI 的存在。这将引发无休止的争论。
其中他特别提到,测试计算将转移到潜在空间。这个研究来自Meta的一篇论文(地址:ai.meta.com/research/publications/byte-latent-transformer-patches-scale-better-than-tokens/),很有创新性,稍后我也整理一下主要观点。
他说将有一家公司宣布AGI,如果真的成真,我觉得会来自这三家之一:OpenAI、谷歌Deepmind,和xAI。
OpenAI的12天发布会期间,有很多国内外AI博主预测将发布的内容。
X上有一位叫Mark的博主对最后的O3发布,做到了几乎100%准确预测。
他在O3发布前预告说,OpenAI将进行:
1) O3 演示
2) O3 可解决 ARC-AGI 基准测试
3) 没有实际发布,只有演示和封闭测试版
由于 ARC-AGI 的原因,他们将把 O3 称为"AGI"。
除了最后说O3是AGI有点失误,其他全中,是有点水平的。
所以,这两天他又发布了一下对2025年的AI预测,我就也转译一下:
1) 分词(Tokenization)最终将死亡。
2) 测试时计算转移到潜在空间,使用抽象概念,而不是文本。这将实现多模态推理。
新技术的组合将标志着古典LLM的终结。它的继任者将是全模态的,可被视为原型 AGI。
4)计算将成为限制因素。这也意味着强大的模型在推断时会变得昂贵。
5)至少有一个实验室(OpenAI)将宣布 AGI 的存在。这将引发无休止的争论。
其中他特别提到,测试计算将转移到潜在空间。这个研究来自Meta的一篇论文(地址:ai.meta.com/research/publications/byte-latent-transformer-patches-scale-better-than-tokens/),很有创新性,稍后我也整理一下主要观点。
他说将有一家公司宣布AGI,如果真的成真,我觉得会来自这三家之一:OpenAI、谷歌Deepmind,和xAI。