洞察 Insights
超越数据枯竭的“规模壁垒”:苹果S.B.P.预训练范式如何重塑AI未来
随着高质量训练数据枯竭,大模型发展面临“规模壁垒”。前苹果AI负责人庞若鸣参与的“合成自举预训练(SBP)”新范式,通过识别并利用现有数据中的跨文档关联来生成高质量合成数据,有效提升了模型性能。这项技术有望缓解AI的数据瓶颈,降低训练成本,并促使AI从单纯的数据规模竞赛转向更注重数据智慧和高效利用的新阶段,同时引发对未来AI自我改进和伦理风险的深层思考。
阅读全文