Sora到底懂不懂物理世界 AI视频生成引发行业震惊[多图]

对此，谷歌研究科学家 Kevin P Murphy 表示，他不确定最大化像素的可能性是否足以促使模型可靠地学到精确的物理，而不是看似合理的动态视觉纹理呢?是否需要 MDL(Minimum description length，最小描述长度)呢?

与此同时，知名 AI 学者、Meta AI 研究科学家田渊栋也认为，关于 Sora 是否有潜力学到精确的物理(当然现在还没有)，其背后的关键问题是：为什么像「预测下一个 token」或「重建」这样简单的思路会产生如此丰富的表示?

他表示，损失函数如何被激发的并不重要，损失函数的设计动机(无论多么哲学化或复杂)并不直接决定模型能否学习到更好的表示。事实上，复杂的损失函数可能与看起来很简单的损失函数实际上产生了类似的效果。

最后他称，为了更好地理解事物，我们确实需要揭开 Transformers 的黑匣子，检查给定反向传播的训练动态，以及如何学习隐藏的特征结构，并探索如何进一步改进学习过程。

田渊栋还表示，如果想要学习精确的物理，他敢打赌需要主动学习或者策略强化学习(无论如何称呼它)来探索物理的精细结构(例如物体之间的相互作用、硬接触)。