类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
86518
-
浏览
77415
-
获赞
79699
热门推荐
-
壕!德转:纽卡新老板能买两千多个姆巴佩或哈兰德
壕!德转:纽卡新老板能买两千多个姆巴佩或哈兰德_英超www.ty42.com 日期:2021-10-09 11:01:00| 评论(已有306057条评论)保持清醒头脑,筑牢安全屏障,完成校飞任务
通讯员 庞德杰)在党的二十大报告中,“安全”一词出现了92次。安全作为民航业的生命线,是民航业永恒的主题。作为管制员应时刻保持清醒的头脑,搭建牢固的安全屏障,一仗一仗的打赢安全成都航空携手四川交响乐团举办“空中音乐会”
7年前,国产民机ARJ21首次从成都双流起飞,从此中国首款具有自主知识产权的支线飞机从四川这片美丽的土地飞往全国,飞向世界。近日,在国产民机ARJ21迎来商业首航7周年之际,成都航空携手四川交响乐团,深圳空管站开展塔台电子进程单系统主备切换跨部门实战联合应急演练
文/图:陈苜春 傅婧瑶/陈苜春)为进一步提高深圳空管站电子进程单系统协同联动的应急处置能力,结合2023年全国民航安全生产月活动“人人讲安全,个个会应急”主题,推动活动走深走实阿迪达斯 x KASINA 联名 Terrex Free Hiker 纯白鞋款亮相
潮牌汇 / 潮流资讯 / 阿迪达斯 x KASINA 联名 Terrex Free Hiker 纯白鞋款亮相2020年02月26日浏览:2917 此前美乐淘潮牌汇曾带来华北空管局完成临河雷达引接及上线工作
通讯员:褚佳佳)6月15日,华北空管局技术保障中心完成了临河INDRA雷达引接至区管主备用自动化系统工作,增强了AC08扇区S模式雷达覆盖范围,增强了管制的指挥能力。此次上线工作前,技术人员联合区管中温州空管站派员参加6•26国际禁毒日宣传活动
今年6月26日是第36个国际禁毒日。为扎实推进禁毒宣传工作,提高广大群众的禁毒防毒意识,营造全民抵制毒品、参与禁毒的良好氛围,温州空管站当日派员参加了由温州机场集团、温州市公安局机场分局等单位主办的以江苏空管分局气象台成功完成2023年首轮强梅雨天气的气象保障
6月17日至19日,南京禄口机场遭遇2023年入梅以来第一轮强雷雨天气过程,期间累计雷暴持续4.13小时,中等以上降水12.65小时,全过程累计降水量达148.3mm,给江苏空管的安全保障以及机场、UFC巨星谈C罗:史上最佳 激励了数以百万计的人
UFC巨星谈C罗:史上最佳 激励了数以百万计的人_哈比布www.ty42.com 日期:2021-10-06 09:01:00| 评论(已有305583条评论)专业培训强能力,心系学员稳保障
中南空管局管制中心 覃渝杰 根据民航局空管局布局规划方案,为积极配合中南地区前期的工作部署,满足湖北、广西空管分局的委托培训以下简称“委培”)需求,自2023年1月起,湖提振精气神 践行总基调
通讯员 李梅)6月16日,山西空管分局管制运行部的班前讲评会上,局长彭鹏在听取带班主任就安全运行情况的汇报后,强调以下几点:据有关容量数据表明,2023年5月份,空管行业共保障各类飞行366万架次,同高宠和岳飞比谁更厉害?高宠挑铁滑车
岳飞是南宋时期著名的抗金名将,而高宠只是小说中的人物,也是岳飞手下的第一猛将,称之为南宋第一枪,而对于从武力值来看,高宠和岳两个谁最厉害,而高宠最大的成就就是杀得金兵人仰马翻,挑铁滑车,一起来看看历史范斯 x Jim Goldberg 联名鞋款系列发布,关注边缘弱势群体
潮牌汇 / 潮流资讯 / 范斯 x Jim Goldberg 联名鞋款系列发布,关注边缘弱势群体2020年02月20日浏览:3557 美国杰出摄影师 Jim Goldb保持清醒头脑,筑牢安全屏障,完成校飞任务
通讯员 庞德杰)在党的二十大报告中,“安全”一词出现了92次。安全作为民航业的生命线,是民航业永恒的主题。作为管制员应时刻保持清醒的头脑,搭建牢固的安全屏障,一仗一仗的打赢安全华北空管局完成区管中心SSF机房精密空调移机第二阶段工作
通讯员:韩冷)在6月8日完成两台精密空调从SSF机房移机到区管设备大厅并安装就位的第一阶段工作后,华北空管局技保中心持续奋战,于6月21日完成两台精密空调制冷管路安装、焊接以及电气线路、排水管线铺设、