类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
89
-
浏览
452
-
获赞
48
热门推荐
-
足协公布青少年竞赛体系5大目标 重点训练4项技术项目
足协公布青少年竞赛体系5大目标 重点训练4项技术项目_中国足协www.ty42.com 日期:2021-10-12 16:01:00| 评论(已有306575条评论)新民艺评|知来处,明去处——马面裙原来与马无关
春节里朋友聚会,有位行事一向先锋前卫的朋友穿了一条形制古朴的“马面裙”前来相见。只见长长的裙摆处点缀着织金纹样,前后平整的矩形裙门,使穿着者站立时端庄挺拔,落座时亦不易压皱,行走时裙裾微动,不失流畅的超级杯前,申花海港都在强调这件事
海港新帅穆斯卡特 记者 李铭珅 摄 下同作为中超联赛开幕前的“开胃菜”,2024超级杯明天将在虹口足球场开哨。上赛季联赛冠军海港将与足协杯冠军申花展开同城球队之间的对决,这场比赛也是两队在新赛季正式比法国公开赛:陈雨菲逆转因达农 石宇奇横扫小波波夫
法国羽毛球公开赛6日继续进行首轮角逐,中国选手发挥正常,取得了12胜3负的战绩。在男单比赛中,2号种子石宇奇耗时54分钟,以21比14和21比15连下两局,横扫法国选手小波波夫。小波波夫是欧洲男单新星Aimé Leon Dore 2020 春夏系列 Lookbook 赏析~
潮牌汇 / 潮流资讯 / Aimé Leon Dore 2020 春夏系列 Lookbook 赏析~2020年02月20日浏览:2905 在释出了新百伦 2020 全新燕京新语丨回应时代审美新需求,《天山雪》引领杂技剧发展进入新阶段
“雄鹰可以飞过的地方,拉上钢丝也可以走过去。”昨天在京举行的杂技剧《天山雪》研讨会上,国家级非遗达瓦孜代表性传承人阿迪力·吾休尔说。他曾是挑战高空的雄鹰,《天山雪》里一以贯之的雄鹰意象及雄鹰精神,也在国际篮联官宣:中国将举办2025年女篮亚洲杯
国际篮联今天官宣,2025年女篮亚洲杯将在中国深圳举办,这将是中国第4次举办女篮亚洲杯。上届女篮亚洲杯,中国女篮在时隔12年后再次夺冠,以12冠追平韩国女篮,并列历史第一。根据国际篮联官方消息,202记者手记|斯卢茨基的“变脸术”
>>>相关链接:申花举行新赛季出征仪式,俱乐部掌舵人的目标是……关于斯卢茨基赋闲期间改行成为电视艺人的消息,自他与俱乐部签约后便成为焦点。昨天的新赛季出征仪式上,申花新帅终于有了一展阿迪达斯 x KASINA 联名 Terrex Free Hiker 纯白鞋款亮相
潮牌汇 / 潮流资讯 / 阿迪达斯 x KASINA 联名 Terrex Free Hiker 纯白鞋款亮相2020年02月26日浏览:2917 此前美乐淘潮牌汇曾带来“江南名丑”孙正阳去世,曾将《智取威虎山》反派栾平刻画得入木三分
著名京剧表演艺术家、国家级非物质文化遗产京剧)项目代表性传承人、上海京剧院国家一级演员孙正阳,因病医治无效, 3月7日凌晨5时22分在上海市第六人民医院逝世,享年93岁。孙正阳1931年出生,河北玉田百老汇惊悚悬疑喜剧《死亡陷阱》中文版今晚首演
2月24日,百老汇惊悚悬疑喜剧《死亡陷阱》中文版将在Fancl艺术中心艺海剧院)·大剧场迎来首演。该剧由上海捕鼠器戏剧工作室林奕执导,周野芒、林奕、贺坪、宋忆宁、李建华联合主演,将上演至3月3日。《死挺进决赛后,王楚钦说“感谢东哥”
樊振东、王楚钦、马龙,这是国乒男团当今最强阵容。挺进决赛,谁会想到这么难呢?昨天下午的釜山世乒赛男团半决赛,被视为提前进行的决赛。国乒两大主力爆冷输球,王楚钦不敌张禹珍、马龙不敌李尚洙。好在樊振东顶住上届冠亚军出局!塞内加尔止步非洲杯16强,埃及也遭点球淘汰
1月30日讯 非洲杯1/8决赛,科特迪瓦点球6-5塞内加尔进8强,而卫冕冠军塞内加尔则止步非洲杯16强。上届非洲杯,塞内加尔点球大战4-2击败埃及,夺得队史首座非洲杯冠军。值得一提的,上届非洲杯亚军埃绿茵夜谈丨梅西,不用再解释了
“中国行”的商业赛未出场后许多天,梅西再次发布声明,解释自己没有登场亮相的原因。看上去,这是一次补充的说明,以便挽回一些声誉。其实,也没有必要再多说了。这次商业赛的操办方,是一家承办奢侈品公关活动的机海港队昨晚客场闷平浙江,少了奥斯卡就像“丢了魂”
少了奥斯卡的海港队,像是“丢了魂”,一点不见卫冕冠军的气势。昨晚的中超第二轮,海港队客场0比0与浙江队战平,未能取得联赛两连胜,队长奥斯卡的因伤缺阵无疑是主因。图说:武磊左)在比赛中 新华社图下同)联