PhysDreamer:由多所大学合作开发
PhysDreamer:由多所大学(包括麻省理工学院、斯坦福大学、哥伦比亚大学和康奈尔大学)合作开发。
真实的对象交互对于创建沉浸式虚拟体验至关重要,但合成真实的 3D 对象动态以响应新颖的交互仍然是一项重大挑战。与无条件或文本条件动力学生成不同,动作条件动力学需要感知对象的物理材料属性,并将 3D 运动预测建立在这些属性(例如对象刚度)的基础上。
然而,由于缺乏材料的真实数据,估计物理材料属性是一个悬而未决的问题,因为测量真实物体的这些属性非常困难。我们提出了 PhysDreamer,这是一种基于物理的方法,通过利用视频生成模型学习到的对象动力学先验,为静态 3D 对象赋予交互式动力学。
通过提炼这些先验知识,PhysDreamer 能够合成现实对象对新颖交互的响应,例如外力或代理操作。我们在弹性物体的不同示例上展示了我们的方法,并通过用户研究评估了合成交互的真实性。
PhysDreamer 通过使静态 3D 对象能够以物理上合理的方式动态响应交互式刺激,向更具吸引力和更真实的虚拟体验迈出了一步。
如果想详细了解,可以点开视频下方的链接。
谢谢观看本视频。要是喜欢,请订阅、点赞。谢谢
项目页面:https://physdreamer.github.io/
Huggingface:https://huggingface.co/papers/2404.13026
Github:https://github.com/a1600012888/PhysDreamer