刚刚,奥特曼发布 OpenAI 首个视频生成模型 Sora。
完美继承 DALL·E 3 的画质和遵循指令能力,能生成长达 1 分钟的高清视频。
AI 想象中的龙年春节,红旗招展人山人海。
有紧跟舞龙队伍抬头好奇观望的儿童,还有不少人掏出手机边跟边拍,海量人物角色各有各的行为。
雨后东京街头,潮湿地面反射霓虹灯光影效果堪比 RTX ON。
行驶中的列车窗外偶遇遮挡,车内人物倒影短暂出现非常惊艳。
也可以来一段好莱坞大片质感的电影预告片:
竖屏超近景视角下,这只蜥蜴细节拉满:
网友直呼 game over,工作要丢了:
甚至有人已经开始“悼念”一整个行业:
AI 理解运动中的物理世界
OpenAI 表示,正在教 AI 理解和模拟运动中的物理世界,目标是训练模型来帮助人们解决需要现实世界交互的问题
根据文本提示生成视频,仅仅是整个计划其中的一步。
目前 Sora 已经能生成具有多个角色、包含特定运动的复杂场景,不仅能理解用户在提示中提出的要求,还了解这些物体在物理世界中的存在方式。
Sora 还可以在单个视频中创建多个镜头,并依靠对语言的深入理解准确地解释提示词,保留角色和视觉风格。
对于 Sora 当前存在的弱点,OpenAI 也不避讳,指出它可能难以准确模拟复杂场景的物理原理,并且可能无法理解因果关系。
例如“五只灰狼幼崽在一条偏僻的碎石路上互相嬉戏、追逐”,狼的数量会变化,一些凭空出现或消失。
该模型还可能混淆提示的空间细节,例如混淆左右,并且可能难以精确描述随着时间推移发生的事件,例如遵循特定的相机轨迹。
如提示词“篮球穿过篮筐然后爆炸”中,篮球没有正确被篮筐阻挡。
技术方面,目前 OpenAI 透露的不多,简单介绍如下:
Sora 是一种扩散模型,从噪声开始,能够一次生成整个视频或扩展视频的长度,
关键之处在于一次生成多帧的预测,确保画面主体即使暂时离开视野也能保持不变。
与 GPT 模型类似,Sora 使用了 Transformer 架构,有很强的扩展性。
在数据方面,OpenAI 将视频和图像表示为 patch,类似于 GPT 中的 token。
通过这种统一的数据表示方式,可以在比以前更广泛的视觉数据上训练模型,涵盖不同的持续时间、分辨率和纵横比。
Sora 建立在过去对 DALL·E和 GPT 模型的研究之上。它使用 DALL·E 3 的重述提示词技术,为视觉训练数据生成高度描述性的标注,因此能够更忠实地遵循用户的文本指令。
除了能够仅根据文本指令生成视频之外,该模型还能够获取现有的静态图像并从中生成视频,准确地让图像内容动起来并关注小细节。
该模型还可以获取现有视频并对其进行扩展或填充缺失的帧,请参阅技术论文了解更多信息(晚些时候发布)。
Sora 是能够理解和模拟现实世界的模型的基础,OpenAI 相信这一功能将成为实现 AGI 的重要里程碑。
奥特曼在线接单
目前已有一些视觉艺术家、设计师和电影制作人(以及 OpenAI 员工)获得了 Sora 访问权限。
他们开始不断 po 出新的作品,奥特曼也开始了在线接单模式。
带上你的提示词@sama,就有可能收到生成好的视频回复。
本文转载自https://news.cnblogs.com/n/764709/,本文观点不代表Python技术站立场。