DeepFocus,基于AI实现更逼真的VR图像

Stella981
• 阅读 446

DeepFocus,基于AI实现更逼真的VR图像

DeepFocus是一种基于AI的渲染系统,用于在VR中渲染自然逼真的人眼聚焦效果。本文来自Facebook工程博客,LiveVideoStack进行了翻译。感谢阿里巴巴高级算法专家盛骁杰提供的技术审校。

文 / Facebook工程博客

译 / 许海燕

审校 / 盛骁杰

原文:https://code.fb.com/virtual-reality/deepfocus/

研究内容:

一种新的基于AI的框架,用于在VR中渲染自然逼真的人眼聚焦效果。DeepFocus可与高级原型头盔配合使用,在不同的焦距实时渲染模糊效果。例如,当有人戴着支持DeepFocus的设备观看附近的一个物体时,它会立即聚焦并变得清晰,而背景物体则会像在现实生活中一样,呈现出失焦模糊效果。这种失焦模糊(也称为视网膜模糊)对于实现VR中的真实感和深度感知非常重要。DeepFocus是第一个能够为VR应用程序实时产生这种效果的系统。我们现在开放我们的工作和数据集,以帮助VR研究界的其他人。

它是如何运作的:

一些传统方法,例如使用累积缓冲算法(accumulation buffer),可以实现物理上精确的失焦模糊。但它们无法实时生成复杂,丰富的内容,因为这种处理,即使是对于最先进的芯片,要求也太高了。与此不同的是,我们使用深度学习解决了这个问题。我们开发了一种新颖的端到端卷积神经网络,一旦眼睛看到场景的不同部分,就会产生具有精确视网膜模糊的图像。该网络包括新的保持体积的交织层,以减少输入的空间维度,同时充分保留图像细节。然后,网络的卷积层运行在相同的,降低了的空间分辨率上,从而运行时间能够明显减少。

为什么重要:

随着对新型VR头显技术的研究不断深入,DeepFocus将能够模拟精确的视网膜模糊,从而产生非常逼真的视觉效果。该平台还表明AI可以帮助解决VR渲染高度计算密集型视觉效果的挑战。DeepFocus为克服未来新型显示系统的实际渲染和优化限制提供了基础。

由于DeepFocus仅依赖于标准RGB-D颜色和深度输入,因此它几乎适用于所有现有的VR游戏和应用程序。它还兼容VR研究界目前正在探索的所有三种头显类型,分别是:变焦显示器(如Half Dome),多焦点显示器(例如,FRL先前的工作)和光场显示器。

详细了解Facebook Reality Labs如何创建DeepFocus。

https://www.oculus.com/blog/introducing-deepfocus-the-ai-rendering-system-powering-half-dome/)

阅读完整的论文:

DeepFocus:用于计算显示的学习图像合成

https://research.fb.com/publications/deepfocus-siggraph-asia-2018/)

精品文章推荐

技术干货:

本文分享自微信公众号 - LiveVideoStack(livevideostack)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

点赞
收藏
评论区
推荐文章
blmius blmius
2年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Jacquelyn38 Jacquelyn38
2年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Stella981 Stella981
2年前
Android So动态加载 优雅实现与原理分析
背景:漫品Android客户端集成适配转换功能(基于目标识别(So库35M)和人脸识别库(5M)),导致apk体积50M左右,为优化客户端体验,决定实现So文件动态加载.!(https://oscimg.oschina.net/oscnet/00d1ff90e4b34869664fef59e3ec3fdd20b.png)点击上方“蓝字”关注我
Wesley13 Wesley13
2年前
mysql设置时区
mysql设置时区mysql\_query("SETtime\_zone'8:00'")ordie('时区设置失败,请联系管理员!');中国在东8区所以加8方法二:selectcount(user\_id)asdevice,CONVERT\_TZ(FROM\_UNIXTIME(reg\_time),'08:00','0
Wesley13 Wesley13
2年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
2年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Stella981 Stella981
2年前
Nginx反向代理upstream模块介绍
!(https://oscimg.oschina.net/oscnet/1e67c46e359a4d6c8f36b590a372961f.gif)!(https://oscimg.oschina.net/oscnet/819eda5e7de54c23b54b04cfc00d3206.jpg)1.Nginx反
Wesley13 Wesley13
2年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
3个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这