一位开发者找到了一种巧妙的方法来访问Quest 3的透视摄像头,以运行自定义计算机视觉模型。
Meta不允许第三方开发者访问Quest头显的摄像头,但手部追踪健身应用XRWorkout的联合创始人兼首席开发者Michael Gschwandtner在社交媒体平台上发布了一段视频,展示了绕过这一限制的一种有趣方法。
演示视频展示了开源的MobileNet V2目标检测模型在Quest 3上以0.75Hz的帧率本地运行。选择这个帧率是出于实用性考虑,而不是出于性能原因。
Gschwandtner向外媒UploadVR发送了一个测试版本,经过后者验证,这是真实的并且可行。他还透露了他是如何做到这一点的。
Gschwandtner的应用构建创建了一个网页视图,即嵌入在应用中的Chromium Web浏览器实例,它会自动加载支持Quest投屏的网址(oculus.com/casting)。然后,你需要在此网页视图中使用Meta账号进行登录。完成后,你可以使用Quest系统菜单启动投屏功能。独特的是,你可以将头显画面传送到本地运行的应用,而不是其他设备。
之后,Gschwandtner的应用对接收投屏画面的网页视图进行像素内容(RenderTexture)采样,然后就可以对其进行任何操作了。在演示示例中,他将采样数据提供给谷歌的MediaPipe设备端SDK进行处理。
这里的一个关键问题是,视图也将包括虚拟对象和UI,而不是真正直接来自透视摄像头。但Gschwandtner声称他有一个“计划”来解决这个问题。
目前尚不清楚Meta会对Gschwandtner的发现作何反应。该公司可能会在未来版本的Quest Horizon OS中禁用这项技术。Gschwandtner在帖子中公开请求与Meta首席执行官马克·扎克伯格或首席技术官安德鲁·博斯沃思“通话”,向他们“展示”这项技术。
上个月,博斯沃思在一次采访中表达了他对有意让Quest开发者访问透视摄像头的想法,并表示Meta将“继续关注”这个问题。
相比之下,苹果的Vision Pro头显只向企业用户提供原始访问权限,并且仅限于非公开的内部应用。
【文章来源:87870,转载须注明来源及链接,否则将追究其法律责任!】