CN114168096B - 输出画面的显示方法、系统、移动终端以及存储介质 - Google Patents
输出画面的显示方法、系统、移动终端以及存储介质 Download PDFInfo
- Publication number
- CN114168096B CN114168096B CN202111496648.9A CN202111496648A CN114168096B CN 114168096 B CN114168096 B CN 114168096B CN 202111496648 A CN202111496648 A CN 202111496648A CN 114168096 B CN114168096 B CN 114168096B
- Authority
- CN
- China
- Prior art keywords
- display
- helmet
- image
- layer image
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/445—Program loading or initiating
- G06F9/44521—Dynamic linking or loading; Link editing at or after load time, e.g. Java class loading
- G06F9/44526—Plug-ins; Add-ons
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Optics & Photonics (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
本发明公开一种输出画面的显示方法,包括:利用VR头盔的惯性单元数据和显示参数,对VR数据进行渲染,获得显示图像,惯性单元数据和显示参数是利用选定驱动插件从VR头盔获取,选定驱动插件是预设驱动插件集中与VR头盔对应的驱动插件;将显示图像存储于显示缓冲区;从显示缓冲区取出显示图像,并利用选定驱动插件,将显示图像发送至VR头盔,以使VR头盔输出与显示图像对应的输出画面。本发明还公开一种分体式VR头显系统、移动终端以及计算机可读存储介质。利用本发明的方法,移动终端与VR头盔的兼容性较好,从而提升了最终的输出画面的显示效果。
Description
技术领域
本发明涉及画面显示领域,特别涉及一种输出画面的显示方法、系统、移动终端以及计算机可读存储介质。
背景技术
分体式VR/AR头显是一种将运算放在主机端,通过USB数据线连接头显,实现头显的数据采集以及显示的设备。分体式VR区别于一体机,采用头盔与主机分体式结构的分体机是另一种移动VR设备。可以做到头盔和处理平台及功能系统具有更合理的分配,可以做到更高级别的性能,分体机独立头盔和主机盒子通过标准USB TYPE-C线连接,主机盒子就是一个专业级的游戏机,分体式的结构既能满足移动体验的需要,同时又能兼顾到较高的性能,主机盒子处理系统从头盔非常狭小的空间里解放出来,可以采用高性能的CPU、和散热系统,甚至直接使用PC的强大计算能力,因此分体机可以满足重度体验的电子竞技及游戏类玩家使用。另外,分体机分体式的产品设计还具有多种连接玩法,头盔可单独连接电脑主机使用,主机盒子又可以连电视机和电脑显示器。
为了提升便携性,基于移动终端的分体式头显系统随之出现,将移动终端与头盔连接,通过移动终端代替主机的作用,实现分体式头显系统的各项功能。
但是,现有的分体式头显系统的最终的输出画面的显示效果较差。
发明内容
本发明的主要目的是提供一种输出画面的显示方法、系统、移动终端以及计算机可读存储介质,旨在解决现有技术中分体式头显系统的最终的输出画面的显示效果较差的技术问题。
为实现上述目的,本发明提出一种输出画面的显示方法,用于移动终端,所述方法包括以下步骤:
在获取到VR数据时,利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像,所述惯性单元数据和所述显示参数是利用选定驱动插件从所述VR头盔获取,所述选定驱动插件是预设驱动插件集中与所述VR头盔对应的驱动插件;
将所述显示图像存储于显示缓冲区,其中,所述显示缓冲区通过所述显示参数进行配置;
从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面。
可选的,所述在获取到VR数据时,利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像的步骤之前,所述方法还包括:
在监测到所述VR头盔接入时,获取所述VR头盔的设备信息;
利用所述设备信息,在预设驱动插件集中确定出与所述VR头盔对应的选定驱动插件。
可选的,所述在监测到所述VR头盔接入时,获取所述VR头盔的设备信息的步骤之前,所述方法还包括:
利用预设设备接入规范,对所述VR头盔进行设备描述类型的定义操作;
对所述VR头盔进行控制端点、显示端点和惯性测量单元的定义操作;
利用所述VR头盔的设备描述类型,对所述VR头盔的热插拔进行监听;
所述在监测到所述VR头盔接入时,获取所述VR头盔的设备信息的步骤,包括:
在监测到所述VR头盔接入时,确定所述VR头盔是否与预置的对象过滤规则匹配,所述对象过滤规则基于所述VR头盔的设备描述类型获得;
在所述VR头盔与所述对象过滤规则匹配时,获取所述VR头盔的设备信息。
可选的,所述显示缓冲区包括主显示缓冲区和辅助显示缓冲区,所述显示图像包括主视角层图像和辅助视角层图像;所述利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像的步骤,包括:
利用所述惯性单元数据,确定视角信息;
利用所述视角信息、所述VR数据和所述主显示缓冲区的配置参数,获得主视角层图像;
利用所述主视角层图像和所述辅助缓冲区的配置参数,生成辅助视角层图像;
所述将所述显示图像存储于显示缓冲区的步骤,包括:
将所述主视角层图像存储于所述主显示缓冲区,并将所述辅助视角层图像存储于所述辅助显示缓冲区;
所述从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面的步骤,包括:
从所述主显示缓冲区取出所述主视角层图像,并从所述辅助显示缓冲区取出所述辅助视角层图像,以及利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔输出与所述主视角层图像和所述辅助视角层图像对应的输出画面。
可选的,所述主视角层图像包括所述主视角层图像的第一显示信息,所述辅助视角层图像包括所述辅助视角层图像的第二显示信息、所述主视角层图像的第一深度信息和所述辅助视角层的第二深度信息;所述利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔输出与所述主视角层图像和所述辅助视角层图像对应的输出画面的步骤,包括:
利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔利用所述第一显示信息和所述第二显示信息,确定所述主视角层图像的第一显示姿态和所述辅助视角层图像的第二显示姿态;利用所述第一深度信息和所述惯性单元数据,对所述第一显示姿态进行调整,获得调整后的第一显示姿态,并利用所述第二深度信息和所述惯性单元数据,对所述第二显示姿态进行调整,获得调整后的第二显示姿态;利用所述调整后的第一显示姿态和所述调整后的第二显示姿态,确定所述主视角层图像的新的第一显示信息和所述辅助视角层的新的第二显示信息;基于所述新的第一显示信息、所述新的第二显示信息、所述主视角层图像和所述辅助视角层图像,获得输出画面,输出所述输出画面。
可选的,所述利用所述选定驱动插件,将所述显示图像发送至所述VR头盔的步骤之后,所述方法还包括:
接收针对所述输出画面的发送的显示设置操作;
基于所述显示设置操作,获得设置指令;
通过所述选定驱动插件,将所述设置指令发送至所述VR头盔,以使所述VR头盔利用所述设置指令,对所述控制端点进行配置。
可选的,所述利用所述选定驱动插件,将所述显示图像发送至所述VR头盔的步骤之后,所述方法还包括:
在监测到虚拟触发操作时,创建虚拟显示屏;
在监测到针对应用程序的选择操作时,加载所述应用程序;
将加载后的所述应用程序的显示界面映射到所述虚拟显示屏幕;
利用被映射到所述虚拟显示屏的显示界面更新所述VR数据;
返回执行所述利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像的步骤。
此外,为实现上述目的,本发明还提出了一种分体式VR头显系统,其特征在于,所述系统包括:VR头盔和移动终端,所述移动终端包括:存储器、处理器及存储在所述存储器上并在所述处理器上运行输出画面的显示程序,所述输出画面的显示程序被所述处理器执行时实现如上述任一项所述的输出画面的显示方法的步骤。
此外,为实现上述目的,本发明还提出了一种移动终端,所述移动终端包括:存储器、处理器及存储在所述存储器上并在所述处理器上运行输出画面的显示程序,所述输出画面的显示程序被所述处理器执行时实现如上述任一项所述的输出画面的显示方法的步骤。
此外,为实现上述目的,本发明还提出了一种计算机可读存储介质,所述计算机可读存储介质上存储有输出画面的显示程序,所述输出画面的显示程序被处理器执行时实现如上述任一项所述的输出画面的显示方法的步骤。
本发明技术方案提出了一种输出画面的显示方法,用于移动终端,包括:在获取到VR数据时,利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像,所述惯性单元数据和所述显示参数是利用选定驱动插件从所述VR头盔获取,所述选定驱动插件是预设驱动插件集中与所述VR头盔对应的驱动插件;将所述显示图像存储于显示缓冲区,其中,所述显示缓冲区通过所述显示参数进行配置;从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面。
现有的方法中,分体式头显系统中的移动终端难以获取到惯性单元数据和显示参数,使得移动终端与VR头盔的兼容性较差,导致最终的输出画面的效果极差。而利用本发明的方法,移动终端通过预设驱动插件集中与所述VR头盔对应的选定驱动插件,可以迅速准确的获取到惯性单元数据和显示参数,使得移动终端与VR头盔的兼容性较好,从而提升了最终的输出画面的显示效果。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图示出的结构获得其他的附图。
图1为本发明实施例方案涉及的硬件运行环境的移动终端结构示意图;
图2为本发明输出画面的显示方法第一实施例的流程示意图;
图3为本发明的实施例的分体式VR头显系统的结构示意图;
图4为本发明输出画面的显示装置第一实施例的结构框图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参照图1,图1为本发明实施例方案涉及的硬件运行环境的移动终端结构示意图。
移动终端可以是移动电话、智能电话等。
通常,移动终端包括:至少一个处理器301、存储器302以及存储在所述存储器上并可在所述处理器上运行的输出画面的显示程序,所述输出画面的显示程序配置为实现如前所述的输出画面的显示方法的步骤。
处理器301可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器301可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器301也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(CentralProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器301可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。处理器301还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关输出画面的显示方法操作,使得输出画面的显示方法模型可以自主训练学习,提高效率和准确度。
存储器302可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器302还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器302中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器301所执行以实现本申请中方法实施例提供的输出画面的显示方法。
在一些实施例中,终端还可选包括有:通信接口303和至少一个外围设备。处理器301、存储器302和通信接口303之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与通信接口303相连。具体地,外围设备包括:射频电路304、显示屏305和电源306中的至少一种。
通信接口303可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器301和存储器302。在一些实施例中,处理器301、存储器302和通信接口303被集成在同一芯片或电路板上;在一些其他实施例中,处理器301、存储器302和通信接口303中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路304用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路304通过电磁信号与通信网络以及其他通信设备进行通信。射频电路304将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路304包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路304可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路304还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏305用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏305是触摸显示屏时,显示屏305还具有采集在显示屏305的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器301进行处理。此时,显示屏305还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏305可以为一个,电子设备的前面板;在另一些实施例中,显示屏305可以为至少两个,分别设置在电子设备的不同表面或呈折叠设计;在再一些实施例中,显示屏305可以是柔性显示屏,设置在电子设备的弯曲表面上或折叠面上。甚至,显示屏305还可以设置成非矩形的不规则图形,也即异形屏。显示屏305可以采用LCD(LiquidCrystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
电源306用于为电子设备中的各个组件进行供电。电源306可以是交流电、直流电、一次性电池或可充电电池。当电源306包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
本领域技术人员可以理解,图1中示出的结构并不构成对移动终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
此外,本发明实施例还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有输出画面的显示程序,所述输出画面的显示程序被处理器执行时实现如上文所述的输出画面的显示方法的步骤。因此,这里将不再进行赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。对于本申请所涉及的计算机可读存储介质实施例中未披露的技术细节,请参照本申请方法实施例的描述。确定为示例,程序指令可被部署为在一个移动终端上执行,或者在位于一个地点的多个移动终端上执行,又或者,在分布在多个地点且通过通信网络互连的多个移动终端备上执行。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,上述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,上述的计算机可读存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(RandomAccessMemory,RAM)等。
基于上述硬件结构,提出本发明输出画面的显示方法的实施例。
参照图2,图2为本发明输出画面的显示方法第一实施例的流程示意图,所述方法应用于移动终端,所述方法包括以下步骤:
步骤S11:在获取到VR数据时,利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像,所述惯性单元数据和所述显示参数是利用选定驱动插件从所述VR头盔获取,所述选定驱动插件是预设驱动插件集中与所述VR头盔对应的驱动插件。
步骤S12:将所述显示图像存储于显示缓冲区,其中,所述显示缓冲区通过所述显示参数进行配置。
步骤S13:从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面。
需要说明的是,本发明的执行主体是移动终端,移动终端安装有输出画面的显示程序,移动终端执行输出画面的显示程序时,实现本发明的输出画面的显示方法的步骤。可以理解的是,在本发明中,移动终端与VR头盔互相连接,进行信息交互,共同实现本发明的输出画面的显示方法的步骤。
VR数据则是移动终端获取到的,用于VR头盔进行显示的VR数据,VR数据是指Virtual Reality数据——虚拟现实数据。惯性单元数据即为VR头盔的惯性测量单元的实时数据,VR头盔的惯性测量单元包括重力加速度子单元、陀螺仪子单元、地磁子单元、温度子单元和时间戳子单元等。显示参数是指VR头盔的显示端点的参数,显示端点是指VR显示屏幕,显示参数包括VR头盔的分辨率、刷新时间戳、同步信息、刷新率和周期性同步信号等。
另外,可以根据VR头盔的不同的厂家对不同的VR头盔发布的驱动插件进行整合,获得所述预设驱动插件集:获取不同的多个预设驱动插件(不同厂家,基于自己发布的产品,整合的驱动插件),确定不同的预设驱动插件对应的厂家信息和产品类型信息,建立厂家信息和产品类型信息与预设驱动插件的映射关系,根据该映射关系、厂家信息、产品类型信息和多个预设驱动插件,获得预设驱动插件集。
然后按照如下方式确定出选定驱动插件:在监测到所述VR头盔接入时,获取所述VR头盔的设备信息;利用所述设备信息,在预设驱动插件集中确定出与所述VR头盔对应的选定驱动插件。
具体应用中,VR头盔通过USB端口接入所述移动终端,VR头盔的设备信息是指VR头盔的厂家信息和VR头盔的产品类型信息,通过该两种信息,在预设预设驱动插件集中,确定出对应的选定驱动插件。
利用选定驱动插件获取VR头盔的惯性单元数据和显示参数,并利用显示参数(VR头盔的分辨率、刷新率和周期性同步信号等),在移动终端中创建显示缓冲区,显示缓冲区包括主显示缓冲区和辅助显示缓冲区。
同时,还可以创建跨进程通讯(IPC)服务端,如Unix local socket或无名管道或Binder,以用于接收VR数据。
进一步的,述在监测到所述VR头盔接入时,获取所述VR头盔的设备信息的步骤之前,所述方法还包括:利用预设设备接入规范,对所述VR头盔进行设备描述类型的定义操作;对所述VR头盔进行控制端点、显示端点和惯性测量单元的定义操作;利用所述VR头盔的设备描述类型,对所述VR头盔的热插拔进行监听;所述在监测到所述VR头盔接入时,获取所述VR头盔的设备信息的步骤,包括:在监测到所述VR头盔接入时,确定所述VR头盔是否与预置的对象过滤规则匹配,所述对象过滤规则基于所述VR头盔的设备描述类型获得;在所述VR头盔与所述对象过滤规则匹配时,获取所述VR头盔的设备信息。
预设设备接入规范是指USB-IF规范,用于进行VR头盔进行设备描述类型的定义操作,以便于移动终端根据设备描述类型来打开该VR设备。同时,还需要定义不同的端点——上文描述的显示端点、惯性测量单元和控制端点,其中控制端点包括VR头盔的亮度控制、音量控制、版本信息和序列号等。
VR头盔包含显示处理模块,用于接收HDMI或DP显示帧和辅助显示帧,并进行相应的数据处理,以将处理后的帧画面在屏幕上显示——也即执行下文所述输出画面的获得过程。
用所述VR头盔的设备描述类型,对所述VR头盔的热插拔进行监听,可以是指:将VR头盔定义的USB设备描述类型加入到系统热插拔监听列表中,用来监听头盔的插拔事件,在本发明中,利用在Server manifest里增加USB Host特性支持,实现监听操作,伪代码如下:
相应的,针对VR头盔,设置的过滤条件——对象过滤规则如下:
符合上述对象过滤规则,表示VR头盔与所述对象过滤规则匹配,此时允许VR头盔接入,也可以顺利获取到VR头盔的相关数据(上文所述多种数据)。
具体的,所述显示图像包括主视角层图像和辅助视角层图像;所述利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像的步骤,包括:利用所述惯性单元数据,确定视角信息;利用所述视角信息、所述VR数据和所述主显示缓冲区的配置参数,获得主视角层图像;利用所述主视角层图像和所述辅助缓冲区的配置参数,生成辅助视角层图像;所述将所述显示图像存储于显示缓冲区的步骤,包括:将所述主视角层图像存储于所述主显示缓冲区,并将所述辅助视角层图像存储于所述辅助显示缓冲区;所述从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面的步骤,包括:从所述主显示缓冲区取出所述主视角层图像,并从所述辅助显示缓冲区取出所述辅助视角层图像,以及利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔输出与所述主视角层图像和所述辅助视角层图像对应的输出画面。
视角信息是指用户戴上VR头盔之后,头盔在某一个位置时,用户对应的视角。一般是创建多个层,其中一个层为主视角层——主视角层图像,其它层——辅助视角层图像,辅助视角层图像可以包括背景层或overlay层。
主视角层图像根据视角信息,由场景通过相机投影得到;背景层可以是360度全景图或低分辨率的主视角图;overlay层可以是小的矩形区域或曲面等图形。不同的层可以由实际的使用场景来决定,如背景层可以是低分辨率的主视角,主视角侧是注视点区域更高分辨率的图像;或者背景层可以是全景图,主视角侧是固定的视频或窗口。
一般而言,所述主视角层图像包括所述主视角层图像的第一显示信息,所述辅助视角层图像包括所述辅助视角层图像的第二显示信息、所述主视角层图像的第一深度信息和所述辅助视角层的第二深度信息。第一显示信息可以包括主视角层图像的显示方位和显示大小,第二显示显示可以包括辅助视角层图像的显示方位和显示大小。
在具体应用中,VR头盔和移动终端的交互过程均由对应的选定驱动插件实现:参数获取、指令发送和画面数据(VR数据和显示数据)的传输。
进一步的,所述利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔输出与所述主视角层图像和所述辅助视角层图像对应的输出画面的步骤,包括:利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔利用所述第一显示信息和所述第二显示信息,确定所述主视角层图像的第一显示姿态和所述辅助视角层图像的第二显示姿态;利用所述第一深度信息和所述惯性单元数据,对所述第一显示姿态进行调整,获得调整后的第一显示姿态,并利用所述第二深度信息和所述惯性单元数据,对所述第二显示姿态进行调整,获得调整后的第二显示姿态;利用所述调整后的第一显示姿态和所述调整后的第二显示姿态,确定所述主视角层图像的新的第一显示信息和所述辅助视角层的新的第二显示信息;基于所述新的第一显示信息、所述新的第二显示信息、所述主视角层图像和所述辅助视角层图像,获得输出画面,输出所述输出画面。
VR头盔接收到主视角层图像和辅助视角层图像之后,利用显示处理模块,在他们中提取出第一显示显示和第二显示信息,然后利用第一显示显示和第二显示信息计算出来主视角层图像和辅助视角层图像的初始的显示姿态(移动终端处理后的显示姿态,但其并不与用户当前位置对应的头盔姿态对应,如果直接显示,可能显示效果较差),主视角层图像的初始显示姿态为第一显示姿态,辅助视角层图像的初始显示姿态为第二显示姿态。
然后利用具体的惯性单元数据和第一深度信息(主视角层图像的深度信息),对主视角层图像的显示姿态进行调整,获得调整后的第一显示姿态;并利用具体的惯性单元数据和第二深度信息(辅助视角层图像的深度信息),对辅助视角层图像的显示姿态进行调整,获得调整后的第二显示姿态。调整后的第一显示姿态和调整后的第二显示姿态可以与头盔当前姿态对应,保证显示效果较好。然后,根据调整后的第一显示姿态和调整后的第二显示姿态,计算出主视角层图像和辅助视角层图像的最终的显示方位和大小,然后再将主视角层图像和辅助视角层图像整合,获得最终的输出画面。
进一步的,所述利用所述选定驱动插件,将所述显示图像发送至所述VR头盔的步骤之后,所述方法还包括:接收针对所述输出画面的发送的显示设置操作;基于所述显示设置操作,获得设置指令;通过所述选定驱动插件,将所述设置指令发送至所述VR头盔,以使所述VR头盔利用所述设置指令,对所述控制端点进行配置。
用户在利用VR头盔观看输出画面时,可以对输出画面对应的声音和亮度等进行设置,即发送显示设置操作,移动终端基于显示设置操作获得设置指令,该设置指令即是按照用户需求对VR头盔的控制端点进行配置,以使VR头盔声音和亮度等调整为用户需求的状态。
进一步的,所述利用所述选定驱动插件,将所述显示图像发送至所述VR头盔的步骤之后,所述方法还包括:在监测到虚拟触发操作时,创建虚拟显示屏;在监测到针对应用程序的选择操作时,加载所述应用程序;将加载后的所述应用程序的显示界面映射到所述虚拟显示屏幕;利用被映射到所述虚拟显示屏的显示界面更新所述VR数据;返回执行所述利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像的步骤。
在该实施例中,VR头盔可以对移动终端的原生应用(非VR数据)进行显示。监测到虚拟触发操作时,表明用户想要对非VR数据进行显示,此时虚拟应用(用于对非VR数据进行VR显示的应用程序,也即本申请的画面的显示程序)启动,申请进程资源,如进程上下文、显示缓存区、权限等;然后虚拟应用创建虚拟显示屏,在监测到针对应用程序的选择操作,即,加载具体的手机应用,将加载后的所述应用程序的显示界面映射到所述虚拟显示屏幕;然后利用被映射到所述虚拟显示屏的显示界面更新所述VR数据。最后,按照上述具体方法对该显示界面对应的VR数据进行处理,以使VR头盔输出对应的输出画面。
本发明技术方案提出了一种输出画面的显示方法,用于移动终端,包括:在获取到VR数据时,利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像,所述惯性单元数据和所述显示参数是利用选定驱动插件从所述VR头盔获取,所述选定驱动插件是预设驱动插件集中与所述VR头盔对应的驱动插件;将所述显示图像存储于显示缓冲区,其中,所述显示缓冲区通过所述显示参数进行配置;从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面。
现有的方法中,分体式头显系统中的移动终端难以获取到惯性单元数据和显示参数,使得移动终端与VR头盔的兼容性较差,导致最终的输出画面的效果极差。而利用本发明的方法,移动终端通过预设驱动插件集中与所述VR头盔对应的选定驱动插件,可以迅速准确的获取到惯性单元数据和显示参数,使得移动终端与VR头盔的兼容性较好,从而提升了最终的输出画面的显示效果。
本方案通过在服务端处理显示相关问题如扩展显示和垂直同步(VSYNC),避免修改手机操作系统,从而使方案更具有通用性。
本方案通过扩展显示,可以将多个图层传给头显端,可以根据实际场景使用不同层的功能,再由显示端来最终合成,降低了显示整体的时延,提高的显示效果。
本方案通过虚拟应用,可以将手机原生应用加载到虚拟容器,再由容器显示到VR设备当中,从而实现了手机应用的兼容。
参照图3,图3为本发明的实施例的分体式VR头显系统的结构示意图,所述系统包括:VR头盔和移动终端,所述移动终端包括:存储器、处理器及存储在所述存储器上并在所述处理器上运行输出画面的显示程序,所述输出画面的显示程序被所述处理器执行时实现如上文所述的输出画面的显示方法的步骤。
具体的,VR头盔和移动终端通过USB串口连接。
参照图4,图4为本发明输出画面的显示装置第一实施例的结构框图,所述装置用于移动终端,基于与前述实施例相同的发明构思,所述装置包括:
渲染模块10,用于在获取到VR数据时,利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像,所述惯性单元数据和所述显示参数是利用选定驱动插件从所述VR头盔获取,所述选定驱动插件是预设驱动插件集中与所述VR头盔对应的驱动插件;
存储模块20,用于将所述显示图像存储于显示缓冲区,其中,所述显示缓冲区通过所述显示参数进行配置;
发送模块30,用于从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面。
需要说明的是,由于本实施例的装置所执行的步骤与前述方法实施例的步骤相同,其具体的实施方式以及可以达到的技术效果都可参照前述实施例,这里不再赘述。
以上所述仅为本发明的可选实施例,并非因此限制本发明的专利范围,凡是在本发明的发明构思下,利用本发明说明书及附图内容所作的等效结构变换,或直接/间接运用在其他相关的技术领域均包括在本发明的专利保护范围内。
Claims (8)
1.一种输出画面的显示方法,其特征在于,用于移动终端,所述方法包括以下步骤:
在获取到VR数据时,利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像,所述惯性单元数据和所述显示参数是利用选定驱动插件从所述VR头盔获取,所述选定驱动插件是预设驱动插件集中与所述VR头盔对应的驱动插件;
将所述显示图像存储于显示缓冲区,其中,所述显示缓冲区通过所述显示参数进行配置;
从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面;
利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像的步骤之前,所述方法还包括:
获取不同的多个预设驱动插件,确定不同的预设驱动插件对应的厂家信息和产品类型信息,建立所述厂家信息和所述产品类型信息与所述预设驱动插件的映射关系,根据所述映射关系、所述厂家信息、所述产品类型信息和多个所述预设驱动插件,获得所述预设驱动插件集;
在监测到所述VR头盔接入时,获取所述VR头盔的设备信息;
利用所述设备信息,在预设驱动插件集中确定出与所述VR头盔对应的选定驱动插件;
所述显示缓冲区包括主显示缓冲区和辅助显示缓冲区,所述显示图像包括主视角层图像和辅助视角层图像;所述利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像的步骤,包括:
利用所述惯性单元数据,确定视角信息;
利用所述视角信息、所述VR数据和所述主显示缓冲区的配置参数,获得主视角层图像;
利用所述主视角层图像和所述辅助缓冲区的配置参数,生成辅助视角层图像;
所述将所述显示图像存储于显示缓冲区的步骤,包括:
将所述主视角层图像存储于所述主显示缓冲区,并将所述辅助视角层图像存储于所述辅助显示缓冲区;
所述从所述显示缓冲区取出所述显示图像,并利用所述选定驱动插件,将所述显示图像发送至所述VR头盔,以使所述VR头盔输出与所述显示图像对应的输出画面的步骤,包括:
从所述主显示缓冲区取出所述主视角层图像,并从所述辅助显示缓冲区取出所述辅助视角层图像,以及利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔输出与所述主视角层图像和所述辅助视角层图像对应的输出画面。
2.如权利要求1所述的方法,其特征在于,所述在监测到所述VR头盔接入时,获取所述VR头盔的设备信息的步骤之前,所述方法还包括:
利用预设设备接入规范,对所述VR头盔进行设备描述类型的定义操作;
对所述VR头盔进行控制端点、显示端点和惯性测量单元的定义操作;
利用所述VR头盔的设备描述类型,对所述VR头盔的热插拔进行监听;
所述在监测到所述VR头盔接入时,获取所述VR头盔的设备信息的步骤,包括:
在监测到所述VR头盔接入时,确定所述VR头盔是否与预置的对象过滤规则匹配,所述对象过滤规则基于所述VR头盔的设备描述类型获得;
在所述VR头盔与所述对象过滤规则匹配时,获取所述VR头盔的设备信息。
3.如权利要求1所述的方法,其特征在于,所述主视角层图像包括所述主视角层图像的第一显示信息,所述辅助视角层图像包括所述辅助视角层图像的第二显示信息、所述主视角层图像的第一深度信息和所述辅助视角层的第二深度信息;所述利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔输出与所述主视角层图像和所述辅助视角层图像对应的输出画面的步骤,包括:
利用所述选定驱动插件,将所述主视角层图像和所述辅助视角层图像发送至所述VR头盔,以使所述VR头盔利用所述第一显示信息和所述第二显示信息,确定所述主视角层图像的第一显示姿态和所述辅助视角层图像的第二显示姿态;利用所述第一深度信息和所述惯性单元数据,对所述第一显示姿态进行调整,获得调整后的第一显示姿态,并利用所述第二深度信息和所述惯性单元数据,对所述第二显示姿态进行调整,获得调整后的第二显示姿态;利用所述调整后的第一显示姿态和所述调整后的第二显示姿态,确定所述主视角层图像的新的第一显示信息和所述辅助视角层的新的第二显示信息;基于所述新的第一显示信息、所述新的第二显示信息、所述主视角层图像和所述辅助视角层图像,获得输出画面,输出所述输出画面。
4.如权利要求1所述的方法,其特征在于,所述利用所述选定驱动插件,将所述显示图像发送至所述VR头盔的步骤之后,所述方法还包括:
接收针对所述输出画面的发送的显示设置操作;
基于所述显示设置操作,获得设置指令;
通过所述选定驱动插件,将所述设置指令发送至所述VR头盔,以使所述VR头盔利用所述设置指令,对所述控制端点进行配置。
5.如权利要求1所述的方法,其特征在于,所述利用所述选定驱动插件,将所述显示图像发送至所述VR头盔的步骤之后,所述方法还包括:
在监测到虚拟触发操作时,创建虚拟显示屏;
在监测到针对应用程序的选择操作时,加载所述应用程序;
将加载后的所述应用程序的显示界面映射到所述虚拟显示屏幕;
利用被映射到所述虚拟显示屏的显示界面更新所述VR数据;
返回执行所述利用VR头盔的惯性单元数据和显示参数,对所述VR数据进行渲染,获得显示图像的步骤。
6.一种分体式VR头显系统,其特征在于,所述系统包括:VR头盔和移动终端,所述移动终端包括:存储器、处理器及存储在所述存储器上并在所述处理器上运行输出画面的显示程序,所述输出画面的显示程序被所述处理器执行时实现如权利要求1至5中任一项所述的输出画面的显示方法的步骤。
7.一种移动终端,其特征在于,所述移动终端包括:存储器、处理器及存储在所述存储器上并在所述处理器上运行输出画面的显示程序,所述输出画面的显示程序被所述处理器执行时实现如权利要求1至5中任一项所述的输出画面的显示方法的步骤。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有输出画面的显示程序,所述输出画面的显示程序被处理器执行时实现如权利要求1至5中任一项所述的输出画面的显示方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111496648.9A CN114168096B (zh) | 2021-12-07 | 2021-12-07 | 输出画面的显示方法、系统、移动终端以及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111496648.9A CN114168096B (zh) | 2021-12-07 | 2021-12-07 | 输出画面的显示方法、系统、移动终端以及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114168096A CN114168096A (zh) | 2022-03-11 |
| CN114168096B true CN114168096B (zh) | 2023-07-25 |
Family
ID=80484717
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111496648.9A Active CN114168096B (zh) | 2021-12-07 | 2021-12-07 | 输出画面的显示方法、系统、移动终端以及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114168096B (zh) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106998409A (zh) * | 2017-03-21 | 2017-08-01 | 华为技术有限公司 | 一种图像处理方法、头戴显示器以及渲染设备 |
| CN110488977A (zh) * | 2019-08-21 | 2019-11-22 | 京东方科技集团股份有限公司 | 虚拟现实显示方法、装置、系统及存储介质 |
| CN111708431A (zh) * | 2020-05-12 | 2020-09-25 | 青岛小鸟看看科技有限公司 | 人机交互方法、装置、头戴显示设备及存储介质 |
| CN112039899A (zh) * | 2020-09-01 | 2020-12-04 | 深圳创维数字技术有限公司 | 虚拟现实系统控制方法、系统和存储介质 |
| CN112799508A (zh) * | 2021-01-18 | 2021-05-14 | Oppo广东移动通信有限公司 | 显示方法与装置、电子设备及存储介质 |
-
2021
- 2021-12-07 CN CN202111496648.9A patent/CN114168096B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106998409A (zh) * | 2017-03-21 | 2017-08-01 | 华为技术有限公司 | 一种图像处理方法、头戴显示器以及渲染设备 |
| CN110488977A (zh) * | 2019-08-21 | 2019-11-22 | 京东方科技集团股份有限公司 | 虚拟现实显示方法、装置、系统及存储介质 |
| CN111708431A (zh) * | 2020-05-12 | 2020-09-25 | 青岛小鸟看看科技有限公司 | 人机交互方法、装置、头戴显示设备及存储介质 |
| CN112039899A (zh) * | 2020-09-01 | 2020-12-04 | 深圳创维数字技术有限公司 | 虚拟现实系统控制方法、系统和存储介质 |
| CN112799508A (zh) * | 2021-01-18 | 2021-05-14 | Oppo广东移动通信有限公司 | 显示方法与装置、电子设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114168096A (zh) | 2022-03-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109427083B (zh) | 三维虚拟形象的显示方法、装置、终端及存储介质 | |
| CN110368689B (zh) | 游戏界面的显示方法、系统、电子设备及存储介质 | |
| CN109977333B (zh) | 网页显示方法、装置、计算机设备及存储介质 | |
| CN108401124B (zh) | 视频录制的方法和装置 | |
| CN110297917B (zh) | 直播方法、装置、电子设备及存储介质 | |
| WO2018171429A1 (zh) | 图像拼接方法、装置、终端及存储介质 | |
| CN108537889A (zh) | 增强现实模型的调整方法、装置、存储介质和电子设备 | |
| CN109191549B (zh) | 显示动画的方法及装置 | |
| CN110427110B (zh) | 一种直播方法、装置以及直播服务器 | |
| CN110557626B (zh) | 一种图像显示的方法及电子设备 | |
| US20230215076A1 (en) | Image frame display method, apparatus, device, storage medium, and program product | |
| KR20150082940A (ko) | 화면의 회전을 컨트롤할 수 있는 전자 장치 및 방법 | |
| EP4460031A1 (en) | Image processing method and apparatus, and electronic device | |
| CN109697113B (zh) | 请求重试的方法、装置、设备及可读存储介质 | |
| US20250061744A1 (en) | Secure face image transmission method, value transfer method, apparatuses, and electronic device | |
| CN108833963A (zh) | 显示界面画面的方法、计算机设备、可读存储介质和系统 | |
| US20130335409A1 (en) | Image processing apparatus and image processing method | |
| CN110889060A (zh) | 网页显示方法、装置、计算机设备及存储介质 | |
| WO2022111690A1 (zh) | 一种共享输入设备的方法、电子设备及系统 | |
| CN109726064B (zh) | 模拟客户端异常运行的方法、装置、系统及存储介质 | |
| CN111083554A (zh) | 直播礼物显示的方法和装置 | |
| CN108492339B (zh) | 获取资源压缩包的方法、装置、电子设备及存储介质 | |
| CN110178111B (zh) | 一种终端的图像处理方法及装置 | |
| CN111901679A (zh) | 封面图像的确定方法、装置、计算机设备及可读存储介质 | |
| CN109714628B (zh) | 播放音视频的方法、装置、设备、存储介质及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |