CN104639930A - 多视点图像显示设备及其多视点图像显示方法 - Google Patents
多视点图像显示设备及其多视点图像显示方法 Download PDFInfo
- Publication number
- CN104639930A CN104639930A CN201410641396.8A CN201410641396A CN104639930A CN 104639930 A CN104639930 A CN 104639930A CN 201410641396 A CN201410641396 A CN 201410641396A CN 104639930 A CN104639930 A CN 104639930A
- Authority
- CN
- China
- Prior art keywords
- depth
- depth value
- view
- image
- input image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/349—Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking
- H04N13/351—Multi-view displays for displaying three or more geometrical viewpoints without viewer tracking for displaying simultaneously
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Architecture (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
公开了一种多视点图像显示设备及其多视点图像显示方法。所述多视点图像显示设备包括:深度调整器,被配置为调整输入图像的深度;渲染单元,被配置为基于调整深度后的图像来执行对多视点图像的渲染;显示器,被配置为根据布置模式布置并显示多视点图像;控制器,被配置为基于包括在输入图像中的至少一个对象的深度信息来控制深度调整器变换输入图像的深度,使得满足标准的对象具有预设深度值。
Description
本申请要求于2013年11月13日在韩国知识产权局提交的第10-2013-0137522号韩国专利申请的优先权,该申请的公开通过引用其全部合并于此。
技术领域
与示例性实施例一致的设备和方法涉及一种多视点图像显示设备以及多视点图像显示设备的控制方法,更具体地,涉及一种裸眼多视点图像显示设备以及用于显示多视点图像的方法。
背景技术
电子技术的进步已使各种类型的电子装置的开发和经销成为可能。具体而言,近年来显示设备(诸如,作为使用最频繁的家用电器之一的电视)已经历了显著的发展。
在显示设备的功能已进步的同时,由显示设备显示的内容的类型也已增加。具体而言,近来能够实现3D内容的观看的3D显示系统已被开发和经销。
同时,可根据是否使用眼镜来观看3D图像,将3D显示设备划分为眼镜型系统(在该系统中观看者佩戴眼镜)和裸眼系统。
眼镜型系统的示例是快门眼镜显示设备。在快门眼镜方案中,左眼图像和右眼图像被交替输出,并且由观看者佩戴的3D眼镜中的左快门眼镜和右快门眼镜结合左眼图像和右眼图像的输出被交替打开或关闭,使得观看者可感受到立体效果。
裸眼系统也被称为自动立体显示系统。裸眼3D显示设备使用视差屏障或柱状透镜,显示光学地分离的多视点图像并将与不同视点的图像相应的光发送到观看者的左眼和右眼,使得观看者可感受到立体效果。
同时,当裸眼系统具有N个光学视点时,可通过对输入图像进行渲染来产生和提供N个多视点图像。产生的N个多视点图像通过视点映射技术被转换以被显示。依照视点映射方法,存在线性映射方法和循环映射方法。
图1A和图1B是所提供的用于解释根据线性映射方法的多视点图像的显示操作的示图。
将第1视点至第7视点的多视点图像按照第1视图、第2视图、第3视图、第4视图、第5视图、第6视图、第7视图、第1视图、第2视图和第3视图…的顺序匹配到光学视点的线性映射方法具有如图1A和图1B中示出的如下问题:根据观看位置可能出现死区。这里,死区指示观看者的观看位置从第7视点改变到第1视点的位置。在该位置处,由于视差的剧烈变化(例如,跳跃现象),可能出现严重的串扰,并且不能观看到3D图像。另外,用户可能会视觉疲劳。也就是说,如图1A和图1B中所示,同时观看到第7视点和第1视点的图像的位置与死区相应。
循环映射方法是按照第1视图、第2视图、第3视图、第4视图、第3视图、第2视图和第1视图的顺序布置视图的方法,该方法具有减少出现在线性映射方法中的视差的剧烈变化的优点。然而,在视图按照倒序被布置的伪立体区间,由观看者的双眼观看到的左图像和右图像被改变为右图像和左图像,因而使观看者感到视觉疲劳,特别是眩晕效应。
发明内容
示例性实施例的一方面根据上述必要性进行设计,并且目的在于提供一种可减小屏幕的眩晕效应的用于显示多视点图像的多视点图像显示设备和方法。
根据示例性实施例,一种多视点图像显示设备包括:深度调整器,被配置为调整输入图像的深度;渲染单元,被配置为基于调整深度后的图像执行对多视点图像的渲染;显示器,被配置为根据布置模式布置并显示所述多视点图像;控制器,被配置为基于包括在输入图像中的至少一个对象的深度信息来控制深度调整器变换输入图像的深度,使得满足标准的对象具有预设深度值。
这里,所述预设深度值可以是与深度图中的焦平面相应的深度值。
控制器可基于包括在输入图像中的所述至少一个对象的深度值以及所述对象占据的像素区域的大小,确定满足所述标准的对象。
控制器可通过将具有第一深度值的背景对象的第一像素大小和具有第二深度值的前景对象的第二像素大小进行比较来变换输入图像的深度,使得背景对象和前景对象之中的具有较大像素大小的对象被布置在焦平面上,其中,第一深度值小于所述预设深度值,第二深度值大于所述预设深度值。
当所述至少一个对象之中具有第一深度值的背景对象的第一像素大小与具有第二深度值的前景对象的第二像素大小相同时,控制器可变换输入图像的深度,使得所述背景对象被布置在焦平面上,其中,第一深度值小于所述预设深度值,第二深度值大于所述预设深度值。
当输入图像的深度被变换使得特定对象具有所述预设深度值时,控制器可将使在多视点图像以所述布置模式按照倒序被布置并且伪立体出现的区间中眩晕效应最小化的对象确定为满足所述标准的对象。
当所述多视点图像是总共N个视图时,所述布置模式可以是以下模式的重复:按照顺序布置第1视图至第N/2视图,随后按照倒序布置第N/2-1视图至第1视图,或者所述布置模式可以是以下模式的重复:按照顺序布置第1视图至第N视图中的奇数视图和偶数视图之中的一种视图,随后按照倒序布置第N视图至第1视图中的奇数视图和偶数视图之中的其余视图。
所述设备还包括:存储器,被配置为存储关于向观看者提供相同立体效果的每个深度区间的信息,其中,控制器基于存储的信息,可将包括在输入图像中的所述至少一个对象的深度调整为在提供与所述至少一个对象相同的立体效果的深度区间中与焦平面接近的深度值。
同时,根据示例性实施例的用于显示多视点图像的方法包括:基于包括在输入图像中的至少一个对象的深度信息,通过变换输入图像的深度来调整深度,使得满足标准的对象具有预设深度值;基于调整深度后的图像,执行对多视点图像的渲染;按照布置模式布置并显示所述多视点图像。
这里,所述预设深度值可以是与深度图中的焦平面相应的深度值。
调整深度的步骤可包括:基于包括在输入图像中的所述至少一个对象的深度值和所述对象占据的像素区域的大小,确定满足所述标准的对象。
调整深度的步骤可包括:通过将具有第一深度值的背景对象的第一像素大小和具有第二深度值的前景对象的第二像素大小进行比较来变换输入图像的深度,使得背景对象和前景对象之中的具有较大像素大小的对象被布置在焦平面上,其中,第一深度值小于所述预设深度值,第二深度值大于所述预设深度值。
调整深度的步骤可包括:当所述至少一个对象之中具有第一深度值的背景对象的第一像素大小与具有第二深度值的前景对象的第二像素大小相同时,变换输入图像的深度,使得所述背景对象被布置在焦平面上,其中,第一深度值小于所述预设深度值,第二深度值大于所述预设深度值。
调整深度的步骤可包括:当输入图像的深度被变换使得特定对象具有所述预设深度值时,将使在多视点图像以所述布置模式按照倒序被布置并且伪立体出现的区间中眩晕效应最小化的对象确定为满足所述标准的对象。
当所述多视点图像是总共N个视图时,所述布置模式可以是以下模式的重复:按照顺序布置第1视图至第N/2视图,随后按照倒序布置第N/2-1视图至第1视图,或者所述布置模式可以是以下模式的重复:按照顺序布置第1视图至第N视图中的奇数视图和偶数视图之中的一种视图,随后按照倒序布置第N视图至第1视图中的奇数视图和偶数视图之中的其余视图。
所述方法还可包括存储关于向观看者提供相同立体效果的每个深度区间的信息,其中,调整深度的步骤包括:基于存储的信息,将包括在输入图像中的所述至少一个对象的深度调整为在提供与所述至少一个对象相同的立体效果的深度区间中与焦平面接近的深度值。
所述标准和/或所述布置模式可被预设。
根据示例性实施例,提供了一种多视点图像显示设备。所述设备包括:深度调整器,被配置为调整输入图像的深度;渲染单元,被配置为基于调整深度后的图像执行对多视点图像的渲染;显示器,被配置为布置并显示所述多视点图像;控制器,被配置为在输入图像的多个对象之中确定使哪一个对象向焦平面移动,并且控制深度调整器变换所述一个对象的深度并基于对所述一个对象的移动来移动所述多个对象之中的至少一个其他对象。
根据另一示例性实施例,提供了一种用于显示多视点图像的方法。所述方法包括:通过变换输入图像的深度来调整深度;在输入图像的多个对象之中确定使哪一个对象向焦平面移动;变换所述一个对象的深度,并基于对所述一个对象的移动来移动所述多个对象之中的至少一个其他对象;基于调整深度后的图像,执行对多视点图像的渲染;布置并显示所述多视点图像。
如上所述,根据各种示例性实施例,可减小由于裸眼显示系统的多视点图像的布置模式而出现的眩晕效应。
附图说明
通过参照附图对本发明构思的特定示例性实施例进行描述,本发明构思的以上和/或其他方面将更加明显,其中:
图1A和图1B是所提供的用于解释现有技术的示图;
图2A至图2C是所提供的用于解释裸眼3D显示设备的操作以促进对示例性实施例的理解的示图;
图3A和图3B是示出根据各种示例性实施例的多视点图像显示设备的配置的框图;
图4是所提供的用于解释根据示例性实施例的伪立体区间的眩晕效应的示图;
图5A和图5B是所提供的用于解释根据示例性实施例的用于调整深度的方法的示图;
图6A和图6B是所提供的用于解释根据另一示例性实施例的用于调整深度的方法的示图;
图7A和图7B是所提供的用于解释根据另一示例性实施例的用于调整深度的方法的示图;
图8A至图8C是所提供的用于解释根据示例性实施例的用于调整深度的方法的示图;
图9是所提供的用于解释根据另一示例性实施例的用于调整深度的方法的示图;
图10是所提供的用于解释根据示例性实施例的用于显示多视点图像的方法的流程图。
具体实施方式
以下参照附图更详细地描述特定示例性实施例。
在下面的描述中,即使在不同的附图中,相同的附图标号也被用于相同的元件。提供在描述中限定的事宜(诸如详细构造和元件)以帮助全面理解示例性实施例。然而,可在没有那些具体限定的事宜的情况下来实施示例性实施例。此外,由于公知的功能或构造会以不必要的细节模糊本申请,因此不对它们进行详细描述。术语“像素大小”指“对象占据的像素区域的大小”。
图2A至图2C是所提供的用于解释裸眼3D显示设备的操作以促进对示例性实施例的理解的示图。
图2A示出根据示例性实施例的在不需要使用眼镜的情况下显示多视点图像并提供3D图像的设备的操作。这里,多视点图像包括以不同角度拍摄同一对象的多个图像。也就是说,在不同视点拍摄的多个图像以不同的角度被折射,并且聚焦后的图像被提供给相距特定距离(所谓的观看距离)的位置(例如,大约3米)。形成这样的图像的位置被称为视区。因此,当用户的一只眼睛位于第一视区,另一只眼睛位于第二视区时,用户可感受到立体效果。
例如,图2A是解释具有总共7个视图的多视点图像的显示操作的示图。参照图2A,裸眼3D显示设备可使与7个视图之中的第1视图相应的光被发送到左眼,与第2视图相应的光被发送到右眼。因此,用户可在右眼和左眼观看具有不同视点的图像,从而可感受到立体效果。
图2B和图2C是所提供的用于解释根据示例性实施例的布置多视点图像的模式的示图。
根据示例性实施例,为解决如图1A和图1B中描述的线性映射方法的缺点,可根据循环映射方法来布置多视点图像。
具体而言,当多视点图像具有总共N个视图时,多视点图像可以是以下模式的重复:第1视图至第N/2视图可被顺序布置,并且随后第N/2-1视图至第1视图可按照倒序被布置。在这种情况下,当N为奇数时,与大于N/2的整数(或小于N/2的整数)相应的视图被顺序布置或按照倒序布置的标准可以是转换视图。例如,如在图2B中所示,当多视点图像具有总共7个视图时,可按照以下模式的重复来布置多视点图像:与大于7/2的整数4相应的第4视图是转换视图,因此第1视图至第4视图被顺序布置,并且随后第3视图至第1视图按照倒序被布置。
然而,示例性实施例不限于此,可按照以下模式的重复来布置多视点图像:第1视图至第N视图中的奇数视图和偶数视图之中的一种视图被顺序布置,并且随后第N视图至第1视图中的奇数视图和偶数视图之中的其他视图按照倒序被布置。例如,当多视点图像具有总共7个视图时,按照以下模式的重复来布置多视点图像:第1视点图像、第3视点图像、第5视点图像、第7视点图像、第6视点图像、第4视点图像和第2视点图像被重复。
同时,当如图2B中所示根据循环映射方法布置多视点图像时,出现视图按照倒序被布置的伪立体区间。例如,在图2C中,光学视点1至光学视点4与立体区间相应,光学视点4至光学视点7与伪立体区间相应,其中,在光学视点1至光学视点4处多视点图像1至多视点图像4被顺序布置,在光学视点4至光学视点7处多视点图像1至多视点图像4按照倒序被布置。在该伪立体区间中,存在出现眩晕效应的缺点,但在示例性实施例中,多视点图像的深度可被调整以减少在伪立体区间中出现的眩晕效应。
在下文中,将更详细地解释示例性实施例的使伪立体区间中的眩晕效应最小化的配置。
图3A和图3B是示出根据各种示例性实施例的多视点图像显示设备的配置的框图。
图3A是示出根据示例性实施例的多视点图像显示设备的配置的框图。
根据图3A,多视点图像显示设备100包括深度调整器110、渲染单元120、显示器130和控制器140。
多视点图像显示设备100可被实现为各种类型的显示设备,诸如,TV、监视器、PC、一体机、平板PC、电子相框、移动电话等。
图像输入单元(未示出)接收图像和深度信息。更具体地,图像输入单元可从不同类型的外部装置(诸如,外部存储介质、广播站、网络服务器等)接收图像和图像的深度信息。这里,输入图像可以是单视点图像、立体图像和多视点图像中的一个。单视点图像是由普通拍摄装置拍摄的图像。立体图是仅以左图像和右图像表现的3D视频图像,其中,左图像和右图像是由立体拍摄装置拍摄的立体图像。通常,立体拍摄装置是具有用于拍摄立体图像的两个镜头的拍摄装置。多视点图像是通过对由一个或更多个拍摄装置拍摄的图像进行几何校正并对图像进行空间上地组合,以将多个方向的不同视图提供给观看者的3D视频图像。
此外,图像输入单元可接收图像的深度信息。通常,深度信息是分配给图像的每个像素的深度。例如,8比特的深度信息可具有范围从0到255的灰度值。例如,当白/黑是标准时,黑(低值)可指示距观看者远的位置,而白(高值)可指示与观看者接近的位置。
深度信息指示3D图像的深度,其中,3D图像的深度与组成3D图像的左眼图像和右眼图像之间的双目视差的程度相应。人可感受到的立体效果的程度根据深度信息而不同。也就是说,当深度大时,左眼和右眼之间的双目视差大,因此用户可感受到相对较大的立体效果,而当深度浅时,左眼和右眼之间的双目视差小,因此用户可感受到相对较低的立体效果。通常,可通过使用图像的二维特征(诸如,立体匹配)以被动的方式,或者通过使用诸如深度相机的设备以主动的方式,来获得深度信息。深度信息可以是以深度图的格式。
深度图指示包括图像的每个区域的深度信息的表。区域可按照像素单元被划分或被定义为比像素单元更大的预设区域。例如,深度图可指示在0-255的灰度值内,参考值127或128可与针对该深度图的焦平面相应,小于127或128的值可以是“-”值,大于127或128的值可以是“+”值。此外,根据另一示例性实施例,焦平面的参考值可从灰度值0-255中任意选择。另外,“-值”指示凹陷,而“+值”指示突出。
深度调整器110基于深度信息调整输入图像的深度。具体而言,深度调整器110可调整图像的深度,使得根据前面提到的循环映射方法可能在伪立体区间出现的眩晕效应可被最小化。以下将在解释控制器140的同时对此进行更详细地解释。
渲染单元120可通过使用由深度调整器110进行深度调整后的图像来执行对多视点图像的渲染。
具体而言,针对2D图像,渲染单元120可基于针对2D/3D转换而提取出的深度信息,执行对多视点图像的渲染。或者,当多视图(即,N个视图和与所述N个视图相应的N个深度信息)被输入时,渲染单元120可基于输入的N个视图和深度信息之中的至少一个视图和深度信息,执行对多视点图像的渲染。或者,当仅N个视图被输入时,在从N个视图提取出深度信息之后,渲染单元120可基于提取出的深度信息,执行对多视点图像的渲染。
例如,渲染单元120通过选择3D图像(即,左眼图像和右眼图像中的一个)作为参考视图(或中心视图),可产生作为多视点图像的基础的最左边的视图和最右边的视图。在这种情况下,渲染单元120可基于与左眼图像和右眼图像之中的被选为参考视图的一个图像相应的调整后的深度信息,产生最左边的视图和最右边的视图。
当最左边的视图和最右边的视图被产生时,渲染单元120可通过在中心视图和最左边的视图之间产生多个内插视图,并在中心视图和最右边的视图之间产生多个内插视图,来执行对多视点图像的渲染。然而,实施例不限于此,还可能产生使用外插方法产生的外插视图。同时,在基于2D图像和深度信息对多视点图像进行渲染的情况下,2D图像可被选为中心视图。
同时,在执行对多视点图像的渲染之前,渲染单元120可通过对最左边的视图和最右边的视图执行空洞填充工作来补偿最左边的视图和最右边的视图。
此外,针对基于中心视图、最左边的视图和最右边的视图产生的每个多视点图像的空洞区域,渲染单元120可复制与最左边的视图和最右边的视图中的一个视图相应的像素区域的值,并对空洞区域执行图像修复。在这种情况下,空洞填充可从较靠近背景的部分执行。例如,在对总共35个多视点图像执行渲染的情况下,对于存在于位于第17位置处的中心视图和第35位置处的最右边的视图之间的第18视图至第34视图,与作为最右边的视图的第35视图相应的像素区域的值可经受空洞填充。
同时,在一些情况下,可基于输入图像对每个多视点图像执行空洞填充。
同时,前面提到的渲染单元120的操作仅是示例性的,渲染单元120还可基于除了前面提到的操作之外的各种方法来执行对多视点图像的渲染。
显示器130起提供多视图(或多光学视图)的作用。为此,显示器130包括用于提供多视图的显示面板131和视场划分单元132。
显示面板131包括由多个子像素组成的多个面板。这里,子像素可由R(红色)、G(绿色)和B(蓝色)组成。换言之,由R、G、B子像素组成的像素可被布置在多个行和列的方向上,并可组成显示面板131。在这种情况下,显示面板131可被实现为各种显示单元,诸如,液晶显示面板(LCD面板)、等离子显示面板(PDP)、有机发光二极管(OLED)、真空荧光显示器(VFD)、场发射显示器(FED)和电致发光显示器(ELD)。
显示面板131显示图像帧。具体而言,显示面板131可显示具有不同视点的多个图像被重复且被顺序布置的图像帧。
同时,尽管未在图3A中示出,当显示面板131被实现为LCD面板时,根据组成向显示面板131和图像帧提供背光的背光单元(未示出)的每个像素的像素值,显示设备100还可包括驱动显示面板131的像素的面板驱动单元(未示出)。
位于显示面板131的前面的视场划分单元132可按照视区提供不同的视图,即,多视图。在这种情况下,视场划分单元132可被实现为柱状透镜或视差屏障。
例如,视场划分单元132可被实现为包括多个透镜区域的柱状透镜。因此,柱状透镜可通过多个透镜区域使显示在显示面板131中的图像折射。每个透镜区域可被形成为与至少一个像素相应的大小,并可按照视区使透过每个像素的光不同地散射。
作为另一示例,视场划分单元132可被实现为视差屏障。视差屏障被实现为包括多个屏障区域的透明狭缝阵列。因此,通过对透过屏障区域之间的狭缝的光进行遮挡,按照视区具有不同视点的图像可被发出。
同时,视场划分单元132可通过被倾斜特定角度来进行操作以提高图像质量。控制器140可基于视场划分单元132的倾斜角度来划分多视点图像中的每个图像,并通过将它们进行组合来产生图像帧。因此,用户能够观看到所显示的按子像素具有特定倾斜的图像,而不是观看到所显示的按显示面板131的子像素沿垂直方向或水平方向的图像。
控制器140可基于关于包括在输入图像中的至少一个对象的深度信息来控制深度调整器110变换图像的深度,使得满足预设标准的对象可具有预设深度值。
这里,预设深度值可以是深度图中与焦平面相应的深度值。
在这种情况下,当变换特定对象具有预设深度值的图像的深度时,控制器140可将使伪立体出现的区间(参照图2A和图2B)中的眩晕效应最小化的对象确定为满足预设标准的对象。图像可以是根据预设布置模式按照倒序布置的多视点图像。
此外,控制器140可基于包括在输入图像中的至少一个对象的深度值和对象占据的像素区域的大小,确定满足预设标准的对象。
在这种情况下,控制器140可通过将背景对象的像素大小与前景对象的像素大小进行比较,变换输入图像的深度,使得具有较大像素大小的对象被布置在焦平面上,其中,背景对象具有小于预设深度值的深度值,前景对象具有大于预设深度值的深度值。
具体地,在包括在输入图像中的对象之中,控制器140可通过将前景对象的像素区域的总和与背景对象的像素大小的总和进行比较,变换输入图像的深度,使得具有较大的像素大小的总和的对象被布置在焦平面上,其中,前景对象具有大于预设深度值的深度值,背景对象具有小于预设深度值的深度值。
例如,控制器140可在前景对象的像素大小的总和大于背景对象的像素大小的总和时变换输入图像的深度,使得前景对象中的一个前景对象被布置在焦平面上,并可在前景对象的像素大小的总和小于背景对象的像素大小的总和时变换输入图像的深度,使得背景对象中的一个背景对象被布置在焦平面上。
此外,当背景对象的像素大小的总和与前景对象的像素大小的总和相同时,控制器140可变换输入图像的深度(即,包括在输入图像中的每个对象的深度),使得背景对象中的一个背景对象被布置在焦平面上,其中,背景对象具有小于预设深度值的深度值,前景对象具有大于预设深度值的深度值。
将参照附图更详细地描述用于调整前面提到的输入图像的深度的详细方法。
图3B是示出根据另一示例性实施例的多视点图像设备的配置的框图。
根据图3B,多视点图像显示设备200包括深度调整器110、渲染单元120、显示器130、控制器140和存储器150。在图3B中,深度调整器110、渲染单元120和显示器130的配置与图2B的配置相同,因此将省略详细的描述。
存储器150存储关于向观看者提供相同立体效果的每个深度区间的信息(JNDD:正好可觉察的深度差)。例如,如果8比特的深度具有0-255个灰度值,则当向观看者提供不同的立体效果时,不是0-255个值中的每个值都被感知。而是,在特定范围内的值可被感知为相同深度。例如,0-4区间之中的深度值可向观看者提供相同立体效果,5-8区间之中的深度值可向观看者提供相同立体效果。这里,可通过实验获得关于向观看者提供相同立体效果的每个深度区间的信息。
控制器140可基于存储在存储器150中的信息,将包括在输入图像中的至少一个对象的深度调整为在提供与所述至少一个对象相同的立体效果的深度区间中与焦平面接近的深度值。例如,当127被设置为焦平面时,127-131区间和132-136区间的值向观看者提供相同立体效果,具有深度值130的对象的深度可被调整为127,具有深度值135的对象的深度可被调整为132。因此,在向观看者提供相同立体效果时眩晕效应会被减小。
图4是所提供的用于解释根据示例性实施例的伪立体区间的眩晕效应的示图。
根据前面提到的循环匹配方法的伪立体区间的眩晕效应根据对象的深度的不同而发生。
如图4中所示,距焦平面(即,屏幕表面)越远,每个对象的眩晕效应的程度增加得越高。
在示出的示例中,对象3的眩晕效应最低,对象1的眩晕效应最高。也就是说,眩晕效应的强度按照对象1、对象2和对象3的顺序降低。
图5A和图5B是所提供的用于解释根据示例性实施例的用于调整深度的方法的示图。
如图5B中所示,假设包括在输入图像中的三个对象510、520和530的各自的深度是突出强度1、突出强度3和凹陷强度4。
当具有突出强度的前景对象510和520的像素大小的总和大于具有凹陷强度的背景对象530的像素大小时,可变换对象510、520和530的深度,使得具有较大像素大小的前景对象510和520中的一个可被布置在焦平面上。例如,可变换对象510、520和530的深度,使得具有突出强度1的前景对象510可被布置在焦平面上。换言之,对象510、520和530可被变换凹陷强度1。因此,降低了屏幕上的眩晕效应的程度。
在前面提到的示例性实施例中,每个对象510、520和530的像素大小是相同的,因此,为促进理解,眩晕效应的程度可被计算为深度的总和。也就是说,图5A中示出的布置的眩晕效应的程度是1+3+4=8。然而,如图5B中所示,如果每个对象的深度被变换凹陷强度1,则整个眩晕效应变为0+2+5=7,并且眩晕效应的程度被减小。
图6A和图6B是所提供的用于解释根据另一示例性实施例的用于调整深度的方法的示图。
如图6A中所示,假设包括在输入图像中的三个对象610、620和630的各自的深度是突出强度1、突出强度3和凹陷强度4。
当前景对象610和620(每个对象都具有突出强度)的像素大小的总和小于具有凹陷强度的背景对象630的像素大小时,对象610、620和630的深度可被变换,使得具有较大像素大小的背景对象630可被布置在焦平面上。例如,对象610、620和630的深度可被变换,使得具有凹陷强度4的背景对象630可被布置在焦平面上。也就是说,对象610、620和630可被变换突出强度4。因此,降低了屏幕上的眩晕效应的程度。
也就是说,由于减小了在占据较大区域的背景对象630处出现的眩晕效应的程度,因此,即使在占据较小区域的前景对象610和620处出现的眩晕效应的程度轻微地增加,整个眩晕效应也将被降低。
图7A和图7B是所提供的用于解释根据另一示例性实施例的用于调整深度的方法的示图。
如图7A中所示,假设包括在输入图像中的两个对象710和720分别具有突出强度2和凹陷强度2的深度。
如图7B中所示,当具有突出强度的对象(即,前景对象710)的像素大小与具有凹陷强度的对象(即,背景对象720)的像素大小相同时,可变换对象710和720的深度,以便将背景对象布置在焦平面上。
也就是说,在3D视图感知中,背景对象的眩晕效应的程度被用户更强烈地感知到。当前景对象的像素大小与背景对象的像素大小相同时,可变换深度以便将背景对象布置在焦平面上,从而减小整个眩晕效应。
图8A至图8C是所提供的用于通过根据示例性实施例的示例来解释用于调整深度的方法的示图。
如图8A中所示,将解释对具有前景对象810和背景对象820的输入图像的深度进行调整的方法。
如图8B中所示,当背景对象820的像素大小大于前景对象810的像素大小时,可变换对象的深度以将背景对象820布置在焦平面上。换言之,如所示出的那样,可将对象810和820变换多达突出强度4,使得具有凹陷强度4的背景对象820被布置在焦平面上。
在这种情况下,如图8C中所示,深度图的深度被调整。换言之,如图8C中所示,与前景对象810相应的像素的深度值可从1被调整到5,与背景对象820相应的像素的深度值可从-4被调整到0。
图9是所提供的用于解释根据另一示例性实施例的用于调整深度的方法的示图。
如图9中所示,基于关于向观看者提供相同立体效果的每个深度区间的信息,包括在输入图像中的对象的深度可被调整。
例如,如图9中所示,假设在0和4之间的区间的深度值向观看者提供相同立体效果,在4和8之间的区间的深度值向观看者提供相同立体效果,在8和12之间的区间的深度值向观看者提供相同立体效果。
在这种情况下,具有凹陷深度值6的对象910可被调整到在提供相同立体效果的深度区间中与焦平面更近的值(即,凹陷深度值4)。具有突出深度值2的对象920可被调整到在提供相同立体效果的深度区间中与焦平面更近的值(即,深度值0)。因此,在提供相同立体效果的同时,能够减小眩晕效应。
同时,前面提到的图仅是用于更容易的进行解释的示例,并且可通过实验来获得关于提供相同立体效果的深度区间的信息。
图10是所提供的用于解释根据示例性实施例的用于显示多视点图像的方法的流程图。
根据图10中示出的用于显示多视点图像的方法,基于关于包括在输入图像中的至少一个对象的深度信息,变换和调整输入图像的深度(S1010),其中,在所述输入图像中满足预设标准的对象具有预设深度值。这里,预设深度值可以是与深度图中的焦平面相应或相关的深度值。
基于调整深度后的图像,执行对多视点图像的渲染(S1020)。
随后,按照预设布置模式布置多视点图像,并显示多视点图像(S1030)。
此外,调整深度的步骤(S1010)可基于包括在输入图像中的至少一个对象的深度信息和对象占据的像素区域的大小来确定满足预设标准的对象。
具体而言,在变换输入图像的深度时,调整深度的步骤(S1010)可将使在多视点图像以预设布置模式按照倒序被布置并且伪立体出现的区间中眩晕效应最小化的对象确定为满足预设标准的对象,其中,在所述输入图像中特定对象具有预设深度值。
此外,调整深度的步骤(S1010)可包括:通过将至少一个对象之中具有小于预设深度值的深度值的背景对象的像素大小与具有大于预设深度值的深度值的前景对象的像素大小进行比较来变换输入图像的深度,使得具有较大像素区域的对象被布置在焦平面上。
此外,调整深度的步骤(S1010)可包括:在至少一个对象之中,在具有小于预设深度值的深度值的背景对象的像素大小与具有大于预设深度值的深度值的前景对象的像素大小相同时,变换输入图像的深度,使得背景对象被布置在焦平面上。
这里,关于预设布置模式,当多视点图像是总共N个视图时,所述模式可以是以下模式的重复:可按照顺序布置第1视图至第N/2视图,随后可按照倒序布置第N/2-1视图至第1视图,或者所述模式可以是以下模式的重复:按照顺序布置第1视图至第N视图中的奇数视图或偶数视图之中的一种视图,随后按照倒序布置第1视图至第N视图中的奇数视图或偶数视图之中的其他视图。
此外,存储关于向观看者提供相同立体效果的每个深度区间的信息的步骤可被进一步包括。调整深度的步骤(S1010)可包括:基于存储的信息,将包括在输入图像中的至少一个对象的深度调整为在提供与至少一个对象相同的立体效果的深度区间中与焦平面更近的深度值。
根据各种示例性实施例,可减小依照裸眼显示系统的多视点图像的布置模式而可能出现的眩晕效应。
根据前面提到的各种示例性实施例的用于显示多视点图像的方法可被实现为程序,并可被提供给显示设备。
例如,可提供一种非暂时性计算机可读程序,其中,所述程序实现以下操作:基于包括在输入图像中的至少一个对象的深度信息,通过变换输入图像的深度来调整深度,使得满足预设标准的对象具有预设深度值;基于调整深度后的图像,对多视点图像执行渲染;按照存储的预设布置模式布置并显示多视点图像。
非暂时性可记录介质指可半永久性地存储数据而不是短时间存储数据的介质(诸如,寄存器、高速缓存和内存),并可由设备读取。具体地,以上提到的各种应用或程序可被存储在提供于此的非暂时性可记录介质(诸如,压缩盘(CD)、数字通用盘(DVD)、硬盘、蓝光盘、通用串行总线(USB)、存储卡和只读存储器(ROM))中。
上述实施例仅是示例性的,并将不被解释为限制本发明。本教导可被容易地应用到其他类型的设备。另外,本发明构思的示例性实施例的描述意在说明而不是限制权利要求的范围,并且许多替代、修改和改变对于本领域技术人员而言将是明显的。
Claims (15)
1.一种多视点图像显示设备,包括:
深度调整器,被配置为调整输入图像的深度;
渲染单元,被配置为基于调整深度后的图像执行对多视点图像的渲染;
显示器,被配置为根据布置模式布置并显示所述多视点图像;
控制器,被配置为基于包括在输入图像中的至少一个对象的深度信息来控制深度调整器变换输入图像的深度,使得满足标准的对象具有预设深度值。
2.如权利要求1所述的设备,其中,所述预设深度值是与深度图中的焦平面相应的深度值。
3.如权利要求1所述的设备,其中,控制器基于包括在输入图像中的所述至少一个对象的深度值以及所述对象占据的像素区域的大小,确定满足所述标准的对象。
4.如权利要求3所述的设备,其中,控制器通过将具有第一深度值的背景对象的第一像素大小和具有第二深度值的前景对象的第二像素大小进行比较来变换输入图像的深度,使得背景对象和前景对象之中的具有较大像素大小的对象被布置在焦平面上,其中,第一深度值小于所述预设深度值,第二深度值大于所述预设深度值。
5.如权利要求3所述的设备,其中,当所述至少一个对象之中具有第一深度值的背景对象的第一像素大小与具有第二深度值的前景对象的第二像素大小相同时,控制器变换输入图像的深度,使得所述背景对象被布置在焦平面上,其中,第一深度值小于所述预设深度值,第二深度值大于所述预设深度值。
6.如权利要求1所述的设备,其中,当输入图像的深度被变换使得特定对象具有所述预设深度值时,控制器将使在多视点图像以所述布置模式按照倒序被布置并且伪立体出现的区间中眩晕效应最小化的对象确定为满足所述标准的对象。
7.如权利要求6所述的设备,其中,当所述多视点图像是总共N个视图时,所述布置模式是以下模式的重复:按照顺序布置第1视图至第N/2视图,随后按照倒序布置第N/2-1视图至第1视图;或者所述布置模式是以下模式的重复:按照顺序布置第1视图至第N视图中的奇数视图和偶数视图之中的一种视图,随后按照倒序布置第N视图至第1视图中的奇数视图和偶数视图之中的其余视图。
8.如权利要求2所述的设备,还包括:
存储器,被配置为存储关于向观看者提供相同立体效果的每个深度区间的信息,
其中,控制器基于存储的信息,将包括在输入图像中的所述至少一个对象的深度调整为在提供与所述至少一个对象相同的立体效果的深度区间中与焦平面接近的深度值。
9.一种显示多视点图像的方法,所述方法包括:
基于包括在输入图像中的至少一个对象的深度信息,通过变换输入图像的深度来调整深度,使得满足标准的对象具有预设深度值;
基于调整深度后的图像,执行对多视点图像的渲染;
按照布置模式布置并显示所述多视点图像。
10.如权利要求9所述的方法,其中,所述预设深度值是与深度图中的焦平面相应的深度值。
11.如权利要求9所述的方法,其中,调整深度的步骤包括:基于包括在输入图像中的所述至少一个对象的深度值和所述对象占据的像素区域的大小,确定满足所述标准的对象。
12.如权利要求11所述的方法,其中,调整深度的步骤包括:通过将具有第一深度值的背景对象的第一像素大小和具有第二深度值的前景对象的第二像素大小进行比较来变换输入图像的深度,使得背景对象和前景对象之中的具有较大像素大小的对象被布置在焦平面上,其中,第一深度值小于所述预设深度值,第二深度值大于所述预设深度值。
13.如权利要求11所示的方法,其中,调整深度的步骤包括:当所述至少一个对象之中具有第一深度值的背景对象的第一像素大小与具有第二深度值的前景对象的第二像素大小相同时,变换输入图像的深度,使得所述背景对象被布置在焦平面上,其中,第一深度值小于所述预设深度值,第二深度值大于所述预设深度值。
14.如权利要求9所述的方法,其中,调整深度的步骤包括:当输入图像的深度被变换使得特定对象具有所述预设深度值时,将使在多视点图像以所述布置模式按照倒序被布置并且伪立体出现的区间中眩晕效应最小化的对象确定为满足所述标准的对象。
15.如权利要求14所述的方法,其中,当所述多视点图像是总共N个视图时,所述布置模式是以下模式的重复:按照顺序布置第1视图至第N/2视图,随后按照倒序布置第N/2-1视图至第1视图;或者所述布置模式是以下模式的重复:按照顺序布置第1视图至第N视图之中的奇数视图和偶数视图中的一种视图,随后按照倒序布置第N视图至第1视图之中的奇数视图和偶数视图中的其余视图。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020130137522A KR102143473B1 (ko) | 2013-11-13 | 2013-11-13 | 다시점 영상 디스플레이 장치 및 그 다시점 영상 디스플레이 방법 |
| KR10-2013-0137522 | 2013-11-13 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN104639930A true CN104639930A (zh) | 2015-05-20 |
| CN104639930B CN104639930B (zh) | 2018-03-09 |
Family
ID=53043416
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201410641396.8A Expired - Fee Related CN104639930B (zh) | 2013-11-13 | 2014-11-13 | 多视点图像显示设备及其多视点图像显示方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US9035943B1 (zh) |
| KR (1) | KR102143473B1 (zh) |
| CN (1) | CN104639930B (zh) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106056616A (zh) * | 2016-06-07 | 2016-10-26 | 十二维度(北京)科技有限公司 | 深度学习2d转3d单元像素块深度图修改方法及装置 |
| CN106559662A (zh) * | 2015-09-24 | 2017-04-05 | 三星电子株式会社 | 多视图图像显示设备及其控制方法 |
| CN106604018A (zh) * | 2015-10-16 | 2017-04-26 | 三星电子株式会社 | 3d显示设备及其控制方法 |
| CN115052139A (zh) * | 2018-01-19 | 2022-09-13 | Pcms控股公司 | 具有变化位置的多焦平面 |
| US12047552B2 (en) | 2018-07-05 | 2024-07-23 | Interdigital Vc Holdings, Inc. | Method and system for near-eye focal plane overlays for 3D perception of content on 2D displays |
| US12238270B2 (en) | 2018-03-23 | 2025-02-25 | Interdigital Vc Holdings, Inc. | Multifocal plane based method to produce stereoscopic viewpoints in a DIBR system (MFP-DIBR) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9589388B1 (en) * | 2013-07-10 | 2017-03-07 | Thinci, Inc. | Mechanism for minimal computation and power consumption for rendering synthetic 3D images, containing pixel overdraw and dynamically generated intermediate images |
| EP3043316A1 (en) * | 2015-01-08 | 2016-07-13 | Thomson Licensing | Method and apparatus for generating superpixels for multi-view images |
| US10511831B2 (en) * | 2017-01-04 | 2019-12-17 | Innolux Corporation | Display device and method for displaying |
| WO2022145675A1 (ko) * | 2020-12-28 | 2022-07-07 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 제어 방법 |
| JP2024514534A (ja) * | 2021-04-04 | 2024-04-02 | レイア、インコーポレイテッド | マルチ画像生成システム及び方法 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101546042A (zh) * | 2008-03-26 | 2009-09-30 | 陈意辉 | 平面立体混合兼容型视差挡板平板与背投自由立体视频显示器 |
| US20110081042A1 (en) * | 2009-10-07 | 2011-04-07 | Samsung Electronics Co., Ltd. | Apparatus and method for adjusting depth |
| US20120188226A1 (en) * | 2011-01-21 | 2012-07-26 | Bu Lin-Kai | Method and system for displaying stereoscopic images |
| CN102932657A (zh) * | 2011-08-08 | 2013-02-13 | 索尼公司 | 图像处理装置、图像处理方法和程序 |
| CN103369337A (zh) * | 2012-04-03 | 2013-10-23 | 三星电子株式会社 | 3d显示设备及使用该3d显示设备处理图像的方法 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7277121B2 (en) * | 2001-08-29 | 2007-10-02 | Sanyo Electric Co., Ltd. | Stereoscopic image processing and display system |
| KR100728110B1 (ko) * | 2004-01-29 | 2007-06-13 | 삼성에스디아이 주식회사 | 입체감을 조절할 수 있는 입체영상 표시장치 및 그 방법 |
| US10134150B2 (en) * | 2010-08-10 | 2018-11-20 | Monotype Imaging Inc. | Displaying graphics in multi-view scenes |
| TWI504232B (zh) * | 2011-06-22 | 2015-10-11 | Realtek Semiconductor Corp | 3d影像處理裝置 |
-
2013
- 2013-11-13 KR KR1020130137522A patent/KR102143473B1/ko not_active Expired - Fee Related
-
2014
- 2014-04-17 US US14/255,633 patent/US9035943B1/en active Active
- 2014-11-13 CN CN201410641396.8A patent/CN104639930B/zh not_active Expired - Fee Related
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101546042A (zh) * | 2008-03-26 | 2009-09-30 | 陈意辉 | 平面立体混合兼容型视差挡板平板与背投自由立体视频显示器 |
| US20110081042A1 (en) * | 2009-10-07 | 2011-04-07 | Samsung Electronics Co., Ltd. | Apparatus and method for adjusting depth |
| US20120188226A1 (en) * | 2011-01-21 | 2012-07-26 | Bu Lin-Kai | Method and system for displaying stereoscopic images |
| CN102932657A (zh) * | 2011-08-08 | 2013-02-13 | 索尼公司 | 图像处理装置、图像处理方法和程序 |
| CN103369337A (zh) * | 2012-04-03 | 2013-10-23 | 三星电子株式会社 | 3d显示设备及使用该3d显示设备处理图像的方法 |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106559662A (zh) * | 2015-09-24 | 2017-04-05 | 三星电子株式会社 | 多视图图像显示设备及其控制方法 |
| CN106604018A (zh) * | 2015-10-16 | 2017-04-26 | 三星电子株式会社 | 3d显示设备及其控制方法 |
| CN106604018B (zh) * | 2015-10-16 | 2021-03-05 | 三星电子株式会社 | 3d显示设备及其控制方法 |
| CN106056616A (zh) * | 2016-06-07 | 2016-10-26 | 十二维度(北京)科技有限公司 | 深度学习2d转3d单元像素块深度图修改方法及装置 |
| CN106056616B (zh) * | 2016-06-07 | 2019-02-26 | 十二维度(北京)科技有限公司 | 深度学习2d转3d单元像素块深度图修改方法及装置 |
| CN115052139A (zh) * | 2018-01-19 | 2022-09-13 | Pcms控股公司 | 具有变化位置的多焦平面 |
| CN115052139B (zh) * | 2018-01-19 | 2023-09-08 | 交互数字Vc控股公司 | 一种用于显示视频的方法和显示设备 |
| US11893755B2 (en) | 2018-01-19 | 2024-02-06 | Interdigital Vc Holdings, Inc. | Multi-focal planes with varying positions |
| US12238270B2 (en) | 2018-03-23 | 2025-02-25 | Interdigital Vc Holdings, Inc. | Multifocal plane based method to produce stereoscopic viewpoints in a DIBR system (MFP-DIBR) |
| US12047552B2 (en) | 2018-07-05 | 2024-07-23 | Interdigital Vc Holdings, Inc. | Method and system for near-eye focal plane overlays for 3D perception of content on 2D displays |
| US12407806B2 (en) | 2018-07-05 | 2025-09-02 | Interdigital Vc Holdings, Inc. | Method and system for near-eye focal plane overlays for 3D perception of content on 2D displays |
Also Published As
| Publication number | Publication date |
|---|---|
| US20150130793A1 (en) | 2015-05-14 |
| US9035943B1 (en) | 2015-05-19 |
| CN104639930B (zh) | 2018-03-09 |
| KR102143473B1 (ko) | 2020-08-12 |
| KR20150055322A (ko) | 2015-05-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN104639930B (zh) | 多视点图像显示设备及其多视点图像显示方法 | |
| KR102030830B1 (ko) | 곡면형 다시점 영상 디스플레이 장치 및 그 제어 방법 | |
| US8884952B2 (en) | 3D display apparatus and method for processing image using the same | |
| KR102185130B1 (ko) | 다시점 영상 디스플레이 장치 및 그 제어 방법 | |
| KR102121389B1 (ko) | 무안경 3d 디스플레이 장치 및 그 제어 방법 | |
| KR102130123B1 (ko) | 다시점 영상 디스플레이 장치 및 그 제어 방법 | |
| US10694173B2 (en) | Multiview image display apparatus and control method thereof | |
| KR102174258B1 (ko) | 무안경 3d 디스플레이 장치 및 그 제어 방법 | |
| KR102143472B1 (ko) | 다시점 영상 처리 장치 및 그 영상 처리 방법 | |
| KR102076598B1 (ko) | 디스플레이 장치 및 그의 다시점 영상 디스플레이 방법 | |
| KR20170029210A (ko) | 무안경 3d 디스플레이 장치 및 그 제어 방법 | |
| CN106797462B (zh) | 多视图图像显示设备及其控制方法 | |
| US10939092B2 (en) | Multiview image display apparatus and multiview image display method thereof | |
| KR102143463B1 (ko) | 다시점 영상 디스플레이 장치 및 그 제어 방법 | |
| KR101980275B1 (ko) | 다시점 영상 디스플레이 장치 및 디스플레이 방법 | |
| KR102885858B1 (ko) | 입체 영상 디스플레이의 활용도 증대를 위한 시점별 콘텐츠 생성장치 및 방법 | |
| CN105007479B (zh) | 裸眼多视点显示设备及其控制方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20180309 Termination date: 20211113 |