CN105900436B - 通信设备、通信数据生成方法、以及通信数据处理方法 - Google Patents
通信设备、通信数据生成方法、以及通信数据处理方法 Download PDFInfo
- Publication number
- CN105900436B CN105900436B CN201480072673.6A CN201480072673A CN105900436B CN 105900436 B CN105900436 B CN 105900436B CN 201480072673 A CN201480072673 A CN 201480072673A CN 105900436 B CN105900436 B CN 105900436B
- Authority
- CN
- China
- Prior art keywords
- http
- data
- packet
- information
- grouping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/61—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
- H04L65/611—Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for multicast or broadcast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/02—Details
- H04L12/16—Arrangements for providing special services to substations
- H04L12/18—Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/22—Parsing or analysis of headers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/188—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a video data packet, e.g. a network abstraction layer [NAL] unit
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/643—Communication protocols
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/65—Transmission of management data between client and server
- H04N21/654—Transmission by server directed to the client
- H04N21/6547—Transmission by server directed to the client comprising parameters, e.g. for client setup
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Security & Cryptography (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Communication Control (AREA)
- Information Transfer Between Computers (AREA)
Abstract
可能发送和接收分组,以及确定分组的单元中的处理顺序,为这些分组设置了用于决定通信分组的存储数据的处理顺序的附加信息。发送设备生成存储有NAL单元或通过分割该NAL单元获得的NAL单元片段的分组,将用于决定分组存储数据的处理顺序的附加信息设置为附加的分组信息,以及通过通信单元发送所得的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP)。参考该附加的分组信息,接收设备确定分组存储数据的处理优先级,决定处理顺序,且根据决定的顺序进行解码分组存储数据的处理。
Description
技术领域
本公开涉及通信设备、通信数据生成方法、以及通信数据处理方法。更具体地,本公开涉及通信设备、通信数据生成方法、以及通信数据处理方法,其能例如通过广播波或网络进行数据的发送或接收。
背景技术
已知过顶(OTT)为一种数据传递方法,其能传递诸如图像数据或音频数据的内容,而不管电信运营商的服务形式如何。基于OTT的传递内容称为“OTT内容”,且使用OTT的图像(视频)数据传递服务称为“OTT视频”或“过顶视频(OTT-V)”。
例如,将HTTP动态自适应流媒体(DASH)用作根据OTT-V的数据流媒体传递的基本技术。DASH是使用超文本传输协议(HTTP)的自适应流媒体技术的标准。
在自适应流媒体中,为使得各种客户能再现传递内容,内容传递服务器创建和保存多个比特率的移动图像内容的分段文件以及描述这些分段文件的属性信息或URL(统一资源定位符)的清单(manifest)文件。
客户从该服务器获取该清单文件,根据其自身设备的显示单元的尺寸或可用的通信频带而选择优化的比特率内容,且接收和再现所选的内容。也可能根据网络频带的变化而动态地改变比特率,且在客户侧,可能根据情况需要切换和接收优化的内容,以及实施其中减少了视频中断的出现的移动图像内容再现。在例如专利文献1中公开了自适应流媒体(日本专利申请公开号2011-87103)。
已知MPEG-DASH标准为规定用于根据DASH进行由移动图像专家组(MPEG)编码的移动图像或音频数据的流媒体传递的规范的标准。
MPEG-DASH标准包括以下两个标准:
(a)与清单文件(媒体呈现描述(MPD))相关的、描述用作移动图像或音频文件的管理信息的元数据的标准;
以及
(b)与用于移动图像内容传送的文件格式(分段格式)相关的标准。
当根据DASH进行了MPEG数据的流媒体传递时,根据MPEG-DASH标准进行处理。
然而,用作自适应流媒体技术的DASH基于用作一对一通信处理的点到点型HTTP流媒体技术。
从而,例如,当将DASH应用于诸如体育转播的可能由多个客户同时观看的内容(节目)的流媒体传递时,对内容传递网络(CDN)的支持是必须的。
然而,构建为之应用CDN的点到点HTTP流媒体存在成本限制,且难以实施与广播传递等同的可扩展性。如上所述,DASH使用基于HTTP的流媒体协议,且存在问题,在于其不足以进行诸如广播传递的使得多个客户能同时观看的内容传递。
引用文献列表
专利文献
专利文献1:日本专利申请公开号2011-87103。
发明内容
将由本发明解决的技术问题
本公开的目标是提供通信设备、通信数据生成方法、以及通信数据处理方法,其能在内容传递中使用基于HTTP的流媒体协议将内容同时提供给多个客户,且能实施实时再现,在每位客户中基本不产生延时。
问题的解决方案
本技术的第一个方面在于一种通信设备,其包括:
数据处理单元,其生成存储编码数据的分组;以及
通信单元,其发送由数据处理单元生成的该分组,
其中,该数据处理单元生成存储NAL单元或通过进一步对NAL单元进行分割而获得的NAL单元片段的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP),以及
该数据处理单元生成分组,且通过该通信单元发送该生成的分组,该分组,用于决定存储在该分组中的NAL单元或NAL单元片段的处理顺序的附加信息被设为该分组的附加信息。
进一步地,在本公开的通信设备的实施方式中,该附加信息是从属文件数目信息,其指示当解码分组存储数据时所参考的随后分组的数据的数目。
进一步地,在本公开的通信设备的实施方式中,该附加信息是指示分组存储数据的处理优先级的优先级信息。
进一步地,在本公开的通信设备的实施方式中,由该通信设备发送的分组包括设有指示是否包括随机访问点的访问点信息(SAP)的分组,且该附加信息为指示为之设置访问点信息(SAP)的分组的处理优先级的优先级信息。
进一步地,在本公开的通信设备的实施方式中,由该通信设备发送的该分组为从不同视点捕获的多视图图像,且该数据处理单元为存储不同视点的所捕获图像的分组设置不同的优先级信息。
进一步地,在本公开的通信设备的实施方式中,该数据处理单元生成HTTP分组,且将该附加信息记录在所生成分组的HTTP首部中。
进一步地,在本公开的通信设备的实施方式中,该数据处理单元将该附加信息记录在所生成分组的扩展首部中。
进一步地,在本公开的通信设备的实施方式中,该数据处理单元将该附加信息记录在所生成分组的LCT首部中。
进一步地,在本公开的通信设备的实施方式中,通过广播波,该通信单元进行由该数据处理单元生成的分组的广播传递或多播传递。
进一步地,本公开的第二个方面在于一种通信设备,其包括:
通信单元,其接收由发送设备发送的编码数据存储分组;以及
数据处理单元,其获取由该通信单元接收的该分组,并进行处理,
其中,由该通信单元接收的每个编码数据存储分组为存储NAL单元或通过进一步对所述NAL单元进行分割而获得的NAL单元片段的分组和将用于决定存储在其中的NAL单元或NAL单元片段的处理顺序的附加信息设置为附加信息的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP)。
进一步地,在本公开的通信设备的实施方式中,参考记录在所接收的分组中的,且用于决定处理顺序的附加信息,该数据处理单元决定存储在所接收分组中的数据的解码处理的顺序。
进一步地,在本公开的通信设备的实施方式中,该附加信息为当解码分组存储数据时参考的、指示随后分组的数据的数目的从属文件数目信息。
进一步地,在本公开的通信设备的实施方式中,由该通信设备发送的分组包括设置了指示是否包括随机访问点的访问点信息(SAP)的分组,且该附加信息为指示设有该访问点信息(SAP)的分组的处理优先级的优先级信息。
进一步地,在本公开的通信设备的实施方式中,由该通信设备发送的分组为从不同视点捕获的多视图图像,且该数据处理单元根据基于该附加信息决定的处理顺序而进行顺序地解码相同视点的所捕获图像的处理。
进一步地,在本公开的通信设备的实施方式中,该通信单元接收包括其中记录有该附加信息的HTTP首部的HTTP分组,且该数据处理单元从所接收的分组的该HTTP首部获取该附加信息。
进一步地,在本公开的通信设备的实施方式中,该通信单元接收包括其中记录有该附加信息的扩展首部的分组,且该数据处理单元从所接收的分组的该扩展首部获取该附加信息。
进一步地,在本公开的通信设备的实施方式中,该通信单元接收包括其中记录有该附加信息的LCT首部的分组,且该数据处理单元从所接收的分组的该LCT首部获取该附加信息。
进一步地,在本公开的通信设备的实施方式中,该通信单元通过广播波接收分组。
进一步地,本公开的第三个方面在于在数据发送设备中进行的通信数据生成方法,其包括:
通过数据处理单元生成存储NAL单元或通过进一步对NAL单元进行分割而获得的NAL单元片段的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP);以及
通过数据处理单元生成分组,且通过通信单元发送该生成的分组,其中该分组将用于决定存储在该分组中的NAL单元或NAL单元片段的处理顺序的附加信息设置为该分组的附加信息。
进一步地,本公开的第四个方面在于在数据接收设备中进行的通信数据处理方法,其包括:
通过通信单元接收由发送设备发送的编码数据存储分组的步骤;以及
通过数据处理单元获取由该通信单元接收的分组以及进行处理的数据处理步骤,
其中通过该通信单元接收的每个编码数据存储分组为存储NAL单元或通过进一步对所述NAL单元进行分割而获得的NAL单元片段的分组和将用于决定存储在其中的NAL单元或NAL单元片段的处理顺序的附加信息设置为附加信息的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP),以及
该数据处理步骤包括获取为之设置通过所述通信单元接收的、且用于决定所述处理顺序的所述附加信息的分组以及进行处理的步骤。
通过之后将说明的本公开的实施方式与基于附图的详细说明,本公开的其他目的、特征和优势将变得显而易见。在本说明书中,系统是指多个设备的逻辑集总配置,且不限于其中各个配置的设备安排在同一壳体之中的配置。
本发明的效果:
根据本公开的实施方式,实施了一种配置,其中,发送和接收为之设置用于决定通信分组的存储数据的处理顺序的附加信息的分组,且在分组的单元中能确定处理顺序。
具体地,发送设备生成存储NAL单元或通过进一步分割NAL单元获得的NAL单元片段的分组,将用于决定分组存储数据的处理顺序的附加信息设为附加的分组信息,且通过通信单元发送所得的分组,所述NAL单元构成图像组(GOP),该图像组用作编码数据的处理单元。参考该附加的分组信息,接收设备确定分组存储数据的处理优先级,决定该处理顺序,且根据决定的顺序进行解码分组存储数据的处理。
通过本配置,实施了一种配置,其中,发送和接收为之设置用于决定通信分组的存储数据的处理顺序的附加信息的分组,且在分组的单元中能确定处理顺序。
本说明书中描述的效果仅仅是例子,其不必是有限的,且可以包括额外的效果。
附图说明
图1为用于说明执行根据本公开的处理的通信系统的示例性配置的图。
图2为用于说明发送设备的发送数据的图。
图3为用于说明DASH分段的示例性配置的图。
图4为用于说明片段生成序列的图。
图5为用于说明一种示例性配置的图,在该配置中,将片段中的媒体数据(mdat)设为通过将一个GOP而非一个GOP单元的数据分段而获得的数据。
图6为用于说明HTTP分组的示例性配置的图,在该配置中,为子GOP媒体分段设置HTTP首部。
图7为用于说明媒体分段HTTP分组的HTTP首部的记录信息的图。
图8为用于说明媒体分段HTTP分组的HTTP首部的记录信息的图。
图9为用于说明初始化分段HTTP分组的HTTP首部的记录信息的图。。
图10为用于说明IP分组的示例性配置的图。
图11为用于说明发送设备和接收设备的协议栈的图。
图12为用于说明接收设备的协议栈的图。
图13为用于说明媒体分段HTTP分组的HTTP首部的记录信息的图。
图14为用于说明媒体分段HTTP分组的HTTP首部的记录信息的图。
图15为用于说明MAC帧的配置的图。
图16为用于说明NAL单元片段对应HTTP分组的图。
图17为用于说明记录在元数据存储型NAL单元片段对应HTTP分组的HTTP首部中的附加信息的图。
图18为用于说明记录在媒体数据存储型NAL单元片段对应HTTP分组的HTTP首部中的附加信息的图。
图19为用于说明其中从属文件数目被作为附加信息记录在HTTP首部中的实施方式的图。
图20为用于说明其中从属文件数目被作为附加信息记录在HTTP首部中的实施方式的图。
图21为用于说明其中优先级信息被作为附加信息记录在HTTP首部中的实施方式的图。
图22为用于说明其中优先级信息被作为附加信息记录在HTTP首部中的实施方式的图。
图23为示出用于说明由发送设备执行的处理序列的处理图的图。
图24为示出用于说明由接收设备执行的处理序列的处理图的图。
图25为示出用于说明由接收设备执行的处理序列的处理图的图。
图26为示出用于说明由接收设备执行的处理序列的处理图的图。
图27为用于说明记录在扩展首部中的附加信息的例子的图。
图28为用于说明其中附加信息记录在扩展首部之中的实施方式的图。
图29为用于说明根据FLUTE协议设置的LCT首部的示例性配置的图。
图30为用于说明LCT首部的首部扩展部分上的数据记录配置的图。
图31为用于说明记录在LCT首部的首部扩展部分中的数据的图。
图32为用于说明HEVC编码数据的配置的图。
图33为用于说明通信设备的示例性硬件配置的图。
具体实施方式
以下,将结合附图详细说明根据本公开的通信设备、通信数据生成方法、以及通信数据处理方法。将按照以下事项进行说明。
1通信系统的示例性配置
2同时传递型内容传递中的问题
3发送数据的分段处理配置
4其中附加信息记录在HTTP首部中的实施方式
5分组的配置
6发送设备与接收设备的配置与处理
7其中添加有识别存储在分组中的NAL单元是否包括流访问点(SAP)的访问点信息的配置
8使用通过进一步分割NAL单元获得的NAL单元片段存储分组的通信处理配置
9其中用作处理优先级信息的从属数据的数目被设为附加的分组信息的示例性配置
10其中用作处理优先级信息的优先级信息被设为附加的分组信息的示例性配置
11发送设备与接收设备的处理序列
12其中附加信息记录在扩展首部中的实施方式
13其中附加信息记录在LCT首部中的实施方式
14 HEVC编码数据的应用实例
15各设备的示例性硬件配置
16本公开的配置的结论
[1.通信系统的示例性配置]
首先,将结合图1说明根据本公开执行处理的通信系统的示例性配置。
如图1中所示,通信系统10包括用作发送诸如图像数据或音频数据的内容的通信设备的发送设备20以及用作接收发送设备20的发送内容的通信设备的接收设备30。
具体地,发送设备20为诸如广播站21或内容服务器22的内容提供侧处的设备。
同时,接收设备30为一般用户的客户设备,且具体地以例如电视机31、PC 32、或移动终端33来配置。
经由诸如互联网的网络以双向通信形式、以使用广播波等等的单向通信形式、或是以同时使用两种通信的通信形式,进行发送设备20与接收设备30之间的数据通信。
根据用作自适应流媒体技术的标准的MPEG-DASH标准,进行从发送设备20至接收设备30的内容发送。
如上所述,MPEG-DASH标准包括以下两个标准:
(a)与清单文件(媒体呈现描述(MPD))相关的、描述用作移动图像或音频文件的管理信息的元数据的标准;以及
(b)与用于移动图像内容传送的文件格式(分段格式)相关的标准。
根据MPEG-DASH标准进行从发送设备20至接收设备30的内容传递。
发送设备20编码内容数据、以及生成包括编码数据和该编码数据的元数据的数据文件。例如,根据MPEG中规定的MP4文件格式进行编码处理。进一步地,当发送设备20生成MP4格式的数据文件时,编码数据的文件称为“mdat,”,且元数据称为“moov,”、“moof,”等。
之后将详细说明该编码数据。
从发送设备20提供给接收设备30的内容的例子包括音乐数据、诸如电影的视频数据、电视节目、视频、照片、文件、油画、或图表、游戏、以及软件。
将结合图2说明发送设备20的发送数据。
如图2中所示,根据MPEG-DASH标准执行数据发送的发送设备20分别在分组中存储初始化分段50和媒体分段60,且将所得的分组发送至接收设备30。每个分段称为“DASH分段”。
每个媒体分段60为其中存储了通过分割MPEG编码内容数据获得的数据的分段。
初始化分段50为其中存储有当接收设备30侧再现媒体分段60的存储内容时必要的初始设置信息(例如编解码器的设置信息,等等)的分段。
例如,发送设备20分割诸如一个电影或一个节目的内容,将分割的内容存储在多个媒体分段60中,且顺序地发送该多个媒体分段60。
发送设备20将图2中所示的初始化分段50与媒体分段60存储在HTTP分组中,生成存储该HTTP分组的IP分组,且发送该IP分组。之后将详细说明发送分组的配置。
图2中所示的接收设备30首先接收一个初始化分段50,且根据存储在该初始化分段中的设置信息进行例如编解码器的设置处理。之后,接收设备30顺序地接收媒体分段60,根据再现顺序解码媒体分段60,且进行再现处理。
[2.同时传递型内容传递中的问题]
如上所述,用作自适应流媒体技术的标准的DASH基于点到点的HTTP流媒体,且具有的问题在于不足以实现允许多个客户同时观看的同时传递型内容传递。
然而,通过一起使用多播与广播(MC/BC),认为可以无任何延时地将内容同时提供给多个客户(接收设备)。
可用于多播/广播(MC/BC)型流媒体的传输协议的例子包括实时传输协议(RTP)与单向传输的文件传递(FLUTE)。
将结合图3说明当根据基于HTTP流媒体的DASH标准使用FLUTE协议进行内容流传递时可用的DASH分段的示例性配置。
如以上结合图2所述,DASH分段分为两种类型:
(a)初始化分段;以及
(b)媒体分段。
(a)初始化分段为其中存储了当进行内容再现(诸如在接收设备30中设置解码器)时必要的诸如设置信息的初始化数据的分段。
(b)媒体分段为其中存储了用作再现对象的编码内容的分段。
如图3中所示,(a)初始化分段包括以下信息:
(a1)包括分段的文件类型信息的首部信息(dash);以及
(a2)包括初始化信息(诸如用作要通过媒体分段发送之编码内容的媒体数据(mdat)的编解码器(编码形式)信息)的元数据(moov)。
同时,如图3中所示,(b)媒体分段包括以下信息:
(b1)包括分段的文件类型信息等的首部信息(msdh);
(b2)存储在媒体分段中的多个子分段的边界信息,或例如指示用作存储在媒体分段中之编码内容的媒体数据(mdat)的随机访问点的访问信息(sidx);以及
(b3)多个子分段70。
该多个子分段70中的每一个包括一个或多个片段80。
片段80包括以下数据:
用作作为再现对象的编码内容的媒体数据(mdat);以及
对应于媒体数据(mdat)的元数据(moof)。
记录在(b)媒体分段的访问信息(sidx)中的随机访问点在DASH中称为“SAP”。
例如,SAP指示图像序列中第一图像的第一字节位置,在该图像序列中,能重置对于解码流必要的所有状态。具体地,例如,其为例如指示MPEG数据的I图像的位置的信息。
例如,在与存储在片段80中的媒体数据(mdat)对应的元数据(moof)中记录用作片段存储媒体数据(mdat)的再现时间信息的呈现时间。
当前,常常将存储在一个片段80中的媒体数据(mdat)设为用作DASH的控制对象的内容流的处理单元(分块)。该处理单元(分块)例如是用作移动图像专家组(MPEG)编码的处理单元的图像组(GOP)。
GOP通常被设为具有约0.5至2秒的再现时长的数据和操作。
然而,如果将一个GOP单元的数据用作存储在一个片段80中的媒体数据(mdat),在数据传递或再现过程中可能出现延时,且可能在实时再现中出现问题。
例如,当传递实况转播图像时,发送设备20对从相机输入的实况图像数据执行编码处理,且顺序地生成媒体分段60。当存储在媒体分段60的每个片段80中的媒体数据(mdat)为GOP单元的编码数据时,发送设备30生成用作GOP单元的编码数据的该媒体数据(mdat),且生成描述诸如所生成媒体数据(mdat)之呈现时间的属性信息的元数据(moof)。
从而,当以该顺序生成每片数据时,难以生成相应GOP的元数据(moof),除非决定了该GOP单元的每个编码数据的数据范围。
从而,在决定媒体数据(mdat)的数据范围之后,生成元数据(moof),且必须在与一个GOP单元的时长(0.5至2秒)对应的时长内进行每个元数据(moof)的生成处理。
将结合图4说明当将存储在片段80中的用于配置媒体分段60的媒体数据(mdat)用作GOP单元的编码数据时的片段生成序列。
图4中所示的例子为当存储在媒体分段60中的媒体数据(mdat)根据MPEG中规定的MP4文件格式(编码格式)存储时的序列例子。
将MP4文件格式的数据部分分成用作基本存储单元的样本。每个样本以一个或多个网络抽象层(NAL)单元配置。NAL单元是MPEG编码数据的分段数据,例如切片(slice)单元的分段数据。
如图4(a)中所示,对应于一个GOP的编码数据以多个NAL单元配置。
图4示出
(a)上部的用于配置GOP的NAL单元,以及
(b)下部的片段生成处理序列。
在(b)片段生成处理序列的底部示出时间轴。时间从左至右流逝,且发送设备20根据时间轴执行每个处理和生成片段。
发送设备生成存储所生成片段的媒体分段,然后生成存储该媒体分段的HTTP分组,生成存储该HTTP分组的IP分组,且发送该IP分组。
将说明图4(b)中所示的片段生成处理序列。
按以下顺序,发送设备20生成存储根据MP4文件格式的编码数据的片段。
时间段t0至t1:生成存储用于配置GOP的多个NAL单元的样本1。
时间段t2至t3:生成存储用于配置GOP的多个NAL单元的样本2。
时间段t4至t5:生成存储用于配置GOP的多个NAL单元的样本3。
相应地,完成存储用于配置一个GOP的所有NAL单元的样本的生成。
在媒体分段的片段中,将样本1至3设为媒体数据(mdat)。
时间段t6至t7:生成用作存储在样本1至3中的GOP编码数据的属性信息的元数据(moof)。
时间段t8至t9;生成其中将以样本1至3配置的媒体数据(mdat)与样本1至3的元数据(moof)组合的片段。
之后,发送设备20生成包括根据上述处理生成的片段的媒体分段,生成具有作为载荷的该媒体分段的分组,且将生成的分组发送至接收设备30。
在生成该片段时,发送设备20需要检查例如存储在该片段中的GOP单元的媒体数据(mdat)的再现时长,根据该再现时长生成诸如呈现时间的该GOP单元的属性信息,且将该属性信息记录在元数据(moof)中。
当前,进行数据传递的图像数据主要为支持高分辨率的图像数据,但是在将来,随着图像质量的提高,例如,预期将增加具有诸如4k图像的大数据量的数据传递。可能将增加流的比特率,以支持这样的大容量数据传递。
由于因图像质量提高的缘故增加了数据量,也增加了每个GOP单元的数据量。从而,如果如以上结合图4所述顺序地生成和发送一个GOP单元的片段,则增加了发送侧的处理时间间隔。也增加了每单元的发送数据的数据量。从而,当难以获取足够的通信频带时,网络传输中出现传输延时的可能性也增加了。
此外,增加了接收设备侧的分组接收时间间隔,增加了每分组的数据接收量,且也增加了接收设备侧要求的数据缓存量。进一步地,当分组接收错误出现且从而进行重传处理时,延时量骤然增加,且实时再现可能崩溃。
[3.发送数据的分段处理配置]
以下,将说明一示例性配置,其中,通过将从发送设备20发送至接收设备30的发送数据进行分段,来减少每发送分组的发送数据量即每单元的发送数据量,以解决以上问题。
在图4中所示的片段生成序列中,将设为片段的媒体数据(mdat)用作一个GOP单元的数据,且生成与该一个GOP单元的媒体数据(mdat)对应的元数据(moof)。换言之,每个元数据(moof)为与一个GOP单元的媒体数据(mdat)对应的元数据。
在图4中所示的序列中,根据一个GOP的数据量决定元数据(moof)的生成时刻。从而,当包括在一个GOP中的数据量增加时,元数据(moof)的生成时刻被延迟,且该片段的生成处理,该媒体分段的生成处理,以及该发送分组的生成处理也被延迟。结果,每分组的数据量增加,则传递延时的可能性增加。
作为防止这种情形的配置,将结合图5说明一示例性配置,其中,将通过对一个GOP而非一个GOP单元的数据进行分段获得的数据设为片段中的媒体数据(mdat)。
图5示出其中将通过对一个GOP而非一个GOP单元的数据进行分段获得的数据,具体地用作一个GOP的配置数据的一个或多个NAL单元,设为片段中的媒体数据(mdat)的例子。
与图4(a)类似地,图5(a)示出用于配置GOP的NAL单元。
图5(b1)至5(b3)示出多个媒体分段,其中,将用作一个GOP的配置数据的NAL单元分布式地存储为媒体数据(mdat)。
如图5(b1)至5(b3)中所示,以下将其中存储有以用作GOP数据的分段数据的一个或多个NAL单元来配置的媒体数据(mdat)的媒体分段称为“子GOP媒体分段”。
在图5中,一份GOP数据存储在3个子GOP媒体分段中,但是,可以将用于存储一个GOP数据的子GOP媒体分段的数目设为2或更多的任意数目。
在图5(b1)至5(b3)的所有子GOP媒体分段中,将多个NAL单元设为媒体数据(mdat),但是可以将一个NAL单元设为媒体数据(mdat)。
发送设备20生成图5(b1)至5(b3)中所示的子GOP媒体分段,将每个生成的子GOP媒体分段设为个体的HTTP分组的载荷,且通过网络或广播波发送该HTTP分组。
存储在图5(b1)至5(b3)的子GOP媒体分段中的元数据(moof)为包括与存储在个体的子GOP媒体分段中的媒体数据(mdat)对应的属性信息的元数据。
通过进行这样的设置,减少了通过网络或广播波发送的每分组的数据量,且减少了发送设备侧的一个分组生成处理中要求的时长。此外,减少了分组延时的可能性,也减少了分组丢失时的重传处理延时。结果,在接收设备30中实施了具有非常少错误的实时再现。
将结合图6说明HTTP分组的示例性配置,其中,为子GOP媒体分段设置HTTP首部。
图6示出两个HTTP分组配置例子。
图6(a)与图6(b)中所示的分组之间的差异在于是否存在存储有随机访问信息等的[sidx]。
sidx为存储在媒体分段中的多个子分段的边界信息,或指示用作如以上结合图3所述的媒体分段中存储的编码数据的媒体数据(mdat)的随机访问点的访问信息。在DASH中,该访问信息称为SAP。例如,该SAP指示图像序列中第一图像的第一字节位置,在该图像序列中,可以重设解码流必须的所有状态。具体地,其对应于MPEG数据的I图像的位置。
图6(b)中示出的HTTP分组为不包括sidx的分组。图6(b)中示出的HTTP分组不包括用作至该分组中存储的媒体数据(mdat)的访问点的图像数据。
当分组存储媒体数据(mdat)中不包括用作访问点的数据时,指示访问点的数据不是必须的。从而,不为图6(b)中所示的HTTP分组设置sidx。
另一方面,如图6(a)中所示,为包括子GOP媒体分段的分组设置sidx,在该分组中,存储了包括用作访问点的数据的媒体数据(mdat)。
在本实施方式中,如以上结合图5和6所述,将一个GOP的配置数据分配到多个分组和发送。
接收设备30顺序地接收该多个分组,且获取分布式地存储在这些分组中的GOP配置数据。当进行GOP单元的解码处理时,必须收集存储在多个分组中的GOP的所有配置数据,且以正确顺序排列该GOP的配置数据(NAL单元),以重新配置GOP数据。
以下将说明诸如应用于GOP重新配置处理的信息的、用于在接收设备侧顺利执行处理的附加信息的设置例子。
[4.其中在HTTP首部中记录附加信息的实施方式]
首先,将说明在HTTP分组的HTTP首部中记录诸如应用于GOP重新配置处理的信息的、用于在接收设备侧顺利执行处理的附加信息的实施方式。
将结合图7和8说明HTTP首部的记录信息。
图7示出HTTP分组的示例性配置,其中,与以上结合图5所述的例子类似,将一个GOP数据分布式地存储在三个子GOP媒体分段中。
如图7中所示,在该三个HTTP分组的HTTP首部中记录以下两份识别信息:
(1)分段识别符(内容-位置);以及
(2)GOP内位置识别信息(X-(Start/Middle/End)ofGOP)。
(1)该分段识别符为包括存储在HTTP分组中的分段的内容位置信息、分段类型、以及存储在该分组中的媒体数据(mdat)所属的GOP的识别信息的数据。具体地,可以记录该GOP数据的位置信息(诸如URL等等的访问信息)。
接收该分组的接收设备30可以确定,记录有相同分段识别符(内容-位置)的HTTP分组为其中存储有属于相同GOP的媒体数据(mdat)的HTTP分组。
(2)GOP内位置识别信息为指示一个GOP中位置的数据,存储在HTTP分组中的媒体数据(mdat)位于该位置。
其中GOP内位置识别信息为X-StartofGOP的分组为其中GOP数据的首部区域中的NAL单元作为媒体数据(mdat)存储的分组。
其中GOP内位置识别信息为X-MiddleofGOP的分组为其中GOP数据的中间区域中的NAL单元作为媒体数据(mdat)存储的分组。
其中GOP内位置识别信息为X-EndofGOP的分组为其中GOP数据的尾部区域中的NAL单元作为媒体数据(mdat)存储的分组。
进一步地,当将一个GOP数据分配到四个或更多个子GOP媒体分段时,生成其中设置GOP内位置识别信息=X-MiddleofGOP的多个分组。能基于分组首部信息而非HTTP首部确定GOP数据内分组中存储的媒体数据(mdat)的排列。
例如,能参考记录在存储该HTTP分组的LCT分组的LCT首部中的分组序列号确定GOP数据内媒体数据(mdat)的排列。之后将说明发送分组的具体配置与LCT首部的具体配置。
从而,例如,在其中将HTTP分组存储在LCT分组中和发送的配置中,可以仅为其中GOP位置为首部区域的存储数据的分组设置设置于HTTP首部的GOP内位置识别信息。换言之,仅可以记录等于X-StartofGOP的GOP内位置识别信息,且可以参考LCT首部的序列号来安排这之后的GOP数据。
图8示出存储媒体分段的HTTP分组的HTTP首部的示例性数据配置。
例如,如图8中所示,以下HTTP首部信息记录在HTTP首部中:
“…
HTTP/1.1 206部分内容
日期:2013年10月4日星期五11:14:20 GMT
内容-类型:应用/MP4
内容-位置:http://a.com/x.mp4。
X-StartofGOP
…”
在HTTP首部信息中,分段识别符为“内容-位置:http://a.com/x.mp4.”
该分段识别符包括存储在HTTP分组中的媒体数据(mdat)所属的GOP的识别信息。具体地,该分段识别符为GOP数据的位置信息(访问信息)。
能将其中记录有相同分段识别符(内容-位置)的HTTP分组确定为其中存储有属于同一GOP的媒体数据(mdat)的HTTP分组。
在HTTP首部信息中,GOP内位置识别信息为“X-StartofGOP”。
该GOP内位置识别信息为指示一个GOP中位置的数据,HTTP分组中存储的媒体数据(mdat)位于该位置。
在HTTP首部中将以下数据中的任一项记录为GOP内位置识别信息:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的首部区域中时,“X-StartofGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时,“X-MiddleofGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时,“X-EndofGOP”。
接下来,将结合图9说明其中存储有初始化分段的HTTP分组的HTTP首部的记录信息。
指示该HTTP分组为其中存储有初始化分段的分组的分段识别信息记录在其中存储有该初始化分段的该HTTP分组的HTTP首部中。
图9示出其中存储有该初始化分段的HTTP分组的HTTP首部的示例性数据配置。
例如,如图9中所示,以下HTTP首部信息记录在HTTP首部中:
“…
HTTP/1.1 206部分内容
日期:2013年10月4日星期五11:14:20 GMT
内容-类型:应用/MP4
内容-位置:http://a.com/x-init.mp4”
X-InitializationSegment
…”
在HTTP首部信息中,分段识别符为“内容-位置:http://a.com/x-init.mp4”。
可以将诸如该初始化分段的URL的访问信息记录为该分段识别符。
在该HTTP首部信息中,该分段识别信息为“X-InitializationSegment”。
该分段识别信息为指示存储在HTTP分组中的分段为初始化分段的信息。
该分段识别信息记录在其中存储有该初始化分段的HTTP分组中。
[5.分组的配置]
接下来,将说明从该发送设备发送至该接收设备的分组的示例性配置。
图10示出以下两个IP分组的示例性配置:
(1)初始化分段存储IP分组;以及
(2)媒体分段存储IP分组。
(1)该初始化分段存储IP分组具有以下配置:
IP首部;
UDP首部;
LCT首部;
HTTP首部;
初始化分段配置数据[dash];以及
初始化分段配置数据[moov].
该IP首部、UDP首部、LCT首部、以及HTTP首部为分别根据IP协议、UDP协议、FLUTE协议、以及HTTP协议的通信协议设置的首部信息。
同时,(2)该媒体分段存储IP分组具有以下配置:
IP首部;
UDP首部;
LCT首部;
HTTP首部;
媒体分段配置数据[msdh];
媒体分段配置数据[sidx];
媒体分段配置数据[moof];以及
媒体分段配置数据[mdat]。
该IP首部、UDP首部、LCT首部、以及HTTP首部为分别根据IP协议、UDP协议、FLUTE协议、以及HTTP协议的通信协议设置的首部信息。
如上所述,为具有可用于随机访问的媒体数据的分组设置,但不为其他分组设置该媒体分段配置数据[sidx]。
发送设备20生成图10中所示的IP分组,且将生成的IP分组发送给接收设备30。
接收设备30获取自接收设备20接收的、图10中所示的分组,分析该首部信息,获取该分段,且根据分段存储数据执行初始设置或内容再现。
[6.发送设备与接收设备的配置与处理]
接下来,将结合图11和之后的图说明发送设备与接收设备的配置与处理。
首先,将结合图11说明发送设备20与接收设备30的配置以及协议栈。
如图11中所示,生成和发送如以上结合图10所述的IP分组的发送设备20包括数据处理单元21与通信单元22。
数据处理单元21执行发送分组的生成处理。
具体地,例如,如上所述,作为分组存储数据生成仅包括用作编码数据的处理单元的图像组(GOP)的一些配置数据的媒体数据,与其中存储有对应于该媒体数据的元数据(moof)的子GOP媒体分段。进一步地,生成分组,在该分组中,附加的分组信息(诸如GOP内位置识别符,其识别用作该子GOP媒体分段之存储数据的媒体数据的GOP内位置)被生成,且被记录在HTTP首部中。
通信单元22发送由数据处理单元21生成的分组。
通过广播波或诸如互联网的网络,通信单元22进行由数据处理单元21生成之分组的广播传递或多播传递。
根据包括以下层的协议栈,数据处理单元21与通信单元22进行分组生成处理与所生成分组的发送。以下将说明发送设备20的协议栈的层配置。发送设备20的协议栈具有从上层至下层的以下层配置:
(1)DASH服务器:一应用层,其中进行诸如根据DASH标准的分段生成的处理;
(2)视频/音频/字幕等:一应用层,其中进行发送对象内容的生成和获取;
(3)片段化的MP4:一应用层,其中生成根据MP4文件格式的编码数据,且生成分段;
(4)HTTP:一层,其中根据HTTP协议生成包括HTTP首部的HTTP分组;
(5)FLUTE/ALC(LCT):一层,其中根据FLUTE协议生成包括LCT首部的FLUTE分组;
(6)UDP:一层,其中根据UDP协议生成包括UDP首部的UDP分组;
(7)IP:一层,其中根据IP协议生成包括IP首部的IP分组;以及
(8)PHY:配置有例如通信单元的物理层,该通信单元生成和发送IP分组或存储IP分组的MAC帧,等等。
如图11中所示,接收如以上结合图10所述的IP分组的接收设备30包括数据处理单元31与通信单元32。
通信单元32接收由发送设备20发送的分组,且数据处理单元31获取由通信单元32接收的分组,以及对该分组进行数据处理。
根据包括以下层的协议栈,数据处理单元31与通信单元32执行分组的接收与分析。接收设备30的协议栈具有从上层至下层的以下层配置:
(1)DASH客户:应用层,其中执行诸如根据DASH标准的分段分析的处理;
(2)视频/音频/字幕等:应用层,其中执行例如接收内容的获取与再现处理;
(3)片段化的MP4:应用层,其中执行根据MP4文件格式的编码数据的解码处理;
(4)HTTP:层,其中根据HTTP协议分析包括HTTP首部的HTTP分组;
(5)FLUTE/ALC(LCT):层,其中根据FLUTE协议分析包括LCT首部的FLUTE分组;
(6)UDP:层,其中根据UDP协议分析包括UDP首部的UDP分组;
(7)IP:层,其中根据IP协议分析包括IP首部的IP分组;以及
(8)PHY:以例如通信单元配置的物理层,该通信单元接收IP分组或存储IP分组的MAC帧。
如上所述,当广播或多播该IP分组时,发送设备20进行使用经由网络的发送的发送处理,使用广播波的发送处理,或使用两种发送的通信路径的并行发送处理。
使用广播波与诸如互联网的网络中的任一项的通信路径,或这两者的通信路径,接收设备30进行分组接收处理。
可以通过将图11中所示的FLUTE/ALC(LCT)层与UDP层替换为TCP层而进行经由诸如互联网的网络发送或接收的分组的生成与分析。
将结合图12说明接收设备30的协议栈的例子,该接收设备30进行适当切换通过广播波接收的IP分组与经由诸如互联网的网络接收的IP分组的处理。
在图12中示出的接收设备30的协议栈中,示出对应于以下两个通信系统的协议栈的层配置。
(1)广播系统;以及
(2)网络通信系统。
(1)该广播系统具有如以上结合图11所述的层配置。
(2)该网络通信系统具有其中以TCP层替换广播系统的FLUTE/ALC(LCT)层与UDP层的配置。
在该TCP层中,分析包括TCP首部的TCP分组。
信令层为用于进行通信系统的切换控制的层。
通过适当地切换和使用广播系统与网络通信系统的层,使用通过广播波接收的分组或经由诸如互联网的网络接收的分组,接收设备30能有选择地获取分组存储内容,以及执行再现处理。
例如,当分组接收中存在来自网络的延时时,进行至广播系统的切换,通过广播波接收与相同内容对应的分组,且从而能继续内容再现。
分段识别符与GOP内位置识别符记录在通过网络通信系统与广播系统中任一者传递的分组中,且从而能参考识别信息重构该GOP数据,且无错误地实施解码处理与内容再现。
[7.其中添加访问点信息的配置,该访问点信息识别存储在分组中的NAL单元是否包括流访问点(SAP)]
接下来,将说明作为用于实施该接收设备的有效率处理的示例性配置的配置,其中,识别信息识别在用作存储在该分组中的NAL单元片段之分割来源的NAL单元中是否包括了该SAP(访问点数据)。
如以上结合包括图3的图所述,流访问点(SAP)为用作随机访问点的数据的存储位置信息。在该DASH中,该随机访问点称为SAP。例如,该SAP指示图像序列的第一图像的第一字节位置,在该序列中,可以重置解码流必须的所有状态。具体地,例如,其为指示例如MPEG数据的I图像的位置的信息。
如以上结合图3(b)所述,该SAP存储在用作媒体分段的元信息的[sidx]中。
该接收设备侧能在由该SAP指示的数据位置获取编码数据,并通过对获取的数据执行解码处理而进行再现。
从而,当进行特殊再现处理时,例如,当从内容的中间进行再现时,该SAP成为重要与必要的数据。例如,通过获取由该SAP指定的编码数据而不排列所有的GOP数据,以及解码该编码数据,能再现该随机访问点的图像。
进一步地,例如,当由于传递延时等的缘故没有及时接受GOP单元的所有编码数据的分组时,可以优先地处理由该SAP指定的随机访问点数据。通过选择、解码和再现该随机访问点数据,能够在显示单元上连续地显示图像。如上所述,即使当确定了处理优先级时,该SAP成为重要数据。
当然,一个GOP单元数据中存在随机访问点。然而,如以上结合图5至10所述,在存储一个或多个NAL单元(一个分组的存储数据的一个GOP,而非一个GOP单元的数据,被分段成该一个或多个NAL单元)的分组中,在该分组中存储的NAL单元中可以包括或不包括该随机访问点。
在以上结合图5至10所述的配置中,例如如图7中所示,将包括用作元数据的“sidx”的分组与不包括用作元数据的“sidx”的分组设为子GOP媒体分段HTTP分组。
当将与随机访问点对应的数据包括在存储在该子GOP媒体分段HTTP分组中的NAL单元中时,设置记录该SAP的[sidx]。
然而,[sidx]不仅是用作媒体数据的随机访问点信息的该SAP,也是包括其他数据的边界信息的元数据,且难以仅根据[sidx]的存在或不存在来确定是否在该分组存储数据中包括有用作该访问点的数据。
从而,在使用该子GOP媒体分段HTTP分组的编码数据传递配置中,接收设备侧难以确定是否在所接收分组的单元中的分组中包括了该访问点数据。
以下将说明使得接收设备侧能确定是否在所接收分组的单元中的分组中包括了该访问点数据、以解决以上问题的配置。
将结合图13与其后的图说明一配置,该配置使得接收设备侧能确定是否在使用该子GOP媒体分段HTTP分组的编码数据传递配置中的分组单元中的分组中包括了该访问点数据。
图13示出HTTP分组的示例性配置,其中,与以上所述的图5和7的例子类似,一个GOP数据分布式地存储在三个子GOP媒体分段中。
如以上结合图7所述的以下附加信息记录在该三个HTTP分组的HTTP首部中:
(1)分段识别符(内容-位置);以及
(2)GOP内位置识别信息(X-(Start/Middle/End)ofGOP)。
进一步地,在图13中所示的例子中,额外地将以下附加信息记录在HTTP首部中:
(3)访问点信息。
记录了该三份信息。
(1)该分段识别符为包括存储在该HTTP分组中的分段的内容位置信息、分组类型、以及存储在该分组中的媒体数据(mdat)所属的GOP的识别信息的数据。具体地,可以记录该GOP数据的位置信息(诸如URL等的访问信息)。
接收该分组的接收设备30可以确定其中记录了相同分段识别符(内容-位置)的HTTP分组为其中存储有属于同一GOP的媒体数据(mdat)的HTTP分组。
(2)该GOP内位置识别信息为指示一个GOP内位置的数据,存储在该HTTP分组中的媒体数据(mdat)位于该位置。
其中该GOP内位置识别信息为X-StartofGOP的分组为其中该GOP数据的首部区域中的NAL单元存储为该媒体数据(mdat)的分组。
其中该GOP内位置识别信息为X-MiddleofGOP的分组为其中该GOP数据的中间区域中的NAL单元存储为该媒体数据(mdat)的分组。
其中该GOP内位置识别信息为X-EndofGOP的分组为其中该GOP数据的尾部区域中的NAL单元存储为该媒体数据(mdat)的分组。
进一步地,当将一个GOP数据分配至四个或更多个子GOP媒体分段时,生成其中GOP内位置识别信息=X-MiddleofGOP的多个分组。能基于分组首部信息而非HTTP首部来确定存储在该GOP数据内的分组中的媒体数据(mdat)的排列。
例如,能够参考记录在存储该HTTP分组的LCT分组的LCT首部中的分组序列号而确定该媒体数据(mdat)在该GOP数据内的排列。之后将说明发送分组的具体配置与LCT首部的具体配置。
从而,例如,在其中HTTP分组存储在LCT分组中和发送的配置中,可以仅为了识别存储有其中GOP位置为首部区域的数据的分组而设置为该HTTP首部设置的GOP内位置识别信息。换言之,可以仅记录GOP内位置识别信息=X-StartofGOP,且随后的GOP数据可以参考LCT首部的序列号而排列。
(3)该访问点信息(X-SAP)为指示是否在HTTP分组中存储的媒体数据(mdat)中包括的编码数据中包括了用作随机访问点的该数据。
该接收设备能参考该访问点信息(X-SAP)立即确定存储在该HTTP分组中的媒体数据中的NAL单元是否包括该访问点数据。
从而,例如,当仅优先解码和再现该访问点数据时,能参考记录在HTTP首部中的访问点信息(X-SAP)选择处理对象分组。换言之,仅能选择和处理其中记录在HTTP首部中的访问点信息(X-SAP)指示在分组存储数据(NAL单元)中包括该访问点的分组。
在图13中所示的例子中,为图13(b1)至13(b3)的所有HTTP分组设置访问点信息(X-SAP),且该访问点信息(X-SAP)指示是否在存储在每个HTTP分组中的媒体数据(mdat)中包括的编码数据中包括了用作随机访问点的数据。
除这样的配置之外,例如,仅当在存储在HTTP分组中的媒体数据(mdat)中包括的编码数据中包括了用作随机访问点的数据时,可以在HTTP分组的HTTP首部中记录访问点信息(X-SAP)。换言之,当在存储在HTTP分组中的媒体数据(mdat)中包括的编码数据中未包括用作随机访问点的数据时,未在HTTP首部中记录该访问点信息(X-SAP)。例如,当在图13(b2)和13(b3)中所示的HTTP分组中未包括用作该随机访问点的数据时,未在HTTP首部中记录访问点信息(X-SAP)。
在这一设定的情况下,根据是否在HTTP首部中记录了访问点信息(X-SAP),接收设备确定是否在存储在HTTP分组中的媒体数据(mdat)中包括的编码数据中包括了用作随机访问点的数据。
该访问点信息(X-SAP)为识别分组的单元中可随机访问数据的存在或不存在的信息。接收设备侧能参考每个分组的访问点信息(X-SAP)来选择存储可随机访问数据的分组。例如,通过优先处理存储可随机访问数据的分组,接收设备能快速地从随机访问点进行例如数据再现处理。
图14示出存储媒体分段的HTTP分组的HTTP首部的示例性数据配置。
例如,如图14中所示,在HTTP首部中记录以下HTTP首部信息:
“…
HTTP/1.1 206部分内容
日期:2013年10月4日星期五11:14:20 GMT
内容-类型:应用/mp4
内容-位置:http://a.com/x.mp4
X-StartofGOP
X-SAP
…”
在HTTP首部信息中,
该分段识别符“内容-位置:
http//:a.com/x.mp4以及
该GOP内位置识别信息“X-StartofGOP”为与以上结合图8所述的信息相同的信息。
换言之,该分段识别符为用作存储在HTTP分组中的媒体数据(mdat)所属的GOP的识别信息的GOP数据的位置信息(访问信息)。
该GOP内位置识别信息为指示一个GOP中位置的数据,存储在该HTTP分组中的媒体数据(mdat)位于该位置。
在HTTP首部中作为GOP内位置识别信息记录以下数据中的任一项:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的首部区域中时“X-StartofGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时“X-MiddleofGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时“X-EndofGOP”。
在图14中所示的HTTP首部信息中,该访问点信息“X-SAP”为指示是否在存储在该HTTP分组(NAL)中的媒体数据(mdat)中包括的编码数据中包括了用作随机访问点的数据。
该接收设备能参考该访问点信息(X-SAP)立即确定在接收分组的单元中的分组存储媒体数据中的NAL单元中是否包括了该访问点。
该接收设备能仅选择包括该访问点的分组,以及优先地解码和再现该分组的存储数据。例如,当因传递延时等缘故未及时接收GOP单元的所有编码数据的分组时,能通过优先解码和再现该随机访问点数据而在显示单元上连续地显示图像。
[8.使用通过进一步分割NAL单元而获得的NAL单元片段存储分组的通信处理配置]
如上所述,通过使用包括一个或多个用作GOP之分割数据的NAL单元的分组来发送和接收数据,减少了网络上的每传输分组的数据量。
然而,例如,对于具有诸如用作高质量图像数据的4K内容或8K内容的大数据量的图像数据,增加了通过大容量图像数据的编码处理生成的NAL单元的数据量。换言之,考虑了其中一个NAL单元的数据量非常大的情形。
在IP层的数据传输处理中,例如,当经由以太网(注册商标)进行数据传输时,必须使用等于或小于以太网(注册商标)中规定的最大数据传输单位(最大传输单位(MTU))的MAC帧来生成和传输IP分组。
换言之,当经由其中规定了最大数据传输单位(MTU)的网络传输分组时,必须进行将具有MTU的数据量或更多数据量的IP分组分割成具有由MTU规定的数据量或更少数据量的分割数据的片段处理,以及生成和传输多个MAC帧(每个MAC帧存储该分割数据)的处理。
例如,以太网(注册商标)中规定的MAC帧的帧单元的一般最大数据传输量(MTU)为约1500字节。
MAC帧具有例如如图15中所示的配置,即,其中为以上结合图10所述的IP分组的首部设置MAC首部的配置。例如,在图15中所示的MAC帧中,必须为用作MAC帧的载荷的媒体数据mdat设置IP首部的数据量,使得MTU为1500字节或更少。
当进行从发送设备20至接收设备30的分组发送时,在发送设备20与接收设备30之间进行通信时,或在发送设备20与接收设备30之间的中继设备等等之中,可能重复地进行根据MTU的片段化,即分组分割处理与分割数据重新配置处理。
如果出现这样的情形,将增加从发送设备20中的内容输入至接收设备30中的内容再现的时间段被延迟,以及在接收设备30出现内容再现延时的可能性。
以下将说明用于防止这样情形的配置。
在以下将说明的实施方式中,在分组生成处理的阶段,在HTTP层中,发送设备20将分组的数据大小设置为预定的大小或更少。具体地,将分组的数据大小设置为等于或小于通信路径中假设的最大数据传输单元(MTU)。具体地,例如,生成和发送存储有通过进一步分割一个NAL单元获得的NAL单元片段的分组。
如上所述,例如,以太网(注册商标)中规定的MAC帧的一般的最大数据传输量(MTU)为约1500字节。
考虑HTTP分组的生成阶段的MTU,发送设备20的数据处理单元进行分组生成。例如,进行分组生成,使得存储HTTP分组的MAC帧的帧大小为1500字节或更少。
通过考虑经过发送设备20的数据处理单元的通信路径中的最大数据传输量(MTU)而进行分组生成处理,用作根据发送设备、中继设备、或接收设备的IP层中的MTU的分组分割处理的片段化不是必要的,且可以顺利进行数据传输。
如上所述,在HTTP分组生成的阶段,发送设备20的数据处理单元进行将分组存储数据设为等于或小于通信路径中规定的MTU的片段的处理。通过该处理,例如,减少了通信路径的IP层中的片段化处理的开销。
在以上结合包括图5的图所述的例子中,一个或多个NAL单元用作媒体数据(mdat),且与用作属性数据的元数据(moof)组合,以生成一个片段,且生成存储了包括该片段的子GOP媒体分段的HTTP分组。
在以下将说明的实施方式中,生成存储有通过分割作为媒体数据(mdat)的一个NAL单元获得的NAL单元片段(NALf)的HTTP分组。
进一步地,对应于该NAL单元的属性数据(moof)存储在不同于媒体数据(mdat)存储分组的独立和分别的HTTP分组中和被传递。
将结合图16说明本实施方式中HTTP分组的示例性配置。
图16(a)示出以上结合图5至7等所述的子GOP媒体分段。换言之,其为其中将用作通过分割GOP获得的数据的一个或多个NAL单元作为媒体数据(mdat)存储的分段。
然而,图16(a)中示出的子GOP媒体分段为其中仅一个NAL单元被保存为媒体数据(mdat)的例子。NAL单元的数目不限于1,且可以存储多个NAL单元。
在本实施方式中,通过进一步分割图16(a)中所示的子GOP媒体分段,生成多个HTTP分组。考虑通信路径中的最大数据传输量(MTU),进行该分割处理。例如,当生成存储该分割的HTTP分组的MAC帧时,进行该分割处理,使得数据量等于或小于MAC帧中允许的最大传输单位(MTU)。
在分割处理时,进行分割一个或多个NAL单元的NAL单元分割处理。以下,将通过分割NAL单元获得的数据称为“NAL单元片段(NALf)”。
进一步地,将通过分割子GOP媒体分段的配置数据生成的HTTP分组称为“NAL单元片段对应HTTP分组”。
在图16中所示的例子中,图16(a)中所示的子GOP媒体分段的配置数据被分割成图16(b1)至16(b4)中所示的四个HTTP分组。
在图16(b1)至16(b4)中所示的四个NAL单元片段对应HTTP分组中的每一个分组中,当该HTTP分组具有图15中所示的MAC帧配置时,将除MAC首部的数据部分的数据量设为1500字节或更少。
图16(b1)中所示的NAL单元片段对应HTTP分组为存储图16(a)中所示的子GOP媒体分段的元数据区域(即诸如msdh(stype),sidx,以及moof的元数据)的HTTP分组。换言之,图16(b1)中所示的NAL单元片段对应HTTP分组为元数据存储型NAL单元片段对应HTTP分组。
图16(b2)至16(b4)中所示的NAL单元片段对应HTTP分组为存储通过分割图16(a)中所示的子GOP媒体分段的媒体数据(mdat)区域中的NAL单元生成的NAL片段(NALf)的HTTP分组。换言之,图16(b2)至16(b4)中所示的NAL单元片段对应HTTP分组为媒体数据存储型NAL单元片段对应HTTP分组。
在图16(a)中所示的子GOP媒体分段中仅存储一个NAL单元,但存在其中如图16(a)中所示的子GOP媒体分段中存储一个NAL单元的情形以及其中在子GOP媒体分段中存储两个或更多个NAL单元的情形。NAL单元片段的配置数据不限于一个NAL单元,且可以为包括多个NAL单元的数据。例如,之前NAL单元的第二半部分可以与随后NAL单元的首部组合,以设置一个NAL单元片段。
通过如上所述分割一个子GOP媒体分段,发送设备20生成多个HTTP分组,从这些HTTP分组生成IP分组,且顺序地发送这些IP分组。
然而,当如上所述分割和传递一个初始的NAL单元及其属性信息时,必须重构该NAL单元及其属性信息,使得接收设备30侧进行解码处理与再现处理。
在HTTP分组中作为附加信息记录对于此必须的信息。
在图16(b1)中所示的元数据存储型NAL单元片段对应HTTP分组的HTTP首部中记录以下附加信息:
*NAL单元片段首部
[X-NALUFragmentSubSegmentHeader];
*电影片段序列号
[X-MovieFragmentSequenceNumber];以及
*访问点信息[X-SAP]。
该NAL单元片段首部为识别该HTTP分组是否为元数据存储型NAL单元片段对应HTTP分组或媒体数据存储型NAL单元片段对应HTTP分组的识别信息。
该电影片段序列号为分割之前记录在子GOP媒体分段的元数据(moof)中的序列号,且用作存储在该子GOP媒体分段中的NAL单元的排列信息。作为序列号,分割之前记录在子GOP媒体分段的元数据(moof)中的序列号被不经变化地拷贝和记录。
该访问点信息为指示在用作HTTP分组的生成源的子GOP分段(图16(a)的子GOP媒体分段)中存储的NAL单元中是否包括了用作随机访问点的数据的信息。
参考该访问点信息(X-SAP),该接收设备能立即确定该HTTP分组是否为基于包括用作随机访问点的NAL单元的子GOP分段的配置数据而生成的数据。
当记录在图16(b1)的元数据存储型NAL单元片段对应HTTP分组的HTTP首部中的访问点信息(X-SAP)指示该访问点数据包括在该分组生成源的子GOP分段中时,可能参考元数据[sidx]获取该SAP,即随机访问点的编码数据的位置。
同时,在图16(b2)至16(b4)中所示的媒体数据存储型NAL单元片段对应HTTP分组的HTTP首部中记录了以下附加信息。
*电影片段序列号
[X-MovieFragmentSequenceNumber];
*NAL单元内位置识别信息
[X-NALUFragmentIndicator];以及
*访问点信息[X-SAP]。
该电影片段序列号为分割之前记录在子GOP媒体分段的元数据(moof)中的序列号,且如上所述用作存储在子GOP媒体分段中的NAL单元的排列信息。作为序列号,分割之前记录在子GOP媒体分段的元数据(moof)中的序列号被不经变化地拷贝和记录。
该NAL单元内位置识别信息为指示分割之前存储在该分组中的NAL单元片段(NALf)对应的NAL单元的位置的信息。
其中NAL单元内位置识别信息为X-StartNALUFragmentSubSegment的分组为其中分割之前NAL单元的首部区域中的NAL单元片段(NALf)被作为媒体数据(mdat)存储的分组。
其中NAL单元内位置识别信息为X-MiddleNALUFragmentSubSegment的分组为其中分割之前NAL单元的中间区域中的NAL单元片段(NALf)被作为媒体数据(mdat)存储的分组。
其中NAL单元内位置识别信息为X-EndNALUFragmentSubSegment的分组为其中分割之前NAL单元的尾部区域中的NAL单元片段(NALf)被作为媒体数据(mdat)存储的分组。
当将存储在一个子GOP媒体分段中的NAL单元分为四个或更多个媒体数据存储型NAL单元片段对应HTTP分组时,生成为其设置NAL单元内位置识别信息=X-MiddleNALUFragmentSubSegment的多个分组。能基于分组首部信息而非HTTP首部确定存储在分组中的媒体数据(mdat)的NAL单元片段(NALf)的排列。
例如,能参考记录在存储HTTP分组的LCT分组的LCT首部中的分组序列号确定存储在分组中的媒体数据(mdat)的NAL单元片段(NALf)的排列。之后将说明发送分组的具体配置和LCT首部的具体配置。
从而,例如,在将HTTP分组存储在LCT分组中和发送所得LCT分组的配置中,可以设置为HTTP首部设置的NAL单元内位置识别信息,以仅识别其中该位置为首部区域的存储有数据的分组。换言之,可以仅记录等于X-StartNALUFragmentSubSegment的NAL单元内位置识别信息,且可以参考LCT首部的序列号来排列其后的收据。
该访问点信息为指示在用作HTTP分组的生成源的子GOP分段(图16(a)的子GOP媒体分段)中存储的NAL单元中是否包括了用作随机访问点的数据的信息。
参考该访问点信息(X-SAP),该接收设备能立即确定该HTTP分组是否为基于包括用作随机访问点的NAL单元的子GOP分组的配置数据而生成的数据。
图17示出元数据存储型NAL单元片段对应HTTP分组的配置与HTTP首部的示例性数据配置。
如图17中所示,例如,在HTTP首部中记录以下HTTP首部信息:
“…
HTTP/1.1 206部分内容
日期:2013年10月4日星期五11:14:20 GMT
内容-类型:应用/mp4
X-NALUFragmentSubsegmentHeader
X-MovieFragmentSequenceNumber:234567
X-SAP
…”
在该HTTP首部信息中,该NAL单元片段首部为“X-NALUFragmentSubsegmentHeader”。
将该NAL单元片段首部记录为指示该HTTP分组为元数据存储型NAL单元片段对应HTTP分组的信息。
在该HTTP首部信息中,该电影片段序列号为“X-MovieFragmentSequenceNumber”。
该电影片段序列号为分割之前记录在子GOP媒体分段的元数据(moof)中的序列号,且如上所述用作存储在该子GOP媒体分段中的NAL单元的排列信息。作为序列号,分割之前记录在子GOP媒体分段的元数据(moof)中的序列号被不经变化地拷贝和记录。
在HTTP首部信息中,访问点信息为“X-SAP”。
该访问点信息为指示在用作HTTP分组的生成源的子GOP分段中存储的NAL单元中是否包括了用作随机访问点的数据的信息。
接下来,将结合图18说明存储媒体数据的媒体数据存储型NAL单元片段对应HTTP分组的配置与HTTP首部的示例性数据配置。
如图18中所示,例如,在HTTP首部中记录以下HTTP首部信息。
“…
HTTP/1.1 206部分内容
日期:2013年10月4日星期五11:14:20 GMT
内容-类型:应用/mp4
X-Startof GOP
X-MovieFragmentSequenceNumber:234567
X-StartNALUFragmentSubsegment
X-SAP
…”
在HTTP首部信息中,该GOP内位置识别信息为“X-StartofGOP”。
该GOP内位置识别信息为指示GOP内位置的数据,存储在该HTTP分组中的媒体数据(mdat)位于该位置。
作为GOP内位置识别信息在HTTP首部中记录以下数据中的任一项:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的首部区域中时“X-StartofGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时“X-MiddleofGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时“X-EndofGOP”。
在该HTTP首部信息中,该电影片段序列号为“X-MovieFragmentSequenceNumber”。
该电影片段序列号为分割之前记录在子GOP媒体分段的元数据(moof)中的序列号,且如上所述用作存储在该子GOP媒体分段中的NAL单元的排列信息。作为序列号,分割之前记录在子GOP媒体分段的元数据(moof)中的序列号被不经变化地拷贝和记录。
在该HTTP首部信息中,该NAL单元内位置识别信息为“X-StartNALUFragmentIndicator”。
该NAL单元内位置识别信息为指示分割之前存储在该分组中的NAL单元片段(NALf)对应的NAL单元的位置的信息。
其中NAL单元内位置识别信息为X-StartNALUFragmentSubSegment的分组为其中作为媒体数据(mdat)存储分割之前NAL单元的首部区域中的NAL单元片段(NALf)的分组。
其中NAL单元内位置识别信息为X-MiddleNALUFragmentSubSegment的分组为其中作为媒体数据(mdat)存储分割之前NAL单元的中间区域中的NAL单元片段(NALf)的分组。
其中NAL单元内位置识别信息为X-EndNALUFragmentSubSegment的分组为其中作为媒体数据(mdat)存储分割之前NAL单元的尾部区域中的NAL单元片段(NALf)的分组。
在该HTTP首部信息中,访问点信息为“X-SAP”。
该访问点信息为指示在用作HTTP分组的生成源的子GOP分段中存储的NAL单元中是否包括了用作随机访问点的数据的信息。
[9.其中将用作处理优先级信息的从属数据的数目设置为附加的分组信息的示例性配置]
该访问点信息(X-SAP)为识别分组的单元中可随机访问数据的存在或不存在的信息。参考每个分组的访问点信息(X-SAP),接收设备侧能选择存储有可随机访问数据的分组。例如,通过优先处理存储有可随机访问数据的分组,接收设备能快速从随机访问点进行数据再现处理。
在以下将说明的实施方式中,除该访问点数据(X-SAP)之外,为各个分组设置用作另一处理优先级信息的从属文件数目(X-DependencyCounter),且进行通信。
接下来,将结合图19和20说明其中为每个通信分组设置从属文件数目(X-DependencyCounter)的实施方式。
图19示出与以上结合图5至8所述的分组配置类似的子GOP媒体分段HTTP分组的数据存储配置。
在图19中所示的实例中,仅当在HTTP分组中存储的编码数据中包括用作随机访问点的数据时,才在HTTP首部记录访问点信息(X-SAP)。当在HTTP分组中存储的编码数据中不包括用作随机访问点的数据时,不在HTTP首部记录访问点信息(X-SAP)。
仅图19(b1)中所示的分组为其中包括用作随机访问点的数据的分组,且在HTTP首部中记录该随机访问点信息(X-SAP)。
图19(b2)至19(b6)中所示的分组不是其中包括有用作随机访问点的数据的分组,且未在HTTP首部中记录访问点信息(X-SAP)。
在图19中所示的例子中,除该访问点信息(X-SAP)外,将从属文件数目(X-DependencyCounter)作为另一处理优先级信息记录至每个分组的HTTP首部。
为每个通信分组设置接收设备侧有效率地进行该解码处理与该再现处理必须的、作为优先级信息的从属文件数目(X-DependencyCounter)。
如图19(b1)至19(b6)中所示,在每个HTTP分组的HTTP首部中记录从属文件数目(X-DependencyCounter)。
该从属文件数目为指示需要参考存储在分组中的NAL单元而经过解码处理的随后分组的NAL单元的数目的信息。
例如,在作为MP4编码数据生成的NAL单元中,当对NAL单元进行解码处理时,存在需要参考另一NAL单元的数据的单元。
在解码时需要参考的NAL单元的数目不是固定的,而是具有各种值,如0、1、2、3,等等。
进一步地,当在解码某个NAL单元时存在需要参考的NAL单元时,必须首先解码要参考的该NAL单元。
记录在某个分组的HTTP首部中的“从属文件数目”对应于除非解码存储在该分组中的NAL单元结束、难以被解码的其他NAL单元的数目。
在MPEG编码中,存在不参考另一图像即可解码的I图像和需要参考另一图像的P图像与B图像。类似地,存在需要参考另一NAL单元以解码每个NAL单元的NAL单元以及不需要参考另一NAL单元的NAL单元。
进一步地,可以以各种方式设置该要参考的NAL单元,例如,该要参考的NAL单元可以是之前的NAL单元,可以是之后的NAL单元,或可以是之前的NAL单元与之后的NAL单元两者。
记录在图19(b1)至19(b6)中所示的HTTP分组的HTTP首部中的从属文件数目(X-DependencyCounter)为指示需要参考存储在该分组中的NAL单元而经过解码处理的随后分组的NAL单元的数目的信息。
图19示出与以上结合图5至8所述的分组配置类似的子GOP媒体分段HTTP分组的数据存储配置。
然而,在图19中所述的每个HTTP分组中,仅存储一个NAL单元。
图19示出(b1)至(b6)六个子GOP媒体分段HTTP分组。在所有HTTP分组中存储一个NAL单元。
存储在(b1)至(b6)六个子GOP媒体分段HTTP分组中的六个NAL单元为用于配置如图19(a)中所示的一份GOP数据的NAL单元。
如上所述,除“访问点信息(X-SAP)”外,从属文件数目(X-DependencyCounter)记录在子GOP媒体分段HTTP分组的HTTP首部中,其中每一个该HTTP分组存储用于配置GOP的NAL单元中之一。
例如,在图19(b1)中所示的子GOP媒体分段HTTP分组的HTTP首部中记录作为从属文件数目(X-DependencyCounter)的[5]。
其指示存储在随后的HTTP分组中的五个NAL单元参考存储在HTTP分组(b1)中的NAL单元。
换言之,其指示,当进行包括在随后的分组(b2)至(b6)中的五个NAL单元的解码处理时,必须参考存储在分组(b1)中的NAL单元。
连接图19中所示的NAL单元的弯曲箭头指示解码NAL单元时的参考关系。其指示分组(b2)的NAL单元参考分组(b1)的NAL单元。
当进行存储在分组(b3)和(b5)中的两个NAL单元的解码处理时,分组(b2)的NAL单元为被参考的NAL单元。
当进行存储在分组(b4)中的NAL单元的解码处理时,分组(b3)的NAL单元为被参考的NAL单元。
当进行存储在分组(b6)中的NAL单元的解码处理时,分组(b5)的NAL单元为被参考的NAL单元。
该引用关系指示NAL单元的解码处理时的从属关系。
除非解码了分组(b1)的NAL单元,难以解码分组(b2)至(b6)中存储的五个NAL单元。
从而,分组(b1)的NAL单元的从属文件数目(X-DependencyCounter)为[5],且在分组(b1)的HTTP首部中记录从属文件数目(X-DependencyCounter)=5。
除非解码了分组(b2)的NAL单元,难以解码分组(b3)至(b6)中存储的四个NAL单元。
从而,分组(b2)的NAL单元的从属文件数目(X-DependencyCounter)为[4],且在分组(b2)的HTTP首部中记录从属文件数目(X-DependencyCounter)=4。
除非解码了分组(b3)的NAL单元,难以解码分组(b4)中存储的一个NAL单元。
从而,分组(b3)的NAL单元的从属文件数目(X-DependencyCounter)为[1],且在分组(b3)的HTTP首部中记录从属文件数目(X-DependencyCounter)=1。
当解码该随后的NAL单元时,未参考存储在分组(b4)中的NAL单元。换言之,如果未解码分组(b4)的NAL单元,不存在难以解码的随后的NAL单元。
从而,分组(b4)的NAL单元的从属文件数目(X-DependencyCounter)为[0],且在分组(b4)的HTTP首部中记录从属文件数目(X-DependencyCounter)=0。在从属文件=0的情况下,可以设置为不将从属文件数目(X-DependencyCounter)记录在HTTP首部中。
进一步地,除非解码了分组(b5)的NAL单元,难以解码分组(b6)中存储的一个NAL单元。
从而,分组(b5)的NAL单元的从属文件数目(X-DependencyCounter)为[1],且在分组(b5)的HTTP首部中记录从属文件数目(X-DependencyCounter)=1。
当解码该随后的NAL单元时,未参考存储在分组(b6)中的NAL单元。换言之,如果未解码分组(b6)的NAL单元,不存在难以解码的随后的NAL单元。
从而,分组(b6)的NAL单元的从属文件数目(X-DependencyCounter)为[0],且在分组(b6)的HTTP首部中记录从属文件数目(X-DependencyCounter)=0。在从属文件=0的情况下,可以设置为不将从属文件数目(X-DependencyCounter)记录在HTTP首部中。
如图19中所示,参考所接收分组的HTTP首部中的从属文件数目,已接收包括了其中记录有从属文件数目(X-DependencyCounter)的HTTP首部的HTTP分组的接收设备能确定需要参考存储在该HTTP分组中的NAL单元的随后NAL单元的数目。
根据记录在分组单元中的从属文件数目,接收设备能决定每个分组的处理顺序。
例如,通过优先处理在从属文件数目的设定值方面较大的分组,可能顺利地进行每个分组的解码处理。
在图19的右端示出分组(b1)的处理之后接收分组(b2)至(b6)时的处理顺序(1)至(5)的设定例子。
(1)分组(b2)
(2)分组(b3)
(3)分组(b5)
(4)分组(b4)
(5)分组(b6)
例如,如上所述,通过优先处理在从属文件数目的设定值方面较大的分组,可能顺利地进行每个分组的解码处理。
在图19中所示的例子中,在每个HTTP分组中仅存储一个NAL单元,但是存储在该HTTP分组中的NAL单元的数目为2或更多。然而,在这种情况下,将用于存储在该分组中的NAL单元的从属文件数目设置为记录在HTTP首部中。
进一步地,即使对于存储通过进一步将NAL单元分段获得的NAL单元片段的分组,可以设置为将相同的从属文件数目记录在HTTP首部中。
图20示出子GOP媒体分段HTTP分组的配置以及HTTP首部的示例性数据配置。
如图20中所示,例如,在HTTP首部中记录以下的附加信息:
“…
HTTP/1.1 206部分内容
日期:2013年10月4日星期五11:14:20 GMT
内容-类型:应用/MP4
X-StartofGOP
X-SAP
X-DependencyCounter:5
…”
在HTTP首部信息中,“内容-位置:http://a.com/x.mp4”为分段识别符,且包括该HTTP分组中存储的媒体数据(mdat)所属的GOP的识别信息。具体地,“内容-位置:http:// a.com/x.mp4”为GOP数据的位置信息(访问信息)。
在该HTTP首部信息中,“X-StartofGOP”为GOP内位置识别信息,且用作指示一个GOP中位置的数据,存储在该HTTP分组中的媒体数据(mdat)位于该位置。
作为GOP内位置识别信息在HTTP首部中记录以下数据中的任一项:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的首部区域中时“X-StartofGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时“X-MiddleofGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时“X-EndofGOP”。
在该HTTP首部信息中,“X-SAP”为访问点信息,且用作指示在用作HTTP分组的生成源的子GOP分段中存储的NAL单元中是否包括了用作随机访问点的数据的信息。
在该HTTP首部信息中,“X-DependencyCounter”为从属文件数目,且用作指示需要参考存储在分组中的NAL单元而经过解码处理的随后分组的NAL单元的数目的信息。
参考所接收分组的HTTP首部中的从属文件数目,已接收为之设置该HTTP首部的HTTP分组的接收设备能确定需要参考存储在该HTTP分组中的NAL单元的随后NAL单元的数目。根据记录在分组单元中的从属文件数目,接收设备能决定每个分组的处理顺序。
例如,如上所述,通过优先处理在从属文件数目的设定值方面较大的分组,可能顺利地进行每个分组的解码处理。
[10.其中将用作处理优先级信息的优先级信息设为附加的分组信息的示例性配置]
接下来,将说明其中除该访问点信息(X-SAP)外将指示每个访问点信息(X-SAP)的处理优先级信息的优先级信息设为附加的分组信息的示例性配置。
在以下将说明的实施方式中,将指示多个分组的处理优先级的信息设为该附加的分组信息,其中为该多个分组设置了指示存储有可随机访问数据的分组的访问点信息(X-SAP)。
例如,当发送和再现存储有各个视点的图像(多视图图像)的分组时,接收设备能进行优先再现特定视点的图像的处理。
例如,该特定视点为主视点的主视点图像。除该主视点图像外,存储在该分组中的图像数据包括子视点图像,该子视点图像为子视点的图像。
当发送该多视图图像时,例如如下存储不同视点的图像数据:
主视点的图像数据存储在分组A中;
第一子视点的图像数据存储在分组B中;以及
第二子视点的图像数据存储在分组C中。
从存储有各自视点的图像的分组中,接收设备能仅选择存储有特定视点的图像的分组,并再现所选择的分组。
例如,为存储有主视点的图像数据的分组设置优先级信息(Priority)=1。
为存储有第一子视点的图像数据的分组设置优先级信息(Priority)=2。
为存储有第二子视点的图像数据的分组设置优先级信息(Priority)=3。
通过进行这样的设定,通过选择和处理为之设置相同优先级信息(Priority)的分组,接收设备能仅仅选择、解码和再现特定视点的图像。
例如,为存储主视点的图像数据的分组设置优先级信息(优先级)=1。
为存储第一子视点的图像数据的分组设置优先级信息(优先级)=2。
为存储第二子视点的图像数据的分组设置优先级信息(优先级)=3。
通过进行这样的设定,通过选择和处理为之设置相同优先级信息(优先级)的分组,接收设备能仅仅选择、解码和再现特定视点的图像。
或者,当发送存储有不同编码图像数据的分组时,例如,将各个编码图像数据存储在以下个体的分组中和进行发送:
(a)基层编码图像存储分组;以及
(b)增强层编码图像存储分组。
可能通过仅解码和再现基层编码图像而再现低质量图像,且可能一起使用增强层编码图像来再现高质量图像数据。
当这样设定的编码图像数据存储在个体的分组中和发送时,如下进行优先级设置:
基层编码图像存储分组的优先级=1;以及
增强层编码图像的优先级=2。
例如,接收设备优先处理其优先级被设为1的基层编码图像存储分组的数据。通过该处理,即使在由于分组延时等的缘故而难以在预定的时间段内接收所有分组时,可能再现低质量图像,且从而能减少再现错误。
在以下将要说明的实施方式中,除上述的访问点信息(X-SAP)外,将指示多个分组的处理优先级的信息(X-Priority)设为该附加的分组信息,其中为该多个分组设置了访问点信息(X-SAP)。
将结合图21和22说明本实施方式。
图21示出根据本实施方式发送和接收的HTTP分组的示例性配置。
图21示出与以上结合图5至8所述的配置类似的子GOP媒体分段HTTP分组的数据存储配置。
与以上结合图5至8所述的类似,图21(b1)至21(b6)中所示的每个HTTP分组为存储有用作GOP的配置数据的一个或多个NAL单元。
在图21中所示的例子中,在图21(b1)至21(b6)中所示的所有HTTP分组中,在HTTP分组中存储的编码数据中包括了用作随机访问点的数据。
在每个分组中,例如,存储了上述多视点图像数据,且存储了对应于来自特定视点的所捕获图像的NAL单元。
在图21(b1)至21(b6)中所示的每个HTTP分组的HTTP首部中记录了指示在所存储的NAL单元中包括了该随机访问点的访问点信息(X-SAP)。
在图21(b1)至21(b6)中所示的每个HTTP分组的HTTP首部中,除该访问点信息(X-SAP)外,进一步作为附加的分组信息记录了指示为之设置该访问点信息(X-SAP)的分组的处理优先级信息的优先级信息(X-Priority)。
该优先级信息(X-Priority)为指示多个分组的处理优先级的信息。
具体地,如上所述,例如,当发送存储有各个视点的图像(多视图图像)的分组时,记录以下优先级信息(X-Priority):
为存储有主视点的图像数据(NAL)的分组记录优先级信息(X-Priority)=1;
为存储有第一子视点的图像数据(NAL)的分组记录优先级信息(X-Priority)=2;以及
为存储有第二子视点的图像数据(NAL)的分组记录优先级信息(X-Priority)=3。
例如,在每个HTTP分组的HTTP首部中记录这样的优先级信息(X-Priority)。
参考记录在所接收分组的HTTP首部中的优先级信息(X-Priority),接收设备能检查每个分组的处理优先级。例如,通过仅选择和处理具有最高处理优先级(1)的分组,能够解码和再现主视点的图像数据。
在图21的右端示出接收分组(b1)至(b6)时处理顺序(1)至(6)的设定例子。
(1)分组(b1)
(2)分组(b2)
(3)分组(b5)
(4)分组(b3)
(5)分组(b4)
(6)分组(b6)
例如,以(1)至(6)的顺序进行该处理。
处理顺序(1)至(3)的分组,即分组(b1)、(b2)、和(b5)为设置了优先级信息(X-Priority)=1的分组,例如存储有主视点的所捕获图像的分组。
另一方面,处理顺序(4)至(6)的分组,即分组(b3)、(b4)、和(b6)为设置了优先级信息(X-Priority)=2的分组,例如存储有子视点的所捕获图像的分组。
如上所述,可能进行解码和再现主视点的图像和之后解码和再现子视点的图像的处理。
在图21中所示的实例中,每个HTTP分组中存储了多个NAL单元,但是一个NAL单元或是通过进一步将NAL单元分段获得的NAL单元片段可以用作分组存储数据。对于这样的各种形式的分组,可能将优先级信息记录在HTTP首部中和使用它。
图22示出子GOP媒体分段HTTP分组的配置与HTTP首部的示例性数据配置。
如图22中所示,例如,在HTTP首部中记录以下附加信息。
“…
HTTP/1.1 206部分内容
日期:2013年10月4日星期五11:14:20 GMT
内容-类型:应用/mp4
内容-位置:http://a.com/x.mp4
X-StartofGOP
X-SAP
X-Priority:2
…”
在该HTTP首部信息中,“内容-位置:http://a.com/x.mp4”为分段识别符,且包括存储在HTTP分组中的媒体数据(mdat)所属的GOP的识别信息。具体地,“内容-位置:http:// a.com/x.mp4”为GOP数据的位置信息(访问信息)。
在该HTTP首部信息中,“X-StartofGOP”为GOP内位置识别信息,且用作指示一个GOP中位置的数据,存储在该HTTP分组中的媒体数据(mdat)位于该位置。
作为GOP内位置识别信息在HTTP首部中记录以下数据中的任一项:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的首部区域中时“X-StartofGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时“X-MiddleofGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时“X-EndofGOP”。
在该HTTP首部信息中,“X-SAP”为访问点信息,且用作指示在用作HTTP分组的生成源的子GOP分段中存储的NAL单元中是否包括了用作随机访问点的数据的信息。
在该HTTP首部信息中,“X-Priority”为指示为之设置访问点信息(X-SAP)的分组的处理优先级信息的优先级信息。
参考所接收分组的HTTP首部的优先级信息(X-Priority),接收了为之设置HTTP首部的HTTP分组的接收设备能确定这些分组的处理优先级。
根据记录在分组的单元中的优先级信息(X-Priority),接收设备能决定每个分组的处理顺序。
[11.发送设备与接收设备的处理序列]
接下来,将结合图23至25中所示的处理图说明由发送设备与接收设备进行的处理序列。
首先,将结合图23中所示的处理图说明由发送设备20进行的处理序列。
图23中所示的处理为用于说明生成和发送HTTP分组之过程的处理,为该HTTP分组设置了如以上结合图19和20所述的从属文件数目信息(X-DependencyCounter),或是为该HTTP分组设置了如以上结合图21和22所述的优先级信息(X-Priority)。
由发送设备20的数据处理单元进行该处理。该数据处理单元包括具有程序执行功能的CPU,且根据存储在存储单元中的程序进行根据图23中所示的处理的过程。
以下,将顺序地说明各个步骤的处理。
(步骤S101)
首先,发送设备的数据处理单元对用作发送对象的内容进行编码处理。例如,进行根据MP4文件格式的编码处理。
(步骤S102)
之后,发送设备生成与子GOP媒体分段对应的媒体数据(mdat)。该处理为生成存储在以上结合包括图5的图所述的子GOP媒体分段中的媒体数据(mdat)的处理。该媒体数据(mdat)包括用作MP4编码数据的GOP数据的一部分,也即生成作为配置数据的用于配置GOP的一个或多个NAL单元。
(步骤S103)
之后,发送设备生成用作对应于步骤S102中生成的媒体数据(mdat)的属性信息的元数据(moof)。
(步骤S104)
之后,发送设备生成用作对应于子GOP媒体分段的元数据的msdh与sidx。
msdh与sidx为存储在以上结合包括图5的图所述的子GOP媒体分段中的元数据。
(步骤S105)
之后,发送设备生成HTTP首部,其中,在子GOP媒体分段HTTP分组中记录从属文件数目信息(X-DependencyCounter)与优先级信息(X-Priority)中至少一项的附加信息。
例如,生成了其中记录有如以上结合图19与20所述的从属文件数目信息(X-DependencyCounter)的HTTP首部或其中记录有如以上结合图21与22所述的优先级信息(X-Priority)的HTTP首部。
除该附加信息外,在该HTTP首部中也记录了以下附加信息:
分段识别信息(内容-类型:应用/MP4);
GOP内位置识别信息(X-StartofGOP,等等);以及
访问点信息(X-SAP)。
该分段识别信息包括存储在该HTTP分组中的媒体数据(mdat)所属的GOP的识别信息,且具体地为GOP数据的位置(访问信息)。
该GOP内位置识别信息(X-StartofGOP,等等)为指示一个GOP中位置的数据,存储在该HTTP分组中的媒体数据(mdat)位于该位置。
作为GOP内位置识别信息在HTTP首部中记录以下数据中的任一项:
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的首部区域中时“X-StartofGOP”;
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的中间区域中时“X-MiddleofGOP”;以及
当存储在HTTP分组中的媒体数据(mdat)处于一个GOP的尾部区域中时“X-EndofGOP”。
该访问点信息(X-SAP)为指示在用作该HTTP分组的生成源的子GOP分段中存储的NAL单元中是否包括了用作随机访问点的数据的信息。
除以上附加信息外,例如,可以根据所发送分组的形式记录任何其他附加信息。
例如,当该分组存储数据为NAL单元片段时,记录以下附加信息:
NAL单元片段首部;以及
NAL单元内位置识别信息。
(步骤S106)
之后,在步骤S106中,发送设备生成为之设置在步骤S105中生成的HTTP首部的HTTP分组。
换言之,生成包括其中记录有从属文件数目信息(X-DependencyCounter)与优先级信息(X-Priority)中至少一项的附加信息的HTTP首部的HTTP分组。
(步骤S107与S108)
之后,通过为生成的HTTP分组设置LCT首部、UDP首部以及IP首部,发送设备生成IP分组,且发送该IP分组。通过诸如互联网的通信网络与广播波中的任一种或同时通过两种通信路径进行该发送处理。
图23中所示的处理为用于说明基于媒体分段生成的分组的生成/发送过程的处理。当基于初始化分段生成该分组时,在生成该初始化分段的配置数据后,例如,进行在该HTTP首部中记录指示该初始化分段的分段识别符的处理。
接下来,将结合图24与25中所示的处理图在接收设备中进行从分组接收至内容再现的处理序列。
通过接收设备30的数据处理单元进行该处理。该数据处理单元包括具有程序执行功能的CPU,且根据存储在存储单元中的程序依照图24和25中所示的处理进行该处理。
以下,将顺序地说明各个步骤的处理。
(步骤S201)
首先,在步骤S201中,接收设备从用户接收指定再现内容的信息。例如,在显示单元上显示之前从发送设备接收的诸如节目表的内容清单,且基于关于显示信息的用户输入信息决定再现内容。
(步骤S202)
之后,接收设备接收包括与作为再现对象而选择的所选内容对应的初始化分段的分组,且获取该初始化分段。
如上结合图9所述,在其中存储有该初始化分段的HTTP分组的HTTP首部中记录该分段识别信息,且从而可能参考该识别信息而检查其中存储有该初始化分段的HTTP分组。
(步骤S203)
根据所接收的初始化分段的存储数据,接收设备进行初始化该接收设备的处理。具体地,该接收设备获取存储在该初始化分段中的编解码器设置参数,且例如根据所获取的参数进行编解码器设置。
(步骤S204)
之后,接收设备接收与在步骤S201中选择的所选内容对应的子GOP媒体分段。
(步骤S205)
之后,接收设备从所接收分组的HTTP首部获取存储在该分组中的数据的以下属性信息:
*GOP内位置识别信息;
*访问点信息;
*从属文件数目信息;以及
*优先级信息。
可以为该首部设置或不为该首部设置以上附加信息,且仅在添加了该附加信息时获取该附加信息。
该GOP内位置识别信息为指示一个GOP内位置的数据,存储在该HTTP分组中的媒体数据(mdat)位于该位置。
该访问点信息(X-SAP)为指示在用作该HTTP分组的生成源的子GOP分段中存储的NAL单元中是否包括了用作随机访问点的数据的信息。
该从属文件数目(X-DependencyCounter)为指示需要参考存储在该HTTP分组中的NAL单元而经过解码处理的随后分组的NAL单元的数目的信息。
该优先级信息(X-Priority)为分组的处理优先级信息。
除以上附加信息外,例如,可以根据所接收分组的形式记录任何其他附加信息。
例如,当该分组存储数据为NAL单元片段时,记录以下附加信息:
NAL单元片段首部;以及
NAL单元内位置识别信息。
该NAL单元片段首部为指示该HTTP分组为元数据存储型NAL单元片段对应HTTP分组的信息。
该电影片段序列号为分割之前记录在子GOP媒体分段的元数据(moof)中的序列号,且用作存储在该子GOP媒体分段中的NAL单元的排列信息。
该NAL单元内位置识别信息为指示分割之前该NAL单元的位置的信息,存储在该分组中的NAL单元片段(NALf)与该NAL单元的位置对应。
(步骤S206)
之后,在步骤S206中,接收设备确定是否进行为之应用访问点信息(X-SAP)的解码与再现。
例如,确定是否进行特殊的再现处理(诸如从内容中间起的再现处理,诸如随机访问再现处理)。基于用户的输入信息等来决定该确定处理。
当进行为之应用访问点信息(X-SAP)的再现处理时,该处理行进至步骤S207。当进行未为之应用访问点信息(X-SAP)的再现处理时,该处理行进至步骤S210。
(步骤S207)
在步骤S206中,当确定将进行诸如随机访问再现处理的特殊再现处理时,该处理行进至步骤S207。在步骤S207中,进一步确定是否进行基于使用该从属文件数目信息或该优先级信息的分组选择的再现。
在是的情况下,该处理行进至步骤S209,而在否的情况下,该处理行进至步骤S208。
(步骤S208)
步骤S208为当进行应用了访问点信息(X-SAP)的再现处理时进行的处理。
选择其中记录在该分组的HTTP首部中的访问点信息(X-SAP)指示具有该访问点的数据的分组。换言之,作为解码对象而选择指示在用作该HTTP分组的生成源的子GOP分段中存储的NAL单元中包括有用作随机访问点的数据的分组,且进行该解码处理与再现处理。
在这种情况下,无需排列所有GOP,能进行该解码处理与再现。
在步骤S208的处理之后,该处理行进至步骤S215。
(步骤S209)
步骤S209为进行除访问点信息(X-SAP)外应用了该从属文件数目信息或该优先级信息的再现处理时进行的步骤。
在步骤S209中,根据从HTTP首部获取的访问点信息(X-SAP),优先地选择包括访问点的NAL单元,根据从该HTTP首部获取的从属文件数目信息或优先级信息来决定要处理的分组的顺序,且进行该解码处理与该再现处理。
(步骤S210)
当在步骤S206中进行未应用访问点信息(X-SAP)的再现处理时,该处理行进至步骤S210。
在步骤S210中,进一步确定是否进行基于使用该从属文件数目信息或该优先级信息的分组选择的再现。
在是的情况下,该处理行进至步骤S211,而在否的情况下,该处理行进至步骤S212。
(步骤S211)
步骤S211为当进行应用了该从属文件数目信息或该优先级信息的再现处理时进行的步骤。
在步骤S211中,根据从HTTP首部获取的该从属文件数目信息或该优先级信息而决定要处理的分组的顺序,且进行该解码处理与该再现处理。
(步骤S212)
另一方面,当步骤S206与步骤S210的确定处理结果为否时,即当确定要进行不使用该访问点信息(X-SAP)、该从属文件数目信息、以及该优先级信息中任一项的常规再现处理时,该处理行进至步骤S212。在步骤S212中,根据从该HTTP首部获取的识别信息,接收设备重新排列存储在多个所接收的媒体数据存储型NAL单元片段对应HTTP分组中的NAL单元片段,且重新构建GOP单元数据。
(步骤S213与S214)
之后,接收设备对重新构建的GOP数据进行解码处理,且对该解码的数据进行再现处理。
(步骤S215)
之后,接收设备确定该数据再现处理是否结束,且当该数据再现处理未结束时,该处理返回至步骤S204,且重复进行步骤S204及其之后的处理。
当在步骤S211中确定该再现处理结束时,该处理结束。
进一步地,例如,当如在随机访问再现等之中一样仅再现特定再现位置处的图像时,参考元数据存储型NAL单元片段对应HTTP分组中用作随机访问点信息的sidx数据,能使用从sidx数据计算的、作为处理对象的一个或多个NAL单元片段(NALf)进行该处理。换言之,例如,进行仅选择、解码和再现与I图像对应的编码图像数据的处理。
在这种情况下,可能仅选择和再现该随机访问点的数据,而不进行重新排列GOP的所有数据的处理。
[12.其中在扩展首部中记录附加信息的实施方式]
在以上实施方式中,为HTTP分组设置以下附加信息:
从属文件数目信息(X-DependencyCounter);以及
优先级信息(X-Priority)。
然而,该附加信息的记录目的地不限于HTTP首部,且可以设置各种记录目的地。
以下将说明其中将该附加信息记录在扩展首部中的实施方式。
将结合图27和28说明其中将附加信息记录在扩展首部中的实施方式。
图27和28中所示的例子为其中将新的扩展首部插入HTTP首部之后的分组区域,且附加信息记录在该扩展首部中的例子。
图27示出记录在该扩展首部中的附加信息的清单,且图28示出具有该扩展首部的三类HTTP分组的例子。
图28示出以下三类HTTP分组:
(1)初始化分段HTTP分组;
(2)基于媒体分段的元数据存储型NAL单元片段对应HTTP分组;以及
(3)基于媒体分段的媒体数据存储型NAL单元片段对应HTTP分组。
在每个分组的HTTP首部之后设置该扩展首部。
在该扩展首部中记录根据图27中所示清单的附加信息。将结合图27说明该附加信息的例子。如图27中所示,以以下信息配置该附加信息:
(a)分段识别信息(初始化分段识别符);
(b)GOP内位置识别信息(子GOP指示符);
(c)电影片段序列号(电影片段序列号);
(d)NAL单元片段首部(NALU片段子分段首部);
(e)NAL单元内位置识别信息(NALU片段识别符);
(f)访问点信息(SAPIndicator);
(g)从属文件数目信息(DependencyCounter);以及
(h)优先级信息(Priority)。
例如,(a)该分段识别信息为8位数据,且在初始化分段的情况下设为1,以及在其他分段的情况下设为0。
在媒体分段的情况下,当将记录在HTTP首部中的内容位置信息(ContentLocation)设为GOP单元数据的位置信息时,可能参考该内容位置信息而区分每个GOP数据。
(b)该GOP内位置识别信息为8位数据,且例如如下设置其位值:
处于GOP的首部位置data(StartofGOP)=1;
处于GOP的中间位置Data(MiddleofGOP)=2;以及
处于GOP的尾部位置Data(EndofGOP)=3。
(c)该电影片段序列号为32位数据,且记录分割之前记录在子GOP媒体分段的元数据(moof)中的序列号。该电影片段序列号为存储在子GOP媒体分段中的NAL单元的排列信息。
(d)该NAL单元片段首部为8位数据,且在元数据存储型NAL单元片段对应HTTP分组的情况下设为1,以及在其他分组的情况下设为0。
(e)该NAL单元内识别信息为8位数据,以及为指示分割之前存储在该分组中的NAL单元片段(NALf)对应之NAL单元之位置的信息。如下设置和记录位值:
分割之前NAL单元的首部位置(StarNALUnitFragmentSubSegment)=1;
分割之前NAL单元的中间位置(MiddleNALUnitFragmentSubSegment)=2;以及
分割之前NAL单元的尾部位置(EndNALUnitFragmentSubSegment)=3。
(f)该访问点信息(SAPIndicator)为与作为HTTP首部的记录信息说明的(X-SAP)相同的数据,且使用8位数据。当该分组为从包括访问点的NAL单元存储分段生成的分组时记录[1],且当其为其他分组时记录[0]。
(g)该从属文件数目信息(DependencyCounter)为指示需要参考存储在HTTP分组中的NAL单元而经历解码处理的随后分组的NAL单元数目(DependencyCounter)的信息。该从属文件数目信息(DependencyCounter)为8位数据,且设置指示该NAL单元数目(从属文件数目)的数值。
(h)该优先级信息(Priority)为指示为之设置访问点信息(X-SAP)的分组的处理优先级信息的优先级信息。通过8位数据的0至255来指示优先级。例如,小的值指示高的优先级。
图28示出其中为以下三类HTTP分组的扩展首部设置图27中所示的(a)至(f)的各附加信息的例子:
(1)初始化分段HTTP分组;
(2)基于媒体分段的元数据存储型NAL单元片段对应HTTP分组;以及
(3)基于媒体分段的媒体数据存储型NAL单元片段对应HTTP分组。
发送设备设置该扩展首部,且将该设置的扩展首部发送至接收设备。参考该扩展首部的分段识别信息,接收设备确定存储有初始化分段的HTTP分组、元数据存储型NAL单元片段对应HTTP分组、以及媒体数据存储型NAL单元片段对应HTTP分组中何者为存储在该分组中的该分段。
进一步地,当确定该分组为媒体数据存储型NAL单元片段对应HTTP分组时,参考该扩展首部的GOP内位置识别信息或NAL单元内位置识别信息,接收设备能重新排列NAL单元片段(NALf)和重新构建GOP。
进一步地,参考访问点信息(SAPIndicator),可能确定该分组是否为从包括访问点的NAL单元存储分段中生成的分组。
进一步地,当该分组为如图28(3)中所示的基于媒体分段的媒体数据存储型NAL单元片段对应HTTP分组,则设置(g)从属文件数目信息(DependencyCounter)或(h)优先级信息(Priority)。
可能确定需要参考(g)从属文件数目信息(DependencyCounter)与存储在每个分组中的NAL单元而经历解码处理的随后分组的NAL单元数目。
参考Ch)优先级信息(Priority),可能确定分组的处理优先级信息。
[13.其中在LCT首部中记录附加信息的实施方式]
如上所述,可用于多播/广播(MC/BC)型流媒体的传输协议的例子包括实时传送协议(RTP)协议以及单向传输的文件传递(FLUTE)协议。
为根据FLUTE协议设置的分组设置用作根据FLUTE协议的首部信息的LCT首部。
换言之,该LCT首部为以上结合图10所述的IP分组中的LCT首部。
接下来,将说明其中在该LCT首部中记录诸如用于NAL单元片段(NALf)的重新排列以及GOP重新配置处理的信息的、用于在接收设备侧顺利执行处理的附加信息的实施方式。
图29示出根据FLUTE协议设置的LCT首部的示例性配置。
例如,为该LCT首部设置以下主要数据字段:
CCI(阻塞控制信息):其中记录每个字段长度、阻塞控制信息等等的字段;
TSI(传送会话识别符):其中记录分组传送会话信息的字段;
TOI(传送目标识别符):其中记录分组传送序列等的字段;
首部扩展部分(首部扩展):其中能够记录各种扩展数据的字段。
如上结合图7所述,可能参考TOI而非GOP内位置信息来检查数据发送顺序。
如上所述,例如,可以为用作记录在HTTP首部中的附加信息等的GOP内位置信息仅仅记录指示首部位置的X-StartofGOP,参考LCT首部中的该TOI,可以作为其他GOP中的数据的排列顺序获取该分组序列,且可以根据该分组序列按正确顺序排列GOP中的NAL单元。
类似地,参考作为NAL单元片段(NALf)的TOI,可能检查数据发送顺序和进行重新排列。例如,仅仅为存储有首部位置的NAL单元片段的分组而在HTTP首部中记录用作记录在HTTP首部等之中的附加信息的NAL单元内位置识别信息。可能从LCT首部的TOI分析该分组序列,以及排列随后的NAL单元片段。
如图29中所示,为LCT首部设置其中能够记录各种数据的首部扩展部分(首部扩展)。能够在首部扩展部分中记录诸如用于NAL单元片段(NALf)的重新排列以及GOP重新配置处理的信息的、用于在接收设备侧顺利执行处理的附加信息。
将结合图30说明LCT首部的首部扩展部分的数据记录配置。
当在LCT首部的首部扩展部分中记录数据时,存在两类格式。
图30(1)示出其中能自由设置记录信息的长度的格式。
图30(2)示出其中将记录信息的长度固定的格式。
在HET(首部扩展类型)中记录指示扩展首部的类型的扩展首部识别信息(数值)。在图30(1)的格式中,能使用多达127的值,且在图30(2)的格式中,规定设置128或更多的值。
在HEL(首部扩展长度)中记录扩展首部的长度。
HEC(首部扩展内容)为其中记录扩展首部内容的字段,且能记录任意的扩展信息。
图31示出当使用图30(2)的格式(其中固定了记录信息的长度)来记录诸如用于NAL单元片段(NALf)的重新排列以及GOP重新配置处理的信息的、用于在接收设备侧顺利执行处理的附加信息时记录数据的示例性配置。
如图31中所示,(a)扩展首部识别信息(HET)为8位数据,且例如作为新信息的识别值而记录[200]。
在扩展信息记录部分(HEC)中记录以下识别信息:
(b)分段识别信息;
(c)GOP内位置识别信息;
(d)电影片段序列号;
(e)NAL单元片段首部;
(f)NAL单元内位置识别信息;
(g)访问点信息;
(h)从属文件数目信息(DependencyCounter);以及
(i)优先级信息(Priority)。
例如,(b)分段识别信息为8位数据,且在初始化分段的情况下设为1,以及在其他分段的情况下设为0。
在媒体分段的情况下,当将记录在HTTP首部中的内容位置信息(ContentLocation)设为GOP单元数据的位置信息时,可能参考该内容位置信息而区分每个GOP数据。
(c)该GOP内位置识别信息为8位数据,且例如如下设置其位值:
处于GOP的首部位置data(StartofGOP)=1;
处于GOP的中间位置Data(MiddleofGOP)=2;以及
处于GOP的尾部位置Data(EndofGOP)=3。
(d)该电影片段序列号为32位数据,且记录分割之前记录在子GOP媒体分段的元数据(moof)中的序列号。该电影片段序列号为存储在子GOP媒体分段中的NAL单元的排列信息。
(e)该NAL单元片段首部为8位数据,且在元数据存储型NAL单元片段对应HTTP分组的情况下设为1,以及在其他分组的情况下设为0。
(f)该NAL单元内识别信息为8位数据,以及为指示分割之前存储在该分组中的NAL单元片段(NALf)对应之NAL单元之位置的信息。如下设置和记录位值:
分割之前NAL单元的首部位置(StarNALUnitFragmentSubSegment)=1;
分割之前NAL单元的中间位置(MiddleNALUnitFragmentSubSegment)=2;以及
分割之前NAL单元的尾部位置(EndNALUnitFragmentSubSegment)=3。
(g)该访问点信息(SAPIndicator)为与作为HTTP首部的记录信息说明的(X-SAP)相同的数据,且使用8位数据。当该分组为从包括访问点的NAL单元存储分段生成的分组时记录[1],且当其为其他分组时记录[0]。
(h)该从属文件数目信息(DependencyCounter)为指示需要参考存储在HTTP分组中的NAL单元而经历解码处理的随后分组的NAL单元数目(从属文件数目)的信息。该从属文件数目信息(DependencyCounter)为8位数据,且设置指示该NAL单元数目(从属文件数目)的数值。
(i)该优先级信息(Priority)为指示为之设置访问点信息(X-SAP)的分组的处理优先级信息的优先级信息。通过8位数据的0至255来指示优先级。例如,小的值指示高的优先级。
发送设备设置包括扩展首部信息的LCT首部,且将设置的LCT首部发送至接收设备。参考LCT首部中的扩展首部信息的分段识别信息,接收设备确定初始化分段存储分组、元数据存储型NAL单元片段对应分组、以及媒体数据存储型NAL单元片段对应分组中何者为所接收的分组。进一步地,当识别该分组为媒体数据存储型NAL单元片段对应分组时,参考记录在LCT首部的扩展首部信息中的NAL单元内位置识别信息或GOP内位置识别信息,接收设备能进行正确排列存储在各分组中的用作媒体数据(mdat)的NAL单元片段(NALf)的重新排列以及GOP的重新配置。
进一步地,参考访问点信息(SAPIndicator),可能确定该分组是否为从包括访问点的NAL单元存储分段中生成的分组。
而且,可能确定需要参考(h)从属文件数目信息(DependencyCounter)与存储在分组中的NAL单元而经历解码处理的随后分组的NAL单元数目。
而且,参考(i)优先级信息(Priority),可能确定为之设置访问点信息(X-SAP)的分组的处理优先级信息。
[14.HEVC编码数据的应用实例]
已结合根据MPEG编码方案的MP4编码数据的处理实例说明了以上实施方式,但是能将根据本公开的处理应用于任何其他编码数据。例如,能将根据本公开的处理用于根据高效率视频编码(HEVC)的编码数据。
将结合图32说明HEVC编码数据的配置。
如图32中所示,通过HEVC编码处理生成的一个HEVC流包括多个序列(编码的视频序列(CVSs))以及序列NAL单元的结尾(EoB)。
以多个GOP与序列NAL单元的结尾(EoS)配置用作HEVC流的元素的该CVS。
GOP具有具有用作随机访问点的内随机访问点(IRAP)访问单元作为首部数据,且包括多个先导图像(LP)访问单元与多个拖尾图像(TP)访问单元。
该LP访问单元与该TP访问单元为能参考某参考图像而解码的访问单元。
然而,当从IRAP访问单元起开始解码时,甚至能对TPAU进行正常的解码和再现。
以多个网络抽象层(NAL)单元配置该访问单元(AU),且该访问单元(AU)必要地包括一个或多个切片分段NAL单元。
如图32中所示,甚至为通过HEVA编码处理生成的编码数据设置用作编码处理单元的GOP,且进一步将该GOP分为多个NAL单元。
在以上结合图5所述的子GOP媒体分段中存储用作设置在该HEVA编码数据中的GOP的配置数据的一个或更多个NAL单元。
进一步地,如以上结合包括图16的图所述,能够生成通过进一步分割NAL单元获得的NAL单元片段(NALf)和将其分布式地存储在HTTP分组中。
即使对于存储有HEVC编码数据的分组,能够设置从属文件数目信息(DependencyCounter)与优先级信息(Priority),且能应用本公开的处理。
本公开的处理不限于MP4与HEVC,且可以用于其中提供有对应于GOP的编码处理单元,且设置有通过分割GOP数据而获得的单元(NAL)的任何编码配置。
[15.各设备的示例性硬件配置]
最后,将结合图33说明进行以上处理的各设备的示例性硬件配置。
图33示出可用作发送设备20与接收设备30的通信设备的示例性硬件配置。
中央处理单元(CPU)201用作根据存储在只读存储器(ROM)202或存储单元208中的程序进行各种处理的数据处理单元。例如,CPU 201根据以上实施方式中说明的序列进行该处理。由CPU 201执行的程序、数据、等等存储在随机存取存储器(RAM)203中。CPU 201、ROM202、以及RAM 203经由总线204相互连接。
CPU 201经由总线204连接到输入/输出接口205,且包括各种开关、键盘、鼠标、麦克风、等等的输入单元206以及包括显示器、扬声器、等等的输出单元207连接到输入/输出接口205。根据来自输入单元206的命令输入,CPU 201进行各种处理,且输出处理结果至例如输出单元207。
连接到输入/输出接口205的存储单元208包括例如硬盘等,且存储由CPU 201执行的程序以及各种数据。通信单元209用作经由诸如互联网或局域网(LAN)的网络而发送和接收数据通信的接收发送单元以及发送和接收广播波的接收发送单元,且进行与外部设备的通信。
连接到输入/输出接口205的驱动器210驱动诸如磁盘、光盘、磁光盘、或诸如存储卡的半导体存储器的可移除介质211,且记录或读取数据。
进一步地,能够作为用作数据处理单元的CPU 201的处理而进行数据的编码或解码,但是可以提供用作用于进行编码处理或解码处理的专用硬件的编解码器。
[16.本公开的配置的结论]
已结合具体例子详细说明了本公开的实施方式。然而,显然本领域技术人员能在不背离本公开的主旨的范围内修改或替换这些实施方式。换言之,以示例性形式公开本发明,且不欲以限制性方式对其进行解释。为确定本公开的主旨,需要考虑本文中列明的权利要求。
本说明书中公开的技术可以具有以下配置。
(1)一种通信设备,包括:
数据处理单元,其生成存储编码数据的分组;以及
通信单元,其发送由所述数据处理单元生成的所述分组,
其中所述数据处理单元生成存储NAL单元或通过进一步对所述NAL单元进行分割而获得的NAL单元片段的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP),以及
所述数据处理单元生成分组,且通过所述通信单元发送所生成的分组,其中所述分组将用于决定存储在所述分组中的NAL单元或NAL单元片段的处理顺序的附加信息设置为针对所述分组的附加信息。
(2)根据(1)所述的通信设备,
其中,所述附加信息为从属文件数目信息,所述从属文件数目信息指示当解码分组存储数据时所参考的随后分组的数据的数目。
(3)根据(1)所述的通信设备,
其中,所述附加信息为指示分组存储数据的处理优先级的优先级信息。
(4)根据(3)所述的通信设备,
其中,通过所述通信设备发送的所述分组包括设置了指示是否包括随机访问点的访问点信息(SAP)的分组,以及
所述附加信息为指示设置了所述访问点信息(SAP)的分组的处理优先级的优先级信息。
(5)根据(3)或(4)所述的通信设备,
其中,通过所述通信设备发送的所述分组为从不同视点捕获的多视图图像,以及
所述数据处理单元为存储不同视点的捕获图像的分组设置不同的优先级信息。
(6)根据(1)至(5)中任一项所述的通信设备,
其中,所述数据处理单元生成HTTP分组,且将所述附加信息记录在所生成分组的HTTP首部中。
(7)根据(1)至(5)中任一项所述的通信设备,
其中,所述数据处理单元将所述附加信息记录在所生成分组的扩展首部中。
(8)根据(1)至(5)中任一项所述的通信设备,
其中,所述数据处理单元将所述附加信息记录在所生成分组的LCT首部中。
(9)根据(1)至(8)中任一项所述的通信设备,
其中,所述通信单元通过广播波进行由所述数据处理单元生成的所述分组的广播传递或多播传递。
(10)一种通信设备,包括:
通信单元,其接收由发送设备发送的编码数据存储分组;以及
数据处理单元,其获取由所述通信单元接收的所述分组,且进行处理,
其中由所述通信单元接收的每个所述编码数据存储分组为存储NAL单元或通过进一步对所述NAL单元进行分割而获得的NAL单元片段的分组和将用于决定存储在其中的NAL单元或NAL单元片段的处理顺序的附加信息设置为附加信息的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP)。
(11)根据(10)所述的通信设备,
其中,参考记录在所接收分组中的且用于决定所述处理顺序的所述附加信息,所述数据处理单元决定存储在所接收分组中的数据的解码处理的顺序。
(12)根据(10)或(11)所述的通信设备,
其中,所述附加信息为从属文件数目信息,所述从属文件数目信息指示当解码分组存储数据时所参考的随后分组的数据的数目。
(13)根据(10)至(12)任一项所述的通信设备,
其中,通过所述通信设备发送的所述分组包括为之设置指示是否包括随机访问点的访问点信息(SAP)的分组,以及
所述附加信息为指示设置了所述访问点信息(SAP)的分组的处理优先级的优先级信息。
(14)根据(10)至(13)任一项所述的通信设备,
其中,通过所述通信设备发送的所述分组为从不同视点捕获的多视图图像,以及
根据基于所述附加信息决定的所述处理顺序,所述数据处理单元进行顺序地解码相同视点的所捕获图像的处理。
(15)根据(10)至(14)任一项所述的通信设备,
其中,所述通信单元接收包括其中记录有所述附加信息的HTTP首部的HTTP分组,以及
所述数据处理单元从所接收分组的所述HTTP首部获取所述附加信息。
(16)根据(10)至(14)任一项所述的通信设备,
其中,所述通信单元接收包括其中记录有所述附加信息的扩展首部的分组,以及
所述数据处理单元从所接收分组的所述扩展首部获取所述附加信息。
(17)根据(10)至(14)任一项所述的通信设备,
其中,所述通信单元接收包括其中记录有所述附加信息的LCT首部的分组,以及
所述数据处理单元从所接收分组的LCT首部获取所述附加信息。
(18)根据(10)至(17)任一项所述的通信设备,
其中,所述通信单元通过广播波接收所述分组。
(19)一种在数据发送设备中进行的通信数据生成方法,包括:
通过数据处理单元生成存储NAL单元或通过进一步对所述NAL单元进行分割而获得的NAL单元片段的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP),以及
通过数据处理单元生成分组,且通过通信单元发送所生成的分组,其中所述分组将用于决定存储在所述分组中的NAL单元或NAL单元片段的处理顺序的附加信息设置为所述分组的附加信息。
(20)一种在数据接收设备中进行的通信数据处理方法,包括:
通过通信单元接收由发送设备发送的编码数据存储分组的步骤;以及
通过数据处理单元获取由所述通信单元接收的所述分组和进行处理的数据处理步骤,
其中通过所述通信单元接收的每个所述编码数据存储分组为存储NAL单元或通过进一步对所述NAL单元进行分割而获得的NAL单元片段的分组和将用于决定存储在其中的NAL单元或NAL单元片段的处理顺序的附加信息设置为附加信息的分组,所述NAL单元构成用作编码数据的处理单元的图像组(GOP),以及
所述数据处理步骤包括获取设置了通过所述通信单元接收的、且用于决定所述处理顺序的所述附加信息的分组以及进行处理的步骤。
可以通过硬件、软件或它们的组合配置来执行本说明书中所述的系列处理。当通过软件执行这些处理时,记录处理序列的程序可以安装在集成到专用硬件中的计算机的存储器中和执行,程序可以安装在能执行各种处理的通用计算机中和执行。例如,可以将程序事先记录在记录介质中。能够从记录介质将程序安装在计算机中,但是程序可以经由诸如局域网(LAN)或互联网的网络接收,且安装在诸如内部硬盘的记录介质中。
进一步地,本说明书中所述的各种处理可以以所述的顺序按时序进行,或是根据进行处理的设备的处理能力或根据需要并行地或个别地进行。在本说明书中,系统是指多个设备的逻辑集总配置,且不限于其中各种配置的设备被安排在同一壳体之中的配置。
工业应用性
如上所述,根据本公开的实施方式,实施了配置,在该配置中,发送和接收为之设置用于决定通信分组之存储数据的处理顺序的附加信息的分组,且能够在分组的单元中确定处理顺序。
具体地,发送设备生成存储NAL单元或通过进一步分割NAL单元获得的NAL单元片段的分组,将用于决定分组存储数据的处理顺序的附加信息设为附加的分组信息,且通过通信单元发送所得的分组,所述NAL单元构成图像组(GOP),该图像组用作编码数据的处理单元。参考该附加的分组信息,接收设备确定分组存储数据的处理优先级,决定该处理顺序,且根据所决定的顺序进行解码分组存储数据的处理。
通过本配置,实施了配置,在该配置中,发送和接收为之设置用于决定通信分组之存储数据的处理顺序的附加信息的分组,且能够在分组的单元中确定处理顺序。
附图标记列表
10 图像系统
20 发送设备
21 数据处理单元
22 通信单元
30 接收设备
31 数据处理单元
32 通信单元
50 初始化分段
60 媒体分段
201 CPU
202 ROM
203 RAM
204 总线
205 输入/输出接口
206 输入单元
207 输出单元
208 存储单元
209 通信单元
210 驱动器
211 可移除介质。
Claims (14)
1.一种通信设备,包括:
数据处理单元,其生成存储编码数据的超文本传输协议HTTP分组;以及
通信单元,其发送由所述数据处理单元生成的HTTP分组,
其中HTTP分组中存储的编码数据包括网络抽象层NAL单元或通过进一步对NAL单元进行分割而获得的NAL单元片段,所述NAL单元构成用作编码数据的处理单元的图像组GOP,
所述数据处理单元生成HTTP分组,且通过所述通信单元发送HTTP分组,其中对于HTTP分组,将用于决定存储在该HTTP分组中的NAL单元或NAL单元片段的处理顺序的附加信息设置在该HTTP分组的HTTP首部中,作为针对该HTTP分组的附加信息,以及
所述附加信息包括
从属文件数目信息和优先级信息中的至少一种,所述从属文件数目信息指示当解码随后HTTP分组的编码数据时参考该HTTP分组的编码数据的随后HTTP分组的编码数据的数目,所述优先级信息指示其中含有指示随机访问点的访问点信息SAP的HTTP分组的处理优先级,其中,在由优先级信息指示的具有较高处理优先级的HTTP分组被处理之后,由优先级信息指示的具有较低处理优先级的HTTP分组被处理。
2.根据权利要求1所述的通信设备,
其中,通过所述通信设备发送的HTTP分组为从不同视点捕获的多视图图像,以及
所述数据处理单元为存储不同视点的捕获图像的HTTP分组设置不同的优先级信息。
3.根据权利要求1所述的通信设备,
其中,所述数据处理单元将所述附加信息记录在所生成的HTTP分组的扩展首部中。
4.根据权利要求1所述的通信设备,
其中,所述数据处理单元将所述附加信息记录在所生成的HTTP分组的LCT首部中。
5.根据权利要求1所述的通信设备,
其中,所述通信单元通过广播波进行由所述数据处理单元生成的HTTP分组的广播传递或多播传递。
6.一种通信设备,包括:
通信单元,其接收由发送设备发送的存储编码数据的超文本传输协议HTTP分组;以及
数据处理单元,其获取由所述通信单元接收的HTTP分组,且进行处理,
其中由所述通信单元接收的每个HTTP分组为存储构成用作编码数据的处理单元的图像组GOP的网络抽象层NAL单元或通过进一步对NAL单元进行分割而获得的NAL单元片段的分组、和如下分组:对于该分组,将用于决定存储在该分组中的NAL单元或NAL单元片段的处理顺序的附加信息设置在该分组的HTTP首部中,作为针对该分组的附加信息,以及
所述附加信息包括
从属文件数目信息和优先级信息中的至少一种,所述从属文件数目信息指示当解码随后HTTP分组的编码数据时参考该分组的编码数据的随后HTTP分组的编码数据的数目,所述优先级信息指示其中含有指示随机访问点的访问点信息SAP的HTTP分组的处理优先级,其中,在由优先级信息指示的具有较高处理优先级的HTTP分组被处理之后,由优先级信息指示的具有较低处理优先级的HTTP分组被处理。
7.根据权利要求6所述的通信设备,
其中,参考记录在所接收的HTTP分组中的且用于决定所述处理顺序的所述附加信息,所述数据处理单元决定存储在所接收的HTTP分组中的数据的解码处理的顺序。
8.根据权利要求6所述的通信设备,
其中,通过所述通信设备发送的HTTP分组为从不同视点捕获的多视图图像,以及
根据基于所述附加信息决定的所述处理顺序,所述数据处理单元进行顺序地解码相同视点的所捕获图像的处理。
9.根据权利要求6所述的通信设备,
其中,所述通信单元接收包括其中记录有所述附加信息的所述HTTP首部的HTTP分组,以及
所述数据处理单元从所接收的HTTP分组的所述HTTP首部获取所述附加信息。
10.根据权利要求6所述的通信设备,
其中,所述通信单元接收包括其中记录有所述附加信息的扩展首部的HTTP分组,以及
所述数据处理单元从所接收的HTTP分组的所述扩展首部获取所述附加信息。
11.根据权利要求6所述的通信设备,
其中,所述通信单元接收包括其中记录有所述附加信息的LCT首部的HTTP分组,以及
所述数据处理单元从所接收的HTTP分组的LCT首部获取所述附加信息。
12.根据权利要求6所述的通信设备,
其中,所述通信单元通过广播波接收HTTP分组。
13.一种在数据发送设备中进行的通信数据生成方法,包括:
通过数据处理单元生成存储编码数据的超文本传输协议HTTP分组,其中,HTTP分组中存储的编码数据包括网络抽象层NAL单元或通过进一步对NAL单元进行分割而获得的NAL单元片段,所述NAL单元构成用作编码数据的处理单元的图像组GOP;以及
通过数据处理单元生成HTTP分组,且通过通信单元发送HTTP分组,其中对于HTTP分组,将用于决定存储在该HTTP分组中的NAL单元或NAL单元片段的处理顺序的附加信息设置在该HTTP分组的HTTP首部中,作为针对该HTTP分组的附加信息,
其中所述附加信息包括
从属文件数目信息和优先级信息中的至少一种,所述从属文件数目信息指示当解码随后HTTP分组的编码数据时参考该HTTP分组的编码数据的随后HTTP分组的编码数据的数目,所述优先级信息指示其中含有指示随机访问点的访问点信息SAP的HTTP分组的处理优先级,其中,在由优先级信息指示的具有较高处理优先级的HTTP分组被处理之后,由优先级信息指示的具有较低处理优先级的HTTP分组被处理。
14.一种在数据接收设备中进行的通信数据处理方法,包括:
通过通信单元接收由发送设备发送的存储编码数据的超文本传输协议HTTP分组的步骤;以及
通过数据处理单元获取由所述通信单元接收的HTTP分组和进行处理的数据处理步骤,
其中通过所述通信单元接收的每个HTTP分组为存储构成用作编码数据的处理单元的图像组GOP的网络抽象层NAL单元或通过进一步对NAL单元进行分割而获得的NAL单元片段的分组、和如下分组:对于该分组,将用于决定存储在该分组中的NAL单元或NAL单元片段的处理顺序的附加信息设置在该分组的HTTP首部中,作为针对该分组的附加信息,
所述附加信息包括
从属文件数目信息和优先级信息中的至少一种,所述从属文件数目信息指示当解码随后HTTP分组的编码数据时参考该分组的编码数据的随后HTTP分组的编码数据的数目,所述优先级信息指示其中含有指示随机访问点的访问点信息SAP的HTTP分组的处理优先级,其中,在由优先级信息指示的具有较高处理优先级的HTTP分组被处理之后,由优先级信息指示的具有较低处理优先级的HTTP分组被处理,以及
所述数据处理步骤包括获取设置了通过所述通信单元接收的、且用于决定所述处理顺序的所述附加信息的HTTP分组以及进行处理的步骤。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014006882A JP2015136060A (ja) | 2014-01-17 | 2014-01-17 | 通信装置、通信データ生成方法、および通信データ処理方法 |
| JP2014-006882 | 2014-01-17 | ||
| PCT/JP2014/081716 WO2015107787A1 (ja) | 2014-01-17 | 2014-12-01 | 通信装置、通信データ生成方法、および通信データ処理方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN105900436A CN105900436A (zh) | 2016-08-24 |
| CN105900436B true CN105900436B (zh) | 2019-08-16 |
Family
ID=53542691
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201480072673.6A Active CN105900436B (zh) | 2014-01-17 | 2014-12-01 | 通信设备、通信数据生成方法、以及通信数据处理方法 |
Country Status (8)
| Country | Link |
|---|---|
| US (1) | US10326811B2 (zh) |
| EP (1) | EP3096526B1 (zh) |
| JP (1) | JP2015136060A (zh) |
| KR (1) | KR102120525B1 (zh) |
| CN (1) | CN105900436B (zh) |
| CA (1) | CA2933465C (zh) |
| MX (1) | MX370046B (zh) |
| WO (1) | WO2015107787A1 (zh) |
Families Citing this family (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2015136059A (ja) | 2014-01-17 | 2015-07-27 | ソニー株式会社 | 通信装置、通信データ生成方法、および通信データ処理方法 |
| US20170272691A1 (en) * | 2014-12-22 | 2017-09-21 | Lg Electronics Inc. | Broadcast signal transmission device, broadcast signal reception device, broadcast signal transmission method, and broadcast signal reception method |
| US10659507B2 (en) * | 2015-03-02 | 2020-05-19 | Qualcomm Incorporated | Indication for partial segment |
| US10749930B2 (en) | 2015-03-02 | 2020-08-18 | Qualcomm Incorporated | Indication for partial segment |
| US10380070B2 (en) * | 2015-11-12 | 2019-08-13 | International Business Machines Corporation | Reading and writing a header and record on tape |
| US10367874B2 (en) * | 2016-11-04 | 2019-07-30 | Verizon Patent And Licensing Inc. | MPEG-DASH delivery over multicast |
| JP6359074B2 (ja) * | 2016-12-01 | 2018-07-18 | 株式会社インフォシティ | コンテンツ配信システム |
| WO2018105771A1 (ko) * | 2016-12-07 | 2018-06-14 | 주식회사 이에스엠연구소 | 실시간 동영상 재생파일 전송장치 및 방법 |
| CN110352613B (zh) * | 2017-03-29 | 2024-05-24 | 英特尔公司 | 用于多rat发送的消息分割 |
| JP6490284B2 (ja) * | 2018-06-01 | 2019-03-27 | 株式会社インフォシティ | コンテンツ配信システム |
| JP7271099B2 (ja) * | 2018-07-19 | 2023-05-11 | キヤノン株式会社 | ファイルの生成装置およびファイルに基づく映像の生成装置 |
| CN112199082B (zh) * | 2020-10-14 | 2023-04-14 | 杭州安恒信息技术股份有限公司 | 一种http响应处理方法、装置、电子设备及存储介质 |
| CN112822516B (zh) * | 2020-12-30 | 2022-07-26 | 北京大学 | 基于数据块重组的图像组传输方法、装置、设备和系统 |
| CN112788344B (zh) * | 2020-12-30 | 2023-03-21 | 北京大数据研究院 | 基于编码单元重组的视频解码方法、装置、系统、介质及终端 |
| CN112822488B (zh) * | 2020-12-30 | 2023-04-07 | 北京大学 | 基于块重组的视频编解码系统、方法、装置、终端及介质 |
| CN112788339B (zh) * | 2020-12-30 | 2023-01-10 | 北京大数据研究院 | 视频编码优化方法、装置、系统、介质及终端 |
| CN112788336B (zh) * | 2020-12-30 | 2023-04-14 | 北京大数据研究院 | 数据元素的排序还原方法、系统、终端及标记方法 |
| CN112822549B (zh) * | 2020-12-30 | 2022-08-05 | 北京大学 | 基于分片重组的视频流解码方法、系统、终端及介质 |
Family Cites Families (46)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| ES2201024T3 (es) * | 2001-11-30 | 2004-03-16 | Alcatel | Plataforma de ip para sistemas avanzados de acceso multipunto. |
| WO2004075554A1 (en) * | 2003-02-18 | 2004-09-02 | Nokia Corporation | Picture decoding method |
| US7724818B2 (en) * | 2003-04-30 | 2010-05-25 | Nokia Corporation | Method for coding sequences of pictures |
| FR2888424A1 (fr) * | 2005-07-07 | 2007-01-12 | Thomson Licensing Sas | Dispositif et procede de codage et de decodage de donnees video et train de donnees |
| US20070230564A1 (en) * | 2006-03-29 | 2007-10-04 | Qualcomm Incorporated | Video processing with scalability |
| US8245264B2 (en) * | 2006-05-26 | 2012-08-14 | John Toebes | Methods and systems to reduce channel selection transition delay in a digital network |
| US9432433B2 (en) | 2006-06-09 | 2016-08-30 | Qualcomm Incorporated | Enhanced block-request streaming system using signaling or block creation |
| US8582663B2 (en) * | 2006-08-08 | 2013-11-12 | Core Wireless Licensing S.A.R.L. | Method, device, and system for multiplexing of video streams |
| WO2008053029A2 (en) * | 2006-10-31 | 2008-05-08 | Gottfried Wilhelm Leibniz Universität Hannover | Method for concealing a packet loss |
| JP4227643B2 (ja) * | 2006-12-20 | 2009-02-18 | パナソニック株式会社 | 動画像符号化装置およびその方法 |
| US8526489B2 (en) * | 2007-09-14 | 2013-09-03 | General Instrument Corporation | Personal video recorder |
| FR2932036B1 (fr) * | 2008-06-03 | 2011-01-07 | Thales Sa | Procede et systeme permettant de proteger un flux video compresse contre les erreurs survenant lors d'une transmission |
| US8300705B2 (en) * | 2008-12-08 | 2012-10-30 | Electronics And Telecommunications Research Institute | Method for generating and processing hierarchical PES packet for digital satellite broadcasting based on SVC video |
| KR101220175B1 (ko) * | 2008-12-08 | 2013-01-11 | 연세대학교 원주산학협력단 | Svc 비디오 기반의 디지털 위성 방송을 위한 계층 분리형 pes 패킷 생성 및 처리 방법 |
| CN102138335B (zh) | 2009-07-10 | 2013-02-06 | 松下电器产业株式会社 | 再现装置、记录方法及记录介质再现系统 |
| EP2285122B1 (en) * | 2009-07-17 | 2013-11-13 | Canon Kabushiki Kaisha | A method and device for reconstructing a sequence of video data after transmission over a network |
| US8976871B2 (en) * | 2009-09-16 | 2015-03-10 | Qualcomm Incorporated | Media extractor tracks for file format track selection |
| JP2011087103A (ja) | 2009-10-15 | 2011-04-28 | Sony Corp | コンテンツ再生システム、コンテンツ再生装置、プログラム、コンテンツ再生方法、およびコンテンツサーバを提供 |
| JP4837772B2 (ja) * | 2009-12-15 | 2011-12-14 | パナソニック株式会社 | 多視点動画像復号装置、多視点動画像復号方法、プログラム及び集積回路 |
| KR20110115087A (ko) * | 2010-04-14 | 2011-10-20 | 삼성전자주식회사 | 3차원 영상 데이터를 부호화하는 방법 및 장치와 복호화 방법 및 장치 |
| CN102316315B (zh) * | 2010-06-29 | 2013-01-23 | 中国科学院软件研究所 | 一种实时视频传输方法 |
| KR20120010089A (ko) * | 2010-07-20 | 2012-02-02 | 삼성전자주식회사 | Http 기반의 멀티미디어 스트리밍 서비스의 품질 향상을 위한 방법 및 장치 |
| US9716920B2 (en) * | 2010-08-05 | 2017-07-25 | Qualcomm Incorporated | Signaling attributes for network-streamed video data |
| JP2012049640A (ja) * | 2010-08-24 | 2012-03-08 | Osaka Univ | 符号化装置、符号化方法、動画像伝送システム |
| KR20120138604A (ko) | 2011-06-14 | 2012-12-26 | 삼성전자주식회사 | 멀티미디어 시스템에서 복합 미디어 컨텐츠를 송수신하는 방법 및 장치 |
| US8914834B2 (en) * | 2011-07-18 | 2014-12-16 | Motorola Solutions, Inc. | Source rate and channel rate matching for scalable video transmission |
| US10237565B2 (en) * | 2011-08-01 | 2019-03-19 | Qualcomm Incorporated | Coding parameter sets for various dimensions in video coding |
| CN103907347B (zh) * | 2011-08-31 | 2018-01-30 | 诺基亚技术有限公司 | 多视图视频编码和解码 |
| KR101311410B1 (ko) * | 2011-10-21 | 2013-09-25 | 성균관대학교산학협력단 | 픽쳐 그룹의 구조를 변화시키는 분산 비디오 부호화/복호화 방법 및 이러한 방법을 수행하는 장치 |
| CA2856909C (en) * | 2011-12-04 | 2016-12-06 | Lg Electronics Inc. | Digital broadcasting reception method and apparatus capable of displaying stereoscopic images |
| US9288506B2 (en) * | 2012-01-05 | 2016-03-15 | Qualcomm Incorporated | Signaling view synthesis prediction support in 3D video coding |
| JP5947405B2 (ja) * | 2012-02-01 | 2016-07-06 | ノキア テクノロジーズ オーユー | ビデオ符号化方法および装置 |
| US20150003536A1 (en) * | 2012-02-08 | 2015-01-01 | Thomson Licensing | Method and apparatus for using an ultra-low delay mode of a hypothetical reference decoder |
| EP2866440B1 (en) * | 2012-06-24 | 2018-08-08 | Lg Electronics Inc. | Image decoding method and apparatus using same |
| US9967583B2 (en) * | 2012-07-10 | 2018-05-08 | Qualcomm Incorporated | Coding timing information for video coding |
| CA2881141C (en) * | 2012-08-10 | 2017-09-19 | Lg Electronics Inc. | Method and apparatus for transceiving image component for 3d image |
| CN104904202A (zh) * | 2012-09-28 | 2015-09-09 | 三星电子株式会社 | 用于使用参考画面信息进行并行视频编码的方法和设备以及用于使用参考画面信息进行并行视频解码的方法和设备 |
| WO2014049205A1 (en) * | 2012-09-28 | 2014-04-03 | Nokia Corporation | An apparatus, a method and a computer program for video coding and decoding |
| US9479779B2 (en) * | 2012-10-01 | 2016-10-25 | Qualcomm Incorporated | Sub-bitstream extraction for multiview, three-dimensional (3D) and scalable media bitstreams |
| JP6290924B2 (ja) * | 2013-01-07 | 2018-03-07 | ノキア テクノロジーズ オサケユイチア | ビデオ・コーディングおよびデコーディングのための方法と装置 |
| EP2944082B1 (en) * | 2013-01-11 | 2019-08-21 | Huawei Technologies Co., Ltd. | Method and apparatus of depth prediction mode selection |
| US9667959B2 (en) * | 2013-03-29 | 2017-05-30 | Qualcomm Incorporated | RTP payload format designs |
| US20150078433A1 (en) * | 2013-09-18 | 2015-03-19 | Broadcom Corporation | Reducing bandwidth and/or storage of video bitstreams |
| US9537779B2 (en) * | 2013-10-11 | 2017-01-03 | Huawei Technologies Co., Ltd. | System and method for real-time traffic delivery |
| KR102163920B1 (ko) * | 2014-01-03 | 2020-10-12 | 엘지전자 주식회사 | 방송 신호를 송신하는 장치, 방송 신호를 수신하는 장치, 방송 신호를 송신하는 방법 및 방송 신호를 수신하는 방법 |
| US9787986B2 (en) * | 2014-06-30 | 2017-10-10 | Intel Corporation | Techniques for parallel video transcoding |
-
2014
- 2014-01-17 JP JP2014006882A patent/JP2015136060A/ja active Pending
- 2014-12-01 US US15/110,241 patent/US10326811B2/en active Active
- 2014-12-01 WO PCT/JP2014/081716 patent/WO2015107787A1/ja not_active Ceased
- 2014-12-01 KR KR1020167018107A patent/KR102120525B1/ko active Active
- 2014-12-01 CA CA2933465A patent/CA2933465C/en active Active
- 2014-12-01 MX MX2016008988A patent/MX370046B/es active IP Right Grant
- 2014-12-01 EP EP14879006.6A patent/EP3096526B1/en active Active
- 2014-12-01 CN CN201480072673.6A patent/CN105900436B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| MX370046B (es) | 2019-11-29 |
| CA2933465A1 (en) | 2015-07-23 |
| KR102120525B1 (ko) | 2020-06-08 |
| CN105900436A (zh) | 2016-08-24 |
| JP2015136060A (ja) | 2015-07-27 |
| EP3096526A1 (en) | 2016-11-23 |
| MX2016008988A (es) | 2016-10-04 |
| KR20160110373A (ko) | 2016-09-21 |
| EP3096526A4 (en) | 2017-07-19 |
| CA2933465C (en) | 2022-11-15 |
| WO2015107787A1 (ja) | 2015-07-23 |
| US20170142174A1 (en) | 2017-05-18 |
| EP3096526B1 (en) | 2020-02-05 |
| US10326811B2 (en) | 2019-06-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN105900436B (zh) | 通信设备、通信数据生成方法、以及通信数据处理方法 | |
| US11284135B2 (en) | Communication apparatus, communication data generation method, and communication data processing method | |
| CN105191324B (zh) | 通信设备、通信数据生成方法、以及通信数据处理方法 | |
| CA2934905C (en) | Communication apparatus, communication data generation method, and communication data processing method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information |
Address after: Tokyo, Japan Applicant after: Sony Corp Address before: Japan's Tokyo port harbor 1-7-1 Applicant before: Sony Corp |
|
| COR | Change of bibliographic data | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |