JP2000299684A - データ通信システム - Google Patents
データ通信システムInfo
- Publication number
- JP2000299684A JP2000299684A JP10439799A JP10439799A JP2000299684A JP 2000299684 A JP2000299684 A JP 2000299684A JP 10439799 A JP10439799 A JP 10439799A JP 10439799 A JP10439799 A JP 10439799A JP 2000299684 A JP2000299684 A JP 2000299684A
- Authority
- JP
- Japan
- Prior art keywords
- virtual
- data
- dimensional space
- time
- communication system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Information Transfer Between Computers (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Processing Or Creating Images (AREA)
Abstract
ャラクタの動作データを配信する従来のデータ通信方式
では,複数のクライアントに対して1対1の通信が行わ
れることになるため,ネットワークやサーバの負荷が過
大になる恐れが高かった。 【解決手段】 本発明は,例えばネットワークで接続さ
れたサーバからクライアントへ上記動作データをマルチ
キャスト通信することにより,ネットワーク及びサーバ
の負荷を軽減することを図ったものである。
Description
ムに係り,詳しくは,仮想3次元空間内で動作可能な例
えばキャラクタなどの仮想物体の動作データを通信する
ためのデータ通信システムに関するものである。
フィックスの記述言語の一つであるVRML(Virtual
Reality Modeling Language)を用いた仮想現実(Virtua
l Reality)の世界が構築され始めている。端末のディス
プレイ上などに表れる,この仮想的な3次元空間は,例
えばネットワークに接続したユーザのコミュニケーショ
ン手段の一つとして利用されており,各ユーザは,ユー
ザの分身であるアバターを仮想3次元空間に構築された
仮想都市内で歩行させ,他のユーザとチャットを行った
り,仮想都市の各所にある情報を集めたり,商品を購入
したりすることができる。ところで,上記のような3次
元グラフィックスを用いた仮想都市などのサービスを提
供する場合には,仮想3次元空間を時系列的に変化させ
る必要がある。例えば,他のユーザに歩行しているよう
に見せるには,アバターの足や腕を動作させる必要があ
るし,より臨場感を増すためには,アバターの歩行にと
もなって当該ユーザが見る仮想都市の風景も変化させる
必要がある。さらに,アバターの表情などを変化させれ
ば,喜怒哀楽をも表現することができる。このような仮
想3次元空間内における時系列的な変化の中で,特に複
雑なものが上記アバターなどのキャラクタの動作であ
る。このキャラクタの動作は,例えばモーションキャプ
チャ等の技術を用いてデータ化される。上記キャラクタ
は,この動作データを,上記キャラクタの形状やテクス
チャを表す形状データと組み合わせることにより,仮想
3次元空間内で動作可能となる。上記キャラクタの動作
データや形状データなどは,上記サービスを提供するた
めのサーバに保持されており,ユーザが用いる端末から
要求があると,その要求に応えて上記キャラクタのデー
タがネットワーク上に送信され,該データを基にユーザ
の端末に構築された仮想空間に上記キャラクタが生成さ
れ,その動作が再生される。
の要求に随時応えて当該ユーザにデータを送信する,即
ち1対1のデータ通信によってサーバからユーザの端末
にデータを伝送する場合,複数のユーザが当該サーバに
アクセスすると,複数のコネクションが同時に成立し,
サーバはそれぞれのコネクションに同じ内容のパケット
を送信することになるため,サーバの負荷が著しく増大
し,ネットワークの帯域も圧迫してしまう。特に,上記
仮想3次元空間に関するデータを伝送しようとする場
合,動作などを自然にしようとすると,非常に高い伝送
速度が必要となり,従って,サービスの質を抑えたり,
サービスを提供する人数を少数に制限したり,サーバや
ネットワークを増強するなどの必要が生じていた。この
ため,上記仮想3次元空間に関するデータを伝送する場
合には,予めユーザの端末側に時系列的に変化しない形
状データなどを保持させておき,時系列的に変化する動
作データなどをネットワークを介して通信することによ
り,サーバ及びネットワークの負荷の軽減を図る技術も
研究・開発が進められているが,この場合でも,1対1
のデータ通信によってサーバから複数のユーザにデータ
を配信されることに変わりなく,サービスの提供規模を
大きくするには限界があった。本発明は,このような従
来の技術における課題を解決するために,データ通信シ
ステムを改良し,仮想3次元空間に関する時系列データ
を,上記仮想3次元空間を構築するための仮想3次元空
間に一斉同報通信することにより,サーバ及びネットワ
ークの負荷を軽減して運用上のコストを削減すると共
に,良質のサービスを提供することのできるデータ通信
システムを提供することを主な目的とするものである。
また,上記動作データのような時系列情報を伝送する場
合には,パケットが受信される順番が時系列にならなか
ったり,ネットワークの途中で消失したりすると,コマ
落ちなど再生に問題が生じる。そこで,本発明のさらな
る目的は,時系列情報を伝送する際にパケットの受信順
序が時系列にならなかったり,消失した場合でも,好適
に補間を行い,自然な再生を行うことである。
に,請求項1に係る発明は,仮想3次元空間を構築する
ための複数の仮想3次元空間構築手段と,上記仮想3次
元空間に関する時系列データを各仮想3次元空間構築手
段へ一斉同報通信する同報通信手段とを具備してなるデ
ータ通信システムとして構成されている。また,請求項
2に係る発明は,上記請求項1に記載のデータ通信シス
テムにおいて,上記同報通信手段が,上記仮想3次元空
間内で動作可能な仮想物体の動作データを各仮想3次元
空間構築手段へ一斉同報通信するものであって,上記仮
想3次元空間構築手段が,上記仮想物体の形状データを
予め取得する形状データ取得手段と,上記形状データ取
得手段により取得された上記仮想物体の形状データと上
記同報通信手段からの上記仮想物体の動作データとに基
づいて上記仮想物体の動作を上記仮想3次元空間内で再
生する再生手段とを具備してなることをその要旨とす
る。また,請求項3に係る発明は,上記請求項2に記載
のデータ通信システムにおいて,上記仮想3次元空間が
他の時系列情報と同期して構築再生されるものであっ
て,上記同報通信手段が,上記他の時系列情報と上記仮
想物体の動作データとを合成する合成手段を備え,該合
成手段により合成された上記他の時系列情報と上記仮想
物体の動作データを各仮想3次元空間構築手段へ一斉同
報通信し,上記再生手段が,上記合成手段により合成さ
れた上記他の時系列情報と上記仮想物体の動作データを
分離する分離手段を備え,該分離手段により分離された
上記仮想物体の動作データに基づいて上記仮想物体の動
作を上記仮想3次元空間内で再生してなることをその要
旨とする。また,請求項4に係る発明は,上記請求項3
に記載のデータ通信システムにおいて,上記同報通信手
段が,上記仮想物体の動作データ及び他の時系列情報の
うち,いずれかの情報を先行して各仮想3次元空間構築
手段へ一斉同報通信してなることをその要旨とする。ま
た,請求項5に係る発明は,上記請求項4に記載のデー
タ通信システムにおいて,上記再生手段が,上記先行し
て通信された情報の一部が欠落した場合に,時間的に前
後する情報に基づいて,欠落した情報を補間してなるこ
とをその要旨とする。
4又は5に記載のデータ通信システムにおいて,上記同
報通信手段が,上記ネットワークの負荷状態を調査する
ための負荷調査手段を具備し,上記負荷調査手段により
調査された上記ネットワークの負荷状態に基づいて,先
行させる上記仮想物体の動作データ又は他の時系列情報
の先行時間を定めてなることをその要旨とする。また,
請求項7に係る発明は,上記請求項3〜6のいずれか1
項に記載のデータ通信システムにおいて,各仮想3次元
空間構築手段と上記同報通信手段とがネットワークによ
り接続されており,上記他の時系列情報及び上記仮想物
体の動作データがRTP及びRTCPプロトコルを用い
てマルチキャスト通信されてなることをその要旨とす
る。また,請求項8に係る発明は,上記請求項7に記載
のデータ通信システムにおいて,上記仮想空間内に上記
仮想物体が複数再生される場合,上記同報通信手段が,
上記仮想物体の動作の速さに応じて,各仮想物体の動作
データに対応したパケットの送信間隔を変化させてなる
ことをその要旨とする。上記請求項1〜8のいずれか1
項に記載のデータ通信システムによれば,仮想3次元空
間を構築するための例えばパーソナルコンピュータなど
の仮想3次元空間構築手段に,仮想3次元空間内で動作
可能なアバターなどの仮想物体の動作データが一斉同報
通信されるため,1対1の通信が複数行われる場合と比
べて,ネットワークやサーバの負荷を増大させることな
く,多数のユーザに仮想3次元空間を用いた良質のサー
ビスを提供することができる。さらに,請求項4に記載
のデータ通信システムによれば,上記仮想物体の動作デ
ータ及び他の時系列情報のうち,いずれかの情報が先行
して送信されるため,例えば動作データのパケットだけ
が,それに同期して再生される音声などのパケットより
も遅れて配信されるような場合でも,同期ずれを防止す
ることができる。また,先行させる時間は,例えば請求
項6に記載のように,上記同報通信手段が,上記ネット
ワークの負荷状態を調査するため負荷調査手段を具備す
ることによって,上記負荷調査手段により調査された上
記ネットワークの負荷状態に基づいて定めることができ
る。しかも,請求項5に記載のデータ通信システムによ
れば,時系列情報が再生側でリアルタイム再生される場
合に,パケットの受信順序が時系列にならなかったり,
パケットが欠落しても,時間的に前後するパケットによ
り上記動作データなどが補間されるため,コマ落ちなど
が生じて再生の品質が劣化するのを防止することができ
る。また,請求項8に記載のデータ通信システムによれ
ば,仮想空間内に上記仮想物体が複数再生される場合,
上記同報通信手段が,上記仮想物体の動作の速さに応じ
て,各仮想物体の動作データに対応したパケットの送信
間隔を変化させるため,ユーザには自然な再生を提供し
ながら,必要伝送容量を抑制して,ネットワークの帯域
を有効利用することができる。
明の実施の形態につき説明し,本発明の理解に供する。
尚,以下の実施の形態は,本発明の具体的な一例であっ
て,本発明の技術的範囲を限定する性格のものではな
い。ここで,図1は本発明の一実施の形態に係るデータ
通信システムの概略構成を示す図,図2は仮想3次元コ
ンテンツの一例を示す図,図3は仮想3次元コンテンツ
同報通信装置の概略構成を示す図である。図1に示す如
く,本発明の一実施の形態に係るデータ通信システム
は,例えば仮想3次元空間内で動作可能な仮想3次元キ
ャラクタの動作データなどを保持するコンテンツサーバ
CSから,ネットワークNを介して,上記仮想3次元空
間が構築される複数のクライアント1,…,nに上記動
作データを通信するデータ通信システムとして具体化さ
れるものである。このために,上記データ通信システム
では,例えば上記ネットワークのアプリケーション層の
フレームワークが,RTP(Real Time Protocol,Real-t
ime Transport Protocol) やRTCP(Real Time Contr
ol Protocol)により提供され,RTPメッセージ又はR
TCPメッセージのペイロードに所定のフォーマットに
て格納された上記動作データが,上記コンテンツサーバ
CSから各クライアント1,…,nにIPマルチキャス
ト送信される。
いて説明する。上記データ通信システムにおいて,コン
テンツサーバCS(同報通信手段に相当)に保持される
データには,例えば図2に示すような仮想3次元キャラ
クタVCを,上記クライアント1,…,n(仮想3次元
空間構築手段に相当)に構築される仮想3次元空間VR
内で動作させるための動作データがある。上記仮想3次
元キャラクタVCを生成するためのデータは,上記動作
データと上記仮想3次元キャラクタVCのテクスチャや
形状などを指定するための形状データとに分けられるこ
とが多いが,後記するように,本実施の形態に係るデー
タ通信システムでは,仮想3次元空間VR自体のデータ
を生成するためのデータや上記形状データは予めクライ
アント1,…,nにて取得されており,上記動作データ
のみがコンテンツサーバCSに保持される。上記動作デ
ータの他,上記コンテンツサーバCSには,音声データ
や動画像データなどの他の時系列情報も保持される。上
記音声データや動画像データは,例えば上記仮想3次元
キャラクタの動作と同期してクライアント1,…,nに
おいて再生され,上記仮想3次元空間内の臨場感を増し
たり,カラオケなどのサービスを提供するために用いら
れる。上記動作データ,音声データ,及び動画像データ
は,上記コンテンツサーバCS上で実現される仮想3次
元コンテンツ同報通信装置を用いて入力される。ここ
で,図3に上記仮想3次元コンテンツ同報通信装置の概
略構成を示す。上記仮想3次元コンテンツ同報通信装置
は,上記動作データなどを取り込み,所定の手順に従っ
てネットワーク通信用ストリームに変換して,上記動作
データなどを各クライアント1,…,nにIPマルチキ
ャスト送信するための装置であり,例えば動作情報入力
装置B01,動作データ生成装置B02,動作データ合
成装置B03(合成手段に相当),同報通信ストリーム
情報生成装置B04,ネットワーク送出装置B05など
を備える。例えば上記動作データは,腕を挙げる,足を
前に出すなどの動作毎にモーションキャプチャなどの動
作情報入力装置B01を用いてデジタルデータ化され,
動作データ生成装置B02により所定のフォーマットに
従って動作データに変換される。ここで,図4に上記動
作データ生成装置の概略構成を示す。上記動作データ生
成装置B02は,上記動作情報入力装置B01から供給
されたデジタルデータ量を算出する動作データ量算出部
C01と,所定の送信モードに従って動作データ格納容
量を算出する動作データ格納容量算出部C02と,上記
動作データの送信スケジュールを作成する送信スケジュ
ール作成部C03と,上記送信スケジュール作成部C0
3により作成された送信スケジュールに基づいて上記デ
ジタルデータを分割する動作データ分割部C04を具備
する。
上記動作情報入力装置B01から供給されるデジタルデ
ータは,例えば100msec程度のサンプリング時間
で取り込まれた時系列デジタルデータであり,取り込み
時間と上記サンプリング時間などを基に上記デジタルデ
ータ全体の量が上記動作データ量算出部C01により算
出される。次に,動作データ格納容量算出部C02によ
り所定の送信モードに従って格納可能なデータ容量が算
出される。次に,上記動作データ格納容量算出部C02
により算出された動作データ格納容量を基に上記動作デ
ータの送信スケジュールが上記動作データ送信スケジュ
ール作成部C03により作成される。そして,上記動作
データ送信スケジュール作成部C03により作成された
送信スケジュールを基に上記動作データ分割部C04に
より上記デジタルデータが分割され,送信用動作データ
として動作データ合成装置B03へ供給される。上記動
作データ生成装置B02において分割された上記動作デ
ータは,上記動作データ合成装置B03により,例えば
上記音声データや動画データなどの他の時系列情報の送
信用パケットにそれぞれ合成される。ここで,図5に上
記動作データ合成装置の概略構成を示す。図5に示すよ
うに,上記動作データ合成装置B03は,合成モード切
替装置D01,周波数変調装置D02,データ合成装置
D03,指定フォーマット内領域探索装置D04,指定
フォーマット内領域記述装置D05,電子透かし情報作
成装置D06,電子透かし合成装置D07などを備え
る。上記動作データ合成装置B03では,まず,上記合
成モード切替装置D01により上記動作データと,合成
対象となる音声データ,又は動画像データとの入力が所
定の合成モードに従って切り替えられる。例えば上記動
作データを上記音声データと合成する場合には,周波数
変調装置D02により上記動作データが周波数変調さ
れ,上記データ合成装置D03により上記音声データと
合成される。また,上記動作データを上記動画像データ
と合成する場合には,電子透かし情報作成装置D06に
より上記動作データが電子透かし情報に変換され,上記
電子透かし合成装置D07により上記動画像データに電
子透かしとして合成される。また,上記音声データや動
作データに上記動作データを合成する場合には,上記指
定フォーマット内領域探索装置D04,及び指定フォー
マット内領域記述装置D05により,送信するデータの
領域を探索して,探索した領域を分割し,分割した各領
域に上記音声データや動画像データ,及び上記動作デー
タを振り分けて記述するようにして上記音声データや動
画像データに上記動作データを合成するようにしてもよ
い。このようにして上記動作データ合成装置B03によ
り上記動作データが合成された動作データ合成済データ
は,同報通信ストリーム情報生成装置B04に供給され
る。
4では,上記動作データ合成済データがネットワーク上
でのストリーム情報に変換される。ここで,RTP,R
TCPメッセージを用いた具体例を図6乃至図8を用い
て説明する。尚,図6はRTPのメッセージフォーマッ
トの一例を示す図表であり,図7は上記動作データのフ
ォーマットの一例を示す図表であり,図8はRTCPの
メッセージフォーマットの一例を示す図表である。図6
に示す如く,RTPのメッセージフォーマットは,例え
ばIP(InternetProtocol) ヘッダ,UDP(Usr Datagr
am Protocol) ヘッダ,RTPメッセージに大きく分け
ることができる。このうち,上記RTPメッセージは,
RTPヘッダとアプリケーションデータとからなり,上
記RTPヘッダは,バージョン,ペイロードタイプ,シ
ーケンス番号,時刻印,同期送信元識別子などのフィー
ルドを備える。尚,RTPメッセージやそのフィールド
の詳細については,例えばRFC1889 PSH.Schulzrinne,S.
Casner,R.Frederick,V.Jacobson,"RTP:A Transport Pro
tocolfor Real-Time Applications"などを参照された
い。上記仮想3次元キャラクタVCの動作データは,例
えば上記音声データと合成されて上記アプリケーション
データ領域に格納される。図7に上記動作データのフォ
ーマットを示す。図7に示す如く,上記動作データのチ
ャンクは,データタイプ,同期時間,シリアル番号,ア
プリケーション番号,仮想3次元空間認識番号,動作デ
ータ,未使用予約領域,チェックサムなどのフィールド
を含む。上記フィールドのうち,データタイプ,及び仮
想3次元空間認識番号は,仮想3次元キャラクタVCの
動作の種類,及び適用オブジェクトを示すために用いら
れる。上記同期時間,及びシリアル番号は,分割された
動作データを時系列に配列するために必要とされるもの
であり,上記同期時間には再生開始を基準として当該動
作データが再生される相対的な時間が,シリアル番号に
は送出される順番が格納される。また,アプリケーショ
ン番号は,クライアント1,…,nにおいて,上記動作
を再生するために用いられるアプリケーションの種類を
指定するために用いられる。尚,上記未使用予約領域に
は,通常,値0が設定される。
タをRTCPメッセージフォーマットのSDES(Sourc
e Descprition)項目群に格納し,RTPメッセージに格
納された音声データや動画像データと同期させることも
できる。ここで,図8にRTCPの送信元記述パケット
のフォーマットを示す。上記RTCPには,送信者報告
パケット,受信者報告パケット,送信元記述パケット,
退去メッセージパケットの4つのパケットタイプがあ
り,上記動作データが格納される上記送信元記述パケッ
トは,そのフォーマットに図8に示す如く,バージョ
ン,パッド有無,パケットタイプ,長さ,SDES項目
群,同期又は貢献送信元識別子などのフィールドを備え
る。上記送信元記述パケットは,送信元についての情報
を提供するために使用されるパケットであり,上記パケ
ットタイプのフィールドには,そのことを示す202が
格納され,同期送信元識別子には,メッセージの元々の
送信元を示すための識別子が格納され,同一送信元から
のRTPメッセージと対応させるために用いられる。ま
た,上記SDES項目群には,少なくも送信元の身元を
確認するための標準名称(CNAME,Canonical NAME)が含ま
れ,このSEDS項目群に上記動作データが格納され
る。このようなメッセージフォーマットを持つRTPパ
ケット,動作データパケット,及びRTCPパケットを
用いることにより,RTPパケットで送られた音声デー
タや動画像のフレーム番号や時間情報をクライアント
1,…,n側で一時的に保存し,その情報に基づいてR
TCPパケットで送信された動作情報を同期させること
によって,ダンスやカラオケ等の音楽に合わせた仮想3
次元キャラクタVCの動作の再生や,動画像の動きに合
わせた動作が可能となる。そして,上記RTPパケット
やRTCPパケットは,キャリーであるUDPデータグ
ラムに複数まとめて格納され,例えば指定された所定の
日時に上記ネットワーク送出装置B05により,上記ネ
ットワークに接続された複数のクライアント1,…,n
にIPマルチキャスト送信される。
トがサーバに接続した場合,同じ内容のパケットをそれ
ぞれのクライアントに送信するため,サーバの負荷を増
大させ,ネットワークの帯域を圧迫するが,マルチキャ
スト通信では,サーバが,ある1つのパケットを送信す
れば,マルチキャストルータにより予め参加を希望した
全てのクライアントのグループにそれぞれ分配されるた
め,サーバ及びネットワークの負荷が大幅に軽減され
る。このために,クライアント1,…,nは,予め参加
しているグループのマルチキャストアドレス(224.
0.0.0〜239.255.255.255の範囲)
をマルチキャストルータに対して通知しており,コンテ
ンツサーバCSは,同じマルチキャストアドレスを上記
IPヘッダ中で指定して上記動作データを含むパケット
を上記マルチキャストルータに送信する。上記のように
送信された動作データは,各クライアント1,…,nに
おいて構築される仮想3次元空間VR内の仮想3次元キ
ャラクタVCの動作として再生される。この再生には,
各クライアント1,…,nにおいて実現される例えば図
9に示すような仮想3次元コンテンツ再生装置(再生手
段に相当)が用いられる。図9に示す如く,上記仮想3
次元コンテンツ再生装置は,音声ストリーム受信装置E
01,動画像ストリーム受信装置E02,ストリーム制
御信号受信装置E03,ストリーム情報再生装置E0
4,動作データ解析装置E05,音声データ再生装置E
06,画像データ再生装置E07,動作データ再生装置
E08,画像合成装置E09などを備える。上記仮想3
次元コンテンツ再生装置において,音声ストリーム受信
装置E01,動画像ストリーム受信装置E02,ストリ
ーム制御信号受信装置E03(分離手段に相当)によ
り,音声データ,動画像データ,動作データに対応した
ストリームがネットワークから分離受信される。これら
分離受信されたストリームは,ストリーム情報再生装置
E04により所定の手順に従って再生され,上記音声デ
ータ,動画像データ,動作データが再構成される。上記
動作データ解析装置E05では,上記ストリーム情報再
生装置E04により再構成された上記動作データなどが
解析され,その解析結果が音声データ再生装置E06,
画像データ再生装置E07,動作データ再生装置E08
に供給される。各再生装置E06,E07,E08の出
力は,画像合成装置E09に接続されており,上記画像
合成装置E09において,仮想3次元空間VRなどの画
像と合成される。ここで,上記クライアント1,…,n
上に構築される仮想3次元空間VRのデータや,仮想3
次元キャラクタVCの形状データは,記憶媒体や通信媒
体を用いて予め取得されており,上記画像合成装置E0
9では,上記仮想3次元空間VRのデータを基に仮想3
次元空間VRが構築され,上記形状データと動作データ
とに基づいて仮想3次元キャラクタVCの動作が再生さ
れ,さらにこれらに同期して音声データや動画像データ
が合成再生される。尚,本発明における形状データ取得
手段は,例えばハードディスクなどの記憶媒体とそのイ
ンターフェースなどにより実現されるものである。この
ように,本実施の形態に係るデータ通信システムでは,
動画像データや音声データに合成されて仮想3次元キャ
ラクタの動作データが,コンテンツサーバからクライア
ントにマルチキャスト送信され,クライアントにて予め
取得された仮想3次元空間のデータや上記仮想3次元キ
ャラクタの形状データと上記送信された動作データとに
基づいて仮想3次元空間が構築され,仮想3次元キャラ
クタの配信する場合と較べて,上記仮想3次元キャラク
タの動作データを通信する場合でも,ネットワークやサ
ーバの負荷を抑え,運用上又はサービス上のコストを低
下させるとともに良質のサービスを提供することができ
る。
は,上記動作データの一部が格納されたパケットが,受
信側のクライアント1,…,nに到達できない場合があ
る。このため,音声データと動画像データとの同期をと
った動作データの送受信を行う場合には,上記仮想3次
元キャラクタの動作再生時に上記音声データや動画像デ
ータと十分な同期ができない場合がある。そこで,図1
0に示す如く,上記音声データや動画像データよりも上
記動作データを先行送信時間tp だけ先行させて上記ネ
ットワーク上に送出するようにしてもよい。上記先行送
信時間tp は,例えば送信前のネゴシエーションや,ネ
ットワークの負荷状況等を基に設定調整される。受信側
では同期タイミングよりも先に動作データを受け取った
場合には,現在の動作データと先行した動作データとの
間で補間を行うことにより,より緻密な動作データを生
成することができる。さらに,先行させる時系列情報
は,上記動作データに限らず,音声データや動画像デー
タを先行させるようにしてもよい。また,例えば同期さ
せる音声データや動画像データの到着前に欠落した動作
データの次の動作データがクライアント1,…,nに到
達した場合には,先行して受信された動作データのうち
欠落した動作データの前後の動作データを用いて欠落し
た動作データが補間される。例えば図11に示す如く,
時刻t2 で同期させるデータが欠落し,時刻t1 に同期
させるデータの後に時刻t3 で同期させるデータが,時
刻t2 で同期させるデータの再生前に到着した場合に
は,時刻t1 で同期させるデータと時刻t3 で同期させ
るデータとを用いて,その間の動作を表すベクトルが計
算され,時刻t2 で同期させるデータが補間される。こ
れにより,コマ落ちなどの品質劣化を防止することがで
きる。尚,この補間の後に,時刻t2 で同期させる本来
のデータが到着した場合には,破棄するようにしてもよ
いし,本来のデータを再生するようにしてもよい。ま
た,時刻t2 で同期させるデータの再生前に上記時刻t
3 で同期させるデータが到着しなかった場合には,例え
ば図12に示す如く,時刻t1 で同期させるデータd1
と時刻t2 で同期させるデータd2 からその間の動作ベ
クトルを算出し,その算出した動作ベクトルを用いて時
刻t2 で同期させるデータd3 の代わりのデータd′3
を作成する。そして,時刻t3 ,t4 で同期させるデー
タd3,d4 が欠落して,その後に,時刻t5 で同期さ
せるデータd5 が到着した時点でその時点のデータと上
記データd5 とを用いて補間を行い,上記データd4 の
代わりのデータd′4 を作成する。この場合には,上記
データd′3 ,d′4 は本来のデータと異なる動作とな
ることもあるが,上記データd5 を受信した時点で正し
い動きになるように修正される。これにより,欠落が続
くなどして再生前に欠落したデータの次のデータも到着
しない場合でも,コマ落ちなどの品質劣化を防止するこ
とができる。このようなデータ通信システムも本発明に
おけるデータ通信システムの一例である。
CPパケットを用いて上記動作データをマルチキャスト
通信したが,これに限られるものではなく,他のプロト
コルを用いてマルチキャスト通信するようにしてもよ
い。さらに,上記ネットワーク自体は,既に構築されて
いる有線ネットワークを用いてもよいし,無線や衛生回
線を用いて構築されたネットワークを用いてもよい。こ
のようなデータ通信システムも本発明におけるデータ通
信システムの一例である。また,上記実施の形態では,
動作データを上記音声データや動画像データに合成して
マルチキャスト通信したが,これに限られるものではな
く,例えば上記動作データ及びこれに関する情報を記録
した付加情報をマルチキャスト通信するようにしてもよ
い。また,上記動作データが合成される時系列データも
音声データや動画像データに限られるものではない。こ
のようなデータ通信システムも本発明におけるデータ通
信システムの一例である。また,上記実施の形態では,
仮想3次元キャラクタの動作データをマルチキャスト通
信したが,これに限られるものではなく,仮想3次元空
間内の他のオブジェクトのデータを通信するようにして
もよい。このようなデータ通信システムも本発明におけ
るデータ通信システムの一例である。また,ネットワー
クを通じて送られる動作データを再生する上記クライア
ント1,…,nなどの受信装置には,様々なタイプが存
在し,その処理能力も多種多様である。そこで,上記動
作データに応じて表示するデータのポリゴン数を上記処
理能力に応じて増減するようにしてもよい。このような
データ通信システムも本発明におけるデータ通信システ
ムの一例である。また,上記仮想3次元空間VR内で動
作する仮想3次元キャラクタの中には,動きの激しいも
のもあれば,緩慢なものもある。例えば図13に示す如
く,ユーザに提供される視野の中で比較的近い位置にあ
るキャラクタAの動きは一般的に激しく,比較的遠い位
置にあるキャラクタBの動きは一般的に緩慢である。と
ころで,動きが緩慢な仮想3次元キャラクタについて
は,動きの激しい仮想3次元キャラクタよりも低い時間
精度の動作データを用いても十分に自然な再生を行うこ
とができる。そこで,仮想3次元キャラクタの動作の速
度に応じて,図14に示す如く,上記動作データの送出
間隔を変更するようにしてもよい。これにより,ネット
ワークの帯域をより有効に使用することができる。この
ようなデータ通信システムも本発明におけるデータ通信
システムの一例である。
いずれか1項に記載のデータ通信システムによれば,仮
想3次元空間を構築するための例えばパーソナルコンピ
ュータなどの仮想3次元空間構築手段に,仮想3次元空
間内で動作可能なアバターなどの仮想物体の動作データ
が一斉同報通信されるため,1対1の通信が複数行われ
る場合と比べて,ネットワークやサーバの負荷を増大さ
せることなく,多数のユーザに仮想3次元空間を用いた
良質のサービスを提供することができる。さらに,請求
項4に記載のデータ通信システムによれば,上記仮想物
体の動作データ及び他の時系列情報のうち,いずれかの
情報が先行して送信されるため,例えば動作データのパ
ケットだけが,それに同期して再生される音声などのパ
ケットよりも遅れて配信されるような場合でも,同期ず
れを防止することができる。また,先行させる時間は,
例えば請求項6に記載のように,上記同報通信手段が,
上記ネットワークの負荷状態を調査するため負荷調査手
段を具備することによって,上記負荷調査手段により調
査された上記ネットワークの負荷状態に基づいて定める
ことができる。しかも,請求項5に記載のデータ通信シ
ステムによれば,時系列情報が再生側でリアルタイム再
生される場合に,パケットの受信順序が時系列にならな
かったり,パケットが欠落しても,時間的に前後するパ
ケットにより上記動作データなどが補間されるため,コ
マ落ちなどが生じて再生の品質が劣化するのを防止する
ことができる。また,請求項8に記載のデータ通信シス
テムによれば,仮想空間内に上記仮想物体が複数再生さ
れる場合,上記同報通信手段が,上記仮想物体の動作の
速さに応じて,各仮想物体の動作データに対応したパケ
ットの送信間隔を変化させるため,ユーザには自然な再
生を提供しながら,必要伝送容量を抑制して,ネットワ
ークの帯域を有効利用することができる。
テムの概略構成を示す図。
説明するための図。
ツ同報通信装置の概略構成を示す図。
ための図。
トを説明するための図。
示す図。
せて送信することを説明するための図。
するための図。
するための他の図。
ムを説明するための図。
おけるキャラクタに応じたデータ送出を説明するための
図。
Claims (8)
- 【請求項1】 仮想3次元空間を構築するための複数の
仮想3次元空間構築手段と,上記仮想3次元空間に関す
る時系列データを各仮想3次元空間構築手段へ一斉同報
通信する同報通信手段とを具備してなるデータ通信シス
テム。 - 【請求項2】 上記同報通信手段が,上記仮想3次元空
間内で動作可能な仮想物体の動作データを各仮想3次元
空間構築手段へ一斉同報通信するものであって,上記仮
想3次元空間構築手段が,上記仮想物体の形状データを
予め取得する形状データ取得手段と,上記形状データ取
得手段により取得された上記仮想物体の形状データと上
記同報通信手段からの上記仮想物体の動作データとに基
づいて上記仮想物体の動作を上記仮想3次元空間内で再
生する再生手段とを具備してなる請求項1に記載のデー
タ通信システム。 - 【請求項3】 上記仮想3次元空間が他の時系列情報と
同期して構築再生されるものであって,上記同報通信手
段が,上記他の時系列情報と上記仮想物体の動作データ
とを合成する合成手段を備え,該合成手段により合成さ
れた上記他の時系列情報と上記仮想物体の動作データを
各仮想3次元空間構築手段へ一斉同報通信し,上記再生
手段が,上記合成手段により合成された上記他の時系列
情報と上記仮想物体の動作データを分離する分離手段を
備え,該分離手段により分離された上記仮想物体の動作
データに基づいて上記仮想物体の動作を上記仮想3次元
空間内で再生してなる請求項2に記載のデータ通信シス
テム。 - 【請求項4】 上記同報通信手段が,上記仮想物体の動
作データ及び他の時系列情報のうち,いずれかの情報を
先行して各仮想3次元空間構築手段へ一斉同報通信して
なる請求項3に記載のデータ通信システム。 - 【請求項5】 上記再生手段が,上記先行して通信され
た情報の一部が欠落した場合に,時間的に前後する情報
に基づいて,欠落した情報を補間してなる請求項4に記
載のデータ通信システム。 - 【請求項6】 上記同報通信手段が,上記ネットワーク
の負荷状態を調査するための負荷調査手段を具備し,上
記負荷調査手段により調査された上記ネットワークの負
荷状態に基づいて,先行させる上記仮想物体の動作デー
タ又は他の時系列情報の先行時間を定めてなる請求項4
又は5に記載のデータ通信システム。 - 【請求項7】 各仮想3次元空間構築手段と上記同報通
信手段とがネットワークにより接続されており,上記他
の時系列情報及び上記仮想物体の動作データがRTP及
びRTCPプロトコルを用いてマルチキャスト通信され
てなる請求項3〜6のいずれか1項に記載のデータ通信
システム。 - 【請求項8】 上記仮想空間内に上記仮想物体が複数再
生される場合,上記同報通信手段が,上記仮想物体の動
作の速さに応じて,各仮想物体の動作データに対応した
パケットの送信間隔を変化させてなる請求項7に記載の
データ通信システム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP10439799A JP2000299684A (ja) | 1999-04-12 | 1999-04-12 | データ通信システム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP10439799A JP2000299684A (ja) | 1999-04-12 | 1999-04-12 | データ通信システム |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2000299684A true JP2000299684A (ja) | 2000-10-24 |
Family
ID=14379608
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP10439799A Pending JP2000299684A (ja) | 1999-04-12 | 1999-04-12 | データ通信システム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2000299684A (ja) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002158986A (ja) * | 2000-11-16 | 2002-05-31 | Actyvision Co Ltd | インターネットを通じた視聴者参加型放送システム |
| WO2003061297A1 (en) * | 2002-01-09 | 2003-07-24 | Matsushita Electric Industrial Co., Ltd. | Motion vector coding method and motion vector decoding method |
| WO2004030375A1 (ja) * | 2002-09-27 | 2004-04-08 | Sharp Kabushiki Kaisha | 画像データ生成装置、画像データ再生装置、画像データ生成方法、画像データ再生方法、画像データ又は画像処理プログラムを記録した記録媒体および画像データ記録装置 |
| WO2010001491A1 (en) * | 2008-07-02 | 2010-01-07 | Telefonaktiebolaget L M Ericsson (Publ) | Local area streaming management method |
| JP2012230525A (ja) * | 2011-04-26 | 2012-11-22 | Nippon Hoso Kyokai <Nhk> | コンテンツ管理装置、クライアント端末、コンテンツ管理プログラム、及びコンテンツ生成プログラム |
| JP6314274B1 (ja) * | 2017-05-26 | 2018-04-18 | 株式会社ドワンゴ | データ生成装置およびアプリケーション実行装置 |
| JPWO2022209129A1 (ja) * | 2021-03-31 | 2022-10-06 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10200600A (ja) * | 1997-01-08 | 1998-07-31 | Xing:Kk | データ送出装置 |
| JPH10222698A (ja) * | 1997-02-12 | 1998-08-21 | Matsushita Electric Ind Co Ltd | 3次元仮想空間の通信装置、および通信方法 |
| JPH10328416A (ja) * | 1997-05-28 | 1998-12-15 | Sony Corp | 提供媒体、並びに共有仮想空間提供装置および方法 |
| JPH1133230A (ja) * | 1997-07-16 | 1999-02-09 | Sega Enterp Ltd | 通信ゲームシステム |
-
1999
- 1999-04-12 JP JP10439799A patent/JP2000299684A/ja active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10200600A (ja) * | 1997-01-08 | 1998-07-31 | Xing:Kk | データ送出装置 |
| JPH10222698A (ja) * | 1997-02-12 | 1998-08-21 | Matsushita Electric Ind Co Ltd | 3次元仮想空間の通信装置、および通信方法 |
| JPH10328416A (ja) * | 1997-05-28 | 1998-12-15 | Sony Corp | 提供媒体、並びに共有仮想空間提供装置および方法 |
| JPH1133230A (ja) * | 1997-07-16 | 1999-02-09 | Sega Enterp Ltd | 通信ゲームシステム |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002158986A (ja) * | 2000-11-16 | 2002-05-31 | Actyvision Co Ltd | インターネットを通じた視聴者参加型放送システム |
| WO2003061297A1 (en) * | 2002-01-09 | 2003-07-24 | Matsushita Electric Industrial Co., Ltd. | Motion vector coding method and motion vector decoding method |
| WO2004030375A1 (ja) * | 2002-09-27 | 2004-04-08 | Sharp Kabushiki Kaisha | 画像データ生成装置、画像データ再生装置、画像データ生成方法、画像データ再生方法、画像データ又は画像処理プログラムを記録した記録媒体および画像データ記録装置 |
| WO2010001491A1 (en) * | 2008-07-02 | 2010-01-07 | Telefonaktiebolaget L M Ericsson (Publ) | Local area streaming management method |
| JP2012230525A (ja) * | 2011-04-26 | 2012-11-22 | Nippon Hoso Kyokai <Nhk> | コンテンツ管理装置、クライアント端末、コンテンツ管理プログラム、及びコンテンツ生成プログラム |
| WO2018216759A1 (ja) * | 2017-05-26 | 2018-11-29 | 株式会社ドワンゴ | データ生成装置およびアプリケーション実行装置 |
| JP6314274B1 (ja) * | 2017-05-26 | 2018-04-18 | 株式会社ドワンゴ | データ生成装置およびアプリケーション実行装置 |
| JP2018198745A (ja) * | 2017-05-26 | 2018-12-20 | 株式会社ドワンゴ | データ生成装置およびアプリケーション実行装置 |
| CN110612519A (zh) * | 2017-05-26 | 2019-12-24 | 多玩国株式会社 | 数据生成装置以及应用软件运行装置 |
| US11691075B2 (en) | 2017-05-26 | 2023-07-04 | Dwango Co., Ltd. | Data generation device and application execution device |
| JPWO2022209129A1 (ja) * | 2021-03-31 | 2022-10-06 | ||
| WO2022209129A1 (ja) * | 2021-03-31 | 2022-10-06 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、およびプログラム |
| JP7803335B2 (ja) | 2021-03-31 | 2026-01-21 | ソニーグループ株式会社 | 情報処理装置、情報処理方法、およびプログラム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US6580756B1 (en) | Data transmission method, data transmission system, data receiving method, and data receiving apparatus | |
| TWI846795B (zh) | 用於經串流媒體資料之多個解碼器介面 | |
| Yang et al. | TEEVE: The next generation architecture for tele-immersive environments | |
| CN108600815B (zh) | 一种在线实时合唱的方法及系统 | |
| JP4525935B2 (ja) | オーディオ信号処理 | |
| CN105491393A (zh) | 多人视频直播业务的实现方法 | |
| CN111107299A (zh) | 一种多路视频合成的方法及装置 | |
| US20130173826A1 (en) | Method of providing timing information using mmt signaling layer signaling for synchronizing mmt packet streams in mmt hybrid delivery service and method of synchronizing mmt packet streams in mmt hybrid delivery service | |
| JP2004525545A (ja) | 複数の独立したメディア・ストリームを時間軸で同期するウェブキャスト方法及びシステム | |
| JP2003338830A (ja) | メディア送信方法、メディア受信方法、メディア送信装置及びメディア受信装置 | |
| CN109495713B (zh) | 一种基于视联网的视频会议控制方法和装置 | |
| JP2002523980A (ja) | ブロードキャストアプリケーションにおけるインターネット上のストリーミングのエミュレーション | |
| CN112019877A (zh) | 基于vr设备的投屏方法、装置、设备及存储介质 | |
| JP7171929B2 (ja) | オーディオストリーム及びビデオストリーム同期切替方法及び装置 | |
| CN109819214B (zh) | 一种视频分屏的方法和装置 | |
| JP2011087268A (ja) | テレビ会議システムのための端末、中継ノードおよびストリーム処理方法 | |
| Tang et al. | Audio and video mixing method to enhance WebRTC | |
| CN108965777B (zh) | 一种回声消除方法和装置 | |
| JP2000299684A (ja) | データ通信システム | |
| CN109246135B (zh) | 一种流媒体数据的获取方法和系统 | |
| WO2022262858A1 (zh) | 图像传输方法、图像显示及处理设备、及图像传输系统 | |
| JP7377352B2 (ja) | 複数メンバーでのインスタントメッセージング方法、システム、装置及び電子機器、並びにコンピュータプログラム | |
| CN109544879B (zh) | 一种报警数据的处理方法和系统 | |
| CN110769179B (zh) | 一种音视频数据流的处理方法和系统 | |
| CN110392275A (zh) | 一种文稿演示的共享方法、装置及视联网软终端 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20040506 |
|
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20040513 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20040517 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060328 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080104 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080325 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080715 |