JP6783541B2 - プログラム及び仮想現実体験提供装置 - Google Patents
プログラム及び仮想現実体験提供装置 Download PDFInfo
- Publication number
- JP6783541B2 JP6783541B2 JP2016069267A JP2016069267A JP6783541B2 JP 6783541 B2 JP6783541 B2 JP 6783541B2 JP 2016069267 A JP2016069267 A JP 2016069267A JP 2016069267 A JP2016069267 A JP 2016069267A JP 6783541 B2 JP6783541 B2 JP 6783541B2
- Authority
- JP
- Japan
- Prior art keywords
- virtual
- sound
- reference body
- condition
- smartphone
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/211—Input arrangements for video game devices characterised by their sensors, purposes or types using inertial sensors, e.g. accelerometers or gyroscopes
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/213—Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/25—Output arrangements for video game devices
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/40—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
- A63F13/42—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
- A63F13/428—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle involving motion or position input signals, e.g. signals representing the rotation of an input controller or a player's arm motions sensed by accelerometers or gyroscopes
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/50—Controlling the output signals based on the game progress
- A63F13/52—Controlling the output signals based on the game progress involving aspects of the displayed game scene
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/50—Controlling the output signals based on the game progress
- A63F13/54—Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/55—Controlling game characters or game objects based on the game progress
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/90—Constructional details or arrangements of video game devices not provided for in groups A63F13/20 or A63F13/25, e.g. housing, wiring, connections or cabinets
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/001—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
- G09G3/002—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to project the image of a two-dimensional display, such as an array of light emitting or modulating elements or a CRT
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/60—Substation equipment, e.g. for use by subscribers including speech amplifiers
- H04M1/6033—Substation equipment, e.g. for use by subscribers including speech amplifiers for providing handsfree use or a loudspeaker mode in telephone sets
- H04M1/6041—Portable telephones adapted for handsfree use
- H04M1/6058—Portable telephones adapted for handsfree use involving the use of a headset accessory device connected to the portable telephone
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
- H04M1/72409—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
- H04M1/724094—Interfacing with a device worn on the user's body to provide access to telephonic functionalities, e.g. accepting a call, reading or composing a message
- H04M1/724097—Worn on the head
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R5/00—Stereophonic arrangements
- H04R5/033—Headphones for stereophonic communication
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R5/00—Stereophonic arrangements
- H04R5/04—Circuit arrangements, e.g. for selective connection of amplifier inputs/outputs to loudspeakers, for loudspeaker detection, or for adaptation of settings to personal preferences or hearing impairments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
- H04S7/30—Control circuits for electronic adaptation of the sound field
- H04S7/302—Electronic adaptation of stereophonic sound system to listener position or orientation
- H04S7/303—Tracking of listener position or orientation
- H04S7/304—For headphones
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/80—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
- A63F2300/8082—Virtual reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/11—Positioning of individual sound objects, e.g. moving airplane, within a sound field
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Acoustics & Sound (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Networks & Wireless Communication (AREA)
- Stereophonic System (AREA)
- User Interface Of Digital Computer (AREA)
Description
前記ユーザの第1の身体部位又はコントローラを基準体として前記実空間内の前記基準体の位置をトラッキングする基準体トラッキング手段(例えば、図9のサーバ処理部200s、ゲーム進行制御部210、基準体トラッキング部212、図12のステップS4)、
前記仮想現実空間において所与の役割が設定された仮想オブジェクトの位置を、前記基準体の位置に対応づけて追従させる仮想オブジェクト位置制御手段(例えば、図9のサーバ処理部200s、ゲーム進行制御部210、仮想オブジェクト位置制御部226、図12のステップS30)、
前記基準体の前記実空間内の位置、又は、前記仮想オブジェクトの前記仮想現実空間内の位置に基づいて定められた前記音響を変化させる位置条件を満たすか否かを判定し、判定結果に従って前記役割に応じた音響の前記ヘッドフォンからの出力を制御させる音響出力制御手段(例えば、図9のサーバ処理部200s、ゲーム進行制御部210、音響出力制御部230、図13のステップS70〜S74)、
として前記コンピュータを機能させるためのプログラムである。
よって、ユーザに仮想の小道具を手にとって使わせるような場面の音響を仮想現実空間内にてリアルに再現できる。
前記仮想現実空間に前記仮想オブジェクトを初期配置する初期配置手段(例えば、図9のサーバ処理部200s、ゲーム進行制御部210、仮想オブジェクト初期配置制御部220、図12のステップS2)、
前記ユーザに対して、前記仮想基準体を前記初期配置の位置に近づけるように指示する指示手段(例えば、図9のサーバ処理部200s、ゲーム進行制御部210、指示制御部222、図12のステップS24)、
前記指示の後、前記仮想基準体の位置と前記初期配置の位置とが所定条件を満たした場合に、前記仮想オブジェクトと前記基準体との対応付けを設定する対応付け設定手段(例えば、図9のサーバ処理部200s、ゲーム進行制御部210、対応付け設定部224、図12のステップS30)、として前記コンピュータを更に機能させ、前記仮想オブジェクト位置制御手段は、前記対応付け設定手段による設定後に、前記仮想オブジェクトの位置を前記基準体の位置に対応づけて追従させる、第1〜第14の何れかの発明のプログラムである。
前記ユーザの第1の身体部位又はコントローラを基準体として前記実空間内の前記基準体の位置をトラッキングする基準体トラッキング手段(例えば、図1のHMD6、トラッキング用カメラ7、コントローラ8、制御基板1150)と、
前記仮想現実空間において所与の役割が設定された仮想オブジェクトの位置を、前記基準体の位置に対応づけて追従させる仮想オブジェクト位置制御手段(例えば、図1の制御基板1150、図9の仮想オブジェクト位置制御部226)と、
前記基準体の前記実空間内の位置、又は、前記仮想オブジェクトの前記仮想現実空間内の位置に基づいて定められた前記音響を変化させる位置条件を満たすか否かを判定し、判定結果に従って前記役割に応じた音響の前記ヘッドフォンからの出力を制御させる音響出力制御手段(例えば、図1の制御基板1150、図9の音響出力制御部230、音生成部290s)と、を備えた仮想現実体験提供装置である。
図3は、ゲーム内の小道具をプレーヤに手にとって使わせる場面における音響制御の原理について説明するための概念図である。
勿論、本実施形態を実際に運用するに当たっては、小道具とその役割は、音響発生物であればゲーム内容によって適宜設定可能である。例えば、オルゴールや、昆虫、想像の生物、装備品、などであってもよい。
仮想現実空間に配置された仮想テーブル16の上に置かれている仮想スマートフォン12が着信音を発している。この段階では、仮想基準体10と仮想スマートフォン12との距離は、所定の「把持状態認定距離条件」を満たさず、よって仮想スマートフォン12は仮想テーブル16の上に単に置かれており、把持されていないものと見なされる。
手に取った仮想スマートフォン12を頭部に近づける過程においては、ヘッドフォン5では、仮想スマートフォン12を移動音源とする「把持状態着信音」と、仮想スマートフォン12以外の音源からの音の混合音である環境音とが、立体音響制御されて放音される。つまり、ヘッドフォン5からは、プレーヤ2が手に取った仮想スマートフォン12を耳元に近づけるにつれて、HDM6では仮想スマートフォン12が近づく様子が映し出され、それに応じてヘッドフォン5から聞こえてくる着信音の位置が変化しつつ、近づいた分だけ着信音の音量が徐々に大きくなってくるように音が聞こえてくる。
仮想現実空間では、仮想基準体10及び仮想スマートフォン12が、仮想身体部位14(仮想右耳14R)に、「反響音発生距離条件」を満たすほどに近づく。
プレーヤ2が仮想スマートフォン12を更に仮想身体部位14(仮想右耳14R)へ近づけるようにアクションすると、やがて両者の距離が所定の「通話認定距離条件」を満たすほどに接近する。すると、仮想スマートフォン12は、着信状態から通話状態に状態設定が変更され、仮想スマートフォン12を音源とする音は、把持状態着信音から通話内容を再生する「通話音声」に変更される。
図9は、本実施形態におけるサーバシステム1100の機能構成例を示す機能ブロック図である。本実施形態におけるサーバシステム1100は、操作入力部100sと、サーバ処理部200sと、音出力部390sと、画像表示部392sと、通信部394sと、サーバ記憶部500sとを備える。
すなわち、音響を変化させる位置条件を満たさない場合には、仮想オブジェクトの役割に応じた音響を出力せずに仮想現実空間の環境音を出力させる、又は、役割に応じた音響よりも仮想現実空間の環境音の方を大きくして出力させることができる。そして、音響を変化させる位置条件を満たす場合には、仮想現実空間の前記環境音を出力せずに役割に応じた音響を出力させる、又は、仮想現実空間の環境音よりも役割に応じた音響の方を大きくして出力させる。
本実施形態では、仮想現実空間初期設定データ512と、仮想基準体初期設定データ514と、仮想スマートフォン初期設定データ516と、環境音データ520と、反響音データ522と、ノイズ音データ524と、仮想スマートフォン起源音定義データ530と、を含む。勿論、これら以外のデータも適宜含めることができる。
本実施形態では、1)非把持状態着信音(図4参照)の音データ又は当該音データを生成することができる基礎データである非把持状態着信音データ531と、2)把持状態着信音(図5参照)の音データ又は当該音データを生成することができる基礎データである把持状態着信音データ532と、3)通話音声(図8参照)の音データ又は当該音データを生成することができる基礎データである通話音声データ533と、4)通話終了後の音の音データ又は当該音データを生成することができる基礎データである通話終了音データ534と、5)当該定義データが使用される条件を定義する発音条件535と、を含む。
プレイ開始日時702は、ログイン時の現在日時800に設定される。
次に、サーバシステム1100における処理の流れについて説明する。ここで説明する処理の流れは、サーバ処理部200sがサーバシステムプログラム501とサーバプログラム503とを実行することにより実現される。
当該判定は、仮想基準体10と仮想スマートフォン12の距離に基づいて判定するに限らず、仮想スマートフォン12の仮想現実空間内の現在位置(本実施形態では、仮想スマートフォン12が静物なので初期配置位置に同じ)を基準点として設定される所定範囲に、仮想基準体10が到達したかの位置条件の判定としてもよい。
換言すると、プレーヤ2の右の耳2E(第2の身体部位;図2参照)と言う実対象物に対応する仮想現実空間内の仮想対象物である仮想身体部位14(仮想右耳14R)と、仮想オブジェクトである仮想スマートフォン12とがある閾値以上に接近したことを判定する。
以上、本発明を適用した実施形態の一例について説明したが、本発明を適用可能な形態は上記形態に限定されるものではなく適宜構成要素の追加・省略・変更を施すことができる。
例えば、上記実施形態では、仮想現実空間に配置された様々な小道具を使用して仮想現実空間の住人とコミュニケーションしながらミッションをクリアするゲームとして説明したが、ゲームのジャンルや内容は適宜設定可能である。また、ゲームではなく、仮想の世界を旅したり探索するといったVR体験を提供するものであってもよい。
また、登場させる仮想オブジェクトの種類や数は適宜設定可能である。仮想現実空間におけるモノとしての役割に応じて、その仮想現実空間におけるサイズや特性も適宜設定可能である。
また、トラッキング技術は適宜選定可能であると述べたが、例えば図14で示すゲームシステム1000Bのように、プレーヤ2を正面から撮影するカメラや、プレーヤ2の正面各部までの距離を測定する測距センサを備えたセンサユニット70を用いて、プレーヤ2の骨格の動作を認識するタイプのジェスチャー認識技術を用いて、上記実施形態のヘッドトラッキング及びコントローラトラッキングの代用とすることができる。この場合、コントローラ8をトラッキングするというよりも、コントローラ8を持つ第1の身体部位(手)をトラッキングすることになる。
また、小道具の役割は、移動可能な音源に限らず、仮想現実空間において音響を入力する音響入力機器としての役割を設定してもよい。例えば、マイクのような持ち運び可能で集音した音をヘッドフォン5で聴くことができる小道具(例えば仮想集音装置17)を設定することもできる。
ゲームが開始され、仮想集音装置17がプレーヤ2によって胸元に移動され、仮想集音装置17と仮想心臓14tとの相対位置が集音可能距離条件を満たすほどに近接すると、仮想集音装置17が集音した音を所定の「心音(第2の身体部位での発生音響)」に切り換えて、ヘッドフォン5にて心音を再生させるとしてもよい。環境音、反響音、ノイズ音の扱いは上記実施形態と同様でもよい。
第1の基準体=プレーヤの右手(第1の身体部位A)
第2の基準体=プレーヤの左手(第1の身体部位B)
第1の仮想基準体=仮想の右手
第2の仮想基準体=仮想の左手
第2の身体部位=プレーヤの胴体
仮想オブジェクトと役割=変身機能を内蔵したベルトバックル型アイテム
1)初期状態の音響は無音(仮想オブジェクトは未作動を意味する)。
2)仮想オブジェクトと仮想の右手又は仮想の左手とが接近すると、仮想オブジェクトと仮想の右手又は仮想の左手とを対応づけ、以降、仮想オブジェクトは仮想の右手又は仮想の左手に合わせて追従移動させる。
3)仮想オブジェクトが第2の身体部位に接近すると、仮想オブジェクトと仮想の右手又は仮想の左手との対応づけを解除。新たに、仮想オブジェクトと第2の身体部位とを対応づけ、仮想オブジェクトはプレーヤの腰部前面に密着配置させ、音響を作動準備音に変更。
4)仮想右手と仮想左手をそれぞれ仮想オブジェクトの右側と左側に寄せると、音響を作動音に変更し、変身機能を仮想現実空間内で発揮。
2E…耳
2h…右手
2t…心臓
5…ヘッドフォン
6…HMD(Head Mounted Display)
7…トラッキング用カメラ
8…コントローラ
10…仮想基準体
12…仮想スマートフォン
14…仮想身体部位
14R…仮想右耳
14t…仮想心臓
17…仮想集音装置
70…センサユニット
200s…サーバ処理部
210…ゲーム進行制御部
212…基準体トラッキング部
214…仮想基準体位置制御部
216…第2身体部位トラッキング部
218…仮想身体部位位置制御部
220…仮想オブジェクト初期配置制御部
222…指示制御部
224…対応付け設定部
226…仮想オブジェクト位置制御部
230…音響出力制御部
500s…サーバ記憶部
503…サーバプログラム
510…ゲーム初期設定データ
512…仮想現実空間初期設定データ
514…仮想基準体初期設定データ
516…仮想スマートフォン初期設定データ
520…環境音データ
522…反響音データ
524…ノイズ音データ
530…仮想スマートフォン起源音定義データ
531…非把持状態着信音データ
532…把持状態着信音データ
533…通話音声データ
534…通話終了音データ
700…プレイデータ
710…ヘッドトラッキングデータ
712…コントローラトラッキングデータ
728…仮想左手制御データ
730…仮想現実空間制御データ
732…右眼用仮想カメラ制御データ
733…左眼用仮想カメラ制御データ
735…仮想右耳制御データ
736…仮想左耳制御データ
737…仮想右手制御データ
740…仮想スマートフォン制御データ
742…仮想スマートフォン起源音設定
760…仮想立体音場制御データ
1000、1000B…ゲームシステム
1100…サーバシステム
1150…制御基板
L…距離
Claims (9)
- コンピュータに、仮想現実空間と実空間とを対応づけさせて、ユーザが装着するヘッドトラッキング型のHMD(ヘッドマウントディスプレイ)に前記仮想現実空間の画像を表示させ、前記ユーザが装着するヘッドフォンに前記仮想現実空間の音響を出力させて、所与のキャラクタが登場するゲームの実行を制御させるためのプログラムであって、
コントローラを基準体として前記実空間内の前記基準体の位置をトラッキングする基準体トラッキング手段、
前記仮想現実空間において仮想スマートフォンの役割が設定された仮想オブジェクトの位置を、前記基準体の位置に対応づけて追従させる仮想オブジェクト位置制御手段、
所与のゲームイベント条件を満たした場合に、1)着信音の音響を前記ヘッドフォンから出力させる制御と、2)前記基準体の前記実空間内の位置に基づいて定められた前記音響を変化させる位置条件を満たすか否かを判定し、満たす前に出力させていた前記着信音の音響を、満たした後に前記キャラクタからの通話音声の音響に切り替えて前記ヘッドフォンから出力させる制御と、を行う音響出力制御手段、
として前記コンピュータを機能させるためのプログラム。 - 前記音響出力制御手段は、前記実空間において前記ユーザの耳と前記基準体とが接近したことを示す距離条件を、前記位置条件として前記判定を行う、
請求項1に記載のプログラム。 - 前記音響出力制御手段は、前記位置条件を満たす場合に、所与の反響音を更に出力させる、
請求項1又は2に記載のプログラム。 - 前記音響出力制御手段は、前記位置条件を満たす場合に、所与のノイズ音を更に出力させる、
請求項1〜3の何れか一項に記載のプログラム。 - 前記音響出力制御手段は、前記ユーザの左右の耳それぞれについて前記位置条件を満たすかを判定し、満たす場合に、前記ヘッドフォンの左右出力のうちの満たしたほうの耳に対応する出力から、あたかも前記仮想現実空間における前記仮想スマートフォンが当該耳に接近したかのような音響を出力させる、
請求項1〜4の何れか一項に記載のプログラム。 - 前記音響出力制御手段は、前記ユーザの左右の耳それぞれについて前記位置条件を満たすかを判定し、満たす場合に、前記ヘッドフォンの左右出力のうちの満たさなかったほうの耳に対応する出力からの出力音響を低減させる、
請求項5に記載のプログラム。 - 前記ゲームイベント条件は、所与のゲームイベントの発生済み、実行済み又は達成済みであることを示す条件である、
請求項1〜6の何れか一項に記載のプログラム。 - 前記仮想現実空間内に、前記基準体の位置に追従する仮想基準体を配置制御する仮想基準体位置制御手段、
前記仮想現実空間に前記仮想オブジェクトを初期配置する初期配置手段、
前記ユーザに対して、前記仮想基準体を前記初期配置の位置に近づけるように指示する指示手段、
前記指示の後、前記仮想基準体の位置と前記初期配置の位置とが所定条件を満たした場合に、前記仮想オブジェクトと前記基準体との対応付けを設定する対応付け設定手段、
として前記コンピュータを更に機能させ、
前記仮想オブジェクト位置制御手段は、前記対応付け設定手段による設定後に、前記仮想オブジェクトの位置を前記基準体の位置に対応づけて追従させる、
請求項1〜7の何れか一項に記載のプログラム。 - 仮想現実空間と実空間とを対応づけて、ユーザが装着するヘッドトラッキング型のHMD(ヘッドマウントディスプレイ)に前記仮想現実空間の画像を表示させ、前記ユーザが装着するヘッドフォンに前記仮想現実空間の音響を出力させて、所与のキャラクタが登場するゲームの実行を制御させる仮想現実体験提供装置であって、
コントローラを基準体として前記実空間内の前記基準体の位置をトラッキングする基準体トラッキング手段と、
前記仮想現実空間において仮想スマートフォンの役割が設定された仮想オブジェクトの位置を、前記基準体の位置に対応づけて追従させる仮想オブジェクト位置制御手段と、
所与のゲームイベント条件を満たした場合に、1)着信音の音響を前記ヘッドフォンから出力させる制御と、2)前記基準体の前記実空間内の位置に基づいて定められた前記音響を変化させる位置条件を満たすか否かを判定し、満たす前に出力させていた前記着信音の音響を、満たした後に前記キャラクタからの通話音声の音響に切り替えて前記ヘッドフォンから出力させる制御と、を行う音響出力制御手段と、
を備えた仮想現実体験提供装置。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016069267A JP6783541B2 (ja) | 2016-03-30 | 2016-03-30 | プログラム及び仮想現実体験提供装置 |
| CN201780021823.4A CN109076301B (zh) | 2016-03-30 | 2017-03-23 | 控制方法、虚拟现实体验提供装置以及记录介质 |
| PCT/JP2017/011786 WO2017170146A1 (ja) | 2016-03-30 | 2017-03-23 | 制御方法、仮想現実体験提供装置およびプログラム |
| US16/144,404 US10713001B2 (en) | 2016-03-30 | 2018-09-27 | Control method and virtual reality experience provision apparatus |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016069267A JP6783541B2 (ja) | 2016-03-30 | 2016-03-30 | プログラム及び仮想現実体験提供装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017184048A JP2017184048A (ja) | 2017-10-05 |
| JP6783541B2 true JP6783541B2 (ja) | 2020-11-11 |
Family
ID=59965597
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016069267A Active JP6783541B2 (ja) | 2016-03-30 | 2016-03-30 | プログラム及び仮想現実体験提供装置 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US10713001B2 (ja) |
| JP (1) | JP6783541B2 (ja) |
| CN (1) | CN109076301B (ja) |
| WO (1) | WO2017170146A1 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US12379781B2 (en) | 2020-09-03 | 2025-08-05 | Samsung Electronics Co., Ltd. | Electronic device and operation method of electronic device |
Families Citing this family (30)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11595760B2 (en) | 2011-12-23 | 2023-02-28 | Shenzhen Shokz Co., Ltd. | Bone conduction speaker and compound vibration device thereof |
| US11627419B2 (en) | 2014-01-06 | 2023-04-11 | Shenzhen Shokz Co., Ltd. | Systems and methods for suppressing sound leakage |
| WO2020220720A1 (zh) | 2019-04-30 | 2020-11-05 | 深圳市韶音科技有限公司 | 一种声学输出装置 |
| US11617045B2 (en) | 2014-01-06 | 2023-03-28 | Shenzhen Shokz Co., Ltd. | Systems and methods for suppressing sound leakage |
| US11582564B2 (en) | 2014-01-06 | 2023-02-14 | Shenzhen Shokz Co., Ltd. | Systems and methods for suppressing sound leakage |
| US11570556B2 (en) | 2014-01-06 | 2023-01-31 | Shenzhen Shokz Co., Ltd. | Systems and methods for suppressing sound leakage |
| US11706574B2 (en) | 2014-01-06 | 2023-07-18 | Shenzhen Shokz Co., Ltd. | Systems and methods for suppressing sound leakage |
| US11582563B2 (en) | 2014-01-06 | 2023-02-14 | Shenzhen Shokz Co., Ltd. | Systems and methods for suppressing sound leakage |
| JP7203305B2 (ja) * | 2017-11-08 | 2023-01-13 | パナソニックIpマネジメント株式会社 | 撮影システム、撮影方法、及びプログラム |
| CA2998918C (en) * | 2018-03-20 | 2025-05-20 | John Kyle Varley | METHOD AND SYSTEM FOR GENERATION OF A USER-PERCEIVED AUDIBLE SOUND STRUCTURE ACCORDING TO THE USER'S ACTIONS WITHIN A VIRTUAL ENVIRONMENT |
| US10466960B2 (en) * | 2018-04-02 | 2019-11-05 | Avid Technology, Inc | Augmented reality audio mixing |
| US10871939B2 (en) * | 2018-11-07 | 2020-12-22 | Nvidia Corporation | Method and system for immersive virtual reality (VR) streaming with reduced audio latency |
| CN109614171B (zh) | 2018-12-07 | 2021-09-14 | 腾讯科技(深圳)有限公司 | 虚拟道具转移方法、装置、电子设备及计算机存储介质 |
| US10846898B2 (en) * | 2019-03-28 | 2020-11-24 | Nanning Fugui Precision Industrial Co., Ltd. | Method and device for setting a multi-user virtual reality chat environment |
| JP6935452B2 (ja) * | 2019-05-29 | 2021-09-15 | 株式会社バンダイ | システム、装置、方法及びプログラム |
| JP6923593B2 (ja) * | 2019-06-04 | 2021-08-25 | 株式会社カプコン | ゲームプログラムならびにゲームシステム |
| CN110335630B (zh) * | 2019-07-08 | 2020-08-28 | 北京达佳互联信息技术有限公司 | 虚拟道具显示方法、装置、电子设备及存储介质 |
| US11178384B2 (en) * | 2019-07-10 | 2021-11-16 | Nintendo Co., Ltd. | Information processing system, storage medium, information processing apparatus and information processing method |
| US10976543B1 (en) * | 2019-09-04 | 2021-04-13 | Facebook Technologies, Llc | Personalized equalization of audio output using visual markers for scale and orientation disambiguation |
| CN111246014B (zh) * | 2020-01-13 | 2021-04-06 | 维沃移动通信有限公司 | 通话方法、头戴式设备及介质 |
| KR102324816B1 (ko) * | 2020-04-29 | 2021-11-09 | 연세대학교 산학협력단 | 사운드의 병행 출력을 통한 공간 이동에 따른 사운드 인터렉션 시스템 및 방법 |
| CN112379771A (zh) * | 2020-10-10 | 2021-02-19 | 杭州翔毅科技有限公司 | 基于虚拟现实的实时交互方法、装置、设备及存储介质 |
| KR102398850B1 (ko) * | 2020-11-23 | 2022-05-17 | 제이씨스퀘어 (주) | 증강현실 및 가상현실에서의 입체 음향효과를 구현하는 사운드제어시스템 |
| CN112791381B (zh) * | 2021-01-21 | 2022-12-27 | 深圳市瑞立视多媒体科技有限公司 | 虚拟现实中腰带跟随玩家的移动方法、装置和计算机设备 |
| KR102862083B1 (ko) * | 2021-04-13 | 2025-09-22 | 삼성전자주식회사 | 외부 웨어러블 전자 장치의 노이즈 캔슬링을 제어하는 웨어러블 전자 장치 및 이의 동작 방법 |
| EP4236351B1 (en) | 2021-04-13 | 2025-12-03 | Samsung Electronics Co., Ltd. | Wearable electronic device for controlling noise cancellation of external wearable electronic device, and method for operating same |
| US11599338B2 (en) * | 2021-06-18 | 2023-03-07 | Qingdao Pico Technology Co., Ltd. | Model loading method and apparatus for head-mounted display device, and head-mounted display device |
| US12274932B2 (en) * | 2022-05-27 | 2025-04-15 | Sony Interactive Entertainment LLC | Methods and systems for dynamically adjusting sound based on detected objects entering interaction zone of user |
| JP2025044619A (ja) * | 2023-09-20 | 2025-04-02 | 株式会社カプコン | プログラムおよび音響制御装置 |
| JP2025091813A (ja) * | 2023-12-07 | 2025-06-19 | 株式会社カプコン | プログラム、音響制御装置、システム |
Family Cites Families (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH07116348A (ja) * | 1993-10-27 | 1995-05-09 | Casio Comput Co Ltd | ゲーム装置 |
| JPH10153946A (ja) * | 1996-11-25 | 1998-06-09 | Mitsubishi Electric Corp | 感覚情報提示装置 |
| JP4304845B2 (ja) | 2000-08-03 | 2009-07-29 | ソニー株式会社 | 音声信号処理方法及び音声信号処理装置 |
| JP2007050267A (ja) | 2006-10-02 | 2007-03-01 | Victor Co Of Japan Ltd | 音像定位技術を利用したゲーム装置び音像定位プログラムの記録された記録媒体 |
| JP2010035978A (ja) * | 2008-08-08 | 2010-02-18 | Sega Corp | ゲームプログラムおよびゲーム装置 |
| US9037468B2 (en) * | 2008-10-27 | 2015-05-19 | Sony Computer Entertainment Inc. | Sound localization for user in motion |
| CN201594225U (zh) * | 2010-02-03 | 2010-09-29 | 姜开淦 | 一种带动作识别功能的游戏手柄 |
| JP5869236B2 (ja) * | 2011-06-03 | 2016-02-24 | 任天堂株式会社 | 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法 |
| US10137361B2 (en) * | 2013-06-07 | 2018-11-27 | Sony Interactive Entertainment America Llc | Systems and methods for using reduced hops to generate an augmented virtual reality scene within a head mounted system |
| US10048761B2 (en) * | 2013-09-30 | 2018-08-14 | Qualcomm Incorporated | Classification of gesture detection systems through use of known and yet to be worn sensors |
| CN103713746B (zh) * | 2013-12-18 | 2017-01-04 | 深圳市宇恒互动科技开发有限公司 | 三维惯性遥控装置的输入方法及三维惯性遥控装置 |
| US9641660B2 (en) * | 2014-04-04 | 2017-05-02 | Empire Technology Development Llc | Modifying sound output in personal communication device |
| CN104460986A (zh) * | 2014-10-31 | 2015-03-25 | 王辉堂 | 基于立体声的游戏操作方法 |
| US10353532B1 (en) * | 2014-12-18 | 2019-07-16 | Leap Motion, Inc. | User interface for integrated gestural interaction and multi-user collaboration in immersive virtual reality environments |
| JP6561400B2 (ja) * | 2015-02-10 | 2019-08-21 | 任天堂株式会社 | 情報処理装置、情報処理プログラム、情報処理システム、および、情報処理方法 |
-
2016
- 2016-03-30 JP JP2016069267A patent/JP6783541B2/ja active Active
-
2017
- 2017-03-23 WO PCT/JP2017/011786 patent/WO2017170146A1/ja not_active Ceased
- 2017-03-23 CN CN201780021823.4A patent/CN109076301B/zh active Active
-
2018
- 2018-09-27 US US16/144,404 patent/US10713001B2/en active Active
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US12379781B2 (en) | 2020-09-03 | 2025-08-05 | Samsung Electronics Co., Ltd. | Electronic device and operation method of electronic device |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109076301B (zh) | 2021-05-18 |
| CN109076301A (zh) | 2018-12-21 |
| US20190026071A1 (en) | 2019-01-24 |
| US10713001B2 (en) | 2020-07-14 |
| WO2017170146A1 (ja) | 2017-10-05 |
| JP2017184048A (ja) | 2017-10-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6783541B2 (ja) | プログラム及び仮想現実体験提供装置 | |
| JP6055657B2 (ja) | ゲームシステム、ゲーム処理制御方法、ゲーム装置、および、ゲームプログラム | |
| EP3485346B1 (en) | Virtual, augmented, and mixed reality | |
| JP6602803B2 (ja) | 双方向性コンテンツの触覚的に強化された双方向性 | |
| JP6306442B2 (ja) | プログラム及びゲームシステム | |
| CN107277736B (zh) | 模拟系统、声音处理方法及信息存储介质 | |
| JP6147486B2 (ja) | ゲームシステム、ゲーム処理制御方法、ゲーム装置、および、ゲームプログラム | |
| US9219961B2 (en) | Information processing system, computer-readable non-transitory storage medium having stored therein information processing program, information processing control method, and information processing apparatus | |
| CN106997238A (zh) | 用于修改触觉效果以补偿音频‑触觉干扰的可编程触觉装置和方法 | |
| US9981182B2 (en) | Systems and methods for providing immersive game feedback using haptic effects | |
| JP6055651B2 (ja) | 情報処理システム、情報処理プログラム、情報処理制御方法、および情報処理装置 | |
| JPWO2015145893A1 (ja) | 体感導入装置、体感導入システム、及び体感導入方法 | |
| JP2019175323A (ja) | シミュレーションシステム及びプログラム | |
| JP2004141261A (ja) | ゲームプログラム及びゲーム装置 | |
| JP2018045458A (ja) | シミュレーションシステム及びプログラム | |
| CN114253393A (zh) | 信息处理设备、终端、方法以及计算机可读记录介质 | |
| JP6672047B2 (ja) | プログラム及びコンピュータシステム | |
| JP2018136944A (ja) | シミュレーションシステム及びプログラム | |
| US20240264795A1 (en) | System and method for generating interactive audio | |
| JP2025091815A (ja) | プログラム、音響制御装置、システム | |
| Mentzelopoulos et al. | Hardware interfaces for VR applications: evaluation on prototypes | |
| US20240382842A1 (en) | Video game peripheral device, system and method | |
| Kapralos et al. | Advanced sound integration for toy-based computing | |
| WO2025003309A1 (en) | Interactive play apparatus | |
| CN114647316A (zh) | 人机交互方法、系统、电子设备和计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190311 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191203 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200131 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200512 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200713 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200923 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201022 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6783541 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |