[go: up one dir, main page]

TW201944365A - 增強第一身視角體驗的方法 - Google Patents

增強第一身視角體驗的方法 Download PDF

Info

Publication number
TW201944365A
TW201944365A TW108113151A TW108113151A TW201944365A TW 201944365 A TW201944365 A TW 201944365A TW 108113151 A TW108113151 A TW 108113151A TW 108113151 A TW108113151 A TW 108113151A TW 201944365 A TW201944365 A TW 201944365A
Authority
TW
Taiwan
Prior art keywords
running tool
image stabilization
force feedback
video
signal
Prior art date
Application number
TW108113151A
Other languages
English (en)
Inventor
永強 羅
景樑 戴
景曦 戴
駿康 陳
Original Assignee
香港商電競方程式控股有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 香港商電競方程式控股有限公司 filed Critical 香港商電競方程式控股有限公司
Publication of TW201944365A publication Critical patent/TW201944365A/zh

Links

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B9/00Simulators for teaching or training purposes
    • G09B9/02Simulators for teaching or training purposes for teaching control of vehicles or other craft
    • G09B9/04Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles
    • G09B9/048Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles a model being viewed and manoeuvred from a remote point
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Abstract

本發明屬於在運動椅中模擬遙控運行工具的力反饋的系統。該系統包括安裝在運行工具上的多個攝影機、運行工具中的圖像穩定模組、運行工具中的視頻處理模組、運動椅中的資訊分離器、運動椅中的運動處理單元、運動椅中的控制單元、運動椅中的G力計算單元和運動椅中的力反饋產生單元。運動處理單元基於從攝影機產生的圖像穩定信號計算運行工具的六軸運動自由度。力反饋產生單元基於運行工具的六軸運動自由度和由G力計算單元計算的G力產生力反饋信號。

Description

增強第一身視角體驗的方法
本發明屬於增強第一身視角(First-person-view)(FPV)體驗的方法。
第一身視角(FPV)是從駕駛員或飛行員的視點控制無線電控制運行工具(vehicle)的方法。運行工具可以是例如移動機器,例如汽車或無人機,通過機載攝影機從第一身視角遠程駕駛或引導,無線傳送到視頻FPV眼鏡或視頻螢幕。需要有助於推進FPV設置中的技術需求和工業應用的新方法和設備。
一個示例性實施例是在運動椅中模擬遙控運行工具的力反饋的系統。該系統包括安裝在運行工具上的多個攝影機、在運行工具的圖像穩定模組、在運行工具的視頻處理模組、在運動椅的信息分離器、在運動椅的運動處理單元、在運動椅的控制單元、在運動椅的G力計算單元和在運動椅的力反饋產生單元。攝影機記錄視頻,並產生圖像穩定信號。圖 像穩定模組檢測圖像穩定信號。視頻處理模組整合由攝影機記錄的視頻和由圖像穩定模組檢測的圖像穩定信號,以產生穩定化的視頻,並將穩定化的視頻轉換成視頻信號。資訊分離器提取圖像穩定信號。運動處理單元基於從資訊分離器提取的圖像穩定信號計算運行工具的六軸運動自由度。控制單元控制運行工具的瞬時速度和瞬時加速度。G力計算單元基於運行工具的質量、玩家的質量、控制單元中記錄的瞬時速度和瞬時加速度計算G力。力反饋產生單元基於運行工具的六軸運動自由度和由G力計算單元計算的G力產生力反饋信號。基於力反饋信號在運動椅中模擬力反饋。
另一個示例性實施例是在運動椅中模擬遙控運行工具的力反饋的方法。該方法包括由安裝在運行工具上的多個攝影機記錄視頻;由圖像穩定模組檢測從多個攝影機產生的圖像穩定信號;由運動處理單元基於圖像穩定信號計算運行工具的六軸運動自由度;由運動椅中的控制單元控制運行工具的瞬時速度和瞬時加速度;由G力計算單元基於運行工具的質量、玩家的質量、控制單元中記錄的瞬時速度和瞬時加速度計算G力;由運動椅中的力反饋產生單元基於運行工具的六軸運動自由度和由G力計算單元計算的G力產生力反饋信號;以及基於力反饋信號在運動椅中模擬力反饋。
在另一個實施例中,本發明提供模擬遙控運行工具的力反饋的運動椅。該運動椅包括運動處理單元、控制單元、G力計算單元和力反饋產生單元。運動處理單元基於從安裝在運行工具上的多個攝影機產生的圖像穩定信號計算運行工具的六軸運動自由度。控制單元控制運行工具的瞬時速度和瞬時加速度。G力計算單元基於運行工具的質量、玩家的質量、 控制單元中記錄的瞬時速度和瞬時加速度計算G力。力反饋產生單元基於運行工具的六軸運動自由度和由G力計算單元計算的G力產生力反饋信號。基於力反饋信號在運動椅中模擬力反饋。
本文討論了其他實施例。
100‧‧‧運行工具
110‧‧‧前視攝影機
120‧‧‧後視攝影機
160‧‧‧網絡
200‧‧‧運動控制平台
210‧‧‧視頻顯示頭戴設備
220‧‧‧方向盤
230‧‧‧運動模擬器
240‧‧‧踏板
260‧‧‧駕駛艙
300‧‧‧玩家
360‧‧‧前視圖
370‧‧‧後視圖
380‧‧‧賽車跑道
410‧‧‧遙控運行工具
420‧‧‧攝影機系統
430‧‧‧圖像穩定模組
440‧‧‧視頻處理模組
450‧‧‧運行工具移動
460‧‧‧發送器
470‧‧‧網絡
510‧‧‧運動控制平台
512‧‧‧接收器
514‧‧‧資訊分離器
520‧‧‧運動處理單元
530‧‧‧顯示單元
540‧‧‧力反饋產生單元
550‧‧‧控制單元
560‧‧‧G力計算單元
570‧‧‧運動椅
600‧‧‧流程圖
700‧‧‧流程圖
810‧‧‧陀螺儀感測器
820‧‧‧陀螺儀感測器
830‧‧‧光學影像穩定驅動器
840‧‧‧光學影像穩定驅動器
850‧‧‧x軸音圈馬達驅動器
860‧‧‧y軸音圈馬達驅動器
870‧‧‧馬達
880‧‧‧馬達
890‧‧‧馬達
900‧‧‧馬達
910‧‧‧圖像感測器
圖1示出了根據示例性實施例使用圖像穩定來在FPV系統中的運動模擬器中產生力反饋的系統;圖2A示出了根據圖1所示的示例性實施例並具有圖像穩定的前視攝影機;圖2B示出了根據圖1所示的示例性實施例並具有圖像穩定的後視攝影機;圖3示出了根據圖1所示的示例性實施例運行工具的前視攝影機和後視攝影機相對於運行工具的主體框架的位置;圖4示出了根據圖1所示的示例性實施例遙控運行工具六軸運動自由度(6 DoF);圖5示出了根據圖1所示的示例性實施例的賽車跑道中的遙控運行工具,由攝影機捕獲的前視圖和後視圖;圖6示出了根據示例性實施例在FPV系統中從移動的運行工具獲得圖像穩定信號的方法;圖7示出了根據圖6所示的示例性實施例在運動椅中產生力反饋運動 的方法;圖8示出了根據示例性實施例的兩個類型的前庭動眼反射(VOR)設置。
如本文所用,「包括」指包含以下元素但不排除其他元素。
如本文和申請專利範圍所用,除非另有說明,否則「耦合」或「連接」指直接或通過一個或多個電子裝置間接進行的電耦合或連接。
如本文所用,「光學圖像穩定」是靜態相機或攝影機中使用的機制,其通過改變到感測器的光路來穩定記錄的圖像。
如本文所用,「數字圖像穩定」是分析不同幀的圖像以確定光流的方法。一種最簡單的方法是將電子圖像從視頻的一幀移動到另一幀,足以抵消運動。它使用可見幀的邊框外的圖元為運動提供緩衝。這種技術通過平滑從一幀到另一幀的過渡來減少來自視頻的幹擾振動。它需要圖像分割和光流檢測。由於分析圖像幀,它需要更多計算資源和存儲緩衝來實現更佳的穩定性。
如本文所用,「電子圖像穩定」是使用電子設備而不是分析圖像幀的實時數字圖像穩定。
如本文所用,「用於圖像穩定的基於陀螺儀的技術」是一種光學機械技術,其操作陀螺儀裝置以提供用於穩定主體的慣性參考。
如本文所用,「G力」是施加在物體上的向量加速度,其由於速度變化而由機械力產生。
如本文所用,「力反饋」是相互作用期間作為一種反作用力的一些反饋。這允許對遊戲中物體、紋理、反衝、動量以及物體的物理存在進行觸覺模擬。它讓用戶沉浸在虛擬環境中,感受真實世界互動的存在感。
隨著越來越多的遊戲進入競爭激烈的遊戲領域,FPV賽車是最受歡迎的與電子競技相關的多人視頻遊戲類型之一。大多數FPV系統只通過虛擬實境或視頻頭戴設備提供圖像。玩家只能沉浸在飛行員或駕駛員的視野中控制運行工具。然而,玩家不能感覺到駕駛或導航體驗的其他方面體感。
為了提升玩FPV賽車的存在感,示例性實施例將全運動力反饋椅加入到玩家平台中。示例性實施結合了運動椅,使玩家感覺自己身處在真實的駕駛艙內,並感受到運行工具施加在玩家身上的運動的G力及力反饋作用力。
示例性實施例允許創建更多沉浸式系統。除了通常存在於具有頭戴設備的FPV系統中的兩種感官(即視覺和聽覺)的刺激之外,示例性實施例包括嵌入在運動椅中的離散位置的致動器,以向用戶提供各種各樣的觸覺效果。
結合全運動力反饋椅的挑戰在於檢測賽車的運動,然後以精確的運動信號發送到控制裝置。重量平衡是任何比賽設置策略的關鍵成分。如果在賽車上裝置運動陀螺儀感測器以檢測其運動,這樣會導致賽車的重量增加,因此會影響其速度等等。由於這樣緣故,所以盡量避免在賽車中加裝額外的運動陀螺儀感測器。
另一個挑戰是以低延遲率發送賽車的動態及反饋力信息。如果在運行工具上安裝運動陀螺儀感測器,這麼運動傳感信號的傳輸將增加整體數據傳輸的負擔。
示例性實施例通過提供新方法和系統來減少數據傳輸量,並將精確的運動信號發送給控制平台,解決上述的問題。由於高速運動必須在賽車中應用圖像和視頻穩定,否則獲得的圖像或視頻將變得模糊不清。為了減少運動模糊,必須應用視頻或圖像穩定技術。示例性實施例可以採用任何類型的影像穩定技術,例如光學影像穩定(OIS)、數字影像穩定(DIS)和電子影像穩定(EIS)。在這些影像穩定技術中,DIS和EIS相對需要更多的數據緩沖和計算能力來降低延遲率。
示例性實施例中的方法和系統也可以採用前庭動眼反射(VOR)。類似於人眼圖像穩定機制,VOR和視動反射(OKR)是在檢測到頭部運動時穩定圖像的反饋機制。VOR用於快速響應,而OKR用於確保眼睛以與圖像移動相同的方向和幾乎相同的速度移動。它主要處理頭部的慢速運動。在示例性實施例中,可以基於穩定反射信號來計算運行工具的平移和旋轉運動。
示例性實施例使用圖像穩定信號來產生力反饋運動,其中可以以短響應時間捕獲微小運動。
參考圖1,示例性實施例示出了使用圖像穩定來在FPV系統中的運動模擬器中生成力反饋的系統。該系統包括遙控運行工具100和運動控制平台200,其中玩家300坐在運動模擬器230中並感受力反饋。遙控運行工具100包括安裝在運行工具100上的前視攝影機110和後視攝影 機120、安裝在運行工具100中的圖像穩定模組、視頻處理模組和發送器(圖1中未示出)。前視攝影機110位於運行工具100的中心。前視攝影機110、運行工具100的質心和後視攝影機120不沿著直線對齊,使得兩個攝影機都可以檢測到不同軸的運動自由度(DoF)。前視攝影機110和後視攝影機120耦合到圖像穩定模組和視頻處理模組。圖像穩定模組檢測指示圖像穩定角度偏移的圖像穩定信號。圖像穩定角度偏移是在攝影機中形成的圖像的反向運動。舉例來說,如果圖像穩定角度偏移到正y軸,則在前視攝影機110中形成的圖像的移動對應於負y軸方向。視頻處理模組從圖像穩定模組接收圖像穩定信號,並通過整合圖像穩定信號和由攝影機110和120捕獲的視頻來產生穩定化的視頻。發送器通過網絡160發送來自圖像穩定模組的圖像穩定信號和來自視頻處理模組的穩定化的視頻。
在圖1所示的示例性實施例中,運動控制平台200包括視頻顯示頭戴設備210、方向盤220、運動模擬器230、踏板240、安裝在運動控制平台200中的運動處理單元(圖1中未示出)和接收器(圖1中未示出)。接收器從運行工具100的發送器接收圖像穩定信號和穩定化的視頻。玩家300可以通過視頻顯示頭戴設備210沉浸於運行工具100的飛行員或駕駛員的視野,並通過方向盤220和踏板240控制運行工具100的移動。視頻顯示頭戴設備210是頭戴式設備,其通過無線鏈路或有線鏈路與運動控制平台200通信,並顯示穩定化的視頻。另外,坐在運動模擬器230中的玩家300可以通過接收力反饋感覺自己坐在運行工具100的駕駛艙260中。從運動模擬器230的產生的力反饋是運行工具100的六軸運動自由度(6 Dof)與由方向盤220和踏板240施加的G力運動的整合。踏板240包括但不限於加速踏板和制動踏板。
圖2A和圖2B分別示出圖1所示的示例性實施例中的前視攝影機110和後視攝影機120,並與圖1使用相同的參考標號以指示相同的元件。如圖2A所示,前視攝影機110的圖像穩定角度偏移定義為(α f f ) f 。如圖2B所示,後視攝影機120的圖像穩定角度偏移定義為(α r r ) r
圖3示出圖1所示的示例性實施例中的前視攝影機110和後視攝影機120,並與圖1使用相同的參考標號以指示相同的元件。前視攝影機110相對於運行工具100的主體框架的坐標是[d f f f ],後視攝影機120相對於運行工具100的主體框架的坐標是[d r r r ],其中dfθ f φ f 、drθ r φ r 是相對於運行工具的質心的球面坐標,θ r ≠-θ f r ≠-φ f
Figure TW201944365A_D0001
圖4示出圖1所示的示例性實施例中的運行工具100的六軸運動自由度,並與圖1使用相同的參考標號以指示相同的元件。考慮運行工具100的主體框架,六軸自由度定義為{x,y,z x ,Ω y ,Ω z },其中(x,y,z)分別是橫盪(sway)(1)、縱盪(surge)(2)和垂盪(heave)(3)平移運動的x軸、y軸和z軸,而(Ω x ,Ω y ,Ω z )分別是橫搖(roll)(4)、縱搖(pitch)(5)和橫搖(yaw)(6)旋轉運動。六軸自由度在圖1的運動控制平台200中的運動處理單元中從圖像穩定信號轉換而來。
對於運行工具100的平移運動,其運動通過下式變換:
Figure TW201944365A_D0002
對於運行工具100的旋轉運動,其運動通過下式變換:
Figure TW201944365A_D0003
上述變換列出了對應於運行工具的線性分量運動的前視攝影機和後視攝影機的圖像穩定信號的關係。
在另一個示例性實施例中,安裝了更多的攝影機,以下變換用於誤差校正:
Figure TW201944365A_D0004
其中
Figure TW201944365A_D0005
是運行工具的運動向量,
Figure TW201944365A_D0006
是相關矩陣,和
Figure TW201944365A_D0007
是圖像穩定向量。
摩爾-彭若斯(Moore-Penrose)方法用於構造偽逆:(M T M)-1 M T R=S
圖5示出賽車跑道380中的圖1所示的示例性實施例中的運行工具100,並與圖1使用相同的參考標號以指示相同的元件。後視攝影機120以不與前視攝影機110和運行工具100的質心之間的直線對齊的方式實施,使得可以檢測和區分所有運動。圖5還示出了相對於前視攝影機110與運行工具100的質心之間的直線形成角度n°的由攝影機110捕獲的前視圖360和由後視攝影機120捕獲的後視圖370。
現在參考圖6中的流程圖600和圖7中的流程圖700,另一個示例性實施例示出了在FPV系統中通過獲得圖像穩定信號來在運動椅中產生力反饋運動的方法。
圖6示出了示例性實施例中的遙控運行工具410,其包括攝影機系統420、圖像穩定模組430和視頻處理模組440。攝影機系統420通過實施在運行工具410上的多個攝影機1、2……N在運行工具移動450時記錄視頻。圖像穩定模組430檢測由攝影機記錄的視頻的圖像穩定信號, 並將圖像穩定信號發送到視頻處理模組440和發送器460。可以通過基於OIS、EIS、DIS或基於陀螺儀的圖像穩定技術獲得圖像穩定信號。視頻處理模組440整合由攝影機記錄的視頻和圖像穩定信號,並產生對應於多個攝影機的多個穩定化的視頻。視頻處理模組440將多個穩定化的視頻轉換成視頻信號,並通過網絡470發送給發送器460。作為示例,網絡470是高速網(例如WiGig、802.11ac Wave 2或802.11ax)以支持全高清(FHD)或超高清(UHD)視頻傳輸。
圖7示出了示例性實施例中的運動控制平台510,其包括接收器512、資訊分離器514、運動處理單元520、顯示單元530、力反饋產生單元540、控制單元550、G力計算單元560和運動椅570。接收器512通過網絡470從發送器460接收圖像穩定信號和視頻信號,並將它們發送給信息分離器514。資訊分離器514提取視頻信號並將其發送給顯示單元530,並提取多個圖像穩定信號並將其發送給運動處理單元520。顯示單元530包括但不限於視頻頭戴設備或螢幕。顯示單元530可被選擇為分別顯示多個穩定化的視頻。它向坐在運動椅的飛行員或駕駛員顯示所捕獲的視頻。運動處理單元520基於圖像穩定信號計算運行工具410的六軸運動自由度,並將運行工具410的六軸運動自由度發送給力反饋產生單元540。控制單元550包括但不限於方向盤或操縱桿。控制單元550記錄發送給G力計算單元560的瞬時速度紀錄、瞬時加速度紀錄和運行工具和駕駛員的質量。G力計算單元560基於真實運行工具的加速度計算G力,並將G力發送給力反饋產生單元540。G力反饋產生單元540以G力(
Figure TW201944365A_D0008
)縮放運行工具410的六軸運動自由度DoF(
Figure TW201944365A_D0009
),以通過下式產生力反饋信號
Figure TW201944365A_D0010
。例如,
Figure TW201944365A_D0011
Figure TW201944365A_D0012
是能夠通過下式修改力反饋信號的G力。
Figure TW201944365A_D0013
這類似於人類。視覺可用於確定運動,而耳內的半圓形耳道也可以檢測運動。我們的大腦整合了兩種信號,讓我們感受到運動。
力反饋信號被發送到運動椅570以模擬運行工具410的力反饋運動。
本領域技術人員應該理解,硬體和軟件之間的劃分是概念劃分,以便易於理解,並且在某種程度上是任意的。此外,應當理解,一個計算機設備中的外圍裝置可以在另一個計算機設備中集成到主計算機。此外,本公開還可以部署在分佈式計算環境中,其包括通過一個或多個網絡連接在一起的多於一個數據處理裝置。網絡可以包括以下的一個或多個:互聯網、內聯網、外聯網、蜂窩網絡、局域網(LAN)、家庭局域網(HAN)、城域網(MAN)、廣域網(WAN)、藍牙網絡、公共和私人網絡等。軟件程式及其相關數據庫可以存儲在單獨的檔服務器或數據庫服務器中,並傳輸到本地主機以供執行。因此,圖4所示的圖像穩定模組430、視頻處理模組440和圖5所示的運動處理單元520、G力計算單元560和力反饋產生單元540是本發明可以如何實現的示例性實施例。本領域技術人員將理解,可以採用替代實施例來實現本發明。
因此,完整地描述了本發明的示例性實施例。儘管描述涉及特定實施例,但是本領域技術人員將清楚,可以通過改變這些具體細節來實踐本發明。因此,本發明不應被解釋為限於這裡闡述的實施例。
在不同圖中討論的方法可以添加到其他圖中的方法或與其他圖中的方法交換。此外,特定數值數據值(例如特定數量、數目、類別等)或其他特定資訊應被解釋為用於討論示例性實施例的說明。這樣的特定資訊不提供來限制示例性實施例。
作為示例,運動椅或運動模擬器包括但不限於椅子形式。運動椅或運動模擬器產生力反饋,其可以表示遙控運行工具的振動的強度。而且,運動椅的一個或多個部分,或運動椅的整體可以產生力反饋運動。作為示例,運動椅或運動模擬器包括多個觸覺裝置,例如提供風效果的風扇。
作為示例,在示例性實施例中,可以從VOR設置測量攝影機的圖像穩定角度偏移。圖8示出了兩個類型的VOR設置:一個是移動鏡頭,另一個是移動感測器。攝影機的陀螺儀感測器810、820分別感測橫搖和縱搖運動,並將信號發送給攝影機的光學影像穩定(OIS)驅動器830、840,以控制x軸音圈馬達驅動器(VCM)驅動器850和y軸VCM驅動器860。x軸VCM驅動器850控制鏡頭在x方向上的傾斜或感測器在x方向上的偏移以產生α偏移。y軸VCM驅動器控制鏡頭860在y方向上的傾斜或感測器在y方向上的偏移以產生γ偏移。攝影機的光學影像穩定(OIS)驅動器830、840與攝影機的圖像感測器910耦合。馬達870、880、890、900分別用於鏡頭在x方向上的傾斜、感測器在x方向上的偏移、鏡頭在y方向上的傾斜、感測器在y方向上的偏移。馬達870、880、890、900與圖像感測器910耦合。在示例性實施例中,圖像感測器910檢測並傳送構成圖像的信息,並將圖像穩定信號發送到圖像穩定模組。
作為示例,當攝影機在示例性實施例中引起運動時,通過感測器監視攝影機的速度。感測器的輸出信號被發送到感測器處理電路,並在其中轉換成用於光學系統的目標驅動位置信號。另一方面,光學系統的位置由位置檢測元件監視。由位置檢測元件監視的位置信號和目標驅動位置信號被發送給控制單元,控制單元將控制信號發送給驅動器電路,從而減少這兩個信號的差異。響應於控制信號,驅動器電路驅動用於驅動光學系統的致動器,以允許即使攝影機處於縱搖運動也保持恆定的圖像位置。作為示例,示例性實施例中的圖像穩定信號是目標驅動位置信號。
作為示例,為了校正攝影機運動,在示例性實施例中,可以使用假定為靜止的視頻幀中的參考對象來確定明顯的攝影機運動信號。在示例性實施例中,然後可以從感興趣結構的位移信號中減去這種明顯的攝影機運動信號,並將其轉換為圖像穩定信號。
作為示例,示例性實施例中的實時穩定振動圖像的方法包括:定位輸入視頻圖像的九個固定觀察塊(FOB),選擇一個固定觀察塊作為特徵塊(FB),利用塊匹配來查找特徵塊的運動向量,利用運動向量恢復由振動引起的輸入視頻圖像的偏移,並在顯示器上顯示恢復的輸入視頻圖像。示例性實施例中的圖像穩定信號對應於運動向量。
如本文所述,「運動椅」也可以是體感動態座椅或椅子。
顯然,本領域的技術人員可以對本發明實施例進行各種改動和變型而不脫離本發明實施例的精神和範圍。這樣,倘若本發明實施例的這些修改和變型屬於本發明申請專利範圍及其等同技術的範圍之內,則本發明也意圖包含這些改動和變型在內。

Claims (20)

  1. 一種在運動椅中模擬遙控運行工具的力反饋的系統,該系統包括:安裝在該運行工具上的多個攝影機,其中該攝影機記錄視頻,並產生圖像穩定信號;在該運行工具的圖像穩定模組,其中該圖像穩定模組檢測該圖像穩定信號;在該運行工具的視頻處理模組,其中該視頻處理模組整合由攝影機記錄的視頻和由該圖像穩定模組檢測的該圖像穩定信號,以產生穩定化的視頻,並將該穩定化的視頻轉換成視頻信號;在該運動椅的資訊分離器,其中該資訊分離器提取該圖像穩定信號;在該運動椅的運動處理單元,其中該運動處理單元基於從該資訊分離器提取的該圖像穩定信號計算該運行工具的六軸運動自由度;在該運動椅的控制單元,其中該控制單元控制運行工具的瞬時速度和瞬時加速度;在該運動椅的G力計算單元,其中該G力計算單元基於運行工具的質量、玩家的質量、控制單元中記錄的瞬時速度和瞬時加速度計算G力;和 在該運動椅的力反饋產生單元,其中該力反饋產生單元基於該運行工具的六軸運動自由度和由該G力計算單元計算的G力產生力反饋信號,其中基於力反饋信號在該運動椅中模擬力反饋。
  2. 如請求項1所述的在運動椅中模擬遙控運行工具的力反饋的系統,其中該多個攝影機包括前視攝影機和後視攝影機,其中該後視攝影機的設置並不與該前視攝影機和遙控運行工具的質心之間排列成一條直線,使得兩個攝影機都可以檢測不同軸的運動自由度。
  3. 如請求項1所述的在運動椅中模擬遙控運行工具的力反饋的系統,還包括:與在該運行工具的該圖像穩定模組和該視頻處理模組連接的發送器,該發送器通過網絡將由該圖像穩定模組檢測的圖像穩定信號和由該視頻處理模組轉換的視頻信號發送給該運動椅中的接收器。
  4. 如請求項3所述的在運動椅中模擬遙控運行工具的力反饋的系統,其中該接收器將該圖像穩定信號和該視頻信號發送給該信息分離器。
  5. 如請求項1所述的在運動椅中模擬遙控運行工具的力反饋的系統,其中該資訊分離器提取視頻信號和將視頻信號發送給在該運動椅中實施的顯示單元。
  6. 如請求項5所述的在運動椅中模擬遙控運行工具的力反饋的系統,其中該顯示單元是頭戴設備。
  7. 如請求項1所述的在運動椅中模擬遙控運行工具的力反饋的系統,其中該力反饋信號(
    Figure TW201944365A_C0001
    )由下式計算:
    Figure TW201944365A_C0002
    其中
    Figure TW201944365A_C0003
    表示是G力,
    Figure TW201944365A_C0004
    表示運行工具的六軸運動自由度。
  8. 如請求項1所述的在運動椅中模擬遙控運行工具的力反饋的系統,其中該圖像穩定模組檢測指示圖像穩定角度偏移的圖像穩定信號,攝影機的圖像穩定角度偏移從前庭動眼反射設置測量。
  9. 一種在運動椅中模擬遙控運行工具的力反饋的方法,包括:由安裝在該運行工具上的多個攝影機記錄視頻;由圖像穩定模組檢測從多個攝影機產生的圖像穩定信號;由運動處理單元基於圖像穩定信號計算該運行工具的六軸運動自由度;由在該運動椅的控制單元控制該運行工具的瞬時速度和瞬時加速度;由G力計算單元基於該運行工具的質量、玩家的質量、該控制單元中記錄的瞬時速度和瞬時加速度計算G力;由在該運動椅的力反饋產生單元基於該運行工具的六軸運動自由度和由G力計算單元計算的G力產生力反饋信號;和基於該力反饋信號在該運動椅中模擬力反饋。
  10. 如請求項9所述的在運動椅中模擬遙控運行工具的力反饋的方法,其中該多個攝影機包括前視攝影機和後視攝影機,其中該後視攝影機的設置並不與該前視攝影機和該遙控運行工具的質心之間排 列成一條直線,使得兩個攝影機都可以檢測不同軸的運動自由度。
  11. 如請求項9所述的在運動椅中模擬遙控運行工具的力反饋的方法,還包括:由在該運行工具的視頻處理模組整合由多個攝影機記錄的視頻和由在該運行工具的圖像穩定模組檢測的圖像穩定信號,以產生穩定化的視頻;由該視頻處理模組將該穩定化的視頻轉換成視頻信號;和由與該運行工具中的視頻處理模組連接的發送器通過網絡將視頻信號發送給該運動椅中的接收器。
  12. 如請求項9所述的在運動椅中模擬遙控運行工具的力反饋的方法,還包括:由與該圖像穩定模組連接的發送器通過網絡將由在該運行工具的圖像穩定模組檢測的圖像穩定信號發送給該運動椅中的接收器。
  13. 如請求項9所述的在運動椅中模擬遙控運行工具的力反饋的方法,還包括:將該圖像穩定信號和該視頻信號從該運動椅中的接收器發送到在該運動椅的資訊分離器,其中該視頻信號從穩定化的視頻轉換,該穩定化的視頻是由攝影機記錄的視頻和從攝影機產生的圖像穩定信號的整合;由該資訊分離器提取該圖像穩定信號並將該圖像穩定信號發送給該運動處理單元;和 由該資訊分離器提取該視頻信號並將該視頻信號發送給該運動椅中的顯示單元。
  14. 如請求項13所述的在運動椅中模擬遙控運行工具的力反饋的方法,其中該顯示單元是頭戴設備。
  15. 如請求項9所述的在運動椅中模擬遙控運行工具的力反饋的方法,其中該力反饋信號(
    Figure TW201944365A_C0005
    )由下式計算:
    Figure TW201944365A_C0006
    其中
    Figure TW201944365A_C0007
    表示是G力,
    Figure TW201944365A_C0008
    表示該運行工具的六軸運動自由度。
  16. 一種模擬遙控運行工具的力反饋的運動椅,包括:運動處理單元,其中該運動處理單元基於從安裝在運行工具上的多個攝影機產生的圖像穩定信號計算該運行工具的六軸運動自由度;控制單元,其中該控制單元控制該運行工具的瞬時速度和瞬時加速度;G力計算單元,其中該G力計算單元基於該運行工具的質量、玩家的質量、控制單元中記錄的瞬時速度和瞬時加速度計算G力;和力反饋產生單元,其中該力反饋產生單元基於該運行工具的六軸運動自由度和由該G力計算單元計算的G力產生力反饋信號,其中基於該力反饋信號在該運動椅中模擬力反饋。
  17. 如請求項16所述的模擬遙控運行工具的力反饋的運動椅,還包括: 在該運動椅的接收器,該接收器從網絡接收圖像穩定信號和視頻信號,其中該視頻信號在視頻處理模組中從穩定化的視頻轉換,該穩定化的視頻在該視頻處理模組中產生,該視頻處理模組整合由攝影機記錄的視頻和由圖像穩定模組檢測的圖像穩定信號。
  18. 如請求項17所述的模擬遙控運行工具的力反饋的運動椅,還包括:在該運動椅的資訊分離器,其中該資訊分離器從該接收器接收圖像穩定信號和視頻信號,該資訊分離器提取該視頻信號並將該視頻信號發送給該運動椅中的顯示單元,該資訊分離器提取該圖像穩定信號和將該圖像穩定信號發送給該運動處理單元。
  19. 如請求項16所述的模擬遙控運行工具的力反饋的運動椅,其中該多個攝影機包括前視攝影機和後視攝影機,其中該後視攝影機的設置並不與該前視攝影機和遙控運行工具的質心之間排列成一條直線,使得兩個攝影機都可以檢測不同軸的運動自由度。
  20. 如請求項16所述的模擬遙控運行工具的力反饋的運動椅,其中該力反饋信號(
    Figure TW201944365A_C0009
    )由下式計算:
    Figure TW201944365A_C0010
    其中
    Figure TW201944365A_C0011
    表示是G力,
    Figure TW201944365A_C0012
    表示運行工具的六軸運動自由度。
TW108113151A 2018-04-16 2019-04-16 增強第一身視角體驗的方法 TW201944365A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201862657946P 2018-04-16 2018-04-16
US62/657,946 2018-04-16

Publications (1)

Publication Number Publication Date
TW201944365A true TW201944365A (zh) 2019-11-16

Family

ID=68238793

Family Applications (1)

Application Number Title Priority Date Filing Date
TW108113151A TW201944365A (zh) 2018-04-16 2019-04-16 增強第一身視角體驗的方法

Country Status (3)

Country Link
US (1) US11107364B2 (zh)
TW (1) TW201944365A (zh)
WO (1) WO2019201224A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11808400B2 (en) 2021-07-20 2023-11-07 Robert Pofeng Liao Compact first person view (FPV) pan and tilt camera mount

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8827709B1 (en) * 2008-05-08 2014-09-09 ACME Worldwide Enterprises, Inc. Dynamic motion seat
JP2022003358A (ja) * 2020-06-23 2022-01-11 パイオニア株式会社 振動信号生成装置、振動信号生成方法、プログラム及び記憶媒体
ES2987888T3 (es) * 2021-02-25 2024-11-18 DAYHOLI GmbH Procedimiento y sistema para visualizar una realidad virtual

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3059458B2 (ja) 1990-04-24 2000-07-04 ヤンマーディーゼル株式会社 農用トラクタ
US7511610B2 (en) 2006-03-24 2009-03-31 Nissan Technical Center North America, Inc. Multiple passenger vehicle seat belt notification system with force feedback
CN101335880A (zh) 2008-08-01 2008-12-31 上海铁路通信工厂 车载视频监控系统及其监控方法
CN102087416A (zh) 2010-11-17 2011-06-08 蔡庸成 4d交互系统
EP2602588A1 (en) * 2011-12-06 2013-06-12 Hexagon Technology Center GmbH Position and Orientation Determination in 6-DOF
CN103854533B (zh) * 2012-12-06 2017-02-15 孙波 驾驶模拟方法及系统
CN103405912A (zh) 2013-08-30 2013-11-27 深圳市凌智杰森传媒有限公司 一种三维仿真游戏场景体验系统
CN103488291B (zh) 2013-09-09 2017-05-24 北京诺亦腾科技有限公司 一种基于运动捕捉的浸入式虚拟现实系统
CN104723952A (zh) 2013-12-20 2015-06-24 青岛蓝图文化传播有限公司市南分公司 一种驾驶状态检测方法
CN103945184B (zh) 2014-04-15 2017-07-18 广东好帮手电子科技股份有限公司 一种车载视频的处理方法和装置
US9335764B2 (en) * 2014-05-27 2016-05-10 Recreational Drone Event Systems, Llc Virtual and augmented reality cockpit and operational control systems
CN104225912B (zh) 2014-09-03 2017-06-13 杨毅 一种具有多种体感效果的游戏机
CN106999768A (zh) * 2014-11-16 2017-08-01 盖·芬夫特 用于提供替代现实搭乘体验的系统和方法
CN105344101B (zh) 2015-11-19 2016-08-31 广州玖的数码科技有限公司 一种画面与机械运动同步的模拟赛车装置及模拟方法
KR101866042B1 (ko) 2016-07-25 2018-06-08 송영우 후진주행 보조시스템
DE102016218079B3 (de) 2016-09-21 2017-12-21 Volkswagen Aktiengesellschaft Kamera für ein Assistenzsystem eines Fahrzeugs, Assistenzsystem und Fahrzeug
CN107134194A (zh) * 2017-05-18 2017-09-05 河北中科恒运软件科技股份有限公司 沉浸式车辆模拟器
US20190113975A1 (en) * 2017-10-17 2019-04-18 Tyler Christensen Remote control arena
US10572016B2 (en) * 2018-03-06 2020-02-25 Microsoft Technology Licensing, Llc Spatialized haptic device force feedback

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11808400B2 (en) 2021-07-20 2023-11-07 Robert Pofeng Liao Compact first person view (FPV) pan and tilt camera mount

Also Published As

Publication number Publication date
US20200126443A1 (en) 2020-04-23
WO2019201224A1 (en) 2019-10-24
US11107364B2 (en) 2021-08-31

Similar Documents

Publication Publication Date Title
EP3794427B1 (en) Dynamic graphics rendering based on predicted saccade landing point
US9996975B2 (en) Interactive multi-rider virtual reality ride system
KR102732202B1 (ko) 레이싱 시뮬레이션
JP6540691B2 (ja) 頭部位置検出装置及び頭部位置検出方法、画像処理装置及び画像処理方法、表示装置、並びにコンピューター・プログラム
US10181212B2 (en) Method and system for reducing motion sickness in virtual reality ride systems
CN109478345B (zh) 模拟系统、处理方法及信息存储介质
US20170108922A1 (en) Image generation device, image generation method and non-transitory recording medium storing image generation program
US11107364B2 (en) Method to enhance first-person-view experience
US10223064B2 (en) Method for providing virtual space, program and apparatus therefor
US20180357817A1 (en) Information processing method, program, and computer
WO2018225187A1 (ja) 情報処理システム、情報処理装置、サーバ装置、画像提供方法および画像生成方法
US12272006B2 (en) Rotational navigation in a virtual environment with a visual reference
JP2018533317A (ja) 仮想現実映像伝送方法、再生方法、及びこれらを用いたプログラム
CN203899120U (zh) 真实感的遥控体验游戏系统
JP2017220224A (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実現させるためのプログラム、および仮想空間を提供するためのシステム
US11880502B2 (en) Information processing device, information processing method, and non-transitory computer readable storage medium storing an information processing program
JP5718992B2 (ja) 携帯端末を用いた運転シミュレーション装置及び運転シミュレーションプログラム
JP2000206862A (ja) 歩行感覚生成装置
KR20160099075A (ko) 영상 시뮬레이팅 시스템, 플랫폼 제어 장치 및 플랫폼 제어 방법
KR101881227B1 (ko) 무인 비행체를 이용한 비행 체험 방법 및 장치
CN116686022B (zh) 控制方法、装置、体感遥控器、控制系统和存储介质
WO2021014673A1 (ja) 映像表示制御装置、方法およびプログラム
WO2023286191A1 (ja) 情報処理装置および駆動データ生成方法
JP6177965B1 (ja) 仮想空間を提供するための方法、当該方法をコンピュータに実現させるためのプログラム、および仮想空間を提供するためのシステム
KR20160095663A (ko) 영상 시뮬레이팅 시스템, 플랫폼 제어 장치 및 플랫폼 제어 방법