TWI728512B - 連結球面座標至紋理座標之球面座標校正方法 - Google Patents
連結球面座標至紋理座標之球面座標校正方法 Download PDFInfo
- Publication number
- TWI728512B TWI728512B TW108137641A TW108137641A TWI728512B TW I728512 B TWI728512 B TW I728512B TW 108137641 A TW108137641 A TW 108137641A TW 108137641 A TW108137641 A TW 108137641A TW I728512 B TWI728512 B TW I728512B
- Authority
- TW
- Taiwan
- Prior art keywords
- current
- lens
- correction
- lens image
- texture coordinates
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G06T11/10—
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
- G06T3/047—Fisheye or wide-angle transformations
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Studio Devices (AREA)
Abstract
本發明揭露一種校正方法,用以連結球面座標至紋理座標,包含:安裝複數個燈及一旋轉設備,其中該些燈形成一水平的半圓弧且該旋轉設備位在其圓心;架設一個具N個鏡頭的相機於該旋轉設備上;透過該旋轉設備,導致該具N個鏡頭的相機繞著通過該水平的半圓弧的二端的一旋轉軸進行旋轉及捕捉不同旋轉角度的複數個鏡頭影像;以及,根據該些不同旋轉角度及該些鏡頭影像內複數個校正點的紋理座標,決定該些校正點的經度與緯度座標以建構該些球面座標及該些紋理座標的連結。其中,不同位置的該些燈分別代表不同的緯度及該些不同旋轉角度分別代表不同的經度;該具N個鏡頭的相機及該些燈的高度實質上相同。
Description
本發明係有關於全景成像,尤有關於一種連結球面座標至紋理座標之球面座標校正方法。
360度全景影像,又稱為全(full)環景影像、球面影像,是真實世界全景的視訊記錄,同時記錄了每一個方向的視野,且利用一全方向(omnidirectional)照相機或一組照相機(camera)來拍攝。一個360度全景影像涵蓋360度的水平視域(field of view,FOV)及180度的垂直視域。
等距長方視訊(equirectangular video)是一種使用於360度視訊的常見投影方式。等距長方投影的常見例子是一張標準的世界地圖,其將世界的球面表面映射到正交的坐標,亦即,等距長方投影將一個球面的地球的緯度及經度座標直接映射到網格(grid)的水平及垂直座標;在赤道上的影像扭曲(distortion)程度最小,而在南北極處的影像扭曲程度則無限大。二極點(即天頂(Zenith)、天底(Nadir))分別位在頂部及底部邊緣,而且被延伸為等距長方影像的全部寬度。
如第1A圖的例子所示,一個具六鏡頭的相機,係分別架設在一立方體架構11的六個表面上,以同時捕捉到一個具有360度視野,以產生六個鏡頭影像。為方便儲存及顯示於電腦螢幕上,一球面投影被映射到一等距長方全景影像,而該等距長方全景影像的外觀比(aspect ratio)是2:1、該等距長方全景影像的水平座標代表一方位角(azimuth angle)θ-π~+π,以及該等距長方全景影像的垂直座標代表一仰角(elevation angle)φ-π/2~+π/2。第1B圖顯示一等距長方全景影像,係來自於該具六鏡頭的照相機輸出的六個鏡頭影像的等距長方投影。第2A圖顯示一個三角形網格,係用以模型化一個球的表面。利用第2A圖的三角形網格來模型化球12的表面,而透過對第2A圖的三角形網格進行一等距長方投影而產生第2B圖的多邊形網格。
球面座標校正用係用來在經度(longitude)與緯度(latitude)座標(或等距長方座標)及紋理座標間,建構一映射關係。在一習知球面座標校正架構中,如第1A圖所示,一個具六鏡頭的相機,係分別架設在一立方體架構11的六個表面上,且該相機位在球面12的中心點;在半徑等於2公尺(r=2)的球面12之表面上劃出許多圓圈,當作經度及緯度,其多個交叉點被標記為多個校正點;該具六鏡頭的相機捕捉該些校正點,且該些校正點於該些鏡頭影像上的位置為已知。然後,因為該些校正點和該些鏡頭座標的視角
(view angle)被連結,故可建立該等距長方全景影像及該些鏡頭影像之間的映射關係。
然而,上述習知球面座標校正架構有下列缺點。第一,建造該標記有該些校正點的球面12的成本很高;第二,相機的支架會擋到影像捕捉;第三,該六鏡頭很難架在球面12的中心點;第四,標記在球面12表面上的該些校正點是固定的,故很難改變該些校正點的位置;第五,不可能調整球面12的半徑。因此,業界亟需一種連結球面座標至紋理座標之校正方法,以在該等距長方全景影像及該些鏡頭影像之間建立一正確的映射關係,而且建造成本低廉。
有鑒於上述問題,本發明的目的之一係提供一種校正方法,用以連結球面座標至紋理座標,該方法的建造成本低、可運作、尺寸可縮放且容易安裝。
根據本發明之一實施例,提供一種校正方法,用以連結球面座標至紋理座標,該校正方法包含:安裝複數個燈及一旋轉設備,其中該些燈形成一水平的半圓弧且該旋轉設備位在其圓心;架設一個具N個鏡頭的相機於該旋轉設備上;透過該旋轉設備,導致該具N個鏡頭的相機繞著通過該水平的半圓弧的二端的一旋轉軸進行旋轉及捕捉不同旋轉角度的複數個鏡頭影像;以及,根據該些不同旋轉
角度及該些鏡頭影像內複數個校正點的紋理座標,決定該些校正點的經度與緯度座標以建構該些球面座標及該些紋理座標的連結。其中,各該鏡頭影像內的該些校正點係與顯示在各該鏡頭影像內的該些燈有關;不同位置的該些燈分別代表不同的緯度及該些不同旋轉角度分別代表不同的經度;該具N個鏡頭的相機及該些燈的高度實質上相同。
茲配合下列圖示、實施例之詳細說明及申請專利範圍,將上述及本發明之其他目的與優點詳述於後。。
11‧‧‧立方體架構
12‧‧‧球面
41‧‧‧燈
42‧‧‧水平的半圓弧
43‧‧‧旋轉軸
300‧‧‧測試設備
310‧‧‧可程式化邏輯控制器
320‧‧‧馬達驅動器
330‧‧‧轉動式編碼器
340‧‧‧步進馬達
350‧‧‧傳動系統
351、353‧‧‧皮帶輪
352‧‧‧皮帶
354‧‧‧具軸承的軸部支架
355‧‧‧傳動軸
356‧‧‧相機載具
370‧‧‧三百六十度相機
380‧‧‧個人電腦
390‧‧‧外殼體
第1A圖顯示一立方體架構與一球面之間的關係。
第1B圖顯示一等距長方全景影像,係源自於六個工作面之相機影像(頂面、底面、左面、右面、正面、背面)的等距長方投影。
第2A圖顯示一個三角形網格,係用以模型化一個球的表面。
第2B圖顯示一個多邊形網格,係用以組成/模型化該預設等距長方全景影像。
第3A圖顯示本發明測試設備的示意圖。
第3B圖顯示第3A圖之測試設備的側面圖。
第4A及4B圖分別顯示本發明用以進行球面座標校正之該三百六十度相機370及該些燈41之配置的俯視圖及部分側
面圖。
第4C圖顯示十八個白燈41形成一水平的半圓弧42的例子。
第4D圖顯示十八個彩色燈41形成一水平的半圓弧42的例子。
第5A-5C圖分別顯示具有二鏡頭、三鏡頭及六鏡頭的三百六十度相機370的示意圖。
第6A圖顯示二個圖模擬二個鏡頭影像,該二個鏡頭影像是由一個具六鏡頭的三百六十度相機370的正面鏡頭分別於經度0度及經度40度所捕捉到的影像。
第6B圖顯示二個圖模擬二個鏡頭影像,該二個鏡頭影像是由一個具三鏡頭的三百六十度相機370的工作面0的鏡頭分別於經度0度及經度40度所捕捉到的影像。
第7圖顯示本發明決定一鏡頭影像中校正點的紋理座標及顏色之方法的流程圖。
第8A圖係根據本發明一實施例,顯示利用一具六鏡頭的三百六十度的第一相機產生六個對照表的方法流程圖。
第8B-8C圖係根據本發明一實施例,顯示利用一第二具六鏡頭的三百六十度相機之球面座標校正方法之流程圖。
第9A圖係根據本發明另一實施例,顯示利用一具六鏡頭的三百六十度相機及發出彩色光的燈之球面座標校正方法之流程圖。該球面座標校正方法係用來連結球面座標至
紋理座標之球面座標。
第9B圖係根據第6A圖的右側圖(正面鏡頭、經度40度),顯示如何選擇一起始點及一向量以具體指定一條直線的例子。
在通篇說明書及後續的請求項當中所提及的「一」及「該」等單數形式的用語,都同時包含單數及複數的涵義,除非本說明書中另有特別指明。
本發明之連結球面座標至紋理座標之球面座標校正方法,係在經度與緯度座標(或等距長方座標)及紋理座標間,建立一正確的映射關係。本發明特色之一是將複數個燈排成一水平的半圓弧,並有一個旋轉的、具多鏡頭的相機位在該水平的半圓弧的圓心,以捕捉不同旋轉角度的燈視野。在通篇說明書及後續的請求項當中所提及的相關用語定義如下,除非本說明書中另有特別指明。「步進角度(stepping angle)」一詞指的是:該具多鏡頭的相機,繞著一旋轉軸每旋轉一次的角度,且該旋轉軸穿過該水平的半圓弧的圓心及二端。「旋轉角度(spin angle)」一詞指的是:相對於一參考方向/角度,該具多鏡頭的相機,繞著一旋轉軸所旋轉的角度。換言之,該旋轉角度是該些步進角度從一開始(即該參考方向/角度)的累積或總和。該些燈及該具多鏡頭的相機具相同的高度。本發明另一特色是該些燈的
數量及該步進角度是可調整的。
第3A圖顯示本發明測試設備的示意圖。參考第3A圖,本發明測試設備300包含一可程式化邏輯控制器(programmable logic controller,PLC)310、一馬達驅動器(drive)320、一轉動式編碼器(rotary encoder)330、一步進馬達(stepper motor)340、一傳動(transmission)系統350、一個三百六十度相機370、一台個人電腦(PC)380及一外殼體(housing)390(請見第3B圖)。該PLC 310係以一個包含一記憶體晶片及積體電路(圖未示)的處理器來實施。PC 380是透過一串列介面382(如RS232或USB),來啟動該PLC 310及上傳資料至該處理器。該記憶體晶片儲存一處理器可執行程式,當該處理器執行該處理器可執行程式時,該處理器被組態(configured)以根據一數位輸出訊號d3,在一段預設時間內(如5秒),輸出一步進控制訊號C1及一方向控制訊號C2。根據該步進控制訊號C1及該方向控制訊號C2,該馬達驅動器320輸出一步進驅動訊號d1及一方向驅動訊號d2以驅動該步進馬達340。根據該步進驅動訊號d1及該方向驅動訊號d2,該步進馬達340透過該傳動系統350,致使該相機370旋轉。該轉動式編碼器330將該步進馬達340內一軸部(shaft)的角度位置或運動轉換為該數位輸出訊號d3。
第3B圖顯示第3A圖之測試設備的側面圖。該傳動系統350包含二條皮帶輪(pulley)351、353、一條皮帶352、
一個具軸承(bearing)的軸部支架354、一傳動軸(shaft)355及一相機載具(carrier)356。參考第3B圖,請注意,該PLC 310、該馬達驅動器320、該轉動式編碼器330、該步進馬達340及該皮帶輪351係設置於該外殼體390的內部;且該PC 380(圖未示)係設配置於該外殼體390的外部,透過該串列介面382(圖未示)連接至該PLC 310。皮帶輪機構351~353利用產生的旋轉運動,來驅動該傳動軸355,進而導致該相機載具356及該相機370旋轉/轉動。
第4A及4B圖分別顯示本發明用以進行球面座標校正之該三百六十度相機370及該些燈41之配置的俯視圖及部分側面圖。第4A及4B圖中該三百六十度相機370及該些燈41之配置相當於一個”平躺的(lying down)”且具有一經線之虛擬球面,且該經線穿過該些燈41並與該三百六十度相機370形成一水平的平面。讓該虛擬球面”平躺”的原因是,相較於一站立的虛擬球面,平躺的虛擬球面較容易將該些燈41與該三百六十度相機370安排在相同高度。
參考第4A及4B圖,在一完全黑暗的房間內,將八個燈41排成一水平的半圓弧42,並且將該三百六十度相機370設在一個圓的圓心45,且該半圓弧42是該圓的一部分。該三百六十度相機370具有多個鏡頭,且各鏡頭朝向不同方向,以同時捕捉三百六十度的視野。該些燈41及該三百六十度相機370的高度實質上相同。理想情況下,從0度
的燈41發出的光線水平地通過該相機370的多個鏡頭之一,也通過該圓心45;此外,從-90度的燈41發出的光線水平地通過該相機370的主軸(axle)中心。「圓心角(central angle)」一詞指的是:具有一頂點位在該圓心45上,以及角的兩側通過位在該半圓弧42上二個相鄰的燈41。在第4A圖的例子中,各圓心角等於22.5度且其半徑是可縮放的。半徑大小包含,但不受限於,1公尺、3公尺及5公尺。位在南極的-90度的燈41是非必須的,可被移除以避免被該傳動系統350擋住,因此,在第4A圖中,位在南極的-90度的燈41以虛線圓圈標示。請注意,在第4A圖中形成該水平的半圓弧42的八個燈41只是一示例,而非本發明之限制,應理解的是可用其他數量的燈41來形成該水平的半圓弧42,且其圓心角會隨之不同。在第4C及4D圖的例子中,總共有十八個燈41來形成該水平的半圓弧42(圖未示),亦即其圓心角等於10度。一旋轉軸43通過該水平的半圓弧42的二端以形成封閉的半圓。為清楚及方便描述,以下的例子及實施例的說明皆假設以十八個燈41來形成該水平的半圓弧42。
該三百六十度相機370配置有多個鏡頭。第5A-5C圖分別顯示具有二鏡頭、三鏡頭及六鏡頭的三百六十度相機的示意圖。十八個燈41代表該虛擬球面的十八個不同緯度。在一影像擷取(capture)階段,十八個燈41被一直開啟(on),而該三百六十度相機370以單一方向(順時針或逆時
針)繞著該旋轉軸43旋轉三百六十度。該三百六十度相機370繞著該旋轉軸43旋轉是用來產生該虛擬球面的不同經度(或旋轉角度)。一實施例中,該具六鏡頭的三百六十度相機370及該相機載具356固定在該傳動軸355上,使得該具六鏡頭的三百六十度相機370會隨著該傳動軸355旋轉而旋轉;每次當該傳動軸355旋轉10度(亦即步進角度)時便停止,以便該具六鏡頭的三百六十度相機370捕捉六個鏡頭影像;因此,該具六鏡頭的三百六十度相機370總共捕捉該些鏡頭影像三十六次。取決於不同需求,可調整該步進角度的大小。第6A圖顯示二個圖模擬二個鏡頭影像,該二個鏡頭影像是由一個具六鏡頭的三百六十度相機370的正面鏡頭分別於經度0度及經度40度所捕捉到的影像。第6B圖顯示二個圖模擬二個鏡頭影像,該二個鏡頭影像是由一個具三鏡頭的三百六十度相機370的工作面0的鏡頭分別於經度0度及經度40度所捕捉到的影像。參考第6A-6B圖,請注意,顯示於該些鏡頭影像中的燈41形成一直線或一曲線;取決於該三百六十度相機370的鏡頭之視域、鏡頭數目、該旋轉角度以及該三百六十度相機370的對應鏡頭架設於該相機載具356上的架設角度,顯示於該些鏡頭影像中的燈41的數目會有所不同。請再注意,對於每一個旋轉角度,必定至少有一張鏡頭影像沒有顯示任何燈,亦即,完全黑暗。
第7圖顯示本發明決定一鏡頭影像中校正點的
紋理座標及顏色之方法的流程圖。以下,請參考第6A-6B及7圖,說明顯示本發明決定一鏡頭影像中校正點的紋理座標及顏色之方法。
步驟S702:從一鏡頭影像中,選擇照度值(illuminance value)大於一臨界值的像素當作光像素(light pixels)。本說明書中,「光像素」一詞指的是:照度值大於一臨界值,例如80,的像素。照度值指的是YUV空間中的Y分量,或是RGB空間的RGB三分量中,強度(intensity)最強的分量。
步驟S704:將多個鄰近光像素聚集在一起,以形成多個光像素群。
步驟S706:從該些光像素群中,挑出具一預設尺寸及一預設形狀的光像素群(亦即合格群),並將該些合格群視為光點或校正點(對應該些燈41)。
步驟S708:透過計算該鏡頭影像中一校正點對應的合格群中光像素的平均紋理座標,來得到該校正點的紋理座標。
步驟S710:透過計算該鏡頭影像中該校正點對應的合格群中光像素的平均顏色,來得到該校正點的顏色。例如,在RGB空間中,要得到一校正點的顏色,係透過計算一對應的合格群中光像素的RGB分量的平均強度。如果有使用對照表以進行校對(將於後面說明),就無須進行
本步驟。由於本步驟非必須,因此於第7圖中以虛線表示。
步驟S712:決定是否已處理完該鏡頭影像中所有的校正點。若否,跳到步驟S708以處理下一個校正點,否則,結束本流程。
在執行完上述決定一鏡頭影像中校正點的紋理座標及顏色之方法後,就可得到該鏡頭影像中所有校正點的紋理座標。另外,因為一個具六鏡頭的三百六十度相機370每一次捕捉六個鏡頭影像且該六個鏡頭影像對應一特定的旋轉角度,故該六個鏡頭影像中的該些校正點的經度等於該特定的旋轉角度。第8B-8C及9A圖的方法是各鏡頭影像中的校正點取得緯度的解法。
第8A-8C圖中本發明校正方法分成一離線階段及一連線階段,且在該離線階段必須產生一對照表。第8A圖係根據本發明一實施例,顯示利用一具六鏡頭的三百六十度的第一相機產生六個對照表的方法流程圖(即離線階段)。
步驟S802:利用一個具六鏡頭的三百六十度的第一相機進行一影像擷取階段,以得到各鏡頭的複數個第一鏡頭影像。請注意,在進行該影像擷取階段之前,該具六鏡頭的三百六十度的第一相機已被架設在該相機載具356上。一實施例中,在該影像擷取階段的整個期間,該些燈41永遠開啟(on),且該具六鏡頭的三百六十度的第一相機
370每次均以同一方向(如順時針方向)繞著旋轉軸43旋轉10度(即步進角度θ1)後停下來,以該六鏡頭擷取六個第一鏡頭影像。因此,該具六鏡頭的三百六十度的第一相機370共擷取三十六次第一鏡頭影像,總共產生36*6個第一鏡頭影像。
步驟S804:執行第7圖之決定一鏡頭影像中校正點的紋理座標及顏色之方法,以得到該第一鏡頭影像中所有校正點的紋理座標。
步驟S806:根據其旋轉角度,決定該具六鏡頭的三百六十度的第一相機370之一目前鏡頭(頂面、底面、左面、右面、正面、或背面)所擷取之該第一鏡頭影像中該些校正點之一經度。該第一鏡頭影像係有關於一旋轉角度且該第一鏡頭影像中該些校正點之一經度等於該旋轉角度。
步驟S808:利用任何已知方式,根據該些燈41的不同位置,分別指定複數個不同緯度給該第一鏡頭影像中該些校正點。舉例而言,一個人可根據該些燈41在半圓弧42上的不同位置來分辨出複數個不同緯度,再分別指定該些不同緯度給該第一鏡頭影像中該些校正點,換言之,進行人工分辨。
步驟S810:決定是否已處理完該目前鏡頭的所有第一鏡頭影像。若否,跳到步驟S804以處理下一個第一
鏡頭影像,否則,表示已完成該目前鏡頭之一對照表並跳到步驟S812。
步驟S812:決定是否已處理完所有鏡頭。若否,跳到步驟S804以處理下一個鏡頭,否則,表示已完成六個鏡頭之六個對照表且結束本流程。
上述對照表是用來在各該六個鏡頭的各該36*6個第一鏡頭影像中該些校正點的經度與緯度座標及紋理座標間,建構真實的點映射關係。上述對照表是該六個鏡頭之一的複數個點對應之列表/集合。換言之,因為該具六鏡頭的三百六十度的第一相機370有六個鏡頭,故共有六個對照表。表一顯示該具六鏡頭的三百六十度的第一相機370中”正面”鏡頭的對照表的一示例。
在表一中,u及v表示一鏡頭影像中一校正點的紋理座標,係相對於該鏡頭影像/紋理座標中的位置(0,0)。請注意,因為步進角度等於10度,對於”正面”鏡頭而言,在表一中共有三十六個切片對應(slice correspondence),範圍從經度0度到經度350度。由於資料量很大,為求簡潔,表一只顯示其中四個切片對應,即經度0度、經度10度、經度340度及經度350度,而省略其他經度的切片對應。各切片對應係對應至不同經度,包含複數個點對應(point correspondence)。各點對應定義一對應的校正點的經度與緯度座標及紋理座標。例如,表一的第一個切片對應中的第一個點對應定義了”正面”鏡頭的第一個校正點的經度與緯度座標(0,70)及紋理座標(117,61)之間的真實點映射;經度0度的切片對應中有十五個點對應及經度340度的切片對應中有六個點對應。
在該連線階段,係進行最少操作以得到該些校正點的緯度座標。第8B-8C圖係根據本發明一實施例,顯示利用一第二具六鏡頭的三百六十度相機之球面座標校正方
法之流程圖(即連線階段)。該球面座標校正方法係用來連結球面座標至紋理座標之球面座標。以下,請參考第8B-8C圖並假設步進角度等於10度,說明顯示本發明球面座標校正方法。
步驟S821:利用一個具六鏡頭的三百六十度的第二相機進行一影像擷取階段,以得到各鏡頭的複數個第二鏡頭影像。請注意,在進行該影像擷取階段之前,該具六鏡頭的三百六十度的第二相機(不同於第8A圖中的該具六鏡頭的三百六十度的第一相機)已被架設在該相機載具356上。一實施例中,在進行該影像擷取階段的整個期間,該些燈41永遠開啟(on),且該具六鏡頭的三百六十度的第二相機370每一次均以同一方向(如順時針方向)繞著該旋轉軸43旋轉10度(即步進角度θ2)後停下來,以該六鏡頭擷取六個第二鏡頭影像。因此,該具六鏡頭的三百六十度的第二相機共擷取三十六次第二鏡頭影像,總共產生36*6個第二鏡頭影像。請注意,θ2可以等於θ1或是θ1的倍數(θ1係使用於第8A圖之產生六個對照表的方法中)。
步驟S822:執行第7圖的方法(決定一鏡頭影像中校正點的紋理座標之方法),來得到一第二鏡頭影像中該些校正點的紋理座標。
步驟S823:根據其旋轉角度,決定該具六鏡頭的三百六十度的第二相機370之一目前鏡頭(頂面、底面、
左面、右面、正面、或背面)所擷取之該第二鏡頭影像中該些校正點之一經度。該第二鏡頭影像係有關於一旋轉角度且該第二鏡頭影像中該些校正點之一經度等於該旋轉角度。
步驟S824:根據該具六鏡頭的三百六十度的第二相機370之該目前鏡頭所擷取之該第二鏡頭影像中一校正點之經度與紋理座標,搜尋與該目前鏡頭有關之對照表中最接近的紋理座標,以得到一個最匹配之點對應的緯度。例如,假設位在”正面”第二鏡頭影像之校正點P0之經度為0與紋理座標(120,60),在搜尋過與該”正面”鏡頭有關之對照表(如表一)中經度0度的切片對應以找尋最接近的紋理座標之後,發現對照表(表一)中的具紋理座標(117,61)的第一個點對應最匹配。
步驟S826:指定最匹配的點對應的緯度給該校正點。就步驟S824的例子而言,由於表一中最匹配的點對應具紋理座標(117,61)、經度0度及緯度70度,故指定緯度70度給該”正面”第二鏡頭影像之校正點P0。
步驟S828:決定是否已處理完該第二鏡頭影像的所有校正點。若否,跳到步驟S824以處理下一個校正點,否則,跳到步驟S830。
步驟S830:對該第二鏡頭影像的多數個現有校正點的經度與緯度座標及紋理座標,進行內插(interpolation)
或/及外推(extrapolation)處理,以得到額外校正點的經度與緯度座標及紋理座標。由於本步驟非必須,故在第8C圖中以虛線顯示。
步驟S832:決定是否已處理完該目前鏡頭的所有第二鏡頭影像。若否,跳到步驟S822以處理下一個第二鏡頭影像,否則,跳到步驟S834。
步驟S834:決定是否已處理完所有鏡頭。若否,跳到步驟S822以處理下一個鏡頭,否則,結束本流程。
第9A圖係根據本發明另一實施例,顯示利用一具六鏡頭的三百六十度相機及多個彩色燈之球面座標校正方法之流程圖。該球面座標校正方法係用來連結球面座標至紋理座標之球面座標。以下,請參考第9A圖並假設步進角度等於10度且該些燈41發出不同顏色的光,說明顯示本發明球面座標校正方法。
步驟S902:利用一具六鏡頭的三百六十度的相機進行一影像擷取階段,以得到各鏡頭的複數個鏡頭影像。一實施例中,在進行該影像擷取階段的整個期間,該些燈41永遠開啟(on),且該具六鏡頭的三百六十度的相機370每次均以單一方向(如順時針方向)繞著旋轉軸43旋轉10度(即步進角度θ2)後停下來,以該六鏡頭擷取六個鏡頭影像。因此,該具六鏡頭的三百六十度的相機共擷取三十六
次鏡頭影像,總共產生36*6個鏡頭影像。
步驟S904:執行第7圖的決定一鏡頭影像中校正點的紋理座標及顏色之方法。本步驟結束時,可得到該鏡頭影像中該些校正點的紋理座標(u,v)及顏色。
步驟S905:根據其旋轉角度,決定該鏡頭影像中該些校正點之一經度。該鏡頭影像係有關於一旋轉角度且該鏡頭影像中該些校正點之一經度等於該旋轉角度。
步驟S906:選擇一起始點及一向量以具體指定該鏡頭影像內的一條直線。以第6A圖中右側圖(正面鏡頭、經度40度)為例,如第9B圖所示,首先,選擇最左邊的校正點A作為一起始點,且位在一直線L上的起始點A具有一向量,之後選擇一向量係平行於該直線L。因此,該直線L的向量方程式等於,其中表示該直線L上的任何點且λ可以是任何數字。請注意,選擇該校正點A當作起始點僅是一示例,而非本發明之限制。理論上,可選擇該鏡頭影像中的任一點當作起始點,然而,較佳地,是選擇鄰近一校正點線/曲線中任二端的一點當作起始點。
步驟S908:將該些校正點投影至該直線L且將該直線L上投影點的顏色視為一色彩型(color pattern)。在第9B圖的例子中,將複數個校正點(b~h)投影至該直線L後,會在該直線L上產生複數個投影點(b’~h’);假設投影點(從b’到h’)的顏色依序為WRWWWGW,其中W表示白光、R表
示紅光、G表示綠光;則"WRWWWGW”就被視為該色彩型。
步驟S910:根據一燈顏色次序,搜尋一匹配的色彩型。在第4D圖的例子中,共有十八個燈,而從-90°到+90°(或依緯度的遞增順序),該些燈的顏色依序(即該燈顏色次序)為”RBWRWWRWWWGWGWWGWY”,其中B表示藍光及Y表示黃光。可輕易從上述燈顏色次序中,發現有匹配的色彩型"WRWWWGW”,因此可了解該匹配的色彩型的緯度範圍從-40°到+20°。萬一若沒有找到任何匹配,上述燈顏色次序就會以緯度的遞減順序再搜尋一次,看是否能找到匹配的色彩型。
步驟S912:指定匹配的色彩型的緯度給該鏡頭影像中的該些校正點。就步驟S910的例子而言,係指定該匹配的色彩型的緯度(範圍從-40°到+20°)給該鏡頭影像之該些校正點(b~h)。
步驟S914:對該鏡頭影像的多數個現有校正點的經度與緯度座標及紋理座標,進行內插或/及外推處理,以得到額外校正點的經度與緯度座標及紋理座標。由於本步驟非必須,故在第9A圖中以虛線顯示。
步驟S916:決定是否已處理完所有鏡頭影像。若否,跳到步驟S904以處理下一張鏡頭影像,否則,結束本流程。
該測試設備300只是一示例,而非本發明之限制,實際實施時,可使用任何其他機構或設備(只要能導致該三百六十度的相機370繞著該旋轉軸43旋轉且該旋轉軸43通過該水平的半圓弧42的二端),而此亦落入本發明之範圍。雖然上述實施例及例子係以三百六十度的相機為例做說明,應理解的是本發明不受限於此,而可普遍應用於廣角(wide-angle)相機、全景相機等等。
第7、8A-8C、9A圖揭露的實施例以及功能性操作可利用數位電子電路、具體化的電腦軟體或韌體、電腦硬體,包含揭露於說明書的結構及其等效結構、或者上述至少其一之組合等等,來實施。在第7、8A-8C、9A圖揭露的方法與邏輯流程可利用至少一部電腦執行至少一電腦程式的方式,來執行其功能。在第7、8A-8C、9A圖揭露的方法與邏輯流程可利用特殊目的邏輯電路來實施,例如:現場可程式閘陣列(FPGA)或特定應用積體電路(ASIC)等。適合執行該至少一電腦程式的電腦包含,但不限於,通用或特殊目的的微處理器,或任一型的中央處理器(CPU)。適合儲存電腦程式指令及資料的電腦可讀取媒體包含所有形式的非揮發性記憶體、媒體及記憶體裝置,包含,但不限於,半導體記憶體裝置,例如,可抹除可規劃唯讀記憶體(EPROM)、電子可抹除可規劃唯讀記憶體(EEPROM)以及快閃(flash)記憶體裝置;磁碟,例如,內部硬碟或可移除硬
碟;磁光碟(magneto-optical disk),例如,CD-ROM或DVD-ROM。
上述僅為本發明之較佳實施例而已,而並非用以限定本發明的申請專利範圍;凡其他未脫離本發明所揭示之精神下所完成的等效改變或修飾,均應包含在下述申請專利範圍內。
Claims (15)
- 一種校正方法,用以連結球面座標至紋理座標,包含:安裝複數個燈及一旋轉設備,其中該些燈形成一水平的半圓弧且該旋轉設備位在其圓心;架設一個具N個鏡頭的第一相機於該旋轉設備上;透過該旋轉設備,促使該具N個鏡頭的第一相機繞著通過該水平的半圓弧的二端的一旋轉軸進行旋轉及捕捉不同第一旋轉角度的複數個第一鏡頭影像;以及根據該些不同第一旋轉角度及該些第一鏡頭影像內複數個第一校正點的紋理座標,決定該些第一校正點的經度與緯度座標以建構該些球面座標及該些紋理座標的連結;其中,各該第一鏡頭影像內的該些第一校正點係與顯示在各該第一鏡頭影像內的該些燈有關;其中,該具N個鏡頭的第一相機及該些燈的高度實質上相同;以及其中,不同位置的該些燈分別代表不同的緯度及該些不同第一旋轉角度分別代表不同的經度。
- 如申請專利範圍第1項所記載之校正方法,其中該促使步驟包含:開啟該些燈;每當該具N個鏡頭的第一相機以單一方向繞著該旋轉軸 旋轉一第一步進角度時,促使該具N個鏡頭的第一相機產生一目前第一旋轉角度的N個第一鏡頭影像;以及重覆該促使該具N個鏡頭的第一相機產生該N個第一鏡頭影像步驟,直到該目前第一旋轉角度等於或大於360度以得到不同第一旋轉角度的該些第一鏡頭影像;其中,該目前第一旋轉角度是該些第一步進角度的總和。
- 如申請專利範圍第2項所記載之校正方法,其中該安裝該些燈及該旋轉設備步驟更包含:將該些燈及該旋轉設備安裝於一暗室。
- 如申請專利範圍第1項所記載之校正方法,其中該決定步驟包含:決定一目前第一鏡頭影像中該些第一校正點的紋理座標、顏色及緯度,其中該目前第一鏡頭影像與一對應的第一旋轉角度有關;在該目前第一鏡頭影像中,將該些第一校正點投影至一直線,以得到一色彩型;搜尋一燈顏色次序以找出匹配的該色彩型,進而得到該目前第一鏡頭影像中該些第一校正點的緯度;重複該決定該目前第一鏡頭影像中該些第一校正點的紋理座標、顏色及緯度步驟、該投影步驟及該搜尋步驟,直到處理完所有的第一鏡頭影像為止,以建構該些球面座標及該些紋理座標的連結; 其中,該些燈分別發出不同顏色的光。
- 如申請專利範圍第4項所記載之校正方法,更包含:在該搜尋步驟之後及該重覆步驟之前,對該目前第一鏡頭影像中現有第一校正點的經度、緯度及紋理座標,進行內插處理及外推處理之至少其一,以得到額外第一校正點的經度、緯度標及紋理座標。
- 如申請專利範圍第4項所記載之校正方法,其中該決定該目前第一鏡頭影像中該些第一校正點的紋理座標、顏色及緯度步驟包含:在該目前第一鏡頭影像中,選擇照度值大於一臨界值的像素當作光像素;將多個鄰近光像素聚集在一起,以形成複數個光像素群;從該些光像素群中,挑出具一預設尺寸及一預設形狀的合格群,並將該些合格群定義為該些第一校正點;透過計算一對應合格群中該些光像素的平均紋理座標及平均顏色,來分別得到該目前第一鏡頭影像中一目前第一校正點的紋理座標及顏色;重複該分別得到該目前第一鏡頭影像中該目前第一校正點的紋理座標及顏色,直到處理完該目前第一鏡頭影像中所有的第一校正點為止;以及根據其對應的第一旋轉角度,指定一經度給該目前第 一鏡頭影像中所有的第一校正點。
- 如申請專利範圍第4項所記載之校正方法,其中該投影步驟包含:選擇一起始點及一向量以具體指定該目前第一鏡頭影像內的一條直線;將所有第一校正點依序投影至該直線上,以在該直線上得到複數個投影點;以及根據以一給定順序排列的該些投影點的顏色,得到該色彩型。
- 如申請專利範圍第4項所記載之校正方法,其中該搜尋步驟包含:以緯度的遞減順序,搜尋該燈顏色次序以找出匹配的該色彩型,進而得到該目前第一鏡頭影像中該些第一校正點的緯度。
- 如申請專利範圍第4項所記載之校正方法,其中該搜尋步驟包含:以緯度的遞增順序,搜尋該燈顏色次序以找出匹配的該色彩型,進而得到該目前第一鏡頭影像中該些第一校正點的緯度。
- 如申請專利範圍第1項所記載之校正方法,其中決定該些第一校正點的經度與緯度座標步驟包含:(a)決定與一對應第一旋轉角度有關之一目前第一鏡頭 影像中該些第一校正點的紋理座標及緯度;(b)根據與一目前鏡頭有關之該目前第一鏡頭影像中之一目前第一校正點的緯度及紋理座標,搜尋N個對照表中之一對應的對照表以找出最接近的紋理座標,進而將與該紋理座標有關之緯度指定給該目前第一校正點;(c)重複步驟(b),直到該目前第一鏡頭影像之所有第一校正點都處理完為止;以及(d)重複步驟(a)至(c),直到所有鏡頭的所有第一鏡頭影像都處理完為止,以建構該些球面座標及該些紋理座標的連結。
- 如申請專利範圍第10項所記載之校正方法,更包含:(e)在該安裝步驟之後及其餘步驟之前,利用一個具N個鏡頭的第二相機來產生該N個對照表。
- 如申請專利範圍第11項所記載之校正方法,其中步驟(e)包含:(e1)架設一個具N個鏡頭的第二相機於該旋轉設備上;(e2)透過該旋轉設備,每當該具N個鏡頭的第二相機以單一方向繞著該旋轉軸旋轉一第二步進角度時,促使該具N個鏡頭的第二相機產生一目前第二旋轉角度的N個第二鏡頭影像;(e3)重複步驟(e2),直到該目前第二旋轉角度等於或大於 360度以得到不同第二旋轉角度的複數個第二鏡頭影像;(e4)決定一目前第二鏡頭影像之複數個第二校正點的紋理座標;(e5)根據其對應的第二旋轉角度,決定該目前第二鏡頭影像之該些第二校正點的經度;(e6)根據該些燈在該半圓弧上的位置,分別指定不同緯度給該目前第二鏡頭影像中之不同第二校正點;(e7)重複步驟(e4)至(e6),直到一目前鏡頭的所有目前第二鏡頭影像都處理完為止,以得到一對應的對照表;以及(e8)重複步驟(e4)至(e7),直到所有鏡頭的所有目前第二鏡頭影像都處理完為止,以得到該N個對照表;其中,該目前第二旋轉角度是該些第二步進角度的總和。
- 如申請專利範圍第12項所記載之校正方法,其中與各鏡頭有關之各對照表包含複數個切片對應,其中與各特定經度有關之各切片對應包含複數個點對應,以及其中與各第二校正點有關之各點對應包含一經度、一緯度以及該紋理座標。
- 如申請專利範圍第10項所記載之校正方法,更包含:(f)在步驟(c)之後及步驟(d)之前,對該目前第一鏡頭影像中現有第一校正點的經度、緯度及紋理座標,進行內插及外推之至少其一之處理,以得到額外第一校正點的經度、緯度及紋理座標。
- 如申請專利範圍第10項所記載之校正方法,其中步驟(a)包含:在該目前第一鏡頭影像中,選擇照度值大於一臨界值的像素當作光像素;將多個鄰近光像素聚集在一起,以形成複數個光像素群;從該些光像素群中,挑出具一預設尺寸及一預設形狀的合格群,並將該些合格群定義為該些第一校正點;透過計算一對應的合格群中光像素的平均紋理座標,來得到該目前第一鏡頭影像中一目前第一校正點的紋理座標;重複該得到該鏡頭影像中該目前第一校正點的紋理座標步驟,直到處理完該目前第一鏡頭影像中所有的第一校正點為止;以及根據其對應的第一旋轉角度,指定一經度給該目前第一鏡頭影像中所有的第一校正點。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US16/240,575 US10832377B2 (en) | 2019-01-04 | 2019-01-04 | Spherical coordinates calibration method for linking spherical coordinates to texture coordinates |
| US16/240,575 | 2019-01-04 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| TW202105318A TW202105318A (zh) | 2021-02-01 |
| TWI728512B true TWI728512B (zh) | 2021-05-21 |
Family
ID=71403787
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| TW108137641A TWI728512B (zh) | 2019-01-04 | 2019-10-18 | 連結球面座標至紋理座標之球面座標校正方法 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US10832377B2 (zh) |
| TW (1) | TWI728512B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI810026B (zh) * | 2022-08-18 | 2023-07-21 | 友達光電股份有限公司 | 影像顯示設備 |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112581547B (zh) * | 2020-12-30 | 2022-11-08 | 安徽地势坤光电科技有限公司 | 一种调整成像镜头安装角度的快速方法 |
| CN113269839B (zh) * | 2021-05-21 | 2023-10-27 | 深圳一清创新科技有限公司 | 一种相机标定方法、平台、装置及电子设备 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070036460A1 (en) * | 2004-04-10 | 2007-02-15 | Christian-Albrechts-Universitaet Zu Kiel | Method for the rotation compensation of spherical images |
| US20080012850A1 (en) * | 2003-12-30 | 2008-01-17 | The Trustees Of The Stevens Institute Of Technology | Three-Dimensional Imaging System Using Optical Pulses, Non-Linear Optical Mixers And Holographic Calibration |
| US20090067749A1 (en) * | 2006-01-13 | 2009-03-12 | Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V. | Calibration Method and Calibration System for Projection Apparatus |
| US20160295108A1 (en) * | 2015-04-01 | 2016-10-06 | Cheng Cao | System and method for panoramic imaging |
| TWI622021B (zh) * | 2017-02-08 | 2018-04-21 | 信驊科技股份有限公司 | 具接合功能的全景影像產生方法及裝置 |
| CN107960121A (zh) * | 2016-01-03 | 2018-04-24 | 人眼科技有限公司 | 将帧拼接成全景帧 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20040075738A1 (en) * | 1999-05-12 | 2004-04-22 | Sean Burke | Spherical surveillance system architecture |
| CN103679687A (zh) * | 2012-09-18 | 2014-03-26 | 杭州海康威视数字技术股份有限公司 | 一种智能跟踪高速球机的目标跟踪的方法 |
| US20180018807A1 (en) | 2016-07-15 | 2018-01-18 | Aspeed Technology Inc. | Method and apparatus for generating panoramic image with texture mapping |
| US10186067B2 (en) | 2016-10-25 | 2019-01-22 | Aspeed Technology Inc. | Method and apparatus for generating panoramic image with rotation, translation and warping process |
| US10628967B2 (en) * | 2017-12-21 | 2020-04-21 | Facebook, Inc. | Calibration for multi-camera systems |
-
2019
- 2019-01-04 US US16/240,575 patent/US10832377B2/en active Active
- 2019-10-18 TW TW108137641A patent/TWI728512B/zh active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20080012850A1 (en) * | 2003-12-30 | 2008-01-17 | The Trustees Of The Stevens Institute Of Technology | Three-Dimensional Imaging System Using Optical Pulses, Non-Linear Optical Mixers And Holographic Calibration |
| US20070036460A1 (en) * | 2004-04-10 | 2007-02-15 | Christian-Albrechts-Universitaet Zu Kiel | Method for the rotation compensation of spherical images |
| US20090067749A1 (en) * | 2006-01-13 | 2009-03-12 | Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V. | Calibration Method and Calibration System for Projection Apparatus |
| US20160295108A1 (en) * | 2015-04-01 | 2016-10-06 | Cheng Cao | System and method for panoramic imaging |
| CN107960121A (zh) * | 2016-01-03 | 2018-04-24 | 人眼科技有限公司 | 将帧拼接成全景帧 |
| TWI622021B (zh) * | 2017-02-08 | 2018-04-21 | 信驊科技股份有限公司 | 具接合功能的全景影像產生方法及裝置 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI810026B (zh) * | 2022-08-18 | 2023-07-21 | 友達光電股份有限公司 | 影像顯示設備 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20200219230A1 (en) | 2020-07-09 |
| TW202105318A (zh) | 2021-02-01 |
| US10832377B2 (en) | 2020-11-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110336987B (zh) | 一种投影仪畸变校正方法、装置和投影仪 | |
| TWI622021B (zh) | 具接合功能的全景影像產生方法及裝置 | |
| TWI720447B (zh) | 影像定位方法及其系統 | |
| TWI728512B (zh) | 連結球面座標至紋理座標之球面座標校正方法 | |
| Scaramuzza et al. | Extrinsic self calibration of a camera and a 3D laser range finder from natural scenes | |
| CN103501409B (zh) | 一种超高分辨率全景高速球一体机系统 | |
| JP3878910B2 (ja) | カメラサポート装置 | |
| CN104778694B (zh) | 一种面向多投影拼接显示的参数化自动几何校正方法 | |
| US20150116691A1 (en) | Indoor surveying apparatus and method | |
| US9892488B1 (en) | Multi-camera frame stitching | |
| CN114549666B (zh) | 一种基于agv的环视图像拼接标定方法 | |
| TWI783423B (zh) | 全景影像中鄰近鏡頭影像間顏色差的補償方法 | |
| Fang et al. | Self-supervised camera self-calibration from video | |
| CN101132535A (zh) | 基于转台的多投影大屏拼接方法 | |
| TW202101372A (zh) | 基於全景影像內控制區的紋理座標調整方法 | |
| CN110519528A (zh) | 一种全景视频合成方法、装置及电子设备 | |
| CN108198220B (zh) | 一种光学相机图像曲面精确标定方法 | |
| CN110458964B (zh) | 一种现实环境动态光照的实时计算方法 | |
| WO2022078442A1 (zh) | 一种基于光扫描和智能视觉融合的3d信息采集方法 | |
| CN111429531A (zh) | 标定方法、标定装置和非易失性计算机可读存储介质 | |
| KR20250038670A (ko) | 가상 제작을 위한 카메라의 제어점 결정 | |
| CN107527336A (zh) | 镜头相对位置标定方法及装置 | |
| Cao et al. | Camera calibration and light source estimation from images with shadows | |
| Kitanovski et al. | Objective evaluation of relighting models on translucent materials from multispectral RTI images | |
| WO2026011708A1 (zh) | 投影画面校正方法及投影设备 |