TWI869079B - 內視鏡影像之窄頻影像轉換方法 - Google Patents
內視鏡影像之窄頻影像轉換方法 Download PDFInfo
- Publication number
- TWI869079B TWI869079B TW112146258A TW112146258A TWI869079B TW I869079 B TWI869079 B TW I869079B TW 112146258 A TW112146258 A TW 112146258A TW 112146258 A TW112146258 A TW 112146258A TW I869079 B TWI869079 B TW I869079B
- Authority
- TW
- Taiwan
- Prior art keywords
- narrowband
- image data
- spectrum
- parameter
- light source
- Prior art date
Links
Classifications
-
- G06T11/10—
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/32—Image data format
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Endoscopes (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
本發明揭示一種內視鏡影像之窄頻影像轉換方法,其先取得參考物件之參考影像資料與窄頻參考影像資料,並經運算,取得高光譜參考影像資料,以及取得窄頻轉換參數與第一光源參數,並接續取得對應之窄頻模擬影像資料,進一步與窄頻參考影像資料比對,取得色差資料,依據色差資料與第一光源參數,取得第二光源參數,以依據窄頻轉換參數與第二光源參數對應之目標波段轉換內視鏡之輸入影像資料,而取得窄頻影像資料。如此提高影像辨識度,且提升輸入影像之清晰度。
Description
本發明係有關一種影像處理之方法,尤其是一種內視鏡影像之窄頻影像轉換方法。
目前的疾病診斷技術通常依賴于單一的宏觀資料和資訊,如體溫、血壓、身體掃描圖像。例如,檢測癌症這類重大疾病,現在用於常用儀器大多是基於影像技術的設備,包括X-射線、CT掃描和核磁共振(NMR)成像技術。當這些診斷設備組合使用時,對疾病的診斷在不同程度上的有用的。然而,當這些設備單獨使用時都不能在重大疾病發病的早期進行準確的、可信的、高效的、經濟的檢測。另外,很多這些現有設備體型較大且具有侵入性,如X-射線、CT掃描或核磁共振(nuclear magnetic resonance,NMR)成像技術。遂針對消化器官或消化道中之病灶觀察發展出內視鏡檢查,以檢查消化器官上是否存在病灶。
內視鏡(Endoscope)泛指經各種管道進入人體,以觀察人體內部狀況的醫療儀器,由於內視鏡可伸入無法以肉眼直接觀測之腔體內擷取影像,因此,內視鏡已廣泛應用於醫學領域上的應用,其影響甚鉅,而內視鏡檢查稱為內視鏡檢(Endoscopy)或內鏡檢查(術),部份內視鏡兼具手術治療的功能,如膀胱鏡、胃鏡、大腸鏡、支氣管鏡、腹腔鏡、關節腔鏡等,也就是除了影像擷取功能之外,更進一步可提供相對應之手術功能。例如:食道為一連接咽部及胃部的管狀器官,主要負責將口腔吞入的食物輸送至胃,正常食道黏膜有多層的鱗狀上皮細胞,厚度約200至500μm,由表面往下可分成以下幾層,分別是黏膜上皮
層(EP)、黏膜固有層(LPM)、黏膜肌層(MM)、黏膜下層(SM)及固有肌層(MP),食道觀察即是經由胃鏡進行內視鏡檢,以在食道上的病灶進行治療,除了胃鏡,較為新穎之內視鏡技術,更是採用膠囊內視鏡影像進行內視鏡檢。
另外,早期的食道病變卻不容易診斷,除了早期幾乎沒有任何症狀之外,即便是接受食道內視鏡檢查,還是有一部分的早期食道癌會看不出來,因為這些病灶的變化都很細微,往往只有些許顏色的改變,所以若是使用傳統內視鏡做檢測,則會有大量早期食道癌病變被忽略而延誤治療。因而針對不易察覺之病灶發展出碘染色內視鏡(Lugol chromoendoscopy)、窄頻成像技術(Narrow Band Imaging,NBI)、放大內視鏡(Magnifying Endoscopy)。
然而,每一次內視鏡檢查所面臨之問題在於影像辨識度,即使現今利用窄頻影像技術以加強內視鏡檢查之影像辨識度,但是在色差及亮度辨識上仍有不足之處。
基於上述之問題,本發明提供一種內視鏡影像之窄頻影像轉換方法,其藉由運算裝置取得參考影像資料與窄頻參考影像資料,經轉換參考影像資料為窄頻模擬影像資料,再比對窄頻參考影像資料,取得色差資料後,將窄頻模擬影像資料對應之第一光源參數與色差資料運算出一第二光源參數,再以窄頻模擬影像資料對應之窄頻轉換參數與第二光源參數,用於將內視鏡之輸入影像資料轉換為窄頻影像,藉此提高影像辨識度,且提升輸入影像之清晰度。
本發明之主要目的,提供一種內視鏡影像之窄頻影像轉換方法,其藉由運算裝置取得參考物件之參考影像資料與窄頻參考影像資料,再藉由運算,而取得對應之高光譜參考影像資料、窄頻轉換參數與第一光源參數,進而取得窄頻模擬影像資料,並與窄頻參考影像資料比對,而取得色差資料,並與第一光源參數運算,以取得第二光源參數,讓運算裝置依據窄頻轉換參數與第二光源參數轉換內視鏡之輸入影像資料為窄頻影像資料,藉此提高影像辨識度,且提升輸入影像之清晰度。
為達上述之目的,本發明揭示了一種內視鏡影像之窄頻影像轉換方法,其先透過一內視鏡取得一參考物件之一參考影像資料並透過一窄頻內視鏡取得該參考物件之一窄頻參考影像資料,以讓一運算裝置接收該參考影像資料與該窄頻參考影像資料,再由該運算裝置經運算,而獲得對應之一高光譜參考影像資料、一窄頻轉換參數與一第一光源參數,進一步,依據該高光譜參考影像資料、該窄頻轉換參數與該第一光源參數產生一窄頻模擬影像資料,進而比對一開始取得之該窄頻參考影像資料,取得對應之一色差資料,該運算裝置接續依據該色差資料與該第二光源參數進行運算,取得一第二光源參數,也就是透過該運算裝置取得該窄頻模擬影像資料與該窄頻參考影像資料之間的色彩差異,應用於調整第一光源參數,因而獲得較佳且較匹配於該窄頻參考影像資料之該第二光源參數。在取得該第二光源參數後,該運算裝置透過該內視鏡取得一待測物之一輸入影像資料,以讓該運算裝置接收該輸入影像資料,進而依據該窄頻轉換參數與該第二光源參數運算該輸入影像資料,以取得該待測物之一窄頻影像,藉此提高輸入影像資料之影像辨識度,且提升輸入影像資料之清晰度。
本發明提供一實施例,其中於透過該運算裝置將該參考影像資料轉換為一高光譜參考影像資料之步驟中,該運算裝置依據一高光譜轉換參數將該參考影像資料轉換為該參考物件之該高光譜參考影像資料。
本發明提供一實施例,其中於透過該運算裝置依據該高光譜參考影像資料、該窄頻轉換參數與該第一光源參數之該至少一第一目標波段參數,產生一窄頻模擬影像資料之步驟中,該運算裝置執行一三色刺激值運算方程式運算該高光譜參考影像資料、該影像轉換模型與該至少一第一目標波段,以產生該參考物件之該窄頻模擬影像資料。
本發明提供一實施例,其中於透過該運算裝置依據該輸入影像資料、該窄頻轉換參數與該第二光源參數對應之至少一第二目標波段參數,產生該待測物之一窄頻影像資料之步驟中,該運算裝置執行一三色刺激值運算方程式運算該輸入影像資料、該窄頻轉換參數與該至少一第二目標波段參數,產生該待測物之該窄頻影像資料。
本發明提供一實施例,其中該至少一第二目標波段參數為575奈米波長至588奈米波長、640奈米波長至666奈米波長、705奈米波長至744奈米波長或其組合。
本發明提供一實施例,其中於透過該運算裝置依據該色差資料與該第一光源參數進行運算,取得一第二光源參數之步驟中,該運算裝置執行一雙模擬退火演算法(Dual Simulated Annealing Algorithm)並依據該色差資料與該第一光源參數進行運算,取得該第二光源參數。
本發明提供一實施例,其中於透過該運算裝置依據該參考影像資料與該窄頻參考影像資料進行運算,取得一高光譜參考影像資料、一窄頻轉換參數與一第一光源參數之步驟中,其先依據該參考影像資料取得一參考光譜與一反射參考頻譜,接續,據該窄頻參考影像資料取得一窄頻參考光譜與一窄頻反射參考頻譜,然後,依據一反射頻譜空間轉換函數從該反射參考頻譜與該窄頻反射參考頻譜取得一反射頻譜空間參數,進一步依據一光譜空間轉換函數從該參考光譜與該窄頻參考光譜取得該第一光源參數,然後,依據該反射頻譜空間參數與該第一光源參數,取得一校正矩陣,接續依據該校正矩陣與該反射頻譜空間參數,取得一校正空間參數與該高光譜參考影像資料;以及依據該校正空間參數、該反射參考頻譜與該窄頻反射參考頻譜,取得該窄頻轉換參數。
本發明提供一實施例,其中於依據一參考影像資料取得一參考光譜與一反射參考頻譜之步驟中,該運算裝置擷取該參考物件之每一顏色之RGB影像,以分析取得對應之該參考光譜與該反射參考頻譜。
本發明提供一實施例,其中於透過該運算裝置比對該窄頻參考影像資料與該窄頻模擬影像資料取得一色差資料之步驟中,該運算裝置係計算出該窄頻參考影像資料與該窄頻模擬影像資料之一第一均方根誤差資料與一第二均方根誤差資料,並比對該第一均方根誤差資料與該第二均方根誤差資料,取得該色差資料。
1:檢測系統
10:運算裝置
104:多變量回歸分析運算
106:三色刺激值方程式運算
108:雙模擬退火演算法
12:處理單元
14:記憶體
16:儲存單元
20:內視鏡
22:窄頻內視鏡
202:參考影像資料
204:參考影像
202A:輸入影像資料
204A:輸入影像
206:高光譜參考影像資料
2062:高光譜參考影像
2064:參考光譜
2066:反射參考光譜
206A:高光譜輸入影像資料
2062A:高光譜輸入影像
210:窄頻轉換參數
212:第一光源參數
212A:第二光源參數
214:窄頻模擬影像資料
2142:窄頻模擬影像
2144:第一均方根誤差資料
216:色差資料
2162:色差值
218:窄頻影像資料
2182:窄頻影像
222:窄頻參考影像資料
2222:第二均方根誤差資料
224:窄頻參考影像
226:窄頻參考光譜
228:窄頻反射參考頻譜
410:工作站
420:膠囊內視鏡
B1:第一波段
B2:第二波段
B3:第三波段
B4:第四波段
S10至S22:步驟
S122至S144:步驟
WLI:白光成像
第一圖:其為本發明之第一實施例之流程圖;第二A圖至第二F圖:其為本發明之第一實施例之步驟示意圖;第三圖:其為本發明之第一實施例之運算窄頻轉換參數與第一光源參數之流程圖;第四A圖至第四G圖:其為本發明之第一實施例之運算窄頻轉換參數與第一光源參數之步驟示意圖;第五圖:其為本發明之第一實施例之目標波段示意圖;第六圖:其為本發明之第一實施例之第二光源參數之示意圖;以及第七圖:其為本發明之第二實施例之取得窄頻轉換參數與第二光源參數之示意圖;第八圖:其為本發明之第二實施例之取得窄頻影像之示意圖;第九圖:其為本發明之輸入影像之示意圖;以及第十圖:其為本發明之窄頻影像之示意圖。
為使 貴審查委員對本發明之特徵及所達成之功效有更進一步之瞭解與認識,謹佐以實施例及配合說明,說明如後:有鑑於習知內視鏡之輸入影像資料所導致之運算量龐大,據此,本發明遂提出一種內視鏡影像之窄頻影像轉換方法,以解決習知內視鏡技術所造成之運算量龐大不容易辨識之問題。
以下,將進一步說明本發明揭示一種內視鏡影像之窄頻影像轉換方法所提供之特性、所搭配之系統:首先,請參閱第一圖,其為本發明之一實施例之影像轉換之流程圖。如圖所示,本發明之內視鏡影像之窄頻影像轉換方法,其步驟包含:
步驟S10:取得參考物件之參考影像資料並取得參考物件之窄頻參考影像資料;步驟S12:依據參考影像資料與窄頻參考影像資料進行運算,取得窄頻轉換參數與第一光源參數;步驟S14:依據參考影像資料、窄頻轉換參數與第一光源參數對應之第一目標波段,產生窄頻模擬影像資料;步驟S16:比對窄頻參考影像資料與窄頻模擬影像資料取得色差資料;以及步驟S18:依據色差資料與第一光源參數進行運算,取得第二光源參數;步驟S20:擷取待測物之輸入影像資料;以及步驟S22:依據該輸入影像資料、窄頻轉換參數與第二光源參數對應之第二目標波段參數,產生窄頻影像資料。
請一併參閱第二A圖至第二F圖,其為本發明之內視鏡影像之窄頻影像轉換方法所搭配之檢測系統1,其包含一運算裝置10、一內視鏡20與一窄頻內視鏡22,本實施例之運算裝置10為包含一處理單元12、一記憶體14與一儲存單元16之桌上型電腦作為舉例,但並非僅限於此,更可為伺服器、筆記型電腦、平板電腦或具備邏輯運算能力基礎之電子裝置皆為本發明所指之運算裝置10,資料庫30為建立於儲存單元16,但不限於此,儲存單元16更可為運算裝置10之外接式儲存單元,意即資料庫30可設置於運算裝置10之外部,其中運算裝置10藉由處理單元12執行影像運算,以應用本發明之技術。此外,本實施例之內視鏡20與窄頻內視鏡22,應用探查體內器官組織,例如:膀胱鏡、胃鏡、大腸鏡、支氣管鏡、腹腔鏡。
於步驟S10中,如第二A圖所示,本實施例係以運算裝置10為透過內視鏡20作為一第一影像擷取單元,用以擷取一參考物件2之影像,而產生一參考影像資料202,運算裝置10並透過窄頻內視鏡22作為一第二影像擷取單元,用以擷取參考物件2之影像,而產生一窄頻參考影像資料222,同時,透過內視鏡20
與窄頻內視鏡22傳送參考影像資料202與窄頻參考影像資料222至運算裝置10,本實施例之參考影像資料202為利用白光成像(White light Imaging,WLI)技術而取得之白光影像資料,本實施例之內視鏡20係以白光內視鏡OLYMPUS EVIS LUCERA CV-260 SL取得對應之白光影像資料作為舉例,本實施例之窄頻內視鏡22係以Olympus EVIS LUCERA CV-290透過窄頻成像(Narrow Band Imaging)技術而取得窄頻影像資料作為舉例說明,此外,本實施例係以不同內視鏡做為舉例,但不限於此,CV-290本身更包含一白光成像模組,以具備白光成像之功能,因此更可作為內視鏡20之具體實施例,再者,CV-260 SL亦是包含一窄頻成像模組,以具備窄頻成像之功能,因此,CV-260 SL更可作為窄頻內視鏡22之具體實施例,亦即內視鏡20與窄頻內視鏡22更可為同一內視鏡裝置,即內視鏡裝置包含第一影像擷取單元與第二影像擷取單元,。
其中,本實施例之參考物件2為可見光波段(即380nm波長至780nm波長)對應之24色塊(X-Rite Classic,24 Color Checkers),例如:在24色塊中包含白色、黑色、四種中性灰色、藍色、綠色、紅色、黃色、品紅、青色、橙色、紫藍偏紫、中度紅色、紫色、黃綠和橙黃、深膚色、淺膚色、天藍色、樹葉色、藍花色和藍綠偏藍。
運算裝置10執行步驟S12,復參閱第二B圖所示,運算裝置10依據參考影像資料202自資料庫30讀取一高光譜參考資料REF並將參考影像資料202之參考影像204轉換至高光譜參考影像資料206之複數個高光譜參考影像2062,也就是藉由可見光高光譜技術(Visible Hyperspectral Algorithm,VIS-HSA)針對內視鏡20所擷取之參考影像204進行運算,以取得轉換一般影像色域空間(即擷取影像之色域空間)至XYZ色域空間(1931XYZ Color space)(例如:從sRGB色域空間轉換至XYZ色域空間)的高光譜參考影像2062,其中本發明之該高光譜參考資訊為對應於可見光高光譜技術之可見光波段高光譜,並對應於24色塊(X-Rite Classic,24 Color Checkers),且例如:在24色塊中包含白色、黑色、四種中性灰色、藍色、綠色、紅色、黃色、品紅、青色、橙色、紫藍偏紫、中度紅色、紫色、黃綠和橙黃、深膚色、淺膚色、天藍色、樹葉色、藍花色和藍綠偏藍。其中高光譜參考資
料REF為對應於上述之參考影像資料202,並包含對應24色塊之複數個配色函數(Color matching functions,CMF)對應之一gamma函數、一校正矩陣與一色適應轉換矩陣。
V Color =[XYZ XY YZ XZ X Y Z]T 式(二)
[M]=[Score]×pinv([V Color ]) 式(三)
[S Spectrum ]380-780=[EV][M][V C olo r ] 式(四)
f(n)為gamma函數,T為轉換矩陣,[M A ]為色適應轉換矩陣,[EV]為主成分,亦為參考影像資料之特徵資料,[Score]為主成分之特徵數值。
處理單元12將參考影像204的sRGB值,通過式(一),轉換至XYZ色域空間,將獲得的XYZ色域空間值帶入式(二)的校正矩陣C,最後再將取得的[EV]、[M]及式(一)、式(二)帶入式(四)取得[S Spectrum ]380-780,即可取得可見光波段之高光譜參考影像資料206,且透過式(四)可經校正而獲得對應之窄頻轉換參數210與第一光源參數212。
接續上述,運算裝置10更可將於步驟S10中取得之參考影像資料202,進行一主成分分析(Principal components analysis,PCA)運算,為簡化影像值,以濾除較低變化量之影像值,因而依據參考影像資料202對應之特徵向量進
行簡化並產生對應之降維影像資料,其包含複數個降維影像。以下為PCA之運算式舉例之如下式(八):
而x 1i 至x ni 為表示第一個至第n個波長的頻譜強度值;至為表示第一個至第n個波長的頻譜期望值(平均頻譜強度值),a j1至a jn 為表示頻譜進行共變異數計算之共變異數矩陣的特徵向量係數,例如:經過主成分分析法對高維度頻譜資訊降維後僅需求得前三維,以減少運算複雜度,一般作法即是將彩色影像轉換為灰階影像,也就是去除彩度之影像,因而降低運算複雜度。
以下為進一步針對步驟S12之詳細步驟進一步做說明。
如第三圖所示,步驟S12進一步包含:步驟S122:依據參考影像資料取得參考光譜與反射參考頻譜;步驟S124:依據窄頻參考影像資料取得窄頻參考光譜與窄頻反射參考頻譜;步驟S126:依據反射頻譜空間轉換函數從反射參考頻譜與窄頻反射參考頻譜取得反射頻譜空間參數;步驟S128:依據光譜空間轉換函數從參考光譜與窄頻參考光譜取得第一光源參數;步驟S140:依據反射頻譜空間參數與第一光源參數,取得校正矩陣;步驟S142:依據校正矩陣與反射頻譜空間參數,取得校正空間參數與高光譜參考影像資料;以及步驟S144:依據校正空間參數、反射參考頻譜與窄頻反射參考頻譜,取得窄頻轉換參數。
如第四A圖所示,運算裝置10執行步驟S122,依據參考影像資料204取得輸入一參考光譜2044與一反射參考頻譜2046,其中白光內視鏡OLYMPUS EVIS LUCERA CV-260 SL擷取參考物件2所得之參考影像資料202,例如:24色塊,參考光譜2044包含24色塊之每一顏色sRGB之影像光譜,反射參考
頻譜2046包含24色塊之每一顏色之反射頻譜,並將參考光譜2044與反射參考頻譜2046儲存於資料庫30。
如第四B圖所示,運算裝置1010執行步驟S124,依據窄頻參考影像資料222取得輸入一窄頻參考光譜226與一窄頻反射參考頻譜228,其中窄頻參考影像資料222係窄頻內視鏡OLYMPUS EVIS LUCERA CV-290擷取24色塊之每一色塊之窄頻參考影像224與24色塊之窄頻反射頻譜數據取得窄頻參考光譜226與窄頻反射參考頻譜228,並將窄頻參考光譜226與窄頻反射參考頻譜228儲存於資料庫30。
如第四C圖所示,運算裝置10執行步驟S126,依據一反射頻譜空間轉換函數RSST從反射參考頻譜2046與窄頻反射參考頻譜228取得一反射頻譜空間參數230,其中反射頻譜空間轉換函數RSST如上式(一)、式(五)~式(七)進行運算。
、、為配色函數,S(λ)為內視鏡拍攝的光源頻譜,因XYZ色域空間的Y值與亮度成正比關係,因此藉由式(十一)取得光源頻譜Y值的最大亮度,再透過對Y值上限規範為100,以此獲得亮度的規範比例k,因而利用式(九)至式(十一)取得[XYZ Spectrum ],即該反射頻譜空間參數,並將該反射頻譜空間參數儲存於該資料庫30。
如第四D圖所示,運算裝置10執行步驟S128,依據一光譜空間轉換函數SST從參考光譜2044與窄頻參考光譜226取得第一光源參數212,該光譜空間轉換函數,需將參考光譜2044與窄頻參考光譜226轉換至相同的XYZ色域空間,該光譜空間轉換函數由式(一)、式(五)~式(七)進行計算。
從sRGB色域空間轉換至XYZ色域空間,如式(一)所示,由於內視鏡影像是依照sRGB色域空間規範格式來儲存數據,所以需將內視鏡影像的R、G、B值(0~255)轉換至小尺度範圍(0~1),再經由式(三),將sRGB值轉換成線性的RGB值,最後結合式(一)與式(九)至式(十一)的公式計算,將可使線性RGB值轉換為在XYZ色域空間所規範的XYZ值。但在轉換過程中,需藉由色適應轉換矩陣[M A ]式(七)做修正,這是因為sRGB色域空間的規範白點(White point)是為D65(XCW,YCW,ZCW),與量測光源的白點(XSW,YSW,ZSW)不相同,因此藉由式(七)所示之色適應轉換矩陣[M A ],可得到內視鏡20於光源下的光源參數[XYZ Endoscope],即第一光源參數212,並將第一光源參數212儲存於資料庫30。
如第四E圖所示,運算裝置10執行步驟S140,依據反射頻譜空間參數230與該第一光源參數212取得一校正矩陣C,該校正矩陣C是以反射頻譜空間參數230,即以[XYZ Spectrum ]為標準,並將該第一光源參數212之[X Y Z]T矩陣,擴展為具備校正變數之變數矩陣V。
承接上述,其中的變數矩陣V,是根據內視鏡在拍攝上可能會有許多誤差的因素所獲取的,其中造成因素分別為:非線性響應、暗電流、濾色片分色不精確與色彩偏移(例如:白平衡),透過下式(十三)進行多變量回歸分析(Multiple regression analysis)獲得校正內視鏡的該校正矩陣C。
[C]=[XYZ Spectrum ]×pinv([V]) 式(十三)
其中,由於窄頻影像與白光影像在三階運算為近似,因此非線性響應修正採用三階方程式進行,校正內視鏡非線性響應為採用下式(十四):V Non-linear =[X 3 Y 3 Z 3 X 2 Y 2 Z 2 X Y Z 1]T 式(十四)
一般在內視鏡中的暗電流為一固定值,不會隨進光量的變化而產生大幅度的改變,故將暗電流之影響視為常數,並將暗電流的校正變數定義為VDark,並以下式(十五)校正暗電流之影響:
VDark=[α] 式(十五)。
濾光片分色不精確與色彩偏移的校正變數定義為V Color ,、、為RGB色域空間轉至XYZ色域空間之配色函數,因而依據、、
三者之間的關聯性將X、Y、Z之間的可能性以排列組合的方式列出下式(十六),以校正內視鏡影像於濾光片分色不精確與色彩偏移:V Color =[XYZ XY YZ XZ X Y Z]T 式(十六)
藉由上述式(十四)~式(十六),推得下式(十七)校正之變數矩陣V:V=[X 3 Y 3 Z 3 X 2Y X 2Z Y 2Z XZ 2 YZ 2 XYZX 2 Y 2 Z 2 XY YZ XZ X Y Z α]T式(十七)。
最後由式(十三),求得內視鏡對應之校正矩陣C,並將校正矩陣C儲存於該資料庫30。
如第四F圖所示,運算裝置10執行步驟S142,依據校正矩陣C從該反射頻譜空間參數230取得一校正空間參數232,藉由式(十七)變數矩陣V搭配該校正矩陣C,因而獲得X、Y、Z校正參數[XYZCorrect],即校正空間參數232,如下式(十八):[XYZCorrect]=[C]×[V] 式(十八)。
白光影像於[XYZCorrect]與[XYZ Spectrum ]之平均誤差值為1.40,窄頻影像於[XYZCorrect]與[XYZ Spectrum ]之平均誤差值為2.39。
由於上述之計算為採用可見光波段380奈米至780奈米之光波長波段,因此內視鏡的校正結果須以色差表示,其中[XYZCorrect]與[XYZ Spectrum ]轉換至CIEDE2000色差公式對應之Lab色域空間,色域空間轉換函式如下式(十九)至式(二十二):
如第四G圖所示,利用內視鏡校正後所求得的該校正空間參數[XYZCorrect],與頻譜儀量測到的該白光反射頻譜與該窄頻反射頻譜,取得該轉換矩陣M,如式(二十三),並依據式式(二十四)可用於將一般影像轉換為該高光譜影像,例如:參考影像204轉換成高光譜參考影像2062:
[M]=[Score]×pinv([V Color ]) 式(二十三)
[S Spectrum ]380-780=[EV][M][V C olo r ] 式(二十四)
其中,[Score]為透過反射頻譜數據[R Spectrum ]經主成分回歸分析法,而求得複數組主成分(EV),本第一實施例係以其中10組解釋能力(總和權重百分比超過99.99%)較佳之主成分分析運算102進行降維運算,藉由式(二十一)獲得模擬頻譜[S Spectrum ]380-780,而模擬頻譜[S Spectrum ]380-780與參考影像204對應之[XYZ Spectrum ]的誤差於白光影像上從11.60修正為2.85,因而達成肉眼無法輕易辨識出之顏色誤差例如:模擬頻譜[S Spectrum ]380-780可以是由參考影像204模擬出可見光波段範圍內較佳的該高光譜參考影像2062。
最後,運算裝置10執行步驟S144,依據校正空間參數、白光反射頻譜與窄頻反射頻譜取得該窄頻轉換參數210,其如式(一)至式(十一),亦即讓式(二十四)調整為可用於模擬窄頻波段範圍內較佳的高光譜影像,如此模擬頻譜[S Spectrum ]380-780轉變為用於呈現窄頻波段範圍內之影像。
再者,於步驟S16中,如第二C圖所示,運算裝置10之處理單元12針對參考影像資料202之高光譜影像、窄頻轉換參數210與第一光源參數212進行一三色刺激值方程式運算106,以產生一窄頻模擬影像資料214,本實施例係以高光譜參考影像資料206之每一高光譜參考影像2062依據窄頻轉換參數210與第一光源參數212,取得對應之窄頻模擬影像資料214之複數個窄頻模擬影像2142,即窄頻模擬影像2142之對應波段為第一光源參數212對應之第一目標波段參數。其中三色刺激值是指引起人體視網膜對某種顏色感覺的三種原色的刺激程度之量,本實施例係指高光譜參考影像資料206、窄頻轉換參數210與第一光源參數212之對照結果,藉此用於取得窄頻模擬影像資料214。
接續於步驟S18中,如第二D圖所示,本實施例為運算裝置10依據窄頻模擬影像資料214之窄頻模擬影像2142比對窄頻參考影像資料222之窄頻參考影像224進行比對,因而獲得一色差資料216,其包含複數個轉換色差值2162,例如:參考物件2之窄頻模擬影像資料214比對參考物件2之窄頻參考影像資料222,而取得參考物件2對應之色差資料216,即取得參考物件2之複數個轉換色差
值2162,進一步地,該運算裝置10係計算出該窄頻模擬影像資料2142與該窄頻參考影像資料222之一第一均方根誤差資料2144與一第二均方根誤差資料2222,並比對該第一均方根誤差資料2144與該第二均方根誤差資料2222,取得該色差資料216,如下表一所示之色差值為透過色差公式CIEDE2000取得。
CIEDE2000是先將窄頻模擬影像資料214與窄頻參考影像資料222轉換至L*a*b色域坐標系進行計算,中間運算過程轉換至L*C*h*色彩空間,並透過色調補償,以取得較佳之色差值,而CIEDE2000為一常規色差計算公式,因此不再贅述。
接續於步驟S18中,如第二E圖所示,處理單元12依據步驟S20所產生之色差資料216與第一光源參數212,產生一第二光源參數212A,其中本實
施例係以處理單元12執行一雙模擬退火演算法(Dual Simulated Annealing Algorithm)108作為舉例說明,藉此依據色差資料216運算第一光源參數212所包含之gamma函數,因而取得第二光源參數212A,其對應或接近窄頻參考影像資料222所包含之gamma函數。但本發明不限於雙模擬退火演算法108,更可為基因演算法(Genetic Algorithm,GA)、粒子群最佳化(Particle Swarm Optimization,PSO)、差分進化演算法(Differential Evolution)、支援向量機(support vector machine)等演算法,使處理單元12基於色差資料216與第一光源參數212求得最佳解,即求得第二光源參數212A。
承接上述,其中第二光源參數212A對應之第二目標波段為445奈米波長至458奈米波長、575奈米波長至588奈米波長、640奈米波長至666奈米波長、705奈米波長至744奈米波長或其組合,如第五圖所示,窄頻光源於最佳化時,其光強度大於6的波段落在445奈米波長至458奈米波長、575奈米波長至588奈米波長、640奈米波長至666奈米波長與705奈米波長至744奈米波長,因此如第六圖所示,本實施例係以第一波段(445奈米波長至458奈米波長)B1、第二波段(575奈米波長至588奈米波長)B2、第三波段(640奈米波長至666奈米波長)B3與第四波段(705奈米波長至744奈米波長)B4之波段組合作為第二目標波段之舉例,自白光成像(WLI)之可見光全波段擷取出第一波段B1至第四波段B4之波段組合,即依據第二光源參數212A擷取對應之第二目標波段。
接續於步驟S20中,如第二F圖所示,運算裝置10透過內視鏡20擷取一待測物O之一輸入影像資料202A,其包含複數個輸入影像204A,接續運算裝置10讀取內視鏡20之輸入影像資料202A,因而讓內視鏡20之輸入影像資料202A傳送至運算裝置10之處理單元12。最後,於步驟S22中,如第二F圖所示,處理單元12依據窄頻轉換參數210與第二光源參數212A一併與輸入影像資料202A進行三色刺激值方程式運算106,因而取得待測物O之窄頻影像資料218,其包含複數個窄頻影像2182。其中,窄頻轉換參數210係包含將輸入影像資料202轉換至高光譜影像之參數以及轉換至窄頻影像之參數,因此輸入影像資料202A之
輸入影像204A會先轉換為高光譜影像,再接續轉換為窄頻影像2182,以提高輸入影像資料202A之影像辨識度,且提升輸入影像資料202A之清晰度。
以下進一步以實際操作提供一舉例說明:如第七圖所示,其揭示一第三實施例為採用一工作站410連接一膠囊內視鏡420與一窄頻內視鏡22,由膠囊內視鏡420提供一參考物件2之一參考影像資料202至工作站410,工作站410中設置一處理單元12,處理單元12自一資料庫430讀取一高光譜參考資料REF,並依據高光譜參考資料REF將參考影像資料202之複數個參考影像204轉換成一高光譜參考影像資料206之複數個高光譜參考影像2062,接續取得一窄頻轉換函數210與一第一光源參數212,處理單元12依據高光譜參考影像資料206之複數個高光譜參考影像2062、窄頻轉換函數210與第一光源參數212進行三色刺激值方程式運算106,取得一窄頻模擬影像資料214,其包含複數個窄頻模擬影像2142,處理單元12依據窄頻模擬影像資料214比對窄頻內視鏡22依據該參考物件2所提供之窄頻參考影像資料222,也就是比對窄頻模擬影像資料214之窄頻模擬影像2142與窄頻參考影像資料222之窄頻參考影像224,取得一色差資料216,其包含複數個色差值2162,處理單元12依據色差資料216與第一光源參數212進行雙模擬退火演算法108之運算,取得一第二光源參數212A,藉此,讓光源參數獲得最佳化。
接續,如第八圖所示,膠囊內視鏡420擷取一待測物O之一輸入影像資料202A,其包含複數個輸入影像204A,並提供至工作站410,工作站410之處理單元12依據高光譜參考資料REF將輸入影像資料202A轉換為高光譜輸入影像資料206A,其包含複數個高光譜輸入影像2062A,接續依據高光譜輸入影像資料206A、窄頻轉換函數210與第二光源參數212A進行三色刺激值方程式運算106,取得一窄頻影像資料218,其包含複數個窄頻影像2182,以提高輸入影像資料202A之影像辨識度,且提升輸入影像資料202A之清晰度,如第九圖與第十圖所示,輸入影像204A相較於窄頻影像2182,窄頻影像2182之微血管的分布情形較為明顯,對於異常性組織增生,能較為清楚辨識,且為清晰呈現微血管分布。
綜上所述,本發明之內視鏡影像之窄頻影像轉換方法,其提供運算裝置取得一內視鏡之一參考影像資料與一窄頻內視鏡之一窄頻參考影像資料,再將參考影像資料轉換為高光譜參考影像資料,以分析高光譜參考影像資料,而取得一窄頻轉換參數及一第一光源參數,接續基於窄頻轉換參數及第一光源參數將高光譜參考影像資料轉換為窄頻模擬影像,再比對先前取得之窄頻參考影像資料而取得一色差資料,進而依據色差資料與第一光源參數進行運算,取得一第二光源參數,進而最佳化窄頻光源,藉此利用窄頻轉換參數與第二光源參數將輸入影像資料轉換為對應之窄頻影像資料,以提高輸入影像資料之影像辨識度,且提升輸入影像資料之清晰度,進而讓微血管的分布情形較為明顯,對於異常性組織增生,能較為清楚辨識,且為清晰呈現組織之微血管分布。
故本發明實為一具有新穎性、進步性及可供產業上利用者,應符合我國專利法專利申請要件無疑,爰依法提出發明專利申請,祈 鈞局早日賜准專利,至感為禱。
惟以上所述者,僅為本發明之較佳實施例而已,並非用來限定本發明實施之範圍,舉凡依本發明申請專利範圍所述之形狀、構造、特徵及精神所為之均等變化與修飾,均應包括於本發明之申請專利範圍內。
S10至S22:步驟
Claims (9)
- 一種內視鏡影像之窄頻影像轉換方法,其步驟包含: 透過一第一影像擷取單元擷取一參考物件之一參考影像資料及透過一第二影像擷取單元擷取該參考物件之一窄頻參考影像資料,並透過該第一影像擷取單元與該第二影像擷取單元傳送該參考影像資料與該窄頻參考影像資料至一運算裝置; 透過該運算裝置依據該參考影像資料與該窄頻參考影像資料進行運算,取得一高光譜參考影像資料、一窄頻轉換參數與一第一光源參數; 透過該運算裝置依據該高光譜參考影像資料、該窄頻轉換參數與該第一光源參數,產生一窄頻模擬影像資料; 透過該運算裝置比對該窄頻參考影像資料與該窄頻模擬影像資料取得一色差資料; 透過該運算裝置依據該色差資料與該第一光源參數進行運算,取得一第二光源參數; 透過該第一影像擷取單元擷取一待測物之一輸入影像資料,並透過該第一影像擷取單元擷取該輸入影像資料至該運算裝置;以及 透過該運算裝置依據該輸入影像資料、該窄頻轉換參數與該第二光源參數,產生該待測物之一窄頻影像資料。
- 如請求項1所述之內視鏡影像之窄頻影像轉換方法,其中於透過該運算裝置將該參考影像資料轉換為該參考物件之一高光譜參考影像資料之步驟中,該運算裝置依據一高光譜轉換參數將該參考影像資料轉換為該高光譜參考影像資料。
- 如請求項1所述之內視鏡影像之窄頻影像轉換方法,其中於透過該運算裝置依據該高光譜參考影像資料、該窄頻轉換參數與該第一光源參數,產生一窄頻模擬影像資料之步驟中,該運算裝置執行一三色刺激值運算方程式並依據該窄頻轉換參數與該第一光源參數運算該高光譜參考影像資料,以產生該窄頻模擬資料,該第一光源參數對應於該窄頻模擬資料之一窄波段參數。
- 如請求項1所述之內視鏡影像之窄頻影像轉換方法,其中於透過該運算裝置依據該輸入影像資料、該窄頻轉換參數與該第二光源參數,產生一窄頻影像資料之步驟中,該運算裝置執行一三色刺激值運算方程式並依據該窄頻轉換參數與該第二光源參數運算該輸入影像資料,產生該窄頻影像資料,該第二光源參數對應於該窄頻影像資料之一窄波段參數。
- 如請求項1所述之窄頻影像生成方法,其中該第二光源參數對應之至少一第二目標波段參數為575奈米波長至588奈米波長、640奈米波長至666奈米波長、705奈米波長至744奈米波長或445奈米波長至458奈米波長、575奈米波長至588奈米波長、640奈米波長至666奈米波長、705奈米波長至744奈米波長之組合。
- 如請求項1所述之內視鏡影像之窄頻影像轉換方法,其中於透過該運算裝置依據該色差資料與該第一光源參數進行運算,取得一第二光源參數之步驟中,該運算裝置執行一雙模擬退火演算法(Dual Simulated Annealing Algorithm)並依據該色差資料與該第一光源參數進行運算,取得該第二光源參數。
- 如請求項1所述之內視鏡影像之窄頻影像轉換方法,其中於透過該運算裝置依據該高光譜參考影像資料與該窄頻參考影像資料進行運算,取得一窄頻轉換參數與一第一光源參數之步驟中,其包含: 依據該參考影像資料取得一參考光譜與一反射參考頻譜; 依據該窄頻參考影像資料取得一窄頻參考光譜與一窄頻反射參考頻譜; 依據一反射頻譜空間轉換函數從該反射參考頻譜與該窄頻反射參考頻譜取得一反射頻譜空間參數; 依據一光譜空間轉換函數從該參考光譜與該窄頻參考光譜取得該第一光源參數; 依據該反射頻譜空間參數與該第一光源參數,取得一校正矩陣; 依據該高光譜參考影像資料之一校正矩陣與一反射頻譜空間參數,取得一校正空間參數與該高光譜參考影像資料;以及 依據該校正空間參數、該窄頻參考影像資料之一反射參考頻譜與該窄頻反射參考頻譜,取得該窄頻轉換參數。
- 如請求項7所述之內視鏡影像之窄頻影像轉換方法,其中於依據一參考影像資料取得一參考光譜與一反射參考頻譜之步驟中,該運算裝置擷取該參考物件之每一顏色之RGB影像,以分析取得對應之該參考光譜與該反射參考頻譜。
- 如請求項1所述之內視鏡影像之窄頻影像轉換方法,其中於透過該運算裝置比對該窄頻參考影像資料與該窄頻模擬影像資料取得一色差資料之步驟中,該運算裝置係計算出該窄頻參考影像資料與該窄頻模擬影像資料之一第一均方根誤差資料與一第二均方根誤差資料,並比對該第一均方根誤差資料與該第二均方根誤差資料,取得該色差資料。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| TW112146258A TWI869079B (zh) | 2023-11-29 | 2023-11-29 | 內視鏡影像之窄頻影像轉換方法 |
| US18/590,995 US20250173921A1 (en) | 2023-11-29 | 2024-02-29 | Method for converting endoscope images to narrow band images |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| TW112146258A TWI869079B (zh) | 2023-11-29 | 2023-11-29 | 內視鏡影像之窄頻影像轉換方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| TWI869079B true TWI869079B (zh) | 2025-01-01 |
| TW202522943A TW202522943A (zh) | 2025-06-01 |
Family
ID=95152148
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| TW112146258A TWI869079B (zh) | 2023-11-29 | 2023-11-29 | 內視鏡影像之窄頻影像轉換方法 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US20250173921A1 (zh) |
| TW (1) | TWI869079B (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20080294105A1 (en) * | 2000-07-21 | 2008-11-27 | Olympus Corporation | Endoscope device |
| US20170100018A1 (en) * | 2014-11-13 | 2017-04-13 | Olympus Corporation | Endoscope system |
| CN115736791A (zh) * | 2022-11-28 | 2023-03-07 | 北京大学 | 内窥镜成像装置及方法 |
| TW202336707A (zh) * | 2022-03-04 | 2023-09-16 | 國立中正大學 | 於超頻譜影像之物件偵測方法 |
-
2023
- 2023-11-29 TW TW112146258A patent/TWI869079B/zh active
-
2024
- 2024-02-29 US US18/590,995 patent/US20250173921A1/en active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20080294105A1 (en) * | 2000-07-21 | 2008-11-27 | Olympus Corporation | Endoscope device |
| US20170100018A1 (en) * | 2014-11-13 | 2017-04-13 | Olympus Corporation | Endoscope system |
| TW202336707A (zh) * | 2022-03-04 | 2023-09-16 | 國立中正大學 | 於超頻譜影像之物件偵測方法 |
| CN115736791A (zh) * | 2022-11-28 | 2023-03-07 | 北京大学 | 内窥镜成像装置及方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20250173921A1 (en) | 2025-05-29 |
| TW202522943A (zh) | 2025-06-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8027533B2 (en) | Method of automated image color calibration | |
| TWI796156B (zh) | 以波段用於超頻譜檢測物件影像之方法 | |
| JP4632645B2 (ja) | イメージング装置およびプロセッサ装置 | |
| WO2014073527A1 (ja) | 医療用画像処理装置 | |
| CN105748027B (zh) | 应用于内窥镜的成像方法和系统 | |
| CN116269160A (zh) | 内窥镜系统、医用导管、图像处理方法及计算机存储介质 | |
| TWI803223B (zh) | 於超頻譜影像之物件偵測方法 | |
| TWI869079B (zh) | 內視鏡影像之窄頻影像轉換方法 | |
| TWI859890B (zh) | 窄頻影像生成方法 | |
| TWI821149B (zh) | 內視鏡冗餘影像除去方法 | |
| TWI762388B (zh) | 以超頻譜檢測物件影像之方法 | |
| Zhang et al. | Medical biometrics: computerized TCM data analysis | |
| Kobayashi et al. | Telepathology support system with gross specimen image using high resolution 4K multispectral camera | |
| Lu et al. | Research progress in narrow-band imaging of capsule endoscopes based on hyperspectral image conversion technology | |
| US20250331746A1 (en) | Method, processor, and medical fluorescence observation device using a color-dependent color conversion function | |
| US20250331722A1 (en) | Method, processor, and medical fluorescence observation device using two color images and color cameras for fluorescence and white-light | |
| US20250302276A1 (en) | Method, processor, and medical fluorescence observation device using two color images to record fluorescence | |
| US20250331709A1 (en) | Method, processor, and medical fluorescence observation device for toggling images | |
| CN112601486B (zh) | 图像处理装置、图像处理方法、内窥镜系统和内窥镜观察方法 | |
| Kim | Application of an Optimal Color Correction Method Adapted to Lighting Conditions in a Daily-Use Tongue Diagnosis System | |
| Bountris et al. | Detection and classification of suspicious areas in autofluorescence bronchoscopy | |
| TW202443487A (zh) | 用於偵測組織出血之影像分析方法 | |
| RU2226071C2 (ru) | Способ колориметрии слизистых оболочек при видеоэндоскопических исследованиях | |
| CN115174876A (zh) | 一种医用内窥镜成像颜色分析与校正用色标设计与制作方法 | |
| JP2022163581A (ja) | 制御装置、制御プログラムおよび制御方法 |