TWI885205B - 具有顯示像素操作的顯示器下方相機同步 - Google Patents
具有顯示像素操作的顯示器下方相機同步 Download PDFInfo
- Publication number
- TWI885205B TWI885205B TW110133743A TW110133743A TWI885205B TW I885205 B TWI885205 B TW I885205B TW 110133743 A TW110133743 A TW 110133743A TW 110133743 A TW110133743 A TW 110133743A TW I885205 B TWI885205 B TW I885205B
- Authority
- TW
- Taiwan
- Prior art keywords
- camera sensor
- display
- blanking period
- brightness level
- image capture
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1637—Details related to the display arrangement, including those related to the mounting of the display in the housing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1686—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
- G09G3/22—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources
- G09G3/30—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels
- G09G3/32—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED]
- G09G3/3208—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED] organic, e.g. using organic light-emitting diodes [OLED]
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/12—Synchronisation between the display unit and other units, e.g. other display units, video-disc players
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/02—Constructional features of telephone sets
- H04M1/0202—Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
- H04M1/026—Details of the structure or mounting of specific components
- H04M1/0264—Details of the structure or mounting of specific components for a camera module assembly
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/02—Constructional features of telephone sets
- H04M1/0202—Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
- H04M1/026—Details of the structure or mounting of specific components
- H04M1/0266—Details of the structure or mounting of specific components for a display module assembly
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/665—Control of cameras or camera modules involving internal camera communication with the image sensor, e.g. synchronising or multiplexing SSIS control signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/04—Synchronising
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2310/00—Command of the display device
- G09G2310/08—Details of timing specific for flat panels, other than clock recovery
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/06—Adjustment of display parameters
- G09G2320/0693—Calibration of display systems
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/14—Detecting light within display terminals, e.g. using a single or a plurality of photosensors
- G09G2360/144—Detecting light within display terminals, e.g. using a single or a plurality of photosensors the light being ambient light
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/16—Calculation or use of calculated indices related to luminance levels in display data
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
- H04N7/144—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display camera and display on the same optical axis, e.g. optically multiplexing the camera and display for eye to eye contact
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- General Engineering & Computer Science (AREA)
- Studio Devices (AREA)
- Controls And Circuits For Display Device (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
- Liquid Crystal Display Device Control (AREA)
Abstract
實例影像擷取裝置包括記憶體,其被配置為儲存從相機感測器接收的顯示內容和影像資訊,該相機感測器被配置為經由顯示器的至少一部分接收光。影像擷取裝置包括耦合到記憶體的一或多個處理器。該一或多個處理器被配置為決定相機感測器消隱期。該一或多個處理器被配置為控制顯示器在相機感測器消隱期期間經由顯示器的至少一部分中的複數個像素中的一或多個來顯示內容。該一或多個處理器被配置為控制顯示器在相機感測器消隱期之外不經由複數個像素中的一或多個顯示內容。
Description
本案一般係關於影像擷取裝置。
影像擷取裝置(例如,數位相機)通常被併入各種各樣的設備中。在本案中,影像擷取裝置是指可以擷取一或多個數位影像的任何設備,包括可以擷取靜止影像的設備以及可以擷取影像序列以記錄視訊的設備。例如,影像擷取裝置可以包括獨立的數位相機或數位視訊攝錄影機(camcorder)、配備相機的無線通訊設備(諸如行動電話(包括蜂巢或衛星無線電電話))、配備相機的平板電腦或個人數位助理(PDA)、包括相機(諸如所謂的「網路攝像機」)的電腦設備、虛擬實境及/或增強現實頭戴式設備、或者具有數位成像或視訊能力的任何設備。
通常,本案描述了用於當相機在具有設置在顯示器下方的相機感測器的影像擷取裝置中開啟時顯示內容的技術。如本文所使用,「內容」可以包括由影像擷取裝置擷取的(多個)影像、儲存在記憶體位置中的檔的視覺表示、軟體應用、包括GUI的使用者介面、網路可存取內容物件、由影像擷取裝置接收但未擷取的影像(例如,下載的影像、經由文字訊息發送的影像、經由電子郵件發送的影像、經由應用發送的影像等)、背景影像和其他資訊。此外,如本文所使用,設置在顯示器下方的相機感測器意味著相機感測器被配置為接收經由顯示器的至少一部分的光。這種相機感測器在本文中亦可以被稱為顯示器下方相機。
用於最大化影像擷取裝置上的顯示器尺寸的一種方式是將一或多個相機感測器放置在顯示器下方,使得該一或多個相機感測器接收穿過顯示器的至少一部分的光。在一些實例中,顯示器可以是液晶顯示器(LCD)、發光二極體(LED)顯示器、有機發光二極體(OLED)顯示器、主動矩陣有機發光二極體(AMOLED)、或其他顯示器。當相機感測器被定位成使得相機感測器接收穿過顯示器的至少一部分的光並且顯示器正在顯示內容時,可以其他方式被相機感測器接收的光可能被散射。例如,當相機感測器上方區域中的一或多個像素是活動的或被定址時可經由顯示器到達相機感測器的光少於當相機感測器上方區域中沒有像素是活動的或被定址時可到達相機感測器的光。因此,散射光可以衰減到達相機感測器的光。衰減光可以降低所擷取影像的影像品質。
本案描述了用於避免或減輕由顯示內容引起的接收光的衰減的技術。本案亦描述了用於避免降低顯示內容的品質同時避免或減輕由顯示內容引起的接收光的衰減的技術。
在一個實例中,本案描述了影像擷取裝置,包括記憶體,其被配置為儲存從相機感測器接收的顯示內容和影像資訊,該相機感測器被配置為接收經由顯示器的至少一部分的光;及一或多個處理器,其耦合到記憶體,該一或多個處理器被配置為:決定相機感測器消隱期;控制顯示器在相機感測器消隱期期間經由顯示器的至少一部分中的複數個像素中的一或多個來顯示內容;及控制顯示器在相機感測器消隱期之外不經由複數個像素中的一或多個顯示內容。
在本案的另一實例中,方法包括決定相機感測器消隱期,該相機感測器消隱期與被配置為接收經由顯示器的至少一部分的光的相機感測器相關聯;在相機感測器消隱期期間經由顯示器的至少一部分中的複數個像素中的一或多個來顯示內容;及避免在相機感測器消隱期之外經由複數個像素中的一或多個來顯示內容。
在另一實例中,本案描述了一種儲存指令的非暫時性電腦可讀取儲存媒體,該等指令在被執行時使一或多個處理器:決定相機感測器消隱期,該相機感測器消隱期與被配置為接收經由顯示器的至少一部分的光的相機感測器相關聯;控制顯示器在相機感測器消隱期期間經由顯示器的至少一部分中的複數個像素中的一或多個來顯示內容;及控制顯示器在相機感測器消隱期之外不經由複數個像素中的一或多個顯示內容。
在另一實例中,影像擷取裝置包括用於決定相機感測器消隱期的部件,該相機感測器消隱期與被配置為接收經由顯示器的至少一部分的光的相機感測器相關聯;用於控制顯示器在相機感測器消隱期期間經由顯示器的至少一部分中的複數個像素中的一或多個來顯示內容的部件;及用於控制顯示器在相機感測器消隱期之外不經由複數個像素中的該一或多個顯示內容的部件。
在附圖和以下描述中闡述了本案的一或多個態樣的細節。本案中描述的技術的其他特徵、目的和優點將從描述、附圖和請求項中變得顯而易見。
本案描述了用於當相機開啟時在具有顯示器下方相機感測器的影像擷取裝置中在顯示器中顯示影像的技術。顯示器可以使用具有像素結構的透明材料,該像素結構被設計為使得光可以穿過顯示器到達相機感測器。以這種方式使用的相機感測器可以比其他前置「自拍」相機更大,並且可以具有更寬的光圈鏡頭。此外,複數個相機感測器可以設置在顯示器下方。例如,相機感測器的數量及/或相機感測器尺寸不需要受到顯示器周圍的邊框或邊界空間的限制或約束。經由定位相機感測器使得相機感測器接收經由設備上的顯示器的至少一部分(例如,顯示器下方)的光,當與在設備的正面上具有專用於(多個)相機感測器的空間的類似尺寸的設備相比時,可用顯示空間的尺寸可以被擴大。可替代地,可以使用更小的形狀因數來提供相同的可用顯示尺寸。例如,當(多個)相機感測器被定位成使得相機感測器接收經由顯示器的至少一部分(例如,顯示器下方)的光時,可能不需要更大的邊框,這是因為(多個)相機感測器不位於邊框上,而是在顯示器下方。這有助於使用較小的形狀因數來實現相同的可用顯示尺寸。此外,經由定位相機感測器以使得相機感測器接收經由至少一部分顯示器(例如,顯示器下方)的光,相機感測器可以放置在顯示器下方的任何地方。例如,相機感測器可以位於使用者的眼睛在進行「自拍」時可能朝向的地方。以這種方式,在由相機感測器擷取的影像中的眼睛的凝視可能看起來是在注視相機而不是相機下方,如相機感測器位於顯示器上方或靠近影像擷取裝置頂部時可能發生的一般。儘管在本文整體上關於「自拍」相機描述了本案的技術,但是本案的技術亦可以應用於位於設備上的顯示器下方的後置相機。
在許多影像擷取裝置中,可能需要最大化影像擷取裝置上的顯示器的尺寸。對於較小的影像擷取裝置(諸如行動電話和其他行動設備),情況尤其如此。許多影像擷取裝置(例如,行動設備)包括面向行動設備的使用者的前置相機(「自拍」相機)。最大化具有(多個)前置相機的影像擷取裝置的顯示尺寸並非沒有限制。前置相機位於影像擷取裝置的正面的設備邊緣與顯示器邊緣之間。為了最大化具有前置相機的影像擷取裝置的顯示尺寸,一些製造商已經擴大了顯示器並在顯示器中引入凹口(notch),以避免顯示器覆蓋相機感測器。其他的製造商已經擴大了顯示器以基本上覆蓋影像擷取裝置的正面並且添加了彈出式相機,而不是將相機感測器放置在影像擷取裝置的主體上。
用於最大化顯示器尺寸的一種方式是將相機感測器定位在顯示器下方(例如,以使得相機感測器接收經由顯示器的至少一部分的光的方式)。然而,經由將相機感測器定位在顯示器下方,顯示器可能會導致衰減、空間步幅(stride)和陰影、光散射或漫射、及/或由相機感測器擷取的影像訊號中的其他不良影響,尤其是當顯示器正在顯示內容時。例如,相機感測器正上方的子像素中的一些或全部可能正在主動顯示內容,相機感測器接收的光可能少於當相機感測器正上方的子像素未在主動顯示內容時相機感測器將接收的光,這可能會導致相機感測器所擷取的影像品質較差。
在一些影像擷取裝置中,可以採用技術來嘗試減輕當顯示器主動顯示內容時經由顯示器的光衰減對所擷取影像品質的影響。例如,一些影像擷取裝置可能在影像顯示期間僅定址或開啟相機感測器上方的像素的子集。儘管這可能會減輕由於顯示內容導致的由相機感測器接收的光的衰減量,但是這亦可能對相機感測器上方區域中的顯示內容的品質產生負面影響,因為相比顯示器的剩餘部分,較少的像素被用於在該區域中顯示內容。與顯示器的其他區域相比,使用較少的像素來顯示內容可能會導致顯示器的該區域出現塊效應或缺乏細節。這種使用較少的畫面來在相機感測器上顯示內容可能在美學上令人不悅及/或使使用者分心。
本案的技術可以單獨來使用或以任何組合來使用。根據本案的技術,在一個實例中,影像擷取裝置可以包括被配置為儲存從相機感測器接收的顯示內容和影像資訊的記憶體,該相機感測器被配置為接收經由顯示器的至少一部分的光。影像擷取裝置可以包括耦合到記憶體的一或多個處理器。一或多個處理器可以被配置為決定相機感測器消隱期,控制顯示器在相機感測器消隱期期間經由顯示器的至少一部分中的複數個像素中的一或多個來顯示內容,以及控制顯示器在相機感測器消隱期之外不經由複數個像素中的一或多個像素顯示內容。
根據本案的技術,在另一實例中,影像擷取裝置可以包括被配置為儲存從相機感測器接收的顯示內容和影像資訊的記憶體,該相機感測器被配置為接收經由顯示器的至少一部分的光。影像擷取裝置可以包括耦合到記憶體的一或多個處理器。一或多個處理器可以被配置為決定複數個像素中的一或多個像素的第一亮度位凖。一或多個處理器可以被配置為決定複數個像素中的一或多個的第二亮度位凖。一或多個處理器可以被配置為控制顯示器在相機感測器消隱期期間經由複數個像素中的一或多個以第二亮度位凖顯示內容。第二亮度位凖可以大於第一亮度位凖並且至少部分地基於第一亮度位凖。
圖1是示出可以被配置為執行本案的技術的設備2的方塊圖。設備2可以形成影像擷取裝置或能夠編碼和發送及/或擷取靜止影像及/或視訊序列的數位視訊設備的全部或部分。例如,設備2可以形成無線行動通訊設備的一部分,諸如蜂巢式電話或衛星無線電電話、智慧型電話、獨立數位相機或視訊攝錄影機、個人數位助理(PDA)、平板電腦、膝上型電腦或需要影像處理的具有成像或視訊能力的任何設備。
如圖1所示,設備2包括影像處理裝置4以儲存原始影像資料並對此類資料執行各種處理技術。影像處理裝置4可以包括一或多個積體電路,其包括數位訊號處理器(DSP)、片上記憶體和可能的硬體邏輯或電路。更通常,影像處理裝置4可以包括處理器、硬體、軟體、或韌體的任何組合,並且影像處理裝置4的各種部件可以如此實現。此外,若需要,影像處理裝置4可以包括單個整合晶片或編碼器/解碼器(CODEC)。
在圖1的所示實例中,影像處理裝置4包括本機記憶體8、記憶體控制器10和影像訊號處理器6。影像訊號處理器6可以是通用處理單元,或者可以是專為成像應用(例如,為手持電子設備)設計的處理器。如圖所示,影像訊號處理器6經由記憶體控制器10耦合到本機記憶體8和外部記憶體14。在一些實例中,本機記憶體8可以併入影像訊號處理器6中,例如,作為高速緩衝記憶體。
如圖1所示,影像訊號處理器6可以被配置為執行自動曝光控制(AEC)處理20、自動白平衡(AWB)處理22、自動聚焦(AF)處理24、鏡頭陰影補償(LSC)處理28及/或固定模式雜訊補償(FPNC)處理30。在一些實例中,影像訊號處理器6可以包括被配置為執行AEC處理20、AWB處理22、AF處理24、LSC處理28及/或FPNC處理30的專用硬體電路(例如,特殊應用積體電路(ASIC))。在其他實例中,影像訊號處理器6可以被配置為執行軟體及/或韌體以執行AEC處理20、AWB處理22、AF處理24、LSC處理28及/或FPNC處理30。當以軟體配置時,用於AEC處理20、AWB處理22、AF處理24、LSC處理28及/或FPNC處理30的代碼可以儲存在本機記憶體8及/或外部記憶體14中。在其他實例中,影像訊號處理器6可以使用硬體、韌體及/或軟體的組合執行AEC處理20、AWB處理、AF處理24、LSC處理28及/或FPNC處理30。當被配置為軟體時,AEC處理20、AWB處理22、AF處理24、LSC處理28及/或FPNC處理30可以包括將影像訊號處理器6配置為執行各種影像處理和設備管理任務的指令。
AEC處理20可以包括用於配置、計算、儲存及/或應用相機模組12的曝光設置的指令。曝光設置可以包括快門速度(例如,相機模組12可以擷取影像多長時間)和用於擷取影像的光圈設置。根據本案的技術,影像訊號處理器6可以使用由相機模組12的深度感測器(未圖示)接收的深度資訊來更好地辨識影像的主題並基於所辨識的主題進行曝光設置。AF處理24可以包括用於配置、計算、儲存及/或應用相機模組12的自動對焦設置的指令。
AWB處理22可以包括用於配置、計算、儲存及/或應用AWB設置(例如,AWB增益)的指令,該設置可以應用於由相機模組12擷取的一或多個影像。在一些實例中,經由AWB處理22決定的AWB增益可以應用於從中決定AWB增益的影像。在其他實例中,經由AWB處理22決定的AWB增益可以應用於在從中決定AWB增益的影像之後擷取的一或多個影像。因此,AWB增益可以應用於在從中決定AWB增益的第一影像之後擷取的第二影像。在一個實例中,第二影像可以是在從中決定AWB增益的第一影像之後緊接著擷取的影像。亦即,若第一影像是第N圖框,則要對其應用AWB增益的第二影像是第N+1圖框。在其他實例中,第二影像可以是在從中決定AWB增益的第一影像的兩個影像之後擷取的影像。亦即,若第一影像是第N圖框,則要對其應用AWB增益的第二影像是第N+2圖框。在其他實例中,AWB增益可以應用於在時間上距第一影像更遠地擷取的影像(例如,圖框N+3、圖框N+4等)。在其他實例中,AWB增益可以應用於從中決定AWB增益的第一影像。
LSC處理28可以包括用於配置、計算、儲存及/或應用鏡頭陰影補償增益的指令。例如,LSC處理28可以補償由於相機鏡頭而朝向影像邊緣減少的光。
FPNC處理30可以包括用於配置、計算、儲存及/或應用FPN補償處理的指令。例如,FPNC處理30可以從擷取的影像中減去主暗圖框以補償FPN。
本機記憶體8可以儲存原始影像資料並且亦可以在由影像訊號處理器6執行的任何處理之後儲存處理後的影像資料。本機記憶體8可以由多種非暫時性記憶體設備中的任一種組成,諸如動態隨機存取記憶體(DRAM),包括同步DRAM(SDRAM)、磁阻RAM(MRAM)、電阻RAM(RRAM)或其他類型的記憶體設備。記憶體控制器10可以控制本機記憶體8內的記憶體組織。記憶體控制器10亦可以控制從本機記憶體8到影像訊號處理器6的記憶體載入以及從影像訊號處理器6到本機記憶體8的寫回。將由影像訊號處理器6處理的影像可以在影像擷取之後從相機模組12直接載入到影像訊號處理器6中,或者可以在影像處理期間儲存在本機記憶體8中。
如所指出,設備2可以包括用於擷取將被處理的影像的相機模組12,但是本案不一定限於該態樣。相機模組12可以包括固態感測器元件陣列,諸如互補金屬氧化物半導體(CMOS)感測器元件、電荷耦合裝置(CCD)感測器元件等。替代地或補充地,相機模組12可以包括影像感測器的集合,其包括佈置在相應感測器的表面上的濾色器陣列(CFA)。相機模組12可以直接耦合到影像訊號處理器6以避免影像處理中的延遲。相機模組12可以被配置為擷取靜止影像或全運動視訊序列,在這種情況下,可以對視訊序列的一或多個影像圖框執行影像處理。
相機模組12可以向影像訊號處理器6發送像素值(例如,以拜耳或紅綠藍(RGB)格式)及/或描述擷取影像的原始統計訊息。在一些實例中,像素值可以包含與像素之每一者的亮度位凖相關的資訊。通常,影像訊號處理器6可以被配置為分析原始統計和深度資訊以計算及/或決定成像參數,諸如感測器增益、R/G/B增益、AWB增益、快門速度、光圈尺寸等。所計算的及/或決定的成像參數可以應用於所擷取的影像,應用於一或多個隨後擷取的影像,及/或發送回相機模組12以調整曝光及/或聚焦設置。
在一些實例中,第一亮度位凖可以是當設備2的相機關閉時設備2可以針對給定像素顯示的亮度位凖。例如,像素的第一亮度位凖可以是由相機模組12擷取的亮度位凖、由相機模組12擷取的亮度位凖以及由影像訊號處理器6(例如,經由AWB處理22)處理的影像、或儲存在記憶體中的亮度位凖。在一些實例中,設備2可以基於來自相機模組12上方的區域之外的一或多個像素的亮度位凖來決定第一亮度位凖,而不是根據相機模組12中的像素值或根據影像訊號處理器6獲得像素的第一亮度位凖。例如,設備2可以經由決定相機模組12正上方區域之外的像素的亮度位凖來決定像素的第一亮度位凖。在另一實例中,一或多個處理器110可以經由決定相機模組12上方區域之外的複數個像素的平均亮度位凖來決定像素的第一亮度位凖。
設備2可以包括被配置為顯示內容的顯示器16。在一些實例中,顯示內容可以是由相機模組12擷取的影像。在由影像訊號處理器6對所擷取的影像的影像處理之後,可以將影像寫入本機記憶體8或外部記憶體14。隨後可以將處理後的影像發送到顯示器16以呈現給使用者。補充地或替代地,顯示器16可以顯示其他資訊,包括儲存在記憶體位置(例如,外部記憶體14)中的檔的視覺表示、安裝在影像訊號處理器6中的軟體應用、包括GUI的使用者介面、網路可存取內容物件、由影像擷取裝置接收但未擷取的影像(例如,下載的影像、經由文字訊息發送的影像、經由電子郵件發送的影像、經由應用發送的影像等)、背景影像和其他資訊。顯示器16可以以圖框速率顯示內容。例如,顯示器16可以顯示30圖框每秒(fps)。所顯示的每一圖框可以具有顯示圖框長度,亦即,圖框被顯示的時間長度,其等於圖框速率的倒數(例如,一除以圖框速率)。例如,若顯示器16具有30 fps的圖框速率,則每個顯示圖框的長度約為0.0333秒。
在一些實例中,設備2可以包括多個記憶體。例如,設備2可以包括外部記憶體14,其通常包括相對大的記憶體空間。例如,外部記憶體14可以包括DRAM或FLASH記憶體。在其他實例中,外部記憶體14可以包括非揮發性記憶體或任何其他類型的資料儲存單元。與外部記憶體14相反,本機記憶體8可以包括更小和更快的記憶體空間,儘管本案不一定限於該態樣。例如,本機記憶體8可以包括SDRAM。在任何情況下,外部記憶體14和本機記憶體8僅是示例性的,並且可以組合成相同的記憶體部分,或者可以以任何數量的其他配置來實現。
設備2亦可以包括發送器(未圖示),用於將處理後的影像或編碼的影像序列發送到另一設備。實際上,本案的技術可以用於包括數位相機功能或數位視訊能力的手持無線通訊設備(諸如智慧型電話)。在那種情況下,該設備亦將包括調制器-解調器(MODEM)以促進從基頻訊號到載波波形上的無線調制,以便促進調制資訊的無線通訊。
本機記憶體8、顯示器16和外部記憶體14(以及其他元件,若需要的話)可以經由通訊匯流排15耦合。多個其他元件亦可以被包括在設備2中,但在圖1中為了簡單起見和便於說明沒有具體地示出。圖1所示的架構僅僅是示例性的,因為本文描述的技術可以用多種其他架構來實現。
設備2表示實例影像擷取裝置,其包括被配置為接收經由顯示器的至少一部分的光的相機感測器,該顯示器包括複數個像素並且被配置為經由複數個像素顯示內容;被配置為儲存顯示內容的記憶體;及耦合到相機感測器、顯示器和記憶體的一或多個處理器,該一或多個處理器被配置為:決定相機感測器消隱期;及控制顯示器在相機感測器消隱期期間經由顯示器的至少一部分中的複數個像素中的一或多個像素來顯示內容。
圖2A至2D是示出影像擷取裝置(諸如智慧型電話)的實例的方塊圖。圖2A至2D的每個影像擷取裝置可以是設備2的實例。每個影像擷取裝置被圖示為具有顯示器和前置相機感測器。在該上下文中,前置相機感測器是在典型操作中面向影像擷取裝置的使用者的相機感測器。例如,前置相機感測器通常與主顯示器位於設備的同一側。每個前置相機感測器可以是相機模組(諸如相機模組12)的一部分。例如,在圖2A中,影像擷取裝置200包括顯示器202、相機感測器204和按鈕206。按鈕206可以用於多種目的,諸如喚醒影像擷取裝置200、改變顯示器202上正在顯示的內容等。可以看出,按鈕206和相機感測器204佔據影像擷取裝置200前面的空間。經由將相機感測器204和按鈕206定位在影像擷取裝置200的前面,更少的區域可用於顯示器202。
在圖2B的實例中,另一態樣,影像擷取裝置210在正面不具有按鈕。在這種情況下,按鈕可以在側面,或者按鈕的功能可以被包括在顯示器212中(例如,經由觸摸顯示介面)。影像擷取裝置210被圖示為具有相機感測器214和凹口216。凹口216可以是在組裝影像擷取裝置210之前從顯示器移除的區域。在該實例中,凹口216所覆蓋的區域因此不是顯示器212的一部分並且不顯示內容。與圖2A的影像擷取裝置200相比,可以採用凹口216以增大影像擷取裝置210的前側由顯示器212佔據的比率。
在圖2C的實例中,影像擷取裝置220具有顯示器222和彈出式相機226。相機感測器224可以被包含在彈出式相機226中。在影像擷取裝置220的實例中,整個顯示器222可以顯示內容並且不存在諸如圖2B的影像擷取裝置210中的凹口。
在圖2D的實例中,影像擷取裝置230具有顯示器232和相機感測器234。在一些實例中,影像擷取裝置230可以具有不止一個相機感測器。例如,影像擷取裝置230可以具有相機感測器234和相機感測器238。影像擷取裝置230可以包括或者是設備2的實例,並且顯示器232可以是顯示器16的實例。在圖2D的影像擷取裝置230的實例中,與圖2A至2C的實例不同,相機感測器234和相機感測器238佈置在顯示器232下方。在一些實例中,相機感測器234或相機感測器238中的一部分而非全部可以設置在顯示器232下方。顯示器232可以包括透明層。將關於圖5、7、8A、8B和9進一步論述顯示器232的區域232A、顯示器232的區域232B以及顯示器232的區域232C。儘管一般參考具有設置在顯示器下方的相機感測器的影像擷取裝置(諸如影像擷取裝置230)描述了本案的技術,但是本案的技術可以用於其他影像擷取裝置,諸如影像擷取裝置200、210和220、或者具有部分設置在顯示器下方的相機感測器的影像擷取裝置。
現在參考圖2A至2D之每一者,影像擷取裝置200具有比影像擷取裝置210、220和230更大的形狀因數,但具有與影像擷取裝置220的顯示器222以及影像擷取裝置230的顯示器232相同尺寸的顯示器202,以及由於凹口216而導致的比影像擷取裝置210的顯示器212稍大的顯示器202。影像擷取裝置210具有與影像擷取裝置220和230相同尺寸的形狀因數,但是由於凹口216,它在顯示器212上具有更少的可用顯示空間。此外,凹口216可能會使一些使用者分心。影像擷取裝置220具有與影像擷取裝置230相同的形狀因數和可用顯示尺寸;但是,影像擷取裝置220在彈出式相機226中具有可移動部件。這些可移動部件可能隨著重複使用或使用者將影像擷取裝置220掉落到硬表面上而損壞或卡住。因此,可能需要將相機感測器定位在顯示器下方,這是因為將相機感測器定位在顯示器下方可以最大化顯示空間,同時避免開凹口或移動機械部件。
此外,利用圖2D的影像擷取裝置230,相機感測器234可以位於顯示器232下方的任何位置。在該實例中,相機感測器被示為位於顯示器232的中間。此類位置相對於影像擷取裝置200、影像擷取裝置210和影像擷取裝置220中的前置相機感測器的位置可能是更期望的。例如,嘗試進行「自拍」的使用者可以在影像擷取裝置的顯示器上查看他們自己的即時影像。相機感測器離使用者的眼睛所指向的位置越遠,則將被擷取的影像就越有可能圖示出眼睛遠離相機感測器凝視的情況。這種眼睛凝視現象可能會導致美學上無吸引力的影像,其中使用者的凝視出現在人們可能期望他們注視的位置的下方(或上方)(例如,不是朝向影像的觀看者的眼睛,而是從影像的觀看者的眼睛向下(或向上),諸如在影像的觀看者的頭部下方或上方)。
圖3是如圖2D中所示的影像擷取裝置230的實例的分解側視圖的方塊圖。為了簡單起見,相機感測器238未在圖3或剩餘附圖中示出,並且可以類似於本文描述的相機感測器234工作。在圖3的實例中,影像擷取裝置230包括顯示器232、相機感測器(CS)234和外殼236。外殼236可以包括電子電路板、處理器、記憶體、電池、射頻電路、天線和其他部件。如圖所示,顯示器232設置在相機感測器234上方並且相機感測器234設置在顯示器232下方或之下。在該實例中,如在圖2D中,相機感測器234是前置相機。相機感測器234被配置為經由接收穿過顯示器232的至少一部分的環境光來擷取影像。亦即,相機感測器234可以接收在入射到相機感測器234之前穿過顯示器232的至少一部分的環境光。如本文所使用,位於顯示器下面、下方或之下的相機感測器或者位於相機感測器上方的顯示器意欲描述相機感測器被配置和定位為使得經由接收穿過顯示器(諸如顯示器232)的至少一部分的環境光來擷取影像。顯示器232可以在顯示內容時朝向使用者且通常遠離相機感測器234發射光。相機感測器234可以在顯示器232正主動顯示內容的同時或當其主動顯示內容時主動地擷取(多個)影像。換句話說,相機感測器234可以接收穿過顯示器232的至少一部分的環境光,同時顯示器232可以朝向使用者發射光。
圖4A和4B是可以根據本案的技術使用的實例OLED顯示器的簡化圖。儘管圖4A和4B被圖示為OLED顯示器,但本案的技術可以用於被配置為允許光穿過顯示器到達位於顯示器下方的相機感測器的任何顯示器,諸如LCD、LED、AMOLED(其是OLED顯示器的特定實例)或其他顯示器。在圖4A和4B中,儘管實例OLED顯示器被圖示為具有三層,但OLED顯示器可以由更多層組成。
在圖4A的實例中,OLED顯示器250包括陰極層252、有機發光材料層254和陽極層256。例如,當電流經由有機發光材料層254在陰極層252與陽極層256之間流動時,OLED顯示器250可以發光,從而使(多個)影像出現在OLED顯示器250上。以這種方式,OLED有機發光材料層254可以經由陰極層252朝向使用者發射光。在一些實例中,相機感測器234可以在有機發光材料層254可能發光的同時接收環境光。在圖4A的實例中,環境光可以照射到陰極層252的表面。該環境光的一部分可以穿過陰極層252、有機發光材料層254和陽極層256。在該實例中,陰極層252和陽極層256可能不透明。此外,有機發光材料層254可以具有RGB、RGBW(其中W為白色)、WRGB(其中W為白色)、RGBG(紅綠藍綠)或可能使環境光穿過有機發光材料層254受到阻礙、衰減或扭曲的其他子像素。因此,穿過OLED顯示器250的環境光的量可能相對較小(示為透射光)。如此相機感測器234可能不會接收到非常多的如細箭頭所示的透射光。這可能導致由相機感測器擷取的影像的不良影像品質。
在圖4B的實例中,OLED顯示器260包括透明陰極層262、有機發光材料層264和透明陽極層266。如在圖4A的實例中,當電流經由有機發光材料層264在透明陰極層262與透明陽極層266之間流動時,OLED顯示器260可以發射光,從而使(多個)影像出現在OLED顯示器260上。以這種方式,OLED有機發光材料層264可以經由透明陰極層262向使用者發射光。在圖4B的實例中,由於透明陰極層262和透明陽極層266都是透明的,因此更多的環境光可以經由OLED顯示器260透射到相機感測器234。相機感測器234可以接收在入射到相機感測器234之前穿過OLED顯示器260的至少一部分的環境光(被示為如粗箭頭所表示的透射光)。在一些實例中,相機感測器234可以在有機發光材料層264可能發射光的同時接收環境光。在圖4B的實例中,類似於在圖4A的實例中,有機發光材料層264可以包含RGB、RGBW或WRGB子像素,這些子像素可以使穿過有機發光材料層264的環境光受到阻礙、衰減或扭曲。整體上,例如,由於透明陰極層262和透明陽極層266都是透明的,圖4B的實例中的衰減或扭曲可能少於圖4A中的衰減或扭曲。然而,由於子像素阻礙、衰減或扭曲環境光,影像品質可能仍然不理想。
圖5是圖示用於在相機開啟時在具有顯示器下方相機感測器的影像擷取裝置中顯示內容的實例技術的概念圖。當相機開啟時,諸如在影像擷取期間或在影像擷取應用(例如,相機應用或視訊應用)的執行期間,影像擷取裝置可以關閉或不定址相機感測器上方的某些顯示像素,以提高影像擷取品質並減少干擾,例如,該干擾可能來自相機感測器上方的顯示內容。若相機關閉,則那些像素可以用作顯示像素。在一些實例中,當影像擷取應用在設備2中執行時,相機開啟並且影像擷取應用開啟。在一些實例中,當影像擷取應用沒有在設備2中執行時,相機關閉並且影像擷取應用關閉。
在圖5的實例中,顯示器的一個區、區域或部分主動使用一個區、區域或部分的所有像素來顯示內容,而顯示器的另一區、區域或部分可能僅主動使用另一區、區域或部分的像素中的一些來顯示內容。圖5圖示了可以顯示的影像的兩個不同視圖,每個視圖內的每個框代表顯示器中的像素。視圖270圖示了可以顯示在諸如顯示器232的顯示器的區域中的影像,其可能不位於諸如相機感測器234的相機感測器上方。在圖2D中,顯示器的該區域被示為區域232A。區域232A中的所有像素可以用於顯示內容,諸如視圖270中所示。
視圖272圖示了可以在相機感測器上方的顯示器區域中顯示的影像,諸如圖2D的區域232B或區域232C。在視圖272中,像素子集正主動顯示內容。在一些實例中,區域232B可以與相機感測器234的尺寸相同。在其他實例中,區域232B可以與相機感測器234的尺寸不同。例如,區域232B可以大於相機感測器234,或者區域232B可以小於相機感測器234。在一些實例中,區域232C可以與相機感測器238的尺寸相同。在其他實例中,區域232C可以與相機感測器238的尺寸不同。例如,區域232C可以大於相機感測器238,或者區域232C可以小於相機感測器238。在視圖272的實例中,顯示器232所利用的活動像素的位置是用於顯示內容的每個四像素組(例如,經由虛白線與其他四像素組分離的組274)中的左上像素(例如,像素273),並且每個四像素組中的其他像素未被利用。對每個四像素組中的左上像素的使用作為一個實例提供。可以使用其他配置。
在一些實例中,視圖272可以僅在相機開啟時(例如,設備2正在執行諸如相機應用或視訊應用的影像擷取應用)被顯示在相機感測器234上方的區域232B中,並且視圖270可以被顯示在區域232A中。在一些實例中,視圖272可以僅在相機感測器234被主動用於擷取(多個)影像時被顯示在相機感測器234上方的區域232B中,並且視圖270(例如,使用所有像素)可以顯示在區域232A中。在一些實例中,視圖272可以僅在相機開啟時(例如,設備2正在執行諸如相機應用或視訊應用的影像擷取應用)被顯示在相機感測器238上方的區域232C中,並且視圖270可以顯示在區域232A中。在一些實例中,視圖272可以僅在相機感測器238被主動用於擷取(多個)影像時被顯示在相機感測器238上方的區域232C中,並且視圖270(例如,使用所有像素)可以顯示在區域232A中。在一些實例中,視圖270(例如,使用所有像素)可以在相機關閉時被用於區域232A、區域232B和區域232C中。在一些實例中,視圖270(例如,使用所有像素)可以在相機感測器234沒有被主動用於擷取(多個)影像時被用於區域232A、區域232B和區域232C中。例如,視圖272可以在設備2正在執行影像擷取應用(例如,相機應用或視訊應用)時被顯示在區域232B中。
當相機感測器234被主動用於擷取(多個)影像以減少光散射和由此產生的環境光的衰減時,可能希望在區域232B中顯示視圖272,該衰減可能由顯示內容引起並由相機感測器234接收。由此,區域232B中的像素的子集可以在相機開啟時或在相機感測器234主動擷取(多個)影像時是活動的或被定址。類似地,區域232C中的像素的子集可以在相機開啟時或在相機感測器238正在主動擷取(多個)影像時是活動的。經由減少在影像擷取期間相機感測器234(或相機感測器238)上方顯示內容的像素的數量,可以減少由於光散射而由相機感測器234接收的光的衰減。然而,經由減少相機感測器234上方的像素數量,在區域232B中顯示的影像可能出現塊狀或缺乏細節並分散注意力,因為在擷取影像時區域232B的解析度(例如,每單位區域的活動像素的數量)與區域232A相比可能減小。由於相機感測器上方的顯示像素中的一些可能在相機開啟時關閉或未被定址,因此與顯示器的其他區域(其中所有像素皆可以用於顯示內容)相比,與相機感測器上方區域中的顯示內容相關的使用者體驗可能相對較差。
根據本案的技術,在一些實例中,設備2可以控制相機感測器(例如,相機感測器234)上方的區域(例如,區域232B)中的一或多個像素在相機感測器消隱期期間主動顯示內容。在一些實例中,設備2可以控制相機感測器(例如,相機感測器234)上方的區域(例如,區域232B)中的所有像素在相機感測器消隱期期間顯示內容,從而促進顯示影像的更好影像品質。
圖6是示出根據本案的技術的實例顯示圖框和相機感測器消隱期的時序圖。圖6圖示了顯示圖框300、影像擷取事件302、影像讀出事件304和相機感測器消隱期310。在一些實例中,正在顯示的內容是由相機感測器234擷取的影像,諸如當使用者正在拍攝「自拍」時。在圖6的實例中,相機感測器消隱期310的長度小於顯示圖框300的長度。顯示圖框300具有從顯示圖框312的開始到顯示圖框314的結束的長度。如此,顯示圖框300代表圖框可以被顯示的時間長度。例如,對於30圖框每秒(fps)的顯示,顯示圖框300的長度可以等於1/30秒或大約0.033秒。例如,對於60fps的顯示,顯示圖框300的長度可以等於1/60秒或大約0.0167秒。
在許多情況下,影像擷取事件可能比顯示圖框的長度短。在影像擷取事件302期間,相機感測器234可能正在擷取影像。在相機感測器234是滾動快門相機感測器的實例中,相機感測器234可以在影像擷取事件302指示的時間內逐行擷取影像。在相機感測器234是全域快門相機感測器的實例中,相機感測器234可以一次擷取影像的所有行,在這種情況下,影像擷取事件302的時間長度可能比圖6中圖示的要短得多。
在影像讀出事件304期間,設備2可以從相機感測器234讀出資料,該資料指示在影像擷取事件302期間擷取的影像。在一些實例中,讀出可以逐行地執行,以第一行306開始並且以最後一行308結束。在一些實例中,如所圖示的,影像讀出事件304可以在時間上與影像擷取事件302重疊。在其他實例中,影像讀出事件304可能不與影像擷取事件302在時間上重疊。一個此類實例可以是當相機感測器234是全域快門相機感測器時。
影像擷取事件302和影像讀出事件304可以在顯示圖框314結束之前完成。例如,最後一行308可以在顯示圖框314結束之前的時間316處讀出。影像讀出事件304在時間316處的結束與顯示圖框314的結束之間的時間可以被稱為相機感測器消隱期310。相機感測器消隱期310可以是在顯示圖框300期間沒有影像正在被擷取或讀出的時間。
在一些實例中,與圖6的實例不同,相機感測器消隱期的長度可能不小於顯示圖框的長度。例如,在非常明亮的光情況下,相機處於30圖框每秒(33.33 ms的圖框時間)和10 ms的曝光時間,顯示速率為60圖框每秒(16.67 ms的圖框時間),則相機感測器消隱期可能是23 ms長。在該實例中,相機積分工作週期可以是10 ms(曝光時間)/33.33 ms(圖框時間),即30%。兩個顯示圖框可能會在相機圖框時間內下降。在兩個顯示圖框之外,相機感測器234可能有70%的時間,或1.4個顯示圖框。在一些此類實例中,像素值可以增強2/1.4或1.42倍(例如,第二亮度位凖可以是第一亮度位凖的1.42倍)。在該實例中,可增強的顯示像素值可以是該像素的最後的顯示像素值或兩個顯示圖框的平均值。在一些實例中,相機感測器消隱期可能不會隨著自動曝光參數而變化,因為一些自動曝光參數可能會在不改變曝光時間的情況下發生變化。
在另一實例中,在低光情況下,相機圖框速率可能為15圖框每秒,並且相機圖框時間可能為66.67 ms。在該實例中,相機感測器消隱期可以是小的,諸如2 ms,並且曝光時間可能為64.67ms。相機積分工作週期可以是64.67 ms(曝光時間)/66.67 ms(圖框時間)或97%。在該實例中,可能存在4個顯示圖框,其可能會在給定的相機圖框時間內下降。在4個顯示圖框之外,顯示像素可能開啟或被定址僅3%的時間或0.12個顯示圖框。在該實例中,像素值可以被增強4/0.12或33.33倍(例如,第二亮度位凖可以是第一亮度位凖的33.33倍)。在該實例中,可增強的顯示像素值可以是該像素的最後的顯示像素值或四個顯示圖框的平均值。
圖7是示出根據本案的技術的實例顯示圖框和相機感測器消隱期的時序圖。圖7圖示了顯示圖框300、影像擷取事件302、影像讀出事件304和相機感測器消隱期280。在圖7的實例中,相機感測器消隱期280與影像讀出事件304重疊。圖7的實例在其他態樣類似於圖6的實例。在相機感測器消隱期280期間,根據本案的技術,區域232B中的像素可以顯示第二亮度位凖的像素值。
圖8是示出根據本案的技術的實例顯示圖框、(多個)緩衝器增量和相機感測器消隱期的時序圖。在一些實例中,緩衝器增量(諸如緩衝器增量317A或緩衝器增量317B)可以與相機感測器消隱期(諸如相機感測器消隱期319)一起使用,以提供相機感測器消隱期與影像讀出事件304及/或下一個影像擷取事件318之間的分離。如此,圖8的相機感測器消隱期319可能短於圖6的相機感測器消隱期310或圖7的相機感測器消隱期280。
例如,若當前曝光時間是10 ms並且圖框時間是33 ms,則消隱時間可以等於圖框時間減去曝光時間減去緩衝器增量。若使用3 ms的緩衝器增量,則相機感測器消隱期可以等於33 ms – 10 ms – 3 ms = 20 ms。在一些實例中,緩衝器增量(例如,緩衝器增量317A)可以緊接在最後一行308被讀出之後(時間316)。在一些實例中,緩衝器增量(例如,緩衝器增量317B)可以緊接在下一個影像擷取事件318開始之前(例如,在顯示圖框314結束時)。在一些實例中,緩衝器增量可以在緊接在最後一行308被讀出之後(時間316)與緊接在下一個影像擷取事件318開始之前(例如,在顯示圖框314結束時)之間分割,或者兩個緩衝器增量可以與緊接在最後一行308被讀出之後(時間316)的緩衝器增量(例如,緩衝器增量317A)以及緊接在下一個影像擷取事件318開始之前(例如,在顯示圖框314結束時)的緩衝器增量(例如,緩衝器增量317B)一起使用。緩衝器增量(諸如緩衝器增量317A或緩衝器增量317B)可以提供一些保護,以防止在相機感測器234的影像擷取事件與影像讀出事件之間的延遲以及在相機感測器234上方的顯示器232中的區域232B中的像素上顯示內容。當影像擷取事件或影像讀出事件正在發生時,該延遲可以以其他方式導致區域232B中的像素中的內容顯示。
圖9A至9B是示出根據本案的實例顯示技術的概念圖。在圖9A中,橫軸表示時間,並且縱軸表示亮度位凖。相機感測器(諸如相機感測器234)上方的區域(諸如區域232B)中的顯示像素在時間320期間開啟,該時間可以是相機感測器消隱期340或相機感測器消隱期的一部分。在積分時間322期間,像素關閉或未被定址(例如,不顯示內容)。例如,設備2可以不在相機感測器消隱期之外(例如,相機感測器消隱期340和相機感測器消隱期342之外)在像素中顯示內容的一部分。在一些實例中,積分時間322包括其間相機感測器234主動擷取影像的時間。在一些實例中,積分時間322包括其間相機感測器234主動擷取影像的時間以及設備2從相機感測器234讀出資料的時間。在一些實例中,積分時間322包括其間相機感測器234主動擷取影像的時間、其間設備2從相機感測器234讀出資料的時間、以及一或多個緩衝器增量(例如,緩衝器增量317A或緩衝器增量317B)。由於在相機感測器234正在主動擷取影像時像素關閉或未被定址,設備2可以避免或減輕光散射以及產生的由像素中的顯示內容引起的接收光的衰減。在積分時間322之後,可以在時間324期間再次開啟或定址像素,該時間可以是相機感測器消隱期342或相機感測器消隱期的一部分。
在一些實例中,相機感測器上方的區域(諸如區域232B)中的像素之每一者可以在時間320和324期間開啟或被定址,並且在積分時間322期間關閉或不被定址。以這種方式,當相機感測器234正在主動擷取影像時,相機感測器234上方的區域232B中的像素可以關閉或不被定址,從而減輕或避免光散射以及產生的由顯示內容引起的接收光的衰減。
在圖9A的實例中,當像素開啟或被定址時像素的亮度位凖等於像素的第一亮度位凖326。例如,若第一亮度位凖是30的灰階值,則當像素在時間320期間開啟或被定址時,像素顯示灰階值為30的亮度位凖。
人眼可以充當低通濾波器。例如,螢光燈在正常使用期間會閃爍,但人可能不會感知到閃爍。相反,人可以感知到穩定的亮度位凖,這可以等同於螢光燈開啟和螢光燈關閉時的平均亮度位凖。如此,圖9A的實例中的設備2的使用者可以將像素的亮度感知為感知亮度328。亦即,使用者可能不會感知到第一亮度位凖326,而是可以感知到平均亮度位凖。在給定的顯示圖框期間,該平均亮度位凖(感知亮度328)可以等於或近似等於在像素開啟或被定址時像素的亮度和在像素關閉或未被定址時的零的平均。因此,在圖8A的實例中,區域232B可能看起來不如區域232A明亮,這對於設備2的使用者來說可能會分散注意力或在美學上令人不悅。
根據本案的技術,設備2可以在相機感測器消隱期期間增大像素亮度以維持平均亮度位凖,使得平均亮度位凖等於或近似等於當相機關閉時像素將具有的第一亮度位凖。如此,平均亮度位凖可以與周圍像素的亮度位凖相同或接近。
在圖9B中,橫軸表示時間,並且縱軸表示亮度位凖。相機感測器(諸如相機感測器234)上方的區域(諸如區域232B)中的顯示像素在時間330期間開啟或被定址,該時間可以是相機感測器消隱期350或相機感測器消隱期的一部分。在積分時間332期間,像素關閉或未被定址(例如,不顯示內容)。例如,設備2可以不在相機感測器消隱期之外(例如,相機感測器消隱期350和相機感測器消隱期352之外)在像素中顯示內容的一部分。在一些實例中,積分時間332包括其間相機感測器234主動擷取影像的時間。在一些實例中,積分時間332包括其間相機感測器234主動擷取影像的時間以及設備2從相機感測器234讀出資料的時間。在一些實例中,積分時間332包括其間相機感測器234主動擷取影像的時間、其間設備2從相機感測器234讀出資料的時間以及一或多個緩衝器增量(例如,緩衝器增量317A或緩衝器增量317B)。
在一些實例中,相機感測器上方的區域(諸如區域232B)中的像素之每一者可以在時間330和334期間開啟或被定址,並且在積分時間332期間關閉或不被定址。以這種方式,當相機感測器234正在主動擷取影像時,相機感測器234上方的區域232B中的像素可以關閉或不被定址,從而減輕或避免光散射以及產生的由顯示內容引起的接收光的衰減。
在圖9B的實例中,相機感測器上方的像素的亮度位凖處於第二亮度位凖337。第二亮度位凖337高於圖9A的實例中的第一亮度位凖326。在一些實例中,可以決定相機感測器上方的像素的第二亮度位凖337,使得第一亮度位凖336(例如,被分配給該像素的灰階值)可以等於或近似等於感知亮度338。例如,設備2可以決定像素的第二亮度位凖。
設備2可以容易地獲得用於實現本案的技術的資訊。例如,可以容易地獲得圖框的開始、圖框的結束、曝光時間等。設備2亦可以容易地獲得與相機感測器234相關的資訊(諸如影像擷取事件的開始、影像擷取事件的結束、影像讀出事件的開始、影像讀出事件的結束以及下一圖框曝光時間)。在一些實例中,相機感測器234可以向引腳輸出開啟/關閉訊號,並且顯示控制器(其可以是一或多個處理器110的實例)可以將其視為要控制的事件。例如,開啟訊號可以指示相機感測器消隱期,並且關閉訊號可以指示積分時間。
例如,設備2可以具有與相機感測器234的曝光時間(例如,來自圖1的AEC處理20)相關的資訊。設備2亦可以具有與顯示圖框300(圖6至圖8)的長度相關的資訊。根據該資訊,設備2可以決定相機感測器消隱期(例如,圖6的相機感測器消隱期310、圖7的相機感測器消隱期280或圖8的相機感測器消隱期319)的長度。設備2的一或多個處理器可以使用相機感測器消隱期的長度以及顯示圖框的長度來決定在顯示圖框期間像素開啟或被定址的時間百分比(例如,決定顯示圖框期間的像素的工作週期)。例如,像素可能有50%的時間(0.5)開啟或被定址。設備2亦可以具有關於像素的第一亮度位凖是多少的資訊,例如,30的灰階值。設備2的一或多個處理器可以經由將第一亮度位凖除以顯示圖框期間像素開啟或被定址的時間百分比來決定將用於像素的第二亮度位凖。例如,設備2的一或多個處理器可以經由將像素的第一亮度位凖(30的灰階值)除以顯示圖框期間像素開啟或被定址的時間百分比(0.5)來決定第二亮度位凖為灰階值60。
在另一實例中,像素在顯示圖框期間有25%的時間(0.25)開啟或被定址,並且第一亮度位凖是灰階值30。在該實例中,設備2的一或多個處理器可以經由將灰階值30除以顯示圖框期間像素開啟或被定址的時間百分比(0.25)來決定像素的第二亮度位凖為灰階值120。以這種方式,經由使用者感知的感知亮度338可以等於或近似等於將由像素顯示的影像的部分的第一亮度位凖336。在一些實例中,設備2的一或多個處理器可以為相機感測器上方(例如,在圖2D的區域232B或區域232C中)的像素之每一者決定第二亮度位凖。因此,本案的技術不僅可以避免或減輕由顯示內容引起的光散射而導致的由相機感測器234接收的光的衰減,而且亦可以促進在顯示圖框期間當相機開啟時的內容的顯示,該內容與當在顯示圖框期間在相機關閉時顯示相同內容時將出現的內容看起來相同或近似相同。
在一些實例中,設備2的一或多個處理器可以使用以下公式決定第二亮度位凖:
SB = (DF/BP) * FB
其中SB是第二亮度位凖,DF是顯示圖框的長度,BP是相機感測器消隱期的長度,並且FB是第一亮度位凖。在一些實例中,設備2的一或多個處理器可以使用以下公式決定第二亮度位凖:
SB = (DF/BP) * FB * W
其中SB是第二亮度位凖,DF是顯示圖框的長度,BP是相機感測器消隱期的長度,FB是第一亮度位凖,並且W是加權係數。在一些實例中,設備2的一或多個處理器可以使用另一計算來決定第二亮度位凖。例如,設備2的一或多個處理器可以使用高斯函數來決定第二亮度位凖。
圖10是可以實現本案的技術的實例影像擷取裝置的方塊圖。影像擷取裝置102可以是圖1的設備2的實例並且可以基本上符合圖1的設備2。經由實例的方式,影像擷取裝置102可以包括無線行動通訊設備,諸如蜂巢式電話或衛星無線電電話、智慧型電話、獨立數位相機或視訊攝錄影機、個人數位助理(PDA)、平板電腦、膝上型電腦或其中需要影像處理的具有成像或視訊能力的任何設備。
影像擷取裝置102可以包括一或多個處理器110、相機感測器112、影像訊號處理器106、記憶體114、顯示器116、通訊電路118、環境光感測器122和接近感測器124。顯示器116可以包括位於相機感測器112上方的區域120(其可以是圖2D的區域232B或區域232C的實例)。在一些實例中,環境光感測器122或接近感測器124中的一個或兩者可以位於顯示器116下方。在一些實例中,環境光感測器122或接近感測器124中的一個或兩者可以位於區域120下方。在一些實例中,環境光感測器122和接近感測器中的一個或兩者可以由影像訊號處理器106或者一或多個處理器110使用以決定相機感測器112的曝光時間或決定相機感測器234的自動對焦。在一些實例中,關於相機感測器(諸如相機感測器112)論述的本案的技術可以用於環境光感測器122或接近感測器124。例如,環境光感測器122可以在顯示器116未顯示內容時感測環境光的量。類似地,接近感測器124可以在顯示器116未顯示內容時發射紅外光。在一些實例中,影像訊號處理器106可以是一或多個處理器110中的一個。在一些實例中,影像訊號處理器106可以是一或多個處理器中的一個以上的處理器。在一些實例中,影像訊號處理器106可以與一或多個處理器110分離,如所圖示。
記憶體114可以包括用於由一或多個處理器110執行的影像擷取應用(影像擷取應用)104。影像擷取應用104可以被使用者用於開啟影像擷取裝置102的相機功能。記憶體114亦可以被配置為儲存與由相機感測器112擷取的影像相關的像素值。記憶體114亦可以儲存用於使一或多個處理器110執行本案的技術的指令。
相機感測器112可以在影像擷取事件(諸如圖6至圖7的影像擷取事件302)期間擷取影像。例如,相機感測器112可以在擷取影像時擷取像素值。在一些實例中,所擷取的值可以包括亮度位凖或者所擷取的值可能可轉換為包括亮度位凖。影像訊號處理器106可以如上面關於圖1的影像訊號處理器6所論述的那樣處理所擷取或轉換的值。如由相機感測器112擷取的、由影像訊號處理器106處理的、以其他方式由影像擷取裝置102接收的給定像素的亮度位凖可以是第一亮度位凖。
一或多個處理器110可以從影像訊號處理器106獲得像素值,並且可以將像素值提供給記憶體114以供儲存,提供給通訊電路118以用於發送到另一設備,以及/或者提供給顯示器116以用於顯示。當相機關閉時,一或多個處理器110可以例如從記憶體114獲得像素值,並且將像素值提供給顯示器116以供顯示。
當相機開啟時,一或多個處理器110可以增強區域120的像素的第一亮度位凖。例如,一或多個處理器110可以決定像素的第一亮度位凖,該像素被定位在相機感測器上方的顯示器區域中。一或多個處理器110可以決定相機感測器消隱期的長度。一或多個處理器110可以決定顯示圖框的長度。一或多個處理器110可以基於第一亮度位凖、相機感測器消隱期的長度以及顯示圖框的長度來決定第二亮度位凖。一或多個處理器110可以在相機感測器消隱期期間以第二亮度位凖顯示像素中的影像的一部分。
一或多個處理器110可以控制顯示器116,使得當相機開啟時,區域120中的像素僅用於在相機感測器消隱期期間顯示內容。當相機關閉時,一或多個處理器110可以控制顯示器116在整個圖框期間在像素(包括區域120的像素)中顯示內容。
圖11是示出根據本案的用於在具有顯示器下方相機感測器的影像擷取裝置中顯示內容的實例技術的流程圖。一或多個處理器110可以決定相機感測器消隱期(例如,相機感測器消隱期310),該相機感測器消隱期與被配置為接收經由顯示器116的至少一部分(例如,區域120)的光的相機感測器相關聯(150)。例如,一或多個處理器110可以將相機感測器消隱期決定為相機或影像擷取應用開啟(例如,影像擷取應用104正由一或多個處理器110執行)並且相機感測器112未在擷取影像的時間。在另一實例中,一或多個處理器110可以將相機感測器消隱期決定為相機或影像擷取應用開啟(例如,影像擷取應用104正由一或多個處理器110執行)、相機感測器112未在擷取影像並且一或多個處理器110未在從相機感測器112讀出資料的時間。在一些實例中,一或多個處理器110可以決定相機感測器消隱期以使得相機感測器消隱期不包括緩衝器增量(例如,緩衝器增量317A或緩衝器增量317B)期間的時間。
一或多個處理器110可以控制顯示器116在相機感測器消隱期(例如,相機感測器消隱期310)期間經由顯示器116的至少一部分(例如,區域120)中的複數個像素中的一或多個來顯示內容(152)。例如,顯示器116的區域120可以在相機感測器消隱期期間顯示內容,諸如由影像擷取裝置102擷取的影像、儲存在記憶體位置中的檔的視覺表示、軟體應用、包括GUI的使用者介面、網路可存取內容物件、由影像擷取裝置接收但未擷取的影像(例如,下載的影像、經由文字訊息發送的影像、經由電子郵件發送的影像、經由應用發送的影像等)、背景影像和其他資訊。
一或多個處理器110可以控制顯示器116避免在相機感測器消隱期之外經由區域120中的複數個像素中的一或多個來顯示內容(154)。例如,區域120中的複數個像素中的一或多個可以在相機感測器消隱期之外不主動顯示內容。在一些實例中,一或多個處理器110可以控制顯示器116在相機感測器消隱期的結束處停止經由區域120中的複數個像素中的一或多個來顯示內容。在一些實例中,顯示器可以不經由區域120中的複數個像素中的一或多個像素顯示內容,直到另一相機感測器消隱期開始。在一些實例中,相機感測器消隱期是第一相機感測器消隱期,並且一或多個處理器110可以決定第二相機感測器消隱期以及控制顯示器116在第二相機感測器消隱期期間經由區域120中的複數個像素中的一或多個來顯示內容。
在一些實例中,一或多個處理器110可以決定區域120中的複數個像素中的一或多個的第一亮度位凖。例如,一或多個處理器110可以經由從相機感測器112讀取複數個像素中的一或多個之每一者的亮度位凖值來決定複數個像素中的一或多個的第一亮度位凖。在另一實例中,一或多個處理器110可以經由從影像訊號處理器106讀取複數個像素中的一或多個之每一者的亮度位凖值來決定複數個像素中的一或多個的第一亮度位凖。在另一實例中,一或多個處理器110可以經由從記憶體114讀取複數個像素中的一或多個之每一者的亮度位凖來決定複數個像素中的一或多個的第一亮度位凖。在另一實例中,一或多個處理器110可以經由決定區域120之外的像素的亮度位凖來決定複數個像素中的一或多個的第一亮度位凖。在又一實例中,一或多個處理器110可以經由決定區域120之外的複數個像素的平均亮度位凖來決定複數個像素中的一或多個的第一亮度位凖。在一些實例中,第一亮度位凖是當影像擷取裝置的相機或影像擷取應用關閉時影像擷取裝置所顯示的亮度位凖。
在一些實例中,一或多個處理器110可以決定區域120中的複數個像素中的一或多個的第二亮度位凖。在一些實例中,第二亮度位凖大於第一亮度位凖並且至少部分地基於第一亮度位凖。例如,一或多個處理器110可以決定相機感測器消隱期的長度並且決定內容的顯示圖框的長度。例如,一或多個處理器110可以具有與相機感測器112的曝光時間相關的資訊以及與顯示圖框的長度相關的資訊,並且可以使用該資訊來決定相機感測器消隱期的長度。在一些實例中,第二亮度位凖亦基於相機感測器消隱期的長度以及顯示圖框的長度。在一些實例中,第二亮度位凖基於顯示內容和第一亮度位凖。在一些實例中,相機感測器消隱期的長度小於顯示圖框的長度。
在一些實例中,作為決定第二亮度位凖的一部分,一或多個處理器110將公式應用於第一亮度位凖。在一些實例中,公式包括高斯函數。在一些實例中,公式是:
SB = (DF/BP) * FB
其中SB是第二亮度位凖,DF是顯示圖框的長度,BP是相機感測器消隱期的長度,並且FB是第一亮度位凖。在一些實例中,公式是:
SB = (DF/BP) * FB * W
其中SB是第二亮度位凖,DF是顯示圖框的長度,BP是相機感測器消隱期的長度,FB是第一亮度位凖,並且W是加權係數。
在一些實例中,一或多個處理器110可以控制顯示器116在相機感測器消隱期期間經由複數個像素中的一或多個以第二亮度位凖顯示內容。例如,區域120中的複數個像素中的一或多個可以以第二亮度位凖顯示內容。在一些實例中,第二亮度位凖大於第一亮度位凖並且至少部分地基於第一亮度位凖。
在一些實例中,內容是由相機感測器112擷取的影像的至少一部分。在一些實例中,影像擷取裝置102是無線行動通訊設備,諸如智慧型電話或蜂巢式電話。在一些實例中,影像擷取裝置102包括相機感測器112和顯示器116。
因此,經由決定第二亮度位凖以及在相機感測器消隱期期間將第二亮度位凖應用到像素,相機感測器可以位於顯示器下方以便嘗試最大化影像擷取裝置上的顯示尺寸,而不以其他方式出現影像品質問題。經由將相機感測器定位在螢幕下方,影像擷取裝置的螢幕尺寸可以大於使用凹口螢幕的相同尺寸的影像擷取裝置,並且與使用具有可移動機械部件的彈出式相機的影像擷取裝置的可靠性相比,影像擷取裝置的可靠性可以提高。
應當認識到,根據實例,本文描述的技術中的任一種的某些動作或事件可以以不同的循序執行,可以被添加、合併或完全省略(例如,並非所有描述的動作或事件是實踐該技術所必需的)。此外,在某些實例中,動作或事件可以並存執行,例如經由多執行緒處理、中斷處理或多個處理器,而不是循序執行。
在一或多個實例中,本文所描述的功能可以以硬體、軟體、韌體或其任何組合實現。若以軟體實現,則功能可以作為一或多個指令或代碼儲存在電腦可讀取媒體上或經由其進行發送,並且由基於硬體的處理單元執行。電腦可讀取媒體可以包括電腦可讀取儲存媒體,其對應於諸如資料儲存媒體的有形媒體,或者通訊媒體,其包括便於例如根據通訊協定將電腦程式從一處傳送到另一處的任何媒體。以這種方式,電腦可讀取媒體通常可以對應於(1)有形電腦可讀取儲存媒體,其是非暫時性的或(2)諸如訊號或載波的通訊媒體。資料儲存媒體可以是可由一或多個電腦或者一或多個處理器存取以檢索用於實現本案中描述的技術的指令、代碼及/或資料結構的任何可用媒體。電腦程式產品可以包括電腦可讀取媒體。
作為實例而非限制,這種電腦可讀取儲存媒體可以包括RAM、ROM、EEPROM、CD-ROM或其他光碟記憶體、磁碟記憶體、或其他磁存放裝置、快閃記憶體、或者可以用於以可由電腦存取的指令或資料結構的形式儲存期望程式碼的任何其他媒體。此外,任何連接皆適當地被稱為電腦可讀取媒體。例如,若使用同軸電纜、光纖電纜、雙絞線、數位用戶線(DSL)或諸如紅外、無線電和微波的無線技術從網站、伺服器或其他遠端源發送指令,則同軸電纜、光纖電纜、雙絞線、DSL或諸如紅外、無線電和微波的無線技術被包括在媒體的定義中。然而,應當理解,電腦可讀取儲存媒體和資料儲存媒體不包括連接、載波、訊號或其他暫態性媒體,而是針對非暫態性、有形儲存媒體。如本文使用的磁碟和光碟包括壓縮光碟(CD)、鐳射光碟、光碟、數位多功能光碟(DVD)、軟碟和藍光光碟,其中磁碟通常磁性地複製資料,而光碟用鐳射光學地複製資料。上述的組合亦應被包括在電腦可讀取媒體的範疇內。
指令可以由一或多個處理器執行,諸如一或多個數位訊號處理器(DSP)、通用微處理器、特殊應用積體電路(ASIC)、現場可程式設計邏輯陣列(FPGA),或其他等效的整合或個別邏輯電路。因此,如本文所使用的術語「處理器」和「處理電路」可以指前述結構中的任一個或者適用於實現本文所描述的技術的任何其他結構。另外,在一些態樣中,本文描述的功能可以提供在被配置用於編碼和解碼的專用硬體及/或軟體模組中,或者合併到組合的轉碼器中。此外,技術可以在一或多個電路或邏輯元件中完全實現。
本案的技術可以在多種設備或裝置中實現,包括無線手持機、積體電路(IC)或IC集(例如,晶片集)。本案中描述了各種部件、模組或單元以強調被配置為執行所揭示的技術的設備的功能態樣,但不一定要求由不同的硬體單元來實現。相反,如以上所描述,各種單元可以結合在轉碼器硬體單元中或者由交互動操作硬體單元的集合(包括如以上所描述的一或多個處理器)結合合適的軟體及/或韌體來提供。
已經描述了各個實例。這些和其他實例在所附請求項的範疇內。
2:設備
4:影像處理裝置
6:影像訊號處理器
8:本機記憶體
10:記憶體控制器
12:相機模組
14:外部記憶體
15:通訊匯流排
16:顯示器
20:自動曝光控制(AEC)處理
22:自動白平衡(AWB)處理
24:自動聚焦(AF)處理
28:鏡頭陰影補償(LSC)處理
30:固定模式雜訊補償(FPNC)處理
102:影像擷取裝置
104:影像擷取應用
106:影像訊號處理器
110:處理器
112:相機感測器
114:記憶體
116:顯示器
118:通訊電路
120:區域
122:環境光感測器
124:接近感測器
150:方塊
152:方塊
154:方塊
200:影像擷取裝置
202:顯示器
204:相機感測器
206:按鈕
210:影像擷取裝置
212:顯示器
214:相機感測器
216:凹口
220:影像擷取裝置
222:顯示器
224:相機感測器
226:彈出式相機
230:影像擷取裝置
232:顯示器
232A:區域
232B:區域
232C:區域
234:相機感測器
236:外殼
238:相機感測器
250:OLED顯示器
252:陰極層
254:有機發光材料層
256:陽極層
260:OLED顯示器
262:透明陰極層
264:有機發光材料層
266:透明陽極層
270:視圖
272:視圖
273:像素
274:組
280:相機感測器消隱期
300:顯示圖框
302:影像擷取事件
304:影像讀出事件
306:第一行
308:最後一行
310:相機感測器消隱期
312:顯示圖框
314:顯示圖框
316:時間
317A:緩衝器增量
317B:緩衝器增量
318:影像擷取事件
319:相機感測器消隱期
320:時間
322:積分時間
324:時間
326:第一亮度位凖
328:感知亮度
330:時間330
332:積分時間
334:時間
336:第一亮度位凖
337:第二亮度位凖
338:感知亮度
340:相機感測器消隱期
342:相機感測器消隱期
350:相機感測器消隱期
352:相機感測器消隱期
圖1是被配置為實現本案的技術的實例影像擷取裝置的方塊圖。
圖2A至2D是示出具有前置相機感測器和顯示器的影像擷取裝置的實例的方塊圖。
圖3是示出被配置為實現本案的技術的實例影像擷取裝置的分解截面圖的方塊圖。
圖4A和4B是示出根據本案的技術的不同的實例有機發光二極體(OLED)顯示器的特性的方塊圖。
圖5是圖示用於當相機開啟時在具有顯示器下方相機感測器的影像擷取裝置中顯示內容的實例技術的概念圖。
圖6是示出根據本案的技術的實例顯示圖框和相機感測器消隱期的時序圖。
圖7是示出根據本案的技術的另一實例顯示圖框和相機感測器消隱期的時序圖。
圖8是示出根據本案的技術的實例顯示圖框、(多個)緩衝器增量和相機感測器消隱期的時序圖。
圖9A和9B是示出根據本案的實例顯示技術的概念圖。
圖10是可以實現本案的技術的實例影像擷取裝置的方塊圖。
圖11是示出根據本案的用於在具有顯示器下方相機感測器的影像擷取裝置中顯示內容的實例技術的流程圖。
300:顯示圖框
302:影像擷取事件
304:影像讀出事件
306:第一行
308:最後一行
310:相機感測器消隱期
312:顯示圖框
314:顯示圖框
316:時間
318:影像擷取事件
Claims (29)
- 一種影像擷取裝置,包括: 一記憶體,其被配置為儲存從一相機感測器接收的顯示內容和影像資訊,該相機感測器被配置為接收經由一顯示器的一部分的光;及 一或多個處理器,其耦合到該記憶體,該一或多個處理器被配置為: 決定一相機感測器消隱期; 決定該相機感測器接收光的該顯示器的該部分之外的複數個第一像素中的一或多個的一第一亮度位凖; 決定該相機感測器接收光的該顯示器的該部分中的複數個第二像素中的一或多個的一第二亮度位凖,其中該第二亮度位凖大於該第一亮度位凖並且至少部分地基於該第一亮度位凖; 控制該顯示器在該相機感測器消隱期期間經由該複數個第二像素中的該一或多個來以該第二亮度位凖顯示內容;及 控制該顯示器在該相機感測器消隱期之外不經由該複數個第二像素中的該一或多個顯示內容。
- 根據請求項1之影像擷取裝置,其中該一或多個處理器亦被配置為: 控制該顯示器在該相機感測器消隱期的一結束處停止經由該複數個第二像素中的該一或多個來顯示內容。
- 根據請求項2之影像擷取裝置,其中該相機感測器消隱期是一第一相機感測器消隱期,並且一或多個處理器亦被配置為: 決定一第二相機感測器消隱期;及 控制該顯示器在該第二相機感測器消隱期期間經由該複數個第二像素中的該一或多個來顯示內容。
- 根據請求項1之影像擷取裝置,其中該第一亮度位凖是當該影像擷取裝置的一影像擷取應用關閉時該影像擷取裝置顯示的一亮度位凖。
- 根據請求項4之影像擷取裝置,其中作為決定該第二亮度位凖的一部分,該一或多個處理器被配置為: 決定該相機感測器消隱期的一長度;及 決定該內容的顯示圖框的一長度, 其中該第二亮度位凖亦基於該相機感測器消隱期的長度以及該顯示圖框的長度。
- 根據請求項5之影像擷取裝置,其中該相機感測器消隱期的長度小於該顯示圖框的長度。
- 根據請求項5之影像擷取裝置,其中該第二亮度位凖基於該顯示內容和該第一亮度位凖。
- 根據請求項5之影像擷取裝置,其中作為決定該第二亮度位凖的一部分,該一或多個處理器將一高斯函數應用於該第一亮度位凖。
- 根據請求項5之影像擷取裝置,其中該一或多個處理器經由決定以下來決定該第二亮度位凖: SB= (DF/BP) *FB 其中SB是該第二亮度位凖,DF是一顯示圖框的一長度,BP是該相機感測器消隱期的一長度,並且FB是該第一亮度位凖。
- 根據請求項5之影像擷取裝置,其中該一或多個處理器經由決定以下來決定該第二亮度位凖: SB = (DF/BP) *FB * W 其中SB是該第二亮度位凖,DF是一顯示圖框的一長度,BP是該相機感測器消隱期的一長度,FB是該第一亮度位凖,並且W是一加權係數。
- 根據請求項1之影像擷取裝置,其中該相機感測器消隱期包括一影像擷取應用開啟並且該相機感測器未在擷取一影像的一時間。
- 根據請求項11之影像擷取裝置,其中該相機感測器消隱期亦包括該一或多個處理器未在從該相機感測器讀出資料的一時間。
- 根據請求項1之影像擷取裝置,其中該內容是由該相機感測器擷取的一影像的至少一部分。
- 根據請求項1之影像擷取裝置,亦包括: 該相機感測器;及 該顯示器。
- 一種在一影像擷取裝置上顯示內容的方法,該方法包括以下步驟: 決定一相機感測器消隱期,該相機感測器消隱期與被配置為接收經由一顯示器的一部分的光的一相機感測器相關聯; 決定該相機感測器接收光的該顯示器的該部分之外的複數個第一像素中的一或多個的一第一亮度位凖; 決定該相機感測器接收光的該顯示器的該部分中的複數個第二像素中的一或多個的一第二亮度位凖,其中該第二亮度位凖大於該第一亮度位凖並且至少部分地基於該第一亮度位凖; 在該相機感測器消隱期期間經由該複數個第二像素中的該一或多個來以該第二亮度位凖顯示內容;及 避免在該相機感測器消隱期之外經由該複數個第二像素中的該一或多個來顯示內容。
- 根據請求項15之方法,亦包括以下步驟: 在該相機感測器消隱期的一結束處停止經由該複數個第二像素中的該一或多個顯示內容。
- 根據請求項16之方法,其中該相機感測器消隱期是一第一相機感測器消隱期,亦包括以下步驟: 決定一第二相機感測器消隱期;及 在該第二相機感測器消隱期期間經由該複數個第二像素中的該一或多個來顯示內容。
- 根據請求項15之方法,其中該第一亮度位凖是當該影像擷取裝置的一影像擷取應用關閉時該影像擷取裝置顯示的一亮度位凖。
- 根據請求項18之方法,其中決定該第二亮度位凖包括以下步驟: 決定該相機感測器消隱期的一長度;及 決定該內容的一顯示圖框的一長度, 其中該第二亮度位凖亦基於該相機感測器消隱期的長度以及該顯示圖框的長度。
- 根據請求項19之方法,其中該相機感測器消隱期的長度小於該顯示圖框的長度。
- 根據請求項19之方法,其中該第二亮度位凖基於該顯示內容和該第一亮度位凖。
- 根據請求項19之方法,其中決定該第二亮度位凖包括將一高斯函數應用於該第一亮度位凖。
- 根據請求項19之方法,其中決定該第二亮度位凖包括決定以下步驟: SB = (DF/BP) * FB 其中SB是該第二亮度位凖,DF是一顯示圖框的一長度,BP是該相機感測器消隱期的一長度,並且FB是該第一亮度位凖。
- 根據請求項19之方法,其中決定該第二亮度位凖包括決定以下步驟: SB = (DF/BP) * FB * W 其中SB是該第二亮度位凖,DF是一顯示圖框的一長度,BP是該相機感測器消隱期的一長度,FB是該第一亮度位凖,並且W是一加權係數。
- 根據請求項15之方法,其中該相機感測器消隱期包括一影像擷取應用開啟並且該相機感測器未在擷取一影像的一時間。
- 根據請求項25之方法,其中該相機感測器消隱期亦包括一影像擷取裝置的一或多個處理器未在從該相機感測器讀出資料的一時間。
- 根據請求項15之方法,其中該內容是由該相機感測器擷取的一影像的至少一部分。
- 一種儲存指令的非暫時性電腦可讀取儲存媒體,該等指令在被執行時致使一或多個處理器: 決定一相機感測器消隱期,該相機感測器消隱期與被配置為接收經由一顯示器的至少一部分的光的一相機感測器相關聯; 決定該相機感測器接收光的該顯示器的該部分之外的複數個第一像素中的一或多個的一第一亮度位凖; 決定該相機感測器接收光的該顯示器的該部分中的複數個第二像素中的一或多個的一第二亮度位凖,其中該第二亮度位凖大於該第一亮度位凖並且至少部分地基於該第一亮度位凖; 控制該顯示器在該相機感測器消隱期期間經由該複數個第二像素中的該一或多個來以該第二亮度位凖顯示內容;及 控制該顯示器在該相機感測器消隱期之外不經由該複數個第二像素中的該一或多個顯示內容。
- 一種影像擷取裝置,包括: 用於決定一相機感測器消隱期的部件,該相機感測器消隱期與被配置為接收經由一顯示器的至少一部分的光的一相機感測器相關聯; 用於決定該相機感測器接收光的該顯示器的該部分之外的複數個第一像素中的一或多個的一第一亮度位凖的部件; 用於決定該相機感測器接收光的該顯示器的該部分中的複數個第二像素中的一或多個的一第二亮度位凖的部件,其中該第二亮度位凖大於該第一亮度位凖並且至少部分地基於該第一亮度位凖; 用於控制該顯示器在該相機感測器消隱期期間經由該複數個第二像素中的該一或多個來以該第二亮度位凖顯示內容的部件;及 用於控制該顯示器在該相機感測器消隱期之外不經由該複數個第二像素中的該一或多個顯示內容的部件。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US17/069,683 | 2020-10-13 | ||
| US17/069,683 US11509806B2 (en) | 2020-10-13 | 2020-10-13 | Under-display camera synchronization with display pixel operation |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| TW202224411A TW202224411A (zh) | 2022-06-16 |
| TWI885205B true TWI885205B (zh) | 2025-06-01 |
Family
ID=78135130
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| TW110133743A TWI885205B (zh) | 2020-10-13 | 2021-09-10 | 具有顯示像素操作的顯示器下方相機同步 |
Country Status (8)
| Country | Link |
|---|---|
| US (1) | US11509806B2 (zh) |
| EP (1) | EP4229862A1 (zh) |
| JP (1) | JP7789063B2 (zh) |
| KR (1) | KR20230088353A (zh) |
| CN (1) | CN116324960B (zh) |
| BR (1) | BR112023006244A2 (zh) |
| TW (1) | TWI885205B (zh) |
| WO (1) | WO2022081284A1 (zh) |
Families Citing this family (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11827216B2 (en) * | 2020-12-08 | 2023-11-28 | Deere & Company | Optimal sensor reading for low latency object detection |
| KR102825820B1 (ko) * | 2020-12-31 | 2025-06-30 | 삼성전자주식회사 | 언더 디스플레이 카메라의 성능 평가 방법 |
| US11979665B2 (en) * | 2021-03-31 | 2024-05-07 | Lenovo (Singapore) Pte. Ltd. | Interleaving display on/off periods and camera exposure on/off periods for camera-under-display configurations |
| KR20220141663A (ko) * | 2021-04-13 | 2022-10-20 | 삼성전자주식회사 | 영상을 처리하는 방법 및 이를 수행하는 전자 장치 |
| KR20230048217A (ko) * | 2021-10-01 | 2023-04-11 | 삼성디스플레이 주식회사 | 표시 장치 및 이를 포함하는 전자 장치 |
| US11600235B1 (en) * | 2021-12-20 | 2023-03-07 | Meta Platforms Technologies, Llc | Scheme for operating under-display camera to prevent light interference from display |
| CN119156809A (zh) * | 2022-04-18 | 2024-12-17 | 高通股份有限公司 | 显示优化的动态配置 |
| WO2024053873A1 (en) * | 2022-09-09 | 2024-03-14 | Samsung Electronics Co., Ltd. | A method and system for enhanced under-display camera imaging |
| JP7603105B1 (ja) * | 2023-06-09 | 2024-12-19 | レノボ・シンガポール・プライベート・リミテッド | 電子機器、および、制御方法 |
| WO2025136519A1 (en) * | 2023-12-18 | 2025-06-26 | Apple Inc. | Systems and methods for changing a characteristic of a camera lens |
| US20250220137A1 (en) * | 2024-01-03 | 2025-07-03 | Veeo Technology Inc. | Video conferencing transparent monitor with an integrated behind-display camera |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20090102763A1 (en) * | 2007-10-19 | 2009-04-23 | Border John N | Display device with capture capabilities |
| WO2019213839A1 (en) * | 2018-05-08 | 2019-11-14 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Terminal device and image capturing method |
Family Cites Families (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070002130A1 (en) | 2005-06-21 | 2007-01-04 | David Hartkop | Method and apparatus for maintaining eye contact during person-to-person video telecommunication |
| US7697053B2 (en) | 2006-11-02 | 2010-04-13 | Eastman Kodak Company | Integrated display having multiple capture devices |
| US7808540B2 (en) | 2007-01-09 | 2010-10-05 | Eastman Kodak Company | Image capture and integrated display apparatus |
| CN102210138A (zh) * | 2008-11-21 | 2011-10-05 | 松下电器产业株式会社 | 成像处理系统以及数码相机 |
| JP2010230797A (ja) | 2009-03-26 | 2010-10-14 | Seiko Epson Corp | 表示装置、および電子機器 |
| JP6602695B2 (ja) | 2016-03-01 | 2019-11-06 | 株式会社ジャパンディスプレイ | 表示装置 |
| WO2020011256A1 (zh) | 2018-07-13 | 2020-01-16 | 华为技术有限公司 | 显示屏模组及电子设备 |
| CN208924293U (zh) | 2018-11-07 | 2019-05-31 | 北京小米移动软件有限公司 | 电子设备 |
| CN109639897A (zh) | 2018-12-20 | 2019-04-16 | 维沃移动通信有限公司 | 一种光线传输方法及装置 |
| US11694613B2 (en) | 2019-07-25 | 2023-07-04 | Hewlett-Packard Development Company, L.P. | Displays with partial transparent areas |
| CN110634434B (zh) | 2019-09-11 | 2022-08-05 | 武汉天马微电子有限公司 | 一种显示面板的驱动方法、其驱动装置及显示装置 |
-
2020
- 2020-10-13 US US17/069,683 patent/US11509806B2/en active Active
-
2021
- 2021-09-10 WO PCT/US2021/049898 patent/WO2022081284A1/en not_active Ceased
- 2021-09-10 BR BR112023006244A patent/BR112023006244A2/pt unknown
- 2021-09-10 KR KR1020237011761A patent/KR20230088353A/ko active Pending
- 2021-09-10 CN CN202180068617.5A patent/CN116324960B/zh active Active
- 2021-09-10 TW TW110133743A patent/TWI885205B/zh active
- 2021-09-10 EP EP21791109.8A patent/EP4229862A1/en active Pending
- 2021-09-10 JP JP2023521068A patent/JP7789063B2/ja active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20090102763A1 (en) * | 2007-10-19 | 2009-04-23 | Border John N | Display device with capture capabilities |
| WO2019213839A1 (en) * | 2018-05-08 | 2019-11-14 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Terminal device and image capturing method |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20230088353A (ko) | 2023-06-19 |
| JP7789063B2 (ja) | 2025-12-19 |
| CN116324960A (zh) | 2023-06-23 |
| JP2023544782A (ja) | 2023-10-25 |
| US11509806B2 (en) | 2022-11-22 |
| TW202224411A (zh) | 2022-06-16 |
| EP4229862A1 (en) | 2023-08-23 |
| WO2022081284A1 (en) | 2022-04-21 |
| BR112023006244A2 (pt) | 2023-05-09 |
| US20220116519A1 (en) | 2022-04-14 |
| CN116324960B (zh) | 2025-12-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| TWI885205B (zh) | 具有顯示像素操作的顯示器下方相機同步 | |
| US12200348B2 (en) | Under-display camera systems and methods | |
| CN102857712B (zh) | 具有高动态范围捕捉能力的图像传感器 | |
| US11588978B2 (en) | Under-display camera systems and methods | |
| US20150097978A1 (en) | System and method for high fidelity, high dynamic range scene reconstruction with frame stacking | |
| US20170084231A1 (en) | Imaging system management for camera mounted behind transparent display | |
| CN110266954B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
| US20170186141A1 (en) | Video Tone Mapping For Converting High Dynamic Range (HDR) Content To Standard Dynamic Range (SDR) Content | |
| CN109040576A (zh) | 具有用于图像数据统计的基于多帧的窗口的相机控制和图像处理的方法和系统 | |
| US10769416B2 (en) | Image processing method, electronic device and storage medium | |
| JP2015041890A (ja) | 制御装置、制御方法、および電子機器 | |
| US10178326B2 (en) | Method and apparatus for shooting image and terminal device | |
| CN108833803A (zh) | 成像方法、装置和电子设备 | |
| CN110278386B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
| CN118450275A (zh) | 一种拍摄方法及相关设备 | |
| CN118102133B (zh) | 一种图像传感器、图像对焦方法、电子设备及存储介质 | |
| TWI893110B (zh) | 行動終端、圖像獲取方法及電腦可讀儲存媒介 | |
| CN120513639B (zh) | 一种基于相机动态投票优化快速传感器模式功率的方法和装置 | |
| CN115586877A (zh) | 画质调整方法及装置、电子设备、计算机可读存储介质 | |
| CN120513639A (zh) | 相机动态投票以优化快速传感器模式功率 | |
| CN120658952A (zh) | 视频处理方法、装置、电子设备和计算机可读存储介质 |