JP2023098173A - 撮像装置、制御方法、及びプログラム - Google Patents
撮像装置、制御方法、及びプログラム Download PDFInfo
- Publication number
- JP2023098173A JP2023098173A JP2021214768A JP2021214768A JP2023098173A JP 2023098173 A JP2023098173 A JP 2023098173A JP 2021214768 A JP2021214768 A JP 2021214768A JP 2021214768 A JP2021214768 A JP 2021214768A JP 2023098173 A JP2023098173 A JP 2023098173A
- Authority
- JP
- Japan
- Prior art keywords
- image
- data
- metadata
- raw image
- raw
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/32—Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
- H04N1/32101—Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/015—High-definition television systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/4223—Cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
- H04N21/4363—Adapting the video stream to a specific local network, e.g. a Bluetooth® network
- H04N21/43632—Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wired protocol, e.g. IEEE 1394
- H04N21/43635—HDMI
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
Description
本発明は、撮像装置、制御方法、及びプログラムに関する。
特許文献1には、ビデオデータの1つ又は複数のクロミナンス部分にメタデータ(透かし情報)を埋め込み、埋め込まれたメタデータを含むビデオデータを配信する方法が記載されている。
しかしながら、特許文献1では、ビデオデータの1つ又は複数のクロミナンス部分にメタデータを埋め込むために、画像劣化が生じてしまうという問題点があった。また、埋め込むメタデータの量が多いと画像劣化の度合が大きくなるため、埋め込むメタデータの量に制限があった。
そこで、本発明は、画像劣化を生じさせることなく、画像データと画像データに対応したメタデータとを出力できるようにすることを目的とする。
そこで、本発明は、画像劣化を生じさせることなく、画像データと画像データに対応したメタデータとを出力できるようにすることを目的とする。
上記課題を解決するために、撮像装置は、RAW画像を生成する第1の生成手段と、前記RAW画像に対応するメタデータを生成する第2の生成手段と、前記第1の生成手段により生成された前記RAW画像とともに前記第2の生成手段により生成された前記メタデータを、YCC4:2:2形式のビデオフォーマットにおける画像領域に配置する配置手段と、前記配置手段により前記YCC4:2:2形式のビデオフォーマットにおける画像領域に配置された前記RAW画像及び前記メタデータを出力する出力手段とを有する。
本発明によれば、画像劣化を生じさせることなく、画像データと画像データに対応したメタデータとを出力することができる。
以下、図面を参照して本発明の実施形態を説明する。ただし、本発明は以下の実施形態に限定されるものではない。
[実施形態1]
図1は、実施形態1における撮像装置100の構成要素を説明するためのブロック図である。
レンズユニット101は、集光のための固定レンズ群、変倍レンズ群、絞り、及び補正レンズ群等により構成される光学系である。補正レンズ群は、変倍レンズ群の動きで移動した結像位置を補正する機能と焦点調節を行う機能とを兼ね備えたレンズ群である。レンズユニット101によって、後述のイメージセンサー102の結像面上に被写体像が結像される。レンズニット101は、撮像装置100とは着脱可能となっている。
図1は、実施形態1における撮像装置100の構成要素を説明するためのブロック図である。
レンズユニット101は、集光のための固定レンズ群、変倍レンズ群、絞り、及び補正レンズ群等により構成される光学系である。補正レンズ群は、変倍レンズ群の動きで移動した結像位置を補正する機能と焦点調節を行う機能とを兼ね備えたレンズ群である。レンズユニット101によって、後述のイメージセンサー102の結像面上に被写体像が結像される。レンズニット101は、撮像装置100とは着脱可能となっている。
イメージセンサー102は、例えばCCDイメージセンサーやCMOSイメージセンサーなどの撮像素子であり、光を電荷に変換して撮像信号を生成する。イメージセンサー102により生成された撮像信号は、例えば画像処理部103へ出力される。なお、撮像素子として、撮像面上のすべての画素がそれぞれ一対の受光素子により構成され、各画素においてマイクロレンズにより形成された対の光学像を該一対の受光素子により光電変換できる、いわゆるデュアルピクセルタイプのものを用いてもよい。
画像処理部103は、イメージセンサー102より出力された撮像信号をRAWデータ(RAW画像)に変換する。また、画像処理部103は、変換後のRAWデータに対して補間処理及び画質調整処理等のRAW現像処理を行って、RAWデータに対応したYCC4:2:2形式の画像データを生成する。言い換えれば、本実施形態のRAWデータは、YCC4:2:2形式の画像データが変換される前の画像データである。画像処理部103によって得られたRAWデータ(RAW画像)及びYCC4:2:2形式の画像データは、RAM111に格納される。ここで、RAWデータは第一の画像データの一例であり、YCC4:2:2形式の画像データは第二の画像データの一例である。
表示用リサイズ部104は、RAM111に格納された画像データに対してリサイズ処理を行い、リサイズされた画像データを生成する。表示用リサイズ部104は、生成したリサイズ後の画像データをRAM111に格納する。
記録用リサイズ部105は、RAM111に格納された画像データに対して、リサイズ処理を行い、記録用画像データを作成する。記録用リサイズ部105は、生成した記録用画像データをRAM111に格納する。
オンスクリーンディスプレイ(OSD)生成部106は、オンスクリーンディスプレイ(OSD)に係るOSDデータを生成する。OSD生成部106は、生成したOSDデータをRAM111に格納する。OSDデータには、各種設定メニュー、タイトル、及び時間などのOSDデータがある。RAM111に格納されたOSDデータは、RAM111に格納された表示用画像データと合成され、表示部107に表示されたり、外部出力部115より外部に出力されたりする。
表示部107は、表示用画像データやOSDを表示させるための表示部材である。表示部107は、例えば液晶パネルである。
CPU(central processing unit)108は、撮像装置100全体を制御する。
操作スイッチ群109は、ユーザが操作入力するための操作部材である。また、操作スイッチ群109には、カメラ撮影を行うためのカメラモードと、再生させるための再生モードと、電源をオフにするパワーオフモードとのいずれかを選択するためのスイッチも含む。
ROM(read only memory)110は、例えばフラッシュROMであり、CPU108が実行するプログラムなどが格納されている。また、ROM110の一部領域は、バックアップ用として、システムの状態などを保持するために使用される。
RAM(random Access memory)111は、CPU108、画像処理部103、及び圧縮伸張部114等がワークとして使用する揮発性メモリである。
メモリカードコントローラー112は、圧縮伸張部114で生成され、RAM111に出力された動画像データをFATファイルシステム等のコンピュータと互換のあるフォーマットに従って、メモリカード113に記録する。メモリカード113は、撮像装置100と着脱可能な記録媒体であり、撮像装置100以外にもコンピュータ等に装着することができる。
圧縮伸張部114は、RAM111に格納された画像データをエンコード(例えば、MPEG圧縮)して動画像データを生成し、RAM111に出力する。
外部出力部115は、画像処理部103がRAM111に出力した画像データ等を外部に出力する。外部出力部115は、例えば、HDMI(登録商標)規格又はSDI規格等に準拠したインターフェースである。外部出力部115は、4K60P、2K60P等の規格の信号で画像データを出力することができる。バス116は、撮像装置100の各部の間でのデータのやり取りを行うバスである。
次に、図2を参照して、実施形態1における撮像装置100がHDMI規格に準拠した映像信号によりRAWデータ及びそれに対応するメタデータを出力する処理について説明する。図2は、実施形態1における撮像装置100の処理を説明するためのフローチャートである。図2のフローチャートにおける各処理は、撮像装置100のCPU108がROM110に保存されているプログラムを実行することにより制御される。
ステップS201において、CPU108は、操作スイッチ群109を使用したメニュー操作が行われたか否かを判定する。このメニュー操作とは、撮像装置100の動作を設定する操作であり、例えば、イメージセンサー102でキャプチャする映像信号の解像度を設定したり、圧縮伸張部114でエンコードするビットレートを設定したりする操作である。また、このメニュー操作により、後述するHDMI RAWモードの設定等も行われる。メニュー操作が行われたと判定した場合(ステップS201でYES)、CPU108は、メニュー操作により設定された情報をRAM111に格納して、ステップS202に進む。メニュー操作が行われていないと判定した場合(ステップS201でNO)、CPU108は、ステップS203に進む。
ステップS202において、CPU108は、モード設定処理を行い、ステップS201で設定されたモードに遷移するように、撮像装置100内の各構成要素を制御する。
ステップS203において、CPU108は、RAM111に保持されている情報を参照し、HDMI接続済みであるか否かを判定する。HDMI接続とは、後述するHDMI接続処理が完了した状態であり、この状態の情報はステップS205での処理によりRAM111に保持される。HDMI接続済みであると判定した場合(ステップS203でYES)、CPU108は、ステップS206に進む。HDMI接続済みでないと判定した場合(ステップS203でNO)、CPU108は、ステップS204に進む。
ステップS204において、CPU108は、外部出力部115を制御して、HDMI規格でのホットプラグ検出信号(HPD)が検出されているか、及びHDMI規格でのTMDS信号の信号ラインがプルアップされているかを判定する。ホットプラグ検出信号が検出され、かつTMDS信号の信号ラインがプルアップされていると判定した場合(ステップS204でYES)、CPU108は、HDMI接続ありと判定し、ステップS205に進む。それ以外の場合(ステップS204でNO)、CPU108は、HDMI接続なしと判定し、図2の処理を終了する。
ステップS205において、CPU108は、HDMI接続処理を行う。HDMI接続処理では、CPU108は、外部出力部115を制御して、外部出力部115にHDMI接続されたシンク機器のEDIDを取得する。EDIDとは、外部出力部115を介して接続されたシンク機器の情報であり、シンク機器が対応しているビデオフォーマットのデータ及びベンダーの独自データ等により構成されている。CPU108は、取得したEDIDをRAM111に格納する。
ステップS206において、CPU108は、撮像装置100がカメラモードであるか否かを判定する。カメラモードとは、レンズユニット101で集光しイメージセンサー102でキャプチャされた映像データに対して各種信号処理を行い、メモリカード113に記録したり、表示部107に表示したり、外部出力部115に出力したりするモードである。なお、撮像装置100は、カメラモード以外に、メモリカード113に記録されている映像データを表示部107に表示したり、外部出力部115に出力したりする再生モードも有している。撮像装置100がカメラモードであると判定した場合(ステップS206でYES)、CPU108は、ステップS207に進む。撮像装置100がカメラモードではないと判定した場合(ステップS206でNO)、CPU108は、図2の処理を終了する。
ステップS207において、CPU108は、RAM111に保持されたモード情報を参照し、モード情報に合わせてイメージセンサー102等を制御して、被写体像に係るRAWデータ(RAW画像)をキャプチャする。キャプチャしたRAWデータは、RAM111に保持される。
ステップS208において、CPU108は、RAM111に保持されたモード情報を参照して、撮像装置100がHDMI RAWモードであるか否かを判定する。HDMI RAWモードとは、撮像装置100が、ステップS207でキャプチャし、ステップS209でγ処理を施したRAWデータを、外部出力部115を介して外部のシンクへ出力するモードである。HDMI RAWモードであると判定した場合(ステップS208でYES)、CPU108は、ステップS209に進む。HDMI RAWモードではないと判定した場合(ステップS208でNO)、CPU108は、ステップS211に進む。
ステップS209において、CPU108は、画像処理部103を制御して、ステップS207でキャプチャしたRAWデータに対してγ処理を行う。
ステップS210において、CPU108は、画像処理部103を制御して、ステップS208でγ処理を行ったRAWデータをRAM111内のHDMI出力用のメモリ領域に書き出す。
ここで、図3及び図4を用いて、このRAM111に書き出すRAWデータについて説明する。図3(a)において、300は、ステップS210でRAM111に書き出されたRAWデータの全体を示している。RAWデータは、有効画素領域(Effective Pixel Area)301のデータと余剰画素領域(Additional Pixel Area)302のデータで構成される。余剰画素領域302は、図3(a)に示すように、有効画素領域301に対して上下左右に数画素付加される領域であり、この領域の画素は有効画素領域301の上下左右端を現像する際に使用される。このような構成であるため、ステップS210で書き出すデータは、図3(b)に示すように有効画素領域と余剰画素領域とを加えたものとなる。例えば、4KのRAWデータの際は、有効画素領域の4096x2160ピクセルに、左右の余剰画素領域の12ピクセル及び上下の余剰画素領域の8ピクセルを加算した、合計4120x2176ピクセル分のデータがRAM111に書き出される。
図4は、ステップS210でRAM111に書き出すRAWデータの詳細を説明するための図である。図4において、400に示すように、RAWデータはR/Gr/Gb/Bのベイヤー配列で構成されている。4KのRAWデータは、このベイヤー配列が401に示すように横方向に2060個(画素データとしては4120ピクセル)、402に示すように縦方向に1088個(画素データとしては2176ピクセル)配置されたものである。なお、このデータサイズは4120(横)x2176(縦)x12(ビット深度)÷8(ビットからバイトへ)=13447680バイトである。
図2に戻り、ステップS211において、CPU108は、画像処理部103を制御して、ステップS207でキャプチャしたRAWデータに対してRAWデータ補正処理を行う。このRAWデータ補正処理は、現像前レンズ補正処理(周辺光量補正処理、倍率色収差補正等)及びホワイトバランス等の処理を含む。現像前レンズ補正処理に用いるデータは、予めレンズの種別毎にROM110に保持されており、CPU108は、この保持されたデータと、撮像装置100に装着されているレンズユニット101の種別により、現像前レンズ補正処理のパラメタを決定する。
ステップS212において、CPU108は、画像処理部103を制御して、ステップS211で補正処理が施された画像データに対して現像処理を行う。この現像処理は、Debayer、γ処理、及び色にじみ補正等の処理を含む。なお、色にじみ補正については、CPU108は、予めROM110に保持されているデータと、撮像装置100に装着されているレンズユニット101の種別により、補正処理のパラメタを決定する。現像処理を行うことでRAWデータがYCC4:2:2の形式のデータとなる。現像処理後のYCC4:2:2の形式の画像データは、RAM111に格納される。
ステップS213において、CPU108は、画像処理部103を制御して、ステップS212で生成されRAM111に格納されたYCC4:2:2の形式のデータに対して、歪曲補正等の現像データ補正処理を行う。この歪曲補正についても、CPU108は、予めROM110に保持されているデータと、撮像装置100に装着されているレンズユニット101の種別により、歪曲補正のパラメタを決定する。ステップS213で補正された現像補正後データ(YCC4:2:2の形式)は、RAM111に格納される。
ステップS214において、CPU108は、RAM111に保持されたモード情報を参照して、撮像装置100がHDMI RAWモードであるか否かを判定する。HDMI RAWモードであると判定した場合(ステップS214でYES)、CPU108は、ステップS215に進む。HDMI RAWモードではないと判定した場合(ステップS214でNO)、CPU108は、ステップS216に進む。
ステップS215において、CPU108は、ステップS210でRAM111に書き出したRAWデータの後の領域に、そのRAWデータに対応するメタデータを書き出す。メタデータは、例えば、対応するRAWデータの補正処理に用いるデータを含む。
ここで、図5~図7を参照して、ステップS210及びステップS215で生成されるHDMI出力用のメモリ領域について説明する。
図5は、4096x2160ピクセルのYCC4:2:2形式の12bitの映像データを、HDMI規格に準拠した映像信号により出力する際のHDMI出力用のメモリ領域を説明するための図である。図5に示すように、このメモリ領域501は、502に示すように横方向4096ピクセル、503に示すように縦方向2160ピクセルの画像領域を有する。そして、図5において、501で示すように、画像データは、2ピクセル単位(2つのYデータに対して、Cb、Crのデータが1つずつ)で構成されており、各データのサイズは、Y、Cb、Crの各データともに12bitである。このHDMI出力用のメモリ領域における1ライン(横方向)のデータサイズは、4096(横)x2(2ピクセルで4つのデータ(Yが2つ、Cbが1つ、Crが1つ)であるので)x12(ビット深度)÷8(ビットからバイトへ)=12288バイトである。また、HDMI出力用のメモリ領域全体としては、データサイズは、4096(横)x2160(縦)x2(2ピクセルで4つのデータ)x12(ビット深度)÷8(ビットからバイトへ)=26542080バイトである。
図6は、図5で説明したHDMI出力用のメモリ領域に対して、ステップS210でRAWデータを格納し、ステップS215でそれに対応するメタデータを格納した状態を説明するための図である。なお、RAWデータのサイズは、図4を参照して説明した4120(横)x2176(縦)x12(ビット深度)÷8(ビットからバイトへ)=13447680バイトである。
図6において、601に示すように、HDMI出力用のメモリ領域におけるCb、Y、Cr、Yの各データ列を配置する画像領域に対して、ベイヤーデータ(1列目がR、Grのデータ、2列目がGr、Bのデータ)を隙間なく配置していく。RAWデータのサイズが13447680バイトであり、HDMI出力用のメモリ領域における1ラインのデータサイズが12288バイトである。したがって、図6において、602に示すように、HDMI出力用のメモリ領域における1095ライン(13447680÷12288=1094.375)で、4120x2176ピクセルでビット深度12ビットのRAWデータを格納することができる。そして、RAWデータの後の領域(HDMI出力用のメモリ領域における1096ライン~2160ライン)は空き領域となるので、603に示すように、この画像領域に1095ライン目までに配置されたRAWデータに対応するメタデータを配置する。例えば、メタデータは、対応するRAW画像の補正処理に用いられるデータであり、RAWデータのγデータ(ステップS209でのγ)を含む。また、例えば、メタデータは、撮像装置100での現像処理及び補正処理に用いたパラメタ(ステップS211でのRAWデータ補正処理のパラメタ、ステップS212での現像処理のパラメタ、ステップS213での現像データ補正処理のパラメタ)を含む。
図6では、HDMI出力用のメモリ領域にステップS210で書き出すRAWデータが収まる場合を説明した。それに対して、ステップS210で書き出すRAWデータがHDMI出力用のメモリ領域に収まらない場合について図7を参照して説明する。
図7において、701は8224x4336ピクセルでビット深度10bitのRAWデータである。内部は、図4を参照して説明した通り、R、Gr、Gb、Bのベイヤー配列で構成されている。このRAWデータのデータサイズは、8224(横)x4336(縦)x10(ビット深度)÷8(ビットからバイトへ)=44574080バイトとなる。したがって、このRAWデータは、4096x2160ピクセルでビット深度12bitに対応するメモリ領域(26542080バイト)には収まらない。そのため、RAWデータを上下に2分割して、2フレームのHDMI出力用のメモリ領域にRAWデータを格納していく。例えば、図7において、702に示すように2176ラインまでのRAWデータを第1フレームに、703に示すように残りのラインのRAWデータを第2フレームに配置する。
図7において、704はRAWデータを配置したHDMI出力用のメモリ領域(1フレーム目)である。8224x4336ピクセルでビット深度10bitのRAWデータの上半分(2176ライン分)のデータサイズは、8224(横)x2176(縦)x10(ビット深度)÷8(ビットからバイトへ)=22369280バイトとなる。したがって、その上半分のRAWデータは、705で示すように、4096x2160ピクセルでビット深度12bitに対応するメモリ領域(画像領域)における1821ライン(22369280÷12288=1820.41)で格納することができる。そのため、706で示すように、HDMI出力用のメモリ領域(1フレーム目)における1822ライン以降に、図6で説明したメタデータが書き込まれる。
707は、RAWデータを配置したHDMI出力用のメモリ領域(2フレーム目)である。8224x4336ピクセルでビット深度10bitのRAWデータの下半分(2160ライン分)のデータサイズは、8224(横)x2160(縦)x10(ビット深度)÷8(ビットからバイトへ)=22204800バイトとなる。したがって、その下半分のRAWデータは、708で示すように、4096x2160ピクセルでビット深度12bitに対応するメモリ領域における1808ライン(22204800÷12288=1807.031)で格納することができる。そのため、709で示すように、HDMI出力用のメモリ領域(2フレーム目)における1809ライン以降に、図6で説明したメタデータが書き込まれる。このように、RAWデータがHDMI出力用のメモリ領域に収まらない際は、RAWデータの上下分割を行い、HDMI出力用のメモリ領域にRAWデータを配置する。
図2に戻り、ステップS216において、CPU108は、表示用リサイズ部105を制御して、ステップS213で生成された現像補正後データをリサイズし、RAM111内のHDMI出力用のメモリ領域に書き出す。ここで、RAM111に書き出されるデータは、図5を参照して説明したYCC4:2:2形式のデータである。
ステップS217において、CPU108は、表示用リサイズ部104を制御して、ステップS213で生成された現像補正後データをリサイズして、RAM111内の表示出力用のメモリ領域に書き出す。ここで、RAM111に書き出されるデータは、図5を参照して説明したYCC4:2:2形式のデータである。
ステップS218において、CPU108は、ステップS217でRAM111内の表示出力用のメモリ領域に書き出した表示出力用のデータを表示部107に出力する。なお、表示部107は、YCC4:2:2形式の画像信号の表示に対応しているため、ステップS207でキャプチャした画像が表示される。
ステップS219において、CPU108は、外部出力部115を制御して、RAM111内のHDMI出力用のメモリ領域に書き出したHDMI出力用のデータを、HDMI規格に準拠した映像信号により外部デバイス等に出力する。ここで、撮像装置100がHDMI RAWモードであるならば、HDMI出力用のメモリ領域には、ステップS210でRAWデータが書き出され、ステップS215でそのRAWデータに対応するメタデータが書き出されている。したがって、撮像装置100がHDMI RAWモードであるならば、YCC4:2:2形式(12ビット)のビデオフォーマットにおける画像領域に対して、RAWデータとメタデータがマッピング(あるいは格納)された信号が出力される。ここで、YCC4:2:2形式(12ビット)のビデオフォーマットはHDMI規格に規定されたビデオフォーマットである。なお、ビデオフォーマットは伝送フォーマットまたは出力フォーマットと言い換えてもよい。また、撮像装置100がHDMI RAWモード以外であるならば、HDMI出力用のメモリ領域には、ステップS216でリサイズされた現像補正後データが書き出されている。したがって、撮像装置100がHDMI RAWモード以外であるならば、YCC4:2:2形式の映像信号が出力される。
その後、ステップS204でHDMI接続なしと判定する、もしくはステップS206でカメラモードでないと判定するまで、CPU108は、ステップS201以降の処理を繰り返し実行する。
次に、撮像装置100から出力されたHDMI規格に準拠した映像信号を受信して表示を行う受像機について説明する。図8は、実施形態1における受像機800の構成要素を説明するためのブロック図である。
受信部801は、HDMI規格に準拠した信号を受信する。受信部801によって受信した映像信号が受像機800の入力となる。受信部801で受信した画像データは、RAM808に格納される。
画像処理部802は、受信部801で受信した画像データに対して各種画像処理を行う。画像処理部802は、画像処理後の画像データをRAM808に格納する。
表示用リサイズ部803は、表示部804や外部出力部809に映像信号を出力するために、RAM808に格納された画像データをリサイズして表示用画像データを生成する。表示用リサイズ部803は、生成した表示用画像データをRAM808に格納する。
表示部804は、RAM111に格納された表示用画像データを表示させるための表示部材である。表示部804は、例えば液晶パネルである。
CPU805は、受像機800全体を制御する。
操作スイッチ群806は、ユーザが操作入力するための操作部材である。
ROM807は、例えばフラッシュROMであり、CPU805が実行するプログラムなどが格納されている。また、ROM807の一部領域は、バックアップ用として、システムの状態などを保持するために使用される。
RAM808は、CPU805及び画像処理部802等がワークとして使用する揮発性メモリである。
外部出力部809は、画像処理部803がRAM808に出力した表示用画像データ等を外部に出力する。外部出力部809は、例えば、HDMI規格又はSDI規格等に準拠したインターフェースである。外部出力部809は、4K60P、2K60P等の規格の信号で表示用画像データを出力することができる。バス810は、受像機800の各部の間でデータのやり取りを行うバスである。
次に、図9を参照して、実施形態1における受像機800がHDMI規格に準拠した映像信号により画像データを受信し、画像データの現像及び表示処理を行う処理について説明する。図9は、実施形態1における受像機800の処理を説明するためのフローチャートである。図9のフローチャートにおける各処理は、受像機800のCPU805がROM807に保存されているプログラムを実行することにより制御される。
ステップS901において、CPU805は、受信部801を制御して、HDMI規格に準拠した信号を受信する。ここで、受信した信号は、RAM808に格納される。なお、ステップS901で受信する画像データは、YCCの画像データである場合と、前述したRAWデータ(RAW画像)である場合とがあるが、これ以降はRAWデータを受信した場合について説明する。
ステップS902において、CPU805は、画像処理部802を制御して、RAM808に保持されたRAWデータに対して逆γ処理を行う。なお、RAWデータに対してかけられたγの情報は、前述したRAWデータに対応するメタデータの情報であってもよい。また、映像信号に関する付加情報を示すVSIF(Vender-Specific InfoFrame)等でソース機器から通知された情報であってもよい。
ステップS903において、CPU805は、RAM808に保持されたRAWデータに、対応するメタデータが付加されているか否かを判定する。対応するメタデータが付加されていると判定した場合(ステップS903でYES)、CPU805は、ステップS904に進む。対応するメタデータが付加されていないと判定した場合(ステップS903でNO)、CPU805は、ステップS909に進む。
ステップS904において、CPU805は、画像処理部802を制御して、RAM808に保持されているRAWデータに対して、現像前レンズ補正処理(周辺光量補正処理、倍率色収差補正等)を行う。この補正処理に用いるデータは、RAWデータに付加されているメタデータに格納されている。
ステップS905において、CPU805は、画像処理部802を制御して、ステップS904で補正処理が施されたRAWデータに対してホワイトバランス処理を行う。
ステップS906において、CPU805は、画像処理部802を制御して、ステップS905で補正されたデータに対して現像処理を行う。この現像処理は、Debayer等である。この現像処理を行うことで、RAWデータはYCC4:2:2形式のデータに変換される。
ステップS907において、CPU805は、画像処理部802を制御して、ステップS906で現像処理が施されたデータに対して、現像後レンズ補正処理を行う。この現像後レンズ補正処理は、色にじみ補正や歪曲補正等の処理を含む。この補正処理に用いるデータは、RAWデータに付加されているメタデータに格納されている。
ステップS908において、CPU805は、画像処理部802を制御して、γ補正やLUT等の表示用画像処理を行う。CPU805は、表示用画像処理後のデータを現像データとしてRAM808に格納する。
ステップS909において、CPU805は、画像処理部802を制御して、RAM808に保持されているRAWデータに対してホワイトバランス処理を行う。
ステップS910において、CPU805は、画像処理部802を制御して、ステップS909で補正されたデータに対して現像処理を行う。この現像処理は、Debayer等である。この現像処理を行うことで、RAWデータはYCC4:2:2形式のデータに変換される。
ステップS911において、CPU805は、画像処理部802を制御して、γ補正やLUT等の表示用画像処理を行う。CPU805は、表示用画像処理後のデータを現像データとしてRAM808に格納する。なお、ここで格納される現像データは、ステップS904で説明した処理及びステップS907で説明した処理が行われていないため、歪曲補正等の補正処理が行われていないデータである。
ステップS912において、CPU805は、表示用リサイズ部803を制御して、RAM808に格納された現像データをリサイズして、RAM808にHDMI出力用のデータとして書き出す。
ステップS913において、CPU805は、表示用リサイズ部803を制御して、RAM808に格納された現像データをリサイズして、RAM111内の表示出力用のメモリ領域に書き出す。
ステップS914において、CPU805は、ステップS913で生成しRAM111内の表示出力用のメモリ領域に書き出した表示出力用のデータを表示部804に出力し、処理を終了する。なお、ここで出力されるデータは、上述の通り、ステップS901で受信したRAWデータにメタデータが付加されていれば、そのメタデータを用いて歪曲補正等のレンズ補正処理が施された画像のデータである。一方、ステップS901で受信したRAWデータにメタデータが付加されていなければ、レンズ補正処理が施されていない画像のデータである。
以上説明したように実施形態1によれば、撮像装置100は、RAWデータ(RAW画像)とともに、そのRAWデータに対応するメタデータを、YCC4:2:2形式(12ビット)のビデオフォーマットにおける画像領域にマッピングする。そして、撮像装置100は、YCC4:2:2形式(12ビット)のビデオフォーマットにおける画像領域にマッピングされた画像データとメタデータとを、HDMI規格に準拠した映像信号により出力する。このようにして、画像データと画像データに対応したメタデータとを、画像劣化を生じさせることなく、また大量に外部に出力することができる。
[実施形態2]
実施形態1で説明した様々な機能、処理または方法は、パーソナルコンピュータ、マイクロコンピュータ、CPU(Central Processing Unit)またはマイクロプロセッサがプログラムを実行することによって実現することもできる。以下、実施形態2では、パーソナルコンピュータ、マイクロコンピュータ、CPU(Central Processing Unit)またはマイクロプロセッサを「コンピュータX」と呼ぶ。また、実施形態2では、コンピュータXを制御するためのプログラムであって、実施形態1で説明した様々な機能、処理または方法を実現するためのプログラムを「プログラムY」と呼ぶ。
実施形態1で説明した様々な機能、処理または方法は、パーソナルコンピュータ、マイクロコンピュータ、CPU(Central Processing Unit)またはマイクロプロセッサがプログラムを実行することによって実現することもできる。以下、実施形態2では、パーソナルコンピュータ、マイクロコンピュータ、CPU(Central Processing Unit)またはマイクロプロセッサを「コンピュータX」と呼ぶ。また、実施形態2では、コンピュータXを制御するためのプログラムであって、実施形態1で説明した様々な機能、処理または方法を実現するためのプログラムを「プログラムY」と呼ぶ。
実施形態1で説明した様々な機能、処理または方法は、コンピュータXがプログラムYを実行することによって実現される。この場合において、プログラムYは、コンピュータ読み取り可能な記憶媒体を介してコンピュータXに供給される。実施形態2におけるコンピュータ読み取り可能な記憶媒体は、ハードディスク装置、磁気記憶装置、光記憶装置、光磁気記憶装置、メモリカード、揮発性メモリ、不揮発性メモリなどの少なくとも一つを含む。実施形態2におけるコンピュータ読み取り可能な記憶媒体は、non-transitoryな記憶媒体である。
100 撮像装置
Claims (10)
- RAW画像を生成する第1の生成手段と、
前記RAW画像に対応するメタデータを生成する第2の生成手段と、
前記第1の生成手段により生成された前記RAW画像とともに前記第2の生成手段により生成された前記メタデータを、YCC4:2:2形式のビデオフォーマットにおける画像領域に配置する配置手段と、
前記配置手段により前記YCC4:2:2形式のビデオフォーマットにおける画像領域に配置された前記RAW画像及び前記メタデータを出力する出力手段とを有することを特徴とする撮像装置。 - 前記配置手段は、前記YCC4:2:2形式のビデオフォーマットにおける画像領域にて、前記RAW画像が配置されていない空き領域に前記メタデータを配置することを特徴とする請求項1に記載の撮像装置。
- 前記配置手段は、前記RAW画像が配置された後の領域に前記メタデータを配置することを特徴とする請求項1又は2に記載の撮像装置。
- 前記出力手段は、前記YCC4:2:2形式のビデオフォーマットにおける画像領域に配置された前記RAW画像及び前記メタデータをHDMI規格に準拠した映像信号により出力することを特徴とする請求項1~3の何れか1項に記載の撮像装置。
- 前記メタデータは、前記RAW画像の補正処理に用いるデータを含むことを特徴とする請求項1~4の何れか1項に記載の撮像装置。
- 前記配置手段は、前記第1の生成手段により生成された前記RAW画像のデータサイズが前記YCC4:2:2形式のビデオフォーマットにおける画像領域のサイズより大きい場合、前記RAW画像のデータを複数に分割して、分割した前記RAW画像とともに前記メタデータを、複数の前記YCC4:2:2形式のビデオフォーマットにおける画像領域に配置することを特徴とする請求項1~5の何れか1項に記載の撮像装置。
- 前記配置手段は、前記第1の生成手段により生成された前記RAW画像のデータサイズが前記YCC4:2:2形式のビデオフォーマットにおける画像領域のサイズより大きい場合、前記RAW画像のデータを画像における上下に2分割することを特徴とする請求項6に記載の撮像装置。
- 前記出力手段は、第1のモードでは前記RAW画像及び前記メタデータを出力し、第2のモードでは前記RAW画像を現像処理した現像データを出力することを特徴とする請求項1~7の何れか1項に記載の撮像装置。
- RAW画像を生成するステップと、
前記RAW画像に対応するメタデータを生成するステップと、
生成された前記RAW画像とともに、生成された前記メタデータを、YCC4:2:2形式のビデオフォーマットにおける画像領域に配置するステップと、
前記YCC4:2:2形式のビデオフォーマットにおける画像領域に配置された前記RAW画像及び前記メタデータを出力するステップとを有することを特徴とする制御方法。 - 撮像装置のコンピュータに、
RAW画像を生成するステップと、
前記RAW画像に対応するメタデータを生成するステップと、
生成された前記RAW画像とともに、生成された前記メタデータを、YCC4:2:2形式のビデオフォーマットにおける画像領域に配置するステップと、
前記YCC4:2:2形式のビデオフォーマットにおける画像領域に配置された前記RAW画像及び前記メタデータを出力するステップとを実行させるためのプログラム。
Priority Applications (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021214768A JP2023098173A (ja) | 2021-12-28 | 2021-12-28 | 撮像装置、制御方法、及びプログラム |
| EP22915897.7A EP4460028A4 (en) | 2021-12-28 | 2022-12-22 | IMAGING DEVICE THAT GENERATES RAW IMAGE, CONTROL METHOD, AND PROGRAM |
| CN202280086078.2A CN118648297A (zh) | 2021-12-28 | 2022-12-22 | 配置为生成raw图像的摄像装置、控制方法和程序 |
| PCT/JP2022/047272 WO2023127674A1 (ja) | 2021-12-28 | 2022-12-22 | Raw画像を生成する撮像装置、制御方法、及びプログラム |
| US18/753,479 US20240348940A1 (en) | 2021-12-28 | 2024-06-25 | Imaging apparatus configured to generate raw image, control method, and storage medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021214768A JP2023098173A (ja) | 2021-12-28 | 2021-12-28 | 撮像装置、制御方法、及びプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023098173A true JP2023098173A (ja) | 2023-07-10 |
| JP2023098173A5 JP2023098173A5 (ja) | 2024-12-26 |
Family
ID=86999074
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021214768A Pending JP2023098173A (ja) | 2021-12-28 | 2021-12-28 | 撮像装置、制御方法、及びプログラム |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US20240348940A1 (ja) |
| EP (1) | EP4460028A4 (ja) |
| JP (1) | JP2023098173A (ja) |
| CN (1) | CN118648297A (ja) |
| WO (1) | WO2023127674A1 (ja) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013153410A (ja) * | 2011-12-28 | 2013-08-08 | Sharp Corp | Av機器 |
| JP2020141335A (ja) * | 2019-02-28 | 2020-09-03 | キヤノン株式会社 | 撮像装置、画像処理装置、それらの制御方法、プログラム |
| JP2020178292A (ja) * | 2019-04-19 | 2020-10-29 | キヤノン株式会社 | 撮像装置およびその制御方法、プログラム |
| JP2020182186A (ja) * | 2019-04-26 | 2020-11-05 | キヤノン株式会社 | 撮像装置及び記録制御方法及びプログラム |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9226048B2 (en) * | 2010-02-22 | 2015-12-29 | Dolby Laboratories Licensing Corporation | Video delivery and control by overwriting video data |
| US9912986B2 (en) * | 2015-03-19 | 2018-03-06 | Sony Corporation | System for distributing metadata embedded in video |
| JP2018005555A (ja) * | 2016-07-01 | 2018-01-11 | ソニー株式会社 | 画像処理装置、情報処理装置、および方法、並びにプログラム |
| WO2020175231A1 (ja) * | 2019-02-28 | 2020-09-03 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム |
| US12155929B2 (en) * | 2019-08-30 | 2024-11-26 | Sony Group Corporation | Imaging device, processing device, data transmission system, and data transmission method for transmission of image data |
| JP2021150790A (ja) * | 2020-03-18 | 2021-09-27 | ソニーグループ株式会社 | 送信装置、送信方法および受信装置 |
| US11265464B2 (en) * | 2020-03-27 | 2022-03-01 | Panasonic Intellectual Property Management Co., Ltd. | Imaging apparatus with image-capturing data and management information thereof saved as an incomplete file |
-
2021
- 2021-12-28 JP JP2021214768A patent/JP2023098173A/ja active Pending
-
2022
- 2022-12-22 WO PCT/JP2022/047272 patent/WO2023127674A1/ja not_active Ceased
- 2022-12-22 EP EP22915897.7A patent/EP4460028A4/en active Pending
- 2022-12-22 CN CN202280086078.2A patent/CN118648297A/zh active Pending
-
2024
- 2024-06-25 US US18/753,479 patent/US20240348940A1/en active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013153410A (ja) * | 2011-12-28 | 2013-08-08 | Sharp Corp | Av機器 |
| JP2020141335A (ja) * | 2019-02-28 | 2020-09-03 | キヤノン株式会社 | 撮像装置、画像処理装置、それらの制御方法、プログラム |
| JP2020178292A (ja) * | 2019-04-19 | 2020-10-29 | キヤノン株式会社 | 撮像装置およびその制御方法、プログラム |
| JP2020182186A (ja) * | 2019-04-26 | 2020-11-05 | キヤノン株式会社 | 撮像装置及び記録制御方法及びプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| CN118648297A (zh) | 2024-09-13 |
| WO2023127674A1 (ja) | 2023-07-06 |
| US20240348940A1 (en) | 2024-10-17 |
| EP4460028A4 (en) | 2025-10-15 |
| EP4460028A1 (en) | 2024-11-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6757157B2 (ja) | 投影装置およびその制御方法 | |
| JP4378258B2 (ja) | 画像補正装置およびその制御方法 | |
| US9538085B2 (en) | Method of providing panoramic image and imaging device thereof | |
| US8335398B2 (en) | Zoom lens distortion correcting apparatus | |
| JP6727989B2 (ja) | 画像処理装置およびその制御方法 | |
| JPWO2008150017A1 (ja) | 信号処理方法および信号処理装置 | |
| US20180270448A1 (en) | Image processing system | |
| US10397587B2 (en) | Image processing apparatus and control method thereof | |
| JP7020832B2 (ja) | デジタルビデオカメラ、映像出力装置、映像出力方法、プログラム | |
| JP6210772B2 (ja) | 情報処理装置、撮像装置、制御方法、及びプログラム | |
| WO2023127674A1 (ja) | Raw画像を生成する撮像装置、制御方法、及びプログラム | |
| JP7256663B2 (ja) | 画像出力装置およびその制御方法 | |
| JP2025086669A (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
| JP5884604B2 (ja) | 画像記録装置、撮像装置、画像記録プログラム、および画像表示プログラム | |
| JP6004845B2 (ja) | 表示制御装置及びその制御方法 | |
| JP4641515B2 (ja) | 画像再生装置及び画像再生方法 | |
| JP2024001606A (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
| JP5191941B2 (ja) | 撮像装置、画像処理装置、画像処理方法、および、画像処理プログラム | |
| US20250356457A1 (en) | Image processing apparatus and control method | |
| US20250363691A1 (en) | Image processing apparatus and method, electronic apparatus, and storage medium | |
| JP7370762B2 (ja) | 撮像装置およびその制御方法 | |
| JP7159024B2 (ja) | 撮像装置、撮像装置の制御方法、及びプログラム | |
| JP2010218563A (ja) | 画像表示装置およびその制御方法 | |
| JP2019114887A (ja) | 投射型画像表示装置およびその制御方法 | |
| JP2025087197A (ja) | 撮像装置、撮像装置の制御方法、及びプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241218 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20241218 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20251007 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20251208 |