[go: up one dir, main page]

JP2009159359A - 動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム - Google Patents

動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム Download PDF

Info

Publication number
JP2009159359A
JP2009159359A JP2007335732A JP2007335732A JP2009159359A JP 2009159359 A JP2009159359 A JP 2009159359A JP 2007335732 A JP2007335732 A JP 2007335732A JP 2007335732 A JP2007335732 A JP 2007335732A JP 2009159359 A JP2009159359 A JP 2009159359A
Authority
JP
Japan
Prior art keywords
image data
encoded
image sensor
information
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007335732A
Other languages
English (en)
Inventor
Minoru Otani
稔 大谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanwha Vision Co Ltd
Original Assignee
Samsung Techwin Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Techwin Co Ltd filed Critical Samsung Techwin Co Ltd
Priority to JP2007335732A priority Critical patent/JP2009159359A/ja
Priority to KR20080058060A priority patent/KR20090071327A/ko
Priority to US12/330,642 priority patent/US8300960B2/en
Publication of JP2009159359A publication Critical patent/JP2009159359A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N5/926Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation
    • H04N5/9261Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback by pulse code modulation involving data reduction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Studio Devices (AREA)

Abstract

【課題】RAW画像データのフォーマットやフォーマットの更新に関わらず、RAW画像データを容易にデモザイキング処理することが可能な動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラムを提供すること。
【解決手段】撮像素子102からフレーム単位で順次出力されるRAW画像データを符号化処理して符号化RAW画像データを生成する符号化処理部106と、符号化RAW画像データを復号化処理するために必要な符号化処理に関する符号化情報を生成する符号化情報生成部112と、RAW画像データを現像処理するために必要な撮像素子に関する撮像素子情報を生成する撮像素子情報生成部110と、符号化RAW画像データと、符号化情報と、撮像素子情報とを含む動画像データを生成するデータ生成部108とを備えることを特徴とする。
【選択図】図1

Description

本発明は、動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラムに関する。
動画像を記録可能なビデオカメラ、カムコーダ、静止画像を記録可能なデジタルスチルカメラなどの撮像装置は、一般にCCD等のイメージセンサ(撮像素子)から出力された信号に補間処理などのデモザイキング処理を行った後、MPEG−2、JPEG等の圧縮処理を施し、フラッシュメモリやHDD、DVD等の記録媒体にデータの記録を行っている。
通常、画像データの記録再生品質は、非可逆な圧縮処理が施されることによって、圧縮処理前のデータに比べて低下する。そのため、静止画像を記録するデジタルスチルカメラ等の撮像装置には、デモザイキング処理や圧縮処理を行わずにイメージセンサから出力された信号をRAW形式として直接記録するものがある。特許文献1には、画像データ記録時に、JPEG等の圧縮形式か、RAW形式かを選択して画像データを記録する技術が開示されている。
特開平11−261933号公報
ところで、RAW画像データフォーマットは、撮像装置の製造メーカや撮像装置毎に異なっている。そのため、RAW画像データをデモザイキング処理する場合、製造メーカや撮像装置のRAW画像データフォーマットに対応したソフトウェアを用いて現像処理する必要があった。
また、RAW画像データフォーマットにおけるパラメータや符号化方式等が変更された場合、撮像装置に実装されたフォーマット部の更新だけでなく、デモザイキング処理ソフトの更新も必要であった。例えば、撮像装置においてRAW画像データフォーマットの更新がされているが、デモザイキング処理ソフトにおいてRAW画像データフォーマットの更新がされていない場合、撮像装置で記録されたRAW画像データをデモザイキング処理できないという問題があった。更に、RAW画像データフォーマットが将来的に拡張されることを想定してreserved flagを設けたとしても、デモザイキング処理ソフト側は対応できないフォーマットであることが認識できるだけであり、拡張されたフォーマットに基づいてRAW画像データをデモザイキング処理することはできなかった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、RAW画像データのフォーマットやフォーマットの更新に関わらず、RAW画像データを容易にデモザイキング処理することが可能な、新規かつ改良された動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラムを提供することにある。
上記課題を解決するために、本発明のある観点によれば、撮像素子からフレーム単位で順次出力されるRAW画像データを符号化処理して符号化RAW画像データを生成する符号化処理部と、符号化RAW画像データを復号化処理するために必要な符号化処理に関する符号化情報を生成する符号化情報生成部と、RAW画像データを現像処理するために必要な撮像素子に関する撮像素子情報を生成する撮像素子情報生成部と、符号化RAW画像データと、符号化情報と、撮像素子情報とを含む動画像データを生成するデータ生成部とを備えることを特徴とする動画像データ符号化装置が提供される。
上記符号化情報又は撮像素子情報と、予め規定された符号化情報又は撮像素子情報とが一致するとき、データ生成部は、動画像データに予め決められたフラグを立ててもよい。
また、上記課題を解決するために、本発明の別の観点によれば、撮像素子からフレーム単位で順次出力され符号化処理された符号化RAW画像データと、符号化RAW画像データを復号化処理するために必要な符号化処理に関する符号化情報と、復号化処理して生成されたRAW画像データを現像処理するために必要な撮像素子に関する撮像素子情報とを含む動画像データを読み出すデータ読出し部と、動画像データから符号化情報を抽出する符号化情報抽出部と、符号化情報に基づいて符号化RAW画像データを復号化処理してRAW画像データを生成する復号化部と、動画像データから撮像素子情報を抽出する撮像素子情報抽出部と、撮像素子情報に基づいてRAW画像データを現像処理して現像処理済画像データを生成する現像処理部とを備えることを特徴とする動画像データ復号化装置が提供される。
上記動画像データが、符号化情報又は撮像素子情報と、予め規定された符号化情報又は撮像素子情報とが一致するときに立てられたフラグを含むとき、復号化部は、予め規定された符号化情報に基づいて符号化RAW画像データを復号化処理し、現像処理部は、予め規定された撮像素子情報に基づいてRAW画像データを現像処理してもよい。
また、上記課題を解決するために、本発明の別の観点によれば、撮像素子からフレーム単位で順次出力されるRAW画像データを符号化処理して符号化RAW画像データを生成するステップと、符号化RAW画像データを復号化処理するために必要な符号化処理に関する符号化情報を生成するステップと、RAW画像データを現像処理するために必要な撮像素子に関する撮像素子情報を生成するステップと、符号化RAW画像データと、符号化情報と、撮像素子情報とを含む動画像データを生成するステップとを備えることを特徴とする動画像データ符号化方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、撮像素子からフレーム単位で順次出力され符号化処理された符号化RAW画像データと、符号化RAW画像データを復号化処理するために必要な符号化処理に関する符号化情報と、復号化処理して生成されたRAW画像データを現像処理するために必要な撮像素子に関する撮像素子情報とを含む動画像データを読み出すステップと、動画像データから符号化情報を抽出するステップと、符号化情報に基づいて符号化RAW画像データを復号化処理してRAW画像データを生成するステップと、動画像データから撮像素子情報を抽出するステップと、撮像素子情報に基づいてRAW画像データを現像処理して現像処理済画像データを生成するステップとを備えることを特徴とする動画像データ復号化方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、撮像素子からフレーム単位で順次出力されるRAW画像データを符号化処理して符号化RAW画像データを生成する手段、符号化RAW画像データを復号化処理するために必要な符号化処理に関する符号化情報を生成する手段、RAW画像データを現像処理するために必要な撮像素子に関する撮像素子情報を生成する手段、符号化RAW画像データと、符号化情報と、撮像素子情報とを含む動画像データを生成する手段をコンピュータに実行させるためのプログラムが提供される。
また、上記課題を解決するために、本発明の別の観点によれば、撮像素子からフレーム単位で順次出力され符号化処理された符号化RAW画像データと、符号化RAW画像データを復号化処理するために必要な符号化処理に関する符号化情報と、復号化処理して生成されたRAW画像データを現像処理するために必要な撮像素子に関する撮像素子情報とを含む動画像データを読み出す手段、動画像データから符号化情報を抽出する手段、符号化情報に基づいて符号化RAW画像データを復号化処理してRAW画像データを生成する手段、動画像データから撮像素子情報を抽出する手段、撮像素子情報に基づいてRAW画像データを現像処理して現像処理済画像データを生成する手段をコンピュータに実行させるためのプログラムが提供される。
本発明によれば、RAW画像データのフォーマットやフォーマットの更新に関わらず、RAW画像データを容易にデモザイキング処理することができる。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
(本実施形態の撮像装置100)
まず、図1を参照して、本発明の一実施形態に係る撮像装置100について説明する。図1は、本実施形態に係る撮像装置100を示すブロック図である。
撮像装置100は、例えば、レンズ等の光学系やイメージセンサ102を有して、動画像を撮影、記録可能なビデオカメラ、カムコーダ等である。撮像装置100は、例えば、イメージセンサ102と、プレ処理部104と、データ圧縮部106と、フォーマット部108と、イメージセンサ情報生成部110と、スクリプト生成部112と、記憶部114などからなる。
イメージセンサ102は、例えば、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等の撮像素子であり、被写体からの光を受光して電気信号に変換し、1フレーム毎の画像データをプレ処理部104に送る。
プレ処理部104は、イメージセンサ102から送られた画像データを受ける。プレ処理部104は、入力された信号をAD(アナログデジタル)変換するADコンバータを含む。プレ処理部104は、データ圧縮処理前のデータ処理、例えば、画素欠陥補正などを行う。プレ処理部104は、データ処理によって生成したデータ(以下、RAW画像データという。)をデータ圧縮部106に送る。なお、プレ処理部104は、上記データ圧縮処理前のデータ処理を行わずに生成したRAW画像データを出力してもよい。
データ圧縮部106は、符号化処理部の一例であり、プレ処理部104から受けたRAW画像データを圧縮処理する。圧縮処理は、圧縮処理したRAW画像データをもとのデータに戻すことが可能な可逆圧縮処理であり、例えばハフマン符号化処理である。また、圧縮処理は、同一フレーム内の上下左右の画素を参照する空間的相関を用いる圧縮方式である。これにより、時間的な前後関係で異なるフレーム同士を参照する時間的相関を用いるMPEG方式などと違い、イメージセンサ102から出力されたデータをフレーム毎にそのまま記録することができる。データ圧縮部106は、圧縮処理によって符号化RAW画像データを生成し、符号化RAW画像データをフォーマット部108に送る。
なお、データ圧縮部106は、必ずしもRAW画像データを圧縮しなくてもよく、パッキング処理(Packing)のみを行うとしてもよい。但し、以下では、圧縮処理されずパッキング処理のみされたRAW画像データについても符号化RAW画像データという。
フォーマット部(Formatter)108は、データ生成部の一例であり、データ圧縮部106で生成された符号化RAW画像データ、イメージセンサ情報生成部110で生成されたCFA配列情報(イメージセンサ情報)、スクリプト生成部112で生成された圧縮スクリプトを受ける。そして、フォーマット部108は、符号化RAW画像データ、CFA配列情報、スクリプトを含む動画像データ(符号化データ)を生成する。なお、以下では、CFA配列情報及び圧縮スクリプトを総称して付加情報ともいう。
また、フォーマット部108は、記憶部114に記憶された既存の(予め規定された)CFA配列情報及び圧縮スクリプトと、イメージセンサ情報生成部110やスクリプト生成部112で生成されたCFA配列情報及び圧縮スクリプトとを比較して、同一である場合は記憶部114から読み出されたCFA配列情報及び圧縮スクリプト(予め決められたフラグ、例えば「0」など)を動画像データに記述し、異なる場合は具体的なCFA配列情報及び圧縮スクリプトを動画像データに記述する。これにより、例えばフォーマット策定時や製品出荷時等の(標準の)イメージセンサ102のイメージセンサ情報(例えば、ベイヤ配列のCFA構成など)や、圧縮スクリプトに変更があった場合に、動画像データに具体的な情報が記述され、フォーマット策定時や製品出荷時等から変更がない場合には、記憶部114から読み出された規定のCFA配列情報及び圧縮スクリプト、又は予め決められたフラグが記述される。
更に、フォーマット部108は、動画像データを例えばメディア記録部(図示せず。)等に出力し、動画像データはフラッシュメモリ、ハードディスク等の記録媒体に記録される。
イメージセンサ情報生成部110は、撮像素子情報生成部の一例であり、RAW画像データを現像処理するために必要なイメージセンサ102に関するイメージセンサ情報を生成する。イメージセンサ情報は、例えば、イメージセンサ102のCFA(Color Filter Array)構成などの情報である。イメージセンサ情報生成部110は、生成したイメージセンサ情報をフォーマット部108に送る。
スクリプト生成部112は、符号化情報生成部の一例であり、符号化RAW画像データを復号化処理するために必要な符号化処理に関する圧縮スクリプト(符号化情報)を生成する。圧縮スクリプトは、例えば、圧縮方式を記述するライブラリ関数である。スクリプト生成部112は、生成した圧縮スクリプトをフォーマット部108に送る。
記憶部114は、例えばフォーマット策定時や製品出荷時等のイメージセンサ情報や圧縮スクリプトを記憶しておく。これにより、フォーマット部108は、イメージセンサ情報生成部110やスクリプト生成部112で生成された付加情報が、記憶部114に記憶された付加情報と異なるか否かを判断することができる。
なお、本実施形態の撮像装置100には図示しないCPUが設けられ、CPUは、プログラムによって演算処理装置及び制御装置として機能し、撮像装置100内に設けられた各構成要素の処理を制御することができる。なお、撮像装置100における一連の処理は、ハードウェアで処理してもよいし、コンピュータ上のプログラムによるソフトウェア処理で実現してもよい。
本実施形態の撮像装置100によれば、符号化RAW画像データと共に、CFA配列情報と圧縮スクリプトを含む動画像データが生成され、生成された動画像データが外部に出力される。そして、当該動画像データを受けた再生側では、CFA配列情報と圧縮スクリプトを参照して、符号化RAW画像データを再生可能なデータとして現像処理できる。
(本実施形態の再生装置200)
次に、図2を参照して、本発明の一実施形態に係る再生装置200について説明する。図2は、本実施形態に係る再生装置200を示すブロック図である。
再生装置200は、例えば、記録媒体に記録された動画像データや、外部から受けた動画像データを再生可能である。再生装置200は、例えば、デフォーマット部202と、データ伸張部204と、デモザイキング処理部206と、スクリプト解釈部210と、イメージセンサ情報抽出部212と、記憶部214などからなる。
デフォーマット部(De-Formatter)202は、データ読出し部の一例であり、撮像装置100によって生成され、記録媒体に記録された動画像データ(符号化データ)を読み出す。デフォーマット部202は、更に動画像データを符号化RAW画像データと、付加情報(CFA配列情報及び圧縮スクリプト)に分離する。デフォーマット部202は、分離したRAW画像データをデータ伸張部204に送り、付加情報の1つである圧縮スクリプトをスクリプト解釈部210に送り、別の付加情報であるCFA配列情報をイメージセンサ情報抽出部212に送る。
データ伸張部204は、復号化処理部の一例であり、スクリプト解釈部210から圧縮スクリプトを受け、圧縮スクリプトに基づいてデフォーマット部202から受けた符号化RAW画像データを伸張処理する。なお、データ伸張部204は、スクリプト解釈部210から圧縮スクリプトについては、予め決められたフラグが記述されていると判断したという指示を受けた場合は、既存の圧縮スクリプトを記憶部214から読み出して、既存の圧縮スクリプトに基づいてデフォーマット部202から受けた符号化RAW画像データを伸張処理する。
伸張処理は、圧縮処理されたRAW画像データをもとのデータに戻す復号化処理であり、撮像装置100における圧縮処理に対応している。データ伸張部204は、伸張処理によって圧縮処理されていないRAW画像データを生成し、当該RAW画像データをデモザイキング処理部206に送る。なお、符号化RAW画像データが圧縮処理されずパッキング処理のみされている場合は、データ伸張部204はデパッキング処理(De-Packing)のみ行なう。
デモザイキング処理部(De-mosaicing)206は、現像処理部の一例であり、イメージセンサ情報抽出部212からCFA配列情報を受け、CFA配列情報に基づいてデータ伸張部204から受けたRAW画像データをデモザイキング処理する。なお、デモザイキング処理部206は、イメージセンサ情報抽出部212からイメージセンサ情報については、予め決められたフラグが記述されていると判断したという指示を受けた場合は、既存のイメージセンサ情報を記憶部214から読み出して、既存のCFA配列情報に基づいてデータ伸張部204から受けたRAW画像データをデモザイキング処理する。
デモザイキング処理は、例えば、不完全なRAW画像データから完全な画像へと補間するための補間処理などである。デモザイキング処理部206は、デモザイキング処理によって現像処理済データ(復号化データ)を生成する。現像処理済データはディスプレイ10などの表示装置で再生可能なデータであり、例えばビデオ出力部(図示せず。)を介してディスプレイ10などに送られて、動画像が表示される。
スクリプト解釈部210は、符号化情報抽出部の一例であり、デフォーマット部202が分離したデータから圧縮スクリプトを抽出しデフォーマット部202から圧縮スクリプトを受ける。また、スクリプト解釈部210は、圧縮スクリプトを解釈してデータ伸張部204に指示を与える。更に、スクリプト解釈部210は、圧縮スクリプトについて予め決められたフラグが記述されていると判断した場合、その旨の指示をデータ伸張部204に送る。
イメージセンサ情報抽出部212は、撮像素子情報抽出部の一例であり、デフォーマット部202が分離したデータからイメージセンサ情報を抽出しデフォーマット部202からイメージセンサ情報を受ける。また、イメージセンサ情報抽出部212は、イメージセンサのCFA構成などの情報をデモザイキング処理部206に送る。更に、イメージセンサ情報抽出部212は、イメージセンサ情報について予め決められたフラグが記述されていると判断した場合、その旨の指示をデモザイキング処理部206に送る。
記憶部214は、例えばフォーマット策定時や製品出荷時等の予め規定されたイメージセンサ情報や圧縮スクリプトを記憶しておく。これにより、データ伸張部204やデモザイキング処理部206は、CFA配列情報及び圧縮スクリプトについて予め決められたフラグが記述されているという判断を受けた場合、記憶部214から既存のCFA配列情報及び圧縮スクリプトを受けることができる。そして、既存のCFA配列情報及び圧縮スクリプトに基づいて伸張処理やデモザイキング処理を行う。
なお、本実施形態の再生装置200には図示しないCPUが設けられ、CPUは、プログラムによって演算処理装置及び制御装置として機能し、再生装置200内に設けられた各構成要素の処理を制御することができる。なお、再生装置200における一連の処理は、ハードウェアで処理してもよいし、コンピュータ上のプログラムによるソフトウェア処理で実現してもよい。
本実施形態の再生装置200によれば、撮像装置100で生成された符号化RAW画像データと共に、イメージセンサ情報と圧縮スクリプトを含む動画像データを受け、イメージセンサ情報と圧縮スクリプトを参照して、符号化RAW画像データを再生可能なデータとして現像処理できる。
(本実施形態の動画像データのデータ構造)
次に、図3及び図4を参照して、本発明の一実施形態に係る撮像装置100によって生成され、再生装置200によって読み込まれる動画像データのデータ構造について説明する。図3及び図4は、本発明の一実施形態に係る撮像装置100によって生成され、再生装置200によって読み込まれる動画像データのデータ構造を示す説明図である。
動画像データは、図3に示すように、ヘッダ(Header)データと、ヘッダデータに続く符号化RAW画像データとで構成される。符号化RAW画像データは少なくとも1フレームの画像データからなる。
ヘッダデータは、ヘッダを示すHeader IDと、Header IDに続く基本情報(Basic Information:B-INFO)と、B-INFOに続く付加情報(Additional Information:A-INFO)からなる。B-INFOは、撮像装置100や再生装置200のデータ処理に必要な撮影条件、撮影時刻、データサイズなどの情報である。
A-INFOは、上述したCFA配列情報及び圧縮スクリプトを含む付加情報である。A-INFOは、A-INFO ID、CFA構成PACK ID、拡張フォーマットフラグ1(Extension Format Flag1)、パラメータサイズ1(Parameter Size1)、CFA構成記述、圧縮方式PACK ID、拡張フォーマットフラグ2(Extension Format Flag2)、パラメータサイズ2(Parameter Size2)、圧縮方式記述からなり、上述の順に配置される。即ち、PACK IDから内容の記述までの一連のデータ(Pack Data)が、CFA配列情報及び圧縮スクリプトそれぞれについて配置される。
A-INFO ID、CFA構成PACK ID、圧縮方式PACK IDは、後に続くデータを示す識別である。拡張フォーマットフラグ1、2は、CFA構成などのイメージセンサ情報や圧縮スクリプトが拡張方式であるか否かを示すフラグである。ここで、拡張方式とは、フォーマット策定時や製品出荷時等の方式以外の方式である場合をいう。パラメータサイズ1、2は、付加情報のデータサイズであり、それぞれPACK IDから内容の記述までのデータサイズが記録され、次のデータの位置を明示することができる。
CFA構成記述、圧縮方式記述には、付加情報の具体的な内容が記述される。即ち、CFA構成記述、圧縮方式記述には、拡張方式ではない場合(例えば、フォーマット策定時や製品出荷時等の方式である場合)は、予め決められたフラグが配置される。一方、フォーマット策定時や製品出荷時等の方式以外の方式(拡張方式)である場合は、具体的な内容、例えばCFA構成についてはCFA配列情報が配置され、圧縮方式については圧縮スクリプトが配置される。
拡張方式でない場合の予め決められたフラグには、例えば、CFA構成の場合、カラーフィルタ(CF)の色、水平・垂直の繰り返し数、画素数、ライン数などがある。圧縮方式の場合、例えばハフマン符号化方式であればハフマンテーブル、前処理として差分を行なうかという情報、差分を行なうのは前後か上下かなどの情報などである。一方、スクリプトが配置される場合には、再生装置200がライブラリ関数として読み込むことができる形式にスクリプトが記述されているとよい。このとき、再生装置200には、当該ライブラリ関数の読み込み結果が入力される。
本実施形態によれば、撮像装置100は、符号化RAW画像データと共に、CFA配列情報や圧縮スクリプトを含めて動画像データを生成する。そのため、再生装置200では、予め決められたフォーマットに限定されず、新たに更新されたフォーマットや他のフォーマットの動画像データについても再生可能に復号化することができる。例えば、フォーマット策定時には想定できなかった符号化方式を撮像装置100に実装したとしても、再生装置200側では更新は必要なく、フォーマットの更新も必要ない。また、撮像装置100にユーザが独自に作成した符号化方式を使用することができ、利便性が向上する。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
本発明の一実施形態に係る撮像装置を示すブロック図である。 同実施形態に係る再生装置を示すブロック図である。 同実施形態に係る撮像装置によって生成され、再生装置によって読み込まれる動画像データのデータ構造を示す説明図である。 同実施形態に係る撮像装置によって生成され、再生装置によって読み込まれる動画像データのデータ構造を示す説明図である。
符号の説明
100 撮像装置
102 イメージセンサ
104 プレ処理部
106 データ圧縮部
108 フォーマット部
110 イメージセンサ情報生成部
112 スクリプト生成部
114、214 記憶部
200 再生装置
202 デフォーマット部
204 データ伸張部
206 デモザイキング処理部
210 スクリプト解釈部
212 イメージセンサ情報抽出部

Claims (8)

  1. 撮像素子からフレーム単位で順次出力されるRAW画像データを符号化処理して符号化RAW画像データを生成する符号化処理部と、
    前記符号化RAW画像データを復号化処理するために必要な前記符号化処理に関する符号化情報を生成する符号化情報生成部と、
    前記RAW画像データを現像処理するために必要な前記撮像素子に関する撮像素子情報を生成する撮像素子情報生成部と、
    前記符号化RAW画像データと、前記符号化情報と、前記撮像素子情報とを含む動画像データを生成するデータ生成部と、
    を備えることを特徴とする、動画像データ符号化装置。
  2. 前記符号化情報又は前記撮像素子情報と、予め規定された符号化情報又は撮像素子情報とが一致するとき、前記データ生成部は、前記動画像データに予め決められたフラグを立てることを特徴とする、請求項1に記載の動画像データ符号化装置。
  3. 撮像素子からフレーム単位で順次出力され符号化処理された符号化RAW画像データと、前記符号化RAW画像データを復号化処理するために必要な前記符号化処理に関する符号化情報と、前記復号化処理して生成されたRAW画像データを現像処理するために必要な前記撮像素子に関する撮像素子情報とを含む動画像データを読み出すデータ読出し部と、
    前記動画像データから前記符号化情報を抽出する符号化情報抽出部と、
    前記符号化情報に基づいて前記符号化RAW画像データを前記復号化処理して前記RAW画像データを生成する復号化部と、
    前記動画像データから前記撮像素子情報を抽出する撮像素子情報抽出部と、
    前記撮像素子情報に基づいて前記RAW画像データを現像処理して現像処理済画像データを生成する現像処理部と、
    を備えることを特徴とする、動画像データ復号化装置。
  4. 前記動画像データが、前記符号化情報又は前記撮像素子情報と、予め規定された符号化情報又は撮像素子情報とが一致するときに立てられたフラグを含むとき、前記復号化部は、予め規定された符号化情報に基づいて前記符号化RAW画像データを復号化処理し、前記現像処理部は、予め規定された撮像素子情報に基づいて前記RAW画像データを現像処理することを特徴とする、請求項3に記載の動画像データ復号化装置。
  5. 撮像素子からフレーム単位で順次出力されるRAW画像データを符号化処理して符号化RAW画像データを生成するステップと、
    前記符号化RAW画像データを復号化処理するために必要な前記符号化処理に関する符号化情報を生成するステップと、
    前記RAW画像データを現像処理するために必要な前記撮像素子に関する撮像素子情報を生成するステップと、
    前記符号化RAW画像データと、前記符号化情報と、前記撮像素子情報とを含む動画像データを生成するステップと、
    を備えることを特徴とする、動画像データ符号化方法。
  6. 撮像素子からフレーム単位で順次出力され符号化処理された符号化RAW画像データと、前記符号化RAW画像データを復号化処理するために必要な前記符号化処理に関する符号化情報と、前記復号化処理して生成されたRAW画像データを現像処理するために必要な前記撮像素子に関する撮像素子情報とを含む動画像データを読み出すステップと、
    前記動画像データから前記符号化情報を抽出するステップと、
    前記符号化情報に基づいて前記符号化RAW画像データを前記復号化処理して前記RAW画像データを生成するステップと、
    前記動画像データから前記撮像素子情報を抽出するステップと、
    前記撮像素子情報に基づいて前記RAW画像データを現像処理して現像処理済画像データを生成するステップと、
    を備えることを特徴とする、動画像データ復号化方法。
  7. 撮像素子からフレーム単位で順次出力されるRAW画像データを符号化処理して符号化RAW画像データを生成する手段、
    前記符号化RAW画像データを復号化処理するために必要な前記符号化処理に関する符号化情報を生成する手段、
    前記RAW画像データを現像処理するために必要な前記撮像素子に関する撮像素子情報を生成する手段、
    前記符号化RAW画像データと、前記符号化情報と、前記撮像素子情報とを含む動画像データを生成する手段、
    をコンピュータに実行させるためのプログラム。
  8. 撮像素子からフレーム単位で順次出力され符号化処理された符号化RAW画像データと、前記符号化RAW画像データを復号化処理するために必要な前記符号化処理に関する符号化情報と、前記復号化処理して生成されたRAW画像データを現像処理するために必要な前記撮像素子に関する撮像素子情報とを含む動画像データを読み出す手段、
    前記動画像データから前記符号化情報を抽出する手段、
    前記符号化情報に基づいて前記符号化RAW画像データを前記復号化処理して前記RAW画像データを生成する手段、
    前記動画像データから前記撮像素子情報を抽出する手段、
    前記撮像素子情報に基づいて前記RAW画像データを現像処理して現像処理済画像データを生成する手段、
    をコンピュータに実行させるためのプログラム。
JP2007335732A 2007-12-27 2007-12-27 動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム Pending JP2009159359A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007335732A JP2009159359A (ja) 2007-12-27 2007-12-27 動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム
KR20080058060A KR20090071327A (ko) 2007-12-27 2008-06-19 동화상 데이터 부호화 장치, 동화상 데이터 복호화 장치,동화상 데이터 부호화 방법, 동화상 데이터 복호화 방법 및프로그램 기록 매체
US12/330,642 US8300960B2 (en) 2007-12-27 2008-12-09 Method and apparatus for encoding video data, method and apparatus for decoding video data, and program recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007335732A JP2009159359A (ja) 2007-12-27 2007-12-27 動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2009159359A true JP2009159359A (ja) 2009-07-16

Family

ID=40798542

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007335732A Pending JP2009159359A (ja) 2007-12-27 2007-12-27 動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム

Country Status (3)

Country Link
US (1) US8300960B2 (ja)
JP (1) JP2009159359A (ja)
KR (1) KR20090071327A (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009159359A (ja) * 2007-12-27 2009-07-16 Samsung Techwin Co Ltd 動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム
US8751687B2 (en) 2010-04-30 2014-06-10 Microsoft Corporation Efficient encoding of structured data
US20130021488A1 (en) * 2011-07-20 2013-01-24 Broadcom Corporation Adjusting Image Capture Device Settings
US9106936B2 (en) * 2012-01-25 2015-08-11 Altera Corporation Raw format image data processing
US8970718B2 (en) * 2012-07-12 2015-03-03 Gopro, Inc. Image capture accelerator
EP2739049A1 (en) * 2012-11-29 2014-06-04 Axis AB Method and system for generating real-time motion video
CN108182672A (zh) * 2014-05-28 2018-06-19 皇家飞利浦有限公司 用于对hdr图像进行编码的方法和装置以及用于使用这样的编码图像的方法和装置
EP2950058B1 (en) 2014-05-28 2018-03-28 Axis AB Calibration data in a sensor system
EP2963557B1 (en) 2014-07-01 2017-06-21 Axis AB Methods and devices for finding settings to be used in relation to a sensor unit connected to a processing unit
TW201724837A (zh) 2014-12-23 2017-07-01 帕戈技術股份有限公司 穿戴式相機、用於提供無線電力之系統,用於以無線方式提供電力之方法及用於處理影像之方法
WO2017075405A1 (en) 2015-10-29 2017-05-04 PogoTec, Inc. Hearing aid adapted for wireless power reception
US11558538B2 (en) 2016-03-18 2023-01-17 Opkix, Inc. Portable camera system
WO2018075916A1 (en) * 2016-10-21 2018-04-26 PogoTec, Inc. Architecture for and camera devoid of viewfinder
WO2020102237A1 (en) 2018-11-13 2020-05-22 Opkix, Inc. Wearable mounts for portable camera

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003224868A (ja) * 2002-01-29 2003-08-08 Nikon Corp 画像圧縮装置、画像圧縮方法、画像圧縮プログラム、および画像伸張プログラム
JP2003346143A (ja) * 2002-05-29 2003-12-05 Fuji Photo Film Co Ltd 画像処理方法及び画像処理プログラム
JP2004064334A (ja) * 2002-07-26 2004-02-26 Mitsubishi Electric Corp 撮像装置
US20040141553A1 (en) * 2003-01-21 2004-07-22 Sandeep Bhatia Buffer descriptor data structure for communication link between decode and display processes in MPEG decoders
JP2005260465A (ja) * 2004-03-10 2005-09-22 Seiko Epson Corp ディジタルカメラ
JP2005278099A (ja) * 2004-03-26 2005-10-06 Nikon Corp 撮像装置、電子透かし検出プログラム、及び電子透かしの埋め込み方法
JP2005295500A (ja) * 2004-03-10 2005-10-20 Seiko Epson Corp 画質表示装置、ディジタルカメラ、現像装置、画質表示方法及び画質表示プログラム
JP2006094145A (ja) * 2004-09-24 2006-04-06 Casio Comput Co Ltd 撮影装置及びそのプログラム
JP2006222612A (ja) * 2005-02-09 2006-08-24 Seiko Epson Corp Rawデータ出力装置、rawデータ構造及びrawデータ出力方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5220325A (en) * 1991-03-28 1993-06-15 At&T Bell Laboratories Hierarchical variable length decoder for digital video data
US5541640A (en) * 1992-06-23 1996-07-30 Larson; Craig R. Videophone for simultaneous audio and video communication via a standard telephone line
JP3625371B2 (ja) 1998-03-11 2005-03-02 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、記憶媒体
FI107495B (fi) * 1999-08-13 2001-08-15 Nokia Multimedia Network Termi Menetelmä ja järjestely koodatun digitaalisen kuvabittivirran volyymin tai tahdin pienentämiseksi
US9247259B2 (en) * 2006-10-10 2016-01-26 Flash Networks Ltd. Control of video compression based on file size constraint
JP2009159359A (ja) * 2007-12-27 2009-07-16 Samsung Techwin Co Ltd 動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003224868A (ja) * 2002-01-29 2003-08-08 Nikon Corp 画像圧縮装置、画像圧縮方法、画像圧縮プログラム、および画像伸張プログラム
JP2003346143A (ja) * 2002-05-29 2003-12-05 Fuji Photo Film Co Ltd 画像処理方法及び画像処理プログラム
JP2004064334A (ja) * 2002-07-26 2004-02-26 Mitsubishi Electric Corp 撮像装置
US20040141553A1 (en) * 2003-01-21 2004-07-22 Sandeep Bhatia Buffer descriptor data structure for communication link between decode and display processes in MPEG decoders
JP2005260465A (ja) * 2004-03-10 2005-09-22 Seiko Epson Corp ディジタルカメラ
JP2005295500A (ja) * 2004-03-10 2005-10-20 Seiko Epson Corp 画質表示装置、ディジタルカメラ、現像装置、画質表示方法及び画質表示プログラム
JP2005278099A (ja) * 2004-03-26 2005-10-06 Nikon Corp 撮像装置、電子透かし検出プログラム、及び電子透かしの埋め込み方法
JP2006094145A (ja) * 2004-09-24 2006-04-06 Casio Comput Co Ltd 撮影装置及びそのプログラム
JP2006222612A (ja) * 2005-02-09 2006-08-24 Seiko Epson Corp Rawデータ出力装置、rawデータ構造及びrawデータ出力方法

Also Published As

Publication number Publication date
KR20090071327A (ko) 2009-07-01
US8300960B2 (en) 2012-10-30
US20090169120A1 (en) 2009-07-02

Similar Documents

Publication Publication Date Title
JP2009159359A (ja) 動画像データ符号化装置、動画像データ復号化装置、動画像データ符号化方法、動画像データ復号化方法及びプログラム
JP4680166B2 (ja) 撮像装置および撮像方法
JP2004072793A5 (ja) 映像記録装置及び映像記録方法
JP4881210B2 (ja) 撮像装置、画像処理装置及びそれらの制御方法
US8094991B2 (en) Methods and apparatus for recording and reproducing a moving image, and a recording medium in which program for executing the methods is recorded
US9396756B2 (en) Image processing apparatus and control method thereof
US20090154551A1 (en) Apparatus for recording/reproducing moving picture, and recording medium thereof
JP2019200312A (ja) 表示制御装置及びその制御方法及びプログラム
US8379093B2 (en) Recording and reproduction apparatus and methods, and a recording medium storing a computer program for executing the methods
JP4343657B2 (ja) 画像記録装置
US20090153704A1 (en) Recording and reproduction apparatus and methods, and a storage medium having recorded thereon computer program to perform the methods
JP2007142649A (ja) 画像処理装置及びプログラム
JP5118465B2 (ja) 記録装置、再生装置、記録方法、再生方法及びプログラム
JP5156196B2 (ja) 撮像装置
JP5290568B2 (ja) 動画像記録装置、動画像再生装置及びプログラム
KR101341983B1 (ko) 화상 처리장치, 촬상 장치 및 화상 처리방법과 컴퓨터 프로그램이 기록된 컴퓨터 판독 가능한 기록매체
JP2005277591A (ja) 電子カメラ装置、及び撮像信号生成方法
JP4430731B2 (ja) ディジタルカメラおよび撮影方法
JP5118466B2 (ja) 記録装置、再生装置、記録方法、再生方法及びプログラム
JP2008092503A (ja) 撮像装置
JP2003348542A (ja) ディジタルビデオカムコーダ
JP2010010800A (ja) 動画像記録再生装置
JP4809451B2 (ja) 画像ファイル生成装置および方法ならびに画像ファイル再生装置および方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20090811

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20101005

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120731

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121031

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130528