JP2009089086A - Imaging device and portable terminal device - Google Patents
Imaging device and portable terminal device Download PDFInfo
- Publication number
- JP2009089086A JP2009089086A JP2007256788A JP2007256788A JP2009089086A JP 2009089086 A JP2009089086 A JP 2009089086A JP 2007256788 A JP2007256788 A JP 2007256788A JP 2007256788 A JP2007256788 A JP 2007256788A JP 2009089086 A JP2009089086 A JP 2009089086A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- histogram
- camera
- histogram analysis
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】低負荷でリアルタイムにヒストグラムの表示が可能な撮像装置及び携帯端末装置を提供する。
【解決手段】カメラ7が撮像した画像のリアルタイムのヒストグラム解析を行う場合に、フレーム分割部91が各フレームをM個の領域に分割し、ヒストグラム解析部92が連続するM個のフレームのそれぞれ異なる領域のヒストグラム解析を行い、集計部93が解析結果を加算して1枚のフレームのヒストグラム解析結果として出力する。
【選択図】図3An imaging device and a portable terminal device capable of displaying a histogram in real time with a low load are provided.
When performing real-time histogram analysis of an image captured by a camera, a frame division unit 91 divides each frame into M regions, and a histogram analysis unit 92 differs for each of M consecutive frames. The histogram analysis of the area is performed, and the totaling unit 93 adds the analysis results and outputs the result as a histogram analysis result of one frame.
[Selection] Figure 3
Description
本発明は、デジタル画像を撮影可能な撮像装置及び携帯端末装置に関する。 The present invention relates to an imaging device and a portable terminal device that can capture a digital image.
携帯電話機等の携帯端末装置に搭載されるカメラは、高画質化の要望が強く、画素数を増大させる等の手法により高画質化が図られてきた。
このような高画質化の一端として、撮像画面のヒストグラム(度数分布図)を画面に表示させることが考えられる。
ヒストグラムは、デジタル画像の分野においては、画像の明るさの分布を示したグラフを指す。この分布のバランスにより、画像の露出が適正か、アンダーであるかオーバーであるかを見極めることができる。
A camera mounted on a portable terminal device such as a cellular phone has a strong demand for higher image quality, and the image quality has been improved by a technique such as increasing the number of pixels.
As one end of such high image quality, it is conceivable to display a histogram (frequency distribution diagram) of the imaging screen on the screen.
In the field of digital images, the histogram refers to a graph showing the brightness distribution of an image. Based on this distribution balance, it is possible to determine whether the exposure of the image is appropriate, under or over.
カメラで撮影した画像のヒストグラムを表示する技術としては、例えば特許文献1に開示した技術がある。
特許文献1には、事前撮像時にCCD(Charge Coupled Device)により撮像した基準となる基準画像を構成する各画素の明るさを複数段階の明るさエリアに分けて評価し、各画素の明るさの分布を示すヒストグラムを取得する撮像装置が開示されている。
In
しかし、特許文献1に開示された技術を携帯電話機等の携帯端末装置に適用しようとした場合、以下のような不利益が生じる。
携帯電話機等の携帯端末装置では、小型化や省電力化のために、1チップのCPUで携帯端末装置の全ての処理を行うように設計されているものが多い。すなわち、通話やEメール等の通信と撮像及び画像処理等の処理を1チップで行う必要がある。また、1チップで全ての処理を行うものでなくとも、コスト、サイズの面で高度なCPUの搭載は好ましくない。このため、特許文献1に開示された技術のように複雑な処理は、携帯端末装置では実行することが難しい、という不利益がある。
However, when the technique disclosed in
Many portable terminal devices such as cellular phones are designed so that all processing of the portable terminal device is performed by a one-chip CPU for miniaturization and power saving. That is, it is necessary to perform communication such as a telephone call and e-mail, and processing such as imaging and image processing on a single chip. Even if not all processing is performed by one chip, it is not preferable to mount a high-level CPU in terms of cost and size. For this reason, there is a disadvantage that a complicated process like the technique disclosed in
また、携帯端末装置では、液晶や有機EL(Electro Luminescence)等の表示デバイスを有するものが多い。これらの表示デバイスは、携帯端末装置によって、複数種類の解像度のものが共存している。すなわち、QQVGA(Quarter Quarter Video Graphics Array:160×120pixel)、QVGA(Quarter Video Graphics Array:320×240pixel)等、表示解像度の異なる携帯端末が存在する。このため、撮影画像をメールにて送付することを想定して設計される携帯端末装置では、搭載するカメラの能力として、撮影画像をQQVGAやQVGA等、異なるサイズで画像を取得できるものが主流となっている。
このような場合、画像撮影時にQVGAの画像が取得された場合と、QQVGAの画像が取得された場合とでヒストグラム生成の際の解析の方法が異なるため、処理が複雑になってしまう、という不利益があった。
また、カメラにより高画質な画像を撮影するためにヒストグラム表示を行おうとすると、リアルタイムでヒストグラムが表示されないと意味が無いことになる。上述したように携帯端末装置では1チップで全ての処理を行う傾向が強いため、処理能力不足のためにリアルタイムのヒストグラム解析及び表示処理をうまく実行できない場合がある、という不利益があった。
Many portable terminal devices have a display device such as a liquid crystal or an organic EL (Electro Luminescence). These display devices have a plurality of types of resolutions depending on the mobile terminal device. That is, there are mobile terminals with different display resolutions such as QQVGA (Quarter Quarter Video Graphics Array: 160 × 120 pixels) and QVGA (Quarter Video Graphics Array: 320 × 240 pixels). For this reason, in portable terminal devices designed on the assumption that a captured image is sent by e-mail, the mainstream is a camera that can acquire images in different sizes, such as QQVGA and QVGA, as the capability of the mounted camera. It has become.
In such a case, since the analysis method for generating the histogram differs between when the QVGA image is acquired at the time of image capture and when the QQVGA image is acquired, the processing becomes complicated. There was a profit.
In addition, if a histogram is displayed in order to capture a high-quality image with a camera, it is meaningless unless the histogram is displayed in real time. As described above, since the mobile terminal device has a strong tendency to perform all the processing in one chip, there is a disadvantage that the real-time histogram analysis and display processing may not be performed well due to insufficient processing capability.
本発明の目的は、低負荷でリアルタイムにヒストグラムの表示が可能な撮像装置及び携帯端末装置を提供することにある。 An object of the present invention is to provide an imaging device and a portable terminal device capable of displaying a histogram in real time with a low load.
本発明の第1の観点の撮像装置は、所定の間隔で画像を撮影するカメラと、前記カメラにより取得される画像を前記所定の間隔ごとに更新して表示する表示部と、制御部と、を有し、前記制御部は、前記カメラにより取得される連続するM(Mは正の整数)枚の画像のそれぞれを同様にM個の領域に分割する分割部と、前記分割部が分割した前記M枚の画像のそれぞれ異なる領域のヒストグラムを解析するヒストグラム解析部と、前記ヒストグラム解析部が解析した前記M枚の画像のそれぞれ異なる領域のヒストグラムを集計して、1枚の画像分としてヒストグラムを生成する集計部と、を有し、前記表示部は、前記カメラにより取得される画像とともに前記集計部が生成したヒストグラムを表示する。 An imaging apparatus according to a first aspect of the present invention includes a camera that captures images at a predetermined interval, a display unit that updates and displays an image acquired by the camera at each predetermined interval, a control unit, And the control unit similarly divides each of consecutive M (M is a positive integer) images acquired by the camera into M regions, and the dividing unit divides the image. A histogram analysis unit that analyzes histograms of different regions of the M images, and histograms of different regions of the M images analyzed by the histogram analysis unit are aggregated to obtain a histogram as one image. And the display unit displays a histogram generated by the totaling unit together with an image acquired by the camera.
好適には、前記制御部は、前記表示部の解像度に応じて、前記領域の全画素の内、前記ヒストグラム解析部が解析する画素数の間引き処理を行う間引き部を有する。 Preferably, the control unit includes a thinning unit that performs a thinning process on the number of pixels analyzed by the histogram analysis unit among all the pixels in the region in accordance with the resolution of the display unit.
好適には、前記表示部の解像度は、QQVGA、QVGA、WQVGAのいずれかであり、前記Mは5或いは5の倍数であって、前記間引き部は、解像度がQQVGAの場合は全ての画素を前記ヒストグラム解析部に解析させ、解像度がQVGAの場合は4画素あたり1画素を前記ヒストグラム解析部に解析させ、解像度がWQVGAの場合は5画素あたり1画素を前記ヒストグラム解析部に解析させる。 Preferably, the resolution of the display unit is any one of QQVGA, QVGA, and WQVGA, and M is 5 or a multiple of 5, and when the resolution is QQVGA, When the resolution is QVGA, 1 pixel per 4 pixels is analyzed by the histogram analysis unit, and when the resolution is WQVGA, 1 pixel per 5 pixels is analyzed by the histogram analysis unit.
本発明の第2の観点の携帯端末装置は、通信ネットワークに接続された基地局と無線通信を行う携帯端末装置であって、所定の間隔で画像を撮影するカメラと、前記カメラにより取得される画像を前記所定の間隔ごとに更新して表示する表示部と、前記カメラにより取得される画像を無線通信により送信可能な通信部と、制御部と、を有し、前記制御部は、前記カメラにより取得される連続するM(Mは正の整数)枚の画像のそれぞれを同様にM個の領域に分割する分割部と、前記分割部が分割した前記M枚の画像のそれぞれ異なる領域のヒストグラムを解析するヒストグラム解析部と、前記ヒストグラム解析部が解析した前記M枚の画像のそれぞれ異なる領域のヒストグラムを集計して、1枚の画像分としてヒストグラムを生成する集計部と、を有し、前記表示部は、前記カメラにより取得される画像とともに前記集計部が生成したヒストグラムを表示する。 A mobile terminal device according to a second aspect of the present invention is a mobile terminal device that performs wireless communication with a base station connected to a communication network, and is acquired by a camera that captures images at predetermined intervals. A display unit that updates and displays an image at each predetermined interval; a communication unit that can transmit an image acquired by the camera by wireless communication; and a control unit, wherein the control unit includes the camera Similarly, a dividing unit that similarly divides each of M consecutive images (M is a positive integer) acquired into M regions, and histograms of different regions of the M images divided by the dividing unit. A histogram analyzing unit that analyzes the histogram, and a totaling unit that totalizes histograms of different areas of the M images analyzed by the histogram analyzing unit and generates a histogram as one image Has, the display unit displays the histogram the aggregate portion is produced together with the image acquired by the camera.
好適には、前記カメラにより画像を連続取得している状態にて、以降の取得画像のサイズの変更を指示する操作入力を受け付ける操作部をさらに有する。 Preferably, the image processing apparatus further includes an operation unit that receives an operation input instructing a change in the size of the acquired image thereafter in a state where images are continuously acquired by the camera.
本発明によれば、低負荷でリアルタイムにヒストグラムの表示が可能な撮像装置及び携帯端末装置を提供する。 According to the present invention, an imaging device and a mobile terminal device capable of displaying a histogram in real time with a low load are provided.
以下、本発明の携帯端末装置の一例として携帯端末100について説明する。
図1は、携帯端末100の各構成について説明するためのブロック図である。
図1に示すように、携帯端末100は、通信部1と、操作部2と、音声処理部3と、スピーカ4と、マイク5と、表示部6と、カメラ7と、記憶部8と、制御部9とを有する。
Hereinafter, the
FIG. 1 is a block diagram for explaining each configuration of the
As shown in FIG. 1, the
図2は、携帯端末100の外観の一例を示す図である。
図2に示すように、携帯端末100は、上部筐体101と下部筐体102とがヒンジ部103によって開閉可能に接続されている。
図2(a)は携帯端末100の筐体が開かれた状態を、図2(b)は携帯端末100の筐体が閉じられた状態を示している。
上部筐体101は、スピーカ4及び表示部6を有する。
下部筐体102は、操作部2及びマイク5を有する。
FIG. 2 is a diagram illustrating an example of the appearance of the
As shown in FIG. 2, in the
2A shows a state where the casing of the
The
The
通信部1は、無線通信システムを捕捉し、通信ネットワークに接続される図示しない基地局との間で無線通信を行い、各種データの送受信を行う。各種データとは、音声通話時の音声データ、メール送受信時のメールデータ、ウェブ閲覧時のウェブページデータ等である。
操作部2は、例えば、電源キー、通話キー、数字キー、文字キー、方向キー、決定キー、発信キーなど、各種の機能が割り当てられたキーを有しており、これらのキーがユーザによって操作された場合に、その操作内容に対応する信号を発生し、これをユーザの指示として制御部9に出力する。
The
The
音声処理部3は、スピーカ4から出力される音声信号やマイク5において入力される音声信号の処理を行う。すなわち、マイク5から入力される音声を増幅し、アナログ/デジタル変換を行い、更に符号化等の信号処理を施し、デジタルの音声データに変換して制御部9に出力する。また、制御部9から供給される音声データに復号化、デジタル/アナログ変換、増幅等の信号処理を施し、アナログの音声信号に変換してスピーカ4に出力する。
The
表示部6は、多数の画素(複数色の発光素子の組み合わせ)を縦横に配して構成される、例えば液晶ディスプレイ(LCD)や有機EL(OLED)ディスプレイを用いて構成されており、制御部9から供給される映像信号に応じた画像を表示する。表示部6は、例えば、発信時における発信先の電話番号、着信時における発信元の電話番号、受信メールや送信メールの内容、日付、時刻、電池残量、発信成否、待ち受け画面等を表示する。
また、表示部6は、端末によって、異なる解像度を有する。解像度には、例えば、QQVGA(160×120pixel)、QVGA(320×240pixel)、WQVGA(Wide QVGA:400×240pixel)等がある。
表示部6は、後述するカメラ7が現在撮影している画像を所定のレート(例えば、15枚/秒)で取得し、当該レートで表示画像を更新しながらリアルタイムで表示することが可能であり、同時に、後述する制御部9がカメラ7の撮影した画像に対して行ったヒストグラム解析処理の結果を例えばグラフの形式で表示する。
表示部6のヒストグラム表示の方法については、表示部6に表示される所定の大きさ以下の領域内に表示されることが望ましい。これは、カメラ7が撮影した画像を見やすくするためであり、またヒストグラム自体を見やすくするためである(ヒストグラムは分布図であり、ある程度小さい方が滑らかに見える)。
The
The
The
As for the histogram display method of the
カメラ7は、例えばCCD(Charge Coupled Device)や、CMOS(Complementary Metal Oxide Semiconductor)のイメージセンサにより構成された撮像デバイスである。カメラ7は、制御部9の制御に従って起動し、QQVGA、QVGA、WQVGA等のうち、予め決定されたサイズの画像を撮影して制御部9に送る。
The camera 7 is an imaging device configured by, for example, a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor) image sensor. The camera 7 is activated in accordance with the control of the
記憶部8は、携帯端末100の各種処理に利用される各種データを記憶する。例えば、制御部9が実行するコンピュータのプログラム、通信相手の電話番号や電子メールアドレス等の個人情報を管理するアドレス帳、着信音やアラーム音を再生するための音声ファイル、待ち受け画面用の画像ファイル、カメラ7が撮像した画像ファイル、各種の設定データ、プログラムの処理過程で利用される一時的なデータなどを保持する。なお、上記した記憶部8は、例えば不揮発性の記憶デバイス(不揮発性半導体メモリ、ハードディスク装置、光ディスク装置など)やランダムアクセス可能な記憶デバイス(例えばSRAM、DRAM)などによって構成される。
The
制御部9は、携帯端末100の全体的な動作を統括的に制御する。すなわち、携帯電話の各種の処理(回線交換網を介して行われる音声通話、電子メールの作成と送受信、インターネットのWebサイトの閲覧など)が操作部2の操作に応じて適切な手順で実行されるように、上述した各ブロックの動作(通信部1における信号の送受信、音声処理部3における音声の入出力、表示部6における画像の表示、カメラ7による撮像など)を制御する。
制御部9は、記憶部8に格納されるプログラム(オペレーティングシステム、アプリケーションプログラム等)に基づいて処理を実行するコンピュータ(マイクロプロセッサ)を備えており、このプログラムにおいて指示された手順に従って上述した処理を実行する。すなわち、記憶部8に格納されるオペレーティングシステムやアプリケーションプログラム等のプログラムから命令コードを順次読み込んで処理を実行する。
The
The
制御部9は、操作部2を介した操作入力に応じてカメラ7を起動し、カメラ7が撮影した画像をプレビュー画像として取得し、表示部6にリアルタイム表示させる。また、この状態で操作部2等を介してシャッタ操作が行われると、シャッタ操作が行われた時点に表示部6に表示していたプレビュー画像を撮影画像として記憶部8等に記憶させ、同時に表示部6に撮影画像を表示させる。
制御部9は、カメラ7の起動中には、表示部6に表示されている画像のヒストグラム(明るさ度数分布図)をリアルタイムに表示するためのヒストグラム表示処理を行う。すなわち、制御部9のヒストグラム表示処理は、カメラ7の撮影した画像が表示部6にリアルタイム表示されている状態、及び、シャッタ操作が行われ撮影画像が表示部6に表示されている状態の両方で行われる。
以下、制御部9のヒストグラム表示処理について説明する。
まず、QQVGAでの表示(160×120pixel)を行っている場合の処理について説明する。
図3は、制御部9がカメラ7から取得するプレビュー画像を示した図である。
カメラ7からは、例えば15枚/秒の画像がプレビュー画像として送られてくるとする。すなわち、制御部9は0.066…秒に1枚の画像を取得することになる。以下では、0.066…秒毎に取得する各画像を、それぞれフレームと称する。
例えば、制御部9は、N番目のフレーム(Nは正の整数)からヒストグラム表示のための解析を開始するとする。
図3(a)は、そのN番目のフレーム(以下フレームNと称する)を示している。図3(a)に示すように、フレームNは160×120pixelの画像である。
The
The
Hereinafter, the histogram display process of the
First, a process when a display (160 × 120 pixels) in QQVGA is performed will be described.
FIG. 3 is a diagram showing a preview image acquired by the
It is assumed that, for example, 15 images / second are sent from the camera 7 as a preview image. That is, the
For example, it is assumed that the
FIG. 3A shows the Nth frame (hereinafter referred to as frame N). As shown in FIG. 3A, the frame N is a 160 × 120 pixel image.
制御部9は、ヒストグラム表示処理のために、フレーム分割部91、ヒストグラム解析部92、集計部93、間引き部94を有する。
フレーム分割部91は、ヒストグラム解析の対象となるフレームを所定の数(以下M個とする:Mは正の整数)の領域に分割する。本実施形態では、例えば5個の領域に分割するとする。
フレーム分割部91が分割したフレームの例を図3(b)に示す。
図3(b)は、フレームNを5つの領域に分割した例を示している。
図3(b)に示すように、フレーム分割部91は、フレームNを、32×120pixelの5つの領域に分割する。図3(b)に示すように、以下では各領域をフレームの上部から順にIndex_0〜4と称する。
なお、フレーム分割部91は、フレームNだけでなく、カメラ7から取得した全てのフレームを5個(M個)の領域に分割する。
なお、ここではカメラ7の取得する画像の走査方向が横方向ベースであった場合として、フレーム分割部91は各フレームの縦方向に分割したが、本発明はこれには限定されず、例えば走査方向が縦方向ベースであった場合には、各フレームを横方向に分割、すなわち160×24pixelの5つの領域に分割してもよい。
The
The
An example of the frame divided by the
FIG. 3B shows an example in which the frame N is divided into five regions.
As shown in FIG. 3B, the
The
Here, the
ヒストグラム解析部92は、フレーム分割部91が分割した領域のヒストグラム解析を行う。ヒストグラム解析部92のヒストグラム解析方法については本発明では限定しない。既存の技術を利用することが可能である。
ヒストグラム解析部92は、各フレームのそれぞれ異なる領域のヒストグラム解析を行う。
図3(c)は、ヒストグラム解析部92がヒストグラム解析を行う対象となる領域の一例を示した図である。
ヒストグラム解析部92は、図3(c)に示す各フレームの斜線を付した領域のヒストグラム解析を行う。
The
The
FIG. 3C is a diagram illustrating an example of a region to be subjected to histogram analysis by the
The
すなわち、ヒストグラム解析部92は、フレームNのIndex_0、フレームN+1のIndex_1、フレームN+2のIndex_2、フレームN+3のIndex_3、フレームN+4のIndex_4のヒストグラム解析を行い、フレームN+5では、再度Index_0のヒストグラム解析を行う。
ヒストグラム解析部92は、このように、0.66…秒ごとにカメラ7から取得する各フレームの一部の領域のヒストグラム解析を連続して行っている。
ヒストグラム解析部92は、メモリ921を有しており、メモリ921はヒストグラム解析部92が取得したヒストグラム解析結果を記憶する。この際、全てのフレームのヒストグラム解析結果を記憶するのではなく、各領域の最新の結果のみを記憶しておく。
That is, the
As described above, the
The
図4は、メモリ921のヒストグラム解析結果の保持について説明するための図である。
メモリ921は、ヒストグラム解析部92がフレームNからN+4までのヒストグラム解析を行った時点では、図4(a)に示すように、フレームNのIndex_0、フレームN+1のIndex_1、フレームN+2のIndex_2、フレームN+3のIndex_3、フレームN+4のIndex_4の解析結果を記憶している。
次にフレームN+5が取得された時点で、ヒストグラム解析部92はフレームN+5のIndex_0のヒストグラム解析を行うが、メモリ921は、図4(b)に示すように、Index_0の記憶内容をフレームNのものからフレームN+5のものに上書きする。
同様に、フレームN+6が取得された時点で、ヒストグラム解析部92はフレームN+6のIndex_1のヒストグラム解析を行うが、メモリ921は、図4(c)に示すように、Index_1の記憶内容をフレームN+1のものからフレームN+6のものに上書きする。
メモリ921は、制御部9のヒストグラム解析処理中は、このように常に最新の各領域のヒストグラム解析結果を保持しておく。
FIG. 4 is a diagram for explaining the retention of the histogram analysis result in the
As shown in FIG. 4 (a), the
Next, when the frame N + 5 is acquired, the
Similarly, when the frame N + 6 is acquired, the
During the histogram analysis process of the
次に、集計部93は、ヒストグラム解析部92が解析したヒストグラム解析結果を集計する。すなわち、集計部93は、メモリ921に記憶された各領域のヒストグラム解析結果を加算して、1枚のフレームのヒストグラム解析結果として出力する。
このようにして、制御部9はヒストグラム解析処理を行う。
Next, the totaling
In this way, the
なお、ここまではQQVGAの画像のヒストグラム解析を行う場合について説明した。
以下、QVGA(320×240pixel)以上のサイズの画像のヒストグラム解析を行う場合について説明する。
間引き部94は、取得する各フレームがQVGA以上である場合、ヒストグラム解析部92にヒストグラム解析を行わせる対象の画素数を間引く。
図5は、間引き部94の間引きの様子を示す概念図である。
図5(a)は、QQVGAのフレームのヒストグラム解析を行う場合、すなわち間引かない場合を説明するための図である。簡単のために、横方向11画素のみ示している。
図5(b)は、QVGAのフレームのヒストグラム解析を行う場合を示した図である。
間引き部94は、QVGAのフレームの場合、図5(b)に示すように、4画素に1つの画素のみを抽出し、他の画素はヒストグラム解析部92の解析対象から除く。このようにすることで、ヒストグラム解析部92の解析対象となる画素数をQQVGAのフレームと同数にすることができる。
QQVGAのフレームは、160×120=19200pixelを有している。ここで、QVGAのフレームの4画素に1つの画素のみ抽出することにより、320×240÷4=19200pixelとなり、ヒストグラム解析部92の解析対象となる画素数をQQVGAのフレームと同数にすることができる。
Heretofore, the case where the histogram analysis of the QQVGA image is performed has been described.
Hereinafter, a case where histogram analysis of an image having a size equal to or larger than QVGA (320 × 240 pixels) is performed will be described.
When each frame to be acquired is equal to or higher than QVGA, the thinning
FIG. 5 is a conceptual diagram showing how the thinning
FIG. 5A is a diagram for explaining a case where a QQVGA frame histogram analysis is performed, that is, a case where thinning is not performed. For simplicity, only 11 pixels in the horizontal direction are shown.
FIG. 5B is a diagram illustrating a case where the histogram analysis of the QVGA frame is performed.
In the case of a QVGA frame, the thinning
The QQVGA frame has 160 × 120 = 19200 pixels. Here, by extracting only one pixel in four pixels of the QVGA frame, 320 × 240 ÷ 4 = 19200 pixels is obtained, and the number of pixels to be analyzed by the
図5(c)は、WQVGA(400×240pixel)のフレームのヒストグラム解析を行う場合を示した図である。
間引き部94は、WQVGAのフレームの場合、図5(c)に示すように、5画素に1つの画素のみを抽出し、他の画素はヒストグラム解析部92の解析対象から除く。このようにすることで、ヒストグラム解析部92の解析対象となる画素数をQQVGAのフレームと同数にすることができる。
WQVGAのフレームの5画素に1つの画素のみ抽出することにより、400×240÷5=19200pixelとなり、ヒストグラム解析部92の解析対象となる画素数をQQVGAのフレーム(及びQVGAのフレームを間引いた場合)と同数にすることができる。
なお、間引き部94における間引き処理に関しては、カメラ7によって取得される画像サイズにより、一定の割合で行われることが好ましい。すなわち、QQVGAでは間引きなし、QVGAでは4画素にから1画素のみ抽出するため間引き率は1/4、WQVGAでは5画素から1画素のみ抽出するので間引き率は1/5となる。また、カメラ7の能力がVGA(640×480pixel)サイズまで対応している場合、VGA画像に対しては16画素から1画素のみ抽出(間引き率1/16)することとなる。このように、本実施例ではQQVGAサイズ(160×120pixel)が、取得可能な画像サイズ全ての最大公約数となっているため、QQVGAサイズでは間引きを行わないようにし、他のサイズでは最大公約数の何倍になっているかに応じた間引き処理がなされる。つまり、カメラ7の取得可能な複数の画像サイズの最大公約数の除算値ごとの間引き処理を行うことにより、処理する画像サイズに左右されずに後段処理部であるヒストグラム解析部92を同一にすることが出来、処理プログラムのサイズを極力小型化することが出来る。
FIG. 5C is a diagram showing a case where a histogram analysis of a WQVGA (400 × 240 pixel) frame is performed.
In the case of a WQVGA frame, the thinning
By extracting only one pixel in 5 pixels of the WQVGA frame, 400 × 240 ÷ 5 = 19200 pixels is obtained, and the number of pixels to be analyzed by the
Note that the thinning process in the thinning
また、分割する領域数(すなわちMの値)は、上記の場合(QQVGA、QVGA、WQVGA等のサイズの画像を扱う場合)には5が好ましい。本実施例では、縦方向に5分割しているため、QQVGAサイズの場合には、分割された一つの領域には160÷5×120=3840pixel存在することとなる。一方、QVGAサイズの場合には320÷5×240=15360pixel存在することとなり、このうち4画素に1画素を抽出するため、ヒストグラム解析する画素数は3840pixelとなる。同様に、WQVGAサイズの場合には400÷5×240=19200pixel中の5分の1であり、さらに、仮にVGAサイズを扱う場合には640÷5×480=61440pixel中の16分の1であり、いずれも解析対象の画素数は3840pixelとなる。すなわち、分割する領域数(すなわちMの値)を5とすることにより、いずれの画像サイズにおいても上記した間引き処理にて丁度割り切れる画素数を確保することが出来るため、やはり後段のヒストグラム解析部92において全く特殊な処理を必要とせず、同じ処理過程にて処理することが出来、処理ブロックの共通化を行うことが出来る。なお、Mの値は、上記した割り切れる値を提供できる範囲内であれば5の倍数でも良いことは言うまでもない。 In addition, the number of regions to be divided (that is, the value of M) is preferably 5 in the above case (when an image having a size such as QQVGA, QVGA, or WQVGA is handled). In the present embodiment, since it is divided into 5 in the vertical direction, in the case of the QQVGA size, 160 ÷ 5 × 120 = 3840 pixels exist in one divided area. On the other hand, in the case of the QVGA size, 320 ÷ 5 × 240 = 15360 pixels exist, and since one pixel is extracted from four pixels, the number of pixels to be analyzed for the histogram is 3840 pixels. Similarly, in the case of WQVGA size, it is 400/5 × 240 = 1/5 in 1920 pixels, and in the case of handling VGA size, it is 640 ÷ 5 × 480 = 1/16 in 6440 pixels. In any case, the number of pixels to be analyzed is 3840 pixels. That is, by setting the number of regions to be divided (that is, the value of M) to 5, the number of pixels that can be just divided by the above-described thinning process can be secured for any image size. No special processing is required, and processing can be performed in the same processing process, so that processing blocks can be shared. It goes without saying that the value of M may be a multiple of 5 as long as it is within the range in which the above divisible value can be provided.
また、このようにすることで、どのような解像度の場合もヒストグラム解析時に制御部9にかかる負荷は同程度で済むため、高速かつリアルタイムのヒストグラム解析が可能になる。
制御部9は、集計部93から出力されたヒストグラム解析結果を、表示部6に表示する。ヒストグラム解析結果の表示部6への表示は、例えばカメラ7が撮像した画像に重ねてヒストグラム解析結果を表示するような表示形式が望ましい。
In addition, by doing so, the load applied to the
The
以下、ヒストグラム解析処理時の制御部9の動作例について説明する。
図6は、ヒストグラム解析処理時の制御部9の動作例を示したフローチャートである。
ステップST1:
制御部9は、カメラ7から例えば0.066…秒ごとに画像を取得する。以下、この画像、すなわちx番目のフレームの画像を、フレームxと称する(xは正の整数)。
ステップST2:
フレーム分割部91は、ステップST1において取得したフレームxをM個の領域Index_0〜(M−1)に分割する(Mは正の整数)。
Hereinafter, an operation example of the
FIG. 6 is a flowchart showing an example of the operation of the
Step ST1:
The
Step ST2:
The
ステップST3:
フレームxの解像度がQQVGAであった場合はステップST4に進み、QVGAであった場合はステップST5に進み、WQVGAであった場合はステップST6に進む。
ステップST4:
間引き部94は、フレームxのヒストグラム解析対象の画素を間引き無しに設定する。
Step ST3:
If the resolution of the frame x is QQVGA, the process proceeds to step ST4. If the resolution is QVGA, the process proceeds to step ST5. If the resolution is WQVGA, the process proceeds to step ST6.
Step ST4:
The thinning
ステップST5:
間引き部94は、フレームxのヒストグラム解析対象の画素を、4画素に1つの画素とするように設定する。
ステップST6:
間引き部94は、フレームxのヒストグラム解析対象の画素を、5画素に1つの画素とするように設定する。
Step ST5:
The thinning
Step ST6:
The thinning
ステップST7:
ヒストグラム解析部92は、ステップST4〜6の間引き部94の設定に従って、フレームxの領域Index_yを解析する。yは、xをMで割った余りであり、0〜(M−1)の数である。
ステップST8:
メモリ921は、ステップST7においてヒストグラム解析部92が解析した解析結果を記憶する。この際、メモリ921はIndex_yの解析結果を上書きしていく。
Step ST7:
The
Step ST8:
The
ステップST9:
集計部93は、メモリ921に記憶されたIndex_0〜(M−1)のヒストグラム解析結果を加算し、1枚のフレームのヒストグラム解析結果として出力する。
ステップST10:
制御部9は、ステップST9において集計部93が出力した解析結果を表示部6に表示させる。
ステップST11:
xに1を加算してステップST1に戻り、各ステップを繰り返す。
Step ST9:
The totaling
Step ST10:
The
Step ST11:
Add 1 to x and return to step ST1 to repeat each step.
なお、図6において説明したフローチャートでは、各フレームをM個の領域に分割した場合に、ヒストグラム解析部92はフレームxの領域Index_y(yは、xをMで割った余りであり、0〜(M−1))の解析を行うとしたが、本発明はこれには限定されない。すなわち、M枚の各フレームをそれぞれM個の領域に分割し、フレームごとに異なる領域(Index_y以外の領域を含む1つの領域)の解析を行うようにしてもよい。
In the flowchart described with reference to FIG. 6, when each frame is divided into M regions, the
以上説明したように、本実施形態の携帯端末100によれば、カメラ7により取得された画像のリアルタイムのヒストグラム解析を行う場合に、フレーム分割部91が各フレームをM個の領域に分割し、ヒストグラム解析部92が連続するM個のフレームのそれぞれ異なる領域のヒストグラム解析を行い、集計部93が解析結果を加算して1画面分のヒストグラム解析結果として出力するため、制御部9に係るヒストグラム解析時の負荷が軽減され、リアルタイムかつ軽快な処理が可能になる。
また、画像のサイズがQQVGAの場合は全ての画素のヒストグラム解析を行い、QVGAの場合には間引き部94がヒストグラム解析の対象を4画素に1つに間引き、WQVGAの場合には間引き部94がヒストグラム解析の対象を5画素に1つに間引くため、ヒストグラム解析時の処理の負荷をより軽減することができ、またサイズの違いによりヒストグラム表示までの時間が異なるということが無い。
As described above, according to the
In addition, when the image size is QQVGA, the histogram analysis of all pixels is performed. In the case of QVGA, the thinning
ところで、プレビュー中の画像の取得レートが15枚/秒であった場合には、1フレームが0.066…秒毎となることを上記した。Mが5の場合には5フレームごとに1度のヒストグラム更新を行うこととなるが、この場合ヒストグラム更新は0.33…秒周期となり、人間の目にはこのレートで充分リアルタイム表示として見える。
また、上述した実施形態では、ヒストグラム計算のための領域を、特定領域のみのサンプリングするのではなく、フレームごとに分布計算する領域を随時変更しつつ、数フレーム分合算してヒストグラムとして表示するように構成したので、数フレームごとの解析結果の平均値が表示されることとなり、カメラ7による画像取得時に瞬間的な手振れや周辺環境の変化が生じても、ヒストグラムを表示する際に、滑らかな遷移画像のまま表示させ続けることが出来る。このため、ヒストグラムは、あくまでもカメラ7によるプレビュー画面取得中における参照値に過ぎないため、滑らかな変動を示すヒストグラムの方がユーザは参照しやすいというメリットも生じる。
As described above, when the acquisition rate of the image being previewed is 15 frames / second, one frame is 0.066... Every second. When M is 5, the histogram is updated once every 5 frames. In this case, the histogram is updated at a cycle of 0.33.
Further, in the above-described embodiment, the region for calculating the histogram is not sampled only for the specific region, but the region for distribution calculation for each frame is changed as needed, and is added to several frames and displayed as a histogram. As a result, the average value of the analysis results every several frames is displayed. Even if an instantaneous camera shake or a change in the surrounding environment occurs during image acquisition by the camera 7, a smooth display is possible when displaying the histogram. It can continue to be displayed as a transition image. For this reason, the histogram is merely a reference value during acquisition of the preview screen by the camera 7, so that a histogram showing smooth fluctuations can be easily referred to by the user.
また、撮影画像をメールに添付して他の携帯端末装置に通信部1によって送付する目的で撮影を行う際、ヒストグラム表示を伴うプレビュー中に、ユーザが相手側の端末の画像表示能力に見あった撮影サイズにするために操作部2を操作してカメラの出力画像サイズを変更する場合がある。このようなシチュエーションにおいても、本発明によれば撮影サイズごとの処理量に大きな差がなく、また基本的な解析処理ルーチンが共通であるため、サイズ変更指示直後にでもすぐさまヒストグラムを表示させることが出来る。これにより、ユーザはストレスなくヒストグラムを参照した撮影を行うことが出来る。
In addition, when shooting for the purpose of attaching a shot image to an e-mail and sending it to another mobile terminal device by the
本発明は上述した実施形態には限定されない。
すなわち、本発明の実施に際しては、本発明の技術的範囲またはその均等の範囲内において、上述した実施形態の構成要素に関し様々な変更、コンビネーション、サブコンビネーション、並びに代替を行ってもよい。
The present invention is not limited to the embodiment described above.
That is, when implementing the present invention, various modifications, combinations, sub-combinations, and alternatives may be made to the components of the above-described embodiments within the technical scope of the present invention or an equivalent scope thereof.
上述した実施形態では、図2に示したように携帯端末100は折りたたみ式の携帯電話機であるとしたが、本発明はこれには限定されず、ストレート型、スライド型、2軸ヒンジ型等、他の形態の携帯端末装置であってもよい。また、本発明は通信部を有する携帯電話機だけでなく、通信部を有しない撮像装置にも適用が可能である。
上述した実施形態では、各フレームは15枚/秒で取得するとしたが、本発明はこれ以外の場合でも適用可能である。すなわち、例えば30枚/秒等で取得してもよい。
また、上述した実施形態では画像サイズの例としてQQVGA、QVGA、WQVGA(VGA)の場合について説明したが、本発明はこれには限定されない。すなわち、例えばSVGA(800×600pixel)やそれ以上のサイズの画像のヒストグラム解析を行う際には、間引き部94がヒストグラム解析時の処理が重くならない程度に間引く(ヒストグラム解析の対象となる画素を抽出する)ようにすればよい。また、間引き部94はQQVGAのフレームの場合には間引かず、QVGA以上の画像サイズの場合に間引くようにしたが、本発明はこれには限定されず、例えQQVGAのサイズの画像であっても、ヒストグラム解析時の処理が重くならない程度に間引くようにすればよい。この場合、QVGA以上のサイズの画像では、QQVGAの画像を間引いた結果ヒストグラム解析対象とした画素数と同じ画素数となるように間引いてヒストグラム解析を行うようにすればよい。
In the embodiment described above, the
In the above-described embodiment, each frame is acquired at 15 frames / second. However, the present invention is applicable to other cases. That is, for example, it may be acquired at 30 sheets / second or the like.
In the above-described embodiment, the case of QQVGA, QVGA, and WQVGA (VGA) is described as an example of the image size. However, the present invention is not limited to this. That is, for example, when performing a histogram analysis of an image of SVGA (800 × 600 pixels) or larger, the thinning
100…携帯端末、101…上部筐体、102…下部筐体、103…ヒンジ部、1…通信部、2…操作部、3…音声処理部、4…スピーカ、5…マイク、6…表示部、7…カメラ、8…記憶部、9…制御部、91…フレーム分割部、92…ヒストグラム解析部、921…メモリ、93…集計部、94…間引き部
DESCRIPTION OF
Claims (5)
前記カメラにより取得される画像を前記所定の間隔ごとに更新して表示する表示部と、
制御部と、
を有し、
前記制御部は、
前記カメラにより取得される連続するM(Mは正の整数)枚の画像のそれぞれを同様にM個の領域に分割する分割部と、
前記分割部が分割した前記M枚の画像のそれぞれ異なる領域のヒストグラムを解析するヒストグラム解析部と、
前記ヒストグラム解析部が解析した前記M枚の画像のそれぞれ異なる領域のヒストグラムを集計して、1枚の画像分としてヒストグラムを生成する集計部と、
を有し、
前記表示部は、前記カメラにより取得される画像とともに前記集計部が生成したヒストグラムを表示する
ことを特徴とする撮像装置。 A camera for taking images at predetermined intervals;
A display unit that updates and displays images acquired by the camera at predetermined intervals;
A control unit;
Have
The controller is
A dividing unit that similarly divides each of consecutive M (M is a positive integer) images acquired by the camera into M regions;
A histogram analysis unit that analyzes histograms of different areas of the M images divided by the division unit;
A totaling unit for totalizing histograms of different areas of the M images analyzed by the histogram analysis unit to generate a histogram for one image;
Have
The display unit displays a histogram generated by the counting unit together with an image acquired by the camera.
を有することを特徴とする請求項1に記載の撮像装置。 The said control part has a thinning | decimation part which performs the thinning-out process of the pixel number which the said histogram analysis part analyzes among all the pixels of the said area | region according to the resolution of the said display part. Imaging device.
前記Mは5或いは5の倍数であって、
前記間引き部は、解像度がQQVGAの場合は全ての画素を前記ヒストグラム解析部に解析させ、解像度がQVGAの場合は4画素あたり1画素を前記ヒストグラム解析部に解析させ、解像度がWQVGAの場合は5画素あたり1画素を前記ヒストグラム解析部に解析させる
ことを特徴とする請求項2に記載の撮像装置。 The display unit has a resolution of QQVGA, QVGA, or WQVGA,
M is 5 or a multiple of 5,
The thinning unit causes the histogram analysis unit to analyze all pixels when the resolution is QQVGA, and causes the histogram analysis unit to analyze one pixel per four pixels when the resolution is QVGA, and 5 when the resolution is WQVGA. The imaging apparatus according to claim 2, wherein the histogram analysis unit analyzes one pixel per pixel.
所定の間隔で画像を撮影するカメラと、
前記カメラにより取得される画像を前記所定の間隔ごとに更新して表示する表示部と、
前記カメラにより取得される画像を無線通信により送信可能な通信部と、
制御部と、
を有し、
前記制御部は、
前記カメラにより取得される連続するM(Mは正の整数)枚の画像のそれぞれを同様にM個の領域に分割する分割部と、
前記分割部が分割した前記M枚の画像のそれぞれ異なる領域のヒストグラムを解析するヒストグラム解析部と、
前記ヒストグラム解析部が解析した前記M枚の画像のそれぞれ異なる領域のヒストグラムを集計して、1枚の画像分としてヒストグラムを生成する集計部と、
を有し、
前記表示部は、前記カメラにより取得される画像とともに前記集計部が生成したヒストグラムを表示する
ことを特徴とする携帯端末装置。 A mobile terminal device that performs wireless communication with a base station connected to a communication network,
A camera for taking images at predetermined intervals;
A display unit that updates and displays images acquired by the camera at predetermined intervals;
A communication unit capable of transmitting an image acquired by the camera by wireless communication;
A control unit;
Have
The controller is
A dividing unit that similarly divides each of consecutive M (M is a positive integer) images acquired by the camera into M regions;
A histogram analysis unit that analyzes histograms of different areas of the M images divided by the division unit;
A totaling unit for totalizing histograms of different areas of the M images analyzed by the histogram analysis unit to generate a histogram for one image;
Have
The said display part displays the histogram which the said total part produced | generated with the image acquired by the said camera. The portable terminal device characterized by the above-mentioned.
ことを特徴とする請求項4に記載の携帯端末装置。 The mobile terminal device according to claim 4, further comprising an operation unit that receives an operation input instructing a change in a size of a subsequent acquired image in a state where images are continuously acquired by the camera.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007256788A JP2009089086A (en) | 2007-09-28 | 2007-09-28 | Imaging device and portable terminal device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007256788A JP2009089086A (en) | 2007-09-28 | 2007-09-28 | Imaging device and portable terminal device |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2009089086A true JP2009089086A (en) | 2009-04-23 |
Family
ID=40661880
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2007256788A Withdrawn JP2009089086A (en) | 2007-09-28 | 2007-09-28 | Imaging device and portable terminal device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2009089086A (en) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9007527B2 (en) | 2013-03-05 | 2015-04-14 | Hitachi, Ltd. | Imaging device, imaging system and imaging method |
| WO2018109875A1 (en) * | 2016-12-14 | 2018-06-21 | Necディスプレイソリューションズ株式会社 | Projector and method for controlling light source for projector |
-
2007
- 2007-09-28 JP JP2007256788A patent/JP2009089086A/en not_active Withdrawn
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9007527B2 (en) | 2013-03-05 | 2015-04-14 | Hitachi, Ltd. | Imaging device, imaging system and imaging method |
| WO2018109875A1 (en) * | 2016-12-14 | 2018-06-21 | Necディスプレイソリューションズ株式会社 | Projector and method for controlling light source for projector |
| US10587850B2 (en) | 2016-12-14 | 2020-03-10 | Nec Display Solutions, Ltd. | Projector and method for controlling light source for projector |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110636375B (en) | Video stream processing method and device, terminal equipment and computer readable storage medium | |
| KR102385841B1 (en) | shooting mobile terminal | |
| US9225905B2 (en) | Image processing method and apparatus | |
| US10523820B2 (en) | High-quality audio/visual conferencing | |
| KR102768317B1 (en) | Projection data processing method and device | |
| US8189028B2 (en) | Method and apparatus for taking images during a video call on a mobile communication terminal | |
| US20090141146A1 (en) | Multiple image sensor system with shared processing | |
| US9813613B2 (en) | Method and apparatus for capturing image in portable terminal | |
| KR100656589B1 (en) | A portable terminal capable of displaying and editing divided shot images and a method thereof | |
| CN114298889A (en) | Image processing circuit and image processing method | |
| KR100575924B1 (en) | Image capturing method of a device having a camera | |
| JP2008532394A (en) | Method, electronic device, and computer program product for processing an image using multiple image buffers | |
| KR100819243B1 (en) | How to record and save images on the camera phone | |
| KR100650251B1 (en) | Handset having image processing function and method therefor | |
| CN110971822A (en) | Image processing method, apparatus, terminal device, and computer-readable storage medium | |
| JP2009089086A (en) | Imaging device and portable terminal device | |
| KR100630203B1 (en) | Display method of image data of mobile terminal | |
| US20070126889A1 (en) | Method and apparatus of creating and displaying a thumbnail | |
| KR100678208B1 (en) | How to save and display images on your mobile device | |
| KR100562143B1 (en) | Wireless communication terminal having high capacity image data processing function and method thereof | |
| JP2005191697A (en) | Movie recording apparatus, movie recording method, and movie recording program | |
| KR100562142B1 (en) | Wireless communication terminal having an image capturing function and method thereof | |
| JP2006148776A (en) | Non-contact data transmission device, non-contact data reception device, and non-contact data transmission method | |
| JP2006060339A (en) | Mobile communication terminal and still image extraction / synthesis method | |
| CN114727001A (en) | A method, device and medium for processing image data |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100615 |
|
| A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20110830 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110905 |