JP2000092499A - Image encoding control device, image encoding control method, and storage medium - Google Patents
Image encoding control device, image encoding control method, and storage mediumInfo
- Publication number
- JP2000092499A JP2000092499A JP25415898A JP25415898A JP2000092499A JP 2000092499 A JP2000092499 A JP 2000092499A JP 25415898 A JP25415898 A JP 25415898A JP 25415898 A JP25415898 A JP 25415898A JP 2000092499 A JP2000092499 A JP 2000092499A
- Authority
- JP
- Japan
- Prior art keywords
- motion
- image
- motion vector
- detecting
- encoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Studio Devices (AREA)
Abstract
(57)【要約】
【課題】 動きベクトルの探索時間を短縮して、符号化
に要する時間をトータルで短縮できるようにする。
【解決手段】 被写体を撮像する撮像手段と、上記撮像
手段の動きを検出するための動き検出手段と、上記動き
検出手段からの出力を演算して上記撮像手段の動きの速
度と方向、及び動き量を算出する演算手段と、上記演算
手段により算出した上記撮像手段の動きの速度と方向、
及び動き量により動きベクトル探索範囲を任意に設定す
る動きベクトル探索範囲設定手段と、上記撮像手段の動
きの速度と方向、及び動き量に応じて、フレームまたは
フィールド内のマクロ・ブロックの符号化モードを決定
する符号化モード決定手段とを設け、動きベクトル探索
範囲を効率良く、且つフレキシブルに設定できるように
して、動きベクトル探索時間を短縮できるようにする。
(57) [Summary] [PROBLEMS] To reduce the search time for a motion vector and to reduce the time required for encoding in total. SOLUTION: An image pickup means for picking up an image of a subject, a movement detection means for detecting a movement of the image pickup means, and an output from the movement detection means are operated to calculate a speed and a direction and a movement of the movement of the image pickup means. Calculating means for calculating the amount, the speed and direction of the movement of the imaging means calculated by the calculating means,
A motion vector search range setting unit for arbitrarily setting a motion vector search range according to a motion amount, and a coding mode of a macro block in a frame or a field according to the speed and direction of the motion of the imaging unit and the motion amount. And a coding mode determining unit for determining the motion vector search range, so that the motion vector search range can be set efficiently and flexibly, so that the motion vector search time can be shortened.
Description
【0001】[0001]
【発明の属する技術分野】本発明は画像符号化制御装
置、画像符号化制御方法及び記憶媒体に関し、特に、撮
像手段から出力される画像信号から生成したディジタル
画像データを符号化するために用いて好適な画像符号化
制御装置に関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image encoding control device, an image encoding control method, and a storage medium, and more particularly, to a method for encoding digital image data generated from an image signal output from an imaging means. The present invention relates to a suitable image coding control device.
【0002】[0002]
【従来の技術】MPEGに代表される画像符号化システムを
採用したカメラ付ビデオレコーダ(以下、カム・コーダ
とする)等において行われている符号化モード(イント
ラ、インター)は、フレーム(フィールド)を一単位と
して数フレームの周期で順序が決められており、インタ
ー符号化モードにおける動きベクトルは、入力されるフ
レーム(フィールド)画像間の比較のみにより求められ
ていた。2. Description of the Related Art An encoding mode (intra, inter) performed in a video recorder with a camera (hereinafter, referred to as a cam coder) employing an image encoding system represented by MPEG includes a frame (field). Is determined as a unit in a cycle of several frames, and the motion vector in the inter-encoding mode is obtained only by comparison between input frame (field) images.
【0003】また、H.263 ではMPEGのようにフレームを
単位とする符号化モードは、任意に決定できるようにな
っているが、インター符号化における動きベクトルに関
しては、上記MPEGの場合と同様であった。[0003] Further, in H.263, an encoding mode in units of frames, such as MPEG, can be arbitrarily determined. However, a motion vector in inter encoding is the same as that in the above-described MPEG. there were.
【0004】インター符号化は、入力された時間的に独
立した位置に存在するフレーム(フィールド)内の画素
間の比較により求めた動きベクトルに基づいて画像デー
タの冗長度を削減するもので、特に、符号化対象となっ
ているフレーム(フィールド)を構成するマクロ・ブロ
ックという単位で上記符号化・モードが選択されるのが
通例である。[0004] The inter coding reduces the redundancy of image data based on a motion vector obtained by comparing pixels in a frame (field) present at an input time-independent position. In general, the above-mentioned encoding / mode is selected in units of macro blocks constituting a frame (field) to be encoded.
【0005】そして、上記動きベクトルの探索範囲も結
果として得られる動きベクトルの大きさとは無関係に定
義された一定の探索範囲内を任意のマッチング評価方法
にて評価し、誤差や偏差等が最も少ない領域を指すもの
を動きベクトルとして決定するようにしている。The search range of the motion vector is evaluated by an arbitrary matching evaluation method within a predetermined search range defined independently of the size of the resultant motion vector, and the error and the deviation are minimized. An object indicating a region is determined as a motion vector.
【0006】そのため、上記カム・コーダの場合、カム
・コーダが常に固定されている状態ならば、従来の動き
ベクトル探索方法でも大きな問題は生じ難い。しかし、
従来のカム・コーダは、一般に、ハンディータイプであ
り、カメラ自体をパン、チルト方向に移動させて撮影す
ることが多いのが現状である。Therefore, in the case of the above-described cam coder, if the cam coder is always fixed, the conventional motion vector search method hardly causes a serious problem. But,
Conventional camcorders are generally handy type, and the current situation is that the camera itself is often moved in pan and tilt directions for photographing.
【0007】[0007]
【発明が解決しようとする課題】したがって、上記カム
・コーダで撮影された画像は、カメラ固定で撮影された
場合のように、背景の画像に殆んど変化がなく、撮影対
象(被写体)のみが動くものではなく、背景と被写体と
が同時に動く画像である可能性が多く、その場合はフレ
ーム(フィールド)間の相関性(冗長度)が低くなる問
題があった。Therefore, the image photographed by the camcorder has almost no change in the background image, unlike the case of photographing with the camera fixed, and only the photographing object (subject) is obtained. In many cases, the image is not a moving image, and the background and the subject move at the same time. In this case, there is a problem that the correlation (redundancy) between frames (fields) is reduced.
【0008】上記のような条件下で、最もマッチングの
良い領域が、定義された動きベクトル探索範囲外にある
場合、探索範囲内で探索、定義された動きベクトルは、
その精度が低い。したがって、このような場合は、フレ
ーム間符号化による画質を維持しながら、符号量を削減
するというメリットが小さくなるばかりか、逆に符号量
の増加や画質劣化を招く問題があった。[0008] Under the above conditions, if the best matching area is outside the defined motion vector search range, the motion vector searched and defined within the search range is
Its accuracy is low. Therefore, in such a case, there is a problem that not only the merit of reducing the code amount while maintaining the image quality by the inter-frame coding is reduced, but also the increase in the code amount and the deterioration of the image quality.
【0009】また、動きベクトル探索不能と判断して、
現在符号化対象となっているマクロ・ブロックをインタ
ー符号化モードからイントラ符号化モードに変更する場
面でも、従来のシステムでは、上記所定の動きベクトル
探索工程を経てから変更処理に至るため、時間的符号化
効率が悪化する。When it is determined that the motion vector cannot be searched,
Even in the case where the macro block currently being encoded is changed from the inter-coding mode to the intra-coding mode, in the conventional system, the change processing is performed after the above-described predetermined motion vector search step. The coding efficiency deteriorates.
【0010】逆に、上記定義された探索範囲に対して、
画像の動きが十分に小さい場合でも、上記定義された動
きベクトルの探索範囲を全て探索するので、時間的探索
効率が悪くなる等の問題点があった。Conversely, for the search range defined above,
Even when the motion of the image is sufficiently small, since the entire search range of the motion vector defined above is searched, there is a problem that the temporal search efficiency deteriorates.
【0011】本発明は上述の問題点にかんがみ、動きベ
クトルの探索時間を短縮して、符号化に要する時間をト
ータルで短縮できるようにすることを第1の目的とす
る。また、撮像手段自体の移動に伴う画面全体が動く場
合に、画面間の相関性(冗長度)が低くなる不都合を軽
減し、更に画面内における画像の動き量を高速に推定で
きるようにすることを第2の目的とする。SUMMARY OF THE INVENTION In view of the above problems, it is a first object of the present invention to shorten the search time for a motion vector and to reduce the time required for encoding in total. In addition, when the entire screen moves due to the movement of the imaging means itself, the inconvenience that the correlation (redundancy) between the screens is reduced is reduced, and the amount of motion of the image in the screen can be estimated at high speed. As a second object.
【0012】[0012]
【課題を解決するための手段】本発明の画像符号化制御
装置は、被写体を撮像する撮像手段と、上記撮像手段の
動きを検出する動き検出手段と、上記動き検出手段から
の出力を演算して上記撮像手段の動きの速度と方向、及
び動き量を算出する演算手段と、上記演算手段により算
出した上記撮像手段の動きの速度と方向、及び動き量に
基いて動きベクトルを探索する範囲を任意に設定する動
きベクトル探索範囲設定手段と、上記撮像手段の動きの
速度と方向、及び動き量に応じて、フレームまたはフィ
ールド内のマクロ・ブロックの符号化モードを決定する
符号化モード決定手段とを具備することを特徴としてい
る。また、本発明の画像符号化制御装置の他の特徴とす
るところは、被写体を撮像する撮像手段と、上記撮像手
段の動きの速度と方向をグローバル動きベクトルとして
検出する撮像状態検出手段と、上記撮像手段によって撮
影された複数の画面のうち、前方画面と現画面との間、
または現画面と後方画面との間の動きベクトルを検出す
る動きベクトル検出手段とを具備し、上記動きベクトル
検出手段により検出する動きベクトルを、上記撮像状態
検出手段によって検出された上記撮像手段の動きに応じ
て補償することを特徴としている。また、本発明の画像
符号化制御装置のその他の特徴とするところは、符号化
しようとする画像データに対して、上記画像データが存
在するフレームまたはフィールド内の情報を用いて符号
化を行うフレーム内符号化と、時問的に過去、未来、ま
たは過去及び未来の両方のフレームまたはフィールドを
参照して動きベクトルを求め、上記動きベクトルにより
指示される画像データを参照して符号化するフレーム間
符号化とを行うことが可能な画像符号化制御装置におい
て、物体の動きの速さ、動きの量及び方向を検出する動
き検出手段と、上記動き検出手段の検出出力に基づい
て、上記物体の動きの速さ及び動きの量を演算する動き
演算手段と、上記動き演算手段の演算結果と、予め設定
した所定の閾値とを比較する比較手段と、上記比較手段
の比較結果に応じて、符号化方式及び各画面間での前方
または後方の動きベクトル探索範囲を設定する設定手段
とを具備することを特徴としている。また、本発明の画
像符号化制御装置のその他の特徴とするところは、符号
化しようとする画像データに対して、上記画像データが
存在するフレームまたはフィールド内の情報を用いて符
号化を行うフレーム内符号化と、時間的に過去、未来、
または過去及び未来の両方のフレームまたはフィールド
を参照して動きベクトルを求め、上記動きベクトルによ
り指示される画像データを参照して符号化するフレーム
間符号化とを行うことが可能であり、上記フレーム内符
号化またはフレーム間符号化の何方か一方をパラメータ
により制御し、各フレーム/フィールドの符号化方法を
選択可能な撮像手段と、上記撮像手段を任意の姿勢で支
持する支持手段と、上記支持手段が上記撮像手段を支持
する姿勢を制御する姿勢制御手段とを備えたことを特徴
としている。また、本発明の画像符号化制御装置のその
他の特徴とするところは、一画面をn×m 画素で構成さ
れる複数の小ブロックに分割して、上記小ブロックの k
個(k>O)を一単位(マクロブロック)として符号化する
画像符号化制御装置において、被写体を撮像する撮像手
段と、上記撮像手段の動きを検出する動き検出手段と、
上記動き検出手段の出力から求めた動き量と、符号化対
象フレームまたはフィールドに対して、時間的に過去、
未来のフレームまたはフィールド間で求めた動きベクト
ルとを比較する比較手段と、上記比較手段の比較結果
と、予め設定した所定の閾値とを比較し、その比較結果
に基づいて上記マクロブロックが動画像領域に属するの
か、静止画領域に属するのかを判定する判定手段とを具
備することを特徴としている。また、本発明の画像符号
化制御装置のその他の特徴とするところは、画像データ
または動きベクトルに基づいて、参照された時問的に過
去または未来のフレームまたはフィールド画像との差分
に直交変換を含む座標変換を施す座標変換手段と、上記
座標変換手段により座標変換された後の係数を、任意の
方法で選択した量子化係数で量子化する量子化手段と、
上記量子化手段によって量子化された画像データを圧縮
する画像データ圧縮手段と、上記撮像手段の動きを検出
する動き検出手段と、上記動き検出手段の出力を演算す
る演算手段と、上記演算手段により求められた動き量
と、フレームまたはフィールド間の画像データの比較に
より求めた動きベクトルとを比較する比較手段と、上記
比較手段の比較結果を複数のランクに分類する分類手段
と、上記分類手段によって分類された各ランクに基づい
て上記量子化係数を選択する選択手段とを具備すること
を特徴としている。According to the present invention, there is provided an image coding control apparatus for calculating an image of a subject, a motion detecting means for detecting a motion of the image capturing means, and an output from the motion detecting means. Calculating means for calculating the speed and direction of the movement of the imaging means, and the amount of movement, and the range for searching for a motion vector based on the speed and direction of the movement of the imaging means calculated by the calculation means, and the amount of movement. A motion vector search range setting means for arbitrarily setting; a coding mode determining means for determining a coding mode of a macro block in a frame or a field according to a speed and a direction of movement of the imaging means, and an amount of movement; It is characterized by having. Further, other features of the image encoding control device of the present invention include: an imaging unit that captures an image of a subject; an imaging state detection unit that detects a speed and a direction of movement of the imaging unit as a global motion vector; Of a plurality of screens taken by the imaging means, between the front screen and the current screen,
Or a motion vector detecting means for detecting a motion vector between the current screen and the rear screen, wherein the motion vector detected by the motion vector detecting means is determined by the motion of the imaging means detected by the imaging state detecting means. It is characterized in that compensation is made according to Another feature of the image encoding control device of the present invention is that a frame in which encoding is performed on image data to be encoded using information in a frame or a field in which the image data exists. Intra-encoding and temporally past, future, or both past and future frames or fields to determine a motion vector, and between frames to be encoded with reference to image data indicated by the motion vector In an image encoding control device capable of performing encoding, a speed of an object, a motion detecting means for detecting an amount and a direction of the motion, and a detection output of the motion detecting means, Motion calculating means for calculating the speed and amount of movement, comparing means for comparing the calculation result of the motion calculating means with a predetermined threshold value, and comparing means Depending on the comparison result, it is characterized by comprising setting means for setting a forward or backward motion vector search range of between coding and each screen. Another feature of the image encoding control device of the present invention is that a frame in which encoding is performed on image data to be encoded using information in a frame or a field in which the image data exists. Inner coding, temporally past, future,
Alternatively, it is possible to obtain a motion vector by referring to both the past and future frames or fields, and perform inter-frame encoding by referring to image data indicated by the motion vector. An imaging unit that controls either one of the inner encoding and the inter-frame encoding by a parameter and can select an encoding method for each frame / field, a supporting unit that supports the imaging unit in an arbitrary posture, Means for controlling the attitude of supporting the imaging means. Another feature of the image encoding control device of the present invention is that one screen is divided into a plurality of small blocks each including n × m pixels, and the k
In an image encoding control device that encodes (k> O) as one unit (macroblock), an imaging unit that captures an image of a subject, a motion detection unit that detects a motion of the imaging unit,
With respect to the motion amount obtained from the output of the motion detection means and the encoding target frame or field,
Comparing means for comparing a motion vector obtained between future frames or fields; comparing the comparison result of the comparing means with a predetermined threshold value set in advance; Determining means for determining whether the image data belongs to an area or a still image area. Another feature of the image encoding control device of the present invention is that, based on the image data or the motion vector, the orthogonal transformation is performed on the difference between the referred temporally past or future frame or field image based on the image data or the motion vector. Coordinate transformation means for performing coordinate transformation including: a coefficient after coordinate transformation by the coordinate transformation means, a quantization means for quantizing with a quantization coefficient selected by an arbitrary method,
Image data compression means for compressing the image data quantized by the quantization means, movement detection means for detecting the movement of the imaging means, calculation means for calculating the output of the movement detection means, and calculation means A comparing unit that compares the obtained motion amount with a motion vector obtained by comparing image data between frames or fields; a classifying unit that classifies a comparison result of the comparing unit into a plurality of ranks; Selecting means for selecting the quantization coefficient based on each of the classified ranks.
【0013】本発明の画像符号化制御方法は、撮像手段
により被写体を撮像する撮像工程と、上記撮像手段の動
きを動き検出手段により検出する動き検出工程と、上記
動き検出手段からの出力を演算して上記撮像手段の動き
の速度と方向、及び動き量を算出する演算工程と、上記
演算工程により算出した上記撮像手段の動きの速度と方
向、及び動き量に基いて動きベクトルを探索する範囲を
任意に設定する動きベクトル探索範囲設定工程と、上記
撮像手段の動きの速度と方向、及び動き量に応じて、フ
レームまたはフィールド内のマクロ・ブロックの符号化
モードを決定する符号化モード決定工程とを行うことを
特徴としている。また、本発明の画像符号化制御方法の
他の特徴とするところは、撮像手段により被写体を撮像
する撮像工程と、上記撮像手段の動きの速度と方向を検
出する撮像状態検出工程と、上記撮像工程によって撮影
された複数の画面のうち、前方画面と現画面との間、ま
たは現画面と後方画面との間の動きベクトルを検出する
動きベクトル検出工程とを行い、上記動きベクトル検出
工程で検出する動きベクトルを、上記撮像状態検出工程
における検出結果に応じて補償することを特徴としてい
る。また、本発明の画像符号化制御方法のその他の特徴
とするところは、符号化しようとする画像データに対し
て、上記画像データが存在するフレームまたはフィール
ド内の情報を用いて符号化を行うフレーム内符号化と、
時問的に過去、未来、または過去及び未来の両方のフレ
ームまたはフィールドを参照して動きベクトルを求め、
上記動きベクトルにより指示される画像データを参照し
て符号化するフレーム間符号化とを行う画像符号化制御
方法において、物体の動きの速さ、動きの量及び方向を
検出する動き検出工程と、上記動き検出工程の検出出力
に基づいて、上記物体の動きの速さ及び動きの量を演算
する動き演算工程と、上記動き演算工程の演算結果と、
予め設定した所定の閾値とを比較する比較工程と、上記
比較工程の比較結果に応じて、符号化方式及び各画面間
での前方または後方の動きベクトル探索範囲を設定する
動きベクトル探索範囲設定工程とを行うことを特徴とし
ている。また、本発明の画像符号化制御方法のその他の
特徴とするところは、一画面をn×m 画素で構成される
複数の小ブロックに分割して、上記小ブロックの k個(k
>O)を一単位(マクロブロック)として符号化する画像
符号化制御方法において、撮像手段により被写体を撮像
する撮像工程と、上記撮像手段の動きを検出する動き検
出手段と、上記動き検出工程で求めた上記撮像手段の動
き量と、符号化対象フレームまたはフィールドに対し
て、時間的に過去、未来のフレームまたはフィールド間
で求めた動きベクトルとを比較する比較工程と、上記比
較工程における比較結果と、予め設定した所定の閾値と
を比較した結果に基づいて、上記マクロブロックが動画
像領域に属するのか、静止画領域に属するのかを判定す
る判定工程とを行うことを特徴としている。また、本発
明の画像符号化制御方法のその他の特徴とするところ
は、撮像手段により被写体を撮像する撮像工程と、画像
データまたは動きベクトルに基づいて、参照された時問
的に過去または未来のフレームまたはフィールド画像と
の差分に直交変換を含む座標変換を施す座標変換工程
と、上記座標変換工程により座標変換された後の係数
を、任意の方法で選択した量子化係数で量子化する量子
化工程と、上記量子化工程によって量子化された画像デ
ータを圧縮する画像データ圧縮工程と、上記撮像手段の
動きを検出する動き検出工程と、上記動き検出工程の動
き検出出力を演算する演算工程と、上記演算工程におい
て求められた動き量と、フレームまたはフィールド間の
画像データの比較により求めた動きベクトルとを比較す
る比較工程と、上記比較工程の比較結果を複数のランク
に分類する分類工程と、上記分類工程によって分類され
た各ランクに基づいて上記量子化係数を選択する選択工
程とを行うことを特徴としている。The image encoding control method according to the present invention includes an image pickup step of picking up an image of a subject by an image pickup means, a movement detection step of detecting the movement of the image pickup means by a movement detection means, and calculating an output from the movement detection means. A calculating step of calculating the speed and direction of the movement of the imaging unit and the amount of movement, and a range for searching for a motion vector based on the speed and direction of the movement of the imaging unit and the amount of movement calculated by the calculating step. A motion vector search range setting step of arbitrarily setting the encoding mode, and an encoding mode determining step of determining an encoding mode of a macro block in a frame or a field according to the speed and direction of the motion of the imaging unit and the amount of motion. And is performed. Another feature of the image encoding control method of the present invention is that an imaging step of imaging an object by an imaging unit, an imaging state detecting step of detecting a speed and a direction of movement of the imaging unit, Performing a motion vector detecting step of detecting a motion vector between the front screen and the current screen or between the current screen and the rear screen among the plurality of screens captured by the process, and detecting the motion vector in the motion vector detecting step. The motion vector to be compensated is compensated according to the detection result in the above-described imaging state detection step. Another feature of the image encoding control method of the present invention is that a frame in which encoding is performed on image data to be encoded using information in a frame or a field in which the image data exists. Inner coding,
Find a motion vector by referring to the past, future, or both past and future frames or fields temporally,
In an image encoding control method for performing inter-frame encoding with reference to image data indicated by the motion vector, a motion detection step of detecting the speed of the motion of the object, the amount and direction of the motion, A motion calculation step of calculating a speed and an amount of movement of the object based on the detection output of the motion detection step, and a calculation result of the motion calculation step;
A comparing step of comparing a predetermined threshold value set in advance; and a motion vector search range setting step of setting a coding method and a forward or backward motion vector search range between each screen according to the comparison result of the comparing step. And is performed. Another feature of the image coding control method of the present invention is that one screen is divided into a plurality of small blocks each including n × m pixels, and k pieces (k
> O) as one unit (macroblock), an image capturing step of capturing an object by an image capturing unit, a motion detecting unit detecting a motion of the image capturing unit, and a motion detecting step. A comparison step of comparing the obtained motion amount of the imaging unit with a motion vector obtained between a frame or a field to be encoded and a temporally past or future frame or field; and a comparison result in the comparison step. And a determination step of determining whether the macroblock belongs to a moving image area or a still image area based on a result of comparing the macroblock with a predetermined threshold value set in advance. Another feature of the image encoding control method of the present invention is that an image capturing step of capturing an image of a subject by an image capturing unit and, based on image data or a motion vector, a temporally past or future reference. A coordinate transformation step of performing coordinate transformation including orthogonal transformation on a difference between the frame and the field image, and a quantization step of quantizing a coefficient after the coordinate transformation in the coordinate transformation step with a quantization coefficient selected by an arbitrary method. An image data compression step of compressing the image data quantized by the quantization step, a motion detection step of detecting a motion of the imaging means, and a calculation step of calculating a motion detection output of the motion detection step. A comparison step of comparing the amount of motion determined in the calculation step with a motion vector determined by comparing image data between frames or fields. A classification step of classifying a plurality of ranks the comparison results of the comparison process, is characterized by performing a selection step of selecting the quantization coefficient based on each rank is classified by the classification step.
【0014】本発明の記憶媒体は、請求項1〜6の何れ
か1項に記載の各手段としてコンピュータを機能させる
ためのプログラムを格納したことを特徴としている。ま
た、本発明の記憶媒体の他の特徴とするところは、請求
項7〜12の何れか1項に記載の画像符号化制御方法の
手順をコンピュータに実行させるためのプログラムを格
納したことを特徴としている。A storage medium according to the present invention is characterized by storing a program for causing a computer to function as each means according to any one of the first to sixth aspects. Another feature of the storage medium of the present invention is that a program for causing a computer to execute the procedure of the image coding control method according to any one of claims 7 to 12 is stored. And
【0015】[0015]
【作用】本発明は上記技術手段を有するので、カムコー
ダに設けられた動き検出手段からの出力が演算手段によ
り演算され、上記カムコーダの動きの速度と方向、及び
動き量が推定(算出)される。そして、上記算出された
動きの方向と動き量、または動きの速度等の情報を含む
グローバル動きベクトルとして求め、上記グローバル動
きベクトルに基いて動きベクトル探索範囲を任意に設定
可能となる。また、上記カムコーダの動きの速度と方
向、及び動き量に応じて従来のフレーム(フィールド)
間の画素値の相関の度合いにより求められる動きベクト
ルに依存せずに、フレーム(フィールド)またはフレー
ム(フィールド)内のマクロ・ブロックの符号化モード
を決定できるので、動きベクトル探索範囲を効率良く、
且つフレキシブルに設定することが可能となり、動きベ
クトル探索時間を短縮することができる。また、本発明
によれば、動きベクトルの大きさから、動きベクトルが
フォーマットで調査されている範囲内にあるか否かを、
上記カムコーダの動きの方向と動き量、または動きの速
度等の情報を含むグローバル動きベクトルにより判定で
きるので、動きベクトルの探索時間やフレーム(フィー
ルド)またはフレーム(フィールド)内のマクロ・ブロ
ックの符号化モードの選択時間を短縮できるとともに、
イントラ符号化を必要とするフレーム(フィールド)ま
たはフレーム(フィールド)内のマクロ・ブロックを簡
単に選定することが可能となる。Since the present invention has the above technical means, the output from the motion detecting means provided in the camcorder is calculated by the calculating means, and the speed and direction of the motion of the camcorder and the amount of motion are estimated (calculated). . Then, a global motion vector including information such as the calculated direction and amount of the motion or the speed of the motion is obtained, and the motion vector search range can be set arbitrarily based on the global motion vector. Also, according to the speed and direction of the motion of the camcorder and the amount of motion, a conventional frame (field)
Since the coding mode of a frame (field) or a macro block in a frame (field) can be determined without depending on the motion vector obtained by the degree of correlation between pixel values between the pixels, the motion vector search range can be efficiently set.
In addition, it is possible to flexibly set, and it is possible to shorten a motion vector search time. According to the present invention, from the magnitude of the motion vector, whether the motion vector is within the range being investigated in the format,
Since the determination can be made based on the global motion vector including information such as the direction and amount of motion of the camcorder or the speed of the motion, the search time of the motion vector and the coding of a macroblock in a frame (field) or a frame (field) are determined. Mode selection time can be reduced,
It is possible to easily select a frame (field) or a macro block in the frame (field) that requires intra coding.
【0016】[0016]
【発明の実施の形態】(第1の実施の形態)図1に、本
発明の画像符号化制御装置、画像符号化制御方法及び記
憶媒体の第一の実施の形態を示す。図1において、101
は本体の慣性(動き)を検出するためのジャイロを装備
したビデオ・カメラシステム、102 はビデオ・カメラシ
ステム101 のカメラ内のジャイロ(図示せず)から出力
される上記カムコーダの動きの速度と方向、及び動き量
が推定(算出)される。そして、上記算出された動きの
方向と動き量、または動きの速度等の情報を含むグロー
バル動きベクトル(GMV)として算出する演算装置であ
る。DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS (First Embodiment) FIG. 1 shows a first embodiment of an image encoding control device, an image encoding control method and a storage medium according to the present invention. In FIG. 1, 101
Is a video camera system equipped with a gyro for detecting the inertia (movement) of the main body, and 102 is the speed and direction of the motion of the camcorder output from the gyro (not shown) in the camera of the video camera system 101. , And the amount of motion are estimated (calculated). The arithmetic unit calculates a global motion vector (GMV) including information such as the calculated direction and amount of the motion or the speed of the motion.
【0017】105 は、ビデオ・カメラシステム101 で撮
影されたディジタル画像データのバッファメモリ、106
はフレーム(フィールド)間の動きベクトルを検出する
ブロック、103 は上記演算装置102 で算出したグローバ
ル動きベクトルGMV と、上記検出ブロック106 の動きベ
クトルとからイントラ、インター(前方予測:P、双方向
予測:B)等の符号化モードを選択する符号化モード判定
ブロックである。104は、MPEGやH.263 等の動画像フレ
ーム(フィールド)間符号化を使用する符号化フォーマ
ットに準拠した符号化器である。Reference numeral 105 denotes a buffer memory for digital image data photographed by the video camera system 101;
Is a block for detecting a motion vector between frames (fields), and 103 is an intra, inter (forward prediction: P, bidirectional prediction) from the global motion vector GMV calculated by the arithmetic unit 102 and the motion vector of the detection block 106. : B) is a coding mode determination block for selecting a coding mode such as: Reference numeral 104 denotes an encoder conforming to an encoding format using inter-moving image frame (field) encoding such as MPEG or H.263.
【0018】本実施の形態において、ビデオ・カメラシ
ステム101 に内蔵されたジャイロからは、カメラ本体の
動きに応じて、動きの速度と方向に対応するデータを出
力する。In this embodiment, a gyro built in the video camera system 101 outputs data corresponding to the speed and direction of the movement according to the movement of the camera body.
【0019】ビデオ・カメラシステム101 から出力され
たデータは、演算装置102 に入力されて演算され、ビデ
オ・カメラシステム101 の動きの速度と方向に対応する
グローバル・動きベクトル(GMV)を算出して、符号化モ
ード判定ブロック103 ヘ出力する。The data output from the video camera system 101 is input to an arithmetic unit 102 and operated to calculate a global motion vector (GMV) corresponding to the speed and direction of the motion of the video camera system 101. , To the encoding mode determination block 103.
【0020】一方、ビデオ・カメラシステム101 により
撮影されて出力されるディジタル動画像データは、入力
バッファ105 に一旦記憶され、適宜読み出されて検出ブ
ロック106 の動きベクトル検出回路に入力され、従来と
同様にフレーム(フィールド)間の相関性評価により、
前方、後方ベクトルを検出し、103 の符号化モード判定
ブロックヘ出力する。On the other hand, digital moving image data photographed and output by the video camera system 101 is temporarily stored in an input buffer 105, read out as appropriate, input to a motion vector detecting circuit of a detecting block 106, Similarly, by evaluating the correlation between frames (fields),
The forward and backward vectors are detected and output to the coding mode determination block 103.
【0021】符号化モード判定ブロック103 は、演算装
置102 から出力される動きベクトルと検出ブロック106
から出力される動きベクトルとを吟味し、適当な符号化
モードを判定して、その命令を符号化ブロック104 ヘ出
力する。The coding mode determination block 103 includes a motion vector output from the arithmetic unit 102 and a detection block 106.
In consideration of the motion vector output from the CPU, an appropriate encoding mode is determined, and the instruction is output to the encoding block 104.
【0022】ここで、動きベクトル検出ブロック106 の
符号化モード判定ブロックは、判定プログラムを変更す
ることにより、動きベクトル精度(マッチング誤差で閾
値を設ける)優先モード、符号量優先モード、画質優先
モード等のモードを任意に選択することが可能である。Here, the coding mode determination block of the motion vector detection block 106 changes the determination program to provide a motion vector accuracy (a threshold is set by a matching error) priority mode, a code amount priority mode, an image quality priority mode, and the like. Mode can be arbitrarily selected.
【0023】ここで、ビデオ・カメラシステム101 のカ
メラに内蔵されている動き検出手段の一例を、図5に示
す。図5において、501 は、外部からの応力の大きさと
方向を電気信号に変換するジャイロ、502 は上記ジャイ
ロ 501から出力される応力の大きさと方向に相当する電
気信号をディジタルデータに変換するためのアナログ/
ディジタル変換器である。FIG. 5 shows an example of the motion detecting means built in the camera of the video camera system 101. In FIG. 5, reference numeral 501 denotes a gyro for converting the magnitude and direction of an external stress into an electric signal, and 502 denotes a gyro for converting an electric signal corresponding to the magnitude and direction of the stress output from the gyro 501 into digital data. analog/
It is a digital converter.
【0024】503 はアナログ/ディジタル変換器502 で
ディジタル・データに変換された動きの要素である応力
の大きさと方向から符号化フォーマットにおける動きベ
クトルと同一ディメンションの動きベクトル(GMV: グロ
ーバル・動きベクトル)を演算するディジタル信号演算
装置(DSP) である。Reference numeral 503 denotes a motion vector (GMV: global motion vector) having the same dimension as the motion vector in the encoding format from the magnitude and direction of the stress, which is the motion element converted into digital data by the analog / digital converter 502. Digital signal processor (DSP).
【0025】図5に示したシステムによって、本体の動
きの速度と方向、すなわち、カメラの動き(パンニング
等のカメラ本体を動かしたことによる撮影画像の変化)
を検出して、撮影された前方フレーム(フィールド)と
現フレーム(フィールド)との間、または現フレーム
(フィールド)と後方フレーム(フィールド)との間の
動きベクトルを推定の補助データとするものである。With the system shown in FIG. 5, the speed and direction of the movement of the main body, that is, the movement of the camera (change of the photographed image due to the movement of the camera main body such as panning).
Is detected, and a motion vector between the captured front frame (field) and the current frame (field) or between the current frame (field) and the rear frame (field) is used as auxiliary data for estimation. is there.
【0026】(第2の実施の形態)図2に、本発明の第
2の実施の形態を示す。図2において、201 はローテー
タを装備したビデオ・カメラシステム、202 はビデオ・
カメラシステム201 が装備するローテータから出力され
る回転角、回転速度情報から動きベクトル(GMV)を算出
する演算装置である。(Second Embodiment) FIG. 2 shows a second embodiment of the present invention. In FIG. 2, 201 is a video camera system equipped with a rotator, and 202 is a video camera system.
This is an arithmetic unit that calculates a motion vector (GMV) from rotation angle and rotation speed information output from a rotator provided in the camera system 201.
【0027】205 はビデオ・カメラシステム201 で撮影
されたディジタル画像データのバッファメモリ、206 は
フレーム(フィールド)間の動きベクトルを検出する動
き検出ブロック、203 は上記演算装置202 のグローバル
動きベクトルGMV と上記動き検出ブロック206 の動きベ
クトルからイントラ、インター(前方予測:P、双方向予
測:B)等の符号化モードを選択する符号化モード判定ブ
ロックである。Reference numeral 205 denotes a buffer memory for digital image data captured by the video camera system 201, 206 denotes a motion detection block for detecting a motion vector between frames (fields), and 203 denotes a global motion vector GMV and a global motion vector GMV of the arithmetic unit 202. A coding mode determination block for selecting a coding mode such as intra or inter (forward prediction: P, bidirectional prediction: B) from the motion vector of the motion detection block 206.
【0028】204 は、MPEGやH.263 等の動画像フレーム
(フィールド)間符号化を使用する符号化フォーマット
に準拠した符号化器である。Reference numeral 204 denotes an encoder conforming to an encoding format using inter-video frame (field) encoding such as MPEG or H.263.
【0029】本実施の形態において、ビデオ・カメラシ
ステム201 に装備されたローテータは、所望の被写体を
撮影するために、カメラ本体を360 度任意の角度、任意
の回転速度で回転させることが可能で、回転角度と回転
速度(角速度)に対応するデータを出力する。In the present embodiment, the rotator provided in the video camera system 201 can rotate the camera body at an arbitrary angle of 360 degrees and an arbitrary rotation speed in order to photograph a desired subject. And outputs data corresponding to the rotation angle and the rotation speed (angular speed).
【0030】ビデオ・カメラシステム201 から出力され
たデータは、演算装置202 に入力されて演算され、カメ
ラ本体の回転速度と方向に対応するグローバル・動きベ
クトル(GMV)が算出される。そして、上記算出された値
が、符号化モード判定ブロック203 ヘ出力される。The data output from the video / camera system 201 is input to an arithmetic unit 202 and calculated, and a global motion vector (GMV) corresponding to the rotation speed and direction of the camera body is calculated. Then, the calculated value is output to the encoding mode determination block 203.
【0031】一方、ビデオ・カメラシステム201 から出
力される撮影されたディジタル画像データは、入力バッ
ファ205 に一旦記憶され、適宜読み出されて動きベクト
ル検出回路206 に入力され、従来と同様に、フレーム
(フィールド)間の相関性評価により、前方、後方ベク
トルを検出し、符号化モード判定ブロック203 ヘ出力さ
れる。On the other hand, photographed digital image data output from the video / camera system 201 is temporarily stored in an input buffer 205, read out as appropriate, and input to a motion vector detection circuit 206. The forward and backward vectors are detected by the correlation evaluation between (fields) and output to the coding mode determination block 203.
【0032】符号化モード判定ブロック203 は、演算装
置202 から出力されるグローバル動きベクトルGMV と、
動きベクトル検出回路206 から出力される動きベクトル
とを吟味し、適当な符号化モードを判定して、その命令
を符号化ブロック204 ヘ出力する。The coding mode determination block 203 includes a global motion vector GMV output from the arithmetic unit 202,
The motion vector output from the motion vector detection circuit 206 is examined, an appropriate encoding mode is determined, and the instruction is output to the encoding block 204.
【0033】上記符号化モード判定ブロック203 は、第
1の実施の形態と同様に判定プログラムを変更すること
により、動きベクトル精度(マッチング誤差で閾値を設
ける)優先モード、符号量優先モード、画質優先モード
等の中から任意なモードを選択することが可能である。The coding mode determination block 203 changes the determination program in the same manner as in the first embodiment, so that the motion vector accuracy (a threshold is set based on the matching error) priority mode, the code amount priority mode, the image quality priority mode It is possible to select an arbitrary mode from the modes and the like.
【0034】ここで、ビデオ・カメラシステム 201に装
備されているローテータの回転角、及び回転速度を検出
するシステムの一例を図6、7に示す。Here, FIGS. 6 and 7 show an example of a system for detecting the rotation angle and rotation speed of the rotator provided in the video camera system 201. FIG.
【0035】図7において、701 はビデオカメラ、702
は上記ビデオカメラ701 から出力されるディジタル動画
像データ用バッファメモリ、703 はディジタル動画像デ
ータの符号化処理ブロック、704 はフレーム(フィール
ド)間比較による動きベクトル検出ブロックである。In FIG. 7, reference numeral 701 denotes a video camera;
Reference numeral denotes a buffer memory for digital video data output from the video camera 701, reference numeral 703 denotes an encoding processing block for digital video data, and reference numeral 704 denotes a motion vector detection block based on comparison between frames (fields).
【0036】また、H.263 ではMPEGのようにフレームを
単位とする符号化モードは、任意に決定できるようにな
っているが、インター符号化における動きベクトルに関
しては、上記MPEGの場合と同様であった。Further, in H.263, the encoding mode in units of frames, such as MPEG, can be arbitrarily determined. However, the motion vector in the inter encoding is the same as in the case of MPEG. there were.
【0037】ところで、図3に示すように、インター符
号化は、入力された時間的に独立した位置に存在するフ
レーム(フィールド)内の画素間の比較により求めた動
きベクトルに基づいて画像データの冗長度を削減するも
のであり、特に、符号化対象となっているフレーム(フ
ィールド)を構成するマクロ・ブロックという単位で上
記符号化・モードが選択されるのが通例である。By the way, as shown in FIG. 3, in the inter coding, the image data is decoded based on a motion vector obtained by comparing pixels in a frame (field) existing at an independent time position. In order to reduce the redundancy, in particular, the above-described coding / mode is usually selected in units of macro blocks constituting a frame (field) to be coded.
【0038】また、図6において、601 は、図2の201
のローテータを装備したカメラシステムで、603 、604
は、カメラシステム601 のローテータとカメラを接続す
る支柱602 を拡大した図における磁気パターン、605 は
磁束の変化を電気信号に変換する磁気ヘッドである。In FIG. 6, reference numeral 601 denotes 201 in FIG.
603, 604 camera system with rotator
Is a magnetic pattern in an enlarged view of a support 602 connecting the rotator of the camera system 601 and the camera, and 605 is a magnetic head for converting a change in magnetic flux into an electric signal.
【0039】この円筒形の支柱の表面には、603 、604
で示すような一定周期の磁気パターン(黒帯: 帯磁、白
帯: 非帯磁)が刻まれており、支柱が回転すると、図7
に示すように磁気ヘッド605 が、支柱602 の回転により
変化する磁束を検出し、これを電気(パルス)信号に変
換して出力する。On the surface of the cylindrical support, 603, 604
The magnetic pattern (black band: magnetized, white band: non-magnetized) with a fixed period is engraved as shown by.
As shown in (1), the magnetic head 605 detects a magnetic flux that changes due to the rotation of the column 602, converts this into an electric (pulse) signal, and outputs it.
【0040】この磁気ヘッド605 から出力される上記パ
ルス信号の周波数をローテータの回転速度に、上記パル
ス信号のパルスの数が回転角に対応させ、図2に示した
演算装置202 にてこれらを処理し、第1の実施の形態と
同様にグローバル・動きベクトル(GMV)を求めるもので
ある。The frequency of the pulse signal output from the magnetic head 605 is made to correspond to the rotation speed of the rotator, and the number of pulses of the pulse signal is made to correspond to the rotation angle, and these are processed by the arithmetic unit 202 shown in FIG. Then, a global motion vector (GMV) is obtained as in the first embodiment.
【0041】上述のようにして算出されたグローバル動
きベクトルGMV は、ビデオ・カメラシステム201 で撮影
された画像の符号化において、前方フレーム(フィール
ド)と現フレーム(フィールド)間、または現フレーム
(フィールド)と後方フレーム(フィールド)間の動き
ベクトルを推定するための補助データとして使用され
る。The global motion vector GMV calculated as described above is used to encode an image captured by the video camera system 201 between a forward frame (field) and a current frame (field) or a current frame (field). ) And a subsequent frame (field) are used as auxiliary data for estimating a motion vector.
【0042】(第3の実施の形態)次に、本発明による
第3の実施の形態を図4、8を参照しながら説明する。
図4において、図1と同様な構成については同一の符号
を付して詳細な説明を省略する。(Third Embodiment) Next, a third embodiment of the present invention will be described with reference to FIGS.
In FIG. 4, the same components as those in FIG. 1 are denoted by the same reference numerals, and detailed description is omitted.
【0043】図4において、 407は出力バッファ、408
は出力バッファ407 のアンダーフロー/オーバーフロー
を防止し、常時適正な符号量の符号化を行うための符号
量制御ブロックである。In FIG. 4, reference numeral 407 denotes an output buffer;
Is a code amount control block for preventing underflow / overflow of the output buffer 407 and always encoding an appropriate code amount.
【0044】図8は、符号化処理ブロック104 の内部構
成の一例であり、ここではMPEG等の一般的なフレーム
(フィールド)間符号化方式の符号化処理ブロックを示
している。FIG. 8 shows an example of the internal configuration of the encoding processing block 104. Here, an encoding processing block of a general inter-frame (field) encoding method such as MPEG is shown.
【0045】図8において、801 は符号化モードのセレ
クタ、802 はフレーム(フィールド)間符号化における
動きベクトル検出と差分(減算)処理を行う処理回路、
803は上記セレクタ801 で分割されたブロック単位でDCT
等の座標変換処理を行う座標変換回路である。In FIG. 8, reference numeral 801 denotes an encoding mode selector; 802, a processing circuit for performing motion vector detection and difference (subtraction) processing in inter-frame (field) encoding;
803 is a DCT for each block divided by the selector 801.
Is a coordinate conversion circuit that performs coordinate conversion processing such as.
【0046】804 は座標変換回路803 で座標変換された
ブロック単位の係数を量子化する量子化回路、805 は量
子化されたブロック単位の係数に任意の順序で、可変長
符号を割り当てるエントロピー符号化回路である。Reference numeral 804 denotes a quantization circuit that quantizes the block-based coefficients converted by the coordinate conversion circuit 803. Reference numeral 805 denotes entropy coding that assigns variable-length codes to the quantized block-based coefficients in an arbitrary order. Circuit.
【0047】806 は外部から入力される符号量制御情報
に基づいて、セレクタ801 と量子化回路804 のパラメー
タを選択するパラメータ選択回路、807 〜809 はロ一カ
ル・デコーダでである。Reference numeral 806 denotes a parameter selection circuit for selecting the parameters of the selector 801 and the quantization circuit 804 based on the code amount control information input from the outside. Reference numerals 807 to 809 denote local decoders.
【0048】809 は逆座標変換回路(IDCT)、808 は逆量
子化回路、807 はローカル・デコードしたディジタル画
像データを蓄積するメモリ回路である。Reference numeral 809 denotes an inverse coordinate transformation circuit (IDCT), 808 denotes an inverse quantization circuit, and 807 denotes a memory circuit for storing locally decoded digital image data.
【0049】図4において、符号量制御ブロック408
は、出力バッファ407 がオーバーフロー/アンダーフロ
ーを起こさず、かつ適正な利用効率となるように、カメ
ラ本体の動きに対応する上記第1の実施の形態で述べた
グローバル動きベクトルGMV と407 のメモリの瞬時値情
報から、適正な符号量を算出して、符号量制御パラメー
タを404 の符号化処理ブロックヘ出力する。In FIG. 4, the code amount control block 408
In order to prevent the output buffer 407 from overflowing / underflowing and to achieve proper utilization efficiency, the memory of the global motion vectors GMV and 407 described in the first embodiment corresponding to the movement of the camera body is used. An appropriate code amount is calculated from the instantaneous value information, and the code amount control parameter is output to the 404 encoding processing block.
【0050】図8に示したように、符号化処理回路の内
部では、上記符号量制御パラメータがパラメータ選択回
路806 に入力され、このパラメータに基づいてパラメー
タ選択回路806 では、量子化係数と符号化モード(I,P,B
etc.)、および動きベクトル探索範囲等が選択、指定さ
れ、それぞれセレクタ801 、量子化回路804 、動きベク
トル検出/差分回路802 に指示を与えるように構成され
ている。As shown in FIG. 8, inside the encoding processing circuit, the above-mentioned code amount control parameter is input to a parameter selection circuit 806. Mode (I, P, B
etc.), a motion vector search range, and the like are selected and designated, and instructions are given to the selector 801, the quantization circuit 804, and the motion vector detection / difference circuit 802, respectively.
【0051】(本発明の他の実施形態)本発明は複数の
機器(例えば、ホストコンピュータ、インタフェース機
器、リーダ、プリンタ等)から構成されるシステムに適
用しても1つの機器からなる装置に適用しても良い。(Other Embodiments of the Present Invention) The present invention is applied to a system composed of a plurality of devices (for example, a host computer, an interface device, a reader, a printer, etc.), but is also applicable to a device composed of one device. You may.
【0052】また、上述した実施形態の機能を実現する
ように各種のデバイスを動作させるように、上記各種デ
バイスと接続された装置あるいはシステム内のコンピュ
ータに対し、上記実施形態の機能を実現するためのソフ
トウェアのプログラムコードを供給し、そのシステムあ
るいは装置のコンピュータ(CPUあるいはMPU)に
格納されたプログラムに従って上記各種デバイスを動作
させることによって実施したものも、本発明の範疇に含
まれる。Further, in order to realize the functions of the above-described embodiment, a device connected to the above-mentioned various devices or a computer in a system is operated so as to operate various devices so as to realize the functions of the above-described embodiments. The present invention also includes programs implemented by supplying the program code of the software described above and operating the various devices according to programs stored in a computer (CPU or MPU) of the system or apparatus.
【0053】また、この場合、上記ソフトウェアのプロ
グラムコード自体が上述した実施形態の機能を実現する
ことになり、そのプログラムコード自体、およびそのプ
ログラムコードをコンピュータに供給するための手段、
例えばかかるプログラムコードを格納した記憶媒体は本
発明を構成する。かかるプログラムコードを記憶する記
憶媒体としては、例えばフロッピーディスク、ハードデ
ィスク、光ディスク、光磁気ディスク、CD−ROM、
磁気テープ、不揮発性のメモリカード、ROM等を用い
ることができる。In this case, the program code of the software implements the functions of the above-described embodiment, and the program code itself and means for supplying the program code to the computer,
For example, a storage medium storing such a program code constitutes the present invention. As a storage medium for storing such a program code, for example, a floppy disk, hard disk, optical disk, magneto-optical disk, CD-ROM,
A magnetic tape, a nonvolatile memory card, a ROM, or the like can be used.
【0054】また、コンピュータが供給されたプログラ
ムコードを実行することにより、上述の実施形態の機能
が実現されるだけでなく、そのプログラムコードがコン
ピュータにおいて稼働しているOS(オペレーティング
システム)あるいは他のアプリケーションソフト等の共
同して上述の実施形態の機能が実現される場合にもかか
るプログラムコードは本発明の実施形態に含まれること
は言うまでもない。When the computer executes the supplied program code, not only the functions of the above-described embodiment are realized, but also the OS (operating system) or other operating system running on the computer. Needless to say, even when the functions of the above-described embodiments are realized in cooperation with application software or the like, such program codes are included in the embodiments of the present invention.
【0055】さらに、供給されたプログラムコードがコ
ンピュータの機能拡張ボードやコンピュータに接続され
た機能拡張ユニットに備わるメモリに格納された後、そ
のプログラムコードの指示に基づいてその機能拡張ボー
ドや機能拡張ユニットに備わるCPU等が実際の処理の
一部または全部を行い、その処理によって上述した実施
形態の機能が実現される場合にも本発明に含まれること
は言うまでもない。Further, after the supplied program code is stored in the memory provided in the function expansion board of the computer or the function expansion unit connected to the computer, the function expansion board or the function expansion unit is specified based on the instruction of the program code. It is needless to say that the present invention also includes a case where the CPU or the like provided in the first embodiment performs part or all of the actual processing, and the processing realizes the functions of the above-described embodiments.
【0056】[0056]
【発明の効果】本発明は上述したように、本発明によれ
ば、動きベクトルの推定を行うことが可能なので、動き
ベクトルの探索範囲が、フォーマットで許容された範囲
内に収まっているか否かを推定し、上記推定の結果、動
きベクトルが上記範囲内に収まっている場合には、探索
範囲を簡単に限定することが可能となる。また、上記動
きベクトルが上記探索範囲を越えている場合は、動きベ
クトル探索処理をバイパスして、符号化モードをイント
ラに変更することも可能なので、動きベクトルの探索時
間を大幅に短縮することができる。これらにより、符号
化に要する時間をトータルで短縮して、符号化処理を高
速化することができる。As described above, according to the present invention, since a motion vector can be estimated according to the present invention, whether or not the search range of the motion vector is within the range permitted by the format is determined. Is estimated, and as a result of the above estimation, when the motion vector falls within the above range, the search range can be easily limited. When the motion vector exceeds the search range, the motion vector search process can be bypassed and the encoding mode can be changed to intra, so that the search time for the motion vector can be significantly reduced. it can. As a result, the time required for encoding can be reduced in total, and the encoding process can be speeded up.
【0057】また、本発明の他の特徴によれば、カメラ
自体の移動に伴って画面全体が動くシーンチェンジに準
ずるような画像の場合に、フレーム(フィールド)間の
相関性(冗長度)が低くなる不都合を無くして、画像の
動き量を高速に推定することができ、符号量制御(符号
化モードの選択)という観点から見ても符号化処理時間
(符号化モード判定時間)を短縮することができる。According to another feature of the present invention, when an image is similar to a scene change in which the entire screen moves with the movement of the camera itself, the correlation (redundancy) between frames (fields) is reduced. It is possible to quickly estimate the amount of motion of an image without the disadvantage that the image quality is reduced, and to shorten the encoding processing time (encoding mode determination time) from the viewpoint of code amount control (selection of an encoding mode). be able to.
【図1】本発明による第1の実施の形態を示すブロック
図である。FIG. 1 is a block diagram showing a first embodiment according to the present invention.
【図2】本発明による第2の実施の形態を示すブロック
図である。FIG. 2 is a block diagram showing a second embodiment according to the present invention.
【図3】フレーム(フィールド)間の動きベクトル探索
を示す概念図である。FIG. 3 is a conceptual diagram showing a motion vector search between frames (fields).
【図4】本発明による第3の実施の形態を示すブロック
図である。FIG. 4 is a block diagram showing a third embodiment according to the present invention.
【図5】第2の実施の形態における動き検出手段と信号
処理回路の一例を示す図である。FIG. 5 is a diagram illustrating an example of a motion detection unit and a signal processing circuit according to a second embodiment.
【図6】第2の実施の形態における動き検出手段と信号
処理回路の一例を示す図である。FIG. 6 is a diagram illustrating an example of a motion detection unit and a signal processing circuit according to the second embodiment.
【図7】本発明による第3の実施の形態を示すブロック
図である。FIG. 7 is a block diagram showing a third embodiment according to the present invention.
【図8】本発明における符号化処理ブロックの一例を示
す図である。FIG. 8 is a diagram illustrating an example of an encoding processing block according to the present invention.
101 ビデオ・カメラシステム 102 演算装置 103 符号化モード判定ブロック 104 符号化器 105 バッファメモリ 106 ベクトルを検出ブロック 101 Video camera system 102 Arithmetic unit 103 Coding mode judgment block 104 Encoder 105 Buffer memory 106 Vector detection block
Claims (13)
動きの速度と方向、及び動き量を算出する演算手段と、 上記演算手段により算出した上記撮像手段の動きの速度
と方向、及び動き量に基いて動きベクトルを探索する範
囲を任意に設定する動きベクトル探索範囲設定手段と、 上記撮像手段の動きの速度と方向、及び動き量に応じ
て、フレームまたはフィールド内のマクロ・ブロックの
符号化モードを決定する符号化モード決定手段とを具備
することを特徴とする画像符号化制御装置。1. An image pickup means for picking up an image of a subject, a movement detection means for detecting a movement of the image pickup means, an output from the movement detection means being calculated, and a speed and a direction of the movement of the image pickup means and a movement amount. A motion vector search range setting means for arbitrarily setting a range in which a motion vector is searched based on the speed and direction of motion of the imaging means calculated by the calculation means and the amount of motion; An image coding control device comprising: a coding mode determining means for determining a coding mode of a macro block in a frame or a field in accordance with the speed and direction of movement of the means and the amount of movement.
トルとして検出する撮像状態検出手段と、 上記撮像手段から出力される画像信号によって構成され
る複数の画面のうち、前方画面と現画面との間、または
現画面と後方画面との間の動きベクトルを検出する動き
ベクトル検出手段とを具備し、 上記動きベクトル検出手段により検出する動きベクトル
を、上記撮像状態検出手段によって検出された上記撮像
手段の動きに応じて補償することを特徴とする画像符号
化制御装置。2. An image pickup means for picking up an image of a subject, an image pickup state detecting means for detecting a speed and a direction of movement of the image pickup means as a global motion vector, and a plurality of image signals constituted by image signals outputted from the image pickup means. Among the screens, comprising a motion vector detecting means for detecting a motion vector between the front screen and the current screen, or between the current screen and the rear screen, wherein the motion vector detected by the motion vector detecting means is An image encoding control device, wherein compensation is performed in accordance with the movement of the imaging means detected by the imaging state detection means.
て、上記画像データが存在するフレームまたはフィール
ド内の情報を用いて符号化を行うフレーム内符号化と、
時問的に過去、未来、または過去及び未来の両方のフレ
ームまたはフィールドを参照して動きベクトルを求め、
上記動きベクトルにより指示される画像データを参照し
て符号化するフレーム間符号化とを行うことが可能な画
像符号化制御装置において、 物体の動きの速さ、動きの量及び方向を検出する動き検
出手段と、 上記動き検出手段の検出出力に基づいて、上記物体の動
きの速さ及び動きの量を演算する動き演算手段と、 上記動き演算手段の演算結果と、予め設定した所定の閾
値とを比較する比較手段と、 上記比較手段の比較結果に応じて、符号化方式及び各画
面間での前方または後方の動きベクトル探索範囲を設定
する設定手段とを具備することを特徴とする画像符号化
制御装置。3. Intra-frame encoding for encoding image data to be encoded using information in a frame or a field in which the image data exists,
Find a motion vector by referring to the past, future, or both past and future frames or fields temporally,
An image coding control device capable of performing inter-frame coding that performs coding with reference to the image data indicated by the motion vector, wherein the motion detecting the speed, the amount, and the direction of the motion of the object Detecting means, a motion calculating means for calculating the speed and the amount of movement of the object based on the detection output of the motion detecting means, a calculation result of the motion calculating means, a predetermined threshold value set in advance, And a setting means for setting a coding method and a forward or backward motion vector search range between screens according to a comparison result of the comparing means. Control device.
て、上記画像データが存在するフレームまたはフィール
ド内の情報を用いて符号化を行うフレーム内符号化と、
時間的に過去、未来、または過去及び未来の両方のフレ
ームまたはフィールドを参照して動きベクトルを求め、
上記動きベクトルにより指示される画像データを参照し
て符号化するフレーム間符号化とを行うことが可能であ
り、上記フレーム内符号化またはフレーム間符号化の何
方か一方をパラメータにより制御し、各フレーム/フィ
ールドの符号化方法を選択可能な撮像手段と、 上記撮像手段を任意の姿勢で支持する支持手段と、 上記支持手段が上記撮像手段を支持する姿勢を制御する
姿勢制御手段とを備えたことを特徴とする画像符号化制
御装置。4. Intra-frame encoding for encoding image data to be encoded using information in a frame or a field in which the image data exists,
Find a motion vector by referring to a frame or field in the past, the future, or both the past and the future in time,
It is possible to perform inter-frame encoding for encoding with reference to the image data indicated by the motion vector, and control either one of the intra-frame encoding or the inter-frame encoding by using a parameter. Image pickup means capable of selecting a frame / field encoding method; support means for supporting the image pickup means in an arbitrary posture; and posture control means for controlling the posture in which the support means supports the image pickup means. An image coding control device characterized by the above-mentioned.
小ブロックに分割して、上記小ブロックの k個(k>O)を
一単位(マクロブロック)として符号化する画像符号化
制御装置において、 被写体を撮像する撮像手段と、 上記撮像手段の動きを検出する動き検出手段と、 上記動き検出手段の出力から求めた動き量と、符号化対
象フレームまたはフィールドに対して、時間的に過去、
未来のフレームまたはフィールド間で求めた動きベクト
ルとを比較する比較手段と、 上記比較手段の比較結果と、予め設定した所定の閾値と
を比較し、その比較結果に基づいて上記マクロブロック
が動画像領域に属するのか、静止画領域に属するのかを
判定する判定手段とを具備することを特徴とする画像符
号化制御装置。5. An image coding system which divides one screen into a plurality of small blocks composed of n × m pixels and codes k (k> O) of the small blocks as one unit (macro block). In the control device, imaging means for imaging the subject, motion detection means for detecting the motion of the imaging means, a motion amount obtained from an output of the motion detection means, and a temporal In the past,
Comparing means for comparing a motion vector obtained between future frames or fields; comparing the comparison result of the comparing means with a predetermined threshold value set in advance; An image encoding control device comprising: a determination unit configured to determine whether the pixel belongs to an area or a still image area.
て、参照された時問的に過去または未来のフレームまた
はフィールド画像との差分に直交変換を含む座標変換を
施す座標変換手段と、 上記座標変換手段により座標変換された後の係数を、任
意の方法で選択した量子化係数で量子化する量子化手段
と、 上記量子化手段によって量子化された画像データを所定
の圧縮方式で圧縮する画像データ圧縮手段と、 上記撮像手段の動きを検出する動き検出手段と、 上記動き検出手段の出力を演算する演算手段と、 上記演算手段により求められた動き量と、フレームまた
はフィールド間の画像データの比較により求めた動きベ
クトルとを比較する比較手段と、 上記比較手段の比較結果を複数のランクに分類する分類
手段と、 上記分類手段によって分類された各ランクに基づいて上
記量子化係数を選択する選択手段とを具備することを特
徴とする画像符号化制御装置。6. A coordinate conversion means for performing a coordinate conversion including an orthogonal transformation on a difference from a past or future frame or field image which is referred to at the time based on image data or a motion vector, and said coordinate conversion means A quantizing means for quantizing the coefficient after the coordinate transformation by a quantization coefficient selected by an arbitrary method, and image data compression for compressing the image data quantized by the quantizing means by a predetermined compression method. Means, a motion detecting means for detecting the motion of the imaging means, a calculating means for calculating an output of the motion detecting means, and a motion amount obtained by the calculating means and a comparison of image data between frames or fields. Comparing means for comparing the obtained motion vector with the obtained motion vector; classifying means for classifying the comparison result of the comparing means into a plurality of ranks; Picture coding control apparatus characterized by comprising a selection means for selecting the quantization factor based on each rank that is like.
程と、 上記撮像手段の動きを動き検出手段により検出する動き
検出工程と、 上記動き検出手段からの出力を演算して上記撮像手段の
動きの速度と方向、及び動き量を算出する演算工程と、 上記演算工程により算出した上記撮像手段の動きの速度
と方向、及び動き量に基いて動きベクトルを探索する範
囲を任意に設定する動きベクトル探索範囲設定工程と、 上記撮像手段の動きの速度と方向、及び動き量に応じ
て、フレームまたはフィールド内のマクロ・ブロックの
符号化モードを決定する符号化モード決定工程とを行う
ことを特徴とする画像符号化制御方法。7. An image capturing step of capturing an image of a subject by an image capturing means, a motion detecting step of detecting a motion of the image capturing means by a motion detecting means, and calculating an output from the motion detecting means to calculate a motion of the image capturing means. A calculation step of calculating a speed, a direction, and a movement amount; and a motion vector search for arbitrarily setting a range in which a motion vector is searched based on the movement speed, the direction, and the movement amount of the imaging unit calculated in the calculation step. Performing a range setting step and a coding mode determining step of determining a coding mode of a macro block in a frame or a field according to the speed and direction of movement of the imaging unit and the amount of movement. Image coding control method.
程と、 上記撮像手段の動きの速度と方向を検出する撮像状態検
出工程と、 上記撮像工程によって撮影された複数の画面のうち、前
方画面と現画面との間、または現画面と後方画面との間
の動きベクトルを検出する動きベクトル検出工程とを行
い、 上記動きベクトル検出工程で検出する動きベクトルを、
上記撮像状態検出工程における検出結果に応じて補償す
ることを特徴とする画像符号化制御方法。8. An image capturing step of capturing an image of a subject by an image capturing means, an image capturing state detecting step of detecting a speed and a direction of movement of the image capturing means, and a front screen among a plurality of screens captured by the image capturing step. Performing a motion vector detection step of detecting a motion vector between the current screen, or between the current screen and the rear screen, a motion vector detected in the motion vector detection step,
An image encoding control method, wherein compensation is performed according to a detection result in the imaging state detecting step.
て、上記画像データが存在するフレームまたはフィール
ド内の情報を用いて符号化を行うフレーム内符号化と、
時問的に過去、未来、または過去及び未来の両方のフレ
ームまたはフィールドを参照して動きベクトルを求め、
上記動きベクトルにより指示される画像データを参照し
て符号化するフレーム間符号化とを行う画像符号化制御
方法において、 物体の動きの速さ、動きの量及び方向を検出する動き検
出工程と、 上記動き検出工程の検出出力に基づいて、上記物体の動
きの速さ及び動きの量を演算する動き演算工程と、 上記動き演算工程の演算結果と、予め設定した所定の閾
値とを比較する比較工程と、 上記比較工程の比較結果に応じて、符号化方式及び各画
面間での前方または後方の動きベクトル探索範囲を設定
する動きベクトル探索範囲設定工程とを行うことを特徴
とする画像符号化制御方法。9. Intra-frame encoding for encoding image data to be encoded using information in a frame or a field in which the image data exists,
Find a motion vector by referring to the past, future, or both past and future frames or fields temporally,
An image encoding control method for performing inter-frame encoding with reference to image data indicated by the motion vector, comprising: a motion detecting step of detecting a speed, an amount and a direction of motion of an object; A motion calculating step of calculating the speed and the amount of movement of the object based on the detection output of the motion detecting step; and comparing the calculation result of the motion calculating step with a predetermined threshold value set in advance. And a motion vector search range setting step of setting a coding method and a forward or backward motion vector search range between screens according to the comparison result of the comparison step. Control method.
の小ブロックに分割して、上記小ブロックの k個(k>O)
を一単位(マクロブロック)として符号化する画像符号
化制御方法において、 撮像手段により被写体を撮像する撮像工程と、 上記撮像手段の動きを検出する動き検出手段と、 上記動き検出工程で求めた上記撮像手段の動き量と、符
号化対象フレームまたはフィールドに対して、時間的に
過去、未来のフレームまたはフィールド間で求めた動き
ベクトルとを比較する比較工程と、 上記比較工程における比較結果と、予め設定した所定の
閾値とを比較した結果に基づいて、上記マクロブロック
が動画像領域に属するのか、静止画領域に属するのかを
判定する判定工程とを行うことを特徴とする画像符号化
制御方法。10. A screen is divided into a plurality of small blocks each including n × m pixels, and k small blocks (k> O) of the small blocks are divided.
An image encoding control method for encoding the object as one unit (macroblock), an image capturing step of capturing an object by an image capturing unit, a motion detecting unit detecting a motion of the image capturing unit, A comparison step of comparing the motion amount of the imaging unit and a motion vector obtained between a temporally past frame and a future frame or field with respect to the encoding target frame or field; and a comparison result in the comparison step, A determination step of determining whether the macroblock belongs to a moving image area or a still image area based on a result of comparison with a set predetermined threshold value.
工程と、 画像データまたは動きベクトルに基づいて、参照された
時問的に過去または未来のフレームまたはフィールド画
像との差分に直交変換を含む座標変換を施す座標変換工
程と、 上記座標変換工程により座標変換された後の係数を、任
意の方法で選択した量子化係数で量子化する量子化工程
と、 上記量子化工程によって量子化された画像データを圧縮
する画像データ圧縮工程と、 上記撮像手段の動きを検出する動き検出工程と、 上記動き検出工程の動き検出出力を演算する演算工程
と、 上記演算工程において求められた動き量と、フレームま
たはフィールド間の画像データの比較により求めた動き
ベクトルとを比較する比較工程と、 上記比較工程の比較結果を複数のランクに分類する分類
工程と、 上記分類工程によって分類された各ランクに基づいて上
記量子化係数を選択する選択工程とを行うことを特徴と
する画像符号化制御方法。11. An image pickup step of picking up an object by an image pickup means, and a coordinate transformation including an orthogonal transformation to a difference between a referred temporally past or future frame or field image based on image data or a motion vector. A quantization step of quantizing the coefficient after the coordinate transformation by the coordinate transformation step with a quantization coefficient selected by an arbitrary method, and image data quantized by the quantization step. An image data compression step of compressing the image data; a motion detection step of detecting the motion of the imaging unit; a calculation step of calculating a motion detection output of the motion detection step; a motion amount obtained in the calculation step; A comparison step of comparing a motion vector obtained by comparing image data between fields, and dividing a comparison result of the comparison step into a plurality of ranks. Classification process and an image coding control method characterized by performing a selection step of selecting the quantization coefficient based on each rank is classified by the classification step of.
手段としてコンピュータを機能させるためのプログラム
を格納したことを特徴とする記憶媒体。12. A storage medium storing a program for causing a computer to function as each means according to claim 1. Description:
画像符号化制御方法の手順をコンピュータに実行させる
ためのプログラムを格納したことを特徴とする記憶媒
体。13. A storage medium storing a program for causing a computer to execute the procedure of the image encoding control method according to claim 7. Description:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP25415898A JP2000092499A (en) | 1998-09-08 | 1998-09-08 | Image encoding control device, image encoding control method, and storage medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP25415898A JP2000092499A (en) | 1998-09-08 | 1998-09-08 | Image encoding control device, image encoding control method, and storage medium |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2000092499A true JP2000092499A (en) | 2000-03-31 |
Family
ID=17261044
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP25415898A Pending JP2000092499A (en) | 1998-09-08 | 1998-09-08 | Image encoding control device, image encoding control method, and storage medium |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2000092499A (en) |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006054788A (en) * | 2004-08-16 | 2006-02-23 | Matsushita Electric Ind Co Ltd | Image sensor and camera system |
| WO2009130971A1 (en) * | 2008-04-21 | 2009-10-29 | シャープ株式会社 | Dynamic image encoding device and dynamic image decoding device |
| WO2009150793A1 (en) * | 2008-06-09 | 2009-12-17 | パナソニック株式会社 | Imaging device and imaging method |
| KR20100122688A (en) * | 2009-05-13 | 2010-11-23 | 삼성전자주식회사 | Apparatus and method for character recognition using camera |
| JP2014176034A (en) * | 2013-03-12 | 2014-09-22 | Ricoh Co Ltd | Video transmission device |
| JP2015019231A (en) * | 2013-07-10 | 2015-01-29 | キヤノン株式会社 | Imaging apparatus and image shake correction processing method |
| US9451163B2 (en) | 2012-05-11 | 2016-09-20 | Qualcomm Incorporated | Motion sensor assisted rate control for video encoding |
| CN112087626A (en) * | 2020-08-21 | 2020-12-15 | 西安万像电子科技有限公司 | Image processing method, device and storage medium |
-
1998
- 1998-09-08 JP JP25415898A patent/JP2000092499A/en active Pending
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006054788A (en) * | 2004-08-16 | 2006-02-23 | Matsushita Electric Ind Co Ltd | Image sensor and camera system |
| WO2009130971A1 (en) * | 2008-04-21 | 2009-10-29 | シャープ株式会社 | Dynamic image encoding device and dynamic image decoding device |
| WO2009150793A1 (en) * | 2008-06-09 | 2009-12-17 | パナソニック株式会社 | Imaging device and imaging method |
| JPWO2009150793A1 (en) * | 2008-06-09 | 2011-11-10 | パナソニック株式会社 | Imaging apparatus and imaging method |
| US8395671B2 (en) | 2008-06-09 | 2013-03-12 | Panasonic Corporation | Imaging device and imaging method for correcting effects of motion on a captured image |
| KR20100122688A (en) * | 2009-05-13 | 2010-11-23 | 삼성전자주식회사 | Apparatus and method for character recognition using camera |
| KR101577824B1 (en) * | 2009-05-13 | 2015-12-29 | 삼성전자주식회사 | Apparatus and method for character recognition using camera |
| US9451163B2 (en) | 2012-05-11 | 2016-09-20 | Qualcomm Incorporated | Motion sensor assisted rate control for video encoding |
| JP2014176034A (en) * | 2013-03-12 | 2014-09-22 | Ricoh Co Ltd | Video transmission device |
| JP2015019231A (en) * | 2013-07-10 | 2015-01-29 | キヤノン株式会社 | Imaging apparatus and image shake correction processing method |
| CN112087626A (en) * | 2020-08-21 | 2020-12-15 | 西安万像电子科技有限公司 | Image processing method, device and storage medium |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4591657B2 (en) | Moving picture encoding apparatus, control method therefor, and program | |
| JP4280353B2 (en) | Encoding apparatus, image processing apparatus, encoding method, and recording medium | |
| US20020015513A1 (en) | Motion vector detecting method, record medium on which motion vector calculating program has been recorded, motion detecting apparatus, motion detecting method, picture encoding apparatus, picture encoding method, motion vector calculating method, record medium on which motion vector calculating program has been recorded | |
| US7760953B2 (en) | Image processing apparatus and method, computer program, and storage medium with varied block shapes to execute motion detection | |
| JP2000092499A (en) | Image encoding control device, image encoding control method, and storage medium | |
| KR100843418B1 (en) | Apparatus and method for image coding | |
| JP4895016B2 (en) | Imaging device | |
| EP0973336A2 (en) | Motion vector detecting, picture encoding and recording method and apparatus | |
| JP4126044B2 (en) | Video encoding apparatus and method | |
| JPH08275049A (en) | Imaging device | |
| JP2001025020A (en) | Image encoding apparatus, method, and computer-readable storage medium | |
| JP2000115762A (en) | Monitoring device | |
| JPH09261530A (en) | Video recorder | |
| JP2012023768A (en) | Imaging apparatus | |
| JPH11122618A (en) | Image coder | |
| JP2003102007A (en) | Signal processing device | |
| JPH11168730A (en) | Image compressor | |
| JP2001275103A (en) | MONITORING SYSTEM AND MOTION DETECTION METHOD THEREOF | |
| JP2001145011A (en) | Video signal encoder | |
| JPH10191347A (en) | Motion detection device, motion detection method, and storage medium | |
| JPH1042300A (en) | Motion vector detection device | |
| KR100635009B1 (en) | Motion Prediction Method and Apparatus Considering Motion of Entire Screen | |
| JP2009033652A (en) | Video coding method | |
| JP2001086510A (en) | Image processing apparatus, method, and computer-readable storage medium | |
| JP2001103490A (en) | Video coding device |