[go: up one dir, main page]

JP4032785B2 - Image processing apparatus and method, recording medium, and program - Google Patents

Image processing apparatus and method, recording medium, and program Download PDF

Info

Publication number
JP4032785B2
JP4032785B2 JP2002076062A JP2002076062A JP4032785B2 JP 4032785 B2 JP4032785 B2 JP 4032785B2 JP 2002076062 A JP2002076062 A JP 2002076062A JP 2002076062 A JP2002076062 A JP 2002076062A JP 4032785 B2 JP4032785 B2 JP 4032785B2
Authority
JP
Japan
Prior art keywords
field
motion vector
horizontal
inter
circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002076062A
Other languages
Japanese (ja)
Other versions
JP2003274371A (en
Inventor
真 近藤
郁男 染谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002076062A priority Critical patent/JP4032785B2/en
Publication of JP2003274371A publication Critical patent/JP2003274371A/en
Application granted granted Critical
Publication of JP4032785B2 publication Critical patent/JP4032785B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像処理装置および方法、記録媒体、並びにプログラムに関し、例えば、インタレース方式の映像信号をプログレッシブ方式の映像信号に変換する場合に好適な画像処理装置および方法、記録媒体、並びにプログラムに関する。
【0002】
【従来の技術】
テレビジョン放送による映像信号、ビデオカセットやDVD(Digital Versatile Disc)などの記録メディアに録画されている映像信号などは、ODDフィールド画像とEVENフィールド画像が交互に配置されたインタレース方式である。
【0003】
インタレース方式に対し、フィールド画像の2倍の垂直解像度を有するフレーム画像が連続的に配置された映像信号は、プログレッシブ方式と称される。
【0004】
従来、より垂直解像度が高い高画質な映像を表示することを目的として、インタレース方式の映像信号(以下、インタレース映像信号と記述する)を、プログレッシブ方式の映像信号(以下、プログレッシブ映像信号と記述する)に変換してから表示させるテレビジョン受像機、DVDプレーヤなどが存在する。
【0005】
図1は、そのようなテレビジョン受像機、DVDプレーヤなどに搭載される、インタレース映像信号をプログレッシブ映像信号に変換する(換言すれば、フィールド画像をフレーム画像に変換する)従来の回路(以下、第1の従来回路と記述する)の構成の一例を示している。
【0006】
第1の従来回路において、入力端子1から入力されるフィールド画像Ftは、フィールドメモリ2、および動きベクトル検出回路5に供給される。フィールドメモリ2は、入力されたフィールド画像Ftを1フィールド周期だけ遅延して、フィールド内補間回路3、およびフィールドメモリ4に出力する。以下、フィールド画像Ftに対して1フィールド以前のフィールド画像を、フィールド画像Ft-1と記述する。
【0007】
フィールド内補間回路3は、入力されたフィールド画像Ft-1に存在しないライン(例えば、フィールド画像Ft-1がODDフィールド画像である場合、EVENラインを指す。以下、補間ラインと記述する)の画素を、存在するラインの画素を用いて補間することにより、補間されたフィールド画像F’t-1を生成して混合回路8に出力する。補間の方法は、例えば、フィールド画像Ft-1がODDフィールド画像である場合、補間ラインであるEVENラインの画素として、その上下にそれぞれ存在するODDラインの2画素の平均値を適用する。
【0008】
フィールドメモリ4は、入力されたフィールド画像Ft-1を1フィールド周期だけ遅延して、動きベクトル検出回路5、および水平垂直移動回路6に出力する。以下、フィールド画像Ftに対して2フィールド以前のフィールド画像を、フィールド画像Ft-2と記述する。
【0009】
動きベクトル検出回路5は、ブロックマッチング法により、入力された2フィールド周期分だけ間隔が空いたフィールド画像Ft,Ft-2の画面上における被写体のフレーム間動きベクトルを算出し、算出したフレーム間動きベクトルの信頼度を示すブロック差分値とともに水平垂直移動回路6に出力する。また、動きベクトル検出回路5は、フレーム間動きベクトルの信頼度を示すブロック差分値を混合比判定回路7にも出力する。
【0010】
水平垂直移動回路6は、動きベクトル検出回路5から入力されたフレーム間動きベクトルの1/2(すなわち、1フィールド周期分に相当する動きベクトル)だけ、フィールドメモリ4から入力されたフィールド画像Ft-2を平行移動して混合回路8に出力する。
【0011】
混合比判定回路7は、動きベクトル検出回路5から入力された、フレーム間動きベクトルの信頼度を示すブロック差分値に基づき、混合回路8における、補間されたフィールド画像F’t-1と平行移動されたフィールド画像Ft-2との同一座標に位置する画素のブロック単位の混合比を決定して混合回路8に出力する。例えば、ブロック差分値に基づき、フレーム間動きベクトルの信頼度が高いと判定できる場合、フィールド画像Ft-2の画素を混合する割合が多く、補間されたフィールド画像F’t-1の画素を混合する画素の割合が少なくなるように混合比を決定する。反対に、動きベクトルの信頼度が低いと判定できる場合、フィールド画像Ft-2の画素を混合する割合が少なく、補間されたフィールド画像F’t-1の画素を混合する割合が多くなるように混合比を決定する。
【0012】
混合回路8は、混合比判定回路7から入力された混合比に基づき、補間されたフィールド画像F’t-1と平行移動されたフィールド画像Ft-2との同一座標に位置する画素を混合することにより、フィールド画像Ft-1に対応する補間ラインを生成して倍速変換回路9に出力する。倍速変換回路9は、フィールドメモリ2から出力されたフィールド画像Ft-1に実在するラインと、混合回路8から入力された、フィールド画像Ft-1に対応する補間ラインとを、入力時の2倍の水平走査周期で交互に出力することによってフレーム画像(順次走査画像)Ht-1を生成し、出力端子10を介して後段に出力する。
【0013】
次に、図1に示した第1の従来回路の問題点について説明する。第1の従来回路では、フィールド画像Ft,Ft-2のフレーム間動きベクトルを検出し、それをフィールド画像Ft-1に対応する補間ラインを生成する過程において利用しているので、例えば、1フレーム期間内において、被写体の動きが隣接するブロックを飛び越えて移動するほど速い場合、生成されるフレーム画像に画質の劣化が生じてしまうことがある。
【0014】
例えば、図2A乃至図2Cにそれぞれ示すフィールド画像Ft-2乃至Ftのように、フィールド画像Ft-2においてはブロック(2−b)の存在した円形物体が、フィールド画像Ft-1においてはブロック(2−c)に移動し、フィールド画像Ftにおいてはブロック(2−d)に移動したような場合、フィールド画像Ft-1のブロック(2−c)に対応するフレーム間動きベクトルは、フィールド画像Ft-2のブロック(2−c)とフィールド画像Ftのブロック(2−c)とに基づいて検出されるので、いまの場合、ブロック(2−c)のフレーム間動きベクトルは高い信頼度で0と検出される。
【0015】
したがって、混合回路8が出力するフィールド画像Ft-1に対応する補間ラインは、水平垂移動回路6からの直実質的には平行移動されていないフィールド画像Ft-2の画素が高い割合で混合されて生成されたものとなるので、倍速変換回路9から出力されるフレーム画像Ht-1は、図3に示すように、移動する円形物体に水平方向の隙間が生じてしまう問題がある。
【0016】
このような、被写体の移動速度が速い場合に生じ得る問題を解決する方法として、例えば、図4に示すような回路(以下、第2の従来回路と記述する)が存在する。
【0017】
第2の従来回路において、入力端子21から入力されるフィールド画像Ftは、フィールド内補間回路21、垂直フィルタ22、フィールドメモリ23、および倍速変換回路29に供給される。
【0018】
フィールド内補間回路21は、入力されたフィールド画像Ftの補間ラインの画素を、存在するラインの画素を用いて補間することにより、補間されたフィールド画像F’tを生成して混合回路8に出力する。補間の方法は、例えば、フィールド画像FtがODDフィールド画像である場合、補間ラインであるEVENラインの画素d1として、その上下に存在するODDラインの画素d0,d2の平均値を適用する。
【0019】
垂直フィルタ22は、入力されたフィールド画像Ftに対して垂直方向にフィルタリングして、具体的には、例えば図5Aに示すように、フィールド画像Ftに実在しない水平ライン上(図中におけるline0乃至line4)の画素を、その上下にそれぞれ実在するラインの画素を加重平均演算(例えば、上の画素×3/4+下の画素×1/4)することによって算出して、動きベクトル検出回路25に出力する。
【0020】
フィールドメモリ23は、入力されたフィールド画像Ftを1フィールド周期だけ遅延したフィールド画像Ft-1を、垂直フィルタ24、および水平垂直移動回路26に出力する。
【0021】
垂直フィルタ24は、入力されたフィールド画像Ft-1に対して垂直方向にフィルタリングして、具体的には、垂直フィルタ22と同様、例えば図5Aに示すように、フィールド画像Ft-1に実在しない水平ライン上(図中におけるline0乃至4)の画素を、その上下にそれぞれ実在するラインの画素を加重平均演算(例えば、上の画素×1/4+下の画素×3/4)することによって算出して、動きベクトル検出回路25に出力する。
【0022】
動きベクトル検出回路25は、ブロックマッチング法により、垂直方向にフィルタリングされているフィールド画像Ft,Ft-1の画面上における被写体のフィールド間動きベクトルを算出し、算出したフィールド間動きベクトルの信頼度を示すブロック差分値とともに水平垂直移動回路26に出力する。また、動きベクトル検出回路25は、フレーム間動きベクトルの信頼度を示すブロック差分値を混合比判定回路27にも出力する。
【0023】
水平垂直移動回路26は、動きベクトル検出回路5から入力されたフィールド間動きベクトルだけ、フィールドメモリ23から入力されたフィールド画像Ft-1を平行移動して混合回路28に出力する。
【0024】
混合比判定回路27は、動きベクトル検出回路25から入力された、フィールド間動きベクトルの信頼度を示すブロック差分値に基づき、混合回路28における、補間されたフィールド画像F’tと平行移動されたフィールド画像Ft-1との同一座標に位置する画素のブロック単位の混合比を決定して混合回路8に出力する。例えば、ブロック差分値に基づき、フィールド間動きベクトルの信頼度が高いと判定できる場合、フィールド画像Ft-1の画素を混合する割合が多く、補間されたフィールド画像F’tの画素を混合する画素の割合が少なくなるように混合比を決定する。反対に、フィールド動きベクトルの信頼度が低いと判定できる場合、フィールド画像Ft-1の画素を混合する割合が少なく、補間されたフィールド画像F’tの画素を混合する割合が多くなるように混合比を決定する。
【0025】
混合回路28は、混合比判定回路7から入力された混合比に基づき、補間されたフィールド画像F’tと平行移動されたフィールド画像Ft-1との同一座標に位置する画素を混合することにより、フィールド画像Ftに対応する補間ラインを生成して倍速変換回路29に出力する。倍速変換回路29は、入力端子21からのフィールド画像Ftのラインと、混合回路28から入力された、フィールド画像Ftに対応する補間ラインとを、2倍の水平走査周期で交互に出力することによってフレーム画像(順次走査画像)Htを生成し、出力端子30を介して後段に出力する。
【0026】
以上のように、第2の従来回路では、フィールド画像Ft,Ft-1のフィールド間動きベクトルを検出し、それをフィールド画像Ft-1に対応する補間ラインを生成する過程において利用しているので、例えば、1フレーム期間内において、隣接するブロックを飛び越えて移動するほど速い被写体の動きにも対応して、動きベクトルを検出することが可能である。しかしながら、垂直方向にフィルタリングしたフィールド画像Ft,Ft-1に基づいて、フィールド間動きベクトルを検出することに起因して、動きベクトルの垂直成分を誤検出してしまう可能性が存在する。
【0027】
具体的に説明する。例えば、被写体に2ライン幅の横線パターンを有する被写体が静止して存在している場合、図5Aに示すようにフィールド画像Ft-1に横線パターンの下側が現れ、フィールド画像Ftに横線パターンの上側が現れる状態(以下、phase1と記述する)と、図6Aに示すようにフィールド画像Ft-1に横線パターンの上側が現れ、フィールド画像Ftに横線パターンの下側が現れる状態(以下、phase2と記述する)が発生し得る。なお、各画素の横の数値(100,200など)は、各画素の信号レベルを示している。
【0028】
phase1において、垂直フィルタ22,24からそれぞれ出力される、垂直方向にフィルタリングされたフィールド画像Ft,Ft-1は、図5Bに示すとおりである。
【0029】
すなわち、例えば、フィールド画像Ft-1のline1の画素は125(=実在する上の画素(200)×1/4+実在する下の画素(100)×3/4)と算出され、フィールド画像Ft-1のline2の画素は175(=実在する上の画素(100)×1/4+実在する下の画素(200)×3/4)と算出され、フィールド画像Ft-1のline3の画素は200(=実在する上の画素(200)×1/4+実在する下の画素(200)×3/4)と算出される。
【0030】
また例えば、フィールド画像Ftのline1の画素は125(=実在する上の画素(100)×3/4+実在する下の画素(200)×1/4)と算出され、フィールド画像Ftのline2の画素は200(=実在する上の画素(200)×3/4+実在する下の画素(200)×1/4)と算出され、フィールド画像Ftのline3の画素は200(=実在する上の画素(200)×3/4+実在する下の画素(200)×1/4)と算出される。
【0031】
同様に、phase1において、垂直フィルタ22,24からそれぞれ出力される、垂直方向にフィルタリングされたフィールド画像Ft,Ft-1は、図6Bに示すとおりである。
【0032】
すなわち、例えば、フィールド画像Ft-1のline1の画素は125(=実在する上の画素(200)×1/4+実在する下の画素(100)×3/4)と算出され、フィールド画像Ft-1のline2の画素は175(=実在する上の画素(100)×1/4+実在する下の画素(200)×3/4)と算出され、フィールド画像Ft-1のline3の画素は200(=実在する上の画素(200)×1/4+実在する下の画素(200)×3/4)と算出される。
【0033】
また例えば、フィールド画像Ftのline1の画素は175(=実在する上の画素(200)×3/4+実在する下の画素(100)×1/4)と算出され、フィールド画像Ftのline2の画素は125(=実在する上の画素(100)×3/4+実在する下の画素(200)×1/4)と算出され、フィールド画像Ftのline3の画素は200(=実在する上の画素(200)×3/4+実在する下の画素(200)×1/4)と算出される。
【0034】
ここで、垂直方向にフィルタリングされたフィールド画像Ftの3ライン(line1乃至line3)を1つのブロックとして、ブロックマッチング法を用いる場合を考慮すると、phase1においては、フィールド画像Ftの3ライン(line1乃至line3)に対して最も相関が高いブロックとしてフィールド画像Ft-1のline1乃至line3が検出される。したがって、phase1において、当該ブロックのフィールド間動きベクトルの垂直成分は誤検出されることなく0と検出される。
【0035】
それに対して、phase2においては、フィールド画像Ftの3ライン(line1乃至line3)に対して最も相関が高いブロックとしてフィールド画像Ft-1のline0乃至line2が検出される。したがって、phase2において、当該ブロックのフィールド間動きベクトルの垂直成分とはされず、誤検出されることなる。
【0036】
【発明が解決しようとする課題】
このような第2の従来回路の問題点を解決する方法として、例えば特開平8−163573号公報には、画像データの圧縮処理に用いることを目的として、フィールド間動きベクトルを検出した後、フィールド間動きベクトルの検出処理で求められた移動位置を中心として、さらにフレーム間ベクトルを検出することにより、動きベクトル検出の正確性を高めるようにした技術(以下、先願技術と記述する)が存在する。
【0037】
しかしながら、先願技術のように、フィールド間動きベクトルとフレーム間動きベクトルの両方を検出する方法は、処理に時間がかかることや回路規模が大きくなるという課題があった。
【0038】
また、先願技術では、画面上を水平方向に移動する字幕などを含む画像を処理した場合、画質劣化が目立ってしまう課題があった。
【0039】
本発明はこのような状況に鑑みてなされたものであり、インタレース映像信号をプログレッシブ映像信号に変換するに際し、面上を水平方向に移動する字幕などを含む画像の画質劣化を抑止できるようにすることを目的とする。
【0040】
【課題を解決するための手段】
本発明の画像処理装置は、インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルを検出するとともに、第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルを検出するフィールド間動きベクトル検出手段と、フィールド間水平方向動きベクトルに基づき、第1のフィールド画像を水平方向に移動する水平移動手段と、水平移動手段によって移動された第1のフィールド画像第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量を検出する水平方向移動量検出手段と、フィールド間動きベクトルの信頼度を示す第1の評価値と、水平方向移動量の信頼度を示す第2の評価値とを比較する比較手段と、比較手段の比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示す場合、フィールド間水平方向動きベクトルを最終的な動きベクトルに決定し、比較手段の比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示さない場合、フィールド間動きベクトルを最終的な動きベクトルに決定する決定手段とを含むことを特徴とする。
【0041】
前記比較手段は、1ライン毎に水平動きブロックの数をカウントし、水平動きブロックの数に対応して第1の評価値をオフセットした後、第2の評価値と比較するようにすることができる。
【0042】
前記水平移動手段は、1ライン分の画素を記憶する1以上のバッファメモリと、バッファメモリの書き込みアドレスおよび読み出しアドレスを発生するアドレス発生手段とを含むようにすることができ、前記アドレス発生手段は、書き込みアドレスとしてシリアルな値を発生するとともに、発生した書き込みアドレスにフィールド間水平方向動きベクトルを2倍した値および所定のオフセット値を加算することによって読み出しアドレスを発生するようにすることができる。
【0043】
本発明の画像処理装置は、第3のフィールド画像に対応する補間ラインの画素をフィールド内補間によって生成するフィールド内補間手段と、最終的な動きベクトルに基づき、第2のフィールド画像を平行移動する平行移動手段と、フィールド内補間手段によって生成された補間ラインの画素に、平行移動手段によって平行移動された第2のフィールド画像の対応する画素を混合する混合手段とをさらに含むことができる。
【0044】
本発明の画像処理装置は、第3のフィールド画像に存在する水平エッジを検出する水平エッジ検出手段と、平行移動手段によって平行移動された第2のフィールド画像の画素のうち、水平エッジ検出手段によって検出された水平エッジに隣接する画素を修正する修正手段とをさらに含むことができる。
【0045】
本発明の画像処理装置は、水平方向移動量が0ではなく、かつ、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示す場合のみ有効とされる1/2画素動きフラグが有効である場合、修正手段の出力を補間ラインのブロック単位の画素として選択し、1/2画素動きフラグが有効ではない場合、混合手段の出力を補間ラインのブロック単位の画素として選択する選択手段をさらに含むことができる。
【0046】
本発明の画像処理方法は、インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルを検出するとともに、第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルを検出するフィールド間動きベクトル検出ステップと、フィールド間水平方向動きベクトルに基づき、第1のフィールド画像を水平方向に移動する水平移動ステップと、水平移動ステップの処理で移動された第1のフィールド画像第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量を検出する水平方向移動量検出ステップと、フィールド間動きベクトルの信頼度を示す第1の評価値と、水平方向移動量の信頼度を示す第2の評価値とを比較する比較ステップと、比較ステップの比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示す場合、フィールド間水平方向動きベクトルを最終的な動きベクトルに決定し、比較手段の比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示さない場合、フィールド間動きベクトルを最終的な動きベクトルに決定する決定ステップとを含むことを特徴とする。
【0047】
本発明の記録媒体のプログラムは、インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルを検出するとともに、第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルを検出するフィールド間動きベクトル検出ステップと、フィールド間水平方向動きベクトルに基づき、第1のフィールド画像を水平方向に移動する水平移動ステップと、水平移動ステップの処理で移動された第1のフィールド画像第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量を検出する水平方向移動量検出ステップと、フィールド間動きベクトルの信頼度を示す第1の評価値と、水平方向移動量の信頼度を示す第2の評価値とを比較する比較ステップと、比較ステップの比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示す場合、フィールド間水平方向動きベクトルを最終的な動きベクトルに決定し、比較手段の比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示さない場合、フィールド間動きベクトルを最終的な動きベクトルに決定する決定ステップとを含む処理をコンピュータに実行させることを特徴とする
【0048】
本発明のプログラムは、インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルを検出するとともに、第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルを検出するフィールド間動きベクトル検出ステップと、フィールド間水平方向動きベクトルに基づき、第1のフィールド画像を水平方向に移動する水平移動ステップと、水平移動ステップの処理で移動された第1のフィールド画像第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量を検出する水平方向移動量検出ステップと、フィールド間動きベクトルの信頼度を示す第1の評価値と、水平方向移動量の信頼度を示す第2の評価値とを比較する比較ステップと、比較ステップの比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示す場合、フィールド間水平方向動きベクトルを最終的な動きベクトルに決定し、比較手段の比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示さない場合、フィールド間動きベクトルを最終的な動きベクトルに決定する決定ステップとを含む処理をコンピュータに実行させることを特徴とする
【0049】
本発明おいては、インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルが検出されるとともに、第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルが検出され、フィールド間水平方向動きベクトルに基づき、第1のフィールド画像が水平方向に移動される。また、移動された第1のフィールド画像第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量が検出され、フィールド間動きベクトルの信頼度を示す第1の評価値と、水平方向移動量の信頼度を示す第2の評価値とが比較されて、その比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示す場合、フィールド間水平方向動きベクトルが最終的な動きベクトルに決定され、その比較結果が、水平方向移動量の方がフィールド間動きベクトルよりも信頼度が高いことを示さない場合、フィールド間動きベクトルが最終的な動きベクトルに決定される。
【0050】
【発明の実施の形態】
本発明の一実施の形態である順次走査線変換装置の構成例について、図7を参照して説明する。この順次走査線変換装置は、入力されるインタレース映像信号をプログレッシブ映像信号に変換するものである。
【0051】
入力端子41は、順次入力されるインタレース映像信号を構成するフィールド画像Ftを、フィールドメモリ42、垂直フィルタ44、水平動きベクトル検出回路48、フィールド内補間回路49、水平エッジ検出回路52、および倍速変換回路58に供給する。
【0052】
フィールドメモリ42は、入力端子41からのフィールド画像Ftを1フィールド周期だけ遅延して、フィールドメモリ43、垂直フィルタ45、および水平垂直移動回路51に出力する。フィールドメモリ43は、フィールドメモリ42から入力されるフィールド画像Ft-1を1フィールド周期だけ遅延して、水平移動回路47に出力する。
【0053】
垂直フィルタ44は、図4の垂直フィルタ22と同様に、入力端子41からのフィールド画像Ftに対し、垂直方向のフィルタリング処理を施して動きベクトル検出回路46に出力する。同様に、垂直フィルタ45は、フィールドメモリ42からのフィールド画像Ft-1に対し、垂直方向のフィルタリング処理を施して動きベクトル検出回路46に出力する。
【0054】
動きベクトル検出回路46は、垂直フィルタ44からの垂直方向にフィルタリングされたフィールド画像Ftに、座標(x,y)を中心とする水平P画素、垂直Qラインの基準ブロックを設定するとともに、垂直フィルタ45からの垂直方向にフィルタリングされたフィールド画像Ft-1に、基準ブロックと同サイズであって座標(x+mx,y+my)を中心とする参照ブロックを設定し、ブロックマッチング法により、垂直方向にフィルタリングされているフィールド画像Ft,Ft-1の画面上における被写体のフィールド間動きベクトルmv1を検出する。このとき、探索範囲を示すmx,myは、それぞれ、−MX乃至+MX、または−MY乃至+MYの範囲で変動される。
【0055】
動きベクトル検出回路46は、検出したフィールド間動きベクトルmv1とともに、その信頼度を示すブロック差分値df1をベクトル判定回路50に出力する。ここで、ブロック差分値とは、基準ブロックと参照ブロックとの対応する画素同士の差分のブロック単位の積算値を指し、ブロック差分値df1は、その最小値を指す。
【0056】
さらに、動きベクトル検出回路46は、垂直フィルタ45からの垂直方向にフィルタリングされたフィールド画像Ft-1に、基準ブロックと同サイズであって座標(x+mx,y)を中心とする参照ブロックを設定し、ブロックマッチング法により、垂直方向にフィルタリングされているフィールド画像Ft,Ft-1の画面上における被写体の水平方向のフィールド間動きベクトルmv2を検出し、水平移動回路47およびベクトル判定回路50に出力する。なお、実際には、フィールド間動きベクトルmv2を改めて検出する必要はなく、フィールド間動きベクトルmv1を検出する過程の結果を流用する。
【0057】
水平移動回路47は、フィールドメモリ43からのフィールド画像Ft-2を、動きベクトル検出回路46からの水平方向のフィールド間動きベクトルmv2の2倍だけ移動して水平動きベクトル検出回路48に出力する。
【0058】
図8は、例えば水平8画素×垂直4ラインを1ブロックとした場合における水平移動回路47の構成例を示している。
【0059】
水平移動回路47は、動きベクトル検出回路46から入力される水平方向のフィールド間動きベクトルmv2を2倍する乗算回路61、水平移動量(2・mv2)に基づき、書き込みアドレスおよび読み出しアドレスを発生するアドレス発生回路62、上段から入力されるフィールド画像Ft-1の1ライン分の画素を1ライン周期だけ遅延して後段に出力するラインバッファ64,66、および68、並びに、入力される1ライン分の画素を、アドレス発生回路62によって発生された読み出しアドレスに書き込み、またアドレス発生回路62によって発生された読み出しアドレスから水平8画素単位で読み出すバッファメモリ63,65,67、および69から構成される。
【0060】
図9は、アドレス発生回路62によって発生される書き込みアドレスおよび読み出しアドレスの一例を示している。例えば、バッファメモリ63,65,67、および69のそれぞれに入力される1ライン分の各画素に対しては、図9Aに示すように、1ずつインクリメントした書き込みアドレス(図9の場合、13乃至27)が発生される。このとき順次入力された水平8画素×垂直4ラインのブロックの水平移動量が、図9Bに示すように0,−4,4である場合、次式に基づいて読み出しアドレスが発生される。
読み出しアドレス=書き込みアドレス+水平移動量−オフセット値
【0061】
図9の場合、1ずつインクリメントして発生された書き込みアドレス13乃至27に対応し、書き込みアドレス5乃至7、4乃至11、20乃至23が発生される。ただし、いまの場合、オフセット値は8とされている。
【0062】
水平移動回路47においては、バッファメモリ63,65,67、および69がアドレス発生回路62によって発生された読み出しアドレスに従って画素を書き込み、その後、アドレス発生回路62によって発生された読み出しアドレスに従って画素を読み出すので、フィールドメモリ43から入力されるフィールド画像Ft-2を、ブロック単位で速やかに水平方向の移動することが可能である。
【0063】
図7に戻る。水平動きベクトル検出回路48は、入力端子41からのフィールド画像Ftに、座標(x,y)を中心とする水平方向がP画素、垂直方向がQラインの基準ブロックを設定するとともに、水平移動回路47から入力される、水平方向に移動されたフィールド画像Ft-2に、基準ブロックと同サイズであって座標(x+mx,y)を中心とする参照ブロックを設定し、ブロックマッチング法により、水平方向移動量dmv2(以下、フレーム間動きベクトルdmv2とも記述する)を検出する。このとき、探索範囲を示すmxは、広範囲で変動させる必要はなく、例えば、−3乃至+3程度の範囲で変動させる。
【0064】
このように、mxの探索範囲を−3乃至+3程度の狭い範囲とすることは、水平動きベクトル検出回路48の回路規模を削減できるだけでなく、水平方向に限定したフレーム間動きベクトルdmv2が、水平方向のフィールド間動きベクトルmv2に比較して著しく大きな値として誤検出されることを抑止することができる。
【0065】
水平動きベクトル検出回路48は、検出した水平方向のフレーム間動きベクトルdmv2とともに、その信頼度を示すブロック差分値df2をベクトル判定回路50に出力する。
【0066】
フィールド内補間回路49は、入力端子41からのフィールド画像Ftに対応する補間ラインの画素を、存在するラインの画素を用いて補間することにより、補間されたフィールド画像F’tを生成してエッジ処理回路55に出力する。補間の方法は、例えば、フィールド画像FtがODDフィールド画像である場合、補間ラインであるEVENラインの画素として、その上下にそれぞれ存在するODDラインの2画素の平均値を適用する。
【0067】
ベクトル判定回路50は、動きベクトル検出回路46からのフィールド間動きベクトルmv1および水平方向のフィールド間動きベクトルmv2の一方を最終的なフィールド間動きベクトルに選択して水平垂直移動回路51に出力するとともに、ブロック差分値df1,df2の一方を相関レベル信号として混合比判定回路53に出力し、さらに、1/2画素動きフラグを生成してセレクタ56に出力する。
【0068】
図10は、ベクトル判定回路50の構成例を示している。ベクトル判定回路50において、計数回路81は、1ライン上のブロック(水平P画素)のうち、対応する比較回路89(後述)の比較結果が0であるもの(以下、水平動きブロック)を計数して保持回路83に出力する。計数回路82は、1ライン上に存在するブロック(水平P画素)を計数して保持回路85に出力する。乗算回路84は、保持回路83に保持されている、1ライン上に存在する水平動きブロックの数に所定数nを乗算して比較回路86に出力する。比較回路86は、水平動きブロックの数に所定数nが乗算された値と、保持回路85に保持されている、1ライン上に存在する全ブロック数を比較して、その比較結果をセレクタ87に出力する。
【0069】
セレクタ87は、比較回路86からの比較結果に基づき、所定のオフセット値ofst1または0を加算回路88に出力する。具体的には、比較回路86の比較結果が、「1ライン上に存在する全ブロック数の方が小さい」である場合、所定のオフセット値ofst1を加算回路88に出力し、比較回路86の比較結果が、「1ライン上に存在する全ブロック数の方が小さい」ではない場合、0を加算回路88に出力する。
【0070】
加算回路88は、動きベクトル検出回路46からのブロック差分値df1に、セレクタ87の出力(所定のオフセット値ofst1、または0)を加算し、ブロック差分値df3として比較回路89に出力する。比較回路89は、水平動きベクトル検出回路48からのブロック差分値df2と、加算回路88からのブロック差分値df3を比較し、ブロック差分値df2の方が小さいと判定された場合には1を発生し、ブロック差分値df2の方が小さいと判定されなかった場合には0を発生して、比較結果として計数回路81、セレクタ90、およびアンド回路93に出力する。
【0071】
セレクタ90は、比較回路89からの比較結果に基づき、動きベクトル検出回路46からのブロック差分値df1、または水平動きベクトル検出回路48からのブロック差分値df2を、相関レベル信号として混合比判定回路53に出力する。具体的には、比較回路89からの比較結果が1である場合、ブロック差分値df2を相関レベル信号として出力し、比較回路89からの比較結果が0である場合、ブロック差分値df1を相関レベル信号として出力する。また、セレクタ90は、比較回路89からの比較結果をセレクタ91に供給する。
【0072】
セレクタ91は、比較回路89の比較結果に基づき、動きベクトル検出回路46からのフィールド間動きベクトルmv1または水平方向のフィールド間動きベクトルmv2を、最終的なフィールド間動きベクトルとして水平垂直移動回路51に出力する。具体的には、比較回路89の比較結果が1である場合、水平方向のフィールド間動きベクトルmv2を最終的なフィールド間動きベクトルとして出力し、比較回路89の比較結果が0である場合、ィールド間動きベクトルmv1を最終的なフィールド間動きベクトルとして出力する。
【0073】
不一致判定回路92は、水平動きベクトル検出回路48からの水平方向のフレーム間動きベクトルdmv2が0であるか否かを判定し、水平方向のフレーム間動きベクトルdmv2が0ではない場合、1をアンド回路93に出力する。反対に、水平方向のフレーム間動きベクトルdmv2が0である場合、0をアンド回路93に出力する。
【0074】
アンド回路93は、比較回路89からの比較結果と、不一致判定回路92からの出力との論理積を、1/2画素フラグとしてセレクタ56に出力する。
【0075】
すなわち、1/2画素フラグが1とされる場合は、水平方向のフレーム間動きベクトルdmv2が0ではなく、−3,−2,−1,1,2,3のいずれかである。水平方向のフレーム間動きベクトルdmv2が−3,−1,1、または3である場合には、対応するフィールド間での画素の実際の動きは−1.5,−0.5,0.5、または1.5であるが、対応するフィールド間動きベクトルmv2は整数単位で算出されるので、フィールド間動きベクトルmv2と実際の動きとの間には1/2画素だけずれが存在することになる。1/2画素フラグが1とされる場合は、このずれが発生していることを示すことになる。
【0076】
なお、水平方向のフレーム間動きベクトルdmv2が−2または2である場合には、水平方向のフィールド間動きベクトルmv2と実際の動きとの間にずれは存在しないが、水平方向のフィールド間動きベクトルmv2の精度落ちていると考えられるので、1/2画素フラグが1とされる。
【0077】
図7に戻る。水平垂直移動回路51は、フィールドメモリ42からのフィールド画像Ft-1を、ベクトル判定回路50からの最終的なフィールド間動きベクトルの分だけ平行移動して混合回路54に出力する。
【0078】
水平エッジ検出回路52は、入力端子41からのフィールド画像Ftに存在する被写体の垂直方向に伸びた辺(以下、水平エッジと記述する)を検出し、水平エッジの座標情報をエッジ処理回路55およびセレクタ56に出力する。
【0079】
図11は、水平エッジ検出回路52の構成例を示している。水平エッジ検出回路52は、入力されるフィールド画像Ftの全ラインのうちの2ラインを順次1ラインずつずらして処理対象とする。
【0080】
水平エッジ検出回路52において、処理対象の2ラインのうち、上のラインに存在する画素は、保持回路111および減算回路112に順次入力され、下のラインに存在する画素は、保持回路114および減算回路115に順次入力される。
【0081】
保持回路111は、所定の周期で順次入力される上のラインの画素を、1周期だけ遅延して減算回路112に出力する。減算回路112は、同時に入力される2画素(すなわち、上のラインにおいて隣接する2画素)の差分を演算し、絶対値回路113に出力する。絶対値回路113は、隣接する2画素の差分の絶対値を最大値選択回路117に出力する。
【0082】
保持回路114は、所定の周期で順次入力される下のラインの画素を、1周期だけ遅延して減算回路115に出力する。減算回路115は、同時に入力される2画素(すなわち、下のラインにおいて隣接する2画素)の差分を演算し、絶対値回路116に出力する。絶対値回路116は、隣接する2画素の差分の絶対値を最大値選択回路117に出力する。
【0083】
最大値選択回路117は、絶対値回路113,116から同時に入力される、上のラインにおいて隣接する2画素の差分の絶対値と、下のラインにおいて隣接する2画素の差分の絶対値との大きい方の値を選択し、右方向エッジレベルED_Rとして保持回路118および判定回路119に出力する。保持回路118は、所定の周期で最大値選択回路117から順次入力される右方向エッジレベルED_Rを1周期だけ遅延し、左方向エッジレベルED_Lとして判定回路119に出力する。
【0084】
判定回路119は、最大値選択回路117および保持回路118から同時に入力される、右方向エッジレベルED_Rと左方向エッジレベルED_Lを、所定のエッジ判定閾値ed_thと比較して、ED_R>ED_L>ed_thと判定した場合、隣接する2画素の中間に右方向のエッジがある(2画素の中間より右側に信号レベルが高い被写体がある)と判定する。また、ED_L>ED_R>ed_thと判定した場合、隣接する2画素の中間に左方向のエッジがある(2画素の中間より左側に信号レベルが高い被写体のエッジがある)と判定する。
【0085】
さらに、判定回路119は、判定結果に対応して、隣接する2画素の中間にエッジがあるか否かを示すエッジフラグと、そのエッジの方向を示すエッジ方向フラグを生成して座標情報生成回路120に出力する。
【0086】
座標情報生成回路120は、判定回路119から入力されるエッジフラグおよびエッジ方向フラグに基づき、フィールド画像Ftに存在する水平エッジの座標情報(エッジの方向を含む)を生成してエッジ処理回路55およびセレクタ56に出力する。
【0087】
図7に戻る。混合比判定回路53は、ベクトル判定回路50からの相関レベル信号に基づき、混合回路54における、フィールド内補間回路49からの補間されたフィールド画像F’tと、水平垂直移動回路51からの平行移動されたフィールド画像Ft-1との同一座標に位置する画素のブロック単位の混合比を決定して混合回路54に出力する。
【0088】
例えば、相関レベル信号(すなわち、ブロック差分値df1またはdf2)が小さければ小さいほど、動きベクトル判定回路50で算出された最終的なフィールド間動きベクトルの信頼度が高いと判断できるので、その場合、水平垂直移動回路51からの平行移動されたフィールド画像Ft-1の画素を混合する割合sが多く、補間されたフィールド画像F’tの画素を混合する画素の割合(1−s)が少なくなるように混合比を決定する。
【0089】
混合回路54は、混合比判定回路53からの混合比に基づき、フィールド内補間回路49からの補間されたフィールド画像F’tと、水平垂直移動回路51からの平行移動されたフィールド画像Ft-1との同一座標に位置する画素を、(平行移動されたフィールド画像Ft-1の画素)×s+(補間されたフィールド画像F’tの画素)×(1−s)の演算によって混合し、セレクタ56に出力する。
【0090】
エッジ処理回路55は、水平エッジ検出回路52からの水平エッジの座標情報、およびフィールド内補間回路49からの補間されたフィールド画像F’tに基づき、水平垂直移動回路51からの平行移動されたフィールド画像Ft-1の画素のうち、水平エッジに隣接する画素を修正して、セレクタ56に出力する。
【0091】
エッジ処理回路55の処理について、図12を参照して具体的に説明する。例えばエッジ処理回路55には、図12Aに示すように、フィールド内補間回路49からのフィールド画像Ftに存在するライン(実際には、補間されたフィールド画像Ft’の全てのラインのうちの補間ラインではないもの)と、水平垂直移動回路51からの平行移動されたフィールド画像Ft-1が入力される。
【0092】
ここで、水平エッジ検出回路52からの水平エッジの座標情報が、図12Aに示すように、画素Pe,Pdの境と画素Po,Ppの境を結ぶように水平エッジが存在することを示している場合、平行移動されたフィールド画像Ft-1の画素のうち、水平エッジに隣接する画素Pi,Pjを、近傍の画素を用いて生成した画素PX,PY(図12B)に置換する。
【0093】
具体的には、水平エッジの左側に位置する画素Piと置換する画素PXには、当該画素Pi、その上下の画素Pc,Po、およびその左隣の画素Phの4画素の平均値が用いられる。また、水平エッジの右側に位置する画素Pjと置換する画素PYには、当該画素Pj、その上下の画素Pd,Pp、およびその右隣の画素Pkの4画素の平均値が用いられる。
【0094】
このようなエッジ処理回路55の処理により、図12Aに示したように、平行移動されたフィールド画像Ft-1が、フィールド画像Ftに存在するラインとずれていて水平ラインがギザギザ状になった場合(この場合、ベクトル判定回路50によって1/2画素フラグが1とされる)でも、図12Bに示すように当該ギザギザ状の部分はぼかされて目立たないものとなる。したがって、画面上の水平方向に移動する字幕などの画像劣化が抑止される。
【0095】
図3に戻る。セレクタ56は、ベクトル判定回路50からの1/2画素フラグが1であるブロックについては、エッジ処理回路55から入力される、平行移動されて水平エッジ付近の画素が修正されたフィールド画像Ft-1の対応するブロックを採用し、反対に、ベクトル判定回路50からの1/2画素フラグが0であるブロックについては、混合回路54からの混合された画素から成るフィールド画像Ft−1の対応するブロックを採用して、後段に出力するフィールド画像F’’t-1を生成する。
【0096】
倍速変換回路57は、入力端子41からのフィールド画像Ftのラインと、セレクタ56からのフィールド画像F’’t-1のラインとを、入力時の2倍の水平走査周期で交互に出力することによってフレーム画像(順次走査画像)Htを生成し、出力端子58を介して後段に出力する。
【0097】
次に、図7の順次走査線変換装置による、インタレース映像信号をプログレッシブ映像信号に変換する変換処理について、図13を参照して説明する。なお、順次走査線変換装置には、インタレース映像信号を構成するフィールド画像が入力端子41を介して順次入力されているものとする。
【0098】
ステップS1において、フィールド内補間回路49は、入力端子41を介して入力されたフィールド画像Ftに対応する補間ラインの画素を、存在するラインの画素を用いて補間することにより、補間されたフィールド画像F’tを生成してエッジ処理回路55に出力する。
【0099】
ステップS2において、垂直フィルタ44は、入力端子41を介して入力されたフィールド画像Ftに対し、垂直方向のフィルタリング処理を施して動きベクトル検出回路46に出力する。垂直フィルタ45は、フィールドメモリ42から入力されたフィールド画像Ft-1に対し、垂直方向のフィルタリング処理を施して動きベクトル検出回路46に出力する。
【0100】
ステップS3において、動きベクトル検出回路46は、垂直方向フィルタリング処理が施されたフィールド画像Ft,Ft-1のブロック単位のフィールド間動きベクトルmv1を検出し、その信頼度を示すブロック差分値df1とともにベクトル判定回路50に出力する。さらに、動きベクトル検出回路46は、水平方向のフィールド間動きベクトルmv2を検出し、水平移動回路47およびベクトル判定回路50に出力する。
【0101】
ステップS4において、水平移動回路47は、フィールドメモリ43から入力されたフィールド画像Ft-2を、動きベクトル検出回路46から入力された水平方向のフィールド間動きベクトルmv2の2倍だけ移動して水平動きベクトル検出回路48に出力する。水平動きベクトル検出回路48は、入力端子41を介して入力されたフィールド画像Ftと、水平移動回路47によって水平方向に移動されたフィールド画像Ft-2との水平方向に限定したフレーム間動きベクトルdmv2を検出し、その信頼度を示すブロック差分値df2とともにベクトル判定回路50に出力する。
【0102】
ステップS5において、ベクトル判定回路50は、動きベクトル検出回路46から入力されたフィールド間動きベクトルmv1、それに対応するブロック差分値df1、および水平方向のフィールド間動きベクトルmv2、並びに水平動きベクトル検出回路48から入力された水平方向のフレーム間動きベクトルdmv2、およびそれに対応するブロック差分値df2に基づき、最終的なフィールド間動きベクトルを算出して水平垂直移動回路51に出力するとともに、ブロック差分値df1,df2の一方を相関レベル信号として混合比判定回路53に出力し、さらに、1/2画素動きフラグを生成してセレクタ56に出力する。
【0103】
ステップS6において、水平垂直移動回路51は、フィールドメモリ42から入力されたフィールド画像Ft-1を、ベクトル判定回路50から入力された最終的なフィールド間動きベクトルの分だけ平行移動して混合回路54に出力する。混合回路54は、混合比判定回路53からの混合比に基づき、フィールド内補間回路49から入力された、補間されたフィールド画像F’tと、水平垂直移動回路51から入力された、平行移動されたフィールド画像Ft-1との同一座標に位置する画素を、混合比判定回路53によって判定された混合比に従って混合し、セレクタ56に出力する。
【0104】
ステップS6において、水平エッジ検出回路52は、入力端子41を介して入力されたフィールド画像Ftに存在する水平エッジを検出し、その座標情報をエッジ処理回路55およびセレクタ56に出力する。ステップS7において、エッジ処理回路55は、水平エッジ検出回路52からの水平エッジの座標情報、およびフィールド内補間回路49からの補間されたフィールド画像F’tに基づき、水平垂直移動回路51からの平行移動されたフィールド画像Ft-1の画素のうち、水平エッジに隣接する画素を修正して、セレクタ56に出力する。
【0105】
ステップS8において、セレクタ56は、ベクトル判定回路50からの1/2画素フラグが1であるブロックについては、エッジ処理回路55から入力された、平行移動されて水平エッジ付近の画素が修正されたフィールド画像Ft-1の対応するブロックを採用し、反対に、ベクトル判定回路50からの1/2画素フラグが0であるブロックについては、混合回路54から入力された、混合された画素から成るフィールド画像Ft−1の対応するブロックを採用して、後段に出力するフィールド画像F’’t-1を生成する。
【0106】
ステップS9において、倍速変換回路57は、入力端子41を介して入力されたフィールド画像Ftのラインと、セレクタ56から入力されたフィールド画像F’’t-1のラインとを、入力時の2倍の水平走査周期で交互に出力することによってフレーム画像(順次走査画像)Htを生成し、出力端子58を介して後段に出力する。
【0107】
以上説明したように、インタレース映像信号を構成するフィールド画像Ftが、直前の2枚のフィールド画像Ft-1,Ft-2に基づき、プログレッシブ映像信号を構成するフレーム画像Htに変換される。
【0108】
なお、図7に示した順次走査線変換装置においてエッジ処理回路55は、水平垂直移動回路51から入力される、平行移動されたフィールド画像Ft-1の画素のうち、水平エッジに隣接する全ての画素を修正するようにしているが、エッジ処理回路55に対し、ベクトル判定回路50からの1/2画素フラグを入力するようにして、エッジ処理回路55が、平行移動されたフィールド画像Ft-1の画素のうち、1/2画素フラグが1であるブロックに属する画素であって、かつ、水平エッジに隣接する画素だけを修正するようにてもよい。このようにすれば、エッジ処理回路55による処理量を削減することが可能となる。
【0109】
次に、図14は、本発明を適用した順次走査線変換装置の他の構成例を示している。図7に示した構成例との違いは、図7のフィールドメモリ42,43に相当するフィールドメモリ121,122の配置と、水平移動回路123である。
【0110】
図14の構成例において、入力端子41からのフィールド画像Ftはフィールドメモリ121、および水平移動回路123に入力される。フィールドメモリ121からのフィールド画像Ft-1は、垂直フィルタ44、フィールド内補間回路49、水平エッジ検出回路52、倍速変換回路57、およびフィールドメモリ122に入力される。フィールドメモリ122からのフィールド画像Ft-2は、水平動きベクトル検出回路48、および水平垂直移動回路51、および垂直フィルタ45に入力される。
【0111】
水平移動回路123は、入力端子41からのフィールド画像Ftを、動きベクトル検出回路46からの水平方向のフィールド間動きベクトルmv2の−2倍だけ移動して水平動きベクトル検出回路48に出力する。
【0112】
その他の構成回路は共通であり、同一の番号を付しているので、その説明は省略する。
【0113】
なお、図14の構成例の場合、フィールド画像Ftの入力に対し、1フィールド周期前のフレーム画像Ht-1が処理結果として出力される。
【0114】
ところで、本発明を適用した順次走査線変換装置は、ハードウェアにより実現することもできるが、ソフトウェアにより実現することもできる。ソフトウェアにより実現させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
【0115】
図15は、専用のソフトウェアを実行することによって順次走査線変換装置として動作するパーソナルコンピュータの構成例を示している。
【0116】
このパーソナルコンピュータは、CPU(Central Processing Unit)141を内蔵している。CPU141にはバス144を介して、入出力インタフェース145が接続されている。バス144には、ROM(Read Only Memory142およびRAM(Random Access Memory)143が接続されている。
【0117】
入出力インタフェース145には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる操作入力部146、処理結果を表示するCRT(Cathode Ray Tube)またはLCD(Liquid Crystal Display)等よりなる表示部147、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部148、インタネットに代表されるネットワークを介してデータ等を通信する通信部149、および磁気ディスク151乃至半導体メモリ154などの記録媒体に対してデータを読み書きするドライブ150が接続されている。
【0118】
このパーソナルコンピュータに順次走査線変換装置としての動作を実行させるプログラムは、磁気ディスク151(フレキシブルディスクを含む)、光ディスク152(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク153(MD(Mini Disc)を含む)、もしくは半導体メモリ154に格納された状態でパーソナルコンピュータに供給され、ドライブ150によって読み出されて記憶部148に内蔵されるハードディスクドライブにインストールされている。記憶部148にインストールされているプログラムは、操作入力部146に入力されるユーザからのコマンドに対応するCPU141の指令によって、記憶部148からRAM143にロードされて実行される。
【0119】
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に従って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
【0120】
【発明の効果】
以上のように、本発明によれば、インタレース映像信号をプログレッシブ映像信号に変換するに際し、面上を水平方向に移動する字幕などを含む画像の画質劣化を抑止することが可能となる。
【図面の簡単な説明】
【図1】インタレース映像信号をプログレッシブ映像信号に変換する従来回路の一例を示すブロック図である。
【図2】図1の従来回路の問題点を説明するための図である。
【図3】図1の従来回路の問題点を説明するための図である。
【図4】インタレース映像信号をプログレッシブ映像信号に変換する従来回路の一例を示すブロック図である。
【図5】図4の従来回路の問題点を説明するための図である。
【図6】図4の従来回路の問題点を説明するための図である。
【図7】本発明を適用した順次走査線変換装置の第1の構成例を示すブロック図である。
【図8】図7の水平移動回路47の構成例を示すブロック図である。
【図9】図8のアドレス発生回路62を説明するための図である。
【図10】図7のベクトル判定回路50の構成例を示すブロック図である。
【図11】図7の水平エッジ検出回路52の構成例を示すブロック図である。
【図12】図7のエッジ処理回路55を説明するための図である。
【図13】本発明を適用した順次走査線変換装置による変換処理を説明するフローチャートである。
【図14】本発明を適用した順次走査線変換装置の第2の構成例を示すブロック図である。
【図15】所定のソフトウェアを実行することによって順次走査線変換装置として動作するパーソナルコンピュータの構成例を示すブロック図である。
【符号の説明】
42,43 フィールドメモリ, 44,45 垂直フィルタ, 46 動き検出回路 , 47 水平移動回路, 48 水平動きベクトル検出回路, 49 フィールド内補間回路, 50 ベクトル判定回路, 51 水平垂直移動回路, 52 水平エッジ検出回路, 53 混合比判定回路, 54 混合回路, 55 エッジ処理回路, 56 セレクタ, 57 倍速変換回路, 62 アドレス発生回路, 141 CPU, 151 磁気ディスク, 152 光ディスク, 153 光磁気ディスク, 154 半導体メモリ
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image processing apparatus and method, a recording medium, and a program. For example, the present invention relates to an image processing apparatus and method, a recording medium, and a program suitable for converting an interlaced video signal into a progressive video signal. .
[0002]
[Prior art]
Video signals from television broadcasts, video signals recorded on recording media such as video cassettes and DVDs (Digital Versatile Discs), etc. are interlaced in which ODD field images and EVEN field images are alternately arranged.
[0003]
A video signal in which frame images having a vertical resolution twice as large as that of a field image are continuously arranged with respect to the interlace method is referred to as a progressive method.
[0004]
Conventionally, for the purpose of displaying high-quality video with higher vertical resolution, an interlace video signal (hereinafter referred to as an interlace video signal) is converted into a progressive video signal (hereinafter referred to as a progressive video signal). There are television receivers, DVD players, and the like that are displayed after being converted to (describe).
[0005]
FIG. 1 shows a conventional circuit for converting an interlace video signal into a progressive video signal (in other words, converting a field image into a frame image) mounted on such a television receiver or DVD player (hereinafter referred to as a frame image). , Described as a first conventional circuit).
[0006]
In the first conventional circuit, the field image F input from the input terminal 1 t Is supplied to the field memory 2 and the motion vector detection circuit 5. The field memory 2 stores the input field image F t Is delayed by one field period and output to the intra-field interpolation circuit 3 and the field memory 4. Hereinafter, field image F t Field image one field before the field image F t-1 Is described.
[0007]
The intra-field interpolation circuit 3 receives the input field image F t-1 (Eg, field image F t-1 If is an ODD field image, it points to the EVEN line. The interpolated field image F ′ is obtained by interpolating the pixels of the interpolation line using the pixels of the existing line. t-1 Is output to the mixing circuit 8. The interpolation method is, for example, the field image F t-1 Is an ODD field image, the average value of two pixels of the ODD line existing above and below the EVEN line as an interpolation line is applied.
[0008]
The field memory 4 stores the input field image F t-1 Is delayed by one field period and output to the motion vector detection circuit 5 and the horizontal / vertical movement circuit 6. Hereinafter, field image F t Field image before two fields, field image F t-2 Is described.
[0009]
The motion vector detection circuit 5 uses a block matching method to generate a field image F that is spaced by the input two field periods. t , F t-2 The inter-frame motion vector of the subject on the screen is calculated and output to the horizontal / vertical moving circuit 6 together with the block difference value indicating the reliability of the calculated inter-frame motion vector. The motion vector detection circuit 5 also outputs a block difference value indicating the reliability of the inter-frame motion vector to the mixture ratio determination circuit 7.
[0010]
The horizontal / vertical moving circuit 6 receives the field image F input from the field memory 4 by ½ of the inter-frame motion vector input from the motion vector detection circuit 5 (that is, the motion vector corresponding to one field period). t-2 Are translated and output to the mixing circuit 8.
[0011]
Based on the block difference value indicating the reliability of the inter-frame motion vector input from the motion vector detection circuit 5, the mixing ratio determination circuit 7 interpolates the interpolated field image F ′ in the mixing circuit 8. t-1 Field image F translated t-2 And the mixing ratio of the block unit of the pixel located at the same coordinate is determined and output to the mixing circuit 8. For example, when it can be determined that the reliability of the inter-frame motion vector is high based on the block difference value, the field image F t-2 Are mixed, and the interpolated field image F ′ is mixed. t-1 The mixing ratio is determined so that the ratio of the pixels to be mixed is reduced. On the other hand, if it can be determined that the reliability of the motion vector is low, the field image F t-2 The proportion of the mixed pixels is small, and the interpolated field image F ′ t-1 The mixing ratio is determined so that the ratio of mixing the pixels increases.
[0012]
The mixing circuit 8 is based on the mixing ratio input from the mixing ratio determination circuit 7 and interpolated field image F ′. t-1 Field image F translated t-2 By mixing pixels located at the same coordinates with the field image F t-1 Is generated and output to the double speed conversion circuit 9. The double speed conversion circuit 9 receives the field image F output from the field memory 2. t-1 And the field image F input from the mixing circuit 8. t-1 Are alternately output at a horizontal scanning period twice that at the time of input, so that a frame image (sequentially scanned image) H is output. t-1 And output to the subsequent stage via the output terminal 10.
[0013]
Next, problems of the first conventional circuit shown in FIG. 1 will be described. In the first conventional circuit, the field image F t , F t-2 The inter-frame motion vector of the frame image F is detected. t-1 For example, if the movement of the subject is fast enough to jump over adjacent blocks within one frame period, the generated frame image has degraded image quality. May occur.
[0014]
For example, the field images F shown in FIGS. 2A to 2C, respectively. t-2 To F t Field image F t-2 , The circular object in which the block (2-b) is present is the field image F. t-1 Moves to block (2-c) and field image F t In the case of moving to the block (2-d), the field image F t-1 The inter-frame motion vector corresponding to the block (2-c) of the field image F t-2 Block (2-c) and field image F t Therefore, in this case, the inter-frame motion vector of the block (2-c) is detected as 0 with high reliability.
[0015]
Therefore, the field image F output from the mixing circuit 8 t-1 The interpolation line corresponding to the field image F which is not substantially translated from the horizontal vertical movement circuit 6 is translated. t-2 Frame image H output from the double-speed conversion circuit 9 since the pixels are mixed at a high rate. t-1 As shown in FIG. 3, there is a problem that a horizontal gap is generated in the moving circular object.
[0016]
As a method for solving such a problem that may occur when the moving speed of the subject is high, for example, there is a circuit as shown in FIG. 4 (hereinafter referred to as a second conventional circuit).
[0017]
In the second conventional circuit, the field image F input from the input terminal 21 t Is supplied to the intra-field interpolation circuit 21, the vertical filter 22, the field memory 23, and the double speed conversion circuit 29.
[0018]
The intra-field interpolation circuit 21 receives the input field image F t The interpolated field image F ′ is obtained by interpolating the pixels of the interpolated line using the pixels of the existing line. t Is output to the mixing circuit 8. The interpolation method is, for example, the field image F t Is an ODD field image, the average value of the pixels d0 and d2 of the ODD line existing above and below is applied as the pixel d1 of the EVEN line that is the interpolation line.
[0019]
The vertical filter 22 receives the input field image F t More specifically, as shown in FIG. 5A, for example, as shown in FIG. t The pixels on the horizontal line (line 0 to line 4 in the figure) that do not actually exist are weighted and averaged (for example, upper pixel × 3/4 + lower pixel × 1/4) on the pixels existing above and below the horizontal line. And is output to the motion vector detection circuit 25.
[0020]
The field memory 23 stores the input field image F t Field image F delayed by one field period t-1 Is output to the vertical filter 24 and the horizontal / vertical moving circuit 26.
[0021]
The vertical filter 24 receives the input field image F t-1 For example, as shown in FIG. 5A, the field image F is filtered in the vertical direction. t-1 The pixels on the horizontal line (line 0 to 4 in the figure) that do not actually exist are weighted and averaged (for example, upper pixel × 1/4 + lower pixel × 3/4) on the pixels existing above and below the horizontal line. And is output to the motion vector detection circuit 25.
[0022]
The motion vector detection circuit 25 uses the block matching method to filter the field image F that has been filtered in the vertical direction. t , F t-1 The inter-field motion vector of the subject on the screen is calculated and output to the horizontal / vertical moving circuit 26 together with the block difference value indicating the reliability of the calculated inter-field motion vector. The motion vector detection circuit 25 also outputs a block difference value indicating the reliability of the inter-frame motion vector to the mixture ratio determination circuit 27.
[0023]
The horizontal / vertical movement circuit 26 applies only the inter-field motion vector input from the motion vector detection circuit 5 to the field image F input from the field memory 23. t-1 Are translated and output to the mixing circuit 28.
[0024]
Based on the block difference value indicating the reliability of the inter-field motion vector input from the motion vector detection circuit 25, the mixing ratio determination circuit 27 interpolates the interpolated field image F ′ in the mixing circuit. t Field image F translated t-1 And the mixing ratio of the block unit of the pixel located at the same coordinate is determined and output to the mixing circuit 8. For example, when it can be determined that the reliability of the inter-field motion vector is high based on the block difference value, the field image F t-1 Are mixed, and the interpolated field image F ′ is mixed. t The mixing ratio is determined so that the ratio of the pixels to be mixed is reduced. Conversely, if it can be determined that the reliability of the field motion vector is low, the field image F t-1 The proportion of the mixed pixels is small, and the interpolated field image F ′ t The mixing ratio is determined so that the ratio of mixing the pixels increases.
[0025]
The mixing circuit 28 is based on the mixing ratio input from the mixing ratio determination circuit 7 and interpolated field image F ′. t Field image F translated t-1 By mixing pixels located at the same coordinates with the field image F t Are generated and output to the double speed conversion circuit 29. The double speed conversion circuit 29 receives the field image F from the input terminal 21. t And a field image F input from the mixing circuit 28. t By alternately outputting the interpolation line corresponding to the image with a horizontal scanning period of 2 times, a frame image (sequentially scanned image) H t And output to the subsequent stage via the output terminal 30.
[0026]
As described above, in the second conventional circuit, the field image F t , F t-1 Is detected as a field image F. t-1 For example, it is possible to detect a motion vector corresponding to the movement of a subject as fast as it moves over an adjacent block within one frame period. Is possible. However, the field image F filtered in the vertical direction t , F t-1 Based on the above, there is a possibility that the vertical component of the motion vector is erroneously detected due to the detection of the inter-field motion vector.
[0027]
This will be specifically described. For example, when a subject having a horizontal line pattern with a width of 2 lines is present in a stationary state, the field image F as shown in FIG. 5A. t-1 The lower side of the horizontal line pattern appears in the field image F t A state in which the upper side of the horizontal line pattern appears (hereinafter referred to as phase 1) and a field image F as shown in FIG. t-1 The upper side of the horizontal line pattern appears in the field image F t In this state, the lower side of the horizontal line pattern appears (hereinafter referred to as phase 2). In addition, the numerical value (100, 200, etc.) beside each pixel indicates the signal level of each pixel.
[0028]
In phase 1, the vertically filtered field images F output from the vertical filters 22 and 24, respectively. t , F t-1 Is as shown in FIG. 5B.
[0029]
That is, for example, the field image F t-1 The pixel of line 1 is calculated as 125 (= the actual upper pixel (200) × 1/4 + the actual lower pixel (100) × 3/4), and the field image F t-1 The pixel of line 2 is calculated as 175 (= the actual upper pixel (100) × 1/4 + the actual lower pixel (200) × 3/4), and the field image F t-1 The pixel of line 3 is calculated as 200 (= the actual upper pixel (200) × 1/4 + the actual lower pixel (200) × 3/4).
[0030]
For example, the field image F t The pixel of line 1 is calculated as 125 (= the actual upper pixel (100) × 3/4 + the actual lower pixel (200) × 1/4), and the field image F t The pixel of line 2 is calculated as 200 (= the actual upper pixel (200) × 3/4 + the actual lower pixel (200) × 1/4), and the field image F t The pixel of line 3 is calculated as 200 (= the actual upper pixel (200) × 3/4 + the actual lower pixel (200) × 1/4).
[0031]
Similarly, in phase 1, the vertically filtered field images F output from the vertical filters 22 and 24, respectively. t , F t-1 Is as shown in FIG. 6B.
[0032]
That is, for example, the field image F t-1 The pixel of line 1 is calculated as 125 (= the actual upper pixel (200) × 1/4 + the actual lower pixel (100) × 3/4), and the field image F t-1 The pixel of line 2 is calculated as 175 (= the actual upper pixel (100) × 1/4 + the actual lower pixel (200) × 3/4), and the field image F t-1 The pixel of line 3 is calculated as 200 (= the actual upper pixel (200) × 1/4 + the actual lower pixel (200) × 3/4).
[0033]
For example, the field image F t The pixel of line 1 is calculated as 175 (= the actual upper pixel (200) × 3/4 + the actual lower pixel (100) × 1/4). t The pixel of line 2 is calculated as 125 (= the actual upper pixel (100) × 3/4 + the actual lower pixel (200) × 1/4), and the field image F t The pixel of line 3 is calculated as 200 (= the actual upper pixel (200) × 3/4 + the actual lower pixel (200) × 1/4).
[0034]
Here, the field image F filtered in the vertical direction t Considering the case of using the block matching method with three lines (line 1 to line 3) as one block, in phase 1, the field image F t As a block having the highest correlation with three lines (line 1 to line 3) of the field image F t-1 Line 1 to line 3 are detected. Therefore, in phase 1, the vertical component of the inter-field motion vector of the block is detected as 0 without being erroneously detected.
[0035]
On the other hand, in phase 2, the field image F t As a block having the highest correlation with three lines (line 1 to line 3) of the field image F t-1 Line 0 to line 2 are detected. Therefore, in phase 2, it is not detected as a vertical component of the inter-field motion vector of the block, and is erroneously detected.
[0036]
[Problems to be solved by the invention]
As a method for solving such a problem of the second conventional circuit, for example, Japanese Patent Application Laid-Open No. Hei 8-163573 discloses that a field vector is detected after detecting an inter-field motion vector for the purpose of use in image data compression processing. There is a technology that improves the accuracy of motion vector detection (hereinafter referred to as the prior application technology) by further detecting inter-frame vectors centered on the movement position obtained in the inter-motion vector detection process. To do.
[0037]
However, the method of detecting both the inter-field motion vector and the inter-frame motion vector as in the prior application technique has a problem that it takes time for processing and the circuit scale increases.
[0038]
In the prior application technique, when an image including a caption moving horizontally on the screen is processed, there is a problem that image quality deterioration is conspicuous.
[0039]
The present invention has been made in view of such a situation, and when converting an interlaced video signal to a progressive video signal, Picture An object of the present invention is to prevent image quality deterioration of an image including a caption moving horizontally on a screen.
[0040]
[Means for Solving the Problems]
The image processing apparatus according to the present invention includes, among the continuous first to third field images constituting the interlaced video signal, Vertically filtered Detect an inter-field motion vector in units of blocks corresponding to the second and third field images In addition, the inter-field horizontal motion vector limited to the horizontal direction in block units corresponding to the second and third field images is detected. Inter-field motion vector detecting means, horizontal moving means for moving the first field image in the horizontal direction based on the inter-field horizontal motion vector, and the first field image moved by the horizontal moving means When Third field image With Limited to the horizontal direction of the corresponding block unit Horizontal travel Detect Horizontal travel Detection means; a first evaluation value indicating the reliability of the inter-field motion vector; Horizontal travel Comparing means for comparing the second evaluation value indicating the reliability of If the comparison result indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as the final motion vector, and the comparison result of the comparison unit is If the amount of horizontal movement does not indicate that it is more reliable than the inter-field motion vector, the inter-field motion vector is And determining means for determining a final motion vector.
[0041]
The comparison unit may count the number of horizontal motion blocks for each line, offset the first evaluation value corresponding to the number of horizontal motion blocks, and then compare with the second evaluation value. it can.
[0042]
The horizontal moving means may include one or more buffer memories for storing pixels for one line, and address generating means for generating a write address and a read address of the buffer memory, and the address generating means In addition to generating a serial value as a write address, a read address can be generated by adding a value obtained by doubling the inter-field horizontal motion vector and a predetermined offset value to the generated write address.
[0043]
The image processing apparatus according to the present invention translates the second field image based on the intra-field interpolation means for generating the pixels of the interpolation line corresponding to the third field image by intra-field interpolation and the final motion vector. It may further include translation means and mixing means for mixing the pixels of the interpolation line generated by the intra-field interpolation means with corresponding pixels of the second field image translated by the translation means.
[0044]
The image processing apparatus according to the present invention includes a horizontal edge detecting unit that detects a horizontal edge existing in the third field image, and a horizontal edge detecting unit among the pixels of the second field image translated by the parallel moving unit. Correction means for correcting pixels adjacent to the detected horizontal edge may be further included.
[0045]
The image processing apparatus of the present invention If the horizontal movement amount is not 0 and the 1/2 pixel motion flag that is valid only when the horizontal movement amount indicates that the reliability is higher than the inter-field motion vector, it is corrected. If the output of the means is selected as a pixel in block units of the interpolation line and the 1/2 pixel motion flag is not valid, the output of the mixing means is The image processing apparatus may further include selection means for selecting as a block unit pixel of the interpolation line.
[0046]
The image processing method of the present invention includes the first to third field images that constitute the interlaced video signal. Vertically filtered Detect an inter-field motion vector in units of blocks corresponding to the second and third field images In addition, the inter-field horizontal motion vector limited to the horizontal direction in block units corresponding to the second and third field images is detected. The first field image moved by the processing of the horizontal movement step, the horizontal movement step of moving the first field image in the horizontal direction based on the inter-field motion vector detection step, the inter-field horizontal direction motion vector When Third field image With Limited to the horizontal direction of the corresponding block unit Horizontal travel Detect Horizontal travel A detection step; a first evaluation value indicating the reliability of the inter-field motion vector; Horizontal travel And a comparison step for comparing the second evaluation value indicating the reliability of If the comparison result indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as the final motion vector, and the comparison result of the comparison unit is If the amount of horizontal movement does not indicate that it is more reliable than the inter-field motion vector, the inter-field motion vector is And a determining step for determining a final motion vector.
[0047]
The recording medium program according to the present invention includes the first through third field images constituting the interlaced video signal. Vertically filtered Detect an inter-field motion vector in units of blocks corresponding to the second and third field images In addition, the inter-field horizontal motion vector limited to the horizontal direction in block units corresponding to the second and third field images is detected. The first field image moved by the processing of the horizontal movement step, the horizontal movement step of moving the first field image in the horizontal direction based on the inter-field motion vector detection step, the inter-field horizontal direction motion vector When Third field image With Limited to the horizontal direction of the corresponding block unit Horizontal travel Detect Horizontal travel A detection step; a first evaluation value indicating the reliability of the inter-field motion vector; Horizontal travel And a comparison step for comparing the second evaluation value indicating the reliability of If the comparison result indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as the final motion vector, and the comparison result of the comparison unit is If the amount of horizontal movement does not indicate that it is more reliable than the inter-field motion vector, the inter-field motion vector is A decision step to determine the final motion vector; To cause a computer to execute a process including .
[0048]
The program according to the present invention includes the first to third field images constituting the interlaced video signal. Vertically filtered Detect an inter-field motion vector in units of blocks corresponding to the second and third field images In addition, the inter-field horizontal motion vector limited to the horizontal direction in block units corresponding to the second and third field images is detected. The first field image moved by the processing of the horizontal movement step, the horizontal movement step of moving the first field image in the horizontal direction based on the inter-field motion vector detection step, the inter-field horizontal direction motion vector When Third field image With Limited to the horizontal direction of the corresponding block unit Horizontal travel Detect Horizontal travel A detection step; a first evaluation value indicating the reliability of the inter-field motion vector; Horizontal travel And a comparison step for comparing the second evaluation value indicating the reliability of If the comparison result indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as the final motion vector, and the comparison result of the comparison unit is If the amount of horizontal movement does not indicate that it is more reliable than the inter-field motion vector, the inter-field motion vector is A decision step to determine the final motion vector; To cause a computer to execute a process including .
[0049]
The present invention In In the continuous first to third field images constituting the interlaced video signal, Vertically filtered Inter-field motion vectors in block units corresponding to the second and third field images are detected And an inter-field horizontal motion vector limited to the horizontal direction of the block unit corresponding to the second and third field images is detected, Based on the inter-field horizontal motion vector, the first field image is moved in the horizontal direction. Also, the moved first field image When Third field image With Limited to the horizontal direction of the corresponding block unit Horizontal travel And a first evaluation value indicating the reliability of the inter-field motion vector; Horizontal travel The second evaluation value indicating the reliability of the Indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as the final motion vector, and the comparison result is Is not more reliable than the inter-field motion vector, the inter-field motion vector is The final motion vector is determined.
[0050]
DETAILED DESCRIPTION OF THE INVENTION
A configuration example of a sequential scanning line conversion apparatus according to an embodiment of the present invention will be described with reference to FIG. This sequential scanning line converter converts an input interlaced video signal into a progressive video signal.
[0051]
The input terminal 41 is a field image F that constitutes an interlaced video signal that is sequentially input. t Are supplied to the field memory 42, the vertical filter 44, the horizontal motion vector detection circuit 48, the intra-field interpolation circuit 49, the horizontal edge detection circuit 52, and the double speed conversion circuit 58.
[0052]
The field memory 42 receives a field image F from the input terminal 41. t Are delayed by one field period, the field memory 43, the vertical filter 45, and Horizontal / vertical moving circuit 51 Output to. The field memory 43 is a field image F input from the field memory 42. t-1 Is delayed by one field period and output to the horizontal movement circuit 47.
[0053]
The vertical filter 44 is the same as the vertical filter 22 in FIG. t On the other hand, a vertical filtering process is performed and output to the motion vector detection circuit 46. Similarly, the vertical filter 45 receives the field image F from the field memory 42. t-1 On the other hand, a vertical filtering process is performed and output to the motion vector detection circuit 46.
[0054]
The motion vector detection circuit 46 receives the vertically filtered field image F from the vertical filter 44. t In addition, a reference block of horizontal P pixels and vertical Q lines centered on coordinates (x, y) is set, and a field image F filtered in the vertical direction from the vertical filter 45 is set. t-1 A reference block having the same size as the base block and centering on the coordinates (x + mx, y + my) is set in the field image F filtered in the vertical direction by the block matching method. t , F t-1 The inter-field motion vector mv1 of the subject on the screen is detected. At this time, mx and my indicating the search range are changed in a range of −MX to + MX or −MY to + MY, respectively.
[0055]
The motion vector detection circuit 46 outputs a block difference value df1 indicating the reliability to the vector determination circuit 50 together with the detected inter-field motion vector mv1. Here, the block difference value refers to the integrated value of the difference between the corresponding pixels in the base block and the reference block, and the block difference value df1 refers to the minimum value.
[0056]
Further, the motion vector detection circuit 46 performs the vertical filtering of the field image F from the vertical filter 45. t-1 A reference block having the same size as the base block and centering on the coordinates (x + mx, y) is set, and the field image F is filtered in the vertical direction by the block matching method. t , F t-1 The inter-field motion vector mv2 in the horizontal direction on the screen is detected and output to the horizontal movement circuit 47 and the vector determination circuit 50. Actually, it is not necessary to detect the inter-field motion vector mv2 again, and the result of the process of detecting the inter-field motion vector mv1 is used.
[0057]
The horizontal movement circuit 47 receives the field image F from the field memory 43. t-2 Is moved by twice the horizontal inter-field motion vector mv2 from the motion vector detection circuit 46 and output to the horizontal motion vector detection circuit 48.
[0058]
FIG. 8 shows a configuration example of the horizontal movement circuit 47 when, for example, horizontal 8 pixels × vertical 4 lines are made into one block.
[0059]
The horizontal movement circuit 47 generates a write address and a read address based on the multiplication circuit 61 that doubles the horizontal inter-field motion vector mv2 input from the motion vector detection circuit 46, and the horizontal movement amount (2 · mv2). Address generation circuit 62, field image F input from the upper stage t-1 The line buffers 64, 66, and 68 for delaying one line of pixels by one line period and outputting them to the subsequent stage, and the input one line of pixels to the read address generated by the address generation circuit 62 It is composed of buffer memories 63, 65, 67, and 69 for writing and reading in units of 8 horizontal pixels from the read address generated by the address generation circuit 62.
[0060]
FIG. 9 shows an example of a write address and a read address generated by the address generation circuit 62. For example, as shown in FIG. 9A, the write address incremented by 1 (in the case of FIG. 9, 13 to 13) is applied to each pixel of one line input to each of the buffer memories 63, 65, 67, and 69. 27) is generated. When the horizontal movement amount of the block of horizontal 8 pixels × vertical 4 lines sequentially input at this time is 0, −4, 4 as shown in FIG. 9B, a read address is generated based on the following equation.
Read address = write address + horizontal movement amount-offset value
[0061]
In the case of FIG. 9, write addresses 5 to 7, 4 to 11, and 20 to 23 are generated corresponding to the write addresses 13 to 27 generated by incrementing by one. However, in this case, the offset value is 8.
[0062]
In the horizontal movement circuit 47, the buffer memories 63, 65, 67 and 69 write pixels according to the read address generated by the address generation circuit 62, and then read the pixels according to the read address generated by the address generation circuit 62. , Field image F input from the field memory 43 t-2 Can be moved quickly in the horizontal direction in units of blocks.
[0063]
Returning to FIG. The horizontal motion vector detection circuit 48 receives the field image F from the input terminal 41. t In addition, a horizontal block centered at coordinates (x, y) is set as a reference block having P pixels and the vertical direction is Q lines, and the field image F moved in the horizontal direction is input from the horizontal movement circuit 47. t-2 Set a reference block having the same size as the standard block and centered on coordinates (x + mx, y), and by block matching method, Horizontal movement amount dmv2 (hereinafter also referred to as inter-frame motion vector dmv2) Is detected. At this time, mx indicating the search range does not need to be varied in a wide range, and is varied in a range of, for example, about −3 to +3.
[0064]
Thus, setting the search range of mx to be a narrow range of about −3 to +3 not only reduces the circuit scale of the horizontal motion vector detection circuit 48 but also the inter-frame motion vector dmv2 limited in the horizontal direction. It is possible to suppress erroneous detection as a remarkably large value compared to the direction-to-field motion vector mv2.
[0065]
The horizontal motion vector detection circuit 48 outputs a block difference value df2 indicating the reliability along with the detected horizontal inter-frame motion vector dmv2 to the vector determination circuit 50.
[0066]
The intra-field interpolation circuit 49 receives the field image F from the input terminal 41. t The interpolated field image F ′ is interpolated by using the pixels of the existing line corresponding to the interpolated line pixels. t And output to the edge processing circuit 55. The interpolation method is, for example, the field image F t Is an ODD field image, the average value of two pixels of the ODD line existing above and below the EVEN line as an interpolation line is applied.
[0067]
The vector determination circuit 50 selects one of the inter-field motion vector mv1 and the horizontal inter-field motion vector mv2 from the motion vector detection circuit 46 as a final inter-field motion vector and outputs it to the horizontal / vertical moving circuit 51. Then, one of the block difference values df1 and df2 is output as a correlation level signal to the mixing ratio determination circuit 53, and a 1/2 pixel motion flag is generated and output to the selector 56.
[0068]
FIG. 10 shows a configuration example of the vector determination circuit 50. In the vector determination circuit 50, the counting circuit 81 counts blocks (hereinafter referred to as horizontal motion blocks) in which a comparison result of a corresponding comparison circuit 89 (described later) is 0 among blocks (horizontal P pixels) on one line. To the holding circuit 83. The counting circuit 82 counts blocks (horizontal P pixels) existing on one line and outputs them to the holding circuit 85. The multiplication circuit 84 multiplies the number of horizontal motion blocks existing on one line by the predetermined number n and outputs the result to the comparison circuit 86. The comparison circuit 86 compares the value obtained by multiplying the number of horizontal motion blocks by a predetermined number n with the total number of blocks existing on one line held in the holding circuit 85, and compares the comparison result with the selector 87. Output to.
[0069]
The selector 87 outputs a predetermined offset value ofst1 or 0 to the addition circuit 88 based on the comparison result from the comparison circuit 86. Specifically, when the comparison result of the comparison circuit 86 is “the total number of blocks existing on one line is smaller”, a predetermined offset value ofst1 is output to the addition circuit 88 and the comparison circuit 86 compares If the result is not “the total number of blocks existing on one line is smaller”, 0 is output to the adder circuit 88.
[0070]
The adder circuit 88 adds the output of the selector 87 (predetermined offset value ofst1 or 0) to the block difference value df1 from the motion vector detection circuit 46, and outputs the result to the comparison circuit 89 as a block difference value df3. The comparison circuit 89 compares the block difference value df2 from the horizontal motion vector detection circuit 48 with the block difference value df3 from the addition circuit 88, and generates 1 when it is determined that the block difference value df2 is smaller. If it is not determined that the block difference value df2 is smaller, 0 is generated and output as a comparison result to the counting circuit 81, the selector 90, and the AND circuit 93.
[0071]
Based on the comparison result from the comparison circuit 89, the selector 90 uses the block difference value df <b> 1 from the motion vector detection circuit 46 or the block difference value df <b> 2 from the horizontal motion vector detection circuit 48 as a correlation level signal, and the mixture ratio determination circuit 53. Output to. Specifically, when the comparison result from the comparison circuit 89 is 1, the block difference value df2 is output as a correlation level signal, and when the comparison result from the comparison circuit 89 is 0, the block difference value df1 is output as the correlation level. Output as a signal. The selector 90 supplies the comparison result from the comparison circuit 89 to the selector 91.
[0072]
Based on the comparison result of the comparison circuit 89, the selector 91 supplies the inter-field motion vector mv1 or the horizontal inter-field motion vector mv2 from the motion vector detection circuit 46 as the final inter-field motion vector to the horizontal / vertical movement circuit 51. Output. Specifically, when the comparison result of the comparison circuit 89 is 1, Horizontal When the inter-field motion vector mv2 is output as the final inter-field motion vector and the comparison result of the comparison circuit 89 is 0, F The inter-field motion vector mv1 is output as the final inter-field motion vector.
[0073]
The mismatch determination circuit 92 determines whether or not the horizontal inter-frame motion vector dmv2 from the horizontal motion vector detection circuit 48 is 0. If the horizontal inter-frame motion vector dmv2 is not 0, 1 is ANDed. Output to the circuit 93. On the other hand, when the interframe motion vector dmv2 in the horizontal direction is 0, 0 is output to the AND circuit 93.
[0074]
The AND circuit 93 outputs the logical product of the comparison result from the comparison circuit 89 and the output from the mismatch determination circuit 92 to the selector 56 as a ½ pixel flag.
[0075]
That is, when the 1/2 pixel flag is 1, the horizontal inter-frame motion vector dmv2 is not 0, but is any of -3, -2, -1, 1, 2, and 3. If the horizontal inter-frame motion vector dmv2 is -3, -1, 1, or 3, the actual motion of the pixel between the corresponding fields is -1.5, -0.5, 0.5. Or 1.5, since the corresponding inter-field motion vector mv2 is calculated in integer units, there is a difference of 1/2 pixel between the inter-field motion vector mv2 and the actual motion. Become. When the 1/2 pixel flag is set to 1, this indicates that this shift has occurred.
[0076]
If the horizontal inter-frame motion vector dmv2 is −2 or 2, Horizontal There is no deviation between the inter-field motion vector mv2 and the actual motion, Horizontal Accuracy of inter-field motion vector mv2 But Since the pixel is considered to have fallen, the 1/2 pixel flag is set to 1.
[0077]
Returning to FIG. The horizontal / vertical moving circuit 51 receives the field image F from the field memory 42. t-1 Are translated by the final inter-field motion vector from the vector determination circuit 50 and output to the mixing circuit 54.
[0078]
The horizontal edge detection circuit 52 receives the field image F from the input terminal 41. t The side extending in the vertical direction of the subject (hereinafter referred to as a horizontal edge) is detected, and the coordinate information of the horizontal edge is output to the edge processing circuit 55 and the selector 56.
[0079]
FIG. 11 shows a configuration example of the horizontal edge detection circuit 52. The horizontal edge detection circuit 52 receives the input field image F. t Among the total lines, two lines are sequentially shifted one line at a time to be processed.
[0080]
In the horizontal edge detection circuit 52, the pixels existing in the upper line of the two lines to be processed are sequentially input to the holding circuit 111 and the subtracting circuit 112, and the pixels existing in the lower line are input to the holding circuit 114 and the subtracting circuit. The signals are sequentially input to the circuit 115.
[0081]
The holding circuit 111 delays the pixels in the upper line sequentially input at a predetermined cycle by one cycle and outputs the delayed pixels to the subtractor circuit 112. The subtraction circuit 112 calculates a difference between two pixels that are input simultaneously (that is, two pixels adjacent in the upper line) and outputs the difference to the absolute value circuit 113. The absolute value circuit 113 outputs the absolute value of the difference between two adjacent pixels to the maximum value selection circuit 117.
[0082]
The holding circuit 114 delays the pixels in the lower line that are sequentially input at a predetermined period and outputs the pixels to the subtraction circuit 115 with a delay of one period. The subtraction circuit 115 calculates a difference between two pixels that are input simultaneously (that is, two pixels adjacent in the lower line) and outputs the difference to the absolute value circuit 116. The absolute value circuit 116 outputs the absolute value of the difference between two adjacent pixels to the maximum value selection circuit 117.
[0083]
The maximum value selection circuit 117 is the difference between the absolute value of the difference between two adjacent pixels in the upper line and the absolute value of the difference between two adjacent pixels in the lower line, which are simultaneously input from the absolute value circuits 113 and 116. Is selected and output to the holding circuit 118 and the determination circuit 119 as the right edge level ED_R. The holding circuit 118 delays the right edge level ED_R sequentially input from the maximum value selection circuit 117 at a predetermined period by one period, and outputs the delayed edge level ED_L to the determination circuit 119 as the left edge level ED_L.
[0084]
The determination circuit 119 compares the right edge level ED_R and the left edge level ED_L, which are simultaneously input from the maximum value selection circuit 117 and the holding circuit 118, with a predetermined edge determination threshold ed_th, and ED_R>ED_L> ed_th. When the determination is made, it is determined that there is an edge in the right direction in the middle of two adjacent pixels (a subject having a higher signal level on the right side than the middle of the two pixels). If it is determined that ED_L>ED_R> ed_th, it is determined that there is an edge in the left direction in the middle of two adjacent pixels (the edge of the subject having a higher signal level is on the left side of the middle of the two pixels).
[0085]
Further, the determination circuit 119 generates an edge flag indicating whether or not there is an edge between two adjacent pixels and an edge direction flag indicating the direction of the edge corresponding to the determination result to generate a coordinate information generation circuit. To 120.
[0086]
The coordinate information generation circuit 120 uses the field image F based on the edge flag and the edge direction flag input from the determination circuit 119. t Are generated and output to the edge processing circuit 55 and the selector 56.
[0087]
Returning to FIG. The mixing ratio determination circuit 53 is based on the correlation level signal from the vector determination circuit 50 and interpolates the field image F ′ interpolated from the intra-field interpolation circuit 49 in the mixing circuit 54. t And the translated field image F from the horizontal / vertical moving circuit 51. t-1 And the mixing ratio of the block unit of the pixel located at the same coordinate as is determined and output to the mixing circuit 54.
[0088]
For example, as the correlation level signal (that is, the block difference value df1 or df2) is smaller, it can be determined that the reliability of the final inter-field motion vector calculated by the motion vector determination circuit 50 is higher. Translated field image F from horizontal / vertical moving circuit 51 t-1 The ratio s for mixing the pixels of the pixel is large, and the interpolated field image F ′ t The mixing ratio is determined so that the ratio (1-s) of the pixels to be mixed is reduced.
[0089]
Based on the mixing ratio from the mixing ratio determination circuit 53, the mixing circuit 54 interpolates the field image F ′ interpolated from the intra-field interpolation circuit 49. t And the translated field image F from the horizontal / vertical moving circuit 51. t-1 The pixel located at the same coordinate with (the field image F translated) t-1 Pixel) × s + (interpolated field image F ′) t Pixel) × (1−s), and outputs to the selector 56.
[0090]
The edge processing circuit 55 receives the horizontal edge coordinate information from the horizontal edge detection circuit 52 and the interpolated field image F ′ from the intra-field interpolation circuit 49. t The translated field image F from the horizontal / vertical moving circuit 51 is t-1 Among the pixels, the pixels adjacent to the horizontal edge are corrected and output to the selector 56.
[0091]
The processing of the edge processing circuit 55 will be specifically described with reference to FIG. For example, the edge processing circuit 55 includes a field image F from the intra-field interpolation circuit 49 as shown in FIG. 12A. t (In fact, the interpolated field image F t Of all the lines of 'and not the interpolation line) and the translated field image F from the horizontal / vertical moving circuit 51 t-1 Is entered.
[0092]
Here, as shown in FIG. 12A, the coordinate information of the horizontal edge from the horizontal edge detection circuit 52 indicates that a horizontal edge exists so as to connect the boundary between the pixels Pe and Pd and the boundary between the pixels Po and Pp. The translated field image F t-1 Of these pixels, the pixels Pi and Pj adjacent to the horizontal edge are replaced with the pixels PX and PY (FIG. 12B) generated using the neighboring pixels.
[0093]
Specifically, the average value of the four pixels of the pixel Pi, its upper and lower pixels Pc, Po, and its left adjacent pixel Ph is used for the pixel PX to be replaced with the pixel Pi located on the left side of the horizontal edge. . Further, an average value of four pixels of the pixel Pj, its upper and lower pixels Pd and Pp, and its right adjacent pixel Pk is used as the pixel PY to be replaced with the pixel Pj located on the right side of the horizontal edge.
[0094]
By such processing of the edge processing circuit 55, as shown in FIG. 12A, the translated field image F t-1 Is field image F t Even if the horizontal line has a jagged shape (in this case, the 1/2 pixel flag is set to 1 by the vector determination circuit 50), the jagged portion is shown in FIG. 12B. It will be blurred and inconspicuous. Therefore, image degradation such as subtitles moving in the horizontal direction on the screen is suppressed.
[0095]
Returning to FIG. The selector 56 receives, from the edge processing circuit 55, the block image whose half pixel flag is 1 from the vector determination circuit 50. The field image F that is translated and corrected in the vicinity of the horizontal edge. t-1 On the other hand, for the block whose 1/2 pixel flag from the vector determination circuit 50 is 0, the corresponding block of the field image Ft-1 composed of the mixed pixels from the mixing circuit 54 Is used to output the field image F '' to the subsequent stage. t-1 Is generated.
[0096]
The double speed conversion circuit 57 receives the field image F from the input terminal 41. t And the field image F '' from the selector 56 t-1 Are alternately output at a horizontal scanning period twice as long as that at the time of input, thereby generating a frame image (sequentially scanned image) H. t And output to the subsequent stage via the output terminal 58.
[0097]
Next, conversion processing for converting an interlaced video signal into a progressive video signal by the progressive scanning line conversion apparatus of FIG. 7 will be described with reference to FIG. It is assumed that the field image constituting the interlaced video signal is sequentially input to the sequential scanning line conversion device via the input terminal 41.
[0098]
In step S1, the intra-field interpolation circuit 49 receives the field image F input through the input terminal 41. t The interpolated field image F ′ is interpolated by using the pixels of the existing line corresponding to the interpolated line pixels. t And output to the edge processing circuit 55.
[0099]
In step S2, the vertical filter 44 receives the field image F input via the input terminal 41. t On the other hand, a vertical filtering process is performed and output to the motion vector detection circuit 46. The vertical filter 45 is a field image F input from the field memory 42. t-1 On the other hand, a vertical filtering process is performed and output to the motion vector detection circuit 46.
[0100]
In step S <b> 3, the motion vector detection circuit 46 performs field image F on which the vertical filtering process has been performed. t , F t-1 The inter-field motion vector mv1 in the block unit is detected and output to the vector determination circuit 50 together with the block difference value df1 indicating the reliability. Further, the motion vector detection circuit 46 detects the inter-field motion vector mv2 in the horizontal direction and outputs it to the horizontal movement circuit 47 and the vector determination circuit 50.
[0101]
In step S 4, the horizontal movement circuit 47 receives the field image F input from the field memory 43. t-2 Is moved by twice the horizontal inter-field motion vector mv2 input from the motion vector detection circuit 46 and output to the horizontal motion vector detection circuit 48. The horizontal motion vector detection circuit 48 receives the field image F input via the input terminal 41. t And the field image F moved in the horizontal direction by the horizontal movement circuit 47. t-2 The inter-frame motion vector dmv2 limited to the horizontal direction is detected and output to the vector determination circuit 50 together with the block difference value df2 indicating the reliability.
[0102]
In step S 5, the vector determination circuit 50 receives the inter-field motion vector mv 1 input from the motion vector detection circuit 46, the corresponding block difference value df 1, the horizontal inter-field motion vector mv 2, and the horizontal motion vector detection circuit 48. Is calculated based on the horizontal inter-frame motion vector dmv2 and the block difference value df2 corresponding thereto, and is output to the horizontal / vertical moving circuit 51, and the block difference value df1, One of df2 is output as a correlation level signal to the mixture ratio determination circuit 53, and a 1/2 pixel motion flag is generated and output to the selector 56.
[0103]
In step S6, the horizontal / vertical moving circuit 51 receives the field image F input from the field memory 42. t-1 Are translated by the final inter-field motion vector input from the vector determination circuit 50 and output to the mixing circuit 54. The mixing circuit 54 is based on the mixing ratio from the mixing ratio determination circuit 53 and receives the interpolated field image F ′ input from the intra-field interpolation circuit 49. t And the translated field image F input from the horizontal / vertical moving circuit 51. t-1 Are mixed according to the mixture ratio determined by the mixture ratio determination circuit 53 and output to the selector 56.
[0104]
In step S6, the horizontal edge detection circuit 52 receives the field image F input via the input terminal 41. t Is detected and the coordinate information is output to the edge processing circuit 55 and the selector 56. In step S 7, the edge processing circuit 55 receives the coordinate information of the horizontal edge from the horizontal edge detection circuit 52 and the interpolated field image F ′ from the intra-field interpolation circuit 49. t The translated field image F from the horizontal / vertical moving circuit 51 is t-1 Among the pixels, the pixels adjacent to the horizontal edge are corrected and output to the selector 56.
[0105]
In step S8, the selector 56, for the block whose 1/2 pixel flag from the vector determination circuit 50 is 1, is the field that is input from the edge processing circuit 55 and is translated and corrected for pixels near the horizontal edge. Image F t-1 On the other hand, for the block in which the 1/2 pixel flag from the vector determination circuit 50 is 0, the field image Ft-1 including the mixed pixels input from the mixing circuit 54 is used. Field image F '' output to the subsequent stage using the corresponding block t-1 Is generated.
[0106]
In step S 9, the double speed conversion circuit 57 receives the field image F input via the input terminal 41. t And the field image F '' input from the selector 56 t-1 Are alternately output at a horizontal scanning period twice as long as that at the time of input, thereby generating a frame image (sequentially scanned image) H. t And output to the subsequent stage via the output terminal 58.
[0107]
As described above, the field image F constituting the interlaced video signal. t Is the previous two field images F t-1 , F t-2 Based on the frame image H constituting the progressive video signal t Is converted to
[0108]
Note that the edge processing circuit 55 in the sequential scanning line conversion apparatus shown in FIG. 7 receives the translated field image F input from the horizontal / vertical moving circuit 51. t-1 All pixels adjacent to the horizontal edge are corrected, but the edge processing circuit 55 is inputted with the 1/2 pixel flag from the vector determination circuit 50 to the edge processing circuit 55. 55 is a translated field image F t-1 Of these pixels, only the pixels belonging to the block whose 1/2 pixel flag is 1 and adjacent to the horizontal edge may be corrected. In this way, the processing amount by the edge processing circuit 55 can be reduced.
[0109]
Next, FIG. 14 shows another configuration example of the sequential scanning line conversion apparatus to which the present invention is applied. The difference from the configuration example shown in FIG. 7 is the arrangement of field memories 121 and 122 corresponding to the field memories 42 and 43 in FIG.
[0110]
In the configuration example of FIG. 14, the field image F from the input terminal 41. t Is input to the field memory 121 and the horizontal movement circuit 123. Field image F from the field memory 121 t-1 Are input to the vertical filter 44, the intra-field interpolation circuit 49, the horizontal edge detection circuit 52, the double speed conversion circuit 57, and the field memory 122. Field image F from the field memory 122 t-2 Are input to the horizontal motion vector detection circuit 48, the horizontal / vertical movement circuit 51, and the vertical filter 45.
[0111]
The horizontal movement circuit 123 receives the field image F from the input terminal 41. t Is moved by -2 times the horizontal inter-field motion vector mv2 from the motion vector detection circuit 46 and output to the horizontal motion vector detection circuit 48.
[0112]
The other constituent circuits are common and are given the same numbers, and the description thereof is omitted.
[0113]
In the case of the configuration example of FIG. 14, the field image F t Frame image H one field period before t-1 Is output as the processing result.
[0114]
Incidentally, the sequential scanning line conversion apparatus to which the present invention is applied can be realized by hardware, but can also be realized by software. When implemented by software, a general-purpose computer that can execute various functions by installing a computer that is built into dedicated hardware or installing various programs. Installed from a recording medium on a personal computer.
[0115]
FIG. 15 shows a configuration example of a personal computer that operates as a sequential scanning line converter by executing dedicated software.
[0116]
This personal computer includes a CPU (Central Processing Unit) 141. An input / output interface 145 is connected to the CPU 141 via the bus 144. A ROM (Read Only Memory 142 and a RAM (Random Access Memory) 143 are connected to the bus 144.
[0117]
The input / output interface 145 includes an operation input unit 146 including an input device such as a keyboard and a mouse for a user to input an operation command, a display including a CRT (Cathode Ray Tube) or an LCD (Liquid Crystal Display) for displaying a processing result. 147, a storage unit 148 including a hard disk drive for storing programs and various data, a communication unit 149 for communicating data etc. via a network represented by the Internet, and recording media such as magnetic disk 151 to semiconductor memory 154 On the other hand, a drive 150 for reading and writing data is connected.
[0118]
A program for causing this personal computer to execute an operation as a sequential scanning line converter is a magnetic disk 151 (including a flexible disk), an optical disk 152 (CD-ROM (Compact Disc-Read Only Memory), DVD (Digital Versatile Disc)). To the hard disk drive supplied to the personal computer in a state stored in the semiconductor memory 154, read by the drive 150, and built in the storage unit 148. Installed. The program installed in the storage unit 148 is loaded from the storage unit 148 to the RAM 143 and executed in response to a command from the CPU 141 corresponding to a command from the user input to the operation input unit 146.
[0119]
In the present specification, the step of describing the program recorded in the recording medium is not limited to the processing performed in time series according to the described order, but is not necessarily performed in time series, either in parallel or individually. The process to be executed is also included.
[0120]
【The invention's effect】
As described above, according to the present invention, when an interlaced video signal is converted into a progressive video signal, Picture It is possible to suppress deterioration in image quality of an image including a caption moving horizontally on the surface.
[Brief description of the drawings]
FIG. 1 is a block diagram showing an example of a conventional circuit for converting an interlaced video signal into a progressive video signal.
FIG. 2 is a diagram for explaining problems of the conventional circuit of FIG. 1;
FIG. 3 is a diagram for explaining a problem of the conventional circuit of FIG. 1;
FIG. 4 is a block diagram illustrating an example of a conventional circuit that converts an interlaced video signal into a progressive video signal.
5 is a diagram for explaining problems of the conventional circuit of FIG. 4;
6 is a diagram for explaining a problem of the conventional circuit of FIG. 4;
FIG. 7 is a block diagram showing a first configuration example of a sequential scanning line conversion apparatus to which the present invention is applied.
8 is a block diagram showing a configuration example of the horizontal movement circuit 47 of FIG.
9 is a diagram for explaining an address generation circuit 62 of FIG. 8. FIG.
10 is a block diagram illustrating a configuration example of the vector determination circuit 50 of FIG.
11 is a block diagram illustrating a configuration example of a horizontal edge detection circuit 52 in FIG. 7;
12 is a diagram for explaining an edge processing circuit 55 in FIG. 7; FIG.
FIG. 13 is a flowchart illustrating conversion processing by a sequential scanning line conversion apparatus to which the present invention is applied.
FIG. 14 is a block diagram showing a second configuration example of a sequential scanning line conversion apparatus to which the present invention is applied.
FIG. 15 is a block diagram illustrating a configuration example of a personal computer that operates as a sequential scanning line conversion apparatus by executing predetermined software.
[Explanation of symbols]
42, 43 Field memory, 44, 45 Vertical filter, 46 Motion detection circuit, 47 Horizontal movement circuit, 48 Horizontal motion vector detection circuit, 49 Intra-field interpolation circuit, 50 Vector decision circuit, 51 Horizontal vertical movement circuit, 52 Horizontal edge detection Circuit, 53 mixing ratio determination circuit, 54 mixing circuit, 55 edge processing circuit, 56 selector, 57 double speed conversion circuit, 62 address generation circuit, 141 CPU, 151 magnetic disk, 152 optical disk, 153 magneto-optical disk, 154 semiconductor memory

Claims (9)

インタレース映像信号をプログレッシブ映像信号に変換する画像処理装置において、
前記インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた前記第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルを検出するとともに、前記第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルを検出するフィールド間動きベクトル検出手段と、
前記フィールド間水平方向動きベクトルに基づき、前記第1のフィールド画像を水平方向に移動する水平移動手段と、
前記水平移動手段によって移動された前記第1のフィールド画像前記第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量を検出する水平方向移動量検出手段と、
前記フィールド間動きベクトルの信頼度を示す第1の評価値と、前記水平方向移動量の信頼度を示す第2の評価値とを比較する比較手段と、
前記比較手段の比較結果が、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示す場合、前記フィールド間水平方向動きベクトルを最終的な動きベクトルに決定し、前記比較手段の比較結果が、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示さない場合、前記フィールド間動きベクトルを最終的な動きベクトルに決定する決定手段と
を含むことを特徴とする画像処理装置。
In an image processing apparatus for converting an interlaced video signal into a progressive video signal,
Of the consecutive first to third field image constituting the interlaced video signal, detects the inter-field motion vector of a block unit corresponding to the second and third field images filtered in the vertical direction Inter-field motion vector detection means for detecting an inter- field horizontal motion vector limited to the horizontal direction in block units corresponding to the second and third field images ;
Horizontal moving means for moving the first field image in the horizontal direction based on the inter-field horizontal motion vector;
A horizontal movement amount detection means for detecting a horizontal movement amount limited to the horizontal direction of the corresponding block unit of the first field image and the third field image moved by the horizontal movement means;
Comparison means for comparing a first evaluation value indicating the reliability of the inter-field motion vector and a second evaluation value indicating the reliability of the horizontal movement amount ;
If the comparison result of the comparison means indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as a final motion vector, A determination means for determining the inter-field motion vector as a final motion vector if the comparison result of the comparison means does not indicate that the horizontal movement amount is more reliable than the inter-field motion vector ; An image processing apparatus comprising:
前記比較手段は、1ライン毎に水平動きブロックの数をカウントし、前記水平動きブロックの数に対応して前記第1の評価値をオフセットした後、前記第2の評価値と比較する
ことを特徴とする請求項1に記載の画像処理装置。
The comparison means counts the number of horizontal motion blocks for each line, offsets the first evaluation value corresponding to the number of horizontal motion blocks, and compares the first evaluation value with the second evaluation value. The image processing apparatus according to claim 1, wherein:
前記水平移動手段は、
1ライン分の画素を記憶する1以上のバッファメモリと、
前記バッファメモリの書き込みアドレスおよび読み出しアドレスを発生するアドレス発生手段と
を含み、
前記アドレス発生手段は、前記書き込みアドレスとしてシリアルな値を発生するとともに、発生した前記書き込みアドレスに前記フィールド間水平方向動きベクトルを2倍した値および所定のオフセット値を加算することによって前記読み出しアドレスを発生する
ことを特徴とする請求項1に記載の画像処理装置。
The horizontal moving means includes
One or more buffer memories for storing pixels for one line;
Address generating means for generating a write address and a read address of the buffer memory,
The address generation means generates a serial value as the write address, and adds the read address by adding a value obtained by doubling the horizontal motion vector between fields and a predetermined offset value to the generated write address. The image processing apparatus according to claim 1, wherein the image processing apparatus is generated.
前記第3のフィールド画像に対応する補間ラインの画素をフィールド内補間によって生成するフィールド内補間手段と、
前記最終的な動きベクトルに基づき、前記第2のフィールド画像を平行移動する平行移動手段と、
前記フィールド内補間手段によって生成された前記補間ラインの画素に、前記平行移動手段によって平行移動された前記第2のフィールド画像の対応する画素を混合する混合手段と
をさらに含むことを特徴とする請求項1に記載の画像処理装置。
Intra-field interpolation means for generating pixels of an interpolation line corresponding to the third field image by intra-field interpolation;
Translation means for translating the second field image based on the final motion vector;
And further comprising: mixing means for mixing the pixels of the interpolation line generated by the intra-field interpolation means with the corresponding pixels of the second field image translated by the translation means. Item 8. The image processing apparatus according to Item 1.
前記第3のフィールド画像に存在する水平エッジを検出する水平エッジ検出手段と、
前記平行移動手段によって平行移動された前記第2のフィールド画像の画素のうち、前記水平エッジ検出手段によって検出された前記水平エッジに隣接する画素を修正する修正手段と
をさらに含むことを特徴とする請求項4に記載の画像処理装置。
Horizontal edge detection means for detecting a horizontal edge present in the third field image;
Correction means for correcting a pixel adjacent to the horizontal edge detected by the horizontal edge detection means among the pixels of the second field image translated by the translation means. The image processing apparatus according to claim 4.
前記水平方向移動量が0ではなく、かつ、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示す場合のみ有効とされる1/2画素動きフラグが有効である場合、前記修正手段の出力を前記補間ラインのブロック単位の画素として選択し、前記1/2画素動きフラグが有効ではない場合、前記混合手段の出力を前記補間ラインのブロック単位の画素として選択する選択手段を
さらに含むことを特徴とする請求項5に記載の画像処理装置。
A 1/2 pixel motion flag that is valid only when the horizontal movement amount is not 0 and the horizontal movement amount indicates higher reliability than the inter-field motion vector is effective. In this case, the output of the correcting unit is selected as a pixel of the block of the interpolation line, and when the 1/2 pixel motion flag is not valid, the output of the mixing unit is selected as a pixel of the block of the interpolation line. The image processing apparatus according to claim 5, further comprising a selection unit.
インタレース映像信号をプログレッシブ映像信号に変換する画像処理装置の画像処理方法において、
前記インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた前記第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルを検出するとともに、前記第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルを検出するフィールド間動きベクトル検出ステップと、
前記フィールド間水平方向動きベクトルに基づき、前記第1のフィールド画像を水平方向に移動する水平移動ステップと、
前記水平移動ステップの処理で移動された前記第1のフィールド画像前記第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量を検出する水平方向移動量検出ステップと、
前記フィールド間動きベクトルの信頼度を示す第1の評価値と、前記水平方向移動量の信頼度を示す第2の評価値とを比較する比較ステップと、
前記比較ステップの比較結果が、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示す場合、前記フィールド間水平方向動きベクトルを最終的な動きベクトルに決定し、前記比較手段の比較結果が、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示さない場合、前記フィールド間動きベクトルを最終的な動きベクトルに決定する決定ステップと
を含むことを特徴とする画像処理方法。
In an image processing method of an image processing apparatus for converting an interlaced video signal into a progressive video signal,
Of the consecutive first to third field image constituting the interlaced video signal, detects the inter-field motion vector of a block unit corresponding to the second and third field images filtered in the vertical direction An inter-field motion vector detecting step for detecting an inter- field horizontal motion vector limited to the horizontal direction in block units corresponding to the second and third field images ;
A horizontal movement step of moving the first field image in a horizontal direction based on the inter-field horizontal motion vector;
A horizontal movement amount detection step for detecting a horizontal movement amount limited to the horizontal direction of the corresponding block unit of the first field image and the third field image moved in the processing of the horizontal movement step;
A comparison step of comparing a first evaluation value indicating the reliability of the inter-field motion vector with a second evaluation value indicating the reliability of the horizontal movement amount ;
If the comparison result of the comparison step indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as a final motion vector, and A determination step of determining the inter-field motion vector as a final motion vector if the comparison result of the comparison means does not indicate that the horizontal movement amount is more reliable than the inter-field motion vector ; An image processing method comprising:
インタレース映像信号をプログレッシブ映像信号に変換する画像処理装置の制御用のプログラムであって、
前記インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた前記第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルを検出するとともに、前記第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルを検出するフィールド間動きベクトル検出ステップと、
前記フィールド間水平方向動きベクトルに基づき、前記第1のフィールド画像を水平方向に移動する水平移動ステップと、
前記水平移動ステップの処理で移動された前記第1のフィールド画像前記第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量を検出する水平方向移動量検出ステップと、
前記フィールド間動きベクトルの信頼度を示す第1の評価値と、前記水平方向移動量の信頼度を示す第2の評価値とを比較する比較ステップと、
前記比較ステップの比較結果が、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示す場合、前記フィールド間水平方向動きベクトルを最終的な動きベクトルに決定し、前記比較手段の比較結果が、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示さない場合、前記フィールド間動きベクトルを最終的な動きベクトルに決定する決定ステップと
を含む処理をコンピュータに実行させるプログラムが記録されていることを特徴とする記録媒体。
A program for controlling an image processing apparatus that converts an interlaced video signal into a progressive video signal,
Of the consecutive first to third field image constituting the interlaced video signal, detects the inter-field motion vector of a block unit corresponding to the second and third field images filtered in the vertical direction An inter-field motion vector detecting step for detecting an inter- field horizontal motion vector limited to the horizontal direction in block units corresponding to the second and third field images ;
A horizontal movement step of moving the first field image in a horizontal direction based on the inter-field horizontal motion vector;
A horizontal movement amount detection step for detecting a horizontal movement amount limited to the horizontal direction of the corresponding block unit of the first field image and the third field image moved in the processing of the horizontal movement step;
A comparison step of comparing a first evaluation value indicating the reliability of the inter-field motion vector with a second evaluation value indicating the reliability of the horizontal movement amount ;
If the comparison result of the comparison step indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as a final motion vector, and A determination step of determining the inter-field motion vector as a final motion vector if the comparison result of the comparison means does not indicate that the horizontal movement amount is more reliable than the inter-field motion vector ;
A recording medium on which is recorded a program that causes a computer to execute a process including:
インタレース映像信号をプログレッシブ映像信号に変換する画像処理装置の制御用のプログラムであって、
前記インタレース映像信号を構成する連続した第1乃至第3のフィールド画像のうち、垂直方向にフィルタリングされた前記第2および第3のフィールド画像に対応するブロック単位のフィールド間動きベクトルを検出するとともに、前記第2および第3のフィールド画像に対応するブロック単位の水平方向に限定したフィールド間水平方向動きベクトルを検出するフィールド間動きベクトル検出ステップと、
前記フィールド間水平方向動きベクトルに基づき、前記第1のフィールド画像を水平方向に移動する水平移動ステップと、
前記水平移動ステップの処理で移動された前記第1のフィールド画像前記第3のフィールド画像との対応するブロック単位の水平方向に限定した水平方向移動量を検出する水平方向移動量検出ステップと、
前記フィールド間動きベクトルの信頼度を示す第1の評価値と、前記水平方向移動量の信頼度を示す第2の評価値とを比較する比較ステップと、
前記比較ステップの比較結果が、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示す場合、前記フィールド間水平方向動きベクトルを最終的な動きベクトルに決定し、前記比較手段の比較結果が、前記水平方向移動量の方が前記フィールド間動きベクトルよりも信頼度が高いことを示さない場合、前記フィールド間動きベクトルを最終的な動きベクトルに決定する決定ステップと
を含む処理をコンピュータに実行させることを特徴とするプログラム。
A program for controlling an image processing apparatus that converts an interlaced video signal into a progressive video signal,
Of the consecutive first to third field image constituting the interlaced video signal, detects the inter-field motion vector of a block unit corresponding to the second and third field images filtered in the vertical direction An inter-field motion vector detecting step for detecting an inter- field horizontal motion vector limited to the horizontal direction in block units corresponding to the second and third field images ;
A horizontal movement step of moving the first field image in a horizontal direction based on the inter-field horizontal motion vector;
A horizontal movement amount detection step for detecting a horizontal movement amount limited to the horizontal direction of the corresponding block unit of the first field image and the third field image moved in the processing of the horizontal movement step;
A comparison step of comparing a first evaluation value indicating the reliability of the inter-field motion vector with a second evaluation value indicating the reliability of the horizontal movement amount ;
If the comparison result of the comparison step indicates that the horizontal movement amount is more reliable than the inter-field motion vector, the inter-field horizontal motion vector is determined as a final motion vector, and A determination step of determining the inter-field motion vector as a final motion vector if the comparison result of the comparison means does not indicate that the horizontal movement amount is more reliable than the inter-field motion vector ;
A program for causing a computer to execute a process including:
JP2002076062A 2002-03-19 2002-03-19 Image processing apparatus and method, recording medium, and program Expired - Fee Related JP4032785B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002076062A JP4032785B2 (en) 2002-03-19 2002-03-19 Image processing apparatus and method, recording medium, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002076062A JP4032785B2 (en) 2002-03-19 2002-03-19 Image processing apparatus and method, recording medium, and program

Publications (2)

Publication Number Publication Date
JP2003274371A JP2003274371A (en) 2003-09-26
JP4032785B2 true JP4032785B2 (en) 2008-01-16

Family

ID=29204962

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002076062A Expired - Fee Related JP4032785B2 (en) 2002-03-19 2002-03-19 Image processing apparatus and method, recording medium, and program

Country Status (1)

Country Link
JP (1) JP4032785B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100676704B1 (en) 2005-07-07 2007-02-01 삼성전자주식회사 Motion estimator and its estimation method
JP4331234B2 (en) 2007-12-26 2009-09-16 株式会社東芝 Sequential scan conversion device, progressive scan conversion method, and video display device

Also Published As

Publication number Publication date
JP2003274371A (en) 2003-09-26

Similar Documents

Publication Publication Date Title
US9185431B2 (en) Motion detection device and method, video signal processing device and method and video display device
US8233087B2 (en) Systems and methods for deinterlacing high-definition and standard-definition video
US7961253B2 (en) Method of processing fields of images and related device for data lines similarity detection
US7218354B2 (en) Image processing device and method, video display device, and recorded information reproduction device
US20100309372A1 (en) Method And System For Motion Compensated Video De-Interlacing
KR20040009967A (en) Apparatus and method for deinterlacing
JP4929819B2 (en) Video signal conversion apparatus and method
US20140036148A1 (en) Apparatus and method for converting frame rate of video signal, and video processing apparatus using the same
US7612827B2 (en) Image processing apparatus and method
JP2013030862A (en) Image processing apparatus, image processing method, and image display apparatus
US7616693B2 (en) Method and system for detecting motion between video field of same and opposite parity from an interlaced video source
JP4032785B2 (en) Image processing apparatus and method, recording medium, and program
JP2003289511A (en) Image scan conversion method and apparatus
JP2011019037A (en) Image processing circuit and image processing method
CN100440963C (en) Image processing device and image processing method
US20080175440A1 (en) Apparatus and method of motion adaptive image processing
JP2003179886A (en) Image processing apparatus and method, recording medium, and program
JP4226939B2 (en) Progressive scan conversion apparatus and progressive scan conversion method
CN101742206A (en) Video signal processing device and video signal processing method
JP3576618B2 (en) Motion vector detection method and apparatus
JP3389984B2 (en) Progressive scan conversion device and method
KR100416557B1 (en) Method for reproducing partial interlaced image and apparatus thereof
WO2005013615A1 (en) Adaptive de-interlacing method and apparatus based on phase corrected field, and recording medium storing programs for executing the adaptive de-interlacing method
JP2007288483A (en) Image converter
JP2004096223A (en) Video signal conversion method and apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070703

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071002

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071015

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101102

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101102

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees