JPH11164264A - 画像処理装置および画像処理方法 - Google Patents
画像処理装置および画像処理方法Info
- Publication number
- JPH11164264A JPH11164264A JP10032473A JP3247398A JPH11164264A JP H11164264 A JPH11164264 A JP H11164264A JP 10032473 A JP10032473 A JP 10032473A JP 3247398 A JP3247398 A JP 3247398A JP H11164264 A JPH11164264 A JP H11164264A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- address
- pixels
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Television Systems (AREA)
Abstract
り返し歪みを除去する。 【解決手段】 折り返し歪みのない元の画像が、図2に
実線で示すような、水平走査期間に対応する周波数の1
/2よりも高い周波数で周期的に変化し、その位相が時
間とともにずれていく三角波で表されるとする。第Nフ
レームにおけるサンプリング点(図2に○印で示す)
を、折り返し歪みを有する歪み画像の動きに対応した位
置に移動し、その移動後のサンプリング点のサンプル
値、および第N+1フレームのサンプル値を結べば、そ
の波形は、図2(B)に点線で示すように、元の画像に
近づく。以下、同様にして、過去のフレームのサンプリ
ング点を、歪み画像の動きに対応した位置に移動し、そ
の移動後のサンプリング点のサンプル値、および現在の
フレームのサンプル値を結んでいくことにより、図2
(C)乃至図2(E)に点線で示すように、徐々に、元
の画像が再生されていく。
Description
び画像処理方法に関し、特に、例えば、画像の画素数を
増加させることにより、走査線と直交する方向の折り返
し歪みを低減(除去)したり、高解像度の画像を生成し
たりすることができるようにする画像処理装置および画
像処理方法に関する。
た画像や、VTR(Video Tape Racorder)、ビデオC
D(Compact Disc)プレーヤ、DVD(Digital Versat
ile Disc)プレーヤで再生された画像などは、図26に
示すように、左から右方向に走査が繰り返されることに
より、例えば、CRT(Cathode Ray Tube)などに表示
される。
ビームが照射され、これにより、蛍光面の各点が光り、
画像が表示される。従って、表示された画像(表示画
像)は、そのような点、つまり画素の集合ということが
できる。
うに画素の集合と捉えると、表示画像は、元の画像を画
素の位置でサンプリングしたディジタル信号と考えるこ
とができる。即ち、例えば、自然の風景を撮影して得ら
れる表示画像は、アナログ信号としての実際の自然の風
景を、画素の位置をサンプリング点としてサンプリング
したディジタル信号と考えることができる。
に、いわゆるサンプリングの定理(アナログ信号をサン
プリングして得られたディジタル信号から、元のアナロ
グ信号を再生するには、アナログ信号の最高周波数の2
倍以上の周波数でサンプリングを行う必要があるという
定理)を満たしていない場合、表示画像には、折り返し
歪みが生じる。
走査が繰り返されることから、その方向、即ち、走査線
の方向である水平方向には、サンプリングの定理を満た
すように、プリフィルタがかけられることが多いが、走
査線と直交する方向である垂直方向には、従来、そのよ
うなプリフィルタがかけられず、このため、表示画像に
は、垂直方向の折り返し歪みが生じる課題があった。
る垂直方向に注目し、その垂直方向における元の画像
が、図27(A)に実線で示すように、1ライン(水平
走査期間)に対応する周波数の1/2よりも高い周波数
の信号成分を有する場合、サンプリングの定理を満たさ
ないことから、折り返し歪みが生じ、表示画像として、
元の画像を得ることはできず、同図(A)において点線
で示すような信号に対応する画像が得られる。
ば、Y/C分離や、ノイズ除去、さらには画質改善のた
めの処理、その他の信号処理に弊害を及ぼす。
上述したように、図27(A)に実線で示すような信号
が、同図(A)に点線で示すような信号となっても、各
画素における画素値が変化しなければ、解像度が悪くな
るだけで、視聴者が、それほど大きな違和感を感じるこ
とはない。しかしながら、例えば、葉の生い茂った木が
風に吹かれている風景などについての画像に関しては、
第Nフレームでは、図27(A)に実線で示すような信
号が、第N+1フレームでは、同図(B)に示すように
変化する。このように折り返し歪みが生じている信号が
変化すると、表示画像に、いわゆる画面のざわざわ感が
感じられ、これは、視聴者に大きな違和感を感じさせ
る。
合に、その信号は、既に、図27(A)に点線で示した
ように、垂直方向の折り返し歪みを含むものであるか
ら、その1フレームの信号のみから、高周波成分を含む
元の信号を再生することは、サンプリングの定理から困
難であり、また、既に垂直方向の折り返し歪みを有する
画像に、垂直方向のプリフィルタをかけて折り返し歪み
を除去することも困難である。
たものであり、画像から、それに含まれていない元の高
周波数成分を含む、より画素数の多い画像、即ち、高解
像度の画像を生成することができるようにし、さらに、
これにより、例えば、折り返し歪みの除去などを可能に
するものである。
理装置は、第1の画像の動きに対応した位置に画素を想
定することにより、第2の画像を生成する想定手段を備
えることを特徴とする。
の画像の動きに対応した位置に画素を想定することによ
り、第2の画像を生成する想定ステップを備えることを
特徴とする。
は、想定手段が、第1の画像の動きに対応した位置に画
素を想定することにより、第2の画像を生成するように
なされている。
は、第1の画像の動きに対応した位置に画素を想定する
ことにより、第2の画像を生成するようになされてい
る。
明するが、その前に、特許請求の範囲に記載の発明の各
手段と以下の実施の形態との対応関係を明らかにするた
めに、各手段の後の括弧内に、対応する実施の形態(但
し、一例)を付加して、本発明の特徴を記述すると、次
のようになる。
第1の画像から第2の画像を生成する画像処理装置であ
って、第1の画像を受信する受信手段(例えば、図1に
示すチューナ1など)と、第1の画像の動きに対応した
位置に画素を想定することにより、第2の画像を生成す
る想定手段(例えば、図4に示すコントローラ14およ
び解像度創造用メモリ部15など)とを備えることを特
徴とする。
画像の動きを検出する動き検出手段(例えば、図4に示
す動き検出部12など)をさらに備え、想定手段が、動
き検出手段によって検出された第1の画像の動きに対応
した位置に画素を想定することにより、第2の画像を生
成することを特徴とする。
出手段が、第1の画像の動きを、その第1の画像を構成
する画素より細かい単位で検出し、想定手段が、第1の
画像を記憶する、第1の画像の1画面分より多い記憶容
量の画像記憶手段(例えば、図4に示す解像度想像用メ
モリ部15など)と、画像記憶手段に第1の画像を書き
込むときのアドレスを、その第1の画像の動きに基づい
て制御するとともに、画像記憶手段の記憶値の読み出し
を制御する制御手段(例えば、図4に示すコントローラ
14など)とを有することを特徴とする。
画像のシーンチェンジを検出するシーンチェンジ検出手
段(例えば、図4に示すシーンチェンジ検出部13な
ど)と、第1の画像に、シーンチェンジが生じたとき
に、画像記憶手段の記憶値をクリアするクリア手段(例
えば、図4に示すコントローラ14など)とをさらに備
えることを特徴とする。
画像をフィルタリングするフィルタ手段(例えば、図4
に示す垂直LPF16など)をさらに備えることを特徴
とする。
の画像をフィルタリングするフィルタ手段(例えば、図
4に示す垂直LPF16など)と、フィルタ手段によっ
てフィルタリングされた第2の画像を、第1の画像と同
一の画素数にして出力する出力手段(例えば、図4に示
すフレームメモリ部17など)とをさらに備えることを
特徴とする。
記憶手段のアドレスのうち、第1の画像の画素が記憶さ
れていないものを検出するアドレス検出手段(例えば、
図25に示す書き込みフラグ記憶部42および画素生成
部43など)と、アドレス検出手段によって検出された
画像記憶手段のアドレスに対応する第2の画像の画素を
生成する生成手段(例えば、図25に示す画素生成部4
3など)とをさらに備えることを特徴とする。
レス検出手段が、画像記憶手段のアドレスに、第1の画
像の画素が書き込まれたときに、その旨を表すフラグ
が、対応するアドレスに書き込まれる、フラグを記憶す
るフラグ記憶手段(例えば、図25に示す書き込みフラ
グ記憶部42など)を有することを特徴とする。
手段が、アドレス検出手段によって検出された画像記憶
手段のアドレスに対応する第2の画像の画素を、画像記
憶手段に記憶されている第1の画像の画素の性質に応じ
て、所定のクラスに分類するクラス分類手段(例えば、
図18に示すクラス分類部201など)と、クラスごと
に、所定の予測係数を記憶している予測係数記憶手段
(例えば、図18に示す係数ROM207など)と、ア
ドレス検出手段によって検出された画像記憶手段のアド
レスに対応する第2の画像の画素のクラスに対応する予
測係数と、画像記憶手段に記憶されている第1の画像の
画素とを用いて所定の演算を行うことにより、アドレス
検出手段によって検出された画像記憶手段のアドレスに
対応する第2の画像の画素を求める演算手段(例えば、
図18に示す予測演算回路206など)とを有すること
を特徴とする。
の画像を複数の領域に分割する領域分割手段(例えば、
図10に示す領域分割部21並びにスイッチ22Aおよ
び22Bなど)と、第1の画像の複数の領域それぞれに
対応する第2の画像の複数の領域を合成することによ
り、第2の画像を生成する合成手段(例えば、図10に
示す合成部24など)とをさらに備え、想定手段が、第
1の画像の動きに対応した位置に画素を想定することに
より、第1の画像の複数の領域それぞれに対応する第2
の画像の複数の領域を求めることを特徴とする。
の画像の複数の領域それぞれの動きを検出する動き検出
手段(例えば、図10に示す動き検出部12など)をさ
らに備え、想定手段が、動き検出手段によって検出され
た第1の画像の複数の領域それぞれの動きに対応した位
置に画素を想定することにより、第2の画像の複数の領
域それぞれを求めることを特徴とする。
検出手段が、第1の画像の複数の領域それぞれの動き
を、その第1の画像を構成する画素より細かい単位で検
出し、想定手段が、第1の画像の複数の領域をそれぞれ
記憶する、第1の画像の1画面分より多い記憶容量の複
数の画像記憶手段(例えば、図10に示す解像度想像用
メモリ部15Aおよび15Bなど)と、複数の画像記憶
手段それぞれに、第1の画像の複数の領域それぞれを書
き込むときのアドレスを、その第1の画像の複数の領域
それぞれの動きに基づいて制御するとともに、複数の画
像記憶手段の記憶値の読み出しを制御する制御手段(例
えば、図10に示すコントローラ14Aおよび14Bな
ど)とを有することを特徴とする。
の画像のシーンチェンジを検出するシーンチェンジ検出
手段(例えば、図10に示すシーンチェンジ検出部13
など)と、第1の画像に、シーンチェンジが生じたとき
に、複数の画像記憶手段の記憶値をクリアするクリア手
段(例えば、図10に示すコントローラ14Aおよび1
4Bなど)とをさらに備えることを特徴とする。
の画像をフィルタリングするフィルタ手段(例えば、図
10に示す垂直LPF16など)をさらに備えることを
特徴とする。
の画像をフィルタリングするフィルタ手段(例えば、図
10に示す垂直LPF16など)と、フィルタ手段によ
ってフィルタリングされた第2の画像を、第1の画像と
同一の画素数にして出力する出力手段(例えば、図10
に示すフレームメモリ部17など)とをさらに備えるこ
とを特徴とする。
記憶手段のアドレスのうち、第1の画像の画素が記憶さ
れていないものを検出するアドレス検出手段(例えば、
図12に示す書き込みフラグ記憶部42および画素生成
部43など)と、アドレス検出手段によって検出された
画像記憶手段のアドレスに対応する第2の画像の画素を
生成する生成手段(例えば、図12に示す画素生成部4
3など)とをさらに備えることを特徴とする。
レス検出手段がは、画像記憶手段のアドレスに、第1の
画像の画素が書き込まれたときに、その旨を表すフラグ
が、対応するアドレスに書き込まれる、フラグを記憶す
るフラグ記憶手段(例えば、図12に示す書き込みフラ
グ記憶部42など)を有することを特徴とする。
手段が、アドレス検出手段によって検出された画像記憶
手段のアドレスに対応する第2の画像の画素を、画像記
憶手段に記憶されている第1の画像の画素の性質に応じ
て、所定のクラスに分類するクラス分類手段(例えば、
図18に示すクラス分類部201など)と、クラスごと
に、所定の予測係数を記憶している予測係数記憶手段
(例えば、図18に示す係数ROM207など)と、ア
ドレス検出手段によって検出された画像記憶手段のアド
レスに対応する第2の画像の画素のクラスに対応する予
測係数と、画像記憶手段に記憶されている第1の画像の
画素とを用いて所定の演算を行うことにより、アドレス
検出手段によって検出された画像記憶手段のアドレスに
対応する第2の画像の画素を求める演算手段(例えば、
図18に示す予測演算回路206など)とを有すること
を特徴とする。
処理装置が、第1の画像を記憶する、第1の画像の1画
面分より多い記憶容量の画像記憶手段(例えば、図4に
示す解像度想像用メモリ部15など)を有し、動き検出
ステップにおいて、第1の画像の動きを、その第1の画
像を構成する画素より細かい単位で検出し、想定ステッ
プにおいて、画像記憶手段に第1の画像を書き込むとき
のアドレスを、その第1の画像の動きに基づいて制御す
るとともに、画像記憶手段の記憶値の読み出しを制御す
ることを特徴とする。
処理装置が、画像記憶手段のアドレスに、第1の画像の
画素が書き込まれたときに、その旨を表すフラグが、対
応するアドレスに書き込まれる、フラグを記憶するフラ
グ記憶手段(例えば、図25に示す書き込みフラグ記憶
部42など)をさらに有し、アドレス検出ステップにお
いて、フラグ記憶手段を参照することにより、第1の画
像の画素が記憶されていない画像記憶手段のアドレスを
検出することを特徴とする。
処理装置が、所定のクラスごとに、所定の予測係数を記
憶している予測係数記憶手段(例えば、図18に示す係
数ROM207など)をさらに有し、生成ステップにお
いて、アドレス検出ステップで検出された画像記憶手段
のアドレスに対応する第2の画像の画素を、画像記憶手
段に記憶されている第1の画像の画素の性質に応じて、
所定のクラスのうちのいずれかに分類し、アドレス検出
ステップで検出された画像記憶手段のアドレスに対応す
る第2の画像の画素のクラスに対応する予測係数と、画
像記憶手段に記憶されている第1の画像の画素とを用い
て所定の演算を行うことにより、アドレス検出ステップ
で検出された画像記憶手段のアドレスに対応する第2の
画像の画素を求めることを特徴とする。
処理装置が、第1の画像の複数の領域をそれぞれ記憶す
る、第1の画像の1画面分より多い記憶容量の複数の画
像記憶手段(例えば、図10に示す解像度想像用メモリ
部15Aおよび15Bなど)を有し、動き検出ステップ
において、第1の画像の複数の領域それぞれの動きを、
その第1の画像を構成する画素より細かい単位で検出
し、想定ステップにおいて、複数の画像記憶手段それぞ
れに、第1の画像の複数の領域それぞれを書き込むとき
のアドレスを、その第1の画像の複数の領域それぞれの
動きに基づいて制御するとともに、複数の画像記憶手段
の記憶値の読み出しを制御することを特徴とする。
処理装置が、画像記憶手段のアドレスに、第1の画像の
画素が書き込まれたときに、その旨を表すフラグが、対
応するアドレスに書き込まれる、フラグを記憶するフラ
グ記憶手段(例えば、図12に示す書き込みフラグ記憶
部42など)をさらに有し、アドレス検出ステップにお
いて、フラグ記憶手段を参照することにより、第1の画
像の画素が記憶されていない画像記憶手段のアドレスを
検出することを特徴とする。
処理装置が、所定のクラスごとに、所定の予測係数を記
憶している予測係数記憶手段(例えば、図18に示す係
数ROM207など)をさらに有し、生成ステップにお
いて、アドレス検出ステップで検出された画像記憶手段
のアドレスに対応する第2の画像の画素を、画像記憶手
段に記憶されている第1の画像の画素の性質に応じて、
所定のクラスのうちのいずれかに分類し、アドレス検出
ステップで検出された画像記憶手段のアドレスに対応す
る第2の画像の画素のクラスに対応する予測係数と、画
像記憶手段に記憶されている第1の画像の画素とを用い
て所定の演算を行うことにより、アドレス検出ステップ
で検出された画像記憶手段のアドレスに対応する第2の
画像の画素を求めることを特徴とする。
ものに限定することを意味するものではない。
像機の一実施の形態の構成例を示している。
れた受信信号から、所定のチャンネルのテレビジョン放
送信号を検波、復調し、LPF(Low Pass Filter)2
に出力するようになされている。LPF2は、その後段
のA/D変換器3でサンプリング(A/D変換)を行う
際に、サンプリングの定理を満たすようにするためのプ
リフィルタで、チューナ1からのテレビジョン放送信号
の高周波数成分を制限し、A/D変換器3に出力するよ
うになされている。A/D変換器3は、LPF2の出力
をサンプリングすることにより、アナログのテレビジョ
ン放送信号を、ディジタル信号に変換し、歪み補正部4
に出力するようになされている。歪み補正部4は、A/
D変換器3からのテレビジョン放送信号から、前述した
ような垂直方向の折り返し歪みを除去(低減)し、D/
A変換器5に出力するようになされている。D/A変換
器5は、歪み補正部4からのディジタルの画像信号をD
/A変換することによりアナログ信号とし、CRT6に
出力するようになされている。CRT6は、D/A変換
器5の出力に対応した画像を表示するようになされてい
る。
信信号から、所定のチャンネルのテレビジョン放送信号
が検波、復調され、LPF2を介してA/D変換器3に
出力される。A/D変換器3では、LPF2を介して供
給されるテレビジョン放送信号がA/D変換され、歪み
補正部4に供給される。
LPF2との間、または歪み補正部4とD/A変換器5
との間には、例えば、Y/C分離その他の必要な画像処
理を行う回路が設けられいる。なお、A/D変換器3で
は、そこに、Y/C分離前のコンポジット信号が入力さ
れる場合には、例えば、サブキャリアの周波数で、ま
た、Y/C分離後の信号が入力される場合には、例え
ば、13.5MHzなどで、それぞれサンプリングが行
われる。
ジタルの画像信号を受信すると、その画像信号から、垂
直方向(水平走査線と直交する方向)の折り返し歪みを
除去し、D/A変換器5を介して、CRT6に出力す
る。これにより、CRT6では、折り返し歪みのない画
像が表示される。
し歪みの除去処理についての詳細を説明するが、その前
に、その前段階の準備として、その折り返し歪みの除去
(低減)方法の原理について説明する。
を含む画像から、高周波成分を含む元の画像(例えば、
風景を撮影して得られる画像について、その風景を実際
に見たときに、人間が視覚的に認識する画像(またはそ
れにより近い画像))を再生し、それに垂直方向のプリ
フィルタをかけて垂直方向の高周波数成分をカットする
ことにより、画像に含まれていた折り返し歪みを除去
(折り返し歪みの生じていない画像を生成)するように
なされている。
下、適宜、歪み画像という)からの元の画像の再生は、
次のようにして行われる。
ある垂直方向の1列に注目し、そこにおける元の画像
が、同図に実線で示すような、水平走査期間に対応する
周波数の1/2よりも高い周波数で周期的に変化し、そ
の位相が時間とともに垂直方向にずれていく三角波で表
されるとする。
ると、図2(A)に点線で示すように、元の画像を走査
線上でサンプリングすることにより得られるサンプル値
を結んだ、元の画像とはまったく異なる歪み画像が得ら
れる。
ムだけに注目すると、やはり、第Nフレームだけに注目
した場合と同様に、元の画像とはまったく異なる歪み画
像が得られる。
の位相が時間とともに垂直方向にずれていっているの
で、第N+1フレームで得られる歪み画像は、第Nフレ
ームにおける場合とは異なる位置で元の画像をサンプリ
ングすることにより得られるサンプル値を結んだものと
なる。
のサンプリング点(図2において○印で示す)を、元の
画像の位相の変化、つまり歪み画像の動きに対応した位
置に移動し、その移動後のサンプリング点におけるサン
プル値、および第N+1フレームにおけるサンプル値を
結べば、その波形は、図2(B)において点線で示すよ
うに、元の画像に近づくことになる。
るサンプル値のサンプリング点を、歪み画像の動きに対
応した位置に移動し、その移動後のサンプリング点にお
けるサンプル値、および現在のフレームにおけるサンプ
ル値を結んでいくことにより、図2(C)乃至図2
(E)に示すように、徐々に、元の画像が再生されてい
く。
位置にサンプリング点を移動していき、その移動後のサ
ンプリング点におけるサンプル値を用いることで、元の
画像を再生することができる。即ち、歪み画像の動きに
対応した位置に画素を想定していくことで、垂直方向の
画素数が増加し、これによりサンプリングの定理が満た
され、その結果、元の画像が得られるようになる。
即ち、歪み画像は、画面の中の固定の位置にある水平走
査線上で、元の画像をサンプリングしたものと捉えるこ
とができ、従って、元の画像が動いている場合におい
て、時間的に連続する複数フレームそれぞれの固定の位
置にある水平走査線上では、図2に示したように、元の
画像の異なる位置の信号がサンプリングされる。従っ
て、そのような、元の画像の異なる位置の信号(サンプ
ル値)を、時間的に連続する複数フレームの歪み画像か
ら集め、その動きにしたがって合成することにより、固
定の位置にある水平走査線の間を、いわば埋めて1フレ
ームの画像を構成すれば、元の画像が得られることにな
る。なお、このことは、時間方向の解像度の、空間解像
度への反映ということができる。
えば、図3(A)に示すような、時間的に連続する歪み
画像の各フレームについて、その動きに対応した位置
に、過去のフレームの歪み画像を構成する画素を想定し
ていくことにより、同図(B)に示すように、垂直方向
の画素数、即ち、水平走査線数が増加した、折り返し歪
みのない画像が生成されるようになされている。
を再生する方法を用いるには、歪み画像(従って、元の
画像についても同様)に動きがある必要がある。但し、
歪み画像に動きがない場合においては、前述したよう
に、解像度は悪くなるが、画面のざわざわ感は生じない
ので、折り返し歪みは、視覚的に、それほど問題となら
ない。
するような物体が表示されている場合には、その形状の
変化する速さv1に対して、物体自体の動き(移動)の
速さv2が充分速いこと(v1<<v2であること)が
必要である。但し、このこと(v1<<v2であるこ
と)は、一般的に成立することが多い。
例を示している。なお、ここでは、説明を簡単にするた
めに、例えば、ビデオカメラをパンやチルトすることに
より、風景などを撮影することにより得られた、全画面
が同一の動きをする歪み画像が入力されるものとする。
ームの歪み画像を記憶するようになされている。即ち、
フレームメモリ部11は、現フレームメモリ11Aおよ
び前フレームメモリ11Bを有し、現フレームメモリ1
1Aは、いま入力された現フレームを、前フレームメモ
リ11Bは、現フレームの1つ前の前フレーム(従っ
て、現フレームが現フレームメモリ11Aに供給される
直前まで、その現フレームメモリ11Aに記憶されてい
たフレーム)を、それぞれ記憶するようになされてい
る。
を参照し、現フレームの、前フレームに対する動きを表
す動きベクトルを検出し、コントローラ14に供給する
ようになされている。なお、上述したように、ここで
は、歪み画像として、全画面が同一の動きをするものが
入力されるので、全画面(1フレーム)について、1つ
の動きベクトルが検出されるようになされている。ま
た、ここでは、動き検出部12は、動きベクトルを構成
する成分のうち、折り返し歪みが生じている方向、即
ち、垂直方向の成分についてだけは、歪み画像を構成す
る画素より細かい単位で動きを検出するようになされて
いる。
トルの検出は、例えば、次のようにして行うことができ
る。即ち、例えば、動きベクトルを検出しようとする現
フレームの、例えば8×8画素(横×縦)のブロック
(以下、適宜、処理対象ブロックという)と同一の大き
さで同一の形のブロックを、前フレームの所定の位置に
考え、まず最初に、そのブロック(以下、適宜、参照ブ
ロックという)と処理対象ブロックとの、対応する位置
にある画素の画素値どうしの差分の絶対値和など(以
下、適宜、誤差という)を求める。
参照ブロックを画素単位で種々の位置に移動して得られ
る誤差のうち、その最小値を与える参照ブロックの位置
からの、処理対象ブロックへのベクトルが動きベクトル
とされるが、このようにして画素単位で動きベクトルを
検出した後、例えば、図5に示すように、誤差と参照ブ
ロックの位置との対応関係を考え、誤差を、例えば直線
で線形補間したときに得られる最小値の参照ブロックの
位置(図5において×印で示す部分)を求めれば、その
位置に対応するベクトルが、画素より細かい単位での動
きベクトルとなる。
は、フレームメモリ部11を参照することにより、いわ
ゆるシーンチェンジを検出するようになされている。即
ち、シーンチェンジ検出部13は、例えば、上述した画
素単位で動きベクトルを検出する場合と同様にして、現
フレームを構成する各ブロックの誤差の最小値を求め、
その誤差の最小値の、現フレームを構成するブロックに
ついての総和が所定の閾値以上の場合、前フレームから
現フレームにかけてシーンチェンジがあったと判定し、
その旨を、コントローラ14に出力するようになされて
いる。
の動きベクトルに基づいて、解像度創造用メモリ部15
における書き込みアドレスおよび読み出しアドレスを制
御するようになされている。また、コントローラ14
は、シーンチェンジ検出部13からシーンチェンジであ
る旨を受信したとき、解像度創造用メモリ部15におけ
る書き込みアドレスおよび読み出しアドレスをリセット
するとともに、その記憶値を、所定の初期値にクリアす
るようにもなされている。
1フレーム分より多い記憶容量を有するメモリなどで構
成され、コントローラ14の制御の下、フレームメモリ
部11の現フレームメモリ11Aに記憶された現フレー
ムの画像データを記憶し、また、記憶した画像データを
読み出して、垂直LPF16に出力するようになされて
いる。
ば、図6に示すように、水平方向(水平走査線の方向)
にはPH’個の画素についての画像データを、垂直方向
にはPV’個の画素についての画像データを、それぞれ
記憶することができるようになされている。なお、歪み
画像を構成する水平方向または垂直方向の画素数を、そ
れぞれPHまたはPVとすると、ここでは、例えば、
PH’≧PH,PV’≧4PVとなっており、従って、解像
度創造用メモリ部15は、水平方向については、歪み画
像を構成する水平方向の画素数と同一の数以上の画素
を、垂直方向については、歪み画像を構成する垂直方向
の画素数の4倍以上の画素を、それぞれ記憶することが
できるようになされている。
レスについては、絶対アドレスと相対アドレスとが定義
されている。絶対アドレスは、例えば、解像度創造用メ
モリ部15の最も左上の記憶領域を原点(0,0)と
し、水平または垂直方向をそれぞれxまたはy軸として
シーケンシャルに付されており、従って、左からi+1
番目で、上からj+1番目の絶対アドレスは、(i,
j)となっている。
に、相対アドレスポインタが指している絶対アドレスを
原点とするもので、相対アドレスポインタの左からi+
1番目で、上からj+1番目の相対アドレスは、(i,
j)と表される。
4により制御されるようになされており、解像度創造用
メモリ部15への画像データの書き込み、およびそこか
らの画像データの読み出しは、相対アドレスポインタを
最も左上の点とする、例えば、PH×4PV画素の範囲
(同図において点線で示す部分)(以下、適宜、アクセ
ス範囲という)を対象として行われるようになされてい
る。
リ部15への画像データの書き込みは、アクセス範囲を
対象として行われ、ここでは、アクセス範囲の大きさ
は、PH×4PV画素の範囲となっている。従って、この
場合、アクセス範囲には、水平方向については、歪み画
像を構成する水平方向の画素数と同一数の画素の書き込
みしかできないが、垂直方向については、歪み画像を構
成する垂直方向の画素数の4倍の画素の書き込みをする
ことができる。このようにしたのは、図2や図3で説明
したように、歪み画像の各フレームについて、その動き
に対応した位置に画素を想定していくことにより、垂直
方向の画素数(水平走査線の数)が増加した、折り返し
歪みのない画像を生成(創造)するためである。
画像の書き込みは、図8に斜線を付して示すように、水
平方向については、相対アドレスポインタが指すアドレ
スから順次行われていくが、垂直方向については、相対
アドレスポインタが指すアドレスから3行おきに行われ
ていく。従って、歪み画像における1画素分の垂直方向
の動きは、アクセス範囲においては4画素分に相当し、
その結果、歪み画像における1/4画素分単位の垂直方
向の動きに対応した位置に画素を想定することができる
ことになる。つまり、垂直方向にだけ注目すれば、歪み
画像の動きにしたがってアクセス範囲を1画素より細か
い単位(ここでは、歪み画像を構成する画素間の距離の
1/4の単位)で移動させることができ、そのようなア
クセス範囲に、歪み画像を3行おきに書き込んで行け
ば、図2や図3で説明したように、水平走査線の間が埋
められていき、垂直方向の解像度が4倍となった画像
(このように、いわば解像度が創造された画像が得られ
るので、メモリ部15を、解像度創造用メモリ部と呼ん
でいる)、即ち、垂直方向のサンプリング点の数が4倍
になった画像が、元の画像として得られることになる。
15に記憶され、アクセス範囲から読み出された、垂直
方向の画素数が増加した画像データは、垂直LPF16
に供給されるようになされている。垂直LPF16は、
解像度創造用メモリ部15からの画像データに対して、
垂直方向にLPFをかけることにより、その最高周波数
成分を、垂直方向のサンプリング点の数が1/4になっ
ても折り返し歪みが生じないように制限し、フレームメ
モリ部17に供給するようになされている。フレームメ
モリ部17は、例えば、アクセス範囲と同様の記憶容量
を有し、垂直LPFから供給される、垂直方向の最高周
波数が制限された画像データを一時記憶し、また、記憶
した画像データを、例えば3ライン(3水平走査線)お
きに読み出すことにより、1フレームの歪み画像を構成
するライン数と同一数のラインからなる画像を構成して
出力するようになされている。
て、図9のフローチャートを参照して説明する。
され、現フレームメモリ11Aに記憶される。そして、
次のフレームの歪み画像が供給されると、その歪み画像
が、現フレームとして、現フレームメモリ11Aに記憶
されるとともに、いままで現フレームメモリ11Aに記
憶されていた歪み画像が、前フレームとして前フレーム
メモリ11Bに供給されて記憶される。以下、フレーム
メモリ部11では、同様の処理が繰り返される。
11Aにおいて、最初のフレームが記憶されると、シー
ンチェンジ検出部13では、シーンチェンジを検出する
のと同様にして、最初のフレームが現フレームメモリ1
1Aに記憶されたことが検出され、シーンチェンジがあ
った旨が、コントローラ14に知らされる。
最初のフレームが現フレームメモリ11Aに記憶された
場合、前フレームメモリ11Bには、まだ画像データが
記憶されていないため、両者の差分の絶対値和が大きく
なり、上述のように、シーンチェンジが検出されるが、
ここでは、シーンチェンジか、または最初のフレームが
現フレームメモリ11Aに記憶されたのかを区別する必
要はないので、問題はない。
部13からシーンチェンジ(但し、実際には、上述した
ように、シーンチェンジではなく、現フレームメモリ1
1Aへの最初のフレームの記憶)を受信すると、ステッ
プS1において、解像度創造用メモリ部15をリセット
する。即ち、相対アドレスポインタを、絶対アドレスの
原点(0,0)に移動させ、さらに、解像度創造用メモ
リ部15の記憶値をすべて、所定の初期値にクリアす
る。
メモリ11Aに記憶された歪み画像が、解像度創造用メ
モリ部15に供給されて記憶される。この歪み画像の書
き込みは、上述したように、アクセス範囲内に行われ、
また、垂直方向については4画素ごと(3画素おき)に
行われる。なお、解像度創造用メモリ部15に歪み画像
を書き込むときのアドレス制御は、コントローラ14に
よって行われる。
囲内において、歪み画像の書き込みが行われていない記
憶領域の補間が行われる。即ち、ステップS2において
のアクセス範囲内への歪み画像の書き込みは、上述した
ように、垂直方向については、4画素ごとに行われるた
め、それを、そのまま読み出したのでは、いわば隙間の
あいたものとなる。そこで、ステップS3では、アクセ
ス範囲内において、歪み画像の書き込みが行われていな
い記憶領域の補間が行われる。具体的には、ステップS
2の終了後は、図8に斜線を付して示す部分(ライン)
の書き込みしか行われていないので、ステップS3で
は、例えば、その書き込みが行われた部分が、その下の
3ラインにコピーされる。
アクセス範囲内の画像データが読み出され、垂直LPF
16およびフレームメモリ部17を介して出力される。
なお、アクセス範囲内の画像データを読み出すときのア
ドレス制御も、コントローラ14によって行われる。ま
た、アクセス範囲内からの画像データの読み出しは、書
き込み時と異なり、隙間をあけずに、1ラインごとに行
われる。
11に供給されると、シーンチェンジ検出部13では、
ステップS5において、シーンチェンジがあったかどう
かが判定される。ステップS5において、シーンチェン
ジがあったと判定された場合、ステップS1に戻り、上
述した場合と同様の処理が行われる。
ンジがなかったと判定された場合、ステップS6に進
み、動き検出部12において、動きベクトルが検出され
る。なお、ここでは、垂直方向については、上述したよ
うにして、1ラインの間隔よりも短い単位で動きベクト
ルが検出される。動き検出部12で検出された動きベク
トルは、コントローラ14に供給される。コントローラ
14は、動きベクトルを受信すると、その動きベクトル
に対応する分だけ相対アドレスポインタを移動させる。
向については、動きベクトルの水平方向の成分と同一の
画素数だけ移動されるが、垂直方向については、動きベ
クトルの垂直方向の成分を4倍した値を、例えば、四捨
五入したものと同一の画素数だけ移動される。これは、
アクセス範囲が、上述したように、垂直方向について
は、歪み画像の4倍の画素数に対応する記憶容量を有す
るからである。
プS8に進み、現フレームメモリ11Aに記憶された歪
み画像(ステップS6で動きベクトルが検出された画
像)が、解像度創造用メモリ部15に供給される。そし
て、その歪み画像は、ステップS2における場合と同様
にして、アクセス範囲内に、4ラインごとに書き込ま
れ、ステップS9に進む。ステップS9では、ステップ
S4における場合と同様に、アクセス範囲内の画像デー
タが読み出され、垂直LPF16およびフレームメモリ
部17を介して出力される。
が終了したかどうか、即ち、フレームメモリ部11への
画像の供給がなくなったかどうかが判定される。ステッ
プS10において、歪み画像が終了していないと判定さ
れた場合、即ち、さらに次のフレームがフレームメモリ
部11に供給された場合、ステップS5に戻り、ステッ
プS5でシーンチェンジがあったと判定されるか、また
はステップS10で歪み画像が終了したと判定されるま
で、ステップS5乃至S10の処理が繰り返される。ま
た、ステップS10において、歪み画像が終了したと判
定された場合、処理を終了する。
れることにより、アクセス範囲内には、図2や図3で説
明したように、歪み画像(第1の画像)の水平走査線の
間の、その動きに対応した位置に画素が想定され、これ
により、元の画像(第2の画像)が再生されていく。即
ち、いま、元の画像に含まれる垂直方向の最高周波数
が、歪み画像の水平走査期間の1/4に対応する周波数
の1/2以下であったとすれば、ステップS5乃至S1
0の処理が数回繰り返されることにより、アクセス範囲
内には、垂直方向に充分なサンプリング点(画素)(サ
ンプリングの定理を満足するのに必要なサンプリング
点)が想定された、垂直方向の折り返し歪みがない画像
が形成されていく。
像に、Y/C分離や、ノイズ除去、画質改善のための処
理、その他の信号処理を施すようにすることにより、従
来生じていた弊害を防止することが可能となる。
走査線を有する高解像度のものであれば、解像度創造用
メモリ部15におけるアクセス範囲内の記憶値を、その
ままCRT6に供給することで、垂直方向の折り返し歪
みのない高解像度の画像を表示することが可能となる。
5の出力を、垂直LPF16およびフレームメモリ部1
7を介することにより、歪み画像と同一の解像度を有す
る画像を表示することとしているため、解像度は改善さ
れないが、垂直LPF16によって帯域制限されるた
め、前述したような画面のざわざわ感が生じることはな
く、視聴者に大きな違和感を感じさせることを防止する
ことができる。
周波数が、歪み画像の水平走査期間の1/4に対応する
周波数の1/2より高い場合、ステップS5乃至S10
の処理を何回繰り返しても、サンプリングの定理が満た
されることはなく、垂直方向の折り返し歪みがない画像
は得られない。しかしながら、この場合であっても、垂
直方向の画素数は増加するから、垂直方向の折り返し歪
みを低減した画像を得ることができ、従って、従来生じ
ていた信号処理上の弊害や、画面のざわざわ感などを低
減することができる。
の構成例を示している。なお、図中、図4における場合
と対応する部分については同一の符号を付してあり、以
下では、その説明は、適宜省略する。即ち、この歪み補
正部4は、領域分割部21、スイッチ22Aおよび22
B、メモリ23Aおよび23B、並びに合成部24が新
たに設けられるとともに、コントローラ14または解像
度創造用メモリ部15に代えて、コントローラ14Aと
14B、または解像度創造用メモリ部15Aと15Bが
それぞれ設けられている他は、図4における場合と基本
的に同様に構成されている。
きをする歪み画像が入力されるものとしたが、ここで
は、1フレームが、異なる動きをする複数の領域として
の、例えば、第1と第2の2つの領域からなる歪み画像
(例えば、背景となる空を、前景となる航空機が飛行し
ているものなど)が入力されるものとする。
の領域からなる歪み画像が入力されるため、領域分割部
21では、動き検出部12の出力に基づいて、歪み画像
が、その第1と第2の2つの領域に分割される。
全画面についての1つの動きベクトルを検出するように
なされていたが、ここでは、歪み画像を、例えば、8×
8画素や16×16画素などのブロックに分割したブロ
ック単位で動きベクトルを検出し、そのブロック単位の
動きベクトルを、領域分割部21に出力するようになさ
れている。
動きベクトルや、隣接する画素の画素値どうしの差分そ
の他を用いて領域分割のための処理を行い、さらにスム
ージングその他の必要な処理を行うことで、歪み画像を
構成する第1と第2の領域を認識し(領域分割し)、そ
の認識結果に対応して、スイッチ22Aおよび22Bを
制御する。即ち、例えば、フレームメモリ部11から第
1の領域を構成する画素の画素値が読み出されるタイミ
ングでは、スイッチ22Aをオンにするとともに、スイ
ッチ22Bをオフにし、これにより、第1の領域を構成
する画素の画素値をメモリ23Aに供給して記憶させ
る。また、フレームメモリ部11から第2の領域を構成
する画素の画素値が読み出されるタイミングでは、その
逆に、スイッチ22Aをオフにするとともに、スイッチ
22Bをオンにし、これにより、第2の領域を構成する
画素の画素値をメモリ23Bに供給して記憶させる。
2の領域に領域分割され、メモリ23Aと23Bにそれ
ぞれ記憶される。
の領域を代表する1つ動きベクトルを、例えば、その第
1または第2の領域に含まれるブロックの動きベクトル
に基づいて求め、コントローラ14Aまたは14Bにそ
れぞれ出力する。コントローラ14Aおよび解像度創造
用メモリ部15Aと、コントローラ14Bおよび解像度
創造用メモリ部15Bは、いずれも図4のコントローラ
14および解像度創造用メモリ部15に対応するもの
で、コントローラ14および解像度創造用メモリ部15
は、1フレーム全体を対象として処理を行うようになさ
れていたが、コントローラ14Aおよび解像度創造用メ
モリ部15A、またはコントローラ14Bおよび解像度
創造用メモリ部15Bは、メモリ23Aまたは23Bに
記憶された第1または第2の領域を対象としてそれぞれ
処理を行うようになされている。
15Aまたは15Bそれぞれのアクセス範囲内に、第1
または第2の領域の水平走査線の間の位置に画素が想定
され、これにより、第1または第2の領域それぞれにつ
いて、元の画像が再生(創造)されていく。
は、シーンチェンジ検出部13からシーンチェンジであ
る旨を受信すると、コントローラ14における場合と同
様に、解像度創造用メモリ部15Aまたは15Bをそれ
ぞれリセットするようになされている。
それぞれのアクセス範囲内に記憶された、水平走査線の
間の位置に画素が想定された第1または第2の領域は、
いずれも合成部24に供給され、そこで合成される。こ
れにより、第1と第2の領域からなる、垂直方向の折り
返し歪みのない高解像度の画像が形成され、この画像
は、垂直LPF16およびフレームメモリ部17を介し
て出力される。
らなる歪み画像であっても、各領域ごとに処理を行うこ
とで、垂直方向の折り返し歪みのない(低減された)画
像を得ることができる。
2つの領域からなるものとしたが、歪み画像が3以上の
領域からなるものである場合には、その3以上の領域そ
れぞれを処理して合成するようにすれば良い。
返し歪みを除去するようにしたが、画像に、水平方向の
折り返し歪みが含まれる場合には、その折り返し歪みも
同様にして除去することが可能である。即ち、例えば、
水平方向について、周波数帯域の制限が行われていない
場合においては、それにより生じる水平方向の折り返し
歪みを、上述した場合と同様にして除去することが可能
である。
画像の画素数(水平走査線数)の4倍の数の画素を想定
するようにしたが、想定する画素数は、これに限定され
るものではない。
対アドレスポインタの位置によっては、解像度創造用メ
モリ部15の記憶領域からはみ出す場合があるが、この
ような場合、そのはみ出し部分は、例えば、解像度創造
用メモリ部15の記憶領域の中の、その記憶領域が周辺
に繰り返し存在すると仮定したときの位置に確保され
る。即ち、いま、X≧PH’,Y≧PV’として、絶対ア
ドレスが(X,Y)で表される位置が、アクセス範囲に
含まれるようになった場合、その位置は、絶対アドレス
が(mod(X,PH’),mod(Y,PV’))で表
される解像度創造用メモリ部15の記憶領域に確保され
る。但し、mod(a,b)は、aをbで除算したとき
の剰余を表す。
を、その歪み画像を構成する画素より細かい単位で検出
し、その動きに対応する位置に画素を想定することで、
折り返し歪みのない元の画像を復元するようにしたが、
この復元は、例えば、次のようにして行うことも可能で
ある。即ち、いま、折り返し歪みのない元の画像をPと
表すとともに、歪み画像をP’と表すと、両者の関係
は、次式で表すことができる。
を表す。
と、式P=g(P’)が成り立つ。
復元は、歪み画像の動きを検出しなくても、原理的に
は、関数g()が分かれば行うことができる。
像Pの異なる位置の信号(サンプル値)を、時間的に連
続する複数フレームの歪み画像P’から集め、固定の位
置にある水平走査線の間を埋めて元の画像Pを構成する
ものであるから、関数g()は、例えば、元の画像Pを
教師データとするとともに、その元の画像Pをサブサン
プルして得られる、時間的に連続する複数フレームの歪
み画像P’を学習データとして、学習を行うことにより
求めることが可能であり、元の画像Pの復元は、このよ
うにして求めた関数g()によって行うようにすること
も可能である。
に対応した位置に画素を想定していくことで、その画像
の画素数を増加させることは、折り返し歪みの除去の
他、例えば、標準解像度または低解像度の画像(以下、
適宜、SD(Standard Definition)画像という)を、
高解像度の画像(以下、適宜、HD(High Definitio
n)画像という)に変換したり、また、画像を拡大した
りする場合などにも適用することができる。
ン放送信号を、HD画像に変換して表示するテレビジョ
ン受像機の一実施の形態の構成例を示している。なお、
図中、図1における場合と対応する部分については、同
一の符号を付してある。即ち、図11のテレビジョン受
像機は、歪み補正部4またはCRT6に代えて、解像度
変換部34またはCRT36がそれぞれ設けられている
他は、図1のテレビジョン受像機と基本的に同様に構成
されている。
のSD画像を、HD画像に変換し、D/A変換器5に供
給するようになされている。CRT36は、HD画像に
対応する高解像度のCRTで、解像度変換部34から、
D/A変換器5を介して供給されるHD画像を表示する
ようになされている。
成例を示している。なお、図中、図4または図10の歪
み補正部4における場合と対応する部分については、同
一の符号を付してある。
0におけるコントローラ14A、解像度創造用メモリ部
15A、スイッチ22A、およびメモリ23Aや、コン
トローラ14B、解像度創造用メモリ部15B、スイッ
チ22B、およびメモリ23Bに対応する、M個の高解
像度オブジェクト生成部411乃至41Mが設けられてい
る。但し、高解像度オブジェクト生成部41mは(m=
1,2,・・・,M)、図10におけるコントローラ1
4A、解像度創造用メモリ部15A、スイッチ22A、
およびメモリ23Aや、コントローラ14B、解像度創
造用メモリ部15B、スイッチ22B、およびメモリ2
3Bに対応するコントローラ14、解像度創造用メモリ
部15、スイッチ22、およびメモリ23の他に、書き
込みフラグ記憶部42および画素生成部43を有してい
る。
用メモリ部15が記憶する画素数と同一数の書き込みフ
ラグを記憶するようになされている。ここで、書き込み
フラグは、解像度創造用メモリ部15の、対応するアド
レスに、SD画像の画素が記憶されているかどうかを表
す1ビットのフラグで、例えば、記憶されている場合は
1にセットされ、記憶されていない場合は0にリセット
されるようになされている。この書き込みフラグは、コ
ントローラ14によって、セット/リセットされるよう
になされている。なお、解像度創造用メモリ部15の、
あるアドレスに、SD画像の画素が記憶されていない場
合、そのアドレスにおける記憶値は、初期値になってい
ることから、書き込みフラグは、解像度創造用メモリ部
15の記憶値が、初期値かどうかを表すフラグであると
いうこともできる。
42を参照して、解像度創造用メモリ部15から読み出
された記憶値が、初期値かどうかを判定し、初期値であ
る場合には、その記憶値のアドレスに対応するHD画像
の画素を、解像度創造用メモリ部15の、初期値以外の
記憶値、即ち、コントローラ14によって、解像度創造
用メモリ部15に書き込まれたSD画像の画素を用いて
生成するようになされている。
うに、SD画像を構成する水平方向または垂直方向の画
素数を、それぞれPHまたはPVとすると、解像度創造用
メモリ部15が記憶可能な水平方向、垂直方向の画素数
PH’,PV’は、PH’≧2PH,PV’≧2PVとなって
おり、従って、解像度創造用メモリ部15は、水平方向
および垂直方向のいずれについても、SD画像を構成す
る画素数の2倍以上の画素を記憶することができるよう
になされている。また、アクセス範囲は、図13に示す
ように、相対アドレスポインタを最も左上の点とする2
PH×2PV画素の範囲とされている。
よび垂直方向のいずれの方向についても、SD画像の画
素より細かい単位で動きが検出されるようになされてい
る。
1乃至41Mは、いずれも同様に構成されるため、以下で
は、そのうちの、例えば、高解像度オブジェクト生成部
411についてだけ説明する。
では、A/D変換器3からのSD画像が、その水平方向
または垂直方向の解像度(画素数)を、例えば、それぞ
れ2倍にしたHD画像に変換される。
A/D変換器3(図11)から、SD画像が供給され、
そこでは、A/D変換器3からのSD画像が、上述した
ようにして、順次記憶されていく。
ムメモリ部11に記憶されたSD画像の動きベクトル
が、水平方向および垂直方向とも、そのSD画像の画素
よりも細かい単位で検出され、領域分割部21に供給さ
れる。
動きベクトルや、隣接する画素の画素値どうしの差分そ
の他を用いて領域分割のための処理を行い、さらにスム
ージングその他の必要な処理を行うことで、SD画像
を、それを構成する幾つかのオブジェクトの領域に領域
分割し、その領域分割結果に対応して、スイッチ22を
制御する。即ち、例えば、フレームメモリ部11から、
所定のオブジェクトの領域を構成する画素(SD画像の
画素(以下、適宜、SD画素という))の画素値が読み
出されるタイミングでは、スイッチ22をオンにすると
ともに、他の高解像度オブジェクト生成部412乃至4
1Mが内蔵するスイッチをすべてオフにし、これによ
り、所定のオブジェクトの領域を構成するSD画素(画
素値)を、メモリ23に供給して記憶させる。
D画素を記憶させたオブジェクトの領域を代表する1つ
動きベクトルを、その領域に含まれるブロックの動きベ
クトルに基づいて求め、コントローラ14に出力する。
コントローラ14は、解像度創造用メモリ部15におけ
る相対アドレスポインタを、領域分割部21からの動き
ベクトルにしたがって移動し、その移動後の相対アドレ
スポインタを最も左上の頂点とするアクセス範囲に、メ
モリ23に記憶されたSD画素を記憶させる。さらに、
コントローラ14は、書き込みフラグ記憶部42に記憶
されている書き込みフラグのうち、SD画素を書き込ん
だ解像度創造用メモリ部15のアドレスに対応するもの
を、1にセットする。なお、アクセス範囲へのSD画素
の書き込みは、ここでは、水平および垂直方向とも、1
つおき(2画素ごと)に行われる。
15のアクセス範囲内に、垂直方向だけでなく、水平方
向にも画素が想定され、これにより、SD画像の水平方
向および垂直方向の画素数を、いずれも2倍にしたHD
画像が再生(創造)されていく。
ジ検出部13からシーンチェンジである旨を受信する
と、解像度創造用メモリ部15をリセット(クリア)す
る他、書き込みフラグ記憶部42もリセットする(書き
込みフラグすべてを0にリセットする)ようになされて
いる。
内における記憶値は、すべて、コントローラ14の制御
の下、HD画像を構成する画素(以下、適宜、HD画素
という)として読み出され、画素生成部43に供給され
る。画素生成部43は、HD画素として読み出された記
憶値が、初期値かどうかを、書き込みフラグ記憶部42
を参照することにより判定(検出)し、即ち、HD画素
として読み出された値が、メモリ23から書き込まれた
SD画素であるかどうかを判定し、その判定結果に基づ
いて、HD画素を生成する。
アクセス範囲は、1画面のSD画像の水平方向または垂
直方向の画素数を、それぞれ2倍にした数に対応するア
ドレス空間を有し、また、アクセス範囲は、動きベクト
ルにしたがって移動されるから、アクセス範囲が、常
時、その全体に、SD画素が書き込まれた状態になって
いるとは限らない。そこで、画素生成部43は、アクセ
ス範囲内の各アドレスの記憶値が、SD画素であるかど
うかを判定し、SD画素である場合には、そのSD画素
を、そのままHD画素として出力し、SD画素でない場
合、即ち、シーンチェンジの検出後に書き込まれた初期
値である場合には、アクセス範囲に、既に書き込まれて
いるSD画素を用いて、HD画素を生成して出力するよ
うになされている。
する、所定のオブジェクトを構成するHD画素は、合成
部24に供給される。
ト生成部412乃至41Mが、高解像度オブジェクト生成
部411と同様にして生成するHD画素で構成される他
のオブジェクトも供給されるようになされており、合成
部24では、これらのHD画素で構成されるオブジェク
トが合成され、これにより、SD画像の水平方向または
垂直方向の画素数(解像度)をそれぞれ2倍にしたHD
画像が形成される。
1)を介して、CRT36に供給されて表示される。
て、図12の高解像度オブジェクト生成部411におけ
る解像度創造用メモリ部15へのSD画素の書き込み処
理について、さらに説明する。
1フレームにおける、所定のオブジェクトを構成するS
D画素が記憶されるごとに行われる。
オブジェクトを構成するSD画素が記憶されると、まず
最初に、コントローラ14は、ステップS11におい
て、シーンチェンジ検出部13からの出力を参照するこ
とにより、シーンチェンジが生じたかどうかを判定す
る。ステップS11において、シーンチェンジが生じた
と判定された場合、ステップS12に進み、解像度創造
メモリ部15がリセットされる。即ち、図9のステップ
S1における場合と同様に、相対アドレスポインタが、
例えば、絶対アドレスの原点(0,0)に移動されると
ともに、解像度創造用メモリ部15の記憶値がすべて、
所定の初期値にクリアされる。
ーラ14は、さらに、書き込みフラグ記憶部42に記憶
されている書き込みフラグをすべて0にリセット(クリ
ア)し、ステップS14に進む。ステップS14では、
相対アドレスポインタを最も左上の頂点とするアクセス
範囲内に、メモリ23に記憶されたSD画素が書き込ま
れる。
素の書き込みは、水平方向および垂直方向のいずれにつ
いても、相対アドレスポインタが指すアドレスから1つ
おきに行われていき、これにより、SD画像における1
/2画素分単位の水平方向および垂直方向の動きに対応
した位置に画素が想定される。
D画素の、解像度創造用メモリ部15への書き込みが終
了すると、ステップS14からS15に進み、コントロ
ーラ15は、書き込みフラグ記憶部42に記憶されてい
る書き込みフラグのうち、SD画素が書き込まれた解像
度創造用メモリ部15のアドレスに対応する書き込みフ
ラグを、1にセットし、書き込み処理を終了する。
ェンジが生じていないと判定された場合、ステップS1
6に進み、コントローラ14は、領域分割部21が出力
する動きベクトルに対応して、相対アドレスポインタを
移動し、ステップS14に進む。ステップS14では、
その移動後の相対アドレスポインタを最も左上の頂点と
するアクセス範囲内に、メモリ23に記憶されたSD画
素が、上述したように書き込まれ、ステップS15に進
み、SD画素が書き込まれた解像度創造用メモリ部15
のアドレスに対応する書き込みフラグが1にセットされ
て、書き込み処理を終了する。
ことにより、解像度創造用メモリ部15には、SD画像
の水平方向または垂直方向それぞれの解像度を2倍にし
たHD画像が形成されていく。
する三角形のオブジェクトが、図15(A)乃至図15
(D)に示すように移動しており、第Nフレームでは、
SD画素a乃至eで(図15(A))、第N+1フレー
ムでは、SD画素f,gで(図15(B))、第N+2
フレームでは、SD画素h乃至kで(図15(C))、
第N+3フレームでは、SD画素l,mで、それぞれ、
オブジェクトが構成されるとする。
a乃至eは、図15(E)に示すように、相対アドレス
ポインタを最も左上の頂点とするアクセス範囲内におけ
る水平および垂直方向とも1つおきのアドレスに書き込
まれる。ここで、図15(E)においては(図15
(F)乃至図15(H)においても同様)、SD画素が
書き込まれたアドレスを、斜線を付して示してある。
素f,gの書き込み時においては、相対アドレスポイン
タが、オブジェクトの動きに対応して移動され、画素
f,gは、図15(F)に示すように、その移動後の相
対アドレスポインタを最も左上の頂点とするアクセス範
囲内における水平および垂直方向とも1つおきのアドレ
スに書き込まれる。また、第N+2フレームにおけるS
D画素h乃至gの書き込み時においても、相対アドレス
ポインタが、オブジェクトの動きに対応して移動され、
SD画素h乃至gは、図15(G)に示すように、その
移動後の相対アドレスポインタを最も左上の頂点とする
アクセス範囲内における水平および垂直方向とも1つお
きのアドレスに書き込まれる。そして、第N+3フレー
ムにおけるSD画素l,mの書き込み時においても、相
対アドレスポインタが、オブジェクトの動きに対応して
移動され、SD画素l,mは、図15(H)に示すよう
に、その移動後の相対アドレスポインタを最も左上の頂
点とするアクセス範囲内における水平および垂直方向と
も1つおきのアドレスに書き込まれる。
素単位よりも細かい単位で検出し、その動きにしたがっ
て、相対アドレスポインタを移動して、SD画素を、そ
の移動後の相対アドレスポインタを最も左上の頂点とす
るアクセス範囲内における水平および垂直方向とも1つ
おきのアドレスに書き込んでいくことで、水平および垂
直方向とも、SD画像の2倍の画素数となったHD画像
を形成することができる。
て、図12の高解像度オブジェクト生成部411におけ
る解像度創造用メモリ部15からのHD画素の読み出し
処理について、さらに説明する。
み処理が終了するごとに行われる。
造用メモリ部15へのSD画素の書き込みが終了する
と、コントローラ21は、ステップS21において、解
像度創造用メモリ部15のアクセス範囲内の記憶値を読
み出し、画素生成部43に供給する。
定のアドレスの記憶値を受信すると、ステップS22に
おいて、書き込みフラグ記憶部42を参照することで、
そのアドレスに対応する書き込みフラグがセットされて
いるかどうかを判定する。ステップS22において、所
定のアドレスに対応する書き込みフラグがセットされて
いないと判定された場合、即ち、そのアドレスに、まだ
SD画素が記憶されておらず(前回のシーンチェンジが
検出されてから、まだSD画素が書き込まれておら
ず)、従って、そのアドレスが、図14のステップS1
2においてリセットされたままの状態であり(以下、適
宜、このようなアドレスを、未記憶アドレスという)、
そこに初期値が記憶されている場合、ステップS23に
進み、その未記憶アドレスに対応するHD画素を生成す
る生成処理が行われ、ステップS24に進む。この場
合、ステップS24では、ステップS23で生成された
HD画素が、合成部24に出力される。
常時、その全体に、SD画素が書き込まれた状態になっ
ているとは限らないため、画素生成部43では、SD画
素が書き込まれていないアドレス(未記憶アドレス)に
ついては、SD画素が、既に書き込まれているアドレス
(以下、適宜、既記憶アドレスという)に記憶されてい
る、そのSD画素を用いて、未記憶アドレスに対応する
HD画素が生成される。
ドレスに対応する書き込みフラグがセットされていると
判定された場合、即ち、そのアドレスに、SD画素が記
憶されている場合(前回のシーンチェンジが検出されて
から、SD画素の書き込みがあった場合)、ステップS
23をスキップして、ステップS24に進み、その記憶
されているSD画素が、HD画素として、そのまま、合
成部24に出力される。
5に進み、アクセス範囲内における記憶値がすべて読み
出されたかどうかが判定される。ステップS25におい
て、アクセス範囲内における記憶値(但し、ここでは、
オブジェクトに対応する記憶値)が、まだ、すべて読み
出されていないと判定された場合、ステップS21に戻
り、まだ読み出されていない記憶値を対象に、同様の処
理が繰り返される。一方、ステップS25において、ア
クセス範囲内における記憶値が、すべて読み出されたと
判定された場合、読み出し処理を終了する。
て、図16におけるステップS23のHD画素の生成処
理について説明する。なお、この生成処理は、上述した
ように、画素生成部43において行われる。
S31において、既記憶アドレスに記憶されている画素
のうち、未記憶アドレスに対応する画素の周辺にあるも
の(以下、適宜、既記憶周辺画素という)を検出する。
なお、この検出は、書き込みフラグ記憶部42を参照す
ることで行われる。
部43は、解像度創造用メモリ部15から、ステップS
31で検出した既記憶周辺画素を読み出し、ステップS
33に進む。ステップS33では、画素生成部43は、
ステップS32で読み出した既記憶周辺画素を用いて、
未記憶アドレスに対応する画素を生成し、リターンす
る。
憶アドレスに対応する画素の生成方法としては、例え
ば、線形補間などがある。
は、未記憶アドレスに対応する画素として、既記憶周辺
画素に含まれていない高周波成分を含むものは生成する
ことができない。
に含まれていない高周波成分をも含むHD画像に変換す
る画像変換装置を先に提案しているが、未記憶アドレス
に対応する画素の生成には、この画像変換装置を適用す
ることができる。
と、所定の予測係数との線形結合により、HD画像の画
素の予測値を求める適応処理を行うことで、SD画像に
は含まれていない高周波成分が復元されるようになされ
ている。
HD画素の画素値yの予測値E[y]を、幾つかのSD
画素の画素値(以下、適宜、学習データという)x1,
x2,・・・と、所定の予測係数w1,w2,・・・の線
形結合により規定される線形1次結合モデルにより求め
ることを考える。この場合、予測値E[y]は、次式で
表すことができる。
集合でなる行列W、学習データの集合でなる行列X、お
よび予測値E[y]の集合でなる行列Y’を、
用して、HD画素の画素値yに近い予測値E[y]を求
めることを考える。この場合、教師データとなるHD画
素の真の画素値yの集合でなる行列Y、およびHD画素
の画素値yに対する予測値E[y]の残差eの集合でな
る行列Eを、
成立する。
値E[y]を求めるための予測係数wiは、自乗誤差
微分したものが0になる場合、即ち、次式を満たす予測
係数wiが、HD画素の画素値yに近い予測値E[y]
を求めるため最適値ということになる。
で微分することにより、次式が成立する。
られる。
習データx、予測係数w、教師データy、および残差e
の関係を考慮すると、式(6)から、次のような正規方
程式を得ることができる。
係数wの数と同じ数だけたてることができ、従って、式
(7)を解くことで(但し、式(7)を解くには、式
(7)において、予測係数wにかかる係数で構成される
行列が正則である必要がある)、最適な予測係数wを求
めることができる。なお、式(7)を解くにあたって
は、例えば、掃き出し法(Gauss-Jordanの消去法)など
を適用することが可能である。
めておき、さらに、その予測係数wを用い、式(1)に
より、HD画素の画素値yに近い予測値E[y]を求め
るのが適応処理である。
いない、HD画像に含まれる成分が再現される点で、補
間処理とは異なる。即ち、適応処理では、式(1)だけ
を見る限りは、いわゆる補間フィルタを用いての補間処
理と同一であるが、その補間フィルタのタップ係数に相
当する予測係数wが、教師データyを用いての、いわば
学習により求められるため、HD画像に含まれる成分を
再現することができる。即ち、容易に、高解像度の画像
を得ることができる。このことから、適応処理は、いわ
ば画像の創造作用がある処理ということができる。
SD画像をHD画像に変換する画像変換装置の構成例を
示している。
応処理部204に供給されるようになされている。クラ
ス分類部201は、クラスタップ生成回路202および
クラス分類回路203で構成され、そこでは、適応処理
により予測値を求めようとするHD画素(以下、適宜、
注目画素という)が、その注目画素に対応するSD画像
の画素の性質に基づいて、所定のクラスにクラス分類さ
れる。
注目画素に対応するSD画素として、例えば、注目画素
に対して所定の位置関係にある複数のSD画素(以下、
適宜、クラスタップという)が、クラス分類部201に
供給されるSD画像から抽出され、クラス分類回路20
3に供給される。クラス分類回路203では、クラスタ
ップ生成回路202からのクラスタップを構成するSD
画素の画素値のパターン(画素値の分布)が検出され、
そのパターンにあらかじめ割り当てられた値が、注目画
素のクラスとして、適応処理部203に供給される。
図19において、×印で示す画素(HD画素)で構成さ
れ、SD画像が、同図において、○印で示す画素(SD
画素)で構成されるとする。即ち、SD画像が、HD画
像の横または縦の画素数をそれぞれ1/2にして構成さ
れるとする。ここで、図19においては、左からi+1
番目で、上からj+1番目のSD画素(図中、○印で示
す部分)をXi,jと表し、同様に、左からi’+1番目
で、上からj’+1番目のHD画素(図中、×印で示す
部分)をYi',j'と表す。この場合、SD画素Xi,jの位
置と、HD画素Y2i ,2jの位置とは一致する。
2,2の位置と一致するHD画素Y4,4を注目画素とする
と、クラスタップ生成回路202では、そのHD画素Y
4,4に対応するSD画素として、例えば、HD画素Y4,4
との相関が高いと予想されるHD画素Y4,4の位置と一
致するSD画素X2,2を中心とする3×3(横×縦)の
SD画素X1,1,X2,1,X3,1,X1,2,X2,2,X3,2,
X1,3,X2,3,X3,3(図19において点線で囲んであ
る範囲のSD画素)が抽出され、それが、注目画素(H
D画素)Y4,4のクラスタップとされる。
一致するHD画素Y4,4の右隣のHD画素Y5,4が注目画
素とされた場合、X2,2の位置と一致するHD画素Y4,4
の下に隣接するHD画素Y4,5が注目画素とされた場
合、およびX2,2の位置と一致するHD画素Y4,4の右斜
め下に隣接するHD画素Y5,5が注目画素とされた場合
においても、クラスタップ生成回路202では、HD画
素Y4,4が注目画素とされた場合に形成されるクラスタ
ップと同一のクラスタップが形成される。なお、HD画
素Y4,4,Y5,4,Y4,5,Y5,5がそれぞれ注目画素とさ
れた場合に形成するクラスタップは、異なるものとする
ことも可能である。
スタップ生成回路202で構成されたクラスタップとし
ての9個のSD画素(画素値)のパターンが検出され、
そのパターンに対応する値が、注目画素のクラスとして
出力される。
係数ROM(Read Only Memory)207のアドレス端子
(AD)に供給される。
に、8ビットなどが割り当てられる。いま、SD画素に
8ビットが割り当てられているとすると、例えば、図1
9に示した3×3画素の正方形状のクラスタップだけを
考えても、画素値のパターン数は、(28)9通りという
莫大な数となり、その後の処理の迅速化が困難となる。
て、クラスタップには、それを構成するSD画素のビッ
ト数を低減するための処理である、例えばADRC(Ad
aptiv Dynamic Range Coding)処理などが施される。
ックを構成する9個ののSD画素から、その画素値の最
大のもの(以下、適宜、最大画素という)と最小のもの
(以下、適宜、最小画素という)とが検出される。そし
て、最大画素の画素値MAXと最小画素の画素値MIN
との差分DR(=MAX−MIN)が演算され、このD
Rを処理ブロックの局所的なダイナミックレンジとし、
このダイナミックレンジDRに基づいて、処理ブロック
を構成する各画素値が、元の割当ビット数より少ないK
ビットに再量子化される。つまり、処理ブロックを構成
する各画素値から最小画素の画素値MINが減算され、
各減算値が、DR/2Kで除算される。
値はKビットで表現されるようになる。従って、例えば
K=1とした場合、9個のSD画素の画素値のパターン
数は、(21)9通りになり、ADRC処理を行わない場
合に比較して、パターン数を非常に少ないものとするこ
とができる。
成回路205、予測演算回路206、および係数ROM
207で構成され、そこでは、適応処理が行われる。
応処理部204に供給されるSD画像から、予測演算回
路206において注目画素の予測値を求めるのに用い
る、その注目画素に対して所定の位置関係にある複数の
SD画素が抽出され、これが予測タップとして、予測演
算回路206に供給される。
目画素とされ、図19で説明したようなクラスタップが
構成される場合、予測タップ生成回路205では、例え
ば、HD画素Y4,4との相関が高いと予想されるSD画
素として、同図に実線で囲んで示す範囲の、注目画素Y
4,4の位置に一致するSD画素X2,2を中心とする5×5
のSD画素が抽出され、これが、注目画素(HD画素)
Y4,4の予測タップとされる。
Y5,5が注目画素とされた場合においても、HD画素Y
4,4が注目画素とされた場合に形成される予測タップと
同一の予測タップが形成される。但し、HD画素
Y4,4,Y5,4,Y4,5,Y5,5がそれぞれ注目画素とされ
た場合に形成する予測タップは、異なるものとすること
も可能である。
ップ生成回路205から予測タップが供給される他、係
数ROM207から予測係数も供給される。
習が行われることにより求められた予測係数を、クラス
ごとに記憶しており、クラス分類回路203からクラス
が供給されると、そのクラスに対応するアドレスに記憶
されている予測係数を読み出し、予測演算回路206に
供給する。
目画素に対応する予測タップと、その注目画素のクラス
についての予測係数とが供給される。そして、予測演算
回路206では、係数ROM207からの予測係数
w1,w2,・・・と、予測タップ生成回路205からの
予測タップ(を構成するSD画素)x1,x2,・・・と
を用いて、式(1)に示した演算が行われることによ
り、注目画素(HD画素)yの予測値E[y]が求めら
れ、これが、HD画素の画素値として出力される。
素として行われ、これにより、SD画像がHD画像に変
換される。
7に記憶させる予測係数を算出する学習処理を行う学習
装置の構成例を示している。
画像(学習用のHD画像)が、間引き回路211および
教師データ抽出回路146に供給されるようになされて
おり、間引き回路211では、HD画像が、例えば、そ
の画素数が間引かれることにより少なくされ、これによ
りSD画像とされる。即ち、間引き回路211では、H
D画像の横または縦の画素数がそれぞれ1/2にされ、
これにより、SD画像が形成される。このSD画像は、
クラス分類部212および予測タップ生成回路145に
供給される。
回路145では、図18のクラス分類部201または予
測タップ生成回路205における場合と同様の処理が行
われ、これにより注目画素のクラスまたは予測タップが
それぞれ出力される。クラス分類部212が出力するク
ラスは、予測タップメモリ147および教師データメモ
リ148のアドレス端子(AD)に供給され、予測タッ
プ生成回路145が出力する予測タップは、予測タップ
メモリ147に供給される。
部212から供給されるクラスに対応するアドレスに、
予測タップ生成回路145から供給される予測タップが
記憶される。
ラス分類部212および予測タップ生成回路145にお
いて注目画素とされるHD画素が、そこに供給されるH
D画像から抽出され、教師データとして、教師データメ
モリ148に供給される。
ラス分類部212から供給されるクラスに対応するアド
レスに、教師データ抽出回路146から供給される教師
データが記憶される。
れたすべてのHD画像(学習用のHD画像)を構成する
すべてのHD画素を、順次、注目画素として行われる。
予測タップメモリ147の同一のアドレスには、そのア
ドレスに対応するクラスのHD画素、またはそのHD画
素にについて図19において説明した予測タップを構成
する位置にあるSD画素が、教師データyまたは学習デ
ータxとして、それぞれ記憶される。
タメモリ148においては、同一アドレスに複数の情報
を記憶することができるようになされており、これによ
り、同一アドレスには、同一のクラスに分類される複数
の学習データxと教師データyを記憶することができる
ようになされている。
モリ147または教師データメモリ148から、同一ア
ドレスに記憶されている学習データとしての予測タップ
または教師データとしてのHD画素を読み出し、それら
を用いて、例えば、最小自乗法によって、予測値と教師
データとの間の誤差を最小にする予測係数を算出する。
即ち、演算回路149では、クラスごとに、式(7)に
示した正規方程式がたてられ、これを解くことにより予
測係数が求められる。
られたクラスごとの予測係数が、図18の係数ROM2
07における、そのクラスに対応するアドレスに記憶さ
れている。
Y5,4,Y4,5,Y5,5がそれぞれ注目画素とされた場合
に形成するクラスタップ、予測タップをそれぞれ同一の
ものとしたため、予測係数は、HD画素Y4,4,Y5,4,
Y4,5,Y5,5それぞれについて、それぞれ教師データと
して、個別に、正規方程式をたてて求める必要がある。
れていない高周波成分を含んだHD画像を得ることがで
き、また、注目画素について、クラス分類処理を行い、
その結果得られるクラスに対応した予測係数を用いて適
応処理を行うことで、注目画素に適した適応処理を施す
ことができる。
処理(以下、適宜、クラス分類適応処理という)によっ
て、未記憶アドレスに対応するHD画素を、既記憶周辺
画素から生成する場合においては、図19に示したクラ
スタップや予測タップを形成するための既記憶周辺画素
が存在しないことがあり、この場合、図19に示したよ
うな、クラスタップや予測タップを形成することができ
ない。従って、未記憶アドレスに対応する画素を、クラ
ス分類適応処理によって生成するには、存在する既記憶
周辺画素を用いて、適応的に、クラスタップや予測タッ
プを形成する必要があり、そのために、学習時には、種
々の形状のクラスタップや予測タップを形成して、予測
係数を求めておく必要がある。
したように、解像度創造用メモリ部15を、水平方向お
よび垂直方向のいずれについても、SD画像を構成する
画素数の2倍以上の画素を記憶することができるように
構成するとともに、アクセス範囲を、相対アドレスポイ
ンタを最も左上の点とする2PH×2PV画素の範囲、即
ち、HD画像の1画面と同一の範囲としたため、SD画
像の動きベクトルのx成分およびy成分が、1/2の奇
数倍になっていれば、その動きベクトルを2倍したベク
トルにしたがって、相対アドレスポインタを移動するこ
とにより、水平方向のSD画素どうしの中点や、垂直方
向のSD画素どうしの間の中点に画素が想定され、従っ
て、解像度の良いHD画像を得ることができる。
x成分およびy成分が、常時、1/2の奇数倍になると
は限らない。また、SD画像の動きベクトルのx成分お
よびy成分が、1/2の奇数倍になっていない場合に、
その動きベクトルを2倍したもののxおよびy成分を、
例えば、図9で説明したように四捨五入したベクトルに
したがって、相対アドレスポインタを移動することとす
ると、本来、水平方向のSD画素どうしの中点や、垂直
方向のSD画素どうしの間の中点からずれた位置に想定
されるべき画素が、そのような中点に想定されることに
なり、得られるHD画像の解像度が劣化することにな
る。なお、このことは、SD画像の動きベクトルのx成
分やy成分が、1/2の奇数倍になっていない場合の
他、1/2の偶数倍になっていない場合も同様である。
成分が、1/2の整数倍から、大きくはずれている場合
には、そのSD画像を構成するSD画素を、解像度創造
用メモリ部15に書き込まないようにすることができ
る。この場合、本来、水平方向のSD画素どうしの中点
や、垂直方向のSD画素どうしの間の中点から大きくず
れた位置に想定されるべき画素が、そのような中点に想
定されることに起因する、HD画像の解像度の劣化を防
止(低減)することができる。
y成分が、1/2の整数倍から、大きくはずれている場
合に、そのSD画像を構成するSD画素を、解像度創造
用メモリ部15に書き込まないようにしたときには、書
き込むようにしたときと比較して、解像度創造用メモリ
部15に書き込まれるSD画素の数が少なくなり、画素
生成部43において生成するHD画素の数が多くなる。
そして、画素生成部43では、解像度創造用メモリ部1
5に、既に記憶されたSD画素を用いて、HD画素が生
成されるから、解像度創造用メモリ部15に書き込まれ
るSD画素の数が少なくなると、画素生成部43におい
て生成されるHD画素の精度が悪化することになる。
像度創造用メモリ部15を、水平方向および垂直方向の
いずれについても、SD画像を構成する画素数の4倍以
上の画素を記憶することができるように構成し、また、
アクセス範囲も、相対アドレスポインタを最も左上の点
とする4PH×4PV画素の範囲、即ち、ここでは、水平
方向および垂直方向のいずれについても、HD画像を構
成する画素数の2倍の範囲とするようにする。
たもののxおよびy成分を、例えば、図9で説明したよ
うに四捨五入したベクトルにしたがって、相対アドレス
ポインタを移動して、アクセス範囲に、SD画素を、水
平および垂直方向のアドレスとも3つおきに書き込むこ
ととする。但し、この場合でも、SD画像の動きベクト
ルのx,y成分が、1/4の整数倍から、大きくはずれ
ているときには、そのSD画像を構成するSD画素を、
解像度創造用メモリ部15に書き込まないようにする。
で、解像度創造用メモリ部15に書き込まれるSD画素
の数を増加させることができる。
N−4フレームから第Nフレームにかけて移動するオブ
ジェクトを構成するSD画素を、4PH×4PV画素の範
囲とされたアクセス範囲に、上述したように書き込んだ
状態を、図23に示す。
を、4PH×4PV画素の範囲とした場合において、2P
H×2PV画素で構成されるHD画像を得るには、図23
に示した、水平方向と垂直方向との点線の交点上のSD
画素だけを、アクセス範囲から読み出せば良い。即ち、
アクセス範囲内における記憶値を、水平および垂直方向
とも1つおきに読み出せば良い。
した、水平方向と垂直方向との点線の交点上に、SD画
素が書き込まれていないことがある。この場合、対応す
るHD画素は、上述したように、既記憶周辺画素を用い
て生成することとなるが、その生成時においては、図2
3を拡大した図24に示すように、水平方向と垂直方向
との点線の交点上にある既記憶周辺画素の他、そのよう
な交点上にない既記憶周辺画素も用いることができる。
このように、交点上にない既記憶周辺画素も用いて、H
D画素を生成する場合には、より解像度の高いHD画像
を得ることが可能となる。
述した線形補間や、クラス分類処理および適応処理によ
る他、例えば、そのHD画素に最も近い位置にある既記
憶周辺画素への置き換えなどによって行うことも可能で
ある。
既に、SD画素が記憶されているアドレスに、新たにS
D画素が供給された場合には、その新たなSD画素を上
書きしても良いし、既に記憶されているSD画素の動き
ベクトルと、新たなSD画素の動きベクトルとを比較
し、動きベクトルのx,y成分が、1/4の整数倍に最
も近い方を、優先的に記憶させるようにしても良い。但
し、動きベクトルのx,y成分が、1/4の整数倍に最
も近い方を、優先的に記憶させるようにする場合には、
解像度創造用メモリ部15に既に記憶されているSD画
素の動きベクトルを記憶するためのメモリなどが必要と
なる。
なる動きのオブジェクトから構成される場合には、解像
度変換部34は、図12に示したように構成する必要が
あるが、SD画像が、例えば、ビデオカメラをパンやチ
ルトすることにより、風景などを撮影することにより得
られた、全画面が同一の動きをするものである場合に
は、解像度変換部34は、例えば、図25に示すように
構成することができる。
4の他の構成例を示している。なお、図中、図12にお
ける場合と対応する部分については、同一の符号を付し
てある。即ち、図25の解像度変換部34は、領域分割
部21および合成部24が設けられておらず、M個の高
解像度オブジェクト生成部411乃至41Mに替えて、1
の高解像度オブジェクト生成部41が設けられ、さら
に、高解像度オブジェクト生成部41には、スイッチ2
2およびメモリ23が設けられていない他は、図12に
おける場合と同様に構成されている。
では、図12における場合と同様に、フレームメモリ部
11に対して、A/D変換器3(図11)から、SD画
像が供給され、そこでは、A/D変換器3からのSD画
像が、順次記憶されていく。
ムメモリ部11に記憶されたSD画像の動きベクトル
が、水平方向および垂直方向とも、そのSD画像の画素
よりも細かい単位で検出され、コントローラ14に供給
される。なお、上述したように、ここでは、SD画像と
して、全画面が同一の動きをするものが入力されるの
で、全画面(1フレーム)について、1つの動きベクト
ルが検出されるようになされている。
部15における相対アドレスポインタを、動き検出部1
2からの動きベクトルにしたがって移動し、その移動後
の相対アドレスポインタを最も左上の頂点とするアクセ
ス範囲に、フレームメモリ部11の現フレームメモリ1
1Aに記憶された1フレーム分のSD画素を記憶させ
る。さらに、コントローラ14は、書き込みフラグ記憶
部42に記憶されている書き込みフラグのうち、SD画
素を書き込んだ解像度創造用メモリ部15のアドレスに
対応するものを、1にセットする。なお、アクセス範囲
(従って、解像度創造用メモリ部15も)としては、例
えば、図13で説明した範囲が設定されており、従っ
て、アクセス範囲へのSD画素の書き込みは、ここで
は、水平および垂直方向とも、1つおきに行われる。
15のアクセス範囲内には、垂直方向だけでなく、水平
方向にも画素が想定され、SD画像の水平方向および垂
直方向の画素数を、いずれも2倍にしたHD画像が再生
(創造)されていく。
したようにして、SD画像のシーンチェンジを検出して
おり、コントローラ14は、シーンチェンジ検出部13
からシーンチェンジである旨を受信すると、解像度創造
用メモリ部15をリセットするとともに、書き込みフラ
グ記憶部42もリセットするようになされている。
内における記憶値は、コントローラ14の制御の下、H
D画像を構成するHD画素として読み出され、画素生成
部43に供給される。画素生成部43は、HD画素とし
て読み出された記憶値が、初期値かどうかを、書き込み
フラグ記憶部42を参照することにより判定し、即ち、
HD画素として読み出された値が、フレームメモリ11
から書き込まれたSD画素であるかどうかを判定し、そ
の判定結果に基づいて、HD画素を生成する。
うに、アクセス範囲は、1画面のSD画像の水平方向ま
たは垂直方向の画素数を、それぞれ2倍にした数に対応
するアドレス空間を有し、また、アクセス範囲は、動き
ベクトルにしたがって移動されるから、アクセス範囲
が、常時、その全体に、SD画素が書き込まれた状態に
なっているとは限らない。そこで、画素生成部43は、
アクセス範囲内の各アドレスの記憶値が、SD画素であ
るかどうかを判定し、SD画素である場合には、そのS
D画素を、そのままHD画素として出力し、SD画素で
ない場合、即ち、シーンチェンジの検出後に書き込まれ
た初期値である場合には、アクセス範囲に、既に書き込
まれているSD画素を用いて、HD画素を生成して出力
する。なお、既に書き込まれているSD画素からのHD
画素の生成は、例えば、上述したような単純な補間によ
って行っても良いし、クラス分類適応処理によって行っ
ても良い。
するHD画素で構成される1フレームのHD画像、即
ち、ここでは、SD画像の水平方向または垂直方向の画
素数(解像度)をそれぞれ2倍にしたHD画像は、D/
A変換器5(図11)を介して、CRT36に供給され
て表示される。
えば、図21に示したように、解像度創造用メモリ部1
5を、水平方向および垂直方向のいずれについても、S
D画像を構成する画素数の4倍以上の画素を記憶するこ
とができるように構成するとともに、アクセス範囲も、
相対アドレスポインタを最も左上の点とする4PH×4
PV画素の範囲、即ち、水平方向および垂直方向のいず
れについても、HD画像を構成する画素数の2倍の範囲
とするようにすることが可能であり、この場合、より解
像度の高いHD画像を得ることが可能となる。
像からの、その折り返し歪みの除去(低減)、およびS
D画像のHD画像への変換に適用した場合について説明
したが、本発明は、その他、例えば、画像を拡大する場
合や、インターレース走査された画像を、プログレッシ
ブな画像(ノンインターレース走査される画像)に変換
する場合などにも適用可能である。
画像を処理するようにしたが、フィールド単位で処理を
行うことも可能である。
表示するようにしたが、本発明は、画像を液晶ディスプ
レイなどに表示する場合などにも適用可能である。
受像機において、アナログのテレビジョン放送を受信す
るようにしたが、本発明は、ディジタル放送を受信する
場合にも適用可能である。
び画像処理方法によれば、第1の画像の動きに対応した
位置に画素を想定することにより、第2の画像が生成さ
れる。従って、例えば、第1の画像が折り返し歪みを有
する場合に、その折り返し歪みを除去または低減した第
2の画像を得ることが可能となる。
の形態の構成を示すブロック図である。
である。
法を説明するための図である。
す図である。
るための図である。
説明するための図である。
ローチャートである。
ック図である。
実施の形態の構成例を示すブロック図である。
ロック図である。
を示す図である。
込み処理を説明するためのフローチャートである。
憶されていく様子を示す図である。
み出し処理を説明するためのフローチャートである。
説明するためのフローチャートである。
置の構成例を示すブロック図である。
る。
予測係数を求める学習を行う学習装置の構成例を示すブ
ロック図である。
を示す図である。
いる様子を示す図である。
図である。
画素の生成方法を説明するための図である。
すブロック図である。
を示す図である。
である。
4 歪み補正部, 5D/A変換器, 6 CRT,
11 フレームメモリ部, 11A 現フレームメモ
リ, 11B 前フレームメモリ, 12 動き検出
部, 13 シーンチェンジ検出部, 14,14A,
14B コントローラ, 15,15A,15B 解像
度創造用メモリ部, 16 垂直LPF, 17 フレ
ームメモリ部, 21 領域分割部, 22A,22B
スイッチ, 23A,23B メモリ, 24 合成
部, 34 解像度変換部, 36 CRT, 41,
411乃至41M 高解像度オブジェクト生成部, 42
書き込みフラグ記憶部,43 画素生成部, 145
予測タップ生成回路, 146 教師データ抽出回
路, 147 予測タップメモリ, 148 教師デー
タメモリ, 149演算回路, 201 クラス分類
部, 202 クラスタップ生成回路, 203 クラ
ス分類回路, 204 適応処理部, 205 予測タ
ップ生成回路,206 予測演算回路, 207 係数
ROM, 211 間引き回路, 212 クラス分類
部
Claims (60)
- 【請求項1】 第1の画像から第2の画像を生成する画
像処理装置であって、 前記第1の画像を受信する受信手段と、 前記第1の画像の動きに対応した位置に画素を想定する
ことにより、前記第2の画像を生成する想定手段とを備
えることを特徴とする画像処理装置。 - 【請求項2】 前記第1の画像の動きを検出する動き検
出手段をさらに備え、 前記想定手段は、前記動き検出手段によって検出された
前記第1の画像の動きに対応した位置に画素を想定する
ことにより、前記第2の画像を生成することを特徴とす
る請求項1に記載の画像処理装置。 - 【請求項3】 前記第2の画像は、前記第1の画像より
も解像度の高いものであることを特徴とする請求項1に
記載の画像処理装置。 - 【請求項4】 前記第2の画像は、前記第1の画像より
も画素数の多いものであることを特徴とする請求項1に
記載の画像処理装置。 - 【請求項5】 前記想定手段は、前記第1の画像の動き
に対応した位置に画素を想定することにより、前記第1
の画像より、垂直方向の画素数の多い前記第2の画像を
生成することを特徴とする請求項4に記載の画像処理装
置。 - 【請求項6】 前記動き検出手段は、前記第1の画像の
動きを、その第1の画像を構成する画素より細かい単位
で検出し、 前記想定手段は、 前記第1の画像を記憶する、前記第1の画像の1画面分
より多い記憶容量の画像記憶手段と、 前記画像記憶手段に前記第1の画像を書き込むときのア
ドレスを、その第1の画像の動きに基づいて制御すると
ともに、前記画像記憶手段の記憶値の読み出しを制御す
る制御手段とを有することを特徴とする請求項2に記載
の画像処理装置。 - 【請求項7】 前記制御手段は、前記画像記憶手段の記
憶値を、前記第2の画像の画素として読み出すことを特
徴とする請求項6に記載の画像処理装置。 - 【請求項8】 前記第1の画像のシーンチェンジを検出
するシーンチェンジ検出手段と、 前記第1の画像に、シーンチェンジが生じたときに、前
記画像記憶手段の記憶値をクリアするクリア手段とをさ
らに備えることを特徴とする請求項6に記載の画像処理
装置。 - 【請求項9】 前記第2の画像をフィルタリングするフ
ィルタ手段をさらに備えることを特徴とする請求項1ま
たは6のうちのいずれかに記載の画像処理装置。 - 【請求項10】 前記第2の画像をフィルタリングする
フィルタ手段と、 前記フィルタ手段によってフィルタリングされた前記第
2の画像を、前記第1の画像と同一の画素数にして出力
する出力手段とをさらに備えることを特徴とする請求項
3または6のうちのいずれかに記載の画像処理装置。 - 【請求項11】 前記画像記憶手段のアドレスのうち、
前記第1の画像の画素が記憶されていないものを検出す
るアドレス検出手段と、 前記アドレス検出手段によって検出された前記画像記憶
手段のアドレスに対応する前記第2の画像の画素を生成
する生成手段とをさらに備えることを特徴とする請求項
6に記載の画像処理装置。 - 【請求項12】 前記アドレス検出手段は、前記画像記
憶手段のアドレスに、前記第1の画像の画素が書き込ま
れたときに、その旨を表すフラグが、対応するアドレス
に書き込まれる、前記フラグを記憶するフラグ記憶手段
を有することを特徴とする請求項11に記載の画像処理
装置。 - 【請求項13】 前記生成手段は、前記アドレス検出手
段によって検出された前記画像記憶手段のアドレスに対
応する前記第2の画像の画素を、前記画像記憶手段に記
憶されている前記第1の画像の画素を用いて補間を行う
ことにより生成することを特徴とする請求項11に記載
の画像処理装置。 - 【請求項14】 前記生成手段は、 前記アドレス検出手段によって検出された前記画像記憶
手段のアドレスに対応する前記第2の画像の画素を、前
記画像記憶手段に記憶されている前記第1の画像の画素
の性質に応じて、所定のクラスに分類するクラス分類手
段と、 前記クラスごとに、所定の予測係数を記憶している予測
係数記憶手段と、 前記アドレス検出手段によって検出された前記画像記憶
手段のアドレスに対応する前記第2の画像の画素のクラ
スに対応する前記予測係数と、前記画像記憶手段に記憶
されている前記第1の画像の画素とを用いて所定の演算
を行うことにより、前記アドレス検出手段によって検出
された前記画像記憶手段のアドレスに対応する前記第2
の画像の画素を求める演算手段とを有することを特徴と
する請求項11に記載の画像処理装置。 - 【請求項15】 前記予測係数は、学習用の前記第2の
画像を用いて学習を行うことにより求められたものであ
ることを特徴とする請求項14に記載の画像処理装置。 - 【請求項16】 前記第1の画像を複数の領域に分割す
る領域分割手段と、前記第1の画像の複数の領域それぞ
れに対応する前記第2の画像の複数の領域を合成するこ
とにより、前記第2の画像を生成する合成手段とをさら
に備え、 前記想定手段は、前記第1の画像の動きに対応した位置
に画素を想定することにより、前記第1の画像の複数の
領域それぞれに対応する前記第2の画像の複数の領域を
求めることを特徴とする請求項1に記載の画像処理装
置。 - 【請求項17】 前記第1の画像の複数の領域それぞれ
の動きを検出する動き検出手段をさらに備え、 前記想定手段は、前記動き検出手段によって検出された
前記第1の画像の複数の領域それぞれの動きに対応した
位置に画素を想定することにより、前記第2の画像の複
数の領域それぞれを求めることを特徴とする請求項16
に記載の画像処理装置。 - 【請求項18】 前記第2の画像は、前記第1の画像よ
りも解像度の高いものであることを特徴とする請求項1
6に記載の画像処理装置。 - 【請求項19】 前記第2の画像は、前記第1の画像よ
りも画素数の多いものであることを特徴とする請求項1
6に記載の画像処理装置。 - 【請求項20】 前記想定手段は、前記第1の画像の動
きに対応した位置に画素を想定することにより、前記第
1の画像の複数の領域それぞれより、垂直方向の画素数
の多い前記第2の画像の複数の領域それぞれを求めるこ
とを特徴とする請求項19に記載の画像処理装置。 - 【請求項21】 前記動き検出手段は、前記第1の画像
の複数の領域それぞれの動きを、その第1の画像を構成
する画素より細かい単位で検出し、 前記想定手段は、 前記第1の画像の複数の領域をそれぞれ記憶する、前記
第1の画像の複数の領域それぞれの1画面分より多い記
憶容量の複数の画像記憶手段と、 前記複数の画像記憶手段それぞれに、前記第1の画像の
複数の領域それぞれを書き込むときのアドレスを、その
第1の画像の複数の領域それぞれの動きに基づいて制御
するとともに、前記複数の画像記憶手段の記憶値の読み
出しを制御する制御手段とを有することを特徴とする請
求項17に記載の画像処理装置。 - 【請求項22】 前記制御手段は、前記複数の画像記憶
手段の記憶値を、前記第2の画像の複数の領域を構成す
る画素として、それぞれ読み出すことを特徴とする請求
項21に記載の画像処理装置。 - 【請求項23】 前記第1の画像のシーンチェンジを検
出するシーンチェンジ検出手段と、 前記第1の画像に、シーンチェンジが生じたときに、前
記複数の画像記憶手段の記憶値をクリアするクリア手段
とをさらに備えることを特徴とする請求項21に記載の
画像処理装置。 - 【請求項24】 前記第2の画像をフィルタリングする
フィルタ手段をさらに備えることを特徴とする請求項1
6または23のうちのいずれかに記載の画像処理装置。 - 【請求項25】 前記第2の画像をフィルタリングする
フィルタ手段と、 前記フィルタ手段によってフィルタリングされた前記第
2の画像を、前記第1の画像と同一の画素数にして出力
する出力手段とをさらに備えることを特徴とする請求項
18または23のうちのいずれかに記載の画像処理装
置。 - 【請求項26】 前記画像記憶手段のアドレスのうち、
前記第1の画像の画素が記憶されていないものを検出す
るアドレス検出手段と、 前記アドレス検出手段によって検出された前記画像記憶
手段のアドレスに対応する前記第2の画像の画素を生成
する生成手段とをさらに備えることを特徴とする請求項
21に記載の画像処理装置。 - 【請求項27】 前記アドレス検出手段は、前記画像記
憶手段のアドレスに、前記第1の画像の画素が書き込ま
れたときに、その旨を表すフラグが、対応するアドレス
に書き込まれる、前記フラグを記憶するフラグ記憶手段
を有することを特徴とする請求項26に記載の画像処理
装置。 - 【請求項28】 前記生成手段は、前記アドレス検出手
段によって検出された前記画像記憶手段のアドレスに対
応する前記第2の画像の画素を、前記画像記憶手段に記
憶されている前記第1の画像の画素を用いて補間を行う
ことにより生成することを特徴とする請求項26に記載
の画像処理装置。 - 【請求項29】 前記生成手段は、 前記アドレス検出手段によって検出された前記画像記憶
手段のアドレスに対応する前記第2の画像の画素を、前
記画像記憶手段に記憶されている前記第1の画像の画素
の性質に応じて、所定のクラスに分類するクラス分類手
段と、 前記クラスごとに、所定の予測係数を記憶している予測
係数記憶手段と、 前記アドレス検出手段によって検出された前記画像記憶
手段のアドレスに対応する前記第2の画像の画素のクラ
スに対応する前記予測係数と、前記画像記憶手段に記憶
されている前記第1の画像の画素とを用いて所定の演算
を行うことにより、前記アドレス検出手段によって検出
された前記画像記憶手段のアドレスに対応する前記第2
の画像の画素を求める演算手段とを有することを特徴と
する請求項26に記載の画像処理装置。 - 【請求項30】 前記予測係数は、学習用の前記第2の
画像を用いて学習を行うことにより求められたものであ
ることを特徴とする請求項29に記載の画像処理装置。 - 【請求項31】 第1の画像から第2の画像を生成する
画像処理装置の画像処理方法であって、 前記第1の画像を受信する受信ステップと、 前記第1の画像の動きに対応した位置に画素を想定する
ことにより、前記第2の画像を生成する想定ステップと
を備えることを特徴とする画像処理方法。 - 【請求項32】 前記第1の画像の動きを検出する動き
検出ステップをさらに備え、 前記想定ステップにおいて、前記動き検出ステップで検
出された前記第1の画像の動きに対応した位置に画素を
想定することにより、前記第2の画像を生成することを
特徴とする請求項31に記載の画像処理方法。 - 【請求項33】 前記第2の画像は、前記第1の画像よ
りも解像度の高いものであることを特徴とする請求項3
1に記載の画像処理方法。 - 【請求項34】 前記第2の画像は、前記第1の画像よ
りも画素数の多いものであることを特徴とする請求項3
1に記載の画像処理方法。 - 【請求項35】 前記想定ステップにおいて、前記第1
の画像の動きに対応した位置に画素を想定することによ
り、前記第1の画像より、垂直方向の画素数の多い前記
第2の画像を生成することを特徴とする請求項34に記
載の画像処理方法。 - 【請求項36】 前記画像処理装置は、前記第1の画像
を記憶する、前記第1の画像の1画面分より多い記憶容
量の画像記憶手段を有し、 前記動き検出ステップにおいて、前記第1の画像の動き
を、その第1の画像を構成する画素より細かい単位で検
出し、 前記想定ステップにおいて、前記画像記憶手段に前記第
1の画像を書き込むときのアドレスを、その第1の画像
の動きに基づいて制御するとともに、前記画像記憶手段
の記憶値の読み出しを制御することを特徴とする請求項
32に記載の画像処理方法。 - 【請求項37】 前記想定ステップにおいて、前記画像
記憶手段の記憶値を、前記第2の画像の画素として読み
出すことを特徴とする請求項36に記載の画像処理方
法。 - 【請求項38】 前記第1の画像のシーンチェンジを検
出するシーンチェンジ検出ステップと、 前記第1の画像に、シーンチェンジが生じたときに、前
記画像記憶手段の記憶値をクリアするクリアステップと
をさらに備えることを特徴とする請求項36に記載の画
像処理方法。 - 【請求項39】 前記第2の画像をフィルタリングする
フィルタステップをさらに備えることを特徴とする請求
項31または36のうちのいずれかに記載の画像処理方
法。 - 【請求項40】 前記第2の画像をフィルタリングする
フィルタステップと、 前記フィルタステップにおいてフィルタリングされた前
記第2の画像を、前記第1の画像と同一の画素数にして
出力する出力ステップとをさらに備えることを特徴とす
る請求項33または36のうちのいずれかに記載の画像
処理方法。 - 【請求項41】 前記画像記憶手段のアドレスのうち、
前記第1の画像の画素が記憶されていないものを検出す
るアドレス検出ステップと、 前記アドレス検出ステップにおいて検出された前記画像
記憶手段のアドレスに対応する前記第2の画像の画素を
生成する生成ステップとをさらに備えることを特徴とす
る請求項36に記載の画像処理方法。 - 【請求項42】 前記画像処理装置は、前記画像記憶手
段のアドレスに、前記第1の画像の画素が書き込まれた
ときに、その旨を表すフラグが、対応するアドレスに書
き込まれる、前記フラグを記憶するフラグ記憶手段をさ
らに有し、 前記アドレス検出ステップにおいて、前記フラグ記憶手
段を参照することにより、前記第1の画像の画素が記憶
されていない前記画像記憶手段のアドレスを検出するこ
とを特徴とする請求項41に記載の画像処理方法。 - 【請求項43】 前記生成ステップにおいて、前記アド
レス検出ステップで検出された前記画像記憶手段のアド
レスに対応する前記第2の画像の画素を、前記画像記憶
手段に記憶されている前記第1の画像の画素を用いて補
間を行うことにより生成することを特徴とする請求項4
1に記載の画像処理方法。 - 【請求項44】 前記画像処理装置は、所定のクラスご
とに、所定の予測係数を記憶している予測係数記憶手段
をさらに有し、 前記生成ステップにおいて、 前記アドレス検出ステップで検出された前記画像記憶手
段のアドレスに対応する前記第2の画像の画素を、前記
画像記憶手段に記憶されている前記第1の画像の画素の
性質に応じて、前記所定のクラスのうちのいずれかに分
類し、 前記アドレス検出ステップで検出された前記画像記憶手
段のアドレスに対応する前記第2の画像の画素のクラス
に対応する前記予測係数と、前記画像記憶手段に記憶さ
れている前記第1の画像の画素とを用いて所定の演算を
行うことにより、前記アドレス検出ステップで検出され
た前記画像記憶手段のアドレスに対応する前記第2の画
像の画素を求めることを特徴とする請求項41に記載の
画像処理方法。 - 【請求項45】 前記予測係数は、学習用の前記第2の
画像を用いて学習を行うことにより求められたものであ
ることを特徴とする請求項44に記載の画像処理方法。 - 【請求項46】 前記第1の画像を複数の領域に分割す
る領域分割ステップと、 前記第1の画像の複数の領域それぞれに対応する前記第
2の画像の複数の領域を合成することにより、前記第2
の画像を生成する合成ステップとをさらに備え、 前記想定ステップにおいて、前記第1の画像の動きに対
応した位置に画素を想定することにより、前記第1の画
像の複数の領域それぞれに対応する前記第2の画像の複
数の領域を求めることを特徴とする請求項31に記載の
画像処理方法。 - 【請求項47】 前記第1の画像の複数の領域それぞれ
の動きを検出する動き検出ステップをさらに備え、 前記想定ステップにおいて、前記動き検出ステップで検
出された前記第1の画像の複数の領域それぞれの動きに
対応した位置に画素を想定することにより、前記第2の
画像の複数の領域それぞれを求めることを特徴とする請
求項46に記載の画像処理方法。 - 【請求項48】 前記第2の画像は、前記第1の画像よ
りも解像度の高いものであることを特徴とする請求項4
6に記載の画像処理方法。 - 【請求項49】 前記第2の画像は、前記第1の画像よ
りも画素数の多いものであることを特徴とする請求項4
6に記載の画像処理方法。 - 【請求項50】 前記想定ステップにおいて、前記第1
の画像の動きに対応した位置に画素を想定することによ
り、前記第1の画像の複数の領域それぞれより、垂直方
向の画素数の多い前記第2の画像の複数の領域それぞれ
を求めることを特徴とする請求項49に記載の画像処理
方法。 - 【請求項51】 前記画像処理装置は、前記第1の画像
の複数の領域をそれぞれ記憶する、前記第1の画像の1
画面分より多い記憶容量の複数の画像記憶手段を有し、 前記動き検出ステップにおいて、前記第1の画像の複数
の領域それぞれの動きを、その第1の画像を構成する画
素より細かい単位で検出し、 前記想定ステップにおいて、前記複数の画像記憶手段そ
れぞれに、前記第1の画像の複数の領域それぞれを書き
込むときのアドレスを、その第1の画像の複数の領域そ
れぞれの動きに基づいて制御するとともに、前記複数の
画像記憶手段の記憶値の読み出しを制御することを特徴
とする請求項47に記載の画像処理方法。 - 【請求項52】 前記想定ステップにおいて、前記複数
の画像記憶手段の記憶値を、前記第2の画像の複数の領
域を構成する画素として、それぞれ読み出すことを特徴
とする請求項51に記載の画像処理方法。 - 【請求項53】 前記第1の画像のシーンチェンジを検
出するシーンチェンジ検出ステップと、 前記第1の画像に、シーンチェンジが生じたときに、前
記複数の画像記憶手段の記憶値をクリアするクリアステ
ップとをさらに備えることを特徴とする請求項51に記
載の画像処理方法。 - 【請求項54】 前記第2の画像をフィルタリングする
フィルタステップをさらに備えることを特徴とする請求
項46または53のうちのいずれかに記載の画像処理方
法。 - 【請求項55】 前記第2の画像をフィルタリングする
フィルタステップと、前記フィルタステップでフィルタ
リングされた前記第2の画像を、前記第1の画像と同一
の画素数にして出力する出力ステップとをさらに備える
ことを特徴とする請求項48または53のうちのいずれ
かに記載の画像処理方法。 - 【請求項56】 前記画像記憶手段のアドレスのうち、
前記第1の画像の画素が記憶されていないものを検出す
るアドレス検出ステップと、 前記アドレス検出ステップで検出された前記画像記憶手
段のアドレスに対応する前記第2の画像の画素を生成す
る生成ステップとをさらに備えることを特徴とする請求
項51に記載の画像処理方法。 - 【請求項57】 前記画像処理装置は、前記画像記憶手
段のアドレスに、前記第1の画像の画素が書き込まれた
ときに、その旨を表すフラグが、対応するアドレスに書
き込まれる、前記フラグを記憶するフラグ記憶手段をさ
らに有し、 前記アドレス検出ステップにおいて、前記フラグ記憶手
段を参照することにより、前記第1の画像の画素が記憶
されていない前記画像記憶手段のアドレスを検出するこ
とを特徴とする請求項56に記載の画像処理方法。 - 【請求項58】 前記生成ステップにおいて、前記アド
レス検出ステップで検出された前記画像記憶手段のアド
レスに対応する前記第2の画像の画素を、前記画像記憶
手段に記憶されている前記第1の画像の画素を用いて補
間を行うことにより生成することを特徴とする請求項5
6に記載の画像処理方法。 - 【請求項59】 前記画像処理装置は、所定のクラスご
とに、所定の予測係数を記憶している予測係数記憶手段
をさらに有し、 前記生成ステップにおいて、 前記アドレス検出ステップで検出された前記画像記憶手
段のアドレスに対応する前記第2の画像の画素を、前記
画像記憶手段に記憶されている前記第1の画像の画素の
性質に応じて、前記所定のクラスのうちのいずれかに分
類し、 前記アドレス検出ステップで検出された前記画像記憶手
段のアドレスに対応する前記第2の画像の画素のクラス
に対応する前記予測係数と、前記画像記憶手段に記憶さ
れている前記第1の画像の画素とを用いて所定の演算を
行うことにより、前記アドレス検出ステップで検出され
た前記画像記憶手段のアドレスに対応する前記第2の画
像の画素を求めることを特徴とする請求項56に記載の
画像処理方法。 - 【請求項60】 前記予測係数は、学習用の前記第2の
画像を用いて学習を行うことにより求められたものであ
ることを特徴とする請求項59に記載の画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP03247398A JP4120898B2 (ja) | 1997-02-14 | 1998-02-16 | 画像処理装置および画像処理方法 |
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP3018197 | 1997-02-14 | ||
JP9-261934 | 1997-09-26 | ||
JP26193497 | 1997-09-26 | ||
JP9-30181 | 1997-09-26 | ||
JP03247398A JP4120898B2 (ja) | 1997-02-14 | 1998-02-16 | 画像処理装置および画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11164264A true JPH11164264A (ja) | 1999-06-18 |
JP4120898B2 JP4120898B2 (ja) | 2008-07-16 |
Family
ID=27286863
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP03247398A Expired - Fee Related JP4120898B2 (ja) | 1997-02-14 | 1998-02-16 | 画像処理装置および画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4120898B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7327494B2 (en) | 2003-01-07 | 2008-02-05 | Seiko Epson Corporation | Image producing device and image deviation amount detection device |
US7409106B2 (en) | 2003-01-23 | 2008-08-05 | Seiko Epson Corporation | Image generating device, image generating method, and image generating program |
JP2009033581A (ja) * | 2007-07-30 | 2009-02-12 | Hitachi Ltd | 画像信号記録再生装置 |
JP2009033582A (ja) * | 2007-07-30 | 2009-02-12 | Hitachi Ltd | 画像信号記録再生装置 |
US8169510B2 (en) | 2007-12-18 | 2012-05-01 | Sony Corporation | Data processing device, data processing method, and storage medium |
-
1998
- 1998-02-16 JP JP03247398A patent/JP4120898B2/ja not_active Expired - Fee Related
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7327494B2 (en) | 2003-01-07 | 2008-02-05 | Seiko Epson Corporation | Image producing device and image deviation amount detection device |
US7409106B2 (en) | 2003-01-23 | 2008-08-05 | Seiko Epson Corporation | Image generating device, image generating method, and image generating program |
JP2009033581A (ja) * | 2007-07-30 | 2009-02-12 | Hitachi Ltd | 画像信号記録再生装置 |
JP2009033582A (ja) * | 2007-07-30 | 2009-02-12 | Hitachi Ltd | 画像信号記録再生装置 |
US8169510B2 (en) | 2007-12-18 | 2012-05-01 | Sony Corporation | Data processing device, data processing method, and storage medium |
Also Published As
Publication number | Publication date |
---|---|
JP4120898B2 (ja) | 2008-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP0859513B1 (en) | Image signal converting apparatus and method | |
JP5288214B2 (ja) | データ処理装置、データ処理方法、及びプログラム | |
JP4224748B2 (ja) | 画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、記録媒体、並びに画像処理装置 | |
US5031039A (en) | High definition television transmission and reception system with an improved motion estimator and with reduced data throughput | |
US20100202711A1 (en) | Image processing apparatus, image processing method, and program | |
EP1442426A2 (en) | Improved spatial resolution of video images | |
JPH0757025B2 (ja) | テレビジョン受像回路装置 | |
JP5133038B2 (ja) | 画像復元方法および画像復元装置 | |
JP4214425B2 (ja) | 画像抜き出し装置および画像抜き出し方法、画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、画像記録装置および画像記録方法、画像再生装置および画像再生方法、並びに記録媒体 | |
JP4120898B2 (ja) | 画像処理装置および画像処理方法 | |
JP2000115716A (ja) | 映像信号の変換装置および変換方法、並びにそれを使用した画像表示装置およびテレビ受信機 | |
JP3849817B2 (ja) | 画像処理装置および画像処理方法 | |
JP4470323B2 (ja) | 画像変換装置および方法 | |
JP4300446B2 (ja) | 画像処理装置及び画像処理方法 | |
JP3723995B2 (ja) | 画像情報変換装置および方法 | |
JP4470324B2 (ja) | 画像信号変換装置および方法 | |
KR100505516B1 (ko) | 영상신호변환장치및방법 | |
JP4240674B2 (ja) | 動き検出装置および動き検出方法、並びに記録媒体 | |
JP4120095B2 (ja) | 画像情報変換装置および変換方法 | |
JP2005236633A (ja) | 信号処理装置および信号処理方法 | |
JP3800638B2 (ja) | 画像情報変換装置および方法 | |
JP2009141445A (ja) | サンプリングレート変換装置、およびサンプリングレート変換方法 | |
JP3480011B2 (ja) | 画像情報変換装置 | |
JP4186093B2 (ja) | 画像処理装置および画像処理方法、並びに記録媒体 | |
JP4310847B2 (ja) | 画像情報変換装置および変換方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050204 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050204 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071031 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080125 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080313 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080404 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080417 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110509 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110509 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120509 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130509 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130509 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |