JP4449489B2 - 信号処理装置および信号処理方法 - Google Patents

信号処理装置および信号処理方法 Download PDF

Info

Publication number
JP4449489B2
JP4449489B2 JP2004042904A JP2004042904A JP4449489B2 JP 4449489 B2 JP4449489 B2 JP 4449489B2 JP 2004042904 A JP2004042904 A JP 2004042904A JP 2004042904 A JP2004042904 A JP 2004042904A JP 4449489 B2 JP4449489 B2 JP 4449489B2
Authority
JP
Japan
Prior art keywords
signal
unit
signal processing
image data
command
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004042904A
Other languages
English (en)
Other versions
JP2005236633A (ja
Inventor
哲二郎 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004042904A priority Critical patent/JP4449489B2/ja
Priority to US11/050,275 priority patent/US7630576B2/en
Priority to EP20050250858 priority patent/EP1640907A3/en
Priority to CNB2005100093011A priority patent/CN100414966C/zh
Priority to KR1020050013884A priority patent/KR101110209B1/ko
Publication of JP2005236633A publication Critical patent/JP2005236633A/ja
Application granted granted Critical
Publication of JP4449489B2 publication Critical patent/JP4449489B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E04BUILDING
    • E04GSCAFFOLDING; FORMS; SHUTTERING; BUILDING IMPLEMENTS OR AIDS, OR THEIR USE; HANDLING BUILDING MATERIALS ON THE SITE; REPAIRING, BREAKING-UP OR OTHER WORK ON EXISTING BUILDINGS
    • E04G17/00Connecting or other auxiliary members for forms, falsework structures, or shutterings
    • E04G17/04Connecting or fastening means for metallic forming or stiffening elements, e.g. for connecting metallic elements to non-metallic elements
    • E04G17/045Connecting or fastening means for metallic forming or stiffening elements, e.g. for connecting metallic elements to non-metallic elements being tensioned by wedge-shaped elements
    • EFIXED CONSTRUCTIONS
    • E04BUILDING
    • E04GSCAFFOLDING; FORMS; SHUTTERING; BUILDING IMPLEMENTS OR AIDS, OR THEIR USE; HANDLING BUILDING MATERIALS ON THE SITE; REPAIRING, BREAKING-UP OR OTHER WORK ON EXISTING BUILDINGS
    • E04G17/00Connecting or other auxiliary members for forms, falsework structures, or shutterings
    • E04G17/04Connecting or fastening means for metallic forming or stiffening elements, e.g. for connecting metallic elements to non-metallic elements
    • E04G17/042Connecting or fastening means for metallic forming or stiffening elements, e.g. for connecting metallic elements to non-metallic elements being tensioned by threaded elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Architecture (AREA)
  • Mechanical Engineering (AREA)
  • Civil Engineering (AREA)
  • Structural Engineering (AREA)
  • Image Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Picture Signal Circuits (AREA)
  • Television Systems (AREA)

Description

本発明は、信号処理装置および信号処理方法に関し、特に、複数のコマンドに応じて、ハードウェアの内部構造を切り換えることにより、単一のハードウェアで、多くの機能を、容易に実現することができるようにする信号処理装置および信号処理方法に関する。
近年、コンピュータの高速化、低価格化に伴い、各種の機能のソフトウェア化が進んでいる。即ち、汎用のコンピュータのみならず、携帯電話機その他のPDA(Personal Digital Assistant)、テレビジョン受像機などのAV(Audio Visual)機器、電子炊飯器などの家電機器などにおいて、各種の処理は、CPU(Central Processing Unit)やDSP(Digital Signal Processor)などのプロセッサが、ソフトウェア(プログラム)を実行することで行われるようになっている。
このような機能のソフトウェア化に伴い、ソフトウェアも複雑で膨大なものとなってきており、コンピュータ(CPUやDSPなど)の負担が大になっている。そこで、コンピュータシステムにかかる処理負担を低減する新規なプロセッサを有する装置が提案されている(例えば、特許文献1参照)。
特開2002-358294号公報。
上述のように、コンピュータにソフトウェアを実行させることで各種の処理を行う限り、今後、ますます複雑で膨大なソフトウェアの開発が必要となることが予想される。そして、かかるソフトウェアの開発には、多大な労力と時間を要することとなる。
特に、高速な処理が要求される場合には、例えば、複数のプロセッサによる並列処理が必要となる。並列処理のためのソフトウェアの製作にあたっては、複数のプロセッサの動作タイミングを考慮しながら、膨大なステップ数のプログラミングを行わなければならず、ソフトウェアの製作者(技術者)の負担は相当なものとなる。
一方、ある処理を行うだけであれば、その処理を行う専用のハードウェアとしての、例えば、IC(Integraged Circuit)(LSI(Large Scale Integration))などを開発する方法がある。
しかしながら、ある処理を行う専用のハードウェアでは、その処理しか行うことができず、汎用性にかけることになる。
本発明は、このような状況に鑑みてなされたものであり、膨大なステップ数のプログラミングを行わずに、単一のハードウェアで、多くの機能を、容易に実現することができるようにするものである。
本発明の信号処理装置は、第1および第2の信号処理手段を備える信号処理装置であって、外部からの信号に応じて、第1の信号処理手段に対する第1のコマンド、および第2の信号処理手段に対する第2のコマンドを含むコマンド列を生成して放送する放送手段を含み、第1の信号処理手段は、放送されたコマンド列に含まれる第1のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、第1のコマンドに対応する第1の信号処理を行う状態に切り換え、第1のコマンドに対応する第1の信号処理として、第1の信号に含まれるノイズを除去するノイズ除去処理、第1の信号に生じている歪みを除去する歪み除去処理、第1の信号としての画像の空間解像度を向上させる空間解像度創造処理、または第1の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い第1の信号処理の処理結果として得られる第2の信号を出力し、第2の信号処理手段は、放送されたコマンド列に含まれる第2のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、第2のコマンドに対応する第2の信号処理を行う状態に切り換え、第2のコマンドに対応する第2の信号処理として、第2の信号に含まれるノイズを除去するノイズ除去処理、第2の信号に生じている歪みを除去する歪み除去処理、第2の信号としての画像の空間解像度を向上させる空間解像度創造処理、または第2の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い第2の信号処理の処理結果として得られる第3の信号を出力する。
本発明の信号処理方法は、放送手段と、第1および第2の信号処理手段とを備える信号処理装置の信号処理方法であって、放送手段が、外部からの信号に応じて、第1の信号処理手段に対する第1のコマンド、および第2の信号処理手段に対する第2のコマンドを含むコマンド列を生成して放送する放送ステップと、第1の信号処理手段が、放送されたコマンド列に含まれる第1のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、第1のコマンドに対応する第1の信号処理を行う状態に切り換え、第1のコマンドに対応する第1の信号処理として、第1の信号に含まれるノイズを除去するノイズ除去処理、第1の信号に生じている歪みを除去する歪み除去処理、第1の信号としての画像の空間解像度を向上させる空間解像度創造処理、または第1の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い第1の信号処理の処理結果として得られる第2の信号を出力する第1の信号処理ステップと、第2の信号処理手段が、放送されたコマンド列に含まれる第2のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、第2のコマンドに対応する第2の信号処理を行う状態に切り換え、第2のコマンドに対応する第2の信号処理として、第2の信号に含まれるノイズを除去するノイズ除去処理、第2の信号に生じている歪みを除去する歪み除去処理、第2の信号としての画像の空間解像度を向上させる空間解像度創造処理、または第2の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い第2の信号処理の処理結果として得られる第3の信号を出力する第2の信号処理ステップとを含む
本発明の信号処理装置および信号処理方法においては、放送手段は、外部からの信号に応じて、第1の信号処理手段に対する第1のコマンド、および第2の信号処理手段に対する第2のコマンドを含むコマンド列を生成して放送し、第1の信号処理手段は、放送されたコマンド列に含まれる第1のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、第1のコマンドに対応する第1の信号処理を行う状態に切り換え、第1のコマンドに対応する第1の信号処理として、第1の信号に含まれるノイズを除去するノイズ除去処理、第1の信号に生じている歪みを除去する歪み除去処理、第1の信号としての画像の空間解像度を向上させる空間解像度創造処理、または第1の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い第1の信号処理の処理結果として得られる第2の信号を出力し、第2の信号処理手段は、放送されたコマンド列に含まれる第2のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、第2のコマンドに対応する第2の信号処理を行う状態に切り換え、第2のコマンドに対応する第2の信号処理として、第2の信号に含まれるノイズを除去するノイズ除去処理、第2の信号に生じている歪みを除去する歪み除去処理、第2の信号としての画像の空間解像度を向上させる空間解像度創造処理、または第2の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い第2の信号処理の処理結果として得られる第3の信号を出力する。
本発明によれば、単一のハードウェアで、多くの機能を、容易に実現することが可能となる。
まず、請求項に記載の構成要件(発明特定事項)と、発明の実施の形態における具体例との対応関係を例示する。なお、この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
請求項1に記載の信号処理装置は、
第1および第2の信号処理手段(例えば、図14のR-IC212,222,232)を備える信号処理装置において、
外部からの信号に応じて、前記第1の信号処理手段に対する第1のコマンド、および前記第2の信号処理手段に対する第2のコマンドを含むコマンド列を生成して放送する放送手段(例えば、図14の制御装置202)を含み、
前記第1の信号処理手段は、
放送された前記コマンド列に含まれる前記第1のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第1のコマンドに対応する第1の信号処理を行う状態に切り換え、
前記第1のコマンドに対応する前記第1の信号処理として、第1の信号に含まれるノイズを除去するノイズ除去処理、前記第1の信号に生じている歪みを除去する歪み除去処理、前記第1の信号としての画像の空間解像度を向上させる空間解像度創造処理、または前記第1の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い前記第1の信号処理の処理結果として得られる第2の信号を出力し、
前記第2の信号処理手段は、
放送された前記コマンド列に含まれる前記第2のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第2のコマンドに対応する第2の信号処理を行う状態に切り換え、
前記第2のコマンドに対応する前記第2の信号処理として、前記第2の信号に含まれるノイズを除去するノイズ除去処理、前記第2の信号に生じている歪みを除去する歪み除去処理、前記第2の信号としての画像の空間解像度を向上させる空間解像度創造処理、または前記第2の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い前記第2の信号処理の処理結果として得られる第3の信号を出力する
請求項に記載の信号処理装置は、
前記第1の信号処理手段は、
前記注目信号を前記複数のクラスのうちのいずれかのクラスにクラス分類するのに用いるクラスタップを、前記第1の信号から選択するクラスタップ選択手段(例えば、図27のタップ選択部253)と、
前記クラスタップに基づいて、前記注目信号をクラス分類するクラス分類手段(例えば、図27のクラス分類部254)と、
前記注目信号を求めるときの前記タップ係数との演算に用いる予測タップを、前記第1の信号から選択する予測タップ選択手段(例えば、図27のタップ選択部252)と、
前記注目信号のクラスのタップ係数を出力するタップ係数出力手段(例えば、図27の係数出力部255)と、
前記注目信号のクラスのタップ係数と、前記注目信号に対して選択された前記予測タップとを用いた演算を行うことにより、前記注目信号を求める演算手段(例えば、図27の予測演算部256)と
を有する
請求項に記載の信号処理装置は、
前記第2の信号処理手段は、
前記注目信号を前記複数のクラスのうちのいずれかのクラスにクラス分類するのに用いるクラスタップを、前記第2の信号から選択するクラスタップ選択手段(例えば、図27のタップ選択部253)と、
前記クラスタップに基づいて、前記注目信号をクラス分類するクラス分類手段(例えば、図27のクラス分類部254)と、
前記注目信号を求めるときの前記タップ係数との演算に用いる予測タップを、前記第2の信号から選択する予測タップ選択手段(例えば、図27のタップ選択部252)と、
前記注目信号のクラスのタップ係数を出力するタップ係数出力手段(例えば、図27の係数出力部255)と、
前記注目信号のクラスのタップ係数と、前記注目信号に対して選択された前記予測タップとを用いた演算を行うことにより、前記注目信号を求める演算手段(例えば、図27の予測演算部256)と
を有する
請求項10に記載の信号処理装置は、
放送信号を受信し、その放送信号から得られる前記第1の画像信号を出力する画像信号出力手段(例えば、図32のチューナ部311)をさらに備える
請求項11に記載の信号処理装置は、
前記コマンド列のうちの1つのコマンドに応じた動きベクトル検出処理を行う動きベクトル検出手段(例えば、図35の信号処理チップ334)をさらに備え、
前記第1または第2の信号処理手段は、前記動きベクトル検出処理によって検出された動きベクトルを用いて、信号処理を行う
請求項12に記載の信号処理装置は、
前記コマンド列のうちの1つのコマンドに応じて、前記第3の画像信号を記憶する画像信号記憶手段(例えば、図35のメモリ部333)をさらに備える
請求項13に記載の信号処理方法は、
放送手段と、第1および第2の信号処理手段を備える信号処理装置の信号処理方法において、
前記放送手段が、外部からの信号に応じて、前記第1の信号処理手段に対する第1のコマンド、および前記第2の信号処理手段に対する第2のコマンドを含むコマンド列を生成して放送する放送ステップ(例えば、図17のステップS213)と、
前記第1の信号処理手段が、
放送された前記コマンド列に含まれる前記第1のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第1のコマンドに対応する第1の信号処理を行う状態に切り換え、
前記第1のコマンドに対応する前記第1の信号処理として、第1の信号に含まれるノイズを除去するノイズ除去処理、前記第1の信号に生じている歪みを除去する歪み除去処理、前記第1の信号としての画像の空間解像度を向上させる空間解像度創造処理、または前記第1の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い前記第1の信号処理の処理結果として得られる第2の信号を出力する第1の信号処理ステップ(例えば、図17のステップS215およびS2161)と、
前記第2の信号処理手段が、
放送された前記コマンド列に含まれる前記第2のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第2のコマンドに対応する第2の信号処理を行う状態に切り換え、
前記第2のコマンドに対応する前記第2の信号処理として、前記第2の信号に含まれるノイズを除去するノイズ除去処理、前記第2の信号に生じている歪みを除去する歪み除去処理、前記第2の信号としての画像の空間解像度を向上させる空間解像度創造処理、または前記第2の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い前記第2の信号処理の処理結果として得られる第3の信号を出力する第2の信号処理ステップ(例えば、図17のステップS215およびS2162)と
を含む
以下、本発明を適用した各種の装置(システム)の実施の形態について説明するが、その前に、その各種の装置が行う信号処理に利用するクラス分類適応処理について説明する。なお、クラス分類適応処理は、各種の装置が行う信号処理に利用する処理の一例であり、各種の装置が行う信号処理は、クラス分類適応処理を利用しないものであってもかまわない。
また、ここでは、第1の画像データ(画像信号)を第2の画像データ(画像信号)に変換する画像変換処理を例に、クラス分類適応処理について説明する。
第1の画像データを第2の画像データに変換する画像変換処理は、その第1と第2の画像データの定義によって様々な信号処理となる。
即ち、例えば、第1の画像データを低空間解像度の画像データとするとともに、第2の画像データを高空間解像度の画像データとすれば、画像変換処理は、空間解像度を向上させる空間解像度創造(向上)処理ということができる。
また、例えば、第1の画像データを低S/N(Siginal/Noise)の画像データとするとともに、第2の画像データを高S/Nの画像データとすれば、画像変換処理は、ノイズを除去するノイズ除去処理ということができる。
さらに、例えば、第1の画像データを所定の画素数(サイズ)の画像データとするとともに、第2の画像データを、第1の画像データの画素数を多くまたは少なくした画像データとすれば、画像変換処理は、画像のリサイズ(拡大または縮小)を行うリサイズ処理ということができる。
また、例えば、第1の画像データを低時間解像度の画像データとするとともに、第2の画像データを高時間解像度の画像データとすれば、画像変換処理は、時間解像度を向上させる時間解像度創造(向上)処理ということができる。
さらに、例えば、第1の画像データを、MPEG(Moving Picture Experts Group)符号化などのブロック単位で符号化された画像データを復号することによって得られる復号画像データとするとともに、第2の画像データを、符号化前の画像データとすれば、画像変換処理は、MPEG符号化および復号によって生じるブロック歪み等の各種の歪みを除去する歪み除去処理ということができる。
なお、空間解像度創造処理において、低空間解像度の画像データである第1の画像データを、高空間解像度の画像データである第2の画像データに変換するにあたっては、第2の画像データを、第1の画像データと同一の画素数の画像データとすることもできるし、第1の画像データよりも画素数が多い画像データとすることもできる。第2の画像データを、第1の画像データよりも画素数が多い画像データとする場合、空間解像度創造処理は、空間解像度を向上させる処理であるとともに、画像サイズ(画素数)を拡大するリサイズ処理でもある。
以上のように、画像変換処理によれば、第1および第2の画像データをどのように定義するかによって、様々な信号処理を実現することができる。
以上のような画像変換処理としてのクラス分類適応処理では、第2の画像データのうちの注目している注目画素(の画素値)を複数のクラスのうちのいずれかのクラスにクラス分類することにより得られるクラスのタップ係数と、注目画素に対して選択される第1の画像データの画素(の画素値)とを用いた演算により、注目画素(の画素値)が求められる。
即ち、図1は、クラス分類適応処理による画像変換処理を行う画像変換装置1の構成例を示している。
画像変換装置1では、そこに供給される画像データが、第1の画像データとして、タップ選択部12および13に供給される。
注目画素選択部11は、第2の画像データを構成する画素を、順次、注目画素とし、その注目画素を表す情報を、必要なブロックに供給する。
タップ選択部12は、注目画素(の画素値)を予測するのに用いる第1の画像データを構成する画素(の画素値)の幾つかを、予測タップとして選択する。
具体的には、タップ選択部12は、注目画素の時空間の位置から空間的または時間的に近い位置にある第1の画像データの複数の画素を、予測タップとして選択する。
タップ選択部13は、注目画素を、幾つかのクラスのうちのいずれかにクラス分けするクラス分類を行うのに用いる第1の画像データを構成する画素の幾つかを、クラスタップとして選択する。即ち、タップ選択部13は、タップ選択部12が予測タップを選択するのと同様にして、クラスタップを選択する。
なお、予測タップとクラスタップは、同一のタップ構造を有するものであっても良いし、異なるタップ構造を有するものであっても良い。
タップ選択部12で得られた予測タップは、予測演算部16に供給され、タップ選択部13で得られたクラスタップは、クラス分類部14に供給される。
クラス分類部14は、タップ選択部13からのクラスタップに基づき、注目画素をクラス分類し、その結果得られるクラスに対応するクラスコードを、係数出力部15に供給する。
ここで、クラス分類を行う方法としては、例えば、ADRC(Adaptive Dynamic Range Coding)等を採用することができる。
ADRCを用いる方法では、クラスタップを構成する画素(の画素値)が、ADRC処理され、その結果得られるADRCコードにしたがって、注目画素のクラスが決定される。
なお、KビットADRCにおいては、例えば、クラスタップを構成する画素の画素値の最大値MAXと最小値MINが検出され、DR=MAX-MINを、集合の局所的なダイナミックレンジとし、このダイナミックレンジDRに基づいて、クラスタップを構成する各画素の画素値がKビットに再量子化される。即ち、クラスタップを構成する各画素の画素値から、最小値MINが減算され、その減算値がDR/2Kで除算(再量子化)される。そして、以上のようにして得られる、クラスタップを構成するKビットの各画素の画素値を、所定の順番で並べたビット列が、ADRCコードとして出力される。従って、クラスタップが、例えば、1ビットADRC処理された場合には、そのクラスタップを構成する各画素の画素値は、最大値MAXと最小値MINとの平均値で除算され(小数点以下切り捨て)、これにより、各画素の画素値が1ビットとされる(2値化される)。そして、その1ビットの画素値を所定の順番で並べたビット列が、ADRCコードとして出力される。
なお、クラス分類部14には、例えば、クラスタップを構成する画素の画素値のレベル分布のパターンを、そのままクラスコードとして出力させることも可能である。しかしながら、この場合、クラスタップが、N個の画素の画素値で構成され、各画素の画素値に、Kビットが割り当てられているとすると、クラス分類部14が出力するクラスコードの場合の数は、(2NK通りとなり、画素の画素値のビット数Kに指数的に比例した膨大な数となる。
従って、クラス分類部14においては、クラスタップの情報量を、上述のADRC処理や、あるいはベクトル量子化等によって圧縮することにより、クラス分類を行うのが好ましい。
係数出力部15は、後述する学習によって求められたクラスごとのタップ係数を記憶し、さらに、その記憶したタップ係数のうちの、クラス分類部14から供給されるクラスコードに対応するアドレスに記憶されているタップ係数(クラス分類部14から供給されるクラスコードが表すクラスのタップ係数)を出力する。このタップ係数は、予測演算部16に供給される。
ここで、タップ係数とは、ディジタルフィルタにおける、いわゆるタップにおいて入力データと乗算される係数に相当するものである。
予測演算部16は、タップ選択部12が出力する予測タップと、係数出力部15が出力するタップ係数とを取得し、その予測タップとタップ係数とを用いて、注目画素の真値の予測値を求める所定の予測演算を行う。これにより、予測演算部16は、注目画素の画素値(の予測値)、即ち、第2の画像データを構成する画素の画素値を求めて出力する。
次に、図2のフローチャートを参照して、図1の画像変換装置1による画像変換処理について説明する。
ステップS11において、注目画素選択部11は、画像変換装置1に入力される第1の画像データに対する第2の画像データを構成する画素のうち、まだ、注目画素とされていないものの1つを、注目画素として選択し、ステップS12に進む。即ち、注目画素選択部11は、例えば、第2の画像データを構成する画素のうち、ラスタスキャン順で、まだ、注目画素とされていないものが、注目画素として選択される。
ステップS12において、タップ選択部12と13が、そこに供給される第1の画像データから、注目画素についての予測タップとクラスタップとするものを、それぞれ選択する。そして、予測タップは、タップ選択部12から予測演算部16に供給され、クラスタップは、タップ選択部13からクラス分類部14に供給される。
クラス分類部14は、タップ選択部13から、注目画素についてのクラスタップを受信し、ステップS13において、そのクラスタップに基づき、注目画素をクラス分類する。さらに、クラス分類部14は、そのクラス分類の結果得られる注目画素のクラスを表すクラスコードを、係数出力部15に出力し、ステップS14に進む。
ステップS14では、係数出力部15が、クラス分類部14から供給されるクラスコードに対応するアドレスに記憶されているタップ係数を取得して出力する。さらに、ステップS14では、予測演算部16が、係数出力部15が出力するタップ係数を取得し、ステップS15に進む。
ステップS15では、予測演算部16が、タップ選択部12が出力する予測タップと、係数出力部15から取得したタップ係数とを用いて、所定の予測演算を行う。これにより、予測演算部16は、注目画素の画素値を求めて出力し、ステップS16に進む。
ステップS16では、注目画素選択部11が、まだ、注目画素としていない第2の画像データがあるかどうかを判定する。ステップS16において、まだ、注目画素としていない第2の画像データがあると判定された場合、ステップS11に戻り、以下、同様の処理が繰り返される。
また、ステップS16において、まだ、注目画素とされていない第2の画像データがないと判定された場合、処理を終了する。
次に、図1の予測演算部16における予測演算と、係数出力部15に記憶されたタップ係数の学習について説明する。
いま、例えば、高画質の画像データ(高画質画像データ)を第2の画像データとするとともに、その高画質画像データをLPF(Low Pass Filter)によってフィルタリングする等してその画質(解像度)を低下させた低画質の画像データ(低画質画像データ)を第1の画像データとして、低画質画像データから予測タップを選択し、その予測タップとタップ係数を用いて、高画質画像データの画素(高画質画素)の画素値を、所定の予測演算によって求める(予測する)ことを考える。
所定の予測演算として、例えば、線形1次予測演算を採用することとすると、高画質画素の画素値yは、次の線形1次式によって求められることになる。
Figure 0004449489
・・・(1)
但し、式(1)において、xnは、高画質画素yについての予測タップを構成する、n番目の低画質画像データの画素(以下、適宜、低画質画素という)の画素値を表し、wnは、n番目の低画質画素(の画素値)と乗算されるn番目のタップ係数を表す。なお、式(1)では、予測タップが、N個の低画質画素x1,x2,・・・,xNで構成されるものとしてある。
ここで、高画質画素の画素値yは、式(1)に示した線形1次式ではなく、2次以上の高次の式によって求めるようにすることも可能である。
いま、第kサンプルの高画質画素の画素値の真値をykと表すとともに、式(1)によって得られるその真値ykの予測値をyk’と表すと、その予測誤差ekは、次式で表される。
Figure 0004449489
・・・(2)
いま、式(2)の予測値yk’は、式(1)にしたがって求められるため、式(2)のyk’を、式(1)にしたがって置き換えると、次式が得られる。
Figure 0004449489
・・・(3)
但し、式(3)において、xn,kは、第kサンプルの高画質画素についての予測タップを構成するn番目の低画質画素を表す。
式(3)(または式(2))の予測誤差ekを0とするタップ係数wnが、高画質画素を予測するのに最適なものとなるが、すべての高画質画素について、そのようなタップ係数wnを求めることは、一般には困難である。
そこで、タップ係数wnが最適なものであることを表す規範として、例えば、最小自乗法を採用することとすると、最適なタップ係数wnは、次式で表される自乗誤差の総和Eを最小にすることで求めることができる。
Figure 0004449489
・・・(4)
但し、式(4)において、Kは、高画質画素ykと、その高画質画素ykについての予測タップを構成する低画質画素x1,k,x2,k,・・・,xN,kとのセットのサンプル数(学習用のサンプルの数)を表す。
式(4)の自乗誤差の総和Eの最小値(極小値)は、式(5)に示すように、総和Eをタップ係数wnで偏微分したものを0とするwnによって与えられる。
Figure 0004449489

・・・(5)
そこで、上述の式(3)をタップ係数wnで偏微分すると、次式が得られる。
Figure 0004449489
・・・(6)
式(5)と(6)から、次式が得られる。
Figure 0004449489

・・・(7)
式(7)のekに、式(3)を代入することにより、式(7)は、式(8)に示す正規方程式で表すことができる。
Figure 0004449489
・・・(8)
式(8)の正規方程式は、例えば、掃き出し法(Gauss-Jordanの消去法)などを用いることにより、タップ係数wnについて解くことができる。
式(8)の正規方程式を、クラスごとにたてて解くことにより、最適なタップ係数(ここでは、自乗誤差の総和Eを最小にするタップ係数)wnを、クラスごとに求めることができる。
次に、図3は、式(8)の正規方程式をたてて解くことによりタップ係数wnを求める学習を行う学習装置21の構成例を示している。
学習用画像記憶部31は、タップ係数wnの学習に用いられる学習用画像データを記憶している。ここで、学習用画像データとしては、例えば、解像度の高い高画質画像データを用いることができる。
教師データ生成部32は、学習用画像記憶部31から学習用画像データを読み出す。さらに、教師データ生成部32は、学習用画像データから、タップ係数の学習の教師(真値)、即ち、式(1)による予測演算としての写像の写像先の画素値となる教師データを生成し、教師データ記憶部33に供給する。ここでは、教師データ生成部32は、例えば、学習用画像データとしての高画質画像データを、そのまま教師データとして、教師データ記憶部33に供給する。
教師データ記憶部33は、教師データ生成部32から供給される教師データとしての高画質画像データを記憶する。
生徒データ生成部34は、学習用画像記憶部31から学習用画像データを読み出す。さらに、生徒データ生成部34は、学習用画像データから、タップ係数の学習の生徒、即ち、式(1)による予測演算としての写像による変換対象の画素値となる生徒データを生成し、生徒データ記憶部174に供給する。ここでは、生徒データ生成部34は、例えば、学習用画像データとしての高画質画像データをフィルタリングすることにより、その解像度を低下させることで、低画質画像データを生成し、この低画質画像データを、生徒データとして、生徒データ記憶部35に供給する。
生徒データ記憶部35は、生徒データ生成部34から供給される生徒データを記憶する。
学習部36は、教師データ記憶部33に記憶された教師データとしての高画質画像データを構成する画素を、順次、注目画素とし、その注目画素について、生徒データ記憶部35に記憶された生徒データとしての低画質画像データを構成する低画質画素のうちの、図1のタップ選択部12が選択するのと同一のタップ構造の低画質画素を、予測タップとして選択する。さらに、学習部36は、教師データを構成する各画素と、その画素が注目画素とされたときに選択された予測タップとを用い、クラスごとに、式(8)の正規方程式をたてて解くことにより、クラスごとのタップ係数を求める。
即ち、図4は、図3の学習部36の構成例を示している。
注目画素選択部41は、教師データ記憶部33に記憶されている教師データを構成する画素を、順次、注目画素として選択し、その注目画素を表す情報を、必要なブロックに供給する。
タップ選択部42は、注目画素について、生徒データ記憶部35に記憶された生徒データとしての低画質画像データを構成する低画質画素から、図1のタップ選択部12が選択するの同一の画素を選択し、これにより、タップ選択部12で得られるのと同一のタップ構造の予測タップを得て、足し込み部45に供給する。
タップ選択部43は、注目画素について、生徒データ記憶部35に記憶された生徒データとしての低画質画像データを構成する低画質画素から、図1のタップ選択部13が選択するのと同一の画素を選択し、これにより、タップ選択部13で得られるのと同一のタップ構造のクラスタップを得て、クラス分類部44に供給する。
クラス分類部44は、タップ選択部43が出力するクラスタップに基づき、図1のクラス分類部14と同一のクラス分類を行い、その結果得られるクラスに対応するクラスコードを、足し込み部45に出力する。
足し込み部45は、教師データ記憶部33から、注目画素となっている教師データ(画素)を読み出し、その注目画素と、タップ選択部42から供給される注目画素についての予測タップを構成する生徒データ(画素)とを対象とした足し込みを、クラス分類部44から供給されるクラスコードごとに行う。
即ち、足し込み部45には、教師データ記憶部33に記憶された教師データyk、タップ選択部42が出力する予測タップxn,k、クラス分類部44が出力するクラスコードが供給される。
そして、足し込み部45は、クラス分類部44から供給されるクラスコードに対応するクラスごとに、予測タップ(生徒データ)xn,kを用い、式(8)の左辺の行列における生徒データどうしの乗算(xn,kn',k)と、サメーション(Σ)に相当する演算を行う。
さらに、足し込み部45は、やはり、クラス分類部44から供給されるクラスコードに対応するクラスごとに、予測タップ(生徒データ)xn,kと教師データykを用い、式(8)の右辺のベクトルにおける生徒データxn,kおよび教師データykの乗算(xn,kk)と、サメーション(Σ)に相当する演算を行う。
即ち、足し込み部45は、前回、注目画素とされた教師データについて求められた式(8)における左辺の行列のコンポーネント(Σxn,kn',k)と、右辺のベクトルのコンポーネント(Σxn,kk)を、その内蔵するメモリ(図示せず)に記憶しており、その行列のコンポーネント(Σxn,kn',k)またはベクトルのコンポーネント(Σxn,kk)に対して、新たに注目画素とされた教師データについて、その教師データyk+1および生徒データxn,k+1を用いて計算される、対応するコンポーネントxn,k+1n',k+1またはxn,k+1k+1を足し込む(式(8)のサメーションで表される加算を行う)。
そして、足し込み部45は、教師データ記憶部33(図3)に記憶された教師データすべてを注目画素として、上述の足し込みを行うことにより、各クラスについて、式(8)に示した正規方程式をたてると、その正規方程式を、タップ係数算出部46に供給する。
タップ係数算出部46は、足し込み部45から供給される各クラスについての正規方程式を解くことにより、各クラスについて、最適なタップ係数wnを求めて出力する。
図1の画像変換装置1における係数出力部15には、以上のようにして求められたクラスごとのタップ係数wnが記憶されている。
ここで、第1の画像データに対応する生徒データとする画像データと、第2の画像データに対応する教師データとする画像データの選択の仕方によって、タップ係数としては、上述したように、各種の画像変換処理を行うものを得ることができる。
即ち、上述のように、高画質画像データを、第2の画像データに対応する教師データとするとともに、その高画質画像データの空間解像度を劣化させた低画質画像データを、第1の画像データに対応する生徒データとして、タップ係数の学習を行うことにより、タップ係数としては、図5上から1番目に示すように、低画質画像データ(SD(Standard Definition)画像)である第1の画像データを、その空間解像度を向上させた高画質画像データ(HD(High Definition)画像データ)である第2の画像データに変換する空間解像度創造処理としての画像変換処理を行うものを得ることができる。
なお、この場合、第1の画像データ(生徒データ)は、第2の画像データ(教師データ)と画素数が同一であっても良いし、少なくても良い。
また、例えば、高画質画像データを教師データとするとともに、その教師データとしての高画質画像データに対して、ノイズを重畳した画像データを生徒データとして、タップ係数の学習を行うことにより、タップ係数としては、図5上から2番目に示すように、低S/Nの画像データである第1の画像データを、そこに含まれるノイズを除去(低減)した高S/Nの画像データである第2の画像データに変換するノイズ除去処理としての画像変換処理を行うものを得ることができる。
さらに、例えば、ある画像データを教師データとするとともに、その教師データとしての画像データの画素数を間引いた画像データを生徒データとして、タップ係数の学習を行うことにより、タップ係数としては、図5上から3番目に示すように、画像データの一部である第1の画像データを、その第1の画像データを拡大した拡大画像データである第2の画像データに変換する拡大処理(リサイズ処理)としての画像変換処理を行うものを得ることができる。
なお、拡大処理を行うタップ係数は、高画質画像データを教師データとするとともに、その高画質画像データの空間解像度を、画素数を間引くことにより劣化させた低画質画像データを生徒データとして、タップ係数の学習を行うことによっても得ることができる。
また、例えば、高フレームレートの画像データを教師データとするとともに、その教師データとしての高フレームレートの画像データのフレームを間引いた画像データを生徒データとして、タップ係数の学習を行うことにより、タップ係数としては、図5上から4番目(1番下)に示すように、所定のフレームレートの第1の画像データを、高フレームレートの第2の画像データに変換する時間解像度創造処理としての画像変換処理を行うものを得ることができる。
次に、図6のフローチャートを参照して、図3の学習装置21の処理(学習処理)について、説明する。
まず最初に、ステップS21において、教師データ生成部32と生徒データ生成部34が、学習用画像記憶部31に記憶された学習用画像データから、教師データと生徒データを生成し、教師データ記憶部33と生徒データ生成部34にそれぞれ供給して記憶させる。
なお、教師データ生成部32と生徒データ生成部34において、それぞれ、どのような生徒データと教師データを生成するかは、上述したような種類の画像変換処理のうちのいずれの処理用のタップ係数の学習を行うかによって異なる。
その後、ステップS22に進み、学習部36(図4)において、注目画素選択部41は、教師データ記憶部33に記憶された教師データのうち、まだ、注目画素としていないものを、注目画素として選択し、ステップS23に進む。ステップS23では、タップ選択部42が、注目画素について、生徒データ記憶部35に記憶された生徒データから予測タップとする生徒データとしての画素を選択し、足し込み部45に供給するとともに、タップ選択部43が、やはり、注目画素について、生徒データ記憶部35に記憶された生徒データからクラスタップとする生徒データを選択し、クラス分類部44に供給する。
そして、ステップS24に進み、クラス分類部44は、注目画素についてのクラスタップに基づき、注目画素のクラス分類を行い、その結果得られるクラスに対応するクラスコードを、足し込み部45に出力して、ステップS25に進む。
ステップS25では、足し込み部45は、教師データ記憶部33から、注目画素を読み出し、その注目画素と、タップ選択部42から供給される注目画素について選択された予測タップを構成する生徒データとを対象とした式(8)の足し込みを、クラス分類部44から供給されるクラスコードごとに行い、ステップS26に進む。
ステップS26では、注目画素選択部41が、教師データ記憶部33に、まだ、注目画素としていない教師データが記憶されているかどうかを判定する。ステップS26において、注目画素としていない教師データが、まだ、教師データ記憶部33に記憶されていると判定された場合、ステップS22に戻り、以下、同様の処理が繰り返される。
また、ステップS26において、注目画素としていない教師データが、教師データ記憶部33に記憶されていないと判定された場合、足し込み部45は、いままでのステップS22乃至S26の処理によって得られたクラスごとの式(8)における左辺の行列と、右辺のベクトルを、タップ係数算出部46に供給し、ステップS27に進む。
ステップS27では、タップ係数算出部46は、足し込み部45から供給されるクラスごとの式(8)における左辺の行列と右辺のベクトルによって構成されるクラスごとの正規方程式を解くことにより、各クラスごとに、タップ係数wnを求めて出力し、処理を終了する。
なお、学習用画像データの数が十分でないこと等に起因して、タップ係数を求めるのに必要な数の正規方程式が得られないクラスが生じることがあり得るが、そのようなクラスについては、タップ係数算出部46は、例えば、デフォルトのタップ係数を出力するようになっている。
次に、図7は、クラス分類適応処理による画像変換処理を行う他の画像変換装置である画像変換装置51の構成例を示している。
なお、図中、図1における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、画像変換装置51は、係数出力部15に代えて、係数出力部55が設けられている他は、図1の画像変換装置1と同様に構成されている。
係数出力部55には、クラス分類部14からクラス(クラスコード)が供給される他、例えば、ユーザの操作に応じて外部から入力されるパラメータzが供給されるようになっている。係数出力部55は、後述するようにして、パラメータzに対応するクラスごとのタップ係数を生成し、そのクラスごとのタップ係数のうちの、クラス分類部14からのクラスのタップ係数を、予測演算部16に出力する。
図8は、図7の係数出力部55の構成例を示している。
係数生成部61は、係数種メモリ62に記憶されている係数種データと、パラメータメモリ63に記憶されたパラメータzとに基づいて、クラスごとのタップ係数を生成し、係数メモリ64に供給して上書きする形で記憶させる。
係数種メモリ62は、後述する係数種データの学習によって得られるクラスごとの係数種データを記憶している。ここで、係数種データは、タップ係数を生成する、いわば種になるデータである。
パラメータメモリ63は、ユーザの操作等に応じて外部から入力されるパラメータzを上書きする形で記憶する。
係数メモリ64は、係数生成部61から供給されるクラスごとのタップ係数(パラメータzに対応するクラスごとのタップ係数)を記憶する。そして、係数メモリ64は、クラス分類部14(図7)から供給されるクラスのタップ係数を読み出し、予測演算部16(図7)に出力する。
図7の画像変換装置51では、外部から係数出力部55に対して、パラメータzが入力されると、係数出力部55(図8)のパラメータメモリ63において、そのパラメータzが、上書きする形で記憶される。
パラメータメモリ63にパラメータzが記憶されると(パラメータメモリ63の記憶内容が更新されると)、係数生成部61は、係数種メモリ62からクラスごとの係数種データを読み出すとともに、パラメータメモリ63からパラメータzを読み出し、その係数種データとパラメータzに基づいて、クラスごとのタップ係数を求める。そして、係数生成部61は、そのクラスごとのタップ係数を、係数メモリ64に供給し、上書きする形で記憶させる。
画像変換装置51では、タップ係数を記憶しており、そのタップ係数を出力する係数出力部15に代えて設けられている係数出力部55において、パラメータzに対応するタップ係数を生成して出力することを除いて、図1の画像変換装置1が行う図2のフローチャートにしたがった処理と同様の処理が行われる。
次に、図7の予測演算部16における予測演算、並びに図8の係数生成部61におけるタップ係数の生成および係数種メモリ62に記憶させる係数種データの学習について説明する。
図1の実施の形態における場合のように、高画質の画像データ(高画質画像データ)を第2の画像データとするとともに、その高画質画像データの空間解像度を低下させた低画質の画像データ(低画質画像データ)を第1の画像データとして、低画質画像データから予測タップを選択し、その予測タップとタップ係数を用いて、高画質画像データの画素である高画質画素の画素値を、例えば、式(1)の線形1次予測演算によって求める(予測する)ことを考える。
ここで、高画質画素の画素値yは、式(1)に示した線形1次式ではなく、2次以上の高次の式によって求めるようにすることも可能である。
図8の実施の形態では、係数生成部61において、タップ係数wnが、係数種メモリ62に記憶された係数種データと、パラメータメモリ63に記憶されたパラメータzとから生成されるが、この係数生成部61におけるタップ係数wnの生成が、例えば、係数種データとパラメータzを用いた次式によって行われることとする。
Figure 0004449489
・・・(9)
但し、式(9)において、βm,nは、n番目のタップ係数wnを求めるのに用いられるm番目の係数種データを表す。なお、式(9)では、タップ係数wnが、M個の係数種データβ1,n,β2,n,・・・,βM,nを用いて求められるようになっている。
ここで、係数種データβm,nとパラメータzから、タップ係数wnを求める式は、式(9)に限定されるものではない。
いま、式(9)におけるパラメータzによって決まる値zm-1を、新たな変数tmを導入して、次式で定義する。
Figure 0004449489
・・・(10)
式(10)を、式(9)に代入することにより、次式が得られる。
Figure 0004449489
・・・(11)
式(11)によれば、タップ係数wnは、係数種データβm,nと変数tmとの線形1次式によって求められることになる。
ところで、いま、第kサンプルの高画質画素の画素値の真値をykと表すとともに、式(1)によって得られるその真値ykの予測値をyk’と表すと、その予測誤差ekは、次式で表される。
Figure 0004449489
・・・(12)
いま、式(12)の予測値yk’は、式(1)にしたがって求められるため、式(12)のyk’を、式(1)にしたがって置き換えると、次式が得られる。
Figure 0004449489
・・・(13)
但し、式(13)において、xn,kは、第kサンプルの高画質画素についての予測タップを構成するn番目の低画質画素を表す。
式(13)のwnに、式(11)を代入することにより、次式が得られる。
Figure 0004449489
・・・(14)
式(14)の予測誤差ekを0とする係数種データβm,nが、高画質画素を予測するのに最適なものとなるが、すべての高画質画素について、そのような係数種データβm,nを求めることは、一般には困難である。
そこで、係数種データβm,nが最適なものであることを表す規範として、例えば、最小自乗法を採用することとすると、最適な係数種データβm,nは、次式で表される自乗誤差の総和Eを最小にすることで求めることができる。
Figure 0004449489
・・・(15)
但し、式(15)において、Kは、高画質画素ykと、その高画質画素ykについての予測タップを構成する低画質画素x1,k,x2,k,・・・,xN,kとのセットのサンプル数(学習用のサンプルの数)を表す。
式(15)の自乗誤差の総和Eの最小値(極小値)は、式(16)に示すように、総和Eを係数種データβm,nで偏微分したものを0とするβm,nによって与えられる。
Figure 0004449489
・・・(16)
式(13)を、式(16)に代入することにより、次式が得られる。
Figure 0004449489

・・・(17)
いま、Xi,p,j,qとYi,pを、式(18)と(19)に示すように定義する。
Figure 0004449489

・・・(18)
Figure 0004449489

・・・(19)
この場合、式(17)は、Xi,p,j,qとYi,pを用いた式(20)に示す正規方程式で表すことができる。
Figure 0004449489
・・・(20)
式(20)の正規方程式は、例えば、掃き出し法(Gauss-Jordanの消去法)などを用いることにより、係数種データβm,nについて解くことができる。
図7の画像変換装置51においては、多数の高画質画素y1,y2,・・・,yKを学習の教師となる教師データとするとともに、各高画質画素ykについての予測タップを構成する低画質画素x1,k,x2,k,・・・,xN,kを学習の生徒となる生徒データとして、クラスごとに式(20)の正規方程式をたてて解く学習を行うことにより求められたクラスごとの係数種データβm,nが、係数出力部55(図8)の係数種メモリ62に記憶されており、係数生成部61では、その係数種データβm,nと、パラメータメモリ63に記憶されたパラメータzから、式(9)にしたがって、クラスごとのタップ係数wnが生成される。そして、予測演算部16において、そのタップ係数wnと、高画質画素としての注目画素についての予測タップを構成する低画質画素(第1の画像データの画素)xnを用いて、式(1)が計算されることにより、高画質画素としての注目画素の画素値(に近い予測値)が求められる。
次に、図9は、式(20)の正規方程式をクラスごとにたてて解くことにより、クラスごとの係数種データβm,nを求める学習を行う学習装置71の構成例を示している。
なお、図中、図3の学習装置21における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、学習装置71は、生徒データ生成部34と学習部36に代えて、生徒データ生成部74と学習部76がそれぞれ設けられているとともに、パラメータ生成部81が新たに設けられている他は、図3の学習装置21と同様に構成されている。
生徒データ生成部74は、図3の生徒データ生成部34と同様に、学習用画像データから生徒データを生成し、生徒データ記憶部35に供給して記憶させる。
但し、生徒データ生成部74には、学習用画像データの他、図8のパラメータメモリ63に供給されるパラメータzが取り得る範囲の幾つかの値が、パラメータ生成部81から供給されるようになっている。即ち、いま、パラメータzが取り得る値が0乃至Zの範囲の実数であるとすると、生徒データ生成部74には、例えば、z=0,1,2,・・・,Zが、パラメータ生成部81から供給されるようになっている。
生徒データ生成部74は、学習用画像データとしての高画質画像データを、例えば、そこに供給されるパラメータzに対応するカットオフ周波数のLPFによってフィルタリングすることにより、生徒データとしての低画質画像データを生成する。
従って、生徒データ生成部74では、学習用画像データとしての高画質画像データについて、Z+1種類の、空間解像度の異なる生徒データとしての低画質画像データが生成される。
なお、ここでは、例えば、パラメータzの値が大きくなるほど、カットオフ周波数の高いLPFを用いて、高画質画像データをフィルタリングし、生徒データとしての低画質画像データを生成するものとする。従って、ここでは、値の大きいパラメータzに対応する低画質画像データほど、空間解像度が高い。
また、本実施の形態では、説明を簡単にするために、生徒データ生成部74において、高画質画像データの水平方向および垂直方向の両方向の空間解像度を、パラメータzに対応する分だけ低下させた低画質画像データを生成するものとする。
学習部76は、教師データ記憶部33に記憶された教師データ、生徒データ記憶部35に記憶された生徒データ、およびパラメータ生成部81から供給されるパラメータzを用いて、クラスごとの係数種データを求めて出力する。
パラメータ生成部81は、パラメータzが取り得る範囲の幾つかの値としての、例えば、上述したようなz=0,1,2,・・・,Zを生成し、生徒データ生成部74と学習部76に供給する。
次に、図10は、図9の学習部76の構成例を示している。なお、図中、図4の学習部36における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
タップ選択部92は、図4のタップ選択部42と同様に、注目画素について、生徒データ記憶部35に記憶された生徒データとしての低画質画像データを構成する低画質画素から、図7のタップ選択部12が選択するのと同一のタップ構造の予測タップを選択し、足し込み部95に供給する。
タップ選択部93も、図4のタップ選択部43と同様に、注目画素について、生徒データ記憶部35に記憶された生徒データとしての低画質画像データを構成する低画質画素から、図7のタップ選択部13が選択するのと同一のタップ構造のクラスタップを選択し、クラス分類部44に供給する。
但し、図10では、タップ選択部42と43に、図9のパラメータ生成部81が生成するパラメータzが供給されるようになっており、タップ選択部42と43は、パラメータ生成部81から供給されるパラメータzに対応して生成された生徒データ(ここでは、パラメータzに対応するカットオフ周波数のLPFを用いて生成された生徒データとしての低画質画像データ)から、予測タップとクラスタップをそれぞれ選択する。
足し込み部95は、図9の教師データ記憶部33から、注目画素を読み出し、その注目画素、タップ選択部42から供給される注目画素について構成された予測タップを構成する生徒データ、およびその生徒データを生成したときのパラメータzを対象とした足し込みを、クラス分類部44から供給されるクラスごとに行う。
即ち、足し込み部95には、教師データ記憶部33に記憶された注目画素としての教師データyk、タップ選択部42が出力する注目画素についての予測タップxi,k(xj,k)、およびクラス分類部44が出力する注目画素のクラスが供給されるとともに、注目画素についての予測タップを構成する生徒データを生成したときのパラメータzが、パラメータ生成部81から供給される。
そして、足し込み部95は、クラス分類部44から供給されるクラスごとに、予測タップ(生徒データ)xi,k(xj,k)とパラメータzを用い、式(20)の左辺の行列における、式(18)で定義されるコンポーネントXi,p,j,qを求めるための生徒データおよびパラメータzの乗算(xi,kpj,kq)と、サメーション(Σ)に相当する演算を行う。なお、式(18)のtpは、式(10)にしたがって、パラメータzから計算される。式(18)のtqも同様である。
さらに、足し込み部95は、やはり、クラス分類部44から供給されるクラスコードに対応するクラスごとに、予測タップ(生徒データ)xi,k、教師データyk、およびパラメータzを用い、式(20)の右辺のベクトルにおける、式(19)で定義されるコンポーネントYi,pを求めるための生徒データxi,k、教師データyk、およびパラメータzの乗算(xi,kpk)と、サメーション(Σ)に相当する演算を行う。なお、式(19)のtpは、式(10)にしたがって、パラメータzから計算される。
即ち、足し込み部95は、前回、注目画素とされた教師データについて求められた式(20)における左辺の行列のコンポーネントXi,p,j,qと、右辺のベクトルのコンポーネントYi,pを、その内蔵するメモリ(図示せず)に記憶しており、その行列のコンポーネントXi,p,j,qまたはベクトルのコンポーネントYi,pに対して、新たに注目画素とされた教師データについて、その教師データyk、生徒データxi,k(xj,k)、およびパラメータzを用いて計算される、対応するコンポーネントxi,kpj,kqまたはxi,kpkを足し込む(式(18)のコンポーネントXi,p,j,qまたは式(19)のコンポーネントYi,pにおけるサメーションで表される加算を行う)。
そして、足し込み部95は、0,1,・・・,Zのすべての値のパラメータzにつき、教師データ記憶部33に記憶された教師データすべてを注目画素として、上述の足し込みを行うことにより、各クラスについて、式(20)に示した正規方程式をたてると、その正規方程式を、係数種算出部96に供給する。
係数種算出部96は、足し込み部95から供給されるクラスごとの正規方程式を解くことにより、各クラスごとの係数種データβm,nを求めて出力する。
次に、図11のフローチャートを参照して、図9の学習装置71の処理(学習処理)について、説明する。
まず最初に、ステップS31において、教師データ生成部32と生徒データ生成部74が、学習用画像記憶部31に記憶された学習用画像データから、教師データと生徒データを、それぞれ生成して出力する。即ち、教師データ生成部32は、学習用画像データを、例えば、そのまま、教師データとして出力する。また、生徒データ生成部74には、パラメータ生成部81が生成するZ+1個の値のパラメータzが供給される。生徒データ生成部74は、例えば、学習用画像データを、パラメータ生成部81からのZ+1個の値(0,1,・・・,Z)のパラメータzに対応するカットオフ周波数のLPFによってフィルタリングすることにより、各フレームの教師データ(学習用画像データ)について、Z+1フレームの生徒データを生成して出力する。
教師データ生成部32が出力する教師データは、教師データ記憶部33に供給されて記憶され、生徒データ生成部74が出力する生徒データは、生徒データ記憶部35に供給されて記憶される。
その後、ステップS32に進み、パラメータ生成部81は、パラメータzを、初期値としての、例えば0にセットし、学習部76(図10)のタップ選択部42および43、並びに足し込み部95に供給して、ステップS33に進む。ステップS33では、注目画素選択部41は、教師データ記憶部33に記憶された教師データのうち、まだ、注目画素としていないものを、注目画素として、ステップS34に進む。
ステップS34では、タップ選択部42が、注目画素について、生徒データ記憶部35に記憶された、パラメータ生成部81が出力するパラメータzに対する生徒データ(注目画素となっている教師データに対応する学習用画像データを、パラメータzに対応するカットオフ周波数のLPFによってフィルタリングすることにより生成された生徒データ)から予測タップを選択し、足し込み部95に供給する。さらに、ステップS34では、タップ選択部43が、やはり、注目画素について、生徒データ記憶部35に記憶された、パラメータ生成部81が出力するパラメータzに対する生徒データからクラスタップを選択し、クラス分類部44に供給する。
そして、ステップS35に進み、クラス分類部44は、注目画素についてのクラスタップに基づき、注目画素のクラス分類を行い、その結果得られる注目画素のクラスを、足し込み部95に出力して、ステップS36に進む。
ステップS35では、足し込み部95は、教師データ記憶部33から注目画素を読み出し、その注目画素、タップ選択部42から供給される予測タップ、パラメータ生成部81が出力するパラメータzを用い、式(20)における左辺の行列のコンポーネントxi,Kpj,Kqと、右辺のベクトルのコンポーネントxi,KpKを計算する。さらに、足し込み部95は、既に得られている行列のコンポーネントとベクトルのコンポーネントのうち、クラス分類部44からの注目画素のクラスに対応するものに対して、注目画素、予測タップ、およびパラメータzから求められた行列のコンポーネントxi,Kpj,Kqとベクトルのコンポーネントxi,KpKを足し込み、ステップS37に進む。
ステップS37では、パラメータ生成部81が、自身が出力しているパラメータzが、その取り得る値の最大値であるZに等しいかどうかを判定する。ステップS36において、パラメータ生成部81が出力しているパラメータzが最大値Zに等しくない(最大値Z未満である)と判定された場合、ステップS38に進み、パラメータ生成部81は、パラメータzに1を加算し、その加算値を新たなパラメータzとして、学習部76(図10)のタップ選択部42および43、並びに足し込み部95に出力する。そして、ステップS34に戻り、以下、同様の処理が繰り返される。
また、ステップS37において、パラメータzが最大値Zに等しいと判定された場合、ステップS39に進み、注目画素選択部41が、教師データ記憶部33に、まだ、注目画素としていない教師データが記憶されているかどうかを判定する。ステップS38において、注目画素としていない教師データが、まだ、教師データ記憶部33に記憶されていると判定された場合、ステップS32に戻り、以下、同様の処理が繰り返される。
また、ステップS39において、注目画素としていない教師データが、教師データ記憶部33に記憶されていないと判定された場合、足し込み部95は、いままでの処理によって得られたクラスごとの式(20)における左辺の行列と、右辺のベクトルを、係数種算出部96に供給し、ステップS40に進む。
ステップS40では、係数種算出部96は、足し込み部95から供給されるクラスごとの式(20)における左辺の行列と右辺のベクトルによって構成されるクラスごとの正規方程式を解くことにより、各クラスごとに、係数種データβm,nを求めて出力し、処理を終了する。
なお、学習用画像データの数が十分でないこと等に起因して、係数種データを求めるのに必要な数の正規方程式が得られないクラスが生じることがあり得るが、そのようなクラスについては、係数種算出部96は、例えば、デフォルトの係数種データを出力するようになっている。
ところで、図9の学習装置71では、学習用画像データとしての高画質画像データを教師データとするとともに、その高画質画像データの空間解像度を、パラメータzに対応して劣化させた低画質画像データを生徒データとして、タップ係数wnおよび生徒データxnから式(1)の線形1次式で予測される教師データの予測値yの自乗誤差の総和を最小にする係数種データβm,nを直接求める学習を行うようにしたが、係数種データβm,nの学習は、その他、例えば、次のようにして行うことが可能である。
即ち、学習用画像データとしての高画質画像データを教師データとするとともに、その高画質画像データを、パラメータzに対応したカットオフ周波数のLPFによってフィルタリングすることにより、その水平解像度および垂直解像度を低下させた低画質画像データを生徒データとして、まず最初に、タップ係数wnおよび生徒データxnを用いて式(1)の線形1次予測式で予測される教師データの予測値yの自乗誤差の総和を最小にするタップ係数wnを、パラメータzの値(ここでは、z=0,1,・・・,Z)ごとに求める。そして、そのパラメータzの値ごとに求められたタップ係数wnを教師データとするとともに、パラメータzを生徒データとして、式(11)によって係数種データβm,nおよび生徒データであるパラメータzに対応する変数tmから予測される教師データとしてのタップ係数wnの予測値の自乗誤差の総和を最小にする係数種データβm,nを求める。
ここで、式(1)の線形1次予測式で予測される教師データの予測値yの自乗誤差の総和Eを最小(極小)にするタップ係数wnは、図3の学習装置21における場合と同様に、式(8)の正規方程式をたてて解くことにより、各クラスについて、パラメータzの値(z=0,1,・・・,Z)ごとに求めることができる。
ところで、タップ係数は、式(11)に示したように、係数種データβm,nと、パラメータzに対応する変数tmとから求められる。そして、いま、この式(11)によって求められるタップ係数を、wn’と表すこととすると、次の式(21)で表される、最適なタップ係数wnと式(11)により求められるタップ係数wn’との誤差enを0とする係数種データβm,nが、最適なタップ係数wnを求めるのに最適な係数種データとなるが、すべてのタップ係数wnについて、そのような係数種データβm,nを求めることは、一般には困難である。
Figure 0004449489

・・・(21)
なお、式(21)は、式(11)によって、次式のように変形することができる。
Figure 0004449489

・・・(22)
そこで、係数種データβm,nが最適なものであることを表す規範として、例えば、やはり、最小自乗法を採用することとすると、最適な係数種データβm,nは、次式で表される自乗誤差の総和Eを最小にすることで求めることができる。
Figure 0004449489

・・・(23)
式(23)の自乗誤差の総和Eの最小値(極小値)は、式(24)に示すように、総和Eを係数種データβm,nで偏微分したものを0とするβm,nによって与えられる。
Figure 0004449489

・・・(24)
式(22)を、式(24)に代入することにより、次式が得られる。
Figure 0004449489

・・・(25)
いま、Xi,j,とYiを、式(26)と(27)に示すように定義する。
Figure 0004449489

・・・(26)
Figure 0004449489

・・・(27)
この場合、式(25)は、Xi,jとYiを用いた式(28)に示す正規方程式で表すことができる。
Figure 0004449489

・・・(28)
式(28)の正規方程式も、例えば、掃き出し法(Gauss-Jordanの消去法)などを用いることにより、係数種データβm,nについて解くことができる。
次に、図12は、式(28)の正規方程式をたてて解くことにより係数種データβm,nを求める学習を行う学習装置101の構成例を示している。
なお、図中、図3の学習装置21または図9の学習装置71における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、学習装置101は、学習部76に代えて、学習部106が設けられている他は、図9の学習装置71と同様に構成されている。
図13は、図12の学習部106の構成例を示している。なお、図中、図4の学習部36または図10の学習部76における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
足し込み部115には、クラス分類部44が出力する注目画素のクラスと、パラメータ生成部81が出力するパラメータzが供給されるようになっている。そして、足し込み部115は、教師データ記憶部33から、注目画素を読み出し、その注目画素と、タップ選択部42から供給される注目画素についての予測タップを構成する生徒データとを対象とした足し込みを、クラス分類部44から供給されるクラスごとに、かつパラメータ生成部81が出力するパラメータzの値ごとに行う。
即ち、足し込み部115には、教師データ記憶部33(図12)に記憶された教師データyk、タップ選択部42が出力する予測タップxn,k、クラス分類部44が出力するクラス、およびパラメータ生成部81(図12)が出力する、予測タップxn,kを構成する生徒データを生成したときのパラメータzが供給される。
そして、足し込み部115は、クラス分類部44から供給されるクラスごとに、かつパラメータ生成部81が出力するパラメータzの値ごとに、予測タップ(生徒データ)xn,kを用い、式(8)の左辺の行列における生徒データどうしの乗算(xn,kn',k)と、サメーション(Σ)に相当する演算を行う。
さらに、足し込み部115は、やはり、クラス分類部44から供給されるクラスごとに、かつパラメータ生成部81が出力するパラメータzの値ごとに、予測タップ(生徒データ)xn,kと教師データykを用い、式(8)の右辺のベクトルにおける生徒データxn,kおよび教師データykの乗算(xn,kk)と、サメーション(Σ)に相当する演算を行う。
即ち、足し込み部115は、前回、注目画素とされた教師データについて求められた式(8)における左辺の行列のコンポーネント(Σxn,kn',k)と、右辺のベクトルのコンポーネント(Σxn,kk)を、その内蔵するメモリ(図示せず)に記憶しており、その行列のコンポーネント(Σxn,kn',k)またはベクトルのコンポーネント(Σxn,kk)に対して、新たに注目画素とされた教師データについて、その教師データyk+1および生徒データxn,k+1を用いて計算される、対応するコンポーネントxn,k+1n',k+1またはxn,k+1k+1を足し込む(式(8)のサメーションで表される加算を行う)。
そして、足し込み部115は、教師データ記憶部33に記憶された教師データすべてを注目画素として、上述の足し込みを行うことにより、各クラスについて、パラメータzの各値ごとに、式(8)に示した正規方程式をたてると、その正規方程式を、タップ係数算出部46に供給する。
従って、足し込み部115は、図4の足し込み部45と同様に、各クラスについて、式(8)の正規方程式をたてる。但し、足し込み部115は、さらに、パラメータzの各値ごとにも、式(8)の正規方程式をたてる点で、図4の足し込み部45と異なる。
タップ係数算出部46は、足し込み部115から供給される各クラスについての、パラメータzの値ごとの正規方程式を解くことにより、各クラスについて、パラメータzの値ごとの最適なタップ係数wnを求め、足し込み部121に供給する。
足し込み部121は、パラメータ生成部81(図12)から供給されるパラメータz(に対応する変数tm)と、タップ係数算出部46から供給される最適なタップ係数wnを対象とした足し込みを、クラスごとに行う。
即ち、足し込み部121は、パラメータ生成部81(図12)から供給されるパラメータzから式(10)によって求められる変数ti(tj)を用い、式(28)の左辺の行列における、式(26)で定義されるコンポーネントXi,jを求めるためのパラメータzに対応する変数ti(tj)どうしの乗算(tij)と、サメーション(Σ)に相当する演算を、クラスごとに行う。
ここで、コンポーネントXi,jは、パラメータzによってのみ決まるものであり、クラスとは関係がないので、コンポーネントXi,jの計算は、実際には、クラスごとに行う必要はなく、1回行うだけで済む。
さらに、足し込み部121は、パラメータ生成部81から供給されるパラメータzから式(10)によって求められる変数tiと、タップ係数算出部46から供給される最適なタップ係数wnとを用い、式(28)の右辺のベクトルにおける、式(27)で定義されるコンポーネントYiを求めるためのパラメータzに対応する変数tiおよび最適なタップ係数wnの乗算(tin)と、サメーション(Σ)に相当する演算を、クラスごとに行う。
足し込み部121は、各クラスごとに、式(26)で表されるコンポーネントXi,jと、式(27)で表されるコンポーネントYiを求めることにより、各クラスについて、式(28)の正規方程式をたてると、その正規方程式を、係数種算出部122に供給する。
係数種算出部122は、足し込み部121から供給されるクラスごとの式(28)の正規方程式を解くことにより、各クラスごとの係数種データβm,nを求めて出力する。
図8の係数出力部55における係数種メモリ62には、以上のようにして求められたクラスごとの係数種データβm,nを記憶させておくようにすることもできる。
なお、係数種データの学習においても、図5で説明したタップ係数の学習における場合と同様に、第1の画像データに対応する生徒データと、第2の画像データに対応する教師データとする画像データの選択の仕方によって、係数種データとしては、各種の画像変換処理を行うものを得ることができる。
即ち、上述の場合には、学習用画像データを、そのまま第2の画像データに対応する教師データとするとともに、その学習用画像データの空間解像度を劣化させた低画質画像データを、第1の画像データに対応する生徒データとして、係数種データの学習を行うようにしたことから、係数種データとしては、第1の画像データを、その空間解像度を向上させた第2の画像データに変換する空間解像度創造処理としての画像変換処理を行うものを得ることができる。
この場合、図7の画像変換装置51では、画像データの水平解像度および垂直解像度を、パラメータzに対応する解像度に向上させることができる。
また、例えば、高画質画像データを教師データとするとともに、その教師データとしての高画質画像データに対して、パラメータzに対応するレベルのノイズを重畳した画像データを生徒データとして、係数種データの学習を行うことにより、係数種データとしては、第1の画像データを、そこに含まれるノイズを除去(低減)した第2の画像データに変換するノイズ除去処理としての画像変換処理を行うものを得ることができる。この場合、図7の画像変換装置51では、パラメータzに対応するS/Nの画像データを得ることができる。
また、例えば、ある画像データを教師データとするとともに、その教師データとしての画像データの画素数を、パラメータzに対応して間引いた画像データを生徒データとして、または、所定のサイズの画像データを生徒データとするとともに、その生徒データとしての画像データの画素をパラメータzに対応する間引き率で間引いた画像データを教師データとして、係数種データの学習を行うことにより、係数種データとしては、第1の画像データを、そのサイズを拡大または縮小した第2の画像データに変換するリサイズ処理としての画像変換処理を行うものを得ることができる。この場合、図7の画像変換装置51では、パラメータzに対応するサイズに拡大または縮小した画像データを得ることができる。
なお、上述の場合には、タップ係数wnを、式(9)に示したように、β1,n0+β2,n1+・・・+βM,nM-1で定義し、この式(9)によって、水平および垂直方向の空間解像度を、いずれも、パラメータzに対応して向上させるためのタップ係数wnを求めるようにしたが、タップ係数wnとしては、水平解像度と垂直解像度を、独立のパラメータzxとzyに対応して、それぞれ独立に向上させるものを求めるようにすることも可能である。
即ち、タップ係数wnを、式(9)に代えて、例えば、3次式β1,nx 0y 0+β2,nx 1y 0+β3,nx 2y 0+β4,nx 3y 0+β5,nx 0y 1+β6,nx 0y 2+β7,nx 0y 3+β8,nx 1y 1+β9,nx 2y 1+β10,nx 1y 2で定義するとともに、式(10)で定義した変数tmを、式(10)に代えて、例えば、t1=zx 0y 0,t2=zx 1y 0,t3=zx 2y 0,t4=zx 3y 0,t5=zx 0y 1,t6=zx 0y 2,t7=zx 0y 3,t8=zx 1y 1,t9=zx 2y 1,t10=zx 1y 2で定義する。この場合も、タップ係数wnは、最終的には、式(11)で表すことができ、従って、図9の学習装置71や、図12の学習装置101において、パラメータzxとzyに対応して、教師データの水平解像度と垂直解像度をそれぞれ劣化させた画像データを、生徒データとして用いて学習を行って、係数種データβm,nを求めることにより、水平解像度と垂直解像度を、独立のパラメータzxとzyに対応して、それぞれ独立に向上させるタップ係数wnを求めることができる。
その他、例えば、水平解像度と垂直解像度それぞれに対応するパラメータzxとzyに加えて、さらに、時間方向の解像度に対応するパラメータztを導入することにより、水平解像度、垂直解像度、時間解像度を、独立のパラメータzx,zy,ztに対応して、それぞれ独立に向上させるタップ係数wnを求めることが可能となる。
また、リサイズ処理についても、空間解像度創造処理における場合と同様に、水平および垂直方向を、いずれもパラメータzに対応する拡大率(または縮小率)でリサイズするタップ係数wnの他、水平と垂直方向を、それぞれパラメータzxとzyに対応する拡大率で、独立にリサイズするタップ係数wnを求めることが可能である。
さらに、図9の学習装置71や、図12の学習装置101において、パラメータzxに対応して教師データの水平解像度および垂直解像度を劣化させるとともに、パラメータzyに対応して教師データにノイズを付加した画像データを、生徒データとして用いて学習を行って、係数種データβm,nを求めることにより、パラメータzxに対応して水平解像度および垂直解像度を向上させるとともに、パラメータzyに対応してノイズ除去を行うタップ係数wnを求めることができる。
次に、本発明の第1実施の形態について説明する。
図14は、本発明の第1実施の形態としてのAVシステムの構成例を示している。
図14において、AVシステムは、本体200とリモコン(リモートコマンダ)201とから構成されている。
本体200は、制御装置202、DVD(Digital Versatile Disc)レコーダ部203、HDD(Hard Disk Drive)レコーダ部204、およびテレビジョン受像機部205から構成されている。
リモコン201は、操作部201Aおよび送信部201Bを有している。
操作部201Aは、本体200に対する各種の指令を入力するときに、ユーザによって操作される。送信部201Bは、操作部201Aの操作に対応する操作信号を、例えば、赤外線により射出する。なお、送信部201Bでは、その他、例えば、Bluetooth(商標)の規格等にしたがった無線により操作信号を送信することもできる。
制御装置202は、送受信部202Aと制御部202Bから構成されている。
送受信部202Aは、リモコン201から赤外線で送信されてくる操作信号を受光(受信)し、制御部202Bに供給する。また、送受信部202Aは、制御部202Bから供給される1以上のコマンドのシーケンスであるコマンド列を、無線または有線で送信(放送)する。なお、ここでは、送受信部202Aは、コマンド列を無線で送信するものとする。
制御部202Bは、送受信部202Aから供給される操作信号に対応して、DVDレコーダ部203、HDDレコーダ部204、またはテレビジョン受像機部205に対する1以上のコマンドからなるコマンド列を生成し、送受信部202Aに供給する。
DVDレコーダ部203は、受信部211、R-IC(Reconfigurable-IC)212、記録部213、DVD214、および再生部215から構成され、図示せぬチューナで受信されたテレビジョン放送番組の画像データや、図示せぬ外部端子を介して入力される画像データなどの外部から供給される画像データに対し、必要に応じて信号処理を施し、後段のHDDレコーダ部204に供給、またはDVD214に記録する。また、DVDレコーダ部203は、DVD214から画像データを再生し、必要に応じて信号処理を施し、後段のHDDレコーダ部204に供給する。
即ち、DVDレコーダ部203において、受信部211は、制御装置202の送受信部202Aから無線で送信されてくるコマンド列を受信し、R-IC212に供給する。
R-IC212は、その内部構造がリコンフィギュラブル(reconfigurable)な(再構成可能な)1チップのICで、受信部211から供給されるコマンド列のうちの、少なくとも1つのコマンドに応じて、内部構造を切り換え、外部から供給される画像データ、または再生部215から供給される画像データを、必要に応じて信号処理(データ処理)して、HDDレコーダ部204または記録部213に供給する。
なお、受信部211とR-IC212の全体を、1チップのICとして構成することも可能である。後述する受信部221とR-IC222の全体、および受信部231とR-IC232の全体についても同様である。
記録部213は、R-IC212から供給される画像データに対して、MPEG符号化等の必要な処理を施することにより、その画像データをDVDの規格に準拠した記録データに変換し、DVD214に記録する。なお、DVD214は、DVDレコーダ部203に対して、容易に着脱可能となっている。
再生部215は、DVD214から記録データを読み出し、画像データに復号して(画像データを再生して)、R-IC212に供給する。
HDDレコーダ部204は、受信部221、R-IC222、記録部223、HD224、および再生部225から構成され、前段のDVDレコーダ部203から供給される画像データに対し、必要に応じて信号処理を施し、後段のテレビジョン受像機部205に供給、またはHD224に記録する。また、HDDレコーダ部204は、HD224から画像データを再生し、必要に応じて信号処理を施し、後段のテレビジョン受像機部205に供給する。
即ち、HDDレコーダ部204において、受信部221は、制御装置202の送受信部202Aから無線で送信されてくるコマンド列を受信し、R-IC222に供給する。
R-IC222は、R-IC212と同様に、その内部構造がリコンフィギュラブルな1チップのICで、受信部221から供給されるコマンド列のうちの、少なくとも1つのコマンドに応じて、内部構造を切り換え、前段のDVDレコーダ部203から供給される画像データ、または再生部225から供給される画像データを、必要に応じて信号処理して、テレビジョン受像機部205または記録部223に供給する。
記録部223は、R-IC222から供給される画像データに対して必要な処理を施し、HD224に記録する。
再生部225は、HD224から記録データを読み出し(再生し)、R-IC222に供給する。
テレビジョン受像機部205は、受信部231、R-IC232、ディスプレイ233から構成され、前段のHDレコーダ部204から供給される画像データに対し、必要に応じて信号処理を施し、ディスプレイ233に供給して表示させる。
即ち、テレビジョン受像機部205において、受信部231は、制御装置202の送受信部202Aから無線で送信されてくるコマンド列を受信し、R-IC232に供給する。
R-IC232は、R-IC212と同様に、その内部構造がリコンフィギュラブルな1チップのICで、受信部231から供給されるコマンド列のうちの、少なくとも1つのコマンドに応じて、内部構造を切り換え、前段のHDレコーダ部204から供給される画像データを必要に応じて信号処理し、ディスプレイ233に供給する。
ディスプレイ233は、R-IC232から供給される画像データを表示する。
なお、図14では、DVDレコーダ部203、HDDレコーダ部204、およびテレビジョン受像機部205が、本体200としての1つの筐体に収納されているものとしてあるが、DVDレコーダ部203、HDDレコーダ部204、テレビジョン受像機部205は、それぞれ単独の筐体に収納されている独立した装置であっても良い。この場合、DVDレコーダ部203、HDDレコーダ部204、テレビジョン受像機部205それぞれどうしでは、有線または無線で、必要なデータ(信号)のやりとりを行うことができる。
また、図14では、制御装置202が、リモコン201からの操作信号に応じたコマンド列を生成し、DVDレコーダ部203、HDDレコーダ部204、およびテレビジョン受像機部205に、無線で送信することとしたが、その他、例えば、リモコン201において、操作信号に応じたコマンド列を生成し、DVDレコーダ部203、HDDレコーダ部204、およびテレビジョン受像機部205に、無線で送信するようにすることも可能である。
次に、図15乃至図26を参照して、図14のAVシステムの本体200の動作について説明する。
ユーザがリモコン201の操作部201Aを操作すると、送信部201Bは、その操作に対応した操作信号を送信する。
そして、制御装置202では、その送受信部202Aが、リモコン201の送信部201Bからの操作信号を受信し、制御部202Bに供給する。
制御部202Bは、送受信部202Aからの操作信号を受信し、ステップS201において、その操作信号が、外部からの画像データの、DVD214への記録を指令するものであるかどうかを判定する。
ステップS201において、操作信号が、外部からの画像データの、DVD214への記録を指令するものであると判定された場合、ステップS202に進み、制御部202Bは、その操作信号に応じたコマンド列を生成する。
ここで、図16は、制御部202Bが、図15のステップS202で生成するコマンド列の例を示している。
図16のコマンド列は、1つのノイズ除去処理コマンドと2つのNullコマンドとから構成されている。
図16のコマンド列のうちの、先頭(1番目)のノイズ除去処理コマンドは、DVDレコーダ部203(のR-IC212)に対し、信号処理として、ノイズを除去(低減)するノイズ除去処理を要求するものである。また、先頭から2番目のNullコマンドは、HDDレコーダ部204(のR-IC222)に対し、信号処理として、何もしないことを要求するものである。さらに、先頭から3番目のNullコマンドは、テレビジョン受像機部205(のR-IC232)に対し、信号処理として、何もしないことを要求するものである。
なお、Nullコマンドは、なくてもよく、この場合、図16のコマンド列は、DVDレコーダ部203に対する1つのノイズ除去処理コマンドから構成されることになる。
図15に戻り、ステップS202において、制御部202Bは、コマンド列を生成すると、そのコマンド列を、送受信部202Aに供給し、ステップS203に進む。ステップS203では、送受信部202Aは、制御部202Bからのコマンド列を送信(放送)し、ステップS204に進む。
ステップS204では、DVDレコーダ部203の受信部211、HDDレコーダ部204の受信部221、およびテレビジョン受像機部205の受信部231が、送受信部202AがステップS203で送信したコマンド列を受信する。さらに、ステップS204では、受信部211,221,231それぞれが、送受信部202Aから受信したコマンド列を、R-IC212,222,232にそれぞれ供給し、ステップS205に進む。
ステップS205では、R-IC212,222,232それぞれが、受信部211,221,231から供給されたコマンド列のうちの、例えば、自身に対するコマンドに応じて、その内部構造を切り換え、ステップS206に進む。
即ち、いまの場合、DVDレコーダ部203のR-IC212は、図16のコマンド列のうちの先頭のノイズ除去処理コマンドに応じて、ノイズ除去処理を行うように、その内部構造を切り換える。また、HDDレコーダ部204のR-IC221とテレビジョン受像機部205のR-IC231は、図16のコマンド列のうちの2番目と3番目のNullコマンドに応じて、信号処理を行わないように、その内部構造を切り換える。
ステップS206では、R-IC212,222,232それぞれが、ステップS205で切り換えた内部構造によって行われるべき信号処理を行い、処理を終了する。
即ち、いまの場合、R-IC212は、DVDレコーダ部203の外部から入力される画像データに対して、ノイズ除去処理を施し、記録部213に供給する。記録部213は、R-IC212からの画像データをMPEG符号化等し、DVD214に記録する。即ち、DVD214には、外部から入力される画像データに対して、R-IC212がノイズ除去処理を施すことによって得られる画像データが記録される。
従って、この場合、R-IC212,222,232のうちの、唯一、信号処理を行うR-IC212は、ノイズ除去処理を行う装置として機能することになる。
一方、制御部202Bは、ステップS201において、操作信号が、外部からの画像データの、DVD214への記録を指令するものでないと判定した場合、図17のステップS211に進み、操作信号が、DVD214に記録された画像データの再生を指令するものであるかどうかを判定する。
ステップS211において、操作信号が、DVD214に記録された画像データの再生を指令するものであると判定された場合、ステップS212に進み、制御部202Bは、その操作信号に応じたコマンド列を生成する。
ここで、図18は、制御部202Bが、図17のステップS212で生成するコマンド列の例を示している。
図18のコマンド列は、1つの歪み除去処理コマンド、1つの時間解像度創造処理コマンド、および1つの空間解像度創造処理コマンドから構成されている。
図18のコマンド列のうちの、先頭の歪み除去処理コマンドは、DVDレコーダ部203のR-IC212に対し、信号処理として、MPEG符号化/復号により生じるブロック歪み等を除去する歪み除去処理を要求するものである。また、先頭から2番目の時間解像度創造処理コマンドは、HDDレコーダ部204のR-IC222に対し、信号処理として、画像データの時間解像度を向上させる時間解像度創造処理を要求するものである。さらに、先頭から3番目の空間解像度創造処理コマンドは、テレビジョン受像機部205のR-IC232に対し、信号処理として、画像データの空間解像度を向上させる空間解像度創造処理を要求するものである。
図17に戻り、ステップS212において、制御部202Bは、コマンド列を生成すると、そのコマンド列を、送受信部202Aに供給し、ステップS213に進む。ステップS213では、送受信部202Aは、制御部202Bからのコマンド列を送信(放送)し、ステップS214に進む。
ステップS214では、DVDレコーダ部203の受信部211、HDDレコーダ部204の受信部221、およびテレビジョン受像機部205の受信部231が、送受信部202AがステップS213で送信したコマンド列を受信する。さらに、ステップS214では、受信部211,221,231それぞれが、送受信部202Aから受信したコマンド列を、R-IC212,222,232にそれぞれ供給し、ステップS215に進む。
ステップS215では、R-IC212,222,232それぞれが、受信部211,221,231から供給されたコマンド列のうちの、例えば、自身に対するコマンドに応じて、その内部構造を切り換え、ステップS216に進む。
即ち、いまの場合、DVDレコーダ部203のR-IC212は、図18のコマンド列のうちの先頭の歪み除去処理コマンドに応じて、歪み除去処理を行うように、その内部構造を切り換える。また、HDDレコーダ部204のR-IC221は、図18のコマンド列のうちの先頭から2番目の時間解像度創造処理コマンドに応じて、時間解像度創造処理を行うように、その内部構造を切り換える。さらに、テレビジョン受像機部205のR-IC231は、図18のコマンド列のうちの先頭から3番目の空間解像度創造処理コマンドに応じて、空間解像度創造処理を行うように、その内部構造を切り換える。
ステップS216では、R-IC212,222,232それぞれが、ステップS215で切り換えた内部構造によって行われるべき信号処理を行い、処理を終了する。
即ち、いまの場合、DVDレコーダ部203において、再生部215が、DVD214から画像データを読み出し、MPEG復号して、R-IC212に供給する。R-IC212は、ステップS2161において、再生部215から供給される画像データ、即ち、MPEG符号化/復号によってブロック歪み等が生じている画像データに対して、歪み除去処理を施し、HDDレコーダ204部に出力する。
HDDレコーダ部204では、DVDレコーダ部203のR-IC212からの画像データが、R-IC222に供給される。R-IC222は、ステップS2162において、R-IC212からの画像データに対して、時間解像度創造処理を施し、テレビジョン受像機部205に出力する。
テレビジョン受像機部205では、HDDレコーダ部204のR-IC222からの画像データが、R-IC232に供給される。R-IC232は、ステップS2163において、R-IC222からの画像データに対して、空間解像度創造処理を施し、ディスプレイ233に供給する。
従って、いまの場合、R-IC212は、歪み除去処理を行う装置(IC)として、R-IC222は、時間解像度創造処理を行う装置として、R-IC232は、空間解像度創造処理を行う装置として、それぞれ機能することになる。
以上のように、DVD214から再生された画像データを対象に、R-IC212で歪み除去処理が行われ、その処理結果を対象に、R-IC222で時間解像度創造処理が行われ、さらに、その処理結果を対象に、R-IC232で空間解像度創造処理が行われることにより、ディスプレイ233には、ブロック歪み等が除去(低減)され、時間解像度および空間解像度が高い画像が表示されることになる。
ここで、DVD214に、例えば、映画の画像データが記録されているものとすると、映画を、テレビジョン方式の画像データに変換するときには、いわゆる2−3プルダウンが行われるため、DVD214に記録されている画像データは、その2−3プルダウンによって時間解像度が劣化したものとなっている。
そこで、R-IC222において、上述のように、時間解像度創造処理を行うことにより、2−3プルダウンによって劣化した画像データの時間解像度を回復(時間解像度の劣化の程度を低減)することができる。
一方、制御部202Bは、ステップS211において、操作信号が、DVD214に記録された画像データの再生を指令するものでないと判定した場合、図19のステップS221に進み、操作信号が、外部からの画像データの、HD224への記録を指令するものであるかどうかを判定する。
ステップS221において、操作信号が、外部からの画像データの、HD224への記録を指令するものであると判定された場合、ステップS222に進み、制御部202Bは、その操作信号に応じたコマンド列を生成する。
ここで、図20は、制御部202Bが、図19のステップS222で生成するコマンド列の例を示している。
図20のコマンド列は、1つのノイズ除去処理コマンド、1つの空間解像度創造処理コマンド、および1つのNullコマンドから構成されている。
図20のコマンド列のうちの、先頭の歪み除去処理コマンドは、DVDレコーダ部203のR-IC212に対し、信号処理として、ノイズ除去処理を要求するものである。また、先頭から2番目の空間解像度創造処理コマンドは、HDDレコーダ部204のR-IC222に対し、信号処理として、空間解像度創造処理を要求するものである。さらに、先頭から3番目のNullコマンドは、テレビジョン受像機部205のR-IC232に対し、信号処理として、何もしないことを要求するものである。
図19に戻り、ステップS222において、制御部202Bは、コマンド列を生成すると、そのコマンド列を、送受信部202Aに供給し、ステップS223に進む。ステップS223では、送受信部202Aは、制御部202Bからのコマンド列を送信(放送)し、ステップS224に進む。
ステップS224では、DVDレコーダ部203の受信部211、HDDレコーダ部204の受信部221、およびテレビジョン受像機部205の受信部231が、送受信部202AがステップS223で送信したコマンド列を受信する。さらに、ステップS224では、受信部211,221,231それぞれが、送受信部202Aから受信したコマンド列を、R-IC212,222,232にそれぞれ供給し、ステップS225に進む。
ステップS225では、R-IC212,222,232それぞれが、受信部211,221,231から供給されたコマンド列のうちの、例えば、自身に対するコマンドに応じて、その内部構造を切り換え、ステップS226に進む。
即ち、いまの場合、DVDレコーダ部203のR-IC212は、図20のコマンド列のうちの先頭のノイズ除去処理コマンドに応じて、ノイズ除去処理を行うように、その内部構造を切り換える。また、HDDレコーダ部204のR-IC221は、図20のコマンド列のうちの先頭から2番目の空間解像度創造処理コマンドに応じて、空間解像度創造処理を行うように、その内部構造を切り換える。さらに、テレビジョン受像機部205のR-IC231は、図20のコマンド列のうちの先頭から3番目のNullコマンドに応じて、信号処理を行わないように、その内部構造を切り換える。
ステップS226では、R-IC212,222,232それぞれが、ステップS225で切り換えた内部構造によって行われるべき信号処理を行い、処理を終了する。
即ち、いまの場合、DVDレコーダ部203では、R-IC212は、DVDレコーダ部203の外部から入力される画像データに対して、ノイズ除去処理を施し、HDDレコーダ204に出力する。
HDDレコーダ部204では、DVDレコーダ部203のR-IC212からの画像データが、R-IC222に供給される。R-IC222は、R-IC212からの画像データに対して、空間解像度創造処理を施し、記録部223に供給する。記録部223は、R-IC222からの画像データをMPEG符号化等し、HD224に記録する。即ち、HD224には、外部から入力される画像データに対して、R-IC212がノイズ除去処理を施し、さらに、その後、R-IC222が空間解像度創造処理を施すことによって得られる画像データが記録される。
従って、この場合、R-IC212は、歪み除去処理を行う装置として、R-IC222は、空間解像度創造処理を行う装置として、それぞれ機能することになる。
一方、制御部202Bは、ステップS221において、操作信号が、外部からの画像データの、HD224への記録を指令するものでないと判定した場合、図21のステップS231に進み、操作信号が、HD224に記録された画像データの再生を指令するものであるかどうかを判定する。
ステップS231において、操作信号が、HD224に記録された画像データの再生を指令するものであると判定された場合、ステップS232に進み、制御部202Bは、その操作信号に応じたコマンド列を生成する。
ここで、図22は、制御部202Bが、図21のステップS232で生成するコマンド列の例を示している。
図22のコマンド列は、1つのNullコマンド、1つの歪み除去処理コマンド、および1つの空間解像度創造処理コマンドから構成されている。
図22のコマンド列のうちの、先頭のNullコマンドは、DVDレコーダ部203のR-IC212に対し、信号処理として、何もしないことを要求するものである。また、先頭から2番目の歪み除去処理コマンドは、HDDレコーダ部204のR-IC222に対し、信号処理として、歪み除去処理を要求するものである。さらに、先頭から3番目の空間解像度創造処理コマンドは、テレビジョン受像機部205のR-IC232に対し、信号処理として、空間解像度創造処理を要求するものである。
図21に戻り、ステップS232において、制御部202Bは、コマンド列を生成すると、そのコマンド列を、送受信部202Aに供給し、ステップS233に進む。ステップS233では、送受信部202Aは、制御部202Bからのコマンド列を送信(放送)し、ステップS234に進む。
ステップS234では、DVDレコーダ部203の受信部211、HDDレコーダ部204の受信部221、およびテレビジョン受像機部205の受信部231が、送受信部202AがステップS233で送信したコマンド列を受信する。さらに、ステップS234では、受信部211,221,231それぞれが、送受信部202Aから受信したコマンド列を、R-IC212,222,232にそれぞれ供給し、ステップS235に進む。
ステップS235では、R-IC212,222,232それぞれが、受信部211,221,231から供給されたコマンド列のうちの、例えば、自身に対するコマンドに応じて、その内部構造を切り換え、ステップS236に進む。
即ち、いまの場合、DVDレコーダ部203のR-IC212は、図22のコマンド列のうちの先頭のNullコマンドに応じて、信号処理を行わないように、その内部構造を切り換える。また、HDDレコーダ部204のR-IC221は、図22のコマンド列のうちの先頭から2番目の歪み除去処理コマンドに応じて、歪み除去処理を行うように、その内部構造を切り換える。さらに、テレビジョン受像機部205のR-IC231は、図22のコマンド列のうちの先頭から3番目の空間解像度創造処理コマンドに応じて、空間解像度創造処理を行うように、その内部構造を切り換える。
ステップS236では、R-IC212,222,232それぞれが、ステップS235で切り換えた内部構造によって行われるべき信号処理を行い、処理を終了する。
即ち、いまの場合、HDDレコーダ部204において、再生部225が、HD224から画像データを読み出し、MPEG復号して、R-IC222に供給する。R-IC222は、再生部225から供給される画像データ、即ち、MPEG符号化/復号によってブロック歪み等が生じている画像データに対して、歪み除去処理を施し、テレビジョン受像機部205に出力する。
テレビジョン受像機部205では、HDDレコーダ部204のR-IC222からの画像データが、R-IC232に供給される。R-IC232は、R-IC222からの画像データに対して、空間解像度創造処理を施し、ディスプレイ233に供給する。
従って、いまの場合、R-IC222は、歪み除去処理を行う装置として、R-IC232は、空間解像度創造処理を行う装置として、それぞれ機能することになる。
以上のように、HD224から再生された画像データを対象に、R-IC222で歪み除去処理が行われ、その処理結果を対象に、R-IC232で空間解像度創造処理が行われることにより、ディスプレイ233には、ブロック歪み等が除去(低減)され、空間解像度が高い画像が表示されることになる。
一方、制御部202Bは、ステップS231において、操作信号が、HDD224に記録された画像データの再生を指令するものでないと判定した場合、図23のステップS241に進み、操作信号が、外部からの画像データの拡大(ズーム)表示を指令するものであるかどうかを判定する。
ステップS241において、操作信号が、外部からの画像データの拡大表示を指令するものであると判定された場合、ステップS242に進み、制御部202Bは、その操作信号に応じたコマンド列を生成する。
ここで、図24は、制御部202Bが、図23のステップS242で生成するコマンド列の例を示している。
図24のコマンド列は、3つの空間解像度創造処理コマンドから構成されている。
図24のコマンド列のうちの、先頭、2番目、3番目の空間解像度創造処理コマンドは、DVDレコーダ部203のR-IC212、HDDレコーダ部204のR-IC222、テレビジョン受像機部205のR-IC232に対し、それぞれ、信号処理として、空間解像度創造処理を要求するものである。
図23に戻り、ステップS242において、制御部202Bは、コマンド列を生成すると、そのコマンド列を、送受信部202Aに供給し、ステップS243に進む。ステップS243では、送受信部202Aは、制御部202Bからのコマンド列を送信(放送)し、ステップS244に進む。
ステップS244では、DVDレコーダ部203の受信部211、HDDレコーダ部204の受信部221、およびテレビジョン受像機部205の受信部231が、送受信部202AがステップS243で送信したコマンド列を受信する。さらに、ステップS244では、受信部211,221,231それぞれが、送受信部202Aから受信したコマンド列を、R-IC212,222,232にそれぞれ供給し、ステップS245に進む。
ステップS245では、R-IC212,222,232それぞれが、受信部211,221,231から供給されたコマンド列のうちの、例えば、自身に対するコマンドに応じて、その内部構造を切り換え、ステップS246に進む。
即ち、いまの場合、DVDレコーダ部203のR-IC212は、図24のコマンド列のうちの先頭の空間解像度創造処理コマンドに応じて、空間解像度創造処理を行うように、その内部構造を切り換える。同様に、HDDレコーダ部204のR-IC221とテレビジョン受像機部205のR-IC231も、図24のコマンド列のうちの先頭から2番目と3番目の空間解像度創造処理コマンドにそれぞれ応じて、空間解像度創造処理を行うように、それぞれの内部構造を切り換える。
ステップS246では、R-IC212,222,232それぞれが、ステップS245で切り換えた内部構造によって行われるべき信号処理を行い、処理を終了する。
即ち、いまの場合、DVDレコーダ部203では、R-IC212は、DVDレコーダ部203の外部から入力される画像データに対して、空間解像度創造処理を施し、HDDレコーダ204に出力する。
HDDレコーダ204では、DVDレコーダ部203のR-IC212からの画像データが、R-IC222に供給される。R-IC222は、R-IC212からの画像データに対して、空間解像度創造処理を施し、テレビジョン受像機部205に出力する。
テレビジョン受像機部205では、HDDレコーダ部204のR-IC222からの画像データが、R-IC232に供給される。R-IC232は、R-IC222からの画像データに対して、空間解像度創造処理を施し、ディスプレイ233に供給する。
従って、いまの場合、R-IC212,222,232は、いずれも、空間解像度創造処理を行う装置として機能することになる。
いま、R-IC212,222,232それぞれで行われる空間解像度創造処理としての画像変換処理が、第1の画像データを、その第1の画像データよりも画素数が多い第2の画像データに変換するものでもあるとすると、即ち、R-IC212,222,232それぞれで行われる空間解像度創造処理がリサイズ処理でもあるとすると、R-IC212では、外部からの画像データを対象に、リサイズ処理でもある空間解像度創造処理が行われる。そして、R-IC222では、その空間解像度創造処理の結果を対象に、やはり、リサイズ処理でもある空間解像度創造処理が行われ、さらに、R-IC232でも、その空間解像度創造処理の結果を対象に、やはり、リサイズ処理でもある空間解像度創造処理が行われる。
これにより、ディスプレイ233には、外部からの画像データが拡大された画像が表示されることになる。
一方、制御部202Bは、ステップS241において、操作信号が、外部からの画像データの拡大表示を指令するものでないと判定した場合、図25のステップS251に進み、操作信号が、外部からの画像データのスローモーションでの表示を指令するものであるかどうかを判定する。
ステップS251において、操作信号が、外部からの画像データのスローモーションでの表示を指令するものであると判定された場合、ステップS252に進み、制御部202Bは、その操作信号に応じたコマンド列を生成する。
ここで、図26は、制御部202Bが、図25のステップS252で生成するコマンド列の例を示している。
図26のコマンド列は、3つの時間解像度創造処理コマンドから構成されている。
図26のコマンド列のうちの、先頭、2番目、3番目の時間解像度創造処理コマンドは、DVDレコーダ部203のR-IC212、HDDレコーダ部204のR-IC222、テレビジョン受像機部205のR-IC232に対し、それぞれ、信号処理として、時間解像度創造処理を要求するものである。
図25に戻り、ステップS252において、制御部202Bは、コマンド列を生成すると、そのコマンド列を、送受信部202Aに供給し、ステップS253に進む。ステップS253では、送受信部202Aは、制御部202Bからのコマンド列を送信(放送)し、ステップS254に進む。
ステップS254では、DVDレコーダ部203の受信部211、HDDレコーダ部204の受信部221、およびテレビジョン受像機部205の受信部231が、送受信部202AがステップS253で送信したコマンド列を受信する。さらに、ステップS254では、受信部211,221,231それぞれが、送受信部202Aから受信したコマンド列を、R-IC212,222,232にそれぞれ供給し、ステップS255に進む。
ステップS255では、R-IC212,222,232それぞれが、受信部211,221,231から供給されたコマンド列のうちの、例えば、自身に対するコマンドに応じて、その内部構造を切り換え、ステップS256に進む。
即ち、いまの場合、DVDレコーダ部203のR-IC212は、図26のコマンド列のうちの先頭の時間解像度創造処理コマンドに応じて、時間解像度創造処理を行うように、その内部構造を切り換える。同様に、HDDレコーダ部204のR-IC221とテレビジョン受像機部205のR-IC231も、図26のコマンド列のうちの先頭から2番目と3番目の時間解像度創造処理コマンドにそれぞれ応じて、時間解像度創造処理を行うように、それぞれの内部構造を切り換える。
ステップS256では、R-IC212,222,232それぞれが、ステップS255で切り換えた内部構造によって行われるべき信号処理を行い、処理を終了する。
即ち、いまの場合、DVDレコーダ部203では、R-IC212は、DVDレコーダ部203の外部から入力される画像データに対して、時間解像度創造処理を施し、HDDレコーダ204に出力する。
HDDレコーダ204では、DVDレコーダ部203のR-IC212からの画像データが、R-IC222に供給される。R-IC222は、R-IC212からの画像データに対して、時間解像度創造処理を施し、テレビジョン受像機部205に出力する。
テレビジョン受像機部205では、HDDレコーダ部204のR-IC222からの画像データが、R-IC232に供給される。R-IC232は、R-IC222からの画像データに対して、時間解像度創造処理を施し、ディスプレイ233に供給する。
従って、いまの場合、R-IC212,222,232は、いずれも、時間解像度創造処理を行う装置として機能することになる。
いま、R-IC212,222,232それぞれで行われる時間解像度創造処理としての画像変換処理が、第1の画像データを、その第1の画像データよりもフレーム(またはフィールド)数が多い第2の画像データに変換するものでもあるとすると、R-IC212では、外部からの画像データを対象に、時間解像度創造処理が行われ、フレーム数が増加した画像データが得られる。そして、R-IC222では、R-IC212で得られたフレーム数が増加した画像データを対象に、やはり、時間解像度創造処理が行われ、フレーム数がさらに増加した画像データが得られる。その後、R-IC232でも、R-IC222で得られたフレーム数が増加した画像データを対象に、時間解像度創造処理が行われ、フレーム数がより増加した画像データが得られる。
このように、フレーム数が増加した画像データがディスプレイ233に供給され、外部からの画像データを表示するときと同一のフレーム(フィールド)レートで表示されることにより、ディスプレイ233では、画像がスローモーションで表示されることになる。
なお、図15、図17、図19、図21、図23、および図25のフローチャートで説明した各ステップの処理は、ハードウェアであるR-IC212,222、および232などにより行われる処理である。但し、図15のステップS201乃至S203の処理、図17のステップS211乃至S213の処理、図19のステップS221乃至S223の処理、図21のステップS231乃至S233の処理、図23のステップS241乃至S243の処理、および図25のステップS251乃至S253の処理は、マイクロコンピュータ等のコンピュータに、プログラムを実行させることで行うことも可能である。
次に、図27は、図14のR-IC212の構成例を示している。なお、他のR-IC222および232も同様に構成される。
R-IC212は、受信部211(図14)から供給されるコマンド列を構成するコマンドに応じて、その内部構造を切り換え、上述したクラス分類適応処理を利用した各種の信号処理を行う。
即ち、R-IC212は、注目画素選択部251、タップ選択部252,253、クラス分類部254、係数出力部255、および予測演算部256で構成されている。これらの注目画素選択部251、タップ選択部252,253、クラス分類部254、係数出力部255、予測演算部256は、図1の注目画素選択部11、タップ選択部12,13、クラス分類部14、係数出力部15、予測演算部16にそれぞれ対応するものである。
従って、R-IC212では、そこに供給される第1の画像データが、第2の画像データに変換されて出力される。
なお、係数出力部255には、受信部211(図14)で受信されたコマンド列のうちの、R-IC212(DVDレコーダ部203)に対するコマンドが供給されるようになっている。
図28は、図27の係数出力部255の構成例を示している。
図28では、係数出力部255は、係数メモリ2611,2612,2613、および2614、並びに選択部262で構成されている。
係数メモリ2611,2612,2613、2614には、あらかじめ行われた学習により求められたノイズ除去処理用のタップ係数、歪み除去処理用のタップ係数、時間解像度創造処理用のタップ係数、空間解像度創造処理用のタップ係数が、それぞれ記憶されている。
そして、係数メモリ2611乃至2614には、図27のクラス分類部254が出力するクラス(クラスコード)が供給される。係数メモリ2611乃至2614それぞれは、クラス分類部254からのクラスのタップ係数を読み出し、選択部262に出力する。
選択部262には、上述したように、係数メモリ2611乃至2614それぞれから読み出されたタップ係数が供給される他、受信部211(図14)で受信されたコマンド列のうちの、R-IC212に対するコマンドが供給される。選択部262は、受信部211から供給されるコマンドに応じて、係数メモリ2611乃至2614のうちのいずれかの出力端を選択し、その選択した出力端を、予測演算部256(図27)の入力端に接続することで、R-IC212の内部構造を切り換える。
ここで、選択部262が、係数メモリ2611乃至2614のうちの、例えば、係数メモリ2611の出力端を選択し、その選択した出力端を、予測演算部256の入力端に接続した場合、予測演算部256には、係数メモリ2611から読み出されるノイズ除去処理用のタップ係数が供給されることとなり、その結果、R-IC212は、ノイズ除去処理を行う装置として機能することになる。
同様に、選択部262が、係数メモリ2611乃至2614のうちの、係数メモリ2612,2613,2614の出力端を選択し、その選択した出力端を、予測演算部256の入力端に接続した場合、予測演算部256には、係数メモリ2612,2613,2614から読み出される歪み除去処理用のタップ係数、時間解像度創造処理用のタップ係数、空間解像度創造処理用のタップ係数が、それぞれ供給される。その結果、選択部262が、係数メモリ2611乃至2614のうちの、係数メモリ2612,2613,2614の出力端を選択した場合には、R-IC212は、歪み除去処理を行う装置、時間解像度創造処理を行う装置、空間解像度創造処理を行う装置として、それぞれ機能することになる。
次に、図29のフローチャートを参照して、図27のR-IC212の処理について説明する。
図14の受信部211からR-IC212に、R-IC212に対するコマンドが供給されると、R-IC212は、ステップS261において、そのコマンドに応じて、内部構造を切り換える。
即ち、受信部211からのコマンドは、係数出力部255に供給される。係数出力部255(図28)では、選択部262が、受信部211からのコマンドに応じて、係数メモリ2611乃至2614のうちの、受信部211からのコマンドに対応する信号処理用のタップ係数が記憶されているものの出力端を選択し、その選択した出力端を、予測演算部256(図27)の入力端に接続することで、R-IC212の内部構造を切り換える。
その後、ステップS262に進み、以下、ステップS262乃至S267において、図2のステップS11乃至S16における場合とそれぞれ同様の処理が行われる。
即ち、ステップS262において、注目画素選択部251は、R-IC212に入力される第1の画像データに対する第2の画像データを構成する画素のうち、まだ、注目画素とされていないものの1つを、注目画素として選択し、ステップS263に進む。
ステップS263において、タップ選択部252と253が、そこに供給される第1の画像データから、注目画素についての予測タップとクラスタップとするものを、それぞれ選択する。そして、予測タップは、タップ選択部252から予測演算部256に供給され、クラスタップは、タップ選択部253からクラス分類部254に供給される。
クラス分類部254は、タップ選択部253から、注目画素についてのクラスタップを受信し、ステップS264において、そのクラスタップに基づき、注目画素をクラス分類する。さらに、クラス分類部254は、そのクラス分類の結果得られる注目画素のクラスを、係数出力部255に出力し、ステップS265に進む。
ステップS265では、係数出力部255が、クラス分類部254から供給されるクラスのタップ係数を出力する。即ち、係数出力部255(図28)は、係数メモリ2611乃至2614のうちの、選択部262が出力端を選択しているものから、クラス分類部254から供給されるクラスのタップ係数を読み出し、予測演算部256に出力する。そして、ステップS265では、予測演算部256が、係数出力部255が出力するタップ係数を取得し、ステップS266に進む。
ステップS266では、予測演算部256が、タップ選択部252が出力する予測タップと、係数出力部255から取得したタップ係数とを用いて、式(1)の予測演算を行う。これにより、予測演算部256は、注目画素の画素値を求めて出力し、ステップS267に進む。
ステップS267では、注目画素選択部251が、まだ、注目画素としていない第2の画像データがあるかどうかを判定する。ステップS267において、まだ、注目画素としていない第2の画像データがあると判定された場合、ステップS262に戻り、以下、同様の処理が繰り返される。
また、ステップS267において、まだ、注目画素とされていない第2の画像データがないと判定された場合、処理を終了する。
次に、図30は、図14のR-IC212の他の構成例を示している。なお、図中、図27における場合と対応する部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。即ち、図30のR-IC212は、係数出力部255に代えて、係数出力部275が設けられている他は、図27における場合と同様に構成されている。
ここで、他のR-IC222および232も、図30に示すR-IC212と同様に構成することができる。
図30のR-IC212も、図27における場合と同様に、受信部211(図14)から供給されるコマンドに応じて、その内部構造を切り換え、上述したクラス分類適応処理を利用した各種の信号処理を行う。即ち、図30のR-IC212も、そこに供給される第1の画像データを、第2の画像データに変換して出力する。
なお、受信部211(図14)からのコマンドは、係数出力部275に供給されるようになっている。さらに、係数出力部275には、R-IC212の外部からパラメータzが供給されるようになっている。
ここで、パラメータzは、例えば、ユーザがリモコン201(図14)の操作部201Aを操作することによって与えることができる。
即ち、ユーザは、リモコン201を操作することにより、本体200に対して、上述したように、DVD214やHD224に対する画像データの記録または再生、ディスプレイ233への画像の拡大表示、スローモーション表示などを指令することができる。そして、R-IC212では、その指令に応じて、そこに入力される第1の画像データを対象に、ノイズ除去処理、歪み除去処理、時間解像度創造処理、または空間解像度創造処理が行われ、その処理の結果得られる第2の画像データが出力される。
図27に示した構成のR-IC212では、係数出力部255に固定のタップ係数が記憶されているため、例えば、ノイズ除去処理によるノイズ除去の程度(ノイズ除去処理により向上するS/Nの程度)や、歪み除去処理による歪み除去の程度、時間解像度創造処理および空間解像度創造処理により高周波数成分が増加する程度も固定となるが、これらの程度の好みは、一般に、ユーザごとに異なる。
さらに、上述したように、画像のスローモーション表示は、時間解像度創造処理によって行われ、画像の拡大表示は、空間解像度創造処理によって行われるが、スローモーション表示を行うときの表示レート(フレームレート)や、拡大表示を行うときの拡大率を、ユーザが指定したいことがある。
そこで、図30の実施の形態では、ユーザが、リモコン201(図14)を操作して、DVD214やHD224に対する画像データの記録または再生、ディスプレイ233への画像の拡大表示、スローモーション表示などを指令するのとは別に、ノイズ除去処理によるノイズ除去の程度や、歪み除去処理による歪み除去の程度、時間解像度創造処理および空間解像度創造処理により高周波数成分が増加する程度、スローモーション表示を行うときの表示レート、拡大表示を行うときの拡大率を指定することができるようになっている。
この指定は、例えば、ユーザがリモコン201の操作部201Aを操作することにより行うことができる。即ち、ユーザがリモコン201の操作部201Aを操作することにより、ノイズ除去処理によるノイズ除去の程度や、歪み除去処理による歪み除去の程度、時間解像度創造処理および空間解像度創造処理により高周波数成分が増加する程度、スローモーション表示を行うときの表示レート、拡大表示を行うときの拡大率などの値を指定すると、送信部201Bは、その指定された値に対応するパラメータzを送信する。このパラメータzは、制御装置202を介して、受信部211,221,231でそれぞれ受信され、R-IC212,222,232に供給される。
そして、図30のR-IC212では、受信部211からのパラメータzが、係数出力部275に供給される。
図31は、図30の係数出力部275の構成例を示している。
係数出力部275は、係数生成部281、係数種出力部282、パラメータメモリ283、および係数メモリ284から構成される。これらの係数生成部281、係数種出力部282、パラメータメモリ283、係数メモリ284は、図8の係数出力部55を構成する係数生成部61、係数種メモリ62、パラメータメモリ63、係数メモリ64にそれぞれ対応する。
図31の係数出力部275においては、受信部211(図14)からのパラメータzがパラメータメモリ283に供給されて記憶される。さらに、受信部211で受信されたコマンド列のうちの、R-IC212に対するコマンドが、係数種出力部282に供給される。また、クラス分類部254(図30)が出力するクラスが、係数メモリ284に供給される。
係数種出力部282は、係数種メモリ2911,2912,2913、および2914、並びに選択部292で構成されている。
係数種メモリ2911,2912,2913、2914には、あらかじめ行われた学習により求められたノイズ除去処理用の係数種データ、歪み除去処理用の係数種データ、時間解像度創造処理用の係数種データ、空間解像度創造処理用の係数種データが、それぞれ記憶されている。
そして、係数種メモリ2911乃至2914は、それぞれが記憶しているクラスごとの係数種データを読み出し、選択部292に出力する。
選択部292には、上述したように、係数種メモリ2911乃至2914それぞれから読み出された係数種データが供給される他、受信部211(図14)で受信されたコマンド列のうちの、R-IC212に対するコマンドが供給される。選択部292は、受信部211から供給されるコマンドに応じて、係数種メモリ2911乃至2914のうちのいずれかの出力端を選択し、その選択した出力端を、係数生成部281の入力端に接続することで、R-IC212の内部構造を切り換える。
ここで、選択部292が、係数種メモリ2911乃至2914のうちの、例えば、係数種メモリ2911の出力端を選択し、その選択した出力端を、係数生成部281の入力端に接続した場合、係数生成部281には、係数種メモリ2911から読み出されるノイズ除去処理用の係数種データが供給される。
同様に、選択部292が、係数種メモリ2911乃至2914のうちの、係数種メモリ2912,2913,2914の出力端を選択し、その選択した出力端を、係数生成部281の入力端に接続した場合、係数生成部281には、係数種メモリ2912,2913,2914から読み出される歪み除去処理用の係数種データ、時間解像度創造処理用の係数種データ、空間解像度創造処理用の係数種データが、それぞれ供給される。
係数生成部281は、係数種出力部282から供給される係数種データと、パラメータメモリ283に記憶されたパラメータzとに基づいて、式(9)を演算することにより、パラメータzに対応するタップ係数をクラスごとに生成し、係数メモリ284に供給して上書きする形で記憶させる。
そして、係数メモリ284では、クラス分類部254(図30)からクラスが供給されると、そこに記憶している、パラメータzに対応するタップ係数のうちの、クラス分類部254からのクラスのタップ係数を読み出し、予測演算部256(図30)に出力する。
以上のような係数出力部275を有する図30のR-IC212では、固定のタップ係数を記憶しており、そのタップ係数を出力する図27の係数出力部255に代えて設けられている係数出力部275において、パラメータzに対応するタップ係数を生成して出力することを除いて、図27における場合と同様の処理が行われる。
従って、係数出力部275(図31)において、選択部292が、係数種メモリ2911乃至2914のうちの、例えば、係数種メモリ2911の出力端を選択し、これにより、係数生成部281に、係数種メモリ2911から読み出されたノイズ除去処理用の係数種データが供給された場合、係数生成部281では、その係数種データと、パラメータメモリ283に記憶されたパラメータzとから、そのパラメータzに対応するノイズ除去処理用のタップ係数が生成され、係数メモリ284に記憶される。従って、この場合、係数出力部275から予測演算部256には、ノイズ除去処理用のタップ係数が供給されることとなり、その結果、R-IC212は、ノイズ除去処理を行う装置として機能することになる。
同様に、選択部292が、係数種メモリ2911乃至2914のうちの、係数種メモリ2912,2913、または2914の出力端を選択し、これにより、係数生成部281に、係数種メモリ2912,2913,または2914から読み出された歪み除去処理用の係数種データ、時間解像度創造処理用の係数種データ、または空間解像度創造処理用の係数種データが供給された場合、係数生成部281では、その係数種データと、パラメータメモリ283に記憶されたパラメータzとから、そのパラメータzに対応する歪み除去処理用のタップ係数、時間解像度創造処理用のタップ係数、または空間解像度創造処理用のタップ係数が生成され、係数メモリ284に記憶される。従って、選択部292が、係数種メモリ2911乃至2914のうちの、係数種メモリ2912,2913、または2914の出力端を選択した場合には、係数出力部275から予測演算部256には、歪み除去処理用のタップ係数、時間解像度創造処理用のタップ係数、または空間解像度創造処理用のタップ係数が供給されることとなり、その結果、R-IC212は、ノイズ除去処理を行う装置、時間解像度創造処理を行う装置、空間解像度創造処理を行う装置として、それぞれ機能することになる。
さらに、図30のR-IC212では、係数出力部275(図31)の係数メモリ284に、パラメータzに対応するタップ係数が記憶されるので、ユーザは、リモコン201(図14)を操作することにより、ノイズ除去処理によるノイズ除去の程度や、歪み除去処理による歪み除去の程度、時間解像度創造処理および空間解像度創造処理により高周波数成分が増加する程度を、好みの程度とすることができる。また、スローモーション表示を行うときの表示レートや、拡大表示を行うときの拡大率を指定することができる。
以上のように、R-IC212,222,232それぞれでは、コマンド列のうちの、少なくとも1つのコマンドに応じて、内部構造を切り換え、そこに入力される画像データを信号処理して、その信号処理結果としての画像データを出力するので、単一のハードウェアで、複数の機能を、容易に実現することができる。
さらに、R-IC222では、R-IC212の信号処理結果を信号処理し、R-IC232では、R-IC222の信号処理結果を信号処理するので、R-IC212,222,232全体としては、より多くの機能を、容易に実現することができる。
なお、図14のAVシステムには、3つのR-IC212,222,232を設けるようにしたが、AVシステムは、その他、1つや2つ、あるいは4以上のR-ICを設けて構成することが可能である。
次に、本発明の第2実施の形態について説明する。
図32は、本発明の第2実施の形態としてのテレビジョン受像機301の構成例を示している。
テレビジョン受像機301には、アンテナ302が接続されている。アンテナ302は、図示せぬ放送局から送信されてくる放送波(電波)としてのテレビジョン放送番組の伝送信号を受信し、テレビジョン受像機301に供給する。テレビジョン受像機301は、アンテナ301からの伝送信号を受信し、その伝送信号に含まれる所定のチャンネルのテレビジョン放送番組(の信号)を、リモコン(リモートコマンダ)303からの操作信号にしたがって選局して、そのテレビジョン放送番組としての画像を表示するとともに、音声を出力する。
即ち、テレビジョン受像機301は、チューナ部311を有しており、アンテナ302からの伝送信号は、チューナ部311に供給される。チューナ部311は、アンテナ302からの伝送信号を受信し、システムコントローラ318の制御にしたがって、アンテナ302から受信した伝送信号から所定のチャンネルのテレビジョン放送番組としての画像(データ)および音声(データ)を選局することにより取得する。
さらに、チューナ部311は、選局したチャンネルの音声を、増幅回路312に供給するとともに、画像のR(Red)信号、G(Green)信号、B(Blue)信号を、信号処理部314,315,316に、それぞれ供給する。
増幅回路312は、チューナ部311からの音声を増幅し、スピーカ313に供給して出力させる。
信号処理部314乃至316は、システムコントローラ318からの制御にしたがい、チューナ部311からの画像のR信号、G信号、B信号を、それぞれ信号処理し、ディスプレイ317に供給して、対応する画像を表示させる。
システムコントローラ318は、リモコン受信部319から供給される操作信号にしたがって、チューナ部311および信号処理部314乃至316に制御信号を供給することにより、チューナ部311および信号処理部314乃至316を制御する。
リモコン受信部319は、ユーザがリモコン303を操作することにより、リモコン303から送信されてくる操作信号としての、例えば、赤外線その他の無線信号を受信し、システムコントローラ318に供給する。
以上のように構成されるテレビジョン受像機301では、チューナ部311は、アンテナ302からの伝送信号を受信し、システムコントローラ318の制御にしたがって、アンテナ302から受信した伝送信号から所定のチャンネルのテレビジョン放送番組としての画像および音声を選局する。そして、チューナ部311は、選局したチャンネルの音声を、増幅回路312に供給するとともに、画像のR信号、G信号、B信号(画像データ)を、信号処理部314乃至316に、それぞれ供給する。
増幅回路312では、チューナ部311からの音声が増幅され、スピーカ313に供給されて出力される。
一方、信号処理部314乃至316では、システムコントローラ318からの制御にしたがい、チューナ部311からの画像のR信号、G信号、B信号(画像データ)が、それぞれ信号処理される。そして、信号処理部314乃至316では、それぞれの信号処理の結果得られる画像データが、ディスプレイ317に供給され、ディスプレイ317において、対応する画像が表示される。
なお、テレビジョン受像機301において受信する放送は、特に限定されるものではない。即ち、テレビジョン受像機301では、例えば、衛星放送、地上波放送、アナログ放送、ディジタル放送、その他の任意の放送を受信することができる。
また、以下においては、音声に関する説明は、特に必要がない限り省略する。
次に、図32のシステムコントローラ318によるチューナ部311および信号処理部314乃至316の制御について説明する。
ここで、信号処理部314乃至316では、それぞれで処理される信号が、R信号、G信号、B信号であることを除いて同一の処理が行われるため、以下では、信号処理部314乃至316のうちの、信号処理部314についてだけ説明する。
また、以下においては、チューナ部311が出力する画像がプログレッシブ画像(ノンインタレース方式の画像)であるとして説明を行う。但し、チューナ部311が出力する画像は、インタレース方式の画像であっても良く、この場合、以下の第2実施の形態の説明における「フレーム」は、「フィールド」とすることができる。
システムコントローラ318は、リモコン303からリモコン受信部319を介して供給される操作信号にしたがい、テレビジョン受像機301の動作モードを、マルチ画面モードまたは通常画面モードに切り換える制御を行う。即ち、システムコントローラ318は、ユーザによるリモコン303の操作に応じて、テレビジョン受像機301の動作モードを、マルチ画面モードまたは通常画面モードに切り換え、その動作モードの処理を行うように、チューナ部311および信号処理部314乃至316を制御する。
そして、チューナ部311および信号処理部314乃至316は、システムコントローラ318の制御にしたがい、マルチ画面モードの処理、または通常画面モードの処理を行う。
ここで、チューナ部311から信号処理部314に供給(入力)される画像データを、入力画像データというとともに、信号処理部314における信号処理の結果得られる画像データを、出力画像データというものとすると、マルチ画面モードとは、例えば、複数チャンネルの入力画像データそれぞれの同一フレームが、いわゆるマルチ画面表示された出力画像データを得て、ディスプレイ317に表示するモードであり、通常画面モードとは、1チャンネルの入力画像データに対応する出力画像データを得て、ディスプレイ317に表示するモードである。
マルチ画面モードにおいては、複数チャンネルの画像が、マルチ画面で表示されるので、ユーザは、そのマルチ画面の画像を見ることにより、所望の番組を放送しているチャンネルを、容易に選択することが可能となる。
なお、マルチ画面モードにおいては、マルチ画面で表示されている複数チャンネルの画像のうちの任意のチャンネルの画像を指定するカーソル(例えば、枠)を表示し、そのカーソルを、ユーザによるリモコン303の操作に応じて移動させることができる。この場合、スピーカ313からは、カーソルによって指定されている画像のチャンネルの音声を出力するようにすることができる。
図33は、図32のシステムコントローラ318によるチューナ部311の制御を説明するための図である。なお、図33では、縦軸が、画像の垂直方向を表し、横軸が時間(の経過)を表す。
動作モードが通常画面モードの場合、システムコントローラ318は、ユーザによるリモコン303の操作に対応したチャンネルを選局するように、チューナ部311を制御する。
従って、例えば、いま、ユーザが、リモコン303を操作することにより、チャンネルCH1を選択しているものとすると、チューナ部311は、アンテナ302からの伝送信号から、チャンネルCH1を選局し続け、これにより、図33上側に示すように、フレーム周期で、チャンネルCH1の画像(データ)を、信号処理部314に供給する。
一方、動作モードがマルチ画面モードの場合、システムコントローラ318は、例えば、フレーム周期で、選局するチャンネルを順次変更するように、チューナ部311を制御する。
従って、選局の変更対象のチャンネル数が、例えば、チャンネルCH1,CH2,CH3,CH4の4チャンネルであるとすると、チューナ部311は、例えば、図33下側に示すように、最初のフレームのタイミングで、チャンネルCH1を選局し、次のフレームのタイミングで、チャンネルCH2を選局し、以下、同様にして、チャンネルCH3,CH4を順次選局する。その後、チューナ部311は、再び、チャンネルCH1を選局し、以下、同様にして、チャンネルCH1乃至CH4それぞれを順次選局する。その結果、フレーム周期をT1で表すこととすると、チューナ部311から信号処理部314に対しては、チャンネルCH1の画像が、フレーム周期T1の4倍の周期で供給される。即ち、チューナ部311からは、フレーム周期T1の4倍の周期で、3フレームずつのコマ落ちが生じたチャンネルCH1の画像が出力される。他のチャンネルCH2乃至CH4それぞれの画像も、同様である。
ここで、選局の変更対象のチャンネル数は、4チャンネルに限定されるものではない。選局の変更対象のチャンネル数をNで表すこととすると、マルチ画面モードでは、選局の変更対象のある1チャンネルの画像が、チューナ部311から信号処理部314に供給される周期は、フレーム周期T1のN倍になる。
また、マルチ画面モードでは、例えば、テレビジョン受像機301で受信可能なすべてのチャンネルを、選局の変更対象のチャンネルとすることもできるし、ユーザが選んだ複数のチャンネルを、選局の変更対象のチャンネルとすることもできる。さらに、マルチ画面モードにおいて、選局の変更対象のチャンネル数、即ち、1フレームに表示される画像のチャンネル数が所定の閾値より多い場合には、画像をスクロールして表示するようにすることが可能である。
ここで、以下においては、説明を簡単にするために、マルチ画面モードにおけるチューナ部311の選局の変更対象のチャンネルが、上述したチャンネルCH1乃至CH4に固定されているものとする。
次に、図34は、通常画面モードにおいてチューナ部311で得られた1つのチャンネルCH1の画像を単に表示した場合と、マルチ画面モードにおいてチューナ部311で得られた4チャンネルCH1乃至CH4の画像を、そのチャンネル数と等しい分割数のマルチ画面、即ち、4分割のマルチ画面で単に表示した場合とを示している。
なお、マルチ画面モードでは、1フレームが、例えば、2×2の4つの小画面に等分割されて、4チャンネルCH1乃至CH4の画像が、それぞれ表示されるものとする。即ち、ここでは、4分割のマルチ画面のうちの、左上、右上、左下、右下の小画面に、チャンネルCH1乃至CH4の画像が、それぞれ表示されるものとする。
通常画面モードでは、チューナ部311において、図33で説明したように、1チャンネルCH1の画像が、フレーム周期T1で得られる。従って、チューナ部311で得られた1つのチャンネルCH1の画像を単に表示した場合は、図34上側に示すように、フレーム周期T1で、チャンネルCH1の画像が表示される。
一方、マルチ画面モードでは、チューナ部311において、図33で説明したように、4チャンネルCH1乃至CH4それぞれの画像が、フレーム周期T1の4倍の周期4T1で得られる。従って、チューナ部311で得られた4チャンネルCH1乃至CH4それぞれの画像を、4分割のマルチ画面で単に表示した場合には、図34下側に示すように、最初のフレームのタイミングで、マルチ画面の左上の小画面に、チューナ部311で得られたチャンネルCH1の画像の最初のフレームが表示され、2番目のフレームのタイミングで、マルチ画面の右上の小画面に、チューナ部311で得られたチャンネルCH2の画像の2番目のフレームが表示される。さらに、3番目のフレームのタイミングで、マルチ画面の左下の小画面に、チューナ部311で得られたチャンネルCH3の画像の3番目のフレームが表示され、4番目のフレームのタイミングで、マルチ画面の右下の小画面に、チューナ部311で得られたチャンネルCH4の画像の4番目のフレームが表示される。その後、5番目のフレームのタイミングで、マルチ画面の左上の小画面に、チューナ部311で得られたチャンネルCH1の画像の5番目のフレームが表示され、以下、同様にして、チューナ部311において、周期4T1で得られるチャンネルCH1乃至CH4それぞれの画像が、マルチ画面の対応する小画面に表示される。
マルチ画面モードにおいて、チューナ部311であるチャンネルを選局された後、次にそのチャンネルが選局されるまでの間、そのチャンネルの画像を表示する小画面を、例えば、フリーズしておくものとすると、チューナ部311では、4チャンネルCH1乃至CH4それぞれが、時分割で、周期4T1で選局されるために、マルチ画面に表示される4チャンネルCH1乃至CH4の画像は、動きの粗い、見にくいものとなる。
図32のテレビジョン受像機301では、そのようなマルチ画面の表示を行うことも可能であるが、後述するように、信号処理部314において、動きの滑らかなマルチ画面を表示する出力画像を生成して表示することができるようになっている。
即ち、図35は、図32の信号処理部314の構成例を示している。
信号処理部314は、コマンド列生成部330、信号処理チップ331および332、メモリ部333、並びに信号処理チップ334で構成されている。
ここで、コマンド列生成部330、信号処理チップ331,332、メモリ部333、信号処理チップ334は、それぞれ、例えば、1チップのICで構成されている。なお、信号処理部314全体を、1チップのICで構成することも可能であるし、コマンド列生成部330、信号処理チップ331および332、メモリ部333、並びに信号処理チップ334のうちの2以上を1チップのICとすることも可能である。
コマンド列生成部330には、システムコントローラ318(図32)からの制御信号が供給される。コマンド列生成部330は、システムコントローラ318からの制御信号に応じて、複数のコマンドからなるコマンド列を生成し、例えば無線により、信号処理チップ331,332、メモリ部333、信号処理チップ334に送信する。
信号処理チップ331には、図32のチューナ部311が出力する画像としての入力画像データが供給される。また、信号処理チップ331には、信号処理チップ334の信号処理結果としての動きベクトルが供給される。
信号処理チップ331は、コマンド列生成部330から送信されてくるコマンド列を受信し、そのコマンド列を構成するコマンドに応じて、第1実施の形態のR-IC212等と同様に、リコンフィギュラブルに内部構造を切り換える。さらに、信号処理チップ331は、チューナ部311からの入力画像データを、クラス分類適応処理における第1の画像データとして信号処理し、その結果得られる画像データ(クラス分類適応処理における第2の画像データ)を、信号処理チップ332に出力する。
なお、信号処理チップ331では、信号処理チップ334から供給される動きベクトルを用いて、チューナ部311からの入力画像データが信号処理される。
また、信号処理チップ331は、その内部構造を切り換えることにより、信号処理として、例えば、画像の空間解像度を向上させる空間解像度創造処理、または画像をリサイズして縮小画像を生成するリサイズ処理(以下、縮小画像生成処理ともいう)を行う。
信号処理チップ332には、上述したように、信号処理チップ331の信号処理結果としての画像データが供給される他、信号処理チップ334の信号処理結果としての動きベクトルが供給される。
信号処理チップ332は、コマンド列生成部330から送信されてくるコマンド列を受信し、そのコマンド列を構成するコマンドに応じて、第1実施の形態のR-IC212等と同様に、リコンフィギュラブルに内部構造を切り換える。さらに、信号処理チップ332は、信号処理チップ331が出力する画像データを、クラス分類適応処理における第1の画像データとして信号処理し、その結果得られる画像データ(クラス分類適応処理における第2の画像データ)を、メモリ部333に出力する。
なお、信号処理チップ332でも、信号処理チップ334から供給される動きベクトルを用いて、信号処理チップ331からの画像データが信号処理される。
また、信号処理チップ332は、その内部構造を切り換えることにより、信号処理として、例えば、画像のノイズを除去するノイズ除去処理、または画像の時間解像度を向上させる時間解像度創造処理を行う。
メモリ部333は、コマンド列生成部330から送信されてくるコマンド列を受信し、そのコマンド列を構成するコマンドにしたがい、信号処理チップ332が出力する画像データを、その内蔵するメモリ(図示せず)に書き込むことにより記憶するとともに、メモリに記憶された画像データを読み出し、出力画像データとして、ディスプレイ317(図32)に供給する。
信号処理チップ334には、信号処理チップ331における場合と同様に、図32のチューナ部311が出力する画像としての入力画像データが供給される。
信号処理チップ334は、コマンド列生成部330から送信されてくるコマンド列を受信し、そのコマンド列を構成するコマンドに応じて、第1実施の形態のR-IC212等と同様に、リコンフィギュラブルに内部構造を切り換える。さらに、信号処理チップ334は、チューナ部311からの入力画像データを信号処理することで、動きベクトルを検出し、その動きベクトルを、信号処理チップ331および332に供給する。
なお、信号処理チップ334は、その内部構造を切り換えることにより、信号処理として、例えば、後述する通常画面用の動きベクトルを検出する動きベクトル処理、または後述するマルチ画面用の動きベクトルを検出する動きベクトル処理を行う。
次に、図36を参照して、図35のコマンド列生成部330が生成するコマンド列について説明する。
即ち、図36は、コマンド列生成部330が生成するコマンド列の例を示している。
システムコントローラ318(図32)からコマンド列生成部330に対しては、通常画面モードの処理、またはマルチ画面モードの処理を行うことを指令する制御信号が供給される。
コマンド列生成部330は、システムコントローラ318から供給された制御信号が、通常画面モードの処理を行うことを指令するものである場合、図36上に示すコマンド列(以下、適宜、通常モードコマンド列という)を生成する。また、コマンド列生成部330は、システムコントローラ318から供給された制御信号が、マルチ画面モードの処理を行うことを指令するものである場合、図36下に示すコマンド列(以下、適宜、マルチ画面モードコマンド列)を生成する。
図36上に示す通常画面モードコマンド列は、その先頭から、通常画面用動きベクトル検出コマンド、空間解像度創造コマンド、ノイズ除去コマンド、および通常画面用メモリ制御コマンドが順次配置されて構成されている。また、図36下に示すマルチ画面モードコマンド列は、その先頭から、マルチ画面用動きベクトル検出コマンド、縮小画像生成コマンド、時間解像度創造コマンド、およびマルチ画面用メモリ制御コマンドが順次配置されて構成されている。
通常画面用動きベクトル検出コマンドは、画像から、通常画面用の動きベクトルを検出する動きベクトル検出処理の実行を要求するコマンドであり、空間解像度創造コマンドまたはノイズ除去コマンドは、それぞれ、上述したクラス分類適応処理による空間解像度創造処理またはノイズ除去処理の実行を要求するコマンドである。
通常画面用メモリ制御コマンドは、1チャンネルの画像データを、ディスプレイ317の画面全体に表示するための、その1チャンネルの画像データのメモリへの読み書き処理の実行を要求するコマンドである。
マルチ画面用動きベクトル検出コマンドは、画像から、マルチ画面用の動きベクトルを検出する動きベクトル検出処理の実行を要求するコマンドであり、縮小画像生成コマンド、または時間解像度創造コマンドは、それぞれ、上述したクラス分類適応処理によるリサイズ処理としての縮小画像生成処理、または時間解像度創造処理の実行を要求するコマンドである。
マルチ画面用メモリ制御コマンドは、複数チャンネルの画像データを、ディスプレイ317でマルチ画面表示するための、その複数チャンネルの画像データのメモリへの読み書き処理の実行を要求するコマンドである。
ここで、図36のコマンド列は、単に、1以上のコマンドが、順次配置されて構成されているが、コマンド列を構成する各コマンドには、そのコマンドに対応する処理を実行すべきIC、即ち、図35の実施の形態では、信号処理チップ331,332、メモリ部333、または信号処理チップ334のうちのいずれかを特定するIC情報を付加することが可能である。この場合、信号処理チップ331,332、メモリ部333、または信号処理チップ334それぞれは、コマンド列生成部330から受信したコマンド列のうちの、自身を表すIC情報が付加されているコマンドに対応する処理を実行する。
なお、第2実施の形態では、コマンド列は、図36に示したように、単に、1以上のコマンドが、順次配置されて構成されるものとする。この場合、信号処理チップ331,332、メモリ部333、または信号処理チップ334それぞれは、コマンド列生成部330から受信したコマンド列のうちの、例えば、自身が実行可能なコマンドに対応する処理を実行する。
即ち、図36上の通常画面モードコマンド列が、コマンド列生成部330(図35)によって送信された場合、信号処理チップ331,332、メモリ部333、または信号処理チップ334は、それぞれ、その通常画面モードコマンド列を受信し、その通常画面モードコマンド列のうちの、自身が実行可能なコマンドに対応する処理を実行する。
この場合、信号処理チップ334は、通常画面モードコマンド列のうちの、例えば、通常画面用動きベクトル検出コマンドに応じて、その内部構造を、信号処理として、通常画面モード用の動きベクトルを検出する動きベクトル検出処理を行うように切り換える。
そして、信号処理チップ334は、通常画面モード時にチューナ部311から供給される1チャンネルの画像データとしての、例えばチャンネルCH1の画像データから、通常画面モード用の動きベクトルを検出して、信号処理チップ331および332に供給する。
信号処理チップ331は、図36上の通常画面モードコマンド列のうちの、例えば、空間解像度創造コマンドに応じて、その内部構造を、信号処理として、空間解像度創造処理を行うように切り換える。
そして、信号処理チップ331は、信号処理チップ334から供給される動きベクトルを用い、チューナ部311から供給されるチャンネルCH1の画像データに対して、空間解像度創造処理を施し、その結果得られる画像データを、信号処理チップ332に出力する。
ここで、図37は、空間解像度創造処理を行う信号処理チップ331において入出力される画像データを示している。
なお、図37では、i番目のフレーム(の画像)を、tiと表してある。
コマンド列生成部330(図35)が、図36上の通常画面モードコマンド列を送信するのは、動作モードとして、通常画面モードが選択されたときである。そして、通常画面モードでは、チューナ部311(図32)が、所定のチャンネルとしての、例えば、チャンネルCH1を選局し、これにより、信号処理チップ331には、図37上側に示すように、チャンネルCH1の入力画像データのフレームtiがフレーム周期T1で順次入力される。
信号処理チップ331は、そこに入力されるチャンネルCH1の入力画像データのフレームtiに対して、空間解像度創造処理を施し、図37下側に示すように、その空間解像度創造処理によって空間解像度が向上したチャンネルCH1の画像データのフレームtiをフレーム周期T1で順次出力する。
この空間解像度が向上したチャンネルCH1の画像のフレームtiは、順次、信号処理チップ332に供給される。
信号処理チップ332は、図36上の通常画面モードコマンド列のうちの、例えば、ノイズ除去コマンドに応じて、その内部構造を、信号処理として、ノイズ除去処理を行うように切り換える。
そして、信号処理チップ332は、信号処理チップ334から供給される動きベクトルを用い、信号処理チップ331から供給されるチャンネルCH1の画像データに対して、ノイズ除去処理を施し、その結果得られる画像データを、メモリ部333に出力する。
ここで、図38は、ノイズ除去処理を行う信号処理チップ332において入出力される画像データを示している。
なお、図38では、i番目のフレーム(の画像)を、tiと表してある。
信号処理チップ331から332に対しては、図38上側に示すように、空間解像度が向上したチャンネルCH1の画像データのフレームtiがフレーム周期T1で順次入力される。
信号処理チップ332は、そこに入力されるチャンネルCH1の画像データのフレームtiに対して、ノイズ除去処理を施し、図38下側に示すように、そのノイズ除去処理によってS/Nが向上したチャンネルCH1の画像データのフレームtiをフレーム周期T1で順次出力する。
このS/Nが向上したチャンネルCH1の画像のフレームtiは、順次、メモリ部333に供給される。
メモリ部333は、図36上の通常画面モードコマンド列のうちの、例えば、通常画面用メモリ制御コマンドにしたがい、信号処理チップ332が出力する画像データの各フレームを、そのまま、その内蔵するメモリに書き込むことにより一時記憶し、そのメモリに記憶された画像データのフレームを、出力画像データのフレームとして読み出して、ディスプレイ317(図32)に供給する。
従って、図36上の通常画面モードコマンド列が、コマンド列生成部330(図35)によって送信された場合には、ディスプレイ317において、チューナ部311(図32)で受信されたCH1の画像データの空間解像度およびS/Nを向上させた画像が表示される。
一方、図36下のマルチ画面モードコマンド列が、コマンド列生成部330(図35)によって送信された場合、信号処理チップ331,332、メモリ部333、または信号処理チップ334は、それぞれ、そのマルチ画面モードコマンド列を受信し、そのマルチ画面モードコマンド列のうちの、自身が実行可能なコマンドに対応する処理を実行する。
この場合、信号処理チップ334は、マルチ画面モードコマンド列のうちの、例えば、マルチ画面用動きベクトル検出コマンドに応じて、その内部構造を、信号処理として、マルチ画面モード用の動きベクトルを検出する動きベクトル検出処理を行うように切り換える。
そして、信号処理チップ334は、マルチ画面モード時にチューナ部311から時分割で供給される複数チャンネルの画像データとしての、例えばチャンネルCH1乃至CH4の画像データから、マルチ画面モード用の動きベクトルを検出して、信号処理チップ331および332に供給する。
信号処理チップ331は、図36下のマルチ画面モードコマンド列のうちの、例えば、縮小画像生成コマンドに応じて、その内部構造を、信号処理として、縮小画像生成処理(サイズを縮小するリサイズを行うリサイズ処理)を行うように切り換える。
そして、信号処理チップ331は、信号処理チップ334から供給される動きベクトルを用い、チューナ部311から時分割で供給されるチャンネルCH1乃至CH4の画像データに対して、縮小画像生成処理を施し、その結果得られるCH1乃至CH4の縮小画像データを、信号処理チップ332に出力する。
ここで、図39は、縮小画像生成処理を行う信号処理チップ331において入出力される画像データを示している。
なお、図39では、i番目のフレーム(の画像)を、tiと表してある。
コマンド列生成部330(図35)が、図36下のマルチ画面モードコマンド列を送信するのは、動作モードとして、マルチ画面モードが選択されたときである。そして、マルチ画面モードでは、チューナ部311(図32)が、複数のチャンネルとしての、例えば、チャンネルCH1乃至CH4を時分割で選局し、これにより、信号処理チップ331には、図39上側に示すように、チャンネルCH1乃至CH4の画像データのフレームtiが、時分割で入力される。
即ち、動作モードがマルチ画面モードの場合、チューナ部311は、上述したように、周期4T1で、3フレームずつのコマ落ちが生じた4チャンネルCH1乃至CH4の画像データを、信号処理部314(図35)に供給する。従って、信号処理部314の信号処理チップ331に供給される、4チャンネルCH1乃至CH4の画像データには、それぞれ、周期4T1で、3フレームずつのコマ落ちが生じている。
ここで、このようにコマ落ちが生じているフレーム、即ち、チューナ部311で受信されていないフレームを、以下、適宜、欠損フレームという。また、欠損フレームに対して、チューナ部311で受信されたフレームを、以下、適宜、非欠損フレームという。
信号処理チップ331は、そこに供給されるチャンネルCH1乃至CH4の画像データのフレームtiに対して、縮小画像生成処理を施し、図39下側に示すように、その縮小画像生成処理によって得られた、チャンネルCH1乃至CH4の画像データを縮小した縮小画像データを出力する。
なお、信号処理チップ331が出力する縮小画像データの周期は、フレーム周期T1であるが、チャンネルCH1乃至CH4のうちのある1チャンネルの縮小画像データが出力される周期は、4T1である。即ち、チャンネルCH1乃至CH4の各チャンネルの縮小画像データには、欠損フレームが存在する。つまり、チャンネルCH1乃至CH4のあるチャンネルの縮小画像データに注目すると、ある非欠損フレームと、その次の非欠損フレームとの間には、3フレームの欠損フレームが存在する。
チャンネルCH1乃至CH4の縮小画像データは、信号処理チップ331から信号処理チップ332に供給される。
信号処理チップ332は、図36下の通常画面モードコマンド列のうちの、例えば、時間解像度創造コマンドに応じて、その内部構造を、信号処理として、時間解像度創造処理を行うように切り換える。
そして、信号処理チップ332は、信号処理チップ334から供給される動きベクトルを用い、信号処理チップ331から供給されるチャンネルCH1乃至CH4の縮小画像データに対して、時間解像度創造処理を施し、その結果得られる画像データを、メモリ部333に出力する。
ここで、図40は、時間解像度創造処理を行う信号処理チップ332において入出力される画像データを示している。
なお、図40では、チャンネルCH#kのi番目のフレームを、CH#k(ti)と表してある。
マルチ画面モードにおいては、チューナ部311が、チャンネルCH1乃至CH4を時分割で選局し、これにより、信号処理チップ331から332には、図40一番上に示すように、チャンネルCH1乃至CH4の縮小画像データのフレームそれぞれが、周期4T1で順次入力される。
即ち、図40では、フレームt1のタイミングで、チャンネルCH1の1番目のフレームであるフレームCH1(t1)が、フレームt2のタイミングで、チャンネルCH2の2番目のフレームであるフレームCH2(t2)が、フレームt3のタイミングで、チャンネルCH3の3番目のフレームであるフレームCH3(t3)が、フレームt4のタイミングで、チャンネルCH4の4番目のフレームであるフレームCH4(t4)が、フレームt5のタイミングで、チャンネルCH1の5番目のフレームであるフレームCH1(t5)が、信号処理チップ332に入力され、以下同様にして、チャンネルCH1乃至CH4のフレームそれぞれが、周期4T1で順次入力される。
信号処理チップ332は、欠損フレームがあるチャンネルCH1乃至CH4それぞれの縮小画像データに対して、時間解像度創造処理を施すことにより、欠損フレームがないチャンネルCH1乃至CH4それぞれの縮小画像データを生成する。
即ち、信号処理チップ332では、図40上から2番目に示すように、チャンネルCH1の欠損フレームとなっているフレーム(の画像)CH1(t2),CH1(t3),CH1(t4),CH1(t6),・・・が存在するチャンネルCH1の縮小画像データが生成され、さらに、チャンネルCH2の欠損フレームとなっているフレームCH2(t1),CH2(t3),CH2(t4),CH2(t5),・・・が存在するチャンネルCH2の縮小画像データが生成される。また、信号処理チップ332では、チャンネルCH3の欠損フレームとなっているフレームCH3(t1),CH3(t2),CH3(t4),CH3(t5),・・・が存在するチャンネルCH3の縮小画像データが生成され、さらに、チャンネルCH4の欠損フレームとなっているフレームCH4(t1),CH4(t2),CH4(t3),CH4(t5),・・・が存在するチャンネルCH4の縮小画像データが生成される。
このようにして、信号処理チップ332は、4チャンネルCH1乃至CH4それぞれについて、フレーム周期T1でフレームが存在する縮小画像データを得て出力する。
この欠損フレームがないチャンネルCH1乃至CH4の縮小画像データのフレームtiは、順次、メモリ部333に供給される。
メモリ部333は、図36下のマルチ画面モードコマンド列のうちの、例えば、マルチ画面用メモリ制御コマンドにしたがい、信号処理チップ332が出力するチャンネルCH1乃至CH4の縮小画像データを、その内蔵するメモリに書き込んで読み出すことにより、そのチャンネルCH1乃至CH4の縮小画像データの同一フレームを合成し、これにより、チャンネルCH1乃至CH4の縮小画像データそれぞれの同一フレームをマルチ画面表示する出力画像データのフレームを生成して、ディスプレイ317に供給する。
即ち、メモリ部333は、図40一番下に示すように、マルチ画面用メモリ制御コマンドにしたがって、信号処理チップ332からのチャンネルCH1乃至CH4の同一フレームの縮小画像データを、マルチ画面の左上、右上、左下、右下の小画面に対応するメモリの記憶領域に書き込むことにより、チャンネルCH1乃至CH4の縮小画像データそれぞれの同一フレームをマルチ画面表示する出力画像データのフレームを生成(記憶)する。
さらに、メモリ部333は、マルチ画面用メモリ制御コマンドにしたがって、メモリに記憶した出力画像データのフレームを読み出し、ディスプレイ317に供給する。
従って、図36下のマルチ画面モードコマンド列が、コマンド列生成部330(図35)によって送信された場合には、ディスプレイ317において、欠損フレームがないチャンネルCH1乃至CH4の画像の動きを滑らかに表示するマルチ画面が表示される。
次に、図41のフローチャートを参照して、図35の信号処理部314の処理について説明する。
システムコントローラ318(図32)から、信号処理部314(乃至316)に対して制御信号が送信されてくると、信号処理部314では、ステップS301において、コマンド列生成部330が、その制御信号を受信し、ステップS302に進む。
ステップS302では、コマンド列生成部330が、システムコントローラ318から受信した制御信号に応じた1以上のコマンドからなるコマンド列を生成し、無線によって送信して、ステップS303に進む。
ステップS303では、信号処理部314を構成する各ブロック、即ち、信号処理チップ331,332、メモリ部333、および信号処理チップ334が、コマンド列生成部330から送信されてくるコマンド列を受信する。さらに、ステップS303では、信号処理チップ331,332,334それぞれが、コマンド列生成部330から受信したコマンド列の中のコマンドから、自身が実行可能なコマンドを認識し、そのコマンドに対応する処理(信号処理)を行うことを決定する。即ち、信号処理チップ331,332,334それぞれは、自身が実行可能なコマンドに応じて、自身の内部構造を切り換え、そのコマンドに対応する信号処理を行う状態となる。
そして、ステップS303からS304に進み、信号処理チップ334が、チューナ部311(図32)から供給される画像データを対象に、ステップS303で決定した信号処理を実行し、その信号処理結果を、信号処理チップ331および332に供給して、ステップS305に進む。
ステップS305では、信号処理チップ331が、チューナ部311(図32)から供給される画像データを対象に、ステップS303で決定した信号処理を実行し、その信号処理結果としての画像データを、信号処理チップ332に供給して、ステップS306に進む。
ステップS306では、信号処理チップ332が、信号処理チップ331から供給される画像データを対象に、ステップS303で決定した信号処理を実行し、その信号処理結果としての画像データを、メモリ部333に供給して、ステップS307に進む。
ここで、信号処理チップ331と332とでは、信号処理チップ334の信号処理結果を用いて、信号処理が行われる。
ステップS307では、メモリ部333が、ステップS303でコマンド列生成部330から受信したコマンド列の中のコマンドのうちの自身が実行可能なコマンドにしたがって、信号処理チップ332から供給される画像データをメモリに書き込むとともに、その書き込んだ画像データを読み出し、ディスプレイ317(図32)に出力して、処理を終了する。
なお、図41のステップS301乃至S307の処理それぞれは、ハードウェアとしての信号処理チップ331,332、メモリ部333、および信号処理チップ334などにより行われる処理である。但し、ステップS301乃至S303の処理は、マイクロコンピュータ等のコンピュータに、プログラムを実行させることで行うことも可能である。
次に、図42は、図35の信号処理チップ334の構成例を示すブロック図である。
チューナ部311(図32)が出力する画像(入力画像)データは、フレームメモリ341および動き検出回路344に供給される。
受信部340は、コマンド列生成部330が送信してくるコマンド列を受信する。さらに、受信部340は、コマンド列生成部330から受信したコマンド列から、信号処理チップ334が実行可能なコマンドを認識し、そのコマンドを、セレクタ343および選択部345に供給する。
フレームメモリ341は、そこに供給される入力画像データのフレームを一時記憶することにより、1フレーム分だけ遅延して、遅延回路342およびセレクタ343に供給する。従って、動き検出回路344に、第n+4フレームの入力画像データが供給されるとき、フレームメモリ341から遅延回路342およびセレクタ343には、その1フレーム前の第n+3フレームの入力画像データが供給される。
遅延回路342は、フレームメモリ341から供給される入力画像データのフレームを、3フレーム分だけ遅延して、セレクタ343に供給する。従って、チューナ部311から信号処理チップ334に供給される入力画像データのフレームは、フレームメモリ341および遅延回路342で、合計4フレーム分だけ遅延され、セレクタ343に供給されるから、動き検出回路344に、第n+4フレームの入力画像が供給されるとき、遅延回路342からセレクタ343には、その4フレーム前の第nフレームの入力画像データが供給される。
セレクタ343には、上述したように、フレームメモリ341から第n+3フレームの入力画像が供給されるとともに、遅延回路342から第nフレームの入力画像が供給される。セレクタ343は、受信部340から供給されるコマンドに応じて、フレームメモリ341の出力または遅延回路342の出力のうちのいずれか一方を、動き検出回路344への入力とするように、信号処理チップ334の内部構造を切り換える。
これにより、動き検出回路344には、フレームメモリ341が出力する第n+3フレームの入力画像データ、または遅延回路342が出力する第nフレームの入力画像データのうちの一方が、セレクタ343を介して供給される。
動き検出回路344は、セレクタ343を介して供給される入力画像データのフレームの各画素の動きベクトルを、チューナ部311(図32)から供給される入力画像データを参照することにより検出し、選択部345に供給する。
選択部345は、受信部340から供給されるコマンドに応じて、動き検出回路344から供給される動きベクトルをそのまま、またはその大きさを1/2に縮小し、信号処理チップ331および332(図35)に供給する。
次に、図43のフローチャートを参照して、図42の信号処理チップ334の処理について説明する。
信号処理チップ334では、コマンド列生成部330(図35)からコマンド列が送信されてくると、ステップS311において、受信部340が、そのコマンド列を受信する。さらに、受信部340は、コマンド列生成部330から受信したコマンド列から、信号処理チップ334が実行可能なコマンドを認識し、そのコマンドを、セレクタ343および選択部345に供給して、ステップS311からS312に進む。
ここで、第2実施の形態では、信号処理チップ334が実行可能なコマンドとしては、例えば、上述したように、図36上の通常画面モードコマンド列の中の通常画面用動きベクトル検出コマンドと、図36下のマルチ画面モードコマンド列の中のマルチ画面用動きベクトル検出コマンドとがある。
従って、受信部340は、図36上の通常画面モードコマンド列を受信した場合、その中の通常画面用動きベクトル検出コマンドを、セレクタ343および選択部345に供給する。また、受信部340は、図36下のマルチ画面モードコマンド列を受信した場合、その中のマルチ画面用動きベクトル検出コマンドを、セレクタ343および選択部345に供給する。
ステップS312では、セレクタ343は、受信部340から供給されたコマンドに応じて、フレームメモリ341の出力または遅延回路342の出力のうちのいずれか一方を、動き検出回路344への入力とするように、信号処理チップ334の内部構造を切り換える。さらに、ステップS312では、選択部345は、受信部340から供給されたコマンドに応じて、動き検出回路344から供給される動きベクトルをそのまま出力するように、またはその大きさを1/2に縮小するように、自身を設定し(自身の内部構造を切り換え)、ステップS313に進む。
即ち、受信部340からセレクタ343および選択部345に供給されたコマンドが、通常画面用動きベクトル検出コマンドである場合、セレクタ343は、フレームメモリ341の出力を、動き検出回路344への入力とするようにし、これにより、信号処理チップ334の内部構造を、信号処理として、通常画面モード用の動きベクトルを検出する処理を行うように切り換える。さらに、選択部345は、動き検出回路344から供給される動きベクトルをそのまま出力するように、自身を設定する。
一方、受信部340からセレクタ343および選択部345に供給されたコマンドが、マルチ画面用動きベクトル検出コマンドである場合、セレクタ343は、遅延回路342の出力を、動き検出回路344への入力とするようにし、これにより、信号処理チップ334の内部構造を、信号処理として、マルチ画面モード用の動きベクトルを検出する処理を行うように切り換える。さらに、選択部345は、動き検出回路344から供給される動きベクトルを、その大きさを1/2に縮小するように、自身を設定する。
ステップS313では、信号処理チップ334は、チューナ部311(図32)から供給される入力画像データを対象として、ステップS312で切り換えた内部構造によって行われるべき信号処理、即ち、ここでは、通常画面用の動きベクトルを検出する処理、またはマルチ画面用の動きベクトルを検出する処理を行い、ステップS314に進む。
ここで、コマンド列生成部330が図36上の通常画面モードコマンド列を送信する通常画面モードでは、入力画像データとしての、例えばチャンネルCH1の画像データに欠損フレームが存在しないことから、そのチャンネルCH1の画像データにおいて注目しているフレームが第nフレームであるとすると、その第nフレームの動きベクトルは、例えば、その次の第n+1フレームを参照することにより検出することができる。
一方、コマンド列生成部330が図36下のマルチ画面モードコマンド列を送信するマルチ画面モードでは、入力画像データとしての、例えばチャンネルCH1乃至CH4の画像データそれぞれには、4フレームに対して3フレームの欠損フレームが存在することから、そのチャンネルCH1乃至CH4の画像データにおいて注目している非欠損フレームが第nフレームであるとすると、第nフレームの動きベクトルは、例えば、その次の非欠損フレームである第n+4フレームを参照することにより検出する必要がある。
そこで、信号処理チップ334では、通常画面モードにおいては、通常画面モード用の動きベクトルの検出処理、即ち、第nフレームの動きベクトルを、その次の第n+1フレームを参照することにより検出する処理が行われ、マルチ画面モードにおいては、マルチ画面モード用の動きベクトルの検出処理、即ち、非欠損フレームである第nフレームの動きベクトルを、その次の非欠損フレームである第n+4フレームを参照することにより検出する処理が行われる。
即ち、動作モードが通常画面モードの場合、信号処理チップ334には、図32のチューナ部311が出力する、例えば、チャンネルCH1の画像データが供給され、このチャンネルCH1の画像データは、フレームメモリ341および動きベクトル検出回路344に供給される。
フレームメモリ341は、そこに供給されるチャンネルCH1の画像データのフレームを一時記憶することにより、1フレーム分だけ遅延して、遅延回路342およびセレクタ343に供給する。通常画面モードにおいては、セレクタ343は、通常画面用動きベクトル検出コマンドに応じて、フレームメモリ341の出力を、動き検出回路344への入力とするようにしているので、フレームメモリ341からのチャンネルCH1の画像データのフレームは、セレクタ343を介して、動き検出回路344に供給される。
ここで、上述したことから、動き検出回路344に、第n+4フレームのチャンネルCH1の画像データが供給されるとき、フレームメモリ341からセレクタ343には、その1フレーム前の第n+3フレームのチャンネルCH1の画像データが供給される。そして、いまの場合、セレクタ343は、フレームメモリ341からのチャンネルCH1の画像データのフレームを、動き検出回路344に供給するから、第n+3フレームと第n+4フレームのチャンネルCH1の画像データ、即ち、チャンネルCH1の画像データのあるフレームを注目フレームとすると、注目フレームと、その注目フレームの次のフレームが、動き検出回路344に供給される。
動き検出回路344は、注目フレームのチャンネルCH1の画像データの各画素の動きベクトルを、その注目フレームの次のフレームのチャンネルCH1の画像データを参照することにより検出し、選択部345に供給する。
通常画面モードにおいては、選択部345は、通常画面用動きベクトル検出コマンドに応じて、動き検出回路344から供給される動きベクトルをそのまま出力するように、自身を設定しているので、動き検出回路344から供給される動きベクトルを、そのまま、通常画面モード用の動きベクトルとして出力する。
一方、動作モードがマルチ画面モードの場合、信号処理チップ334には、図32のチューナ部311が出力する、例えば、チャンネルCH1乃至CH4それぞれの、欠損フレームがある画像データ(以下、適宜、欠損フレームあり画像データという)が供給され、このチャンネルCH1乃至CH4の欠損フレームあり画像データは、フレームメモリ341および動きベクトル検出回路344に供給される。
フレームメモリ341は、そこに供給されるチャンネルCH1乃至CH4の欠損フレームあり画像データのフレームを一時記憶することにより、1フレーム分だけ遅延して、遅延回路342およびセレクタ343に供給する。遅延回路342は、フレームメモリ341から供給されるチャンネルCH1乃至CH4の欠損フレームあり画像データのフレームを、さらに、3フレーム分だけ遅延し、セレクタ343に供給する。
マルチ画面モードにおいては、セレクタ343は、マルチ画面用動きベクトル検出コマンドに応じて、遅延回路342の出力を、動き検出回路344への入力とするようにしているので、遅延回路342からのチャンネルCH1乃至CH4の欠損フレームあり画像データのフレームは、セレクタ343を介して、動き検出回路344に供給される。
ここで、上述したことから、動き検出回路344に、第n+4フレームの画像が供給されるとき、遅延回路342からセレクタ343には、その4フレーム前の第nフレームの画像が供給される。そして、いまの場合、セレクタ343は、遅延回路342からの第nフレームを、動き検出回路344に供給するから、動き検出回路344には、第nフレームと第n+4フレームの画像データが供給される。
また、マルチ画面モードにおいては、チューナ部311から信号処理チップ334には、上述したように、チャンネルCH1乃至CH4の欠損フレームあり画像データが供給される。このチャンネルCH1乃至CH4の欠損フレームあり画像は、あるチャンネルに注目すれば、非欠損フレームが4フレームごとに存在する画像であるから、動き検出回路344には、チャンネルCH1乃至CH4のうちのあるチャンネルの非欠損フレームを注目フレームとすると、そのチャンネルについて、非欠損フレームである注目フレームと、その注目フレームの次の非欠損フレーム(注目フレームの4フレーム後のフレーム)が、動き検出回路344に供給される。
動き検出回路344は、注目フレームの各画素の動きベクトルを、その注目フレームのチャンネルにおける次の非欠損フレームを参照することにより検出し、選択部345に供給する。
マルチ画面モードにおいては、選択部345は、マルチ画面用動きベクトル検出コマンドに応じて、動き検出回路344から供給される動きベクトルを、1/2の大きさに縮小するように、自身を設定しているので、動き検出回路344から供給される動きベクトルを、1/2の大きさに縮小し、その縮小後の動きベクトルを、マルチ画面モード用の動きベクトルとして出力する。
なお、動作モードがマルチ画面モードの場合に、選択部345において、非欠損フレームの画素について検出した動きベクトルを、1/2の大きさにするのは、次のような理由による。
即ち、マルチ画面モードでは、コマンド列生成部330は、図36下のマルチ画面モードコマンド列を送信する。この場合、信号処理チップ331では、上述したように、マルチ画面モードコマンド列のうちの縮小画像生成コマンドに応じた縮小画像生成処理が、チャンネルCH1乃至CH4の欠損フレームあり画像データを対象に行われ、その欠損フレームあり画像データのサイズを、上述の小画面のサイズ(1フレームを2×2に等分割したサイズ)に縮小したチャンネルCH1乃至CH4の縮小画像データが得られる。
なお、このチャンネルCH1乃至CH4の縮小画像データには、縮小画像生成処理が行われる前のチャンネルCH1乃至CH4の欠損フレームあり画像データと同様に欠損フレームが存在する。欠損フレームがある縮小画像データを、以下、適宜、欠損フレームあり縮小画像データという。
信号処理チップ331において、上述したようにして得られたチャンネルCH1乃至CH4の欠損フレームあり縮小画像データは、信号処理チップ332に供給される。そして、マルチ画面モードでは、信号処理チップ332においては、信号処理チップ331から供給されるチャンネルCH1乃至CH4の欠損フレームあり縮小画像データを対象に、マルチ画面モードコマンド列(図36下)のうちの時間解像度創造コマンドに応じた時間解像度創造処理が行われ、チャンネルCH1乃至CH4の、欠損フレームがない縮小画像データ(以下、適宜、欠損フレームなし縮小画像データという)が得られる。
以上のように、マルチ画面モードにおいては、信号処理チップ331および332において、小画面のサイズの縮小画像データ、即ち、1フレームの画像データの横と縦の画素数を、それぞれ1/2に縮小した(間引いた)サイズの縮小画像データを扱う信号処理が行われる。
一方、信号処理チップ334では、チューナ部311が出力するチャンネルCH1乃至CH4の欠損フレームあり画像(縮小されていない画像)データを対象として動きベクトルが検出されるため、その動きベクトルの大きさは、理論的には、縮小画像データを対象として動きベクトルを検出した場合の大きさの2倍となる。このため、マルチ画面モードにおいては、信号処理チップ334の選択部345は、チャンネルCH1乃至CH4の画像(縮小されていない画像)データを対象に検出した動きベクトルを、縮小画像データを対象として検出した動きベクトルに対応させるために、1/2の大きさに縮小して、信号処理チップ331および332に供給する。
ステップS314では、信号処理チップ334で信号処理の対象とすべき画像データが存在するかどうかが判定される。ステップS314において、信号処理チップ334で信号処理の対象とすべき画像データが存在すると判定された場合、即ち、チューナ部311から信号処理チップ334に対して入力画像データが供給されている場合、ステップS313に戻り、通常画面用の動きベクトルまたはマルチ画面用の動きベクトルを検出する処理が続行される。
また、ステップS314において、信号処理チップ334で信号処理の対象とすべき画像データが存在しないと判定された場合、即ち、チューナ部311から信号処理チップ334に対して入力画像データが供給されなくなった場合、処理を終了する。
なお、信号処理チップ334は、その他、例えば、コマンド列生成部330から、新たなコマンド列が送信されてきた場合も、図43のフローチャートにしたがった処理を一旦終了し、再度、ステップS311から処理を開始する。
ここで、動きベクトル検出回路344における動きベクトルの検出方法としては、例えば、ブロックマッチング法や、勾配法、その他の任意の方法を採用することができる。
また、上述の場合には、動きベクトルを、画素単位で検出することで、各画素に対する動きベクトルを得るようにしたが、動きベクトルの検出は、その他、例えば、所定の画素数おきや、所定の画素で構成されるブロック単位等で行うことができる。この場合、任意の画素に対する動きベクトルは、その近くにある他の画素に対して検出された動きベクトルや、その画素を含むブロックに対して検出された動きベクトルで代用することが可能である。
次に、図44は、図35の信号処理チップ331の構成例を示している。
信号処理チップ331は、コマンド列生成部330(図35)から供給されるコマンド列を構成するコマンドに応じて、その内部構造を切り換え、上述したクラス分類適応処理を利用した空間解像度創造処理または縮小画像生成処理(リサイズ処理としての縮小画像生成処理)を行う。
即ち、信号処理チップ331は、注目画素選択部351、タップ選択部352,353、クラス分類部354、係数出力部355、予測演算部356、受信部357、動き判定部358で構成されている。これらのうちの注目画素選択部351、タップ選択部352,353、クラス分類部354、係数出力部355、予測演算部356は、図1の注目画素選択部11、タップ選択部12,13、クラス分類部14、係数出力部15、予測演算部16にそれぞれ対応するものである。
従って、信号処理チップ331では、チューナ部311(図32)から供給される入力画像データとしてのクラス分類適応処理の第1の画像データが、クラス分類適応処理の第2の画像データに変換されて出力される。
但し、図44において、係数出力部355は、係数メモリ3611および3612並びに選択部362で構成されている。
係数メモリ3611,3612には、あらかじめ行われた学習により求められた空間解像度創造処理用のタップ係数、リサイズ処理としての縮小画像生成処理用のタップ係数が、それぞれ記憶されている。ここで、縮小画像生成処理用のタップ係数は、チューナ部311(図32)が出力する画像データのサイズを、小画面のサイズ(1フレームを2×2に等分割したサイズ)に縮小するものである。
係数メモリ3611と3612には、クラス分類部354が出力するクラス(クラスコード)が供給される。係数メモリ3611と3612それぞれは、クラス分類部354からのクラスのタップ係数を読み出し、選択部362に出力する。
選択部362には、上述したように、係数メモリ3611と3612それぞれから読み出されたタップ係数が供給される他、受信部357からコマンドが供給される。選択部362は、受信部357から供給されるコマンドに応じて、係数メモリ3611または3612のうちのいずれかの出力端を選択し、その選択した出力端を、予測演算部356の入力端に接続することで、信号処理チップ331の内部構造を切り換える。
ここで、選択部362が、係数メモリ3611または3612のうちの、例えば、係数メモリ3611の出力端を選択し、その選択した出力端を、予測演算部356の入力端に接続した場合、予測演算部356には、係数メモリ3611から読み出される空間解像度創造処理用のタップ係数が供給されることとなり、その結果、信号処理チップ331は、空間解像度創造処理を行うICとして機能することになる。
一方、選択部362が、係数メモリ3611または3612のうちの、係数メモリ3612の出力端を選択し、その選択した出力端を、予測演算部356の入力端に接続した場合、予測演算部356には、係数メモリ3612から読み出される縮小画像生成処理用のタップ係数が供給されることとなり、その結果、信号処理チップ331は、縮小画像生成処理を行うICとして機能することになる。
また、図44では、クラス分類部354には、タップ選択部353からクラスタップが供給される他、動き判定部358から後述する動き判定情報が供給されるようになっている。クラス分類部354は、注目画素について選択されたクラスタップに基づいてクラス分類を行うことにより得られるクラスコードの上位ビットまたは下位ビットとして、動き判定部358からの動き判定情報を表すビットを付加し、その結果得られるビット列を、最終的なクラスコードとして、係数出力部355に供給する。
さらに、図44において、受信部357は、コマンド列生成部330(図35)から無線で送信されてくるコマンド列を受信し、コマンド列生成部330から受信したコマンド列の中から、信号処理チップ331が実行することができる信号処理のコマンドを認識して、選択部362に供給する。
即ち、受信部357は、図36上に示す通常画面モードコマンド列を受信した場合、その中の空間解像度創造コマンドを、信号処理チップ331が実行することができる信号処理のコマンドとして認識し、選択部362に供給する。この場合、選択部362は、係数メモリ3611の出力端を選択し、予測演算部356の入力端に接続する。
一方、受信部357は、図36下に示すマルチ画面モードコマンド列を受信した場合、その中の縮小画像生成コマンドを、信号処理チップ331が実行することができる信号処理のコマンドとして認識し、選択部362に供給する。この場合、選択部362は、係数メモリ3612の出力端を選択し、予測演算部356の入力端に接続する。
また、図44において、動き判定部358には、チューナ部311(図32)から供給される入力画像データとしての第1の画像データを構成する各画素の動きベクトルが、信号処理チップ334(図35)から供給されるようになっている。動き判定部358は、信号処理チップ334からの、第1の画像データを構成する各画素の動きベクトルのうちの、注目画素に対応する第1の画像データの画素(例えば、注目画素のフレームにおける注目画素の時空間的位置に最も近い位置にある第1の画像データの画素)の動きベクトルの大きさまたは方向を判定し、その大きさや方向を表す1ビットまたは数ビットを、動き判定情報としてクラス分類部354に供給する。
次に、図45のフローチャートを参照して、図44の信号処理チップ331の処理について説明する。
図35のコマンド列生成部330からコマンド列が送信されてくると、ステップS321において、受信部357は、そのコマンド列を受信する。さらに、受信部357は、そのコマンド列の中から、信号処理チップ331が実行可能な信号処理のコマンドを認識し、そのコマンドを選択部362に供給して、ステップS322に進む。
ステップS322では、選択部362は、受信部357からのコマンドに応じて、信号処理チップ331の内部構造を切り換える。
即ち、選択部362は、受信部357からのコマンドに応じて、係数メモリ3611または3612のうちのいずれかの出力端を選択し、その選択した出力端を、予測演算部356(図44)の入力端に接続することで、信号処理チップ331の内部構造を切り換える。
その後、ステップS323に進み、以下、ステップS323乃至S328において、図2のステップS11乃至S16における場合とそれぞれ同様の処理が行われる。
即ち、ステップS323において、注目画素選択部351は、信号処理チップ331に入力される第1の画像データに対する第2の画像データを構成する画素のうち、まだ、注目画素とされていないものの1つを、注目画素として選択し、ステップS324に進む。
ステップS324において、タップ選択部352と353が、そこに供給される第1の画像データから、注目画素についての予測タップとクラスタップとするものを、それぞれ選択する。そして、予測タップは、タップ選択部352から予測演算部356に供給され、クラスタップは、タップ選択部353からクラス分類部354に供給される。
さらに、ステップS324では、動き判定部358が、信号処理チップ334からの、第1の画像データを構成する各画素の動きベクトルのうちの、注目画素に対応する第1の画像データの画素の動きベクトルの大きさまたは方向を判定し、その大きさや方向を表す1ビットまたは数ビットを、注目画素についての動き判定情報としてクラス分類部354に供給する。
クラス分類部354は、タップ選択部353から、注目画素についてのクラスタップを受信するとともに、動き判定部358から、注目画素についての動き判定情報を受信し、ステップS325において、そのクラスタップと動き判定情報に基づき、注目画素をクラス分類する。さらに、クラス分類部354は、そのクラス分類の結果得られる注目画素のクラスを、係数出力部355に出力し、ステップS326に進む。
ステップS326では、係数出力部355が、クラス分類部354から供給されるクラスのタップ係数を出力する。即ち、係数出力部355は、係数メモリ3611または3612のうちの、選択部362が出力端を選択しているものから、クラス分類部354から供給されるクラスのタップ係数を読み出し、予測演算部356に出力する。そして、ステップS326では、予測演算部356が、係数出力部355が出力するタップ係数を取得し、ステップS327に進む。
ステップS327では、予測演算部356が、タップ選択部352が出力する予測タップと、係数出力部355から取得したタップ係数とを用いて、式(1)の予測演算を行う。これにより、予測演算部356は、注目画素の画素値を求めて出力し、ステップS328に進む。
ステップS328では、注目画素選択部351が、まだ、注目画素としていない第2の画像データがあるかどうかを判定する。ステップS328において、まだ、注目画素としていない第2の画像データがあると判定された場合、ステップS323に戻り、以下、同様の処理が繰り返される。
また、ステップS328において、まだ、注目画素とされていない第2の画像データがないと判定された場合、処理を終了する。
なお、受信部357は、コマンド列生成部330から、図36上に示す通常画面モードコマンド列を受信した場合、その中の空間解像度創造コマンドを、選択部362に供給する。この場合、選択部362は、係数メモリ3611の出力端を選択するから、その係数メモリ3611に記憶されている空間解像度創造処理用のタップ係数が、予測演算部356に供給される。
また、コマンド列生成部330が、図36上に示す通常画面モードコマンド列を送信する場合というのは、動作モードが通常画面モードである場合であり、この場合、チューナ部311(図32)は、所定のチャンネルとしての、例えば、チャンネルCH1を選局し、これにより、信号処理チップ331には、チャンネルCH1の欠損フレームがない画像データが供給される。
従って、この場合、信号処理チップ331は、そこに供給されるチャンネルCH1の欠損フレームがない画像データを、第1の画像データとして、空間解像度創造処理を実行し、その空間解像度創造処理によって空間解像度が向上したチャンネルCH1の欠損フレームがない画像データ(以下、適宜、高解像度画像データともいう)を、第2の画像データとして、後段の信号処理チップ332(図35)に出力する。
一方、受信部357は、コマンド列生成部330から、図36下に示すマルチ画面モードコマンド列を受信した場合、その中の縮小画像生成コマンドを、選択部362に供給する。この場合、選択部362は、係数メモリ3612の出力端を選択するから、その係数メモリ3612に記憶されている縮小画像生成処理用のタップ係数が、予測演算部356に供給される。
また、コマンド列生成部330が、図36下に示すマルチ画面モードコマンド列を送信する場合というのは、動作モードがマルチ画面モードである場合であり、この場合、チューナ部311(図32)は、複数のチャンネルとしての、例えば、チャンネルCH1乃至CH4を時分割で選局し、これにより、信号処理チップ331には、チャンネルCH1乃至CH4の欠損フレームあり画像データが供給される。
従って、この場合、信号処理チップ331は、そこに供給されるチャンネルCH1乃至CH4の欠損フレームあり画像データを、第1の画像データとして、縮小画像生成処理を実行し、その縮小画像生成処理によってサイズが縮小された(画素数が少なくされた)チャンネルCH1乃至CH4の欠損フレームあり縮小画像データを、第2の画像データとして、後段の信号処理チップ332(図35)に出力する。
次に、図46は、図35の信号処理チップ332の構成例を示している。
信号処理チップ332は、コマンド列生成部330(図35)から供給されるコマンド列を構成するコマンドに応じて、その内部構造を切り換え、上述したクラス分類適応処理を利用したノイズ除去処理または時間解像度創造処理を行う。
即ち、信号処理チップ332は、メモリ370、注目画素選択部371、タップ選択部372,373、クラス分類部374、係数出力部375、予測演算部376、受信部377、タップ決定部378および379で構成されている。これらのうちの注目画素選択部371、タップ選択部372,373、クラス分類部374、係数出力部375、予測演算部376は、図1の注目画素選択部11、タップ選択部12,13、クラス分類部14、係数出力部15、予測演算部16にそれぞれ対応するものである。
従って、信号処理チップ332では、信号処理チップ331(図35)から供給される、クラス分類適応処理の第1の画像データとしてのチャンネルCH1の欠損フレームがない高解像度画像データ、またはチャンネルCH1乃至CH4の欠損フレームあり縮小画像データが、クラス分類適応処理の第2の画像データに変換されて出力される。
但し、図46において、係数出力部375は、係数メモリ3811および3812並びに選択部382で構成されている。
係数メモリ3811,3812には、あらかじめ行われた学習により求められたノイズ除去処理用のタップ係数、時間解像度創造処理用のタップ係数が、それぞれ記憶されている。ここで、時間解像度創造処理用のタップ係数は、信号処理チップ331から供給されるチャンネルCH1乃至CH4それぞれの欠損フレームあり縮小画像データを、欠損フレームがない縮小画像データとするものである。
係数メモリ3811と3812には、クラス分類部374が出力するクラス(クラスコード)が供給される。係数メモリ3811と3812それぞれは、クラス分類部374からのクラスのタップ係数を読み出し、選択部382に出力する。
選択部382には、上述したように、係数メモリ3811と3812それぞれから読み出されたタップ係数が供給される他、受信部377からコマンドが供給される。選択部382は、受信部377から供給されるコマンドに応じて、係数メモリ3811または3812のうちのいずれかの出力端を選択し、その選択した出力端を、予測演算部376の入力端に接続することで、信号処理チップ332の内部構造を切り換える。
ここで、選択部382が、係数メモリ3811または3812のうちの、例えば、係数メモリ3811の出力端を選択し、その選択した出力端を、予測演算部376の入力端に接続した場合、予測演算部376には、係数メモリ3811から読み出されるノイズ除去処理用のタップ係数が供給されることとなり、その結果、信号処理チップ332は、ノイズ除去処理を行うICとして機能することになる。
一方、選択部382が、係数メモリ3811または3812のうちの、係数メモリ3812の出力端を選択し、その選択した出力端を、予測演算部376の入力端に接続した場合、予測演算部376には、係数メモリ3812から読み出される時間解像度創造処理用のタップ係数が供給されることとなり、その結果、信号処理チップ332は、時間解像度創造処理を行うICとして機能することになる。
また、図46において、受信部377は、コマンド列生成部330(図35)から無線で送信されてくるコマンド列を受信し、コマンド列生成部330から受信したコマンド列の中から、信号処理チップ332が実行することができる信号処理のコマンドを認識して、選択部382に供給する。
即ち、受信部377は、図36上に示す通常画面モードコマンド列を受信した場合、その中のノイズ除去コマンドを、信号処理チップ332が実行することができる信号処理のコマンドとして認識し、選択部382に供給する。この場合、選択部382は、係数メモリ3811の出力端を選択し、予測演算部376の入力端に接続する。
一方、受信部377は、図36下に示すマルチ画面モードコマンド列を受信した場合、その中の時間解像度創造コマンドを、信号処理チップ332が実行することができる信号処理のコマンドとして認識し、選択部382に供給する。この場合、選択部382は、係数メモリ3812の出力端を選択し、予測演算部376の入力端に接続する。
さらに、図46において、タップ決定部378および379には、信号処理チップ334(図35)から、チューナ部311(図32)が信号処理部314に供給する入力画像データを構成する各画素の動きベクトルが供給されるようになっている。
タップ決定部378または379は、それぞれ、注目画素についての予測タップまたはクラスタップとする画素を、信号処理チップ334から供給される動きベクトルに基づいて決定する。
即ち、注目画素についての予測タップやクラスタップ(以下、適宜、両方まとめて、単に、タップという)を、クラス分類適応処理の第1の画像データから、どのような画素を選択して構成するかは、特に限定されるものではない。
但し、図46の信号処理チップ332では、欠損フレームあり縮小画像データを第1の画像データとして、時間解像度創造処理用のタップ係数を用いたクラス分類適応処理を行うことにより、欠損フレームのない縮小画像データを、第2の画像データとして得る時間解像度創造処理が行われることがある。
時間解像度創造処理では、4つのチャンネルCH1乃至CH4それぞれについて、フレーム周期T1の各フレームの縮小画像データが予測(生成)されるが、その予測には、ある1フレームの非欠損フレームの画素だけを用いるよりも、複数フレームの非欠損フレーム、即ち、例えば、注目画素(予測によって生成する画素)のフレームにより近い2つの非欠損フレーム、つまり、注目画素のフレームの直前の非欠損フレーム(但し、注目画素のフレームが非欠損フレームである場合は、その非欠損フレーム)と、直後の非欠損フレームの画素を用いるのが望ましい。さらに、時間解消度創造処理における注目画素の予測には、画像(被写体)の動きを考慮するのが望ましい。
そこで、タップ決定部378は、例えば、注目画素のフレームの直前の非欠損フレーム(以下、適宜、直前非欠損フレームという)の縮小画像データを構成する画素のうちの、注目画素に対応する画素の動きベクトルに基づき、直前非欠損フレームの縮小画像データを構成する画素と、注目画素のフレームの直後の非欠損フレーム(以下、適宜、直後非欠損フレームという)の縮小画像データを構成する画素とから、注目画素についての予測タップとなる画素を決定する。
即ち、タップ決定部378は、直前非欠損フレーム、注目画素のフレーム、直後非欠損フレームを時系列に並べ、注目画素に対応する直前非欠損フレームの画素の動きベクトルを、注目画素を通るように補正した場合に、その補正後の動きベクトルの始点を中心とする直前非欠損フレームの幾つかの画素と、補正後の動きベクトルの終点を中心とする直後非欠損フレームの幾つかの画素とを、注目画素についての予測タップとなる画素として決定する。
ここで、信号処理チップ332において時間解像度創造処理が行われるときに信号処理チップ334から供給される動きベクトルは、直前非欠損フレームや直後非欠損フレームの縮小画像データの各画素の動きベクトルではなく、その縮小画像データに縮小される前の画像データ(以下、適宜、縮小前画像データという)の動きベクトル(の大きさを1/2にしたもの)である。このため、タップ決定部378は、縮小画像データの画素に対応する縮小前画像データの画素の動きベクトルを、その縮小画像データの画素(縮小画像データの画素の画枠における位置と同一の位置関係の、縮小前画像データの画枠の位置にある画素)の動きベクトルとして用いる。
タップ決定部378は、注目画素についての予測タップとなる画素を決定した後、その画素を表す情報(以下、適宜、予測タップ情報という)を、タップ選択部372に供給する。そして、タップ選択部372は、タップ決定部378からの予測タップ情報にしたがって、メモリ370に記憶された画像データから予測タップとなる画素を選択する。
タップ決定部379も、タップ決定部378と同様にして、注目画素についてのクラスタップとなる画素を決定し、その画素を表す情報(以下、適宜、クラスタップ情報という)を、タップ選択部373に供給する。そして、タップ選択部373は、タップ決定部379からのクラスタップ情報にしたがって、メモリ370に記憶された画像データからクラスタップとなる画素を選択する。
ここで、図46の信号処理チップ332では、上述したことから、信号処理チップ331から供給される画像データの2フレームから、タップが選択される。このため、図46の信号処理チップ332には、信号処理チップ331から供給される画像データのフレームを一時記憶しておくメモリ370が設けられている。
さらに、図46の信号処理チップ332では、時間解像度創造処理が、4つのチャンネルCH1乃至CH4それぞれについて行われる。この場合、チャンネルCH1乃至CH4のうちのいずれか1つのチャンネルについて時間解像度創造処理が行われている間、他の3つのチャンネルの画像データを保持しておく必要がある。メモリ370が設けられているのは、この画像データの保持のためでもある。
なお、図46の信号処理チップ332では、時間解像度創造処理の他、上述したように、ノイズ除去処理も行われる。ノイズ除去処理が行われる場合も、タップ決定部378および379は、時間解像度創造処理が行われる場合と同様に、タップとなる画素を決定する。
但し、ノイズ除去処理は、チャンネルCH1の欠損フレームがない高解像度画像データを対象として行われるため、上述の直前非欠損フレームは、注目画素のフレームとなり、直後非欠損フレームは、注目画素のフレームの次のフレームとなる。
次に、図47のフローチャートを参照して、図46の信号処理チップ332の処理について説明する。
図35のコマンド列生成部330からコマンド列が送信されてくると、ステップS331において、受信部377は、そのコマンド列を受信する。さらに、受信部377は、そのコマンド列の中から、信号処理チップ332が実行可能な信号処理のコマンドを認識し、そのコマンドを選択部382に供給して、ステップS332に進む。
ステップS332では、選択部382は、受信部377からのコマンドに応じて、信号処理チップ332の内部構造を切り換える。
即ち、選択部382は、受信部377からのコマンドに応じて、係数メモリ3811または3812のうちのいずれかの出力端を選択し、その選択した出力端を、予測演算部376(図46)の入力端に接続することで、信号処理チップ332の内部構造を切り換える。
その後、ステップS333に進み、以下、ステップS333乃至S338において、図2のステップS11乃至S16における場合とそれぞれ同様の処理が行われる。
即ち、信号処理チップ331から信号処理チップ332に入力されるチャンネルCH1の欠損フレームがない高解像度画像データ、またはCH1乃至CH4の欠損フレームあり縮小画像データは、クラス分類適応処理の第1の画像データとして、メモリ370に順次供給されて記憶される。
そして、ステップS333において、注目画素選択部371は、クラス分類適応処理の第2の画像データを構成する画素のうち、まだ、注目画素とされていないものの1つを、注目画素として選択し、ステップS334に進む。
ステップS334において、タップ決定部378または379が、信号処理チップ334(図35)から供給される動きベクトルに基づいて、予測タップまたはクラスタップとする第1の画像データの画素を決定し、その画素を表す予測タップ情報またはクラスタップ情報を、タップ選択部372または373に、それぞれ供給する。
さらに、ステップS334では、タップ選択部372と373が、タップ決定部378と379から供給される予測タップ情報とクラスタップ情報にしたがい、メモリ370に記憶された第1の画像データから、注目画素についての予測タップとクラスタップとするものを、それぞれ選択する。そして、予測タップは、タップ選択部372から予測演算部376に供給され、クラスタップは、タップ選択部373からクラス分類部374に供給される。
クラス分類部374は、タップ選択部373から、注目画素についてのクラスタップを受信し、ステップS335において、そのクラスタップに基づき、注目画素をクラス分類する。さらに、クラス分類部374は、そのクラス分類の結果得られる注目画素のクラスを、係数出力部375に出力し、ステップS336に進む。
ステップS336では、係数出力部375が、クラス分類部374から供給されるクラスのタップ係数を出力する。即ち、係数出力部375は、係数メモリ3811または3812のうちの、選択部382が出力端を選択しているものから、クラス分類部374から供給されるクラスのタップ係数を読み出し、予測演算部376に出力する。そして、ステップS336では、予測演算部376が、係数出力部375が出力するタップ係数を取得し、ステップS337に進む。
ステップS337では、予測演算部376が、タップ選択部372が出力する予測タップと、係数出力部375から取得したタップ係数とを用いて、式(1)の予測演算を行う。これにより、予測演算部376は、注目画素の画素値を求めて出力し、ステップS338に進む。
ステップS338では、注目画素選択部371が、まだ、注目画素としていない第2の画像データがあるかどうかを判定する。ステップS338において、まだ、注目画素としていない第2の画像データがあると判定された場合、ステップS333に戻り、以下、同様の処理が繰り返される。
また、ステップS338において、まだ、注目画素とされていない第2の画像データがないと判定された場合、処理を終了する。
なお、受信部377は、コマンド列生成部330から、図36上に示す通常画面モードコマンド列を受信した場合、その中のノイズ除去コマンドを、選択部382に供給する。この場合、選択部382は、係数メモリ3811の出力端を選択するから、その係数メモリ3811に記憶されているノイズ除去処理用のタップ係数が、予測演算部376に供給される。
また、コマンド列生成部330が、図36上に示す通常画面モードコマンド列を送信する場合というのは、動作モードが通常画面モードである場合であり、この場合、チューナ部311(図32)は、所定のチャンネルとしての、例えば、チャンネルCH1を選局する。そして、信号処理チップ331(図35)において、そのチャンネルCH1の画像データが、高解像度画像データに変換され、これにより、信号処理チップ332には、チャンネルCH1の高解像度画像データが供給される。
従って、この場合、信号処理チップ332は、そこに供給されるチャンネルCH1の高解像度画像データを、第1の画像データとして、ノイズ除去処理を実行し、そのノイズ除去処理によってS/Nが向上したチャンネルCH1の高解像度画像データを、第2の画像データとして、後段のメモリ部333(図35)に出力する。
一方、受信部377は、コマンド列生成部330から、図36下に示すマルチ画面モードコマンド列を受信した場合、その中の時間解像度創造コマンドを、選択部382に供給する。この場合、選択部382は、係数メモリ3812の出力端を選択するから、その係数メモリ3812に記憶されている時間解像度創造処理用のタップ係数が、予測演算部376に供給される。
また、コマンド列生成部330が、図36下に示すマルチ画面モードコマンド列を送信する場合というのは、動作モードがマルチ画面モードである場合であり、この場合、チューナ部311(図32)は、複数のチャンネルとしての、例えば、チャンネルCH1乃至CH4を時分割で選局する。そして、信号処理チップ331(図35)において、そのチャンネルCH1乃至CH4の欠損フレームあり画像データが、欠損フレームあり縮小画像データに変換され、これにより、信号処理チップ332には、チャンネルCH1乃至CH4の欠損フレームあり縮小画像データが供給される。
従って、この場合、信号処理チップ332は、そこに供給されるチャンネルCH1乃至CH4の欠損フレームあり縮小画像データを、第1の画像データとして、時間解像度創造処理を実行し、その時間解像度創造処理によって欠損フレームがないチャンネルCH1乃至CH4の縮小画像データを、第2の画像データとして得て、後段のメモリ部333(図35)に出力する。
以上のように、図35の信号処理チップ331,332,334それぞれでは、コマンド列のうちの、少なくとも1つのコマンドに応じて、内部構造を切り換え、そこに入力される画像データを信号処理して、その信号処理結果としての画像データを出力するので、単一のハードウェアで、複数の機能を、容易に実現することができる。
さらに、信号処理チップ332では、信号処理チップ331の信号処理結果を信号処理するので、信号処理部314(図35)全体としては、より多くの機能を、容易に実現することができる。
なお、信号処理部314は、信号処理チップ331や332と同様の信号処理チップを任意の個数だけ設けて構成することができる。
また、上述の場合には、信号処理チップ331(図44)の係数出力部355に、タップ係数を記憶させておくようにしたが、タップ係数に代えて、係数種データを記憶させておき、その係数種データからタップ係数を生成するようにすることが可能である。信号処理チップ332についても、同様である。
次に、本発明の第3実施の形態について説明する。
図48は、本発明の第3実施の形態としてのテレビジョン受像機の構成例を示している。
チューナ601には、図示せぬアンテナが受信したディジタル放送の放送信号(伝送信号)が供給される。このディジタル放送の放送信号は、MPEG(Moving Picture Experts Group)-2等により規定されるディジタルデータであり、複数のTS(Transport Stream:トランスポートストリーム)パケットで構成されるトランスポートストリームとして送信されてくる。チューナ601は、コントローラ613の制御に基づいて、アンテナから供給される複数のチャンネルの放送信号の中から、所定のチャンネル(周波数)の放送信号を選択(選局)し、その選択したチャンネルの放送信号を復調部602に供給する。
復調部602は、コントローラ613の制御に基づいて、チューナ601から供給される所定のチャンネルの放送信号のトランスポートストリームを、例えば、QPSK(Quadrature Phase Shift Keying)復調等で復調し、それにより得られたトランスポートストリームをエラー訂正部603に供給する。
エラー訂正部603では、コントローラ613の制御に基づいて、復調部602から供給されたトランスポートストリームについて、エラーが検出、訂正される。そして、訂正処理後のトランスポートストリームが、デマルチプレクサ(DEM)604に供給される。
デマルチプレクサ604は、コントローラ613の制御に基づいて、エラー訂正部603から供給されるトランスポートストリームを、必要に応じて、デスクランブル処理する。また、デマルチプレクサ604は、コントローラ613の制御に基づいて、TSパケットのPID(Packet Identifier)を参照することにより、エラー訂正部603から供給されるトランスポートストリームから、所定の番組のTSパケットを抽出し、ビデオデータのTSパケットをビデオデコーダ605に、オーディオデータのTSパケットをオーディオデコーダ610に、それぞれ供給する。
ビデオデコーダ605は、デマルチプレクサ604から供給されるビデオデータ(のTSパケット)をMPEG-2方式でデコードし、LSI606または合成部607に供給する。
LSI606は、コントローラ613から供給されるコマンド列を受信し、そのコマンド列に応じて、第1実施の形態のR-IC212等と同様に、リコンフィギュラブルに内部構造を切り換える。そして、LSI606は、ビデオデコーダ605が出力する画像データ(ビデオデータ)を信号処理し、その信号処理によって得られる画像データを、合成部607に供給(出力)する。
合成部607は、LSI606から画像データが供給される場合は、その画像データを選択する。一方、LSI606から画像データが供給されない場合は、合成部607は、ビデオデコーダ605から供給される画像データを選択する。また、合成部607は、ビデオデコーダ605またはLSI606から供給される画像データのうちの選択した方にOSD(On Screen Display)部608から供給される画像データを重畳して、LCD(Liquid Crystal Display)609に供給して、表示させる。
なお、OSD部608から画像データが供給されない場合には、合成部607は、ビデオデコーダ605またはLSI606から供給された画像データのうちの選択した方をそのままLCD609に供給する。
ここで、OSD部608は、コントローラ613の制御に基づいて、例えば、現在選択されているチャンネルの番号や音量などの画像データを生成し、合成部607に供給する。
一方、オーディオデコーダ610は、デマルチプレクサ604から供給されるオーディオデータ(のTSパケット)をMPEG-2方式でデコードし、図示せぬ出力端子に供給し、また、スピーカ611に供給して出力させる。
なお、コントローラ613は、チューナ601、復調部602、エラー訂正部603、デマルチプレクサ604、ビデオデコーダ605、オーディオデコーダ610、OSD部608を制御する。また、コントローラ613は、キー入力部614やリモコンI/F617から供給される、ユーザの操作に対応する操作信号に基づいて、各種の処理を実行する。
例えば、コントローラ613は、リモコンI/F617から供給される、ユーザの操作に対応する操作信号に応じて、1以上のコマンドからなるコマンド列を生成し、LSI606に送信(供給)する。
キー入力部614は、例えば、スイッチボタンなどで構成され、ユーザが所望のチャンネルを選択する際の操作などを受け付け、そのユーザの操作に対応する操作信号をコントローラ613に供給する。表示部615は、コントローラ613から供給される制御信号に基づいて、例えば、チューナ601において選択されているチャンネルなどを表示する。
リモコンI/F(InterFace)617は、受光部616から供給される、ユーザの操作に対応する操作信号をコントローラ613に供給する。受光部616は、リモコン(リモートコマンダ618から送信されるユーザの操作に対応する操作信号を受信(受光)し、リモコンI/F617に供給する。
次に、図49は、図48のリモコン618の構成例を示す平面図である。
リモコン618には、ユーザインタフェース部621とLCDパネル622とが設けられている。
ユーザインタフェース部621としては、図48のテレビジョン受像機の電源をオン/オフするときに操作される電源ボタン612A、テレビジョン受像機への入力をテレビジョン放送や外部入力に切り換えるときに操作される入力ボタン621B、チャンネルを選択するときに操作されるチャンネルボタン621C、テレビジョン受像機(のLSI606)に対して所定の機能を要求するときに操作される機能ボタン621Dが設けられている。
なお、図49では、機能ボタン621Dとして、機能A,B,C,Dの4つのボタンが設けられている。
LCDパネル622は、所定の情報、例えば、直前に操作されたユーザインタフェース部621のボタンを表す情報などが表示される。
次に、図50は、図49のリモコン618の電気的構成例を示している。
リモコン618は、ユーザインタフェース部621,LCDパネル622、制御部632、記憶部633、および送信部634が、バス631を介して相互に接続されて構成されている。
制御部632は、例えば、CPUなどで構成され、記憶部633に記憶されているプログラムを実行することにより、リモコン618を構成する各ブロックを制御する。記憶部633は、制御部632が実行するプログラムや必要なデータを記憶している。また、記憶部633は、制御部632等が処理を行う上で必要なデータを記憶する。
送信部634は、ユーザが、ユーザインタフェース部621を操作した場合に、その操作に対応する操作信号を、赤外線や電波で送信する。送信部634が送信する操作信号が、受光部616(図48)で受信される。
次に、図51のフローチャートを参照して、図48のコントローラ613の処理について概説する。
コントローラ613は、ステップS601において、リモコン618のユーザインタフェース部621(図49)がユーザによって操作されたか否かを判定する。ステップS601において、ユーザインタフェース部621が操作されていないと判定された場合、ステップS601に戻る。
また、ステップS601において、ユーザインタフェース部621が操作されたと判定された場合、即ち、ユーザが、ユーザインタフェース部621を操作し、その操作に対応する操作信号が、受光部616およびリモコンI/F617を介して、コントローラ613に供給された場合、ステップS602に進み、コントローラ613は、その操作信号に基づき、電源ボタン621A(図49)が操作されたか否かを判定する。
ステップS602において、電源ボタン621Aが操作されたと判定された場合、即ち、ユーザが、電源ボタン621Aを操作し、その操作に対応する操作信号が、受光部616およびリモコンI/F617を介して、コントローラ613に供給された場合、ステップS603に進み、コントローラ613は、図48のテレビジョン受像機の電源をオンまたはオフとする電源処理を行い、ステップS601に戻る。
また、ステップS602において、電源ボタン621Aが操作されていないと判定された場合、即ち、電源ボタン621A以外のボタンが操作された場合、ステップS604に進み、コントローラ613は、その操作されたボタンに対応する処理を行い、ステップS601に戻る。
ここで、リモコン618(図49)の機能ボタン621Dが操作され、コントローラ613が、その機能ボタン621Dの操作に対応した操作信号を、受光部616およびリモコンI/F617を介して受信した場合、コントローラ613は、その操作信号(操作された機能ボタン621D)に応じて、コマンド列を生成し、LSI606に送信する。
図52は、コントローラ613が生成するコマンド列のフォーマットを示している。
コマンド列は、例えば、ヘッダ、1以上のコマンド、EOC(End Of Command)コードが順次配置されて構成される。
次に、図53のフローチャートを参照して、コントローラ613による図51のステップS604の処理についてさらに説明する。
コントローラ613は、ステップS611において、機能ボタン621D(図49)のうちの機能Aのボタン(以下、適宜、Aボタンという)が操作されたかどうかを判定する。ステップS611において、Aボタンが操作されたと判定された場合、ステップS612に進み、コントローラ613は、図52に示したコマンド列における1以上のコマンドとして、1次元空間解像度創造コマンドまたは2次元空間解像度創造コマンドを配置したコマンド列を生成し、LSI606に送信して、リターンする。
また、ステップS611において、Aボタンが操作されていないと判定された場合、ステップS613に進み、コントローラ613は、機能ボタン621D(図49)のうちの機能Bのボタン(以下、適宜、Bボタンという)が操作されたかどうかを判定する。
ステップS613において、Bボタンが操作されたと判定された場合、ステップS614に進み、コントローラ613は、図52に示したコマンド列における1以上のコマンドとして、ノイズ除去コマンドを配置したコマンド列を生成し、LSI606に送信して、リターンする。
また、ステップS613において、Bボタンが操作されていないと判定された場合、ステップS615に進み、コントローラ613は、機能ボタン621D(図49)のうちの機能Cのボタン(以下、適宜、Cボタンという)が操作されたかどうかを判定する。
ステップS615において、Cボタンが操作されたと判定された場合、ステップS616に進み、コントローラ613は、図52に示したコマンド列における1以上のコマンドとして、1次元空間解像度創造コマンドと、ノイズ除去コマンドとを配置したコマンド列を生成し、LSI606に送信して、リターンする。
また、ステップS615において、Cボタンが操作されていないと判定された場合、ステップS617に進み、コントローラ613は、機能ボタン621D(図49)のうちの機能Dのボタン(以下、適宜、Dボタンという)が操作されたかどうかを判定する。
ステップS617において、Dボタンが操作されたと判定された場合、ステップS618に進み、コントローラ613は、図52に示したコマンド列における1以上のコマンドとして、2次元空間解像度創造コマンドと、ノイズ除去コマンドとを配置したコマンド列を生成し、LSI606に送信して、リターンする。
また、ステップS617において、Dボタンが操作されていないと判定された場合、即ち、電源ボタン621Aおよび機能ボタン621D以外のボタンが操作された場合、ステップS619に進み、コントローラ613は、その操作されたボタンに対応する処理を行い、リターンする。
次に、図54は、コントローラ613が、機能ボタン621Dの操作に応じて生成し、LSI606に送信するコマンド列を示している。
Aボタンが操作された場合、コントローラ613は、図54左側の上から1番目または2番目に示すように、1つのコマンドである1次元空間解像度創造コマンドまたは2次元空間解像度創造コマンドを配置したコマンド列であるAボタンコマンド列641または642を生成し、LSI606に送信する。
また、Bボタンが操作された場合、コントローラ613は、図54左側の上から3番目に示すように、1つのコマンドであるノイズ除去コマンドを配置したコマンド列であるBボタンコマンド列643を生成し、LSI606に送信する。
さらに、Cボタンが操作された場合、コントローラ613は、図54右側の上から1番目に示すように、2つのコマンドである1次元空間解像度創造コマンドとノイズ除去コマンドとを配置したコマンド列であるCボタンコマンド列644を生成し、LSI606に送信する。
また、Dボタンが操作された場合、コントローラ613は、図54右側の上から2番目に示すように、2つのコマンドである2次元空間解像度創造コマンドとノイズ除去コマンドとを配置したコマンド列であるDボタンコマンド列645を生成し、LSI606に送信する。
次に、図55は、図48のLSI606の構成例を示している。
受信部650は、コントローラ613(図48)から送信されてくるコマンド列を受信し、SW(スイッチ)回路654および655、並びに信号処理回路656に供給する。
フレームメモリ651は、ビデオデコーダ605(図48)から供給される画像データ(画像入力信号)を、例えば、1フレーム単位で記憶し、SW回路654の入力端子654Aに供給する。
フレームメモリ652は、信号処理回路656からSW回路655の出力端子655Aを介して供給される画像データ(画像出力信号)を、例えば、1フレーム単位で記憶し、合成部607(図48)に供給する。
フレームメモリ653は、SW回路655の出力端子655Bから供給される画像データを、例えば、1フレーム単位で記憶し、SW回路654の入力端子654Bに供給する。
SW回路654は、2つの入力端子654Aおよび654Bを有しており、入力端子654Aには、フレームメモリ651に記憶された画像データが供給され、入力端子654Bには、フレームメモリ653に記憶された画像データが供給されるようになっている。SW回路654は、例えば、受信部650から供給されるコマンド列等に応じて、入力端子654Aまたは654Bのうちの一方を選択し、その選択した方の入力端子から供給される画像データを、信号処理回路656に供給する。
SW回路655は、2つの出力端子655Aおよび655Bを有しており、出力端子655Aは、フレームメモリ652に、出力端子655Bは、フレームメモリ653に、それぞれ接続されている。SW回路655には、信号処理回路656から、信号処理後の画像データが供給されるようになっており、SW回路655は、例えば、受信部650から供給されるコマンド列等に応じて、出力端子655Aまたは655Bのうちの一方を選択し、その選択した方の出力端子に、信号処理回路656からの画像データを出力する。
信号処理回路656は、受信部650からのコマンド列に応じて、その内部構造を、リコンフィギュラブルに切り換え、SW回路654から供給される画像データを信号処理し、その信号処理によって得られる画像データを、SW回路655に供給する。
次に、図56のフローチャートを参照して、図55のLSI606の処理について説明する。
コントローラ613(図48)からLSI606に対して、コマンド列が送信されてくると、受信部650は、ステップS631において、そのコマンド列を受信し、SW回路654および655、並びに信号処理回路656に供給して、ステップS632に進む。
ここで、受信部650が受信したコマンド列は、N個のコマンドで構成されるものとする。但し、Nは、1以上の整数とする。
ステップS632では、フレームメモリ651が、ビデオデコーダ605(図48)から供給される1フレーム(フィールド)の画像データを記憶し、ステップS633に進む。
ステップS633では、SW回路654および655が、受信部650から供給されたコマンド列を構成するコマンドが1つであるか、または複数であるかを判定する。
ステップS633において、コマンド列を構成するコマンドが1つであると判定された場合、ステップS634に進み、SW回路654が入力端子654Aを選択するとともに、SW回路655が出力端子655Aを選択し、ステップS635に進む。
ステップS635では、信号処理回路656が、受信部650からのコマンド列を構成するコマンドから、注目コマンドとするコマンドを選択する。ここで、いまの場合、コマンド列を構成するコマンドは1つであるので、その1つのコマンドが、注目コマンドとして選択される。
さらに、ステップS635では、信号処理回路656が、注目コマンドに応じて、内部構造を切り換え、これにより、その注目コマンドに対応した信号処理を実行することが可能な状態となって、ステップS636に進む。
ステップS636では、信号処理回路656は、SW回路654が選択している入力端子654Aを介して、フレームメモリ651から1フレームの画像データを読み出し、その1フレームの画像データを対象に、注目コマンドに対応した信号処理を行う。
ここで、ステップS636では、信号処理回路656は、受信部650から供給されたコマンド列を構成するコマンドの数Nに等しいN倍速で、信号処理を行う。いまの場合、コマンド列は、1つのコマンドで構成されるので、信号処理回路656は、1倍速、即ち、フレームレート(またはフィールドレート)に対応する処理速度(フレーム周期に等しい時間内に、1フレームの画像データの信号処理を終了する処理速度)で、1フレームの画像データを信号処理する。
ステップS636において信号処理回路656が信号処理を行うことにより得られた画像データは、SW回路655に供給され、ステップS637に進む。
ここで、SW回路655は、ステップS634で、出力端子655Aを選択しているので、信号処理回路656がSW回路655に供給した画像データは、出力端子655Aからフレームメモリ652に供給される。
ステップS637では、フレームメモリ652が、信号処理回路656から、SW回路655を介して供給される画像データを記憶し、その記憶した画像データを、合成回路607(図48)に出力して、ステップS650に進む。
一方、ステップS633において、コマンド列を構成するコマンドが複数であると判定された場合、ステップS638に進み、SW回路654が入力端子654Aを選択するとともに、SW回路655が出力端子655Bを選択し、ステップS639に進む。
ステップS639では、信号処理回路656が、受信部650からのコマンド列を構成するコマンドから、注目コマンドとするコマンドを選択する。即ち、信号処理回路656は、例えば、コマンド列を構成する複数のコマンドのうちの、まだ注目コマンドとしていない最も先頭寄りのコマンドを、注目コマンドとして選択する。
さらに、ステップS639では、信号処理回路656が、注目コマンドに応じて、内部構造を切り換え、これにより、その注目コマンドに対応した信号処理を実行することが可能な状態となって、ステップS640に進む。
ステップS640では、信号処理回路656は、SW回路654が選択している端子654Aを介して、フレームメモリ651から1フレームの画像データを読み出し、その1フレームの画像データを対象に、注目コマンドに対応した信号処理を、コマンド列を構成するコマンドの数Nに等しいN倍速で行う。
ステップS640において、信号処理回路656が信号処理を行うことにより得られた画像データは、SW回路655に供給され、ステップS641に進む。
ここで、SW回路655は、ステップS638で、出力端子655Bを選択しているので、信号処理回路656がSW回路655に供給した画像データは、出力端子655Bからフレームメモリ653に供給される。
ステップS641では、フレームメモリ653が、信号処理回路656から、SW回路655を介して供給される画像データを記憶し、ステップS642に進む。
ステップS642では、SW回路654が、入力端子654Aから654Bに選択を切り換えて、ステップS643に進む。
ステップS643では、信号処理回路656が、ステップS639における場合と同様にして、受信部650からのコマンド列を構成するコマンドから、注目コマンドとするコマンドを、新たに選択する。
さらに、ステップS643では、信号処理回路656が、新たな注目コマンドに応じて、内部構造を切り換え、これにより、その注目コマンドに対応した信号処理を実行することが可能な状態となって、ステップS644に進む。
ステップS644では、信号処理回路656が、注目コマンドが、コマンド列を構成する最後のコマンドであるかどうかを判定する。
ステップS644において、注目コマンドが、コマンド列を構成する最後のコマンドでないと判定された場合、即ち、コマンド列の中に、まだ注目コマンドとしていないコマンドが存在する場合、ステップS645に進み、信号処理回路656は、SW回路654が選択している入力端子654Bを介して、フレームメモリ653から画像データを読み出し、即ち、信号処理回路656による前回の信号処理によって得られた画像データを読み出し、その画像データを対象に、注目コマンドに対応した信号処理を、コマンド列を構成するコマンドの数Nに等しいN倍速で行う。
ステップS645において、信号処理回路656が信号処理を行うことにより得られた画像データは、SW回路655に供給され、ステップS646に進む。
ここで、SW回路655は、ステップS638で、出力端子655Bを選択したままとなっているので、信号処理回路656がSW回路655に供給した画像データは、出力端子655Bからフレームメモリ653に供給される。
ステップS646では、フレームメモリ653が、信号処理回路656から、SW回路655を介して供給される画像データを記憶する(上書きする)。そして、ステップS643に戻り、以下、同様の処理が繰り返される。
また、ステップS644において、注目コマンドが、コマンド列を構成する最後のコマンドであると判定された場合、ステップS647に進み、SW回路655が、出力端子655Bから655Aに選択を切り換えて、ステップS648に進む。
ステップS648では、信号処理回路656は、SW回路654が選択している端子654Bを介して、フレームメモリ653から画像データを読み出し、即ち、信号処理回路656による前回の信号処理によって得られた画像データを読み出し、その画像データを対象に、注目コマンドに対応した信号処理を、コマンド列を構成するコマンドの数Nに等しいN倍速で行う。
ステップS648において、信号処理回路656が信号処理を行うことにより得られた画像データは、SW回路655に供給され、ステップS649に進む。
ここで、SW回路655は、ステップS647で、出力端子655Aを選択しているので、信号処理回路656がSW回路655に供給した画像データは、出力端子655Aからフレームメモリ652に供給される。
ステップS649では、フレームメモリ652が、信号処理回路656から、SW回路655を介して供給される画像データを記憶し、その記憶した画像データを、合成回路607(図48)に出力して、ステップS650に進む。
ステップS650では、次のフレームの画像データがフレームメモリ651に供給されたかどうかが判定される。ステップS650において、次のフレームの画像データがフレームメモリ651に供給されたと判定された場合、ステップS632に戻り、フレームメモリ651が、その画像データを記憶して、以下、同様の処理が繰り返される。なお、このとき、コマンド列を構成するコマンドは、すべて、まだ注目コマンドとされてないものとされる。
一方、ステップS650において、次のフレームの画像データがフレームメモリ651に供給されていないと判定された場合、処理を終了する。
以上のように、LSI606は、コマンド列が複数のコマンドから構成される場合、注目コマンドに応じて、内部構造を切り換え、その注目コマンドに対応した信号処理を、画像データを対象に実行し、その後、さらに、新たな注目コマンドに応じて、内部構造を切り換え、その新たな注目コマンドに対応した信号処理を、前回の信号処理によって得られた画像データを対象に実行する。従って、単一のハードウェアで、複数の機能を、容易に実現することができる。
次に、図57は、図55の信号処理回路656の構成例を示している。
走査線変換回路521Aには、SW回路654(図55)から画像データが供給される。走査線変換回路521Bは、そこに供給される画像データの走査方向を変換し、切換回路662に供給する。
走査線変換回路521Bには、切換回路664から、信号処理回路661による信号処理後の画像データが供給される。走査線変換回路521Bは、そこに供給される画像データの走査方向を変換し、切換回路663に供給する。
フレームメモリ523には、SW回路654(図55)から画像データが供給される。フレームメモリ523は、そこに供給される画像データを記憶することにより、1フレーム分の時間だけ遅延して、信号処理回路661の端子io2'に供給する。
信号処理回路661は、端子io1,io2,io2',io3,io4,io5を有している。端子io1には、切換回路662から画像データが供給され、端子io2には、切換回路663から画像データが供給される。端子io2'には、フレームメモリ523から画像データが供給される。端子io3またはio4からは、信号処理回路661で信号処理が行われることにより得られた画像データが出力され、この画像データは、切換回路664または665にそれぞれ供給される。端子io5には、受信部650(図55)からコマンド列が供給される。
信号処理回路661は、端子io5に供給されるコマンド列に応じて、その内部構造を切り換え、端子io1,io2、またはio2'に供給される画像データを信号処理し、その結果得られる画像データを、端子io3またはio4から出力する。
切換回路662には、受信部650(図55)からコマンド列が供給される。また、切換回路662には、SW回路654(図55)と走査線変換回路521Aから画像データが供給される。切換回路662は、受信部650からのコマンド列に応じて、SW回路654からの画像データ、または走査線変換回路521Aからの画像データを選択し、信号処理回路661の端子io1に供給する。
切換回路663には、受信部650(図55)からコマンド列が供給される。また、切換回路663には、SW回路654(図55)と走査線変換回路521Bから画像データが供給される。切換回路663は、受信部650からのコマンド列に応じて、SW回路654からの画像データ、または走査線変換回路521Bからの画像データを選択し、信号処理回路661の端子io2に供給する。
切換回路664には、受信部650(図55)からコマンド列が供給される。また、切換回路664には、信号処理回路661の端子io3から、画像データが供給される。切換回路664は、受信部650からのコマンド列に応じて、切換回路665または走査線変換回路521Bを選択し、選択した方の回路に、端子io3からの画像データを供給する。
切換回路665には、受信部650(図55)からコマンド列が供給される。また、切換回路665には、切換回路664と信号処理回路661の端子io4から画像データが供給される。切換回路665は、受信部650からのコマンド列に応じて、切換回路664からの画像データ、または信号処理回路661の端子io4からの画像データを選択し、SW回路655(図55)に供給する。
図58は、図57の信号処理回路661の構成例を示している。
なお、信号処理回路661には、端子io1,io2,io2',io3,io4,io5が設けられている他、図示しないが、電源端子等も設けられている。
図58において、信号処理回路661は、複数の回路群としての演算回路群411Aおよび411B、メモリ412Aおよび412B、積和演算回路群413Aおよび413B、アダー414Aおよび414B、乗算器415Aおよび415B、並びにレジスタ群416Aおよび416Bで構成されている。
そして、これらの回路群あるいは回路に対して、入力/出力あるいは相互間(回路群あるいは回路間の相互接続、および回路群の内部における回路間の相互接続の両者を意味する)の接続状態を切り換えるための切換回路が、信号処理回路661内に設けられている。
換言すると、信号処理回路661内のディジタル信号の流れと、各回路群の機能とが制御信号により制御可能となっている。すなわち、演算回路群411Aまたは411Bと関連して切換回路421Aまたは421Bがそれぞれ設けられている。また、メモリ412Aまたは412Bと関連して切換回路422Aまたは422Bがそれぞれ設けられている。さらに、積和演算回路群413Aまたは413Bと関連して切換回路423Aまたは423Bがそれぞれ設けられている。また、アダー414Aおよび414B、乗算器415Aおよび415B、並びにレジスタ群416Aおよび416Bと関連して切換回路424が設けられている。
切換回路421A,421B,422A,422B,423A,423Bおよび424に対しては、端子io5からコマンド列comが供給される。切換回路421A,421B,422A,422B,423A,423Bおよび424は、コマンド列comに応じて、演算回路群411Aおよび411B、メモリ412Aおよび412B、積和演算回路群413Aおよび413B、アダー414Aおよび414B、乗算器415Aおよび415B、並びにレジスタ群416Aおよび416Bどうしの接続状態を切り換え、これにより、信号処理回路661の内部構造を切り換える。
図59は、図57の信号処理回路661の他の構成例を示している。
端子io1からの画像データが、クラス分類回路511A、遅延選択回路512Aおよびライン遅延回路517に供給される。
クラス分類回路511Aは、図1のタップ選択部13およびクラス分類部14に対応する。クラス分類回路511Aは、端子io1からの画像データ、またはライン遅延回路517からの画像データから、幾つかの画素(の画素値)を選択し、その画素をクラスタップとして、クラス分類を行い、その結果得られるクラスコードを、切換回路513Aに供給する。
但し、クラス分類回路511Aは、クラスタップとして、1次元の配列の複数の画素を選択することと、2次元の配列の複数の画素を選択することが可能になっている。ここで、1次元の配列の複数の画素としては、例えば、水平方向に並ぶ幾つかの画素や、垂直方向に並ぶ幾つかの画素がある。また、2次元の配列の複数の画素としては、例えば、ある画素を中心とする、水平方向にX個、垂直方向にY個の画素でなる長方形の領域内にある画素がある。
従って、クラス分類回路511Aで行われるクラス分類には、1次元の配列の複数の画素をクラスタップとして行われるものと、2次元の配列の複数の画素をクラスタップとして行われるものがある。1次元の配列の複数の画素をクラスタップとして行われるクラス分類を、以下、適宜、1次元クラス分類という。また、2次元の配列の複数の画素をクラスタップとして行われるクラス分類を、以下、適宜、2次元クラス分類という。
なお、クラスタップは、3次元の配列の複数の画素で構成することも可能である。3次元の配列の複数の画素としては、例えば、ある画素を中心とする、水平方向にX個、垂直方向にY個、時間方向にT個の画素でなる直方体の領域内にある画素がある。3次元の配列の複数の画素をクラスタップとして行われるクラス分類を、以下、適宜、3次元クラス分類という。
クラス分類回路511Aは、1次元クラス分類と2次元クラス分類を行い、その1次元クラス分類と2次元クラス分類により得られる2つのクラスコードを、切換回路513Aに供給する。
遅延選択回路512Aは、図1のタップ選択部12に対応する。遅延選択回路512Aは、端子io1からの画像データ、またはライン遅延回路517からの画像データから、幾つかの画素(の画素値)を選択し、その画素を予測タップとして、切換回路514Aに供給する。
但し、遅延選択回路512Aは、予測タップとして、1次元の配列の複数の画素を選択することと、2次元の配列の複数の画素を選択することが可能になっている。1次元の配列の複数の画素で構成される予測タップを、以下、適宜、1次元予測タップといい、2次元の配列の複数の画素で構成される予測タップを、以下、適宜、2次元予測タップという。
なお、予測タップは、3次元の配列の複数の画素で構成することも可能であり、3次元の配列の複数の画素で構成される予測タップを、以下、適宜、3次元予測タップという。
遅延選択回路512Aは、1次元予測タップと2次元予測タップを得て、切換回路514Aに供給する。
なお、遅延選択回路512Aは、予測演算回路516Aで演算されるべき予測タップとタップ係数とが、予測演算回路516Aに供給されるタイミングを調整する等のために、1次元予測タップと2次元予測タップとを、所定の時間だけ遅延して出力する。
切換回路513Aは、端子io5からのコマンド列に応じて、クラス分類回路511Aが2つのクラスコードを出力する2つの出力端のうちの一方を選択し、係数出力回路515Aに接続する。その結果、クラス分類回路511Aから係数出力回路515Aに対しては、切換回路513Aを介して、1次元クラス分類の結果としてのクラスコードまたは2次元クラス分類の結果としてのクラスコードのうちの一方が供給される。
切換回路514Aは、端子io5からのコマンド列に応じて、遅延選択回路512Aが2つの予測タップを出力する2つの出力端のうちの一方を選択し、予測演算回路516Aに接続する。その結果、遅延選択回路512Aから予測演算回路516Aに対しては、切換回路514Aを介して、1次元予測タップまたは2次元予測タップのうちの一方が供給される。
係数出力回路515Aは、図1の係数出力部15に対応し、あらかじめ行われた学習によって得られた、幾つかの異なる種類のタップ係数を記憶している。係数出力回路515Aは、端子io5からのコマンド列に応じた種類のタップ係数を選択し、さらに、そのタップ係数の中から、クラス分類回路511Aから切換回路513Aを介して供給されるクラスコードに対応するクラスのタップ係数を読み出し、予測演算回路516Aに供給する。
なお、係数出力回路515Aは、各種類のタップ係数として、予測タップが1次元予測タップである場合に用いられるべきものと、2次元予測タップである場合に用いられるべきものを記憶しており、さらに、それぞれのタップ係数として、クラス分類として1次元クラス分類が行われる場合に用いられるべきものと、2次元クラス分類が行われる場合に用いられるべきものを記憶している。このように、ある種類のタップ係数としては、複数パターンのタップ係数が存在することがあるが、以下では、この点の説明は省略する。
予測演算回路516Aは、図1の予測演算部16に対応する。予想演算回路516Aは、遅延選択回路512Aから切換回路514Aを介して供給される予測タップと、係数出力回路515Aから供給されるタップ係数とを用いて、式(1)の演算を行い、その演算結果を、注目画素(の画素値)として、積和演算回路518および切換回路519に供給する。
ここで、式(1)にしたがった予測タップとタップ係数との演算は、FIR(Finite Impulse Response)フィルタによる演算(フィルタリング)に等価である。そこで、1次元予測タップ、2次元予測タップ、または3次元予測タップを用いて行われる式(1)の演算を、以下、適宜、1次元フィルタ演算、2次元フィルタ演算、または3次元フィルタ演算と、それぞれいう。
クラス分類回路511B、遅延選択回路512B、切換回路513B,514B、係数出力回路515B、予測演算回路516Bは、上述のクラス分類回路511A、遅延選択回路512A、切換回路513A,514A、係数出力回路515A、予測演算回路516Aとそれぞれ同様に構成される。そして、クラス分類回路511B乃至予測演算回路516Bは、クラス分類回路511A乃至予測演算回路516Aと同様の接続関係を有する。
但し、クラス分類回路511Bおよび遅延選択回路512Bには、端子io2からの画像データ、端子io2'からの画像データ、およびライン遅延回路517からの画像データが供給されるようになっている。
クラス分類回路511Bは、そこに供給される画像データから画素を選択することで、クラスタップを構成し、そのクラスタップに基づいて、1次元クラス分類、2次元クラス分類、3次元クラス分類を行う。さらに、クラス分類回路511Bは、その3つのクラス分類によって得られる3つのクラスコードを、切換回路513Bに供給する。
なお、クラス分類回路511Bは、端子io2またはio2'から供給される画像データの動きも検出し、その動きを表す動き情報を、積和演算回路518に供給する。
遅延選択回路512Bは、そこに供給される画像データから画素を選択することで、1次元予測タップ、2次元予測タップ、3次元予測タップを構成し、切換回路514Bに供給する。
切換回路513Bは、端子io5からのコマンド列に応じて、クラス分類回路511Bからの3つのクラスコードのうちのいずれかを選択し、係数出力回路515Bに供給する。
切換回路514Bは、端子io5からのコマンド列に応じて、遅延選択回路512Bからの3つの予測タップのうちのいずれかを選択し、予測演算回路516Bに供給する。
係数出力回路515Bは、係数出力回路515Aと同様に、幾つかの異なる種類のタップ係数を記憶している。係数出力回路515Bは、端子io5からのコマンド列に応じた種類のタップ係数を選択し、さらに、そのタップ係数の中から、クラス分類回路511Bから切換回路513Bを介して供給されるクラスコードに対応するクラスのタップ係数を読み出し、予測演算回路516Bに供給する。
予測演算回路516Aは、遅延選択回路512Bから切換回路514Bを介して供給される予測タップと、係数出力回路515Bから供給されるタップ係数とを用いて、式(1)の演算を行い、その演算結果を、注目画素(の画素値)として、端子io4と、積和演算回路518に供給する。
ライン遅延回路517は、メモリで構成された1乃至数ライン分の遅延を生じさせる回路で、端子io1からの画像データを1乃至数ライン分だけ遅延して、クラス分類回路511Aおよび511B、並びに遅延選択回路512Aおよび512Bに供給する。
積和演算回路518は、予測演算回路516Aと516Bの出力どうしの重み付け加算を、クラス分類回路511Bから供給される動き情報を重みとして行い、その加算結果を、切換回路519に供給する。
切換回路519は、端子io5からのコマンド列に応じて、予測演算回路516Aの出力または積和演算回路518の出力のうちの一方を選択し、端子io3に供給する。
上述したように、図59において、クラス分類回路511Aと511Bは、図1のタップ選択部13およびクラス分類部14に対応し、遅延選択回路512Aと512Bは、図1のタップ選択部12に対応する。また、係数出力回路515Aと515Bは、図1の係数出力部15に対応し、予測演算回路516Aと516Bは、図1の予測演算部16に対応する。
従って、クラス分類回路511A乃至予測演算回路516Aでは、端子io1から供給される画像データおよびライン遅延回路517から供給される画像データを、第1の画像データとして、クラス分類適応処理(としての画像変換処理)を行うことができ、予測演算回路516Aから出力される画像データが、そのクラス分類適応処理の結果としての第2の画像データである。
また、クラス分類回路511B乃至予測演算回路516Bでも、端子io2から供給される画像データ、端子io2'から供給される画像データ、およびライン遅延回路517から供給される画像データを、第1の画像データとして、クラス分類適応処理(としての画像変換処理)を行うことができ、予測演算回路516Bから出力される画像データが、そのクラス分類適応処理の結果としての第2の画像データである。
次に、図60のフローチャートを参照して、クラス分類回路511A乃至予測演算回路516Aと、クラス分類回路511B乃至予測演算回路516Bとで行われるクラス分類適応処理としての画像変換処理について説明する。
なお、以下、適宜、クラス分類回路511Aと511Bをクラス分類回路511と、遅延選択回路512Aと512Bを遅延選択回路512と、切換回路513Aと513Bを切換回路513と、切換回路514Aと514Bを切換回路514と、係数出力回路515Aと515Bを係数出力回路515と、予測演算回路516Aと516Bを予測演算回路516と、それぞれ記載する。
ステップS661において、クラス分類回路511および遅延選択回路512に対し、画像データが入力される。なお、クラス分類回路511および遅延選択回路512に入力された画像データが、クラス分類適応処理の第1の画像データであり、クラス分類適応処理では、その第1の画像データが、第2の画像データに変換される。
その後、第2の画像データのうちの、まだ注目画素としていない画素が、注目画素として選択され、ステップS662に進み、クラス分類回路511は、注目画素についてのクラスタップとなる画素を、第1の画像データから選択(抽出)して、ステップS663に進む。ステップS663では、クラス分類回路511が、クラスタップに基づいて、クラス分類を行い、その結果得られるクラスコードを、切換回路513を介して、係数出力回路515に出力する。
そして、ステップS664に進み、遅延選択回路512が、注目画素についての予測タップとなる画素を、第1の画像データから選択(抽出)し、予測演算回路516に供給して、ステップS665に進む。
ステップS665では、係数出力回路515が、ステップS663でクラス分類回路511が出力したクラスコードに対応するクラスタップ係数を、予測演算回路516に出力し、ステップS666に進む。
ステップS666では、予測演算回路516が、遅延選択回路512からの予測タップと、係数出力回路515からのタップ係数とを用いて式(1)の演算(フィルタ演算)を行い、その演算結果を、注目画素(の画素値)として出力し、処理を終了する。
なお、図60のステップS662乃至S666の処理は、第2の画像データの画素すべてを注目画素として行われる。
次に、図59に示した構成の信号処理回路661を有する図57の信号処理回路656の処理について説明する。
まず、リモコン618(図49)のAボタンが操作され、これにより、図54に示した1つのコマンドである1次元空間解像度創造コマンドが配置されたAボタンコマンド列641が、図55の受信部650で受信され、図57の信号処理回路656に供給された場合の処理について説明する。
信号処理回路656(図57)に供給されたAボタンコマンド列641は、切換回路662乃至665、および信号処理回路661の端子io5に供給される。
切換回路662は、Aボタンコマンド列641の中の1次元空間解像度創造コマンドに応じて、走査線変換回路512Aの出力を選択して、信号処理回路661の端子io1に接続する。また、切換回路663は、Aボタンコマンド列641の中の1次元空間解像度創造コマンドに応じて、走査線変換回路512Bの出力を選択して、信号処理回路661の端子io2に接続する。
さらに、切換回路664は、Aボタンコマンド列641の中の1次元空間解像度創造コマンドに応じて、走査線変換回路512Bへの入力を選択して、信号処理回路661の端子io3を、走査線変換回路512Bに接続する。また、切換回路665は、Aボタンコマンド列641の中の1次元空間解像度創造コマンドに応じて、信号処理回路661の端子io4を選択して、SW回路655(図55)に接続する。
さらに、信号処理回路661(図59)の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Aボタンコマンド列641の中の1次元空間解像度創造コマンドに応じて、信号線の選択状態(各ブロックの接続状態)を、1次元空間解像度創造処理を行うように切り換える。
ここで、1次元空間解像度創造処理とは、予測タップとして1次元予測タップを用いる空間解像度創造処理を意味する。
図61は、信号線の選択状態を、1次元空間解像度創造処理を行うように切り換えた信号処理回路661を含む図57の信号処理回路656を示している。
図61において、信号処理回路661の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Aボタンコマンド列641の中の1次元空間解像度創造コマンドに応じて、信号線の選択状態を、図61に実線で示すように切り換え、これにより、信号処理として、1次元空間解像度創造処理が行われる。
なお、図61において、点線で示す信号線は、配線されているが、現在の信号処理回路661による信号処理に関係のない信号線を意味している。
また、図61では、図57におけるフレームメモリ523、切換回路662乃至665の図示を省略してある。
図61の信号処理回路656では、例えば、そこに入力される、クラス分類適応処理の第1の画像データとしての標準解像度の画像データ(以下、適宜、SD画像データと称する)を、その水平方向と垂直方向の画素数をいずれも2倍にした、クラス分類適応処理の第2の画像データとしての高解像度の画像データ(以下、適宜、HD画像データと称する)に変換する空間解像度創造処理(1次元空間解像度創造処理)が行われる。
なお、ここでは、例えば、最初に、SD画像データ(第1の画像データ)の垂直方向の画素数を2倍とし、その後に水平方向の画素数を2倍とすることで、画素数が4倍のHD画像データ(第2の画像データ)を得るものとする。
図61において、走査線変換回路521Aには、SD画像データが供給される。走査線変換回路521Aは、そこに供給されるSD画像データを対象に、水平走査(テレビジョンラスタの走査順序)から垂直走査への変換を行う。
走査線変換521Aで走査方向が変換されたSD画像データは、信号処理回路661の端子io1に供給される。
端子io1に供給されたSD画像データは、クラス分類回路511Aと遅延選択回路512Aに供給される。
クラス分類回路511Aは、端子io1からのSD画像データからクラスタップを選択し、そのクラスタップに基づいて、1次元クラス分類を行う。そして、クラス分類回路511Aは、1次元クラス分類によって得られるクラスコードを、切換回路513Aを介して、係数出力回路515Aに供給する。
係数出力回路515Aは、少なくとも1次元空間解像度創造処理用のタップ係数を含む複数種類のタップ係数を記憶しており、端子io5から供給されるAボタンコマンド列641の中の1次元空間解像度創造コマンドに応じて、1次元空間解像度創造処理用のタップ係数を選択している。そして、係数出力回路515Aは、クラス分類回路511Aから、切換回路513Aを介して供給されるクラスコードに対応するクラスのタップ係数を読み出し、予測演算回路516Aに供給する。
一方、遅延選択回路512Aは、端子io1からのSD画像データから1次元予測タップを選択し、切換回路514Aを介して、予測演算回路516Aに供給する。
予測演算回路516Aは、遅延選択回路512Aから切換回路514Aを介して供給される1次元予測タップとしてのSD画像データの複数の画素データと、係数出力回路515Aから供給されるタップ係数とを用いて、式(1)のフィルタ演算(1次元フィルタ演算)を行い、これにより、垂直方向の画素数が元のSD画像データの2倍となった画像データ(画素の画素値)を得て出力する。
予測演算回路516Aが出力する画像データは、切換回路119を介して、端子io3から出力され、さらに、切換回路664(図57)を介して、走査線変換回路521Bに供給される。
走査線変換回路521Bは、そこに供給される画像データを対象に、垂直走査から水平走査への変換を行う。そして、走査線変換回路521Bは、その変換によって、テレビジョンラスタと同様の走査の信号となった画像データを、端子io2に供給する。
端子io2に供給された画像データは、クラス分類回路511Bと遅延選択回路512Bに供給される。
クラス分類回路511Bは、端子io2からの画像データからクラスタップを選択し、そのクラスタップに基づいて、1次元クラス分類を行う。そして、クラス分類回路511Bは、1次元クラス分類によって得られるクラスコードを、切換回路513Bを介して、係数出力回路515Bに供給する。
係数出力回路515Bは、少なくとも1次元空間解像度創造処理用のタップ係数を含む複数種類のタップ係数を記憶しており、端子io5から供給されるAボタンコマンド列641の中の1次元空間解像度創造コマンドに応じて、1次元空間解像度創造処理用のタップ係数を選択している。そして、係数出力回路515Bは、クラス分類回路511Bから、切換回路513Bを介して供給されるクラスコードに対応するクラスのタップ係数を読み出し、予測演算回路516Bに供給する。
一方、遅延選択回路512Bは、端子io2からの画像データから1次元予測タップを選択し、切換回路514Bを介して、予測演算回路516Bに供給する。
予測演算回路516Bは、遅延選択回路512Bから切換回路514Bを介して供給される1次元予測タップとしての画像データの複数の画素データと、係数出力回路515Bから供給されるタップ係数とを用いて、式(1)のフィルタ演算(1次元フィルタ演算)を行い、これにより、垂直方向と水平方向の画素数がいずれも元の画像データの2倍となったHD画像データ(画素の画素値)を得て出力する。
予測演算回路516Bが出力する画像データは、端子io4から出力され、さらに、切換回路665(図57)を介して、SW回路655(図55)に供給される。
次に、リモコン618(図49)のAボタンが操作され、これにより、図54に示した1つのコマンドである2次元空間解像度創造コマンドが配置されたAボタンコマンド列642が、図55の受信部650で受信され、図57の信号処理回路656に供給された場合の処理について説明する。
信号処理回路656(図57)に供給されたAボタンコマンド列642は、切換回路662乃至665、および信号処理回路661の端子io5に供給される。
切換回路662は、Aボタンコマンド列642の中の2次元空間解像度創造コマンドに応じて、走査線変換回路512Aの出力を選択して、信号処理回路661の端子io1に接続する。また、切換回路663は、Aボタンコマンド列642の中の2次元空間解像度創造コマンドに応じて、走査線変換回路512Bの出力を選択して、信号処理回路661の端子io2に接続する。
さらに、切換回路664は、Aボタンコマンド列642の中の2次元空間解像度創造コマンドに応じて、走査線変換回路512Bへの入力を選択して、信号処理回路661の端子io3を、走査線変換回路512Bに接続する。また、切換回路665は、Aボタンコマンド列642の中の2次元空間解像度創造コマンドに応じて、信号処理回路661の端子io4を選択して、SW回路655(図55)に接続する。
さらに、信号処理回路661(図59)の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Aボタンコマンド列642の中の2次元空間解像度創造コマンドに応じて、信号線の選択状態を、2次元空間解像度創造処理を行うように切り換える。
ここで、2次元空間解像度創造処理とは、予測タップとして2次元予測タップを用いる空間解像度創造処理を意味する。
図62は、信号線の選択状態を、2次元空間解像度創造処理を行うように切り換えた信号処理回路661を含む図57の信号処理回路656を示している。
図62において、信号処理回路661の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Aボタンコマンド列642の中の2次元空間解像度創造コマンドに応じて、信号線の選択状態を、図62に実線で示すように切り換え、これにより、信号処理として、2次元空間解像度創造処理が行われる。
なお、図62において、点線で示す信号線は、配線されているが、現在の信号処理回路661による信号処理に関係のない信号線を意味している。
また、図62では、図57におけるフレームメモリ523、切換回路662乃至665の図示を省略してある。
図62の信号処理回路656では、例えば、図61における場合と同様に、そこに入力される、クラス分類適応処理の第1の画像データとしてのSD画像データを、その水平方向と垂直方向の画素数をいずれも2倍にした、クラス分類適応処理の第2の画像データとしてのHD画像データに変換する空間解像度創造処理が行われる。但し、図62では、クラス分類として、2次元クラス分類が採用されるとともに、予測タップとして、2次元予測タップが採用される。
なお、ここでも、例えば、最初に、SD画像データ(第1の画像データ)の垂直方向の画素数を2倍とし、その後に水平方向の画素数を2倍とすることで、画素数が4倍のHD画像データ(第2の画像データ)を得るものとする。
図62において、走査線変換回路521Aには、SD画像データが供給される。走査線変換回路521Aは、そこに供給されるSD画像データの走査方向を、水平走査から垂直走査に変換し、信号処理回路661の端子io1に供給する。
端子io1に供給されたSD画像データは、クラス分類回路511A、遅延選択回路512A、およびライン遅延回路517に供給される。
ライン遅延回路517は、そこに供給されるSD画像データを、1乃至数ライン分だけ遅延して、クラス分類回路511Aおよび511B、並びに遅延選択回路512Aおよび512Bに供給する。
クラス分類回路511Aは、端子io1からのSD画像データと、ライン遅延回路517AからのSD画像データとからクラスタップを選択し、そのクラスタップに基づいて、2次元クラス分類を行う。そして、クラス分類回路511Aは、2次元クラス分類によって得られるクラスコードを、切換回路513Aを介して、係数出力回路515Aに供給する。
係数出力回路515Aが記憶している複数種類のタップ係数には、2次元空間解像度創造処理用のタップ係数が含まれており、係数出力回路515Aは、端子io5から供給されるAボタンコマンド列642の中の2次元空間解像度創造コマンドに応じて、2次元空間解像度創造処理用のタップ係数を選択している。そして、係数出力回路515Aは、クラス分類回路511Aから、切換回路513Aを介して供給されるクラスコードに対応するクラスのタップ係数を読み出し、予測演算回路516Aに供給する。
一方、遅延選択回路512Aは、端子io1からのSD画像データと、ライン遅延回路517AからのSD画像データとから2次元予測タップを選択し、切換回路514Aを介して、予測演算回路516Aに供給する。
予測演算回路516Aは、遅延選択回路512Aから切換回路514Aを介して供給される2次元予測タップとしてのSD画像データの複数の画素データと、係数出力回路515Aから供給されるタップ係数とを用いて、式(1)のフィルタ演算(2次元フィルタ演算)を行い、これにより、垂直方向の画素数が元のSD画像データの2倍となった画像データ(画素の画素値)を得て出力する。
予測演算回路516Aが出力する画像データは、切換回路119を介して、端子io3から出力され、さらに、切換回路664(図57)を介して、走査線変換回路521Bに供給される。
走査線変換回路521Bは、そこに供給される画像データの走査方向を、垂直走査から水平走査に変換し、テレビジョンラスタと同様の走査の信号となった画像データを、端子io2に供給する。
端子io2に供給された画像データは、クラス分類回路511Bと遅延選択回路512Bに供給される。
クラス分類回路511Bは、端子io2からの画像データと、ライン遅延回路517からの画像データとからクラスタップを選択し、そのクラスタップに基づいて、2次元クラス分類を行う。そして、クラス分類回路511Bは、2次元クラス分類によって得られるクラスコードを、切換回路513Bを介して、係数出力回路515Bに供給する。
係数出力回路515Bが記憶している複数種類のタップ係数には、2次元空間解像度創造処理用のタップ係数が含まれており、係数出力回路515Bは、端子io5から供給されるAボタンコマンド列642の中の2次元空間解像度創造コマンドに応じて、2次元空間解像度創造処理用のタップ係数を選択している。そして、係数出力回路515Bは、クラス分類回路511Bから、切換回路513Bを介して供給されるクラスコードに対応するクラスのタップ係数を読み出し、予測演算回路516B供給する。
一方、遅延選択回路512Bは、端子io2からの画像データと、ライン遅延回路517からの画像データとから2次元予測タップを選択し、切換回路514Bを介して、予測演算回路516Bに供給する。
予測演算回路516Bは、遅延選択回路512Bから切換回路514Bを介して供給される2次元予測タップとしての画像データの複数の画素データと、係数出力回路515Bから供給されるタップ係数とを用いて、式(1)のフィルタ演算(2次元フィルタ演算)を行い、これにより、垂直方向と水平方向の画素数がいずれも元の画像データの2倍となったHD画像データ(画素の画素値)を得て出力する。
予測演算回路516Bが出力する画像データは、端子io4から出力され、さらに、切換回路665(図57)を介して、SW回路655(図55)に供給される。
次に、リモコン618(図49)のBボタンが操作され、これにより、図54に示した1つのコマンドであるノイズ除去コマンドが配置されたBボタンコマンド列643が、図55の受信部650で受信され、図57の信号処理回路656に供給された場合の処理について説明する。
信号処理回路656に供給されたBボタンコマンド列643は、切換回路662乃至665、および信号処理回路661の端子io5に供給される。
切換回路662は、Bボタンコマンド列643の中のノイズ除去コマンドに応じて、信号処理回路656への入力を選択して、信号処理回路661の端子io1に接続する。また、切換回路663も、Bボタンコマンド列643の中のノイズ除去コマンドに応じて、信号処理回路656への入力を選択して、信号処理回路661の端子io2に接続する。
さらに、切換回路664は、Bボタンコマンド列643の中のノイズ除去コマンドに応じて、切換回路665への入力を選択して、信号処理回路661の端子io3を、切換回路665に接続する。また、切換回路665は、Bボタンコマンド列643の中のノイズ除去コマンドに応じて、切換回路664の出力を選択して、SW回路655(図55)に接続する。
さらに、信号処理回路661(図59)の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Bボタンコマンド列643の中のノイズ除去コマンドに応じて、信号線の選択状態を、ノイズ除去処理を行うように切り換える。
ここで、信号処理回路661でのノイズ除去処理は、2次元ノイズ除去処理の処理結果と、3次元ノイズ除去処理の処理結果とを、画像の動きに応じて加算することによって行われる。なお、2次元ノイズ除去処理または3次元ノイズ除去処理とは、予測タップとして2次元予測タップまたは3次元予測タップを用いるノイズ除去処理を、それぞれ意味する。画像に動きがある場合には、2次元ノイズ除去処理が有効であり、画像に動きがない(動きが小さい)場合には、3次元ノイズ除去処理が有効である。
図63は、信号線の選択状態を、ノイズ除去処理を行うように切り換えた信号処理回路661を含む図57の信号処理回路656を示している。
図63において、信号処理回路661の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Bボタンコマンド列643の中のノイズ除去コマンドに応じて、信号線の選択状態を、図63に実線で示すように切り換え、これにより、信号処理として、ノイズ除去処理が行われる。
なお、図63において、点線で示す信号線は、配線されているが、現在の信号処理回路661による信号処理に関係のない信号線を意味している。
また、図63では、図57における走査線変換回路521Aおよび521B、並びに切換回路662乃至665の図示を省略してある。
図63の信号処理回路656では、そこに入力される、クラス分類適応処理の第1の画像データを、そのS/Nの向上した、クラス分類適応処理の第2の画像データに変換する2次元ノイズ除去処理と3次元ノイズ除去処理が行われ、さらに、その2次元ノイズ除去処理の処理結果と、3次元ノイズ除去処理の処理結果とを、画像の動きに応じて加算することにより、最終的な信号処理結果としての高S/Nの画像データを得るノイズ除去処理が行われる。
図63において、信号処理回路656に入力された画像データは、フレームメモリ523、並びに信号処理回路661の端子io1およびio2に供給される。
フレームメモリ523は、そこに供給される画像データを記憶することにより、1フレーム(またはフィールド)分だけ遅延して、信号処理回路661の端子io2'に供給する。
ここで、端子io1およびio2に供給される画像データのフレームを、以下、適宜、現フレームという。また、フレームメモリ523から端子io2'に供給される、現フレームの1フレーム前のフレームを、前フレームという。
端子io1に供給された現フレームの画像データは、クラス分類回路511A、遅延選択回路512A、およびライン遅延回路517に供給される。また、端子io2に供給された現フレームの画像データは、クラス分類回路511Bおよび遅延選択回路512Bに供給される。さらに、端子io2'に供給された前フレームの画像データも、クラス分類回路511Bおよび遅延選択回路512Bに供給される。
ライン遅延回路517は、そこに供給される現フレームの画像データを、1乃至数ライン分だけ遅延して、クラス分類回路511Aおよび511B、並びに遅延選択回路512Aおよび512Bに供給する。
クラス分類回路511Aは、端子io1からの現フレームの画像データと、ライン遅延回路517Aからの現フレームの画像データとからクラスタップを選択し、そのクラスタップに基づいて、2次元クラス分類を行う。そして、クラス分類回路511Aは、2次元クラス分類によって得られるクラスコードを、切換回路513Aを介して、係数出力回路515Aに供給する。
係数出力回路515Aが記憶している複数種類のタップ係数には、2次元ノイズ除去処理用のタップ係数も含まれており、係数出力回路515Aは、端子io5から供給されるBボタンコマンド列643の中のノイズ除去コマンドに応じて、2次元ノイズ除去処理用のタップ係数を選択している。そして、係数出力回路515Aは、クラス分類回路511Aから、切換回路513Aを介して供給されるクラスコードに対応するクラスのタップ係数を読み出し、予測演算回路516Aに供給する。
また、遅延選択回路512Aは、端子io1からの現フレームの画像データと、ライン遅延回路517Aからの現フレームの画像データとから2次元予測タップを選択し、切換回路514Aを介して、予測演算回路516Aに供給する。
予測演算回路516Aは、遅延選択回路512Aから切換回路514Aを介して供給される2次元予測タップとしての現フレームの画像データの複数の画素データと、係数出力回路515Aから供給されるタップ係数とを用いて、式(1)のフィルタ演算(2次元フィルタ演算)を行い、これにより、2次元ノイズ除去処理が施された現フレームの画像データ(画素の画素値)を得て、積和演算回路518に出力する。
一方、クラス分類回路511Bは、端子io2からの現フレームの画像データ、ライン遅延回路517からの現フレームの画像データ、および端子io2'からの前フレームの画像データからクラスタップを選択し、そのクラスタップに基づいて、3次元クラス分類を行う。そして、クラス分類回路511Bは、3次元クラス分類によって得られるクラスコードを、切換回路513Bを介して、係数出力回路515Bに供給する。
さらに、クラス分類回路511Bは、端子io2からの現フレームの画像データ、ライン遅延回路517からの現フレームの画像データ、および端子io2'からの前フレームの画像データから、現フレームの画像データの動きを検出し、その動きを表す動き情報Kを、積和演算回路118に供給する。
ここで、クラス分類回路511Bでの動きの検出方法としては、例えば、グラジェント法と称されるものを採用できる。グラジェント法は、動き領域中の画素についてのフレーム差と傾き情報(水平方向では、サンプリング差、垂直方向ではライン差)を用いて動き量を求めるものである。
即ち、グラジェント法によれば、フレーム差ΔF(現フレームの画素値から前フレームの対応画素値を減算したもの)と、サンプリング差ΔE(現フレームのある画素の値から、その左隣の画素の値を減算したもの)Eが求められる。そして、フレーム差ΔFの絶対値|ΔF|の動き領域中の積算値Σ|ΔF|と、サンプリング差ΔEの絶対値|ΔE|の動き領域中の積算値Σ|ΔE|とから、動きの水平方向成分v1の大きさ|v1|が、式|v1|=Σ|ΔF|/Σ|ΔE|によって求められる。なお、動きの水平方向成分v1の方向(右または左)は、フレーム差ΔFの極性とサンプリング差ΔEの極性との関係から求められる。動きの垂直方向成分v2についても同様して求めることができる。
クラス分類回路511Bは、動きの水平方向成分v1と垂直方向成分v2とから、画像の動きを求め、例えば、その動きの大きさを、所定ビット数で表した情報を、動き情報Kとして、積和演算回路118に供給する。
なお、クラス分類回路511Bでは、上述したように、3次元クラス分類を行う他、動きの水平方向成分v1と垂直方向成分v2とを用いたクラス分類を行うことも可能である。
係数出力回路515Bが記憶している複数種類のタップ係数には、3次元ノイズ除去処理用のタップ係数も含まれており、係数出力回路515Bは、端子io5から供給されるBボタンコマンド列643の中のノイズ除去コマンドに応じて、3次元ノイズ除去処理用のタップ係数を選択している。そして、係数出力回路515Bは、クラス分類回路511Bから、切換回路513Bを介して供給されるクラスコードに対応するクラスのタップ係数を読み出し、予測演算回路516B供給する。
また、遅延選択回路512Bは、端子io2からの現フレームの画像データ、ライン遅延回路517からの現フレームの画像データ、および端子io2'からの前フレームの画像データから3次元予測タップを選択し、切換回路514Bを介して、予測演算回路516Bに供給する。
予測演算回路516Bは、遅延選択回路512Bから切換回路514Bを介して供給される3次元予測タップとしての画像データの複数の画素データと、係数出力回路515Bから供給されるタップ係数とを用いて、式(1)のフィルタ演算(3次元フィルタ演算)を行い、これにより、3次元ノイズ除去処理が施された現フレームの画像データ(画素の画素値)を得て、積和演算回路518に出力する。
積和演算回路518は、予測演算回路516Aからの2次元ノイズ除去処理が施された現フレームの画像データと、予測演算回路516Bからの3次元ノイズ除去処理が施された現フレームの画像データとの重み付け加算を、クラス分類回路511Bから供給される動き情報Kを重み係数として行う。
即ち、2次元ノイズ除去処理または3次元ノイズ除去処理が施された現フレームの画像データを、それぞれP2またはP3とするとともに、動き情報Kが0乃至1の範囲の値をとするものとすると、積和演算回路518は、式P=K×P2+(1−K)×P3にしたがって、最終的なノイズ除去処理結果としての画像データPを求める。
積和演算回路518が出力する画像データは、切換回路519を介して、端子io3から出力され、さらに、切換回路664および665(図57)を介して、SW回路655(図55)に供給される。
次に、リモコン618(図49)のCボタンが操作され、これにより、図54に示した1次元空間解像度創造コマンドおよびノイズ除去コマンドが配置されたCボタンコマンド列644が、図55の受信部650で受信され、図57の信号処理回路656に供給された場合の処理について説明する。
信号処理回路656(図57)に供給されたCボタンコマンド列644は、切換回路662乃至665、および信号処理回路661の端子io5に供給される。
切換回路662は、Cボタンコマンド列644の中の1番目の1次元空間解像度創造コマンドに応じて、走査線変換回路512Aの出力を選択して、信号処理回路661の端子io1に接続する。また、切換回路663は、Cボタンコマンド列644の中の1番目の1次元空間解像度創造コマンドに応じて、走査線変換回路512Bの出力を選択して、信号処理回路661の端子io2に接続する。
さらに、切換回路664は、Cボタンコマンド列644の中の1番目の1次元空間解像度創造コマンドに応じて、走査線変換回路512Bへの入力を選択して、信号処理回路661の端子io3を、走査線変換回路512Bに接続する。また、切換回路665は、Cボタンコマンド列644の中の1番目の1次元空間解像度創造コマンドに応じて、信号処理回路661の端子io4を選択して、SW回路655(図55)に接続する。
さらに、信号処理回路661(図59)の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Cボタンコマンド列644の中の1番目の1次元空間解像度創造コマンドに応じて、信号線の選択状態を、1次元空間解像度創造処理を行うように切り換える。
即ち、信号処理回路661の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Cボタンコマンド列644の中の1次元空間解像度創造コマンドに応じて、信号線の選択状態を、図61に実線で示したように切り換える。
従って、信号処理回路656では、図61で説明したように、そこに入力される画像データを対象として、1次元解像度創造処理が行われ、その画像データの空間解像度を向上させた画像データが、端子io4から出力され、さらに、切換回路665(図57)を介して、SW回路655(図55)に供給される。
図56のフローチャートで説明したことから、図55のLSI606において、Cボタンコマンド列644の1番目の1次元空間解像度創造コマンドに対応する信号処理である1次元空間解像度創造処理が行われたとき、SW回路655は、信号処理回路656から供給される画像データを、フレームメモリ653に供給して記憶させる。さらに、SW回路654は、フレームメモリ654に記憶された画像データを、信号処理回路656に供給する。
従って、信号処理回路656(図55)において1次元解像度創造処理が行われることにより得られた画像データは、切換回路665、フレームメモリ653、およびSW回路654を介して、信号処理回路656に再入力する。
その後、信号処理回路656(図57)において、切換回路662は、Cボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、信号処理回路656への入力を選択して、信号処理回路661の端子io1に接続する。また、切換回路663も、Cボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、信号処理回路656への入力を選択して、信号処理回路661の端子io2に接続する。
さらに、切換回路664も、Cボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、切換回路665への入力を選択して、信号処理回路661の端子io3を、切換回路665に接続する。また、切換回路665も、Cボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、切換回路664の出力を選択して、SW回路655(図55)に接続する。
さらに、信号処理回路661(図59)の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Cボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、信号線の選択状態を、ノイズ除去処理を行うように切り換える。
即ち、信号処理回路661の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Cボタンコマンド列644の中のノイズ除去コマンドに応じて、信号線の選択状態を、図63に実線で示したように切り換える。
従って、信号処理回路656では、図63で説明したように、そこに再入力される、1次元空間解像度創造処理によって空間解像度が向上した画像データを対象として、ノイズ除去処理が行われ、その画像データのS/Nを向上させた画像データが、端子io3から出力され、さらに、切換回路664および665(図57)を介して、SW回路655(図55)に供給される。
図56のフローチャートで説明したことから、図55のLSI606において、Cボタンコマンド列644の2番目、即ち、最後のノイズ除去コマンドに対応する信号処理であるノイズ除去処理が行われたとき、SW回路655は、信号処理回路656から供給される画像データを、フレームメモリ652を介して、合成部607(図48)に供給する。
従って、合成部607には、1次元空間解像度創造処理によって空間解像度が向上し、かつノイズ除去処理によってS/Nが向上した画像データが供給されることになる。
次に、リモコン618(図49)のDボタンが操作され、これにより、図54に示した2次元空間解像度創造コマンドおよびノイズ除去コマンドが配置されたDボタンコマンド列644が、図55の受信部650で受信され、図57の信号処理回路656に供給された場合の処理について説明する。
信号処理回路656(図57)に供給されたDボタンコマンド列644は、切換回路662乃至665、および信号処理回路661の端子io5に供給される。
切換回路662は、Dボタンコマンド列644の中の1番目の2次元空間解像度創造コマンドに応じて、走査線変換回路512Aの出力を選択して、信号処理回路661の端子io1に接続する。また、切換回路663は、Dボタンコマンド列644の中の1番目の2次元空間解像度創造コマンドに応じて、走査線変換回路512Bの出力を選択して、信号処理回路661の端子io2に接続する。
さらに、切換回路664は、Dボタンコマンド列644の中の1番目の2次元空間解像度創造コマンドに応じて、走査線変換回路512Bへの入力を選択して、信号処理回路661の端子io3を、走査線変換回路512Bに接続する。また、切換回路665は、Dボタンコマンド列644の中の1番目の2次元空間解像度創造コマンドに応じて、信号処理回路661の端子io4を選択して、SW回路655(図55)に接続する。
さらに、信号処理回路661(図59)の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Dボタンコマンド列644の中の1番目の2次元空間解像度創造コマンドに応じて、信号線の選択状態を、2次元空間解像度創造処理を行うように切り換える。
即ち、信号処理回路661の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Dボタンコマンド列644の中の2次元空間解像度創造コマンドに応じて、信号線の選択状態を、図62に実線で示したように切り換える。
従って、信号処理回路656では、図62で説明したように、そこに入力される画像データを対象として、2次元解像度創造処理が行われ、その画像データの空間解像度を向上させた画像データが、端子io4から出力され、さらに、切換回路665(図57)を介して、SW回路655(図55)に供給される。
図56のフローチャートで説明したことから、図55のLSI606において、Dボタンコマンド列644の1番目の2次元空間解像度創造コマンドに対応する信号処理である2次元空間解像度創造処理が行われたとき、SW回路655は、信号処理回路656から供給される画像データを、フレームメモリ653に供給して記憶させる。さらに、SW回路654は、フレームメモリ654に記憶された画像データを、信号処理回路656に供給する。
従って、信号処理回路656(図55)において2次元解像度創造処理が行われることにより得られた画像データは、切換回路665、フレームメモリ653、およびSW回路654を介して、信号処理回路656に再入力する。
その後、信号処理回路656(図57)において、切換回路662は、Dボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、信号処理回路656への入力を選択して、信号処理回路661の端子io1に接続する。また、切換回路663も、Dボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、信号処理回路656への入力を選択して、信号処理回路661の端子io2に接続する。
さらに、切換回路664も、Dボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、切換回路665への入力を選択して、信号処理回路661の端子io3を、切換回路665に接続する。また、切換回路665も、Dボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、切換回路664の出力を選択して、SW回路655(図55)に接続する。
さらに、信号処理回路661(図59)の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Dボタンコマンド列644の中の2番目のノイズ除去コマンドに応じて、信号線の選択状態を、ノイズ除去処理を行うように切り換える。
即ち、信号処理回路661の切換回路513Aおよび513B、切換回路514Aおよび514B、並びに切換回路519は、Dボタンコマンド列644の中のノイズ除去コマンドに応じて、信号線の選択状態を、図63に実線で示したように切り換える。
従って、信号処理回路656では、図63で説明したように、そこに再入力される、2次元空間解像度創造処理によって空間解像度が向上した画像データを対象として、ノイズ除去処理が行われ、その画像データのS/Nを向上させた画像データが、端子io3から出力され、さらに、切換回路664および665(図57)を介して、SW回路655(図55)に供給される。
図56のフローチャートで説明したことから、図55のLSI606において、Dボタンコマンド列644の2番目、即ち、最後のノイズ除去コマンドに対応する信号処理であるノイズ除去処理が行われたとき、SW回路655は、信号処理回路656から供給される画像データを、フレームメモリ652を介して、合成部607(図48)に供給する。
従って、合成部607には、2次元空間解像度創造処理によって空間解像度が向上し、かつノイズ除去処理によってS/Nが向上した画像データが供給されることになる。
以上のように、LSI606では、コマンド列が複数のコマンドを有している場合に、そのコマンド列の複数のコマンドとしての、例えば、第1および第2のコマンドのうちの第1のコマンドに応じて、内部構造を第1のコマンドに対応する第1の信号処理を実行する状態に切り換え、第1の信号処理を実行し、その後、さらに、コマンド列の複数のコマンドのうちの第2のコマンドに応じて、内部構造を第2のコマンドに対応する第2の信号処理を実行する状態に切り換え、第2の信号処理を実行する。従って、LSI606によれば、単一のハードウェアで、複数の機能を、容易に実現することができる。
次に、本発明の第4実施の形態について説明する。
図64は、本発明の第4実施の形態としてのIC700の構成例を示している。
なお、図64のIC700は、例えば、図48のテレビジョン受像機において、LSI606に代えて用いることができる。
IC700は、外部(例えば、図48のコントローラ613など)から供給される、1以上のコマンドからなるコマンド列を受信し、そのコマンド列の1以上のコマンドそれぞれに応じて、内部構造をリコンフィギュラブルに切り換える。
そして、コマンド列が、例えば、複数のコマンドからなる場合は、IC700は、そのコマンド列の第1のコマンドに対応する第1の信号処理を実行し、その後、さらに、コマンド列の第2のコマンドに対応する第2の信号処理を実行する。
即ち、図64において、クラス分類回路711A、遅延選択回路712A、切換回路713A,714A、係数出力回路715A、または予測演算回路716Aは、図59のクラス分類回路511A、遅延選択回路512A、切換回路513A,514A、係数出力回路515A、または予測演算回路516Aとそれぞれ同様に構成される。
また、図64において、クラス分類回路711B、遅延選択回路712B、切換回路713B,714B、係数出力回路715B、または予測演算回路716Bは、図59のクラス分類回路511B、遅延選択回路512B、切換回路513B,514B、係数出力回路515B、または予測演算回路516Bとそれぞれ同様に構成される。
さらに、図64において、ライン遅延回路717、積和演算回路718、または切換回路719も、図59のライン遅延回路517、積和演算回路518、または切換回路519とそれぞれ同様に構成される。
但し、図59のクラス分類回路511Bは、1次元クラス分類、2次元クラス分類、および3次元クラス分類を行い、切換回路513Bは、その3つのクラス分類によって得られるクラスコードのうちのいずれかを選択して、係数出力回路515Bに出力するようになっていたが、図64では、クラス分類回路711Bは、2次元クラス分類と3次元クラス分類を行い、切換回路713Bは、その2つのクラス分類によって得られるクラスコードのうちのいずれかを選択して、係数出力回路715Bに出力するようになっている。
また、図59の遅延選択回路512Bは、1次元予測タップ、2次元予測タップ、および3次元予測タップを構成し、切換回路514Bは、その3つの予測タップのうちのいずれかを選択して、予測演算回路516Bに供給するようになっていたが、図64では、遅延選択回路712Bは、2次元予測タップと3次元予測タップを構成し、切換回路714Bは、その2つの予測タップのうちのいずれかを選択して、予測演算回路716Bに供給するようになっている。
受信部720は、外部(例えば、図48のコントローラ613など)から供給される、1以上のコマンドからなるコマンド列を受信し、IC700を構成するブロックのうちの必要なものに供給する。
フレームメモリ721には、IC700に入力される画像データが供給される。フレームメモリ721は、そこに供給される画像データを記憶することにより、例えば、1フレーム分だけ遅延し、クラス分類回路711Bおよび遅延選択回路712Bに供給する。
なお、IC700に入力される画像データ(以下、適宜、入力画像データという)は、フレームメモリ721の他、クラス分類回路711A、遅延選択回路712A、および切換回路724にも供給されるようになっている。
ブロック化回路722には、切換回路724から画像データが供給されるようになっている。ブロック化回路722は、そこに供給される画像データから、所定の点(画素)を中心(重心)とする長方形状のブロックを切り出し(抽出し)、切換回路726に出力する。
判定回路723には、予測演算回路716Bから、式(1)の予測演算を行うことにより得られる画像データが供給されるようになっている。判定回路723は、予測演算回路716Bから供給される画像データについて、後述する判定処理を行い、その判定処理の結果に応じて、予測演算回路716Bからの画像データを、切換回路727に出力し、またはIC700における処理結果として、外部に出力する。
切換回路724には、入力画像データと、切換回路725が出力する画像データとが供給されるようになっている。切換回路724は、受信部720から供給されるコマンド列に応じて、入力画像データ、または切換回路725が出力する画像データを選択し、ブロック化回路722に出力する。
また、切換回路724は、受信部720から供給されるコマンド列に応じて、そこに供給される入力画像データを、切換回路725に出力する。
切換回路725には、上述したように、切換回路724が出力する画像データが供給される他、切換回路719が出力する画像データも供給されるようになっている。切換回路725は、受信部720から供給されるコマンド列に応じて、切換回路724が出力する画像データを、切換回路726に供給する。
また、切換回路725は、受信部720から供給されるコマンド列に応じて、切換回路724または726のうちのいずれかを選択し、選択した方に対して、切換回路719から供給される画像データを出力する。
切換回路726は、受信部720から供給されるコマンド列に応じて、ブロック化回路722から供給される画像データ、または切換回路725から供給される画像データのうちのいずれかを選択し、クラス分類回路711Bおよび遅延選択回路712Bに供給する。
切換回路727には、ライン遅延回路717が出力する画像データと、判定回路723が出力する画像データとが供給されるようになっている。切換回路727は、受信部720から供給されるコマンド列に応じて、ライン遅延回路717からの画像データ、または判定回路723からの画像データのうちのいずれかを選択し、クラス分類回路711Bおよび遅延選択回路712Bに出力する。
次に、図65は、図64の受信部720が外部から受信し、IC700の必要なブロックに供給するコマンド列を構成するコマンドの例を示している。
第4実施の形態では、コマンドとして、例えば、図65上側に示すような、「Kaizodo 1dimentional」、「Kaizodo 2dimentional」、「Kaizodo 3dimentional」、「Zoom ver1」、「Zoom ver2」などが用意されている。
コマンド「Kaizodo 1dimentional」、「Kaizodo 2dimentional」、または「Kaizodo 3dimentional」は、それぞれ、1次元空間解像度創造処理、2次元空間解像度創造処理、または3次元空間解像度創造処理、即ち、1次元予測タップ、2次元予測タップ、または3次元予測タップを用いた空間解像度創造処理を要求するコマンドである。
また、コマンド「Zoom ver1」は、ある一定倍率の拡大を行うリサイズ処理を繰り返し行う(再帰的に行う)ことで、所望の倍率に拡大した画像データを得る拡大処理を要求するコマンドである。さらに、コマンド「Zoom ver2」は、所望の倍率の拡大を行うリサイズ処理を1回だけ行うことで、その所望の倍率に拡大した画像データを得る拡大処理を要求するコマンドである。
ここで、コマンド「Zoom ver1」に対応する拡大処理を、以下、適宜、再帰的拡大処理という。また、コマンド「Zoom ver2」に対応する拡大処理を、以下、適宜、1回拡大処理という。
受信部720は、以上のようなコマンドの1以上からなるコマンド列を、外部から受信し、IC700の必要なブロックに供給する。
即ち、受信部720は、例えば、図65下側の左に示すように、1つのコマンド「Kaizodo 2dimentional」からなるコマンド列を、外部から受信し、IC700の必要なブロックに供給する。
また、受信部720は、例えば、図65下側の右に示すように、2つのコマンド「Kaizodo 2dimentional」と「Zoom ver1」からなるコマンド列を、外部から受信し、IC700の必要なブロックに供給する。
次に、図66は、図64の係数出力部715Aの構成例を示している。
図66では、係数出力部715Aは、係数メモリ群731と選択部732で構成されている。
係数メモリ群731は、複数の係数メモリで構成され、各係数メモリには、あらかじめ行われた学習により求められた1次元空間解像度創造処理用のタップ係数、2次元空間解像度創造処理用のタップ係数、3次元空間解像度創造処理用のタップ係数、画像のサイズを各種の倍率にリサイズするリサイズ処理用のタップ係数が記憶されている。
そして、係数メモリ群731の各係数メモリには、図64のクラス分類回路711Aから切換回路713Aを介してクラスコードが供給される。各係数メモリは、そこに供給されるクラスコードに対応するクラスのタップ係数を読み出し、選択部732に出力する。
選択部732には、上述したように、係数メモリ群731の各係数メモリから読み出されたタップ係数が供給される他、受信部720からのコマンド列も供給される。選択部732は、受信部211から供給されるコマンド列に応じて、係数メモリ群731の各係数メモリから供給されるタップ係数のうちのいずれかを選択し、予測演算回路716Aに供給する。
なお、図64の係数出力部715Bも、図66の係数出力回路715Aと同様に構成される。但し、係数出力部715Aと715Bを構成する係数メモリ群731の係数メモリは、同一である必要はない。即ち、係数出力部715Aと715Bには、一部異なる、またはすべて異なる種類のタップ係数を記憶させておくことができる。
次に、図67のフローチャートを参照して、外部から、1つのコマンド「Kaizodo 1dimentional」からなるコマンド列が送信されてきた場合の、図64のIC700の処理について説明する。
まず、ステップS701において、受信部720は、外部からのコマンド列を受信し、IC700を構成する必要なブロックに供給して、ステップS702に進む。
ステップS702では、IC700は、受信部720で受信されたコマンド列に応じ、その内部構造を切り換え、ステップS703に進む。
即ち、IC700(図64)の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Kaizodo 1dimentional」に応じて、信号線の選択状態を、コマンド「Kaizodo 1dimentional」に対応する1次元空間解像度創造処理を行うように切り換える。
図68は、信号線の選択状態を、1次元空間解像度創造処理を行うように切り換えたIC700を示している。
図68において、IC700の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Kaizodo 1dimentional」に応じて、信号線の選択状態を、図68に実線で示すように切り換え、これにより、信号処理として、1次元空間解像度創造処理が行われる。
なお、図68において、点線で示す信号線は、配線されているが、現在のIC700による信号処理に関係のない信号線を意味している。
図68のIC700では、IC700に入力される入力画像データを、クラス分類適応処理の第1の画像データとして、その空間解像度を向上させた、クラス分類適応処理の第2の画像データとしての高解像度の画像データを得る1次元空間解像度創造処理が行われる。
以下、図67のフローチャートのステップS703以降の処理は、図68に示したように内部構造が切り換えられたIC700において行われる。
即ち、ステップS703では、クラス分類適応処理の第2の画像データとしての高解像度の画像データを構成する画素のうち、まだ注目画素としていないものの1つが、注目画素として選択され、ステップS704に進む。
ステップS704では、クラス分類回路711Aは、クラス分類適応処理の第1の画像データとしての入力画像データから、注目画素についてのクラスタップを選択し、そのクラスタップに基づいて、1次元クラス分類を行う。そして、クラス分類回路711Aは、1次元クラス分類によって得られるクラスコードを、切換回路713Aを介して、係数出力回路715Aに供給し、ステップS704からS705に進む。
係数出力回路715Aは、受信部720から供給されるコマンド列を構成する1つのコマンド「Kaizodo 1dimentional」に応じて、図66で説明した複数種類のタップ係数のうちの、1次元空間解像度創造処理用のタップ係数を選択している。そして、係数出力回路715Aは、ステップS705において、その選択しているタップ係数のうちの、クラス分類回路711Aから切換回路713Aを介して供給されるクラスコードに対応するクラスのタップ係数を読み出すことにより取得し、予測演算回路716Aに供給して、ステップS706に進む。
ステップS706では、遅延選択回路712Aは、クラス分類適応処理の第1の画像データとしての入力画像データから、注目画素についての1次元予測タップを選択し、切換回路714Aを介して、予測演算回路716Aに供給して、ステップS707に進む。
ステップS707では、予測演算回路716Aは、遅延選択回路712Aから切換回路714Aを介して供給される1次元予測タップと、係数出力回路715Aから供給されるタップ係数とを用いて、式(1)のフィルタ演算(1次元フィルタ演算)を行い、これにより、第1の画像データよりも空間解像度を向上させた第2の画像データの注目画素(の画素値)を得て出力する。
従って、この場合、IC700は、1次元のタップ(予測タップ)を対象としてフィルタリングを行う1次元ディジタルフィルタとして機能することになる。
予測演算回路716Aが出力する画像データは、切換回路719を介して、IC700の外部に出力される。
そして、ステップS708に進み、注目画素のフレーム(以下、適宜、注目フレームという)を構成する画素すべてを、注目画素としたかどうかが判定される。ステップS708において、注目フレームを構成する画素のすべてを、まだ、注目画素としていないと判定された場合、ステップS703に戻り、以下、同様の処理が繰り返される。
また、ステップS708において、注目フレームを構成する画素のすべてを、注目画素としたと判定された場合、処理を終了する。
なお、IC700に対して、注目フレームの次のフレームの入力画像データが供給されている場合は、そのフレームを、新たに、注目フレームとして、ステップS703乃至S708の処理が繰り返される。
次に、図69のフローチャートを参照して、外部から、1つのコマンド「Kaizodo 2dimentional」からなるコマンド列が送信されてきた場合の、図64のIC700の処理について説明する。
まず、ステップS711において、受信部720は、外部からのコマンド列を受信し、IC700を構成する必要なブロックに供給して、ステップS712に進む。
ステップS712では、IC700は、受信部720で受信されたコマンド列に応じ、その内部構造を切り換え、ステップS713に進む。
即ち、IC700(図64)の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Kaizodo 2dimentional」に応じて、信号線の選択状態を、コマンド「Kaizodo 2dimentional」に対応する2次元空間解像度創造処理を行うように切り換える。
図70は、信号線の選択状態を、2次元空間解像度創造処理を行うように切り換えたIC700を示している。
図70において、IC700の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Kaizodo 2dimentional」に応じて、信号線の選択状態を、図70に実線で示すように切り換え、これにより、信号処理として、2次元空間解像度創造処理が行われる。
なお、図70において、点線で示す信号線は、配線されているが、現在のIC700による信号処理に関係のない信号線を意味している。
図70のIC700では、IC700に入力される入力画像データを、クラス分類適応処理の第1の画像データとして、その空間解像度を向上させた、クラス分類適応処理の第2の画像データとしての高解像度の画像データを得る2次元空間解像度創造処理が行われる。
以下、図69のフローチャートのステップS713以降の処理は、図70に示したように内部構造が切り換えられたIC700において行われる。
即ち、ステップS713では、クラス分類適応処理の第2の画像データとしての高解像度の画像データを構成する画素のうち、まだ注目画素としていないものの1つが、注目画素として選択され、ステップS714に進む。
ステップS714では、クラス分類回路711Aは、クラス分類適応処理の第1の画像データとしての入力画像データと、ライン遅延回路717がその入力画像データを遅延して出力する画像データとから、注目画素についてのクラスタップを選択し、そのクラスタップに基づいて、2次元クラス分類を行う。そして、クラス分類回路711Aは、2次元クラス分類によって得られるクラスコードを、切換回路713Aを介して、係数出力回路715Aに供給し、ステップS714からS715に進む。
係数出力回路715Aは、受信部720から供給されるコマンド列を構成する1つのコマンド「Kaizodo 2dimentional」に応じて、図66で説明した複数種類のタップ係数のうちの、2次元空間解像度創造処理用のタップ係数を選択している。そして、係数出力回路715Aは、ステップS715において、その選択しているタップ係数のうちの、クラス分類回路711Aから切換回路713Aを介して供給されるクラスコードに対応するクラスのタップ係数を読み出すことにより取得し、予測演算回路716Aに供給して、ステップS716に進む。
ステップS716では、遅延選択回路712Aは、クラス分類適応処理の第1の画像データとしての入力画像データと、ライン遅延回路717がその入力画像データを遅延して出力する画像データとから、注目画素についての2次元予測タップを選択し、切換回路714Aを介して、予測演算回路716Aに供給して、ステップS717に進む。
ステップS717では、予測演算回路716Aは、遅延選択回路712Aから切換回路714Aを介して供給される2次元予測タップと、係数出力回路715Aから供給されるタップ係数とを用いて、式(1)のフィルタ演算(2次元フィルタ演算)を行い、これにより、第1の画像データよりも空間解像度を向上させた第2の画像データの注目画素(の画素値)を得て出力する。
予測演算回路716Aが出力する画像データは、切換回路719を介して、IC700の外部に出力される。
従って、この場合、IC700は、2次元のタップ(予測タップ)を対象としてフィルタリングを行う2次元ディジタルフィルタとして機能することになる。
そして、ステップS718に進み、注目画素のフレーム(注目フレーム)を構成する画素すべてを、注目画素としたかどうかが判定される。ステップS718において、注目フレームを構成する画素のすべてを、まだ、注目画素としていないと判定された場合、ステップS713に戻り、以下、同様の処理が繰り返される。
また、ステップS718において、注目フレームを構成する画素のすべてを、注目画素としたと判定された場合、処理を終了する。
なお、IC700に対して、注目フレームの次のフレームの入力画像データが供給されている場合は、そのフレームを、新たに、注目フレームとして、ステップS713乃至S718の処理が繰り返される。
次に、図71のフローチャートを参照して、外部から、1つのコマンド「Kaizodo 3dimentional」からなるコマンド列が送信されてきた場合の、図64のIC700の処理について説明する。
まず、ステップS721において、受信部720は、外部からのコマンド列を受信し、IC700を構成する必要なブロックに供給して、ステップS722に進む。
ステップS722では、IC700は、受信部720で受信されたコマンド列に応じ、その内部構造を切り換え、ステップS723に進む。
即ち、IC700(図64)の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Kaizodo 3dimentional」に応じて、信号線の選択状態を、コマンド「Kaizodo 3dimentional」に対応する3次元空間解像度創造処理を行うように切り換える。
図72は、信号線の選択状態を、3次元空間解像度創造処理を行うように切り換えたIC700を示している。
図72において、IC700の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Kaizodo 3dimentional」に応じて、信号線の選択状態を、図72に実線で示すように切り換え、これにより、信号処理として、3次元空間解像度創造処理が行われる。
なお、図72において、点線で示す信号線は、配線されているが、現在のIC700による信号処理に関係のない信号線を意味している。
図72のIC700では、IC700に入力される入力画像データを、クラス分類適応処理の第1の画像データとして、その空間解像度を向上させた、クラス分類適応処理の第2の画像データとしての高解像度の画像データを得る3次元空間解像度創造処理が行われる。
以下、図71のフローチャートのステップS723以降の処理は、図72に示したように内部構造が切り換えられたIC700において行われる。
即ち、ステップS723では、クラス分類適応処理の第2の画像データとしての高解像度の画像データを構成する画素のうち、まだ注目画素としていないものの1つが、注目画素として選択され、ステップS724に進む。
ステップS724では、クラス分類回路711Bは、注目画素についてのクラスタップを選択し、そのクラスタップに基づいて、3次元クラス分類を行う。
ここで、図72では、クラス分類回路711Bには、クラス分類適応処理の第1の画像データとしての入力画像データが、切換回路724,725、および726を介して供給される。さらに、クラス分類回路711Bには、入力画像データがライン遅延回路717で1乃至数ライン分だけ遅延され、切換回路727を介して供給される。また、クラス分類回路711Bには、入力画像データがフレームメモリ721で1フレーム分だけ遅延されて供給される。
クラス分類回路711Bは、これらの画像データから、クラスタップを選択し、そのクラスタップに基づいて、3次元クラス分類を行う。
そして、クラス分類回路711Bは、3次元クラス分類によって得られるクラスコードを、切換回路713Bを介して、係数出力回路715Bに供給し、ステップS724からS725に進む。
係数出力回路715Bは、受信部720から供給されるコマンド列を構成する1つのコマンド「Kaizodo 3dimentional」に応じて、図66で説明した複数種類のタップ係数のうちの、3次元空間解像度創造処理用のタップ係数を選択している。そして、係数出力回路715Bは、ステップS725において、その選択しているタップ係数のうちの、クラス分類回路711Bから切換回路713Bを介して供給されるクラスコードに対応するクラスのタップ係数を読み出すことにより取得し、予測演算回路716Bに供給して、ステップS726に進む。
ステップS726では、遅延選択回路712Bは、注目画素についての3次元予測タップを選択し、切換回路714Bを介して、予測演算回路716Bに供給して、ステップS727に進む。
ここで、図72では、遅延選択回路712Bには、クラス分類適応処理の第1の画像データとしての入力画像データが、切換回路724,725、および726を介して供給される。さらに、遅延選択回路712Bには、入力画像データがライン遅延回路717で1乃至数ライン分だけ遅延され、切換回路727を介して供給される。また、遅延選択回路712Bには、入力画像データがフレームメモリ721で1フレーム分だけ遅延されて供給される。
遅延選択回路712Bは、これらの画像データから、3次元予測タップを選択し、切換回路714Bを介して、予測演算回路716Bに供給する。
ステップS727では、予測演算回路716Bは、遅延選択回路712Bから切換回路714Bを介して供給される3次元予測タップと、係数出力回路715Bから供給されるタップ係数とを用いて、式(1)のフィルタ演算(3次元フィルタ演算)を行い、これにより、第1の画像データよりも空間解像度を向上させた第2の画像データの注目画素(の画素値)を得て出力する。
予測演算回路716Bが出力する画像データは、積和演算回路718および切換回路719を介して(バイパスして)、IC700の外部に出力される。
従って、この場合、IC700は、3次元のタップ(予測タップ)を対象としてフィルタリングを行う3次元ディジタルフィルタとして機能することになる。
そして、ステップS728に進み、注目画素のフレーム(注目フレーム)を構成する画素すべてを、注目画素としたかどうかが判定される。ステップS728において、注目フレームを構成する画素のすべてを、まだ、注目画素としていないと判定された場合、ステップS723に戻り、以下、同様の処理が繰り返される。
また、ステップS728において、注目フレームを構成する画素のすべてを、注目画素としたと判定された場合、処理を終了する。
なお、IC700に対して、注目フレームの次のフレームの入力画像データが供給されている場合は、そのフレームを、新たに、注目フレームとして、ステップS723乃至S728の処理が繰り返される。
次に、図73のフローチャートを参照して、外部から、2つのコマンド「Kaizodo 2dimentional」および「Kaizodo 3dimentional」からなるコマンド列が送信されてきた場合の、図64のIC700の処理について説明する。
まず、ステップS731において、受信部720は、外部からのコマンド列を受信し、IC700を構成する必要なブロックに供給して、ステップS732に進む。
ステップS732では、IC700は、受信部720で受信されたコマンド列に応じ、その内部構造を切り換え、ステップS733に進む。
即ち、IC700(図64)の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する2つのコマンド「Kaizodo 2dimentional」と「Kaizodo 3dimentional」に応じて、信号線の選択状態を、コマンド「Kaizodo 2dimentional」に対応する2次元空間解像度創造処理を行うとともに、コマンド「Kaizodo 3dimentional」に対応する3次元空間解像度創造処理を行い、2次元空間解像度創造処理の結果得られる画像データと、3次元空間解像度創造処理の結果得られる画像データとを、動きに応じた重みで重み付け加算する処理(以下、適宜、適応的空間解像度創造処理という)を行うように切り換える。
図74は、信号線の選択状態を、適応的空間解像度創造処理を行うように切り換えたIC700を示している。
図74において、IC700の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する2つのコマンド「Kaizodo 2dimentional」と「Kaizodo 3dimentional」に応じて、信号線の選択状態を、図74に実線で示すように切り換え、これにより、信号処理として、適応的空間解像度創造処理が行われる。
なお、図74において、点線で示す信号線は、配線されているが、現在のIC700による信号処理に関係のない信号線を意味している。
図74のIC700では、IC700に入力される入力画像データを、クラス分類適応処理の第1の画像データとして、その空間解像度を向上させた、クラス分類適応処理の第2の画像データとしての高解像度の画像データを得る2次元空間解像度創造処理と3次元空間解像度創造処理とが同時に行われる。そして、2次元空間解像度創造処理の結果得られる画像データと、3次元空間解像度創造処理の結果得られる画像データとが、画像の動きに応じた重みで重み付け加算される。
以下、図73のフローチャートのステップS733以降の処理は、図74に示したように内部構造が切り換えられたIC700において行われる。
即ち、ステップS733では、注目画素が選択され、ステップS734に進む。
ステップS734では、注目画素について、図69および図70で説明した2次元空間解像度創造処理と、図71および図72で説明した3次元空間解像度創造処理が行われる。そして、2次元空間解像度創造処理により得られる注目画素の画素値が、予測演算回路716Aから積和演算回路718に供給されるとともに、3次元空間解像度創造処理により得られる注目画素の画素値が、予測演算回路716Bから積和演算回路718に供給される。
また、ステップS734では、クラス分類回路711Bが、第3実施の形態で説明した図59のクラス分類回路511Bにおける場合と同様にして、入力画像データの動きを検出し、その動きを表す動き情報Kを、積和演算回路718に供給する。
その後、ステップS734からS735に進み、積和演算回路718は、予測演算回路716Aからの2次元空間解像度創造処理によって得られた注目画素の画素値と、予測演算回路716Bからの3次元空間解像度創造処理によって得られた注目画素の画素値との重み付け加算を、クラス分類回路711Bから供給される、注目画素に対応する入力画像データの画素の動き情報Kを重み係数として行う。
即ち、2次元空間解像度創造処理または3次元空間解像度創造処理によって得られた画素値を、それぞれP2またはP3とするとともに、動き情報Kが0乃至1の範囲の値をとするものとすると、積和演算回路718は、式P=K×P2+(1−K)×P3にしたがって、適応的空間解像度創造処理の結果としての画素値(注目画素の画素値)Pを求める。
積和演算回路718で求められた画素値は、切換回路719を介して、IC700の外部に出力される。
そして、ステップS735からS736に進み、注目画素のフレーム(注目フレーム)を構成する画素すべてを、注目画素としたかどうかが判定される。ステップS736において、注目フレームを構成する画素のすべてを、まだ、注目画素としていないと判定された場合、ステップS733に戻り、以下、同様の処理が繰り返される。
また、ステップS736において、注目フレームを構成する画素のすべてを、注目画素としたと判定された場合、処理を終了する。
なお、IC700に対して、注目フレームの次のフレームの入力画像データが供給されている場合は、そのフレームを、新たに、注目フレームとして、ステップS733乃至S736の処理が繰り返される。
次に、図75のフローチャートを参照して、外部から、1つのコマンド「Zoom ver1」からなるコマンド列が送信されてきた場合の、図64のIC700の処理について説明する。
まず、ステップS741において、受信部720は、外部からのコマンド列を受信し、IC700を構成する必要なブロックに供給して、ステップS742に進む。
ステップS742では、IC700は、受信部720で受信されたコマンド列に応じ、その内部構造を切り換え、ステップS743に進む。
即ち、IC700(図64)の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Zoom ver1」に応じて、信号線の選択状態を、コマンド「Zoom ver1」に対応する再帰的拡大処理を行うように切り換える。
図76は、信号線の選択状態を、再帰的拡大処理を行うように切り換えたIC700を示している。
図76において、IC700の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Zoom ver1」に応じて、信号線の選択状態を、図76に実線で示すように切り換え、これにより、信号処理として、再帰的拡大処理が行われる。
なお、図76において、点線で示す信号線は、配線されているが、現在のIC700による信号処理に関係のない信号線を意味している。
図76のIC700では、IC700に入力される入力画像データを、クラス分類適応処理の第1の画像データとして、その一部のブロックを、ユーザが要求する所望の(要求倍率)で倍率にリサイズした、クラス分類適応処理の第2の画像データとしてのサイズが拡大された画像データを得る再帰的拡大処理が行われる。
なお、所望の倍率は、例えば、コマンド「Zoom ver1」のパラメータp1として、コマンド列に含まれるものとする。さらに、コマンド列には、入力画像データを拡大するときに、その拡大の中心となる位置も、コマンド「Zoom ver1」のパラメータp2として含まれるものとする。
以下、図75のフローチャートのステップS743以降の処理は、図76に示したように内部構造が切り換えられたIC700において行われる。
即ち、ステップS743では、ブロック化回路722が、切換回路724を介して供給される入力画像データの拡大の対象となるブロックを抽出する。
即ち、ブロック化回路722は、受信部720から供給されるコマンド列に含まれるコマンド「Zoom ver1」のパラメータp1が表す倍率と、入力画像データのサイズとから、パラメータp1が表す倍率だけ拡大することによって、入力画像データのサイズとなるブロックのサイズ(以下、適宜、抽出サイズという)を認識する。さらに、ブロック化回路722は、受信部720から供給されるコマンド列に含まれるコマンド「Zoom ver1」のパラメータp2が表す位置を中心(重心)として、抽出サイズのブロックの画像データを、入力画像データから抽出する。なお、ここでは、例えば、ブロックの水平および垂直方向の両方を、パラメータp1が表す倍率で拡大するものとする。
抽出サイズのブロックの画像データは、ブロック化回路722から、切換回路726を介して、クラス分類回路711Bおよび遅延選択回路712Bに供給される。
その後、ステップS743からS744に進み、抽出サイズのブロックの画像データを拡大することにより得られる、クラス分類適応処理の第2の画像データとしての拡大画像データを構成する画素のうち、まだ注目画素としていないものの1つが、注目画素として選択され、ステップS745に進む。
ステップS745では、クラス分類回路711Bは、ブロック化回路722から切換回路726を介して供給される抽出サイズのブロックの画像データから、注目画素についてのクラスタップを選択し、そのクラスタップに基づいて、2次元クラス分類を行う。
そして、クラス分類回路711Bは、2次元クラス分類によって得られるクラスコードを、切換回路713Bを介して、係数出力回路715Bに供給し、ステップS745からS746に進む。
係数出力回路715Bは、受信部720から供給されるコマンド列を構成する1つのコマンド「Zoom ver1」に応じて、図66で説明した複数種類のタップ係数のうちの、リサイズ処理用のタップ係数を選択している。
なお、係数出力回路715Bが、受信部720から供給されるコマンド列を構成する1つのコマンド「Zoom ver1」に応じて選択するリサイズ処理用のタップ係数は、画像を、あらかじめ定められた倍率(例えば、1.1倍などの比較的低い倍率)に拡大するものである。従って、係数出力回路715Bが、コマンド「Zoom ver1」に応じて選択するリサイズ処理用のタップ係数は、画像を、パラメータp1が表す倍率に拡大するものであるとは限らない。
但し、係数出力回路715Bにおいては、複数の倍率それぞれの拡大を行うリサイズ処理用の複数セットのタップ係数を用意しておき、その複数セットのタップ係数の中から、コマンド「Zoom ver1」に応じて、1セットのタップ係数(例えば、パラメータp1が表す倍率に最も近い倍率の拡大を行うものなど)を選択するようにしてもよい。
係数出力回路715Bは、ステップS746において、クラス分類回路711Bから切換回路713Bを介して供給されるクラスコードに対応するクラスのタップ係数を、コマンド「Zoom ver1」に応じて選択しているリサイズ処理用のタップ係数の中から読み出すことにより取得し、予測演算回路716Bに供給して、ステップS747に進む。
ステップS747では、遅延選択回路712Bは、ブロック化回路722から切換回路726を介して供給される抽出サイズのブロックの画像データから、注目画素についての2次元予測タップを選択し、切換回路714Bを介して、予測演算回路716Bに供給して、ステップS748に進む。
ステップS748では、予測演算回路716Bは、遅延選択回路712Bから切換回路714Bを介して供給される2次元予測タップと、係数出力回路715Bから供給されるタップ係数とを用いて、式(1)のフィルタ演算(2次元フィルタ演算)を行い、これにより、拡大画像データの注目画素(の画素値)を得て出力する。
予測演算回路716Bが出力する拡大画像データは、判定回路723に供給される。
そして、ステップS749に進み、拡大画像データを構成する画素すべてを、注目画素としたかどうかが判定される。ステップS749において、拡大画像データを構成する画素のすべてを、まだ、注目画素としていないと判定された場合、ステップS744に戻り、以下、同様の処理が繰り返される。
また、ステップS749において、拡大画像を構成する画素のすべてを、注目画素としたと判定された場合、ステップS750に進み、判定回路723は、予測演算回路716Bから供給された拡大画像データが、抽出サイズのブロックの画像データを、パラメータp1が表す倍率に拡大したサイズになっているかどうかを判定する。
ステップS750において、予測演算回路716Bからの拡大画像データが、抽出サイズのブロックの画像データを、パラメータp1が表す倍率に拡大したサイズになっていないと判定された場合、即ち、予測演算回路716Bからの拡大画像データのサイズが、抽出サイズのブロックの画像データを、パラメータp1が表す倍率に拡大したサイズよりも小さい場合、ステップS751に進み、判定回路723は、予測演算回路716Bからの拡大画像データを、切換回路727を介して、クラス分類回路711Bおよび選択遅延回路712Bにフィードバック(供給)し、ステップS744に戻る。
そして、判定回路723から、クラス分類回路711Bおよび選択遅延回路712Bに対してフィードバックされた拡大画像データ(以下、適宜、フィードバック画像データという)を対象として、ステップS744以降の処理が繰り返される。
即ち、この場合、ステップS744において、フィードバック画像データを、パラメータp1が表す倍率だけ拡大することにより得られる、クラス分類適応処理の第2の画像データとしての拡大画像データを構成する画素のうち、まだ注目画素としていないものの1つが、注目画素として選択され、ステップS745に進む。
ステップS745では、クラス分類回路711Bは、判定回路723からのフィードバック画像データから、注目画素についてのクラスタップを選択し、そのクラスタップに基づいて、2次元クラス分類を行い、その2次元クラス分類によって得られるクラスコードを、切換回路713Bを介して、係数出力回路715Bに供給して、ステップS745からS746に進む。
係数出力回路715Bは、ステップS746において、クラス分類回路711Bから、切換回路713Bを介して供給されるクラスコードに対応するクラスのタップ係数を、コマンド「Zoom ver1」に応じて選択しているリサイズ処理用のタップ係数の中から読み出すことにより取得し、予測演算回路716Bに供給して、ステップS747に進む。
ステップS747では、遅延選択回路712Bは、判定回路723からのフィードバック画像データから、注目画素についての2次元予測タップを選択し、切換回路714Bを介して、予測演算回路716Bに供給して、ステップS748に進む。
ステップS748では、予測演算回路716Bは、遅延選択回路712Bから切換回路714Bを介して供給される2次元予測タップと、係数出力回路715Bから供給されるタップ係数とを用いて、式(1)のフィルタ演算(2次元フィルタ演算)を行い、これにより、拡大画像データの注目画素(の画素値)を得て、判定回路723に出力する。
そして、ステップS749に進み、拡大画像データを構成する画素すべてを、注目画素としたかどうかが判定される。ステップS749において、拡大画像データを構成する画素のすべてを、まだ、注目画素としていないと判定された場合、ステップS744に戻り、以下、同様の処理が繰り返される。
また、ステップS749において、拡大画像を構成する画素のすべてを、注目画素としたと判定された場合、ステップS750に進み、上述したように、判定回路723において、予測演算回路716Bから供給された拡大画像データが、抽出サイズのブロックの画像データを、パラメータp1が表す倍率に拡大したサイズになっているかどうかが判定される。
そして、ステップS750において、予測演算回路716Bからの拡大画像データが、抽出サイズのブロックの画像データを、パラメータp1が表す倍率に拡大したサイズになっていると判定された場合、判定回路723は、予測演算回路716Bからの拡大画像データを、IC700の外部に出力し、処理を終了する。
従って、この場合、IC700は、画像の拡大を行う拡大装置として機能することになる。
なお、IC700に対して、次のフレームの入力画像データが供給されている場合は、その、次のフレームを対象として、ステップS743乃至S751の処理が繰り返される。
次に、図77のフローチャートを参照して、外部から、1つのコマンド「Zoom ver2」からなるコマンド列が送信されてきた場合の、図64のIC700の処理について説明する。
まず、ステップS761において、受信部720は、外部からのコマンド列を受信し、IC700を構成する必要なブロックに供給して、ステップS762に進む。
ステップS762では、IC700は、受信部720で受信されたコマンド列に応じ、その内部構造を切り換え、ステップS763に進む。
即ち、IC700(図64)の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Zoom ver2」に応じて、信号線の選択状態を、コマンド「Zoom ver2」に対応する1回拡大処理を行うように切り換える。
図78は、信号線の選択状態を、1回拡大処理を行うように切り換えたIC700を示している。
図78において、IC700の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する1つのコマンド「Zoom ver2」に応じて、信号線の選択状態を、図78に実線で示すように切り換え、これにより、信号処理として、1回拡大処理を行う。
なお、図78において、点線で示す信号線は、配線されているが、現在のIC700による信号処理に関係のない信号線を意味している。
図78のIC700では、IC700に入力される入力画像データを、クラス分類適応処理の第1の画像データとして、その一部のブロックを、ユーザが要求する所望の倍率(要求倍率)でリサイズした、クラス分類適応処理の第2の画像データとしてのサイズが拡大された画像データを得る1回拡大処理が行われる。
なお、所望の倍率は、例えば、コマンド「Zoom ver2」のパラメータp1として、コマンド列に含まれるものとする。さらに、コマンド列には、入力画像データを拡大するときに、その拡大の中心となる位置も、コマンド「Zoom ver2」のパラメータp2として含まれるものとする。
以下、図77のフローチャートのステップS763以降の処理は、図78に示したように内部構造が切り換えられたIC700において行われる。
即ち、ステップS763では、ブロック化回路722が、図75のステップS743における場合と同様に、切換回路724を介して供給される入力画像データの拡大の対象となるブロックを抽出する。
即ち、ブロック化回路722は、受信部720から供給されるコマンド列に含まれるコマンド「Zoom ver2」のパラメータp1が表す倍率と、入力画像データのサイズとから、パラメータp1が表す倍率だけ拡大することによって、入力画像データのサイズとなるブロックのサイズ(抽出サイズ)を認識する。さらに、ブロック化回路722は、受信部720から供給されるコマンド列に含まれるコマンド「Zoom ver2」のパラメータp2が表す位置を中心(重心)として、抽出サイズのブロックの画像データを、入力画像データから抽出する。
抽出サイズのブロックの画像データは、ブロック化回路722から、切換回路726を介して、クラス分類回路711Bおよび遅延選択回路712Bに供給される。
その後、ステップS763からS764に進み、抽出サイズのブロックの画像データを拡大することにより得られる、クラス分類適応処理の第2の画像データとしての拡大画像データを構成する画素のうち、まだ注目画素としていないものの1つが、注目画素として選択され、ステップS765に進む。
ステップS765では、クラス分類回路711Bは、ブロック化回路722から切換回路726を介して供給される抽出サイズのブロックの画像データから、注目画素についてのクラスタップを選択し、そのクラスタップに基づいて、2次元クラス分類を行う。
そして、クラス分類回路711Bは、2次元クラス分類によって得られるクラスコードを、切換回路713Bを介して、係数出力回路715Bに供給し、ステップS765からS766に進む。
係数出力回路715Bは、受信部720から供給されるコマンド列を構成する1つのコマンド「Zoom ver2」に応じて、図66で説明した複数種類のタップ係数のうちの、画像をパラメータp1が表す倍率に拡大するリサイズ処理用のタップ係数を選択している。
係数出力回路715Bは、ステップS766において、クラス分類回路711Bから、切換回路713Bを介して供給されるクラスコードに対応するクラスのタップ係数を、コマンド「Zoom ver2」に応じて選択しているリサイズ処理用のタップ係数の中から読み出すことにより取得し、予測演算回路716Bに供給して、ステップS767に進む。
ステップS767では、遅延選択回路712Bは、ブロック化回路722から切換回路726を介して供給される抽出サイズのブロックの画像データから、注目画素についての2次元予測タップを選択し、切換回路714Bを介して、予測演算回路716Bに供給して、ステップS768に進む。
ステップS768では、予測演算回路716Bは、遅延選択回路712Bから切換回路714Bを介して供給される2次元予測タップと、係数出力回路715Bから供給されるタップ係数とを用いて、式(1)のフィルタ演算(2次元フィルタ演算)を行い、これにより、抽出サイズのブロックの画像データをパラメータp1が表す倍率で拡大した拡大画像データの注目画素(の画素値)を得て出力する。
予測演算回路716Bが出力する拡大画像データは、判定回路723を介して、IC700の外部に出力される。
ステップS769に進み、拡大画像データを構成する画素すべてを、注目画素としたかどうかが判定される。ステップS769において、拡大画像データを構成する画素のすべてを、まだ、注目画素としていないと判定された場合、ステップS764に戻り、以下、同様の処理が繰り返される。
また、ステップS769において、拡大画像を構成する画素のすべてを、注目画素としたと判定された場合、処理を終了する。
従って、この場合も、IC700は、画像の拡大を行う拡大装置として機能することになる。
なお、IC700に対して、次のフレームの入力画像データが供給されている場合は、その、次のフレームを対象として、ステップS764乃至S769の処理が繰り返される。
次に、図79のフローチャートを参照して、外部から、2つのコマンド「Kaizodo 2dimentional」および「Zoom ver1」からなるコマンド列が送信されてきた場合の、図64のIC700の処理について説明する。
まず、ステップS781において、受信部720は、外部からのコマンド列を受信し、IC700を構成する必要なブロックに供給して、ステップS782に進む。
ステップS782では、IC700は、受信部720で受信されたコマンド列に応じ、その内部構造を切り換え、ステップS783に進む。
即ち、IC700(図64)の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する2つのコマンド「Kaizodo 2dimentional」および「Zoom ver1」に応じて、信号線の選択状態を、コマンド「Kaizodo 2dimentional」に対応する2次元空間解像度創造処理と、コマンド「Zoom ver1」に対応する再帰的拡大処理とを行うように切り換える。
図80は、信号線の選択状態を、2次元空間解像度創造処理を行い、さらに、その処理結果を対象として、再帰的拡大処理を行うように切り換えたIC700を示している。
図80において、IC700の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する2つのコマンド「Kaizodo 2dimentional」および「Zoom ver1」に応じて、信号線の選択状態を、図80に実線で示すように切り換え、これにより、信号処理として、2次元空間解像度創造処理を行い、さらに、その処理結果を対象として、再帰的拡大処理を行う。
なお、図80において、点線で示す信号線は、配線されているが、現在のIC700による信号処理に関係のない信号線を意味している。
図80のIC700では、IC700に入力される入力画像データを、クラス分類適応処理の第1の画像データとして、その空間解像度を向上させた、クラス分類適応処理の第2の画像データとしての高解像度の画像データを得る2次元空間解像度創造処理が行われる。さらに、図80のIC700では、その高解像度の画像データを、クラス分類適応処理の第1の画像データとして、そのサイズを拡大した、クラス分類適応処理の第2の画像データとしての拡大画像データを得る再帰的拡大処理が行われる。
以下、図79のフローチャートのステップS783以降の処理は、図80に示したように内部構造が切り換えられたIC700において行われる。
即ち、ステップS783では、図69のステップS713乃至S718で説明した2次元空間解像度創造処理が行われる。この2次元空間解像度創造処理によって得られる高解像度の画像データは、予測演算回路716Aから、切換回路719,725、および724を介して、ブロック化回路722に供給される。
そして、ステップS784に進み、ブロック化回路722に供給された高解像度の画像データを対象として、図75のステップS743乃至S751で説明した再帰的拡大処理が行われる。そして、この再帰的拡大処理によって得られる拡大画像データは、判定回路723から、IC700の外部に出力される。
この場合、IC700は、2次元のタップ(予測タップ)を対象としてフィルタリングを行う2次元ディジタルフィルタと、画像の拡大を行う拡大装置として機能することになる。
なお、IC700に対して、次のフレームの入力画像データが供給されている場合は、その、次のフレームを対象として、ステップS783およびS784の処理が繰り返される。
次に、図81のフローチャートを参照して、外部から、2つのコマンド「Kaizodo 2dimentional」および「Zoom ver2」からなるコマンド列が送信されてきた場合の、図64のIC700の処理について説明する。
まず、ステップS791において、受信部720は、外部からのコマンド列を受信し、IC700を構成する必要なブロックに供給して、ステップS792に進む。
ステップS792では、IC700は、受信部720で受信されたコマンド列に応じ、その内部構造を切り換え、ステップS793に進む。
即ち、IC700(図64)の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する2つのコマンド「Kaizodo 2dimentional」および「Zoom ver2」に応じて、信号線の選択状態を、コマンド「Kaizodo 2dimentional」に対応する2次元空間解像度創造処理と、コマンド「Zoom ver2」に対応する1回拡大処理とを行うように切り換える。
図82は、信号線の選択状態を、2次元空間解像度創造処理を行い、さらに、その処理結果を対象として、1回拡大処理を行うように切り換えたIC700を示している。
図82において、IC700の切換回路713Aおよび713B、切換回路714Aおよび714B、切換回路719、並びに切換回路724乃至727は、コマンド列を構成する2つのコマンド「Kaizodo 2dimentional」および「Zoom ver2」に応じて、信号線の選択状態を、図82に実線で示すように切り換え、これにより、信号処理として、2次元空間解像度創造処理を行い、さらに、その処理結果を対象として、1回拡大処理を行う。
なお、図82において、点線で示す信号線は、配線されているが、現在のIC700による信号処理に関係のない信号線を意味している。
図82のIC700では、IC700に入力される入力画像データを、クラス分類適応処理の第1の画像データとして、その空間解像度を向上させた、クラス分類適応処理の第2の画像データとしての高解像度の画像データを得る2次元空間解像度創造処理が行われる。さらに、図82のIC700では、その高解像度の画像データを、クラス分類適応処理の第1の画像データとして、そのサイズを拡大した、クラス分類適応処理の第2の画像データとしての拡大画像データを得る1回拡大処理が行われる。
以下、図81のフローチャートのステップS793以降の処理は、図82に示したように内部構造が切り換えられたIC700において行われる。
即ち、ステップS793では、図69のステップS713乃至S718で説明した2次元空間解像度創造処理が行われる。この2次元空間解像度創造処理によって得られる高解像度の画像データは、予測演算回路716Aから、切換回路719,725、および724を介して、ブロック化回路722に供給される。
そして、ステップS794に進み、ブロック化回路722に供給された高解像度の画像データを対象として、図77のステップS743乃至S751で説明した1回拡大処理が行われる。そして、この1回拡大処理によって得られる拡大画像データは、判定回路723から、IC700の外部に出力される。
この場合も、IC700は、2次元のタップ(予測タップ)を対象としてフィルタリングを行う2次元ディジタルフィルタと、画像の拡大を行う拡大装置として機能することになる。
なお、IC700に対して、次のフレームの入力画像データが供給されている場合は、その、次のフレームを対象として、ステップS793およびS794の処理が繰り返される。
以上のように、IC700では、コマンド列が複数のコマンドとしての、例えば、第1と第2のコマンドを有している場合に、そのコマンド列の複数のコマンドに応じて、内部構造を、第1のコマンドに対応する第1の信号処理および第2のコマンドに対応する第2の信号処理を実行する状態に切り換え、第1の信号処理を実行し、その後、さらに、第2の信号処理を実行する。従って、IC700によれば、単一のハードウェアで、複数の機能を、容易に実現することができる。
なお、本明細書において、フローチャートを参照して説明した各ステップの処理は、必ずしもフローチャートに記載された順序に沿って時系列に行う必要はなく、また、可能であれば、並列的に行ってもよい。
また、本実施の形態では、画像データを対象として、信号処理を行うこととしたが、信号処理の対象は、画像データに限られるものではなく、例えば、音声データなどであっても良い。
クラス分類適応処理による画像変換処理を行う画像変換装置1の構成例を示すブロック図である。 画像変換装置1による画像変換処理を説明するフローチャートである。 タップ係数を学習する学習装置21の構成例を示すブロック図である。 学習装置21の学習部36の構成例を示すブロック図である。 各種の画像変換処理を説明するための図である。 学習装置21による学習処理を説明するフローチャートである。 クラス分類適応処理による画像変換処理を行う画像変換装置51の構成例を示すブロック図である。 画像変換装置51の係数出力部55の構成例を示すブロック図である。 係数種データを学習する学習装置71の構成例を示すブロック図である。 学習装置71の学習部76の構成例を示すブロック図である。 学習装置71による学習処理を説明するフローチャートである。 係数種データを学習する学習装置101の構成例を示すブロック図である。 学習装置101の学習部106の構成例を示すブロック図である。 本発明を適用したAVシステムの一実施の形態の構成例を示すブロック図である。 AVシステムの本体200の動作を説明するフローチャートである。 コマンド列の例を示す図である。 AVシステムの本体200の動作を説明するフローチャートである。 コマンド列の例を示す図である。 AVシステムの本体200の動作を説明するフローチャートである。 コマンド列の例を示す図である。 AVシステムの本体200の動作を説明するフローチャートである。 コマンド列の例を示す図である。 AVシステムの本体200の動作を説明するフローチャートである。 コマンド列の例を示す図である。 AVシステムの本体200の動作を説明するフローチャートである。 コマンド列の例を示す図である。 R-IC212の構成例を示すブロック図である。 係数出力部255の構成例を示すブロック図である。 R-IC212の処理を説明するフローチャートである。 R-IC212の他の構成例を示すブロック図である。 係数出力部275の構成例を示すブロック図である。 本発明を適用したテレビジョン受像機301の一実施の形態の構成例を示すブロック図である。 システムコントローラ318によるチューナ部311の制御を説明するための図である。 通常画面モードの画面表示と、マルチ画面モードの画面表示とを説明するための図である。 信号処理部314の構成例を示すブロック図である。 コマンド列生成部330が生成するコマンド列を示す図である。 信号処理チップ331に対して入出力される画像データを説明する図である。 信号処理チップ332に対して入出力される画像データを説明する図である。 信号処理チップ331に対して入出力される画像データを説明する図である。 信号処理チップ332に対して入出力される画像データを説明する図である。 信号処理部314の処理を説明するフローチャートである。 信号処理チップ334の構成例を示すブロック図である。 信号処理チップ334の処理を説明するフローチャートである。 信号処理チップ331の構成例を示すブロック図である。 信号処理チップ331の処理を説明するフローチャートである。 信号処理チップ332の構成例を示すブロック図である。 信号処理チップ332の処理を説明するフローチャートである。 本発明を適用したテレビジョン受像機の一実施の形態の構成例を示すブロック図である。 リモコン618の外観構成例を示す平面図である。 リモコン618の電気的構成例を示すブロック図である。 コントローラ613の処理を説明するフローチャートである。 コントローラ613が生成するコマンド列のフォーマットを示す図である。 コントローラ613の処理を説明するフローチャートである。 コントローラ613が機能ボタン621Dの操作に応じて生成するコマンド列の例を示す図である。 LSI606の構成例を示すブロック図である。 LSI606の処理を説明するフローチャートである。 信号処理回路656の構成例を示すブロック図である。 信号処理回路661の構成例を示すブロック図である。 信号処理回路661の他の構成例を示すブロック図である。 クラス分類回路511A乃至予測演算回路516Aと、クラス分類回路511B乃至予測演算回路516Bとで行われるクラス分類適応処理としての画像変換処理を説明するフローチャートである。 信号線の選択状態を、1次元空間解像度創造処理を行うように切り換えた信号処理回路661を含む信号処理回路656の内部構造を示すブロック図である。 信号線の選択状態を、2次元空間解像度創造処理を行うように切り換えた信号処理回路661を含む信号処理回路656の内部構造を示すブロック図である。 信号線の選択状態を、ノイズ除去処理を行うように切り換えた信号処理回路661を含む信号処理回路656の内部構造を示すブロック図である。 本発明を適用したIC700の一実施の形態の構成例を示すブロック図である。 図64の受信部720が外部から受信するコマンド列を説明する図である。 係数出力回路715Aの構成例を示すブロック図である。 コマンド「Kaizodo 1dimentional」からなるコマンド列が送信されてきた場合のIC700の処理を説明するフローチャートである。 信号線の選択状態を、1次元空間解像度創造処理を行うように切り換えたIC700の内部構造を示すブロック図である。 コマンド「Kaizodo 2dimentional」からなるコマンド列が送信されてきた場合のIC700の処理を説明するフローチャートである。 信号線の選択状態を、2次元空間解像度創造処理を行うように切り換えたIC700の内部構造を示すブロック図である。 コマンド「Kaizodo 3dimentional」からなるコマンド列が送信されてきた場合のIC700の処理を説明するフローチャートである。 信号線の選択状態を、3次元空間解像度創造処理を行うように切り換えたIC700の内部構造を示すブロック図である。 コマンド「Kaizodo 2dimentional」および「Kaizodo 3dimentional」からなるコマンド列が送信されてきた場合のIC700の処理を説明するフローチャートである。 信号線の選択状態を、適応的空間解像度創造処理を行うように切り換えたIC700の内部構造を示すブロック図である。 コマンド「Zoom ver1」からなるコマンド列が送信されてきた場合のIC700の処理を説明するフローチャートである。 信号線の選択状態を、再帰的拡大処理を行うように切り換えたIC700の内部構造を示すブロック図である。 コマンド「Zoom ver2」からなるコマンド列が送信されてきた場合のIC700の処理を説明するフローチャートである。 信号線の選択状態を、1回拡大処理を行うように切り換えたIC700の内部構造を示すブロック図である。 コマンド「Kaizodo 2dimentional」および「Zoom ver1」からなるコマンド列が送信されてきた場合のIC700の処理を説明するフローチャートである。 信号線の選択状態を、2次元空間解像度創造処理を行い、さらに、その処理結果を対象として、再帰的拡大処理を行うように切り換えたIC700の内部構造を示すブロック図である。 コマンド「Kaizodo 2dimentional」および「Zoom ver2」からなるコマンド列が送信されてきた場合のIC700の処理を説明するフローチャートである。 信号線の選択状態を、2次元空間解像度創造処理を行い、さらに、その処理結果を対象として、1回拡大処理を行うように切り換えたIC700の内部構造を示すブロック図である。
符号の説明
200 本体, 201 リモコン, 201A 操作部, 201B 送信部, 202 制御装置, 202A 送受信部, 202B 制御部, 203 DVDレコーダ部, 204 HDDレコーダ部, 205 テレビジョン受像機部, 211 受信部, 212 R-IC, 213 記録部, 214 DVD, 215 再生部, 221 受信部, 222 R-IC, 223 記録部, 224 HDD, 225 再生部, 231 受信部, 232 R-IC, 233 ディスプレイ, 251 注目画素選択部, 252,253 タップ選択部, 254 クラス分類部, 255 係数出力部, 256 予測演算部, 2611乃至2614 係数メモリ, 262 選択部, 275 係数出力部, 281 係数生成部, 282 係数種出力部, 283 パラメータメモリ, 284 係数メモリ, 2911乃至2914 係数種メモリ, 292 選択部, 301 テレビジョン受像機, 302 アンテナ, 303 リモコン, 311 チューナ部, 312 増幅回路, 313 スピーカ, 314乃至316 信号処理部, 317 ディスプレイ, 318 コントローラ, 319 リモコン受信部, 330 コマンド列生成部, 331,332 信号処理チップ, 333 メモリ部, 334 信号処理チップ, 340 受信部, 341 フレームメモリ, 342 遅延回路, 343 セレクタ, 344 動き検出回路, 345 選択部, 351 注目画素選択部, 352,353 タップ選択部, 354 クラス分類部, 355 係数出力部, 356 予測演算部, 357 受信部, 358 動き判定部, 3611,3612 係数メモリ, 362 選択部, 371 注目画素選択部, 372,373 タップ選択部, 374 クラス分類部, 375 係数出力部, 376 予測演算部, 377 受信部, 378,379 タップ決定部, 3811,3812 係数メモリ, 382 選択部, 411A,411B 演算回路群, 412A,412B メモリ, 413A,413B 積和演算回路群, 414A,414B アダー, 415A,415B 乗算器, 416A,415B レジスタ群, 421A乃至423A,421B乃至423B,424 切換回路, 511A,511B クラス分類回路, 512A,512B 遅延選択回路, 513A,513B,514A,514B 切換回路, 515A,515B 係数出力回路, 516A,516B 予測演算回路, 517 ライン遅延回路, 518 積和演算回路, 519 切換回路, 521A,521B 走査線変換回路, 523 フレームメモリ, 601 チューナ, 602 復調部, 603 エラー訂正部, 604 デマルチプレクサ, 605 ビデオデコーダ, 606 LSI, 607 合成部, 608 OSD部, 609 LCD, 610 オーディオデコーダ, 611 スピーカ, 613 コントローラ, 614 キー入力部, 615 表示部, 616 受光部, 617 リモコンI/F, 618 リモコン, 621 ユーザインタフェース部, 621A 電源ボタン, 621B 入力ボタン, 621C チャンネルボタン, 621D 機能ボタン, 622 LCDパネル, 631 バス, 632 制御部, 633 記憶部, 634 送信部, 650 受信部, 651乃至653 フレームメモリ, 654 SW回路, 654A,654B 入力端子, 655 SW回路, 655A,655B 出力端子, 656,661 信号処理回路, 662乃至665 切換回路, 711A,711B クラス分類回路, 712A,712B 遅延選択回路, 713A,713B,714A,714B 切換回路, 715A,715B 係数出力回路, 716A,716B 予測演算回路, 717 ライン遅延回路, 718 積和演算回路, 719 切換回路, 721 フレームメモリ, 722 ブロック化回路, 723 判定回路, 724乃至727 切換回路, 731 メモリ群, 732 選択部

Claims (13)

  1. 第1および第2の信号処理手段を備える信号処理装置において、
    外部からの信号に応じて、前記第1の信号処理手段に対する第1のコマンド、および前記第2の信号処理手段に対する第2のコマンドを含むコマンド列を生成して放送する放送手段を含み、
    前記第1の信号処理手段は、
    放送された前記コマンド列に含まれる前記第1のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第1のコマンドに対応する第1の信号処理を行う状態に切り換え、
    前記第1のコマンドに対応する前記第1の信号処理として、第1の信号に含まれるノイズを除去するノイズ除去処理、前記第1の信号に生じている歪みを除去する歪み除去処理、前記第1の信号としての画像の空間解像度を向上させる空間解像度創造処理、または前記第1の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い前記第1の信号処理の処理結果として得られる第2の信号を出力し、
    前記第2の信号処理手段は、
    放送された前記コマンド列に含まれる前記第2のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第2のコマンドに対応する第2の信号処理を行う状態に切り換え、
    前記第2のコマンドに対応する前記第2の信号処理として、前記第2の信号に含まれるノイズを除去するノイズ除去処理、前記第2の信号に生じている歪みを除去する歪み除去処理、前記第2の信号としての画像の空間解像度を向上させる空間解像度創造処理、または前記第2の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い前記第2の信号処理の処理結果として得られる第3の信号を出力する
    号処理装置。
  2. 前記第1または第2の信号処理手段は、1チップのIC(Integrated Circuit)である
    求項1に記載の信号処理装置。
  3. 前記第1の信号処理手段は、前記第2の信号のうちの注目している注目信号を複数のクラスのうちのいずれかのクラスにクラス分類することにより得られるクラスのタップ係数と、前記注目信号に対して選択される前記第1の信号とを用いた演算により、前記注目信号を求める
    求項1に記載の信号処理装置。
  4. 前記第1の信号処理手段は、
    前記注目信号を前記複数のクラスのうちのいずれかのクラスにクラス分類するのに用いるクラスタップを、前記第1の信号から選択するクラスタップ選択手段と、
    前記クラスタップに基づいて、前記注目信号をクラス分類するクラス分類手段と、
    前記注目信号を求めるときの前記タップ係数との演算に用いる予測タップを、前記第1の信号から選択する予測タップ選択手段と、
    前記注目信号のクラスのタップ係数を出力するタップ係数出力手段と、
    前記注目信号のクラスのタップ係数と、前記注目信号に対して選択された前記予測タップとを用いた演算を行うことにより、前記注目信号を求める演算手段と
    を有する
    求項に記載の信号処理装置。
  5. 前記第1の信号処理手段は、前記タップ係数出力手段が出力するタップ係数の種類が変更されるように、内部構造を切り換える
    求項に記載の信号処理装置。
  6. 前記第2の信号処理手段は、前記第3の信号のうちの注目している注目信号を複数のクラスのうちのいずれかのクラスにクラス分類することにより得られるクラスのタップ係数と、前記注目信号に対して選択される前記第2の信号とを用いた演算により、前記注目信号を求める
    求項1に記載の信号処理装置。
  7. 前記第2の信号処理手段は、
    前記注目信号を前記複数のクラスのうちのいずれかのクラスにクラス分類するのに用いるクラスタップを、前記第2の信号から選択するクラスタップ選択手段と、
    前記クラスタップに基づいて、前記注目信号をクラス分類するクラス分類手段と、
    前記注目信号を求めるときの前記タップ係数との演算に用いる予測タップを、前記第2の信号から選択する予測タップ選択手段と、
    前記注目信号のクラスのタップ係数を出力するタップ係数出力手段と、
    前記注目信号のクラスのタップ係数と、前記注目信号に対して選択された前記予測タップとを用いた演算を行うことにより、前記注目信号を求める演算手段と
    を有する
    求項に記載の信号処理装置。
  8. 前記第2の信号処理手段は、前記タップ係数出力手段が出力するタップ係数の種類が変更されるように、内部構造を切り換える
    求項に記載の信号処理装置。
  9. 前記第1乃至第3の信号は、画像信号であり、
    前記第1の信号処理手段は、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第1の信号である第1の画像信号に対して、サイズを縮小する画像縮小処理を行う状態に切り換えることにより、前第1の画像信号に対して前記画像縮小処理を施し、前記第2の信号である第2の画像信号を出力する
    求項1に記載の信号処理装置。
  10. 放送信号を受信し、その放送信号から得られる前記第1の画像信号を出力する画像信号出力手段をさらに備える
    求項に記載の信号処理装置。
  11. 前記コマンド列のうちの1つのコマンドに応じた動きベクトル検出処理を行う動きベクトル検出手段をさらに備え、
    前記第1または第2の信号処理手段は、前記動きベクトル検出処理によって検出された動きベクトルを用いて、信号処理を行う
    求項に記載の信号処理装置。
  12. 前記コマンド列のうちの1つのコマンドに応じて、前記第3の画像信号を記憶する画像信号記憶手段をさらに備える
    求項に記載の信号処理装置。
  13. 放送手段と、第1および第2の信号処理手段を備える信号処理装置の信号処理方法において、
    前記放送手段が、外部からの信号に応じて、前記第1の信号処理手段に対する第1のコマンド、および前記第2の信号処理手段に対する第2のコマンドを含むコマンド列を生成して放送する放送ステップと、
    前記第1の信号処理手段が、
    放送された前記コマンド列に含まれる前記第1のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第1のコマンドに対応する第1の信号処理を行う状態に切り換え、
    前記第1のコマンドに対応する前記第1の信号処理として、第1の信号に含まれるノイズを除去するノイズ除去処理、前記第1の信号に生じている歪みを除去する歪み除去処理、前記第1の信号としての画像の空間解像度を向上させる空間解像度創造処理、または前記第1の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い前記第1の信号処理の処理結果として得られる第2の信号を出力する第1の信号処理ステップと、
    前記第2の信号処理手段が、
    放送された前記コマンド列に含まれる前記第2のコマンドに応じて、複数の信号処理を切り換えて行うことが可能な内部構造を、前記第2のコマンドに対応する第2の信号処理を行う状態に切り換え、
    前記第2のコマンドに対応する前記第2の信号処理として、前記第2の信号に含まれるノイズを除去するノイズ除去処理、前記第2の信号に生じている歪みを除去する歪み除去処理、前記第2の信号としての画像の空間解像度を向上させる空間解像度創造処理、または前記第2の信号としての画像の時間解像度を向上させる時間解像度創造処理のうちの少なくとも1つの信号処理を行い前記第2の信号処理の処理結果として得られる第3の信号を出力する第2の信号処理ステップと
    を含む号処理方法
JP2004042904A 2004-02-19 2004-02-19 信号処理装置および信号処理方法 Expired - Fee Related JP4449489B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2004042904A JP4449489B2 (ja) 2004-02-19 2004-02-19 信号処理装置および信号処理方法
US11/050,275 US7630576B2 (en) 2004-02-19 2005-02-04 Signal processing apparatus and method, and command-sequence data structure
EP20050250858 EP1640907A3 (en) 2004-02-19 2005-02-15 Signal processing apparatus and method, and command-sequence data structure
CNB2005100093011A CN100414966C (zh) 2004-02-19 2005-02-18 信号处理设备和方法
KR1020050013884A KR101110209B1 (ko) 2004-02-19 2005-02-19 신호 처리 장치 및 신호 처리 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004042904A JP4449489B2 (ja) 2004-02-19 2004-02-19 信号処理装置および信号処理方法

Publications (2)

Publication Number Publication Date
JP2005236633A JP2005236633A (ja) 2005-09-02
JP4449489B2 true JP4449489B2 (ja) 2010-04-14

Family

ID=35011087

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004042904A Expired - Fee Related JP4449489B2 (ja) 2004-02-19 2004-02-19 信号処理装置および信号処理方法

Country Status (3)

Country Link
JP (1) JP4449489B2 (ja)
KR (1) KR101110209B1 (ja)
CN (1) CN100414966C (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4427592B2 (ja) 2008-08-04 2010-03-10 株式会社東芝 画像処理装置、および画像処理方法
KR20110025123A (ko) * 2009-09-02 2011-03-09 삼성전자주식회사 비디오 영상 배속 재생 방법 및 장치
CN102194235B (zh) * 2010-03-16 2016-05-11 北京中星微电子有限公司 基于梯度方向角的运动检测系统及方法
CN104126167B (zh) * 2011-12-23 2018-05-11 英特尔公司 用于从通用寄存器向向量寄存器进行广播的装置和方法
CN107995514B (zh) * 2017-12-28 2021-06-25 北京四达时代软件技术股份有限公司 一种数字电视一体机控制命令的传输方法、装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001318745A (ja) * 2000-05-11 2001-11-16 Sony Corp データ処理装置およびデータ処理方法、並びに記録媒体
JP4582681B2 (ja) 2001-04-12 2010-11-17 ソニー株式会社 信号処理装置および信号処理方法、プログラムおよび記録媒体、並びに信号処理システム
AU2002248023B2 (en) * 2001-04-12 2007-04-26 Sony Corporation Signal processing device, housing rack, and connector
US7170422B2 (en) * 2002-06-24 2007-01-30 Matsushita Electric Industrial Co., Ltd. Personal programmable universal remote control

Also Published As

Publication number Publication date
JP2005236633A (ja) 2005-09-02
CN1662037A (zh) 2005-08-31
KR101110209B1 (ko) 2012-04-12
CN100414966C (zh) 2008-08-27
KR20060042124A (ko) 2006-05-12

Similar Documents

Publication Publication Date Title
EP1640907A2 (en) Signal processing apparatus and method, and command-sequence data structure
JP5263565B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US20100202711A1 (en) Image processing apparatus, image processing method, and program
JP5288214B2 (ja) データ処理装置、データ処理方法、及びプログラム
US7145947B2 (en) Video data processing apparatus and method, data distributing apparatus and method, data receiving apparatus and method, storage medium, and computer program
JP2008098800A (ja) 画像処理装置、画像処理方法、及びプログラム
JP4126709B2 (ja) 画像処理装置および画像処理方法
JP2001086507A (ja) 画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、媒体、並びに画像処理装置
US8358363B2 (en) Video-processing apparatus, method and system
EP3570543A1 (en) Image processing device and image processing method
KR101110209B1 (ko) 신호 처리 장치 및 신호 처리 방법
JP4214425B2 (ja) 画像抜き出し装置および画像抜き出し方法、画像符号化装置および画像符号化方法、画像復号装置および画像復号方法、画像記録装置および画像記録方法、画像再生装置および画像再生方法、並びに記録媒体
US7602442B2 (en) Apparatus and method for processing information signal
US7679675B2 (en) Data converting apparatus, data converting method, learning apparatus, leaning method, program, and recording medium
KR20070000365A (ko) 화상 처리 장치, 화상 처리 방법, 및 프로그램
JP4674439B2 (ja) 信号処理装置および信号処理方法、並びに情報記録媒体
JP2005159830A (ja) 信号処理装置および方法、記録媒体、並びにプログラム
JP4512978B2 (ja) 画像処理装置および画像処理方法、プログラム、並びに記録媒体
JP4120898B2 (ja) 画像処理装置および画像処理方法
JP4803279B2 (ja) 画像信号処理装置および方法、記録媒体、並びにプログラム
JP4470324B2 (ja) 画像信号変換装置および方法
JP4329453B2 (ja) 画像信号処理装置および方法、記録媒体、並びにプログラム
JP4042121B2 (ja) 画像情報処理装置及び画像情報処理方法
JP2009026026A (ja) 画像処理装置、画像処理方法、およびプログラム
JP2005117682A (ja) 係数生成装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090611

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100105

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100118

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130205

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130205

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140205

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees