JP2011061709A - 映像処理装置および映像処理方法 - Google Patents

映像処理装置および映像処理方法 Download PDF

Info

Publication number
JP2011061709A
JP2011061709A JP2009212072A JP2009212072A JP2011061709A JP 2011061709 A JP2011061709 A JP 2011061709A JP 2009212072 A JP2009212072 A JP 2009212072A JP 2009212072 A JP2009212072 A JP 2009212072A JP 2011061709 A JP2011061709 A JP 2011061709A
Authority
JP
Japan
Prior art keywords
time
correction amount
image signal
image
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009212072A
Other languages
English (en)
Inventor
Minoru Urushibara
稔 漆原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009212072A priority Critical patent/JP2011061709A/ja
Publication of JP2011061709A publication Critical patent/JP2011061709A/ja
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】画像圧縮に起因するノイズによるフレームレート変換での画像劣化を低減させることが可能な映像処理装置および映像処理方法を提供すること。
【解決手段】本発明に係る映像処理装置は、時系列画像信号に含まれる原画像の配置位置を基準とし、かつ、時系列画像信号の間に補間される補間画像信号の配置位置を表す補正量を、少なくとも時系列画像信号のデータレートに基づいて算出し、算出した補正量に基づいて、時系列画像信号の間に補間される補間画像信号の生成時刻を設定する。この際、データレートが所定の閾値未満となり当該閾値から更に小さくなるように変化した場合、配置位置を原画像側に近づける補正量が算出され、閾値未満となっているデータレートが当該閾値に近づくように変化した場合、原画像間を均等に分割した均等位置側に配置位置を近づける補正量が算出される。
【選択図】図2

Description

本発明は、映像処理装置および映像処理方法に関する。
近年、映像処理技術、及び情報通信技術の急速な発展に伴い、高品質な映像のデジタル放送サービスが普及してきている。このような高画質映像のデジタル放送データは、そのデータ量が膨大であるため、それを経済的に配信するために種々の工夫が凝らされている。その中でも、高画質な映像データを高画質なままにデータ容量を圧縮する符号化技術として、例えば、MPEG(Moving Picture Experts Group)やVCEG(Video Coding Experts Group)により規格化された圧縮符号化技術がよく知られている。
こうした圧縮符号化技術の中で「動き補償」と呼ばれる映像処理技術が利用される。この動き補償の処理には、複数の時系列画像信号の間で同一又は最も近似する画素又は画素群(以下、ブロック)を抽出する工程と、そのブロックが移動した方向、及び移動量を示す動きベクトルを検出する工程(以下、動き検出)と、その時系列画像信号間で差分符号化する際に動きベクトルに基づいてブロック位置の画素値を補償する工程とが含まれる。この技術を適用すると、例えば、時系列画像信号に含まれる移動体が時間の経過につれて移動する映像において、同一又は近似した画素値を有するブロックがほぼ変化せず、単純に移動するようなシーンでは、画質を劣化させずにデータ容量が大きく低減される。
また、High Frame Rate処理やFilm MC処理等に適用される、動き検出によるフレーム補間処理は、高画質化に欠かせない手法である。フレーム補間処理におけるHigh Frame Rate 処理では、連続するフレーム間の動きベクトルを利用して、補間画像を生成することが一般的である。そのため、ノイズ等が多い映像 の場合、正しいフレーム間の動きベクトルを検出できなくなり、補間結果に好ましくない影響を与えることがある。かかる影響に対して対処するために、以下の特許文献1では、伝送経路上で付加されたノイズに応じて画質劣化を低減させる方法が提案されている。
国際公開第08/102826号パンフレット
ところで、昨今の画像圧縮技術の発達により、テレビジョン受像機で表示する映像の多くは、何らかの画像圧縮処理が施された経緯のある映像である。その一例として、デジタルテレビ放送、DVD、ブルーレイ、映像データの入ったメモリデバイスなどのパッケージメディア、そしてインターネットなどからのダウンロードやストリームなどが挙げられる。特に、今後ブロードバンドの普及によるインターネット経由での映像視聴は、ますます増えていくものと思われる。一般的に、これらの映像信号は、伝送経路上でノイズが付加されにくいこと、また画像圧縮のかけ方を変えることで、通信量を制御することができることが特徴である。海外からの中継番組やインターネットからの映像視聴など、限られた伝送経路の容量で映像を伝送するために、画像圧縮を強くかける場合が多い。画像圧縮を解除してこれらの映像を視聴する場合に、画像圧縮に起因するノイズによって映像が劣化してしまうことがある。このような映像に対してHigh Frame Rate処理を行う場合おいても、正しいフレーム間の動きベクトルを検出できなくなり、その補間結果に好ましくない影響を与えることがある。また、伝送経路容量を一定に維持しようとして圧縮される画像の場合、激しい動きなどフレーム間の変化が大きくなった場合、映像のディテールが失われたり、画像圧縮に起因するノイズの増加によって画像が崩れたりすることがある。このような映像に対してHigh Frame Rate処理を行う場合においても、Frame補間が視聴映像に好ましくない影響を与えることがある。
このような、伝送経路上のノイズとしては検出されないノイズによるHigh Frame Rate処理での画質劣化は、上記特許文献1に挙げた方法では着目されておらず、これらの伝送経路上でのノイズに起因しない画像劣化を防止することは困難であった。
また、ノイズの増加によるHigh Frame Rate処理の制御を行うにあたっては、これまでFrame補間を中止して、同一フレームを繰り返し表示する方式や、動きベクトルによらない補間方式などへの切換または混合が一般的に取られている。しかしながら、急激に映像の解像度が下がったことを視聴者に認識させるため、必ずしも望ましい方式であるとはいえない。さらに、入力映像が、映画フィルムの映像であるフィルム映像の場合、プルダウンされた映像信号に対してではなく、フィルム本来の映像(24フレーム/秒)に対してFrame補間することで、より滑らかな映像を生成することができる。しかしながら、Frame補間される画像数が多くなるため、フィルム本来のフレームにおけるフレーム間の動きベクトル検出のわずかな失敗であっても、補間される画像では大きな不具合となる可能性が高くなる場合がある。その結果、プルダウン解除せずに通常のカメラ映像(50フレーム/秒または60フレーム/秒)としてFrame補間を行った方が結果的によい場合もある。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、画像圧縮に起因するノイズによるフレームレート変換での画像劣化を低減させることが可能な、映像処理装置および映像処理方法を提供することにある。
上記課題を解決するために、本発明のある観点によれば、連続的に入力される時系列画像信号間における当該時系列画像信号のデータレートを含む所定の特徴量を検出する特徴量検出部と、前記時系列画像信号に含まれる原画像の配置位置を基準とし、かつ、前記時系列画像信号の間に補間される補間画像信号の配置位置を表す補正量を、前記特徴量検出部により検出された特徴量の変化に応じて算出する補正量算出部と、前記時系列画像信号の間に補間される補間画像信号の生成時刻を、前記補正量算出部により算出された補正量に基づいて設定する生成時刻設定部と、前記生成時刻設定部により設定された生成時刻の補間画像信号を生成し、前記時系列画像信号の補間を行う補間処理部と、を備え、前記補正量算出部は、前記データレートが所定の閾値未満となり当該閾値から更に小さくなるように変化した場合、前記配置位置を前記原画像側に近づける補正量を算出し、前記閾値未満となっているデータレートが当該閾値に近づくように変化した場合、前記原画像間を均等に分割した均等位置側に前記配置位置を近づける補正量を算出する映像処理装置が提供される。
前記補正量算出部は、前記データレートが所定の閾値未満となり当該閾値から更に小さくなるように変化した場合、次に表示される前記補間画像信号に対応する補間画像への遷移時間が一定となるように、前記補間画像信号の配置位置に対する前記補正量を算出し、前記閾値未満となっているデータレートが当該閾値に近づくように変化した場合、次に表示される前記補間画像信号に対応する前記生成時刻への時間変化量が一定となるように、前記補間画像信号の配置位置に対する前記補正量を算出してもよい。
前記映像処理装置は、前記時系列画像信号に対する動きベクトルを検出する速度検出部を更に備え、前記補正量算出部は、更に、検出された前記動きベクトルの情報に基づいて、前記補正量を算出してもよい。
前記特徴量検出部は、前記時系列画像信号の輝度と当該輝度の差分であるコントラストとを更に検出し、前記補正量算出部は、前記輝度または前記コントラストが所定の閾値以下となる場合、前記データレートの閾値を低い値に変更してもよい。
前記特徴量検出部は、前記時系列画像信号の種類が、テレビカメラで撮影された映像であるカメラ映像と映画フィルムの映像であるフィルム映像のどちらであるかを判定し、前記補正量算出部は、前記時系列画像信号の種類の判定結果に応じて、前記均等位置を算出してもよい。
前記補正量算出部は、次に表示される前記補間画像信号に対応する補間画像への遷移時間が一定となるように、前記補間画像信号の配置位置に対する前記補正量を算出してもよい。
また、上記課題を解決するために、本発明の別の観点によれば、連続的に入力される時系列画像信号間における当該時系列画像信号のデータレートを含む所定の特徴量を検出するステップと、前記時系列画像信号に含まれる原画像の配置位置を基準とし、かつ、前記時系列画像信号の間に補間される補間画像信号の配置位置を表す補正量を、検出された特徴量の変化に応じて算出するステップと、前記時系列画像信号の間に補間される補間画像信号の生成時刻を、算出された補正量に基づいて設定するステップと、設定された生成時刻の補間画像信号を生成し、前記時系列画像信号の補間を行うステップと、を含み、前記補正量を算出するステップでは、前記データレートが所定の閾値未満となり当該閾値から更に小さくなるように変化した場合、前記配置位置を前記原画像側に近づける補正量が算出され、前記閾値未満となっているデータレートが当該閾値に近づくように変化した場合、前記原画像間を均等に分割した均等位置側に前記配置位置を近づける補正量が算出される映像処理方法が提供される。
以上説明したように本発明によれば、画像圧縮に起因するノイズによるフレームレート変換での画像劣化を低減させることが可能である。
本発明の第1の実施形態に係る表示装置の構成を説明するためのブロック図である。 同実施形態に係る映像処理装置が備える映像信号処理部の構成を説明するためのブロック図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の一例を説明するための説明図である。 同実施形態に係る映像処理方法の流れを説明するための流れ図である。 本発明の実施形態に係る映像処理装置のハードウェア構成の一例を説明するためのブロック図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は、以下の順序で行うものとする。
(1)第1の実施形態
(1−1)表示装置の構成について
(1−2)映像処理装置の構成について
(1−3)映像処理方法の具体例について
(1−4)映像処理方法の流れについて
(2)本発明の実施形態に係る映像処理装置のハードウェア構成について
(3)まとめ
(第1の実施形態)
<表示装置の構成について>
まず、本発明の第1の実施形態に係る映像処理装置について説明するに先立ち、本実施形態に係る映像処理装置を備える表示装置の一例について、図1を参照しながら説明する。図1は、本実施形態に係る表示装置の構成を説明するためのブロック図である。
図1に示したように、本実施形態に係る表示装置1は、例えば、本実施形態に係る映像処理装置10と、地上波チューナ12と、衛星チューナ14と、入力端子16と、を備える。
映像処理装置10は、後述する地上波チューナ12、衛星チューナ14または入力端子16から入力された時系列映像信号に対して、動きベクトルを用いたフレーム補間処理を行う装置である。この映像処理装置10については、以下で改めて詳細に説明する。
地上波放送用アンテナ11は、放送局から配信される地上波放送番組を受信するためのアンテナである。地上波放送用アンテナ11により受信された放送信号は、地上波チューナ12に入力される。地上波チューナ12は、地上波放送用アンテナ11により受信された放送信号を復調して、時系列画像信号および音声信号を再生する。地上波チューナ12により再生された時系列画像信号および音声信号は、映像処理装置10に入力される。
衛星放送用アンテナ13は、放送衛星を介して放送局から配信される衛星放送番組を受信するためのアンテナである。衛星放送用アンテナ13により受信された放送信号は、衛星チューナ14に入力される。衛星チューナ14は、衛星放送用アンテナ13により受信された放送信号を復調して、時系列画像信号および音声信号を再生する。衛星チューナ14により再生された時系列画像信号および音声信号は、映像処理装置10に入力される。
入力端子16は、外部に設置された映像再生機器または音声再生機器等を接続する端子である。かかる端子の例として、例えば、イーサネット等のネットワーク端子や、HDMI(High−Definition Multimedia Interface)、USB(Universal Serial Bus)等の各種端子を挙げることができる。本実施形態に係る表示装置10は、ネットワーク端子を有することにより、DLNA(Digital Living Network Alliance)機器やインターネットから、時系列画像信号および音声信号等のコンテンツを受信することができる。また、表示装置10は、USB端子等を有することで、USBメモリや外部に設けられたハードディスク等の記憶媒体に格納されている時系列画像信号および音声信号を取得して、かかるコンテンツを視聴することが可能となる。映像再生機器としては、例えば、HDD(Hard Disk Drive)レコーダ、DVD(Digital Versatile Disc)レコーダ、Blu−ray(登録商標)レコーダ、カムコーダ等の録画再生装置や、DVDプレーヤ、Blu−ray(登録商標)プレーヤ等の映像再生装置などが対象に含まれる。
音声入力機器としては、例えば、CDプレーヤ、携帯音楽プレーヤ等の音声再生装置が対象に含まれる。もちろん、パーソナルコンピュータや携帯情報端末等の情報処理機器が接続されてもよいし、あるいは、半導体メモリや磁気記録媒体等の記録媒体が接続されてもよい。このように、入力端子16に各種の機器が接続されることで、地上波放送や衛星放送の他にも、メディア等で提供される映像データや音声データを利用できる。
<映像処理装置の構成について>
続いて、図1および図2を参照しながら、本実施形態に係る映像処理装置の構成について、詳細に説明する。図2は、本実施形態に係る映像処理装置が備える映像信号処理部について説明するためのブロック図である。
本実施形態に係る映像処理装置10は、例えば図1に示したように、入力切替部101と、映像信号処理部103と、映像表示部105と、音声信号処理部107と、音声出力部109と、記憶部111と、を主に備える。
入力切替部101は、地上波チューナ12、衛星チューナ14または入力端子16に接続された機器から入力される時系列画像信号や音声信号を、映像信号処理部103または音声信号処理部107に入力する。このとき、入力切替部101は、利用者による入力操作、または所定の自動処理により、地上波チューナ12、衛星チューナ14または入力端子16からの信号入力を切り替えることができる。つまり、入力切替部101は、映像信号処理部103および音声信号処理部107に入力する信号の取得先を、選択的に切り替えることができる。
そのため、映像信号処理部103には、異なる種類の時系列画像信号が連続的に入力されることがある。例えば、地上波放送の時系列画像信号に続いて衛星放送の時系列画像信号が入力されたり、地上波放送に続いてDVD映画の時系列画像信号が入力されたりする。同様に、音声信号処理部107に対しても、複数の入力手段からの音声信号が連続して入力されることがある。さらに、同じ地上波番組の時系列画像信号であっても、フィルム映像のものとカメラ映像のものとが混在して入力される場合もある。
ここで、上述のカメラ映像は、テレビカメラで撮影された映像を意味し、フィルム映像は、映画フィルムの映像を意味する。これらの映像は、それぞれ時間解像度が異なっている。例えば、カメラ映像の時間解像度は、60(又は50)フィールド/秒である。一方、フィルム映像の時間解像度は、24フレーム/秒であり、プルダウン処理によって60フィールド/秒等に変換されてから入力される。なお、これらの数値は一例であり、これに限定されない。
映像信号処理部103は、このように連続して入力される時系列画像信号に、以下で説明するような所定の信号処理を施して、映像表示部105に表示させる。所定の信号処理として、例えば、映像信号処理部103は、入力された複数の時系列画像信号に基づき補間画像信号を生成して、時系列画像信号の時間解像度を変換することができる。この変換処理を施すことで、映像表示部105に表示される映像は、入力切替部101から入力された変換前の時系列画像信号ストリームよりも、高い時間解像度を有する滑らかな映像となる。このような映像信号処理部103の詳細な構成は、以下で図2を参照しながら、改めて説明する。
映像表示部105は、映像信号処理部103により入力された映像信号を表示する表示部である。映像表示部105としては、例えば、LCD(Liquid Crystal Display)、PDP(Plasma DisplayPanel)、ELD(Electro−Luminescence Display)等のパネルが対象に含まれる。
音声信号処理部107は、入力切替部101から入力された音声信号に所定の信号処理を施して、音声出力部109に入力する。所定の信号処理としては、例えば、種々の音声符号化方式で圧縮符号化された音声信号を、音声出力部109で再生可能な音声信号に変換する処理が対象に含まれる。このように変換処理された音声信号が入力されると、音声出力部109により音声が出力される。音声出力部109としては、例えば、スピーカやヘッドホン等のオーディオ装置が対象に含まれる。
記憶部111は、映像処理装置10が備える記憶装置の一例である。記憶部111には、映像処理装置10に入力された時系列画像信号等が必要に応じて格納される。また、記憶部111には、映像処理装置10の動作に関する各種の履歴情報が記録されていてもよい。さらに、記憶部111には、本実施形態に係る映像処理装置10が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベース等が、適宜記録される。この記憶部111は、入力切替部101、映像信号処理部103、映像表示部105、音声信号処理部107、音声出力部109等が、自由に読み書きを行うことが可能である。
[映像信号処理部について]
続いて、図2を参照しながら、本実施形態に係る映像処理装置10が備える映像信号処理部103の構成について、詳細に説明する。
本実施形態に係る映像信号処理部103は、図2に例示したように、特徴量検出部121と、フレームレート変換部133と、補正量算出部139と、補間方法選択部141と、生成時刻設定部143と、を主に備える。
なお、特徴量検出部121およびフレームレート変換部133が有する機能は、後述するハードウェア構成のうち、例えば、データ信号処理部64、映像信号処理部66、OSD回路68、合成回路70、マイコン72等により実現される。また、補正量算出部139、補間方法選択部141および生成時刻設定部143の機能は、主に、マイコン72等により実現される。なお、これらの処理部が有する機能の一部又は全部は、マイコン72を構成するROM724等に記録されたプログラムに基づいてCPU722により実現されてもよい。
特徴量検出部121は、入力切替部101から入力された時系列画像信号について、この時系列画像信号を特徴付ける特徴量を検出する処理部である。かかる特徴量として、例えば、時系列画像信号のデータレート、時系列画像信号に対応する画像の輝度およびコントラスト、ならびに、時系列画像信号の種別等を挙げることができる。この特徴量検出部121は、図2に例示したように、画像伸張部123、ノイズ除去部125、信号選択部127、輝度測定部129および映像種別判別部131を更に備える。
画像伸張部123は、圧縮された時系列画像信号が入力されると、この圧縮された時系列画像信号を所定の方式に則って伸張し、圧縮されていない時系列画像信号とする。画像伸張部123は、伸張した時系列画像信号を、ノイズ除去部125に入力する。また、画像伸張部123は、圧縮されている信号の伸張処理を行うことで、この信号に付加されている「映像のデータレート」、「映像の画面サイズ」、「映像のフレームレート」といった情報を把握することが可能となる。画像伸張部123は、時系列画像信号に付加されている映像のデータレートを表す情報を、補正量算出部139に伝送する。また、画像伸張部123は、映像の画像サイズを表す情報および映像のフレームレートを表す情報を、補正量算出部139にあわせて伝送することが好ましい。
ノイズ除去部125は、入力された時系列画像信号に含まれるノイズ(より詳細には、画像圧縮に起因するノイズ)を、視聴者の好みやノイズ除去部125に成されている設定等に基づいて低減させたり除去したりする。画像圧縮に起因するノイズとして、「ブロックノイズ」および「モスキートノイズ」といわれるノイズが存在するが、ノイズ除去部125は、これらのノイズを、現在用いられている各種の方法に則して、低減させたり除去したりする。
ノイズ除去部125は、これらの画像圧縮に起因するノイズを除去した後の時系列画像信号を、信号選択部127に伝送する。また、ノイズ除去部125は、これらのノイズを除去するために行った補正量等の情報を補正量算出部139に伝送してもよい。
信号選択部127は、視聴者による操作等に基づいて、ノイズ除去部125から伝送された時系列画像信号と、信号選択部127に直接入力された時系列画像信号のいずれかを選択する。信号選択部127に直接入力される時系列画像信号として、VTRなどのアナログ信号、および、他の装置により伸張されたデジタル信号(時系列画像信号)を挙げることができる。
信号選択部127により選択された信号は、輝度計測部129、映像種別判別部131およびフレームレート変換部133に入力される。
輝度計測部129は、入力された時系列画像信号に対応する画像の輝度(すなわち、画像の明るさ)を計測する。また、輝度計測部129は、計測した輝度を利用して、時系列画像信号に対応する画像のコントラストを計測することも可能である。画像のコントラストは、画像を構成する画素間の輝度差として表されるため、輝度計測部129は、時系列画像信号に対応する画素の輝度を利用して、容易に画像のコントラストを計測することが可能となる。
輝度計測部129は、時系列画像信号に対応する画像の輝度およびコントラストに関する情報を、補正量算出部139に伝送する。
映像種別判別部131は、入力された時系列画像信号、カメラ映像またはフィルム映像のどちらであるかを判別する。この判別処理に際し、映像種別判別部131は、入力される複数の時系列画像信号を参照し、これらの時系列画像信号間で検出される特徴量または規則性を抽出することで、映像種別を判別する。そのため、この判別処理には、複数の時系列画像信号が用いられる。また、本実施形態はこれに限定されず、単一の時系列画像信号に基づいて映像種別が判別されてもよい。
ここで、一例として、フィルム映像の判別方法について具体的に説明する。フィルム映像は、元々24フレーム/秒の映像を60フィールド/秒にプルダウン処理した状態で入力される。例えば、入力されるフィルム映像は、元のフレームのうち、奇数番目のフレームが2フィールドに変換され、偶数番目のフレームが3フィールドに変換されたものになっている(3−2フィルム映像)。
このように、2フレームが5フィールドに変換されることで、24フレーム/秒が60フィールド/秒に変換されているのである。こうした規則性に基づき、映像種別判別部102は、同じ特徴の時系列画像信号が2フィールド、3フィールド、2フィールド、3フィールド、…と規則的に続けて入力された場合に、その時系列画像信号の映像種別がフィルム映像であると判別している。
映像種別判別部131は、時系列画像信号の映像種別を、補正量算出部139に伝送する。
以上、本実施形態に係る映像信号処理部103が有する特徴量検出部121について説明した。続いて、本実施形態に係る映像信号処理部103が有するフレームレート変換部133について説明する。
フレームレート変換部133は、入力された時系列画像信号のフレームレートを変換する処理部である。このフレームレート変換部133は、図2に例示したように、速度検出部135と、補間処理部137と、を更に備える。
速度検出部135は、信号選択部127から伝送された時系列画像信号に基づき、当該時系列画像信号の間の動きベクトルを検出する。速度検出部135は、動きベクトルの検出に際し、例えば、ブロックマッチング法、位相相関法またはオプティカルフロー法等の種々の動き検出方法を利用可能である。速度検出部135により検出された動きベクトルの情報(動き情報)は、補間処理部137および補正量算出部139に入力される。
補間処理部137は、まず、速度検出部135により検出された動き情報に基づき、時系列画像信号間を補間する補間画像信号を生成する。さらに、補間処理部137は、生成した補間画像信号を該当する時系列画像信号間に挿入して、高時間解像度の映像信号を生成する。補間処理部137により生成された映像信号は、映像表示部105に入力される。
ただし、補間画像信号の生成時刻は、後述する生成時刻設定部143で生成され、当該生成時刻設定部143から伝送される相対時刻に基づいて決定される。この相対時刻とは、時系列画像信号(原画像)の時刻を基準にして相対的に表現された時刻である。この生成時刻の設定方法に関しては、後段において詳述する。
なお、生成時刻(相対時刻)を取得する際に、補間処理部137は、補間画像信号の生成時刻の前後に位置する時系列画像信号の時刻(以下、信号時刻)を生成時刻設定部143に入力し、信号時刻に対応する相対時刻を取得するように構成されていてもよい。逆に、補間処理部137は、生成時刻設定部143に対して信号時刻を入力せず、各信号時刻に対応付けられた相対時刻を生成時刻設定部143から取得するように構成されていてもよい。こうした取得処理は、相対時刻の算出/設定等にかかる遅延を考慮したものであり、その相対時刻と時系列画像信号との間の対応関係を補間処理部137が認識可能なように構成されている。もちろん、取得処理の方法についても、これらの例に限定されるものではない。
[具体例]
ここで、図3A〜図4Bを参照しながら、補間画像信号の生成処理方法について、例を挙げて具体的に説明する。図3Aおよび図4Aは、カメラ映像の時系列画像信号ストリームが入力された場合の補間画像信号の生成処理方法を示す説明図である。図3Bおよび図4Bは、フィルム映像の時系列画像信号ストリームが入力された場合の補間画像信号の生成処理方法を示す説明図である。
ここでは、補間処理部137により、例えば、連続する2枚の時系列画像信号(原画像OP、原画像OP)の間に1枚以上の補間画像信号が生成される場合を想定する。また、図3Aおよび図3Bでは、補間処理部137によって120フレーム/秒の時間解像度に変換される変換処理を想定しており、図4Aおよび図4Bでは、補間処理部137によって240フレーム/秒の時間解像度に変換される変換処理を想定している。
まず、図3Aおよび図3Bを参照しながら、120フレーム/秒の時間解像度に変換される変換処理について説明する。
生成される補間画像信号の枚数は、カメラ映像とフィルム映像との間で異なる。例えば、時間解像度が60フィールド/秒のカメラ映像が入力される場合(図3A)、補間処理部137により生成される補間画像信号の枚数は1枚(補間画像CFC1)である。他方、時間解像度が24フレーム/秒のフィルム映像が入力される場合(図3B)、補間処理部137によって4枚の補間画像信号(補間画像CFF1、CFF2、CFF3、CFF4)が生成される。なお、補間処理部137は、原画像OP1と原画像OP2との間の任意の時刻に補間画像信号を生成することができる。ただし、最も滑らかな映像にする補間方法は、原画像OP1、OP2の間に補間画像信号を等間隔で均一に配置することである。また、破綻の少ない画像とするためには、補間画像信号を、原画像に近い相対時刻に挿入すると良い。
図3Aの例では、原画像OP1の時刻を基準(0秒)にする相対時刻Tc1に、補間画像CFC1が配置されている。上記の通り、最も滑らかな映像にする補間方法を採用する場合、この相対時刻Tc1は、1/120秒となる。この場合、補間処理部137は、まず、原画像OP1と原画像OP2との間の動き情報(動きベクトルMV)に基づき、原画像OP1と補間画像CFC1との間の動き情報を算出する。
原画像OP1と補間画像CFC1との間の動き情報(MV/2)は、補間画像CFC1が配置される相対時刻Tc1に基づいて決定される。Tc1=1/120[秒]の場合、補間処理部137は、原画像OP1、OP2に含まれる移動体(ブロック)の動きベクトルMVを半分にした動きベクトルMV/2を算出し、この動きベクトルMV/2を用いて補間画像CFC1における移動体の位置を決定する。
なお、他の原画像OP3等を参照画像として利用し、この原画像OP3等に対応する動き情報に基づいて補間画像CFC1が生成されてもよい。また、複数の参照画像に基づいて補間画像CFC1が生成されてもよい。
さて、図3Bの例では、原画像OP1の時刻を基準(0秒)にする相対時刻Tf1、Tf2、Tf3、Tf4に、それぞれ補間画像CFF1、CFF2、CFF3、CFF4が配置されている。最も滑らかな映像にする補間方法の場合、この相対時刻(Tf1、Tf2、Tf3、Tf4)は、(1/120、2/120、3/120、4/120)[秒]となる。
まず、補間処理部137は、原画像OP1と原画像OP2との間の動き情報(動きベクトルMV)に基づいて原画像OP1と補間画像CFF1との間の動き情報を算出する。同様に、補間処理部137は、原画像OP1と補間画像CFF2、CFF3、CFF4との間の動き情報をそれぞれ算出する。その算出方法は、図3Aの場合と同様である。そして、補間処理部137は、算出した動き情報に基づいて補間画像CFF1、CFF2、CFF3、CFF4を生成する。
ただし、補間処理部137は、等間隔に配置された相対時刻Tf1、Tf2、Tf3、Tf4よりも原画像OP1または原画像OP2に近い相対時刻に、補間画像CFF1、CFF2、CFF3、CFF4を生成することもできる。例えば、補間処理部137は、相対時刻(Tf1+ΔTf1)(ΔTf1<0)の補間画像CFF1を生成することができる。
この場合、補間処理部137は、原画像OP1と原画像OP2との間の動きベクトルMVを(Tf1+ΔTf1)[秒]/(1/24)[秒]倍した動きベクトルに基づいて補間画像CFF1を生成する。補間画像CFF2、CFF3、CFF4についても同様である。
さて、上記の例では、入力された時系列画像信号(原画像OP1)を相対時刻の基準にしたが、必ずしも時系列画像信号(原画像OP1)の時刻を基準としなくてもよい。例えば、映像種別毎の補間方法が特定されていれば、等間隔に均一に配置された相対時刻Tfk(k=1〜4)(以下、均一時刻)を基準にして相対時刻が表現されていてもよい。この表現によれば、均一時刻からのシフト量ΔTfk(k=1〜4)(即ち、入力された時系列画像信号(原画像OP1又は原画像OP2等)に対する「近づき度合い」)が明確になる。なお、相対時刻の表現は、これらの例に限定されない。
続いて、図4Aおよび図4Bを参照しながら、240フレーム/秒の時間解像度に変換される変換処理について説明する。
生成される補間画像信号の枚数は、カメラ映像とフィルム映像との間で異なる。例えば、時間解像度が60フィールド/秒のカメラ映像が入力される場合(図4A)、補間処理部137により生成される補間画像信号の枚数は3枚(補間画像CFC1、CFC2、CFC3)である。他方、時間解像度が24フレーム/秒のフィルム映像が入力される場合(図4B)、補間処理部137によって9枚の補間画像信号(補間画像CFF1〜CFF9)が生成される。なお、補間処理部137は、原画像OP1と原画像OP2との間の任意の時刻に補間画像信号を生成することができる。ただし、最も滑らかな映像にする補間方法は、原画像OP1、OP2の間に、補間画像信号を等間隔で均一に配置することである。
図4Aの例では、原画像OP1の時刻を基準(0秒)にする相対時刻Tc1、Tc2、Tc3に、それぞれ補間画像CFC1、CFC2、CFC3が配置されている。最も滑らかな映像にする補間方法の場合、この相対時刻(Tc1、Tc2、Tc3)は、(1/240、2/240、3/240[秒]となる。
また、図4Bの例では、原画像OP1の時刻を基準(0秒)にする相対時刻Tf1〜Tf9に、それぞれ補間画像CFF1〜CFF9が配置されている。最も滑らかな映像にする補間方法の場合、この相対時刻Tfk(k=1〜9)は、k/240[秒]となる。
なお、各補間画像の生成方法は、120フレーム/秒の場合と同様であるため、詳細な説明は省略する。
以上、本実施形態に係るフレームレート変換部133について説明した。続いて、図2に戻って、本実施形態に係る補正量算出部139について説明する。
補正量算出部139は、時系列画像信号に含まれる原画像の配置位置を基準とし、かつ、時系列画像信号の間に補間される補間画像信号の配置位置を表す補正量を、特徴量検出部121により検出されたデータレートを含む各種の特徴量の変化に応じて算出する。
映像のデータレートに関する情報、映像の画像サイズに関する情報および映像のフレームレートに関する情報等の時系列画像信号を特徴付ける特徴量は、映像圧縮に起因するノイズ量と相関を持つことが知られている。そこで、補正量算出部139は、画像伸張部123から伝送されたこれらの情報を利用し、これらの情報を変数とする関数に基づき、ノイズ超過量換算値を算出する。算出するノイズ超過量換算値は、時系列画像信号に対応する映像の画質を規定する量として用いることが可能である。
ここで、ノイズ超過量換算値は、例えば、以下の式1のように表すことが可能である。なお、以下の式1において、F(a,b,c)は、a,b,cの関数という意味である。
ノイズ超過量換算値
=F(映像のデータレート、映像の画像サイズ、映像のフレームレート)
・・・(式1)
なお、上述の式1においては、ノイズ超過量換算値は、映像のデータレート、映像の画像サイズおよび映像のフレームレートという3つの変数によって規定される関数となっているが、この例に限定されるわけではない。すなわち、ノイズ超過量換算値の変数として、時系列画像信号の動きベクトルに関する情報を変数として更に加えても良い。また、ノイズ超過量換算値を規定する関数は、映像のデータレートなど1種類の変数のみによって規定される関数であってもよい。
具体的なノイズ超過量換算値として、例えば、以下の式2で表される値を利用することが可能である。
ノイズ超過量換算値
=データレート÷(縦方向の画面サイズ×横方向の画面サイズ×フレームレート)
・・・(式2)
なお、データレートとして十分な量が確保されていれば時系列画像信号の画質は維持可能であると考えられるため、上記式2の場合においては、ノイズ超過量換算値が小さい値であるほど、ノイズが多いことを意味することとなる。
また、画面サイズおよびフレームレートを表す値の変動は、データレートを表す値の変動よりも小さいと考え、上記式2を更に簡略化して、ノイズ超過量換算値をデータレートそのものとして扱ってもよい。
補正量算出部139は、上述のようにして算出したノイズ超過量換算値に基づいて、補間画像信号の配置位置を表す補正量(すなわち、相対時刻に関する情報)を算出する。
具体的には、補正量算出部139は、算出したノイズ超過量換算値が所定の閾値以上である(時系列画像信号に含まれるノイズが所定の基準以下である)場合、補間画像が相隣接する原画像間に均等に配置されるように、補正量(相対時刻の設定値)を算出する。
また、補正量算出部139は、算出したノイズ超過量換算値が所定の閾値未満である(時系列画像信号に含まれるノイズが所定の基準超過である)場合、補間画像が原画像側に偏って配置されるように、補正量(相対時刻の設定値)を算出する。
例えば、データレートが所定の閾値未満となり当該閾値から更に小さくなるように変化した場合、補正量算出部139は、配置位置を原画像側に近づける補正量を算出する。また、閾値未満となっているデータレートが当該閾値に近づくように変化した場合、補正量算出部139は、原画像間を均等に分割した均等位置側に配置位置を近づける補正量を算出する。
なお、補間画像の原画像への最終的な近づけ度合いは、記憶部111等に格納されているノイズ超過量換算値とこのノイズ超過量換算値での近づけ度合いとが関連付けられたデータベースを利用して決定することが可能である。また、補間画像の原画像への最終的な近づけ度合いは、統計処理等により予め決定された関数に対してノイズ超過量換算値を代入することで算出してもよい。
ここで、補正量算出部139は、ノイズ超過量換算値が閾値未満となって画質が低下する方向に変化する場合、補正量(すなわち、相対時刻の設定値)が一定の時間(遷移時間tra)で変化後の値へと滑らかに変化するように、当該補正量を算出する。この遷移時間traは、時系列画像信号の視聴者に急激な変化を認識させず、かつ、変化の遅れによる映像の不具合を知覚されない値に設定する。
また、補正量算出部139は、閾値未満となっているノイズ超過量換算値が、画質が向上する方向に変化する場合、補正量(相対時刻の設定値)の変化量を時間当たりで一定(遷移傾きs)とするように、当該補正量を算出する。また、補正量算出部139は、遷移傾きが一定となるような補正量を算出するかわりに、「遷移時間を一定とし、この一定時間内にノイズ超過量換算値が元に戻るための単位時間当たりの変化量」に基づいて、補正量を算出してもよい。かかる補正量を算出することで、視聴者が変化点を知覚することなく本来の補間画像に戻すことが可能となる。
また、補正量算出部139は、映像フォーマットである「映像のデータレート」「映像の画面サイズ」「映像のフレームレート」の他に、映像内容の特徴である「明るさ(輝度)」や「コントラスト(輝度差)」を併用することも可能である。暗い映像やコントラストの低い映像の場合、同一のデータレートかつ同一の映像フォーマットであっても、映像の圧縮処理に起因するノイズは少なくなる。そのため、例えば、映像の明るさが閾値以下の場合、または映像のコントラストが閾値以下の場合、補正量を変化させるデータレートの閾値も下げることで、映像のデータレートが変化した場合においても映像の滑らかさを極力維持させることが可能となる。また、映像の明るさやコントラストの判定レベル(閾値)を複数保持するようにし、それぞれ相対時刻を変化させるデータレートの閾値を変化させることも可能である。
補正量算出部139は、以上のようにして算出した補正量(相対時刻に関する情報)を、生成時刻設定部143に入力する。また、補正量算出部139は、映像種別判別部131から伝送された時系列画像信号の映像種別に関する情報を、補間方法選択部141に伝送してもよい。
なお、上述の説明では、補正量算出部139が、原画像の配置位置を基準とした補正量を算出する場合について説明したが、かかる例に限定されるわけではない。例えば、補正量算出部139は、原画像を基準とした量ではなく、相隣接する原画像間を均等に分割した位置(均等位置)を考慮し、この均等位置からのズレ量として、補正量を算出してもよい。
補間方法選択部141は、補正量算出部139から伝送された映像種別に関する情報に基づいて、時系列画像信号の映像種別に対応する補間方法を選択する。例えば、時系列画像信号がカメラ映像である場合、補間方法選択部141は、そのカメラ映像に適した補間画像信号の枚数、および、これら補間画像信号の生成時刻を選択する。なお、時系列画像信号の映像種別がフィルム映像の場合についても同様に、補間画像信号の枚数、および、これら補間画像信号の生成時刻が選択される。
既に述べた通り、最も滑らかな映像を実現するには、時系列画像信号の間に等間隔で補間画像信号を生成するのが好ましい。そこで、補間方法選択部141は、補間処理後に目標とする時間解像度の値に応じて、例えば、等間隔に補間画像信号が配置されるような生成時刻および枚数を補間方法として選択する。そして、補間方法選択部141は、選択した補間方法に関する情報を生成時刻設定部143に入力する。
生成時刻設定部143は、補正量算出部139から入力された補正量に関する情報、および、補間方法選択部141から入力された補間方法に関する情報に基づき、補間画像信号を生成する生成時刻を設定する。そして、生成時刻設定部143は、設定した生成時刻を、フレームレート変換部133の補間処理部137に入力する。
なお、生成時刻設定部143は、補間処理部137による設定要求に応じて、指定された信号時刻に対応する生成時刻を補間処理部137に入力してもよいし、補間処理部137による設定要求とは関係無く、各時系列画像信号の時刻に対応付けて該当する生成時刻を補間処理部137に入力してもよい。いずれの方法を採用するにせよ、補間処理部137に対して時系列画像信号毎の生成時刻が正しく通知される。
本実施形態において重要なのは、生成時刻設定部143により設定される生成時刻の設定方法である。そこで、当該設定方法について、以下でより詳細に説明する。
まず、生成時刻設定部143は、補正量算出部139から入力された補正量に関する情報に基づいて、原画像の配置位置を基準とする補間画像の配置位置(時間軸に沿った配置位置)を相対的に認識することができる。そこで、生成時刻設定部143は、時系列画像信号に含まれる原画像の配置位置を基準とする補正量(すなわち、相対時間)に基づいて、補間画像信号を生成する生成時刻を設定する。この際、生成時刻設定部143は、補間方法選択部141により選択された補間方法に基づき、視聴者に画質の急激な変化や変化の遅れによる映像の不具合が知覚されないように、最終的な補間画像信号の生成時刻を設定する。
以上、本実施形態に係る映像処理装置10の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る映像処理装置の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<映像処理方法の具体例について>
続いて、図5〜図10を参照しながら、本実施形態に係る映像処理装置10で実施される映像処理方法の具体例を説明する。図5〜図10は、本実施形態に係る映像処理方法の一例を説明するための説明図である。
[カメラ映像に対する映像処理方法−1]
まず、図5を参照しながら、カメラ映像に分類される時系列画像信号が入力された場合を例にとって、本実施形態に係る映像処理方法を説明する。
例えば図5に示したように、ある時刻tにおける特徴量検出部121が処理するカメラ映像のデータレートが変化し、時刻t0においてデータレートが所定の閾値以下のxとなり、時刻t1においてデータレートがy(≦x)となった場合を考える。この際、時刻t0以降の時刻tにおける相対時刻設定Tc1は、補正量算出部139によって以下のように設定される。
○「時刻t0≦時刻t≦時刻t0+tra」の場合
時刻tでの補正量=0.5−{(0.5−データレートxでの補正量)/遷移時間tra}×(時刻t−時刻t0) ・・・(式10)
○「時刻t1≦時刻t≦時刻t1+tra」の場合
時刻tでの補正量=データレートxでの補正量−{(データレートxでの補正量−データレートyでの補正量)/遷移時間tra}×(時刻t−時刻t1) ・・・(式11)
○「時刻t>時刻t1+tra」の場合
時刻tでの補正量=データレートyでの補正量 ・・・(式12)
他方、所定の閾値以下にあるデータレートが増加する場合、補正量算出部139は、先述のように、(i)変化量(傾き)が一定であるとして補正量を算出する、または、(ii)遷移時間が一定であるとして補正量を算出する、のいずれかの方法を用いる。以下の例では、(i)変化量(傾き)が一定であるとして補正量を算出する場合について説明するが、遷移時間が一定である場合の例は、データレートが減少する場合と同様にして算出することができる。
以下の説明では、図5に例示したように、ある時刻t2において、特徴量検出部121が処理するカメラ映像のデータレートがyからx(>y)に変化した場合を考える。この場合、時刻t2以降の時刻tにおける相対時刻設定Tc1は、補正量算出部139によって以下のように設定される。
○「時刻t2≦時刻t≦時刻t2+{(データレートxでの補正量−データレートyでの補正量)÷遷移傾きs}」の場合
時刻tでの補正量=データレートyでの補正量+遷移傾きs×(時刻t−時刻t2)
・・・(式13)
○「時刻t2+{(データレートxでの補正量−データレートyでの補正量)÷遷移傾きs}<時刻t<時刻t3」の場合
時刻tでの補正量=データレートxでの補正量 ・・・(式14)
また、時刻t≧時刻t3の場合についても、上述の例と同様にして算出することが可能である。
[フィルム映像に対する映像処理方法]
次に、図6を参照しながら、フィルム映像に分類される時系列画像信号が入力された場合を例にとって、本実施形態に係る映像処理方法を説明する。
例えば図6に示したように、ある時刻tにおける特徴量検出部121が処理するフィルム映像のデータレートが変化し、時刻t0においてデータレートが所定の閾値以下のxとなり、時刻t1においてデータレートがy(≦x)となった場合を考える。この際、時刻t0以降の時刻tにおける相対時刻設定Tf1〜Tf4は、補正量算出部139によって以下のように設定される。
□Tf1について
○「時刻t0≦時刻t≦時刻t0+tra」の場合
時刻tでの補正量=0.5−{(0.5−データレートxでの補正量)/遷移時間tra}×(時刻t−時刻t0) ・・・(式15)
○「時刻t1≦時刻t≦時刻t1+tra」の場合
時刻tでの補正量=データレートxでの補正量−{(データレートxでの補正量−データレートyでの補正量)/遷移時間tra}×(時刻t−時刻t1) ・・・(式16)
○「時刻t>時刻t1+tra」の場合
時刻tでの補正量=データレートyでの補正量 ・・・(式17)
また、相対時刻設定Tf2〜Tf4については、上述のようにして算出したTf1を利用して、以下の式18〜式20により算出される。
Tf2(t)=2×Tf1(t) ・・・(式18)
Tf3(t)=1.0−2×Tf1(t) ・・・(式19)
Tf4(t)=1.0−Tf1(t) ・・・(式20)
他方、所定の閾値以下にあるデータレートが増加する場合、補正量算出部139は、先述のように、(i)変化量(傾き)が一定であるとして補正量を算出する、または、(ii)遷移時間が一定であるとして補正量を算出する、のいずれかの方法を用いる。以下の例では、(i)変化量(傾き)が一定であるとして補正量を算出する場合について説明するが、遷移時間が一定である場合の例は、データレートが減少する場合と同様にして算出することができる。
以下の説明では、図6に例示したように、ある時刻t2において、特徴量検出部121が処理するフィルム映像のデータレートがyからx(>y)に変化した場合を考える。この場合、時刻t2以降の時刻tにおける相対時刻設定Tf1〜Tf4は、補正量算出部139によって以下のように設定される。
□Tf1について
○「時刻t2≦時刻t≦時刻t2+{(データレートxでの補正量−データレートyでの補正量)÷遷移傾きs}」の場合
時刻tでの補正量=データレートyでの補正量+遷移傾きs×(時刻t−時刻t2)
・・・(式21)
○「時刻t2+{(データレートxでの補正量−データレートyでの補正量)÷遷移傾きs}<時刻t<時刻t3」の場合
時刻tでの補正量=データレートxでの補正量 ・・・(式22)
また、時刻t≧時刻t3の場合についても、上述の例と同様にして算出することが可能である。
また、相対時刻設定Tf2〜Tf4については、上述のようにして算出したTf1を利用して、以下の式23〜式25により算出される。
Tf2(t)=2×Tf1(t) ・・・(式23)
Tf3(t)=1.0−2×Tf1(t) ・・・(式24)
Tf4(t)=1.0−Tf1(t) ・・・(式25)
なお、図6では、データレート等のノイズ超過量換算値が所定の閾値以上の際、各補間画像が均等位置に配設される場合について説明した。しかしながら、映像処理装置10のマシンパワーや利用可能なリソース等に応じて、図7および図8に示したように、ノイズ超過量換算値が所定の閾値以上の場合であっても、補間画像を原画像側に近づけて配置するようにしてもよい。
また、図7に示した例は、原画像側に近づけた位置から、図6において説明したような補正量の算出処理を行う場合であるが、図8に示した例のように、あるデータレートになるまでは、補間画像の配置位置を変更しないような制御を行うことも可能である。
[速度超過量に基づく映像処理方法]
次に、図9を参照しながら、速度超過量に関する情報に基づく映像処理方法について説明し、図10を参照しながら、データレートに関する情報と速度超過量に関する情報とを併用して映像処理を行う場合を説明する。
まず、図9を参照しながら、速度超過量を利用した補正量の算出について説明する。
この場合、補正量算出部139は、動きベクトルの動き量(すなわち、動きベクトルに基づいて算出される速度)が所定の閾値以上となった場合に、この閾値を超える速度を、速度超過量として利用する。補正量算出部139は、算出した速度超過量に基づいて、速度超過量およびノイズ量と相関のあるノイズ超過量換算値を算出する。このノイズ超過量換算値は、速度超過量そのものであってもよい。
補正量算出部139は、算出したノイズ超過量換算値(例えば、図9に示した速度超過量そのもの)に基づいて、補間画像の配置位置を表す補正量(すなわち、相対時刻)を算出する。
補正量算出部139によって算出される補正量(相対時刻)は、1制御時間前の補間画像の補正量に対して、原画像1または2に近づけるように設定される。これにより、フレーム補間による不具合の発生を抑えつつ、フレームレート変換そのものは実行され続けることで、動画性能を改善することができる。このとき、補正量算出部139は、相対時刻の設定を、原画像1または2と同じ時刻設定としてもよい。
図9は、カメラ映像に対して、速度超過量に基づく映像処理を行った場合について図示している。図9の例では、補正量算出部139は、速度超過量が所定の閾値を超えて、画質の低下を招く方向に変化している場合(すなわち、速度超過量が増加する場合)、補間画像の位置を原画像に近づけるように補正量を算出する。また、閾値超過となっている速度超過量が減少する場合には、補正量算出部139は、補間画像の位置を均等位置に近づけるように補正量を算出する。この際、補正量算出部139は、遷移傾きが一定となるように、補正量の算出を行う。
次に、図10を参照しながら、データレートに関する情報と、速度超過量に関する情報とを併用する場合について説明する。
この場合についても、補正量算出部139は、動きベクトルの動き量(すなわち、動きベクトルに基づいて算出される速度)が所定の閾値以上となった場合に、この閾値を超える速度を、速度超過量として利用する。補正量算出部139は、速度超過量およびその時のデータレートを利用して、図10に示したような、予め登録されているデータベースに基づいて、補正量を算出する。図10に示したデータベースでは、速度超過量と補正量との関係を表す曲線がデータレート毎に設定されている。補正量算出部139は、処理を行う時点でのデータレートに基づいて曲線を選択し、選択した曲線に対してその時点での速度超過量を適用することで、補正画像の配置位置を表す補正量を算出することができる。
補正量算出部139によって算出される補正量(相対時刻)は、1制御時間前の補間画像の補正量に対して、原画像1または2に近づけるように設定される。これにより、フレーム補間による不具合の発生を抑えつつ、フレームレート変換そのものは実行され続けることで、動画性能を改善することができる。
なお、図9および図10では、カメラ映像に対して処理を行う場合について図示しているが、かかる映像処理方法は、フィルム画像に対しても同様に適用可能である。
[その他の映像処理例]
また、本実施形態に係る映像処理方法は、視聴中である映画などのフィルム映像(24フレーム/秒)に適したフレーム補間を行う場合において、その補間方式を切り換える制御としても適用可能である。
フィルム映像に適したフレーム補間を行う場合、映像処理装置10は、120フレーム/秒の時間解像度では4枚の補間画像を生成する。この場合、補間画像を生成するために必要となる原画像間の相対時間がカメラ映像よりも大きくなるため、補間画像生成のために用いられる情報である速度検出部135の検出結果の精度が、より高く求められる。
このため、映像信号の画質が劣化した場合において、速度検出部135の検出結果の精度が低下し、補間画像に悪影響を与えると判断されるレベルを超えた場合、フィルム映像に適したフレーム補間を中止して、カメラ映像のためのフレーム補間が実行される。これにより、フレーム補間処理を停止することなく、フレーム補間に伴う画質の劣化を低減し、視聴者へより高画質な映像を提供することが可能となる。
また、画像伸張部123から出力されるデータレートに基づいて、フレーム補間を行う場合において、時系列画像信号がフィルム映像であり、その映像種別が変化しないままでデータレートが閾値を下回った場合についても、同様の切替処理を実行可能である。すなわち、映像処理装置10は、フィルム映像に適したフレーム補間を中止して、カメラ映像のためのフレーム補間方式に切り換えてもよい。この場合において、データレートが閾値以上となった場合、映像処理装置10は、カメラ映像のためのフレーム補間方式からフィルム映像に適したフレーム補間方式へ処理を切り換える。各フレーム補間方式内での制御は前述の方式を使用することができる。
また、時系列画像信号がフィルム映像であり、入力された映像のデータレートと速度超過量とを併用してフィルム映像に適したフレーム補間を行う場合において、その補間方式を切り換える制御としても、同様に適用可能である。
なお、これまでの説明では、特徴量検出部121から得られた情報と、データレート変換部133から得られた情報とを個別に扱うものとしたが、かかる例に限定されるわけではない。すなわち、本実施形態に係る映像処理装置10では、各処理部から得られた情報の論理和、論理積、または両者に重み付けをつけたものを利用することも可能である。
<映像処理方法の流れについて>
続いて、図11を参照しながら、本実施形態に係る映像処理装置10で実施される映像処理方法について、順を追って説明する。図11は、本実施形態に係る映像処理方法を説明するための流れ図である。
本実施形態に係る映像処理装置10の画像伸張部123は、時系列画像信号が入力されると、入力された時系列画像信号を、所定の方式に則って伸張し(ステップS101)、伸張後の時系列画像信号を、ノイズ除去部125に入力する。また、画像伸張部123は、時系列画像信号に付加されている情報を参照して時系列画像信号のデータレートを取得し、このデータレートを、補正量算出部139に入力する。
次に、伸張後の時系列画像信号が入力されたノイズ除去部125は、入力された時系列画像信号に含まれる画像圧縮に起因するノイズを、視聴者の好みやノイズ除去部125に成されている設定等に基づいて低減させたり除去したりする(ステップS103)。ノイズ除去部125は、ノイズの除去処理が終了すると、ノイズが除去された時系列画像信号を、信号選択部127に入力する。信号選択部127は、フレーム補間処理を行う時系列画像信号の選択を行い、選択した時系列画像信号を、輝度計測部129、映像種別判別部131およびフレームレート変換部133に入力する。
次に、輝度計測部129は、入力された時系列画像信号の輝度と、この輝度を利用して決定される画像のコントラストを計測し(ステップS105)、計測結果を補正量算出部139に入力する。また、映像種別判別部131は、入力された時系列画像信号の種別(カメラ映像かフィルム映像か)を判別し(ステップS105)、判別結果を補正量算出部139に入力する。
また、フレームレート変換部133の速度検出部135は、入力された時系列画像信号を解析して動きベクトルの検出を行い(ステップS107)、得られた動きベクトルに関する情報を、補正量算出部139に入力する。
なお、先の説明では、時系列画像信号の輝度計測が行われた後に、映像種別の判別が行われ、更にその後に動きベクトルの検出が行われる場合について説明したが、かかる順番に限定されるわけではない。輝度計測、映像種別の判別および動きベクトルの検出は、任意の順序で実行されてよく、また、これらの処理は、平行して行われてもよい。
補正量算出部139は、入力されたデータレート、映像種別、輝度、コントラスト等の特徴量と、動きベクトルに関する情報との少なくともいずれかを利用して、先に説明した手法により、補間画像信号の配置位置を表す補正量を算出する(ステップS109)。補正量算出部139は、かかる補正量の算出が終了すると、算出した補正量を、生成時刻設定部143に出力する。
生成時刻設定部143は、補正量算出部139から伝送された補正量(相対時刻に関する情報)に基づいて、補間画像信号の生成時刻を設定し(ステップS111)、設定時刻をフレームレート変換部133の補間処理部137に入力する。
続いて、フレームレート変換部133の補間処理部137は、入力された生成時刻に関する情報に基づいて、設定された生成時刻の補間画像信号を生成し、時系列画像信号に補間する(ステップS111)。
かかる処理を行うことで、本実施形態に係る映像処理装置では、時系列画像信号に含まれる画像圧縮に起因するノイズの大きな映像について、フレーム補間の不具合を低減させることが可能となる。
(ハードウェア構成について)
上記映像処理装置が有する映像信号処理機能は、例えば、図12に示すハードウェア構成の一部又は全部を用いて実現することが可能である。図12は、本発明の実施形態に係る表示装置が有する映像処理機能を実現するためのハードウェア構成の一例を詳細に示す説明図である。
本発明の実施形態に係る表示装置1は、例えば、表示パネルおよび表示パネルが載置される本体スタンド等により構成される。表示パネルとしては、例えば、液晶表示パネルや有機ELパネル等が用いられる。有機ELパネルは、自発光型の発光素子(有機EL素子)により形成されており、バックライト等の装置が不要である。そのため、有機ELパネルを採用した表示装置は、バックライト等の装置が別途必要になる液晶表示パネルに比べて薄くて軽く形成される。実際、有機ELパネルの厚さは、約3mm以下にまで抑えることが可能であると言われている。こうした特性を踏まえ、設置の自由度等を高めるといった観点から、表示パネルには、有機ELパネルも使用されていくものと思われる。
ところで、表示装置1に設けられる映像処理装置10は、例えば、表示パネル等が載置される本体スタンドの内部または表示パネルの裏側等に設けられる。本体スタンドには、例えば、衛星放送(BS,CS)、地上デジタル放送のチューナ、LAN(Local Area Network)、HDMI(High−Definition Multimedia Interface)、USB(Universal Serial Bus)等の各種端子が組み込まれる。また、本体スタンドには、地上デジタル放送を受信するためのロッドアンテナやパッチアンテナ等の受信用アンテナ(図示せず。)が設けられる。さらに、本体スタンドには、音声出力用のスピーカボックスやユーザ操作用の操作ボタン等が組み込まれる。
ここで、本体スタンドに設けられた映像処理装置10のハードウェア構成について説明する。図12に示すように、本体スタンドには、例えば、受信回路52、56と、デマルチプレクサ54、60と、デスクランブル回路58と、音声信号処理部62と、データ信号処理部64と、映像信号処理部66と、OSD(On Screen Display)回路68と、合成回路70と、マイコン72とが含まれる。
この例において、本体スタンドには、2系統の受信回路52、56、及び、それぞれに対応する2つのデマルチプレクサ54、60が設けられている。受信回路52は、例えば、あるチャンネルを通じて配信される付加情報信号の受信回路である。一方、受信回路56は、例えば、そのチャンネルを通じて配信される番組放送信号の受信回路である。この映像処理手段には、電源がオンの状態にある場合に、受信回路52を通じて付加情報信号が受信される。さらに、この映像処理装置10には、受信回路56を通じて番組放送信号が受信される。
マイコン72は、本体スタンドに内蔵された映像処理装置10の各構成要素を制御する手段である。マイコン72は、例えば、CPU(Central Processing Unit)722と、ROM(Read Only Memory)724と、RAM(Random Access Memory)726と、EEPROM(Electrically Erasable Programmable ROM)728と、DRAM(Dynamic RAM)730と、USB端子732と、ネットワーク端子734と、バス736とにより構成される。CPU722、ROM724、RAM726、EEPROM728、DRAM730、USB端子732およびネットワーク端子734は、バス736を介して接続される。
ここで、マイコン72の機能を中心に、映像処理装置10による一連の処理について簡単に説明する。マイコン72は、例えば、電源が遮断される直前に受信していた番組放送信号のチャンネル周波数やプログラムIDなどの放送情報をEEPROM728に保持する機能を有する。そして、マイコン72は、電源が再び投入された場合に、前回電源を遮断する直前に受信していた番組放送信号の放送情報をEEPROM728から読み出し、再び選局するための選局制御信号を出力することができる。
この選局制御信号は、バス736を介して接続された受信回路56に入力され、その受信回路56で処理された後、デスクランブル回路58による処理を経てデマルチプレクサ60に入力される。まず、この処理の流れについて説明する。受信回路56を構成するチューナ562は、マイコン72から入力された選局制御信号が示すチャンネル周波数の番組放送信号を受信する。そして、チューナ562により受信された番組放送信号は復調部564に入力される。復調部564は、所定の変調方式で変調されている当該番組放送信号を復調してストリーム信号を生成する。
そして、復調部564により生成されたストリーム信号は誤り訂正部566に入力される。誤り訂正部566は、入力されたストリーム信号に誤り訂正を施してデスクランブル回路58に入力する。このとき、誤り訂正部566は、例えば、リード・ソロモン符号等の符号化方式で符号化されたストリーム信号に対して誤り訂正を施す。デスクランブル回路58は、マイコン72から取得した情報に基づき、誤り訂正後のストリーム信号に施されたスクランブルを解除して番組放送信号を再生する。デスクランブル回路58によりスクランブル解除された番組放送信号はデマルチプレクサ60に入力される。
次に、デマルチプレクサ60に入力された番組放送信号から映像または音声信号等が出力されるまでの流れについて説明する。デマルチプレクサ60は、バス736を介してマイコン72から入力された選択制御信号に基づいて番組放送信号から放送番組データを抽出する。そして、デマルチプレクサ60は、抽出された放送番組データの種類に応じて、その放送番組データを音声信号処理部62、データ信号処理部64または映像信号処理部66に入力する。音声信号処理部62では、入力された放送番組データから音声信号が生成される。データ信号処理部64では、入力された放送番組データから文字または画像を表示するための映像信号が生成される。映像信号処理部66では、入力された放送番組データから映像または画像を表示するための映像信号が生成される。
音声信号処理部62により生成された音声信号は、音声出力端子(非図示)に出力される。データ信号処理部64により生成された映像信号は合成回路70に入力される。同様に、映像信号処理部66により生成された映像信号は合成回路70に入力される。さらに、合成回路70には、OSD回路68により生成された映像信号も入力される。OSD回路68は、例えば、電子番組案内表や各種のガイダンスメッセージ等を表示するための映像信号を生成する。これらの映像信号が入力されると、合成回路70は、データ信号処理部64、映像信号処理部66およびOSD回路68から入力された映像信号を合成し、その合成された映像信号を映像出力端子(図示せず。)に出力する。
次に、付加情報信号が受信回路52により受信されてデマルチプレクサ54に入力されるまでの処理の流れについて簡単に説明する。マイコン72は、選局されたチャンネル信号に多重化された付加情報信号に基づき、そのチャンネル周波数を特定し、そのチャンネル周波数を示す選局制御信号を受信回路52に入力する。受信回路52を構成するチューナ522は、マイコン72から入力された選局制御信号に基づいて付加情報信号を受信する。チューナ522により受信された付加情報信号は復調部524に入力される。復調部524は、チューナ522から入力された付加情報信号を復調して誤り訂正部526に入力する。誤り訂正部526は、復調部524から入力された付加情報信号に誤り訂正を施す。そして、誤り訂正部526により誤り訂正された後の付加情報信号はデマルチプレクサ54に入力される。
デマルチプレクサ54は、マイコン72による制御に応じて、誤り訂正後の付加情報信号から電子番組案内等の付加情報を抽出する。この抽出された付加情報は、マイコン72に入力される。マイコン72は、デマルチプレクサ54により抽出された付加情報をDRAM730に一時的に記憶しておき、この付加情報に基づいて電子番組案内等のOSD信号を出力するようにバス736を介してOSD回路68を制御する。
以上、映像処理装置の機能構成を実現するためのハードウェア構成について具体的な例を挙げて説明した。なお、上記構成は、具体的に、本実施形態に係る技術を適用可能な一例として示したものであり、本実施形態は、上記の例に限定されるものではない。
(まとめ)
以上説明したように、本発明の実施形態によれば、入力された時系列画像信号に含まれる画像圧縮に起因するノイズの大きな映像について、フレーム補間の不具合を低減させることが可能となる。また、ビットレートの低い画像について、画像圧縮に起因するノイズによるフレーム補間の不具合を低減させることが可能となる。
特に、本発明の実施形態によれば、時系列画像信号がフィルム映像のシーケンスを持つ場合において、フィルム映像に適したフレーム補間による不具合をなくし、視聴者に対して映像トータルとして品位の高い映像を表示させることが可能となる。
また、ビットレートが低い映像、または画像圧縮に起因するノイズの大きな映像において、動きの大きな映像におけるフレーム補間の不具合を低減させることが可能となる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
10 映像処理装置
12 地上波チューナ
14 衛星チューナ
16 入力端子
101 入力切替部
103 映像信号処理部
105 映像表示部
107 音声信号処理部
109 音声出力部
111 記憶部
121 特徴量抽出部
123 画像伸張部
125 ノイズ除去部
127 信号選択部
129 輝度計測部
131 映像種別判別部
133 フレームレート変換部
135 速度検出部
137 補間処理部
139 補正量算出部
141 補間方法選択部
143 生成時刻設定部

Claims (7)

  1. 連続的に入力される時系列画像信号間における当該時系列画像信号のデータレートを含む所定の特徴量を検出する特徴量検出部と、
    前記時系列画像信号に含まれる原画像の配置位置を基準とし、かつ、前記時系列画像信号の間に補間される補間画像信号の配置位置を表す補正量を、前記特徴量検出部により検出された特徴量の変化に応じて算出する補正量算出部と、
    前記時系列画像信号の間に補間される補間画像信号の生成時刻を、前記補正量算出部により算出された補正量に基づいて設定する生成時刻設定部と、
    前記生成時刻設定部により設定された生成時刻の補間画像信号を生成し、前記時系列画像信号の補間を行う補間処理部と、
    を備え、
    前記補正量算出部は、
    前記データレートが所定の閾値未満となり当該閾値から更に小さくなるように変化した場合、前記配置位置を前記原画像側に近づける補正量を算出し、
    前記閾値未満となっているデータレートが当該閾値に近づくように変化した場合、前記原画像間を均等に分割した均等位置側に前記配置位置を近づける補正量を算出する、映像処理装置。
  2. 前記補正量算出部は、
    前記データレートが所定の閾値未満となり当該閾値から更に小さくなるように変化した場合、次に表示される前記補間画像信号に対応する補間画像への遷移時間が一定となるように、前記補間画像信号の配置位置に対する前記補正量を算出し、
    前記閾値未満となっているデータレートが当該閾値に近づくように変化した場合、次に表示される前記補間画像信号に対応する前記生成時刻への時間変化量が一定となるように、前記補間画像信号の配置位置に対する前記補正量を算出する、請求項1に記載の映像処理装置。
  3. 前記映像処理装置は、前記時系列画像信号に対する動きベクトルを検出する速度検出部を更に備え、
    前記補正量算出部は、更に、検出された前記動きベクトルの情報に基づいて、前記補正量を算出する、請求項2に記載の映像処理装置。
  4. 前記特徴量検出部は、前記時系列画像信号の輝度と当該輝度の差分であるコントラストとを更に検出し、
    前記補正量算出部は、前記輝度または前記コントラストが所定の閾値以下となる場合、前記データレートの閾値を低い値に変更する、請求項2に記載の映像処理装置。
  5. 前記特徴量検出部は、前記時系列画像信号の種類が、テレビカメラで撮影された映像であるカメラ映像と映画フィルムの映像であるフィルム映像のどちらであるかを判定し、
    前記補正量算出部は、前記時系列画像信号の種類の判定結果に応じて、前記均等位置を算出する、請求項2に記載の映像処理装置。
  6. 前記補正量算出部は、次に表示される前記補間画像信号に対応する補間画像への遷移時間が一定となるように、前記補間画像信号の配置位置に対する前記補正量を算出する、請求項1に記載の映像処理装置。
  7. 連続的に入力される時系列画像信号間における当該時系列画像信号のデータレートを含む所定の特徴量を検出するステップと、
    前記時系列画像信号に含まれる原画像の配置位置を基準とし、かつ、前記時系列画像信号の間に補間される補間画像信号の配置位置を表す補正量を、検出された特徴量の変化に応じて算出するステップと、
    前記時系列画像信号の間に補間される補間画像信号の生成時刻を、算出された補正量に基づいて設定するステップと、
    設定された生成時刻の補間画像信号を生成し、前記時系列画像信号の補間を行うステップと、
    を含み、
    前記補正量を算出するステップでは、
    前記データレートが所定の閾値未満となり当該閾値から更に小さくなるように変化した場合、前記配置位置を前記原画像側に近づける補正量が算出され、
    前記閾値未満となっているデータレートが当該閾値に近づくように変化した場合、前記原画像間を均等に分割した均等位置側に前記配置位置を近づける補正量が算出される、映像処理方法。

JP2009212072A 2009-09-14 2009-09-14 映像処理装置および映像処理方法 Withdrawn JP2011061709A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009212072A JP2011061709A (ja) 2009-09-14 2009-09-14 映像処理装置および映像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009212072A JP2011061709A (ja) 2009-09-14 2009-09-14 映像処理装置および映像処理方法

Publications (1)

Publication Number Publication Date
JP2011061709A true JP2011061709A (ja) 2011-03-24

Family

ID=43948790

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009212072A Withdrawn JP2011061709A (ja) 2009-09-14 2009-09-14 映像処理装置および映像処理方法

Country Status (1)

Country Link
JP (1) JP2011061709A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9183882B2 (en) 2013-03-29 2015-11-10 Kabushiki Kaisha Toshiba Moving-image playback device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9183882B2 (en) 2013-03-29 2015-11-10 Kabushiki Kaisha Toshiba Moving-image playback device

Similar Documents

Publication Publication Date Title
US8107007B2 (en) Image processing apparatus
CN109891902B (zh) 影像显示系统及影像显示方法
JP7117626B2 (ja) 映像表示装置及び映像表示方法
US9094657B2 (en) Electronic apparatus and method
JP4444354B2 (ja) 画像処理装置、および画像処理方法
JP5075195B2 (ja) 映像送信装置、映像受信装置、映像記録装置、映像再生装置及び映像表示装置
US9001272B2 (en) Image synthesizing device, coding device, program, and recording medium
JP7117664B2 (ja) 映像処理システム及び映像処理方法
US20100178038A1 (en) Video player
JP4693918B2 (ja) 画質調整装置および画質調整方法
JP4513873B2 (ja) 映像処理装置、及び映像処理方法
JP2008252591A (ja) 補間フレーム生成装置、補間フレーム生成方法及び放送受信装置
JP5015089B2 (ja) フレームレート変換装置、フレームレート変換方法、テレビジョン受像機、フレームレート変換プログラムおよび該プログラムを記録した記録媒体
JP4267036B2 (ja) 表示制御装置及び表示制御方法
JP2011061709A (ja) 映像処理装置および映像処理方法
JP4388126B1 (ja) プルダウン信号検出装置及びプルダウン信号検出方法、順次走査変換装置
US8704954B2 (en) Signal output device and signal output method
JP4991884B2 (ja) 画像処理装置、および画像処理方法
CN117135372A (zh) 显示装置、显示控制方法以及可读记录介质
KR101462116B1 (ko) 방송처리장치 및 그 제어방법
JP2002247520A (ja) 映像信号出力装置
WO2015155893A1 (ja) 映像出力装置、映像受信装置、および映像出力方法
JP2013247445A (ja) 画像処理装置、画像処理方法、画像処理プログラム、放送受信装置
WO2009081626A1 (en) Interpolation processing apparatus, interpolation processing method, and picture display apparatus

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20121204