JP2009182935A - 画像処理装置および方法、プログラム、並びに記録媒体 - Google Patents
画像処理装置および方法、プログラム、並びに記録媒体 Download PDFInfo
- Publication number
- JP2009182935A JP2009182935A JP2008022709A JP2008022709A JP2009182935A JP 2009182935 A JP2009182935 A JP 2009182935A JP 2008022709 A JP2008022709 A JP 2008022709A JP 2008022709 A JP2008022709 A JP 2008022709A JP 2009182935 A JP2009182935 A JP 2009182935A
- Authority
- JP
- Japan
- Prior art keywords
- image
- frame
- pixel
- motion vector
- interpolation frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Television Systems (AREA)
Abstract
【課題】フレーム中の破綻に対して適応的に見え方を緩和して主観的な画質を改善することができるようにする。
【解決手段】ベクトル修正処理部31は、入力画像の各画素に予め付加されている動きベクトルのそれぞれを、ベクトルデータとして入力を受け付けて、ベクトル特徴量算出部51乃至ベクトルデータ修正部53が、1つのフレームの中で破綻の生じ易い画素の領域があると判定された場合の動きベクトルの修正の処理である部分回避処理を実行し、ベクトルヒストグラム算出部55乃至全体回避判定部57、および全ベクトルデータ修正部54が、1つのフレームがそのフレーム全体として破綻の生じ易いフレームであると判定された場合の動きベクトルの修正の処理である全体回避処理を実行する。内挿フレーム生成部32は、修正された動きベクトルに基づいて、入力画像の画素値から内挿フレームの画像を構成する各画素値を演算する。
【選択図】図3
【解決手段】ベクトル修正処理部31は、入力画像の各画素に予め付加されている動きベクトルのそれぞれを、ベクトルデータとして入力を受け付けて、ベクトル特徴量算出部51乃至ベクトルデータ修正部53が、1つのフレームの中で破綻の生じ易い画素の領域があると判定された場合の動きベクトルの修正の処理である部分回避処理を実行し、ベクトルヒストグラム算出部55乃至全体回避判定部57、および全ベクトルデータ修正部54が、1つのフレームがそのフレーム全体として破綻の生じ易いフレームであると判定された場合の動きベクトルの修正の処理である全体回避処理を実行する。内挿フレーム生成部32は、修正された動きベクトルに基づいて、入力画像の画素値から内挿フレームの画像を構成する各画素値を演算する。
【選択図】図3
Description
本発明は、画像処理装置および方法、プログラム、並びに記録媒体に関し、特に、フレーム中の破綻に対して適応的に見え方を緩和して主観的な画質を改善することができるようにする画像処理装置および方法、プログラム、並びに記録媒体に関する。
従来より、テレビジョン信号の動きを検出する動きベクトル検出回路からの複数の動きベクトルデータの平均動きベクトルデータに基づいて、フレームメモリから読み出されたテレビジョン信号にフレーム内挿処理を施すことが可能である。
内挿フレームの画素値の生成は、例えば、次のようにして行われる。時刻tにおけるフレームの画素値と、動きベクトルvにより時刻tにおけるフレームの画素と対応付けられる時刻t+1のフレームの画素値に基づいて、時刻tにおけるフレームと時刻t+1におけるフレームとの間のであって、時刻t+kのフレームの画素値を、2つの画素値を線形補間する演算により求めることができる。
このようにして画素値が演算された画素により構成されるフレームが内挿フレームになる。
しかし、内挿フレーム生成に用いるベクトルが誤っている場合など、生成される画像上に本来はないエッジが生じて画像として破綻することがある。さらに、これらの破綻が目立って発生すると、画像を観察するユーザに、画質が劣化していると認識されてしまう。
そこで、破綻の見え方を緩和し主観的な画質を改善するために、内挿フレーム生成にて求めた画素値を、大きさ0のベクトル(すなわち(0,0)のベクトル。以降0ベクトルと称する)により時間補間を行った画素値とある割合で混合することが提案されている(例えば、特許文献1参照)。これにより、画像的な破綻を目立たなくすることができる。
しかしながら、特許文献1の技術では、フレーム全体に0ベクトルの混合処理を行うため、全く破綻が生じていない場合も処理が適用される。その結果、画像の動きの滑らかさが損なわれることがある。
本発明はこのような状況に鑑みてなされたものであり、フレーム中の破綻に対して適応的に見え方を緩和して主観的な画質を改善するものである。
本発明の一側面は、動画像の第1のフレームの画像と、前記第1のフレームより時間的に後の第2のフレームの画像に基づいて、前記第1のフレームより時間的に後のフレームであって、前記第2のフレームより時間的に前の内挿フレームの画像を生成する画像処理装置であって、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量を算出し、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理部と、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量を算出し、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理部とからなる動きベクトル修正手段を備える画像処理装置である。
前記動きベクトル修正手段により修正された動きベクトルに基づいて、前記内挿フレームの注目画素に対応する前記第1のフレームの画像の画素値と、前記内挿フレームの注目画素に対応する前記第2のフレームの画像の画素値を特定し、前記特定された前記第1のフレームの画像の画素値および前記第2のフレームの画像の画素値の線形補間により、前記注目画素値を演算して前記内挿フレームの画像を生成する内挿フレーム生成手段をさらに備えるようにすることができる。
前記全体修正処理部は、前記内挿フレームの全ての画素の動きベクトルに、第1の混合比率で0ベクトルを混合することにより、前記内挿フレームの動きベクトルを修正し、前記部分修正処理部は、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルに、第2の混合比率で0ベクトルを混合することにより、前記内挿フレームの画素の動きベクトルを修正するようにすることができる。
前記動きベクトル修正手段は、前記内挿フレームを構成するそれぞれの画素に付加されている動きベクトルのヒストグラムを算出するヒストグラム算出手段と、前記算出されたヒストグラムに基づいて前記内挿フレームを構成するそれぞれの画素に付加されている動きベクトルのうち、前記内挿フレームの画像の代表的な動きを表す代表ベクトルを複数抽出する代表ベクトル抽出手段をさらに備え、前記全体修正処理部が、前記抽出された代表ベクトルの標準偏差に基づいて、前記全体修正処理の実行の要否を判定し、前記全体修正処理の実行要と判定した場合、前記全体修正処理を実行するようにすることができる。
前記代表ベクトル抽出手段は、前記ヒストグラム算出手段により算出されたヒストグラムのデータに、微分に対応するフィルタ処理、または積分に対応するフィルタ処理が施されたデータに基づいて、前記代表ベクトルを抽出するようにすることができる。
前記動きベクトル修正手段は、前記内挿フレームの注目画素の動きベクトルのノルム、並びに、内挿フレームの注目画素の動きベクトルのx成分およびy成分のそれぞれについて注目画素を中心とする周辺の画素の動きベクトルのx成分およびy成分との差分絶対値和を算出するベクトル特徴量算出手段をさらに備え、前記部分修正処理部が、前記算出された前記ノルムおよび前記差分絶対値和に基づいて、前記部分修正処理の実行の要否を判定し、前記部分修正処理の実行要と判定した場合、前記部分修正処理を実行するようにすることができる。
前記ベクトル特徴量算出手段は、前記動画像の種類に応じて、注目画素を中心とする所定の位置の画素の動きベクトルを、前記周辺の画素の動きベクトルとして設定し、前記差分絶対値和を算出するようにすることができる。
前記動きベクトル修正手段は、前記内挿フレームの破綻の可能性の高さに応じて、前記第1の混合比率と前記第2の混合比率を設定するようにすることができる。
本発明の一側面は、動画像の第1のフレームの画像と、前記第1のフレームより時間的に後の第2のフレームの画像に基づいて、前記第1のフレームより時間的に後のフレームであって、前記第2のフレームより時間的に前の内挿フレームの画像を生成する画像処理装置の画像処理方法であって、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量を算出し、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理を実行し、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量を算出し、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理を実行するステップを含む画像処理方法である。
本発明の一側面は、コンピュータを、動画像の第1のフレームの画像と、前記第1のフレームより時間的に後の第2のフレームの画像に基づいて、前記第1のフレームより時間的に後のフレームであって、前記第2のフレームより時間的に前の内挿フレームの画像を生成する画像処理装置であって、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量を算出し、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理部と、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量を算出し、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理部とからなる動きベクトル修正手段を備える画像処理装置として機能させるプログラムである。
本発明の一側面においては、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量が算出され、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理が実行され、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量が算出され、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理が実行される。
本発明によれば、フレーム中の破綻に対して適応的に見え方を緩和して主観的な画質を改善することができる。
以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
本発明の一側面の画像処理装置は、動画像の第1のフレームの画像と、前記第1のフレームより時間的に後の第2のフレームの画像に基づいて、前記第1のフレームより時間的に後のフレームであって、前記第2のフレームより時間的に前の内挿フレームの画像を生成する画像処理装置であって、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量(例えば、代表ベクトルの標準偏差)を算出し、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理部(例えば、図3の全体回避判定部57および全ベクトルデータ修正部54)と、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量(例えば、VDAS値)を算出し、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理部(例えば、図3の部分回避判定部52およびベクトルデータ修正部53)とからなる動きベクトル修正手段(例えば、図3のベクトル修正処理部31)を備える。
この画像処理装置は、前記動きベクトル修正手段により修正された動きベクトルに基づいて、前記内挿フレームの注目画素に対応する前記第1のフレームの画像の画素値と、前記内挿フレームの注目画素に対応する前記第2のフレームの画像の画素値を特定し、前記特定された前記第1のフレームの画像の画素値および前記第2のフレームの画像の画素値の線形補間により、前記注目画素値を演算して前記内挿フレームの画像を生成する内挿フレーム生成手段(例えば、図3の内挿フレーム生成部32)をさらに備えるようにすることができる。
この画像処理装置は、前記動きベクトル修正手段が、前記内挿フレームを構成するそれぞれの画素に付加されている動きベクトルのヒストグラムを算出するヒストグラム算出手段(例えば、図3のベクトルヒストグラム算出部55)と、前記算出されたヒストグラムに基づいて前記内挿フレームを構成するそれぞれの画素に付加されている動きベクトルのうち、前記内挿フレームの画像の代表的な動きを表す代表ベクトルを複数抽出する代表ベクトル抽出手段(例えば、図3の代表ベクトル抽出部56)をさらに備え、前記全体修正処理部が、前記抽出された代表ベクトルの標準偏差に基づいて、前記全体修正処理の実行の要否を判定し、前記全体修正処理の実行要と判定した場合、前記全体修正処理を実行するようにすることができる。
前記代表ベクトル抽出手段は、前記ヒストグラム算出手段により算出されたヒストグラムのデータに、微分に対応するフィルタ(例えば、図6のフィルタ)処理、または積分に対応するフィルタ(例えば、図7のフィルタ)処理が施されたデータに基づいて、前記代表ベクトルを抽出するようにすることができる。
この画像処理装置は、前記動きベクトル修正手段が、前記内挿フレームの注目画素の動きベクトルのノルム、並びに、内挿フレームの注目画素の動きベクトルのx成分およびy成分のそれぞれについて注目画素を中心とする周辺の画素の動きベクトルのx成分およびy成分との差分絶対値和を算出するベクトル特徴量算出手段(例えば、図3のベクトル特徴量算出部51)をさらに備え、前記部分修正処理部が、前記算出された前記ノルムおよび前記差分絶対値和に基づいて、前記部分修正処理の実行の要否を判定し、前記部分修正処理の実行要と判定した場合、前記部分修正処理を実行するようにすることができる。
本発明の一側面の画像処理方法は、動画像の第1のフレームの画像と、前記第1のフレームより時間的に後の第2のフレームの画像に基づいて、前記第1のフレームより時間的に後のフレームであって、前記第2のフレームより時間的に前の内挿フレームの画像を生成する画像処理装置の画像処理方法であって、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量(例えば、代表ベクトルの標準偏差)を算出し、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理を実行し(例えば、図8のステップS11乃至S13の処理)、前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量(例えば、VDAS値)を算出し、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理を実行する(例えば、図8のステップS14およびS15の処理)ステップを含む。
以下、図面を参照して、本発明の実施の形態について説明する。
最初に内挿フレームについて説明する。
時間的に連続するフレームからなる動画像などのデータにおいて、例えば、図1に示されるように、時刻tにおけるフレームの位置qの画素に設定されている動きベクトルvにより、位置qの画素は、時刻t+1におけるフレームにおいて位置rの画素に対応づけられる。なお、時刻tにおけるフレームの各画素には、勾配法、ブロックマッチング法などを用いた処理により、予め動きベクトルが付加されているものとする。
例えば、時刻tにおけるフレームと時刻t+1におけるフレームは、時間的に連続しており、本来時刻tのフレームが再生された後、次に再生されるフレームは、時刻t+1のフレームとなるが、動画像の時間方向の解像度を向上させるために、時刻tと時刻t+1の間に位置する時刻t+kのフレームを生成する。このとき生成される時刻t+kのフレームを内挿フレームと称する。
従来、内挿フレーム(時刻t+kのフレーム)の画素値は、例えば、次のようにして生成されていた。
時刻tのフレームの位置qの画素の動きベクトルvに基づいて得られる時刻t+kのフレームの画素の位置は、位置pとなる。時刻t+kのフレームの位置pの画素値Ft+k(p)は、式(1)に示されるように、2つの点q、rから時間位置の逆比(1-k):kにより線形補間して求められる。なお、時刻tのフレームの位置qの画素値は、Ft(q)で表され、時刻t+1のフレームの位置rの画素値は、Ft+1(r)で表されるものとする。
Ft+k(p) = (1-k)Ft(q) + kFt+1(r) ・・・(1)
しかしながら、内挿フレーム生成に用いるベクトルが誤っている場合などは、生成される画像上に本来はないエッジが生じて画像として破綻することがある。さらに、これらの破綻が目立って発生すると、画像を観察するユーザに、画質が劣化していると認識されてしまう。
そこで、破綻の見え方を緩和し主観的な画質を改善するために、内挿フレーム生成にて求めた画素値を、大きさ0のベクトル(すなわち(0,0)のベクトル。以降「0ベクトル」と称する)により時間補間を行った画素値とある割合で混合することにより、画像の破綻を目立たなくすることができる。
例えば、図2に示されるように、内挿フレームである時刻t+kのフレームの位置pの画素値を、上述のように予め付加されている動きベクトルvに基づいて生成するとともに、そのように生成された動きベクトルvに基づく内挿フレームの画素値を、0ベクトルに基づいて生成される内挿フレームの画素値と混合させることにより補間する。時刻tのフレームの位置pの画素値をFt(p)とし、また、時刻t+1のフレームの位置pの画素値をFt+1(p)とし、時刻t+kにおける0ベクトル補間値(0ベクトルに基づいて生成される内挿フレームの画素値)Gt+k(p)は、式(2)で求めることができる。
Gt+k(p) = (1−k)Ft(p) +kFt+1(p)・・・(2)
さらに、0ベクトル補間値による混合の割合をγとした場合、内挿フレームの最終的な出力画素値F0 t+k(p) は、式(3)により表すことができる。
F0 t+k(p) = (1−γ)Ft+k(p) + γGt+k(p) ・・・(3)
ここで混合する0ベクトル補間値の割合をあまり大きくすると動きが不自然になってしまうので、0<γ<0.5で表される範囲のγ値を利用するとよい。より好ましくは0.25<γ<0.5で表される範囲のγ値を利用すればよい。
このように、予め各画素に設定されている動きベクトルに基づいて生成される内挿フレームの画素値に、全て一律に0ベクトルに基づいて生成される内挿フレームの画素値を混合させて補間する処理を、一律ブレンド処理と称することにする。
なお、予め各画素に設定されている動きベクトルに基づいて生成される内挿フレームの画素値を、0ベクトルに基づいて生成される内挿フレームの画素値を混合させて補間する処理は、各画素に設定されている動きベクトルに、所定の混合比率で0ベクトルを混合させて動きベクトルを修正する処理と言い換えることもできる。
しかしながら、一律ブレンド処理を行う場合、フレーム全体に0ベクトルに基づいて生成される内挿フレームの画素値を混合させて補間する処理を行うため、全く破綻が生じていない場合も処理が適用される。その結果、画像の動きの滑らかさが損なわれることがある。
そこで、本発明では、画像の破綻に応じて適応的に、0ベクトルに基づいて生成される内挿フレームの画素値を混合させて破綻を回避する構成を採用する。
図3は、本発明を適用した画像処理装置の構成例を示すブロック図である。同図に示される画像処理装置10は、ベクトル修正処理部31と、内挿フレーム生成部32により構成されている。
ベクトル修正処理部31は、入力画像の各画素に予め付加されている動きベクトルのそれぞれを、ベクトルデータとして入力を受け付けて、破綻を回避した内挿フレームの画素値を生成するために用いられる動きベクトルとして最適な動きベクトルを、画素毎に求めて出力するようになされている。
ベクトル修正処理部31は、1つのフレームの中で破綻の生じ易い画素の領域を判定し、また、1つのフレームがそのフレーム全体として破綻の生じ易いフレームであるか否かを判定し、それぞれの判定結果に基づいた動きベクトルの修正を行うようになされている。1つのフレームの中で破綻の生じ易い画素の領域があると判定された場合の動きベクトルの修正の処理を、部分回避処理と称することとし、1つのフレームがそのフレーム全体として破綻の生じ易いフレームであると判定された場合の動きベクトルの修正の処理を、全体回避処理と称することにする。
内挿フレーム生成部32は、ベクトル修正処理部31の処理を経て得られる動きベクトルに基づいて、入力画像の画素値から内挿フレームの画像を構成する各画素値を演算し、内挿フレームの画像を生成する。ここで、入力画像としては、時間的に連続する2つのフレームの画像が入力されるものとする。
入力画像のベクトルデータは、ベクトル修正処理部31のベクトル特徴量算出部51と、ベクトルヒストグラム算出部55に供給される。
ベクトル修正処理部31のベクトル特徴量算出部51乃至ベクトルデータ修正部53は、上述した部分回避処理に関する処理を行う機能ブロックである。
ベクトル特徴量算出部51は、画像の中で注目画素を中心とする一部の領域が破綻する可能性が高いか否かを判定するための特徴量を算出する。
ベクトル特徴量算出部51は、入力画像の各画素に付加されている動きベクトルから、内挿フレームの全ての画素に付加される動きベクトルを特定し、例えば、内挿フレームの注目画素の動きベクトルのノルムを特徴量として算出する。また、ベクトル特徴量算出部51は、内挿フレームの注目画素の動きベクトルのx成分およびy成分を抽出し、それぞれについて注目画素を中心とする周辺の画素の動きベクトルのx成分およびy成分との差分絶対値和を特徴量として算出する。ここで、算出される動きベクトルのx成分の差分絶対値和、またはy成分の差分絶対値和を、VDAS(Vector Difference Absolute Summation)と称することにする。
内挿フレームを生成する場合、一般に、動き量が大きい画素を含む部分では破綻が生じ易い。また、内挿フレームを生成する場合、一般に、比較的小さい領域において内挿フレームの生成に用いられる動きベクトルが大きく変化している部分、すなわち動きベクトルが暴れている部分では、破綻が生じ易い。
動き量が大きい画素を含む部分であるか否かは、上述したノルムを算出することにより判定する。
いま、図4に示されるように、時刻tのフレームと、時刻t+1のフレームが入力画像として与えられ、時刻tと時刻t+1の間に位置する時刻t+kのフレームを内挿フレームとして生成する場合を考える。時刻tのフレームの位置qの画素の動きベクトルvに基づいて得られる時刻t+1のフレームの画素の位置は、位置rとなり、動きベクトルvに基づいて得られる時刻t+kのフレームの画素の位置は、位置pとなる。
また、このように、入力画像の各画素に付加されている動きベクトルから、内挿フレームの全ての画素に付加される動きベクトルを特定することが可能である。この例では、内挿フレームの位置pの画素に付加されている動きベクトルが動きベクトルvであると特定できる。
ここで、時刻t+kのフレームの位置pを、(座標)Px,yで表すこととする。時刻t+kにおける位置Px,yの動きベクトルのノルムVNORMt+k(Px,y)は、式(4)により算出される。
例えば、ここで算出されたノルムが閾値を超えている場合、位置Px,yの画素は、動き量が大きい画素であり、この画素を含む部分は、破綻が生じ易いと判断できる。
なお、ここでは、画素値として輝度信号の値が与えられる場合を想定して説明したが、画素値として色差信号の値が与えられる場合、輝度信号において対応する画素位置で算出されたベクトルのノルムを用いるようにすればよい。また、上述したノルムを自乗したものを特徴量として用いてもよいし、必要に応じて動きベクトルのx成分、またはy成分に重みを乗じてノルムを算出してもよい。
また、動きベクトルが暴れている部分であるか否かは、上述したVDASを算出することにより判定する。
例えば、図4の位置Px,yの画素を注目画素とし、注目画素の周辺の画素を、図5に示されるように設定し、それらの画素に付加されている動きベクトルを特定する。図5は、内挿フレームの所定の領域の画素をそれぞれ四角形で表した図であり、図5の例では、注目画素を中心とする25個(=5×5)の画素で構成されるブロックにおいて、図中のハッチングで示される位置の画素が、注目画素の周辺の画素として設定されている。従って、注目画素の周辺の画素の位置は、位置Px-2,y-2、Px,y-2、Px+2,y-2、Px-2,y、Px+2,y、Px-2,y+2、Px,y+2、およびPx+2,y+2の8個の画素となる。
位置Px,yにおけるVDAS値VDASt+k(Px,y)は、式(5)により算出される。
すなわち、x成分の差分絶対値和とy成分の差分絶対値和のうちの大きい方の値が位置Px,yにおけるVDAS値とされる。
なお、x成分の差分絶対値和、およびy成分の差分絶対値和は、それぞれ式(6)および式(7)により求められる。
例えば、ここで算出されたVDAS値が閾値を超えている場合、位置Px,yの画素の周辺の領域は、動きベクトルが暴れている部分であり、この画素を含む部分は、破綻が生じ易いと判断できる。
なお、ここでは、画素値として輝度信号の値が与えられる場合を想定して説明したが、画素値として色差信号の値が与えられる場合、輝度信号において対応する画素位置で算出されたVDAS値を用いればよい。また、式(6)および式(7)のVDAS値算出には絶対値をとる代わりに自乗したものを用いてもよい。さらに、VDAS値の算出にあたって、注目画素の動きベクトルと、周辺の画素の動きベクトルとのユークリッド距離の和を用いてもよい。
また、図5を参照して上述した位置とは異なる位置の画素が注目画素の周辺の画素とされるようにしてもよい。例えば、入力画像の種類によっては、注目画素を中心とする81個(=9×9)のの画素で構成されるブロックから周辺の画素が設定されるようにしてもよい。例えば、符号化方式、フレームレートなどに対応して入力画像の種類を特定し、入力画像の種類に応じて、どの位置の画素が注目画素の周辺の画素として設定されるかが定まるようにしてもよい。
部分回避判定部52は、ベクトル特徴量算出部51から出力される特徴量の値を、予め設定された閾値と比較することにより、画像の中で注目画素を中心とする一部の領域が破綻する可能性が高いか否かを判定する。注目画素を中心とする一部の領域が破綻する可能性が高いと判定された場合、部分回避判定部52は、その旨を表す情報とともに、0ベクトル補間値の混合比率を表す情報をベクトルデータ修正部53に出力する。
ベクトルデータ修正部53は、注目画素を中心とする一部の領域が破綻する可能性が高いと判定された注目画素に付加された動きベクトルを特定する情報と、部分回避判定部52から供給される混合比率とを対応付けて全ベクトルデータ修正部54に出力する。
ベクトル修正処理部31のベクトルヒストグラム算出部55乃至全体回避判定部57、および全ベクトルデータ修正部54は、上述した全体回避処理に関する処理を行う機能ブロックである。
ベクトルヒストグラム算出部55は、ベクトルデータのヒストグラムを算出する。すなわち、ベクトルヒストグラム算出部55は、入力画像の各画素に付加されている動きベクトルから、内挿フレームの全ての画素に付加される動きベクトルを特定し、それらの動きベクトルのヒストグラムを生成する。
代表ベクトル抽出部56は、ベクトルヒストグラム算出部55により生成されたヒストグラムに基づいて代表ベクトルを抽出する。
内挿フレームを生成する場合、上述したように、動き量が大きい画素を含む部分では破綻が生じ易く、動きベクトルが暴れている部分では、破綻が生じ易いと言える。しかし、これらは、フレーム内の特定の部分で破綻が生じることを想定している。一般に、フレーム内の画素に様々な動きが混在する場合、そもそもフレーム全体として破綻が生じ易いと言える。
本発明では、フレーム内の画素に様々な動きが混在するか否かを、フレームの全ての画素に付加される動きベクトルのヒストグラムに基づいて判定する。
図4の例の場合と同様に、時刻t+kのフレームを内挿フレームとして生成する場合、位置Px,yの画素値をFt+k(Px,y)とし、位置Px,yの画素の動ベクトルをVt+k(Px,y)xyとして、ベクトルヒストグラム算出部55は、時刻t +kのフレームにおける全てのベクトルVt+k(Pi,j)xyのヒストグラムを算出する。
そして、代表ベクトル抽出部56は、ベクトルヒストグラム算出部55により生成されたヒストグラムの中で、例えば度数が大きい順に32個の動きベクトルを抽出し、それらの動きベクトルを、当該内挿フレームの代表ベクトルとする。すなわち、当該内挿フレームの各画素に付加されている動きベクトルのうち、多くの画素に付加されているものが代表ベクトルとして抽出される。
例えば、ここで抽出された代表ベクトルの標準偏差が閾値を超えている場合、代表ベクトルが一定ではなく、ばらついていると言えるので、当該内挿フレーム内の画素に様々な動きが混在するものと考えられ、この内挿フレームは、破綻が生じ易いと判断できる。
なお、ベクトルヒストグラム算出部55によるヒストグラムの算出においては、動きベクトルにより特定される始点または終点の画素が低輝度であり、かつ周辺の画素との輝度値の差分が小さい(平坦な)ものである場合、その動きベクトルは、ヒストグラムに積算されないようにすることが好ましい。このような動きベクトルは、信頼性が低いと考えられるからである。
また、代表ベクトル抽出部56による代表ベクトルの抽出においては、ヒストグラムに対して微分や積分を適用した結果が大きい順に抽出してもよい。
例えば、ベクトルヒストグラム算出部55により算出されたヒストグラムがx成分およびy成分に対応する2次元で表されるものである場合、微分すべき動きベクトルの度数と、その周辺の動きベクトルの度数に対して図6に示されるようなフィルタによる演算処理を行うことにより、ヒストグラムに対して微分を適用した結果が得られる。また、積分すべき動きベクトルの度数と、その周辺の動きベクトルの度数に対して図7に示されるようなフィルタによる演算処理を行うことにより、ヒストグラムに対して積分を適用した結果が得られる。
ヒストグラムに対して微分を適用した結果に基づいて代表ベクトルを抽出するようにすれば、例えば、フレーム内の特定の領域の画素の動きベクトルが代表ベクトルとして集中的に抽出されてしまうことが抑止される。
また、ヒストグラムに対して積分を適用した結果に基づいて代表ベクトルを抽出するようにすれば、例えば、ヒストグラムの特異点である動きベクトルが代表ベクトルとして抽出されてしまうことが抑止される。
全体回避判定部57は、代表ベクトル抽出部56により抽出された32個の代表ベクトルのx成分の標準偏差、およびy成分の標準偏差をそれぞれ算出する。そして、全体回避判定部57は、x成分の標準偏差およびy成分の標準偏差の和を、予め設定された閾値と比較することにより、当該内挿フレームが破綻する可能性が高いか否かを判定する。なお、閾値は、例えば30以上の値とされることが望ましい。当該内挿フレームが破綻する可能性が高いと判定された場合、全体回避判定部57は、その旨を表す情報とともに、0ベクトル補間値の混合比率を表す情報を全ベクトルデータ修正部54に出力する。
全ベクトルデータ修正部54は、当該内挿フレームの全画素に付加された動きベクトルのそれぞれを特定する情報と、全体回避判定部57から供給される混合比率とを対応付けて内挿フレーム生成部32に出力する。
内挿フレーム生成部32は、当該内挿フレームの各画素に付加された動きベクトルを、ベクトルデータ修正部53、または全ベクトルデータ修正部54が設定した混合比率によって、0ベクトルと混合させて修正する。そして、内挿フレーム生成部32は、修正した動きベクトルを注目画素に付加すべき動きベクトルとして設定し、例えば、図2を参照して上述したように、式(1)乃至式(3)により画素値を演算して内挿フレーム画像を生成して出力する。
なお、ここでは、内挿フレームの注目画素に付加された動きベクトルを修正するようにしたので、実際には、修正された動きベクトルに基づく式(1)の演算を行えばよいことになる。
このように、本発明の画像処理装置10においては、部分回避処理または全体回避処理の必要性が判定されて、その判定結果に基づいて動きベクトルが修正されて内挿フレームが生成されるようになされている。
次に、図8のフローチャートを参照して、本発明の画像処理装置10による内挿フレーム生成処理について説明する。この処理は、例えば、時間的に連続する動画像のデータが入力され、内挿フレームの生成が指令されたとき、実行される。
ステップS11において、ベクトル修正処理部31は、図9を参照して後述する部分回避判定処理を実行する。これにより、いまから生成する内挿フレームについて全体回避処理が必要であるか否かが判定される。
ここで、図9のフローチャートを参照して、図8のステップS11の全体回避処理の詳細について説明する。
ステップS31において、ベクトルヒストグラム算出部55は、入力画像の各画素に付加されている動きベクトルから、内挿フレームの全ての画素に付加される動きベクトルを特定し、それらの動きベクトルのヒストグラムを生成する。
ステップS32において、代表ベクトル抽出部56は、ステップS31の処理で生成されたヒストグラムに基づいて代表ベクトルを抽出する。このとき、例えば、ヒストグラムの中で、度数が大きい順に32個の動きベクトルが代表ベクトルとして抽出される。
ステップS34において、全体回避判定部57は、ステップS32の処理で抽出された、例えば32個の代表ベクトルのx成分の標準偏差、およびy成分の標準偏差をそれぞれ算出する。
ステップS34において、全体回避判定部57は、x成分の標準偏差およびy成分の標準偏差の和を、予め設定された閾値と比較する。ステップS34において、x成分の標準偏差およびy成分の標準偏差の和が閾値を超えていると判定された場合、当該内挿フレームが破綻する可能性が高いので、処理は、ステップS35に進む。
ステップS35において、全体回避判定部57は、全体回避処理が必要であることを表す全体回避フラグをONに設定する。なお、ここで、0ベクトル補間値の混合比率を表す情報が合わせて設定されるようにしてもよい。
一方、ステップS34において、x成分の標準偏差およびy成分の標準偏差の和が閾値を超えていないと判定された場合、当該内挿フレームが破綻する可能性は低いので、処理は、ステップS36に進む。
ステップS36において、全体回避判定部57は、全体回避フラグをOFFに設定する。
このようにして、全体回避判定処理が実行される。
図8に戻って、ステップS11の処理の後、ステップS12において、全体回避処理が必要であるか否かが判定される。ここでは、上述した全体回避フラグに基づいて全体回避処理の要否が判定される。
ステップS12において、全体回避処理要と判定された場合、処理は、ステップS13に進み、全ベクトルデータ修正部54は、当該内挿フレームの全画素に付加された動きベクトルのそれぞれを特定する情報と、全体回避判定部57から供給される混合比率とを対応付けて出力する。これにより、全ての画素の動きベクトルに0ベクトルが混合されて修正されることになる。
一方、ステップS12において、全体回避処理不要と判定された場合、処理は、ステップS14に進み、図10を参照して後述する部分回避判定処理が実行される。これにより、いまから生成する内挿フレームについて部分回避処理が必要であるか否かが判定される。
ここで、図10のフローチャートを参照して、図8のステップS14の部分回避判定処理の詳細について説明する。
ステップS51において、ベクトル特徴量算出部51は、当該内挿フレームの中での注目画素を設定する。
ステップS52において、ベクトル特徴量算出部51は、ステップS51の処理で設定された注目画素の動きベクトルのノルムを特徴量として算出する。
ステップS53において、ベクトル特徴量算出部51は、ステップS51の処理で設定された注目画素の動きベクトルのx成分およびy成分を抽出し、それぞれについて注目画素を中心とする周辺の画素の動きベクトルのx成分およびy成分との差分絶対値和(VDAS値)を特徴量として算出する。
ステップS54において、部分回避判定部52は、ステップS52の処理で算出されたノルムとノルムに対応する閾値(例えば、30)とを比較し、また、ステップS53の処理で算出されたVDAS値とVDAS値に対応する閾値(例えば、100)とを比較し、少なくともいずれかが閾値を超えているか否かを判定する。
ステップS54において、ノルムまたはVDAS値が閾値を超えていると判定された場合、画像の中で注目画素を中心とする一部の領域が破綻する可能性が高いと考えられるので、処理は、ステップS55に進む。
ステップS55において、部分回避判定部52は、注目画素を部分回避が必要な画素として記憶する。このとき、例えば、注目画素の画素位置を特定する情報が記憶される。また、0ベクトル補間値の混合比率を表す情報が合わせて記憶されるようにしてもよい。
一方、ステップS54において、ノルムまたはVDAS値が閾値を超えていないと判定された場合、画像の中で注目画素を中心とする一部の領域が破綻する可能性が低いと考えられるので、ステップS55の処理は、スキップされる。
このようにして、部分回避処理が実行される。
図8に戻って、ステップS14の処理の後、ステップS15において、ベクトルデータ修正部53は、当該内挿フレームにおいて破綻する可能性が高いと判定された画素に付加された動きベクトルのそれぞれを特定する情報と、部分回避判定部52から供給される混合比率とを対応付けて出力する。これにより、当該画素の動きベクトルに0ベクトルが混合されて修正されることになる。
ステップS13またはステップS15の処理の後、処理は、ステップS16に進み、内挿フレーム生成部32は、当該内挿フレームの各画素に付加された動きベクトルを、ステップS13またはステップS15の処理により設定された混合比率によって、0ベクトルと混合させて修正し、修正した動きベクトルを注目画素に付加すべき動きベクトルとして設定し、画素値を演算することによって内挿フレームの画像を生成する。このとき、例えば、図2を参照して上述したように、式(1)乃至式(3)により画素値が演算される。
ステップS17において、次のフレームがあるか否かが判定され、次のフレームがあると判定された場合、処理は、ステップS11に戻り、それ以降の処理が繰り返し実行される。
ステップS17において、次のフレームがないと判定された場合、内挿フレーム生成処理は終了する。
このようにして、内挿フレームの画像が生成される。
上述した内挿フレーム生成処理において、ステップS13と、ステップS15で画素の動きベクトルに0ベクトルを混合させると説明したが、例えば、ステップS13と、ステップS15での0ベクトルの混合比率が、それぞれ異なるように設定してもよい。すなわち、全体回避処理によって動きベクトルを修正する場合(ステップS13)と、部分回避処理によって動きベクトルを修正する場合(ステップS15)とでは、0ベクトルの混合比率がことなるようにしてもよい。
例えば、生成される内挿フレームに生じる破綻の割合が小さい場合、すなわち、ほぼ正しく動きを求められる画像の場合、部分回避処理による動きベクトルの修正が効果的であるが、このような画像において全体回避処理による動きベクトルの修正が行われると、画像の動きの滑らかさが損なわれる可能性がある。なお、ここでいう、ほぼ正しく動きを求められる画像の例としては、全画面パンやチルトの中で小物体が別の動きをするような場合が挙げられる。
例えば、本発明の処理を施さなくても、もともと生成される内挿フレームに生じる破綻の割合が小さいのであれば、部分回避処理における混合比率(ステップS15の処理における0ベクトルの混合比率)が、全体回避処理における混合比率(ステップS13の処理における0ベクトルの混合比率)より大きな値とされることが好ましい。
また、例えば、生成される内挿フレームに生じる破綻の割合が大きい場合、すなわちほぼ正しく動きを求められない画像の場合、部分回避処理による動きベクトルの修正では破綻を回避しきれない可能性がある。なお、ここでいう、ほぼ正しく動きを求められない画像の例としては、ある程度の大きさをもった様々な物体が動くような場合、全画面にわたって繰り返しパターンがあるような場合などが挙げられる。
例えば、もともと生成される内挿フレームに生じる破綻の割合が大きいのであれば、全体回避処理における混合比率(ステップS13の処理における0ベクトルの混合比率)が、部分回避処理における混合比率(ステップS15の処理における0ベクトルの混合比率)より大きな値とされることが好ましい。
このように、例えば、画像の特徴や過去の処理結果などに基づいて、部分回避処理における混合比率と、全体回避処理における混合比率とをそれぞれ適切に選択すれば、より効果的な破綻回避が可能となる。
例えば、過去に行われた内挿フレームの生成に基づいて、入力画像の内挿フレームに破綻が生じる可能性の高さを数値として入力し、ベクトル修正処理部31が、全体回避処理における混合比率(ステップS13の処理における0ベクトルの混合比率)と、部分回避処理における混合比率(ステップS15の処理における0ベクトルの混合比率)とを、入力された数値に対応する値に設定するようにすればよい。
また、図8を参照して上述した処理では、ステップS11で全体回避判定処理を実行した後、ステップS14で部分回避判定処理が実行されると説明したが、この処理の順序は、本発明の処理を施さなければ、もともと生成される内挿フレームに生じる破綻の割合が大きい場合を想定している。例えば、本発明の処理を施さなくても、もともと生成される内挿フレームに生じる破綻の割合が小さいのであれば、先に部分回避判定処理が実行され、部分回避要となる画素が1つでもある場合は、全体回避判定処理が実行されないようにするようにしてもよい。
あるいはまた、もともと生成される内挿フレームに生じる破綻の割合が小さいのであれば、部分回避処理により修正された動きベクトルを用いて、さらに全体回避判定処理が行われるようにしてもよい。
例えば、過去に行われた内挿フレームの生成に基づいて、入力画像の内挿フレームに破綻が生じる可能性の高さを数値として入力し、ベクトル修正処理部31が、入力された数値に対応して、全体回避判定処理、または部分回避判定処理のいずれを先に実行するかを決定するようにすればよい。
このようにすれば、例えば、ほぼ正しく動きを求められる画像に対して不必要な全体回避処理が実行されて画像の動きの滑らかさが損なわれることが抑止される。
なお、上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。上述した一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば図11に示されるような汎用のパーソナルコンピュータ700などに、ネットワークや記録媒体からインストールされる。
図11において、CPU(Central Processing Unit)701は、ROM(Read Only Memory)702に記憶されているプログラム、または記憶部708からRAM(Random Access Memory)703にロードされたプログラムに従って各種の処理を実行する。RAM703にはまた、CPU701が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU701、ROM702、およびRAM703は、バス704を介して相互に接続されている。このバス704にはまた、入出力インタフェース705も接続されている。
入出力インタフェース705には、キーボード、マウスなどよりなる入力部706、CRT(Cathode Ray Tube)、LCD(Liquid Crystal display)などよりなるディスプレイ、並びにスピーカなどよりなる出力部707、ハードディスクなどより構成される記憶部708、モデム、LANカードなどのネットワークインタフェースカードなどより構成される通信部709が接続されている。通信部709は、インターネットを含むネットワークを介しての通信処理を行う。
入出力インタフェース705にはまた、必要に応じてドライブ710が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア711が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部708にインストールされる。
上述した一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、インターネットなどのネットワークや、リムーバブルメディア711などからなる記録媒体からインストールされる。
なお、この記録媒体は、図11に示される、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク(フロッピディスク(登録商標)を含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア711により構成されるものだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM702や、記憶部708に含まれるハードディスクなどで構成されるものも含む。
なお、本明細書において上述した一連の処理を実行するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
10 画像処理装置, 31 ベクトル修正処理部, 32 内挿フレーム生成部, 51 ベクトル特徴量算出部, 52 部分回避判定部, 53 ベクトルデータ修正部, 54 全ベクトルデータ修正部, 55 ベクトルヒストグラム算出部, 56 代表ベクトル抽出部, 57 全体回避判定部, 701 CPU, 711 リムーバブルメディア
Claims (11)
- 動画像の第1のフレームの画像と、前記第1のフレームより時間的に後の第2のフレームの画像に基づいて、前記第1のフレームより時間的に後のフレームであって、前記第2のフレームより時間的に前の内挿フレームの画像を生成する画像処理装置であって、
前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量を算出し、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理部と、
前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量を算出し、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理部とからなる動きベクトル修正手段
を備える画像処理装置。 - 前記動きベクトル修正手段により修正された動きベクトルに基づいて、
前記内挿フレームの注目画素に対応する前記第1のフレームの画像の画素値と、前記内挿フレームの注目画素に対応する前記第2のフレームの画像の画素値を特定し、
前記特定された前記第1のフレームの画像の画素値および前記第2のフレームの画像の画素値の線形補間により、前記注目画素値を演算して前記内挿フレームの画像を生成する内挿フレーム生成手段を
さらに備える請求項1に記載の画像処理装置。 - 前記全体修正処理部は、前記内挿フレームの全ての画素の動きベクトルに、第1の混合比率で0ベクトルを混合することにより、前記内挿フレームの動きベクトルを修正し、
前記部分修正処理部は、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルに、第2の混合比率で0ベクトルを混合することにより、前記内挿フレームの画素の動きベクトルを修正する
請求項1に記載の画像処理装置。 - 前記動きベクトル修正手段は、
前記内挿フレームを構成するそれぞれの画素に付加されている動きベクトルのヒストグラムを算出するヒストグラム算出手段と、
前記算出されたヒストグラムに基づいて前記内挿フレームを構成するそれぞれの画素に付加されている動きベクトルのうち、前記内挿フレームの画像の代表的な動きを表す代表ベクトルを複数抽出する代表ベクトル抽出手段をさらに備え、
前記全体修正処理部が、前記抽出された代表ベクトルの標準偏差に基づいて、前記全体修正処理の実行の要否を判定し、
前記全体修正処理の実行要と判定した場合、前記全体修正処理を実行する
請求項3に記載の画像処理装置。 - 前記代表ベクトル抽出手段は、
前記ヒストグラム算出手段により算出されたヒストグラムのデータに、微分に対応するフィルタ処理、または積分に対応するフィルタ処理が施されたデータに基づいて、前記代表ベクトルを抽出する
請求項4に記載の画像処理装置。 - 前記動きベクトル修正手段は、
前記内挿フレームの注目画素の動きベクトルのノルム、並びに、内挿フレームの注目画素の動きベクトルのx成分およびy成分のそれぞれについて注目画素を中心とする周辺の画素の動きベクトルのx成分およびy成分との差分絶対値和を算出するベクトル特徴量算出手段をさらに備え、
前記部分修正処理部が、前記算出された前記ノルムおよび前記差分絶対値和に基づいて、前記部分修正処理の実行の要否を判定し、、
前記部分修正処理の実行要と判定した場合、前記部分修正処理を実行する
請求項3に記載の画像処理装置。 - 前記ベクトル特徴量算出手段は、
前記動画像の種類に応じて、注目画素を中心とする所定の位置の画素の動きベクトルを、前記周辺の画素の動きベクトルとして設定し、前記差分絶対値和を算出する
請求項6に記載の画像処理装置。 - 前記動きベクトル修正手段は、
前記内挿フレームの破綻の可能性の高さに応じて、前記第1の混合比率と前記第2の混合比率を設定する。
請求項3に記載の画像処理装置。 - 動画像の第1のフレームの画像と、前記第1のフレームより時間的に後の第2のフレームの画像に基づいて、前記第1のフレームより時間的に後のフレームであって、前記第2のフレームより時間的に前の内挿フレームの画像を生成する画像処理装置の画像処理方法であって、
前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量を算出し、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理を実行し、
前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量を算出し、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理を実行する
ステップを含む画像処理方法。 - コンピュータを、
動画像の第1のフレームの画像と、前記第1のフレームより時間的に後の第2のフレームの画像に基づいて、前記第1のフレームより時間的に後のフレームであって、前記第2のフレームより時間的に前の内挿フレームの画像を生成する画像処理装置であって、
前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像全体の動きの特徴量を算出し、前記画像全体の動きの特徴量に基づいて、前記内挿フレームの全ての画素の動きベクトルを修正する全体修正処理部と、
前記内挿フレーム構成するそれぞれの画素に付加されている動きベクトルに基づいて、前記内挿フレームの画像の部分的動きの特徴量を算出し、前記画像の部分的動きの特徴量に基づいて、前記内挿フレームの画像の前記部分に対応する画素の動きベクトルを修正する部分修正処理部とからなる動きベクトル修正手段を備える画像処理装置として機能させる
プログラム。 - 請求項10に記載のプログラムが記録されている記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008022709A JP2009182935A (ja) | 2008-02-01 | 2008-02-01 | 画像処理装置および方法、プログラム、並びに記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008022709A JP2009182935A (ja) | 2008-02-01 | 2008-02-01 | 画像処理装置および方法、プログラム、並びに記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009182935A true JP2009182935A (ja) | 2009-08-13 |
Family
ID=41036507
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008022709A Withdrawn JP2009182935A (ja) | 2008-02-01 | 2008-02-01 | 画像処理装置および方法、プログラム、並びに記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009182935A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011046051A1 (ja) * | 2009-10-13 | 2011-04-21 | 株式会社クローラ研究所 | 動画追尾による情報提供システム |
US11722636B2 (en) | 2015-09-10 | 2023-08-08 | Sony Group Corporation | Transmission device, transmission method, reception device, and reception method |
-
2008
- 2008-02-01 JP JP2008022709A patent/JP2009182935A/ja not_active Withdrawn
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011046051A1 (ja) * | 2009-10-13 | 2011-04-21 | 株式会社クローラ研究所 | 動画追尾による情報提供システム |
JP2011087017A (ja) * | 2009-10-13 | 2011-04-28 | Crawler Research Institute Inc | 動画追尾による情報提供システム |
US8776104B2 (en) | 2009-10-13 | 2014-07-08 | Crawler Research Institute, Inc. | Information providing system using video tracking |
US11722636B2 (en) | 2015-09-10 | 2023-08-08 | Sony Group Corporation | Transmission device, transmission method, reception device, and reception method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8144255B2 (en) | Still subtitle detection apparatus and image processing method therefor | |
JP4120677B2 (ja) | 複数のフレーム画像からの静止画像の生成 | |
US7599568B2 (en) | Image processing method, apparatus, and program | |
US7936950B2 (en) | Apparatus for creating interpolation frame | |
WO2012111232A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置 | |
US8411974B2 (en) | Image processing apparatus, method, and program for detecting still-zone area | |
JP2012513719A (ja) | 画像スケーリング曲線の生成 | |
US20080240617A1 (en) | Interpolation frame generating apparatus, interpolation frame generating method, and broadcast receiving apparatus | |
US9215353B2 (en) | Image processing device, image processing method, image display device, and image display method | |
US20120287298A1 (en) | Image processing apparatus, image processing method and storage medium | |
US8385430B2 (en) | Video signal processing apparatus and video signal processing method | |
JP4872508B2 (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
US8339519B2 (en) | Image processing apparatus and method and image display apparatus and method | |
KR101279576B1 (ko) | 디지털 영상 처리 장치에서의 파노라마 영상 생성 방법 | |
JP2009182935A (ja) | 画像処理装置および方法、プログラム、並びに記録媒体 | |
JP2008287329A (ja) | 画像評価装置、および画像評価プログラム | |
US8345157B2 (en) | Image processing apparatus and image processing method thereof | |
JP2009290828A (ja) | 画像処理装置及び画像処理方法 | |
US8675998B2 (en) | Method and apparatus for high frequency component smoothing, and image display apparatus | |
JP2007502042A (ja) | グラフィクス重畳検出 | |
JP2007005933A (ja) | 画像調整方法、画像処理回路、及び画像表示装置 | |
JP2008017321A (ja) | 画像処理装置及び画像処理方法 | |
US20120106648A1 (en) | Image processing device and video reproducing device | |
JP4283728B2 (ja) | 動きベクトル検出装置及び動きベクトル検出プログラム | |
WO2014034242A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20110405 |