JPWO2011099201A1 - 動き検出装置、制御プログラム、および集積回路 - Google Patents

動き検出装置、制御プログラム、および集積回路

Info

Publication number
JPWO2011099201A1
JPWO2011099201A1 JP2011553712A JP2011553712A JPWO2011099201A1 JP WO2011099201 A1 JPWO2011099201 A1 JP WO2011099201A1 JP 2011553712 A JP2011553712 A JP 2011553712A JP 2011553712 A JP2011553712 A JP 2011553712A JP WO2011099201 A1 JPWO2011099201 A1 JP WO2011099201A1
Authority
JP
Japan
Prior art keywords
frequency component
signal
motion
coefficient
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011553712A
Other languages
English (en)
Other versions
JP5350497B2 (ja
Inventor
合志 清一
清一 合志
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2011553712A priority Critical patent/JP5350497B2/ja
Publication of JPWO2011099201A1 publication Critical patent/JPWO2011099201A1/ja
Application granted granted Critical
Publication of JP5350497B2 publication Critical patent/JP5350497B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/142Edging; Contouring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Picture Signal Circuits (AREA)

Abstract

動き検出装置(200)は、動画像を表す信号を入力として、動画像を構成するフレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出するものであって、隣接する2つのフレームの差分を表す差信号(S220)を得る差分算出部(220)と、一方のフレームに含まれる第1エッジ信号(S230)をブロック領域毎に得る第1エッジ検出部(230)と、他方のフレームに含まれる第2エッジ信号(S240)をブロック領域毎に得る第2エッジ検出部(240)と、ブロック領域毎に、第1エッジ信号(S230)に第1の係数を乗算した値と、第2エッジ信号(S240)に第2の係数を乗算した値とを加算してエッジ信号(S250)を得るエッジ算出部(250)と、ブロック領域毎に差信号(S220)をエッジ信号(S250)で除算して動き信号(S260)を得る除算部(260)とを備える。

Description

本発明は、動画像における動き領域を検出する動き検出装置等に関するものである。
従来から、動画像における動き領域を検出する技術が広く用いられている。例えば、画像処理装置等にて動画像の画質を改善するために、ボケが生じやすい動き領域を検出し、該検出した動き領域の画像を鮮鋭化する処理などが行なわれている。
動き領域の検出に関する技術として、特許文献1に開示されている技術がある。特許文献1に開示されている技術は、伝送路にノイズが存在する場合に、ノイズのレベルに応じて動き領域検出の特性を変化させることにより、動き領域検出の誤動作を防止する技術である。
特許文献1に開示されている、動き領域を検出する回路(以下、従来の動き検出回路と称する)について、図4を参照しながら説明する。図4は、従来の動き検出回路の構成を示すブロック図である。同図に示す構成により、従来の動き検出回路は、動画像における動き領域をブロック領域毎に検出する。ブロック領域とは、1または隣接する複数の画素から成る領域である。
同図に示すように、従来の動き検出回路は、フレームメモリ910、フレーム差算出部920、エッジ検出部930、および除算部960を備えている。
フレームメモリ910は、入力される信号を1フレーム毎に保持するとともに、保持している信号を1フレーム毎に出力する。よって、フレームメモリ910から出力される信号は、現在のフレームに対して1つ直前のフレームを表す。
そして、フレーム差算出部920にて、現在のフレームと、フレームメモリ910から出力される直前のフレームとのフレーム差を算出する。一方、エッジ検出部930にて、現在のフレームに含まれるエッジ成分である高周波成分を、ブロック領域毎に検出する。
そして、除算部960にて、フレーム差算出部920にて算出したフレーム差を、エッジ検出部930にて検出した高周波成分の絶対値で除算することによって、ブロック領域毎の動き量を求めている。
日本国公開特許公報「特開平9−168136号公報(公開日:1997年6月24日)」
ここで、従来の動き検出回路にて処理される信号について、図5を参照しながら説明する。図5の(a)は、M番目のフレームの信号の波形を示す模式図である。図5の(b)は、M+1番目のフレームの信号の波形を示す模式図である。なお、Mは任意の整数とする。また、図5の(a)に示すM番目のフレームから、図5の(b)に示すM+1番目のフレームの間、所定物体が、形状を変えずに、等速で画面内を移動しているものとする。
そして、図5の(c)は、フレーム差算出部920にて算出した、図5の(a)に示した信号と図5の(b)に示した信号との差分(フレーム差)を示す模式図である。
そして、図5の(d)は、除算部960にて、図5の(c)に示したフレーム差を、図5の(b)に示したフレームのエッジ成分の絶対値で除算することによって得られる波形を示す模式図である。
ここで、図5の(c)に示すフレーム差を示す信号のうち、M+1番目のフレームの信号から得られた部分(同図のBからCの区間の信号)については、除算により信号値が小さくなるが、M番目のフレームの信号から得られた部分(同図のAからBの区間の信号)については、M+1番目のフレームのエッジ成分が無いので、除算しても信号値が小さくならない。したがって、除算の結果、図5の(d)に示すように、信号値の大きい部分と小さい部分とが混在することとなる。つまり、同一の所定物体が移動しているにもかかわらず、フレーム差において、信号値の大きい部分と小さい部分との差が生じることとなる。
ここで、M番目のフレームにおける所定物体の動き量と、M+1番目のフレームにおける所定物体の動き量とは同一であるので、動き信号S260における、M番目のフレームの信号から得られた部分と、M+1番目のフレームの信号から得られた部分とが、略同一の形状でなければ、動き領域を適切に検出することはできない。
したがって、従来の動き検出回路では、動き領域を適切に検出できない場合がある。
本発明は、上記の問題点に鑑みてなされたものであり、その目的は、簡易な構成により、動画像における動き領域を適切に検出することができる動き検出装置、制御プログラム、および集積回路を提供することにある。
上記課題を解決するために、本発明に係る動き検出装置は、時間的に連続する複数のフレームから構成される動画像を表す信号を入力として、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出する動き検出装置であって、隣接する2つのフレームの差分を表す差信号を算出する差分算出手段と、上記2つのフレームの一方に含まれる第1の高周波成分を、上記ブロック領域毎に算出する第1の高周波成分算出手段と、上記2つのフレームの他方に含まれる第2の高周波成分を、上記ブロック領域毎に算出する第2の高周波成分算出手段と、上記ブロック領域毎に、上記第1の高周波成分に第1の係数を乗算した値と、上記第2の高周波成分に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する第3の高周波成分算出手段と、上記ブロック領域毎に、上記差分算出手段にて算出した上記差信号を、上記第3の高周波成分算出手段にて算出した上記第3の高周波成分にて除算することによって、動き信号を算出する除算手段とを備え、上記動き信号の値が、所定の閾値より大きい上記ブロック領域にて、動きを検出したものとすることを特徴としている。
また、本発明に係る集積回路は、時間的に連続する複数のフレームから構成される動画像を表す信号を入力として、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出する集積回路であって、隣接する2つのフレームの差分を表す差信号を算出する差分算出回路と、上記2つのフレームの一方に含まれる第1の高周波成分を、上記ブロック領域毎に算出する第1の高周波成分算出回路と、上記2つのフレームの他方に含まれる第2の高周波成分を、上記ブロック領域毎に算出する第2の高周波成分算出回路と、上記ブロック領域毎に、上記第1の高周波成分に第1の係数を乗算した値と、上記第2の高周波成分に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する第3の高周波成分算出回路と、上記ブロック領域毎に、上記差分算出回路にて算出した上記差信号を、上記第3の高周波成分算出回路にて算出した上記第3の高周波成分にて除算することによって、動き信号を算出する除算回路とを備えていることを特徴としている。
上記の構成によれば、隣接する2つのフレームの一方に含まれる高周波成分(エッジ成分)に第1の係数を乗算した値と、当該隣接する2つのフレームの他方に含まれる高周波成分(エッジ成分)に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する。そして、隣接する2つのフレームの差分を表す差信号を、第3の高周波成分で除算することによって動き信号を算出する。そして、動き信号の値が、所定の閾値より大きいブロック領域にて、動きを検出したものとする。
よって、隣接する2つのフレームのそれぞれに含まれる高周波成分を考慮して算出された第3の高周波成分によって差信号を除算するので、例えば、画面内を所定物体が等速で移動している場合、除算の結果、信号値の大きい部分と小さい部分とに差が生じることを抑制することができる。
したがって、隣接する2つのフレームのいずれか一方に含まれる高周波成分にて差信号を除算することによって動き信号を算出する従来技術と比べて、より適切に動き領域を検出することができるという効果を奏する。
以上のように、本発明に係る動き検出装置は、時間的に連続する複数のフレームから構成される動画像を表す信号を入力として、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出する動き検出装置であって、隣接する2つのフレームの差分を表す差信号を算出する差分算出手段と、上記2つのフレームの一方に含まれる第1の高周波成分を、上記ブロック領域毎に算出する第1の高周波成分算出手段と、上記2つのフレームの他方に含まれる第2の高周波成分を、上記ブロック領域毎に算出する第2の高周波成分算出手段と、上記ブロック領域毎に、上記第1の高周波成分に第1の係数を乗算した値と、上記第2の高周波成分に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する第3の高周波成分算出手段と、上記ブロック領域毎に、上記差分算出手段にて算出した上記差信号を、上記第3の高周波成分算出手段にて算出した上記第3の高周波成分にて除算することによって、動き信号を算出する除算手段とを備え、上記動き信号の値が、所定の閾値より大きい上記ブロック領域にて、動きを検出したものとする。
また、本発明に係る集積回路は、時間的に連続する複数のフレームから構成される動画像を表す信号を入力として、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出する集積回路であって、隣接する2つのフレームの差分を表す差信号を算出する差分算出回路と、上記2つのフレームの一方に含まれる第1の高周波成分を、上記ブロック領域毎に算出する第1の高周波成分算出回路と、上記2つのフレームの他方に含まれる第2の高周波成分を、上記ブロック領域毎に算出する第2の高周波成分算出回路と、上記ブロック領域毎に、上記第1の高周波成分に第1の係数を乗算した値と、上記第2の高周波成分に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する第3の高周波成分算出回路と、上記ブロック領域毎に、上記差分算出回路にて算出した上記差信号を、上記第3の高周波成分算出回路にて算出した上記第3の高周波成分にて除算することによって、動き信号を算出する除算回路とを備えている。
よって、隣接する2つのフレームの両方に含まれる高周波成分の両方を考慮して算出された第3の高周波成分によって差信号を除算するので、例えば、画面内を所定物体が等速で移動している場合、除算の結果、信号値の大きい部分と小さい部分とに差が生じることを抑制することができる。
したがって、隣接する2つのフレームのいずれか一方に含まれる高周波成分にて差信号を除算することによって動き信号を算出する従来技術と比べて、より適切に動き領域を検出することができるという効果を奏する。
本発明の他の目的、特徴、および優れた点は、以下に示す記載によって十分分かるであろう。また、本発明の利点は、添付図面を参照した次の説明で明白になるであろう。
本発明に係る動き検出装置の構成を示すブロック図である。 図2の(a)は、M番目のフレームの信号の波形を示す模式図である。図2の(b)は、M+1番目のフレームの信号の波形を示す模式図である。図2の(c)は、図2の(a)に示した信号と、図2の(b)に示した信号との差分(フレーム差)を示す模式図である。図2の(d)は、図2の(c)に示したフレーム差を、M+1番目のフレームのエッジ成分の絶対値で除算した信号の波形を示す模式図である。図2の(e)は、図1に示した動き検出装置にて算出したエッジ信号にて図2の(c)に示したフレーム差を除算した信号の波形を示す模式図である。 図1に示した動き検出装置を備える信号処理装置500の構成を示すブロック図である。 従来の動き検出回路の構成を示すブロック図である。 図5の(a)は、M番目のフレームの信号の波形を示す模式図である。図5の(b)は、M+1番目のフレームの信号の波形を示す模式図である。図5の(c)は、図5の(a)に示した信号と、図5の(b)に示した信号との差分(フレーム差)を示す模式図である。図5の(d)は、図4に示した動き検出回路にて、図5の(c)に示したフレーム差を、図5の(b)に示したフレームのエッジ成分の絶対値で除算することによって得られる波形を示す模式図である。
本発明の一実施形態について図1から図3に基づいて説明すると以下の通りである。
(動き検出装置の概要)
本実施形態に係る動き検出装置(集積回路)200は、概略的に言えば、連続する複数のフレーム(画面)から構成されている動画像において、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出するものである。
なお、本明細書における「動き領域」とは、フレーム間で動きのある領域を指しているが、静止していない領域の全てを動き領域としてもよいし、ある程度動きがある(動き量が所定の閾値以上である)領域のみを動き領域としてもよい。
また、好ましいブロック領域は、(1)1画素から成るもの、または、(2)4画素×4画素の16画素から成るものであるが、これらに限定されるものではない。また、必ずしもブロック領域に含まれる全画素の動きを検出する必要は無く、ブロック領域に含まれる少なくとも1画素について動きを検出すればよい。
また、以下では、動き検出装置200に入力される動画像を表す信号(以下、画像信号と表記する)を、入力信号SAと表記する。また、動き検出装置200から出力される画像信号を、出力信号SOと表記する。
また、入力信号SAで表される動画像は、例えば、標準画質テレビジョン(SDTV:Standard Definition Television)または高精細テレビジョン(HDTV:High Definition Television)の受像機等にて、リアルタイムに表示されるものである。
また、入力信号SAは、画像の主走査方向(水平方向、横方向)に隣接して並ぶ画素の画素値から成るデータ列(画素値の系列)によって構成されているものとして説明するが、画像の副走査方向(垂直方向、縦方向)に隣接して並ぶ画素の画素値から成るデータ列によって構成されていてもよい。
(動き検出装置の構成)
図1を参照しながら、動き検出装置200の構成について説明する。図1は、動き検出装置200の構成を示すブロック図である。
同図に示すように、動き検出装置200は、少なくとも、フレームメモリ部210、差分算出部(差分算出手段、差分算出回路)220、第1エッジ検出部(第1の高周波成分算出手段、第1の高周波成分算出回路)230、第2エッジ検出部(第2の高周波成分算出手段、第2の高周波成分算出回路)240、エッジ算出部(第3の高周波成分算出手段、第3の高周波成分算出回路)250、および除算部(除算手段、除算回路)260を備えている。さらに、同図に示すように、リミッタ270を備えていてもよい。
フレームメモリ部210は、入力される信号を1フレーム毎に保持するものである。そして、フレームメモリ部210は、1フレーム毎に、保持している信号を、差分算出部220に出力する。よって、フレームメモリ部210から出力される信号は、直前のフレームを表す。フレームメモリ部210から出力される信号を、メモリ信号S210と表記する。
次に、差分算出部220は、メモリ信号S210で表される直前のフレームと、動き検出装置200に入力される信号で表されるフレーム(現在のフレーム)とのフレーム差を算出するものである。差分算出部220から出力される信号を、差信号S220と表記する。
次に、第1エッジ検出部230は、メモリ信号S210で表される直前のフレームに含まれる高周波成分(エッジ成分)を、ブロック領域毎に検出するものである。そして、該検出した高周波成分を、第1エッジ信号S230(第1の高周波成分)として出力する。
次に、第2エッジ検出部240は、現在のフレームに含まれる高周波成分(エッジ成分)を、ブロック領域毎に検出するものである。そして、該検出した高周波成分を、第2エッジ信号S240(第2の高周波成分)として出力する。
なお、第1エッジ検出部230および第2エッジ検出部240は、高周波成分を通過させるハイパスフィルタなどによって実現できる。
次に、エッジ算出部250は、ブロック領域毎に、第1エッジ信号S230および第2エッジ信号S240を入力として所定の演算を施し、エッジ信号S250(第3の高周波成分)を算出する。所定の演算は、例えば、下記に示す(A)〜(D)などが挙げられる。なお、最も好ましい演算は下記(A)である。
(A)ブロック領域内の各位置において、第1エッジ信号S230の信号値および第2エッジ信号S240の信号値のうち、絶対値の大きい方を、符号の正負を維持して、エッジ信号S250の信号値とする。
(B)ブロック領域内の各位置において、第1エッジ信号S230の信号値と、第2エッジ信号S240の信号値との和を、エッジ信号S250の信号値とする。
(C)ブロック領域内の各位置において、第1エッジ信号S230の信号値と、第2エッジ信号S240の信号値との平均値を、エッジ信号S250の信号値とする。
(D)ブロック領域内の各位置において、第1エッジ信号S230の信号値と、第2エッジ信号S240の信号値との重み付け平均値を、エッジ信号S250の信号値とする。つまり、S250の信号値={(S230の信号値×γ+S240の信号値×ε)/(γ+ε)}とする。なお、γおよびεは、それぞれ、重みを表す任意の正数である。
なお、上記(A)〜(D)の各演算は、第1エッジ信号S230の信号値に第1の係数(以下、係数P1と表記する)を乗算した値と、第2エッジ信号S240の信号値に第2の係数(以下、係数P2と表記する)を乗算した値とを加算することによって、エッジ信号S250の信号値を算出するものであると換言することができる。
具体的には、上記演算(A)は、第1エッジ信号S230の信号値の絶対値が、第2エッジ信号S240の信号値の絶対値以上のとき、P1=1およびP2=0とし、一方、第1エッジ信号S230の信号値の絶対値が、第2エッジ信号S240の信号値の絶対値より小さいとき、P1=0およびP2=1として、第1エッジ信号S230×P1と、第2エッジ信号S240×P2とを加算することによりエッジ信号S250を算出するものである。
また、上記演算(B)は、P1=1およびP2=1として、第1エッジ信号S230×P1と、第2エッジ信号S240×P2とを加算することによりエッジ信号S250を算出するものである。
また、上記演算(C)は、P1=0.5およびP2=0.5として、第1エッジ信号S230×P1と、第2エッジ信号S240×P2とを加算することによりエッジ信号S250を算出するものである。
また、上記演算(D)は、P1={γ/(γ+ε)}とし、P2={ε/(γ+ε)}として、第1エッジ信号S230×P1と、第2エッジ信号S240×P2とを加算することによりエッジ信号S250を算出するものである。
なお、P1およびP2の値は、上記(A)〜(D)の各演算の種類に応じて、エッジ算出部250が設定するものとする。
なお、エッジ信号S250は除算部260にて行なわれる除算に用いられるため、ゼロ除算を防止するために、演算後のエッジ信号S250には、常に所定値(“10”など)が加算されるものとする。
次に、除算部260は、ブロック領域毎に、差信号S220をエッジ信号S250により除算する。言い換えれば、差信号S220をエッジ信号S250により正規化している。これにより、ブロック領域毎の動き量を表す動き信号S260を出力する。フレーム差をエッジ成分で除算することにより動き量を算出することができる理由については、後述する。なお、動き信号S260の信号値の値が大きいほど、動き量が大きいことを示す。
なお、リミッタ270は、動き信号S260のうち、絶対値が閾値THよりも小さい部分について、値を“0”(動きなし)に変更する。つまり、リミッタ270により、動き量の絶対値が閾値THよりも小さいブロック領域については、動きがないと見なす(動きが検出されなかったものとする)。言い換えれば、動き量の絶対値が閾値TH以上であるブロック領域のみについて、動きがあると見なす(動きが検出されたものとする)。なお、閾値THは、適宜、設定可能であるものとする。特に、エッジ算出部250が施す演算の種類に応じて設定されることが好ましい。
(フレーム差をエッジ成分で除算することにより動き量を算出できる理由)
上述のように、動き検出装置200は、差信号S220をエッジ信号S250で除算する。この除算により生成される動き信号S260が、動き量を表すものである理由について説明する。
まず、動画像を構成するM番目のフレームにおける画面上の位置xに存在していた所定物体が、M+1番目のフレームでは、画面上の主走査方向に距離aだけ移動したものと仮定する。なお、Mは任意の整数とし、位置xは画面上の任意の座標位置を示す。ここで、M番目のフレームにおける画面上の位置xの画素値を、関数P(x)と表記すると、下記数式(1)の関係が成り立つ。
Figure 2011099201
ここで、上記数式(1)の右辺は、テイラー展開により、下記数式(2)に展開することができる。
Figure 2011099201
次に、上記数式(2)の両辺から、PM+1(x)を減算すると、下記数式(3)が導かれる。
Figure 2011099201
次に、上記数式(3)の左辺に上記数式(1)を代入すると、下記数式(4)が導かれる。
Figure 2011099201
次に、上記数式(4)の両辺を、PM+1’(x)で除算すると、下記数式(5)が導かれる。
Figure 2011099201
ここで、PM+1’(x)は、M+1番目のフレームにおける位置xのエッジを表すものであるから、上記数式(5)の左辺は、「位置xにおける画素値の、M番目のフレーム、および、M+1番目のフレーム間における差分」を、「M+1番目のフレームにおける位置xのエッジ」により除算したものである。一方、上記数式(5)の右辺は、動き量である距離aである。
したがって、フレーム差をエッジ成分で除算することにより動き量を算出することができる。なお、エッジ成分で除算することにより正規化しているので、フレーム差の大小にかかわらず動き量を求めることができる。
(2つのエッジ成分を演算に用いる理由)
ところで、上述したように、動き検出装置200では、第1エッジ検出部230にてM+1番目のフレームのエッジ成分を検出するとともに、第2エッジ検出部240にてM番目のフレームのエッジ成分を検出する。そして、エッジ算出部250にて、第1エッジ信号S230の信号値、および、第2エッジ信号S240の信号値を用いて、エッジ信号S250を算出する。そして、除算部260にて、差信号S220をエッジ信号S250により除算する。
このように、M番目のフレームのエッジ成分、および、M+1番目のフレームのエッジ成分から算出されたエッジ信号S250にて、フレーム差を除算する理由について、図2を参照しながら説明する。
図2の(a)は、M番目のフレームの信号の波形を示す模式図である。図2の(b)は、M+1番目のフレームの信号の波形を示す模式図である。なお、図2の(a)に示すM番目のフレームから、図2の(b)に示すM+1番目のフレームの間、所定物体が、形状を変えずに、等速で画面内を移動しているものとする。図2の(c)は、図2の(a)に示した信号と、図2の(b)に示した信号との差分(フレーム差)を示す模式図である。
ここで、背景技術の欄にて説明したように、図2の(c)に示したフレーム差を、M+1番目のフレームのエッジ成分のみで除算すると、例えば、図2の(d)に示す波形が得られる。この場合、図2の(c)に示すフレーム差を示す信号のうち、M+1番目のフレームの信号から得られた部分(同図のBからCの区間の信号)については、除算により信号値が小さくなるが、M番目のフレームの信号から得られた部分(同図のAからBの区間の信号)については、M+1番目のフレームのエッジ成分が無いので、除算しても信号値が小さくならない。この場合、除算により得られる動き信号S260に、信号値の大きい部分と小さい部分とが混在することとなる。この場合、背景技術の欄にて説明したように、同一の所定物体が移動しているにもかかわらず、フレーム差において、信号値の大きい部分と小さい部分との差が生じることとなるので、動き領域を適切に検出できない場合がある。
そこで、図2の(c)に示したフレーム差を、M+1番目のフレームのエッジ成分のみで除算するのではなく、M番目のフレームのエッジ成分、および、M+1番目のフレームのエッジ成分から算出されたエッジ信号S250にて除算する。
なお、エッジ信号S250の算出方法は上述したとおりであり、特に、第1エッジ信号S230の信号値と、第2エッジ信号S240の信号値との大きい方を、エッジ信号S250の信号値とするのが好ましい。
このように算出したエッジ信号S250にて図2の(c)に示したフレーム差を除算すると、例えば、図2の(e)に示す波形が得られる。これにより、動き信号S260における、M番目のフレームの信号から得られた部分と、M+1番目のフレームの信号から得られた部分とを略同一にすることができる。
この場合、動き信号S260は、所定物体の輝度レベルによらず、同一または類似のレベルにすることができる。
したがって、動き検出装置200では、動き領域を適切に検出することができる。
なお、単にフレーム差を求める方法では、動き領域を適切に検出することはできない。一例として、画像の輝度データが8ビットデジタル信号である場合について説明する。この場合、輝度値は0〜255のいずかの値をとる。ここで、輝度値が「10」の物体が毎フレーム5画素移動する場合と、輝度値が「100」の物体が毎フレーム5画素移動する場合とでは、フレーム差は異なるが、動き量は同一の毎フレーム5画素である。しかしながら、単にフレーム差を動き量とする方法では、輝度値の高い物体が移動した場合の方が、大きな動き信号となってしまう。つまり、輝度値が「100」の物体の動き量は、輝度値が「10」である所定物体の10倍の動き量を示すこととなる。
(動き検出装置の適用例)
次に、図3を参照しながら、動き検出装置200の適用例について説明する。図3は、動き検出装置200を備える信号処理装置500の構成を示すブロック図である。信号処理装置500は、概略的に言えば、動画像の動き領域を鮮鋭化する装置(エンハンサ)である。
同図に示すように、信号処理装置500は、動き検出装置200の他に、鮮鋭化処理部100と、信号出力部300と、遅延処理部400とを備えている。
鮮鋭化処理部100は、信号処理装置500に入力される動画像を表す信号に対して、波形を鮮鋭化するための鮮鋭化処理を施し、該鮮鋭化された信号を出力するものである。ここで、鮮鋭化処理とは、入力される信号の立ち上がりおよび立ち下がりを急峻にする処理を指す。特に、画像に含まれる輪郭部分(エッジ)に相当する信号の立ち上がりおよび立ち下がりを急峻にするものである。鮮鋭化処理部100の構成は特に限定されるものではなく、一般的に知られているものを用いることができる。
動き検出装置200は、信号処理装置500に入力される信号で表される動画像における、ブロック領域毎の動きを検出する。なお、ここでは、検出結果を、信号出力部300に通知するものとする。
次に、信号出力部300は、動き検出装置200による動きの検出結果に従って、接続点Outと、接続点In1および接続点In2との接続を切り替えるスイッチである。具体的には、動き検出装置200にて動きが検出されたとき、接続点Outと接続点In1とを接続する。一方、動き検出装置200にて動きが検出されなかったとき、接続点Outと接続点In2とを接続する。
次に、遅延処理部400は、信号処理装置500に入力される信号と、鮮鋭化処理部100から出力される信号との間のタイミングを調整するディレイ回路であり、遅延素子から成るものである。
上記構成により、信号出力部300は、動き検出装置200にて動きが検出されたブロック領域については、鮮鋭化処理部100から出力される信号を、出力信号として出力する。一方、動き検出装置200にて動きが検出されなかったブロック領域については、信号処理装置500に入力される信号をそのまま出力信号として出力する。
以上の構成により、信号処理装置500は、動画像の動き領域に対して鮮鋭化処理を施す。これにより、動画像の解像度感を向上させる。
(付記事項)
最後に、動き検出装置200の各ブロックは、集積回路(ICチップ)上に形成された論理回路によってハードウェアとして構成してもよいし、次のようにCPU(central processing unit)を用いてソフトウェアによって実現してもよい。
ソフトウェアによって実現する場合は、動き検出装置200は、各機能を実現する制御プログラムの命令を実行するCPU、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラム及び各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである動き検出装置200の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記動き検出装置200に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク類、ICカード(メモリカードを含む)/光カード等のカード類、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ類、PLD(Programmable logic device)等の論理回路類などを用いることができる。
また、動き検出装置200を通信ネットワークと接続可能に構成し、上記プログラムコードを、通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、IEEE802.11無線、HDR(High Data Rate)、NFC(Near Field Communication)、DLNA(Digital Living Network Alliance)、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。
このように本明細書において、手段とは必ずしも物理的手段を意味するものではなく、各手段の機能がソフトウェアによって実現される場合も含む。さらに、1つの手段の機能が2つ以上の物理的手段により実現されても、もしくは2つ以上の手段の機能が1つの物理的手段により実現されてもよい。
以上のように、本発明に係る動き検出装置は、時間的に連続する複数のフレームから構成される動画像を表す信号を入力として、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出する動き検出装置であって、隣接する2つのフレームの差分を表す差信号を算出する差分算出手段と、上記2つのフレームの一方に含まれる第1の高周波成分を、上記ブロック領域毎に算出する第1の高周波成分算出手段と、上記2つのフレームの他方に含まれる第2の高周波成分を、上記ブロック領域毎に算出する第2の高周波成分算出手段と、上記ブロック領域毎に、上記第1の高周波成分に第1の係数を乗算した値と、上記第2の高周波成分に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する第3の高周波成分算出手段と、上記ブロック領域毎に、上記差分算出手段にて算出した上記差信号を、上記第3の高周波成分算出手段にて算出した上記第3の高周波成分にて除算することによって、動き信号を算出する除算手段とを備え、上記動き信号の値が、所定の閾値より大きい上記ブロック領域にて、動きを検出したものとする。
また、本発明に係る集積回路は、時間的に連続する複数のフレームから構成される動画像を表す信号を入力として、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出する集積回路であって、隣接する2つのフレームの差分を表す差信号を算出する差分算出回路と、上記2つのフレームの一方に含まれる第1の高周波成分を、上記ブロック領域毎に算出する第1の高周波成分算出回路と、上記2つのフレームの他方に含まれる第2の高周波成分を、上記ブロック領域毎に算出する第2の高周波成分算出回路と、上記ブロック領域毎に、上記第1の高周波成分に第1の係数を乗算した値と、上記第2の高周波成分に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する第3の高周波成分算出回路と、上記ブロック領域毎に、上記差分算出回路にて算出した上記差信号を、上記第3の高周波成分算出回路にて算出した上記第3の高周波成分にて除算することによって、動き信号を算出する除算回路とを備えている。
よって、隣接する2つのフレームの両方に含まれる高周波成分の両方を考慮して算出された第3の高周波成分によって差信号を除算するので、例えば、画面内を所定物体が等速で移動している場合、除算の結果、信号値の大きい部分と小さい部分とに差が生じることを抑制することができる。
したがって、隣接する2つのフレームのいずれか一方に含まれる高周波成分にて差信号を除算することによって動き信号を算出する従来技術と比べて、より適切に動き領域を検出することができるという効果を奏する。
さらに、本発明に係る動き検出装置は、上記第3の高周波成分算出手段は、上記第1の高周波成分の絶対値が上記第2の高周波成分の絶対値以上のとき、上記第1の係数を1に設定するとともに、上記第2の係数を0に設定し、上記第1の高周波成分の絶対値が上記第2の高周波成分の絶対値より小さいとき、上記第1の係数を0に設定するとともに、上記第2の係数を1に設定する構成であってもよい。
上記の構成によれば、隣接する2つのフレームの一方に含まれる高周波成分(エッジ成分)と、当該隣接する2つのフレームの他方に含まれる高周波成分(エッジ成分)とのうち、絶対値の大きい方を、符号の正負を維持して、第3の高周波成分として算出することができる。
さらに、本発明に係る動き検出装置は、上記第3の高周波成分算出手段は、上記第1の係数と上記第2の係数との和が1になるように、上記第1の係数および上記第2の係数を0以上1以下のいずれかの値に設定する構成であってもよい。
上記の構成によれば、隣接する2つのフレームの一方に含まれる高周波成分(エッジ成分)の{γ/(γ+ε)}倍と、当該隣接する2つのフレームの他方に含まれる高周波成分(エッジ成分)の{ε/(γ+ε)}倍とを加算したものを、第3の高周波成分として算出することができる。なお、γおよびεは、それぞれ、重みを表す任意の正数である。
さらに、本発明に係る動き検出装置は、上記第3の高周波成分算出手段は、上記第1の係数および上記第2の係数を0.5に設定する構成であってもよい。
上記の構成によれば、隣接する2つのフレームの一方に含まれる高周波成分(エッジ成分)と、当該隣接する2つのフレームの他方に含まれる高周波成分(エッジ成分)との平均値を、第3の高周波成分として算出することができる。
さらに、本発明に係る動き検出装置は、上記第3の高周波成分算出手段は、上記第1の係数および上記第2の係数を1に設定する構成であってもよい。
上記の構成によれば、隣接する2つのフレームの一方に含まれる高周波成分(エッジ成分)と、当該隣接する2つのフレームの他方に含まれる高周波成分(エッジ成分)との和を、第3の高周波成分として算出することができる。
なお、上記動き検出装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記各手段として動作させることにより上記動き検出装置をコンピュータにて実現させる上記動き検出装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
さらに、上記集積回路を備えるチップなども、本発明の範疇に入る。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
発明の詳細な説明の項においてなされた具体的な実施形態または実施例は、あくまでも、本発明の技術内容を明らかにするものであって、そのような具体例にのみ限定して狭義に解釈されるべきものではなく、本発明の精神と次に記載する特許請求事項の範囲内で、いろいろと変更して実施することができるものである。
本発明は、動画像を表すデジタル信号を処理する信号処理装置に適用できる。特に、動画像を鮮鋭化する鮮鋭化処理装置(エンハンサ)等に好適に適用できる。
200 動き検出装置(集積回路)
220 差分算出部(差分算出手段、差分算出回路)
230 第1エッジ検出部(第1の高周波成分算出手段、第1の高周波成分算出回路)
240 第2エッジ検出部(第2の高周波成分算出手段、第2の高周波成分算出回路)
250 エッジ算出部(第3の高周波成分算出手段、第3の高周波成分算出回路)
260 除算部(除算手段、除算回路)
S220 差信号
S230 第1エッジ信号(第1の高周波成分)
S240 第2エッジ信号(第2の高周波成分)
S250 エッジ信号(第3の高周波成分)
S260 動き信号
P1 第1の係数
P2 第2の係数

Claims (7)

  1. 時間的に連続する複数のフレームから構成される動画像を表す信号を入力として、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出する動き検出装置であって、
    隣接する2つのフレームの差分を表す差信号を算出する差分算出手段と、
    上記2つのフレームの一方に含まれる第1の高周波成分を、上記ブロック領域毎に算出する第1の高周波成分算出手段と、
    上記2つのフレームの他方に含まれる第2の高周波成分を、上記ブロック領域毎に算出する第2の高周波成分算出手段と、
    上記ブロック領域毎に、上記第1の高周波成分に第1の係数を乗算した値と、上記第2の高周波成分に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する第3の高周波成分算出手段と、
    上記ブロック領域毎に、上記差分算出手段にて算出した上記差信号を、上記第3の高周波成分算出手段にて算出した上記第3の高周波成分にて除算することによって、動き信号を算出する除算手段とを備え、
    上記動き信号の値が、所定の閾値より大きい上記ブロック領域にて、動きを検出したものとすることを特徴とする動き検出装置。
  2. 上記第3の高周波成分算出手段は、
    上記第1の高周波成分の絶対値が上記第2の高周波成分の絶対値以上のとき、上記第1の係数を1に設定するとともに、上記第2の係数を0に設定し、
    上記第1の高周波成分の絶対値が上記第2の高周波成分の絶対値より小さいとき、上記第1の係数を0に設定するとともに、上記第2の係数を1に設定することを特徴とする請求項1に記載の動き検出装置。
  3. 上記第3の高周波成分算出手段は、上記第1の係数と上記第2の係数との和が1になるように、上記第1の係数および上記第2の係数を0以上1以下のいずれかの値に設定することを特徴とする請求項1に記載の動き検出装置。
  4. 上記第3の高周波成分算出手段は、上記第1の係数および上記第2の係数を0.5に設定することを特徴とする請求項3に記載の動き検出装置。
  5. 上記第3の高周波成分算出手段は、上記第1の係数および上記第2の係数を1に設定することを特徴とする請求項1に記載の動き検出装置。
  6. 請求項1から5のいずれか1項に記載の動き検出装置が備えるコンピュータを動作させる制御プログラムであって、上記コンピュータを上記の各手段として機能させるための制御プログラム。
  7. 時間的に連続する複数のフレームから構成される動画像を表す信号を入力として、フレームを構成する1または隣接する複数の画素から成るブロック領域毎に、フレーム間での動きを検出する集積回路であって、
    隣接する2つのフレームの差分を表す差信号を算出する差分算出回路と、
    上記2つのフレームの一方に含まれる第1の高周波成分を、上記ブロック領域毎に算出する第1の高周波成分算出回路と、
    上記2つのフレームの他方に含まれる第2の高周波成分を、上記ブロック領域毎に算出する第2の高周波成分算出回路と、
    上記ブロック領域毎に、上記第1の高周波成分に第1の係数を乗算した値と、上記第2の高周波成分に第2の係数を乗算した値とを加算することによって第3の高周波成分を算出する第3の高周波成分算出回路と、
    上記ブロック領域毎に、上記差分算出回路にて算出した上記差信号を、上記第3の高周波成分算出回路にて算出した上記第3の高周波成分にて除算することによって、動き信号を算出する除算回路とを備えていることを特徴とする集積回路。
JP2011553712A 2010-02-15 2010-11-08 動き検出装置、制御プログラム、および集積回路 Expired - Fee Related JP5350497B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011553712A JP5350497B2 (ja) 2010-02-15 2010-11-08 動き検出装置、制御プログラム、および集積回路

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010030576 2010-02-15
JP2010030576 2010-02-15
PCT/JP2010/069839 WO2011099201A1 (ja) 2010-02-15 2010-11-08 動き検出装置、制御プログラム、および集積回路
JP2011553712A JP5350497B2 (ja) 2010-02-15 2010-11-08 動き検出装置、制御プログラム、および集積回路

Publications (2)

Publication Number Publication Date
JPWO2011099201A1 true JPWO2011099201A1 (ja) 2013-06-13
JP5350497B2 JP5350497B2 (ja) 2013-11-27

Family

ID=44367494

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011553712A Expired - Fee Related JP5350497B2 (ja) 2010-02-15 2010-11-08 動き検出装置、制御プログラム、および集積回路

Country Status (5)

Country Link
US (1) US8687852B2 (ja)
EP (1) EP2538657A4 (ja)
JP (1) JP5350497B2 (ja)
CN (1) CN102754422B (ja)
WO (1) WO2011099201A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116758494B (zh) * 2023-08-23 2023-12-22 深圳市科灵通科技有限公司 一种网联车车载视频智能监控方法及系统

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05316497A (ja) 1992-05-12 1993-11-26 Toshiba Corp 動き検出回路
JP3067422B2 (ja) 1992-10-27 2000-07-17 松下電器産業株式会社 動き検出装置
JP3240936B2 (ja) 1996-09-30 2001-12-25 日本電気株式会社 動き処理回路
JP2772291B2 (ja) 1996-11-25 1998-07-02 日本放送協会 多重サブサンプル伝送信号のデコーダ
US6295322B1 (en) * 1998-07-09 2001-09-25 North Shore Laboratories, Inc. Processing apparatus for synthetically extending the bandwidth of a spatially-sampled video image
JP3285545B2 (ja) * 1998-09-29 2002-05-27 松下電器産業株式会社 動き検出回路とノイズ低減装置
JP3340976B2 (ja) * 1999-06-21 2002-11-05 松下電器産業株式会社 動き検出回路とノイズ低減装置
US6377313B1 (en) * 1999-09-02 2002-04-23 Techwell, Inc. Sharpness enhancement circuit for video signals
JPWO2002084997A1 (ja) * 2001-04-11 2004-08-05 ソニー株式会社 輪郭強調装置
US7262818B2 (en) * 2004-01-02 2007-08-28 Trumpion Microelectronic Inc. Video system with de-motion-blur processing
JP3781050B1 (ja) * 2005-02-22 2006-05-31 三菱電機株式会社 画像処理装置、画像処理方法、および画像表示装置
JP4116649B2 (ja) * 2006-05-22 2008-07-09 株式会社東芝 高解像度化装置および方法
JP2008160419A (ja) * 2006-12-22 2008-07-10 Sanyo Electric Co Ltd 動き検出装置
EP2416557A4 (en) * 2009-03-31 2013-01-23 Sharp Kk IMAGE ENHANCEMENT DEVICE, IMAGE ENHANCEMENT METHOD, IMAGE ENHANCEMENT PROGRAM, AND SIGNAL PROCESSING DEVICE
US8655101B2 (en) 2009-06-04 2014-02-18 Sharp Kabushiki Kaisha Signal processing device, control method for signal processing device, control program, and computer-readable storage medium having the control program recorded therein
US8427256B2 (en) 2009-06-16 2013-04-23 Sharp Kabushiki Kaisha Waveform shaping device, equalizer, receiving system, method of controlling waveform shaping device, control program, and computer-readable medium in which control program is recorded
CN102598668B (zh) 2009-11-17 2014-11-12 夏普株式会社 编码装置、解码装置、编码装置的控制方法、解码装置的控制方法、传送系统
US8824825B2 (en) 2009-11-17 2014-09-02 Sharp Kabushiki Kaisha Decoding device with nonlinear process section, control method for the decoding device, transmission system, and computer-readable recording medium having a control program recorded thereon

Also Published As

Publication number Publication date
CN102754422A (zh) 2012-10-24
EP2538657A1 (en) 2012-12-26
US20120308085A1 (en) 2012-12-06
JP5350497B2 (ja) 2013-11-27
WO2011099201A1 (ja) 2011-08-18
EP2538657A4 (en) 2014-01-01
CN102754422B (zh) 2015-03-11
US8687852B2 (en) 2014-04-01

Similar Documents

Publication Publication Date Title
US10515437B2 (en) Image processing apparatus and image processing method that perform noise reduction processing on image data
KR102146560B1 (ko) 영상 보정 방법 및 장치
US9262684B2 (en) Methods of image fusion for image stabilization
US8818126B2 (en) Method and apparatus for block-based image denoising
EP2352121A1 (en) Image processing apparatus and method
US8189947B2 (en) Image edge correction apparatus and method
JP3856031B2 (ja) 動き検出装置及びそれを用いたノイズリダクション装置
US20090310882A1 (en) Method, apparatus and integrated circuit capable of reducing image ringing noise
JP4857916B2 (ja) ノイズ抑圧方法、ノイズ抑圧方法のプログラム、ノイズ抑圧方法のプログラムを記録した記録媒体及びノイズ抑圧装置
JP5450668B2 (ja) 信号処理装置、制御プログラム、および集積回路
Kokufuta et al. Real-time processing of contrast limited adaptive histogram equalization on FPGA
JP6146574B2 (ja) ノイズ除去装置、ノイズ除去方法及びプログラム
JP6213558B2 (ja) 画像処理方法、及び画像処理装置
JP2013041565A (ja) 画像処理装置、画像表示装置、画像処理方法、コンピュータプログラム及び記憶媒体
JP2007249436A (ja) 画像信号処理装置及び画像信号処理方法
JP6256703B2 (ja) 画像処理方法、及び画像処理装置
JPWO2013161839A1 (ja) 画像処理方法、及び画像処理装置
JP5350497B2 (ja) 動き検出装置、制御プログラム、および集積回路
JP6256704B2 (ja) 画像処理方法、及び画像処理装置
US9154671B2 (en) Image processing apparatus, image processing method, and program
JP6242196B2 (ja) 画像処理装置、画像処理装置の制御方法、及び、プログラム
US9147231B2 (en) Resolution determination device, image processing device, and image display apparatus
JP6126054B2 (ja) 画像信号処理方法及び画像信号処理装置
US20130114888A1 (en) Image processing apparatus, computer program product, and image processing method
JP5701816B2 (ja) 画像処理装置、画像処理プログラム及び画像処理方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130821

R150 Certificate of patent or registration of utility model

Ref document number: 5350497

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees