JP5703448B2 - 画像表示装置及び画像表示方法 - Google Patents

画像表示装置及び画像表示方法 Download PDF

Info

Publication number
JP5703448B2
JP5703448B2 JP2012502891A JP2012502891A JP5703448B2 JP 5703448 B2 JP5703448 B2 JP 5703448B2 JP 2012502891 A JP2012502891 A JP 2012502891A JP 2012502891 A JP2012502891 A JP 2012502891A JP 5703448 B2 JP5703448 B2 JP 5703448B2
Authority
JP
Japan
Prior art keywords
image
moving object
unit
cutout
rotation speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012502891A
Other languages
English (en)
Other versions
JPWO2011108043A1 (ja
Inventor
藤井 博文
博文 藤井
横光 澄男
澄男 横光
藤松 健
健 藤松
偉志 渡邊
偉志 渡邊
裕一 松本
裕一 松本
三輪 道雄
道雄 三輪
杉浦 雅貴
雅貴 杉浦
森岡 幹夫
幹夫 森岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2012502891A priority Critical patent/JP5703448B2/ja
Publication of JPWO2011108043A1 publication Critical patent/JPWO2011108043A1/ja
Application granted granted Critical
Publication of JP5703448B2 publication Critical patent/JP5703448B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

本発明は、360度の全方位画像を取得する全方位カメラを使用した監視カメラシステムに用いて好適な画像表示装置及び画像表示方法に関する。
従来、360度の全方位画像を取得し、取得した全方位画像から所望の画像を抽出して新たな画像を作成し表示する提案がある。例えば特許文献1で開示された「画像生成装置及びシステム」は、1つまたは複数のカメラより取得した周囲画像に対してその中心方位および画角を設定し、取得した周囲画像の全部または一部から、前記設定された中心方位を中心位置とし、且つ前記設定された画角に対応する範囲の画像を抽出してパノラマ画像を作成するようにしている。
また、従来、連続して撮影した撮影画像から所望の画像を切り出し、拡大表示等を行う提案もある。例えば特許文献2で開示された「画像処理装置、カメラ装置及び画像処理方法」は、連続して撮影して得られた撮影画像から被写体の変化による撮影画像の移動部分を検出し、検出した移動部分の撮影画像を含む領域を移動領域画像として切り出し、切り出した移動領域画像について撮影レンズによる歪の補正処理を行うとともに、拡大処理を行い、補正拡大画像を生成するようにしている。
ところで、光軸を真下に向けて全方位カメラを設置していて、当該カメラから得られる全方位画像から差分情報を用いて目的とする画像(例えば人物画像)を検出し、検出した目的画像を中心とする所定の矩形の形状で画像を切り出す場合、全方位画像の中心から外向きが、切り出し画像の上方向になるようにしている。図16にその概略を示す。同図において、符号100で示す点が画像中心であり、符号110で示す画像が切り出し画像である。また、符号120で示す矢印が切り出し画像の上方向である。また、図16では、矩形の切り出し画像110を示す枠のみを示しており、全方位画像(円130で示す部分が全方位画像となる)は省略している。
日本国特開2006−211105号公報 日本国特開2007−311860号公報
しかしながら、画像中心から外向きが切り出し画像の上方向になるように切り出す場合で、図17に示すようにカメラの真下付近を通る移動物体(図示略、例えば“人物”)を追跡する場合、その移動物体を含む切り出し画像が回転するように変化していくため、見辛いという課題がある。また、図18に示すように、切り出し中心がカメラの真下を通過した瞬間に切り出し画像の上下が反転してしまい、この場合も見辛くなるという課題がある。このように画像中心から外向きが切り出し画像の上方向になるように切り出すようにすると、カメラの真下付近を通る移動物体については切り出し画像が見辛くなるという課題がある。
本発明は、係る事情に鑑みてなされたものであり、全方位カメラの真下付近を通過する移動物体を追跡する際に、当該移動物体を含む切り出し画像が回転するように変化することが抑制され、また当該移動物体が全方位カメラの真下を通過する際に切り出し画像の上下が反転したりすることがなく、常に見易い画像表示が可能な画像表示装置及び画像表示方法を提供することを目的とする。
本発明の画像表示装置は、全方位画像内の移動物体を切り出して表示する画像表示装置において、全方位画像内の移動物体の位置を取得する移動物体位置取得部と、切り出し画像の上方向を修正するか否かの判断を行う判断部と、前記判断部が修正を行うと判断した場合に切り出しパラメータを修正するパラメータ修正部と、前記パラメータ修正部で修正された切り出しパラメータに基づいて前記全方位画像から移動物体を含む画像を切り出す切り出し部と、前記切り出し部で切り出された移動物体を含む画像を表示する表示部と、を備える。
上記構成において、前記移動物体位置取得部で取得された前記移動物体の移動位置の前記全方位画像内での座標に基づいて画像の回転速度を算出する回転速度算出部を備え、前記判断部は、前記回転速度算出部で算出された前記回転速度のうち最高回転速度が所定のしきい値以上の時に修正を行うと判断する。
上記構成において、前記移動物体位置取得部で取得された前記移動物体の移動位置の座標を実空間平面上での座標に変換する座標変換部と、前記座標変換部で得られた前記実空間平面上での座標に基づいて画像の回転速度を算出する回転速度算出部とを備え、前記判断部は、前記回転速度算出部で算出された前記回転速度のうち最高回転速度が所定のしきい値以上の時に修正を行うと判断する。
上記構成において、前記移動物体位置取得部は、前記全方位画像から移動物体を検出する移動物体検出部と、前記移動物体検出部で検出された前記移動物体の位置を記憶する移動物体位置記憶部と、前記移動物体位置記憶部に記憶された前記移動物体の位置に基づき前記移動物体の移動位置を予測する移動位置予測部と、から構成される。
上記構成において、前記移動物体位置取得部は、予め記録された全方位画像から移動物体の位置を読み出す。
上記構成において、前記移動物体が上方向固定領域内に入った場合の画像切り出しの上方向を決定する上方向決定部と、前記上方向決定部で決定された前記画像切り出しの上方向を記憶する上方向記憶部とを備え、前記判断部は、前記移動物体位置取得部で取得された前記移動物体の移動位置の前記全方位画像内での座標に基づいて、前記移動物体が上方向固定領域に位置する場合に修正を行うと判断する。
本発明の画像表示方法は、全方位画像内の移動物体を切り出して表示する画像表示方法において、全方位画像内の移動物体の位置を取得する移動物体位置取得ステップと、切り出し画像の上方向を修正するか否かの判断を行う判断ステップと、前記判断ステップで修正を行うと判断した場合に切り出しパラメータを修正するパラメータ修正ステップと、前記パラメータ修正ステップで修正された切り出しパラメータに基づいて前記全方位画像から移動物体を含む画像を切り出す切り出しステップと、前記切り出しステップで切り出された移動物体を含む画像を表示する表示ステップと、を備える。
本発明によれば、全方位カメラの真下付近を通過する移動物体を追跡する際に、当該移動物体を含む切り出し画像が回転するように変化することが抑制され、また当該移動物体が全方位カメラの真下を通過する際に切り出し画像の上下が反転したりすることがなく、常に見易い画像表示が可能となる。
本発明の実施の形態1に係る画像表示装置の概略構成を示すブロック図 図1の画像表示装置の座標変換部による座標変換の様子を示す模式図 図1の画像表示装置に入力した入力画像と切り出し画像を実空間平面上に座標変換した一例を示す図 図1の画像表示装置の動作を説明するための図 図1の画像表示装置の動作を説明するためのフロー図 図1の画像表示装置における回転速度制御の応用例の動作を説明するための図 図1の画像表示装置における回転速度制御の応用例の動作を説明するための図 図1の画像表示装置における回転速度制御の応用例の動作を説明するための図 (a)、(b)図1の画像表示装置における回転速度制御の応用例の動作を説明するための図 本発明の実施の形態2に係る画像表示装置の概略構成を示すブロック図 図10の画像表示装置の動作を説明するためのフロー図 本発明の実施の形態3に係る画像表示装置の概略構成を示すブロック図 図12の画像表示装置の動作を説明するためのフロー図 図12の画像表示装置に用いられる画像記録装置の概略構成を示すブロック図 図14の画像記録装置の動作を説明するためのフロー図 全方位画像からの画像の切り出し動作を説明するための図 従来の全方位画像からの画像切り出しの課題を説明するための図 従来の全方位画像からの画像切り出しの課題を説明するための図 本発明の実施の形態4に係る画像表示装置の概略構成を示すブロック図 全方位画像上の上方向を示す図 上方向固定領域を説明するための図
以下、本発明を実施するための好適な実施の形態について、図面を参照して詳細に説明する。
(実施の形態1)
図1は、本発明の実施の形態1に係る画像表示装置の概略構成を示すブロック図である。同図において、本実施の形態に係る画像表示装置1は、主に移動物体(例えば人物)を監視する監視カメラシステムに適用されるものであり、全方位画像入力部10と、移動物体検出部11と、移動物体位置記憶部12と、移動位置予測部13と、座標変換部14と、回転速度算出部15と、切り出しパラメータ修正部16と、切り出し部17と、表示部18と、を備えて構成される。
全方位画像入力部10は、図示しない全方位カメラからの全方位画像を入力する。移動物体検出部11は、全方位画像入力部10が入力した全方位画像から追尾する移動物体を検出する。移動物体位置記憶部12は、移動物体検出部11で検出された移動物体の位置を記憶する。移動位置予測部13は、移動物体位置記憶部12に記憶された移動物体の位置に基づき該移動物体の移動位置を予測する。座標変換部14は、移動位置予測部13で予測された移動物体の移動位置の座標を実空間平面上での座標に変換する。図2は、座標変換部14による座標変換の様子を模式的に示した例であり、移動物体の移動位置Pの座標(X,Y)を実空間平面上での座標(x,y)に変換する。
回転速度算出部15は、座標変換部14で得られた実空間平面上での座標に基づき画像方向の回転速度を算出する。図3は切り出し画像110を実空間平面上に座標変換した一例である。実空間平面上の2つのベクトルの角度差(θ−θ)を用いることで回転速度を算出することができる。予測した移動物体の位置を実空間平面上へ座標変換した後、実空間平面上での2つのベクトルの角度差を用いて回転速度を算出する。
切り出しパラメータ修正部16は、回転速度算出部15で算出された回転速度のうち最高回転速度が所定のしきい値以上のとき画像の上方向を指定するパラメーラである切り出しパラメータを修正する。パラメータの修正は、回転速度の合計が変わらないように、かつどの時刻でも回転速度がしきい値を越えないように修正する。これにより、パラメータ修正区間の始めと終わりの回転角度をパラメータ非修正区間と合わせることができ、かつパラメータ修正区間での最高回転速度を抑制することができる。例えば図4に示すように、しきい値を超える3つの時刻t〜tそれぞれにおける回転速度をしきい値以下になるように、かつ時刻t〜tの区間での回転速度の積分値(時刻t〜tでの回転角度)が同じであるように切り出しパラメータを修正する。切り出し部17は、切り出しパラメータ修正部16で修正された切り出しパラメータを用いて全方位画像から移動物体を含む画像を切り出す。表示部18は、切り出し部17で切り出された移動物体を含む画像を表示する。
次に、本実施の形態の画像表示装置1の動作を説明する。図5は、画像表示装置1の動作を示すフローチャートである。同図において、全方位画像入力部10が図示しない全方位カメラからの全方位画像を入力すると、移動物体検出部11が移動物体(追尾する移動物体)の検出を行い(ステップS1)、追尾する移動物体を検出できたか否かを判定する(ステップS2)。追尾する移動物体を検出できない場合は本処理を終了し、検出できた場合は当該移動物体の位置を出力する。移動物体位置記憶部12は、移動物体検出部11から出力された移動物体の位置を記憶する(ステップS3)。移動物体の位置が記憶されると、移動位置予測部13が移動物体位置記憶部12に記憶された移動物体の位置から次の移動位置を予測する(ステップS4)。そして、移動位置予測部13が予測した移動物体の位置を座標変換部14が実空間平面上に座標変換する(ステップS5)。
次いで、回転速度算出部15が実空間平面上に座標変換された予測位置から回転速度を算出し(ステップS6)、算出した回転速度がしきい値以上であるか否かを判定する(ステップS7)。算出した回転速度がしきい値以上である場合は切り出しパラメータ修正部16がしきい値未満になるように切り出しパラメータを修正する(ステップS8)。パラメータの修正が行われた後、切り出し部17が、修正された切り出しパラメータを用いて全方位画像から移動物体を含む画像を切り出す(ステップS9)。そして、切り出された画像を表示部18が表示する(ステップS10)。この処理を終えた後、ステップS1に戻り、同様の処理を繰り返す。また、ステップS7の判定において、回転速度算出部15が算出した回転速度がしきい値未満であれば、切り出しパラメータの修正が行われず、そのまま切り出し処理に移行する。
このように本実施の形態の画像表示装置1によれば、移動物体の現在の位置から次の位置を予測し、予測した移動位置の座標を実空間平面上での座標に変換し、実空間平面上での座標に基づき画像方向の回転速度を算出し、算出した回転速度のうち最高回転速度が所定のしきい値以上のときに切り出し画像の上方向を設定する切り出しパラメータを修正し、修正した切り出しパラメータを用いて全方位画像から移動物体を含む画像を切り出して表示する。したがって、全方位画像から移動物体を含む画像を切り出すときに回転速度を調整して切り出すことから、全方位カメラの真下付近を通過する移動物体を追跡する際に、当該移動物体を含む切り出し画像が回転するように変化することが抑制され、画像が見辛くなることがない。すなわち、従来よりも見易い画像表示が可能となる。
なお、上記実施の形態では、図4に示すように、最高回転速度が所定のしきい値以上のときに切り出し画像の上方向を設定する切り出しパラメータを修正するようにしたが、図6に示すように、切り出し開始時の画像と切り出し終了時の画像とを除いて、一定の回転速度に制御するようにしてもよい。一定の回転速度に制御することで、さらに見易い画像表示が可能となる。
また、図7に示すように、最高回転速度が所定のしきい値を超えている時刻では回転速度を抑制し(中央の楕円で示している箇所)、そうでない時刻では回転速度を上げる(両端の楕円で示している箇所)ようにパラメータを修正するようにしてもよい。これによりパラメータ修正区間での見え方をより見やすくすることができる。
また、図8に示すように、パラメータ修正を行う区間の両端部分(楕円で示している箇所)での修正量を減らし、中心部分での修正量を増やすように修正してもよい。これにより、パラメータ修正のない区間とのつながりをスムースにすることができる。
また、特に移動物体が全方位カメラの真下付近を通過する場合、切り出し画像の回転速度を一定値以下に抑えつつ、移動物体のカメラ真下への接近時には進行方向と速度に応じて早めに回転を始めにするように切り出しパラメータを修正し、またカメラ真下付近通過後は進行方向と速度に応じて遅めに回転するように切り出しパラメータを修正するのが望ましい。その様子を図9の(a)に示す。なお、図9の(b)は従来の画像の切り出しを示す図である。
(実施の形態2)
図10は、本発明の実施の形態2に係る画像表示装置の概略構成を示すブロック図である。なお、同図において前述した図1と共通する部分には同一の符号を付けてその説明を省略する。
前述した実施の形態1の画像表示装置1は、画像を切り出す向き(矢印の向き)を変えるようにしたが、本実施の形態の画像表示装置2は、矢印の向きを上方向に固定したままで画像の切り出しを行うようにしたものである。これを実現するために本実施の形態の画像表示装置2は、移動物体検出部11で検出された移動物体が上方向固定領域に突入したとき画像切り出し時の上方向を決定する上方向決定部20と、上方向決定部20で決定された画像切り出し時の上方向を記憶する上方向記憶部21とを備える。切り出しパラメータ修正部16は、移動物体が上方向固定領域内に存在しているとき上方向記憶部21に記憶された画像切り出し時の上方向に基づき切り出しパラメータを修正する。切り出し部17は、切り出しパラメータ修正部16で修正された切り出しパラメータを用いて全方位画像から移動物体を含む画像を切り出す。表示部18は、切り出し部17で切り出された移動物体を含む画像を表示する。
図21は上方向固定領域を説明するための図である。図21を用いて上方向の固定方法について具体的に説明する。移動物体は図中の破線矢印のように移動している。110−0から110−3は各時点での切り出し画像を、120−0から120−3は各時点での上方向を表す。150は上方向固定領域を表す。移動物体が上方向固定領域150に入るまではパラメータの修正は行わず通常の切り出し画像を作成する。切り出し画像110−0の上方向である120−0は、画像中心から移動物体に向けて伸ばした線分の方向が切り出し画像の上方向となっている。
次に、移動物体が上方向固定領域150に入った時点での上方向を記憶する。この場合は、上方向120−1を記憶する。それ以降上方向固定領域150内での切り出し画像の上方向が120−1と同じ方向に固定されるようパラメータを修正した切り出し画像を作成する。
図11は、本実施の形態の画像表示装置2の動作を示すフローチャートである。同図において、全方位画像入力部10が図示しない全方位カメラからの全方位画像を入力すると、移動物体検出部11が移動物体(追尾する移動物体)の検出を行い(ステップS20)、追尾する移動物体を検出できたか否かを判定する(ステップS21)。追尾する移動物体を検出できない場合は本処理を終了し、検出できた場合は当該移動物体が予め設定されている上方向固定領域に突入したかどうかを判定する(ステップS22)。追尾している移動物体が上方向固定領域に突入した場合は、その移動物体の上方向を決定し(ステップS23)、次いで決定した上方向を記憶する(ステップS24)。一方、ステップS22の判定で、追尾している移動物体が上方向固定領域に突入していない場合は、何も処理をせず次のステップS25に移行する。
追尾している移動物体が上方向固定領域に突入してその上方向を決定して記憶した後、あるいは上方向固定領域に突入していない場合、追尾している移動物体が上方向固定領域内かどうか判定する(ステップS25)。上方向固定領域内である場合、切り出しパラメータすなわち上方向を定めるパラメータを修正する(ステップ26)。上方向固定領域外である場合、あるいは上方向固定領域内で切り出しパラメータを修正した後、切り出し部17が、修正された切り出しパラメータを用いて全方位画像から移動物体を含む画像を切り出す(ステップS27)。そして、切り出し部17が全方位画像から移動物体を含む画像を切り出すと、表示部18がその画像を表示する(ステップS28)。この処理を終えた後、ステップS20に戻り、同様の処理を繰り返す。
このように本実施の形態の画像表示装置2によれば、移動物体が上方向固定領域に突入したときに画像切り出し時の上方向を決定し、その時の上方向を記憶し、移動物体が上方向固定領域内に存在しているときに、記憶している画像切り出し時の上方向に基づき切り出しパラメータを修正し、その切り出しパラメータを用いて全方位画像から移動物体を含む画像を切り出して表示する。したがって、全方位画像から移動物体を含む画像を切り出すときに、上方向を固定した状態で切り出すことから、全方位カメラの真下付近を通過する移動物体を追跡する際に、当該移動物体を含む切り出し画像が回転するように変化したりせず、また当該移動物体が全方位カメラの真下を通過する際に切り出し画像の上下が反転したりすることがなく、常に見易い画像表示が可能となる。
(実施の形態3)
図12は、本発明の実施の形態3に係る画像表示装置の概略構成を示すブロック図である。なお、同図において前述した図1と共通する部分には同一の符号を付けてその説明を省略する。
前述した実施の形態1に係る画像表示装置1は、リアルタイムに移動物体の位置を予測し、予測した移動位置を座標変換して回転速度を算出し、算出した回転速度から切り出しパラメータの修正を行うようにしたが、本実施の形態に係る画像表示装置3は、録画済みの画像から移動物体の移動位置を読み出し、読み出した移動位置を座標変換して回転速度を算出し、算出した回転速度から切り出しパラメータの修正を行うようにしたものである。すなわち、録画した画像を使用することで、移動物体の移動位置を予測することなく処理を進めることができる。
図12において、本実施の形態に係る画像表示装置3は、再生する位置を指示する再生位置指示部30と、予め記録された全方位画像から移動物体の位置を読出す移動物体位置読出し部31と、指示された再生位置からの画像を読み出す画像読出し部32と、移動物体位置読出し部31で読出された移動物体の位置の座標を実空間平面上での座標に変換する座標変換部14と、座標変換部14で得られた実空間上での座標に基づき画像方向の回転速度を算出する回転速度算出部15と、回転速度算出部15で算出された回転速度のうち最高回転速度が所定のしきい値以上のとき切り出しパラメータを修正する切り出しパラメータ修正部16と、切り出しパラメータ修正部16で修正された切り出しパラメータを用いて全方位画像から移動物体を含む画像を切り出す切り出し部17と、切り出し部17で切り出された移動物体を含む画像を表示する表示部18とを備える。
一方、図14は、本実施の形態に係る画像表示装置3に用いられる画像記録装置4の概略構成を示すブロック図である。同図において、画像記録装置4は、全方位画像入力部41と、画像記憶部42と、移動物体検出部43と、移動物体位置記憶部44とを備える。全方位画像入力部41は、図示しない全方位カメラからの全方位画像を入力する。画像記憶部42は、全方位画像入力部41が入力した全方位カメラからの全方位画像を記憶する。移動物体検出部43は、全方位画像入力部41が入力した全方位画像から追尾する移動物体を検出する。移動物体位置記憶部44は、移動物体検出部43で検出された移動物体の位置を記憶する。
次に、本実施の形態に係る画像表示装置3の動作を説明する。図13は、画像表示装置3の動作を示すフローチャートである。同図において、再生位置指示部30がユーザ指示に従い再生位置を指示する(ステップS30)。次いで、再生が終了したかどうか判定し(ステップS31)、再生が終了した場合は本処理を終了し、再生が終了していない場合は、移動物体位置読出し部31が、再生位置指定された移動物体の位置を画像記録装置4の移動物体位置記憶部44から読み出す(ステップS32)。そして、読み出した移動物体の位置を座標変換部14に渡し、座標変換部14が移動物体の位置を実空間平面上に座標変換する(ステップS33)。
次いで、回転速度算出部15が実空間平面上に座標変換された移動物体の位置から回転速度を算出し(ステップS34)、算出した回転速度がしきい値以上であるか否かを判定する(ステップS35)。算出した回転速度がしきい値以上である場合は切り出しパラメータ修正部16が、しきい値未満になるように切り出しパラメータを修正する(ステップS36)。パラメータの修正が行われた後、切り出し部17が、修正された切り出しパラメータを用いて、画像読出し部32が読み出した全方位画像から移動物体を含む画像を切り出す(ステップS37)。そして、切り出された画像を表示部18が表示する(ステップS38)。この処理を終えた後、ステップS31に戻り、再生が終了するまで同様の処理を繰り返す。また、ステップS35の判定において、回転速度算出部15が算出した回転速度がしきい値未満であれば、切り出しパラメータの修正が行われず、そのまま切り出し処理に移行する。
次に、本実施の形態に係る画像表示装置3に用いられる画像記録装置4の動作を説明する。図15は、画像記録装置4の動作を示すフローチャートである。同図において、全方位画像入力部41が図示しない全方位カメラからの全方位画像を入力すると、移動物体検出部43が移動物体(追尾する移動物体)の検出を行い(ステップS40)、追尾する移動物体を検出できたか否かを判定する(ステップS41)。追尾する移動物体を検出できない場合は本処理を終了し、検出できた場合は移動物体位置記憶部44が当該移動物体の位置を記憶する(ステップS42)。次いで、画像記憶部42が、全方位画像入力部41が入力した全方位画像を記憶する(ステップS43)。上記ステップS40〜S43までの処理が、移動物体を検出しなくなるまで繰り返し行われる。
このように本実施の形態の画像表示装置3によれば、予め記録された全方位画像から移動物体の位置を読出して、その位置の座標を実空間平面上での座標に変換する。そして、実空間平面上での座標に基づき画像方向の回転速度を算出し、算出した回転速度のうち最高回転速度が所定のしきい値以上のときに切り出し画像の上方向を設定する切り出しパラメータを修正する。
したがって、録画した全方位画像を扱うことから、移動物体の位置予測が不要となり、移動物体位置の記憶を行う手段(前述した移動物体位置記憶部12)と移動物体位置の予測を行う手段(前述した移動位置予測部13)が不要となり、画像表示装置単体でのコストダウンが図れる。なお、画像の切り出しは前述した実施の形態1と同様であり、全方位画像から移動物体を含む画像を切り出すときに回転速度を調整して切り出すので、全方位カメラの真下付近を通過する移動物体を追跡する際に、当該移動物体を含む切り出し画像が回転するように変化することが抑制され、画像が見辛くなることがない。すなわち、従来よりも見易い画像表示が可能となる。
(実施の形態4)
図19は、本発明の実施の形態4に係る画像表示装置の概略構成を示すブロック図である。なお、同図において前述した図1と共通する部分には同一の符号をつけてその説明を省略する。
前述した実施の形態1に係る画像表示装置1は、実空間での画像の回転速度をもとにしきい値を超えているかの判断を行った。すなわち、実空間での画像の回転速度を用いることで、例えばカメラが床に対して斜めに取り付けられている場合や、パラメータが修正されている場合などにおいても正確な回転速度を求めることが可能となる。しかしながら、実空間での画像の回転速度を求めるために計算量が増えてしまうため、正確さよりも処理負荷を低減したい場合においては、実空間への展開は行わずに全方位画像内での回転速度だけを用いてパラメータの修正を行ってもよい。本実施の形態に係る画像表示装置5は、全方位画像から求めた画像の回転速度をもとにしきい値を越えているかの判断を行うようにしたものであり、実空間への展開処理が不要となるため回転速度を求める際の計算量を低減することができる。
回転速度算出部55は、移動位置予測部13から求められた移動物体の予測位置に応じた画像の上方向(全方位画像の中心から移動物体へのベクトルの方向)から画像の回転速度を求める。図20は全方位画像上の画像の上方向を示す図である。この2つのベクトルの角度差(θ―θ)を用いることで回転速度を算出することができる。なお、この実空間への展開を行わない方法は、実施の形態3に係る画像表示装置3でも同様に実現できる。
本発明を詳細にまた特定の実施態様を参照して説明したが、本発明の精神と範囲を逸脱することなく様々な変更や修正を加えることができることは当業者にとって明らかである。
本出願は、2010年3月4日出願の日本特許出願(特願2010−047863)に基づくものであり、その内容はここに参照として取り込まれる。
本発明は、全方位カメラの真下付近を通過する移動物体を追跡する際に、当該移動物体を含む切り出し画像が回転するように変化することが抑制され、また当該移動物体が全方位カメラの真下を通過する際に切り出し画像の上下が反転したりすることがなく、常に見易い画像表示が可能となるといった効果を有し、全方位画像を取得する全方位カメラを使用した監視カメラシステムへの適用が可能である。
1、2、3、5 画像表示装置
4 画像記録装置
10、41 全方位画像入力部
11、43 移動物体検出部
12、44 移動物体位置記憶部
13 移動位置予測部
14 座標変換部
15、55 回転速度算出部
16 切り出しパラメータ修正部
17 切り出し部
18 表示部
20 上方向決定部
21 上方向記憶部
30 再生位置指示部
31 移動物体位置読出し部
32 画像読出し部
42 画像記憶部
110 切り出し画像
120 切り出し画像の上方向
130 全方位画像

Claims (6)

  1. 全方位画像内の移動物体を切り出して切り出し画像として表示する画像表示装置において、
    全方位画像内の移動物体の位置を取得する移動物体位置取得部と、
    前記切り出し画像の上方向を修正するか否かの判断を行う判断部と、
    前記判断部が修正を行うと判断した場合に切り出しパラメータを修正するパラメータ修正部と、
    前記パラメータ修正部で修正された切り出しパラメータに基づいて前記全方位画像から移動物体を含む画像を切り出す切り出し部と、
    前記切り出し部で切り出された移動物体を含む画像を表示する表示部と、
    前記移動物体位置取得部で取得された前記移動物体の移動位置の前記全方位画像内での座標に基づいて画像の回転速度を算出する回転速度算出部とを備え、
    前記判断部は、前記回転速度算出部で算出された前記回転速度のうち最高回転速度が所定のしきい値以上の時に、前記回転速度の合計が変わらないように、かつ、回転速度がしきい値を越えないように前記切り出しパラメータの修正を行うと判断する画像表示装置。
  2. 全方位画像内の移動物体を切り出して切り出し画像として表示する画像表示装置において、
    全方位画像内の移動物体の位置を取得する移動物体位置取得部と、
    前記切り出し画像の上方向を修正するか否かの判断を行う判断部と、
    前記判断部が修正を行うと判断した場合に切り出しパラメータを修正するパラメータ修正部と、
    前記パラメータ修正部で修正された切り出しパラメータに基づいて前記全方位画像から移動物体を含む画像を切り出す切り出し部と、
    前記切り出し部で切り出された移動物体を含む画像を表示する表示部と、
    前記移動物体位置取得部で取得された前記移動物体の移動位置の座標を実空間平面上での座標に変換する座標変換部と、
    前記座標変換部で得られた前記実空間平面上での座標に基づいて画像の回転速度を算出する回転速度算出部とを備え、
    前記判断部は、前記回転速度算出部で算出された前記回転速度のうち最高回転速度が所定のしきい値以上の時に、前記回転速度の合計が変わらないように、かつ、回転速度がしきい値を越えないように前記切り出しパラメータの修正を行うと判断する画像表示装置。
  3. 全方位画像内の移動物体を切り出して切り出し画像として表示する画像表示装置において、
    全方位画像内の移動物体の位置を取得する移動物体位置取得部と、
    前記切り出し画像の上方向を修正するか否かの判断を行う判断部と、
    前記判断部が修正を行うと判断した場合に切り出しパラメータを修正するパラメータ修正部と、
    前記パラメータ修正部で修正された切り出しパラメータに基づいて前記全方位画像から移動物体を含む画像を切り出す切り出し部と、
    前記切り出し部で切り出された移動物体を含む画像を表示する表示部と、
    前記移動物体が上方向固定領域内に入った場合の画像切り出しの上方向を決定する上方向決定部と、
    前記上方向決定部で決定された前記画像切り出しの上方向を記憶する上方向記憶部とを備え、
    前記判断部は、前記移動物体位置取得部で取得された前記移動物体の移動位置の前記全方位画像内での座標に基づいて、前記移動物体が上方向固定領域に位置する場合に、前記上方向記憶部が記憶している画像切り出し時の上方向に基づき前記切り出しパラメータの修正を行うと判断する画像表示装置。
  4. 全方位画像内の移動物体を切り出して切り出し画像として表示する画像表示方法において、
    全方位画像内の移動物体の位置を取得する移動物体位置取得ステップと、
    前記切り出し画像の上方向を修正するか否かの判断を行う判断ステップと、
    前記判断ステップが修正を行うと判断した場合に切り出しパラメータを修正するパラメータ修正ステップと、
    前記パラメータ修正ステップで修正された切り出しパラメータに基づいて前記全方位画像から移動物体を含む画像を切り出す切り出しステップと、
    前記切り出しステップで切り出された移動物体を含む画像を表示する表示ステップと、
    前記移動物体位置取得ステップで取得された前記移動物体の移動位置の前記全方位画像内での座標に基づいて画像の回転速度を算出する回転速度算出ステップとを備え、
    前記判断ステップは、前記回転速度算出ステップで算出された前記回転速度のうち最高回転速度が所定のしきい値以上の時に、前記回転速度の合計が変わらないように、かつ、回転速度がしきい値を越えないように前記切り出しパラメータの修正を行うと判断する画像表示方法。
  5. 全方位画像内の移動物体を切り出して切り出し画像として表示する画像表示方法において、
    全方位画像内の移動物体の位置を取得する移動物体位置取得ステップと、
    前記切り出し画像の上方向を修正するか否かの判断を行う判断ステップと、
    前記判断ステップが修正を行うと判断した場合に切り出しパラメータを修正するパラメータ修正ステップと、
    前記パラメータ修正ステップで修正された切り出しパラメータに基づいて前記全方位画像から移動物体を含む画像を切り出す切り出しステップと、
    前記切り出しステップで切り出された移動物体を含む画像を表示する表示ステップと、
    前記移動物体位置取得ステップで取得された前記移動物体の移動位置の座標を実空間平面上での座標に変換する座標変換ステップと、
    前記座標変換ステップで得られた前記実空間平面上での座標に基づいて画像の回転速度を算出する回転速度算出ステップとを備え、
    前記判断ステップは、前記回転速度算出ステップで算出された前記回転速度のうち最高回転速度が所定のしきい値以上の時に、前記回転速度の合計が変わらないように、かつ、回転速度がしきい値を越えないように前記切り出しパラメータの修正を行うと判断する画像表示方法。
  6. 全方位画像内の移動物体を切り出して切り出し画像として表示する画像表示方法において、
    全方位画像内の移動物体の位置を取得する移動物体位置取得ステップと、
    前記切り出し画像の上方向を修正するか否かの判断を行う判断ステップと、
    前記判断ステップが修正を行うと判断した場合に切り出しパラメータを修正するパラメータ修正ステップと、
    前記パラメータ修正ステップで修正された切り出しパラメータに基づいて前記全方位画像から移動物体を含む画像を切り出す切り出しステップと、
    前記切り出しステップで切り出された移動物体を含む画像を表示する表示ステップと、
    前記移動物体が上方向固定領域内に入った場合の画像切り出しの上方向を決定する上方向決定ステップと、
    前記上方向決定ステップで決定された前記画像切り出しの上方向を記憶する上方向記憶ステップとを備え、
    前記判断ステップは、前記移動物体位置取得ステップで取得された前記移動物体の移動位置の前記全方位画像内での座標に基づいて、前記移動物体が上方向固定領域に位置する場合に、前記上方向記憶ステップが記憶している画像切り出し時の上方向に基づき前記切り出しパラメータの修正を行うと判断する画像表示方法。
JP2012502891A 2010-03-04 2010-11-08 画像表示装置及び画像表示方法 Expired - Fee Related JP5703448B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012502891A JP5703448B2 (ja) 2010-03-04 2010-11-08 画像表示装置及び画像表示方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010047863 2010-03-04
JP2010047863 2010-03-04
PCT/JP2010/006551 WO2011108043A1 (ja) 2010-03-04 2010-11-08 画像表示装置及び画像表示方法
JP2012502891A JP5703448B2 (ja) 2010-03-04 2010-11-08 画像表示装置及び画像表示方法

Publications (2)

Publication Number Publication Date
JPWO2011108043A1 JPWO2011108043A1 (ja) 2013-06-20
JP5703448B2 true JP5703448B2 (ja) 2015-04-22

Family

ID=44541729

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012502891A Expired - Fee Related JP5703448B2 (ja) 2010-03-04 2010-11-08 画像表示装置及び画像表示方法

Country Status (5)

Country Link
US (1) US8907985B2 (ja)
EP (1) EP2544448A4 (ja)
JP (1) JP5703448B2 (ja)
CN (1) CN102783142B (ja)
WO (1) WO2011108043A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5678324B2 (ja) 2011-02-10 2015-03-04 パナソニックIpマネジメント株式会社 表示装置、コンピュータプログラム、及び表示方法
JP5847570B2 (ja) * 2011-12-19 2016-01-27 キヤノン株式会社 画像処理装置及びその制御方法
JP6271917B2 (ja) * 2013-09-06 2018-01-31 キヤノン株式会社 画像記録装置及び撮像装置
JP5613815B1 (ja) 2013-10-29 2014-10-29 パナソニック株式会社 滞留状況分析装置、滞留状況分析システムおよび滞留状況分析方法
US9693023B2 (en) 2014-02-05 2017-06-27 Panasonic Intellectual Property Management Co., Ltd. Monitoring apparatus, monitoring system, and monitoring method
JP2017063276A (ja) * 2015-09-24 2017-03-30 カシオ計算機株式会社 映像表示装置、映像表示方法、及びプログラム
KR20170133043A (ko) * 2016-05-25 2017-12-05 삼성전자주식회사 3차원 인덕터 구조물 및 이를 포함하는 적층형 반도체 장치
JP6601422B2 (ja) * 2017-01-11 2019-11-06 トヨタ自動車株式会社 画像表示装置
JP7172982B2 (ja) * 2017-03-14 2022-11-16 株式会社ニコン 画像処理装置
KR102330264B1 (ko) * 2017-08-04 2021-11-23 삼성전자주식회사 움직임 정보에 기반하여 동영상을 재생하기 위한 장치 및 그의 동작 방법
WO2019031469A1 (ja) * 2017-08-10 2019-02-14 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
CN110111515A (zh) * 2018-02-01 2019-08-09 广州弘度信息科技有限公司 一种边界入侵检测方法、装置、服务器及系统
JP7192582B2 (ja) * 2019-03-11 2022-12-20 オムロン株式会社 物体追跡装置および物体追跡方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001086375A (ja) * 1999-09-09 2001-03-30 Matsushita Electric Ind Co Ltd 回転台付カメラ
JP2001333422A (ja) * 2000-05-19 2001-11-30 Matsushita Electric Ind Co Ltd 監視装置
JP2007311860A (ja) * 2006-05-16 2007-11-29 Opt Kk 画像処理装置、カメラ装置および画像処理方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7312810B2 (en) * 2001-05-25 2007-12-25 Matsushita Electric Industrial Co., Ltd. Wide-angle image generating device
JP2006211105A (ja) 2005-01-26 2006-08-10 Konica Minolta Holdings Inc 画像生成装置およびシステム
JP4470759B2 (ja) * 2005-02-28 2010-06-02 ソニー株式会社 情報処理システム、情報処理装置および情報処理方法、プログラム、並びに記録媒体
JP2008263251A (ja) * 2005-08-05 2008-10-30 Matsushita Electric Ind Co Ltd 監視カメラ装置
JP4839131B2 (ja) * 2006-05-17 2011-12-21 矢崎総業株式会社 グラフィックメータ表示装置
US8107769B2 (en) * 2006-12-28 2012-01-31 Casio Computer Co., Ltd. Image synthesis device, image synthesis method and memory medium storage image synthesis program
JP2009017462A (ja) * 2007-07-09 2009-01-22 Sanyo Electric Co Ltd 運転支援システム及び車両
JP4424403B2 (ja) * 2007-09-28 2010-03-03 ソニー株式会社 撮像装置、撮像方法及び撮像プログラム
JP5202183B2 (ja) 2008-08-21 2013-06-05 東邦テナックス株式会社 表面多孔質炭素繊維、前駆体繊維及びそれらの製造方法
JP4748250B2 (ja) * 2009-02-27 2011-08-17 ソニー株式会社 画像処理装置、画像処理システム、カメラ装置、画像処理方法、およびプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001086375A (ja) * 1999-09-09 2001-03-30 Matsushita Electric Ind Co Ltd 回転台付カメラ
JP2001333422A (ja) * 2000-05-19 2001-11-30 Matsushita Electric Ind Co Ltd 監視装置
JP2007311860A (ja) * 2006-05-16 2007-11-29 Opt Kk 画像処理装置、カメラ装置および画像処理方法

Also Published As

Publication number Publication date
EP2544448A1 (en) 2013-01-09
EP2544448A4 (en) 2013-11-20
US8907985B2 (en) 2014-12-09
US20130002712A1 (en) 2013-01-03
CN102783142B (zh) 2016-06-22
JPWO2011108043A1 (ja) 2013-06-20
WO2011108043A1 (ja) 2011-09-09
CN102783142A (zh) 2012-11-14

Similar Documents

Publication Publication Date Title
JP5703448B2 (ja) 画像表示装置及び画像表示方法
US10848662B2 (en) Image processing device and associated methodology for determining a main subject in an image
US8004570B2 (en) Image processing apparatus, image-pickup apparatus, and image processing method
US8629897B2 (en) Image processing device, image processing method, and program
US9064144B2 (en) Method and apparatus for recognizing location of user
US20060078162A1 (en) System and method for stabilized single moving camera object tracking
EP3562143B1 (en) Image processing device, image processing method, and program
US20180115714A1 (en) Video stabilization for mobile devices
US20110157386A1 (en) Control apparatus and control method therefor
KR102141290B1 (ko) 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기억 매체
JP5613041B2 (ja) カメラ装置、画像処理システムおよび画像処理方法
JP6518409B2 (ja) 撮影装置及び撮影方法
TW201351980A (zh) 影像處理裝置、影像處理方法、程式
WO2018014517A1 (zh) 一种信息处理方法、装置及存储介质
JP2017022574A (ja) 補正情報出力装置、画像処理装置、補正情報出力方法、撮像制御システム及び移動体制御システム
JP5492651B2 (ja) 撮影装置、パノラマ撮影方法
JP4198536B2 (ja) 物体撮影装置、物体撮影方法及び物体撮影プログラム
JP5084542B2 (ja) 自動追尾撮影装置、自動追尾撮影方法および自動追尾撮影プログラム
JP4807582B2 (ja) 画像処理装置、撮像装置及びそのプログラム
JP2005141655A (ja) 3次元モデリング装置及び3次元モデリング方法
JP2005063041A (ja) 3次元モデリング装置、方法、及びプログラム
US9619714B2 (en) Device and method for video generation
JP5797069B2 (ja) 撮影装置、その制御方法、および制御プログラム
US8054332B2 (en) Advanced input controller for multimedia processing
US20240163558A1 (en) Information processing apparatus, information processing method, and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131008

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140812

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140924

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20141008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20150119

R151 Written notification of patent or utility model registration

Ref document number: 5703448

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees