JP4547953B2 - 撮影装置、撮影処理方法及びプログラム - Google Patents

撮影装置、撮影処理方法及びプログラム Download PDF

Info

Publication number
JP4547953B2
JP4547953B2 JP2004081686A JP2004081686A JP4547953B2 JP 4547953 B2 JP4547953 B2 JP 4547953B2 JP 2004081686 A JP2004081686 A JP 2004081686A JP 2004081686 A JP2004081686 A JP 2004081686A JP 4547953 B2 JP4547953 B2 JP 4547953B2
Authority
JP
Japan
Prior art keywords
image
low
photographing
resolution
document
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004081686A
Other languages
English (en)
Other versions
JP2005269454A (ja
Inventor
克典 石井
敬一 櫻井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2004081686A priority Critical patent/JP4547953B2/ja
Publication of JP2005269454A publication Critical patent/JP2005269454A/ja
Application granted granted Critical
Publication of JP4547953B2 publication Critical patent/JP4547953B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮影装置、撮影処理方法及びプログラムに関するものである。
近年、撮影装置として、ユーザが原稿台に載置した原稿をカメラで撮影して、カメラで撮影した原稿の画像データを記憶して画像処理を行い、プロジェクタを用いてスクリーン上に原稿の画像を拡大して投影するものがある(例えば、特許文献1参照)。
また、従来の撮影装置として、画像の動きを監視し、画像に動きがなければ、カメラの解像度を高解像度に設定して原稿を撮影するようにしたものもある。
特開2002−354331号公報(第2−3頁、図1)
しかし、原稿の撮影が終了してもカメラの解像度を高解像度に設定したままにしておくと、画像の動きを高解像度画像に基づいて判別することになる。従って、原稿を差し替える場合のように、この高解像度画像の取り込み中に変化があった場合、すぐに撮影を行うことができない。例えば、高解像度撮影では、その撮影周期が1枚あたり、3〜5秒程度であるため、高解像度画像を3回取得して、比較した場合、画像の変化を判定するのに10秒程度かかってしまう。
このため、画像の解像度を高解像度に切り替えて撮影を行った後、自動的に画像の解像度を低解像度に切り替えることが考えられる。しかし、その後、また画像に動きがないと判定した場合、画像の解像度を高解像度に切り替えて撮影するという動作を繰り返してしまう。
また、蛍光灯のフリッカなどの影響で明るさが変化すると、動きがあると誤認識してしまい、静止しているにもかかわらず、誤って静止画像の検出待ち状態に戻ってしまう。
本発明は、このような従来の問題点に鑑みてなされたもので、画像の動きの判定を正しく行うことが可能な撮影装置、撮影処理方法及びプログラムを提供することを目的とする。
この目的を達成するため、本発明の第1の観点に係る撮影装置は、
原稿を撮影する撮影装置であって、
前記原稿を低解像度又は高解像度で撮影する撮影部と、
前記撮影部の撮影によって得られた撮影画像を記憶する記憶部と、
前記撮影部が前記原稿を低解像度で撮影した低解像度画像のデータを前記記憶部に記憶し、前記記憶部に記憶した低解像度画像を、新たに前記原稿を低解像度で撮影するときに読み出して、読み出したデータの低解像度画像と前記撮影部の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する判定部と、
前記判定部が原稿の動き無しと判定すると高解像度で原稿を撮影し、該高解像度での撮影後に低解像度に切り替えて前記原稿を撮影するように前記撮影部を制御する制御部と、を備え、
前記判定部は、前記撮影部が前記原稿を高解像度で撮影する前に前記撮影部の撮影によって得られた低解像度画像のデータを前記記憶部に記憶し、前記原稿を高解像度で撮影した後に、前記記憶部に記憶された低解像度画像のデータを前記記憶部から読み出して、新たに前記撮影部の撮影によって得られた低解像度画像のデータを前記記憶部に記憶し、読み出したデータの低解像度画像と前記撮影部の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する、ことを特徴とする。
判定部は、前記撮影部が前記原稿を高解像度で撮影する前に前記撮影部の撮影によって得られた低解像度画像のデータを前記記憶部に記憶し、前記原稿を高解像度で撮影した後に前記撮影部が前記原稿を低解像度で撮影する際に、前記記憶部に記憶された高解像度撮影前の低解像度画像のデータを前記記憶部から読み出して、読み出したデータの低解像度画像と前記撮影部の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定するようにしてもよい。
前記判定部は、前記撮影部の撮影によって得られた新たな低解像度画像の平均輝度を取得し、取得した平均輝度が予め設定された規定範囲以内か否かを判定し、前記平均輝度が前記規定範囲以内と判定した場合は、前記記憶部から読み出したデータの低解像度画像の平均輝度と前記撮影部の撮影によって得られた新たな低解像度画像の平均輝度とが一致するように、それぞれの低解像度画像の各画素値を調整して、前記画像変化量を取得するようにしてもよい。
前記判定部は、前記撮影部の撮影によって得られた新たな低解像度画像の平均輝度が予め設定された規定値を越えている場合は、次に前記撮影部の撮影によって得られた新たな低解像度画像を取得して、前記取得した低解像度画像の平均輝度が前記規定範囲以内か否かを判定するようにしてもよい。
本発明の第2の観点に係る撮影処理方法は、
原稿を低解像度又は高解像度で撮影する撮影ステップと、
前記撮影ステップの撮影によって得られた撮影画像を記憶する記憶ステップと、
前記撮影ステップが前記原稿を低解像度で撮影した低解像度画像のデータを前記記憶ステップで記憶し、前記記憶ステップで記憶した低解像度画像を、新たに前記原稿を低解像度で撮影するときに読み出して、読み出したデータの低解像度画像と前記撮影ステップの撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する判定ステップと、
前記判定ステップで原稿の動き無しと判定すると高解像度で原稿を撮影し、該高解像度での撮影後に低解像度に切り替えて前記原稿を撮影するように前記撮影ステップを制御する制御ステップと、を備え、
前記判定ステップは、前記撮影ステップが前記原稿を高解像度で撮影する前に前記撮影ステップの撮影によって得られた低解像度画像のデータを前記記憶ステップに記憶し、前記原稿を高解像度で撮影した後に、前記記憶ステップに記憶された低解像度画像のデータを前記記憶ステップから読み出して、新たに前記撮影ステップの撮影によって得られた低解像度画像のデータを前記記憶ステップで記憶し、読み出したデータの低解像度画像と前記撮影ステップの撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する、ことを特徴とする。
本発明の第3の観点に係るプログラムは、
コンピュータに、
原稿を低解像度又は高解像度で撮影する撮影手順、
前記撮影手順の撮影によって得られた撮影画像を記憶する記憶手順、
前記撮影手順が前記原稿を低解像度で撮影した低解像度画像のデータを前記記憶手順で記憶し、前記記憶手順で記憶した低解像度画像を、新たに前記原稿を低解像度で撮影するときに読み出して、読み出したデータの低解像度画像と前記撮影手順の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する判定手順、
前記判定手順で原稿の動き無しと判定すると高解像度で原稿を撮影し、該高解像度での撮影後に低解像度に切り替えて前記原稿を撮影するように前記撮影手順を制御する制御手順、
前記制御手順で高解像度で原稿を撮影した後における前記判定手順において、前記撮影手順が前記原稿を高解像度で撮影する前に前記撮影手順の撮影によって得られた低解像度画像のデータを前記記憶手順に記憶し、前記原稿を高解像度で撮影した後に、前記記憶手順に記憶された低解像度画像のデータを前記記憶手順から読み出して、新たに前記撮影手順の撮影によって得られた低解像度画像のデータを前記記憶手順で記憶し、読み出したデータの低解像度画像と前記撮影手順の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する手順、
を実行させるためのものである。
本発明によれば、画像の動きの判定を正しく行うことができる。
以下、本発明の実施形態に係る撮影装置を図面を参照して説明する。尚、以下の実施形態では、撮影装置を、撮影した画像を投影する撮影画像投影装置として説明する。
(実施形態1)
本発明の実施形態1に係る撮影画像投影装置の構成を図1に示す。
撮影画像投影装置は、書画カメラ1と、プロジェクタ2と、から構成される。
書画カメラ1は、投影対象の原稿4を撮影するためのカメラシステムであり、カメラ部11と、支柱12と、台座(書画台)13と、操作台14と、を備える。カメラ部11は、原稿4を撮影するためのものである。カメラ部11には、デジタルカメラが用いられる。支柱12は、カメラ部11を取り付けるためのものである。台座13は、支柱12を支えるためのものであり、原稿4を載置するためのものである。カメラ部11は、台座13も含めて原稿4を撮影する。従って、カメラ部11が撮影することによって得られた撮影画像には、原稿4の画像が含まれている場合と含まれていない場合とがある。
書画カメラ1は、図2に示すように、画像データ生成部21と、データ処理部22と、からなる。画像データ生成部21は、原稿4を撮影して原稿4の画像データを取り込むためのものである。
データ処理部22は、画像データ生成部21から、取り込んだ原稿4の画像データを取得して画像処理を行い、画像処理を施した画像データをプロジェクタ2に出力するものである。
尚、画像データ生成部21とデータ処理部22とは、図1に示すカメラ部11に備えられてもよいし、画像データ生成部21,データ処理部22が、それぞれ、カメラ部11、操作台14に備えられてもよい。
画像データ生成部21は、光学レンズ装置101と、イメージセンサ102と、から構成される。
光学レンズ装置101は、原稿4を撮影するために、光を集光するレンズなどで構成されたものである。
イメージセンサ102は、光学レンズ装置101が光を集光することによって結像した画像を、デジタル化した画像データとして取り込むためのものであり、CCD等によって構成される。尚、イメージセンサ102は、原稿4を低解像度又は高解像度で撮影する機能を有する。
データ処理部22は、メモリ201と、表示装置202と、画像処理装置203と、操作部204と、プログラムコード記憶装置205と、CPU206と、から構成される。
メモリ201は、イメージセンサ102からの画像、表示装置202に送り出すための画像データ等を一時記憶するためのものである。メモリ201は、図3に示すように、画像記憶領域(高)201aと、画像記憶領域(低)201bと、投影画像記憶領域201cと、を有する。
画像記憶領域(高)201aは、高解像度画像を記憶するための記憶領域である。画像記憶領域(低)201bは、低解像度画像を記憶するための記憶領域である。投影画像記憶領域201cは、スクリーン3に投影するための投影画像を記憶するための領域である。
表示装置202は、プロジェクタ2に送り出す画像を表示するためのものである。
画像処理装置203は、メモリ201に一時記憶された画像データに対して、画像の歪み補正や画像効果などの画像補正処理を行うためのものである。
画像処理装置203は、カメラ部11の撮影面に対して斜めの状態、あるいは回転した状態で撮影した原稿4の画像から、歪み補正(台形補正)を行うことによって、正面から撮影した原稿4の画像を生成する。具体的には、画像処理装置203は、歪み補正を行うため、歪んだ原稿4の画像から四角形を切り取り、切り取った四角形に原稿4の画像を射影変換して逆変換する。
操作部204は、書画投影の機能を制御するためのスイッチ、キー、撮影ボタン等を備えたものである。操作部204は、ユーザが、これらのキー、スイッチを操作したときの操作情報をCPU206に出力する。
プログラムコード記憶装置205は、CPU206が実行するプログラムを記憶するためのものであり、ROM等によって構成される。
CPU206は、プログラムコード記憶装置205に格納されているプログラムに従って、各部を制御する。尚、メモリ201は、CPU206の作業メモリとしても用いられる。
また、CPU206は、後述するフローチャートに従って、撮影対象物である原稿4の画像に動きがあるか否かを判定し、判定結果に従って、撮影モードを切り替える。
撮影モードは、動画モードと静止画モードの2つとする。動画モードは、ユーザが台座13に投影したい原稿4等を載置しようとする場合に設定されるモードであって、カメラ部11で映し出している画像をそのままプロジェクタ2に投影するモードである。
動画モードでは、CPU206は、例えば、画像解像度がVGA(640×480ドット)程度の画像を30fps(フレーム/秒)の速さで動画投影を行なうように、各部を制御するものとする。このように、動画モードは、解像度は低いものの、リアルタイム性を重視したモードである。CPU206は、動画モードで低解像度画像を読み込むと、読み込んだ低解像度画像をメモリ201の画像記憶領域(低)201bに記憶する。
静止画モードは、ユーザが原稿4を置いた後に設定されるモードであって、カメラ部11で高解像度の画像撮影を行い、高解像度の静止画像の投影を行うモードである。カメラ部11が撮影解像度300万画素のカメラである場合、切り出した投影画像はXGA(1024×768)の静止画像になる。CPU206は、静止画モードで高解像度画像を読み込むと、読み込んだ高解像度画像をメモリ201の画像記憶領域(高)201aに記憶する。
CPU206は、撮影モードの切り替えを行うため、原稿4の画像に動きがあるか否かを判定する。CPU206は、このような判定を行うため、前回撮影した画像との画像変化量MDを求める。画像変化量MDは撮影している画像が前回の画像と比較してどれぐらい変化したかを表す量である。この量を計算する方法はいくつか考えられる。一例として、CPU206は、前回撮影した画像のデータから、各画素の差分の絶対値の総和を画像変化量MDとして求める。
即ち、前回の画素データをPn-1(x,y)、今回の画素データをPn(x,y),1≦x≦640 1≦y≦480とすると、画像変化量MDは、次の数1によって表される。
但し、全画素の総和を求めるには、計算量が多いので、画像変化量MDを求める方法としては、いくつかの画素を抜き出して実現する方法もある。
また、この画像変化量MDと比較して動きの有無を判定するための閾値として、閾値Thresh1と閾値Thresh2とが予め設定される。閾値Thresh1は、動きがないか否かを判定するための閾値であり、CPU206は、画像変化量MDが閾値Thresh1未満であれば、動きがないと判定する。
閾値Thresh2は、静止画モードにおいて、例えば、影が動いた場合、ペン等を置いた場合のように、動きはあっても、その動きが動画モードに切り替える必要のない程度の僅かな動きであるか否かを判定するための閾値である。
CPU206は、画像変化量MDが閾値Thresh2未満であれば、動画モードに切り替える必要のない程度の僅かな動きであると判定する。尚、閾値Thresh2は、閾値Thresh1よりも高く設定される(Thresh1<Thresh2)。メモリ201は、この閾値Thresh1と閾値Thresh2とを予め記憶する。
また、CPU206は、動画モードから静止画モードに切り替える場合、画像に動きがないと判定し、所定の時間が経過してから、撮影モードを静止画モードに切り替える。このため、CPU206は、画像に動きがないと判定してから、静止時間Ptimeを計測し、メモリ201は、この静止時間Ptimeと比較するために予め設定された所定時間HoldTimeを記憶する。
また、CPU206は、静止画モードに切り替えられた後に高解像度画像をメモリ201の画像記憶領域(高)201aに記憶すると、動きの検出をリアルタイムに行うため、書画カメラ1の解像度を低解像度に切り替えて、低解像度画像に基づいて画像変化量MDを算出する。
低解像度画像に基づいて画像変化量MDを算出するため、CPU206は、原稿4を低解像度で撮影し、イメージセンサ102によって取得された低解像度画像のデータをメモリ201の画像記憶領域(低)201bに記憶する。
CPU206は、画像記憶領域(低)201bに記憶した低解像度画像を、新たに原稿4を低解像度で撮影するときに読み出して、読み出したデータの低解像度画像と撮影によって得られた新たな低解像度画像との差を画像変化量MDとして取得する。
尚、CPU206は、画像変化量MDを算出する際に、明るさの変化の影響を低減するため、2つの低解像度画像の平均輝度値を求め、平均輝度値が規定範囲内であれば、2つの平均輝度をそろえるようにする。メモリ201は、この平均輝度値の規定範囲を予め記憶する。
そして、CPU206は、画像変化量MDに基づいて画像に動きがあると判定した場合は、画像の動きが停止するまで待機し、動きが停止すると、所定時間経過後に、撮影モードの判定を行う。
CPU206は、所定時間の経過を判別するため、動きカウンタを備える。CPU206は、動きが停止してからそのカウント値をインクリメントし、カウント値と予め設定された規定値とを比較することにより、所定時間が経過したか否かの判別を行う。メモリ201は、このカウント値と予め設定された規定値とを記憶する。
プロジェクタ2は、スクリーン3に投影光を照射して原稿4の画像を結像させるものである。書画カメラ1とプロジェクタ2とは、RGB等のケーブル15を介して接続される。書画カメラ1は、カメラ部11が撮影した原稿4の画像データを、ケーブル15を介してプロジェクタ2に出力する。
次に本実施形態に係る撮影画像投影装置の動作を説明する。
ユーザが書画カメラ1の電源をONにすると、書画カメラ1のCPU206は、プログラムコード記憶装置205からプログラムコードを読み出す。ユーザが撮影ボタンを押下すると、操作部204は、この操作情報をCPU206に送信する。CPU206はこの操作情報を受信し、CPU206、画像処理装置203等は、基本撮影処理を実行する。
この基本撮影処理の内容を図4と図5とに示すフローチャートに従って説明する。
まず、CPU206は、書画カメラ1のカメラ部11の焦点、露出、ホワイトバランスなどのカメラ設定パラメータの初期化を行う(ステップS11)。
CPU206は、撮影モードを動画モードに初期化する(ステップS12)。CPU206は、撮影モードを動画モードに初期化するため、メモリ201上の指定した領域に動画モード(Motion)をセットする。さらに、CPU206は、カメラ部11のイメージセンサ102から読み出された画像データを、VGAによる画像データになるように設定する。
これにより、カメラ部11が捉えているシーンが、光学レンズ装置101を経由してイメージセンサ102に集光され、イメージセンサ102は集光された画像から動画撮影用の解像度の低いデジタル画像を作成する。そして、イメージセンサ102は、作成したデジタル画像を定期的に、例えば、30枚/秒で、メモリ201に送り出す。
CPU206は、静止時間Ptimeのリセットを行う(ステップS13)。
CPU206は、イメージセンサ102から低解像度の画像データをメモリ201に送信するように、イメージセンサ102とメモリ201とを制御する(ステップS14)。
CPU206は、読み込んだ低解像度画像をメモリ201の画像記憶領域(低)201bに記憶する(ステップS15)。
尚、ここでは、イメージセンサ102の画像データがメモリ201に送信されるだけで、表示装置202は、画像を表示しない。表示装置202が画像を表示しないのは、表示装置202の表示を行なう画像データがメモリ201上の異なるアドレスで示される領域に記憶されているからである。
CPU206は、前回撮影した画像との画像変化量MDを、数1に従って求める(ステップS16)。
CPU206は、撮影モードが動画モードか静止画モードかを判定する(ステップS17)。
初期状態では撮影モードに動画モードが設定されている。CPU206は、このため、初期状態では、動画モードと判定し、撮影した動画を投影するために、メモリ201内にある動画の画像データをメモリ201の投影画像記憶領域201cにコピーする(ステップS18)。これにより、表示装置202は、撮影された画像データをメモリ201から読み出し、RGB信号をプロジェクタ2に出力する。プロジェクタ2は、この信号に基づいて、画像を投影する。
CPU206は、予め設定された前述の閾値Thresh1とステップS16において求めた画像変化量MDとを比較し、比較結果に基づいて画像に動きがあるか否かを判定する(ステップS19)。
このとき、ユーザが、まだ、用紙を置くなどの動作を続けている場合、画像変化量MDは閾値Thresh1以上になる。この場合、CPU206は、画像に動きがあると判定し(ステップS19においてYes)、静止時間Ptimeをリセットして低解像度の画像データの読み込みを行い、画像変化量MDを求め、画像のメモリ201の投影画像記憶領域201cへの書き込みを行う(ステップS13〜S18)。これによりユーザが動作を行なっている間、撮影画像投影装置は、動画モードの状態を維持し続け、低解像度の動画画像がスクリーン3に投影される。
その後、ユーザが用紙のセットを終えて画像に動きがなくなると、画像変化量MDは閾値未満になる。この場合、CPU206は、画像に動きがないと判定し(ステップS19においてNo)、静止時間Ptimeに1を加算する(ステップS20)。
そして、CPU206は、静止時間Ptimeが所定時間HoldTimeに達したか否かを判定する(ステップS21)。
静止時間Ptimeが所定時間HoldTimeに達していないと判定した場合(ステップS21においてNo)、CPU206は、画像に動きがないと判定するまで、再び低解像度の画像データを読み込んで、画像変化量MDを求め、動きがなければ、静止時間Ptimeに1を加算する(ステップS14〜S20)。この場合、静止時間Ptimeがリセットされないため、静止時間Ptimeは、CPU206によって、動画を読み込むごとにカウントアップされる。
静止時間Ptimeが所定時間HoldTimeに達したと判定した場合(ステップS21においてYes)、CPU206は、撮影画像に含まれているのは台座13のみか否か、即ち、撮影画像に原稿画像が含まれているか否かを判定する(ステップS22)。
撮影画像に原稿画像が含まれていない(台座13のみ)と判定した場合(ステップS22においてYes)、CPU206は、画像処理装置203が画像補正等の処理(ステップS23〜S26の処理)を行わないように制御する。
一方、CPU206は、撮影画像に原稿画像が含まれている(台座13のみではない)と判定した場合(ステップS22においてNo)、CPU206は、撮影モードを静止画モードに設定する(ステップS23)。
CPU206は、高解像度の静止画像を撮影するようにイメージセンサ102を制御する(ステップS24)。
画像処理装置203は、撮影を行った画像に画像補正処理を行う(ステップS25)。
即ち、画像処理装置203は、読み込まれた高解像度の静止画像に対して、斜め補正を行うための射影パラメータの抽出を行い、この射影パラメータに従って、撮影対象の切抜きと、正面画像への射影変換を行う。
画像処理装置203は、作成された補正画像から、コントラスト補正などの鮮明、識別しやすい画像へ変換するため、画像効果補正用パラメータの抽出を行い、この画像効果補正用パラメータを用いて、画像効果処理を行う。
CPU206は、画像効果処理を行った画像データの投影を行うために、動画画像のときと同じように、メモリ201の画像記憶領域(高)201aに補正画像データの書き込みを行う。そして、CPU206は、表示装置202から、画像データをRGB信号でプロジェクタ2に出力する(ステップS26)。
CPU206は、メモリ201の画像記憶領域(低)201bに記憶した画像データをクリアする(ステップS27)。
CPU206は、動きカウンタのカウント値をクリアする(ステップS28)。
CPU206は、既に読み込んだ低解像度画像をメモリ201の画像記憶領域(低)201bから取り出す(ステップS29)。
CPU206は、低解像度画像を読み込むようにイメージセンサ102を制御する(ステップS30)。
CPU206は、読み込んだ低解像度画像を、メモリ201の画像記憶領域(低)201bに記憶する(ステップS31)。
CPU206は、読み込んだ低解像度画像の平均輝度を求め、この平均輝度が規定範囲内か否かを判定する(ステップS32)。
平均輝度が規定範囲内ではないと判定した場合(ステップS32においてNo)、メモリ201の画像記憶領域(低)201bから取り出した低解像度画像と読み込んだ低解像度画像との比較はできないため、CPU206は、ステップS29〜S31を、再度、実行する。
平均輝度が規定範囲内であると判定した場合(ステップS32においてYes)、CPU206は、2つの平均輝度がそろうように、2つの低解像度画像の輝度値を調整する(ステップS33)。
CPU206は、数1に従って画像変化量MDを検出する(ステップS34)。
CPU206は、検出した画像変化量MDと閾値Thresh1とを比較して、画像変化量MDが閾値Thresh1を越えているか否かを判定する(ステップS35)。
画像変化量MDが閾値Thresh1を越えていないと判定した場合(MD≦Thresh1;ステップS35においてNo)、CPU206は、再度、ステップS28〜S34を実行する。
画像変化量MDが閾値Thresh1を越えたと判定した場合(MD>Thresh1;ステップS35においてYes)、CPU206は、動きカウンタのカウント値を1つインクリメントする(ステップS36)。
CPU206は、動きカウンタのカウント値が規定値以上になったか否かを判定する(ステップS37)。
動きカウンタのカウント値が規定値未満と判定した場合(ステップS37においてNo)、CPU206は、ステップS29〜S36を、再度、実行する。
動きカウンタのカウント値が規定値以上と判定した場合(ステップS37においてYes)、CPU206は、再び静止時間Ptimeをリセットして、低解像度の画像を読み込み、画像変化量MDを求める(ステップS13〜S16)。
ここで、撮影モードが静止画モードと判定した場合(ステップS17においてNo)、CPU206は、求めた画像変化量MDと閾値Thresh2(Thresh1<Thresh2)との比較を行い、画像に動きがあるか否かを判定する(ステップS38)。
画像変化量MDが閾値Thresh2を越えていれば、CPU206は、画像に動きがあると判定し(ステップS38においてYes)、撮影モードを動画モードに設定する(ステップS39)。そして、CPU206は、静止時間Ptimeをリセットする(ステップS13)。
CPU206は、画像変化量MDが閾値Thresh2以下であれば、画像に動きがないと判定する(ステップS38においてNo)。この場合、CPU206は、引き続き、画像変化量MDと閾値Thresh1との比較を行い、画像に動きがあるか否かを判定する(ステップS40)。
画像変化量MDが閾値Thresh2以下であっても、閾値Thresh1を越えていれば、CPU206は、画像に動きがあると判定する(ステップS40においてYes)。この場合、CPU206は、画像変化量MDが閾値Thresh1と閾値Thresh2との間であるため、撮影モードを動画モードに切り替えないようにする(ステップS22〜S26)。
また、画像変化量MDが閾値Thresh2未満であり、かつ、閾値Thresh1未満であれば、CPU206は、静止状態が継続しているものと判定する(ステップS40においてNo)。この場合、CPU206は、ステップ13に戻る。
このようにして、CPU206は、動画モードと静止画モードとの切り替えを行いながら投影制御を行う。これにより、ユーザが操作を行なっている間は、フレーム周波数優先の画像の投影が行われ、画像が静止すれば、撮影対象の原稿4の切り抜き及び画像効果処理を行って高解像度画像の投影が行われる。
次に、CPU206が実行する撮影処理を具体的に説明する。
CPU206は、動画モードに初期化して、低解像度画像を読み込む(ステップS11〜S14の処理)。
この場合、図6に示すように、CPU206は、低解像度画像(1)を読み込み、読み込んだ低解像度画像をメモリ201の画像記憶領域(低)201bに記憶する(ステップS14,S15の処理)。CPU206は、低解像度画像(1)をメモリ201の投影画像記憶領域201cにコピーする(ステップS18の処理)。
次に、CPU206は、低解像度画像(1)をメモリ201の画像記憶領域(低)201bから取り出して低解像度画像(2)を読み込み、読み込んだ低解像度画像をメモリ201の画像記憶領域(低)201bに記憶する(ステップS14,S15の処理)。
CPU206は、低解像度画像(1)と(2)とを比較して、画像に動きがあるか否かを判定し(ステップS19)、原稿4の差替等により画像が動いているときは、定期的にこの処理(ステップS13〜S18)を行う。
台座13への原稿4の載置が完了した場合のように、画像の動きが停止して、静止時間Ptimeが所定時間HoldTimeに達すると、CPU206は、撮影モードを静止画モードに設定して、高解像度で静止画像を撮影する(ステップS13〜S24の処理)。
そして、画像処理装置203は、画像補正処理を行い、CPU206は、画像補正処理が行われた画像データをメモリ201の投影画像記憶領域201cに記憶する(ステップS25,S26)。
画像データがメモリ201の投影画像記憶領域201cに記憶されると、CPU206は、メモリ201の画像記憶領域(低)201bをクリアし、動きカウンタのカウント値をクリアする(ステップS27,S28の処理)。
CPU206は、低解像度画像(3)を読み込み(ステップS29,S30の処理)。CPU206は、読み込んだ低解像度画像(3)を画像記憶領域(低)201bに記憶する(ステップS31の処理)。
画像に動きがなければ、低解像度画像(1)と低解像度画像(2)との間で画像変化量MDが閾値Thresh1以下となり、CPU206は、画像が動くまで、処理(ステップS28〜S34)を繰り返す。
画像が動き、動いた画像が停止して、静止時間Ptimeが所定時間HoldTimeに達すると、CPU206は、撮影モードを静止画モードに設定して、高解像度で静止画像を撮影する(ステップS13〜S24の処理)。
そして、画像データがメモリ201の投影画像記憶領域201cに記憶されると、CPU206は、同じような処理を繰り返し、順次、低解像度画像(3)と(4)、低解像度画像(4)と(5)を比較して、画像に動きがあるか否かを判定する。
以上説明したように、本実施形態1によれば、カメラの解像度を高解像度に設定した後に、解像度を低解像度に切り替えて画像の動きの有無を判定するようにした。従って、低解像度撮影では、10枚/秒程度で低解像度画像を取り込むことができるため、リアルタイムで画像の動きの有無を判定することができる。
(実施形態2)
実施形態2に係る撮影画像投影装置は、図7に示すように、高解像度画像を取り込んだ後、低解像度画像(3)を読み込んだときに高解像度画像を設定する直前の低解像度画像(2)と新たに読み込んだ低解像度画像(3)とを比較して動きの検出を行うように構成される。
次に実施形態2に係る撮影画像投影装置の動作を説明する。
実施形態2に係る書画カメラ1は、図4,図8に示すフローチャートに従って動作する。CPU206は、実施形態1と同様に、低解像度画像に基づいて画像に動きがあるか否かを判定する(ステップS11〜S19)。CPU206は、実施形態1と同様に、画像が動いているときには読み込んだ低解像度画像をメモリ201の画像記憶領域(低)201bに記憶する(ステップS14,S15)。
実施形態2のCPU206は、画像に動きがあると判定し、静止時間Ptimeが所定時間HoldTime経過すると、撮影モードを静止画モードに設定して、高解像度で静止画像を撮影する(ステップS19〜S24の処理)。
そして、画像処理装置203は、画像補正処理を行い、CPU206は、画像補正処理が行われた画像データをメモリ201の投影画像記憶領域201cに記憶する(ステップS24,S25)。
実施形態2のCPU206は、高解像度撮影の後、図8に示すフローチャートに従って、画像に動きがあるか否かを判定する。
即ち、CPU206は、画像データをメモリ201の投影画像記憶領域201cに記憶した後、メモリ201の画像記憶領域(低)201bの画像データをクリアせずに、既に読み込んだ低解像度画像を画像記憶領域(低)201bから取り出し、低解像度画像の読み込みを行い、読み込んだ低解像度画像を画像記憶領域(低)201bに記憶する(ステップS29〜ステップS31)。
そして、2つの低解像度画像を比較して画像変化量MDが閾値Thresh1以下(ステップS35においてNo)であれば、CPU206は、画像に動きがないと判定し、再度、ステップS28〜34を実行する。
一方、画像変化量MDが閾値Thresh1を越える場合(ステップS35においてYes)、CPU206は、画像に動きがあると判定し、動きカウンタのカウント値が規定値以上になると、静止時間Ptimeをリセットする(ステップS13)。
以上説明したように、本実施形態2によれば、高解像度で静止画像を撮影した後、メモリ201の画像記憶領域(低)201bの画像データをクリアせずに、低解像度画像を読み込んで画像の動きの判定を行うようにした。
従って、高解像度に切り替えて撮影した画像が、例えば、原稿を置く際に手が写ってしまった場合のように、撮影に失敗した場合でも、その画像の表示をすぐに停止させることができる。
(実施形態3)
実施形態3に係る撮影画像投影装置は、図9に示すように、高解像度画像読み込み前の最後の低解像度画像(2)と高解像度画像読み込み後の低解像度画像(3),(4),(5)とを、順次、比較して、画像に動きがあるか否かの判定を行うように構成されたものである。
次に実施形態3に係る撮影画像投影装置の動作を説明する。
実施形態3に係る書画カメラ1は、図4,図10に示すフローチャートに従って動作する。CPU206は、実施形態1と同様に、低解像度画像に基づいて画像に動きがあるか否かを判定する(ステップS11〜S19)。CPU206は、実施形態1と同様に、画像が動いているときには読み込んだ低解像度画像をメモリ201の画像記憶領域(低)201bに記憶する(ステップS14,S15)。
CPU206は、画像に動きがあると判定し、静止時間Ptimeが所定時間HoldTimeに達すると、撮影モードを静止画モードに設定して、高解像度で静止画像を撮影する(ステップS19〜S24の処理)。
そして、画像処理装置203は、画像補正処理を行い、CPU206は、画像補正処理が行われた画像データをメモリ201の投影画像記憶領域201cに記憶する(ステップS24,S25)。
実施形態3のCPU206は、高解像度撮影の後、図10に示すフローチャートに従って、画像に動きがあるか否かを判定する。
即ち、CPU206は、高解像度撮影を行う前の最後の低解像度画像をメモリ201の画像記憶領域(低)201bから取り出す(ステップS51)。
CPU206は、動きカウンタのカウント値をクリアして低解像度画像を読み込む(ステップS28,S30)。CPU206は、読み込んだ低解像度画像を記憶せずに、平均値輝度が規定範囲内か否かを判定する(ステップS32)。
そして、平均値輝度が規定範囲内と判定した場合(ステップS32においてYes)、CPU206は、2つの平均輝度がそろうように、2つの低解像度画像の輝度値を調整し、数1に従って画像変化量MDを検出する(ステップS33,S34)。
そして、2つの低解像度画像を比較して画像変化量MDが閾値Thresh1以下(ステップS35においてNo)であれば、CPU206は、画像に動きがないと判定し、再度、ステップS51,S28,S30〜34を実行する。
一方、画像変化量MDが閾値Thresh1を越える場合(ステップS35においてYes)、CPU206は、画像に動きがあると判定し、動きカウンタのカウント値が規定値以上になると、静止時間Ptimeをリセットする(ステップS13)。
以上説明したように、本実施形態3によれば、高解像度画像読み込み前の最後の低解像度画像と、高解像度画像読み込み後に順次、読み込まれた低解像度画像とを、比較して、画像に動きがあるか否かの判定を行うようにした。
従って、画像の動きの有無の判定が、低解像度撮影の前後2枚の画像比較に依存しなくなるので、蛍光灯によるフリッカにより明るさが変化しても、明るさの変化の周期と画像比較のタイミングとは一致せず、画像の動きの誤判定を防止することができる。そして、画像が静止したときは、正しく静止画モードに切り替えることができる。
尚、本発明を実施するにあたっては、種々の形態が考えられ、上記実施形態に限られるものではない。
例えば、実施形態1では、書画カメラ1が撮影する毎に2つの低解像度画像を比較するようにした。しかし、支障なく画像の動きの有無を判定できれば、撮影を2回、3回行う毎に前記判定を行うように構成されることもできる。
また、上記実施形態3では、高解像度撮影に切り替えた後の複数の低解像度画像の比較の対象として、高解像度撮影に切り替える直前の低解像度画像を用いた。しかし、原稿4の動きの有無を判別できるような画像であれば、高解像度撮影に切り替える直前の低解像度画像である必要はない。
上記実施形態では、撮影装置を撮影画像投影装置として説明した。しかし、プロジェクタを備える必要はなく、例えば、デジタルカメラで原稿4を撮影するような構成のものであっても、上記実施形態を適用することができる。
また、上記実施形態では、プログラムが、それぞれメモリ等に予め記憶されているものとして説明した。しかし、コンピュータを、装置の全部又は一部として動作させ、あるいは、上述の処理を実行させるためのプログラムを、フレキシブルディスク、CD−ROM(Compact Disk Read-Only Memory)、DVD(Digital Versatile Disk)、MO(Magneto Optical disk)などのコンピュータ読み取り可能な記録媒体に格納して配布し、これを別のコンピュータにインストールし、上述の手段として動作させ、あるいは、上述の工程を実行させてもよい。
さらに、インターネット上のサーバ装置が有するディスク装置等にプログラムを格納しておき、例えば、搬送波に重畳させて、コンピュータにダウンロード等するものとしてもよい。
本発明の実施形態1に係る撮影画像投影装置の全体構成を示す説明図である。 図1に示す書画カメラの構成を示すブロック図である。 図2に示すメモリの画像記憶領域を示すブロック図である。 図1に示す書画カメラが実行する撮影処理の内容を示すフローチャートである。 図1に示す書画カメラが実行する撮影処理の内容を示すフローチャートであり、特に、高解像度撮影後に書画カメラが行う判定の内容を示すものである。 図1に示す書画カメラの具体的な動作を説明するための説明図である。 本発明の実施形態2に係る撮影画像投影装置の具体的な動作を説明するための説明図である。 本発明の実施形態2に係る撮影画像投影装置が、撮影処理における高解像度撮影後に行う判定の内容を示すフローチャートである。 本発明の実施形態3に係る撮影画像投影装置の具体的な動作を説明するための説明図である。 本発明の実施形態3に係る撮影画像投影装置が、撮影処理における高解像度撮影後に行う判定の内容を示すフローチャートである。
符号の説明
1・・・書画カメラ、2・・・プロジェクタ、3・・・スクリーン、4・・・原稿、11・・・カメラ部、201・・・メモリ、202・・・表示装置、203・・・画像処理装置、204・・・操作部、206・・・CPU

Claims (6)

  1. 原稿を撮影する撮影装置であって、
    前記原稿を低解像度又は高解像度で撮影する撮影部と、
    前記撮影部の撮影によって得られた撮影画像を記憶する記憶部と、
    前記撮影部が前記原稿を低解像度で撮影した低解像度画像のデータを前記記憶部に記憶し、前記記憶部に記憶した低解像度画像を、新たに前記原稿を低解像度で撮影するときに読み出して、読み出したデータの低解像度画像と前記撮影部の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する判定部と、
    前記判定部が原稿の動き無しと判定すると高解像度で原稿を撮影し、該高解像度での撮影後に低解像度に切り替えて前記原稿を撮影するように前記撮影部を制御する制御部と、を備え、
    前記判定部は、前記撮影部が前記原稿を高解像度で撮影する前に前記撮影部の撮影によって得られた低解像度画像のデータを前記記憶部に記憶し、前記原稿を高解像度で撮影した後に、前記記憶部に記憶された低解像度画像のデータを前記記憶部から読み出して、新たに前記撮影部の撮影によって得られた低解像度画像のデータを前記記憶部に記憶し、読み出したデータの低解像度画像と前記撮影部の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する、
    ことを特徴とする撮影装置。
  2. 判定部は、前記撮影部が前記原稿を高解像度で撮影する前に前記撮影部の撮影によって得られた低解像度画像のデータを前記記憶部に記憶し、前記原稿を高解像度で撮影した後に前記撮影部が前記原稿を低解像度で撮影する際に、前記記憶部に記憶された高解像度撮影前の低解像度画像のデータを前記記憶部から読み出して、読み出したデータの低解像度画像と前記撮影部の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する、
    ことを特徴とする請求項1に記載の撮影装置。
  3. 前記判定部は、前記撮影部の撮影によって得られた新たな低解像度画像の平均輝度を取得し、取得した平均輝度が予め設定された規定範囲以内か否かを判定し、前記平均輝度が前記規定範囲以内と判定した場合は、前記記憶部から読み出したデータの低解像度画像の平均輝度と前記撮影部の撮影によって得られた新たな低解像度画像の平均輝度とが一致するように、それぞれの低解像度画像の各画素値を調整して、前記画像変化量を取得する、
    ことを特徴とする請求項1又は2に記載の撮影装置。
  4. 前記判定部は、前記撮影部の撮影によって得られた新たな低解像度画像の平均輝度が予め設定された規定値を越えている場合は、次に前記撮影部の撮影によって得られた新たな低解像度画像を取得して、前記取得した低解像度画像の平均輝度が前記規定範囲以内か否かを判定する、
    ことを特徴とする請求項に記載の撮影装置。
  5. 原稿を低解像度又は高解像度で撮影する撮影ステップと、
    前記撮影ステップの撮影によって得られた撮影画像を記憶する記憶ステップと、
    前記撮影ステップが前記原稿を低解像度で撮影した低解像度画像のデータを前記記憶ステップで記憶し、前記記憶ステップで記憶した低解像度画像を、新たに前記原稿を低解像度で撮影するときに読み出して、読み出したデータの低解像度画像と前記撮影ステップの撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する判定ステップと、
    前記判定ステップで原稿の動き無しと判定すると高解像度で原稿を撮影し、該高解像度での撮影後に低解像度に切り替えて前記原稿を撮影するように前記撮影ステップを制御する制御ステップと、を備え、
    前記判定ステップは、前記撮影ステップが前記原稿を高解像度で撮影する前に前記撮影ステップの撮影によって得られた低解像度画像のデータを前記記憶ステップに記憶し、前記原稿を高解像度で撮影した後に、前記記憶ステップに記憶された低解像度画像のデータを前記記憶ステップから読み出して、新たに前記撮影ステップの撮影によって得られた低解像度画像のデータを前記記憶ステップで記憶し、読み出したデータの低解像度画像と前記撮影ステップの撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する、
    ことを特徴とする撮影処理方法。
  6. コンピュータに、
    原稿を低解像度又は高解像度で撮影する撮影手順、
    前記撮影手順の撮影によって得られた撮影画像を記憶する記憶手順、
    前記撮影手順が前記原稿を低解像度で撮影した低解像度画像のデータを前記記憶手順で記憶し、前記記憶手順で記憶した低解像度画像を、新たに前記原稿を低解像度で撮影するときに読み出して、読み出したデータの低解像度画像と前記撮影手順の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する判定手順、
    前記判定手順で原稿の動き無しと判定すると高解像度で原稿を撮影し、該高解像度での撮影後に低解像度に切り替えて前記原稿を撮影するように前記撮影手順を制御する制御手順、
    前記制御手順で高解像度で原稿を撮影した後における前記判定手順において、前記撮影手順が前記原稿を高解像度で撮影する前に前記撮影手順の撮影によって得られた低解像度画像のデータを前記記憶手順に記憶し、前記原稿を高解像度で撮影した後に、前記記憶手順に記憶された低解像度画像のデータを前記記憶手順から読み出して、新たに前記撮影手順の撮影によって得られた低解像度画像のデータを前記記憶手順で記憶し、読み出したデータの低解像度画像と前記撮影手順の撮影によって得られた新たな低解像度画像との差を画像変化量として取得し、取得した画像変化量が予め設定された閾値を越えた場合に前記原稿が動いたと判定する手順、
    を実行させるためのプログラム。
JP2004081686A 2004-03-19 2004-03-19 撮影装置、撮影処理方法及びプログラム Expired - Fee Related JP4547953B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004081686A JP4547953B2 (ja) 2004-03-19 2004-03-19 撮影装置、撮影処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004081686A JP4547953B2 (ja) 2004-03-19 2004-03-19 撮影装置、撮影処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2005269454A JP2005269454A (ja) 2005-09-29
JP4547953B2 true JP4547953B2 (ja) 2010-09-22

Family

ID=35093486

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004081686A Expired - Fee Related JP4547953B2 (ja) 2004-03-19 2004-03-19 撮影装置、撮影処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP4547953B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08320935A (ja) * 1995-05-26 1996-12-03 Canon Inc 動画像処理方法および装置
JP2001054004A (ja) * 1999-08-05 2001-02-23 Sanyo Electric Co Ltd 動き検出装置
JP2003348387A (ja) * 2002-05-29 2003-12-05 Elmo Co Ltd 資料提示装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08320935A (ja) * 1995-05-26 1996-12-03 Canon Inc 動画像処理方法および装置
JP2001054004A (ja) * 1999-08-05 2001-02-23 Sanyo Electric Co Ltd 動き検出装置
JP2003348387A (ja) * 2002-05-29 2003-12-05 Elmo Co Ltd 資料提示装置

Also Published As

Publication number Publication date
JP2005269454A (ja) 2005-09-29

Similar Documents

Publication Publication Date Title
JP5686244B2 (ja) 表示制御装置、表示制御方法、及び、プログラム
JP4715527B2 (ja) 撮影装置、撮影画像の画像処理方法及びプログラム
TWI446098B (zh) 成像裝置及其快門驅動模式選擇方法
JP2008236645A (ja) 撮影装置
JP2010258552A (ja) 撮像装置、撮像方法及びプログラム
JP2009171220A (ja) 撮像装置及びその制御方法
JP2007019893A (ja) 画像生成装置、及び画像生成方法
JP4636786B2 (ja) 撮影画像投影装置、撮影画像投影装置の画像処理方法及びプログラム
JP2006211046A (ja) 撮影装置、撮影装置の画像処理方法及びプログラム
JP6172973B2 (ja) 画像処理装置
JP2013110754A (ja) カメラ装置、及びその撮影方法とプログラム
JP2010193324A (ja) カメラ装置、及びその撮影方法とプログラム
JP2009021909A (ja) 画像加算装置および方法並びにプログラム
JP4595660B2 (ja) 撮影装置、撮影画像処理方法及びプログラム
JP4547953B2 (ja) 撮影装置、撮影処理方法及びプログラム
JP2006128793A (ja) 撮像装置、及びその制御方法
JP4735649B2 (ja) 撮影画像投影装置
JP5239601B2 (ja) 撮影装置、及び、プログラム
JP4314959B2 (ja) 撮影装置、撮影装置における撮影対象物判定方法、及びプログラム
JP4225225B2 (ja) 撮影装置、撮影装置の画像処理方法及びプログラム
JP2006295310A (ja) 撮影装置、撮影制御方法及びプログラム
JP5614713B2 (ja) 撮像装置およびプログラム
JP2009284124A (ja) 書画カメラ及びその撮影方法、書画カメラシステム
JP4225226B2 (ja) 撮影装置、撮影装置の撮影制御方法及びプログラム
JP2010028273A (ja) 撮像装置、表示制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070312

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100615

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100628

R150 Certificate of patent or registration of utility model

Ref document number: 4547953

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130716

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees