JP2003338907A - 画像入力装置 - Google Patents

画像入力装置

Info

Publication number
JP2003338907A
JP2003338907A JP2002209947A JP2002209947A JP2003338907A JP 2003338907 A JP2003338907 A JP 2003338907A JP 2002209947 A JP2002209947 A JP 2002209947A JP 2002209947 A JP2002209947 A JP 2002209947A JP 2003338907 A JP2003338907 A JP 2003338907A
Authority
JP
Japan
Prior art keywords
subject
image
dimensional shape
pattern
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002209947A
Other languages
English (en)
Other versions
JP4133060B2 (ja
Inventor
Yushi Hasegawa
雄史 長谷川
Norihiko Murata
憲彦 村田
Takashi Kitaguchi
貴史 北口
Yasuhiro Sato
康弘 佐藤
Tomofumi Kitazawa
智文 北澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2002209947A priority Critical patent/JP4133060B2/ja
Publication of JP2003338907A publication Critical patent/JP2003338907A/ja
Application granted granted Critical
Publication of JP4133060B2 publication Critical patent/JP4133060B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 書籍などの湾曲している被写体画像の3次元
形状を多く取得することにより、歪み補正精度を向上さ
せ、高解像度の撮影を実現する。 【解決手段】 投光器12の投光方向に連動して撮像部
11が回転し、投光器12により所定の投光パターン2
2を介し、被写体21に投光し、撮像部11によ分割撮
影を行なう際に、撮像部11は、投光器12の移動距離
にしたがって投光パターン22を変更し、被写体画像の
歪み補正に必要な3次元形状データが含まれる方向と分
解能の高い3次元形状の計測が可能な方向とを一致させ
て撮影し、歪み補正のための3次元形状データを取得
し、当該3次元形状データより撮影された被写体の分割
画像の歪み補正を行なう。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、書籍などの被写体
に所定の投光パターンを光照射し、その反射光から得ら
れる画像の3次元形状を計測して被写体画像の歪み補正
を行ない、高解像度の撮影を得る画像入力装置に関す
る。
【0002】
【従来の技術】従来の画像入力装置(撮影装置)におい
て、被写体に、たとえば平行線などのパターンを投光
し、その反射光を入力して被写体画像の3次元画像を計
測することが行なわれている。このような被写体の3次
元形状を計測する技術に関しては、マシンビジョン・コ
ンピュータビジョンの分野で研究されている。また、3
次元形状の計測方法についてはマシンビジョン(江尻正
員、大田友一、池内克史著)や三次元画像計測(井口往
史、佐藤宏介、昭晃堂出版)などに開示されている。
【0003】ところで、被写体が製本された原稿などで
ある場合、製本された本を開きその上方から撮影する
と、本の継ぎ目の部分では画像が圧縮されて歪んだ画像
になる。そこで、これを解消するものとして、たとえ
ば、原稿を走査して読み取るラインセンサと原稿面との
距離を検出する距離センサとを用い、読み取り時に、検
出した距離に応じてラインセンサの副走査方向の読み取
りピッチを変化させるものが特開昭62−143557
号公報に開示されている。また、特開平3−11796
5号公報には、読み取り面を上向きに配置された原稿を
読み取る原稿読み取り装置において、原稿面上に所定角
度で直線状の光を照射する照射手段と、撮像面の曲がり
具合を検出する検出手段と、読み取り面を上向きに配置
された原稿に対して原稿の上方に所定の間隔で配置され
た原稿読み取り手段と、を有し、原稿の歪みを補正する
ことが開示されている。
【0004】また、特開平4−199478号公報に
は、原稿表面の3次元位置を測定し、その3次元位置情
報を利用して原稿の歪みを補正するものが開示されてい
る。さらに、特開平10−65877号公報には、原稿
を撮影して得られたエッジ情報から原稿のスキューを検
出するエッジ検出手段と、原稿のスキューを検出するス
キュー検出手段と、原稿のエッジ情報とスキュー情報か
ら本の歪みを補正する補正手段とを有した撮像装置によ
り、原稿の歪みを補正することが開示されている。
【0005】また、投光器のパターンに液晶を使用し、
撮影する被写体の大きさによって投光器のパターンを変
化させて、被写体の3次元形状の計測制度を向上させる
ものが特開平5−113320号公報に開示されてい
る。さらに、原稿画像を分割撮影し合成することによ
り、撮影画像の解像度を向上させるものが特公平8−1
3088号公報に開示されている。ここでは、原稿画像
全体を撮影し、全体画像より原稿画像の大きさを算出
し、全体画像の大きさと解像度より分割撮影のための分
割画像領域を求めて分割画像を撮影し、これを合成して
任意の解像度の原稿画像を得ている。
【0006】また、画像シンポジウム2001におい
て、「次世代ドキュメント撮影装置アイスキャナの試
作」(講演番号:G−22、講演者:富士ゼロックス)
の講演でデジタルカメラと、Cubicscope(市
販のパターン投光ユニット)を使用することによって、
分割撮影による高解像度撮影と被写体画像の歪み補正を
可能にした撮影装置が発表されている。
【0007】
【発明が解決しようとする課題】しかしながら、3次元
計測で使用される投光手段が撮像部と一体化しているこ
とが多い従来の装置にあっては、被写体画像を高解像度
で撮影を行なうために、撮像部と支持台の接合部にある
二軸回転機構を利用して原稿画像の分割撮影を行なう際
に、撮像部が移動するので、投光手段と被写体の位置関
係に変化が生じる。
【0008】これをさらに図3、図27〜図29を参照
して説明すると、図3に示すように、被写体21と投光
パターン22の位置関係が最適な状態であれば、図28
に示すように縞模様のパターンが被写体21(製本され
た原稿)に照射されるため、被写体画像の歪みが大きい
方向、すなわち被写体画像の歪み補正に必要な3次元形
状データが含まれる方向と分解能の高い3次元形状の計
測が可能な方向とが一致するので、被写体画像の歪み補
正を行なうに必要な3次元形状を多く得ることができ
る。しかし、原稿画像の分割撮影時には、投光器12と
被写体21の位置関係に変化が生じるため、被写体21
と投光パターン22との配置関係に対応してパターンを
移動する手段がない場合には、図27に示すように、被
写体21と投光パターン22が正確に配置されず、図2
9に示すように、投光パターン22が被写体21に照射
されるため、被写体画像の歪みが大きい方向と分解能の
高い3次元形状の計測が可能な方向とが一致しない。こ
のため、被写体画像の歪み補正を行なうに必要な3次元
形状データを多く得られず、この3次元形状データを用
いた被写体画像の歪み補正を精度よく行なうことができ
ないので、高解像度の撮影が実現されないという問題点
があった。
【0009】なお、特開昭62−143557号公報、
特開平3−117965号公報に開示されている方法に
あっては、画像の歪み補正を行なうだけのため、分割撮
影による高解像度の画像撮影を行なうことができなかっ
た。また、特開平5−113320号公報に開示されて
いる方法にあっては、被写体と投光パターンの配置関係
に対応して投光パターンを変化させる機能が設けられて
いないので、撮像部の移動によって被写体と投光パター
ンとの位置関係が変化すると3次元形状の計測精度を向
上させることができなかった。さらに、特公平8−13
088号公報にか開示されている方法では、分割撮影に
よる高解像度の撮影を行なうだけのため、画像の歪み補
正を行なうことができなかった。
【0010】さて、今後、画像を用いたコミュニケーシ
ョンが特に重要になってくると予想される。たとえば、
会議など電子データを表示する大画面を囲んだコミュニ
ケーションの場において、手元の被写体を画像入力装置
(図1参照)を用いて取り込んで大画面に表示させるこ
とが多くなる。このようにコミュニケーションを行なっ
ている最中に被写体を撮影し、被写体画像の歪み補正を
行なうことを想定した場合、従来の技術では被写体とパ
ターンを正確に配置する作業があるため、コミュニケー
ションの場が中断されることがある。
【0011】ところが、特開平10−65877号公報
に開示されている方法にあっては、スキュー検出手段を
使用することにより、被写体とパターンが正確に配置さ
れていない場合に対しても被写体画像の歪みを補正する
ことができるものの、被写体画像の歪み補正に被写体画
像のエッジ情報を使用するため、エッジ部分に急激な歪
みまたは損傷があるような被写体においては被写体画像
の歪みを補正することができなかった。なお、特開平4
−199478号公報に開示されている方法にあって
は、被写体を上方から撮影した場合を考慮したものでは
ない。
【0012】本発明は、上記に鑑みてなされたものであ
って、書籍などの湾曲している被写体画像の3次元形状
を多く取得することにより、歪み補正精度を向上させ、
高解像度の撮影を実現することを第1の目的とする。
【0013】また、被写体とパターンが正確に配置され
ていなくても、かつエッジ部分に急激な歪みまたは損傷
が存在するような被写体であっても、被写体画像の精度
のよい歪み補正を可能にすることを第2の目的とする。
【0014】
【課題を解決するための手段】上記の目的を達成するた
めに、請求項1にかかる画像入力装置にあっては、投光
手段の投光方向に連動して撮像手段が回転し、前記投光
手段により所定の投光パターンを介し、被写体に投光
し、前記撮影手段により移動毎の反射光を撮像素子に結
像して分割撮影を行なう画像入力装置において、前記撮
影手段は、前記分割撮影時における前記投光手段の移動
距離にしたがって前記投光パターンを変更し、被写体画
像の歪み補正に必要な3次元形状データが含まれる方向
と分解能の高い3次元形状の計測が可能な方向とを一致
させて撮影し、被写体画像の歪み補正を行なうに必要な
3次元形状データを取得し、当該3次元形状データより
撮影された被写体の分割画像の歪み補正を行なった後、
複数枚の被写体画像を合成するものである。
【0015】この発明によれば、撮像手段を移動させて
被写体を分割撮影する際に、撮影手段に付随している投
光手段の移動する移動距離を検出し、その検出結果にし
たがって投光パターンを変更し、被写体画像の歪みが大
きい方向、つまり被写体画像の歪み補正に必要な3次元
形状データが含まれる方向と分解能の高い3次元形状の
計測が可能な方向とを一致させて撮影することにより、
被写体画像の歪み補正を行なうに必要な3次元形状デー
タを数多く取得することができ、さらにこの取得した3
次元形状データより分割撮影時に撮影された被写体の分
割画像の精度のよい歪み補正を行なうことが可能にな
る。
【0016】また、請求項2にかかる画像入力装置にあ
っては、前記撮像手段は、前記撮像素子で撮像された全
体画像から、前記撮像素子を回転させる角度を算出する
角度算出手段を備えたものである。
【0017】この発明によれば、請求項1において、撮
像素子で撮像された全体画像から、撮像素子を回転させ
る角度を算出することにより、被写体の大きさを設定す
ることなく、被写体画像の歪み補正を行なうに必要な3
次元形状データを数多く取得することができる。
【0018】また、請求項3にかかる画像入力装置にあ
っては、前記撮像手段は、前記投光パターンが平面状の
被写体に照射された場合、前記投光パターンを直線状の
パターンとなるように調整するものである。
【0019】この発明によれば、請求項1または2にお
いて、投光パターンが平面状の被写体に照射された場
合、当該パターンを直線状のパターンとなるように調整
することにより、被写体と投光パターンの最適な位置関
係による撮影が可能になる。
【0020】また、請求項4にかかる画像入力装置にあ
っては、前記撮像手段は、回転角度に対応して前記投光
パターンの間隔を調整するものである。
【0021】この発明によれば、請求項1、2または3
において、撮像手段の撮影位置によって投光パターンが
被写体に照射される角度に差が生じ、被写体の高さ方向
の変化に対して当該パターンが移動する割合が変化する
ことを考慮し、撮像方向の角度に応じて投光パターンの
間隔を調整することにより、撮影領域全体での所定の高
さまで計測することが可能になる。
【0022】また、請求項5にかかる画像入力装置にあ
っては、外部コンピュータと接続し、撮影した画像情報
および当該投光パターンの情報を前記外部コンピュータ
に転送し、記憶させるものである。
【0023】この発明によれば、請求項4において、撮
影した画像情報および当該投光パターンの情報をパーソ
ナルコンピュータなどの外部装置に転送し、記憶させる
ことにより、撮影した画像情報に投光パターンを変化さ
せたときの形状情報を画面に表示可能になると共に、撮
影終了後における被写体の3次元形状の計測条件を確認
することが可能になる。
【0024】また、請求項6にかかる画像入力装置にあ
っては、前記撮像手段は、撮影する場所に対応して前記
投光パターンの光量を変化させるものである。
【0025】この発明によれば、請求項1〜5のいずれ
か一つにおいて、撮影する場所に対応して前記投光パタ
ーンの光量を変化させることにより、投光手段からの光
が通過する面積に変化が生じる場合の光量の不均一に対
応させることが可能になる。
【0026】また、請求項7にかかる画像入力装置にあ
っては、前記撮像手段は、被写体のエッジ部分を検出し
て当該検出結果から撮影する領域を判定し、撮像方向の
回転と前記投光パターンを変化させ、被写体の一部分の
3次元形状から被写体全体の3次元形状を推定するもの
である。
【0027】この発明によれば、請求項1〜6のいずれ
か一つにおいて、被写体の一部分だけの3次元形状を計
測し、被写体の3次元形状を推定することにより、被写
体の3次元形状の計測時間の短縮が可能になる。
【0028】また、請求項8にかかる画像入力装置にあ
っては、前記撮像手段は、あらかじめ指定された被写体
の3次元形状の計測対象領域にしたがって前記投光パタ
ーンによる撮影を行ない、当該投光パターンが投光され
た部分の3次元形状から被写体全体の3次元形状を推定
するものである。
【0029】この発明によれば、請求項1〜6のいずれ
か一つにおいて、あらかじめ指定された被写体の3次元
形状の計測対象領域にしたがって投光パターンによる撮
影を行ない、当該投光パターンが投光された部分の3次
元形状から被写体全体の3次元形状を推定することによ
り、被写体の3次元形状の計測時間の短縮が可能にな
る。
【0030】また、請求項9にかかる画像入力装置にあ
っては、前記撮像手段は、被写体の3次元形状を計測す
る一部分を判定する方法を選択する選択手段を備えたも
のである。
【0031】この発明によれば、請求項7または8にお
いて、3次元形状の計測領域を判定する方法をユーザに
より選択させることにより、ユーザの意図した被写体の
3次元形状を計測する一部分を判定する方法による処理
が可能となる。
【0032】また、請求項10にかかる画像入力装置に
あっては、支持手段によって支持され、被写体を撮影す
る撮影手段と、前記被写体に所定のパターンを照射する
投光手段と、を有し、前記投光手段により、前記被写体
に前記パターンを照射して被写体画像を取り込み、前記
被写体画像の3次元形状を計測し、その3次元形状にし
たがって前記被写体画像の歪みを補正する画像入力装置
において、前記被写体と前記パターンとの位置関係を検
出する位置検出手段と、前記位置検出手段の検出結果に
したがって前記被写体と前記パターンとの位置関係を調
整する位置調整手段と、前記位置調整手段により位置調
整が行なわれた後に、前記投光手段により前記パターン
が照射された被写体を前記撮影手段で撮影し、当該撮影
して取得した画像から前記被写体の3次元形状を計測す
る計測手段と、を備えたものである。
【0033】この発明によれば、撮影対象の被写体(た
とえば書籍など)を撮影可能な適当な位置に配置し、そ
の被写体に投光パターンを照射して予備撮影を行ない、
そこで取得した被写体と投光パターンとの配置位置を検
出し、当該検出結果にしたがって被写体と投光パターン
との配置位置を調整し、その調整された最適位置での撮
影を行ない、その画像から被写体の3次元形状を計測
し、さらにこの3次元形状の計測結果にしたがって被写
体画像の歪み補正を実行することにより、被写体と投光
パターンが正確に配置されない場合にも被写体画像の歪
み補正が可能になる。
【0034】また、請求項11にかかる画像入力装置に
あっては、前記位置検出手段は、前記計測手段で計測さ
れた前記被写体の3次元形状にしたがって前記被写体と
前記パターンとの位置関係を検出するものである。
【0035】この発明によれば、請求項10において、
計測手段で計測された被写体の3次元形状にしたがって
被写体とパターンとの大まかな位置関係を検出する予備
撮影を実行し、この予備撮影の結果にしたがって被写体
とパターンとの配置位置を調整し、その調整された最適
位置での撮影を行ない、その画像から被写体の3次元形
状を計測し、さらにこの3次元形状の計測結果にしたが
って被写体画像の歪み補正を実行することにより、被写
体と投光パターンが正確に配置されない場合にも被写体
画像の歪み補正が可能になる。
【0036】また、請求項12にかかる画像入力装置に
あっては、前記位置検出手段は、前記撮影手段で撮影さ
れた被写体画像にしたがって前記被写体と前記パターン
との位置関係を検出するものである。
【0037】この発明によれば、請求項10において、
撮影手段で撮影された被写体画像(画像の特徴)にした
がって被写体と前記パターンとの位置関係を検出する予
備撮影を実行し、この予備撮影の結果にしたがって被写
体とパターンとの配置位置を調整し、その調整された最
適位置での撮影を行ない、その画像から被写体の3次元
形状を計測し、さらにこの3次元形状の計測結果にした
がって被写体画像の歪み補正を実行することにより、被
写体と投光パターンが正確に配置されない場合にも被写
体画像の歪み補正が可能になる。
【0038】また、請求項13にかかる画像入力装置に
あっては、前記位置調整手段は、前記投光手段を移動さ
せて前記被写体と前記パターンとの位置関係を調整する
ものである。
【0039】この発明によれば、請求項10、11また
は12において、予備撮影を行なって被写体と投光パタ
ーンとの大まかな位置関係を求め、この結果にしたがっ
て投光手段を移動し、両者の位置合わせを行なった後、
その調整された最適位置での撮影を行ない、その画像か
ら被写体の3次元形状を計測し、さらにこの3次元形状
の計測結果にしたがって被写体画像の歪み補正を実行す
ることにより、被写体と投光パターンが正確に配置され
ない場合にも被写体画像の歪み補正が可能になる。
【0040】また、請求項14にかかる画像入力装置に
あっては、前記位置調整手段は、前記投光手段による前
記パターンを変化させて前記被写体と前記パターンとの
位置関係を調整するものである。
【0041】この発明によれば、請求項10、11また
は12において、予備撮影を行なって被写体と投光パタ
ーンとの大まかな位置関係を求め、この結果にしたがっ
て投光パターンを変化させて両者の位置合わせを行なっ
た後、その調整された最適位置での撮影を行ない、その
画像から被写体の3次元形状を計測し、さらにこの3次
元形状の計測結果にしたがって被写体画像の歪み補正を
実行することにより、被写体と投光パターンが正確に配
置されない場合にも被写体画像の歪み補正が可能にな
る。
【0042】また、請求項15にかかる画像入力装置に
あっては、前記位置調整手段は、前記被写体を移動させ
て前記被写体と前記パターンとの位置関係を調整するも
のである。
【0043】この発明によれば、請求項10、11また
は12において、予備撮影を行なって被写体と投光パタ
ーンとの大まかな位置関係を求め、この結果にしたがっ
て被写体をたとえばターンテーブに載せて移動させて両
者の位置合わせを行なった後、その調整された最適位置
での撮影を行ない、その画像から被写体の3次元形状を
計測し、さらにこの3次元形状の計測結果にしたがって
被写体画像の歪み補正を実行することにより、被写体と
投光パターンが正確に配置されない場合にも被写体画像
の歪み補正が可能になる。
【0044】
【発明の実施の形態】以下、本発明にかかる画像入力装
置の好適な実施の形態について添付図面を参照し、詳細
に説明する。なお、本発明はこの実施の形態に限定され
るものではない。
【0045】本発明は、被写体の高解像度の撮影を実現
するために、撮像部を移動させて被写体画像の分割撮影
を行なうものである。すなわち、分割撮影時に、移動さ
せる撮影部に付随している投光器が移動する移動距離を
検出し、その検出結果にしたがって照射パターンを変更
する。さらに、被写体画像の歪みが大きい方向、つまり
被写体画像の歪み補正に必要な3次元形状データが含ま
れる方向と分解能の高い3次元形状の計測が可能な方向
とを一致させて撮影することにより、被写体画像の歪み
補正を行なうに必要な3次元形状データを数多く取得す
る。また、この取得した3次元形状データより分割撮影
時に撮影された被写体の分割画像の歪み補正を行なう。
さらに、歪み補正後の複数枚の被写体画像を合成するこ
とにより、書籍などの湾曲している被写体画像の歪み補
正の精度を向上させ、高解像度の撮影、および安価で汎
用性の画像入力装置を実現するものである。以下、実施
の形態1〜6において具体的な構成および動作について
説明する。
【0046】(実施の形態1)図1は、本発明の実施の
形態にかかる画像入力装置の概略構成を示す説明図であ
る。この画像入力装置10は、撮像部11と、投光器1
2と、支持部13と、解像度指示部14と、移動部15
と、撮影スイッチ16と、I/F部17と、後述する計
測位置設定方法切換スイッチ18と、を備えている。な
お、符号21は書籍などの被写体、符号22は投光パタ
ーンである。
【0047】撮像部11と投光器12は、移動部15を
介して支持部13によって支持され、支持部13に対し
て投光器12と撮像部11が上下、左右、斜め方向にそ
の投光軸や撮像光軸を移動できるような首振り機構とな
っている。解像度指示部14により、被写体画像に要す
る解像度を指定する。解像度指示部14は、表示つきの
タッチパネルなどで構成され、所望の解像度を選択でき
るように機能する。撮影スイッチ16を押下すると、支
持部13が設置されている机などに配置されている被写
体21を撮像する。I/F部17は、パーソナルコンピ
ュータなどの外部装置に接続するために、RS232C
やUSBなどの所定のインターフェイス仕様に準拠し、
撮影した画像を転送するために用いられる。
【0048】図2は、図1における撮像部11の構成を
示すブロック図である。図2において、符号1はレン
ズ、符号2は絞り部、符号3は撮像素子、符号4は相関
二重サンプリング回路(以下、CDSという)、符号5
はA/D変換器、符号6はタイミングジェネレータ(以
下、TGという)、符号7は画像前処理回路(以下、I
PPという)、符号8はメモリ、符号9は撮影などの一
連の動作を統括的に制御するMPUである。また、符号
20は液晶パネルなどで構成され、投光パターン22を
形成させるための投光パターンフィルタである。
【0049】以上のように構成された画像入力装置10
は、被写体21は、投光器12で照射されその反射画像
が、レンズ1、絞り部2によって撮像素子3の上の結像
される。撮像素子3からの画像信号はCDS4でサンプ
リングされた後、A/D変換器5でデジタルの信号に変
換される。このときのタイミング信号はTG6で生成さ
れる。上記画像信号は、IPP7でアパーチャ補正など
の画像処理、圧縮などが行なわれメモリ8に保存され
る。この一連の動作はMPU9によって制御される。
【0050】また、投光器12も撮像部11のMPU9
によって投光のタイミングが制御される。投光器12に
は投光パターンフィルタ20が設けられており、投光器
12から照射される光が投光パターンフィルタ20を通
過することにより特定のパターンが被写体21に投光さ
れる。
【0051】投光パターン22は一般的に3次元形状を
計測する際の計算処理の短縮化を考慮し、平面上の被写
体にパターンを照射したときには、図3に示すように、
パターン形状が直線状になることが多いが、他の模様で
あってもよい。
【0052】つぎに、被写体の撮影動作について図4に
示すフローチャートを参照し、説明する。まず、撮影開
始前に解像度指示部14により、被写体21の画像撮影
に関する画像解像度、または被写体の大きさを指定する
(ステップS11)。さらに、解像度指示部14により
指定された画像解像度または被写体の大きさにしたがっ
て撮像部11を移動部15により回転させる(ステップ
S12)。
【0053】さて、撮像部11と投光器12が一体化し
ている構造であると撮像部11の回転に伴い、投光器1
2も回転し、投光器12が被写体21に対して最適なパ
ターンを投光する位置からずれる場合がある。このよう
な場合には投光器12の回転に応じて投光パターン20
を変化させることにより、被写体21に照射するパター
ンを最適な撮影条件となるように変化させる(ステップ
S13)。
【0054】続いて、解像度指示部14により指定され
た画像解像度に対応してズーム倍率を変更し、被写体1
2のテクスチャ画像の撮影を行なう(ステップS1
4)。さらに、投光器12より投光パターン22を被写
体21に照射し、撮像部11により撮影を行ない(ステ
ップS15)、撮影された画像から被写体21の3次元
形状を計測し(ステップS16)、3次元形状の計測結
果にしたがって被写体画像の歪みを補正する(ステップ
S17)。
【0055】続いて、上述の撮影動作において、全体画
像の撮影範囲まで撮影したか否かを判断し(ステップS
18)、全体画像の撮影が行なわれていないと判断した
場合には、上記ステップS12に戻り、以降の動作を全
体画像の撮影終了まで繰り返し実行する。全体画像の撮
影が行なわれると、補正された複数枚の画像を合成する
(ステップS19)。
【0056】つぎに、図4のステップS16における撮
像画像から被写体21の3次元形状を計測する例として
投光パターン22が直線状である場合について説明す
る。投光器12より投光パターン22を被写体21に照
射し、撮像部11で撮像することにより、被写体21に
照射されて歪んだパターンが撮影される。この歪みの程
度より被写体表面上の点の3次元的な位置を検出するこ
とができる。この検出方法について図5を用いて説明す
る。
【0057】投光器12から投光パターン22が照射さ
れた部分は、撮像素子3上の点(u,v)で結像され
る。撮像部11の光学中心を原点とする座標系を定義す
ると、投光パターン22が照射された被写体21上の奥
行き距離zは次式(数1)で表される。
【0058】
【数1】
【0059】上記式において、θ1は投光パターン22
を照射した角度であり既知である。また、θ2は次式
(数2)で与えられる。また、fは撮像部11の焦点距
離である。
【0060】
【数2】
【0061】上記式によりzが求まると、次式(数3)
によりx,yが求まる。
【0062】
【数3】
【0063】以上により、被写体21上の点の3次元位
置が求まる。これを様々な点で求めることにより、被写
体21の3次元形状が得られる。
【0064】つぎに、図4におけるステップS12〜S
18の分割撮影の方法について図6を用いて説明する。
ここで、解像度指示部14により指示された解像度をr
とし、被写体21までの距離をhとすると、光学系に焦
点距離(画素換算値)fは、 f=r・h となる。図6(a)は、被写体21の全体と、撮像部1
1の焦点距離の画素換算値f=r・hとしたときの撮影
エリア25の概略を示したものである。
【0065】まず、図6(b)に示すように、その画角
で原稿の左上を第1分割画像として撮影する。続い
て、図6(c)に示すように、第1分割画像に含まれ
ていない領域の一部を撮影できるように、撮像部11を
移動させ、第2分割画像として撮影する。このような
動作を繰り返し実行し、図6(d)に示すように、原稿
全体(図中における〜)が撮影されれば終了する。
【0066】ところで、分割撮影では、撮像部11を2
軸回転機構によって図7に示すように回転移動させて撮
影を行なうため、被写体21を斜めから撮影することに
なり、被写体21の撮影画像には図7に示すような画像
のあおりが発生する。被写体21の位置回転前に撮影さ
れる画像の位置を(u1,v1)、回転後の画像の位置を
(u2,v2)とすると、両者の間には次式(数4)の関
係が成立する。
【0067】
【数4】
【0068】上記式において、Rは2軸回転機構によっ
て撮像部11が移動した回転を表す回転行列である。ま
た、fは焦点距離の画素換算値であり、aは左辺の列ベ
クトルの第3成分をfに保つための係数である。
【0069】回転前の画像範囲外の点(u1,v1)にあ
る像は、回転後の画像の(u2,v2)の位置にある。し
たがって、(u1,v1)の画素値を(u2,v2)の画素
値にすれば画像を修正することができる。また、
(u2,v2)は整数値をとるとは限らないので、バイリ
ニア法などで補間すると被写体画像の修正精度が向上す
る。
【0070】つぎに、被写体画像の歪み補正方法につい
て説明する。図8は、3次元形状から被写体画像の歪み
を補正するまでの動作を示すフローチャートである。図
9は、図8の動作における画像撮影座標系を示す説明図
である。図8において、まず、被写体表面上の複数点の
3次元位置(u,v,z)を入力し(ステップS2
1)、曲率を持たない方向(u方向)の高さの平均値z
(v)を算出する(ステップS22)。続いて、被写体
画像をu方向に伸張し(ステップS23)、さらに被写
体画像をv方向に伸張する(ステップS24)。
【0071】上記動作について図9を用いてさらに説明
する。図9に示す画像撮影座標系u,vが、被写体21
に対してv方向までの距離zは、u方向には曲率を持た
ないようにとる。理想的には、撮像面(画像面26)か
ら被写体21までの距離zは、uに依存せずvのみの関
数z(v)と表現できる。しかしながら、実際には3次
元位置計測値は、ノイズや被写体21の特性などに起因
してばらつくことがある。したがって、z(v)は以下
の式(数5)で算出する。
【0072】
【数5】
【0073】ここで、uがU1からU2の間に被写体2
1が確実に存在するものとする。また、すべての画素に
撮像面から被写体21までの距離zの情報が割り当てら
れているわけではない。そこで、その範囲に撮像面(画
像面26)から被写体21までの距離zの情報を有して
いる画素の数をN(v)とする。このN(v)の数が多
いほど歪み補正に使用される3次元形状の計測精度は向
上する。
【0074】分割撮影時には被写体21と投光パターン
22の位置関係が変化するが、撮像部11の回転に対し
て投光パターン22を変化させることにより、v方向に
伸びたマルチスリット光による3次元形状計測を行なう
ことができるので、被写体画像の歪み補正を行なうため
に必要な3次元形状データを多く計測することができ
る。理想的は、v方向の全画素についての3次元位置を
算出することができる。しかし、被写体21に反射率が
非常に小さい部分があるなどの場合、撮像面(画像面2
6)から被写体21までの距離zの情報を求めることは
できない。あるvについて撮像面(画像面26)から被
写体21までの距離zの情報を有する画素がない場合、
あるいは極少数である場合、その上下で撮像面(画像面
26)から被写体21までの距離zの情報を有する画素
から、スプライン補間によって、撮像面(画像面26)
から被写体21までの距離zを算出する。
【0075】つぎに、撮像面(画像面26)から被写体
21までの距離zを用いてu方向の歪みを補正する。被
写体21の撮影画像30を図10に示す。まず、各列
は、撮像面(画像面26)から被写体21までの距離z
が異なることにより、撮影画像30上での、原稿領域の
長さが変化するので、これを補正する。
【0076】基準となる列v=V0のときの撮像面(画
像面26)から被写体21までの距離zの平均値z(V
0)を用い、以下の式(数6)にしたがって画素(u,
v)を(u',v)に再配置する。なお、この式におけ
るcuは画像のu方向の中心位置である。
【0077】
【数6】
【0078】上述した歪み補正処理により、u方向の歪
みを除去することができ、四角い被写体21は四角形の
画像になる。しかし、v方向の歪みが残っており、縦に
縮んだような画像になっている。そこで、図11に示す
ように、v方向に画像を伸張することにより、撮像画像
30の歪みを除去することができる。この歪み補正方法
について図12を用いて説明する。
【0079】図12において符号30は被写体21の3
次元位置である。図12では、ある列内の画素Pi0〜
Pi3に相当する3次元位置空間上での点の位置を白丸
で示している。これらの点の隣接する点の間の距離L0
1〜L23を求める。さらに、長さを求めるために、各
点の間をスプライン補間によって埋める。その後、再配
置すべき画素の位置を、画像の基準線からの距離とし
て、縮尺を合わせて順次足し合わせていくことにより決
定する。
【0080】たとえば、Pi3は、(L0+L12+L
23)・f/Fの位置に再配置される。なお、fは焦点
距離、Fは画像の中心点に相当する被写体21までの奥
行きの距離である。この再配置処理と、各画素間の補間
処理により、v方向の歪みが除去される。したがって、
被写体21の分割された画像の歪み補正を行なうことが
できる。
【0081】つぎに、分割撮影のために撮像部11が回
転した角度に対応して投光パターン22を変化させる例
について図13を用いて説明する。分割撮影時に投光パ
ターン22が並ぶ方向に撮像部11を回転させても、平
面状の物体に投影される投光パターン22の形状変化は
ないが、投光パターン22が伸びている方向に撮像部1
1を回転させたときには、投光器12から被写体21ま
での距離の変化により、図13に示すように、投光パタ
ーン22の並びは等ピッチの直線パターンではなく扇型
に変化するために、被写体21に投光パターン22が照
射される本数が減少して3次元形状を計測できる点数が
少なくなる。そこで、撮像部11から被写体21までの
距離の変化に応じて図14に示すように変化させること
により、撮像部21を回転させたときであっても、3次
元形状を計測できる点数が減少しないようにすることが
できる。
【0082】(実施の形態2)上述した実施の形態1で
は、使用者が指定した被写体21の大きさの値に対応し
て撮像部11の回転量を判定したが、この実施の形態2
では、使用者が被写体21の大きさを指定する作業をし
なくても、撮像部11の回転量を自動的に判定し、撮影
を開始するものである。なお、この実施の形態2におけ
る装置構成は実施の形態1と同一とする。
【0083】図15は、本発明の実施の形態2にかかる
撮影動作を示すフローチャートである。まず、撮影開始
前に解像度指示部14から被写体21の撮影する際の画
像解像度を指定する(ステップS31)。続いて、撮像
部11の倍率を最小にし、撮影領域全体の画像を撮影し
(ステップS32)、この撮影された全体画像から被写
体21の大きさを抽出する(ステップS33)。なお、
被写体21の範囲を抽出するには、被写体21の端部を
示すエッジやコーナーなどの特徴を利用するとか、ある
いは背景との輝度値の差異により抽出しても、あるいは
3次元計測結果から被写体21の高さの差異により抽出
してもよい。
【0084】続いて、抽出された被写体21の大きさと
指示された画像解像度にしたがって分割撮影のために回
転させる撮像部11の回転角を算出する(ステップS3
4)。さらに、算出した回転角に応じて撮像部11を回
転する(ステップS35)。その後は、前述した図4の
ステップS13〜S19と同様の動作を実行する(ステ
ップS36〜S42)。これにより、被写体画像の歪み
補正の精度を向上させ、高解像度の撮影が実現する。
【0085】(実施の形態3)実施の形態1で説明した
ように、投光器12から照射された投光パターン22の
反射を撮像部11で撮影することにより、3次元形状の
計測を行なっている。図5に示すように、撮像素子3の
左側部分と右側部分では、投光器12から投光される投
光パターン22が被写体2に照射される角度θ1に差が
生じるために、被写体21の高さ方向の変化に対して投
光パターン22が移動する割合が変化する。
【0086】撮像素子3の場所に対する投光パターン2
2の移動の割合を図16を用いて説明する。投光パター
ン22を照射する間隔を投光パターン22の移動する割
合に対応させて変化させることにより、撮影領域全体に
おいて所定の高さまで計測することができ、空間解像度
を向上させ、3次元形状を計測することができる。
【0087】すなわち、投光器12投光される投光パタ
ーン22が被写体2に照射される角度θ1が大きくなる
ほど、高さの変化に対する投光パターン22の移動量が
小さくなり、反対に角度θ1が小さくなるにしたがって
高さの変化に対する投光パターン22の移動量を大きく
することにより、投光パターン22の間隔を変化させ
る。
【0088】(実施の形態4)これまでの実施の形態1
〜3においては3次元形状の計測精度を向上させるため
に投光パターン22を変化させる例について説明した
が、この実施の形態4では、投光パターン22を変化さ
せたときの形状情報を被写体21の画像情報に付随させ
て記憶させる例について説明する。
【0089】図1の構成において、I/F部17にたと
えばパーソナルコンピュータやサーバなどの外部計算装
置を接続し、撮像部11で撮影した画像を転送し、記憶
装置に記憶させる。また、撮影した画像情報に投光パタ
ーン22を変化させたときの形状情報を付随させてディ
スプレイに表示させることにより、撮影が終了した後で
あっても、被写体21の3次元形状の計測条件を容易に
確認することが可能となる。
【0090】(実施の形態5)ところで、投光パターン
22の模様を変化させると、投光パターンフィルタ20
の場所によっては投光器12からの光が通過する面積に
変化が生じる場合がある。この状態を図17に示す。図
17に示すように、投光器12からの光量が強い部分と
弱い部分では投光パターン22の線幅が異なる。すなわ
ち、投光器22からの光量が強い部分では、投光パター
ン22の光量が弱くなる部分40aが生じ、反対に、投
光器22からの光量が弱い部分では、投光パターン22
の光量が強くなる部分40bが生じる。
【0091】そこで、投光器12からの光が投光パター
ンフィルタ20を通過する面積が小さい箇所(左部分)
では投光器12の光量を上昇させることによって、撮影
領域全体に照射される投光パターン22の光量を一定に
して撮影する。光量の調整は、投光器12と投光パター
ンフィルタ20の間に鏡を入れて光量の少ない場所に投
光器12からの光を誘導してもよいし、投光パターンフ
ィルタ20の透過率を投光パターン22の変化に応じて
変化させるか、あるいは投光器12に複数台の発光素子
を入れて光量を調整してもよい。
【0092】(実施の形態6)さて、書籍などの被写体
21の形状は、被写体全体の3次元形状を計測しなくて
も、被写体21の一部分だけの3次元形状の情報より、
被写体全体の3次元形状を推定することができる。図1
8に示すように、画像領域A,B,C内にある被写体2
1の3次元形状を計測することにより、被写体全体(A
〜Iの画像領域)の形状を推定することができる。
【0093】つぎに、図19に示すフローチャートを参
照し、上述の一連の動作について説明する。まず、撮影
領域全体を撮影し(ステップS51)、撮影領域内にあ
る被写体21の位置と2次元平面状に投影されたときの
形を検出し、撮影領域の全体画像から被写体21のエッ
ジを検出する(ステップS52)。続いて、被写体21
を2次元平面状に投影されたときの形が、長方形に近い
形状であれば書籍とみなし、被写体21の3次元形状を
計測する領域を判定する(ステップS53)。
【0094】上記における計測する領域としては、たと
えば図18における撮影領域A,B,Cだけでよい。続
いて、撮影領域A,B,Cの3次元形状の計測を行なう
ために撮像部21を回転し(ステップS54)、投光パ
ターン22を変化させ(ステップS55)、そのパター
ン投光画像を撮影し(ステップS56)、その撮影画像
から3次元形状を計測する(ステップS57)。続い
て、判定した撮影範囲まで撮影したか否かを判断し(ス
テップS58)、判定した撮影範囲まで撮影が行なわれ
た場合には、被写体全体の3次元形状を推定する(ステ
ップS59)。この際、図18の撮影領域D,G内にあ
る被写体21の3次元形状は、撮影領域A内にある被写
体21の3次元形状とほぼ同じ形状になる(撮影領域
B,E,H,C,F,Iにおいても同様)ので、撮影領
域A,B,Cの3次元形状から被写体全体の3次元形状
を推定することができる。
【0095】一方、ステップS58において、判定した
撮影範囲まで撮影していない場合にはステップS54に
戻り、以降の動作を、判定した撮影範囲まで撮影が行な
われるまで繰り返し実行する。ステップS59の処理が
終了すると、つぎに撮像部11を回転し(ステップS6
0)、テクスチャ画像を撮影し(ステップS61)、さ
らに、3次元形状の計測結果にしたがって被写体画像の
歪みを補正する(ステップS62)。続いて、上述の撮
影動作において、全体画像の撮影範囲まで撮影したか否
かを判断し(ステップS63)、全体画像の撮影が行な
われていないと判断した場合には、上記ステップS60
に戻り、以降の動作を全体画像の撮影終了まで繰り返し
実行する。全体画像の撮影が行なわれると、補正された
複数枚の画像を合成する(ステップS64)。
【0096】また、上述した動作において、被写体21
の3次元形状を計測する領域を撮影前から指定しておく
ことにより、撮影領域の全体画像の撮影と、被写体21
のエッジを検出し3次元形状を計測する撮影領域を判定
する作業が不要となる。さらに、ユーザが意図した3次
元形状を計測する領域を切り換えるための計測位置設定
方法切換スイッチ18(図1参照)を設けることによ
り、被写体21の3次元形状を計測する一部分を判定す
る方法を選択することができる。
【0097】(実施の形態7)この実施の形態7以降に
おいては、図1および図2に示す画像入力装置を用い、
予備撮影を行ない被写体21と投光パターン22との配
置関係を検出(図5参照)し、その検出結果に応じて、
被写体画像の歪み補正を実行するのに必要な3次元デー
タを多く計測する最適な撮影条件となるように、被写体
21と投光パターン22との配置位置を変化させること
により、撮影前に被写体21と投光パターン22との位
置関係を正確に調整しなくても、被写体画像の歪み補正
を精度よく行なえる例について説明する。
【0098】図20は、本発明の実施の形態7にかかる
撮影動作を示すフローチャートである。まず、画像入力
装置1の撮影位置へ被写体21を適当に配置し、撮影ス
イッチ16を押下して予備撮影を行なう(ステップS7
1)。なお、予備撮影の詳細については後述する(実施
の形態8、9参照)。続いて、この予備撮影で取得した
画像情報から被写体21と投光パターン22との位置関
係を検出し(ステップS72)、その検出結果にしたが
って被写体21と投光パターン22と位置関係を調整す
る(ステップS73)。なお、この位置調整については
後述する(実施の形態10〜12参照)。
【0099】続いて、投光器12より投光パターン22
を被写体21に対して投光し(ステップS74)、撮像
部11により被写体21の撮影を実行する(ステップS
75)。さらに、この撮影された画像から被写体21の
3次元形状を前述した手順(実施の形態1)を計測し
(ステップS76)、この計測した3次元形状にしたが
って被写体画像の歪み補正を行なう(ステップS77)。
【0100】なお、上記ステップS76,S77におけ
る3次元形状の計測処理および被写体画像の歪み補正処
理は、画像入力装置10の計算処理の負荷を軽減させる
ために、画像情報を画像入力装置10からパーソナルコ
ンピュータやサーバなどの外部計算機へ転送し、その計
算機内で実行させるようにしてもよい。
【0101】(実施の形態8)この実施の形態8は、被写
体21と投光パターン22との位置関係を検出するため
の予備撮影について記述するものである。図21は、本
発明の実施の形態8にかかる撮影動作を示すフローチャ
ートである。まず、画像入力装置10の撮影位置へ被写
体21を適当にに配置し、撮影スイッチ16を押下する
ことにより予備撮影が開始される(ステップS81)。
投光器12より投光パターン22を被写体21に投光し
(ステップS82)、撮像部11によって撮影を行なう
(ステップS83)。さらに、撮像部11で取得した画
像から3次元形状を計測し(ステップS84)、予備撮
影を終了する(ステップS85)。
【0102】続いて、上記ステップS81〜ステップS
85の予備撮影処理にしたがって、前述の図20と同様
に、被写体21と投光パターン22との位置検出、位置
合わせ、3次元形状の計測、被写体画像の歪み補正を実
行する(ステップS86〜ステップS91)。
【0103】なお、上述の予備撮影において被写体21
の3次元形状が計測されない場合には、投光器12を移
動させ、再度、予備撮影を行ない、大まかな3次元形状
が計測されるまで予備撮影を繰り返し実行する。また、
この予備撮影に制限時間を設定し、当該制限時間を過ぎ
た場合に、たとえば音や投光パターン22などにより撮
影不可能であることをユーザに知らせるようにしてもよ
い。
【0104】(実施の形態9)この実施の形態9は、被
写体21と投光パターン22との位置関係を画像の特徴
から検出する予備撮影について記述するものである。図
22は、本発明の実施の形態9にかかる撮影動作を示す
フローチャートである。まず、画像入力装置10の撮影
位置へ被写体21を適当に配置し、撮影スイッチ16を
押下することにより予備撮影が開始される(ステップS
101)。続いて、撮像部11により被写体21のテク
スチャ画像の撮影を行ない(ステップS102)、被写
体21のテクスチャ画像の輝度情報にしたがって被写体
21の特徴点の位置を抽出する(ステップS103)。
これらの予備撮影を終了し(ステップS104)、予備
撮影処理にしたがって、前述の図20と同様に、被写体
21と投光パターン22との位置検出、位置合わせ、3
次元形状の計測、被写体画像の歪み補正を実行する(ス
テップS105〜ステップS110)。
【0105】上述した撮影処理において、被写体21
が、たとえば製本された原稿など特徴点がほぼ決定して
いるものであれば、被写体21の特徴点の位置を計測す
ることにより、被写体21と投光パターン22との位置
関係を検出することができる。製本された原稿などの特
徴点の抽出には、本の継ぎ目の部分など外光が照射され
ず影になって被写体21の輝度が低くなる部分や、被写
体21のエッジ情報、被写体21に記載されている文字
列などを利用することができる。
【0106】このように、テクスチャ画像から被写体2
1と投光パターン22との位置関係を検出することによ
り、予備撮影時における3次元形状の計測処理が軽減さ
れるので、撮影時間を短縮することができる。
【0107】なお、上述の予備撮影において被写体21
の特徴点が抽出されない場合には、投光器12を移動さ
せ、再度、予備撮影を行ない、特徴点が抽出されるまで
予備撮影を繰り返し実行する。また、この予備撮影に制
限時間を設定し、当該制限時間を過ぎた場合に、たとえ
ば音や投光パターン22などにより撮影不可能であるこ
とをユーザに知らせるようにしてもよい。
【0108】(実施の形態10)この実施の形態10で
は、被写体21と投光パターン22との位置関係を予備
撮影によって求めた後に、その位置調整を、投光器11
を支持部13に対して移動させて行なう例について説明
する。画像入力装置10は、先に述べたように、投光器
12が、移動部15を介して支持部13によって支持さ
れ、支持部13に対して投光器12が上下、左右、斜め
に投光軸や撮影光軸を移動する機構を有している。
【0109】図23は、本発明の実施の形態10にかか
る撮影動作を示すフローチャートである。まず、画像入
力装置10の撮影位置へ被写体21を適当に配置し、撮
影スイッチ16を押下することにより予備撮影が開始さ
れる(ステップS111)。続いて、この予備撮影で取
得した画像情報から被写体21と投光パターン22との
位置関係を検出し(ステップS112)、その検出結果
にしたがって被写体21と投光パターン22と位置関係
の調整を開始し(ステップS113)、移動部15の首
振り機構を用いて投光器12を支持部13から移動させ
(ステップS114)、被写体21と投光パターン22
と位置合わせを行なう(ステップS115)。その後、
前述と同様に、投光パターン22の投光、被写体21の
撮影、3次元形状の計測、被写体画像の歪み補正を実行
する(ステップS116〜ステップS119)。
【0110】(実施の形態11)この実施の形態11で
は、被写体21と投光パターン22との位置関係を予備
撮影によって求めた後に、その位置調整を、投光パター
ン22を変化させることにより行なう例について説明す
る。
【0111】図24は、本発明の実施の形態11にかか
る撮影動作を示すフローチャートである。まず、画像入
力装置10の撮影位置へ被写体21を適当に配置し、撮
影スイッチ16を押下することにより予備撮影を行なう
(ステップS121)。続いて、この予備撮影で取得し
た画像情報から被写体21と投光パターン22との位置
関係を検出し(ステップS122)、その検出結果にし
たがって投光パターンフィルタ20を変化させて投光パ
ターンを変化させ(ステップS124)、被写体21と
投光パターン22と位置合わせを行なう(ステップS1
25)。
【0112】なお、ステップS124では、投光器12
の投光口に設置されている投光パターンフィルタ20の
材料には液晶パネルなどを用い、たとえば図14に示す
ように、投光パターン22を可変させる。
【0113】その後、前述と同様に、投光パターン22
の投光、被写体21の撮影、3次元形状の計測、被写体
画像の歪み補正を実行する(ステップS126〜ステッ
プS129)。
【0114】(実施の形態12)この実施の形態12で
は、被写体21と投光パターン22との位置関係を予備
撮影によって求めた後に、その位置調整を、被写体21
を回転させることにより行なう例について説明する。被
写体21を回転させる機構としては、たとえば図26に
示すターンテーブル50を用いる。
【0115】図25は、本発明の実施の形態12にかか
る撮影動作を示すフローチャートである。まず、画像入
力装置10の撮影位置へ被写体21を適当に配置し、撮
影スイッチ16を押下することにより予備撮影を行なう
(ステップS131)。続いて、この予備撮影で取得し
た画像情報から被写体21と投光パターン22との位置
関係を検出し(ステップS132)、その検出結果にし
たがって被写体21と投光パターン22の位置合わせを
開始し(ステップS133)、被写体21をターンテー
ブル50で移動し(ステップS134)、被写体21と
投光パターン22と位置合わせを行なう(ステップS1
35)。その後、前述と同様に、投光パターン22の投
光、被写体21の撮影、3次元形状の計測、被写体画像
の歪み補正を実行する(ステップS136〜ステップS
139)。
【0116】すなわち、撮影前に被写体21をターンテ
ーブル50に載せ、被写体21と投光パターン22の位
置関係の検出結果にしたがってターンテール50を回転
させることにより、被写体21に照射される投光パター
ン22を変化させる。なお、ターンテーブル50の制御
をパーソナルコンピュータ60やサーバなどを介して行
なうことにより、画像入力装置10の処理負担が軽減す
る。
【0117】
【発明の効果】以上説明したように、本発明にかかる画
像入力装置(請求項1)によれば、撮像手段を移動させ
て被写体を分割撮影する際に、撮影手段に付随している
投光手段の移動する移動距離を検出し、その検出結果に
したがって投光パターンを変更し、被写体画像の歪みが
大きい方向、つまり被写体画像の歪み補正に必要な3次
元形状データが含まれる方向と分解能の高い3次元形状
の計測が可能な方向とを一致させて撮影することによ
り、被写体画像の歪み補正を行なうのに必要な3次元形
状データを数多く取得することができ、さらにこの取得
した3次元形状データより分割撮影時に撮影された被写
体の分割画像の精度のよい歪み補正を行なうことが可能
になるため、書籍などの湾曲している被写体画像の歪み
補正の精度が向上し、高解像度の撮影を行なうことがで
きる。
【0118】また、本発明にかかる画像入力装置(請求
項2)によれば、請求項1において、撮像素子で撮像さ
れた全体画像から、撮像素子を回転させる角度を算出す
ることにより、被写体の大きさを設定することなく、被
写体画像の歪み補正を行なうに必要な3次元形状データ
を数多く取得することができるため、被写体の歪み補正
精度が向上し、高解像度の撮影が実現する。
【0119】また、本発明にかかる画像入力装置(請求
項3)によれば、請求項1または2において、投光パタ
ーンが平面状の被写体に照射された場合、当該パターン
を直線状のパターンとなるように調整するため、被写体
と投光パターンの位置関係がずれても、両者の最適な位
置関係による撮影を行なうことができる。
【0120】また、本発明にかかる画像入力装置(請求
項4)によれば、請求項1、2または3において、撮像
手段の撮影位置によって投光パターンが被写体に照射さ
れる角度に差が生じ、被写体の高さ方向の変化に対して
当該パターンが移動する割合が変化することを考慮して
撮像方向の角度に応じて投光パターンの間隔を調整する
ことにより、撮影領域全体での所定の高さまで計測する
ことが可能になるので、空間解像度が向上した3次元形
状の計測が行なえる。
【0121】また、本発明にかかる画像入力装置(請求
項5)によれば、請求項4において、撮影した画像情報
および当該投光パターンの情報をパーソナルコンピュー
タなどの外部装置に転送し、記憶させることにより、撮
影した画像情報に投光パターンを変化させたときの形状
情報を画面に表示可能になると共に、撮影終了後におけ
る被写体の3次元形状の計測条件を確認することが可能
になるので、再度撮影を行なう際の有効な参考情報が得
らる。
【0122】また、本発明にかかる画像入力装置(請求
項6)によれば、請求項1〜5のいずれか一つにおい
て、撮影する場所に対応して前記投光パターンの光量を
変化させることにより、投光手段からの光が通過する面
積に変化が生じる場合の光量の不均一に対応させること
が可能になるので、撮影位置にかかわらず常に良好な光
量状態で撮影を行なうことができる。
【0123】また、本発明にかかる画像入力装置(請求
項7)によれば、請求項1〜6のいずれか一つにおい
て、被写体の一部分だけの3次元形状を計測し、被写体
の3次元形状を推定することが可能なため、被写体の3
次元形状の計測時間を短縮することができる。
【0124】また、本発明にかかる画像入力装置(請求
項8)によれば、請求項1〜6のいずれか一つにおい
て、あらかじめ指定された被写体の3次元形状の計測対
象領域にしたがって投光パターンによる撮影を行ない、
当該投光パターンが投光された部分の3次元形状から被
写体全体の3次元形状を推定することが可能なため、被
写体の3次元形状の計測時間を短縮することができる。
【0125】また、本発明にかかる画像入力装置(請求
項9)によれば、請求項7または8において、3次元形
状の計測領域を判定する方法をユーザにより選択させる
ことが可能なため、被写体の3次元形状を計測する一部
分を判定する方法をユーザの意図した方法で行なうこと
ができる。
【0126】また、本発明にかかる画像入力装置(請求
項10)によれば、撮影対象の被写体(たとえば書籍な
ど)を撮影可能な適当な位置に配置し、その被写体に投
光パターンを照射して予備撮影を行ない、そこで取得し
た被写体と投光パターンとの配置位置を検出し、当該検
出結果にしたがって被写体と投光パターンとの配置位置
を調整し、その調整された最適位置での撮影を行ない、
その画像から被写体の3次元形状を計測し、さらにこの
3次元形状の計測結果にしたがって被写体画像の歪み補
正を実行することにより、被写体と投光パターンが正確
に配置されない場合にも被写体画像の歪み補正が可能に
なるため、撮影前に被写体と投光パターンとの位置関係
を正確に調整して合わすという煩わしい作業をしなくて
も、被写体画像の歪み補正を精度よく実行することがで
きる。
【0127】また、本発明にかかる画像入力装置(請求
項11)によれば、請求項10において、計測手段で計
測された被写体の3次元形状にしたがって被写体とパタ
ーンとの大まかな位置関係を検出する予備撮影を実行
し、この予備撮影の結果にしたがって被写体とパターン
との配置位置を調整し、その調整された最適位置での撮
影を行ない、その画像から被写体の3次元形状を計測
し、さらにこの3次元形状の計測結果にしたがって被写
体画像の歪み補正を実行することにより、被写体と投光
パターンが正確に配置されない場合にも被写体画像の歪
み補正が可能になるため、エッジ部分に急激な歪みや損
傷があるような被写体であっても、被写体の歪み補正を
行なうことができる。
【0128】また、本発明にかかる画像入力装置(請求
項12)によれば、請求項10において、撮影手段で撮
影された被写体画像(画像の特徴)にしたがって被写体
と前記パターンとの位置関係を検出する予備撮影を実行
し、この予備撮影の結果にしたがって被写体とパターン
との配置位置を調整し、その調整された最適位置での撮
影を行ない、その画像から被写体の3次元形状を計測
し、さらにこの3次元形状の計測結果にしたがって被写
体画像の歪み補正を実行することにより、被写体と投光
パターンが正確に配置されない場合にも被写体画像の歪
み補正が可能になるため、予備撮影時の3次元形状の計
測処理、テクスチャ画像の撮影作業が軽減され、撮影時
間の短縮化を図ることができる。
【0129】また、本発明にかかる画像入力装置(請求
項13)によれば、請求項10、11または12におい
て、予備撮影を行なって被写体と投光パターンとの大ま
かな位置関係を求め、この結果にしたがって投光手段を
移動し、両者の位置合わせを行なった後、その調整され
た最適位置での撮影を行ない、その画像から被写体の3
次元形状を計測し、さらにこの3次元形状の計測結果に
したがって被写体画像の歪み補正を実行することによ
り、被写体と投光パターンが正確に配置されない場合に
も被写体画像の歪み補正が可能になるため、最適な条件
で被写体を撮影しているかを確認することができる。
【0130】また、本発明にかかる画像入力装置(請求
項14)によれば、請求項10、11または12におい
て、予備撮影を行なって被写体と投光パターンとの大ま
かな位置関係を求め、この結果にしたがって投光パター
ンを変化させて両者の位置合わせを行なった後、その調
整された最適位置での撮影を行ない、その画像から被写
体の3次元形状を計測し、さらにこの3次元形状の計測
結果にしたがって被写体画像の歪み補正を実行すること
により、被写体と投光パターンが正確に配置されない場
合にも被写体画像の歪み補正が可能になるため、投光手
段を移動させる時間が短縮され、撮影時間の短縮化を図
ることができる。
【0131】また、本発明にかかる画像入力装置(請求
項15)によれば、請求項10、11または12におい
て、予備撮影を行なって被写体と投光パターンとの大ま
かな位置関係を求め、この結果にしたがって被写体をた
とえばターンテーブに載せて移動させて両者の位置合わ
せを行なった後、その調整された最適位置での撮影を行
ない、その画像から被写体の3次元形状を計測し、さら
にこの3次元形状の計測結果にしたがって被写体画像の
歪み補正を実行することにより、被写体と投光パターン
が正確に配置されない場合にも被写体画像の歪み補正が
可能になるため、装置本体の処理負荷が軽減され、撮影
時間が短縮される。
【図面の簡単な説明】
【図1】本発明の実施の形態にかかる画像入力装置の概
略構成を示す説明図である。
【図2】図1における撮像部の構成を示すブロック図で
ある。
【図3】投光器による直線状のパターン投光例を示す説
明図である。
【図4】本発明の実施の形態1にかかる被写体の撮影動
作を示すフローチャートである。
【図5】被写体表面上の点の3次元位置を検出する方法
を示す説明図である。
【図6】分割撮影の方法を示す説明図である。
【図7】撮像部の回転による画像のあおり現象を示す説
明図である。
【図8】3次元形状から被写体画像の歪み補正を行なう
動作を示すフローチャートである。
【図9】図8における画像撮影座標系を示す説明図であ
る。
【図10】歪み補正前の撮影画像およびu方向の歪み補
正の状態を示す説明図である。
【図11】図10の撮影画像に対するv方向への伸張処
理を示す説明図である。
【図12】図11におけるv方向の歪み補正方法を示す
説明図である。
【図13】分割撮影時における撮像部回転に被写体まで
の距離の変化による投光パターンの状態および被写体画
像の状態を示す説明図である。
【図14】撮像部の回転角度に対応して投光パターンを
変化させる例を示す説明図である。
【図15】本発明の実施の形態2にかかる撮影動作を示
すフローチャートである。
【図16】本発明の実施の形態3にかかる投光パターン
の調整例を示す説明図である。
【図17】投光パターンフィルタの場所の違いによるパ
ターンの変化状態およびその調整例を示す説明図であ
る。
【図18】本発明の実施の形態6にかかる3次元形状の
推定例を示す説明図である。
【図19】被写体の一部分の3次元形状から被写体全体
の3次元形状を推定する動作などを示すフローチャート
である。
【図20】本発明の実施の形態7にかかる撮影動作を示
すフローチャートである。
【図21】本発明の実施の形態8にかかる撮影動作を示
すフローチャートである。
【図22】本発明の実施の形態9にかかる撮影動作を示
すフローチャートである。
【図23】本発明の実施の形態10にかかる撮影動作を
示すフローチャートである。
【図24】本発明の実施の形態11にかかる撮影動作を
示すフローチャートである。
【図25】本発明の実施の形態12にかかる撮影動作を
示すフローチャートである。
【図26】本発明の実施の形態12にかかるシステム構
成を示す説明図である。
【図27】被写体と投光パターンとの位置関係がずれた
状態を示す説明図である。
【図28】図3の正常な投光時における撮影状態を示す
説明図である。
【図29】図27の不正確な投光時における撮影状態を
示す説明図である。
【符号の説明】
3 撮像素子 7 IPP 8 メモリ 9 MPU 10 画像入力装置 11 撮像部 12 投光器 13 支持部 14 解像度指示部 15 移動部 16 撮影スイッチ 17 I/F部 18 計測位置設定方法切換スイッチ 20 投光パターンフィルタ 21 被写体 22 投光パターン 50 ターンテーブル
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 1/107 H04N 5/238 Z 5C072 1/387 7/18 K 5C076 5/222 1/10 5/238 G01B 11/24 K 7/18 (72)発明者 北口 貴史 東京都大田区中馬込1丁目3番6号 株式 会社リコー内 (72)発明者 佐藤 康弘 東京都大田区中馬込1丁目3番6号 株式 会社リコー内 (72)発明者 北澤 智文 東京都大田区中馬込1丁目3番6号 株式 会社リコー内 Fターム(参考) 2F065 AA51 AA53 FF04 HH07 JJ26 LL21 MM25 QQ03 QQ24 QQ31 5B047 AA01 AA07 BA02 BA04 BC12 CA17 CA19 CB09 CB23 5B057 AA11 BA02 BA15 BA19 CA02 CA06 CA12 CA16 CD12 CE10 CE20 CH08 CH18 DA07 DB02 DB05 DB08 5C022 AB15 AB66 AB68 AC27 AC42 CA07 5C054 AA05 CA04 CE02 CE16 CF06 CH02 FD01 FE12 5C072 AA01 BA17 CA20 DA21 DA23 LA12 RA03 UA06 UA11 VA06 5C076 AA36 AA40 BA01 BA06

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 投光手段の投光方向に連動して撮像手段
    が回転し、前記投光手段により所定の投光パターンを介
    し、被写体に投光し、前記撮影手段により移動毎の反射
    光を撮像素子に結像して分割撮影を行なう画像入力装置
    において、 前記撮影手段は、前記分割撮影時における前記投光手段
    の移動距離にしたがって前記投光パターンを変更し、被
    写体画像の歪み補正に必要な3次元形状データが含まれ
    る方向と分解能の高い3次元形状の計測が可能な方向と
    を一致させて撮影し、被写体画像の歪み補正を行なうに
    必要な3次元形状データを取得し、当該3次元形状デー
    タより撮影された被写体の分割画像の歪み補正を行なっ
    た後、複数枚の被写体画像を合成することを特徴とする
    画像入力装置。
  2. 【請求項2】 前記撮像手段は、前記撮像素子で撮像さ
    れた全体画像から、前記撮像素子を回転させる角度を算
    出する角度算出手段を備えたことを特徴とする請求項1
    に記載の画像入力装置。
  3. 【請求項3】 前記撮像手段は、前記投光パターンが平
    面状の被写体に照射された場合、前記投光パターンを直
    線状のパターンとなるように調整することを特徴とする
    請求項1または2に記載の画像入力装置。
  4. 【請求項4】 前記撮像手段は、回転角度に対応して前
    記投光パターンの間隔を調整することを特徴とする請求
    項1、2または3に記載の画像入力装置。
  5. 【請求項5】 外部コンピュータと接続し、撮影した画
    像情報および当該投光パターンの情報を前記外部コンピ
    ュータに転送し、記憶させることを特徴とする請求項4
    に記載の画像入力装置。
  6. 【請求項6】 前記撮像手段は、撮影する場所に対応し
    て前記投光パターンの光量を変化させることを特徴とす
    る請求項1〜5のいずれか一つに記載の画像入力装置。
  7. 【請求項7】 前記撮像手段は、被写体のエッジ部分を
    検出して当該検出結果から撮影する領域を判定し、撮像
    方向の回転と前記投光パターンを変化させ、被写体の一
    部分の3次元形状から被写体全体の3次元形状を推定す
    ることを特徴とする請求項1〜6のいずれか一つに記載
    の画像入力装置。
  8. 【請求項8】 前記撮像手段は、あらかじめ指定された
    被写体の3次元形状の計測対象領域にしたがって前記投
    光パターンによる撮影を行ない、当該投光パターンが投
    光された部分の3次元形状から被写体全体の3次元形状
    を推定することを特徴とする請求項1〜6のいずれか一
    つに記載の画像入力装置。
  9. 【請求項9】 前記撮像手段は、被写体の3次元形状を
    計測する一部分を判定する方法を選択する選択手段を備
    えたことを特徴とする請求項7または8に記載の画像入
    力装置。
  10. 【請求項10】 支持手段によって支持され、被写体を
    撮影する撮影手段と、前記被写体に所定のパターンを照
    射する投光手段と、を有し、 前記投光手段により、前記被写体に前記パターンを照射
    して被写体画像を取り込み、前記被写体画像の3次元形
    状を計測し、その3次元形状にしたがって前記被写体画
    像の歪みを補正する画像入力装置において、 前記被写体と前記パターンとの位置関係を検出する位置
    検出手段と、 前記位置検出手段の検出結果にしたがって前記被写体と
    前記パターンとの位置関係を調整する位置調整手段と、 前記位置調整手段により位置調整が行なわれた後に、前
    記投光手段により前記パターンが照射された被写体を前
    記撮影手段で撮影し、当該撮影して取得した画像から前
    記被写体の3次元形状を計測する計測手段と、 を備えたことを特徴とする画像入力装置。
  11. 【請求項11】 前記位置検出手段は、前記計測手段で
    計測された前記被写体の3次元形状にしたがって前記被
    写体と前記パターンとの位置関係を検出することを特徴
    とする請求項10に記載の画像入力装置。
  12. 【請求項12】 前記位置検出手段は、前記撮影手段で
    撮影された被写体画像にしたがって前記被写体と前記パ
    ターンとの位置関係を検出することを特徴とする請求項
    10に記載の画像入力装置。
  13. 【請求項13】 前記位置調整手段は、前記投光手段を
    移動させて前記被写体と前記パターンとの位置関係を調
    整することを特徴とする請求項10、11または12に
    記載の画像入力装置。
  14. 【請求項14】 前記位置調整手段は、前記投光手段に
    よる前記パターンを変化させて前記被写体と前記パター
    ンとの位置関係を調整することを特徴とする請求項1
    0、11または12に記載の画像入力装置。
  15. 【請求項15】 前記位置調整手段は、前記被写体を移
    動させて前記被写体と前記パターンとの位置関係を調整
    することを特徴とする請求項10、11または12に記
    載の画像入力装置。
JP2002209947A 2002-03-14 2002-07-18 画像入力装置、画像入力方法、およびコンピュータ読み取り可能な記録媒体 Expired - Fee Related JP4133060B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002209947A JP4133060B2 (ja) 2002-03-14 2002-07-18 画像入力装置、画像入力方法、およびコンピュータ読み取り可能な記録媒体

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2002-70920 2002-03-14
JP2002070920 2002-03-14
JP2002209947A JP4133060B2 (ja) 2002-03-14 2002-07-18 画像入力装置、画像入力方法、およびコンピュータ読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2003338907A true JP2003338907A (ja) 2003-11-28
JP4133060B2 JP4133060B2 (ja) 2008-08-13

Family

ID=29714164

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002209947A Expired - Fee Related JP4133060B2 (ja) 2002-03-14 2002-07-18 画像入力装置、画像入力方法、およびコンピュータ読み取り可能な記録媒体

Country Status (1)

Country Link
JP (1) JP4133060B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2426071A (en) * 2005-05-11 2006-11-15 Haroon Ahmed Positioning books for imaging and correcting distortion
JP2011064617A (ja) * 2009-09-18 2011-03-31 Fukuoka Institute Of Technology 三次元情報計測装置および三次元情報計測方法
JP2012195875A (ja) * 2011-03-17 2012-10-11 Seiko Epson Corp 画像出力装置
KR20140015077A (ko) * 2012-07-27 2014-02-06 삼성테크윈 주식회사 실물화상기
JP2016001864A (ja) * 2014-05-22 2016-01-07 キヤノン株式会社 画像読取装置、画像読取方法、及びプログラム
KR20160101091A (ko) * 2013-12-19 2016-08-24 코닝 인코포레이티드 사실상 원통형인 경면 반사면의 형상을 결정하기 위한 방법
CN116141845A (zh) * 2023-02-03 2023-05-23 广州一龙印刷有限公司 一种书刊装订用辅助校验装置及校验方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101698314B1 (ko) * 2015-12-09 2017-01-20 경북대학교 산학협력단 영상 통계정보에 기반한 정지장면 분할장치 및 그 방법

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2426071A (en) * 2005-05-11 2006-11-15 Haroon Ahmed Positioning books for imaging and correcting distortion
GB2426071B (en) * 2005-05-11 2009-02-11 Haroon Ahmed Document imaging
JP2011064617A (ja) * 2009-09-18 2011-03-31 Fukuoka Institute Of Technology 三次元情報計測装置および三次元情報計測方法
JP2012195875A (ja) * 2011-03-17 2012-10-11 Seiko Epson Corp 画像出力装置
KR20140015077A (ko) * 2012-07-27 2014-02-06 삼성테크윈 주식회사 실물화상기
KR20160101091A (ko) * 2013-12-19 2016-08-24 코닝 인코포레이티드 사실상 원통형인 경면 반사면의 형상을 결정하기 위한 방법
JP2017500572A (ja) * 2013-12-19 2017-01-05 コーニング インコーポレイテッド 実質的に円筒形の鏡面反射面の形状を決定するための方法
KR102233060B1 (ko) 2013-12-19 2021-03-30 코닝 인코포레이티드 사실상 원통형인 경면 반사면의 형상을 결정하기 위한 방법
JP2016001864A (ja) * 2014-05-22 2016-01-07 キヤノン株式会社 画像読取装置、画像読取方法、及びプログラム
CN116141845A (zh) * 2023-02-03 2023-05-23 广州一龙印刷有限公司 一种书刊装订用辅助校验装置及校验方法
CN116141845B (zh) * 2023-02-03 2023-10-13 广州一龙印刷有限公司 一种书刊装订用辅助校验装置及校验方法

Also Published As

Publication number Publication date
JP4133060B2 (ja) 2008-08-13

Similar Documents

Publication Publication Date Title
JP4012710B2 (ja) 画像入力装置
JP4297630B2 (ja) 電子撮像装置
US6519359B1 (en) Range camera controller for acquiring 3D models
JP4699995B2 (ja) 複眼撮像装置及び撮像方法
US7609958B2 (en) Automatic focus system calibration for image capture systems
JP3929752B2 (ja) 文書カメラ
JP2011139368A (ja) 撮像装置の制御装置および制御方法
KR20070111269A (ko) 파노라마 사진 촬영 방법
JP2003015218A (ja) 投影型表示装置
JP2002152485A (ja) 撮像装置、撮像画像の合成方法、画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体及び撮像システム
JP2003338907A (ja) 画像入力装置
JP2001330915A (ja) 立体画像撮影方法及び撮影補助具
JP2007047415A (ja) 撮像装置及び焦点調節装置
JP3178205B2 (ja) 画像入力システム
JP3282332B2 (ja) 画像入力システム
JP6722522B2 (ja) 三次元測定装置及びその制御方法
JP4390779B2 (ja) 画像入力装置
JP4833304B2 (ja) 撮像装置
CN109565544B (zh) 位置指定装置及位置指定方法
KR101816781B1 (ko) 사진계측 방식의 3d스캐너 및 3d모델링의 고품질 입력 데이터를 위한 사진계측 방식의 촬영방법
JP3601272B2 (ja) 画像撮像装置
JP2020067511A (ja) カメラシステム、その制御方法およびプログラム
JP4892793B2 (ja) 測定装置及び測定方法
JP7463133B2 (ja) 面積計測装置、面積計測方法、及びプログラム
JPH11183125A (ja) 非接触式立体形状計測装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050712

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080513

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080602

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110606

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110606

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120606

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130606

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees