JP2002056371A - 情報識別用マーカ及びその検出方法及び情報識別用マーカを用いた関連情報取得システム及び情報識別用マーカを用いた関連情報取得方法 - Google Patents

情報識別用マーカ及びその検出方法及び情報識別用マーカを用いた関連情報取得システム及び情報識別用マーカを用いた関連情報取得方法

Info

Publication number
JP2002056371A
JP2002056371A JP2000239138A JP2000239138A JP2002056371A JP 2002056371 A JP2002056371 A JP 2002056371A JP 2000239138 A JP2000239138 A JP 2000239138A JP 2000239138 A JP2000239138 A JP 2000239138A JP 2002056371 A JP2002056371 A JP 2002056371A
Authority
JP
Japan
Prior art keywords
information
image
identification marker
marker
information identification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000239138A
Other languages
English (en)
Other versions
JP3802737B2 (ja
Inventor
Fujio Tsutsumi
富士雄 堤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Central Research Institute of Electric Power Industry
Original Assignee
Central Research Institute of Electric Power Industry
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Central Research Institute of Electric Power Industry filed Critical Central Research Institute of Electric Power Industry
Priority to JP2000239138A priority Critical patent/JP3802737B2/ja
Publication of JP2002056371A publication Critical patent/JP2002056371A/ja
Application granted granted Critical
Publication of JP3802737B2 publication Critical patent/JP3802737B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Image Processing (AREA)

Abstract

(57)【要約】 【課題】 管理対象物の識別機能と、撮影時の照度条件
の検出機能と、管理対象物の三次元的相対位置の検出機
能とを同時に満たすマーカを得る。 【解決手段】 情報識別用マーカ1は、管理対象物4に
付されるもので、平面上の単色の背景色の中で四角形の
四隅にそれぞれ配置される有色のマーク2a,2b,2
c,2dと、四隅のマーク2a,2b,2c,2dの最
外辺を結ぶ表示領域2に管理対象物4を特定するデータ
を人間がそのまま理解可能な文字や図柄又はこれらの組
み合わせ等として表記されているアイコン3とから成
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像処理技術を用
い、ビデオ映像等の画像情報から管理対象物を識別する
ための情報識別用マーカ及びその検出方法に関する。
【0002】
【従来の技術】最近の電子技術や関連技術の発展により
ビデオカメラが普及し、多量の画像情報を保有できる環
境になっている。このような環境において画像情報の有
効利用が各種の技術分野で計られている。例えば電気事
業においては、電力設備の巡視点検時にビデオカメラが
活用されており、当該巡視点検において得られた多量の
画像情報を後日再生等行い、保守の資料にしたり、事故
の発見に使用したり、新人教育に使用したりすることが
行われている。またこれらの画像情報をデータベース化
して、巡視点検時に必要な関連情報が自由に検索・閲覧
できるようになれば、異常の早期発見や、発見された異
常に対する迅速な対応が可能となる。そこで、ビデオ映
像等の多量の画像情報をデータベース化する技術の利用
が図られている。
【0003】一方、多量の画像情報をデータベース化し
て有効活用するためには、計算機が容易に各画像情報を
識別する必要がある。そこで、撮影対象設備に情報識別
用のマーカを付すことが考えられる。現実の物体に計算
機が識別できるマーカを付して計算機に物体を識別させ
る最も代表的なものとしてバーコードがある。また、バ
ーコードを2次元に拡張した2次元マトリクスコードな
ども提案されている。
【0004】また、データベース化された多量の画像情
報を利用して、例えば、異なる時に撮影した同一設備の
画像情報を比較する場合や、錆など色が重要な監視項目
である場合の画像情報の比較や検索を行なう場合は、各
画像情報の色が比較・検索の対象となる。このような場
合、撮影時の照度条件(照明の違いによる明るさや色合
い)によって、再現される色が大きく異なり、それに比
較・検索の結果が大きく左右されてしまうことがある。
比較・検索の精度を高めるには、画像情報の照度条件を
同じにするように色補正を行なう必要がある。このた
め、各画像情報毎に撮影時の照度条件を検出する必要が
ある。従来、ビデオ映像の色補正を行なうために、リフ
ァレンスとなる既知の色を同時に映像の中に撮り込み、
撮影時の照度条件(照明の違いによる明るさや色合い)
を検出する方法が行なわれている。
【0005】また、得られた画像情報を加工するため
に、管理対象物にマーカを貼付して、それをビデオカメ
ラで撮影し、ビデオカメラに写っているマーカの形状か
らビデオカメラと管理対象物との三次元的相対位置を計
算する画像処理技術が従来ある。
【0006】
【発明が解決しようとする課題】しかしながら、管理対
象物の識別機能と、撮影時の照度条件の検出機能と、管
理対象物の三次元的相対位置の検出機能とを同時に満た
す情報識別用マーカは従来ない。このため、データベー
ス化される多量の画像情報の有効活用を難しいものとし
ている。
【0007】情報識別用マーカとしてバーコードを用い
た場合、バーコードそのものは人間にはわからないコー
ドであるため、多量の異なるバーコードを異なる管理対
象物に貼付する場合に貼付ミスが起こりかねない。ここ
で、パーソナルコンピュータ等のGUI(Graphi
cal User Interface)で用いられる
アイコンを実世界に適用しバーコードとを組み合わせ
て、現実の物体に貼付することが提案されているが、こ
の場合、どこかでバーコードとアイコンとの対応を管理
する必要があり、バーコード及びアイコンが多量である
と管理は非常に煩雑となる。
【0008】一方、2次元マトリクスコードによれば、
文字や図形の2次元パターンによって人間が理解できる
コードを作成することが可能ではあるが、コードを構成
する図形や文字は2次元マトリクスの升目で構成される
ものに限定されるため、簡単な文字や図形しか表現でき
ず、必ずしも管理対象物を容易に特定できるものとはな
らない。
【0009】また、従来のバーコードや2次元マトリク
スコードは、白黒で構成されているために、バーコード
や2次元マトリクスコードをリファレンスとして撮影時
の照度条件を検出することはできない。そのため、別
途、リファレンスとなる既知の色を撮影毎に映像の中に
撮り込む必要がある。
【0010】そこで、本発明は、管理対象物の識別機能
と、撮影時の照度条件の検出機能と、管理対象物の三次
元的相対位置の検出機能とを同時に満たす情報識別用マ
ーカ及びその検出方法を提供することを目的とする。
【0011】また、本発明は、情報識別用マーカを用い
て管理対象物に関連した情報を取得する関連情報取得方
法及び関連情報取得システムを提供することを目的とす
る。
【0012】
【課題を解決するための手段】かかる目的を達成するた
め、請求項1記載の発明は、管理対象物に付される情報
識別用マーカにおいて、平面上の単色の背景色の中で四
角形の四隅にそれぞれ配置される有色のマークと、四隅
のマークの最外辺を結ぶ表示領域に管理対象物を特定す
るデータを人間がそのまま理解可能な文字や図柄又はこ
れらの組み合わせ等として表記されているアイコンとか
ら成るものとしている。
【0013】したがって、情報識別用マーカが付された
管理対象物の画像情報を用いて画像処理を行なうと、管
理対象物識別のための画像処理の対象を四隅のマークに
囲まれた情報識別用マーカ内に限定させてアイコンを認
識させることができ、かつリファレンス(参照)とする
照明の下で検出した背景色及び四隅のマークの色値と入
力画像から得た色との違いをもとに、撮影時の照度条件
を検出することができ、更に画像情報中の四隅のマーク
の座標位置より管理対象物の三次元的相対位置を検出す
ることができる。また、アイコンを用いることで情報識
別用マーカの貼付者が容易に管理対象物を特定でき、貼
付ミスを防止する。
【0014】また、請求項2記載の発明は、請求項1記
載の情報識別用マーカにおいて、四隅のマークの1つが
他のマークと異なる色を有するようにしている。したが
って、人間の目視によるのは勿論、計算機での情報処理
によっても、情報識別用マーカの天地左右が認識可能に
なる。
【0015】また、請求項3記載の発明は、請求項1ま
たは2のいずれかに記載の情報識別用マーカにおいて、
背景色を白色とし、四隅のマークの1つを赤色とし他は
緑としている。したがって、赤と緑および背景の白が、
相互に色の値が大きく異なり、計算機による色領域の検
出が照明状況の違いによらずに安定してできる。
【0016】また、請求項4記載の発明は、請求項1か
ら3のいずれかに記載の情報識別用マーカにおいて、マ
ークは正方形であり、表示領域の四隅に角を合わせて配
置されているものとしている。したがって、情報識別用
マーカを検出するための幾何学的条件を容易に設定する
ことができる。
【0017】請求項5記載の発明は、請求項1から4の
いずれかに記載の情報識別用マーカが貼付された管理対
象物の画像情報から情報識別用マーカの画像情報を検出
する方法において、前記マーカの四隅のマークとそれら
が配置されている四角形という条件を利用してアイコン
が表記される表示領域を検出すると共に、各マークの色
と背景色とを利用して撮影時の照度条件を検出するよう
にしている。この場合、計算機による画像処理で情報識
別用マーカを容易に検出することができると共に、撮影
時の照度条件を補正することにより同じにできるので、
照度条件を考慮した精度の高い画像検索が可能となる。
したがって、管理対象物に貼付する情報識別用マーカ
を、画像データベース装置に予め登録しておくことで、
一致若しくは最も類似する既登録情報識別用マーカを検
索して、情報識別用マーカを認識することが可能とな
る。
【0018】請求項6記載の情報識別用マーカを用いた
関連情報取得システムは、請求項1から4のいずれかに
記載の情報識別用マーカと、情報識別用マーカの画像情
報と情報識別用マーカが貼付される管理対象物に関する
関連情報とが関連付けされて登録される画像データベー
スと、管理対象物を撮影する画像入力手段と、画像入力
手段により得られる入力画像情報を処理する画像処理手
段と、画像処理手段からの出力を表示する利用者端末と
を備え、画像処理手段は、入力画像情報から情報識別用
マーカを検出して検索用画像情報を得ると共に、マーク
の色と背景色を利用して撮影時の照度条件を検出して検
索用画像情報及び画像データベースに登録される入力画
像情報の照度補正を行い、照度補正された検索用画像情
報を用いて画像データベースに登録されている既登録情
報識別用マーカの画像情報と比較照合し、一致若しくは
最も類似する既登録情報識別用マーカに関連付けられて
いる管理対象物の関連情報を取り出し、関連情報を前記
利用者端末に出力表示するようにしている。
【0019】また、請求項8記載の情報識別用マーカを
用いた関連情報取得方法は、請求項1から4のいずれか
に記載の情報識別用マーカを管理対象物に貼付し、この
情報識別用マーカを含む管理対象物を画像入力手段によ
って画像情報として取り込む一方、該入力画像情報から
情報識別用マーカを検出して検索用画像情報を得ると共
に、マークの色及び背景色を利用して撮影時の照度条件
を検出して検索用画像情報又は入力画像情報の照度補正
を行い、検索用画像情報を用いて情報識別用マーカの画
像情報と前記マーカが付される管理対象物の関連情報と
が関連付けされて予め登録された画像データベースを検
索し、一致若しくは最も類似する既登録情報識別用マー
カに関連付けられている管理対象物の関連情報を取り出
し、関連情報を利用者端末に出力表示するようにしてい
る。
【0020】したがって、設備巡視等で、利用者が画像
入力手段で情報識別用マーカが付された撮影対象設備を
撮影することで、画像入力手段と撮影対象設備との三次
元的相対位置や撮影時の照度条件が検出でき、さらに撮
影対象設備に関連する有用な情報を即座に利用者に提示
できる。
【0021】また、請求項7記載の発明は、請求項6記
載の関連情報取得システムにおいて、画像処理手段は、
入力画像情報におけるマークの座標位置から情報識別用
マーカの画像入力手段に対する三次元的相対位置を検出
し、入力画像情報と関連情報とを合成して利用者端末に
出力表示するようにしている。また、請求項9記載の発
明は、請求項8記載の関連情報取得方法において、マー
クの座標位置から情報識別用マーカの画像入力手段に対
する三次元的相対位置を検出し、入力画像情報と関連情
報とを合成して利用者端末に出力表示するようにしてい
る。
【0022】したがって、管理対象物に関連した有用な
情報を撮影映像に的確に組み合わせて利用者端末側に表
示させることが可能となる。
【0023】
【発明の実施の形態】以下、本発明の構成を図面に示す
実施形態に基づいて詳細に説明する。
【0024】図1から図14に本発明の情報識別用マー
カと、この情報識別用マーカを用いて関連情報取得シス
テムを利用する電気設備の巡視点検支援システムの実施
の一形態を示す。情報識別用マーカ1は、点検対象とな
る電気設備等の管理対象物4(以下、単に管理対象物と
呼ぶ)に付されるもので、平面上の単色の背景色の中で
四角形の表示領域2の四隅にそれぞれ配置される有色の
マーク2a,2b,2c,2dと、四隅のマーク2a,
2b,2c,2dの最外辺を結ぶ表示領域2に管理対象
物4を特定するデータを人間がそのまま理解可能な文字
や図柄又はこれらの組み合わせ等として表記されている
アイコン3とから成るものである。
【0025】情報識別用マーカ1は、大きく3つの機能
を提供するものである。1つは情報識別用マーカ1が付
される管理対象物4の識別機能である。1つは情報識別
用マーカ1とビデオカメラ等の画像入力機器5との三次
元的相対位置の検出機能である。1つは撮影時点の照度
条件の検出機能である。これら機能は、情報識別用マー
カ1が付された管理対象物4の画像情報に対し後述する
所定処理を行なう中で発揮される。
【0026】まず、上記機能を発揮する情報識別用マー
カ1の構成の好適な一例について説明する。
【0027】四隅のマーク2a,2b,2c,2dは、
好ましくは、その中の1つ例えばマーク2aと他のマー
ク2b,2c,2dとが互いに区別できる異なる色を有
するようにしている。これにより、目視による場合は勿
論のこと、計算機での情報処理によっても、情報識別用
マーカ1の天地左右が認識可能になる。勿論、マーカ1
の天地左右を識別する別の手段を講ずる場合には、必ず
しも4つのマーク2a,2b,2c,2dに対して色分
けをすることはない。しかしながら、本実施形態では、
好適な一例として背景色を白、左上マーク2aを赤、残
りのマーク2b,2c,2dの3つを緑としている。こ
の赤と緑および背景の白は、相互に色の値が大きく異な
るため、撮影時の照度条件をリファレンスとする照明の
下で検出した同じ3つの色値と比較して補正値を求める
際に安定して計算できるからである。
【0028】マーク2a,2b,2c,2dは、例え
ば、本実施形態では同じ大きさの正方形であり、表示領
域2の四隅に角を合わせて即ち同じ向きにして、四角形
の表示領域2の四隅に配置されている。ここで、各マー
ク2a,2b,2c,2dの形状は、正方形に限られ
ず、長方形、台形、三角形、扇形、『形、円、楕円、菱
形などのさまざまの形状が使用可能であるが、表示領域
2を認識する画像処理を容易にするには表示領域2の四
隅の角に合致する角を有する形状、例えば四角形、長方
形、台形、三角形、扇形、『形の使用がより好ましく、
最も好ましくは画像入力手段5と情報識別用マーカ1と
の位置関係、即ち撮影位置を3次元的に計算で求める際
に図形の歪にその位置関係が正確に反映する正方形の使
用である。また、四隅の各マーク2a,2b,2c,2
dは、同じ形状、同じ大きさ、同じ向きで配置されるこ
とが好ましいが、場合によっては異なる形状、異なる大
きさの、異なる向きのものを組み合わせて使用すること
も可能である。例えば、マーカ1の向きを定める基準と
なる色違いのマーク2aの代わりに、異なる形状、異な
る大きさ、異なる向きのマークを採用することも可能で
ある。尚、表示領域2は正方形に限られるものではな
く、縦横比が一定であれば長方形のような形状でも良
い。
【0029】四隅のマーク2a,2b,2c,2dの最
外辺を結ぶ輪郭の内側即ち表示領域2には、管理対象物
4を特定するデータを人間がそのまま理解可能な文字や
図柄又はこれらの組み合わせ等として表すアイコン3が
表記される。アイコン3は、例えば図2に例示するよう
に、情報識別用マーカ1を管理対象物4に貼付する作業
者が直に見ることによって管理対象物4を特定できるも
のであり、人間がそのまま理解できる図柄だけではなく
視覚では認識し難い図柄等の濃淡(濃度変化)や描画密
度、大きさ、位置等での情報の描画も必要に応じて含ま
れる識別コードである。なお、アイコン3には、マーク
2a,2b,2c,2dおよび背景色に用いる色以外の
色で容易に区別のできる色を用いることが望ましい。照
度条件によっては、マーク2a,2b,2c,2dの色
と混同する色を用いると、マーカ検出処理において情報
識別用マーカ1の検出精度が下がる場合があるからであ
る。
【0030】このように構成された情報識別用マーカ1
は、例えば、情報識別用マーカ1が付された管理対象物
4の画像情報を用いて、マーク2a,2b,2c,2d
の色と背景色と表示領域2の輪郭を示す四角形の形状と
の条件より情報識別用マーカ1を検出するマーカ検出処
理によって、容易に検出することができる。
【0031】ここで、情報識別用マーカ1が付された管
理対象物4の画像情報は、画像入力手段例えばデジタル
ビデオカメラ等のデジタル画像入力機器5によって取り
込まれ、画像処理手段でデータベースへの登録のための
処理並びにデータベース検索のための処理が行われると
共に利用者端末6にフレーム毎の画像データ7(図1あ
るいは図3参照)として表示される。
【0032】本実施形態では、処理高速化のために、例
えば図3〜図8に示すように、例えば、縦480画素、
横640画素から成るオリジナルの画像データ(以下、
オリジナル画像データと呼ぶ)7を一旦荒くサンプリン
グ(例えば、横80画素、縦60画素)して画像データ
(以下、サンプリング画像データと呼ぶ)8とし、その
上でマーク2a,2b,2c,2dの検出を行い、その
後、検出したマーク2a,2b,2c,2dを基にオリ
ジナル画像データ7から情報識別用マーカ1を切り出す
ようにしている。
【0033】ただし、サンプリング画像データ8を利用
するものに限るものではなく、最初からオリジナル画像
データ7の解像度で処理を行うことも勿論可能である。
この場合は、サンプリングに起因する検出ミスは起こら
ない。ただし当然ながら、計算に要するステップ数は格
段に増加し、並列処理装置を用いない場合は、同じ演算
装置の場合に比して処理速度が遅くなる。
【0034】サンプリング画像データ8を利用する場合
において、マーカ検出処理にて検出ミスが起こった場合
は、例えば、サンプリングの初期値の解像度を上げて再
度サンプリングすることで、検出ミスを減らすことがで
きる。
【0035】マーカ検出処理の詳細な内容の一例を図1
1に示すフローチャートに従って説明する。
【0036】先ず、サンプリング画像データ8から、四
隅のマーク2a,2b,2c,2dの色即ち本実施形態
では赤と緑の領域を検出する(マーカ検出処理;ステッ
プ1)。色領域検出の具体的方法としては、例えば、色
を色相(Hue)、彩度(Saturation)、明
度(Value)のHSV色空間に変換し、色相を厳し
く、彩度と明度を緩くして検出するという従来からある
色領域検出方法を用いる。これにより照度条件に対して
比較的安定して、緑と赤の領域を検出できる。サンプリ
ング画像データ8から検出された赤領域を図5に、緑領
域を図6に示す。この段階(マーカ検出処理;ステップ
1)では、情報識別用マーカ1でない場所も多数検出し
ていることがわかる。
【0037】次に、背景色の情報を用いて、四隅のマー
ク2a,2b,2c,2dの色領域の絞り込みを行う
(マーカ検出処理;ステップ2)。即ち、本実施形態で
は、白地に赤と、白地に緑という特徴を使って絞り込
む。これにより、マーク2a,2b,2c,2dの色と
まぎらわしい色の領域があっても、背景色上にあるもの
のみが取り出されるため、より確実に四隅のマーク2
a,2b,2c,2dの領域を検出できる。白地に赤と
いう条件で絞り込んだ赤の領域を図7に示す。この例の
場合では、オリジナル画像データ7に示すように、左上
の赤いサインペンと赤いプラグが白いテーブルの上にあ
るために当該領域が残っている。白地に緑という条件で
絞り込まれた緑の領域を示す図を図8に示す。
【0038】次に、四角形の形状条件を用いて、四隅の
マーク2a,2b,2c,2dの領域を絞り込む(マー
カ検出処理;ステップ3)。情報識別用マーカ1の四隅
のマーク2a,2b,2c,2dは、四角形(本実施形
態では、正方形)の四隅にあるという幾何学的条件を使
って、ステップ2までに絞り込まれた候補をさらに絞り
込む。例えば、ステップ2までで絞り込まれた、赤の領
域と、緑の領域を結ぶベクトルを計算し、それらの組み
合わせで、正方形を投影した状態にもっとも近い組み合
わせを探し出す。具体的には、例えば、赤(マーク2
a)から右上の緑(マーク2b)へのベクトルをLベク
トル、赤から左下の緑(マーク2c)へのベクトルをR
ベクトル、赤から右下の緑(マーク2d)へのベクトル
をDベクトルとし、L+R=Dにもっとも近い組み合わ
せを探す。これにより、四隅のマーク2a,2b,2
c,2dの大まかな位置と各々のマーク2a,2b,2
c,2dが情報識別用マーカ1のどの位置(左上、右
上、左下、右下)にあるかを検出することができる。図
9に正しく情報識別用マーカ1のベクトルを表示した図
を示す。これにより、例えば、ステップ2までに絞り込
めなかった画面左の赤の領域は、上記条件を満たさず、
マーク検出の候補から除外される(図10)。
【0039】なお、実際には、情報識別用マーカ1平面
の法線が画像入力機器5の視線とずれる量と、画像入力
機器5への接近度合に応じて、上述の四角形の形状条件
からずれてくる。ただし、本実施形態では、サンプリン
グ画像データ8で粗く処理を行なっており、斜めから極
端に接写しないかぎりは許容誤差範囲であるため、処理
の単純さを優先している。
【0040】次に、ステップ3にて検出した四隅のマー
ク2a,2b,2c,2dの位置を出発点としてオリジ
ナル画像データ7から、四隅のマーク2a,2b,2
c,2dの正確な領域を切り出す(マーカ検出処理;ス
テップ4)。これにより、オリジナル画像データ7から
四隅のマーク2a,2b,2c,2dに囲まれた正確な
表示領域2が検出される(図12)。なお、切り出しに
は、例えば、上述したHSVの値のうち、白地との差が
大きい彩度(Saturation)を優先して、HS
Vの閾値を設定し、検出に用いる。四隅のマーク2a,
2b,2c,2dの端を繋ぐと、内部のアイコン3が描
かれる正方形の表示領域2になる。
【0041】次に、オリジナル画像データ7から取り出
される表示領域2に描かれているアイコン3は歪んでい
るので、これを平面上の座標に変換し、検索用マーカ画
像データ1’を生成する(マーカ検出処理;ステップ
5)。生成された検索用マーカ画像データ1’の一例を
図13に示す。
【0042】なお、一旦マーカ検出処理(ステップ1〜
5まで)が行われ情報識別用マーカ1が検出されると、
それ以降は、初期値としてもともと決めておいた赤や緑
の色の値を用いず、検出されたマーク2a,2b,2
c,2dの赤や緑の色の値を基準としてステップ1の領
域検出を行うことが好ましい。これにより、徐々に照度
条件が変化し、赤や緑の色の値が初期値から大幅に変化
するような場合でも、色の値を追跡して安定して色領域
を検出することができる。
【0043】次に、情報識別用マーカ1の色を利用して
行われる撮影時の照度条件の検出について説明する。
【0044】本発明の情報識別用マーカ1によれば、マ
ーカ検出処理の過程で四隅のマーク2a,2b,2c,
2dの色と背景色の色値が得られる。例えば、本実施形
態では、背景色の白と、四隅のマーク2a,2b,2
c,2dに使われる赤及び緑との合計3色の色値が得ら
れる。ここで、色値は一般にRGBもしくはHSV等の
3次元の配列データとして表現される。管理対象物4は
同じでも、照明の変化により、オリジナル画像データ7
から取得される色値は変化する。
【0045】一方、本実施形態においては、これら白・
赤・緑の3色は、すべての情報識別用マーカ1に共通し
た既知の色である。そこで、照度条件検出処理では、所
定照度条件の下で参考値として予め取得してある白・赤
・緑の3つの色値(以下、参考色値と呼ぶ。)と、オリ
ジナル画像データ7から得られた白・赤・緑の3つの色
値(以下、計測色値と呼ぶ。)の違いをもとに、オリジ
ナル画像データ7がどういった照度条件で撮影されたも
のであるかを計算し、撮影時の照度条件を検出する。
【0046】本実施形態では、精度の高い照度条件検出
を行なうべく、例えば、画像データ7から得られる3つ
の色値を基に線形補間して、画像データ7の明るさや大
まかな色合いを計測して照度条件を検出する。例えば、
得られた照度条件を基に、参考色値の所定照度条件に合
わせて、検索用マーカ画像データ1’の照度補正を行な
う。
【0047】照度補正された検索用マーカ画像データ
1’は、例えば画像データベース20に予め登録されて
いる情報識別用マーカ1の画像データと比較照合され、
検索用マーカ画像データ1’と一致若しくは最も類似す
る既登録情報識別用マーカ1の画像データを検索するよ
うにして、計算機により認識される。この結果、管理対
象物4を識別することが可能となり、さらには、管理対
象物4の関連情報を情報識別用マーカ1に関連付けて即
ちリンクさせて画像データベース20に登録しておくこ
とで、当該関連情報を情報識別用マーカ1を検索キーと
して画像データベース20から取り出すことが可能とな
る。なお、関連情報とは、例えば、管理対象物4の名称
等の属性情報、管理対象物4の過去の画像情報、担当管
理者名、情報識別用マーカ1の貼付日時等、管理対象物
4に関連したあらゆる情報を含むものであり、その内容
が特に限定されるものではない。
【0048】例えば、本実施形態では、検索用マーカ画
像データ1’を64×64の配列に蓄え、検索キー即ち
検索用画像情報として用いる。この場合、各配列の値
は、オリジナル画像データ7から抽出された画素の色値
に上述の照度補正を用いて補正した値としている。
【0049】次に、情報識別用マーカ1とビデオカメラ
等の画像入力機器5との三次元的相対位置を検出するマ
ーカ位置検出処理について説明する。三次元的相対位置
とは、実際の三次元空間で、情報識別用マーカ1の貼付
対象面が画像入力機器5に対しどの方向を向いていて、
どのくらい離れているか、という事である。
【0050】上述のマーカ検出処理の過程において、オ
リジナル画像データ7中におけるマーク2a,2b,2
c,2dの正確な座標位置が検出される。これにより、
情報識別用マーカ1と画像入力機器5との相対的な三次
元位置関係を検出することができる。
【0051】まず四隅のマーク2a,2b,2c,2d
の最外辺を結んだ正方形の4頂点の画面上での座標を、
s1,s2,s3,s4とする。s1,s2,s3,s
4それぞれは四角形(正方形)の左上、右上、左下、右
下に相当する。s1からs2に向かうベクトルをaベク
トル、s1からs3に向かうベクトルをbベクトルとす
る。
【0052】また、実際の三次元空間で、四隅のマーク
2a,2b,2c,2dの三次元座標を、S1,S2,
S3,S4とする。それぞれ正方形の左上、右上、左
下、右下に相当する。ここでS1からS2に向かうベク
トルをAベクトル、S1からS3に向かうベクトルをB
ベクトルとする。
【0053】A,B両ベクトルは本来直交しており、か
つ長さがあらかじめわかっている。またa,bベクトル
はそれぞれA,Bベクトルの同一平面への射影である。
これらの条件をもとにa,bベクトルから、A,Bベク
トルのz成分を計算する。
【0054】これによりz成分が2組解として求められ
る。これは射影が平面への奥からの射影なのか、手前か
らの射影なのか、二つの可能性があるからである。ここ
で、s2からs4へのベクトルをcベクトル、s3から
s4へのベクトルをdベクトルとする。すると、以下の
条件が成立する。 aベクトルの長さがdベクトルより長く、かつ、bベ
クトルの長さがcベクトルの長さより長い場合は、S1
がもっとも手前でS4がもっとも奥に位置する。 aベクトルの長さがdベクトルより短く、かつ、bベ
クトルの長さがcベクトルの長さより長い場合は、S3
がもっとも手前でS2がもっとも奥に位置する。 aベクトルの長さがdベクトルより長く、かつ、bベ
クトルの長さがcベクトルの長さより短い場合は、S2
がもっとも手前でS3がもっとも奥に位置する。 aベクトルの長さがdベクトルより短く、かつ、bベ
クトルの長さがcベクトルの長さより短い場合は、S4
がもっとも手前でS1がもっとも奥に位置する。
【0055】これらの条件により、z成分の2組解のう
ち一方の可能性を排除して、1つのz成分の組を解とす
る。なお、ベクトルの長さが等しい場合は上記条件によ
る判定はできないが、この場合は、例えば前フレームの
画像データの値を採用することで回避できる。
【0056】A,Bベクトルが計算されると、その両方
に直交するベクトルを計算することができ、それが情報
識別用マーカ1平面の法線ベクトルとなる。これら3つ
のベクトルの値は、画像入力機器5と情報識別用マーカ
1との三次元的な相対位置と等価な情報である。この情
報を得ることで、例えば、表示画面内に管理対象物4の
特定の部位を指示するガイドを三次元的に合成して表示
するといった処理が可能となる。
【0057】なお、さらに正確な相対位置(距離と角
度)を計算するには、使用する画像入力機器5がどうい
った光学的性質をもっているかを予め計測しておく必要
がある。
【0058】また、上記マーカ位置検出処理では、演算
量を少なくして高速処理を可能とするため、本来ビデオ
映像が透視投影になっていることを考慮していない。こ
のため、上述したマーカ検出手法と同様に、ビデオカメ
ラが情報識別用マーカ1に斜めから接写した場合などに
誤差を生じるが、その誤差は実用上問題とならない程度
のものである。
【0059】このような機能を有する情報識別用マーカ
1を利用することにより、関連情報取得システムを構成
することができる。図14に、同システムの構成の一例
を示す。この関連情報取得システムは、情報識別用マー
カ1と、情報識別用マーカ1の画像情報と情報識別用マ
ーカ1が付される管理対象物4の関連情報とが関連付け
されて登録される画像データベース20と、管理対象物
4を撮影する画像入力手段5と、画像入力手段5により
得られる入力画像情報を処理する画像処理手段17と、
画像処理手段17からの出力を表示する利用者端末6と
から構成されている。
【0060】画像処理手段17は、画像入力手段5から
取り込まれる画像情報・ビデオ映像をそのままあるいは
ビデオシーン毎にマーカ関連情報としてデータベースへ
記録すると共に、例えば先に説明したマーカ検出処理に
より入力画像情報を用いて情報識別用マーカ1を検出し
て検索用画像情報即ち検索用マーカ画像データ1’を得
て、画像データベース20に登録されている既登録情報
識別用マーカ1の画像情報と検索用マーカ画像データ
1’とを比較照合し、一致若しくは最も類似する既登録
情報識別用マーカ1に関連付けられている管理対象物4
の関連情報をデータベース20から取り出し、関連情報
9として利用者端末6の液晶TV14に出力表示する。
【0061】また、本実施形態の画像処理手段17で
は、例えば先に説明した照度条件検出処理により撮影時
の照度条件を検出し、適宜検索用マーカ画像データ1’
又はデータベース入力画像情報の照度補正を行うように
している。
【0062】さらに、本実施形態の画像処理手段17で
は、先に説明したマーカ位置検出処理を実行して情報識
別用マーカ1の画像入力手段5に対する三次元的相対位
置を検出し、必要に応じて、画像入力手段5から得た入
力画像情報・オリジナル画像データ7と要点検箇所Pな
どを示す関連情報とを合成して利用者端末6に出力表示
するようにしている。
【0063】画像入力手段5は、例えば、電気設備等を
撮像してビデオ映像を作成する電荷結合素子カメラ(以
下、CCDカメラ5と呼ぶ。)である。CCDカメラ5
からのビデオ映像は、例えば、無線インタフェース1
0,11を介し、テレビ電波で画像処理手段17に送ら
れる。CCDカメラ5は、非常に小型化されており、手
に持って撮像が可能である。
【0064】利用者端末6は、例えば、画像処理手段1
7から無線インターフェース12,13を介してテレビ
電波を使って送られてくる画像処理した出力結果を受信
し画面表示する液晶TVジョン受像機14(以下、「液
晶TV14」という)と、情報処理機能を有し画像処理
手段17とLAN(ローカル エリア ネットワーク)
を経由して双方向情報通信を行う携帯情報端末15とを
有する。液晶TV14は、例えば、掌に入る程の外形を
しており、手にもって表示画面を見ることが可能であ
る。携帯情報端末15は、例えば、一人で現場に携帯が
可能な大きさに形成されている。
【0065】画像処理手段17及び画像データベース2
0は、本実施形態では所定の画像処理及びデータベース
処理を実行するプログラムとコンピュータシステム16
によって実現されている。コンピュータシステム16
は、画像処理等の各種の演算処理を実行する画像処理装
置17と、画像データベース20並びにビデオデータ1
9を格納する大容量外部記憶装置18と、無線インタフ
ェース11,13と、その他図示しないが、ディスプレ
イ、キーボード、マウス等の入出力装置や、利用者端末
6とのLAN通信インターフェース等を備える。画像処
理装置17は、図示していないが、演算処理部、主メモ
リ、ROM、入出力インターフェース等を備えており、
適宜、主メモリ上に記憶される本発明を実現する処理プ
ログラムに基づいて演算処理部が各画像情報の処理や各
種の演算処理を実行し、本発明に係る各種の機能21〜
28を実現する。
【0066】ビデオ映像録画・再生機能21は、例え
ば、CCDカメラ5から送られるビデオ映像を、そのま
まモーションJPEG(Joint Photogra
phic Experts Group)のビデオデー
タ19として大容量外部記憶装置18に蓄えて画像処理
装置17の制御下に録画・再生を可能とする機能であ
る。
【0067】マーカ検出機能23は、マーカ検出処理を
実行して検索用マーカ画像データ1’を得る機能であ
る。照度補正機能24は、照度条件検出処理を実行して
マーカ検出処理より得る検索用マーカ画像データ1’又
はデータベース機能22で得られた入力画像情報の照度
補正を適宜行う機能である。マーカ検索機能25は、検
索用マーカ画像データ1’と画像データベース装置18
の登録済マーカ・関連情報データベース20に登録され
ている既登録情報識別用マーカ1の画像情報とを比較照
合し、一致若しくは最も類似する既登録情報識別用マー
カ1を検索して、管理対象物4の関連情報を取り出すた
めの機能である。マーカ位置検出機能26は、マーカ位
置検出処理を実行する機能である。
【0068】オーバレイ映像表示機能27は、例えば、
関連情報のうちCCDカメラ5から得た画像情報にオー
バレイ(重ね表示)すべき情報がある場合に、マーカ位
置検出機能26より得られる情報識別用マーカ1のCC
Dカメラ5に対する三次元的相対位置情報を基に、CC
Dカメラ5から得た入力画像情報と関連情報取得処理よ
り得た関連情報とを合成して、利用者端末6側でオーバ
レイ表示させるための機能である。例えば、点検箇所の
指示や設備の操作方法などを具体的な場所を示しながら
指示することも可能である。
【0069】関連情報登録・提示機能28は、携帯情報
端末15に関連情報を出力表示すると共に、携帯情報端
末15からの関連情報の入力要求を受付て、画像データ
ベース20への関連情報の登録を可能とする機能であ
る。
【0070】本実施形態の画像データベース装置は、大
容量外部記憶装置18から成り、情報識別用マーカ1及
びその関連情報を蓄積しデータベース20を構築するも
のである。
【0071】データベース機能22は、入力されるビデ
オ映像を自動的にシーン毎に分割してマーカ1に関連し
た形でデータベース20に自動登録するものである。ま
た、図示していないが、例えば、画像区切処理機能と、
登録処理可能の他に、変化特徴抽出機能を与えることに
よって、設備表面の特定の場所や錆、しみ等の特記事項
の記録・検索を可能にすることもできる。画像処理装置
17により、主メモリにある処理プログラムに従って、
画像区切処理手段と、登録処理手段、更には必要に応じ
て変化特徴抽出手段と検索処理手段とが実現され、デー
タベース20が構築される。
【0072】即ち、CCDカメラ5で撮像したビデオ映
像は、無線インターフェース10,11を介しコンピュ
ータシステム16の画像処理装置17に入力されると、
フレーム間の差分をとり当該差分が所定の比較値から大
きく逸脱したときに変化があったと判断してビデオ映像
を時区間に区切る。そして、シーン毎に分割された画像
は、当該マーカ1に関連した形でデータベース20に登
録される。また、錆やしみ等の特記事項の変化を検出す
る必要がある場合には、フレーム毎にビデオ映像の色情
報が変化した部分の色パターンを変化特徴として抽出し
て変化のあった画素周辺を部分グリッドとして取り出す
とともに、これら部分グリッドを画像区切処理工程で区
切った時区間単位に含まれる画像の中から集計する。こ
れにより、フレーム毎に色が変化した部分の色パターン
を抽出し、色パターンの集合を得る。そして、変化特徴
抽出工程で集計された部分グリッドは、当該マーカに関
連した形でデータベース20に登録される。
【0073】この一連の処理は、例えば、CCDカメラ
5からビデオ映像の入力がある限り継続して実行される
ようにする。
【0074】〔画像区切処理の説明〕画像区切処理は、
図15に示すフローチャートのように、例えばフレーム
間の色の変化を基本として時区間を区切るようにしてい
る。この画像区切処理は、例えば、色変化フレーム間差
分を取り、その過去数フレーム分の平均値(これを、
「比較値」という)を基準とし、この基準から大きく逸
脱した場合に変化があったと判定している。具体的に
は、次のようにしている。
【0075】まず、各フレーム画像の計算量を削減する
ため、例えばニアレストネイバー法を使用して取込みビ
デオ映像を粗く縮小する(S301)。次いで、縮小さ
れた画像の各画素値をc(x,y)として、フレーム間差分計
算処理手段によりフレーム間差分dfを計算する(S30
2)。
【0076】このS302における計算(すなわち、フ
レーム間差分計算処理手段による計算)は、次のように
して行う。現在の各画素値をc(x,y)とし、一つ前のフレ
ーム画素値をc'(x,y) とし、その差を取ったものをd と
すると、
【数1】d=c(x,y)−c'(x,y) が得られる。そして、この dをs(d) に代入することに
より、
【数2】 となってフレーム間差分dfが得られることになる。
【0077】ここでは、画素値の差分は、赤(R)、青
(B)、グリーン(G)の距離空間での距離とした。な
お、色はRGBのそれぞれを10段階とする1000色
に規格化している。
【0078】さらに、s(d)として次のステップ関数を利
用している。すなわち、
【数3】 s(d)=0 : 0≦d<s1 =w1 : s1 ≦d<s2 =w2 : s2 ≦d<s3 =w3 : s3 ≦d<Max(最大値) ここに、s1,s2,s3は変化範囲を区分するパラメータで
ある。このパラメータは、詳細なノイズの影響を除去す
るためと、各画素値の実際の差分よりも、差のある画素
数を重視するためである。このようにする理由は、直接
距離を利用すると、明るさが大きく変化するスポットば
かりが強調されて、全体のうっすらとした変化が見過ご
されてしまうことを防止するためである。
【0079】次に、フレーム間差分の過去nフレーム分
の平均値(比較値)をdfn とし、これの比較値dfn を基
に、あるフレームk の状態を次の3つの状態に分類する
(S303, S306)。これらS303,S306
の処理は、具体的には、フレーム状態決定手段により実
行される。
【0080】まず、 数式4の計算をする(S30
3)。
【数4】dfn+ dfn×b +o もし、df> dfn+ dfn×b +o ならば(S304;YE
S)、フレームk は活性であるとする(S305)。
【0081】S304でNOと判定されたときには、
【数5】dfn−dfn ÷c −o の計算をし(S306)、仮に、df< dfn−dfn÷c −o
ならば(S307;YES)、フレームk は沈静であ
るとする(S308)。
【0082】ステップ304及びステップ307でNO
と判定されたときには(S307;NO)、フレームk
は定常であるとする(S309)。
【0083】ここで、定数b ,c は逸脱範囲を決めるパ
ラメータである。定数oはノイズの影響を免れるための
オフセット値である。
【0084】このように過去の平均値と現に入力されて
いるフレームとを比較することにより、人間の視野にお
ける残像のような画像の処理が行われることになる。
【0085】そして、画像区切処理において状態遷移判
定は、フレームの状態をフレーム毎に計算し、同じ状態
がmフレーム連続した場合に(S310;YES)、状
態遷移が確定したとしている(S311)。もちろん、
同じ状態がmフレーム続かない場合には(S310;N
O)、状態遷移は確定しないものとする。そして、どち
らの場合も、通常は(S312;NO)、再び、最初の
ステップ301に戻って処理を継続させる。また、画像
区切処理は、処理停止指令があったときに(S312;
YES)、上記画像処理を停止する。
【0086】ここで、パラメータmを小さくすると時間
的な変化に敏感になり、パラメータmを大きくすると時
間的な変化に鈍感になる。この実施の形態では、m=3
とし、3フレーム以上同じ状態が連続した場合、「定
常」、「活性」、「沈静」の3状態を確定している。ま
た、状態で確定した時点を変化点としている。
【0087】このような画像区切処理によれば、CCD
カメラ5におけるビデオ映像の変化が小さいときは小さ
な変化に敏感になり、大きく変化しているビデオ映像で
は少々の映像の変化は無視されるように動作することに
なる。
【0088】以上のような画像処理装置17によれば、
CCDカメラ5から入力されるビデオ映像を、設備状態
の変化や視野内への進入物、巡視者の移動などに応じて
自動的にシーンを分割し、その場ですぐさまデータベー
ス20に登録することが可能であり、さらに、過去の類
似ビデオ映像を関連情報として利用者に提示することが
可能となる。なお、図14中のデータベース機能22
は、画像データベース装置18の画像区切処理、変化特
徴抽出処理、登録・検索処理を実行する機能を表す。
【0089】以上のように構成される関連情報取得シス
テムを、例えば、設備巡視点検の支援システムとして用
いた一例について説明する。この場合、関連情報は、例
えば、管理対象物となる設備4のプロファイル(設備名
称、担当管理者等の属性)情報、操作マニュアル、点検
記録、レポート、登録空間位置、過去の巡視ビデオ映像
等、作業者の巡視点検を支援するための有用な情報であ
る。なお、関連情報の内容が特にこれに限定されるもの
ではない。
【0090】先ず、情報識別用マーカ1を巡視点検の対
象となる設備4に貼付する。ここで、情報識別用マーカ
1のアイコン3は、作業者に設備4を連想させる文字や
図柄又はこれらの組み合わせ等であるため、人的要因に
よる情報識別用マーカ1の貼付ミスを削減することがで
きる。
【0091】次いで、情報識別用マーカ1をデータベー
ス20に例えば次のようにして登録する。情報識別用マ
ーカ1を貼付した設備4をCCDカメラ5により撮影す
る。CCDカメラ5のビデオ映像は、コンピュータシス
テム16に送られ、ビデオ映像録画・再生機能21によ
り、そのままモーションJPEGのビデオデータ19と
して録画される。それと同時に、マーカ検出機能23に
より情報識別用マーカ1が検出される。そして、例え
ば、携帯情報端末15より設備名称等のプロファイル情
報を入力すると、関連情報登録・提示機能28を介し
て、データベース20に情報識別用マーカ1及びプロフ
ァイル情報が登録される。
【0092】以後、この情報識別用マーカ1をCCDカ
メラ5に写すと、CCDカメラ5のビデオ映像はビデオ
映像録画・再生機能21に送られると同時に、データベ
ース機能22に送られ、シーンの区切り目が検出され、
情報識別用マーカ1の関連情報の一つとしてデータベー
ス20に保存される。
【0093】また、ビデオ映像はマーカ検出機能23へ
送られ、照度補正機能24により照度補正され、マーカ
検索機能25により、撮影される情報識別用マーカ1と
一致若しくは最も類似する既登録情報識別用マーカ1が
検索されて、管理対象物4の関連情報が取り出される。
そして、関連情報登録・提示機能28を介して携帯情報
端末15に関連情報が表示される。
【0094】なお、表示できる関連情報が複数項目ある
場合は、例えば、作業者が知りたい関連情報を指定する
ことができるように、携帯情報端末15に選択可能な関
連情報9を図1に示すようにメニュー表示するようにし
ても良い。利用者が携帯情報端末15にて関連情報を選
択すると、携帯情報端末15からその旨が関連情報登録
・提示機能28に送られ、関連情報登録・提示機能28
では当該選択された関連情報が携帯情報端末15に表示
されるようにする。これにより、作業者は、設備4に関
連した設備管理情報、操作マニュアル、点検記録、以前
の巡回映像等の関連情報を適宜その場で簡単に見ること
ができる。
【0095】さらに、オーバレイすべき情報がある場合
は、マーク位置検出機能26及びオーバレイ映像表示機
能27により、CCDカメラ5から得たビデオ映像中の
設備4の所望の場所に関連情報がオーバレイされ、その
映像は利用者の手元の液晶TV14に表示される。これ
により、例えば、設備4における点検すべき箇所等が具
体的に指示される。図1の矢印Pは、このオーバレイ表
示された場合の一例を示す。
【0096】また、設備4表面の特定の場所を関連情報
としてデータベース20に記録する場合は、例えば次の
ようにして行なう。携帯情報端末15のインターフェー
ス画面上において当該記録したい場所をペン入力装置や
マウス等のポインティングデバイスでクリックにより指
定する。すると、当該指定された場所と情報識別用マー
カ1との三次元的相対位置情報が、関連情報登録・提示
機能28を介して、関連情報の一つとしてデータベース
20に登録される。そして、以後、マーク位置検出機能
26及びオーバレイ映像表示機能27により、登録され
た当該位置情報は液晶TV14の画面上にオーバレイし
て表示することが可能となる。これにより、例えば、設
備4の操作方法や必要点検個所を具体的な場所を指示し
ながら示すことが可能となる(図1の矢印P)。
【0097】また、例えば、設備4表面の錆やしみなど
の特記事項を関連情報としてデータベース20に記録す
ることで、検索対象とすることもできる。さらに、錆等
の色情報を登録又は検索する際に、照度補正機能24に
より撮影時の照度条件を考慮して照度補正することで、
検索精度を大幅に上げることができる。これにより、例
えば、関連情報の一つとして過去の巡回映像を蓄積して
おけば、これら関連情報を巡視点検の現場で効率的に取
り出すことができ、同一設備4の過去の画像情報と現在
の画像情報とを比較して錆の進行等をその場で容易に確
認できる。
【0098】なお、上述の関連情報取得システムの構成
は一例であり、これに限定されるものではない。例え
ば、関連情報取得システムの諸機能21〜28を1台の
コンピュータシステム16上で実行せず、複数のコンピ
ュータシステム16で分散処理させるようにしても良
い。また、上述した液晶TV14と携帯情報端末15と
の両機能を備える一体型の利用者端末6を構成するもの
としても良い。さらに、利用者端末6がCCDカメラ5
の機能を有するものとしても良い。また、利用者端末
6、CCDカメラ5と計算機16との通信インターフェ
ース及び通信プロトコルは特に限定されるものでなく、
例えば、すべて無線化するものとしても良い。
【0099】以上のように、本発明の情報識別用マーカ
1によれば、管理対象物4の識別機能、撮影時の照度条
件の検出機能、管理対象物4の三次元的相対位置の検出
機能の3つの機能を1のマーカで同時に達成することが
可能である。
【0100】即ち、本発明の情報識別用マーカ1では、
作業者が管理対象物4を容易に特定できるアイコン3を
用いているので、情報識別用マーカ1を管理対象物4へ
貼付する際にミスを防止することができる。また、当該
アイコン3自体がコンピュータシステム16が認識対象
とする識別コードとなるため、コンピュータシステム1
6が読取可能なコードと人間が理解可能な文字や図柄と
をあらためて対応付ける必要はなく、マーカ管理を容易
に行なえる。
【0101】さらに、情報識別用マーカ1の四隅のマー
ク2a,2b,2c,2dにより、管理対象物4識別の
ための画像処理の対象を情報識別用マーカ1内に限定さ
せることが可能となり、計算機による画像処理の負担を
軽減させることができる。
【0102】さらに、情報識別用マーカ1の背景色と四
隅のマーク2a,2b,2c,2dの色を参考色とし
て、撮影時の照度条件を検出することが可能であるか
ら、照度条件を考慮した精度の高い画像検索が可能とな
る。これにより、錆などの設備表面の色が点検項目の一
つである場合には、照度条件を揃えた状態で比較できる
ため、正確な点検が容易に可能となる。また、画像デー
タベース20に対して、色情報を登録又は検索する際
に、この照度条件を考慮して登録又は検索することで検
索精度を大幅に上げることができる。
【0103】さらに、情報識別用マーカ1の四隅のマー
ク2a,2b,2c,2dにより、管理対象物4の三次
元的相対位置を検出することで、撮影される映像に関連
した有用な情報を撮影映像に的確に組み合わせることが
可能となる。これにより、有用な作業支援システムを構
築することができる。
【0104】本発明の情報識別用マーカ1を用いた関連
情報取得システムによれば、CCDカメラ5で情報識別
用マーカ1が付された管理対象物4を撮影するだけで、
CCDカメラ5と管理対象物4との三次元的相対位置や
撮影時の照度条件が検出でき、さらに設備4に関連する
有用な情報を即座に利用者に提示できるので、作業を効
果的に支援することができる。
【0105】なお、上述の実施形態は本発明の好適な実
施の一例ではあるがこれに限定されるものではなく、本
発明の要旨を逸脱しない範囲において種々変形実施可能
である。
【0106】例えば、マーカ検出処理の速度向上のため
に、一旦マーカが認識された後は、次のフレームではそ
の近傍のみを検索するようにしても良い。
【0107】また、情報識別用マーカ1表面とカメラの
間で鏡面関係が結ばれると、いわゆる「てかり」の状態
になり、瞬間的に色が変化してしまい情報識別用マーカ
1の検出に失敗する場合がある。これに対し、例えば、
従来道路標識などに使われている再帰性反射材などを用
いて、このような問題を軽減するようにしても良い。
【0108】また、より精密な照度補正を行いたい場合
には、上述の実施形態で示した3色(赤、緑、白)での
補正では十分でない場合がありえる。その場合はマーカ
上に追加の色リファレンスを加えることで精度向上を計
るようにしても良い。例えば、四隅のマーク2a,2
b,2c,2dの内側にさらに異なる色を有するマーク
2a’,2b’,2c’,2d’を付加したり、四隅の
マーク2a,2b,2c,2dの全てを互いに異なる色
にするようにしても良い。
【0109】また、CCDカメラ5が情報識別用マーカ
1から離れて、ビデオ映像中で情報識別用マーカ1の占
める領域が小さくなるに従って、既登録情報識別用マー
カとの照合に用いる検索用画像データ1’は粗いものに
なり、それに応じて識別精度が落ちる場合がある。この
場合、例えば、ビデオ映像中で情報識別用マーカ1の占
める領域が所定大きさ以下であれば、マーカ検出機能2
3にてこれを認識し、関連情報登録・提示機能28を介
して、情報識別用マーカ1に向かってカメラを近づける
或いはズームアップする旨の指示を利用者端末6に出力
するようにしても良い。
【0110】
【発明の効果】以上の説明から明らかなように、請求項
1記載の情報識別用マーカによると、平面上の単色の背
景色の中で四角形の四隅にそれぞれ配置される有色のマ
ークと、四隅のマークの最外辺を結ぶ表示領域に管理対
象物を特定するデータを人間が理解可能な文字や図柄又
はこれらの組み合わせ等として表記されているアイコン
とから成るものとしているので、情報識別用マーカが付
される管理対象物の識別機能、撮影時点の照度条件の検
出機能、情報識別用マーカと画像入力機器との三次元的
相対位置の検出機能とを1のマーカで同時に満たすこと
が可能となる。また、画像処理の対象を情報識別用マー
カ内に限定させることで計算機による画像処理の負担を
軽減させることができ、照度条件を検出することで照度
条件を考慮した精度の高い画像検索が可能となり、三次
元的相対位置を検出することで撮影される映像に関連し
た有用な情報を撮影映像に的確に組み合わせることが可
能となる。さらに、人間がそのまま理解可能なアイコン
を用いて、容易に管理対象物を特定できるものとして、
対象物への貼付ミスを防止することができる。また、当
該アイコン自体が計算機が認識対象とする識別コードと
なるため、計算機が読取可能なコードと人間が理解可能
な文字や図柄とをあらためて対応付ける必要はなく、マ
ーカ管理を容易に行なえる。
【0111】さらに、請求項2記載の情報識別用マーカ
では、四隅のマークの1つが他のマークと異なる色を有
するようにしているので、人間の目視によるのは勿論、
計算機での情報処理によっても、情報識別用マーカの天
地左右が認識可能になる。
【0112】さらに、請求項3記載の情報識別用マーカ
では、背景色を白色とし、四隅のマークの1つを赤色と
し他は緑としているので、赤と緑および背景の白が相互
に色の値が大きく異なり、計算機による色領域の検出が
照明状況の違いによらずに安定して行なえる。
【0113】さらに、請求項4記載の情報識別用マーカ
では、マークを正方形とし、表示領域の四隅に角を合わ
せて配置されるものとしているので、情報識別用マーカ
を検出するための幾何学的条件を容易に設定することが
できる。
【0114】請求項5記載の情報識別用マーカの検出方
法によると、情報識別用マーカが付された管理対象物の
画像情報を用いて、四角形の四隅に配置されたマークを
利用して情報識別用マーカを容易に検出することができ
ると共に、各マークの色と背景色とを利用して撮影時の
照度条件を検出するようにしているので、照度条件同じ
にした精度の高い画像検索を行なうことができる。した
がって、どんな色か、どんな図柄か正確に検出でき、管
理対象物を図柄更には色の特徴で容易に識別することが
可能となる。
【0115】請求項6記載の情報識別用マーカを用いた
関連情報取得システム及び請求項8記載の情報識別用マ
ーカを用いた関連情報取得方法によれば、利用者が画像
入力手段で情報識別用マーカが付された撮影対象設備を
撮影するだけで、管理対象物を特定し、さらには管理対
象物に関連する有用な情報を即座に利用者に提示でき
る。したがって、設備巡視等の点検作業等に利用すれ
ば、その作業を効果的に支援することができる。
【0116】さらに、請求項7記載の情報識別用マーカ
を用いた関連情報取得システム及び請求項9記載の情報
識別用マーカを用いた関連情報取得方法によれば、管理
対象物に関連した有用な情報を撮影映像に的確に組み合
わせて利用者端末側に表示させることが可能となる。こ
れにより、有用な作業支援システムを構築することがで
きる。
【図面の簡単な説明】
【図1】本発明の情報識別用マーカの実施の一形態を示
した概略構成図である。
【図2】本発明の情報識別用マーカの例を示す図であ
り、(A)から(F)は様々なアイコンを有する情報識
別用マーカの例を示す。
【図3】マーカ検出処理において、画像入力手段より得
られたオリジナルの画像データを示す図である。
【図4】マーカ検出処理において、画像データを粗くサ
ンプリングした画像データを示す図である。
【図5】マーカ検出処理において、サンプリングした画
像データから検出された赤領域を示す図である。
【図6】マーカ検出処理において、サンプリングした画
像データから検出された緑領域を示す図である。
【図7】図5に示す赤領域から、白地に赤という条件で
絞り込んだ赤領域を示す図である。
【図8】図6に示す緑領域から、白地に緑という条件で
絞り込んだ緑領域を示す図である。
【図9】マーカ検出処理において、四角形の形状条件の
一例を示す示す図である。
【図10】マーカ検出処理において、四角形の形状条件
による絞込みの一例を示す示す図である。
【図11】マーカ検出処理の一例を示すフローチャート
である。
【図12】マーカ検出処理において、オリジナルの画像
データから情報処理識別マーカの領域を検出する例を示
す図である。
【図13】マーカ検出処理において、生成された検索用
画像データの一例を示す図である。
【図14】本発明の情報識別用マーカを用いた関連情報
取得システムの実施の一形態を示すブロック図である。
【図15】ビデオ画像の自動画像区切処理の処理フロー
チャートの一例である。
【符号の説明】
1 情報識別用マーカ 1’ 検索用マーカ画像情報 2 表示領域 2a 左上のマーク(四隅のマーク) 2b 右上のマーク(四隅のマーク) 2c 左下のマーク(四隅のマーク) 2d 右下のマーク(四隅のマーク) 3 アイコン 4 管理対象物 5 CCDカメラ(画像入力手段) 6 利用者端末 7 入力画像(オリジナル画像データ) 9 関連情報 16 コンピュータシステム 17 画像処理手段 20 データベース
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06T 1/00 280 G06K 19/00 Q

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 管理対象物に付される情報識別用マーカ
    において、平面上の単色の背景色の中で四角形の四隅に
    それぞれ配置される有色のマークと、前記四隅のマーク
    の最外辺を結ぶ表示領域に前記管理対象物を特定するデ
    ータを人間がそのまま理解可能な文字や図柄又はこれら
    の組み合わせ等として表記されているアイコンとから成
    ることを特徴とする情報識別用マーカ。
  2. 【請求項2】 前記四隅のマークの1つが他のマークと
    異なる色を有することを特徴とする請求項1記載の情報
    識別用マーカ。
  3. 【請求項3】 前記背景色は白色であり、前記四隅のマ
    ークの1つが赤色で他は緑であることを特徴とする請求
    項1または2のいずれかに記載の情報識別用マーカ。
  4. 【請求項4】 前記マークは正方形であり、前記表示領
    域の四隅に角を合わせて配置されていることを特徴とす
    る請求項1から3のいずれかに記載の情報識別用マー
    カ。
  5. 【請求項5】 請求項1から4のいずれかに記載の情報
    識別用マーカが貼付された管理対象物の画像情報から前
    記情報識別用マーカの画像情報を検出する方法におい
    て、前記マーカの四隅のマークとそれらが配置されてい
    る四角形という条件を利用して前記アイコンが表記され
    る表示領域を検出すると共に、前記各マークの色と前記
    背景色とを利用して撮影時の照度条件を検出することを
    特徴とする情報識別用マーカの検出方法。
  6. 【請求項6】 請求項1から4のいずれかに記載の情報
    識別用マーカと、前記情報識別用マーカの画像情報と前
    記情報識別用マーカが貼付される管理対象物に関する関
    連情報とが関連付けされて登録される画像データベース
    と、前記管理対象物を撮影する画像入力手段と、前記画
    像入力手段により得られる入力画像情報を処理する画像
    処理手段と、前記画像処理手段からの出力を表示する利
    用者端末とを備え、前記画像処理手段は、前記入力画像
    情報から前記情報識別用マーカを検出して検索用画像情
    報を得ると共に、前記マークの色と前記背景色を利用し
    て撮影時の照度条件を検出して前記検索用画像情報及び
    前記画像データベースに登録される入力画像情報の照度
    補正を行い、照度補正された前記検索用画像情報を用い
    て前記画像データベースに登録されている既登録情報識
    別用マーカの画像情報と比較照合し、一致若しくは最も
    類似する既登録情報識別用マーカに関連付けられている
    前記管理対象物の関連情報を取り出し、前記関連情報を
    前記利用者端末に出力表示することを特徴とする情報識
    別用マーカを用いた関連情報取得システム。
  7. 【請求項7】 前記画像処理手段は、前記入力画像情報
    における前記マークの座標位置から前記情報識別用マー
    カの前記画像入力手段に対する三次元的相対位置を検出
    し、前記入力画像情報と前記関連情報とを合成して前記
    利用者端末に出力表示することを特徴とする請求項6記
    載の情報識別用マーカを用いた関連情報取得システム。
  8. 【請求項8】 請求項1から4のいずれかに記載の情報
    識別用マーカを管理対象物に貼付し、この情報識別用マ
    ーカを含む前記管理対象物を画像入力手段によって画像
    情報として取り込む一方、該入力画像情報から前記情報
    識別用マーカを検出して検索用画像情報を得ると共に、
    前記マークの色及び前記背景色を利用して撮影時の照度
    条件を検出して前記検索用画像情報又は前記入力画像情
    報の照度補正を行い、照度補正された前記検索用画像情
    報を用いて前記情報識別用マーカの画像情報と前記マー
    カが付される前記管理対象物の関連情報とが関連付けさ
    れて予め登録された画像データベースを検索し、一致若
    しくは最も類似する既登録情報識別用マーカに関連付け
    られている前記管理対象物の関連情報を取り出し、前記
    関連情報を利用者端末に出力表示することを特徴とする
    情報識別用マーカを用いた関連情報取得方法。
  9. 【請求項9】 前記マークの座標位置から前記情報識別
    用マーカの前記画像入力手段に対する三次元的相対位置
    を検出し、前記入力画像情報と前記関連情報とを合成し
    て前記利用者端末に出力表示することを特徴とする請求
    項8記載の情報識別用マーカを用いた関連情報取得方
    法。
JP2000239138A 2000-08-07 2000-08-07 情報識別用マーカ及びその検出方法及び情報識別用マーカを用いた関連情報取得システム及び情報識別用マーカを用いた関連情報取得方法 Expired - Fee Related JP3802737B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000239138A JP3802737B2 (ja) 2000-08-07 2000-08-07 情報識別用マーカ及びその検出方法及び情報識別用マーカを用いた関連情報取得システム及び情報識別用マーカを用いた関連情報取得方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000239138A JP3802737B2 (ja) 2000-08-07 2000-08-07 情報識別用マーカ及びその検出方法及び情報識別用マーカを用いた関連情報取得システム及び情報識別用マーカを用いた関連情報取得方法

Publications (2)

Publication Number Publication Date
JP2002056371A true JP2002056371A (ja) 2002-02-20
JP3802737B2 JP3802737B2 (ja) 2006-07-26

Family

ID=18730727

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000239138A Expired - Fee Related JP3802737B2 (ja) 2000-08-07 2000-08-07 情報識別用マーカ及びその検出方法及び情報識別用マーカを用いた関連情報取得システム及び情報識別用マーカを用いた関連情報取得方法

Country Status (1)

Country Link
JP (1) JP3802737B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011186756A (ja) * 2010-03-08 2011-09-22 Nippon Telegr & Teleph Corp <Ntt> 画像表示システム及び画像表示方法
JP2012230676A (ja) * 2011-04-25 2012-11-22 Fuji Xerox Co Ltd 埋め込み型メディアマーカ識別のための装置およびプログラム
WO2014013685A1 (ja) * 2012-07-18 2014-01-23 日本電気株式会社 撮影状態識別マーカ、管理情報取得装置、管理情報取得方法、および、管理情報取得プログラム
JP2015156413A (ja) * 2014-02-20 2015-08-27 共立電気計器株式會社 プリント基板の真贋判定システム
JP2015158880A (ja) * 2014-02-25 2015-09-03 Kddi株式会社 変化検出装置、方法及びプログラム
JP2017010353A (ja) * 2015-06-24 2017-01-12 日本電信電話株式会社 作業支援装置、作業支援方法及び作業支援プログラム
JP2017041152A (ja) * 2015-08-20 2017-02-23 株式会社沖データ 無人搬送システム
JP2018067243A (ja) * 2016-10-21 2018-04-26 日本電信電話株式会社 作業支援方法、作業支援プログラム及び作業支援装置
WO2019008936A1 (ja) * 2017-07-03 2019-01-10 住友電気工業株式会社 画像処理装置、コンピュータプログラム、および画像処理システム
WO2020121626A1 (ja) * 2018-12-12 2020-06-18 住友電気工業株式会社 画像処理装置、コンピュータプログラム、および画像処理システム

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011186756A (ja) * 2010-03-08 2011-09-22 Nippon Telegr & Teleph Corp <Ntt> 画像表示システム及び画像表示方法
JP2012230676A (ja) * 2011-04-25 2012-11-22 Fuji Xerox Co Ltd 埋め込み型メディアマーカ識別のための装置およびプログラム
WO2014013685A1 (ja) * 2012-07-18 2014-01-23 日本電気株式会社 撮影状態識別マーカ、管理情報取得装置、管理情報取得方法、および、管理情報取得プログラム
JP2015156413A (ja) * 2014-02-20 2015-08-27 共立電気計器株式會社 プリント基板の真贋判定システム
WO2015125315A1 (ja) * 2014-02-20 2015-08-27 共立電気計器株式會社 プリント基板の真贋判定システム
JP2015158880A (ja) * 2014-02-25 2015-09-03 Kddi株式会社 変化検出装置、方法及びプログラム
JP2017010353A (ja) * 2015-06-24 2017-01-12 日本電信電話株式会社 作業支援装置、作業支援方法及び作業支援プログラム
JP2017041152A (ja) * 2015-08-20 2017-02-23 株式会社沖データ 無人搬送システム
JP2018067243A (ja) * 2016-10-21 2018-04-26 日本電信電話株式会社 作業支援方法、作業支援プログラム及び作業支援装置
WO2019008936A1 (ja) * 2017-07-03 2019-01-10 住友電気工業株式会社 画像処理装置、コンピュータプログラム、および画像処理システム
CN110832496A (zh) * 2017-07-03 2020-02-21 住友电气工业株式会社 图像处理装置、计算机程序和图像处理系统
WO2020121626A1 (ja) * 2018-12-12 2020-06-18 住友電気工業株式会社 画像処理装置、コンピュータプログラム、および画像処理システム

Also Published As

Publication number Publication date
JP3802737B2 (ja) 2006-07-26

Similar Documents

Publication Publication Date Title
TWI550549B (zh) 圖像處理裝置及圖像處理方法
US8254630B2 (en) Subject extracting method and device by eliminating a background region using binary masks
US7686457B2 (en) Projection image display apparatus and multi-projection system
JP5279654B2 (ja) 画像追尾装置、画像追尾方法、及びコンピュータプログラム
JP6016268B2 (ja) フィールド作業支援装置、方法及びプログラム
JP5456159B2 (ja) 背景から前景の頭頂部を分離するための方法および装置
US20050088542A1 (en) System and method for displaying an image composition template
JP5281972B2 (ja) 撮像装置
US20100238325A1 (en) Image processor and recording medium
JP2010219825A (ja) 三次元計測用画像撮影装置
JP4373840B2 (ja) 動物体追跡方法、動物体追跡プログラムおよびその記録媒体、ならびに、動物体追跡装置
US7124053B2 (en) Image processing method and apparatus therefor
KR101450782B1 (ko) 화상 처리 장치 및 프로그램
US11037014B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
CN110418124B (zh) 投影图像检测方法、装置、设备及计算机可读存储介质
KR20180038241A (ko) 영상 제공 장치 및 방법
WO2012081319A1 (ja) 映像監視装置
JP3802737B2 (ja) 情報識別用マーカ及びその検出方法及び情報識別用マーカを用いた関連情報取得システム及び情報識別用マーカを用いた関連情報取得方法
CN111209870A (zh) 一种双目活体摄像头快速配准方法及其系统和装置
JP2019029935A (ja) 画像処理装置およびその制御方法
JP4694957B2 (ja) 情報提示装置及び情報提示方法とそのプログラム
JP2011039596A (ja) 画像追尾装置、画像追尾方法、及びコンピュータプログラム
CN112073640B (zh) 全景信息采集位姿获取方法及装置、系统
JP2001109884A (ja) 画像データベース装置及び画像データベース作成検索方法
JP2009123150A (ja) 対象物検出装置及び方法、対象物検出システム、プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050914

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20051114

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20051214

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060113

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060213

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20060410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060428

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100512

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110512

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120512

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130512

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130512

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140512

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees