JP2007316839A - Cv映像によるcvタグ入出力検索装置 - Google Patents

Cv映像によるcvタグ入出力検索装置 Download PDF

Info

Publication number
JP2007316839A
JP2007316839A JP2006144227A JP2006144227A JP2007316839A JP 2007316839 A JP2007316839 A JP 2007316839A JP 2006144227 A JP2006144227 A JP 2006144227A JP 2006144227 A JP2006144227 A JP 2006144227A JP 2007316839 A JP2007316839 A JP 2007316839A
Authority
JP
Japan
Prior art keywords
tag
video
management
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006144227A
Other languages
English (en)
Other versions
JP5111785B2 (ja
Inventor
Kazuo Iwane
和郎 岩根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP2006144227A priority Critical patent/JP5111785B2/ja
Publication of JP2007316839A publication Critical patent/JP2007316839A/ja
Application granted granted Critical
Publication of JP5111785B2 publication Critical patent/JP5111785B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 所望のビデオ映像中の任意の対象物や空間に、当該対象物を特定するタグを貼り付け、対象物に関する情報を自由に取り出して管理できる。
【解決手段】 ビデオ映像にCV値を付加したCV映像を記録したCV映像記録部101と、CV映像中に管理対象物1001を指定した所定のCVタグを重複合成表示し、CV映像の進行とともに管理対象物との三次元位置関係を変えずに、管理対象物とともに移動するように表示するCVタグ表示装置102と、CV映像中に特定の管理対象物を指定してCVタグを重複表示し、そのCVタグに管理対象物に関する所定の属性データを関連付けて入力するCVタグ入力装置103と、CVタグの配置及び属性データを格納するCVタグデータベース104と、CV映像中の任意のCVタグを選択して属性データをCVタグデータベースから読み出しCV映像中に表示させるCVタグ対象物管理装置106を備える。
【選択図】 図14

Description

本発明は、ビデオ映像を利用したGIS(Geographical Information Systems:地理情報システム)、ビデオ地理情報システムに関し、特に、ビデオ映像中に情報の窓口となるタグを取り付けることにより、地図と映像が対応付けられ、映像中の任意の対象物にタグを貼り付け、又は映像自身をタグとして利用することができ、また、WEBによる双方向コミュニケーションも可能となる、道路管理や次世代カーナビゲーション、将来のユビキタス関連分野に好適なCV映像によるCVタグ入出力検索装置に関する。
一般に、GIS(Geographical Information Systems)と呼ばれる地理情報システムが知られている。
このGISは、地図とともに、地図上の対象物や空間に関連する各種の情報を重ねて表示することにより、単なる地図のみでは得られない有用な情報を提示するもので、例えば、道路管理や河川管理、カーナビゲーションシステムとして利用されている。
このようなGISにおいて、例えば、所望の監視対象、管理対象物に対して、何等かの情報の出入り口となるものを付加することにより、地図情報とともに、所望の管理対象物等についての関連情報や付属情報、属性情報などを表示させることができれば、きわめて有用な地理情報システムを実現することができる。
ここで、任意の物体や対象物に対する情報の出入り口となる手段としては、一般にICタグが知られている。
ICタグとは、非接触ICタグ、RFID(Radio Frequency Identification)タグ、RFタグ等とも呼ばれる、ICチップと無線アンテナを樹脂やガラス等で封止してタグ(荷札)状に形成した超小型の通信端末で、ICチップに所定の情報を記録して対象物にタグを取り付け、記録した情報を無線通信により読取装置(リーダ・ライタ)側でピックアップすることにより、ICチップに記録された情報を読み取り、出力・表示するというものである。
ICタグは、ICチップのメモリに数百バイト〜数キロバイトのデータが記録可能であり、十分な情報等を記録でき、また、読取装置側と非接触であるため接点の磨耗や傷、汚れ等の心配もなく、さらに、タグ自体は無電源にすることができるため対象物に合わせた加工や小型化・薄型化も可能となる。
従って、このようなICタグを、例えば、道路や河川などの管理地域にある建造物や道路表示、建物、標識、信号などの管理対象物に取り付けることで、その管理対象物に関する種々の情報を管理することが可能となる。
例えば、特許文献1には、建物内外の予め決められた場所にICタグを配置しておき、そのICタグに書き込まれた3次元位置情報を携帯端末等で読み取って、その3次元位置情報に基づいて詳細な地図情報等にアクセスできるようにした「3次元ナビゲーションシステム」が提案されている。
特開2005−241265号公報
しかしながら、現実の対象物に直接ICタグを取り付けて対象物を管理するためには、すべての管理対象物にICタグを取り付け、かつ、ICタグを取り付けた場所を把握しておく必要があり、特に道路や河川の監視システムやGISのように広範な対象領域に大型の建物や建造物等が多数存在する場合には、必要なすべての対象物に漏れなくICタグを取り付け、それをすべて把握しておくことはきわめて困難である。
また、ICタグは、対象物に取り付けた後は、現場まで行って個々のタグ情報を読み取る以外にはタグに書き込まれたデータを確認する方法等が無い。このため、すべての管理対象物に漏れなくICタグを取り付けたとしても、その後のデータの管理等がきわめて煩瑣なものとなるおそれがある。
さらに、ICタグは、対象物に直接貼り付けたり埋め込んだりして取り付けられるものであり、取り付けるためには必ず何等かの物理的存在が必要であり、例えば、対象物が存在しない三次元空間にタグを貼り付けたり配置するようことはできない。
このように、ICタグを用いた対象物の管理は、特にGISや道路・河川の監視システムについては、そのまま適用することはきわめて困難であった。
ところで、Web技術の分野では、Web上で不特定多数の人が二次元の地図上に何等かの印やタグに類するものを付けて、それを情報の入り口としてコミュニケーションする技術が、Web2.0等において提案されており、二次元の地図上に二次元のCG(Computer Graphics)を貼り付ける技術も既に存在している。
しかし、不特定多数の人が二次元の映像上の対象物に三次元のタグを自由に貼り付けて、タグを共有してコミュニケーションを取るというような発想や技術は存在していない。すなわち、Web上で公開された映像に、利用者が対象物を選択してタグを貼り付け、タグ提供者と利用者がタグを通してコミュニケーションする技術は、潜在的には求められているものの、それを実現するための技術や手段は存在していない。
本願発明者は、鋭意研究の結果、動画映像の複数のフレーム画像から充分な数の特徴点を自動検出し、各フレーム間で特徴点を自動追跡することで、当該動画映像のカメラ位置と回転角を示すCV値データを高精度に求めることができることに想到した。
そして、このCV値データを利用することにより、ビデオ映像中の対象物の三次元座標を検出して、その座標に自由にタグ(CVタグ)を貼り付け、そのタグに情報を打ち込み、映像を見ながら対象物を選択して、対象物の映像上に又は映像の中の三次元空間上に、自由に位置を設定し、姿勢を設定し、移動し、検索し、削除し得ることに想到した。
すなわち、本発明は、以上のような従来の技術が有する問題を解決するために提案されたものであり、所望のビデオ映像中の任意の対象物や空間に、当該対象物を特定するタグを取り付けることにより、タグを選択、指定するだけで、タグが示す対象物に関する情報を取り出して管理することができ、現実の対象物にタグを取り付けたり、現場でタグの読み書き動作等を行うことなく、広範で大量の対象物についての情報を容易かつ確実に管理することができる、特に河川や道路の管理システム、地理情報システム等に好適なCV映像によるCVタグ入出力検索装置の提供を目的とする。
上記目的を達成するため、本発明のCV映像によるCVタグ入出力検索装置は、請求項1に記載するように、所望の管理対象物を含むビデオ映像に移動するカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を記録したCV映像記録部と、前記CV映像を表示するとともに、当該CV映像中に、三次元位置が既知となった管理対象物を指定した所定のCVタグを重複合成表示し、CV映像の進行とともに、前記管理対象物との三次元位置関係を変えずに、CV映像中を前記管理対象物とともに移動するように表示するCVタグ表示装置と、前記CVタグ表示装置で表示されるCV映像中に、特定の管理対象物を指定し、その管理対象物の三次元位置に関連づけてCVタグを重複表示するとともに、前記所定のCVタグを入力し、そのCVタグに、前記管理対象物に関する所定の属性データをCVタグと関連付けて入力するCVタグ入力装置と、前記CVタグ表示装置で表示された所定の管理対象物に関連づけて配置したCVタグの配置及びその属性データを格納するCVタグデータベースと、前記CVタグ表示装置で表示されるCV映像中の任意のCVタグを選択し、当該CVタグが指定する管理対象物に関する所定の属性データを、前記CVタグデータベースから読み出し、前記CVタグ表示装置で表示されるCV映像中に表示させるCVタグ対象物管理装置と、を備える構成としてある。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項2に記載するように、前記CVタグデータベースを文字、座標、属性等により検索し、前記CV映像中の所望の管理対象物を抽出し、当該管理対象物、又はそれらを指定するCVタグを、前記CV映像中に識別可能に表示させるCVタグ自動検索装置を備える構成とすることができる。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項3に記載するように、前記CVタグ入力装置が、前記管理対象物を含むビデオ映像を取得し、当該ビデオ映像を撮影した移動するカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を生成・表示するCV映像表示部と、前記CV映像表示部で表示されるCV映像中の任意の管理対象物又はその近傍に、当該管理対象物を特定するCVタグを当該CV映像中に指定するCVタグ位置指定部と、前記CVタグ位置指定部で指定されたCVタグのCV映像中の配置を示す三次元座標を演算により求める座標演算取得部と、前記座標演算取得部で求められたCVタグの三次元座標を、当該CVタグが示す管理対象物と関連付けて固定するCVタグ固定部と、前記CVタグ固定部で固定されたCVタグの入力を完了して登録する入力完了設定部と、を備える構成とすることができる。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項4に記載するように、前記CVタグ位置指定部が、前記CVタグの配置の範囲をCV映像中に二次元的又は三次元的に制限して指定するCVタグ範囲指定部と、前記CVタグに関連する所定の関連情報を記録するCVタグ内容記録部と、前記CVタグの形状等を所定の候補から選択するCVタグ形状選択部と、を備え、前記座標演算取得部が、前記CVタグの三次元座標を求める演算の後、位置や姿勢等の微調整を行うCVタグ位置姿勢微調整部を備え、前記入力完了設定部が、前記CVタグと他のCV映像又は地図をリンクして表示させる所定のリンク情報を登録するリンク情報設定部と、前記CVタグに登録すべき内容を確認可能に表示するCVタグ内容確認部と、前記CVタグに登録された内容又は当該CVタグの設定を解除する設定解除部と、を備える構成とすることができる。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項5に記載するように、前記CVタグ入力装置と、前記CVタグデータベースと、前記CVタグ対象物管理装置とを搭載し、前記管理対象物を含む所定の管理地域を移動可能な積載移動手段を備え、前記積載移動手段は、ビデオカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を取得するリアルタイムCV映像取得装置と、記録媒体又は通信を介して、前記管理地域及びその周辺のCV映像地図を前記CV映像記録部に一時記憶させるとともに、前記管理地域及びその周辺のCVタグとその属性を示す前記CVタグデータベースに一時記憶させる外部データベースと、前記積載移動手段の絶対座標を取得するGPS位置決め装置、及び前記リアルタイムCV映像取得装置で取得したリアルタイムCV映像と前記CV映像地図から、所定の新旧更新映像を生成する新旧映像更新装置を備える移動体位置決め手段と、前記移動体位置決め手段で取得される積載移動手段の絶対座標と、当該積載移動手段の走行目的及び時刻情報に基づき、現在時刻と現在位置及び現在状況に関連する管理対象物のCVタグを選択して自動表示するCVタグ自動表示装置と、を備える構成とすることができる。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項6に記載するように、前記CVタグ表示装置が、選択又は検索された管理対象物を、前記CV映像中の決められた位置に固定して表示する動画ロックオン表示手段、縮尺の異なる複数のCV映像地図を表示し、かつ、各CV映像地図の座標系を統一して、これら複数のCV映像地図中に共通するCVタグを表示する複数CV映像表示手段、CV映像地図と二次元地図を同時に表示し、当該二次元地図上にもCVタグを表示する地図同期表示手段、選択又は検索された管理対象物を示すCVタグを、前記CV映像地図に対応するリアルタイムCV映像に表示するリアルタイムCV映像表示手段、選択又は検索された管理対象物を、ヘッドマウント又はハーフミラー等により、移動する車両等から直接観察される現実の管理対象物にCVタグ又は案内矢印CG、看板CG等を合成表示する現実重複表示手段、選択又は検索された管理対象物を示すCVタグについて登録された内容を、音声出力する手段、のうち少なくともいずれか一の手段を有する構成とすることができる。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項7に記載するように、前記管理対象物に取り付けられるICタグに、当該管理対象物に関する所定情報を書き込むICタグ入力装置と、前記ICタグが取り付けられる管理対象物に関する所定のデータを、当該ICタグと関連付けて格納するICタグデータベースと、前記ICタグに近接して当該ICタグに書き込まれた所定情報を電子的に読み取るICタグ対象物管理装置と、前記ICタグデータベースに格納されるデータのうち、前記CVタグデータベースにデータが格納される管理対象物については、データを共通化するデータベース装置と、を備える構成とすることができる。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項8に記載するように、前記CVタグ入力装置が、前記CV映像から、分類指定した所定の対象物又は対象物群を自動認識する対象物自動認識部と、前記対象物自動認識部で自動認識された対象物の三次元座標の位置を演算により求め、当該対象物を指定して配置するCVタグを入力する座標自動演算部と、を備える構成とすることができる。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項9に記載するように、前記CVタグ対象物管理装置が、所定の管理地域を案内するための地図を備える地図部と、所定の管理地域を案内するためのCV映像を備えるCV映像部と、前記地図部とCV映像とを座標統合する座標統合部と、前記CVタグを前記地図部の地図と前記CV映像部のCV映像とに同期表示させ、いずれのCVタグが選択されても、又はいずれのCV映像と地図が選択されても、当該CVタグに関連する所定のデータを表示させる同期属性表示部と、を備える構成とすることができる。
また、本発明のCV映像によるCVタグ入出力検索装置は、請求項10に記載するように、前記管理対象物及びCVタグ入力装置を積載して移動する移動手段と、前記移動手段又は管理対象物に設置されたカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したリアルタイムCV映像を取得して表示する移動CV映像表示部を備え、前記移動手段の移動にともなって前記CVタグが指定する管理対象物とその周辺をCV映像として取得し、CVタグをリアルタイムで表示し管理する構成とすることができる。
さらに、本発明のCV映像によるCVタグ入出力検索装置は、請求項11に記載するように、前記CVタグ対象物管理装置又はCVタグ入力装置を積載して移動する移動手段と、前記移動手段に設置されたカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したリアルタイムCV映像を取得して表示する移動CV映像表示部と、前記CV映像表示部で取得されたリアルタイムCV映像に基づいて、前記移動手段の位置を示す三次元座標をリアルタイムで取得する座標取得部と、前記移動手段の移動にともなって前記リアルタイムCVタグが指定する管理対象物とその周辺をCV映像として取得し、CVタグをリアルタイムで表示し管理する構成とすることができる。
以上のような構成からなる本発明のCV映像によるCVタグ入出力検索装置によれば、ビデオ映像中の任意の対象物に対して、三次元の位置と姿勢の情報を持つCVタグを貼り付け、そのCVタグを選択することで、タグが貼り付けられた対象物に関する属性情報や関連情報、付属情報などの諸データを表示させることができる。
これによって、ICタグのように、タグを取り付けた対象物のある現場に行かなくても、CV映像上でCVタグをクリックすることで情報を確認することができ、またCVタグ上で情報の更新や削除も可能となる。
このようにCVタグで情報の確認や更新、削除の操作ができることで、わざわざICタグを現実の対象物に取り付けなくても、所望の対象物のすべてをCV映像中で管理することができるようになる。
CVタグは、CV映像中の位置と姿勢を示す三次元情報を持つものであり、映像中の三次元空間に自由に配置することが可能となり、二次元地図上に印を付けるものとは比較にならないほど多くの多様なタグを自由に配置することができるようになる。
なお、CVタグを貼り付けるCV映像としては、複数の種類、例えば高々度空撮、低高度空撮、地上撮、及び構造物及び建造物の中の撮影など、様々な縮尺の異なる映像を三次元座標で統合することができる。
また、本発明のCVタグとともに、ICタグを併用することも勿論可能であり、その場合には、例えばICタグの設置時に同じ場所をCV映像で確認し、そのCV映像中にもCVタグを貼り付けておくことで、CVタグをICタグの控えのデータベースとして利用することができ、ICタグの内容をCV映像から確認することができるようになり、ICタグの利用価値も大きく向上する。
また、特に本発明のCVタグと「道路・河川等の現況ビデオ検索装置」(特許第3099103号)を利用して映像と地図をリンクさせることにより、単に地図と映像を結びつけるだけではなく、地図、空撮映像、地上撮影像を三次元的に結合して関連付けることができる。
また、CV映像に全周映像を用いることで、視点方向を自由に選択できる映像を生成できるので、本発明においては全周映像を用いてCV映像を生成し、その中に三次元CVタグを貼り付けることが好ましい。
さらに、本発明に係るCV映像をWeb上で公開、提供することにより、Web利用者がCV映像を三次元的に扱え、提供者のみならず、利用者が自由に三次元のタグをCV映像中に貼り付けることも可能となる。
これまで、ICタグが使われ出してその用途が広がっているが、そのデータ管理方法についは未だ有効な確立された技術はない。また、管理対象物が増加するにつれて、データベースによる検索や入力が煩雑になってくる。
そこで、本発明に係るCVタグを、ICタグに代えて、又はICタグと併用することで、任意の管理対象物はすべて映像上で管理できることになり、ICタグを対象物に直接取り付け、読み取る必要性は低下する。このことは現場まで行かなくても良いことを意味し、作業の大幅な効率化となる。
また、高温や低温、高湿度、高圧、低圧、高レベル放射線等の通常環境ではない場所にはICタグを直接設置することができない場面もあるが、本発明に係るCVタグはそのような環境や条件を選ばないので、利用範囲は非常に広く、情報の管理もきわめて簡便に行える。
従って、本発明に係るCVタグは、ICタグに代わるものとして利用が増加していくと考えられ、多方面で多様な利用が期待される。
特に、次世代のカーナビゲーションとして有望であり、映像の中で外の世界と対話も可能となり、また、ユビキタスの世界ではCVタグは必需品になるものと期待される。
さらに、インターネットを介して、CV映像の中のすべての対象物をWeb上で共有し、多くの人が参加するコミュニケーションツールが実現する。このようなコミュニケーションツールにおいては、管理者のみならず、不特定多数の人が、CV映像中にCVタグを貼り付け、又はCVタグを共有し、情報を共有し、自由に参加する環境を提供することができ、これまでのインターネット環境が大きく変わることが期待される。なお、この場合、公開するCVツールと非公開のものとを分離することは勿論可能であり、管理者がその選択権を持つことになる。
以上のように、本発明のCV映像によるCVタグ入出力検索装置によれば、所望のビデオ映像中の任意の対象物や空間に、CVタグを自由に取り付けることができ、CVタグを選択、指定するだけで、CVタグが示す対象物に関する情報を取り出して管理することができる。
これによって、現実の対象物にタグを取り付けたり、現場でタグの読み書き動作等を行うことなく、広範で大量の対象物についての情報を容易かつ確実に管理することができる。
以下、本発明に係るCV映像によるCVタグ入出力検索装置の好ましい実施形態について、図面を参照しつつ説明する。
ここで、以下に示す本発明のCV映像によるCVタグ入出力検索装置は、プログラム(ソフトウェア)の命令によりコンピュータで実行される処理,手段,機能によって実現される。プログラムは、コンピュータの各構成要素に指令を送り、以下に示すような所定の処理や機能、例えば、映像中からの基準点や特徴点の自動抽出,抽出した基準点の自動追跡,基準点の三次元座標の算出,CV(カメラベクトル)値の演算,CVタグの生成・貼り付け,CVタグにリンクしたデータベース情報の呼び出し・表示等を行わせる。
このように、本発明における各処理や手段は、プログラムとコンピュータとが協働した具体的手段によって実現される。
なお、プログラムの全部又は一部は、例えば、磁気ディスク,光ディスク,半導体メモリ,その他任意のコンピュータで読取り可能な記録媒体により提供され、記録媒体から読み出されたプログラムがコンピュータにインストールされて実行される。また、プログラムは、記録媒体を介さず、通信回線を通じて直接にコンピュータにロードし実行することもできる。
[CV演算]
まず、本発明のCV映像によるCVタグ入出力検索装置の前提となるCV演算の概要について図1〜図13を参照しつつ説明する。
CV演算とはCV値を求めることを意味し、求められた結果をCV値,CVデータと呼ぶ。CVという表記は、カメラベクトル:Camera Vectorの略記であり、カメラベクトル(CV)とは計測等のために映像を取得するビデオカメラ等のカメラの三次元位置と3軸回転姿勢を示す値である。
CV演算は、動画像(ビデオ映像)を取得し、その映像内の特徴点を検出し、それを隣接する複数のフレームに追跡し、カメラ位置と特徴点の追跡軌跡とが作る三角形を画像内に数多く生成し、その三角形を解析することで、カメラの三次元位置とカメラの3軸回転姿勢を求めるものである。
CV演算では、CV値を求める過程で、同時に映像内の特徴点(基準点)についても三次元座標が同時に求まることが重要な特性である。
また、動画像から演算で求められるCV値は、動画像の各フレームに対応して、三次元のカメラ位置と三次元のカメラ姿勢とが同時に求まる。しかも、原理的には一台のカメラで、映像と対応してCV値が求められる特性は、CV演算でしか実現し得ない、優れた特徴である。
例えば、他の方法による計測手段(GPSやIMU等)では、動画像の各フレームと、その三次元的カメラ位置と三次元的カメラ姿勢とを同時に取得するためには画像フレームと計測サンプリング時刻を高精度で、しかも完全に同期しなければならないために、巨額の装置となり、実質的には実現が困難である。
動画像から演算で求められるCVデータは、加工しない段階では相対値であるが、短区間であれば高精度で三次元位置情報と3軸回転の角度情報を取得できる。
また、CVデータは画像から取得するため、取得されたデータは相対値であるが、画像内の任意の対象物との位置関係を計測することができるという他の方法では実現は可能な優れた特性を備える。
また、画像に対応したCV値が求まるので、画像内計測や測量において、画像から直接にカメラ位置とその3軸回転姿勢を求めることができるCV演算は画像内計測や画像内測量に好適となる。
そして、本発明のCV映像によるCVタグ入出力検索装置は、このCV演算により得られたCV値データに基づいてCVタグの生成や映像中への貼り付け処理を行うものである。
[CV演算部]
CV演算は、後述する本発明のCV映像によるCVタグ入出力検索装置100のCVタグ入力装置(図14参照)として機能するCV演算部20で行われる。
CV演算部20は、図1に示すように、全周ビデオ映像部10から入力されるビデオ映像について所定のCV演算処理を行うようになっており、具体的には、特徴点抽出部21と、特徴点対応処理部22と、カメラベクトル演算部23と、誤差最小化部24と、三次元情報追跡部25と、高精度カメラベクトル演算部26とを備えている。
まず、CV演算に使用する映像としては、どのような映像でもよいが、画角の限られた映像では視点方向を移動した場合に映像がとぎれてしまうので、全周映像(図2〜4参照)とすることが望ましい。なお、動画映像は連続する静止画と同様であり、静止画と同様に扱うことができる。
また、映像は、一般には予め記録した動画映像を使うことになるが、自動車等の移動体の移動に合わせてリアルタイムに取り込んだ映像を使用することも勿論可能である。
そこで、本実施形態では、CV演算に使用する映像として、車輌等の移動体の360度の全周囲を撮影した全周映像(図2〜4参照)か、又は全周映像に近い広角映像を用いて、その全周映像を視点方向に平面展開することにより、地図と映像の合成画像を生成・表示する全周ビデオ映像部10を備えている(図1参照)。
全周映像の平面展開とは、全周映像を、通常の画像として遠近法的に表現するものである。ここで、「遠近法」と呼称するのは、全周画像のそのものはメルカトール図法や球面投影図法のように、遠近法とは異なる方法で表示されているので(図4参照)、これを平面展開表示することで、通常の遠近法映像に変換表示できるからである。
全周ビデオ映像部10において全周映像を生成するには、まず、図2及び図3に示すように、全周ビデオカメラ11を使用して、CV値データを取得する目的で、走行車輌等の移動体11aに固定された全周ビデオカメラ11で、移動体11aの移動とともに移動体周辺を撮影する。
なお、移動体11aには、その位置座標を取得する目的で、例えば、絶対座標を取得するGPS機器単独やIMU機器を付加したもの等により構成した位置計測機器等を備えることができる。
また、移動体11aに搭載される全周ビデオカメラ11としては、広範囲映像を撮影,取得するカメラであればどのような構成であってもよく、例えば、広角レンズや魚眼レンズ付きカメラ、移動カメラ、固定カメラ、複数のカメラを固定したカメラ、360度周囲に回転可能なカメラ等がある。本実施形態では、図2及び図3に示すように、車輌に複数のカメラが一体的に固定され、移動体11aの移動に伴って広範囲映像を撮影する全周ビデオカメラ11を使用している。
そして、以上のような全周ビデオカメラ11によれば、図3に示すように、移動体11aの天井部に設置されることで、カメラの360度全周囲の映像を複数のカメラで同時に撮影することができ、移動体11aが移動することで、広範囲映像を動画データとして取得できる。
ここで、全周ビデオカメラ11は、カメラの全周映像を直接取得できるビデオカメラであるが、カメラの全周囲の半分以上を映像として取得できれば全周映像として使用できる。
また、画角が制限された通常のカメラの場合でも、CV演算の精度としては低下するが、全周映像の一部分として取り扱うことが可能である。
なお、全周ビデオカメラ11で撮影された広範囲映像は、一枚の画像として、撮影時の画角に一致する仮想球面に貼り付けることができる。
仮想球面に貼り付けられた球面画像データは、仮想球面に貼り付けた状態の球面画像(360度画像)データとして保存・出力される。仮想球面は、広範囲映像を取得するカメラ部を中心点とした任意の球面状に設定することができる。
図4(a)は球面画像が貼り付けられる仮想球面の外観イメージであり、同図(b)は仮想球面に貼り付けられた球面画像の一例である。また、同図(c)は、(b)の球面画像をメルカトール図法に従って平面展開した画像例を示す。
そして、以上のように生成・取得された全周ビデオ映像が、CV演算部20に入力されてCV値データが求められる(図1参照)。
CV演算部20では、まず、特徴点抽出部21が、全周ビデオ映像部10の全周ビデオカメラ11で撮影されて一時記録された動画像データの中から、十分な数の特徴点(基準点)を自動抽出する。
特徴点対応処理部22は、自動抽出された特徴点を、各フレーム間で各フレーム画像内において自動的に追跡することで、その対応関係を自動的に求める。
カメラベクトル演算部23は、対応関係が求められた特徴点の三次元位置座標から各フレーム画像に対応したカメラベクトルを演算で自動的に求める。
誤差最小化部24は、複数のカメラ位置の重複演算により、各カメラベクトルの解の分布が最小になるように統計処理し、誤差の最小化処理を施したカメラ位置方向を自動的に決定する。
三次元情報追跡部25は、カメラベクトル演算部23で得られたカメラベクトルを概略のカメラベクトルと位置づけ、その後のプロセスで順次画像の一部として得られる三次元情報に基づいて、複数のフレーム画像に含まれる部分的三次元情報を隣接するフレームの画像に沿って自動追跡を行う。ここで、三次元情報(三次元形状)とは、主に特徴点の三次元分布情報であり、すなわち、三次元の点の集まりであり、この三次元の点の集まりが三次元形状を構成する。
高精度カメラベクトル演算部26は、三次元情報追跡部25で得られた追跡データに基づいて、カメラベクトル演算部23で得られるカメラベクトルより、さらに高精度なカメラベクトルを生成,出力する。
そして、以上のようにして得られたカメラベクトルが、後述するCV映像によるCVタグ入出力検索装置100に入力され、CVタグの生成や貼り付け処理に利用されることになる。
複数の画像(動画又は連続静止画)の特徴点からカメラベクトルを検出するには幾つかの方法があるが、図1に示す本実施形態のCV演算部20では、画像内に十分に多くの数の特徴点を自動抽出し、それを自動追跡することで、エピポーラ幾何学により、カメラの三次元ベクトル及び3軸回転ベクトルを求めるようにしてある。
特徴点を充分に多くとることにより、カメラベクトル情報が重複することになり、重複する情報から誤差を最小化させて、より精度の高いカメラベクトルを求めることができる。
カメラベクトルとは、カメラの持つ自由度のベクトルである。
一般に、静止した三次元物体は、位置座標(X,Y,Z)と、それぞれの座標軸の回転角(Φx,Φy,Φz)の六個の自由度を持つ。従って、カメラベクトルは、カメラの位置座標(X,Y,Z)とそれぞれの座標軸の回転角(Φx,Φy,Φz)の六個の自由度のベクトルをいう。なお、カメラが移動する場合は、自由度に移動方向も入るが、これは上記の六個の自由度から微分して導き出すことができる。
このように、本実施形態のカメラベクトルの検出とは、カメラは各フレーム毎に六個の自由度の値をとり、各フレーム毎に異なる六個の自由度を決定することである。
以下、CV演算部20における具体的なカメラベクトルの検出方法について、図5以下を参照しつつ説明する。
まず、上述した全周カメラ映像部10の全周ビデオカメラ11で取得された画像データは、間接に又は直接に、CV演算部20の特徴点抽出部21に入力され、特徴点抽出部21で、適切にサンプリングされたフレーム画像中に、特徴点となるべき点又は小領域画像が自動抽出され、特徴点対応処理部22で、複数のフレーム画像間で特徴点の対応関係が自動的に求められる。
具体的には、カメラベクトルの検出の基準となる、十分に必要な数以上の特徴点を求める。画像間の特徴点とその対応関係の一例を、図5〜図7に示す。図中「+」が自動抽出された特徴点であり、複数のフレーム画像間で対応関係が自動追跡される(図7に示す対応点1〜4参照)。
ここで、特徴点の抽出は、図8に示すように、各画像中に充分に多くの特徴点を指定,抽出することが望ましく(図8の○印参照)、例えば、100点程度の特徴点を抽出する。
続いて、カメラベクトル演算部23で、抽出された特徴点の三次元座標が演算により求められ、その三次元座標に基づいてカメラベクトルが演算により求められる。具体的には、カメラベクトル演算部23は、連続する各フレーム間に存在する、十分な数の特徴の位置と、移動するカメラ間の位置ベクトル、カメラの3軸回転ベクトル、各カメラ位置と特徴点をそれぞれ結んだベクトル等、各種三次元ベクトルの相対値を演算により連続的に算出する。
本実施形態では、例えば、360度全周画像のエピポーラ幾何からエピポーラ方程式を解くことによりカメラ運動(カメラ位置とカメラ回転)を計算するようになっている。
図7に示す画像1,2は、360度全周画像をメルカトール展開した画像であり、緯度φ、軽度θとすると、画像1上の点は(θ1,φ1)、画像2上の点は(θ2,φ2)となる。そして、それぞれのカメラでの空間座標は、z1=(cosφ1cosθ1,cosφ1sinθ1,sinφ1)、z2=(cosφ2cosθ2,cosφ2sinθ2,sinφ2)である。カメラの移動ベクトルをt、カメラの回転行列をR、とすると、z1T[t]×Rz2=0がエピポーラ方程式である。
十分な数の特徴点を与えることにより、線形代数演算により最小自乗法による解としてt及びRを計算することができる。この演算を対応する複数フレームに適用し演算する。
ここで、カメラベクトルの演算に利用する画像としては、360度全周画像を用いることが好ましい。
カメラベクトル演算に用いる画像としては、原理的にはどのような画像でも良いが、図7に示す360度全周画像のような広角画像の方が特徴点を数多く選択し易くなる。そこで、本実施形態では、CV演算に360度全周画像を用いており、これによって、特徴点の追跡距離を長くでき、特徴点を十分に多く選択することができ、遠距離、中距離、短距離それぞれに都合の良い特徴点を選択することができるようになる。また、回転ベクトルを補正する場合には、極回転変換処理を加えることで、演算処理も容易に行えるようになる。これらのことから、より精度の高い演算結果が得られるようになる。
なお、図7は、CV演算部20における処理を理解し易くするために、1台又は複数台のカメラで撮影した画像を合成した360度全周囲の球面画像を地図図法でいうメルカトール図法で展開したものを示しているが、実際のCV演算では、必ずしもメルカトール図法による展開画像である必要はない。
次に、誤差最小化部24では、各フレームに対応する複数のカメラ位置と複数の特徴点の数により、複数通り生じる演算方程式により、各特徴点に基づくベクトルを複数通り演算して求めて、各特徴点の位置及びカメラ位置の分布が最小になるように統計処理をして、最終的なベクトルを求める。例えば、複数フレームのカメラ位置、カメラ回転及び複数の特徴点について、Levenberg-Marquardt法により最小自乗法の最適解を推定し、誤差を収束してカメラ位置、カメラ回転行列、特徴点の座標を求める。
さらに、誤差の分布が大きい特徴点につては削除し、他の特徴点に基づいて再演算することで、各特徴点及びカメラ位置での演算の精度を上げるようにする。
このようにして、特徴点の位置とカメラベクトルを精度良く求めることができる。
図9〜図11に、CV演算により得られる特徴点の三次元座標とカメラベクトルの例を示す。図9〜図11は、本実施形態のCV演算によるベクトル検出方法を示す説明図であり、移動するカメラによって取得された複数のフレーム画像によって得られるカメラ及び対象物の相対的な位置関係を示す図である。
図9では、図7の画像1,2に示した特徴点1〜4の三次元座標と、画像1と画像2の間で移動するカメラベクトル(X,Y,Z)が示されている。
図10及び図11は、充分に多くの特徴点とフレーム画像により得られた特徴点の位置と移動するカメラの位置が示されている。同図中、グラフ中央に直線状に連続する○印がカメラ位置であり、その周囲に位置する○印が特徴点の位置と高さを示している。
ここで、CV演算部20におけるCV演算は、より高精度な特徴点とカメラ位置の三次元情報を高速に得るために、図12に示すように、カメラから特徴点の距離に応じて複数の特徴点を設定し、複数の演算を繰り返し行うようにする。
具体的には、CV演算部20では、画像内には映像的に特徴がある特徴点を自動検出し、各フレーム画像内に特徴点の対応点を求める際に、カメラベクトル演算に用いるn番目とn+m番目の二つのフレーム画像FnとFn+mに着目して単位演算とし、nとmを適切に設定した単位演算を繰り返すことができる。
mはフレーム間隔であり、カメラから画像内の特徴点までの距離によって特徴点を複数段に分類し、カメラから特徴点までの距離が遠いほどmが大きくなるように設定し、カメラから特徴点までの距離が近いほどmが小さくなるように設定する。このようにするのは、カメラから特徴点までの距離が遠ければ遠いほど、画像間における位置の変化が少ないからである。
そして、特徴点のm値による分類を、十分にオーバーラップさせながら、複数段階のmを設定し、画像の進行とともにnが連続的に進行するのにともなって、演算を連続的に進行させる。そして、nの進行とmの各段階で、同一特徴点について複数回重複演算を行う。
このようにして、フレーム画像FnとFn+mに着目した単位演算を行うことにより、m枚毎にサンプリングした各フレーム間(フレーム間は駒落ちしている)では、長時間かけて精密カメラベクトルを演算し、フレーム画像FnとFn+mの間のm枚のフレーム(最小単位フレーム)では、短時間処理で行える簡易演算とすることができる。
m枚毎の精密カメラベクトル演算に誤差がないとすれば、m枚のフレームのカメラベクトルの両端は、高精度演算をしたFnとFn+mのカメラベクトルと重なることになる。従って、FnとFn+mの中間のm枚の最小単位のフレームについては簡易演算で求め、簡易演算で求めたm枚の最小単位フレームのカメラベクトルの両端を、高精度演算で求めたFnとFn+mのカメラベクトルに一致するように、m枚の連続したカメラベクトルのスケール調整をすることができる。
このようにして、画像の進行とともにnが連続的に進行することにより、同一特徴点について複数回演算されて得られる各カメラベクトルの誤差が最小になるようにスケール調整して統合し、最終のカメラベクトルを決定することができる。これにより、誤差のない高精度のカメラベクトルを求めつつ、簡易演算を組み合わせることにより、演算処理を高速化することができるようになる。
ここで、簡易演算としては、精度に応じて種々の方法があるが、例えば、(1)高精度演算では100個以上の多くの特徴点を用いる場合に、簡易演算では最低限の10個程度の特徴点を用いる方法や、(2)同じ特徴点の数としても、特徴点とカメラ位置を同等に考えれば、そこには無数の三角形が成立し、その数だけの方程式が成立するため、その方程式の数を減らすことで、簡易演算とすることができる。
これによって、各特徴点及びカメラ位置の誤差が最小になるようにスケール調整する形で統合し、距離演算を行い、さらに、誤差の分布が大きい特徴点を削除し、必要に応じて他の特徴点について再演算することで、各特徴点及びカメラ位置での演算の精度を上げることができる。
また、このように高速な簡易演算を行うことにより、カメラベクトルのリアルタイム処理が可能となる。カメラベクトルのリアルタイム処理は、目的の精度をとれる最低のフレーム数と、自動抽出した最低の特徴点数で演算を行い、カメラベクトルの概略値をリアルタイムで求め、表示し、次に、画像が蓄積するにつれて、フレーム数を増加させ、特徴点の数を増加させ、より精度の高いカメラベクトル演算を行い、概略値を精度の高いカメラベクトル値に置き換えて表示することができる。
さらに、本実施形態では、より高精度のカメラベクトルを求めるために、三次元情報(三次元形状)の追跡を行うことができる。
具体的には、まず、三次元情報追跡部25で、カメラベクトル演算部23,誤差最小化部24を経て得られたカメラベクトルを概略のカメラベクトルと位置づけ、その後のプロセスで生成される画像の一部として得られる三次元情報(三次元形状)に基づいて、複数のフレーム画像に含まれる部分的三次元情報を隣接するフレーム間で連続的に追跡して三次元形状の自動追跡を行う。
そして、この三次元情報追跡部25で得られた三次元情報の追跡結果から、高精度カメラベクトル演算部26においてより高精度なカメラベクトルが求められる。
上述した特徴点抽出部21及び特徴点対応処理部22では、特徴点を複数のフレーム間画像内に自動追跡するが、特徴点が消失するなどして特徴点の追跡フレーム数に制限が出てくることがある。また、画像は二次元であり、追跡途中で形状が変化するために追跡精度にも一定の限界がある。
そこで、特徴点追跡で得られるカメラベクトルを概略値と位置づけ、その後のプロセスで得られる三次元情報(三次元形状)を各フレーム画像上に追跡して、その軌跡から高精度カメラベクトルを求めることができる。
三次元形状の追跡は、マッチング及び相関の精度を得やすく、三次元形状はフレーム画像によって、その三次元形状も大きさも変化しないので、多くのフレームに亘って追跡が可能であり、そのことでカメラベクトル演算の精度を向上させることができる。これはカメラベクトル演算部23により概略のカメラベクトルが既知であり、三次元形状が既に分かっているから可能となるものである。
カメラベクトルが概略値の場合、非常に多くのフレームに亘る三次元座標の誤差は、特徴点追跡による各フレームに関係するフレームが少ないので、誤差が累積して長距離では次第に大きな誤差になるが、画像の一部分を切り取ったときの三次元形状の誤差は相対的に少なく、形状の変化と大きさに及ぼす影響はかなり少ないものとなる。このため、三次元形状での比較や追跡は、二次元形状追跡の時よりも極めて有利となる。追跡において、二次元形状での追跡の場合、複数のフレームにおける形状の変化と大きさの変化を避けられないまま追跡することになるので、誤差が大きかったり、対応点が見つからないなどの問題があったが、三次元形状での追跡においては形状の変化が極めて少なく、しかも原理的に大きさの変化もないので、正確な追跡が可能となる。
ここで、追跡の対象となる三次元形状データとしては、例えば、特徴点の三次元分布形状や、特徴点の三次元分布形状から求められるポリゴン面等がある。
また、得られた三次元形状を、カメラ位置から二次元画像に変換して、二次元画像として追跡することも可能である。カメラベクトルの概略値が既知であることから、カメラ視点からの二次元画像に投影変換が可能であり、カメラ視点の移動による対象の形状変化にも追従することが可能となる。
以上のようにして求められたカメラベクトルは、全周ビデオカメラ11で撮影されたビデオ映像中に重ねて表示することができる。
例えば、図13に示すように、車載カメラからの映像を平面展開して、各フレーム画像内の目的平面上の対応点を自動で探索し、対応点を一致させるように結合して目的平面の結合画像を生成し、同一の座標系に統合して表示する。
さらに、その共通座標系の中にカメラ位置とカメラ方向を次々に検出し、その位置や方向、軌跡をプロットしていくことができる。CVデータは、その三次元位置と3軸回転を示しており、ビデオ映像に重ねて表示することで、ビデオ映像の各フレームでCV値を同時に観察できる。CVデータをビデオ映像に重ねた表示した画像例を図13に示す。
なお、ビデオ映像内にカメラ位置を正しく表示すると、CV値が示すビデオ映像内の位置は画像の中心となり、カメラ移動が直線に近い場合は、すべてのフレームのCV値が重なって表示されてしまうので、例えば図13に示すように、敢えてカメラ位置から真下に1メートルの位置を表示することが適切である。あるいは道路面までの距離を基準として、道路面の高さにCV値を表示するのがより適切である。
[CV映像によるCVタグ入出力検索装置]
次に、以上のようにして求められたCV値に基づいてCV映像中にCVタグを生成・貼り付け処理を行い、CVタグにリンクした諸データの設定・表示・更新等を行う本発明に係るCV映像によるCVタグ入出力検索装置の実施形態について、図面を参照しつつ具体的に説明する。
[第一実施形態]
まず、図14及び図15を参照して、本発明の第一実施形態に係るCV映像によるCVタグ入出力検索装置について説明する。
図14は、本発明の第一実施形態に係るCV映像によるCVタグ入出力検索装置の基本構成を示すブロック図であり、特にカーナビゲーション目的に好適なCVタグ入出力検索装置の構成を示している。
図14に示すように、本実施形態に係るCV映像によるCVタグ入出力検索装置100は、所定の管理地域を撮影したビデオ映像中の任意の対象物や三次元空間に、三次元情報を持つCVタグを貼り付け、CVタグにリンクした対象物等の諸データを管理するための装置であり、具体的には、CV映像記録部101と、CVタグ表示装置102と、CVタグ入力装置103と、CVタグデータベース104と、CVタグ自動検索装置105と、CVタグ対象物管理装置106とを備えている。
図14に示すように、管理地域1000には、管理しようとする現実の管理対象物1001がある。管理地域1000は、例えば道路や河川、市街地などの一定領域や、特定の建物の内部などがあり、その管理地域1000内には様々な物体が存在しており、管理対象物1001となり得る。従って、管理対象物1001は複数存在する。
具体的には、管理対象物1001は、道路管理目的であれば、路面、街路灯、ガードレール、電柱、道路表示、標識、行き先表示などであり、カーナビゲーション目的であれば信号機、道路表示、車線、標識、行き先表示板、障害物、他車両などとなる。
CV映像記録部101は、前もって、管理対象物1001及び周辺を撮影して、上述したCV演算により求められるCV値を付加したCV映像を記録・保持している記憶手段である。
CV映像は、画像を取得したカメラ位置と姿勢の三次元座標と角度を6変数で、画像の各フレームについて求めたもので、カメラ位置と姿勢が既知となったことで、複数のフレームから対象の三次元座標が求められる。
CVタグ表示装置102は、CV映像記録部101に記録されたCV映像を表示する。そして、そのCV映像を、動画として画像フレームが移動しても、映像とCVタグの三次元的位置関係を保持したままCVタグを表示し、及びCVタグを開封しその内容を表示する。
ここで、CVタグとは、任意の対象物や三次元空間に対応する三次元情報を持つもので、タグが有する三次元情報によって指定する対象物や三次元空間位置を特定するものである。
そして、本実施形態では、CVタグは、CV映像中に情報の出入り口として配置されるようになっている。
CVタグの置き方としては、対象物に重ねて、又は対象物から多少話した仮想位置に対象物を特定する位置に設置し、情報の出入り口とする。
CV映像にはアイコンの様に情報のやり取りをするタグを貼り付けることができる。また、CV映像では、画像の中の対象物、又は画素そのものが三次元座標を持っていることから、対象物そのものをタグとして利用することができる。
また、CVタグは、実写をそのままCVタグとして利用する形態と、小型のCGをタグとして貼り付ける形態の二種類があり、本実施形態では、いずれのCVタグを使用することもできる。
CVタグとして、実写画像をそのままCVタグとして用いる場合の特徴は、画像中の対象物すべてがCVタグとして利用できることである。画像の持つ座標系とCVタグの座標系を共通にすることで、三次元座標そのものがタグの位置であり、目に見えないタグとして配置することができる。ただし、CVタグの位置がピンポイントでは検索が困難となるので、二次元的に或いは三次元的に範囲を指定して、その範囲をタグ領域とすることが好ましい。
実写型CVタグは実写そのものを用いるので、タグは目では見えないことになり、映像を観察するときに障害とはならない点が、CG方式に比べて有利である。ただ、CV映像からタグの位置を指定したり検索するためには、画像内でその都度三次元計測を行う必要があり、この点はCG方式の方が有利となる。
一方、CGによるCVタグは、三次元計測した位置にタグとしてのCGを配置することになる。配置するには三次元計測する点では実写方式と同じであるが、読み出しや検索の場合はCGが既に三次元座標を持っていることから、その場での再度三次元計測をせずにCGを直接クリックすることで、その三次元座標を取得できるので、処理が簡単になる。この点が実写型と比較して有利な点である。
なお、CGを用いたCVタグは、実写型と異なりタグが映像中に見えることになり、映像観察上不利になることはあるが、却って見えた方が都合の良いこともある。また、CGを透明化することも可能であり、目では見えないが、クリックすればそこでCGの三次元座標を取得し、タグを特定できることになる。
従って実写方式でなくCG方式でも、タグそのものを映像中に隠して、置くことが可能となる。透明であれ可視であれ、CV映像中に配置されたCVタグであるCGは、既に三次元座標を持っているので、その場で三次元座標を計測する必要はないことになり、実写方式に比較して、呼び出しや検索に有利となる。
図15に、本実施形態に係るCVタグ入出力検索装置で生成・表示されるCV映像及びCVタグの一例を示す。
上述したように、動画像をCV演算することで三次元的に扱うことができるようになり、任意の対象物や三次元空間の三次元情報を得ることができ、これらに自由にCVタグを貼り付けることができる。
なお、このようにCV値が付加されたCV映像には、CVタグ以外にも、別途CGを合成することもできる。CV映像とCGとの合成技術は本願発明者による特開平2005−122315号に提案されている。
CVタグ入力装置103は、CVタグ表示装置102で表示されたCV映像の中の管理対象物1001の位置に対して、CV映像の中にCVタグを直接貼り付けるか、若しくはCV映像中の管理対象物1001の三次元的位置を確認できるように、矢印などで特定できるようにしたCVタグを、CV映像の中に三次元的に配置する手段である。
CVタグ入力装置103は、CV映像中の管理対象物1001に直接CVタグを入力する。具体的には、CVタグ入力装置103では、CV映像地図を用いて管理対象物を三次元計測し、CVタグの三次元座標を管理対象物の三次元座標と合致させて当該対象物にCVタグを設置(貼り付け)するか、あるいはCVタグが管理対象物を隠さないように、管理対象物の近傍に設置(貼り付け)する。これにより、CVタグの座標設定は完了する。
そして、CVタグ入力装置103は、管理対象物1001に貼り付けられたCVタグを開封し、リンクしたファイルに管理対象物に関連する画像やテキストデータ等の諸データを書き込む。これにより、CVタグのデータ入力は完了する。
具体的には、CVタグ入力装置103は、CVタグがクリック(開封)されると、諸データの書き込み用の画面を展開し、そのフォーマットに従って所定情報が書き込まれると、当該データをCVタグデータベース104に登録する。
ここで、CVタグデータベース104に登録される諸データとは、管理対象物に関する一切のデータであり、例えば、カーナビゲーション目的であれば、道路標識に付加されたCVタグ(標識のCG)に、表示されている制限速度などが諸データとして登録されることになる。
このようにして諸データがデータベースに書き込まれてCVタグデータベース104に登録されると、以後はそのCVタグを開封(クリック)すれば、登録された情報が画面上に表示されるようになる。このようにCVタグは、管理対象物の所定情報を開封・表示させるためのアイコンとして機能するものである。
CVタグデータベース104は、CVタグと管理対象物1001とを関連づける上述した諸データを格納するデータベースである。
上述したCVタグ入力装置103により、CVタグを開封してリンクしたファイルに管理対象物に関する画像やテキストデータ等の諸データを書き込む作業をすることで、直接CVタグデータベース104に書き込むことなく、CVタグ関連の諸データは自動的にCVタグデータベース104に記録され、CVタグ自動検索装置105による検索や選択により呼び出されることになる。
CVタグ自動検索装置105は、文字、座標、属性等で検索し、CV映像中に管理対処物を示すCVタグそのものを、若しくはCV映像中の管理対象物の画像そのものを、色の変化やフラッシュ効果等の何らかの視覚効果のある三次元座標を持つ印として、動画としてのCV映像上に三次元的に矛盾無く呈示する手段である。
具体的には、CVタグ自動検索装置105によるCVタグデータベース104の検索は、例えば、文字検索、座標検索、属性検索等により行われ、既に登録されている管理対象物を検索し、また、未登録の管理対象物を検索することも可能である。そして、検索により抽出されたCVタグ又は管理対象物は、CV映像上に点滅表示やフラッシュ表示され、三次元位置が呈示されることになる。
例えば、カーナビゲーション対応のデータベースであれば、「40km速度制限」と文字検索をすれば、CV映像上にその標識が明るく表示される。また、緯度経度を数字で打ち込んで検索すれば、その緯度経度の所に画像が移動して、その地点が矢印で示される。また、「時速40km制限」と検索すれば40km制限の道路の側帯部分がフラッシュ表示されて、その範囲が示されることになる。
ここで、文字検索は画像の中から文字を自動認識することにより行われ、また、座標検索は、地図として用いるCV画像が絶対座標を持っていることから、動画であっても座標を特定して検索することが可能となる。
また、登録されている諸データであれば当然であるが、登録されていない管理対象物に対しても、画像の中から検索する画像検索、対象物認識技術により、検索することが可能である。
例えば、交通標識で一方通行の標識の画像を用意しておき、この一方通行の標識の画像で検索すると、画像中の一方通行の標識をすべて検索して、その位置を示すことができる。
なお、未登録の管理対象物の検索は対象物認識の技術が必要となり、検索にはある程度の時間がかかることになる。従って、前もって入力・登録してある管理対象物に関する諸データから検索する方が検索速度としては高速化されることになる。
CVタグ対象物管理装置106は、CVタグ表示装置102、及びCVタグ自動検索装置105でCVタグを選択することで、若しくは表示されたCV映像中の管理対象物1001をCV映像の中にタッチスクリーンにタッチし、又はマウス等でCVタグをクリックして、CVタグを選択することで、CVタグデータベース104からCVタグに対応する管理対象物1001のデータを読み出して管理する手段である。
上述したCVタグ表示装置102に表示されるCV映像について、CVタグ自動検索装置105でCVタグを検索することで、管理対象物を自動的に特定することができる。また、表示されたCV映像中の管理対象物をCV映像の中にタッチスクリーンにタッチし、又はマウス等でCVタグをクリックして、CVタグを選択することで、CVタグデータベース装置からCVタグに対応する管理対象物のデータを読み出して管理することができる。
このように、CV映像上で管理対象物を特定するには、自動検索によるか、画像上の管理対象物を直接マウスでクリックすることで完了する。
また、本実施形態のCVタグ入出力検索装置100は、カーナビゲーション目的に好適な構成として、図14に示すように、積載移動手段1002と、リアルタイムCV映像取得装置107と、対象物認識装置108と、外部データベース装置109と、移動体位置決め手段110とを備えることができる。
積載移動手段1002は、CVタグ入力装置103と、CVタグデータベース104と、CVタグ対象物管理装置106とを車両等に積載し、管理地域及び管理対象物周辺を移動する移動手段である。
このような積載移動手段は、本発明にかかるCV映像によるCVタグ入出力検索装置100をカーナビゲーション仕様とする場合に必要となるものであり、これにより、本発明を利用した次世代カーナビゲーションシステムとして構成することができる。
リアルタイムCV映像取得装置107は、積載移動手段1002に積載されたビデオカメラによりリアルタイム映像を取得し、そのリアルタイム映像に上述したCV演算を施してリアルタイムCV映像を取得する手段であり、図1〜図13で示したCV演算部として機能するものである。
リアルタイム映像は単なるモニタとしてのみならず、直接CV演算するか、又はリアルタイム映像を予め用意したCV映像地図と位置合わせすることにより、CV値を取得してリアルタイムCV映像として様々に利用することができる。
対象物認識装置108は、上記のリアルタイム映像から管理対象物1001を自動認識する管理対象物自動認識手段であり、自動認識された対象物データはCVタグ入力装置103に入力される。
この対象物認識装置108における対象物の自動認識処理は、例えばPRM技術を利用することにより行うことができる。
PRMとは、Parts Reconstruction Method(3D対象物認識方法)の略であり、本願発明者により開発された対象物を認識するための技術である(国際出願PCT/JP01/05387号(国際公開WO 02/01505)参照)。具体的には、PRM技術は、前もって予想される対象物の形状と属性を部品(オペレータ部品)としてすべて用意しておき、それら部品と現実の実写映像を対比して、一致する部品を選択して対象物を認識する技術である。例えば、走行車輌等に必要となる対象物の「部品」は、道路標示としての車線、白線、黄線、横断道、道路標識としての速度標識、案内標識などであり、これらは定形のものであるので、PRM技術によりその認識は容易に行える。また、対象物をCV映像中に検索する場合においても、その対象物の存在する予想三次元空間を狭い範囲に限定することが可能となり、認識の効率化が可能となる。
具体的には、信号機であれば、その三次元形状を取得しただけでは「検出」であり、座標と姿勢まで分かれば「特定」であるが、信号機という名称が分かり、3個のライトが赤青黄に変化し、それぞれの交通上の意味を理解しているときに、属性を理解(認識)したということができる。
なお、PRM認識によって、あらゆる監視対象物(予測される対象物、障害物、不審物等)が認識されるとは限らない。すなわち、記憶となるデータベースに情報が存在しない対象物は認識できない。しかし、これは特に問題となるものではない。人間であっても記憶にないものは認識できないのと同様である。認識とはそのもの、あるいは、そのものに近いものの記憶との対比によって得られるものであるからである。
なお、対象物認識装置108によって認識できない場合には、本装置100のオペレータ(人間)が認識して外部データベース装置109に登録・記憶させることは勿論可能であり、このようにすれば、それ以降は、当該対象物は対象物認識装置108によって自動認識されることになる。
外部データベース装置109は、本装置100の外部から必要なデータを供給するための外部記憶手段であり、CV映像記録部101及びCVタグデータベース104と通信を行い、必要なデータを供給する。
一般に、カーナビゲーションシステムにおいては、地図の入ったDVDディスク等の記憶手段を備えるが、本装置100においても、内部データベース(CV映像記録部101及びCVタグデータベース104)がそのような記憶手段に相当する。
しかし、CV映像の場合には情報量が多いために、既存のカーナビゲーションのように全国すべてのCV映像及びCVタグ情報をDVDディスクやハードディスクに記憶させることは困難である。
そこで、本実施形態では、本装置100の内部には小規模の記憶装置を備えるのみとし、大元の情報はすべて外部のデータベースに置き、利用する分だけをその都度内部データベースに送って利用するようにしてある。例えば、行き先の途中程度までに必要なCV映像及びCVタグ情報を、外部のデータベースからDVD等の媒体にコピーし、あるいは、通信を介して外部データベースからその都度呼び出して使用するようにし、その先は移動した先からまた新たな情報を外部データベースから供給を受けるようにする。
そのために、本装置100の外部と内部にデータベースを備える二重構造としてある。なお、このようにすることで、行き先の途中で新たな情報を取り込んだ場合に、それ以前の情報を外部データベース側に戻すことで、多くの利用者によりデータを共有化することも可能となる。
具体的には、外部データベース装置109は、外部CV映像地図データベース部109aと、外部CVタグデータベース部109bとを備えている。
外部CV映像地図データベース部109aは、本装置の外側にあって、DVD、ハードディスク等の記録媒体により、若しくはWeb等の通信により、本装置内側の管理地域及びその周辺のCV映像地図をCV映像記録部103に一時記憶して保持させる。
同様に、外部CVタグデータベース部109bは、本装置の外側にあって、DVD、ハードディスク等の記録媒体により、若しくは通信により、本装置内側の管理地域及びその周辺のCVタグとその属性情報を前記CVタグデータベースに一時記憶して保持させる。
なお、本装置100側のCVタグ自動検索装置104等で取得したデータを外部データベース側に送ることも可能である。
移動体位置決め手段110は、積載移動体1002の絶対座標を取得するGPS位置決め装置110aと、取得したリアルタイムCV映像とCV映像地図から、所定の新旧更新映像を生成する新旧映像更新装置110bとを備える。
新旧映像更新装置110bは、本願発明者による特開平2005−303952号に提案されている技術であり、新旧両映像のCV値を利用して対応する新旧映像の対応関係をとり、両映像を座標統合し、両者の三次元対応関係を取得し、映像を更新することができるものである。
このような移動体位置決め手段110により、GPS110aにより現在位置を取得して、新旧映像更新装置110bにより、車両の現在地点を絶対座標で取得して、その地点の映像を表示することができる。
そして、このような移動体位置決め手段110を備えることにより、現在地点が取得され、同時に時刻が取得され、前もって走行目的を入力しておき、その走行目的等より、車両の現在時刻と現在位置と現在状況に関係している管理対象物のCVタグを選択的に自動表示するCVタグ自動表示装置103aを実現することができる。
ここで、走行目的とは、ドライブ、道路路面管理、標識管理、路面性状調査、などであり、その目的によって表示されるCVタグは異なるので、目的にあったCVタグを自動表示するようにする。
なお、上述した、リアルタイムCV映像取得装置107と、対象物認識装置108と、外部データベース装置109と、移動体位置決め手段110及びCVタグ自走表示装置103aは、すべての装置とすべての手段を同時に備えるようにしてもよいが、一部の装置と一部の手段を選択的に備えることもできる。
そして、以上のような構成からなる本実施形態に係るCV映像によるCVタグ入出力検索装置100では、以下のような各種の表示機能(表示手段)が実現される。
[動画ロックオン表示]
動画ロックオン表示は、選択及び検索した管理対象物を、管理対象物を画像の決められた位置に固定して表示する機能である。
ロックオン表示は、ロックオンすべき任意の対象物を画像内に指定すると、CV演算で得られたカメラベクトルに基づいて、画像内に指定した対象物を実写座標系で計測してその三次元座標を求め、三次元座標が求められた指定対象物が、常に画枠の中心位置(又は任意の所定位置)に表示されるように、画像表示又はカメラ(カメラが固定される固定物)の位置及び姿勢を制御することができる。
これにより、例えば、画像内にあらかじめ画像と一致している三次元座標系を設定しておき、画像内の目的対象物をマウス等で画像内に指定し、CV演算により、目的対象物の概略の三次元座標を求め、求められた目的対象物の三次元座標が画像内の指定位置に常に来るように画像表示位置を制御することができる。
あるいは、目的対象物を画像内の指定位置に常に表示するようにカメラを制御することができる。
このロックオン機能により、CVタグ、若しくは管理対象物をCV映像地図上で直接指示すれば、選択した管理対象物をロックオンで画像中央に常に表示することができるので、視認および操作が容易となる。
[複数CV映像表示]
複数CV映像表示は、CV映像地図は縮尺の異なる複数のCV映像地図を表示し、しかも座標系を統一して、同じCVタグを前記複数のCV映像地図に上に表示する機能である。
なお、上述したように、CVタグはCGアイコンにより構成される場合と、実写アイコンにより構成される場合がある。また、アイコン機能を持たない単なるCGを表示することができることは勿論である。
[地図同期表示]
地図同期表示は、CV映像地図と二次元地図を同時に表示し、二次元地図上にもCVタグを表示する機能である。
CVタグはもともと三次元座標を持つので、二次元化することは容易に行える。
[リアルタイムCV映像表示]
リアルタイムCV映像表示は、選択及び検索した管理対象物を、CV映像地図と同じように、リアルタイムCV映像にCVタグを表示する機能である。これは現時点の現実映像であり最もリアリティーがある表示となる。なお、リアルタイム演算となるために、処理には一定の制限があり得る。
[現実重複表示]
現実重複表示は、選択及び検索した管理対象物を、CV映像上に表示せずに、ヘッドマウント、又はハーフミラー等により、移動する車両等から直接観察する現実世界の管理対象物に重複して合成した、CVタグや案内矢印CG、看板CG等を示す機能である。
すなわち、CV映像を用いず、現実世界の実像そのものにハーフミラーで光学的に合成して、CVタグや案内矢印CGや看板CGを合成することができる。
ここで、カメラが取得した映像は見るための映像ではなく、CV値を取得するための映像となる。車両が揺れていても、CV演算によりCV値を求め、CVタグや案内矢印CGや看板CGをハーフミラーで合成した正しい位置表示できることになる。
観察者から見れば、車両が揺れていても、管理対象物に対して、ずれることなく正しい位置に安定してCVタグや案内矢印CGや看板CGが観察されることになる。
タグをクリックするには、マウスよりはライトペン、又は三次元プローブのような三次元空間上の一点を指示出る装置が好ましい。
[音声案内表示]
音声案内表示は、選択及び検索した管理対象物に関するCVタグの内容を、音声で案内表示する機能である。これは、特にカーナビゲーションシステムには必要な機能となる。
なお、以上のような各機能は、すべてを行わせることもできるが、少なくともいずれか一部の機能を有するものであってもよい。
以上説明したように、本実施形態に係るCV映像によるCVタグ入出力検索装置100によれば、ビデオ映像中の任意の対象物に対して、三次元の位置と姿勢の情報を持つCVタグを貼り付け、そのCVタグを選択することで、タグが貼り付けられた対象物に関する属性情報や関連情報、付属情報などの諸データを表示させることができる。
これによって、ICタグのように、タグを取り付けた対象物のある現場に行かなくても、CV映像上でCVタグをクリックすることで情報を確認することができ、またCVタグ上で情報の更新や削除も可能となる。
このようにCVタグで情報の確認や更新、削除の操作ができることで、わざわざICタグを現実の対象物に取り付けなくても、所望の対象物のすべてをCV映像中で管理することができるようになる。
[第二実施形態]
次に、図16〜図25を参照して、本発明の第二実施形態に係るCV映像によるCVタグ入出力検索装置について説明する。
図16は、本発明の第二実施形態に係るCV映像によるCVタグ入出力検索装置の基本構成を示すブロック図である。
同図に示すように、本実施形態に係るCV映像によるCVタグ入出力検索装置200は、上述した第一実施形態のCVタグ入出力検索装置100(図16参照)の変更実施形態であり、CVタグとともにICタグを使用できるようにしたものである。
ここで、ICタグとは、物体の識別に利用される微小な無線ICチップであり、自身の識別コードなどの情報が記録されており、電波を使って管理システムと情報を送受信する能力を持つ。産業界においてバーコードに代わる商品識別・管理技術として研究が進められてきたが、それに留まらず社会のIT化・自動化を推進する上での基盤技術として注目が高まっている。
無線ICタグは、対環境性に優れた数cm程度の大きさで、電波や電磁波で読み取り器と交信するものであり、近年ではアンテナ側からの非接触電力伝送技術により、電池を持たない半永久的に利用可能なタグも登場している。
形状は、ラベル型、カード型、コイン型、スティック型など様々であり、用途に応じて選択することができる。通信距離は数mm程度のものから数mのものがあり、これも用途に応じて使い分けられ、本実施形態においても、対象物の種類や大きさ、形状、周囲の環境等に応じて、最適なICタグを選択することができる。
具体的には、本実施形態のCVタグ入出力検索装置200は、図16に示すように、CVタグ入力装置201と、CVタグデータベース202aと、CVタグ対象物管理装置203を備えるとともに、ICタグ入出力手段204とを備えており、ICタグ入出力手段204として、ICタグ入力装置205と、ICタグデータベース202b及びICタグ対象物管理装置206を備えている。
まず、本装置200においても、所定の管理地域等に管理しようとする現実の管理対象物1001がある。
ICタグ入力装置205は、管理対象物1001に関する情報を電子データでICタグに書き込み、管理対象物に直接ICタグを貼り付けるため入力装置である。
ICタグデータベース202bは、ICタグと管理対象物1001とを関連付ける諸データを格納するデータベースである。
ICタグ対象物管理装置206は、管理対象物1001に接近してICタグを電子的に読み取る読み取り手段である。
CVタグ入力装置201と、CVタグデータベース202aと、CVタグ対象物管理装置203は、上述した第一実施形態のCVタグ入力装置103、CVタグデータベース104、CVタグ対象物管理装置106と同様の構成となっている。
CVタグ入力装置201は、管理対象物及び周辺を撮影して、CV値を付加したCV映像の中の管理対象物に対して、CV映像の中にCVタグを直接重ねて貼り付けるか、若しくは管理対象物の三次元的位置をCV映像の中で特定できるように、CV映像の中にCVタグを三次元的に配置する。
ここで、本実施形態では、共通の対象物に対して、ICタグとCVタグの双方を取り付けることができるが、タグの取り付け順としては、先にICタグを貼り付けて、その後にCV映像の中のICタグに対応する位置にCVタグを貼り付ける場合と、先にCV映像を取得し、その中の映像としての管理対象物にCVタグを貼り付け、その後に現実世界の対応地点にICタグを貼り付ける場合がある。
CVタグデータベース202aは、CVタグと管理対象物とを関連づける諸データを格納する。
そして、本実施形態では、CVタグデータベース202aとICタグデータベース202bとを統合する上位のデータベースとしてタグデータベース装置202が備えられている。
このタグデータベース装置202は、同一管理対象物についてはICタグとCVタグとのデータを共通化してデータ管理している。
このように、ICタグとCVタグとの同一管理対象物についてはデータベースを共通化したことで、CVタグを読み取ることで、ICタグの内容を読み取ることができる。具体的には、CV映像中の管理対象物をCV映像の中にマウスでクリックするなどして目的のタグを選択することで、ICタグと同じ内容のCVタグを読み取ることになる。これにより、ICタグのデータの控えを映像上で確認することができることになる。
CVタグ対象物管理装置203は、CV映像中の管理対象物をCV映像の中にマウスでクリックするなどして選択することでタグデータベース装置202からCVタグのデータを読み取る。
図17に、CVタグ対象管理装置203により行われる各種管理機能の具体例を示す。この機能は、上述した第一実施形態におけるものとほぼ同様である。
次に、図18を参照して、本実施形態に係るCVタグ入力装置の詳細について説明する。
図18は、本実施形態に係るCVタグ入力装置の詳細構成を示すブロック図である。
同図に示すように、CVタグ入力装置201は、CV映像表示部201aと、CVタグ位置指定部201bと、座標演算取得部201cと、CVタグ固定部201dと、入力完了設定部201eとを備えている。
さらに、CVタグ入力装置201には、対象物自動認識部201fと、座標自動演算部201gを備えることができる。
CV映像表示部201aは、管理対象物1001及びその周辺映像を取得し、上述したCV演算を行い(図1〜図13参照)、CV映像を生成し、そのCV映像を表示する。
ここでCV映像は動画映像であり、その各フレームのカメラ位置と姿勢(CV値)を何らかの方法で取得した映像を意味する。従って、CV値は必ずしも映像からCV演算することで取得する必要はなく、他の手法、例えばGPSとIMUによっても取得できる。
CVタグ位置指定部201bは、表示されたCV映像の中の管理対象物に、若しくはその近傍に、管理対象物を特定して示すCVタグを映像面上に指定する。指定はマウス等の入力手段を使用して行うことができる。管理対象物が複数有れば、複数の指定が可能である。
座標演算取得部201cは、CVタグ位置指定部201bで指定した映像面上の位置の三次元座標を演算して求める。
CVタグ固定部201dは、取得された前記三次元座標をCVタグの座標として固定し、管理対象物を三次元的に指定してCVタグと関連付ける。
入力完了設定部201eは、取得されたCVタグの入力を完了して登録する。
ここで登録されたCVデータは、上述したタグデータベース装置202のCVタグデータベース202aに記録される。
対象物自動認識部201fは、CV映像から、分類指定した対象物、又は対象物群を自動認識する。対象物の自動認識は、例えば交通標識や路面標示などを上述したPRM技術を用いて、走行する車両から取得して生成したCV映像から自動認識することができる。PRMを用いることで、対象物の属性も取得することができる。
座標自動演算部201gは、自動認識した対象物の三次元座標の位置を自動的に演算して求め、自動的にCVタグを貼り付ける。
このような自動認識手段を備えることにより、本発明に係るCVタグの複合人工知能装置への利用が可能となる。
複合人工知能装置は、本願発明者による特開平2005−322002号に提案されている技術であり、現実世界の中の複数の対象物にカメラを取り付け、CV映像を取得し、互いに位置関係を確認し、互いに情報をやり取りし、判断することで、CV映像(CV値)に基づいて個々の対象物自らが存する三次元空間を認識し、任意の対象部を認識することができるとともに、複数の対象物相互間で認識情報を共有することできるもので、このような複合人工知能装置に、本発明のCVタグ技術を適用することができる。
具体的には、複合型人工知能装置において、人工知能を持つ複数の物体が、相互自動認識、相互自動位置取得、相互自動理解を機能させるときに、認識時にCVタグを利用して、相互自動属性取得により相互に情報をやり取りすること、及び、理解した結果をCVタグの内容として記録することができる。
ユビキタス社会はやがてCVタグの時代となり、その究極において、人工知能の社会となること想定され、各対象物が一つの人工知能を持つ時代となる。
CV映像を用いる複合型人工知能にCVタグを適用することで、対象物間は自動的に相互認識し、相互通信し、相互理解をすることになり、そのときの相互認識、相互理解には本発明のCVタグがきわめて有効な手段となる。属性認識にはCVタグのデータベースを利用し、又自動認識結果をCVタグのデータに反映させることができる。
次に、以上のような本実施形態のCVタグ入力装置201で行われる各種機能の詳細について、図19を参照して説明する。
図19は、本実施形態のCVタグ入力装置201で行われる各種機能の詳細を示すブロック図である。
同図に示すように、CVタグ入力装置201は、図18に示した構成に対して、さらに、CVタグ範囲指定部301と、CVタグ内容記録部302と、CVタグ形状選択部303と、CVタグ位置姿勢微調整部304と、リンク情報設定部305と、CVタグ内容確認部306と、設定解除部307の各部を備えることができる。
まず、CVタグ入力装置201のCVタグ位置指定部201bは、CVタグ範囲指定部301と、CVタグ内容記録部302と、CVタグ形状選択部303を備える。
CVタグ範囲指定部301は、CVタグの配置の範囲を二次元的に、若しくは三次元的に制限して指定する。具体的には、CVタグ範囲指定部301は、CVタグの配置の範囲を例えば二次元的な複数の面を用意して、その面内に配置するように制限して設定し、若しくは配置範囲を三次元的な範囲に制限して指定する。
CVタグ内容記録部302は、CVタグに書き込む属性又は通信内容を記録する。記録される属性や通信内容としては、例えば管理上の記録データ、写真、図面等がある。
CVタグ形状選択部303は、CVタグの形状等を前もって用意した様々な候補から選択する。
次に、CVタグ入力装置201の座標演算取得部201cは、CVタグの座標を演算した後、位置や姿勢等の微調整を可能とするCVタグ位置姿勢微調整部を備える。
さらに、CVタグ入力装置201の入力完了設定部201eは、リンク情報設定部305と、CVタグ内容確認部306と、設定解除部307を備える。
リンク情報設定部305は、CVタグは、他のCV映像や地図においてもリンクして表示できるように、その位置と姿勢と種類を登録する。例えば三次元地図、空撮映像、過去の地上撮映像、構造物内の映像、完成予想CG等、他のCV映像や地図においてもリンクして表示できるように、その位置と姿勢と種類を登録する。
CVタグ内容確認部306は、登録すべきCVタグの内容を確認する。
設定解除部307は、必要に応じて、CVタグの内容又はCVタグの設定を解除する。
次に、以上のような本実施形態のCVタグ入出力検索装置200において、CタグとCVタグとデータを共有して機能させるために、ICタグとCVタグとを対応させて入力させるための構成について、図20を参照して説明する。
図20は、本実施形態のCVタグ入出力検索装置200において、ICタグとCVタグとを対応させて入力させるための構成を示すブロック図である。
本実施形態では、ICタグとCVタグとデータを共有して機能させるために、ICタグとCVタグとを対応させて入力させることができる。
そこで、図20に示すように、ICタグ入力装置205に、ICタグ設置部205aと、同一点指定部205bと、ICタグ内容コピー部205cとを備えるとともに、ICタグデータベースとCVタグデータベースとで共通のデータベースを構築するタグデータベース装置202を備えるようにしてある。
なお、ICタグとCVタグとを対応させて入力する場合、ICタグを先に設置してから、後にCV映像の中の対応点にCVタグを貼り付ける場合と、CVタグを先にCV映像上で貼り付けてから、それを参照しながら、現実対象物にICタグを貼り付ける場合と、二者を同時に貼り付ける場合がある。
ICタグ設置部205aは、CV映像表示部201aのCV映像内でタグを設置する管理対象物と同じ対象物をICタグによる現実世界の管理対象物として、その現実世界の管理対象物にICタグを貼り付け、若しくは埋め込みするためのICタグを設ける。
同一点指定部205bは、現実世界の対象物を、対応するCV映像内の管理対象物に同一指定をし、CVタグ位置指定部に結合して対応させる。
ICタグ内容コピー部205cは、入力完了設定部において、対応するICタグとCVタグの内容を共通化する。
タグデータベース装置202は、ICタグデータベース202aとCVタグデータベース202bとで共通のデータベースを構築する。
また、上述したように、ICタグ対象物管理装置206には、ICタグに物理的に接近し、ICタグとCVタグとの対応を自動的に確認するICタグ自動確認手段206aが備えられる。ICタグ自動確認手段206aは、例えば、プローブ等で既に設置されたICタグに物理的に接近し、現場でICタグから信号を読み取り、ICタグとCVタグとの対応関係を自動的に確認し、エラーや誤作動を確認し、若しくは内容を更新し、履歴を取り、結果を表示する。
以上のような構成により、ICタグとCVタグとデータを共有して機能させることができる。
ここで、以上のようにICタグとCVタグデータベースを対応させ、共通化することで、ICタグの設置位置、内容をCVタグで検索できるようになるが、ICタグには記録データ量に制限があるので、ICタグには究極的にはIDナンバーだけでも良いことになり、その属性と通信内容はCVタグから呼び出せばよいということにもなる。
そこで、ICタグ入力装置205、ICタグデータベース202a及びICタグ対象物管理装置206を省略し、ICタグを用いずCVタグのみで管理対象物を管理することも可能である。
すなわち、本実施形態の構成により対象物をICタグとCVタグの二者で対応するデータを管理することができるが、対応データは必ずしも同一データとは限らず、ICタグに入力できるデータには制限があるので、CVタグには詳細データを記録するのが適している場合もある。
また、同一データがCVタグからでも取得できることになれば、多くは現地に行かずに、対処物に直接接近せずに、CV映像上で管理することができるので、その結果CVタグの利用率が上がり、ICタグの利用率が低下することになることが予想される。
また、物理的にICタグを設置できない場所や高温高圧、高レベル放射線など物理的に極限条件にある場所や危険地域もある。
そこで、ICタグそのものと、ICタグ入出力手段のすべてを省略しても、それなりの管理が可能であることになる。
従って、本実施形態においても、第一実施形態の場合と同様に、ICタグ入力装置202、ICタグデータベース202a、ICタグ対象物管理装置206をすべて省略し、ICタグを一切用いず、CVタグのみで管理対象物を管理することでも、対象物を個別に管理することができる。
現地に行かずにCV映像中のみで管理対象物を管理することができることになり、ICタグによる不便さを解消することになる。
換言すれば、本発明によれば、ICタグの代わりをCVタグが行うということになる。
すなわち、CVタグのみによる対象物管理が本発明のCV映像によるCVタグ入出力検索装置の本質となる。
次に、本実施形態のCVタグ入出力検索装置において、インターネット等の通信手段を介してCVタグで管理される情報についてのコミュニケーションを図るための構成について、図21を参照して説明する。
図21は、本実施形態のCVタグ入出力検索装置200において、インターネット環境下で、他の装置との間でCVタグ情報についてのコミュニケーションを図るための構成を示すブロック図である。
同図に示すように、本実施形態によれば、データ通信、及びコミュニケーションにはインターネットを積極的に活用し、インターネットを介して不特定多数が自由に参加し、不特定多数がCV映像にCVタグを貼り付け、CVタグ内に情報を記載し、そのことで相互のコミュニケーションを図り、さらに、本装置の管理者は集計データを生成するなど、二次データ加工処理をも追加して行うことが可能となる。
図21に示すCV映像によるCVタグ入出力検索装置200では、データ通信、及びコミュニケーションにインターネット環境(Web)2103を積極的に活用する。
Web2103を介して不特定多数の一般ユーザ2102が自由に参加し、CV映像にCVタグを貼り付け、CVタグに情報を書き込み、又は読み取りを行わせ、それによって、本装置200の管理者2101と一般ユーザ2102、及び複数の一般ユーザ2102間で、相互のコミュニケーションを図ることができる。
また、本装置の管理者2101は、集計手段2101aを備え、相互コミュニケーションによる集計データを生成し、そのデータを管理や販売に役立てることなどが可能となる。
図22及び図23に、本実施形態のCVタグ入出力検索装置によってインターネット環境下で生成・表示されるCV映像及びCVタグの表示例を示す。
同図に示すように、インターネット環境下で公開されたCV映像は二次元地図とともに一般ユーザ側で表示・閲覧でき、ユーザが任意の住所や地点(図22参照)、店舗、レストラン、食堂(図23参照)等に、所望の形状等のCVタグを貼り付け、CVタグに所定の属性情報等を書き込み、また、書き込まれた属性情報等の読み取り・表示等を行わせることができる。
なお、これらを実現するには、インターネット環境下に設置されるサーバ2103a側に多くの機能を負担させ、CV映像をサーバ2103a側に置き、ユーザ側の端末(ビュア)2102aでは単に二次元映像の表示だけが行われるようにし、上述したCV演算や三次元計測等の高度な作業はすべてサーバ2103a側で行わせることが好ましい。このようにすれば、端末2102a側は可能な限り低機能な設備でよくなり、広く不特定多数の一般ユーザに本発明に係るCVタグ技術を利用させることができる。勿論、ユーザ端末2102a側に多くの処理機能を持たせることで、サーバ2103a側の負担を軽減することも可能である。
このように、本実施形態によれば、インターネットを介して、CV映像の中のすべての対象物をWeb上で共有し、多くの人が参加することができるコミュニケーションツールが実現する。
これにより、管理者のみならず、不特定多数の人が、CVタグを貼り付け、又はCVタグを共有し、情報を共有し、自由に参加する環境を提供することができ、これまでのインターネット環境が大きく変わることになる。
なお、ここでは当然公開するCVツールと非公開とを分離することも可能であり、管理者がその選択権を持つことになる。
次に、本実施形態のCVタグ入出力検索装置において、地図とCV映像の同期標示を行うための構成について、図24を参照して説明する。
図24は、本実施形態のCVタグ入出力検索装置200において、地図とCV映像の同期標示を行うための構成を示すブロック図である。
同図に示すように、本実施形態では、CVタグ対象物管理装置203に、CV映像部203aと、地図部203bと、座標統合部203cと、同期属性表示部203dとを備えるようにしてある。
CV映像部203aは、CV映像として管理地域周辺を案内する手段であり、地図部203bは、地図として管理地域を案内する手段である。
座標統合部203cは、管理地域周辺を案内する地図と管理対象周辺部を案内するCV映像とを座標統合する。
同期属性表示部203dは、CVタグを、地図とCV映像とに同期表示を可能とし、どちらのCVタグをクリックしても属性標示を可能とする。
このような構成により、CVタグを管理する上で、CV映像上に表示するだけではなく、CV映像と座標統合した地図上にもタグを貼り付けることができる。そして、地図とCV映像がリンクすることで、CVタグをCV映像と地図上に同期して表示することができる。
映像と地図とのリンクについては、「道路・河川等の現況ビデオ検索装置」(特許第3099103号)の技術を利用することができる。
なお、上記の「道路・河川等の現況ビデオ検索装置」では、地図と映像のカメラ位置が点で面的(自由度2)に対応しているのみであるが、本発明においては、地図と映像の関係を、三次元的位置と姿勢、つまり6自由度で対応をとってあり、重ね合わせも可能である。つまり、三次元地図と映像が完全に対応がとれている表示が可能となる。
なお、地図が二次元の場合は、地図上に貼り付けるタグも二次元とし、地図が三次元の場合はタグも三次元とすることが好ましい。
ここで、地図上に広範囲な管理地域を案内する地図部203bは、管理対象物周辺を示すCV映像よりは高縮尺な地図、又は高縮尺なCV映像を備える。
CV映像部203aのCV映像は、管理地域を示す地図よりも低縮尺である。
ただし、ここで縮尺が本質ではない。目的に応じて同一縮尺程度でも座標統合は可能である。もちろん低縮尺映像としてはCV映像だけではなく、両者の立場を入れ替えて管理対象周辺部を案内手段として地図とし、高縮尺の管理地域を案内する手段としてCV映像とすることも可能である。
さらに、地図は二次元のみならず三次元でもよく、CV映像との本質的な区別はない。また、CGとの区別もない。座標の持つものはどのような手段でも座標統合は可能である。
すなわち、地図は二次元でも三次元でも可能であり、地図が三次元地図であればCGと同じ意味となる。その場合には、ここでの座標統合はCGとCV映像との座標統合という意味になる。またそれは、CV映像とCV映像との座標統合という意味になる。その場合、同一縮尺CV映像でもよいし、地上撮と映像とを座標統合してもよい。
なお、本実施形態において、図24に示すCV映像部203aと、上述しCVタグ入力装置201のCV映像表示部201a(図18〜図20参照)は別々に設けられているが、同一のコンピュータにインストールされる場合は、同じ内容の映像を二つ持つ必要はないので、これらは単一の構成とすることができる。
次に、本実施形態のCVタグ入出力検索装置を移動する管理対象物とともに同じ移動体に積載して移動させながら管理する装置の構成について、図25を参照して説明する。
図25は、本実施形態のCVタグ入出力検索装置200を移動手段に搭載して管理対象物とともに移動させる構成を示すブロック図である。
同図に示すように、本実施形態では、管理対象物1001として、例えばICタグを貼り付けて管理される荷物を想定しており、管理対象物1001は移動手段400によって運搬されて移動するようになっている。
そして、その荷物にカメラ(移動体カメラ401)を取り付けるとともに、CVタグ入出力検索装置200も移動手段400に搭載して荷物とともに移動させ、運搬中の荷物とその周囲の対象物をリアルタイムに管理できるようにしたものである。
なお、移動する管理対象物1001は、特に荷物に限られるものではなく、どのような対象物であっても、その対象物にカメラを取り付けて、対象物自身とその周辺を管理できるものであればよい。その意味で、本実施形態は、上述した複合人工知能装置と同様のものとなる。
具体的には、図25に示すように、本実施形態では、移動する管理対象物1001とCVタグ入力装置200を積載して移動する移動手段400を備える。
そして、CVタグ入力装置200は、移動手段400にカメラを設置し、管理対象物1001を含むリアルタイムCV映像を取得して表示し、若しくは移動する管理対象物そのものにカメラを設置し、リアルタイムCV映像を取得して表示する移動CV映像表示部を備える。
これにより、管理対象物1001とともに移動しながら、CVタグを貼り付けた管理対象物とその周辺をCV映像として取得し、CVタグをリアルタイムで表示し、管理することが可能となる。
移動体カメラから管理対象物の移動を三次元座標で求めるには、既存のCV映像と移動体CV映像は座標統合されるので、静止座標系に関連づけた座標系を移動体の座標系として関連づけて表示し、これによってCVタグを管理できる。
ここで、このように移動する管理対象物を管理するために、本実施形態では管理対象物1001に移動体カメラ401を取り付けて対象物とともに移動させるようにしたが、それ以外にも、静止座標系に固定された複数のカメラが、移動する管理対象物を追跡してCV映像内にCVタグを表示することでも、移動する管理対象物の管理は可能である。
このような複数のカメラによる座標統合と位置決定については、本願発明者による特開平2005−322002号に提案されている複合人工知能装置の技術を用いることで可能となる。
また、本実施形態においても、管理対象物1001にはICタグを貼り付けてもよく、また、ICタグを省略しCVタグのみとしてもよい。
なお、以上説明した図25に示した本実施形態では、移動するのは原則として管理対象物1001であり、CVタグ入力装置200は管理対象物1001にともなって移動するものであったが、管理対象物自体は移動せず、固定されたものでありCVタグ入力装置200のみを移動させるのが通常の利用方法である。すなわち、CVタグ入力装置200を移動させながら、周辺の管理対象物の情報を取得して管理することもできる。これは、上述した第一実施形態で示したカーナビゲーション対応のCVタグ入力装置100に近いものとなる。
また、図25における管理対象物が移動する場合とは、カーナビゲーションにおいては、隣接して走行する車両を管理できることにもなる。
例えば、CVタグ入出力検索装置200を車両や航空機に積載し、リアルタイムで管理対象物を案内する装置とすることができる。
具体的には、上述したCVタグ入出力検索装置200のうち、CVタグ対象物管理装置203を、若しくはCVタグ入力装置200を、車両等の移動手段に積載して移動させる。
また、車両等の移動手段の座標をリアルタイムで取得するGPSやICタグなどの座標取得部を備える。
さらに、管理対象物を含むCV映像を取得して表示し、CV映像を取得して表示する移動CV映像表示部を備える。
このような構成により、移動しながらCVタグを貼り付けた管理対象物とその周辺をCV映像として取得し、CVタグをリアルタイムで表示し、管理及び案内することができる。GPSは精度の点から、CV映像の高精度の座標に到達するまでの概略位置決定のための手段として機能させることが好ましい。
リアルタイムで対象物を管理するためには、GPSで車両等の移動手段の現在位置を計測し、その座標をCVタグ対象物管理装置203に入力する。これにより、その座標近くの管理物及びCVタグを自動的に表示することができる。
ここで、GPSから計測した座標はリアルタイム映像取得時のカメラ位置、又は記録されているCV映像のカメラ座標に対応させるが、ICタグから取得した三次元座標は対象物の座標であり、その位置関係の変換は自由である。基本的にGPSとICタグはリアルタイムで座標を提供するという意味で、機能上は同等である。すなわち、ICタグの座標をGPSに置き換えることができ、これによって、次世代カーナビゲーションではICタグからの情報を画面に表示することができるようになる。
なお、このようにCVタグ入出力検索装置200を移動させて対象物の管理を行う場合に使用する映像は、リアルタイムで取得したリアルタイムCV映像でも、CVタグ対象物管理装置203が前もって取得しているCV映像でも、どちらでも良い。すなわち、リアルタイムで取得する座標はGPSであれ、ICタグであれ、本願発明者による特開平2005−303952号に提案されているリアルタイム位置決め技術であれ、どの方法によるものでもCVタグ入出力検索装置200で使用することができる。
[道路管理のためのCV映像によるCVタグ入出力検索装置]
次に、以上のような本実施形態のCV映像によるCVタグ入出力検索装置を利用したより具体的な実施例として、道路管理のためのCV映像によるCVタグ入出力検索装置について、図26を参照して説明する。
図26は、本実施形態のCV映像によるCVタグ入出力検索装置を利用した道路管理のためのCV映像によるCVタグ入出力検索装置の構成を示すブロック図である。
道路管理者はしばしば道路ビデオGISで道路管理をしている。映像は道路管理にとても有効である。(特許第3099103号参照)
図26に示すように、道路における管理対象物1001にICタグ1001aを貼り付ける。ここでいう管理対象物1001としては、例えば標識、信号機等がある。
ICタグ1001aへのデータ入力はCVタグ入出力検索装置200のICタグ入力装置205で行う。
また、CVタグ入力装置201を使って、管理対象物1001とその周辺を撮影し、CV演算して、表示したCV映像中の管理対象物1001の映像部分にCVタグを貼り付ける。これらのデータはCVタグ入出力検索装置200に貯えられるが、Web等のオンラインで、若しくは後処理によってタグデータベース装置206に送られ、ICタグのデータはICタグデータベース202bに、CVタグのデータはCVタグデータベース202aに記録される。
なお、ICタグ入力装置205とCVタグ入力装置201を同一のPC等にインストールすることで、そのPCを一台持ち歩くだけでよいので便利である。
タグデータベース装置206の中はICタグデータベース202bとCVタグデータベース202aに分離しているが、対象物のIDナンバーで対応付けられている。
ICタグに記録できるデータ量は限定されており、一方CVタグに記録できるデータ量は基本的にPC等の記憶容量で決まり膨大な量のデータも格納できる。
そこで、公開データベースには、ICタグのデータを基本データとし、CVタグデータを必要に応じて付け加えることができる。CVタグのデータを詳細データとして位置づけ、基本データは公開し、詳細データは道路感謝専用の非公開の専用データベースとする。
専用データベースは道路管理者が専用で用いるが、公開データベースはWeb上で公開し、一般住民などが直接道路破損状況を伝えたり、意見苦情を書き込んだりすることができるようにする。
CVタグを貼り付け、基本データである公開データベースに書き込むツールは不特定多数の一般人に公開するが、それを開くにはICタグ対象物管理装置206によって管理者が管理し、自由に検索できるようにする。また、一般不特定多数が自由に書き込み、他者の貼り付けたCVタグとその内容を閲覧できるようにすることも可能である。
一方、詳細データである専用データベースは、CVタグ対象物管理装置203によって開き、検索することができる。
管理者は一般不特定多数によって書き込まれた情報を統計処理し、分析し、解析することができる。管理者は分析結果を公表し、又は販売し、他の目的に利用可能とする。
なお、CVタグ対象物管理装置203は、通常はCVタグ専用であるが、ICタグ対象物管理措置206を含むことができる。すなわち、一台のPC等にCVタグ対象物管理装置203とICタグ対象物管理措置206の両方を含むことができる。
CVタグ対象物管理装置203には、図24で示した構成に加えて、自動検索分類部203eを備え、自由に検索し、整理し、目的のタグに到達し、又は目的のタグ群のリストを表示したり、自由な分類表示が可能となる。
CVタグを管理する上で、CV映像上に表示するだけではなく、CV映像と座標統合した地図上にもタグを貼り付けることができる。また、地図とCV映像がリンクし、CVタグをCV映像と地図上に同期して表示することもできる。
地図は二次元であるので、地図上に貼り付けるタグも二次元とする。
CVタグ対象物管理装置203は、表示されたCV映像の中の複数の対象物1001−1,1001−2,1001−3・・・を同時に管理できる。CV映像中の対象物、又はその対象物に貼り付けられた、又はその対象物の位置を示すCVタグをクリックすれば、その対象物の属性や通信内容を直ちに表示できる。
本実施例において管理機能としてCVタグが取得する情報としては、例えば以下のようなものである。
名称・IDナンバー・設置場所・国籍地名・設置位置(緯度経度高度)・設置日時時間・設置者・管理者・管理内容・特記事項・取り扱い方法・設置方法・取り外し方法・設計者・製造者・修理者・補修履歴・設計図
また、機能として持つ表示は以下のようなものである。
マルチウインドウ表示・全周映像表示・地図との同期表示・空撮映像との同期表示・タグ表示・非表示切り替え・タグ種別選択表示・ICタグ位置表示・CVタグ内容表示・CVタグ削除・CVタグ書き込み・タグ検索
画像内三次元計測・画像間三次元計測・CG合成表示・景観シミュレーション表示・ロックオン表示・自由視点方向表示・画角変更表示・画像検索・文字検索
以上説明したように、本発明の第二実施形態においては、ICタグとCVタグが結合・融合したことで、新しい世界が展開することになり、ユビキタス社会にはなくてはならないツールを実現することができる。
ICタグとCVタグとを連結することで、ICタグとCVタグは同じデータベースに接続されることになり、共通のデータベースとして扱われ、ICタグの管理が確立するが、次第にICタグにはID番号と位置情報だけでよいことになる。そして、やがてCVタグのみで管理することができることになる。
ICタグが得意な分野は移動体である。移動体にもCVタグを貼ることはできるが、リアルタイム映像を利用する必要があるので、CVタグの移動体への利用は一定の制約を受けることになる。ただし、本願発明者による特開平2005−322002号に提案されている複合人工知能装置の技術により、移動体であってもCVタグは実現可能である。
一方、CVタグはどんな高温の所でも低温の所でも高圧でも、低圧でも、高放射線レベルの下でも、映像である限り撮影さえできればよいので、場所を選ばないという特徴があり、その利用は拡大する。
図26に示すように、CVタグ入力装置201には、CV映像の中から対象物を自動的に認識する対象物自動認識部201fと、座標自動演算部201gとを備えて、自動的にCVタグを貼り付けるようにする。CVタグは自動認識で自動分類化できるが、ICタグ貼り付けを自動化することは一般には困難であるが、一旦CVタグの自動認識でCVタグを貼り付け、その後にその対応する現場の同位置にICタグを貼り付けることで、ICタグの自動化もある程度可能となる。従って、ICタグにとってもCVタグは有益であり、相性がよいと言える。
インターネットによる回線やイントラネットによる回線を介してリアルタイムでデータベースにアクセスできるようになれば、インターネットで自由にCVタグを管理することができるようになる。インターネットで管理対象物のID番号を検索すれば座標と属性が得られる。
図26に示したように、すべてのタグを収納するタグデータベース装置206に接続されるCVタグ対象物管理装置203には自動検索分類部203eを備え、自由に検索し、整理し、目的のタグに到達し、又は目的のタグ群のリストを表示したり、自由な分類表示が可能となる。
また、ICタグの入力(作成)時に、同一情報をCVタグに同時に入力(作成)することができるので、その密着性と関連性はますます高まることになる。
また、CV演算は三次元計測機能を持つことから、ICタグの三次元位置をCVタグ入力装置又はCVタグ対象物管理装置によって正確に決定することができ、これによって、両タグの対応関係が間違うことはない。
また、特にCVタグの特徴として、タグを仮想の空間に配置することができることから、三次元空間を利用することができ、その設置範囲は現実空間よりも広がることになる。
さらに、CVタグにより、現実映像を通して現実世界との交流ができることになる。すなわち、現場のCV映像により、現場とコミュニケーションが可能となる。
現在、ユビキタス社会を目指してICタグが盛んに利用されており、対象物を認識するツールとしてICタグが利用される。しかし、本発明のCVタグが浸透すれば、その大部分はCVタグが取って代わることになることが予想されるが、その過程の中でICタグとCVタグは併用され、ICタグとCVタグが融合して利用されることになる。
[CVタグ単独利用分野分類]
上述のように、CVタグは必ずしもICタグと併用しなくてもよく、CVタグは単独で使用することができる。
例えば、机上のコンピュータ上で、CV映像を表示し、その中の対象物映像にCVタグを貼り付けることで、ICタグを用いなくても対象部管理はできることになる。
ただし、移動体の管理についてはICタグの方が優れているといえるので、移動体にはICタグ、固定対象物にいてはCVタグというように使い分けることが好ましい。
CVタグ単独利用の具体例を以下に示す。
・現場CV映像の街灯をクリックすれば、街灯のライトをON,OFFすることができる。
・花壇のリアルタイムCV映像であれば、花がしおれている状況をCV映像で確認すれば、散水栓のスイッチをONにすることができる、等である。
・信号機、ビルのシャッター等、リアルタイムのCV映像でコントロールして結果を視覚的に確認することが可能になる。これはICタグではできないことであり、ユビキタス社会の目指す社会でもある。
・リアルタイムCV映像中で、バス停をクリックすれば、バス時刻表を表示する。
・道路の舗装が痛んでいる所をCVタグで示して通報する。
・CV映像中のビル面にタグを貼り付けて、テナント募集をする。
・CV映像中のホテル面にタグを貼り付けて、予約する。
・CV映像中のレストランのタグを開いて予約する。
・CV映像中の道路の事故現場に事故記録を書き込む。
・CV映像中の道路上のCVタグで、道路事務所から道路使用者への関係情報を送る。
・CV映像中のCVタグで対象を特定して、客からの他の客向けの情報発信をする。
・地図とCV映像をリンクし、又は地図と空撮CV映像と座標合わせし、空撮と地上撮とをリンクし、空撮映像にもCVタグを貼り付け、空撮のCV映像のCVタグから、地上のCV映像のCVタグに切り替え、さらに、ビルの内部のCV映像中へ入り、各階の個別の商品や対象物にCVタグを貼り付け、それを利用者で共有して扱う。
[CVタグ分野別分類]
CVタグ利用を分野別に分類すると、以下のようになる。
・道路管理:人工構造物と自然物の属性、トレーサビリティー
・公共設備:標識、標示、電柱、電話柱、道路、河川、橋、鉄道、駅、街路樹、花壇、街灯、ロードヒーティング施設、ガードレール、縁石、バス停、港湾
・民間施設:民間看板、家、ビル、店舗
・工事現場、事故現場、商品価格
・PC:ホルダ、アイコン
・移動体:車両、荷物、入室者
・時間変化するもの:信号機、遮断器
・自然物:山、自然川、樹木、街路樹、岩
・スイッチ:ドアロック、ライト点灯、信号切り替え、線路切り替え、家電品、
・オフライン処理:Webによるタグ処理、スタンドアロン、Webによる配信
また、利用形態の具体例としては以下のようなものがあげられる。
(1)情報提供者の立場でCVタグを貼り付け、CV映像とCVタグで場所を特定して利用者に情報を提供する。
(2)対象物施設管理者の立場で、管理情報としてCV映像とCVタグで場所を特定して管理者が自身で利用する。
(3)利用者の立場で、共通の目的を持つ人がCV映像とCVタグで場所を特定してCVタグを共用して共同作業をする。
(4)利用予定者の立場で、CV映像とCVタグで場所を特定して募集やイベントの集客としてCVタグを利用する。
(5)市民の立場で、CV映像とCVタグで場所を特定して国民の立場で、要望や考えをCVタグに書き込んでおく。
(6)行政の立場で情報発信をCVタグで場所を特定して行う。
・災害時の利用の立場で、CV映像とCVタグで場所を特定して情報を知らせる。
・消防警察の立場でCV映像とCVタグで場所を特定して情報を知らせる。
・建築現場確認として、CV映像とCVタグで場所を特定して情報を知らせる。
(7)第三者利用の立場で、CV映像とCVタグで場所を特定して掲示板的に情報媒体として利用する。
(8)関連広告媒体として、CV映像とCVタグで場所を特定して広告する。
(9)業者による利用として、CV映像とCVタグで場所を特定して業務に利用する。
・不動産等では対象の土地建物
・レストランでは、場所と環境と店内、及びメニュー、予約
・ホテルでは、場所、環境、案内、予約
・タクシー会社では、予約場所と着地点の映像と関連情報
・ゼネコンでは工事現場と、景観シミュレーション
以上、本発明のCV映像によるCVタグ入出力検索装置について、好ましい実施形態を示して説明したが、本発明に係るCV映像によるCVタグ入出力検索装置は、上述した実施形態にのみ限定されるものではなく、本発明の範囲で種々の変更実施が可能であることは言うまでもない。
例えば、上述した実施形態においては、本発明のCV映像によるCVタグ入出力検索装置の適用対象として、カーナビゲーション装置等を想定して説明したが、本発明に係るCV映像によるCVタグ入出力検索装置がそれ以外の幅広い分野に適用できることは上述したとおりであり、その用途・使用方法等も特に限定されるものでないことは言うまでもない。
本発明は、例えば、自動車に搭載されるカーナビゲーション装置に備える地図や映像を表示・更新するための映像装置として、また、道路や河川の監視システムとして好適に利用することができる。
本発明のCV映像によるCVタグ入出力検索装置のCV付加部,CV取得部として機能するCV演算部の一実施形態の基本構成を示すブロック図である。 図1に示すCV演算部で使用する全周ビデオ映像を撮影する手段を示す概略図であり、屋根部に全周カメラを搭載した車輌の斜視図である。 図1に示すCV演算部で使用する全周ビデオ映像を撮影する手段を示す概略図であり、(a)は屋根部に全周カメラを搭載した車輌の正面図、(b)は同じく平面図である。 全周カメラで撮影される映像から得られる変換画像を示す説明図であり、(a)は球面画像が貼り付けられる仮想球面を、(b)は仮想球面に貼り付けられた球面画像の一例を、(c)は(b)に示した球面画像をメルカトール図法に従って平面展開した画像を示している。 本発明の一実施形態に係るCV演算部おける具体的なカメラベクトルの検出方法を示す説明図である。 本発明の一実施形態に係るCV演算部における具体的なカメラベクトルの検出方法を示す説明図である。 本発明の一実施形態に係るCV演算部における具体的なカメラベクトルの検出方法を示す説明図である。 本発明の一実施形態に係るCV演算部によるカメラベクトルの検出方法における望ましい特徴点の指定態様を示す説明図である。 本発明の一実施形態に係るCV演算部により得られる特徴点の三次元座標とカメラベクトルの例を示すグラフである。 本発明の一実施形態に係るCV演算部により得られる特徴点の三次元座標とカメラベクトルの例を示すグラフである。 本発明の一実施形態に係るCVデータ演算部により得られる特徴点の三次元座標とカメラベクトルの例を示すグラフである。 本発明の一実施形態に係るCV演算部において、カメラから特徴点の距離に応じて複数の特徴点を設定し、複数の演算を繰り返し行う場合を示す説明図である。 本発明の一実施形態に係るCVデータ演算部求められたカメラベクトルの軌跡をビデオ映像中に表示した場合の図である。 本発明の第一実施形態に係るCV映像によるCVタグ入出力検索装置の基本構成を示すブロック図であり、特にカーナビゲーション目的に好適なCVタグ入出力検索装置の構成を示している。 本発明の第一実施形態に係るCV映像によるCVタグ入出力検索装置で生成・表示されるCV映像及びCVタグの一例を示す説明図である。 本発明の第二実施形態に係るCV映像によるCVタグ入出力検索装置の基本構成を示すブロック図である。 本発明の第二実施形態に係るCVタグ対象管理装置により行われる各種管理機能の具体例を示すブロック図である。 本発明の第二実施形態に係るCVタグ入力装置の詳細構成を示すブロック図である。 本発明の第二実施形態のCVタグ入力装置で行われる各種機能の詳細を示すブロック図である。 本発明の第二実施形態のCVタグ入出力検索装置おいて、ICタグとCVタグとを対応させて入力させるための構成を示すブロック図である。 本発明の第二実施形態のCVタグ入出力検索装置において、インターネット環境下で、他の装置との間でCVタグ情報についてのコミュニケーションを図るための構成を示すブロック図である。 図21に示すCVタグ入出力検索装置によってインターネット環境下で生成・表示されるCV映像及びCVタグの表示例を示す説明図である。 図21に示すCVタグ入出力検索装置によってインターネット環境下で生成・表示されるCV映像及びCVタグの表示例を示す説明図である。 本発明の第二実施形態のCVタグ入出力検索装置において、地図とCV映像の同期標示を行うための構成を示すブロック図である。 本発明の第二実施形態のCVタグ入出力検索装置を移動手段に搭載して管理対象物とともに移動させる構成を示すブロック図である。 本発明の第二実施形態のCV映像によるCVタグ入出力検索装置を利用した道路管理のためのCV映像によるCVタグ入出力検索装置の構成を示すブロック図である。
符号の説明
20 CV演算部
100 CV映像によるCVタグ入出力検索装置
101 CV映像記録部
102 CVタグ表示装置
103 CVタグ入力装置
104 CVタグデータベース
105 CVタグ自動検索装置
106 CVタグ対象物管理装置
107 リアルタイムCV映像取得装置
108 対象物認識装置
109 外部データベース装置
110 移動体位置決め手段

Claims (11)

  1. 所望の管理対象物を含むビデオ映像に移動するカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を記録したCV映像記録部と、
    前記CV映像を表示するとともに、当該CV映像中に、三次元位置が既知となった管理対象物を指定した所定のCVタグを重複合成表示し、CV映像の進行とともに、前記管理対象物との三次元位置関係を変えずに、CV映像中を前記管理対象物とともに移動するように表示するCVタグ表示装置と、
    前記CVタグ表示装置で表示されるCV映像中に、特定の管理対象物を指定し、その管理対象物の三次元位置に関連づけてCVタグを重複表示するとともに、前記所定のCVタグを入力し、そのCVタグに、前記管理対象物に関する所定の属性データをCVタグと関連付けて入力するCVタグ入力装置と、
    前記CVタグ表示装置で表示された所定の管理対象物に関連づけて配置したCVタグの配置及びその属性データを格納するCVタグデータベースと、
    前記CVタグ表示装置で表示されるCV映像中の任意のCVタグを選択し、当該CVタグが指定する管理対象物に関する所定の属性データを、前記CVタグデータベースから読み出し、前記CVタグ表示装置で表示されるCV映像中に表示させるCVタグ対象物管理装置と、
    を備えることを特徴とするCV映像によるCVタグ入出力検索装置。
  2. 前記CVタグデータベースを文字、座標、属性等により検索し、前記CV映像中の所望の管理対象物を抽出し、当該管理対象物を指定するCVタグを、前記CV映像中に識別可能に表示させるCVタグ自動検索装置を備える請求項1記載のCV映像によるCVタグ入出力検索装置。
  3. 前記CVタグ入力装置が、
    前記管理対象物を含むビデオ映像を取得し、当該ビデオ映像を撮影した移動するカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を生成・表示するCV映像表示部と、
    前記CV映像表示部で表示されるCV映像中の任意の管理対象物又はその近傍に、当該管理対象物を特定するCVタグを当該CV映像中に指定するCVタグ位置指定部と、
    前記CVタグ位置指定部で指定されたCVタグのCV映像中の配置を示す三次元座標を演算により求める座標演算取得部と、
    前記座標演算取得部で求められたCVタグの三次元座標を、当該CVタグが示す管理対象物と関連付けて固定するCVタグ固定部と、
    前記CVタグ固定部で固定されたCVタグの入力を完了して登録する入力完了設定部と、を備える請求項1又は2記載のCV映像によるCVタグ入出力検索装置。
  4. 前記CVタグ位置指定部が、
    前記CVタグの配置の範囲をCV映像中に二次元的又は三次元的に制限して指定するCVタグ範囲指定部と、
    前記CVタグに関連する所定の関連情報を記録するCVタグ内容記録部と、
    前記CVタグの形状等を所定の候補から選択するCVタグ形状選択部と、を備え、
    前記座標演算取得部が、
    前記CVタグの三次元座標を求める演算の後、位置や姿勢等の微調整を行うCVタグ位置姿勢微調整部を備え、
    前記入力完了設定部が、
    前記CVタグと他のCV映像又は地図をリンクして表示させる所定のリンク情報を登録するリンク情報設定部と、前記CVタグに登録すべき内容を確認可能に表示するCVタグ内容確認部と、前記CVタグに登録された内容又は当該CVタグの設定を解除する設定解除部と、を備える請求項3記載のCV映像によるCVタグ入出力検索装置。
  5. 前記CVタグ入力装置と、前記CVタグデータベースと、前記CVタグ対象物管理装置とを搭載し、前記管理対象物を含む所定の管理地域を移動可能な積載移動手段を備え、
    前記積載移動手段は、
    ビデオカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を取得するリアルタイムCV映像取得装置と、
    記録媒体又は通信を介して、前記管理地域及びその周辺のCV映像地図を前記CV映像記録部に一時記憶させるとともに、前記管理地域及びその周辺のCVタグとその属性を示す前記CVタグデータベースに一時記憶させる外部データベースと、
    前記積載移動手段の絶対座標を取得するGPS位置決め装置、及び/又は前記リアルタイムCV映像取得装置で取得したリアルタイムCV映像と前記CV映像地図から、所定の新旧更新映像を生成する新旧映像更新装置を備える移動体位置決め手段と、
    前記移動体位置決め手段で取得される積載移動手段の絶対座標と、当該積載移動手段の走行目的及び時刻情報に基づき、現在時刻と現在位置及び現在状況に関連する管理対象物のCVタグを選択して自動表示するCVタグ自動表示装置と、を備える請求項1乃至5のいずれか一項記載のCV映像によるCVタグ入出力検索装置。
  6. 前記CVタグ表示装置が、
    選択又は検索された管理対象物を、前記CV映像中の決められた位置に固定して表示する動画ロックオン表示手段、
    縮尺の異なる複数のCV映像地図を表示し、かつ、各CV映像地図の座標系を統一して、これら複数のCV映像地図中に共通するCVタグを表示する複数CV映像表示手段、
    CV映像地図と二次元地図を同時に表示し、当該二次元地図上にもCVタグを表示する地図同期表示手段、
    選択又は検索された管理対象物を示すCVタグを、前記CV映像地図に対応するリアルタイムCV映像に表示するリアルタイムCV映像表示手段、
    選択又は検索された管理対象物を、ヘッドマウント又はハーフミラー等により、移動する車両等から直接観察される現実の管理対象物にCVタグ又はCGを合成表示する現実重複表示手段、
    選択又は検索された管理対象物を示すCVタグについて登録された内容を、音声出力する手段、のうち少なくともいずれか一の手段を有する請求項1乃至8のいずれか一項記載のCV映像によるCVタグ入出力検索装置。
  7. 前記管理対象物に取り付けられるICタグに、当該管理対象物に関する所定情報を書き込むICタグ入力装置と、
    前記ICタグが取り付けられる管理対象物に関する所定のデータを、当該ICタグと関連付けて格納するICタグデータベースと、
    前記ICタグに近接して当該ICタグに書き込まれた所定情報を電子的に読み取るICタグ対象物管理装置と、
    前記ICタグデータベースに格納されるデータのうち、前記CVタグデータベースにデータが格納される管理対象物については、データを共通化するデータベース装置と、を備える請求項1乃至6記載のCV映像によるCVタグ入出力検索装置。
  8. 前記CVタグ入力装置が、
    前記CV映像から、分類指定した所定の対象物又は対象物群を自動認識する対象物自動認識部と、
    前記対象物自動認識部で自動認識された対象物の三次元座標の位置を演算により求め、当該対象物を指定して配置するCVタグを入力する座標自動演算部と、を備える請求項1乃至8のいずれか一項記載のCV映像によるCVタグ入出力検索装置。
  9. 前記CVタグ対象物管理装置が、
    所定の管理地域を案内するための地図を備える地図部と、
    所定の管理地域を案内するためのCV映像を備えるCV映像部と、
    前記地図部とCV映像とを座標統合する座標統合部と、
    前記CVタグを前記地図部の地図と前記CV映像部のCV映像とに同期表示させ、いずれのCVタグが選択されても、又はいずれのCV映像と地図が選択されても、当該CVタグに関連する所定のデータを表示させる同期属性表示部と、を備える請求項1乃至8のいずれか一項記載のCV映像によるCVタグ入出力検索装置。
  10. 前記管理対象物及びCVタグ入力装置を積載して移動する移動手段と、
    前記移動手段又は管理対象物に設置されたカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したリアルタイムCV映像を取得して表示する移動CV映像表示部を備え、
    前記移動手段の移動にともなって前記CVタグが指定する管理対象物とその周辺をCV映像として取得し、CVタグをリアルタイムで表示し管理する請求項1乃至9のいずれか一項記載のCV映像によるCVタグ入出力検索装置。
  11. 前記CVタグ対象物管理装置又はCVタグ入力装置を積載して移動する移動手段と、
    前記移動手段に設置されたカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したリアルタイムCV映像を取得して表示する移動CV映像表示部と、
    前記CV映像表示部で取得されたリアルタイムCV映像に基づいて、前記移動手段の位置を示す三次元座標をリアルタイムで取得する座標取得部と、
    前記移動手段の移動にともなって前記CVタグが指定する管理対象物とその周辺をリアルタイムCV映像として取得し、CVタグをリアルタイムで表示し管理する請求項1乃至10のいずれか一項記載のCV映像によるCVタグ入出力検索装置。
JP2006144227A 2006-05-24 2006-05-24 Cv映像によるcvタグ入出力検索装置 Active JP5111785B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006144227A JP5111785B2 (ja) 2006-05-24 2006-05-24 Cv映像によるcvタグ入出力検索装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006144227A JP5111785B2 (ja) 2006-05-24 2006-05-24 Cv映像によるcvタグ入出力検索装置

Publications (2)

Publication Number Publication Date
JP2007316839A true JP2007316839A (ja) 2007-12-06
JP5111785B2 JP5111785B2 (ja) 2013-01-09

Family

ID=38850655

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006144227A Active JP5111785B2 (ja) 2006-05-24 2006-05-24 Cv映像によるcvタグ入出力検索装置

Country Status (1)

Country Link
JP (1) JP5111785B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011510378A (ja) * 2008-01-15 2011-03-31 グーグル インコーポレイテッド 街路ビューデータのための3次元注釈
WO2018163898A1 (ja) * 2017-03-09 2018-09-13 株式会社岩根研究所 自由視点移動表示装置
JP2020008664A (ja) * 2018-07-05 2020-01-16 株式会社東陽テクニカ ドライビングシミュレーター
JP2020191003A (ja) * 2019-05-23 2020-11-26 株式会社岩根研究所 認識位置決め装置及び情報変換装置
JP2023036381A (ja) * 2021-09-02 2023-03-14 株式会社小野測器 プログラム、サーバ、端末装置、アクセス提供方法及び情報表示方法
JP7455598B2 (ja) 2020-02-04 2024-03-26 株式会社デンソーテン 画像処理装置、アノテーション処理装置、画像処理方法、アノテーション処理方法、画像処理プログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1172348A (ja) * 1997-08-28 1999-03-16 Seiko Epson Corp カメラ装置および情報取得方法
JP2002071368A (ja) * 2000-08-29 2002-03-08 Hitachi Ltd 画像情報処理装置
JP2003051021A (ja) * 2001-08-03 2003-02-21 Mitsubishi Electric Corp 情報更新装置、情報取得装置および情報更新処理装置
JP2003121167A (ja) * 2001-10-12 2003-04-23 Denso Corp 案内画像生成装置、案内画像表示装置、ナビゲーション装置、及びプログラム
JP2003315069A (ja) * 2002-04-24 2003-11-06 Equos Research Co Ltd 情報センタ装置、データ提供装置、データ収集システム、データ配信システム及びその方法
WO2005038402A1 (ja) * 2003-10-21 2005-04-28 Waro Iwane ナビゲーション装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1172348A (ja) * 1997-08-28 1999-03-16 Seiko Epson Corp カメラ装置および情報取得方法
JP2002071368A (ja) * 2000-08-29 2002-03-08 Hitachi Ltd 画像情報処理装置
JP2003051021A (ja) * 2001-08-03 2003-02-21 Mitsubishi Electric Corp 情報更新装置、情報取得装置および情報更新処理装置
JP2003121167A (ja) * 2001-10-12 2003-04-23 Denso Corp 案内画像生成装置、案内画像表示装置、ナビゲーション装置、及びプログラム
JP2003315069A (ja) * 2002-04-24 2003-11-06 Equos Research Co Ltd 情報センタ装置、データ提供装置、データ収集システム、データ配信システム及びその方法
WO2005038402A1 (ja) * 2003-10-21 2005-04-28 Waro Iwane ナビゲーション装置

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014006917A (ja) * 2008-01-15 2014-01-16 Google Inc 街路ビューデータのための3次元注釈
JP2015005298A (ja) * 2008-01-15 2015-01-08 グーグル インコーポレイテッド 街路ビューデータのための3次元注釈
US9471597B2 (en) 2008-01-15 2016-10-18 Google Inc. Three-dimensional annotations for street view data
JP2011510378A (ja) * 2008-01-15 2011-03-31 グーグル インコーポレイテッド 街路ビューデータのための3次元注釈
US10540794B2 (en) 2008-01-15 2020-01-21 Google Llc Three-dimensional annotations for street view data
US10848732B2 (en) 2017-03-09 2020-11-24 Iwane Laboratories, Ltd. Free viewpoint movement display device
WO2018163898A1 (ja) * 2017-03-09 2018-09-13 株式会社岩根研究所 自由視点移動表示装置
JP2018151696A (ja) * 2017-03-09 2018-09-27 株式会社岩根研究所 自由視点移動表示装置
JP2020008664A (ja) * 2018-07-05 2020-01-16 株式会社東陽テクニカ ドライビングシミュレーター
JP2020191003A (ja) * 2019-05-23 2020-11-26 株式会社岩根研究所 認識位置決め装置及び情報変換装置
WO2020235286A1 (ja) * 2019-05-23 2020-11-26 株式会社岩根研究所 認識位置決め装置及び情報変換装置
JP7266208B2 (ja) 2019-05-23 2023-04-28 株式会社岩根研究所 認識位置決め装置及び情報変換装置
JP7455598B2 (ja) 2020-02-04 2024-03-26 株式会社デンソーテン 画像処理装置、アノテーション処理装置、画像処理方法、アノテーション処理方法、画像処理プログラム
JP2023036381A (ja) * 2021-09-02 2023-03-14 株式会社小野測器 プログラム、サーバ、端末装置、アクセス提供方法及び情報表示方法
JP7358427B2 (ja) 2021-09-02 2023-10-10 株式会社小野測器 プログラム、サーバ及びアクセス提供方法

Also Published As

Publication number Publication date
JP5111785B2 (ja) 2013-01-09

Similar Documents

Publication Publication Date Title
JP4870546B2 (ja) レイヤー生成・選択機能を備えたcvタグ映像表示装置
Neges et al. Combining visual natural markers and IMU for improved AR based indoor navigation
US10681183B2 (en) Platform for constructing and consuming realm and object featured clouds
US20200401617A1 (en) Visual positioning system
EP2208021B1 (en) Method of and arrangement for mapping range sensor data on image sensor data
CN102037325A (zh) 用于以3d显示导航数据的计算机布置及方法
CN102037326A (zh) 以3d显示导航数据的方法
US20020010694A1 (en) Method and system for computer assisted localization and navigation in industrial environments
CN106463056A (zh) 用于高度定制的交互式移动地图的解决方案
JP5111785B2 (ja) Cv映像によるcvタグ入出力検索装置
JP2004048674A (ja) 視野一致型情報呈示システム、並びに、それに用いられる携帯情報端末及びサーバ
JP2006351024A (ja) 視野一致型情報呈示システム及びそれに用いられる携帯情報端末
CN104221056A (zh) 用于提供终端装置视野内的对象的信息的方法、终端装置和计算机可读记录介质
CN105976636A (zh) 一种利用增强现实技术的停车场寻车系统及其寻车方法
CN111256701A (zh) 一种设备定位方法和系统
Basiri et al. Seamless pedestrian positioning and navigation using landmarks
CN111795688B (zh) 一种基于深度学习和增强现实的图书馆导航系统实现方法
JPWO2019234936A1 (ja) 携帯端末、カメラ位置推定システム、カメラ位置推定方法および標識板
Haala et al. A multi-sensor system for positioning in urban environments
Shao et al. MOFIS SLAM: A Multi-Object Semantic SLAM System With Front-View, Inertial, and Surround-View Sensors for Indoor Parking
Kadi et al. Mobile application development with augmented reality for promoting tourism objects in Southwest Sumba
Schall Mobile augmented reality for human scale interaction with geospatial models: The benefit for industrial applications
WO2008072429A1 (ja) 地理情報関連付き画像データ表示システム
JP4197539B2 (ja) 3次元情報表示装置
Xu et al. Indoor-outdoor navigation without beacons: compensating smartphone AR positioning errors with 3D pedestrian network

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090415

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090616

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20090824

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20091201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120306

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120918

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121010

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5111785

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151019

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313114

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350