JP2007316839A - Cv映像によるcvタグ入出力検索装置 - Google Patents
Cv映像によるcvタグ入出力検索装置 Download PDFInfo
- Publication number
- JP2007316839A JP2007316839A JP2006144227A JP2006144227A JP2007316839A JP 2007316839 A JP2007316839 A JP 2007316839A JP 2006144227 A JP2006144227 A JP 2006144227A JP 2006144227 A JP2006144227 A JP 2006144227A JP 2007316839 A JP2007316839 A JP 2007316839A
- Authority
- JP
- Japan
- Prior art keywords
- tag
- video
- management
- unit
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004364 calculation method Methods 0.000 claims description 102
- 238000004891 communication Methods 0.000 claims description 27
- 230000033001 locomotion Effects 0.000 claims description 16
- 230000010354 integration Effects 0.000 claims description 12
- 230000001360 synchronised effect Effects 0.000 claims description 11
- 238000012790 confirmation Methods 0.000 claims description 8
- 238000007726 management method Methods 0.000 description 218
- 239000013598 vector Substances 0.000 description 83
- 238000000034 method Methods 0.000 description 47
- 230000006870 function Effects 0.000 description 33
- 238000010586 diagram Methods 0.000 description 22
- 238000005516 engineering process Methods 0.000 description 19
- 238000012545 processing Methods 0.000 description 19
- 230000008569 process Effects 0.000 description 13
- 238000013473 artificial intelligence Methods 0.000 description 11
- 230000008859 change Effects 0.000 description 11
- 238000005259 measurement Methods 0.000 description 11
- 239000002131 composite material Substances 0.000 description 8
- 238000001514 detection method Methods 0.000 description 7
- 238000009434 installation Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 238000012544 monitoring process Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 238000012217 deletion Methods 0.000 description 3
- 230000037430 deletion Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 239000000047 product Substances 0.000 description 3
- 230000005855 radiation Effects 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 238000013523 data management Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 239000000523 sample Substances 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000012466 permeate Substances 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000007115 recruitment Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000011895 specific detection Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Landscapes
- Image Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】 ビデオ映像にCV値を付加したCV映像を記録したCV映像記録部101と、CV映像中に管理対象物1001を指定した所定のCVタグを重複合成表示し、CV映像の進行とともに管理対象物との三次元位置関係を変えずに、管理対象物とともに移動するように表示するCVタグ表示装置102と、CV映像中に特定の管理対象物を指定してCVタグを重複表示し、そのCVタグに管理対象物に関する所定の属性データを関連付けて入力するCVタグ入力装置103と、CVタグの配置及び属性データを格納するCVタグデータベース104と、CV映像中の任意のCVタグを選択して属性データをCVタグデータベースから読み出しCV映像中に表示させるCVタグ対象物管理装置106を備える。
【選択図】 図14
Description
このGISは、地図とともに、地図上の対象物や空間に関連する各種の情報を重ねて表示することにより、単なる地図のみでは得られない有用な情報を提示するもので、例えば、道路管理や河川管理、カーナビゲーションシステムとして利用されている。
ここで、任意の物体や対象物に対する情報の出入り口となる手段としては、一般にICタグが知られている。
ICタグとは、非接触ICタグ、RFID(Radio Frequency Identification)タグ、RFタグ等とも呼ばれる、ICチップと無線アンテナを樹脂やガラス等で封止してタグ(荷札)状に形成した超小型の通信端末で、ICチップに所定の情報を記録して対象物にタグを取り付け、記録した情報を無線通信により読取装置(リーダ・ライタ)側でピックアップすることにより、ICチップに記録された情報を読み取り、出力・表示するというものである。
従って、このようなICタグを、例えば、道路や河川などの管理地域にある建造物や道路表示、建物、標識、信号などの管理対象物に取り付けることで、その管理対象物に関する種々の情報を管理することが可能となる。
例えば、特許文献1には、建物内外の予め決められた場所にICタグを配置しておき、そのICタグに書き込まれた3次元位置情報を携帯端末等で読み取って、その3次元位置情報に基づいて詳細な地図情報等にアクセスできるようにした「3次元ナビゲーションシステム」が提案されている。
また、ICタグは、対象物に取り付けた後は、現場まで行って個々のタグ情報を読み取る以外にはタグに書き込まれたデータを確認する方法等が無い。このため、すべての管理対象物に漏れなくICタグを取り付けたとしても、その後のデータの管理等がきわめて煩瑣なものとなるおそれがある。
このように、ICタグを用いた対象物の管理は、特にGISや道路・河川の監視システムについては、そのまま適用することはきわめて困難であった。
しかし、不特定多数の人が二次元の映像上の対象物に三次元のタグを自由に貼り付けて、タグを共有してコミュニケーションを取るというような発想や技術は存在していない。すなわち、Web上で公開された映像に、利用者が対象物を選択してタグを貼り付け、タグ提供者と利用者がタグを通してコミュニケーションする技術は、潜在的には求められているものの、それを実現するための技術や手段は存在していない。
そして、このCV値データを利用することにより、ビデオ映像中の対象物の三次元座標を検出して、その座標に自由にタグ(CVタグ)を貼り付け、そのタグに情報を打ち込み、映像を見ながら対象物を選択して、対象物の映像上に又は映像の中の三次元空間上に、自由に位置を設定し、姿勢を設定し、移動し、検索し、削除し得ることに想到した。
これによって、ICタグのように、タグを取り付けた対象物のある現場に行かなくても、CV映像上でCVタグをクリックすることで情報を確認することができ、またCVタグ上で情報の更新や削除も可能となる。
このようにCVタグで情報の確認や更新、削除の操作ができることで、わざわざICタグを現実の対象物に取り付けなくても、所望の対象物のすべてをCV映像中で管理することができるようになる。
なお、CVタグを貼り付けるCV映像としては、複数の種類、例えば高々度空撮、低高度空撮、地上撮、及び構造物及び建造物の中の撮影など、様々な縮尺の異なる映像を三次元座標で統合することができる。
また、CV映像に全周映像を用いることで、視点方向を自由に選択できる映像を生成できるので、本発明においては全周映像を用いてCV映像を生成し、その中に三次元CVタグを貼り付けることが好ましい。
さらに、本発明に係るCV映像をWeb上で公開、提供することにより、Web利用者がCV映像を三次元的に扱え、提供者のみならず、利用者が自由に三次元のタグをCV映像中に貼り付けることも可能となる。
そこで、本発明に係るCVタグを、ICタグに代えて、又はICタグと併用することで、任意の管理対象物はすべて映像上で管理できることになり、ICタグを対象物に直接取り付け、読み取る必要性は低下する。このことは現場まで行かなくても良いことを意味し、作業の大幅な効率化となる。
また、高温や低温、高湿度、高圧、低圧、高レベル放射線等の通常環境ではない場所にはICタグを直接設置することができない場面もあるが、本発明に係るCVタグはそのような環境や条件を選ばないので、利用範囲は非常に広く、情報の管理もきわめて簡便に行える。
特に、次世代のカーナビゲーションとして有望であり、映像の中で外の世界と対話も可能となり、また、ユビキタスの世界ではCVタグは必需品になるものと期待される。
さらに、インターネットを介して、CV映像の中のすべての対象物をWeb上で共有し、多くの人が参加するコミュニケーションツールが実現する。このようなコミュニケーションツールにおいては、管理者のみならず、不特定多数の人が、CV映像中にCVタグを貼り付け、又はCVタグを共有し、情報を共有し、自由に参加する環境を提供することができ、これまでのインターネット環境が大きく変わることが期待される。なお、この場合、公開するCVツールと非公開のものとを分離することは勿論可能であり、管理者がその選択権を持つことになる。
これによって、現実の対象物にタグを取り付けたり、現場でタグの読み書き動作等を行うことなく、広範で大量の対象物についての情報を容易かつ確実に管理することができる。
ここで、以下に示す本発明のCV映像によるCVタグ入出力検索装置は、プログラム(ソフトウェア)の命令によりコンピュータで実行される処理,手段,機能によって実現される。プログラムは、コンピュータの各構成要素に指令を送り、以下に示すような所定の処理や機能、例えば、映像中からの基準点や特徴点の自動抽出,抽出した基準点の自動追跡,基準点の三次元座標の算出,CV(カメラベクトル)値の演算,CVタグの生成・貼り付け,CVタグにリンクしたデータベース情報の呼び出し・表示等を行わせる。
このように、本発明における各処理や手段は、プログラムとコンピュータとが協働した具体的手段によって実現される。
なお、プログラムの全部又は一部は、例えば、磁気ディスク,光ディスク,半導体メモリ,その他任意のコンピュータで読取り可能な記録媒体により提供され、記録媒体から読み出されたプログラムがコンピュータにインストールされて実行される。また、プログラムは、記録媒体を介さず、通信回線を通じて直接にコンピュータにロードし実行することもできる。
まず、本発明のCV映像によるCVタグ入出力検索装置の前提となるCV演算の概要について図1〜図13を参照しつつ説明する。
CV演算とはCV値を求めることを意味し、求められた結果をCV値,CVデータと呼ぶ。CVという表記は、カメラベクトル:Camera Vectorの略記であり、カメラベクトル(CV)とは計測等のために映像を取得するビデオカメラ等のカメラの三次元位置と3軸回転姿勢を示す値である。
CV演算は、動画像(ビデオ映像)を取得し、その映像内の特徴点を検出し、それを隣接する複数のフレームに追跡し、カメラ位置と特徴点の追跡軌跡とが作る三角形を画像内に数多く生成し、その三角形を解析することで、カメラの三次元位置とカメラの3軸回転姿勢を求めるものである。
また、動画像から演算で求められるCV値は、動画像の各フレームに対応して、三次元のカメラ位置と三次元のカメラ姿勢とが同時に求まる。しかも、原理的には一台のカメラで、映像と対応してCV値が求められる特性は、CV演算でしか実現し得ない、優れた特徴である。
例えば、他の方法による計測手段(GPSやIMU等)では、動画像の各フレームと、その三次元的カメラ位置と三次元的カメラ姿勢とを同時に取得するためには画像フレームと計測サンプリング時刻を高精度で、しかも完全に同期しなければならないために、巨額の装置となり、実質的には実現が困難である。
また、CVデータは画像から取得するため、取得されたデータは相対値であるが、画像内の任意の対象物との位置関係を計測することができるという他の方法では実現は可能な優れた特性を備える。
また、画像に対応したCV値が求まるので、画像内計測や測量において、画像から直接にカメラ位置とその3軸回転姿勢を求めることができるCV演算は画像内計測や画像内測量に好適となる。
そして、本発明のCV映像によるCVタグ入出力検索装置は、このCV演算により得られたCV値データに基づいてCVタグの生成や映像中への貼り付け処理を行うものである。
CV演算は、後述する本発明のCV映像によるCVタグ入出力検索装置100のCVタグ入力装置(図14参照)として機能するCV演算部20で行われる。
CV演算部20は、図1に示すように、全周ビデオ映像部10から入力されるビデオ映像について所定のCV演算処理を行うようになっており、具体的には、特徴点抽出部21と、特徴点対応処理部22と、カメラベクトル演算部23と、誤差最小化部24と、三次元情報追跡部25と、高精度カメラベクトル演算部26とを備えている。
また、映像は、一般には予め記録した動画映像を使うことになるが、自動車等の移動体の移動に合わせてリアルタイムに取り込んだ映像を使用することも勿論可能である。
全周映像の平面展開とは、全周映像を、通常の画像として遠近法的に表現するものである。ここで、「遠近法」と呼称するのは、全周画像のそのものはメルカトール図法や球面投影図法のように、遠近法とは異なる方法で表示されているので(図4参照)、これを平面展開表示することで、通常の遠近法映像に変換表示できるからである。
なお、移動体11aには、その位置座標を取得する目的で、例えば、絶対座標を取得するGPS機器単独やIMU機器を付加したもの等により構成した位置計測機器等を備えることができる。
また、移動体11aに搭載される全周ビデオカメラ11としては、広範囲映像を撮影,取得するカメラであればどのような構成であってもよく、例えば、広角レンズや魚眼レンズ付きカメラ、移動カメラ、固定カメラ、複数のカメラを固定したカメラ、360度周囲に回転可能なカメラ等がある。本実施形態では、図2及び図3に示すように、車輌に複数のカメラが一体的に固定され、移動体11aの移動に伴って広範囲映像を撮影する全周ビデオカメラ11を使用している。
ここで、全周ビデオカメラ11は、カメラの全周映像を直接取得できるビデオカメラであるが、カメラの全周囲の半分以上を映像として取得できれば全周映像として使用できる。
また、画角が制限された通常のカメラの場合でも、CV演算の精度としては低下するが、全周映像の一部分として取り扱うことが可能である。
仮想球面に貼り付けられた球面画像データは、仮想球面に貼り付けた状態の球面画像(360度画像)データとして保存・出力される。仮想球面は、広範囲映像を取得するカメラ部を中心点とした任意の球面状に設定することができる。
図4(a)は球面画像が貼り付けられる仮想球面の外観イメージであり、同図(b)は仮想球面に貼り付けられた球面画像の一例である。また、同図(c)は、(b)の球面画像をメルカトール図法に従って平面展開した画像例を示す。
CV演算部20では、まず、特徴点抽出部21が、全周ビデオ映像部10の全周ビデオカメラ11で撮影されて一時記録された動画像データの中から、十分な数の特徴点(基準点)を自動抽出する。
特徴点対応処理部22は、自動抽出された特徴点を、各フレーム間で各フレーム画像内において自動的に追跡することで、その対応関係を自動的に求める。
カメラベクトル演算部23は、対応関係が求められた特徴点の三次元位置座標から各フレーム画像に対応したカメラベクトルを演算で自動的に求める。
誤差最小化部24は、複数のカメラ位置の重複演算により、各カメラベクトルの解の分布が最小になるように統計処理し、誤差の最小化処理を施したカメラ位置方向を自動的に決定する。
高精度カメラベクトル演算部26は、三次元情報追跡部25で得られた追跡データに基づいて、カメラベクトル演算部23で得られるカメラベクトルより、さらに高精度なカメラベクトルを生成,出力する。
そして、以上のようにして得られたカメラベクトルが、後述するCV映像によるCVタグ入出力検索装置100に入力され、CVタグの生成や貼り付け処理に利用されることになる。
特徴点を充分に多くとることにより、カメラベクトル情報が重複することになり、重複する情報から誤差を最小化させて、より精度の高いカメラベクトルを求めることができる。
一般に、静止した三次元物体は、位置座標(X,Y,Z)と、それぞれの座標軸の回転角(Φx,Φy,Φz)の六個の自由度を持つ。従って、カメラベクトルは、カメラの位置座標(X,Y,Z)とそれぞれの座標軸の回転角(Φx,Φy,Φz)の六個の自由度のベクトルをいう。なお、カメラが移動する場合は、自由度に移動方向も入るが、これは上記の六個の自由度から微分して導き出すことができる。
このように、本実施形態のカメラベクトルの検出とは、カメラは各フレーム毎に六個の自由度の値をとり、各フレーム毎に異なる六個の自由度を決定することである。
まず、上述した全周カメラ映像部10の全周ビデオカメラ11で取得された画像データは、間接に又は直接に、CV演算部20の特徴点抽出部21に入力され、特徴点抽出部21で、適切にサンプリングされたフレーム画像中に、特徴点となるべき点又は小領域画像が自動抽出され、特徴点対応処理部22で、複数のフレーム画像間で特徴点の対応関係が自動的に求められる。
具体的には、カメラベクトルの検出の基準となる、十分に必要な数以上の特徴点を求める。画像間の特徴点とその対応関係の一例を、図5〜図7に示す。図中「+」が自動抽出された特徴点であり、複数のフレーム画像間で対応関係が自動追跡される(図7に示す対応点1〜4参照)。
ここで、特徴点の抽出は、図8に示すように、各画像中に充分に多くの特徴点を指定,抽出することが望ましく(図8の○印参照)、例えば、100点程度の特徴点を抽出する。
本実施形態では、例えば、360度全周画像のエピポーラ幾何からエピポーラ方程式を解くことによりカメラ運動(カメラ位置とカメラ回転)を計算するようになっている。
十分な数の特徴点を与えることにより、線形代数演算により最小自乗法による解としてt及びRを計算することができる。この演算を対応する複数フレームに適用し演算する。
カメラベクトル演算に用いる画像としては、原理的にはどのような画像でも良いが、図7に示す360度全周画像のような広角画像の方が特徴点を数多く選択し易くなる。そこで、本実施形態では、CV演算に360度全周画像を用いており、これによって、特徴点の追跡距離を長くでき、特徴点を十分に多く選択することができ、遠距離、中距離、短距離それぞれに都合の良い特徴点を選択することができるようになる。また、回転ベクトルを補正する場合には、極回転変換処理を加えることで、演算処理も容易に行えるようになる。これらのことから、より精度の高い演算結果が得られるようになる。
なお、図7は、CV演算部20における処理を理解し易くするために、1台又は複数台のカメラで撮影した画像を合成した360度全周囲の球面画像を地図図法でいうメルカトール図法で展開したものを示しているが、実際のCV演算では、必ずしもメルカトール図法による展開画像である必要はない。
さらに、誤差の分布が大きい特徴点につては削除し、他の特徴点に基づいて再演算することで、各特徴点及びカメラ位置での演算の精度を上げるようにする。
このようにして、特徴点の位置とカメラベクトルを精度良く求めることができる。
図9では、図7の画像1,2に示した特徴点1〜4の三次元座標と、画像1と画像2の間で移動するカメラベクトル(X,Y,Z)が示されている。
図10及び図11は、充分に多くの特徴点とフレーム画像により得られた特徴点の位置と移動するカメラの位置が示されている。同図中、グラフ中央に直線状に連続する○印がカメラ位置であり、その周囲に位置する○印が特徴点の位置と高さを示している。
具体的には、CV演算部20では、画像内には映像的に特徴がある特徴点を自動検出し、各フレーム画像内に特徴点の対応点を求める際に、カメラベクトル演算に用いるn番目とn+m番目の二つのフレーム画像FnとFn+mに着目して単位演算とし、nとmを適切に設定した単位演算を繰り返すことができる。
mはフレーム間隔であり、カメラから画像内の特徴点までの距離によって特徴点を複数段に分類し、カメラから特徴点までの距離が遠いほどmが大きくなるように設定し、カメラから特徴点までの距離が近いほどmが小さくなるように設定する。このようにするのは、カメラから特徴点までの距離が遠ければ遠いほど、画像間における位置の変化が少ないからである。
このようにして、フレーム画像FnとFn+mに着目した単位演算を行うことにより、m枚毎にサンプリングした各フレーム間(フレーム間は駒落ちしている)では、長時間かけて精密カメラベクトルを演算し、フレーム画像FnとFn+mの間のm枚のフレーム(最小単位フレーム)では、短時間処理で行える簡易演算とすることができる。
このようにして、画像の進行とともにnが連続的に進行することにより、同一特徴点について複数回演算されて得られる各カメラベクトルの誤差が最小になるようにスケール調整して統合し、最終のカメラベクトルを決定することができる。これにより、誤差のない高精度のカメラベクトルを求めつつ、簡易演算を組み合わせることにより、演算処理を高速化することができるようになる。
これによって、各特徴点及びカメラ位置の誤差が最小になるようにスケール調整する形で統合し、距離演算を行い、さらに、誤差の分布が大きい特徴点を削除し、必要に応じて他の特徴点について再演算することで、各特徴点及びカメラ位置での演算の精度を上げることができる。
具体的には、まず、三次元情報追跡部25で、カメラベクトル演算部23,誤差最小化部24を経て得られたカメラベクトルを概略のカメラベクトルと位置づけ、その後のプロセスで生成される画像の一部として得られる三次元情報(三次元形状)に基づいて、複数のフレーム画像に含まれる部分的三次元情報を隣接するフレーム間で連続的に追跡して三次元形状の自動追跡を行う。
そして、この三次元情報追跡部25で得られた三次元情報の追跡結果から、高精度カメラベクトル演算部26においてより高精度なカメラベクトルが求められる。
そこで、特徴点追跡で得られるカメラベクトルを概略値と位置づけ、その後のプロセスで得られる三次元情報(三次元形状)を各フレーム画像上に追跡して、その軌跡から高精度カメラベクトルを求めることができる。
三次元形状の追跡は、マッチング及び相関の精度を得やすく、三次元形状はフレーム画像によって、その三次元形状も大きさも変化しないので、多くのフレームに亘って追跡が可能であり、そのことでカメラベクトル演算の精度を向上させることができる。これはカメラベクトル演算部23により概略のカメラベクトルが既知であり、三次元形状が既に分かっているから可能となるものである。
また、得られた三次元形状を、カメラ位置から二次元画像に変換して、二次元画像として追跡することも可能である。カメラベクトルの概略値が既知であることから、カメラ視点からの二次元画像に投影変換が可能であり、カメラ視点の移動による対象の形状変化にも追従することが可能となる。
例えば、図13に示すように、車載カメラからの映像を平面展開して、各フレーム画像内の目的平面上の対応点を自動で探索し、対応点を一致させるように結合して目的平面の結合画像を生成し、同一の座標系に統合して表示する。
さらに、その共通座標系の中にカメラ位置とカメラ方向を次々に検出し、その位置や方向、軌跡をプロットしていくことができる。CVデータは、その三次元位置と3軸回転を示しており、ビデオ映像に重ねて表示することで、ビデオ映像の各フレームでCV値を同時に観察できる。CVデータをビデオ映像に重ねた表示した画像例を図13に示す。
なお、ビデオ映像内にカメラ位置を正しく表示すると、CV値が示すビデオ映像内の位置は画像の中心となり、カメラ移動が直線に近い場合は、すべてのフレームのCV値が重なって表示されてしまうので、例えば図13に示すように、敢えてカメラ位置から真下に1メートルの位置を表示することが適切である。あるいは道路面までの距離を基準として、道路面の高さにCV値を表示するのがより適切である。
次に、以上のようにして求められたCV値に基づいてCV映像中にCVタグを生成・貼り付け処理を行い、CVタグにリンクした諸データの設定・表示・更新等を行う本発明に係るCV映像によるCVタグ入出力検索装置の実施形態について、図面を参照しつつ具体的に説明する。
まず、図14及び図15を参照して、本発明の第一実施形態に係るCV映像によるCVタグ入出力検索装置について説明する。
図14は、本発明の第一実施形態に係るCV映像によるCVタグ入出力検索装置の基本構成を示すブロック図であり、特にカーナビゲーション目的に好適なCVタグ入出力検索装置の構成を示している。
図14に示すように、本実施形態に係るCV映像によるCVタグ入出力検索装置100は、所定の管理地域を撮影したビデオ映像中の任意の対象物や三次元空間に、三次元情報を持つCVタグを貼り付け、CVタグにリンクした対象物等の諸データを管理するための装置であり、具体的には、CV映像記録部101と、CVタグ表示装置102と、CVタグ入力装置103と、CVタグデータベース104と、CVタグ自動検索装置105と、CVタグ対象物管理装置106とを備えている。
具体的には、管理対象物1001は、道路管理目的であれば、路面、街路灯、ガードレール、電柱、道路表示、標識、行き先表示などであり、カーナビゲーション目的であれば信号機、道路表示、車線、標識、行き先表示板、障害物、他車両などとなる。
CV映像は、画像を取得したカメラ位置と姿勢の三次元座標と角度を6変数で、画像の各フレームについて求めたもので、カメラ位置と姿勢が既知となったことで、複数のフレームから対象の三次元座標が求められる。
CVタグ表示装置102は、CV映像記録部101に記録されたCV映像を表示する。そして、そのCV映像を、動画として画像フレームが移動しても、映像とCVタグの三次元的位置関係を保持したままCVタグを表示し、及びCVタグを開封しその内容を表示する。
そして、本実施形態では、CVタグは、CV映像中に情報の出入り口として配置されるようになっている。
CVタグの置き方としては、対象物に重ねて、又は対象物から多少話した仮想位置に対象物を特定する位置に設置し、情報の出入り口とする。
また、CVタグは、実写をそのままCVタグとして利用する形態と、小型のCGをタグとして貼り付ける形態の二種類があり、本実施形態では、いずれのCVタグを使用することもできる。
実写型CVタグは実写そのものを用いるので、タグは目では見えないことになり、映像を観察するときに障害とはならない点が、CG方式に比べて有利である。ただ、CV映像からタグの位置を指定したり検索するためには、画像内でその都度三次元計測を行う必要があり、この点はCG方式の方が有利となる。
なお、CGを用いたCVタグは、実写型と異なりタグが映像中に見えることになり、映像観察上不利になることはあるが、却って見えた方が都合の良いこともある。また、CGを透明化することも可能であり、目では見えないが、クリックすればそこでCGの三次元座標を取得し、タグを特定できることになる。
従って実写方式でなくCG方式でも、タグそのものを映像中に隠して、置くことが可能となる。透明であれ可視であれ、CV映像中に配置されたCVタグであるCGは、既に三次元座標を持っているので、その場で三次元座標を計測する必要はないことになり、実写方式に比較して、呼び出しや検索に有利となる。
上述したように、動画像をCV演算することで三次元的に扱うことができるようになり、任意の対象物や三次元空間の三次元情報を得ることができ、これらに自由にCVタグを貼り付けることができる。
なお、このようにCV値が付加されたCV映像には、CVタグ以外にも、別途CGを合成することもできる。CV映像とCGとの合成技術は本願発明者による特開平2005−122315号に提案されている。
CVタグ入力装置103は、CV映像中の管理対象物1001に直接CVタグを入力する。具体的には、CVタグ入力装置103では、CV映像地図を用いて管理対象物を三次元計測し、CVタグの三次元座標を管理対象物の三次元座標と合致させて当該対象物にCVタグを設置(貼り付け)するか、あるいはCVタグが管理対象物を隠さないように、管理対象物の近傍に設置(貼り付け)する。これにより、CVタグの座標設定は完了する。
具体的には、CVタグ入力装置103は、CVタグがクリック(開封)されると、諸データの書き込み用の画面を展開し、そのフォーマットに従って所定情報が書き込まれると、当該データをCVタグデータベース104に登録する。
このようにして諸データがデータベースに書き込まれてCVタグデータベース104に登録されると、以後はそのCVタグを開封(クリック)すれば、登録された情報が画面上に表示されるようになる。このようにCVタグは、管理対象物の所定情報を開封・表示させるためのアイコンとして機能するものである。
上述したCVタグ入力装置103により、CVタグを開封してリンクしたファイルに管理対象物に関する画像やテキストデータ等の諸データを書き込む作業をすることで、直接CVタグデータベース104に書き込むことなく、CVタグ関連の諸データは自動的にCVタグデータベース104に記録され、CVタグ自動検索装置105による検索や選択により呼び出されることになる。
具体的には、CVタグ自動検索装置105によるCVタグデータベース104の検索は、例えば、文字検索、座標検索、属性検索等により行われ、既に登録されている管理対象物を検索し、また、未登録の管理対象物を検索することも可能である。そして、検索により抽出されたCVタグ又は管理対象物は、CV映像上に点滅表示やフラッシュ表示され、三次元位置が呈示されることになる。
ここで、文字検索は画像の中から文字を自動認識することにより行われ、また、座標検索は、地図として用いるCV画像が絶対座標を持っていることから、動画であっても座標を特定して検索することが可能となる。
例えば、交通標識で一方通行の標識の画像を用意しておき、この一方通行の標識の画像で検索すると、画像中の一方通行の標識をすべて検索して、その位置を示すことができる。
なお、未登録の管理対象物の検索は対象物認識の技術が必要となり、検索にはある程度の時間がかかることになる。従って、前もって入力・登録してある管理対象物に関する諸データから検索する方が検索速度としては高速化されることになる。
上述したCVタグ表示装置102に表示されるCV映像について、CVタグ自動検索装置105でCVタグを検索することで、管理対象物を自動的に特定することができる。また、表示されたCV映像中の管理対象物をCV映像の中にタッチスクリーンにタッチし、又はマウス等でCVタグをクリックして、CVタグを選択することで、CVタグデータベース装置からCVタグに対応する管理対象物のデータを読み出して管理することができる。
このように、CV映像上で管理対象物を特定するには、自動検索によるか、画像上の管理対象物を直接マウスでクリックすることで完了する。
積載移動手段1002は、CVタグ入力装置103と、CVタグデータベース104と、CVタグ対象物管理装置106とを車両等に積載し、管理地域及び管理対象物周辺を移動する移動手段である。
このような積載移動手段は、本発明にかかるCV映像によるCVタグ入出力検索装置100をカーナビゲーション仕様とする場合に必要となるものであり、これにより、本発明を利用した次世代カーナビゲーションシステムとして構成することができる。
リアルタイム映像は単なるモニタとしてのみならず、直接CV演算するか、又はリアルタイム映像を予め用意したCV映像地図と位置合わせすることにより、CV値を取得してリアルタイムCV映像として様々に利用することができる。
この対象物認識装置108における対象物の自動認識処理は、例えばPRM技術を利用することにより行うことができる。
PRMとは、Parts Reconstruction Method(3D対象物認識方法)の略であり、本願発明者により開発された対象物を認識するための技術である(国際出願PCT/JP01/05387号(国際公開WO 02/01505)参照)。具体的には、PRM技術は、前もって予想される対象物の形状と属性を部品(オペレータ部品)としてすべて用意しておき、それら部品と現実の実写映像を対比して、一致する部品を選択して対象物を認識する技術である。例えば、走行車輌等に必要となる対象物の「部品」は、道路標示としての車線、白線、黄線、横断道、道路標識としての速度標識、案内標識などであり、これらは定形のものであるので、PRM技術によりその認識は容易に行える。また、対象物をCV映像中に検索する場合においても、その対象物の存在する予想三次元空間を狭い範囲に限定することが可能となり、認識の効率化が可能となる。
なお、PRM認識によって、あらゆる監視対象物(予測される対象物、障害物、不審物等)が認識されるとは限らない。すなわち、記憶となるデータベースに情報が存在しない対象物は認識できない。しかし、これは特に問題となるものではない。人間であっても記憶にないものは認識できないのと同様である。認識とはそのもの、あるいは、そのものに近いものの記憶との対比によって得られるものであるからである。
なお、対象物認識装置108によって認識できない場合には、本装置100のオペレータ(人間)が認識して外部データベース装置109に登録・記憶させることは勿論可能であり、このようにすれば、それ以降は、当該対象物は対象物認識装置108によって自動認識されることになる。
一般に、カーナビゲーションシステムにおいては、地図の入ったDVDディスク等の記憶手段を備えるが、本装置100においても、内部データベース(CV映像記録部101及びCVタグデータベース104)がそのような記憶手段に相当する。
しかし、CV映像の場合には情報量が多いために、既存のカーナビゲーションのように全国すべてのCV映像及びCVタグ情報をDVDディスクやハードディスクに記憶させることは困難である。
そのために、本装置100の外部と内部にデータベースを備える二重構造としてある。なお、このようにすることで、行き先の途中で新たな情報を取り込んだ場合に、それ以前の情報を外部データベース側に戻すことで、多くの利用者によりデータを共有化することも可能となる。
外部CV映像地図データベース部109aは、本装置の外側にあって、DVD、ハードディスク等の記録媒体により、若しくはWeb等の通信により、本装置内側の管理地域及びその周辺のCV映像地図をCV映像記録部103に一時記憶して保持させる。
同様に、外部CVタグデータベース部109bは、本装置の外側にあって、DVD、ハードディスク等の記録媒体により、若しくは通信により、本装置内側の管理地域及びその周辺のCVタグとその属性情報を前記CVタグデータベースに一時記憶して保持させる。
なお、本装置100側のCVタグ自動検索装置104等で取得したデータを外部データベース側に送ることも可能である。
新旧映像更新装置110bは、本願発明者による特開平2005−303952号に提案されている技術であり、新旧両映像のCV値を利用して対応する新旧映像の対応関係をとり、両映像を座標統合し、両者の三次元対応関係を取得し、映像を更新することができるものである。
このような移動体位置決め手段110により、GPS110aにより現在位置を取得して、新旧映像更新装置110bにより、車両の現在地点を絶対座標で取得して、その地点の映像を表示することができる。
ここで、走行目的とは、ドライブ、道路路面管理、標識管理、路面性状調査、などであり、その目的によって表示されるCVタグは異なるので、目的にあったCVタグを自動表示するようにする。
なお、上述した、リアルタイムCV映像取得装置107と、対象物認識装置108と、外部データベース装置109と、移動体位置決め手段110及びCVタグ自走表示装置103aは、すべての装置とすべての手段を同時に備えるようにしてもよいが、一部の装置と一部の手段を選択的に備えることもできる。
[動画ロックオン表示]
動画ロックオン表示は、選択及び検索した管理対象物を、管理対象物を画像の決められた位置に固定して表示する機能である。
ロックオン表示は、ロックオンすべき任意の対象物を画像内に指定すると、CV演算で得られたカメラベクトルに基づいて、画像内に指定した対象物を実写座標系で計測してその三次元座標を求め、三次元座標が求められた指定対象物が、常に画枠の中心位置(又は任意の所定位置)に表示されるように、画像表示又はカメラ(カメラが固定される固定物)の位置及び姿勢を制御することができる。
あるいは、目的対象物を画像内の指定位置に常に表示するようにカメラを制御することができる。
このロックオン機能により、CVタグ、若しくは管理対象物をCV映像地図上で直接指示すれば、選択した管理対象物をロックオンで画像中央に常に表示することができるので、視認および操作が容易となる。
複数CV映像表示は、CV映像地図は縮尺の異なる複数のCV映像地図を表示し、しかも座標系を統一して、同じCVタグを前記複数のCV映像地図に上に表示する機能である。
なお、上述したように、CVタグはCGアイコンにより構成される場合と、実写アイコンにより構成される場合がある。また、アイコン機能を持たない単なるCGを表示することができることは勿論である。
地図同期表示は、CV映像地図と二次元地図を同時に表示し、二次元地図上にもCVタグを表示する機能である。
CVタグはもともと三次元座標を持つので、二次元化することは容易に行える。
リアルタイムCV映像表示は、選択及び検索した管理対象物を、CV映像地図と同じように、リアルタイムCV映像にCVタグを表示する機能である。これは現時点の現実映像であり最もリアリティーがある表示となる。なお、リアルタイム演算となるために、処理には一定の制限があり得る。
現実重複表示は、選択及び検索した管理対象物を、CV映像上に表示せずに、ヘッドマウント、又はハーフミラー等により、移動する車両等から直接観察する現実世界の管理対象物に重複して合成した、CVタグや案内矢印CG、看板CG等を示す機能である。
すなわち、CV映像を用いず、現実世界の実像そのものにハーフミラーで光学的に合成して、CVタグや案内矢印CGや看板CGを合成することができる。
ここで、カメラが取得した映像は見るための映像ではなく、CV値を取得するための映像となる。車両が揺れていても、CV演算によりCV値を求め、CVタグや案内矢印CGや看板CGをハーフミラーで合成した正しい位置表示できることになる。
観察者から見れば、車両が揺れていても、管理対象物に対して、ずれることなく正しい位置に安定してCVタグや案内矢印CGや看板CGが観察されることになる。
タグをクリックするには、マウスよりはライトペン、又は三次元プローブのような三次元空間上の一点を指示出る装置が好ましい。
音声案内表示は、選択及び検索した管理対象物に関するCVタグの内容を、音声で案内表示する機能である。これは、特にカーナビゲーションシステムには必要な機能となる。
なお、以上のような各機能は、すべてを行わせることもできるが、少なくともいずれか一部の機能を有するものであってもよい。
これによって、ICタグのように、タグを取り付けた対象物のある現場に行かなくても、CV映像上でCVタグをクリックすることで情報を確認することができ、またCVタグ上で情報の更新や削除も可能となる。
このようにCVタグで情報の確認や更新、削除の操作ができることで、わざわざICタグを現実の対象物に取り付けなくても、所望の対象物のすべてをCV映像中で管理することができるようになる。
次に、図16〜図25を参照して、本発明の第二実施形態に係るCV映像によるCVタグ入出力検索装置について説明する。
図16は、本発明の第二実施形態に係るCV映像によるCVタグ入出力検索装置の基本構成を示すブロック図である。
同図に示すように、本実施形態に係るCV映像によるCVタグ入出力検索装置200は、上述した第一実施形態のCVタグ入出力検索装置100(図16参照)の変更実施形態であり、CVタグとともにICタグを使用できるようにしたものである。
無線ICタグは、対環境性に優れた数cm程度の大きさで、電波や電磁波で読み取り器と交信するものであり、近年ではアンテナ側からの非接触電力伝送技術により、電池を持たない半永久的に利用可能なタグも登場している。
形状は、ラベル型、カード型、コイン型、スティック型など様々であり、用途に応じて選択することができる。通信距離は数mm程度のものから数mのものがあり、これも用途に応じて使い分けられ、本実施形態においても、対象物の種類や大きさ、形状、周囲の環境等に応じて、最適なICタグを選択することができる。
まず、本装置200においても、所定の管理地域等に管理しようとする現実の管理対象物1001がある。
ICタグ入力装置205は、管理対象物1001に関する情報を電子データでICタグに書き込み、管理対象物に直接ICタグを貼り付けるため入力装置である。
ICタグデータベース202bは、ICタグと管理対象物1001とを関連付ける諸データを格納するデータベースである。
ICタグ対象物管理装置206は、管理対象物1001に接近してICタグを電子的に読み取る読み取り手段である。
CVタグ入力装置201は、管理対象物及び周辺を撮影して、CV値を付加したCV映像の中の管理対象物に対して、CV映像の中にCVタグを直接重ねて貼り付けるか、若しくは管理対象物の三次元的位置をCV映像の中で特定できるように、CV映像の中にCVタグを三次元的に配置する。
ここで、本実施形態では、共通の対象物に対して、ICタグとCVタグの双方を取り付けることができるが、タグの取り付け順としては、先にICタグを貼り付けて、その後にCV映像の中のICタグに対応する位置にCVタグを貼り付ける場合と、先にCV映像を取得し、その中の映像としての管理対象物にCVタグを貼り付け、その後に現実世界の対応地点にICタグを貼り付ける場合がある。
そして、本実施形態では、CVタグデータベース202aとICタグデータベース202bとを統合する上位のデータベースとしてタグデータベース装置202が備えられている。
このタグデータベース装置202は、同一管理対象物についてはICタグとCVタグとのデータを共通化してデータ管理している。
図17に、CVタグ対象管理装置203により行われる各種管理機能の具体例を示す。この機能は、上述した第一実施形態におけるものとほぼ同様である。
図18は、本実施形態に係るCVタグ入力装置の詳細構成を示すブロック図である。
同図に示すように、CVタグ入力装置201は、CV映像表示部201aと、CVタグ位置指定部201bと、座標演算取得部201cと、CVタグ固定部201dと、入力完了設定部201eとを備えている。
さらに、CVタグ入力装置201には、対象物自動認識部201fと、座標自動演算部201gを備えることができる。
ここでCV映像は動画映像であり、その各フレームのカメラ位置と姿勢(CV値)を何らかの方法で取得した映像を意味する。従って、CV値は必ずしも映像からCV演算することで取得する必要はなく、他の手法、例えばGPSとIMUによっても取得できる。
CVタグ位置指定部201bは、表示されたCV映像の中の管理対象物に、若しくはその近傍に、管理対象物を特定して示すCVタグを映像面上に指定する。指定はマウス等の入力手段を使用して行うことができる。管理対象物が複数有れば、複数の指定が可能である。
座標演算取得部201cは、CVタグ位置指定部201bで指定した映像面上の位置の三次元座標を演算して求める。
CVタグ固定部201dは、取得された前記三次元座標をCVタグの座標として固定し、管理対象物を三次元的に指定してCVタグと関連付ける。
入力完了設定部201eは、取得されたCVタグの入力を完了して登録する。
ここで登録されたCVデータは、上述したタグデータベース装置202のCVタグデータベース202aに記録される。
座標自動演算部201gは、自動認識した対象物の三次元座標の位置を自動的に演算して求め、自動的にCVタグを貼り付ける。
このような自動認識手段を備えることにより、本発明に係るCVタグの複合人工知能装置への利用が可能となる。
具体的には、複合型人工知能装置において、人工知能を持つ複数の物体が、相互自動認識、相互自動位置取得、相互自動理解を機能させるときに、認識時にCVタグを利用して、相互自動属性取得により相互に情報をやり取りすること、及び、理解した結果をCVタグの内容として記録することができる。
CV映像を用いる複合型人工知能にCVタグを適用することで、対象物間は自動的に相互認識し、相互通信し、相互理解をすることになり、そのときの相互認識、相互理解には本発明のCVタグがきわめて有効な手段となる。属性認識にはCVタグのデータベースを利用し、又自動認識結果をCVタグのデータに反映させることができる。
図19は、本実施形態のCVタグ入力装置201で行われる各種機能の詳細を示すブロック図である。
同図に示すように、CVタグ入力装置201は、図18に示した構成に対して、さらに、CVタグ範囲指定部301と、CVタグ内容記録部302と、CVタグ形状選択部303と、CVタグ位置姿勢微調整部304と、リンク情報設定部305と、CVタグ内容確認部306と、設定解除部307の各部を備えることができる。
CVタグ範囲指定部301は、CVタグの配置の範囲を二次元的に、若しくは三次元的に制限して指定する。具体的には、CVタグ範囲指定部301は、CVタグの配置の範囲を例えば二次元的な複数の面を用意して、その面内に配置するように制限して設定し、若しくは配置範囲を三次元的な範囲に制限して指定する。
CVタグ内容記録部302は、CVタグに書き込む属性又は通信内容を記録する。記録される属性や通信内容としては、例えば管理上の記録データ、写真、図面等がある。
CVタグ形状選択部303は、CVタグの形状等を前もって用意した様々な候補から選択する。
さらに、CVタグ入力装置201の入力完了設定部201eは、リンク情報設定部305と、CVタグ内容確認部306と、設定解除部307を備える。
リンク情報設定部305は、CVタグは、他のCV映像や地図においてもリンクして表示できるように、その位置と姿勢と種類を登録する。例えば三次元地図、空撮映像、過去の地上撮映像、構造物内の映像、完成予想CG等、他のCV映像や地図においてもリンクして表示できるように、その位置と姿勢と種類を登録する。
CVタグ内容確認部306は、登録すべきCVタグの内容を確認する。
設定解除部307は、必要に応じて、CVタグの内容又はCVタグの設定を解除する。
図20は、本実施形態のCVタグ入出力検索装置200において、ICタグとCVタグとを対応させて入力させるための構成を示すブロック図である。
本実施形態では、ICタグとCVタグとデータを共有して機能させるために、ICタグとCVタグとを対応させて入力させることができる。
なお、ICタグとCVタグとを対応させて入力する場合、ICタグを先に設置してから、後にCV映像の中の対応点にCVタグを貼り付ける場合と、CVタグを先にCV映像上で貼り付けてから、それを参照しながら、現実対象物にICタグを貼り付ける場合と、二者を同時に貼り付ける場合がある。
同一点指定部205bは、現実世界の対象物を、対応するCV映像内の管理対象物に同一指定をし、CVタグ位置指定部に結合して対応させる。
ICタグ内容コピー部205cは、入力完了設定部において、対応するICタグとCVタグの内容を共通化する。
タグデータベース装置202は、ICタグデータベース202aとCVタグデータベース202bとで共通のデータベースを構築する。
以上のような構成により、ICタグとCVタグとデータを共有して機能させることができる。
そこで、ICタグ入力装置205、ICタグデータベース202a及びICタグ対象物管理装置206を省略し、ICタグを用いずCVタグのみで管理対象物を管理することも可能である。
また、同一データがCVタグからでも取得できることになれば、多くは現地に行かずに、対処物に直接接近せずに、CV映像上で管理することができるので、その結果CVタグの利用率が上がり、ICタグの利用率が低下することになることが予想される。
また、物理的にICタグを設置できない場所や高温高圧、高レベル放射線など物理的に極限条件にある場所や危険地域もある。
そこで、ICタグそのものと、ICタグ入出力手段のすべてを省略しても、それなりの管理が可能であることになる。
現地に行かずにCV映像中のみで管理対象物を管理することができることになり、ICタグによる不便さを解消することになる。
換言すれば、本発明によれば、ICタグの代わりをCVタグが行うということになる。
すなわち、CVタグのみによる対象物管理が本発明のCV映像によるCVタグ入出力検索装置の本質となる。
図21は、本実施形態のCVタグ入出力検索装置200において、インターネット環境下で、他の装置との間でCVタグ情報についてのコミュニケーションを図るための構成を示すブロック図である。
同図に示すように、本実施形態によれば、データ通信、及びコミュニケーションにはインターネットを積極的に活用し、インターネットを介して不特定多数が自由に参加し、不特定多数がCV映像にCVタグを貼り付け、CVタグ内に情報を記載し、そのことで相互のコミュニケーションを図り、さらに、本装置の管理者は集計データを生成するなど、二次データ加工処理をも追加して行うことが可能となる。
Web2103を介して不特定多数の一般ユーザ2102が自由に参加し、CV映像にCVタグを貼り付け、CVタグに情報を書き込み、又は読み取りを行わせ、それによって、本装置200の管理者2101と一般ユーザ2102、及び複数の一般ユーザ2102間で、相互のコミュニケーションを図ることができる。
また、本装置の管理者2101は、集計手段2101aを備え、相互コミュニケーションによる集計データを生成し、そのデータを管理や販売に役立てることなどが可能となる。
同図に示すように、インターネット環境下で公開されたCV映像は二次元地図とともに一般ユーザ側で表示・閲覧でき、ユーザが任意の住所や地点(図22参照)、店舗、レストラン、食堂(図23参照)等に、所望の形状等のCVタグを貼り付け、CVタグに所定の属性情報等を書き込み、また、書き込まれた属性情報等の読み取り・表示等を行わせることができる。
これにより、管理者のみならず、不特定多数の人が、CVタグを貼り付け、又はCVタグを共有し、情報を共有し、自由に参加する環境を提供することができ、これまでのインターネット環境が大きく変わることになる。
なお、ここでは当然公開するCVツールと非公開とを分離することも可能であり、管理者がその選択権を持つことになる。
図24は、本実施形態のCVタグ入出力検索装置200において、地図とCV映像の同期標示を行うための構成を示すブロック図である。
同図に示すように、本実施形態では、CVタグ対象物管理装置203に、CV映像部203aと、地図部203bと、座標統合部203cと、同期属性表示部203dとを備えるようにしてある。
CV映像部203aは、CV映像として管理地域周辺を案内する手段であり、地図部203bは、地図として管理地域を案内する手段である。
座標統合部203cは、管理地域周辺を案内する地図と管理対象周辺部を案内するCV映像とを座標統合する。
同期属性表示部203dは、CVタグを、地図とCV映像とに同期表示を可能とし、どちらのCVタグをクリックしても属性標示を可能とする。
映像と地図とのリンクについては、「道路・河川等の現況ビデオ検索装置」(特許第3099103号)の技術を利用することができる。
なお、上記の「道路・河川等の現況ビデオ検索装置」では、地図と映像のカメラ位置が点で面的(自由度2)に対応しているのみであるが、本発明においては、地図と映像の関係を、三次元的位置と姿勢、つまり6自由度で対応をとってあり、重ね合わせも可能である。つまり、三次元地図と映像が完全に対応がとれている表示が可能となる。
なお、地図が二次元の場合は、地図上に貼り付けるタグも二次元とし、地図が三次元の場合はタグも三次元とすることが好ましい。
CV映像部203aのCV映像は、管理地域を示す地図よりも低縮尺である。
ただし、ここで縮尺が本質ではない。目的に応じて同一縮尺程度でも座標統合は可能である。もちろん低縮尺映像としてはCV映像だけではなく、両者の立場を入れ替えて管理対象周辺部を案内手段として地図とし、高縮尺の管理地域を案内する手段としてCV映像とすることも可能である。
さらに、地図は二次元のみならず三次元でもよく、CV映像との本質的な区別はない。また、CGとの区別もない。座標の持つものはどのような手段でも座標統合は可能である。
なお、本実施形態において、図24に示すCV映像部203aと、上述しCVタグ入力装置201のCV映像表示部201a(図18〜図20参照)は別々に設けられているが、同一のコンピュータにインストールされる場合は、同じ内容の映像を二つ持つ必要はないので、これらは単一の構成とすることができる。
図25は、本実施形態のCVタグ入出力検索装置200を移動手段に搭載して管理対象物とともに移動させる構成を示すブロック図である。
同図に示すように、本実施形態では、管理対象物1001として、例えばICタグを貼り付けて管理される荷物を想定しており、管理対象物1001は移動手段400によって運搬されて移動するようになっている。
そして、その荷物にカメラ(移動体カメラ401)を取り付けるとともに、CVタグ入出力検索装置200も移動手段400に搭載して荷物とともに移動させ、運搬中の荷物とその周囲の対象物をリアルタイムに管理できるようにしたものである。
なお、移動する管理対象物1001は、特に荷物に限られるものではなく、どのような対象物であっても、その対象物にカメラを取り付けて、対象物自身とその周辺を管理できるものであればよい。その意味で、本実施形態は、上述した複合人工知能装置と同様のものとなる。
そして、CVタグ入力装置200は、移動手段400にカメラを設置し、管理対象物1001を含むリアルタイムCV映像を取得して表示し、若しくは移動する管理対象物そのものにカメラを設置し、リアルタイムCV映像を取得して表示する移動CV映像表示部を備える。
これにより、管理対象物1001とともに移動しながら、CVタグを貼り付けた管理対象物とその周辺をCV映像として取得し、CVタグをリアルタイムで表示し、管理することが可能となる。
移動体カメラから管理対象物の移動を三次元座標で求めるには、既存のCV映像と移動体CV映像は座標統合されるので、静止座標系に関連づけた座標系を移動体の座標系として関連づけて表示し、これによってCVタグを管理できる。
このような複数のカメラによる座標統合と位置決定については、本願発明者による特開平2005−322002号に提案されている複合人工知能装置の技術を用いることで可能となる。
また、本実施形態においても、管理対象物1001にはICタグを貼り付けてもよく、また、ICタグを省略しCVタグのみとしてもよい。
また、図25における管理対象物が移動する場合とは、カーナビゲーションにおいては、隣接して走行する車両を管理できることにもなる。
具体的には、上述したCVタグ入出力検索装置200のうち、CVタグ対象物管理装置203を、若しくはCVタグ入力装置200を、車両等の移動手段に積載して移動させる。
また、車両等の移動手段の座標をリアルタイムで取得するGPSやICタグなどの座標取得部を備える。
さらに、管理対象物を含むCV映像を取得して表示し、CV映像を取得して表示する移動CV映像表示部を備える。
このような構成により、移動しながらCVタグを貼り付けた管理対象物とその周辺をCV映像として取得し、CVタグをリアルタイムで表示し、管理及び案内することができる。GPSは精度の点から、CV映像の高精度の座標に到達するまでの概略位置決定のための手段として機能させることが好ましい。
ここで、GPSから計測した座標はリアルタイム映像取得時のカメラ位置、又は記録されているCV映像のカメラ座標に対応させるが、ICタグから取得した三次元座標は対象物の座標であり、その位置関係の変換は自由である。基本的にGPSとICタグはリアルタイムで座標を提供するという意味で、機能上は同等である。すなわち、ICタグの座標をGPSに置き換えることができ、これによって、次世代カーナビゲーションではICタグからの情報を画面に表示することができるようになる。
なお、このようにCVタグ入出力検索装置200を移動させて対象物の管理を行う場合に使用する映像は、リアルタイムで取得したリアルタイムCV映像でも、CVタグ対象物管理装置203が前もって取得しているCV映像でも、どちらでも良い。すなわち、リアルタイムで取得する座標はGPSであれ、ICタグであれ、本願発明者による特開平2005−303952号に提案されているリアルタイム位置決め技術であれ、どの方法によるものでもCVタグ入出力検索装置200で使用することができる。
次に、以上のような本実施形態のCV映像によるCVタグ入出力検索装置を利用したより具体的な実施例として、道路管理のためのCV映像によるCVタグ入出力検索装置について、図26を参照して説明する。
図26は、本実施形態のCV映像によるCVタグ入出力検索装置を利用した道路管理のためのCV映像によるCVタグ入出力検索装置の構成を示すブロック図である。
図26に示すように、道路における管理対象物1001にICタグ1001aを貼り付ける。ここでいう管理対象物1001としては、例えば標識、信号機等がある。
ICタグ1001aへのデータ入力はCVタグ入出力検索装置200のICタグ入力装置205で行う。
また、CVタグ入力装置201を使って、管理対象物1001とその周辺を撮影し、CV演算して、表示したCV映像中の管理対象物1001の映像部分にCVタグを貼り付ける。これらのデータはCVタグ入出力検索装置200に貯えられるが、Web等のオンラインで、若しくは後処理によってタグデータベース装置206に送られ、ICタグのデータはICタグデータベース202bに、CVタグのデータはCVタグデータベース202aに記録される。
なお、ICタグ入力装置205とCVタグ入力装置201を同一のPC等にインストールすることで、そのPCを一台持ち歩くだけでよいので便利である。
ICタグに記録できるデータ量は限定されており、一方CVタグに記録できるデータ量は基本的にPC等の記憶容量で決まり膨大な量のデータも格納できる。
そこで、公開データベースには、ICタグのデータを基本データとし、CVタグデータを必要に応じて付け加えることができる。CVタグのデータを詳細データとして位置づけ、基本データは公開し、詳細データは道路感謝専用の非公開の専用データベースとする。
専用データベースは道路管理者が専用で用いるが、公開データベースはWeb上で公開し、一般住民などが直接道路破損状況を伝えたり、意見苦情を書き込んだりすることができるようにする。
一方、詳細データである専用データベースは、CVタグ対象物管理装置203によって開き、検索することができる。
管理者は一般不特定多数によって書き込まれた情報を統計処理し、分析し、解析することができる。管理者は分析結果を公表し、又は販売し、他の目的に利用可能とする。
なお、CVタグ対象物管理装置203は、通常はCVタグ専用であるが、ICタグ対象物管理措置206を含むことができる。すなわち、一台のPC等にCVタグ対象物管理装置203とICタグ対象物管理措置206の両方を含むことができる。
CVタグを管理する上で、CV映像上に表示するだけではなく、CV映像と座標統合した地図上にもタグを貼り付けることができる。また、地図とCV映像がリンクし、CVタグをCV映像と地図上に同期して表示することもできる。
地図は二次元であるので、地図上に貼り付けるタグも二次元とする。
CVタグ対象物管理装置203は、表示されたCV映像の中の複数の対象物1001−1,1001−2,1001−3・・・を同時に管理できる。CV映像中の対象物、又はその対象物に貼り付けられた、又はその対象物の位置を示すCVタグをクリックすれば、その対象物の属性や通信内容を直ちに表示できる。
名称・IDナンバー・設置場所・国籍地名・設置位置(緯度経度高度)・設置日時時間・設置者・管理者・管理内容・特記事項・取り扱い方法・設置方法・取り外し方法・設計者・製造者・修理者・補修履歴・設計図
マルチウインドウ表示・全周映像表示・地図との同期表示・空撮映像との同期表示・タグ表示・非表示切り替え・タグ種別選択表示・ICタグ位置表示・CVタグ内容表示・CVタグ削除・CVタグ書き込み・タグ検索
画像内三次元計測・画像間三次元計測・CG合成表示・景観シミュレーション表示・ロックオン表示・自由視点方向表示・画角変更表示・画像検索・文字検索
ICタグとCVタグとを連結することで、ICタグとCVタグは同じデータベースに接続されることになり、共通のデータベースとして扱われ、ICタグの管理が確立するが、次第にICタグにはID番号と位置情報だけでよいことになる。そして、やがてCVタグのみで管理することができることになる。
ICタグが得意な分野は移動体である。移動体にもCVタグを貼ることはできるが、リアルタイム映像を利用する必要があるので、CVタグの移動体への利用は一定の制約を受けることになる。ただし、本願発明者による特開平2005−322002号に提案されている複合人工知能装置の技術により、移動体であってもCVタグは実現可能である。
図26に示すように、CVタグ入力装置201には、CV映像の中から対象物を自動的に認識する対象物自動認識部201fと、座標自動演算部201gとを備えて、自動的にCVタグを貼り付けるようにする。CVタグは自動認識で自動分類化できるが、ICタグ貼り付けを自動化することは一般には困難であるが、一旦CVタグの自動認識でCVタグを貼り付け、その後にその対応する現場の同位置にICタグを貼り付けることで、ICタグの自動化もある程度可能となる。従って、ICタグにとってもCVタグは有益であり、相性がよいと言える。
図26に示したように、すべてのタグを収納するタグデータベース装置206に接続されるCVタグ対象物管理装置203には自動検索分類部203eを備え、自由に検索し、整理し、目的のタグに到達し、又は目的のタグ群のリストを表示したり、自由な分類表示が可能となる。
また、ICタグの入力(作成)時に、同一情報をCVタグに同時に入力(作成)することができるので、その密着性と関連性はますます高まることになる。
また、CV演算は三次元計測機能を持つことから、ICタグの三次元位置をCVタグ入力装置又はCVタグ対象物管理装置によって正確に決定することができ、これによって、両タグの対応関係が間違うことはない。
さらに、CVタグにより、現実映像を通して現実世界との交流ができることになる。すなわち、現場のCV映像により、現場とコミュニケーションが可能となる。
現在、ユビキタス社会を目指してICタグが盛んに利用されており、対象物を認識するツールとしてICタグが利用される。しかし、本発明のCVタグが浸透すれば、その大部分はCVタグが取って代わることになることが予想されるが、その過程の中でICタグとCVタグは併用され、ICタグとCVタグが融合して利用されることになる。
上述のように、CVタグは必ずしもICタグと併用しなくてもよく、CVタグは単独で使用することができる。
例えば、机上のコンピュータ上で、CV映像を表示し、その中の対象物映像にCVタグを貼り付けることで、ICタグを用いなくても対象部管理はできることになる。
ただし、移動体の管理についてはICタグの方が優れているといえるので、移動体にはICタグ、固定対象物にいてはCVタグというように使い分けることが好ましい。
・現場CV映像の街灯をクリックすれば、街灯のライトをON,OFFすることができる。
・花壇のリアルタイムCV映像であれば、花がしおれている状況をCV映像で確認すれば、散水栓のスイッチをONにすることができる、等である。
・信号機、ビルのシャッター等、リアルタイムのCV映像でコントロールして結果を視覚的に確認することが可能になる。これはICタグではできないことであり、ユビキタス社会の目指す社会でもある。
・リアルタイムCV映像中で、バス停をクリックすれば、バス時刻表を表示する。
・道路の舗装が痛んでいる所をCVタグで示して通報する。
・CV映像中のビル面にタグを貼り付けて、テナント募集をする。
・CV映像中のホテル面にタグを貼り付けて、予約する。
・CV映像中のレストランのタグを開いて予約する。
・CV映像中の道路の事故現場に事故記録を書き込む。
・CV映像中の道路上のCVタグで、道路事務所から道路使用者への関係情報を送る。
・CV映像中のCVタグで対象を特定して、客からの他の客向けの情報発信をする。
・地図とCV映像をリンクし、又は地図と空撮CV映像と座標合わせし、空撮と地上撮とをリンクし、空撮映像にもCVタグを貼り付け、空撮のCV映像のCVタグから、地上のCV映像のCVタグに切り替え、さらに、ビルの内部のCV映像中へ入り、各階の個別の商品や対象物にCVタグを貼り付け、それを利用者で共有して扱う。
CVタグ利用を分野別に分類すると、以下のようになる。
・道路管理:人工構造物と自然物の属性、トレーサビリティー
・公共設備:標識、標示、電柱、電話柱、道路、河川、橋、鉄道、駅、街路樹、花壇、街灯、ロードヒーティング施設、ガードレール、縁石、バス停、港湾
・民間施設:民間看板、家、ビル、店舗
・工事現場、事故現場、商品価格
・PC:ホルダ、アイコン
・移動体:車両、荷物、入室者
・時間変化するもの:信号機、遮断器
・自然物:山、自然川、樹木、街路樹、岩
・スイッチ:ドアロック、ライト点灯、信号切り替え、線路切り替え、家電品、
・オフライン処理:Webによるタグ処理、スタンドアロン、Webによる配信
(1)情報提供者の立場でCVタグを貼り付け、CV映像とCVタグで場所を特定して利用者に情報を提供する。
(2)対象物施設管理者の立場で、管理情報としてCV映像とCVタグで場所を特定して管理者が自身で利用する。
(3)利用者の立場で、共通の目的を持つ人がCV映像とCVタグで場所を特定してCVタグを共用して共同作業をする。
(4)利用予定者の立場で、CV映像とCVタグで場所を特定して募集やイベントの集客としてCVタグを利用する。
(5)市民の立場で、CV映像とCVタグで場所を特定して国民の立場で、要望や考えをCVタグに書き込んでおく。
(6)行政の立場で情報発信をCVタグで場所を特定して行う。
・災害時の利用の立場で、CV映像とCVタグで場所を特定して情報を知らせる。
・消防警察の立場でCV映像とCVタグで場所を特定して情報を知らせる。
・建築現場確認として、CV映像とCVタグで場所を特定して情報を知らせる。
(7)第三者利用の立場で、CV映像とCVタグで場所を特定して掲示板的に情報媒体として利用する。
(8)関連広告媒体として、CV映像とCVタグで場所を特定して広告する。
(9)業者による利用として、CV映像とCVタグで場所を特定して業務に利用する。
・不動産等では対象の土地建物
・レストランでは、場所と環境と店内、及びメニュー、予約
・ホテルでは、場所、環境、案内、予約
・タクシー会社では、予約場所と着地点の映像と関連情報
・ゼネコンでは工事現場と、景観シミュレーション
例えば、上述した実施形態においては、本発明のCV映像によるCVタグ入出力検索装置の適用対象として、カーナビゲーション装置等を想定して説明したが、本発明に係るCV映像によるCVタグ入出力検索装置がそれ以外の幅広い分野に適用できることは上述したとおりであり、その用途・使用方法等も特に限定されるものでないことは言うまでもない。
100 CV映像によるCVタグ入出力検索装置
101 CV映像記録部
102 CVタグ表示装置
103 CVタグ入力装置
104 CVタグデータベース
105 CVタグ自動検索装置
106 CVタグ対象物管理装置
107 リアルタイムCV映像取得装置
108 対象物認識装置
109 外部データベース装置
110 移動体位置決め手段
Claims (11)
- 所望の管理対象物を含むビデオ映像に移動するカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を記録したCV映像記録部と、
前記CV映像を表示するとともに、当該CV映像中に、三次元位置が既知となった管理対象物を指定した所定のCVタグを重複合成表示し、CV映像の進行とともに、前記管理対象物との三次元位置関係を変えずに、CV映像中を前記管理対象物とともに移動するように表示するCVタグ表示装置と、
前記CVタグ表示装置で表示されるCV映像中に、特定の管理対象物を指定し、その管理対象物の三次元位置に関連づけてCVタグを重複表示するとともに、前記所定のCVタグを入力し、そのCVタグに、前記管理対象物に関する所定の属性データをCVタグと関連付けて入力するCVタグ入力装置と、
前記CVタグ表示装置で表示された所定の管理対象物に関連づけて配置したCVタグの配置及びその属性データを格納するCVタグデータベースと、
前記CVタグ表示装置で表示されるCV映像中の任意のCVタグを選択し、当該CVタグが指定する管理対象物に関する所定の属性データを、前記CVタグデータベースから読み出し、前記CVタグ表示装置で表示されるCV映像中に表示させるCVタグ対象物管理装置と、
を備えることを特徴とするCV映像によるCVタグ入出力検索装置。 - 前記CVタグデータベースを文字、座標、属性等により検索し、前記CV映像中の所望の管理対象物を抽出し、当該管理対象物を指定するCVタグを、前記CV映像中に識別可能に表示させるCVタグ自動検索装置を備える請求項1記載のCV映像によるCVタグ入出力検索装置。
- 前記CVタグ入力装置が、
前記管理対象物を含むビデオ映像を取得し、当該ビデオ映像を撮影した移動するカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を生成・表示するCV映像表示部と、
前記CV映像表示部で表示されるCV映像中の任意の管理対象物又はその近傍に、当該管理対象物を特定するCVタグを当該CV映像中に指定するCVタグ位置指定部と、
前記CVタグ位置指定部で指定されたCVタグのCV映像中の配置を示す三次元座標を演算により求める座標演算取得部と、
前記座標演算取得部で求められたCVタグの三次元座標を、当該CVタグが示す管理対象物と関連付けて固定するCVタグ固定部と、
前記CVタグ固定部で固定されたCVタグの入力を完了して登録する入力完了設定部と、を備える請求項1又は2記載のCV映像によるCVタグ入出力検索装置。 - 前記CVタグ位置指定部が、
前記CVタグの配置の範囲をCV映像中に二次元的又は三次元的に制限して指定するCVタグ範囲指定部と、
前記CVタグに関連する所定の関連情報を記録するCVタグ内容記録部と、
前記CVタグの形状等を所定の候補から選択するCVタグ形状選択部と、を備え、
前記座標演算取得部が、
前記CVタグの三次元座標を求める演算の後、位置や姿勢等の微調整を行うCVタグ位置姿勢微調整部を備え、
前記入力完了設定部が、
前記CVタグと他のCV映像又は地図をリンクして表示させる所定のリンク情報を登録するリンク情報設定部と、前記CVタグに登録すべき内容を確認可能に表示するCVタグ内容確認部と、前記CVタグに登録された内容又は当該CVタグの設定を解除する設定解除部と、を備える請求項3記載のCV映像によるCVタグ入出力検索装置。 - 前記CVタグ入力装置と、前記CVタグデータベースと、前記CVタグ対象物管理装置とを搭載し、前記管理対象物を含む所定の管理地域を移動可能な積載移動手段を備え、
前記積載移動手段は、
ビデオカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を取得するリアルタイムCV映像取得装置と、
記録媒体又は通信を介して、前記管理地域及びその周辺のCV映像地図を前記CV映像記録部に一時記憶させるとともに、前記管理地域及びその周辺のCVタグとその属性を示す前記CVタグデータベースに一時記憶させる外部データベースと、
前記積載移動手段の絶対座標を取得するGPS位置決め装置、及び/又は前記リアルタイムCV映像取得装置で取得したリアルタイムCV映像と前記CV映像地図から、所定の新旧更新映像を生成する新旧映像更新装置を備える移動体位置決め手段と、
前記移動体位置決め手段で取得される積載移動手段の絶対座標と、当該積載移動手段の走行目的及び時刻情報に基づき、現在時刻と現在位置及び現在状況に関連する管理対象物のCVタグを選択して自動表示するCVタグ自動表示装置と、を備える請求項1乃至5のいずれか一項記載のCV映像によるCVタグ入出力検索装置。 - 前記CVタグ表示装置が、
選択又は検索された管理対象物を、前記CV映像中の決められた位置に固定して表示する動画ロックオン表示手段、
縮尺の異なる複数のCV映像地図を表示し、かつ、各CV映像地図の座標系を統一して、これら複数のCV映像地図中に共通するCVタグを表示する複数CV映像表示手段、
CV映像地図と二次元地図を同時に表示し、当該二次元地図上にもCVタグを表示する地図同期表示手段、
選択又は検索された管理対象物を示すCVタグを、前記CV映像地図に対応するリアルタイムCV映像に表示するリアルタイムCV映像表示手段、
選択又は検索された管理対象物を、ヘッドマウント又はハーフミラー等により、移動する車両等から直接観察される現実の管理対象物にCVタグ又はCGを合成表示する現実重複表示手段、
選択又は検索された管理対象物を示すCVタグについて登録された内容を、音声出力する手段、のうち少なくともいずれか一の手段を有する請求項1乃至8のいずれか一項記載のCV映像によるCVタグ入出力検索装置。 - 前記管理対象物に取り付けられるICタグに、当該管理対象物に関する所定情報を書き込むICタグ入力装置と、
前記ICタグが取り付けられる管理対象物に関する所定のデータを、当該ICタグと関連付けて格納するICタグデータベースと、
前記ICタグに近接して当該ICタグに書き込まれた所定情報を電子的に読み取るICタグ対象物管理装置と、
前記ICタグデータベースに格納されるデータのうち、前記CVタグデータベースにデータが格納される管理対象物については、データを共通化するデータベース装置と、を備える請求項1乃至6記載のCV映像によるCVタグ入出力検索装置。 - 前記CVタグ入力装置が、
前記CV映像から、分類指定した所定の対象物又は対象物群を自動認識する対象物自動認識部と、
前記対象物自動認識部で自動認識された対象物の三次元座標の位置を演算により求め、当該対象物を指定して配置するCVタグを入力する座標自動演算部と、を備える請求項1乃至8のいずれか一項記載のCV映像によるCVタグ入出力検索装置。 - 前記CVタグ対象物管理装置が、
所定の管理地域を案内するための地図を備える地図部と、
所定の管理地域を案内するためのCV映像を備えるCV映像部と、
前記地図部とCV映像とを座標統合する座標統合部と、
前記CVタグを前記地図部の地図と前記CV映像部のCV映像とに同期表示させ、いずれのCVタグが選択されても、又はいずれのCV映像と地図が選択されても、当該CVタグに関連する所定のデータを表示させる同期属性表示部と、を備える請求項1乃至8のいずれか一項記載のCV映像によるCVタグ入出力検索装置。 - 前記管理対象物及びCVタグ入力装置を積載して移動する移動手段と、
前記移動手段又は管理対象物に設置されたカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したリアルタイムCV映像を取得して表示する移動CV映像表示部を備え、
前記移動手段の移動にともなって前記CVタグが指定する管理対象物とその周辺をCV映像として取得し、CVタグをリアルタイムで表示し管理する請求項1乃至9のいずれか一項記載のCV映像によるCVタグ入出力検索装置。 - 前記CVタグ対象物管理装置又はCVタグ入力装置を積載して移動する移動手段と、
前記移動手段に設置されたカメラによりリアルタイム映像を取得し、当該リアルタイム映像を撮影したカメラの位置と姿勢の三次元値を示すCV値を付加したリアルタイムCV映像を取得して表示する移動CV映像表示部と、
前記CV映像表示部で取得されたリアルタイムCV映像に基づいて、前記移動手段の位置を示す三次元座標をリアルタイムで取得する座標取得部と、
前記移動手段の移動にともなって前記CVタグが指定する管理対象物とその周辺をリアルタイムCV映像として取得し、CVタグをリアルタイムで表示し管理する請求項1乃至10のいずれか一項記載のCV映像によるCVタグ入出力検索装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006144227A JP5111785B2 (ja) | 2006-05-24 | 2006-05-24 | Cv映像によるcvタグ入出力検索装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006144227A JP5111785B2 (ja) | 2006-05-24 | 2006-05-24 | Cv映像によるcvタグ入出力検索装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007316839A true JP2007316839A (ja) | 2007-12-06 |
JP5111785B2 JP5111785B2 (ja) | 2013-01-09 |
Family
ID=38850655
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006144227A Active JP5111785B2 (ja) | 2006-05-24 | 2006-05-24 | Cv映像によるcvタグ入出力検索装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5111785B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011510378A (ja) * | 2008-01-15 | 2011-03-31 | グーグル インコーポレイテッド | 街路ビューデータのための3次元注釈 |
WO2018163898A1 (ja) * | 2017-03-09 | 2018-09-13 | 株式会社岩根研究所 | 自由視点移動表示装置 |
JP2020008664A (ja) * | 2018-07-05 | 2020-01-16 | 株式会社東陽テクニカ | ドライビングシミュレーター |
JP2020191003A (ja) * | 2019-05-23 | 2020-11-26 | 株式会社岩根研究所 | 認識位置決め装置及び情報変換装置 |
JP2023036381A (ja) * | 2021-09-02 | 2023-03-14 | 株式会社小野測器 | プログラム、サーバ、端末装置、アクセス提供方法及び情報表示方法 |
JP7455598B2 (ja) | 2020-02-04 | 2024-03-26 | 株式会社デンソーテン | 画像処理装置、アノテーション処理装置、画像処理方法、アノテーション処理方法、画像処理プログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1172348A (ja) * | 1997-08-28 | 1999-03-16 | Seiko Epson Corp | カメラ装置および情報取得方法 |
JP2002071368A (ja) * | 2000-08-29 | 2002-03-08 | Hitachi Ltd | 画像情報処理装置 |
JP2003051021A (ja) * | 2001-08-03 | 2003-02-21 | Mitsubishi Electric Corp | 情報更新装置、情報取得装置および情報更新処理装置 |
JP2003121167A (ja) * | 2001-10-12 | 2003-04-23 | Denso Corp | 案内画像生成装置、案内画像表示装置、ナビゲーション装置、及びプログラム |
JP2003315069A (ja) * | 2002-04-24 | 2003-11-06 | Equos Research Co Ltd | 情報センタ装置、データ提供装置、データ収集システム、データ配信システム及びその方法 |
WO2005038402A1 (ja) * | 2003-10-21 | 2005-04-28 | Waro Iwane | ナビゲーション装置 |
-
2006
- 2006-05-24 JP JP2006144227A patent/JP5111785B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1172348A (ja) * | 1997-08-28 | 1999-03-16 | Seiko Epson Corp | カメラ装置および情報取得方法 |
JP2002071368A (ja) * | 2000-08-29 | 2002-03-08 | Hitachi Ltd | 画像情報処理装置 |
JP2003051021A (ja) * | 2001-08-03 | 2003-02-21 | Mitsubishi Electric Corp | 情報更新装置、情報取得装置および情報更新処理装置 |
JP2003121167A (ja) * | 2001-10-12 | 2003-04-23 | Denso Corp | 案内画像生成装置、案内画像表示装置、ナビゲーション装置、及びプログラム |
JP2003315069A (ja) * | 2002-04-24 | 2003-11-06 | Equos Research Co Ltd | 情報センタ装置、データ提供装置、データ収集システム、データ配信システム及びその方法 |
WO2005038402A1 (ja) * | 2003-10-21 | 2005-04-28 | Waro Iwane | ナビゲーション装置 |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014006917A (ja) * | 2008-01-15 | 2014-01-16 | Google Inc | 街路ビューデータのための3次元注釈 |
JP2015005298A (ja) * | 2008-01-15 | 2015-01-08 | グーグル インコーポレイテッド | 街路ビューデータのための3次元注釈 |
US9471597B2 (en) | 2008-01-15 | 2016-10-18 | Google Inc. | Three-dimensional annotations for street view data |
JP2011510378A (ja) * | 2008-01-15 | 2011-03-31 | グーグル インコーポレイテッド | 街路ビューデータのための3次元注釈 |
US10540794B2 (en) | 2008-01-15 | 2020-01-21 | Google Llc | Three-dimensional annotations for street view data |
US10848732B2 (en) | 2017-03-09 | 2020-11-24 | Iwane Laboratories, Ltd. | Free viewpoint movement display device |
WO2018163898A1 (ja) * | 2017-03-09 | 2018-09-13 | 株式会社岩根研究所 | 自由視点移動表示装置 |
JP2018151696A (ja) * | 2017-03-09 | 2018-09-27 | 株式会社岩根研究所 | 自由視点移動表示装置 |
JP2020008664A (ja) * | 2018-07-05 | 2020-01-16 | 株式会社東陽テクニカ | ドライビングシミュレーター |
JP2020191003A (ja) * | 2019-05-23 | 2020-11-26 | 株式会社岩根研究所 | 認識位置決め装置及び情報変換装置 |
WO2020235286A1 (ja) * | 2019-05-23 | 2020-11-26 | 株式会社岩根研究所 | 認識位置決め装置及び情報変換装置 |
JP7266208B2 (ja) | 2019-05-23 | 2023-04-28 | 株式会社岩根研究所 | 認識位置決め装置及び情報変換装置 |
JP7455598B2 (ja) | 2020-02-04 | 2024-03-26 | 株式会社デンソーテン | 画像処理装置、アノテーション処理装置、画像処理方法、アノテーション処理方法、画像処理プログラム |
JP2023036381A (ja) * | 2021-09-02 | 2023-03-14 | 株式会社小野測器 | プログラム、サーバ、端末装置、アクセス提供方法及び情報表示方法 |
JP7358427B2 (ja) | 2021-09-02 | 2023-10-10 | 株式会社小野測器 | プログラム、サーバ及びアクセス提供方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5111785B2 (ja) | 2013-01-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4870546B2 (ja) | レイヤー生成・選択機能を備えたcvタグ映像表示装置 | |
Neges et al. | Combining visual natural markers and IMU for improved AR based indoor navigation | |
US10681183B2 (en) | Platform for constructing and consuming realm and object featured clouds | |
US20200401617A1 (en) | Visual positioning system | |
EP2208021B1 (en) | Method of and arrangement for mapping range sensor data on image sensor data | |
CN102037325A (zh) | 用于以3d显示导航数据的计算机布置及方法 | |
CN102037326A (zh) | 以3d显示导航数据的方法 | |
US20020010694A1 (en) | Method and system for computer assisted localization and navigation in industrial environments | |
CN106463056A (zh) | 用于高度定制的交互式移动地图的解决方案 | |
JP5111785B2 (ja) | Cv映像によるcvタグ入出力検索装置 | |
JP2004048674A (ja) | 視野一致型情報呈示システム、並びに、それに用いられる携帯情報端末及びサーバ | |
JP2006351024A (ja) | 視野一致型情報呈示システム及びそれに用いられる携帯情報端末 | |
CN104221056A (zh) | 用于提供终端装置视野内的对象的信息的方法、终端装置和计算机可读记录介质 | |
CN105976636A (zh) | 一种利用增强现实技术的停车场寻车系统及其寻车方法 | |
CN111256701A (zh) | 一种设备定位方法和系统 | |
Basiri et al. | Seamless pedestrian positioning and navigation using landmarks | |
CN111795688B (zh) | 一种基于深度学习和增强现实的图书馆导航系统实现方法 | |
JPWO2019234936A1 (ja) | 携帯端末、カメラ位置推定システム、カメラ位置推定方法および標識板 | |
Haala et al. | A multi-sensor system for positioning in urban environments | |
Shao et al. | MOFIS SLAM: A Multi-Object Semantic SLAM System With Front-View, Inertial, and Surround-View Sensors for Indoor Parking | |
Kadi et al. | Mobile application development with augmented reality for promoting tourism objects in Southwest Sumba | |
Schall | Mobile augmented reality for human scale interaction with geospatial models: The benefit for industrial applications | |
WO2008072429A1 (ja) | 地理情報関連付き画像データ表示システム | |
JP4197539B2 (ja) | 3次元情報表示装置 | |
Xu et al. | Indoor-outdoor navigation without beacons: compensating smartphone AR positioning errors with 3D pedestrian network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090415 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20090616 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20090824 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20091201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120306 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120918 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121010 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5111785 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151019 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313114 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |