JP2004242048A - 広視野角・高解像度映像撮影装置 - Google Patents
広視野角・高解像度映像撮影装置 Download PDFInfo
- Publication number
- JP2004242048A JP2004242048A JP2003028993A JP2003028993A JP2004242048A JP 2004242048 A JP2004242048 A JP 2004242048A JP 2003028993 A JP2003028993 A JP 2003028993A JP 2003028993 A JP2003028993 A JP 2003028993A JP 2004242048 A JP2004242048 A JP 2004242048A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- video
- image
- resolution
- mobile robot
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【解決手段】カメラを搭載した移動体と,カメラ映像の蓄積,解析,および移動体の制御を行う計算機により撮影装置を構築する。本装置に対して,カメラ映像を取得する映像入力手段,被写体までの距離や移動距離を計測する計測手段,移動体の運動を制御する制御手段,カメラ映像の解像度を向上する超解像度化手段,およびカメラ映像を継ぎ目なく合成する映像合成手段を設ける。
【選択図】 図1
Description
【発明の属する技術分野】
本発明は,移動体に搭載されたカメラの映像を統合して,広視野角の映像を取得するための映像撮影装置に関する。
【0002】
【従来の技術】
従来,広視野角の映像を取得する方法としては,複数のカメラにより撮影した映像を繋ぎ合わせて一つの映像とする方法が提案されている。この方法では,被写体全体が撮影できるように複数のカメラを配置,姿勢制御し,撮影した映像を繋ぎ合わせることにより広視野角の映像を取得する。
【0003】
【非特許文献1】星野准一ら,”観測・推定画像間の誤差最小化によるパノラマ動画像の生成”,信学論D−II,Vol.J81−D−II,No.11,pp.2565−2573,1998.
【0004】
【発明が解決しようとする課題】
上記従来技術では,カメラの性能により解像度が制限されてしまい,被写体の細かな情報(例えば被写体に記述された文字などの情報)を識別しようとした場合には,映像の解像度が十分ではないという問題がある。
【0005】
そこで,本発明では,広視野角かつ高解像度の映像を自動撮影する映像撮影装置を提供することを目的とする。
【0006】
【課題を解決するための手段】
上記目的を達成するために,本発明では以下の手段を設ける。
【0007】
(1) カメラを搭載した移動体と,カメラ映像の蓄積,解析,および移動体の制御を行う計算機により撮影装置を構築する。本装置は,カメラ映像を取得する映像入力手段,被写体までの距離や移動距離を計測する計測手段,移動体の運動を制御する制御手段,カメラ映像の解像度を向上する超解像度化手段,およびカメラ映像を継ぎ目なく合成する映像合成手段を有する。
【0008】
(2) 現在撮影中のカメラ映像と過去に撮影したカメラ映像とを比較することにより,移動体の位置を推定する移動体位置同定手段を有する。
【0009】
【発明の実施の形態】
本発明は,移動体に搭載されたカメラの映像を統合して,広視野角の映像を取得するための映像撮影装置に関する。具体的には,下記の方法を実施するソフトウェア,またはハードウェアを作成することにより実現できる。
(1)第1の実施形態
第1の実施形態は,移動ロボットに搭載したカメラにより撮影した映像を合成,超解像度化し,広視野角かつ高解像度の映像を取得する映像撮影装置に関する。
【0010】
図1は,本実施例における映像撮影装置の構成図である。本装置は,センサ100,移動ロボット110,計算機120,入出力装置130から構成される。
【0011】
センサ100としては,カメラ101および音響センサ102を使用する。センサ100は移動ロボット110に搭載し,カメラ数および音響センサ数は1以上とする。カメラ101の焦点距離,姿勢等のパラメータはあらかじめ校正し,映像データ取得中は固定である。音響センサ102としては,音波を発信して反射波を観測することにより距離計測が可能であるアクティブソナーを使用する。
【0012】
移動ロボット110は,駆動装置111,およびコントローラ112を備える。駆動装置111としては車輪を使用する。コントローラ112では,移動ロボットに搭載の音響センサ102の観測データの取得や,駆動装置111の状態監視,および制御を行う。
【0013】
計算機120は,演算器121,画像処理ボード122,およびRS232インタフェース123を備える。演算器121では,カメラ映像の処理や,移動ロボット110の制御量の算出を行う。画像処理ボード122では,カメラ101の映像データの取得や処理を行う。RS232インタフェース123は,移動ロボットのコントローラ112との接続に使用し,移動ロボット110の状態データ受信や,制御コマンドの送信に使用する。
【0014】
入出力装置130としては,ディスプレイ131,キーボード132,マウス133を使用する。入出力装置130は,カメラ映像,移動ロボット110の状態等の表示,および各種パラメータの設定に使用する。
【0015】
図2は,映像撮影装置におけるデータフローの概略図である。
【0016】
カメラ101で得られる映像データ201は計算機120の画像処理ボード122に伝送される。カメラ101と画像処理ボード122はカメラケーブル124で接続する。画像処理ボード122ではA/D変換等の前処理を行い,処理後の映像データ202を演算器121に転送する。
【0017】
音響センサ102で得られる音響データ204は,コントローラ112でA/D変換等の前処理後,演算器121に伝送される。コントローラ112と演算器121はRS232ケーブル125で接続する。駆動装置111の状態を用いてコントローラ112で算出された,移動ロボット110の状態パラメータ206も同様に,RS232ケーブルを介して演算器121に伝送される。
【0018】
演算器121では,映像データ202,音響データ205を処理して新たな映像データ203を作成し,ディスプレイ131に転送,表示する。また,駆動装置の制御コマンドおよび制御量206をRS232ケーブル125を介してコントローラ112に転送する。コントローラ112では,制御コマンドおよび制御量207に基づいて駆動装置を制御する。
【0019】
なお,映像データ201や音響データ204の取得,処理に関する各種パラメータ208,209は,キーボード132やマウス133などの入力装置により,あらかじめ設定する。
【0020】
図3は,映像撮影装置における処理のブロック図である。以下,コントローラ112,画像処理ボード122,演算器121における各処理について説明する。なお,以下では,図4に示すように移動ロボット110を本棚41と平行に移動させながら,本棚の本42を撮影している状況を仮定する。図4において,XY座標は床面(水平面)に水平な座標であり,移動ロボット110の進行方向はX軸の正方向であるとする。
【0021】
移動ロボット110内部のコントローラ112における処理は,音響信号観測部311,状態計測部312,および駆動制御部313から構成される。
【0022】
音響信号観測部311では,音響センサ102の観測データ204を取得する。このデータに対してA/D変換等の前処理を行い,音響データ205を出力する。
【0023】
状態計測部312では,駆動装置111の状態,すなわち回転数および回転角を取得する。これらのデータから移動ロボット110の位置,速度,および角度(進行方向)を算出し,移動ロボットの状態パラメータ206として出力する。ここで,位置および角度は移動ロボット110の初期位置を基準とした値として得られる。
【0024】
駆動制御部313では,後述の制御量算出部325の出力である制御コマンドおよび制御量207と,現在の移動ロボットの状態パラメータ206より,駆動装置111の回転数,回転角を算出する。それらの値を用いて駆動装置111を制御する。
【0025】
計算機120内部の画像処理ボード122および演算器121における処理は,映像入力部321,超解像度化部322,映像合成部323,距離計測部324,制御量算出部325より構成される。
【0026】
映像入力部321では,カメラ101の映像データ201を取得する。このデータに対してA/D変換等の前処理を行い,映像データ202を出力する。図5に映像入力部321で得られる映像データ202の例を示す。画像501から504は,それぞれ地点X=1からX=4で撮影された映像を切り出した画像である。図5に示すように,移動時の振動等のため本棚41のライン等がずれる,解像度が十分でないために本の背表紙の文字がつぶれてしまう等の問題が発生する。
【0027】
超解像度化部322では,カメラ101により得られる複数の連続した映像データ202を使用して映像の高周波成分を復元することにより映像データ202の解像度を向上する。超解像度化の方法としては,下記文献1等に記載の各種方法を使用することができる。
【0028】
文献1:川崎洋ら,“時空間画像解析を用いた全方位カメラ映像の超解像度化”,信学論D−II,Vol.84,No.8,pp.1891−1902,2001.
図6に超解像度化部322で得られる映像データの例を示す。画像601は画像502から504を使用して,画像501を処理した画像である。図6に示すように,映像データの解像度を向上することにより,背表紙の文字が認識可能となる。
【0029】
映像合成部323では,複数の異なる映像データ202に対して幾何変換,および輝度変換を行い,複数の画像を継ぎ目なく合成する。幾何変換は,一方の画像の座標系を基準座標系とし,他方の画像をその基準座標系に座標変換する処理であり,異なる画像間の位置合わせを行う。輝度変換は,重複部分の画像における濃淡の差を低減する処理であり,異なる画像間の輝度の差に依存する継ぎ目の除去を行う。これらの処理としては,下記文献2等に記載の各種方法を使用することができる。
【0030】
文献2:高木幹雄,下田陽久,“画像解析ハンドブック”,東京大学出版会,1991.
図7に映像合成部323で得られる映像データの例を示す。画像701は図5に示した全ての画像を合成した例である。図7に示すように,ラインのずれや各画像の継ぎ目のない一つの広域映像が得られる。
【0031】
距離計測部324では,音響センサ102の観測データ204を使用して,基準物と移動ロボット110の距離を算出する。基準物との距離は,音響センサ102より既知のパルス信号を送信し,その送信時刻と基準物からの反射波の到達時刻の差に基づいて推定する。図4の撮影例では本棚41等を基準物として使用する。
【0032】
制御量算出部325では,移動ロボット110の状態パラメータ206と距離計測部324で算出した移動ロボット110の基準物からの距離に基づいて,移動ロボット110が所望の行動をとるように,移動ロボットの状態パラメータ206の変更量(制御量)を算出する。算出した制御量を制御コマンドと共に駆動制御部313に出力する。図4の撮影例では,本棚41と移動ロボット110の距離の時間的変動から,移動ロボット110が本棚41と平行に走行しているか判定する。本棚41と移動ロボット110の距離が一定値となるように制御量および制御コマンド207を決定する。
【0033】
以上のように,移動ロボットに搭載したカメラにより撮影した映像を継ぎ目なく繋ぎ合わせることにより一つの広視野角の映像を取得することが可能である。また同時に,複数の映像を使用して超解像度化を行うことにより,被写体の細かな情報が認識可能な高解像度の映像を取得することができる。
(2)第2の実施形態
第2の実施形態は,撮影した映像データを使用して移動ロボットの位置を同定する移動体位置の推定手段を備えた映像撮影装置に関する。第1の実施形態との相違点は,移動体位置の推定手段が加わった点である。
【0034】
図8は,本実施例の映像撮影装置における処理のブロック図である。移動体位置同定部821では,現在撮影中の映像と過去に撮影した映像とを比較,照合する。そして,照合のとれた過去の映像を撮影した位置を現在の移動体の推定位置とする。比較,照合方法としては,それぞれの映像から複数の特徴点を選択して照合する方法や,現在撮影中の映像からテンプレートを作成し,過去に撮影した映像上でそのテンプレートに合う部分を探索する方法を使用する。これらの方法については,上記文献2にマッチング手法として記載されている。
【0035】
図9に過去に撮影した映像901と現在撮影中の映像903の例を示す。本902aから902dと本904aから904dがそれぞれ等しい本である。ただし,本904cは過去の映像901上の本902cと異なる形で本棚にしまわれている。本902c近傍だけしか撮影できないカメラでは,映像間のマッチングがとれないことがある。本実施例における映像装置では,映像901,903のように本902c近傍以外の映像データをマッチングに使用できるため,映像データ間の比較,照合をより高精度に行うことができる。
【0036】
【発明の効果】
本発明によれば,移動ロボットにカメラを搭載して,その運動を制御しながら映像の撮影,および超解像度化,合成を行うことにより,広視野角かつ高解像度の映像を自動撮影する映像撮影装置を提供することができる。
【図面の簡単な説明】
【図1】映像撮影装置の構成図。
【図2】映像撮影装置におけるデータフローの概略図。
【図3】映像撮影装置における処理のブロック図。
【図4】移動ロボットによる撮影状況の例。
【図5】映像入力部で得られる映像データの例。
【図6】超解像度化部で得られる映像データの例。
【図7】映像合成部で得られる映像データの例。
【図8】移動体位置同定部を備えた映像撮影装置における処理のブロック図。
【図9】異なる時間に同じ被写体を撮影した場合の映像データの例。
【符号の説明】
101:カメラ
102:音響センサ
111:駆動装置
112:移動ロボットのコントローラ
121:演算器
122:画像処理ボード
501,502,503,504:撮影した映像データ
601:高解像度化された映像データ
701:合成された広視野角映像
901:過去撮影した映像データ
902:現在撮影中の映像データ
902c,904c:過去と現在の映像上で異なる被写体
Claims (2)
- カメラを搭載した移動体と,カメラ映像の蓄積,解析,および移動体の制御を行う計算機から成る映像撮影装置であり,
カメラ映像を取得する映像入力手段,被写体までの距離や移動距離を計測する計測手段,移動体の運動を制御する制御手段,既カメラ映像の解像度を向上する超解像度化手段,および既カメラ映像を継ぎ目なく合成する映像合成手段を備える
ことを特徴とする広視野角・高解像度映像撮影装置。 - 請求項1において,
現在撮影中の既カメラ映像と過去に撮影した既カメラ映像とを比較することにより,既移動体の位置を推定する移動体位置同定手段を備える
ことを特徴とする広視野角・高解像度映像撮影装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003028993A JP2004242048A (ja) | 2003-02-06 | 2003-02-06 | 広視野角・高解像度映像撮影装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003028993A JP2004242048A (ja) | 2003-02-06 | 2003-02-06 | 広視野角・高解像度映像撮影装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004242048A true JP2004242048A (ja) | 2004-08-26 |
Family
ID=32956290
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003028993A Pending JP2004242048A (ja) | 2003-02-06 | 2003-02-06 | 広視野角・高解像度映像撮影装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004242048A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100405218C (zh) * | 2005-08-31 | 2008-07-23 | 中国科学院长春光学精密机械与物理研究所 | 航空相机动态分辨力测试用模拟动态目标发生器 |
WO2009066988A2 (en) * | 2007-11-22 | 2009-05-28 | Mimos Berhad | Device and method for a surveillance system |
TWI667529B (zh) * | 2018-04-24 | 2019-08-01 | 財團法人工業技術研究院 | 環景點雲資料的建立方法與建立系統 |
US10694103B2 (en) | 2018-04-24 | 2020-06-23 | Industrial Technology Research Institute | Building system and building method for panorama point cloud |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0421008A (ja) * | 1990-05-14 | 1992-01-24 | Canon Inc | 移動装置 |
JPH1069537A (ja) * | 1996-08-28 | 1998-03-10 | Nec Corp | 画像合成方法及び画像合成装置 |
JPH11242737A (ja) * | 1998-02-26 | 1999-09-07 | Ricoh Co Ltd | 画像処理方法及び装置並びに情報記録媒体 |
JP2002324235A (ja) * | 2001-04-24 | 2002-11-08 | Matsushita Electric Ind Co Ltd | 車載カメラの画像合成表示方法及びその装置 |
-
2003
- 2003-02-06 JP JP2003028993A patent/JP2004242048A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0421008A (ja) * | 1990-05-14 | 1992-01-24 | Canon Inc | 移動装置 |
JPH1069537A (ja) * | 1996-08-28 | 1998-03-10 | Nec Corp | 画像合成方法及び画像合成装置 |
JPH11242737A (ja) * | 1998-02-26 | 1999-09-07 | Ricoh Co Ltd | 画像処理方法及び装置並びに情報記録媒体 |
JP2002324235A (ja) * | 2001-04-24 | 2002-11-08 | Matsushita Electric Ind Co Ltd | 車載カメラの画像合成表示方法及びその装置 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100405218C (zh) * | 2005-08-31 | 2008-07-23 | 中国科学院长春光学精密机械与物理研究所 | 航空相机动态分辨力测试用模拟动态目标发生器 |
WO2009066988A2 (en) * | 2007-11-22 | 2009-05-28 | Mimos Berhad | Device and method for a surveillance system |
WO2009066988A3 (en) * | 2007-11-22 | 2009-09-24 | Mimos Berhad | Device and method for a surveillance system |
TWI667529B (zh) * | 2018-04-24 | 2019-08-01 | 財團法人工業技術研究院 | 環景點雲資料的建立方法與建立系統 |
US10694103B2 (en) | 2018-04-24 | 2020-06-23 | Industrial Technology Research Institute | Building system and building method for panorama point cloud |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7643066B2 (en) | Method and apparatus for producing frame accurate position data in a PTZ dome camera with open loop control | |
JP6090786B2 (ja) | 背景差分抽出装置及び背景差分抽出方法 | |
WO2019238113A1 (zh) | 成像方法、装置、终端和存储介质 | |
WO2006015236A3 (en) | Audio-visual three-dimensional input/output | |
GB2593335A (en) | Method and apparatus for 3-D auto tagging | |
JP2002209208A (ja) | 画像処理装置及びその方法並びに記憶媒体 | |
WO2005024723A1 (ja) | 画像合成システム、画像合成方法及びプログラム | |
WO2011148595A1 (ja) | 画像処理装置、画像処理方法および画像処理用プログラム | |
JP5963006B2 (ja) | 画像変換装置、カメラ、映像システム、画像変換方法およびプログラムを記録した記録媒体 | |
KR20180121259A (ko) | 카메라 탑재형 컴퓨터의 거리검출장치 및 그 방법 | |
JP2002267441A (ja) | ステレオマッチング方法および監視装置 | |
JP5084542B2 (ja) | 自動追尾撮影装置、自動追尾撮影方法および自動追尾撮影プログラム | |
JP2004242048A (ja) | 広視野角・高解像度映像撮影装置 | |
JP4277503B2 (ja) | 映像撮影装置及び方法 | |
JP2003009141A (ja) | 車両周辺画像処理装置及び記録媒体 | |
CN114821544B (zh) | 感知信息生成方法、装置、车辆、电子设备及存储介质 | |
JP3429194B2 (ja) | 自動追尾装置 | |
CN113688680B (zh) | 一种智能识别与追踪系统 | |
JPH1023465A (ja) | 撮像方法及び装置 | |
JP2001057652A (ja) | 画像入力装置および画像入力方法 | |
JPH10294890A (ja) | 自動/手動撮影カメラシステム | |
JP4665781B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
JP3555151B2 (ja) | カメラ撮影制御装置 | |
JP2002042158A (ja) | 画像合成装置および画像合成方法およびプログラムを記録した媒体 | |
JP2001136431A (ja) | カメラ制御装置及びカメラ制御方法及び記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051219 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20060420 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080729 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080926 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20081202 |