JP2017208038A - 画像処理装置、画像処理方法、画像処理システム及びプログラム - Google Patents
画像処理装置、画像処理方法、画像処理システム及びプログラム Download PDFInfo
- Publication number
- JP2017208038A JP2017208038A JP2016101780A JP2016101780A JP2017208038A JP 2017208038 A JP2017208038 A JP 2017208038A JP 2016101780 A JP2016101780 A JP 2016101780A JP 2016101780 A JP2016101780 A JP 2016101780A JP 2017208038 A JP2017208038 A JP 2017208038A
- Authority
- JP
- Japan
- Prior art keywords
- image processing
- image
- processing apparatus
- camera
- calculates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
前記撮像装置から画像データをそれぞれ取得する取得部と、
前記撮像装置を駆動させる駆動部と、
前記画像データから特徴点を算出し、前記駆動による駆動量に基づいて前記特徴点の算出結果を補正する補正部と、
前記補正によって補正された特徴点に基づいてそれぞれオプティカルフローを計算するオプティカルフロー計算部と、
前記補正によって補正された特徴点に基づいてそれぞれの前記撮像装置の角度及び位置を示すポーズをそれぞれ計算するポーズ計算部と、
前記オプティカルフロー及び前記ポーズに基づいて前記被写体の3次元座標を計算する3次元座標計算部と、
前記3次元座標に基づいて前記周辺を示す3次元データを生成する生成部と
を含むことを特徴とする。
(全体構成例)
図1は、本発明の一実施形態に係る画像処理システムの全体構成の一例を示す全体構成図である。具体的には、図1は、撮像装置としてカメラを使用する例であり、画像処理システム1が有する第1カメラ10及び第2カメラ11を移動体の一例である車両2に設置した例である。
図3は、本発明の一実施形態に係る画像処理装置による全体処理の一例を示すフローチャートである。
ステップS1では、画像処理装置は、3次元データの初期値を入力する。
ステップS2では、画像処理装置は、それぞれのカメラから画像データを取得する。具体的には、画像処理装置は、第1カメラ10(図1)及び第2カメラ11(図2)からそれぞれ画像データを取得する。
ステップS3では、画像処理装置は、画像データ内に含まれる特徴点を画像データごとにそれぞれ算出する。具体的には、ステップS3では、画像処理装置は、Harris行列等によって、ステップS2で取得されるそれぞれの画像データ内に含まれる特徴点を算出する。
ステップS4では、画像処理装置は、ステップS3で算出される特徴点のオプティカルフローを画像データごとにそれぞれ計算する。具体的には、ステップS4では、画像処理装置は、勾配法又はLucas−Kanade法等によって、オプティカルフローをそれぞれ計算する。
ステップS5では、画像処理装置は、ステップS4で計算されるオプティカルフローに基づいてカメラのポーズを計算する。
図3に戻り、ステップS6では、画像処理装置は、オプティカルフローに基づいて3次元座標を計算する。
なお、上記(式3)において、射影行列P1は、ステップS5(図3)で計算されるカメラのポーズによって定まる。また、上記(式3)において、2次元座標x1は、画像Img1における座標値によって定まる。
図3に戻り、ステップS7では、画像処理装置は、マッチングを行う。具体的には、ステップS7では、画像処理装置は、ステップS6で一方の画像(例えば画像Img1(図6))から計算される3次元座標について、同一の被写体を示す3次元座標が他方の画像(例えば画像Img2(図6))にあるかを探索する。
ステップS8では、画像処理装置は、対応する3次元座標があるか否かを判断する。例えば、被写体が移動体であると、画像Img1(図4)には、被写体が撮像されても、画像Img2(図4)には、被写体が撮像されない場合がある。したがって、被写体が移動体である場合等では、ステップS7の処理によって、対応する3次元座標が探索されない場合がある。ゆえに、ステップS8では、画像処理装置は、ステップS7の結果に基づいて、対応する3次元座標があるか否かを判断する。
ステップS9では、画像処理装置は、3次元データを生成する。具体的には、画像処理装置は、例えば、ステップS1で入力される初期値等に、ステップS6で計算される3次元座標を上書きして3次元データを生成する。
ステップS10では、画像処理装置は、3次元座標を削除する。即ち、対応する3次元座標がないと判断される場合(ステップS8でNO)は、対象となる座標の被写体が移動体等であるため、前フレームの画像で撮像されていた被写体が、次フレームの画像に撮像されていない場合等である。したがって、ステップS10では、画像処理装置は、3次元データのうち、対応する3次元座標がない3次元座標を削除する。
図7は、本発明の一実施形態に係る3次元データの一例を示す図である。具体的には、3次元データD1は、例えば、3次元座標D2及びカメラのポーズを示す軌跡D3を有する。まず、3次元座標D2は、ステップS1(図3)で初期値として入力される。次に、3次元データD1は、ステップS9(図3)の処理及びステップS10(図3)の処理によって、3次元座標D2が変更されて生成される。さらに、3次元データD1は、ステップS5の処理で計算されるカメラのポーズを軌跡D3として示す。
画像処理システムは、3つ以上のカメラを有してもよい。以下、図1に示す画像処理システム1にさらにカメラを2つ加えた4つのカメラを有する画像処理システム1Aを例に説明する。なお、画像処理装置は、第1実施形態と同様のハードウェア構成の装置であるとする。したがって、ハードウェア構成の説明は、省略する。
図14は、本発明の一実施形態に係る画像処理装置の機能構成の一例を示す機能ブロック図である。具体的には、画像処理装置100は、取得部100F1と、オプティカルフロー計算部100F2と、3次元座標計算部100F3と、マッチング部100F4と、削除部100F5と、ポーズ計算部100F6と、生成部100F7とを含む。
第3実施形態は、移動体が有するカメラを並行移動させる、回転移動させる又はこれらの組み合わせを行う場合等である。例えば、移動体が飛行可能な装置である場合には、移動体が有する各カメラは、移動体等によってカメラの光軸が変更できる。以下、移動体がいわゆるドローン(drone)であり、かつ、2つのカメラを有する例で説明する。具体的には、例となる移動体は、以下のようなドローンである。
図22は、本発明の一実施形態に係る第3実施形態における画像処理装置の機能構成の一例を示す機能ブロック図である。図14と比較すると、図22に示す機能構成には、補正部100F8及び駆動部100F9が加わる点が異なる。以下、異なる点を中心に説明する。
2 車両
2A 移動体
2B ドローン
10 第1カメラ
11 第2カメラ
12 第3カメラ
13 第4カメラ
100 画像処理装置
100H1 CPU
100H2 ASIC
100H3 記憶装置
Img1、Img2、Img3、Img4 画像
31、32、33、34 建物
Claims (8)
- 被写体を含む周辺を撮像する複数の撮像装置に接続される画像処理装置であって、
前記撮像装置から画像データをそれぞれ取得する取得部と、
前記撮像装置を駆動させる駆動部と、
前記画像データから特徴点を算出し、前記駆動による駆動量に基づいて前記特徴点の算出結果を補正する補正部と、
前記補正によって補正された特徴点に基づいてそれぞれオプティカルフローを計算するオプティカルフロー計算部と、
前記補正によって補正された特徴点に基づいてそれぞれの前記撮像装置の角度及び位置を示すポーズをそれぞれ計算するポーズ計算部と、
前記オプティカルフロー及び前記ポーズに基づいて前記被写体の3次元座標を計算する3次元座標計算部と、
前記3次元座標に基づいて前記周辺を示す3次元データを生成する生成部と
を含む画像処理装置。 - それぞれの前記3次元座標について、同一の被写体を示す前記3次元座標をマッチングさせるマッチング部を更に含む請求項1に記載の画像処理装置。
- 前記マッチングに基づいて、前記3次元座標のデータを削除する削除部を更に含む請求項2に記載の画像処理装置。
- 前記補正部は、前記駆動量、前記撮像装置の画角及び前記画像データの画素数に基づいて補正量を計算する請求項1乃至3のいずれか1項に記載の画像処理装置。
- 前記補正部は、前記ポーズの更新を停止させる請求項1乃至3のいずれか1項に記載の画像処理装置。
- 1以上の情報処理装置を有し、かつ、被写体を含む周辺を撮像する複数の撮像装置に接続される画像処理システムであって、
前記撮像装置から画像データをそれぞれ取得する取得部と、
前記撮像装置を駆動させる駆動部と、
前記画像データから特徴点を算出し、前記駆動による駆動量に基づいて前記特徴点の算出結果を補正する補正部と、
前記補正によって補正された特徴点に基づいてそれぞれオプティカルフローを計算するオプティカルフロー計算部と、
前記補正によって補正された特徴点に基づいてそれぞれの前記撮像装置の角度及び位置を示すポーズをそれぞれ計算するポーズ計算部と、
前記オプティカルフロー及び前記ポーズに基づいて前記被写体の3次元座標を計算する3次元座標計算部と、
前記3次元座標に基づいて前記周辺を示す3次元データを生成する生成部と
を含む画像処理システム。 - 被写体を含む周辺を撮像する複数の撮像装置に接続される画像処理装置が行う画像処理方法であって、
前記画像処理装置が、前記撮像装置から画像データをそれぞれ取得する取得手順と、
前記画像処理装置が、前記撮像装置を駆動させる駆動手順と、
前記画像処理装置が、前記画像データから特徴点を算出し、前記駆動による駆動量に基づいて前記特徴点の算出結果を補正する補正手順と、
前記画像処理装置が、前記補正によって補正された特徴点に基づいてそれぞれオプティカルフローを計算するオプティカルフロー計算手順と、
前記画像処理装置が、前記補正によって補正された特徴点に基づいてそれぞれの前記撮像装置の角度及び位置を示すポーズをそれぞれ計算するポーズ計算手順と、
前記画像処理装置が、前記オプティカルフロー及び前記ポーズに基づいて前記被写体の3次元座標を計算する3次元座標計算手順と、
前記画像処理装置が、前記3次元座標に基づいて前記周辺を示す3次元データを生成する生成手順と
を含む画像処理方法。 - 被写体を含む周辺を撮像する複数の撮像装置に接続されるコンピュータに画像処理方法を実行させるためのプログラムであって、
前記コンピュータが、前記撮像装置から画像データをそれぞれ取得する取得手順と、
前記コンピュータが、前記撮像装置を駆動させる駆動手順と、
前記コンピュータが、前記画像データから特徴点を算出し、前記駆動による駆動量に基づいて前記特徴点の算出結果を補正する補正手順と、
前記コンピュータが、前記補正によって補正された特徴点に基づいてそれぞれオプティカルフローを計算するオプティカルフロー計算手順と、
前記コンピュータが、前記補正によって補正された特徴点に基づいてそれぞれの前記撮像装置の角度及び位置を示すポーズをそれぞれ計算するポーズ計算手順と、
前記コンピュータが、前記オプティカルフロー及び前記ポーズに基づいて前記被写体の3次元座標を計算する3次元座標計算手順と、
前記コンピュータが、前記3次元座標に基づいて前記周辺を示す3次元データを生成する生成手順と
を実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016101780A JP2017208038A (ja) | 2016-05-20 | 2016-05-20 | 画像処理装置、画像処理方法、画像処理システム及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016101780A JP2017208038A (ja) | 2016-05-20 | 2016-05-20 | 画像処理装置、画像処理方法、画像処理システム及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017208038A true JP2017208038A (ja) | 2017-11-24 |
Family
ID=60415402
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016101780A Pending JP2017208038A (ja) | 2016-05-20 | 2016-05-20 | 画像処理装置、画像処理方法、画像処理システム及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017208038A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112381939A (zh) * | 2020-11-26 | 2021-02-19 | 深圳乐动机器人有限公司 | 一种视觉slam方法、装置、机器人及存储介质 |
JP2021508393A (ja) * | 2018-09-07 | 2021-03-04 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | 同時に位置特定およびマッピングを実行するためのデバイスおよび方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005115420A (ja) * | 2003-10-02 | 2005-04-28 | Kazuo Iwane | 三次元形状生成装置 |
JP2008204384A (ja) * | 2007-02-22 | 2008-09-04 | Canon Inc | 撮像装置、物体検出方法及び姿勢パラメータの算出方法 |
JP2010219942A (ja) * | 2009-03-17 | 2010-09-30 | Toshiba Corp | 移動体画像追尾装置 |
JP2010239564A (ja) * | 2009-03-31 | 2010-10-21 | Casio Computer Co Ltd | 撮像装置、撮像制御方法、及びプログラム |
-
2016
- 2016-05-20 JP JP2016101780A patent/JP2017208038A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005115420A (ja) * | 2003-10-02 | 2005-04-28 | Kazuo Iwane | 三次元形状生成装置 |
JP2008204384A (ja) * | 2007-02-22 | 2008-09-04 | Canon Inc | 撮像装置、物体検出方法及び姿勢パラメータの算出方法 |
JP2010219942A (ja) * | 2009-03-17 | 2010-09-30 | Toshiba Corp | 移動体画像追尾装置 |
JP2010239564A (ja) * | 2009-03-31 | 2010-10-21 | Casio Computer Co Ltd | 撮像装置、撮像制御方法、及びプログラム |
Non-Patent Citations (2)
Title |
---|
古賀 由紀夫、外3名: ""ステレオ時系列画像処理に基づく両眼・モーションステレオ統合法"", 情報処理学会研究報告, vol. Vol.2013-CVIM-186, No.21, JPN6019051756, 15 April 2013 (2013-04-15), JP, pages 1 - 7, ISSN: 0004254865 * |
田中 勝之、外2名: ""視線制御を用いた時系列画像からの3次元形状復元"", 電子情報通信学会技術研究報告, vol. 92, no. 520, JPN6019051758, 19 March 1993 (1993-03-19), JP, pages 17 - 24, ISSN: 0004188280 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021508393A (ja) * | 2018-09-07 | 2021-03-04 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | 同時に位置特定およびマッピングを実行するためのデバイスおよび方法 |
US11410322B2 (en) | 2018-09-07 | 2022-08-09 | Huawei Technologies Co., Ltd. | Device and method for performing simultaneous localization and mapping |
CN112381939A (zh) * | 2020-11-26 | 2021-02-19 | 深圳乐动机器人有限公司 | 一种视觉slam方法、装置、机器人及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109506642B (zh) | 一种机器人多相机视觉惯性实时定位方法及装置 | |
US9386209B2 (en) | Method and apparatus for estimating position | |
JP2020030204A (ja) | 距離測定方法、プログラム、距離測定システム、および可動物体 | |
JP6165745B2 (ja) | 車載搭載型のコンピュータ・ベース視覚システムの校正方法 | |
WO2020221307A1 (zh) | 一种运动物体的追踪方法和装置 | |
JP6988197B2 (ja) | 制御装置、飛行体、および制御プログラム | |
JP2016516977A (ja) | 環境の3dモデルの生成 | |
JP2015535980A (ja) | 特に装置に係る視覚ベースの位置決めに使用される画像処理方法 | |
CN110084832A (zh) | 相机位姿的纠正方法、装置、系统、设备和存储介质 | |
JP2014529727A (ja) | 自動シーン較正 | |
JP6229041B2 (ja) | 基準方向に対する移動要素の角度偏差を推定する方法 | |
JP2017134617A (ja) | 位置推定装置、プログラム、位置推定方法 | |
JP4132068B2 (ja) | 画像処理装置及び三次元計測装置並びに画像処理装置用プログラム | |
JP2017097402A (ja) | 周辺地図作成方法、自己位置推定方法および自己位置推定装置 | |
CN113496503B (zh) | 点云数据的生成及实时显示方法、装置、设备及介质 | |
JP2023505987A (ja) | 人間関節を用いた無人航空機上のカメラの校正 | |
CN110598370B (zh) | 基于sip和ekf融合的多旋翼无人机鲁棒姿态估计 | |
KR20190034130A (ko) | 지도 생성 장치 및 방법 | |
JP6922348B2 (ja) | 情報処理装置、方法、及びプログラム | |
US20210156710A1 (en) | Map processing method, device, and computer-readable storage medium | |
JP2017208038A (ja) | 画像処理装置、画像処理方法、画像処理システム及びプログラム | |
JP2016148956A (ja) | 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム | |
JP2018009918A (ja) | 自己位置検出装置、移動体装置及び自己位置検出方法 | |
JP6603993B2 (ja) | 画像処理装置、画像処理方法、画像処理システム、及びプログラム | |
WO2021051220A1 (zh) | 一种点云融合方法、设备、系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200114 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200305 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200421 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200618 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200707 |