JP6734940B2 - 三次元計測装置 - Google Patents
三次元計測装置 Download PDFInfo
- Publication number
- JP6734940B2 JP6734940B2 JP2018565132A JP2018565132A JP6734940B2 JP 6734940 B2 JP6734940 B2 JP 6734940B2 JP 2018565132 A JP2018565132 A JP 2018565132A JP 2018565132 A JP2018565132 A JP 2018565132A JP 6734940 B2 JP6734940 B2 JP 6734940B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- camera
- dimensional
- cameras
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/245—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/292—Multi-camera tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Description
(ブロック構成)
図1は、実施例1の三次元計測装置100のブロック構成を示す図である。三次元計測装置100は、複数の画像に基づいて計測対象の三次元位置やサイズを推定するものであり、図1に示すように、主に、複数のカメラ100Aと、それらとネットワークを介して接続される演算装置100Bから構成される。
(三次元位置・同期ずれ推定部107の動作)
次に、図5〜図7を用いて、三次元位置・同期ずれ推定部107における処理の内容について説明する。三次元位置・同期ずれ推定部107で行われる処理は、特徴点の対応付け、モーションセグメンテーション、最適化、の3つである。
(共通視野グラフの作成)
三次元計測装置100では、実際の運用に先立ち、各カメラ100Aの位置・姿勢と内部パラメータから、カメラ100A間の共通視野の関係を表わす共通視野グラフ250を作成しておき、実際の運用時に、画像選択部106でこれを利用できるようにしている。図8は共通視野グラフ250の一例である。
(画像選択部106の動作)
次に図10〜図11を用いて、画像選択部106おける処理の内容について説明する。図10は画像選択部106において実行される処理を示すフローチャートである。ステップS600では、共通視野グラフ250を必要に応じて更新する。ステップS610では、現在、動物体150を検出しているかどうかを判定する。動物体150を検出している場合には、ステップS620に進み、動物体150を検出していない場合には、ステップS630に進む。ステップS620では、動物体150を計測するための選択対象画像を抽出する。ステップS630では、カメラ100Aの同期ずれを更新するための選択対象画像を抽出する。ステップS640では、評価値に基づいて選択対象画像から画像を選択する。以下、各ステップについて詳細に説明する。
(出力部109の動作)
次に、図12を用いて、出力部109の動作について説明する。出力部109は、三次元位置・同期ずれ推定部107により推定された特徴点の三次元位置201を管理サーバ等の外部装置に出力する。また、出力部109は、三次元位置・同期ずれ推定部107により推定された特徴点の三次元位置201を三次元もしくは二次元の地図を用いて表示しても良い。
(作用効果)
上述した実施例1によれば、次の作用効果が得られる。
(変形例1)
上述の実施例1では、画像選択部106は、前の処理周期において三次元位置・同期ずれ推定部107により推定されたグループ内の特徴点の三次元位置の平均pg Wを用いて、空間評価値Vsを算出する(図11、ステップS644)。しかし、空間評価値Vsの算出方法はこれに限定されない。
(変形例2)
上述の実施例1では、画像選択部106は、前の処理周期において三次元位置・同期ずれ推定部107により推定されたグループ内の特徴点の三次元位置の平均pg Wを用いて、空間評価値Vsを算出する(図11、ステップS644)。しかし、空間評価値Vsの算出方法はこれに限定されない。
(変形例3)
上述の実施例1では、画像選択部106は、選択候補画像のグローバル撮影時刻から、選択候補画像に対する、時間評価値Vtを式15により算出する(図11、ステップS645)。しかし、時間評価値Vtの算出方法はこれに限定されない。
(変形例4)
上述の実施例1では、三次元計測装置100は、各カメラ100Aから画像取得部102によって取得された各画像に対して処理を実施した。しかし、三次元計測装置100の処理はこれに限定されない。
(ブロック構成)
図13は三次元計測装置400のブロック構成を示す図である。本実施例の三次元計測装置400は、実施例1の三次元計測装置100の構成に、動カメラ400Aを追加したものであり、その動カメラ400Aは他のカメラ100Aの構成に加えて、動カメラ処理部410をさらに備える。動カメラ処理部410は、位置・姿勢が変化する動カメラ400Aが撮影した画像を処理するものであり、その詳細を次に説明する。
(動カメラ処理部410の動作)
次に、図14、図15を用いて、動カメラ処理部410での処理の詳細を説明する。図14は、動カメラ処理部410が実行する処理を示すフローチャートであり、ステップS700は、動カメラ400Aの位置・姿勢を推定するステップ、ステップS710は、動カメラ400Aで撮影された画像に動物体が含まれているか判定するステップである。ステップS720では、ステップS710で動物体が含まれていると判定された場合にはステップS730に進み、動物体が含まれていないと判定された場合には、動カメラ処理部410の処理を終了する。ステップS730では、動カメラ400Aで撮影された画像に対する共通視野グラフを更新する。以下、各ステップを詳細に説明する。
(作用効果)
上述した実施例2によれば、三次元計測装置400では、動カメラ処理部410が、画像取得部102によって取得された動カメラ400Aの画像から、画像撮影時の位置・姿勢の推定、動物体の検出、共通視野グラフの更新をする。そのため、カメラ100Aとして、位置・姿勢が変化する動カメラ400Aを用いる場合でも、ネットワーク・サーバの負荷を軽減しながら、高精度に三次元位置を計測できるという作用効果が得られる。
Claims (9)
- 複数のカメラと演算装置をネットワークを介して接続した三次元計測装置であって、
複数の撮影部と、
該撮影部から画像を取得する画像取得部と、
前記画像が撮影されたローカル時刻を取得するローカル撮影時刻取得部と、
前記画像から動物体を検出する動物体検出部と、
前記動物体が検出された画像を、それが撮影された前記ローカル時刻と関連付けて保持する画像保持部と、
前記画像保持部に保持されている画像を選択する画像選択部と、
該画像選択部が選択した画像とそれに関連付けられたローカル時刻から前記動物体の三次元位置とカメラ間の同期ずれを推定する三次元位置・同期ずれ推定部と、
前記同期ずれを保持する同期ずれ保持部と、
前記三次元位置・同期ずれ推定部の推定結果を出力する出力部と、
を備え、
前記画像選択部は、
前記カメラ間の距離から計算される空間評価値と、
前記画像保持部に保持されているローカル撮影時刻と前記同期ずれ保持部に保持されている同期ずれから計算される時間評価値と、
に基づき画像を選択して取得することを特徴とする三次元計測装置。 - 請求項1に記載の三次元計測装置において、
前記画像選択部は、前記三次元位置・同期ずれ推定部の推定結果から計算される空間評価値に基づき画像を選択して取得することを特徴とする三次元計測装置。 - 請求項1または請求項2に記載の三次元計測装置において、
前記画像選択部は、前記複数のカメラの外部・内部パラメータから算出した前記カメラ間の共通視野の関係に基づき画像を選択して取得することを特徴とする三次元計測装置。 - 請求項3に記載の三次元計測装置において、
前記画像選択部は、前記三次元位置・同期ずれ推定部の処理結果に基づいて前記カメラ間の共通視野の関係を更新することを特徴とする三次元計測装置。 - 請求項1から請求項4のいずれか一項に記載の三次元計測装置において、
前記画像選択部は、前記画像保持部が一定時間更新されていない場合に動物体が検出されていないと判断し、動物体が検出されている場合より多くの画像を選択して取得することを特徴とする三次元計測装置。 - 請求項1から請求項5の何れか一項に記載の三次元計測装置であって、
前記カメラに前記撮影部、前記画像取得部、前記ローカル撮影時刻取得部、前記動物体検出部、および、前記画像保持部を設け、他を前記演算装置に設けた構成、または、
前記カメラに前記撮影部を設け、他を前記演算装置に設けた構成、
の何れかの構成であることを特徴とする三次元計測装置。 - 請求項1に記載の三次元計測装置において、
前記三次元位置・同期ずれ推定部は、カメラ幾何と計測対象の運動モデルに基づいた目的関数を最小化することで、計測対象の三次元位置と、運動モデルのパラメータと、カメラ間の同期ずれを推定することを特徴とする三次元計測装置。 - 請求項1に記載の三次元計測装置において、
前記出力部は、前記カメラの位置・姿勢と、前記画像選択部により選択された前記画像と、前記三次元位置・同期ずれ推定部により推定された計測対象の三次元位置と運動モデルのパラメータと、を二次元もしくは三次元の地図に表示することを特徴とする三次元計測装置。 - 請求項4に記載の三次元計測装置において、
前記複数のカメラには、位置・姿勢が変化する動カメラを含み、
該動カメラが撮影した画像から、該動カメラの位置・姿勢の推定、動物体の検出、前記複数のカメラ間の共通視野の関係を更新する動カメラ処理部、
をさらに備えることを特徴とする三次元計測装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/003536 WO2018142496A1 (ja) | 2017-02-01 | 2017-02-01 | 三次元計測装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018142496A1 JPWO2018142496A1 (ja) | 2019-11-07 |
JP6734940B2 true JP6734940B2 (ja) | 2020-08-05 |
Family
ID=63040322
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018565132A Active JP6734940B2 (ja) | 2017-02-01 | 2017-02-01 | 三次元計測装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11132810B2 (ja) |
JP (1) | JP6734940B2 (ja) |
WO (1) | WO2018142496A1 (ja) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10096067B1 (en) * | 2014-01-24 | 2018-10-09 | Allstate Insurance Company | Reward system related to a vehicle-to-vehicle communication system |
GB2560387B (en) | 2017-03-10 | 2022-03-09 | Standard Cognition Corp | Action identification using neural networks |
US11200692B2 (en) | 2017-08-07 | 2021-12-14 | Standard Cognition, Corp | Systems and methods to check-in shoppers in a cashier-less store |
US10474988B2 (en) | 2017-08-07 | 2019-11-12 | Standard Cognition, Corp. | Predicting inventory events using foreground/background processing |
CN107423445B (zh) * | 2017-08-10 | 2018-10-30 | 腾讯科技(深圳)有限公司 | 一种地图数据处理方法、装置及存储介质 |
JP7086630B2 (ja) * | 2018-02-09 | 2022-06-20 | キヤノン株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP6974290B2 (ja) * | 2018-10-31 | 2021-12-01 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co., Ltd | 位置推定装置、位置推定方法、プログラム、及び記録媒体 |
US11232575B2 (en) | 2019-04-18 | 2022-01-25 | Standard Cognition, Corp | Systems and methods for deep learning-based subject persistence |
JP2021060252A (ja) * | 2019-10-04 | 2021-04-15 | 三菱重工業株式会社 | 画像測定方法及び画像測定システム |
US20210259779A1 (en) * | 2020-02-20 | 2021-08-26 | Verb Surgical Inc. | Multi-camera user interface device calibration and tracking |
US11361468B2 (en) | 2020-06-26 | 2022-06-14 | Standard Cognition, Corp. | Systems and methods for automated recalibration of sensors for autonomous checkout |
US11303853B2 (en) * | 2020-06-26 | 2022-04-12 | Standard Cognition, Corp. | Systems and methods for automated design of camera placement and cameras arrangements for autonomous checkout |
JP7490483B2 (ja) | 2020-07-22 | 2024-05-27 | キヤノン株式会社 | システム、情報処理方法、物品の製造方法、プログラム及び記録媒体 |
US11978177B2 (en) * | 2020-09-25 | 2024-05-07 | Intel Corporation | Method and system of image processing of omnidirectional images with a viewpoint shift |
CN112233158B (zh) * | 2020-10-14 | 2022-02-15 | 俐玛精密测量技术(苏州)有限公司 | 微纳米ct投影图像的二次投影配准方法 |
CN114765667A (zh) * | 2021-01-13 | 2022-07-19 | 安霸国际有限合伙企业 | 用于多视图拼接的固定图案校准 |
KR102285220B1 (ko) * | 2021-03-12 | 2021-08-03 | 주식회사 위즈브레인 | 대형 장비에 대한 실시간 계측 영상 동기화를 위한 서버 및 그 동작 방법 |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE60330898D1 (de) * | 2002-11-12 | 2010-02-25 | Intellivid Corp | Verfahren und system zur verfolgung und verhaltensüberwachung von mehreren objekten, die sich durch mehrere sichtfelder bewegen |
US20060125920A1 (en) * | 2004-12-10 | 2006-06-15 | Microsoft Corporation | Matching un-synchronized image portions |
JP4042750B2 (ja) * | 2005-02-21 | 2008-02-06 | 住友電気工業株式会社 | 画像処理装置、コンピュータプログラム、及び画像処理方法 |
JP4160572B2 (ja) * | 2005-03-31 | 2008-10-01 | 株式会社東芝 | 画像処理装置及び画像処理方法 |
JP2007233523A (ja) * | 2006-02-28 | 2007-09-13 | Hitachi Ltd | 非同期カメラ映像を用いた人物位置推定方法及びそのシステム |
US20110298603A1 (en) * | 2006-03-06 | 2011-12-08 | King Timothy I | Intersection Collision Warning System |
US9386447B2 (en) * | 2009-07-21 | 2016-07-05 | Scott Ferrill Tibbitts | Method and system for controlling a mobile communication device |
US8811745B2 (en) * | 2010-01-20 | 2014-08-19 | Duke University | Segmentation and identification of layered structures in images |
US9594960B2 (en) * | 2010-09-14 | 2017-03-14 | Microsoft Technology Licensing, Llc | Visualizing video within existing still images |
JP2014099695A (ja) * | 2012-11-13 | 2014-05-29 | Canon Inc | 移動体観測装置 |
JP6026252B2 (ja) * | 2012-11-30 | 2016-11-16 | 株式会社東芝 | 物体測定装置、及び物体測定方法 |
GB201303076D0 (en) * | 2013-02-21 | 2013-04-10 | Isis Innovation | Generation of 3D models of an environment |
US9183746B2 (en) * | 2013-03-12 | 2015-11-10 | Xerox Corporation | Single camera video-based speed enforcement system with a secondary auxiliary RGB traffic camera |
JP2014186004A (ja) | 2013-03-25 | 2014-10-02 | Toshiba Corp | 計測装置、方法及びプログラム |
EP3063737B1 (en) * | 2013-10-28 | 2020-05-06 | Thomson Licensing | Method and device for constructing graph representation for a 3d object |
US9565400B1 (en) * | 2013-12-20 | 2017-02-07 | Amazon Technologies, Inc. | Automatic imaging device selection for video analytics |
US9412043B2 (en) * | 2014-10-03 | 2016-08-09 | EyeEm Mobile GmbH | Systems, methods, and computer program products for searching and sorting images by aesthetic quality |
US9460513B1 (en) * | 2015-06-17 | 2016-10-04 | Mitsubishi Electric Research Laboratories, Inc. | Method for reconstructing a 3D scene as a 3D model using images acquired by 3D sensors and omnidirectional cameras |
US9947107B2 (en) * | 2015-09-16 | 2018-04-17 | Agt International Gmbh | Method and system for tracking objects between cameras |
US10257395B2 (en) * | 2016-10-31 | 2019-04-09 | Nokia Technologies Oy | Method, apparatus and computer program product for creating virtual reality content of an event |
CN110088805B (zh) * | 2016-12-20 | 2023-06-06 | 柯达阿拉里斯股份有限公司 | 用于检测和分割多个前景对象的方法 |
US10422639B2 (en) * | 2016-12-30 | 2019-09-24 | DeepMap Inc. | Enrichment of point cloud data for high-definition maps for autonomous vehicles |
US10957074B2 (en) * | 2019-01-29 | 2021-03-23 | Microsoft Technology Licensing, Llc | Calibrating cameras using human skeleton |
US10914605B1 (en) * | 2019-11-25 | 2021-02-09 | Blue Vision Labs UK Limited | Guided batching |
-
2017
- 2017-02-01 JP JP2018565132A patent/JP6734940B2/ja active Active
- 2017-02-01 WO PCT/JP2017/003536 patent/WO2018142496A1/ja active Application Filing
- 2017-02-01 US US16/479,282 patent/US11132810B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
WO2018142496A1 (ja) | 2018-08-09 |
JPWO2018142496A1 (ja) | 2019-11-07 |
US11132810B2 (en) | 2021-09-28 |
US20190385324A1 (en) | 2019-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6734940B2 (ja) | 三次元計測装置 | |
CN108765498B (zh) | 单目视觉跟踪方法、装置及存储介质 | |
EP3679549B1 (en) | Visual-inertial odometry with an event camera | |
US10755428B2 (en) | Apparatuses and methods for machine vision system including creation of a point cloud model and/or three dimensional model | |
CN107888828B (zh) | 空间定位方法及装置、电子设备、以及存储介质 | |
JP6338021B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
CN112567201A (zh) | 距离测量方法以及设备 | |
KR102397343B1 (ko) | 비디오에서 가상 오브젝트를 블러링하기 위한 방법 및 디바이스 | |
WO2018140107A1 (en) | System for 3d image filtering | |
KR20150119337A (ko) | 환경의 3d 모델의 발생 | |
CN108700946A (zh) | 用于并行测距和建图的故障检测和恢复的系统和方法 | |
JP2005033319A (ja) | 位置姿勢計測方法及び装置 | |
JP7280385B2 (ja) | 視覚的ポジショニング方法および関連装置、機器並びにコンピュータ可読記憶媒体 | |
CN111507132B (zh) | 一种定位方法、装置及设备 | |
IL182799A (en) | Method for estimating the ptz camera's pose | |
CN111899276A (zh) | 一种基于双目事件相机的slam方法及系统 | |
CN109040525B (zh) | 图像处理方法、装置、计算机可读介质及电子设备 | |
JP7498404B2 (ja) | 被写体の3次元姿勢推定装置、3次元姿勢推定方法、及びプログラム | |
KR101791166B1 (ko) | 오브젝트의 공간 정보 추정 장치 및 방법 | |
JP2005241323A (ja) | 撮像システム及び校正方法 | |
Irmisch et al. | Simulation framework for a visual-inertial navigation system | |
Burschka et al. | Direct pose estimation with a monocular camera | |
EP3392748B1 (en) | System and method for position tracking in a virtual reality system | |
WO2019186677A1 (ja) | ロボット位置姿勢推定・三次元計測装置 | |
JP3221384B2 (ja) | 三次元座標計測装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190529 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200317 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200416 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200707 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200710 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6734940 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |