JP7245291B2 - 水中3次元復元装置および水中3次元復元方法 - Google Patents
水中3次元復元装置および水中3次元復元方法 Download PDFInfo
- Publication number
- JP7245291B2 JP7245291B2 JP2021111765A JP2021111765A JP7245291B2 JP 7245291 B2 JP7245291 B2 JP 7245291B2 JP 2021111765 A JP2021111765 A JP 2021111765A JP 2021111765 A JP2021111765 A JP 2021111765A JP 7245291 B2 JP7245291 B2 JP 7245291B2
- Authority
- JP
- Japan
- Prior art keywords
- underwater
- target
- camera
- parameter sets
- dimensional reconstruction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Measurement Of Optical Distance (AREA)
Description
s[xy1]T=A[Rt][XYZ1]T ・・・ (1)
という方程式で表される。
ここで、
x,y:ピクセル座標での2次元点の位置
X,Y,Z:ワールド座標の3次元位置
s:スケール係数
内部パラメータの行列は、5つの内部パラメータからなる行列Aであり、
外部パラメータ[Rt]は、ワールド座標系をカメラ座標系に関連付ける回転と移動である。
放射方向歪みパラメータは、放射方向の歪みを次のようにモデリングする。
xdistorted=x(1+k1*r2+k2*r4+k3*r6)
ydistorted=y(1+k1*r2+k2*r4+k3*r6)
接線方向歪みパラメータは、接線方向の歪みを次のようにモデリングする。
xdistorted=x+{2*p1*x*y+p2*(r2+2*x2)}
ydistorted=y+{p1*(r2+2*y2)+2*p2*x*y}
ここで、
x,y:歪みのないピクセル位置
xdistorted,ydistorted:歪みのある点
k1,k2,k3:レンズの放射方向の歪み係数
p1,p2:レンズの接線方向の歪み係数
r2=x2+y2
a)校正は媒質中、好ましくは水中260で実施され、ステレオカメラ205,210から複数の距離にてZhangの校正方法およびこの方法に類似した従来の校正方法を同様に使用して実施される。ステレオカメラは、空気265を封入した防水ケース201内に配置され、チェックボードなどの物標の画像を撮るための透光性材料202を含む。複数の距離で校正を行うために、それぞれ距離の近傍にチェックボードを配置する(S41)。
b)これにより、複数のパラメータセットが作成される。各セットは、ピンホールカメラモデルの内部パラメータおよび外部パラメータを含む。各セットはまた、放射方向および接線方向のレンズ歪み係数を含むことが好ましい。これらのセットは、校正が行われた複数の距離のそれぞれについて得られる。たとえば、距離1でセット1、・・・、距離nでセットnが得られる。情報記憶部130は、複数のパラメータセットを記憶するように構成される(S42)。複数のパラメータセットの各セットは、校正が実行されたステレオカメラからの距離で水中物標の画像を生成するステレオカメラをモデリングする。複数のパラメータセットからのセットは、異なる距離でステレオカメラをモデリングする。
c)上記の手順を使用して事前に校正を一度実行すると、次の3次元復元を実行できる。
a)メーカーのカメラ仕様書に記載されているピンホールカメラモデルのパラメータと歪み係数を取得する。これらのパラメータは、通常、メーカーから設計仕様書で提供される設計パラメータであり、実際には、カメラの製造後にメーカーによって測定されることはない。
b)空気中でカメラを使用するためにメーカーの仕様が作成されていると仮定し、焦点距離に関するパラメータ(すなわちαとβ)に空気に対する水の屈折率、すなわち1.33を乗算する。
c)仕様に記載されていないパラメータおよび係数には、デフォルト値を使用する。
d)これらのパラメータ、係数、および一対の画像311上の物標の2次元位置を用いて、ステップ312で検出される物標の距離を、例えば三角測量の原理を用いて計算する。
a)ステレオカメラ105,110,305,310が空気中で予め校正されていると仮定して、ピンホールカメラモデルのパラメータおよび歪み係数を取得する。このようにして、これらのパラメータは、情報記憶部130に記憶される。
b)焦点距離に関連するパラメータ(すなわちαとβ)に、空気に対する水の屈折率1.33を掛ける。
c)これらのパラメータ、係数、及び一対の画像上の物標の2次元位置を用い、例えば三角測量の原理を用いて、ステップ312で検出された物標の距離を計算する。
a)水中での事前校正時に取得したパラメータセットのいずれかを情報記憶部130から取得する。パラメータのセットから任意のセットを選択できる。
b)ステップ312で検出された物標の距離を、選択されたパラメータのセットおよび一対の画像上の物標の2次元位置を用いて、例えば三角測量の原理によって計算する。
201 防水ケース
202 透光性材料
105,205,305 第1カメラ(ステレオカメラ)
110,210,310 第2カメラ(ステレオカメラ)
311 画像
312 物標検出部
313 ペアリング部
120,320 距離計算部
130 情報記憶部
140,340 セット選択部
150,350 3次元復元部
255 物標
260 水中
265 空気
51 イメージセンサ
52 ピンホール
53 レンズ
531 レンズ素子
54 光
Claims (15)
- 水中環境で物標の一対の画像を撮影する第1カメラと第2カメラを含むステレオカメラと、
前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶する情報記憶部と、
前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算する3次元復元部と、を備え、
前記複数のパラメータセットの各々は、該セットが得られるべき距離の近傍に置かれた水中物標を用いて前記ステレオカメラを校正することによって得られる、
ことを特徴とする水中3次元復元装置。 - 水中環境で物標の一対の画像を撮影する第1カメラと第2カメラを含むステレオカメラと、
前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶する情報記憶部と、
前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算する3次元復元部と、を備え、
前記複数のパラメータセットのパラメータは、ピンホールカメラモデルのパラメータを含む、
ことを特徴とする水中3次元復元装置。 - 水中環境で物標の一対の画像を撮影する第1カメラと第2カメラを含むステレオカメラと、
前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶する情報記憶部と、
前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算する3次元復元部と、を備え、
前記ステレオカメラは、複数の異なる媒質を介して前記物標の画像を撮影し、前記複数の異なる媒質によって引き起こされる屈折を補償するために前記複数のパラメータセットが決定される、
ことを特徴とする水中3次元復元装置。 - 請求項1ないし3の何れか一項に記載の水中3次元復元装置において、
前記一対の画像上の前記物標の2次元位置に基づいて、前記物標と前記ステレオカメラとの間の距離を計算する距離計算部と、
前記距離に基づいて前記パラメータセットを選択するセット選択部と、を備える、
ことを特徴とする水中3次元復元装置。 - 請求項4に記載の水中3次元復元装置において、
前記セット選択部は、前記複数のパラメータセットの中から、前記距離に最も近い距離のパラメータセットを選択する、
ことを特徴とする水中3次元復元装置。 - 請求項4に記載の水中3次元復元装置において、
前記セット選択部は、前記複数のパラメータセットの中から、前記距離の両側で、それぞれ前記距離に最も近い距離の第1セットと第2セットを選択する、
ことを特徴とする水中3次元復元装置。 - 請求項6に記載の水中3次元復元装置において、
前記3次元復元部は、前記第1セットおよび前記第2セットから補間セットを計算し、該補間セットに基づいて前記物標の3次元位置を計算する、
ことを特徴とする水中3次元復元装置。 - 請求項4ないし7の何れか一項に記載の水中3次元復元装置において、
前記距離計算部は、前記複数のパラメータセットのうちの一つを用いて前記距離を計算する、
ことを特徴とする水中3次元復元装置。 - 請求項4ないし7の何れか一項に記載の水中3次元復元装置において、
前記距離計算部は、前記ステレオカメラの焦点距離と空気に対する水の屈折率とを用いて前記距離を算出する、
ことを特徴とする水中3次元復元装置。 - 請求項2に記載の水中3次元復元装置において、
前記複数のパラメータセットのパラメータは、レンズ歪み係数をさらに含む、
ことを特徴とする水中3次元復元装置。 - 請求項1ないし10の何れか一項に記載の水中3次元復元装置において、
空気と前記ステレオカメラとを封入し、前記ステレオカメラが前記物標を撮影するための透光性材料を含む防水ケースを備える、
ことを特徴とする水中3次元復元装置。 - 請求項1ないし11の何れか一項に記載の水中3次元復元装置において、
前記第1カメラは、前記第1カメラ内の固定位置に配置された一つ以上のレンズ素子を備え、
前記第2カメラは、前記第2カメラ内の固定位置に配置された一つ以上のレンズ素子を備える、
ことを特徴とする水中3次元復元装置。 - ステレオカメラで水中環境の物標の一対の画像を撮影し、
前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶し、
前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算し、
前記複数のパラメータセットの各々は、該セットが得られるべき距離の近傍に置かれた水中物標を用いて前記ステレオカメラを校正することによって得られる、
ことを特徴とする水中3次元復元方法。 - ステレオカメラで水中環境の物標の一対の画像を撮影し、
前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶し、
前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算し、
前記複数のパラメータセットのパラメータは、ピンホールカメラモデルのパラメータを含む、
ことを特徴とする水中3次元復元方法。 - ステレオカメラで水中環境の物標の一対の画像を撮影し、
前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶し、
前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算し、
前記ステレオカメラは、複数の異なる媒質を介して前記物標の画像を撮影し、前記複数の異なる媒質によって引き起こされる屈折を補償するために前記複数のパラメータセットが決定される、
ことを特徴とする水中3次元復元方法。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP20186341.2 | 2020-07-16 | ||
EP20186341.2A EP3940642A1 (en) | 2020-07-16 | 2020-07-16 | Underwater 3d reconstruction device |
EP21150369.3A EP3940643A1 (en) | 2020-07-16 | 2021-01-06 | Underwater 3d reconstruction device |
EP21150369.3 | 2021-01-06 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022019593A JP2022019593A (ja) | 2022-01-27 |
JP7245291B2 true JP7245291B2 (ja) | 2023-03-23 |
Family
ID=71661793
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021111765A Active JP7245291B2 (ja) | 2020-07-16 | 2021-07-05 | 水中3次元復元装置および水中3次元復元方法 |
Country Status (4)
Country | Link |
---|---|
EP (2) | EP3940642A1 (ja) |
JP (1) | JP7245291B2 (ja) |
CN (1) | CN113947658A (ja) |
CL (1) | CL2021001500A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102456515B1 (ko) * | 2020-11-04 | 2022-10-18 | 포항공과대학교 산학협력단 | 수중 물체에 대한 3차원 광학 체적 모델을 획득하는 방법 및 시스템 |
KR102456516B1 (ko) * | 2020-11-04 | 2022-10-18 | 포항공과대학교 산학협력단 | 수중 물체에 대한 3차원 음향 체적 모델을 획득하는 방법 및 시스템 |
US20240070915A1 (en) * | 2022-08-23 | 2024-02-29 | Motional Ad Llc | Maintaining intrinsic calibration of cameras with in-body image stabilization systems |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008070347A (ja) | 2006-08-17 | 2008-03-27 | Univ Of Miyazaki | 自動キャリブレーション装置、及びキャリブレーション方法 |
WO2011125937A1 (ja) | 2010-04-06 | 2011-10-13 | 富士フイルム株式会社 | キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置 |
JP2014098576A (ja) | 2012-11-13 | 2014-05-29 | Iwate Univ | モーションキャプチャー方法及びこのモーションキャプチャー方法を行うモーションキャプチャー装置 |
WO2019017328A1 (ja) | 2017-07-21 | 2019-01-24 | 日本電気株式会社 | 較正装置および較正方法 |
JP2020085609A (ja) | 2018-11-22 | 2020-06-04 | 株式会社アイエンター | 魚体サイズ算出装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
PH12016000469A1 (en) * | 2016-12-15 | 2018-06-25 | Univ Of The Philippines Diliman | Estimating fish size, population density, species distribution and biomass |
US11913771B2 (en) | 2018-03-26 | 2024-02-27 | Nec Corporation | Information processing device, object measuring system, object measuring method, and program storing medium |
-
2020
- 2020-07-16 EP EP20186341.2A patent/EP3940642A1/en not_active Withdrawn
-
2021
- 2021-01-06 EP EP21150369.3A patent/EP3940643A1/en active Pending
- 2021-06-08 CL CL2021001500A patent/CL2021001500A1/es unknown
- 2021-06-25 CN CN202110710670.2A patent/CN113947658A/zh active Pending
- 2021-07-05 JP JP2021111765A patent/JP7245291B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008070347A (ja) | 2006-08-17 | 2008-03-27 | Univ Of Miyazaki | 自動キャリブレーション装置、及びキャリブレーション方法 |
WO2011125937A1 (ja) | 2010-04-06 | 2011-10-13 | 富士フイルム株式会社 | キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置 |
JP2014098576A (ja) | 2012-11-13 | 2014-05-29 | Iwate Univ | モーションキャプチャー方法及びこのモーションキャプチャー方法を行うモーションキャプチャー装置 |
WO2019017328A1 (ja) | 2017-07-21 | 2019-01-24 | 日本電気株式会社 | 較正装置および較正方法 |
JP2020085609A (ja) | 2018-11-22 | 2020-06-04 | 株式会社アイエンター | 魚体サイズ算出装置 |
Also Published As
Publication number | Publication date |
---|---|
EP3940643A1 (en) | 2022-01-19 |
CL2021001500A1 (es) | 2021-12-31 |
JP2022019593A (ja) | 2022-01-27 |
CN113947658A (zh) | 2022-01-18 |
EP3940642A1 (en) | 2022-01-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7245291B2 (ja) | 水中3次元復元装置および水中3次元復元方法 | |
CN111862048B (zh) | 基于关键点检测和深度卷积神经网络的鱼体姿态与长度自动分析方法 | |
Shortis et al. | Design and calibration of an underwater stereo-video system for the monitoring of marine fauna populations | |
WO2012030899A1 (en) | Methods and systems for determining fish catches | |
Boutros et al. | A comparison of calibration methods and system configurations of underwater stereo‐video systems for applications in marine ecology | |
WO2018227576A1 (zh) | 地面形态检测方法及系统、无人机降落方法和无人机 | |
JP2017530486A (ja) | 生物を有する試料の関心変数の値を決定する方法及びそのシステム | |
JP6888041B2 (ja) | 医用矢状面画像を取得する方法、医用矢状面画像を取得するニューラルネットワークのトレーニング方法及びコンピュータ装置 | |
JP7074185B2 (ja) | 特徴推定装置および特徴推定方法、プログラム | |
CN112261399B (zh) | 胶囊内窥镜图像三维重建方法、电子设备及可读存储介质 | |
WO2019198701A1 (ja) | 分析装置および分析方法 | |
CN110956603A (zh) | 深度图像边缘飞点的检测方法、装置及电子设备 | |
CN115512215B (zh) | 水下生物监测方法、装置及存储介质 | |
Fan et al. | Application of blind deconvolution approach with image quality metric in underwater image restoration | |
CN111256598B (zh) | 活体对虾生长表型高精度测量系统和方法 | |
US10204405B2 (en) | Apparatus and method for parameterizing a plant | |
CN117178161A (zh) | 计算机程序、模型生成方法、推断方法以及推断装置 | |
Chong et al. | Underwater digital stereo-observation technique for red hydrocoral study | |
JP2021063774A (ja) | 体重推定装置 | |
JP2020154234A (ja) | 観察装置の作動方法、観察装置、およびプログラム | |
NO20092446L (no) | Anordning og fremgangsmate for fisketelling eller biomassebestemmelse | |
JP2020118493A (ja) | 撮像装置および体温測定装置 | |
Drap et al. | UNDERWATER PHOTOGRAMMETRY, CODED TARGET AND PLENOPTIC TECHNOLOGY: A SET OF TOOLS FOR MONITORING RED CORAL IN MEDITERRANEAN SEA IN THE FRAMEWORK OF THE” PERFECT” PROJECT | |
WO2022061899A1 (zh) | 红外图像处理方法、装置及红外相机 | |
CN117739828A (zh) | 基于介质回归的几何鱼类体长测量方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220519 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230131 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230207 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230214 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230215 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230228 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230310 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7245291 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |