JP7245291B2 - 水中3次元復元装置および水中3次元復元方法 - Google Patents

水中3次元復元装置および水中3次元復元方法 Download PDF

Info

Publication number
JP7245291B2
JP7245291B2 JP2021111765A JP2021111765A JP7245291B2 JP 7245291 B2 JP7245291 B2 JP 7245291B2 JP 2021111765 A JP2021111765 A JP 2021111765A JP 2021111765 A JP2021111765 A JP 2021111765A JP 7245291 B2 JP7245291 B2 JP 7245291B2
Authority
JP
Japan
Prior art keywords
underwater
target
camera
parameter sets
dimensional reconstruction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021111765A
Other languages
English (en)
Other versions
JP2022019593A (ja
Inventor
温史 池上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Furuno Electric Co Ltd
Original Assignee
Furuno Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Furuno Electric Co Ltd filed Critical Furuno Electric Co Ltd
Publication of JP2022019593A publication Critical patent/JP2022019593A/ja
Application granted granted Critical
Publication of JP7245291B2 publication Critical patent/JP7245291B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Measurement Of Optical Distance (AREA)

Description

本明細書に記載する発明は、魚の部位の3次元位置を画像より復元する技術分野に関する。本発明は、特に、ステレオカメラ及びカメラ校正に基づく魚体長計測装置に関する。
背景説明は、本発明を理解するのに有用な情報を含む。本明細書で提供される情報のいずれかが先行技術であるか、または現在特許請求の範囲に記載されている発明に関連していること、または、特定的にまたは暗黙的に参照される刊行物が先行技術であることは認められない。
水産物は人類の蛋白質需要を満たすのに重要な役割を果たす。水産資源を効率よく持続的に管理するためには、漁業者が適切に漁獲し、有意義な情報を得る必要がある。小型魚や低品質魚は経済的に持続不可能な操業につながる可能性があるため、漁獲操業中には魚の大きさに関する予備知識が重要である。生物学的試料採取なしに魚の大きさの推定を得るため、表面および水中カメラ装置のような自律的プラットフォームにも関心が持たれている。
正確な魚の大きさの推定は、資源状態を評価し、水産養殖産業の経済的利益を増加させるための重要なパラメータとなる。魚の養殖では、最適な時期に資源を収穫するためには、魚の成長を記述し管理するための魚体長情報を収集する必要がある。魚の大きさは、個体群レベルの特性の範囲を予測し、飼育活動のための資源を評価するために使用できる。市場用途に応じた魚の大きさを決めるためには、収穫後に魚の大きさで選別して価値を見積もる必要がある。このステップは、異なる価格を設定し、市場経済を管理するために必要である。同時に、魚体長情報は食品産業における品質を監視するために使用でき、これは水産養殖産業が価格を評価するのに役立つ。魚体長情報はまた、魚のバイオマスや形態を測定するのに役立ち、例えば、体積や脂肪含有量の推定にさえ役立つ。従って、魚の大きさは水産養殖業に必要な重要なパラメータである。
従来の方法は、水中ステレオカメラおよび3次元復元技術を用いて魚体長を計算することを開示している。
魚体長測定を実行する際、カメラは複数の媒質(空気、水、透明窓)内にあり、屈折が発生する。いくつかの既知のカメラ校正技術は屈折条件を打ち消す。カメラ校正技術は、カメラのレンズとイメージセンサのパラメータを推定する。これらのパラメータを使用して、レンズの歪みを補正したり、物体のサイズをワールド座標系で測定したり、撮影領域内の物体の位置を決定したりする。パラメータは、内部パラメータ、外部パラメータ、および歪み係数を含み得る。カメラパラメータを推定するためには、ワールド座標とそれに対応する画像平面座標が必要である。これらの対応は、校正パターンの複数の画像を用いて得られる。これらの対応を用いて、カメラパラメータが解かれる。
他の既知の技術では、ピンホールカメラが、体長を決定するためにデバイス内で使用される。ピンホールカメラモデルでは屈折は考慮されない。ピンホールカメラモデルは単一焦点距離モデルであるが、水中のカメラは、上述の特殊な例を除いて屈折により焦点距離と歪係数は一定ではない。
ピンホールカメラモデルは、多くの場合、
s[xy1]=A[Rt][XYZ1] ・・・ (1)
という方程式で表される。
ここで、
x,y:ピクセル座標での2次元点の位置
X,Y,Z:ワールド座標の3次元位置
s:スケール係数
内部パラメータの行列は、5つの内部パラメータからなる行列Aであり、
Figure 0007245291000001
となる。は、αとβは画素単位の焦点距離を表す。
外部パラメータ[Rt]は、ワールド座標系をカメラ座標系に関連付ける回転と移動である。
カメラモデルには、放射方向および接線方向のレンズ歪みを含むレンズ歪みも含まれる。
放射方向歪みパラメータは、放射方向の歪みを次のようにモデリングする。
distorted=x(1+k1*r+k2*r+k3*r
distorted=y(1+k1*r+k2*r+k3*r
接線方向歪みパラメータは、接線方向の歪みを次のようにモデリングする。
distorted=x+{2*p1*x*y+p2*(r+2*x)}
distorted=y+{p1*(r+2*y)+2*p2*x*y}
ここで、
x,y:歪みのないピクセル位置
distorted,ydistorted:歪みのある点
k1,k2,k3:レンズの放射方向の歪み係数
p1,p2:レンズの接線方向の歪み係数
=x+y
これらの内部パラメータ、外部パラメータ、歪み係数を用いて3次元復元を行うことにより、水中の魚などの物体の大きさが計算される。これらのパラメータおよび係数は、校正によって推定することができる。Zhangの方法、Tsaiの方法など多くの校正方法がある。
国際公開第2019/188506号公報
本発明が解決しようとする課題は、3次元復元を用いて魚の大きさを測定するカメラを水中環境に設置した場合、屈折が生じ、焦点距離や、歪み係数が一定に保たれないことである。このような環境は、3次元復元を不正確にし、魚体長計測の誤差につながる。既存の手法に基づいたカメラはレンズの前に透明な窓がある防水ケースに入れられる。水中の物標(例えば魚)で反射してカメラに入る光線は、水・透過窓・空気といった様々な媒質を通過し、屈折の原因となる。屈折により、カメラのパラメータは対象物標とカメラの間の距離に応じて変化する。その結果、水中の物標の大きさを正確に計算できない。
従来技術で検討されている既存の対策がいくつかある。従来技術では、屈折を除去するためにカメラのレンズに専用の防水ハウジングを取り付ける装置が提示されている。このようなデバイスは構造が複雑で、使いにくい。
従来技術である特許文献1は、魚体長計測装置を開示している。従来技術は、カメラに基づく魚体長計測システムを開示している。カメラの校正はDLTなどの従来の方法で行われ、魚とカメラの距離に応じて、この校正されたシステムで魚体長を計算する際に生じる誤差を知り、誤差を補正する。この方法には欠点があり、魚がカメラに垂直でカメラと交差する軸上にある場合には正しい物標サイズ情報を算出する場合もあるが、魚がその軸から離れている場合には、この方法は誤った値を算出する。
本発明は、3次元復元を正確に行い、すなわち、ステレオカメラおよび校正技術を用いて水中の物標サイズを正確に計算することによって、この問題に対処する。本発明のステレオカメラは、複数の距離における歪み係数を含む内部パラメータと外部パラメータのセットを得るように構成される。校正後、3次元復元が実行され、正しい魚の大きさが提供される。
既存の発明の1つまたは複数の欠点に対する解決策、および追加の利点が本開示において提供される。さらなる特徴および利点は、本開示の技術的特徴によって実現される。本開示の他の実施形態および態様は、本明細書に詳細に記載され、請求項に係る開示の一部であると考えられる。
本開示は、ステレオカメラと、情報記憶部と、3次元復元部とを含む水中3次元復元装置に関する。ステレオカメラは、水中環境で物標の一対の画像を撮影する第1カメラと第2カメラとを含む。情報記憶部は、ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶する。3次元復元部は、一対の画像上の物標の2次元位置と、複数のパラメータセットから選択されたパラメータセットとに基づいて、物標の3次元位置を計算する。
一態様では、距離計算部は、一対の画像上の物標の2次元位置に基づいて、物標とステレオカメラとの間の距離を計算する。セット選択部は、計算された距離に基づいてパラメータセットを選択する。
好ましくは、セット選択部は、複数のパラメータセットの中から、計算された距離に最も近いものを選択する。
本発明の別の態様では、セット選択部は、複数のパラメータセットの中から、計算された距離の両側で、それぞれ計算された距離に最も近い距離の第1セットおよび第2セットを選択する。3次元復元部は、第1セットおよび第2セットから補間セットを計算し、補間セットに基づいて物標の3次元位置を計算する。
本発明の別の態様では、距離計算部は、複数のパラメータセットのうちの1つを使用して距離を計算する。
本発明のさらに別の態様では、距離計算部は、ステレオカメラの焦点距離および空気に対する水の屈折率を使用して距離を計算する。
本開示の一態様では、複数のパラメータセットの各々は、そのセットが得られるべき距離の近傍に配置された水中物標を用いてステレオカメラを校正することによって得られる。
好ましくは、複数のパラメータセットのパラメータは、ピンホールカメラモデルのパラメータを含む。
好ましくは、複数のパラメータセットのパラメータは、レンズ歪み係数をさらに含む。
本発明の一態様では、空気およびステレオカメラを封入し、ステレオカメラが物標を撮影するための透光性材料を含む防水ケースが提供される。
本発明の一態様では、第1カメラは、第1カメラ内の固定位置に配置された1つ以上のレンズ素子を含み、第2カメラは、第2カメラ内の固定位置に配置された1つ以上のレンズ素子を含む。
本発明の一態様では、ステレオカメラは、複数の異なる媒質を介して物標を撮影し、複数の異なる媒質によって引き起こされる屈折を補償するために複数のパラメータセットが決定される。
本発明の別の態様は水中3次元復元方法に関する。この態様に係る水中3次元復元方法は、ステレオカメラで水中環境の物標の一対の画像を撮影し、ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶し、一対の画像上の物標の2次元位置と複数のパラメータセットから選択されたパラメータセットとに基づいて物標の3次元位置を計算する。
上記の記載は、例示のみであり、いかなる点においてもこれに限定されることを意図していない。上述の例示的な態様、実施形態、および特徴に加えて、さらなる態様、実施形態、および特徴は、図面および以下の詳細な説明を参照することによって明らかになるであろう。
本発明は、水中でステレオカメラを用いて物標の画像を正確に3次元復元する装置を提供する。従来のピンホールカメラモデルと同様に、従来の校正手法を用いることで、複数の媒質を考慮した特殊モデルや、屈折を排除した特殊カメラ(専用の防水ハウジング)を必要としない。
添付の図面は、本主題の典型的な実施形態のみを示しており、したがって、権利範囲を限定するために考慮されるべきではないことに留意されたい。詳細な説明については、添付図面を参照して説明する。図において、参照番号は、最初に現れる参照番号と同じである。似た特徴や構成要素などを表すために、図面全体で同じ番号が使用されている。本主題の実施形態によるシステムまたは方法または構造のいくつかの実施形態を、一例として、添付の図面を参照して説明する。
本発明の構造的特徴を示すブロック図である。 水中状態に置かれた本装置を示す。 本発明による物標の3次元画像を復元する手順の一例を示すフローチャートである。 本発明による校正を実施する手順の一例を示すフローチャートである。 第1カメラと第2カメラの簡略構造を示す。
図面は、例示のみを目的として、本主題の実施形態を示す。当業者は、本明細書に記載された開示の原理から逸脱することなく、本明細書に図示された構造および方法の代替的な実施形態が使用され得ることを、以下の説明から容易に認識するであろう。
本発明の実施形態は、魚の大きさを測定するためにステレオカメラシステムを使用する。原則として、カメラは校正が必要である。しかし、カメラを防水ケースに入れて水環境に置いた場合、屈折が生じるため、測定対象 (魚) とカメラとの距離に応じて校正パラメータが変化することに本願の発明者は気付いた。この問題を解決するために、本発明の実施形態では、ステレオカメラから複数の距離で校正を行う。このようにして作成された複数セットの校正パラメータは、予め情報記憶部に記憶されている。そして、ステレオカメラで魚を検出すると、魚までの大まかな距離を算出する。算出された大まかな距離に基づいて、情報記憶部に記憶された複数のセットの中から校正パラメータのセットが選択される。次に、選択された校正パラメータのセットを用いて、三角測量によって魚の大きさが計算される。
図1および図3は、物標、好ましくは魚の3次元復元を行うための装置100を示す。一実施形態によると、装置100は、第1カメラ105,305および第2カメラ110,310を含むステレオカメラと、物標検出部312と、ペアリング部313と、距離計算部120,320と、セット選択部140,340と、情報記憶部130と、3次元復元部150,350とを含む。
図5に第1カメラ105,305と第2カメラ110,310の概略構成を示す。第1カメラおよび第2カメラは、イメージセンサ51、ピンホール52、およびレンズ53を含む。レンズ53は、一つ以上のレンズ素子531からなる。撮影領域からの光54は、レンズ53、ピンホール52を通ってイメージセンサ 51に投影される。本発明の実施形態では、イメージセンサ51とレンズ53との間の距離が固定され、ピンホール52とレンズ53との間の距離が固定される。レンズ53が複数のレンズ素子531からなる場合には、レンズ素子531間の間隔も固定される。その結果、第1カメラは、第1カメラ内の固定位置に配置された一つ以上のレンズ素子531を有し、第2カメラは、第2カメラ内の固定位置に配置された一つ以上のレンズ素子531を有する。
本発明の一実施形態では、装置100で3次元復元を実行する前に、事前校正ステップが実行される。図2を参照すると、屈折が生じる複数の媒質に囲まれた環境において、ピンホールカメラモデルのパラメータおよび歪み係数は、ステレオカメラ205,210に対する物標255の位置に応じて変化する。このため、ステレオカメラは、図4を参照して、以下のように校正される。
a)校正は媒質中、好ましくは水中260で実施され、ステレオカメラ205,210から複数の距離にてZhangの校正方法およびこの方法に類似した従来の校正方法を同様に使用して実施される。ステレオカメラは、空気265を封入した防水ケース201内に配置され、チェックボードなどの物標の画像を撮るための透光性材料202を含む。複数の距離で校正を行うために、それぞれ距離の近傍にチェックボードを配置する(S41)。
b)これにより、複数のパラメータセットが作成される。各セットは、ピンホールカメラモデルの内部パラメータおよび外部パラメータを含む。各セットはまた、放射方向および接線方向のレンズ歪み係数を含むことが好ましい。これらのセットは、校正が行われた複数の距離のそれぞれについて得られる。たとえば、距離1でセット1、・・・、距離nでセットnが得られる。情報記憶部130は、複数のパラメータセットを記憶するように構成される(S42)。複数のパラメータセットの各セットは、校正が実行されたステレオカメラからの距離で水中物標の画像を生成するステレオカメラをモデリングする。複数のパラメータセットからのセットは、異なる距離でステレオカメラをモデリングする。
c)上記の手順を使用して事前に校正を一度実行すると、次の3次元復元を実行できる。
図2を参照すると、ステレオカメラ105,205,110,210は、空気265を囲み且つステレオカメラが物標255の画像を撮るための透光性材料202を含む防水ケース201内に配置される。
ステレオカメラ105,305,110,310は、カメラ同期部を用いて一対の画像311を撮影するように構成される。ステレオカメラ105,305,110,310は、例えば汎用入出力(GPIO)同期、バス・タイムスタンプ同期、音声信号同期などの方法を用いて従来行われてきた同期を用いて、同じまたはほぼ同じタイミングで一対の画像311を撮影するように構成されている。
物標検出部312は、各画像311上で魚を検出するタスクを実行するように構成される。魚上の点は、検出された魚の存在を示すために示される。代わりに、検出された魚の存在を示すために、点の代わりに、充填された領域または長方形のボックスも一般的に使用される。このプロセスは、従来、プロセッサ回路およびいくつかのカメラによって実行される。機械学習、特徴点検出、エッジ検出技術のような魚を検出するタスクを実行するために、既存の一般的な特徴点検出手法を利用する。
ペアリング部313は、各一対の画像311上で魚をペアリングするように構成される。一対の画像に対応する魚を対にする。ブロックマッチングのような、機械学習機能を伴うまたは伴わない、使用可能ないくつかの従来のペアリング方法があることは明らかである。
距離計算部120,320は、物標とステレオカメラとの間の距離の概略推定を計算するように構成される。距離の計算は、一対の画像上の物標の2次元位置に基づいて行われる。
本発明の一つの特徴は、距離算出部120,320が、以下の方法を用いて距離を算出するように構成されていることである。
a)メーカーのカメラ仕様書に記載されているピンホールカメラモデルのパラメータと歪み係数を取得する。これらのパラメータは、通常、メーカーから設計仕様書で提供される設計パラメータであり、実際には、カメラの製造後にメーカーによって測定されることはない。
b)空気中でカメラを使用するためにメーカーの仕様が作成されていると仮定し、焦点距離に関するパラメータ(すなわちαとβ)に空気に対する水の屈折率、すなわち1.33を乗算する。
c)仕様に記載されていないパラメータおよび係数には、デフォルト値を使用する。
d)これらのパラメータ、係数、および一対の画像311上の物標の2次元位置を用いて、ステップ312で検出される物標の距離を、例えば三角測量の原理を用いて計算する。
本発明の別の特徴では、距離計算部120,320は、以下の方法を用いて距離を計算するように構成される。
a)ステレオカメラ105,110,305,310が空気中で予め校正されていると仮定して、ピンホールカメラモデルのパラメータおよび歪み係数を取得する。このようにして、これらのパラメータは、情報記憶部130に記憶される。
b)焦点距離に関連するパラメータ(すなわちαとβ)に、空気に対する水の屈折率1.33を掛ける。
c)これらのパラメータ、係数、及び一対の画像上の物標の2次元位置を用い、例えば三角測量の原理を用いて、ステップ312で検出された物標の距離を計算する。
本発明の好ましい特徴において、距離計算部120,320は、以下の方法を用いて距離を計算するように構成される。
a)水中での事前校正時に取得したパラメータセットのいずれかを情報記憶部130から取得する。パラメータのセットから任意のセットを選択できる。
b)ステップ312で検出された物標の距離を、選択されたパラメータのセットおよび一対の画像上の物標の2次元位置を用いて、例えば三角測量の原理によって計算する。
セット選択部140,340は、事前校正時に得られた複数のセットと、距離算出部120,320により算出された物標とカメラとの大まかな距離とに基づいて、内部パラメータおよび外部パラメータと歪み係数とからなるセットを算出するように構成されている。好ましい実施形態では、事前校正中に得られた複数のセット、距離1のセット1、・・・、距離nのセットn、の中から、例えば、ステップ320で取得した大まかな距離に最も近いセットを選択することによって、セットのうちの1つを選択する。例えば、0.3m,0.5m,1m,2m,5mのセットがあり、ステップ320で取得した大まかな距離が3mである場合、セット選択部140,340は、2mのセットを最も近いセットとして選択してもよい。なお、複数のセットは、情報記憶部130に記憶されており、セット選択部140,340は、セットを選択するように構成されている。物標の3次元復元は、選択されたセットに基づいて、3次元復元部150,350によって計算されてもよい。
他の実施形態では、セット選択部140,340は、ステップ320で取得した大まかな距離に最も近い距離の複数のセットの中から、第1セットと第2セット(すなわち2セット)とを選択するように構成される。例えば、0.3m,0.5m,1m,2m,5mのセットがあり、ステップ320で取得した大まかな距離が3mである場合、セット選択部140,340は、2mのセットを第1セット、5mのセットを第2セットとして、最も近い二つのセットを選択してもよい。その後、セット選択部140,340は、第1セットおよび第2セットから補間セットを計算する。補間セットは、例えば、ステレオカメラから第1距離および第2距離でそれぞれ取得された第1セットおよび第2セットに関する物標の相対位置に基づいて、第1セットおよび第2セットに重みを設定することによって、第1セットおよび第2セットから補間されてもよい。物標が第1距離と第2距離との間にある場合、重み付き補間を実行する際に、第1セットの第1距離からの距離n1および第2セットの第2距離からの距離n2において、重みn2/(n1+n2)が第1セットに設定され、重みn1/(n1+n2)が第2セットに設定される。物標の3次元復元は、補間セットに基づいて、3次元復元部150,350によって計算されてもよい。
3次元復元部150,350は、セット選択部140,340によって計算されたパラメータのセットを使用して、一対の画像上の検出された物標の2次元位置を3次元位置に変換するように構成される。2次元から3次元への形状変換のためのいくつかの従来の変換方法があり、本発明は、本発明で使用することができる形状変換のタイプに制限を加えることなく、三角測量を使用するように構成される。検出された物標の2次元位置から3次元位置への変換は、式(1)に基づいて行われる。式(1)は、セット選択部140,340によって計算されたパラメータセット(A,R,t)を使用する。
次に、装置100は、検出された一対の画像上の物標上の任意の2次元位置を3次元復元部150,350によって3次元位置に変換することができるので、物標上の二つの位置間の距離を計算することによって物標の大きさを計算することができる。例えば、一対の画像における魚の頭部の2次元位置と尾部の2次元位置とを3次元位置に変換し、魚の頭部と尾部との3次元位置間の距離を算出することにより、魚の体長を算出してもよい。
次に、本発明の実施形態の技術的効果について説明する。従来、ステレオカメラを用いた水中3次元復元は、一セットの校正パラメータを用いて行われてきた。ただし、水中で3次元復元を行う場合、ステレオカメラは複数の媒質(空気、水、透明窓)に囲まれた環境にあるため、屈折が発生する。その結果、ステレオカメラの校正パラメータは、ステレオカメラとの距離に応じて変化する。
この問題を解決するために、本開示の実施形態では、ステレオカメラは、ステレオカメラから複数の距離で校正される。物標の3次元復元を実行する場合、物標は、物標の距離に近い距離で得られた校正パラメータを使用して復元される。その結果、より正確な3次元復元が達成できる。
100 装置
201 防水ケース
202 透光性材料
105,205,305 第1カメラ(ステレオカメラ)
110,210,310 第2カメラ(ステレオカメラ)
311 画像
312 物標検出部
313 ペアリング部
120,320 距離計算部
130 情報記憶部
140,340 セット選択部
150,350 3次元復元部
255 物標
260 水中
265 空気
51 イメージセンサ
52 ピンホール
53 レンズ
531 レンズ素子
54 光

Claims (15)

  1. 水中環境で物標の一対の画像を撮影する第1カメラと第2カメラを含むステレオカメラと、
    前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶する情報記憶部と、
    前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算する3次元復元部と、を備え
    前記複数のパラメータセットの各々は、該セットが得られるべき距離の近傍に置かれた水中物標を用いて前記ステレオカメラを校正することによって得られる、
    ことを特徴とする水中3次元復元装置。
  2. 水中環境で物標の一対の画像を撮影する第1カメラと第2カメラを含むステレオカメラと、
    前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶する情報記憶部と、
    前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算する3次元復元部と、を備え、
    前記複数のパラメータセットのパラメータは、ピンホールカメラモデルのパラメータを含む、
    ことを特徴とする水中3次元復元装置。
  3. 水中環境で物標の一対の画像を撮影する第1カメラと第2カメラを含むステレオカメラと、
    前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶する情報記憶部と、
    前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算する3次元復元部と、を備え、
    前記ステレオカメラは、複数の異なる媒質を介して前記物標の画像を撮影し、前記複数の異なる媒質によって引き起こされる屈折を補償するために前記複数のパラメータセットが決定される、
    ことを特徴とする水中3次元復元装置。
  4. 請求項1ないし3の何れか一項に記載の水中3次元復元装置において、
    前記一対の画像上の前記物標の2次元位置に基づいて、前記物標と前記ステレオカメラとの間の距離を計算する距離計算部と、
    前記距離に基づいて前記パラメータセットを選択するセット選択部と、を備える、
    ことを特徴とする水中3次元復元装置。
  5. 請求項に記載の水中3次元復元装置において、
    前記セット選択部は、前記複数のパラメータセットの中から、前記距離に最も近い距離のパラメータセットを選択する、
    ことを特徴とする水中3次元復元装置。
  6. 請求項に記載の水中3次元復元装置において、
    前記セット選択部は、前記複数のパラメータセットの中から、前記距離の両側で、それぞれ前記距離に最も近い距離の第1セットと第2セットを選択する、
    ことを特徴とする水中3次元復元装置。
  7. 請求項に記載の水中3次元復元装置において、
    前記3次元復元部は、前記第1セットおよび前記第2セットから補間セットを計算し、該補間セットに基づいて前記物標の3次元位置を計算する、
    ことを特徴とする水中3次元復元装置。
  8. 請求項ないしの何れか一項に記載の水中3次元復元装置において、
    前記距離計算部は、前記複数のパラメータセットのうちの一つを用いて前記距離を計算する、
    ことを特徴とする水中3次元復元装置。
  9. 請求項ないしの何れか一項に記載の水中3次元復元装置において、
    前記距離計算部は、前記ステレオカメラの焦点距離と空気に対する水の屈折率とを用いて前記距離を算出する、
    ことを特徴とする水中3次元復元装置。
  10. 請求項に記載の水中3次元復元装置において、
    前記複数のパラメータセットのパラメータは、レンズ歪み係数をさらに含む、
    ことを特徴とする水中3次元復元装置。
  11. 請求項1ないし10の何れか一項に記載の水中3次元復元装置において、
    空気と前記ステレオカメラとを封入し、前記ステレオカメラが前記物標を撮影するための透光性材料を含む防水ケースを備える、
    ことを特徴とする水中3次元復元装置。
  12. 請求項1ないし11の何れか一項に記載の水中3次元復元装置において、
    前記第1カメラは、前記第1カメラ内の固定位置に配置された一つ以上のレンズ素子を備え、
    前記第2カメラは、前記第2カメラ内の固定位置に配置された一つ以上のレンズ素子を備える、
    ことを特徴とする水中3次元復元装置。
  13. ステレオカメラで水中環境の物標の一対の画像を撮影し、
    前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶し、
    前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算し、
    前記複数のパラメータセットの各々は、該セットが得られるべき距離の近傍に置かれた水中物標を用いて前記ステレオカメラを校正することによって得られる、
    ことを特徴とする水中3次元復元方法。
  14. ステレオカメラで水中環境の物標の一対の画像を撮影し、
    前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶し、
    前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算し、
    前記複数のパラメータセットのパラメータは、ピンホールカメラモデルのパラメータを含む、
    ことを特徴とする水中3次元復元方法。
  15. ステレオカメラで水中環境の物標の一対の画像を撮影し、
    前記ステレオカメラを異なる距離においてモデリングする複数のパラメータセットを記憶し、
    前記一対の画像上の前記物標の2次元位置と、前記複数のパラメータセットから選択されたパラメータセットとに基づいて、前記物標の3次元位置を計算し、
    前記ステレオカメラは、複数の異なる媒質を介して前記物標の画像を撮影し、前記複数の異なる媒質によって引き起こされる屈折を補償するために前記複数のパラメータセットが決定される、
    ことを特徴とする水中3次元復元方法。
JP2021111765A 2020-07-16 2021-07-05 水中3次元復元装置および水中3次元復元方法 Active JP7245291B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
EP20186341.2 2020-07-16
EP20186341.2A EP3940642A1 (en) 2020-07-16 2020-07-16 Underwater 3d reconstruction device
EP21150369.3A EP3940643A1 (en) 2020-07-16 2021-01-06 Underwater 3d reconstruction device
EP21150369.3 2021-01-06

Publications (2)

Publication Number Publication Date
JP2022019593A JP2022019593A (ja) 2022-01-27
JP7245291B2 true JP7245291B2 (ja) 2023-03-23

Family

ID=71661793

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021111765A Active JP7245291B2 (ja) 2020-07-16 2021-07-05 水中3次元復元装置および水中3次元復元方法

Country Status (4)

Country Link
EP (2) EP3940642A1 (ja)
JP (1) JP7245291B2 (ja)
CN (1) CN113947658A (ja)
CL (1) CL2021001500A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102456515B1 (ko) * 2020-11-04 2022-10-18 포항공과대학교 산학협력단 수중 물체에 대한 3차원 광학 체적 모델을 획득하는 방법 및 시스템
KR102456516B1 (ko) * 2020-11-04 2022-10-18 포항공과대학교 산학협력단 수중 물체에 대한 3차원 음향 체적 모델을 획득하는 방법 및 시스템
US20240070915A1 (en) * 2022-08-23 2024-02-29 Motional Ad Llc Maintaining intrinsic calibration of cameras with in-body image stabilization systems

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008070347A (ja) 2006-08-17 2008-03-27 Univ Of Miyazaki 自動キャリブレーション装置、及びキャリブレーション方法
WO2011125937A1 (ja) 2010-04-06 2011-10-13 富士フイルム株式会社 キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置
JP2014098576A (ja) 2012-11-13 2014-05-29 Iwate Univ モーションキャプチャー方法及びこのモーションキャプチャー方法を行うモーションキャプチャー装置
WO2019017328A1 (ja) 2017-07-21 2019-01-24 日本電気株式会社 較正装置および較正方法
JP2020085609A (ja) 2018-11-22 2020-06-04 株式会社アイエンター 魚体サイズ算出装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
PH12016000469A1 (en) * 2016-12-15 2018-06-25 Univ Of The Philippines Diliman Estimating fish size, population density, species distribution and biomass
US11913771B2 (en) 2018-03-26 2024-02-27 Nec Corporation Information processing device, object measuring system, object measuring method, and program storing medium

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008070347A (ja) 2006-08-17 2008-03-27 Univ Of Miyazaki 自動キャリブレーション装置、及びキャリブレーション方法
WO2011125937A1 (ja) 2010-04-06 2011-10-13 富士フイルム株式会社 キャリブレーションデータ選択装置、選択方法、及び選択プログラム、並びに三次元位置測定装置
JP2014098576A (ja) 2012-11-13 2014-05-29 Iwate Univ モーションキャプチャー方法及びこのモーションキャプチャー方法を行うモーションキャプチャー装置
WO2019017328A1 (ja) 2017-07-21 2019-01-24 日本電気株式会社 較正装置および較正方法
JP2020085609A (ja) 2018-11-22 2020-06-04 株式会社アイエンター 魚体サイズ算出装置

Also Published As

Publication number Publication date
EP3940643A1 (en) 2022-01-19
CL2021001500A1 (es) 2021-12-31
JP2022019593A (ja) 2022-01-27
CN113947658A (zh) 2022-01-18
EP3940642A1 (en) 2022-01-19

Similar Documents

Publication Publication Date Title
JP7245291B2 (ja) 水中3次元復元装置および水中3次元復元方法
CN111862048B (zh) 基于关键点检测和深度卷积神经网络的鱼体姿态与长度自动分析方法
Shortis et al. Design and calibration of an underwater stereo-video system for the monitoring of marine fauna populations
WO2012030899A1 (en) Methods and systems for determining fish catches
Boutros et al. A comparison of calibration methods and system configurations of underwater stereo‐video systems for applications in marine ecology
WO2018227576A1 (zh) 地面形态检测方法及系统、无人机降落方法和无人机
JP2017530486A (ja) 生物を有する試料の関心変数の値を決定する方法及びそのシステム
JP6888041B2 (ja) 医用矢状面画像を取得する方法、医用矢状面画像を取得するニューラルネットワークのトレーニング方法及びコンピュータ装置
JP7074185B2 (ja) 特徴推定装置および特徴推定方法、プログラム
CN112261399B (zh) 胶囊内窥镜图像三维重建方法、电子设备及可读存储介质
WO2019198701A1 (ja) 分析装置および分析方法
CN110956603A (zh) 深度图像边缘飞点的检测方法、装置及电子设备
CN115512215B (zh) 水下生物监测方法、装置及存储介质
Fan et al. Application of blind deconvolution approach with image quality metric in underwater image restoration
CN111256598B (zh) 活体对虾生长表型高精度测量系统和方法
US10204405B2 (en) Apparatus and method for parameterizing a plant
CN117178161A (zh) 计算机程序、模型生成方法、推断方法以及推断装置
Chong et al. Underwater digital stereo-observation technique for red hydrocoral study
JP2021063774A (ja) 体重推定装置
JP2020154234A (ja) 観察装置の作動方法、観察装置、およびプログラム
NO20092446L (no) Anordning og fremgangsmate for fisketelling eller biomassebestemmelse
JP2020118493A (ja) 撮像装置および体温測定装置
Drap et al. UNDERWATER PHOTOGRAMMETRY, CODED TARGET AND PLENOPTIC TECHNOLOGY: A SET OF TOOLS FOR MONITORING RED CORAL IN MEDITERRANEAN SEA IN THE FRAMEWORK OF THE” PERFECT” PROJECT
WO2022061899A1 (zh) 红外图像处理方法、装置及红外相机
CN117739828A (zh) 基于介质回归的几何鱼类体长测量方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220519

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230310

R150 Certificate of patent or registration of utility model

Ref document number: 7245291

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150