JP2020187626A - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP2020187626A
JP2020187626A JP2019092824A JP2019092824A JP2020187626A JP 2020187626 A JP2020187626 A JP 2020187626A JP 2019092824 A JP2019092824 A JP 2019092824A JP 2019092824 A JP2019092824 A JP 2019092824A JP 2020187626 A JP2020187626 A JP 2020187626A
Authority
JP
Japan
Prior art keywords
shape
data
image processing
cross
basic shape
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019092824A
Other languages
English (en)
Inventor
知頼 岩尾
Tomoyori IWAO
知頼 岩尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019092824A priority Critical patent/JP2020187626A/ja
Priority to US15/931,014 priority patent/US11328477B2/en
Publication of JP2020187626A publication Critical patent/JP2020187626A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Processing Or Creating Images (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Generation (AREA)

Abstract

【課題】ユーザの負担を低減した上で、三次元形状データを生成する。【解決手段】本発明は、オブジェクトの三次元形状データを生成する画像処理装置(200)であって、オブジェクトの概略形状を示すデータを生成する形状生成部(404)と、オブジェクトの概略形状を示すデータを、オブジェクトの概略形状の断面の形状に応じて複数の部分データに分解する形状分解部(405)と、部分データ毎に、対応する基本形状をフィッティングする形状フィッティング部(408)を備え、フィッティングした基本形状に基づいて、オブジェクトの三次元形状データを生成する。【選択図】図3

Description

本発明は、オブジェクトの三次元形状データを生成する技術に関する。
近年、VR(Virtual Reality)、AR(Augmented Reality)、ストリートビューイング等の用途に対して、リアリティの高い三次元コンピュータグラフィックス(以下、CGと称する)モデルを生成する需要が高まっている。但し、CGクリエータが、現実世界のオブジェクトの三次元CGモデルを最初から生成すると、その負担が大きく、多大な時間を要してしまう。
そこで、現実世界のオブジェクトの大まかな三次元形状を推定してCG空間に取り込み、その推定した三次元形状を用いてより精巧な三次元CGモデルを生成することで三次元CGモデルの生成にかかる負担を低減し、生成時間を短縮する方法が提案されている。特許文献1には、現実世界のオブジェクトを撮影した複数の画像に対して、ユーザがオブジェクトの頂点や辺を手動で指定し、指定された情報と予め記憶された基本形状の姿勢情報とを比較し、一致度の高い基本形状をフィッティングする方法が提案されている。
特開2000−259855号公報
しかしながら、この特許文献1で提案された方法では、ユーザの手動入力が複数、必要となり、そのため、ユーザに負担がかかるという課題があった。
本発明は、前記従来の問題に鑑みてなされたものであって、ユーザの負担を低減した上で、三次元形状データを生成することを目的とする。
本発明は、オブジェクトの三次元形状データを生成する画像処理装置であって、前記オブジェクトの概略形状を示すデータを生成する第1の生成手段と、前記オブジェクトの概略形状を示すデータを、当該オブジェクトの概略形状の断面の形状に応じて複数の部分データに分解する分解手段と、前記部分データ毎に、対応する基本形状をフィッティングするフィッティング手段と、前記フィッティングした基本形状に基づいて、前記オブジェクトの三次元形状データを生成する第2の生成手段とを備えることを特徴とする。
本発明によれば、ユーザの負担を低減した上で、三次元形状データを生成することができる。
ラグビーゴールの三次元形状を示す図である。 三次元形状データ生成システムのハードウェア構成を示す図である。 三次元形状データ生成システムにおける処理の概念図である。 画像処理装置の機能構成を示すブロック図である。 画像処理装置において実行される処理の手順を示すフローチャートである。 オブジェクトの概略形状を分解する処理の概念図である。 基本形状を選択する処理の概念図である。 形状を統合する処理の概念図である。
以下、本発明の実施形態について、図面を参照して説明する。なお、以下の実施形態は本発明を限定するものではなく、また、本実施形態で説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。
本実施形態では、オブジェクトの概略形状を基本形状の組み合わせになるように分解し、その分解したオブジェクトの概略形状に対して、基本形状をフィッティングすることで、オブジェクトの三次元形状データを生成する。また、そのオブジェクトとして、形状の構造が簡易なラグビーゴールを例に用いて説明する。
図1は、ラグビーゴールの三次元形状を示す図である。図1に示されるように、ラグビーゴール101の形状には、概して、土台である直方体型の2つのクッション102、2本のゴールポスト103、及びクロスバー104が含まれる。なお、上述のようにラグビーゴールはオブジェクトの一例であり、オブジェクトは必ずしもこれに限定されず、本実施形態は、基本形状の組み合わせで表現できるオブジェクト、例えば、建築物、乗り物等に適用することができる。
図2は、三次元形状データ生成システムのハードウェア構成を示す図である。三次元形状データ生成システムは、図2に示されるように、画像処理装置200、及び1台以上の撮影装置(カメラ群)209を備える。画像処理装置200は、CPU201、メインメモリ202、記憶部203、入力部204、表示部205、外部I/F部206を備え、また、各部はバス207を介して接続されている。
CPU(Central Processing Unit)201は、演算処理装置であり、記憶部203等に格納された各種プログラムを実行することで、画像処理装置200を統括的に制御する。メインメモリ202は、各種処理で用いられるデータやパラメータ等を一時的に格納する他、CPU201に作業領域を提供する。記憶部203は、各種プログラムやGUI(Graphical User Interface)表示に必要な各種データを記憶する大容量記憶装置で、例えば、ハードディスクやシリコンディスク等の不揮発性メモリである。
入力部204は、キーボード、マウス、電子ペン、タッチパネル等の入力装置であり、ユーザからの操作入力を受け付ける。表示部205は、液晶パネル等を備え、例えば、分析結果のGUI表示等を行う。外部I/F部206は、カメラ群209を構成する各カメラとLAN(Local Area Network)208を介して接続され、映像データや制御信号データの送受信を行う。バス207は、上述の各部を接続し、データ転送を行う。
カメラ群209は、LAN208経由で画像処理装置200と接続されており、画像処理装置200からの制御信号に基づいて、撮影の開始や停止、カメラ設定(例えば、シャッタースピード、絞り等)の変更、撮影した映像データの転送等を行う。なお、三次元形状データ生成システムは、そのハードウェア構成として、図2に示される構成以外にも、様々な構成要素を備えるが、ここでは、その説明は省略する。
図3は、三次元形状データ生成システムにおける処理の概念図である。本実施形態では、先ず、STEP.3−1のように、オブジェクトを取り囲むようにカメラを配置し、その設置したカメラでオブジェクトを撮影する。なお、カメラ群209を構成する個々のカメラに関して、ラグビーゴール101が画角内に収まるように、カメラの向き、焦点距離、露出制御パラメータ等が適切に設定されている。
次に、STEP.3−2において、画像処理装置200は、撮影した画像からオブジェクトの概略形状をデータとして算出(生成)する。さらに、STEP.3−3において、基本形状の組み合わせで表現できるように、概略形状を分解する(より正確には、概略形状を示すデータを、複数の部分データに分解する)。なお、ここで、基本形状とは、直方体、球、三角柱、円柱、三角錐、円錐等、オブジェクトの三次元形状データを生成する上で最低限必要な形状(処理単位)のことである。そして、STEP.3−4において、分解した概略形状毎(部分データ毎)に基本形状をフィッティングし、最終的な三次元形状データを出力する。
図4は、画像処理装置200の機能構成を示すブロック図である。本実施形態では、上述のように、画像処理装置200によりラグビーゴール101の三次元形状データを生成する。画像処理装置200は、画像取得部401、カメラ校正部402、シルエット生成部403、形状生成部404、形状分解部405、断面格納部406、基本形状選択部407、形状フィッティング部408を備える。
画像取得部401は、カメラ群209で撮影された画像を画像群として取得する。カメラ校正部402は、撮影された画像からカメラキャリブレーションを行い、カメラの外部パラメータ、内部パラメータ、及び歪曲パラメータを各々、算出する。シルエット生成部403は、撮影した画像からオブジェクトのシルエットを抽出(生成)する。なお、ここで、シルエットとは、撮影画像内で形状推定の対象とするオブジェクトの領域をマスクした画像のことである。
形状生成部404は、画像内のオブジェクトのシルエット及び算出したカメラパラメータに基づいて、オブジェクトの概略形状をデータとして算出(生成)する。本実施形態では、オブジェクトのシルエットからオブジェクトの概略形状を算出する方法として、ビジュアル・ハル法(以下、VH法と称する)を用いる。なお、VH法に関して、詳細は後述する。
形状分解部405は、形状生成部404により生成されたオブジェクトの概略形状を、基本形状でフィッティングするために、複数の形状(即ち、複数の部分データ)に分解する。断面格納部406は、予め用意した直方体、球、三角柱、円柱、三角錐、円錐等の三次元CG形状の断面図を格納する。基本形状選択部407は、分解された形状毎に、どのような基本形状をフィッティングするか選択する。形状フィッティング部408は、分解された形状毎に、基本形状の重心やスケールを決定した上で、基本形状をフィッティングし、オブジェクトの三次元形状データを生成する。また、形状フィッティング部408は、フィッティングが正確に行われたか否かを判定する。
次に、図5のフローチャートを用いて、画像処理装置200において実行される処理の手順について説明する。なお、このフローチャートに示される処理は、CPU201が、所定のプログラムを記憶部203から読み込んでメインメモリ202に展開し、さらに、これを実行することで実現される。また、フローチャートの説明における記号「S」は、ステップを表すものとする。
S501において、画像取得部401は、LAN208経由で、カメラ群209に撮影指示を送信する。なお、カメラ群209により撮影された画像は、LAN208、外部I/F部206、バス207を介して、メインメモリ202に読み込まれる。
S502において、カメラ校正部402は、画像取得部401で取得した画像からカメラ群209を構成する各カメラのカメラパラメータを算出する。なお、カメラパラメータは、カメラの撮影位置が異なる複数の画像を入力としたカメラキャリブレーション処理によって算出される。
以下、カメラキャリブレーション処理について簡単に説明する。先ず、スクエアグリッド等の平面パターンを多視点(複数の視点位置)から撮影する。次に、そのスクエアグリッド等の平面パターンを撮影した画像から特徴点(ここでは、直線の交点)を検出し、画像座標系における特徴点の座標を算出する。そして、その算出した特徴点の座標を用いて、カメラの内部パラメータの初期値を算出する。なお、ここで、カメラの内部パラメータとは、焦点距離、主点と称される光学的中心を示すパラメータのことである。また、カメラの内部パラメータの初期値に関して、必ずしも画像の特徴点から算出する必要はなく、例えば、カメラの設計値を用いることもできる。
カメラの内部パラメータの初期値を算出した後、バンドル調整と称される非線形最適化処理によって、カメラの内部パラメータ、外部パラメータ、歪曲パラメータを算出する。なお、ここで、カメラの外部パラメータとは、カメラの位置、視線方向、視線方向を軸とする回転角を示すパラメータのことである。また、歪曲パラメータとは、レンズの屈折率の違いによって生じる半径方向の画像の歪みやレンズとイメージプレーンが平行にならないことによって生じる円周方向の歪みを示す係数のことである。補足として、カメラキャリブレーション処理の手法として、上述の手法以外の手法も用いることができるが、ここでは、その説明を省略する。
S503において、シルエット生成部403は、画像取得部401で取得した画像からオブジェクトのシルエットを抽出(生成)する。ここで、シルエットを抽出する方法として、例えば、背景差分法や床面投影画像を用いる方法がある。
背景差分法は、オブジェクトが存在しない場合と存在する場合の画像を各々、撮影し、それらの画像の差分領域を算出し、その差分領域をオブジェクトのシルエットとする方法である。また、床面投影画像を用いる方法は、各カメラから床面に対して投影した撮影画像の中間値を取ることで床面投影画像を生成し、その床面投影画像を各カメラに逆投影した画像と撮影した画像との差分をとることで、シルエットを抽出する方法である。なお、床面とは、本実施形態において、ラグビーゴールの鉛直方向の軸(以下、z軸と称する)に対して垂直な複数の水平面(以下、xy平面と称する)のことである。また、生成される床面投影画像は、高さのあるオブジェクトが除去された画像である。
ここで、オブジェクトとして用いるラグビーゴールは、極めて大きく、設置する上で多くの時間が必要とされるため、その設置前後において背景が大きく変化することが予想される。そのため、本実施形態では、シルエットを抽出する方法として、背景差分法ではなく、床面投影画像を用いる方法を採用することとする。以下、この床面投影画像を用いる方法によるシルエットの抽出について説明する。
床面投影を行う上で、先ず、カメラの内部パラメータ及び歪曲パラメータに合わせて、各カメラの撮影画像の歪みを補正する。撮影画像の歪みの補正に用いられるパラメータは、S502で算出した内部パラメータ及び歪曲パラメータである。次に、床面の座標と画像座標との変換行列を算出する。はじめに、床面が存在するワールド座標系をカメラ座標系に変換する変換行列Vを定義する。ここで、カメラ座標系とは、座標系の原点を始点とし、画像の水平方向をx軸、画像の垂直方向をy軸、視線方向をz軸の負の方向になるように設定される座標系のことである。さらに、カメラ座標系からスクリーン座標系に変換する変換行列Pを定義する。なお、ここでの変換(即ち変換行列Pによる変換)は、カメラ座標系に対して存在する3次元オブジェクトを2次元平面上に射影する変換である。
これらを踏まえると、床面上の点Xの同次座標(x、y、z、w)を画像上の点Uの同次座標(x’、y’、z’、w’)に射影する式は、以下のように示すことができる。即ち、下式を用いて、各カメラ画像を、ラグビーゴール101のある床面の高さzに対して投影する。なお、下式では、並進変換を加えるため、座標w及び座標w’を追加し、四次元としている。
Figure 2020187626
S504において、形状生成部404は、シルエット生成部403で生成した形状(シルエット)及びカメラ校正部402で算出したカメラパラメータからオブジェクトの概略形状をデータとして生成する。本実施形態では、上述のように、オブジェクトのシルエットから概略形状を生成する方法の一例として、VH法を用いる。ここで、VH法とは、画像内のオブジェクトのシルエット領域を、算出したカメラパラメータに基づいて空間中に投影し、その投影した領域の積集合をオブジェクトの概略形状として定義する方法のことである。
なお、撮影された画像からオブジェクトの概略形状を推定(生成)する方法としては、必ずしもVH法に限定されず、例えば、カメラ間の視差を用いて、オブジェクトの概略形状を推定するステレオマッチング法等がある。また、オブジェクトの概略形状を推定する上で、必ずしも撮影された画像を用いる必要はない。したがって、例えば、光波測定器の測定結果を用いることもできる。具体的には、レーザ測定器を用いて、レーザを射出してからレーザが測定機に戻ってくるまでの時間とレーザの速度の関係からオブジェクトまでの距離を求めることで、オブジェクトの概略形状を推定することもできる。補足として、オブジェクトの概略形状データの生成方法については、上述の方法以外の方法も用いることができるが、ここでは、その説明を省略する。
S505において、形状分解部405は、基本形状を用いてフィッティングできるように、形状生成部404で生成したオブジェクトの概略形状を分解する。以下、オブジェクトの概略形状を分解する方法(処理)について、図6を用いて、具体的に説明する。
図6は、オブジェクトの概略形状を分解する処理の概念図である。先ず、STEP.6−1において、z軸に対して垂直な方向にオブジェクトの断面図を算出する。ここで、z1からz4の断面図は、ゴールポスト下部の断面図と土台上部の断面図を拡大したものである。なお、概略形状を分解する処理について、以降のSTEPでは、これらの断面図を用いて説明する。
次に、STEP.6−2において、各断面図に関して、断面が複数、存在する場合に、断面を分割する。z1からz4の各々の高さの断面図では、断面が2つに分割される。なお、断面を分割する方法として、例えば、ある断面の連結性を考慮して、連結している閉領域を1つの断面として分割する方法を用いることができる。
そして、STEP.6−3において、分割した各々の断面がz軸方向に対して連結しているか否かを判定する。具体的には、高さをz1からz4に変化させた場合に、z軸方向に断面の連結性があれば、その断面が一続きの形状でフィッティングできるものとして判定する。図6に示されるラグビーゴールの例では、各々の断面がz軸方向に連結しており、それらの連結している断面の集合を各々S1、S2としている。
さらに、STEP.6−4において、一続きの形状でフィッティングされると算出された断面に対して、z軸方向の断面積Sの変化を確認し、断面形状が大きく変化するときの高さを形状の変曲点として設定する。具体的には、下式に示されるように、断面積Sの変化に対して閾値thを設け、閾値以上に断面積が変化した場合に、異なる基本形状がフィッティングされると定義する。
Figure 2020187626
図6に示されるラグビーゴールの例では、z2からz3に高さが変化した場合に、断面積が大きく変化しており、断面の集合S1が断面の集合S1、S3に分割され、断面の集合S2が断面の集合S2、S4に分割される。また、この閾値thについては、必ずしも断面積の差分として設定する必要はなく、下式に示されるように、断面積の大きさに対する変化の割合として設定してもよい。
Figure 2020187626
S506において、基本形状選択部407は、分解した形状の各々に対して、どの基本形状をフィッティングするかを選択する。基本形状選択部407は、形状分解部405で分解した形状の断面図と断面格納部406に格納されている断面図を比較し、フィッティングする基本形状を選択する。なお、断面格納部406には、上述のように、予め用意した直方体、球、三角柱、円柱、三角錐、円錐等の三次元CG形状を、様々な方向から撮影したときの断面が断面図として格納されている。以下、基本形状を選択する方法(処理)について、図7を用いて、具体的に説明する。
図7は、基本形状を選択する処理の概念図である。なお、ここでは、ラグビーゴールのゴールポストに円柱をフィッティングする例について説明する。先ず、STEP.7−1において、分解した形状と基本形状とではその高さによって断面積の変位は異なることから、高さのスケールを合わせる。即ち、断面格納部406に格納されている基本形状の高さをhDとして、分解した形状の高さをhSとすると、分解した形状の断面積SS(h)と基本形状の断面積SD(h)の対応は、以下のように示すことができる。
Figure 2020187626
次に、STEP.7−2において、断面積は形状自体の横幅に関係して変化するため、形状の横幅に対してもスケールを合わせる。はじめに、ある1つの断面を複数の断面に分割し、その分割した各断面の面積Skと重心xkから、断面全体の重心xGを下式(5)により算出する。
Figure 2020187626
続いて、算出した重心を中心として、x軸方向とy軸方向のスケールを調整する。図7に示されるラグビーゴールの例では、断面格納部406に格納される基本形状のスケールをx、y方向にrS/rD倍することでスケール調整を行う。
そして、最後に、断面の一致度が高い基本形状をフィッティングする対象として選択する。具体的には、分解した形状の断面積SSと、スケーリング調整後の基本形状の断面積SDとの差分を高さ毎に比較し、全ての高さで総計した結果として、断面積の差が小さくなる基本形状をフィッティングする対象として選択する。即ち、断面格納部406に格納された基本形状nの断面積をSn,Dとして、下式を充足する基本形状をフィッティングする対象として選択する。
Figure 2020187626
なお、図7では、正立した基本形状について取り扱ったが、断面格納部406には様々な方向から撮影したときの断面が断面図として格納されているため、正立していない基本形状についても同様にフィッティングする対象として選択され得る。また、断面格納部406に格納されている全ての基本形状と比較しても差分が極めて大きくなる場合(即ち、フィッティングする上で、その差分が極めて大きくなる場合)、概略形状を分解した形状をそのまま最終的な三次元形状データとして出力してもよい。
S507において、形状フィッティング部408は、選択した基本形状をフィッティングする。形状フィッティング部408は、基本形状のフィッティングにおいて、概略形状を分解した形状の頂点VSの位置と基本形状の頂点VDの位置の差分が最小となるように、最適化を実行する。
この最適化を実行する上で、形状フィッティング部408は、差分を算出する頂点の組み合わせとして、基本形状の頂点Vi,Dのより近傍に位置する、概略形状を分解した形状の頂点Vi,Sを選択するものとする。例えば、円柱をフィッティングする場合、重心の位置G、円柱の半径r、円柱の高さhに応じて、誤差が生じるため、下式(7)を充足するように(即ち、頂点間の位置の差分が最小となるように)重心の位置G、円柱の半径r、円柱の高さhを算出すればよい。
Figure 2020187626
なお、最適化を実行するにあたり、重心の初期位置に関しては、上式(5)で算出した二次元的な重心と、分割した形状の高さを用いて容易に算出することができる。また、半径の初期値に関しても、断面の重心に対する形状の横幅に基づいて、設定することができる。加えて、円柱の高さに関しても、分割した形状の高さを初期値とすればよい。補足として、最適化の方法として、上述の方法以外の方法、例えば、最急降下法、ガウス・ニュートン法等も用いることができるが、ここでは、その説明を省略する。
S508において、形状フィッティング部408は、フィッティングが正確に実行されたか否かを判定する。フィッティングが正確に実行されたか否かは、フィッティングが実行された後の形状Fと概略形状Rとの差分を算出することで行われる。具体的には、下式に示されるように、フィッティングが実行された後の形状と概略形状との共通部分の体積と、フィッティングが実行された後の形状の体積との差分が閾値Vthよりも小さくなれば、正確に実行されたものとして判定する。
Figure 2020187626
なお、フィッティングが実行された後の形状Fと概略形状Rとの差分の算出、及び閾値判定について、上式(8)では、概略形状全体について行っているが、フィッティングした形状の各々について行ってもよい。
そして、フィッティングが実行された後の形状と概略形状との共通部分の体積と、フィッティングが実行された後の形状の体積との差分が閾値Vthよりも大きいと判定すると、処理をS505に返し、再度、オブジェクトの概略形状を分解する処理を実行する。
なお、再度、オブジェクトの概略形状を分解する場合、前回の処理で分解したときとは異なる軸方向に断面を算出したり、断面積の変化に対する閾値を変更して処理を実行したりする等して、再度、基本形状のフィッティング、及び閾値判定を繰り返す。また、この処理を繰り返すことに関して、必ずしもオブジェクトの概略形状を分解する処理(S505)から繰り返す必要はなく、概略形状を分解した後の基本形状の選択、又は基本形状の選択後のフィッティングから繰り返してもよい。さらに、この処理を繰り返すことに関して、事前に最大繰り返し回数を設定し、差分が収束しない場合に、概略形状をそのまま最終的な三次元形状データとして出力してもよい。
他方、形状フィッティング部408は、フィッティングが正確に実行されていると判定すると、図8に示されるように、フィッティングした各形状を比較して、同じスケール、方向の形状があれば、それらの形状を1つに統合する。また、例えば、ラグビーゴールの形状を分解した場合、閾値の設定方法によっては、1つのゴールポストが2つに分割される場合がある。そこで、同一の種類の基本形状との距離、傾き、スケールに関しての閾値を各々、設定し、各々の差分が閾値以下の場合に形状を統合する。
以上、説明したように、本実施形態に係る画像処理装置によれば、ユーザの負担を低減した上で、三次元形状データを生成することができる。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
200 画像処理装置
401 画像取得部
402 カメラ校正部
403 シルエット生成部
404 形状生成部
405 形状分解部
406 断面格納部
407 基本形状選択部
408 形状フィッティング部

Claims (15)

  1. オブジェクトの三次元形状データを生成する画像処理装置であって、
    前記オブジェクトの概略形状を示すデータを生成する第1の生成手段と、
    前記オブジェクトの概略形状を示すデータを、当該オブジェクトの概略形状の断面の形状に応じて複数の部分データに分解する分解手段と、
    前記部分データ毎に、対応する基本形状をフィッティングするフィッティング手段と、
    前記フィッティングした基本形状に基づいて、前記オブジェクトの三次元形状データを生成する第2の生成手段と
    を備えることを特徴とする画像処理装置。
  2. 前記基本形状は、前記オブジェクトの三次元形状データを生成する上で処理単位とされる三次元形状であることを特徴とする請求項1に記載の画像処理装置。
  3. 前記基本形状は、少なくとも、直方体、球、三角柱、円柱、三角錐、及び円錐のいずれか又は全てを含むことを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記第2の生成手段は、前記フィッティングした基本形状を統合することで、前記オブジェクトの三次元形状データを生成することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記第1の生成手段は、複数の撮影画像を用いて、前記オブジェクトの概略形状を生成することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  6. 前記第1の生成手段は、光波測定器の測定結果を用いて、前記オブジェクトの概略形状を示すデータを生成することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
  7. 前記分解手段は、前記オブジェクトの概略形状の断面の連結性及び前記オブジェクトの概略形状の断面積の変化に基づいて、前記オブジェクトの概略形状を示すデータを複数の部分データに分解することを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。
  8. 前記基本形状の断面の断面図をデータとして記憶する記憶手段と、
    前記分解された部分データに対応するオブジェクトの概略形状の断面と、前記記憶された前記基本形状の断面図の断面を比較し、一致度のより高い基本形状を前記フィッティングする基本形状として選択する選択手段と
    をさらに備えることを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
  9. 前記選択手段は、前記分解された部分データに対応するオブジェクトの概略形状の断面と、前記記憶された前記基本形状の断面図の断面を比較する上で、前記分解された部分データに対応するオブジェクトの概略形状の高さと前記記憶された基本形状の高さの関係、及び前記分解された部分データに対応するオブジェクトの概略形状の断面の重心と前記記憶された基本形状の断面の重心の関係に基づいて、前記記憶された基本形状のスケールを調整することを特徴とする請求項8に記載の画像処理装置。
  10. 前記フィッティング手段は、前記分解された部分データに対応するオブジェクトの概略形状の頂点の位置と、当該頂点に対応する前記選択された基本形状の頂点の位置との差分がより小さくなるように、前記選択された基本形状をフィッティングすることを特徴とする請求項8又は9に記載の画像処理装置。
  11. 前記分解された部分データに対応するオブジェクトの概略形状に、前記選択された基本形状がフィッティングされたか否かを判定する判定手段をさらに備え、
    前記判定手段によりフィッティングされていないと判定されると、前記分解手段による前記複数の部分データへの分解、前記選択手段による前記フィッティングする基本形状の選択、及び前記フィッティング手段による前記選択された基本形状のフィッティングの処理のうち、いずれかから再度、処理の実行を開始することを特徴とする請求項8から10のいずれか1項に記載の画像処理装置。
  12. 前記判定手段により、所定の回数、フィッティングされていないと判定されると、前記オブジェクトの概略形状を示すデータを前記オブジェクトの三次元形状データとして出力することを特徴とする請求項11に記載の画像処理装置。
  13. 前記判定手段は、前記フィッティングした基本形状と前記分解された部分データに対応するオブジェクトの概略形状の差分を算出することで、前記選択された基本形状がフィッティングされたか否かを判定することを特徴とする請求項11又は12に記載の画像処理装置。
  14. オブジェクトの三次元形状データを生成する画像処理方法であって、
    前記オブジェクトの概略形状を示すデータを生成する第1の生成ステップと、
    前記オブジェクトの概略形状を示すデータを、当該オブジェクトの概略形状の断面の形状に応じて複数の部分データに分解する分解ステップと、
    前記部分データ毎に、対応する基本形状をフィッティングするフィッティングステップと、
    前記フィッティングした基本形状に基づいて、前記オブジェクトの三次元形状データを生成する第2の生成ステップと
    を含むことを特徴とする画像処理方法。
  15. 請求項14に記載の画像処理方法をコンピュータに実行させるためのプログラム。
JP2019092824A 2019-05-16 2019-05-16 画像処理装置、画像処理方法、及びプログラム Pending JP2020187626A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019092824A JP2020187626A (ja) 2019-05-16 2019-05-16 画像処理装置、画像処理方法、及びプログラム
US15/931,014 US11328477B2 (en) 2019-05-16 2020-05-13 Image processing apparatus, image processing method and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019092824A JP2020187626A (ja) 2019-05-16 2019-05-16 画像処理装置、画像処理方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2020187626A true JP2020187626A (ja) 2020-11-19

Family

ID=73221824

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019092824A Pending JP2020187626A (ja) 2019-05-16 2019-05-16 画像処理装置、画像処理方法、及びプログラム

Country Status (2)

Country Link
US (1) US11328477B2 (ja)
JP (1) JP2020187626A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023042604A1 (ja) * 2021-09-14 2023-03-23 パナソニックIpマネジメント株式会社 寸法計測装置、寸法計測方法及びプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2253772B (en) * 1991-03-12 1995-01-25 Honda Motor Co Ltd Method of creating solid model
JP3611239B2 (ja) 1999-03-08 2005-01-19 富士通株式会社 三次元cgモデル作成装置および処理プログラムを記録した記録媒体
WO2000055815A1 (fr) * 1999-03-17 2000-09-21 Fujitsu Limited Systeme de cao et support d'enregistrement
US7830373B1 (en) * 2006-01-25 2010-11-09 Bo Gao System and methods of civil engineering objects model
US9613424B2 (en) * 2013-09-23 2017-04-04 Beihang University Method of constructing 3D clothing model based on a single image
CN110753952A (zh) * 2017-02-28 2020-02-04 优质视觉技术国际公司 3d模型到测试对象的自动对准

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023042604A1 (ja) * 2021-09-14 2023-03-23 パナソニックIpマネジメント株式会社 寸法計測装置、寸法計測方法及びプログラム

Also Published As

Publication number Publication date
US20200364933A1 (en) 2020-11-19
US11328477B2 (en) 2022-05-10

Similar Documents

Publication Publication Date Title
JP6057298B2 (ja) 迅速な3dモデリング
JP6344050B2 (ja) 画像処理システム、画像処理装置、プログラム
JP2013539147A5 (ja)
US10169891B2 (en) Producing three-dimensional representation based on images of a person
US10430967B2 (en) Information processing apparatus, method, and program
WO2019093457A1 (ja) 情報処理装置、情報処理方法及びプログラム
CN113643414A (zh) 一种三维图像生成方法、装置、电子设备及存储介质
WO2023116430A1 (zh) 视频与城市信息模型三维场景融合方法、系统及存储介质
CN112912936A (zh) 混合现实系统、程序、移动终端装置和方法
JP2018063693A (ja) 画像処理装置、画像処理方法およびプログラム
JP2020187626A (ja) 画像処理装置、画像処理方法、及びプログラム
CN110378948B (zh) 3d模型重建方法、装置及电子设备
JP2003323603A (ja) ステレオマッチング方法、3次元計測方法及び3次元計測装置並びにステレオマッチング方法のプログラム及び3次元計測のプログラム
JP6405539B2 (ja) 多視点画像に対するラベル情報の処理装置及びそのラベル情報の処理方法
CN116128744A (zh) 消除图像畸变的方法、电子设备、存储介质及车辆
JP6564259B2 (ja) 画像処理装置、画像処理方法
JP6967150B2 (ja) 学習装置、画像生成装置、学習方法、画像生成方法及びプログラム
JP2022064506A (ja) 画像処理装置、画像処理方法、及びプログラム
JPH10198824A (ja) 映像生成処理装置及びその装置で用いられる構造化データを作成する構造化データ作成装置
JP7504614B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2005140623A (ja) 画像計測方法、装置、プログラム及び記録媒体
CN113538655B (zh) 一种虚拟人脸的生成方法及设备
CN113167568A (zh) 坐标计算装置、坐标计算方法和计算机可读记录介质
JP2006300656A (ja) 画像計測方法、装置、プログラム及び記録媒体
JP7380661B2 (ja) 投射方法、及び投射システム