JP7467107B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP7467107B2
JP7467107B2 JP2019234368A JP2019234368A JP7467107B2 JP 7467107 B2 JP7467107 B2 JP 7467107B2 JP 2019234368 A JP2019234368 A JP 2019234368A JP 2019234368 A JP2019234368 A JP 2019234368A JP 7467107 B2 JP7467107 B2 JP 7467107B2
Authority
JP
Japan
Prior art keywords
image
captured image
feature
image processing
selection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019234368A
Other languages
English (en)
Other versions
JP2021103426A (ja
Inventor
和希 緑川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019234368A priority Critical patent/JP7467107B2/ja
Priority to US17/123,172 priority patent/US11704820B2/en
Publication of JP2021103426A publication Critical patent/JP2021103426A/ja
Application granted granted Critical
Publication of JP7467107B2 publication Critical patent/JP7467107B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)
  • Processing Or Creating Images (AREA)

Description

画像の振動補正に用いる情報を処理するための技術に関する。
現在、多数の撮像装置で撮像して得られた多視点画像を合成して、個々の撮像装置の位置からは捉えられない仮想視点からの映像(仮想視点映像または自由視点映像と呼ぶ)を生成する、所謂自由視点映像生成システムが実用化されている。多視点映像をズレなく合成して仮想視点映像を作るためには、仮想視点映像の素材となる多視点画像を生成する全ての撮像装置の姿勢が、撮像装置のキャリブレーション時に算出した、撮像装置の外部パラメータと一致する姿勢に保たれていなければならない。
特許文献1には、振動する撮像装置から得られた撮像映像を補正することで制振する方法が開示されている。特許文献1に記載の方法では、キャリブレーション時の撮像装置姿勢で撮像して得られた基準画像と、撮像映像のフレームとで共通する画像領域(特徴部分)をマッチングさせ、振動補正量を推定する。以下、撮像装置キャリブレーション時の姿勢で撮像した画像を基準画像と呼ぶ。
基準画像の撮像および選定は、仮想視点映像に使用する素材画像の撮像に先立って行う必要があるが、基準画像に写っているオブジェクト(被写体)が素材画像の撮像時には変化する場合がある。例えば、基準画像の撮像時には存在していたオブジェクトが素材画像の撮像時には存在しない場合があり、そのようなオブジェクトの撮像画像に基づく特徴部分を振動補正量を推定する際に使用すると、補正の誤差が生じうる。
また、特徴部分には、建物やフィールドのラインといったほぼ不変なオブジェクトの画像に基づくものの他に、素材画像内に存在し続けるが移動や振動が想定される器具や機材など不安定なオブジェクトの画像に基づくものもある。この不安定な特徴部分、すなわち基準画像と素材画像とにおいて位置がずれる特徴部分が多い場合、統計処理を行っても不安定な特徴部分の影響を排除しきれず、誤った振動補正を行う可能性がある。
米国特許10121262号明細書
上記のような振動補正の誤差を除去するために、画像から検出された特徴部分など振動補正に用いられる情報をユーザに提示してシステムの調整を促すことが考えられる。しかし、システム上で認識された特徴部分を単に一律に表示させ、数十~数百台の撮像装置の全ての特徴部分の妥当性や信頼性をユーザに検証させることとすると、時間と手間がかかるという課題がある。
本発明は上記の課題に鑑み、撮像画像に対する振動補正のための調整に係るユーザの利便性を向上させることを目的とする。
本発明は、画像処理装置であって、撮像装置から撮像画像を取得する取得手段と、前記取得手段で取得された前記撮像画像において、前記撮像画像と前記撮像装置の他の撮像画像との位置合わせに用いる画像領域である特徴部分を前記画像領域内のエッジ強度に基づき選択する選択手段と、前記特徴部分の信頼性に関する情報を提示する提示手段と、を備え、前記特徴部分は、前記撮像画像において前記画像領域内の最大エッジ強度が所定のエッジ強度以上であり、前記特徴部分の信頼性に関する情報は、前記特徴部分のエッジ角度ごとの前記特徴部分の数に関する情報を含む、ことを特徴とする。
本発明によれば、撮像画像により撮像される撮像画像に対する振動補正のための調整に係るユーザの利便性を向上させることができる。
実施形態に係る画像処理装置の機能ブロック図である。 実施形態に係る画像処理装置を実現する情報処理装置のハードウェア構成図である。 実施形態に係る画像処理装置が行う処理のフローチャートである。 実施形態に係る画像処理装置が基準画像として用いる撮像画像の例を示す図である。 実施形態に係る画像処理装置が作成する表示情報の例を示す図である。 実施形態に係る画像処理装置が出力する特徴部分情報の例を示す図である。
以下、本発明の実施の形態について図を参照しながら詳細に説明する。
(実施形態1)
図1に、実施形態に係る画像処理装置100の構成の一例を示す機能ブロック図を示す。
本発明の一実施形態に係る画像処理装置100は、画像入力部101、保持部102、特徴部分選択部103、特徴部分評価部104、特徴部分情報出力部105、操作入力部106、描画部107、表示部108を有する。画像処理装置100は、複数の撮像装置109からの複数の撮像画像と、指定された条件とに基づいて、各撮像装置109の映像の制振に用いる、画像間の位置合わせのための特徴部分を選択し、その特徴部分の信頼性に関する情報を提示することができる。
画像入力部101は、各撮像装置109から基準画像を含む1枚以上の撮像画像を受信し、保持部102に保存する。特徴部分選択部103は、基準画像から特徴部分を選択し、特徴部分と、その位置および特徴部分の画像領域内の代表エッジの角度(以降、単にエッジ角度という)に関する情報を保持部102に出力する。特徴部分の画像内に複数のエッジが検出された場合、それらの中から最大エッジ強度を有するエッジを代表エッジとする。尚、本実施形態ではエッジ角度は垂直方向を0度とする。特徴部分評価部104は特徴部分選択部103が選択した特徴部分を参照し、基準画像から制振に必要な特徴部分が取得できたか否かを判定する。特徴部分評価部104は、取得した特徴部分が所定の条件を満たさない場合、すなわち取得した特徴部分の信頼性が所定の水準に達しない場合、当該基準画像に対してエラーを通知する機能を有する。
また、本実施形態では、基準画像と、特徴部分の位置およびエッジ角度に関する特徴部分情報を描画部107が取得し、基準画像上に特徴部分情報を示すオブジェクトを合成して描画し、表示部108に表示する機能を有する。
本実施形態では、表示部108の情報を参照し、ユーザが映像の制振に用いる特徴部分の採否を操作入力部106から画像処理装置100に対して指示することができる。この場合、特徴部分選択部103はユーザ指示に基づいて特徴部分を再選択して保持部102に出力して特徴部分情報を更新する。特徴部分情報出力部105は、選択された特徴部分情報を撮像映像の制振制御を行う撮像装置109の制御モジュールに出力する。撮像装置109の制御モジュールは、取得した特徴部分情報に基づき既知の方法を用いて撮像画像(撮像映像のフレーム)の特徴部分周辺領域から特徴部分情報に含まれる特徴とマッチングする領域を探索する。そして撮像装置109の制御モジュールは、マッチングする領域の座標が基準画像とフレームとの間で一致するよう補正することで撮像映像の制振を行うことができる。
図2に、実施形態に係る画像処理装置100を実現する情報処理装置200のハードウェア構成図を示す。情報処理装置200は、CPU211、ROM212、RAM213、補助記憶装置214、出力部215、操作部216、通信I/F217、及びバス218を有する。
CPU211は、ROM212やRAM213に格納されているコンピュータプログラムやデータを用い、情報処理装置200の各部の制御を実現する。なお、画像処理装置100は、CPU211とは異なる1又は複数の専用のハードウェアを有する情報処理装置によって実現されてもよく、CPU211による処理の少なくとも一部を情報処理装置200とは別個の専用のハードウェアが実行してもよい。専用のハードウェアの例としては、ASIC(特定用途向け集積回路)、FPGA(フィールドプログラマブルゲートアレイ)、およびDSP(デジタルシグナルプロセッサ)などがある。
ROM212は、変更を必要としないプログラムなどを格納する。RAM213は、補助記憶装置214から供給されるプログラムや画像処理装置100の各機能ブロックの動作時に用いるデータ、及び通信I/F217を介して外部に出力するデータなどを一時記憶する。保持部102として用いる補助記憶装置214は、例えばハードディスクドライブ等で構成され、撮像画像や特徴部分の判定に用いるユーザ設定等のデータを記憶する。
表示部108として用いる出力部215は、例えば液晶ディスプレイやLED等で構成され、ユーザが情報処理装置200を操作するためのGUI(Graphical User Interface)や情報処理装置200の処理結果を表示する。操作入力部106を含む操作部216は、例えばキーボードやマウス、ジョイスティック、タッチパネル等で構成され、ユーザによる操作を受けて各種の指示をCPU211に入力する。CPU211は、出力部215を制御する表示制御部、及び操作部216を制御する操作制御部として動作する。
通信I/F217は、情報処理装置200の外部の装置との通信に用いる。例えば、画像処理装置100が外部の装置と有線で接続される場合には、通信用のケーブルが通信I/F217に接続される。情報処理装置200が外部の装置と無線通信する機能を有する場合には、通信I/F217はアンテナを備える。バス218は、情報処理装置200内の各部をつないで情報を伝達する。
本実施形態では出力部215と操作部216が画像処理装置100の内部に存在するものとするが、出力部215と操作部216との少なくとも一方が情報処理装置200の外部に別の装置として存在していてもよい。
図3に、本実施形態に係る画像処理装置100が行う処理のフローチャートを示す。
S301では、画像入力部101は、1つ以上の撮像装置109の基準画像を受信し、保持部102に保存する。
S302では、画像入力部101は、基準画像のほかに、特徴部分の選択に用いる追加の撮像画像が利用可能な場合、追加の撮像画像を取得し、保持部102に保存する。追加の撮像画像は、外部の撮像装置109から取得した画像でもよいし、画像処理装置100で生成した画像でもよい。
S303では、特徴部分選択部103は、保持部102から基準画像を取得して、その基準画像の特徴部分を選択し、保持部102に特徴部分情報を出力する。特徴部分の選択は、例えば、基準画像を格子状の領域に分割して、各画像領域内のエッジ検出を行い、所定のエッジ強度以上のエッジが検出された領域を選択するとしてもよい。
S304では、特徴部分評価部104は、S303で選択した特徴部分の数を所定のエッジ角度を有するグループごとに集計する。本実施形態では、振動補正に用いる所定の方向と一致するエッジ角度を有するグループに分類される特徴部分の数を集計し、各グループ内の特徴部分の数が予め定めた数以下の場合に通知を出す方式を用いる。なお、特徴部分を分類するためのグループは、たとえばエッジ角度が10度ごと等、所定の範囲の角度ごとに全方向に隙間なく定義してもよいし、ある特定の範囲の角度のみに絞ってもよい。
S305では、特徴部分評価部104は、チェック対象となる撮像装置109を選択する。
S306では、特徴部分評価部104は、チェック対象となる角度を選択する。
S307では、特徴部分評価部104は、S305で選択されたチェック対象となる撮像装置109について、S306で選択されたチェック対象の角度のエッジ角度を有するグループに分類された特徴部分の数が予め定めた条件を満たすか否かを判定する。チェック対象とする撮像装置109、およびチェック対象とする角度は、それぞれ全てでもよいし、予めユーザが問題の発生を予想した特定の撮像装置109や、特定の範囲の角度のみとしてもよい。本実施形態では、ステップ307でチェック対象となる角度のエッジ角度を有するグループの特徴部分の数が、所定の閾値以下である場合はS308に移行し、所定の閾値を超える場合はS309に移行する。
S308では、特徴部分の選択に使用した基準画像と、特徴部分の数が所定の閾値以下となったグループのエッジ角度、およびその特徴部分の数を特徴部分情報として通知対象に追加する。
S309では、特徴部分評価部104は、S305で選択されたチェック対象の撮像装置109について、チェック対象となる角度の全てに対するS307の判定処理が終了したか否かを判定する。本実施形態では、チェック対象となる角度の全てに対してS307の判定処理が終了した場合はS310に移行し、終了していない場合はS306に移行する。
S310では、特徴部分評価部104は、撮像装置109の全てについてS307の判定処理が終了したか否かを判定する。本実施形態では、チェック対象となる撮像装置109の全てに対してS307の判定処理が終了した場合はS311に移行し、終了していない場合はS305に移行する。
S311では、特徴部分情報出力部105は、S308で通知対象に追加された基準画像がある場合、通知対象の基準画像と、特徴部分の信頼性に関する情報を含む特徴部分情報を表示部108に出力する。表示部108に表示する特徴部分の信頼性に関する情報は、特徴部分情報を描画部107でユーザが視認し易い形に加工して描画されるようにしてもよい。また、表示部108に表示される特徴部分の信頼性に関する情報に通知対象の基準画像を撮像した撮像装置109を特定するための情報を含めることで、ユーザは改善が必要な撮像装置109を容易に特定することができる。
特徴部分評価部104の評価の結果、基準画像から十分な特徴が取れていた場合、S312で基準画像に対応する撮像装置109の制御モジュールに特徴部分情報を出力する。
S304の集計項目について、本実施形態では角度ごとの特徴部分の数としたが、このほかに特徴部分の座標のX、Y方向の分散や、各特徴部分のエッジ強度の度合い等を加えてもよい。すなわち、特徴部分の数は基準を満たしていても、その分布に偏りがある場合、例えば特徴部分の多くが左上隅に位置している場合には、左上隅を軸とする回転方向の変位を多くの特徴部分で検出し難くなる。そのため、特徴部分の座標のX、Y方向の分散を集計し、一定以上の偏りが生じている場合は、偏りを示す情報を特徴部分の信頼性に関する情報に加えてユーザに通知してもよい。また、各特徴部分について、位置およびエッジ角度に加えて、エッジ強度を示す情報を集計し、エッジ強度に応じて必要とする特徴部分の数を変えたり、エッジ強度の弱い特徴部分を特徴部分の信頼性に関する情報に加えてユーザに通知したりしてもよい。
図4に、本実施形態に係る画像処理装置100が基準画像として用いる撮像画像の例を示す。図4(a)は撮像装置キャリブレーション時の姿勢で撮像装置109が撮像した基準画像400の例である。図4(a)の基準画像400には、建造物401、旗402、403、ライン404~407があるものとする。図4(b)は、キャリブレーション後の撮像装置109から出力される撮像画像の例である。
本実施形態では、0±5度および90±5度の2つのグループを設けてそれらについてのみ特徴部分の数を集計し、それぞれのグループの特徴部分の数が3個以下になる場合を特徴部分評価部104で検出するものとする。
図6(a)に、図4(a)の基準画像400から図3のS303で特徴部分選択部103が特徴部分を選択した際に画像処理装置100が出力する特徴部分情報の例を示す。
本実施形態の特徴部分情報600は、選択した特徴部分を識別するID601、基準画像400における特徴部分の座標602、特徴部分内の画像の代表エッジの角度603を持つ。本実施形態では、特徴部分が矩形で且つそのサイズが固定であるものとし、特徴部分の座標602は矩形の左上隅の座標を表す。ただしこれに限らず、特徴部分が矩形以外の形状であってもよいし、座標602が特徴部分の中心座標を表してもよい。特徴部分データ610~618は、図3のS304で特徴部分評価部104により図6(b)に示すグループ620ごとに特徴部分の個数621を記録する形で集計される。0度のグループ630は、特徴部分情報600に含まれる特徴部分データのうち、0±5度の角度を持つ特徴部分を含むグループである。90度のグループ631は、特徴部分情報600に含まれる90±5度の角度を持つ特徴部分を含むグループである。
0度のグループ630に分類される特徴部分は特徴部分データ610、特徴部分データ615、特徴部分データ617の3つである。本実施形態では特徴部分の個数が3個以下の場合が検出対象となるため、0度のグループ630に含まれる特徴部分データを通知対象となる。
図5に、実施形態2に係る画像処理装置100の描画部107が作成する表示情報の例を示す。本実施形態の描画部107は、基準画像400上に特徴部分情報600に記載された情報に基づき特徴部分を表すマーカ510~518を描画している。
マーカ510、517、515は、図6(b)に示す0度のグループ630に分類される通知対象の特徴部分を表すものである。ユーザは、この基準画像400上に表示されたマーカを参考にして、特徴部分として選択されたオブジェクトが、仮想視点映像の撮像完了までの間、安定して利用可能なオブジェクトか否かを判断する。
何も対策を行わない場合、図4(b)に示すように屋外では旗402、403は風の影響や人との接触などによりオブジェクトが動いてしまい、基準画像400上での位置から移動してしまうことがある。表示部108に表示情報500を表示することで、ユーザが特徴部分となるオブジェクトや撮像装置109の配置を改善し易くなり、より振動補正に適した特徴部分を選択することができるようになる。
例えば、0度の特徴部分の候補となるオブジェクトがより多く映るようにオブジェクトの配置を改善することが考えられる。具体的な配置の改善例として、垂直方向のエッジ角度が検出されるオブジェクトを撮像装置109の画角内に設けることが考えられる。また、より広い範囲を撮像するようにして撮像装置109により近い位置にある、垂直方向のエッジ角度が検出されるオブジェクトを含めることが考えられる。また、旗402、403が移動しないように固定したり、旗402、403の代わりに風の影響を受けにくいポールのようなものを使ったりすることを検討してもよい。
本実施形態によれば、撮像装置ごとに選択された多数の特徴部分のうち、問題となり得る特徴部分の位置や角度などの特徴部分の信頼性に関する情報を可視化するため、改善すべきオブジェクトの状況をユーザが特定しやすくなる。そのため、個々の撮像装置について特徴部分の効率的な検証が可能になり、多数の撮像装置を利用するシステムにおいては、改善が必要な撮像装置を短時間で見つけ出すことが可能になる。
また、特徴部分の信頼性に関する情報を参照するため、適切な振動補正を行えるか否かについてより確度の高い判定が可能になる。そのため、特徴部分の数が多くても不安定なオブジェクトの撮像画像に基づく特徴部分が多い場合には、例えば信頼性の低い特徴部分や対応するオブジェクトをマスキングして制振補正に用いないようにすることで、制振精度の低下を防ぐことができる。また、利用可能な特徴部分の数が少ない場合であっても、安定した特徴部分が必要な数あれば、特徴部分を増やすなどの手間をかけずに済ませることができる。
(実施形態2)
本発明の実施形態2では、ユーザがオブジェクトに対して制約や変更を加えることが困難な場合に、選択済みの不安定な特徴部分など、ユーザが指定する特徴部分を、制振制御を行うために使用する特徴部分から除外することができる。
表示情報500に示された特徴部分として選択されたオブジェクトでは、旗402、403は風などにより容易に移動することが予想されるが、建造物401は容易には移動しない。本例では、より安定している建造物401の特徴部分のみを用いて水平方向の制振制御を行うことで、旗402、403の移動の影響を除く場合を考える。
ここで、旗402上の特徴部分517は特徴部分データ617に、旗403上の特徴部分515は特徴部分データ615に、建造物401左端部の特徴部分510は特徴部分データ610に対応する特徴部分情報である。
本実施形態に係る画像処理装置100では、表示部108に表示された表示情報500として表示された特徴部分データに対応するマーカに対し、マウスのクリックやタッチパネルの選択といった操作入力部106の操作で有効、無効を設定することができる。操作入力部106で特徴部分データ615、617について無効化が指示されると、特徴部分データ615、617に対する無効化を示す情報が特徴部分選択部103にフィードバックされる。特徴部分選択部103は、選択済の特徴部分から特徴部分データ615、617を削除し、残りの特徴部分データ610~614、616、618に関する特徴部分情報を特徴部分情報出力部105に出力する。
本実施形態に係る画像処理装置100は、表示情報500に表示した特徴部分データに対し、操作入力部106から基準画像400上の領域選択を行うUIを備える。ユーザは、タッチペンやマウス、キー入力等の操作入力部106で基準画像400上の領域を選択することで、1つ以上の選択除外する特徴部分、もしくは選択対象の特徴部分を選択することができる。ユーザによって選択された領域は、特徴部分選択部103にフィードバックされる。例えばユーザにより選択除外する特徴部分を含む選択除外領域が選択された場合には、特徴部分選択部103は、選択済の特徴部分から選択除外領域に対応する特徴部分を削除し、残りの特徴部分に関する特徴部分情報を特徴部分情報出力部105に出力する。
特徴部分選択部103は、特徴部分を除外する他の方法として、選択除外領域を除いて基準画像400を再度走査して検出された特徴部分を選択し直すようにしてもよい。
(実施形態3)
本発明の実施形態3では、ユーザが除外する特徴部分を実施形態2とは異なる形で指定することができる。
本実施形態に係る画像処理装置100は、表示部108に表示される、ユーザが操作入力部106を介して操作可能なUIを備える。ユーザは、基準画像400上の除外したいオブジェクトをタッチペン等で囲んだり塗りつぶしたりすることにより選択除外領域を指定することができる。描画部107は、指定された選択除外領域に対して特徴部分としての要件を満たさない画像でマスクした基準画像を描画する画像処理を行う。
画像処理装置100の描画部107が行う画像処理の一例としては、ユーザが指定した選択除外領域の内部を単色で塗り潰し、選択除外領域の内部とその周囲の基準画像400との間をぼかす画像処理を行う。このような処理により、望ましくないオブジェクトを基準画像400から除外することができる。また、マスクされた基準画像400の選択対象領域の境目に、特徴部分と認識されるエッジ強度以上のエッジができて、元の基準画像では存在しなかったものが偽の特徴部分として選択されることも防ぐことができる。このようにして部分的にマスクされた基準画像を特徴部分選択部103に入力して特徴部分を選択しなおすことで、望ましくないオブジェクトに基づく特徴部分を含まない特徴部分を得ることができる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 画像処理装置
101 画像入力部
102 保持部
103 特徴部分選択部
104 特徴部分評価部
105 特徴部分情報出力部
106 操作入力部
107 描画部
108 表示部

Claims (11)

  1. 撮像装置から撮像画像を取得する取得手段と、
    前記取得手段で取得された前記撮像画像において、前記撮像画像と前記撮像装置の他の撮像画像との位置合わせに用いる画像領域である特徴部分を前記画像領域内のエッジ強度に基づき選択する選択手段と、
    前記特徴部分の信頼性に関する情報を提示する提示手段と、
    を備え
    前記特徴部分は、前記撮像画像において前記画像領域内の最大エッジ強度が所定のエッジ強度以上であり、
    前記特徴部分の信頼性に関する情報は、前記特徴部分のエッジ角度ごとの前記特徴部分の数に関する情報を含む、
    ことを特徴とする画像処理装置。
  2. 前記取得手段が取得する前記撮像画像は、前記撮像装置のキャリブレーション時の姿勢で撮像された撮像画像である
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記特徴部分の信頼性に関する情報は、前記特徴部分の分布の偏りに関する情報を含む
    ことを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記提示手段は、
    前記撮像画像に前記特徴部分の信頼性に関する情報を示す表示を描画する描画手段と、
    前記特徴部分の信頼性に関する情報を示す表示が描画された前記撮像画像を表示する表示手段と、
    を含むことを特徴とする請求項1乃至のいずれか1項に記載の画像処理装置。
  5. 前記選択手段の前記特徴部分を選択する追加の基準を設定する設定手段を
    さらに備えたことを特徴とする請求項1乃至のいずれか1項に記載の画像処理装置。
  6. 前記追加の基準は、前記特徴部分のうち、前記選択手段による選択を無効化するものを指定するための基準である
    ことを特徴とする請求項に記載の画像処理装置。
  7. 前記追加の基準は、前記撮像画像における前記選択手段による選択を無効化する特徴部分を含む選択除外領域の定義を含む
    ことを特徴とする請求項5又は6に記載の画像処理装置。
  8. 前記追加の基準は、前記撮像画像に対して前記特徴部分を選択しない領域である選択除外領域の定義を含み、
    前記選択手段は、前記選択除外領域を除いた前記撮像画像から前記特徴部分を再選択する
    ことを特徴とする請求項5又は6に記載の画像処理装置。
  9. 前記撮像画像の前記選択除外領域にマスクを描画する描画手段
    をさらに備え、
    前記選択手段は、前記マスクが描画された撮像画像に基づき前記特徴部分の再選択を行う
    ことを特徴とする請求項に記載の画像処理装置。
  10. 撮像装置から撮像画像を取得する取得ステップと、
    前記取得ステップで取得された前記撮像画像において、前記撮像画像と前記撮像装置の他の撮像画像との位置合わせに用いる画像領域である特徴部分を選択する選択ステップと、
    前記特徴部分の信頼性に関する情報を提示する提示ステップと、
    を備え
    前記特徴部分は、前記撮像画像において前記画像領域内の最大エッジ強度が所定のエッジ強度以上であり、
    前記特徴部分の信頼性に関する情報は、前記特徴部分のエッジ角度ごとの前記特徴部分の数に関する情報を含む、
    ことを特徴とする画像処理方法。
  11. コンピュータを請求項1乃至のいずれか1項に記載の画像処理装置として機能させるためのプログラム。
JP2019234368A 2019-12-25 2019-12-25 画像処理装置、画像処理方法、およびプログラム Active JP7467107B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019234368A JP7467107B2 (ja) 2019-12-25 2019-12-25 画像処理装置、画像処理方法、およびプログラム
US17/123,172 US11704820B2 (en) 2019-12-25 2020-12-16 Image processing apparatus, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019234368A JP7467107B2 (ja) 2019-12-25 2019-12-25 画像処理装置、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2021103426A JP2021103426A (ja) 2021-07-15
JP7467107B2 true JP7467107B2 (ja) 2024-04-15

Family

ID=76546520

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019234368A Active JP7467107B2 (ja) 2019-12-25 2019-12-25 画像処理装置、画像処理方法、およびプログラム

Country Status (2)

Country Link
US (1) US11704820B2 (ja)
JP (1) JP7467107B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113887608B (zh) * 2021-09-28 2023-03-24 北京三快在线科技有限公司 一种模型训练的方法、图像检测的方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010061478A (ja) 2008-09-04 2010-03-18 Sony Computer Entertainment Inc 画像処理装置、対象物追跡装置および画像処理方法
JP2014099128A (ja) 2012-11-16 2014-05-29 Mitsubishi Heavy Ind Ltd 画像認識装置、画像認識方法、プログラム、及び記録媒体
JP2016082258A (ja) 2014-10-09 2016-05-16 株式会社デンソー 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法
JP2017084067A (ja) 2015-10-27 2017-05-18 富士通テン株式会社 画像処理装置および画像処理方法
JP2018207252A (ja) 2017-06-01 2018-12-27 キヤノン株式会社 画像処理システム、画像処理システムの制御方法、及び、プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8570389B2 (en) * 2004-07-22 2013-10-29 Broadcom Corporation Enhancing digital photography
JP4966077B2 (ja) * 2007-04-12 2012-07-04 キヤノン株式会社 画像処理装置及びその制御方法
CN101354703B (zh) * 2007-07-23 2010-11-17 夏普株式会社 文档图像处理装置和文档图像处理方法
US10121262B2 (en) * 2016-12-20 2018-11-06 Canon Kabushiki Kaisha Method, system and apparatus for determining alignment data
CN112654302B (zh) * 2018-10-23 2023-11-03 深圳迈瑞生物医疗电子股份有限公司 一种心脏运动定量分析方法和超声系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010061478A (ja) 2008-09-04 2010-03-18 Sony Computer Entertainment Inc 画像処理装置、対象物追跡装置および画像処理方法
JP2014099128A (ja) 2012-11-16 2014-05-29 Mitsubishi Heavy Ind Ltd 画像認識装置、画像認識方法、プログラム、及び記録媒体
JP2016082258A (ja) 2014-10-09 2016-05-16 株式会社デンソー 車載カメラ較正装置、画像生成装置、車載カメラ較正方法、画像生成方法
JP2017084067A (ja) 2015-10-27 2017-05-18 富士通テン株式会社 画像処理装置および画像処理方法
JP2018207252A (ja) 2017-06-01 2018-12-27 キヤノン株式会社 画像処理システム、画像処理システムの制御方法、及び、プログラム

Also Published As

Publication number Publication date
JP2021103426A (ja) 2021-07-15
US20210201511A1 (en) 2021-07-01
US11704820B2 (en) 2023-07-18

Similar Documents

Publication Publication Date Title
US11445167B2 (en) Display control apparatus, display control method, and storage medium
US10970915B2 (en) Virtual viewpoint setting apparatus that sets a virtual viewpoint according to a determined common image capturing area of a plurality of image capturing apparatuses, and related setting method and storage medium
US10354162B2 (en) Information processing apparatus, information processing method, and storage medium
JP6167703B2 (ja) 表示制御装置、プログラム及び記録媒体
US10796543B2 (en) Display control apparatus, display control method, camera system, control method for camera system, and storage medium
US9906762B2 (en) Communication apparatus, method of controlling communication apparatus, non-transitory computer-readable storage medium
CN106558027B (zh) 用于估计相机姿态中的偏离误差的方法
JP6494418B2 (ja) 画像解析装置、画像解析方法、およびプログラム
US10168773B2 (en) Position locating method and apparatus
JP2010128727A (ja) 画像処理装置
US11416978B2 (en) Image processing apparatus, control method and non-transitory computer-readable recording medium therefor
JP7467107B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US9871947B2 (en) Image processing apparatus, image processing method, and storage medium
JP5574551B2 (ja) 画像処理装置および画像処理方法
JP6280005B2 (ja) 情報処理装置、画像投影装置および情報処理方法
JP2009217115A (ja) カメラ映像シミュレータプログラム
US11830177B2 (en) Image processing apparatus, control method and non-transitory computer-readable recording medium therefor
US20190347827A1 (en) Image processing device, image processing method, and image processing program
US10057315B2 (en) Communication support system, information processing apparatus, control method, and storage medium that display an output image obtained by superposing a reference image over a captured image
JP2019046320A (ja) 情報処理装置、画像形成装置、および、プログラム
JP6443505B2 (ja) プログラム、表示制御装置及び表示制御方法
JP2016109646A (ja) 部材判定システム、部材判定装置、部材判定方法及びプログラム
JP2005333628A (ja) カメラ制御装置およびこれを用いた監視カメラシステム
US20240233259A1 (en) Information processing apparatus, information processing method, and storage medium
JP2017092733A (ja) カメラ配置支援装置、カメラ配置支援方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240403

R150 Certificate of patent or registration of utility model

Ref document number: 7467107

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150