JP7291168B2 - ビデオフレームの処理方法及び装置 - Google Patents

ビデオフレームの処理方法及び装置 Download PDF

Info

Publication number
JP7291168B2
JP7291168B2 JP2021037690A JP2021037690A JP7291168B2 JP 7291168 B2 JP7291168 B2 JP 7291168B2 JP 2021037690 A JP2021037690 A JP 2021037690A JP 2021037690 A JP2021037690 A JP 2021037690A JP 7291168 B2 JP7291168 B2 JP 7291168B2
Authority
JP
Japan
Prior art keywords
radial distortion
video frame
target
candidate
distortion parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021037690A
Other languages
English (en)
Other versions
JP2021175185A (ja
Inventor
イェ・シャオチン
タン・シャオ
スン・ハオ
チャン・ホンウー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Publication of JP2021175185A publication Critical patent/JP2021175185A/ja
Application granted granted Critical
Publication of JP7291168B2 publication Critical patent/JP7291168B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Geometry (AREA)

Description

本出願の実施例は、コンピューター技術分野に関し、具体的には、コンピュータービジョン技術分野、特にビデオフレームの処理方法及び装置に関する。
画像の歪みはレンズ歪みとも呼ばれ、光学レンズに固有の透視歪曲、つまり透視による歪曲の総称である。様々なシーンで撮影した画像、例えば、広角レンズや長距離で撮影した画像には明らかな歪みがある。歪みの場合、画像におけるオブジェクトは実際のオブジェクトよりも大きな変形を生じた。これは、画像の美しさと識別に影響を与えるだけでなく、画像検出などの後続の画像処理に幾つかの障害を引き起こしてしまった。
関連技術では、歪み補正により歪み画像を処理すること、つまり、画像を特別な処理をかけて歪みを除去することによって、画質を改善し、画像内のシーンを実際のシーンに近づけることができる。
本開示の実施例はビデオフレームの処理方法、装置、電子機器及び記録媒体を提供する。
第1の態様によれば、ビデオフレームの処理方法であって、処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター、及び指定ラジアル歪みパラメーターの指定値を取得するステップと、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームが得られるステップと、第1の初期補正ビデオフレームのぞれぞれにおいて、少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレームを選択するステップと、選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定するステップを含み、前記指定値の絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下であり、前記指定ラジアル歪みパラメーターが一次ラジアル歪みパラメーターではなく、前記第1の初期補正ビデオフレームのぞれぞれに対応する少なくとも一部領域が一致している、方法を提供する。
第2の態様によれば、ビデオフレームの処理装置であって、処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター、及び指定ラジアル歪みパラメーターの指定値を取得するように構成された第1の取得ユニットと、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームが得られるように構成された第1の補正ユニットと、第1の初期補正ビデオフレームのそれぞれに、少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレームを選択するように構成された選択ユニットと、選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定するように構成された決定ユニットとを備え、前記指定値の絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下であり、前記指定ラジアル歪みパラメーターが一次ラジアル歪みパラメーターではなく、前記第1の初期補正ビデオフレームのそれぞれに対応する少なくとも一部領域が一致している、装置を提供する。
第3の態様によれば、電子機器であって、一つまたは複数のプロセッサと、一つまたは複数のコンピュータプログラムを記憶するための記憶装置と、を備え、前記1つまたは複数のコンピュータプログラムが前記1つまたは複数のプロセッサにより実行されると、前記1つまたは複数のプロセッサに、上記したビデオフレームの処理方法のいずれかに記載の実施例の方法を実行させる、電子機器を提供する。
第4の態様によれば、コンピュータプログラムが記録されたコンピュータ読み取り可能な記録媒体であって、当該コンピュータプログラムがプロセッサにより実行されると、上記したビデオフレームの処理方法のいずれかに記載の実施例の方法を実現させるコンピュータ読み取り可能な記録媒体を提供する。
第5の態様によれば、コンピュータプログラムであって、当該コンピュータプログラムがプロセッサにより実行されると、上記したビデオフレームの処理方法のいずれかに記載の実施例の方法を実現させるコンピュータプログラムを提供する。
本出願発明によれば、各候補となる一次段ラジアル歪みパラメーターを利用して歪み補正を行い、直線セグメントの数により歪み補正効果が最も良い候補となる一次ラジアル歪みパラメーターを処理対象ビデオフレームの一次ラジアル歪みパラメーターとして決定することができる。この実施形態は、ビデオフレームに対してキャリブレーション等の前処理なしで、ビデオに対してリアルタイムでより正確な歪み補正処理を実現することができる。候補となる一次ラジアル歪みパラメーターをより大きな値で制限することによって、候補となる一次ラジアル歪みパラメーターを通常のより大きな値の特性とより合わせて、最終的に得られたターゲット一次ラジアル歪みパラメーターを真の値とより合わせることを確保することができる。
本出願の他の特徴、目的及び利点は、以下の図面を参照してなされる非限定的な実施例に係る詳細な説明を読むことにより、より明らかになる。
本出願の幾つかの一実施例を適用可能な例示的なシステムアーキテクチャを示す図である。 本出願に係るビデオフレームの処理方法の一実施例のフローチャートである。 本出願に係るビデオフレームの処理方法の適用シーンを示す模式図である。 本出願に係るビデオフレームの処理方法の他の実施例のフローチャートである。 本出願に係るビデオフレームの処理装置の一実施例の概略構成図である。 本出願の実施例を実現するのに適したビデオフレームの処理方法の電子機器のブロック図である。
以下、添付の図面と併せて本出願の例示的な実施例を説明する。なお、本出願実施例に含まれた様々な詳細は、ただ理解を容易にするための一例であることを理解されたい。従って、当業者は、ここで記載の実施例が本出願の範囲や主旨を逸脱しない限り、種々な置き換え、変更を行うことができることを認識すべきである。同様に、明確さと簡潔さのために、以下に既知の機能と構成に関する説明を省略する。
説明すべきなのは、本出願の実施例及び実施例における特徴は、矛盾を生じない限り、相互に組み合わせることができる。以下、図面及び実施例を参照しながら本出願を詳細に説明する。
図1に本出願に係るビデオフレームの処理方法又はビデオフレームの処理装置を適用できる例示的なシステムアーキテクチャ100が示されている。
図1に示されたように、システムアーキテクチャ100は、端末機器101、102、103、ネットワーク104、サーバ105を含むことができる。ネットワーク104は、端末機器101、102、103とサーバ105との間で通信リンクを提供するための媒体である。ネットワーク104には、有線又は無線通信回線、光ファイバケーブル等の各種の接続形態が含まれていてもよい。
ユーザーが端末機器101、102、103によりネットワーク104を介してサーバ105とインタラクションすることによって、メッセージ等を送受信することができる。端末機器101、102、103には、例えば、ビデオアプリケーション、ライブアプリケーション、即時通信ツール、メールクライアント、ソーシャルプラットフォームソフトウェア等、様々な通信クライアントアプリケーションをインストールすることができる。
ここでの端末機器101、102、103は、ハードウェアであってもよいし、ソフトウェアであってもよい。端末機器101、102、103は、ハードウェアである場合、ディスプレイスクリーンを有する様々な電子機器であってもよく、スマートフォン、タブレットコンピュータ、電子ブックリーダー、ノート型携帯コンピュータ及びデスクトップコンピュータ等を含むがこれらに限定されない。端末機器101、102、103は、ソフトウェアである場合、上記に例示した電子機器にインストールすることができる。端末機器は、複数のソフトウェア又はソフトウェアモジュール(例えば分散サービスを提供するために用いられる複数のソフトウェア又はソフトウェアモジュール)として実現されてもよく、単一のソフトウェア又はソフトウェアモジュールとして実現されてもよいが、ここで具体的に限定されない。
サーバ105は、様々なサービスを提供するサーバであってもよく、例えば、端末機器101、102、103にサポートを提供するバックエンドサーバであってもよい。バックエンドサーバは、受信した処理対象ビデオフレーム等のデータに対し解析等の処理を実行し、処理の結果(例えばターゲット一次ラジアル歪みパラメーター)を端末機器にフィードバックすることができる。
説明すべきなのは、本出願実施例が提供するビデオフレームの処理方法は、サーバ105又は端末機器101、102、103によって実行される。相応的に、ビデオフレームの処理装置は、サーバ105又は端末機器101、102、103に設けられる。
なお、図1における端末機器、ネットワーク、サーバの数はただ一例であることを理解されたい。実際のニーズに応じて、任意の数の端末機器、ネットワーク、サーバを備えることができる。
次に、図2を参照する。図2に、本出願に係るビデオフレームの処理方法の一実施例のフロー200が示される。上記したビデオフレームの処理方法は、以下のステップを含む。
ステップ201において、処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター、及び指定ラジアル歪みパラメーターの指定値を取得し、そのうち、前記指定値の絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下であり、指定ラジアル歪みパラメーターが一次ラジアル歪みパラメーターではない。
本実施例において、ビデオフレームの処理方法を実行する実行主体(例えば図1に示すサーバ又は端末機器)は、処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター(即ちk1)を取得することができる。また、前記実行主体は、一次ラジアル歪みパラメーター以外の指定ラジアル歪みパラメーターに対して、当該指定ラジアル歪みパラメーターの指定値を取得することができる。実践中、前記実行主体はローカル又は他の電子機器から上記のプリセットされた複数の候補となる一次ラジアル歪みパラメーター、及び指定値を直接に取得することができる。ここでの処理対象ビデオフレームは、カメラにより撮影されたビデオフレーム原図であっても良く、ビデオフレーム原図が一定の処理(例えばスクリーンショット、スタイルチェンジ等)を経って得られたビデオフレームであってもよい。
ラジアル歪みパラメーターは、例えば一次ラジアル歪みパラメーター、二次ラジアル歪みパラメーター(k2)、また三次ラジアル歪みパラメーター(k3)などの複数のラジアル歪みパラメーターを含んでもよい。相応的に、ここでの指定ラジアル歪みパラメーターは、二次ラジアル歪みパラメーターを含んでも良く、また三次ラジアル歪みパラメーターを含んでも良い。各指定ラジアル歪みパラメーターはいずれも相応的な指定値がある。異なる指定ラジアル歪みパラメーターの値は同様であっても良く、例えばいずれも0である。
一例として、指定値が0である場合、その絶対値が0であり、候補となる一次ラジアル歪みパラメーターが-0.2である場合、その絶対値が0.2であり、指定値の絶対値より大きくなります。
ステップ202において、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームが得られる。
本実施例において、前記実行主体は、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーター及び各指定ラジアル歪みパラメーターの指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、ラジアル歪み補正の結果としては第1の初期補正ビデオフレームである。実践中、前記実行主体は、指定の焦点距離をラジアル歪み補正のパラメーターとして、前記ラジアル歪み補正を行うことができる。
ステップ203において、第1の初期補正ビデオフレームのぞれぞれに、少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレームを選択し、そのうち、前記第1の初期補正ビデオフレームのぞれぞれに対応する少なくとも一部領域が一致している。
本実施例において、前記実行主体は選択ステップを実行することができる。即ち、得られた第1の初期補正ビデオフレームのそれぞれに、ビデオフレームの少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレームを選択する。第1の初期補正ビデオフレームの少なくとも一部領域とは、第1の初期補正ビデオフレームの一部領域又は全領域を指す。異なる第1の初期補正ビデオフレームに対応する少なくとも一部領域が一致している。ここでの直線セグメントとは湾曲していないセグメントを指す。
ステップ204において、選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定する。
本実施例において、前記実行主体は、選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定することができる。
本出願の実施例が提供する方法は各候補となる一次段ラジアル歪みパラメーターを利用して歪み補正を行い、直線セグメントの数により歪み補正効果が最も良い候補となる一次ラジアル歪みパラメーターを処理対象ビデオフレームの一次ラジアル歪みパラメーターとして正確に決定することができる。当該実施形態は、ビデオフレームに対してキャリブレーションなどの前処理なしで、ビデオに対してリアルタイムでより正確な歪み補正処理を実現することができる。候補となる一次ラジアル歪みパラメーターをより大きな値で制限することによって、候補となる一次ラジアル歪みパラメーターを通常のより大きな値の特性とより合わせて、最終的に得られたターゲット一次ラジアル歪みパラメーターを真の値とより合わせることを確保することができる。
本実施例のいくつかの選択可能な実現形態において、少なくとも一部領域は第1の初期補正ビデオフレームにおいて指定中心領域以外の領域である。
これらの選択可能な実現形態において、前記少なくとも一部領域は第1の初期補正ビデオフレームにおいて指定中心領域を除く領域であってもよい。例えば、指定中心領域は、画像の中心点を中心とする矩形領域であってもよい。当該矩形領域の幅と高さの比率は、第1の初期補正ビデオフレームの幅と高さの比率と同様であってもよい。例えば、当該矩形領域の幅と高さはぞれぞれ第1の初期補正ビデオフレームの幅と高さの三分の一であってもよい。
これらの実現形態は、第1の初期補正ビデオフレームにおけるよりひどく歪んだエッジ領域のみを操作の対象とすることによって、第1の初期補正ビデオフレームの全画像の検出による時間のかかる問題を回避し、歪み補正の速度を向上させることができる。
本実施例のいくつかの選択可能な実現形態において、複数の候補となる一次ラジアル歪みパラメーターのうち、任意の隣接する値の候補となる一次ラジアル歪みパラメーター間に第1のプリセット間隔値がある。複数の候補となる二次ラジアル歪みパラメーターのうち、任意の隣接する値の候補となる二次ラジアル歪みパラメーター間に第2のプリセット間隔値がある。
これらの選択可能な実現形態において、任意の二つの隣接する候補となる一次ラジアル歪みパラメーター間の間隔、と他の二つの隣接する候補となる一次ラジアル歪みパラメーター(上記した任意の二つの隣接する候補となる一次ラジアル歪みパラメーターと他の二つの隣接する候補となる一次ラジアル歪みパラメーターとは同一の一次ラジアル歪みパラメーターが存在する場合と存在しない場合がある。)間の間隔は同様であっても良い。任意の二つの隣接する候補となる二次ラジアル歪みパラメーター間の間隔、と他の二つの隣接する候補となる二次ラジアル歪みパラメーター間の間隔は同様であっても良い。ここでの第1のプリセット間隔値と第2のプリセット間隔値は同様であっても異なってもよく、例えば、第1のプリセット間隔値は第2のプリセット間隔値より大きくなってもよい。
一例として、第1のプリセット間隔値は0.05である場合、候補となる一次ラジアル歪みパラメーターは、-0.2、-0.15、-0.1、-0.05、0を含んでも良い。
これらの実現形態によっては、候補値を均一に取得することができるため、候補値の不均一な分布により真の値が候補値のより大きい間隔にあることによるターゲット一次ラジアル歪みパラメーターの不正確さを回避し、歪み補正の精度を向上させる。
次に、図3を参照する。図3は、本実施例に係るビデオフレームの処理方法の適用シーンの概略図である。図3の適用シーンにおいて、実行主体301は処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター302、及び一次ラジアル歪みパラメーター以外の指定ラジアル歪みパラメーターの指定値303を取得し、そのうち、前記指定値の絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下である。実行主体301は各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーター302と指定値303に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレーム304が得られる。実行主体301は、第1の初期補正ビデオフレームのぞれぞれに、少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレーム305を選択する選択ステップを実行し、そのうち、前記第1の初期補正ビデオフレームのぞれぞれに対応する少なくとも一部領域が一致している。実行主体301は、選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーター306として決定する。
さらに、図4を参照する。図4に、ビデオフレームの処理方法の別の実施例のフロー400が示されている。当該フロー400は、以下のステップを含む。
ステップ401において、処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター、及び指定ラジアル歪みパラメーターの指定値を取得し、そのうち、前記指定値の絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下であり、前記指定ラジアル歪みパラメーターが一次ラジアル歪みパラメーターではない。
本実施例において、ビデオフレームの処理方法を実行する実行主体(例えば図1に示すサーバ又は端末機器)は、処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター(即ちk1)を取得することができる。また、前記実行主体は、一次ラジアル歪みパラメーター以外の指定ラジアル歪みパラメーターについて、当該指定ラジアル歪みパラメーターの指定値を取得することができる。実践中、前記実行主体は、ローカル又は他の電子機器から上記のプリセットされた複数の候補となる一次ラジアル歪みパラメーター、及び指定値を直接に取得することができる。ここでの処理対象ビデオフレームは、カメラにより撮影されたビデオフレーム原図であっても良く、ビデオフレーム原図が一定の処理(例えばスクリーンショット、スタイルチェンジ等)を経って得られたビデオフレームであってもよい。
ステップ402において、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームが得られる。
本実施例において、前記実行主体は、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーター及び各指定ラジアル歪みパラメーターの指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、ラジアル歪み補正の結果としては第1の初期補正ビデオフレームである。実践中、前記実行主体は、指定の焦点距離をラジアル歪み補正のパラメーターとして、上記のラジアル歪み補正を行うことができる。
ステップ403において、第1の初期補正ビデオフレームのそれぞれに、少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレームを選択し、そのうち、前記第1の初期補正ビデオフレームのそれぞれに対応する少なくとも一部領域が一致している。
本実施例において、前記実行主体は選択ステップを実行することができる。即ち、得られた第1の初期補正ビデオフレームのそれぞれに、ビデオフレームの少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレームを選択する。第1の初期補正ビデオフレームの少なくとも一部領域とは、第1の初期補正ビデオフレームの一部領域又は全領域を指す。異なる第1の初期補正ビデオフレームに対応する少なくとも一部領域が一致している。ここでの直線セグメントとは湾曲していないセグメントを指す。
ステップ404において、選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定する。
本実施例において、前記実行主体は、選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定することができる。
ステップ405において、処理対象ビデオフレームにプリセットされた複数の候補となる二次ラジアル歪みパラメーターを取得し、そのうちに最も大きな候補となる二次ラジアル歪みパラメーターは最も大きな候補となる一次ラジアル歪みパラメーターよりも小さくなる。
本実施例において、指定ラジアル歪みパラメーターは二次ラジアル歪みパラメーターを含み、前記実行主体は、一次ラジアル歪みパラメーターの決定と同様に二次ラジアル歪みパラメーターを決定することができる。具体的に、前記実行主体は、プリセットされた複数の候補となる二次ラジアル歪みパラメーターを取得することができる。実際には、二次ラジアル歪みパラメーターが小さいことが多いので、二次ラジアル歪みパラメーターの割り当て値は全体的に小さくすることができる。例えば、一次ラジアル歪みパラメーターの最も大きな割り当て値は0.2である場合、二次ラジアル歪みパラメーターの最も大きな割り当て値は0.1又は0.05であってもよい。
ステップ406において、各候補となる二次ラジアル歪みパラメーターについて、当該候補となる二次ラジアル歪みパラメーターとターゲット一次ラジアル歪みパラメーターに基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第2の初期補正ビデオフレームが得られる。
本実施例において、前記実行主体は、各候補となる二次ラジアル歪みパラメーターについて、当該パラメーター及びターゲット一次ラジアル歪みパラメーターに基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、ここでのラジアル歪み補正結果を第2の初期補正ビデオフレームとすることができる。
ステップ407において、第2の初期補正ビデオフレームのぞれぞれに、少なくとも一部領域に数が最も多い直線セグメントを含む第2の初期補正ビデオフレームを選択し、そのうち、前記第2の初期補正ビデオフレームのぞれぞれに対応する少なくとも一部領域が一致している。
本実施例において、前記実行主体は、ステップ406により得られた第2の初期補正ビデオフレームに対して選択ステップを実行することができる。即ち、第2の初期補正ビデオフレームのぞれぞれに、少なくとも一部領域に含まれる直線セグメントの数により、最適な歪み補正効果と対応する第2の初期補正ビデオフレームを選択することができる。
ステップ408において、選択された第2の初期補正ビデオフレームに対応する候補となる二次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット二次ラジアル歪みパラメーターとして決定するとともに上記の選択された第2の初期補正ビデオフレームを処理対象ビデオフレームのターゲット補正結果とする。
本実施例において、前記実行主体は、今回の選択ステップにより選択された第2の初期補正ビデオフレームに対応する候補となる二次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット二次ラジアル歪みパラメーターとして決定することができる。前記実行主体は、ここで選択された第2の初期補正ビデオフレームを処理対象ビデオフレームのターゲット補正結果とすることができる。
本実施例は、ターゲット一次ラジアル歪みパラメーターを利用して、各候補となる二次ラジアル歪みパラメーターのぞれぞれに対応する歪み補正結果を決定することができるので、その中から最適な歪み補正結果を選択して、真の値と最も合う二次ラジアル歪みパラメーターを判断することができる。
本実施例のいくつかの選択可能な実現形態において、処理対象ビデオフレームが少なくとも二つの処理対象ビデオフレームを含み、少なくとも二つの処理対象ビデオフレームのうち、隣接する撮影時間の任意の二つのビデオの撮影時間差がプリセットされた時間差以下である。上記した方法は、少なくとも二つの処理対象ビデオフレームと各処理対象ビデオフレームの指定初期焦点距離をモーションリカバリ構造モジュール(Structure from Motion、SFM)に入力し、少なくとも二つの処理対象ビデオフレームにおける各処理対象ビデオフレームのターゲット焦点距離が得られるステップと、上記した各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、初期補正ビデオフレームが得られるステップに含まれた、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーター、指定値とターゲット焦点距離に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、初期補正ビデオフレームが得られるステップと、を更に含む。そのうち、前記少なくとも二つの処理対象ビデオフレームにおける処理対象ビデオフレームの幅が広いほど、当該処理対象ビデオフレームの指定初期焦点距離が長くなる。
これらの選択可能な実現形態において、前記実行主体は、少なくとも二つの処理対象ビデオフレームおよび処理対象ビデオフレームに対して指定された指定初期焦点距離を、モーションリカバリ構造(Structure from Motion、SFM)モジュールに入力することによって、モーションリカバリ構造モジュールにより指定初期焦点距離を調整し、ターゲット焦点距離が得られる。このように、前記実行主体は、当該候補となる一次ラジアル歪みパラメーター、指定値、ターゲット焦点距離を利用して処理対象ビデオフレームに対して歪み補正を行うことによって、初期補正ビデオフレームが得られる。
少なくとも二つの処理対象ビデオフレームにおいて異なる処理対象ビデオフレームの指定初期焦点距離は同様でも異なってもよい。実践中、上記の少なくとも二つの処理対象ビデオフレームは同一のカメラで撮影したビデオフレームであっても良いので、サイズは同様であってもよい。指定初期焦点距離は、処理対象ビデオフレームのサイズに関連付けることができ、例えば指定初期焦点距離と処理対象ビデオフレームの幅又は高さの比率は、指定値であってもよく、指定値の範囲内[0.7、0.9]であってもよい。即ち、前記実行主体は、プリセットされた規則に従って当該範囲内から選択しても良く、ランダムに当該範囲内から選択しても良い。
任意の処理対象ビデオフレームについて、少なくとも二つの処理対象ビデオフレームのうち、当該処理対象ビデオフレームの撮影時間の前後の処理対象ビデオフレームのみは、撮影時間が隣接するビデオフレームである。少なくとも二つの処理対象ビデオフレームは、カメラで撮影した連続ビデオフレームであってもよく、カメラで撮影したビデオフレームから数フレームごとに取得されたビデオフレームであってもよく、例えば1秒間に30フレームを撮影し、30フレームごとに取得された一つのフレームを処理対象ビデオフレームとする。したがって、上記の隣接するビデオフレームとは、上記の少なくとも二つの処理対象ビデオフレームの撮影時間が隣接していることを意味する。
例えば、少なくとも二つの処理対象ビデオフレームは合計三つのビデオフレームであり、撮影時間はそれぞれ、第1のフレームが3点08分00秒、第2のフレームが3点08分01秒、第3のフレームが3点08分02秒である。第1のフレームと第2のフレームは隣接するビデオフレームであり、第2のフレームと第3のフレームは撮影時間が隣接するビデオフレームである。
これらの実現形態は、焦点距離の初期値とモーションリカバリ構造を利用して、処理対象画像の焦点距離を正確に決定することができる。
本実施例のいくつかの選択可能な実現形態において、処理対象ビデオフレームは、固定の焦点距離によるターゲットカメラで撮影したビデオフレームであり、上記した方法は、ターゲットカメラで撮影した、処理対象ビデオフレーム以外のターゲットビデオフレームを取得するステップと、ターゲット焦点距離、ターゲット一次ラジアル歪みパラメーター、ターゲット二次ラジアル歪みパラメーターに基づいて、ターゲットビデオフレームに対してラジアル歪み補正を行うステップを更に含む。
これらの選択可能な実現形態において、前記処理対象ビデオフレームは、ターゲットカメラで撮影したものであり、当該カメラで撮影したビデオフレームの焦点距離は固定されている。前記実行主体は、処理対象ビデオフレームにより得られた一次ラジアル歪みパラメーター、二次ラジアル歪みパラメーター、ターゲット焦点距離を利用して、当該ターゲットカメラで撮影した他のビデオフレームに対してラジアル歪み補正を行うことができる。これらの実現形態は、カメラで撮影したビデオフレームの一部により歪み補正のパラメーターを取得することができ、当該カメラで撮影した他のビデオフレームの歪み補正で広く利用されている。
さらに図5を参照すると、上図に示す方法による実現形態として、本出願がビデオフレームの処理装置の一実施例を提供する。当該装置実施例は、図2に示す方法実施例に対応する。以下に記載の特徴に加えて、当該装置実施例は、図2に示す方法実施例と同様な又は相応的な特徴或いは効果を更に含むことができる。当該装置は様々な電子機器に適用できる。
図5に示されたように、本実施例に係るビデオフレームの処理装置500は、第1の取得ユニット501、第1の補正ユニット502、選択ユニット503、決定ユニット504を含む。そのうち、前記第1の取得ユニット501は、処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター、及び指定ラジアル歪みパラメーターの指定値を取得するように構成されたものであり、そのうち、前記指定値の絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下であり、前記指定ラジアル歪みパラメーターが一次ラジアル歪みパラメーターではない。また、前記第1の補正ユニット502は、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームが得られるように構成されたものである。また、前記選択ユニット503は、第1の初期補正ビデオフレームのそれぞれに、少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレームを選択するように構成されたものであり、そのうち、第1の初期補正ビデオフレームのぞれぞれに対応する少なくとも一部領域が一致している。また、前記決定ユニット504は、選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定するように構成されたものである。
本実施例において、ビデオフレームの処理装置500における第1の取得ユニット501、第1の補正ユニット502、選択ユニット503、決定ユニット504の具体的な処理及びそれによる技術効果について、それぞれ図2に対応する実施例のステップ201、ステップ202、ステップ203、ステップ204の関連する説明を参照されたいので、ここでは説明を省略する。
本実施例のいくつかの選択可能な実現形態において、少なくとも一部領域が初期補正ビデオフレームにおいて指定中心領域以外の領域である。
本実施例のいくつかの選択可能な実現形態において、指定ラジアル歪みパラメーターは、二次ラジアル歪みパラメーターを含み、上記した装置は第2の取得ユニット、第2の補正ユニット、を更に含む。そのうちに、前記第2の取得ユニットは、処理対象ビデオフレームにプリセットされた複数の候補となる二次ラジアル歪みパラメーターを取得するように構成されたものであり、そのうちに最も大きな候補となる二次ラジアル歪みパラメーターが最も大きな候補となる一次ラジアル歪みパラメーターより小さくなる。また、前記第2の補正ユニットは、各候補となる二次ラジアル歪みパラメーターについて、当該候補となる二次ラジアル歪みパラメーターとターゲット一次ラジアル歪みパラメーターに基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第2の初期補正ビデオフレームが得られるように構成されたものである。また、前記初期生成ユニットは、第2の初期補正ビデオフレームのぞれぞれに、少なくとも一部領域に数が最も多い直線セグメントを含む第2の初期補正ビデオフレームを選択するように構成されたものであり、そのうち、第2の初期補正ビデオフレームのそれぞれに対応する少なくとも一部領域が一致している。また、前記実行ユニットは、選択された第2の初期補正ビデオフレームに対応する候補となる二次ラジアル歪みパラメーターを、処理対象ビデオフレームのターゲット二次ラジアル歪みパラメーターとして決定し、上記の選択された第2の初期補正ビデオフレームを処理対象ビデオフレームのターゲット補正結果とするように構成されたものである。
本実施例のいくつかの選択可能な実現形態において、処理対象ビデオフレームが少なくとも二つの処理対象ビデオフレームを含み、少なくとも二つの処理対象ビデオフレームのうち、隣接する撮影時間の任意の二つのビデオの撮影時間差がプリセットされた時間差以下である。上記した装置は、焦点距離決定ユニット、第1の補正ユニットを更に備える。そのうち、前記焦点距離決定ユニットは、少なくとも二つの処理対象ビデオフレームと各処理対象ビデオフレームの指定初期焦点距離をモーションリカバリ構造モジュールに入力し、少なくとも二つの処理対象ビデオフレームにおける各処理対象ビデオフレームのターゲット焦点距離が得られるように構成されたものであり、そのうち、前記少なくとも二つの処理対象ビデオフレームにおける処理対象ビデオフレームの幅が広いほど、当該処理対象ビデオフレームの指定初期焦点距離が長くなる。また、前記第1の補正ユニットは、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーター、指定値、ターゲット焦点距離に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームが得られることによって、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームが得られるように構成されたものである。
本実施例のいくつかの選択可能な実現形態において、処理対象ビデオフレームは、固定の焦点距離によるターゲットカメラで撮影したビデオフレームであり、上記した装置は、ターゲットカメラで撮影した、処理対象ビデオフレーム以外のターゲットビデオフレームを取得するように構成されたビデオフレーム取得ユニットと、ターゲット焦点距離、ターゲット一次ラジアル歪みパラメーター、ターゲット二次ラジアル歪みパラメーターに基づいて、ターゲットビデオフレームに対してラジアル歪み補正を行うように構成された第3の補正ユニットとを更に備える。
本実施例のいくつかの選択可能な実現形態において、複数の候補となる一次ラジアル歪みパラメーターのうち、任意の隣接する値の候補となる一次ラジアル歪みパラメーター間に第1のプリセット間隔値がある。複数の候補となる二次ラジアル歪みパラメーターのうち、任意の隣接する値の候補となる二次ラジアル歪みパラメーター間に第2のプリセット間隔値がある。
本出願の実施例によれば、本出願は電子機器と読み取り可能な記録媒体を更に提供する。
図6に示されたように、本出願の実施例に係るビデオフレームの処理方法による電子機器のブロック図である。電子機器は、ラップトップコンピューター、デスクトップコンピューター、ワークステーション、パーソナルデジタルアシスタント、サーバ、ブレードサーバ、メインフレームコンピューター、その他の適切なコンピューターなど、様々な形態のデジタルコンピューターを示すことを目的としている。電子機器は、パーソナルデジタル処理、携帯電話、スマートフォン、ウェアラブルデバイス、およびその他の同様のコンピュータデバイスなど、様々な形式のモバイルデバイスを表すこともできる。本明細書に示す部品、それらの接続と関係、及びそれらの機能は単なる例であり、本明細書に記載及び/又は要求とされる本出願の実現を制限することを意図するものではない。
図6に示されたように、当該電子機器は、1つ又は複数のプロセッサ601、メモリ602、及び各部品を接続するための、高速インタフェースと低速インタフェースを含むインタフェースを含む。各部品は、異なるバスにより相互に接続しており、共通のメインボードに設置してもよく、必要に応じて他の方法により設置してもよい。プロセッサは、電子機器内に実行された命令を処理することができ、前記命令は、メモリに記憶された命令或いはメモリにある外部入力/出力装置(例えば、インタフェースに結合された表示機器)にGUIのグラフィック情報を表示させるための命令を含む。他の実施形態では、必要に応じて、複数のプロセッサ及び/又は複数のバスを複数のメモリと複数のメモリとともに使用することができる。同様、複数の電子機器と接続して、各機器に幾つかの必要とする操作(例えば、サーバアレイ、ブレードサーバのグループ、或いはマルチプロセッサシステム)を提供することができる。図6はプロセッサ601を例として示されている。
メモリ602は、本出願が提供する非一時的(瞬時ではなく)コンピュータ読み取り可能な記録媒体である。そのうち、メモリに記憶された少なくとも一つのプロセッサによって実行され得る命令によって、少なくとも一つのプロセッサに本出願が提供するビデオフレームの処理方法を実行させる。本出願に係る非一時的コンピュータ読み取り可能な記録媒体にコンピュータ命令が記憶され、当該コンピュータ命令はコンピュータに本出願が提供するビデオフレームの処理方法を実行させる。
メモリ602は、非一時的コンピュータ読み取り可能な記録媒体として、非一時的ソフトウェアプログラム、非一時的コンピュータ実行可能なプログラム及びモジュールを記憶するために用いられ、例えば、本出願の実施例に係るビデオフレームの処理方法と対応するプログラム命令/モジュール(例えば、図5に示す第1の取得ユニット501、第1の補正ユニット502、選択ユニット503、決定ユニット504)であってもよい。プロセッサ601は、メモリ602に記憶された非一時的ソフトウェアプログラム、命令及びモジュールを実行することによって、サーバにおける様々な機能アプリケーション及びデータ処理を実行する。よって、前記した方法実施例に係るビデオフレームの処理方法を実現する。
メモリ602は、記憶プログラム領域と記憶データ領域を含んでも良く、前記記憶プログラム領域は、オペレーティングシステム、少なくとも一つの機能が必要とするアプリケーションプログラムを記憶することができ、前記記憶データ領域は、ビデオフレームの処理による電子機器で作成されたデータ等を記憶することができる。また、メモリ602は、高速ランダムアクセスメモリを含んでも良く、非一時的メモリを含んでも良く、例えば少なくとも一つ磁気ディスク記憶装置、フラッシュ記憶装置、又は他の非一時的ソリッドステート記憶装置であってもよい。幾つかの実施例において、メモリ602はプロセッサ601に対して遠隔設定されたメモリを選択しても良く、これらの遠隔メモリは、ネットワークを介してビデオフレームの処理による電子機器に接続することができる。前記ネットワークの一例としてインターネット、企業イントラネット、ローカルエリアネットワーク、モバイル通信ネットワーク及びそれらの組み合わせを含むがこれらに限定されない。
ビデオフレームの処理方法による電子機器は、入力装置603、出力装置604をさらに含んでも良い。プロセッサ601、メモリ602、入力装置603、出力装置604は、バスまたは他の方法で接続することがでいる。図6では、バス接続を例として示されている。
入力装置603は、入力された数値、文字情報を受信することができ、ビデオフレームの処理による電子機器のユーザ設定及び機能制御に関連するキー信号入力を生成することもでき、例えばタッチスクリーン、キーパッド、マウス、トラックパッド、タッチパッド、インジケータースティック、1つまたは複数のマウスボタン、トラックボール、ジョイスティックなどの入力装置であってもよい。出力装置604は、表示機器、補助照明装置(例えば、LED)、触覚フィードバック装置(例えば、振動モーター)等を含むことができる。当該表示機器は、液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ、プラズマディスプレイを含むがこれらに限定されていない。幾つかの実施形態において、表示機器はタッチスクリーンであってもよい。
ここで記載のシステムと技術の様々な実施形態は、デジタル電子回路システム、集積回路システム、専用ASIC(専用集積回路)、コンピュータハードウェア、ファームウェア、ソフトウェア、及び/又はそれらの組み合わせにより実現することができる。これらの様々な実施形態は、一つ又は複数のコンピュータプログラムにおいて実行されることを含み、当該一つ又は複数のコンピュータプログラムは少なくとも一つのプログラム可能なプロセッサを含むプログラム可能なシステムで実行及び/又は解釈することができ、当該プログラム可能なプロセッサは、専用または通用のプログラム可能なプロセッサであってもよく、記憶システム、少なくとも一つの入力装置、少なくとも一つの出力装置からデータと命令を受信し、データと命令を当該記憶システム、当該少なくとも一つの入力装置、当該少なくとも一つの出力装置に転送してもよい。
これらのコンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、またはコードとも呼ばれる)には、プログラム可能なプロセッサの機械語命令が含まれ、高レベルのプロセス及び/又はオブジェクト指向のプログラミング言語、及び/又はアセンブラ/機械語によりこれらのコンピュータプログラムを実行する。本明細書で使用された、「機械読み取り可能な記録媒体」と「コンピュータ読み取り可能な記録媒体」という用語は、機械命令及び/又はデータをプログラム可能なプロセッサのいずれかのコンピュータプログラム製品、機器、及び/又は装置(例えば、磁気ディスク、光ディスク、メモリ、プログラマブルロジックデバイス(PLD))に提供するためのものを指し、機器命令を機械読み取り可能な信号として受信するための機器読み取り可能媒体を含む。「機械読み取り可能な信号」という用語は、机器命令及び/又はデータをプログラム可能なプロセッサに提供するためのいずれかの信号である。
ユーザとのインタラクションを提供するために、コンピュータにここで記載のシステムと技術を実行することができる。当該コンピュータは、ユーザに情報を表示するための表示装置(例えば、CRT(陰極線管)或いはLCD(液晶ディスプレイ)モニター)と、ユーザが当該キーボードと当該ポインティングデバイスにより入力をコンピュータに提供するキーボードとポインティングデバイス(例えば、マウスまたはトラックボール)を備える。他の種類の装置は、ユーザとのインタラクションを提供するためのものであってもよく、例えば、ユーザに提供するフィードバックは、任意の形式の感覚フィードバック(例えば、視覚フィードバック、聴覚フィードバック、または触覚フィードバック)であってよく、任意の形式(音響入力、音声入力、または触覚入力を含む)ユーザからの入力を受け取ることができる。
ここで記載のシステムと技術をバックエンド部品を含むコンピューターシステム(例えば、データサーバ)、或いは中間部品を含むコンピューターシステム(例えば、アプリケーションサーバ)、或いはフロントエンド部品を含むコンピューターシステム(例えば、グラフィカルユーザーインターフェース或いはネットワークブラウザを有するユーザコンピュータは、ユーザが当該グラフィカルユーザーインターフェース或いは当該ネットワークブラウザによりここで記載のシステムと技術の実施形態とインタラクションする)、或いはこのバックエンド部品、中間部品、或いはフロントエンド部品の任意の組み合わせのコンピューターシステムで実行してもよい。任意の形式或いは媒体によるデジタルデータ通信(例えば、通信ネットワーク)によりシステムの部品を相互に接続することができる。通信ネットワークの例として、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)とインターネットを含む。
コンピュータシステムには、クライアントとサーバを含んでも良い。クライアントとサーバは、通常に互いに遠く離れており、通常に通信ネットワークを介してインタラクションをする。クライアントとサーバの関係は、対応するコンピュータで実行された、お互いにクライアントとサーバーの関係を持つコンピュータープログラムによって生成される。
図面のうちのフローチャート及びブロック図は、本出願の様々な実施例に係るシステム、方法及びコンピュータプログラム製品によって実現できるアーキテクチャ、機能及び動作の表示例である。これについては、フローチャート又はブロック図における各ブロックは、モジュール、プログラムセグメント、又はコードの一部を表すことができる。当該モジュール、プログラムセグメント、又はコードの一部には、所定のロジック機能を実現するための1つ又は複数の実行可能命令が含まれている。さらに注意すべきなのは、一部の代替となる実施態様においては、ブロックに示されている機能は図面に示されているものとは異なる順序で実行することも可能である。例えば、連続して示された二つのブロックは、実際には係る機能に応じて、ほぼ並行して実行されてもよく、時には逆の順序で実行されてもよい。さらに注意すべきなのは、ブロック図及び/又はフローチャートにおけるすべてのブロック、ならびにブロック図及び/又はフローチャートにおけるブロックの組み合わせは、所定の機能又は操作を実行する専用のハードウェアベースのシステムで実現することもできれば、専用のハードウェアとコンピュータ命令との組み合わせで実現することもできる。
本出願の実施例に記載された手段はソフトウェアで実現されてもよく、ハードウェアで実現されてもよい。記載されたユニットは、プロセッサに設置されてもよく、例えば、「第1の取得ユニット、第1の補正ユニット、選択ユニットと決定ユニットとを備えるプロセッサ」として記載されてもよい。ここで、これらのユニットの名称は、ある場合において当該ユニットその自体を限定するものではなく、例えば、決定ユニットは、「選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーター的ユニットとして決定する」 として記載されてもよい。
一方、本出願がコンピュータ読み取り可能な記録媒体を更に提供する。当該コンピュータ読み取り可能な記録媒体は、上記の実施例に記載の装置に含まれるものであってもよく、当該装置に組み込まれずに単独で存在してもよい。上記のコンピュータ読み取り可能な記録媒体は、一つまたは複数のコンピュータプログラムが記憶される。上記の1つまたは複数のコンピュータプログラムが当該装置により実行されると、当該装置に、処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーター、及び指定ラジアル歪みパラメーターの指定値を取得させる。そのうち、前記指定値の絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下であり、前記指定ラジアル歪みパラメーターが一次ラジアル歪みパラメーターではない。また、各候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと指定値に基づいて、処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームが得られる。第1の初期補正ビデオフレームのそれぞれに、少なくとも一部領域に数が最も多い直線セグメントを含む第1の初期補正ビデオフレームを選択し、そのうち、第1の初期補正ビデオフレームのそれぞれに対応する少なくとも一部領域が一致している。選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定する。
以上の記載は、本出願の好ましい実施例、及び使用された技術的原理に関する説明に過ぎない。当業者であれば、本出願に係る発明の範囲が、上記の技術的特徴の特定の組み合わせからなる解決策に限定されるものではなく、上記の本出願の趣旨を逸脱しない範囲で、上記の技術的特徴又はそれらの同等の特徴の任意の組み合わせからなる他の解決策も含むべきであることを理解すべきである。例えば、上記の特徴と本出願に開示された類似の機能を有する技術的特徴(それらに限られない)とを相互に置き換えてなる解決策が該当する。

Claims (15)

  1. ビデオフレームの処理方法であって、
    処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーターを取得し、指定ラジアル歪みパラメーターを、その絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下である指定値に設定するステップであって、前記指定ラジアル歪みパラメーターは、一次ラジアル歪みパラメーターを除いた他のラジアル歪みパラメーターである、ステップと、
    各前記候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと前記指定値に設定された前記指定ラジアル歪みパラメーターとに基づいて、前記処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームを得るステップと、
    対応する少なくとも一部の領域が一致している前記第1の初期補正ビデオフレームのれぞれにおいて、少なくとも一部領域に含まれた直線セグメントの数が最も多い第1の初期補正ビデオフレームを選択するステップと、
    選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを、前記処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定するステップと、を含む、
    方法。
  2. 前記少なくとも一部領域は第1の初期補正ビデオフレームにおいて指定中心領域以外の領域である、
    請求項1に記載の方法。
  3. 前記指定ラジアル歪みパラメーターは二次ラジアル歪みパラメーターを含み
    上記した方法は、
    前記処理対象ビデオフレームにプリセットされた複数の候補となる二次ラジアル歪みパラメーターを取得するステップと、
    各前記候補となる二次ラジアル歪みパラメーターについて、当該候補となる二次ラジアル歪みパラメーターと前記ターゲット一次ラジアル歪みパラメーターに基づいて、前記処理対象ビデオフレームに対してラジアル歪み補正を行い、第2の初期補正ビデオフレームを得るステップと、
    対応する少なくとも一部の領域が一致している前記第2の初期補正ビデオフレームのれぞれにおいて、少なくとも一部領域に含まれた直線セグメントの数が最も多い第2の初期補正ビデオフレームを選択するステップと、
    選択された第2の初期補正ビデオフレームに対応する候補となる二次ラジアル歪みパラメーターを、前記処理対象ビデオフレームのターゲット二次ラジアル歪みパラメーターとして決定するとともに上記の選択された第2の初期補正ビデオフレームを前記処理対象ビデオフレームのターゲット補正結果とするステップと、を更に含み
    最も大きな前記候補となる二次ラジアル歪みパラメーターは最も大きな前記候補となる一次ラジアル歪みパラメーターよりも小さい
    請求項1に記載の方法。
  4. 前記処理対象ビデオフレームが少なくとも二つの処理対象ビデオフレームを含み、前記少なくとも二つの処理対象ビデオフレームのうち、隣接する撮影時間の任意の二つのビデオの撮影時間差がプリセットされた時間差以下であり、
    上記した方法は、
    前記少なくとも二つの処理対象ビデオフレームと各処理対象ビデオフレームの指定初期焦点距離をモーションリカバリ構造モジュールに入力し、前記少なくとも二つの処理対象ビデオフレームにおける各処理対象ビデオフレームのターゲット焦点距離を得るステップをさらに含み
    上記した各前記候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと前記指定値に設定された前記指定ラジアル歪みパラメーターとに基づいて、前記処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームを得るステップは、
    各前記候補となる一次ラジアル歪みパラメーターについて、前記候補となる一次ラジアル歪みパラメーター、前記指定値、前記ターゲット焦点距離に基づいて、前記処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームを得るステップ、を更に含み、
    前記少なくとも二つの処理対象ビデオフレームにおける処理対象ビデオフレームの幅が広いほど、当該処理対象ビデオフレームの指定初期焦点距離が長くなる
    請求項3に記載の方法。
  5. 前記処理対象ビデオフレームは、固定の焦点距離を有するターゲットカメラで撮影したビデオフレームであり、
    上記した方法は、
    前記ターゲットカメラで撮影した、前記処理対象ビデオフレーム以外のターゲットビデオフレームを取得するステップと、
    前記ターゲット焦点距離、前記ターゲット一次ラジアル歪みパラメーター、前記ターゲット二次ラジアル歪みパラメーターに基づいて、前記ターゲットビデオフレームに対してラジアル歪み補正を行うステップと、
    を更に含む、請求項4に記載の方法。
  6. 前記複数の候補となる一次ラジアル歪みパラメーターのうち、任意の隣接する値の候補となる一次ラジアル歪みパラメーター間に第1のプリセット間隔値があり、
    前記複数の候補となる二次ラジアル歪みパラメーターのうち、任意の隣接する値の候補となる二次ラジアル歪みパラメーター間に第2のプリセット間隔値がある
    請求項1に記載の方法。
  7. ビデオフレームの処理装置であって、
    処理対象ビデオフレームにプリセットされた複数の候補となる一次ラジアル歪みパラメーターを取得し、指定ラジアル歪みパラメーターの指定値を、その絶対値が各候補となる一次ラジアル歪みパラメーターの絶対値以下である指定値に設定するように構成された第1の取得ユニットであって、前記指定ラジアル歪みパラメーターは、一次ラジアル歪みパラメーターを除いた他のラジアル歪みパラメーターである第1の取得ユニットと、
    各前記候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーターと前記指定値に設定された前記指定ラジアル歪みパラメーターとに基づいて、前記処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームを得るように構成された第1の補正ユニットと、
    対応する少なくとも一部の領域が一致している前記第1の初期補正ビデオフレームのそれぞれにおいて、少なくとも一部領域に含まれた直線セグメントの数が最も多い第1の初期補正ビデオフレームを選択するように構成された選択ユニットと、
    選択された第1の初期補正ビデオフレームに対応する候補となる一次ラジアル歪みパラメーターを、前記処理対象ビデオフレームのターゲット一次ラジアル歪みパラメーターとして決定するように構成された決定ユニットとを備え
    装置。
  8. 前記少なくとも一部領域は第1の初期補正ビデオフレームにおいて指定中心領域以外の領域である、
    請求項7に記載の装置。
  9. 前記指定ラジアル歪みパラメーターは二次ラジアル歪みパラメーターを含み、
    上記した装置は、
    前記処理対象ビデオフレームにプリセットされた複数の候補となる二次ラジアル歪みパラメーターを取得するように構成された第2の取得ユニットと、
    各前記候補となる二次ラジアル歪みパラメーターについて、当該候補となる二次ラジアル歪みパラメーターと前記ターゲット一次ラジアル歪みパラメーターに基づいて、前記処理対象ビデオフレームに対してラジアル歪み補正を行い、第2の初期補正ビデオフレームを得るように構成された第2の補正ユニットと、
    対応する少なくとも一部の領域が一致している前記第2の初期補正ビデオフレームのれぞれにおいて、少なくとも一部領域に含まれた直線セグメントの数が最も多い第2の初期補正ビデオフレームを選択するように構成された初期生成ユニットと、
    選択された第2の初期補正ビデオフレームに対応する候補となる二次ラジアル歪みパラメーターを、前記処理対象ビデオフレームのターゲット二次ラジアル歪みパラメーターとして決定するとともに上記の選択された第2の初期補正ビデオフレームを前記処理対象ビデオフレームのターゲット補正結果とするように構成された実行ユニットと、を更に備え、
    最も大きな前記候補となる二次ラジアル歪みパラメーターは最も大きな前記候補となる一次ラジアル歪みパラメーターよりも小さ
    請求項7に記載の方法。
  10. 前記処理対象ビデオフレームが少なくとも二つの処理対象ビデオフレームを含み、前記少なくとも二つの処理対象ビデオフレームのうち、隣接する撮影時間の任意の二つのビデオの撮影時間差がプリセットされた時間差以下であり、
    上記した装置は、
    前記少なくとも二つの処理対象ビデオフレームと各処理対象ビデオフレームの指定初期焦点距離をモーションリカバリ構造モジュールに入力し、前記少なくとも二つの処理対象ビデオフレームにおける各処理対象ビデオフレームのターゲット焦点距離を得るように構成された焦点距離決定ユニットをさらに備え、
    前記第1の補正ユニットは、さらに
    各前記候補となる一次ラジアル歪みパラメーターについて、当該候補となる一次ラジアル歪みパラメーター、前記指定値に設定された前記指定ラジアル歪みパラメーターと、前記ターゲット焦点距離に基づいて、前記処理対象ビデオフレームに対してラジアル歪み補正を行い、第1の初期補正ビデオフレームを得るように構成され、
    前記少なくとも二つの処理対象ビデオフレームにおける処理対象ビデオフレームの幅が広いほど、当該処理対象ビデオフレームの指定初期焦点距離が長くなる
    請求項9に記載の方法。
  11. 前記処理対象ビデオフレームは、固定の焦点距離を有するターゲットカメラで撮影したビデオフレームであり、
    上記した装置は、
    前記ターゲットカメラで撮影した、前記処理対象ビデオフレーム以外のターゲットビデオフレームを取得するように構成されたビデオフレーム取得ユニットと、
    前記ターゲット焦点距離、前記ターゲット一次ラジアル歪みパラメーター、前記ターゲット二次ラジアル歪みパラメーターに基づいて、前記ターゲットビデオフレームに対してラジアル歪み補正を行うように構成された第3の補正ユニットと、
    を更に備える、請求項10に記載の装置。
  12. 前記複数の候補となる一次ラジアル歪みパラメーターのうち、任意の隣接する値の候補となる一次ラジアル歪みパラメーター間に第1のプリセット間隔値があり、
    前記複数の候補となる二次ラジアル歪みパラメーターのうち、任意の隣接する値の候補となる二次ラジアル歪みパラメーター間に第2のプリセット間隔値がある
    請求項7に記載の装置。
  13. 電子機器であって、
    一つまたは複数のプロセッサと、
    一つまたは複数のコンピュータプログラムが記憶されたメモリと、を備え、
    前記1つまたは複数のコンピュータプログラムが前記1つまたは複数のプロセッサにより実行されると、前記1つまたは複数のプロセッサに、請求項1~7のいずれか1項に記載の方法を実行させる、電子機器。
  14. コンピュータプログラムが記録されたコンピュータ読み取り可能な記憶媒体であって、
    前記コンピュータプログラムがプロセッサにより実行されると、請求項1~6のいずれか1項に記載の方法を実現させることを特徴とするコンピュータ読み取り可能な記憶媒体。
  15. コンピュータプログラムであって、
    前記コンピュータプログラムがプロセッサにより実行されると、請求項1~6のいずれか1項に記載の方法を実現させることを特徴とするコンピュータプログラム。
JP2021037690A 2020-04-27 2021-03-09 ビデオフレームの処理方法及び装置 Active JP7291168B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010341669.2 2020-04-27
CN202010341669.2A CN111507924B (zh) 2020-04-27 2020-04-27 视频帧的处理方法和装置

Publications (2)

Publication Number Publication Date
JP2021175185A JP2021175185A (ja) 2021-11-01
JP7291168B2 true JP7291168B2 (ja) 2023-06-14

Family

ID=71871377

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021037690A Active JP7291168B2 (ja) 2020-04-27 2021-03-09 ビデオフレームの処理方法及び装置

Country Status (5)

Country Link
US (1) US11557062B2 (ja)
EP (1) EP3933752A1 (ja)
JP (1) JP7291168B2 (ja)
KR (1) KR102451197B1 (ja)
CN (1) CN111507924B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113077396B (zh) * 2021-03-29 2024-05-17 Oppo广东移动通信有限公司 直线段检测方法及装置、计算机可读介质和电子设备
CN114697469B (zh) * 2022-03-15 2024-02-06 华能大理风力发电有限公司洱源分公司 适用于光伏电站的视频处理方法、装置及电子设备
CN115497031B (zh) * 2022-11-14 2023-06-13 广东祥利科技有限公司 基于图像处理的pvc护套料的性能检测方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011185753A (ja) 2010-03-09 2011-09-22 Mitsubishi Electric Corp 車載カメラのカメラキャリブレーション装置
JP2016197856A (ja) 2015-04-02 2016-11-24 アクシス アーベー ズームレンズの焦点距離決定方法
JP2018059767A (ja) 2016-10-04 2018-04-12 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Family Cites Families (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7171056B2 (en) * 2003-02-22 2007-01-30 Microsoft Corp. System and method for converting whiteboard content into an electronic document
KR100668073B1 (ko) 2005-07-11 2007-01-11 (주)블루비스 다시점 영상의 왜곡 보정처리 방법
US7912317B2 (en) * 2005-10-29 2011-03-22 Apple Inc. Estimating and removing lens distortion from scenes
JP5057948B2 (ja) 2007-12-04 2012-10-24 アルパイン株式会社 歪曲補正画像生成ユニットおよび歪曲補正画像生成方法
US8405720B2 (en) * 2008-08-08 2013-03-26 Objectvideo, Inc. Automatic calibration of PTZ camera system
JP4630936B1 (ja) * 2009-10-28 2011-02-09 シャープ株式会社 画像処理装置、画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体
WO2011161746A1 (ja) 2010-06-21 2011-12-29 コニカミノルタオプト株式会社 画像処理方法、プログラム、画像処理装置及び撮像装置
US8786680B2 (en) * 2011-06-21 2014-07-22 Disney Enterprises, Inc. Motion capture from body mounted cameras
JP5898475B2 (ja) * 2011-11-28 2016-04-06 クラリオン株式会社 車載カメラシステム及びその較正方法、及びその較正プログラム
JP6232933B2 (ja) 2013-10-31 2017-11-22 日本電気株式会社 放射歪み補正装置、道路環境認識装置、放射歪み補正方法およびプログラム
IN2014CH00165A (ja) * 2014-01-15 2015-07-17 Infosys Ltd
KR102279026B1 (ko) * 2014-11-07 2021-07-19 삼성전자주식회사 적어도 하나의 객체를 포함하는 영상에서 객체를 추출하여 보정한 영상을 제공하는 장치 및 방법
CN104574419B (zh) * 2015-01-28 2017-06-09 深圳市安健科技股份有限公司 镜头畸变参数标定方法及系统
US10565733B1 (en) * 2016-02-28 2020-02-18 Alarm.Com Incorporated Virtual inductance loop
US9930463B2 (en) * 2016-03-31 2018-03-27 Sonos, Inc. Defect detection via audio playback
US10382680B2 (en) * 2016-10-31 2019-08-13 Verizon Patent And Licensing Inc. Methods and systems for generating stitched video content from multiple overlapping and concurrently-generated video instances
JP6473769B2 (ja) * 2017-02-24 2019-02-20 国立大学法人東京工業大学 補正量演算装置、補正装置及び補正量演算方法
WO2018179039A1 (ja) * 2017-03-27 2018-10-04 日本電気株式会社 カメラパラメータ推定装置、方法およびプログラム
WO2018179040A1 (ja) * 2017-03-27 2018-10-04 日本電気株式会社 カメラパラメータ推定装置、方法およびプログラム
EP3676802B1 (en) * 2017-08-31 2022-07-13 Sony Group Corporation Image processing device that utilizes built-in dynamic camera models to support rapid determination of camera intrinsics and method of operating same
JP2019067358A (ja) * 2017-10-03 2019-04-25 富士通株式会社 推定プログラム、推定方法および推定システム
EP3467775A1 (en) * 2017-10-03 2019-04-10 Fujitsu Limited Estimating program, estimating method, and estimating system for camera parameter
AU2017254859A1 (en) * 2017-10-31 2019-05-16 Canon Kabushiki Kaisha Method, system and apparatus for stabilising frames of a captured video sequence
US10645364B2 (en) * 2017-11-14 2020-05-05 Intel Corporation Dynamic calibration of multi-camera systems using multiple multi-view image frames
KR102118173B1 (ko) * 2018-10-31 2020-06-02 중앙대학교 산학협력단 왜곡계수 추정을 통한 영상 보정 시스템 및 방법
WO2020144757A1 (ja) * 2019-01-09 2020-07-16 日本電気株式会社 カメラパラメータ推定装置、カメラパラメータ推定方法、及びコンピュータ読み取り可能な記録媒体
US20200234467A1 (en) * 2019-01-18 2020-07-23 Nec Laboratories America, Inc. Camera self-calibration network
GB2581792B (en) * 2019-02-25 2023-01-04 Mo Sys Engineering Ltd Lens calibration system
WO2020187723A1 (en) * 2019-03-15 2020-09-24 Mapillary Ab, Methods for analysis of an image and a method for generating a dataset of images for training a machine-learned model
EP3967969B1 (en) * 2019-05-08 2024-05-08 Sichuan Visensing Technology Co., Ltd. Fisheye camera calibration system, method and apparatus, electronic device, and storage medium
CN110166829A (zh) * 2019-05-15 2019-08-23 上海商汤智能科技有限公司 视频处理方法及装置、电子设备和存储介质
WO2020232971A1 (zh) * 2019-05-22 2020-11-26 四川深瑞视科技有限公司 鱼眼相机标定系统、方法、装置、电子设备及存储介质
US11146783B2 (en) * 2019-08-16 2021-10-12 GM Cruise Holdings, LLC Partial calibration target detection for improved vehicle sensor calibration
WO2021031210A1 (zh) * 2019-08-22 2021-02-25 深圳市铂岩科技有限公司 视频处理方法和装置、存储介质和电子设备
US10863112B1 (en) * 2019-09-26 2020-12-08 Plantronics, Inc. Smoothing image transitions when changing views
US11699216B2 (en) * 2020-03-09 2023-07-11 Nec Corporation Automatic fisheye camera calibration for video analytics
US20200294269A1 (en) * 2020-05-28 2020-09-17 Intel Corporation Calibrating cameras and computing point projections using non-central camera model involving axial viewpoint shift
CN112529890A (zh) * 2020-12-21 2021-03-19 北京百度网讯科技有限公司 用于处理轨迹的方法、装置、路侧设备以及云控平台
CN112818792A (zh) * 2021-01-25 2021-05-18 北京百度网讯科技有限公司 车道线检测方法、装置、电子设备及计算机存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011185753A (ja) 2010-03-09 2011-09-22 Mitsubishi Electric Corp 車載カメラのカメラキャリブレーション装置
JP2016197856A (ja) 2015-04-02 2016-11-24 アクシス アーベー ズームレンズの焦点距離決定方法
JP2018059767A (ja) 2016-10-04 2018-04-12 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム

Also Published As

Publication number Publication date
KR102451197B1 (ko) 2022-10-06
CN111507924A (zh) 2020-08-07
US20210335008A1 (en) 2021-10-28
CN111507924B (zh) 2023-09-29
KR20210132590A (ko) 2021-11-04
US11557062B2 (en) 2023-01-17
JP2021175185A (ja) 2021-11-01
EP3933752A1 (en) 2022-01-05

Similar Documents

Publication Publication Date Title
JP7291168B2 (ja) ビデオフレームの処理方法及び装置
JP7228608B2 (ja) ビデオフレームの処理方法及び処理装置、電子機器、記憶媒体並びにコンピュータプログラム
JP7125541B2 (ja) ビデオ修復方法および装置、電子機器、ならびに記憶媒体
JP7317070B2 (ja) 人顔の超解像度の実現方法、装置、電子設備、記憶媒体、及びプログラム
CN111693147A (zh) 温度补偿的方法、装置、电子设备及计算机可读存储介质
KR20150122789A (ko) 비대칭 수차 보정 렌즈
US20220103743A1 (en) Picture focusing method, apparatus, terminal, and corresponding storage medium
CN110460827B (zh) 振镜工作状态的确定方法、装置及计算机存储介质
KR20200018411A (ko) 전극편의 버를 검출하기 위한 방법 및 장치
CN110516598B (zh) 用于生成图像的方法和装置
CN112102417B (zh) 确定世界坐标的方法和装置
CN112149545A (zh) 样本生成方法、装置、电子设备及存储介质
KR102583112B1 (ko) 이미지를 처리하는 방법, 장치, 전자 기기, 저장 매체 및 프로그램
CN117495975A (zh) 一种变焦镜头的标定方法、装置及电子设备
JP2015179426A (ja) 情報処理装置、パラメータの決定方法、及びプログラム
CN111385460A (zh) 图像处理方法和装置
CN106780758B (zh) 用于虚拟现实设备的成像方法、装置及虚拟现实设备
US9723216B2 (en) Method and system for generating an image including optically zoomed and digitally zoomed regions
CN106203244A (zh) 一种镜头类型的确定方法及装置
CN110706169A (zh) 一种明星人像优化方法、装置以及存储装置
CN110298223A (zh) 图像处理装置和方法及存储指令的存储介质
CN111797933B (zh) 模板匹配的方法、装置、电子设备和存储介质
CN110310251B (zh) 图像处理方法和装置
US20160180143A1 (en) Eye tracking with 3d eye position estimations and psf models
CN114253493A (zh) 投影设备及其显示控制方法、移动终端及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210702

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230602

R150 Certificate of patent or registration of utility model

Ref document number: 7291168

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150