JP7383642B2 - 映像ジッターを除去するための方法及び装置 - Google Patents

映像ジッターを除去するための方法及び装置 Download PDF

Info

Publication number
JP7383642B2
JP7383642B2 JP2020563582A JP2020563582A JP7383642B2 JP 7383642 B2 JP7383642 B2 JP 7383642B2 JP 2020563582 A JP2020563582 A JP 2020563582A JP 2020563582 A JP2020563582 A JP 2020563582A JP 7383642 B2 JP7383642 B2 JP 7383642B2
Authority
JP
Japan
Prior art keywords
pair
image
information
images
raw images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020563582A
Other languages
English (en)
Other versions
JP2021524960A (ja
Inventor
チェン,ルイチ
Original Assignee
アリババ グループ ホウルディング リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アリババ グループ ホウルディング リミテッド filed Critical アリババ グループ ホウルディング リミテッド
Publication of JP2021524960A publication Critical patent/JP2021524960A/ja
Application granted granted Critical
Publication of JP7383642B2 publication Critical patent/JP7383642B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/213Circuitry for suppressing or minimising impulsive noise
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本出願は、参照によりその内容全体が本出願に援用される、2018年3月31日に出願されたい「METHOD AND APPARATUS FOR REMOVING VIDEO JITTER」という名称の中国特許出願公開第201810554266.9号の優先権を主張する。
技術分野
本出願は、映像処理の分野に関し、特に映像ジッターを除去するための方法及び装置に関する。本出願は、電子デバイス及びコンピュータ可読記憶媒体にも関する。
背景
一定期間の映像は、急速且つ連続的に変化する多くのフレームの画像によって形成される。映像を撮影する際、ビデオキャプチャーデバイスとシーンとの間の相対運動は、急速に変化する撮影された画像間の比較的大きい変位を引き起こすため、映像にジッターが生じる。
従来技術における映像ジッター除去解決策は、ライブ映像及び短い映像のリアルタイム処理要件を満足し得ない非リアルタイムジッター除去解決策である。
発明の概要
本出願は、従来技術でジッターがリアルタイムで除去され得ないという技術的問題を解決することを目的とする、映像ジッターを除去する方法を提供する。
本出願は、映像ジッターを除去する方法を提案する。本方法は、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像(ロウ画像)の各対内の特徴点対の位置情報を判断することであって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、RAW画像は、未圧縮画像である、判断すること;RAW画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断すること;RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得することであって、n及びmは、正の整数であり、且つmは、n以下である、取得すること;及びジッターが除去されたRAW画像の第m番目の対内の先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、RAW画像の第m番目の対内の先行画像を変形することを含む。
任意選択的に、本方法は、RAW画像を第1の待ち行列内に格納すること;及びRAW画像の各対内の先行画像に対する後続画像の位置変更情報を第2の待ち行列内に格納することをさらに含む。
任意選択的に、RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得する工程は、第1の待ち行列内に格納された画像が第1の数に達し、且つ第2の待ち行列内に格納された位置変更情報が第1の数に達するとき、RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得することを含む。
任意選択的に、RAW画像の第1の対内の先行画像に対応する変形情報を取得する工程後、本方法は、画像を第1の待ち行列に再び格納する前に第1の待ち行列の先頭における画像を取り出すこと;及び位置変更情報を第2の待ち行列に再び格納する前に第2の待ち行列の先頭における位置変更情報を取り出すことをさらに含む。
任意選択的に、本方法は、RAW画像の各対を第1の倍数により圧縮すること;圧縮画像の各対内の各画像上の特徴点を判断すること;圧縮画像の各対内の2つの連続画像上の2つの対応する特徴点を特徴点対として判断すること;及び圧縮画像の各対内の特徴点対の位置情報を判断することをさらに含む。
任意選択的に、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する工程は、RAW画像の各対内の特徴点対の位置情報を取得するために、圧縮画像の各対内の特徴点対の位置情報を第1の倍数により拡大することを含む。
任意選択的に、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する工程は、RAW画像の各対内の2つの連続画像を区画化すること;RAW画像の各対内の先行画像の対応する区画に対する後続画像の対応する区画の位置変更情報を、RAW画像の各対の対応する区画内の特徴点対の位置情報に従って判断すること;及びRAW画像の各対内の先行画像の対応する区画に対する後続画像の対応する区画の位置変更情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断することを含む。
任意選択的に、位置情報は、座標であり、位置変更情報は、変換行列であり、変形情報は、変形行列である。
任意選択的に、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、RAW画像の第m番目の対内の先行画像を変形する工程は、RAW画像の第m番目の対内の先行画像に対応する変形行列に従って、RAW画像の第m番目の対内の先行画像の区画を変形すること;及び変形後、RAW画像の第m番目の対内の先行画像の縁を切断することを含む。
本出願は、映像ジッターを除去するための装置を提案する。本装置は、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断するように構成された位置情報取得第1ユニットであって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、RAW画像は、未圧縮画像である、位置情報取得第1ユニット;RAW画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断するように構成された位置変更情報取得ユニット;RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得するように構成された変形情報取得ユニットであって、n及びmは、正の整数であり、且つmは、n以下である、変形情報取得ユニット;及びジッターが除去されたRAW画像の第m番目の対内の先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、RAW画像の第m番目の対内の先行画像を変形するように構成された変形処理ユニットを含む。
任意選択的に、本装置は、RAW画像を第1の待ち行列に格納するように構成された画像格納ユニット;及びRAW画像の各対内の先行画像に対する後続画像の位置変更情報を第2の待ち行列内に格納するように構成された位置変更情報格納ユニットをさらに含む。
任意選択的に、本装置は、RAW画像の各対を第1の倍数により圧縮するように構成された圧縮ユニット;圧縮画像の各対内の各画像上の特徴点を判断するように構成された特徴点判断ユニット;圧縮画像の各対内の2つの連続画像上の2つの対応する特徴点を特徴点対として判断するように構成された特徴点対判断ユニット;及び圧縮画像の各対内の特徴点対の位置情報を判断するように構成された位置情報取得第2ユニットをさらに含む。
任意選択的に、位置変更情報取得ユニットは、RAW画像の各対内の連続画像を区画化するように構成された画像区画化サブユニット;RAW画像の各対内の先行画像の対応する区画に対する後続画像の対応する区画の位置変更情報を、RAW画像の各対の対応する区画内の特徴点対の位置情報に従って判断するように構成された位置変更情報取得第1サブユニット;及びRAW画像の各対内の先行画像の対応する区画に対する後続画像の対応する区画の位置変更情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断するように構成された位置変更情報取得第2サブユニットを含む。
任意選択的に、変形処理ユニットは、RAW画像の第m番目の対内の先行画像に対応する変形行列に従って、RAW画像の第m番目の対内の先行画像の区画を変形するように構成された変形サブユニット;及び変形後、RAW画像の第m番目の対内の先行画像の縁を切断するように構成された切断サブユニットを含む。
本出願は、電子デバイスも提案する。本電子デバイスは、プロセッサと、映像ジッターを除去するためのプログラムを格納するためのメモリとを含み、プログラムがプロセッサによって読み出され且つ実行されると、以下の動作:圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する動作であって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、RAW画像は、未圧縮画像である、動作;RAW画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断する動作;RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得する動作であって、n及びmは、正の整数であり、且つmは、n以下である、動作;及びジッターが除去されたRAW画像の第m番目の対内の先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、RAW画像の第m番目の対内の先行画像を変形する動作が行われる。
本出願は、映像ジッターを除去するためのプログラムが格納されるコンピュータ可読記憶媒体も提案する。プログラムがプロセッサによって読み出され且つ実行されると、以下の動作:圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する動作であって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、RAW画像は、未圧縮画像である、動作;RAW画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断する動作;RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得する動作であって、n及びmは、正の整数であり、且つmは、n以下である、動作;及びジッターが除去されたRAW画像の第m番目の対内の先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、RAW画像の第m番目の対内の先行画像を変形する動作が行われる。
本出願において提案される映像ジッターを除去するための技術的解決策は、最初に、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する。RAW画像は、圧縮後により小さくなり、電子デバイスは、様々な処理を比較的迅速に行うことになり、その結果、この技術的手段は、取得される画像毎に画像上の各特徴点対の位置情報をリアルタイムで取得し得る。画像の各対上の特徴点対の位置情報がリアルタイムで取得された後、RAW画像の各対内の先行画像に対する後続画像の位置変更情報は、RAW画像の各対内の特徴点対の位置情報に従って、それに応じてリアルタイムで判断される。RAW画像のn対内の先行画像に対する後続画像の位置変更情報が取得された後、RAW画像の第m番目の対内の先行画像に対応する変形情報が取得され、ジッターが除去された先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、先行画像が変形される。同じように、先行画像の後の他の画像は、連続的に変形され、ジッター除去され、これによりリアルタイムジッター除去を実現する。同時に、この技術的解決策は、ジッターをリアルタイムで除去するが、他の補助デバイスに依存せず、したがってより大きい利便性を有し、それにより、従来技術における、リアルタイムジッター除去が実現され得ないか、又は外部ジャイロがリアルタイムジッター除去のために必要とされるという技術的問題が解決される。
図面の簡単な説明
本出願により提供される、映像ジッターを除去する方法の実施形態のフローチャートである。 本出願により提供される、映像ジッターを除去する方法に関与する特徴点の概略図である。 本出願により提供される、映像ジッターを除去する方法に関与する区画変換行列の概略図である。 本出願により提供される、映像ジッターを除去する方法に関与する各画像及び対応する区画変換行列の対応関係の概略図である。 本出願により提供される、映像ジッターを除去する方法に関与する変形行列を取得する際に適用される各行列の概略図である。 本出願により提供される、映像ジッターを除去する方法に関与する画像変形処理の概略図である。 本出願により提供される、映像ジッターを除去するための装置の実施形態の概略図である。
詳細な説明
以下の本明細書では、本出願を十分に理解するために多くの具体的な詳細が説明される。しかし、本出願は、本明細書における方法と異なる多くの他の方法で実施され得、当業者は、本出願の含意から逸脱することなく同様の演繹的推論をなし得る。したがって、本出願は、以下に開示される特定の実施形態により限定されない。
本出願は、映像ジッターを除去する方法を提供する。図1は、本出願により提供される、映像ジッターを除去する方法の実施形態のフローチャートである。以下は、図1に示す、映像ジッターを除去する方法の実施形態のフローと併せて、本出願により提供される、映像ジッターを除去する方法の技術的解決策を説明する。
一定期間の映像は、急速且つ連続的に変化する多くのフレームの画像によって形成される。映像を撮影する際、ビデオキャプチャーデバイスとシーンとの間の相対運動は、急速に変化する撮影された画像間の比較的大きい変位を引き起こすため、映像に「ジッター」が生じる。本出願は、映像のジッター問題をリアルタイムで除去することを目的とする。
図1に示す映像ジッターを除去する方法は、以下の工程を含む。
工程S101では、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報が判断され、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成される。
工程S101は、圧縮画像の各対内の特徴点対の位置情報を通して、未圧縮RAW画像の各対内の特徴点対の位置情報を判断する。したがって、工程S101前に工程S100が含まれ得、圧縮画像の各対内の特徴点対の位置情報が取得される。
工程S100は、具体的には、以下の工程を含み得る。
工程S100-1では、RAW画像が第1の待ち行列内に格納される。
画像の複数のフレームがビデオ撮影デバイスを使用して一定期間内に撮影される場合、画像の複数のフレームが第1の待ち行列内に順に配置され、2つごとの隣接フレームの画像は、画像の対であり、最初のものが先行画像であり、最後のものが後続画像である。待ち行列は、具体的には、画像バッファ内に実現され得る。画像バッファは、合成又は表示される画像を格納するように専用化されたコンピュータシステム内のメモリを指す。図4は、画像バッファの概略図を示す。
工程S100-2では、RAW画像の各対が第1の倍数により圧縮される。
一定期間の映像内の画像の複数のフレームのジッターを迅速に除去するプロセスにおいて、RAW画像は、第1の倍数により圧縮され得、この倍数は、プリセット値であり得る。未圧縮画像と比較して、圧縮画像は、第1の倍数により小さく、したがって、電子デバイスは、より速く処理し、それにより、新しい画像が捕捉及び圧縮されるたびに、新しい画像上の特徴点と各特徴点の位置情報とを判断する工程などの後続の工程が速やかに行われ得る。図2を参照すると、図2の右側の2つの画像は、圧縮された先行フレームの画像及び圧縮された現フレームの画像である。左側の圧縮前の先行フレーム及び現フレームの画像の幅及び高さは、右側の圧縮後の現フレームの画像及び先行フレームの画像の幅及び高さよりも第1の倍数により小さくなる。
工程S100-3では、圧縮画像の各対内の連続画像のそれぞれの上の特徴点が判断される。
特徴点は、撮影されたシーンの輪郭、外観及び他の特徴を特徴付け得る画像上の一連の画素を指す。通常、この一連の点は、比較的明らかな特徴を有し、例えばグレイ値が比較的大きく、すなわち、その点における画像は、比較的暗く、その点は、特徴点として判断され得る。例えば、図2の圧縮された現フレーム上の点Pが、撮影されるシーンの特徴を特徴付け得る場合、点Pは、圧縮された現フレームの画像上の特徴点として使用され得る。
工程S100-4では、圧縮画像の各対内の連続画像の各画像上の2つの対応する特徴点が特徴点対として判断される。
連続画像の各画像は、それ自体の一連のいくつかの特徴点を有し、先行画像上のある特徴点は、後続画像上の対応する特徴点を有し得る。例えば、2つの対応する特徴点の両方が画像上の撮影されたシーンのある点を特徴付ける場合、2つの対応する特徴点は、特徴点対を構成する。図2に示すように、圧縮された現フレーム上の特徴点Pと、圧縮された先行フレームの画像上の特徴点Pとの両方は、撮影されたシーンの同じ特徴点を特徴付け、これらの2つの対応する特徴点が特徴点対を構成する。
工程S100-5では、圧縮画像の各対内の特徴点対の位置情報が判断される。
特徴点対の位置情報は、対応する画像内の2つの対応する特徴点対の相対位置を指し、位置情報は、対応する画像上の特徴点の座標であり得る。例えば、図2の圧縮された現フレーム上の特徴点Pの位置座標は、(u,v)である。加えて、圧縮された先行フレームの画像上の対応する特徴点Pも座標値を有する。それぞれの画像上の2つの特徴点の位置情報は、画像の対上の1つの特徴点対の位置情報である。互いに隣接する2つの圧縮画像上に複数の特徴点対が存在するため、互いに隣接する画像上の複数の特徴点対の位置情報が取得され得る。
工程S100が行われた後、すなわち圧縮画像の各対内の特徴点対の位置情報を取得する工程後、工程S101が以下のように行われ得る:RAW画像の各対内の特徴点対の位置情報が圧縮画像の各対内の特徴点対の位置情報に従って判断される。
圧縮された現フレームの画像及び先行フレームの画像は、未圧縮RAW画像に対して第1の倍数により圧縮されるため、圧縮画像の各対内の特徴点対の位置情報が取得された後、すなわち圧縮画像の各対内の各画像上の特徴点の位置情報が取得された後、圧縮画像の各対内の各画像上の特徴点の位置情報が第1の倍数により拡大されると、未圧縮画像の各対内の各画像上の特徴点の位置情報(画像の各対内の特徴点により形成される特徴点対の位置情報)が取得され得る。例えば、図2では、現在の圧縮画像上の特徴点Pの座標(u,v)が第1の倍数により拡大され、未圧縮現フレームの画像上の特徴点Pの座標(su,sv)が取得され得る。同様に、圧縮された先行フレームの画像上の特徴点Pの座標は、第1の倍数により拡大され、未圧縮先行フレームの画像上の特徴点Pの座標も取得され得る。圧縮された現フレーム及び圧縮された先行フレーム内の2つの対応する特徴点Pは、圧縮された現フレーム及び先行フレームの画像内の特徴点対Pを構成する。未圧縮現フレーム及び未圧縮先行フレーム内の2つの対応する特徴点Pは、未圧縮現フレーム及び先行フレーム内の特徴点対Pを構成する。
工程S102では、RAW画像の各対内の先行画像に対する後続画像の位置変更情報がRAW画像の各対内の特徴点対の位置情報に従って判断される。
本出願では、工程S102は、RAW画像の各対を複数の区画に分割し得る。現フレームの画像上のある区画から先行フレームの画像上の対応する区画への位置変更情報が判断された後、分割されたいくつかの対応する区画の位置変更情報は、画像の各対内の現フレームの画像から先行フレームの画像への位置変更情報と組み合わされる。
具体的には、工程S102は、以下の工程を含み得る。
工程S102-1では、RAW画像の各対内の連続画像のそれぞれが区画化され;図3の実施例に示すように、現フレームの画像と先行フレームの画像との両方は、6つの区画に分割される。それらの中でも、4つの特徴点C、C、C、Cは、現フレームの画像の左上角における区画内に示され、4つの対応する特徴点P、P、P、Pも先行フレームの画像上に示される。
工程S102-2では、RAW画像の各対内の後続画像の対応する区画から先行画像の対応する区画への位置変更情報が、RAW画像の各対の対応する区画内の各特徴点対の位置情報に従って判断される。
2つの連続画像の相対運動のため、後続画像上の特徴点の位置情報は、先行画像上の対応する特徴点の位置情報と異なり、後続画像上の特徴点の位置と、先行画像上の対応する特徴点の位置との位置情報差は、後続画像上の特徴点から先行画像上の対応する特徴点への位置変更情報である。後続画像上の対応する区画の各特徴点の位置情報と、先行画像上の対応する区画のそれぞれの対応する特徴点の位置情報との差は、後続RAW画像の対応する区画から先行RAW画像の対応する区画への位置変更情報である。例えば、図3の先行フレームの画像の例は、4つの特徴点P、P、P、Pを有し、これらの4つの特徴点は、それぞれ現フレームの画像上の対応する4つの特徴点C、C、C、Cに対応する。先に述べたように、先行フレームの画像上の4つの特徴点及び現フレームの画像上の4つの特徴点は、すべて撮影されたシーンの同じ特徴を特徴付けるため、2つの連続画像上の4つの点は、4つの特徴点対を構成するように互いに対応する。先行フレームの画像の左上角における区画例内に4つの特徴点が存在する場合、これらの4つの特徴点P、P、P、Pの位置情報は、先行フレームの画像の左上角における区画に対応する行列を構成する。同様に、現フレームの画像上の4つの点C、C、C、Cの位置情報は、現フレームの画像の左上角における区画の対応する行列を構成する。現フレームの左上角における区画に対応する行列から、先行フレームの画像の左上角における区画に対応する行列への変換時、変換行列が存在し、この変換行列は、現フレームの画像の左上角における区画から、先行フレームの画像の左上角における区画への位置変更情報又は位置変更行列である。図3では、現フレームの画像内の左上角における区画から、先行フレームの画像内の左上角における区画への位置変更情報又は位置変更行列H00が示される。すなわち、現フレームの画像の左上角における各特徴点に対応する位置情報又は行列は、先行フレームの画像の左上角における各特徴点に対応する位置情報を計算するために位置変更行列H00により乗算される。当然のことながら、先行フレームの画像の左上角における区画内の対応する特徴点Pの位置情報を取得するために、現フレームの画像の左上角における区画内の特徴点Cは、H00内の対応する位置における値により乗算される。同様に、現フレームの画像の左下角における区画から、先行フレームの画像の左下角における区画への位置変更情報は、H10として表現され得る。したがって、他の4つの対応する区画間の位置変更情報は、H01、H02、H11、H12として表現され得る。
工程S102-3では、RAW画像の各対内の先行RAW画像の対応する区画に対する後続RAW画像の対応する区画の位置変更情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報が判断される。
工程S102-2に基づき、現フレームの画像の各区画から先行フレームの画像のそれぞれの対応する区画への位置変更情報H00、H01、H02、H11、H12が取得された。各区画に対応する位置変更情報は、先行フレームの画像に対する現フレームの画像の位置変更情報を特徴付けるために組み合わされ得、図3に示すように、現フレームから先行フレームへの区画変換行列は、現フレームの画像から先行フレームの画像への位置変更情報である。
工程S102-4では、RAW画像の各対内の先行画像に対する後続画像の位置変更情報が第2の待ち行列内に格納される。
現フレームの画像から先行フレームの画像への位置変更情報が工程S102-3に基づいて取得された後、画像の対間の位置変更情報は、第2の待ち行列と名付けられ得る待ち行列内に格納され得る。待ち行列は、具体的には、区画変換行列バッファに保存され得る。区画変換行列バッファは、変換行列を格納することに専用化されたコンピュータシステム内のメモリであり得る。図4は、区画変換行列バッファの概略図を示す。
工程S103では、RAW画像の第m番目の対内の先行画像に対応する変形情報は、RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って取得され、n及びmは、正の整数であり、且つmは、n以下である。
以下の例は、どのように工程S103を実施するか、すなわちm=1を一例として、どのようにRAW画像の第1番目の対内の先行画像に対応する変形情報を取得するかを示す。RAW画像の第1番目の対内の先行画像に対応する変形情報を取得するために、処理のための変形行列反復オプティマイザ内の、オリジナル経路バッファ、最適化経路一時レジスタ、及び最適化経路バッファ内に格納された位置情報を使用することが必要であり、この工程における各バッファの役割が以下に導入される。
図5に示すように、図5の区画変換行列バッファ内に格納されるものは、先行画像に対する後続画像の位置変更情報である。区画変換行列バッファは、所定数の画像間の位置変更情報を格納し得る。所定数の画像間の位置変更情報は、生成の順に格納され、後に生成される画像間の位置変更情報は、区画変換行列バッファの終わりに配置される。図5に示す区画変換行列バッファは、画像のn対間の対応する位置変更情報を格納し得、すなわちn個の位置変更情報又は位置変更行列を格納する。図5の右端の組の区画変換行列は、画像収集器により最初に収集された第1の画像と第2の画像との間の位置変更行列などを表す。図5の左端の組の区画変換行列は、最後の画像と先行画像との間の位置変更行列を表す。
図5に示す区画変換行列バッファは、固定長を有し、すなわち最大でn個の位置変更情報を格納し得る。これに応じて、図4の画像バッファも固定長を有し、画像バッファの長さは、区画変換行列バッファの長さと同じであり、すなわち、画像バッファは、最大でn個の画像を格納し得る。区画変換行列バッファがn個の位置変更情報又は位置変更行列で一杯であり、且つ画像バッファがn個の画像で一杯であると、RAW画像の第1の対内の先行画像に対応する変形情報を取得する次の工程がトリガされる。例えば、図4に示す画像バッファ内の第1の待ち行列は、n個の画像を格納し得、最初に取得された第1の画像及び最初に取得された第2の画像は、画像の第1番目の対であり、画像バッファ内の画像の第1番目の対のシーケンス番号は、n-1及びn-2である。RAW画像の第1番目の対内の先行画像に対応する変形情報が取得され、すなわち画像バッファ内のn-1のシーケンス番号を有するフレームの画像に対応する変形情報が取得される。RAW画像の第1番目の対内の先行画像に対応する変形情報を取得する工程後、以下の工程がさらに行われ得る:画像が第1の待ち行列内に再び格納される前に、第1の待ち行列の先頭における画像が取り出され;及び位置変更情報が第2の待ち行列内に再び格納される前に、第2の待ち行列の先頭における位置変更情報が取り出される。待ち行列の先頭における画像が画像バッファから取り出され、及び待ち行列の先頭における位置変更情報が区画変換行列バッファから取り出された後、これらの位置は、新しい画像の格納及び新しい位置変更情報の格納のために解放され得る。
図5では、Hn-1,0は、位置変更情報を格納する第2の待ち行列の先頭における位置変更情報内の第1の区画位置変更情報を表し、Hn-1,1は、第2の区画位置変更情報を表す等であり、Hn-1,5は、第6番目の区画位置変更情報を表す。同様に、Hは、位置変更情報を格納する第2の待ち行列の最後における位置変更情報内の第1番目の区画位置変更情報を表し、H0,1は、第2番目の区画位置変更情報を表す等であり、H0,5は、第6番目の区画位置変更情報を表す。
図5では、オリジナル経路バッファは、第2の待ち行列内の新たに格納された位置変更情報内のある区画位置変更情報と、以前に格納された位置変更情報内の対応する区画位置変更情報との積(すなわちCi,j=H0,j*H1,j*.....Hi-1,j*Hi,j)を格納し、ここで、Ci,jは、第2の待ち行列内の(i+1)のシーケンス番号を有する位置変更情報内の第j区画位置変更情報と、第2の待ち行列内のiのシーケンス番号を有する位置変更情報内の第j区画位置変更情報と、...、0のシーケンス番号を有する位置変更情報内の第j区画位置変更情報との積を表す。例えば、i=n-1の場合、Cn-1,jは、Hn-1,j及びHn-2,j...,H0,jまでの積に等しい。
図5では、最適化経路一時レジスタは、加重平均Qi,jを格納し、加重平均Qi,jは、以下の3つの加重平均を取ることにより取得される:画像待ち行列内のiのシーケンス番号を有する画像上の第j区画に隣接する区画の位置情報、iのシーケンス番号を有する画像に隣接するフレームの画像上の第j区画の位置情報、及びオリジナル経路バッファ内のCi,j。加重平均は、Qi,jにより表現される。加重平均が取得されるときには常に、Qi,jは、最適化された経路バッファ内に一時的に格納され、次に最適化された経路バッファ内にオーバーレイされ、Pi,jとして記録される。明らかに、i=n-1の場合、Pn-1,jは、値が以下の3つの加重平均により取得されることを意味する:第1の待ち行列の先頭における画像上の第j区画に隣接する区画の位置情報、待ち行列の先頭におけるフレームの画像の先行フレームの画像上の第j区画の位置情報、及びオリジナル経路バッファ内のCn-1,j
積の結果Pn-1,j -1*Cn-1,jは、Bとして記録され、Bは、待ち行列の先頭における画像の各区画に対応する変形情報を表す。例えば、j=1の場合、Bは、待ち行列の先頭における画像の第1の区画に対応する変形情報を表し、同様に、Bは、待ち行列の先頭における画像の第2の区画に対応する変形情報を表す等である。待ち行列の先頭における画像が6つの区画に分割される場合、Bは、待ち行列の先頭における画像の第6の区画に対応する変形情報を表す。B、B、B、B、B、B。この情報は、図6に示すように、変形行列最適化イテレータにより取得される待ち行列の先頭における画像に対応する変形情報を参照することにより組み合わされて、画像バッファ内の待ち行列の先頭における画像に対応する変形情報を形成する。
画像の第1番目の対内の先行画像の変形情報が工程S103を通して取得された後、変形情報は、先行画像に対して変形処理を行うために使用され得る。工程S104を参照されたい。
工程S104では、RAW画像の第m番目の対内の先行画像は、ジッターが除去されたRAW画像の第m番目の対内の先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って変形される。
画像の第1番目の対内の先行画像が一例として引き続き挙げられる。画像の第1番目の対内の先行画像に対応する変形情報が、工程S103に示される工程に基づいて取得された後、変形情報が変形行列により表される場合、先行画像の区画は、RAW画像の第1番目の対内の先行画像に対応する変形行列に従って変形され、すなわち、画像の位置情報は、工程S103において取得された変形情報を使用することにより調整される。例えば、図6の待ち行列の先頭における画像の第3の区画の変形行列は、特徴点Pの位置情報を含み、変形行列内に存在する特徴点Pの位置情報と、待ち行列の先頭における画像の第3の区画上の特徴点Pの位置情報との間に若干の差がある。この位置差を除去するために、待ち行列の先頭における画像上の点Pは、第3の区画の変形情報内の特徴点Pの位置と一致するように調整され、位置差は、除去され得る。同様に、待ち行列の先頭における画像上の他の区画の特徴点の位置も、図6に示す調整された画像が取得され得るように、変形情報内の対応する特徴点の位置に調整されるべきである。待ち行列の先頭における画像の位置情報が調整された後、変形情報の外側の画像が切り取られ、及び位置差を除去する効果が実現され得る。
本出願において提案される映像ジッターを除去するための技術的解決策は、最初に、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する。RAW画像は圧縮後に、より小さくなり、電子デバイスは、様々な処理を比較的迅速に行うため、この技術的手段は、取得される画像毎に画像上の各特徴点対の位置情報をリアルタイムで取得し得る。各画像上の特徴点対の位置情報がリアルタイムで取得された後、RAW画像の各対内の先行画像に対する後続画像の位置変更情報は、RAW画像の各対内の特徴点対の位置情報に従って、同じくリアルタイムで判断される。RAW画像のn対内の先行画像に対する後続画像の位置変更情報が取得された後、RAW画像の第1番目の対内の先行画像に対応する変形情報が取得され、先行画像は、ジッターが除去された先行画像を取得するために、RAW画像の第1番目の対内の先行画像に対応する変形情報に従って変形される。同様に、先行画像後の他の画像は、連続的に変形され、ジッター除去され、これによりリアルタイムジッター除去を実現する。同時に、この技術的解決策は、ジッターをリアルタイムで除去するが、他の補助デバイスに依存せず、したがってより大きい利便性を有し、それにより、従来技術における、リアルタイムジッター除去が実現され得ないか、又は外部ジャイロがリアルタイムジッター除去のために必要とされるという技術的問題が解決される。
本出願は、映像ジッターを除去するための装置をさらに提供する。図7は、本出願により提供される、映像ジッターを除去するための装置の実施形態の概略構造図である。本装置実施形態は、図1に示す方法実施形態に対応するため、説明は、比較的簡単である。関連部分に関しては、上に提供された方法実施形態の対応する説明を参照されたい。本装置は、特に様々な電子デバイスに適用され得る。以下に説明される装置実施形態は、単に例示的である。
図7に示す映像ジッターを除去するための装置は、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断するように構成された位置情報取得第1ユニット701であって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、RAW画像は、未圧縮画像である、位置情報取得第1ユニット701;RAW画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断するように構成された位置変更情報取得ユニット702;RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得するように構成された変形情報取得ユニット703であって、n及びmは、正の整数であり、且つmは、n以下である、変形情報取得ユニット703;及びジッターが除去されたRAW画像の第m番目の対内の先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、RAW画像の第m番目の対内の先行画像を変形するように構成された変形処理ユニット704を含む。
任意選択的に、本装置は、第1の待ち行列にRAW画像を格納するように構成された画像格納ユニット;及びRAW画像の各対内の先行画像に対する後続画像の位置変更情報を第2の待ち行列内に格納するように構成された位置変更情報格納ユニットをさらに含む。
任意選択的に、本装置は、RAW画像の各対を第1の倍数により圧縮するように構成された圧縮ユニット;圧縮画像の各対内の各画像上の特徴点を判断するように構成された特徴点判断ユニット;圧縮画像の各対内の2つの連続画像上の2つの対応する特徴点を特徴点対として判断するように構成された特徴点対判断ユニット;及び圧縮画像の各対内の特徴点対の位置情報を判断するように構成された位置情報取得第2ユニットをさらに含む。
任意選択的に、位置変更情報取得ユニット702は、RAW画像の各対内の連続画像を区画化するように構成された画像区画化サブユニット;RAW画像の各対内の先行画像の対応する区画に対する後続画像の対応する区画の位置変更情報を、RAW画像の各対の対応する区画内の特徴点対の位置情報に従って判断するように構成された位置変更情報取得第1サブユニット;及びRAW画像の各対内の先行画像の対応する区画に対する後続画像の対応する区画の位置変更情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断するように構成された位置変更情報取得第2サブユニットを含む。
任意選択的に、変形処理ユニット704は、RAW画像の第m番目の対内の先行画像に対応する変形行列に従って、RAW画像の第m番目の対内の先行画像の区画を変形するように構成された変形サブユニット;及び変形後、RAW画像の第m番目の対内の先行画像の縁を切断するように構成された切断サブユニットを含む。
本出願は、映像ジッターを除去するための電子デバイスの実施形態をさらに提供する。実施形態における電子デバイスは、プロセッサと、映像ジッターを除去するためのプログラムを格納するためのメモリとを含み、プログラムがプロセッサによって読み出され且つ実行されると、以下の動作:圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する動作であって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、RAW画像は、未圧縮画像である、動作;RAW画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断する動作;RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得する動作であって、n及びmは、正の整数であり、且つmは、n以下である、動作;及びジッターが除去されたRAW画像の第m番目の対内の先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、RAW画像の第mの対内の先行画像を変形する動作が行われる。関連する技術的特徴に関しては、ここで繰り返されない方法実施形態を参照されたい。
本出願は、コンピュータ可読記憶媒体をさらに提案する。コンピュータ可読記憶媒体実施形態は、基本的に方法実施形態と同様であるため、説明は、比較的簡単である。関連部分に関しては、上に提供された方法実施形態の対応する説明を参照されたい。以下に説明されるコンピュータ可読記憶媒体実施形態は、単に例示的である。
本出願は、コンピュータ可読媒体をさらに提供する。コンピュータ可読媒体は、上述の実施形態において説明された装置に含まれ得るか、又は装置内に組み入れられることなく単独で存在し得る。上記のコンピュータ可読媒体は、1つ又は複数のプログラムを保持する。装置によって実行されると、上記の1つ又は複数のプログラムは、装置に、圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断することであって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、RAW画像は、未圧縮画像である、判断すること;RAW画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断すること;RAW画像のn対内の先行画像に対する後続画像の位置変更情報に従って、RAW画像の第m番目の対内の先行画像に対応する変形情報を取得することであって、n及びmは、正の整数であり、且つmは、n以下である、取得すること;及びジッターが除去されたRAW画像の第m番目の対内の先行画像を取得するために、RAW画像の第m番目の対内の先行画像に対応する変形情報に従って、RAW画像の第m番目の対内の先行画像を変形することを行わせる。関連する技術的特徴に関しては、ここで繰り返されない方法実施形態を参照されたい。
本出願は、好ましい実施形態により上に開示されたが、本出願を限定するように意図されていない。当業者は、本出願の趣旨及び範囲から逸脱することなく、可能な変更形態及び修正形態をなし得る。
典型的な構成では、コンピュータデバイスは、1つ又は複数の中央処理ユニット(CPU)、入力/出力インターフェース、ネットワークインターフェース及びメモリを含む。
メモリは、コンピュータ可読媒体内の揮発性メモリ、ランダムアクセスメモリ(RAM)及び/又は不揮発性メモリ(例えば、読み出し専用メモリ(ROM)又はフラッシュRAMなど)を含み得る。メモリは、コンピュータ可読媒体の一例である。
1.恒久的及び非恒久的媒体、着脱可能及び着脱不能媒体を含むコンピュータ可読媒体は、任意の方法又は技術により情報格納を実現し得る。情報は、コンピュータ可読命令、データ構造、プログラムモジュール又は他のデータであり得る。コンピュータ記憶媒体の例は、限定しないが、相転移メモリ(PRAM)、スタティックランダムアクセスメモリ(SRAM)、ダイナミックランダムアクセスメモリ(DRAM)、他のタイプのランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、電気的消去可能読み出し専用メモリ(EEPROM)、フラッシュメモリ若しくは他のメモリ技術、読み出し専用コンパクトディスク読み出し専用メモリ(CD-ROM)、デジタルバーサタイルディスク(DVD)若しくは他の光学的記憶装置、磁気テープカセット、磁気テープ磁気ディスク記憶デバイス若しくは他の磁気記憶デバイス又は任意の他の非一時的媒体を含み、コンピュータ記憶媒体は、コンピュータ装置によりアクセスされ得る情報を格納するために使用され得る。本明細書で定義されるように、コンピュータ可読媒体は、変調データ信号及び搬送波などの非一時的コンピュータ可読媒体(過渡的媒体)を含まない。
2.当業者は、本出願の実施形態が方法、システム又はコンピュータプログラム製品として提供され得ることを理解すべきである。したがって、本出願は、完全なハードウェア実施形態、完全なソフトウェア実施形態、又はソフトウェアとハードウェアとを組み合わせる実施形態の形式であり得る。さらに、本出願は、コンピュータ使用可能プログラムコードを含む1つ又は複数のコンピュータ使用可能記憶媒体(限定しないが、磁気ディスクメモリ、CD-ROM、光メモリなどを含む)上に実装されるコンピュータプログラム製品の形式であり得る。

Claims (16)

  1. 映像ジッターを除去する方法であって、
    圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断することであって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、前記RAW画像は、未圧縮画像である、判断すること;
    RAW画像の各対内の前記特徴点対の前記位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断すること;
    RAW画像のn対内の前記先行画像に対する前記後続画像の前記位置変更情報に従って、RAW画像の第m番目の対内の前記先行画像に対応する変形情報を取得することであって、n及びmは、正の整数であり、且つmは、n以下である、取得すること;及び
    ジッターが除去された前記RAW画像の第m番目の対内の前記先行画像を取得するために
    、前記RAW画像の第m番目の対内の前記先行画像に対応する前記変形情報に従って、前記RAW画像の第m番目の対内の前記先行画像を変形すること
    を含む方法。
  2. 前記RAW画像を第1の待ち行列内に格納すること;及び
    RAW画像の各対内の前記先行画像に対する前記後続画像の前記位置変更情報を第2の待ち行列内に格納すること
    をさらに含む、請求項1に記載の方法。
  3. 前記RAW画像のn対内の前記先行画像に対する前記後続画像の前記位置変更情報に従って、前記RAW画像の第m番目の対内の前記先行画像に対応する前記変形情報を取得することは、
    前記第1の待ち行列内に格納された前記画像が第1の数に達し、且つ前記第2の待ち行列内に格納された前記位置変更情報が前記第1の数に達するとき、前記RAW画像のn対内の前記先行画像に対する前記後続画像の前記位置変更情報に従って、前記RAW画像の第m番目の対内の前記先行画像に対応する前記変形情報を取得すること
    を含む、請求項2に記載の方法。
  4. RAW画像の第1の対内の前記先行画像に対応する前記変形情報を取得することの後、前記方法は:
    画像を前記第1の待ち行列に再び格納する前に前記第1の待ち行列の先頭における前記画像を取り出すこと;及び
    位置変更情報を前記第2の待ち行列に再び格納する前に前記第2の待ち行列の先頭における前記位置変更情報を取り出すこと
    をさらに含む、請求項3に記載の方法。
  5. RAW画像の各対を第1の倍数により圧縮すること;
    圧縮画像の各対内の各画像上の特徴点を判断すること;
    圧縮画像の各対内の前記2つの連続画像上の2つの対応する特徴点を特徴点対として判断すること;及び
    圧縮画像の各対内の前記特徴点対の位置情報を判断すること
    をさらに含む、請求項1に記載の方法。
  6. 圧縮画像の各対内の前記特徴点対の前記位置情報に従って、RAW画像の各対内の前記特徴点対の前記位置情報を判断することは、
    RAW画像の各対内の前記特徴点対の前記位置情報を取得するために、圧縮画像の各対内の前記特徴点対の前記位置情報を前記第1の倍数により拡大すること
    を含む、請求項5に記載の方法。
  7. 圧縮画像の各対内の前記特徴点対の前記位置情報に従って、RAW画像の各対内の前記特徴点対の前記位置情報を判断することは、
    RAW画像の各対内の前記2つの連続画像を区画化すること;
    RAW画像の各対内の前記先行画像の対応する区画に対する前記後続画像の対応する区画の位置変更情報を、RAW画像の各対の前記対応する区画内の前記特徴点対の前記位置情報に従って判断すること;及び
    RAW画像の各対内の前記先行画像の前記対応する区画に対する前記後続画像の前記対応する区画の前記位置変更情報に従って、RAW画像の各対内の前記先行画像に対する前記後続画像の前記位置変更情報を判断すること
    を含む、請求項3に記載の方法。
  8. 前記位置情報は、座標であり、前記位置変更情報は、変換行列であり、及び前記変形情報は、変形行列である、請求項7に記載の方法。
  9. RAW画像の前記第m番目の対内の前記先行画像に対応する前記変形情報に従って、前記RAW画像の第m番目の対内の前記先行画像を変形することは、
    前記RAW画像の第m番目の対内の前記先行画像に対応する前記変形行列に従って、前記RAW画像の第m番目の対内の前記先行画像の前記区画を変形すること;及び
    変形後、前記RAW画像の第m番目の対内の前記先行画像の縁を切断すること
    を含む、請求項8に記載の方法。
  10. 映像ジッターを除去するための装置であって、
    圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断するように構成された位置情報取得第1ユニットであって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、前記RAW画像は、未圧縮画像である、位置情報取得第1ユニット;
    RAW画像の各対内の前記特徴点対の前記位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断するように構成された位置変更情報取得ユニット;
    RAW画像のn対内の前記先行画像に対する前記後続画像の前記位置変更情報に従って、RAW画像の第m番目の対内の前記先行画像に対応する変形情報を取得するように構成された変形情報取得ユニットであって、n及びmは、正の整数であり、且つmは、n以下である、変形情報取得ユニット;及び
    ジッターが除去された前記RAW画像の第m番目の対内の前記先行画像を取得するために、前記RAW画像の第m番目の対内の前記先行画像に対応する前記変形情報に従って、前記RAW画像の第m番目の対内の前記先行画像を変形するように構成された変形処理ユニットを含む装置。
  11. 前記RAW画像を第1の待ち行列内に格納するように構成された画像格納ユニット;及び RAW画像の各対内の前記先行画像に対する前記後続画像の前記位置変更情報を第2の待ち行列内に格納するように構成された位置変更情報格納ユニット
    をさらに含む、請求項10に記載の装置。
  12. RAW画像の各対を第1の倍数により圧縮するように構成された圧縮ユニット;
    圧縮画像の各対内の各画像上の特徴点を判断するように構成された特徴点判断ユニット;
    圧縮画像の各対内の前記2つの連続画像上の2つの対応する特徴点を特徴点対として判断するように構成された特徴点対判断ユニット;及び
    圧縮画像の各対内の前記特徴点対の位置情報を判断するように構成された位置情報取得第2ユニット
    をさらに含む、請求項10に記載の装置。
  13. 前記位置変更情報取得ユニットは、
    RAW画像の各対内の連続画像を区画化するように構成された画像区画化サブユニット;
    RAW画像の各対内の前記先行画像の対応する区画に対する前記後続画像の対応する区画の位置変更情報を、RAW画像の各対の前記対応する区画内の前記特徴点対の前記位置情報に従って判断するように構成された位置変更情報取得第1サブユニット;及び
    RAW画像の各対内の前記先行画像の前記対応する区画に対する前記後続画像の前記対応する区画の前記位置変更情報に従って、RAW画像の各対内の前記先行画像に対する前記後続画像の前記位置変更情報を判断するように構成された位置変更情報取得第2サブユニット
    を含む、請求項10に記載の装置。
  14. 前記変形処理ユニットは、
    前記RAW画像の第m番目の対内の前記先行画像に対応する変形行列に従って、前記RAW画像の第m番目の対内の前記先行画像の前記区画を変形するように構成された変形サブユニット;及び
    変形後、前記RAW画像の第m番目の対内の前記先行画像の縁を切断するように構成された切断サブユニット
    を含む、請求項13に記載の装置。
  15. プロセッサと、
    映像ジッターを除去するためのプログラムを格納するためのメモリと
    を含む電子デバイスであって、前記プログラムが前記プロセッサによって読み出され且つ実行されると、以下の動作:
    圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する動作であって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、前記RAW画像は、未圧縮画像である、動作;
    RAW画像の各対内の前記特徴点対の前記位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断する動作;
    RAW画像のn対内の前記先行画像に対する前記後続画像の前記位置変更情報に従って、RAW画像の第m番目の対内の前記先行画像に対応する変形情報を取得する動作であって、n及びmは、正の整数であり、且つmは、n以下である、動作;及び
    ジッターが除去された前記RAW画像の第m番目の対内の前記先行画像を取得するために、前記RAW画像の第m番目の対内の前記先行画像に対応する前記変形情報に従って、前記RAW画像の第m番目の対内の前記先行画像を変形する動作
    が行われる、電子デバイス。
  16. 映像ジッターを除去するためのプログラムが格納されるコンピュータ可読記憶媒体であって、前記プログラムがプロセッサによって読み出され且つ実行されると、以下の動作:
    圧縮画像の各対内の特徴点対の位置情報に従って、RAW画像の各対内の特徴点対の位置情報を判断する動作であって、1つの特徴点対は、画像の各対内の2つの連続画像上の2つの対応する特徴点から構成され、前記RAW画像は、未圧縮画像である、動作;
    RAW画像の各対内の前記特徴点対の前記位置情報に従って、RAW画像の各対内の先行画像に対する後続画像の位置変更情報を判断する動作;
    RAW画像のn対内の前記先行画像に対する前記後続画像の前記位置変更情報に従って、RAW画像の第m番目の対内の前記先行画像に対応する変形情報を取得する動作であって、n及びmは、正の整数であり、mは、n以下である、動作;及び
    ジッターが除去された前記RAW画像の第m番目の対内の前記先行画像を取得するために、前記RAW画像の第m番目の対内の前記先行画像に対応する前記変形情報に従って、前記RAW画像の第m番目の対内の前記先行画像を変形する動作
    が行われる、コンピュータ可読記憶媒体。
JP2020563582A 2018-05-31 2019-05-21 映像ジッターを除去するための方法及び装置 Active JP7383642B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201810554266.9A CN110557522A (zh) 2018-05-31 2018-05-31 一种去除视频抖动的方法及装置
CN201810554266.9 2018-05-31
PCT/CN2019/087693 WO2019228219A1 (zh) 2018-05-31 2019-05-21 一种去除视频抖动的方法及装置

Publications (2)

Publication Number Publication Date
JP2021524960A JP2021524960A (ja) 2021-09-16
JP7383642B2 true JP7383642B2 (ja) 2023-11-20

Family

ID=68697432

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020563582A Active JP7383642B2 (ja) 2018-05-31 2019-05-21 映像ジッターを除去するための方法及び装置

Country Status (6)

Country Link
US (1) US11317008B2 (ja)
EP (1) EP3806445A4 (ja)
JP (1) JP7383642B2 (ja)
CN (1) CN110557522A (ja)
TW (1) TW202005353A (ja)
WO (1) WO2019228219A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110557522A (zh) 2018-05-31 2019-12-10 阿里巴巴集团控股有限公司 一种去除视频抖动的方法及装置
US11134180B2 (en) * 2019-07-25 2021-09-28 Shenzhen Skyworth-Rgb Electronic Co., Ltd. Detection method for static image of a video and terminal, and computer-readable storage medium
CN113132560B (zh) * 2019-12-31 2023-03-28 武汉Tcl集团工业研究院有限公司 一种视频处理方法及计算机设备、计算机可读存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004343483A (ja) 2003-05-16 2004-12-02 Acutelogic Corp 手振れ補正装置および方法、手振れ検出装置
WO2008111169A1 (ja) 2007-03-13 2008-09-18 Fujitsu Microelectronics Limited 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
JP2015100065A (ja) 2013-11-20 2015-05-28 キヤノン株式会社 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置
JP2016010014A (ja) 2014-06-24 2016-01-18 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
CN102572277B (zh) 2010-12-23 2016-12-14 三星电子株式会社 图像处理方法和电路及摄像头

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6762758B2 (en) * 2001-08-23 2004-07-13 Ati Technologies Inc. System, method, and apparatus for compression of video data using offset values
AUPR899401A0 (en) * 2001-11-21 2001-12-13 Cea Technologies Pty Limited Method and apparatus for non-motion detection
US7369741B2 (en) * 2003-11-17 2008-05-06 Fiber Optics Network Solutions Corp. Storage adapter with dust cap posts
US8150191B2 (en) * 2008-10-14 2012-04-03 Interra Systems Inc. Method and system for calculating blur artifacts in videos using user perception threshold
EP2360669A1 (en) * 2010-01-22 2011-08-24 Advanced Digital Broadcast S.A. A digital video signal, a method for encoding of a digital video signal and a digital video signal encoder
JP5184574B2 (ja) * 2010-04-30 2013-04-17 パナソニック株式会社 撮像装置、画像処理装置、および画像処理方法
US9041817B2 (en) * 2010-12-23 2015-05-26 Samsung Electronics Co., Ltd. Method and apparatus for raster output of rotated interpolated pixels optimized for digital image stabilization
US9277129B2 (en) * 2013-06-07 2016-03-01 Apple Inc. Robust image feature based video stabilization and smoothing
US9311690B2 (en) * 2014-03-11 2016-04-12 Adobe Systems Incorporated Video denoising using optical flow
CN103927731B (zh) * 2014-05-05 2017-01-11 武汉大学 无需pos辅助的低空遥感影像快速自动拼接方法
US10447926B1 (en) * 2015-06-19 2019-10-15 Amazon Technologies, Inc. Motion estimation based video compression and encoding
US10303925B2 (en) * 2016-06-24 2019-05-28 Google Llc Optimization processes for compressing media content
US9838604B2 (en) * 2015-10-15 2017-12-05 Ag International Gmbh Method and system for stabilizing video frames
US10425582B2 (en) * 2016-08-25 2019-09-24 Facebook, Inc. Video stabilization system for 360-degree video data
CN106878612B (zh) * 2017-01-05 2019-05-31 中国电子科技集团公司第五十四研究所 一种基于在线全变差优化的视频稳定方法
CN107705288B (zh) * 2017-09-04 2021-06-01 武汉工程大学 伪目标运动强干扰下的危险气体泄漏红外视频检测方法
US10534837B2 (en) * 2017-11-13 2020-01-14 Samsung Electronics Co., Ltd Apparatus and method of low complexity optimization solver for path smoothing with constraint variation
CN109905590B (zh) * 2017-12-08 2021-04-27 腾讯科技(深圳)有限公司 一种视频图像处理方法及装置
CN108682036B (zh) * 2018-04-27 2022-10-25 腾讯科技(深圳)有限公司 位姿确定方法、装置及存储介质
CN110493488B (zh) * 2018-05-15 2021-11-26 株式会社理光 视频稳像方法、视频稳像装置和计算机可读存储介质
CN110557522A (zh) 2018-05-31 2019-12-10 阿里巴巴集团控股有限公司 一种去除视频抖动的方法及装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004343483A (ja) 2003-05-16 2004-12-02 Acutelogic Corp 手振れ補正装置および方法、手振れ検出装置
WO2008111169A1 (ja) 2007-03-13 2008-09-18 Fujitsu Microelectronics Limited 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体
CN102572277B (zh) 2010-12-23 2016-12-14 三星电子株式会社 图像处理方法和电路及摄像头
JP2015100065A (ja) 2013-11-20 2015-05-28 キヤノン株式会社 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置
JP2016010014A (ja) 2014-06-24 2016-01-18 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
US11317008B2 (en) 2022-04-26
CN110557522A (zh) 2019-12-10
US20210084198A1 (en) 2021-03-18
TW202005353A (zh) 2020-01-16
JP2021524960A (ja) 2021-09-16
EP3806445A4 (en) 2022-03-23
EP3806445A1 (en) 2021-04-14
WO2019228219A1 (zh) 2019-12-05

Similar Documents

Publication Publication Date Title
JP7383642B2 (ja) 映像ジッターを除去するための方法及び装置
TWI298147B (en) System and method for representing a general two dimensional spatial transformation
JP5058681B2 (ja) 情報処理方法及び装置、プログラム、記憶媒体
TWI520598B (zh) 影像處理裝置與影像處理方法
US20160358341A1 (en) Fast Template-Based Tracking
WO2022042124A1 (zh) 超分辨率图像重建方法、装置、计算机设备和存储介质
JP2007280284A (ja) 画像の高解像度化方法及び装置
WO2020253103A1 (zh) 视频图像处理方法、装置、设备及存储介质
CN108537729B (zh) 图像无级缩放方法、计算机装置及计算机可读存储介质
JP6121810B2 (ja) シフトアルゴリズムを用いて大容量ソースイメージの特徴点情報を抽出する装置及び方法
US9129405B2 (en) Image processing apparatus and method
US10332239B2 (en) Apparatus and method for parallel polyphase image interpolation
CN105427235A (zh) 一种图像浏览方法及系统
WO2011121563A1 (en) Detecting saliency in an image
CN106203244B (zh) 一种镜头类型的确定方法及装置
CN112188113B (zh) 一种视频分解方法及装置、终端
CN107274430B (zh) 一种对象运动轨迹预测方法和装置
US20220092796A1 (en) Image Processing Method and Device Thereof
US10672107B2 (en) Image processing apparatus and method of controlling the same
US20170154428A1 (en) Method and apparatus for detecting object
US11483493B2 (en) Camera image conversion method capable of reducing processing time
KR102282756B1 (ko) 가우시안 필터링 장치 및 방법
KR101767927B1 (ko) 실시간 움직임 검출 방법 및 시스템
JP2017228849A (ja) 画像処理装置、撮像装置、制御方法及びプログラム
JP6708127B2 (ja) 画像処理装置、画像処理方法、及び、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220511

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231108

R150 Certificate of patent or registration of utility model

Ref document number: 7383642

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150