JP7327733B2 - フリッカ低減のための方法、装置およびコンピュータ可読媒体 - Google Patents

フリッカ低減のための方法、装置およびコンピュータ可読媒体 Download PDF

Info

Publication number
JP7327733B2
JP7327733B2 JP2018225710A JP2018225710A JP7327733B2 JP 7327733 B2 JP7327733 B2 JP 7327733B2 JP 2018225710 A JP2018225710 A JP 2018225710A JP 2018225710 A JP2018225710 A JP 2018225710A JP 7327733 B2 JP7327733 B2 JP 7327733B2
Authority
JP
Japan
Prior art keywords
flicker
frames
frame
zone
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018225710A
Other languages
English (en)
Other versions
JP2019103142A (ja
JP2019103142A5 (ja
Inventor
タスディゼン オズギュル,
コルニエンコ アレキシ,
Original Assignee
アーム・リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アーム・リミテッド filed Critical アーム・リミテッド
Publication of JP2019103142A publication Critical patent/JP2019103142A/ja
Publication of JP2019103142A5 publication Critical patent/JP2019103142A5/ja
Application granted granted Critical
Publication of JP7327733B2 publication Critical patent/JP7327733B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/0132Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2368Multiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • H04N5/213Circuitry for suppressing or minimising impulsive noise

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

本発明は、画像取り込み中のフリッカの存在により生じるアーチファクトを低減する方法、装置、及びコンピュータ可読記憶媒体に関する。
背景
特定の既知の光源は、一定の光強度をもたらさず、代わりにフリッカを生じさせる。このようなちらつきは、ゼロ強度等の最小強度と最大強度との間の強度の周期的変動である。強度の時間依存性は、ステップ関数又は正弦曲線等の多様な形状を有し得る。
フリッカは、50Hz又は60Hzの周波数で正弦曲線状に変動する電流等、交流電流による光源の給電の結果であり得る。電力は、電流の2乗に比例して変動するため、交流電流に起因するフリッカは、電流周波数の2倍の周波数を有する。例えば、50Hzの電流に起因するフリッカは、100Hzの周波数を有するであろう。
フリッカは、例えば光源の全体的な認識強度を低減するために、意図的に誘発可能である。一例として、発光ダイオード(LED)は、「オン」状態と「オフ」状態との間で循環可能である。この循環が100Hz前後よりも高い周波数を有する場合は、通常、人間観察者によってフリッカと認識されることはないが、代わりに、「オン」状態に対応する強度よりも低い一定の強度と認識されることになる。LED街路灯等のLED照明設備は、通常、このような循環を実行して、所望の全体光強度を実現する。
ちらつく光源の存在下で映像が取り込まれる場合は、取り込まれた映像フレームにアーチファクトが生じていることがある。例えば、ラインごとにシーン全体を垂直方向又は水平方向に走査することによって各映像フレームが取り込まれる「ローリングシャッター」法を用いて映像が取り込まれる場合がある。これにより、各ラインは、異なる時間ひいては振動するフリッカの異なる位相にて取り込まれる。したがって、取り込まれたシーンの輝度は、フレーム全体で変動するため、「バンディング」アーチファクトを生じる可能性がある。
上記のこれらのようなフリッカアーチファクトは、ちらつき自体が十分に高速で人間が観察できない場合でも、取り込まれた映像中では視認可能となる。これにより、人間観察者が認識するような取り込み映像の品質が低下する。また、フリッカアーチファクトは、取り込み映像のコンピュータ処理でも問題を呈する。例えば、自動運転車のナビゲーションに取り込み映像が用いられる場合は、フリッカアーチファクトがそのナビゲーションを損なう可能性もある。したがって、取り込み映像中のフリッカアーチファクトを低減する方法が求められている。
概要
本発明の一態様によれば、映像の取り込み中のフリッカの存在により生じるアーチファクトを低減する方法であって、
映像の一連のフレームを取り込むステップであり、フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、ステップと、
少なくとも1つの上記領域における画素強度に関連するデータの一連のフレームにわたる変動に基づいて、フリッカの時変振動を特性化するステップと、
フリッカの時変振動の特性化に基づいて、映像のフレームにフリッカ補正を適用するステップと、
を含む、方法が提供される。
さらなる態様によれば、映像の取り込み中のフリッカの存在により生じるアーチファクトを低減する装置であって、
映像の一連のフレームを取り込む受信モジュールであり、フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、受信モジュールと、
少なくとも1つの上記領域における画素強度に関連するデータの一連のフレームにわたる変動に基づいて、フリッカの時変振動を特性化する特性化モジュールと、
フリッカの時変振動の特性化に基づいて、映像のフレームにフリッカ補正を適用するフリッカ補正モジュールと、
を備える、装置が提供される。
さらなる態様によれば、コンピュータ可読命令の集合が格納された非一時的なコンピュータ可読記憶媒体であって、上組のコンピュータ可読命令が、少なくとも1つのプロセッサにより実行された場合に、少なくとも1つのプロセッサに、
映像の一連のフレームを取り込むことであり、フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、ことと、
映像の取り込み中に存在するフリッカの時変振動を特性化することであり、特性化が、少なくとも1つの上記領域における画素強度に関連するデータの一連のフレームにわたる変動に基づく、ことと、
フリッカの時変振動の特性化に基づいて、映像のフレームにフリッカ補正を適用することと、
を行わせる、非一時的なコンピュータ可読記憶媒体が提供される。
図1は、一例に係る方法を模式的に示した図である。 図2Aは、映像フレームにおけるフリッカアーチファクトの元の状態を示した図である。 図2Bは、映像フレームにおけるフリッカアーチファクトの元の状態を示した図である。 図3Aは、一例に係るフリッカの特性化を模式的に示した図である。 図3Bは、一例に係るフリッカの特性化を模式的に示した図である。 図4Aは、一例に係るフリッカの特性化を模式的に示した図である。 図4Bは、一例に係るフリッカの特性化を模式的に示した図である。 図4Cは、一例に係るフリッカの特性化を模式的に示した図である。 図5は、一例に係るフリッカの特性化を模式的に示した図である。 図6Aは、画像のゾーンに適用される補正を決定する方法を示した図である。 図6Bは、画像のゾーンに適用される補正を決定する方法を示した図である。 図7は、高ダイナミックレンジ映像の取り込みを示した図である。 図8は、一例に係る装置を模式的に示した図である。 図9は、高ダイナミックレンジ映像を生成する構成を模式的に示した図である。 図10Aは、一例に係る装置を模式的に示した図である。 図10Bは、一例に係る装置を模式的に示した図である。 図11は、装置の構成要素の例示的な構成を示した図である。 図12は、装置の構成要素の例示的な構成を示した図である。 図13は、一例に係るコンピュータ可読記憶媒体を模式的に示した図である。
詳細な説明
図1は、画像取り込み中のフリッカの存在により生じるアーチファクトを低減する方法100の模式的表現を示している。
方法100は、映像の一連のフレームを取り込むステップ105を含む。フレームはそれぞれ、複数の所定領域を含む。各領域は、複数の画素を含む。
方法100は、少なくとも1つの上記領域における画素強度に関連するデータの一連のフレームにわたる変動に基づいて、フリッカの時変振動を特性化するステップ110を含む。
方法100は、フリッカの時変振動の特性化に基づいて、映像のフレームにフリッカ補正を適用するステップ115を含む。したがってこのようなフリッカ補正が行われないシステムに対して、フリッカアーチファクトを低減することにより、映像の認識品質を向上可能である。また、例えば上述の通り、自動運転車のナビゲーションのためのコンピュータ処理に対する映像の適性についても、上記のようなフリッカ補正が行われないシステムに対して向上する。
いくつかのフリッカ補正方法は、フレームが取り込まれる時間を変更することにより、フリッカの振動と同期してフレームを取り込むステップを含む。本方法によれば、上記のようにフレームが取り込まれる時間を変更することなく、フリッカ補正が可能となる。したがって、本方法によれば、例えば240フレーム/秒を超えるような高フレームレートで映像を記録する場合等、上記のようにフレームが取り込まれる時間を変更することができない状況におけるフリッカ補正が可能となる。このような高フレームレートでは、フリッカの単一の振動全体で複数のフレームが取り込まれることにつながる。このため、フレーム取り込み時間は、常にフリッカの同じ位相となるようには分布し得ない。
いくつかの例において、フリッカが存在しないことを示す入力が受信された場合は、フリッカ補正が無効となる。このような入力の一例として、例えばホワイトバランスが日光又は白熱灯等のちらつきのない光源と整合する場合に、照明の特性がフリッカと整合しないという自動センシングに基づく指標又はユーザからのいずれかの指標が挙げられる。
以下、図2A及び図2Bを参照して、「バンディング」フリッカアーチファクトの元の状態の一例を説明する。
図2Aは、正弦曲線状に変動するフリッカ強度205を模式的に示している。ローリングシャッター技術を用いて映像が取り込まれるが、第1のライン210、第2のライン215、さらなるライン、及び最後のライン220を含む後続画素ラインがフリッカ正弦曲線205の異なる位相で取り込まれる。これらのラインが組み合わされて、映像の第1のフレームが形成される。その後、図2Aの破線で表されるように、これらの画素ラインが第1のラインから始まって再び取り込まれることにより、映像の第2のフレームが形成される。このように、第2のフレームは、第1のフレームよりも暗い照明条件で取り込まれるため、第1のフレームよりも全体的に暗くなる場合がある。
図2Bは、垂直ローリングシャッターを用いて、ちらつく光源の存在下で取り込まれたフレーム240を模式的に示している。フレーム240には、12本の画素ライン245を含む。本例においては、ローリングシャッターが垂直ローリングシャッターであったことから、ライン245が水平行である。逆に、水平ローリングシャッターを使用された場合、ライン245は、垂直列となる。
フレーム240の取り込み間隔は、フリッカ振動の2つの周期に略対応する。ローリングシャッターの結果として、所与のライン245の画素は、同時ひいてはフリッカの同じ位相に取り込まれる。その結果、所与のライン245の画素は、同じ輝度の照明下で取り込まれる。ローリングシャッターを用いて映像が取り込まれるいくつかの例において、図1の方法100に関して前述した各所定領域には、このような画素ラインを含む。
後続ライン245は、フリッカの異なる位相で取り込まれる。このため、ライン強度は、フリッカの振動全体に対応する垂直距離250にわたって変動する。図2Bの例において、第1のラインは、フリッカの最大輝度に対応する最大強度を有する。後続ラインの強度は、フリッカの最小輝度に対応する最小強度に達するまで低下する。その後、強度は、最大強度に達するまでラインごとに増大する。この循環は、フレーム240全体で繰り返され、フレーム240にバンディングアーチファクトが生じる。
バンディングの程度は、異なる光源の相互作用によって決まり得る。例えば、ちらつく光源に近いシーンの部分がフリッカを生じ得る一方、ちらつかない光源に近いシーンの部分は、フリッカを生じ得ない。
正弦曲線状に振動するフリッカ205は、振幅、位相、及び周波数等のパラメータによって特徴付けられる。例において、フリッカの時変振動を特性化する方法100のステップは、フリッカの振幅及び位相のうちの少なくとも一方を決定することを含む。
上記の代替又は追加として、方法100は、フリッカの周波数を決定することを含んでいてもよい。そして、フリッカの時変振動の特性化は、決定された周波数に基づき得る。ちらつく光源は、局所主交流電源の周波数に等しい周波数でちらつく可能性がある。この主電源周波数は地域特有であり、例えば欧州で50Hzに等しく、米国では60Hzに等しい。したがって、フリッカの周波数の決定は、例えば映像と関連付けられた位置メタデータにより識別される映像が取り込まれた地理的位置に基づいていてもよい。そして、このような例においては、映像のフレームのフリッカアーチファクトを解析することによって、振幅及び/又は位相を決定可能であり、以下にその例をより詳しく説明する。
上述のバンディングアーチファクトの出現は、シーン内の物体のレイアウトによって決まる。一方、平坦な物体に対応するフレームの領域は、図2Bに示すようなはっきりしたバンディングパターンを生じ得る。また、質感がより複雑な物体上の局所的な色調変動によって、画素の輝度がより複雑に分布することにつながる可能性もある。フリッカ振動の特性化の精度を向上させるため、図1に関して上述した画素強度に関連するデータは、所定領域の画素の平均強度であってもよい。以下、図3A及び図3Bを参照してこれを概説する。
図3Aは、特定フレームの各ラインの最初の画素の強度のプロファイルの模式的表現305を示している。この強度分布は、バンディングアーチファクトの結果として、大略正弦曲線状の形状を示す。ただし、フレームに取り込まれた物体の局所的な変動のため、強度は、この正弦曲線の周りで変動する。
図3Bは、同じフレームの各ラインの複数画素の平均強度のプロファイルの模式的表現310を示している。上述の通り、各ラインが同じフリッカ位相で取り込まれることから、局所的な強度変動は、平均化プロセスによって平滑化される。これにより、フリッカの滑らかな正弦曲線がより正確に再現されるため、フリッカをより正確に特性化可能となる。さらに、ライン当たりの平均画素強度に基づく解析に用いられる処理及び記憶は、個々の画素強度に基づく解析よりも少なくなる。
いくつかの映像フレームでは、基礎となるフリッカ正弦曲線の特性化がより困難となる。以下、図4A~図4Cに関してこれを概説する。
図4Aは、図3A及び図3Bのフレームとは異なり、ちらつく光源で取り込まれたフレームの各ラインの最初の画素の強度のプロファイルの模式的表現405を示している。強度は、基礎となる正弦曲線形状が見えない変動分布となっている。
図4Bは、フレームの各ラインの複数画素の平均強度のプロファイルの模式的表現410を示している。図3Bに関しては、局所的な強度変動が平均化プロセスにより平滑化されている。ただし、図3Bとは異なり、フリッカの基礎となる正弦曲線は再現されていない。これは、例えば図4A及び図4Bのフレームに取り込まれたシーンに含まれる平坦面が、図3A及び図3Bのフレームに取り込まれたシーンよりも少なく、バンディングアーチファクトの区別が曖昧になったことにつながる。ただし、フリッカは、取り込まれた映像中で依然として視認可能となり得るため、フリッカの特性化により補正するのが望ましい。
図4Cは、図4A及び図4Bのフレームの各ラインの平均画素強度と図4A及び図4Bのフレームの前のフレームの各ラインの平均画素強度との差の模式的表現415を示している。これらの差をラインごとのプロファイルとして示している。プロファイルは、正弦曲線状のフリッカ振動に対応する正弦曲線形状を有する。このため、フリッカの基礎となる正弦曲線は、単一のフレーム内の画素強度の解析よりも、フレーム間のラインごとの変化の解析によって、より正確に再現される。連続フレーム間に移動がない場合、これらフレーム間の平均強度の差は、フリッカの正弦曲線状の振動によってもたらされるためである。
フリッカ振動の正弦曲線は、時間tの関数として、以下の形態で表現可能である。ここで、振幅A及び位相θは、未知数である。
Asin(2πt+θ)
この等式は、未知の定数Acos(θ)及びAsin(θ)をそれぞれr(0)及びr(1)で置き換えて、以下のように書き換えられる。
Asin(2πt+θ)=Asin(2πt)cos(θ)+Asin(θ)cos(2πt)
r(0)=Acos(θ)
r(1)=Asin(θ)
Asin(2πt+θ)=r(0)sin(2πt)+r(1)cos(2πt)
上の等式において、sin(2πt)及びcos(2πt)は、既知数である。未知数r(0)及びr(1)に関して解くため、平均画素強度の差を3つのフレーム間で決定する。
図5は、一連の3つのフレーム505、510、515の模式的表現を示している。この一連は、例えば図1の方法100に関して上述した一連のフレームであってもよい。他の例において、この一連は、4つ以上のフレームを含む。図5において、フレーム505、510、515はそれぞれ、F0、F1、及びF2と表示している。一例においては、F0 505が現行フレームで、F1 501及びF2 515が過去フレームである。「F0」、「F1」、及び「F2」は、上記フレーム505、510、515中の画素強度に言及する際の省略表現として使用可能である。
上述の通り、フレーム505、510、515は、概念的に画素ラインへと分割可能である。各フレーム505、510、515のn番目のラインはそれぞれ、505n、510n、515nと表示している。所与のラインnについて、フレームF0 505とフレームF1 510との平均画素強度の差は、F0-F1と称し得る。同様に、所与のラインnについて、フレームF1 510とフレームF2 515との平均画素強度の差は、F1-F2と称し得る。
上の等式のr(0)及びr(1)に関して解くことに戻り、後続フレーム間の平均画素強度の差は、以下のように表現可能である。
F0-F1=y(0)=r(0)sin(2πt)+r(1)cos(2πt)
F1-F2=y(1)=r(0)sin(2πt)+r(1)cos(2πt)
したがって、2つの未知数を共有するこれら2つの等式は、一対の連立方程式として解くことができ、フリッカ信号の振幅及び位相に関する以下のような表現が得られる。
(sin(θ)+cos(θ))=r(0)+r(1)
Figure 0007327733000001

Figure 0007327733000002
各ラインについて、振幅A及び位相θを決定可能である。各ラインの振幅は、当該ラインの平均強度値で除することにより、振幅対信号比Mを決定することができる。そして、振幅対信号比及び位相を全ラインにわたって平均化することにより、基礎となるフリッカ正弦曲線の指標を生成することができる。生成した正弦曲線を1から減算して反転することにより、フリッカ正弦曲線の反転型を生成することができる。この反転型は、補正比CRと称し、以下のように表現可能である。
CR=1-Msin(F0+θ)
そして、補正比の使用により、映像のフレームにフリッカ補正を適用することができる。例えば、フレームには、補正比の式で記述されたフリッカ正弦曲線の反転型をラインごとに乗じることができる。このフリッカの逆数の乗算によって、フリッカ正弦曲線の効果的な相殺又は部分的な相殺が可能となり、以てフレーム中のフリッカアーチファクトが低減又は除去される。
いくつかの例において、フリッカ補正が適用されるフレームは、フリッカの特性化の基準となる一連のフレームのうちの1つである。例えば、図5を参照して、フリッカ補正は、フレームF0 505に適用されるようになっていてもよい。このように、現行フレームと2つの過去フレームとの差に基づいて、フリッカを現行フレーム中で補正可能である。
他の例において、フリッカ補正が適用されるフレームは、フリッカの特性化の基準となる一連のフレームの後である。例えば、図5を参照して、フリッカ補正は、フレームF0 505の後続のフレームに適用されるようになっていてもよい。このように、現行フレーム及び2つの過去フレームに基づいて、フリッカを特性化可能であり、後続のフレームに適用されるフリッカ補正が効果的に予測される。
いくつかの例においては、フレームが複数のゾーンを含み、フリッカ補正方法は、少なくとも1つのこのようなゾーンを無フリッカゾーンとして識別するステップを含む。そして、少なくとも1つの無フリッカゾーンにおいては、フリッカ補正が禁止される。例えば、フリッカ補正は、無フリッカゾーンにおいて適用されないようになっていてもよい。或いは、フリッカ補正の程度は、無フリッカゾーンにおいて低下するようになっていてもよい。フリッカアーチファクトを示さないフレームの部分にフリッカ補正を適用すると、フレームの画像品質が低下する可能性がある。例えば、フレームのちらついていない部分は、フリッカ補正アルゴリズムの適用後に、フリッカを示す可能性がある。したがって、このように無フリッカゾーンにおけるフリッカ補正を禁止することにより、全体的な画像品質が向上し得る。
いくつかの例において、ゾーンは、矩形ゾーンである。例えば、各フレームは、このようなゾーンの格子を含んでいてもよい。ゾーンサイズの縮小によって、全体的な画像品質が向上する一方、フリッカ補正の決定及び適用に必要な処理及び記憶リソースが増大する可能性がある。したがって、ゾーンサイズは、画像品質と処理及び記憶リソースとのトレードオフとして選択可能である。いくつかの例においては、ゾーンサイズ及びレイアウトが固定されている。他の例においては、ゾーンサイズ及びレイアウトが映像ごと又はフレームごとの基準で動的に変化する。
以下、図6A及び図6Bを参照して、上記のようなゾーンに基づくフリッカ補正の一例を説明する。
図6Aは、正方形ゾーンのアレイを含むフレーム605を模式的に示している。ゾーンには、フリッカアーチファクトが存在するゾーン610を含み、図6Aにおいてハッチング表示している。ゾーンには、フリッカアーチファクトが存在しないゾーン615を含み、図5Aにおいて非ハッチング表示している。例えば、このゾーン610、615のレイアウトは、フレーム605により取り込まれたシーンの混合照明条件に起因し、フリッカゾーン610がちらつく光源により照らされ、無フリッカゾーン615が連続光源により照らされたものであってもよい。連続光源の一例は、日光である。或いは、無フリッカゾーン615は、フリッカ周波数が十分に高いちらつく光源により照らされて、フリッカアーチファクトが存在しないようになっていてもよい。例えば、いくつかの種類の小型蛍光ランプ及び発光ダイオード電球は、このような十分に高いフリッカ周波数で動作する。
例において、所与のゾーンを無フリッカゾーン615として識別するステップは、所与のゾーンの画素強度の時間変動が所与のゾーンにおけるフリッカの存在と整合しないことを判定することを含む。所与のゾーンの画素強度の時間変動は、同じフレームの平均画素強度の時間変動であってもよい。このような一例においては、各ゾーン610、615の平均強度がフレームごとに格納される。この平均強度を過去フレームの当該ゾーン610、615の平均強度と比較することにより、フレーム間のゾーン当たりの変化を決定する。そして、ゾーン当たりの変化を閾値に対して比較する。所与のゾーンの変化が閾値よりも大きい場合は、ゾーンがフリッカゾーン610として識別される。所与のゾーンの変化が閾値よりも小さい場合は、ゾーンが無フリッカゾーンとして識別される。閾値は、ゾーンをフリッカゾーン610と誤認識するリスクとゾーンを無フリッカゾーン615と誤認識するリスクとのトレードオフに基づいて選択されるようになっていてもよい。
いくつかの例においては、所与のゾーンの変化に応じて、変化する程度にフリッカ補正が適用される。例えば、より小さな変化を示すゾーンよりも、大きな変化ひいては著しいフリッカアーチファクトを示すゾーンにより大きな程度のフリッカ補正が適用されるように、フリッカ補正の禁止のレベルは、ゾーン当たりを基準として設定されるようになっていてもよい。
図6Bは、変化する程度でフリッカ補正を適用可能な方式を示している。グラフ620は、フレームに適用される補正と所与のゾーンの変化との関係を示している。所与のゾーンの変化が第1の閾値625を下回る場合は、当該ゾーンに補正が適用されない。所与のゾーンの変化が第2の閾値630を上回る場合は、当該ゾーンに最大補正635が適用される。例えば、最大補正635を適用することは、上述のような補正比を適用することを含んでいてもよい。所与のゾーンの変化が第1の閾値625と第2の閾値630との間である場合は、当該ゾーンの変化とともに増大する程度の補正が適用される。このように、補正の程度が所与のゾーンの変化によって決まることから、フリッカアーチファクトが著しいゾーンに対して十分な程度のフリッカ補正を適用できる一方、フリッカアーチファクトが著しくないゾーンに対しては、わずかな程度の補正を適用可能である。
例において、所与のゾーンにおけるフリッカ補正を禁止するステップは、所与のゾーンのエッジ領域を識別することと、変化する程度のフリッカ補正をエッジ領域全体にわたり適用することと、を含む。これにより、フリッカ補正が適用されるゾーンとフリッカ補正が適用されないゾーンとの間の鮮明な境界がもたらし得るゾーン間境界でのブロッキングアーチファクトの発生を抑えることができる。変化する程度のフリッカをエッジ領域にわたり適用することは、フリッカゾーンの中心における最大と、当該フリッカゾーンと隣接する無フリッカゾーンとの境界における最小との間で適用されるフリッカ補正の程度を双線形補間することを含んでいてもよい。
例においては、フリッカの時変振動の特性化において、無フリッカゾーンが無視される。例えば、上述のライン当たりの平均画素強度は、無フリッカゾーンではなくフリッカゾーンを考慮に入れて計算されるようになっていてもよい。第1の閾値625と第2の閾値630との間で変化を伴うゾーンに、変化する程度の補正が適用される図6Bのようないくつかの例においては、閾値625を上回る変化を伴うすべてのゾーンがフリッカゾーンとしてカウントされるため、フリッカの時変振動の特性化において考慮される。このように無フリッカゾーンを無視することにより、フリッカの特性化の精度が向上するとともに、特性化を実行する処理リソースが抑えられる。
本開示の例は、単一露光映像及び高ダイナミックレンジ(HDR)映像におけるフリッカを低減するように実装されていてもよい。HDR映像においては、複数の取り込み画像から各フレームが生成され、各取り込み画像が異なる露光を有する。本明細書においては、入射光に対する取り込み画像の感度を表すものとして用語「露光」を使用している。露光は、ビデオカメラ又はスマートフォン等の映像記録機器のパラメータを変更することによって変動し得る。例えば、「ローリングシャッター」取り込みにおいて画像センサが走査される速度を大きくすることにより、画像センサに光が入射する時間を短くすることによって、露光を抑えることができる。これは、積分時間と称する場合がある。上記のようなパラメータの別の例は、光に対する画像センサの感度を表すセンサのアナログ及び/又はデジタル利得である。上記のようなパラメータの第3の例は、焦点比すなわち「Fストップ」である。画像の露光は、これらパラメータのうちの少なくとも1つの関数(例えば、光に対する全体感度を表す単一の値)として表現可能である。例えば、画像センサの利得を2倍にして積分時間を有することにより、露光に対する正味の影響をなくすようにしてもよい。光に対してより高感度となる設定の組み合わせを大露光と称し、光に対してより低感度となる設定の組み合わせを小露光と称する場合もある。また、当技術分野において見られるように、用語「露光」は、特定の露光値の画像を表すのに用いられるようになっていてもよい。
HDRフレームは、HDR技法を使用しない場合に通常可能となる光度ダイナミックレンジよりも広いレンジを表す。このようなフレームを生成する1つの技法として、異なる露光をそれぞれ有する複数の連続するコンポーネントフレームを取り込んだ後、これらを単一のHDRフレームとして結合又は「ステッチ」することが挙げられる。例えば、大露光での取り込みは、低照度のエリアの詳細の影響をより受けやすいが、明るいエリアでは飽和する。一方、より小露光での取り込みは、高照度のエリアの詳細の影響をより受けやすいが、暗いエリアでは詳細が失われる。したがって、大露光の取り込みの暗領域を小露光の取り込みの明領域と組み合わせることによって、HDRフレームを形成可能である。
図7は、一例に係る、異なる露光をそれぞれ有する高ダイナミックレンジフレームコンポーネントの取り込みを模式的に示している。
長露光705が取り込まれて、センサから読み出される。この読み出しは、上述の通り、ラインごとのローリングシャッター読み出しである。その後、中露光710が取り込まれて、センサから読み出される。いくつかの例においては、図示のように、長露光705の読み出しが終わる前に中露光710の読み出しが始まる。これは、デジタルオーバラップ動作と称する場合がある。デジタルオーバラップ動作において、所与の露光が読み出されていない場合は、代わりに帰線区間が読み出されるようになっていてもよい。他の例においては、長露光が終わった後に中露光710の読み出しが始まる。その後、短露光715が取り込まれて、センサから読み出される。中露光710に関して、短露光715の読み出しは、長露光705の読み出し及び/又は中露光710の読み出しと時間的に重なっていてもよい。或いは、短露光715の読み出しは、長露光705及び/又は中露光710の読み出しと重なっていなくてもよい。
3つの全露光705、710、715が読み出されたら、次のフレームについてプロセスが再度始まる。1つのフレームの3つの露光705、710、715の後、次のフレームの露光が読み出される前に、垂直帰線区間が存在していてもよい。このような一例においては、4つの非HDRフレームに対応する時間にわたって、露光が異なる3つのHDRフレームコンポーネントが読み出される。これにより、1秒当たり120個の非HDRフレームを取り込むように構成されたセンサであれば、1秒当たり30個のHDRフレームを取り込むことも可能である。
上記のような一例において、フリッカの特性化の基準となる一連のフレームは、所与の露光を有するフレームを含む。その後、フリッカ補正が適用されるフレームがHDRコンポーネントであるHDRフレームが生成される。その他のHDRフレームコンポーネントについても、本明細書に記載の方法に従ってフリッカが補正されるフレームであってもよい。これにより、フリッカ補正がそれぞれ実行済みの複数のコンポーネント取り込みに基づいて、HDRフレームを生成可能である。フリッカの同位相となるような各フレームの取り込み時間の調整等、他の特定のフリッカ補正技法は、HDR映像との併用に適していない場合がある。本技法によれば、HDR映像に対してフリッカ補正を実行することにより、このようなフリッカ補正が実行されないフレームと比較して、HDRフレームの品質を向上可能である。
図8は、例えば本明細書に記載のような方法を実装することにより、映像の取り込み中のフリッカの存在により生じるアーチファクトを低減する装置800を模式的に示している。装置は、モジュールを備える。これらのモジュールは、ハードウェア、ソフトウェア、又はこれらの組み合わせにて実装されてもよい。
装置800は、映像の一連のフレームを取り込む受信モジュール805を備える。フレームはそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む。
装置800は、少なくとも1つの上記領域における画素強度に関連するデータの一連のフレームにわたる変動に基づいて、フリッカの時変振動を特性化する特性化モジュール810を備える。
装置800は、フリッカの時変振動の特性化に基づいて、映像のフレームにフリッカ補正を適用するフリッカ補正モジュール815を備える。
いくつかの例においては、上述の通り、複数の露光の組み合わせによって、単一のHDRフレームを形成する。図9は、このように露光を組み合わせる構成900を模式的に示している。
長露光フリッカ補正ブロック905では、長露光が受信される。中露光フリッカ補正ブロック910では、中露光が受信される。短露光フリッカ補正ブロック915では、短露光が受信される。複数のフリッカ補正ブロック905、910、915は、それぞれの受信露光に対してフリッカ補正を実行する。フリッカ補正ブロック905、910、915は、例えば同じハードウェアフリッカ補正ブロックの複数のインスタンスであってもよい。
構成900は、フレーム融合ブロック920をさらに備える。フレーム融合ブロック920は、フリッカ補正ブロック905、910、915から、フリッカが補正された長露光、中露光、及び短露光を受信して組み合わせることにより、上述の通りHDRフレームを形成する。
図10は、フリッカ補正を実行する例示的な装置1000を模式的に示している。装置は、フレーム解析モジュール1005、ゾーン解析モジュール1010、及びフリッカ補正モジュール1015を備える。
ゾーン解析モジュール1010は、過去フレームの画素強度を記述したデータを受信する。ゾーン解析モジュール1010は、このデータを用いて、上述の通り、ゾーン当たりの画素強度の変化を計算する。図6Bに関して上述した通り、各ゾーンの変化は、閾値と比較される。各ゾーンの変化が各閾値よりも大きいか小さいかを記述したゾーンマップがフレーム解析モジュール1005及びフリッカ補正モジュール1015に提供される。
フレーム解析モジュール1005は、過去フレームの画素強度を記述したデータを受信する。また、フレーム解析モジュール1005は、ゾーン解析モジュール1010からゾーンマップを受信する。これらの入力に基づいて、フレーム解析モジュール1005は、上記詳述の通り、ラインごとの連続計算でフリッカの振幅及び位相を決定する。その後、フレーム解析モジュール1005は、現行フレームに適用されるフリッカ補正比(CR)を計算して、これをフリッカ補正モジュール1015に提供する。
フリッカ補正モジュール1015は、フレーム解析モジュール1005からの補正比と、ゾーン解析モジュール1010からのゾーンマップとを受信する。また、フリッカ補正モジュール1015は、現行フレームを記述したデータを受信する。その後、フリッカ補正モジュール1015は、例えば上記でより詳述の通り、現行フレームのフリッカを補正して、補正フレームを出力する。例においては、クロックサイクル当たり1画素のレートでフリッカ補正が画素ごとに実行される。
装置1000のいくつかの実装態様において、フレーム解析モジュール1005及びゾーン解析モジュール1010は、例えば過去フレームのデータを格納するメモリを備える。逆に、フリッカ補正モジュール1015は、純粋な組み合わせ型で、パイプライン方式レジスタ以外のメモリを備えていなくてもよい。
図10Bは、装置1000の一実装態様のより詳細版を模式的に示している。
フレーム解析モジュール1005は、2つの過去フレームのラインごとの画素強度平均値を格納するランダムアクセスメモリRAM1020を備える。RAM1020は、例えばスタティックRAM(SRAM)であってもよい。フレーム解析モジュール1005は、画素ごとの強度データを受信してライン当たりの平均値を決定するライン平均化モジュール1025をさらに備える。これは、例えばラインの受信時に機能する積算器により実装されてもよい。ライン平均値の正規化にシリアル乗算器及びシリアル除算器が用いられるようになっていてもよく、フリッカゾーンとの交差数が異なるラインについて、補正比を正確に計算可能である。ライン平均化モジュール1025は、所与のラインの平均強度をRAM1020に格納する。RAM1020は、例えばピンポンバッファとして動作するように2等分されていてもよく、その結果、後続フレームの平均画素強度は、RAM1020の半分に交互に格納される。
ライン平均化モジュール1025は、フリッカの振幅及び位相を計算するシリアル計算器1030と関連付けられている。図11は、このようなシリアル計算器1030の例示的な構成1100を模式的に示している。
3つの連続するフレームF0、F1、及びF2のライン固有の正弦値及び余弦値を決定するため、正弦及び余弦ルックアップテーブルLUTが用いられる。具体的には、以下の値が計算される。
sinF1、sinF2、sinF0、sinF1、cosF1、cosF2、cosF0、cosF1
これらのうちの1番目、3番目、5番目、及び7番目がレジスタF1110に格納される。その後、以下の計算の結果を決定してレジスタa、b、c、及びd1115a~1115dに格納するのに用いられる。
sinF1-sinF2=a
sinF0-sinF1=c
cosF1-cosF2=b
cosF0-cosF1=d
その後、これらの値は、マルチプレクサ(Mux)1120により多重化され、上記規定のr(0)及びr(1)の計算に用いられる。r(0)は、以下のように表現可能である。
ar(0)+br(1)=y(0)
Figure 0007327733000003
そして、r(0)は、以下のようにr(1)と置き換え可能である。
cr(0)+dr(1)=y(1)
Figure 0007327733000004

Figure 0007327733000005
このようにして、r(0)及びr(1)を決定可能である。上式中の乗算及び除算は、シリアル乗算器1125及びシリアル除算器1130により演算され、中間値が共有レジスタ1135、1140に格納される。
図10Bに戻って、ゾーン解析モジュール1010は、ゾーン解析器1030と、各ゾーンの総強度を格納するレジスタ1035とを備える。図12は、ゾーン解析器1030の例示的な構成1200を模式的に示している。
画素強度値Yが積算器1205で受信されるが、この構成1200では、フレームのゾーン列ごとに1つの積算器1205を備える(明瞭化のため、図12では積算器1205を1つだけ示している)。例えば、所与のフレームが8つのゾーン列を含む場合、構成1200は、8つの積算器1205を備える。所与の積算器1205からの積算画素強度は、レジスタ1210に格納される。ゾーン全体の画素強度がレジスタ1210に積算された場合は、シフタ1215において、積算値がNビットだけ右にシフトする。Nは、入力フレームの解像度によって決まる任意の数字である。このシフトは、2による除算と実質的に均等である。ゾーン列ごとにシフトされた値は、マルチプレクサ1220により多重化され、総ゾーン強度レジスタ1035に格納される。レジスタ1035は、或いはSRAM等のRAMであってもよい。
現行フレームの現行ゾーンのゾーン強度は、減算器1225において、過去フレームの対応ゾーンの強度値から減算される。この差Δは、除算器1230において、現行ゾーンの強度値により除され、現行ゾーンの絶対変化が求められる。ゾーン当たりの変化(CPZ)とも上記で称するこの値は、出力されて、図6Bに関して上述した通り、フリッカ補正を適用する閾値と比較される。
図10Bに戻って、フリッカ補正モジュール1015は補間器1045を備え、補間器1045は、ゾーン解析モジュール1010のゾーン解析器1030からゾーンマップを受信して補正比に適用する重み付けを決定し、特に所与のゾーンの変化が存在する場合に、図6Bを参照して上述したように低減された程度に、フリッカ補正が適用されるようにする。一例において、補間器1045は、3つの乗算器を備える。いくつかの例において、隣接ゾーンに同じ補正が適用される場合は、補間器1045のクロックゲーティングによって電力が節約される。これらの重み付けには、乗算器1050において、フレーム解析モジュール1005のシリアル計算器1030から受信された補正比が乗算されて、重み付けされた補正比CR’が生成される。この重み付けされた補正比は、乗算器1055において現行フレームに適用され、補正されたフレームが出力される。
図13は、少なくとも1つのプロセッサ1310により実行された場合に、本明細書に記載の例に係る方法を少なくとも1つのプロセッサ1310に行わせるコンピュータ可読命令の集合を含む非一時的なコンピュータ可読記憶媒体1305の一例を示している。コンピュータ可読命令は、例えば命令実行システム又は命令実行システムとの接続による使用が行われるプログラム及びデータを包含、格納、又は維持可能な任意の媒体等、機械可読媒体から読み出されるようになっていてもよい。この場合、機械可読媒体としては、例えば電子的、磁気的、光学的、電磁的、又は半導体媒体等の多くの物理的媒体のうちのいずれか1つが挙げられ得る。適当な機械可読媒体のより具体的な例としては、ハードドライブ、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、消去可能プログラム可能型リードオンリーメモリ、又は携帯型ディスク等が挙げられるが、これらに限定されない。
ブロック1315において、命令は、プロセッサ1310に、映像の一連のフレームを取り込ませる。フレームはそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む。
ブロック1320において、命令は、プロセッサ1310に、映像の取り込み中に存在するフリッカの時変振動を特性化させる。特性化は、少なくとも1つの上記領域における画素強度に関連するデータの一連のフレームにわたる変動に基づく。
ブロック1325において、命令は、プロセッサ1310に、フリッカの時変振動の特性化に基づいて、映像のフレームにフリッカ補正を適用させる。
上記実施形態は、本発明の説明に役立つ例として理解されるべきである。本発明のさらなる実施形態も考えられる。例えば、上記では、フリッカの特性化の基準となる領域が画素ラインであってもよいことを説明した。他の実施形態において、これらの領域は、単画素であってもよいし、画素ラインの一部であってもよいし、より大きな画素ブロックであってもよい。任意の一実施形態に関して説明した如何なる特徴も、単独での使用又は上記他の特徴との組み合わせによる使用が可能であるとともに、その他任意の実施形態又はその他任意の実施形態の任意の組み合わせの1つ又は複数の特徴との組み合わせによる使用が可能であることが理解されるべきである。さらに、添付の特許請求の範囲に定義される本発明の範囲から逸脱することなく、上述していない均等物及び改良物も採用可能である。
[発明の項目]
[項目1]
映像の取り込み中のフリッカの存在により生じるアーチファクトを低減する方法であって、
前記映像の一連のフレームを取り込むステップであり、前記フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、ステップと、
少なくとも1つの前記領域における画素強度に関連するデータの、前記一連のフレームにわたる変動に基づいて、前記フリッカの時変振動を特性化するステップと、
前記フリッカの前記時変振動の前記特性化に基づいて、前記映像のフレームにフリッカ補正を適用するステップと、
を含む、方法。
[項目2]
前記フリッカの前記時変振動を特性化するステップが、前記フリッカの振幅及び位相のうちの少なくとも一方を決定することを含む、項目1に記載の方法。
[項目3]
前記方法が、前記フリッカの周波数を決定するステップを含み、
前記フリッカの前記時変振動の前記特性化が、決定された前記周波数に基づく、項目1又は2に記載の方法。
[項目4]
前記フリッカの周波数を決定するステップが、前記映像が取り込まれた地理的位置に基づく、項目3に記載の方法。
[項目5]
前記フリッカ補正が適用される前記フレームが、前記一連のフレームのうちの1つである、項目1~4のいずれか一項に記載の方法。
[項目6]
前記フリッカ補正が適用される前記フレームが、前記一連のフレームの後である、項目1~5のいずれか一項に記載の方法。
[項目7]
前記一連のフレームが、少なくとも3つのフレームを含む、項目1~6のいずれか一項に記載の方法。
[項目8]
前記映像が、ローリングシャッターを用いて取り込まれ、
前記所定領域がそれぞれ、1本の画素ラインを含む、
項目1~7のいずれか一項に記載の方法。
[項目9]
画素強度に関連する前記データが、前記所定領域の画素の平均強度である、項目1~8のいずれか一項に記載の方法。
[項目10]
前記一連のフレームが、所与の露光を有するフレームを含み、
前記方法が、前記フリッカ補正が適用される前記フレームが高ダイナミックレンジフレーム成分である高ダイナミックレンジフレームを生成するステップを含む、
項目1~9のいずれか一項に記載の方法。
[項目11]
複数の前記フレームが、複数のゾーンを含み、前記方法が、
少なくとも1つの前記ゾーンを無フリッカゾーンとして識別するステップと、
前記少なくとも1つの無フリッカゾーンにおいて、前記フリッカ補正を禁止するステップと、
を含む、項目1~10のいずれか一項に記載の方法。
[項目12]
前記少なくとも1つの無フリッカゾーンが、前記フリッカの前記時変振動の前記特性化において無視される、項目11に記載の方法。
[項目13]
所与のゾーンを無フリッカゾーンとして識別するステップが、前記所与のゾーンの画素強度の時間変動が前記所与のゾーンにおけるフリッカの存在と整合しないことを判定することを含む、項目11又は12に記載の方法。
[項目14]
所与のゾーンの画素強度の前記時間変動が、前記所与のゾーンの平均画素強度の時間変動である、項目13に記載の方法。
[項目15]
所与のゾーンにおいて、前記フリッカ補正を禁止するステップが、
前記所与のゾーンのエッジ領域を識別することと、
変化する程度のフリッカ補正を前記エッジ領域にわたり適用することと、
を含む、項目11~14のいずれか一項に記載の方法。
[項目16]
映像の取り込み中のフリッカの存在により生じるアーチファクトを低減する装置であって、
前記映像の一連のフレームを取り込む受信モジュールであり、前記フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、受信モジュールと、
少なくとも1つの前記領域における画素強度に関連するデータの、前記一連のフレームにわたる変動に基づいて、前記フリッカの時変振動を特性化する特性化モジュールと、
前記フリッカの前記時変振動の前記特性化に基づいて、前記映像のフレームにフリッカ補正を適用するフリッカ補正モジュールと、
を備える、装置。
[項目17]
コンピュータ可読命令の集合が格納された非一時的なコンピュータ可読記憶媒体であって、前記コンピュータ可読命令が、少なくとも1つのプロセッサにより実行された場合に、前記少なくとも1つのプロセッサに、
映像の一連のフレームを取り込むことであり、前記フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、ことと、
前記映像の取り込み中に存在するフリッカの時変振動を特性化することであり、前記特性化が、少なくとも1つの前記領域における画素強度に関連するデータの前記一連のフレームにわたる変動に基づく、ことと、
前記フリッカの前記時変振動の前記特性化に基づいて、前記映像のフレームにフリッカ補正を適用することと、
を行わせる、非一時的なコンピュータ可読記憶媒体。

Claims (16)

  1. 映像の取り込み中のフリッカの存在により生じるアーチファクトを低減するために少なくとも1つのプロセッサにより実行される方法であって、
    前記映像の一連のフレームを取り込むステップであり、前記フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、ステップと、
    少なくとも1つの前記領域における画素強度に関連するデータの、前記一連のフレームにわたる変動に基づいて、前記フリッカの時変振動を特性化するステップと、
    前記フリッカの前記時変振動の前記特性化に基づいて、前記映像のフレームにフリッカ補正を適用するステップと、
    を含み、前記フリッカ補正が適用される前記フレームが複数のゾーンを含み、前記方法が、
    前記複数のゾーンのうちの少なくとも1つのゾーンを無フリッカゾーンとして識別するステップと、
    少なくとも1つの前記無フリッカゾーンにおいて、前記フリッカ補正を禁止するステップと、
    を含む、方法。
  2. 前記フリッカの前記時変振動を特性化するステップが、前記フリッカの振幅及び位相のうちの少なくとも一方を決定することを含む、請求項1に記載の方法。
  3. 前記方法が、前記フリッカの周波数を決定するステップを含み、
    前記フリッカの前記時変振動の前記特性化が、決定された前記周波数に基づく、請求項1又は2に記載の方法。
  4. 前記フリッカの周波数を決定するステップが、前記映像が取り込まれた地理的位置に基づく、請求項3に記載の方法。
  5. 前記フリッカ補正が適用される前記フレームが、前記一連のフレームのうちの1つである、請求項1~4のいずれか一項に記載の方法。
  6. 前記フリッカ補正が適用される前記フレームが、前記一連のフレームの後である、請求項1~5のいずれか一項に記載の方法。
  7. 前記一連のフレームが、少なくとも3つのフレームを含む、請求項1~6のいずれか一項に記載の方法。
  8. 前記映像が、ローリングシャッターを用いて取り込まれ、
    前記所定領域がそれぞれ、1本の画素ラインを含む、
    請求項1~7のいずれか一項に記載の方法。
  9. 画素強度に関連する前記データが、前記所定領域の画素の平均強度である、請求項1~8のいずれか一項に記載の方法。
  10. 前記一連のフレームが、所与の露光を有するフレームを含み、
    前記方法が、前記フリッカ補正が適用される前記フレームが高ダイナミックレンジフレーム成分である高ダイナミックレンジフレームを生成するステップを含む、
    請求項1~9のいずれか一項に記載の方法。
  11. 前記少なくとも1つの無フリッカゾーンが、前記フリッカの前記時変振動の前記特性化において無視される、請求項に記載の方法。
  12. 前記複数のゾーンのうちの所与のゾーンを無フリッカゾーンとして識別するステップが、前記所与のゾーンの画素強度の時間変動が前記所与のゾーンにおけるフリッカの存在と整合しないことを判定することを含む、請求項又は11に記載の方法。
  13. 前記所与のゾーンの画素強度の前記時間変動が、前記所与のゾーンの平均画素強度の時間変動である、請求項12に記載の方法。
  14. 前記少なくとも1つの無フリッカゾーンのうちの所与のゾーンにおいて、前記フリッカ補正を禁止するステップが、
    前記所与のゾーンのエッジ領域を識別することと、
    リッカ補正を前記エッジ領域にわたり適用することであり、前記エッジ領域にわたり適用される前記フリッカ補正の程度が前記エッジ領域にわたり変化する、適用することと、
    を含む、請求項13のいずれか一項に記載の方法。
  15. 映像の取り込み中のフリッカの存在により生じるアーチファクトを低減する装置であって、
    前記映像の一連のフレームを取り込む受信モジュールであり、前記フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、受信モジュールと、
    少なくとも1つの前記領域における画素強度に関連するデータの、前記一連のフレームにわたる変動に基づいて、前記フリッカの時変振動を特性化する特性化モジュールと、
    前記フリッカの前記時変振動の前記特性化に基づいて、前記映像のフレームにフリッカ補正を適用するフリッカ補正モジュールと、
    を備え、前記フリッカ補正が適用される前記フレームが複数のゾーンを含み、前記装置が、
    前記複数のゾーンのうちの少なくとも1つのゾーンを無フリッカゾーンとして識別することと、
    少なくとも1つの前記無フリッカゾーンにおいて、前記フリッカ補正を禁止することと、
    を実行するように構成されている、装置。
  16. コンピュータ可読命令の集合が格納された非一時的なコンピュータ可読記憶媒体であって、前記コンピュータ可読命令が、少なくとも1つのプロセッサにより実行された場合に、前記少なくとも1つのプロセッサに、
    映像の一連のフレームを取り込むことであり、前記フレームがそれぞれ、複数の画素をそれぞれ含む複数の所定領域を含む、ことと、
    前記映像の取り込み中に存在するフリッカの時変振動を特性化することであり、前記特性化が、少なくとも1つの前記領域における画素強度に関連するデータの前記一連のフレームにわたる変動に基づく、ことと、
    前記フリッカの前記時変振動の前記特性化に基づいて、前記映像のフレームにフリッカ補正を適用することと、
    を行わせ、前記フリッカ補正が適用される前記フレームが複数のゾーンを含み、前記コンピュータ可読命令が、前記少なくとも1つのプロセッサにより実行された場合に、前記少なくとも1つのプロセッサに、
    前記複数のゾーンのうちの少なくとも1つのゾーンを無フリッカゾーンとして識別することと、
    少なくとも1つの前記無フリッカゾーンにおいて、前記フリッカ補正を禁止することと、
    を行わせる、非一時的なコンピュータ可読記憶媒体。
JP2018225710A 2017-11-30 2018-11-30 フリッカ低減のための方法、装置およびコンピュータ可読媒体 Active JP7327733B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
GB1720000.7 2017-11-30
GB1720000.7A GB2568924B (en) 2017-11-30 2017-11-30 Method of flicker reduction

Publications (3)

Publication Number Publication Date
JP2019103142A JP2019103142A (ja) 2019-06-24
JP2019103142A5 JP2019103142A5 (ja) 2021-12-09
JP7327733B2 true JP7327733B2 (ja) 2023-08-16

Family

ID=60950231

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018225710A Active JP7327733B2 (ja) 2017-11-30 2018-11-30 フリッカ低減のための方法、装置およびコンピュータ可読媒体

Country Status (5)

Country Link
US (1) US11082628B2 (ja)
JP (1) JP7327733B2 (ja)
KR (1) KR102636439B1 (ja)
CN (1) CN110012234B (ja)
GB (1) GB2568924B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11039082B2 (en) * 2018-11-27 2021-06-15 Canon Kabushiki Kaisha Image capturing apparatus, control method thereof, and storage medium
US11039081B2 (en) * 2019-07-17 2021-06-15 Pixart Imaging Inc. Image sensor capable of eliminating rolling flicker and adjusting frame rate
US10819915B1 (en) 2019-10-17 2020-10-27 Horiba Instruments Incorporated Apparatus and method generating high dynamic range video
EP3869781A1 (en) * 2020-02-20 2021-08-25 Koninklijke Philips N.V. Determining intensity distributions in imaging
KR20210142383A (ko) * 2020-05-18 2021-11-25 삼성전자주식회사 이미지 보정을 수행하는 전자 장치
US11373281B1 (en) * 2021-02-23 2022-06-28 Qualcomm Incorporated Techniques for anchor frame switching
JP2022158243A (ja) * 2021-04-01 2022-10-17 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体
EP4352947A1 (en) 2021-12-16 2024-04-17 Samsung Electronics Co., Ltd. Method and apparatus for removing flicker in a video
WO2023113103A1 (en) * 2021-12-16 2023-06-22 Samsung Electronics Co., Ltd. Method and apparatus for removing flicker in a video
US20230254591A1 (en) * 2022-02-09 2023-08-10 Samsung Electronics Co., Ltd. System and method for flicker avoidance in multi-frame multi-exposure image captures
CN115514899A (zh) * 2022-08-15 2022-12-23 Oppo广东移动通信有限公司 拍摄方法及装置、计算机可读介质和电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008109370A (ja) 2006-10-25 2008-05-08 Sanyo Electric Co Ltd 画像補正装置及び方法並びに撮像装置
WO2015163145A1 (ja) 2014-04-22 2015-10-29 ソニー株式会社 画像処理装置、画像処理方法、電子機器、並びにプログラム
JP2017046362A (ja) 2016-12-05 2017-03-02 株式会社Jvcケンウッド 画像処理装置、及びフリッカ低減方法

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4416959B2 (ja) * 2001-04-26 2010-02-17 富士通マイクロエレクトロニクス株式会社 Xyアドレス型固体撮像装置のフリッカノイズ低減方法
JP2003198932A (ja) * 2001-12-27 2003-07-11 Sharp Corp フリッカ補正装置およびフリッカ補正方法、並びにフリッカ補正プログラムを記録した記録媒体
JP4207922B2 (ja) * 2005-04-19 2009-01-14 ソニー株式会社 フリッカ補正方法、フリッカ補正装置及び撮像装置
JP4207926B2 (ja) * 2005-05-13 2009-01-14 ソニー株式会社 フリッカ補正方法、フリッカ補正装置及び撮像装置
JP4904749B2 (ja) * 2005-09-08 2012-03-28 ソニー株式会社 フリッカ低減方法、フリッカ低減回路及び撮像装置
JP4371108B2 (ja) * 2005-12-27 2009-11-25 ソニー株式会社 撮像装置および方法、記録媒体、並びにプログラム
US8068148B2 (en) * 2006-01-05 2011-11-29 Qualcomm Incorporated Automatic flicker correction in an image capture device
CN100562072C (zh) * 2007-04-06 2009-11-18 北京中星微电子有限公司 一种消除摄像头图像闪烁的方法、装置及一种摄像头
JP4971956B2 (ja) * 2007-11-27 2012-07-11 キヤノン株式会社 フリッカ補正装置、フリッカ補正方法並びに撮像装置
JP5111100B2 (ja) 2007-12-28 2012-12-26 キヤノン株式会社 画像処理装置、画像処理方法、プログラム及び記憶媒体
JP4907611B2 (ja) * 2008-07-29 2012-04-04 京セラ株式会社 撮像装置、フリッカー抑制方法、及びフリッカー抑制プログラム
EP2262228A1 (en) * 2009-06-09 2010-12-15 Global IP Solutions (GIPS) AB Detection and supression of flicker in a sequence of images
US9591230B2 (en) * 2009-12-23 2017-03-07 Honeywell International Inc. Systems and methods for reduced image flicker
JP5625371B2 (ja) 2010-01-29 2014-11-19 ソニー株式会社 画像処理装置、および信号処理方法、並びにプログラム
US8542292B2 (en) * 2011-02-04 2013-09-24 Panasonic Corporation Flicker correction device, flicker correction method and flicker correction program
US9088727B2 (en) * 2011-04-06 2015-07-21 Pelco, Inc. Spatially-varying flicker detection
CN104380710B (zh) * 2013-04-12 2018-08-24 松下电器(美国)知识产权公司 闪烁减少装置、拍摄装置以及闪烁减少方法
CN104301617B (zh) * 2013-07-19 2017-09-22 富士通株式会社 闪烁检测方法和闪烁检测设备
FR3005543A1 (fr) * 2013-10-14 2014-11-14 St Microelectronics Grenoble 2 Procede de compensation de scintillement utilisant deux images
US9686505B2 (en) * 2014-01-03 2017-06-20 Mediatek Singapore Pte. Ltd. Method for flicker detection and associated circuit
CN106063251B (zh) * 2014-12-15 2017-08-25 奥林巴斯株式会社 图像处理装置和图像处理方法
JP6300118B2 (ja) * 2015-09-24 2018-03-28 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム
CN106572345B (zh) * 2015-10-13 2018-09-25 富士通株式会社 闪烁检测装置及方法
KR102615091B1 (ko) * 2016-01-13 2023-12-19 삼성전자주식회사 촬영 장치 및 그 동작 방법
JP6700924B2 (ja) * 2016-04-08 2020-05-27 キヤノン株式会社 画像処理装置、その制御方法及びプログラム
US10244182B2 (en) * 2016-06-23 2019-03-26 Semiconductor Components Industries, Llc Methods and apparatus for reducing spatial flicker artifacts

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008109370A (ja) 2006-10-25 2008-05-08 Sanyo Electric Co Ltd 画像補正装置及び方法並びに撮像装置
WO2015163145A1 (ja) 2014-04-22 2015-10-29 ソニー株式会社 画像処理装置、画像処理方法、電子機器、並びにプログラム
JP2017046362A (ja) 2016-12-05 2017-03-02 株式会社Jvcケンウッド 画像処理装置、及びフリッカ低減方法

Also Published As

Publication number Publication date
KR102636439B1 (ko) 2024-02-14
GB2568924A (en) 2019-06-05
US20190166298A1 (en) 2019-05-30
KR20190064522A (ko) 2019-06-10
CN110012234A (zh) 2019-07-12
JP2019103142A (ja) 2019-06-24
GB201720000D0 (en) 2018-01-17
GB2568924B (en) 2022-07-20
CN110012234B (zh) 2022-08-12
US11082628B2 (en) 2021-08-03

Similar Documents

Publication Publication Date Title
JP7327733B2 (ja) フリッカ低減のための方法、装置およびコンピュータ可読媒体
US8890975B2 (en) Image processing apparatus, signal processing method and computer-readable medium for image flicker correction
WO2017090300A1 (ja) 画像処理装置、および画像処理方法、ならびにプログラム
KR102145201B1 (ko) 이미지의 동적 범위 향상을 위한 방법 및 장치
US7764312B2 (en) Flicker correction method and device, and imaging device
US8189057B2 (en) Camera exposure optimization techniques that take camera and scene motion into account
US7911505B2 (en) Detecting illuminant flicker
US20120148224A1 (en) Control of artificial lighting of a scene to reduce effects of motion in the scene on an image being acquired
CN106504278A (zh) 高动态范围色调映射
KR20030057465A (ko) 플리커 보정 장치, 플리커 보정 방법 및 플리커 보정프로그램을 저정한 기록 매체
US10721415B2 (en) Image processing system with LED flicker mitigation
US10591711B2 (en) Microscope and method for obtaining a high dynamic range synthesized image of an object
US20080180749A1 (en) Image processing system and method
US20130063622A1 (en) Image sensor and method of capturing an image
KR101072945B1 (ko) 깊이 값 측정을 이용한 플래시 영상 색상 보정 장치 및 그 방법
JP2020109924A (ja) 画像処理装置および画像処理方法
US9210335B2 (en) Method for generating HDR images using modified weight
US11812167B2 (en) Determining pixel intensity values in imaging
JP5383886B2 (ja) 画像処理装置、画像処理方法、プログラム及び記憶媒体
KR20150040559A (ko) 관심영역 기반의 화질개선 장치와 그를 위한 컴퓨터로 읽을 수 있는 기록 매체
JP2011259390A (ja) フリッカ検出装置
JP6827838B2 (ja) 撮像装置及び画像処理装置とその制御方法並びにプログラム
CN116744135B (zh) 一种动态范围的测量方法及相关装置
JP6494351B2 (ja) 画像処理装置、画像処理方法、プログラム及び記憶媒体
JP2009021813A (ja) フリッカ補正装置及びフリッカ補正方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211027

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211027

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20221021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230320

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230720

R150 Certificate of patent or registration of utility model

Ref document number: 7327733

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150