JP5746296B2 - ハイダイナミックレンジ動画撮影方法 - Google Patents

ハイダイナミックレンジ動画撮影方法 Download PDF

Info

Publication number
JP5746296B2
JP5746296B2 JP2013198324A JP2013198324A JP5746296B2 JP 5746296 B2 JP5746296 B2 JP 5746296B2 JP 2013198324 A JP2013198324 A JP 2013198324A JP 2013198324 A JP2013198324 A JP 2013198324A JP 5746296 B2 JP5746296 B2 JP 5746296B2
Authority
JP
Japan
Prior art keywords
pixel
value
long exposure
short exposure
reconstructed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013198324A
Other languages
English (en)
Other versions
JP2015027067A (ja
Inventor
文 助 楊
文 助 楊
耿 生 林
耿 生 林
Original Assignee
広達電脳股▲ふん▼有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 広達電脳股▲ふん▼有限公司 filed Critical 広達電脳股▲ふん▼有限公司
Publication of JP2015027067A publication Critical patent/JP2015027067A/ja
Application granted granted Critical
Publication of JP5746296B2 publication Critical patent/JP5746296B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

本発明の実施例は、ハイダイナミックレンジ動画撮影方法に係り、特に、インターレース式画像センサを用いて単枚の画面上に2種類の異なる露光時間の露光情報を得るとともに、2種類の異なる露光時間の露光情報を結合して1枚のハイダイナミックレンジ映像を形成する方法に関するものである。
現在の消費型デジタルカメラまたはウェブカメラ(Webcam)のダイナミックレンジ(Dynamic Range)(輝度信号の最大値と最小値との比)が約400である。然しながら、室内場面のダイナミックレンジのほとんどが1500を越えており、その上室外場面のダイナミックレンジも時には10までに達する。そのため、前述のような機器では、場面における部分的な輝度情報しか捕捉できない。つまり、前述のような機器では、場面における全ての輝度情報を同時に捕捉することができなかった。
上記問題を解消するため、P.E.Debevec氏らが1997年に発表したハイダイナミックレンジ映像の技術としては、例えば「Paul E. Debevec,Jitendra Malik,“Recovering High Dynamic Range Radiance Maps from Photographs”,SIGGRAPH(1997)」の記載が参照され、即ち複数枚の異なる露光時間の映像を結合する方法が提案された。しかし、このような技術は、図1に示すように、静止した映像しか適用できない、その原因は、2枚の映像内の物体が移動でもすると、結合後の映像は、ゴースト現象(Ghost Effect)が生じるからである。
Paul E. Debevec,Jitendra Malik,"Recovering High Dynamic Range Radiance Maps from Photographs",SIGGRAPH(1997)
本発明は、インターレース式画像センサ(Interlaced Image Sensor)を用いて単枚の画面(Frame)上に2種類の異なる露光時間の露光情報を同時に得て、これらの2種類の露光情報を結合することによって、ゴースト現象を生じることがない、ハイダイナミックレンジ動画撮影方法を提供することを目的とする。ここで注目すべき点は、本方法の低演算量の特性により、撮影されたハイダイナミックレンジ映像を即時に使用者に提供することができる、という点である。
本発明の目的に基づいて、ハイダイナミックレンジ動画撮影方法を提供する。この方法は、画像センサを用いて交互に配列された複数の長露光領域及び複数の短露光領域からなる複数の画素を含む本来映像を撮影するステップと、複数の長露光領域が長露光フィールドに形成され、複数の短露光領域が短露光フィールドに形成されるステップと、長露光フィールド及び短露光フィールドの各々の画素の画素値に基づいて、再構築工程を経て本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドを形成するステップと、結合工程を経て再構築した長露光フィールド及び再構築した短露光フィールドの各々の画素の画素値に基づいて、ハイダイナミックレンジ映像を形成するステップと、を含む。そのうち、画素値は、0から2x−1までの整数値であり、xは、前記画像センサのバイト数であり、異なる画素値は異なる輝度に対応し、複数の長露光領域の長露光時間と前記複数の短露光領域の短露光時間との比は、露光時間比(R)である。
上記の通り、本発明のハイダイナミックレンジ動画撮影方法は、インターレース式画像センサを用いて交互に配列された長露光領域及び短露光領域からなる本来映像を撮影し、再構築工程で長露光領域及び短露光領域の欠落部分を補正することによって、本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドが形成されてから、結合工程で再構築した長露光フィールド及び再構築した短露光フィールドを結合することでハイダイナミックレンジ映像を形成する。本発明は、映像の再構築により、一般使用されているインターレース式画像センサによる解像度が半分減少することによって引き起こされる映像品質の低下問題を解決することができる。
従来技術の方法によるゴースト現象を示す模式図である。 本発明の第1実施例に係るハイダイナミックレンジ動画撮影方法のフローチャートである。 本発明に係るインターレース式画像センサで捕捉されたハイダイナミックレンジ場面の本来映像を示す模式図である。 本発明に係る長露光フィールド及び短露光フィールドを示す模式図である。 本発明に係る長露光フィールドの画素値と短露光フィールドの画素値に対応する輝度を示す模式図である。 本発明に係る輝度と、長露光フィールドの画素値及び短露光フィールドの画素値との関係図である。 本発明に係る再構築した長露光フィールドと再構築した短露光フィールドを示す模式図である。
本発明をより完全に理解するために、本発明の技術特徴、内容と長所及びそれが達成できる作用効果については、添付図面を参照して、実施例の表現形式で以下のように詳細に説明される。なお、使用された図面は、単に例示または明細書内容を補助する目的としたものであって、本発明の実施後の原寸に比例したものや精確に配置したものには何ら拘束されない。よって、図示された図面は、添付図面の比例と配置関係で解釈されてはならず、本発明を実際に実施する権利範囲に制限することを意図したものではないことについて先に説明しておきたい。
本発明が提案するハイダイナミックレンジ動画撮影方法は、使用者にインターレース式画像センサで複数の長露光領域及び複数の短露光領域を有する本来映像を撮影するものを提供する。長露光領域に捕捉された映像情報を用いて再構築工程中に場面の暗い部分を提供するとともに、短露光領域に捕捉された映像情報を用いて再構築工程中に場面の明るい部分を提供する。映像品質の低下という欠点を避けるために、再構築工程及び結合工程を経てハイダイナミックレンジ映像を形成する。また、本方法は、低演算量の特性があるので、使用者は、撮影されたハイダイナミックレンジ映像を即時に表示することができる。
本発明に係るハイダイナミックレンジ動画撮影方法は、画像センサを備える任意の電気製品に応用することが可能であり、例えば、携帯電話、デジタルカメラ、タブレットパソコン、ノートパソコンなどが挙げられる。
<第1実施例>
図2は、本発明の第1実施例に係るハイダイナミックレンジ動画撮影方法のフローチャートである。図2に示すステップS51〜S56の詳細について、以下に説明する。
S51:インターレース式画像センサを用いてハイダイナミックレンジ場面の本来映像を捕捉する。
S52:本来映像から解像度が本来映像の半分である長露光フィールドを取得する。
S53:本来映像から解像度が本来映像の半分である短露光フィールドを取得する。
S54:短露光フィールドの情報を用いて長露光フィールドの解像度を本来映像の解像度と同じくなるように再構築する。
S55:長露光フィールドの情報を用いて短露光フィールドの解像度を本来映像の解像度と同じくなるように再構築する。
S56:長露光フィールド及び短露光フィールドを結合することによってハイダイナミックレンジ映像を得る。
本発明は、インターレース式画像センサを用いてハイダイナミックレンジ場面の本来映像を捕捉する。前記インターレース式画像センサとしては、ベイヤー配列式(Bayer Pattern)画像センサであってもよい。その画像センサは、第1列と第2列の露光時間をより長く設定してもよく、それで捕捉された映像情報を用いて映像場面における低輝度な部分を再構築する一方、第3列と第4列の露光時間をより短く設定してもよく、それで捕捉された映像情報を用いて映像場面における高輝度な部分を再構築する。その他はこれによって類推すればよい。従って、本来映像は、解像度が本来映像の半分である複数の長露光フィールドと、解像度が本来映像の半分である複数の短露光フィールドと、を結合してなるものであってもよい。続いて、再構築工程において、短露光領域の情報を用いて長露光領域の欠落部分を補足することによって、解像度が本来映像と同じである長露光フィールドを形成すると同時に、長露光領域の情報を用いて短露光領域の欠落部分を補足することによって、解像度が本来映像と同じである短露光フィールドを形成する。最後に、結合工程において、長露光フィールド及び短露光フィールドの情報を結合することによって、ハイダイナミックレンジ映像を得る。
図3は、本発明に係るインターレース式画像センサで捕捉されたハイダイナミックレンジ場面の本来映像を示す模式図である。以下の説明をより容易に理解するために、ここでは、8×8の解像度を用いて説明する。それにより、本来映像は、第1長露光領域101と、第1短露光領域102と、第2長露光領域103と、第2短露光領域104とが交錯して構成される。説明すべき点は、露光領域のいずれも連続2列の画像センサ素子を有する必要はなく、第1列の露光時間をより長く設定し、第2列の露光時間をより短く設定し、第3列の露光時間をより長く設定し、第2列の露光時間をより短く設定してもよい。このように交錯することによって本来映像が捕捉される。なお、本実施例では、少なくとも1列の横方向の画像センサ素子を露光領域としているが、本発明はこれに限らず、露光領域を縦方向の画像センサ素子と定義してもよく、例えば第1行と第2行の露光時間をより長く設定し、第3行と第4行の露光時間をより短く設定してもよい。
図4は、本発明に係る長露光フィールド及び短露光フィールドを示す模式図である。図3及び図4を同時に参照して、長露光フィールド105は、第1長露光領域101及び第2長露光領域103を含んでもよいし、短露光フィールド106は、第1短露光領域102及び第2短露光領域104を含んでもよい。図4に示すように、長露光フィールド105及び短露光フィールド106には、それぞれ場面における異なる部分が捕捉される。
図5は、本発明に係る長露光フィールドの画素値と短露光フィールドの画素値に対応する輝度を示す模式図である。環境における同一輝度の光源には、露光時間の差により異なる画素値(Pixel Value)が形成される。xを画像センサのバイト数と仮定すれば、画素値は、0から2−1までの整数値になる。さらに、長露光フィールドの露光時間と短露光フィールドの露光時間との比を露光時間比(R)と仮定する。この場合、同じ輝度の光源において、長露光フィールドと短露光フィールドに捕捉された映像の画素値の間には、R倍の差がある。例えば、本実施例において、同じ輝度の条件下、長露光フィールドの画素値がRとすると、短露光フィールドの画素値が1となる。また、同じ輝度の条件下、長露光フィールドの画素値が2とすると、短露光フィールドの画素値が2/Rとなる。説明すべき点は、本模式図の映像暗領域が短露光フィールドの捕捉能力を超えると、この時の短露光フィールドにおいては、この映像暗領域の画素値のいずれも0または1つの既定値より小さくなる。そのため、再構築工程において、この暗領域の情報は、長露光フィールドに捕捉された映像情報により再構築される。相対的に、本模式図の映像明領域が長露光フィールドの捕捉能力を超えると、この時の長露光フィールドにおいては、この映像明領域の画素値のいずれも255または1つの既定値より大きくなる。そのため、再構築工程において、この明領域の情報は、短露光フィールドに捕捉された映像情報により再構築される。
図6は、本発明に係る輝度と、長露光フィールドの画素値及び短露光フィールドの画素値との関係図である。説明の便宜のため、ここでは画像センサのバイト数を8と仮定すると、画像値の最大値が2−1=255となり、露光時間比Rを4と仮定すると、長露光フィールドに捕捉可能な輝度が1から1000までの範囲にあり、それに対応する画像値が0から255までの範囲にある(1から1000までの範囲にある輝度のいずれも長露光フィールドの捕捉能力の範囲内に含まれることを仮定し、露光過度または暗すぎて映像の細部を損なうことにならない)。露光時間比Rが4であるため、短露光フィールドに捕捉可能な輝度が4から4000までの範囲になる(4から4000までの範囲にある輝度のいずれも短露光フィールドの捕捉能力の範囲内に含まれることを仮定し、露光過度または暗すぎて映像の細部を損なうことにならない)。0から255までの範囲にある長露光フィールドの画素値は、1から1000までの範囲にある輝度に線形的に対応しており、また0から255までの範囲にある短露光フィールドの画素値は、4から4000までの範囲にある輝度に線形的に対応している。また、同じ画素値の条件下、短露光フィールドの輝度は、長露光フィールドの輝度の4倍になる。一方、同じ輝度の条件下、長露光フィールドの画素値は、短露光フィールドの画素値の4倍になる。これにより、画像センサが本来捕捉可能な輝度が1から1000までの範囲とすると、本発明ではインターレース式画像センサを用いることによって捕捉可能な輝度を1から4000までの範囲に拡張する。簡単に言えば、画像センサの本来のダイナミックレンジ比がDとすると、本方法によりダイナミックレンジ比がR×Dであるハイダイナミックレンジ映像が得られる。
具体的な実施例において、露光時間比Rは、使用者自身により決定される。露光時間比Rが決定された後、一般のカメラの自動露光(Auto Exposure)機能で露光時間Aを決定し、長露光フィールドと短露光フィールドの露光時間は、Aを基準として対称的に伸縮し、即ち長露光フィールドと短露光フィールドの露光時間の平均値がAとなる。例えば、露光時間比Rが3である場合、長露光フィールドの露光時間が1.5Aとなり、短露光フィールドの露光時間が0.5Aとなる。露光時間比Rが7である場合、長露光フィールドの露光時間が1.75Aとなり、短露光フィールドの露光時間が0.25Aとなる。
図7は、本発明に係る再構築した長露光フィールドと再構築した短露光フィールドを示す模式図である。図4、図5、図6及び図7を同時に参照して、再構築した長露光フィールド107は、短露光フィールド106の全ての画素(第1短露光領域102及び第2短露光領域104)の画素値にRを掛けた後、長露光フィールド105(第1長露光領域101及び第2長露光領域103)と組み合わせることによって形成される一方、再構築した短露光フィールド108は、長露光フィールド105の全ての画素(第1長露光領域101及び第2長露光領域103)の画素値をRで割った後、短露光フィールド106(第1短露光領域102及び第2短露光領域104)と組み合わせることによって形成される。本発明の再構築工程は、長露光フィールド105及び短露光フィールド106を用いて、お互いの欠落部分の情報を再構築するので、一般使用されているインターレース式画像センサによる垂直方向の解像度が半分減少することがない。伝統的な画像内挿法と違って、本方法は、ぼかし(Blur)やエイリアシング(Aliasing)などの欠陥がない。
図7に示すように、再構築工程を完了して再構築した長露光フィールド107(解像度8×8)及び再構築した短露光フィールド108(解像度8×8)を得た後、続いて結合工程を行う。結合工程は、前記再構築した長露光フィールド107の各画素及び前記再構築した短露光フィールド108に対応する各画素の画素値を逐次比較することを含む。以下の説明をより容易に理解するために、再構築した長露光フィールド107の第1列の第1個目の画素をaとし、再構築した短露光フィールド108の第1列の第1個目の画素をbとすると、画素aの画素値(Pixel Value)は、PV(a)で表され、画素bの画素値は、PV(b)で表される。画素値が高すぎても低すぎても、いずれも情報としての価値がない。従って、例えば画素値の第1既定値を250と設定し、第2既定値を10と設定するように、それぞれの既定値を設定しておくのが好ましい。この場合、画素値が第1既定値250を超えると、この領域の輝度が高すぎることを示し、取得された情報のいずれも不正確な情報である。また、画素値が第2既定値10より低いと、この領域の輝度が低すぎることを示し、取得された情報のいずれも不正確な情報である。
上記のように、再構築した長露光フィールド107及び再構築した短露光フィールド108を結合する工程において、以下のような5種類の状態が発生し得る。PV(a)が第1既定値250より大きい場合、この領域の輝度が高すぎることを示し、再構築した長露光フィールド107の捕捉能力を既に超えた状態では、PV(a)に代えて、PV(b)×Rをハイダイナミックレンジ映像の画素値とする。PV(b)が第2既定値10より小さい場合、この領域の輝度が低すぎることを示し、再構築した短露光フィールド108の捕捉能力を既に超えた状態では、PV(b)に代えて、PV(a)/Rをハイダイナミックレンジ映像の画素値とする。PV(a)が第2既定値10より小さい場合、この領域に長露光時間を設定して用いても輝度が暗すぎることを示し、そのため、第1長露光領域101及び第2長露光領域103の露光時間を延長することによって、この領域の輝度が暗すぎる問題を解決することができる。PV(b)が第1既定値250より大きい場合、この領域に短露光時間を設定して用いても輝度が明すぎることを示し、そのため、第1短露光領域102及び第2短露光領域104の露光時間を短縮することによって、この領域の輝度が明すぎる問題を解決することができる。PV(a)及びPV(b)のいずれも第2既定値10と第1既定値250との間にある場合、PV(a)をハイダイナミックレンジ映像の画素値とする。
<第2実施例>
本発明の第2実施例は、図4を参照して説明する。第2実施例と第1実施例との相異点は、長露光フィールド105及び短露光フィールド106が形成された後の再構築と結合工程であり、それらを以下のように述べる。図4に示すように、画素c,d,e,f,g,hの画素値は、それぞれPV(c),PV(d),PV(e),PV(f),PV(g),PV(h)で表される。長露光フィールドにおける欠落した画素gを再構築しようとする時、まず画素eの画素値PV(e)の判断を行い、PV(e)が第3既定値10より小さい場合、画素eに何らの情報もないことを示し、(PV(c)+PV(d))/2を画素gの画素値PV(g)とする。PV(e)が第3既定値10と第4既定値250との間にある場合、PV(e)×Rを画素gの画素値PV(g)とする。短露光フィールドにおける欠落した画素hを再構築しようとする時、まず画素dの画素値PV(d)の判断を行い、PV(d)が第4既定値250より大きい場合、画素dに何らの情報もないことを示し、(PV(e)+PV(f))/2を画素hの画素値PV(h)とする。PV(e)が第3既定値10と第4既定値250との間にある場合、PV(d)/2Rを画素hの画素値PV(h)とする。上記の方法によれば、長露光フィールド105及び短露光フィールド106の全ての画素が補足完了した後、再構築工程が完了される。
上記のように、本発明の第2実施例では、インターレース式画像センサを用いて交互に配列された複数の長露光領域及び複数の短露光領域からなる本来映像を撮影した後、長露光フィールド105に対応する画素の画素値を補足するため、直接に短露光フィールド106の画素値にRを掛けないで、それに代えて、まず短露光フィールド106の画素値が有効(画素値が10から250までの範囲にある)かどうかを判断してから、その画素値にRを掛けることによって長露光フィールド105に対応する画素の画素値が補足される。このようにして、無効な画素値を用いて演算し、また無効な数値が出ることを避けられる。言い換えれば、第2実施例の再構築工程と結合工程は、単一工程で完了される。
上記を総合すると、本発明に提案するハイダイナミックレンジ動画撮影方法は、使用者にインターレース式画像センサで複数の長露光領域及び複数の短露光領域を有する本来映像を撮影するものを提供する。長露光領域に捕捉された映像情報を用いて再構築及び結合工程中に場面の暗い部分を提供するとともに、短露光領域に捕捉された映像情報を用いて再構築及び結合工程中に場面の明るい部分を提供する。画像センサの本来のダイナミックレンジ比がDとすると、本方法によりダイナミックレンジ比がR×Dであるハイダイナミックレンジ映像が得られ、そのうち、Rは、露光時間比を示す。ここで注目すべき点は、本方法では、低演算量の特性があるので、使用者は、撮影されたハイダイナミックレンジ映像を即時に表示することができる、という点である。
S51〜S56 ステップ、
101 第1長露光領域、
102 第1短露光領域、
103 第2長露光領域、
104 第2短露光領域、
105 長露光フィールド、
106 短露光フィールド、
107 再構築した長露光フィールド、
108 再構築した短露光フィールド。

Claims (9)

  1. 画像センサを備える電気製品に適用されるハイダイナミックレンジ動画撮影方法であって、
    前記画像センサを用いて交互に配列された複数の長露光領域及び複数の短露光領域からなる複数の画素を含む本来映像を撮影するステップと、
    前記複数の長露光領域が長露光フィールドに形成され、前記複数の短露光領域が短露光フィールドに形成されるステップと、
    前記長露光フィールド及び前記短露光フィールドの各々の画素の画素値に基づいて、再構築工程を経て前記本来映像と同じ解像度の再構築した長露光フィールド及び再構築した短露光フィールドを形成するステップと、
    結合工程を経て前記再構築した長露光フィールド及び前記再構築した短露光フィールドの各々の画素の画素値に基づいて、ハイダイナミックレンジ映像を形成するステップと、を含み、
    前記画素値は、0から2−1までの整数値であり、xは、前記画像センサのバイト数であり、異なる画素値は異なる輝度に対応し、前記複数の長露光領域の長露光時間と前記複数の短露光領域の短露光時間との比、露光時間比(R)とすると共に、
    前記再構築工程は、
    前記複数の短露光領域の欠落部分が対応して補足されるように、前記複数の長露光領域の各画素の画素値を前記露光時間比(R)で割るとともに、前記複数の短露光領域と組み合わせることによって前記再構築した短露光フィールドを形成するステップと、
    前記複数の長露光領域の欠落部分が対応して補足されるように、前記複数の短露光領域の各画素の画素値に前記露光時間比(R)を掛けるとともに、前記複数の長露光領域と組み合わせることによって前記再構築した長露光フィールドを形成するステップと、
    を含むことを特徴とする、ハイダイナミックレンジ動画撮影方法。
  2. 前記各長露光領域は、少なくとも1列の画素を含み、前記各短露光領域は、少なくとも1列の画素を含むことを特徴とする、請求項1に記載のハイダイナミックレンジ動画撮影方法。
  3. 前記画像センサの第1列及び第2列の露光時間は、前記長露光時間とし、第3列及び第4列の露光時間は、前記短露光時間とすることを特徴とする、請求項2に記載のハイダイナミックレンジ動画撮影方法。
  4. 前記結合工程は、前記再構築した長露光フィールドの各画素及び前記再構築した短露光フィールドに対応する各画素の画素値を逐次比較し、比較結果に基づいて、
    前記再構築した長露光フィールドの画素値が第1既定値より大きい場合、前記再構築した長露光フィールドの画素値に代えて、前記再構築した短露光フィールドの画素値掛けるRの値を前記ハイダイナミックレンジ映像の画素値とするステップと、
    前記再構築した短露光フィールドの画素値が第2既定値より小さい場合、前記再構築した短露光フィールドの画素値に代えて、前記再構築した長露光フィールドの画素値割るRの値を前記ハイダイナミックレンジ映像の画素値とするステップと、
    を行うことを特徴とする、請求項に記載のハイダイナミックレンジ動画撮影方法。
  5. 前記結合工程は、さらに、
    前記再構築した長露光フィールドの画素値が前記第2既定値より小さい場合、前記複数の長露光領域の前記長露光時間を延長するステップと、
    前記再構築した短露光フィールドの画素値が前記第1既定値より大きい場合、前記複数の短露光領域の前記短露光時間を短縮するステップと、
    前記再構築した長露光フィールド及び前記再構築した短露光フィールドの画素値のいずれも前記第1既定値と前記第2既定値との間にある場合、前記再構築した長露光フィールドの画素値を前記ハイダイナミックレンジ映像の画素値とするステップと、
    を含むことを特徴とする、請求項に記載のハイダイナミックレンジ動画撮影方法。
  6. 前記第1既定値が250であり、前記第2既定値が10であることを特徴とする、請求項または請求項に記載のハイダイナミックレンジ動画撮影方法。
  7. 前記再構築工程及び前記結合工程は、前記複数の長露光領域の欠落部分の各画素に対し、
    前記複数の長露光領域の欠落部分の画素に対応する短露光領域の画素の画素値が第3既定値より小さい場合、前記複数の長露光領域の欠落部分の前記画素に対応する上下長露光領域の2つの画素の画素値の平均値を前記画素の画素値とするステップと、
    前記複数の長露光領域の欠落部分の画素に対応する短露光領域の画素の画素値が前記第3既定値と第4既定値との間にある場合、前記複数の長露光領域の欠落部分の前記画素に対応する短露光領域の画素の画素値掛けるRの値が前記画素の画素値となるステップと、
    を行うことを特徴とする、請求項1に記載のハイダイナミックレンジ動画撮影方法。
  8. 前記再構築工程は、さらに、前記複数の短露光領域の欠落部分の各画素に対し、
    前記複数の短露光領域の欠落部分の画素に対応する長露光領域の画素の画素値が前記第4既定値より大きい場合、前記複数の短露光領域の欠落部分の前記画素に対応する上下短露光領域の2つの画素の画素値の平均値を前記画素の画素値とするステップと、
    前記複数の短露光領域の欠落部分の画素に対応する長露光領域の画素の画素値が前記第3既定値と第4既定値との間にある場合、前記複数の短露光領域の欠落部分の前記画素に対応する短露光領域の画素の画素値割るRの値が前記画素の画素値となるステップと、
    を行うことを特徴とする、請求項に記載のハイダイナミックレンジ動画撮影方法。
  9. 前記第3既定値が10であり、前記第4既定値が250であることを特徴とする、請求項または請求項に記載のハイダイナミックレンジ動画撮影方法。
JP2013198324A 2013-07-29 2013-09-25 ハイダイナミックレンジ動画撮影方法 Active JP5746296B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
TW102127216A TWI501639B (zh) 2013-07-29 2013-07-29 拍攝高動態範圍影片之方法
TW102127216 2013-07-29

Publications (2)

Publication Number Publication Date
JP2015027067A JP2015027067A (ja) 2015-02-05
JP5746296B2 true JP5746296B2 (ja) 2015-07-08

Family

ID=52390187

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013198324A Active JP5746296B2 (ja) 2013-07-29 2013-09-25 ハイダイナミックレンジ動画撮影方法

Country Status (4)

Country Link
US (1) US9137454B2 (ja)
JP (1) JP5746296B2 (ja)
CN (1) CN104349069B (ja)
TW (1) TWI501639B (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9633426B2 (en) * 2014-05-30 2017-04-25 General Electric Company Remote visual inspection image capture system and method
US9307207B2 (en) * 2013-01-07 2016-04-05 GM Global Technology Operations LLC Glaring reduction for dynamic rearview mirror
TWI464526B (zh) * 2013-08-08 2014-12-11 Quanta Comp Inc 高動態範圍影像曝光時間控制方法
JP6282303B2 (ja) * 2015-05-29 2018-02-21 キヤノン株式会社 撮像素子および撮像装置
TWI576653B (zh) * 2015-07-31 2017-04-01 廣達電腦股份有限公司 曝光控制系統及其方法
US10440288B2 (en) * 2015-09-02 2019-10-08 Microsoft Technology Licensing, Llc Methods and apparatuses for capturing image frames with interlaced exposure
CN105120131A (zh) * 2015-09-14 2015-12-02 北京中科慧眼科技有限公司 基于相机传感器的补偿失真和补偿模糊的方法
CN105516700B (zh) * 2015-12-18 2018-01-19 广东欧珀移动通信有限公司 图像传感器的成像方法、成像装置和电子装置
CN106961557B (zh) 2016-01-08 2020-01-31 中强光电股份有限公司 光场相机及其影像处理方法
CN106161997A (zh) * 2016-06-30 2016-11-23 上海华力微电子有限公司 提高cmos图像传感器像素的方法及系统
KR20180067052A (ko) 2016-12-12 2018-06-20 삼성전자주식회사 광역 역광 보정 영상 촬상 방법, 이를 수행하는 영상 촬상 장치 및 이를 포함하는 전자 시스템
CN110418081B (zh) * 2018-04-27 2021-12-24 北京紫光展锐通信技术有限公司 高动态范围图像全分辨率重建方法、装置及电子设备
CN109040524B (zh) * 2018-08-16 2021-06-29 Oppo广东移动通信有限公司 伪影消除方法、装置、存储介质及终端
CN110661982B (zh) * 2019-09-27 2021-08-10 思特威(上海)电子科技股份有限公司 图像传感器成像中led频闪抑制的方法
CN111462021B (zh) * 2020-04-27 2023-08-29 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备和计算机可读存储介质
CN111953893B (zh) * 2020-06-30 2022-04-01 普联技术有限公司 一种高动态范围图像生成方法、终端设备及存储介质
CN112672070B (zh) * 2020-12-30 2022-07-26 惠州华阳通用电子有限公司 一种摄像头拍摄参数调节方法
CN113905194B (zh) * 2021-08-31 2024-05-10 浙江大华技术股份有限公司 一种曝光比处理方法、终端设备及计算机存储介质
CN115118974A (zh) * 2022-06-22 2022-09-27 清华大学 视频生成方法、装置、系统、电子设备以及可读存储介质

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007251905A (ja) * 2006-03-20 2007-09-27 Toshiba Corp 撮像装置
JP5100066B2 (ja) * 2006-09-06 2012-12-19 パナソニック株式会社 撮像装置および撮像方法
JP4306750B2 (ja) * 2007-03-14 2009-08-05 ソニー株式会社 撮像装置、撮像方法、露光制御方法、プログラム
US7940311B2 (en) * 2007-10-03 2011-05-10 Nokia Corporation Multi-exposure pattern for enhancing dynamic range of images
JP4661922B2 (ja) * 2008-09-03 2011-03-30 ソニー株式会社 画像処理装置、撮像装置、固体撮像素子、画像処理方法およびプログラム
US8405750B2 (en) * 2009-06-08 2013-03-26 Aptina Imaging Corporation Image sensors and image reconstruction methods for capturing high dynamic range images
US8947555B2 (en) * 2011-04-18 2015-02-03 Qualcomm Incorporated White balance optimization with high dynamic range images
JP2012234393A (ja) * 2011-05-02 2012-11-29 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
JP2013066142A (ja) * 2011-08-31 2013-04-11 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
US9071765B2 (en) * 2012-12-28 2015-06-30 Nvidia Corporation System, method, and computer program product implementing an image processing pipeline for high-dynamic range images

Also Published As

Publication number Publication date
JP2015027067A (ja) 2015-02-05
CN104349069B (zh) 2017-08-11
US9137454B2 (en) 2015-09-15
US20150029354A1 (en) 2015-01-29
TWI501639B (zh) 2015-09-21
CN104349069A (zh) 2015-02-11
TW201505439A (zh) 2015-02-01

Similar Documents

Publication Publication Date Title
JP5746296B2 (ja) ハイダイナミックレンジ動画撮影方法
EP3694203B1 (en) Method and device for obtaining exposure compensation value of high-dynamic-range image
JP5935876B2 (ja) 画像処理装置、撮像素子、および画像処理方法、並びにプログラム
KR100843087B1 (ko) 영상 생성 장치 및 방법
TWI615027B (zh) 高動態範圍圖像的生成方法、拍照裝置和終端裝置、成像方法
JP6420540B2 (ja) 画像処理装置及びその制御方法、プログラム、記憶媒体
WO2016011877A1 (zh) 拍摄光绘视频的方法和移动终端、存储介质
JP2011004353A (ja) 画像処理装置、画像処理方法
US10122943B1 (en) High dynamic range sensor resolution using multiple image sensors
JP6087612B2 (ja) 画像処理装置および画像処理方法
JP2011166728A (ja) 画像処理装置、画像処理方法
CN105205787A (zh) 用于对ldr视频序列进行动态范围扩展的方法和设备
JPWO2012081175A1 (ja) 画像生成装置、画像生成システム、方法、およびプログラム
JP2019530322A (ja) イメージセンサのピクセルアレイの明度補正
WO2020187220A1 (zh) 一种图像超分辨重建方法、装置和终端设备
JP6929711B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム
JP2007323635A (ja) ビデオ・イメージの再帰的フィルタリング
JP2013135410A (ja) 撮像装置および評価値生成装置
WO2013118364A1 (ja) 画像処理装置および画像処理方法
US8855444B2 (en) Method for partitioning and processing a digital image
JP6173027B2 (ja) 画像処理装置および画像処理方法
Gil Rodríguez et al. High quality video in high dynamic range scenes from interlaced dual-iso footage
JP6603557B2 (ja) 画像処理装置および画像処理方法
Kartalov et al. Fully automated exposure fusion algorithm for mobile platforms
Lin et al. Extended Dynamic Range imaging: A spatial down-sampling approach

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150507

R150 Certificate of patent or registration of utility model

Ref document number: 5746296

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250