JP7298020B2 - 画像キャプチャ方法、カメラアセンブリ及び移動端末 - Google Patents

画像キャプチャ方法、カメラアセンブリ及び移動端末 Download PDF

Info

Publication number
JP7298020B2
JP7298020B2 JP2022515700A JP2022515700A JP7298020B2 JP 7298020 B2 JP7298020 B2 JP 7298020B2 JP 2022515700 A JP2022515700 A JP 2022515700A JP 2022515700 A JP2022515700 A JP 2022515700A JP 7298020 B2 JP7298020 B2 JP 7298020B2
Authority
JP
Japan
Prior art keywords
color
pixels
image
panchromatic
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022515700A
Other languages
English (en)
Other versions
JP2022547221A (ja
Inventor
タン、チョン
チョウ、チーチュン
チャン、ゴン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Publication of JP2022547221A publication Critical patent/JP2022547221A/ja
Application granted granted Critical
Publication of JP7298020B2 publication Critical patent/JP7298020B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/702SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/441Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading contiguous pixels from selected rows or columns of the array, e.g. interlaced scanning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase
    • H04N9/78Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase for separating the brightness signal or the chrominance signal from the colour television signal, e.g. using comb filter
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は画像技術分野に関し、特に画像キャプチャ方法、カメラアセンブリ及び移動端末に関する。
携帯電話などのような移動端末には、撮影機能を実現するためにカメラが搭載されていることが多い。カメラには画像センサーが搭載されている。カラー画像のキャプチャを実現するために、画像センサーには通常カラー画素が搭載されている。カラー画素はベイヤー(Bayer)配列で配置されている。暗い環境での画像センサーの画質を向上させるために、関連技術では、カラー画素より感度の高い白色画素が画像センサーに導入されている。
本発明の実施形態は、画像キャプチャ方法、カメラアセンブリ及び移動端末を提供する。
一つの様態において、本発明は画像センサーの画像キャプチャ方法を提供する。画像センサーは2次元画素アレイを含み、2次元画素アレイは複数のパンクロマチック画素と複数のカラー画素を含み、2次元画素アレイは最小繰り返しユニットを含み、各最小繰り返しユニットは複数のサブユニットを含み、各サブユニットは複数の単色画素と複数のパンクロマチック画素を含む。
画像キャプチャ方法は、以下の内容を含む。パンクロマチックオリジナル画像とカラーオリジナル画像を取得するように、2次元画素アレイの露光を制御する。各サブユニットにおける全ての画素を当該サブユニットにおける単色に対応する単色大画素とするようにカラーオリジナル画像を処理し、カラー中間画像を取得するように単色大画素の画素値を出力する。パンクロマチック中間画像を取得するようにパンクロマチックオリジナル画像を処理する。目標画像を取得するようにカラー中間画像及び/又はパンクロマチック中間画像を処理する。
別の様態において、本発明はカメラアセンブリを提供する。カメラアセンブリは画像センサーと処理チップを含む。画像センサーは2次元画素アレイを含み、2次元画素アレイは複数のパンクロマチック画素と複数のカラー画素を含み、2次元画素アレイは最小繰り返しユニットを含み、各最小繰り返しユニットは複数のサブユニットを含み、各サブユニットは複数の単色画素と複数のパンクロマチック画素を含む。画像センサーは、パンクロマチックオリジナル画像とカラーオリジナル画像を取得するように、露光されるように構成されている。
処理チップは、各サブユニットにおける全ての画素を当該サブユニットにおける単色に対応する単色大画素とするようにカラーオリジナル画像を処理し、カラー中間画像を取得するように単色大画素の画素値を出力し、
パンクロマチック中間画像を取得するようにパンクロマチックオリジナル画像を処理し、
目標画像を取得するようにカラー中間画像及び/又はパンクロマチック中間画像を処理するように構成されている。
もう一つの様態において、本発明は移動端末を提供する。移動端末は画像センサーとプロセッサを含む。画像センサーは2次元画素アレイを含み、2次元画素アレイは複数のパンクロマチック画素と複数のカラー画素を含み、2次元画素アレイは最小繰り返しユニットを含み、各最小繰り返しユニットは複数のサブユニットを含み、各サブユニットは複数の単色画素と複数のパンクロマチック画素を含む。画像センサーは、パンクロマチックオリジナル画像とカラーオリジナル画像を取得するように、露光されるように構成されている。
プロセッサは、各サブユニットにおける全ての画素を当該サブユニットにおける単色に対応する単色大画素とするようにカラーオリジナル画像を処理し、カラー中間画像を取得するように単色大画素の画素値を出力し、
パンクロマチック中間画像を取得するようにパンクロマチックオリジナル画像を処理し、
目標画像を取得するようにカラー中間画像及び/又はパンクロマチック中間画像を処理するように構成されている。
本発明の実施形態の追加態様及び利点は、以下の説明で部分的に示され、以下の説明から部分的に明らかになり、又は本発明の実施を介して理解される。
本発明の上記及び/又は追加の態様と利点は、以下の図面を参照した実施態様の説明から明白且つ容易に理解され得る。
図1は、本発明の実施形態に係るカメラアセンブリを示す概略図である。 図2は、本発明の実施形態に係る画像センサーを示す概略図である。 図3は、本発明の実施形態に係る画素アレイと露光制御線との接続を示す概略図である。 図4は、本発明の実施形態に係る異なるカラーチャンネルの露光飽和時間を示す概略図である。 図5は、本発明の実施形態に係る画素回路を示す概略図である。 図6は、本発明の実施形態に係る最小繰り返しユニット(minimal repeating unit)における画素の配列を示す概略図である。 図7は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図8は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図9は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図10は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図11は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図12は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図13は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図14は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図15は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図16は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図17は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図18は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図19は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図20は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図21は、本発明の実施形態に係る別の最小繰り返しユニットにおける画素の配列を示す概略図である。 図22は、関連技術における画像キャプチャ方法の原理を示す概略図である。 図23は、本発明のいくつかの実施形態に係る画像キャプチャ方法を示すフローチャートである。 図24は、本発明の実施形態に係る光学像キャプチャ方法の原理を示す概略図である。 図25は、本発明の実施形態に係る光学像キャプチャ方法の別の原理を示す概略図である。 図26~29は、本発明のいくつかの実施形態に係る画像キャプチャ方法を示すフローチャートである。 図30は、本発明の実施形態に係る光学像キャプチャ方法の別の原理を示す概略図である。 図31は、本発明の実施形態に係る光学像キャプチャ方法の別の原理を示す概略図である。 図32は、本発明の実施形態に係る光学像キャプチャ方法の別の原理を示す概略図である。 図33は、本発明の実施形態に係る光学像キャプチャ方法の別の原理を示す概略図である。 図34は、本発明の実施形態に係る光学像キャプチャ方法の別の原理を示す概略図である。 図35は、本発明の実施形態に係る移動端末を示す概略図である。
以下、本発明の実施形態を詳細に説明する。実施形態の例示は添付の図面に示されている。同一又は類似の記号は、最初から最後まで同一又は類似の素子、或いは同一又は類似の機能を有する素子を示す。図面を参照しながら説明される以下の実施態様は例示的であり、本発明を説明するためにのみ用いられ、本発明を限定するものとして理解されるべきではない。
本発明は画像センサーの画像キャプチャ方法を提供する。画像センサーは2次元画素アレイを含む。2次元画素アレイは複数のパンクロマチック画素と複数のカラー画素を含む。2次元画素アレイは最小繰り返しユニットを含む。各最小繰り返しユニットは複数のサブユニットを含む。各サブユニットは複数の単色画素と複数のパンクロマチック画素を含む。
画像キャプチャ方法は、以下の内容を含む。パンクロマチックオリジナル画像とカラーオリジナル画像を取得するように、2次元画素アレイの露光を制御する。各サブユニットにおける全ての画素を当該サブユニットにおける単色に対応する単色大画素とするようにカラーオリジナル画像を処理し、カラー中間画像を取得するように単色大画素の画素値を出力する。パンクロマチック中間画像を取得するようにパンクロマチックオリジナル画像を処理する。目標画像を取得するようにカラー中間画像及び/又はパンクロマチック中間画像を処理する。
本発明はカメラアセンブリを提供する。カメラアセンブリは画像センサーと処理チップを含む。画像センサーは2次元画素アレイを含む。2次元画素アレイは複数のパンクロマチック画素と複数のカラー画素を含む。2次元画素アレイは最小繰り返しユニットを含む。各最小繰り返しユニットは複数のサブユニットを含む。各サブユニットは複数の単色画素と複数のパンクロマチック画素を含む。画像センサーは、パンクロマチックオリジナル画像とカラーオリジナル画像を取得するように、露光されるように構成されている。
処理チップは、各サブユニットにおける全ての画素を当該サブユニットにおける単色に対応する単色大画素とするようにカラーオリジナル画像を処理し、カラー中間画像を取得するように単色大画素の画素値を出力し、
パンクロマチック中間画像を取得するようにパンクロマチックオリジナル画像を処理し、
目標画像を取得するようにカラー中間画像及び/又はパンクロマチック中間画像を処理するように構成されている。
本発明は移動端末を提供する。移動端末は画像センサーとプロセッサを含む。画像センサーは2次元画素アレイを含む。2次元画素アレイは複数のパンクロマチック画素と複数のカラー画素を含む。2次元画素アレイは最小繰り返しユニットを含む。各最小繰り返しユニットは複数のサブユニットを含む。各サブユニットは複数の単色画素と複数のパンクロマチック画素を含む。画像センサーは、パンクロマチックオリジナル画像とカラーオリジナル画像を取得するように、露光されるように構成されている。
プロセッサは、各サブユニットにおける全ての画素を当該サブユニットにおける単色に対応する単色大画素とするようにカラーオリジナル画像を処理し、カラー中間画像を取得するように単色大画素の画素値を出力し、
パンクロマチック中間画像を取得するようにパンクロマチックオリジナル画像を処理し、
目標画像を取得するようにカラー中間画像及び/又はパンクロマチック中間画像を処理するように構成されている。
図1を参照すると、本発明はカメラアセンブリ40を提供する。カメラアセンブリ40は画像センサー10、処理チップ20及びレンズ30を含む。画像センサー10は処理チップ20に電気的に結合される。レンズ30は画像センサー10の光路上に配置されている。処理チップ20は、画像センサー10及びレンズ30とともに、同じカメラアセンブリ40のハウジング内にパッケージされてもよい。又は、画像センサー10とレンズ30はハウジング内にパッケージされ、処理チップ20はハウジングの外側に配置される。
図2を参照すると、図2は、本発明の実施形態に係る画像センサー10を示す概略図である。画像センサー10は画素アレイ11、垂直駆動ユニット12、制御ユニット13、列処理ユニット14及び水平駆動ユニット15を含む。
例えば、画像センサー10は、相補型金属酸化膜半導体(Complementary Metal Oxide Semiconductor、CMOS)感光素子、又は電荷結合素子(Charge-coupled Device、CCD)感光素子を使用することができる。
例えば、画素アレイ11は2次元アレイ状に配列された複数の画素(図2には図示せず)を含む。各画素は光電変換素子を含む。各画素は画素に入射した光を、光の強度に応じて電荷に変換する。
例えば、垂直駆動ユニット12はシフトレジスタ(shift register)とアドレスデコーダ(address decoder)を含む。垂直駆動ユニット12は、読み出しスキャン機能及びリセットスキャン(reset scan)機能を有する。読み出しスキャンとは、単位画素を行ごとに順次スキャンし、それらの単位画素から行ごとに信号を読み出すことである。例えば、選択されスキャンされる画素行における各画素から出力される信号は列処理ユニット14に送信される。リセットスキャンは電荷のリセットに用いられ、光電変換素子によって生成された光電荷が廃棄され、新たな光電荷の蓄積が始まる。
例えば、列処理ユニット14によって実行される信号処理は相関二重サンプリング(correlated double sampling、CDS)処理である。CDS処理において、選択された画素行における各画素から出力されるリセットレベルと信号レベルとを取り出し、リセットレベルと信号レベルとの差を計算する。これで、画素行における画素の信号を取得する。列処理ユニット14は、アナログ画素信号をデジタルフォーマットに変換するアナログ-デジタル(analog-to-didital、A/D)変換機能を有してもよい。
例えば、水平駆動ユニット15はシフトレジスタとアドレスデコーダを含む。水平駆動ユニット15は、画素アレイ11を列ごとに順次スキャンする。各画素列は、水平駆動ユニット15によって実行される選択スキャン動作を介して、列処理ユニット14により順次処理され、且つ順次出力される。
例えば、制御ユニット13は動作モードに応じてタイミング信号を構成し、様々なタイミング信号を用いて垂直駆動ユニット13、列処理ユニット14と水平駆動ユニット15が協力して動作するように制御する。
図3は、本発明の実施形態に係る画素アレイ11と露光制御線との接続を示す概略図である。画素アレイ11は2次元画素アレイである。2次元画素アレイは複数のパンクロマチック画素(panchromatic pixel)と複数のカラー画素を含む。パンクロマチック画素と比べて、カラー画素はより狭いスペクトル応答(spectral response)を有する。画素アレイ11における画素の配列は以下のようである。
W A W B
A W B W
W B W C
B W C W
なお、説明を容易にするために、図3では、画素アレイ11における一部の画素のみが示されており、周囲の他の画素及びワイヤーは省略記号「......」で置き換えられる。
図3に示されたように、画素1101、1103、1106、1108、1111、1113、1116、及び1118はパンクロマチック画素Wである。画素1102、1105は第一カラー画素A(例えば、赤色画素R)である。画素1104、1107、1112、1115は第二カラー画素B(例えば、緑色画素G)である。画素1114、1117は第三カラー画素C(例えば、青色画素Bu)である。図3から分かるように、パンクロマチック画素W(画素1101、1103、1106と1108)における露光制御回路の制御端子TGは一つの第一露光制御線TX1に結合され、パンクロマチック画素W(1111、1113、1116と1118)における露光制御回路の制御端子TGはもう一つの第一露光制御線TX1に結合される。第一カラー画素A(画素1102と1105)における露光制御回路の制御端子TG、及び第二カラー画素B(画素1104、1107)における露光制御回路の制御端子TGは一つの第二露光制御線TX2に結合される。第二カラー画素B(画素1112、1115)における露光制御回路の制御端子TG、及び第三カラー画素C(画素1114、1117)における露光制御回路の制御端子TGはもう一つの第二露光制御線TX2に結合される。パンクロマチック画素の露光期間は、各第一露光制御線TX1を介して第一露光制御信号によって制御されることができる。カラー画素(例えば、第一カラー画素Aと第二カラー画素B、第二カラー画素Bと第三カラー画素C)の露光期間は、各第二露光制御線TX2を介して第二露光制御信号によって制御されることができる。これで、パンクロマチック画素の露光期間とカラー画素の露光期間の独立した制御が実現されることができる。例えば、パンクロマチック画素の露光が終了した後、カラー画素の露光を継続することで、理想的な画像効果を得ることができる。
カラー画像センサーにおいて、異なる色の画素は単位時間あたりに受ける露光量が異なる。ある色は飽和しているが、他の色はまだ理想的な状態まで露光されていない。例えば、飽和露光量の60%~90%に露光すると、比較的良好な信号対雑音比と精度が得られるが、本発明の実施形態はこれに限定されるものではない。
図4では、RGBW(赤、緑、青、パンクロマチック)を例として説明する。図4において、横軸は露光期間で、縦軸は露光量であり、Qは飽和露光量、LWはパンクロマチック画素Wの露光曲線、LGは緑色画素Gの露光曲線、LRは赤色画素Rの露光曲線、LBは青色画素の露光曲線を表す。図4から分かるように、パンクロマチック画素Wの露光曲線LWの傾き(slope)が最も大きい。換言すると、パンクロマチック画素Wは単位時間当たりにより多くの露光量が得られ、時刻t1で飽和状態に達する。緑色画素Gの露光曲線LGの傾きは2番目に大きく、緑色画素Gは時刻t2で飽和に達する。赤色画素Rの露光曲線LRの傾きは3番目に大きく、赤色画素Rは時刻t3で飽和に達する。青色画素Bの露光曲線LBの傾きは最も小さく、青色画素Bは時刻t4で飽和に達する。時刻t1では、パンクロマチック画素Wは飽和に達しているが、R、G、Bという3つの画素の露光はまだ理想的な状態に達していない。
関連技術では、R、G、B、Wという4つの画素の露光期間は共同で制御される。例えば、各画素行は同じ露光期間を有し、同じ露光制御線に結合され、同じ露光制御信号によって制御される。例えば、引き続き図4を参照すると、0~t1の時間帯において、R、G、B、Wという4つの画素はは正常に動作することができる。しかし、この時間帯において、画素R、G、Bの露光期間が短く、露光量が少ないため、画像を表示すると輝度が低く、信号対雑音比が低く、さらに色の鮮やかさも損なわれる場合が出る。t1~t4の時間帯において、W画素は飽和による露光過多で動作することができない。露光量データはオブジェクトをリアルに反映することができない。
以上の理由に基づき、本発明に係る画像センサー10(図2に示されている)は、パンクロマチック画素Wの露光期間とカラー画素の露光期間を独立に制御することにより、パンクロマチック画素Wの露光期間の制限を低減し、パンクロマチック画素Wの露光とカラー画素(R、G、Bを含むがこれらに限定されない)の露光とのバランスを取ることができる。これで、画像撮影の品質を向上させることが可能である。図3は、パンクロマチック画素Wの露光期間とカラー画素の露光期間を独立に制御する例である。具体的には、異なる露光制御線を介してパンクロマチック画素Wとカラー画素の独立した露光制御を実現することによって、画像撮影の品質を向上させることができる。
図4の露光曲線は一つの例示に過ぎないことに留意されたい。画素の異なる応答波長帯(response waveband)によって、曲線の傾きと相対的な関係は変化する可能性がある。本発明は図4に示された状況に限定されない。例えば、赤色画素Rの応答波長帯が比較的に狭い場合、赤色画素Rの露光曲線の傾きは、青色画素Bの露光曲線の傾きより小い可能性がある。
図2及び図3を参照すると、第一露光制御線TX1と第二露光制御線TX2は、図2における垂直駆動ユニット12に結合されて、垂直駆動ユニット12における対応の露光制御信号を画素アレイ11における画素の露光制御回路の制御端子TGに伝送する。
画素アレイ11が複数の画素行のグループを有するため、垂直駆動ユニット12は複数の第一露光制御線TX1と複数の第二露光制御線TX2に結合される。複数の第一露光制御線TX1及び複数の第二露光制御線TX2の各々は、それぞれの画素行のグループに対応する。
例えば、1番目の第一露光制御線TX1は1行目と2行目のパンクロマチック画素に対応し、2番目の第一露光制御線TX1は3行目と4行目のパンクロマチック画素に対応する。このように、3番目の第一露光制御線TX1は5行目と6行目のパンクロマチック画素に対応し、4番目の第一露光制御線TX1は7行目と8行目のパンクロマチック画素に対応する。次の第一露光制御線TX1と次の行のパンクロマチック画素との対応関係については、本明細書では詳しく説明しない。異なる第一露光制御線TX1が伝送する信号タイミングも異なり、当該信号タイミングは垂直駆動ユニット12によって構成される。
例えば、1番目の第二露光制御線TX2は1行目と2行目のカラー画素に対応し、2番目の第二露光制御線TX2は3行目と4行目のカラー画素に対応する。このように、3番目の第二露光制御線TX2は5行目と6行目のカラー画素に対応し、4番目の第二露光制御線TX2は7行目と8行目のカラー画素に対応する。次の第二露光制御線TX2と次の行のカラー画素との対応関係については、本明細書では詳しく説明しない。異なる第二露光制御線TX2が伝送する信号タイミングも異なり、当該信号タイミングも垂直駆動ユニット12によって構成される。
図5は、本発明の実施形態に係る画素回路110を示す概略図である。図5における画素回路110は図3の各画素に応用される。以下、図3と図5を参照しながら画素回路110の動作原理を説明する。
図5に示されたように、画素回路110は、光電変換素子117(例えば、フォトダイオード(photodiode、PD))、露光制御回路116(例えば、転送トランジスタ112)、リセット回路(例えば、リセットトランジスタ113)、増幅回路(例えば、増幅トランジスタ114)及び選択回路(例えば、選択トランジスタ115)を含む。本発明の実施形態において、転送トランジスタ112、リセットトランジスタ113、増幅トランジスタ114及び選択トランジスタ115は、例えば、金属酸化物半導体(metal oxide semiconductor、MOS)トランジスタであることができるが、これに限定されない。
例えば、図2、図3及び図5を参照すると、転送トランジスタ112のゲートTGは露光制御線を介して垂直駆動ユニット12に結合される。リセットトランジスタ113のゲートRGはリセット制御線(図示せず)を介して垂直駆動ユニット12に結合される。選択トランジスタ114のゲートSELは選択線(図示せず)を介して垂直駆動ユニット12に結合される。各画素回路110における露光制御回路116(例えば、転送トランジスタ112)は、光電変換素子117に電気的に結合され、照明後に光電変換素子117が蓄積した電位を転送するように構成されている。例えば、光電変換素子117はフォトダイオードPDを含み、フォトダイオードPDの陽極は、例として、グランドに結合される。フォトダイオードPDは受光した光を電荷に変換する。フォトダイオードPDの陰極は露光制御回路116(例えば、転送トランジスタ112)を介してフローティングディフュージョン(floating diffusion)ユニットFDに結合される。フローティングディフュージョンユニットFDは増幅トランジスタ114のゲート、及びリセットトランジスタ113のソースに結合される。
例えば、露光制御回路116は転送トランジスタ112であり、露光制御回路116の制御端子TGは転送トランジスタ112のゲートである。有効レベル(例えば、VPIXレベル)のパルスが露光制御線(例えば、TX1又はTX2)を介して転送トランジスタ112のゲートに伝送されると、転送トランジスタ112はオンとなる。転送トランジスタ112は、フォトダイオードPDによる光電変換で生成した電荷をフローティングディフュージョンユニットFDに伝送する。
例えば、リセットトランジスタ113のドレインは画素電源VPIXに結合される。リセットトランジスタ113のソースはフローティングディフュージョンユニットFDに結合される。電荷がフォトダイオードPDからフローティングディフュージョンユニットFDに転送される前に、有効リセットレベルのパルスはリセット線を介してリセットトランジスタ113のゲートに伝送され、リセットトランジスタ113はオンとなる。リセットトランジスタ113はフローティングディフュージョンユニットFDを画素電源VPIXにリセットする。
例えば、増幅トランジスタ114のゲートはフローティングディフュージョンユニットFDに結合される。増幅トランジスタ114のドレインは画素電源VPIXに結合される。フローティングディフュージョンユニットFDがリセットトランジスタ113によってリセットされた後、増幅トランジスタ114は選択トランジスタ115を介して出力端子OUTからリセットレベルを出力する。フォトダイオードPDの電荷が転送トランジスタ112に転送された後、増幅トランジスタ114は選択トランジスタ115を介して出力端子OUTから信号レベルを出力する。
例えば、選択トランジスタ115のドレインは増幅トランジスタ114のソースに結合される。選択トランジスタ115のソースは、出力端子OUTを介して図2における列処理ユニット14に結合される。有効レベルのパルスが選択線を介して選択トランジスタ115のゲートに伝送されると、選択トランジスタ115はオンとなる。増幅トランジスタ114が出力した信号は選択トランジスタ115を介して列処理ユニット14に伝送される。
本発明の実施形態における画素回路110の画素構造は、図5に例示した構造に限定されないことに留意されたい。例えば、画素回路110は、スリートランジスタ(three-transistor)の画素構造を有してもよく、増幅トランジスタ114と選択トランジスタ115の機能は一つのトランジスタによって実現される。例えば、露光制御回路116も一つの転送トランジスタ112に限定されず、導通機能を制御する制御端子を有する他の電子デバイスや構造体はいずれも、本発明の実施形態における露光制御回路とされることが可能である。一つの転送トランジスタ112の実装は簡単で、低コストであり、制御が容易である。
図6~図21は、画像センサー10(図2に示されている)における画素の配列の様々な例を示した。図2、及び図6~図21を参照すると、画像センサー10は、複数のカラー画素(例えば、複数の第一カラー画素A、複数の第二カラー画素B及び複数の第三カラー画素C)及び複数のパンクロマチック画素Wからなる2次元画素アレイ(即ち、図3に示された画素アレイ11)を含む。パンクロマチック画素と比べて、カラー画素はより狭いスペクトル応答を有する。カラー画素の応答スペクトルは、例えば、パンクロマチック画素Wの応答スペクトルの一部である。2次元画素アレイは最小繰り返しユニット(図6~図21は画像センサー10における画素の最小繰り返しユニットの様々な例を示した)を含む。2次元画素アレイは複数の最小繰り返しユニットからなる。最小繰り返しユニットは、行と列に繰り返されて配列されている。最小繰り返しユニットにおいて、パンクロマチック画素Wは第一対角線方向D1に配置されており、カラー画素は第二対角線方向D2に配置されている。第一対角線方向D1と第二対角線方向D2は異なる。第一対角線方向D1において隣接する少なくとも2つのパンクロマチック画素の第一露光期間は第一露光信号によって制御される。第二対角線方向D2において隣接する少なくとも2つのカラー画素の第二露光期間は第二露光信号によって制御される。これで、パンクロマチック画素の露光期間とカラー画素の露光期間の独立した制御を実現する。各最小繰り返しユニットはいずれも複数のサブユニットを含む。各サブユニットは複数の単色画素(例えば、複数の第一カラー画素A、複数の第二カラー画素B又は複数の第三カラー画素C)及び複数のパンクロマチック画素Wを含む。例えば、図3と図5を参照すると、画素1101~1108及び画素1111~1118は一つの最小繰り返しユニットを形成する。画素1101、1103、1106、1108、1111、1113、1116及び1118はパンクロマチック画素で、画素1102、1104、1105、1107、1112、1114、1115及び1117はカラー画素である。画素1101、1102、1105及び1106は一つのサブユニットを形成する。画素1101及び1106はパンクロマチック画素で、画素1102及び1105は単色画素(例えば、第一カラー画素A)である。画素1103、1104、1107及び1108は一つのサブユニットを形成する。画素1103及び1108はパンクロマチック画素で、画素1104及び1107は単色画素(例えば、第二カラー画素B)である。画素1111、1112、1115及び1116は一つのサブユニットを形成する。画素1111及び1116はパンクロマチック画素で、画素1112及び1115は単色画素(例えば、第二カラー画素B)である。画素1113、1114、1117及び1118は一つのサブユニットを形成する。画素1113及び1118はパンクロマチック画素で、画素1114及び1117は単色画素(例えば、第三カラー画素C)である。
例えば、最小繰り返しユニットでは、行の画素数と列の画素数が等しい。例えば、最小繰り返しユニットとしては、4行4列、6行6列、8行8列、10行10列の最小繰り返しユニットが挙げられるがこれらに限定されない。例えば、最小繰り返しユニットにおけるサブユニットでは、行の画素数と列の画素数が等しい。例えば、サブユニットとしては、2行2列、3行3列、4行4列、5行5列のサブユニットが挙げられるがこれらに限定されない。このような配置は、行方向と列方向の画像の解像度とカラーパフォーマンスのバランスを取るのに役立ち、表示効果を向上させることができる。
例えば、図6は、本発明の実施形態に係る最小繰り返しユニット1181における画素の配列を示す概略図である。最小繰り返しユニットは4行4列で、16の画素を有する。サブユニットは2行2列で、4の画素を有する。画素の配列は以下のようである。
W A W B
A W B W
W B W C
B W C W
Wはパンクロマチック画素を表し、Aは複数のカラー画素における第一カラー画素を表し、Bは複数のカラー画素における第二カラー画素を表し、Cは複数のカラー画素における第三カラー画素を表す。
例えば、図6に示されたように、パンクロマチック画素Wは第一対角線方向D1(即ち、図6における左上隅と右下隅とを結ぶ方向)に配置されており、カラー画素は第二対角線方向D2(例えば、図6における左下隅と右上隅とを結ぶ方向)に配置されている。第一対角線方向D1と第二対角線方向D2は異なる。例えば、第一対角線は第二対角線に対して垂直である。第一対角線方向D1において隣接する2つのパンクロマチック画素W(例えば、左上から1行目1列目のパンクロマチック画素と2行目2列目のパンクロマチック画素)の第一露光期間は第一露光信号によって制御される。第二対角線方向D2において隣接する少なくとも2つのカラー画素(例えば、左上から4行目1列目のカラー画素Bと3行目2列目のカラー画素B)の第二露光期間は第二露光信号によって制御される。
第一対角線方向D1と第二対角線方向D2は対角線に限らず、対角線に平行な方向をさらに含む。例えば、図6において、パンクロマチック画素1101、1106、1113、及び1118は第一対角線方向D1に配置されており、パンクロマチック画素1103及び1108も第一対角線方向D1に配置されており、パンクロマチック画素1111及び1116も第一対角線方向D1に配置されている。第二カラー画素1104、1107、1112、及び1115は第二対角線方向D2に配置されており、第一カラー画素1102及び1105も第二対角線方向D2に配置されており、第三カラー画素1114及び1117も第二対角線方向D2に配置されている。以下、図7~図21における第一対角線方向D1及び第二対角線方向D2についても、上記と同様に説明する。上記「方向」は、単一方向ではなく、配列を示す「直線」の概念として理解されることができ、その直線の両端に示される双方向を有してもよい。
上記及び下記の用語「上」、「下」、「左」、「右」などによって示される方位又は位置関係は、図面に示された方位又は位置関係に基づくことが理解されるべきである。それは本発明の説明を容易にし、説明を簡略化するためのものに過ぎず、言及された装置又は素子が特定の方位を有し、特定の方位で構成及び動作しなければならないことを示したり暗示したりするものではない。従って、本発明を制限するものと理解されるべきではない。
例えば、図6に示されたように、1行目と2行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。1行目と2行目のカラー画素(AとB)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。3行目と4行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。3行目と4行目のカラー画素(BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。例えば、第一露光信号は第一露光制御線TX1を介して伝送され、第二露光信号は第二露光制御線TX2を介して伝送される。例えば、第一露光制御線TX1は「W」状で、隣接する2行のパンクロマチック画素における露光制御回路の制御端子に電気的に結合される。第二露光制御線TX2は「W」状で、隣接する2行のカラー画素の露光制御回路の制御端子に電気的に結合される。具体的な結合方式については、前記図3及び図5の関連部分の結合及び画素回路の説明を参照することができる。
第一露光制御線TX1と第二露光制御線TX2が「W」状であることは、物理的な配線を厳密に「W」状に従って設定しなければならないということを意味せず、結合方式がパンクロマチック画素及びカラー画素の配列に対応すればいいということを意味する。例えば、「W」状の露光制御線の設定は「W」状の画素の配列に対応する。このような設定では、配線がシンプルで、画素配列の解像度や色彩効果も良好で、パンクロマチック画素の露光期間とカラー画素の露光期間の独立した制御を低コストで実現することができる。
例えば、図7は、本発明の実施形態に係る別の最小繰り返しユニット1182における画素の配列を示す概略図である。最小繰り返しユニットは4行4列で、16の画素を有する。サブユニットは2行2列で、4の画素を有する。画素の配列は以下のようである。
A W B W
W A W B
B W C W
W B W C
Wはパンクロマチック画素を表し、Aは複数のカラー画素における第一カラー画素を表し、Bは複数のカラー画素における第二カラー画素を表し、Cは複数のカラー画素における第三カラー画素を表す。
例えば、図7に示されたように、パンクロマチック画素Wは第一対角線方向D1(即ち、図7における右上隅と左下隅とを結ぶ方向)に配置されており、カラー画素は第二対角線方向D2(例えば、図7における左上隅と右下隅とを結ぶ方向)に配置されている。例えば、第一対角線は第二対角線に対して垂直である。第一対角線方向D1において隣接する2つのパンクロマチック画素W(例えば、左上から1行目2列目のパンクロマチック画素と2行目1列目のパンクロマチック画素)の第一露光期間は第一露光信号によって制御される。第二対角線方向において隣接する少なくとも2つのカラー画素(例えば、左上から1行目1列目のカラー画素Aと2行目2列目のカラー画素A)の第二露光期間は第二露光信号によって制御される。
例えば、図7に示されたように、1行目と2行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。1行目と2行目のカラー画素(AとB)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。3行目と4行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。3行目と4行目のカラー画素(BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。
例えば、図8は、本発明の実施形態に係る別の最小繰り返しユニット1183における画素の配列を示す概略図である。図9は、本発明の実施形態に係る別の最小繰り返しユニット1184における画素の配列を示す概略図である。図8と図9の実施形態はそれぞれ図6と図7の配列に対応し、第一カラー画素Aは赤色画素Rで、第二カラー画素Bは緑色画素Gで、第三カラー画素Cは青色画素Buである。
いくつかの実施形態において、パンクロマチック画素Wの応答波長帯は可視光波長帯(例えば、400nm~760nm)である。例えば、赤外光をフィルタリングするために、パンクロマチック画素Wに赤外フィルタが配置されている。いくつかの実施形態において、パンクロマチック画素Wの応答波長帯は、可視光波長帯と近赤外波長帯(例えば、400nm~1000nm)であり、画像センサー10における光電変換素子(例えば、フォトダイオードPD)の応答波長帯にマッチする。例えば、パンクロマチック画素Wにフィルタが配置されなくてもよく、パンクロマチック画素Wの応答波長帯はフォトダイオードの応答波長帯によって確定され、即ち、パンクロマチック画素Wの応答波長帯はフォトダイオードの応答波長帯にマッチする。本発明の実施形態は上記波長帯を含むが、それらに限定されない。
例えば、図10は、本発明の実施形態に係る別の最小繰り返しユニット1185における画素の配列を示す概略図である。図11は、本発明の実施形態に係る別の最小繰り返しユニット1186における画素の配列を示す概略図である。図10と図11の実施形態はそれぞれ図6と図7の配列に対応し、第一カラー画素Aは赤色画素Rで、第二カラー画素Bは黄色画素Yで、第三カラー画素Cは青色画素Buである。
例えば、図12は、本発明の実施形態に係る別の最小繰り返しユニット1187における画素の配列を示す概略図である。図13は、本発明の実施形態に係る別の最小繰り返しユニット1188における画素の配列を示す概略図である。図12と図13の実施形態はそれぞれ図6と図7の配列に対応し、第一カラー画素Aは赤紫色画素Mで、第二カラー画素Bは青緑色画素Cyで、第三カラー画素Cは黄色画素Yである。
例えば、図14は、本発明の実施形態に係る別の最小繰り返しユニット1191における画素の配列を示す概略図である。最小繰り返しユニットは6行6列で、36の画素を有する。サブユニットは3行3列で、9の画素を有する。画素の配列は以下のようである。
W A W B W B
A W A W B W
W A W B W B
B W B W C W
W B W C W C
B W B W C W
Wはパンクロマチック画素を表し、Aは複数のカラー画素における第一カラー画素を表し、Bは複数のカラー画素における第二カラー画素を表し、Cは複数のカラー画素における第三カラー画素を表す。
例えば、図14に示されたように、1行目と2行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。1行目と2行目のカラー画素(AとB)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。3行目と4行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。3行目と4行目のカラー画素(A、BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。5行目と6行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。5行目と6行目のカラー画素(BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。
例えば、図15は、本発明の実施形態に係る別の最小繰り返しユニット1192における画素の配列を示す概略図である。最小繰り返しユニットは6行6列で、36の画素を有する。サブユニットは3行3列で、9の画素を有する。画素の配列は以下のようである。
A W A W B W
W A W B W B
A W A W B W
W B W C W C
B W B W C W
W B W C W C
Wはパンクロマチック画素を表し、Aは複数のカラー画素における第一カラー画素を表し、Bは複数のカラー画素における第二カラー画素を表し、Cは複数のカラー画素における第三カラー画素を表す。
例えば、図15に示されたように、1行目と2行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。1行目と2行目のカラー画素(AとB)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。3行目と4行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。3行目と4行目のカラー画素(A、BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。5行目と6行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。5行目と6行目のカラー画素(BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。
例えば、図16は、本発明の実施形態に係る別の最小繰り返しユニット1193における画素の配列を示す概略図である。図17は、本発明の実施形態に係る別の最小繰り返しユニット1194における画素の配列を示す概略図である。図16と図17の実施形態はそれぞれ図14と図15の配列に対応し、第一カラー画素Aは赤色画素Rで、第二カラー画素Bは緑色画素Gで、第三カラー画素Cは青色画素Buである。
例えば、他の実施形態において、第一カラー画素Aは赤色画素Rで、第二カラー画素Bは黄色画素Yで、第三カラー画素Cは青色画素Buである。例えば、他の実施形態において、第一カラー画素Aは赤紫色画素Mで、第二カラー画素Bは青緑色画素Cyで、第三カラー画素Cは黄色画素Yである。本発明の実施形態は上記を含むが上記に限定されない。具体的な回路の結合方法については、上記を参照することができ、ここでは詳しく説明しない。
例えば、図18は、本発明の実施形態に係る別の最小繰り返しユニット1195における画素の配列を示す概略図である。最小繰り返しユニットは8行8列で、64の画素を有する。サブユニットは4行4列で、16の画素を有する。画素の配列は以下のようである。
W A W A W B W B
A W A W B W B W
W A W A W B W B
A W A W B W B W
W B W B W C W C
B W B W C W C W
W B W B W C W C
B W B W C W C W
Wはパンクロマチック画素を表し、Aは複数のカラー画素における第一カラー画素を表し、Bは複数のカラー画素における第二カラー画素を表し、Cは複数のカラー画素における第三カラー画素を表す。
例えば、図18に示されたように、1行目と2行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。1行目と2行目のカラー画素(AとB)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。3行目と4行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。3行目と4行目のカラー画素(AとB)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。5行目と6行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。5行目と6行目のカラー画素(BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。7行目と8行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。7行目と8行目のカラー画素(BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。
例えば、図19は、本発明の実施形態に係る別の最小繰り返しユニット1196における画素の配列を示す概略図である。最小繰り返しユニットは8行8列で、64の画素を有する。サブユニットは4行4列で、16の画素を有する。画素の配列は以下のようである。
A W A W B W B W
W A W A W B W B
A W A W B W B W
W A W A W B W B
B W B W C W C W
W B W B W C W C
B W B W C W C W
W B W B W C W C
Wはパンクロマチック画素を表し、Aは複数のカラー画素における第一カラー画素を表し、Bは複数のカラー画素における第二カラー画素を表し、Cは複数のカラー画素における第三カラー画素を表す。
例えば、図19に示されたように、1行目と2行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。1行目と2行目のカラー画素(AとB)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。3行目と4行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。3行目と4行目のカラー画素(AとB)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。5行目と6行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。5行目と6行目のカラー画素(BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。7行目と8行目のパンクロマチック画素が「W」状の第一露光制御線TX1によって結合されることで、パンクロマチック画素の露光期間の独立した制御を実現する。7行目と8行目のカラー画素(BとC)が「W」状の第二露光制御線TX2によって結合されることで、カラー画素の露光期間の独立した制御を実現する。
例えば、図20は、本発明の実施形態に係る別の最小繰り返しユニット1197における画素の配列を示す概略図である。図21は、本発明の実施形態に係る別の最小繰り返しユニット1198における画素の配列を示す概略図である。図20と図21の実施形態はそれぞれ図18と図19の配列に対応し、第一カラー画素Aは赤色画素Rで、第二カラー画素Bは緑色画素Gで、第三カラー画素Cは青色画素Buである。
例えば、他の実施形態において、第一カラー画素Aは赤色画素Rで、第二カラー画素Bは黄色画素Yで、第三カラー画素Cは青色画素Buである。例えば、第一カラー画素Aは赤紫色画素Mで、第二カラー画素Bは青緑色画素Cyで、第三カラー画素Cは黄色画素Yである。本発明の実施形態は上記を含むが上記に限定されない。具体的な回路の結合方法については、上記を参照することができ、ここでは詳しく説明しない。
図6~図21に示された上記実施形態から分かるように、画像センサー10(図2に示されている)はマトリクス状に配列された複数のカラー画素と複数のパンクロマチック画素Wを含む。カラー画素とパンクロマチック画素は、行方向及び列方向において等間隔で配列されている。
例えば、行方向には、パンクロマチック画素、カラー画素、パンクロマチック画素、カラー画素……が交替で配置されている。
例えば、列方向には、パンクロマチック画素、カラー画素、パンクロマチック画素、カラー画素……が交替で配置されている。
図3と図4を参照すると、第一露光制御線TX1は、(2n-1)行目と2n行目のパンクロマチック画素Wにおける露光制御回路116の制御端子TG(例えば、転送トランジスタ112のゲート)に電気的に結合される。第二露光制御線TX2は、(2n-1)行目と第2n行目のカラー画素における露光制御回路116の制御端子TG(例えば、転送トランジスタ112のゲート)に電気的に結合される。nは1以上の自然数である。
例えば、n=1の場合、第一露光制御線TX1は、1行目と2行目のパンクロマチック画素Wにおける露光制御回路116の制御端子TGに電気的に結合される。第二露光制御線TX2は、1行目と2行目のカラー画素における露光制御回路116の制御端子TGに電気的に結合される。n=2の場合、第一露光制御線TX1は、3行目と4行目のパンクロマチック画素Wにおける露光制御回路116の制御端子TGに電気的に結合される。第二露光制御線TX2は、3行目と4行目のカラー画素における露光制御回路116の制御端子TGに電気的に結合される。nが他の値である場合、結合方式は以上のようであり、ここでは詳しく説明されない。
いくつかの実施形態において、第一露光期間は第二露光期間より短い。いくつかの実施形態において、第二露光期間に対する第一露光期間の比は1:2、1:3又は1:4のうちの一つである。例えば、暗い環境では、カラー画素が露光不足になる可能性が高くなる。従って、環境の明度に応じて、第二露光期間に対する第一露光期間の比を、1:2、1:3又は1:4に調整することができる。例えば、露光比が上記整数比又は整数比に近い値であると、タイミングの設定や信号の設定と制御に有利である。
図22を参照すると、関連技術では、画像センサーの画素アレイがパンクロマチック画素及びカラー画素を同時に含む場合、画像センサーは、動作している間、画素アレイにおける各パンクロマチック画素の画素値を他のカラー画素の画素値にフィッティングして、カラー画素のみを含むオリジナル画像を出力する。具体的に、一例として、画素Aは赤色画素Rで、画素Bは緑色画素Gで、画素Cは青色画素Buである。画像センサーにおける列処理ユニットが複数の赤色画素Rの画素値、複数の緑色画素Gの画素値、複数の青色画素Buの画素値、及び複数のパンクロマチック画素Wの画素値を読み出した後、画像センサーはまず、各パンクロマチック画素Wの画素値を当該パンクロマチック画素に隣接する赤色画素R、緑色画素G、及び青色画素Buにフィッティングして、非ベイヤー配列で配置された画像をベイヤー配列で配置されたオリジナル画像に変換して出力する。それによって、処理チップによるオリジナル画像への後続の処理が行われる。例えば、フルカラー画像(フルカラー画像(full-color image)における各画素の画素値はいずれも赤色、緑色及び青色という三つのコンポーネントからなる)を取得するように、オリジナル画像に対して補間処理を行う。このような処理方法では、画像センサーは、計算量の多い且つ複雑なアルゴリズムを実行する必要がある。また、クアルコム(Qualcomn)プラットフォームが非ベイヤー配列で配置された画像の処理をサポートしないため、非ベイヤー配列で配置された画像をベイヤー配列で配置されたオリジナル画像に変換する処理を実行するには、画像センサーに追加のハードウェア(例えば、追加の処理チップ)を加える必要がある場合がある。
画像センサーの計算量を低減し、且つ画像センサーに追加のハードウェアを加えることを避けるために、本発明は画像キャプチャ方法を提供する。図23に示されたように、画像キャプチャ方法は以下の内容を含む。
01、パンクロマチックオリジナル画像(panchromatic original image)とカラーオリジナル画像(color original image)を取得するように、2次元画素アレイの露光を制御する。
02、各サブユニットにおける全ての画素を当該サブユニットにおける単色に対応する単色大画素(monochromatic large pixel)とするように、カラーオリジナル画像を処理し、且つ、カラー中間画像(color intermediate image)を取得するように、単色大画素の画素値を出力する。
03、パンクロマチック中間画像(panchromatic intermediate image)を取得するように、パンクロマチックオリジナル画像を処理する。及び、
04、目標画像を取得するように、カラー中間画像及び/又はパンクロマチック中間画像を処理する。
図1と図2を参照すると、本発明の画像キャプチャ方法はカメラアセンブリ40によって実施され得る。ステップ01は画像センサー10によって実施され得る。ステップ02、ステップ03及びステップ04は処理チップ20によって実施され得る。換言すると、画像センサー10はパンクロマチックオリジナル画像とカラーオリジナル画像を取得するように露光されることができる。処理チップ20は、各サブユニットにおける全ての画素を当該サブユニットにおける単色に対応する単色大画素とするように、カラーオリジナル画像を処理し、且つ、カラー中間画像を取得するように単色大画素の画素値を出力するように構成されている。処理チップ20はさらに、パンクロマチック中間画像を取得するようにパンクロマチックオリジナル画像を処理し、及び、目標画像を取得するようにカラー中間画像及び/又はパンクロマチック中間画像を処理するように構成されている。
具体的に、図2と図24を参照すると、ユーザが撮影を要請すると、画像センサー10における垂直駆動ユニット12は、2次元画素アレイにおける複数のパンクロマチック画素と複数のカラー画素を露光するように制御する。列処理ユニット14は各パンクロマチック画素の画素値及び各カラー画素の画素値を読み出す。画像センサー10は、パンクロマチック画素の画素値をカラー画素の画素値にフィッティングする操作を実行せず、複数のパンクロマチック画素の画素値に基づいて一つのパンクロマチックオリジナル画像を直接に出力し、且つ複数のカラー画素の画素値に基づいて一つのカラーオリジナル画像を直接に出力する。
図24に示されたように、パンクロマチックオリジナル画像は複数のパンクロマチック画素W及び複数の空画素N(NULL)を含み、空画素はパンクロマチック画素でもカラー画素でもない。パンクロマチックオリジナル画像における空画素Nの位置には画素がないとみなされることができ、又は、空画素の画素値は0とみなされることができる。2次元画素アレイとパンクロマチックオリジナル画像との比較から分かるように、2次元画素アレイにおける各サブユニットについては、当該サブユニットは2つのパンクロマチック画素Wと2つのカラー画素(カラー画素A、カラー画素B、又はカラー画素C)を含む。パンクロマチックオリジナル画像は、2次元画素アレイにおける各サブユニットに対応するサブユニットを含む。パンクロマチックオリジナル画像のサブユニットは2つのパンクロマチック画素Wと2つの空画素Nを含み、2つの空画素Nの位置は2次元画素アレイにおけるサブユニットにおける2つのカラー画素の位置に対応する。
同様に、カラーオリジナル画像は複数のカラー画素及び複数の空画素Nを含み、空画素はパンクロマチック画素でもカラー画素でもない。カラーオリジナル画像における空画素Nの位置には画素がないとみなされることができ、又は、空画素の画素値は0とみなされることができる。2次元画素アレイとカラーオリジナル画像との比較から分かるように、2次元画素アレイにおける各サブユニットについては、当該サブユニットは2つのパンクロマチック画素Wと2つのカラー画素を含む。カラーオリジナル画像は2次元画素アレイにおける各サブユニットに対応するサブユニットを含む。カラーオリジナル画像のサブユニットは2つのカラー画素と2つの空画素Nを含み、2つの空画素Nの位置は2次元画素アレイにおけるサブユニットにおける2つのパンクロマチック画素Wの位置に対応する。
処理チップ20は、画像センサー10が出力したパンクロマチックオリジナル画像とカラーオリジナル画像を受け取った後、パンクロマチックオリジナル画像をさらに処理してパンクロマチック中間画像を取得し、且つカラーオリジナル画像をさらに処理してカラー中間画像を取得することができる。例示的に、カラーオリジナル画像は図25に示された方法でカラー中間画像に変換されることができる。図25に示されたように、カラーオリジナル画像は複数のサブユニットを含み、各サブユニットはいずれも複数の空画素Nと複数の単色のカラー画素(単色画素とも呼ばれる)を含む。具体的に、一部のサブユニットは2つの空画素Nと2つの単色画素Aを含み、一部のサブユニットは2つの空画素Nと2つの単色画素Bを含み、一部のサブユニットは2つの空画素Nと2つの単色画素Cを含む。処理チップ20は、空画素Nと単色画素Aとを含むサブユニットにおける全ての画素を当該サブユニットにおける単色Aに対応する単色大画素Aとし、空画素Nと単色画素Bとを含むサブユニットにおける全ての画素を当該サブユニットにおける単色Bに対応する単色大画素Bとし、空画素Nと単色画素Cとを含むサブユニットにおける全ての画素を当該サブユニットにおける単色Cに対応する単色大画素Cとすることができる。これで、処理チップ20は複数の単色大画素A、複数の単色大画素B、及び複数の単色大画素Cに基づいて一つのカラー中間画像を形成することができる。複数の空画素Nを含むカラーオリジナル画像を第二解像度を有する一つの画像とみなすと、図25に示された方法で取得されたカラー中間画像は第一解像度を有する一つの画像であり、第一解像度は第二解像度より小さい。処理チップ20は、パンクロマチック中間画像及びカラー中間画像を取得した後、目標画像を取得するようにパンクロマチック中間画像及び/又はカラー中間画像をさらに処理することができる。具体的に、処理チップ20は、目標画像を取得するようにパンクロマチック中間画像のみを処理してもよく、処理チップ20は目標画像を取得するようにカラー中間画像のみを処理してもよく、さらに、処理チップ20は目標画像を取得するようにパンクロマチック中間画像とカラー中間画像とを同時に処理してもよい。処理チップ20は、実際のニーズに応じて2つの中間画像の処理方法を決定することができる。
上記のように、本発明の実施形態の画像キャプチャ方法では、画像センサー10はパンクロマチックオリジナル画像とカラーオリジナル画像を直接に出力することができる。パンクロマチックオリジナル画像とカラーオリジナル画像の後続処理は処理チップ20によって実行される。画像センサー10はパンクロマチック画素Wの画素値をカラー画素の画素値にフィッティングする操作を実行する必要がない。これで、画像センサー10の計算量を低減することができる。且つ画像センサー10に画像センサーによる画像処理の実行をサポートするための新たなハードウェアを追加する必要がない。これで、画像センサー10の設計を簡素化することができる。
いくつかの実施形態において、パンクロマチックオリジナル画像とカラーオリジナル画像を取得するように2次元画素アレイの露光を制御するというステップ01は、様々な態様で実施されることができる。
図26を参照すると、一つの例において、ステップ01は以下の内容を含む。
011、2次元画素アレイにおける全てのパンクロマチック画素と全てのカラー画素を同時に露光するように制御する。
012、パンクロマチックオリジナル画像を取得するように全てのパンクロマチック画素の画素値を出力する。及び、
013、カラーオリジナル画像を取得するように全てのカラー画素の画素値を出力する。
図1を参照すると、ステップ011、ステップ012及びステップ013はいずれも画像センサー10によって実施され得る。換言すると、画像センサー10における全てのパンクロマチック画素と全てのカラー画素が同時に露光される。画像センサー10は、パンクロマチックオリジナル画像を取得するように全てのパンクロマチック画素の画素値を出力することができ、カラーオリジナル画像を取得するように全てのカラー画素の画素値を出力することもできる。
図2と図3を参照すると、パンクロマチック画素とカラー画素は同時に露光され得る。パンクロマチック画素の露光期間はカラー画素の露光期間以下であることができる。具体的に、パンクロマチック画素の第一露光期間がカラー画素の第二露光期間に等しい場合、パンクロマチック画素の露光開始時点及び露光終了時点はそれぞれ、カラー画素の露光開始時点及び露光終了時点と同じである。第一露光期間が第二露光期間より短い場合、パンクロマチック画素の露光開始時点はカラー画素の露光開始時点より遅い又はカラー画素の露光開始時点と同じであり、且つパンクロマチック画素の露光終了時点はカラー画素の露光終了時点より早い。又は、第一露光期間が第二露光期間より短い場合、パンクロマチック画素の露光開始時点はカラー画素の露光開始時点より遅く、且つパンクロマチック画素の露光終了時点はカラー画素の露光終了時点より早い又はカラー画素の露光終了時点と同じである。パンクロマチック画素とカラー画素の露光が終了した後、画像センサー10はパンクロマチックオリジナル画像を取得するように全てのパンクロマチック画素の画素値を出力し、且つカラーオリジナル画像を取得するように全てのカラー画素の画素値を出力する。パンクロマチックオリジナル画像がカラーオリジナル画像より先に出力されてもよい。又は、カラーオリジナル画像がパンクロマチックオリジナル画像より先に出力されてもよい。又は、パンクロマチックオリジナル画像とカラーオリジナル画像とが同時に出力されてもよい。本明細書において、その出力順序は限定されない。パンクロマチック画素とカラー画素を同時に露光することにより、パンクロマチックオリジナル画像及びカラーオリジナル画像の取得時間を短縮し、パンクロマチックオリジナル画像及びカラーオリジナル画像の取得を早めることができる。パンクロマチック画素とカラー画素の同時露光は、高速撮影モードや連続撮影モードなどのような高い画像出力速度が要求されるモードにおいて大きなメリットを有する。
図27を参照すると、別の例において、ステップ01は以下の内容を含む。
014、2次元画素アレイにおける全てのパンクロマチック画素と全てのカラー画素を異なるタイミングで露光するように制御する。
015、パンクロマチックオリジナル画像を取得するように全てのパンクロマチック画素の画素値を出力する。及び、
016、カラーオリジナル画像を取得するように全てのカラー画素の画素値を出力する。
図1を参照すると、ステップ014、ステップ015及びステップ016はいずれも画像センサー10によって実施され得る。換言すると、画像センサー10における全てのパンクロマチック画素と全てのカラー画素は異なるタイミングで露光される。画像センサー10は、パンクロマチックオリジナル画像を取得するように全てのパンクロマチック画素の画素値を出力することができ、カラーオリジナル画像を取得するように全てのカラー画素の画素値を出力することもできる。
具体的に、パンクロマチック画素とカラー画素は異なるタイミングで露光されてもよい。パンクロマチック画素の露光期間はカラー画素の露光期間以下であることができる。具体的に、第一露光期間と第二露光期間が等しいか否かにかかわらず、全てのパンクロマチック画素と全てのカラー画素は以下のように異なるタイミングで露光されることができる。(1)全てのパンクロマチック画素は第一露光期間中に露光され、全てのパンクロマチック画素の露光が終了した後、全てのカラー画素は第二露光期間中に露光される。(2)全てのカラー画素は第二露光期間中に露光され、全てのカラー画素の露光が終了した後、全てのパンクロマチック画素は第一露光期間中に露光される。パンクロマチック画素とカラー画素の露光が終了した後、画像センサー10はパンクロマチックオリジナル画像を取得するように全てのパンクロマチック画素の画素値を出力し、且つカラーオリジナル画像を取得するように全てのカラー画素の画素値を出力する。パンクロマチックオリジナル画像とカラーオリジナル画像は以下のように出力されることができる。(1)パンクロマチック画素がカラー画素より先に露光される場合、画像センサー10は、カラー画素の露光中にパンクロマチックオリジナル画像を出力してもよく、カラー画素の露光が終了した後にパンクロマチックオリジナル画像とカラーオリジナル画像を順次に出力してもよい。(2)カラー画素がパンクロマチック画素より先に露光される場合、画像センサー10は、パンクロマチック画素の露光中にカラーオリジナル画像を出力してもよく、パンクロマチック画素の露光が終了した後にカラーオリジナル画像とパンクロマチックオリジナル画像を順次に出力してもよい。(3)パンクロマチック画素とカラー画素とのいずれが先に露光されるかにかかわらず、画像センサー10は、全ての画素の露光が終了した後に、パンクロマチックオリジナル画像とカラーオリジナル画像を同時に出力してもよい。この例では、パンクロマチック画素とカラー画素を異なるタイミングで露光する制御ロジックは比較的にシンプルである。
画像センサー10は、図26及び図27に示されたように、パンクロマチック画素とカラー画素を同時に露光するように制御する機能と、パンクロマチック画素とカラー画素を異なるタイミングで露光するように制御する機能とを備える。画像をキャプチャするプロセスにおいて画像センサー10が具体的にどの露光方法を使用するかは、実際のニーズに応じて決められることができる。例えば、高速撮影モード、連続撮影モードなどのモードでは、高速画像出力という要求を満たすために、同時露光の方法を用いることができる。通常の撮影モードでは、制御ロジックを簡素化するために、異なるタイミングでの露光を用いることができる。
図26及び図27に示された2つの例において、パンクロマチック画素とカラー画素の露光順序は画像センサー10における制御ユニット13によって制御されることができる。
図26及び図27に示された2つの例において、パンクロマチック画素の露光期間は第一露光信号によって制御され、カラー画素の露光期間は第二露光信号によって制御されることができる。
具体的に、図3を参照すると、一例として、画像センサー10は、第一露光信号で、第一対角線方向において隣接する少なくとも2つのパンクロマチック画素を第一露光期間中に露光するように制御することができ、且つ第二露光信号で、第二対角線方向において隣接する少なくとも2つのカラー画素を第二露光期間中に露光するように制御することができる。第一露光期間は第二露光期間以下であることができる。具体的に、画像センサー10における垂直駆動ユニット12は、第一露光制御線TX1を介して第一露光信号を伝送することで、第一対角線方向において隣接する少なくとも2つのパンクロマチック画素を第一露光期間中に露光するように制御する。垂直駆動ユニット12は第二露光制御線TX2を介して第二露光信号を伝送することで、第二対角線方向において隣接する少なくとも2つのカラー画素を第二露光期間中に露光するように制御する。全てのパンクロマチック画素と全てのカラー画素の露光が終了した後、図24に示されたように、画像センサー10は、複数のパンクロマチック画素の画素値をカラー画素の画素値にフィッティングする処理を実行せず、一つのパンクロマチックオリジナル画像と一つのカラーオリジナル画像を直接に出力する。
図2と図6を参照すると、別の例として、画像センサー10は、第一露光信号で、(2n-1)行目と2n行目のパンクロマチック画素を第一露光期間中に露光するように制御することができ、且つ第二露光信号で、(2n-1)行目と2n行目のカラー画素を第二露光期間中に露光するように制御することができる。第一露光期間は第二露光期間以下であることができる。具体的に、画像センサー10における第一露光制御線TX1は(2n-1)行目と2n行目の全てのパンクロマチック画素の制御端子TGに結合され、第二露光制御線TX2は(2n-1)行目と2n行目の全てのカラー画素の制御端子TGに結合される。垂直駆動ユニット12は第一露光制御線TX1を介して第一露光信号を伝送することで、(2n-1)行目と2n行目のパンクロマチック画素を第一露光期間中に露光するように制御し、第二露光制御線TX2を介して第二露光信号を伝送することで、(2n-1)行目と2n行目のカラー画素を第二露光期間中に露光するように制御する。全てのパンクロマチック画素及び全てのカラー画素の露光が終了した後、図24に示されたように、画像センサー10は、複数のパンクロマチック画素の画素値をカラー画素の画素値にフィッティングする処理を実行せず、一つのパンクロマチックオリジナル画像と一つのカラーオリジナル画像を直接に出力する。
いくつかの実施形態において、処理チップ20は、環境の明度に基づいて第一露光期間と第二露光期間の相対的な関係を確定することができる。例示的に、画像センサー10は、まずパンクロマチック画素を露光するように制御して、且つ一つのパンクロマチックオリジナル画像を出力することができる。処理チップ20は、パンクロマチックオリジナル画像における複数のパンクロマチック画素の画素値を分析して環境の明度を確定する。環境の明度が明度閾値以下である場合、画像センサー10は、パンクロマチック画素を第二露光期間に等しい第一露光期間中に露光するように制御する。環境の明度が明度閾値より高い場合、画像センサー10は、パンクロマチック画素を第二露光期間より短い第一露光期間中に露光するように制御する。環境の明度が明度閾値より高い場合、環境の明度と明度閾値との明度差に基づいて第一露光期間と第二露光期間との相対的な関係を確定することができる。例えば、明度差が大きければ大きいほど、第二露光期間に対する第一露光期間の比が小さくなる。例示的に、明度差が第一範囲[a,b)内にある場合、第二露光期間に対する第一露光期間の比は1:2であり、明度差が第二範囲[b,c)内にある場合、第二露光期間に対する第一露光期間の比は1:3であり、明度差がc以上の場合、第二露光期間に対する第一露光期間の比は1:4である。
図28を参照すると、いくつかの実施形態において、ステップ02は以下の内容を含む。
021、単色大画素の画素値を取得するように各サブユニットにおける全ての画素の画素値をマージ(merge)する。及び、
022、複数の単色大画素の画素値に基づいて第一解像度を有するカラー中間画像を形成する。
図1を参照すると、いくつかの実施形態において、ステップ021及びステップ022はいずれも処理チップ20によって実施され得る。換言すると、処理チップ20は、単色大画素の画素値を取得するように各サブユニットにおける全ての画素の画素値をマージし、且つ複数の単色大画素の画素値に基づいて第一解像度を有するカラー中間画像を形成するように構成されている。
具体的に、図25に示されたように、単色大画素Aに対して、処理チップ20は、空画素Nと単色画素Aとを含むサブユニットにおける全ての画素の画素値に対して加算を行い、加算結果を当該サブユニットに対応する単色大画素Aの画素値とすることができる。本明細書では、空画素Nの画素値は0とみなされることができる。処理チップ20は、空画素Nと単色画素Bとを含むサブユニットにおける全ての画素の画素値に対して加算を行い、加算結果を当該サブユニットに対応する単色大画素Bの画素値とすることができる。処理チップ20は、空画素Nと単色画素Cとを含むサブユニットにおける全ての画素の画素値に対して加算を行い、加算結果を当該サブユニットに対応する単色大画素Cの画素値とすることができる。これで、処理チップ20は、複数の単色大画素Aの画素値、複数の単色大画素Bの画素値、及び複数の単色大画素Cの画素値を取得することができる。処理チップ20は、複数の単色大画素Aの画素値、複数の単色大画素Bの画素値、及び複数の単色大画素Cの画素値に基づいて一つのカラー中間画像を形成することができる。図25に示されたように、単色Aが赤色Rで、単色Bが緑色Gで、単色Cが青色Buである場合、カラー中間画像はベイヤー配列で配置された画像である。もちろん、処理チップ20がカラー中間画像を取得する方法は上記に限定されない。
いくつかの実施形態において、図1と図29を参照すると、カメラアセンブリ40が異なるモードにあるとき、異なるモードは異なる目標画像に対応する。処理チップ20は、まずカメラアセンブリ40がどのモードにあるかを判断して、カメラアセンブリ40のモードに応じてカラー中間画像及び/又はパンクロマチック中間画像に対して対応の処理を行うことで、当該モードに対応する目標画像を取得する。目標画像は少なくとも、第一目標画像、第二目標画像、第三目標画像、第四目標画像という4種類の目標画像を含む。カメラアセンブリ40のモードは少なくとも以下を含む。(1)モードがプレビューモード(preview mode)である場合、プレビューモードでの目標画像は第一目標画像又は第二目標画像であることができる。(2)モードがイメージングモード(imaging mode)である場合、イメージングモードでの目標画像は第二目標画像、第三目標画像又は第四目標画像であることができる。(3)モードがプレビューモード且つ低消費電力モードである場合、目標画像は第一目標画像である。(4)モードがプレビューモード且つ非低消費電力モードである場合、目標画像は第二目標画像である。(5)モードがイメージングモード且つ低消費電力モードである場合、目標画像は第二目標画像又は第三目標画像である。(6)モードがイメージングモード且つ非低消費電力モードである場合、目標画像は第四目標画像である。
図29を参照すると、一つの例において、目標画像が第一目標画像である場合、ステップ04は以下の内容を含む。
040、単色以外の他の二色の画素値を取得するようにカラー中間画像における各単色大画素に対して補間処理を行い、第一解像度を有する第一目標画像を取得するように、単色以外の他の二色の画素値を出力する。
図1を参照すると、ステップ040は処理チップ20によって実施され得る。換言すると、処理チップ20は、単色以外の他の二色の画素値を取得するようにカラー中間画像における各単色大画素に対して補間処理を行い、第一解像度を有する第一目標画像を取得するように単色以外の他の二色の画素値を出力するように構成されている。
具体的に、図30を参照すると、単色大画素Aが赤色画素Rで、単色大画素Bが緑色画素Gで、単色大画素Cが青色画素Buであると仮設すると、カラー中間画像はベイヤー配列で配置された画像となる。各単色大画素の画素値がR、G、Bという3つのコンポーネントを同時に有するように、処理チップ20はカラー中間画像に対してデモザイク処理(即ち、補間処理)を行う必要がある。例示的に、各単色大画素については、線形補間法で単色大画素の単色以外の他の二色の画素値を計算することができる。単色大画素C2,2(「C2,2」は左上から2行目2列目の画素Cを表す)を例として、単色大画素C2,2は色Cコンポーネントの画素値P(C2,2)のみを有する。単色大画素Cにおける色Aの画素値P(A2,2)と色Bの画素値P(B2,2)を計算する必要がある。一つの例において、P(A2,2)=α・P(A3,1)+α・P(A3,3)+α・P(A1,3)+α・P(A1,1)、P(B2,2)=β・P(B1,2)+β・P(B2,1)+β・P(B2,3)+β・P(B3,2)、α~αとβ~βはいずれも補間係数であり、且つα+α+α+α=1、β+β+β+β=1。上記P(A2,2)及びP(B2,2)の計算方法は例示に過ぎず、P(A2,2)及びP(B2,2)は線形補間法以外の他の補間法で計算されることができる。本明細書では限定されない。
処理チップ20は、各単色大画素の3つのコンポーネントの画素値を計算した後、3つの画素値(即ち、A+B+C)に基づいて当該単色大画素に対応する最終画素値を計算することができる。上記「A+B+C」は、3つの画素を直接に加算して単色大画素の最終画素値を取得するということを意味せず、単色大画素がA、B、Cという3つの色コンポーネントを含むということのみを意味する。処理チップ20は、複数の単色大画素の最終画素値に基づいて一つの第一目標画像を形成することができる。カラー中間画像が第一解像度を有するため、第一目標画像はカラー中間画像に対して補間処理を行うことにより取得され、処理チップ20はカラー中間画像を補間しない。そのため、第一目標画像の解像度も第一解像度である。処理チップ20がカラー中間画像を処理して第一目標画像を取得する処理アルゴリズムが簡単で、その処理速度が速い。カメラアセンブリ40のモードがプレビューモード且つ低消費電力モードである場合、カメラアセンブリ40は第一目標画像をプレビュー画像として使用する。これで、画像出力速度に対するプレビューモードの要求を満たすことができるだけでなく、カメラアセンブリ40の消費電力を節約することもできる。
図29を参照すると、別の例において、目標画像が第二目標画像である場合、ステップ03は以下の内容を含む。
031、パンクロマチックオリジナル画像を処理して、各サブユニットにおける全ての画素をパンクロマチック大画素(panchromatic large pixel)とし、且つ第一解像度を有するパンクロマチック中間画像を取得するようにパンクロマチック大画素の画素値を出力する。
ステップ04は以下の内容を含む。
041、第一解像度を有する色・輝度分離画像(chrominance-luminance separated image)を取得するようにカラー中間画像の色と輝度を分離する。
042、第一解像度を有する輝度修正カラー画像(luminance-corrected color image)を取得するように、パンクロマチック中間画像の輝度と色・輝度分離画像の輝度を融合する。及び、
043、単色以外の他の二色の画素値を取得するように輝度修正カラー画像における各単色大画素に対して補間処理を行い、第一解像度を有する第二目標画像を取得するように単色以外の他の二色の画素値を出力する。
図1を参照すると、ステップ031、ステップ041、ステップ042及びステップ043はいずれも処理チップ20によって実施され得る。換言すると、処理チップ20は、パンクロマチックオリジナル画像を処理して各サブユニットにおける全ての画素をパンクロマチック大画素とし、且つ第一解像度を有するパンクロマチック中間画像を取得するようにパンクロマチック大画素の画素値を出力するように構成されている。処理チップ20はさらに、第一解像度を有する色・輝度分離画像を取得するようにカラー中間画像の色と輝度を分離し、第一解像度を有する輝度修正カラー画像を取得するようにパンクロマチック中間画像の輝度と色・輝度分離画像の輝度を融合し、及び、単色以外の他の二色の画素値を取得するように輝度修正カラー画像における各単色大画素に対して補間処理を行い、第一解像度を有する第二目標画像を取得するように単色以外の他の二色の画素値を出力するように構成されている。
具体的に、パンクロマチックオリジナル画像は図31に示された方法でパンクロマチック中間画像に変換されることができる。図31に示されたように、パンクロマチックオリジナル画像は複数のサブユニットを含み、各サブユニットはいずれも2つの空画素Nと2つのパンクロマチック画素Wを含む。処理チップ20は、空画素Nとパンクロマチック画素Wを含む各サブユニットにおける全ての画素を当該サブユニットに対応するパンクロマチック大画素Wとすることができる。これで、処理チップ20は、複数のパンクロマチック大画素Wに基づいて一つのパンクロマチック中間画像を形成することができる。複数の空画素Nを含むパンクロマチックオリジナル画像を第二解像度を有する一つの画像とみなすと、図31に示された方法で取得されたパンクロマチック中間画像は第一解像度を有する一つの画像である。第一解像度は第二解像度より小さい。
一例として、処理チップ20は、下記の方法でパンクロマチックオリジナル画像における各サブユニットにおける全ての画素を当該サブユニットに対応するパンクロマチック大画素Wとすることができる。処理チップ20はまず、パンクロマチック大画素Wの画素値を取得するように各サブユニットにおける全ての画素の画素値をマージし、次に、複数のパンクロマチック大画素Wの画素値に基づいてパンクロマチック中間画像を形成する。具体的に、各パンクロマチック大画素については、処理チップ20は、空画素Nとパンクロマチック画素Wを含むサブユニットにおける全ての画素値に対して加算を行い、加算結果を当該サブユニットに対応するパンクロマチック大画素Wの画素値とすることができる。空画素Nの画素値は0とみなされることができる。これで、処理チップ20は複数のパンクロマチック大画素Wの画素値を取得することができる。
処理チップ20は、パンクロマチック中間画像とカラー中間画像を取得した後、第二目標画像を取得するようにパンクロマチック中間画像とカラー中間画像とを融合することができる。
例示的に、図31に示されたように、処理チップ20はまず、色・輝度分離画像を取得するようにカラー中間画像の色と輝度を分離する。図31において、色・輝度分離画像におけるLは輝度を表し、CLRは色を表す。具体的に、単色画素Aが赤色画素Rで、単色画素Bが緑色画素Gで、単色画素Cが青色画素Buであると仮設すると、(1)処理チップ20はRGB空間のカラー中間画像をYCrCb空間の色・輝度分離画像に変換することができ、YCrCbのYは色・輝度分離画像における輝度Lを表し、YCrCbのCrとCbは色・輝度分離画像における色CLRを表し、(2)処理チップ20はRGBのカラー中間画像をLab空間の色・輝度分離画像に変換することもでき、LabのLは色・輝度分離画像における輝度Lを表し、Labのaとbは色・輝度分離画像における色CLRを表す。図31に示された色・輝度分離画像におけるL+CLRは、各画素の画素値がLとCLRとの加算により形成されるということを意味せず、各画素の画素値がLとCLRからなるということのみを意味する。
その後、処理チップ20は色・輝度分離画像の輝度とパンクロマチック中間画像の輝度を融合する。例示的に、パンクロマチック中間画像における各パンクロマチック画素Wの画素値は各パンクロマチック画素の輝度値である。処理チップ20は、色・輝度分離画像における各画素のLとパンクロマチック中間画像における対応位置のパンクロマチック画素のWとを加算して、輝度修正後の画素値を取得することができる。処理チップ20は複数の輝度修正後の画素値に基づいて一つの輝度修正後の色・輝度分離画像を形成して、色空間変換を利用して輝度修正後の色・輝度分離画像を輝度修正カラー画像に変換する。
単色大画素Aが赤色画素Rで、単色大画素Bが緑色画素Gで、単色大画素Cが青色画素Buである場合、輝度修正カラー画像はベイヤー配列で配置された画像である。輝度修正後の各単色大画素の画素値がR、G、Bという3つのコンポーネントを同時に有するように、処理チップ20は輝度修正カラー画像に対して補間処理を行う必要がある。処理チップ20は、第二目標画像を取得するように輝度修正カラー画像に対して補間処理を行うことができる。例示的に、線形補間法で第二目標画像を取得することができる。線形補間プロセスは上記ステップ040の補間プロセスと類似であるため、ここでは詳しく説明されない。
輝度修正カラー画像が第一解像度を有するため、第二目標画像は輝度修正カラー画像に対して補間処理を行うことにより取得され、処理チップ20は輝度修正カラー画像を補間しない。そのため、第二目標画像の解像度も第一解像度である。第二目標画像はカラー中間画像の輝度とパンクロマチック中間画像の輝度を融合することにより取得されるため、第二目標画像はより良い画像効果を有する。モードがプレビューモード且つ非低消費電力モードである場合、第二目標画像をプレビュー画像として使用することで、プレビュー画像のプレビュー効果を向上させることができる。モードがイメージングモード且つ低消費電力モードである場合、第二目標画像をユーザに提供される画像として使用する。第二目標画像が補間されずに取得されるため、カメラアセンブリ40の消費電力をある程度低減することができ、低消費電力モードでの使用要求を満たすことができる。また、第二目標画像はより高い輝度を有するため、目標画像の輝度に対するユーザの要求を満たすことができる。
図29を参照すると、別の例において、目標画像が第三目標画像である場合、ステップ04は以下の内容を含む。
044、第二解像度を有するカラー補間画像(color interpolated image)を取得するようにカラー中間画像を補間する。カラー補間画像における対応のサブユニットはベイヤー配列で配置されており、第二解像度は第一解像度より大きい。及び、
045、単色以外の他の二色の画素値を取得するようにカラー補間画像における全ての単色画素に対して補間処理を行い、第二解像度を有する第三目標画像を取得するように単色以外の他の二色の画素値を出力する。
図1を参照すると、ステップ044とステップ045はいずれも処理チップ20によって実施され得る。換言すると、処理チップ20は、第二解像度を有するカラー補間画像を取得するようにカラー中間画像を補間するように構成されている。カラー補間画像における対応のサブユニットはベイヤー配列で配置されており、第二解像度は第一解像度より大きい。処理チップ20はさらに、単色以外の他の二色の画素値を取得するようにカラー補間画像における全ての単色画素に対して補間処理を行い、第二解像度を有する第三目標画像を取得するように単色以外の他の二色の画素値を出力するように構成されている。
具体的に、図32を参照すると、処理チップ20は、カラー中間画像における各単色大画素を4つのカラー画素に分割する。4つのカラー画素はカラー補間画像における一つのサブユニットを形成する。各サブユニットは、1つのカラー画素A、2つのカラー画素B、及び1つのカラー画素Cという三色のカラー画素を含む。カラー画素Aが赤色画素Rで、カラー画素Bが緑色画素Gで、カラー画素Cが青色画素Buである場合、各サブユニットにおける複数のカラー画素はベイヤー配列で配置されている。従って、複数のサブユニットを含むカラー補間画像はベイヤー配列で配置された画像となる。処理チップ20は第三目標画像を取得するようにカラー補間画像に対して補間処理を行うことができる。例示的に、線形補間法で第目標画像を取得することができる。線形補間プロセスは上記ステップ040の補間プロセスと類似であるため、ここでは詳しく説明されない。第三目標画像は補間することにより取得されるため、第三目標画像の解像度(即ち、第二解像度)はカラー中間画像の解像度(即ち、第一解像度)より高い。モードがプレビューモード且つ非低消費電力モードである場合、第三目標画像をプレビュー画像とすることで、より鮮明なプレビュー画像を得ることができる。モードがイメージングモード且つ低消費電力モードである場合、第三目標画像をユーザに提供される画像とする。第三目標画像がパンクロマチック中間画像との輝度融合なしに形成されるため、カメラアセンブリ40の消費電力をある程度低減することができ、同時に、撮影画像の鮮明さに対するユーザの要求を満たすことができる。
図29を参照すると、別の例において、目標画像が第四目標画像である場合、ステップ03は以下の内容を含む。
032、第二解像度を有するパンクロマチック中間画像を取得するように、パンクロマチックオリジナル画像を補間して各サブユニットにおける全ての画像の画像値を取得する。
ステップ04は以下の内容を含む。
046、第二解像度を有するカラー補間画像を取得するようにカラー中間画像を補間する。カラー補間画像における対応のサブユニットはベイヤー配列で配置されており、第二解像度は第一解像度より大きい。
047、第二解像度を有する色・輝度分離画像を取得するように、カラー補間画像の色と輝度を分離する。
048、第二解像度を有する輝度修正カラー画像を取得するように、パンクロマチック補間画像(panchromatic interpolated image)の輝度と色・輝度分離画像の輝度を融合する。及び、
049、単色以外の他の二色の画素値を取得するように輝度修正カラー画像における全ての単色画素に対して補間処理を行い、第二解像度を有する第四目標画像を取得するように単色以外の他の二色の画素値を出力する。
図1を参照すると、ステップ032、ステップ046、ステップ047、ステップ048及びステップ049はいずれも処理チップ20によって実施され得る。換言すると、処理チップ20は、第二解像度を有するパンクロマチック中間画像を取得するように、パンクロマチックオリジナル画像を補間して各サブユニットにおける全ての画像の画像値を取得するように構成されている。処理チップ20はさらに、第二解像度を有するカラー補間画像を取得するように、カラー中間画像を補間するように構成されている。カラー補間画像における対応のサブユニットはベイヤー配列で配置されており、第二解像度は第一解像度より大きい。処理チップ20はさらに、第二解像度を有する色・輝度分離画像を取得するようにカラー補間画像の色と輝度を分離し、第二解像度を有する輝度修正カラー画像を取得するようにパンクロマチック補間画像の輝度と色・輝度分離画像の輝度を融合し、及び、単色以外の他の二色の画素値を取得するように輝度修正カラー画像における全ての単色画素に対して補間処理を行い、第二解像度を有する第四目標画像を取得するように単色以外の他の二色の画素値を出力するように構成されている。
具体的に、処理チップ20はまず、第二解像度を有するパンクロマチック中間画像を取得するように、第一解像度を有するパンクロマチックオリジナル画像を補間する。図34を参照すると、パンクロマチックオリジナル画像は複数のサブユニットを含み、各サブユニットは2つの空画素Nと2つのパンクロマチック画素Wを含む。処理チップ20は、各サブユニットにおける各空画素Nをパンクロマチック画素Wに置き換える必要がある。置き換えた後、処理チップ20は、空画素Nの位置における各パンクロマチック画素Wの画素値を計算する。各空画素Nについては、処理チップ20は当該空画素Nをパンクロマチック画素Wに置き換えて、当該置き換え後のパンクロマチック画素Wに隣接する残りのパンクロマチック画素Wの画素値に基づいて、当該置き換え後のパンクロマチック画素Wの画素値を確定する。図34に示されたパンクロマチックオリジナル画像における空画素N1,8(「空画素N1,8」は左上から1行目8列目の空画素Nであり、以下同様)を例として、空画素N1,8はパンクロマチック画素W1,8に置き換えられ、パンクロマチック画素W1,8に隣接する画素はパンクロマチックオリジナル画像におけるパンクロマチック画素W1,7及びパンクロマチック画素W2,8である。例示として、パンクロマチック画素W1,7の画素値とパンクロマチック画素W2,8の画素値の平均値をパンクロマチック画素W1,8の画素値とすることができる。図34に示されたパンクロマチックオリジナル画像における空画素N2,3を例として、空画素N2,3はパンクロマチック画素W2,3に置き換えられ、パンクロマチック画素W2,3に隣接するパンクロマチック画素はパンクロマチックオリジナル画像におけるパンクロマチック画素W1,3、パンクロマチック画素W2,2、パンクロマチック画素W2,4、及びパンクロマチック画素W3,3である。例示として、処理チップ20はパンクロマチック画素W1,3の画素値、パンクロマチック画素W2,2の画素値、パンクロマチック画素W2,4の画素値、及びパンクロマチック画素W3,3の画素値の平均値を、置き換え後のパンクロマチック画素W2,3の画素値とする。
処理チップ20は、パンクロマチック中間画像とカラー中間画像を取得した後、第四目標画像を取得するように、パンクロマチック中間画像とカラー中間画像に対して融合を行うことができる。
まず、処理チップ20は、図33に示されたように、第二解像度を有するカラー補間画像を取得するように第一解像度を有するカラー中間画像を補間することができる。具体的な補間法はステップ045における補間法と類似であり、ここでは詳しく説明されない。
次に、図33に示されたように、処理チップ20は、色・輝度分離画像を取得するようにカラー補間画像の色と輝度を分離することができる。図33において、色・輝度分離画像におけるLは輝度を表し、CLRは色を表す。具体的に、単色画素Aが赤色画素Rで、単色画素Bが緑色画素Gで、単色画素Cが青色画素Buであると仮設すると、(1)処理チップ20はRGB空間のカラー補間画像をYCrCb空間の色・輝度分離画像に変換することができ、YCrCbのYは色・輝度分離画像における輝度Lを表し、YCrCbのCrとCbは色・輝度分離画像における色CLRを表し、(2)処理チップ20はRGBのカラー補間画像をLab空間の色・輝度分離画像に変換することもでき、LabのLは色・輝度分離画像における輝度Lを表し、Labのaとbは色・輝度分離画像における色CLRを表す。図33に示された色・輝度分離画像におけるL+CLRは、各画素の画素値がLとCLRとの加算により形成されるということを意味せず、各画素の画素値がLとCLRからなるということのみを意味する。
その後、図34に示されたように、処理チップ20は、色・輝度分離画像の輝度及びパンクロマチック中間画像の輝度を融合することができる。例示的に、パンクロマチック中間画像における各パンクロマチック画素Wの画素値は各パンクロマチック画素の輝度値である。処理チップ20は、色・輝度分離画像における各画素のLとパンクロマチック中間画像における対応位置のパンクロマチック画素のWとを加算して、輝度修正後の画素値を取得することができる。処理チップ20は複数の輝度修正後の画素値に基づいて一つの輝度修正後の色・輝度分離画像を形成して、次に、輝度修正後の色・輝度分離画像を輝度修正カラー画像に変換する。当該輝度修正カラー画像は第二解像度を有する。
カラー画素Aが赤色画素Rで、カラー画素Bが緑色画素Gで、カラー画素Cが青色画素Buである場合、輝度修正カラー画像はベイヤー配列で配置された画像である。輝度修正後の各カラー画素の画素値がR、G、Bという3つのコンポーネントを同時に有するように、処理チップ20は輝度修正カラー画像に対して補間処理を行う必要がある。処理チップ20は、第四目標画像を取得するように輝度修正カラー画像に対して補間処理を行うことができる。例示的に、線形補間法で第四目標画像を取得することができる。線形補間プロセスは上記ステップ040の補間プロセスと類似であるため、ここでは詳しく説明されない。
第四目標画像はカラー中間画像の輝度とパンクロマチック中間画像の輝度を融合することにより取得され、且つ第四目標画像はより高い解像度を有するため、第四目標画像はより良い輝度及び鮮明さを有する。モードがイメージングモード且つ非低消費電力モードである場合、第四目標画像をユーザに提供される画像として使用することで、撮影画像の品質に対するユーザの要求を満たすことができる。
いくつかの実施形態において、画像キャプチャ方法はさらに、環境の明度の取得を含むことができる。当該ステップは処理チップ20によって実施され得る。具体的な実施方法は上記に示されたようであり、ここでは詳しく説明されない。環境の明度が明度閾値より高い場合、第一目標画像又は第三目標画像を目標画像とすることができる。環境の明度が明度閾値以下である場合、第二目標画像又は第四目標画像を目標画像とすることができる。環境の明度が高い場合、カラー中間画像のみから取得される第一目標画像と第二目標画像の輝度では、目標画像の輝度に対するユーザーの要求を満たすことができる。この場合、パンクロマチック中間画像の輝度を融合して目標画像の輝度を向上させる必要がなくなる。これで、処理チップ20の計算量を低減することができるだけではなく、カメラアセンブリ40の消費電力を低減することもできる。環境の明度が低い場合、カラー中間画像のみから取得される第一目標画像と第二目標画像の輝度では、目標画像の輝度に対するユーザーの要求を満たせない可能性がある。パンクロマチック中間画像の輝度を融合して取得された第二目標画像又は第四目標画像を目標画像とすることで、目標画像の輝度を向上させることができる。
図35を参照すると、本発明は移動端末90をさらに提供する。移動端末90は携帯電話、タブレットコンピュータ、ノートパソコン、スマートウェアラブルデバイス(例えば、スマートウォッチ、スマートブレスレット(bracelet)、スマートグラス、スマートヘルメットなど)、頭部装着型表示装置、仮想現実装置などであることができるが、これらに限定されない。
移動端末90は画像センサー50、プロセッサ60、メモリ70及びハウジング80を含む。画像センサー50、プロセッサ60及びメモリ70はいずれもハウジング80に搭載されている。画像センサー50はプロセッサ60に結合される。画像センサー50は、上記いずれかの実施形態に記載の画像センサー10(図1に示されている)であることができる。プロセッサ60は、カメラアセンブリ40(図1に示されている)における処理チップ20と同じ機能を実行することができる。換言すると、プロセッサ60は、上記いずれかの実施形態に記載の処理チップ20が実行できる機能を実行することができる。メモリ70はプロセッサ60に結合される。メモリ70はプロセッサ60による処理後に取得されたデータ、例えば、目標画像などを格納することができる。プロセッサ60は画像センサー50と同じ基板に実装されてもよい。この場合、画像センサー50とプロセッサ60はカメラアセンブリ40とみなされることができる。もちろん、プロセッサ60は画像センサー50と異なる基板に実装されてもよい。
本発明の移動端末90、画像センサー50はパンクロマチックオリジナル画像とカラーオリジナル画像を直接に出力することができる。パンクロマチックオリジナル画像とカラーオリジナル画像の後続処理はプロセッサ60によって実行される。画像センサー50はパンクロマチック画素Wの画素値をカラー画素の画素値にフィッティングする操作を実行する必要がない。これで、画像センサー50の計算量を低減することができる。また、画像センサー50に画像センサー50による画像処理の実行をサポートするための新たなハードウェアを追加する必要がない。これで、画像センサー50の設計を簡素化することができる。
本明細書で言及される参照用語「一つの実施形態」、「いくつかの実施形態」、「例示的な実施形態」、「例示」、「具体的な例示」、又は「いくつかの例示」などは、当該実施形態又は例示を結びつけて説明される具体的な特徴、構造、材料、又は特性が本発明の少なくとも一つの実施形態又は例示に含まれるということを意味する。本明細書において、上記用語の例示的な記載は、必ずしも同じ実施形態又は例示を示すとは限らない。また、記載された具体的な特徴、構造、材料、又は特性は、任意の一つ又は複数の実施形態又は例示で適切に組み合わせることができる。さらに、矛盾がない限り、当業者は本明細書に記載された異なる実施形態又は例示、及び異なる実施形態又は例示の特徴を組み合わせることができる。
フローチャート又は他の方式で説明されるいかなるプロセス又は方法は、特定のロジック機能又はプロセスを実現するための一つ又は複数のステップを含む実行可能な命令を表すコードのモジュール、セグメント、又はコードの一部として理解されることができる。また、本発明の好ましい実施形態の範囲は他の実装を含み、図示又は説明されたものとは異なる順序で実行され得る。例えば、関連機能はほぼ同時に実行されるか、又は逆の順序で実行される。以上は本発明の当業者に理解されるべきである。
以上、本発明の実施態様が示され説明されたが、上記実施態様は例示であり、本発明を制限するものと理解されるべきではない。当業者であれば、本発明の範囲内で上記実施態様に対して変更、修正、置換、及び変更を加えることができる。

Claims (11)

  1. 画像センサーの画像キャプチャ方法であって、
    前記画像センサーは2次元画素アレイを含み、前記2次元画素アレイは複数のパンクロマチック画素と複数のカラー画素を含み、前記2次元画素アレイは複数の最小繰り返しユニットを含み、前記2次元画素アレイにおける前記複数の最小繰り返しユニットは予め設定されたルールに基づいて配置されており、前記最小繰り返しユニットは複数のサブユニットを含み、各前記サブユニットは少なくとも2つの単色画素と前記複数のパンクロマチック画素のうちの少なくとも2つのパンクロマチック画素を含み、前記画像キャプチャ方法は、
    前記2次元画素アレイを露光することによってパンクロマチックオリジナル画像とカラーオリジナル画像を取得すること、
    前記カラーオリジナル画像における各前記サブユニットにおける全ての画素の画素値をマージすることによって各前記サブユニットに対応するカラー画素値を取得し、各前記サブユニットに対応するカラー画素値を出力することによってカラー中間画像を取得すること、
    前記パンクロマチックオリジナル画像における各前記サブユニットにおける全ての画素の画素値をマージすることによって各前記サブユニットに対応するパンクロマチック画素値を取得し、各前記サブユニットに対応する前記パンクロマチック画素値を出力することによって第一解像度を有する第一パンクロマチック中間画像を取得すること、
    前記カラー中間画像の色と輝度を分離することによって、前記第一解像度を有する色・輝度分離画像を取得すること、
    前記第一パンクロマチック中間画像の輝度と前記色・輝度分離画像の輝度を融合することによって、前記第一解像度を有する輝度修正カラー画像を取得すること、及び、
    前記輝度修正カラー画像における各前記サブユニットの画素値に対してカラー補間処理を行うことによって、前記第一解像度を有する目標画像Aを取得することを含み、
    カラー補間処理後の前記目標画像Aは少なくとも3種類の単色情報を含む、
    ことを特徴とする画像センサーの画像キャプチャ方法。
  2. 前記2次元画素アレイを露光することによってパンクロマチックオリジナル画像とカラーオリジナル画像を取得することは、
    前記2次元画素アレイにおける全ての前記パンクロマチック画素と全ての前記カラー画素を同時に露光すること、
    全ての前記パンクロマチック画素の画素値を出力することによって前記パンクロマチックオリジナル画像を取得すること、及び、
    全ての前記カラー画素の画素値を出力することによって前記カラーオリジナル画像を取得することを含む、
    ことを特徴とする請求項1に記載の画像キャプチャ方法。
  3. 前記2次元画素アレイを露光することによってパンクロマチックオリジナル画像とカラーオリジナル画像を取得することは、
    前記2次元画素アレイにおける全ての前記パンクロマチック画素と全ての前記カラー画素を異なるタイミングで露光すること、
    全ての前記パンクロマチック画素の画素値を出力することによって前記パンクロマチックオリジナル画像を取得すること、及び、
    全ての前記カラー画素の画素値を出力することによって前記カラーオリジナル画像を取得することを含む、
    ことを特徴とする請求項1に記載の画像キャプチャ方法。
  4. 前記最小繰り返しユニットにおいて、前記パンクロマチック画素は第一対角線方向に配置されており、前記カラー画素は第二対角線方向に配置されており、前記第一対角線方向と前記第二対角線方向は異なり、
    前記2次元画素アレイを露光することによってパンクロマチックオリジナル画像とカラーオリジナル画像を取得することは、
    第一露光信号に基づいて、前記第一対角線方向において隣接する少なくとも2つの前記パンクロマチック画素を第一露光期間中に露光すること、及び、
    第二露光信号に基づいて、前記第二対角線方向において隣接する少なくとも2つの前記カラー画素を第二露光期間中に露光することを含む、
    ことを特徴とする請求項1に記載の画像キャプチャ方法。
  5. 前記2次元画素アレイを露光することによってパンクロマチックオリジナル画像とカラーオリジナル画像を取得することは、
    第一露光信号で(2n-1)行目と2n行目の前記パンクロマチック画素の第一露光期間を制御すること、及び、
    第二露光信号で(2n-1)行目と2n行目の前記カラー画素の第二露光期間を制御することを含み、
    nは1以上の自然数であり、前記第一露光期間と前記第二露光期間は異なる、
    ことを特徴とする請求項1に記載の画像キャプチャ方法。
  6. 前記画像キャプチャ方法は、環境の明度を取得することをさらに含み、
    前記環境の明度が明度閾値より高い場合、前記第一露光期間は第二露光期間より短い、
    ことを特徴とする請求項4又は請求項5に記載の画像キャプチャ方法。
  7. 前記画像センサーは移動端末又はカメラアセンブリに応用され
    ことを特徴とする請求項1~のいずれか一項に記載の画像キャプチャ方法。
  8. カメラアセンブリであって、
    画像センサーと処理チップを含み、
    前記画像センサーは2次元画素アレイを含み、前記2次元画素アレイは複数のパンクロマチック画素と複数のカラー画素を含み、前記2次元画素アレイは複数の最小繰り返しユニットを含み、前記2次元画素アレイにおける前記複数の最小繰り返しユニットは予め設定されたルールに基づいて配置されており、前記最小繰り返しユニットは複数のサブユニットを含み、各前記サブユニットは少なくとも2つの単色画素と前記複数のパンクロマチック画素のうちの少なくとも2つのパンクロマチック画素を含み、前記画像センサーは、パンクロマチックオリジナル画像とカラーオリジナル画像を取得するように、露光されるように構成されており、
    前記処理チップは、
    前記カラーオリジナル画像における各前記サブユニットにおける全ての画素の画素値をマージすることによって各前記サブユニットに対応するカラー画素値を取得し、各前記サブユニットに対応するカラー画素値を出力することによってカラー中間画像を取得し、
    前記パンクロマチックオリジナル画像における各前記サブユニットにおける全ての画素の画素値をマージすることによって各前記サブユニットに対応するパンクロマチック画素値を取得し、各前記サブユニットに対応する前記パンクロマチック画素値を出力することによって第一解像度を有する第一パンクロマチック中間画像を取得し、
    前記カラー中間画像の色と輝度を分離することによって、前記第一解像度を有する色・輝度分離画像を取得し、
    前記第一パンクロマチック中間画像の輝度と前記色・輝度分離画像の輝度を融合することによって、前記第一解像度を有する輝度修正カラー画像を取得し、及び、
    前記輝度修正カラー画像における各前記サブユニットの画素値に対してカラー補間処理を行うことによって、前記第一解像度を有する目標画像Aを取得するように構成されており、
    カラー補間処理後の前記目標画像Aは少なくとも3種類の単色情報を含む、
    ことを特徴とするカメラアセンブリ。
  9. 前記最小繰り返しユニットにおいて、前記パンクロマチック画素は第一対角線方向に配置されており、前記カラー画素は第二対角線方向に配置されており、前記第一対角線方向と前記第二対角線方向は異なり、
    前記画像センサーは、
    第一露光信号に基づいて、前記第一対角線方向において隣接する少なくとも2つの前記パンクロマチック画素を第一露光期間中に露光し、及び、
    第二露光信号で、前記第二対角線方向において隣接する少なくとも2つの前記カラー画素を第二露光期間中に露光するように構成されている、
    ことを特徴とする請求項に記載のカメラアセンブリ。
  10. 前記画像センサーは、
    第一露光信号で(2n-1)行目と2n行目の前記パンクロマチック画素の第一露光期間を制御し、及び、
    第二露光信号で(2n-1)行目と2n行目の前記カラー画素の第二露光期間を制御するように構成されており、
    nは1以上の自然数であり、前記第二露光期間と前記第一露光期間は異なる、
    ことを特徴とする請求項に記載のカメラアセンブリ。
  11. 前記処理チップはさらに、環境の明度を取得するように構成されており、
    前記環境の明度が明度閾値より高い場合、前記第一露光期間は第二露光期間より短い、
    ことを特徴とする請求項又は10に記載のカメラアセンブリ。
JP2022515700A 2019-09-09 2019-09-09 画像キャプチャ方法、カメラアセンブリ及び移動端末 Active JP7298020B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2019/104974 WO2021046691A1 (zh) 2019-09-09 2019-09-09 图像采集方法、摄像头组件及移动终端

Publications (2)

Publication Number Publication Date
JP2022547221A JP2022547221A (ja) 2022-11-10
JP7298020B2 true JP7298020B2 (ja) 2023-06-26

Family

ID=74865928

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022515700A Active JP7298020B2 (ja) 2019-09-09 2019-09-09 画像キャプチャ方法、カメラアセンブリ及び移動端末

Country Status (6)

Country Link
US (1) US20220150450A1 (ja)
EP (1) EP4020971A4 (ja)
JP (1) JP7298020B2 (ja)
KR (1) KR20220051240A (ja)
CN (1) CN114073068B (ja)
WO (1) WO2021046691A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113676636B (zh) * 2021-08-16 2023-05-05 Oppo广东移动通信有限公司 高动态范围图像的生成方法、装置、电子设备和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017118191A (ja) 2015-12-21 2017-06-29 ソニー株式会社 撮像素子及びその駆動方法、並びに撮像装置
JP2019106576A (ja) 2017-12-08 2019-06-27 キヤノン株式会社 撮像装置及び撮像システム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8264576B2 (en) * 2007-03-05 2012-09-11 DigitalOptics Corporation Europe Limited RGBW sensor array
US8139130B2 (en) * 2005-07-28 2012-03-20 Omnivision Technologies, Inc. Image sensor with improved light sensitivity
US20070046807A1 (en) * 2005-08-23 2007-03-01 Eastman Kodak Company Capturing images under varying lighting conditions
US7876956B2 (en) * 2006-11-10 2011-01-25 Eastman Kodak Company Noise reduction of panchromatic and color image
US8224082B2 (en) * 2009-03-10 2012-07-17 Omnivision Technologies, Inc. CFA image with synthetic panchromatic image
US8068153B2 (en) * 2009-03-27 2011-11-29 Omnivision Technologies, Inc. Producing full-color image using CFA image
US8125546B2 (en) * 2009-06-05 2012-02-28 Omnivision Technologies, Inc. Color filter array pattern having four-channels
WO2013079778A2 (en) * 2011-12-02 2013-06-06 Nokia Corporation Method, apparatus and computer program product for capturing images
JP5935876B2 (ja) * 2012-03-27 2016-06-15 ソニー株式会社 画像処理装置、撮像素子、および画像処理方法、並びにプログラム
US20140063300A1 (en) * 2012-09-06 2014-03-06 Aptina Imaging Corporation High dynamic range imaging systems having clear filter pixel arrays
US9224362B2 (en) * 2013-03-14 2015-12-29 Microsoft Technology Licensing, Llc Monochromatic edge geometry reconstruction through achromatic guidance

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017118191A (ja) 2015-12-21 2017-06-29 ソニー株式会社 撮像素子及びその駆動方法、並びに撮像装置
JP2019106576A (ja) 2017-12-08 2019-06-27 キヤノン株式会社 撮像装置及び撮像システム

Also Published As

Publication number Publication date
KR20220051240A (ko) 2022-04-26
CN114073068A (zh) 2022-02-18
EP4020971A4 (en) 2022-09-07
WO2021046691A1 (zh) 2021-03-18
JP2022547221A (ja) 2022-11-10
US20220150450A1 (en) 2022-05-12
CN114073068B (zh) 2023-11-03
EP4020971A1 (en) 2022-06-29

Similar Documents

Publication Publication Date Title
WO2021179806A1 (zh) 图像获取方法、成像装置、电子设备及可读存储介质
CN110649056B (zh) 图像传感器、摄像头组件及移动终端
CN112261391B (zh) 图像处理方法、摄像头组件及移动终端
WO2021208593A1 (zh) 高动态范围图像处理系统及方法、电子设备和存储介质
CN110740272B (zh) 图像采集方法、摄像头组件及移动终端
WO2021063162A1 (zh) 图像传感器、摄像头组件及移动终端
CN111314592B (zh) 图像处理方法、摄像头组件及移动终端
CN111246064B (zh) 图像处理方法、摄像头组件及移动终端
KR20100066396A (ko) 고체 촬상 장치, 고체 촬상 장치의 신호 처리 방법 및 촬상 장치
CN111050041B (zh) 图像传感器、控制方法、摄像头组件及移动终端
CN113766231A (zh) 图像获取方法、摄像头组件及移动终端
CN110784634B (zh) 图像传感器、控制方法、摄像头组件及移动终端
US8111298B2 (en) Imaging circuit and image pickup device
US20220336508A1 (en) Image sensor, camera assembly and mobile terminal
US20220139981A1 (en) Image sensor, camera assembly, and mobile terminal
US20220150450A1 (en) Image capturing method, camera assembly, and mobile terminal
US20220139974A1 (en) Image sensor, camera assembly, and mobile terminal
CN111031297B (zh) 图像传感器、控制方法、摄像头组件和移动终端
US20220279108A1 (en) Image sensor and mobile terminal
CN114424517B (zh) 图像传感器、控制方法、摄像头组件及移动终端
CN112235485B (zh) 图像传感器、图像处理方法、成像装置、终端及可读存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220309

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230525

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230606

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230614

R150 Certificate of patent or registration of utility model

Ref document number: 7298020

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150