JP6918390B2 - 撮像素子、撮像機器及び画像情報処理方法 - Google Patents

撮像素子、撮像機器及び画像情報処理方法 Download PDF

Info

Publication number
JP6918390B2
JP6918390B2 JP2020522333A JP2020522333A JP6918390B2 JP 6918390 B2 JP6918390 B2 JP 6918390B2 JP 2020522333 A JP2020522333 A JP 2020522333A JP 2020522333 A JP2020522333 A JP 2020522333A JP 6918390 B2 JP6918390 B2 JP 6918390B2
Authority
JP
Japan
Prior art keywords
current
image pickup
conversion
pixel
scaling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020522333A
Other languages
English (en)
Other versions
JP2020537456A (ja
Inventor
杰 馮
杰 馮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Lynxi Technology Co Ltd
Original Assignee
Beijing Lynxi Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Lynxi Technology Co Ltd filed Critical Beijing Lynxi Technology Co Ltd
Publication of JP2020537456A publication Critical patent/JP2020537456A/ja
Application granted granted Critical
Publication of JP6918390B2 publication Critical patent/JP6918390B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/708Pixels for edge detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本願はイメージング分野に関し、より具体的には、物体のエッジ情報を取得するための撮像素子、撮像機器及び画像情報処理方法に関する。
今日の時代、人工知能の急速な発展は、あらゆる面から人々の生産と生活に影響を与えるとともに、世界の発展と進歩も促進している。
人工知能には、重要なこととして、画像又はビデオの自動認識がある。センサーの分野では、ニューラルネットワークによる自動認識のために、正確で洗練された画像又はビデオデータを迅速に取得する方法が大きな課題である。
したがって、画像情報を取得するための改良された撮像素子、撮像機器及び画像情報処理方法が必要である。
上記の技術的問題を解決するために、本願を提案する。本願の実施例は、物体のエッジ情報を直接、迅速、かつ正確に取得可能な撮像素子、撮像機器及び画像情報処理方法を提供する。
本願の一態様によれば、撮像素子を提供し、
ピクセルとして配置され、撮像対象からの光を受光して、前記光を変換電流に変換するための複数の感光性デバイスと、
ピクセル処理電流を取得するように、前記変換電流をスケーリングする電流スケーリングユニットと、
差電流を取得するように、各ピクセルのピクセル処理電流から前記ピクセルの周囲ピクセルのピクセル処理電流の平均値のN倍を引くための差電流取得ユニットと、
前記撮像対象のエッジ情報を取得するように、前記差電流に基づいて、アナログ−デジタル変換するためのアナログ−デジタル変換ユニットと、を含む。
上記撮像素子において、前記感光性デバイスは光電変換を直接実現するための感光性デバイス、又は間接的に光電変換を実現するための感光性デバイスである。
上記撮像素子において、前記撮像対象からの光は、前記撮像対象から放射される光、又は前記撮像対象から反射される光である。
上記撮像素子において、レンズユニット及びフィルタユニットの少なくとも1つをさらに含み、前記複数の感光性デバイスは、前記レンズユニット及びフィルタユニットの少なくとも一方を透過した、撮像対象からの光を受光する。
上記撮像素子において、前記変換電流は漏れ電流及びバイアス電流の少なくとも1つを含む。
上記撮像素子において、前記電流変換ユニットは、ピクセル処理電流を取得するように、前記変換電流をスケーリングするためのカレントミラーと、ピクセル処理電流を取得するように、前記変換電流を電圧に変換してスケーリングするための変換回路、及び、ピクセル処理電流を取得するように、前記変換電流を直接スケーリングするための直接スケーリング回路の1つを含む。
上記撮像素子において、前記変換回路は、前記変換電流を電圧に変換し、及び、前記ピクセル処理電流を取得するように、前記電圧で増幅電流を生成する。
上記撮像素子において、前記変換回路はアクティブデバイスのみを含むか、又は、アクティブデバイスとパッシブデバイスの両方を含む。
上記撮像素子において、前記ピクセル処理電流は、前記電流スケーリングユニットにより生成される漏れ電流及び誤差電流並びに追加されたバイアス電流を含む。
上記撮像素子において、前記差電流取得ユニットは、以下の方法のいずれかで前記差電流を取得する。前記ピクセルの周囲ピクセルのピクセル処理電流を加算し、前記周囲ピクセルの数Mで除算してNを乗算し、前記ピクセルの周囲ピクセルのピクセル処理電流の1/M倍を加算してNを乗算し、及び前記ピクセルの周囲ピクセルのピクセル処理電流のN/M倍を加算する。
上記撮像素子において、前記Nは整数又は小数である。
上記撮像素子において、スケーリングされた後の差電流を取得するように、前記差電流をスケーリングするための差電流スケーリングユニットと、前記撮像対象のエッジ情報を取得するように、前記スケーリングされた差電流をアナログ−デジタル変換するためのアナログ−デジタル変換ユニットと、をさらに含む。
上記撮像素子において、前記複数の感光性デバイスは、生体網膜の光受容体に類似した配置形態で配置されている。
本願の別の態様によれば、撮像機器を提供する、上述した撮像素子、及び、前記撮像対象のエッジ情報に基づいて、画像処理を行うための処理ユニットを備える。
本願のさらに別の態様によれば、画像情報処理方法を提供し、該方法は、撮像対象からの光を受光することと、ピクセルとして配置された複数の感光性デバイスによって、前記光を変換電流に変換することと、ピクセル処理電流を取得するように、前記変換電流をスケーリングすることと、差電流を取得するように、各ピクセルのピクセル処理電流から前記ピクセルの周囲ピクセルのピクセル処理電流の平均値のN倍を引くことと、前記撮像対象のエッジ情報を取得するように、前記差電流に基づいて、アナログ−デジタル変換を実行することと、を含む。
上記の画像情報処理方法では、前記感光性デバイスは、光電変換を直接実現するための感光性デバイス、又は間接的に光電変換を実現するための感光性デバイスである。
上記の画像情報処理方法では、撮像対象からの前記光は、前記撮像対象から放射される光、又は前記撮像対象から反射される光である。
上記の画像情報処理方法では、撮像対象からの光を受光することは、レンズユニット及びフィルタユニットの少なくとも一方を透過して、撮像対象からの光を受光することを含む。
上記の画像情報処理方法では、前記変換電流は漏れ電流及びバイアス電流の少なくとも1つを含む。
上記の画像情報処理方法では、ピクセル処理電流を取得するように、前記変換電流をスケーリングすることは、ピクセル処理電流を取得するように、カレントミラーによって前記変換電流をスケーリングすること、ピクセル処理電流を取得するように、前記変換電流を電圧に変換してスケーリングすること、及び、ピクセル処理電流を取得するように、前記変換電流を直接スケーリングすることの1つを含む。
上記の画像情報処理方法では、ピクセル処理電流を取得するように、前記変換電流を電圧に変換してスケーリングすることは、変換回路によって前記変換電流を電圧に変換することと、前記ピクセル処理電流を取得するように、前記電圧で増幅電流を生成することとを含む。
上記の画像情報処理方法では、前記変換回路はアクティブデバイスのみを含むか、又はアクティブデバイスとパッシブデバイスの両方を含む。
上記の画像情報処理方法では、前記ピクセル処理電流は、前記変換電流をスケーリングして生成された漏れ電流及び誤差電流並びに追加されたバイアス電流を含む。
上記の画像情報処理方法では、以下の方法のいずれかで前記差電流を取得する。前記ピクセルの周囲ピクセルのピクセル処理電流を加算し、前記周囲ピクセルの数Mで除算してNを乗算し、前記ピクセルの周囲ピクセルのピクセル処理電流の1/M倍を加算してNを乗算し、前記ピクセルの周囲ピクセルのピクセル処理電流のN/M倍を加算する。
上記の画像情報処理方法では、前記Nは整数又は小数である。
上記の画像情報処理方法では、前記差電流を取得した後、スケーリングされた後の差電流を取得するように、前記差電流をスケーリングすることをさらに含み、前記撮像対象のエッジ情報を取得するように、前記差電流に基づいて、アナログ−デジタル変換することは、前記撮像対象のエッジ情報を取得するように、前記スケーリングされた後の差電流をアナログ−デジタル変換することを含む。
上記の画像情報処理方法では、前記複数の感光性デバイスは、生体網膜の光受容体に類似した配置形態で配置されている。
従来の技術と比較して、本願の実施例に係る撮像素子、撮像機器及び画像情報処理方法を用いることにより、物体のエッジ情報を直接的に、迅速かつ正確に取得することができる。
以下の好ましい実施形態の詳細な説明を読むと、本願の様々な他の利点及び利益が当業者に明らかになるであろう。本明細書の図面は、好ましい実施形態を例示する目的のためだけのものであり、本願を限定するものと見なされるべきではない。当然ながら、以下に説明する図面は本願のいくつかの実施例に過ぎず、当業者にとっては、創造的な努力なしにこれらの図面に基づいて他の図面を得ることができる。さらに、同じ部材は、図面を通して同じ符号によって示される。
図1は、本願の実施例に係る撮像素子の概略ブロック図を示す。
図2は、人間の網膜の知覚モードと人工網膜回路モデルの比較の概略図を示す。
図3は、本願の実施例に係る撮像素子の各ピクセルユニットの回路概略図を示す。
図4は、本願の実施例に係る撮像機器の概略ブロック図を示す。
図5は、本願の実施例に係る画像情報処理方法の概略的なフローチャートを示す。
以下、添付図面を参照しながら本願に係る例示的な実施例を詳細に説明する。明らかに、説明される実施例は、本願のすべての実施例ではなく、本願の実施例の一部に過ぎない。本願は、本明細書に記載される例示的な実施例によって限定されないことを理解されたい。
(本願の概要)
上述したように、画像又はビデオの認識では、物体を撮像して、対応する画像情報を取得する必要がある。
イメージセンサーは、一般に、電荷結合素子(CCD)センサーと相補型金属酸化膜半導体(CMOS)センサーに分けられる。ここで、CCDセンサーには、消費電力が高く、不良率が高く、処理回路との統合が難しいという欠点がある。CMOSセンサーは、低消費電力で、処理回路と統合しやすいという利点を有するため、ますます普及している。
CMOSセンサーの基本的な動作原理は次のとおりである。フォトダイオードを特定の電圧Vrstにリセットして、露光を開始し、フォトダイオードは受光した光を電流に変換し、それ自体の寄生容量を放電し、露光が終了すると、フォトダイオードの電圧がVo になり、ΔV=Vrst−Voで計算し、ΔVを量子化して、ピクセルの輝度を取得する。
しかし、上記のCMOSセンサーにはまだ欠陥がある。1つ目は画像情報が冗長でデータ量が多いこと、2つ目は強い光の下で飽和しやすいこと、3つ目は撮影速度が光の強度に大きく影響されること、4つ目はラインスキャンサンプリングを使用して量子化するため、撮影速度を上げることが難しいことである。
上記の技術的課題に鑑み、本願の実施例の基本的な考え方は、物体の輝度空間勾配信号のみを抽出し、感光素子のアナログ電流を直接操作できる撮像素子、撮像機器及び画像情報処理方法を提案することである。したがって、物体の輝度空間勾配信号のみを抽出することにより、データの冗長性を大幅に削減することができ、認識率などの性能を低下させることなく、必要なデータ送信帯域幅をそれに応じて削減させ、システムの作業効率を向上させる。さらに、感光素子のアナログ電流を直接操作することにより、途中で電圧に変換するステップが省略され、光強度の制限がなくなる。また、サンプリング速度は光強度とは関係ないため、強い光と弱い光の下でも高速撮影を維持できる。さらに、アナログ回路でアナログ電流の和と差の計算を直接実行することにより、その後の複雑なデジタル回路設計を回避し、撮像素子の消費電力と面積を削減する。
ここで、本願の実施例に係る撮像素子、撮像機器及び画像情報処理方法は、画像の撮影及びビデオ記録に使用することができるため、画像認識、ビデオ認識、自動運転、及び無人機制御などの人工知能分野で広く使用することができる。
本願の基本原理を紹介した後、本願の様々な非限定的な実施例を、図面を参照しながら以下に具体的に説明する。
(例示的な撮像素子)
図1は、本願の実施例に係る撮像素子の概略ブロック図を示す。
図1に示すように、本願の実施例に係る撮像素子100は、ピクセルとして配置され、撮像対象からの光を受光して、前記光を変換電流に変換するための複数の感光性デバイス110と、ピクセル処理電流を取得するように、前記感光性デバイス110によって生成される前記変換電流をスケーリングするための電流スケーリングユニット120と、差電流を取得するように、前記電流スケーリングユニット120による各ピクセルのピクセル処理電流から、前記ピクセルの周囲ピクセルのピクセル処理電流の平均値のN倍を引くための差電流取得ユニット130と、前記撮像対象のエッジ情報を取得するように、差電流取得ユニット130によって取得された前記差電流に基づいて、アナログ−デジタル変換するためのアナログ−デジタル変換ユニット140と、を含む。
したがって、本願の実施例に係る撮像素子100は、物体の輝度空間勾配信号のみを抽出することができ、データの冗長性を大幅に削減することができる。画像又はビデオの認識では、物体のエッジ情報は、画像の重要な構造特性を保持しながら、無関係な情報を削除する。したがって、物体のエッジ情報を取得することにより、認識率などの性能を低下せずに、必要なデータ伝送帯域幅を削減でき、システムの動作効率を向上させることができる。
さらに、本願の実施例に係る撮像素子100は、電圧に変換してから動作することの代わりに、感光素子のアナログ電流を直接動作させるので、光の強度によって制限されない。さらに、サンプリング速度は光の強度とは関係がないため、強い光と弱い光の下で高速撮影を維持できる。
本願の実施例に係る撮像素子100において、前記差電流取得ユニット130はアナログ回路によって、具体的には、アナログ電流加算器及びアナログ電流減算器によって、アナログ電流の和と差の計算を直接実現することができる。このようにして、その後の複雑なデジタル回路設計を回避し、それに応じて、撮像素子の消費電力と面積を削減する。
また、本願の実施例に係る撮像素子100において、画素として配置された複数の感光性デバイス110は、すべてのピクセルの並列同期サンプリングを実現し、フレーム数を大幅に増やすことができる。
ここで、感光性デバイス110は、フォトダイオード又はフォトトランジスタなどの、光電変換を直接実現するための感光性デバイスであってもよい。あるいは、感光性デバイス110は、フォトレジスタなどの、光電変換を間接的に実現するための感光性デバイスであってもよい。当業者は、本願の実施例に係る撮像素子100の実装プロセスにおいて、実際のプロセス要件などの特定の要件に従って適切なタイプの感光性デバイスを選択できることを理解できる。
本願の実施例に係る撮像素子100において、感光性デバイス110は撮像対象からの光を受光し、ここで、前記撮像対象からの光は前記撮像対象から放射される光であってもよく、又は前記撮像対象から反射される光であってもよい。
また、前記撮像対象からの光は、撮像対象から感光性デバイス110に直接照射される光であってもよく、レンズやフィルターなどの他の光学デバイスを介して感光性デバイス110に照射される光であってもよい。加えて、ここで、前記撮像対象からの光は、可視光、赤外線又は紫外線などの非可視光、又は他の射線であってもよい。
したがって、本願の実施例に係る撮像素子100において、レンズユニット及びフィルタユニットの少なくとも1つをさらに含んでもよく、及び、前記複数の感光性デバイス110は、前記レンズユニット及びフィルタユニットの少なくとも一方を透過した、撮像対象からの光を受光する。
前記感光性デバイス110は、前記光を変換電流に変換するプロセスにおいて、前記光から変換された電流自体に加えて、いくつかの他の漏れ電流を導入する可能性がある。さらに、いくつかのバイアス電流を変換電流に追加してもよく、コンポーネントを適切な動作範囲で動作させて、回路設計の難度とプロセスによって生じる誤差を減らすことができる。
したがって、本願の実施例に係る撮像素子100において、前記感光性デバイス110によって生成される変換電流は、漏れ電流及び/又はバイアス電流を含む。
ピクセル処理電流を取得するように、前記電流スケーリングユニット120は前記感光性デバイス110によって生成される前記変換電流をスケーリングし、本願の実施例に係る撮像素子100において、前記電流スケーリングユニット120は複数の実装形態を持ってもよい。
具体的には、前記電流スケーリングユニット120は、ピクセル処理電流を取得するように、前記変換電流をスケーリングするためのカレントミラーを含んでもよい。また、前記電流スケーリングユニット120は、ピクセル処理電流を取得するように、前記変換電流を電圧に変換し、前記電圧をスケーリングし、次いでスケーリングされた電圧を電流に変換するための変換回路を含んでもよい。もちろん、前記電流スケーリングユニット120は、ピクセル処理電流を取得するように、前記変換電流を直接スケーリングするための直接スケーリング回路を含んでもよい。
変換回路を用いて前記変換電流を電圧に変換する場合、まず前記変換電流を電圧に変換し、次に変換により取得した電圧で増幅電流を生成し、最後に前記ピクセル処理電流を取得する。さらに、前記変換回路はアクティブデバイスのみを含んでもよく、アクティブデバイス及びパッシブデバイスの両方を含んでもよい。
照度条件が異なると、感光性デバイス110の電流変動範囲が非常に大きいため、本願の実施例に係る撮像素子100では、感光性デバイス110によって生成される変換電流をスケーリングする電流スケーリングユニット120が必要である。具体的には、照度が非常に弱い場合、感光性デバイス110によって生成される変換電流は効果的な処理に直接使用するには小さすぎるため、このとき、後続の処理回路の難しさと複雑さを減らすために電流を増幅する必要がある。また、照度が非常に強い場合、感光性デバイス110によって生成される変換電流が大きすぎるため、このとき、消費電量などを削減するために、収集した電流を減少する必要がある。
したがって、前記電流スケーリングユニット120により、光の照度からの影響を最小化することができる。
さらに、前記ピクセル処理電流を取得するように、前記変換電流を増幅又は減少する過程で、前記電流スケーリングユニット120はまた、漏れ電流及び誤差電流を導入する場合がある。それに応じて、回路設計の難しさ及びプロセスによって生じる誤差を減らすために、取得した前記ピクセル処理電流に、バイアス電流又は電圧を追加してもよい。
したがって、本願の実施例に係る撮像素子100において、前記ピクセル処理電流は、前記電流スケーリングユニット120によって生成される漏れ電流及び誤差電流並びに追加されたバイアス電流を含む。
前記差電流取得ユニット130は各ピクセルに対して、そのピクセル処理電流から、前記ピクセルの周囲ピクセルのピクセル処理電流の平均値のN倍を引いて差電流を取得する。つまり、前記差電流取得ユニット130は、各ピクセルに対応する感光性デバイス110のピクセル処理電流(即ち、前記感光性デバイス110が光変換による変換電流を、スケーリングして取得された)及び前記ピクセルの周囲ピクセルに対応する感光性デバイス110のピクセル処理電流間の差電流を取得する。また、前記差電流は、前記感光性デバイス110のピクセル処理電流からその周囲の感光性デバイスのピクセル処理電流の平均値のN倍を引いたものであり、それは物体の輝度空間勾配情報の電流表示である。
本願の実施例に係る撮像素子100において、感光性デバイス110の配置形状を、必要に応じて、三角形、四角形、五角形、六角形などに設定してもよく、上下又は左右に隣接する1つ又は2つの感光デバイスのみを含むことさえできる。さらに、特定のピクセルの隣接ピクセルは、直接隣接するピクセルであっても、他のピクセルが間隔を空けた間接隣接ピクセルであってもよく、これは回路の複雑さとエッジの細さによって定義できる。具体的には、Mは1〜10,000の任意の数値であってもよい。
ここで、前記Nは整数又は小数である。ここで、Nの値をピクセルサイズとプロセス特性によって決定し、それにより、後続の回路の複雑さを軽減させ、画質を向上させる。具体的には、Mは0.01〜10,000の任意の数値であってもよい。
具体的には、前記差電流取得ユニット130は、様々な方法で前記差電流を取得することができる。例えば、前記差電流取得ユニット130は、前記ピクセルの周囲ピクセルのピクセル処理電流を加算し、前記周囲ピクセルの数Mで除算して前記平均値を取得し、次にNを乗算して前記差電流を取得する。また、前記差電流取得ユニット130は、前記ピクセルの周囲ピクセルのピクセル処理電流の1/M倍を加算して前記平均値を取得し、次にNを乗算して前記差電流を取得する。さらに、前記差電流取得ユニット130は、前記ピクセルの周囲ピクセルのピクセル処理電流のN/M倍を直接加算して、前記差電流を取得する。特定の実装プロセスでは、対応するアナログ回路を設計の実際のニーズに応じて選択でき、それにより、アナログ電流を直接計算できる。
前記アナログ−デジタル変換ユニット140は、前記撮像対象のエッジ情報を取得するように、前記差電流に対して、電流モードのアナログ−デジタル変換を直接行い、物体のエッジ情報のデジタル化を実現した。
また、必要に応じて、本願の実施例に係る撮像素子100において、スケーリングされた後の差電流を取得するように、前記差電流をスケーリングするための差電流スケーリングユニットをさらに含む。さらに、前記アナログ−デジタル変換ユニット140は、前記撮像対象のエッジ情報を取得するように、前記スケーリングされた後の差電流をアナログ−デジタル変換する。
上記の変換電流と同様に、差電流が小さすぎると、効果的な処理に直接使用するには容易ではないが、このとき、後続の処理回路の難しさと複雑さを軽減するために、差電流を増幅する必要があり、差電流が大きすぎると、不要な電力消費が発生する可能性があり、このとき、減少処理を行う。
上述したように、本願の実施例に係る撮像素子100は、画像及びビデオを認識する人工知能分野に適用することができる。したがって、一例では、本願の実施例に係る撮像素子100は、人間の網膜モデルを模倣するように設定することができる。
図2は、人間の網膜の知覚モードと人工網膜回路モデルの比較の概略図を示す。図2に示すように、人工網膜回路モデルにおけるフォトダイオード、アナログ電流加算器、電流スケーリング素子及びアナログ電流減算器は、それぞれ人間の目の光受容体、神経節細胞、双極細胞及び水平細胞に対応する。
さらに、当業者は、本願の実施例に係る撮像素子100が人間の網膜を模倣するためだけでなく、他の生物の網膜を模倣するためにも使用できることを理解できる。
したがって、本願の実施例に係る撮像素子100において、前記複数の感光性デバイス110は、生体網膜の光受容体に類似した配置形態で配置されている。
上述したように、物体のエッジ情報を直接、迅速かつ正確に取得するために、本願の実施例に係る撮像素子100はアナログ回路で実装されている。図3は、本願の実施例に係る撮像素子の各ピクセルユニットの回路概略図を示す。
図3に示すように、あるピクセルに対応する感光素子PD及びその周囲ピクセルに対応する感光素子PD、PD、…、PDは、それぞれ変換電流Id0、Id1、Id2、…、Idnを取得する。ここで、変換電流Id1、Id2、…、Idnは電流増幅回路Ampによって変換されて、アナログ電流加算器によって加算され、例えば、
Figure 0006918390
を取得し、アナログ電流減算器によって電流Id0と減算され、物体の輝度空間勾配信号の電流表示としての差電流ΔIを取得する。そして、電流モードのアナログ−デジタル変換器ADCによってデジタル化され、図像のエッジ情報Dを取得する。
(例示的な撮像機器)
図4は、本願の実施例に係る撮像機器の概略ブロック図を示す。
図4に示すように、本願の実施例に係る撮像機器200は、撮像対象からの光を受光して前記光を電流に変換し、前記撮像対象のエッジ情報を取得するための撮像素子210と、前記撮像素子210によって取得された前記撮像対象のエッジ情報に基づいて、画像処理を行うための処理ユニット220とを備える。
ここで、本願の実施例に係る撮像機器200の処理ユニット220は、前記撮像対象のエッジ情報に基づいて画像処理を行うことができ、対象検出、対象認識、対象追跡などを含むがこれらに限定されない。
具体的には、前記撮像素子210は、ピクセルとして配置され、撮像対象からの光を受光して前記光を変換電流に変換するための複数の感光性デバイスと、ピクセル処理電流を取得するように、前記変換電流をスケーリングする電流スケーリングユニットと、差電流を取得するために、各ピクセルのピクセル処理電流から前記ピクセルの周囲ピクセルのピクセル処理電流の平均値のN倍を引くための差電流取得ユニットと、前記撮像対象のエッジ情報を取得するように、前記差電流に基づいて、アナログ−デジタル変換を実行するためのアナログ−デジタル変換ユニットと、を含む。
一例では、上記撮像機器200において、前記感光性デバイスは光電変換を直接実現するための感光性デバイス、又は間接的に光電変換を実現するための感光性デバイスである。
一例では、上記撮像機器200において、前記撮像対象からの光は、前記撮像対象から放射される光、又は前記撮像対象から反射される光である。
一例では、上記撮像機器200において、前記撮像素子210は、レンズユニット及びフィルタユニットの少なくとも1つをさらに含み、前記複数の感光性デバイスは、前記レンズユニット及びフィルタユニットの少なくとも一方を透過した、撮像対象からの光を受光する。
一例では、上記撮像機器200において、前記変換電流は漏れ電流及びバイアス電流の少なくとも1つを含む。
一例では、上記撮像機器200において、前記電流変換ユニットは、ピクセル処理電流を取得するように、前記変換電流をスケーリングするためのカレントミラー、ピクセル処理電流を取得するように、前記変換電流を電圧に変換してスケーリングするための変換回路、及び、ピクセル処理電流を取得するように、前記変換電流を直接スケーリングするための直接スケーリング回路の1つを含む。
一例では、上記撮像機器200において、前記変換回路は、前記変換電流を電圧に変換し、及び、前記ピクセル処理電流を取得するように、前記電圧で増幅電流を生成する。
一例では、上記撮像機器200において、前記変換回路はアクティブデバイスのみを含むか、又は、アクティブデバイスとパッシブデバイスの両方を含む。
一例では、上記撮像機器200において、前記ピクセル処理電流は前記電流スケーリングユニットによって生成される漏れ電流及び誤差電流並びに追加されたバイアス電流を含む。
一例では、上記撮像機器200において、前記差電流取得ユニットは、以下の方法のいずれかで、前記差電流を取得する。前記ピクセルの周囲ピクセルのピクセル処理電流を加算し、前記周囲ピクセルの数Mで除算してNを乗算し、前記ピクセルの周囲ピクセルのピクセル処理電流の1/M倍を加算してNを乗算し、前記ピクセルの周囲ピクセルのピクセル処理電流のN/M倍を加算する。
一例では、上記撮像機器200において、前記Nは整数又は小数である。
一例では、上記撮像機器200において、前記撮像素子210は、スケーリングされた差電流を取得するように、前記差電流をスケーリングするための差電流スケーリングユニットと、前記撮像対象のエッジ情報を取得するように、前記スケーリングされた差電流をアナログ−デジタル変換するためのアナログ−デジタル変換ユニットと、をさらに含む。
一例では、上記撮像機器200において、前記複数の感光性デバイスは、生体網膜の光受容体に類似した配置形態で配置されている。
ここで、当業者は、本願の実施例に係る撮像機器の他の詳細は、本願の実施例に係る撮像素子に関して先に説明した対応する詳細と全く同じであり、冗長性を避けるためにここでは繰り返さないことを理解できる。
(例示的な画像情報処理方法)
図5は、本願の実施例に係る画像情報処理方法の概略的なフローチャートを示す。
図5に示すように、本願の実施例に係る画像情報処理方法は、S310、撮像対象からの光を受光することと、S320、ピクセルとして配置された複数の感光性デバイスによって、前記光を変換電流に変換することと、S330、ピクセル処理電流を取得するように、前記変換電流をスケーリングすることと、S340、差電流を取得するように、各ピクセルのピクセル処理電流から、前記ピクセルの周囲ピクセルのピクセル処理電流の平均値のN倍を引くことと、S350、前記撮像対象のエッジ情報を取得するように、前記差電流に基づいて、アナログ−デジタル変換を実行することと、を含む。
上記の画像情報処理方法では、前記感光性デバイスは光電変換を直接実現するための感光性デバイス、又は間接的に光電変換を実現するための感光性デバイスである。
上記の画像情報処理方法では、前記撮像対象からの光は、前記撮像対象から放射される光、又は前記撮像対象から反射される光である。
上記の画像情報処理方法では、撮像対象からの光を受光することは、レンズユニット及びフィルタユニットの少なくとも一方を透過した、撮像対象からの光を受光することを含む。
上記の画像情報処理方法では、前記変換電流は漏れ電流及びバイアス電流の少なくとも1つを含む。
上記の画像情報処理方法では、ピクセル処理電流を取得するように、前記変換電流をスケーリングすることは、ピクセル処理電流を取得するように、カレントミラーによって前記変換電流をスケーリングすること、ピクセル処理電流を取得するように、前記変換電流を電圧に変換してスケーリングすること、及び、ピクセル処理電流を取得するように、前記変換電流を直接スケーリングすることの1つを含む。
上記の画像情報処理方法では、ピクセル処理電流を取得するように、前記変換電流を電圧に変換してスケーリングすることは、変換回路によって前記変換電流を電圧に変換することと、前記ピクセル処理電流を取得するように、前記電圧で増幅電流を生成することとを含む。
上記の画像情報処理方法では、前記変換回路はアクティブデバイスのみを含むか、又は、アクティブデバイスとパッシブデバイスの両方を含む。
上記の画像情報処理方法では、前記ピクセル処理電流は、前記変換電流をスケーリングして生成される漏れ電流及び誤差電流並びに追加されたバイアス電流を含む。
上記の画像情報処理方法では、以下の方法のいずれかで前記差電流を取得する。前記ピクセルの周囲ピクセルのピクセル処理電流を加算し、前記周囲ピクセルの数Mで除算してNを乗算し、前記ピクセルの周囲ピクセルのピクセル処理電流の1/M倍を加算してNを乗算し、前記ピクセルの周囲ピクセルのピクセル処理電流のN/M倍を加算する。
上記の画像情報処理方法では、前記Nは整数又は小数である。
上記の画像情報処理方法では、前記差電流を取得した後、スケーリングされた後の差電流を取得するように、前記差電流をスケーリングすることをさらに含み、前記撮像対象のエッジ情報を取得するように、前記差電流に基づいて、アナログ−デジタル変換を実行することは、前記撮像対象のエッジ情報を取得するように、前記スケーリングされた後の差電流をアナログ−デジタル変換することを含む。
上記の画像情報処理方法では、前記複数の感光性デバイスは、生体網膜の光受容体に類似した配置形態で配置されている。
ここで、当業者は、本願の実施例に係る画像情報処理方法の他の詳細は、本願の実施例に係る撮像素子に関して先に説明した対応する詳細と全く同じであり、冗長性を避けるためにここでは繰り返さないことを理解できる。
本願に係る撮像素子、撮像機器及び画像情報処理方法は、物体の輝度空間勾配信号のみを抽出可能で、データの冗長性を大幅に削減することができる。したがって、認識率などの性能を低下せずに、必要なデータ送信帯域幅を削減させ、システムの作業効率を向上させる。
本願に係る撮像素子、撮像機器及び画像情報処理方法は、電圧に変換してから操作することではなく、感光素子のアナログ電流を直接操作することにより、光強度に制限されない。また、サンプリング速度は光強度とは関係ないため、強い光と弱い光の下でも高速撮影を維持することができる。
本願に係る撮像素子、撮像機器及び画像情報処理方法は、アナログ回路によって、アナログ電流の和と差の計算を直接実行することができる。このようにして、その後の複雑なデジタル回路設計を回避し、撮像素子の消費電力と面積を削減する。
本願に係る撮像素子、撮像機器及び画像情報処理方法は、ピクセルとして配置された複数の感光性デバイスによって、すべてのピクセルの並列同期サンプリングを実現し、フレーム数を大幅に増やすことができる。
以上、本願の基本原理を特定の実施例に関連して説明していたが、本願で言及される利点、効果などは単なる例であり、限定ではないことに留意すべきであり、これらの利点、効果などが、本願の各実施例によって所有されなければならないことは考えられない。さらに、上記で開示された特定の詳細は、単に例示と理解しやすいためだけであり、限定するものではなく、上記の詳細は、上記の特定の詳細を実装に使用しなければならないという事実に本願を限定するものではない。
本願に関連するデバイス、装置、機器、及びシステムのブロック図は、単なる例示であり、ブロック図に示されている方法で接続、配置、及び構成する必要があることを要求又は暗示するものではない。当業者によって認識されるように、これらのデバイス、装置、機器、システムを、任意の方法で接続、配置、及び構成することができる。「含む」、「含有」、「備える」などの単語は、「含むが、これらに限定されない」を指す一般的な単語であり、それらと交換可能に使用できる。本明細書で使用される「又は」と「及び」という用語は、「及び/又は」という用語を指し、文脈がそうでないことを明確に示さない限り、それと交換可能に使用することができる。 本明細書で使用される「〜など」という用語は、「〜などであるがこれに限定されない」という語句を指し、それと交換可能に使用することができる。
なお、本願の装置、機器及び方法において、各部材又は各ステップは分解及び/又は再結合可能である。これらの分解及び/又は再結合は、本願の同等のソリューションと見なされるべきである。
開示された態様の上記の説明は、当業者が本願を作成又は使用することを可能にするために提供される。これらの態様への様々な修正は当業者には容易に明らかであり、本明細書で定義される一般原理は、本願の範囲から逸脱せずに、他の態様に適用されてもよい。したがって、本願は、本明細書に示された態様に限定されることを意図するものではなく、本明細書に開示された原理及び新規の特徴と一致する最も広い範囲に限定される。
上記の説明は、例示及び説明の目的で与えられたものである。さらに、この説明は、本願の実施例を本明細書に開示された形態に限定することを意図していない。複数の例示的な態様及び実施例が上記で議論されたが、当業者はそれらの特定の変形、修正、変更、追加、及びサブコンビネーションを認識するであろう。

Claims (15)

  1. ピクセルとして配置され、撮像対象からの光を受光して、前記光を変換電流に変換するための複数の感光性デバイスと、
    ピクセル処理電流を取得するように、前記変換電流をスケーリングする電流スケーリングユニットと、
    差電流を取得するように、各ピクセルのピクセル処理電流から前記ピクセルの周囲ピクセルのピクセル処理電流の平均値のN倍を引くための差電流取得ユニットと、
    前記撮像対象エッジ情報を取得するように、前記差電流に基づいて、アナログ−デジタル変換を実行するためのアナログ−デジタル変換ユニットと、
    を含む撮像素子。
  2. 前記感光性デバイスは光電変換を直接実現するための感光性デバイス、又は間接的に光電変換を実現するための感光性デバイスである請求項1に記載の撮像素子。
  3. 前記撮像対象からの光は、前記撮像対象から放射される光、又は前記撮像対象から反射される光である請求項1に記載の撮像素子。
  4. レンズユニット及びフィルタユニット中の少なくとも1つをさらに含み、
    前記複数の感光性デバイスは、前記レンズユニット及びフィルタユニット少なくとも一方を透過した、撮像対象からの光を受光する請求項1に記載の撮像素子。
  5. 前記変換電流は漏れ電流及びバイアス電流の少なくとも1つを含む請求項1に記載の撮像素子。
  6. 前記電流スケーリングユニットは、
    ピクセル処理電流を取得するように、前記変換電流をスケーリングするためのカレントミラー、
    ピクセル処理電流を取得するように、前記変換電流を電圧に変換してスケーリングするための変換回路、
    及び、ピクセル処理電流を取得するように、前記変換電流を直接スケーリングするための直接スケーリング回路のうちの1つを含む請求項1に記載の撮像素子。
  7. 前記変換回路は、
    前記変換電流を電圧に変換し、及び、
    前記ピクセル処理電流を取得するように、前記電圧で増幅電流を生成する請求項6に記載の撮像素子。
  8. 前記変換回路はアクティブデバイスのみを含むか、又は、アクティブデバイスとパッシブデバイスの両方を含む請求項7に記載の撮像素子。
  9. 前記ピクセル処理電流は、前記電流スケーリングユニットによって生成される漏れ電流及び誤差電流並びに追加されたバイアス電流を含む請求項1に記載の撮像素子。
  10. 前記差電流取得ユニットは、以下の方法のいずれかで前記差電流を取得し、
    前記ピクセルの周囲ピクセルのピクセル処理電流を加算して、前記周囲ピクセルの数Mで除算し、次にNを乗算し、
    前記ピクセルの周囲ピクセルのピクセル処理電流の1/M倍を加算してNを乗算し、
    前記ピクセルの周囲ピクセルのピクセル処理電流のN/M倍を加算する請求項1に記載の撮像素子。
  11. 前記Nは整数又は小数である請求項1に記載の撮像素子。
  12. スケーリングされた後の差電流を取得するように、前記差電流をスケーリングするための差電流スケーリングユニットと、
    前記撮像対象のエッジ情報を取得するように、前記スケーリングされた後の差電流をアナログ−デジタル変換するためのアナログ−デジタル変換ユニットと、をさらに含む請求項1に記載の撮像素子。
  13. 前記複数の感光性デバイスは、生体網膜の光受容体に類似した配置形態で配置されている請求項1に記載の撮像素子。
  14. 請求項1〜13のいずれか一項に記載の撮像素子、及び
    前記撮像対象のエッジ情報に基づいて、画像処理を行うための処理ユニットを備える撮像機器。
  15. 撮像対象からの光を受光することと、
    ピクセルとして配置された複数の感光性デバイスによって、前記光を変換電流に変換することと、
    ピクセル処理電流を取得するように、前記変換電流をスケーリングすることと、
    差電流を取得するように、各ピクセルのピクセル処理電流から、前記ピクセルの周囲ピクセルのピクセル処理電流の平均値のN倍を引くことと、
    前記撮像対象のエッジ情報を取得するように、前記差電流に基づいて、アナログ−デジタル変換を実行することと、を含む画像情報処理方法。
JP2020522333A 2018-01-26 2018-11-13 撮像素子、撮像機器及び画像情報処理方法 Active JP6918390B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201810079401.9A CN108282623B (zh) 2018-01-26 2018-01-26 成像元件、成像设备和图像信息处理方法
CN201810079401.9 2018-01-26
PCT/CN2018/115225 WO2019144678A1 (zh) 2018-01-26 2018-11-13 成像元件、成像设备和图像信息处理方法

Publications (2)

Publication Number Publication Date
JP2020537456A JP2020537456A (ja) 2020-12-17
JP6918390B2 true JP6918390B2 (ja) 2021-08-11

Family

ID=62805430

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020522333A Active JP6918390B2 (ja) 2018-01-26 2018-11-13 撮像素子、撮像機器及び画像情報処理方法

Country Status (3)

Country Link
JP (1) JP6918390B2 (ja)
CN (1) CN108282623B (ja)
WO (1) WO2019144678A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108282623B (zh) * 2018-01-26 2019-10-11 北京灵汐科技有限公司 成像元件、成像设备和图像信息处理方法
CN111083405B (zh) * 2019-12-24 2021-06-04 清华大学 双模态仿生视觉传感器像素读出系统
CN112600996B (zh) * 2020-12-03 2022-12-09 清华大学 紫外仿生视觉传感器

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08275059A (ja) * 1995-03-31 1996-10-18 Mitsubishi Electric Corp 受光素子回路、受光素子回路アレイ及び受光素子回路の構成方法
JPH11225289A (ja) * 1997-11-04 1999-08-17 Nikon Corp エッジ検出用固体撮像装置、並びに固体撮像装置の駆動によるエッジ検出方法
US6628330B1 (en) * 1999-09-01 2003-09-30 Neomagic Corp. Color interpolator and horizontal/vertical edge enhancer using two line buffer and alternating even/odd filters for digital camera
US20090161756A1 (en) * 2007-12-19 2009-06-25 Micron Technology, Inc. Method and apparatus for motion adaptive pre-filtering
JP5728821B2 (ja) * 2010-04-12 2015-06-03 株式会社ニコン 撮像装置および電子カメラ
CN103262524B (zh) * 2011-06-09 2018-01-05 郑苍隆 自动聚焦图像系统
CN107295236A (zh) * 2017-08-11 2017-10-24 深圳市唯特视科技有限公司 一种基于飞行时间传感器的快照差分成像方法
CN108282623B (zh) * 2018-01-26 2019-10-11 北京灵汐科技有限公司 成像元件、成像设备和图像信息处理方法

Also Published As

Publication number Publication date
CN108282623B (zh) 2019-10-11
JP2020537456A (ja) 2020-12-17
CN108282623A (zh) 2018-07-13
WO2019144678A1 (zh) 2019-08-01

Similar Documents

Publication Publication Date Title
JP6918390B2 (ja) 撮像素子、撮像機器及び画像情報処理方法
TWI414179B (zh) Shooting parameter adjustment method for face detection and image capturing device for face detection
CN102647941B (zh) 用于执行远程光电容积描记的方法和系统
US8953075B2 (en) CMOS image sensors implementing full frame digital correlated double sampling with global shutter
JP6143096B2 (ja) 眼底画像処理装置およびプログラム、並びに眼底画像撮影装置
McMackin et al. A high-resolution SWIR camera via compressed sensing
TW200847794A (en) Image processing apparatus, imaging apparatus, image processing method, and computer program
TWI615029B (zh) 圖像感測器及終端與成像方法
WO2016129162A1 (ja) 画像処理装置、画像処理方法、プログラムおよび画像処理システム
CN112532898A (zh) 双模态红外仿生视觉传感器
Wang et al. Stereoscopic dark flash for low-light photography
JP5708036B2 (ja) 撮像装置
CN112243091A (zh) 三维内窥镜系统、控制方法和存储介质
TW201524212A (zh) 影像資料匯集高動態範圍成像系統及相關方法
JP6362511B2 (ja) 撮像装置及びその制御方法
JP5127628B2 (ja) 画像処理装置および画像処理方法
JP6462594B2 (ja) 撮像装置、画像処理装置および画像処理方法
JP7164579B2 (ja) 画像センサー及び電子デバイス
JP2009100252A (ja) 撮像装置
CN107152971B (zh) 一种提高线阵红外电子放大图像水平细节分辨率的方法
CN112543271B (zh) 双模态紫外仿生视觉传感器
JP2014033305A (ja) 画像処理装置、撮像装置および画像処理プログラム
US10791289B2 (en) Image processing apparatus, image processing method, and non-transitory computer readable recording medium
JP2009010627A (ja) 固体撮像装置およびこれを用いたカメラ
JP2011114581A (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210713

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210714

R150 Certificate of patent or registration of utility model

Ref document number: 6918390

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150