JP4734410B2 - 一体型画像認識装置及び方法 - Google Patents

一体型画像認識装置及び方法 Download PDF

Info

Publication number
JP4734410B2
JP4734410B2 JP2008519641A JP2008519641A JP4734410B2 JP 4734410 B2 JP4734410 B2 JP 4734410B2 JP 2008519641 A JP2008519641 A JP 2008519641A JP 2008519641 A JP2008519641 A JP 2008519641A JP 4734410 B2 JP4734410 B2 JP 4734410B2
Authority
JP
Japan
Prior art keywords
image recognition
recognition
recognition apparatus
substrate
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008519641A
Other languages
English (en)
Other versions
JP2009524120A (ja
Inventor
ペレ,ギィ
メネンデス,アン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Norlitech LLC
AGC Flat Glass North America Inc
Original Assignee
Norlitech LLC
AGC Flat Glass North America Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Norlitech LLC, AGC Flat Glass North America Inc filed Critical Norlitech LLC
Publication of JP2009524120A publication Critical patent/JP2009524120A/ja
Application granted granted Critical
Publication of JP4734410B2 publication Critical patent/JP4734410B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/94Hardware or software architectures specially adapted for image or video understanding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Image Analysis (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、全般的には画像装置に関する。本発明は、特に、画像を認識するためにガラス等の透明な基板上に配置、又は、基板中に組み込まれた超小型装置に関する。
《関連する出願への相互参照》
本出願は、2005年6月30日付で出願した米国仮特許出願第60/694,988号に基づく優先権を主張する特許出願であり、これら全ての内容を参照によって本願明細書に援用したのもとする。
ガラス等の透明な面は何百年も前から存在している。当初、透明な面は、居住者/乗員に外界(風景、天候及び起こりうる危険)を認識させつつ生活空間を守ることを目的としていた。ディスプレイ業界では、つい最近ではブラウン管(CRT)の、また、ごく最近では液晶ディスプレイ(LCD)及びその他の多くの種類のフラットパネルディスプレイを始めとした透明な面の需要が高くなっている。使用時は、たいていの場合、人間又は生物(動物、植物)がこのような透明な面の近くに存在する。
画像センサ(例えば、CCD又はCMOSセンサ)は、何十年も使用されている。例えば、単一チップCMOS画像センサについては、その内容を参照によって援用する特許文献1を参照されたい。典型的な画像センサは、カメラの設計に基づいており、一般にレンズの後ろに配置された集積回路を含み、そのレンズは小型又は取外し可能(例えば、ねじ止めレンズ)であってもよい。センサは、光エネルギー(フォトン)をセンサ上でアレイ状に構成されている感光素子が受けた光量に比例した電気信号に変換するために使用されている。画像は、感光素子の出力から合成されている。
画像認識技術の需要はますます高まっている。さまざまな大きさ及び製造会社のビデオカメラは、例えば、セキュリティ、認証、知能、品質検査、交通監視等への利用の需要が高まっている。多くの場合、ビデオカメラは有線又は無線でディスプレイ装置と相互に連結されている。今日、携帯電話は、その中に配置されているLCDディスプレイ装置と接続した小型カメラが当たり前のように装備されている。
高度な画像認識には高分解の画像合成が必要となる。現在の画像認識システムは、処理能力が劣るため及び/又は処理装置が一度に画像中の1画素だけ処理可能なため、比較的ゆっくり動作する。
従って、従来技術よりも改良された新しい画像認識装置が必要である。
米国特許第6,617,565号明細書
本発明は、入射光画像と検出領域との間の光学インタフェースを構成している透明又は半透明材料内に直接含まれている検出領域(例えば、感光素子)を有する画像認識装置を提供することを目的とする。画像認識装置自体は、透明又は半透明であることが望ましい。
本発明のもう一つの目的は、訓練可能な処理素子のアレイを用いて検出領域に「局所」決定能力を提供することである。本発明の一実施形態において、訓練可能な認知記憶素子又はセルは、1つ以上の感光素子と関連付けられている。局所決定能力は、特に、感光素子の数が多いとき及び感光素子の伝達頻度が高いに違いない場合に、装置の伝達条件(例えば、バンド幅)を緩和するという利点を提供する。それぞれが局所決定能力を有する検出領域である大きなアレイを提供することで、解像度の高い高速画像装置を得ることができる。
本発明の一実施形態によれば、訓練可能な認知記憶素子は、低周波において同時に動作し、消費電流が極めて低い。その結果、各素子の自律操作が実現され、例えば、太陽電池又は同等のもの等の大変経済的なエネルギー源を使用することができる。
本発明の一実施形態によれば、すべて基板に組込まれている、1つ以上の感光素子を1つ以上の訓練可能な認知記憶素子に関連付けることにより、新規性を有する一体型画像認識装置を形成している。
本発明の一実施形態によれば、複数の訓練可能な認知素子に関連付けられた複数の感光素子は、1つ又は複数アレイに配置され、また平坦な透明又は半透明基板上に分散させることができる。これらのアレイは、種々の形状及び接続可能性を有することができる。典型的な形状は、平行に並んだニューロン(neuron)の1次元配列、又は、ラスタ(raster)若しくはハニカム構造に接続されたニューロンの2次元配列であってもよいが、これらに限られない。
本発明の種々の実施形態のさらなる用途及び利点は、図面を参照して以下に詳述する。
本発明は種々の形で具体化できるが、本開示は本発明の原理の実施例を示すものとの理解で、本明細書内にいくつかの例示的な実施形態について説明しており、これらの実施例が本発明を本開示に記載及び/又は図示するいかなる特定の実施形態に限定するものではない。
本発明は、訓練可能な認知素子に接続、結合又は関連付けされた感光素子等のセンサ知覚装置を含むことがある画像装置であって、いずれの素子も透明基板面に化学的に付着、さもなければ、透明基板面上に配置又は中に組み込まれている。検出領域と「局所」決定能力を有する訓練可能な認知素子との組み合わせは、本明細書の全体を通して「認知センサ(CogniSensor)」と称されている。訓練可能な認知素子は、本明細書の全体を通して「認知素子(CogniMem)」と称されている。通常、検出領域は、1つ以上の感光素子からできているが、他の検出構成も考えられる。
本発明による実施形態によれば、認知センサは、入射光パターン(例えば、画像又は画像の一部)を認識し、局所決定を行うために入射光パターンを処理し、局所決定の結果又は指示を伝達するように構成することができる。認知センサは、例えば、局所決定能力−データ入力論理、「ニューロン」及び決定出力論理、メモリバッファ、エネルギー的に自律するための太陽電池及びその他のいくつかの構成要素を含むこともできるが、これらに限られない。各認知センサは、平行に配列された反応性の連想的学習メモリ(REALM)機能を備えることが望ましい。本発明の一実施形態によれば、認知素子は、デジタルであろうとアナログであろうとコンピュータの指令が一切無くてもパターン認識ができる。
認知素子は、それら自体の内容に類似した入力パターンに反応できるものであって同時アクセス可能な連想メモリである1つ以上のニューロンを備えることがある。ニューロンは、隣接した他のニューロンの反応に基づいてそのニューロンの反応を補強することにより、個別に又は集合的に反応できる。この選択は、ニューロンに接続した抑制性/興奮性の入力列を通してなされる。
認知素子のニューロンの中身は、「知識」を構成している。知識は、一組の静的に識別可能なデジタル式の特徴である。知識は静的(一回の読込み)又は動的(他のニューロンの反応によって更新されるか外部知識ベースから適応的に読み込まれる)であってもよいが、コンピュータを使用することなく学習過程で自動的に生成されることが望ましい。同一基板上に付着されている認知素子は、同一又は異なる知識を使用することができる。
認知素子は、認知センサの一部として基板上に配置又は中に埋め込んで(あるいは結合させて)もよいが、独立させてもよい。前者の場合には、通常、認知素子は、専ら感光素子に伝達される画素データを認識するためにある。後者の場合には、認知素子は、他の認知素子を支持するために使用され、また、例えば、他の認知素子群に伝達された異なる種類のデータを認識するために(例えば、複数の認知センサからの反応のパターンをまとめるために)使用されることがある。
下記の特許文献及び公開公報は、認知素子及び認知センサに適用可能なニューロン及びニューラルネットワークの種々の態様を開示し、それぞれ参照によって全体を援用する:米国特許第5,621,863号明細書−ニューロン回路;米国特許第5,717,832号明細書−改良型ニューロン回路構成;米国特許第5,701,397号明細書−空きニューロン回路の事前装着用回路;米国特許第5,710,869号明細書−ニューロン回路の直列接続用デイジー・チェーン回路;米国特許第5,740,326号明細書−ニューラルネットワーク内データの検索/並べ替え用回路;米国特許第6,332,137号明細書−独立ハードウェアを認識するための並列連想メモリ;米国特許第6,606,614号明細書−単線式検索及び並べ替え;日本国特開平8−171543号公報−ニューロン回路の直列接続用デイジー・チェーン回路;日本国特開平8−171542号公報−事前装填回路;日本国特開平8−171541号公報−集合回路;日本国特開平8−171540号公報−ニューラル・ネットワーク及びニューラル・チップ;日本国特開平8−069445号公報−ニューロン回路;韓国特許公報第164943号明細書−革新的ニューロン回路構成;欧州特許第0694852号明細書−革新的ニューロン回路構成;欧州特許第0694854号明細書−改良型ニューラル半導体チップ構成;欧州特許第0694855号明細書−ニューラルネットワークの検索/並べ替え;欧州特許第0694853号明細書−認識段階における自由ニューロン回路内入力ベクトル成分の事前装填用回路;欧州特許第0694856号明細書−ニューロン回路の直列接続用デイジー・チェーン回路;加国公開特許第2149478号明細書−改良型ニューロン回路構成;加国公開特許第2149479号明細書−改良型ニューラル半導体チップ構成。
認知素子上に実装されているニューロン数は1からNの間で変わり、ニューロンセルの構成のためNは理論上無限である。現在のところ、Nは1000ということもありうる。一般に、Nはアプリケーションにより、具体的に認識されるパターンの多様性及び伝達される決定の種類によって決まる。当業者は、シリコン技術が、単位面積当たりに提供できるニューロン数を決める重要な要因であることに気づくであろう。
本発明の一実施形態による画像認識装置の例示的な構成は、図1A及び図1Bに示される。図1Aは、ガラス、プレキシガラス(登録商標)、透明プラスチック等いくつかの透明又は半透明材料で作ることのできる基板102を含む装置100の上面図である。1つ以上の認識センサ104(この場合、1つのアレイ)が、基板102内に埋め込まれ、又は、この場合のように基板102の表面に取付け、接着、若しくは結合することがある(図1B参照)。基板上の各感光素子の正面に、光路は、エッチング又は付着されてもよい。例えば、各認知センサ104のためにレンズ102aを作るべく、基板102を認知センサ104の位置でエッチングしてもよい。代わりに、マイクロレンズ102aを基板102内に挿入(図2)又は、基板102上の感光素子の正面に接着(図3A及び図3B)してもよい。別の選択肢として、入射光の焦点を合わせるべく基板の各センサに近接した部分の反射率を変えるように基板を改造してもよい。図1Bに示すように、入射光は、基板レンズ102aを用いることによって各認知センサ104上に焦点が合わせられている。
複数のレンズ102aは、認知センサ104に様々な視野をカバーさせ、その視野は好ましくは基板面の広さに等しいが、場合によっては基板面の広さに等しい視野より狭いあるいは広い視野をカバーすることもある。マイクロレンズ102aは、認知センサ10のアレイを無限の面及び視野を有するテレセントリック画像認識装置に変える。
図2は、本発明の別の実施形態による一体型画像認識装置の上面図である。図示のように、レンズ102aは、基板102内に埋め込まれており、各認知センサ104の上に位置している。画像装置の使用例として、DNA断片202を基板102の表面上に配置して示す。各認知センサ104は、個別に又は隣接した認知センサ104と協働して特定のDNA断片を認識し、その断片が特定されると信号を出力するように構成されることができる。
図3A及び図3Bは、単一の認知センサ104の例示的な実施形態を示す。図3Aに示すように、ニューロン104aの集中している領域は、画素検出領域104bを取り囲む。ニューロン領域104a内のニューロンは、画素領域104b内の検出素子と結合することができ、また画素領域104bで検出されたパターンを認識するように構成することができる。図3Bに示すように、凸レンズ又はマイクロレンズ102aは、画素領域104b上に入射光の焦点を合わせるべく基板102面上の画素領域104b上に配置され、または中間基板を使用しないで直接センサに接続されている。例えば、レンズ102aは、一般的な手段で基板上に化学的に付着してもよい。
図4は、本発明の一実施形態による例示的な認知センサ104の機能ブロック図である。認知センサ104は、センサ又は検出領域402、データ表示ロジック404、ニューラルネットワーク406及び局所決定ロジック408を含む。センサ402は、感光素子等の1つ以上の検出素子を含む場合がある。データ表示ロジック404はセンサ領域402及びニューラルネットワーク406と結合しており、処理に適した方法でセンサから出力されるデータをニューロンに与えるように構成されている。ニューロン406は、知識を「教示される」又は「わかる」と、表示ロジック404からニューロン406へ入力したデータを処理して、処理したデータを処理データに基づいて決定を下す局所決定ロジック408へ出力することができる。局所決定ロジック408は、さまざまな周知方法で他の認知センサ又は認知素子と結合することができる。従って、認知センサ104は複数アレイ、及び、複数アレイから成るアレイを複数並べた配列とすることもできる。
図5A及び図5Bには、複数アレイからなる認知センサの配列を示す。図5Aに示すように、各認知センサ104はアレイ502の複数の認知センサ104と結合することができる。以下に詳述するように、センサを直列又は並列に結合すべく、入力及び出力バスを使用することもできる。
図5Bに示すように、各アレイ502は、アレイ配列504を形成すべく複数のアレイ502と結合することもできる。認知センサ104の複数アレイから成るアレイを複数並べることにより、極めて強力な、つまり高解像度及び高速の認識装置が作られる。すなわち、センサの数を増やすことによって画像装置の解像度を上げることができる。しかし、認知素子の形で確固とした局所決定能力を与えることにより、認知センサの数を増やしても装置の処理速度は落ちない。さらに、アレイはさまざまな形状に構成でき、本発明は矩形アレイに限らないことが理解できる。
上述の通り、各ニューロンは、例えば多重入力であってもよい複数の入力1-nと結合できるが、これに限らない。図6Aは、複数の入力を有するニューロンの例であり、図6Bに簡単化して示す。結果として、図6Cの簡単な並列構成に示すように、ニューロンのアレイは入力バス602(図6Cにはバス602はない)を使用して組み立てることができる。ニューロン406の各出力は大域決定バス406に接続することができる。
図7は、本発明の一実施形態による例示的なニューロンの機能ブロック図である。ニューロンを無限拡張ネットワークとして組み立てるのは、デジタルベクトル又は特徴(パターン)を学習して呼び戻す(recall)ことを目的とするからである。デジタル式の特徴の多くは、あるデータ整理の処理によってコード化された光強度の空間的分布である。ニューロンは図6Cに例示すように並列に接続できる場合があり、これはすべてのニューロン出力と同様に、ニューロン入力が並列に接続されていることを意味する。
データ信号は、多重入力バス(図示せず)からニューロン700へ入力することがある。学習多重化装置702は、多重入力信号を分割して入力データ信号をニューロン呼び戻しメモリ704と関連ロジック素子706内へ転送できる。ニューロン呼び戻しメモリ704は、入力信号を処理し、関連ロジック素子706へ処理信号を出力する。関連ロジック素子706は、類似因子決定素子706aを含む。
全てのニューロンは、データ表示ロジック404によって生成された放送パターン(つまり、センサデータのデジタル式の特徴を意味するベクトル)を受信することができる。この放送パターンは、瞬時又は時間領域内のセンサ生成データの変形(データを整理したもの)であってもよい。
1つのニューロンは起こり得る時系列に連続した3つの状態:休眠状態、学習準備完了状態(RTL)及びその後の完遂状態、を有する。少なくとも1つのニューロンは、ネットワークがいっぱい(つまり、全てのニューロンが完遂されている)の時を除いて常にRTL状態にある。全ての並列接続ニューロンを一連の鎖とみなす場合、RTLニューロンは鎖の先頭位置から末尾位置に移動することができる。このような配列の場合、通常RTLニューロンは完遂ニューロンの右側にあり、休眠ニューロンがRTLニューロンの右側にあるであろう。
ニューロンが休眠状態にあるとき、いかなる入力パターンにも反応しない。もしユーザ処理が学習することを決断すれば、RTLニューロンは入力パターンを学習すべく、入力パターンを呼び戻しメモリ内にロードすることになる。このRTLニューロンは認識処理には関与しないでむしろ学習中に新しい知識を築くことに専念する。
学習工程には、未知のパターンの発生後、ユーザがそれを学習することを決断した際に新しい知識を生成することを含む。この知識の追加はRTLニューロン内で行われる。新しい知識を生成することに加え、入力パターンを間違えて(つまり、正しく関連付けることに失敗する)識別する可能性を有する完遂されたニューロンは、分類をこれ以上誤ることを防ぐべく類似領域を縮小するであろう。これにより、知識の修正又は「適応学習」を始める。
光素子は、デジタル化された放射値を出力することができる。空間全体に分布する全ての値の組み合わせはパターンを形成し、このようなパターンは時間領域内で発展してパターンのストリームを生成することができる。このパターンはデータ整理の処理を経て、放射パターンのデジタル式の特徴(ベクトル)へと進む。データ整理の処理は以下にて詳述する「最小識別マトリックス」と呼ばれているものを超えてはならない。例えば、5x7のマトリックスの場合、ヨーロッパ言語の大文字を全て識別することができるが、16x16のマトリックスを必要とする漢字を認識することはできない。
完遂ニューロンは、呼び戻しメモリ704内にロードされているベクトルを分類レジスタ709内に収納されている分類と関連付けることにより、RTL状態にあるときにパターンを学習する。入力パターンが完遂ニューロンに入ると、呼び戻しメモリ704内に収容されているベクトルに対してこの入力パターンの類似性が評価されるべく、学習/認識多重化装置702は入力パターンを関連ロジック706へ転送する。計算された類似性が類似因子706aより少ない又は等しいということが判明すると、ニューロンは励起されて、その結果、ロジック712を介して信号を送るであろう。励起性/抑制性ロジックの機能は、全ての「作動」(つまり、励起)が確定したニューロンのうちより多くのニューロンが励起されると大域のアービトレーションを行うこと及び最高の類似性を有しないニューロンを「抑制」することである。
<対象領域>
各認知センサは、映像フレーム用に対象領域(ROI)と関連付けられることがある。各認知センサは、(学習又は認識のために)これらのニューロンへ同時送信するROIの特徴を抽出することができる。ROIの特徴は、ROIの画素値を縮小して、ニューロンの記憶セルの大きさであるN値の並びに収まるように圧縮されたフォーマットになっている。
ニューロンが256バイトの記憶容量を装備している場合を例とする。認知センサは、NxM画素の長方形ROIを分類することがある。このROIの特徴は、例えば、簡単なブロック圧縮によって、NxM値から256値に縮小されるであろう。
認知センサは、あらゆる形のROIを処理するように構成されることができ、抽出した特徴からの選択がアプリケーションに特化(例えば、部分検査、表面検査、顔認識、目標追跡、他)したものであってもよい。一部の特徴の抽出は、時間、反復性、その他を組み込むことができる。また、12ビット又はそれ以上のピクセル解像度を有するセンサからの入力を収容できるようにニューロンに8ビットより大きな記憶セルを装備することができる。
ニューロンとセンサ及びデータ表示ロジックとの組み合わせは、学習又は認識処理のいずれにも必要なソフトウェアなしで、埋め込み画像認識における全く新しい手法を形成する。
認知素子のアドレス指定は、経験的又は選択的(例えば、他の認知素子の反応によって決まる)であってもよい。
(複数の)認知センサを受容している基板は、機械的支持及びレンズ(例えば、図1及び図2参照)の両方の役割を果たすことを理解されたい。基板は、剛性又は弾性、平坦又は湾曲したガラス、プレキシガラス、プラスチック、マイラ(Mylar)又は他の材料からできた面であってもよいが、これらに限らない。
同一基板上の認知センサと認知素子ユニット間の接続には、最小限の配線を使用することが好ましい。
認知センサにロードされている知識は、関連性の有無にかかわらず異なるパターン群の認識をアドレス指定できることが好ましい。
<実施例>
本発明による一実施形態によれば、認知センサは、自動製造工程における検査を行うために好適である。図8に示すように、水筒を検査すべく1つ以上の認知センサを使用することができる。この実施形態では、異なる3つの認知センサが、エキスパート(Expert)1から3として示される異なる3つの領域を検査すべく用いられている。大域の反応は3つの「エキスパート」認知センサの複合反応による。
この実施形態において、認知センサ1(エキスパート1)は、瓶802の蓋を覆っているROIの特徴を分類するように訓練できる。認知センサ1は、そのROIを2つのカテゴリ:良と不良、に分類できる。不良のカテゴリはいくつかの例:蓋があるべきところにない又は蓋がきちんと締められていない、を組み合わせることができる。
同様に、認知センサ2(エキスパート2)は、瓶804内の液体の高さを横切っているROIの特徴を学習できる。ROIは、縦に細長い長方形でもよく、考えられる瓶内の最小及び最大水位を覆うことが理想的である。製造者の品質管理基準により、認知センサ2はそのROIのカテゴリーをいくつにでも、例えば、許容可能及び許容不可能;高過ぎる、許容可能及び低過ぎる;又は、高過ぎる、高いが許容可能、範囲内、低いが許容可能、低過ぎる、に分類できる。
認知センサ3(エキスパート3)は、ラベル範囲806の覆っている対象領域の特徴を学習できる。認知センサ3は、例えば、ラベル欠け、ラベル不良(裂けている、引っかきあり又は折れている)、位置ずれラベル(逆さま、斜めになっている)及び良好、等多様な場合又は場合の組み合わせを認識するように訓練できる。
認知センサ1から3の出力は、これらにおける決定に基づいて適切な対応を取るべく、自動製造工程と関連した制御装置へ送ることができる。
本発明の一実施形態によれば、認知センサは、スマートフォトセル(smart photocell)又はスマートマイクロレンズ(smart microlens)を形成すべく個別包装されていてもよい。このような装置は、多くの技術に適用され、例えば、移動部品の感知、自動組み立て工程における経路の特定又は移動部品の経路設定(図9A);カメラ付き携帯電話等での生体認証(図9B);あるいは扉ののぞき穴又は類似のものにおける訪問者の探知及び識別(図9C)、に使用できる。
本発明の別の実施形態によれば、運転手意識感知システムが設けられている。図10に示すように、1つ以上の認知センサ104がフロントガラス、計器板のフラットパネルディスプレイ、又は自動車のヘッドライトに埋め込まれていてもよい。認知センサ104は、運転手がもはや注視していない(例えば、運転手が居眠りをしている)ことを示すパターンを認識して警報を発すべく信号を出力するように教示されることができる。このようなパターンには、視線追跡、顔認識、表情認識及びその他を含むことができる。さらに、フロントガラス又はヘッドライト内の認知センサ104は、例えば、フロントガラスのワイパーシステムで雨粒を又は道路障害物警告システムで道路障害物を認識すること等、車両の外部にある物体又は事象を認識するように教示されることができる。
視界の遠くあるいは近くで任意に現れることがある物体の感知は、いくつかの方法で行うことができる。例えば、2つ又は3つのセンサには、異なる距離に焦点を合わせた複数のレンズを装備することができる。これらのセンサは、同じ知識をロードしているが、異なる大きさの対象領域に対して動作することができる。認知システムの広域反応は、少なくとも1つのセンサが物体を認識すれば確かであるとみなすことができる。
また認知センサは、例えば、近赤外線、赤外線、カラーフィルタされた、その他、異なる波長を感知する入力センサを伴うように設計されていてもよい。特定の物体又は状況において、このような認知センサは異なる画素値を生じるであろうが、それぞれのビデオ画像において物体のカテゴリを認識するように訓練可能である。目標物追跡の際、近赤外線及び赤外線認知センサを組み合わせることにより、目標物を一日中認識できる能力が得られる。
本発明の別の実施形態によれば、認知センサの複数アレイをその他多くの製造関連用途に使用することができる。例えば、図11Aに示すように、製造工程においてガラスの浮遊物1103の検査に1次元配列の認知センサ1102を使用することができる。図11Bに示すように、飲料用瓶などの容器1105の底部の含有物を感知すべく2次元配列の認知センサ1104を使用することができる。このような用途において、各認知センサにガラスの欠陥又は液体の含有物を表すパターンを認識するように教示できる。
本発明の別の実施形態によれば、複数の独立した機能を実行すべく、認知センサをガラス面あるいは類似のものにわたって分散させることができる。認知センサは、グループ化してグループ単位に異なる知識を教示されることがある。一例として図12に、近づいて来る、異なる大きさの物体を検出する認知センサ1204を数グループ含むガラス製の引き戸1202を示す。第1のグループは人間又は動物(例えば、犬)の第1の大きさ1208を認識する知識を教示され、同時に第2のグループは異なる大きさの人間(例えば、少年)1210について教示され、第3のグループは別の大きさの人間(例えば、大人)1212について、など教示されることがある。各グループ1204は、引き戸を制御すべく1つ以上の認知素子1206と結合することができる。
この明細書を検討することにより当業者に明らかになるように、本発明による画像装置は、本明細書に開示されていない無数の用途に役立つことがある。例えば、別の用途には、ダム、橋梁又は他の人工構造物における永久損傷(組成の変化)検知を含む。このような用途への応用は、本発明の実施形態に関する上記の説明から明らかであろう。さらに、電源及び信号伝送はワイヤレス(例えば、赤外線、フォトセル(光電池)、誘導ループ等)であってもよい。
このようにいくつかの好適な実施形態について図面を参照して詳細に説明した。本発明をこれらの好適な実施形態に基づいて説明したが、本発明の精神及び範囲で詳述した実施形態の特定の改良、変更及び代替構成は可能であることは当業者に明らかであろう。
図1Aは本発明の一実施形態による、エッチング加工されたレンズをその中に有するガラス又はプレキシガラスあるいは他の透明プラスチック又は透明基板上に配置されているセンサアレイの正面図である。図1Bは本発明の一実施形態による、エッチング加工されたレンズをその中に有するガラス又はプレキシガラス又あるいは他の透明プラスチック又は透明基板上に配置されているセンサアレイの上面図である。 本発明の一実施形態による、エッチング加工されたレンズをその中に有するガラス又はプレクサス(plexus)基板の上に配置されたセンサ配列の上面図であってDNA断片を示す。 本発明の一実施形態によるセンサのチップの側面図である。 本発明の一実施形態によるセンサのチップの上面図である。 本発明の一実施形態によるセンサのブロック図である。 図5Aは本発明の一実施形態によるセンサアレイのブロック図である。図5Bは本発明の一実施形態によるセンサアレイの配列のブロック図である。 図6Aは本発明の一実施形態によるニューラル構造である。図6Bは本発明の一実施形態によるニューラル構造である。図6Cは本発明の一実施形態によるニューラル構造である。 本発明の一実施形態によるニューロンのブロック図である。 本発明の一実施形態による画像認識装置の例示的な用途である。 本発明の一実施形態による画像認識装置の例示的な用途である。 本発明の一実施形態による画像認識装置の例示的な用途である。 本発明の一実施形態による画像認識装置の例示的な用途である。 本発明の一実施形態による画像認識装置の例示的な用途である。

Claims (34)

  1. 透明又は半透明基板の中に埋め込まれた又は上に配置された検出素子と、
    前記検出素子と結合した処理素子であって、前記処理素子が前記基板の中に埋め込まれている又は上に配置されている処理素子と
    を含む画像認識装置であって、
    前記透明又は半透明基板が、検出される入射画像と前記検出素子との間に光学インターフェースを構成する画像認識装置。
  2. 前記基板が、ガラス、プレキシガラス又は他の透明材料を含む請求項1に記載の画像認識装置。
  3. 前記検出素子が、1つ以上の感光素子を含み、
    前記処理素子が、1つ以上の認知記憶素子を含む画像認識装置であって、
    各前記感光素子が入力において受けた光に基づいて信号を出力するように構成されており、
    各前記認知記憶素子が前記感光素子から出力された前記信号からパターンを認識するように構成されている請求項1に記載の画像認識装置。
  4. 前記認知記憶素子が訓練可能である請求項3に記載の画像認識装置。
  5. 各前記認知記憶素子が、多重入力バスを用いてその入力側で、また、多重出力バスを用いてその出力側で結合されている複数のニューロンを含み、
    各前記ニューロンが、知識を教示されており、
    前記知識が、前記対応ニューロンに信号を認識して決定を下すようさせる請求項3に記載の画像認識装置。
  6. 前記基板が複数のレンズ部を含み、
    各レンズ部が、前記画像認識装置の検出素子で光学インターフェースを提供している請求項1に記載の画像認識装置。
  7. 各レンズ部が前記基板をエッチングすることによって形成されている請求項6に記載の画像認識装置。
  8. 前記画像認識装置が、アレイ状に配列されている複数の前記検出素子を含む請求項1に記載の画像認識装置。
  9. 画像認識装置であって、
    透明又は半透明基板上に配置されている複数の認知センサを含み、
    各センサが
    感光素子と、
    前記感光素子と関連付けられている訓練可能な認知記憶セルと、
    前記基板上に形成されている複数の光学インターフェースであって、それぞれが前記複数の認知センサのうち対応する1つと光学的に結合されている光学インターフェースと
    を含む画像認識装置。
  10. 前記光学インターフェースが、各前記認知センサに接近した位置で前記基板をエッチングすることによって形成されたレンズである請求項9に記載の画像認識装置。
  11. 各認知センサが訓練可能であり、入射光に基づいてパターンを認識するようになっている請求項9に記載の画像認識装置。
  12. 各前記認知記憶素子が、多重入力バスを用いてその入力側で、また、多重出力バスを用いてその出力側で結合されている複数のニューロンを含み、
    各前記ニューロンが、知識を教示されており、
    前記知識が、前記対応ニューロンに信号を認識して決定を下すようさせる請求項9に記載の画像認識装置。
  13. 前記基板が、ガラス、プレキシガラス又は他の透明材料を含む請求項9に記載の画像認識装置。
  14. 各認知記憶セルが、画像の異なる部分を認識するように教示され、
    前記複数の認知記憶セルが、前記画像を認識すべくまとめて動作するように構成されている請求項12に記載の画像認識装置。
  15. 前記認知センサが、前記画像の前記認識に基づいて信号を出力するように構成されている請求項14に記載の画像認識装置。
  16. 透明又は半透明基板と、
    入射光のパターンを検知して、検出したパターンに基づいた信号を出力する認知検出手段であって、前記基板内に埋め込まれている認知検出手段と、
    前記認知検出手段に光学インターフェースを提供するための光学インターフェース手段と
    を含む画像認識装置。
  17. 前記認知検出手段が、複数の光検出器と複数の認知記憶セルを含む画像認識装置であって、
    各前記光検出器が、入力において受けた光に基づいて信号を出力するように構成されており、
    各前記認知記憶セルが、前記光検出器から出力される前記信号からパターンを認識するように構成されている請求項16に記載の画像認識装置。
  18. 前記光学インターフェース手段が、前記基板内に形成された複数のレンズを含む請求項16に記載の画像認識装置。
  19. 前記認知検出手段が複数の認知センサを含み、
    各認知センサがそれぞれ
    感光素子と、
    前記感光素子と関連付けられている訓練可能な認知記憶セルと
    を含む請求項16に記載の画像認識装置。
  20. 各前記認知記憶素子が、多重入力バスを用いてその入力側で、また、多重出力バスを用いてその出力側で結合されている複数のニューロンを含み、
    各前記ニューロンが、知識を教示されており、
    前記知識が、前記対応ニューロンに信号を認識して決定を下すようさせる請求項19に記載の画像認識装置。
  21. 認知検出手段が、ソフトウェア・プログラムを使用することなく、それぞれが自己完結的及び自律的機能を有する複数の並列素子を通じてデジタル式に画像認識動作する請求項16に記載の画像認識装置。
  22. 前記画像認識装置が無線出力信号を出力するように構成されている請求項1に記載の画像認識装置。
  23. 各認知センサが無線信号を送受信するように構成されている前記請求項9に記載の画像認識装置。
  24. 認知検出手段が無線信号を送受信するように構成されている前記請求項16に記載の画像認識装置。
  25. 前記装置が無線で電力を供給されている請求項1に記載の画像認識装置。
  26. 前記装置が無線で電力を供給されている請求項9に記載の画像認識装置。
  27. 前記装置が無線で電力を供給されている請求項16に記載の画像認識装置。
  28. センサ及びデータ表示ロジックを備えたニューロンの組み合わせを含み、前記組み合わせは前記透明又は半透明基板の中に埋め込まれている又は上に配置されている画像認識装置。
  29. 画像認識装置の製造方法であって、
    入射光のパターンを認識して前記認識されたパターンに基づいて信号を出力するための認知検出手段を、透明又は半透明基板の中に埋め込み又は上に付着させるステップと、
    前記認知検出手段に光学インターフェースを提供するための光学インターフェース手段を設けるステップと
    を含む方法。
  30. 前記認知検出手段が複数の光検出器と複数認知記憶セルとを含む画像認識装置の画像認識方法であって、
    各前記光検出器が入力において受けた光に基づいて信号を出力するように構成されており、
    各前記認知記憶セルが前記光検出器から出力される前記信号からパターンを認識するように構成されている請求項29に記載の方法。
  31. 前記光学インターフェース手段の一部として前記基板中に形成、又は、前記基板上に配置されている複数のレンズを設けるステップをさらに含む請求項29に記載の方法。
  32. 前記認知検出手段が複数の認知センサを含み、
    各認知センサがそれぞれ
    感光素子と、
    前記感光素子と関連付けられている訓練可能な認知記憶セルと
    を含む請求項29に記載の方法。
  33. 各前記認知記憶素子が、多重入力バスを用いてその入力側で、また、多重出力バスを用いてその出力側で結合されている複数のニューロンを含み、
    各前記ニューロンが知識を教示されており、
    前記知識が前記対応ニューロンに信号を認識して決定を下すようさせる請求項32に記載の方法。
  34. 画像認識方法であって、
    透明又は半透明基板に埋め込まれた又は上に設けられた複数の光学インターフェースを用いて、前記基板に埋め込まれた又は上に設けられた複数の検出素子への光路を提供し、
    それぞれが前記検出素子に接続され、それぞれが前記基板に埋め込まれた又は上に設けられている複数の処理素子の中にある前記複数の検出素子から生成された信号を同時に処理する画像認識方法。
JP2008519641A 2005-06-30 2006-06-30 一体型画像認識装置及び方法 Expired - Fee Related JP4734410B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US69498805P 2005-06-30 2005-06-30
US60/694,988 2005-06-30
PCT/US2006/025731 WO2007005688A1 (en) 2005-06-30 2006-06-30 Monolithic image perception device and method

Publications (2)

Publication Number Publication Date
JP2009524120A JP2009524120A (ja) 2009-06-25
JP4734410B2 true JP4734410B2 (ja) 2011-07-27

Family

ID=37192296

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008519641A Expired - Fee Related JP4734410B2 (ja) 2005-06-30 2006-06-30 一体型画像認識装置及び方法

Country Status (10)

Country Link
US (1) US7796841B2 (ja)
EP (1) EP1899899A1 (ja)
JP (1) JP4734410B2 (ja)
KR (1) KR101326384B1 (ja)
CN (1) CN101253515B (ja)
BR (1) BRPI0613097B1 (ja)
CA (1) CA2613922C (ja)
MX (1) MX2007016556A (ja)
RU (1) RU2444059C2 (ja)
WO (1) WO2007005688A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8478081B2 (en) 2005-06-30 2013-07-02 Agc Flat Glass North America, Inc. Monolithic image perception device and method
US8798148B2 (en) * 2007-06-15 2014-08-05 Physical Optics Corporation Apparatus and method employing pre-ATR-based real-time compression and video frame segmentation
EP2148208B1 (en) 2008-07-25 2016-04-13 F.Hoffmann-La Roche Ag Method and laboratory system for handling sample tube racks
EP2530025B1 (en) * 2008-07-25 2015-11-04 F.Hoffmann-La Roche Ag Alignment element for sample tube racks
ES2402225T3 (es) * 2008-07-25 2013-04-29 F. Hoffmann-La Roche Ag Un método y un sistema de laboratorio para la manipulación de tubos de muestras y una unidad de análisis por imagen
ES2402227T3 (es) * 2008-07-25 2013-04-29 F. Hoffmann-La Roche Ag Un sistema de laboratorio de almacenamiento y recuperación y un método para la manipulación de tubos de muestras de laboratorio
US8755515B1 (en) 2008-09-29 2014-06-17 Wai Wu Parallel signal processing system and method
CN101902619A (zh) * 2010-06-22 2010-12-01 浙江天鸿汽车用品有限公司 车载智能身份识别与监视系统
KR102023863B1 (ko) * 2016-04-14 2019-09-20 닛산 지도우샤 가부시키가이샤 이동체 주위 표시 방법 및 이동체 주위 표시 장치
GB201608455D0 (en) 2016-05-13 2016-06-29 Belron Internat Ltd Break analysis system, method and device
US12040317B2 (en) 2019-12-06 2024-07-16 Osram Opto Semiconductors Gmbh Optoelectronic device
CN111104542B (zh) * 2020-01-07 2023-04-18 成都睿琪科技有限责任公司 零件识别管理方法及装置
WO2021188755A1 (en) * 2020-03-18 2021-09-23 Gentex Corporation Near infra-red emitting rearview assembly

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63161680A (ja) * 1986-12-25 1988-07-05 Mitsubishi Electric Corp 半導体受光素子
US6221687B1 (en) * 1999-12-23 2001-04-24 Tower Semiconductor Ltd. Color image sensor with embedded microlens array
JP2005167090A (ja) * 2003-12-04 2005-06-23 Hamamatsu Photonics Kk 半導体受光素子及びその製造方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2193797C2 (ru) * 1990-04-26 2002-11-27 Джон СУТЕРЛАНД Устройство ассоциативной памяти (варианты) и способ распознавания образов (варианты)
DE69430529T2 (de) 1994-07-28 2003-01-16 International Business Machines Corp., Armonk Daisy-Chain-Schaltung für die serielle Verbindung von Neuronalschaltungen
DE69430870T2 (de) 1994-07-28 2003-03-13 International Business Machines Corp., Armonk Innovative Neuronalschaltungsarchitektur
EP0694855B1 (en) 1994-07-28 2002-05-02 International Business Machines Corporation Search/sort circuit for neural networks
EP0694853B1 (en) 1994-07-28 2002-05-02 International Business Machines Corporation Circuit for pre-charging the input vector components in a free neuron circuit during the recognition phase
DE69430744T2 (de) 1994-07-28 2003-01-30 International Business Machines Corp., Armonk Verbesserte Neuronalhalbleiterchipsarchitekturen und Neuronalnetzwerke darin
EP0893915A3 (en) * 1997-06-25 2000-01-05 Eastman Kodak Company Compact image sensor with display integrally attached
TW409253B (en) 1997-09-29 2000-10-21 Siemens Ag Associative memory and its operation method
US6332137B1 (en) * 1999-02-11 2001-12-18 Toshikazu Hori Parallel associative learning memory for a standalone hardwired recognition system
US7242449B1 (en) * 1999-07-23 2007-07-10 Semiconductor Energy Laboratory Co., Ltd. Semiconductor device and integral image recognition/display apparatus
US6606614B1 (en) 2000-08-24 2003-08-12 Silicon Recognition, Inc. Neural network integrated circuit with fewer pins
JP4258393B2 (ja) * 2003-03-13 2009-04-30 三菱電機株式会社 個人識別装置および指紋画像撮像装置、指紋画像取得方法
KR100964586B1 (ko) * 2003-04-25 2010-06-21 삼성전자주식회사 지문 인식장치 및 이를 갖는 액정표시장치
US7019391B2 (en) * 2004-04-06 2006-03-28 Bao Tran NANO IC packaging
US7643203B2 (en) * 2006-04-10 2010-01-05 Qualcomm Mems Technologies, Inc. Interferometric optical display system with broadband characteristics
US7488950B2 (en) * 2006-06-05 2009-02-10 Blaise Laurent Mouttet Crosswire sensor

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63161680A (ja) * 1986-12-25 1988-07-05 Mitsubishi Electric Corp 半導体受光素子
US6221687B1 (en) * 1999-12-23 2001-04-24 Tower Semiconductor Ltd. Color image sensor with embedded microlens array
JP2005167090A (ja) * 2003-12-04 2005-06-23 Hamamatsu Photonics Kk 半導体受光素子及びその製造方法

Also Published As

Publication number Publication date
US20070014469A1 (en) 2007-01-18
WO2007005688A9 (en) 2007-02-22
RU2008102837A (ru) 2009-08-10
EP1899899A1 (en) 2008-03-19
RU2444059C2 (ru) 2012-02-27
BRPI0613097A2 (pt) 2010-12-21
KR101326384B1 (ko) 2013-11-11
JP2009524120A (ja) 2009-06-25
US7796841B2 (en) 2010-09-14
CN101253515A (zh) 2008-08-27
CA2613922A1 (en) 2007-01-11
CA2613922C (en) 2015-06-16
KR20080038319A (ko) 2008-05-06
CN101253515B (zh) 2012-09-26
WO2007005688A1 (en) 2007-01-11
BRPI0613097B1 (pt) 2019-01-22
MX2007016556A (es) 2008-03-07

Similar Documents

Publication Publication Date Title
JP4734410B2 (ja) 一体型画像認識装置及び方法
US12075176B2 (en) Image reader comprising CMOS based image sensor array
KR101492752B1 (ko) 모노리식 이미지 지각 장치 및 방법
US7611060B2 (en) System and method to automatically focus an image reader
EP2953350B1 (en) Bar code reading device with global electronic shutter control
CN102592335A (zh) 确定由红外成像系统获得的红外图像中的总人数
CN113228049B (zh) 用于将奶分类的奶分析仪
TWI463418B (zh) 單石影像感測裝置及方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100608

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100907

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110425

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140428

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4734410

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees