JP2001175878A - 画像特徴抽出装置、画像特徴抽出方法、監視検査システム、半導体露光システム、およびインターフェースシステム - Google Patents

画像特徴抽出装置、画像特徴抽出方法、監視検査システム、半導体露光システム、およびインターフェースシステム

Info

Publication number
JP2001175878A
JP2001175878A JP35597599A JP35597599A JP2001175878A JP 2001175878 A JP2001175878 A JP 2001175878A JP 35597599 A JP35597599 A JP 35597599A JP 35597599 A JP35597599 A JP 35597599A JP 2001175878 A JP2001175878 A JP 2001175878A
Authority
JP
Japan
Prior art keywords
edge
unit
processing
feature extraction
image feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP35597599A
Other languages
English (en)
Other versions
JP3386025B2 (ja
Inventor
Hitoshi Nomura
仁 野村
Toru Shima
徹 島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP35597599A priority Critical patent/JP3386025B2/ja
Priority to PCT/JP2000/008238 priority patent/WO2001045048A1/ja
Priority to EP00977863A priority patent/EP1160730A4/en
Publication of JP2001175878A publication Critical patent/JP2001175878A/ja
Priority to US09/932,577 priority patent/US20020015526A1/en
Application granted granted Critical
Publication of JP3386025B2 publication Critical patent/JP3386025B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 【課題】 撮像画像に基づいて被写界を監視する画像特
徴抽出装置において、被写界内の物体の特徴を高速かつ
簡易に抽出することを目的とする。 【解決手段】 被写界を撮像して微分画像信号を生成す
る。この微分画像信号を行毎に処理して被写界内の左端
エッジおよび右端エッジを検出する。検出された左端エ
ッジおよび右端エッジに対して、膨張収縮処理を行って
点雑音やかすれ雑音を除去する。このように雑音除去し
た両端エッジから物体面積や物体位置などの算出値を求
め、この算出値から被写界内の異常判定を行う。これら
の一連の処理は、1行当たりたかだか2点の両端エッジ
を対象にした処理である。したがって、画素単位の処理
に比べて情報処理量が格段に少なく、高速かつ簡易な処
理が実現する。その結果、動画像のリアルタイム監視な
どに特に好適な画像特徴抽出装置が実現する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、被写界を撮像した
画像信号から特徴を抽出する画像特徴抽出装置、および
画像特徴抽出方法に関する。また、本発明は、画像特徴
抽出装置を備えた監視検査システム、半導体露光システ
ム、およびインターフェースシステムに関する。
【0002】
【従来の技術】従来より、被写界を撮像した画像信号に
基づいて、被写界の特徴を抽出する画像特徴抽出装置が
知られている。このような画像特徴抽出装置は、侵入者
を発見するなどの監視用途、半導体製造時におけるパタ
ーン検査用途、工場の製造ラインで部品位置を特定する
用途など、多種多様な場面において使用されている。
【0003】図11は、この種の画像特徴抽出装置の一
例を示すブロック図である。このような構成の画像特徴
抽出装置61では、ビデオカメラ62で撮像された画像
信号が、A/D変換器63を介してディジタル化された
後、フレームメモリ64に一旦蓄積される。微分回路6
5は、このフレームメモリ64内の画像信号に対して空
間微分をとり、微分画像信号(画像エッジなどを抽出し
た画像信号)を生成する。微分回路65は、生成した微
分画像信号を、バス66aを介して微分画像メモリ66
に一旦蓄積する。
【0004】塗りつぶし処理部67は、微分画像メモリ
66から微分画像信号を読み出し、画像エッジ−画像エ
ッジ間に相当する平坦部分を塗りつぶすことにより、被
写界内の物体を二値で単純表現した二値化画像信号を生
成する。塗りつぶし処理部67は、この二値化画像信号
を、微分画像メモリ66に一旦蓄積する。続いて、画素
単位雑音除去部68は、微分画像メモリ66から二値化
画像信号を画素単位に読み出し、画素単位に収縮処理お
よび膨張処理を実行する。
【0005】なお、ここでの収縮処理では、処理画素
(処理対象の画素)について周囲画素の参照を行い、1
画素でも物体以外の画素(例えば画素値『0』)があれ
ば、当該処理画素を消去するという処理を施す。このよ
うな収縮処理によって、周辺画素と連続していない孤立
点などの雑音成分が除去される。また、ここでの膨張処
理では、まず、処理画素(処理対象の画素)の周囲画素
を参照する。そして、これら周辺画素の中に1画素でも
物体を示す画素(例えば画素値『1』)があれば、その
処理画素を『物体を示す画素』に置き換える。このよう
な膨張処理により物体を示す画素が四方に膨張して、画
面内のかすれ雑音が除去される。画素単位雑音除去部6
8は、このように雑音除去を完了した二値化画像信号
を、微分画像メモリ66に再び蓄積する。次に、画像識
別部69は、雑音除去を完了した二値化画像信号を画素
単位に処理して、物体の識別や人体検知などを実行す
る。
【0006】
【発明が解決しようとする課題】ところで、このような
従来例では、上述した塗りつぶし処理部67、画素単位
雑音除去部68および画像識別部69の各工程におい
て、画素単位に処理が実行される。その結果、画像を構
成する数万〜数百万画素の画素一つ一つについて処理が
繰り返されることとなり、装置全体の情報処理量が膨大
になるという問題点があった。
【0007】特に、画素単位雑音除去部68では、画素
一つ一つについて複雑な二次元画像処理を逐一実行しな
ければならず、情報処理の負荷が極端に集中する。その
ため、処理工程全体のスループットを大きく下げてしま
うという問題点があった。またさらに、この画素単位雑
音除去部68では、二次元画像処理を行うために、処理
前の画素値を適時参照しなければならない。そのため、
二次元画像処理の前後の画像データを別々に保存しなけ
ればならず、複数フレーム分のメモリが必要となる。
【0008】このような理由から、従来例の画像特徴抽
出装置61では、高速な情報処理装置や大容量かつ高速
なメモリが必須となり、装置全体が高コスト化してしま
うという問題点があった。また特に、人体検知などの監
視用途においては、動画像の処理が要求される。そのた
め、次々に撮像される多数枚の画像を遅滞なく(リアル
タイムに)処理しなければならない。したがって、この
ような用途においては、画像処理の大幅な高速化が強く
要望されていた。
【0009】そこで、本発明では、処理速度を高速化
し、かつ必要なメモリ容量を格段に少なくすることが可
能な画像特徴抽出装置を提供することを目的とする。ま
た、本発明では、このような画像特徴抽出装置を備え
た、監視検査システム、半導体露光システム、インター
フェースシステムを提供することを目的とする。
【0010】
【課題を解決するための手段】《請求項1》請求項1に
記載の画像特徴抽出装置は、被写界を撮像して微分画像
信号を生成する微分画像信号生成部と、微分画像信号生
成部から出力される微分画像信号を行毎に処理し、被写
界内の左端エッジおよび右端エッジを検出するエッジ座
標検出部と、エッジ座標検出部で行毎に検出された、左
端エッジおよび右端エッジの情報を、被写界内の物体の
特徴として保存するエッジ座標記憶部とを備えたことを
特徴とする。
【0011】上記構成では、微分画像信号生成部におい
て、被写界の撮像画像に対して空間的または時間的に微
分処理が施され、微分画像信号が生成される。エッジ座
標検出部は、この微分画像信号を行(画面の座標空間上
の所定方向のこと)毎に処理して、各行における左端エ
ッジと右端エッジを検出する。エッジ座標記憶部は、存
在する左端エッジと右端エッジについて、座標値その他
の情報を物体の特徴量として保存する。
【0012】このような動作では、微分画像信号から両
端エッジを検出するという比較的簡易な処理(例えば、
微分画像信号の閾値判別や論理回路などで十分可能)が
中心であり、従来例に比べて高速に画像を処理すること
が可能となる。また、このように求めた両端エッジの情
報は、従来例のような画素単位に情報を扱う場合に比べ
て、極端に少ない情報量となる。したがって、画像処理
に必要なメモリ容量を大幅に削減することも可能とな
る。さらに、このように求めた両端エッジの情報から
は、後述するように、被写界内の物体の大きさや物体の
位置など、重要な物体情報を容易に求めることができ
る。したがって、上記構成の画像特徴抽出装置を基本構
成とすることにより、これら多種多様な物体情報を得る
装置を発展的に構成することが可能となる。
【0013】《請求項2》請求項2に記載の画像特徴抽
出装置は、請求項1に記載の画像特徴抽出装置におい
て、エッジ座標検出部で検出された、左端エッジおよび
右端エッジに対して雑音成分の除去を行う雑音除去部を
備えたことを特徴とする。
【0014】上記構成では、両端エッジを対象に雑音除
去を行う。したがって、従来例のように1画素単位に雑
音除去を逐一行う必要がなく、雑音除去を高速に完了す
ることが可能となる。その上、両端エッジを対象とした
雑音除去のため、処理途中に必要なメモリ容量も非常に
少なく、使用するメモリ容量を大幅に削減することも可
能となる。なお例えば、この種の簡単な雑音除去として
は、隣接する行(または連続するフレーム)の間でエッ
ジの連続性やエッジの連続方向を判断して、滑らかに連
続しないエッジを削除したり、滑らかに連続するように
エッジを移動(追加)するなどの処理がある。また例え
ば、この種の簡単な雑音除去としては、多数のエッジが
ランダムに集中する場合、ディテールや模様などの凹凸
であって主要なエッジでないと判断して削除するなどの
処理がある。
【0015】《請求項3》請求項3に記載の画像特徴抽
出装置は、請求項2に記載の画像特徴抽出装置におい
て、雑音除去部は、処理行(雑音除去の対象行)を含ん
で近接する複数行に左端エッジが存在する場合、複数行
について左端エッジの最左端を求め、その最左端の更に
左側位置を処理行の左端エッジとする左端膨張処理部
と、複数行に右端エッジが存在する場合、複数行につい
て右端エッジの最右端を求め、その最右端の更に右側位
置を、処理行の右端エッジとする右端膨張処理部と、複
数行に左端エッジの欠損がある場合は、処理行の左端エ
ッジを消去し、それ以外の場合は、複数行について左端
エッジの最右端を求め、その最右端の更に右側位置を処
理行の左端エッジとする左端収縮処理部と、複数行に右
端エッジの欠損がある場合は、処理行の右端エッジを消
去し、それ以外の場合は、複数行について右端エッジの
最左端を求め、その最左端の更に左側位置を処理行の右
端エッジとする右端収縮処理部とを有して構成され、こ
れらの処理部を介して、両端エッジに膨張および収縮を
施すことにより、雑音除去を行うことを特徴とする。
【0016】上記構成では、左端膨張処理部および右端
膨張処理部によって、両端エッジが上下左右および斜め
の8方向へそれぞれ膨張する。このとき、エッジのかす
れは、近接するエッジの膨張によってきれいに埋められ
る。また一方、左端収縮処理部および右端収縮処理部に
よって、両端エッジが上下左右および斜めの8方向へそ
れぞれ収縮する。このとき、エッジの点雑音(孤立点)
は、収縮によってきれいに除去される。
【0017】《請求項4》請求項4に記載の画像特徴抽
出装置は、請求項1ないし請求項3のいずれか1項に記
載の画像特徴抽出装置において、エッジ座標記憶部に行
毎に保存された物体の右端エッジと左端エッジとに基づ
いて、物体の画面内面積、物体の中心位置、または物体
の寸法の少なくとも一つを算出する特徴演算部を備えた
ことを特徴とする。
【0018】《請求項5》請求項5に記載の画像特徴抽
出装置は、請求項4に記載の画像特徴抽出装置におい
て、特徴演算部の算出値が、予め設定された許容の範囲
にあるか否かを監視し、許容の範囲を外れた場合に異常
状態を通知する異常信号出力部を備えたことを特徴とす
る。
【0019】《請求項6》請求項6に記載の画像特徴抽
出装置は、請求項1ないし請求項5のいずれか1項に記
載の画像特徴抽出装置において、微分画像信号生成部
は、被写界を結像する光学系と、被写界像を撮像する固
体撮像素子とから構成され、固体撮像素子は、受光面上
にマトリックス配列され、入射光に応じた画素出力を生
成する複数の受光部と、複数の受光部から画素出力を順
次に転送する画素出力転送部と、画素出力転送部を転送
中の画素出力について時間的または空間的な差異を求め
て微分画像信号を生成する微分処理部とを有して構成さ
れることを特徴とする。
【0020】《請求項7》請求項7に記載の画像特徴抽
出方法は、被写界を撮像して、被写界内の物体エッジを
示す微分画像信号を生成し、微分画像信号を行毎に処理
して、物体の左端エッジおよび右端エッジを検出し、左
端エッジおよび右端エッジの情報を、物体の特徴量とし
て保存することを特徴とする。
【0021】《請求項8》請求項8に記載の監視検査シ
ステムは、被写界を監視して正常/異常を判定する監視
検査システムであって、請求項1ないし請求項6のいず
れか1項に記載の画像特徴抽出装置と、前記画像特徴抽
出装置において抽出される被写界の特徴に基づいて、被
写界の正常/異常を判定する監視部とを備えたことを特
徴とする。
【0022】《請求項9》請求項9に記載の半導体露光
システムは、請求項1ないし請求項6のいずれか1項に
記載の画像特徴抽出装置を用いて半導体のアライメント
マークを撮像し、抽出される被写界の特徴に基づいて、
半導体のアライメントマークの位置検出を行うアライメ
ント検出部と、前記アライメント検出部により位置検出
されたアライメントマークに応じて前記半導体の位置決
めを行う位置制御部と、前記位置制御部により位置決め
された前記半導体に対して露光パターンを投影する露光
部とを備えたことを特徴とする。
【0023】《請求項10》請求項10に記載のインタ
ーフェースシステムは、人間の姿勢や動きなどの被写界
から得られる情報に基づいて、入力信号を生成するイン
ターフェースシステムであって、請求項1ないし請求項
6のいずれか1項に記載の画像特徴抽出装置と、前記画
像特徴抽出装置において検出される被写界の特徴に基づ
いて認識処理を行い、被写界の特徴に応じた入力信号を
生成する認識処理部とを備えたことを特徴とする。
【0024】
【発明の実施の形態】《第1の実施形態》第1の実施形
態は、請求項1〜8に記載の発明に対応する実施形態で
ある。 [第1の実施形態の全体構成]図1は、第1の実施形態
における監視検査システム10(画像特徴抽出装置11
を含む)の構成を示すブロック図である。なお、本図で
は、説明の都合上、ソフトウェア処理などで実現される
マイクロプロセッサ15の内部機能についても機能ブロ
ックとして図示している。
【0025】図1において、監視検査システム10に
は、撮影レンズ12が装着される。この撮影レンズ12
の像空間側には、固体撮像素子13の撮像面が配置され
る。この固体撮像素子13から出力される画像信号は、
録画装置14に供給される。また、固体撮像素子13か
ら出力される微分画像信号は、画像処理用のマイクロプ
ロセッサ15に供給される。
【0026】このマイクロプロセッサ15は、下記の機
能ブロックを有して構成される。 エッジ座標検出部16・・微分画像信号から両端エッ
ジを検出して、両端エッジの座標情報をシステムメモリ
20に蓄積する。 雑音除去部17・・システムメモリ20に蓄積された
両端エッジの座標情報から雑音成分を除去する。 面積演算部18・・システムメモリ20に蓄積された
両端エッジから物体の画面内面積を算出する。 異常信号出力部19・・物体の画面内面積が、予め定
められた許容の範囲内か否かを判定し、許容の範囲を外
れている場合に異常状態を通知する。この通知は、録画
装置14および警報装置21に伝達される。
【0027】[固体撮像素子13の内部構成]図2は、
固体撮像素子13の内部構成を示す図である。図2にお
いて、固体撮像素子13には、単位画素1が、n行m列
でマトリックス配列される。これらの単位画素1は、光
電変換を行うホトダイオードPDと、電荷転送用のMO
SスイッチQTと、電荷リセット用のMOSスイッチQ
Pと、行選択用のMOSスイッチQXと、接合型電界効
果トランジスタからなる増幅素子QAとから構成されて
いる。
【0028】このような単位画素1の出力は、垂直列ご
とに共通接続され、m本分の垂直読み出し線2を形成す
る。また、固体撮像素子13には、垂直シフトレジスタ
3が設けられる。この垂直シフトレジスタ3は、制御パ
ルスφTG1,φPX1,φRG1によりMOSスイッ
チQT,QP,QXを開閉制御し、単位画素1の画素出
力を垂直読み出し線2上に出力する。これらの垂直読み
出し線2には、電流源4がそれぞれ接続される。
【0029】さらに、これらの垂直読み出し線2は、差
分処理回路5をそれぞれ介して、水平読み出し線7に接
続される。この水平読み出し線7には、リセット用のM
OSスイッチQRSHが接続される。これらのMOSス
イッチQRSHには、水平シフトレジスタ8などからリ
セット用の制御パルスφRSHが供給される。一方、上
述した差分処理回路5は、電荷保持用のコンデンサCV
と、コンデンサの充電路を形成するためのMOSスイッ
チQVと、水平転送用のMOSスイッチQHとから構成
される。これらのMOSスイッチQHには、水平シフト
レジスタ8のパラレル出力φH1〜φHmがそれぞれ接
続される。また、差分処理回路5には、電荷保持のタイ
ミングを決定するための制御パルスφVが垂直シフトレ
ジスタ3などから供給される。
【0030】さらに、垂直読み出し線2には、異値検出
回路6がそれぞれ接続される。これらの異値検出回路6
は、垂直転送される新旧の画素出力を比較する回路であ
り、例えば、標本回路とその標本回路の出力に基づいて
新旧の画素出力を比較する比較回路などから構成され
る。この異値検出回路6には、標本タイミングを決定す
るための制御パルスφSAが垂直シフトレジスタ3など
から供給される。
【0031】このような異値検出回路6の各出力は、シ
フトレジスタ9のパラレル入力Q1〜Qmにそれぞれ接
続される。このシフトレジスタ9には、パラレル入力の
取り込みタイミングを決定するための制御パルスφLD
と、シリアル転送の転送クロックφCKとが入力され
る。これらのパルスφLD,φCKは、例えば水平シフ
トレジスタ8などから供給される。
【0032】[第1の実施形態と請求項に記載する事項
との対応関係]以下、第1の実施形態と請求項との対応
関係について説明する。請求項1に記載の発明と第1の
実施形態との対応関係については、微分画像信号生成部
は撮影レンズ12および固体撮像素子13に対応し、エ
ッジ座標検出部はエッジ座標検出部16に対応し、エッ
ジ座標記憶部はシステムメモリ20に対応する。請求項
2に記載の発明と第1の実施形態との対応関係について
は、雑音除去部は雑音除去部17に対応する。請求項3
に記載の発明と第1の実施形態との対応関係について
は、左端膨張処理部は雑音除去部17の『左端膨張処理
(図4S22〜26)を行う機能』に対応し、右端膨張
処理部は雑音除去部17の『右端膨張処理(図4S22
〜26)を行う機能』に対応し、左端収縮処理部は雑音
除去部17の『左端収縮処理(図5S42〜47)を行
う機能』に対応し、右端収縮処理部は雑音除去部17の
『右端収縮処理(図5S42〜47)を行う機能』に対
応する。請求項4に記載の発明と第1の実施形態との対
応関係については、特徴演算部は面積演算部18に対応
する。請求項5に記載の発明と第1の実施形態との対応
関係については、異常信号出力部は異常信号出力部19
に対応する。請求項6に記載の発明と第1の実施形態と
の対応関係については、光学系は撮影レンズ12に対応
し、固体撮像素子は固体撮像素子13に対応し、受光部
はホトダイオードPDに対応し、画素出力転送部は垂直
シフトレジスタ3、垂直読み出し線2、水平読み出し線
7、水平シフトレジスタ8およびMOSスイッチQT、
QX、QAに対応し、微分処理部は異値検出回路6およ
びシフトレジスタ9に対応する。請求項7に記載の発明
と第1の実施形態との対応関係については、微分画像信
号を生成する工程は固体撮像素子13の内部において微
分画像信号を生成する動作に対応し、両端エッジを検出
する工程はエッジ座標検出部16において両端エッジを
検出する動作に対応し、両端エッジに関する情報を保存
する工程はエッジ座標検出部16がシステムメモリ20
に両端エッジの座標情報を記録する動作に対応する。請
求項8に記載の発明と第1の実施形態との対応関係につ
いては、画像特徴抽出装置は、撮影レンズ12、固体撮
像素子13、エッジ座標検出部16、雑音除去部17、
面積演算部18およびシステムメモリ20に対応し、監
視部は、異常判定部19、警報装置21および録画装置
14に対応する。
【0033】[固体撮像素子13における撮像動作の説
明]まず、監視検査システム10全体の動作説明に先立
って、固体撮像素子13の撮像動作について説明する。
撮影レンズ12は、被写界の光像を固体撮像素子13の
撮像面上に結像する。垂直シフトレジスタ3は、このと
き電荷転送用のMOSスイッチQTをオフ状態に設定し
てホトダイオードPDをフローティング状態に維持す
る。そのため、ホトダイオードPDでは、光像が画素単
位に光電変換され、受光量に対応した信号電荷がホトダ
イオードPDに逐次蓄積される。
【0034】このような信号電荷の蓄積動作に併行し
て、垂直シフトレジスタ3は、読み出し行のMOSスイ
ッチQXを選択的にオン状態にし、読み出し行の増幅素
子QAを垂直読み出し線2に接続してバイアス電流IB
を供給する。このとき、読み出し行のMOSスイッチQ
T、QPはオフ状態にあるため、増幅素子QAのゲート
容量には、前回読み出しを行った際の信号電荷が残留す
る。そのため、読み出し行の増幅素子QAからは、前コ
マの画素出力が垂直読み出し線2に出力される。異値検
出回路6は、この前コマの画素出力を取り込み、保持す
る。
【0035】次に、垂直シフトレジスタ3は、読み出し
行のMOSスイッチQPを一時的にオン状態にして、ゲ
ート容量の残留電荷を一旦リセットする。この状態で、
読み出し行の増幅素子QAから垂直読み出し線2には、
暗信号が出力される。この暗信号は、リセット時の雑音
(いわゆるkTC雑音)や、増幅素子QAにおけるゲー
ト−ソース間電圧のバラツキを含んだ信号である。
【0036】差分処理回路5は、MOSスイッチQVを
一時的にオン状態にして、この暗信号をコンデンサCV
に保持する。続いて、垂直シフトレジスタ3は、読み出
し行のMOSスイッチQTを一時的にオン状態にして、
ホトダイオードPDの信号電荷を増幅素子QAのゲート
容量に転送する。その結果、垂直読み出し線2には、最
新の画素出力が増幅素子QAから出力される。
【0037】異値検出回路6は、直前に保持した前コマ
の画素出力と、この最新の画素出力とが所定範囲内で一
致するか否かの判定を行い、その判定結果を出力する。
シフトレジスタ9は、これらの判定結果をパラレル入力
端子Q1〜Qmを介して行単位に取り込む。一方、この
最新の画素出力は、暗信号を保持したコンデンサCVの
一端側に印加される。その結果、コンデンサCVの他端
側には、暗信号を除いた真の画素出力が出力される。
【0038】この状態で、シフトレジスタ9および水平
シフトレジスタ8には、同一の転送クロックφCKが入
力される。すると、シフトレジスタ9は、微分画像信号
を1行分だけシリアル出力する。一方、水平シフトレジ
スタ8は、水平転送用のMOSスイッチQHを順番にオ
ン状態に設定し、1行分の画素出力を水平読み出し線7
へ順次出力する。以上のような動作を、読み出し行を1
行ずつずらしながら繰り返すことにより、通常の画像信
号と、時間的に微分された微分画像信号とが固体撮像素
子13から順次出力される。
【0039】[両端エッジ検出の動作説明]次に、エッ
ジ座標検出部16(実際にはマイクロプロセッサ15)
による両端エッジの検出動作について説明する。図3
は、両端エッジの検出動作を説明する流れ図である。以
下、図3のステップ番号に沿って説明する。
【0040】ステップS1: まず、エッジ座標検出部
16は、現在処理中の画素位置を示す変数i,jを1に
初期化する。さらに、エッジ座標検出部16は、要素数
(n+1)個の整数配列L(x)、R(x)をシステム
メモリ20上に確保する。エッジ座標検出部16は、こ
の整数配列L(x)、R(x)に対して、下記のような
初期化を実行する。 L(x)=m,R(x)=1 [ただしx=1〜n] ・・・(1)
【0041】ステップS2: 次に、エッジ座標検出部
16は、固体撮像素子13の読み出しパルスに同期し
て、i行j列目の微分画像信号D(i,j)を取り込
む。エッジ座標検出部16は、この微分画像信号D
(i,j)が『1』ならば、時間的に変化した画素(い
わゆる動体エッジ)であると判断して、ステップS3に
動作を移行する。一方、微分画像信号D(i,j)が
『ゼロ』ならば、時間的に変化していない画素であると
判断して、ステップS6に動作を移行する。
【0042】ステップS3: 微分画像信号D(i,
j)は、i行目で最初に検出された動体エッジか否かを
判定する。i行目で最初に検出された動体エッジの場
合、エッジ座標検出部16は、左端エッジであると判断
して、ステップS4に動作を移行する。一方、それ以外
の場合、エッジ座標検出部16は、ステップS5に動作
を移行する。
【0043】ステップS4: エッジ座標検出部16
は、左端エッジの判断に従って、整数配列L(i)にi
行目の左端エッジの画素位置jを格納する。
【0044】ステップS5: エッジ座標検出部16
は、整数配列R(i)に、i行目の動体エッジの画素位
置jをとりあえず格納する。
【0045】ステップS6: エッジ座標検出部16
は、j=mか否かを判定する。ここで、j≠mの場合、
エッジ座標検出部16は、i行目の処理がまだ完了して
いないと判断して、ステップS7に動作を移行する。一
方、j=mの場合、エッジ座標検出部16は、i行目の
処理が完了したと判断して、ステップS8に動作を移行
する。
【0046】ステップS7: ここでは、i行目の処理
がまだ完了していないので、エッジ座標検出部16は、
jを1だけ増加してステップS2に動作を戻す。
【0047】ステップS8: エッジ座標検出部16
は、i行目の処理を完了したとの判断に従って、i=n
か否かを判定する。ここで、i≠nの場合、エッジ座標
検出部16は、1画面分の処理がまだ完了していないと
判断して、ステップS9に動作を移行する。一方、i=
nの場合、エッジ座標検出部16は、1画面分の処理が
完了したと判断して、動作を終了する。(なお、動画像
を処理している場合は、ステップS1に戻って、次コマ
の処理を開始する)
【0048】ステップS9: ここでは、1画面分の処
理がまだ完了していないので、エッジ座標検出部16
は、次行の処理に移るため、iを1だけ増加し、かつj
を1に戻した後、ステップS2に動作を戻す。以上説明
した一連の動作により、整数配列L(x)には、x行目
の左端エッジが格納される。また、整数配列R(x)に
は、x行目の右端エッジが格納される。
【0049】[両端エッジの膨張化処理]次に、雑音除
去部17(実際にはマイクロプロセッサ15)による両
端エッジの膨張化処理について説明する。図4は、両端
エッジの膨張化処理を説明する流れ図である。以下、図
4のステップ番号に沿って説明する。
【0050】ステップS21: まず、雑音除去部17
は、下記のように変数を初期化する。 i=1 Lb=m,L(n+1)=m ・・・(2) Rb=1,R(n+1)=1 ・・・(3)
【0051】ステップS22: 雑音除去部17は、処
理対象であるi行目を含んで近接する複数行(ここでは
3行)についてエッジが存在するか否かを、変数Rb、
R(i)、R(i+1)の値に基づいて判定する。ここ
で、複数行の中にエッジが存在しなかった場合、雑音除
去部17は、動作をステップS23に移行する。一方、
複数行の中にエッジが存在した場合、雑音除去部17
は、動作をステップS24に移行する。
【0052】ステップS23: 雑音除去部17は、i
行目を含む複数行にエッジが存在しないので、i行目に
ついてエッジの膨張化処理を行わない。そこで、次行の
処理に備えて、変数Lb,Rbを下記のように更新する
のみで、ステップS27に動作を移行する。 Lb=L(i),Rb=R(i) ・・・(4)
【0053】ステップS24: 雑音除去部17は、i
行目を含む複数行にエッジが存在するので、下式を実行
してi行目について両端エッジを膨張化させる。 Lx=min[Lb,L(i),L(i+1)]−1 ・・・(5) Rx=max[Rb,R(i),R(i+1)]+1 ・・・(6) この(5)式では、複数行中の左端エッジから最左端を
求め、その最左端よりもさらに1画素分だけ左側の位置
を、Lxとしている。また、(6)式では、複数行中の
右端エッジから最右端を求め、その最右端よりもさらに
1画素分だけ右側の位置を、Rxとしている。
【0054】ステップS25: 雑音除去部17は、ス
テップS23と同様に、次行の処理に備えて変数Lb,
Rbを下記のように更新する。 Lb=L(i),Rb=R(i) ・・・(4)
【0055】ステップS26: 雑音除去部17は、上
記の(5)(6)式で算出したLx,Rxを、i行目の
両端エッジとしてL(i),R(i)に代入する。
【0056】ステップS27: 雑音除去部17は、i
=nか否かを判定する。ここで、i≠nの場合、雑音除
去部17は、1画面分の処理がまだ完了していないと判
断して、ステップS28に動作を移行する。一方、i=
nの場合、雑音除去部17は、1画面分の処理が完了し
たと判断して、1回分の膨張化処理を終了する。
【0057】ステップS28: ここでは、1画面分の
処理がまだ完了していないので、雑音除去部17は、次
行の処理に移るため、iを1だけ増加した後、ステップ
S22に動作を戻す。以上説明した一連の動作により、
整数配列L(x),R(x)に格納された両端エッジを
上下斜め方向に1画素分だけ膨張化する処理が実行され
る。
【0058】[両端エッジの収縮化処理]次に、雑音除
去部17(実際にはマイクロプロセッサ15)による両
端エッジの収縮化処理について説明する。図5は、両端
エッジの収縮化処理を説明する流れ図である。以下、図
5のステップ番号に沿って説明する。
【0059】ステップS41: まず、雑音除去部17
は、下記のように変数を初期化する。 i=1 Lb=1,L(n+1)=1 ・・・(7) Rb=m,R(n+1)=m ・・・(8)
【0060】ステップS42: 雑音除去部17は、処
理対象であるi行目を含んで近接する複数行(ここでは
3行)についてエッジ欠損があるか否かを、変数Rb、
R(i)、R(i+1)の値に基づいて判定する。ここ
で、複数行の中にエッジ欠損があった場合、雑音除去部
17は、動作をステップS43に移行する。一方、複数
行の中にエッジ欠損がない場合、雑音除去部17は、動
作をステップS45に移行する。
【0061】ステップS43: 雑音除去部17は、次
行の処理に備えて、変数Lb,Rbを下記のように更新
する。 Lb=L(i),Rb=R(i) ・・・(9)
【0062】ステップS44: 雑音除去部17は、i
行目を含む複数行にエッジ欠損があったので、下式を実
行してi行目のエッジを削除し、ステップS48に動作
を移行する。 L(i)=m,R(i)=1 ・・・(10)
【0063】ステップS45: 雑音除去部17は、i
行目を含む複数行にエッジ欠損がないので、下式を実行
してi行目について両端エッジを収縮化させる。 Lx=max[Lb,L(i),L(i+1)]+1 ・・・(11) Rx=min[Rb,R(i),R(i+1)]−1 ・・・(12) この(11)式では、複数行中の左端エッジから最右端
を求め、その最右端よりもさらに1画素分だけ右側の位
置を、Lxとしている。また、(12)式では、複数行
中の右端エッジから最左端を求め、その最左端よりもさ
らに1画素分だけ左側の位置を、Rxとしている。
【0064】ステップS46: 雑音除去部17は、ス
テップS43と同様に、次行の処理に備えて変数Lb,
Rbを下記のように更新する。 Lb=L(i),Rb=R(i) ・・・(9)
【0065】ステップS47: 雑音除去部17は、上
記の(11)(12)式で算出したLx,Rxを、i行
目の両端エッジとしてL(i),R(i)に代入する。
【0066】ステップS48: 雑音除去部17は、i
=nか否かを判定する。ここで、i≠nの場合、雑音除
去部17は、1画面分の処理がまだ完了していないと判
断して、ステップS49に動作を移行する。一方、i=
nの場合、雑音除去部17は、1画面分の処理が完了し
たと判断して、1回分の収縮化処理を終了する。
【0067】ステップS49: ここでは、1画面分の
処理がまだ完了していないので、雑音除去部17は、次
行の処理に移るため、iを1だけ増加した後、ステップ
S42に動作を戻す。以上説明した一連の動作により、
整数配列L(x),R(x)に格納された両端エッジを
上下斜め方向に1画素分だけ収縮化する処理が実行され
る。
【0068】[膨張処理および収縮処理による雑音除去
効果について]上述した膨張処理および収縮処理による
雑音除去効果について具体的に説明する。図6は、膨張
処理および収縮処理による雑音除去効果を示す図であ
る。図6(a)に示すように、微分画像信号には、雑音
成分として点雑音Pや、かすれ雑音Qがわずかながらに
混入する。図6(b)に示すように、両端エッジ検出に
際して、これらの雑音成分は、誤認エッジPeや、分断
エッジQeを生じる。そのため、物体の外縁形状は部分
的に変形し、物体の形状認識や面積算出などに支障を生
じる。図6(c)は、このように雑音成分の混入した両
端エッジに対して、上述した膨張処理を1〜数回かけた
状態を示す図である。両端エッジが上下斜め方向に数画
素分だけ膨張することにより、図6(b)に見られた分
断エッジQeが、周辺から埋められる。その結果、分断
エッジQeによる外縁形状の変形が、確実に除去され
る。
【0069】図6(d)は、膨張処理を施した両端エッ
ジに対して、上述した収縮処理を1〜数回かけた状態を
示す図である。この場合、両端エッジが上下斜め方向に
数画素分だけ収縮することにより、図6(c)に残存し
ていた誤認エッジPeが、削られる。その結果、誤認エ
ッジPeによる外縁形状の変形が、確実に除去される。
なお、膨張処理および収縮処理の繰り返し回数や順番に
ついては、画像の解像度や雑音状況に応じて決定するこ
とが好ましい。ちなみに、かすれ雑音が比較的多くて、
物体エッジが細かく分断されているような雑音状況で
は、物体エッジを復元するために、膨張処理を先に実行
することが好ましい。また、点雑音が比較的多い雑音状
況では、点雑音の集合を物体と誤認しないように、収縮
処理を先に実行することが好ましい。
【0070】[面積演算および異常判定処理]次に、面
積演算部18および異常信号出力部19(実際には両方
ともマイクロプロセッサ15)による、面積演算および
異常判定処理について説明する。図7は、面積演算およ
び異常判定処理を説明する流れ図である。以下、図7の
ステップ番号に沿って説明する。
【0071】ステップS61: まず、面積演算部18
は、下記のように変数を初期化する。 i=1 S=0
【0072】ステップS62: 面積演算部18は、下
式に従って、i行目の両端エッジの間隔を面積Sに累積
する。 S=S+max[0,R(i)−L(i)+1] ・・・(13)
【0073】ステップS63: 面積演算部18は、i
=nか否かを判定する。ここで、i≠nの場合、面積演
算部18は、1画面分の処理がまだ完了していないと判
断して、ステップS64に動作を移行する。一方、i=
nの場合、面積演算部18は、1画面分の処理が完了し
たと判断して、ステップS65に動作を移行する。
【0074】ステップS64: ここでは、1画面分の
処理がまだ完了していないので、面積演算部18は、次
行の処理に移るため、iを1だけ増加した後、ステップ
S62に動作を戻す。
【0075】ステップS65: 上記の処理S61〜6
4によって、両端エッジに囲まれた物体の画面内面積S
(ここでは物体が占める画素数に相当する)が算出され
る。異常信号出力部19は、この画面内面積Sと、人間
と小動物等との区別をするために予め定めた許容値Se
とを大小比較する。例えば、20万画素の固体撮像素子
13を用い、かつ被写界を3m×3mの範囲に設定した
場合、1画素に相当する面積は45mm2になる。ここ
で、人体の大きさを170cm×50cm仮定し、小動
物としてネズミの大きさを20cm×10cmと仮定す
ると、人体の大きさは、おおよそ1万9千画素に相当
し、ネズミの大きさは400画素に相当する。このよう
な場合、許容値Seを4000画素程度に設定すること
により、人間と小動物とを区別することが可能となる。
ここで、画面内面積Sが許容値Se以下の場合、異常信
号出力部19は、画面内にはネズミなどの小動物が存在
するのみと判断して、異常通知を実行しない。一方、画
面内面積Sが許容値Seを上回っている場合、異常信号
出力部19は、画面内に人間などの比較的大きな動体が
いると判断し、ステップS66に動作を移行する。
【0076】ステップS66: 異常信号出力部19
は、外部に異常通知を実行する。この異常通知に呼応し
て、録画装置14は、画像信号の録画を開始する。警報
装置21は、通信回線などを介して遠方の監視センター
に緊急警報を送信する。
【0077】[第1の実施形態の効果など]以上説明し
た動作により、第1の実施形態では、両端エッジの情報
処理により人間以上の大きさの動体を的確に識別し、正
確な異常通知を実行することが可能となる。特に、第1
の実施形態では、両端エッジの処理を中心とするため、
システムメモリ20上に、たかだか要素数(n+1)個
程度の整数配列L(x),R(x)を確保すればよい。
そのため、画像特徴抽出装置11に必要なメモリ容量
は、画素単位のフレームメモリを必要とする従来例に比
べて極端に少なくなる。
【0078】さらに、第1の実施形態では、両端エッジ
の処理を中心とするため、雑音除去や面積演算について
も、たかだか行単位の速度で実行すればよい。そのた
め、画素単位の処理が中心の従来例と比較して、処理速
度に格段な余裕が生じる。したがって、第1の実施形態
により、動画像をリアルタイムに監視して異常通知を行
う画像特徴抽出装置を容易に実現することができる。次
に、別の実施形態について説明する。
【0079】《第2の実施形態》第2の実施形態は、請
求項8に対応した監視検査システムの実施形態である。
図8は、工場のラインなどで使用される、パターン検査
用途の監視検査システム30を示す図である。なお、請
求項8に記載の構成要素と、図8に示す各構成との対応
関係については、画像特徴抽出装置は画像特徴抽出装置
31に対応し、監視部は比較処理部33および参照情報
記憶部34に対応する。
【0080】図8において、画像特徴抽出装置31の被
写界には、検査対象32が配置される。この画像特徴抽
出装置31で検出されたエッジの座標情報は、比較処理
部33に与えられる。この比較処理部33は、このエッ
ジの座標情報と、参照情報記憶部34に記録された情報
(例えば、良品のエッジの座標情報)とを比較して、部
品欠損や傷や半田不良があるか否かなどの良否判定を行
う。以上のような動作では、エッジの座標情報という少
ない情報量について良否判定を行えばよい。したがっ
て、良否判定の情報処理量が全体的に少なく、良品検査
を高速化できるという利点がある。その結果、作業速度
の高速化が要求される工場ラインや半導体製造ラインな
どに特に適した監視検査システムとなる。
【0081】《第3の実施形態》第3の実施形態は、請
求項9に対応した半導体露光システムの実施形態であ
る。図9は、半導体製造に使用される、半導体露光シス
テム40を示す図である。なお、請求項9に記載の構成
要素と、図9に示す各構成との対応関係については、画
像特徴抽出装置は画像特徴抽出装置44a〜cに対応
し、アライメント検出部はアライメント検出部45に対
応し、位置制御部は位置制御部46に対応し、露光部は
露光部43に対応する。
【0082】図9において、ステージ41の上には、ウ
ェハ状の半導体42が配置される。この半導体42の上
方には、露光部43の露光光学系が配置される。この露
光光学系を介して半導体42上のアライメントマークを
撮像するように、画像特徴抽出装置44a〜bが配置さ
れる。また、半導体42上のアライメントマークを直接
的に撮像するように、画像特徴抽出装置44cが配置さ
れる。
【0083】これらの画像特徴抽出装置44a〜cで検
出されたエッジの座標情報は、アライメント検出部45
に与えられる。このアライメント検出部45は、エッジ
の座標情報からアライメントマークの位置検出を行う。
位置制御部46は、このアライメントマークの位置情報
に基づいてステージ41を位置制御し、半導体42の位
置決めを行う。このようにして位置決めされた半導体4
2に対して、露光部43は所定の半導体回路パターンを
投影する。
【0084】以上のような動作では、エッジの座標情報
という少ない情報量に基づいてアライメントマークの位
置検出を行えばよい。したがって、位置検出の情報処理
量が全体的に少なく、高速に位置検出を行えるという利
点がある。その結果、作業速度の高速化が要求される半
導体製造ラインに特に好適な半導体露光システムとな
る。
【0085】《第4の実施形態》第4の実施形態は、請
求項10に対応したインターフェースシステムの実施形
態である。図10は、コンピュータ53に人間の姿勢情
報を入力するインターフェース50を示す図である。な
お、請求項10に記載の構成要素と、図10に示す各構
成との対応関係については、画像特徴抽出装置は画像特
徴抽出装置51に対応し、認識処理部は認識処理部52
に対応する。
【0086】図10において、ステージ上の人間を撮像
する位置に、画像特徴抽出装置51が配置される。この
画像特徴抽出装置51で検出されたエッジの座標情報
は、認識処理部52に与えられる。この認識処理部52
は、エッジの座標情報について認識処理を行い、人間の
姿勢をパターン分類する。認識処理部52は、このよう
にパターン分類した結果を人間の姿勢情報として、コン
ピュータ53に入力する。
【0087】コンピュータ53内では、この人間の姿勢
情報を反映してゲーム画像などを生成し、モニタ画面5
4上に表示する。以上のような動作では、エッジの座標
情報という少ない情報量に基づいて人間の姿勢情報を認
識すればよい。したがって、画像認識の情報処理量が全
体的に少なく、高速に画像認識を行えるという利点があ
る。その結果、高速処理の要求されるゲームマシンなど
に特に好適なインターフェースシステムとなる。なお、
本実施形態では、人間の姿勢入力について説明したが、
これに限定されるものではない。本実施形態のインター
フェースシステムは、手のジェスチャー入力(手話入
力)などにも適用できる。
【0088】《実施形態の補足事項》なお、上述した実
施形態では、固体撮像素子13において微分画像信号を
時間微分に基づいて生成している。このような動作は、
背景などの静止画像と区別して、動体を監視できる点
で、非常に優れた動作である。しかしながら、この動作
に限定されるものではない。例えば、微分画像信号を隣
接画素間の差分(空間微分)から生成してもかまわな
い。このような空間微分による微分画像信号を生成可能
な固体撮像素子としては、特開平11−225289号
公報に記載のエッジ検出用固体撮像装置や、特開平6−
139361号公報に記載の装置や、特開平8−275
059号公報に記載の受光素子回路アレイなどが使用可
能である。
【0089】なお、上述した実施形態では、両端エッジ
の情報から物体の画面内面積を求めて、この画面内面積
に基づいて異常通知を行っている。このような動作は、
物体の大きさを識別する上で、優れた動作である。しか
しながら、この動作に限定されるものではない。例え
ば、マイクロプロセッサ15が、両端エッジの情報に基
づいて、物体の中心位置を求めてもよい。この場合、マ
イクロプロセッサ15において、物体の中心位置が画面
内の侵入禁止域内にあるか否かなどが判定可能となる。
したがって、画面内の侵入禁止域に入った侵入者に対し
て、的確に警報を発するなどの動作が実現可能となる。
また例えば、マイクロプロセッサ15が、両端エッジか
ら物体の寸法を求めてもよい。この場合、マイクロプロ
セッサ15において、画面内を通過した大人と子供とを
区別して数えるなどの動作が可能となる。
【0090】
【発明の効果】請求項1または請求項7に記載の発明で
は、微分画像信号から両端エッジを検出する処理が中心
となる。この場合、1行当たりたかだか2点の両端エッ
ジを処理すればよく、画素単位の処理に比べて情報処理
量が格段に少なくなる。したがって、高速かつ簡易な画
像処理が実現し、メモリ必要量や処理時間が大幅に削減
される。その結果、動画像のリアルタイム監視などに特
に好適な画像特徴抽出装置が実現する。
【0091】請求項2に記載の発明では、両端エッジを
対象に雑音除去を行う。したがって、従来例のような画
素単位の複雑処理が不要となり、メモリ必要量や処理時
間をさらに削減することが可能となる。
【0092】請求項3に記載の発明では、両端エッジを
対象に膨張および収縮を施すことにより、雑音除去を行
う。したがって、従来例のような画素単位の膨張収縮処
理が不要となり、メモリ必要量や処理時間をさらに削減
することが可能となる。
【0093】請求項4に記載の発明では、求めた両端エ
ッジの情報を基礎にして、物体の画面内面積、物体の中
心位置、または物体の寸法の少なくとも一つを算出す
る。これらの算出値は、いずれも物体の特徴を示す有効
な情報であり、このような算出値に基づいて、被写界内
の物体の変化などを客観的かつ的確に判別することが可
能となる。
【0094】請求項5に記載の発明では、特徴演算部の
算出値に基づいて異常状態を的確に判別して通知するこ
とができる。
【0095】請求項6に記載の微分画像信号生成部で
は、微分画像信号の生成時に、外部の画像メモリが一切
不要となる。したがって、上記した請求項1〜5の発明
の構成と併せることにより、1画面分の画像メモリなど
が一切不要となり、極めて少容量のメモリ容量しか使用
しない画像特徴抽出装置を実現することが可能となる。
【0096】請求項8〜10に記載の各システムでは、
エッジの座標情報を処理するので情報処理量が全体的に
少なく、処理を高速化することができる。
【図面の簡単な説明】
【図1】監視検査システム10の構成を示すブロック図
である。
【図2】固体撮像素子13の内部構成を示す図である。
【図3】両端エッジの検出動作を説明する流れ図であ
る。
【図4】両端エッジの膨張化処理を説明する流れ図であ
る。
【図5】両端エッジの収縮化処理を説明する流れ図であ
る。
【図6】膨張処理および収縮処理による雑音除去効果を
示す説明図である。
【図7】面積演算と異常判定処理を説明する流れ図であ
る。
【図8】監視検査システム30の構成を示す図である。
【図9】半導体露光システム40の構成を示す図であ
る。
【図10】インターフェースシステム50の構成を示す
図である。
【図11】画像特徴抽出装置の従来例を示すブロック図
である。
【符号の説明】
PD ホトダイオード QT 電荷転送用のMOSスイッチ QP 電荷リセット用のMOSスイッチ QH 水平転送用のMOSスイッチ QV コンデンサの充電路を形成するためのMOSスイ
ッチ CV 電荷保持用のコンデンサ QX 行選択用のMOSスイッチ QRSH リセット用のMOSスイッチ QA 接合型電界効果トランジスタからなる増幅素子 1 単位画素 2 垂直読み出し線 3 垂直シフトレジスタ 5 差分処理回路 6 異値検出回路 7 水平読み出し線 8 水平シフトレジスタ 9 シフトレジスタ 10,30 監視検査システム 11,31,44a〜c,51 画像特徴抽出装置 12 撮影レンズ 13 固体撮像素子 15 マイクロプロセッサ 16 エッジ座標検出部 17 雑音除去部 18 面積演算部 19 異常信号出力部 20 システムメモリ 21 警報装置 33 比較処理部 34 参照情報記憶部 40 半導体露光システム 50 インターフェースシステム
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 AA03 AA19 CE02 CF02 DA03 DA15 DB02 DC03 DC04 DC06 DC16 5L096 BA02 BA03 DA03 EA02 EA05 FA06 FA59 FA62 FA64 GA02

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 被写界を撮像して微分画像信号を生成す
    る微分画像信号生成部と、 前記微分画像信号生成部から出力される微分画像信号を
    行毎に処理し、前記被写界内の左端エッジおよび右端エ
    ッジを検出するエッジ座標検出部と、 前記エッジ座標検出部で行毎に検出された、左端エッジ
    および右端エッジの情報を、被写界内の物体の特徴とし
    て保存するエッジ座標記憶部とを備えたことを特徴とす
    る画像特徴抽出装置。
  2. 【請求項2】 請求項1に記載の画像特徴抽出装置にお
    いて、 前記エッジ座標検出部で検出された、左端エッジおよび
    右端エッジに対して雑音成分の除去を行う雑音除去部を
    備えたことを特徴とする画像特徴抽出装置。
  3. 【請求項3】 請求項2に記載の画像特徴抽出装置にお
    いて、 前記雑音除去部は、 処理行(雑音除去の対象行)を含んで近接する複数行に
    左端エッジが存在する場合、前記複数行について左端エ
    ッジの最左端を求め、その最左端の更に左側位置を前記
    処理行の左端エッジとする左端膨張処理部と、 前記複数行に右端エッジが存在する場合、前記複数行に
    ついて右端エッジの最右端を求め、その最右端の更に右
    側位置を、前記処理行の右端エッジとする右端膨張処理
    部と、 前記複数行に左端エッジの欠損がある場合は、前記処理
    行の左端エッジを消去し、それ以外の場合は、前記複数
    行について左端エッジの最右端を求め、その最右端の更
    に右側位置を前記処理行の左端エッジとする左端収縮処
    理部と、 前記複数行に右端エッジの欠損がある場合は、前記処理
    行の右端エッジを消去し、それ以外の場合は、前記複数
    行について右端エッジの最左端を求め、その最左端の更
    に左側位置を前記処理行の右端エッジとする右端収縮処
    理部とを含み、 前記雑音除去部は、これらの処理部によって両端エッジ
    に膨張および収縮を施して、雑音除去を行うことを特徴
    とする画像特徴抽出装置。
  4. 【請求項4】 請求項1ないし請求項3のいずれか1項
    に記載の画像特徴抽出装置において、 前記エッジ座標記憶部に行毎に保存された物体の右端エ
    ッジと左端エッジとに基づいて、物体の画面内面積、物
    体の中心位置、または物体の寸法の少なくとも一つを算
    出する特徴演算部を備えたことを特徴とする画像特徴抽
    出装置。
  5. 【請求項5】 請求項4に記載の画像特徴抽出装置にお
    いて、 前記特徴演算部の算出値が、予め設定された許容の範囲
    にあるか否かを監視し、許容の範囲から外れた場合に異
    常状態を通知する異常信号出力部を備えたことを特徴と
    する画像特徴抽出装置。
  6. 【請求項6】 請求項1ないし請求項5のいずれか1項
    に記載の画像特徴抽出装置において、 前記微分画像信号生成部は、被写界を結像する光学系
    と、被写界像を撮像する固体撮像素子とから構成され、 前記固体撮像素子は、 受光面上にマトリックス配列され、入射光に応じた画素
    出力を生成する複数の受光部と、 前記複数の受光部から画素出力を順次に転送する画素出
    力転送部と、 前記画素出力転送部を転送中の画素出力について時間的
    または空間的な差異を求めて微分画像信号を生成する微
    分処理部とを有して構成されることを特徴とする画像特
    徴抽出装置。
  7. 【請求項7】 被写界を撮像して、前記被写界内の物体
    エッジを示す微分画像信号を生成し、 前記微分画像信号を行毎に処理して、物体の左端エッジ
    および右端エッジを検出し、 前記左端エッジおよび前記右端エッジの情報を、物体の
    特徴量として保存することを特徴とする画像特徴抽出方
    法。
  8. 【請求項8】 被写界を監視して正常/異常を判定する
    監視検査システムであって、 請求項1ないし請求項6のいずれか1項に記載の画像特
    徴抽出装置と、 前記画像特徴抽出装置において抽出される被写界の特徴
    に基づいて、被写界の正常/異常を判定する監視部とを
    備えたことを特徴とする監視検査システム。
  9. 【請求項9】 半導体の露光システムであって、 請求項1ないし請求項6のいずれか1項に記載の画像特
    徴抽出装置を用いて半導体のアライメントマークを撮像
    し、抽出される被写界の特徴に基づいて、半導体のアラ
    イメントマークの位置検出を行うアライメント検出部
    と、 前記アライメント検出部により位置検出されたアライメ
    ントマークに応じて前記半導体の位置決めを行う位置制
    御部と、 前記位置制御部により位置決めされた前記半導体に対し
    て露光パターンを投影する露光部とを備えたことを特徴
    とする半導体露光システム。
  10. 【請求項10】 人間の姿勢や動きなどの被写界から得
    られる情報に基づいて、入力信号を生成するインターフ
    ェースシステムであって、 請求項1ないし請求項6のいずれか1項に記載の画像特
    徴抽出装置と、 前記画像特徴抽出装置において検出される被写界の特徴
    に基づいて認識処理を行い、被写界の特徴に応じた入力
    信号を生成する認識処理部とを備えたことを特徴とする
    インターフェースシステム。
JP35597599A 1999-12-15 1999-12-15 画像特徴抽出装置、画像特徴抽出方法、監視検査システム、半導体露光システム、およびインターフェースシステム Expired - Lifetime JP3386025B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP35597599A JP3386025B2 (ja) 1999-12-15 1999-12-15 画像特徴抽出装置、画像特徴抽出方法、監視検査システム、半導体露光システム、およびインターフェースシステム
PCT/JP2000/008238 WO2001045048A1 (fr) 1999-12-15 2000-11-22 Procede et appareil permettant d'extraire une caracteristique d'image, systeme d'ecran de controle et de test, systeme d'exposition et systeme d'interface
EP00977863A EP1160730A4 (en) 1999-12-15 2000-11-22 METHOD AND DEVICE FOR EXTRACTING IMAGE PROPERTIES, MONITORING AND TEST SYSTEM, EXPOSURE SYSTEM AND INTERFACE SYSTEM
US09/932,577 US20020015526A1 (en) 1999-12-15 2001-08-14 Image feature extraction apparatus, method of extracting image characteristic, monitoring and inspection system, exposure system, and interface system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP35597599A JP3386025B2 (ja) 1999-12-15 1999-12-15 画像特徴抽出装置、画像特徴抽出方法、監視検査システム、半導体露光システム、およびインターフェースシステム

Publications (2)

Publication Number Publication Date
JP2001175878A true JP2001175878A (ja) 2001-06-29
JP3386025B2 JP3386025B2 (ja) 2003-03-10

Family

ID=18446693

Family Applications (1)

Application Number Title Priority Date Filing Date
JP35597599A Expired - Lifetime JP3386025B2 (ja) 1999-12-15 1999-12-15 画像特徴抽出装置、画像特徴抽出方法、監視検査システム、半導体露光システム、およびインターフェースシステム

Country Status (4)

Country Link
US (1) US20020015526A1 (ja)
EP (1) EP1160730A4 (ja)
JP (1) JP3386025B2 (ja)
WO (1) WO2001045048A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007149055A (ja) * 2005-05-19 2007-06-14 Nano Geometry Kenkyusho:Kk パターン検査装置および方法
US8000555B2 (en) 2006-05-15 2011-08-16 Seiko Epson Corporation Defective image detection method and storage medium storing program
JP2015079285A (ja) * 2013-10-15 2015-04-23 サクサ株式会社 画像処理装置及びプログラム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6919799B2 (en) * 1999-04-29 2005-07-19 Bridgestone/Firestone North American Tire, Llc Monitoring device and tire combination
EP1765166B1 (en) * 2004-06-03 2016-09-07 Stephanie Littell System and method for ergonomic tracking for individual physical exertion
WO2012064522A1 (en) * 2010-11-12 2012-05-18 3M Innovative Properties Company Rapid processing and detection of non-uniformities in web-based materials
JP5834253B2 (ja) 2013-03-27 2015-12-16 パナソニックIpマネジメント株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP5849206B2 (ja) 2013-03-27 2016-01-27 パナソニックIpマネジメント株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP5899475B2 (ja) 2013-04-05 2016-04-06 パナソニックIpマネジメント株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
KR20170102262A (ko) * 2014-12-10 2017-09-08 킨디 인코포레이티드 가중화된 하위기호 데이터 인코딩
CN109087316B (zh) * 2018-09-07 2019-08-02 南京大学 一种基于遥感图像的大棚提取方法和装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63163681A (ja) * 1986-12-26 1988-07-07 Matsushita Electric Ind Co Ltd 自動監視装置
DE4027002C2 (de) * 1990-08-27 1995-10-05 Jena Engineering Gmbh Verfahren und Anordnung zur Kontrolle des Inhaltes von Bildern
JP2809954B2 (ja) * 1992-03-25 1998-10-15 三菱電機株式会社 画像感知および処理のための装置および方法
JP3121466B2 (ja) * 1993-02-05 2000-12-25 三菱電機株式会社 画像修正装置
US5596415A (en) * 1993-06-14 1997-01-21 Eastman Kodak Company Iterative predictor-based detection of image frame locations
CA2119327A1 (en) * 1993-07-19 1995-01-20 David Crawford Gibbon Method and means for detecting people in image sequences
JPH09306977A (ja) * 1996-05-14 1997-11-28 Komatsu Ltd ウエハ検査装置等におけるウエハの位置決め方法
US5850474A (en) * 1996-07-26 1998-12-15 Xerox Corporation Apparatus and method for segmenting and classifying image data
US5800356A (en) * 1997-05-29 1998-09-01 Advanced Technology Laboratories, Inc. Ultrasonic diagnostic imaging system with doppler assisted tracking of tissue motion
JP3120767B2 (ja) * 1998-01-16 2000-12-25 日本電気株式会社 外観検査装置、外観検査方法及び外観検査プログラムを記録した記録媒体

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007149055A (ja) * 2005-05-19 2007-06-14 Nano Geometry Kenkyusho:Kk パターン検査装置および方法
US8000555B2 (en) 2006-05-15 2011-08-16 Seiko Epson Corporation Defective image detection method and storage medium storing program
JP2015079285A (ja) * 2013-10-15 2015-04-23 サクサ株式会社 画像処理装置及びプログラム

Also Published As

Publication number Publication date
US20020015526A1 (en) 2002-02-07
WO2001045048A1 (fr) 2001-06-21
EP1160730A1 (en) 2001-12-05
EP1160730A4 (en) 2006-08-30
JP3386025B2 (ja) 2003-03-10

Similar Documents

Publication Publication Date Title
US8223235B2 (en) Digital imager with dual rolling shutters
RU2367109C2 (ru) Устройство формирования изображения, способ обработки изображения и интегральная схема
CN108462844A (zh) 用于像素合并和读出的方法和装置
JP2007166581A (ja) 高速撮影用固体撮像装置
JP3386025B2 (ja) 画像特徴抽出装置、画像特徴抽出方法、監視検査システム、半導体露光システム、およびインターフェースシステム
US20150296159A1 (en) Image Sensors Comprising Hybrid Arrays of Global and Rolling Shutter Pixels
KR20010043423A (ko) 카메라 신호 처리 장치 및 카메라 신호 처리 방법
Olson Image motion compensation with frame transfer CCDs
JP2008244649A (ja) 動き検出撮像装置
JP4334672B2 (ja) 高速視覚センサ装置
JP3465264B2 (ja) ビデオデータの動き検出装置および方法
JP7317783B2 (ja) 情報処理装置
JP2004096504A (ja) 移動物体撮影装置
KR102518373B1 (ko) 이미지 센서 및 이를 포함하는 전자 기기
JP2699423B2 (ja) 固体撮像素子の欠陥補正装置
JP3658137B2 (ja) 移動体認識方法
JP7318150B2 (ja) 情報処理装置および情報処理システム
Kamberova Understanding the systematic and random errors in video sensor data
JPH1127654A (ja) 監視カメラ及び監視システム
JP2948331B2 (ja) パターン認識装置
JP2007173914A (ja) 撮像装置
JPH06153059A (ja) 映像記録再生装置
JPH1023339A (ja) 固体撮像装置
JP2000121355A (ja) 測距装置
JPH03120732A (ja) 位置のズレ量認識装置およびこれを用いた半導体装置の製造方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
R150 Certificate of patent or registration of utility model

Ref document number: 3386025

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120110

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120110

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150110

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150110

Year of fee payment: 12

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150110

Year of fee payment: 12

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term