JP4206723B2 - 画像処理方法および画像処理装置 - Google Patents

画像処理方法および画像処理装置 Download PDF

Info

Publication number
JP4206723B2
JP4206723B2 JP2002299581A JP2002299581A JP4206723B2 JP 4206723 B2 JP4206723 B2 JP 4206723B2 JP 2002299581 A JP2002299581 A JP 2002299581A JP 2002299581 A JP2002299581 A JP 2002299581A JP 4206723 B2 JP4206723 B2 JP 4206723B2
Authority
JP
Japan
Prior art keywords
image
edge
pixel
setting
line segment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002299581A
Other languages
English (en)
Other versions
JP2004133811A (ja
Inventor
紫朗 藤枝
俊彦 松本
勇治 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2002299581A priority Critical patent/JP4206723B2/ja
Priority to DE10346690A priority patent/DE10346690B4/de
Priority to US10/681,373 priority patent/US7212672B2/en
Publication of JP2004133811A publication Critical patent/JP2004133811A/ja
Application granted granted Critical
Publication of JP4206723B2 publication Critical patent/JP4206723B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0006Industrial image inspection using a design-rule based approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、コンピュータにより濃淡画像データを処理する分野に属するもので、特に、線状のキズ、髪の毛、糸くずなどの線状の対象物(この明細書では、「線状体」と総称する。)を検出するための画像処理方法および画像処理装置に関する。
【0002】
【従来の技術】
従来、直線状の欠陥を検出するための画像処理として、ラインカメラをその撮像素子の並びに直交する方向に走査しながら順に撮像を行い、毎時得られる1ライン分の画像を処理する方法が存在する。この方法では、1ライン分の画像を2値化して濃度が変動する位置を検出したり、ライン毎の濃度和をとって、1ライン分の濃度和を前後のラインでの濃度和と比較するなどの方法により、各ラインに線状の欠陥が含まれているか否かを判別するようにしている。
【0003】
また出願人は、近年、濃淡画像上に含まれるエッジ画素について、その画素におけるエッジ方向を示す角度データ(エッジコード)を求め、このエッジコードを用いた画像処理により、直線状の輪郭線(エッジ)を高い確度で検出する画像処理方法を開発した。この方法では、エッジコードの値毎に、その値に対応するエッジ画素の度合いを示すヒストグラムを作成し、このヒストグラム上のピークに対応する角度に対応するエッジ画素にそれぞれ前記ピークに固有のラベルを割り当てる。さらにこのラベル付けにより発生したラベル画像において、同じラベルが連続するエッジ画素の集合を線分に相当するものと認定して、各集合にそれぞれ固有のラベルを割り当て、種々の特徴量を算出したり、線分の統合処理を行うなどした後、抽出条件に応じた線分を特定する処理を実行する(特許文献1参照。)。
【0004】
【特許文献1】
特開2002−230562号公報(段落[0041]〜[0088] 図2〜図13)
【0005】
特に、上記特許文献1の段落[0086]および図13には、抽出条件に応じた線分を特定する際の一手法として、平行な線分の組を抽出する方法が開示されている。さらに、この段落[0086]には、抽出すべき線分間の距離をきわめて小さく設定すれば、パッケージ上に生じた直線キズのような微小な幅の対象物を抽出できる点が示唆されている。
【0006】
【発明が解決しようとする課題】
上記した1番目の方法のように、ラインカメラにより得た画像を2値化したり、ライン毎の濃度和を比較することで欠陥を検出する場合には、欠陥以外の背景部分の濃度が均一であり、欠陥部分の濃度が背景部分の濃度と大きく異なることが前提となる。したがって、コントラストの低い画像や、汚れや模様などにより背景の濃度が均一でない画像では、欠陥の検出は困難となる。
【0007】
これに対し、特許文献1に示した方法によれば、画像のコントラストが低くなったり、背景の濃度のばらつきが大きくなっても、検出を行うことができる。しかしながらこの方法では、同じエッジコードが連続する画素の集合体を検出することを基本とするので、直線状の輪郭線しか検出できず、髪の毛,糸くずのように湾曲する線状体を検出するのは困難である。またクラックのように、細かい凹凸がある線状体では、この凹凸部分でエッジコードが頻繁に変動するため、同様に検出が困難となる。
【0008】
つぎに、特許文献1の方法によれば、コントラストの低い画像において、線状体のエッジを断片的にしか抽出できなかった場合にも、線分の統合処理により抽出できなかった部分を補完することが可能である。しかしながらこの統合処理では、抽出された各線分の特徴量を用いて、各線分が統合可能であるかどうかを順次確認していく必要があるため、制御負担が大きくなり、コンベアを流れる製品を順に撮像して高速で欠陥検査を行うような用途で使用するのは、困難である。
【0009】
この発明は、上記問題に着目してなされたもので、直線状の線状体のみならず、湾曲した線状体や、凹凸のある線状体であっても、簡単かつ精度良く検出できるようにすることを、目的とする。
加えて、この発明では、線状体のエッジ抽出精度が悪い画像に対しても、線状体を高速かつ精度良く検出できるようにすることを、目的とする。
【0010】
またこの発明は、線状体の検出処理に使用されるパラメータを設定する際に、その設定値が適切であるかどうかを簡単に判別できるようにして、最適なパラメータを簡単に設定できるようにすることを、目的とする。
【0011】
さらにこの発明は、所定数の線状体のモデルの画像を用いて、線状体の検出処理に使用されるパラメータを自動的に設定できるようにすることを目的とする。
【0012】
【課題を解決するための手段】
この発明では、濃淡画像上に含まれるエッジ画素を抽出し、これらエッジ画素のエッジ方向や濃度勾配方向を用いた画像処理を実行する。
エッジ画素とは、濃淡画像において対象物の輪郭線を構成する画素である。このエッジ画素を抽出するには、濃淡画像上の各画素の濃度勾配の大きさ(この明細書では、「エッジ強度」と呼ぶ。)を求めた上で、このエッジ強度が所定の値よりも大きくなる画素をエッジ画素とするのが望ましい。
【0013】
濃度勾配方向とは、前記エッジ画素を境にして濃度が変化する方向であり、前記エッジ画素およびその周囲近傍の所定数の画素データを用いた微分処理によって求めることができる。エッジ方向は、前記した特許文献1と同じく、濃度勾配方向を+90°または−90°回転させた方向とする。
【0014】
つぎに、検出対象の線状体が濃淡画像上に少なくとも数画素分の幅を持って現れるものとすると、この濃淡画像に対するエッジ抽出処理により、前記線状体の長手方向にほぼ平行な2本の輪郭線を抽出することができる。これらの輪郭線は、複数のエッジ画素により構成される。
いま上記の2本の輪郭線のいずれか一方に直交する直線を設定すると、各輪郭線の前記直線との交点に相当するエッジ画素では、それぞれその濃度勾配方向が、他方のエッジ画素の濃度勾配方向に対して、ほぼ反対の方向を向くようになる(以下、前記直線の交点に相当する2つのエッジ画素を「対向関係にあるエッジ画素」という。)。この関係は、エッジ方向の関係に置き換えても同様であり、前記一方の輪郭線上の任意の位置におけるエッジ画素のエッジ方向と、他方の輪郭線上で前記エッジ画素と対向関係にあるエッジ画素のエッジ方向とは、ほぼ反対の方向を向く。
【0015】
この発明では、上記の原理に基づき、濃淡画像上において、直線状の線状体のみならず、湾曲した形状を有したり、輪郭に不規則な凹凸がある線状体をも検出できるようにしている。この発明にかかる一の画像処理方法では、濃淡画像上の一方向に沿う検索範囲の幅を指定する数値の入力を受け付けて、入力された数値を検索範囲の設定用のパラメータとして登録する設定モードを実行し、処理対象の濃淡画像に対してエッジ画素を抽出し、前記抽出されたエッジ画素に順次着目して、着目中のエッジ画素毎に、当該エッジ画素におけるエッジ方向に直交する方向またはこの方向から所定角度回転した方向に沿って、登録されたパラメータが表す幅を持つ検索範囲を設定する第1のステップと、この検索範囲内で前記着目中のエッジ画素とは濃度勾配方向が反対方向になると認定できるエッジ画素を検索する第2のステップとを実行する。さらに検索範囲で認定条件を満たすエッジ画素が抽出されたときは、抽出されたエッジ画素から前記着目中のエッジ画素に至るまでの所定位置を通り、前記着目中のエッジ画素におけるエッジ方向に平行な線分を設定する。そして着目すべきエッジ画素がなくなったとき、設定された線分の連結体の画像を、線状体の検出結果として表示する
【0016】
上記の方法の好ましい一態様では、設定モードにおいて、検索を開始する画素から検索を終了する画素までの距離に相当する画素数の入力を受け付けて、これを検索範囲の設定用のパラメータとして登録する。また第1のステップでは、着目中のエッジ画素から検索範囲を設定する方向に沿って前記登録されたパラメータが表す画素数の分だけ離れた画素までの範囲を、検索範囲として設定する。
【0017】
他の好ましい態様では、設定モードにおいて、検索を開始する画素および検索を終了する画素について、それぞれ着目中のエッジ画素からの距離に相当する画素数の入力を受け付けて、これらを検索範囲の設定用のパラメータとして登録する。また第1のステップでは、着目中のエッジ画素を基準に検索範囲を設定する方向に前記登録された2つのパラメータを適用して検索を開始する画素および検索を終了する画素を特定することによって、検索範囲を設定する。
【0018】
他の好ましい態様では、設定モードにおいて、検索範囲の設定用のパラメータとして、さらにエッジ方向に直交する方向に対する回転角度を表す数値の入力を受け付けて登録する。また第1のステップでは、着目中のエッジ画素におけるエッジ方向に直交する方向から登録されたパラメータによる角度分回転した方向に検索範囲を設定する。
【0019】
この発明による画像処理方法によれば、設定モードにおいて、ユーザが検出対象の線状体の幅に応じた数値を入力すると、この数値が検索範囲の設定用パラメータとして登録される。また処理対象の濃淡画像に対する処理では、画像中の各エッジ画素に順に着目して、それぞれ当該エッジ画素におけるエッジ方向に直交する方向またはこの方向から所定角度回転した方向に沿って、登録されたパラメータが表す幅を持つ検索範囲を設定し、この検索範囲内で着目中のエッジ画素とは濃度勾配方向が反対方向になると認定できるエッジ画素を検索する。したがって、着目中のエッジ画素が入力された数値に対応する幅を持つ線状体の輪郭線の構成画素である場合には、検索範囲から着目中のエッジ画素とは濃度勾配方向が反対方向になると認定できるエッジ画素を抽出することができる。
また、線幅の変化が大きく、前記2本の輪郭線が平行に近いとは言えない状態になる線状体や、曲率の大きい線状体では、着目中のエッジ画素の濃度勾配方向に対し、必ずしも対向関係にあるエッジ画素の濃度勾配方向が反対の方向を向くとは限らず、前記対向関係にあるエッジ画素の近傍に位置するエッジ画素の濃度勾配方向が反対の方向を向くが、処理対象の線状体の状態によって検索範囲を設定する方向を調整すれば、前記認定条件を満たすエッジ画素を抽出することが可能となる。
【0021】
濃度勾配方向が反対方向かどうかの認定は、着目中の画素と検索対象の画素との間での濃度勾配方向の差が、180°に対して所定の許容範囲にあるかどうかを判別する処理により行うことができる。この判別処理における許容範囲は、前述の基準の方向に対する角度の調整と同様に、検出したい線状体の状態に応じて任意に設定することができる。
たとえば、ほぼ直線状の線状体だけを検出したい場合には、前記の許容範囲は小さく設定した方が望ましい。これに対し、曲率を有する線状体や、輪郭線に不規則な凹凸が生じたり、前記2本の輪郭線の幅が変化しているような線状体を検出対象とする場合には、前記許容範囲は大きくする方が望ましい。
【0022】
また前記したように、エッジ方向は濃度勾配方向を基準にして表されるものであるから、前記検索処理では、着目中の画素に対し、エッジ方向が反対になると認定できる画素を検索するようにしてもよい。
【0023】
線分の設定処理では、前記検索処理により抽出されたエッジ画素から着目中の画素に至るまでの所定位置を通り、着目中のエッジ画素のエッジ方向に平行な線分を設定する。たとえば、この線分は、前記着目中のエッジ画素におけるエッジ方向と同じ方向に伸ばすことができる。
なお、線分の設定処理では、着目中のエッジ画素のエッジ方向とは反対の方向に沿って伸びる線分を設定することもできる。またエッジ方向およびその反対の方向の両方に伸びる線分を設定することもできる。
【0024】
この発明の画像処理方法によれば、上記の検索処理によって、線状体の長手方向にほぼ平行な2本の輪郭線を構成するエッジ画素の中で、濃度勾配方向が約180°異なるエッジ画素の組が複数抽出される。さらに線分の設定処理により、前記エッジ画素の組毎に、これらエッジ画素におけるエッジ方向に平行な線分が設定されることになる。これら設定された線分が重ね合わせられたり、連結されることによって、線状体の位置、大きさ、傾きなどを精度良く反映した画像が生成されるようになる。したがって、この画像を表示することにより、線状体の検出結果をわかりやすく示すことができる。
【0025】
またこの方法によれば、背景の濃度分布にばらつきがある場合にも、前記検索処理によって線状体の輪郭を構成するエッジ画素の中で、前記エッジ画素の組を高確度で特定することができるから、背景部分のノイズによって線状体の検出精度が低下する虞がない。また画像のコントラストが低く、画像上の線状体が分断されて出現するような場合でも、前記線分の設定処理において設定する線分の長さを調整することにより、線分を連結させて、線状体の分断された部分を補完することができ、コントラストに左右されずに線状体を安定して検出することができる。
【0026】
なお、線分の設定処理では、前記検索された画素から着目中の画素に至るまでの任意の位置(たとえば、検索された画素と着目中の画素との中点でも良く、またそれぞれの画素位置でも良い。)に線分を設定することが可能であり、また前記画素間の複数の位置にそれぞれ線分を設定することもできる。
【0029】
上記画像処理方法の他の好ましい態様では、設定モードにおいて、さらに線分の長さを表す数値の入力を受け付けて、その数値を線分の設定用パラメータとして登録する。また第3のステップでは、登録されたパラメータが表す長さの線分を設定する。
【0030】
上記の態様によれば、検出対象の線状体の形状に応じて線分の長さを調整することによって、各線分の連結体を線状体の位置や輪郭形状を精度良く反映したものにすることができる。
【0031】
さらに上記画像処理方法の他の態様では、着目すべきエッジ画素がなくなったとき、設定された各線分の構成画素の中から、所定数以上の線分が重ね合わせられた画素を抽出し、これら抽出された画素と他の画素とが切り分けられた2値画像を生成し、この2値画像を前記線分の連結体の画像として表示する。このようにすれば、多数の線分が重なり合う画素が線分の構成画素として残される一方で、ノイズによる線分など、重なり度合いの小さい線分の画像が消去される。よって線分の重なる数に対する2値化しきい値を調整することによって、線分の連結体を線分の位置や輪郭形状を精度良く反映したものにすることができる。
【0032】
より好ましい態様では、各構成画素の濃度値がそれぞれゼロに初期設定された画像を用意しておき、第3のステップにおいて、用意された画像を対象として、設定すべき線分の構成画素の濃度値に着目中のエッジ画素のエッジ強度に応じた数値を加算する処理を実行する。そして、着目すべきエッジ画素がなくなったとき、前記第3のステップの実行により生成された線分の設定結果を表す画像を所定のしきい値により2値化し、得られた2値画像を線状体の連結体の画像として表示する。
【0034】
上記の態様によれば、線分の重なり度合いの大きい部分や、前記エッジ強度による重みの大きい部分のみを抽出して表示することが可能となるから、ノイズ成分を表示対象から除去することができ、線状体の検出結果をより明瞭に示すことができる。
【0035】
さらに上記画像処理方法の他の態様では、線分の設定処理において、設定すべき線分の長さまたは幅に、着目中のエッジ画素のエッジ強度を反映させるようにしている。たとえば、着目中のエッジ画素のエッジ強度が大きくなるほど、線分の幅を太くしたり、線分の長さを長くすることができる。
この態様によれば、検出対象である線状体に関わる線分を他のノイズなどに起因する線分よりも強調して表示することができるから、線状体の検出結果をより明瞭に示すことができる。
【0036】
さらに上記画像処理方法の他の好ましい態様では、第2のステップにおいて前記認定条件を満たすエッジ画素が抽出されたとき、このステップに続く第3のステップにより線分を設定した後に、抽出されたエッジ画素を着目済のエッジ画素とするようにしている。
着目済のエッジ画素とは、前記検索処理や線分の設定処理の対象として既に処理されたエッジ画素という意味である。前記抽出された画素を着目済のエッジ画素とする処理としては、この画素のエッジ強度を0とするなど、濃度勾配を示すデータを改変する処理を行うことができる。または、濃度勾配を維持したまま、前記エッジ画素に処理済であることを示すフラグを対応づけてもよい。
【0037】
上記の態様によれば、検出対象の線状体にかかる2本の輪郭線において、対向関係にあり、かつ濃度勾配方向が約180°異なるエッジ画素の組に対する検索処理や線分の設定処理を、1回で済ませることができるから、処理を高速化することができる。なお、このようにする場合、線分の設定処理において、着目中のエッジ画素のエッジ方向およびその反対の方向の両方向に線分を伸ばすようにすれば、抽出されたすべてのエッジ画素を順次処理する場合と同様の状態に線分を設定することができる。
【0038】
上記の画像処理方法のさらに好ましい態様では、設定モードにおいて、入力された数値をパラメータとしてモデルの濃淡画像を処理することにより線分の連結体の画像を表示し、この表示に対して確定操作が行われたとき、表示された画像の生成に適用された各パラメータを登録する。このようにすれば、本格的な検出処理を開始するのに先立ち、モデルの画像を用いてパラメータとして使用する数値を種々に変更しながら検出処理を実行し、表示された画像から入力した数値がパラメータとして適切であるかどうかを判断することができ、検出処理に適したパラメータを簡単かつ精度良く設定することができる。
【0039】
つぎに、この発明にかかる他の画像処理方法では、上記の設定モードを実行した後に、処理対象の濃淡画像に対してエッジ画素を抽出し、抽出されたエッジ画素に順次着目して、着目中のエッジ画素毎に、当該エッジ画素におけるエッジ方向に直交する方向またはこの方向から所定角度回転した方向に沿って、登録されたパラメータが表す幅を持つ検索範囲を設定する第1のステップと、この検索範囲内で着目中のエッジ画素とは濃度勾配方向が反対方向になると認定できるエッジ画素を検索する第2のステップとを実行する。さらに、検索範囲で認定条件を満たすエッジ画素が抽出されたときは、抽出されたエッジ画素から着目中のエッジ画素に至るまでの所定位置を通り、前記着目中のエッジ画素におけるエッジ方向に平行な線分を設定する第3のステップを実行する。さらに、着目すべきエッジ画素がなくなったとき、設定された線分の連結体の位置または大きさを計測し、この計測結果により濃淡画像上の線状体の位置またはこの線状体の大きさを特定する。
【0040】
線状体の位置としては、たとえば前記線分の連結体における重心位置を求めることができる。また線状体の大きさとしては、前記線分の連結体の面積,長さ,周囲長などを求めることができる。
【0045】
つぎに、この発明にかかる画像処理装置は、線状体の検出処理に使用するパラメータを入力するための入力手段と、入力手段から濃淡画像上の一方向に沿う検索範囲の幅を指定する数値の入力を受け付けて、入力された数値を検索範囲の設定用のパラメータとして登録する登録手段と、処理対象の濃淡画像を入力する画像入力手段と、前記入力された濃淡画像に対する線状体の検出結果を表示するための表示手段と、前記濃淡画像上のエッジ画素を検出するエッジ画素検出手段と、所定のエッジ画素に着目して、このエッジ画素におけるエッジ方向に直交する方向またはこの方向から所定角度回転した方向に沿って、登録手段に登録されたパラメータが表す幅を持つ検索範囲を設定し、この検索範囲内で、前記着目中のエッジ画素とは濃度勾配方向が反対になると認定できるエッジ画素を検索する検索手段と、前記検索手段により前記認定条件を満たすエッジ画素が抽出されたとき、抽出された画素から前記着目中のエッジ画素に至るまでの所定位置に前記着目中のエッジ画素のエッジ方向に平行な線分を設定する線分設定手段と、前記エッジ画素検出手段により検出されたエッジ画素を順に着目画素として、前記検索手段および線分設定手段を動作させ、着目すべきエッジ画素がなくなったとき、前記線分設定手段により設定された線分の連結体の画像を前記表示手段に表示させる制御手段とを具備する。
【0046】
前記画像入力手段は、カメラ,スキャナなどの画像生成手段に接続され、これらの手段により生成された濃淡画像を取り込む手段であって、インターフェース回路やA/D変換回路などにより構成される。ただし画像入力手段の構成はこれに限らず、たとえば通信により伝送された画像を受け付ける回路、所定の記憶媒体に保存された画像を読み取る読取り装置などによって構成してもよい。
【0047】
表示手段は、CRT,LCDなどの画像表示装置やこの装置に対応するインターフェース回路などにより構成することができる。なお、この表示手段には、線状体の検出結果を表示する機能のみならず、前記画像入力手段により入力された画像や、エッジ画素検出手段による検出結果などを表示する機能も付与することができる。
【0048】
エッジ画素検出手段,検索手段,線分設定手段,制御手段の各手段は、それぞれその手段による処理を実行するためのソフトウェアが組み込まれたコンピュータにより実現することができる。また各手段をASIC(特定用途向けIC)などによる専用回路として構成し、これら専用回路の連携動作をコンピュータにより制御することも可能である。また一部の手段(たとえばエッジ画素検出手段)を専用回路とし、残りの手段をコンピュータおよびソフトウェアにより実現するとともに、このコンピュータに前記専用回路の動作を制御する機能を組み込むようにしてもよい。
【0049】
加えて、この画像処理装置には、前記画像入力手段により入力された画像、エッジ検出手段による検出処理により生成されるエッジ画像、線分設定手段による線分の設定結果を示す処理結果画像などを、個別に格納するためのメモリを具備させるのが望ましい。
【0050】
上記の画像処理装置によれば、入力手段が検索範囲の幅を指定する数値の入力を受け付け、登録手段がその数値を登録することによって、前記した設定モードが実行される。この後は、画像入力手段より入力された濃淡画像に対し、エッジ検出処理が行われ、検出された各エッジ画素に順に着目しつつ、前記した第1〜第3のステップが実行されて、線状体の位置,長さ,形状などを反映した線分の連結体の画像が生成される。よって、表示手段に表示された画像により、線状体の形状や位置を確認することが可能となる。
【0051】
上記の入力手段は、キーボード,マウス,コンソールなどの入力装置からパラメータの設定値を取り込むためのインターフェース回路として構成することができる。さらに、この入力手段には、必要に応じて、前記表示手段などに設定値入力用のユーザーインターフェースを展開するコンピュータおよびソフトウェアを付加することができる。
【0052】
上記画像処理装置の好ましい態様では、登録手段は、さらにエッジ方向に直交する方向に対する回転角度を表す数値の入力を受け付けて、その数値を検索範囲の設定用のパラメータとして登録する。また検索手段は、着目中のエッジ画素におけるエッジ方向に直交する方向から登録手段に登録されたパラメータによる角度分回転した方向に検索範囲を設定する。
他の好ましい態様では、登録手段は、入力手段より線分の長さを表す数値の入力を受け付けて、その数値を線分の設定用パラメータとして登録する。また線分設定手段は、登録手段に登録されたパラメータが表す長さの線分を設定する。
【0053】
上記画像処理装置の他の態様では、前記制御手段は、着目すべきエッジ画素がなくなったとき、前記線分設定手段によって設定された各線分の構成画素の中から、所定数以上の線分が重ね合わせられた画素を抽出し、これら抽出された画素を他の画素から切り分けた2値画像を生成して前記表示手段に表示するようにしている。
【0054】
上記の態様によれば、所定数(仮にNとする。)以上の線分が重なり合う部分を白(黒)とし、全く線分が設定されていない部分や、線分の重なり度合いが前記Nより小さい部分を黒(白)とする2値画像を生成して表示することができる。したがって、多数の線分が重なり合う部分にかかる線分の画像が残る一方で、ノイズによる線分など、重なり度合いの小さい線分の画像が消去される。したがって線分の重なり度合いに応じて前記Nの値を調整することにより、線状体の位置や輪郭形状を精度良く反映した画像を示すことができる。
【0055】
上記画像処理装置の他の態様では、線分設定手段は、各構成画素の濃度値がそれぞれゼロに初期設定された画像を対象に、設定すべき線分の構成画素の濃度値に着目中のエッジ画素のエッジ強度に応じた数値を加算することによって、前記線分の連結体の画像を生成するように設定される。また制御手段は、着目すべきエッジ画素がなくなったとき、前記線分の設定処理結果を示す画像を所定のしきい値により2値化し、得られた2値画像を前記表示手段に表示するように設定される。
このような構成によれば、背景の濃度むらが大きい画像を処理する場合にも、この背景部分の濃度勾配によるノイズの影響を受けにくくなり、線状体の形状を反映した画像を示すことができる。
【0056】
上記画像処理装置の他の態様では、前記制御手段は、前記検索手段により前記認定条件を満たすエッジ画素が抽出されたとき、前記線分設定手段による線分の設定処理が終了した後に、前記抽出されたエッジ画素を着目済のエッジ画素とする着目済設定手段を含んでいる。この着目済設定手段は、たとえば、抽出されたエッジ画素のデータを改変して(エッジ強度を0にするなど)、エッジ画素に相当しないものとする。または画素のデータ自体は維持したまま、そのデータに、既に処理が行われていることを示すフラグを付ける手段として設定することもできる。
【0057】
上記の着目済設定手段によれば、2つの輪郭線の間で対向関係にあり、かつ濃度勾配方向が約180°異なるエッジ画素の組に対し、検索処理や線分の設定処理を1回行うだけで良くなり、線状体の検出処理をより高速で行うことができる。
【0058】
さらに上記画像処理装置には、線分設定手段により設定された線分の連結体の位置または大きさを計測し、この計測結果により前記濃淡画像上の線状体の位置またはこの線状体の大きさを特定する線状体特定手段を含ませることができる。このような手段によれば、線状体の具体的な特徴を数値化して示すことができ、利便性をより向上させることができる。
なお、線状体特定手段による特定結果は、前記線分の連結体の画像とともに前記表示手段に表示させることができる。
【0059】
より好ましい画像処理装置では、前記線状体特定手段による特定結果に基づき線状体の有無を判別する判別手段と、この有無判別結果を出力する出力手段とを具備する。なお、判別手段は、判別処理のためのアルゴリズムが設定されたコンピュータ、または前記検出結果を所定のしきい値と比較するコンパレータなどによって実現することができる。出力手段は、所定の外部機器に対応するインターフェース回路などにより構成することができる。
【0060】
前記出力手段による出力の対象を、ランプ,ブザーのような装置とする場合には、「線状体有り」という判別結果を得たときに、これらの装置を作動させるように設定することにより、線状の欠陥を対象とする検査に好適な画像処理装置を提供することができる。また有無判別結果の出力の対象を、プログラマブルコントローラ,パーソナルコンピュータのような制御機能を具備する装置とすれば、これらの装置と画像処理装置とにより、線状の欠陥を検出して、その欠陥を除去するなどの処理を行うシステムを構築することができる。
【0061】
さらに上記画像処理装置の他の好ましい態様では、前記登録手段は、画像入力手段から入力されたモデルの濃淡画像に対し、前記入力手段より入力された数値をパラメータとして、エッジ画素検出手段、検索手段、線分設定手段、および制御手段に処理を実行させることによって線分の連結体の画像を表示手段に表示する。そして、この表示に対して入力手段から確定操作を受け付けたとき、表示された画像の生成に適用された各パラメータを登録する。
【0062】
上記の態様によれば、ユーザは、パラメータの値を自由に変更しながらモデルの濃淡画像に対する処理を実行し、適切な結果を示す画像が表示されたことを確認して確定操作を行うことにより、パラメータの最適値を決定することができる。また検出対象とする線状体の特徴が変わる都度、パラメータの値を変更するなど、柔軟な対応をとることができ、利便性を大いに高めることができる。
【0065】
上記構成の画像処理装置は、所定の対象物に発生した線状の欠陥を検出するための検査装置として構成することができる。このような検査装置によれば、直線状の欠陥のみならず、湾曲した線状の欠陥や、輪郭線に不規則な凹凸のある線状の欠陥についても、その欠陥の位置や形状を精度良く検出することが可能となり、検出精度を大幅に高めることができる。
【0066】
【発明の実施の形態】
図1は、この発明の一実施例にかかる画像処理装置の構成を示す。
この画像処理装置1は、工場の検査ラインの近傍位置に配備され、前記検査ラインを搬送される製品を順に撮像して、この画像に線状の欠陥や異物の画像が含まれていないかどうかの検査を行うためのもので、周辺機器として、カメラ2,モニタ3,外部機器4などが接続される。なお、外部機器4は、データ入力用のコンソール,不良品の発生を報知するための警報ランプなど、複数の機器を含むものである。このほか、必要に応じて、プログラマブルコントローラ,パーソナルコンピュータなどを外部機器4として接続することもできる。
【0067】
前記画像処理装置1は、CPU5を制御主体とし、エッジ強度抽出部6,エッジコード抽出部7,画像メモリ8,フラッシュメモリ9,ワークメモリ10,グラフィックメモリ11のほか、前記カメラ2,モニタ3,外部機器4のそれぞれに対するインターフェース回路12,13,14(以下、「カメラインターフェース12」,「モニタインターフェース13」,「外部機器用インターフェース14」という。図1では、「インターフェース」を「I/F」と示す。)などを含む。
【0068】
フラッシュメモリ9には、CPU5の処理手順を示すプログラムや、各種パラメータのデフォルト値などが格納される。またこのフラッシュメモリ9には、適宜、パラメータの設定値など、ユーザーにより設定されたデータが書き込まれる。
【0069】
ワークメモリ10は、CPU5が一連の制御を行う間に発生する作業用データの読み書きに用いられる。グラフィックメモリ11には、画像上に、後記する計測領域22を示すウィンドウやパラメータの設定画面,カーソルなどを表示するのに必要なデータが格納される。
【0070】
画像メモリ8は、複数フレーム分の画像を個別に格納可能な容量を具備する。この画像メモリ8は、前記エッジ強度抽出部6およびエッジコード抽出部7からそれぞれ出力される画像データを格納するほか、CPUバス15を介して前記画像データをCPU5に提供する。さらに、CPU5は、後記する処理結果画像にかかる画像データを画像メモリ8の所定のメモリ領域内に書き込むように設定される。
【0071】
前記カメラ2は、アナログ量の静止画像信号を出力するタイプのものである。カメラインターフェース12には、このカメラ2に対する入力ポートのほか、この入力ポートから取り込んだアナログ画像信号をディジタル変換するA/D変換回路などが含まれる。ディジタル変換後の濃淡画像データは、エッジ強度抽出部6およびエッジコード抽出部7に並列で与えられるほか、モニタインターフェース13に出力される。
【0072】
モニタインターフェース13は、前記モニタ3に対する出力ポートのほかに、D/A変換回路,画像合成回路,切替回路などを含むもので、画像メモリ8またはグラフィックメモリ11から出力された画像、またはカメラインターフェース12からの濃淡画像を、単一で、または2以上の画像を合成してモニタ3に出力する。このモニタインターフェース13における出力画像の切替えは、コンソールなどからの切替操作を受け付けたCPU5により制御される。
【0073】
前記エッジ強度抽出部6およびエッジコード抽出部7は、シフトレジスタ,論理回路,ルックアップテーブルなどを含むチップ部品である。エッジ強度抽出部6は、前記カメラインターフェース12から入力された濃淡画像の各画素における濃度勾配の大きさ(エッジ強度)を求めるためのものであり、エッジコード抽出部7は、同じ濃淡画像から、各画素におけるエッジの方向を示す角度データ(以下、「エッジコード」という。)を求めるためのものである。
【0074】
エッジ強度は、着目するエッジ画素におけるx,y各軸方向の濃度勾配ベクトル(濃度勾配の方向および大きさを示すベクトル)の合成ベクトルの大きさに相当する。なお、この実施例の濃淡画像データは、白レベル側を高い濃度値により表しており、濃度勾配方向は、濃度の高い側から低い側に向かう方向として設定される。エッジコードは、前記濃度勾配方向を+90°または−90°回転させた方向に相当し、x軸の正方向に沿う方向を基準にした角度として表される。
【0075】
なお、エッジ強度,エッジコードの詳細な算出方法については、前出の特許文献1を参照されたい。この実施例のエッジ強度抽出部6,エッジコード抽出部7には、この算出式に基づき、所定大きさのマスク領域内の濃度分布に基づいて前記マスクの中央位置の画素におけるエッジ強度やエッジコードを求めるためのルックアップテーブルが設定されている。抽出処理においては、カメラインターフェース12から出力される各画素の濃度データを順に取り込みながら前記ルックアップテーブルを参照することによって、各画素におけるエッジ強度やエッジ強度が、高速で抽出される。
【0076】
エッジ強度抽出部6は、各画素の並びに応じてそれぞれのエッジ強度を配列した画像(以下、「エッジ強度画像」という。)を生成し、前記画像メモリ8に出力する。エッジコード抽出部7も、同様に、抽出したエッジコードを画素の並びに応じて配列した画像(以下、「エッジコード画像」という。)を生成し、前記画像メモリ8に出力する。
【0077】
CPU5は、画像メモリ8に格納されたエッジ強度画像およびエッジコード画像を用いて後記する画像処理を実行し、欠陥の検出結果を示す処理結果画像を生成する。またCPU5は、この処理結果画像に所定の計測処理を実行して、欠陥の有無などを判別し、その判別結果を外部機器用インターフェース14を介して出力する。
【0078】
なお、この実施例の画像処理装置1では、画像上に数画素分の幅をもって出現する線状の欠陥を検出することを前提とする。したがって、検出したい欠陥が数画素分の幅を持つ大きさに撮像されるように、前記カメラ2の設置位置や倍率などを調整しておく必要がある。
【0079】
図2は、上記画像処理装置1による欠陥検出処理の原理を示す。
図2(1)は、処理対象の濃淡画像を示すもので、この画像には、欠陥に相当する線状体の画像20(以下、単に「線状体20」という。)が含まれている。図2(2)は、前記濃淡画像上の点線で囲んだ領域21内の画像にエッジ抽出処理を行って得た結果を拡大して示す、なお、この図2(1)(2)では、線状体20内の濃度が、背景よりも低くなる場合を示している。
【0080】
図2(2)のエッジ画像には、前記線状体20の長手方向の輪郭線に相当する2本のエッジE1,E2が現れている。この線状体20は、図2(1)に示すように、湾曲した形状を具備するが、その線幅が大きく変わるものでなければ、前記2本のエッジE1,E2は、長手方向にわたってほぼ平行な状態で変化する、と考えることができる。したがって、図2(2)に示すように、一方のエッジE1上の任意の点P1からその点P1でのエッジの方向に直交する方向Bに沿って、他方のエッジE2上の対応点P2を抽出した場合、これら点P1,P2におけるエッジは、ほぼ平行である、と考えることができる。
【0081】
図2の例では、線状体20の内部の濃度は、背景の濃度よりも低いから、前記点P1での濃度勾配方向は、前記点P2に向かう方向Bとなる。一方、点P2における濃度勾配方向は、Bとは反対方向になる。このように、2本のエッジE1,E2が平行であれば、これらエッジE1,E2間で対向関係にある2点P1,P2の濃度勾配方向は、他方の点の濃度勾配方向に反転する方向を向くことになる。
【0082】
ところで、前記したように、エッジコードは、濃度勾配方向に直交する方向を示すものであるから、前記点P1,P2間の濃度勾配方向の関係は、エッジコードの関係に置き換えることができる。図中、A1は、点P1のエッジコードにより規定される方向を示すベクトル(以下、「エッジコードベクトル」という。)、A2は、点P2のエッジコードにより規定されるエッジコードベクトルであり、これらのベクトルA1,A2は、他方に対して反対の方向を向く。
【0083】
なお、図示例の線状体が、背景よりも高い濃度を具備するものであれば、前記点P1から点P2を検索する方向B(以下、「検索方向B」という。)は、点P1における濃度勾配方向に反転する方向となる。また各点P1,P2におけるエッジコードベクトルA1,A2も、それぞれ反対の方向に設定される。
【0084】
ここで、この実施例の欠陥検出処理を、前記図2(2)を用いて説明する。
この実施例では、画像上の各エッジ画素に順に着目しつつ、着目中のエッジ画素P1におけるエッジコードに直交する方向(濃度勾配方向またはその反対方向)に沿って、前記エッジ画素から検出対象とする線状体の幅長さWに相当する範囲において、着目中のエッジ画素P1とはエッジコードが反転するエッジ画素P2を検索するようにしている。さらに、この検索条件にあてはまるエッジ画素が抽出された場合には、抽出されたエッジ画素P2と着目中のエッジ画素P1との中間点Qを起点として、前記着目中のエッジ画素にかかるエッジコードベクトルA1に平行な方向Cに、所定の長さLの線分を設定するようにしている。
【0085】
なお、前記の線分の設定処理では、画像メモリ8内の処理結果画像用のメモリ領域において、設定すべき線分の各構成画素の画素値(初期値は0)に、それぞれ着目中のエッジ画素の持つエッジ強度を加算するようにしている。
この線分の設定処理が、線状体20のエッジE1,E2を構成する各エッジ画素について行われると、近傍に位置する複数のエッジ画素にかかる線分が重ね合わせられ、また連結されるようになる。ここで各線分の傾きは、対応するエッジ画素におけるエッジ方向に平行になるから、線分の長さが適切であれば、前記線分の重なりや連結による画像(以下、「集合画像」という。)は、前記線状体の傾きや湾曲状態を反映したものとなる。
【0086】
また、前記集合画像の各構成画素には、複数の線分の重ね合わせによって、これら線分に対応するエッジ画素のエッジ強度の総和分の数値が設定されるので、線状体以外の部分からの切り分けを容易に行うことができる。この実施例では、入力画像上のすべてのエッジ画素に対する処理が終了した時点で、前記処理結果画像を所定のしきい値により2値化し、この2値画像を用いて欠陥の有無判定のための計測を行ったり、前記2値画像をモニタ3に表示するようにしている。
【0087】
なお、対応点の検索処理においては、着目画素に対するエッジコードが180°異なる画素のみならず、180°異なる方向から所定の誤差範囲内のエッジコードを持つ画素を抽出するのが望ましい。特に、線幅が変化したり、エッジに不規則な凹凸が発生しているような線状体を検出対象とする場合には、前記の誤差を、ある程度大きく設定するのが望ましい。
このような検索処理によれば、処理対象の濃淡画像に含まれるすべてのエッジ画素の中から、線状体のエッジの構成点となる画素を精度良く絞り込むことができる。
【0088】
つぎに、図3および図4を用いて、上記した原理に基づく線状の欠陥検査を行うために、前記対応点の検索や線分の設定のためのパラメータを設定する処理について、説明する。
図3は、処理対象の濃淡画像の表示画面であり、この図3中の22は、ユーザーにより設定された計測領域である。なお、この図3の画像は、図示の都合上、2値画像として表すが、実際は、濃度分布を持つ画像である。(以下、この濃淡画像を「処理対象画像」と呼ぶ。)。図4(a)(b)(c)は、前記計測領域22内における処理結果画像の表示画面であり、画面の余白領域には、使用されたパラメータや、そのパラメータを確定するための確定ボタン24などが表示されている。なお、この図4の処理結果画像は、図示の都合上、白黒を反転した状態で示している。
【0089】
図4において、「直線幅」とは、前記対応点の検索処理における検索範囲Wを示すパラメータであり、「直線長」とは、前記ベクトルCに基づき設定する線分の長さLを示すパラメータである。また「下限値」とは、前記処理結果画像を2値化する際の2値化しきい値である。
【0090】
図3に示す処理対象画像では、欠陥に対応する線状体20のほか、その周囲に位置する物体の輪郭部分の画像23(以下、「輪郭画像23」という。)などが現れている。
図4(a)の処理結果画像では、前記線状体20および輪郭画像23について、それぞれ対応する線分の集合画像20a,23aが出現している。いずれの集合画像20a,23aも、原画像の形状を精度良く反映したものとなっている。
【0091】
図4(b)の処理結果画像は、前記図4(a)の例よりも、直線幅Wを小さくして再検出処理を行った結果を示すもので、線幅の太い輪郭画像23に対応する集合画像23aは消失し、線幅の細い線状体20に対応する集合画像20aのみが現れている。
【0092】
図4(c)の処理結果画像は、前記図4(a)の例よりも、直線長Lを大きくして再検出処理を行った結果を示すものである。この画像でも、図4(a)と同様に、線状体20および輪郭画像23に対応する集合画像20a,23aが出現しているが、直線長Lの設定値が大きすぎるため、原画像の持つ本来の形状から逸脱したノイズ成分が発生している。
【0093】
このように直線幅W,直線長Lの各設定値は、線状体の検出精度を決める上での重要なパラメータとなる。また図4(a)〜(c)では固定しているが、処理結果画像の2値化しきい値である下限値を変更することによって、前記対応点の検索処理により誤抽出されたエッジ画素により出現するノイズの度合いを調整することができる。(以下、この下限値を「下限値S」と示す。)
【0094】
この実施例の画像処理では、本格的な検査に入る前の設定モードとして、図4に示したように、直線幅W,直線長L,および下限値Sの各パラメータの設定値を変更しながら、その設定値に応じた処理結果画像を生成し、これをモニタ3に表示するようにしている。ユーザーは、モニタ3の表示を見ながら、各パラメータの値を調整する処理を行った後、前記確定ボタン24の操作によって設定値を確定する。この確定操作により、各パラメータの設定値は前記フラッシュメモリ9内に保存され、これらの設定値に基づく欠陥検査が実行されることになる。なお、設定モードでは、つぎの図5のST1〜13を実行することによって、表示用の処理結果画像を生成するので、ここではその詳細な手順の説明は省略する。
【0095】
図5は、上記画像処理装置1における検査時の処理手順を示す。
この検査手順は、前記カメラ2からのアナログ画像信号がカメラインターフェース12に取り込まれてディジタル変換され、さらにエッジ強度抽出部6,エッジコード抽出部7による抽出処理が終了した時点で開始される。なお、以下の説明および図5では、各ステップを「ST」として示す。
【0096】
まずST1,2において、着目画素の座標位置(x,y)を前記計測領域22の左上端点の位置(x1,y1)に設定した後、この着目画素が計測領域の右下端点の位置(x2,y2)に到達するまで、以下の処理を繰り返す。
【0097】
ST3では、前記エッジ強度画像を用いて、着目画素のエッジ強度Ei(x,y)をチェックする。ここでエッジ強度Ei(x,y)が所定のしきい値Ehより大きい場合には、つぎのST4に進むが、エッジ強度Ei(x,y)がしきい値Eh以下である場合には、ST4以下の処理をスキップしてST9に進むことにより、着目画素を変更する。
【0098】
ST4では、エッジコード画像を用いて、着目画素のエッジコードEc(x,y)を読み出し、このエッジコードEc(x,y)を基準にして、検索方向を設定する。なお、この実施例では、x軸の正方向に沿う方向を0°として、エッジコードや濃度勾配方向を表すようにしており、背景よりも濃度の低い線状体を対象とする場合には、エッジコードEc(x,y)に90度を加算した方向を検索方向とする。反対に、背景よりも濃度の高い線状体を対象とする場合には、前記エッジコードEc(x,y)から90度を減算した方向を検索方向とする。
【0099】
検索方向が決定すると、ST5では、再び、エッジコード画像を用いて、着目画素より検索方向に向けて1画素ずつ走査し、各走査位置におけるエッジコードを着目画素のエッジコードEc(x,y)と比較する。ここで両エッジコード間の差分値が180°に対して前記誤差の範囲内の数値であれば、現在の走査位置が着目画素の対応点であるとみなし、ST6の判定を「YES」にする。
【0100】
走査位置のエッジコードが上記の条件にあてはまらない場合には、ST6が「NO」となり、前記直線幅W分のサーチが行われたかどうかをチェックする。この判定が「NO」であれば、前記検索方向に沿って1画素分の走査を行い、再びST6の判定処理を実行する。
【0101】
このようにして、直線幅Wの範囲内で対応点が抽出されると、その時点で走査を終了し、ST7に進む。このST7では、前記着目画素と対応点との中間点(前記図2(2)の点Q)を起点として、前記エッジコードEc(x,y)および直線長Lに基づき、線分の設定処理を実行する。なお、この線分の設定処理は、前記したように、処理結果画像用のメモリ領域において、線分の構成画素の画素値に前記エッジ強度Ei(x,y)を加算する処理として行われる。
【0102】
以下、同様にして、計測領域22内でしきい値Ehを上回るエッジ強度を持つエッジ画素について、順に対応点を検索し、さらにこの検索処理により対応点が抽出されたエッジ画素については、線分の設定処理を実行する。計測領域内の処理が終了すると、ST12が「YES」となってST13に進み、前記処理結果画像の各画素を、前記下限値Sに基づき2値化する。
【0103】
つぎのST14では、前記2値化された処理結果画像において、下限値Sを上回り、「1」の値が設定された画素を抽出し、さらにこれら画素が連続する画像領域を切り出して、ラベル付けを行う。さらにST15では、ラベル付けされた画像領域の面積を算出する処理を実行する。そしてST16では、この算出結果が所定のしきい値Sを上回るかどうかをチェックし、しきい値Sを上回るときは、ST17に進んで、不良判定を出力する。他方、算出結果がしきい値S以下の値であれば、ST18に進み、良品判定を出力する。なお、ST14でラベル付けされる集合画像は1つに限らず、複数の集合画像が出現する場合もある。この場合には、これらの集合画像のいずれかの面積が前記しきい値Sを上回ったときに、ST16の判定が「YES」となる。
【0104】
上記の検査やパラメータの設定を行う前には、計測領域22の設定処理や、対応点を検索する方向の設定処理などを行う必要がある。ただし、計測領域は、画像全体としてもよい。また対応点の検索方向は一方向に限らず、エッジコードEc(x,y)に90度を加算した方向、および90度を減算した方向の両方向を検索方向としてもよい。
【0105】
また線分の設定処理では、着目中のエッジ画素とこれに対応するエッジ画素との中間点に限らず、これらの画素を起点とする線分を設定してもよい。またこれらの画素間に複数の線分を設定してもよい。さらに線分を伸ばす方向は、一方向に限らず、起点から両方向に伸びる線分を設定してもよい。
【0106】
さらに上記図5の手順のST6において、着目中のエッジ画素に対する対応点が見つかった場合には、ST7の処理を実行した後に、この対応点のエッジ強度を前記しきい値Ehまたは0など、エッジ画素として認定されないエッジ強度に書き換えるようにしてもよい。このようにすれば、対向関係にあるエッジ画素の組に対する検索処理や線分の設定処理が重複して行われることがなくなり、処理を高速化することができる。
なお、このように対応点として抽出されたエッジ画素を、以後の処理対象から除外する場合には、ST7では、起点を中心として両方向に伸びる線分を設定するのが望ましい。
【0107】
上記図2〜5に示した手法に基づく欠陥検査によれば、パラメータを適正に設定すれば、前記図4(b)に示したように、線状体の長手方向にかかるエッジの各位置における傾きを反映した線分の集合画像により、前記線状体の形状に近い特徴を持つ画像を生成することができる。したがって、直線状の欠陥のみならず、髪の毛や糸くずのように湾曲した形状の欠陥や、クラックのように凹凸のある欠陥でも、精度良く検出することができる。
【0108】
また線分の設定処理においては、着目中のエッジ画素のエッジ強度による重み付けをした線分を設定するので、入力画像のコントラストが低いために、各エッジ画素のエッジ強度が小さくなっても、線分が重なり合うことにより背景に対する集合画像の重みを大きくすることができ、欠陥の形状や大きさを明瞭に示す画像を生成することができる。
【0109】
また仮に、エッジの中に、前記しきい値Ehよりエッジ強度が小さくなる欠落部位が生じても、直線長が十分な値に設定されていれば、近傍のエッジ画素にかかる線分の連結によって、前記欠落部位の傾きを補完することができる。よって別途、線分の統合処理を実行しなくとも、通常の検査処理のアルゴリズムによって欠落部位も含めた欠陥の検出を行うことができ、CPU5の制御負担を大きくせずに、高精度の検査を実行することが可能となる。
【0110】
さらに上記の実施例では、モニタ3の表示を見ながらパラメータの設定値を入力するようにしたが、このパラメータの設定は、図6のような手順を用いて自動的に行うこともできる。
【0111】
図6の手順は、いわゆる「山登り法」を使用するものである。この手順を実行するのに先立ち、画像処理装置1内には、欠陥を含むモデルの濃淡画像(以下、この画像を「モデル画像」という。)が複数枚入力され、またこれらのモデル画像について、各画素が欠陥であるかどうかを示す2値画像(以下、この画像を「モデル欠陥画像」という。)が設定される。なお、モデル欠陥画像は、ユーザーがモデル画像上における欠陥の位置を指定する操作に応じて生成される。たとえば、各モデル画像をモニタ3に順に表示しながら、この表示画面上でユーザーに欠陥の輪郭線上の点を複数指定させ、指定された各点を結ぶ画像領域内の画素を「1」とし、領域外の画素を「0」とすることで、前記モデル欠陥画像を生成することができる。(このように輪郭線上の点を指定する際には、画像を拡大表示するとよい。)
【0112】
図6では、各ステップ(ST)を、101以降の数字により示す。
前記したモデル画像の入力とモデル欠陥画像の生成処理が終了すると、ST101では、前記直線幅W,直線長L,下限値Sの各パラメータについての初期値を読み出し、これらの初期値を各パラメータの最適値として仮設定する。なお、各パラメータの初期値には、前記フラッシュメモリ9に保存されるデフォルトのパラメータ値を用いることができる。
【0113】
つぎにST102では、前記モデル画像毎に、前記最適値としたパラメータを用いた検査を実行する。各モデル画像に対する検査では、前記した図5と同様の手順を実行した後、欠陥と判断された集合画像(前記面積Sを上回る大きさの集合画像)の構成画素を「1」、他の画素を「0」とする2値の検査結果画像を生成する。
【0114】
こうして検査が終了すると、前記検査における評価値Eを算出する。なお、この評価値Eは、各モデル画像の検査結果画像とモデル欠陥画像とを用いて次の(1)式により求められるものである。なお、この(1)式は、後のST105,106でも用いられるので、一般式として、評価値をEとして示す。
【0115】
【数1】
Figure 0004206723
【0116】
上記(1)式において、Nはモデル画像の構成画素数、Tはモデル画像の枚数である。MTNは、1モデル画像上における1画素についての判定結果であり、このモデル画像から生成された検査結果画像とモデル欠陥画像との比較により求められる。具体的には、前記検査結果画像とモデル欠陥画像との間の対応する画素に同じ値が設定されている場合には、MTN=+1とされ、異なる値が設定されている場合には、MTN=−1とされる。
【0117】
つぎのST104では、直線幅W、直線長L、下限値Sのうちのいずれか1種類のパラメータ(たとえばW)を選択する。そしてST105では、前記選択したパラメータを最適値から任意の数αだけ増やした値に設定して、前記ST102と同様の方法による検査を実行する。つぎにST106では、前記パラメータを最適値からαだけ減らした値に設定し、同様に検査を実行する。
【0118】
つぎのST107では、前記ST105,106で実行した検査結果に基づき、それぞれ(1)式による評価値を算出する。これら評価値の少なくとも一方が前記評価値Eよりも高くなると、ST108からST109に進み、3つの評価値のうちの最大の評価値により、前記Eの値を書き換える。さらにST110では、書き替えられたEを得たときのパラメータの値により、前記選択したパラメータの最適値を書き換える。
【0119】
この後は、ST105に戻り、上記と同様の処理を繰り返し実行する。所定の時点で評価値EがST105,106の検査結果による評価値よりも高くなると、ST108からST111を介してST104に戻り、2番目のパラメータ(たとえばL)を選択する。そしてこのパラメータにつき、同様の処理により評価値Eの最大値およびパラメータの最適値が求められると、再びST108,ST111を経由してST104に戻り、3番目のパラメータ(たとえばS)を選択して同様の処理を実行する。
【0120】
こうしてすべてのパラメータが選択されると、ST111が「YES」となり、つぎのST112において、現在の各パラメータの最適値を、1番目のパラメータWを選択した時点での最適値と比較する。そしてこれらの最適値の組み合わせが異なる場合には、ST104に戻り、1番目のパラメータを再選択する。
以下、同様にして、評価値Eおよび各パラメータの最適値が固定されるまでST104〜112の処理を繰り返す。評価値Eおよび各パラメータの最適値が固定されると、ST112からST113に進み、その時点における各パラメータの最適値を、検査用のパラメータの設定値として確定し、前記フラッシュメモリ9内に保存する。
【0121】
【発明の効果】
この発明にかかる画像処理方法および画像処理装置によれば、直線状の線状体のみならず、湾曲した形状の線状体や、細かい凹凸のある線状体でも、簡単かつ精度良く検出することができる。また線状体のエッジ抽出精度が悪い画像に対しても、パラメータの調整により、通常と同様のアルゴリズムによる制御で線状体を精度良く検出することができ、制御負担を重くせずに、線状体の検出処理を高速化することができる。
【図面の簡単な説明】
【図1】この発明の一実施例にかかる画像処理装置の構成を示すブロック図である。
【図2】欠陥検出処理の原理を示す説明図である。
【図3】処理対象画像の一例を示す説明図である。
【図4】図3の処理対象画像に対する処理結果画像の表示例を、パラメータの設定値を変動させて示す説明図である。
【図5】欠陥検査の手順を示すフローチャートである。
【図6】パラメータを自動設定する処理の手順を示すフローチャートである。
【符号の説明】
1 画像処理装置
2 カメラ
3 モニタ
4 外部機器
5 CPU
6 エッジ強度抽出部
7 エッジコード抽出部
8 画像メモリ
9 フラッシュメモリ

Claims (19)

  1. 濃淡画像上に複数画素数分の幅をもって出現する線状体を検出するための方法であって、
    濃淡画像上の一方向に沿う検索範囲の幅を指定する数値の入力を受け付けて、入力された数値を前記検索範囲の設定用のパラメータとして登録する設定モードを実行し、
    処理対象の濃淡画像に対してエッジ画素を抽出し、抽出されたエッジ画素に順次着目して、着目中のエッジ画素毎に、当該エッジ画素におけるエッジ方向に直交する方向またはこの方向から所定角度回転した方向に沿って、前記登録されたパラメータが表す幅を持つ検索範囲を設定する第1のステップと、この検索範囲内で前記着目中のエッジ画素とは濃度勾配方向が反対方向になると認定できるエッジ画素を検索する第2のステップとを実行し、さらに前記検索範囲で認定条件を満たすエッジ画素が抽出されたとき、抽出されたエッジ画素から前記着目中のエッジ画素に至るまでの所定位置を通り、前記着目中のエッジ画素におけるエッジ方向に平行な線分を設定する第3のステップを実行し、
    着目すべきエッジ画素がなくなったとき、設定された線分の連結体の画像を、線状体の検出結果として表示する、
    ことを特徴とする画像処理方法。
  2. 請求項1に記載された画像処理方法であって、
    前記設定モードでは、検索を開始する画素から検索を終了する画素までの距離に相当する画素数の入力を受け付けて、これを前記検索範囲の設定用のパラメータとして登録し、
    前記第1のステップでは、着目中のエッジ画素から検索範囲を設定する方向に沿って前記登録されたパラメータが表す画素数の分だけ離れた画素までの範囲を、前記検索範囲として設定する、画像処理方法。
  3. 請求項1に記載された画像処理方法であって、
    前記設定モードでは、検索を開始する画素および検索を終了する画素について、それぞれ着目中のエッジ画素からの距離に相当する画素数の入力を受け付けて、これらを前記検索範囲の設定用のパラメータとして登録し、
    前記第1のステップでは、着目中のエッジ画素を基準に検索範囲を設定する方向に前記登録された2つのパラメータを適用して検索を開始する画素および検索を終了する画素を特定することによって、検索範囲を設定する、画像処理方法。
  4. 請求項1〜3のいずれかに記載された画像処理方法であって、
    前記設定モードでは、検索範囲の設定用のパラメータとして、さらにエッジ方向に直交する方向に対する回転角度を表す数値の入力を受け付けて登録し、
    前記第1のステップでは、着目中のエッジ画素におけるエッジ方向に直交する方向から前記登録されたパラメータによる角度分回転した方向に前記検索範囲を設定する、画像処理方法。
  5. 請求項1に記載された画像処理方法であって、
    前記設定モードでは、さらに前記線分の長さを表す数値の入力を受け付けて、その数値を前記線分の設定用パラメータとして登録し、
    前記第3のステップでは、登録されたパラメータが表す長さの線分を設定する、画像処理方法。
  6. 請求項1または5に記載された画像処理方法であって、
    着目すべきエッジ画素がなくなったとき、設定された各線分の構成画素の中から、所定数以上の線分が重ね合わせられた画素を抽出し、これら抽出された画素と他の画素とが切り分けられた2値画像を生成し、この2値画像を前記線分の連結体の画像として表示する、画像処理方法。
  7. 請求項1または5に記載された画像処理方法であって、
    各構成画素の濃度値がそれぞれゼロに初期設定された画像を用意し、
    第3のステップでは、前記用意された画像を対象として、設定すべき線分の構成画素の濃度値に着目中のエッジ画素のエッジ強度に応じた数値を加算する処理を実行し、
    着目すべきエッジ画素がなくなったとき、前記第3のステップの実行により生成された 分の設定結果を表す画像を所定のしきい値により2値化し、得られた2値画像を前記線分の連結体の画像として表示する、画像処理方法。
  8. 請求項1に記載された画像処理方法であって
    前記第2のステップにおいて前記認定条件を満たすエッジ画素が抽出されたとき、このステップに続く第3のステップにより線分を設定した後に、抽出されたエッジ画素を着目済のエッジ画素とする画像処理方法。
  9. 請求項1〜8のいずれかに記載された画像処理方法であって、
    前記設定モードでは、前記入力された数値をパラメータとしてモデルの濃淡画像を処理することにより線分の連結体の画像を表示し、この表示に対して確定操作が行われたとき、表示された画像の生成に適用された各パラメータを登録する、画像処理方法。
  10. 濃淡画像上に複数画素数分の幅をもって出現する線状体を検出するための方法であって、
    濃淡画像上の一方向に沿う検索範囲の幅を指定する数値の入力を受け付けて、入力された数値を前記検索範囲の設定用のパラメータとして登録する設定モードを実行し、
    処理対象の濃淡画像に対してエッジ画素を抽出し、抽出されたエッジ画素に順次着目して、着目中のエッジ画素毎に、当該エッジ画素におけるエッジ方向に直交する方向またはこの方向から所定角度回転した方向に沿って、前記登録されたパラメータが表す幅を持つ検索範囲を設定する第1のステップと、この検索範囲内で前記着目中のエッジ画素とは濃度勾配方向が反対方向になると認定できるエッジ画素を検索する第2のステップとを実行し、さらに前記検索範囲で認定条件を満たすエッジ画素が抽出されたとき、抽出されたエッジ画素から前記着目中のエッジ画素に至るまでの所定位置を通り、前記着目中のエッジ画素におけるエッジ方向に平行な線分を設定する第3のステップを実行し、
    着目すべきエッジ画素がなくなったとき、設定された線分の連結体の位置または大きさを計測し、この計測結果により濃淡画像上の線状体の位置またはこの線状体の大きさを特定する、
    ことを特徴とする画像処理方法。
  11. 濃淡画像上に複数画素分の幅をもって出現する線状体を検出するための装置であって、
    前記線状体の検出処理に使用するパラメータを入力するための入力手段と、
    前記入力手段から濃淡画像上の一方向に沿う検索範囲の幅を指定する数値の入力を受け付けて、入力された数値を前記検索範囲の設定用のパラメータとして登録する登録手段と、
    処理対象の濃淡画像を入力する画像入力手段と、
    前記入力された濃淡画像に対する線状体の検出結果を表示するための表示手段と、
    前記濃淡画像上のエッジ画素を検出するエッジ画素検出手段と、
    所定のエッジ画素に着目して、このエッジ画素におけるエッジ方向に直交する方向またはこの方向から所定角度回転した方向に沿って、前記登録手段に登録されたパラメータが表す幅を持つ検索範囲を設定し、この検索範囲内で、前記着目中のエッジ画素とは濃度勾配方向が反対になると認定できるエッジ画素を検索する検索手段と、
    前記検索手段により前記認定条件を満たすエッジ画素が抽出されたとき、抽出された画素から前記着目中のエッジ画素に至るまでの所定位置に前記着目中のエッジ画素におけるエッジ方向に平行な線分を設定する線分設定手段と、
    前記エッジ画素検出手段により検出されたエッジ画素を順に着目画素として、前記検索手段および線分設定手段を動作させ、着目すべきエッジ画素がなくなったとき、前記線分設定手段により設定された線分の連結体の画像を前記表示手段に表示させる制御手段とを具備して成る画像処理装置。
  12. 請求項11に記載された画像処理装置であって、
    前記登録手段は、さらにエッジ方向に直交する方向に対する回転角度を表す数値の入力を受け付けて、その数値を検索範囲の設定用のパラメータとして登録し、
    前記検索手段は、着目中のエッジ画素におけるエッジ方向に直交する方向から前記登録 手段に登録されたパラメータによる角度分回転した方向に前記検索範囲を設定する、画像処理装置。
  13. 請求項11に記載された画像処理装置であって、
    前記登録手段は、前記入力手段より線分の長さを表す数値の入力を受け付けて、その数値を前記線分の設定用パラメータとして登録し
    前記線分設定手段は、前記登録手段に登録されたパラメータが表す長さの線分を設定する、画像処理装置。
  14. 請求項11または13に記載された画像処理装置であって、
    前記制御手段は、着目すべきエッジ画素がなくなったとき、前記線分設定手段によって設定された各線分の構成画素の中から、所定数以上の線分が重ね合わせられた画素を抽出し、これら抽出された画素と他の画素とが切り分けられた2値画像を生成して前記表示手段に表示する、画像処理装置。
  15. 請求項11または13に記載された画像処理装置であって、
    前記線分設定手段は、各構成画素の濃度値がそれぞれゼロに初期設定された画像を対象に、設定すべき線分の構成画素の濃度値に着目中のエッジ画素のエッジ強度に応じた数値を加算することによって、前記線分の連結体の画像を生成し、
    前記制御手段は、着目すべきエッジ画素がなくなったとき、前記線分の集合体を示す画像を所定のしきい値により2値化し、得られた2値画像を前記表示手段に表示する、画像処理装置。
  16. 請求項11に記載された画像処理装置であって、
    前記制御手段は、前記検索手段により前記認定条件を満たすエッジ画素が抽出されたとき、前記線分設定手段による線分の設定処理が終了した後に、前記抽出されたエッジ画素を着目済のエッジ画素とする着目済設定手段を、さらに含んで成る画像処理装置。
  17. 請求項11に記載された画像処理装置であって、
    前記線分設定手段により設定された線分の連結体の位置または大きさを計測し、この計測結果により前記濃淡画像上の線状体の位置またはこの線状体の大きさを特定する線状体特定手段を、さらに含んで成る画像処理装置。
  18. 請求項17に記載された画像処理装置であって、
    前記線状体特定手段の特定結果に基づき、線状体の有無を判別する判別手段と、前記判別手段による有無判別結果を出力する出力手段とを、さらに含んで成る画像処理装置。
  19. 請求項11〜13のいずれかに記載された画像処理装置であって、
    前記登録手段は、前記画像入力手段から入力されたモデルの濃淡画像に対し、前記入力手段より入力された数値をパラメータとして、前記エッジ画素検出手段、検索手段、線分設定手段、および制御手段に処理を実行させることによって線分の連結体の画像を前記表示手段に表示し、この表示に対して入力手段から確定操作を受け付けたとき、表示された画像の生成に適用された各パラメータを登録する、画像処理装置。
JP2002299581A 2002-10-11 2002-10-11 画像処理方法および画像処理装置 Expired - Lifetime JP4206723B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2002299581A JP4206723B2 (ja) 2002-10-11 2002-10-11 画像処理方法および画像処理装置
DE10346690A DE10346690B4 (de) 2002-10-11 2003-10-08 Verfahren und Vorrichtung zum Detektieren eines Linearobjekts
US10/681,373 US7212672B2 (en) 2002-10-11 2003-10-09 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002299581A JP4206723B2 (ja) 2002-10-11 2002-10-11 画像処理方法および画像処理装置

Publications (2)

Publication Number Publication Date
JP2004133811A JP2004133811A (ja) 2004-04-30
JP4206723B2 true JP4206723B2 (ja) 2009-01-14

Family

ID=32288671

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002299581A Expired - Lifetime JP4206723B2 (ja) 2002-10-11 2002-10-11 画像処理方法および画像処理装置

Country Status (3)

Country Link
US (1) US7212672B2 (ja)
JP (1) JP4206723B2 (ja)
DE (1) DE10346690B4 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7099509B2 (en) * 2002-10-11 2006-08-29 Samsung Electronics Co., Ltd. Method of edge direction detection based on the correlations between pixels of a vector and an edge direction detection system
JP4683200B2 (ja) * 2004-04-30 2011-05-11 花王株式会社 髪領域の自動抽出方法
JP4619112B2 (ja) * 2004-12-27 2011-01-26 花王株式会社 毛形状の測定方法
CN1797429A (zh) * 2004-12-29 2006-07-05 鸿富锦精密工业(深圳)有限公司 二维图像分析处理系统及方法
JP4001162B2 (ja) 2005-11-04 2007-10-31 オムロン株式会社 画像処理方法、画像処理用のプログラムならびにその記憶媒体、および画像処理装置
US8126253B2 (en) * 2005-11-12 2012-02-28 Cognex Technology And Investment Corporation Automatically determining machine vision tool parameters
JP4797846B2 (ja) * 2006-07-12 2011-10-19 トヨタ自動車株式会社 区画線検出装置及び車線検出装置
JP4724638B2 (ja) * 2006-10-20 2011-07-13 株式会社日立製作所 オブジェクト検出方法
US20080187194A1 (en) * 2007-02-05 2008-08-07 Zhang Daoxian H Cad image normalization
EP2124185B1 (en) * 2007-02-16 2017-08-30 Kao Corporation Hair image display method and display device
JP5724454B2 (ja) * 2011-02-25 2015-05-27 村田機械株式会社 画像処理装置及び画像処理方法
KR101194773B1 (ko) * 2011-03-29 2012-10-26 강진수 탈모진행정도의 측정 방법
JP5765026B2 (ja) * 2011-04-06 2015-08-19 富士ゼロックス株式会社 画像処理装置及びプログラム
FR2977939B1 (fr) * 2011-07-11 2013-08-09 Edixia Procede d'acquisition de plusieurs images d'un meme objet a l'aide d'une seule camera lineaire
JP6021665B2 (ja) * 2013-01-30 2016-11-09 株式会社Pfu 画像処理装置、画像処理方法及びコンピュータプログラム
BR112017027110B1 (pt) * 2015-06-30 2022-08-09 Pirelli Tyre S.P.A. Método para detectar defeitos na superfície de um pneu, e, aparelho para analisar pneus em uma linha de produção de pneus.
US10095944B2 (en) * 2015-08-28 2018-10-09 Tata Consultancy Services Limited Methods and systems for shape based image analysis for detecting linear objects
US10152780B2 (en) * 2015-11-02 2018-12-11 Cognex Corporation System and method for finding lines in an image with a vision system
US10937168B2 (en) 2015-11-02 2021-03-02 Cognex Corporation System and method for finding and classifying lines in an image with a vision system
CN107123110A (zh) * 2017-04-13 2017-09-01 青岛海信医疗设备股份有限公司 胸壁线检测方法及装置
JP6996200B2 (ja) * 2017-09-29 2022-01-17 富士通株式会社 画像処理方法、画像処理装置、および画像処理プログラム
JP7185839B2 (ja) * 2018-06-15 2022-12-08 オムロン株式会社 画像処理装置、画像処理方法及び画像処理プログラム
CN111141208B (zh) * 2019-01-09 2021-08-27 银河水滴科技(北京)有限公司 一种平行线检测方法及装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5081689A (en) * 1989-03-27 1992-01-14 Hughes Aircraft Company Apparatus and method for extracting edges and lines
US6141437A (en) * 1995-11-22 2000-10-31 Arch Development Corporation CAD method, computer and storage medium for automated detection of lung nodules in digital chest images
US6625303B1 (en) * 1999-02-01 2003-09-23 Eastman Kodak Company Method for automatically locating an image pattern in digital images using eigenvector analysis
JP2000293696A (ja) * 1999-04-07 2000-10-20 Matsushita Electric Ind Co Ltd 画像認識装置
JP3661635B2 (ja) * 2000-11-29 2005-06-15 オムロン株式会社 画像処理方法およびその装置
DE10157958B4 (de) * 2000-11-29 2012-11-15 Omron Corp. Bildverarbeitungsverfahren und-vorrichtung
US7116823B2 (en) * 2002-07-10 2006-10-03 Northrop Grumman Corporation System and method for analyzing a contour of an image by applying a Sobel operator thereto

Also Published As

Publication number Publication date
DE10346690B4 (de) 2007-11-29
US20040131256A1 (en) 2004-07-08
DE10346690A1 (de) 2004-06-03
JP2004133811A (ja) 2004-04-30
US7212672B2 (en) 2007-05-01

Similar Documents

Publication Publication Date Title
JP4206723B2 (ja) 画像処理方法および画像処理装置
JP3706051B2 (ja) パターン検査装置および方法
JP2010071951A (ja) 視覚検査装置および視覚検査方法
JP3533722B2 (ja) 不良検査方法およびその装置
JP4279833B2 (ja) 外観検査方法及び外観検査装置
JP3661635B2 (ja) 画像処理方法およびその装置
JP3265595B2 (ja) 画像処理方法およびその装置
JP2010133744A (ja) 欠陥検出方法およびその方法を用いた視覚検査装置
JP2011007728A (ja) 欠陥検出方法、欠陥検出装置、および欠陥検出プログラム
JP2011227748A (ja) 画像処理装置、画像処理方法、画像処理プログラム、及び欠陥検出装置
JP2002140713A (ja) 画像処理方法およびその装置
JP4743231B2 (ja) 外観検査方法及び外観検査装置
JP4670994B2 (ja) カラー画像の処理方法および画像処理装置
JP4470513B2 (ja) 検査方法および検査装置
JP4513394B2 (ja) カラー画像の処理方法および画像処理装置
JP4743230B2 (ja) 外観検査方法及び外観検査装置
JP2002373334A (ja) 指紋特徴抽出装置、指紋特徴抽出方法及び指紋抽出プログラム
JP2010091360A (ja) 画像検査方法および画像検査装置
JP4178923B2 (ja) 外観検査方法及び外観検査装置
JP2002203233A (ja) 検査方法およびその装置
JP4670995B2 (ja) カラー画像の処理方法および画像処理装置
JP4670993B2 (ja) カラー画像の処理方法および画像処理装置
JP4013695B2 (ja) 画像処理方法及び画像処理装置
JP4188708B2 (ja) サンプル作成に特長をもつ画像処理手順設計エキスパートシステム
JP4098097B2 (ja) 輝度評価に特長をもつ画像処理手順設計エキスパートシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080701

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080829

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080924

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081007

R150 Certificate of patent or registration of utility model

Ref document number: 4206723

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111031

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121031

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121031

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131031

Year of fee payment: 5

EXPY Cancellation because of completion of term