以下に図面を参照して本発明をさらに詳しく説明する。図1に観測システムの概略を示してある。観測システム1は、インクジェットヘッドの製造検査工程、ヘッドの性能検査、ヘッドと液のマッチングなどの基礎研究の段階など多種多様な場面で利用できるものである。この観測システム1は、液滴3を吐出するインクジェットヘッド2と、インクジェットヘッド2から吐出された液滴3を撮像する撮像装置11を備えている。本例においては、撮像装置11は、CCDカメラ15と、LEDからなる発光部16を備えている。撮像装置11の構成は、これに限定されるものではなく、飛翔中の液滴3を断続的に撮影できる構成であれば良い。
観測システム1は、さらに、インクジェットヘッド2に液滴3を吐出するコントロール信号(または吐出信号)φ1を出力するヘッドコントローラ12と、発光部16を発光させる駆動信号φ2を出力する発光タイミングコントローラ13と、CCDカメラ15で撮像された画像情報φ3に基づいて、インクジェットヘッド2から吐出される液滴3の飛翔状態を観測し、飛翔速度、飛翔方向(または飛翔角度、吐出角度)、液滴3の体積などを測定する測定ユニット10とを有している。
測定ユニット10は、ハードウェアとしてパーソナルコンピュータを使用しており、CD−ROM16などの記録媒体により提供された観測用のプログラム17をインストールすることにより測定装置として機能する。観測用のプログラム17はインターネットなどのコンピュータネットワークを介しても提供可能である。
図2に測定ユニット10の概略構成を示してある。測定ユニット10は、ヘッドコントローラ12にコントロール信号φ4を出力してインクジェットヘッド2が液滴3を吐出するタイミングを制御する吐出制御部21と、発光タイミングコントローラ13に発光コントロール信号φ5を供給して発光部16を発光するタイミングを制御する発光制御部22とを有している。発光制御部22により、CCDカメラ15で液滴3を撮像するタイミングおよび間隔(インターバル、第1の時間間隔)Tiを制御することができる。発光タイミングコントローラ13は、ヘッド2の吐出信号φ1に対し、コントロール信号φ5によりセットされた遅延時間だけ遅れたタイミングから、コントロール信号φ5によりセットされたインターバルTiの同期信号(駆動信号)φ2を発光部16に出力する。インターバルTiは通常数μsにセットされ、そのインターバルTiで発光部16が発光することにより、CCDカメラ15により、飛翔中の液滴3の断続的な画像が撮影される。液滴3を吐出するタイミングや発光部16を駆動するタイミングは、測定ユニット10により自動制御できる。また、測定ユニット10のキーボードなどの入力手段19を介して設定することも可能である。
測定ユニット10は、ヘッド2のノズルから吐出された液滴3の画像を取得する画像取得部23を備えており、CCDカメラ15により断続的に得られた液滴3の画像信号φ3は、画像キャプチャボード18を介して測定ユニット10の画像取得部23に入力される。画像取得部23は、インターバルTi毎に断続的に撮影された液滴3の画像φ3を取得すると共に、ノズルから液滴を吐出する前の画像を参照画像φ9としてメモリ28に記録する。測定ユニット10は、さらに、時間的に前後に得られた画像φ3の間で、これらの画像に含まれる液滴3の同一性を判断する認識部24と、それぞれの画像に含まれる液滴3の位置情報φ11と、液滴3の形態に関する情報φ12を求めてメモリ28に格納するログ部27と、メモリ28に記憶された位置情報φ11に基づいて液滴3の飛翔速度や飛翔角度を算出する解析部26とを有している。
認識部24は、時間的に前後する断続的な画像φ3を、第1の画像φ31、第2の画像φ32とすると、第2の画像φ32の中に、第1の画像φ31の液滴3の位置からインターバルTiにおける液滴3の最大飛翔距離の範囲を含む検索エリアを設定するエリア設定部31aと、その検索エリア内の液滴3の有無を判断する液滴検出部32と、検索エリア内の液滴3が第1の画像φ31の液滴3に類似するか否かを判断する類似判断部33とを備えている。さらに、認識部24は、第2の画像φ32の中に、検索エリアの飛翔方向に、検索エリアの飛翔方向の端から最大飛翔距離の範囲を含むノイズ検索エリアを設定するノイズ検索エリア設定部31bと、そのノイズ検索エリア内に液滴の候補があると観測の中止を判断する判断部37とを備えている。また、認識部24は、参照画像φ9を参照して、第1の画像φ31、第2の画像φ32から、参照画像φ9に含まれている成分を静止ノイズとして除去するノイズ除去部34を備えている。
インクジェットヘッドの場合、ヘッド2から吐出される液滴3の速度範囲は0.5〜20m/sである。したがって、最大飛翔距離Lmは、以下の式(1)になる。
Lm=20×Ti・・・(1)
エリア設定部31aは、第1の画像φ31の液滴3の位置から、液滴3の最大飛翔距離Lmを含む検索エリアを第2の画像φ32の中に設定する。インターバルTiが10μsに設定されていれば、第1の画像φ31の液滴3の位置から0.2mmの範囲を含む検索エリアが設定される。
さらに、エリア設定部31aは、第1の画像φ31の液滴3の飛翔方向に検索エリアを設定する。メモリ28には、第1の画像φ31およびそれ以前の画像に含まれた液滴3の位置情報φ11が格納されているので、それらの位置情報φ11から第1の画像φ31における液滴3の飛翔方向を知ることができる。したがって、検索エリアは、第1の画像φ31の液滴3の位置を中心とした円形または方形に設定されるのではなく、液滴3の進行方向を中心とした、限られた範囲に設定される。
同様に、ノイズ検索エリア設定部31bも、ノイズ検索用のエリアを、液滴3の進行方向を中心とした、検索エリアのさらに先の最大飛翔距離Lmを含む、限られた範囲に設定する。
液滴検出部32は、画像φ32の検索エリア内のコントラストの異なる領域の面積や形状などから液滴3の有無を判断する。液滴3と判断する領域と観測画面の背景とのコントラストを閾値として予め液滴検出部32に設定しておくことにより液滴3の有無を自動判別できる。
類似判断部33は、先に得られた第1の画像φ31の液滴3の形態(形状や面積など)に関する情報φ12と、第2の画像φ32の液滴3の形態情報φ12を比較し、画像φ31の液滴と画像φ32の検索エリアで液滴と判断されたものが同一であるか否かを判断する。類似判断部33においては、第1の画像φ31の液滴3の形態情報φ12と、第2の画像φ32の液滴3の形態情報φ12が類似する範囲であれば、それらの液滴3は同一であると判断する。したがって、第1の画像φ31に含まれる液滴3と第2の画像φ32に含まれる液滴3との形態が全く同一でなくても、同一の液滴3を追尾または追跡することができ、飛翔の途中で形が変わったり、分離したりする可能性がある液滴も追跡できる。
ログ部27は、位置情報φ11として検索エリア内の液滴3の選択された場所、たとえば、液滴の先端または重心の座標を求める位置情報生成機能38と、液滴3の外周形状、液滴3の縦(Y方向)および横(X方向)の長さ、さらにはそれらの平均値、液滴3の面積および液滴3の濃度、液滴3の位置のいずれか、あるいは複数の形態情報φ12を取得する形態情報生成機能39とを備えている。液滴の判別は、少なくともいずれか1つの形態情報φ12を用いて行うことができるが、複数の情報を組み合わせることにより、処理の負担は増加するが類似判断の精度を高めることができる。
解析部26は、第1の位置(第1の液滴到達地点)と第2の位置(第2の液滴到達地点)との間で、それらに最も近い位置の液滴3を含んだ最初の画像と最後の画像から、液滴3の速度および角度を算出する。キーボードなどの入力手段19から第1の液滴到達地点と第2の液滴到達地点を設定することが可能であり、たとえば、第1の液滴到達地点をヘッド2のノズル面から0〜0.5mm程度、第2の液滴到達地点を液滴が到達する面から0〜0.5mm程度の範囲(ヘッド2のノズル面から0.5〜2.0mm程度の範囲)で設定しておくことが可能である。速度を算出する画像には、液滴到達地点のベースとなるノズル面あるいは液滴が到達する面が液滴と共に含まれていることが望ましく、基準面からの距離を測定することにより、精度の高い解析が可能となる。
測定ユニット10は、さらに、画像取得部23により得られた画像φ3や、解析状況などをLCD20に表示する表示制御部29を備えている。
図3に、測定ユニット10において液滴の速度を測定する過程をフローチャートにより示してある。また、図4に、速度を測定する過程において、液滴を自動追尾する動作をフローチャートにより示している。また、図5には、ノズル2aから液滴3が吐出された直後からインターバルTi毎に得られた画像を示してあり、図3および図4の処理をこれらの画像を参照しながら説明する。これらの図5(a)から図5(g)に移された液滴3は、ヘッド2のノズル2aから吐出された直後は柱状であるが、その後は、液自身の表面張力などの影響により形状が変化し、最終的には、メインの液滴3aと少なくとも1つのサテライト3bに分離した状態でY方向に飛翔する。
液滴3の速度を測定する過程においては、ステップ51において、第1の液滴到達地点H1、第2の液滴到達地点H2、撮影間隔(インターバルTi)、液滴3を判別する形態の指定などを含めた観測条件が設定される。ステップ52において、液滴3の観測が開始されると、まず、ステップ90において、ノズルから液滴を吐出する前の参照画像φ9がキャプチャされ、メモリ28に記録される。次に、ステップ53において、インターバルTiで断続的にノズルから吐出された液滴3の画像が取得され、液滴3が自動的に追尾される。自動追尾された液滴3の位置が、ステップ54において、図5(a)に示すように、第1の液滴到達地点H1に達したと判断されると、ステップ55において、その位置と到達時間が記録される。さらに、ステップ56において、液滴3を自動追尾した結果、図5(g)に示すように、液滴3が第2の液滴到達地点H2に達したと判断されると、ステップ57で自動追尾は完了し、そのときの時刻、位置から、液滴3の飛翔速度や吐出角度(または直進度)が求められる。
自動追尾は、図4に示すように、まず、ステップ61でインターバルTiが経過してLEDの発光部16を発光するタイミングになると、ステップ62で発光部16を発光して液滴3の画像を撮影する。測定ユニット10においては、画像取得部23が画像φ3を取得し、認識部24のノイズ除去部34は、取得した検査あるいは観察用の画像データと参照画像φ9とを比較し、検査画像から、参照画像φ9に記録されている静的なノイズ成分を除去する。この処理により、検査画像に含まれている背景や、CCDカメラ15の固有の画素エラーあるいはレンズ面の傷やごみといった経過時間により移動しないノイズ成分を除去することができる。これにより、認識部24は、動的な画像成分だけを取り出して以降の処理を進めることが可能となり、基本的には液滴だけを捉えることができる。この静的なノイズの除去は画像全体で行なうことも、以下に示す検索エリア毎に行なうことも可能であり、到達地点H1およびH2などの観測に必要な静的な情報を残すことも容易である。
次に、ステップ63において、認識部24のエリア設定部31aが液滴3を検索するエリアを設定する。図5(b)の画像41bを第2の画像φ32として測定ユニット10が取得したとすると、エリア設定部31aは、その前の図5(a)の画像41aを第1の画像φ31とし、その画像41aに含まれている液滴3の位置から液滴の飛翔方向に最大飛翔距離Lmの検索エリア35を画像41bに設定する。本例においては、液滴3は画面41aを縦(垂直、Y)方向に直進している。このため、エリア設定部31aは、図6(a)に示すように、画像41aの液滴3の位置からY方向に最大飛翔距離Lmだけ延び、横(水平、X)方向は液滴3を中心として左右対称な幅の四角形の検索エリア35を設定する。検索エリア35は、画像41aの液滴3の位置を中心とする半径Lmの半円形のエリアでも良い。しかしながら、液滴3の飛翔方向が急激に変動することはなく、また、検索エリア35の面積が小さい方が液滴3を検出するための処理時間が短い。したがって、本例では、液滴3の飛翔方向にある程度の幅(たとえば最大飛翔距離Lm)をもった四角形の検索エリア35を設定している。また、エリア設定部31aは、ステップ63において、画像41aにおける液滴3の飛翔方向が±X方向に傾いている場合は、その傾きに応じて、画像41aの液滴3の位置から±X方向に偏った検索エリア35を設定する。これにより、液滴3の飛翔方向を確実にカバーするように検索エリア35を設定できる。
ステップ81において、ノイズ検索エリア設定部31bは、図6(a)に示すように、検索エリア35の飛翔方向の先にノイズ検索エリア36を設定する。このノイズ検索エリア36は、次のタイミングで液滴の検索エリア35に入って追尾している液滴の観測の障害になるノイズの有無を判断しようとするものであり、ノイズ検索エリア36は、液滴の検索エリア35に対して、飛翔方向の長さが最大飛翔距離Lmの1〜10倍程度、幅方向も最大飛翔距離Lmの1〜10倍程度にすることが望ましい。ノイズ検索エリア36を大きくすると、追尾対象の液滴以外の液滴あるいはその他のノイズを検出する可能性が高くなり、さらに画像処理の負荷も大きくなる。一方、ノイズ検索エリア36の面積が小さすぎると、液滴の検索エリア35に侵入するノイズを事前に検出できなくなる可能性がある。したがって、ノイズ検索エリア36は液滴検索エリア35に対して飛翔方向に同程度、あるいは1〜3倍程度の長さとし、飛翔方向に直交する幅方向の長さも同程度にすることがさらに望ましい。ノイズ検索エリア36は、液滴の検索エリア35に対して必ずしも連続するように設定する必要はないが、速度差が大きく異なる液滴を事前に検出したり、液滴の検索エリア35に対して次のタイミングで侵入するノイズを精度良く検出するためには検索エリア35および36は連続していることが望ましい。また、検索エリア35および36は、正方形あるいは長方形などの方形に限定されず、扇形などであっても良い。また、検索エリア35に対して、ノイズ検索エリア36の面積を大きく設定する場合は、画像解析の解像度を減らすことも可能であるが、ノイズの検出率は低下することになる。
次に、ステップ82において、判断部37は、ノイズ検索エリア36の画像を解析し、ノイズ検索エリア36に液滴の候補があると判断すると、ステップ65において液滴の追尾が不可能であると判断して、観測を中止する。ステップ80において、静的なノイズが除去されている場合は、ステップ82において判断されるノイズは基本的には動的なノイズである。動的なノイズは、なんらかの要因により追尾中の液滴と交差したり、接近することになった他の液滴である可能性が最も高い。したがって、図7(a)に示すように、追尾している液滴3の飛翔方向に別の液滴4があり、図7(b)に示すように、ノイズ検索エリア36に別の液滴4が検出されると、図7(c)に示すように、別の液滴4が次のタイミングで液滴の検索エリア35に入る可能性が高い。その場合、以下に示すような類似判断を行なったとしても明確に差別化できない可能性があり、誤認識する可能性がある。さらに、ノイズ検索エリア36に認識された液滴が次のタイミングで追尾中の液滴と合体する可能性もある。したがって、ステップ82において、誤認識の可能性がある場合は、事前に観測を中止(中断)することにより、それまでのデータの信頼性を確保するようにしている。
ステップ81および82に示したノイズ検索エリア36を設定して、ノイズ検索エリア36において液滴の候補が発見されると観測を中止する処理は1つのフィルタリング機能であり、以下に説明する類似判断によるフィルタリング機能と同時に適用しても良く、どちらか一方のみを適用しても良い。また、観測を中止する代わりに、ノイズ検索エリアにノイズが見られたタイミングを記録し、それ以前の観測の記録と、それ以降の観測の記録とを後に分けて解析できるようにしておいても良い。
ステップ82においてノイズとなる液滴が検出されなかった場合は、ステップ64において、設定された検索エリア35を認識部24の液滴検出部32が画像処理し、液滴3と判断できる映像の有無を判断する。ステップ64において、検索エリア35に液滴3が見つからないと、ステップ65において検出エラーとなり、自動追尾は終了する。ステップ64において、液滴3と判断できる映像が見つかると、ステップ66において、認識部24の類似判断部33は、液滴3と判断された映像の形態情報φ12を抽出し、前の画像41aの液滴3の形態情報φ12と比較する。そして、新しい画像41bの液滴3の形態情報φ12と、前の画像の液滴3の形態情報φ12との差が許容範囲であれば、類似判断部33は、新しい画像41bにおいて発見された液滴3を前の画像41aの液滴3と同一であると判断する。ステップ66において、液滴3が同一であると判断されないと、ステップ65において検出エラーとなり、自動追尾は終了する。
ステップ67において、さらに、類似あるいは同一と判断された液滴3が1つに確定したか否かを判断する。ステップ67において、候補となる液滴の像が2つ以上あれば、ステップ68において、第2の画像φ32に続いたタイミングで取得される第3の画像φ33を利用して液滴を確定する努力を行う。例えば、液滴の自動追尾を開始した直後において、最初の画像(1枚目の画像)φ31と、次の画像(2枚目の画像)φ32だけでは液滴の方向が詳細には限定されない可能性がある。そして、第2の画像φ32に液滴に類似したノイズ成分があり、そのノイズ成分が検索エリア35に入る可能性がある。この場合、ノイズ成分を液滴3の予想飛翔方向だけで候補ではないと判断することは難しい。しかしながら、第2の画像の次の第3の画像φ33を利用すれば、ノイズ成分は移動しないので、第2の画像φ32の液滴の候補からノイズ成分を除去することができ、ステップ67において自動追尾する液滴を1つに確定することができる。
測定ユニット10の画像取得部23は、インターバルTi毎に断続的に撮影された液滴3の画像φ3を随時取得するので、第3の画像φ33を第2の画像φ32に続いて取得することは容易であり、そのための時間差はほとんどないので、第3の画像φ33を用いることは液滴の観測に支障をきたすことはない。したがって、認識部24のノイズ除去部34は、類似判断部33の結果と、第3の画像φ33を利用して、さらに詳細にノイズを除去することが可能である。すなわち、ノイズ除去部34において、第3の画像φ33に、第1の画像φ31の液滴の位置から、第3の画像φ33が取得された時間までの飛翔距離を範囲とする検索エリア35を設定し、ノイズ成分を観測することにより、第2の画像φ32と第3の画像φ33に含まれた、動かない成分をゴミやCCDの傷などの静的なノイズ成分として除去できる。
この処理は、上述したステップ80のノイズ除去と共通するので、いずれか一方を行なうことにより静的なノイズを除去できる可能性は高い。第3の画像φ33を利用すると処理能力が要求されるが、液滴を吐出した後になんらかの要因で発生した静的なノイズを除去できる点でメリットがある。また、静的なノイズ成分に限らず、他のノズルから出力された液滴も第3の画像φ33を用いることにより簡単に除去できる。第2の画像φ32の検索エリアに含まれている液滴がノイズの場合は、自動追尾の対象の液滴とは飛翔方向や速度が異なるので、第3の画像φ33の検索エリアには含まれない可能性が高いからである。第2の画像φ32に含まれる液滴が決定されれば、第2の画像φ32を第1の画像とし、それに対して第3の画像φ33を第2の画像として用い、上述した方法で自動追尾をさらに行うことができる。
ステップ67において、画像41bにおいて検出された液滴3が、前の画像41aにおいて追尾する液滴として認められた液滴3と同一であると判断されると、ステップ69において、ログ部27が画像41bにおいて検出された液滴3の情報をメモリ28に格納する。まず、形態情報生成機能39が検出された液滴3の映像から、液滴の外周形状、縦横の長さ、面積、濃度などの形態を抽出して、形態情報φ12としてメモリ28に格納する。この形態情報φ12がステップ66において類似判断部33が使用する形態情報と同一であれば、形態情報生成機能39は、類似判断部33の機能と共用することができる。次に、位置情報生成機能38は形態情報φ12に基づき予め設定された液滴3の部分の座標を求めて液滴3の位置情報φ11としてメモリ28に格納する。液滴3の先端の位置を液滴の位置情報とするのであれば、形態情報φ12の外周形状を解析することにより先端の位置を求めることができる。
画像41bに含まれたターゲットの液滴3のログがメモリ28に記録されると、測定ユニット10は、ステップ70において解析部26の機能を用いて前の画像41aの液滴のデータと後の画像41bの液滴のデータを比較し、幾つかの関係をチェックする。まず、前後の画像に含まれるターゲットの液滴3の位置情報φ11を比較することにより、液滴3の進行方向が判明する。したがって、図5(c)に示す次の画像41cを取得したときに検索エリア35を設定する方向を決定するデータφ13を取得してメモリ28に格納することができる。また、形態情報φ12を比較することにより、前後の画像に含まれた液滴3の形態の変化の度合いが分かる。液滴3の形態の変化が著しい場合は、次の画像41cで液滴の同一性を確認できなくなる可能性がある。したがって、解析部26は、ステップ71でインターバルTiを短縮する必要があることを判断し、ステップ72で、発光制御部22により制御信号φ5を介してタイミングコントローラ13の設定を変更する。前後の画像の液滴の位置情報φ11を比較したときに何らかの要因により予定された最大飛翔距離Lmに近い場合は、同様にインターバルTiを短縮する。このような処理が、断続的に得られる画像41d(図5(d)参照)、画像41e(図5(e)参照)、画像41f(図5(f)参照)、画像41g(図5(g)参照)について行われる。
測定ユニット10において、このような画像毎の液滴3の自動追尾を行うことにより、液滴の速度測定や飛翔方向の測定のときに、第1の液滴到達地点H1に達した液滴が含まれた画像41aにおけるターゲットの液滴3と、第2の液滴到達地点H2に達した液滴3が含まれた画像41gにおけるターゲットの液滴3とが同一であることを保証できる。さらに、液滴3の飛翔方向が予想できない場合でも、液滴3の飛翔方向をトレースしているので、液滴3の映像を確実に捉えて液滴の速度および飛翔方向を測定することができる。このため、外乱を防ぐために液滴の進路をカバーしたり、電場を加えたりすることなく、実機と同じ条件で吐出された液滴を観測でき、液滴の実際の挙動を確認したり、速度や飛翔方向を測定することができる。
また、画像毎に適切な検索エリア35を設定して液滴を認識することにより、液滴を自動認識する確率を向上できると共に、処理時間を短縮できるので、オンラインあるいはオンタイムで液滴の挙動を自動観測することも可能となる。そして、自動追尾することにより、画像の中で液滴を認識するエリアが限定されるので、液滴を自動認識する際に画像にCCDの欠損などのノイズがあっても、その影響を受ける可能性は非常に小さい。また、複数の液滴が画像に含まれている場合も、検索エリア以外に写されている液滴の映像は自動追尾の対象にならないので観測対象から除かれる。したがって、本発明により液滴の速度や飛翔方向の精度の高い自動測定が可能となる。
さらに、ステップ64において検索エリア35に複数の液滴の候補が見つかったときに、ステップ66においては類似判断部33が、それらの液滴の候補に対してターゲットの液滴との同一性を判断するようにしても良い。たとえば、画像毎のターゲットの液滴3の位置の偏差(差分すなわち速度)が判明していれば、検索エリア35の中の液滴の候補のうち、前の画像の液滴と同様の偏差をもった位置の近傍に認識された候補以外は除くことができる。液滴は移動し、ゴミやカメラの異常によるノイズは移動しないので液滴の候補の位置情報から液滴とノイズとは簡単に分離できる。また、画像毎のターゲットの液滴3の飛翔方向が判明していれば、検索エリア35の中の液滴の候補のうち、前の画像の液滴と同じ飛翔方向の近傍に認識された候補以外は除くことができる。さらに、形態情報φ12を用いれば、前の画像の液滴の形態情報φ12と類似する液滴の候補以外は除くことができる。
このように検索エリア35の内部でも液滴の同一性の判断を行うことにより、まず、ゴミなどのノイズが検索エリア35の内部に見つかっても、それをほぼ完全に除去することができる。さらに、複数の液滴が検索エリア35の内部に見つかっても、ターゲットの液滴を確実にトレースすることができる。たとえば、複数のノズルから吐出された液滴が同一の画像に含まれていると、吐出方向によって液滴の進行方向がクロスする可能性があるが、上記のように検索エリア35の候補の液滴の同一性を判断することによりクロスした液滴を完全に分離でき、ターゲットの液滴を確実にトレースできる。また、メインの液滴にサテライトが追従するような形態の液滴においては、メインの液滴だけ、あるいはサテライトだけをターゲットとして追尾し、それぞれの速度や飛翔方向を測定することが可能となる。
また、ヘッドが複数のノズルを備えている場合は、複数の液滴が前後して吐出され、それら複数の液滴を含む断続的な画像が得られる。また、1つのノズルに着目しても、濃度階調を行う場合などでは、1回の吐出指示により複数の液滴が短時間の内に吐出されるので、それら複数の液滴を含む断続的な画像が得られる。本発明にかかる観測方法および観測装置においては、上記に開示した方法および手段により、断続的に得られる画像に含まれる複数の液滴の全て、あるいはそれらの指定された液滴の1つまたは複数について、上記と同様に自動追尾することができる。たとえば、エリア設定部31aにより指定された各々の液滴に対して検索エリアを設定し、各々の液滴の類似判断を行うことにより個別に自動追尾することが可能である。
上記に例示したエリア設定部31aでは、画像41aの液滴3の位置からY方向に最大飛翔距離Lmだけ延びた検索エリア35を設定している。しかしながら、液滴は必ず移動することを考えて、最小飛翔距離Ls(上記の例では、0.5×Ti)を設定し、図6(b)に示すように、検索エリア35は、液滴3の位置から最小飛翔距離Lsから最大飛翔距離Lmの範囲に設定することも可能である。最小飛翔距離Lsを考慮することにより検索エリア35を狭くできるので処理速度を高めることができる可能性がある。しかしながら、外乱などにより液滴が最小飛翔距離Lsに達しないケースがある場合は液滴を自動追尾できなくなる可能性を含む観測方法となる。最小飛翔距離Lsおよび最大飛翔距離Lmの設定はユーザに開放することが可能であり、ユーザが観測対象の液滴の種類あるいは測定装置の処理速度などの条件を考慮して設定できるようにすることも可能である。
上記では、測定ユニット10における処理を、図3および図4に示したフローチャートの各ステップを実行する命令を有する観測用のプログラム17として提供し、パーソナルコンピュータのハードウェアリソースを用いて実行する例を説明しており、このプログラム製品はCD−ROMなどの適当な記録媒体に記録して提供したり、インターネットなどのコンピュータネットワークを介して提供できる。測定ユニットは、さらに、各ステップを実行するハードウェアロジックを備えたデータ処理装置として提供することも可能であり、さらに処理速度を向上できるので、オンラインあるいはオンタイムでの観測と測定に適した測定ユニットを提供できる。
このように、上記の観測方法は、断続的に液滴が撮像または撮影され、得られた画像毎に、それらの画像に含まれる液滴の同一性を確認するプロセスを設けるようにしている。すなわち、上記の観測方法は、ノズルから吐出された液滴の画像を第1の時間間隔をおいて断続的に取得する画像取得工程と、時間的に前後に得られた第1の画像と第2の画像の間で、それら第1および第2の画像に含まれる液滴の同一性を判断する認識工程とを有する。また、上記の観測装置は、ノズルから吐出された液滴の画像を第1の時間間隔をおいて断続的に取得する画像取得手段と、時間的に前後に得られた第1の画像と第2の画像の間で、それら第1および第2の画像に含まれる液滴の同一性を判断する認識手段とを有する。さらに、上記の観測用のプログラム(プログラム製品)は、ノズルから吐出された液滴の画像を第1の時間間隔をおいて断続的に取得する工程と、時間的に前後に得られた第1の画像と第2の画像の間で、それら第1および第2の画像に含まれる液滴の同一性を判断する認識工程とをコンピュータで実行可能な命令を有する。このプログラムにより、汎用のコンピュータのリソースを用いて観測装置を構成することが可能であり、このプログラムはCD−ROMやROMなどの記録媒体に記録して提供したり、インターネットなどのコンピュータネットワークを介して提供できる。
液滴が飛翔している間を、適当な時間を置いて撮影した断続的な画像は、液滴が飛翔している途中の状態が画像毎に固定しているために、液滴が飛翔している状態を把握しやすい。したがって、液滴の特定の部分が通過している位置をバックグラウンドの目標と比較することが可能であり、液滴の速度や方向を精度良く取得することができる。しかしながら、速度などの測定を開始する始めの画像と終わりの画像で、観測している液滴が同一でなければ、速度や方向の測定は意味がない。そこで、上記においては、時間的に前後に得られた第1の画像と第2の画像の間で、それら第1および第2の画像に含まれる液滴の同一性を判断することにより、速度などの測定を開始する始めの画像と終わりの画像との間で、観測している液滴が同一であることを保証する。
すなわち、上記の観測方法および観測装置においては、時間的に前後に得られた第1および第2の画像に含まれた液滴が同一であることを判断し、液滴が同一であると判断された第2の画像を、それに続く画像に対して第1の画像とすることにより、後続の画像に含まれる液滴の同一性を次々に判断することが可能となる。したがって、上記の観測方法および観測装置においては、液滴の飛翔方向を制御したり、液滴の飛翔方向に対する外乱の影響を除かなくても、測定を行う最初の画像に含まれる液滴と、最後の画像に含まれる液滴とが同一であることを保証できる。
したがって、上記の観測方法および観測装置により、ノズルから吐出された液滴の実際の飛翔状態を観測したり、液滴の速度や方向を測定することができる。さらに、複数の液滴が吐出される状況であっても、いずれか1つの液滴に着目して前後の画像に含まれる液滴が同一であることを判断できる。したがって、複数の液滴が交差したり、非常に接近した位置を通過する可能性がある条件であっても、測定の最初と最後で捉えた液滴が目的の液滴であることを保証でき、液滴の飛翔状況に関わらず、確実に目的の液滴の状態を観測でき、また、速度などの物性値を測定することができる。また、画像取得工程または手段において、1または複数のノズルから吐出された複数の液滴を含む画像を第1の時間間隔をおいて断続的に取得する場合は、認識工程または手段において、第1および第2の画像に含まれる複数の液滴の内、指定された1または複数の液滴について同一性を判断し、指定された1または複数の液滴を自動追尾することができる。
さらに、前後に得られた画像に含まれる液滴の同一性を判断することにより、測定の途中あるいは最後の画像に含まれる液滴の位置はある程度限定される。したがって、画像にゴミや欠損などによる液滴と判断する可能性のあるノイズ成分が存在したとしても、他の液滴と同様にノイズ成分と目的とする液滴との分離は容易である。特に、ノイズ成分は移動しないので、時間的に前後する画像から位置変化のない像をノイズとして判断することが可能であり、その点でも目的とする液滴との分離は容易であり、短時間で、負荷の少ない処理により誤認識の可能性を高い精度で排除できる。
第2の画像に初めて表れたノイズ成分は液滴と分離することが難しいケースがある。例えば、液滴の自動追尾を開始した直後においては、液滴の形状や飛翔方向を限定することが難しく、追尾対象の液滴に対してノイズとなる成分が表れたときに、形状、飛翔方向などを参照しても分離できない可能性がある。このため、認識工程または手段において、時間的に第2の画像の後に得られた第3の画像を利用して第1の画像に含まれた液滴と第2の画像に含まれた液滴との同一性を判断する工程あるいは手段を設けておくことが望ましい。時間的に移動しないノイズ成分は、第3の画像を参照することにより第2の画像の液滴の候補から削除することができる。また、ノイズ成分がなんらかの要因により飛翔方向が大きく変わった他の液滴であれば、第3の画像において、第1の画像の液滴の位置から算出された飛翔距離の範囲あるいは検索エリアに含まれない可能性が高い。したがって、そのようなノイズ成分も第3の画像を参照することにより第2の画像の液滴の候補から削除できる。
さらに、時間的に前後する画像の間で、それらに含まれる液滴の同一性を判断することにより、飛翔中に形状あるいは状態が変化する液滴の同一性も確実に判断できる。すなわち、測定の最初と最後で液滴の形状が異なっていると、液滴の進行方向を制御したとしてもその同一性を判断することは難しくなる。しかしながら、飛翔中に形状が変化したり、液滴が2つに分離したり状態が変化するとしても、その変化は時間的に前後する画像の間では微少であり、適当な判断基準により自動的に液滴の同一性あるいは類似性を判断することは可能である。したがって、上記によれば、測定の最初と最後で形状が大きく異なっていても、同一の液滴を測定していることは保証できる。たとえば、時間的に前後する画像では、同一の液滴であれば、画像に映された外周形状、面積、濃度および縦横方向の長さの変化は少ないので、これらの測定値の偏差が小さい液滴を同一と判断して追跡することができる。
液滴の吐出方法が決まれば、液滴の飛翔速度は限定された範囲に収まる。たとえば、アクチュエータによりノズルから液滴を吐出させるインクジェット方式においては、液滴の速度範囲は0.5〜20m/sである。したがって、第1の画像における目的の液滴の位置から、断続的に撮影または撮像するインターバル(第1の時間間隔)の最大飛翔距離を含む小エリアを第2の画像に設定し、その小エリア内の液滴の有無を確認することにより、第1の画像に含まれた液滴と第2の画像に含まれた液滴の同一性を確認できる。このため、認識工程または認識手段は、第2の画像中に、第1の画像の液滴の位置から第1の時間間隔における液滴の最大飛翔距離の範囲を含む検索エリアを設定するエリア設定工程またはエリア設定手段と、その検索エリア内の液滴の有無を判断する液滴検出工程または液滴検出手段とを設けることが望ましい。この判断方法は、画像全体をサーチするのではなく、小さな検索エリアをサーチすることにより観測対象の液滴の同一性を判断できるので、処理時間を短縮でき、また、検索エリアの外にある他の液滴の像やノイズ成分の影響も排除できる。画像の複数の液滴を自動追尾するのであれば、液滴毎に複数の検索エリアを設定することが可能である。
エリア設定工程またはエリア設定手段においては、第1の画像の液滴の飛翔方向に検索エリアを設定することにより、検索エリアをさらに限定することが可能となり、処理時間をいっそう短縮でき、また、検索エリアの外にある他の液滴の像やノイズ成分の影響もいっそう排除しやすい。さらに、液滴が任意の方向に飛翔しても、次の画像に目的とする液滴が含まれていれば、確実に同一の液滴を認識することができる。液滴の飛翔方向は、前後する2つの画像の液滴の位置から得ることができる。さらに、液滴の飛翔方向が判明すれば、同一の検索エリアに複数の液滴が含まれていたり、ノイズ成分が含まれていても、液滴の飛翔方向から、他の液滴およびノイズ成分を除去することができる。
また、前後する画像に含まれる液滴の画像が全く同一であるとは限らない。むしろ、上記の観測方法および装置は、飛翔中の形状や状況が変化する液滴を観測するのに適していることは上述した通りである。したがって、観測方法および装置は、検索エリア内の液滴の候補が、第1の画像の液滴に類似するか否かを判断する類似判断工程または類似判断手段を備えていることが望ましい。液滴の候補の外周形状、面積、濃度、縦横長さおよび位置(位置変化)の少なくともいずれかの情報を用いて類似判断することが可能であり、この段階でノイズも除去できる。さらに、前後する画像に含まれる液滴の画像が全く同一でなくても、類似の範囲であれば同一であると判断することにより、形状や状態が変化する液滴であっても同一の液滴を確実にトレースすることが可能となる。
類似判断と共に、あるいは類似判断は行なわずに、液滴の観測の障害となる他の液滴を検出し、そのような他の液滴が検出された場合は、観測を停止して、他の液滴の影響を排除することができる。そのため、認識工程には、第2の画像中の、検索エリアの飛翔方向に、検索エリアの飛翔方向の端から第1の時間間隔における液滴の最大飛翔距離の範囲を含むノイズ検索エリアを設定する工程と、ノイズ検索エリア内に液滴の候補があると観測を中止する工程とを設けておくことが有効である。また、観測装置の認識手段は、第2の画像中の、検索エリアの飛翔方向に、検索エリアの飛翔方向の端から第1の時間間隔における液滴の最大飛翔距離の範囲を含むノイズ検索エリアを設定する手段と、ノイズ検索エリア内に液滴の候補があると観測を中止する手段とを備えていることが有効である。
ノイズ検索エリアは、液滴の最大飛翔距離のさらに外側のエリアであり、観測対象の液滴が含まれることはなく、ノイズ検索エリア内の液滴の候補は、追尾していない液滴である。さらに、ノイズ検索エリアは検索エリアの飛翔方向の前方なので、観測対象の液滴が次のタイミングで飛翔する可能性が高く、次のタイミングでは検索エリアにおいて液滴の候補として認識されるか、あるいは、最悪の場合、次のタイミングで追尾している液滴と追尾していない液滴が合体した状態で検索エリアにおいて液滴の候補として認識される。類似判断で液滴が区別されれば良いが、区別できないときはエラーとなり、また、類似判断を誤ると、誤った観測結果が得られる。また、液滴同士が一体になってしまったときも誤った観測結果が得られる。したがって、誤った観測結果が得られる蓋然性が非常に高いため、観測を停止することにより、それまでの観測結果の精度を維持できるようにしている。
類似判断と共に、あるいは類似判断とは別に、画像からノイズと分かっている成分を除去しておくことは有効である。液滴を観測する上記の観測方法において、画像上の液滴以外の情報は基本的に全てノイズであると考えると、画像取得工程の前に、ノズルから液滴を吐出する前の参照画像を取得する工程を設け、さらに、認識工程の前に、第2の画像から参照画像と共通するノイズ成分を除去する工程を設けることが有効である。また、観測装置は、画像取得手段により、ノズルから液滴を吐出する前の参照画像を取得し、第2の画像から参照画像と共通するノイズ成分を除去する手段をさらに有することが有効である。
液滴の観測装置においては、認識手段の認識結果に基づき第1の時間間隔を制御する手段を設けることにより、画像を取得する間隔を変更することが可能である。
上記の観測方法および観測装置においては、断続的に得られる前後の画像に含まれる液滴の同一性を次々と確認することにより、測定の最初の画像に含まれる液滴と最後の画像に含まれる液滴が同一であることを保証できるようにしている。したがって、上記により、ノズルから吐出された液滴の速度などの物性値を自動的に測定する際に、測定対象の液滴の進行方向を制限したり、実機では影響を及ぼすはずの外乱の影響を避けたりすることなく、液滴の飛翔状態を観測し、種々の物性値を測定することができる。このため、上記により、より現実的な条件で、液滴の飛翔状態を観測することができ、ノズルを有するヘッドの性能検査結果、および研究段階でのヘッドの液とのマッチングなどの評価結果を、より高い精度で得ることが可能となる。