JP7374388B1 - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP7374388B1
JP7374388B1 JP2023529877A JP2023529877A JP7374388B1 JP 7374388 B1 JP7374388 B1 JP 7374388B1 JP 2023529877 A JP2023529877 A JP 2023529877A JP 2023529877 A JP2023529877 A JP 2023529877A JP 7374388 B1 JP7374388 B1 JP 7374388B1
Authority
JP
Japan
Prior art keywords
image
template
target
next data
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023529877A
Other languages
English (en)
Inventor
昌弘 出口
治 遠山
昂輝 井川
亮 岡部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP7374388B1 publication Critical patent/JP7374388B1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

位置特定部(14)は、カメラ(13)によって撮影領域が撮影されて得られた対象物(17)の画像データを対象画像として、対象画像から、複数のテンプレート画像から選択されたテンプレート画像である対象テンプレートに対応する位置を特定する。ずれ量計算部(15)は、過去に特定された位置から、次に得られる対象物(17)の画像データである次データの基準位置が想定位置に対してずれる想定ずれ量を計算する。位置特定部(14)は、想定ずれ量に応じて、複数のテンプレート画像から、次データを対象画像とする場合における対象テンプレートを選択する。

Description

本開示は、画像処理により対象物の位置を特定する技術に関する。
工作機械等において、対象物の位置に機器の位置を合わせる位置合わせが行われる。この位置合わせには、カメラによって得られた対象物の画像データが用いられる。この際、対象物の画像データの特徴点の位置を特定することにより、位置合わせが行われる。この方法では、特徴点にゴミ等が写り込んでしまった場合には、位置合わせができなくなってしまう。
複数の特徴点を用いて位置合わせをする方法が提案されている(特許文献1及び特許文献2参照)。これにより、一部の特徴点にゴミ等が写り込んでしまった場合にも、他の特徴点を用いて位置合わせを行うことが可能になる。
国際公開第2018/042580号 特開2003-187225号公報
従来の複数の特徴点を用いて位置合わせをする方法では、ある特徴点による位置合わせが失敗すると、他の特徴点により位置合わせを再度行うことが繰り返される。あるいは、複数の特徴点を同時に用いて位置合わせが行われる。そのため、位置合わせに時間がかかってしまう可能性がある。その結果、位置合わせに関して時間的な要求がある場合には、要求を満たせなくなる可能性がある。
本開示は、位置合わせにかかる時間が長くなることを防止可能にすることを目的とする。
本開示に係る画像処理装置は、
カメラによって撮影領域が撮影されて得られた対象物の画像データを対象画像として、前記対象画像から、複数のテンプレート画像から選択されたテンプレート画像である対象テンプレートに対応する位置を特定する位置特定部と、
前記位置特定部によって過去に特定された位置から、次に得られる前記対象物の画像データである次データの基準位置が想定位置に対してずれる想定ずれ量を計算するずれ量計算部と
を備え、
前記位置特定部は、前記ずれ量計算部によって計算された前記想定ずれ量に応じて、前記複数のテンプレート画像から、前記次データを前記対象画像とする場合における前記対象テンプレートを選択する。
本開示では、想定ずれ量に応じたテンプレート画像を用いて位置を特定する。これにより、1つのテンプレート画像により、1度の処理で位置合わせができる可能性が高くなる。その結果、位置合わせにかかる時間が長くなることが防止される。
実施の形態1に係る画像処理装置10の構成図。 実施の形態1に係る位置特定部14のハードウェア構成図。 実施の形態1に係るずれ量計算部15及びモーションコントロール部16のハードウェア構成図。 実施の形態1に係る対象物17の例の説明図。 実施の形態1に係るテンプレート画像18の説明図。 実施の形態1に係るテンプレート選択情報20の説明図。 実施の形態1に係る対象物17の画像データ51の説明図。 実施の形態1に係る対象物17の画像データ51の説明図。 実施の形態1に係る画像処理装置10の全体的な処理のフローチャート。 実施の形態1に係る位置特定部14の処理のフローチャート。 実施の形態1に係るずれ量計算部15の処理のフローチャート。 実施の形態2に係る対象物17の画像データ51の説明図。 実施の形態2に係る位置特定部14の処理のフローチャート。 実施の形態3に係る位置特定部14の処理のフローチャート。 実施の形態3に係るずれ量計算部15の処理のフローチャート。 実施の形態3に係る位置履歴情報61の説明図。 実施の形態4に係る位置特定部14の処理のフローチャート。 実施の形態4に係る補完処理の説明図。
実施の形態1.
***構成の説明***
図1を参照して、実施の形態1に係る画像処理装置10の構成を説明する。
画像処理装置10は、XYステージ11と、モータ12と、カメラ13と、位置特定部14と、ずれ量計算部15と、モーションコントロール部16とを備える。
XYステージ11は、対象物17を設置するための装置である。モータ12は、XYステージ11の位置を移動させる装置である。カメラ13は、XYステージ11に設置された対象物17を撮影する装置である。位置特定部14は、対象物17の位置を特定するコンピュータである。ずれ量計算部15は、想定位置からの対象物17の位置のずれ量を計算するコンピュータである。モーションコントロール部16は、ずれ量に基づきモータ12を制御するコンピュータである。
図2を参照して、実施の形態1に係る位置特定部14のハードウェア構成を説明する。
位置特定部14は、CPU21と、ROM22と、RAM23と、ストレージ24と、カメラIF25と、外部IF26とを備える。CPUは、Central Processing Unitの略である。ROMは、Read Only Memoryの略である。RAMは、Random Access Memoryの略である。IFは、InterFaceの略である。
図3を参照して、実施の形態1に係るずれ量計算部15及びモーションコントロール部16のハードウェア構成を説明する。
ずれ量計算部15及びモーションコントロール部16は、CPU21と、ROM22と、RAM23と、ストレージ24と、外部IF26とを備える。
ストレージ24は、HDD等の記憶装置である。ストレージ24は、SD(登録商標)メモリカード、CompactFlash(登録商標)、NANDフラッシュ、フレキシブルディスク、光ディスク、コンパクトディスク、Blu-ray(登録商標)ディスク、DVDといった可搬記録媒体であってもよい。SDは、Secure Digitalの略である。DVDは、Digital Versatile Diskの略である。
カメラIF25は、カメラ13を接続するためのインタフェースである。カメラIF25は、具体例としては、USBのポートである。USBは、Universal Serial Busの略である。
外部IF26は、他の装置を接続するためのインタフェースである。外部IF26は、具体例としては、USB又はEthernet(登録商標)のポートである。
図1では、位置特定部14とずれ量計算部15とモーションコントロール部16とが別の装置とされた。しかし、位置特定部14とずれ量計算部15とモーションコントロール部16とのうち2つ以上を1つの装置により実現することも可能である。位置特定部14とずれ量計算部15とモーションコントロール部16とのうちの少なくともいずれかを、さらに分離して複数の装置として実現することも可能である。
***動作の説明***
図4から図11を参照して、実施の形態1に係る画像処理装置10の動作を説明する。
実施の形態1に係る画像処理装置10の動作手順は、実施の形態1に係る画像処理方法に相当する。また、実施の形態1に係る画像処理装置10の動作を実現するプログラムは、実施の形態1に係る画像処理プログラムに相当する。
図4を参照して、実施の形態1に係る対象物17の例を説明する。
実施の形態1では、対象物17の例として、図4に示すようにプリント基板を用いる。対象物17には、複数の特徴がある。図4では、特徴として、穴31と、実装済みの小チップ32と、実装済みの大チップ33と、未実装パターン34と、シルク印刷文字35とが示されている。
図5を参照して、実施の形態1に係るテンプレート画像18を説明する。
図5に示すテンプレート画像18は、図4に示す対象物17に対応している。テンプレート画像18は、対象物17における複数の特徴それぞれに対応して設けられる。なお、テンプレート画像18は、対象物17における全ての特徴に対応して設けられる必要はない。テンプレート画像18は、特徴を表す画像データである。例えば、テンプレート画像18は、対象物17を撮影して得られた画像データにおける特徴付近の部分画像である。
図5では、テンプレート画像18Aからテンプレート画像18Dの4つのテンプレート画像が示されている。テンプレート画像18Aは、穴31に対応する。テンプレート画像18Bは、大チップ33に対応する。テンプレート画像18Cは、未実装パターン34に対応する。テンプレート画像18Dは、シルク印刷文字35に対応する。
テンプレート画像18は、対象物17における対応位置19が設定されている。対応位置19は、対象物17の基準位置41が想定位置42にある場合における、テンプレート画像18の指定位置の座標値である。実施の形態1では、指定位置は、テンプレート画像18の左下の位置である。
図5では、テンプレート画像18Aには、対応位置19Aが設定されている。テンプレート画像18Bには、対応位置19Bが設定されている。テンプレート画像18Cには、対応位置19Cが設定されている。テンプレート画像18Dには、対応位置19Dが設定されている。
図6を参照して、実施の形態1に係るテンプレート選択情報20を説明する。
テンプレート選択情報20は、複数のテンプレート画像18から使用するテンプレート画像18を選択する際に使用される情報である。テンプレート選択情報20は、位置特定部14に記憶される。
テンプレート選択情報20は、テンプレート画像18毎に、対応位置19を示す座標値と、選択優先度とを含む。選択優先度は、選択候補として複数のテンプレート画像18が存在する場合に、どのテンプレート画像18を優先して選択するかを示す。なお、図6では、選択優先度の値が大きいほど、優先して選択されるものとする。
図7及び図8を参照して、実施の形態1に係る対象物17の画像データ51を説明する。
画像データ51は、XYステージ11に設置された対象物17をカメラ13によって撮影されて得られる。XYステージ11に対象物17が設置された位置と、XYステージ11の配置とによって、対象物17が撮影される領域が変化する。
図7は、基準位置41が想定位置42にある場合に得られた画像データ51を示す。基準位置41が想定位置42にある場合に得られた画像データ51は、対象物17全体が撮影されている。
図8は、基準位置41が想定位置42からずれた場合に得られた画像データ51を示す。図8では、基準位置41が想定位置42からずれたずれ位置43にある。基準位置41が想定位置42からずれたため、画像データ51には対象物17の一部52が撮影されていない。図8では、画像データ51には、対象物17における一部の特徴が写っていない状態である。具体的には、画像データ51には、穴31と小チップ32と大チップ33とは写っているが、未実装パターン34とシルク印刷文字35とが写っていない状態である。
図9を参照して、実施の形態1に係る画像処理装置10の全体的な処理を説明する。
(ステップS101:ワーク判定処理)
XYステージ11は、対象物17が設置されたか否かを判定する。XYステージ11に対象物17が設置されたか否かは、XYステージ11に設けられたセンサ等を用いて判定される。
XYステージ11は、対象物17が設置された場合には、処理をステップS102に進める。一方、位置特定部14は、対象物17が設置されていない場合には、一定時間経過後、再びステップS101の処理を実行する。
(ステップS102:撮影処理)
カメラ13は、撮影領域を撮影することにより、XYステージ11に設置された対象物17の画像データ51を得る。
(ステップS103:画像送信処理)
カメラ13は、ステップS102で得られた対象物17の画像データ51を、撮影時刻とともに、位置特定部14に送信する。実施の形態1では、カメラ13は、通し番号を付与した複数のUDPデータグラムにより、画像データ51を位置特定部14に送信する。UDPは、User Datagram Protocolの略である。
(ステップS104:位置特定処理)
位置特定部14は、ステップS103で送信された対象物17の画像データ51を対象画像に設定する。位置特定部14は、対象画像から、複数のテンプレート画像18から選択されたテンプレート画像18である対象テンプレートに対応する位置を特定する。
ここで、位置特定部14は、後述するステップS107が前回実行された際に送信された想定ずれ量に応じて、複数のテンプレート画像から、対象画像についての対象テンプレートを選択する。
(ステップS105:位置送信処理)
位置特定部14は、ステップS104で特定された位置を、ステップS103で送信された撮影時刻とともに、ずれ量計算部15に送信する。
(ステップS106:ずれ量計算処理)
ずれ量計算部15は、ステップS105で送信された位置から、基準位置41が想定位置42に対してずれている現在ずれ量を計算する。また、ずれ量計算部15は、次にステップS102で得られる対象物17の画像データ51である次データの基準位置41が想定位置42に対してずれると想定される想定ずれ量を計算する。
(ステップS107:ずれ量送信処理)
ずれ量計算部15は、ステップS106で計算された現在ずれ量を、XYステージ11の位置を補正する補正量として、モーションコントロール部16に送信する。また、ずれ量計算部15は、ステップS106で計算された想定ずれ量を、次の撮影時刻とともに、位置特定部14に送信する。
(ステップS108:補正処理)
モーションコントロール部16は、ステップS107で送信された現在ずれ量に基づきモータ12を操作して、XYステージ11の位置を補正する。つまり、モーションコントロール部16は、撮影時刻において基準位置41が想定位置42からずれていた分だけ、基準位置41が想定位置42に近づくようにXYステージ11を移動させる。
(ステップS109:終了判定処理)
XYステージ11は、現在の対象物17に対する処理が終了したか否かを判定する。例えば、対象物17が取り除かれたことがセンサにより検知された場合に、処理が終了したと判定する。
XYステージ11は、現在の対象物17に対する処理が終了した場合には、処理をステップS101に戻す。一方、XYステージ11は、現在の対象物17に対する処理が終了していない場合には、処理をステップS102に戻す。
図10を参照して、実施の形態1に係る位置特定部14の処理を説明する。
位置特定部14の処理は、図9のステップS104及びステップS105の処理である。
(ステップS201:画像受信判定処理)
位置特定部14は、画像データ51及び撮影時刻をカメラ13から受信したか否かを判定する。
位置特定部14は、受信した場合には、処理をステップS202に進める。一方、位置特定部14は、受信していない場合には、一定時間経過後、再びステップS201を実行する。
(ステップS202:ずれ量受信判定処理)
位置特定部14は、受信した撮影時刻に対応する想定ずれ量をずれ量計算部15から受信したか否かを判定する。
位置特定部14は、受信した場合には、処理をステップS203に進める。一方、位置特定部14は、受信していない場合には、処理をステップS204に進める。
(ステップS203:第1選択処理)
位置特定部14は、画像データ51の撮影時刻に対応する想定ずれ量に応じて、複数のテンプレート画像18から、受信した画像データ51を対象画像とする場合における対象テンプレートを選択する。
具体的には、位置特定部14は、複数のテンプレート画像18のうち、想定ずれ量だけ対象画像の基準位置が想定位置に対してずれた場合に、対象画像に写る特徴に対応する1つ以上のテンプレート画像を選択候補に設定する。この際、位置特定部14は、想定ずれ量から対象物17における対象画像に写る範囲を計算する。そして、位置特定部14は、各テンプレート画像18について、そのテンプレート画像18の対応位置19が写る範囲に含まれる場合には、そのテンプレート画像18に対応する特徴が対象画像に写ると判定して、そのテンプレート画像18を選択候補に設定する。言い換えると、位置特定部14は、対象画像に写る座標値の範囲を計算する。そして、位置特定部14は、対象画像に写る座標値の範囲にテンプレート選択情報20における座標値が含まれるテンプレート画像18を選択候補に設定する。
位置特定部14は、選択候補のうち、テンプレート選択情報20における選択優先度が最も高いテンプレート画像18を、対象画像についての対象テンプレートとして選択する。
例えば、図8の例では、画像データ51には、穴31と小チップ32と大チップ33とは写っているが、未実装パターン34とシルク印刷文字35とが写っていない状態である。つまり、画像データ51には、穴31に対応する対応位置19Aと、大チップ33に対応する対応位置19Bとは含まれる。しかし、画像データ51には、未実装パターン34に対応する対応位置19Cと、シルク印刷文字35に対応する対応位置19Dとは含まれない。
そのため、位置特定部14は、穴31に対応するテンプレート画像18Aと、大チップ33に対応するテンプレート画像18Bとを選択候補に設定する。そして、位置特定部14は、優先度が最も高い、穴31に対応するテンプレート画像18Aを対象テンプレートとして選択する。
(ステップS204:第2選択処理)
位置特定部14は、全てのテンプレート画像18を選択候補に設定する。そして、位置特定部14は、選択候補のうち、テンプレート選択情報20における選択優先度が最も高いテンプレート画像18を、対象画像についての対象テンプレートとして選択する。
(ステップS205:マッチング処理)
位置特定部14は、対象画像から、ステップS203又はステップS204の処理で選択された対象テンプレートに対応する位置を特定する。
具体的には、位置特定部14は、テンプレートマッチングを行うことにより、対象画像における対象テンプレートに対応する領域を特定する。そして、位置特定部14は、特定された領域の指定位置を、対象テンプレートに対応する位置として特定する。実施の形態1では、位置特定部14は、特定された領域の左下の位置を、対象テンプレートに対応する位置として特定する。
(ステップS206:位置送信処理)
位置特定部14は、ステップS205で特定された位置を、ステップS103で送信された撮影時刻とともに、ずれ量計算部15に送信する。
(ステップS207:終了判定処理)
位置特定部14は、終了の指示がなければ、処理をステップS201に戻して次の画像データ51の受信を待つ。一方、位置特定部14は、終了の指示があった場合には、処理を終了する。
図11を参照して、実施の形態1に係るずれ量計算部15の処理を説明する。
ずれ量計算部15の処理は、図9のステップS106及びステップS107の処理である。
(ステップS301:位置受信判定処理)
ずれ量計算部15は、位置及び撮影時刻を位置特定部14から受信したか否かを判定する。
ずれ量計算部15は、受信した場合には、処理をステップS302に進める。一方、ずれ量計算部15は、受信していない場合には、一定時間経過後、再びステップS301を実行する。
(ステップS302:現在ずれ量計算処理)
ずれ量計算部15は、ステップS105で送信された位置から、基準位置41が想定位置42に対してずれている現在ずれ量を計算する。
具体的には、ずれ量計算部15は、対象テンプレートの対応位置19に対するステップS105で送信された位置のずれ量を現在ずれ量として計算する。つまり、対象テンプレートの対応位置19の座標から、ステップS105で送信された位置の座標へのベクトルが現在ずれ量である。
(ステップS303:想定ずれ量計算処理)
ずれ量計算部15は、次にステップS102で得られる対象物17の画像データ51である次データの基準位置41が想定位置42に対してずれると想定される想定ずれ量を計算する。ステップS102が一定時間毎に実行されて新たに撮影が行われるのであれば、一定時間後に想定されるずれ量が想定ずれ量である。
具体的には、ずれ量計算部15は、位置特定部14によって過去に特定された位置から想定ずれ量を計算する。より正確には、ずれ量計算部15は、過去に特定された位置に基づきステップS302で計算された現在ずれ量から、想定ずれ量を計算する。例えば、ずれ量計算部15は、過去に計算された現在ずれ量から減衰振動モデルを作成して、想定ずれ量を計算する。
(ステップS304:ずれ量送信処理)
ずれ量計算部15は、ステップS302で計算された現在ずれ量を、XYステージ11の位置を補正する補正量として、モーションコントロール部16に送信する。また、ずれ量計算部15は、ステップS303で計算された想定ずれ量を、次の撮影時刻とともに、位置特定部14に送信する。
(ステップS305:終了判定処理)
ずれ量計算部15は、終了の指示がなければ、処理をステップS301に戻して次の位置の受信を待つ。一方、ずれ量計算部15は、終了の指示があった場合には、処理を終了する。
***実施の形態1の効果***
以上のように、実施の形態1に係る画像処理装置10は、画像データ51において位置特定に有効なテンプレート画像を選択可能になる。そのため、テンプレートマッチングを行う際に、テンプレート画像に相当する部分画像が画像データ51に存在しないことによる位置特定の失敗を防止できる。これにより、テンプレートマッチングを行う回数を1回にできる可能性が高くなる。つまり、1つのテンプレート画像により、1度の処理で位置合わせができる可能性が高くなる。その結果、位置合わせにかかる時間が長くなることが防止される。
***他の構成***
<変形例1>
実施の形態1では、図9のステップS103でカメラ13は、画像データ51とともに撮影時刻を送信した。しかし、カメラ13は、撮影時刻に代えて、撮影のタイミングを判断可能な他の情報を送信してもよい。例えば、カメラ13は、撮影時刻に代えて、画像データ51に順に割り振られるシーケンス番号を送信してもよい。
<変形例2>
実施の形態1では、図11のステップS303で、図9のステップS102の処理が一定時間毎に実行されて新たに撮影が行われるとした。しかし、ステップS102の処理は、一定時間毎に実行されることに限らない。例えば、ステップS102の処理は、予め指定された任意のタイミングで実行されてもよい。この場合には、次回のステップS102の処理の実行タイミングを示す情報を取得できるようにしておけばよい。
<変形例3>
実施の形態1では、図9のステップS109で現在の対象物17に対する処理が終了していない場合には、処理がステップS102に戻され、次の撮影が行われた。しかし、図9のステップS109が終わる前に次の撮影が行われてもよい。つまり、ある画像データ51Xについての処理途中で、次の撮影が行われて新たな画像データ51Yが得られるようにしてもよい。この場合には、図11のステップS303でずれ量計算部15は、図9のステップS108での画像データ51Xに基づく補正量を考慮して、想定ずれ量を計算する必要がある。
<変形例4>
実施の形態1では、図10のステップS205においてテンプレートマッチングを行うことにより、位置が特定された。しかし、テンプレートマッチングに限らず、対象画像における対象テンプレートに対応する領域を特定する他のアルゴリズムを用いて、位置が特定されてもよい。
<変形例5>
実施の形態1では、各機能構成要素がソフトウェアで実現された。しかし、変形例5として、各機能構成要素はハードウェアで実現されてもよい。この変形例5について、実施の形態1と異なる点を説明する。
各機能構成要素がハードウェアで実現される場合には、位置特定部14とずれ量計算部15とモーションコントロール部16とは、CPU21と、ROM22と、RAM23と、ストレージ24とに代えて、電子回路を備える。電子回路は、各機能構成要素と、ROM22と、RAM23と、ストレージ24との機能とを実現する専用の回路である。
電子回路としては、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ロジックIC、GA、ASIC、FPGAが想定される。GAは、Gate Arrayの略である。ASICは、Application Specific Integrated Circuitの略である。FPGAは、Field-Programmable Gate Arrayの略である。
各機能構成要素を1つの電子回路で実現してもよいし、各機能構成要素を複数の電子回路に分散させて実現してもよい。
<変形例6>
変形例6として、一部の各機能構成要素がハードウェアで実現され、他の各機能構成要素がソフトウェアで実現されてもよい。
CPU21とROM22とRAM23とストレージ24と電子回路とを処理回路という。つまり、各機能構成要素の機能は、処理回路により実現される。
実施の形態2.
実施の形態2は、画像データ51におけるデータの欠損を考慮して対象テンプレートを選択する点が実施の形態1と異なる。実施の形態2では、この異なる点を説明し、同一の点については説明を省略する。
図12を参照して、実施の形態2に係る対象物17の画像データ51を説明する。
図12に示す画像データ51は、データの一部が欠損している欠損領域44がある点が図8に示す画像データ51と異なる。
実施の形態1と同様に、カメラ13は、通し番号を付与した複数のUDPデータグラムにより画像データ51を位置特定部14に送信する。UDPは通信エラー発生時の再送制御がない。そのため、外部のノイズ等の影響によりデータが欠損する場合がある。通し番号により欠損したデータを特定することができ、欠損領域44を特定することができる。
図13を参照して、実施の形態2に係る位置特定部14の処理を説明する。
ステップS401の処理は、図10のステップS201の処理と同じである。ステップS404の処理は、図10のステップS202の処理と同じである。ステップS407からステップS409の処理は、図10のステップS205からステップS207の処理と同じである。
(ステップS402:欠損判定処理)
位置特定部14は、画像データ51に欠損領域44があるか否かを判定する。
位置特定部14は、欠損領域44がある場合には、処理をステップS403に進める。一方、位置特定部14は、欠損領域44がない場合には、処理をステップ404に進める。
(ステップS403:欠損領域特定処理)
位置特定部14は、欠損領域44を特定する。
具体的には、位置特定部14は、UDPデータグラムにおける通し番号により、欠落したデータを特定する。これにより、位置特定部14は、欠落したデータに対応する部分の領域が欠損領域44であると特定する。
(ステップS405:第1選択処理)
位置特定部14は、図10のステップS203と同様に選択候補を設定する。そして、位置特定部14は、欠損領域44に写ると想定される特徴に対応するテンプレート画像18を選択候補から除外する。位置特定部14は、選択候補のうち、テンプレート選択情報20における選択優先度が最も高いテンプレート画像18を、対象画像についての対象テンプレートとして選択する。
例えば、図12の例では、穴31が欠損領域44に含まれており、画像データ51には、小チップ32と大チップ33とだけが写っている状態である。そのため、位置特定部14は、大チップ33に対応するテンプレート画像18Bを選択候補に設定する。そして、位置特定部14は、テンプレート画像18Bを対象テンプレートとして選択する。
(ステップS406:第2選択処理)
位置特定部14は、欠損領域44に写ると想定される特徴に対応するテンプレート画像18以外の1つ以上のテンプレート画像を選択候補に設定する。位置特定部14は、選択候補のうち、テンプレート選択情報20における選択優先度が最も高いテンプレート画像18を、対象画像についての対象テンプレートとして選択する。
***実施の形態2の効果***
以上のように、実施の形態2に係る画像処理装置10は、画像データ51における欠損領域44を考慮して対象テンプレートを選択する。これにより、画像データ51において位置特定に有効なテンプレート画像をより正確に選択可能になる。
実施の形態3.
実施の形態3は、画像データ51に欠損領域44がある場合に、画像データ51の再送をカメラ13に対して要求して、画像データ51の現在ずれ量を特定し直す点が実施の形態2と異なる。実施の形態3では、この異なる点を説明して、同一の点については説明を省略する。
図14を参照して、実施の形態3に係る位置特定部14の処理を説明する。
ステップS501からステップS502の処理は、図13のステップS401からステップS402の処理と同じである。ステップS504からステップS510の処理は、図12のステップS403からステップS409の処理と同じである。
(ステップS503:再送要求処理)
位置特定部14は、欠損領域44があった画像データ51の再送をカメラ13に対して要求する。
すると、カメラ13から画像データ51が再送される。この際、画像データ51とともに送信される撮影時刻は、現在処理中の画像データ51と同じ時刻であり、現在処理中の画像データ51と再送された画像データ51とが同じタイミングで得られた画像データ51であることが特定可能になっている。再送された画像データ51については、別途図14に示す処理が実行される。一方、現在処理中の画像データ51については、このまま処理が継続される。
図15を参照して、実施の形態3に係るずれ量計算部15の処理を説明する。
ステップS601の処理は、図11のステップS301の処理と同じである。ステップS604からステップS606の処理は、図11のステップS303からステップS305の処理と同じである。
(ステップS602:過去情報判定処理)
ずれ量計算部15は、ステップS601で受信した位置及び撮影時刻が、過去に処理済の画像データ51に対応する情報であるか否かを判定する。つまり、ずれ量計算部15は、ステップS601で受信した位置が、再送された画像データ51に基づき特定された位置であるか否かを判定する。この判定は、撮影時刻に基づき行うことができる。変形例1のように、撮影時刻に代えてシーケンス番号を用いた場合には、この判定は、シーケンス番号に基づき行うことができる。
ずれ量計算部15は、過去に処理済の情報、つまり再送された画像データ51に基づき特定された位置等でない場合には、処理をステップS603に進める。一方、ずれ量計算部15は、過去に処理済の情報である場合には、処理をステップS607に進める。
(ステップS603:現在ずれ量計算処理)
ずれ量計算部15は、ステップS105で送信された位置から、基準位置41が想定位置42に対してずれている現在ずれ量を計算する。ずれ量計算部15は、現在ずれ量を、位置履歴情報61に書き込む。図16に示すように、位置履歴情報61は、想定位置42が現在ずれ量だけずれた位置の座標である。
(ステップS607:情報更新処理)
ずれ量計算部15は、ステップS105で送信された位置から、基準位置41が想定位置42に対してずれている現在ずれ量を計算する。そして、ずれ量計算部15は、現在ずれ量を、位置履歴情報61に書き込む。この際、ずれ量計算部15は、同じ撮影時刻が設定されたレコードの座標を、上書きする。
なお、ステップS604では、ずれ量計算部15は、位置履歴情報61を参照して、想定ずれ量を計算する。例えば、ずれ量計算部15は、位置履歴情報61が示す現在ずれ量を示す座標から減衰振動モデルを作成して、想定ずれ量を計算する。
***実施の形態3の効果***
以上のように、実施の形態3に係る画像処理装置10は、画像データ51に欠損領域44がある場合に、画像データ51の再送をカメラ13に対して要求して、画像データ51の現在ずれ量を特定し直す。欠損領域44がある場合には、選択優先度が高いテンプレート画像18を選択できず、現在ずれ量の特定精度が低くなる可能性がある。画像データ51を再送させ、現在ずれ量を特定し直すことにより、精度よく現在ずれ量を特定できる。その結果、精度よく想定ずれ量を計算可能になる。
実施の形態4.
実施の形態4は、欠損領域44を過去の画像データ51に基づき補完する点が実施の形態2と異なる。実施の形態4では、この異なる点を説明して、同一の点については説明を省略する。
図17を参照して、実施の形態4に係る位置特定部14の処理を説明する。
ステップS701からステップS704の処理は、図13のステップS401からステップS404の処理と同じである。ステップS706からステップS710の処理は、図13のステップS405からステップS409の処理と同じである。
(ステップS705:補完処理)
ずれ量計算部15は、画像データ51に欠損領域44がある場合には、過去の画像データ51を用いて欠損領域44を補完する。例えば、図18に示すように、欠損領域44のうち、対象物17部分を過去の画像データ51を用いて補完する。補完アルゴリズムについては既存の技術を用いればよい。
なお、ステップS706で位置特定部14は、欠損領域44を考慮せずに対象テンプレートを選択してもよい。つまり、位置特定部14は、欠損領域44に写ると想定される特徴に対応するテンプレート画像18を選択候補から除外する処理を行わなくてもよい。
***実施の形態4の効果***
以上のように、実施の形態4に係る画像処理装置10は、欠損領域44を過去の画像データ51に基づき補完する。これにより、テンプレートマッチングを精度よく行うことが可能になる。また、選択優先度が高いテンプレート画像18を対象テンプレートとして選択可能になる。
なお、以上の説明における「部」を、「回路」、「工程」、「手順」、「処理」又は「処理回路」に読み替えてもよい。
以上、本開示の実施の形態及び変形例について説明した。これらの実施の形態及び変形例のうち、いくつかを組み合わせて実施してもよい。また、いずれか1つ又はいくつかを部分的に実施してもよい。なお、本開示は、以上の実施の形態及び変形例に限定されるものではなく、必要に応じて種々の変更が可能である。
10 画像処理装置、11 XYステージ、12 モータ、13 カメラ、14 位置特定部、15 ずれ量計算部、16 モーションコントロール部、17 対象物、18 テンプレート画像、19 対応位置、20 テンプレート選択情報、21 CPU、22 ROM、23 RAM、24 ストレージ、25 カメラIF、26 外部IF、31 穴、32 小チップ、33 大チップ、34 未実装パターン、35 シルク印刷文字、41 基準位置、42 想定位置、43 ずれ位置、44 欠損領域、51 画像データ、61 位置履歴情報。

Claims (7)

  1. カメラによって撮影領域が撮影されて得られた対象物の画像データを対象画像として、前記対象画像から、それぞれ前記対象物の特徴に対応した複数のテンプレート画像から選択されたテンプレート画像である対象テンプレートに対応する位置を特定する位置特定部と、
    前記位置特定部によって過去に特定された位置から、次に得られる前記対象物の画像データである次データの基準位置が想定位置に対してずれると想定される想定ずれ量を計算するずれ量計算部と
    を備え、
    前記位置特定部は、前記ずれ量計算部によって計算された前記想定ずれ量に応じて前記複数のテンプレート画像から前記次データを前記対象画像とする場合における前記対象テンプレートを選択するとともに、前記次データが得られると、前記次データにおいて欠損している欠損領域を特定し、前記欠損領域に写ると想定される特徴に対応する前記対象物についてのテンプレート画像を除外したテンプレート画像から、前記次データを前記対象画像とする場合における前記対象テンプレートを選択する画像処理装置。
  2. 前記位置特定部は、前記欠損領域が特定された場合には、前記次データの再送を前記カメラに対して要求し、前記欠損領域が特定された再送前の前記次データに加えて、再送された前記次データである再送データを前記対象画像として位置を特定し、
    前記ずれ量計算部は、前記次データが撮影された時点における位置として、前記再送デ
    ータを前記対象画像として特定された位置を用いて、前記想定ずれ量を計算する
    請求項に記載の画像処理装置。
  3. カメラによって撮影領域が撮影されて得られた対象物の画像データを対象画像として、前記対象画像から、それぞれ前記対象物の特徴に対応した複数のテンプレート画像から選択されたテンプレート画像である対象テンプレートに対応する位置を特定する位置特定部と、
    前記位置特定部によって過去に特定された位置から、次に得られる前記対象物の画像データである次データの基準位置が想定位置に対してずれると想定される想定ずれ量を計算するずれ量計算部と
    を備え、
    前記位置特定部は、前記次データが得られると、前記次データにおいて欠損している欠損領域を特定し、前記欠損領域を過去に得られた前記対象物の画像データにより補完するとともに、前記複数のテンプレート画像のうち、前記ずれ量計算部によって計算された前記想定ずれ量だけ前記次データの前記基準位置が前記想定位置に対してずれた場合に前記次データに写る特徴に対応するテンプレート画像から、前記次データを前記対象画像とする場合における前記対象テンプレートを選択する画像処理装置。
  4. コンピュータが、カメラによって撮影領域が撮影されて得られた対象物の画像データを対象画像として、前記対象画像から、それぞれ前記対象物の特徴に対応した複数のテンプレート画像から選択されたテンプレート画像である対象テンプレートに対応する位置を特定し、
    コンピュータが、過去に特定された位置から、次に得られる前記対象物の画像データである次データの基準位置が想定位置に対してずれると想定される想定ずれ量を計算し、
    コンピュータが、前記想定ずれ量に応じて前記複数のテンプレート画像から前記次データを前記対象画像とする場合における前記対象テンプレートを選択するとともに、前記次データが得られると、前記次データにおいて欠損している欠損領域を特定し、前記欠損領域に写ると想定される特徴に対応する前記対象物についてのテンプレート画像を除外したテンプレート画像から、前記次データを前記対象画像とする場合における前記対象テンプレートを選択する画像処理方法。
  5. コンピュータが、カメラによって撮影領域が撮影されて得られた対象物の画像データを対象画像として、前記対象画像から、それぞれ前記対象物の特徴に対応した複数のテンプレート画像から選択されたテンプレート画像である対象テンプレートに対応する位置を特定し、
    コンピュータが、過去に特定された位置から、次に得られる前記対象物の画像データである次データの基準位置が想定位置に対してずれると想定される想定ずれ量を計算し、
    コンピュータが、前記次データが得られると、前記次データにおいて欠損している欠損領域を特定し、前記欠損領域を過去に得られた前記対象物の画像データにより補完するとともに、前記複数のテンプレート画像のうち、前記想定ずれ量だけ前記次データの前記基準位置が前記想定位置に対してずれた場合に前記次データに写る特徴に対応するテンプレート画像から、前記次データを前記対象画像とする場合における前記対象テンプレートを選択する画像処理方法。
  6. カメラによって撮影領域が撮影されて得られた対象物の画像データを対象画像として、前記対象画像から、それぞれ前記対象物の特徴に対応した複数のテンプレート画像から選択されたテンプレート画像である対象テンプレートに対応する位置を特定する位置特定処理と、
    前記位置特定処理によって過去に特定された位置から、次に得られる前記対象物の画像データである次データの基準位置が想定位置に対してずれると想定される想定ずれ量を計算するずれ量計算処理と
    を行う画像処理装置としてコンピュータを機能させ、
    前記位置特定処理では、前記ずれ量計算処理によって計算された前記想定ずれ量に応じて前記複数のテンプレート画像から前記次データを前記対象画像とする場合における前記対象テンプレートを選択するとともに、前記次データが得られると、前記次データにおいて欠損している欠損領域を特定し、前記欠損領域に写ると想定される特徴に対応する前記対象物についてのテンプレート画像を除外したテンプレート画像から、前記次データを前記対象画像とする場合における前記対象テンプレートを選択する画像処理プログラム。
  7. カメラによって撮影領域が撮影されて得られた対象物の画像データを対象画像として、前記対象画像から、それぞれ前記対象物の特徴に対応した複数のテンプレート画像から選択されたテンプレート画像である対象テンプレートに対応する位置を特定する位置特定処理と、
    前記位置特定処理によって過去に特定された位置から、次に得られる前記対象物の画像データである次データの基準位置が想定位置に対してずれると想定される想定ずれ量を計算するずれ量計算処理と
    を行う画像処理装置としてコンピュータを機能させ、
    前記位置特定処理では、前記次データが得られると、前記次データにおいて欠損している欠損領域を特定し、前記欠損領域を過去に得られた前記対象物の画像データにより補完するとともに、前記複数のテンプレート画像のうち、前記ずれ量計算処理によって計算された前記想定ずれ量だけ前記次データの前記基準位置が前記想定位置に対してずれた場合に前記次データに写る特徴に対応するテンプレート画像から、前記次データを前記対象画像とする場合における前記対象テンプレートを選択する画像処理プログラム。
JP2023529877A 2023-02-17 2023-02-17 画像処理装置、画像処理方法及び画像処理プログラム Active JP7374388B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023005668 2023-02-17

Publications (1)

Publication Number Publication Date
JP7374388B1 true JP7374388B1 (ja) 2023-11-06

Family

ID=88645821

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023529877A Active JP7374388B1 (ja) 2023-02-17 2023-02-17 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (1)

Country Link
JP (1) JP7374388B1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014160031A (ja) 2013-02-20 2014-09-04 Aisin Aw Co Ltd 走行案内システム、走行案内方法及びコンピュータプログラム
JP2021157378A (ja) 2020-03-26 2021-10-07 セイコーエプソン株式会社 撮像式エンコーダーのテンプレートマッチング方法
JP2022172637A (ja) 2021-05-06 2022-11-17 株式会社エビデント 画像処理方法、画像処理装置、およびプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014160031A (ja) 2013-02-20 2014-09-04 Aisin Aw Co Ltd 走行案内システム、走行案内方法及びコンピュータプログラム
JP2021157378A (ja) 2020-03-26 2021-10-07 セイコーエプソン株式会社 撮像式エンコーダーのテンプレートマッチング方法
JP2022172637A (ja) 2021-05-06 2022-11-17 株式会社エビデント 画像処理方法、画像処理装置、およびプログラム

Similar Documents

Publication Publication Date Title
US10040199B2 (en) Apparatus and method for determining work to be picked
JP2022541977A (ja) 画像のラベリング方法、装置、電子機器及び記憶媒体
JP7374388B1 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US20090164465A1 (en) Image search system, image search apparatus, and computer readable medium
WO2022062355A1 (zh) 一种融合定位方法及装置
WO2020202572A1 (ja) 画像処理システム、推定装置、処理方法及びプログラム
KR20150097251A (ko) 다중 영상간 대응점을 이용한 카메라 정렬 방법
JP6388507B2 (ja) 画像処理装置
WO2022252277A1 (zh) 校准om和sem坐标关系的方法和装置、设备和存储介质
US10860392B2 (en) Electronic device and image processing device
JP2017027240A (ja) ジョブ処理システム、ジョブ処理装置及びジョブ処理プログラム
CN115359116A (zh) 一种数据处理方法、装置和系统
US10298808B2 (en) Image processing apparatus, image processing method, and recording medium
JP2005116869A (ja) 基準マーク位置検出装置および基準マーク位置検出プログラム
CN110736911B (zh) 飞针测试方法、飞针测试装置、飞针测试设备及存储介质
JP2007335963A (ja) 機器設定装置及び機器設定方法及びプログラム
JP2004214247A (ja) 部品実装装置
CN114326612B (zh) 共线生产中的配方控制方法、系统及存储介质
JP2007245634A (ja) 画像形成装置
JP7374354B1 (ja) アライメントシステム、アライメント方法及びプログラム
JP2002050895A (ja) 電子部品実装データ作成方法及び装置
JP7374353B1 (ja) アライメントシステム、アライメント方法及びプログラム
JP4252365B2 (ja) 基板情報作成方法および基板情報作成装置
JP7040567B2 (ja) 制御装置、制御装置の制御方法、情報処理プログラム、および記録媒体
WO2024023976A1 (ja) アライメントシステム、アライメント方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230516

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230516

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20230516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231024

R150 Certificate of patent or registration of utility model

Ref document number: 7374388

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150