JP7084416B2 - 情報処理装置及び情報処理方法 - Google Patents

情報処理装置及び情報処理方法 Download PDF

Info

Publication number
JP7084416B2
JP7084416B2 JP2019558841A JP2019558841A JP7084416B2 JP 7084416 B2 JP7084416 B2 JP 7084416B2 JP 2019558841 A JP2019558841 A JP 2019558841A JP 2019558841 A JP2019558841 A JP 2019558841A JP 7084416 B2 JP7084416 B2 JP 7084416B2
Authority
JP
Japan
Prior art keywords
image
mounting
component
position determination
determination result
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019558841A
Other languages
English (en)
Other versions
JPWO2019116550A1 (ja
Inventor
雅史 天野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Publication of JPWO2019116550A1 publication Critical patent/JPWO2019116550A1/ja
Application granted granted Critical
Publication of JP7084416B2 publication Critical patent/JP7084416B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/08Monitoring manufacture of assemblages

Landscapes

  • Engineering & Computer Science (AREA)
  • Operations Research (AREA)
  • Manufacturing & Machinery (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Supply And Installment Of Electrical Components (AREA)

Description

本明細書では、制御装置、実装装置、情報処理装置及び情報処理方法を開示する。
従来、実装システムとしては、第1解像度の画像で部品の検査処理を行い、検査結果に虚報のある部品に対しては複数の画像から生成した高解像度な第2解像度の画像で検査処理を行う検査装置を備えたものが提案されている(例えば、特許文献1参照)。この検査装置では、処理の長時間化をより抑制すると共により正確な検査結果を得ることができる。
国際公開第2016/174727号パンフレット
ところで、実装装置においても部品を採取した際の位置決定処理において複数の画像から生成した高解像度の画像を用いることがある。このような位置決定処理において、高解像度の画像を用いると部品の位置決定精度をより高めることができるが、処理時間がより長くなる問題があった。
本明細書で開示する発明は、このような課題に鑑みなされたものであり、対象物の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる制御装置、実装装置、情報処理装置及び情報処理方法を提供することを主目的とする。
本明細書で開示する発明は、上述の主目的を達成するために以下の手段を採った。
本明細書で開示する制御装置は、
対象物を撮像する撮像部を備え部品を基板に配置する実装処理を実行する実装装置を含む実装システムに用いられる制御装置であって、
対象物を撮像した撮像画像よりも高い画質の第1画像に基づいて求められた該対象物の第1位置決定結果と、前記第1画像よりも低い画質の第2画像に基づいて求められた該対象物の第2位置決定結果とを取得し、前記第1位置決定結果と前記第2位置決定結果とに基づいて対象物の位置決定処理に用いられる画像条件を設定する制御部、
を備えたものである。
この制御装置では、撮像画像よりも高い画質の第1画像に基づいて求められた対象物の第1位置決定結果と、第1画像よりも低い画質の第2画像に基づいて求められた対象物の第2位置決定結果とを取得し、前記第1位置決定結果と前記第2位置決定結果とに基づいて対象物の位置決定処理に用いられる画像条件を設定する。即ち、この制御装置では、高画質の第1画像を用いた第1位置決定結果と低画質の第2画像を用いた第2位置決定結果とを用いるため、例えば、低画質の第2画像でも第1画像を用いた位置決定結果に近い結果が得られるか否かについて判定することができる。このため、この制御装置では、より適正な画像条件を設定可能であるから、対象物の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる。ここで「画質」とは、対象物の正しい位置決定結果を得る画像の質の指標をいうものとする。例えば、「高画質の画像」とは、より高い確率で正しい位置結果を得ることができる画像をいい、よりノイズの少ない画像や、より高解像度の画像、より拡大倍率の大きな画像などをいうものとする。また、「低画質の画像」とは、正しい位置結果を高くない確率で得る画像をいい、よりノイズの多い画像や、より低解像度の画像、より拡大倍率の小さな画像などをいうものとする。また、「画像条件」には、例えば、複数の撮像画像を用いて高画質の画像を得る超解像処理に用いる画像数や、超解像処理の拡大倍率、演算により得られた近似解を収束させるための推定回数などのうち1以上を含むものとしてもよい。更に、第1位置決定結果は実装処理にて取得されるものであり、第2位置決定結果は画像のみを用いて事後的に取得されるものとしてもよい。更にまた、「対象物」としては、実装処理に用いる部品や、部品の一部(例えば電極やリード、バンプなど)、基板の一部、部品や基板に付された部位(例えばマーク)などが挙げられる。
実装システム10の一例を示す概略説明図。 実装部13及び撮像部15の説明図。 検査対象である基板Sの一例を示す説明図。 記憶部53に記憶された情報の一例を示す説明図。 実装処理ルーチンの一例を示すフローチャート。 撮像画像61~63の説明図。 超解像処理の一例を示す説明図。 超解像画像64A,64Bを生成する説明図。 画像条件設定処理ルーチンの一例を示すフローチャート。
本実施形態を図面を参照しながら以下に説明する。図1は、本開示の一例である実装システム10の概略説明図である。図2は、実装部13及び撮像部15の一例を示す説明図である。図3は、検査対象である基板Sの一例を示す説明図である。図4は、記憶部53に記憶された部品データベース(DB)54及び実装条件情報55の一例を示す説明図である。実装システム10は、例えば、部品Pを基板Sに実装する処理を実行するシステムである。この実装システム10は、実装装置11と、検査装置31と、ホストコンピュータ(PC)50とを備えている。実装システム10は、部品Pを基板Sに実装する実装処理を実施する複数の実装装置11と検査装置31とが上流から下流に配置された実装ラインとして構成されている。なお、本実施形態において、左右方向(X軸)、前後方向(Y軸)及び上下方向(Z軸)は、図1、2に示した通りとする。また、部品P1、P2、Pa(図3参照)などは、部品Pと総称する。
実装装置11は、図1に示すように、基板処理部12と、実装部13と、部品供給部14と、撮像部15と、実装制御部16とを備えている。基板処理部12は、基板Sの搬入、搬送、実装位置での固定、搬出を行うユニットである。
実装部13は、部品Pを部品供給部14から採取し、基板処理部12に固定された基板Sへ配置するユニットである。実装部13は、ヘッド移動部20と、実装ヘッド21と、吸着ノズル22とを備えている。ヘッド移動部20は、ガイドレールに導かれてXY方向へ移動するスライダと、スライダを駆動するモータとを備えている。実装ヘッド21は、複数の部品を採取してヘッド移動部20によりXY方向へ移動するものである。この実装ヘッド21は、スライダに取り外し可能に装着されている。実装ヘッド21の下面には、1以上の吸着ノズル22が取り外し可能に装着されている。実装ヘッド21は、部品Pを採取する複数の吸着ノズル22が円周上に配置されている(図2参照)。吸着ノズル22は、負圧を利用して部品を採取するものである。部品の採取は、吸着ノズル22のほか、部品Pを機械的に保持するメカニカルチャックなどにより行ってもよい。実装ヘッド21の下面側には、マークカメラ23が配設されている。マークカメラ23は、実装ヘッド21の移動に伴い、XY方向に移動し、例えば、基板Sに形成された基準マークMや2DコードC(図3参照)などを撮像する。
部品供給部14は、実装部13へ部品Pを供給するユニットである。この部品供給部14には、部品Pを保持したテープを有するフィーダが複数装着されている。このフィーダは、テープに保持された部品Pを採取位置へ送り出す。この部品供給部14は、部品を複数配列して載置するトレイを有するトレイユニットを備えていてもよい。実装装置11で用いる部品Pには、図2に示すように、部品P1、Paなどが含まれる。部品P1は、微細部品である。部品Paは、例えば、部品P1よりも大きいサイズを有する大型部品であり、板状の本体部40と、微細な部位であるバンプ42とを有している。バンプ42は、本体部40の下部に多数配列されている電極である。この部品Paは、実装処理時にバンプ42の形状や存在などの検査を要する。
撮像部15は、画像を撮像する装置であり、実装ヘッド21に採取され保持された1以上の部品Pの画像を撮像するパーツカメラである。この撮像部15は、部品供給部14と基板処理部12との間に配置されている。この撮像部15の撮像範囲は、撮像部15の上方である。撮像部15は、部品Pを保持した実装ヘッド21が撮像部15の上方を通過する際、1又は2以上の画像を撮像し、撮像画像データを実装制御部16へ出力する。
実装制御部16は、CPU17を中心とするマイクロプロセッサとして構成されており、各種データを記憶する記憶部18などを備えている。この実装制御部16は、基板処理部12、実装部13、部品供給部14、撮像部15へ制御信号を出力し、実装部13や部品供給部14、撮像部15からの信号を入力する。記憶部18には、部品Pを基板Sへ実装する配置順や配置位置などを含む実装条件情報が記憶されている。この実装条件情報には、部品Pを実装する際の採取順、配置順、部品Pの識別情報(ID)、超解像処理の画像条件、撮像条件及び基板S上の配置位置(座標)の情報などが含まれている。なお、超解像処理とは、複数の撮像画像から高画質な画像を生成する処理(マルチフレーム超解像処理)をいう。また、この超解像処理で得られた高画質画像は、実装ヘッド21に採取された際の部品Pの採取ずれ量の検出や、部品Pの部位(バンプ42など)の異常検査などに用いられる。ここで、「高画質画像」とは、より高い確率で正しい位置結果を得ることができる画像をいい、よりノイズの少ない画像や、より高解像度の画像などをいうものとする。
検査装置31は、基板S上に配置された部品Pの状態を検査する装置であり、基板処理部32と、検査部33と、検査制御部36とを備えている。基板処理部32は、基板Sの搬送及び固定を行うユニットであり、基板Sを搬送するベルトコンベアと、基板Sを固定するクランプ装置とを備えている。検査部33は、撮像移動部34と、基板撮像部35とを備えている。撮像移動部34は、駆動モータにより駆動されるX方向スライダによってX方向に基板撮像部35を移動させると共に、駆動モータにより駆動されるY方向スライダによってY方向に基板撮像部35を移動させる。基板撮像部35は、基板S上の部品Pなどを撮像するユニットである。この基板撮像部35は、例えば、実装装置11の撮像部15よりも高い解像度を有しているものとしてもよい。基板撮像部35は、部品P1,Paなどが配置された基板Sに設定されている複数の検査領域(図3参照)の全体又は一部の画像データを検査制御部36へ出力する。検査制御部36は、CPU37を中心とするマイクロプロセッサとして構成されており、処理プログラムを記憶する記憶部38などを備えている。記憶部38には、検査装置31での検査に用いられる条件や基準画像データなどを含む検査条件情報が記憶されている。
ホストPC50は、実装システム10の各装置の情報を管理するコンピュータである。ホストPC50は、図1に示すように、制御装置51と、記憶部53と、表示部57と、入力装置58と、送受信部59とを備えている。制御装置51は、CPU52を中心とするマイクロプロセッサとして構成されている。記憶部53は、例えばHDDなど、処理プログラムなど各種データを記憶する装置である。表示部57は、各種情報を表示する液晶画面である。入力装置58は、作業者が各種指令を入力するキーボード及びマウス等を含む。送受信部59は、実装装置11や検査装置31などと情報のやりとりを行うネットワークインターフェイスである。
記憶部53には、部品Pの情報が含まれている部品データベース(DB)54が記憶されている。部品DB54は、図4に示すように、部品IDや、部品サイズ、部品の種別、超解像処理の実行時に用いるべき撮像画像数などのほか、超解像処理の実行条件としての画像の拡大倍率や演算により得られた近似解を収束させるための推定回数なども含まれている。この超解像処理の撮像画像数や画像の拡大倍率、推定回数などは、画像条件に含まれる。なお、実装システム10では、超解像に用いる撮像画像数の上限は「4」に定められている。また、図4で超解像画像数が「1」であるものは、撮像画像を用いて部品Pの採取ずれ量を検出するものであり、超解像処理を行わない設定である。また、部品DB54には、高画質画像を用いたときの位置決定結果の統計値である第1位置決定結果情報と、その撮像画像と、低画質画像を用いたときの位置決定結果である第2位置決定結果情報と、検査装置31の検査結果の統計値である配置精度情報56とが各部品毎に対応付けられて含まれている。即ち、部品DB54には、基板Sの配置位置などにかかわらず、該当する部品の検出結果を集計した情報が含まれている。第1位置決定結果には、位置決定した処理総数とずれ量の平均値とが含まれる。ずれ量には位置ずれ(座標)や角度ずれなどが含まれる。第2位置決定結果情報には、超解像処理を行うものについては、推定値が含まれ、超解像処理を行わないものについては統計値として位置決定した処理総数と位置のずれ量の平均値とが含まれる。実装条件情報55には、部品Pを実装する際の配置順、部品Pの識別情報(ID)、超解像処理の画像条件(画像数)、第1位置決定結果情報、撮像画像データ、第2位置決定結果情報、配置精度情報56及び基板S上の配置位置(座標)の情報などが含まれている。この実装条件情報55には、部品Pの配置位置に対応付けられた第1位置決定結果情報や第2位置決定結果情報、配置精度情報56などが含まれている。これらの情報は、配置位置に対応する値である以外は部品DB54に含まれる情報と同様である。
次に、こうして構成された本実施形態の実装システム10の動作、まず、部品Pを基板Sへ配置する実装処理について説明する。図5は、実装装置11のCPU17が実行する実装処理ルーチンの一例を示すフローチャートである。このルーチンは、記憶部18に記憶され、作業者の実装開始入力に基づいて実行される。このルーチンが開始されると、CPU17は、まず、画像条件を含む実装条件情報を取得し(S100)、基板Sの搬送及び固定処理を基板処理部12に行わせる(S110)。次に、CPU17は、実装条件情報55の配置順に基づいて吸着ノズル22が吸着する部品Pを設定する(S120)。次に、CPU17は、必要に応じて吸着ノズル22の装着や交換を行い、1以上の部品Pの吸着及び移動処理を実装部13に行わせる(S130)。CPU17は、このとき撮像部15の上方を通過するよう実装ヘッド21を移動させる。
次に、CPU17は、画像条件を実装条件情報から読み出して取得し(S140)、実装ヘッド21に採取された中に超解像処理を要する部品Pがあるか否かを判定する(S150)。CPU17は、実装ヘッド21に採取された全ての部品Pの画像条件に含まれる超解像画像数が1であるときに超解像処理を要する部品Pがないと判定する。また、CPU17は、超解像画像数が2以上である部品Pが実装ヘッド21に1つでも採取されているときに超解像処理を要すると判定する。超解像を要する部品Pがないときには、CPU17は、採取している部品Pの画像を撮像部15に撮像処理させ(S160)、撮像画像から部品Pのずれ量を検出する(S190)。ここでは、撮像画像から部品Pの位置を決定し、その結果(第2位置決定結果)を用いて部品Pの採取位置ずれ量や角度ずれ量などを検出する。
一方、S150で超解像処理を有する部品Pがあるときには、CPU17は、その中で最も条件の高い画像条件に合わせた複数の撮像位置で画像を撮像部15に撮像処理させる(S170)。CPU17は、このとき、撮像処理のたびに実装ヘッド21を停止させるものとしてもよいし、実装ヘッド21を移動しながら撮像処理を複数回行うものとしてもよい。図6は、複数の位置で撮像した撮像画像61~63の一例を示す説明図である。次に、CPU17は、撮像された複数の撮像画像を用い、撮像画像よりも高画質の第1画像を生成する超解像処理を実行する(S180)。
この超解像処理は、複数の撮像画像を用い、撮像画像61と撮像画像62などとの正確な移動量を求め、仮の高画質画像を生成し、この仮の画像に対してぼけ推定処理、再構成処理を行い、撮像画像に比して高画質の画像を生成する。図7は、超解像処理の説明図であり、図7Aが低画質画像の概念図、図7Bが低画質画像を重ね合わせて得られる高画質画像の概念図である。図8は、超解像画像64A,64Bを生成する説明図であり、図8Aが撮像画像61A~63Aから生成したバンプ42の超解像画像64Aのイメージ図であり、図8Bが撮像画像61B~63Bから生成したチップ部品の超解像画像64Bのイメージ図である。図7Bに示すように、低画質画像を整数以外のピクセルピッチの範囲(例えば、0.5ピクセル、1.5ピクセルなど)でずらして撮像した画像を重ね合わせると、画素間の情報をより増やすことができる。また、実際に撮像した画像を用いるため、単に推定して画素間の情報を補間するのに比して、信頼性の高い高画質画像を生成することができる。
次に、CPU17は、得られた超解像画像から部品Pのずれ量を検出する(S190)。CPU17は、S160~S180を経て超解像画像(第1画像)に基づく部品Pの第1位置決定結果か、S150を経て撮像画像(第2画像)に基づく部品Pの第2位置決定結果かのいずれかを得ることができる。S190のあと、CPU17は、検出したずれ量を補正した位置に部品Pを配置し(S200)、上述の処理で得られた撮像画像と位置決定結果をホストPC50へ出力する(S210)。撮像画像と位置決定結果を取得したホストPC50では、これらを用いて部品DB54や実装条件情報55の情報を更新する。
S210のあと、CPU17は、現基板の実装処理が完了したか否かを判定し(S220)、完了していないときには、S120以降の処理を実行する。即ち、CPU17は、次に採取する部品Pを設定し、必要に応じて保持部や吸着ノズル22を取り替え、部品Pを撮像し、ずれ量を補正して基板Sに配置させる。一方、S220で現基板の実装処理が完了したときには、CPU17は、実装完了した基板Sを基板処理部12により排出させ(S230)、生産完了したか否かを判定する(S240)。生産完了していないときには、CPU17は、S110以降の処理を実行する一方、生産完了したときには、そのままこのルーチンを終了する。このように、実装装置11は、高画質な超解像画像などを用いて部品Pの位置決定結果を得ながら実装処理を行う。
次に、検査装置31が実行する基板S上に配置された部品Pの検査処理について説明する。検査装置31のCPU37は、作業者による実装処理開始の入力後、基板Sの検査処理を開始する。この処理を開始すると、CPU37は、基板処理部32に実装処理後の基板Sを搬送させ、固定させる。次に、CPU37は、基板撮像部35により基板Sを撮像させ、画像に含まれるそれぞれの部品ごとに画像処理を行い、検査処理を行う。CPU37は、画像データ中の部品Pの領域を抽出し、正常な状態の画像と撮像画像との適合度を求める処理を行う。CPU37は、部品Pの姿勢や位置が正しい姿勢や位置からずれている量を求める検査処理を行う。そして、CPU37は、検査結果で所定の閾値を超えている部品Pがある基板Sについては、エラーである旨作業者に報知する。なお、この閾値は、例えば、製造後の基板Sに部品Pのずれによる接合不良などの問題が生じないような範囲に経験的に定められるものとしてもよい。そして、CPU37は、検査結果のずれ量などを配置精度情報56としてホストPC50へ送信する。ホストPC50は、配置精度情報56を受けると、部品DB54や実装条件情報55の配置精度情報56の内容を更新する。
続いて、ホストPC50において、超解像処理の画像条件を設定する処理について説明する。超解像処理は、微細な部品や微細な部位を検査する際に実行されるが、超解像処理は処理時間が長くかかることもあり、その適正な実行が望まれていた。例えば、微細な部品P1などでは、撮像部15の解像度などによっては、精細な超解像画像を必要としない場合などもある。この実装システム10では、実装装置11における部品Pのずれ量に関する位置決定結果及び検査装置31での実測値である配置精度に基づいて、超解像処理が必要であるか否かや、超解像処理の画像条件(例えば、超解像処理に用いる撮像画像数など)の緩和が可能であるか否かについて判定する。図9は、ホストPC50のCPU52が実行する画像条件設定処理ルーチンの一例を示すフローチャートである。このルーチンは、記憶部53に記憶され、実装装置11での実装処理及び検査装置31での検査処理が実行されている間に所定間隔で繰り返し実行される。このルーチンが開始されると、CPU52は、実装装置11で撮像部15により撮像された画像と、第1位置決定結果と、配置精度とを読み出して取得し(S300)、画像条件を検討する対象部品を設定し(S310)、処理回数が所定回数以上に至っているか否かを判定する(S320)。対象部品は、実装条件情報55の配置順に設定されるものとしてもよい。また、処理回数は、位置決定結果や配置精度が得られた回数としてもよく、所定回数は、例えば、位置決定結果や配置精度の値が安定する回数(例えば、数十回や数百回など)に経験的に定められているものとしてもよい。
処理回数が所定回数以上である場合は、得られている結果が安定的なものであるとし、CPU52は、配置精度の値に基づいて、対象部品の画像条件について判定する(S330)。ここでは、CPU52は、現在の超解像処理の画像条件が過剰品質側であるか、品質不足側であるかを判定する。CPU52は、特定の部品Pの配置精度が精度範囲内で高い値(小さなずれ)を示すときには、超解像処理の緩和である低画質化を判定し、配置精度が所定の精度範囲を下回るときは、高画質化を判定する。なお、CPU52は、現在の画像条件が最低画質(画像数1など)であるときは更なる低画質化は判定せず、現在の画像条件が最高画質(画像数4など)であるときは更なる高画質化は判定しないものとする。ここでは、説明の便宜のため、画像条件として超解像処理に用いる撮像画像数を変更する場合について主として説明する。また、ずれに関しない部品Paのバンプ42などの超解像処理の画像条件は、変更の対象外とする。
S330で低画質化を判定したときには、CPU52は、保存している撮像画像を用い、低画質の第2画像から第2位置決定結果を取得する(S340)。ホストPC50の記憶部53には、撮像部15の撮像した撮像画像が保存されているため、CPU52は、より低画質の第2画像を得ることができる。例えば、現在の画像条件が画像数=3の場合、位置をずらして撮像した3枚の画像が保存されているから、CPU52は、画像2枚での超解像画像や、1枚の撮像画像など、より低画質の第2画像を得ることができる。ここでは、低画質の第2画像として、画像数を1つ減じた第2画像を用いるものとする。即ち、画像条件として低画質から高画質までの複数段階(ここでは画像数の4段階)を設け、CPU52は、この段階を1ランク下げることにより、低画質の第2画像を得るものとする。
続いて、CPU52は、第1位置決定結果と配置精度と、上記得られた第2位置決定結果とから第2画像における実装精度推定値を推定する(S350)。第1位置決定結果は、画像上での部品の位置を決定した結果を表し、この部品Pの位置により吸着ノズル22とのずれ量が求められる。また、配置精度は、上記ずれ量を補正して部品Pを基板Sに配置した際のずれ量を表す。したがって、CPU52は、部品Pの第1位置決定結果と配置精度とから真の部品位置を求めることができ、この部品位置と第2位置決定結果との差分に基づいて実装精度推定値を求めることができる。この実装精度推定値は、より低画質の第2画像を用いたときに部品Pがどの程度ずれるかを推定する値である。実装精度推定値を求めると、CPU52は、これが許容範囲内であるか否かを判定する(S360)。この許容範囲は、例えば、製造後の基板Sに部品Pのずれによる接合不良などの問題が生じないようなずれ量の範囲に経験的に定められるものとしてもよい。
実装精度推定値が許容範囲内であるときには、CPU52は、現在の画像条件をより緩和可能であると判定し、第1画像より低画質化した画像条件、ここでは第2画像を用いる条件に設定する(S370)。そして、CPU52は、設定した画像条件を作業者に報知する(S380)。CPU52は、表示部57に表示させ作業者へ報知するものとしてもよい。作業者は、報知内容を確認し、変更した画像条件に対して承認するか否かを入力装置58で入力する。CPU52は、画像条件の変更が許可されたか否かを上記入力内容により判定し(S390)、変更が許可されたときには、設定した画像条件に更新した実装条件情報55を記憶させる(S400)。
一方、S330で高画質化が判定されたときには、CPU52は、より高画質の第1画像を用いる画像条件を設定する(S410)。現状の画像条件では配置精度が余り高くないとの判定であるから、例えば、CPU52は、超解像処理に用いる撮像画像数を4枚とするなど、最高画質の画像条件に設定するものとしてもよい。この画像条件の設定によれば、配置精度の高い状態から再度、より低画質化を図ることができるかをS330~S400で検討することもできる。S410のあと、CPU52は、S380~S400の処理を行う。即ち、CPU52は、画像条件の変更を作業者へ報知し、作業者の承認が得られれば画像条件を変更する。
S400のあと、CPU52は、次に判定すべき部品Pがあるか否かを判定し(S420)、次の部品Pがある場合は、S310以降の処理を実行する。一方、S420で次の部品Pがないときには、そのままこのルーチンを終了する。また、S320で処理回数が所定回数以上でない場合、S330で現状維持が判定された場合、S360で実装精度推定値が許容範囲内でない場合、S400で変更許可されなかった場合、CPU52は、画像条件を変更せずにS420以降の処理を行う。そして、実装装置11は、ホストPC50で適正化された画像条件を実装処理ルーチンのS140で取得し、この条件で超解像処理を実行する。例えば、図6を例に説明すると、部品Paについては3画像の超解像処理であり、部品P1については3画像から2画像の超解像処理に変更された場合、撮像処理は3回行うが、部品P1の超解像処理の使用画像数が減るため、超解像処理時間がより短縮される。また、図6において、実装ヘッド21が部品P1のみを採取した場合は、撮像回数も減少可能であるため、更に処理時間を短縮することができる。
ここで、本実施形態の構成要素と本開示の構成要素との対応関係を明らかにする。本実施形態の制御装置51が本開示の制御装置に相当し、CPU52が制御部に相当し、実装装置11が実装装置に相当し、検査装置31が検査装置に相当し、ホストPC50が情報処理装置に相当する。また、実装ヘッド21が実装ヘッドに相当し、撮像部15やマークカメラ23が撮像部に相当し、送受信部59が送受信部に相当する。なお、本実施形態では、制御装置51や実装装置11の動作を説明することにより本開示の情報処理方法の一例も明らかにしている。
以上説明した実施形態の制御装置51では、高画質の第1画像を用いた第1位置決定結果と低画質の第2画像を用いた第2位置決定結果と検査装置の配置精度とを用いて部品Pの位置決定処理に用いられる画像条件を設定するため、例えば、低画質の第2画像でも第1画像を用いた位置決定結果に近い結果が得られるか否かについて判定することができる。このため、この制御装置51では、より適正な画像条件を設定可能であるから、部品採取の際の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる。また、制御装置51は、実装精度推定値が許容範囲内であるときには画像条件をより低くして位置決定処理することができるため、配置精度を用いてより精度よく、位置決定精度の低下を抑制しつつ処理時間をより短縮することができる。
更に、制御装置51は、第2画像を用いたときに検査装置31から取得した部品Pの配置精度が所定の精度範囲外であるときには、第2画像よりも高い画質の画像を得る画像条件を設定する。この制御装置51では、検査結果が所定の精度を満たさない場合は画質をより高くして位置決定処理することができるため、配置精度を用いてより精度よく、処理時間の長期化を抑制しつつ位置決定精度をより高めることができる。また、制御装置51は、画像条件として第1画像及び/又は第2画像を得る画像数を設定する。この制御装置51では、より高い画質の画像を得るときにはより多い画像数から画像を生成し、より低い画質の画像を得るときにはより少ない画像数を採用することによって、撮像時間や画像処理時間をより適正なものとすることができる。更にまた、ホストPC50は、第1画像及び第1位置決定結果のうち少なくとも一方と、第2画像及び第2位置決定結果のうち少なくとも一方とを記憶する記憶部53を備えるため、制御装置51では、記憶部53に記憶された情報を利用して、より適正な画像条件を設定することができる。
なお、本開示は上述した実施形態に何ら限定されることはなく、本開示の技術的範囲に属する限り種々の態様で実施し得ることはいうまでもない。
例えば、上述した実施形態では、画像条件を設定するに際して、画像条件として低画質から高画質までの複数段階を設け、S340でこの段階を1ランク下げた画像条件とするものとして説明したが、特にこれに限定されず、2ランク下げてもよいし、段階を設けずに下げるものとしてもよい。また、上述した実施形態では、CPU52は、S410で高画質の画像条件を設定するに際して、最高画質の画像条件を設定するものとしたが、特にこれに限定されず、複数段階の1ランクや2ランクなど、任意の高画質化を図るものとしてもよい。画像条件の変更は、経験的に定めるものとしてもよい。
上述した実施形態では、画像条件を緩和して設定する際に、第2画像の位置決定結果を得て、この第2画像の画像条件に変更するものとしたが、特にこれに限定されず、第1画像と第2画像との間の画質の画像条件を設定するものとしてもよい。例えば、制御装置51は、第1画像と第2画像との間の中間画質の実装精度推定値を求め、この実装精度推定値が許容範囲内であるときには、この中間画質の画像を得る画像条件を設定するものとしてもよい。この制御装置51では、第1画像よりも画質が低く且つ第2画像よりも画質が高い画像で位置決定処理を行うことができるから、より適正な画像条件を設定することができる。
上述した実施形態では、画像条件として超解像処理に用いる撮像画像数を設定するものとしたが、画質変更に伴い処理時間が変更されるものであれば、特にこれに限定されず、例えば、超解像処理における画像の拡大倍率や、演算により得られた近似解を収束させるための推定回数などのうち1以上を変更するものとしてもよい。この実装装置においても、より適正な画像条件を設定可能であるから、部品採取の際の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる。
上述した実施形態では、配置精度を用いて画像条件を設定するものとしたが、配置精度を省略して画像条件を設定するものとしてもよい。例えば、制御装置51は、撮像画像よりも高画質の第1画像に基づいて求められた第1位置決定結果と、第1画像よりも低画質の第2画像に基づいて求められた第2位置決定結果とに基づいて画像条件を設定するものとしてもよい。このとき、制御装置51は、第1位置決定結果と第2位置決定結果との差分値を求め、差分値が基準範囲内であるときには、第1画像よりも低画質の画像を得る画像条件を設定するものとしてもよい。例えば、実装処理中に複数の撮像画像を用いた超解像画像により部品Pの位置決定結果を取得している場合に、それより低画質の第2画像を用いた第2位置決定結果を求め、これらの差分値が基準範囲内にあれば、画質を低下する、即ち処理内容を簡素化しても、比較的正しい位置決定結果が得られると判定することができる。こうしても、実装装置11では、より適正な画像条件を設定可能であるから、部品採取の際の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる。
上述した実施形態では、S410において検査装置31から得た配置精度に基づいて超解像処理の画像を高画質化へ変更するものとして説明したが、この処理を省略してもよい。実装装置11において、超解像処理の画像条件を緩和可能であれば、処理時間と位置決定精度とをより適正なものとすることができる。
上述した実施形態では、実装システム10において、実装装置11の下流に配置された検査装置31が基板Sに配置された部品P1の配置状態を検査したが、特にこれに限定されず、実装装置11が検査装置31の機能を兼ねてもよい。この場合、実装装置11は、検査部33と検査制御部36も備える。実装装置11は、部品Pを基板Sに配置する実装処理と、基板Sに配置された部品Pの配置状態を検査する検査処理の両方を行うものとしてもよい。この実装装置11においても上述した実施形態と同様の効果を得ることができる。
上述した実施形態では、撮像部15が実装ヘッド21に採取された部品Pを撮像し、部品Pの位置決定処理に用いられる画像条件を設定するものとしたが、特にこれに限定されない。例えば、実装装置11は、マークカメラ23が撮像した基板Sの基準マークMの画像や2DコードCの画像について、その位置決定処理に用いられる画像条件を設定するものとしてもよい。この実装装置11では、基準マークMなどの基板Sの部位の画像処理時間と位置決定精度とをより適正なものとすることができる。なお、撮像処理の対象物としては、部品Pのほか、部品の一部(例えば電極やリード、バンプなど)、基板の一部、部品や基板に付された部位(例えばマーク)などが挙げられる。
上述した実施形態では、ホストPC50の制御装置51が超解像処理の画像条件を設定するものとしたが、特にこれに限定されず、実装装置11の実装制御部16が超解像処理の画像条件を設定するものとしてもよい。また、他の装置、例えば、検査装置31の検査制御部36が超解像処理の画像条件を設定するものとしても構わない。また、上述した実施形態では、本開示を制御装置51として説明したが、例えば、実装方法や情報処理方法としてもよいし、上述した処理をコンピュータが実行するプログラムとしてもよい。
ここで、本開示の制御装置において、前記制御部は、前記第1位置決定結果と前記第2位置決定結果との差分値を求め、該差分値が基準範囲内であるときには、前記第1画像よりも低い画質の画像を得る前記画像条件を設定するものとしてもよい。この制御装置では、位置決定結果が基準を満たす場合は画像条件をより低くして位置決定処理することができるため、位置決定精度の低下を抑制しつつ処理時間をより短縮することができる。
本開示の制御装置において、前記実装装置は、部品を採取する実装ヘッドを備え、前記制御部は、前記実装ヘッドに採取された部品を撮像した撮像画像よりも高い画質の第1画像に基づいて求められた該部品の第1位置決定結果と、前記第1画像よりも低い画質の第2画像に基づいて求められた該部品の第2位置決定結果とを取得し、前記第1位置決定結果と前記第2位置決定結果とに基づいて前記実装ヘッドに採取された部品の位置決定処理に用いられる画像条件を設定するものとしてもよい。この制御装置は、部品の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる。
部品を撮像する態様の本開示の制御装置において、前記実装システムは、基板に配置された部品の配置状態を検査する検査装置を含み、前記制御部は、前記検査装置から前記部品の配置精度を取得し、前記第1位置決定結果と前記第2位置決定結果と前記配置精度とに基づいて前記画像条件を設定するものとしてもよい。この制御装置では、検査装置の配置精度を用いて画像条件を設定するから、処理時間と位置決定精度とを更に適切なものとすることができる。
部品の配置精度を取得する態様の本開示の制御装置において、前記制御部は、前記部品の前記第1位置決定結果と前記配置精度とから求められる部品位置と、前記部品の前記第2位置決定結果との差分に基づいて実装精度推定値を求め、該実装精度推定値が許容範囲内であるときには、前記第1画像よりも低い画質の画像を得る前記画像条件を設定するものとしてもよい。この制御装置では、実装精度推定値が許容できる場合は画像条件をより低くして位置決定処理することができるため、配置精度を用いてより精度よく、位置決定精度の低下を抑制しつつ処理時間をより短縮することができる。
部品の配置精度を取得する態様の本開示の制御装置において、前記制御部は、前記第1画像と前記第2画像との間の中間画質の前記実装精度推定値を求め、該実装精度推定値が前記許容範囲内であるときには、該中間画質の画像を得る前記画像条件を設定するものとしてもよい。この制御装置では、第1画像よりも画質が低く且つ第2画像よりも画質が高い画像で位置決定処理を行うことができるから、より適正な画像条件を設定することができる。
本開示の制御装置において、前記実装システムは、基板に配置された部品の配置状態を検査する検査装置を含み、前記制御部は、前記第2画像を用いたときに前記検査装置から取得した前記部品の配置精度が所定の精度範囲外であるときには、前記第2画像よりも高い画質の画像を得る前記画像条件を設定するものとしてもよい。この制御装置では、検査結果が所定の精度を満たさない場合は画質をより高くして位置決定処理することができるため、配置精度を用いてより精度よく、処理時間の長期化を抑制しつつ位置決定精度をより高めることができる。
本開示の制御装置において、前記制御部は、前記画像条件として前記第1画像及び/又は前記第2画像を得る画像数を設定するものとしてもよい。この制御装置では、より高い画質の画像を得るときにはより多い画像数から画像を生成し、より低い画質の画像を得るときにはより少ない画像数を採用することによって、撮像時間や画像処理時間をより適正なものとすることができる。
本開示の制御装置は、前記第1画像及び前記第1位置決定結果のうち少なくとも一方と、前記第2画像及び前記第2位置決定結果のうち少なくとも一方とを記憶する記憶部、を備えるものとしてもよい。この制御装置では、記憶部に記憶された情報を利用して、より適正な画像条件を設定することができる。
本開示の実装装置は、部品を採取する実装ヘッドと、前記実装ヘッドに採取された部品を撮像する撮像部と、上述したいずれかの制御装置と、を備えたものである。この実装装置では、上述した制御装置と同様に、より適正な画像条件を設定可能であるから、部品採取の際の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる。
本開示の情報処理装置は、前記実装装置に用いられる情報を管理し前記実装システムに用いられる情報処理装置であって、前記実装装置と情報のやりとりを行う送受信部と、上述したいずれかの制御装置と、を備えたものである。この情報処理装置では、上述した制御装置と同様に、より適正な画像条件を設定可能であるから、部品採取の際の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる。
本開示の情報処理方法は、
対象物を撮像する撮像部を備え部品を基板に配置する実装処理を実行する実装装置を含む実装システムに用いられる情報処理方法であって、
対象物を撮像した撮像画像よりも高い画質の第1画像に基づいて求められた該部品の第1位置決定結果と、前記第1画像よりも低い画質の第2画像に基づいて求められた該対象物の第2位置決定結果とを取得し、前記第1位置決定結果と前記第2位置決定結果とに基づいて対象物の位置決定処理に用いられる画像条件を設定するステップ、
を含むものである。
この情報処理方法では、上述した制御装置と同様に、より適正な画像条件を設定可能であるから、対象物の位置決定処理における処理時間と位置決定精度とをより適正なものとすることができる。なお、この情報処理方法において、上述した制御装置の種々の態様を採用してもよいし、また、上述した制御装置の各機能を実現するようなステップを追加してもよい。
本開示は、部品を基板上に配置する実装処理を行う装置に利用可能である。
10 実装システム、11 実装装置、12 基板処理部、13 実装部、14 部品供給部、15 撮像部、16 実装制御部、17 CPU、18 記憶部、20 ヘッド移動部、21 実装ヘッド、22 吸着ノズル、23 マークカメラ、31 検査装置、32 基板処理部、33 検査部、34 撮像移動部、35 基板撮像部、36 検査制御部、37 CPU、38 記憶部、40 本体部、42 バンプ、50 ホストPC、51 制御装置、52 CPU、53 記憶部、54 部品DB、55 実装条件情報、56 配置精度情報、57 表示部、58 入力装置、59 送受信部、61~63,61A~63A,61B~63B 撮像画像、64A,64B 超解像画像、C 2Dコード、M 基準マーク、P,P1,Pa 部品、S 基板。

Claims (9)

  1. 対象物を撮像する撮像部を備え部品を基板に配置する実装処理を実行する実装装置に用いられる情報を管理し前記実装装置を含む実装システムに用いられる情報処理装置であって、
    前記実装装置が前記実装処理で得た対象物の撮像画像と、前記撮像画像よりも高い画質の第1画像に基づいて求めた該対象物の第1位置決定結果としての該対象物のずれ量とを、前記実装装置から得る送受信部と、
    複数回の前記実装処理における前記撮像画像と、前記第1位置決定結果としての前記ずれ量の平均値とを記憶する記憶部と、
    前記送受信部が前記実装装置から新たに得た前記第1位置決定結果としての前記ずれ量を用いて、前記記憶部に記憶された前記ずれ量の前記平均値を更新し、前記記憶部に記憶された前記撮像画像を用いて、前記第1画像よりも低い画質の第2画像に基づいて求められた該対象物の第2位置決定結果を取得し、更新された前記ずれ量の前記平均値と前記第2位置決定結果とに基づいて対象物の位置決定処理に用いられる画像条件を設定する制御部と、
    を備えた情報処理装置。
  2. 前記制御部は、前記ずれ量の前記平均値と前記第2位置決定結果との差分値を求め、該差分値が基準範囲内であるときには、前記第1画像よりも低い画質の画像を得る前記画像条件を設定する、請求項1に記載の情報処理装置。
  3. 前記実装装置は、部品を採取する実装ヘッドを備え、前記制御部は、前記実装ヘッドに採取された部品を撮像した撮像画像よりも高い画質の第1画像に基づいて求められた該部品の第1位置決定結果としての前記ずれ量と、前記第1画像よりも低い画質の第2画像に基づいて求められた該部品の第2位置決定結果とを取得し、複数回の前記実装処理における前記第1位置決定結果としての前記ずれ量の平均値と前記第2位置決定結果とに基づいて前記実装ヘッドに採取された部品の位置決定処理に用いられる画像条件を設定する、請求項1又は2に記載の情報処理装置。
  4. 前記実装システムは、基板に配置された部品の配置状態を検査する検査装置を含み、
    前記制御部は、前記検査装置から前記部品の配置精度を取得し、前記ずれ量の前記平均値と前記第2位置決定結果と前記配置精度とに基づいて前記画像条件を設定する、請求項3に記載の情報処理装置。
  5. 前記制御部は、前記部品の前記ずれ量の前記平均値と前記配置精度とから求められる部品位置と、前記部品の前記第2位置決定結果との差分に基づいて実装精度推定値を求め、該実装精度推定値が許容範囲内であるときには、前記第1画像よりも低い画質の画像を得る前記画像条件を設定する、請求項4に記載の情報処理装置。
  6. 前記制御部は、前記部品の前記ずれ量の前記平均値と前記配置精度とから求められる部品位置と、前記第1画像と前記第2画像との間の中間画質に基づいて求められた前記部品の第2位置決定結果との差分に基づいて実装精度推定値を求め、該実装精度推定値が前記許容範囲内であるときには、該中間画質の画像を得る前記画像条件を設定する、請求項5に記載の情報処理装置。
  7. 前記実装システムは、基板に配置された部品の配置状態を検査する検査装置を含み、
    前記制御部は、前記第2画像を用いたときに前記検査装置から取得した前記部品の配置精度が所定の精度範囲外であるときには、前記第2画像よりも高い画質の画像を得る前記画像条件を設定する、請求項3~6のいずれか1項に記載の情報処理装置。
  8. 前記制御部は、前記画像条件として前記第1画像及び/又は前記第2画像を得る画像数を設定する、請求項1~7のいずれか1項に記載の情報処理装置。
  9. 対象物を撮像する撮像部を備え部品を基板に配置する実装処理を実行する実装装置に用いられる情報を管理し前記実装装置を含む実装システムに用いられる情報処理方法であって、
    前記実装装置が前記実装処理で得た対象物の撮像画像と、前記撮像画像よりも高い画質の第1画像に基づいて求めた該対象物の第1位置決定結果としての該対象物のずれ量とを、前記実装装置から得るステップと、
    複数回の前記実装処理における前記撮像画像と、前記第1位置決定結果としての前記ずれ量の平均値とを記憶するステップと、
    前記実装装置から新たに得た前記第1位置決定結果を用いて、記憶された前記ずれ量の前記平均値を更新するステップと、
    記憶された前記撮像画像を用いて、前記第1画像よりも低い画質の第2画像に基づいて求められた該対象物の第2位置決定結果を取得し、更新された前記ずれ量の前記平均値と前記第2位置決定結果とに基づいて対象物の位置決定処理に用いられる画像条件を設定するステップと、
    を含む情報処理方法。
JP2019558841A 2017-12-15 2017-12-15 情報処理装置及び情報処理方法 Active JP7084416B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/045152 WO2019116550A1 (ja) 2017-12-15 2017-12-15 制御装置、実装装置、情報処理装置及び情報処理方法

Publications (2)

Publication Number Publication Date
JPWO2019116550A1 JPWO2019116550A1 (ja) 2020-11-19
JP7084416B2 true JP7084416B2 (ja) 2022-06-14

Family

ID=66819149

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019558841A Active JP7084416B2 (ja) 2017-12-15 2017-12-15 情報処理装置及び情報処理方法

Country Status (2)

Country Link
JP (1) JP7084416B2 (ja)
WO (1) WO2019116550A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114041332B (zh) * 2019-07-19 2024-01-30 株式会社富士 安装装置、安装系统以及检查安装方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009136968A (ja) 2007-12-06 2009-06-25 Honda Motor Co Ltd 移動型ロボット
JP2010014504A (ja) 2008-07-02 2010-01-21 Panasonic Corp 検査条件決定方法、検査条件決定装置、外観検査機およびプログラム
JP2011155050A (ja) 2010-01-26 2011-08-11 Hitachi High-Tech Instruments Co Ltd 電子部品装着装置
JP5033600B2 (ja) 2007-11-29 2012-09-26 三洋電機株式会社 撮像装置
JP2013146833A (ja) 2012-01-20 2013-08-01 Nsk Ltd ワーク処理装置、及びワーク処理方法
WO2014076836A1 (ja) 2012-11-19 2014-05-22 富士機械製造株式会社 部品実装機および実装検査機

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0533600U (ja) * 1991-10-07 1993-04-30 三洋電機株式会社 電子部品自動装着装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5033600B2 (ja) 2007-11-29 2012-09-26 三洋電機株式会社 撮像装置
JP2009136968A (ja) 2007-12-06 2009-06-25 Honda Motor Co Ltd 移動型ロボット
JP2010014504A (ja) 2008-07-02 2010-01-21 Panasonic Corp 検査条件決定方法、検査条件決定装置、外観検査機およびプログラム
JP2011155050A (ja) 2010-01-26 2011-08-11 Hitachi High-Tech Instruments Co Ltd 電子部品装着装置
JP2013146833A (ja) 2012-01-20 2013-08-01 Nsk Ltd ワーク処理装置、及びワーク処理方法
WO2014076836A1 (ja) 2012-11-19 2014-05-22 富士機械製造株式会社 部品実装機および実装検査機

Also Published As

Publication number Publication date
WO2019116550A1 (ja) 2019-06-20
JPWO2019116550A1 (ja) 2020-11-19

Similar Documents

Publication Publication Date Title
KR102569650B1 (ko) 결함 검사 장치, 결함 검사 프로그램
JP6487327B2 (ja) 実装検査装置
JP5963129B2 (ja) 印刷検査装置、印刷検査システム、検査データの統計方法、プログラム及び基板の製造方法
JP2008014700A (ja) ワークの検査方法及びワーク検査装置
JP7084416B2 (ja) 情報処理装置及び情報処理方法
WO2016143058A1 (ja) 実装装置、撮像処理方法及び撮像ユニット
JPWO2017081773A1 (ja) 基板用の画像処理装置および画像処理方法
JP6831446B2 (ja) 対基板作業装置および画像処理方法
JP2013024666A (ja) 欠陥検出方法および欠陥検出装置
JP2009133696A (ja) 基板の検査方法及び基板の検査装置
JP6837138B2 (ja) 実装装置、情報処理装置、実装システム、実装方法及び情報処理方法
JP7194831B2 (ja) 検査装置および検査用画像の撮像方法
JP6902603B2 (ja) 実装装置及び情報処理方法
JP6932239B2 (ja) 実装装置、情報処理装置及び実装方法
JP6652787B2 (ja) 実装装置及びその制御方法
JP6484838B2 (ja) 検査装置及び検査方法
JP7220672B2 (ja) 実装装置、制御装置及び設定方法
JP2013062404A (ja) 部品実装システム及び部品実装システムにおける状態診断方法
JP7394852B2 (ja) 部品実装システム
JP6980096B2 (ja) 実装装置
JP5271654B2 (ja) 電子部品実装装置
JP6715266B2 (ja) リペア装置及びリペア方法
JP2008177231A (ja) オートプローブ検査方法及びオートプローブ検査装置
JP2009150782A (ja) 被検査体の検査装置
JP2017181270A (ja) 検査方法及び検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211026

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20211214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220524

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220602

R150 Certificate of patent or registration of utility model

Ref document number: 7084416

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150