JP7843943B2 - 計測装置、計測データ利活用システム及び計測データ取得方法 - Google Patents
計測装置、計測データ利活用システム及び計測データ取得方法Info
- Publication number
- JP7843943B2 JP7843943B2 JP2025546026A JP2025546026A JP7843943B2 JP 7843943 B2 JP7843943 B2 JP 7843943B2 JP 2025546026 A JP2025546026 A JP 2025546026A JP 2025546026 A JP2025546026 A JP 2025546026A JP 7843943 B2 JP7843943 B2 JP 7843943B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- roi
- unit
- output
- sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Length Measuring Devices With Unspecified Measuring Means (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
本発明は、計測装置、計測データ利活用システム及び計測データ取得方法に関する。
半導体デバイスの生産性向上のため、半導体製造装置にはその性能向上のみならず、稼働率の向上が求められる。半導体製造装置の保守作業の多くには人手による作業が含まれているため、保守作業は効率的、かつ適正に行われる必要がある。保守作業における手戻りを防止するため、例えば、作業員による保守作業のログを蓄積・分析するシステムが有効であると考えられる。その場合、保守作業を定量的に特徴づけるため、各々の作業員が装置やパーツに対してどのように動いているかについてもログを蓄積する必要がある。例えば、部品の清拭時における部品を保持しつつ清拭する手の動き、部品の取付時における両手の位置関係、大型部品の解体・取付時における手の運び方、装置内で作業している作業員と周囲のエリアで準備をしている作業員の関係など。
特許文献1は、監視対象物の領域以外の領域が秘匿されるように画像を制限する技術に関する。監視対象物に対するメンテナンス等の作業を遠隔で支援する場合、作業者が監視対象物を撮影した画像を遠隔地の端末装置に送り、指示者が端末装置で画像を確認して作業者の作業を支援する。特許文献1の技術は、監視対象物の周囲には指示者に見せたくない秘匿情報がある場合に、それらを秘匿し、遠隔支援を可能とするものである。
近年では測距技術が進展しており、3Dセンサを用いることで、実寸法レベルで装置に対する作業員の空間的な動きを計測することが可能となっている。
特許文献1では監視対象物として基板処理装置が例示されているが、このような装置の保守作業は、ユーザの工場に設置されており、工場内には他社装置やその他保守作業とは無関係な秘密情報などの多い場所で行われることが多い。さらに、保守作業は、保守作業の対象である装置から部品を取り外し、装置の設置場所とは別の場所で作業が行われることも頻繁に生じる。このため、特許文献1のように固定的に監視対象物だけをモニターできるだけは不十分である。
一般に、保守作業では作業場所の移動が頻繁に発生するため、部品あるいは作業員の動きを追従している計測データを取得する必要があるが、その過程で映してはいけない情報を意図せず取得してしまう可能性があり、情報漏洩につながる危険性がある。
さらに、3Dセンサのデータ量は大きく、データ取得が可能な領域であっても、長時間変化のない状態が続いている状態でデータ取得を継続することは、データ容量の観点から好ましくない。
本発明の一実施の形態である計測装置は、半導体製造装置に対する保守作業が行われる空間に設置された第1の3Dセンサを用いて、作業員による保守作業を計測した計測データを取得する計測装置であって、第1の3Dセンサから取得した生データの画像に含まれる物体を識別する物体識別部と、物体識別部により識別された識別オブジェクトの空間における位置を取得する座標変換部と、1以上の識別オブジェクトの動きに基づき作業員が実施している作業工程を判断する作業判断部と、作業判断部が判断した作業工程に応じて生データの画像のうち出力可/不可とする領域を設定する領域設定部と、生データの画像のうち領域設定部が出力不可とした領域を視認不能とする限定データを生成するデータ限定部とを有する。
情報漏洩リスクが低く、データ容量の小さな計測データを取得可能な計測装置、計測データ利活用システム、計測データ取得方法を提供する。その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになる。
以下、図面を用いて本実施例について説明する。
実施例1において作業員が半導体製造装置に対する保守作業を行う空間を図1に示す。図1の左側に示す現実空間100は、作業員が保守作業を行う空間を模式的に示す上面図である(作業員のみ作図の都合上、側面図として示している)。半導体製造装置40が保守作業を行う対象であり、その周囲に通路10や作業エリア15が設けられている。なお、通路や作業エリアはそれぞれ複数の区画に区分されており、特定の区画の通路や作業エリアを示す場合には符号を付して示すものとする。また、半導体製造装置40としてはエッチャーの例を示しており、図にはベースプレート41、リッド42及びバルブボックス43が示されている。
保守作業時、例えば、作業員30は半導体製造装置40のゲートバルブを解体し、具体的にはバルブボックス43からゲートバルブ44を取り出し、そのときの状況に応じていずれかの作業エリア(この例では作業エリア15b)に移動し、ゲートバルブ44に対する保守作業を行う。このような作業員の作業を3Dセンサ21で計測するため、作業員が作業する可能性のある空間を観測できるよう、現実空間100内には1以上の3Dセンサ21が固定的に設置されている。複数台の3Dセンサを設ける場合には、隣接する3Dセンサの観測範囲が重複するように設置することが望ましい。なお、3Dセンサについても、特定の3Dセンサを示す場合には符号を付して示すものとする。この例では、作業エリア15bにおける作業が視野23aに含まれるよう3Dセンサ21aが、半導体製造装置40に対する作業が視野23bに含まれるよう、3Dセンサ21bが配置されている。3Dセンサ21はケーブル22を介してデータ処理装置20に接続されている。また、この例では作業員30がHMD(Head Mounted Display)31を装着している。HMD31もまた、3Dセンサとしての機能を有する。
データ処理装置20は、3Dセンサ21あるいはHMD31からの計測データ(生データ)を受信するとともに、計測データの画像について作業員が実施する作業工程に応じて視認可能な領域を限定する機能を有する。以下では、視認可能な領域を限定された計測データを限定データという。なお、データ処理装置20は、現実空間100内に配置されている必要はなく、現実空間100外に配置されていてもよい。
データ処理装置20は、限定データを生成するため現実空間100に対応させた空間モデルを保持している。空間モデルが示す仮想空間110を図1の右側に示す。仮想空間110において、通路10が通路モデル50に、作業エリア15が作業エリアモデル55に、ベースプレート41、リッド42、バルブボックス43及びゲートバルブ44がそれぞれベースプレートモデル81、リッドモデル82、バルブボックスモデル83及びゲートバルブモデル84に、作業員30が作業員モデル70に対応している。図1に示す仮想空間110の例では、通路10や作業エリア15をレイアウトにあわせてそのままモデル化しているが、簡略化してもよく、あるいは通路モデル50や作業エリアモデル55といった区分を省略してしまってもよい。座標基準51は、仮想空間の世界座標系の原点を示している。仮想空間110と現実空間100とを対応付けるため仮想空間110の座標基準51に対応する現実空間100の位置には、マーカ11が設置されている。マーカ11として、例えば床面に二次元バーコードや識別しやすい模様を表示したり、テープを貼付したりすることができる。
なお、空間モデルを作成する現実空間100の大きさは、計測対象とする保守作業に応じて定めればよい。上記の例であれば、建屋全体がモデル化されていなくても、作業員が作業する可能性のある範囲が仮想空間110としてモデル化されていれば十分である。
図2Aに、データ処理装置20のハードウェア構成例を示す。データ処理装置20は、図2Aに示すようなプロセッサ(CPU)201、メモリ202、ストレージ装置203、入力インタフェース(I/F)204、出力I/F205、通信I/F206、入出力ポート207、バス208を主要な構成として含む情報処理装置により実現される。プロセッサ201は、メモリ202にロードされたプログラムに従って処理を実行することによって、所定の機能を提供する機能部(機能ブロック)として機能する。ストレージ装置203は、機能部で使用するデータやプログラムを格納する。ストレージ装置203には、例えばHDD(Hard Disk Drive)やSSD(Solid State Drive)のような不揮発性記憶媒体が用いられる。入力I/F204はキーボード、ポインティングデバイスなどの入力装置209を接続するインタフェースであり、出力I/F205は表示装置210を接続するインタフェースである。通信I/F206は、ネットワークを介して他の情報処理装置との通信を可能にする。入出力ポート207は、3Dセンサ21のケーブル22が接続され、3Dセンサ21からの計測データが入力される。これらはバス208により互いに通信可能に接続されている。
なお、データ処理装置20は1台の情報処理装置で実現する必要はなく、複数台の情報処理装置で実現してもよい。さらに、データ処理装置20の一部、あるいはすべての機能をクラウド上のアプリケーションとして実現してもよい。
図2Bに、データ処理装置20の計測機能の機能ブロック図を示す。本機能は、初期設定部221、データ取得部222、物体識別部223、座標変換部224、作業判断部225、領域設定部226、データ限定部227、データ出力部228及び計測機能に必要なデータを記憶するデータ記憶部229を有している。これらの詳細について、以下では図3に示すゲートバルブに対する保守作業を例として参照しながら後述する。この保守作業には半導体製造装置40近傍にて行われるゲートバルブ解体作業や作業エリアにおけるゲートバルブ清拭作業を含む。本実施例によるデータ処理装置20の計測機能は生データの画像について、フレキシブルに視認可能な領域を限定することができるため、半導体製造装置40が設置された建屋内における秘密情報が映り込んだりすることない保守作業の計測データを取得し、秘密漏洩のおそれなく第三者と共有することができる。
[初期設定部221]
初期設定部221は、3Dセンサ21の起動を行う。ここでは3Dセンサ21としてLiDAR(Light Detection And Ranging)方式カメラを用いる例を示す。LiDAR方式カメラはRGB(色)画像データに加え、対象までの距離を示す深度画像データを出力することができる。ただし、3Dセンサ21は3次元のデータ(点群データやメッシュ、ボクセルなどのボリュームデータ)に変換可能な計測データを得られるセンサであればよく、LiDAR方式カメラ以外にも、2つのCMOSイメージセンサを設けたステレオカメラ、投影用パターン発光素子とイメージセンサとを組み合わせたストラクチャードライト方式のセンサ、距離センサとRGBカメラとを組み合わせ、画素間の関係を調整したセンサデバイスなどでもよい。さらに、機械学習などを用いて、RGB画像から各画素の距離情報を推定する機能を実装したセンサを使用してもよい。
初期設定部221は、3Dセンサ21の起動を行う。ここでは3Dセンサ21としてLiDAR(Light Detection And Ranging)方式カメラを用いる例を示す。LiDAR方式カメラはRGB(色)画像データに加え、対象までの距離を示す深度画像データを出力することができる。ただし、3Dセンサ21は3次元のデータ(点群データやメッシュ、ボクセルなどのボリュームデータ)に変換可能な計測データを得られるセンサであればよく、LiDAR方式カメラ以外にも、2つのCMOSイメージセンサを設けたステレオカメラ、投影用パターン発光素子とイメージセンサとを組み合わせたストラクチャードライト方式のセンサ、距離センサとRGBカメラとを組み合わせ、画素間の関係を調整したセンサデバイスなどでもよい。さらに、機械学習などを用いて、RGB画像から各画素の距離情報を推定する機能を実装したセンサを使用してもよい。
また、初期設定部221は計測機能を実行するためのデータの読み込み、初期化を行う。図4Aにデータ記憶部229に読み込まれるデータを示す。CADデータ301は、保守作業の対象である装置、この例では半導体製造装置40のCADデータである。空間モデル302は、図1を用いて説明した作業員が保守作業を行う現実空間のモデルであり、空間モデル302には、生データの画像の出力可否についての属性情報を備える領域(以下、ROI(Region of Interest)と表記する)が設定されている。図4Bに空間モデル302が表す仮想空間において設定されるROIの例を示す。ROIの属性情報は、「出力可」、「出力不可」、「出力禁止」の3区分とする。例えば、ROI321は「出力禁止」属性の領域であり、常に計測データの出力が禁止され、ROI322,323,324は「出力可」/「出力不可」属性の領域であり、データ処理装置20の判断により計測データの出力が許可されうる。なお、初期状態ではすべてのROIを「出力不可」または「出力禁止」に設定しておくものとする。
ここで、空間モデルに対するROIの設定について説明する。ROIは、図1に説明した通路10や作業エリア15にしたがって区画される必要はない。例えば、図4Bでは作業エリアモデル55aの一部がROI321により「出力禁止」とされているが、例えば、作業エリアモデル55aに対応する作業エリア15aの壁面に金属面あるいは鏡が設けられている場合に、金属面や鏡へ意図しない情報が映り込み、計測データに含まれて漏洩するおそれがある。このような事態を防止するため、作業エリア15aの壁面に対応する作業エリアモデル55aの一部に「出力禁止」属性をもつROI321を設定することができる。また、作業エリアモデル55bは一つのROI(ROI322)とされているが、例えば複数のROIに分割されていても構わない。現実空間の利用の実情にあわせて設定することができる。「出力可」/「出力不可」属性のROIは、現実空間に設置された3Dセンサの視野の全てがカバーするように設定されていれば十分であるが、「出力禁止」属性のROIは現実空間に設置された3Dセンサの配置にかかわらず、仮想空間の全体に対して設定しておく。HMD31のような移動する3Dセンサの計測データについても制限可能とするためである。
作業工程テーブル303には、計測する保守作業の作業工程の情報が登録されている。図4Cに作業工程テーブル303のデータ構成例を示す。ID331には作業工程を特定するIDが登録される。作業工程名332には作業工程の名称が登録される。判断基準333には3Dセンサの計測データ等から当該作業工程が実施されていることを判断するための判断基準が登録される。作業エリア候補334には、当該作業工程が実施される作業エリア候補が登録される。作業エリア候補は1箇所の場合もあるし、複数箇所の場合もある。関連ROI335には、作業エリア候補に対応するROIが登録される。属性336には関連ROIの属性が登録される。なお、上述のように、初期設定部221による初期設定では「出力可」/「出力不可」属性のROIは「出力不可」として登録されている。限定態様337は生データの画像を限定する場合の態様が登録される。限定態様についてはさまざまありうるが、例えば視認不能とする画像領域をぼかす、黒塗りにするといった態様が考えられる。
[データ取得部222]
データ取得部222は、3Dセンサ21から受信した計測データ(生データ)を物体識別部223で処理可能なようにデータ処理を行う。具体的には、データ取得部222では、3Dセンサ21から得られるRGB画像データ及び深度画像データの画角を一致させるとともに、座標基準51を原点とする世界座標系で画像データに含まれるオブジェクトの位置を特定するためのカメラパラメータを取得する。カメラパラメータは、カメラ内パラメータとカメラ外パラメータとを含む。カメラ内パラメータは、3Dセンサ21におけるレンズ歪みやRGBセンサと距離センサとの位置関係を含むカメラ校正のためのパラメータをいい、カメラ外パラメータは、3Dセンサ21が世界座標系においてどの位置に、どのような姿勢で設置されているかを示すパラメータをいう。カメラ内パラメータが3Dセンサ21の内蔵メモリに保持されている場合には、3Dセンサ21からカメラ内パラメータを取得し、そうでない場合には、あらかじめ校正を行うことによりカメラ内パラメータを生成しておく。一方、カメラ外パラメータは、3Dセンサ21設置に設定しておいてもよく、SLAM(Simultaneous Localization and Mapping)処理などの自己位置推定アルゴリズムを使って推定した設置位置及び姿勢に基づき設定しておいてもよい。
データ取得部222は、3Dセンサ21から受信した計測データ(生データ)を物体識別部223で処理可能なようにデータ処理を行う。具体的には、データ取得部222では、3Dセンサ21から得られるRGB画像データ及び深度画像データの画角を一致させるとともに、座標基準51を原点とする世界座標系で画像データに含まれるオブジェクトの位置を特定するためのカメラパラメータを取得する。カメラパラメータは、カメラ内パラメータとカメラ外パラメータとを含む。カメラ内パラメータは、3Dセンサ21におけるレンズ歪みやRGBセンサと距離センサとの位置関係を含むカメラ校正のためのパラメータをいい、カメラ外パラメータは、3Dセンサ21が世界座標系においてどの位置に、どのような姿勢で設置されているかを示すパラメータをいう。カメラ内パラメータが3Dセンサ21の内蔵メモリに保持されている場合には、3Dセンサ21からカメラ内パラメータを取得し、そうでない場合には、あらかじめ校正を行うことによりカメラ内パラメータを生成しておく。一方、カメラ外パラメータは、3Dセンサ21設置に設定しておいてもよく、SLAM(Simultaneous Localization and Mapping)処理などの自己位置推定アルゴリズムを使って推定した設置位置及び姿勢に基づき設定しておいてもよい。
データ取得部222におけるデータ処理は、後段の物体識別部223でのデータ処理方法に依存する。物体識別部223における物体識別が2D処理である場合には、RGB画像データ及び深度画像データの画角をあわせる処理を行う。一方、物体識別部223における物体識別が3D処理である場合には、画角をあわせたRGB画像データ及び深度画像データについて、カメラパラメータを用い仮想空間の3Dデータ(3D点群データ)に変換する。
[物体識別部223]
物体識別部223は、データ取得部222によって処理された画像データまたは3Dデータとカメラパラメータを用いて物体識別処理を行う。物体識別処理は2D処理、3D処理のいずれで行ってもよく、公知の手法を用いることができる。物体識別部223は、物体識別処理によって識別されたオブジェクト(識別オブジェクト)を3Dデータとして抽出する。抽出された識別オブジェクトごとに識別情報が付与される。
物体識別部223は、データ取得部222によって処理された画像データまたは3Dデータとカメラパラメータを用いて物体識別処理を行う。物体識別処理は2D処理、3D処理のいずれで行ってもよく、公知の手法を用いることができる。物体識別部223は、物体識別処理によって識別されたオブジェクト(識別オブジェクト)を3Dデータとして抽出する。抽出された識別オブジェクトごとに識別情報が付与される。
[座標変換部224]
座標変換部224は、カメラパラメータを用いて、抽出された識別オブジェクトの3Dデータを世界座標系に変換する。以上の処理によって、データ処理装置20は、3Dセンサ21が取得した生データの画像に含まれる識別オブジェクトを仮想空間における位置とともに把握することができる。
座標変換部224は、カメラパラメータを用いて、抽出された識別オブジェクトの3Dデータを世界座標系に変換する。以上の処理によって、データ処理装置20は、3Dセンサ21が取得した生データの画像に含まれる識別オブジェクトを仮想空間における位置とともに把握することができる。
[作業判断部225]
3Dセンサ21からの計測データに対して、以上の処理を連続して実施することにより、データ処理装置20は、仮想空間における識別オブジェクトの動きを把握することが可能になる。ここで、識別オブジェクトの動きには、仮想空間における識別オブジェクトの移動の他、識別オブジェクトそのものの形状変化なども含む。作業判断部225は、仮想空間における1以上の識別オブジェクトの動きが作業工程テーブル303の判断基準333に該当すれば、当該作業工程として検知する。
3Dセンサ21からの計測データに対して、以上の処理を連続して実施することにより、データ処理装置20は、仮想空間における識別オブジェクトの動きを把握することが可能になる。ここで、識別オブジェクトの動きには、仮想空間における識別オブジェクトの移動の他、識別オブジェクトそのものの形状変化なども含む。作業判断部225は、仮想空間における1以上の識別オブジェクトの動きが作業工程テーブル303の判断基準333に該当すれば、当該作業工程として検知する。
図5は、ゲートバルブ解体工程の例である。現実空間においてバルブボックス43からゲートバルブ44が取り出される様子は、仮想空間ではバルブボックスモデル83からゲートバルブモデル84が遠ざかっていく動きとして表れる。例えば、バルブボックスモデル83とゲートバルブモデル84との最小距離の軌跡などからゲートバルブモデル84の動線を把握し、ゲートバルブの取り出しを判断することができる。なお、ゲートバルブモデル84は、3Dセンサ21からの画像データから抽出された識別オブジェクトであるが、バルブボックスモデル83は固定の装置であるため、識別オブジェクトとして抽出しなくてもCADデータ301に基づきあらかじめ形状を把握しておくことができる。
データ処理装置20は、ゲートバルブ解体において取り出されたゲートバルブをトラッキングする。現実空間に多数の3Dセンサ21が配置されている場合には、ゲートバルブが物体識別部223によって識別オブジェクトとして識別され続けることによって、仮想空間上の軌道をトレースすることで行える。あるいは、作業員30がHMD31のような、作業員30の位置を特定可能とするセンサを装着しているような場合には、メンテナンスを行う作業員30の位置情報に基づき、ゲートバルブのトラッキングを行ってもよい。
作業判断部225は、仮想空間におけるゲートバルブ(識別オブジェクト)の動きをトレースし、作業工程テーブル303の判断基準333と照合する。保守作業がゲートバルブの解体から再びバルブボックスに組み込まれるまでの一連の作業工程を含む場合(図4C参照(ID:P01-1~3))、ゲートバルブモデル84が関連ROI335として登録されているいずれかのROIへ移動したことが確認されると、作業判断部225はゲートバルブの清拭作業の実施を検知する。
[領域設定部226]
ここでは、ゲートバルブの清拭作業に関する生データの画像についての出力可/不可の領域設定を例に説明する。領域設定部226は、3Dセンサ21が取得した生データの画像について出力可/不可とする領域を設定する。この例では、ゲートバルブモデル84が移動したROIの属性を初期状態の出力不可から出力可に切り換える。
ここでは、ゲートバルブの清拭作業に関する生データの画像についての出力可/不可の領域設定を例に説明する。領域設定部226は、3Dセンサ21が取得した生データの画像について出力可/不可とする領域を設定する。この例では、ゲートバルブモデル84が移動したROIの属性を初期状態の出力不可から出力可に切り換える。
生データの画像に出力禁止属性のROIが映り込む範囲がある場合には常に出力不可領域とされる。3Dセンサ21は固定されており、出力禁止属性のROIが映り込む範囲も画像データ内で固定されるため、あらかじめ出力禁止属性のROIに基づく出力不可領域を定めておくことができる。
本例のように「出力可」/「出力不可」属性のROIに識別オブジェクトが移動した場合、最も単純な方法は、移動のタイミングでその属性を出力不可から出力可に切り換え、識別オブジェクトが出ていくと再び出力可から出力不可に切り換える方法である。加えて、「出力可」/「出力不可」属性のROIの属性切り換えにはさらに条件を加えてもよい。例えば、ROI内に入って一定時間(例えば5秒程度)経過した後に出力可に切り換えるようにする。作業のためではなく一時的に通過したようなROIに対する処理を不要にできる。また、作業員の手を識別オブジェクトとして認識しておき、作業員の手がゲートバルブから離れていると判断される場合には、ROIの属性を出力可から出力不可に切り換えるようにしてもよい。
さらにROIの属性切り換えに加え、ROIの範囲を限定するようにしてもよい。現実空間の運用によっては、例えば同じ作業エリアで別の作業員が別の作業を行っており、この作業の画像は出力不可である、といった場合もありうる。このため、ROIを減縮調整可能とする。図6は、ゲートバルブモデル84を基準にROIを減縮する方法を示す。この例では、ゲートバルブモデル84のバウンディングボックス350を算出し、これに作業員の手元が含まれるよう、例えばバウンディングボックス350の重心を基準に、所定倍(例えば1.5倍)に拡大した領域にROIを変更する。ここでは、ROI322を減縮したROIをROI322’として示している。また、別の方法として作業員がROIの領域を調整可能としてもよい。作業員30が装着するHMD31にROIをAR表示させ、出力可能な範囲をハンドモーションで指定可能にすることにより、ROIを減縮することができる。
また、領域設定部226は、このように領域設定部226のアルゴリズムや作業員の判断によってなされた出力可/不可の設定をユーザ(情報管理責任者)が確認できるよう、出力可/不可の設定結果と視認可能に出力される領域をユーザに提示し、必要に応じて出力領域を調整する編集画面を備える。
さらに、領域設定部226は、以上で説明したような出力可/不可の設定に適用した計測装置のアルゴリズムや編集経緯を示すログを限定化レポートとして出力することが望ましい。例えば、限定化レポートは、計測データを限定化する過程についての情報を含む。具体的には、あらかじめデータ出力不可として設定された領域や、作業工程を判断した根拠として識別された物体(識別オブジェクト)の情報や、その物体あるいはその物体を保持する作業員の位置などの情報を含む。また、生データの画像と限定データの画像とを比較表示してもよい。
[データ限定部227]
データ限定部227は、領域設定部226において出力不可とされた生データの画像の一部領域を視認不能にした限定データを生成する。作業工程テーブル303の限定態様337にしたがい、例えば、出力不可領域および出力禁止領域に対して黒塗り、ぼかし、デフォルメ(予めパッチを用意しておいてもよいし、単純図形で置き換えてもよい)といった処理を加える。あるいは、出力不可領域は出力可能になる場面もあるのでぼかし、出力禁止領域に対しては黒塗りというように区別してもよい。ただし、黒塗り部分が多いと空間認識が阻害される可能性があり、その場合は、出力禁止領域に対してもぼかしやデフォルメを用いるとよい。
データ限定部227は、領域設定部226において出力不可とされた生データの画像の一部領域を視認不能にした限定データを生成する。作業工程テーブル303の限定態様337にしたがい、例えば、出力不可領域および出力禁止領域に対して黒塗り、ぼかし、デフォルメ(予めパッチを用意しておいてもよいし、単純図形で置き換えてもよい)といった処理を加える。あるいは、出力不可領域は出力可能になる場面もあるのでぼかし、出力禁止領域に対しては黒塗りというように区別してもよい。ただし、黒塗り部分が多いと空間認識が阻害される可能性があり、その場合は、出力禁止領域に対してもぼかしやデフォルメを用いるとよい。
[データ出力部228]
データ限定部227により生成された限定データを出力する。
データ限定部227により生成された限定データを出力する。
実施例1では固定の3Dセンサにより計測する例を示したが、実施例2では固定の3Dセンサに加え、移動可能な3Dセンサによる計測をも行う例を示す。移動可能な3Dセンサは特に限定されないが、ここでは作業員30が装着するHMD31を3Dセンサとして利用する例を示す。移動可能な3Dセンサの場合、固定された3Dセンサと異なり、あらかじめ仮想空間においてROIを定めておくことができない。
図7を用いて、実施例2で取り上げる上部チャンバの組立工程の例を説明する。ここでは、半導体製造装置40を本体部401、上部チャンバ402、下部チャンバ403を備えるものとして模式的に示している。図7の右下の上部チャンバ402の上面図(模式図)に示されるように、上部チャンバ402は、その中央部に試料台404が設けられ、試料台404を支持する試料台ベース405を備えている。保守作業は、具体的には、半導体製造装置40を分解して、上部チャンバ402を引出し、試料台ベース405にカバーを取り付ける作業とする。
半導体製造装置40は図7の左側に示されるように、通常、本体部401、上部チャンバ402、下部チャンバ403で一体化されており、この状態では固定3DセンサによるROIであるROI411に含まれている。上記の保守作業を実施するため、本体部401が引き上げられる一方、上部チャンバ402は側方に引き出される。例えば、上部チャンバ402は通路10c(図1参照)に引き出され、通路10cを視野に含む固定3Dセンサは設置されておらず、したがってROIが設定されておらず、作業員30が装着するHMD31を3Dセンサとして利用して計測するものとする。この場合の処理について説明する。以下では、実施例1と異なる部分を中心に説明する。
HMD31は、実施例1で説明した3Dセンサ21と同様にRGB画像データ及び深度データを計測データ(生データ)として取得する。HMD31の計測データもデータ取得部222、物体識別部223、座標変換部224によって実施例1において説明した処理がなされ、識別オブジェクトが抽出され、世界座標系における位置が特定される。
[作業判断部225]
特徴的な識別オブジェクトの動きが作業工程テーブル303の判断基準333に定義されており、上部チャンバ402の組立作業の判断を行う。例えば、取り付けるカバーとエアスプレーとを作業員が保持していることを検知条件とする(図4C参照(ID:P02-1))。カバーとエアスプレーと手を検知し、手の重心位置からカバーとエアスプレーとがそれぞれ所定距離未満にあれば、上部チャンバ402の組立作業であると判断する。
特徴的な識別オブジェクトの動きが作業工程テーブル303の判断基準333に定義されており、上部チャンバ402の組立作業の判断を行う。例えば、取り付けるカバーとエアスプレーとを作業員が保持していることを検知条件とする(図4C参照(ID:P02-1))。カバーとエアスプレーと手を検知し、手の重心位置からカバーとエアスプレーとがそれぞれ所定距離未満にあれば、上部チャンバ402の組立作業であると判断する。
[領域設定部226]
作業判断部225の判断を受けて、領域設定部226は、HMD31の計測データに対して、上部チャンバ402の識別オブジェクトを元に出力可属性のROIを設定する。図6と同様に、上部チャンバモデルのバウンディングボックスを算出し、これに作業員の手元が含まれるよう、例えばバウンディングボックスの重心を基準に、所定倍(例えば1.5倍)に拡大した領域を出力可属性のROI412を設定する。
作業判断部225の判断を受けて、領域設定部226は、HMD31の計測データに対して、上部チャンバ402の識別オブジェクトを元に出力可属性のROIを設定する。図6と同様に、上部チャンバモデルのバウンディングボックスを算出し、これに作業員の手元が含まれるよう、例えばバウンディングボックスの重心を基準に、所定倍(例えば1.5倍)に拡大した領域を出力可属性のROI412を設定する。
これにより、固定の3Dセンサが設置されていない領域であっても、作業員が装着した3Dセンサを用いて計測データが取得でき、かつ出力する映像データは、作業対象に関わる周囲のみに限定することにより、意図しない情報漏洩が発生することを予防できる。なお、出力可属性のROI内においてHMD31からの計測データを取得する場合には、計測データの画像の全領域をROIとしてもよい。
実施例3も移動可能な3Dセンサを用いる例であり、ここでは大型部品の運搬に用いる台車に搭載された3Dセンサを用いる例を示す。
図8を用いて、実施例3で取り上げる上部チャンバの解体工程の例を説明する。作業員は上部チャンバ402を下部チャンバ403から分離し、上部チャンバ402を台車420に搭載する。
台車420に搭載された3Dセンサは、実施例1で説明した3Dセンサ21と同様にRGB画像データ及び深度データを計測データ(生データ)として取得する。台車420に搭載された3Dセンサの計測データもデータ取得部222、物体識別部223、座標変換部224によって実施例1において説明した処理がなされ、識別オブジェクトが抽出され、世界座標系における位置が特定される。
[作業判断部225]
特徴的な識別オブジェクトの動きが作業工程テーブル303の判断基準333に定義されており、上部チャンバ402の解体作業の判断を行う。3Dセンサ21bが上部チャンバ402と下部チャンバ403とが分離されたことを検知することを第1条件とする。上部チャンバ402のバウンディングボックス重心と下部チャンバ403のバウンディングボックス重心との距離が所定の距離以上離れた場合に両者が分離されたと判断できる。また、台車420に搭載された3Dセンサが、台車420に上部チャンバ402が置かれたことを検知条件することを第2条件とする。例えば、台車420の上面と上部チャンバ402のバウンディングボックス重心の距離が所定の距離未満となった場合に台車に置かれたと判断できる。この2つの検知条件を満たしたときに上部チャンバ402の解体作業であると判断する。
特徴的な識別オブジェクトの動きが作業工程テーブル303の判断基準333に定義されており、上部チャンバ402の解体作業の判断を行う。3Dセンサ21bが上部チャンバ402と下部チャンバ403とが分離されたことを検知することを第1条件とする。上部チャンバ402のバウンディングボックス重心と下部チャンバ403のバウンディングボックス重心との距離が所定の距離以上離れた場合に両者が分離されたと判断できる。また、台車420に搭載された3Dセンサが、台車420に上部チャンバ402が置かれたことを検知条件することを第2条件とする。例えば、台車420の上面と上部チャンバ402のバウンディングボックス重心の距離が所定の距離未満となった場合に台車に置かれたと判断できる。この2つの検知条件を満たしたときに上部チャンバ402の解体作業であると判断する。
[領域設定部226]
本例では、台車420に搭載された3Dセンサは、台車420の上面にその視野が固定されているとする。この場合は、作業判断部225の判断を受けて、台車420に搭載された3Dセンサの視野全体に対して出力可属性のROI413を設定する。あるいは、台車420の上面に搭載された物のバウンディングボックスを元に出力可属性のROIを設定するようにしてもよい。
本例では、台車420に搭載された3Dセンサは、台車420の上面にその視野が固定されているとする。この場合は、作業判断部225の判断を受けて、台車420に搭載された3Dセンサの視野全体に対して出力可属性のROI413を設定する。あるいは、台車420の上面に搭載された物のバウンディングボックスを元に出力可属性のROIを設定するようにしてもよい。
これにより、固定の3Dセンサが設置されていない領域であっても、移動体に設置された3Dセンサを用いて計測データが取得でき、かつ出力する映像データは、作業対象に関わる周囲のみに限定することにより、意図しない情報漏洩が発生することを予防できる。
図9に実施例1~3で説明した計測装置(データ処理装置20)が収集した、半導体製造装置40に対する保守作業についての計測データを利活用する計測データ利活用システムの構成例を示す。本システムは、半導体製造装置40の製造者であるベンダと半導体製造装置40の使用者であるユーザとによって運用される。図9において、左側にユーザサイトが有する情報処理装置を示し、右側にベンダサイトが有する情報処理装置を示す。ユーザサイトとベンダサイトとはネットワークを介して通信可能とされている。これらの情報処理装置について、3Dセンサによる半導体製造装置40に対する保守作業についての計測データの生データにアクセス可能な装置を実線の黒枠で、計測装置20によって一部の領域が秘匿化された計測データである限定データにアクセス可能な装置を破線の黒枠で囲って示している。
計測装置20が収集した生データ、限定データ及び限定化レポートは、データ共有サーバ501に蓄積される。秘密情報へのアクセス権限を有するユーザはユーザ端末502において、限定化レポートを参照しながら生データと限定データの双方を確認することが可能である。一方、ユーザサイトに滞在しているベンダの担当者も、認証サーバ503を介して、ベンダルームサーバ504から計測データを確認することが可能であるが、アクセス可能な計測データは限定データに限られる。
限定データはネットワークを介して、ベンダサイトにおいても認証サーバ511を介して、アクセスできる。例えば、ベンダでは、解析サーバ512で限定データに基づく保守作業のログを解析し、その解析結果をユーザにレポートすることができる。これにより、遠隔での作業員のトレーニング等が可能になる。
以上の実施例、変形例は本発明を分かりやすくするために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例、変形例の構成の一部を他の実施例、変形例の構成に置き換えることが可能であり、また、ある実施例、変形例の構成に他の実施例、変形例の構成を加えることも可能である。また、各実施例、変形例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
10:通路、11:マーカ、15:作業エリア、21:3Dセンサ、22:ケーブル、23:視野、30:作業員、31:HMD、40:半導体製造装置、41:ベースプレート、42:リッド、43:バルブボックス、44:ゲートバルブ、50:通路モデル、51:座標基準、55:作業エリアモデル、70:作業員モデル、81:ベースプレートモデル、82:リッドモデル、83:バルブボックスモデル、84:ゲートバルブモデル、100:現実空間、110:仮想空間、201:プロセッサ(CPU)、202:メモリ、203:ストレージ装置、204:入力インタフェース、205:出力インタフェース、206:通信インタフェース、207:入出力ポート、208:バス、209:入力装置、210:表示装置、221:初期設定部、222:データ取得部、223:物体識別部、224:座標変換部、225:作業判断部、226:領域設定部、227:データ限定部、228:データ出力部、229:データ記憶部、301:CADデータ、302:空間モデル、303:作業工程テーブル、321,322,322’,323,324:ROI、331:ID、332:作業工程名、333:判断基準、334:作業エリア候補、335:関連ROI、336:属性、337:限定態様、350:バウンディングボックス、401…本体部、402…上部チャンバ、403…下部チャンバ、404…試料台、405:試料台ベース、411,412,413:ROI、420:台車、501:データ共有サーバ、502:ユーザ端末、503,511:認証サーバ、504:ベンダルームサーバ、512:解析サーバ。
Claims (13)
- 半導体製造装置に対する保守作業が行われる空間に設置された第1の3Dセンサを用いて、作業員による前記保守作業を計測した計測データを取得する計測装置であって、
前記第1の3Dセンサから取得した生データの画像に含まれる物体を識別する物体識別部と、
前記物体識別部により識別された識別オブジェクトの前記空間における位置を取得する座標変換部と、
1以上の前記識別オブジェクトの動きに基づき前記作業員が実施している作業工程を判断する作業判断部と、
前記作業判断部が判断した作業工程に応じて前記生データの画像のうち出力可/不可とする領域を設定する領域設定部と、
前記生データの画像のうち前記領域設定部が出力不可とした領域を視認不能とする限定データを生成するデータ限定部とを有する計測装置。 - 請求項1において、
前記空間に、前記生データの画像の出力可否についての属性を備えるROIが設定されており、
前記ROIは、前記生データの画像の出力が常に不可とされる出力禁止属性の第1のROIと前記生データの画像の出力の可/不可が切り換え可能な第2のROIとを含み、
前記領域設定部は、前記生データの画像のうち、前記作業判断部が判断した作業工程において関連ROIとして定められた少なくとも1つの前記第2のROIを出力可として、それ以外の領域を出力不可として設定する計測装置。 - 請求項2において、
前記領域設定部は、前記識別オブジェクトの移動に応じて、前記第2のROIの出力可/不可を切り換える計測装置。 - 請求項2において、
前記領域設定部は、前記生データの画像のうち、出力可とされた前記第2のROIの領域をさらに減縮して設定可能な計測装置。 - 請求項4において、
前記領域設定部は、前記生データの画像のうち、出力可とされた前記第2のROIの領域を前記識別オブジェクトを含む範囲、または前記作業員の指示する範囲に減縮して設定可能であり、
前記作業員の指示する範囲は、前記作業員が装着した第2の3Dセンサにより設定される計測装置。 - 請求項2において、
前記作業員は、第2の3Dセンサを装着しており、
前記物体識別部は、前記第2の3Dセンサから取得した生データの画像に含まれる物体を識別し、
前記領域設定部は、前記第2の3Dセンサから取得した生データの画像のうち、前記物体識別部により識別された識別オブジェクトを含む範囲を出力可能な領域として設定する計測装置。 - 請求項2において、
前記保守作業において台車が使用され、前記台車はその上面を第3のROIとする第3の3Dセンサを備え、
前記物体識別部は、前記第3の3Dセンサから取得した生データの画像に含まれる物体を識別し、
前記領域設定部は、前記台車上に物体がおかれたことを検知すると、前記第3の3Dセンサから取得した生データの画像について前記第3のROIを出力可として設定する計測装置。 - 請求項1において、
前記領域設定部は、前記生データと前記限定データとを比較可能に表示し、前記限定データの画像の視認不能な領域を編集可能な計測装置。 - 請求項1において、
前記領域設定部は、前記限定データにおいての視認不能とする領域が設定された過程についての情報を含む限定化レポートを作成する計測装置。 - 請求項1において、
前記データ限定部は、前記生データの画像のうち前記領域設定部が出力不可とした領域に黒塗り、ぼかし及びデフォルメのいずれかを適用する計測装置。 - 請求項1~10のいずれか一項に記載の計測装置と、
前記計測装置とネットワークを介して接続可能な情報処理装置とを有し、
前記情報処理装置には、前記生データの提供は禁止され、前記限定データが提供される計測データ利活用システム。 - 計測装置を用いて、半導体製造装置に対する保守作業が行われる空間に設置された3Dセンサによって作業員による前記保守作業を計測した計測データを取得する計測データ取得方法であって、
前記計測装置は、物体識別部、座標変換部、作業判断部、領域設定部及びデータ限定部を有し、
前記物体識別部は、前記3Dセンサから取得した生データの画像に含まれる物体を識別し、
前記座標変換部は、前記物体識別部により識別された識別オブジェクトの前記空間における位置を取得し、
前記作業判断部は、1以上の前記識別オブジェクトの動きに基づき前記作業員が実施している作業工程を判断し、
前記領域設定部は、前記作業判断部が判断した作業工程に応じて前記生データの画像のうち出力可/不可とする領域を設定し、
前記データ限定部は、前記生データの画像のうち前記領域設定部が出力不可とした領域を視認不能とする限定データを生成する計測データ取得方法。 - 請求項12において、
前記空間に、前記生データの画像の出力可否についての属性を備えるROIが設定されており、
前記ROIは、前記生データの画像の出力が常に不可とされる出力禁止属性の第1のROIと前記生データの画像の出力の可/不可が切り換え可能な第2のROIとを含み、
前記領域設定部は、前記生データの画像のうち、前記作業判断部が判断した作業工程において関連ROIとして定められた少なくとも1つの前記第2のROIを出力可として、それ以外の領域を出力不可として設定する計測データ取得方法。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2024/008642 WO2025186970A1 (ja) | 2024-03-07 | 2024-03-07 | 計測装置、計測データ利活用システム及び計測データ取得方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2025186970A1 JPWO2025186970A1 (ja) | 2025-09-12 |
| JP7843943B2 true JP7843943B2 (ja) | 2026-04-10 |
Family
ID=96990149
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2025546026A Active JP7843943B2 (ja) | 2024-03-07 | 2024-03-07 | 計測装置、計測データ利活用システム及び計測データ取得方法 |
Country Status (5)
| Country | Link |
|---|---|
| JP (1) | JP7843943B2 (ja) |
| KR (1) | KR20250136845A (ja) |
| CN (1) | CN120937060A (ja) |
| TW (1) | TW202536807A (ja) |
| WO (1) | WO2025186970A1 (ja) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003319158A (ja) | 2002-04-18 | 2003-11-07 | Toshiyuki Tani | 画像処理システム |
| JP2012248967A (ja) | 2011-05-25 | 2012-12-13 | Fujitsu Ltd | セキュリティ確保型リモート監視装置および方式 |
| WO2023228414A1 (ja) | 2022-05-27 | 2023-11-30 | 富士通株式会社 | 情報処理プログラム、情報処理方法、および情報処理装置 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6608778B2 (ja) * | 2016-08-01 | 2019-11-20 | 株式会社日立製作所 | 作業動作指示装置 |
| JP7103040B2 (ja) * | 2018-08-02 | 2022-07-20 | 富士通株式会社 | 表示制御プログラム、表示制御方法、情報処理装置およびヘッドマウントユニット |
| JP7716892B2 (ja) | 2021-06-01 | 2025-08-01 | 東京エレクトロン株式会社 | 画像制限方法、画像制限プログラム、情報処理装置及び支援システム |
-
2024
- 2024-03-07 JP JP2025546026A patent/JP7843943B2/ja active Active
- 2024-03-07 WO PCT/JP2024/008642 patent/WO2025186970A1/ja active Pending
- 2024-03-07 KR KR1020257026573A patent/KR20250136845A/ko active Pending
- 2024-03-07 CN CN202480016387.1A patent/CN120937060A/zh active Pending
-
2025
- 2025-03-06 TW TW114108359A patent/TW202536807A/zh unknown
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003319158A (ja) | 2002-04-18 | 2003-11-07 | Toshiyuki Tani | 画像処理システム |
| JP2012248967A (ja) | 2011-05-25 | 2012-12-13 | Fujitsu Ltd | セキュリティ確保型リモート監視装置および方式 |
| WO2023228414A1 (ja) | 2022-05-27 | 2023-11-30 | 富士通株式会社 | 情報処理プログラム、情報処理方法、および情報処理装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JPWO2025186970A1 (ja) | 2025-09-12 |
| CN120937060A (zh) | 2025-11-11 |
| KR20250136845A (ko) | 2025-09-16 |
| TW202536807A (zh) | 2025-09-16 |
| WO2025186970A8 (ja) | 2025-10-02 |
| WO2025186970A1 (ja) | 2025-09-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5773944B2 (ja) | 情報処理装置および情報処理方法 | |
| JP6946087B2 (ja) | 情報処理装置及びその制御方法、並びに、プログラム | |
| JP5538667B2 (ja) | 位置姿勢計測装置及びその制御方法 | |
| US8401225B2 (en) | Moving object segmentation using depth images | |
| CN108737793B (zh) | 使用摄像机网络跟踪运动对象的方法、系统及装置 | |
| US20190392630A1 (en) | Automated understanding of three dimensional (3d) scenes for augmented reality applications | |
| EP3518146B1 (en) | Image processing apparatus and image processing method | |
| JP6352208B2 (ja) | 三次元モデル処理装置およびカメラ校正システム | |
| AU2013273831B2 (en) | A method for improving tracking using dynamic background compensation with centroid compensation | |
| US8571274B2 (en) | Person-judging device, method, and program | |
| US20190122027A1 (en) | Processing uncertain content in a computer graphics system | |
| CA2573728A1 (en) | Method and apparatus for machine-vision | |
| JP6174968B2 (ja) | 撮像シミュレーション装置 | |
| JP6817742B2 (ja) | 情報処理装置およびその制御方法 | |
| KR20180039013A (ko) | 전자 디바이스 상에서의 환경 맵핑을 위한 피쳐 데이터 관리 | |
| EP4214681B1 (en) | Camera placement guidance | |
| KR20160051804A (ko) | 물리 평면의 디지털 표현의 확장 | |
| JP7843943B2 (ja) | 計測装置、計測データ利活用システム及び計測データ取得方法 | |
| JP5960471B2 (ja) | 画像監視装置 | |
| Clark et al. | Microsoft kinect sensor for real-time color tracking robot | |
| US20240073537A1 (en) | Information processing device, information processing method, and program | |
| JP4846203B2 (ja) | 画像領域設定装置及び画像領域設定方法 | |
| US12555382B2 (en) | Detection system, method, and storage medium | |
| JP7845216B2 (ja) | 情報処理方法、情報処理装置、およびプログラム | |
| Chen et al. | A 3-D surveillance system using multiple integrated cameras |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20250807 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20260310 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20260331 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7843943 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |