JP6833114B1 - ワーク画像検索装置およびワーク画像検索方法 - Google Patents

ワーク画像検索装置およびワーク画像検索方法 Download PDF

Info

Publication number
JP6833114B1
JP6833114B1 JP2020527124A JP2020527124A JP6833114B1 JP 6833114 B1 JP6833114 B1 JP 6833114B1 JP 2020527124 A JP2020527124 A JP 2020527124A JP 2020527124 A JP2020527124 A JP 2020527124A JP 6833114 B1 JP6833114 B1 JP 6833114B1
Authority
JP
Japan
Prior art keywords
work
work image
image
shape
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020527124A
Other languages
English (en)
Other versions
JPWO2021106154A1 (ja
Inventor
弘之 木下
弘之 木下
亮輔 川西
亮輔 川西
俊幸 盛田
俊幸 盛田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6833114B1 publication Critical patent/JP6833114B1/ja
Publication of JPWO2021106154A1 publication Critical patent/JPWO2021106154A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/75Determining position or orientation of objects or cameras using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/532Query formulation, e.g. graphical querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5854Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using shape and object relationship
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/754Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Library & Information Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)

Abstract

ワーク画像検索装置(100A)が、第1のワークの第1のワーク形状を2次元平面に投影した第1のワーク画像と、第2のワークの第2のワーク形状を2次元平面に投影した第2のワーク画像と、におけるワーク形状間の差が小さくなるように、第2のワーク画像を変形させて第3のワーク画像を生成するワーク画像変形部(60)と、第3のワーク画像と第1のワーク画像とを比較することで、第1のワーク形状と、第2のワーク形状との類似度を算出する類似度算出部(70)と、を備える。

Description

本発明は、ワーク画像を検索するワーク画像検索装置、ワーク画像検索方法、および機械学習装置に関する。
数値制御(NC:Numerical Control)装置などの制御装置によって制御される工作機械は、種々の形状を有したワークを加工する。制御装置が、工作機械を制御する際に用いる加工プログラムの作成には手間がかかるので、加工プログラムの作成に対しては、作成支援機能の充実化が進められている。例えば、加工プログラムの作成支援機能としては、ユーザが図面を見ながら加工対象の寸法をNC画面に設定することで加工プログラムを作成する機能、CAD(コンピュータ支援設計:Computer-Aided Design)データを直接読み込んでNCプログラムといった加工プログラムを作成する機能などがある。これらの作成支援機能は、一から加工プログラムを作成することを前提としており、類似形状のワークを加工する場合でも一から加工プログラムを作成する必要があるので、加工プログラムの作成効率が悪かった。
類似形状のワークに対応する加工プログラムを流用することで作成効率は上がるが、加工プログラムを流用するためには、新たに加工するワークのワーク形状が、過去に加工したワークのワーク形状と類似しているか否かを判別する必要がある。
特許文献1に記載の加工工程生成装置は、CADデータの加工形状をビットマップに変換した加工形状ビットマップと、データベースに登録されている加工形状ビットマップとを比較することで、CADデータとして与えられた加工形状に一致する加工形状を抽出している。
国際公開第2006/137120号
しかしながら、上記特許文献1の技術では、2次元画像であるビットマップ同士の単純な画素を比較しているに過ぎず、ワーク寸法の縦横比が変わるだけでワーク画像間の類似度が低下するので、ワーク形状が完全に一致したワークのワーク画像以外は、検出が困難であった。
本発明は、上記に鑑みてなされたものであって、検索対象のワークにワーク形状が類似するワークのワーク画像を容易に検索することができるワーク画像検索装置を得ることを目的とする。
上述した課題を解決し、目的を達成するために、本発明のワーク画像検索装置は、第1のワークの第1のワーク形状を2次元平面に投影した第1のワーク画像と、第2のワークの第2のワーク形状を2次元平面に投影した第2のワーク画像と、におけるワーク形状間の差が小さくなるように、第2のワーク画像を変形させて第3のワーク画像を生成するワーク画像変形部を備える。また、本発明のワーク画像検索装置は、第3のワーク画像と第1のワーク画像とを比較することで、第1のワーク形状と、第2のワーク形状との類似度を算出する類似度算出部を備える。
本発明にかかるワーク画像検索装置は、検索対象のワークにワーク形状が類似するワークのワーク画像を容易に検索することができるという効果を奏する。
実施の形態1にかかるワーク画像検索装置の構成を示す図 実施の形態1にかかるワーク画像検索装置が備えるワーク画像取得部の構成を示す図 3次元データで示されるワークの構成を示す図 2次元データで示されるワークの構成を示す図 実施の形態1にかかるワーク画像検索装置が備えるワーク画像変形部の構成を示す図 実施の形態1にかかるワーク画像変形部が備えるワーク画像分割部の構成を示す図 図4に示したワーク画像に設定される座標系を説明するための図 実施の形態1にかかるワーク画像検索装置が実行する検索処理の処理手順を示すフローチャート 実施の形態1にかかるワーク画像検索装置が実行する類似度算出処理の処理手順を示すフローチャート 実施の形態1にかかるワーク画像検索装置が実行する形状特徴の抽出処理を説明するための図 実施の形態1にかかるワーク画像検索装置が実行するセグメンテーション処理を説明するための図 実施の形態1にかかるワーク画像検索装置が実行するセグメントの対応付け処理を説明するための図 実施の形態1にかかるワーク画像検索装置が実行するセグメントの第1の変形処理を説明するための図 実施の形態1にかかるワーク画像検索装置が実行するセグメントの第2の変形処理を説明するための図 実施の形態2にかかるワーク画像検索装置の構成を示す図 実施の形態2にかかる機械学習装置の構成を示す図 実施の形態2にかかる機械学習装置が用いるニューラルネットワークの構成を示す図 実施の形態1,2にかかるワーク画像検索装置を実現するハードウェア構成例を示す図
以下に、本発明の実施の形態にかかるワーク画像検索装置、ワーク画像検索方法、および機械学習装置を図面に基づいて詳細に説明する。なお、これらの実施の形態によりこの発明が限定されるものではない。
実施の形態1.
図1は、実施の形態1にかかるワーク画像検索装置の構成を示す図である。ワーク画像検索装置100Aは、加工対象のワークにワーク形状が類似したワークのワーク画像を検索するコンピュータである。
ワーク画像検索装置100Aは、CADシステム101に接続されており、CADシステム101から加工対象のワークのワーク形状を示す3次元データを読み出す。ワーク画像検索装置100Aは、読み出した3次元データに基づいて、3次元データで示されるワーク画像に類似するワーク画像を検索し、検索したワーク画像と、このワーク画像に対応する加工プログラムを出力する。
ワーク画像検索装置100Aは、ワーク画像取得部20と、ワーク登録部30と、データベース40と、登録画像取得部50と、ワーク画像変形部60と、類似度算出部70と、登録プログラム取得部80と、出力部90とを備えている。
CADシステム101は、3D(3次元)CADによって、ワーク形状を示す3次元データを作成する。ワーク画像取得部20は、CADシステム101から3次元データを読み出す。ワーク画像取得部20は、3次元データを2次元平面に投影することによって、3次元データを2次元データのワーク画像に変換する。ワーク画像取得部20は、2次元データをワーク画像変形部60およびワーク登録部30に送る。
データベース40は、ワークデータを格納する。本実施の形態では、データベース40が、ワークデータD1〜DN(Nは自然数)を格納している場合について説明する。ワークデータD1〜DNのそれぞれは、ワーク画像と、ワーク画像の形状の特徴である形状特徴と、加工プログラムとを含んでいる。このように、データベース40は、ワーク画像と加工プログラムとの組み合わせを複数組記憶している。ワーク画像は、ワーク画像取得部20が3次元データから生成した2次元データである。
ワークデータD1〜DNに含まれるワーク画像は、視点毎に分割された画像(2次元データ)である。形状特徴は、ワーク画像に対応するワークの形状的な特徴である。形状特徴は、ワーク画像変形部60によって抽出される。加工プログラムは、ワーク画像に対応するワークを加工する際に用いられるプログラムである。
なお、以下の説明では、ワークデータD1〜DNを識別する必要が無い場合には、ワークデータD1〜DNの何れかを、ワークデータDxという場合がある。第x(xは1からNの何れかの自然数)のワークデータDxは、第xのワークに対応する、ワーク画像と、形状特徴と、加工プログラムとを含んでいる。このように、ワークデータDxでは、ワーク画像とワークの加工プログラムとが対応付けされている。
登録画像取得部50は、データベース40に接続されており、データベース40に登録されているワークデータD1〜DNのそれぞれから、ワーク画像と形状特徴とを取得する。登録画像取得部50は、取得したワーク画像および形状特徴を、ワーク画像変形部60に送る。登録画像取得部50は、データベース40のワーク画像および形状特徴をコピーして取得してもよい。すなわち、登録画像取得部50は、データベース40にワーク画像および形状特徴を残したままワーク画像および形状特徴を取得してもよい。
ワーク画像変形部60は、ワーク画像取得部20が作成したワーク画像と、登録画像取得部50が取得したワーク画像との間のワーク形状の差が小さくなるように、登録画像取得部50が取得したワーク画像上でワーク形状を変形させる。以下の説明では、ワーク画像取得部20が作成したワーク画像を、新規ワーク画像といい、登録画像取得部50が取得したワーク画像を登録ワーク画像という場合がある。また、ワーク画像変形部60が変形させたワーク画像を変形ワーク画像という場合がある。また、新規ワーク画像に対応するワークを新規ワークといい、登録ワーク画像に対応するワークを登録ワークといい、変形ワーク画像に対応するワークを変形ワークという場合がある。
新規ワーク画像が第1のワーク画像である場合、登録ワーク画像が第2のワーク画像であり、変形ワーク画像が第3のワーク画像である。登録ワーク画像が第1のワーク画像である場合、新規ワーク画像が第2のワーク画像であり、変形ワーク画像が第3のワーク画像である。
また、新規ワークが第1のワークである場合、登録ワークが第2のワークであり、変形ワークが第3のワークである。登録ワークが第1のワークである場合、新規ワークが第2のワークであり、変形ワークが第3のワークである。
また、新規ワークのワーク形状が第1のワーク形状である場合、登録ワークのワーク形状が第2のワーク形状であり、変形ワークのワーク形状が第3のワーク形状である。登録ワークのワーク形状が第1のワーク形状である場合、新規ワークのワーク形状が第2のワーク形状であり、変形ワークのワーク形状が第3のワーク形状である。
ワーク画像変形部60は、新規ワーク画像から形状特徴を抽出する。ワーク画像変形部60は、登録ワーク画像の形状特徴と、新規ワーク画像の形状特徴とに基づいて、登録ワーク画像を変形させることで、変形ワーク画像を生成する。
ワーク画像変形部60は、新規ワーク画像、登録ワーク画像、および変形ワーク画像を、類似度算出部70に送る。また、ワーク画像変形部60は、新規ワーク画像と、新規ワーク画像の形状特徴とをワーク登録部30に送る。
ワーク登録部30は、データベース40に接続されている。ワーク登録部30は、プログラム作成装置などの外部装置に接続されており、プログラム作成装置から加工プログラムを取得する。プログラム作成装置は、ユーザからの指示に従って加工プログラムを作成する装置である。また、ワーク登録部30は、ワーク画像変形部60からワーク画像および形状特徴を取得する。
ワーク登録部30は、ワーク画像変形部60が生成したワーク画像(変形ワーク画像)と、このワーク画像に対応する加工プログラムと、このワーク画像に対応する形状特徴とを対応付けして新たなワークデータを作成する。
類似度算出部70は、新規ワークのワーク画像と、変形ワークのワーク画像とを比較することで、新規ワークのワーク形状と、登録ワークのワーク形状との間の類似度を算出する。類似度算出部70は、算出した類似度が、特定値(第1の特定値)以上となるか否かを判定し、全ての登録ワーク画像の中から、類似度が特定値以上となる登録ワーク画像を抽出する。
なお、類似度算出部70は、新規ワーク画像と変形ワーク画像との差異度を算出してもよい。この場合、類似度算出部70は、新規ワーク画像との間で差異度が特定値未満の変形ワーク画像を判定する。
類似度算出部70は、類似度が特定値以上の登録ワーク画像をワーク画像変形部60から取得し、取得した登録ワーク画像、新規ワーク画像、および類似度を対応付けして出力部90に送る。なお、類似度算出部70は、類似度が特定値以上の登録ワーク画像をデータベース40から取得してもよい。
また、類似度算出部70は、類似度が特定値以上の登録ワーク画像を指定した情報(以下、類似画像情報という)を登録プログラム取得部80に送る。類似画像情報には、登録ワーク画像に対応する類似度の情報が含まれている。
登録プログラム取得部80は、データベース40に接続されている。登録プログラム取得部80は、類似度算出部70から送られてくる類似画像情報に基づいて、類似度が特定値以上である登録ワーク画像と、この登録ワーク画像の加工プログラムをデータベース40から取得する。なお、登録プログラム取得部80は、類似度算出部70から登録ワーク画像を取得してもよい。登録プログラム取得部80は、取得した登録ワーク画像と、この登録ワーク画像に対応する加工プログラムとを対応付けして出力部90に送る。
出力部90は、対応付けされた、登録ワーク画像と、新規ワーク画像と、類似度とを表示装置などの外部装置に出力する。また、出力部90は、対応付けされた、登録ワーク画像と、加工プログラムとを、表示装置または加工プログラム編集装置といった外部装置に出力する。これにより、出力部90は、加工対象のワークに対応する新規ワーク画像と、この新規ワーク画像に類似している登録ワーク画像と、新規ワーク画像と登録ワーク画像との間の類似度と、新規ワーク画像に類似する登録ワーク画像の加工プログラムとを、ユーザに提示することができる。
なお、ワーク画像検索装置100Aは、新規ワーク画像に類似する変形ワーク画像の加工プログラムの出力を省略してもよい。この場合、ワーク画像検索装置100Aは、登録プログラム取得部80を有していなくてもよい。
また、データベース40は、ワーク画像検索装置100Aの外部に配置されていてもよい。すなわち、データベース40は、ワーク画像検索装置100Aの外部装置であってもよい。
図2は、実施の形態1にかかるワーク画像検索装置が備えるワーク画像取得部の構成を示す図である。ワーク画像取得部20は、視点決定部21と、画像生成処理部22とを備えている。
視点決定部21は、3次元データで示される新規ワークの3次元形状を投影する仮想カメラの視線方向(視点)を決定する。視点決定部21は、1つ以上の視線方向を決定する。視点決定部21は、決定した視線方向を画像生成処理部22に送る。視線方向の例は、X軸の正方向、Y軸の正方向、Z軸の正方向、X軸の負方向、Y軸の負方向、およびZ軸の負方向である。
画像生成処理部22は、決定された視線方向における新規ワーク画像を生成する。画像生成処理部22は、生成した新規ワーク画像を、ワーク登録部30およびワーク画像変形部60に送る。
図3は、3次元データで示されるワークの構成を示す図である。ワークには、X軸、Y軸、およびZ軸が設定されている。図3では、円筒軸であるワーク主軸がZ軸であり、円筒軸に垂直な軸がX軸およびY軸である場合を示している。
図3に示すワークは、加工後のワークであり、円柱部材の外壁部分の一部が削られた形状をなしている。具体的には、ワークは、第1の直径を有した第1の円柱部材と、第2の直径を有した第2の円柱部材と、第3の直径を有した第3の円柱部材と、第4の直径を有した第4の円柱部材とで構成されている。第1から第4の円柱部材は、中心軸が何れも円筒軸上である。ワークは、円柱部材の第1から第4の領域が削られることによって第1から第4の円柱部材が形成される。
図4は、2次元データで示されるワークの構成を示す図である。図4では、図3に示した3次元データに対応する2次元データ41を示している。2次元データ41は、画像生成処理部22が3次元データを2次元データに変換したワーク画像である。
図4に示すように、ワークの3次元データからは、種々の視点の画像を得ることができる。なお、図4および後述する図7,10では、ワーク画像にハッチングを付しているが、何れも特定の視点から見た画像を示している。図4では、ワークを、ワーク座標系におけるX軸、Y軸、およびZ軸のそれぞれ正方向および負方向から撮影した場合の6視点分のデプス画像を示している。
デプス画像は、撮影視点から見た場合の被写体の奥行方向の距離に応じて輝度値が変化するように表現された画像である。なお、ワーク画像検索装置100Aが用いる画像の形式はデプス画像に限られない。ワーク画像検索装置100Aは、グレースケール画像を用いてもよい。グレースケール画像は、実際のワークの見え方に起因した特徴が見えるという特長があり、デプス画像は、3次元的な形状を正確にとらえることができるという特長がある。
画像生成処理部22は、仮想カメラの視点を変更可能であるので、ワークの見えない部分を撮影できるように視点を変更することで、様々なワーク形状に対応したワーク画像を得ることができる。また、画像生成処理部22が適用する画像の投影方法は、遠近感のある通常のカメラ画像のような透視投影ではなく、平行投影であってもよい。本来平行な関係にある直線の組でも、透視投影の場合はカメラ視点によっては画像上で平行に描画されないことがある。画像が平行投影された場合には物理的に平行な関係にある直線の組は、画像上でも平行に描画されるので、平行投影は、ワーク形状を判別する際に有利となる場合がある。
図5は、実施の形態1にかかるワーク画像検索装置が備えるワーク画像変形部の構成を示す図である。ワーク画像変形部60は、ワーク画像分割部61と、対応要素設定部62と、変形処理部63とを備えている。
ワーク画像分割部61は、画像生成処理部22から送られてくる新規ワーク画像をセグメントに分割する。また、ワーク画像分割部61は、登録画像取得部50から送られてくる登録ワーク画像を受け付ける。登録画像取得部50から送られてくる登録ワーク画像は、セグメントに分割されている。ワーク画像分割部61は、新規ワーク画像のセグメントおよび登録ワーク画像のセグメントを対応要素設定部62に送る。
対応要素設定部62は、比較する2つのワーク画像間でセグメントの対応付けを行う。すなわち、対応要素設定部62は、新規ワーク画像のセグメントと登録ワーク画像のセグメントとの対応付けを設定する。対応要素設定部62は、新規ワーク画像の視線方向および登録ワーク画像の視線方向に基づいて、新規ワーク画像のセグメントと登録ワーク画像のセグメントとの対応付けを設定する。すなわち、対応要素設定部62は、視線方向が同じである新規ワーク画像のセグメントと登録ワーク画像のセグメントとを対応付ける。対応要素設定部62は、対応付けをしたセグメントを、変形処理部63に送る。
変形処理部63は、対応付けされたセグメント間でワーク画像上のワーク形状の差が小さくなるようにワーク画像上のワーク形状を変形させる。具体的には、変形処理部63は、対応付けされた新規ワーク画像のセグメントおよび登録ワーク画像のセグメントに対し、登録ワーク画像のセグメントが、新規ワーク画像のセグメントに近付くよう登録ワーク画像のセグメントを変形させる。すなわち、変形処理部63は、新規ワーク画像のセグメントとは縦横比が異なる登録ワーク画像のセグメントを変形させる。縦横比は、縦方向の寸法と横方向の寸法との比である。変形処理部63は、例えば、登録ワーク画像のセグメントの縦横比が新規ワーク画像の縦横比に近付くよう、登録ワーク画像のセグメントの縦方向の寸法または横方向の寸法を変更する。なお、変形処理部63は、登録ワーク画像のセグメントの縦方向の寸法および横方向の寸法の両方を変更してもよい。
変形処理部63は、新規ワーク画像のセグメントが、登録ワーク画像のセグメントに近付くよう新規ワーク画像のセグメントを変形させてもよい。この場合、変形処理部63は、登録ワーク画像のセグメントとは縦横比が異なる新規ワーク画像のセグメントを変形させる。変形処理部63は、例えば、新規ワーク画像のセグメントの縦横比が登録ワーク画像の縦横比に近付くよう、新規ワーク画像のセグメントの縦方向の寸法または横方向の寸法を変更する。なお、変形処理部63は、新規ワーク画像のセグメントの縦方向の寸法および横方向の寸法の両方を変更してもよい。
変形処理部63は、新規ワーク画像のセグメントを変形させる場合、新規ワーク画像をコピーしたうえで、コピー後の新規ワーク画像のセグメントを変形させる。この場合、ワーク画像検索装置100Aは、コピーの元となった新規ワーク画像をデータベース40などに格納しておく。
変形処理部63は、対応付けされたセグメント毎にワーク画像上でワーク形状を変形させる。変形処理部63は、ワーク形状を変形させたワーク画像を変形ワーク画像として、類似度算出部70に送る。
図6は、実施の形態1にかかるワーク画像変形部が備えるワーク画像分割部の構成を示す図である。ワーク画像分割部61は、分割処理部604と、特徴抽出部605と、形状要素検出部606と、ワーク座標系決定部607と、セグメンテーション部608とを備えている。
ワーク画像分割部61は、ワーク画像取得部20から新規ワーク画像を受け付けると、新規ワーク画像を視点毎のセグメントに分割し、視点毎のセグメントに分割した新規ワーク画像を対応要素設定部62に送る。具体的には、分割処理部604が、新規ワーク画像の6視点画像を6つの視点の画像に分割する。分割処理部604は、分割した新規ワーク画像を特徴抽出部605に送る。
特徴抽出部605は、視点毎に分割された各新規ワーク画像からエッジ等の視覚的特徴である形状特徴を抽出する。特徴抽出部605は、分割済みの新規ワーク画像、および新規ワーク画像の形状特徴を、形状要素検出部606、ワーク座標系決定部607およびワーク登録部30に送る。
形状要素検出部606は、特徴抽出部605によって抽出された形状特徴から矩形、円などの形状要素を検出する。また、形状要素検出部606は、登録画像取得部50から形状特徴が抽出された視点毎の登録ワーク画像および形状特徴を受け付けると、受け付けた形状特徴から矩形、円などの形状要素を検出する。形状要素検出部606は、抽出された形状特徴および検出した形状要素をワーク座標系決定部607に送る。形状要素検出部606がワーク座標系決定部607に送る形状特徴および形状要素には、新規ワーク画像の形状特徴および形状要素と、登録ワーク画像の形状特徴および形状要素とが含まれている。
ワーク座標系決定部607は、検出された形状特徴に基づいて、ワーク形状とワーク座標系との関係が一致するようにワーク画像の座標系を決定する。すなわち、ワーク座標系決定部607は、仮想カメラの視線方向に基づいて、形状特徴が設定されたワーク画像に視線方向を対応付けする。ワーク座標系決定部607は、ワーク画像に対し、例えば、X軸の正方向、Y軸の正方向、Z軸の正方向、X軸の負方向、Y軸の負方向、またはZ軸の負方向を設定する。ワーク座標系決定部607は、新規ワーク画像および登録ワーク画像に対し、視線方向を設定する。ワーク座標系決定部607は、視線方向を設定した新規ワーク画像および登録ワーク画像をセグメンテーション部608に送る。
セグメンテーション部608は、検出された形状要素に基づいて、新規ワーク画像をセグメントに分割する。また、セグメンテーション部608は、検出された形状要素に基づいて、登録ワーク画像をセグメントに分割する。ワーク画像分割部61がセグメントに分割した新規ワーク画像および登録ワーク画像は、2次元データで示される。
ワーク画像分割部61から出力されるワーク画像には、ワーク画像の形状特徴から抽出された形状要素の情報と、ワーク画像の座標系(視点)の情報と、ワーク画像に含まれるセグメントの情報とが含まれている。
なお、特徴抽出部605は、ワーク座標系決定部607がワーク画像の座標系を決定した後に、新規ワーク画像から形状特徴を抽出してもよい。
ここで、ワーク画像に設定される視線方向(座標系)について説明する。図7は、図4に示したワーク画像に設定される座標系を説明するための図である。図7に示すデプス画像10X,10Y,10Z,11X,11Y,11Zは、新規ワーク画像または登録ワーク画像である。ここでは、デプス画像10X,10Y,10Z,11X,11Y,11Zが、新規ワーク画像である場合について説明する。
デプス画像10Xは、X軸の正方向から負方向に向かう視点の画像であり、デプス画像11Xは、X軸の負方向から正方向に向かう視点の画像である。したがって、ワーク座標系決定部607は、デプス画像10Xに対し、X軸の正方向から負方向に向かう視線方向を設定し、デプス画像11Xに対し、X軸の負方向から正方向に向かう視線方向を設定する。
デプス画像10Yは、Y軸の正方向から負方向に向かう視点の画像であり、デプス画像11Yは、Y軸の負方向から正方向に向かう視点の画像である。したがって、ワーク座標系決定部607は、デプス画像10Yに対し、Y軸の正方向から負方向に向かう視線方向を設定し、デプス画像11Yに対し、Y軸の負方向から正方向に向かう視線方向を設定する。
デプス画像10Zは、Z軸の正方向から負方向に向かう視点の画像であり、デプス画像11Zは、Z軸の負方向から正方向に向かう視点の画像である。したがって、ワーク座標系決定部607は、デプス画像10Zに対し、Z軸の正方向から負方向に向かう視線方向を設定し、デプス画像11Zに対し、Z軸の負方向から正方向に向かう視線方向を設定する。
つぎに、ワーク画像検索装置100Aが実行する検索処理の処理手順について説明する。図8は、実施の形態1にかかるワーク画像検索装置が実行する検索処理の処理手順を示すフローチャートである。
ワーク画像取得部20は、CADシステム101から3次元データを読み出す(ステップS10)。ワーク画像取得部20は、3次元データから2次元データの新規ワーク画像を生成する(ステップS20)。
登録画像取得部50は、データベース40から登録ワーク画像を読み出す(ステップS30)。
ワーク画像変形部60は、登録ワーク画像が新規ワーク画像に近付くよう、登録ワーク画像を変形させる(ステップS40)。すなわち、ワーク画像変形部60は、登録ワーク画像および新規ワーク画像に基づいて、登録ワークのワーク形状が、新規ワークのワーク形状に近付くよう、登録ワーク画像上で登録ワークのワーク形状を変形させる。ワーク画像変形部60によるワーク形状の変形処理手順の詳細については後述する。
類似度算出部70は、新規ワーク画像と変形ワーク画像との類似度を算出する。すなわち、類似度算出部70は、変形ワーク画像と新規ワーク画像とを比較することで、新規ワークのワーク形状と、変形ワークのワーク形状との類似度を算出する(ステップS50)。変形ワーク画像は登録ワーク画像に対応しているので、新規ワーク画像と変形ワーク画像との類似度が、新規ワーク画像と登録ワーク画像との類似度に対応している。このように、類似度算出部70は、新規ワーク画像と登録ワーク画像との類似度の算出の代わりに、新規ワーク画像と変形ワーク画像との類似度の算出を行う。
出力部90は、特定値以上の類似度を示す変形ワーク画像に対応する登録ワーク画像と、この登録ワーク画像に対応する類似度とを、表示装置などに出力する(ステップS60)。出力部90は、変形ワーク画像の類似度の大きさが特定順位よりも高い登録ワーク画像と、この登録ワーク画像に対応する類似度を出力してもよい。
また、ワーク画像変形部60が、新規ワーク画像のセグメントを変形させたうえで類似度が算出されていた場合、出力部90は、特定値以上の類似度を示す変形ワーク画像に対応する新規ワーク画像と、この新規ワーク画像に対応する類似度とを、表示装置などに出力する。出力部90が出力する新規ワーク画像は、コピーの元となった新規ワーク画像(CADシステム101から取得されたワーク画像)である。
また、登録プログラム取得部80は、変形ワーク画像が特定値以上の類似度を示す登録ワーク画像の加工プログラムを、データベース40から取得する(ステップS70)。出力部90は、表示装置などに加工プログラムを出力する(ステップS80)。
ここで、類似度算出部70が実行する類似度算出処理の詳細な処理手順について説明する。図9は、実施の形態1にかかるワーク画像検索装置が実行する類似度算出処理の処理手順を示すフローチャートである。
ワーク画像変形部60は、ワーク画像取得部20から、検索元の6視点画像を取得する(ステップS110)。すなわち、ワーク画像変形部60は、ワーク画像取得部20から送られてくる新規ワーク画像を受け付ける。
6視点画像は6視点分の画像が1つのワーク画像として表現されている。分割処理部604は、各ワーク画像を別々に照合するために、検索元の6視点分の画像を各視点の画像に分割する(ステップS120)。
特徴抽出部605は、視点毎のワーク画像からエッジ等の視覚的特徴である形状特徴を抽出する(ステップS130)。特徴抽出部605が抽出した形状特徴は、ワーク登録部30を介して、データベース40に登録される。形状要素検出部606は、特徴抽出部605によって抽出された形状特徴から、矩形、円などの形状要素を検出する。
ワーク画像変形部60は、登録画像取得部50を介して、データベース40から照合先のワーク画像および形状特徴を取得する(ステップS140)。すなわち、ワーク画像変形部60は、登録画像取得部50がデータベース40から読み出した、登録ワーク画像および登録ワーク画像の形状特徴を、登録画像取得部50から受け付ける。ワーク画像変形部60が取得する登録ワーク画像は、視点毎に分割されている。形状要素検出部606は、取得した形状特徴から、矩形、円などの形状要素を検出する。
ワーク座標系決定部607は、新規ワーク画像の視点毎の形状特徴に基づいて、新規ワーク画像の視線方向を示す座標系を設定する。また、ワーク座標系決定部607は、登録ワーク画像の視点毎の形状特徴に基づいて、登録ワーク画像の視線方向を示す座標系を設定する。
セグメンテーション部608は、新規ワーク画像および登録ワーク画像のそれぞれから検出された形状要素に基づいて、新規ワーク画像および登録ワーク画像のそれぞれをセグメントに分割することでセグメントを取得する(ステップS150)。
対応要素設定部62は、視線方向が同じである新規ワーク画像のセグメントと登録ワーク画像のセグメントとを対応付ける。すなわち、対応要素設定部62は、検索元画像である新規ワーク画像と、照合元画像である登録ワーク画像との間で、セグメントの対応付けを行う。
変形処理部63は、登録ワーク画像上でワーク形状を変形させる(ステップS160)。具体的には、変形処理部63は、登録ワーク画像のセグメントの形状が、新規ワーク画像のセグメントの形状に近付くよう登録ワーク画像のセグメントを変形させる。すなわち、変形処理部63は、対応付けしたセグメントごとに、ワーク画像間のワーク形状の差が小さくなるようにワーク画像上のワーク形状を変形させる。変形処理部63は、セグメントを変形させた登録ワーク画像を変形ワーク画像として類似度算出部70に送る。類似度算出部70は、新規ワーク画像と変形ワーク画像との類似度を算出する(ステップS170)。類似度算出部70は、登録ワーク画像のセグメントの寸法と新規ワーク画像のセグメントの寸法とに基づいて、類似度を算出する。
ワーク画像検索装置100Aは、データベース40内の全ての登録ワーク画像に対して類似度を算出したか否かを判定する(ステップS180)。すなわち、ワーク画像検索装置100Aは、全ての変形ワーク画像に対して類似度を算出したか否かを判定する。
ワーク画像検索装置100Aは、データベース40内の全ての登録ワーク画像に対して類似度を算出していなければ(ステップS180、No)、ステップS140からS180の処理を実行する。ワーク画像検索装置100Aは、データベース40内の全ての登録ワーク画像に対して類似度を算出するまで、ステップS140からS180の処理を繰り返す。ワーク画像検索装置100Aは、データベース40内の全ての登録ワーク画像に対して類似度を算出すると(ステップS180、Yes)、類似度の算出処理を終了する。
類似度算出部70は、類似度が特定値以上の変形ワーク画像を判定する。登録プログラム取得部80は、類似度が特定値以上の変形ワーク画像に対応する登録ワーク画像の加工プログラムを、データベース40から取得する。表示装置は、類似度が特定値以上の変形ワーク画像に対応する登録ワーク画像と、この登録ワーク画像の新規ワーク画像との間の類似度と、この登録ワーク画像の加工プログラムとを表示する。
なお、ワーク画像検索装置100Aは、必ずしもデータベース40に存在する全ての登録ワーク画像に対して、類似度を算出する必要はない。すなわち、ワーク画像検索装置100Aは、データベース40内の全ての登録ワーク画像に対して、ステップS150からS170を実行しなくてもよい。換言すると、ワーク画像検索装置100Aは、データベース40に登録されている形状特徴と、新規ワーク画像の形状特徴とに基づいて、形状特徴間に特定値よりも大きな類似度を有する登録ワーク画像を照合対象(検索対象)とし、特定値未満の類似度を有する登録ワーク画像を照合対象から除外してもよい。このように、登録ワーク画像の形状特徴が、新規ワーク画像の形状特徴に対して大きな乖離がある場合、ワーク画像検索装置100Aは、乖離のある登録ワーク画像を照合対象から除外してもよい。この場合、ワーク画像検索装置100Aは、照合対象として残った登録ワーク画像に対して、ステップS150からS170を実行すればよい。
ここで、ステップS130で説明した形状特徴の抽出処理について説明する。図10は、実施の形態1にかかるワーク画像検索装置が実行する形状特徴の抽出処理を説明するための図である。ここでは、ワーク座標系決定部607がワーク画像の座標系を決定した後に、特徴抽出部605が、新規ワーク画像から形状特徴を抽出する場合について説明する。
特徴抽出部605は、種々の視点のワーク画像を含んだ2次元データ41から、各視点の画像中に存在する直線、円などの形状特徴を抽出する。特徴抽出部605は、2次元データ41に含まれる、X軸視点のワーク画像42X、Y軸視点のワーク画像42Y、およびZ軸視点のワーク画像42Zから直線、円などの形状特徴を抽出する。
図10では、ワーク画像42X〜42Zに対して点線で示されている直線または円が形状特徴である。ワークが円筒形状であり、ワークの円筒軸であるワーク主軸がZ軸である場合、ワーク画像42X,42Yの形状特徴は、複数の直線で示される直方体として表現される傾向にある。
ワーク画像42Xでは、ワークの輪郭線を除けば、X軸視点においてワークの形状を特徴づけているのはワーク画像42XのX軸に対して平行な直線である。ワーク画像42Yでは、ワークの輪郭線を除けば、Y軸視点においてワークの形状を特徴づけているのはワーク画像42YのY軸に対して平行な直線である。また、ワーク画像42Zでは、ワークの形状を特徴づけているのは主に円である。
つぎに、ステップS150で説明したセグメンテーション処理について説明する。図11は、実施の形態1にかかるワーク画像検索装置が実行するセグメンテーション処理を説明するための図である。ここでのセグメンテーション処理は、直線を利用したセグメンテーション処理であり、円を利用したセグメンテーション処理については後述する。
ワーク画像42Xに示されるように、X軸視点においては直線が支配的な形状特徴であり、ワーク画像42Yに示されるように、Y軸視点においては直線が支配的な形状特徴である。また、Z軸視点においては円が支配的な形状特徴である。セグメンテーション部608は、セグメンテーション処理の際には、各視点における支配的な形状特徴を使用する。
図11では、セグメンテーション部608が、図10に示したワーク画像42Yに対してセグメンテーション処理を実行する場合について説明する。セグメンテーション部608は、ワーク画像42Yから抽出された直線に基づいて、ワークの前景領域を矩形領域と仮定して、ワークをセグメンテーションする。ワークの前景領域は、ワーク画像42Yのうち、ワークが表示されている領域である。ワークの前景領域が複数の矩形領域であると仮定した場合、ワークの各前景領域は、ワークの配置されている箇所とワークの配置されていない箇所との境界線と、形状特徴である直線とで囲まれる領域である。したがって、ワークの前景領域を矩形領域と仮定した場合、セグメントも矩形領域となる。
セグメンテーション部608は、ワーク画像42Yに対し、ワークの配置されている箇所と、ワークの配置されていない箇所との境界線である、Z軸方向の平行な境界線を探す。このとき、セグメンテーション部608は、ワーク画像42Yの上部に配置されているZ軸方向に平行な辺から、ワークの配置されている側へ向かって境界線を探索する。また、セグメンテーション部608は、ワーク画像42Yの下部に配置されているZ軸方向に平行な辺から、ワークの配置されている側へ向かって境界線を探索する。セグメンテーション部608は、探し出した上側の境界線と、探し出した下側の境界線と、形状特徴であるX軸方向の2つの直線とで囲まれる矩形の領域を、1つのセグメントに設定する。セグメンテーション部608は、ワーク画像42Yに対して1または複数のセグメントを設定する。
ワーク画像42Yには、形状特徴として5本の直線が抽出されているので、ワーク画像42Yは、4つの矩形領域を含んでいる。したがって、セグメンテーション部608は、ワーク画像42Yに対して4つのセグメントを設定する。
同様に、セグメンテーション部608は、ワーク画像42Xに対してもセグメント処理を実行する。図11では、境界線を探索中のワーク画像をワーク画像45として図示し、セグメント461〜464が設定されたワーク画像、すなわち矩形領域の検出が完了したワーク画像をワーク画像46として図示している。
つぎに、ステップS160で説明したワーク形状の変形処理について説明する。変形処理部63は、ワーク形状の変形処理を行う際に、新規ワーク画像のセグメントと、登録ワーク画像のセグメントとの対応付けを行う。変形処理部63は、新規ワーク画像のセグメントに対応付けされた、登録ワーク画像のセグメントに対してワーク画像上でワーク形状の変形処理を実行する。
図12は、実施の形態1にかかるワーク画像検索装置が実行するセグメントの対応付け処理を説明するための図である。変形処理部63は、検索元ワークの画像である新規ワーク画像のセグメントと、照合先ワークの画像である登録ワーク画像のセグメントとの対応付けを行う。この場合において、変形処理部63が比較する新規ワーク画像と登録ワーク画像とのセグメント数は、一致しない場合がある。この場合、変形処理部63は、少ないセグメント数に合わせて対応付けをする。変形処理部63は、セグメント数が一致する場合は対応付けを一意に決定できる。一方、セグメント数が一致しない場合には、対応付けに複数の組み合わせが存在する。
例えば、検索元ワークが3つのセグメントA,B,Cで構成されており、照合先ワークが5つのセグメントa,b,c,d,eで構成されているとする。この場合のセグメントの対応付け問題は、照合先ワークの5つのセグメントを3つのグループに分ける組合せ問題として解ける。変形処理部63は、組合せ数Ncombを、組合せの公式nCrを用いて算出できる。n=(多いほうのセグメント数)−1、r=(少ないほうのセグメント数)−1である。よって、検索元ワークが3つのセグメントA,B,Cで構成されており、照合先ワークが5つのセグメントa,b,c,d,eである場合、図12に示すように、組合せ数Ncombは6通りである。
変形処理部63は、セグメント間に考えられる全ての組合せに対してワーク画像の類似度判定を行うが、セグメント数が多くなると、組合せ数が増加し、処理時間が長くなることが考えられる。この場合、変形処理部63は、対応するセグメント間で前景領域の占める割合(前景占有率)を比較する。前景占有率は、セグメントの領域内でワーク画像が占める割合である。例えば、セグメントが矩形領域である場合、前景占有率は、矩形領域内に占めるワーク画像の割合である。換言すると、前景占有率は、セグメントにおける矩形領域の面積に対するワーク画像の面積の比率である。ワークが円柱部材である場合には、ワークへは面取り加工が行われる場合がある。この場合、セグメントは矩形状であるのに対し、前景領域は、矩形状が面取りされた形状となる。このため、前景占有率は、100%未満となる場合がある。
変形処理部63は、新規画像ワークのセグメントにおける前景占有率と、登録画像ワークのセグメントにおける前景占有率とを比較し、前景占有率の差が小さい順に規定数の組み合わせを選択して類似度を判定してもよい。すなわち、変形処理部63は、セグメントの組み合わせのうち、前景占有率の差が小さい順番で特定数のセグメントの組み合わせを抽出し、抽出したセグメントの組み合わせに対して類似度を判定してもよい。セグメント間でワークの前景占有率が大きく異なる場合には、セグメント間の類似度は小さくなると予想されるので、前景占有率が大きく異なるセグメントは、類似度の判定処理から除外されても検索精度に対する影響は小さい。
図13は、実施の形態1にかかるワーク画像検索装置が実行するセグメントの第1の変形処理を説明するための図である。ワーク画像分割部61は、画像生成処理部22から送られてくる新規ワーク画像の2次元データ41をセグメントに分割する。また、ワーク画像分割部61は、登録画像取得部50から送られてくる登録ワーク画像を受け付ける。
図13では、登録ワーク画像が4つのセグメント51A,52A,53A,54Aで構成されたワーク画像71Aであり、新規ワーク画像が4つのセグメント51B,52B,53B,54Bで構成されたワーク画像71Bである場合を示している。
対応要素設定部62は、比較するワーク画像71Aとワーク画像71Bとの間でセグメントの対応付けを行う。ここでの対応要素設定部62は、セグメント51Aとセグメント51Bとを対応付け、セグメント52Aとセグメント52Bとを対応付ける。また、対応要素設定部62は、セグメント53Aとセグメント53Bとを対応付け、セグメント54Aとセグメント54Bとを対応付ける。
変形処理部63は、セグメントの対応関係に基づいて、対応するセグメントのサイズが一致するようにワーク画像上でワーク形状を変形させる。変形処理部63は、ワーク形状を変形させる際に、照合先ワークのワーク画像である登録ワーク画像を、検索元ワーク画像である新規ワーク画像に合わせる。セグメントの対応関係が既知であれば、変形処理部63は、セグメントごとにワーク形状を拡大または縮小する単純な処理でワーク形状を変形することができる。
変形処理部63が、ワーク画像71Aからセグメント51Aを選択した状態の画像がワーク画像72Aであり、ワーク画像71Bからセグメント51Bを選択した状態の画像がワーク画像72Bである。
変形処理部63は、矩形状のセグメント51A〜54Aを矩形状のまま縦寸法または横寸法を変更する。すなわち、変形処理部63は、セグメント51Aの形状がセグメント51Bの形状にフィットするよう、セグメント51Aの寸法を変更することでセグメント51Aを変形させる。同様に、変形処理部63は、セグメント52Aの形状がセグメント52Bの形状にフィットし、セグメント53Aの形状がセグメント53Bの形状にフィットし、セグメント54Aの形状がセグメント54Bの形状にフィットするよう、セグメント52A〜54Aの寸法を変形させる。
ワーク画像72Xは、セグメント51A〜54Aが、それぞれセグメント51B〜54Bにフィットするよう変形された場合のワーク画像である。変形処理部63は、例えば、矩形状のセグメント51A〜54Aを、それぞれ矩形状のセグメント51X〜54Xに変形することによって、セグメント51X〜54Xとセグメント51B〜54Bとを同じ形状に変更する。セグメント51X〜54Xで構成されるワーク画像が、変形ワーク画像である。
類似度算出部70は、新規ワーク画像であるワーク画像72Bと、変形ワーク画像であるワーク画像72Xとの間の類似度を算出する。
図14は、実施の形態1にかかるワーク画像検索装置が実行するセグメントの第2の変形処理を説明するための図である。図14では、Z軸視点のワーク画像を形状補正する場合について説明する。
ワーク画像分割部61は、画像生成処理部22から送られてくる新規ワーク画像の2次元データ41をセグメントに分割する。また、ワーク画像分割部61は、登録画像取得部50から送られてくる登録ワーク画像を受け付ける。
図14では、登録ワーク画像が3つのセグメント81A,82A,83Aで構成されたワーク画像75Aであり、新規ワーク画像が2つのセグメント81B,82Bで構成されたワーク画像75Bである場合を示している。
セグメント83Aは円形の形状を有し、セグメント82Aは、セグメント83Aを囲う円環状の形状を有し、セグメント81Aは、セグメント82Aを囲う円環状の形状を有している。また、セグメント82Bは円形の形状を有し、セグメント81Bは、セグメント82Bを囲う円環状の形状を有している。
ワーク画像分割部61は、ワーク画像75Bが2つのセグメント81B,82Bで構成されているので、ワーク画像75Bを2つのセグメント81B,82Bに分割する。図14では、2つのセグメント81B,82Bに分割したワーク画像をワーク画像76Bで示している。
新規ワーク画像のセグメント数と、登録ワーク画像のセグメント数とが異なるので、ワーク画像分割部61は、登録ワーク画像に対してセグメント処理をやり直す。すなわち、ワーク画像分割部61は、ワーク画像75Bのセグメント数が2であるので、ワーク画像75Bを2つのセグメントに分割する。
ワーク画像75Aは、3つのセグメント81A,82A,83Aを含んでいるので、ワーク画像分割部61は、ワーク画像75Aを2通りに分割する。すなわち、ワーク画像分割部61は、ワーク画像75Aを2つのセグメント84A,85Aに分割してワーク画像76Aを生成し、ワーク画像75Aを2つのセグメント86A,87Aに分割してワーク画像77Aを生成する。セグメント84Aは、セグメント81Aの形状と同じ形状であり、セグメント85Aは、セグメント82A,83Aを足し合わせた形状と同じ形状である。セグメント86Aは、セグメント81A,82Aを足し合わせた形状と同じ形状であり、セグメント87Aは、セグメント83Aの形状と同じ形状である。
対応要素設定部62は、比較するワーク画像76Aとワーク画像76Bとの間でセグメントの対応付けを行う。ここでの対応要素設定部62は、セグメント81Bとセグメント84Aとを対応付け、セグメント82Bとセグメント85Aとを対応付ける。
同様に、対応要素設定部62は、比較するワーク画像77Aとワーク画像76Bとの間でセグメントの対応付けを行う。ここでの対応要素設定部62は、セグメント81Bとセグメント86Aとを対応付け、セグメント82Bとセグメント87Aとを対応付ける。
変形処理部63は、Z軸視点のワーク画像に対するセグメンテーションを実行する際には、直線を利用したセグメンテーションを、円を利用するセグメンテーションに変更すればよい。
変形処理部63は、セグメントの対応関係に基づいて、対応するセグメントの大きさおよび形状が一致するようにワーク画像上でワーク形状を変形させる。変形処理部63は、図13で説明した処理と同様の処理によって、登録ワーク画像に含まれるセグメントの形状を変形させる。
変形処理部63は、セグメント84Aの形状がセグメント81Bの形状にフィットし、セグメント85Aの形状がセグメント82Bの形状にフィットするよう、セグメント84A,85Aの形状を変形させる。ここでの変形処理部63は、セグメント84Aの内径を円の中心から半径方向に拡大し、セグメント85Aの直径を円の中心から半径方向に拡大する。
同様に、変形処理部63は、セグメント86Aの形状がセグメント81Bの形状にフィットし、セグメント87Aの形状がセグメント82Bの形状にフィットするよう、セグメント86A,87Aの形状を変形させる。ここでの変形処理部63は、セグメント86Aの内径を円の中心から半径方向に拡大し、セグメント87Aの直径を円の中心から半径方向に拡大する。なお、変形処理部63は、セグメントの内径または直径を半径方向に縮小してもよい。
ワーク画像76Xは、セグメント84A,85Aが、それぞれセグメント81B,82Bにフィットするよう変形された場合のワーク画像である。変形処理部63は、セグメント84A,85Aを、それぞれセグメント84X,85Xに変形することによって、セグメント84X,85Xとセグメント81B,82Bとを同じ形状に変更する。
同様に、ワーク画像77Xは、セグメント86A,87Aが、それぞれセグメント81B,82Bにフィットするよう変形された場合のワーク画像である。変形処理部63は、セグメント86A,87Aを、それぞれセグメント86X,87Xに変形することによって、セグメント86X,87Xとセグメント81B,82Bとを同じ形状に変更する。セグメント84X,85Xで構成されるワーク画像76Xが、第1の変形ワーク画像であり、セグメント86X,87Xで構成されるワーク画像77Xが、第2の変形ワーク画像である。
類似度算出部70は、セグメント82Bとセグメント85Xとを比較するともに、セグメント81Bとセグメント84Xとを比較することによって、新規ワーク画像であるワーク画像76Bと、変形ワーク画像であるワーク画像76Xとの間の類似度を算出する。
また、類似度算出部70は、セグメント82Bとセグメント87Xとを比較するともに、セグメント81Bとセグメント86Xとを比較することによって、新規ワーク画像であるワーク画像76Bと、変形ワーク画像であるワーク画像77Xとの間の類似度を算出する。
ここで、類似度算出部70による類似度の算出処理について説明する。なお、ここでは類似度算出部70が類似度の代わりに差異度を算出する場合について説明する。類似度算出部70は、対応する視点画像の差分を算出することによって得られた値が0〜1の値になるように正規化することで、差異度Edifを算出する。ただし、同じ差分値であったとしても、形状補正においては大きな形状変形をさせたワークと、小さな形状変形をさせたワークとでは、後者の方が類似度は高く評価されるべきである。そこで、類似度算出部70は、形状変形における拡大縮小の比率を形状変化率ωscを用いて評価値に重み付けをする。具体的には、類似度算出部70は、以下の式(1)を用いて差異度Edifを算出する。式(1)での、Sは正規化済の差分値であり、添え字のiは各視点のインデックスを示している。
Figure 0006833114
類似度算出部70は、データベース40内の全てのワーク画像に対して、類似度(差異度)を算出し、算出した類似度を、出力部90を介してユーザに提示する。また、類似度算出部70は、類似度が特定値よりも大きいワーク画像の加工プログラムを、出力部90を介してユーザに提示する。このとき、類似度算出部70は、類似度が最大の加工プログラムを1ワーク分だけユーザに提示してもよいし、予め規定されたワーク数だけ類似度が大きい順に加工プログラムを提示してもよい。
このように、ワーク画像検索装置100Aは、新規ワーク画像とは縦横比が異なる登録ワーク画像に対して、登録ワーク画像を変形させたうえで新規ワーク画像と登録ワーク画像との間の類似度を算出している。これにより、ワーク画像検索装置100Aは、ワーク形状が完全に一致していないワーク間に対してもワーク形状の類似度を算出できるので、ワーク間でワーク形状が類似するか否かを判定することができる。
また、ワーク画像検索装置100Aは、類似度の算出方法を変えた複数の評価結果を並べてユーザに提示するなど、実施の形態1から想定されるあらゆるバリエーションでの出力方法をとることができる。
なお、実施の形態1では、セグメントに分割された登録ワーク画像がデータベース40に登録される場合について説明したが、セグメントに分割される前の登録ワーク画像がデータベース40に登録されてもよい。この場合、ワーク画像間の類似度が算出される際に、分割処理部604が登録ワーク画像をセグメントに分割する。
また、データベース40には、セグメントに分割された登録ワーク画像が登録されてもよい。この場合、ワーク画像間の類似度が算出される際に、ワーク画像分割部61が、登録ワーク画像に対してセグメンテーション処理を実行しなくてもよい。
また、データベース40には、ワーク座標系が決定された登録ワーク画像が登録されてもよい。この場合、ワーク画像間の類似度が算出される際に、ワーク画像分割部61が、登録ワーク画像に対してワーク座標系を決定しなくてもよい。
また、データベース40には、形状要素が抽出された登録ワーク画像が登録されてもよい。この場合、ワーク画像間の類似度が算出される際に、ワーク画像分割部61が、登録ワーク画像から形状要素を抽出しなくてもよい。
このように実施の形態1では、ワーク画像検索装置100Aが、新規ワーク画像と登録ワーク画像とにおけるワーク形状間の差が小さくなるように、登録ワーク画像上でワーク形状を変形させて変形ワーク画像を生成している。ワーク画像検索装置100Aは、変形ワーク画像と新規ワーク画像とを比較することで、新規ワークと登録ワークとの類似度を算出している。そして、ワーク画像検索装置100Aは、登録ワーク画像のうち類似度が特定値以上である登録ワークのワーク画像を出力している。これにより、ワーク画像検索装置100Aは、新規ワークに類似する登録ワークのワーク画像を容易に検索することが可能となる。
また、新規ワーク画像に類似する登録ワーク画像の加工プログラムを容易に検索することが可能となる。これにより、ユーザは、検索した加工プログラムを流用して、新規ワークの加工プログラムを作成することができるので、新規ワークの加工プログラムを作成する手間を削減することができる。
実施の形態2.
つぎに、図15から図17を用いてこの発明の実施の形態2について説明する。実施の形態2では、機械学習装置が、データベース40に登録されている登録ワーク画像の形状特徴と、新規ワーク画像の形状特徴と、ワーク形状間の類似度とに基づいて、登録ワーク画像を検索の照合対象にすべきか否かを学習する。
図15は、実施の形態2にかかるワーク画像検索装置の構成を示す図である。図15の各構成要素のうち図1に示す実施の形態1のワーク画像検索装置100Aと同一機能を達成する構成要素については同一符号を付しており、重複する説明は省略する。
ワーク画像検索装置100Bは、ワーク画像検索装置100Aが備える構成要素に加えて、機械学習装置121および推定部122を備えている。機械学習装置121は、ワーク画像変形部60、類似度算出部70およびデータベース40に接続されている。推定部122は、ワーク画像変形部60、登録画像取得部50、機械学習装置121およびデータベース40に接続されている。
機械学習装置121は、新規ワーク画像の形状特徴と登録ワーク画像の形状特徴と類似度とを用いて、データベース40内の登録ワーク画像を類似度算出部70による類似度の算出対象(照合対象)とすべきか否かを学習する。照合対象となる登録ワーク画像が、新規ワーク画像に類似するワーク画像の候補である。
推定部122は、ワーク画像検索装置100Bが新規ワーク画像を読み込んだ場合に、学習結果を用いて、データベース40内の登録ワーク画像に対して類似度を推定し、推定結果に基づいて、登録ワーク画像を類似度の類似度算出部70による算出対象とすべきか否かを判定する。すなわち、機械学習装置121は、新規ワーク画像と登録ワーク画像との間の類似度を推測した推測情報を学習し、推測情報に基づいて、登録ワーク画像を類似度の算出対象とすべきか否かを判定する。
類似度算出部70が算出する類似度は、機械学習装置121による学習結果から推定される類似度よりも正確であるとする。機械学習装置121は、例えば、後述するニューラルネットワークモデルに従って、登録ワーク画像を照合対象とすべきか否かを学習する。推定部122は、機械学習装置121が学習したニューラルネットワークモデルを用いて、新規ワーク画像と登録ワーク画像との間の類似度を推定する。
本実施の形態のワーク画像検索装置100Bは、機械学習装置121および推定部122を用いて、新規ワーク画像と登録ワーク画像との間の類似度を推定する。ワーク画像検索装置100Bは、推定した類似度に基づいて、データベース40内の一部の登録ワーク画像を類似度算出部70による類似度の算出対象とし、残りの登録ワーク画像は類似度算出部70による類似度の算出対象から除外する。
図16は、実施の形態2にかかる機械学習装置の構成を示す図である。図17は、実施の形態にかかる機械学習装置が用いるニューラルネットワークの構成を示す図である。
機械学習装置121は、データ取得部201と、状態観測部202と、学習部203とを有している。データ取得部201は、類似度算出部70から出力される類似度を取得して、学習部203に送る。状態観測部202は、新規ワーク画像の形状特徴と、登録ワーク画像の形状特徴とを状態変数として観測して、学習部203に送る。状態変数は、新規ワーク画像の形状特徴と、登録ワーク画像の形状特徴とを互いに関連付けたデータである。
学習部203は、新規ワーク画像の形状特徴と、登録ワーク画像の形状特徴と、類似度との組み合わせに基づいて作成されるデータセットに基づいて、登録ワーク画像を新規ワーク画像との間の類似度の算出対象とすべきか否かを学習する。
なお、機械学習装置121は、ワーク画像検索装置100B内に配置される場合に限られず、ワーク画像検索装置100Bの外部に配置されていてもよい。この場合、機械学習装置121は、例えば、ネットワークを介してワーク画像検索装置100Bに接続される、ワーク画像検索装置100Bとは別個の装置であってもよい。また、機械学習装置121は、クラウドサーバ上に存在していてもよい。
学習部203は、例えば、ニューラルネットワークモデルに従って、いわゆる教師あり学習により、状態変数と類似度とから、登録ワーク画像が新規ワーク画像に対する照合対象とすべきか否かを学習する。ここで、教師あり学習とは、ある入力と結果(ラベル)のデータの組を大量に学習装置に与えることで、それらのデータセットにある特徴を学習し、入力から結果を推定するモデルをいう。
ニューラルネットワークは、複数のニューロンからなる入力層、複数のニューロンからなる中間層(隠れ層)、および複数のニューロンからなる出力層で構成される。中間層は、1層でもよいし2層以上でもよい。
例えば、図17に示すような3層のニューラルネットワークであれば、複数の入力が入力層X1〜X3に入力されると、その値に重みw11〜w16を掛けて中間層Y1,Y2に入力され、その結果にさらに重みw21〜w26を掛けて出力層Z1〜Z3から出力される。この出力結果は、重みw11〜w16および重みw21〜w26の値によって変わる。
本実施の形態のニューラルネットワークは、状態観測部202によって観測される、新規ワーク画像の形状特徴および登録ワーク画像の形状特徴と、類似度算出部70から出力される類似度と、の組合せに基づいて作成されるデータセットに従って、いわゆる教師あり学習により、登録ワーク画像を新規ワーク画像に対して照合対象とすべきか否かを学習する。
すなわち、ニューラルネットワークは、入力層に新規ワーク画像の形状特徴および登録ワーク画像の形状特徴を入力して出力層から出力された結果が、類似度算出部70から出力される類似度に近づくように重みw11〜w16,w21〜w26を調整することで登録ワーク画像を新規ワーク画像に対して照合対象とすべきか否かを学習する。学習部203は、重みw11〜w16,w21〜w26を調整したニューラルネットワークを推定部122に送る。
また、ニューラルネットワークは、いわゆる教師なし学習によって、登録ワーク画像を新規ワーク画像に対して照合対象とすべきか否かを学習することもできる。教師なし学習とは、入力データのみを大量に機械学習装置121に与えることで、入力データがどのような分布をしているかを学習し、対応する教師データ(出力データ)を与えなくても、入力データに対して圧縮、分類、整形等を行い学習する手法である。教師なし学習では、データセットにある特徴を似たもの同士にクラスタリングすること等ができる。教師なし学習では、このクラスタリングの結果を使って、何らかの基準を設けて、この基準を最適にするような出力の割り当てを行うことで、出力の予測を実現することができる。
また、学習部203は、複数のワーク画像検索装置に対して作成されるデータセットに従って、登録ワーク画像を新規ワーク画像に対する照合対象とすべきかを学習するようにしてもよい。
なお、学習部203は、同一の現場で使用される複数のワーク画像検索装置からデータセットを取得してもよいし、或いは、異なる現場で独立して稼働する複数のワーク画像検索装置から収集されるデータセットを利用して登録ワーク画像を新規ワーク画像に対して照合対象とすべきか否かを学習してもよい。さらに、データセットを収集するワーク画像検索装置を途中で対象に追加し、或いは、逆に対象から除去することも可能である。また、あるワーク画像検索装置に関して登録ワーク画像を新規ワーク画像との照合対象とすべきかを学習した機械学習装置を、これとは別のワーク画像検索装置に取り付け、当該別のワーク画像検索装置に関して登録ワーク画像を新規ワーク画像との照合対象とすべきかを再学習して更新するようにしてもよい。
また、学習部203に用いられる学習アルゴリズムとしては、特徴量そのものの抽出を学習する深層学習(Deep Learning)を用いることもできる。また、学習部203は、他の公知の方法、例えば遺伝的プログラミング、機能論理プログラミング、サポートベクターマシンなどに従って機械学習を実行してもよい。
推定部122は、機械学習装置121が重みw11〜w16,w21〜w26を調整したニューラルネットワークを機械学習装置121から取得する。推定部122は、新規ワーク画像に類似する登録ワーク画像を検索する際に、ワーク画像変形部60から新規ワーク画像の形状特徴を取得し、データベース40から登録ワーク画像の形状特徴を取得する。
推定部122は、新規ワーク画像に類似する登録ワーク画像を検索する際には、ニューラルネットワークの入力層に、新規ワーク画像の形状特徴および第xの登録ワーク画像の形状特徴を入力する。ワーク画像検索装置100Bは、出力層から出力される類似度が特定値(第2の特定値)以上であれば、第xの登録ワーク画像を新規ワーク画像に対する照合対象に設定する。一方、ワーク画像検索装置100Bは、出力層から出力される類似度が特定値未満であれば、第xの登録ワーク画像を新規ワーク画像に対する照合対象から除外する。これにより、推定部122は、データベース40内のワークデータD1〜DNの中から、新規ワーク画像に対する照合対象を抽出する。具体的には、推定部122は、データベース40内のワークデータD1〜DNの中から、照合対象となる登録ワーク画像と、この登録ワーク画像の形状特徴とを抽出する。推定部122は、抽出した登録ワーク画像および形状特徴を登録画像取得部50に送る。
ワーク画像検索装置100Bは、新規ワーク画像に対して照合対象に設定された登録ワーク画像の中から新規ワーク画像に類似するワーク画像を検索する。ワーク画像検索装置100Bは、ワーク画像検索装置100Aと同様の処理によって、新規ワーク画像に類似するワーク画像を検索する。
このように、実施の形態2では、機械学習装置121が新規ワーク画像と登録ワーク画像との間の類似度を推測した情報である推測情報を学習している。これにより、ワーク画像検索装置100Bは、推測された類似度が低い登録ワーク画像を、類似度算出部70による正確な類似度の算出処理対象から除外できる。したがって、ワーク画像検索装置100Bは、効率良く新規ワークに類似する登録ワークの登録ワーク画像を検索することができる。
ここで、実施の形態1,2で説明したワーク画像検索装置100A,100Bのハードウェア構成について説明する。図18は、実施の形態1,2にかかるワーク画像検索装置を実現するハードウェア構成例を示す図である。なお、ワーク画像検索装置100A,100Bは、同様のハードウェア構成を有しているので、ここではワーク画像検索装置100Aのハードウェア構成について説明する。
ワーク画像検索装置100Aは、図18に示した入力装置151、プロセッサ152、メモリ153、データベース40、および出力装置154により実現することができる。プロセッサ152の例は、CPU(Central Processing Unit、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、DSP(Digital Signal Processor)ともいう)またはシステムLSI(Large Scale Integration)である。メモリ153の例は、RAM(Random Access Memory)、ROM(Read Only Memory)である。
ワーク画像検索装置100Aは、プロセッサ152が、メモリ153で記憶されている、ワーク画像検索装置100Aの動作を実行するための、コンピュータで実行可能なワーク形状検索プログラムを読み出して実行することにより実現される。ワーク画像検索装置100Aの動作を実行するためのプログラムであるワーク形状検索プログラムは、ワーク画像検索装置100Aの手順または方法をコンピュータに実行させるものであるともいえる。
ワーク画像検索装置100Aで実行されるワーク形状検索プログラムは、ワーク画像取得部20と、ワーク登録部30と、登録画像取得部50と、ワーク画像変形部60と、類似度算出部70と、登録プログラム取得部80とを含むモジュール構成となっており、これらが主記憶装置上にロードされ、これらが主記憶装置上に生成される。
メモリ153は、プロセッサ152が各種処理を実行する際の一時メモリに使用される。メモリ153は、例えば、ワーク形状検索プログラム、X軸視点のワーク画像42X、Y軸視点のワーク画像42Y、Z軸視点のワーク画像42Zなどを記憶する。
出力装置154は、類似度算出部70から送られてくる類似度などを表示装置などの外部装置に出力する。また、出力装置154は、登録プログラム取得部80から送られてくる加工プログラムなどを表示装置などの外部装置に出力する。
ワーク形状検索プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータが読み取り可能な記憶媒体に記憶されてコンピュータプログラムプロダクトとして提供されてもよい。また、ワーク形状検索プログラムは、インターネットなどのネットワーク経由でワーク画像検索装置100Aに提供されてもよい。
なお、ワーク画像検索装置100Aの機能について、一部を専用回路などの専用のハードウェアで実現し、一部をソフトウェアまたはファームウェアで実現するようにしてもよい。
以上の実施の形態に示した構成は、本発明の内容の一例を示すものであり、別の公知の技術と組み合わせることも可能であるし、本発明の要旨を逸脱しない範囲で、構成の一部を省略、変更することも可能である。
10X,10Y,10Z,11X,11Y,11Z デプス画像、20 ワーク画像取得部、21 視点決定部、22 画像生成処理部、30 ワーク登録部、40 データベース、41 2次元データ、42X〜42Z,45,46,71A,71B,72A,72B,72X,75A,75B,76A,76B,76X,77A,77X ワーク画像、50 登録画像取得部、51A〜54A,51B〜54B,51X〜54X,81A〜87A,81B,82B,84X〜87X,461〜464 セグメント、60 ワーク画像変形部、61 ワーク画像分割部、62 対応要素設定部、63 変形処理部、70 類似度算出部、80 登録プログラム取得部、90 出力部、100A,100B ワーク画像検索装置、101 CADシステム、121 機械学習装置、122 推定部、151 入力装置、152 プロセッサ、153 メモリ、154 出力装置、201 データ取得部、202 状態観測部、203 学習部、604 分割処理部、605 特徴抽出部、606 形状要素検出部、607 ワーク座標系決定部、608 セグメンテーション部、D1〜DN ワークデータ。

Claims (13)

  1. 第1のワークの第1のワーク形状を2次元平面に投影した第1のワーク画像と、第2のワークの第2のワーク形状を2次元平面に投影した第2のワーク画像と、におけるワーク形状間の差が小さくなるように、前記第2のワーク画像を変形させて第3のワーク画像を生成するワーク画像変形部と、
    前記第3のワーク画像と前記第1のワーク画像とを比較することで、前記第1のワーク形状と、前記第2のワーク形状との類似度を算出する類似度算出部と、
    を備えることを特徴とするワーク画像検索装置。
  2. 前記第2のワーク画像のうち、前記第2のワーク形状に対応する類似度が第1の特定値以上であるワーク画像を出力する出力部をさらに備える、
    ことを特徴とする請求項1に記載のワーク画像検索装置。
  3. 前記第2のワーク画像と前記第2のワークの加工に用いられる加工プログラムとの複数の組み合わせを記憶するデータベースと、
    前記データベースから、前記第2のワーク画像のうち前記第2のワーク形状に対応する類似度が第1の特定値以上であるワーク画像の加工プログラムを取得する登録プログラム取得部と、
    をさらに備え、
    前記出力部は、前記登録プログラム取得部が取得した加工プログラムを出力する、
    ことを特徴とする請求項2に記載のワーク画像検索装置。
  4. 前記第1のワーク形状を示す3次元データを2次元平面に投影することによって、前記3次元データを2次元データである前記第1のワーク画像に変換するワーク画像取得部をさらに備える、
    ことを特徴とする請求項1から3の何れか1つに記載のワーク画像検索装置。
  5. 前記ワーク画像変形部は、
    前記第1のワーク画像に含まれるセグメントと前記第2のワーク画像に含まれるセグメントとを対応付けする対応要素設定部と、
    対応付けされたセグメント間の形状の差が小さくなるように、前記第2のワーク画像を変形させて前記第3のワーク画像を生成する変形処理部と、
    を有する、
    ことを特徴とする請求項1から4の何れか1つに記載のワーク画像検索装置。
  6. 前記変形処理部は、前記第2のワーク画像に含まれるセグメントの縦方向の寸法と横方向の寸法との比が、前記第1のワーク画像に含まれるセグメントの縦方向の寸法と横方向の寸法との比に近付くように、前記第2のワーク画像に含まれるセグメントを変形させる、
    ことを特徴とする請求項5に記載のワーク画像検索装置。
  7. 前記ワーク画像変形部は、
    前記第1のワーク画像をセグメントに分割するワーク画像分割部をさらに有する、
    ことを特徴とする請求項5に記載のワーク画像検索装置。
  8. 前記ワーク画像分割部は、
    前記第1のワーク画像から形状の特徴である形状特徴を抽出する特徴抽出部と、
    抽出した形状特徴から矩形または円を示す形状要素を検出する形状要素検出部と、
    前記形状要素に基づいて、前記第1のワーク画像をセグメントに分割するセグメンテーション部と、
    を具備することを特徴とする請求項7に記載のワーク画像検索装置。
  9. 前記ワーク画像取得部は、
    前記3次元データを前記2次元平面に投影する仮想カメラの視点を決定する視点決定部と、
    決定した視点における前記第1のワーク画像を生成する画像生成処理部と、
    を有することを特徴とする請求項4に記載のワーク画像検索装置。
  10. 前記第1のワーク形状と前記第2のワーク形状との間の類似度を推測した情報である推測情報を学習する機械学習装置をさらに備える、
    ことを特徴とする請求項1に記載のワーク画像検索装置。
  11. 前記機械学習装置は、
    前記第1のワーク画像の形状特徴および前記第2のワーク画像の形状特徴を状態変数として観測する状態観測部と、
    前記類似度を取得するデータ取得部と、
    前記状態変数および前記類似度の組み合わせに基づいて作成されるデータセットに従って、前記推測情報を学習する学習部と、
    を具備する、
    ことを特徴とする請求項10に記載のワーク画像検索装置。
  12. 前記3次元データは、コンピュータ支援設計データである、
    ことを特徴とする請求項4または9に記載のワーク画像検索装置。
  13. 第1のワーク形状を2次元平面に投影した第1のワーク画像と、第2のワーク形状を2次元平面に投影した第2のワーク画像と、におけるワーク形状間の差が小さくなるように、前記第2のワーク画像を変形させて第3のワーク画像を生成する生成ステップと、
    前記第3のワーク画像と前記第1のワーク画像とを比較することで、前記第1のワーク形状と、前記第2のワーク形状との類似度を算出する算出ステップと、
    を含むことを特徴とするワーク画像検索方法
JP2020527124A 2019-11-28 2019-11-28 ワーク画像検索装置およびワーク画像検索方法 Active JP6833114B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/046610 WO2021106154A1 (ja) 2019-11-28 2019-11-28 ワーク画像検索装置、ワーク画像検索方法、および機械学習装置

Publications (2)

Publication Number Publication Date
JP6833114B1 true JP6833114B1 (ja) 2021-02-24
JPWO2021106154A1 JPWO2021106154A1 (ja) 2021-12-09

Family

ID=74665101

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020527124A Active JP6833114B1 (ja) 2019-11-28 2019-11-28 ワーク画像検索装置およびワーク画像検索方法

Country Status (5)

Country Link
US (1) US11580156B2 (ja)
JP (1) JP6833114B1 (ja)
CN (1) CN114730459B (ja)
DE (1) DE112019007827T5 (ja)
WO (1) WO2021106154A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216931A (ja) * 2002-01-28 2003-07-31 Matsushita Electric Works Ltd 特定パターン認識方法、特定パターン認識プログラム、特定パターン認識プログラム記録媒体および特定パターン認識装置
JP2006520055A (ja) * 2003-03-06 2006-08-31 アニメトリックス,インク. 2次元画像からの3次元オブジェクトの不変視点検出および識別
JP2006520948A (ja) * 2003-01-25 2006-09-14 パーデュー リサーチ ファンデーション 3次元オブジェクトについて検索を行なうための方法、システムおよびデータ構造
JP2017208092A (ja) * 2016-05-17 2017-11-24 富士通株式会社 記述子を使用して3dアイテムのデータベースを検索する方法及び装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3676502D1 (de) * 1985-12-20 1991-02-07 Dietmar Steinpichler Verfahren zur mustererkennung.
JP3338373B2 (ja) 1998-06-05 2002-10-28 株式会社アマダ 板金加工統合支援システム
US7397473B2 (en) * 2004-07-16 2008-07-08 Geometric Ltd. Geometry based search method for 3D CAx/PDM repositories
CN100349163C (zh) * 2004-10-14 2007-11-14 上海交通大学 三维cad模型基于形状的相似度评估方法
US7583852B2 (en) * 2004-10-26 2009-09-01 Mitutoyo Corporation Method of filtering an image for high precision machine vision metrology
CN101208639A (zh) 2005-06-20 2008-06-25 富士通株式会社 加工工序生成装置
WO2008033329A2 (en) * 2006-09-15 2008-03-20 Sciammarella Cesar A System and method for analyzing displacements and contouring of surfaces
JP2009129337A (ja) * 2007-11-27 2009-06-11 Hitachi Ltd 三次元類似形状検索装置
WO2010094022A1 (en) * 2009-02-16 2010-08-19 The Penn State Research Foundation Method for rapid prototyping
JP2010231632A (ja) 2009-03-27 2010-10-14 Fujitsu Ltd 工数見積支援プログラム、工数見積支援装置、および工数見積支援方法
JP5705788B2 (ja) 2012-06-05 2015-04-22 株式会社日立製作所 アセンブリモデル類似構造検索システム、及びアセンブリモデル類似構造検索方法
JP5833998B2 (ja) 2012-11-21 2015-12-16 株式会社日立製作所 組立作業性評価計算装置、および組立作業性評価方法
US9644942B2 (en) * 2012-11-29 2017-05-09 Mitsubishi Hitachi Power Systems, Ltd. Method and apparatus for laser projection, and machining method
DE112012001315T5 (de) * 2012-12-10 2014-11-06 Mitsubishi Electric Corporation NC-Programmsuchverfahren, NC-Programmsucheinheit, NC-Programmerzeugungsverfahren und NC-Programmerzeugungseinheit
CN105050768B (zh) 2013-03-28 2017-03-08 Hoya株式会社 形状分割方法、镜片数据处理方法以及镜片加工方法
DE102015208929B3 (de) * 2015-05-13 2016-06-09 Friedrich-Alexander-Universität Erlangen-Nürnberg Verfahren zur 2D-3D-Registrierung, Recheneinrichtung und Computerprogramm
JP6557606B2 (ja) 2016-01-13 2019-08-07 株式会社日立製作所 モデル作成支援システム、モデル作成支援方法、及びモデル作成支援プログラム
JP7075654B2 (ja) * 2017-02-23 2022-05-26 東京都公立大学法人 3次元cadモデル部分検索方法及び3次元cadモデル検索方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003216931A (ja) * 2002-01-28 2003-07-31 Matsushita Electric Works Ltd 特定パターン認識方法、特定パターン認識プログラム、特定パターン認識プログラム記録媒体および特定パターン認識装置
JP2006520948A (ja) * 2003-01-25 2006-09-14 パーデュー リサーチ ファンデーション 3次元オブジェクトについて検索を行なうための方法、システムおよびデータ構造
JP2006520055A (ja) * 2003-03-06 2006-08-31 アニメトリックス,インク. 2次元画像からの3次元オブジェクトの不変視点検出および識別
JP2017208092A (ja) * 2016-05-17 2017-11-24 富士通株式会社 記述子を使用して3dアイテムのデータベースを検索する方法及び装置

Also Published As

Publication number Publication date
CN114730459B (zh) 2024-02-13
CN114730459A (zh) 2022-07-08
WO2021106154A1 (ja) 2021-06-03
US11580156B2 (en) 2023-02-14
US20220350835A1 (en) 2022-11-03
JPWO2021106154A1 (ja) 2021-12-09
DE112019007827T5 (de) 2022-08-04

Similar Documents

Publication Publication Date Title
JP4991317B2 (ja) 顔特徴点検出装置及びその方法
CN110176075B (zh) 通过视觉系统同时考虑图像特征中边缘和法线的系统和方法
JP6069489B2 (ja) 物体認識装置および物体認識方法並びにプログラム
US10430650B2 (en) Image processing system
CN108737694B (zh) 照相机系统及图像提供方法
US20070183665A1 (en) Face feature point detecting device and method
JP6245880B2 (ja) 情報処理装置および情報処理手法、プログラム
JP5762099B2 (ja) 姿勢認識装置、作業ロボット、姿勢認識方法、プログラム及び記録媒体
JP6833114B1 (ja) ワーク画像検索装置およびワーク画像検索方法
JP4772341B2 (ja) 目標識別装置
EP3291179B1 (en) Image processing device, image processing method, and image processing program
JP2017130049A (ja) 画像処理装置、画像処理方法及びプログラム
JP2019211981A (ja) 情報処理装置、情報処理装置の制御方法およびプログラム
US20230185845A1 (en) Image selection apparatus, image selection method, and non-transitory computer-readable medium
JP5448952B2 (ja) 同一人判定装置、同一人判定方法および同一人判定プログラム
JP2011150667A (ja) 情報検索装置、情報検索プログラム及び情報検索方法
JP6833150B1 (ja) 加工プログラム検索装置および加工プログラム検索方法
JP2019159470A (ja) 推定装置、推定方法、及び推定プログラム
JP7265143B2 (ja) 表示制御方法、表示制御プログラムおよび情報処理装置
JP2020017096A (ja) 計測装置、計測方法及び計測プログラム
CN117635888B (zh) 一种数据处理方法及相关装置
JP2018200175A (ja) 情報処理装置、情報処理方法及びプログラム
JP2019070898A (ja) 推定プログラム、推定装置、及び推定方法
Veiga et al. Augmented reality indoor environment detection: proof-of-concept
US20230206482A1 (en) Image selection apparatus, image selection method, and non-transitory computer-readable medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210202

R150 Certificate of patent or registration of utility model

Ref document number: 6833114

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250