JP7664693B2 - 図面認識装置および図面認識プログラム - Google Patents
図面認識装置および図面認識プログラム Download PDFInfo
- Publication number
- JP7664693B2 JP7664693B2 JP2020167393A JP2020167393A JP7664693B2 JP 7664693 B2 JP7664693 B2 JP 7664693B2 JP 2020167393 A JP2020167393 A JP 2020167393A JP 2020167393 A JP2020167393 A JP 2020167393A JP 7664693 B2 JP7664693 B2 JP 7664693B2
- Authority
- JP
- Japan
- Prior art keywords
- symbol
- information
- unit
- drawing data
- attribute
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
Description
例えば、特許文献1には、文字または記号が混在する図面データにおいて、個別に認識された文字がどの記号または配管に対応しているかの対応関係を、事前に用意された、文字と記号との間の相互の位置関係の配置知識をもとに判定する図面認識技術が開示されている。
実施の形態1.
図面認識装置100は、操作入力装置200および表示装置300と接続される。
操作入力装置200は、例えば、キーボード201およびマウス202を備える。
表示装置300は、ディスプレイ301を備える。ディスプレイ301は、例えば、液晶ディスプレイまたは有機EL(Electro Luminescence)ディスプレイである。表示装置300は、操作入力装置200に搭載されていてもよい。
例えば、ユーザは、操作入力装置200が備えるキーボード201またはマウス202を操作して、図面認識装置100に入力する情報を入力する。具体的には、ユーザは、キーボード201またはマウス202を操作して、例えば、イメージ図面1の一覧、または、図面特性情報2の一覧を表示装置300のディスプレイ301に表示させ、イメージ図面1および図面特性情報2を選択する。
イメージ図面1は、例えば、図2に示すような回路図が印刷された紙の図面を、スキャナ等により電子化した図面データである。イメージ図面1は、例えば、図2に示すような回路図が印刷された紙の図面を、計算機上で作成した電子データであってもよい。イメージ図面1のフォーマットは、例えば、jpgまたはtiff形式等の画像フォーマット全般である。
実施の形態1では、一例として、イメージ図面1は、回路図を電子化した図面データとする。
図面特性情報2は、イメージ図面1毎に設定される、当該イメージ図面1の特性に関する情報である。具体的には、図面特性情報2は、名称またはID等、イメージ図面1を特定可能な情報と、当該イメージ図面1の用途と、当該イメージ図面1が用いられる機種を対応付けた情報である。実施の形態1では、図面特性情報2は、例えば、名称またはID等、回路図を特定可能な情報と、当該回路図の用途と、当該回路図が用いられる機種を対応付けた情報である。
なお、ここでは、図面特性情報2はテキストデータとするが、これは一例に過ぎない。図面特性情報2は、図面と図面の特性とが関連付けられた情報となっていればよい。
ユーザは、例えば、キーボード201またはマウス202を操作して、図面認識装置100に対して、ディスプレイ301に、図面記録部に格納されている複数のイメージ図面1の一覧、および、関連度記録部106に格納されている図面特性情報2を表示させる。そして、ユーザは、例えば、キーボード201またはマウス202を操作して、表示させたイメージ図面1の一覧から所望のイメージ図面1を選択し、選択した当該イメージ図面1に対応する図面特性情報2を選択する。
操作入力装置200は、ユーザが選択したイメージ図面1および図面特性情報2を受け付ける。操作入力装置200が受け付けたイメージ図面1および図面特性情報2は、図面認識装置100に入力される。
なお、実施の形態1において、図面認識装置100が行う図面認識とは、イメージ図面1上において、1つ以上のシンボルに関する情報(以下「シンボル情報」という。)、当該シンボルに関連づけられた属性に関する情報(以下「属性情報」という。)、当該シンボル同士の接続線に関する情報(以下「接続線情報」という。)、および、シンボルと属性と接続線との対応関係を認識することをいう。
シンボル情報は、例えば、シンボルの数、各シンボルの位置情報、各シンボルの種別、および、各シンボルの確度の情報を含む。属性情報は、例えば、属性の数、各属性の位置情報、各属性の種別、および、各属性の確度の情報を含む。接続線情報は、接続線の数、各接続線の位置情報、各接続線の種別、および、各接続線の確度の情報を含む。なお、実施の形態1において、「確度」とは、確からしさの確率をいう。例えば、シンボルの確度とはシンボルらしさの確率をいい、属性の確度とは属性らしさの確率をいい、接続線の確度とは接続線らしさの確率をいう。
推論器格納部103は、第1機械学習モデル131、第2機械学習モデル132、および、第3機械学習モデル133を格納している。
第1機械学習モデル131、第2機械学習モデル132、および、第3機械学習モデル133は、イメージ図面1および図面特性情報2を入力として、イメージ図面1の図面認識を行った結果に関する情報を出力するよう学習済みのモデルとする。以下の実施の形態1において、第1機械学習モデル131、第2機械学習モデル132、および、第3機械学習モデル133を、まとめて、単に「機械学習モデル」ともいう。
第2機械学習モデル132は、イメージ図面1および図面特性情報2を入力とし、イメージ図面1上のシンボルに関連付けられた属性情報を認識した結果(以下「属性認識結果」という。)を出力する機械学習モデルである。すなわち、実施の形態1において、第2機械学習モデル132は、属性情報認識用の機械学習モデルである。
第3機械学習モデル133は、イメージ図面1上のシンボル同士の接続線情報を認識した結果(以下「接続線認識結果」という。)を出力する機械学習モデルである。すなわち、実施の形態1において、第3機械学習モデル133は、接続線情報認識用の機械学習モデルである。
図面取得部101は、イメージ図面1に対して所定の処理を行い、推論データを生成する。
上述のとおり、図面認識装置100は、イメージ図面1を機械学習モデルに入力して、当該イメージ図面1の図面認識結果を得る。ここで、機械学習モデルの入力とする画像サイズには制限がある。具体的には、例えば、イメージ図面1が、画像サイズ1920×1080ピクセルのFHD(Full High Definition)である場合、機械学習モデルの入力とすることが可能な画像サイズの上限を超える。
そこで、図面取得部101は、取得したイメージ図面1を、例えば、224×224ピクセルのサイズ毎のデータになるよう分割し、分割したデータを推論データとする。イメージ図面1を分割する間隔は、上下左右に、224×224ピクセルのサイズに等間隔で分割すればよく、イメージ図面1を分割する際に重複する部分があってもよい。
なお、図面取得部101は、例えば、取得したイメージ図面1が、機械学習モデルの入力とすることが可能なサイズの制限内であれば、上述したような処理を行う必要はなく、取得したイメージ図面1を推論データとすればよい。
図面取得部101は、イメージ図面1に基づき生成した推論データ、および、取得した図面特性情報2を、認識部102に出力する。
認識部102は、推論結果、言い換えれば、シンボル認識結果、属性認識結果、または、接続線認識結果を判定部104に出力する。
なお、図4では、説明の簡単のため、図1にて示した図面認識装置100の構成例のうち、図面取得部101、認識部102、および、推論器格納部103のみ示している。
図4に示すように、認識部102は、シンボル認識部1021、属性情報認識部1022、および、接続線認識部1023を備える。
具体的には、シンボル認識部1021は、推論データを解析して当該推論データから画像特徴量を抽出する。また、シンボル認識部1021は、図面特性情報2を解析して当該図面特性情報2から特徴量を抽出する。シンボル認識部1021は、図面特性情報2から、特徴量を、例えば、「家電」であれば「0」、「配電盤」であれば「1」、「車」であれば「2」のように、数値として抽出する。
シンボル認識部1021は、推論データから抽出した画像特徴量と図面特性情報2から抽出した特徴量とを第1機械学習モデル131に入力して、シンボル認識結果を取得する。
実施の形態1において、シンボル認識部1021は、推論データおよび図面特性情報2と、第1機械学習モデル131とに基づき、シンボル認識結果として、推論データ上のシンボルの数、各シンボルの位置情報、各シンボルの種別、および、各シンボルの確度等を取得する。
シンボル認識部1021は、取得したシンボル認識結果を、判定部104に出力する。
具体的には、属性情報認識部1022は、推論データを解析して当該推論データから画像特徴量を抽出する。また、属性情報認識部1022は、図面特性情報2を解析して当該図面特性情報2から特徴量を抽出する。
属性情報認識部1022は、推論データから抽出した画像特徴量と図面特性情報2から抽出した特徴量とを第2機械学習モデル132に入力して、属性認識結果を取得する。
実施の形態1において、属性情報認識部1022は、推論データおよび図面特性情報2と、第2機械学習モデル132とに基づき、属性認識結果として、推論データ上の属性の数、各属性の位置情報、各属性の種別、および、各属性の確度等を取得する。
属性情報認識部1022は、取得した属性認識結果を、判定部104に出力する。
具体的には、接続線認識部1023は、推論データを解析して当該推論データから画像特徴量を抽出する。また、接続線認識部1023は、図面特性情報2を解析して当該図面特性情報2から特徴量を抽出する。
接続線認識部1023は、推論データから抽出した画像特徴量と図面特性情報2から抽出した特徴量とを第3機械学習モデル133に入力して、接続線認識結果を取得する。
実施の形態1において、接続線認識部1023は、推論データおよび図面特性情報2と、第3機械学習モデル133とに基づき、接続線認識結果として、推論データ上の接続線の数、各接続線の位置情報、各接続線の種別、および、各接続線の確度等を接続線認識結果として取得する。
接続線認識部1023は、取得した接続線認識結果を、判定部104に出力する。
図5は、実施の形態1において、シンボル認識部1021が取得したシンボル認識結果、属性情報認識部1022が取得した属性認識結果、および、接続線認識部1023が取得した接続線認識結果の一例のイメージを示す図である。図5Aは、シンボル認識結果、属性認識結果、および、接続線認識結果を、図面取得部101が取得したイメージ図面1にマッピングしたイメージを示しており、図5Bは、シンボル認識結果、属性認識結果、および、接続線認識結果の内容をテキストで示したイメージを示している。
図5Aでは、認識されたシンボルを示す矩形領域、認識された属性を示す矩形領域、および、認識された接続線を示す矩形領域を、図面取得部101が取得したイメージ図面1にマッピングしたイメージを示している。
図5Bでは、例えば、シンボル認識結果には、シンボル名と、認識されたシンボルの位置情報とが含まれるものとしている。シンボルの位置は、イメージ図面1上においてシンボルを示す矩形領域の、X座標の最小値および最大値と、Y座標の最小値および最大値であらわされる。なお、図5Bにおいて示されている各座標は、図5Aにおいて、図上の左上を原点とした座標としている。
また、図5Bでは、例えば、属性認識結果には、属性、言い換えれば、文字と、認識された文字の位置情報とが含まれるものとしている。文字の位置は、イメージ図面1上において文字を示す矩形領域の、X座標の最小値および最大値と、Y座標の最小値および最大値であらわされる。
また、図5Bでは、例えば、接続線認識結果には、接続線の種別と、認識された接続線の位置情報とが含まれるものとしている。接続線の位置は、イメージ図面1上において接続線を示す矩形領域の、X座標の最小値および最大値と、Y座標の最小値および最大値であらわされる。
推論器格納部103は、第1機械学習モデル131、第2機械学習モデル132、および、第3機械学習モデル133を格納する。
また、判定部104は、不一致データ記録部110に格納されている不一致データと、部品記録部105に格納されている部品情報と、関連度記録部106に格納されている関連度情報とに基づき、推論データにおけるシンボルと属性と他のシンボルとの対応関係を判定し、シンボル、属性、および、シンボル同士の接続が正しく認識できているか否かの再判定を行う。不一致データ記録部110に格納されている不一致データの詳細については、後述する。
部品情報は、イメージ図面1において示される部品に関する情報である。
具体的には、部品情報は、例えば、図6に示すように、部品の器具番号および部品コードが含まれる部品リストデータである。
なお、実施の形態1において、部品は、イメージ図面1上においてシンボルとして示される。
関連度情報は、例えば、ユーザによって、予め生成され、関連度記録部106に記録されている。ユーザは、例えば、イメージ図面1と図面特性情報2とに基づいて、関連度情報を予め生成しておく。実施の形態1において、関連度情報は、図7に示すように、シンボル-属性情報(図7において701で示す)、シンボル-接続情報(図7において702で示す)、用途関連度情報(図7において703,704で示す)、および、機種関連度情報(図7において705,706で示す)を含む。
シンボル-属性情報において、シンボル、属性、および、シンボルと関連付けられた属性の出現頻度が対応付けられた情報には、それぞれ、IDが付与されている。
シンボル-接続情報において、シンボル、接続先シンボル、および、接続先シンボルの出現頻度が対応付けられた情報には、それぞれ、IDが付与されている。
シンボル-属性用途関連度情報は、イメージ図面1が用いられる用途毎に、シンボルと属性との関連度が定義された情報である。より詳細には、シンボル-属性用途関連度情報は、イメージ図面1における、シンボル-属性情報にて定義されているシンボルと属性の組み合わせの出現頻度を、用途毎に分類した情報である。シンボル-属性用途関連度情報では、用途毎に、関連付けられたシンボルおよび属性を示す情報と、当該関連付けられたシンボルおよび属性の組み合わせが出現する回数が対応付けられている。
関連付けられたシンボルおよび属性を示す情報は、例えば、シンボル-属性情報におけるIDとする。すなわち、図7の703に示すシンボル-属性用途関連度情報では、「家電」の用途で用いられるイメージ図面1において、「リレー(a)」と「30X004」との組み合わせが、22回出現することを意味している。
例えば、ユーザは、予め、学習フェーズにて使用する複数のイメージ図面1と、生成したシンボル-属性情報とに基づいて、シンボル-属性用途関連度情報を生成している。なお、ユーザは、図3に示すような図面特性情報2に基づけば、イメージ図面1の用途を特定できる。
関連付けられたシンボルおよび接続先シンボルを示す情報は、例えば、シンボル-接続情報におけるIDとする。すなわち、図7の704に示すシンボル-接続用途関連度情報では、「家電」の用途で用いられるイメージ図面1において、「リレー(a)」と「抵抗」との組み合わせが、5回出現することを意味している。
例えば、ユーザは、予め、学習フェーズにて使用する複数のイメージ図面1と、生成したシンボル-接続情報とに基づいて、シンボル-接続用途関連度情報を生成している。
シンボル-属性機種関連度情報は、イメージ図面1が用いられる機器の機種毎に、シンボルと属性との関連度が定義された情報である。より詳細には、機種関連度情報は、イメージ図面1における、シンボル-属性情報にて定義されているシンボルと属性の組み合わせの出現頻度を、機種毎に分類した情報である。シンボル-属性機種関連度情報では、機種毎に、関連付けられたシンボルおよび属性を示す情報と、当該関連付けられたシンボルおよび属性の組み合わせが出現する回数が対応付けられている。
関連付けられたシンボルおよび属性を示す情報は、例えば、シンボル-属性情報におけるIDとする。すなわち、図7の705に示すシンボル-属性機種関連度情報では、機種「N-1001A」で用いられるイメージ図面1において、「リレー(a)」と「30X004」との組み合わせが、18回出現することを意味している。
例えば、ユーザは、予め、学習フェーズにて使用する複数のイメージ図面1と、生成したシンボル-属性情報とに基づいて、シンボル-属性機種関連度情報を生成している。なお、ユーザは、図3に示すような図面特性情報2に基づけば、イメージ図面1の機種を特定できる。
関連付けられたシンボルおよび接続先シンボルを示す情報は、例えば、シンボル-接続情報におけるIDとする。すなわち、図7の706に示すシンボル-接続機種関連度情報では、機種「N-1001A」で用いられるイメージ図面1において、「リレー(a)」と「抵抗」との組み合わせが、15回出現することを意味している。
例えば、ユーザは、予め、学習フェーズにて使用する複数のイメージ図面1と、生成したシンボル-接続情報とに基づいて、シンボル-接続機種関連度情報を生成している。
また、実施の形態1では、図7に示すように、関連度情報は、シンボル-属性情報、シンボル-接続情報、用途関連度情報、および、機種関連度情報とするが、関連度情報は、シンボル-属性情報、シンボル-接続情報、用途関連度情報、および、機種関連度情報の全てが含まれていることを必須としない。関連度情報は、シンボル-属性情報、シンボル-接続情報、用途関連度情報、または、機種関連度情報のうちの少なくとも1つ以上を含むものであればよい。
また、関連度情報は、シンボル-属性情報、シンボル-接続情報、用途関連度情報、または、機種関連度情報に限らず、イメージ図面1上にて示されるシンボル、属性、または、接続線の関連度に関する情報であればよい。例えば、関連度情報には、イメージ図面1における、シンボルと属性の組み合わせ、または、シンボルと接続先シンボルとの組み合わせの出現頻度を、イメージ図面1が主に使用される国または地域毎に分類した国地域関連度情報が含まれるようにしてもよい。
図8は、実施の形態1において、判定部104が、推論データにおけるシンボル、属性、および、シンボル同士の接続が正しく認識できているか否かを総合的に判定する処理の具体例のイメージを示す説明図である。
なお、ここでは、例えば、認識部102から出力されたシンボル認識結果、属性認識結果、および、接続線認識結果は、図5に示すような内容であるものとし、図8に示す認識結果の内容は、図5に示す認識結果の内容と同じである。また、ここでは、例えば、部品記録部105に格納されている部品情報は、図6に示すような内容であるものとし、図8に示す部品情報の内容は、図6に示す部品情報の内容と同じである。
以下では、一例として、判定部104は、認識部102から出力されたシンボル認識結果、属性認識結果、および、接続線認識結果に基づいて、シンボル「リレー(a)」と「リレー(b)」の接続関係が正しく認識できているかを判定する例を挙げて、判定部104による判定処理を説明する。
ここでは、便宜上、属性認識結果に含まれている「30X004」、「30X003」、「FL3」、「FL4」、および、「6LCTX57」は、全て部品情報で定義されている器具番号と一致するものとする。
具体的には、例えば、判定部104は、シンボルと属性と接続線との距離を算出し、当該距離に応じて、上記関連付けを推測する。
例えば、判定部104は、シンボル認識結果においてNo.1の「リレー(a)」の位置を示す座標と、属性認識結果においてNo.1の「30X004」の位置を示す座標とに基づいて「リレー(a)」と「30X004」との距離を算出する。判定部104は、算出した距離が近いことから、「リレー(a)」と「30X004」とは関連付けられていると推測する。なお、実施の形態1において、判定部104は、シンボルと属性との距離、または、シンボルと接続線との距離を、例えば、認識結果における位置情報から矩形の中心位置を算出し、中心位置の差分ベクトルにて求める。判定部104は、例えば、算出した距離と予め設定された閾値(以下「距離判定用閾値」という。)との比較によって、算出した距離が近いか否かを判定すればよい。例えば、判定部104は、算出した距離が距離判定用閾値以下であれば、距離が近いと判定する。
判定部104は、例えば、位置情報から矩形が重なっているかを判定し、重なっている場合に近いと判定するようにしてもよい。
また、例えば、判定部104は、接続線認識結果においてNo.2の接続線の位置を示す座標と、No.5の接続線の位置を示す座標と、No.6の接続線の位置を示す座標とから、No.2の接続線とNo.5の接続線との距離、および、No.5の接続線とNo.6の接続線との距離を判定する。判定部104は、算出した距離がそれぞれ近いことから、No.2の接続線とNo.5の接続線とNo.6の接続線は関連付けられていると推測する。
また、例えば、判定部104は、シンボル認識結果においてNo.2の「リレー(b)」の位置を示す座標と、属性認識結果においてNo.2の「30X003」の位置を示す座標とに基づいて「リレー(b)」と「30X003」との距離を算出する。判定部104は、算出した距離が近いことから、「リレー(b)」と「30X003」とは関連付けられていると推測する。
例えば、ここでは、上述のとおり、判定部104は、リレー(a)とリレー(b)とは接続されていると仮判定した。そこで、判定部104は、例えば、関連度情報のシンボル-接続情報を参照し、リレー(a)とリレー(b)とに対応付けられた回数と予め設定された閾値(以下「シンボル接続判定用閾値」という。)とを比較する。判定部104は、例えば、シンボル-接続情報にて定義されている回数がシンボル接続判定用閾値を超えている場合、リレー(a)とリレー(b)とは接続されているとの仮判定は正しい判定する。ここでは、例えば、シンボル接続判定用閾値は「10」であったとすると、シンボル-接続情報においてリレー(a)とリレー(b)とに対応付けられた回数は「25」であることから(図7の702参照)、判定部104は、リレー(a)とリレー(b)とは接続されていると判定する。すなわち、判定部104は、リレー(a)とリレー(b)が、正しい対応関係で認識されていると判定する。
具体例を挙げると、例えば、シンボル認識結果として、Aシンボル、Bシンボルが認識され、Cシンボルは認識されなかったとする。なお、AシンボルおよびCシンボルは、「家電」の用途で用いられるイメージ図面1において優先的に使用されるシンボルであり、Bシンボルは「配電盤」の用途で用いられるイメージ図面1において優先的に使用されるシンボルであるものとする。
また、関連度情報において、シンボル-接続情報には、AシンボルとCシンボルとの関連度が高く、AシンボルとBシンボルとの関連度は低い旨が定義されているとする。
この場合、判定部104は、認識部102から出力された認識結果に基づき、AシンボルとBシンボルとは接続されているとの対応関係を仮判定するが、関連度情報を参照した結果、AシンボルとBシンボルとは関連度が高くないと判定しなおすことになる。一方で、判定部104は、関連度情報に基づき、例えば、「家電」の用途において、AシンボルとCシンボルとの関連度が高いと判定できたとする。この場合、判定部104は、例えば、認識結果において、CシンボルをBシンボルと置き換えるようにしてもよい。
また、判定部104は、認識結果から関連付けを行うことができなかったシンボルまたは属性について、関連度情報に基づいて、その関連付けを補完することもできる。
判定結果は、例えば、図9に示すように、シンボル、当該シンボルの位置、当該シンボルと関連付けた属性、属性の位置、当該シンボルの接続先シンボル、および、接続先シンボルの位置が対応付けられた情報(以下「関連判定結果情報」という。)が、シンボル毎に設定された情報である。なお、接続先シンボルが複数ある場合、関連判定結果情報には、複数の接続先シンボルが全て対応付けられる。また、関連判定結果情報において、シンボルの位置、属性の位置、および、接続先シンボルの位置は、例えば、シンボル、属性、および、接続先シンボルがそれぞれ認識された矩形の中心の、イメージ図面1上の座標であらわされるものとしている。
生成部107は、生成した判定後イメージ図面データを比較部108に出力する。なお、生成部107は、判定後イメージ図面データとともに、判定部104が出力した判定結果をあわせて比較部108に出力する。
比較部108は、判定後イメージ図面におけるシンボルおよび当該シンボルと対応付けられる属性毎に、判定後イメージ図面とイメージ図面1との比較を行う。なお、シンボルと属性とは、判定部104が出力した判定結果における関連判定結果情報にて対応付けられている。
具体的には、比較部108は、例えば、判定後イメージ図面とイメージ図面1とを比較し、判定後イメージ図面上のシンボルと当該シンボルに対応付けられた属性が、それぞれ、イメージ図面1上においても同じ位置に存在するか否かを判定する。なお、この際、比較部108は、主にシンボルおよび属性を比較対象とし、接続線は比較対象外とする。
なお、比較部108は、判定後イメージ図面上のシンボルと当該シンボルに対応付けられた属性が、イメージ図面1上においても同じ位置に存在するとの判定について、厳密に同じ位置であることを必須としない。例えば、比較部108は、判定後イメージ図面について、シンボルの位置を基準点(第1基準点)とし、当該第1基準点を中心として予め設定された範囲(第1範囲)を抽出する。第1範囲は、通常、認識部102によってシンボルが認識された矩形領域である。また、比較部108は、判定後イメージ図面について、シンボルと対応付けられている属性の位置を基準点(第2基準点)とし、当該第2基準点を中心として予め設定された範囲(第2範囲)を抽出する。第2範囲は、通常、認識部102によって属性が認識された矩形領域である。また、比較部108は、イメージ図面1について、判定後イメージ図面上のシンボルの位置に対応するイメージ図面1上の位置を基準点(第3基準点)とし、当該第3基準点を中心として予め設定された範囲(第3範囲)を抽出する。第3範囲は、第1範囲と同じ大きさとする。また、比較部108は、イメージ図面1について、判定後イメージ図面上の、シンボルに対応付けられている属性の位置に対応するイメージ図面1上の位置を基準点(第4基準点)とし、当該第4基準点を中心として予め設定された範囲(第4範囲)を抽出する。第4範囲は、第2範囲と同じ大きさとする。
そして、比較部108は、例えば、抽出した第1範囲の判定後イメージ図面と、抽出した第3範囲のイメージ図面1とを、テンプレートマッチングによって比較して、判定後イメージ図面とイメージ図面1との類似度(第1類似度)を算出する。また、比較部108は、例えば、抽出した第2範囲の判定後イメージ図面と、抽出した第4範囲のイメージ図面1とを、テンプレートマッチングによって比較して、判定後イメージ図面とイメージ図面1との類似度(第2類似度)を算出する。比較部108は、抽出した判定後イメージ図面とイメージ図面1について特徴量を比較して、判定後イメージ図面とイメージ図面1との類似度を算出してもよい。
比較部108は、算出した第1類似度および第2類似度が、それぞれ、予め設定された閾値(以下「類似度判定用閾値」という。)以上であるか否かによって、判定後イメージ図面上のシンボルと当該シンボルに対応付けられた属性が、それぞれ、イメージ図面1上においても同じ位置に存在するか否かを判定する。
なお、比較部108は、不一致データを抽出する際、不一致と判定したシンボルと接続されている接続線についても不一致と判定し、当該接続線に関する接続線認識結果を、不一致データ記録部110に記録するようにする。
なお、便宜上、図10は、図9の判定結果とは関係しておらず、単に、判定後イメージ図面とイメージ図面1との比較のイメージを説明するための図としている。
また、説明の簡単のため、図10において、イメージ図面1および判定後イメージ図面から、一致データと不一致データと含む領域を抜き出して拡大して示すようにしている。図10では、イメージ図面1から抜き出して拡大した領域を1001で示し、判定後イメージ図面から抜き出して拡大した領域を1002で示している。
例えば、1002に示す領域において示されている「88TBL1C」が対応付けられた「コイル」は、それぞれ、1001に示す領域の、1002に示す領域と対応する位置には存在しない。よって、比較部108は、「コイル」に関するシンボル認識結果と、「88TBL1C」に関する属性認識結果を、不一致データとして不一致データ記録部110に記録する。
具体的には、例えば、図面認識装置100の制御部が、比較部108が一致データまたは不一致データを記録すると、判定終了条件を満たしたか否かを判定する。判定終了条件を満たしていないと判定した場合、制御部は、判定終了条件を満たしていない旨を判定部104に通知する。判定部104は、比較部108からの、判定終了条件を満たしていない旨の通知を受けると、不一致データ記録部110に格納されている不一致データと、部品記録部105に格納されている部品情報と、関連度記録部106に格納されている関連度情報とに基づき、推論データにおけるシンボル、属性、および、シンボル同士の接続が正しく認識できているか否かの再判定を行う。
なお、不一致データ記録部110に記録されている不一致データは、認識結果のうち、比較部108によって一致データと判定されたシンボルに関するシンボル認識結果、比較部108によって一致データと判定された属性に関する属性認識結果、および、比較部108によって一致データと判定された接続線に関する接続線認識結果が取り除かれている。そのため、判定部104は、再判定を行う際に、関連付けを行うシンボル、属性、または、接続線の範囲が狭まり、より正確に判定を行うことができる。
不一致データ記録部110は、比較部108が出力した不一致データを記録する。
具体的には、図面表示部111は、例えば、CADアプリケーション等を用いて、一致データをCADデータに変換して表示装置300のディスプレイ301に表示する。
なお、図面表示部111は、上記判定終了条件を満たした時点で、一致データの表示を行う。
例えば、制御部は、上述のように、判定終了条件を満たすと、図面表示部111に対して、判定終了条件を満たした旨を通知する。図面表示部111は、比較部108から、判定終了条件を満たした旨の通知がされると、一致データ記録部109を参照して、一致データの表示を行う。
図11は、実施の形態1に係る図面認識装置100の動作を説明するためのフローチャートである。
図面取得部101は、イメージ図面1に基づき生成した推論データ、および、取得した図面特性情報2を、認識部102に出力する。
認識部102は、推論結果、言い換えれば、シンボル認識結果、属性認識結果、または、接続線認識結果を判定部104に出力する。
シンボル認識部1021は、図11のステップST1101にて図面取得部101から出力された推論データおよび図面特性情報2と、第1機械学習モデル131とに基づいて、シンボル認識結果を取得する。
具体的には、シンボル認識部1021は、推論データから抽出した画像特徴量と図面特性情報2から抽出した特徴量とを第1機械学習モデル131に入力して、シンボル認識結果を取得する(ステップST1201)。
シンボル認識部1021は、取得したシンボル認識結果を、判定部104に出力する。
具体的には、属性情報認識部1022は、推論データから抽出した画像特徴量と図面特性情報2から抽出した特徴量とを第2機械学習モデル132に入力して、属性認識結果を取得する(ステップST1202)。
属性情報認識部1022は、取得した属性認識結果を、判定部104に出力する。
具体的には、接続線認識部1023は、推論データから抽出した画像特徴量と図面特性情報2から抽出した特徴量とを第3機械学習モデル133に入力して、接続線認識結果を取得する(ステップST1203)。
接続線認識部1023は、取得した接続線認識結果を、判定部104に出力する。
判定部104は、認識部102が出力したシンボル認識結果、属性認識結果、または、接続線認識結果と、部品記録部105に格納されている部品情報と、関連度記録部106に格納されている関連度情報とに基づき、推論データにおけるシンボルと属性と他のシンボルとの対応関係を判定し、シンボル、属性、および、シンボル同士の接続が正しく認識できているか否かを総合的に判定する。
そして、判定部104は、関連度記録部106に格納されている関連度情報を参照して、仮判定した対応関係に基づいて、シンボルと属性と接続線との対応関係が正しく判定できているか否かを判定する(ステップST1104)。
判定部104は、推論データにおけるシンボルと属性と接続線との対応関係が正しく判定できているか否かの判定結果を、生成部107に出力する。
生成部107は、生成した判定後イメージ図面データを比較部108に出力する。
具体的には、比較部108は、例えば、判定後イメージ図面とイメージ図面1とを比較し、判定後イメージ図面上のシンボルと当該シンボルに対応付けられた属性が、それぞれ、イメージ図面1上においても同じ位置に存在するか否かを判定する。なお、この際、比較部108は、主にシンボルおよび属性を比較対象をとし、接続線は比較対象外とする。
判定終了条件を満たしていないと判定した場合(ステップST1109の“NO”の場合)、制御部は、判定終了条件を満たしていない旨を判定部104に通知する。そして、図面認識装置100の動作はステップST1103に戻り、判定部104は、不一致データ記録部110に格納されている不一致データと、部品記録部105に格納されている部品情報と、関連度記録部106に格納されている関連度情報とに基づき、推論データにおけるシンボル、属性、および、シンボル同士の接続が正しく認識できているか否かの再判定を行う。
図面表示部111は、ステップST1109にて制御部から判定終了条件を満たした旨が通知されると、一致データ記録部109に記録されている一致データを、表示装置300のディスプレイ301に表示する(ステップST1110)。
また、図面認識装置100において、判定部104は、認識部102から出力された認識結果(シンボル認識結果、属性認識結果、または、接続線認識結果)に基づき、部品情報、および、関連度情報との照合を行うことで、イメージ図面1におけるシンボルと属性と他のシンボルとの対応関係を判定し、シンボル、属性、および、シンボル同士の接続が正しく認識されているか否かを総合的に判定し精度を向上させることができる。
さらに、図面認識装置100において、比較部108は、生成部107が生成した判定後イメージ図面データとイメージ図面1とで、シンボルおよび当該シンボルに対応付けられる属性を比較することで、当該シンボルまたは属性の認識の誤りを検出することができ、高い精度の認識結果を選択することができる。
部品情報および関連度情報のいずれとも照合を行わない場合、判定部104は、認識部102が認識した、シンボルに関する情報、属性に関する情報、および、接続線に関する情報に基づいて、イメージ図面1におけるシンボルと属性と他のシンボルとの対応関係を判定する。具体的には、例えば、判定部104は、シンボル認識結果、属性認識結果、または、接続線認識結果を参照し、各認識結果から、シンボルと属性と接続線との距離を算出し、算出した距離に応じて、シンボルと属性と接続線との間の対応関係を判定する。
ただし、判定部104は、部品情報または関連度情報と照合を行って認識結果の判定を行うことで、部品情報および関連度情報のいずれとも照合を行うことなく認識結果の判定をする場合よりも、より高い精度で、シンボルと属性と接続線との間の対応関係を判定することができる。
具体的には、例えば、図面認識装置100の表示制御部(図示省略)が、認識部102が出力した各認識結果、または、判定部104が出力した判定結果を、表示装置300のディスプレイ301に表示させるようにする。ユーザは、ディスプレイ301を確認することで、各認識結果または判定結果の内容を把握する。ユーザは、例えば、明らかに誤りがあるシンボル、属性、または、接続線等があれば、操作入力装置200のキーボード201またはマウス202を操作して、明らかに誤りがあるシンボル、属性、または、接続線等を削除する指示を入力する。図面認識装置100の制御部は、ユーザが入力した指示を受け付け、受け付けた指示に基づき、認識結果または判定結果から、シンボル、属性、または、接続線等に関する情報を削除する。
このように構成することで、図面認識装置100は、ユーザが必要としたシンボル、属性、または、接続線等に関する情報を選別するようにすることができる。
具体的には、例えば、ユーザは、特定のCADシステムで作成された印刷物をイメージ図面1として図面認識装置100に入力する。図面認識装置100は、入力されたイメージ図面1上に存在するシンボル、属性、または、接続線を認識し、一致データを記録する。ユーザは、記録された一致データを上記特定のCADシステムに入力することで、印刷物をCADデータに復元でき、設計の改修または改良等に当該CADデータを再利用することができる。
また、ユーザは、例えば、異なるCADシステムのデータフォーマットへの変換プログラムを別途設けることで、上記一致データを他のCADシステムで使用するCADデータに変換することが可能となる。
このように、実施の形態1に係る図面認識装置100は、例えば、CADシステムにおいて、CADデータを復元するために用いられることにより、CADシステムにおけるCADデータの復元精度を向上することができる。
実施の形態1において、図面取得部101と、認識部102と、判定部104と、生成部107と、比較部108と、図面表示部111の機能は、処理回路1301により実現される。すなわち、図面認識装置100は、入力されたイメージ図面1上のシンボル等の認識を行うための処理回路1301を備える。
処理回路1301は、図13Aに示すように専用のハードウェアであっても、図13Bに示すようにメモリ1305に格納されるプログラムを実行するCPU(Central Processing Unit)1304であってもよい。
また、推論器格納部103、部品記録部105、関連度記録部106、一致データ記録部109、および、不一致データ記録部110は、例えば、HDDを使用する。なお、これは一例であって、推論器格納部103、部品記録部105、関連度記録部106、一致データ記録部109、および、不一致データ記録部110は、メモリ1305、SSD(Solid State Drive)、または、DVD等によって構成されるものであってもよい。
また、図面認識装置100は、操作入力装置200、または、表示装置300等の装置と、有線通信または無線通信を行う入力インタフェース装置1302および出力インタフェース装置1303を備える。
学習装置400は、ネットワークを介して図面認識装置100と接続される。
学習装置400は、入力されたイメージ図面1および図面特性情報2に基づき、第1機械学習モデル131、第2機械学習モデル132、および、第3機械学習モデル133を生成する。なお、イメージ図面1は教師ラベルとともに入力される。学習装置400は、いわゆる教師あり学習により、ニューラルネットワークで構成された機械学習モデルを学習させる。教師ラベルは、イメージ図面1上におけるシンボル、属性、および、接続線を示す情報である。教師ラベルについて、例えば、シンボルに関する教師ラベルは、イメージ図面1上のシンボルの位置を示す座標と当該シンボルを特定可能な情報とが対応付けられたテキストデータである。シンボルの位置は、例えば、当該シンボルを矩形にて囲った際の当該矩形の四隅のイメージ図面1上の座標であらわされる。シンボルを特定可能な情報は、例えば、シンボルの名称でよい。属性に関する教師ラベル、および、接続線に関する教師ラベルも、シンボルに関する教師ラベルと同様、イメージ図面1上の属性または接続線の位置を示す座標と当該属性または接続線を特定可能な情報とが対応付けられたテキストデータである。なお、教師データは、予め、イメージ図面1毎に、例えば、ユーザによって生成される。
なお、図14では、説明の簡単のため、図面認識装置100の構成部として、推論器格納部103および関連度記録部106のみを図示しているが、図面認識装置100の構成例は、図1を用いて説明した図面認識装置100の構成例と同じである。
具体的には、学習用データ取得部401は、教師ラベルが付与された複数のイメージ図面1と、当該イメージ図面1に対応する図面特性情報2とを取得する。教師ラベルは、例えば、上述したようなテキストデータである。学習用データ取得部401は、具体的には、複数のイメージ図面1と、イメージ図面1毎のテキストデータとを取得する。なお、教師ラベルが付与された複数のイメージ図面1と図面特性情報2とは、ユーザによって入力される。例えば、学習装置400は操作入力装置200(図1参照)と接続され、ユーザは、操作入力装置200から複数のイメージ図面1と図面特性情報2とを入力する。
具体的には、学習用データ取得部401は、まず、取得したイメージ図面1を、例えば、224×224ピクセルのサイズ毎のデータになるよう分割する。イメージ図面1を分割する間隔は、上下左右に、224×224ピクセルのサイズに等間隔で分割すればよく、イメージ図面1を分割する際に重複する部分があってもよい。なお、学習用データ取得部401は、例えば、取得したイメージ図面1が、機械学習モデルの入力とすることが可能なサイズの制限内であれば、上述したような処理を行う必要はない。
また、学習用データ取得部401は、取得した図面特性情報2を解析して当該図面特性情報2から特徴量を抽出する。学習用データ取得部401は、図面特性情報2から、特徴量を、例えば、「家電」であれば「0」、「配電盤」であれば「1」、「車」であれば「2」のように、数値として抽出する。
学習用データ取得部401は、教師ラベルが付与された、分割後のイメージ図面1と、図面特性情報2から抽出した特徴量とを含むデータを、学習用データとして生成する。
学習用データ取得部401は、生成した学習用データを、シンボルモデル生成部402、属性情報モデル生成部403、接続線モデル生成部404に出力する。
また、上述したような、イメージ図面1の分割を、後述のシンボルモデル生成部402、属性情報モデル生成部403、および、接続線モデル生成部404が行うようにしてもよい。この場合、学習用データ取得部401は、取得したイメージ図面1をそのまま学習用データに含めるようにし、後述のシンボルモデル生成部402、属性情報モデル生成部403、および、接続線モデル生成部404が、それぞれ、機械学習モデルを生成する際に、イメージ図面1の分割を行う。
なお、関連度記録部106には、関連度情報と図面特性情報2の他、シンボル、属性、または、接続線に係る種々の情報が格納されるようになっていてもよい。
実施の形態1において、シンボルモデル生成部402は、学習用データ取得部401が出力した学習用データを用いて、ニューラルネットワークの物体検出に関わる学習を行う。すなわち、画像特徴量を抽出し、分類、座標の修正を行うことで学習する。学習方法としては、SSD(Single Shot Detector)、YOLO(You only Look Once)等の周知の学習方法を用いればよい。
シンボルモデル生成部402は、生成した第1機械学習モデル131を、推論器格納部103に格納する。
実施の形態1において、属性情報モデル生成部403は、学習用データ取得部401が出力した学習用データを用いて、ニューラルネットワークの物体検出に関わる学習を行う。すなわち、画像特徴量を抽出し、分類、座標の修正を行うことで学習する。学習方法としては、VGSL(Variable-size Graph Specification Language)等の周知の学習方法を用いればよい。
属性情報モデル生成部403は、生成した第2機械学習モデル132を、推論器格納部103に格納する。
実施の形態1において、接続線モデル生成部404は、学習用データ取得部401が出力した学習用データを用いて、ニューラルネットワークの物体検出に関わる学習を行う。すなわち、画像特徴量を抽出し、分類、座標の修正を行うことで学習する。学習方法としては、SSD(Single Shot Detector)、YOLO(You only Look Once)等の周知の学習方法を用いればよい。
接続線モデル生成部404は、生成した第3機械学習モデル133を、推論器格納部103に格納する。
図15は、実施の形態1に係る学習装置400の動作について説明するためのフローチャートである。
具体的には、学習用データ取得部401は、教師ラベルが付与された複数のイメージ図面1と、当該イメージ図面1に対応する図面特性情報2とを取得する。
そして、学習用データ取得部401は、取得したイメージ図面1に基づき、学習用データを生成する。学習用データ取得部401は、生成した学習用データを、シンボルモデル生成部402、属性情報モデル生成部403、接続線モデル生成部404に出力する。
また、学習用データ取得部401は、取得した図面特性情報2を関連度記録部106に格納する。
シンボルモデル生成部402は、生成した第1機械学習モデル131を、推論器格納部103に格納する。
属性情報モデル生成部403は、生成した第2機械学習モデル132を、推論器格納部103に格納する。
接続線モデル生成部404は、生成した第3機械学習モデル133を、推論器格納部103に格納する。
例えば、図面特性情報2から抽出された特徴量が「家電」を示すものである場合、学習装置400は、機械学習モデルを学習させる際、「家電」に関するシンボル等を優先的に認識する。
このように、学習装置400は、イメージ図面1に加えて図面特性情報2を機械学習モデルの入力とすることで、イメージ図面1上のシンボル、属性、または、接続線に図面特性情報2に基づく重み付けを行うことができ、イメージ図面1の用途を加味した認識結果を出力する機械学習モデルを生成することができる。
ただし、学習装置400は、図面特性情報2を用いて機械学習モデルを生成するようにすることで、図面特性情報2を用いず機械学習モデルを生成する場合と比べ、精度の高い機械学習モデルを生成することができる。
なお、学習装置400が学習において図面特性情報2を用いない場合、図面認識装置100は、第1機械学習モデル131、第2機械学習モデル132、および、第3機械学習モデル133に基づく推論を行う際、図面特性情報2を必要としない。
実施の形態1において、学習用データ取得部401と、シンボルモデル生成部402と、属性情報モデル生成部403と、接続線モデル生成部404の機能は、処理回路1601により実現される。すなわち、学習装置400は、イメージ図面1と図面特性情報2とに基づき、第1機械学習モデル131、第2機械学習モデル132、および、第3機械学習モデル133を生成するための処理回路1601を備える。
処理回路1601は、図16Aに示すように専用のハードウェアであっても、図16Bに示すようにメモリ1605に格納されるプログラムを実行するCPU(Central Processing Unit)1604であってもよい。
また、学習装置400は、図面認識装置100等の装置と、有線通信または無線通信を行う入力インタフェース装置1602および出力インタフェース装置1603を備える。
Claims (23)
- 図面データを取得する図面取得部と、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上のシンボル、属性、および、前記シンボル同士を接続する接続線に関する認識結果を出力する機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける、前記シンボルの位置情報を含む前記シンボルに関する情報、前記図面取得部が取得した前記図面データにおける、前記属性の位置情報を含む前記属性に関する情報、および、前記図面取得部が取得した前記図面データにおける、前記接続線の位置情報を含む前記接続線に関する情報を認識する認識部と、
前記認識部が認識した、前記シンボルに関する情報、前記属性に関する情報、および、前記接続線に関する情報に基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する判定部とを備え、
前記判定部は、
前記認識部が認識した、前記シンボル、前記属性、および、前記接続線に関する情報と、前記シンボルと当該シンボルと関連する前記属性が前記図面データ上でともに示される回数であらわされる、前記図面データ上にて示される前記シンボルと前記属性の関連度、または、前記シンボルと当該シンボルの接続先となる接続先シンボルが前記図面データ上で接続されて示される回数であらわされる、前記シンボル同士の接続の関連度、に関する関連度情報とに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する
ことを特徴とする図面認識装置。 - 前記認識部は、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上の前記シンボルに関するシンボル認識結果を出力する第1機械学習モデル、前記図面データを入力とし当該図面データ上において前記属性に関する属性認識結果を出力する第2機械学習モデル、および、前記図面データを入力とし当該図面データ上において前記シンボル同士を接続する前記接続線に関する接続線認識結果を出力する第3機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルに関する情報、前記属性に関する情報、および、前記シンボル同士を接続する前記接続線に関する情報を認識する
ことを特徴とする請求項1記載の図面認識装置。 - 前記認識部は、
前記図面取得部が取得した前記図面データと、前記図面データの特性に関する図面特性情報と、前記機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルに関する情報、前記属性に関する情報、および、前記シンボル同士を接続する前記接続線に関する情報を認識する
ことを特徴とする請求項1記載の図面認識装置。 - 前記認識部は、
前記図面取得部が取得した前記図面データと、前記図面データの特性に関する図面特性情報と、前記機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルに関する情報、前記属性に関する情報、および、前記シンボル同士を接続する前記接続線に関する情報を認識する
ことを特徴とする請求項2記載の図面認識装置。 - 前記関連度情報は、
前記シンボル毎に、前記シンボルと、前記属性との関連度が定義されたシンボル-属性情報、前記シンボル毎に、前記シンボルと、前記シンボルと接続される他のシンボルとの関連度が定義されたシンボル-接続情報、前記図面取得部が取得した前記図面データが用いられる用途毎に、前記シンボルと前記属性との関連度および前記シンボルと他のシンボルとの関連度が定義された用途関連度情報、または、前記図面取得部が取得した前記図面データが用いられる機器の機種毎に、前記シンボルと前記属性との関連度および前記シンボルと他のシンボルとの関連度が定義された機種関連度情報のうちの少なくとも1つを含む
ことを特徴とする請求項1記載の図面認識装置。 - 前記判定部が判定した、前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係の判定結果に基づいて、判定後イメージ図面データを生成する生成部
を備えた請求項1から請求項5のうちのいずれか1項記載の図面認識装置。 - 前記生成部が生成した前記判定後イメージ図面データと前記図面取得部が取得した前記図面データとの比較によって、前記判定後イメージ図面データと前記図面データとの類似度を算出し、前記類似度が高い場合は一致データとして記録し、前記類似度が低い場合は不一致データとして記録する比較部
を備えた請求項6記載の図面認識装置。 - 前記判定部は、
前記比較部が記録した前記不一致データに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を再判定する
ことを特徴とする請求項7記載の図面認識装置。 - 図面データを取得する図面取得部と、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上のシンボル、属性、および、前記シンボル同士を接続する接続線に関する認識結果を出力する機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける、前記シンボルの位置情報を含む前記シンボルに関する情報、前記図面取得部が取得した前記図面データにおける、前記属性の位置情報を含む前記属性に関する情報、および、前記図面取得部が取得した前記図面データにおける、前記接続線の位置情報を含む前記接続線に関する情報を認識する認識部と、
前記認識部が認識した、前記シンボルに関する情報、前記属性に関する情報、および、前記接続線に関する情報に基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する判定部とを備え、
前記判定部は、
前記認識部が認識した、前記シンボル、前記属性、および、前記接続線に関する情報と、前記図面データ上にて示される前記シンボルと前記属性の関連度、または、前記シンボル同士の接続の関連度に関する関連度情報とに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定し、
前記関連度情報は、
前記シンボル毎に、前記シンボルと、前記属性との関連度が定義されたシンボル-属性情報、前記シンボル毎に、前記シンボルと、前記シンボルと接続される他のシンボルとの関連度が定義されたシンボル-接続情報、前記図面取得部が取得した前記図面データが用いられる用途毎に、前記シンボルと前記属性との関連度および前記シンボルと他のシンボルとの関連度が定義された用途関連度情報、または、前記図面取得部が取得した前記図面データが用いられる機器の機種毎に、前記シンボルと前記属性との関連度および前記シンボルと他のシンボルとの関連度が定義された機種関連度情報のうちの少なくとも1つを含む
ことを特徴とする図面認識装置。 - 前記認識部は、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上の前記シンボルに関するシンボル認識結果を出力する第1機械学習モデル、前記図面データを入力とし当該図面データ上において前記属性に関する属性認識結果を出力する第2機械学習モデル、および、前記図面データを入力とし当該図面データ上において前記シンボル同士を接続する前記接続線に関する接続線認識結果を出力する第3機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルに関する情報、前記属性に関する情報、および、前記シンボル同士を接続する前記接続線に関する情報を認識する
ことを特徴とする請求項9記載の図面認識装置。 - 前記認識部は、
前記図面取得部が取得した前記図面データと、前記図面データの特性に関する図面特性情報と、前記機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルに関する情報、前記属性に関する情報、および、前記シンボル同士を接続する前記接続線に関する情報を認識する
ことを特徴とする請求項9記載の図面認識装置。 - 前記判定部が判定した、前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係の判定結果に基づいて、判定後イメージ図面データを生成する生成部
を備えた請求項9から請求項11のうちのいずれか1項記載の図面認識装置。 - 前記生成部が生成した前記判定後イメージ図面データと前記図面取得部が取得した前記図面データとの比較によって、前記判定後イメージ図面データと前記図面データとの類似度を算出し、前記類似度が高い場合は一致データとして記録し、前記類似度が低い場合は不一致データとして記録する比較部
を備えた請求項12記載の図面認識装置。 - 前記判定部は、
前記比較部が記録した前記不一致データに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を再判定する
ことを特徴とする請求項13記載の図面認識装置。 - 図面データを取得する図面取得部と、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上のシンボル、属性、および、前記シンボル同士を接続する接続線に関する認識結果を出力する機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける、前記シンボルの位置情報を含む前記シンボルに関する情報、前記図面取得部が取得した前記図面データにおける、前記属性の位置情報を含む前記属性に関する情報、および、前記図面取得部が取得した前記図面データにおける、前記接続線の位置情報を含む前記接続線に関する情報を認識する認識部と、
前記認識部が認識した、前記シンボルに関する情報、前記属性に関する情報、および、前記接続線に関する情報に基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する判定部と、
前記判定部が判定した、前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係の判定結果に基づいて、判定後イメージ図面データを生成する生成部と、
前記生成部が生成した前記判定後イメージ図面データと前記図面取得部が取得した前記図面データとの比較によって、前記判定後イメージ図面データと前記図面データとの類似度を算出し、前記類似度が高い場合は一致データとして記録し、前記類似度が低い場合は不一致データとして記録する比較部
を備えた図面認識装置。 - 前記認識部は、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上の前記シンボルに関するシンボル認識結果を出力する第1機械学習モデル、前記図面データを入力とし当該図面データ上において前記属性に関する属性認識結果を出力する第2機械学習モデル、および、前記図面データを入力とし当該図面データ上において前記シンボル同士を接続する前記接続線に関する接続線認識結果を出力する第3機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルに関する情報、前記属性に関する情報、および、前記シンボル同士を接続する前記接続線に関する情報を認識する
ことを特徴とする請求項15記載の図面認識装置。 - 前記認識部は、
前記図面取得部が取得した前記図面データと、前記図面データの特性に関する図面特性情報と、前記機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルに関する情報、前記属性に関する情報、および、前記シンボル同士を接続する前記接続線に関する情報を認識する
ことを特徴とする請求項15記載の図面認識装置。 - 前記判定部は、
前記認識部が認識した、前記シンボル、前記属性、および、前記接続線に関する情報と、前記図面データ上にて示される前記シンボルと前記属性の関連度、または、前記シンボル同士の接続の関連度に関する関連度情報とに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する
ことを特徴とする請求項15から請求項17のうちのいずれか1項記載の図面認識装置。 - 前記判定部は、
前記比較部が記録した前記不一致データに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を再判定する
ことを特徴とする請求項15記載の図面認識装置。 - コンピュータを、
図面データを取得する図面取得部と、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上のシンボル、属性、および、前記シンボル同士を接続する接続線に関する認識結果を出力する機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける、前記シンボルの位置情報を含む前記シンボルに関する情報、前記図面取得部が取得した前記図面データにおける、前記属性の位置情報を含む前記属性に関する情報、および、前記図面取得部が取得した前記図面データにおける、前記接続線の位置情報を含む前記接続線に関する情報を認識する認識部と、
前記認識部が認識した、前記シンボルに関する情報、前記属性に関する情報、および、前記接続線に関する情報に基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する判定部として機能させるためのプログラムであって、
前記判定部は、
前記認識部が認識した、前記シンボル、前記属性、および、前記接続線に関する情報と、前記シンボルと当該シンボルと関連する前記属性が前記図面データ上でともに示される回数であらわされる、前記図面データ上にて示される前記シンボルと前記属性の関連度、または、前記シンボルと当該シンボルの接続先となる接続先シンボルが前記図面データ上で接続されて示される回数であらわされる、前記シンボル同士の接続の関連度に関する関連度情報とに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する
ことを特徴とする図面認識プログラム。 - コンピュータを、
図面データを取得する図面取得部と、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上のシンボル、属性、および、前記シンボル同士を接続する接続線に関する認識結果を出力する機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける、前記シンボルの位置情報を含む前記シンボルに関する情報、前記図面取得部が取得した前記図面データにおける、前記属性の位置情報を含む前記属性に関する情報、および、前記図面取得部が取得した前記図面データにおける、前記接続線の位置情報を含む前記接続線に関する情報を認識する認識部と、
前記認識部が認識した、前記シンボルに関する情報、前記属性に関する情報、および、前記接続線に関する情報に基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する判定部として機能させるためのプログラムであって、
前記判定部は、
前記認識部が認識した、前記シンボル、前記属性、および、前記接続線に関する情報と、前記図面データ上にて示される前記シンボルと前記属性の関連度、または、前記シンボル同士の接続の関連度に関する関連度情報とに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定し、
前記関連度情報は、
前記シンボル毎に、前記シンボルと、前記属性との関連度が定義されたシンボル-属性情報、前記シンボル毎に、前記シンボルと、前記シンボルと接続される他のシンボルとの関連度が定義されたシンボル-接続情報、前記図面取得部が取得した前記図面データが用いられる用途毎に、前記シンボルと前記属性との関連度および前記シンボルと他のシンボルとの関連度が定義された用途関連度情報、または、前記図面取得部が取得した前記図面データが用いられる機器の機種毎に、前記シンボルと前記属性との関連度および前記シンボルと他のシンボルとの関連度が定義された機種関連度情報のうちの少なくとも1つを含む
ことを特徴とする図面認識プログラム。 - コンピュータを、
図面データを取得する図面取得部と、
前記図面取得部が取得した前記図面データと、前記図面データを入力とし当該図面データ上のシンボル、属性、および、前記シンボル同士を接続する接続線に関する認識結果を出力する機械学習モデルとに基づいて、前記図面取得部が取得した前記図面データにおける、前記シンボルの位置情報を含む前記シンボルに関する情報、前記図面取得部が取得した前記図面データにおける、前記属性の位置情報を含む前記属性に関する情報、および、前記図面取得部が取得した前記図面データにおける、前記接続線の位置情報を含む前記接続線に関する情報を認識する認識部と、
前記認識部が認識した、前記シンボルに関する情報、前記属性に関する情報、および、前記接続線に関する情報に基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を判定する判定部と、
前記判定部が判定した、前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係の判定結果に基づいて、判定後イメージ図面データを生成する生成部と、
前記生成部が生成した前記判定後イメージ図面データと前記図面取得部が取得した前記図面データとの比較によって、前記判定後イメージ図面データと前記図面データとの類似度を算出し、前記類似度が高い場合は一致データとして記録し、前記類似度が低い場合は不一致データとして記録する比較部
として機能させるための図面認識プログラム。 - 前記判定部は、
前記比較部が記録した前記不一致データに基づいて、前記図面取得部が取得した前記図面データにおける前記シンボルと前記属性と他のシンボルとの対応関係を再判定する
ことを特徴とする請求項22記載の図面認識プログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020167393A JP7664693B2 (ja) | 2020-10-02 | 2020-10-02 | 図面認識装置および図面認識プログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020167393A JP7664693B2 (ja) | 2020-10-02 | 2020-10-02 | 図面認識装置および図面認識プログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022059670A JP2022059670A (ja) | 2022-04-14 |
| JP7664693B2 true JP7664693B2 (ja) | 2025-04-18 |
Family
ID=81124983
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020167393A Active JP7664693B2 (ja) | 2020-10-02 | 2020-10-02 | 図面認識装置および図面認識プログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7664693B2 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117315708A (zh) * | 2023-10-31 | 2023-12-29 | 中铁二十四局集团有限公司 | 一种基于图像检测的工程图纸属性参数匹配方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004259076A (ja) | 2003-02-27 | 2004-09-16 | Hitachi Ltd | 画像認識方法及び装置 |
| JP2006227824A (ja) | 2005-02-16 | 2006-08-31 | Hitachi Ltd | 図面認識方法および装置 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2749020B2 (ja) * | 1991-11-14 | 1998-05-13 | 日立ソフトウエアエンジニアリング株式会社 | ダイアグラム認識システム |
| JPH07234937A (ja) * | 1994-02-23 | 1995-09-05 | Nippon Telegr & Teleph Corp <Ntt> | 図面認識方法及び図面認識システム |
-
2020
- 2020-10-02 JP JP2020167393A patent/JP7664693B2/ja active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004259076A (ja) | 2003-02-27 | 2004-09-16 | Hitachi Ltd | 画像認識方法及び装置 |
| JP2006227824A (ja) | 2005-02-16 | 2006-08-31 | Hitachi Ltd | 図面認識方法および装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022059670A (ja) | 2022-04-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11182604B1 (en) | Computerized recognition and extraction of tables in digitized documents | |
| US11551134B2 (en) | Information processing apparatus, information processing method, and storage medium | |
| JP4676225B2 (ja) | スキャン・ドキュメントから電子フォームに取り込むための方法および装置 | |
| RU2641225C2 (ru) | Способ выявления необходимости обучения эталона при верификации распознанного текста | |
| JP2005242579A (ja) | 文書処理装置、文書処理方法、および文書処理プログラム | |
| JP7562292B2 (ja) | 情報処理装置、サーバ、システム、情報処理方法、およびプログラム | |
| US20150234782A1 (en) | Calculation device and method, and computer program product | |
| CN114868192A (zh) | 信息处理装置、信息处理方法及程序 | |
| CN113841156B (zh) | 基于图像识别的控制方法与装置 | |
| JPWO2014068770A1 (ja) | データ抽出方法、データ抽出装置及びそのプログラム | |
| JP7664693B2 (ja) | 図面認識装置および図面認識プログラム | |
| JP6784273B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
| JP5343617B2 (ja) | 文字認識プログラム、文字認識方法および文字認識装置 | |
| US20200320409A1 (en) | Model creation supporting method and model creation supporting system | |
| US12347217B2 (en) | Information processing apparatus, information processing method, and computer program | |
| JP2015005100A (ja) | 情報処理装置、テンプレート生成方法、およびプログラム | |
| Bonilla-Rivas et al. | Adapting YOLO to recognition of real numbers in 7-segment digits | |
| US12475164B2 (en) | Drawing search device, drawing database construction device, drawing search system, drawing search method, and recording medium | |
| US20240419865A1 (en) | Diagram analysis apparatus, diagram analysis method, and non-transitory computer readable recording medium | |
| JP2021099688A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
| US20240193918A1 (en) | Techniques for automated component classification | |
| KR102632771B1 (ko) | 카탈로그 이미지의 데이터 추출 시스템 및 카탈로그 이미지의 데이터 추출 방법 | |
| JP2020119206A (ja) | 情報処理装置、及びプログラム | |
| JP5712415B2 (ja) | 帳票処理システム及び帳票処理方法 | |
| CN117475265A (zh) | 示教装置、示教方法以及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230828 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240515 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240528 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240711 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241015 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241202 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250311 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250408 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7664693 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |