JP7172179B2 - 表示制御方法、情報処理装置及び表示制御プログラム - Google Patents

表示制御方法、情報処理装置及び表示制御プログラム Download PDF

Info

Publication number
JP7172179B2
JP7172179B2 JP2018121732A JP2018121732A JP7172179B2 JP 7172179 B2 JP7172179 B2 JP 7172179B2 JP 2018121732 A JP2018121732 A JP 2018121732A JP 2018121732 A JP2018121732 A JP 2018121732A JP 7172179 B2 JP7172179 B2 JP 7172179B2
Authority
JP
Japan
Prior art keywords
edge
edge line
lines
line
product
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018121732A
Other languages
English (en)
Other versions
JP2020003995A (ja
Inventor
知之 馬場
厚憲 茂木
あゆ 烏谷
知宏 青柳
拓哉 狐崎
正弘 片岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2018121732A priority Critical patent/JP7172179B2/ja
Priority to US16/448,036 priority patent/US20200005551A1/en
Publication of JP2020003995A publication Critical patent/JP2020003995A/ja
Application granted granted Critical
Publication of JP7172179B2 publication Critical patent/JP7172179B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/9515Objects of complex shape, e.g. examined with use of a surface follower device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • G01N2021/8893Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques providing a video image and a processed signal for helping visual decision
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20096Interactive definition of curve of interest
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Description

本発明は、表示制御方法、情報処理装置及び表示制御プログラムに関する。
従来より、製造物を撮影した画像に対して、AR技術(拡張現実技術)を用いて、該製造物の設計データに応じた3次元CADデータを重畳表示する3次元重畳技術が知られている。
当該3次元重畳技術によれば、撮影画像に写る製造物と3次元CADデータとの間のずれを確認することができる。このため、作業者は、製造物が3次元CADデータどおりに製造されているか否かを診断(重畳診断)することができる。
特開2017-91078号公報
一方で、上記3次元重畳技術の場合、重畳方法によって、ずれが発生する位置が異なってくる。例えば、撮影画像に写る製造物に対して、ずれの総和が最小になるように重畳させる場合と、撮影画像に写る製造物の一端と3次元CADデータの対応する一端とが一致するように重畳させる場合とでは、ずれが発生する位置が異なってくる。
このように、任意の重畳方法が許容されている場合、作業者は“ずれ情報”として、ずれの有無については把握できるが、製造物のどの部分の不具合に起因してずれが発生しているのかといった、ずれの原因箇所までは把握できない。このようなことから、3次元重畳技術においては、ずれの原因箇所を把握し、不良箇所の位置を特定することが望まれる。
一つの側面では、製造物の製造により生じた、製造物の設計データからのずれの表示精度を高めることを目的としている。
一態様によれば、表示制御方法は、
製造物を含む撮影画像を取得することで、前記撮影画像から抽出た複数のエッジ線と、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線とを表示した場合に、表示した前記複数のエッジ線、表示した前記複数の稜線とから、
前記製造物を製造する際の基準となるエッジ線と、該エッジ線に対応する3次元モデルの稜線とのペアである基準線のペアとして、前記複数のエッジ線のうちの第1エッジ線と前記複数の稜線のうちの第1稜線とのペアの指定を受け付けるとともに、
前記基準線のペア以外のペアとして、前記複数のエッジ線のうちの第2エッジ線と前記複数の稜線のうちの第2稜線とのペアの指定を受け付け、
前記第1稜線の位置を、前記第1エッジ線の位置に所定の一致度以上で一致させた状態で、前記第2稜線の位置が前記第2エッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
処理をコンピュータが実行することを特徴とする。
製造物の製造により生じた、製造物の設計データからのずれの表示精度を高めることができる。
3次元重畳技術の適用例を示す第1の図である。 情報処理装置のハードウェア構成の一例を示す図である。 情報処理装置の機能構成の一例を示す図である。 第1の実施形態に係る情報処理装置による表示制御処理の流れを示すフローチャートである。 3次元CADデータ取得処理の画面例を示す図である。 撮影画像データ取得処理の画面例を示す図である。 表示処理から重畳データ表示処理までの各処理の画面例を示す図である。 重畳処理の詳細を示す第1のフローチャートである。 第2の実施形態に係る情報処理装置による表示制御処理の流れを示すフローチャートである。 表示処理から差異領域表示処理までの各処理の画面例を示す図である。 差異領域表示処理の画面例を示す第1の図である。 差異領域表示処理の画面例を示す第2の図である。 重畳処理の詳細を示す第2のフローチャートである。 3次元重畳技術の適用例を示す第2の図である。 重畳表示とずれ情報との関係を説明するための模式図である。
はじめに、以下の各実施形態に係る情報処理装置にて行われる重畳表示と、ずれ情報との関係について図15を用いて簡単に説明する。図15は、重畳表示とずれ情報との関係を説明するための模式図である。なお、ここでいう重畳表示とは、製造物を撮影した撮影画像上に、該製造物の設計データ(例えば、3次元CADデータ)に応じた3次元モデルを重畳して表示することを指す。
図15(a)に示すように、撮影画像に含まれる製造物1510に対して、該製造物の3次元CADデータ1520を重畳表示する場合、一般に、任意の重畳方法が許容される。図15(b)は、このうち、製造物1510から抽出された複数のエッジ線と、該製造物の3次元CADデータ1520に含まれる複数の稜線(以下、エッジ線と称す)とを含む複数のエッジ線のペアの中から、4ペアを指定して重畳表示した重畳方法を示している。
具体的には、図15(b)は、4ペアのエッジ線として、
・撮影画像に含まれる製造物1510のエッジ線1511と3次元CADデータ1520のエッジ線1521、
・撮影画像に含まれる製造物1510のエッジ線1512と3次元CADデータ1520のエッジ線1522、
・撮影画像に含まれる製造物1510のエッジ線1513と3次元CADデータ1520のエッジ線1523、
・撮影画像に含まれる製造物1510のエッジ線1514と3次元CADデータ1520のエッジ線1524、
を指定して、指定した4ペアのそれぞれのずれ量の総和が最小となるように、重畳表示した重畳方法を示している。
図15(b)に示す重畳方法の場合、撮影画像に含まれる製造物1510と3次元CADデータ1520との間のいずれのペアのエッジ線においてもずれが生じている。
このため、重畳診断を行う作業者は、ずれ情報として、製造物1510と3次元CADデータ1520との間に、ずれが発生していることは容易に把握することができる。しかしながら、作業者は、ずれ情報として、製造物1510のどの部分の不具合に起因してずれが発生しているのかといった、ずれの原因箇所までは把握することができない。
これに対して、以下の各実施形態に係る情報処理装置では、製造物1510を製造する際に製造者が用いた基準線(エッジ線または稜線の1つ)または基準点(エッジ線上または稜線上の点)を指定し基準線(または基準点)が一致するように重畳表示する。図15(c)は、撮影画像に含まれる製造物1510のエッジ線から、基準線1515、1516を指定するとともに、3次元CADデータ1520のエッジ線から、基準線1525、1526を指定し、両者が一致するように重畳表示した重畳方法を示している。
このように、基準線が一致するように重畳表示した場合、作業者は、基準線以外の製造物1510のエッジ線と、基準線に該の3次元CADデータ1520のエッジ線を対比することで、ずれ情報として、ずれの有無、ずれの原因箇所を把握することができる。
つまり、以下の各実施形態に係る情報処理装置によれば、製造物の製造により生じた、製造物の設計データからのずれの表示精度を高めることができる。
以下、各実施形態について添付の図面を参照しながら説明する。なお、以下の各実施形態のうち、第1の実施形態では、基準線のペアを所定数(=1ペア)指定する場合について説明する。また、第2の実施形態では、基準線のペアを所定数(=2ペア)または基準線と基準点のペアを所定数(=1ペア)ずつ指定する場合について説明する。ただし、以下の各実施形態に係る明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省略する。
[第1の実施形態]
<3次元重畳技術の適用例>
はじめに3次元重畳技術の適用例について説明する。図1は、3次元重畳技術の適用例を示す第1の図である。図1において、工程100は、製造メーカにおいて製品を製造し、出荷するまでの一般的な工程を示したものである。
図1に示すように、製造メーカでは、まず、設計工程において製品の設計を行い、3次元CADデータを生成する。続いて、製造メーカでは、製造工程において、製品を構成する各部材を3次元CADデータに基づいて製造し、部材組立工程において、製造した各部材の組立を行う。続いて、製造メーカでは、溶接工程において、組み立て部材同士の溶接を行い、仕上工程において、仕上げ処理を行うことで、製品を完成させる。その後、製造メーカでは、出荷工程において、完成した製品の出荷を行う。
ここで、3次元重畳技術を適用した情報処理装置(例えば、タブレット端末)110では、各工程において撮影された撮影画像データ122を取得し、対応する3次元CADデータ121を重畳することで生成した重畳データ123を、作業者130に表示する。
これにより、作業者130は、各工程における製造物が、設計内容と一致しているか否かを診断することができる。なお、各工程における製造物とは、例えば、製造工程であれば、製品を構成する各部材を指し、部材組立工程であれば、組み立て部材を指す。また、溶接工程であれば、組み立て部材同士を溶接することで得られる成形部材を指し、仕上工程であれば、出荷前の製品を指す。
情報処理装置110では、いずれの工程であっても、対応する3次元CADデータ121を読み出すことで、重畳データ123を生成し、作業者130に表示することができる。
<情報処理装置のハードウェア構成>
次に、情報処理装置110のハードウェア構成について説明する。図2は、情報処理装置のハードウェア構成の一例を示す図である。図2に示すように、情報処理装置110は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203を有する。CPU201、ROM202、RAM203は、いわゆるコンピュータを形成する。
また、情報処理装置110は、補助記憶装置204、UI装置205、撮像装置206、通信装置207、ドライブ装置208を有する。なお、情報処理装置110の各ハードウェアは、バス209を介して相互に接続されている。
CPU201は、補助記憶装置204にインストールされている各種プログラム(例えば、後述する表示制御プログラム等)を実行するデバイスである。
ROM202は、不揮発性メモリである。ROM202は、補助記憶装置204にインストールされている各種プログラムをCPU201が実行するために必要な各種プログラム、データ等を格納する、主記憶デバイスとして機能する。具体的には、ROM202はBIOS(Basic Input/Output System)やEFI(Extensible Firmware Interface)等のブートプログラム等を格納する、主記憶デバイスとして機能する。
RAM203は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の揮発性メモリである。RAM203は、補助記憶装置204にインストールされている各種プログラムがCPU201によって実行される際に展開される作業領域を提供する、主記憶デバイスとして機能する。
補助記憶装置204は、各種プログラムや、各種プログラムが実行される際に用いられる情報を格納する補助記憶デバイスである。例えば、3次元CADデータ121を格納する3次元CADデータ格納部(後述)は、補助記憶装置204において実現される。
UI装置205は、作業者130に、3次元CADデータ121、撮影画像データ122、重畳データ123を表示するための表示画面を提供したり、作業者130から、表示画面を介して各種指示を受け付けるユーザインタフェース用のデバイスである。
撮像装置206は、各工程において製造物を撮影し、撮影画像データ122を生成する撮像デバイスである。通信装置207は、ネットワークと接続し、通信を行う通信デバイスである。
ドライブ装置208は記録媒体210をセットするためのデバイスである。ここでいう記録媒体210には、CD-ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記録する媒体が含まれる。また、記録媒体210には、ROM、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等が含まれていてもよい。
なお、補助記憶装置204にインストールされる各種プログラムは、例えば、配布された記録媒体210がドライブ装置208にセットされ、該記録媒体210に記録された各種プログラムがドライブ装置208により読み出されることでインストールされる。あるいは、補助記憶装置204にインストールされる各種プログラムは、通信装置207を介してネットワークよりダウンロードされることでインストールされてもよい。
<情報処理装置の機能構成>
次に、情報処理装置110の機能構成について説明する。図3は、情報処理装置の機能構成の一例を示す図である。上述したとおり、情報処理装置110には、表示制御プログラムがインストールされており、当該プログラムが実行されることで、情報処理装置110は、表示制御部300として機能する。
表示制御部300は、3次元CADデータ取得部301と、撮影画像データ取得部302と、重畳部303と、指定部304と、表示部305とを有する。
3次元CADデータ取得部301は、3次元CADデータ121が格納された3次元CADデータ格納部310より、作業者130により指定された3次元CADデータ121を読み出す。また、3次元CADデータ取得部301は、読み出した3次元CADデータ121において、エッジ線を識別する。更に、3次元CADデータ取得部301は、読み出した3次元CADデータ(識別したエッジ線についての情報を含む)を、重畳部303に通知する。
撮影画像データ取得部302は、作業者130の指示に基づき、撮像装置206を制御することで、各工程において製造物を撮影し、撮影画像データ122を取得する。また、撮影画像データ取得部302は、撮影画像データ122に含まれる製造物のエッジ線を抽出する。また、撮影画像データ取得部302は、取得した撮影画像データ122(抽出したエッジ線についての情報を含む)を重畳部303に通知する。
重畳部303は特定部の一例である。重畳部303は、通知された3次元CADデータ121及び撮影画像データ122を、表示部305に通知することで、UI装置205を介して作業者130に3次元CADデータ121及び撮影画像データ122を表示する。
また、重畳部303は、UI装置205を介して3次元CADデータ121及び撮影画像データ122を表示したことに応じて、指定部304より、基準線の指定及び基準線以外のエッジ線の指定について通知を受け付ける。基準線とは、各工程において製造物を製造する際に製造者が用いた、基準となるエッジ線をいう。
また、重畳部303は、基準線の指定及び基準線以外のエッジ線の指定に基づいて、3次元CADデータ121の姿勢を特定する。ここでいう3次元CADデータ121の姿勢とは、3次元CADデータ121の位置及び角度を指す。
また、重畳部303は、姿勢が特定された3次元CADデータ121を、撮影画像データ122に重畳することで重畳データ123を生成する。更に、重畳部303は、生成した重畳データ123を表示部305に通知する。
指定部304は、UI装置205を介して3次元CADデータ121及び撮影画像データ122が表示されたことに応じて、作業者130によって、基準線の指定及び基準線以外のエッジ線の指定が行われた場合に、重畳部303に通知する。
表示部305は表示部または重畳表示部の一例である。表示部305は、重畳部303より通知される、3次元CADデータ121、撮影画像データ122、重畳データ123を表示するための表示画面を生成し、表示する。なお、表示部305により生成される表示画面には、基準線の指定及び基準線以外のエッジ線の指定を入力するための操作ボタンが含まれるものとする。
<表示制御処理の流れ>
次に、第1の実施形態に係る情報処理装置110の表示制御部300において実行される、表示制御処理の流れについて説明する。図4は、第1の実施形態に係る情報処理装置による表示制御処理の流れを示すフローチャートである。情報処理装置110において表示制御プログラムが起動されることで、図4に示す表示制御処理が開始される。
ステップS401において、3次元CADデータ取得部301は、3次元CADデータ取得処理を実行し、3次元CADデータ121を取得し、エッジ線を識別する。
ステップS402において、撮影画像データ取得部302は、撮影画像データ取得処理を実行し、撮影画像データ122を取得し、エッジ線を抽出する。
ステップS403において、重畳部303及び表示部305は、表示処理を実行し、3次元CADデータ121及び撮影画像データ122を表示するための表示画面を表示する。
ステップS404において、指定部304は、指定処理を実行し、表示画面を介して入力された基準線の指定及び基準線以外のエッジ線の指定を受け付ける。
ステップS405において、重畳部303は、重畳処理を実行し、3次元CADデータ121の姿勢を特定し、撮影画像データ122に重畳することで、重畳データ123を生成する。
ステップS406において、表示部305は、重畳データ表示処理を実行し、生成された重畳データ123を表示する。
<表示制御処理の各工程の具体例>
次に、表示制御処理(図4)の各工程(ステップS401~S406)の具体例について説明する。
(1)3次元CADデータ取得処理(ステップS401)の具体例
はじめに、3次元CADデータ取得処理(ステップS401)の具体例として、3次元CADデータ取得処理時の表示画面の画面例について説明する。図5は、3次元CADデータ取得処理の画面例を示す図である。
表示制御処理(図4)が開始されることで、情報処理装置110には、初期画面500が表示される。図5に示すように、初期画面500には、“3次元CADデータ読み込み”ボタン501と、“撮影及び重畳”ボタン502とが含まれる。なお、3次元CADデータ121の読み込みが行われていない初期画面500では、“撮影及び重畳”ボタン502は、選択できないように表示される。
初期画面500において、作業者130により、“3次元CADデータ読み込み”ボタン501が選択されると、3次元CADデータ取得部301では、読み込み画面510を表示し、作業者130による3次元CADデータ121の指定を受け付ける。
読み込み画面510において、3次元CADデータ121が指定され、“読み込み”ボタン511が押下されると、3次元CADデータ取得部301では、3次元CADデータ格納部310より、指定された3次元CADデータ121を読み出す。その後、読み込み画面510から初期画面600(図6)に戻る。
一方、読み込み画面510において、“戻る”ボタン512が押下されると、3次元CADデータ取得部301では、3次元CADデータ121を読み出すことなく、読み込み画面510から初期画面500(図5)に戻る。
(2)撮影画像データ取得処理(ステップS402)の具体例
次に、撮影画像データ取得処理(ステップS402)の具体例として、撮影画像データ取得処理時の表示画面の画面例について説明する。図6は、撮影画像データ取得処理の画面例を示す図である。
上述したとおり、3次元CADデータ取得部301により、3次元CADデータ121が読み出されると、図6の初期画面600に戻る。図6に示すように、初期画面600には、“3次元CADデータ読み込み”ボタン501と、“撮影及び重畳”ボタン502とが含まれる。なお、この時点では、3次元CADデータ121の読み込みが既に行われているため、初期画面600では、“撮影及び重畳”ボタン502が選択可能に表示される。また、読み込まれた3次元CADデータ121のファイル名が、ファイル名表示欄601に表示される。
初期画面600において、作業者130により、“撮影及び重畳”ボタン502が選択されると、撮影画像データ取得部302では、撮影画面610を表示する。撮影画面610には、製造物を表示するモニタ611と、“撮影”ボタン612と、“戻る”ボタン613とが含まれる。
モニタ611には、撮像装置206が撮影中の製造物が表示される。なお、モニタ611内には、例えば、世界座標系の座標軸(x軸、y軸、z軸)が定義されているものとする。“撮影”ボタン612は、モニタ611に表示されている製造物についての撮影指示を受け付ける。
撮影画面610において、“撮影”ボタン612が押下されると、撮影画像データ取得部302は、撮影中の製造物について撮影画像データ122を取得し、診断画面700(図7)に進む。
一方、撮影画面610において、“戻る”ボタン613が押下されると、撮影画像データ取得部302では、撮影画像データ122を生成することなく、初期画面600(図6)に戻る。
(3)表示処理から重畳データ表示処理までの各処理(ステップS403~S406)の具体例
次に、表示処理(ステップS403)から重畳データ表示処理(ステップS406)までの各処理の具体例を、画面例を用いて説明する。図7は、表示処理から重畳データ表示処理までの各処理の画面例を示す図である。
撮影画像データ取得部302により、撮影画像データ122が取得されると、表示部305では、図7に示す診断画面700を表示する。図7に示すように、診断画面700には、重畳表示領域701と、“基準線指定”ボタン702と、“エッジ線指定”ボタン703と、“重畳”ボタン704と、“戻る”ボタン705とが含まれる。なお、この時点では、基準線及び基準線以外のエッジ線の指定を受け付けていないため、“重畳”ボタン704は、選択できないように表示される。
診断画面700において、重畳表示領域701には、読み込まれた3次元CADデータ121と、撮影した撮影画像データ122とが表示される。
診断画面700において、“基準線指定”ボタン702が選択されると、3次元CADデータ121の基準線と、撮影画像データ122に含まれる製造物の対応する基準線の指定が可能になる。これにより、作業者130は、重畳表示領域701に表示された3次元CADデータ121と、撮影画像データ122とにおいて、それぞれの基準線を指定する。また、指定部304は、作業者130により指定された1ペアの基準線を受け付ける。
なお、作業者130による基準線の指定方法は任意である。作業者130は、重畳表示領域701において、基準線上の1箇所または基準線近傍の1箇所を指定することで、基準線を指定してもよいし、基準線に沿ってなぞることで、基準線を指定してもよい。また、作業者130による基準線の指定順序は任意である。作業者130は、3次元CADデータ121の基準線を先に指定してもよいし、撮影画像データ122に含まれる製造物の基準線を先に指定してもよい。
また、診断画面700において、“エッジ線指定”ボタン703が選択されると、3次元CADデータ121のエッジ線と、撮影画像データ122に含まれる製造物の対応するエッジ線の指定が可能になる。これにより、作業者130は、重畳表示領域701に表示された3次元CADデータ121と、撮影画像データ122とにおいて、対応するエッジ線を複数指定する。また、指定部304は、作業者130により指定された複数のペアのエッジ線を受け付ける。なお、基準線の場合と同様、作業者130によるエッジ線の指定方法、指定順序は任意である。
指定部304が、基準線及び基準線以外のエッジ線の指定を受け付けると、表示部305は、診断画面710を表示する。図7に示すように、診断画面710には、重畳表示領域711と、“基準線指定”ボタン702と、“エッジ線指定”ボタン703と、“重畳”ボタン704と、“戻る”ボタン705とが含まれる。
なお、この時点では、既に基準線及び基準線以外のエッジ線の指定が行われているため、診断画面710には、“重畳”ボタン704が選択可能に表示される。診断画面710において、作業者130により、“重畳”ボタン704が押下されると、重畳部303では、指定された基準線及び基準線以外のエッジ線に基づいて、重畳処理(詳細は後述)を行い、重畳データ123を生成する。これにより、重畳表示領域711には、重畳データ123が表示される。
なお、診断画面700または710において、“戻る”ボタン705が押下されると、初期画面600(図6)に戻る。
<重畳処理の詳細>
次に、表示制御処理の重畳処理(ステップS405)の詳細について説明する。図8は、重畳処理の詳細を示す第1のフローチャートである。
ステップS801において、重畳部303は、3次元CADデータ121の基準線と、撮影画像データ122に含まれる製造物の基準線とが平行になるように、3次元CADデータ121のx軸周り、y軸周り、z軸周りの各角度を算出する。また、重畳部303は、算出した各角度に応じて、3次元CADデータ121を回転させる。
このとき、重畳部303は、基準線以外のエッジ線として指定された、3次元CADデータ121のエッジ線と、対応する撮影画像データ122のエッジ線とのずれ量を算出する。そして、重畳部303は、算出したずれ量が最小となるように、基準線同士を平行にまたは一致させた状態で、3次元CADデータ121を基準線周りに回転させる。
ステップS802において、重畳部303は、3次元CADデータ121の基準線と撮影画像データ122の基準線とが一致するように、3次元CADデータ121を平行移動させる移動距離を算出する。また、重畳部303は、算出した移動距離に応じて、3次元CADデータ121を平行移動させる。
以上の説明から明らかなように、第1の実施形態では、撮影画像データに含まれる製造物に、該製造物の3次元CADデータを重畳表示する際、1ペアの基準線を指定し、当該基準線同士を平行にまたは一致させた状態で、3次元CADデータの姿勢を特定する。
このように、基準線同士を一致させて重畳表示することで、作業者は、基準線以外の製造物のエッジ線と、基準線以外の3次元CADデータのエッジ線との間のずれを、ずれ情報(ずれの原因箇所)として把握することができる。
この結果、第1の実施形態によれば、複数のエッジ線のペアを指定して、指定したエッジ線のペアのずれ量の総和が最小となるように重畳表示する場合と比較して、製造物の製造により生じた、製造物の設計データからのずれの表示精度を高めることができる。
[第2の実施形態]
上記第1の実施形態では、基準線のペアを1ペア指定する場合について説明した。これに対して、第2の実施形態では、基準線のペアを2ペアまたは基準線と基準点のペアを1ペアずつ指定する場合について説明する。以下、第2の実施形態について、上記第1の実施形態との相違点を中心に説明する。
<表示制御処理の流れ>
はじめに、第2の実施形態に係る情報処理装置による表示制御処理の流れについて説明する。図9は、第2の実施形態に係る情報処理装置による表示制御処理の流れを示すフローチャートである。図4に示したフローチャートとの相違点は、ステップS901~S95である。
ステップS901において、重畳部303及び表示部305は、表示処理を実行し、3次元CADデータ121及び撮影画像データ122を表示するための表示画面を表示する。
ステップS902において、指定部304は、指定処理を実行し、表示画面を介して入力された2ペアの基準線の指定、または、1ペアの基準線の指定及び1ペアの基準点の指定を受け付ける。
ステップS903において、重畳部303は、重畳処理を実行する。具体的には、重畳部303は、3次元CADデータ121の姿勢を特定し、撮影画像データ122に重畳することで、重畳データ123を生成する。なお、3次元CADデータの姿勢を特定するにあたり、重畳部303では、指定された2ペアの基準線、または、指定された1ペアの基準線及び1ペアの基準点を用いる。
ステップS904において、表示部305は、重畳データ表示処理を実行し、生成された重畳データ123を表示する。
ステップS905において、表示部305は、差異領域表示処理を実行し、重畳データ123において、基準線以外のエッジ線のずれを検出し、差異領域を抽出する。また、表示部305は、抽出した差異領域の位置及び形状を特定するための平面(2次元図形)または抽出した差異領域の位置を特定するマーカを、ずれ量(すなわち、差異領域の大きさ)に応じた色で表示する。
<表示制御処理の各工程の具体例>
次に、表示制御処理(図9)の各工程(ステップS401~S905)のうち、表示処理(ステップS901)から差異領域表示処理(ステップS905)までの各工程の画面例について説明する。図10は、表示処理から差異領域表示処理までの各処理の画面例を示す図である。
撮影画像データ取得部302により、撮影画像データ122が取得されると、表示部305では、図10に示す診断画面1000を表示する。図10に示すように、診断画面1000には、重畳表示領域701と、“基準線(1)指定”ボタン1001と、“基準線(2)指定”ボタン1002と、“重畳”ボタン704と、“差異領域表示”ボタン1004と、“戻る”ボタン705とが含まれる。なお、この時点では、基準線の指定を受け付けていないため、“重畳”ボタン704は、選択できないように表示される。また、この時点では、重畳処理が実行されていないため、“差異領域表示”ボタン1004は、選択できないように表示される。
診断画面1000において、“基準線(1)指定”ボタン1001が選択されると、3次元CADデータ121の基準線と、撮影画像データ122に含まれる製造物の対応する基準線の1ペア目の指定が可能になる。
これにより、作業者130は、重畳表示領域701に表示された3次元CADデータ121と、撮影画像データ122とにおいて、1ペア目の基準線をそれぞれ指定する。また、指定部304は、作業者130により指定された1ペア目の基準線を受け付ける。
また、診断画面1000において、“基準線(2)指定”ボタン1002が選択されると、3次元CADデータ121の基準線と、撮影画像データ122に含まれる製造物の対応する基準線の2ペア目の指定が可能になる。あるいは、3次元CADデータ121の基準点と、撮影画像データ122に含まれる製造物の対応する基準点の1ペア目の指定が可能になる。
これにより、作業者130は、重畳表示領域701に表示された3次元CADデータ121と、撮影画像データ122とにおいて、2ペア目の基準線をそれぞれ指定する。また、指定部304は、作業者130により指定された2ペア目の基準線を受け付ける。
あるいは、作業者130は、重畳表示領域701に表示された3次元CADデータ121と、撮影画像データ122とにおいて、それぞれの1ペア目の基準点を指定する。また、指定部304は、作業者130により指定された1ペア目の基準点を受け付ける。
指定部304が、2ペアの基準線、または、1ペアの基準線及び1ペアの基準点の指定を受け付けると、表示部305は、診断画面1010を表示する。図10に示すように、診断画面1010には、重畳表示領域1011と、“基準線(1)指定”ボタン1001と、“基準線(2)指定”ボタン1002と、“重畳”ボタン704と、“差異領域表示”ボタン1004と、“戻る”ボタン705とが含まれる。
なお、この時点では、既に2ペアの基準線、または、1ペアの基準線及び1ペアの基準点の指定が行われているため、診断画面1010には、“重畳”ボタン704が選択可能に表示される。診断画面1010において、作業者130により、“重畳”ボタン704が押下されると、重畳部303では、指定された2ペアの基準線、または、1ペアの基準線及び1ペアの基準点に基づいて、重畳処理(詳細は後述)を行い、重畳データ123を生成する。これにより、重畳表示領域1011には、重畳データ123が表示される。
また、“重畳”ボタン704が押下され、重畳表示領域1011に重畳データ123が表示されると、図11の診断画面1100に進む。図11は、差異領域表示処理の画面例を示す第1の図である。図11に示すように、診断画面1100において、“差異領域表示”ボタン1004は選択可能に表示される。
作業者130は、重畳表示領域1101において、重畳データ123のうちの着目したい部分を拡大表示したうえで、“差異領域表示”ボタン1004を押下する。これにより、表示部305は、重畳データ123において、基準線以外のエッジ線のずれを検出し、差異領域を抽出する。図11において、診断画面1110は、重畳表示領域1102に差異領域の位置及び形状を特定するための2次元図形を表示した様子を示している。なお、表示部305では、例えば、ずれ量が大きい場合には2次元図形を赤色で表示し、ずれ量が小さい場合には2次元図形を青色で表示する。
このように、色分けされた2次元図形を表示することで、作業者130は、ずれの原因箇所(製造ミスの箇所)及びずれ量の程度を容易に把握することができる。
なお、表示部305による差異領域の表示方法はこれに限定されない。図12は、差異領域表示処理の画面例を示す第2の図である。図12の診断画面1200の重畳表示領域1201に示すように、表示部305は、差異領域の位置を特定する円形のマーカを表示してもよい。なお、円形のマーカ内の色は、2次元図形の場合と同様に、ずれ量に応じた色で表示されるものとする。
<重畳処理の詳細>
次に、表示制御処理の重畳処理(ステップS903)の詳細について説明する。図13は、重畳処理の詳細を示す第2のフローチャートである。
ステップS1301において、重畳部303は、3次元CADデータ121の1ペア目の基準線と、撮影画像データ122に含まれる製造物の1ペア目の基準線とが平行になるように、3次元CADデータ121のx軸周り、y軸周り、z軸周りの各角度を算出する。また、重畳部303は、算出した各角度に応じて、3次元CADデータ121を回転させる。
このとき、重畳部303は、3次元CADデータ121の2ペア目の基準線と、撮影画像データ122に含まれる製造物の2ペア目の基準線とが一致するように、3次元CADデータ121を、1ペア目の基準線周りに回転させる。なお、重畳部303では、1ペア目の基準線同士を平行にまたは一致させた状態で、3次元CADデータ121を回転させる。
あるいは、重畳部303は、3次元CADデータ121の基準点と、撮影画像データ122に含まれる製造物の基準点とが一致するように、3次元CADデータ121を、1ペア目の基準線周りに回転させる。なお、重畳部303では、1ペア目の基準線同士を平行にまたは一致させた状態で、3次元CADデータ121を回転させる。
ステップS1302において、重畳部303は、3次元CADデータ121の1ペア目の基準線と撮影画像データ122の1ペア目の基準線とが一致するように、3次元CADデータ121を平行移動させる移動距離を算出する。また、重畳部303は、算出した移動距離に応じて、3次元CADデータ121を平行移動させる。
以上の説明から明らかなように、第2の実施形態では、撮影画像データに含まれる製造物に、該製造物の3次元CADデータを重畳表示する際、2ペアの基準線を指定し、当該2ペアの基準線が一致するように、3次元CADデータの姿勢を特定する。
あるいは、第2の実施形態では、撮影画像データに含まれる製造物に、該製造物の3次元CADデータを重畳表示する際、1ペアの基準線と1ペアの基準点とを指定し、当該基準線及び基準点が一致するように、3次元CADデータの姿勢を特定する。
このように、2ペアの基準線または1ペアの基準線及び基準点を一致させて重畳表示することで、作業者は、基準線以外の製造物のエッジ線と、基準線以外の3次元CADデータのエッジ線との間のずれを、ずれ情報(ずれの原因箇所)として把握することができる。
この結果、第2の実施形態によれば、複数のエッジ線のペアを指定して、指定したエッジ線のペアのずれ量の総和が最小となるように重畳表示する場合と比較して、製造物の製造により生じた、製造物の設計データからのずれの表示精度を高めることができる。
[第3の実施形態]
上記第1及び第2の実施形態では、重畳処理(ステップS405、ステップS903)を情報処理装置110にて実行するものとして説明した。しかしながら、重畳処理の実行主体は、情報処理装置110に限定されない。例えば、情報処理装置110と通信可能に接続されるサーバ装置であってもよい。
図14は、3次元重畳技術の適用例を示す第2の図である。図14に示す適用例の場合、情報処理装置110は、各工程において撮影された撮影画像データ122を、ネットワーク1410を介してサーバ装置1400に送信する。また、図14に示す適用例の場合、情報処理装置110は、サーバ装置1400から送信された重畳データ123を表示する。
また、図14に示す適用例の場合、サーバ装置1400は、3次元CADデータ121を予め格納しておき、情報処理装置110から撮影画像データ122が送信された場合に、3次元CADデータ121を重畳することで重畳データ123を生成する。更に、図14の適用例の場合、サーバ装置1400は、生成した重畳データ123を、ネットワーク1410を介して情報処理装置110に送信する。
このように、サーバ装置1400にて重畳処理を実行することで、サーバ装置1400は、種々の製造メーカに対して、重畳表示サービスを提供することが可能となる。
[その他の実施形態]
上記第1の実施形態では、作業者130が、“基準線指定”ボタン702や“エッジ線指定”ボタン703等を選択してから、基準線や基準線以外のエッジ線を指定するものとして説明した。しかしながら、作業者130による基準線の選択方法はこれに限定されず、例えば、はじめに、複数のエッジ線のペアを指定し、指定した複数のエッジ線のペアの中から、基準線のペアを選択するようにしてもよい。
また、上記第1の実施形態では、基準線以外のエッジ線を、作業者130が指定するものとして説明した。しかしながら、作業者130は、撮影画像データ122に含まれる製造物の基準線以外のエッジ線を指定し、3次元CADデータ121の基準線以外のエッジ線については、指定部304が自動で対応付けを行うようにしてもよい。あるいは、基準線以外のエッジ線は、例えば、重畳部303が、3次元CADデータ121及び撮影画像データ122それぞれから、自動で選択し、対応付けを行うようにしてもよい。
また、上記第1乃至第3の実施形態では、撮影画像データ122に含まれる製造物の基準線と、3次元CADデータ121の基準線とを、作業者130が指定することで、両者の対応付けを行うものとして説明した。しかしながら、作業者は、撮影画像データ122に含まれる製造物の基準線を指定し、3次元CADデータ121の基準線については、指定された製造物の基準線に基づいて、指定部304が自動で対応付け(ペアリング)を行うようにしてもよい。この場合、指定部304は、ペアリング部として機能する。
また、上記第1乃至第3の実施形態では、重畳処理を実行する際、基準線を平行にまたは一致させた状態で、3次元CADデータ121の姿勢を特定するものとして説明した。しかしながら、重畳処理を実行する際に一致させる場合の基準線は、完全一致していなくてもよい。例えば、基準線の一致度が所定の一致度以上の状態で、3次元CADデータ121の姿勢を特定するようにしてもよい。
また、上記第1乃至第3の実施形態では、撮影画像に含まれる製造物から抽出される線を“エッジ線”とし、3次元CADデータに含まれる線を“稜線”としたうえで、説明の便宜上、いずれも、“エッジ線”として取り扱った。しかしながら、重畳表示に用いるこれらの線の呼称は任意である。例えば、撮影画像に含まれる製造物から抽出されるエッジ線には、製造物の稜線に対応するエッジ線が含まれる。また、エッジ線の指定は、稜線の指定に相当するものとみなすことができる。
また、上記第1乃至第3の実施形態では、重畳処理の実行に際して、撮影画像データ122に含まれる製造物のサイズと、3次元CADデータ121のサイズとが対応しているものとして説明した。しかしながら、重畳処理を実行する際、3次元CADデータ121のサイズを拡大または縮小処理するようにしてもよい。
なお、開示の技術では、以下に記載する付記のような形態が考えられる。
(付記1)
製造物を含む撮影画像から抽出された複数のエッジ線と、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線とを表示し、
表示した前記複数のエッジ線に含まれるエッジ線と、表示した前記複数の稜線に含まれる稜線とを含む複数のペアの指定と、指定された前記複数のペアのうちの何れかのペアの指定とを受け付け、
指定された前記何れかのペアに含まれる稜線の位置を、前記何れかのペアに含まれるエッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記複数のペアのうちの他のペアに含まれる稜線の位置が前記他のペアに含まれるエッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
処理をコンピュータが実行することを特徴とする表示制御方法。
(付記2)
指定された前記複数のペアのうちの何れかのペアは、前記製造物を製造する際の基準線であるエッジ線と、前記3次元モデルの対応する基準線である稜線とを含むことを特徴とする付記1に記載の表示制御方法。
(付記3)
指定された前記複数のペアのうちの他のペアは、
前記製造物を製造する際の他の基準線であるエッジ線と、前記3次元モデルの対応する他の基準線である稜線とを含む、または、
前記製造物を製造する際の基準点を含むエッジ線と、前記3次元モデルの対応する基準点を含む稜線とを含む、
ことを特徴とする付記2に記載の表示制御方法。
(付記4)
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示した際の、対応するエッジ線と稜線との間の差異領域を、
該差異領域の位置及び形状を特定するための2次元図形により表示する、または、
該差異領域の位置を特定するためのマーカにより表示する
ことを特徴とする付記3に記載の表示制御方法。
(付記5)
前記差異領域の大きさに応じた色で前記2次元図形または前記マーカを表示することを特徴とする付記4に記載の表示制御方法。
(付記6)
製造物を含む撮影画像から抽出された複数のエッジ線を表示し、
表示した前記複数のエッジ線に含まれる何れかのエッジ線の指定を受け付け、
表示した前記複数のエッジ線のうち、指定された前記何れかのエッジ線を含む所定数のエッジ線を、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線のうち、前記所定数の稜線にそれぞれ対応付け、
指定された前記何れかのエッジ線に対応付けられた稜線の位置を、前記何れかのエッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記所定数のエッジ線に含まれる他のエッジ線に対応付けられた稜線の位置が前記他のエッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
処理をコンピュータが実行することを特徴とする表示制御方法。
(付記7)
指定された前記何れかのエッジ線は、前記製造物を製造する際の基準線であることを特徴とする付記6に記載の表示制御方法。
(付記8)
指定された前記何れかのエッジ線は、前記製造物を製造する際の第1の基準線であり、指定された前記所定数のエッジ線に含まれる他のエッジ線は、前記製造物を製造する際の第2の基準線であることを特徴とする付記6に記載の表示制御方法。
(付記9)
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示した際の、対応するエッジ線と稜線との間の差異領域を、
該差異領域の位置及び形状を特定するための2次元図形により表示する、または、
該差異領域の位置を特定するためのマーカにより表示する
ことを特徴とする付記8に記載の表示制御方法。
(付記10)
前記差異領域の大きさに応じた色で前記2次元図形または前記マーカを表示することを特徴とする付記9に記載の表示制御方法。
(付記11)
製造物を含む撮影画像から抽出された複数のエッジ線と、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線とを表示する表示部と、
表示した前記複数のエッジ線に含まれるエッジ線と、表示した前記複数の稜線に含まれる稜線とを含む複数のペアの指定と、指定された前記複数のペアのうちの何れかのペアの指定とを受け付ける指定部と、
指定された前記何れかのペアに含まれる稜線の位置を、前記何れかのペアに含まれるエッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記複数のペアのうちの他のペアに含まれる稜線の位置が前記他のペアに含まれるエッジ線の位置に対応する前記3次元モデルの姿勢を特定する特定部と、
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する重畳表示部と
を有することを特徴とする情報処理装置。
(付記12)
製造物を含む撮影画像から抽出された複数のエッジ線を表示する表示部と、
表示した前記複数のエッジ線に含まれる何れかのエッジ線の指定を受け付ける指定部と、
表示した前記複数のエッジ線のうち、指定された前記何れかのエッジ線を含む所定数のエッジ線を、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線のうち、前記所定数の稜線にそれぞれ対応付けるペアリング部と、
指定された前記何れかのエッジ線に対応付けられた稜線の位置を、前記何れかのエッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記所定数のエッジ線に含まれる他のエッジ線に対応付けられた稜線の位置が前記他のエッジ線の位置に対応する前記3次元モデルの姿勢を特定する特定部と、
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する重畳表示部と、
を有することを特徴とする情報処理装置。
(付記13)
製造物を含む撮影画像から抽出された複数のエッジ線と、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線とを表示し、
表示した前記複数のエッジ線に含まれるエッジ線と、表示した前記複数の稜線に含まれる稜線とを含む複数のペアの指定と、指定された前記複数のペアのうちの何れかのペアの指定とを受け付け、
指定された前記何れかのペアに含まれる稜線の位置を、前記何れかのペアに含まれるエッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記複数のペアのうちの他のペアに含まれる稜線の位置が前記他のペアに含まれるエッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
処理をコンピュータに実行させるための表示制御プログラム。
(付記14)
製造物を含む撮影画像から抽出された複数のエッジ線を表示し、
表示した前記複数のエッジ線に含まれる何れかのエッジ線の指定を受け付け、
表示した前記複数のエッジ線のうち、指定された前記何れかのエッジ線を含む所定数のエッジ線を、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線のうち、前記所定数の稜線にそれぞれ対応付け、
指定された前記何れかのエッジ線に対応付けられた稜線の位置を、前記何れかのエッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記所定数のエッジ線に含まれる他のエッジ線に対応付けられた稜線の位置が前記他のエッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
処理をコンピュータに実行させるための表示制御プログラム。
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせ等、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
110 :情報処理装置
121 :3次元CADデータ
122 :撮影画像データ
123 :重畳データ
300 :表示制御部
301 :3次元CADデータ取得部
302 :撮影画像データ取得部
303 :重畳部
304 :指定部
305 :表示部
1400 :サーバ装置

Claims (12)

  1. 製造物を含む撮影画像を取得することで、前記撮影画像から抽出た複数のエッジ線と、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線とを表示した場合に、表示した前記複数のエッジ線、表示した前記複数の稜線とから、
    前記製造物を製造する際の基準となるエッジ線と、該エッジ線に対応する3次元モデルの稜線とのペアである基準線のペアとして、前記複数のエッジ線のうちの第1エッジ線と前記複数の稜線のうちの第1稜線とのペアの指定を受け付けるとともに、
    前記基準線のペア以外のペアとして、前記複数のエッジ線のうちの第2エッジ線と前記複数の稜線のうちの第2稜線とのペアの指定を受け付け、
    前記第1稜線の位置を、前記第1エッジ線の位置に所定の一致度以上で一致させた状態で、前記第2稜線の位置が前記第2エッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
    特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
    処理をコンピュータが実行することを特徴とする表示制御方法。
  2. 前記基準線のペア以外のペアとして
    前記製造物を製造する際の他の基準線である前記第2エッジ線と、前記第2エッジ線に対応する前記3次元モデルの前記第2稜線の指定、または、
    前記製造物を製造する際の前記第2エッジ線上の基準点前記第2エッジ線に対応する前記3次元モデルの前記第2稜線上の基準点の指定を受け付ける
    ことを特徴とする請求項に記載の表示制御方法。
  3. 特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示した際の、対応するエッジ線と稜線との間の差異領域を、
    該差異領域の位置及び形状を特定するための2次元図形により表示する、または、
    該差異領域の位置を特定するためのマーカにより表示する
    ことを特徴とする請求項に記載の表示制御方法。
  4. 前記差異領域の大きさに応じた色で前記2次元図形または前記マーカを表示することを特徴とする請求項に記載の表示制御方法。
  5. 製造物を含む撮影画像を取得することで、前記撮影画像から抽出た複数のエッジ線を表示した場合に、表示した前記複数のエッジ線の中から、前記製造物を製造する際の基準となる第1エッジ線指定受け付け
    前記第1エッジ線の指定を受け付けた場合に、前記第1エッジ線を含む所定数のエッジ線を、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線のうち、前記所定数の稜線にそれぞれ対応付け、
    指定された前記第1エッジ線に対応付けられた第1稜線の位置を、前記第1エッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記所定数のエッジ線に含まれる第2エッジ線に対応付けられた第2稜線の位置が前記第2エッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
    特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
    処理をコンピュータが実行することを特徴とする表示制御方法。
  6. 指定された前記第1エッジ線は、前記製造物を製造する際の第1の基準線であり、指定された前記所定数のエッジ線に含まれる前記第2エッジ線は、前記製造物を製造する際の第2の基準線であることを特徴とする請求項に記載の表示制御方法。
  7. 特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示した際の、対応するエッジ線と稜線との間の差異領域を、
    該差異領域の位置及び形状を特定するための2次元図形により表示する、または、
    該差異領域の位置を特定するためのマーカにより表示する
    ことを特徴とする請求項に記載の表示制御方法。
  8. 前記差異領域の大きさに応じた色で前記2次元図形または前記マーカを表示することを特徴とする請求項に記載の表示制御方法。
  9. 製造物を含む撮影画像が取得されることで、前記撮影画像から抽出された複数のエッジ線と、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線と表示された場合に、表示された前記複数のエッジ線、表示された前記複数の稜線とから、
    前記製造物を製造する際の基準となるエッジ線と、該エッジ線に対応する3次元モデルの稜線とのペアである基準線のペアとして、前記複数のエッジ線のうちの第1エッジ線と前記複数の稜線のうちの第1稜線とのペアの指定を受け付けるとともに、
    前記基準線のペア以外のペアとして、前記複数のエッジ線のうちの第2エッジ線と前記複数の稜線のうちの第2稜線とのペアの指定を受け付ける、
    指定部と、
    前記第1稜線の位置を、前記第1エッジ線の位置に所定の一致度以上で一致させた状態で、前記第2稜線の位置が前記第2エッジ線の位置に対応する前記3次元モデルの姿勢を特定する特定部と、
    特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する重畳表示部と
    を有することを特徴とする情報処理装置。
  10. 製造物を含む撮影画像が取得されることで、前記撮影画像から抽出された複数のエッジ線が表示された場合に、表示された前記複数のエッジ線の中から、前記製造物を製造する際の基準となる第1エッジ線指定受け付け指定部と、
    前記第1エッジ線の指定を受け付けた場合に、前記第1エッジ線を含む所定数のエッジ線を、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線のうち、前記所定数の稜線にそれぞれ対応付けるペアリング部と、
    指定された前記第1エッジ線に対応付けられた第1稜線の位置を、前記第1エッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記所定数のエッジ線に含まれる第2エッジ線に対応付けられた第2稜線の位置が前記第2エッジ線の位置に対応する前記3次元モデルの姿勢を特定する特定部と、
    特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する重畳表示部と、
    を有することを特徴とする情報処理装置。
  11. 製造物を含む撮影画像を取得することで、前記撮影画像から抽出た複数のエッジ線と、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線とを表示した場合に、表示した前記複数のエッジ線、表示した前記複数の稜線とから、
    前記製造物を製造する際の基準となるエッジ線と、該エッジ線に対応する3次元モデルの稜線とのペアである基準線のペアとして、前記複数のエッジ線のうちの第1エッジ線と前記複数の稜線のうちの第1稜線とのペアの指定を受け付けるとともに、
    前記基準線のペア以外のペアとして、前記複数のエッジ線のうちの第2エッジ線と前記複数の稜線のうちの第2稜線とのペアの指定を受け付け、
    前記第1稜線の位置を、前記第1エッジ線の位置に所定の一致度以上で一致させた状態で、前記第2稜線の位置が前記第2エッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
    特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
    処理をコンピュータに実行させるための表示制御プログラム。
  12. 製造物を含む撮影画像を取得することで、前記撮影画像から抽出た複数のエッジ線を表示した場合に、表示した前記複数のエッジ線の中から、前記製造物を製造する際の基準となる第1エッジ線指定受け付け
    前記第1エッジ線の指定を受け付けた場合に、前記第1エッジ線を含む所定数のエッジ線を、前記製造物の設計データに応じた3次元モデルに含まれる複数の稜線のうち、前記所定数の稜線にそれぞれ対応付け、
    指定された前記第1エッジ線に対応付けられた第1稜線の位置を、前記第1エッジ線の位置に所定の一致度以上で一致させた状態で、指定された前記所定数のエッジ線に含まれる第2エッジ線に対応付けられた第2稜線の位置が前記第2エッジ線の位置に対応する前記3次元モデルの姿勢を特定し、
    特定した前記姿勢で前記3次元モデルを前記撮影画像に重畳表示する、
    処理をコンピュータに実行させるための表示制御プログラム。
JP2018121732A 2018-06-27 2018-06-27 表示制御方法、情報処理装置及び表示制御プログラム Active JP7172179B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018121732A JP7172179B2 (ja) 2018-06-27 2018-06-27 表示制御方法、情報処理装置及び表示制御プログラム
US16/448,036 US20200005551A1 (en) 2018-06-27 2019-06-21 Display control method and display control apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018121732A JP7172179B2 (ja) 2018-06-27 2018-06-27 表示制御方法、情報処理装置及び表示制御プログラム

Publications (2)

Publication Number Publication Date
JP2020003995A JP2020003995A (ja) 2020-01-09
JP7172179B2 true JP7172179B2 (ja) 2022-11-16

Family

ID=69054704

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018121732A Active JP7172179B2 (ja) 2018-06-27 2018-06-27 表示制御方法、情報処理装置及び表示制御プログラム

Country Status (2)

Country Link
US (1) US20200005551A1 (ja)
JP (1) JP7172179B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102020134680B4 (de) * 2020-12-22 2023-01-19 Visometry GmbH Verfahren und Anordnung zur Qualitätsprüfung eines Objekts

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017091078A (ja) 2015-11-06 2017-05-25 富士通株式会社 重畳表示方法、重畳表示装置、及び重畳表示プログラム
JP2018081589A (ja) 2016-11-17 2018-05-24 富士通株式会社 重畳画像生成プログラム、重畳画像生成方法、および情報処理装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102012106890A1 (de) * 2012-07-30 2014-01-30 Carl Zeiss Microscopy Gmbh Dreidimensionale Darstellung von Objekten
JP2018142109A (ja) * 2017-02-27 2018-09-13 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017091078A (ja) 2015-11-06 2017-05-25 富士通株式会社 重畳表示方法、重畳表示装置、及び重畳表示プログラム
JP2018081589A (ja) 2016-11-17 2018-05-24 富士通株式会社 重畳画像生成プログラム、重畳画像生成方法、および情報処理装置

Also Published As

Publication number Publication date
JP2020003995A (ja) 2020-01-09
US20200005551A1 (en) 2020-01-02

Similar Documents

Publication Publication Date Title
JP6171671B2 (ja) 情報処理装置、位置指定方法および位置指定プログラム
JP4137078B2 (ja) 複合現実感情報生成装置および方法
US9696543B2 (en) Information processing apparatus and information processing method
JP6160290B2 (ja) 情報処理装置、判定方法および判定プログラム
JP6677890B2 (ja) 情報処理システム、その制御方法、及びプログラム、並びに情報処理装置、その制御方法、及びプログラム
JP2011125567A (ja) 情報処理装置、情報処理方法、情報処理システム、及びプログラム
JP2018050890A (ja) 画像表示装置及び画像表示方法並びにプログラム
JP2012053631A (ja) 情報処理装置、情報処理方法
JP7024817B2 (ja) 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム
JP7172179B2 (ja) 表示制御方法、情報処理装置及び表示制御プログラム
JP2017068849A (ja) 物品の組立て状況情報表示装置
JP6364389B2 (ja) 検査方法及び検査システム
JP2006012042A (ja) 画像生成方法及び装置
JP2022058753A (ja) 情報処理装置、情報処理方法及びプログラム
JP6368421B1 (ja) 立体を認識するためのプログラム、システム、電子装置、及び方法
US11941763B2 (en) Viewing system, model creation apparatus, and control method
JP6152888B2 (ja) 情報処理装置、その制御方法、及びプログラム、並びに、情報処理システム、その制御方法、及びプログラム
KR101792701B1 (ko) 도면 검사 장치 및 방법
CN113412479A (zh) 混合现实显示装置和混合现实显示方法
JP3276949B2 (ja) 3次元有向体の定位方法及び画像処理装置
JP2019144958A (ja) 画像処理装置、画像処理方法およびプログラム
KR101986433B1 (ko) 시점 변환을 이용하는 영상 스티칭 방법 및 시스템
CN112216376A (zh) 远程引导系统、方法、计算机设备以及可读存储介质
JP7258117B1 (ja) 画像処理装置、画像処理方法及びプログラム
KR102343123B1 (ko) 건설현장용 사진기반 데이터 추적관리 시스템 및 추적관리방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210310

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220518

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221017

R150 Certificate of patent or registration of utility model

Ref document number: 7172179

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150