JP2021051031A - 測定支援システム - Google Patents

測定支援システム Download PDF

Info

Publication number
JP2021051031A
JP2021051031A JP2019174991A JP2019174991A JP2021051031A JP 2021051031 A JP2021051031 A JP 2021051031A JP 2019174991 A JP2019174991 A JP 2019174991A JP 2019174991 A JP2019174991 A JP 2019174991A JP 2021051031 A JP2021051031 A JP 2021051031A
Authority
JP
Japan
Prior art keywords
measurement
measured
measurement support
support system
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019174991A
Other languages
English (en)
Inventor
兼史 植田
Kanefumi Ueda
兼史 植田
信策 阿部
Shinsaku Abe
信策 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitutoyo Corp
Mitsutoyo Kiko Co Ltd
Original Assignee
Mitutoyo Corp
Mitsutoyo Kiko Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitutoyo Corp, Mitsutoyo Kiko Co Ltd filed Critical Mitutoyo Corp
Priority to JP2019174991A priority Critical patent/JP2021051031A/ja
Publication of JP2021051031A publication Critical patent/JP2021051031A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】マニュアル操作によりプローブで被測定物の測定箇所を測定するにおいて、現実空間の物に仮想的な物を重ねて表示する複合現実表示を用いて測定箇所の案内などの測定支援情報を被測定物に重畳表示する測定支援システムを提供する。【解決手段】本発明の一態様に係る測定支援システムは、マニュアル操作によりプローブで被測定物の測定箇所を測定する測定機の測定を支援する測定支援システムであって、表示装置と、処理装置と、物体の表面の三次元座標値を検出するための3Dセンサと、を備え、処理装置は、被測定物の設計形状と3Dセンサで検出した物体の表面の三次元座標値とに基づき、被測定物の配置を特定し、表示装置に、被測定物の設計形状に対し予め指定された測定箇所を含む測定支援情報を被測定物に重畳して表示させることを特徴とする。【選択図】図5

Description

本発明はマニュアル操作によりプローブで被測定物の特定された測定箇所を測定する寸法測定機や形状測定機、三次元測定機等の各種測定機による測定作業を支援する測定支援システムに関する。
従来、例えば、三次元測定機、特にアーム型三次元測定機の測定作業において、被測定物の所定の測定箇所に正確に測定子を接触させて測定するために、測定子が目標測定箇所に一定距離内に近づくとアラーム音を出したり、被測定物の3Dモデルとこの被測定物に対する三次元測定機の3Dモデルの相対的な位置や姿勢を三次元測定機の動作に合わせてリアルタイムにCAT(Computer Aided Testing)画面上に表示したりすることで、目標測定箇所を作業者に案内することが行われている。
また、特許文献1には、プロジェクタを備えワークに目標測定箇所を投影表示する三次元測定装置が提案されている。また、特許文献2には、測定結果等の情報をヘッドマウントディスプレイに投影表示することが開示されている。
特開2015−114170号公報 特開2011−112579号公報
以上で説明したように、測定箇所を案内する様々な解決策が提案されているが、アラーム音による案内では、目標測定箇所を正確に案内することは難しい。また、CAT画面上に表示して案内する場合には、視線を頻繁に被測定物からCAT画面に移さざるを得ないため作業性が悪かった。また、プロジェクタやヘッドマウントディスプレイを用いて情報を表示する手法は作業性の問題を解消し得るが、作業者の身体(主に手)や測定機器の一部(例えばプローブ)が目標測定箇所に近づいたときに、案内のための情報が、ワークの手前にある作業者の身体やプローブに投影されてしまい、目標測定箇所を測定の直前まで正確に案内することは困難であった。以上のような目標測定箇所を案内するときに生じる問題は、三次元測定機に限らず、マニュアル操作によりプローブで被測定物の測定箇所を測定するタイプの様々な測定機器、例えば、アーム型三次元測定機、あるいは、ノギスやマイクロメータやダイヤルゲージといった寸法測定器、または、表面粗さ測定機、輪郭形状測定機、真円度測定機といった形状測定機において共通する課題である。
本発明は、上記の課題に鑑みなされたものであり、マニュアル操作によりプローブで被測定物の測定箇所を測定する際の測定支援において、現実空間の物に仮想的な物を重ねて表示する複合現実表示を用いて測定箇所の案内などの測定支援情報を被測定物に重畳表示する測定支援システムを提供することを目的とする。
上記の課題を解決すべく本発明の一態様に係る測定支援システムは、マニュアル操作によりプローブで被測定物の測定箇所を測定する測定機の測定を支援する測定支援システムであって、表示装置と、処理装置と、物体の表面の三次元座標値を検出するための3Dセンサと、を備える。そして、処理装置は、被測定物の設計形状と3Dセンサで検出した物体の表面の三次元座標値とに基づき、被測定物の配置を特定し、表示装置に、被測定物の設計形状に対し予め指定された測定箇所を含む測定支援情報を被測定物に重畳して表示させることを特徴とする。
本発明では、処理装置は、3Dセンサが検出した物体の表面の三次元座標値からなる点群データに基づき、被測定物が障害物により隠れる部分について測定支援情報を表示しないよう表示制御するとよい。
本発明では、処理装置は、測定支援情報を示す三次元モデルを生成し、3Dセンサが検出した物体の表面の三次元座標値の集合である点群データに基づいて生成される点または面に対し、三次元モデルをフィッティングし、点または面ついて、フィッティングした三次元モデルの最近接の位置の色及び三次元モデルの図形を転写または投影することにより、色及び三次元モデルの図形が付された前記点または面により構成される測定支援画像を生成するとよい。
また本発明の他の態様に係る測定支援システムは、マニュアル操作によりプローブで被測定物の測定箇所を測定する測定機の測定を支援する測定支援システムであって、表示装置と、処理装置と、被測定物における基準位置を指定する基準位置指定手段と、を備える。そして、処理装置は、被測定物の設計形状に対し規定された基準位置と基準位置指定手段により指定された被測定物における基準位置とに基づき、被測定物の測定支援情報の配置を決定し、決定した配置に従って、表示装置に、被測定物の設計形状に対し予め指定された測定箇所を含む測定支援情報を被測定物に重畳して表示させることを特徴とする。
本発明では、処理装置は、被測定物の決定された測定支援情報の配置に基づき、被測定物が障害物により隠れる部分について測定支援情報を表示しないよう表示制御するとよい。
本発明において、表示装置はヘッドマウントディスプレイを用いるとよい。また、本発明において、被測定物に「重畳して表示する」とは、透過型のディスプレイを用いたいわゆる光学シースルー方式の場合には、被測定物に重なる位置に当該ディスプレイにおける表示を行うことを指し、ヘッドマウントディスプレイが備えるカメラの画像を非透過型のディスプレイに表示するいわゆるビデオシースルー方式の場合には、被測定物の画像に重ねて他の表示を行うことを指す。
上記の本発明の各態様において、測定支援情報は、被測定物の設計形状を含むとよい。また、測定支援情報は、測定済みの測定箇所を示す図形を含むとよい。この測定済みであることを示す図形は、設計形状に対する偏差の大きさに応じて異なる態様で表示されるとよい。また、測定支援情報は、各測定箇所について、設計形状に対する偏差の大きさと方向を表す矢印を含むとよい。
上記の本発明の各態様において、測定支援情報は、未測定の測定箇所を示す図形を含むとよい。
上記の本発明の各態様において、測定機は、マニュアル操作で測定する三次元測定機であるとよい。
上記の本発明の一態様において、処理装置は、測定支援情報を示す三次元モデルを生成し、3Dセンサが検出した物体の表面の三次元座標値の集合である点群データのうち、被測定物に対応する点群に対し、三次元モデルをフィッティングし、被測定物に対応する点群を構成するそれぞれの点ついて、フィッティングした三次元モデルの最近接の位置の色を転写することにより、色が付された点群により構成される測定支援点群画像を生成するとよい。また、処理装置は、3Dセンサが検出した点群データに基づき、測定支援情報を、被測定物が障害物により隠れる部分について表示しないよう表示制御するとよい。
第1実施形態に係る測定支援システムと当該測定支援システムによる測定支援の対象となる多関節型三次元測定装置の構成を例示する模式図である。 多関節型三次元測定装置の構成を例示する模式図である。 第1実施形態に係る測定支援システムの機能ブロック図である。 第1実施形態において測定支援情報を複合現実表示する手順を示すフローチャートである。 第1実施形態においてワークに対応した測定支援情報を含む画像を生成する過程を示す模式図である。 第2実施形態に係る測定支援システムの機能ブロック図である。 第2実施形態において測定支援情報を複合現実表示する手順を示すフローチャートである。 第2実施形態においてワークに対応した測定支援情報を含む画像を生成する過程を示す模式図である。 第2実施形態における測定支援情報の表示例を示す模式図である。
以下、本発明の実施形態を図面に基づいて説明する。なお、以下の説明では、同一の部材には同一の符号を付し、一度説明した部材については適宜その説明を省略する。
〔第1実施形態〕
本実施形態では、マニュアル操作によりプローブで被測定物の測定箇所を測定する測定機の一例である多関節型三次元測定装置200を用いた測定を支援する測定支援システム100について説明する。測定支援システム100は、図1に示すように、多関節型三次元測定装置200と有線又は無線により通信可能に構成されている。
測定支援の対象となる多関節型三次元測定装置200は、図2に示すように、プローブ204と多関節アーム機構205とを有する。プローブ204は、被測定物(ワーク)Wを測定するためのものであり、その先端(プローブ先端)がボール形状とされている。関節アーム機構205は、図2で示すように、基部206で第1関節208を介して第1アーム210を支持し、第1アーム210は第2関節212を介して第2アーム214を支持し、第2アーム214は第3関節216を介してアームヘッド218を支持している。アームヘッド218は、多関節アーム機構205の先端とされ、プローブ204を備えている。第1関節208(第2関節212、第3関節216)は、互いに直交する軸方向で回転可能とされており、回転角度を検出可能なロータリーエンコーダを2つ内蔵している。つまり、本実施形態の多関節アーム機構205の軸は、6軸とされている(これに限定されず、多関節アーム機構205の軸は7軸等であってもよい)。これらすべてのエンコーダの出力に基づくことで、プローブ204の位置(座標)を特定することが可能とされている。基部206は、被測定物であるワークWの置かれる作業台等に直接的に載置されてもよいし、また、三脚台を介して作業台等に配置されていてもよい。
多関節型三次元測定装置200でワークWの三次元形状を測定する際には、測定者は、図2に示すアームヘッド218に設けられたグリップ219を掴んで操作しプローブ204を手動移動させる。即ち、多関節型三次元測定装置200は、多関節アーム機構205の軸に駆動源を有さないパッシブな構成とされている。そして、測定者は、ワークWに対してプローブ204を自由な方向から近づけることができ、自由な角度で接触させることが可能である。そして、測定者は、スイッチの操作により、ワークWの測定のオン・オフを切り替えることができる。
多関節型三次元測定装置200は、各関節に配されたエンコーダの出力に基づいて、プローブ204の先端位置(座標)を求める。多関節型三次元測定装置200は、測定操作(例えばプローブ204の先端をワークWに接触させる、グリップ219に設けられたトリガボタンを押す等)が行われたタイミングで求めた位置座標を、当該測定箇所の測定結果として出力する。測定が行われた測定箇所は、当該位置座標に基づいて(例えば当該位置座標に最も近い)特定されてもよいし、予め定められた測定手順に従って順番に特定されてもよい。
図1に示すように、測定支援システム100は、ヘッドマウントディスプレイ(HMD)ユニット110と、処理装置120とを有する。図3は、測定支援システム100の機能ブロック図を示している。
HMDユニット110は、多関節型三次元測定装置200による測定を支援するための測定支援情報を表示する表示装置として機能する。HMDユニット110は、図1に示されるように、多関節型三次元測定装置200、処理装置120と、有線または無線で接続され通信可能とされている。HMDユニット110は、フレーム111、表示スクリーン112、カメラ113、および3Dセンサ114、入力部115を備える。フレーム111は、多関節型三次元測定装置200を使用するユーザの頭部に装着されるものであって、表示スクリーン112、カメラ113、および3Dセンサ114を支持する。フレーム111は、例えば、両耳と鼻とで支持するメガネ型、弾性のベルトを頭部に巻くことで装着するゴーグル型、頭部に被る形で装着するヘルメット型等があるが、表示スクリーン112、カメラ113、および3Dセンサ114を安定的に支持できればいずれの形式のものを用いてもよい。
表示スクリーン112は仮想的な三次元空間を表示可能に構成された透過型の表示デバイスであり、HMDユニット110を装着した状態でユーザの視野を覆う位置に設けられる。
HMDユニット110を装着したユーザは、実空間に存在する物(例えば被測定物)を、表示スクリーン112越しに視認することができる。また、ユーザは、仮想空間に存在するものとして表示スクリーン112に表示されるオブジェクト(例えば、測定支援情報)を視認することができる。したがって、HMDユニット110は、実空間に存在する物と、仮想空間に存在するオブジェクトとが重畳された複合現実(Mixed Reality:MR)空間をユーザに提供することができる。
カメラ113は、CCDカメラ等の動画を撮像するカメラである。カメラ113は、例えば、フレーム111の中央付近に、HMDユニット110を装着したユーザの正面を撮像できる向きに配置され、ユーザの正面の画像を撮影する。
3Dセンサ114は、所定の検出範囲にある物体(例えば被測定物)の表面の位置(三次元座標値)を表す点群データPCを取得するセンサである。3Dセンサ114としては、TOF(Time Of Flight)方式、三角測量方式等の様々な方式うち任意のものを用いるとよい。3Dセンサ114は、例えば、フレーム111の中央付近に、検出範囲の中央部がHMDユニット110を装着したユーザの正面を向くように設けられ、ユーザの前方の物体の位置を表す点群データPCを取得する。
入力部115は、ユーザによる操作入力を受け付ける手段である。入力部115は、例えばフレーム111に設けられた物理的スイッチでもよいし、カメラ113で取得した画像や3Dセンサ114で取得した点群データPCに基づきユーザのジェスチャ入力を認識するジェスチャ入力手段としてもよい。
処理装置120は、図1に示すように、多関節型三次元測定装置200、HMDユニット110に有線又は無線で接続されている。処理装置120は、設計情報記憶部121と、測定状態記憶部122と、3Dデータ処理部123と、画像生成部124と、表示制御部125と、を備える。処理装置120は、多関節型三次元測定装置200に内蔵されていてもよいし、HMDユニット110に内蔵されていてもよい。あるいは、処理装置120は、多関節型三次元測定装置200やHMDユニット110とは別体のコンピュータとして実装されていてもよい。
設計情報記憶部121は、被測定物であるワークWのCADデータ、当該CADデータ等から得られるワークWの設計形状や設計値、ワークWにおける測定箇所の情報等を記憶している。測定箇所はワークWの設計形状に対し予め指定されるとよい。設計情報記憶部121は、測定箇所に関して、ワークWにおける測定箇所の位置だけでなく、測定の順序を示す情報を記憶するとよい。
測定状態記憶部122は、測定対象とするワークWの識別情報に紐づけて、当該ワークWにおける各測定箇所について、測定状況(すなわち、未測定/測定済の別)、測定値等を記憶している。その他、測定箇所に紐づけて、目標測定位置、プローブアプローチ方向、測定の未/済、寸法誤差や公差内/外(OK/NG)等設計値との照合結果、等を記憶するようにしてもよい。これらの情報は必要に応じて、後述する測定支援情報に含まれル形でHMDユニット110の表示スクリーン112に表示される。
3Dデータ処理部123は、3Dセンサ114が取得する点群データPCとカメラ113が撮像した画像とに基づいて、ワークWと、ユーザの視点からワークWを遮る位置にある障害物Oとを区別して認識する。具体的には、3Dデータ処理部123は、ユーザが選択したワークについて、設計情報記憶部121からワークWの設計形状を取得し、点群データPCの中から、ワークWの設計形状と一致度が最も高い部分をワークWとして認識してワークWの配置を特定する。また、3Dデータ処理部123は、3Dセンサ114が取得した点群データPCのうちワークWとして認識した部分を、ワーク点群PCとして出力する。
画像生成部124は、HMDユニット110の表示スクリーン112に複合現実表示として表示させる測定支援情報を含んだ画像を生成する。表示制御部125は、画像生成部124が生成する画像を、表示スクリーン112に表示させる。
以上のように構成される測定支援システム100を多関節型三次元測定装置200での測定に適用して、測定を支援するための複合現実表示を行う手順を説明する。図4は、本実施形態における測定を支援するための複合現実表示を行う手順を示すフローチャートである。
この説明では、図5(a)に示したワークWを測定するものとする。図5(a)に示すように、ワークWの他、障害物Oとなる多関節型三次元測定装置200のプローブ204や当該プローブ204を持つユーザ自身の手も、ユーザの視界に入っている。
測定を開始する際、はじめに、ユーザがHMDユニット110の入力部115を操作して、ワークWを選択する(ステップS100)。ユーザの選択が受け付けられると、画像生成部124は、ワークの設計形状の表面に沿って測定箇所を示す図形(例えば円)や番線(盤線)、測定結果(測定値)、3DのCADモデル(ワイヤフレーム、サーフェス等)などの測定支援情報を表すオブジェクトを含む測定支援三次元モデルMを生成または取得する(図5(b)、ステップS110)。
なお、測定支援三次元モデルMは、予め設計情報記憶部121等に格納されていてもよいし、設計情報記憶部121や測定状態記憶部122に記憶された情報に基づき画像生成部124が生成するようにしてもよい。例えば、設計情報記憶部121に記憶されたワークWの設計形状および測定箇所と、測定状態記憶部122に記憶された測定中のワークに関する各測定箇所の測定状況とを組み合わせて、測定状況(未測定/測定済)に応じて異なって視認できる図形を測定箇所に配するとよい。例えば、測定状況に応じて、測定箇所を示す図形の色、形状、大きさ等を異ならせてもよい。あるいは、測定箇所を示す図形を表示する際の演出(例えば点滅等)を異ならせてもよい。
続いて、画像生成部124は、3Dセンサ114が取得した点群データPC(図5(c))のうち、3Dデータ処理部123がワークWであると認識した部分に対応するワーク点群PC(図5(d))を取得する(ステップS120)。続いて、画像生成部124は、ワーク点群PCに測定支援三次元モデルMをフィッティングする(ステップS130)。そして、ワーク点群PCを構成する各点に、フィッティングされた測定支援三次元モデルMにおいて当該点に最も近接するオブジェクトの色を割り当てることにより、測定支援点群画像Iを生成する(図5(e)、ステップS140)。なお、ワーク点群PCにおける点群の密度が不十分な場合、点群の隙間を補完して精細度を高めた測定支援点群画像Iを生成してもよい。
ここで、点群データを構成するそれぞれの点は、物体の表面上の1点の位置座標を示す情報であり、一般的には色の情報を持たないが、本実施形態では、ワーク点群PCを構成するそれぞれの点に色(透明も含む)の情報を持たせることでワークWの表面に色を付した測定支援点群画像Iを生成することを可能とする。つまり、ステップS140では、測定支援三次元モデルMに含まれる各オブジェクトの色が、ワーク点群PCに転写される。このようにすることで、測定支援点群画像Iは、理想的な設計形状ではなく実物のワークWの形状と一致した形状となるため、自然な重畳表示が可能となる。ワークWに対しCADモデルなどから得られる設計形状をフィッティングしてそのまま表示する従来の手法では、ワークWと設計形状とがずれて不自然な重畳表示状態となる場合があったが、上記の手法によればこのようなずれを防ぐことができる。
また、ワーク点群PCには、障害物Oにより隠れた部分の点群が含まれない。このため、この隠れた部分については測定支援三次元モデルMに含まれる各オブジェクトの色が転写されず、表示スクリーン112での表示においてはこの隠れた部分は透明となり障害物Oがそのまま視認できる状態となる。つまり、処理装置120の3Dデータ処理部123は、3Dセンサ114が検出した点群データに基づき、ワークWが障害物Oにより隠れる部分について測定支援情報を表示しないよう表示制御する。上記の手法により、ユーザの視点から見えない部分の表示を行わない、いわゆる陰面処理を実現することができる。これにより、自然な重畳関係で複合現実表示を実現することができ、測定箇所の付近に障害物(例えばユーザ自身の手やプローブ)があっても、測定箇所を示す図形により自然かつ認識しやすい態様で測定箇所を案内することができる。
続いて、測定支援点群画像Iと、必要に応じてその他の表示(例えば、メニュー等)を合成して表示制御部125に提供する(ステップS150)。表示制御部125は、この合成した画像を表示スクリーン112に複合現実表示させる(図5(f)、ステップS160)。
以後、測定を続ける間、上記のステップS110〜S160を繰り返すことで、ユーザとワークWとの相対位置の変化、障害物(例えばプローブ204やユーザの手)の移動、測定の進行(測定状況の変化)等を反映するよう、測定を支援するための複合現実表示が更新し続けられることになる。
以上で説明した測定支援システム100により、ユーザはワークWに重畳して案内表示される測定箇所を視認しながら、効率的に測定を行うことができる。また、ユーザは、測定のために確認しなければならない情報や、測定の状況(例えば、未測定の測定箇所、測定結果等)をワークWから視線を離さずに確認することができ、高効率かつ正確な測定が可能となる。
また、測定支援システム100では、ワークWに重畳する表示を、ワークWの表面形状(表面の凹凸)正確に沿ったものとすることができる。また、ワークWの手前に障害物Oがあるときに、重畳に陰面処理を施すことで、重畳した表示があたかもワークWの表面に実際に描かれているかのようにユーザに認識させることができる。これらにより、ユーザは複合現実空間を違和感なく受け入れることができる。
〔第2実施形態〕
以下、本発明の第2実施形態を図面に基づいて説明する。なお、以下の説明では、第1実施形態で既に説明した部分については、同一符号を付してその説明を省略する。
本実施形態では、測定機の一例である多関節型三次元測定装置200を用いた被測定物の変形量の測定を支援する測定支援システム100’について説明する。このような被測定物の変形量の測定の例としては、自動車の衝突試験において衝突によるキャビンの変形の測定が挙げられる。測定支援システム100’は被測定物の変形の程度をユーザが視覚的に認識できるようにHMDユニットの表示スクリーンに表示して、測定を支援する。第1実施形態における測定支援システム100は、HMDユニット110が備える3Dセンサ114で取得した点群データPCに基づいてワークWを認識し、その認識したワークWに測定支援情報を重畳表示する構成であり、重畳表示を行うHMDユニット110は、ワークWが配置された実空間における座標を必ずしも認識する必要が無かった。これに対し、第2実施形態の測定支援システム100’は、多関節型三次元測定装置200の測定座標系と、HMDユニット110’が複合現実表示を行う仮想空間の座標系とを一致させる(或いは、少なくとも相互に変換可能となるように整合させる)。そして、実空間における所定位置にワークWを配置した場合の設計形状(CADモデル)に基づく測定箇所を示す図形と、実際の測定により得られた測定箇所を示す図形とを、複合現実表示することで、変形量(すなわち、測定箇所が設計上の位置からどの程度移動したか)を容易に認識できるように表示する。このように変形量を表示する機能を実現するための構成以外は第1実施形態の測定支援システム100と略同様の構成を備える。以下では第1実施形態と共通の構成については同一符号を付してその説明を省略し、第1実施形態の200と異なる構成について詳述する。
図6は、第2実施形態における測定支援システム100’の構成を示す機能ブロック図である。測定支援システム100’は、HMDユニット110’と、処理装置120’とを備える。HMDユニット110’は、第1実施形態におけるHMDユニット110が備える構成に加え、位置・姿勢取得部116を備える一方、カメラ113および3Dセンサ114は必ずしも必要としない。処理装置120’は、3Dデータ処理部123を備えない点で第1実施形態と異なっている。
位置・姿勢取得部116は、HMDユニット110’の実空間における位置及び姿勢を取得する。位置・姿勢取得部116が、位置及び姿勢を取得する方法は任意である。例えば、位置・姿勢取得部116は、全地球航法衛星システム(Global Navigation Satellite System;GNSS)における人工衛星から発射される信号を受信するGNSS受信機によりHMDユニット110’の位置を取得し、加速度センサやジャイロセンサによりHMDユニット110’の姿勢を検出してもよい。あるいは、位置・姿勢取得部116は、3Dセンサ114を備える構成を採用し、当該3Dセンサ114が取得する点群データに基づき、ワークWが配置された空間における周囲に固定的に配置された物体(例えば、壁、床、天井、什器家具等)のHMDユニット110’に対する相対位置を常時把握し、これらの相対位置に基づき、物体の位置・姿勢は変化せずHMDユニット110’の位置・姿勢が変化するものとしてHMDユニット110’の位置及び姿勢を演算により求めてもよい。なお、位置・姿勢取得部116が取得する位置及び姿勢を表す座標系は、ワークWが配置される空間に対して固定された座標系として予め設定されるものとする。
本実施形態において、処理装置120’の設計情報記憶部121は、第1実施形態と同様に、ワークWのCADデータ、当該CADデータ等から得られるワークWの設計形状や設計値、ワークWにおける測定箇所の情報等を記憶するが、これに加え、ワークWの測定支援情報をHMDユニット110’に表示させる際の基準とする位置(ワークWの設計形状における複数の基準位置)を記憶する。
図7は、以上のように構成される測定支援システム100’によって実現される、測定を支援するための複合現実表示を行う手順を示すフローチャートである。この説明では、図8(a)に示すように、設計形状から変形した状態のワークWを測定するものとする。
測定を開始する際、はじめに、ユーザがHMDユニット110’の入力部115を操作して、ワークWを選択する(ステップS200)。ユーザの選択が受け付けられると、画像生成部124は選択されたワークWについての測定支援情報を表すオブジェクトを含む測定支援三次元モデルM(図8(b))を生成または取得する(ステップS210)。本実施形態では、測定支援情報は、例えば図9に示すように、ワークの設計形状(例えば3DのCADモデル)を示す図形L1、設計形状における測定箇所を示す図形S1(例えば球)、番線(盤線)L2、測定により得られた座標(実測箇所)に配置される図形S2(設計形状における測定箇所を示す図形とは外観(色、形状、表示上の演出等)を異ならせるとよい)、設計形状における測定箇所と当該測定箇所に対応する実測箇所との偏差を表す図形S3(例えば偏差の大きさと方向を表す、設計形状における測定箇所を始点とし実測箇所を終点とする矢印)、実測箇所を結んだ外形を示す図形L3、設計形状(理想的な形状)に対し許容される公差を示す図形L4等を含むとよい。設計形状における基準位置を含むとよい。
また、画像生成部124は、表示スクリーン112での表示を介して、測定支援情報を表示させる際の実空間における基準位置を指定するようユーザに促す(ステップS220)。ユーザは基準位置を指定する所定の操作(例えば、実空間内の基準位置を順番に指差すジェスチャ)を行う(ステップS230)。ここで、所定の操作を検出する入力部115は、本発明における基準位置指定手段に相当する。指定された実空間内の基準位置とワークWの測定支援情報に含まれる基準位置との誤差が最小となるように、測定支援三次元モデルMの配置を決定する(ステップS240)。そして、表示制御部125は、決定された位置に測定支援三次元モデルMが配置された複合現実表示を表示スクリーン112に表示させる(図8(c)、ステップS250)。
以上で説明した測定支援システム100’により、ユーザはワークWに重畳して表示される測定支援情報を視認しながら、効率的に変形量の測定を行うことができる。また、ユーザは、測定の状況(例えば、未測定の測定箇所、測定結果、測定結果の良否、変形の程度等)をワークWから視線を離さずに確認することができ、高効率かつ正確な測定が可能となる。
〔実施形態の変形〕
なお、上記に本実施形態を説明したが、本発明はこれらの例に限定されるものではない。例えば、上記の第1実施形態において、ワーク点群に測定支援三次元モデルの色の情報を「転写」したが、この転写を行わずに、ワーク点群にフィッティングした測定支援三次元モデルを表示するようにしてもよい。
また、上記の実施形態において、画像生成部124は、ワーク点群PCに測定支援三次元モデルMをフィッティングし、ワーク点群PCを構成する各点に、フィッティングされた測定支援三次元モデルMにおいて当該点に最も近接するオブジェクトの色を割り当てることにより、測定支援点群画像Iを生成した。これに代えて画像生成部124は、3Dセンサ114が検出した点群データに基づいて生成される点または面に対し、三次元モデルをフィッティングしてもよい。そして、この点または面ついて、フィッティングした三次元モデルの最近接の位置の色及び三次元モデルの図形を転写または投影することにより、色及び三次元モデルの図形が付された点または面により構成される測定支援画像を生成してもよい。
また、上記の第1実施形態において、ワークにおける障害物で隠れた部分を陰面処理し、当該部分は透過して見えるようにしたが、その実現方法は上記第1実施形態にて説明した方法に限定されず、任意である。たとえば、ワークWと障害物Oとをそれぞれ認識し、ワークWの表面のうちユーザの視点(つまりHMDユニットのある位置)から障害物Oに隠れて見えない部分を陰面として特定し、当該陰面に対応する領域については画像を非表示としてもよい。
また、上記の各実施形態において、測定箇所の測定順序を記憶しておき、測定状況と照らしつつ次の測定箇所(目標測定箇所)を他とは異なる態様で表示してもよい。
また、上記の各実施形態では、透過型のディスプレイを用いたいわゆる光学シースルー方式により複合現実表示を実現したが、ヘッドマウントディスプレイが備えるカメラの画像を非透過型のディスプレイに表示するいわゆるビデオシースルー方式を採用して複合現実表示を実現してもよい。
また、上記の各実施形態では、プローブとして先端にボール形状の接触子を有する接触型のプローブを用いる場合を例に説明したが、プローブの方式は任意である。プローブとして、例えば、非接触レーザプローブのような非接触型のプローブを用いてもよい。非接触レーザプローブによれば、ワークWの表面をレーザ光でスキャンして大量の点群データを取得することができる。
また、上記の各実施形態では、HMDユニットが備える3Dセンサで前方の物体の位置を検出したが、3Dセンサに代えてステレオカメラ等の他の手段にて前方の物体の位置を検出するようにしてもよい。
また、前述の各実施形態に対して、当業者が適宜、構成要素の追加、削除、設計変更を行ったものや、各実施形態の特徴を適宜組み合わせたものも、本発明の要旨を備えている限り、本発明の範囲に含有される。
100、100’ 測定支援システム
110、110’ HMDユニット
111 フレーム
112 表示スクリーン
113 カメラ
114 3Dセンサ
115 入力部
116 位置・姿勢取得部
120、120’ 処理装置
121 設計情報記憶部
122 測定状態記憶部
123 3Dデータ処理部
124 画像生成部
125 表示制御部
200 多関節型三次元測定装置
204 プローブ
205 多関節アーム機構
206 基部
208 第1関節
210 第1アーム
212 第2関節
214 第2アーム
216 第3関節
218 アームヘッド
219 グリップ
W 被測定物(ワーク)

Claims (11)

  1. マニュアル操作によりプローブで被測定物の測定箇所を測定する測定機の測定を支援する測定支援システムであって、
    表示装置と、
    処理装置と、
    物体の表面の三次元座標値を検出するための3Dセンサと、を備え、
    前記処理装置は、
    前記被測定物の設計形状と前記3Dセンサで検出した前記物体の表面の三次元座標値とに基づき、前記被測定物の配置を特定し、
    前記表示装置に、前記被測定物の設計形状に対し予め指定された測定箇所を含む測定支援情報を前記被測定物に重畳して表示させる
    ことを特徴とする測定支援システム。
  2. 前記処理装置は、
    前記3Dセンサが検出した物体の表面の三次元座標値からなる点群データに基づき、前記被測定物が障害物により隠れる部分について前記測定支援情報を表示しないよう表示制御することを特徴とする請求項1に記載の測定支援システム。
  3. 前記処理装置は、
    前記測定支援情報を示す三次元モデルを生成し、
    前記3Dセンサが検出した前記物体の表面の三次元座標値の集合である点群データに基づいて生成される点または面に対し、前記三次元モデルをフィッティングし、
    前記点または面ついて、フィッティングした前記三次元モデルの最近接の位置の色及び三次元モデルの図形を転写または投影することにより、色及び三次元モデルの図形が付された前記点または面により構成される測定支援画像を生成する
    ことを特徴とする請求項1または2に記載の測定支援システム。
  4. マニュアル操作によりプローブで被測定物の測定箇所を測定する測定機の測定を支援する測定支援システムであって、
    表示装置と、
    処理装置と、
    前記被測定物における基準位置を指定する基準位置指定手段と、を備え、
    前記処理装置は、
    前記被測定物の設計形状に対し規定された基準位置と前記基準位置指定手段により指定された前記被測定物における基準位置とに基づき、前記被測定物の測定支援情報の配置を決定し、
    決定した配置に従って、前記表示装置に、前記被測定物の設計形状に対し予め指定された測定箇所を含む前記測定支援情報を前記被測定物に重畳して表示させる
    ことを特徴とする測定支援システム。
  5. 前記処理装置は、
    前記被測定物の決定された測定支援情報の配置に基づき、前記被測定物が障害物により隠れる部分について前記測定支援情報を表示しないよう表示制御することを特徴とする請求項4に記載の測定支援システム。
  6. 前記測定支援情報は、前記被測定物の設計形状を含むことを特徴とする請求項1から5のいずれか1項に記載の測定支援システム。
  7. 前記測定支援情報は、測定済みの測定箇所を示す図形を含む特徴とする請求項1から6のいずれか1項に記載の測定支援システム。
  8. 前記測定済みであることを示す図形は、設計形状に対する偏差の大きさに応じて異なる態様で表示されることを特徴とする請求項7に記載の測定支援システム。
  9. 前記測定支援情報は、各測定箇所について、設計形状に対する偏差の大きさと方向を表す矢印を含むことを特徴とする請求項7に記載の測定支援システム。
  10. 前記測定支援情報は、未測定の測定箇所を示す図形を含むことを特徴とする請求項1から9のいずれか1項に記載の測定支援システム。
  11. 前記測定機は、マニュアル操作で測定する三次元測定機であることを特徴とする請求項1から10のいずれか1項に記載の測定支援システム。

JP2019174991A 2019-09-26 2019-09-26 測定支援システム Pending JP2021051031A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019174991A JP2021051031A (ja) 2019-09-26 2019-09-26 測定支援システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019174991A JP2021051031A (ja) 2019-09-26 2019-09-26 測定支援システム

Publications (1)

Publication Number Publication Date
JP2021051031A true JP2021051031A (ja) 2021-04-01

Family

ID=75157655

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019174991A Pending JP2021051031A (ja) 2019-09-26 2019-09-26 測定支援システム

Country Status (1)

Country Link
JP (1) JP2021051031A (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016048239A (ja) * 2014-08-27 2016-04-07 ステインビッヒラー オプトテヒニク ゲゼルシャフト ミット ベシュレンクテル ハフツング 物体の3d座標を測定するための方法および装置
JP2016109669A (ja) * 2014-11-28 2016-06-20 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
JP2017125740A (ja) * 2016-01-13 2017-07-20 株式会社東京精密 三次元測定機、測定方法、及び測定プログラム
JP2017524944A (ja) * 2014-08-11 2017-08-31 ファロ テクノロジーズ インコーポレーテッド 拡張現実のための6自由度三角計測スキャナとカメラ
JP2017198561A (ja) * 2016-04-27 2017-11-02 株式会社キーエンス 三次元座標測定器
JP2018067300A (ja) * 2016-10-14 2018-04-26 キヤノン株式会社 情報処理装置及びその制御方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017524944A (ja) * 2014-08-11 2017-08-31 ファロ テクノロジーズ インコーポレーテッド 拡張現実のための6自由度三角計測スキャナとカメラ
JP2016048239A (ja) * 2014-08-27 2016-04-07 ステインビッヒラー オプトテヒニク ゲゼルシャフト ミット ベシュレンクテル ハフツング 物体の3d座標を測定するための方法および装置
JP2016109669A (ja) * 2014-11-28 2016-06-20 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
JP2017125740A (ja) * 2016-01-13 2017-07-20 株式会社東京精密 三次元測定機、測定方法、及び測定プログラム
JP2017198561A (ja) * 2016-04-27 2017-11-02 株式会社キーエンス 三次元座標測定器
JP2018067300A (ja) * 2016-10-14 2018-04-26 キヤノン株式会社 情報処理装置及びその制御方法

Similar Documents

Publication Publication Date Title
CN110977931B (zh) 使用了增强现实和混合现实的机器人控制装置及显示装置
JP5378374B2 (ja) リアルオブジェクトに対するカメラの位置および方向を把握する方法およびシステム
CN109765992B (zh) 将虚拟内容与物理环境空间配准的系统、方法和工具
JP4667111B2 (ja) 画像処理装置、画像処理方法
KR101800949B1 (ko) 워크 가공 작업 지원 시스템 및 워크 가공 방법
US10066922B2 (en) Manual measuring system
US10107619B2 (en) Articulated arm coordinate measuring machine
US7818091B2 (en) Process and device for determining the position and the orientation of an image reception means
US20180018791A1 (en) Computer program, head-mounted display device, and calibration method
JP2000102036A (ja) 複合現実感提示システム、複合現実感提示方法、マン・マシーンインタフェース装置、およびマン・マシーンインタフェース方法
JP2017187667A (ja) 頭部装着型表示装置およびコンピュータープログラム
JP2015231445A (ja) プログラムおよび画像生成装置
WO2017021902A1 (en) System and method for gesture based measurement of virtual reality space
JP2012048568A (ja) 情報処理装置及び方法
US20190242692A1 (en) Augmented reality-based system with perimeter definition functionality
JP2016110177A (ja) 3次元入力装置及び入力システム
JP2009258884A (ja) ユーザインタフェイス
JPH06131442A (ja) 3次元虚像造形装置
JP2021051031A (ja) 測定支援システム
WO2017007492A1 (en) Machine display and machine control systems
JP7443014B2 (ja) ロボットアーム試験装置
JP2022163836A (ja) ロボット画像の表示方法、コンピュータープログラム、及び、ロボット画像の表示システム
JP2019045997A (ja) 情報処理装置及びその方法、プログラム
JP6975001B2 (ja) 傾き測定装置及び傾き測定方法
JP2001239983A (ja) 艤装支援システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220818

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230510

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230905