JP2022102484A - 情報処理方法、情報処理システム、プログラム - Google Patents

情報処理方法、情報処理システム、プログラム Download PDF

Info

Publication number
JP2022102484A
JP2022102484A JP2020217246A JP2020217246A JP2022102484A JP 2022102484 A JP2022102484 A JP 2022102484A JP 2020217246 A JP2020217246 A JP 2020217246A JP 2020217246 A JP2020217246 A JP 2020217246A JP 2022102484 A JP2022102484 A JP 2022102484A
Authority
JP
Japan
Prior art keywords
information
model data
information processing
point coordinate
processing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020217246A
Other languages
English (en)
Other versions
JP6917096B1 (ja
Inventor
基史 鈴木
Motofumi Suzuki
文生 池ヶ谷
Fumio Ikegaya
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Linkwiz Inc
Original Assignee
Linkwiz Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Linkwiz Inc filed Critical Linkwiz Inc
Priority to JP2020217246A priority Critical patent/JP6917096B1/ja
Priority to JP2021114956A priority patent/JP2022103025A/ja
Application granted granted Critical
Publication of JP6917096B1 publication Critical patent/JP6917096B1/ja
Priority to US17/559,677 priority patent/US11481971B2/en
Publication of JP2022102484A publication Critical patent/JP2022102484A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/344Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/56Particle system, point based geometry or rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2012Colour editing, changing, or manipulating; Use of colour codes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Architecture (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)
  • Image Analysis (AREA)

Abstract

Figure 2022102484000001
【課題】三次元点群データモデルである基準対象物モデルを直接フィッティングに用いずに実質的にフィッティングが可能となり、実対象物モデルと基準対象物モデルとを比較する情報処理方法、情報処理システム、プログラムを提供する。
【解決手段】情報処理方法は、基準対象物からセンサにより基準三次元モデルデータを取得するステップと、基準点座標取得部により、基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、測定対象物からセンサにより対応三次元モデルデータを取得するステップと、基準探索範囲設定部により、基準点座標情報に基づく基準探索範囲を設定するステップと、対応点座標情報取得部により、対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、を含む。
【選択図】図6

Description

特許法第30条第2項適用申請有り 令和2年10月2日にトヨタ自動車株式会社に納品
本発明は、情報処理方法、情報処理システム、プログラムに関する。
従来から対象物(例えばワーク)を事前にスキャンして基準対象物モデルを作成しておき、実際の対象物をスキャンして実対象物モデルを作成し、基準対象物モデルとの比較結果に応じて位置ずれの補正を行う技術が知られている。例えば特許文献1には、基準画像及び入力画像を互いに比較して位置ずれ量を求める技術が示されている。
特開2000-207557号公報
このように、実際の対象物の位置が想定位置よりもずれていたとしても、基準対象モデルを記憶しておくことで、実対象物モデルとのずれ量を求め、これを補正する(いわゆるフィッティング)ことで実対象物モデルを用いて正確な作業ができる。しかしながら、例えば、対象物モデルとして三次元点群データを用いた場合などには、三次元点群データは単なる点データの集まりであるため、実対象物モデルの点データごとに対応する基準対象物モデルの点データを探索する必要があり、フィッティングが可能な程度に両モデルの形状が同一または近似した形状である必要があった。
すなわち、例えば両モデルを用いて形状比較等をする場合には、実対象物モデルの形状が基準対象物モデルに対してフィッティングが可能な程度の形状変化範囲内であるか、フィッティングのためにさらなる補間を行う必要があり得た。
本発明はこのような背景を鑑みてなされたものであり、三次元点群データモデルである基準対象物モデルを直接フィッティングに用いずに実質的にフィッティングが可能となり、実対象物モデルと基準対象物モデルとを比較することのできる技術を提供することを目的とする。
上記課題を解決するための本発明の主たる発明は、基準対象物からセンサにより基準三次元モデルデータを取得するステップと、基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、測定対象物からセンサにより対応三次元モデルデータを取得するステップと、基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、を含む、ことを特徴とする情報処理方法である。
その他本願が開示する課題やその解決方法については、発明の実施形態の欄及び図面により明らかにされる。
本発明によれば、三次元点群データモデルである基準対象物モデルを直接フィッティングに用いずに実質的にフィッティングが可能となり、実対象物モデルと基準対象物モデルとを比較することのできるようにする。
本実施形態1の情報処理システム100の全体構成例を示す図である。 本実施形態1に係る端末1のハードウェア構成例を示す図である。 本実施形態1に係る端末1の機能構成例を示す図である。 本実施形態1に係る三次元モデルデータの表示例を示す図を示す。 本実施形態1に係る特定形状部位検出の例を示す図である。 本実施形態1に係る情報処理方法のフローチャート例を示す図である。 本実施形態1に係る基準三次元モデルデータの表示例を示す図を示す。 本実施形態1に係る基準三次元モデルデータの表示例を示す図を示す。 本実施形態1に係る対応三次元モデルデータの表示例を示す図を示す。 本実施形態1に係るフィッティングの概念を説明する図である。 本実施形態2に係る端末1の機能構成例を示す図である。 本実施形態2に係る情報処理方法のフローチャート例を示す図である。 本実施形態2に係る基準探索範囲の一例を説明する図である。 本実施形態2に係る差分値情報の表示例を示す図である。 本実施形態2に係る比較結果情報の表示例を示す図である。
本発明の実施形態の内容を列記して説明する。本発明は、たとえば以下のような構成を備える。
[項目1]
情報処理方法であって、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
を含む、ことを特徴とする情報処理方法。
[項目2]
項目1に記載の情報処理方法であって、
前記三次元モデルデータのそれぞれは、三次元点群データである、
ことを特徴とする情報処理方法。
[項目3]
項目1または2のいずれかに記載の情報処理方法であって、
前記基準点座標情報を取得するステップは、
特定形状部位検出部により、前記基準三次元モデルデータにおける特定形状の部位を検出し、当該部位の座標情報を基準点座標情報として取得するステップと、を含む、
ことを特徴とする情報処理方法。
[項目4]
項目1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
[項目5]
項目1ないし3のいずれかに記載の情報処理方法であって、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
[項目6]
項目1ないし3のいずれかに記載の情報処理方法であって、
基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、
対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
ことを特徴とする情報処理方法。
[項目7]
項目6に記載の情報処理方法であって、
差分値情報比較部により、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出するステップをさらに含む、
ことを特徴とする情報処理方法。
[項目8]
項目7に記載の情報処理方法であって、
前記比較結果情報は、基準差分値情報が示す値と対応差分値情報が示す値との差分をさらに算出することで取得された両者のずれ量情報である、。さらに、例えばユーザにより設定されたずれ量の許容範囲情報に基づき、許容範囲内外を示すフラグを設定してもよい。、
ことを特徴とする情報処理方法。
[項目9]
項目8に記載の情報処理方法であって、
前記差分値情報比較部により、ユーザにより設定されたずれ量の許容範囲情報と前記ずれ量情報を比較し、許容範囲内外に応じて異なる色で対応三次元モデルデータの少なくとも一部を表示するステップをさらに含む、
ことを特徴とする情報処理方法。
[項目10]
情報処理システムであって、
基準対象物及び測定対象物からセンサにより基準三次元モデルデータ及び対応三次元モデルデータを取得する三次元モデルデータ取得部と、
前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得する基準点座標取得部と、
前記基準点座標情報に基づく基準探索範囲を設定する基準探索範囲設定部と、
前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得する対応点座標情報取得部と、
を含む、ことを特徴とする情報処理システム。
[項目11]
情報処理方法をコンピュータに実行させるためのプログラムであって、
前記プログラムは、前記情報処理方法として、
基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
をコンピュータに実行させる、ことを特徴とするプログラム。
<実施の形態1の詳細>
本発明の一実施形態に係る情報処理システム100の具体例を、以下に図面を参照しつつ説明する。なお、本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。以下の説明では、添付図面において、同一または類似の要素には同一または類似の参照符号及び名称が付され、各実施形態の説明において同一または類似の要素に関する重複する説明は省略することがある。また、各実施形態で示される特徴は、互いに矛盾しない限り他の実施形態にも適用可能である。
図1は、本実施形態の情報処理システム100の一例を示す図である。図1に示されるように、本実施形態の情報処理システム100では、端末1と、作業用ロボット2、コントローラ3とを有している。作業用ロボット2は、少なくともアーム21、ツール22、センサ23を有している。端末1・コントローラ3と作業用ロボット2とは、有線または無線にて互いに通信可能に接続されている。
<端末1>
図2は、端末1のハードウェア構成を示す図である。端末1は、例えばパーソナルコンピュータのような汎用コンピュータとしてもよいし、或いはクラウド・コンピューティングによって論理的に実現されてもよい。なお、図示された構成は一例であり、これ以外の構成を有していてもよい。例えば、端末1のプロセッサ10に設けられる一部の機能が外部のサーバや別端末により実行されてもよい。
端末1は、少なくとも、プロセッサ10、メモリ11、ストレージ12、送受信部13、入出力部14等を備え、これらはバス15を通じて相互に電気的に接続される。
プロセッサ10は、端末1全体の動作を制御し、少なくとも作業用ロボット2とのデータ等の送受信の制御、及びアプリケーションの実行及び認証処理に必要な情報処理等を行う演算装置である。例えばプロセッサ10はCPU(Central Processing Unit)および/またはGPU(Graphics Processing Unit)であり、ストレージ12に格納されメモリ11に展開された本システムのためのプログラム等を実行して各情報処理を実施する。
メモリ11は、DRAM(Dynamic Random Access Memory)等の揮発性記憶装置で構成される主記憶と、フラッシュメモリやHDD(Hard Disc Drive)等の不揮発性記憶装置で構成される補助記憶と、を含む。メモリ11は、プロセッサ10のワークエリア等として使用され、また、端末1の起動時に実行されるBIOS(Basic Input / Output System)、及び各種設定情報等を格納する。
ストレージ12は、アプリケーション・プログラム等の各種プログラムを格納する。各処理に用いられるデータを格納したデータベースがストレージ12に構築されていてもよい。
送受信部13は、端末1を少なくとも作業用ロボット2と接続し、プロセッサの指示に従い、データ等の送受信を行う。なお、送受信部13は、有線または無線により構成されおり、無線である場合には、例えば、WiFiやBluetooth(登録商標)及びBLE(Bluetooth Low Energy)の近距離通信インターフェースにより構成されていてもよい。
入出力部14は、例えば端末1がパーソナルコンピュータで構成されている場合は情報出力機器(例えばディスプレイ)と情報入力機器(例えばキーボードやマウス)により構成され、スマートフォンまたはタブレット端末で構成されている場合はタッチパネル等の情報入出力機器により構成されている。
バス15は、上記各要素に共通に接続され、例えば、アドレス信号、データ信号及び各種制御信号を伝達する。
<作業用ロボット2>
図1に戻り、本実施形態に係る作業用ロボット2について説明する。
上述のとおり、作業用ロボット2は、アーム21と、ツール22と、センサ23とを有する。なお、図示された構成は一例であり、この構成に限定されない。
アーム21は、三次元のロボット座標系に基づき、端末1にその動作を制御される。また、アーム21は、有線または無線で作業用ロボット2と接続されたコントローラ3をさらに備え、これによりその動作を制御されてもよい。
ツール22は、三次元のツール座標系に基づき、端末1にその動作を制御される。また、ツール22の構成は、用途に合わせて何れのツールを備えていてもよく、例えば、溶接用トーチや塗装用塗料噴射装置、把持装置、掘削装置、研磨装置などであってもよい。
センサ23は、三次元のセンサ座標系に基づき、対象物のセンシングを行う。センサ23は、例えば三次元スキャナとして動作するレーザセンサであり、センシングにより対象物の三次元モデルデータ40を取得する。三次元モデルデータ40は、例えば、図4及び図5に示されるような三次元点群データであり、それぞれの点データがセンサ座標系の座標情報を有し、点群により対象物の形状を把握することが可能となる。なお、センサ23は、レーザセンサに限らず、例えばステレオ方式などを用いた画像センサなどであってもよいし、作業用ロボットとは独立したセンサであってもよく、三次元のセンサ座標系における座標情報が取得できるものであればよい。また、説明を具体化するために、以下では三次元モデルデータ40として、三次元点群データを用いた構成を一例として説明する。
なお、作業前に所定のキャリブレーションを行い、ロボット座標系及びツール座標系、センサ座標系を互いに関連付け、例えばセンサ座標系を基にユーザが位置(座標)を指定することにより、アーム21やツール22が対応した位置を基に動作制御されるように構成をなしてもよい。
<端末1の機能>
図3は、端末1に実装される機能を例示したブロック図である。本実施の形態においては、端末1のプロセッサ10は、三次元モデルデータ取得部(三次元点群データ取得部)101、三次元モデルデータ表示部(三次元点群データ表示部)102、基準点座標取得部103、特定形状部位検出部104、基準探索範囲設定部105、対応点座標情報取得部106を有している。また、端末1のストレージ12は、三次元モデルデータ記憶部(三次元点群データ記憶部)121、基準点座標情報記憶部122、対応点座標情報記憶部123を有している。
三次元点群データ取得部101は、端末1の入出力部14からの指示により、例えば作業用ロボット2を制御し、センサ23により対象物の三次元点群データを取得する。取得した三次元点群データは、例えばセンサ座標系に基づく三次元座標情報データであり、三次元点群データ記憶部121に記憶される。
三次元点群データ表示部102は、三次元点群データ取得部101により取得された三次元点群データを、例えば図4に例示されるように端末1の入出力部14に表示する。ユーザは、表示された三次元点群データを任意の方向から視認可能である。この場合、入出力部14は、前述のとおり、例えば端末1がパーソナルコンピュータで構成されている場合は情報出力機器(例えばディスプレイ)と情報入力機器(例えばキーボードやマウス)により構成され、スマートフォンまたはタブレット端末で構成されている場合はタッチパネル等の情報入出力機器により構成されており、入出力部14により、上記任意の方向を指定可能である。
基準点座標取得部103は、図7等に例示されるような基準三次元モデルデータ41(例えば基準三次元点群データ)を基に、例えばユーザの所定操作に応じて任意の数の基準点座標情報を取得する。具体例としては、例えば原点とする基準原点座標情報、当該原点からX方向の基点とするX基準点座標情報、当該原点からY方向の基点とするY基準点座標情報の3点を取得するようにしてもよい。各基準座標情報の取得方法は、例えばユーザが端末1の入出力部14にて三次元点群データ表示部102により表示された基準三次元点群データ41から所定の点を直接選択するようにしてもよいし、基準対象物上の特定形状の部位における所定の点を所定の演算により決定可能としてもよい。当該特定形状の部位とは、例えばホール(穴部)であったり、円錐状や円柱状などの突起であったりしてもよく、所定の演算方法については、例えば後述する方法によりホール(穴部)を検出し、当該ホールの中心座標情報を基準座標情報としてもよいし、既知の方法により突起の先端部座標情報を基準座標情報としてもよいが、これらに限らず、特に演算により一意に定まる形状であればどのような形状であっても、特定形状の部位といえる。なお、取得した基準点座標情報は、基準点座標情報記憶部122に記憶される。
特定形状部位検出部104は、例えばユーザの所定操作に応じて基準三次元点群データ41内の特定形状の部位を検出し、当該部位から基準座標情報を取得する。具体例としては、例えば、図5に例示されるように、端末1において、三次元点群データ40(基準三次元点群データ41)における対象物の所定の平面上に設けられたホール周辺の任意の3点の座標情報P-Pをそれぞれ取得し、各3点の座標情報からホール中心座標情報P11を算出する。より具体的な例としては、特徴的形状部位検出部104は、例えば、ホール周辺の各3点の座標情報P-Pから垂直二等分線を用いるなどして仮円中心座標情報を算出し、3点を通る円と仮円中心座標情報から所定高さの円柱状の探索範囲を設定し、当該探索範囲内の三次元点群データに対して既知のエッジ検出方法を用いることでホールの輪郭座標情報を導出する。そして、当該輪郭座標情報を基に、既知の演算(例えば、円の最小二乗法など)により、ホール中心座標情報P11を算出する。
基準探索範囲設定部105は、基準点座標情報に基づき、他の測定対象物モデルデータ51(例えば、他の三次元点群データ)における基準点座標情報に対応する対応点座標情報を取得するための基準探索範囲を設定する。例えば、特定形状部位検出部104において、すでに円柱状の探索範囲が生成されている場合にはこれを基準探索範囲として設定してもよいし、基準点座標情報を中心とした球、立方体、直方体、角柱、円柱、楕円体などの任意の三次元形状(立体形状)の基準探索範囲を設定してよい。
対応点座標情報取得部106は、他の測定対象物モデルデータ51(例えば、他の三次元点群データ)に対して設定された基準探索範囲に基づき、測定対象物モデルデータ51における対応点座標情報を取得する。なお、取得した対応点座標情報は、対応点座標情報記憶部123に記憶される。
<情報処理方法のフローチャート>
図6は、本実施の形態1の情報処理システム100における情報処理方法のフローチャートの一例である。
まず、ユーザは、端末1の三次元点群データ取得部101による制御に基づき、センサ23により、例えば作業台上に位置する基準対象物の基準三次元点群データ41を取得する(SQ101)。
次に、図7に示されるように、三次元点群データ表示部102により取得した基準三次元点群データ41を端末1上で表示する(SQ102)。
次に、基準点座標取得部103により基準三次元点群データ41を基に、例えばユーザの所定操作に応じて任意の数の基準点座標情報を取得する(SQ103)。この時、図8に示されるように、特定形状部位検出部104により、例えばユーザの所定操作に応じて基準三次元点群データ41内の特定形状の部位(ホール)を検出し、当該部位から基準座標情報であるホールA-Cの各中心座標を取得してもよい。
ここで、次に、ユーザは、端末1の三次元点群データ取得部101による制御に基づき、センサ23により、例えば作業台上に位置する他の測定対象物(ただし、上記基準対象物と形状が同一または略同一、近似、類似、同種類、同型番等の対象物)の三次元点群データ51を取得する(SQ104)。
次に、基準探索範囲設定部105により、基準点座標情報に基づき、他の測定対象物モデルデータ51(例えば、他の三次元点群データ)における基準点座標情報に対応する対応点座標情報を取得するための基準探索範囲を設定する(SQ105)。この時、例えば、特定形状部位検出部104において生成された円柱状の探索範囲を基準探索範囲として設定する。
次に、図9に示されるように、対応点座標情報取得部106により、他の三次元点群データに対して設定された基準探索範囲に基づき、他の三次元点群データにおける対応点座標情報であるホールA’-C’の各中心座標を取得する(SQ106)。
これにより、基準三次元点群データ及び他の三次元点群データにおいて、同様の特定形状部位に基づく基準点座標情報及び対応点座標情報が3点取得された状態となる。上述の通り、これら各3点の座標情報は、例えば原点とする基準原点座標情報、当該原点からX方向の基点とするX基準点座標情報、当該原点からY方向の基点とするY基準点座標情報となり得るので、これらを用いて各対象物に対して同一の位置を原点とするセンサ座標系(XYZ座標系)が設定可能となる。
したがって、本実施の形態1の情報処理システム100は、従来の三次元モデルデータ同士の対応付けによるフィッティングに代えて、基準三次元モデルデータ(特に基準三次元点群データ)におけるセンサ座標系(XYZ座標系)を設定するための基準点座標情報に基づく基準探索範囲を他の三次元モデルデータに適用することで、同一の規則により対応点座標情報が導き出される。その結果、図10に示されるように、両者が対象物に対して同一位置を原点とするセンサ座標系が設定されることで、実質的に両者がフィッティングされたこととなる。
<実施の形態2の詳細>
上述の実施の形態1にて説明したシステム構成及びフィッティング方法については同様であるので説明を省略する。本実施の形態2においては、フィッティング後に基準対象物の三次元モデルデータ(基準三次元点群データ)と他の測定対象物の三次元モデルデータ(他の三次元点群データ)とを互いに形状比較する際の構成の一例について説明する。
図11は、端末1に実装される機能を例示したブロック図であり、図3に示される機能を省略した本実施の形態2に関わる機能を例示したブロック図である。本実施の形態2においては、端末1のプロセッサ10は、さらに、基準点座標平面算出部201、基準平面差分値情報取得部202、対応点座標平面算出部203、対応平面差分値情報取得部204、差分値情報表示部205、差分値情報比較部206を有している。また、端末1のストレージ12は、基準差分値情報記憶部221、対応差分値情報記憶部222、比較結果情報記憶部223を有している。
基準点座標平面算出部201は、取得済みの基準点座標情報に基づき、既知の算出方法により、当該基準点座標情報を含む基準平面(XY平面)を算出する。例えば、三次元座標系においては、少なくとも3点の基準点座標情報があればXYZ座標系におけるXY平面が定まる。当該基準平面の範囲は、例えば、無限遠の平面範囲であったり、三次元点群データに基づき対象物が全て含まれる平面範囲が設定されてもよいし、対象物の一部を含む範囲をセンサ座標系の座標情報によりユーザが設定してもよい。
基準平面差分値情報取得部202により、当該基準平面上を所定の座標軸方向(Z軸方向)の基準値(例えば0)として設定し、基準平面に対する所定の座標軸方向における基準対象物モデルデータと基準値の基準差分値情報を取得する。当該基準差分値情報は、例えば基準平面がXY平面で、基準値がZ軸方向の0である場合には、各点データのZ座標情報が基準差分値情報となる。なお、取得した基準差分値情報は、基準差分値情報記憶部221に記憶される。
対応点座標平面算出部203は、取得済みの対応点座標情報に基づき、既知の算出方法により、当該対応点座標情報を含む対応平面(XY平面)を算出する。例えば、三次元座標系においては、少なくとも3点の対応点座標情報があればXYZ座標系におけるXY平面が定まる。当該対応平面の範囲は、基準平面同様に設定可能であり、基準平面と同一の範囲であることが望ましいが、この限りではない
対応平面差分値情報取得部204により、当該対応平面上を所定の座標軸方向(Z軸方向)の基準値(例えば0)として設定し、対応平面に対する所定の座標軸方向における測定対象物モデルデータと基準値との対応差分値情報を取得する。当該対応差分値情報は、例えば対応平面がXY平面で、基準値がZ軸方向の0である場合には、各点データのZ座標情報が対応差分値情報となる。なお、取得した対応差分値情報は、対応差分値情報記憶部222に記憶される。
差分値情報表示部205は、基準平面または対応平面に対する各差分値情報を、例えば図14に例示されるように端末1の入出力部14に表示する。表示例としては、例えば、図14に示されるように、基準平面または対応平面を仮想的に形成して表示し、基準値よりもプラスまたはマイナスの少なくとも何れかの差分値情報を有する点データを表示するようにしてもよい。また、表示の際には、例えば差分値情報を所定の数値範囲ごとに区切り、数値範囲ごとに色を設定して表示する(いわゆる、ヒートマップ)ようにしてもよい。
差分値情報比較部206は、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出する。比較結果情報は、例えば各点データにおける基準差分値情報が示す値と対応差分値情報が示す値との差分をさらに算出し、両者のずれ量情報を取得してもよい。さらに、例えばユーザにより設定されたずれ量の許容範囲情報に基づき、許容範囲内外を示すフラグを設定してもよい。そして、当該フラグに対して色を設定し(例えば図15に示されるように、許容範囲内でOKなら緑色、許容範囲外でNGなら赤色、さらに許容範囲外においてもプラス側なら赤色、マイナス側なら青色など)、図13に例示される表示または図14に例示される表示において、当該色を反映させて表示してもよい。なお、算出した比較結果情報は、比較結果情報記憶部223に記憶される。
<情報処理方法のフローチャート>
図12は、本実施の形態2の情報処理システム100における情報処理方法のフローチャートの一例である。
まず、基準点座標平面算出部201により、取得済みの基準点座標情報に基づき、当該基準点座標情報を含む基準平面(XY平面)を算出する(SQ201)。例えば、図13に示されるように、対象物が全て含まれる平面範囲を設定する。
つぎに、基準平面差分値情報取得部202により、当該基準平面上を所定の座標軸方向(Z軸方向)の基準値(例えば0)として設定し、基準平面に対する所定の座標軸方向における基準対象物モデルデータと基準値の基準差分値(例えば各点データのZ座標情報)を取得する(SQ202)。この時、差分値情報表示部205により、基準平面に対する基準差分値情報を、例えば図14に例示されるように端末1の入出力部14に表示してもよい。
つぎに、対応点座標平面算出部203により、取得済みの対応点座標情報に基づき、当該対応点座標情報を含む対応平面(XY平面)を算出する(SQ203)。例えば、図13に示されるような、基準平面と同一範囲として設定する。
つぎに、対応平面差分値情報取得部204により、当該対応平面上を所定の座標軸方向(Z軸方向)の基準値(例えば0)として設定し、対応平面に対する所定の座標軸方向における測定対象物モデルデータと基準値の対応差分値(例えば各点データのZ座標情報)を取得する(SQ204)。この時、差分値情報表示部205により、対応平面に対する対応差分値情報を、例えば図14に例示されるように端末1の入出力部14に表示してもよい。
つぎに、差分値情報比較部206により、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出する(SQ205)。さらに、差分値情報比較部206により、例えば、両者のずれ量情報を取得し、図15に示されるように、当該ずれ量情報を許容範囲情報と比較し、許容範囲内外で色分け表示を行ってもよい(SQ205)。
したがって、本実施の形態2の情報処理システム100は、実施の形態1の構成により各対象物に対して同一位置を原点とするセンサ座標系が設定されているので、例えば同一平面を基準位置として差分を確認することが可能である。そして、さらには両者のずれ量を容易に算出することも可能であるので、測定対象物の形状を基準対象物の形状と容易に比較可能となる。
以上、本実施形態について説明したが、上記実施形態は本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物も含まれる。
1 端末
2 作業用ロボット
21 アーム
22 ツール
23 センサ
3 コントローラ

Claims (11)

  1. 情報処理方法であって、
    基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
    基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
    測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
    基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
    対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
    を含む、ことを特徴とする情報処理方法。
  2. 請求項1に記載の情報処理方法であって、
    前記三次元モデルデータのそれぞれは、三次元点群データである、
    ことを特徴とする情報処理方法。
  3. 請求項1または2のいずれかに記載の情報処理方法であって、
    前記基準点座標情報を取得するステップは、
    特定形状部位検出部により、前記基準三次元モデルデータにおける特定形状の部位を検出し、当該部位の座標情報を基準点座標情報として取得するステップと、を含む、
    ことを特徴とする情報処理方法。
  4. 請求項1ないし3のいずれかに記載の情報処理方法であって、
    基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
    基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、をさらに含む、
    ことを特徴とする情報処理方法。
  5. 請求項1ないし3のいずれかに記載の情報処理方法であって、
    対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
    対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
    ことを特徴とする情報処理方法。
  6. 請求項1ないし3のいずれかに記載の情報処理方法であって、
    基準点座標平面算出部により、前記基準三次元モデルデータにおいて、前記基準点座標を含む基準平面を算出するステップと、
    基準差分値情報取得部により、前記基準平面上を所定の座標軸方向の基準値として設定し、前記基準平面に対する前記所定の座標軸方向における前記基準三次元モデルデータと前記基準値との基準差分値情報を取得するステップと、
    対応点座標平面算出部により、前記対応三次元モデルデータにおいて、前記対応点座標を含む対応平面を算出するステップと、
    対応差分値情報取得部により、前記対応平面上を所定の座標軸方向の基準値として設定し、前記対応平面に対する前記所定の座標軸方向における前記対応三次元モデルデータと前記基準値との対応差分値情報を取得するステップと、をさらに含む、
    ことを特徴とする情報処理方法。
  7. 請求項6に記載の情報処理方法であって、
    差分値情報比較部により、基準差分値情報及び対応差分値情報を互いに比較し、その比較結果情報を算出するステップをさらに含む、
    ことを特徴とする情報処理方法。
  8. 請求項7に記載の情報処理方法であって、
    前記比較結果情報は、基準差分値情報が示す値と対応差分値情報が示す値との差分をさらに算出することで取得された両者のずれ量情報である、。さらに、例えばユーザにより設定されたずれ量の許容範囲情報に基づき、許容範囲内外を示すフラグを設定してもよい。、
    ことを特徴とする情報処理方法。
  9. 請求項8に記載の情報処理方法であって、
    前記差分値情報比較部により、ユーザにより設定されたずれ量の許容範囲情報と前記ずれ量情報を比較し、許容範囲内外に応じて異なる色で対応三次元モデルデータの少なくとも一部を表示するステップをさらに含む、
    ことを特徴とする情報処理方法。
  10. 情報処理システムであって、
    基準対象物及び測定対象物からセンサにより基準三次元モデルデータ及び対応三次元モデルデータを取得する三次元モデルデータ取得部と、
    前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得する基準点座標取得部と、
    前記基準点座標情報に基づく基準探索範囲を設定する基準探索範囲設定部と、
    前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得する対応点座標情報取得部と、
    を含む、ことを特徴とする情報処理システム。
  11. 情報処理方法をコンピュータに実行させるためのプログラムであって、
    前記プログラムは、前記情報処理方法として、
    基準対象物からセンサにより基準三次元モデルデータを取得するステップと、
    基準点座標取得部により、前記基準三次元モデルデータから三以上の任意の数の基準点座標情報を取得するステップと、
    測定対象物からセンサにより対応三次元モデルデータを取得するステップと、
    基準探索範囲設定部により、前記基準点座標情報に基づく基準探索範囲を設定するステップと、
    対応点座標情報取得部により、前記対応三次元モデルデータにおいて基準探索範囲内における対応点座標情報を取得するステップと、
    をコンピュータに実行させる、ことを特徴とするプログラム。
JP2020217246A 2020-12-25 2020-12-25 情報処理方法、情報処理システム、プログラム Active JP6917096B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020217246A JP6917096B1 (ja) 2020-12-25 2020-12-25 情報処理方法、情報処理システム、プログラム
JP2021114956A JP2022103025A (ja) 2020-12-25 2021-07-12 情報処理方法、情報処理システム、プログラム
US17/559,677 US11481971B2 (en) 2020-12-25 2021-12-22 Information processing method, information processing system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020217246A JP6917096B1 (ja) 2020-12-25 2020-12-25 情報処理方法、情報処理システム、プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021114956A Division JP2022103025A (ja) 2020-12-25 2021-07-12 情報処理方法、情報処理システム、プログラム

Publications (2)

Publication Number Publication Date
JP6917096B1 JP6917096B1 (ja) 2021-08-11
JP2022102484A true JP2022102484A (ja) 2022-07-07

Family

ID=77172675

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020217246A Active JP6917096B1 (ja) 2020-12-25 2020-12-25 情報処理方法、情報処理システム、プログラム
JP2021114956A Pending JP2022103025A (ja) 2020-12-25 2021-07-12 情報処理方法、情報処理システム、プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021114956A Pending JP2022103025A (ja) 2020-12-25 2021-07-12 情報処理方法、情報処理システム、プログラム

Country Status (2)

Country Link
US (1) US11481971B2 (ja)
JP (2) JP6917096B1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114353711B (zh) * 2022-01-07 2024-06-18 四川莱斯特真空科技有限公司 罗茨转子三坐标检测建立基准的方法
CN117989983B (zh) * 2024-04-03 2024-06-14 中航成飞民用飞机有限责任公司 舱门的数字化检测方法
CN118567245B (zh) * 2024-08-02 2024-10-01 陕西建工第十二建设集团有限公司 一种预应力混凝土现浇连续梁挂篮施工控制系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01102305A (ja) * 1987-10-16 1989-04-20 Nissan Motor Co Ltd ティーチングプレイバック方式の三次元計測ロボットの自動計測に於ける穴探しの方法
JP2005519277A (ja) * 2002-03-06 2005-06-30 レニショウ パブリック リミテッド カンパニー 動的な加工品比較法
JP2018169344A (ja) * 2017-03-30 2018-11-01 株式会社東京精密 三次元測定機、測定方法、及び測定プログラム
JP2020042476A (ja) * 2018-09-10 2020-03-19 国立大学法人 東京大学 関節位置の取得方法及び装置、動作の取得方法及び装置
WO2020179439A1 (ja) * 2019-03-05 2020-09-10 パナソニックIpマネジメント株式会社 変位検出方法、撮影指示方法、変位検出装置及び撮影指示装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000207557A (ja) 1999-01-11 2000-07-28 Matsushita Electric Ind Co Ltd 位置ずれ量計測方法
KR100590543B1 (ko) * 2004-02-26 2006-06-19 삼성전자주식회사 영상 화소의 밝기에 따라 보정 기능을 구비한 색온도 변환방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01102305A (ja) * 1987-10-16 1989-04-20 Nissan Motor Co Ltd ティーチングプレイバック方式の三次元計測ロボットの自動計測に於ける穴探しの方法
JP2005519277A (ja) * 2002-03-06 2005-06-30 レニショウ パブリック リミテッド カンパニー 動的な加工品比較法
JP2018169344A (ja) * 2017-03-30 2018-11-01 株式会社東京精密 三次元測定機、測定方法、及び測定プログラム
JP2020042476A (ja) * 2018-09-10 2020-03-19 国立大学法人 東京大学 関節位置の取得方法及び装置、動作の取得方法及び装置
WO2020179439A1 (ja) * 2019-03-05 2020-09-10 パナソニックIpマネジメント株式会社 変位検出方法、撮影指示方法、変位検出装置及び撮影指示装置

Also Published As

Publication number Publication date
US20220207823A1 (en) 2022-06-30
JP2022103025A (ja) 2022-07-07
JP6917096B1 (ja) 2021-08-11
US11481971B2 (en) 2022-10-25

Similar Documents

Publication Publication Date Title
JP6917096B1 (ja) 情報処理方法、情報処理システム、プログラム
JP6713700B1 (ja) 情報処理方法、情報処理システム、プログラム
US20200033109A1 (en) Workpiece measurement device, workpiece measurement method and non-transitory computer readable medium recording a program
US20060269123A1 (en) Method and system for three-dimensional measurement
US20090289953A1 (en) System and method for adjusting view of a measuring report of an object
JP6796899B1 (ja) 情報処理方法、情報処理システム、プログラム
CN103913138A (zh) 坐标测量装置及其控制方法
JP6849262B1 (ja) 情報処理方法、情報処理システム、プログラム
WO2023027068A1 (ja) 溶接検査方法、溶接検査システム、溶接検査プログラム
US12033344B2 (en) Shape detection method, shape detection system, and program
CN110109143B (zh) 多线激光雷达与imu的位姿标定方法及装置
JP6742661B1 (ja) 形状検出方法、形状検出システム、プログラム
JP6758695B1 (ja) 形状検出方法、形状検出システム、プログラム
JP6758696B1 (ja) 形状検出方法、形状検出システム、プログラム
US20240119686A1 (en) Information processing method, information processing system, and program
JPS63285615A (ja) 3次元測定機のオフラインティ−チング装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210219

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210219

A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20210119

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210325

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210513

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210701

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210712

R150 Certificate of patent or registration of utility model

Ref document number: 6917096

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250