JPWO2014175324A1 - ワーク加工作業支援システムおよびワーク加工方法 - Google Patents

ワーク加工作業支援システムおよびワーク加工方法 Download PDF

Info

Publication number
JPWO2014175324A1
JPWO2014175324A1 JP2015513794A JP2015513794A JPWO2014175324A1 JP WO2014175324 A1 JPWO2014175324 A1 JP WO2014175324A1 JP 2015513794 A JP2015513794 A JP 2015513794A JP 2015513794 A JP2015513794 A JP 2015513794A JP WO2014175324 A1 JPWO2014175324 A1 JP WO2014175324A1
Authority
JP
Japan
Prior art keywords
workpiece
work
image
virtual image
support system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015513794A
Other languages
English (en)
Other versions
JP6349307B2 (ja
Inventor
子 田 繁 一 志
子 田 繁 一 志
村 直 弘 中
村 直 弘 中
野 信 一 中
野 信 一 中
松 政 彦 赤
松 政 彦 赤
本 臣 吾 米
本 臣 吾 米
本 孝 河
本 孝 河
海 大 輔 渡
海 大 輔 渡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kawasaki Motors Ltd
Original Assignee
Kawasaki Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kawasaki Jukogyo KK filed Critical Kawasaki Jukogyo KK
Publication of JPWO2014175324A1 publication Critical patent/JPWO2014175324A1/ja
Application granted granted Critical
Publication of JP6349307B2 publication Critical patent/JP6349307B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Abstract

本システムは、作業者の視点位置でその視線方向の作業空間をワークと共に撮像する撮像手段と、作業者の視点および作業空間中のワークの相対的な位置姿勢関係を示す位置姿勢情報を取得する位置姿勢情報取得手段と、位置姿勢情報に基づいて、作業者の視点位置およびその視線方向のワークの完成形状を示す三次元の仮想画像を生成する仮想画像生成手段と、作業空間の現実画像に仮想画像を重畳させて合成画像を生成する画像合成手段と、合成画像を表示する表示手段と、を備える。本システムによれば、複合現実感技術を利用して、ワークの加工作業の効率を大幅に向上させることができる。

Description

本発明は、複合現実感技術を用いてワークの加工作業を支援するためのワーク加工作業支援システムおよび同システムを用いたワーク加工方法に関する。
従来、LNGタンク等の大型構造物を製造するために平板状のワークをプレス成形加工によって所望の曲面形状に成形する際には、例えば、プレス機で成形したワークをプレス機から取り出して、予め用意しておいた木型ゲージをワークに当ててその形状検査を行っていた。
そして、木型ゲージによる形状検査の結果、ワークの更なる成形加工が必要と判断された場合には、ワークをプレス機に戻して更にプレス加工を実施していた。
このように従来のプレス成形加工においては、成形後のワークの形状検査のために予め木型ゲージを用意しておく必要があった。特に、LNGタンクのようにワークを複雑な形状に成形する必要がある場合には、1種類の木型ゲージでは形状検査を行うことができず、複数種類の木型ゲージを予め用意する必要があった。
また、木型ゲージによるワークの形状検査を行う際に、プレス機からワークを一旦取り出して木型ゲージを当てる場合には、作業時間が長くなって作業効率が低下してしまうという問題があった。
しかも、ワークの曲面に対して木型ゲージの曲面を当てて形状検査を行う必要があるため、合否の判定が難しいという問題もあった。
さらに、ワークが大きい場合には、そもそも木型ゲージをワークに当てること自体が必ずしも容易ではなかった。
また、木型ゲージを当てたときにワークの局所的な変形を拾ってしまった場合、実際には許容範囲に入っているにもかかわらず、誤って不合格と判断してしまうことあった。
ところで近年、任意視点における現実空間の画像に、仮想空間の画像を重畳し、これにより得られた合成画像を観察者に提示する複合現実感(MR:Mixed Reality)技術が、現実世界と仮想世界をシームレスに、リアルタイムで融合させる画像技術として注目されている(特許文献1−4)。
特開2003−303356号公報 特開2005−107968号公報 特開2005−293141号公報 特開2008−293209号公報
そこで、本発明は、複合現実感技術を利用して、ワークの加工作業における上述の問題を解決し、作業効率の大幅な向上を図ることができるワーク加工作業支援システムおよび同システムを用いたワーク加工方法を提供することを目的とする。
上記課題を解決するために、本発明は、ワークの加工作業を支援するためのワーク加工作業支援システムであって、作業者の視点位置でその視線方向における作業空間を前記ワークと共に撮像するための撮像手段と、前記作業者の視点と、前記作業空間中の前記ワークとの相対的な位置姿勢関係を示す位置姿勢情報を取得するための位置姿勢情報取得手段と、前記位置姿勢情報に基づいて、前記視点位置およびその視線方向における前記ワークの完成形状を示す三次元の仮想画像を生成するための仮想画像生成手段と、前記撮像手段により撮像された前記作業空間の現実画像に前記仮想画像を重畳させて合成画像を生成するための画像合成手段と、前記合成画像を表示するための表示手段と、を備えたことを特徴とする。
また、好ましくは、前記位置姿勢情報取得手段は、前記ワーク上の基準点に対する所定の相対位置に暫定的に設置される複合現実感用マーカーを有する。
また、好ましくは、前記位置姿勢情報取得手段は、前記ワーク上の基準点に対する相対位置が前記加工作業に伴って実質的に変化しない箇所に設置された複合現実感用マーカーを有する。
また、好ましくは、前記複合現実感用マーカーは、加工中の前記ワークを保持する保持部材に設置されている。
また、好ましくは、前記位置姿勢情報取得手段は、前記作業者の視点位置およびその視線方向、並びに前記ワークの位置を計測するための位置方向計測装置を有する。
また、好ましくは、前記完成形状を示す前記仮想画像は、前記加工作業における許容加工誤差を含んで生成される。
また、好ましくは、前記ワークの前記現実画像と、前記完成形状を示す前記仮想画像との不一致箇所を前記表示部において表示するための誤差判定手段をさらに備える。
また、好ましくは、前記ワークの前記現実画像と前記完成形状を示す前記仮想画像との不一致率が最小となるように、前記仮想画像を前記現実画像に対して移動させるための仮想画像位置調整手段をさらに備える。
また、好ましくは、前記加工作業は、前記ワークに対するプレス成形加工を含む。
上記課題を解決するために、本発明は、ワークの加工作業を支援するためのワーク加工作業支援システムを用いたワーク加工方法であって、前記ワークを加工装置によって加工する加工工程と、前記加工工程の途中で、作業者の視点位置でその視線方向における作業空間を前記ワークと共に撮像する撮像工程と、前記作業者の視点と、前記作業空間中の前記ワークとの相対的な位置姿勢関係を示す位置姿勢情報を取得する位置姿勢情報取得工程と、前記位置姿勢情報に基づいて、前記視点位置およびその視線方向における前記ワークの完成形状を示す三次元の仮想画像を生成する仮想画像生成工程と、前記撮像手段により撮像された前記作業空間の現実画像に前記仮想画像を重畳させて合成画像を生成する画像合成工程と、前記合成画像を表示する表示工程と、を備える。
また、好ましくは、前記位置姿勢情報取得工程は、前記ワーク上の基準点に対する所定の相対位置に複合現実感用マーカーを暫定的に設置するマーカー設置工程を含む。
また、好ましくは、前記加工工程において前記ワークの加工が進んで、ある程度まで前記ワークを加工できた段階で、前記マーカー設置工程において、加工途中の前記ワークの所定の位置に前記複合現実感用マーカーを暫定的に設置し、前記表示工程において映し出された前記合成画像に基づいて、前記ワークの完成形状を示す前記三次元の仮想画像に対して前記ワークの前記現実画像が飛び出している箇所があれば、そこを要修正箇所と判断する。
また、好ましくは、複数の前記複合現実感用マーカーを前記ワークの表面に貼り付ける。
また、好ましくは、前記加工装置は、プレス機であり、前記加工工程は、前記ワークに対するプレス成形加工を含む。
本発明によるワーク加工作業支援システムおよび同システムを用いたワーク加工作業によれば、複合現実感技術を利用することにより、従来の木型ゲージによる形状検査が不要となるので、ワーク加工の作業効率を大幅に向上させることができる。
本発明の一実施形態によるワーク加工作業支援システムの概略構成を示したブロック図。 図1に示したワーク加工作業支援システムの概略構成を示した模式図。 図1に示したワーク加工作業支援システムのマーカー部材を拡大して示した斜視図。 図1に示したワーク加工作業支援システムによる支援対象の一例としてのプレス加工の様子を示した模式図。 図1に示したワーク加工作業支援システムを用いて、作業者が、ワークの成形具合を確認している様子を示した模式図。 図1に示したワーク加工作業支援システムの使用態様を説明するための図であり、(a)は、ワークの現実画像が完成形状の仮想画像からはみ出している状態を示し、(b)は、ワークの現実画像が完成形状の仮想画像の中に包含されている状態を示す。 図1に示したワーク加工作業支援システムの一変形例を説明するための模式図。 図1に示したワーク加工作業支援システムの他の変形例を説明するためのブロック図。 図1に示したワーク加工作業支援システムの更に他の変形例の概略構成を示したブロック図。 図1に示したワーク加工作業支援システムの更に他の変形例の概略構成を示した模式図。 図1に示したワーク加工作業支援システムの更に他の変形例の概略構成を示した模式図。
以下、本発明の一実施形態によるワーク加工作業支援システムについて説明する。なお、本システムによる支援の対象となるワーク加工作業は、典型的にはプレス成形加工であるが、プレス成形加工以外にも、加工に伴ってワークの形状が変化する各種の加工作業を支援することができる。
本実施形態によるワーク加工作業支援システムは、複合現実感技術を用いるものであるので、まず初めに複合現実感技術について概説する。
既に述べたように複合現実感技術とは、任意視点における現実空間の画像に、仮想空間の画像を重畳し、これにより得られた合成画像を観察者に提示して、現実世界と仮想世界をシームレスに、リアルタイムで融合させる映像技術である。
すなわち、この複合現実感技術は、現実空間画像と、観察者の視点位置、視線方向に応じて生成される仮想空間画像とを合成することにより得られる合成画像を、観察者に提供するものである。そして、仮想物体のスケールを観察者に実寸感覚で捉えさせ、仮想物体が現実世界に本当に存在しているように感じさせることができる。
この複合現実感技術によれば、コンピュータ・グラフィック(CG)をマウスやキーボードで操作するのではなく、観察者が実際に移動して任意の位置や角度から見ることができる。すなわち、画像位置合わせ技術によってCGを指定の場所に置き、例えばシースルー型のヘッド・マウント・ディスプレイ(HMD:Head Mount Display)を使って、そのCGを様々な角度から見ることが可能である。
複合現実感空間(MR空間)を表現するためには、現実空間中に定義した基準座標系、すなわち、現実空間に重畳しようとする仮想物体の位置姿勢を決定する基準となる現実空間中の座標系と、撮像部の座標系(カメラ座標系)との間の、相対的な位置姿勢関係を取得することが必要である。
そのための適切な画像位置合わせ技術としては、例えば、磁気センサー、光学式センサー、または超音波センサーを利用するものや、マーカー、ジャイロを利用するもの等があげられる。
ここで、マーカー(「ランドマーク」とも呼ばれる。)とは、画像の位置合わせのために使う指標のことであり、現実空間内に配置されたマーカーを、HMDに装着されたカメラ(撮像装置)で撮影することにより、カメラの位置姿勢を画像処理によって推定することができるというものである。
すなわち、現実空間中の既知の三次元座標に所定の視覚的特徴を有するマーカーを配置し、現実画像中に含まれるマーカーを検出し、検出したマーカーの構成要素(マーカーの中心や頂点など)の二次元画像位置と、既知の三次元座標とからカメラ(撮像装置)の位置姿勢が算出される。
本実施形態によるワーク加工作業支援システムは、上述した複合現実感技術を利用したものであり、以下にその構成について、図1および図2を参照して説明する。
図1および図2に示したように、本実施形態によるワーク加工作業支援システム1は、システム本体2と、このシステム本体2との間でデータ通信を行うヘッド・マウント・ディスプレイ(HMD)3と、マーカー部材8と、を備えている。
ワーク加工作業支援システム1のシステム本体2は、CPU、RAM、ROM、外部記憶装置、記憶媒体ドライブ装置、表示装置、入力デバイスなどを備えたコンピュータによって構成されている。
図2に示したようにHMD3は、作業者4の頭部に装着されており、撮像部5および表示部6を備えている。撮像部5および表示部6は、それぞれ2つずつ設けられており、撮像部5Rおよび表示部6Rは右目用、撮像部5Lおよび表示部6Lは左目用である。この構成により、HMD3を頭部に装着した作業者4の右目と左目に対して視差画像を提示することができ、MR画像(合成画像)を三次元表示することができる。
HMD3の撮像部5は、ワーク7の上に設置されたMR用マーカー部材8と共に、プレス機(加工装置)に設置されたワーク7を撮像する(撮像工程)。マーカー部材8は、ワーク7上の基準点に対する所定の相対位置に設置されるものであり、プレス作業の途中で、ワーク7の上に暫定的に設置される(マーカー設置工程)。
図3に示したように、本実施形態によるマーカー部材8は、三角形の枠部9と、三角形の枠部材9の各頂点の下面に設けられた各支持部10と、三角形の枠部材9の各頂点の上面に設けられた各複合現実感用マーカー11とを備えている。
図1に示したように、HMD3の撮像部5によって取得された現実空間の現実画像は、システム本体2の現実画像取得部12に入力される。この現実画像取得部12は、入力された現実画像のデータを、システム本体2の記憶部13に出力する。
記憶部13は、MR画像(合成画像)の提示処理のために必要な情報を保持し、処理に応じて情報の読み出しや更新を行うものである。
また、システム本体2は、記憶部10が保持している現実画像の中から、マーカー部材8に設けられたマーカー11を検出するためのマーカー検出部14を備えている。
そして、現実物体であるワーク7の上に配置したマーカー部材8のマーカー11の検出結果が、マーカー検出部14から記憶部13を介して撮像部位置姿勢推定部15に送られる。この撮像部位置姿勢推定部15は、マーカー11の検出結果に基づいて、ワーク7自身の物体座標系を基準座標系としたHMD3の撮像部5の位置姿勢を推定する(位置姿勢情報取得工程)。
ここで、マーカー部材8、マーカー検出部14、および撮像部位置姿勢推定部15が、ワーク加工作業支援システム1における位置姿勢情報取得手段を構成している。
撮像部位置姿勢推定部15により推定されたHMD3の撮像部5の位置姿勢は、仮想画像生成部16に送られる。仮想画像生成部16は、撮像部位置姿勢推定部15から送られた撮像部5の位置姿勢、すなわち、作業者4の視点位置およびその視線方向に基づいて、撮像部5の位置姿勢から見える仮想物体の三次元の仮想画像を生成する(仮想画像生成工程)。
ここで、ワーク加工作業支援システム1では、この仮想画像生成部16において、所定のプレス加工処理によってワーク7が加工された後の完成形状(目標形状)に関する仮想画像が生成される。この完成形状の3次元仮想画像は、許容加工誤差分だけ厚みを持たせて表示されている。
仮想画像生成部16において生成されたワーク7の完成形状に関する仮想画像は、システム本体2の画像合成部17に送られる。画像合成部17は、記憶部13が保持しているワークの現実画像に、仮想画像生成部16から送られる仮想画像を重畳し、MR画像(合成画像)を生成する(画像合成工程)。
画像合成部17で生成されたMR画像(合成画像)は、HMD3の表示部6に出力される(表示工程)。これにより、HMD3の表示部6には、HMD3の撮像部5の位置姿勢に応じた現実空間の画像と、仮想空間の画像とが重畳されたMR画像が表示され、このHMD3を頭部に装着した作業者4に、複合現実空間を体験させることができる。
本実施形態によるワーク加工作業支援システム1は、図4に示したように、平板状のワーク7をプレス加工(加工工程)によって所定の曲面形状に加工する際の支援に適している。
すなわち、従来はプレス成形具合の確認を木型ゲージにて行っていたところ、このワーク加工作業支援システム1を用いることによって、作業者4は、図5に示したように、ワーク7の現実画像7Rに重畳された完成形状(目標形状)の仮想画像7Vを検査基準とすることができる。
作業者4は、ワーク7のプレス加工を行いながら、適宜、HMD3の表示部6に映し出された加工途中のワーク7の現実画像7Rが、同じくHMD3の表示部6に映し出された完成形状の3次元仮想画像7Vの中に収まっているか否かを確認する。
すなわち、ワーク7のプレス加工が進んで、ある程度までワーク7を成形できた段階で、プレス機を一旦止めて、加工途中のワーク7の所定の位置にマーカー部材8を配置して、HMD3の表示部6に映し出された3次元MR画像7R、7Vを確認する。そして、完成形状の仮想画像7Vに対して、ワーク7の現実画像7Rが飛び出している箇所があれば、そこを要修正箇所と判断する。
ここで、マーカー部材8は、従来の木型ゲージに比べて極めてコンパクトであるので、ワーク7上にマーカー部材8を設置するために、わざわざワーク7をクレーンなどでプレス機から移動させる必要が無い。
最終的にワーク7の現実画像7Rの全体が、完成形状の仮想画像7Vの中に収まれば、所望の成形が完了したものと作業者4は判断する。
ここで、ワーク7が既に所望の完成形状に成形されているにもかかわらず、ワーク7の現実画像7Rに対して完成形状の仮想画像7Vが全体としてずれているために、図6(a)に示したようにワーク7の現実画像7Rの一部が、完成形状の仮想画像7Vから飛び出してしまうこともあり得る。
このような場合を考慮して、作業者4は、マーカー部材8の設置位置をワーク7上で少し動かしてみて、HMD3の表示部6に映し出された完成形状の仮想画像7Vが、ワーク7の現実画像7Rの全体を包含することができるかを試みる。
そして、完成形状の仮想画像7Vがワーク7の現実画像7Rの全体を包含することができた場合には、ワーク7が所望の完成形状に成形されたものと判断する。
以上述べたように、本実施形態によるワーク加工作業支援システム1によれば、従来のように木型ゲージを用いることなく、しかも加工途中のワーク7をプレス機から移動させる必要がなく、その場での擬似的な目視検査によってワーク7の成形具合を確認することができる。このため、ワーク7のプレス加工の作業効率を大幅に向上させることができる。
また、加工途中のワーク7を、HMD3を介していろいろな角度からその形状を確認することができるので、従来の木型ゲージのように局所的な変形を拾って検査ミスが引き起こされるようなこともない。
次に、上述した実施形態の一変形例について、図7を参照して説明する。
上述した実施形態においては、図2に示したように、位置姿勢情報取得手段としてのマーカー部材8を、ワーク7上の所定位置に暫定的に設置するようにした。
これに対して、本変形例においては、位置姿勢情報取得手段としての複合現実感用マーカーを、ワーク7上の基準点に対する相対位置が加工作業に伴って実質的に変化しない箇所に設置する。
具体的には、図7に示したように、ワーク7の捨て代部分に、クレーン等によって吊り下げられた保持部材18が装着されており、複合現実感用マーカー11は、この保持部材18に設置されている。
本変形例においても、HMD3の撮像部5によって、複合現実感用マーカー11と共にワーク7を撮影することによって、作業者4の視点と、作業空間中のワーク7との相対的な位置姿勢関係を示す位置姿勢情報を取得することができる。
次に、上述した実施形態の他の変形例について、図8を参照して説明する。
本変形例によるワーク加工作業支援システムは、図8に示したように、ワーク7の現実画像7Rと、完成形状の仮想画像7Vとの不一致箇所を、パターンマッチングにより検出し、その不一致の程度を示す情報と共に、HMD3の表示部6において表示するための誤差判定部20をさらに備えている。
具体的には、HMD3の表示部6において、ワーク7の現実画像7Rと、完成形状の仮想画像7Vとの不一致箇所が、プラスの公差とマイナスの公差を区別して色分け表示される。これにより、目標形状からのワーク形状のずれを、作業者4は容易に認識することができる。
次に、上述した実施形態の他の変形例について、図9を参照して説明する。
本変形例によるワーク加工作業支援システムは、ワーク7の現実画像7Rと完成形状の仮想画像7Vとの不一致率が最小となるように、仮想画像7Vを現実画像7Rに対して移動させるための仮想画像位置調整部21をさらに備えている。
具体的には、仮想画像位置調整部21は、ワーク7の現実画像7Rと完成形状の仮想画像7Vとがパターンマッチングによって一致率が最大となるように、現実画像7Rに対する仮想画像7Vの位置を調節する。
なお、パターンマッチングを行う際には、プレス加工上、重視する場所と軽視する場所とで重み付けをすることもできる。例えば、ワーク中央部のように他の箇所への変形の影響が大きい場所は重視し、ワーク周縁部のように他の箇所への変形の影響が小さい箇所は軽視する。
作業者4は、仮想画像位置調整部21によって調整された後の仮想画像7Vと、ワーク7の現実画像7Rとの重畳画像を確認することにより、ワーク形状と完成形状とのずれを的確に認識することができる。
次に、上述した実施形態の他の変形例について、図11を参照して説明する。
図11に示したように、本変形例においては、ワーク7の全面にマーカー11を貼り付ける。各マーカー11は、その中心の法線ベクトル23が分かるようになっている。このため、全面にマーカー11が貼付されたワーク7を、HMD3に表示させることで、ワーク7の現実画像7Rの表面から延びる複数の法線ベクトルを作業者4が確認することができる。
そして、HMD3に表示されたワークの現実画像7Rに、ワーク7の完成形状の仮想画像(CADデータ)7Lを重ね合わせると、ワーク7の現実画像7Rの表面から延びる法線ベクトル23は、ワーク7のプレスの度合いに応じて、そのワーク7の仮想画像7Lの中への埋没状態が変化する。
すなわち、プレスの度合いが大きすぎる場合(押し過ぎの状態)は、法線ベクトル23(の一部)がワーク7の仮想画像7Lの中に埋没している。逆に、プレスの度合いが少なすぎる場合(押したりない状態)は、法線ベクトル23がワーク7の仮想画像7Lの表面から離れている。
これに対して、プレスの度合いが丁度良い場合には、法線ベクトル23はワーク7の仮想画像7Lの中に埋没しておらず、また仮想画像7Lの表面から離れておらず、法線ベクトル23の基端部がちょうどワーク7の仮想画像7Lの表面に位置している。
このため、作業者4は、ワーク7の仮想画像7Lの中への法線ベクトル23の埋まり具合、或いは仮想画像7Lからの法線ベクトル23の離間の程度を確認することで、ワーク7におけるプレスすべき箇所およびプレスすべき変位量を直感的に把握することができる。
なお、上述した実施形態およびその変形例においては、ワーク加工作業支援システム1における位置姿勢情報取得手段を、マーカー部材8、マーカー検出部14、および撮像部位置姿勢推定部15によって構成するようにしたが、これに代えて、あるいはこれと併せて、図10に示したように、作業者4の視点位置およびその視線方向、並びにワーク7の位置を計測するための位置方向計測装置22を設けることもできる。この種の位置方向計測装置22としては、例えば、超音波センサーや磁気式・光学式位置計測センサーを用いることができる。
また、上述したような別途用意する複合現実感用マーカー11に代えて、ワーク7自身の一部(例えば、幾何学的特徴点である角部)を、位置合わせ用の基準点(一種のマーカー)として利用することもできる。
1 ワーク加工作業支援システム
2 システム本体
3 ヘッド・マウント・ディスプレイ(HMD)
4 作業者
5、5R、5L HMDの撮像部
6、6R、6L HMDの表示部
7 ワーク
7R ワークの現実画像
7L ワークの完成形状の仮想画像
8 マーカー部材
9 マーカー部材の枠部材
10 マーカー部材の支持部
11 マーカー
12 現実画像取得部
13 記憶部
14 マーカー検出部
15 撮像部位置姿勢推定部
16 仮想画像生成部
17 画像合成部
18 保持部材
20 誤差判定部
21 仮想画像位置調整部
22 位置方向計測装置
23 マーカーの法線ベクトル

Claims (14)

  1. ワークの加工作業を支援するためのワーク加工作業支援システムであって、
    作業者の視点位置でその視線方向における作業空間を前記ワークと共に撮像するための撮像手段と、
    前記作業者の視点と、前記作業空間中の前記ワークとの相対的な位置姿勢関係を示す位置姿勢情報を取得するための位置姿勢情報取得手段と、
    前記位置姿勢情報に基づいて、前記視点位置およびその視線方向における前記ワークの完成形状を示す三次元の仮想画像を生成するための仮想画像生成手段と、
    前記撮像手段により撮像された前記作業空間の現実画像に前記仮想画像を重畳させて合成画像を生成するための画像合成手段と、
    前記合成画像を表示するための表示手段と、を備えたワーク加工作業支援システム。
  2. 前記位置姿勢情報取得手段は、前記ワーク上の基準点に対する所定の相対位置に暫定的に設置される複合現実感用マーカーを有する、請求項1記載のワーク加工作業支援システム。
  3. 前記位置姿勢情報取得手段は、前記ワーク上の基準点に対する相対位置が前記加工作業に伴って実質的に変化しない箇所に設置された複合現実感用マーカーを有する、請求項1または2に記載のワーク加工作業支援システム。
  4. 前記複合現実感用マーカーは、加工中の前記ワークを保持する保持部材に設置されている、請求項3記載のワーク加工作業支援システム。
  5. 前記位置姿勢情報取得手段は、前記作業者の視点位置およびその視線方向、並びに前記ワークの位置を計測するための位置方向計測装置を有する、請求項1乃至4のいずれか一項に記載のワーク加工作業支援システム。
  6. 前記完成形状を示す前記仮想画像は、前記加工作業における許容加工誤差を含んで生成される、請求項1乃至5のいずれか一項に記載のワーク加工作業支援システム。
  7. 前記ワークの前記現実画像と、前記完成形状を示す前記仮想画像との不一致箇所を前記表示部において表示するための誤差判定手段をさらに備えた、請求項1乃至6のいずれか一項に記載のワーク加工作業支援システム。
  8. 前記ワークの前記現実画像と前記完成形状を示す前記仮想画像との不一致率が最小となるように、前記仮想画像を前記現実画像に対して移動させるための仮想画像位置調整手段をさらに備えた、請求項1乃至7のいずれか一項に記載のワーク加工作業支援システム。
  9. 前記加工作業は、前記ワークに対するプレス成形加工を含む、請求項1乃至8のいずれか一項に記載のワーク加工作業支援システム。
  10. ワークの加工作業を支援するためのワーク加工作業支援システムを用いたワーク加工方法であって、
    前記ワークを加工装置によって加工する加工工程と、
    前記加工工程の途中で、作業者の視点位置でその視線方向における作業空間を前記ワークと共に撮像する撮像工程と、
    前記作業者の視点と、前記作業空間中の前記ワークとの相対的な位置姿勢関係を示す位置姿勢情報を取得する位置姿勢情報取得工程と、
    前記位置姿勢情報に基づいて、前記視点位置およびその視線方向における前記ワークの完成形状を示す三次元の仮想画像を生成する仮想画像生成工程と、
    前記撮像手段により撮像された前記作業空間の現実画像に前記仮想画像を重畳させて合成画像を生成する画像合成工程と、
    前記合成画像を表示する表示工程と、を備えたワーク加工方法。
  11. 前記位置姿勢情報取得工程は、前記ワーク上の基準点に対する所定の相対位置に複合現実感用マーカーを暫定的に設置するマーカー設置工程を含む、請求項10記載のワーク加工方法。
  12. 前記加工工程において前記ワークの加工が進んで、ある程度まで前記ワークを加工できた段階で、前記マーカー設置工程において、加工途中の前記ワークの所定の位置に前記複合現実感用マーカーを暫定的に設置し、前記表示工程において映し出された前記合成画像に基づいて、前記ワークの完成形状を示す前記三次元の仮想画像に対して前記ワークの前記現実画像が飛び出している箇所があれば、そこを要修正箇所と判断する、請求項11記載のワーク加工方法。
  13. 複数の前記複合現実感用マーカーを前記ワークの表面に貼り付ける、請求項11または12に記載のワーク加工方法。
  14. 前記加工装置は、プレス機であり、
    前記加工工程は、前記ワークに対するプレス成形加工を含む、請求項10乃至13のいずれか一項に記載のワーク加工方法。
JP2015513794A 2013-04-24 2014-04-23 ワーク加工作業支援システムおよびワーク加工方法 Active JP6349307B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013091347 2013-04-24
JP2013091347 2013-04-24
PCT/JP2014/061404 WO2014175324A1 (ja) 2013-04-24 2014-04-23 ワーク加工作業支援システムおよびワーク加工方法

Publications (2)

Publication Number Publication Date
JPWO2014175324A1 true JPWO2014175324A1 (ja) 2017-02-23
JP6349307B2 JP6349307B2 (ja) 2018-06-27

Family

ID=51791894

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015513794A Active JP6349307B2 (ja) 2013-04-24 2014-04-23 ワーク加工作業支援システムおよびワーク加工方法

Country Status (5)

Country Link
US (1) US10140767B2 (ja)
JP (1) JP6349307B2 (ja)
KR (1) KR101800949B1 (ja)
CN (1) CN105190705B (ja)
WO (1) WO2014175324A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018001264A (ja) * 2016-07-08 2018-01-11 ファナック株式会社 ロボットを用いてレーザ加工を行うレーザ加工ロボットシステム

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6138566B2 (ja) * 2013-04-24 2017-05-31 川崎重工業株式会社 部品取付作業支援システムおよび部品取付方法
US20170061700A1 (en) * 2015-02-13 2017-03-02 Julian Michael Urbach Intercommunication between a head mounted display and a real world object
ITUB20154128A1 (it) * 2015-10-02 2017-04-02 Univ Bologna Alma Mater Studiorum Dispositivo e metodo di monitoraggio per macchine prototipatrici e simili
DE102015119806A1 (de) * 2015-11-16 2017-05-18 Grob-Werke Gmbh & Co. Kg Verfahren zur Darstellung der Bearbeitung in einer Werkzeugmaschine
JP6532393B2 (ja) * 2015-12-02 2019-06-19 株式会社ソニー・インタラクティブエンタテインメント 表示制御装置及び表示制御方法
CN105538035B (zh) * 2015-12-24 2018-05-29 广东省自动化研究所 一种金属零件精密加工设备及方法
JP6866616B2 (ja) * 2016-11-17 2021-04-28 富士通株式会社 重畳画像生成プログラム、重畳画像生成方法、および情報処理装置
JP6392839B2 (ja) * 2016-12-21 2018-09-19 ファナック株式会社 画像表示装置
JP2018142109A (ja) * 2017-02-27 2018-09-13 富士通株式会社 表示制御プログラム、表示制御方法および表示制御装置
JP7193913B2 (ja) * 2017-10-31 2022-12-21 株式会社日立製作所 検査作業管理システム及び検査作業管理方法
US11118733B2 (en) * 2017-12-13 2021-09-14 China National Offshore Oil Corp. Three-dimensional layoutlayout method for splicing vault plates of large LNG storage tank
US11332008B2 (en) * 2018-06-12 2022-05-17 Kubota Corporation Working machine
JP2020008903A (ja) * 2018-07-02 2020-01-16 株式会社ミツトヨ 測定データ観察装置、測定支援装置、及びプログラム
JP7180245B2 (ja) * 2018-09-27 2022-11-30 日本電産株式会社 加工機械用データ処理装置及び加工機械用データ管理システム
JP7307592B2 (ja) * 2019-05-24 2023-07-12 キヤノン株式会社 計測装置、撮像装置、制御方法及びプログラム
EP4234822A3 (en) * 2019-06-17 2023-10-25 Kubota Corporation Work vehicle with improved control valves controllers
US20210227912A1 (en) * 2020-01-23 2021-07-29 Clo Virtual Fashion Inc. Automatic determination of sewing lines for assemblying pattern pieces of garment
EP4104968B1 (en) * 2020-02-14 2023-10-25 Yamazaki Mazak Corporation Workpiece mounting method for machining apparatus, workpiece mounting support system, and workpiece mounting support program
CN112879401A (zh) * 2020-12-30 2021-06-01 富泰华精密电子(成都)有限公司 工件加工方法
JP7349651B1 (ja) 2022-10-25 2023-09-25 国立大学法人静岡大学 作業データ収集方法、作業教示方法、作業実行方法、システム、及びプログラム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136706A (ja) * 1997-09-01 1999-05-21 Mr System Kenkyusho:Kk 位置姿勢検出装置、位置姿勢検出方法、複合現実感提示装置、ゲーム装置、複合現実感提示方法および記憶媒体
JP2000155855A (ja) * 1998-06-30 2000-06-06 Tobishima Corp 仮想現実感を利用した施工支援情報システム。
JP2002006919A (ja) * 2000-06-20 2002-01-11 Nissan Motor Co Ltd 作業指示装置における位置検出方法および位置検出装置
JP2005227876A (ja) * 2004-02-10 2005-08-25 Canon Inc 画像処理方法、画像処理装置
JP2009069954A (ja) * 2007-09-11 2009-04-02 National Institute Of Advanced Industrial & Technology 作業支援装置
JP2009266221A (ja) * 2008-04-21 2009-11-12 Mori Seiki Co Ltd 加工シミュレーション方法及び加工シミュレーション装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6522312B2 (en) * 1997-09-01 2003-02-18 Canon Kabushiki Kaisha Apparatus for presenting mixed reality shared among operators
US7286696B2 (en) * 2000-10-18 2007-10-23 Erickson Ronald R Method and apparatus for utilizing representational images in commercial and other activities
US20020133264A1 (en) * 2001-01-26 2002-09-19 New Jersey Institute Of Technology Virtual reality system for creation of design models and generation of numerically controlled machining trajectories
US6879874B2 (en) * 2001-09-03 2005-04-12 Siemens Aktiengesellschaft Evaluating excessive tolerances in NC parts programs
JP2003150219A (ja) * 2001-11-12 2003-05-23 Fanuc Ltd 作業機械のシミュレーション装置
JP2003303356A (ja) 2002-04-09 2003-10-24 Canon Inc 展示装置
JP3944019B2 (ja) * 2002-07-31 2007-07-11 キヤノン株式会社 情報処理装置および方法
JP4366165B2 (ja) 2003-09-30 2009-11-18 キヤノン株式会社 画像表示装置及び方法並びに記憶媒体
JP4537104B2 (ja) 2004-03-31 2010-09-01 キヤノン株式会社 マーカ検出方法、マーカ検出装置、位置姿勢推定方法、及び複合現実空間提示方法
DE102005009437A1 (de) * 2005-03-02 2006-09-07 Kuka Roboter Gmbh Verfahren und Vorrichtung zum Einblenden von AR-Objekten
JP4909176B2 (ja) 2007-05-23 2012-04-04 キヤノン株式会社 複合現実感提示装置及びその制御方法、コンピュータプログラム
US9221117B2 (en) * 2009-07-08 2015-12-29 Lincoln Global, Inc. System for characterizing manual welding operations
CN101920233A (zh) * 2010-07-09 2010-12-22 广东工业大学 一种基于虚拟现实技术的喷涂工业机器人综合控制系统及控制方法
JP5594088B2 (ja) * 2010-11-22 2014-09-24 トヨタ自動車株式会社 製造ラインの検討システム
US9345957B2 (en) 2011-09-30 2016-05-24 Microsoft Technology Licensing, Llc Enhancing a sport using an augmented reality display
EP2590040B1 (en) * 2011-11-04 2014-05-28 Nivora IP B.V. Method and device for aiding in manual handling of a work piece during machining
US9679414B2 (en) * 2013-03-01 2017-06-13 Apple Inc. Federated mobile device positioning
US9713852B2 (en) * 2013-03-15 2017-07-25 Illinois Tool Works Inc. Welding training systems and devices

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11136706A (ja) * 1997-09-01 1999-05-21 Mr System Kenkyusho:Kk 位置姿勢検出装置、位置姿勢検出方法、複合現実感提示装置、ゲーム装置、複合現実感提示方法および記憶媒体
JP2000155855A (ja) * 1998-06-30 2000-06-06 Tobishima Corp 仮想現実感を利用した施工支援情報システム。
JP2002006919A (ja) * 2000-06-20 2002-01-11 Nissan Motor Co Ltd 作業指示装置における位置検出方法および位置検出装置
JP2005227876A (ja) * 2004-02-10 2005-08-25 Canon Inc 画像処理方法、画像処理装置
JP2009069954A (ja) * 2007-09-11 2009-04-02 National Institute Of Advanced Industrial & Technology 作業支援装置
JP2009266221A (ja) * 2008-04-21 2009-11-12 Mori Seiki Co Ltd 加工シミュレーション方法及び加工シミュレーション装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
吉田修平, 外3名: ""ロボットを用いた自由曲面板厚評価システムの開発−拡張現実技術を用いた提示−"", 2009年度精密工学会秋季大会学術講演会講演論文集, JPN6018009031, 25 February 2010 (2010-02-25), pages 189 - 190, ISSN: 0003757120 *
鈴木宏正: ""3次元CADシステムの最新動向"", 日経CG, vol. 第68号, JPN6014028727, 1 May 1992 (1992-05-01), JP, pages 140 - 148, ISSN: 0003757119 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018001264A (ja) * 2016-07-08 2018-01-11 ファナック株式会社 ロボットを用いてレーザ加工を行うレーザ加工ロボットシステム

Also Published As

Publication number Publication date
JP6349307B2 (ja) 2018-06-27
WO2014175324A1 (ja) 2014-10-30
KR101800949B1 (ko) 2017-11-23
CN105190705A (zh) 2015-12-23
US20160078681A1 (en) 2016-03-17
US10140767B2 (en) 2018-11-27
CN105190705B (zh) 2019-05-10
KR20150139608A (ko) 2015-12-11

Similar Documents

Publication Publication Date Title
JP6349307B2 (ja) ワーク加工作業支援システムおよびワーク加工方法
JP6138566B2 (ja) 部品取付作業支援システムおよび部品取付方法
JP6344890B2 (ja) 部品組立作業支援システムおよび部品組立方法
JP5845211B2 (ja) 画像処理装置、画像処理方法
US8472703B2 (en) Image capture environment calibration method and information processing apparatus
JP5310130B2 (ja) 3次元視覚センサによる認識結果の表示方法および3次元視覚センサ
US10269139B2 (en) Computer program, head-mounted display device, and calibration method
JP6008397B2 (ja) 光学式シースルー型hmdを用いたarシステム
JP4677281B2 (ja) 画像処理方法、画像処理装置
US8711486B2 (en) System for highlighting targets on head up displays with near focus plane
JP2017187667A (ja) 頭部装着型表示装置およびコンピュータープログラム
JP2007064684A (ja) マーカ配置補助方法及び装置
JP7005224B2 (ja) 情報処理装置、システム、画像処理方法、コンピュータプログラム、及び記憶媒体
JP6295296B2 (ja) 複合システム及びターゲットマーカ
JP2017102696A (ja) 頭部装着型表示装置およびコンピュータープログラム
CN111372698A (zh) 作业辅助系统及作业辅助方法
CN114465910B (zh) 一种基于增强现实技术的机械加工设备校准方法
JP6890524B2 (ja) 姿勢制御システム
US10634920B2 (en) System and method for recording and representing measurement points on a body surface
JP2016218839A (ja) Ar情報表示装置
JP2023117824A (ja) 情報処理方法及び情報処理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170415

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180604

R150 Certificate of patent or registration of utility model

Ref document number: 6349307

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250