JP2018181232A - 工場設備の保守支援装置及び保守支援システム - Google Patents

工場設備の保守支援装置及び保守支援システム Download PDF

Info

Publication number
JP2018181232A
JP2018181232A JP2017084281A JP2017084281A JP2018181232A JP 2018181232 A JP2018181232 A JP 2018181232A JP 2017084281 A JP2017084281 A JP 2017084281A JP 2017084281 A JP2017084281 A JP 2017084281A JP 2018181232 A JP2018181232 A JP 2018181232A
Authority
JP
Japan
Prior art keywords
image
unit
head
information
maintenance support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017084281A
Other languages
English (en)
Other versions
JP6845072B2 (ja
Inventor
浩次 西
Koji Nishi
浩次 西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fanuc Corp
Original Assignee
Fanuc Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fanuc Corp filed Critical Fanuc Corp
Priority to JP2017084281A priority Critical patent/JP6845072B2/ja
Priority to DE102018108902.3A priority patent/DE102018108902A1/de
Priority to US15/953,712 priority patent/US10838211B2/en
Priority to CN201810355970.1A priority patent/CN108732756B/zh
Publication of JP2018181232A publication Critical patent/JP2018181232A/ja
Application granted granted Critical
Publication of JP6845072B2 publication Critical patent/JP6845072B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Abstract

【課題】工場設備の保守に必要な情報を作業者に負担をかけずに容易に収集し、作業者の保守作業を支援することができる低コストの保守支援装置及び保守支援システムを実現する。
【解決手段】保守支援装置1は、現実のシーンに付加画像が重畳された拡張現実画像を表示する表示部21と現実のシーンを撮像して現実画像を取得する撮像部22とを有する頭部装着型表示装置2の、撮像部22が取得した現実画像に基づいて、工場設備の稼働状況を示す情報を抽出する画像解析部11と、抽出された稼働状況を示す情報を記憶するデータ記憶部12と、記憶された稼働状況を示す情報に基づいて、工場設備の異常発生の有無を判定するデータ解析部13と、現実のシーンにデータ解析部13により異常発生と判定された工場設備に対する保守情報を示す付加画像を重畳した拡張現実画像を、頭部装着型表示装置2の表示部21に表示させる表示制御部14と、を備える。
【選択図】図1

Description

本発明は、工場設備の保守支援装置及び保守支援システムに関する。
工場設備の保守作業には、例えば、工場設備に設けられたセンサ、メータあるいはディスプレイ画面に示された値などの各種情報を目視で確認し、記録用紙に記録する作業や、記録用紙に記入した情報をコンピュータのデータベースに入力する作業がある。このような作業を一定時間ごとに繰り返して情報の蓄積を長期間に渡って行い、各データの時間的な変化を把握することで、消耗品の補充を行ったり、定期保守作業の計画を立てたり、工場設備に異常がないかどうかの分析を行ったり、生産効率を改善するためのデータ解析を行う。また、近年では、画像処理技術の発展に伴い、センサ、メータあるいはディスプレイ画面に示された値などの各種情報の読み取りを、作業者による目視に代えて電子機器にて行われることもある。
例えば、コンピュータを設置したセンタ側にて、需要家に配設された計量機器の計量値を集中管理し、自動的に検針処理を行う自動検針装置であって、計量機器の計量値と計量機器を識別する識別番号を同一画面に撮像するディジタルカメラと、ディジタルカメラの撮像画像から計量値と識別番号を判読する画像処理部と、画像処理部からの判読結果を記憶する記憶部と、画像処理部からの判読結果を表示する表示部と、画像処理部からの判読結果を印刷する出力部と、を備えたことを特徴とする自動検針装置が知られている(例えば、特許文献1参照。)。
例えば、文字情報表示部に測定データを表示する体温計の測定データを撮影して文字画像を生成する撮影部と、前記文字画像から測定デジタルデータを生成する文字認識部と、前記測定デジタルデータを記録する記録部とを備えたデータ入力装置が知られている(例えば、特許文献2参照。)。
例えば、最低位に複数の目盛線からなる目盛が付された複数桁の数字にそれぞれ対応する複数の数字車が回転することによって計量用の数値を表示する計量装置の数値情報を含む画像をもとに該計量装置が指示する数値を認識する数値認識装置であって、前記数字車に対応して帯状に連なる数字列のパターンを記憶する記憶部と、前記画像に含まれる各桁の前記数字車が表示する表示内容を抽出する抽出部と、前記数字車の表示内容を前記数字列のパターンと照合する照合部と、前記照合部による前記数字車の照合結果に基づいて前記計量装置の各桁における指示値を認識する認識部と、前記照合部による前記最低位の前記数字車の照合結果に基づいて前記画像に含まれる前記目盛の値を判別する判別部と、を備えたことを特徴とする数値認識装置が知られている(例えば、特許文献3参照。)。
例えば、作業者の頭部に装着されて、受信したコンテンツ情報に基づいて視界に画像を表示するヘッドマウントディスプレイと、前記ヘッドマウントディスプレイにコンテンツ情報を送信する作業支援装置と、を備えた作業支援システムにおいて、前記ヘッドマウントディスプレイは、該ヘッドマウントディスプレイに搭載されて視界方向の対象物を撮像する撮像手段と、該ヘッドマウントディスプレイに搭載されて前記作業者の頭部の動きを検出する頭部動作検出手段と、前記撮像手段によって撮像した基本画像情報と前記頭部動作検出手段によって検出した頭部動作情報とを前記作業支援装置に送信する作業側送信手段と、を有し、前記作業支援装置は、前記作業側送信手段を介して送信された前記基本画像情報と前記頭部動作情報とを受信する支援側受信手段と、前記支援側受信手段を介して受信した前記基本画像情報と前記頭部動作情報とに基づいて該基本画像情報から前記対象物の映像の揺れを補正した補正画像情報を作成する頭揺れ補正手段と、前記補正画像情報を所定の態様で出力する支援側出力手段と、を有することを特徴とする作業支援システムが知られている(例えば、特許文献4参照。)。
特開2001−250185号公報 特開2001−349789号公報 特開2016−173760号公報 特開2011−071884号公報
工場設備に設けられたセンサ、メータあるいはディスプレイ画面に示された値などの各種情報を、作業者自らが目視で確認して記録用紙に記録し、記録した情報をコンピュータのデータベースに入力する場合、収拾すべき情報が膨大であると、作業工数が増えて作業者の負担が増す。また、作業者が情報をうっかり記録し忘れることもある。また、作業者による目視確認、記録用紙への記録、及びデータベース入力の一連の作業は、一定時間ごとにしか行うことができない。したがって、作業中、あるいは作業終了後一定時間経過して次の作業が行われるまでの間に、センサ、メータあるいはディスプレイ画面に異常な数値が表示されたとしても、作業者はこれに気付くことができず、工場設備の異常を見過ごしたり発見が遅れたりする可能性がある。この結果、工場設備に設けられたバルブの開閉やスイッチの操作などといった異常回避のための対応を作業者がすぐに行うことができず、工場設備の異常が拡大することがある。
また、作業者の負担の低減及び工場設備の異常の確実な発見を目的として、センサ、メータあるいはディスプレイと上位コンピュータとをネットワーク接続し、上位コンピュータにてセンサ、メータあるいはディスプレイから送信されたディジタルデータを一元管理する管理システムを構築することが考えられる。またさらに、工場設備に設けられたバルブやスイッチについてもこのような管理システムにネットワーク接続し、上位コンピュータによりバルブの開閉やスイッチの操作を制御することも考えられる。しかしながら、工場設備のセンサ、メータ、ディスプレイ、バルブ及びスイッチの数は膨大であり、これらハードウェア1つ1つを上位コンピュータにネットワーク接続するのには、多額の費用がかかる。また、工場設備を含むこのような管理システムを多額の費用をかけて構築したとしても、作業者の作業工数の削減による費用で回収できるとは限らない。また、既存の工場設備に対してこのような管理システムを構築する際は、工場設備及びこれを含む工場の停止中に改修工事を行う必要がある。例えば定期保守時、休業時あるいは終業後などに工場設備及びこれを含む工場を少しずつ改修していくことが考えられるが、工期の長期化を免れない。
したがって、工場設備の保守に必要な情報を作業者に負担をかけずに容易に収集し、作業者の保守作業を支援することができる低コストの技術が望まれている。
本開示の一態様は、保守支援装置は、現実のシーンに付加画像が重畳された拡張現実画像を表示する表示部と現実のシーンを撮像して現実画像を取得する撮像部とを有する頭部装着型表示装置の、撮像部が取得した現実画像に基づいて、工場設備の稼働状況を示す情報を抽出する画像解析部と、画像解析部により抽出された稼働状況を示す情報を記憶するデータ記憶部と、データ記憶部に記憶された稼働状況を示す情報に基づいて、工場設備の異常発生の有無を判定するデータ解析部と、現実のシーンにデータ解析部により異常発生と判定された工場設備に対する保守情報を示す付加画像を重畳した拡張現実画像を、頭部装着型表示装置の表示部に表示させる表示制御部と、を備える。
本開示の一態様によれば、工場設備の保守に必要な情報を作業者に負担をかけずに容易に収集し、作業者の保守作業を支援することができる低コストの保守支援装置及び保守支援システムを実現することができる。
本開示の一態様によれば、頭部装着型表示装置を装着した作業者が工場で作業する際に作業者の視野に入る現実シーンに基づいて、工場設備に対する保守情報を含んだ拡張現実画像を生成し、これを頭部装着型表示装置に表示させるので、作業者は、頭部装着型表示装置を通じて、工場設備の保守に必要な情報を容易に収集することができる。
また、工場における作業者の通常の作業(例えば工場設備の操作や監視などの作業)中に、頭部装着型表示装置を通じて保守に工場設備の保守に必要な情報を収集することができるので、保守に必要な情報の収集のための要員(保守専門の作業者)が不要であり、人件費を削減することができる。また、工場における作業者の通常の作業中は常時、頭部装着型表示装置を通じて保守に必要な情報の収集が行われるので、情報の精度が向上し、異常発生をより確実に検知することができる。また、記録用紙に各種情報を記録しコンピュータに入力する作業が不要となるので、作業者の作業負担が軽減され、作業者による情報の記録漏れや入力ミスに起因する異常発生の見過ごしを防ぐことができる。
また、工場における作業者の通常の作業中に、頭部装着型表示装置を通じて工場設備に対する保守情報を提供することができるので、作業員は工場設備の異常発生に対して迅速かつ的確な対応をとることができる。また、作業者は、頭部装着型表示装置により、現実のシーン上において保守情報を視認することができるので、保守が必要な工場設備(異常が発生した工場設備)の特定や保守に必要な作業の把握が容易となり、作業者の作業負担が軽減される。
また、本開示の一態様は、ウェアラブル端末である頭部装着型表示装置及び演算処理を行う保守支援装置にて保守情報を提供するものであるので、保守支援のためのシステムの構築のための工場設備自体や工場全体についてのハードウェアの改修は不要であり、低コストである。
一実施形態による保守支援装置及び保守支援システムを示す図である。 画像解析部により抽出される工作機械の稼働状況を示す情報及び識別情報の抽出例を示す図であって、(A)は工作機械の数値制御装置のメータを例示し、(B)は画像解析部により抽出されたよる工作機械の稼働状況を示す情報及び識別情報のデータを例示する。 画像解析部により抽出されるロボットの稼働状況を示す情報及び識別情報の抽出例を示す図であって、(A)はロボット制御装置のメータを例示し、(B)は画像解析部により抽出されたよるロボットの稼働状況を示す情報及び識別情報のデータを例示する。 一実施形態による保守支援装置及び保守支援システムの動作フローを示すフローチャートである。 ロボットと工作機械との組合せからなる自動化加工システムに、一実施形態による保守支援システムを適用した場合を例示する図である。 図5に示す作業者が頭部装着型表示装置を通じて見る拡張現実画像を示す図である。 ロボット制御装置の外観を例示する図であって、(A)はロボット制御装置の正面を示す斜視図であり、(B)はロボット制御装置の操作パネルを示す拡大図である。 教示操作盤の外観を例示する斜視図であって、(A)は教示操作盤の正面を示し、(B)は教示操作盤の背面を示す。 工作機械の外観を例示する図であって、(A)は工作機械の正面図であり、(B)は工作機械の操作パネルを示す拡大図である。 図9の操作パネルのディスプレイに表示される画面を例示する図である。
以下図面を参照して、工場設備の保守支援装置及び保守支援システムについて説明する。各図面において、同様の部材には同様の参照符号が付けられている。また、異なる図面において同じ参照符号が付されたものは同じ機能を有する構成要素であることを意味するものとする。また、理解を容易にするために、これらの図面は縮尺を適宜変更している。また、図面に示される形態は本発明を実施するための一つの例であり、本発明は図示された形態に限定されるものではない。
図1は、一実施形態による保守支援装置及び保守支援システムを示す図である。
一実施形態によれば、保守支援システム100は、保守支援装置1と、頭部装着型表示装置2とを備える。工場で働く作業者(ユーザ)が頭部装着型表示装置2を頭部に装着して通常の作業(工場設備の操作や監視など)を行う間、保守支援装置1は頭部装着型表示装置2から受信した現実画像に基づいて工場設備の異常発生の有無を判定する。保守支援装置1により異常発生と判定された工場設備については、当該工場設備に対する保守情報を示す付加画像が現実のシーンに重畳され、頭部装着型表示装置2を介して作業者に提供される。
工場設備の例としては、ロボットや工作機械などのような製造機械、及び工場に設けられた備品などがある。本開示では、「ロボット」にはロボット本体とこれを制御するロボット制御装置(Robot Controller)とが含まれることがあり、「工作機械」には工作機械本体とこれを制御する数値制御(Numerical CONTROL:NC)装置とが含まれることがある。数値制御装置には、コンピュータ数値制御(Computerized Numerical Control:CNC)装置も含まれる。また、工作機械の例としては、例えば、旋盤、ボール盤、中ぐり盤、フライス盤、研削盤、歯切り盤・歯車仕上げ機械、マシニングセンタ、放電加工機、パンチプレス、レーザ加工機、搬送機及び射出成形機などといった様々なものがある。また、工場に設けられた備品の例としては、製造機械に付属する周辺機器、照明設備、通信設備、映像機器、音響機器、空調設備、防災設備、耐震設備、防犯設備、時計、清掃機器、文房具、作業着、ドア、窓、天井、床、壁、柵、蓋、及び掲示物などといった様々なものがある。
保守支援システム100の一構成要素である頭部装着型表示装置(Head Mounted Display:HMD)2は、作業者の頭部に装着されるウェアラブル端末であり、ヘッドアップディスプレイの一種である。頭部装着型表示装置2を装着した作業者の視野には、拡張現実(Augmented Reality:AR)技術を用いた拡張現実画像が映し出される。また、頭部装着型表示装置2の形状としては、例えば、眼鏡の上部または前部に投影装置が装着されて透明板部分に画像が投影される眼鏡型のものや、鍔(つば)の部分からディスプレイ装置が垂れ下がった帽子型のものがある。図1に示す例では、頭部装着型表示装置2を眼鏡型としたが、形状はこれに限定されない。
頭部装着型表示装置2は、表示部21と、撮像部22と、通信部23と、装着部24と、位置情報取得部25とを有する。
表示部21は、現実のシーンに付加画像が重畳された拡張現実画像を、頭部装着型表示装置2を装着した作業者の視野に表示するものである。拡張現実画像は、後述する保守支援装置1内の表示制御部14によって生成される。表示部21の表示方式としては、例えば、透過表示された現実のシーンに付加画像が重畳された拡張現実画像を表示する光学透過(Optical See−Through)方式、及び、撮像部22が取得した現実画像に付加画像が重畳された拡張現実画像を表示するビデオ透過(Video See−Through)方式などがある。図1に例示した眼鏡型の頭部装着型表示装置2では、作業者の両眼に対応して2つの表示部21が設けられているが、単眼のみに表示部21が設けられてもよい。
撮像部22は、現実のシーンを撮像して現実画像を取得するものであり、例えばCCDカメラ、及びCMOSカメラなどがある。頭部装着型表示装置2を装着した作業者の視線方向にあるオブジェクトを撮像部22が撮像することができるように、好ましくは作業者が視認する現実のシーンと撮像部22が撮像して取得した現実画像とがほぼ同一となるように、撮像部22は頭部装着型表示装置2上に設けられる。
通信部23は、周辺機器と通信するためのものであり、この周辺機器には保守支援装置1が含まれる。通信部23は、撮像部22が取得した現実画像を保守支援装置1の通信部15へ送信し、保守支援装置1で生成された拡張現実画像を通信部15から受信する。なお、保守支援システム100において頭部装着型表示装置2が複数存在する場合は、通信部23は、現実画像と併せて頭部装着型表示装置2の識別情報についても保守支援装置1の通信部15へ送信する。頭部装着型表示装置2の通信部23と保守支援装置1の通信部15とは、例えば無線通信にて接続される。無線通信の例として、Wi−Fiなどの無線LAN、Bluetooth(登録商標)、及び赤外線通信などがある。なお、無線通信に代えて有線通信としてもよく、この場合は、頭部装着型表示装置2と保守支援装置1との間の通信の安定性は増す。撮像部22は頭部装着型表示装置2の任意の場所に設けられる。
装着部24は、作業者に対して着脱自在に取り付けるためのものである。図1に例示した眼鏡型の頭部装着型表示装置2では、眼鏡のテンプル(ツル)、モダン、ノーズパッド(鼻あて)などが装着部24に相当する。頭部装着型表示装置2が帽子型である場合、クラウン(Crown)が装着部24に相当する。
位置情報取得部25は、全地球測位システム(GPS:Grobal Positioning System)を用いて頭部装着型表示装置2の位置情報を取得する。したがって、位置情報取得部25により、頭部装着型表示装置2を装着した作業者の位置情報を取得することができる。位置情報取得部25は頭部装着型表示装置2の任意の場所に設けられる。
また、頭部装着型表示装置2は、オプションとして、頭部装着型表示装置2の周囲の音を電気信号に変換するマイクロフォンや、電気信号を音に変換して頭部装着型表示装置2を装着した作業者に伝えるスピーカを有してもよい。
また、保守支援システム100の一構成要素である保守支援装置1は、画像解析部11と、データ記憶部12と、データ解析部13と、表示制御部14と、通信部15とを備える。これら画像解析部11、データ記憶部12、データ解析部13、表示制御部14、及び通信部15は、例えばバス16を介して電気通信可能に接続される。
通信部15は、周辺機器と通信するためのものであり、この周辺機器には頭部装着型表示装置2が含まれる。通信部15は、頭部装着型表示装置2で取得した現実画像を通信部23から受信し、表示制御部14で生成した拡張現実画像を通信部23へ送信する。頭部装着型表示装置2の通信部23と保守支援装置1の通信部15との間の通信方式については既に説明した通りである。
画像解析部11は、頭部装着型表示装置2の撮像部22が取得して通信部23及び通信部15を介して受信した現実画像に基づいて、工場設備の稼働状況を示す情報を抽出する。その際、画像解析部11は、撮像部22が取得した現実画像に基づいて、稼働状況を示す情報に対応する工場設備の識別情報についても併せて抽出する。また、複数の工場設備が現実画像に写っている場合には、画像解析部11は、工場設備ごとに、当該工場設備の稼働状況を示す情報及び識別情報を抽出してもよい。より詳細には、画像解析部11は、撮像部22が取得した現実画像から文字領域及び画像領域を見つけ出し、文字領域から文字の切り出しを行い、画像領域では画像パターンの認識を行うことで、工場設備の稼働状況を示す情報及び識別情報を抽出する。工場設備の稼働状況を示す情報は、頭部装着型表示装置2の撮像部22が取得した現実画像に写った工場設備に設けられた表示機器による表示物から抽出される。画像解析部11が抽出する工場設備の識別情報には、文字情報、バーコード、QRコード(登録商標)、DataMatrix(登録商標)、及びMaxiCode(登録商標)などがある。画像解析部11による画像解析処理における文字認識には、例えば光学文字認識(Optical Character Recognition:OCR)技術が用いられる。また、画像解析部11による画像解析処理におけるバーコード及び上記2次元コードの認識には、各コードに対応する公知の画像処理技術が用いられる。画像解析部11による画像解析処理に、機械学習技術をさらに取り入れてもよい。なお、画像解析部11により抽出される稼働状況を示す情報及び識別情報の具体例については後述する。
データ記憶部12は、画像解析部11により抽出された稼働状況を示す情報を、当該稼働状況を示す情報に対応する工場設備の識別情報と関連付けて記憶し、データベース化する。また、保守支援システム100において頭部装着型表示装置2が複数存在する場合は、データ記憶部12は、当該稼働状況を示す情報に対応する工場設備の識別情報及び頭部装着型表示装置2の識別情報を記憶し、データベース化する。また、データ記憶部12は、位置情報取得部25が取得した(頭部装着型表示装置2すなわち作業者の位置を示す)位置情報を、工場設備の稼働状況を示す情報及び識別情報と関連付けて記憶してもよい。データ記憶部12は、例えば、例えばEEPROM(登録商標)などのような電気的に消去・記録可能な不揮発性メモリ、または、例えばDRAM、SRAMなどのような高速で読み書きできるランダムアクセスメモリによって構成される。
ここで、画像解析部11による画像外戚処理及びデータ記憶部12によるデータ記憶処理の具体例について、図2及び図3を参照して説明する。
図2は、画像解析部により抽出される工作機械の稼働状況を示す情報及び識別情報の抽出例を示す図であって、(A)は工作機械の数値制御装置のメータを例示し、(B)は画像解析部により抽出されたよる工作機械の稼働状況を示す情報及び識別情報のデータを例示する。図2(A)に示すように、工作機械の数値制御装置2101に設けられたメータの近傍に「工作機械Bメータ001」がラベル付けされ、メータの矢印が「20A」を指している例を考える。この場合、画像解析部11の画像解析処理により、工場設備の識別情報として、工作機械の識別を示す「工作機械B」及びメータの識別番号を示す「001」が抽出される。また、画像解析部11の画像解析処理により、工作機械の稼働状況を示す情報として、電流値「20A」が抽出される。データ記憶部12は、図2(B)に示すように、画像解析部11が抽出した「工作機械B」、「001」、及び「20A」との情報を、例えば、頭部装着型表示装置2の撮像部22が現実画像を取得した日時(あるいは、画像解析部11が画像解析処理を行った日時もしくはデータ記憶部12がデータを記憶した日時)と頭部装着型表示装置2の位置情報取得部25が取得した位置情報とに関連付けて記憶する。
図3は、画像解析部により抽出されるロボットの稼働状況を示す情報及び識別情報の抽出例を示す図であって、(A)はロボット制御装置のメータを例示し、(B)は画像解析部により抽出されたよるロボットの稼働状況を示す情報及び識別情報のデータを例示する。図3(A)に示すように、ロボット制御装置2201に設けられたメータの近傍に「ラインIロボット5」がラベル付けされ、メータのディジタル表記が「00153」を指している例を考える。この場合、画像解析部11の画像解析処理により、工場設備の識別情報として、ロボット制御装置が置かれた製造ラインの識別を示す「ラインI」及びロボットの識別を示す「ロボット5」が抽出される。また、画像解析部11の画像解析処理により、ロボットの稼働状況を示す情報として、値「153」が抽出される。データ記憶部12は、図3(B)に示すように、画像解析部11が抽出した「ラインI」、「ロボット5」、及び「153」との情報を、例えば、頭部装着型表示装置2の撮像部22が現実画像を取得した日時(あるいは、画像解析部11が画像解析処理を行った日時もしくはデータ記憶部12がデータを記憶した日時)と頭部装着型表示装置2の位置情報取得部25が取得した位置情報とに関連付けて記憶する。
また、保守支援システム100において頭部装着型表示装置2が複数存在する場合は、データ記憶部12は、当該稼働状況を示す情報に対応する工場設備の識別情報及び頭部装着型表示装置2の識別情報を記憶するが、例えば図2及び図3では、頭部装着型表示装置2の識別情報に基づいて、当該頭部装着型表示装置2を装着した作業者に関する情報を記憶している。
上述の図2及び図3に示した画像解析部11により抽出されデータ記憶部12に記憶される工場設備の稼働状況を示す情報及び識別情報はあくまでも一例であって、工場設備の内容に応じて抽出項目及び記憶項目を適宜設定すればよい。また、図2及び図3に示した数値、日時、緯度、経度などもあくまでも一例である。
図1に説明を戻すと、データ解析部13は、データ記憶部12に記憶された工場設備の稼働状況を示す情報と識別情報とに基づいて、当該工場設備の異常発生の有無を判定する。データ解析部13による異常判定処理は、工場設備の識別情報に基づいて、工場設備ごとに実行される。例えば、データ解析部13は、データ記憶部12に記憶された工場設備の稼働状況を示す情報を逐次観測し、最新の当該稼働状況を示す情報が、予め設定された基準範囲を外れた場合は、異常発生と判定する。また例えば、データ解析部13は、データ記憶部12に記憶された工場設備の稼働状況を示す情報の変化状態を逐次観測し、当該稼働状況を示す情報の最新の所定時間期間における変化状態が、予め設定された基準範囲を外れた場合は、異常発生と判定する。また例えば、データ解析部13は、データ記憶部12に記憶された工場設備の稼働状況を示す情報の変化状態を逐次観測し、当該稼働状況を示す情報の最新の所定時間期間における変化状態と当該最新の所定時間期間よりも以前の所定時間期間における変化状態との相違量が、予め設定された相違量に係る基準範囲を外れた場合は、異常発生と判定する。また、データ解析部13は、上記例示した方法以外の方法で異常判定処理を行ってもよい。なお、データ解析部13によるデータ解析処理に、機械学習技術をさらに取り入れてもよい。
表示制御部14は、現実のシーンにデータ解析部13により異常発生と判定された工場設備に対する保守情報を示す付加画像を重畳した拡張現実画像を、頭部装着型表示装置2の表示部21に表示させる制御を行う。なお、保守支援システム100において頭部装着型表示装置2が複数存在する場合は、表示制御部14は、頭部装着型表示装置2の識別情報に基づき、拡張現実画像を頭部装着型表示装置2の表示部21に表示させる制御を行う。
例えば、異常発生と判定された工場設備に対する保守情報を示す付加画像は、異常発生と判定された工場設備の識別情報に基づいて、現実のシーン上の、異常発生と判定された工場設備の近傍に重畳される。あるいは、異常発生と判定された工場設備に対する保守情報を示す付加画像は、現実のシーン上の任意の位置に重畳されてもよい。表示制御部14により生成された拡張現実画像は、通信部15を及び頭部装着型表示装置2の通信部23を介して、頭部装着型表示装置2の表示部21へ送られる。またこの代替例として、表示制御部14により生成された保守情報を示す付加画像を、通信部15を及び頭部装着型表示装置2の通信部23を介して頭部装着型表示装置2の表示部21へ送信し、頭部装着型表示装置2側で、受信した付加画像を現実のシーンに重畳することで拡張現実画像を生成してもよい。表示部21は、表示制御部14の制御により、頭部装着型表示装置2を装着した作業者の視野に拡張現実画像を表示する。
異常発生と判定された工場設備に対する保守情報の例としては、装置を構成する部品の交換、工具の交換、備品の交換、消耗品の補充、設計変更、装置やこれを含む製造ラインの緊急停止、電源遮断、退避操作、装置や製品の移動、異物の除去、原材料の追加、温度調整、湿度調整、気圧調整、及び清掃などがある。
また、付加画像については、保守情報以外の情報を含めて構成してもよい。保守情報以外の情報の例としては、日時、温度、湿度、気圧、天気、緊急地震速報、工場設備に対する操作ガイド、頭部装着型表示装置2を装着した作業者宛ての連絡事項、複数の作業者が共有すべき情報、初心者である作業者に対する作業内容の支援情報などがある。
また、現実のシーンに重畳される付加画像は、静止画でも動画でもよく、文字、アイコン、アニメーション、及びこれらの組合せにて表現される。
以上説明した画像解析部11、データ記憶部12、データ解析部13及び表示制御部14は、例えばソフトウェアプログラム形式で構築されてもよく、あるいは各種電子回路とソフトウェアプログラムとの組み合わせで構築されてもよい。例えばこれらをソフトウェアプログラム形式で構築する場合は、このソフトウェアプログラムに従って動作させるための演算処理装置を保守支援装置1内に設けることで、上述の各部の機能を実現することができる。またあるいは、画像解析部11、データ記憶部12、データ解析部13及び表示制御部14を、各部の機能を実現するソフトウェアプログラムを書き込んだ半導体集積回路として実現してもよい。
保守支援システム100においては、頭部装着型表示装置2が複数存在してもよく、この場合、保守支援装置1は、複数の頭部装着型表示装置2から送られてきた現実画像に対して画像解析を行い、複数の頭部装着型表示装置2に対して拡張現実画像を表示させる制御を行う。
また例えば、複数の保守支援装置1を、複数の製造セルが接続されたネットワーク内に組み込んでもよい。ネットワーク化された各保守支援装置1における画像解析部11で抽出された工場設備の稼働状況を示す情報及び識別情報は、クラウドサーバ、製造セルの上位にあるセルコントローラ、あるいはセルコントローラのさらに上位にある生産管理装置で共有することができる。また例えば、クラウドサーバ、セルコントローラもしくは生産管理装置上に、保守支援装置1のデータ記憶部12、データ解析部13及び表示制御部14を設けてもよく、あるいは、これらと画像解析部11を含めて設けてもよい。このようにネットワーク化されることで、複数の頭部装着型表示装置2から送られてきた現実画像に基づいて拡張現実画像が生成され、表示制御部14により複数の頭部装着型表示装置2の表示部21に拡張現実画像を表示させることができる。
製造セルは、製品を製造する複数の工作機械及びロボットをフレキシブルに組合せた集合である。製造セルは、例えば複数個もしくは複数種類の工作機械及びロボットにより構築されているが、製造セルにおける工作機械及びロボットの個数は限定されない。例えば、製造セルは、あるワークが複数の工作機械及びロボットにより順次に処理されることによって最終的な製品となる製造ラインでありうる。また例えば、製造セルは、2つ以上の工作機械及びロボットの各々により処理された2つ以上の工作物(部品)を製造工程の途中で別の工作機械によって組み合せることにより最終的な工作物(製品)を完成させる製造ラインであってもよい。また例えば、2つ以上の製造セルにより処理された2つ以上の工作物を組み合せることにより、最終的な工作物(製品)を完成させてもよい。製造セルとセルコントローラとは、例えばイントラネットなどのような通信ネットワークを介して通信可能に相互接続される。製造セルは、製品を製造する工場に配置されている。これに対して、セルコントローラは、製造セルが配置された工場に配置されてもよく、あるいは工場とは異なる建屋に配置されてもよい。例えば、セルコントローラは、製造セルが配置された工場の敷地にある別の建屋に配置されていてもよい。
また、セルコントローラの上位には生産管理装置が設けられる。生産管理装置は、セルコントローラと相互通信可能に接続され、セルコントローラに生産計画を指示する。生産管理装置は、例えば、工場から遠隔地にある事務所に配置されていてもよい。この場合には、セルコントローラと生産管理装置とは、例えばインターネットの通信ネットワークを介して通信可能に相互接続される。
図4は、一実施形態による保守支援装置及び保守支援システムの動作フローを示すフローチャートである。
頭部装着型表示装置2を装着した作業者が工場設備の前に立って作業する際、頭部装着型表示装置2の表示部21を通じて工場設備の様子が作業者の視野に入る。頭部装着型表示装置2の撮像部22は、このときの現実のシーンを撮像して現実画像を取得する(S101)。
ステップS102において、頭部装着型表示装置2の通信部23は、撮像部22が取得した現実画像を、保守支援装置1の通信部15へ送信する。また、位置情報取得部25が取得した頭部装着型表示装置2の位置情報も、現実画像と併せて保守支援装置1の通信部15へ送信される。
保守支援装置1の通信部15が現実画像を受信すると、ステップS103において、画像解析部11は、現実画像を画像解析することにより、工場設備の稼働状況及び識別情報を示す情報を抽出する。複数の工場設備が現実画像に写っている場合には、画像解析部11は、工場設備ごとに、当該工場設備の稼働状況を示す情報及び識別情報を抽出する。
続くステップS104において、データ記憶部12は、画像解析部11により抽出された稼働状況を示す情報を、当該稼働状況を示す情報に対応する工場設備の識別情報と関連付けて記憶し、データベース化する。その際、データ記憶部12は、位置情報取得部25が取得した(頭部装着型表示装置2すなわち作業者の位置を示す)位置情報や画像解析部11が画像解析処理を行った日時もしくはデータ記憶部12がデータを記憶した日時)を、工場設備の稼働状況を示す情報及び識別情報と関連付けて記憶してもよい。
ステップS105では、データ解析部13は、データ記憶部12に記憶された工場設備の稼働状況を示す情報と識別情報とに基づいて、当該工場設備の異常発生の有無を判定する。データ解析部13による異常判定処理は、工場設備の識別情報に基づいて、工場設備ごとに実行される。データ解析部13により異常発生した工場設備が有ったと判定されるとステップS106へ進む。データ解析部13が工場設備の異常発生は無しと判定した場合はステップS101へ戻る。
ステップS106では、データ解析部13により異常発生と判定された工場設備に対する保守情報を示す付加画像を、現実のシーンに重畳した拡張現実画像を作成する。
表示制御部14により生成された拡張現実画像は、ステップS107において、通信部15を及び頭部装着型表示装置2の通信部23を介して頭部装着型表示装置2の表示部21へ送られる。
ステップS108では、表示部21は、受信した拡張現実画像を、頭部装着型表示装置2を装着した作業者の視野に表示する。
続いて、保守支援装置1及び頭部装着型表示装置2による処理の具体例について、図5〜図10を参照していくつか説明する。
図5は、ロボットと工作機械との組合せからなる自動化加工システムに、一実施形態による保守支援システムを適用した場合を例示する図であり、図6は、図5に示す作業者が頭部装着型表示装置を通じて見る拡張現実画像を示す図である。自動化加工システム1000は、ロボット1200と工作機械1100A及び1101Bとの組合せで構成される。
ロボット1200は、作業ツール1202を有し、ロボット接続ケーブル1210によって接続されたロボット制御装置1207によって制御される。ロボット制御装置1207は、走行軸接続ケーブル1211を介して走行軸1203と接続されており、ロボット制御装置1207の制御により走行軸1203を動作させることでロボット1200を移動させることができる。また、ロボット制御装置1207は、仮置き台接続ケーブル1213を介して仮置き台1204と接続されている。仮置き台1204はワーク仮置き場所1204a及び1204bを有する。ロボット制御装置1207並びに工作機械1100A及び1101Bは、ネットワークケーブル1209を介して互いに接続されている。参照符号P1、P2、P3及びP4はパレットを示す。参照符号W1は工作機械1100Aで加工されるワークを示し、参照符号W2は工作機械1100Bで加工されるワークを示す。
例えば、パレットP1上のワークW1は工作機械1100Aで加工する場合を考える。まず、走行軸1203が動作することでロボット1200がパレットP1に近づき、パレットP1上のワークW1を作業ツール1202で把持して仮置き台1204のワーク仮置き場所1204aに仮置きし、次いで、作業ツール1202を用いて工作機械1100Aから加工済みのワークを取り出してワーク仮置き場所4bに仮置きする。そして、仮置き台1204のワーク仮置き場所1204aに仮置きしていたワークW1を作業ツール1202で把持して工作機械1100Aに取り付け、次いで、仮置き台1204のワーク仮置き場所1204bに仮置きしていた加工済みワークを作業ツール1202で把持してパレットP3の上に置く。ロボット1200は上記一連の作業をロボット制御装置1207の制御により繰り返し実行する。同様に、パレットP2上のワークW2は、ロボット1200の一連の動作で工作機械1100Bに取り付けられ、加工後はロボット1200の一連の動作で工作機械1100Bから取り出されてパレットP4上に置かれる。
工場内には上述のような自動化加工システム1000(製造セル)が複数並んでいるのが一般的である。頭部装着型表示装置2を装着した作業者が自動化加工システム1000の前に立って作業する際、頭部装着型表示装置2の表示部21を通じて自動化加工システム1000の様子が作業者の視野に入る。頭部装着型表示装置2の撮像部22は、このときの現実画像を取得し、画像解析部11は、この現実画像に基づいてロボット1200並びに工作機械1100A及び1100Bの稼働状況を示す情報及び識別情報を抽出する。データ記憶部12は、画像解析部11により抽出されたロボット1200並びに工作機械1100A及び1100Bの稼働状況を示す情報を、それぞれの識別情報と関連付けて記憶し、データベース化する。データ解析部13は、データ記憶部12に記憶されたロボット1200並びに工作機械1100A及び1100Bの稼働状況を示す情報と識別情報とに基づいて、ロボット1200並びに工作機械1100A及び1100Bに異常発生したものが有るか判定する。例えば、データ解析部13により工作機械1100Aに異常発生が発生したと判定された場合、表示制御部14は、異常発生が発生した工作機械1100Aに対する保守情報として例えば「異常発生! 退避操作をしてください」を示す付加画像を現実のシーンに重畳した拡張現実画像を、頭部装着型表示装置2の表示部21に表示させる制御を行う。表示制御部14の制御により、図6に示すように、表示部21は、頭部装着型表示装置2を装着した作業者の視野に拡張現実画像21−1を表示する。
図7は、ロボット制御装置の外観を例示する図であって、(A)はロボット制御装置の正面を示す斜視図であり、(B)はロボット制御装置の操作パネルを示す拡大図である。図7(A)に示すように、ロボット制御装置1500は、操作パネル1501、ブレーカ1502、USBポート1503、教示操作盤1504、及び鍵1505を備える。教示操作盤1504には、ロボットの識別情報を印刷したシール1506が貼られている。図7(B)に示すように、操作パネル1501は、スタートボタン1511、アラーム解除ボタン1512、アラームランプ1513、電源ランプ1514、非常停止ボタン1515、モードスイッチ1516、及びアワーメータ1517を備える。操作パネル1501には、ロボットの識別情報を印刷したシール1518が貼られている。アワーメータ1517はロボットの稼働時間をカウントしているメータである。ロボットの動作させる際は、作業者は、モードスイッチ1516を操作することによって、例えば、ロボットの各軸操作を行って教示ポイントを記録するモード、ロボットを動作させて教示ポイントを確認するためのモード、あるいはロボットに生産作業を行わせるモードに切り替える。作業者によるモードスイッチ1516の操作は頻繁に行われるものであり、その際、アワーメータ1517及びロボットの識別情報を印刷したシール1518も作業者の視野に入る。作業者が装着した頭部装着型表示装置2の撮像部22は、このときの現実画像を取得し、画像解析部11は、この現実画像に基づいてロボットの稼働状況を示す情報(アワーメータ1517の値)及び識別情報を抽出する。データ記憶部12は、画像解析部11により抽出されたロボットの稼働状況を示す情報(アワーメータ1517の値)をロボットの識別情報と関連付けて記憶し、データベース化する。データ解析部13は、データ記憶部12に記憶されたロボットの稼働状況を示す情報(アワーメータ1517の値)と識別情報とに基づいて、ロボットの異常発生の有無を判定する。データ解析部13によりロボットに異常が発生したと判定された場合、表示制御部14は、異常発生が発生したロボットに対する保守情報を示す付加画像を現実のシーンに重畳した拡張現実画像を、頭部装着型表示装置2の表示部21に表示させる制御を行う。表示部21は、表示制御部14の制御により、頭部装着型表示装置2を装着した作業者の視野に拡張現実画像を表示する。
図8は、教示操作盤の外観を例示する斜視図であって、(A)は教示操作盤の正面を示し、(B)は教示操作盤の背面を示す。教示操作盤1504は、ディスプレイ1601、操作キー1602、有効/無効スイッチ1603、非常停止ボタン1604、USBポート1605、及びデッドマンスイッチ1606を備える。教示操作盤1504には、ロボットの識別情報を印刷したシール1506が貼られている。ロボットを教示させる際は、作業者は、教示操作盤1504の操作キー1602を操作する。その際、ディスプレイ1601及びロボットの識別情報を印刷したシール1506も作業者の視野に入る。作業者が装着した頭部装着型表示装置2の撮像部22は、このときの現実画像を取得し、画像解析部11は、この現実画像に基づいてロボットの稼働状況を示す情報(例えば、ディスプレイ1601に表示された教示内容)及び識別情報を抽出する。データ記憶部12は、画像解析部11により抽出されたロボットの稼働状況を示す情報をロボットの識別情報と関連付けて記憶し、データベース化する。データ解析部13は、データ記憶部12に記憶されたロボットの稼働状況を示す情報と識別情報とに基づいて、ロボットの異常発生の有無(例えば、教示内容のエラー)を判定する。データ解析部13によりロボットに異常が発生したと判定された場合、表示制御部14は、異常発生が発生したロボットに対する保守情報を示す付加画像を現実のシーンに重畳した拡張現実画像を、頭部装着型表示装置2の表示部21に表示させる制御を行う。表示部21は、表示制御部14の制御により、頭部装着型表示装置2を装着した作業者の視野に拡張現実画像を表示する。
図9は、工作機械の外観を例示する図であって、(A)は工作機械の正面図であり、(B)は工作機械の操作パネルを示す拡大図である。また、図10は、図9の操作パネルのディスプレイに表示される画面を例示する図である。図9(A)に示すように、工作機械1100は、操作パネル1101及びドア1102を備える。ワークの加工中はドア1102が閉められ、ワークのある加工室と外部とが分離される。ワークを出し入れの際はドア1102を開けて行われる。作業者は操作パネル1101を使って工作機械1100を操作する。図9(B)に示すように、操作パネル1101は、ディスプレイ1111、操作キー1112、起動/停止ボタン1113、アラームランプ1114、電源ボタン1115、及び非常停止ボタン1116を備える。操作パネル1101には、ロボットの識別情報を印刷したシール1117が貼られている。ディスプレイ1111には例えば図10に示すような画面が表示され、作業者はこの場面を見ることで、例えば工作機械1100の機械軸の現在値、動作中の加工プログラム番号、行番号、速度、加工部品数、運転時間、サイクルタイムを確認することができる。作業者は、操作パネル1101のディスプレイ1111を見ながら操作キー1112を操作する。その際、操作パネル1101のディスプレイ1111、アラームランプ1114及び工作機械1100の識別情報を印刷したシール1113が作業者の視野に入る。作業者が装着した頭部装着型表示装置2の撮像部22は、このときの現実画像を取得し、画像解析部11は、この現実画像に基づいて工作機械1100の稼働状況を示す情報及び識別情報を抽出する。工作機械1100の稼働状況を示す情報としては、ディスプレイ1111に表示される機械軸の現在値、動作中の加工プログラム番号、行番号、速度、加工部品数、運転時間、及びサイクルタイムなど、並びにアラームランプ1114の点灯状態などがある。データ記憶部12は、画像解析部11により抽出された工作機械1100の稼働状況を示す情報を工作機械1100の識別情報と関連付けて記憶し、データベース化する。データ解析部13は、データ記憶部12に記憶された工作機械1100の稼働状況を示す情報と識別情報とに基づいて、工作機械1100の異常発生の有無を判定する。データ解析部13により工作機械1100に異常が発生した判定された場合、表示制御部14は、異常発生が発生した工作機械1100に対する保守情報を示す付加画像を現実のシーンに重畳した拡張現実画像を、頭部装着型表示装置2の表示部21に表示させる制御を行う。表示部21は、表示制御部14の制御により、頭部装着型表示装置2を装着した作業者の視野に拡張現実画像を表示する。
以上説明したように、本開示の一態様によれば、工場設備の保守に必要な情報を作業者に負担をかけずに容易に収集し、作業者の保守作業を支援することができる低コストの保守支援装置及び保守支援システムを実現することができる。
1 保守支援装置
2 頭部装着型表示装置
11 画像解析部
12 データ記憶部
13 データ解析部
14 表示制御部
15 通信部
16 バス
21 表示部
22 撮像部
23 通信部
24 装着部
25 位置情報取得部
100 保守支援システム
1000 自動化加工システム
1100、1100A、1100B 工作機械
1101 操作パネル
1102 ドア
1111 ディスプレイ
1112 操作キー
1113 起動/停止ボタン
1114 アラームランプ
1115 電源ボタン
1116 非常停止ボタン
1117 シール
1200 ロボット
1202 作業ツール
1203 走行軸
1204 仮置き台
1204a、1204b ワーク仮置き場所
1207 ロボット制御装置
1209 ネットワークケーブル
1210 ロボット接続ケーブル
1211 走行軸接続ケーブル
1213 仮置き台接続ケーブル
1500 ロボット制御装置
1501 操作パネル
1502 ブレーカ
1503 USBポート
1504 教示操作盤
1505 鍵
1506 シール
1511 スタートボタン
1512 アラーム解除ボタン
1513 アラームランプ
1514 電源ランプ
1515 非常停止ボタン
1516 モードスイッチ
1517 アワーメータ
1518 シール
1601 ディスプレイ
1602 操作キー
1603 有効/無効スイッチ
1604 非常停止ボタン
1605 USBポート
1606 デッドマンスイッチ
2101 数値制御装置
2201 ロボット制御装置
P1、P2、P3、P4 パレット
W1、W2 ワーク

Claims (10)

  1. 現実のシーンに付加画像が重畳された拡張現実画像を表示する表示部と現実のシーンを撮像して現実画像を取得する撮像部とを有する頭部装着型表示装置の、撮像部が取得した現実画像に基づいて、工場設備の稼働状況を示す情報を抽出する画像解析部と、
    前記画像解析部により抽出された前記稼働状況を示す情報を記憶するデータ記憶部と、
    前記データ記憶部に記憶された前記稼働状況を示す情報に基づいて、工場設備の異常発生の有無を判定するデータ解析部と、
    現実のシーンに前記データ解析部により異常発生と判定された工場設備に対する保守情報を示す付加画像を重畳した拡張現実画像を、頭部装着型表示装置の表示部に表示させる表示制御部と、
    を備える、保守支援装置。
  2. 前記画像解析部は、頭部装着型表示装置の撮像部が取得した現実画像に基づいて、前記稼働状況を示す情報に対応する工場設備の識別情報を抽出し、
    前記データ記憶部は、前記画像解析部により抽出された前記稼働状況を示す情報と前記識別情報とを関連付けて記憶し、
    前記データ解析部は、前記データ記憶部に記憶された前記稼働状況を示す情報と前記識別情報とに基づいて、当該識別情報に係る工場設備の異常発生の有無を判定する、請求項1に記載の保守支援装置。
  3. 前記表示制御部は、現実のシーン上の前記異常発生と判定された工場設備の近傍に前記保守情報を示す付加画像を重畳した拡張現実画像を、頭部装着型表示装置の表示部に表示させる、請求項1または2に記載の保守支援装置。
  4. 前記画像解析部は、前記稼働状況を示す情報を、頭部装着型表示装置の撮像部が取得した現実画像に写った前記工場設備に設けられた表示機器による表示物から抽出する、請求項1〜3のいずれか一項に記載の保守支援装置。
  5. 前記工場設備は、製造機械である、請求項1〜4のいずれか一項に記載の保守支援装置。
  6. 前記工場設備は、工場に設けられた備品である、請求項1〜4のいずれか一項に記載の保守支援装置。
  7. 現実のシーンに付加画像が重畳された拡張現実画像を表示する表示部と、現実のシーンを撮像して現実画像を取得する撮像部と、周辺機器と通信する通信部と、ユーザに対して着脱自在に取り付けるための装着部と、を有する頭部装着型表示装置と、
    請求項1〜6のいずれか一項に記載の保守支援装置と、
    を備える、保守支援システム。
  8. 前記頭部装着型表示装置は、全地球測位システムを用いて前記頭部装着型表示装置の位置情報を取得する位置情報取得部をさらに有する、請求項7に記載の保守支援システム。
  9. 前記表示部は、透過表示された現実のシーンに付加画像が重畳された拡張現実画像を表示する、請求項7または8に記載の保守支援システム。
  10. 前記表示部は、前記撮像部が取得した現実画像に付加画像が重畳された拡張現実画像を表示する、請求項7または8に記載の保守支援システム。
JP2017084281A 2017-04-21 2017-04-21 工場設備の保守支援装置及び保守支援システム Active JP6845072B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017084281A JP6845072B2 (ja) 2017-04-21 2017-04-21 工場設備の保守支援装置及び保守支援システム
DE102018108902.3A DE102018108902A1 (de) 2017-04-21 2018-04-16 Wartungsunterstützungsvorrichtung und Wartungsunterstützungssystem für eine Werkseinrichtung
US15/953,712 US10838211B2 (en) 2017-04-21 2018-04-16 Maintenance support device and maintenance support system for factory equipment
CN201810355970.1A CN108732756B (zh) 2017-04-21 2018-04-19 工厂设备的维护辅助装置以及维护辅助系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017084281A JP6845072B2 (ja) 2017-04-21 2017-04-21 工場設備の保守支援装置及び保守支援システム

Publications (2)

Publication Number Publication Date
JP2018181232A true JP2018181232A (ja) 2018-11-15
JP6845072B2 JP6845072B2 (ja) 2021-03-17

Family

ID=63714929

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017084281A Active JP6845072B2 (ja) 2017-04-21 2017-04-21 工場設備の保守支援装置及び保守支援システム

Country Status (4)

Country Link
US (1) US10838211B2 (ja)
JP (1) JP6845072B2 (ja)
CN (1) CN108732756B (ja)
DE (1) DE102018108902A1 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020137000A (ja) * 2019-02-22 2020-08-31 株式会社日立製作所 映像記録装置およびヘッドマウントディスプレイ
JP2020131361A (ja) * 2019-02-20 2020-08-31 ファナック株式会社 産業用機械の保守・診断システム
EP3702978A2 (en) 2019-02-28 2020-09-02 Seiko Epson Corporation Maintenance support system and terminal used in the same
JP2020166040A (ja) * 2019-03-28 2020-10-08 ファナック株式会社 制御システム
JP2020197836A (ja) * 2019-05-31 2020-12-10 ファナック株式会社 産業用機械のデータ収集確認装置
JP2021044416A (ja) * 2019-09-12 2021-03-18 株式会社Fuji 作業支援システム
WO2021106812A1 (ja) * 2019-11-25 2021-06-03 株式会社NejiLaw 個体識別システム
KR20210111955A (ko) 2020-03-03 2021-09-14 주식회사 코아소프트 증강현실을 이용한 원격지원 장치
JP2022037326A (ja) * 2020-08-25 2022-03-09 株式会社オプティム プログラム、方法、及びシステム
JP7051013B1 (ja) * 2021-01-08 2022-04-08 三菱電機株式会社 保守サポートシステムおよび保守サポート方法
US11536961B2 (en) 2019-08-30 2022-12-27 Fujifilm Business Innovation Corp. Process display system, display terminal, process management apparatus, and non-transitory computer readable medium
US11657610B2 (en) 2019-12-26 2023-05-23 Fanuc Corporation I/O signal information display system
JP7416673B2 (ja) 2020-08-04 2024-01-17 東京瓦斯株式会社 移動支援装置

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ITUB20154627A1 (it) * 2015-10-13 2017-04-13 Sematic S P A Procedimento per effettuare una manutenzione di un dispositivo elettromeccanico
JP6943672B2 (ja) * 2017-08-04 2021-10-06 株式会社ディスコ 加工装置の情報伝達機構
US20190138967A1 (en) * 2017-11-03 2019-05-09 Drishti Technologies, Inc. Workspace actor coordination systems and methods
US11481999B2 (en) * 2018-11-13 2022-10-25 Kabushiki Kaisha Toshiba Maintenance work support system and maintenance work support method
JP7363032B2 (ja) * 2019-01-10 2023-10-18 オムロン株式会社 情報管理装置、及び情報管理方法
CN109886191A (zh) * 2019-02-20 2019-06-14 上海昊沧系统控制技术有限责任公司 一种基于ar的识别物管理方法及系统
JP7456094B2 (ja) 2019-04-05 2024-03-27 村田機械株式会社 保守方法、及び、保守サーバ
CN110136268B (zh) * 2019-04-26 2023-12-05 广东电网有限责任公司广州供电局 电缆附件制作指引系统及方法
CN110405775A (zh) * 2019-05-07 2019-11-05 中国地质大学(武汉) 一种基于增强现实技术的机器人示教系统及方法
CN110335258A (zh) * 2019-06-21 2019-10-15 上海翊视皓瞳信息科技有限公司 一种基于穿戴设备的质检方法及其系统
EP4115263A1 (en) * 2020-03-06 2023-01-11 Sandvik Ltd Computer enhanced maintenance system
TWI725911B (zh) * 2020-08-26 2021-04-21 國立臺灣師範大學 桌遊教具
US11544343B1 (en) * 2020-10-16 2023-01-03 Splunk Inc. Codeless anchor generation for detectable features in an environment
US20220309753A1 (en) * 2021-03-25 2022-09-29 B/E Aerospace, Inc. Virtual reality to assign operation sequencing on an assembly line
CN117203601A (zh) * 2021-04-14 2023-12-08 朗姆研究公司 在混合现实环境中的半导体制造设备的控制

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012046726A1 (ja) * 2010-10-05 2012-04-12 新日本製鐵株式会社 点検支援装置、点検支援システム、点検支援方法、及び点検支援プログラム
JP2014026590A (ja) * 2012-07-30 2014-02-06 Yokohama National Univ 画像合成装置、画像合成システム、画像合成方法およびプログラム
JP2014235704A (ja) * 2013-06-05 2014-12-15 富士機械製造株式会社 基板生産支援システム
US20160247324A1 (en) * 2015-02-25 2016-08-25 Brian Mullins Augmented reality content creation
JP2017049762A (ja) * 2015-09-01 2017-03-09 株式会社東芝 システム及び方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001250185A (ja) 2000-03-07 2001-09-14 Toko Electric Corp 自動検針装置
JP2001349789A (ja) 2000-06-07 2001-12-21 Maruman Computer Service Kk データ入力装置、撮影補助装置、方法、及び媒体
JP5251813B2 (ja) 2009-09-28 2013-07-31 ブラザー工業株式会社 作業支援システム、ヘッドマウントディスプレイ及びプログラム
EP2967324B1 (en) 2013-03-15 2021-09-08 Percept Technologies, Inc. Enhanced optical and perceptual digital eyewear
JP2016173760A (ja) 2015-03-17 2016-09-29 富士電機株式会社 数値認識装置、数値認識方法および数値認識プログラム
US10372120B2 (en) * 2016-10-06 2019-08-06 General Electric Company Multi-layer anomaly detection framework

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012046726A1 (ja) * 2010-10-05 2012-04-12 新日本製鐵株式会社 点検支援装置、点検支援システム、点検支援方法、及び点検支援プログラム
JP2014026590A (ja) * 2012-07-30 2014-02-06 Yokohama National Univ 画像合成装置、画像合成システム、画像合成方法およびプログラム
JP2014235704A (ja) * 2013-06-05 2014-12-15 富士機械製造株式会社 基板生産支援システム
US20160247324A1 (en) * 2015-02-25 2016-08-25 Brian Mullins Augmented reality content creation
JP2017049762A (ja) * 2015-09-01 2017-03-09 株式会社東芝 システム及び方法

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020131361A (ja) * 2019-02-20 2020-08-31 ファナック株式会社 産業用機械の保守・診断システム
JP7391518B2 (ja) 2019-02-20 2023-12-05 ファナック株式会社 産業用機械の保守・診断システム
JP2020137000A (ja) * 2019-02-22 2020-08-31 株式会社日立製作所 映像記録装置およびヘッドマウントディスプレイ
JP7058621B2 (ja) 2019-02-22 2022-04-22 株式会社日立製作所 映像記録装置およびヘッドマウントディスプレイ
US11474521B2 (en) 2019-02-28 2022-10-18 Seiko Epson Corporation Maintenance support system and terminal used in the same
EP3702978A2 (en) 2019-02-28 2020-09-02 Seiko Epson Corporation Maintenance support system and terminal used in the same
JP2020166040A (ja) * 2019-03-28 2020-10-08 ファナック株式会社 制御システム
JP6997129B2 (ja) 2019-03-28 2022-01-17 ファナック株式会社 制御システム
US11480940B2 (en) 2019-03-28 2022-10-25 Fanuc Corporation Control system
JP2020197836A (ja) * 2019-05-31 2020-12-10 ファナック株式会社 産業用機械のデータ収集確認装置
JP7379949B2 (ja) 2019-08-30 2023-11-15 富士フイルムビジネスイノベーション株式会社 工程表示システム、表示端末、工程管理装置、及び工程表示プログラム
US11536961B2 (en) 2019-08-30 2022-12-27 Fujifilm Business Innovation Corp. Process display system, display terminal, process management apparatus, and non-transitory computer readable medium
JP2021044416A (ja) * 2019-09-12 2021-03-18 株式会社Fuji 作業支援システム
JP7261707B2 (ja) 2019-09-12 2023-04-20 株式会社Fuji 作業支援システム
WO2021106812A1 (ja) * 2019-11-25 2021-06-03 株式会社NejiLaw 個体識別システム
US11657610B2 (en) 2019-12-26 2023-05-23 Fanuc Corporation I/O signal information display system
JP7424825B2 (ja) 2019-12-26 2024-01-30 ファナック株式会社 I/o信号情報表示システム
KR20210111955A (ko) 2020-03-03 2021-09-14 주식회사 코아소프트 증강현실을 이용한 원격지원 장치
JP7416673B2 (ja) 2020-08-04 2024-01-17 東京瓦斯株式会社 移動支援装置
JP2022037326A (ja) * 2020-08-25 2022-03-09 株式会社オプティム プログラム、方法、及びシステム
WO2022149279A1 (ja) * 2021-01-08 2022-07-14 三菱電機株式会社 保守サポートシステムおよび保守サポート方法
JP7051013B1 (ja) * 2021-01-08 2022-04-08 三菱電機株式会社 保守サポートシステムおよび保守サポート方法
US11892822B2 (en) 2021-01-08 2024-02-06 Mitsubishi Electric Corporation Maintenance support system, maintenance support method and maintenance management server

Also Published As

Publication number Publication date
JP6845072B2 (ja) 2021-03-17
CN108732756B (zh) 2021-11-09
DE102018108902A1 (de) 2018-10-25
US10838211B2 (en) 2020-11-17
US20180307045A1 (en) 2018-10-25
CN108732756A (zh) 2018-11-02

Similar Documents

Publication Publication Date Title
JP6845072B2 (ja) 工場設備の保守支援装置及び保守支援システム
CN106340217B (zh) 基于增强现实技术的制造装备智能系统及其实现方法
CN110212451B (zh) 一种电力ar智能巡检装置
JP7074965B2 (ja) 金属処理産業における内部個人位置特定に基づく製造制御
US9959578B2 (en) Work management system and work management method
CN111176245A (zh) 基于数字孪生技术的多终端工业设备巡检监控系统及方法
JP2014211763A5 (ja)
EP3140704A1 (en) Automation management interface
WO2020215475A1 (zh) 一种监控设备内部运行情况的方法及装置
US11328623B2 (en) System and method for using wearable technology in manufacturing and maintenance
CN111417962A (zh) 设备管理系统
JP2012022602A (ja) 作業改善分析システム
KR20150083480A (ko) 3차원 입체 영상을 활용한, 설비 통합 관리 시스템
US20180099413A1 (en) Robot system and maintenance method for tracking information of module
NO20180028A1 (en) Integration of heads up display with data processing
CN115168928A (zh) 一种机床的智能视窗系统和构建方法
CN213457742U (zh) 一种焊接作业监控系统
JP6816077B2 (ja) 誘導情報提示装置、誘導情報提示サーバ、誘導情報提示システム、誘導情報提示方法及びプログラム
CN112666911A (zh) 协同控制系统
JP7406038B1 (ja) 作業支援システム及び作業支援方法
US11681357B2 (en) Systems, devices, and methods for performing augmented reality responsive to monitoring user behavior
WO2022113911A1 (ja) 支援装置及び機械システム
CN107688887A (zh) 一种针对工厂工作人员在机器故障时的管理系统及使用方法
CN117252439A (zh) 除尘车间工作数据管理方法、装置、介质、设备及系统
CN115291574A (zh) 一种运行控制方法、装置、设备及可读存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180618

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180829

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20181015

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190325

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190416

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190524

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190611

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190902

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20190902

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190910

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20190917

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20191011

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20191029

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20200218

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20200407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200603

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20200929

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20201029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201126

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20201215

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210126

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210225

R150 Certificate of patent or registration of utility model

Ref document number: 6845072

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150