JP6224873B1 - 情報処理システム、情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理システム、情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP6224873B1
JP6224873B1 JP2017531414A JP2017531414A JP6224873B1 JP 6224873 B1 JP6224873 B1 JP 6224873B1 JP 2017531414 A JP2017531414 A JP 2017531414A JP 2017531414 A JP2017531414 A JP 2017531414A JP 6224873 B1 JP6224873 B1 JP 6224873B1
Authority
JP
Japan
Prior art keywords
work
information processing
standard data
difference
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017531414A
Other languages
English (en)
Other versions
JPWO2017150293A1 (ja
Inventor
和佳 井上
和佳 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NS Solutions Corp
Original Assignee
NS Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NS Solutions Corp filed Critical NS Solutions Corp
Application granted granted Critical
Publication of JP6224873B1 publication Critical patent/JP6224873B1/ja
Publication of JPWO2017150293A1 publication Critical patent/JPWO2017150293A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/24Use of tools
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/003Repetitive work cycles; Sequence of movements
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/0069Engineering, e.g. mechanical, electrical design
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/02Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Theoretical Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Manufacturing & Machinery (AREA)
  • Quality & Reliability (AREA)
  • Automation & Control Theory (AREA)
  • General Factory Administration (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

作業の登録された標準データを取得する標準データ取得手段と、作業を行う作業者の作業データを取得する作業データ取得手段と、標準データ取得手段により取得された標準データと作業データ取得手段により取得された作業データとの差異が閾値以上か否かを判定する判定手段と、判定手段により差異が閾値以上であると判定された場合、差異に応じて、作業の修正に関する指示画像を生成する生成手段と、生成手段により生成された指示画像を作業者が装着している表示装置の表示部に表示することで、現実空間に指示画像を重畳して表示する表示手段と、を有することによって課題を解決する。

Description

本発明は、作業場における作業に関して指示画像を重畳表示する情報処理システム、情報処理装置、情報処理方法及びプログラムに関する。
特許文献1には、標準作業情報及びワークの状態に基づいて作業者の行う作業を評価する技術が開示されている。
特開2005−242418号公報
しかし、特許文献1記載の技術では、作業者が、標準データと異なる動作を行っていることを作業者に伝え、作業の修正を指示することはできない課題があった。
また、いわゆる団塊の世代の退職により熟練作業者の技能を多くの後輩の作業者に分かりやすく正しく伝承させていきたいという課題がある。また、グローバル化に伴い、日本国内で行っていた作業を、作業の品質を落とさず、海外の作業者に行わせたいという課題もある。
本発明は、作業者に作業の修正指示を速やかに伝えると共に熟練作業者の技能を後輩の作業者に適切に伝えることを目的とする。
そこで、本発明の情報処理システムは、作業の登録された標準データを取得する標準データ取得手段と、前記作業を行う作業者の作業データを取得する作業データ取得手段と、前記標準データ取得手段により取得された前記標準データと前記作業データ取得手段により取得された前記作業データとの差異が閾値以上か否かを判定する判定手段と、前記判定手段により前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成手段と、前記生成手段により生成された前記指示画像を前記作業者が装着している表示装置の表示部に表示することで、現実空間に前記指示画像を重畳して表示する表示手段と、を有する。
本発明によれば、作業者に作業の修正指示を速やかに伝えると共に熟練作業者の技能を後輩の作業者に適切に伝えることができる。
図1は、情報処理システムのシステム構成の一例を示す図である。 図2は、表示装置のハードウェア構成の一例を示す図である。 図3は、情報処理装置のハードウェア構成の一例を示す図である。 図4は、標準データテーブルの一例を示す図である。 図5は、情報処理システムの指示画像を表示する情報処理の一例を示すシーケンス図である。 図6は、標準データのうち、歩行動線の一例を示す図である。 図7は、標準データの再登録に係る情報処理の一例を示すフローチャートである。
以下、本発明の実施形態について図面に基づいて説明する。
図1は、情報処理システムのシステム構成の一例を示す図である。図1に示されるように、情報処理システムは、システム構成として、表示装置600と、情報処理装置601と、を含む。表示装置600と、情報処理装置601とは、ネットワーク等を介して通信可能に接続されている。図1の例では表示装置600のみが情報処理装置601と通信可能に接続されているが、複数の表示装置が情報処理装置601と通信可能に接続されていてもよい。情報処理装置601は、コンピュータの一例である。
表示装置600は、作業者が装着する眼鏡型の表示デバイスである。本実施形態においては、自動車のエンジンの組み立て作業、車体の組み立て作業等を行っている作業者が表示装置600を装着して作業を行うものとする。
表示装置600は、光透過型の表示装置であり、眼鏡のレンズ部分に相当する位置には、光透過型の表示部625が設けられている。表示装置600を装着した作業者は、表示装置600の表示部625を介して、現実空間において、視線の先に存在する物体を見ることができる。更に、表示部625には、情報処理装置601で生成された画像が表示されるので、表示装置600を装着した作業者は、表示部625を通して見ている現実空間に、情報処理装置601で生成された画像が重畳された状態、即ち拡張現実空間(AR空間)を認識することができる。
また、表示装置600には、表示部625に隣接する位置に撮像部627が設けられている。撮像部627は、表示装置600の装着者の視線方向と、撮像部627の撮像方向とが一致する関係になるように設置されているものとする。これにより、撮像部627は、表示装置600を装着する作業者がみている現実空間の作業の画像を撮像することができる。他の例として、撮像部627は、撮像方向と表示装置600の装着者の視線方向とが一定の関係になるように設定されていてもよい。但し、撮像部627は、表示装置600の必須の構成要素ではない。
情報処理装置601は、例えば、複数のモーションセンサを装着したベテランの作業員の作業に関する計測データを、前記複数のモーションセンサより取得し、計測データから3Dモデルのデータを生成し、作業の標準データとして登録する。また、情報処理装置601は、例えば、複数のモーションセンサを装着した作業員の作業に関する計測データを、前記複数のモーションセンサより取得し、計測データから3Dモデルのデータを生成し、作業データとして取得するようにしてもよい。
但し、このことは本実施形態を制限するものではない。情報処理装置601は、モーションキャプチャによるベテラン作業員の作業に関する計測データから3Dモデルのデータを生成し、標準データとして登録するようにしてもよい。また、情報処理装置601は、モーションキャプチャによる作業員の作業に関する計測データから3Dモデルのデータを生成し、作業データとして取得するようにしてもよい。
例えば、光学式のモーションキャプチャの場合、情報処理システムは、複数のカメラ等を含む。複数のカメラは、体に複数の反射マーカを付したベテラン作業員の作業を撮影し、反射マーカによる反射光より反射マーカの位置の三次元座標を求める。情報処理装置601は、複数の反射マーカの位置の三次元座標よりベテラン作業者の3Dモデルを生成し、ベテラン作業者の動作データを3Dモデルに反映させ、標準データとして登録するようにしてもよい。同様に、複数のカメラは、体に複数の反射マーカを付した作業員の作業を撮影し、反射マーカによる反射光より反射マーカの位置の三次元座標を求める。情報処理装置601は、複数の反射マーカの位置の三次元座標より作業者の3Dモデルを生成し、作業者の動作データを3Dモデルに反映させ、作業データとして取得するようにしてもよい。
情報処理装置601は、標準データと、取得した作業データと、の差異が閾値以上か否かを判定し、前記差異が閾値以上であると判定した場合、前記差異に応じて、前記作業の修正に関する指示画像を生成し、表示装置600に送信する。表示装置600は、情報処理装置601より指示画像を受信すると、表示部625に表示する。図1の例では、自動車のエンジンの組み立て作業における工具の当て方に関する指示画像614が表示装置600の表示部625に表示されている。
本実施形態の情報処理システムによれば、作業者にベテランの作業者との差異に基づく作業の修正指示を速やかに伝えると共に熟練作業者の作業に関する技能を後輩の作業者に適切に伝えることができる。
図2は、表示装置600のハードウェア構成の一例を示す図である。表示装置600は、ハードウェア構成として、CPU621と、ROM622と、RAM623と、通信I/F624と、表示部625と、マイク626と、撮像部627と、を有している。CPU621は、ROM622に記憶されたプログラムを読み出して各種処理を実行する。RAM623は、CPU621の主メモリ、ワークエリア等の一時記憶領域として用いられる。CPU621がROM622に格納されているプログラムを読み出し、このプログラムを実行することにより表示装置600の機能及びシーケンス図の表示装置600の処理が実現される。
通信I/F624は、ネットワークを介して、情報処理装置601との通信処理を行う。表示部625は、各種情報を表示する。マイク626は、表示装置600を装着した作業者の発話等の音声を入力する。なお、音声は、CPU621に送られ、CPU621において音声認識処理が行われる。CPU621は、音声認識の結果から、ユーザによる各種指示を受け付けることができる。撮像部627は、現実空間の撮影を行う。ROM622は、記憶媒体の一例である。
図3は、情報処理装置601のハードウェア構成の一例を示す図である。情報処理装置601は、CPU631と、ROM632と、RAM633と、通信I/F634と、表示部635と、入力部636と、HDD537と、を有している。CPU631、ROM632、RAM633及び通信I/F634は、それぞれCPU621、ROM622、RAM623及び通信I/F624と同様である。表示部635は、各種情報を表示する。入力部636は、キーボードやマウスを有し、ユーザによる各種操作を受け付ける。HDD537は、データや各種プログラム等を記憶する。CPU631がROM632又はHDD537に格納されているプログラムを読み出し、このプログラムを実行することにより情報処理装置601の機能及びシーケンス図の情報処理装置601の処理が実現される。ROM632、HDD637は、記憶媒体の一例である。
情報処理装置601がHDD637等に記憶しているデータについて図4を用いて説明する。但し、データを記憶する記憶先はHDD637に限られず、情報処理装置601が通信可能なネットワーク上のデータサーバ等であってもよい。
図4で示される標準データテーブルには、作業IDと、作業IDに対応する標準データと、が含まれる。作業とは、例えば、自動車のエンジンの組み立て作業、車体の組み立て作業等である。
図4では、標準データテーブルには、1つの作業IDに対して1つの標準データが登録されている。標準データの一例としては、例えば、上述したようなベテラン作業員の作業に関する計測データから生成された3Dモデルのデータである。
図5は、情報処理システムの指示画像を表示する情報処理の一例を示すシーケンス図である。
SC650において、表示装置600は、情報処理装置601に対して指示画像の取得要求を送信する。表示装置600は、表示装置600を装着した作業者の音声入力を介して作業者がこれから行おうとしている作業を特定してもよいし、表示装置ごとに予め作業が設定ファイル等に設定されている場合は、設定ファイルに設定されている作業を特定してもよい。前記指示画像の取得要求には、表示装置600が特定した作業を識別する作業IDが含まれる。SC650の取得要求は、例えば、作業を開始する際に送信される。
SC651において、情報処理装置601は、指示画像の取得要求に含まれる作業IDに基づいて、標準データテーブルより前記作業IDに対応する標準データを取得する。SC651は、標準データ取得の処理の一例である。
SC652において、情報処理装置601は、前記作業を行っている作業者の作業データを取得する。情報処理装置601は、前記作業者が装着したモーションセンサから取得した作業者の作業に関する計測データから3Dモデルのデータを生成し、作業データとして取得するようにしてもよいし、モーションキャプチャによる作業者の作業に関する計測データから3Dモデルのデータを生成し、作業データとして取得するようにしてもよい。但し、作業データや標準データは、3Dモデルのデータに限られる訳ではないが、以下では、説明の簡略化のため、3Dモデルを例に説明を行う。また、以下では、説明の簡略化のため、作業者やベテラン作業者の計測データは、モーションキャプチャにより取得するものとして説明を行う。SC652は、作業データ取得の処理の一例である。
SC653において、情報処理装置601は、前記取得した標準データと、前記取得した作業データと、の差異が閾値以上か否かを判定する。閾値は、例えば、HDD637等に記憶されている。情報処理装置601は、入力部636等を介した操作者の設定操作等に応じて、前記閾値を設定、又は変更することができる。
SC654において、情報処理装置601は、前記差異が閾値以上であると判定した場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する。例えば、情報処理装置601は、前記取得した標準データと、前記取得した作業データと、の差異に基づき、図1に示したように、指示画像を生成する。また、情報処理装置601は、前記作業に応じて、前記取得した標準データと、前記取得した作業データと、の比較のポイントとなる部分の差異に基づき、修正すべき指示画像を生成するようにしてもよい。例えば、作業が自動車のエンジンの組み立て作業の場合、SC653において、情報処理装置601は、作業者の腰の折れ具合、肘の曲がり具合、手首のひねり具合等の作業に応じて設定されているポイント部分を比較する。情報処理装置601は、各ポイント部分の差異が、閾値以上か否かを判定し、閾値以上の場合は、SC654において、差異に応じた指示画像を生成する。このような構成とする場合、作業の比較ポイントごとに閾値が例えば、HDD637等に記憶されている。情報処理装置601は、入力部636等を介した操作者の設定操作等に応じて、作業の比較ポイントごとの閾値を設定、又は変更することができる。
次に、自動車のエンジンの組み立て作業を例に説明を行う。自動車の組み立て作業の比較ポイントとして、作業者の立ち位置、姿勢、歩行動線が設定されているものとする。
SC653において、情報処理装置601は、前記作業が自動車の組み立て作業であるため、前記取得した標準データと、前記取得した作業データと、のうち、比較のポイントとして、作業者の立ち位置、姿勢、歩行動線の部分の差異がそれぞれの閾値以上か否かを判定する。情報処理装置601は、各ポイント部分の差異が、閾値以上か否かを判定し、閾値以上の場合は、SC654において、差異に応じた指示画像を生成する。ここで、図6は、標準データのうち、歩行動線の一例を示す図である。例えば、自動車の組み立て作業のうちの一の工程である「シート投入」において、シートを車内に投入するに際して使用する工具と車体との位置関係等に応じて、図6に示すような歩行動線に係る標準データが登録されていた場合、情報処理装置601は、実際の作業者の歩行動線と、標準データの歩行動線と、を比較し、差異が歩行動線に対して設定されている閾値より大きいか否かを判定する。前記差異が前記閾値より大きい場合、前記差異に応じて、情報処理装置601は、「左後ろにもう1歩下がった後に前に進んでシートを車内に投入して下さい!」等の指示画像を生成する。但し、指示画像はこれらに限定されるものではなく、情報処理装置601は、歩行動線に関する標準データの3Dモデルのデータに基づき、ベテラン作業員の作業が表示装置600の表示部625を介してAR(Augmented reality)画像として再現されるような指示画像を生成してもよい。本実施形態では、情報処理装置601は、作業者の歩行動線を、モーションキャプチャによる計測データから取得するものとしているが、これに限定されるものではない。情報処理装置601は、作業場に複数の無線アクセスポイントを設け、作業者が有する表示装置600との無線アクセスポイントとの無線通信の履歴により、作業者の歩行動線を取得してもよい。
SC655において、情報処理装置601は、生成した指示画像を取得要求元の表示装置600に送信する。表示装置600は、前記指示画像を受信する。
SC656において、表示装置600は、受信した指示画像を表示部625に表示する。
図7は、標準データの再登録に係る情報処理の一例を示すフローチャートである。
S660において、情報処理装置601は、モーションキャプチャによる熟練作業者の作業に関する計測データから3Dモデルのデータを生成し、標準データとしてHDD637等に登録する。
S661において、情報処理装置601は、S660で登録したデータが標準データとして適切か否かを評価する。例えば、情報処理装置601は、前記作業を行う複数の作業者のうち、図5のSC653で作業データと標準データとの差異が閾値以上であると判定された作業者の割合が設定値以上である場合、標準データとして適切でないと評価し、前記割合が設定された値未満である場合、標準データとして適切であると評価する。設定値は、例えば、HDD637等に記憶されている。情報処理装置601は、入力部636等を介した操作者の設定操作等に応じて、前記設定値を変更等することができる。
S662において、情報処理装置601は、S661での評価に基づき、標準データを再登録するか否かを判定する。情報処理装置601は、S661で標準データとして適切であると評価した場合、再登録は必要ないと判定し、図7に示すフローチャートの処理を終了する。一方、情報処理装置601は、S661で標準データとして適切でないと評価した場合、再登録が必要であると判定し、S663に進む。
S663において、情報処理装置601は、再度、モーションキャプチャ等による熟練作業者の作業に関する計測データから3Dモデルのデータを生成し、標準データとしてHDD637等に再登録する。この場合、S660で計測データを取得した熟練作業者とは異なる熟練作業者に作業をして貰い、情報処理装置601は、その計測データをから3Dモデルのデータを生成し、標準データとしてHDD637等に再登録するようにしてもよい。
図7に示すような情報処理を実行することによって、登録した標準データを評価し、適切でない場合は、標準データを再登録することができる。グローバル化に伴い、日本国内で行っていた作業を海外の従業者を使用して作業を行わせたい場合がある。しかし、習慣や体格等の違いから、例えば、国内の熟練作業者の作業に基づいて登録された標準データが必ずしも海外の従業者にとっても適切なデータであるとは限らない場合がある。このような場合にも、情報処理装置601が、図7に示すような情報処理を実行することによって、その国のその工場にあった標準データを登録、又は標準データを改善していき、製品等の品質や、熟練作業者の技能を適切に後輩の作業者に伝えていくことができる。
ところで、上述した例では比較的複雑な動作を要求される作業について3Dモデルを用いて動作を解析する構成について説明した。しかしながら、上述した例に限られず、より単純な作業についても適用できる。単純作業においては、一見、熟練の作業員と初心者の作業員とでそれほど動作に大差がないように見えるが、むしろ単純に見える作業においてこそ、作業中の動作のポイントを熟知した熟練の作業員と、経験の浅い初心者の作業員とでは、作業効率のみならず、怪我や疲労の蓄積の度合い等においても歴然とした差が現れる。
これは、熟練の作業員が長年の経験によって身に付けた作業のリズムや力の入れ具合・抜き具合等、勘やコツといったものが、経験の浅い作業員に備わっていないことに起因する。そして、上述した実施形態の処理によれば、熟練の作業員の勘やコツがウェアラブルセンサによる数値化されたデータに基づいて目に見える形で現れるため、経験の浅い作業員に対して、本来であれば長い年月を経てようやく身につけることができる勘やコツを客観的に伝達することができるようになるのである。したがって、上述した実施形態の処理によれば、経験の浅い作業員であっても短期間で熟練の作業員と同じように作業を行うことが可能となる。
ここでは、単純作業の例として、冷蔵庫の組立作業のうち、引出ドアの取り付け工程について説明する。本実施形態に係る引出ドアの取り付け工程は、引出ドアの取り付け前の冷蔵庫が間欠搬送型のベルトコンベアーで作業員の前に運ばれ、作業員の後方には引出ドアが山積みされており、(1)作業員は後ろを振り向いて引出ドアを手に取り、(2)それを冷蔵庫の所定のスペースに押し入れて取り付ける、という2段階の作業から構成されているものとする。
上記の(1)においては、振り向き角度がポイントとなる。振り向き角度が深過ぎると腰や背中への負担が大きく、長時間の作業を続けることができなかったり、怪我につながってしまったりすることもあり、一方、振り向き角度が浅過ぎると、引出をしっかり掴むことができず、振り向き直しが発生したり、中途半端に掴んでしまった引出を途中で落としてしまったりするため、適切な振り向き角度が要求される。
そこで、まず振り向き角度の標準データとして、例えば無線のモーションレコーダー(3軸加速度センサ及び3軸角速度センサ)を熟練の作業員の体の所定の位置に装着し、熟練の作業員が(1)の作業を行う場合における振り向き動作時の各部の回旋角度を測定しておく。なお、作業の動作をカメラで撮像し、画像解析により振り向き角度を計測することもできる。また、作業員の体型(身長や体重)は様々なので、体型の異なる複数の熟練作業員の振り向き角度を標準データとして用意しておいてもよい。
また、同様にして、経験の浅い初心者の作業員が(1)の作業を行う場合の振り向き角度を計測する。そして、情報処理装置601は、初心者の作業員の振り向き角度と、標準データの振り向き角度と比較する。このとき、比較対象の標準データとして、初心者の作業員の体型に最も近い体型の熟練作業員の振り向き角度を選択する構成であってもよい。
更に、情報処理装置601は、振り向き角度に応じて、初心者の作業員の作業の修正に関する指示画像を生成し、表示装置600に表示する。例えば、振り向き角度が不足している場合には、振り向き角度の過不足量に応じて大きさ、太さ、色を変化させた矢印を、振り向く方向(又は逆の方向)に向けて示してもよい。又は、過不足量ごとに予め「もう少しだけ振り向きましょう!」「振り向き過ぎです!」というようなメッセージを用意しておき、メッセージ画像のデータを読み出して(指示画像を生成して)、それを表示させてもよい。
なお、情報処理装置601は、振り向き角度を常に監視しておき、所定以上の角度を超える作業員の動き及び元の角度に戻る動きを検出した場合に、(1)の作業中であると判定し、上述したような標準データとの比較及び作業の修正に関する指示画像を表示する構成であってもよいし、例えば作業のシミュレーションを行うような場合には、作業員がピンマイクを装着しておき、作業の開始と終了の都度、例えば「振り向きスタート!」「振り向きOK!」というような音声を発し、その音声が情報処理装置601へ送られ、情報処理装置601は、その音声に基づいて(1)の作業中であると判定する構成であってもよい。
また、上記の(2)においては、立ち位置や姿勢が重要となる。引出ドアの取り付け作業を行う際は、庫内の取り付けスペースに対して真正面の位置から水平に引出を押しこむフォームが理想的である。立ち位置が左右にずれていたり、身の屈め具合が不足していたりすると、斜め方向から取り付けを行おうとすると、引出ドアを庫内のレールに上手く引っ掛けることができない。
そこで、立ち位置の標準データとして、熟練の作業員が(2)の動作を行う場合における立ち位置を計測しておく。例えば、例えばベルトコンベアーに等間隔にRFIDが設置されており、熟練の作業員に小型のリーダーを装着しておき、リーダーが読み取ったRFIDの信号の強度等に基づいて作業者の立ち位置を計測する構成であってもよい。又は、天井に固定されたカメラで撮像された画像に基づいて計測する構成であってもよい。
ここで、標準データとして、熟練の作業員の体の各関節の角度を併せて計測してもよい。作業員の体型(身長や体重)は様々なので、体型の異なる複数の熟練作業員の関節の角度を標準データとして用意しておいてもよい。
また、同様にして、経験の浅い初心者の作業員が(2)の作業を行う場合の立ち位置及び各関節の角度を計測する。そして、情報処理装置601は、初心者の作業員の立ち位置や各関節の角度と、標準データの立ち位置や各関節の角度とを比較する。このとき、比較対象の標準データとして、初心者の作業員の体型に最も近い体型の熟練作業員のものを選択する構成であってもよい。
更に、情報処理装置601は、立ち位置や各関節の角度に応じて、初心者の作業員の作業の修正に関する指示画像を生成し、表示装置600に表示する。例えば、熟練作業員と比較して立ち位置が少し右にずれている場合には、立ち位置のずれ幅に応じて大きさ、太さ、色を変化させた矢印を立ち位置を修正する方向に向けて示してもよいし、又は、「もう少し左に立って下さい。」というようなメッセージを表示してもよい。また、各関節の角度についても同様に矢印やメッセージ等による指示画像を生成する構成であってもよい。
なお、情報処理装置601は、作業員の立ち位置を常に監視しておき、(1)の作業が終了したことを検知した後、(2)の作業に移ったと判定する構成であってもよいし、例えば作業のシミュレーションを行うような場合には、作業員がピンマイクを装着しておき、作業の開始と終了の都度、例えば「取り付けスタート!」「取り付けOK!」というような音声を発し、その音声が情報処理装置601へ送られ、情報処理装置601は、その音声に基づいて(2)の作業中であると判定する構成であってもよい。
また、例えば(1)から(2)の作業に移る際に移動が発生するような作業の場合には、熟練の作業員と初心者の作業員の動線を比較する構成であってもよい。動線は、例えば、床にRFIDを格子状に配置しておき、作業者に装着されたリーダーで読み取った信号の強度を解析して特定してもよい。
そして、標準データとしての熟練の作業員の動線と、作業データとしての初心者の作業員の動線とを比較し、動線のずれ幅に応じて大きさ、太さ、色を変化させた矢印を、動きを修正する方向に向けて示してもよいし、又は、「もう少し右側を進んで下さい」というようなメッセージを表示してもよい。
なお、情報処理装置601は、作業員の動線を常に監視しておき、所定以上の距離の移動があった場合に動線について判定する構成であってもよいし、例えば作業のシミュレーションを行うような場合には、作業員がピンマイクを装着しておき、作業の開始と終了の都度、例えば「移動開始!」「移動完了!」というような音声を発し、その音声が情報処理装置601へ送られ、情報処理装置601は、その音声に基づいて作業員が移動中であり動線について指示する必要があると判定する構成であってもよい。
上述した例では、加速度センサやRFIDを用いる構成について説明したが、例えば、グローブや靴の裏等に圧力センサを装着して圧力データを計測し、その計測データに基づいて、ものを掴んだり離したりする動作や歩数等を解析し、作業の修正に関する指示を行う構成であってもよく、計測対象の作業データは特に限定されない。
以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではない。
以上、上述した実施形態によれば、作業者に作業の修正指示を速やかに伝えると共に熟練作業者の技能を後輩の作業者に適切に伝えることができる。
また、上述した実施形態の処理によれば、情報システム内において、簡易な情報処理により、作業の修正に関する指示画像を生成し、現実空間に重畳表示させることができるため、表示装置600と情報処理装置601とのやり取りの量を減らすことができる。そのためネットワークの帯域の使用率を下げることができる。また、情報処理装置601において、より簡易な情報処理により、作業の修正に関する指示画像を生成することができるため、情報処理装置601のCPU631等の使用率を下げることができる。

Claims (10)

  1. 作業の登録された標準データを取得する標準データ取得手段と、
    前記作業を行う作業者の作業データを取得する作業データ取得手段と、
    前記標準データ取得手段により取得された前記標準データと前記作業データ取得手段により取得された前記作業データとの差異が閾値以上か否かを判定する判定手段と、
    前記判定手段により前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成手段と、
    前記生成手段により生成された前記指示画像を前記作業者が装着している表示装置の表示部に表示することで、現実空間に前記指示画像を重畳して表示する表示手段と、
    を有する情報処理システム。
  2. 前記判定手段は、作業に応じて設定されている前記標準データと前記作業データの比較ポイントごとに差異が閾値以上か否かを判定し、
    前記生成手段は、前記判定手段により差異が閾値以上であると判定された比較ポイントに関する差異に応じて、前記作業の修正に関する指示画像を生成する請求項1記載の情報処理システム。
  3. 前記標準データを登録する登録手段を更に有する請求項1又は2記載の情報処理システム。
  4. 前記標準データが適切か否かを評価する評価手段を更に有する請求項1乃至3何れか1項記載の情報処理システム。
  5. 前記評価手段は、前記作業を行う複数の作業者のうち前記判定手段により前記差異が閾値以上であると判定された作業者の割合に応じて、前記標準データが適切か否か評価する請求項4記載の情報処理システム。
  6. 前記評価手段により前記標準データが適切でないと評価された場合、前記標準データを登録し直す再登録手段を更に有する請求項4又は5記載の情報処理システム。
  7. 作業の登録された標準データを取得する標準データ取得手段と、
    前記作業を行う作業者の作業データを取得する作業データ取得手段と、
    前記標準データ取得手段により取得された前記標準データと前記作業データ取得手段により取得された前記作業データとの差異が閾値以上か否かを判定する判定手段と、
    前記判定手段により前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成手段と、
    前記生成手段により生成された前記指示画像を前記作業者が装着している表示装置に送信する送信手段と、
    を有する情報処理装置。
  8. 情報処理装置が実行する情報処理方法であって、
    作業の登録された標準データを取得する標準データ取得ステップと、
    前記作業を行う作業者の作業データを取得する作業データ取得ステップと、
    前記標準データ取得ステップにより取得された前記標準データと、前記作業データ取得ステップにより取得された前記作業データと、の差異が閾値以上か否かを判定する判定ステップと、
    前記判定ステップにより前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成ステップと、
    前記生成ステップにより生成された前記指示画像を前記作業者が装着している表示装置
    の表示部に表示することで、現実空間に前記指示画像を重畳して表示する表示ステップと、
    を含む情報処理方法。
  9. 情報処理システムが実行する情報処理方法であって、
    作業の登録された標準データを取得する標準データ取得ステップと、
    前記作業を行う作業者の作業データを取得する作業データ取得ステップと、
    前記標準データ取得ステップにより取得された前記標準データと、前記作業データ取得ステップにより取得された前記作業データと、の差異が閾値以上か否かを判定する判定ステップと、
    前記判定ステップにより前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成ステップと、
    前記生成ステップにより生成された前記指示画像を前記作業者が装着している表示装置に送信する送信ステップと、
    を含む情報処理方法。
  10. コンピュータに、
    作業の登録された標準データを取得する標準データ取得ステップと、
    前記作業を行う作業者の作業データを取得する作業データ取得ステップと、
    前記標準データ取得ステップにより取得された前記標準データと、前記作業データ取得ステップにより取得された前記作業データと、の差異が閾値以上か否かを判定する判定ステップと、
    前記判定ステップにより前記差異が閾値以上であると判定された場合、前記差異に応じて、前記作業の修正に関する指示画像を生成する生成ステップと、
    前記生成ステップにより生成された前記指示画像を前記作業者が装着している表示装置に送信する送信ステップと、
    を実行させるためのプログラム。
JP2017531414A 2016-03-04 2017-02-22 情報処理システム、情報処理装置、情報処理方法及びプログラム Active JP6224873B1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016042252 2016-03-04
JP2016042252 2016-03-04
PCT/JP2017/006543 WO2017150293A1 (ja) 2016-03-04 2017-02-22 情報処理システム、情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP6224873B1 true JP6224873B1 (ja) 2017-11-01
JPWO2017150293A1 JPWO2017150293A1 (ja) 2018-03-08

Family

ID=59743881

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017531414A Active JP6224873B1 (ja) 2016-03-04 2017-02-22 情報処理システム、情報処理装置、情報処理方法及びプログラム

Country Status (4)

Country Link
US (1) US11011074B2 (ja)
JP (1) JP6224873B1 (ja)
CN (1) CN108604393B (ja)
WO (1) WO2017150293A1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11119716B2 (en) 2018-10-31 2021-09-14 Fanuc Corporation Display system, machine learning device, and display device
JP2022522159A (ja) * 2019-04-19 2022-04-14 ナノトロニクス イメージング インコーポレイテッド 組立てラインのための組立てエラー修正
US11443266B2 (en) 2019-08-19 2022-09-13 Fanuc Corporation Machine learning method and machine learning apparatus performing learning relating to work process
US11675330B2 (en) 2019-02-28 2023-06-13 Nanotronics Imaging, Inc. System and method for improving assembly line processes
US11703824B2 (en) 2019-02-28 2023-07-18 Nanotronics Imaging, Inc. Assembly error correction for assembly lines

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018221198A1 (ja) * 2017-05-31 2018-12-06 株式会社フジキン 半導体製造装置の管理システム、方法、及びコンピュータプログラム
JP6729607B2 (ja) * 2018-01-11 2020-07-22 株式会社デンソー 設置位置情報提供装置及び設置位置情報提供方法
JP7004218B2 (ja) * 2018-05-14 2022-01-21 オムロン株式会社 動作分析装置、動作分析方法、動作分析プログラム及び動作分析システム
JP7210169B2 (ja) * 2018-06-29 2023-01-23 株式会社日立システムズ コンテンツ提示システムおよびコンテンツ提示方法
JP7103078B2 (ja) * 2018-08-31 2022-07-20 オムロン株式会社 作業支援装置、作業支援方法及び作業支援プログラム
WO2020148919A1 (ja) * 2019-01-17 2020-07-23 オムロン株式会社 情報処理装置、提示システム、及び情報処理プログラム
CN112470180A (zh) * 2019-05-20 2021-03-09 株式会社日立系统 作业辅助系统以及作业辅助方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0968444A (ja) * 1995-09-01 1997-03-11 Japan Aviation Electron Ind Ltd 運動測定装置この測定装置を利用した仮想空間再現装置、フォーム矯正装置
JP2003196681A (ja) * 2001-12-26 2003-07-11 Sharp Corp 作業指図システム、作業指図方法及びそれを実現するためのプログラムを格納した記録媒体
JP2014228725A (ja) * 2013-05-23 2014-12-08 ソニー株式会社 情報処理装置及び記憶媒体

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005242418A (ja) 2004-02-24 2005-09-08 Matsushita Electric Works Ltd 作業評価装置、作業評価方法をコンピュータに実現させる作業評価プログラムおよび当該作業評価プログラムを記憶した記憶媒体
US9812096B2 (en) * 2008-01-23 2017-11-07 Spy Eye, Llc Eye mounted displays and systems using eye mounted displays
US9280913B2 (en) * 2009-07-10 2016-03-08 Lincoln Global, Inc. Systems and methods providing enhanced education and training in a virtual reality environment
JP4913913B2 (ja) * 2010-04-28 2012-04-11 新日鉄ソリューションズ株式会社 情報処理システム、情報処理方法及びプログラム
JP2012060384A (ja) * 2010-09-08 2012-03-22 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム
JP5532026B2 (ja) * 2011-08-10 2014-06-25 カシオ計算機株式会社 表示装置、表示方法及びプログラム
FR2992853B1 (fr) * 2012-07-06 2015-07-31 Chiropratique Attitude Table de massage vibrante
US9087403B2 (en) * 2012-07-26 2015-07-21 Qualcomm Incorporated Maintaining continuity of augmentations
WO2015006334A1 (en) * 2013-07-08 2015-01-15 Ops Solutions Llc Eyewear operational guide system and method
US9582516B2 (en) * 2013-10-17 2017-02-28 Nant Holdings Ip, Llc Wide area augmented reality location-based services
WO2015164373A1 (en) * 2014-04-23 2015-10-29 Raytheon Company Systems and methods for context based information delivery using augmented reality
CN107912061B (zh) * 2015-03-06 2021-06-01 伊利诺斯工具制品有限公司 用于焊接的传感器辅助头戴式显示器
JP6540108B2 (ja) * 2015-03-09 2019-07-10 富士通株式会社 画像生成方法、システム、装置、及び端末
US20160358383A1 (en) * 2015-06-05 2016-12-08 Steffen Gauglitz Systems and methods for augmented reality-based remote collaboration
US10849688B2 (en) * 2016-03-02 2020-12-01 Truinject Corp. Sensory enhanced environments for injection aid and social training

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0968444A (ja) * 1995-09-01 1997-03-11 Japan Aviation Electron Ind Ltd 運動測定装置この測定装置を利用した仮想空間再現装置、フォーム矯正装置
JP2003196681A (ja) * 2001-12-26 2003-07-11 Sharp Corp 作業指図システム、作業指図方法及びそれを実現するためのプログラムを格納した記録媒体
JP2014228725A (ja) * 2013-05-23 2014-12-08 ソニー株式会社 情報処理装置及び記憶媒体

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"ウエアラブル編 視界に広がる先輩の指導", 日経情報ストラテジー MAY 2015, JPN6017032841, 29 March 2015 (2015-03-29), JP, pages 28 - 33, ISSN: 0003629600 *
小林 一彦: "複合現実感技術を用いた手溶接訓練システム −保護面型HMDと疑似溶接棒によるシミュレータ−", 日本バーチャルリアリティ学会論文誌 第7巻 第2号, vol. 7, no. 2, JPN6017032840, 30 June 2002 (2002-06-30), JP, pages 211 - 218, ISSN: 0003629599 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11119716B2 (en) 2018-10-31 2021-09-14 Fanuc Corporation Display system, machine learning device, and display device
US11675330B2 (en) 2019-02-28 2023-06-13 Nanotronics Imaging, Inc. System and method for improving assembly line processes
US11703824B2 (en) 2019-02-28 2023-07-18 Nanotronics Imaging, Inc. Assembly error correction for assembly lines
JP2022522159A (ja) * 2019-04-19 2022-04-14 ナノトロニクス イメージング インコーポレイテッド 組立てラインのための組立てエラー修正
JP7207790B2 (ja) 2019-04-19 2023-01-18 ナノトロニクス イメージング インコーポレイテッド 組立てラインのための組立てエラー修正
US11443266B2 (en) 2019-08-19 2022-09-13 Fanuc Corporation Machine learning method and machine learning apparatus performing learning relating to work process

Also Published As

Publication number Publication date
CN108604393B (zh) 2022-12-30
US20190043385A1 (en) 2019-02-07
CN108604393A (zh) 2018-09-28
WO2017150293A1 (ja) 2017-09-08
US11011074B2 (en) 2021-05-18
JPWO2017150293A1 (ja) 2018-03-08

Similar Documents

Publication Publication Date Title
JP6224873B1 (ja) 情報処理システム、情報処理装置、情報処理方法及びプログラム
US9008371B2 (en) Method and system for ascertaining the position and orientation of a camera relative to a real object
US10540006B2 (en) Tracking torso orientation to generate inputs for computer systems
JP6629556B2 (ja) 工程編成支援装置、工程編成支援方法
US20140156214A1 (en) Motion analysis system and motion analysis method
JP2008046687A (ja) 撮影環境校正方法及び情報処理装置
JP6676322B2 (ja) 負担評価装置、負担評価方法
US11009964B2 (en) Length calibration for computer models of users to generate inputs for computer systems
US20110060248A1 (en) Physical configuration detector, physical configuration detecting program, and physical configuration detecting method
US20130268254A1 (en) Swing simulation system, swing simulation apparatus, and swing simulation method
WO2020075232A1 (ja) 拡張現実による機械的締結部の管理方法
JP2017068429A (ja) 作業負担評価装置、作業負担評価方法
JP7414395B2 (ja) 情報投影システム、制御装置、及び情報投影制御方法
JP6676321B2 (ja) 適応性評価装置、適応性評価方法
JP6295296B2 (ja) 複合システム及びターゲットマーカ
EP3637330B1 (en) Content creation system
JP2017068428A (ja) 作業負担評価装置、作業負担評価方法
EP4261636A1 (en) Processing device, processing system, head mounted display, processing method, program, and storage medium
KR20190048810A (ko) 증강현실용 컨텐츠 제공 장치 및 방법
US20190041649A1 (en) Display system, information processor, information processing method and program
JP2019066196A (ja) 傾き測定装置及び傾き測定方法
KR20160118678A (ko) 근골격계 질환 예방을 위한 작업부하 측정 및 작업순환 순서 결정 방법
JP6515473B2 (ja) 動作指示システム、動作指示方法、および、動作指示管理サーバ
JP2019065467A (ja) 杭位置検査装置及び杭位置検査方法
EP4280157A1 (en) Extended reality (xr) object alignment method and xr projection system

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171005

R150 Certificate of patent or registration of utility model

Ref document number: 6224873

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250