JP2016081241A - 作業支援システム及びプログラム - Google Patents

作業支援システム及びプログラム Download PDF

Info

Publication number
JP2016081241A
JP2016081241A JP2014210868A JP2014210868A JP2016081241A JP 2016081241 A JP2016081241 A JP 2016081241A JP 2014210868 A JP2014210868 A JP 2014210868A JP 2014210868 A JP2014210868 A JP 2014210868A JP 2016081241 A JP2016081241 A JP 2016081241A
Authority
JP
Japan
Prior art keywords
work
image
site
unit
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014210868A
Other languages
English (en)
Other versions
JP6275011B2 (ja
Inventor
剛士 新山
Takashi Niiyama
剛士 新山
冨田 学
Manabu Tomita
学 冨田
幸大 末永
Yukihiro Suenaga
幸大 末永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to JP2014210868A priority Critical patent/JP6275011B2/ja
Publication of JP2016081241A publication Critical patent/JP2016081241A/ja
Application granted granted Critical
Publication of JP6275011B2 publication Critical patent/JP6275011B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

【課題】作業者に作業内容をより具体的に把握させることができる技術が望まれていた。
【解決手段】作業現場が撮像された作業現場画像を取得する現場画像取得部と、作業現場内の一部の作業領域における作業の見本画像を取得する見本画像取得部と、作業現場画像及び見本画像に基づいて、作業領域に対応する作業現場画像内の領域を特定する領域特定部と、業現場画像を表示デバイスに表示させ、かつ、領域特定部が特定した領域に重畳させて見本画像を表示デバイスに表示させる表示制御部とを備える作業支援システムを提供する。
【選択図】図3

Description

本発明は、作業支援システム及びプログラムに関する。
機器を修理する作業手順を説明するアニメーション動画を表示する作業手順表示システムが知られていた(例えば、特許文献1参照)。
[先行技術文献]
[特許文献]
[特許文献1]特開2011−253422号公報
作業者に作業内容をより具体的に把握させることができる技術が望まれていた。
本発明の第1の態様によれば、作業現場が撮像された作業現場画像を取得する現場画像取得部と、作業現場内の一部の作業領域における作業の見本画像を取得する見本画像取得部と、作業現場画像及び見本画像に基づいて、作業領域に対応する作業現場画像内の領域を特定する領域特定部と、業現場画像を表示デバイスに表示させ、かつ、領域特定部が特定した領域に重畳させて見本画像を表示デバイスに表示させる表示制御部とを備える作業支援システムが提供される。
上記作業支援システムは、複数の作業工程が登録された作業工程データを取得する作業工程データ取得部と、複数の作業工程から一の作業工程を選択する作業工程選択部とをさらに備えてよく、見本画像取得部は、作業工程選択部によって選択された作業工程に対応付けられた見本画像を取得してよい。上記作業支援システムにおいて、現場画像取得部は、複数の作業工程が作業者によって実行されているときに撮像された作業現場画像を取得してよく、上記作業支援システムは、複数の作業工程のそれぞれに対応付けて、複数の作業工程のそれぞれに対応する作業現場画像を格納する現場画像格納部をさらに備えてよい。上記作業支援システムにおいて、現場画像取得部は、ラックが配置された作業現場の作業現場画像を取得してよく、作業工程データ取得部は、ラックを識別するラック識別情報が登録された作業工程データを取得してよく、領域特定部は、作業現場画像、見本画像及びラック識別情報に基づいて、作業領域に対応する作業現場画像における領域を特定してよい。
本発明の第2の態様によれば、作業現場が撮像部によって撮像された作業現場画像を取得する現場画像取得部と、作業現場内の一部の作業領域における作業の見本画像を取得する見本画像取得部と、作業現場画像、見本画像、及び撮像部と透過型表示デバイスとの位置関係に基づいて、作業領域に重畳させて見本画像を表示させるための、透過型表示デバイスにおける見本画像の表示領域を決定する表示領域決定部とを備える作業支援システムが提供される。
上記作業支援システムは、複数の作業工程が登録された作業工程データを取得する作業工程データ取得部と、複数の作業工程から一の作業工程を選択する作業工程選択部とをさらに備えてよく、見本画像取得部は、作業工程選択部によって選択された作業工程に対応付けられた見本画像を取得してよい。上記作業支援システムにおいて、現場画像取得部は、複数の作業工程が作業者によって実行されているときに撮像された作業現場画像を取得してよく、上記作業支援システムは、複数の作業工程のそれぞれに対応付けて、複数の作業工程のそれぞれに対応する作業現場画像を格納する現場画像格納部をさらに備えてよい。上記作業支援システムにおいて、画像取得部は、ラックが配置された作業現場の作業現場画像を取得してよく、作業工程データ取得部は、ラックを識別するラック識別情報が登録された作業工程データを取得してよく、表示領域決定部は、作業現場画像、見本画像、撮像部と透過型表示デバイスとの位置関係、及びラック識別情報に基づいて、透過型表示デバイスにおける見本画像の表示領域を決定してよい。
本発明の第3の態様によれば、コンピュータを、上記作業支援システムとして機能させるためのプログラムが提供される。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
作業支援装置の通信環境の一例を概略的に示す。 表示デバイスによる表示例を概略的に示す。 作業支援装置の機能構成の一例を概略的に示す。 作業支援装置による処理の流れの一例を概略的に示す。 オペレータ端末の機能構成の一例を概略的に示す。 作業支援装置の通信環境の他の一例を概略的に示す。 作業支援装置の機能構成の一例を概略的に示す。 表示領域決定部が決定した表示領域の一例を概略的に示す。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、作業支援装置100の通信環境の一例を概略的に示す。作業支援装置100は、作業支援システムの一例であってよい。本実施形態にかかる作業支援装置100は、作業現場50で作業をする作業者54を支援する。作業現場50は、作業が行われる場所であればどのような場所であってもよい。ここでは、通信機器を収容するラック52が配置された作業現場50を例示して説明する。
作業支援装置100は、ネットワーク10を介して、作業現場50の表示デバイス200及び撮像装置300と通信する。ネットワーク10は、社内LAN等の専用網、インターネット及び電話網の少なくともいずれかを含んでよい。
表示デバイス200は、表示部を備える装置であればどのような装置であってもよい。例えば、表示デバイス200は、PC(Personal Computer)、タブレット端末、スマートフォン等の携帯電話、及びヘッドマウントディスプレイ等のウェアラブル端末等である。表示デバイス200は、ネットワーク10に無線接続されてよい。表示デバイス200は、ネットワーク10に有線接続されてもよい。
作業支援装置100は、複数の作業工程が登録された作業工程データを表示デバイス200に送信して表示させてよい。作業工程データは、複数の作業工程のそれぞれの作業内容を示すテキスト及び画像等を含んでよい。作業者54は、表示デバイス200によって表示された作業工程データを閲覧することによって、作業内容を把握する。
撮像装置300は、作業現場50を撮像する。撮像装置300は、例えば、作業現場50に設置される。撮像装置300は、作業現場50内の作業対象を撮像するべく設置されてよい。図1に示す例では、撮像装置300は、作業現場50内のラック52を撮像するべく設置されている。
撮像装置300は、作業者54によって身に付けられてもよい。例えば、撮像装置300は、頭部装着型のカメラであってよく、作業者54の視界に対応する範囲を撮像する。
撮像装置300は、ネットワーク10に無線接続されてよい。撮像装置300は、ネットワーク10に有線接続されてもよい。撮像装置300は、作業現場50を撮像した作業現場画像を、ネットワーク10を介して作業支援装置100に送信してよい。また、撮像装置300は、表示デバイス200を介して、作業現場画像を作業支援装置100に送信してもよい。
作業支援装置100は、撮像装置300から、作業現場画像を受信する。作業支援装置100は、撮像装置300から取得した作業現場画像内の、作業者54が作業する作業領域を特定する。例えば、作業者54が、ラック52が有する複数のスロットのうち一のスロットに対して作業をする場合に、作業支援装置100は、作業現場画像内のラック52の当該一のスロットの領域を特定する。
そして、作業支援装置100は、作業現場画像を表示デバイス200に表示させ、かつ、特定した領域に当該作業領域における作業の見本画像を重畳させて表示デバイス200に表示させる。見本画像とは、作業の見本となる画像であってよい。例えば、見本画像は、作業の内容を説明するための画像である。見本画像は、静止画像であってよく、また、動画像であってもよい。見本画像は、作業の内容を説明する説明者によって予め作成された画像であってよい。また、見本画像は、他の作業者54が同一の又は対応する作業をしたときに、当該他の作業者54による作業を撮像した画像であってもよい。
作業支援装置100が、作業現場画像の特定した領域に見本画像を重畳させて表示デバイス200に表示させることにより、作業者54に対して、ラック52における作業すべきスロットと、作業の内容とを具体的に説明することができ、作業者54による作業効率を向上させることができる。
また、作業支援装置100は、ネットワーク10を介して、オペレータ端末400と通信してよい。オペレータ端末400は、作業者54に対して、遠隔で作業を指示するオペレータ60が使用する端末であってよい。オペレータ端末400は、例えば、PC、タブレット端末、スマートフォン等の携帯電話、及びヘッドマウントディスプレイ等のウェアラブル端末等である。
オペレータ端末400は、作業支援装置100が表示デバイス200に送信した作業工程データと同一の作業工程データを作業支援装置100から受信して、表示してよい。また、オペレータ端末400は、撮像装置300が撮像した作業現場画像を受信して、表示してよい。オペレータ端末400は、撮像装置300が撮像した作業現場画像を、作業支援装置100経由で受信してよい。また、オペレータ端末400は、撮像装置300が撮像した作業現場画像を、作業支援装置100を経由せずに、撮像装置300からネットワーク10を介して受信してもよい。
オペレータ60は、表示された作業工程データ及び作業現場画像を閲覧しながら、作業者54に対して指示を出してよい。例えば、オペレータ端末400と表示デバイス200との間で音声通信することによって、オペレータ60が作業者54に対して指示を出す。オペレータ端末400は、撮像装置300及び作業者54が所持する携帯電話等との間で音声通信してもよい。
図2は、表示デバイス200による表示例を概略的に示す。図2は、作業現場画像150内の、作業支援装置100によって特定された作業領域に対応する領域に、見本画像160が重畳された表示例を示す。ここでは、ラック52が有する複数のスロットのうち一のスロットに、通信装置162を設置する作業の見本画像160が表示された例を示す。
作業支援装置100は、作業現場画像150内の、作業領域に対応する領域に見本画像160が一致するように、見本画像160の位置及び大きさ等を調整してよい。作業現場画像150内の領域と見本画像160とは、位置、大きさ及び角度等が厳密に一致しない場合もあるが、作業者54は、当該表示例に示すような表示を閲覧することによって、通信装置を挿入する位置、通信装置の持ち方、及び通信装置の挿入手順等を具体的に把握することができる。
特に、通信装置をラック52に挿入する作業には、スロットに挿入する速度に厳密さが求められる作業があるが、作業支援装置100が動画像の見本画像160を表示デバイス200に表示させることにより、挿入する速度をより具体的に把握させることができる。また、従来、ラック52における作業領域の誤りを防止すべく、作業領域に対して事前に、作業領域を示すようにマーキングをしたり、作業領域以外の箇所を作業者に見せないようにマスキングをしたりしていたが、本実施形態に係る作業支援装置100によれば、マスキング及びマーキングの作業を不要にすることができる。これにより、作業領域を示すようにテープを貼ったり、作業領域以外を隠すようにマスキングテープを貼ったりする事前作業を省略することができる。
図3は、作業支援装置100の機能構成の一例を概略的に示す。作業支援装置100は、作業工程データ格納部102、見本画像格納部104、作業工程データ取得部110、作業工程選択部112、見本画像取得部114、現場画像取得部116、現場画像格納部118、領域特定部120、表示制御部130、入力受信部132及び見本画像登録部134を備える。なお、作業支援装置100がこれらのすべての構成を備えることは必須とは限らない。
作業工程データ格納部102は、複数の作業工程が登録された作業工程データを格納する。作業工程データ格納部102は、複数の作業工程データを格納してよい。作業工程データ格納部102は、複数の作業工程のそれぞれに関連する関連情報を含む作業工程データを格納してもよい。関連情報は、作業対象となる機器及び設備を識別する情報を含んでよい。例えば、関連情報は、作業現場50に配置されたラック52を識別するラック識別情報を含む。
見本画像格納部104は、見本画像を格納する。見本画像格納部104は、作業工程データ格納部102が格納する作業工程データに登録された複数の作業工程のそれぞれに対応する見本画像を格納してよい。作業工程に対応する見本画像は、当該作業工程における作業領域に対応する画像であってよい。例えば、ラック52が有する複数のスロットのうちの一のスロットに対する作業の作業工程に対応する見本画像は、当該一のスロットに対応する画像である。見本画像には、対応する作業工程を示す工程識別情報が対応付けられてよい。
作業工程データ取得部110は、作業工程データ格納部102に格納された作業工程データを取得する。作業工程データ取得部110は、例えば、作業工程データ格納部102に格納された複数の作業工程データのうち、作業者54によって選択された作業工程データを取得する。
作業者54による選択は、表示デバイス200を介して行われてよい。例えば、作業支援装置100が、作業工程データ格納部102に格納された複数の作業工程データのリストを表示デバイス200に表示させ、当該リストから作業者54によって選択された作業工程データを、作業工程データ取得部110が作業工程データ格納部102から取得する。
また、作業工程データ取得部110は、作業工程データ格納部102に格納された複数の作業工程データのうち、オペレータ60によって選択された作業工程データを取得してもよい。オペレータ60による選択は、オペレータ端末400を介して行われてよい。例えば、オペレータ端末400は、作業工程データ格納部102に格納された複数の作業工程データのリストを表示し、当該リストからオペレータ60によって選択された作業工程データを、作業工程データ取得部110に通知する。
作業工程選択部112は、作業工程データ取得部110によって取得された作業工程データに含まれる複数の作業工程から一の作業工程を選択する。作業工程選択部112は、例えば、複数の作業工程のうち、作業者54によって選択された作業工程を選択する。
作業者54による選択は、表示デバイス200を介して行われてよい。例えば、作業支援装置100が、作業工程データ取得部110によって取得された作業工程データを表示デバイス200に表示させ、当該作業工程データから作業者54によって選択された作業工程を、作業工程選択部112が選択する。作業者54は、例えば、作業工程データに含まれる複数の作業工程のうち、これから作業しようとする作業工程を選択する。
見本画像取得部114は、作業工程選択部112によって選択された作業工程に対応付けられた見本画像を見本画像格納部104から取得する。見本画像取得部114は、例えば、作業工程選択部112によって選択された作業工程に対応付けて、静止画像の見本画像及び動画像の見本画像が格納されていた場合、動画像の見本画像を取得してよい。すなわち、見本画像取得部114は、静止画像及び動画像のうち、動画像を優先的に取得してよい。これにより、作業内容をより具体的に把握できる見本画像を優先的に取得することができる。
現場画像取得部116は、撮像装置300から作業現場画像を取得する。現場画像取得部116は、作業工程データ取得部110が取得した作業工程データに登録された複数の作業工程が作業者54によって実行されているときに、撮像装置300が撮像した作業現場画像を取得してよい。
現場画像格納部118は、現場画像取得部116によって取得された作業現場画像を格納する。現場画像格納部118は、複数の作業工程のそれぞれに対応付けて、複数の作業工程のそれぞれの作業現場画像を格納してよい。現場画像格納部118は、例えば、作業工程選択部112によって一の作業工程が選択された後に、現場画像取得部116が取得した作業現場画像に対して、作業工程選択部112によって選択された作業工程を識別する工程識別情報を対応付けて格納してよい。
領域特定部120は、現場画像取得部116が取得した作業現場画像及び見本画像取得部114が取得した見本画像に基づいて、作業現場50の一部の作業領域に対応する作業現場画像内の領域を特定する。領域特定部120は、例えば、パターンマッチング技術を利用して、作業現場画像内における、見本画像との一致度が他の領域よりも高い領域を、作業領域に対応する領域として特定する。
また、領域特定部120は、作業工程データ取得部110が取得した作業工程データに含まれる、複数の作業工程のそれぞれに関連する関連情報を用いて、作業領域に対応する領域を特定してもよい。例えば、領域特定部120は、関連情報に含まれる作業対象となる機器及び設備を識別する情報を用いて、作業領域に対応する領域を特定する。
具体例として、関連情報にラック52を識別するラック識別情報と、ラック52が有する複数のスロットのうちの一のスロットを識別するスロット識別情報とが含まれる場合について説明する。領域特定部120は、まず、ラック識別情報によって識別されるラック52の画像を取得する。ラック52の画像は、ラック識別情報に対応付けて予め保持していてよい。
次に、領域特定部120は、パターンマッチング技術を利用して、作業現場画像内におけるラック52の画像領域を特定する。そして、領域特定部120は、特定したラック52の画像領域内の、スロット識別情報によって識別されるスロットの領域を、作業領域に対応する領域として特定する。
表示制御部130は、表示デバイス200による表示を制御する。例えば、表示制御部130は、作業工程データ取得部110が取得した作業工程データを表示デバイス200に表示させる。また、表示制御部130は、現場画像取得部116が取得した作業現場画像を表示デバイス200に表示させてよい。また、表示制御部130は、見本画像取得部114が取得した見本画像を表示デバイス200に表示させてよい。
表示制御部130は、現場画像取得部116が取得した作業現場画像を表示デバイス200に表示させ、かつ、領域特定部120が特定した領域に重畳させて、見本画像取得部114が取得した見本画像を表示デバイス200に表示させてよい。表示制御部130は、現場画像取得部116が継続して取得している作業現場画像に対して、リアルタイムに見本画像を重畳させて、表示デバイス200に表示させてよい。例えば、表示制御部130は、作業現場50に配置された撮像装置300が撮像する作業現場50の動画像に対して、見本画像をリアルタイムに重畳させて、表示デバイス200に表示させる。
また、表示制御部130は、静止画像の作業現場画像に対して、見本画像を重畳させて、表示デバイス200に表示させてもよい。例えば、表示制御部130は、作業者54が頭部に装着した撮像装置300によって撮像された作業現場画像の静止画像に対して、見本画像を重畳させて、表示デバイス200に表示させる。これにより、作業者54の視覚に対応する画角で撮像された作業現場画像の静止画像に対して見本画像を重畳させることができ、作業の内容をより具体的に作業者54に把握させることができる。
領域特定部120は、表示制御部130によって表示デバイス200に表示された作業現場画像に対して入力された座標データに基づいて、作業現場50の一部の作業領域に対応する作業現場画像内の領域を特定してもよい。例えば、領域特定部120は、表示制御部130によって表示デバイス200に作業現場画像が表示された後、表示デバイス200から、作業現場画像内の領域を示す座標データを受信し、当該座標データが示す領域を、作業現場50の一部の作業領域に対応する作業現場画像内の領域として特定する。表示デバイス200は、例えば、表示した作業現場画像に対する、作業者54による、タッチ入力及びマウス入力等の座標入力を受け付けることによって、作業現場画像内の領域を示す座標データを取得してよい。
入力受信部132は、オペレータ端末400に対して入力された入力データを、オペレータ端末400から受信する。例えば、入力受信部132は、オペレータ端末400から、作業現場画像内における座標データを受信する。
表示制御部130は、入力受信部132が受信した入力データに基づいて、表示を制御してよい。例えば、入力受信部132が作業現場画像内における座標データを受信した場合、表示制御部130は、表示デバイス200に表示させている作業現場画像における、当該座標データが示す位置を、識別表示させる。表示制御部130は、例えば、作業現場画像上の当該座標データが示す位置に、マーキングを表示させる。
これにより、例えば、撮像装置300が撮像している作業現場50内のラック52がオペレータ端末400に表示され、オペレータ60によって、ラック52が有する複数のスロットのうち一のスロットに対応する座標を示す座標データが入力された場合に、表示デバイス200に、当該一のスロットを識別表示させることができる。そしてこれにより、オペレータ60による作業位置の指定を、より具体的に作業者54に伝えることができる。
なお、領域特定部120が、入力受信部132が受信した入力データに基づいて、作業現場50の一部の作業領域に対応する作業現場画像内の領域を特定してもよい。例えば、領域特定部120は、入力受信部132が受信した作業現場画像内の領域を示す座標データを入力受信部132から取得して、当該座標データが示す領域を、作業現場50の一部の作業領域に対応する作業現場画像内の領域として特定する。
見本画像登録部134は、見本画像格納部104に見本画像を登録する。見本画像登録部134は、作業工程データ格納部102に格納された作業工程データに登録された複数の作業工程のそれぞれについて、作業の内容を説明する説明者によって作成された見本画像を登録してよい。見本画像登録部134は、作業工程を識別する工程識別情報に対応付けて、見本画像を登録してよい。また、見本画像登録部134は、現場画像格納部118に格納された、複数の作業工程が作業者54によって実行されているときに撮像された作業現場画像に工程識別情報を対応付けて登録してよい。
見本画像登録部134は、作業者54による作業が正常に完了したときの作業現場画像を登録してよい。作業者54による作業が正常に完了したときの作業現場画像は、良い見本として使用されてよい。また、見本画像登録部134は、作業者54による作業が正常に完了しなかったときの作業現場画像を登録してもよい。作業者54による作業が正常に完了しなかったときの作業現場画像は、悪い見本として使用されてよい。
図4は、作業支援装置100による処理の流れの一例を概略的に示す。ここでは、作業支援装置100が、作業工程データ格納部102に格納された複数の作業工程データのうちの一の作業工程データの選択を待ち受けている情報を開始状態として説明する。図4に示す各処理は、作業支援装置100が備える制御部が主体となって実行される。
ステップ402(ステップをSと省略して記載する場合がある。)では、作業工程データ取得部110が、複数の作業工程データのうち選択された作業工程データを作業工程データ格納部102から取得する。S404では、表示制御部130が、S402で取得され作業工程データを表示デバイス200に表示させる。
S406では、作業工程選択部112が、S402で取得された作業工程データに含まれる複数の作業工程から一の作業工程を選択する。S408では、見本画像取得部114が、S406で選択された一の作業工程に対応付けられた見本画像を見本画像格納部104から取得する。
S410では、現場画像取得部116が、作業現場画像を取得する。S412では、現場画像格納部118が、S410で取得された作業現場画像を、S406で選択された作業工程を識別する工程識別情報に対応付けて格納する。
S414では、領域特定部120が、S408で取得された見本画像及びS410で取得された作業現場画像に基づいて、作業現場50内の一部の作業領域に対応する作業現場画像内の領域を特定する。S416では、表示制御部130が、S410で取得した作業現場画像を表示デバイス200に表示させ、かつ、S414で特定された領域に重畳させてS408で取得された見本画像を表示デバイス200に表示させる。
S418では、S402で取得された作業工程データに登録された複数の作業工程の全てが完了したか否かを判定する。完了していないと判定した場合、S406に戻り、完了したと判定した場合、処理が終了する。
図5は、オペレータ端末400の機能構成の一例を概略的に示す。オペレータ端末400は、作業工程データ取得部402、現場画像取得部404、表示制御部406、表示部408、入力受付部410及び入力送信部412を備える。なお、オペレータ端末400がこれらのすべての構成を備えることは必須とは限らない。
作業工程データ取得部402は、作業支援装置100から作業工程データを取得する。作業工程データ取得部402は、作業支援装置100が表示デバイス200に送信した作業工程データと同一の作業工程データを、作業支援装置100から受信してよい。現場画像取得部404は、撮像装置300によって撮像された作業現場画像を取得する。
表示制御部406は、作業工程データ取得部402が取得した作業工程データを表示部408に表示させる。また、表示制御部406は、現場画像取得部404が取得した作業現場画像を表示部408に表示させる。表示制御部406は、作業工程データ取得部402が取得した作業工程データに登録された複数の作業工程のそれぞれに対応付けて、現場画像取得部404が取得した複数の作業工程のそれぞれに対応する作業現場画像を表示させてもよい。
入力受付部410は、入力を受け付ける。入力受付部410は、マウス及びタッチパネル等の入力デバイスを介した座標データの入力を受け付けてよい。例えば、入力受付部410は、表示制御部406によって表示された作業現場画像上の座標データの入力を受け付ける。
入力送信部412は、入力受付部410が受け付けた入力データを送信する。入力送信部412は、入力データを作業支援装置100に対して送信してよい。
図6は、作業支援装置100の通信環境の他の一例を概略的に示す。ここでは、図1に示す作業支援装置100の通信環境と異なる点を主に説明する。
図6に示す作業支援装置100は、ネットワーク10を介して、作業現場50の透過型表示デバイス600と通信する。透過型表示デバイス600は、頭部装着型のデバイスであってよく、Google Glass(登録商標)等のHMD(Head Mounted Display)であってよい。
透過型表示デバイス600は、表示部602及び撮像部604を備える。表示部602は透過型ディスプレイである。撮像部604は、透過型表示デバイス600を装着した作業者54の視覚に対応する範囲を撮像するカメラである。
作業支援装置100は、複数の作業工程が登録された作業工程データを透過型表示デバイス600に送信して表示させてよい。作業者54は、透過型表示デバイス600によって表示された作業工程データを閲覧することによって、作業の内容を把握してよい。
作業支援装置100は、撮像部604によって撮像された作業現場画像を透過型表示デバイス600から取得してよい。作業支援装置100は、作業現場画像内の、作業者54が作業する作業領域に重畳させて見本画像を表示させるための、透過型表示デバイス600における見本画像の表示領域を決定する。
例えば、作業者54が、ラック52が有する複数のスロットのうち一のスロットに対して作業をする場合に、作業支援装置100は、当該一のスロットに重畳させて見本画像を表示させるための、透過型表示デバイス600における見本画像の表示領域を決定する。透過型表示デバイス600は、作業支援装置100によって決定された表示領域に従って、見本画像を表示部602に表示させてよい。これにより、作業者54の視界においてラック52の一のスロットに、見本画像が重畳したような表示を、作業者54に提供することができる。
なお、ここでは、作業支援装置100が、透過型表示デバイス600が備える撮像部604によって撮像された作業現場画像を取得する例を挙げて説明したが、これに限らない。作業支援装置100は、作業現場50に配置された撮像部によって撮像された作業現場画像を取得してもよい。
図7は、作業支援装置100の機能構成の他の一例を概略的に示す。図7は、作業支援装置100が、領域特定部120の代わりに表示領域決定部180を備える点で、図3と異なる。ここでは、図3と異なる点を主に説明する。
表示領域決定部180は、現場画像取得部116が取得した作業現場画像、見本画像取得部114が取得した見本画像、及び撮像部604と透過型表示デバイス600との位置関係に基づいて、作業現場50内の一部の作業領域に対応する作業現場画像における領域を特定する。例えば、表示領域決定部180は、まず、パターンマッチング技術等を利用して、作業現場画像内における、見本画像との一致度が他の領域よりも高い領域を特定する。そして、表示領域決定部180は、作業現場画像内の特定した領域に対応する表示部602における表示領域を、透過型表示デバイス600と撮像部604との位置関係に従って決定する。
また、表示領域決定部180は、作業工程データ取得部110が取得した作業工程データに含まれる、複数の作業工程のそれぞれに関連する関連情報を用いて、表示領域を決定してもよい。例えば、表示領域決定部180は、関連情報に含まれる作業対象となる機器及び設備を識別する情報を用いて、表示領域を決定する。
具体例として、関連情報にラック52を識別するラック識別情報と、ラック52が有する複数のスロットのうちの一のスロットを識別するスロット識別情報とが含まれる場合について説明する。表示領域決定部180は、まず、ラック識別情報によって識別されるラック52の画像を取得する。ラック52の画像は、ラック識別情報に対応付けて予め保持していてよい。
次に、表示領域決定部180は、パターンマッチング技術を利用して、作業現場画像内におけるラック52の画像領域を特定する。次に、表示領域決定部180は、特定したラック52の画像領域内の、スロット識別情報によって識別されるスロットの領域を特定する。そして、表示領域決定部180は、作業現場画像内の特定した領域に対応する表示部602における表示領域を、透過型表示デバイス600と撮像部604との位置関係に従って決定する。
図8は、表示領域決定部180が決定した表示領域610の一例を概略的に示す。図8は、ラック52が有する5つのスロットのうち、下から2スロット目が作業領域である場合を例示している。図8に示すように、表示領域決定部180が、作業領域に重畳させて見本画像を表示させるための表示領域610を決定して、透過型表示デバイス600が備える表示部602が、当該表示領域610に見本画像を表示させることによって、作業者54の視界において、ラック52の下から2スロット目に、見本画像が重畳した表示を提供することができる。
以上の説明において、作業支援装置100の各部は、ハードウエアにより実現されてもよく、ソフトウエアにより実現されてもよい。また、ハードウエアとソフトウエアとの組み合わせにより実現されてもよい。また、プログラムが実行されることにより、コンピュータが、作業支援装置100として機能してもよい。プログラムは、コンピュータ読み取り可能な媒体又はネットワークに接続された記憶装置から、作業支援装置100の少なくとも一部を構成するコンピュータにインストールされてよい。
コンピュータにインストールされ、コンピュータを本実施形態に係る作業支援装置100として機能させるプログラムは、CPU等に働きかけて、コンピュータを、作業支援装置100の各部としてそれぞれ機能させる。これらのプログラムに記述された情報処理は、コンピュータに読込まれることにより、ソフトウエアと作業支援装置100のハードウエア資源とが協働した具体的手段として機能する。
上記実施形態では、作業支援装置100を作業支援システムの一例として説明したが、これに限らない。作業支援装置100が備える構成の少なくとも一部を、表示デバイス200及び撮像装置300の少なくともいずれかが備えてもよい。この場合、作業支援装置100と、表示デバイス200及び撮像装置300の少なくともいずれかが作業システムを構成してよい。また、作業支援装置100が備える構成の少なくとも一部を透過型表示デバイス600が備えてもよい。この場合、作業支援装置100と透過型表示デバイス600とが作業支援システムを構成してよい。
また、上記実施形態では、見本画像取得部114が、作業工程選択部112によって選択された作業工程に対応付けられた見本画像を見本画像格納部104から取得する例について説明した。ここで、選択された作業工程に対応付けられた見本画像が複数格納されていた場合、見本画像取得部114は、作業者54の属性情報に基づいて、複数の見本画像から一の画像を選択して取得してもよい。
例えば、見本画像格納部104は、作業内容を説明する説明者が、作業者54の属性情報毎に生成した見本画像を、作業者54の属性情報に対応付けて格納する。属性情報は、作業者54の身長、性別、及び作業経験年数等を含んでよい。また、見本画像格納部104は、現場画像格納部118によって格納された、複数の作業工程が作業者54によって実行されているときに撮像された作業現場画像に対して、当該作業者54の属性情報を対応付けて格納する。
そして、見本画像取得部114は、表示デバイス200等から作業者54の属性情報を取得して、取得した属性情報に基づいて、見本画像格納部104に格納された複数の見本画像から一の見本画像を取得する。見本画像取得部114は、例えば、作業者54の身長により近い身長が対応付けられた見本画像を取得する。これにより、作業者54の目線により近い目線で撮像された見本画像や、作業者54の目線に合わせて生成された見本画像を取得することができる。
また、見本画像取得部114は、作業者54の性別と同じ性別が対応付けられた見本画像を取得する。これにより、作業者54が男性の場合は男性用の見本画像を取得でき、作業者54が女性の場合は女性用の見本画像を取得できる。また、見本画像取得部114は、作業者54の作業経験年数により近い経験年数が対応付けられた見本画像を取得する。これにより、見本画像取得部114は、作業者54の作業経験年数により適した見本画像を取得することができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 ネットワーク、50 作業現場、52 ラック、54 作業者、100 作業支援装置、102 作業工程データ格納部、104 見本画像格納部、110 作業工程データ取得部、112 作業工程選択部、114 見本画像取得部、116 現場画像取得部、118 現場画像格納部、120 領域特定部、130 表示制御部、132 入力受信部、134 見本画像登録部、150 作業現場画像、160 見本画像、180 表示領域決定部、200 表示デバイス、300 撮像装置、400 オペレータ端末、402 作業工程データ取得部、404 現場画像取得部、406 表示制御部、408 表示部、410 入力受付部、412 入力送信部、600 透過型表示デバイス、602 表示部、604 撮像部、610 表示領域

Claims (9)

  1. 作業現場が撮像された作業現場画像を取得する現場画像取得部と、
    前記作業現場内の一部の作業領域における作業の見本画像を取得する見本画像取得部と、
    前記作業現場画像及び前記見本画像に基づいて、前記作業領域に対応する前記作業現場画像内の領域を特定する領域特定部と、
    前記作業現場画像を表示デバイスに表示させ、かつ、前記領域特定部が特定した前記領域に重畳させて前記見本画像を前記表示デバイスに表示させる表示制御部と
    を備える作業支援システム。
  2. 複数の作業工程が登録された作業工程データを取得する作業工程データ取得部と、
    前記複数の作業工程から一の作業工程を選択する作業工程選択部と
    をさらに備え、
    前記見本画像取得部は、前記作業工程選択部によって選択された作業工程に対応付けられた見本画像を取得する、請求項1に記載の作業支援システム。
  3. 前記現場画像取得部は、前記複数の作業工程が作業者によって実行されているときに撮像された前記作業現場画像を取得し、
    前記作業支援システムは、
    前記複数の作業工程のそれぞれに対応付けて、前記複数の作業工程のそれぞれに対応する前記作業現場画像を格納する現場画像格納部
    をさらに備える、請求項2に記載の作業支援システム。
  4. 前記現場画像取得部は、ラックが配置された前記作業現場の前記作業現場画像を取得し、
    前記作業工程データ取得部は、前記ラックを識別するラック識別情報が登録された前記作業工程データを取得し、
    前記領域特定部は、前記作業現場画像、前記見本画像及び前記ラック識別情報に基づいて、前記作業領域に対応する前記作業現場画像における前記領域を特定する、請求項2又は3に記載の作業支援システム。
  5. 作業現場が撮像部によって撮像された作業現場画像を取得する現場画像取得部と、
    前記作業現場内の一部の作業領域における作業の見本画像を取得する見本画像取得部と、
    前記作業現場画像、前記見本画像、及び前記撮像部と透過型表示デバイスとの位置関係に基づいて、前記作業領域に重畳させて前記見本画像を表示させるための、前記透過型表示デバイスにおける前記見本画像の表示領域を決定する表示領域決定部と
    を備える作業支援システム。
  6. 複数の作業工程が登録された作業工程データを取得する作業工程データ取得部と、
    前記複数の作業工程から一の作業工程を選択する作業工程選択部と
    をさらに備え、
    前記見本画像取得部は、前記作業工程選択部によって選択された作業工程に対応付けられた見本画像を取得する、請求項5に記載の作業支援システム。
  7. 前記現場画像取得部は、前記複数の作業工程が作業者によって実行されているときに撮像された前記作業現場画像を取得し、
    前記作業支援システムは、
    前記複数の作業工程のそれぞれに対応付けて、前記複数の作業工程のそれぞれに対応する前記作業現場画像を格納する現場画像格納部
    をさらに備える、請求項6に記載の作業支援システム。
  8. 前記画像取得部は、ラックが配置された前記作業現場の作業現場画像を取得し、
    前記作業工程データ取得部は、前記ラックを識別するラック識別情報が登録された前記作業工程データを取得し、
    前記表示領域決定部は、前記作業現場画像、前記見本画像、前記撮像部と透過型表示デバイスとの位置関係、及び前記ラック識別情報に基づいて、前記透過型表示デバイスにおける前記見本画像の前記表示領域を決定する、請求項6又は7に記載の作業支援システム。
  9. コンピュータを、請求項1から7のいずれか一項に記載の作業支援システムとして機能させるためのプログラム。
JP2014210868A 2014-10-15 2014-10-15 作業支援システム及びプログラム Active JP6275011B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014210868A JP6275011B2 (ja) 2014-10-15 2014-10-15 作業支援システム及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014210868A JP6275011B2 (ja) 2014-10-15 2014-10-15 作業支援システム及びプログラム

Publications (2)

Publication Number Publication Date
JP2016081241A true JP2016081241A (ja) 2016-05-16
JP6275011B2 JP6275011B2 (ja) 2018-02-07

Family

ID=55956310

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014210868A Active JP6275011B2 (ja) 2014-10-15 2014-10-15 作業支援システム及びプログラム

Country Status (1)

Country Link
JP (1) JP6275011B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018092299A (ja) * 2016-12-01 2018-06-14 Kddi株式会社 操作支援装置
JP2018156239A (ja) * 2017-03-16 2018-10-04 Kddi株式会社 操作支援装置
JP2019531523A (ja) * 2016-11-10 2019-10-31 シーアールアールシー チンタオ シーファン カンパニー,リミティッド 鉄道車両の監視方法及びシステム
JPWO2021132168A1 (ja) * 2019-12-26 2021-07-01
JP2021131617A (ja) * 2020-02-18 2021-09-09 株式会社メルカリ 情報処理方法、プログラム、及び情報処理装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003288111A (ja) * 2002-03-28 2003-10-10 Daihen Corp 加工作業ガイド方法及び加工作業ガイドプログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006079295A (ja) * 2004-09-08 2006-03-23 Fuji Electric Systems Co Ltd 製造工程履歴管理装置
JP2012218037A (ja) * 2011-04-11 2012-11-12 Murata Machinery Ltd 板金工程作業支援システム
JP2014071757A (ja) * 2012-09-28 2014-04-21 Brother Ind Ltd 作業補助システムおよびプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003288111A (ja) * 2002-03-28 2003-10-10 Daihen Corp 加工作業ガイド方法及び加工作業ガイドプログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2006079295A (ja) * 2004-09-08 2006-03-23 Fuji Electric Systems Co Ltd 製造工程履歴管理装置
JP2012218037A (ja) * 2011-04-11 2012-11-12 Murata Machinery Ltd 板金工程作業支援システム
JP2014071757A (ja) * 2012-09-28 2014-04-21 Brother Ind Ltd 作業補助システムおよびプログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019531523A (ja) * 2016-11-10 2019-10-31 シーアールアールシー チンタオ シーファン カンパニー,リミティッド 鉄道車両の監視方法及びシステム
US11609560B2 (en) 2016-11-10 2023-03-21 Crrc Qingdao Sifang Co., Ltd. Method and system for monitoring rail vehicle
JP2018092299A (ja) * 2016-12-01 2018-06-14 Kddi株式会社 操作支援装置
JP2018156239A (ja) * 2017-03-16 2018-10-04 Kddi株式会社 操作支援装置
JPWO2021132168A1 (ja) * 2019-12-26 2021-07-01
WO2021132168A1 (ja) * 2019-12-26 2021-07-01 株式会社Nttドコモ 画像表示装置
JP7217368B2 (ja) 2019-12-26 2023-02-02 株式会社Nttドコモ 画像表示装置
JP2021131617A (ja) * 2020-02-18 2021-09-09 株式会社メルカリ 情報処理方法、プログラム、及び情報処理装置
JP7382847B2 (ja) 2020-02-18 2023-11-17 株式会社メルカリ 情報処理方法、プログラム、及び情報処理装置

Also Published As

Publication number Publication date
JP6275011B2 (ja) 2018-02-07

Similar Documents

Publication Publication Date Title
JP6275011B2 (ja) 作業支援システム及びプログラム
US10339382B2 (en) Feedback based remote maintenance operations
JP6214828B1 (ja) ドッキング・システム
JP2016224810A5 (ja)
AU2018288650A1 (en) Augmented reality user interface on mobile device for presentation of information related to industrial process, control and automation system, or other system
JP6077010B2 (ja) 作業支援端末および作業支援システム
US10620693B2 (en) Apparatus and method for displaying image in virtual space
JP2011227875A5 (ja) 情報処理システム、情報処理方法及びプログラム
WO2015060393A1 (ja) 遠隔行動誘導システム及びその処理方法
JP2014238819A5 (ja)
US11132842B2 (en) Method and system for synchronizing a plurality of augmented reality devices to a virtual reality device
JP2012152016A (ja) ケーブル接続作業支援装置
US20130278636A1 (en) Object display device, object display method, and object display program
JP2017135519A5 (ja)
JP2017033575A (ja) 情報処理システム、その制御方法、及びプログラム、並びに、情報処理装置、その制御方法、及びプログラム
JP2015188566A5 (ja)
JP2013105203A5 (ja) 情報処理装置およびその制御方法
JP2018097581A (ja) 情報処理装置およびプログラム
CN104571992A (zh) 一种多屏同时标注方法及装置
JP2016177097A5 (ja)
JP2014143652A (ja) 情報処理装置及びプログラム
JP2023082923A (ja) 作業支援システム、作業対象特定装置および方法
JP2010205031A (ja) 入力位置特定方法、入力位置特定システムおよび入力位置特定用プログラム
WO2017179872A1 (ko) 영상 처리 방법 및 이를 지원하는 전자 장치
US20190041649A1 (en) Display system, information processor, information processing method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160506

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170704

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180109

R150 Certificate of patent or registration of utility model

Ref document number: 6275011

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350