JP7270154B2 - 遠隔作業支援システム - Google Patents
遠隔作業支援システム Download PDFInfo
- Publication number
- JP7270154B2 JP7270154B2 JP2020165496A JP2020165496A JP7270154B2 JP 7270154 B2 JP7270154 B2 JP 7270154B2 JP 2020165496 A JP2020165496 A JP 2020165496A JP 2020165496 A JP2020165496 A JP 2020165496A JP 7270154 B2 JP7270154 B2 JP 7270154B2
- Authority
- JP
- Japan
- Prior art keywords
- supporter
- worker
- support system
- work support
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 claims description 38
- 238000004891 communication Methods 0.000 claims description 34
- 238000000034 method Methods 0.000 claims description 13
- 239000000284 extract Substances 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 6
- 230000007613 environmental effect Effects 0.000 claims description 4
- 238000012986 modification Methods 0.000 description 29
- 230000004048 modification Effects 0.000 description 29
- 238000012423 maintenance Methods 0.000 description 8
- 230000008439 repair process Effects 0.000 description 7
- 239000004984 smart glass Substances 0.000 description 6
- 230000006870 function Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000009434 installation Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- OCKGFTQIICXDQW-ZEQRLZLVSA-N 5-[(1r)-1-hydroxy-2-[4-[(2r)-2-hydroxy-2-(4-methyl-1-oxo-3h-2-benzofuran-5-yl)ethyl]piperazin-1-yl]ethyl]-4-methyl-3h-2-benzofuran-1-one Chemical class C1=C2C(=O)OCC2=C(C)C([C@@H](O)CN2CCN(CC2)C[C@H](O)C2=CC=C3C(=O)OCC3=C2C)=C1 OCKGFTQIICXDQW-ZEQRLZLVSA-N 0.000 description 1
- 240000004050 Pentaglottis sempervirens Species 0.000 description 1
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/04—Programme control other than numerical control, i.e. in sequence controllers or logic controllers
- G05B19/042—Programme control other than numerical control, i.e. in sequence controllers or logic controllers using digital processors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/15—Conference systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/20—Pc systems
- G05B2219/24—Pc safety
- G05B2219/24019—Computer assisted maintenance
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/32—Operator till task planning
- G05B2219/32014—Augmented reality assists operator in maintenance, repair, programming, assembly, use of head mounted display with 2-D 3-D display and voice feedback, voice and gesture command
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/32—Operator till task planning
- G05B2219/32226—Computer assisted repair, maintenance of system components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/221—Announcement of recognition results
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M11/00—Telephonic communication systems specially adapted for combination with other electrical systems
- H04M11/10—Telephonic communication systems specially adapted for combination with other electrical systems with dictation recording and playback systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M2203/00—Aspects of automatic or semi-automatic exchanges
- H04M2203/05—Aspects of automatic or semi-automatic exchanges related to OAM&P
- H04M2203/053—Aspects of automatic or semi-automatic exchanges related to OAM&P remote terminal provisioning, e.g. of applets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M2203/00—Aspects of automatic or semi-automatic exchanges
- H04M2203/10—Aspects of automatic or semi-automatic exchanges related to the purpose or context of the telephonic communication
- H04M2203/1016—Telecontrol
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Optics & Photonics (AREA)
- Automation & Control Theory (AREA)
- User Interface Of Digital Computer (AREA)
- Telephonic Communication Services (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Closed-Circuit Television Systems (AREA)
- Lifting Devices For Agricultural Implements (AREA)
- Selective Calling Equipment (AREA)
- Jib Cranes (AREA)
Description
る。
(1)全体構成
第1実施形態の遠隔作業支援システム1は、図2に示すように、ウエアラブルデバイス10と、携帯端末20と、サーバ30と、支援者端末40と、データベース50とを有している。ウエアラブルデバイス10と携帯端末20とは、現場作業者「AAA_aaa」、「BBB_bbb」および「CCC_ccc」がそれぞれ保持している。現場作業者は複数の現場に別々に派遣されている複数の作業者である。図2においては、3つの現場に3人の作業者が派遣されているが、現場の数、作業者の数はこれに限定されない。支援者端末40は、現場作業者から遠隔地にいる支援者が利用するように配置されている。
(2-1)ウエアラブルデバイス10
ウエアラブルデバイス10は、図1に示すように首掛け式のデバイスである。ウエアラブルデバイス10は、環状であり、環の一部が開いた形をしている。その開いた部分を利用して首に挿入し、開いた部分が前にくるように装着する。
携帯端末20は、作業者に携帯または保持される。携帯端末20は、スマートフォン、タブレット、PCなどであっても良い。携帯端末20は、表示部21と、通信部22と、制御部23とを有している。携帯端末20は、第2回線T2でネットワークに接続されている。
サーバ30は、コンピュータである。サーバ30は、プロセッサ31と、記憶部32とを有している。記憶部32には、アプリケーションやデータが保存されている。本実施形態においては、記憶部32に記憶された遠隔作業支援システム1のアプリケーションがプロセッサ31に読み込まれ実行される。遠隔作業支援システム1のアプリケーションは、WEBアプリケーションである。支援者端末40と携帯端末20においてはブラウザを立ち上げ、ブラウザから遠隔作業支援システム1のアプリケーションにアクセスする。
データベース50は、電子データを保存する記憶部を備えている。データベース50は、ネットワークに接続されている。本実施形態においては、データベース50は、機器の修理や保守メンテナンスで利用される現場作業支援情報を格納している。現場作業支援情報の格納は、データベース50に限定されない。サーバ30の記憶部32に格納しても良い。支援者端末40の記憶部に格納しても良い。
支援者端末40は、現場作業者を遠隔支援する支援者により利用される。支援者端末40は、PCであってもよい。支援者端末40は、音声入力部41と、音声出力部42と、表示部43と、通信部44と、制御部45と、を有している。
遠隔作業支援システム1のアプリケーションが実行中のときの、支援者端末40の表示部43のブラウザの表示画面の一例を図3に示す。
次に、本実施形態の遠隔作業支援システム1を用いた作業者の支援の方法について説明する。
(4-1)
本実施形態の遠隔作業支援システム1は、ウエアラブルデバイス10と、携帯端末20と、支援者端末40とを備えている。ウエアラブルデバイス10は、現場作業者が装着して用いる。ウエアラブルデバイス10は、撮像部11を備えており、支援者端末40に作業者周辺の撮像画像を送信することができる。また、ウエアラブルデバイス10と、支援者端末40とで、電話のように用いて通話が可能である。
本実施形態のウエアラブルデバイス10は、首掛け式のデバイスである。したがって、作業者は、ハンズフリーに作業を行うことができる。
ウエアラブルデバイス10の撮像部11で撮影する画像は、動画または静止画である。
ウエアラブルデバイス10の撮像部11で撮影された画像が、支援者端末40において、選択、加工、または、情報付加されて携帯端末20に送信され、携帯端末20の表示部21に表示される。
作業者および支援者の発話は、音声認識され、テキスト情報として、支援者端末40の表示部43の発話記録116に表示される。
上記テキスト情報は、さらに、携帯端末20の表示部21に表示されてもよい。作業者においても、支援者との発話をテキストで表示部21で確認できるのは有用である。また、重要な発話内容テキストを支援者が抽出して作業者の携帯端末20に表示しても良い。
遠隔作業支援システム1は、支援者端末40とウエアラブルデバイス10とを結ぶ第1回線T1と、支援者端末40と携帯端末20を結ぶ第2回線T2とを有する。第1回線T1は、作業者による作業の間、連続して用いられ、第2回線T2は、作業者による作業の間、必要に応じて接続される。
遠隔作業支援システム1のサーバ30は、ウエアラブルデバイス10の撮像部11で撮像された画像をサーバ30の記憶部32に記憶する。また、作業者および支援者の発話を音声認識してテキスト化し、サーバ30の記憶部32に記憶する。サーバ30は、これらの画像、テキスト化された文字などから、作業の進捗状況、作業の終了時間を推定して、支援者端末40の表示部43に表示してもよい。作業の進捗状況は、○○%終了、などのように推定、表示しても良い。このように支援者は作業の進捗を知ることができる。
支援者端末40は、表示部43に参照文献リスト115を表示する。参照文献とは、現場作業支援情報である。現場作業支援情報は、ネットワーク上のデータベース50に保存されている。支援者は、参照文献リスト115より、現場作業支援情報の内容にアクセスできる。支援者は、現場作業支援情報の内容を、抽出、加工して、携帯端末20に送信する。
本実施形態の遠隔作業支援システム1による作業支援は、様々な手段による支援を含んでいる。言い換えると、音声による支援、加工された画像による支援、支援者端末に置いて入力された文字による支援、支援者の発話がテキスト化された文字による支援、のいずれか、またはこれらの組み合わせによる支援である。
(5-1)変形例1A
第1実施形態においては、図3に示すように、アクティブな作業者「AAA aaa」のライブ画像113のみが表示部43に表示されていた。変形例1Aにおいては、接続されている全ての作業者「AAA aaa」、「BBB bbb」、「CCC ccc」、「DDD ddd」、および、「EEE eee」のライブ画像がライブ画像113に表示されている。言い換えると、アクティブでない作業者のライブ映像もライブ画像113に同時に表示されている。ただし、アクティブな作業者「AAA aaa」は上に大きく表示され、アクティブでない作業者「BBB bbb」、「CCC ccc」、「DDD ddd」、および、「EEE eee」の映像は、下に小さく表示されている。このように変形例1Aの表示部43によって、支援者は、アクティブでない作業者、言い換えると、支援中で無い作業者のおおよその動きを知ることができる。支援者は、これを利用して、たとえば、作業者が好ましくない動きをしようとしているときは、作業者を注意することができる。
第1実施形態では、音声を音声認識して、テキスト化するのは、サーバ30において実行していた。変形例1Bにおいては、音声認識およびテキスト化は、ウエアラブルデバイス10または支援者端末40にて行われる。したがって、ウエアラブルデバイス10または支援者端末40は、音声のオーディオデータと音声のテキストデータとを両方ともネットワークに発信する。さらに、音声認識機能だけでなく、ウエアラブルデバイス10または支援者端末40は、翻訳機能を有していても良い。
第1実施形態では、ウエアラブルデバイス10は、首掛け式であった。ウエアラブルデバイス10は他の形式であっても良い。身体に装着して、ハンズフリーになるものが好ましい。変形例1Cのウエアラブルデバイス10は、頭部に装着するものである。具体的には、ヘルメット、帽子、または、ヘアバンド、のような形態のものである。
第1実施形態の遠隔作業支援システム1では、現場作業者は、ウエアラブルデバイス10と、携帯端末20を保持し、使用していた。遠隔作業支援システム1は、さらに、別のデバイスを利用してもよい。別のデバイスは、支援者端末40にネットワークを介して接続されていてもよい。別のデバイスは、サーバ30に接続されていてもよい。
第1実施形態においては、ウエアラブルデバイス10、携帯端末20は、それぞれ独立に第1回線(T1)または第2回線(T2)によって、ネットワークに接続されていた。変形例1Eにおいては、ウエアラブルデバイス10、携帯端末20は、互いにP2Pで接続されている。
別の通信デバイスがウエアラブルデバイス10に近距離無線通信技術で接続することができる。近距離無線通信技術は、Bluetooth(登録商標)、赤外線通信、Wi-Fiであってもよい。
第1実施形態においては、支援者が発生する音声はウエアラブルデバイス10に、支援者端末40から送信する画像は、携帯端末20に送信された。
本実施形態の作業者支援システムは、他の用途、たとえば、研修目的での利用が可能である。
(6)第2実施形態の遠隔作業支援システム
第2実施形態の遠隔作業支援システムを模式的に説明する図を図4に示す。
(7-1)変形例2A
変形例2Aの構成は、第2実施形態とほぼ同様である。変形例2Aでは、サーバ30が作業支援データを蓄積していくことにより、機器の操作マニュアルや修理メンテナンス作業マニュアルの不適切な点を自動識別する場合が起こりうる。サーバ30は、このような場合には、操作マニュアルや修理メンテナンス作業マニュアルの修正、最適化を提案する。
<第3実施形態>
(8)第3実施形態の遠隔作業支援システム
第3実施形態の遠隔作業支援システム1の構成は、図2に示すように、第1実施形態の遠隔作業支援システム1の構成と同じである。遠隔作業支援システム1は、複数のデバイスを含む。複数のデバイスとは、ウエアラブルデバイス10、携帯端末20、および、支援者端末40を含む。複数のデバイスは、さらに別のデバイスを含んでもよい。別のデバイスとは、ウエアラブルデバイス10、携帯端末20以外に作業者が利用するデバイスであって、音声または画像の入力または出力を支援するデバイスであってもよい。具体的な別のデバイスの例としては、カメラ、スマートフォン、スマートウオッチ、スマートグラス、ヘッドセット、ウエアラブルデバイス、などであってもよい。変形例1Dと同様のウエブカメラや、変形例1Fと同様の通信デバイスであってもよい。
(9-1)変形例3A
変形例3Aでは、サーバ30は、現場作業者による作業の進捗を管理し、記憶部32に記憶する。サーバ30は作業の進捗に応じて、前記複数のデバイスのうち少なくとも1つ以上のデバイスを呼び出す。
変形例3Bでは、サーバ30は、現場作業者および支援者の発話を音声認識する。サーバ30は、音声認識によって取得したキーワードに基づいて、複数のデバイスのうち少なくとも1つ以上のデバイスを呼び出す。
変形例3Cは、変形例1Hと同様に研修目的での遠隔作業支援システム1の利用である。本実施形態は、変形例1Hにプラスして、さらに、サーバ30は、支援者端末40から、現場作業者が利用する複数のデバイスのうち少なくとも1つ以上のデバイスの指定を受け付ける。
10 ウエアラブルデバイス
11 撮像部
12 音声入力部
13 音声出力部
20 携帯端末
21 表示部
22 通信部
40 支援者端末
41 音声入力部
42 音声出力部
43 表示部
T1 第1回線
T2 第2回線
Claims (19)
- 現場作業者に装着され、撮像部(11)と、音声入力部(12)と、音声出力部(13)と、ネットワークに第1回線(T1)で接続され、前記撮像部で撮像された画像を送信し、音声を送受信する通信部(16)を有し、画像表示部を有さない、ウエアラブルデバイス(10)と、
前記ウエアラブルデバイスとは別に前記現場作業者に携帯され、ネットワークに前記第1回線と異なる第2回線(T2)で接続され、画像を受信する画像受信部(22)と、受信された画像を表示する表示部(21)を有する携帯端末(20)と、
前記現場作業者を遠隔支援する支援者により利用され、音声入力部(41)と、音声出力部(42)と、表示部(43)と、を有し、前記第1回線(T1)を経由した通信により、前記ウエアラブルデバイスと音声を送受信し、かつ、前記ウエアラブルデバイスからの画像を受信し、前記第2回線(T2)を経由した通信により、前記携帯端末へ画像を送信する支援者端末(40)と、
を備えた
遠隔作業支援システム。 - 前記ウエアラブルデバイスは、さらに、前記撮像部で撮像された動画を含む画像を支援者端末に送信する前記通信部を制御する制御部(15)を有する
請求項1に記載の遠隔作業支援システム。 - 前記ウエアラブルデバイスは、首掛け式のデバイスである、
請求項1に記載の遠隔作業支援システム。 - 前記支援者端末の前記表示部は、前記ウエアラブルデバイスの前記撮像部で撮影した動画および静止画を表示する、
請求項1~3のいずれか1項に記載の遠隔作業支援システム。 - 前記ウエアラブルデバイスの前記撮像部で撮影された画像が、前記支援者端末において、選択、加工、または、情報付加されて前記携帯端末に送信され、前記携帯端末の表示部に表示される、
請求項1~4のいずれか1項に記載の遠隔作業支援システム。 - 前記現場作業者および前記支援者の発話は、音声認識され、テキスト情報として、前記支援者端末の表示部に表示される、
請求項1~5のいずれか1項に記載の遠隔作業支援システム。 - 前記テキスト情報は、さらに、前記携帯端末の表示部に表示される、
請求項6に記載の遠隔作業支援システム。 - 前記第1回線は、前記現場作業者による作業の間、連続して用いられ、
前記第2回線は、前記現場作業者による作業の間、必要に応じて接続される、
請求項1~7のいずれか1項に記載の遠隔作業支援システム。 - 前記現場作業者による作業の作業進捗を、前記撮像部で撮像された画像、または/および、前記現場作業者および前記支援者の発話から自動抽出し、作業の進捗状況または作業の終了時間を推定し、前記支援者端末の前記表示部に、前記進捗状況または前記終了時間を表示する、
請求項1~8のいずれか1項に記載の遠隔作業支援システム。 - 前記支援者端末は、現場作業支援情報を記憶するデータベース(50)にアクセスし、前記現場作業支援情報を抽出、加工して、前記携帯端末に送信する、
請求項1~9のいずれか1項に記載の遠隔作業支援システム。 - 前記支援者端末より前記現場作業者への支援は、音声による支援、加工された画像による支援、前記支援者端末に於いて入力された文字による支援、支援者の発話がテキスト化された文字による支援、のいずれか、またはこれらの組み合わせによる支援を含む、
請求項1~10のいずれか1項に記載の遠隔作業支援システム。 - 前記遠隔作業支援システムは、同一のサーバに接続可能な複数のデバイスを備え、
前記複数のデバイスは、前記ウエアラブルデバイス、前記携帯端末、および、前記支援者端末を含み、
前記サーバは、所定の条件に基づいて、前記複数のデバイスのうち少なくとも1つ以上のデバイスを指定し、前記指定に基づいて接続対象となるデバイスを呼び出す、
請求項1~11のいずれか1項に記載の遠隔作業支援システム。 - 前記サーバは、前記現場作業者の作業現場の環境情報を取得し、
前記サーバは、前記環境情報に基づいて、前記複数のデバイスのうち少なくとも1つ以上のデバイスを呼び出す、
請求項12に記載の遠隔作業支援システム。 - 前記サーバは、前記現場作業者による作業の進捗を管理し、
前記サーバは、作業の進捗に基づいて、前記複数のデバイスのうち少なくとも1つ以上のデバイスを呼び出す、
請求項12に記載の遠隔作業支援システム。 - 前記サーバは、前記現場作業者および前記支援者の発話を音声認識し、
前記音声認識よって取得したキーワードに基づいて、前記複数のデバイスのうち少なくとも1つ以上のデバイスを呼び出す、
請求項12に記載の遠隔作業支援システム。 - 前記サーバは、さらに、前記支援者端末から、前記現場作業者が利用する前記複数のデバイスのうち少なくとも1つ以上のデバイスの指定を受け付ける、
請求項12~15のいずれか1項に記載の遠隔作業支援システム。 - 前記複数のデバイスはデバイス間で相互に通信可能である、
請求項1~16のいずれか1項に記載の遠隔作業支援システム(1)。 - 現場作業者に装着され、撮像部(11)と、音声入力部(12)と、音声出力部(13)と、ネットワークに第1回線(T1)で接続され、前記撮像部で撮像された画像を送信し、音声を送受信する通信部(16)を有し、画像表示部を有さない、ウエアラブルデバイス(10)と、
前記ウエアラブルデバイスとは別に現場作業者に携帯され、ネットワークに前記第1回線と異なる第2回線(T2)で接続され、画像を受信する画像受信部(22)と、受信された画像を表示する表示部(21)を有する携帯端末(20)と、
現場作業者を遠隔支援する支援者により利用され、音声入力部(41)と、音声出力部(42)と、表示部(43)と、を有し、前記第1回線(T1)を経由した通信により、前記ウエアラブルデバイスと音声を送受信し、かつ、前記ウエアラブルデバイスからの画像を受信し、前記第2回線(T2)を経由した通信により、前記携帯端末へ画像を送信する支援者端末(40)とを含む、複数のデバイスと接続するサーバ(30)であって、
所定の条件に基づいて、前記複数のデバイスのうち、少なくとも1つ以上のデバイスを指定し、前記指定に基づいて通信対象となるデバイスを呼び出す、サーバ。 - 前記ウエアラブルデバイスは、さらに、前記撮像部で撮像された動画を含む画像を支援者端末に送信する前記通信部を制御する制御部(15)を有する
請求項18に記載のサーバ。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022115125A JP2022145707A (ja) | 2019-11-20 | 2022-07-19 | 遠隔作業支援システム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019209987 | 2019-11-20 | ||
JP2019209987 | 2019-11-20 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022115125A Division JP2022145707A (ja) | 2019-11-20 | 2022-07-19 | 遠隔作業支援システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021083079A JP2021083079A (ja) | 2021-05-27 |
JP7270154B2 true JP7270154B2 (ja) | 2023-05-10 |
Family
ID=75966362
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020165496A Active JP7270154B2 (ja) | 2019-11-20 | 2020-09-30 | 遠隔作業支援システム |
JP2022115125A Pending JP2022145707A (ja) | 2019-11-20 | 2022-07-19 | 遠隔作業支援システム |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022115125A Pending JP2022145707A (ja) | 2019-11-20 | 2022-07-19 | 遠隔作業支援システム |
Country Status (6)
Country | Link |
---|---|
US (1) | US20220276701A1 (ja) |
EP (1) | EP4064694A4 (ja) |
JP (2) | JP7270154B2 (ja) |
CN (1) | CN114731389A (ja) |
AU (1) | AU2020385740B2 (ja) |
WO (1) | WO2021100331A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7382372B2 (ja) * | 2021-09-27 | 2023-11-16 | 株式会社 日立産業制御ソリューションズ | 作業支援装置、作業支援システム及び作業支援プログラム |
WO2023068275A1 (ja) * | 2021-10-18 | 2023-04-27 | Fairy Devices株式会社 | 情報処理システム |
WO2023188951A1 (ja) * | 2022-03-28 | 2023-10-05 | 株式会社サンタ・プレゼンツ | 遠隔指示システム |
JP7482459B2 (ja) | 2022-09-05 | 2024-05-14 | ダイキン工業株式会社 | システム、支援方法、サーバ装置及び通信プログラム |
WO2024190673A1 (ja) * | 2023-03-16 | 2024-09-19 | パナソニックIpマネジメント株式会社 | 情報処理方法、情報処理装置、及び情報処理プログラム |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004356743A (ja) | 2003-05-27 | 2004-12-16 | Tamura Seisakusho Co Ltd | マイクセット |
JP2008123366A (ja) | 2006-11-14 | 2008-05-29 | Nec Corp | 遠隔作業支援システム、遠隔作業支援プログラム、及びサーバ |
JP2015228009A (ja) | 2014-06-03 | 2015-12-17 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置の制御方法、情報送受信システム、および、コンピュータープログラム |
US20160031570A1 (en) | 2014-07-29 | 2016-02-04 | Airbus (S.A.S.) | Monitoring of a maintenance intervention on an aircraft |
WO2016063587A1 (ja) | 2014-10-20 | 2016-04-28 | ソニー株式会社 | 音声処理システム |
JP2016181767A (ja) | 2015-03-23 | 2016-10-13 | パナソニックIpマネジメント株式会社 | ウェアラブルカメラ及びウェアラブルカメラシステム |
JP2018185570A (ja) | 2017-04-24 | 2018-11-22 | トーヨーカネツソリューションズ株式会社 | 遠隔支援システム |
WO2019026597A1 (ja) | 2017-07-31 | 2019-02-07 | ソニー株式会社 | 情報処理装置、情報処理方法、並びにプログラム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008096868A (ja) * | 2006-10-16 | 2008-04-24 | Sony Corp | 撮像表示装置、撮像表示方法 |
JP2011039996A (ja) * | 2009-08-18 | 2011-02-24 | Chugoku Electric Power Co Inc:The | 作業支援システム |
JP6540108B2 (ja) * | 2015-03-09 | 2019-07-10 | 富士通株式会社 | 画像生成方法、システム、装置、及び端末 |
JP6585929B2 (ja) * | 2015-06-02 | 2019-10-02 | キヤノン株式会社 | システム、システムの制御方法 |
JP2018067773A (ja) * | 2016-10-18 | 2018-04-26 | キヤノン株式会社 | 撮像装置とその制御方法、プログラム及び記憶媒体 |
JP2018092478A (ja) * | 2016-12-06 | 2018-06-14 | 矢崎総業株式会社 | 作業指示システム |
EP3333688B1 (en) * | 2016-12-08 | 2020-09-02 | LG Electronics Inc. | Mobile terminal and method for controlling the same |
JP2018207420A (ja) | 2017-06-09 | 2018-12-27 | キヤノン株式会社 | 遠隔作業支援システム |
JP7080636B2 (ja) * | 2017-12-28 | 2022-06-06 | Dynabook株式会社 | システム |
US11326886B2 (en) * | 2018-04-16 | 2022-05-10 | Apprentice FS, Inc. | Method for controlling dissemination of instructional content to operators performing procedures at equipment within a facility |
-
2020
- 2020-09-30 CN CN202080080913.2A patent/CN114731389A/zh active Pending
- 2020-09-30 WO PCT/JP2020/037310 patent/WO2021100331A1/ja unknown
- 2020-09-30 AU AU2020385740A patent/AU2020385740B2/en active Active
- 2020-09-30 JP JP2020165496A patent/JP7270154B2/ja active Active
- 2020-09-30 EP EP20891306.1A patent/EP4064694A4/en active Pending
-
2022
- 2022-05-19 US US17/748,805 patent/US20220276701A1/en active Pending
- 2022-07-19 JP JP2022115125A patent/JP2022145707A/ja active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004356743A (ja) | 2003-05-27 | 2004-12-16 | Tamura Seisakusho Co Ltd | マイクセット |
JP2008123366A (ja) | 2006-11-14 | 2008-05-29 | Nec Corp | 遠隔作業支援システム、遠隔作業支援プログラム、及びサーバ |
JP2015228009A (ja) | 2014-06-03 | 2015-12-17 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置の制御方法、情報送受信システム、および、コンピュータープログラム |
US20160031570A1 (en) | 2014-07-29 | 2016-02-04 | Airbus (S.A.S.) | Monitoring of a maintenance intervention on an aircraft |
WO2016063587A1 (ja) | 2014-10-20 | 2016-04-28 | ソニー株式会社 | 音声処理システム |
JP2016181767A (ja) | 2015-03-23 | 2016-10-13 | パナソニックIpマネジメント株式会社 | ウェアラブルカメラ及びウェアラブルカメラシステム |
JP2018185570A (ja) | 2017-04-24 | 2018-11-22 | トーヨーカネツソリューションズ株式会社 | 遠隔支援システム |
WO2019026597A1 (ja) | 2017-07-31 | 2019-02-07 | ソニー株式会社 | 情報処理装置、情報処理方法、並びにプログラム |
Also Published As
Publication number | Publication date |
---|---|
EP4064694A4 (en) | 2023-01-11 |
CN114731389A (zh) | 2022-07-08 |
JP2022145707A (ja) | 2022-10-04 |
AU2020385740B2 (en) | 2023-05-25 |
US20220276701A1 (en) | 2022-09-01 |
AU2020385740A1 (en) | 2022-07-07 |
WO2021100331A1 (ja) | 2021-05-27 |
EP4064694A1 (en) | 2022-09-28 |
JP2021083079A (ja) | 2021-05-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7270154B2 (ja) | 遠隔作業支援システム | |
EP2842055B1 (en) | Instant translation system | |
JP6439788B2 (ja) | 情報処理装置、制御方法、プログラム、およびシステム | |
CN100358358C (zh) | 视频电话手语翻译辅助装置及应用其的手语翻译系统 | |
JP2003514294A (ja) | 対象に指向してマーキングし情報を選択された技術的構成要素に対応付けるシステム及び方法 | |
US20060125914A1 (en) | Video input for conversation with sing language, video i/o device for conversation with sign language, and sign language interpretation system | |
CN114760555A (zh) | 用户可配置的话音命令 | |
WO2017154136A1 (ja) | 携帯情報端末及びそれに用いる情報処理方法 | |
JP2019036914A (ja) | 連携表示システム | |
JPWO2020012955A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
CN114661026A (zh) | 基于增强现实的交互式车辆远程诊断方法、系统及其存储介质 | |
JP2004214895A (ja) | 通信補助装置 | |
JP7265667B2 (ja) | 作業支援システムおよび作業支援方法 | |
JP7074716B2 (ja) | 警備システム及び監視表示装置 | |
JP2018186366A (ja) | 会議システム | |
JP2008217545A (ja) | コンソール情報取得システム、コンソール情報取得方法及びコンソール情報取得プログラム | |
EP3123355B1 (en) | System comprising an audio device and a mobile device for displaying information concerning the audio device | |
JP6826322B2 (ja) | 故障部品交換支援方法 | |
JP2014027459A (ja) | 通信装置、通信方法及び通信プログラム | |
KR20140000570U (ko) | 안경형 원격 제어 장치 | |
CN109274929A (zh) | 可穿戴设备和可穿戴设备的控制方法 | |
US20150220506A1 (en) | Remote Document Annotation | |
JP2015220684A (ja) | 携帯端末装置および読唇処理プログラム | |
JP2022114111A (ja) | 作業支援システム、作業支援制御装置、及び作業支援制御プログラム | |
CN203368454U (zh) | 可视语音控制器、无线通讯系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200930 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210105 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210305 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210803 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20210914 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20210914 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20210914 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211202 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20220419 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20220719 |
|
C22 | Notice of designation (change) of administrative judge |
Free format text: JAPANESE INTERMEDIATE CODE: C22 Effective date: 20220830 |
|
C22 | Notice of designation (change) of administrative judge |
Free format text: JAPANESE INTERMEDIATE CODE: C22 Effective date: 20221101 |
|
C13 | Notice of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: C13 Effective date: 20221220 |
|
C30 | Protocol of an oral hearing |
Free format text: JAPANESE INTERMEDIATE CODE: C30 Effective date: 20230206 |
|
C302 | Record of communication |
Free format text: JAPANESE INTERMEDIATE CODE: C302 Effective date: 20230210 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230220 |
|
C23 | Notice of termination of proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C23 Effective date: 20230307 |
|
C03 | Trial/appeal decision taken |
Free format text: JAPANESE INTERMEDIATE CODE: C03 Effective date: 20230404 |
|
C30A | Notification sent |
Free format text: JAPANESE INTERMEDIATE CODE: C3012 Effective date: 20230404 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230411 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7270154 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |