JP6179927B2 - 遠隔行動誘導システム及びその処理方法 - Google Patents
遠隔行動誘導システム及びその処理方法 Download PDFInfo
- Publication number
- JP6179927B2 JP6179927B2 JP2015543910A JP2015543910A JP6179927B2 JP 6179927 B2 JP6179927 B2 JP 6179927B2 JP 2015543910 A JP2015543910 A JP 2015543910A JP 2015543910 A JP2015543910 A JP 2015543910A JP 6179927 B2 JP6179927 B2 JP 6179927B2
- Authority
- JP
- Japan
- Prior art keywords
- camera
- time
- worker
- instructor
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000009471 action Effects 0.000 title claims description 30
- 238000003672 processing method Methods 0.000 title claims description 20
- 210000001508 eye Anatomy 0.000 claims description 18
- 238000012937 correction Methods 0.000 claims description 14
- 230000006854 communication Effects 0.000 claims description 9
- 238000004891 communication Methods 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 230000007175 bidirectional communication Effects 0.000 claims description 2
- 239000000284 extract Substances 0.000 claims 2
- 230000005540 biological transmission Effects 0.000 description 19
- 238000000034 method Methods 0.000 description 7
- 210000000707 wrist Anatomy 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 4
- 230000003190 augmentative effect Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 244000045947 parasite Species 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1679—Programme controls characterised by the tasks executed
- B25J9/1689—Teleoperation
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
- G05B19/41805—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by assembly
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/15—Conference systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/31—From computer integrated manufacturing till monitoring
- G05B2219/31046—Aid for assembly, show display on screen next workpiece, task, position to be assembled, executed
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/32—Operator till task planning
- G05B2219/32014—Augmented reality assists operator in maintenance, repair, programming, assembly, use of head mounted display with 2-D 3-D display and voice feedback, voice and gesture command
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Automation & Control Theory (AREA)
- Manufacturing & Machinery (AREA)
- Quality & Reliability (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Software Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- Optics & Photonics (AREA)
- Human Computer Interaction (AREA)
- Closed-Circuit Television Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Studio Devices (AREA)
Description
しかしながら、上記した遠隔行動誘導システムでは、指示者(熟練作業員)の動作情報を受けて現場の作業者(作業員)がかかる動作情報に基づいた自身の行動をその場で判断するのに対し、マスタースレーブロボットでは、その行動は操作者の動作情報に対応して決定される。すなわち、現場の作業者(ロボット)の行動の決定タイミングが異なるのである。
2 通信回線
11、21 PC
14、24 カメラ
15、25 モニタ
Claims (8)
- 作業者の作業映像を見ながら遠隔地に居る指示者が該作業者に作業指示を与える遠隔行動誘導システムであって、
前記作業者に与えられる第1カメラ及び第1モニタと、
前記第1カメラ及び前記第1モニタを制御する作業者側コンピュータと、
前記指示者に与えられる第2カメラ及び第2モニタと、
前記第2カメラ及び前記第2モニタを制御し前記作業者側コンピュータに双方向通信ネットワークで接続された指示者側コンピュータと、を含み、
前記指示者側コンピュータは、時刻t1の前記第1カメラからの映像に対応して、時刻t2において、前記第2カメラの映像から作業指示映像を抽出するとともに、
(1)前記指示者側コンピュータは、時刻t1の前記第1カメラからの映像に時刻t2の前記作業指示映像を重畳させて前記第2モニタに表示し、且つ、
(2)前記作業者側コンピュータは、時刻t3の前記第1カメラからの映像に対して時刻t2の前記作業指示映像をτ=|t3−t1|の関数である時間差補正を与えて重畳させて前記第1モニタに表示することを特徴とする遠隔行動誘導システム。 - 前記時間差補正は、時刻t1及び時刻t3の前記第1カメラからの映像の比較に基づくホモグラフィ変換であることを特徴とする請求項1記載の遠隔行動誘導システム。
- 前記第1カメラは前記作業者の片眼を覆う単眼デバイス、前記第2カメラは前記指示者の両眼を覆う両眼デバイスであることを特徴とする請求項2記載の遠隔行動誘導システム。
- 前記第1カメラ及び第2カメラは、それぞれ前記作業者及び前記指示者の両眼を覆う両眼デバイスであることを特徴とする請求項2記載の遠隔行動誘導システム。
- 作業者の作業映像を見ながら遠隔地に居る指示者が該作業者に作業指示を与える遠隔行動誘導の処理方法であって、
前記作業者に与えられる第1カメラ及び第1モニタと、
前記第1カメラ及び前記第1モニタを制御する作業者側コンピュータと、
前記指示者に与えられる第2カメラ及び第2モニタと、
前記第2カメラ及び前記第2モニタを制御し前記作業者側コンピュータに双方向通信ネットワークで接続された指示者側コンピュータと、からなるシステムにおいて、
前記指示者側コンピュータは、時刻t1の前記第1カメラからの映像に対応して、時刻t2において、前記第2カメラの映像から作業指示映像を抽出するとともに、
(1)前記指示者側コンピュータは、時刻t1の前記第1カメラからの映像に時刻t2の前記作業指示映像を重畳させて前記第2モニタに表示し、且つ、
(2)前記作業者側コンピュータは、時刻t3の前記第1カメラからの映像に対して時刻t2の前記作業指示映像をτ=|t3−t1|の関数である時間差補正を与えて重畳させて前記第1モニタに表示することを特徴とする遠隔行動誘導処理方法。 - 前記時間差補正は、時刻t1及び時刻t3の前記第1カメラからの映像の比較に基づくホモグラフィ変換であることを特徴とする請求項5記載の遠隔行動誘導処理方法。
- 前記第1カメラは前記作業者の片眼を覆う単眼デバイス、前記第2カメラは前記指示者の両眼を覆う両眼デバイスであることを特徴とする請求項6記載の遠隔行動誘導処理方法。
- 前記第1カメラ及び第2カメラは、それぞれ前記作業者及び前記指示者の両眼を覆う両眼デバイスであることを特徴とする請求項6記載の遠隔行動誘導処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013222493 | 2013-10-25 | ||
JP2013222493 | 2013-10-25 | ||
PCT/JP2014/078236 WO2015060393A1 (ja) | 2013-10-25 | 2014-10-23 | 遠隔行動誘導システム及びその処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2015060393A1 JPWO2015060393A1 (ja) | 2017-03-09 |
JP6179927B2 true JP6179927B2 (ja) | 2017-08-16 |
Family
ID=52992981
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015543910A Expired - Fee Related JP6179927B2 (ja) | 2013-10-25 | 2014-10-23 | 遠隔行動誘導システム及びその処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9538131B2 (ja) |
JP (1) | JP6179927B2 (ja) |
WO (1) | WO2015060393A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200109201A (ko) * | 2019-03-12 | 2020-09-22 | 주식회사 피앤씨솔루션 | 머리 착용형 디스플레이 장치 및 증강현실을 이용한 원격 업무지원 시스템 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180211445A1 (en) * | 2015-07-17 | 2018-07-26 | Sharp Kabushiki Kaisha | Information processing device, terminal, and remote communication system |
US10454943B2 (en) | 2015-08-17 | 2019-10-22 | The Toronto-Dominion Bank | Augmented and virtual reality based process oversight |
JPWO2017187807A1 (ja) * | 2016-04-28 | 2019-03-07 | ソニー株式会社 | 情報処理端末装置 |
CN106339094B (zh) * | 2016-09-05 | 2019-02-26 | 山东万腾电子科技有限公司 | 基于增强现实技术的交互式远程专家协作检修系统及方法 |
US10460748B2 (en) | 2017-10-04 | 2019-10-29 | The Toronto-Dominion Bank | Conversational interface determining lexical personality score for response generation with synonym replacement |
US10339931B2 (en) | 2017-10-04 | 2019-07-02 | The Toronto-Dominion Bank | Persona-based conversational interface personalization using social network preferences |
CN108170273A (zh) * | 2017-12-28 | 2018-06-15 | 南京华讯方舟通信设备有限公司 | 一种基于hololens眼镜的专家远程指导系统及实现方法 |
US11455750B2 (en) * | 2018-04-30 | 2022-09-27 | Hewlett-Packard Development Company, L.P. | Operator characteristic-based visual overlays |
JP7339167B2 (ja) * | 2020-01-17 | 2023-09-05 | 株式会社日立製作所 | 作業支援システム及び作業支援方法 |
CN112689114B (zh) * | 2021-03-11 | 2021-06-22 | 太平金融科技服务(上海)有限公司 | 对车辆的目标位置进行确定的方法、装置、设备和介质 |
WO2023281666A1 (ja) * | 2021-07-07 | 2023-01-12 | 日本電信電話株式会社 | メディア加工装置、メディア加工方法及びメディア加工プログラム |
JPWO2023281667A1 (ja) * | 2021-07-07 | 2023-01-12 | ||
JP2023156869A (ja) | 2022-04-13 | 2023-10-25 | 株式会社日立製作所 | 作業支援システム及び方法 |
WO2024057398A1 (ja) * | 2022-09-13 | 2024-03-21 | 日本電信電話株式会社 | 提示映像調整装置、提示映像調整方法及び提示映像調整プログラム |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08257948A (ja) | 1995-03-20 | 1996-10-08 | Yaskawa Electric Corp | ロボットの遠隔操作装置 |
JPH11298872A (ja) * | 1998-04-07 | 1999-10-29 | Toshiba Corp | 映像通信システム |
JP3820116B2 (ja) * | 2001-07-24 | 2006-09-13 | 日本電信電話株式会社 | レーザポインタの方向制御方法およびその装置 |
JP3735708B2 (ja) * | 2002-01-11 | 2006-01-18 | 独立行政法人産業技術総合研究所 | 遠隔環境ガイド装置 |
JP2006279648A (ja) * | 2005-03-30 | 2006-10-12 | National Institute Of Information & Communication Technology | ゆらぎ補正による画像表示方法及びその方法を用いた模型自動車等用リモートコントロールシステム |
JP4952204B2 (ja) | 2006-11-13 | 2012-06-13 | コニカミノルタホールディングス株式会社 | 遠隔作業支援システム、及びその表示方法 |
US8116519B2 (en) | 2007-09-26 | 2012-02-14 | Honda Motor Co., Ltd. | 3D beverage container localizer |
WO2014100688A2 (en) * | 2012-12-20 | 2014-06-26 | Accenture Global Services Limited | Context based augmented reality |
US9380261B2 (en) * | 2014-02-25 | 2016-06-28 | Cisco Technology, Inc. | Multi-camera access for remote video access |
US9641811B2 (en) * | 2014-06-16 | 2017-05-02 | Baker Hughes Incorporated | System and method for providing real-time maintenance, trouble-shooting, and process assurance for the oilfield |
US10142596B2 (en) * | 2015-02-27 | 2018-11-27 | The United States Of America, As Represented By The Secretary Of The Navy | Method and apparatus of secured interactive remote maintenance assist |
-
2014
- 2014-10-23 US US15/031,672 patent/US9538131B2/en active Active
- 2014-10-23 JP JP2015543910A patent/JP6179927B2/ja not_active Expired - Fee Related
- 2014-10-23 WO PCT/JP2014/078236 patent/WO2015060393A1/ja active Application Filing
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200109201A (ko) * | 2019-03-12 | 2020-09-22 | 주식회사 피앤씨솔루션 | 머리 착용형 디스플레이 장치 및 증강현실을 이용한 원격 업무지원 시스템 |
KR102305405B1 (ko) * | 2019-03-12 | 2021-09-29 | 주식회사 피앤씨솔루션 | 머리 착용형 디스플레이 장치 및 증강현실을 이용한 원격 업무지원 시스템 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2015060393A1 (ja) | 2017-03-09 |
US20160277710A1 (en) | 2016-09-22 |
US9538131B2 (en) | 2017-01-03 |
WO2015060393A1 (ja) | 2015-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6179927B2 (ja) | 遠隔行動誘導システム及びその処理方法 | |
US11231897B2 (en) | Display system, display device, information display method, and program | |
US10642564B2 (en) | Display system, display device, information display method, and program | |
JP2022000640A (ja) | 情報処理装置、情報処理方法、及び情報処理プログラム | |
JP5113426B2 (ja) | 頭部装着型表示装置、及びその制御方法 | |
TW201708883A (zh) | 電子系統、可攜式顯示裝置及導引裝置 | |
WO2016013272A1 (ja) | 情報処理装置及び情報処理方法、並びに画像表示システム | |
US11393177B2 (en) | Information processing apparatus, information processing method, and program | |
JP2013016020A (ja) | 作業支援システム、装置、方法及びプログラム | |
US10771707B2 (en) | Information processing device and information processing method | |
US11443719B2 (en) | Information processing apparatus and information processing method | |
JP7078568B2 (ja) | 表示装置、表示制御方法、及び表示システム | |
JP5161544B2 (ja) | 画像表示システム | |
JP2018063567A (ja) | 画像処理装置、画像処理方法およびプログラム | |
WO2021230363A1 (ja) | 遠隔制御システム、遠隔作業装置、映像処理装置およびプログラム | |
JP2006340017A (ja) | 立体映像表示装置及び立体映像表示方法 | |
JP6725999B2 (ja) | 情報処理装置、情報処理装置の制御方法およびプログラム | |
WO2024057783A1 (ja) | 360度画像視点位置同定部を備える情報処理装置 | |
JP2019004272A (ja) | 映像送受信システム | |
WO2021106136A1 (ja) | 表示端末装置 | |
JP2017181605A (ja) | 情報処理装置、画像表示装置、画像表示システム、および情報処理方法 | |
JP2023172084A (ja) | 情報処理装置、頭部装着型表示装置、情報処理方法、およびプログラム | |
JP2023145551A (ja) | 画像処理装置と、その処理方法、プログラム | |
JP2019029868A (ja) | 画像処理装置と、その処理方法、プログラム | |
KR20220095787A (ko) | 맞춤형 네트워크 전송 정보 퀄리티 조정 방법 및 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170627 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170711 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6179927 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |