JP2017058752A - 作業支援方法、作業支援プログラム、及び作業支援システム - Google Patents
作業支援方法、作業支援プログラム、及び作業支援システム Download PDFInfo
- Publication number
- JP2017058752A JP2017058752A JP2015180828A JP2015180828A JP2017058752A JP 2017058752 A JP2017058752 A JP 2017058752A JP 2015180828 A JP2015180828 A JP 2015180828A JP 2015180828 A JP2015180828 A JP 2015180828A JP 2017058752 A JP2017058752 A JP 2017058752A
- Authority
- JP
- Japan
- Prior art keywords
- image
- camera
- feature point
- information
- worker
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 238000013507 mapping Methods 0.000 claims description 4
- 230000003287 optical effect Effects 0.000 claims description 4
- 230000004044 response Effects 0.000 claims description 2
- 238000012545 processing Methods 0.000 abstract description 28
- 230000000007 visual effect Effects 0.000 description 42
- 238000004891 communication Methods 0.000 description 32
- 238000010586 diagram Methods 0.000 description 15
- 230000033001 locomotion Effects 0.000 description 14
- 230000006870 function Effects 0.000 description 13
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/04—Texture mapping
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/003—Navigation within 3D models or images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/61—Scene description
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2215/00—Indexing scheme for image rendering
- G06T2215/06—Curved planar reformation of 3D line structures
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- User Interface Of Digital Computer (AREA)
- Image Analysis (AREA)
Abstract
Description
遠隔支援装置101によって行われる処理を実現するプログラムは、例えば、CD−ROM(Compact Disc Read-Only Memory)等の記憶媒体119によって遠隔支援装置101に提供される。
対象物7tは視野7d−5及び視野7d−6内のいずれかにあるが、次に、現在の視野7d−6から外れた位置の対象物7t−7が指定された場合について説明する。
(付記1)
カメラが撮影した複数の画像から得られる、該カメラの姿勢情報及び該画像の特徴点マップに基づいて、該複数の画像を重ね合わせて3次元パノラマ画像を生成して第1の表示部に表示させ、
前記3次元パノラマ画像上での対象物の指定に応じて、前記カメラの現在の姿勢情報に基づいて、指定された該対象物の位置情報を第2の表示部に出力させる
処理をコンピュータが行う作業支援方法。
(付記2)
前記姿勢情報は、上下の角度及び左右の角度を示し、
前記コンピュータは、
前記カメラの焦点距離からアスペクト比を算出し、
前記カメラの前記焦点距離と光学中心とで、画角を算出し、
算出した前記アスペクト比と前記画角とを用いて、前記カメラのフラスタムを生成し、
生成した前記フラスタムに基づいて前記画像のテクスチャマッピングを行うことによって、該画像を3次元画像に変換し、
前記姿勢情報で示される向きで前記3次元画像を配置し、前記特徴点マップに基づいて複数の3次元画像を時系列に重ね合わせることで、前記3次元パノラマ画像を生成する
ことを特徴とする付記1記載の作業支援方法。
(付記3)
前記コンピュータは、
前記特徴点マップを参照して、前記3次元パノラマ画像上の前記指定された位置に最も近い特徴点を特定し、
前記カメラの位置から、前記最も近い特徴点へのベクトルと、前記画像の中心へのベクトルとの角度差分を求め、
求めた前記角度差分に基づいて、前記対象物の位置情報の出力を、前記第2の表示部に行わせる
ことを特徴とする付記2記載の作業支援方法。
(付記4)
前記対象物が前記画像の範囲外にある場合、前記第2の表示部に、前記対象物の位置情報に基づいて該対象物までの方向と距離を表す情報を表示させる
ことを特徴とする付記3記載の作業支援方法。
(付記5)
カメラが撮影した複数の画像から得られる、該カメラの姿勢情報および該画像の特徴点マップに基づいて、該複数の画像を重ね合わせて3次元パノラマ画像を生成して第1の表示部に表示させ、
前記3次元パノラマ画像上でなされた対象物の指定に応じて、前記カメラの現在の姿勢情報に基づいて、指示された該対象物の位置に係る情報を第2の表示部に出力させる
処理をコンピュータに実行させる作業支援プログラム。
(付記6)
カメラが撮影した複数の画像から得られる、該カメラの姿勢情報および該画像の特徴点マップに基づいて、該複数の画像を重ね合わせて3次元パノラマ画像を生成して第1の表示部に表示させ、
前記3次元パノラマ画像上でなされた対象物の指定に応じて、前記カメラの現在の姿勢情報に基づいて、指示された該対象物の位置に係る情報を第2の表示部に出力させる
処理をコンピュータに実行させる作業支援システム。
(付記7)
カメラが撮影した画像を含むフレームを受信する通信部と、
前記通信部が受信した前記フレームに含まれる前記カメラの姿勢情報および該画像の特徴点マップに基づいて、前記通信部が受信した複数の画像を重ね合わせて3次元パノラマ画像を生成し、第1の表示部に表示させるパノラマ画像生成部と、
前記第1の表示部に表示させた前記3次元パノラマ画像上でなされた対象物の指定に応じて、前記カメラの現在の姿勢情報に基づいて、指示された該対象物の位置に係る情報を作成し、前記画像の送信元へ送信する情報作成部と、
を有することを特徴とする遠隔支援装置。
(付記8)
カメラが撮影した画像から該カメラの姿勢を推定した姿勢情報と該画像の特徴点マップとを取得する推定部と、
前記画像と、前記姿勢情報と、前記特徴点マップとを含む画像フレームを遠隔装置に送信する画像提供部と、
前記遠隔装置から前記画像提供部が送信したいずれかの画像上で指定された対象物に係る位置情報を受信すると、受信した該位置情報と、前記推定部が取得した前記姿勢情報と、前記特徴点マップとに基づいて該対象物の位置を算出し、算出した該位置へと誘導する誘導情報を表示部に表示させる誘導表示制御部と、
を有することを特徴とする作業員端末。
2 作業員
2c 画像フレーム
2f 指示情報、 2g 指示内容
2dg 画像
3c 位置姿勢情報、 3p 特徴点
3dg 3D画像
21c カメラ、 21d 表示デバイス
101 遠隔支援装置
111 CPU、 112 メモリ
113 HDD、 114 入力装置
115 表示装置、 116 音声入出力装置
117 ネットワーク通信部
118 ドライブ装置、 119 記憶媒体
142 遠隔支援処理部
143 3Dパノラマ画像生成部
146 指示情報作成部
201 作業員端末
211 CPU、 212 メモリ
213 RTC、 215 IMU
216 短距離無線通信部
217 ネットワーク通信部
270 作業支援処理部
271 指示情報解析部、 276 指示描画部
277 頭部姿勢推定部、 278 現場シーン提供部
1000 遠隔作業支援システム
Claims (5)
- カメラが撮影した複数の画像から得られる、該カメラの姿勢情報及び該画像の特徴点マップに基づいて、該複数の画像を用いて3次元パノラマ画像を生成して第1の表示部に表示させ、
前記3次元パノラマ画像上でなされた対象物の指定に応じて、前記カメラの現在の姿勢情報に基づいて、指定された該対象物の位置情報を第2の表示部に出力させる
処理をコンピュータが行う作業支援方法。 - 前記姿勢情報は、上下の角度及び左右の角度を示し、
前記コンピュータは、
前記カメラの焦点距離からアスペクト比を算出し、
前記カメラの前記焦点距離と光学中心とで、画角を算出し、
算出した前記アスペクト比と前記画角とを用いて、前記カメラのフラスタムを生成し、
生成した前記フラスタムに基づいて前記画像のテクスチャマッピングを行うことによって、該画像を3次元画像に変換し、
前記姿勢情報で示される向きで前記3次元画像を配置し、前記特徴点マップに基づいて複数の3次元画像を時系列に重ね合わせることで、前記3次元パノラマ画像を生成する
ことを特徴とする請求項1記載の作業支援方法。 - 前記コンピュータは、
前記特徴点マップを参照して、前記3次元パノラマ画像上の前記指定された位置に最も近い特徴点を特定し、
前記カメラの位置から、前記最も近い特徴点へのベクトルと、前記画像の中心へのベクトルとの角度差分を求め、
求めた前記角度差分に基づいて、前記対象物の位置情報の出力を、前記第2の表示部に行わせる
ことを特徴とする請求項2記載の作業支援方法。 - カメラが撮影した複数の画像から得られる、該カメラの姿勢情報および該画像の特徴点マップに基づいて、該複数の画像を用いて3次元パノラマ画像を生成して第1の表示部に表示させ、
前記3次元パノラマ画像上でなされた対象物の指定に応じて、前記カメラの現在の姿勢情報に基づいて、指示された該対象物の位置に係る情報を第2の表示部に出力させる
処理をコンピュータに実行させる作業支援プログラム。 - カメラが撮影した複数の画像から得られる、該カメラの姿勢情報および該画像の特徴点マップに基づいて、該複数の画像を用いて3次元パノラマ画像を生成して第1の表示部に表示させ、
前記3次元パノラマ画像上でなされた対象物の指定に応じて、前記カメラの現在の姿勢情報に基づいて、指示された該対象物の位置に係る情報を第2の表示部に出力させる
処理をコンピュータに実行させる作業支援システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015180828A JP6586834B2 (ja) | 2015-09-14 | 2015-09-14 | 作業支援方法、作業支援プログラム、及び作業支援システム |
US15/262,688 US10013795B2 (en) | 2015-09-14 | 2016-09-12 | Operation support method, operation support program, and operation support system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015180828A JP6586834B2 (ja) | 2015-09-14 | 2015-09-14 | 作業支援方法、作業支援プログラム、及び作業支援システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017058752A true JP2017058752A (ja) | 2017-03-23 |
JP6586834B2 JP6586834B2 (ja) | 2019-10-09 |
Family
ID=58237036
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015180828A Expired - Fee Related JP6586834B2 (ja) | 2015-09-14 | 2015-09-14 | 作業支援方法、作業支援プログラム、及び作業支援システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10013795B2 (ja) |
JP (1) | JP6586834B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017068689A (ja) * | 2015-09-30 | 2017-04-06 | 富士通株式会社 | 視野誘導方法、視野誘導プログラム、及び視野誘導装置 |
WO2019155840A1 (ja) * | 2018-02-07 | 2019-08-15 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
JP2020038463A (ja) * | 2018-09-03 | 2020-03-12 | エスペック株式会社 | 試験作業支援システム及びプログラム |
WO2021002256A1 (ja) | 2019-07-02 | 2021-01-07 | ソニー株式会社 | 情報処理システム、情報処理方法及びプログラム |
JP2021043257A (ja) * | 2019-09-06 | 2021-03-18 | 富士ゼロックス株式会社 | 情報処理装置、及び情報処理プログラム |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10140773B2 (en) | 2017-02-01 | 2018-11-27 | Accenture Global Solutions Limited | Rendering virtual objects in 3D environments |
WO2018173205A1 (ja) * | 2017-03-23 | 2018-09-27 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理システム、その制御方法、及びプログラム |
AU2019377829A1 (en) | 2018-11-06 | 2021-05-27 | Lucasfilm Entertainment Company Ltd. | Immersive content production system |
CN111382613B (zh) * | 2018-12-28 | 2024-05-07 | 中国移动通信集团辽宁有限公司 | 图像处理方法、装置、设备和介质 |
CN113519166A (zh) * | 2019-03-04 | 2021-10-19 | 麦克赛尔株式会社 | 远程操作指示系统和安装式设备 |
US11729342B2 (en) * | 2020-08-04 | 2023-08-15 | Owl Labs Inc. | Designated view within a multi-view composited webcam signal |
US11736801B2 (en) | 2020-08-24 | 2023-08-22 | Owl Labs Inc. | Merging webcam signals from multiple cameras |
CN112907671B (zh) * | 2021-03-31 | 2022-08-02 | 深圳市慧鲤科技有限公司 | 点云数据生成方法、装置、电子设备及存储介质 |
US11978154B2 (en) | 2021-04-23 | 2024-05-07 | Lucasfilm Entertainment Company Ltd. | System and techniques for lighting adjustment for an immersive content production system |
US11887251B2 (en) | 2021-04-23 | 2024-01-30 | Lucasfilm Entertainment Company Ltd. | System and techniques for patch color correction for an immersive content production system |
CN113938647B (zh) * | 2021-09-13 | 2023-06-02 | 杭州大杰智能传动科技有限公司 | 用于智慧工地的智能塔吊作业全景监控还原方法和系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011039611A (ja) * | 2009-08-06 | 2011-02-24 | Panasonic Corp | 表示画像形成装置及び切出画像表示方法 |
JP2012080432A (ja) * | 2010-10-05 | 2012-04-19 | Sony Computer Entertainment Inc | パノラマ画像生成装置およびパノラマ画像生成方法 |
JP2013164696A (ja) * | 2012-02-10 | 2013-08-22 | Sony Corp | 画像処理装置、画像処理方法及びプログラム |
JP2015159392A (ja) * | 2014-02-24 | 2015-09-03 | 株式会社オプティム | オペレータ端末、携帯端末、指示送信方法、オペレータ端末用プログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4952204B2 (ja) | 2006-11-13 | 2012-06-13 | コニカミノルタホールディングス株式会社 | 遠隔作業支援システム、及びその表示方法 |
JP5380789B2 (ja) | 2007-06-06 | 2014-01-08 | ソニー株式会社 | 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム |
JP5158006B2 (ja) | 2009-04-23 | 2013-03-06 | ソニー株式会社 | 情報処理装置、および情報処理方法、並びにプログラム |
JP5728159B2 (ja) | 2010-02-02 | 2015-06-03 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP2012156930A (ja) | 2011-01-28 | 2012-08-16 | Brother Ind Ltd | 頭部装着型遠隔撮像システム、頭部装着撮像装置、撮像方向表示方法 |
US9128520B2 (en) * | 2011-09-30 | 2015-09-08 | Microsoft Technology Licensing, Llc | Service provision using personal audio/visual system |
-
2015
- 2015-09-14 JP JP2015180828A patent/JP6586834B2/ja not_active Expired - Fee Related
-
2016
- 2016-09-12 US US15/262,688 patent/US10013795B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011039611A (ja) * | 2009-08-06 | 2011-02-24 | Panasonic Corp | 表示画像形成装置及び切出画像表示方法 |
JP2012080432A (ja) * | 2010-10-05 | 2012-04-19 | Sony Computer Entertainment Inc | パノラマ画像生成装置およびパノラマ画像生成方法 |
JP2013164696A (ja) * | 2012-02-10 | 2013-08-22 | Sony Corp | 画像処理装置、画像処理方法及びプログラム |
JP2015159392A (ja) * | 2014-02-24 | 2015-09-03 | 株式会社オプティム | オペレータ端末、携帯端末、指示送信方法、オペレータ端末用プログラム |
Non-Patent Citations (2)
Title |
---|
LEILA ALEM, 外2名: ""Remote tele-assistance system for maintenance operators in mines"", [ONLINE], JPN7019001684, 2011, pages 171 - 177, ISSN: 0004093664 * |
森島茂貴, 外3名: ""遠隔協調作業支援のためのベルト装着型ProCamシステム"", ヒューマンインタフェース学会研究報告集, vol. 第14巻, 第8号, JPN6019019421, 20 September 2012 (2012-09-20), JP, pages 97 - 102, ISSN: 0004093663 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017068689A (ja) * | 2015-09-30 | 2017-04-06 | 富士通株式会社 | 視野誘導方法、視野誘導プログラム、及び視野誘導装置 |
WO2019155840A1 (ja) * | 2018-02-07 | 2019-08-15 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
US11443540B2 (en) | 2018-02-07 | 2022-09-13 | Sony Corporation | Information processing apparatus and information processing method |
JP2020038463A (ja) * | 2018-09-03 | 2020-03-12 | エスペック株式会社 | 試験作業支援システム及びプログラム |
WO2021002256A1 (ja) | 2019-07-02 | 2021-01-07 | ソニー株式会社 | 情報処理システム、情報処理方法及びプログラム |
JP2021043257A (ja) * | 2019-09-06 | 2021-03-18 | 富士ゼロックス株式会社 | 情報処理装置、及び情報処理プログラム |
Also Published As
Publication number | Publication date |
---|---|
US10013795B2 (en) | 2018-07-03 |
US20170076491A1 (en) | 2017-03-16 |
JP6586834B2 (ja) | 2019-10-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6586834B2 (ja) | 作業支援方法、作業支援プログラム、及び作業支援システム | |
JP6540108B2 (ja) | 画像生成方法、システム、装置、及び端末 | |
US11796309B2 (en) | Information processing apparatus, information processing method, and recording medium | |
JP5443134B2 (ja) | シースルー・ディスプレイに現実世界の対象物の位置をマークする方法及び装置 | |
CN107402000B (zh) | 用于将显示装置相对于测量仪器相互关联的方法和系统 | |
CN109069103B (zh) | 超声成像探头定位 | |
JP6329343B2 (ja) | 画像処理システム、画像処理装置、画像処理プログラム、および画像処理方法 | |
JP5936155B2 (ja) | 3次元ユーザインタフェース装置及び3次元操作方法 | |
US9560274B2 (en) | Image generation apparatus and image generation method | |
US9894272B2 (en) | Image generation apparatus and image generation method | |
US20140267594A1 (en) | Image generation apparatus and image generation method | |
US11443540B2 (en) | Information processing apparatus and information processing method | |
KR101638550B1 (ko) | 혼합현실을 이용한 가상현실 시스템 및 그 구현방법 | |
JP2009258884A (ja) | ユーザインタフェイス | |
JP7109395B2 (ja) | 作業支援システム、作業支援装置、及び作業支援方法 | |
CN113677412A (zh) | 信息处理装置、信息处理方法和程序 | |
WO2022176450A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2015184986A (ja) | 複合現実感共有装置 | |
JP2022105568A (ja) | 3dツアーの比較表示システム及び方法 | |
JP4828395B2 (ja) | 三次元地図表示装置 | |
KR20180060403A (ko) | 영상 기반의 드론 제어장치 | |
JP2013037476A (ja) | 観察装置、観察方法、及び撮像装置 | |
JP6348750B2 (ja) | 電子機器、表示方法、プログラム及び通信システム | |
JP2023021806A (ja) | 支援システム、支援側装置、支援方法、およびプログラム | |
JP2023021808A (ja) | 支援システム、支援側装置、支援方法、およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180514 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190521 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190604 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190731 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190813 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190826 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6586834 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |