JP2016171478A - カメラ制御装置及びそのプログラム - Google Patents
カメラ制御装置及びそのプログラム Download PDFInfo
- Publication number
- JP2016171478A JP2016171478A JP2015050243A JP2015050243A JP2016171478A JP 2016171478 A JP2016171478 A JP 2016171478A JP 2015050243 A JP2015050243 A JP 2015050243A JP 2015050243 A JP2015050243 A JP 2015050243A JP 2016171478 A JP2016171478 A JP 2016171478A
- Authority
- JP
- Japan
- Prior art keywords
- camera
- slave
- calculation unit
- virtual
- master
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004364 calculation method Methods 0.000 claims abstract description 104
- 230000003287 optical effect Effects 0.000 claims abstract description 9
- 239000013598 vector Substances 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000009434 installation Methods 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 238000000034 method Methods 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Details Of Cameras Including Film Mechanisms (AREA)
- Lens Barrels (AREA)
- Accessories Of Cameras (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
Abstract
Description
カメラ制御装置は、カメラパス設定部によって、仮想球体上におけるマスターカメラの位置を通過するように、カメラパスを仮想球体上に予め設定する。このカメラパスは、マスターカメラ以外のロボットカメラであるスレーブカメラが配置される経路(パス)を表す。
つまり、仮想第1円錐の側面が、適切な輻輳角を保つことができる位置を表している。
カメラ制御装置は、姿勢算出部によって、スレーブカメラの位置で注視点を向いた方向をスレーブカメラの姿勢として算出する。
本願発明に係るカメラ制御装置は、仮想第1円錐の側面上にスレーブカメラを配置することで、被写体が移動した場合でも適切な輻輳角を保ち、高品質な多視点映像表現を実現することができる。さらに、本願発明に係るカメラ制御装置は、ロボットカメラを手動で再配置する必要がないので、多視点映像を撮影する手間を大幅に軽減することができる。
[多視点ロボットカメラシステムの概略]
図1〜図3を参照し、本願発明の第1実施形態に係る多視点ロボットカメラシステム(カメラ制御装置)1の概略について、説明する。
多視点ロボットカメラシステム1は、空間内を自在に移動可能なカメラ(ロボットカメラ)Cを複数台用いて、同一時刻の被写体90を異なる視点で撮影した映像(多視点映像)を生成するものである。本実施形態では、多視点ロボットカメラシステム1は、ステージ上の歌手を被写体90として、多視点映像を生成することとする。
例えば、“ぐるっとビジョン”のようなアプリケーションを多視点映像に適用する場合、各カメラCがそのアプリケーションに適切な輻輳角で保つことが好ましい。その一方、被写体90がステージ上を移動するため、この輻輳角を保てるように、各カメラCの位置や姿勢を予め決めることが困難である。そこで、制御装置10は、この輻輳角を保てるように、各カメラCの位置や姿勢を算出する。
なお、制御装置10の詳細は、後記する。
また、マルチコプタ本体100及びカメラ本体200は、下記の参考文献1に記載されているため、これ以上の説明を省略する。
参考文献1:[online],[平成26年11月12日検索],インターネット<URL:http://www.dji.com/ja/product/phantom-2>
操作者91は、マスターカメラCmの画面中央で被写体90を捉えるように、操作インターフェース部20を操作して、マスターカメラCmの位置及び姿勢を変える。また、マスターカメラCmは、図3のように、その光軸Oxに注視点Pが設定されている。そこで、操作者91は、操作インターフェース部20を操作して、マスターカメラCmと注視点Pとの距離であるデプスを変更し、注視点Pと被写体90とを一致させる。このとき、マスターカメラCmは、マスターカメラCmの位置、姿勢、ズーム値を計測し、計測したデータを制御装置10に出力する。
図4を参照し、マスターカメラCm、制御装置10及びスレーブカメラCnの構成について、順に説明する。
図4のように、マスターカメラCmは、マルチコプタ制御部110と、カメラ制御部210とを備える。
制御装置10は、注視点算出部12と、球体設定部14、カメラパス設定部16とを備える。
注視点算出部12は、マスターカメラCmから入力された位置及び姿勢と、操作インターフェース部20から入力されたデプスとを用いて、注視点Pの位置を算出するものである。
注視点Pは、マスターカメラCmの位置から、マスターカメラCmの光軸Oxに向かって、デプスが示す距離にある(図3参照)。
なお、式(4)の左辺Pは、注視点の位置を表す。
なお、図5では、半径rが水平方向及び垂直方向で異なるように図示したが、実際には半径rが同じ長さとなる。
なお、カメラパスは、直線、曲線など任意に設定できる。
スレーブカメラCnは、位置算出部120と、マルチコプタ制御部130と、姿勢算出部220と、カメラ制御部230と、ズーム値算出部240とを備える。
図6を参照し、位置算出部120の構成について説明する(適宜図4参照)。
図6のように、位置算出部120は、スレーブカメラCnの位置を算出するものであり、円錐設定部122と、交点算出部124とを備える。
図5〜図8を参照し、位置算出部120におけるスレーブカメラCnの位置算出について、説明する。
仮想第1円錐Aは、注視点Pが頂点となり、注視点PからマスターカメラCmまでが母線となり、母線と側面とのなす角θが輻輳角となる。ここで、円錐設定部122は、アプリケーションに応じて、任意の値で輻輳角θが予め設定される。例えば、“ぐるっとビジョン”の場合、輻輳角θが10度に設定される。
その後、円錐設定部122は、設定した仮想第1円錐Aの情報と、仮想球体Vcの情報とを交点算出部124に出力する。
仮想第2円錐E1は、注視点Pが頂点となり、注視点Pから交点X1までが母線となり、母線と側面とのなす角が輻輳角θとなる。また、仮想第2円錐E2は、注視点Pから交点X2までが母線となる以外、仮想第2円錐E1と同様である。
その後、円錐設定部122は、設定した仮想第2円錐E1,E2の情報を交点算出部124に出力する。
仮想第2円錐E3は、注視点Pが頂点となり、注視点Pから交点X3までが母線となり、母線と側面とのなす角が輻輳角θとなる。また、仮想第2円錐E4は、注視点Pから交点X4までが母線となる以外、仮想第2円錐E3と同様である。
その後、円錐設定部122は、設定した仮想第2円錐E3,E4の情報を交点算出部124に出力する。
マルチコプタ制御部130は、スレーブカメラCnのマルチコプタ本体100を制御するものである。つまり、マルチコプタ制御部130は、交点算出部124から入力された位置に、スレーブカメラCnを移動させる。
なお、vは、地面GNDに垂直な単位ベクトルである。
図10を参照し、ズーム値算出部240によるズーム値の算出について、説明する(適宜図4,図6参照)。
図11を参照し、多視点ロボットカメラシステム1の動作について、説明する(適宜図1,図4,図6参照)。
球体設定部14は、ステップS2で算出した注視点Pが中心となり、デプスが半径となる仮想球体Vcを設定する(ステップS3)。
操作者91は、カメラパス設定部16に対して、ステップS3で設定された仮想球体Vcの上にカメラパスを設定する(ステップS4)。
交点算出部124は、ステップS5で設定した仮想円錐の側面と、ステップS3で設定した仮想球体Vcとが交わる円を求める。そして、交点算出部124は、ステップS4で設定したカメラパスと円との交点を、スレーブカメラCnの位置として算出する(ステップS6)。
なお、ステップS5,S6の処理は、カメラパスと円との交点が無くなるまで繰り返す。
カメラ制御部230は、ステップS7で算出した姿勢R´nとなるように、スレーブカメラCnを制御する(ステップS8)。
図12を参照し、本願発明の第2実施形態に係る多視点ロボットカメラシステム1Bについて、第1実施形態と異なる点を説明する。
多視点ロボットカメラシステム1Bは、スレーブカメラCBnの位置、姿勢及びズーム値を制御装置10Bで算出する点が、第1実施形態と異なる。
図12のように、多視点ロボットカメラシステム1Bは、制御装置10Bと、操作インターフェース部20と、マスターカメラCmと、スレーブカメラCBnとを備える。
制御装置10Bは、注視点算出部12と、球体設定部14と、カメラパス設定部16と、位置算出部120Bと、姿勢算出部220Bと、ズーム値算出部240Bとを備える。
位置算出部120Bは、図4の位置算出部120と同様の手法で、全てのスレーブカメラCBnの位置を算出する。そして、位置算出部120Bは、各スレーブカメラCBnにその位置を出力する。
なお、姿勢算出部220B及びズーム値算出部240Bは、図4の各手段と同様のため、説明を省略する。
スレーブカメラCBnは、マルチコプタ制御部130と、カメラ制御部230とを備える。つまり、スレーブカメラCBnは、図4のスレーブカメラCnから位置算出部120、姿勢算出部220及びズーム値算出部240を除いたものであるため、これ以上の説明を省略する。
前記した各実施形態では、移動体がマルチコプタであることとして説明したが、これに限定されない。例えば、移動体として、ラジオコントロール型のヘリコプタ(ラジコンヘリコプタ)があげられる。
1B 多視点ロボットカメラシステム
10 制御装置
10B 制御装置(カメラ制御装置)
12 注視点算出部
14 球体設定部
16 カメラパス設定部
20 操作インターフェース部
90 被写体
100 マルチコプタ本体(移動体、マルチコプタ)
101 筐体
102 プロペラ
103 脚部
110 マルチコプタ制御部
120,120B 位置算出部
122 円錐設定部
124 交点算出部
130 マルチコプタ制御部
200 カメラ本体
201 雲台
210 カメラ制御部
220,220B 姿勢算出部
230,230B カメラ制御部
240,240Bズーム値算出部
C カメラ(ロボットカメラ)
Cm マスターカメラ
Cn,CBn スレーブカメラ
Claims (5)
- 移動体に搭載されて空間内を自在に移動可能なロボットカメラを複数台用いて多視点映像を撮影するために、前記ロボットカメラの位置及び姿勢を算出するカメラ制御装置であって、
前記ロボットカメラ又は撮影カメラのうち予め設定された1台のマスターカメラで計測された位置及び姿勢と、前記マスターカメラから被写体までの距離であるデプスとが入力され、入力された前記マスターカメラの位置から前記マスターカメラの光軸方向で前記デプスが示す距離にある注視点の位置を算出する注視点算出部と、
前記注視点が中心、かつ、前記デプスが半径となる仮想球体を設定する球体設定部と、
前記仮想球体上における前記マスターカメラの位置を通過するように、前記マスターカメラ以外のロボットカメラであるスレーブカメラが配置されるカメラパスを、前記仮想球体上に予め設定するカメラパス設定部と、
前記注視点が頂点、かつ、前記注視点から前記マスターカメラの位置までが母線、かつ、前記母線と側面とのなす角が予め設定した輻輳角となる仮想第1円錐を設定する円錐設定部と、
前記仮想第1円錐の側面と前記仮想球体とが交わる円を求め、前記カメラパスと当該円との交点を、前記スレーブカメラの位置として算出する交点算出部と、
前記スレーブカメラの位置で前記注視点を向いた方向を前記スレーブカメラの姿勢として算出する姿勢算出部と、
を備えることを特徴とするカメラ制御装置。 - 前記円錐設定部は、前記注視点が頂点、かつ、前記注視点から前記交点までが母線、かつ、前記母線と側面とのなす角が前記輻輳角となる仮想第2円錐を設定し、
前記交点算出部は、前記仮想第2円錐の側面と前記仮想球体とが交わる新たな円を求め、前記カメラパスと前記新たな円との交点を、他の前記スレーブカメラの位置として算出することを特徴とする請求項1に記載のカメラ制御装置。 - 前記交点算出部は、算出した前記スレーブカメラの位置が予め設定された移動禁止区域に含まれるか否かを判定し、算出した前記スレーブカメラの位置が前記移動禁止区域に含まれる場合、算出した前記スレーブカメラの位置と前記注視点とを結ぶ仮想線上であって前記移動禁止区域の外を前記スレーブカメラの新たな位置として算出し、
前記マスターカメラで撮影した映像の被写体と、新たな位置の前記スレーブカメラで撮影した映像の被写体とが同じ大きさとなるように、前記スレーブカメラのズーム値を算出するズーム値算出部、をさらに備えることを特徴とする請求項1又は請求項2に記載のカメラ制御装置。 - 前記カメラ制御装置は、前記移動体として、複数のプロペラで前記空間内を移動可能なマルチコプタに搭載されたロボットカメラの位置及び姿勢を算出することを特徴とする請求項1から請求項3の何れか一項に記載のカメラ制御装置。
- コンピュータを、請求項1から請求項4の何れか一項に記載のカメラ制御装置として機能させるためのカメラ制御プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015050243A JP6450226B2 (ja) | 2015-03-13 | 2015-03-13 | カメラ制御装置及びそのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015050243A JP6450226B2 (ja) | 2015-03-13 | 2015-03-13 | カメラ制御装置及びそのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016171478A true JP2016171478A (ja) | 2016-09-23 |
JP6450226B2 JP6450226B2 (ja) | 2019-01-09 |
Family
ID=56984244
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015050243A Active JP6450226B2 (ja) | 2015-03-13 | 2015-03-13 | カメラ制御装置及びそのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6450226B2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018088037A1 (ja) * | 2016-11-14 | 2018-05-17 | ソニー株式会社 | 可動型撮像装置の制御装置、可動型撮像装置の制御方法及びプログラム |
JP2020147105A (ja) * | 2019-03-12 | 2020-09-17 | 日本放送協会 | カメラ制御装置及びそのプログラム、並びに、多視点ロボットカメラシステム |
CN113542721A (zh) * | 2020-04-20 | 2021-10-22 | 阿里巴巴集团控股有限公司 | 深度图处理方法、视频重建方法及相关装置 |
JP2023000440A (ja) * | 2021-06-18 | 2023-01-04 | 本田技研工業株式会社 | 車体構造 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007150536A (ja) * | 2005-11-25 | 2007-06-14 | Hitachi Displays Ltd | 立体映像撮影表示装置 |
JP2014103491A (ja) * | 2012-11-19 | 2014-06-05 | Nippon Hoso Kyokai <Nhk> | ロボットカメラ制御装置、そのプログラム及び多視点ロボットカメラシステム |
-
2015
- 2015-03-13 JP JP2015050243A patent/JP6450226B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007150536A (ja) * | 2005-11-25 | 2007-06-14 | Hitachi Displays Ltd | 立体映像撮影表示装置 |
JP2014103491A (ja) * | 2012-11-19 | 2014-06-05 | Nippon Hoso Kyokai <Nhk> | ロボットカメラ制御装置、そのプログラム及び多視点ロボットカメラシステム |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018088037A1 (ja) * | 2016-11-14 | 2018-05-17 | ソニー株式会社 | 可動型撮像装置の制御装置、可動型撮像装置の制御方法及びプログラム |
JPWO2018088037A1 (ja) * | 2016-11-14 | 2019-09-26 | ソニー株式会社 | 可動型撮像装置の制御装置、可動型撮像装置の制御方法及びプログラム |
US10924691B2 (en) | 2016-11-14 | 2021-02-16 | Sony Corporation | Control device of movable type imaging device and control method of movable type imaging device |
JP7059937B2 (ja) | 2016-11-14 | 2022-04-26 | ソニーグループ株式会社 | 可動型撮像装置の制御装置、可動型撮像装置の制御方法及びプログラム |
JP2020147105A (ja) * | 2019-03-12 | 2020-09-17 | 日本放送協会 | カメラ制御装置及びそのプログラム、並びに、多視点ロボットカメラシステム |
CN113542721A (zh) * | 2020-04-20 | 2021-10-22 | 阿里巴巴集团控股有限公司 | 深度图处理方法、视频重建方法及相关装置 |
JP2023000440A (ja) * | 2021-06-18 | 2023-01-04 | 本田技研工業株式会社 | 車体構造 |
JP7397824B2 (ja) | 2021-06-18 | 2023-12-13 | 本田技研工業株式会社 | 車体構造 |
Also Published As
Publication number | Publication date |
---|---|
JP6450226B2 (ja) | 2019-01-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11513511B2 (en) | Techniques for image recognition-based aerial vehicle navigation | |
JP6732617B2 (ja) | 情報処理装置および画像生成方法 | |
US10681276B2 (en) | Virtual reality video processing to compensate for movement of a camera during capture | |
JP7045218B2 (ja) | 情報処理装置および情報処理方法、プログラム | |
JP2016062486A (ja) | 画像生成装置および画像生成方法 | |
JP6450226B2 (ja) | カメラ制御装置及びそのプログラム | |
JPH0785312A (ja) | 3次元動画作成装置 | |
JP2017142569A (ja) | 仮想空間の画像をヘッドマウントディスプレイに提供する方法及びプログラム | |
JP6359572B2 (ja) | 画像送信装置、情報処理端末、画像送信方法、情報処理方法、プログラム及び情報記憶媒体 | |
US11303823B2 (en) | Camera array for a mediated-reality system | |
JP2020004325A (ja) | 画像処理装置、画像処理方法およびプログラム | |
US11647292B2 (en) | Image adjustment system, image adjustment device, and image adjustment | |
JP5253300B2 (ja) | 表示制御装置、表示装置の制御方法、プログラム、記憶媒体 | |
JP7435599B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
KR102469221B1 (ko) | 정보 처리 장치, 기록 매체에 저장된 컴퓨터 프로그램, 헤드 마운트 디스플레이 및 정보 처리 시스템 | |
JP2010049346A (ja) | 画像表示装置 | |
JP6214653B2 (ja) | 遠隔モニタリングシステムおよびモニタリング方法 | |
JP6707224B2 (ja) | 情報処理装置、情報処理装置のプログラム、ヘッドマウントディスプレイ、及び、表示システム | |
JP7006912B2 (ja) | 画像処理装置、画像表示装置及び画像処理プログラム | |
WO2024070398A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7127569B2 (ja) | 画像調整システム、画像調整装置、及び画像調整方法 | |
JP7118383B1 (ja) | 表示システム、表示方法、及び表示プログラム | |
WO2021182153A1 (ja) | 情報処理装置、情報処理システム、情報処理方法およびプログラム | |
JP6623431B2 (ja) | 情報処理装置、情報処理装置のプログラム、ヘッドマウントディスプレイ、及び、表示システム | |
JP2020147105A (ja) | カメラ制御装置及びそのプログラム、並びに、多視点ロボットカメラシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180201 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181105 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181113 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181207 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6450226 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |