JP6374754B2 - 画像合成装置及びそのプログラム - Google Patents
画像合成装置及びそのプログラム Download PDFInfo
- Publication number
- JP6374754B2 JP6374754B2 JP2014209983A JP2014209983A JP6374754B2 JP 6374754 B2 JP6374754 B2 JP 6374754B2 JP 2014209983 A JP2014209983 A JP 2014209983A JP 2014209983 A JP2014209983 A JP 2014209983A JP 6374754 B2 JP6374754 B2 JP 6374754B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- background
- camera
- spherical body
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000000203 mixture Substances 0.000 title claims description 58
- 239000002131 composite material Substances 0.000 claims description 19
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 238000011161 development Methods 0.000 claims description 14
- 230000002194 synthesizing effect Effects 0.000 claims description 12
- 238000000605 extraction Methods 0.000 claims description 11
- 238000012545 processing Methods 0.000 description 16
- 238000000034 method Methods 0.000 description 14
- 230000036544 posture Effects 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 6
- 230000015572 biosynthetic process Effects 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000003786 synthesis reaction Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
画像合成装置は、半径設定手段によって、前景に対して背景が適切な大きさとなるように、手動又は第1カメラから背景までの距離情報により、背景球状体の半径を設定する。
画像合成装置は、前景抽出手段によって、撮影画像から前景を抽出する。
本願発明に係る画像合成装置は、前景に対して背景が適切な大きさとなるように背景球状体の半径を設定できるので、遠近感が自然な合成画像を生成することができる。
以下、本願発明の実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の機能を有する手段には同一の符号を付し、説明を省略した。
図1を参照し、本願発明の実施形態に係る画像合成システム1の構成を説明する。
画像合成システム1は、全天周カメラ(第1カメラ)10で撮影された全天周画像(球状画像)の背景Bgと、スタジオ80で撮影された前景Fgとを合成するものである。
図1のように、画像合成システム1は、全天周カメラ10と、画像処理装置20と、送信装置30と、通信設備40A,40Bと、受信装置50と、撮影カメラ(第2カメラ)60と、画像合成装置70とを備える。
ここで、スタジオ80は、照明等の撮影に必要な機材が備わっており、撮影カメラ60の姿勢を計測するときの基準となる原点Oが床面に設定されている。そして、スタジオ80では、前景Fgとなる人物が原点Oの付近にいる。
参考文献1:特開2011−210232号公報
第1例の手法では、距離計測手段(不図示)を用いて、距離情報を生成する。
距離計測手段は、全天周カメラ10から背景Bgまでの距離を計測し、計測した距離を距離情報として画像処理装置20に出力するものである。例えば、距離計測手段としては、レーザ距離計測器、レーダ距離計測器、赤外線距離計測器等の距離計測器があげられる。この距離計測器は、全天周カメラ10に取り付けることができる。
第2例の手法では、視差により距離情報を生成する。
この場合、画像処理装置20は、カメラ10a,10bのそれぞれで背景Bgを撮影した広角画像が入力される。この各広角画像には、互いに重なる領域が存在する。
なお、全天周カメラ10が1台のカメラで構成されている場合、第2例の手法を適用することができない。
第3例の手法では、距離情報を手動で生成する。
すなわち、画像合成システム1の利用者が、全天周カメラ10から背景Bgまでの距離を手動で計測し、その結果を距離情報として画像処理装置20に入力する。
この第3例の手法によれば、画像合成システム1は、距離計測手段を用いずに距離情報を生成できるので、その構成を簡素にできる。
また、全天周カメラ10の周囲に複数の物体が存在する場合もある。この場合、代表的な一つの物体(例えば、最も注目されそうな物体)を背景Bgとして定め、距離情報を生成してもよい。
送信装置30は、通信設備40A,40Bを介して、画像処理装置20から入力された背景展開画像200及び距離情報を受信装置50に送信するものである。
図2のように、球状の全天周画像100が2次元の背景展開画像200に変換されている。そこで、送信装置30は、背景展開画像200のデータ量を圧縮するため、MPEG(Moving Picture Experts Group)−2のような符号化処理を背景展開画像200に施すことが好ましい。
ここで、受信装置50は、送信装置30が符号化処理を施した場合、この符号化処理に対応した復号化処理を背景展開画像200に施す。そして、受信装置50は、背景展開画像200及び距離情報を画像合成装置70に出力する。
なお、カメラデータには、撮影カメラ60の姿勢及び焦点距離が含まれる。
図3を参照し、画像合成装置70の構成を説明する(適宜図1参照)。
図3のように、画像合成装置70は、背景球状体生成手段71と、半径設定手段72と、背景球状体配置手段73と、前景抽出手段74と、画像合成手段75とを備える。
図4を参照し、背景球状体生成手段71による背景球状体の生成を説明する。
図4のように、背景球状体300は、表面に背景Bgが描画された仮想的な球体である。また、背景球状体300は、その中心C(図5)が全天周カメラ10の位置を表している。
なお、図4では、図面を見やすくするため、背景球状体300に描かれた背景Bgの図示を省略した。
半径設定手段72は、背景球状体生成手段71から入力された背景球状体300の半径を設定するものである。具体的には、半径設定手段72は、予め設定された半径変換規則に従って、受信装置50より入力された距離情報から、背景球状体300の半径を設定する。
一方、半径設定手段72は、全天周カメラ10から背景Bgまでが遠い場合、図5(b)のように、背景球状体300の半径rを大きく設定する。
その後、半径設定手段72は、半径rが設定された背景球状体300を背景球状体配置手段73に出力する。
仮想カメラ400は、仮想CG空間を撮影するための仮想的なカメラである。この仮想カメラ400は、撮影カメラ60と同様、仮想CG空間の原点Oを基準とした姿勢、及び、焦点距離が設定可能である。
なお、背景球状体300が配置された仮想CG空間は、後記する画像合成手段75によって参照される。
次に、画像合成手段75は、撮影カメラ60から入力されたカメラデータに従って、仮想カメラ400の姿勢及び焦点距離を設定する。これにより、実空間での撮影カメラ60の姿勢及び焦点距離と、仮想CG空間での仮想カメラ400の姿勢及び焦点距離とが同一になる。
そして、画像合成手段75は、仮想カメラ400で仮想CG空間を仮想的に撮影する。言い換えるなら、画像合成手段75は、撮影カメラ60と同一姿勢及び同一画角で、前景Fg及び背景球状体300が配置された状態の仮想CG空間を切り出す。この切り出された画像が合成画像となる。
参考文献2:特開2014−119949号公報
図7を参照し、画像合成装置70が生成した合成画像500の具体例を説明する(適宜図3参照)。
図7では、人物を前景Fgとし、建物を背景Bgとする。また、撮影カメラ60が、人物が撮影画像の左下に位置するように撮影を行ったこととする。
図8を参照し、画像合成装置70の動作を説明する(適宜図3参照)。
画像合成装置70は、背景球状体生成手段71によって、予め設定された座標変換規則に従って、受信装置50より入力された背景展開画像200から、背景Bgが描画された背景球状体300を生成する(ステップS1)。
画像合成装置70は、背景球状体配置手段73によって、背景球状体300の中心Cが仮想CG空間の原点Oに位置するように、背景球状体300を仮想CG空間に配置する(ステップS3)。
画像合成装置70は、ステップS4で抽出された前景Fgと背景Bgとが合成された合成画像500を生成する(ステップS5)。
画像合成装置70は、前景Fgに対して背景Bgが適切な大きさとなるように背景球状体300の半径rを設定できるので、遠近感が自然な合成画像500を生成することができる。
さらに、画像合成装置70は、合成画像の背景Bgとして、全天周カメラ10で撮影した実写画像を活用することができる。従って、画像合成装置70は、CGセットを制作する必要がなく、制作コストを抑えることができる。
以上、本願発明の各実施形態を詳述してきたが、本願発明は前記した各実施形態に限られるものではなく、本願発明の要旨を逸脱しない範囲の設計変更等も含まれる。
なお、このとき、背景が合成されない事態を防止するため、撮影カメラの姿勢及び画角を制限することが好ましい。
10 全天周カメラ(第1カメラ)
20 画像処理装置
30 送信装置
40A,40B 送信設備
50 受信装置
60 撮影カメラ(第2カメラ)
70 画像合成装置
71 背景球状体生成手段
72 半径設定手段
73 背景球状体配置手段
74 前景抽出手段
75 画像合成手段
Claims (6)
- 第1カメラで周囲の背景を撮影した球状画像が2次元に展開された背景展開画像と、第2カメラで前景を撮影した撮影画像と、前記第2カメラの姿勢及び焦点距離を計測したカメラデータとを用いて、前記前景と前記背景とが合成された合成画像を生成する画像合成装置であって、
予め設定された2次元座標系を3次元球面上の座標系に変換する座標変換規則に従って、前記背景展開画像から、前記背景が描画された仮想的な背景球状体を生成する背景球状体生成手段と、
手動又は前記第1カメラから前記背景までの距離情報により、前記背景球状体の半径を設定する半径設定手段と、
半径が設定された前記背景球状体の中心が仮想CG空間の原点に位置するように、当該背景球状体を前記仮想CG空間に配置する背景球状体配置手段と、
前記撮影画像から前記前景を抽出する前景抽出手段と、
抽出された前記前景を前記仮想CG空間の原点に合わせて配置し、仮想カメラの姿勢及び焦点距離を前記カメラデータに従って設定し、前記仮想カメラで前記仮想CG空間を撮影することで前記合成画像を生成する画像合成手段と、
を備えることを特徴とする画像合成装置。 - 前記半径設定手段は、前記距離情報が入力され、予め設定された前記距離情報を前記半径に変換する半径変換規則に従って、前記半径を設定することを特徴とする請求項1に記載の画像合成装置。
- 前記半径設定手段は、距離計測手段で計測された前記距離情報が入力されることを特徴とする請求項1又は請求項2に記載の画像合成装置。
- 前記半径設定手段は、視差により求められた前記距離情報が入力されることを特徴とする請求項1又は請求項2に記載の画像合成装置。
- 前記背景球状体生成手段は、前記第1カメラとしての全天周カメラで撮影された全天周画像が2次元に展開された背景展開画像から、前記背景球状体を生成することを特徴とする請求項1から請求項4の何れか一項に記載の画像合成装置。
- コンピュータを、請求項1から請求項5の何れか一項に記載の画像合成装置として機能させるための画像合成プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014209983A JP6374754B2 (ja) | 2014-10-14 | 2014-10-14 | 画像合成装置及びそのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014209983A JP6374754B2 (ja) | 2014-10-14 | 2014-10-14 | 画像合成装置及びそのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016082328A JP2016082328A (ja) | 2016-05-16 |
JP6374754B2 true JP6374754B2 (ja) | 2018-08-15 |
Family
ID=55956530
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014209983A Active JP6374754B2 (ja) | 2014-10-14 | 2014-10-14 | 画像合成装置及びそのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6374754B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6853013B2 (ja) * | 2016-10-26 | 2021-03-31 | グリー株式会社 | 情報処理システム、情報処理方法、および情報処理プログラム |
JP2018081570A (ja) * | 2016-11-17 | 2018-05-24 | 株式会社Nttファシリティーズ | 情報可視化システム、情報可視化方法、及びプログラム |
JP6854631B2 (ja) * | 2016-11-28 | 2021-04-07 | 株式会社Nttファシリティーズ | 情報可視化システム、情報可視化方法、及びプログラム |
WO2019111052A2 (en) * | 2017-12-06 | 2019-06-13 | Zyetric One Limited | Inserting virtual objects in between two real objects in an augmented reality environment |
JP7336871B2 (ja) * | 2019-04-18 | 2023-09-01 | 日本放送協会 | 全天周映像処理装置及びプログラム |
CN110730340B (zh) * | 2019-09-19 | 2023-06-20 | 北京拉近众博科技有限公司 | 基于镜头变换的虚拟观众席展示方法、系统及存储介质 |
WO2024219215A1 (ja) * | 2023-04-20 | 2024-10-24 | ソニーグループ株式会社 | 情報処理装置、情報処理方法およびプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010278701A (ja) * | 2009-05-28 | 2010-12-09 | Casio Computer Co Ltd | 画像合成装置、画像合成方法及びプログラム |
JP5664859B2 (ja) * | 2010-03-11 | 2015-02-04 | 国立大学法人鳥取大学 | 画像変換装置、画像生成システム、画像変換方法及び画像生成方法 |
JP2014003561A (ja) * | 2012-06-21 | 2014-01-09 | Aska Creation Inc | パノラマ用マルチカメラ画像処理ソフト |
-
2014
- 2014-10-14 JP JP2014209983A patent/JP6374754B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016082328A (ja) | 2016-05-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6374754B2 (ja) | 画像合成装置及びそのプログラム | |
US10186075B2 (en) | System, method, and non-transitory computer-readable storage media for generating 3-dimensional video images | |
US10389937B2 (en) | Information processing device, information processing method, and program | |
EP3198862B1 (en) | Image stitching for three-dimensional video | |
US10650590B1 (en) | Method and system for fully immersive virtual reality | |
US11205305B2 (en) | Presentation of three-dimensional video | |
JP4804256B2 (ja) | 情報処理方法 | |
US20180262789A1 (en) | System for georeferenced, geo-oriented realtime video streams | |
US10681276B2 (en) | Virtual reality video processing to compensate for movement of a camera during capture | |
KR101538947B1 (ko) | 실감형 자유시점 영상 제공 장치 및 방법 | |
WO2020084951A1 (ja) | 画像処理装置および画像処理方法 | |
US11430178B2 (en) | Three-dimensional video processing | |
JP2018033107A (ja) | 動画の配信装置及び配信方法 | |
US11825191B2 (en) | Method for assisting the acquisition of media content at a scene | |
CN115222793A (zh) | 深度图像的生成及显示方法、装置、系统、可读介质 | |
KR102255181B1 (ko) | 다수의 카메라에 의한 증강 현실 영상 생성 방법 및 장치 | |
Ban et al. | Pixel of matter: new ways of seeing with an active volumetric filmmaking system | |
KR101868057B1 (ko) | 파노라마 영상 생성 방법 및 그 장치 | |
JP5916365B2 (ja) | 映像送信システム、映像送信方法及びコンピュータプログラム | |
KR101983727B1 (ko) | 증강현실 가상 스튜디오 시스템 및 그 구현 방법 | |
KR20100128620A (ko) | 파노라믹 동영상 생성 시스템 | |
Peng et al. | A low-cost implementation of a 360 vision distributed aperture system | |
KR20230056161A (ko) | 증강현실 가상 스튜디오 시스템 및 그 구현 방법 | |
JP2020136833A (ja) | 映像視聴装置、映像視聴プログラム、映像視聴方法、及び映像配信システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170901 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180516 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180626 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180720 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6374754 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |