JP2013152683A - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP2013152683A JP2013152683A JP2012014200A JP2012014200A JP2013152683A JP 2013152683 A JP2013152683 A JP 2013152683A JP 2012014200 A JP2012014200 A JP 2012014200A JP 2012014200 A JP2012014200 A JP 2012014200A JP 2013152683 A JP2013152683 A JP 2013152683A
- Authority
- JP
- Japan
- Prior art keywords
- data
- subject
- environment map
- environment
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Generation (AREA)
- Processing Or Creating Images (AREA)
Abstract
【解決手段】画像処理装置であって、2つ以上の視点からなる環境マップデータから周辺環境の三次元形状データを生成する周辺環境三次元形状データ生成手段と、
前記周辺環境三次元形状データを光源として、仮想被写体を背景画像データに合成する仮想被写体合成手段とを備えたことを特徴とする。
【選択図】図3
Description
<従来技術>
図22の(a)は、従来技術における仮想被写体と環境マップとの関係を表す図である。ライト101のある環境下で撮像装置100を用いて周辺環境の画像を撮像して環境マップ102を作成し、仮想被写体103〜105のライティングに用いている様子を示している。どの仮想被写体にも同じ環境マップが用いられるため、仮想被写体をどの位置においてもライト101の方向が等しくなる。この状況で、仮想カメラの位置を視点として仮想被写体103〜105を背景画像に合成して得られた結果が図22の(b)である。仮想被写体103〜105のいずれについても同じ陰影(ライト101で照らされる領域110及びその影の部分111が全ての仮想被写体で共通)となっているのが分かる。光源が無限遠でない限り、現実においてこのような陰影とはならないので、不自然な合成画像となってしまっている。
図1は、本実施例に係る画像処理装置のシステム構成例を示す図である。
画像処理装置100は、CPU101、RAM102、ROM103、HDD104、入力I/F105、出力I/F106、システムバス107を備える。画像処理装置100における処理の概略は以下のとおりである。
距離マップ生成部201は、撮像装置110(より厳密には、環境マップ撮像部402/403の光学中心)から周辺環境(撮像対象)までの距離を算出して、距離マップデータを生成する。
ステップ705において、距離マップ生成部201は、特徴点として抽出されなかった画素について原点O1からの距離を算出する。具体的には、環境マップ501における各画素のうち特徴点として抽出されなかった画素について、当該画素の周囲にある特徴点から補間処理によって値を取得し、得られた値を当該画素の距離値とする。補間処理には線形補間やバイキュービック補間など既知の手法を用いればよい。
撮像者が撮像を行う際には、図4に示されるような撮像装置110を用いて背景画像及び環境マップを撮像する。環境マップは画角180°以上の超広角画像であり、意図しない被写体が入り込む可能性が高い。例えば、撮像者自身の顔やカメラを持つ手が環境マップに写り込んだり、偶然通りがかった人物が写ったりする場合がある。そのような環境マップをそのまま仮想被写体へのライティングに使用すると、例えば、仮想被写体が写り込みを伴う材質の場合、合成画像に意図しない被写体が描画されてしまうことになる。仮想被写体へのライティングに意図しない被写体が影響を及ぼすのを防ぐために、本実施例では、不要な被写体を環境マップデータから除去する処理を行う。また、併せて距離マップデータからも不要な被写体の除去を行う。本実施例では、不要被写体除去処理として、2種類の手法を紹介する。
図11は、不要被写体除去処理によって人物の顔が除去された環境マップ及び距離マップの一例を示す図である。図11の(a)は不要被写体除去前の人の顔が写り込んだ状態の環境マップ、図11の(c)はその環境マップに対応する距離マップを示している。そして、図11の(b)は不要被写体除去処理によって人の顔が除去された環境マップ、図11の(d)はその環境マップに対応する距離マップを示している。
図12は、図3のステップ305における周辺環境の三次元形状データ生成処理の流れを示すフローチャートである。
図17は、図3のステップ307における仮想被写体合成処理の流れを示すフローチャートである。この仮想被写体合成処理において、環境マップデータの代わりに周辺環境の三次元形状データ(ポリゴンデータ)をライティングに用いる。
実施例1では、1つの背景撮像部と2つの環境マップ撮像部を備えた撮像装置を用いていた。次に、より多くの環境マップ撮像部を備えた撮像装置を用いる態様について、実施例2として説明する。
また、本発明の目的は、以下の処理を実行することによっても達成される。即ち、上述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)が記憶媒体に格納されたプログラムコードを読み出す処理である。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施の形態の機能を実現することになり、そのプログラムコード及び該プログラムコードを記憶した記憶媒体は本発明を構成することになる。
Claims (7)
- 2つ以上の視点からなる環境マップデータから周辺環境の三次元形状データを生成する周辺環境三次元形状データ生成手段と、
前記周辺環境三次元形状データを光源として、仮想被写体を背景画像データに合成する仮想被写体合成手段と
を備えたことを特徴とする画像処理装置。 - 前記周辺環境三次元形状データ生成手段は、前記環境マップデータから距離マップを生成することにより周辺環境三次元形状データを生成することを特徴とする請求項1に記載の画像処理装置。
- 前記環境マップデータから、不要な被写体を除去する不要被写体除去手段をさらに備えたことを特徴とする請求項1又は2に記載の画像処理装置。
- 前記不要な被写体は、所定の距離よりも近い距離に存在する被写体であることを特徴とする請求項3に記載の画像処理装置。
- 前記不要な被写体は、人物であることを特徴とする請求項3に記載の画像処理装置。
- 2つ以上の視点からなる環境マップデータから周辺環境の三次元形状データを生成する周辺環境三次元形状データ生成ステップと、
前記周辺環境三次元形状データを光源として、仮想被写体を背景画像データに合成する仮想被写体合成ステップと
を含むことを特徴とする画像処理方法。 - コンピュータを請求項1〜5のいずれか1項に記載の画像処理装置として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012014200A JP5865092B2 (ja) | 2012-01-26 | 2012-01-26 | 画像処理装置、画像処理方法及びプログラム |
US13/744,933 US20130194254A1 (en) | 2012-01-23 | 2013-01-18 | Image processing apparatus, image processing method and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012014200A JP5865092B2 (ja) | 2012-01-26 | 2012-01-26 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013152683A true JP2013152683A (ja) | 2013-08-08 |
JP5865092B2 JP5865092B2 (ja) | 2016-02-17 |
Family
ID=49048957
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012014200A Active JP5865092B2 (ja) | 2012-01-23 | 2012-01-26 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5865092B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015080199A (ja) * | 2013-09-11 | 2015-04-23 | ソニー株式会社 | 画像処理装置および方法 |
JP2015095000A (ja) * | 2013-11-08 | 2015-05-18 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003099801A (ja) * | 2001-09-25 | 2003-04-04 | Toyota Motor Corp | 三次元モデルの画像表示方法、装置、プログラム及び記録媒体 |
JP2007018173A (ja) * | 2005-07-06 | 2007-01-25 | Canon Inc | 画像処理方法、画像処理装置 |
JP2008033531A (ja) * | 2006-07-27 | 2008-02-14 | Canon Inc | 情報処理方法 |
JP2008282171A (ja) * | 2007-05-09 | 2008-11-20 | Sony Computer Entertainment Inc | グラフィックスプロセッサおよび描画処理方法 |
WO2010070536A1 (en) * | 2008-12-19 | 2010-06-24 | Koninklijke Philips Electronics N.V. | Controlling of display parameter settings |
JP2011095797A (ja) * | 2009-10-27 | 2011-05-12 | Sony Corp | 画像処理装置、画像処理方法及びプログラム |
-
2012
- 2012-01-26 JP JP2012014200A patent/JP5865092B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003099801A (ja) * | 2001-09-25 | 2003-04-04 | Toyota Motor Corp | 三次元モデルの画像表示方法、装置、プログラム及び記録媒体 |
JP2007018173A (ja) * | 2005-07-06 | 2007-01-25 | Canon Inc | 画像処理方法、画像処理装置 |
JP2008033531A (ja) * | 2006-07-27 | 2008-02-14 | Canon Inc | 情報処理方法 |
JP2008282171A (ja) * | 2007-05-09 | 2008-11-20 | Sony Computer Entertainment Inc | グラフィックスプロセッサおよび描画処理方法 |
WO2010070536A1 (en) * | 2008-12-19 | 2010-06-24 | Koninklijke Philips Electronics N.V. | Controlling of display parameter settings |
JP2011095797A (ja) * | 2009-10-27 | 2011-05-12 | Sony Corp | 画像処理装置、画像処理方法及びプログラム |
Non-Patent Citations (2)
Title |
---|
目黒淳一, 外5名: ""ロボットと時空間GISの連携による段階的な震災データ収集システムの開発"", 計測自動制御学会論文集, vol. 第41巻, 第12号, JPN6015037376, 31 December 2005 (2005-12-31), JP, pages 981 - 988, ISSN: 0003155551 * |
長原一, 外2名: ""超臨場感ビジュアライゼーションシステム"", 情報処理学会研究報告, vol. 第2003巻, 第88号, JPN6015037375, 9 September 2003 (2003-09-09), JP, pages 95 - 102, ISSN: 0003155550 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015080199A (ja) * | 2013-09-11 | 2015-04-23 | ソニー株式会社 | 画像処理装置および方法 |
US10587864B2 (en) | 2013-09-11 | 2020-03-10 | Sony Corporation | Image processing device and method |
JP2015095000A (ja) * | 2013-11-08 | 2015-05-18 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5865092B2 (ja) | 2016-02-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3614340B1 (en) | Methods and devices for acquiring 3d face, and computer readable storage media | |
CN110148204B (zh) | 用于在真实环境的视图中表示虚拟对象的方法和系统 | |
JP4284664B2 (ja) | 三次元形状推定システム及び画像生成システム | |
WO2019035155A1 (ja) | 画像処理システム、画像処理方法、及びプログラム | |
JP2006053694A (ja) | 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体 | |
JP6073858B2 (ja) | 顔の位置検出 | |
JP2013127774A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US6515658B1 (en) | 3D shape generation apparatus | |
AU2017279672A1 (en) | Alignment of captured images by fusing colour and geometrical information. | |
JPH11175762A (ja) | 光環境計測装置とそれを利用した仮想画像への陰影付与装置及び方法 | |
CN111382618B (zh) | 一种人脸图像的光照检测方法、装置、设备和存储介质 | |
Queguiner et al. | Towards mobile diminished reality | |
CN109064533B (zh) | 一种3d漫游方法及系统 | |
US20230394740A1 (en) | Method and system providing temporary texture application to enhance 3d modeling | |
US20130194254A1 (en) | Image processing apparatus, image processing method and program | |
CN110533762B (zh) | 三维头像的生成方法及电子装置 | |
JP6762570B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
CN109427089B (zh) | 基于环境光照条件的混合现实对象呈现 | |
KR102291162B1 (ko) | 인공 지능 학습용 가상 데이터 생성 장치 및 방법 | |
US20210209347A1 (en) | Texture map generation using multi-viewpoint color images | |
JP5865092B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
Schwandt et al. | Glossy reflections for mixed reality environments on mobile devices | |
JP2007272847A (ja) | 照明シミュレーション方法及び画像合成方法 | |
CA3155612A1 (en) | Method and system for providing at least a portion of content having six degrees of freedom motion | |
JP2002092625A (ja) | 画像処理装置および方法、並びに記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20141225 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150907 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150915 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151112 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151201 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20151225 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5865092 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |