JP2014006658A - 陰影情報導出装置、陰影情報導出方法及びプログラム - Google Patents
陰影情報導出装置、陰影情報導出方法及びプログラム Download PDFInfo
- Publication number
- JP2014006658A JP2014006658A JP2012141254A JP2012141254A JP2014006658A JP 2014006658 A JP2014006658 A JP 2014006658A JP 2012141254 A JP2012141254 A JP 2012141254A JP 2012141254 A JP2012141254 A JP 2012141254A JP 2014006658 A JP2014006658 A JP 2014006658A
- Authority
- JP
- Japan
- Prior art keywords
- shadow information
- reference object
- scene image
- shadow
- scene
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Abstract
【解決手段】シーンとしての画像内容を有するシーン画像に対応するデプスマップに基づいてシーン画像が示すシーンの法線マップを導出する。また、シーン画像とデプスマップと法線マップとの少なくともいずれか1つに基づいて参照物体の領域部分である参照物体領域を抽出する。そして、シーン画像と法線マップと前記参照物体領域とに基づいて陰影情報を導出する。
【選択図】図1
Description
光源情報を推定するにあたり、例えば全方位を撮像する全方位カメラを利用するというものが知られている(例えば、非特許文献1および非特許文献2参照)。この手法は、全方位を撮像した画像のいずれかの部分において光源が撮像されていることを前提としている。そのうえで、この手法は、全方位カメラにより撮像した画像に基づいて、シーン画像に対応する光源の位置、色、位置、強度などを推定するというものである。
また、拡散反射面を有する白色球を利用する手法が知られている(例えば、非特許文献4参照)。この手法では、白色球の画像において現れている陰影に基づいて、その白色球の周囲における光源の色、強度、方向等を推定するものである。
さらに、反射特性が既知の平面において生じる形状が既知の物体の影に基づいて光源分布を推定するという手法も知られている(例えば、非特許文献5参照)。
また、非特許文献3、4による手法の場合にも、金属球あるいは拡散反射面を有する白色球を準備する必要がある。このような金属球や白色球も器具としては特殊でありエンドユーザが容易に入手できるものではない。
また、非特許文献5による手法の場合、物体の形状と平面の反射特性が既知である必要がある。この場合、ユーザは、これらの物体の形状と平面の反射特性を測定しなければならず、このためには、一定以上の専門知識を必要とする。
このように、非特許文献1〜5によるいずれの手法も、例えば一般的でない装置や器具を必要としたり、あるいは、専門知識を必要とする。したがって、非特許文献1〜5のいずれの手法によっても、例えば拡張現実において陰影のあるCGオブジェクトをシーン画像に合成できるような環境をエンドユーザに提供することは難しい。
[陰影情報導出装置の構成例]
以下、本発明の第1の実施形態の陰影情報導出装置について説明する。本実施形態の陰影情報導出装置は、シーン画像と、このシーン画像についてのデプスマップを入力して陰影情報を導出する。
本実施形態におけるシーン画像201は、例えば現実の或る環境を撮像して得られた画像であればよい。
図2は、上記のように現実の或る環境を撮像して得られたシーン画像201の画像内容の一例を示している。
法線マップ導出部103は、上記の手順により画素ごとに法線を求め、これらの法線により法線マップ203を生成する。このように、法線マップ導出部103は法線マップ203を導出する。そして、法線マップ導出部103は、導出した法線マップ203を記憶部106に記憶させる。
ユーザは、表示された画像の被写体のうちから参照物体とする物体を決定する。この際、ユーザは、シーン画像に合成するCGオブジェクトにできるだけ近く、また、できるだけ陰影が明確に現れている物体を参照物体として決定するとよい。そして、ユーザは、表示された画像から参照物体が表示されている領域を選択するための所定の操作を操作部108に対して行う。
参照物体領域抽出部104は、読み込みを行った抽出対象データから、上記の操作により選択された領域を参照物体領域204として抽出する。参照物体領域抽出部104は、抽出した参照物体領域204を記憶部106に記憶する。
参照物体領域抽出部104は、抽出対象データであるシーン画像201とデプスマップ202と法線マップ203のそれぞれに対して個別に閾値を設定している。そのうえで、参照物体領域抽出部104は、操作により指定された一部領域において決定した代表点を起点として、シーン画像201とデプスマップ202と法線マップ203のそれぞれを対象として隣接する画素を探索していく。
一具体例として、陰影情報導出部105は、以下のように陰影情報を導出する。
図7は、これまでの説明にしたがって求められた陰影情報205を画像により可視化して示したものである。
図9は、図8のように陰影を付与したCGオブジェクトを元のシーン画像201に合成した合成画像201Aを示している。
このように、陰影情報205を適用して陰影を付与することで、例えば図9にも示されるように、CGオブジェクトの陰影はシーンにおける光源の状態にほぼ合致することになる。これにより、合成画像201Aのシーンにおいて存在するCGオブジェクトの実在感が向上する。
また、表示部107は、参照物体領域抽出部104の制御に応じて、抽出対象データなどの画像を表示する。
操作部108は、例えばユーザが参照物体の領域を表示部107に表示された画像から選択するための操作に使用される操作子や操作デバイスを一括して示したものである。このような操作部108の操作子や操作デバイスには、例えばマウスやキーボードなどが含まれる。
図10のフローチャートは、第1の実施形態の陰影情報導出装置100が実行する処理手順例を示している。
まず、シーン画像入力部101は、シーン画像201を入力して記憶部106に記憶させる(ステップS101)。
また、デプスマップ入力部102は、デプスマップ202を入力して記憶部106に記憶させる(ステップS102)。
法線マップ導出部103は、読み込んだデプスマップ202を利用して前述のように法線マップ203を導出する(ステップS104)。法線マップ導出部103は、導出した法線マップ203を記憶部106に記憶させる(ステップS105)。
参照物体領域抽出部104は、前述のように、例えばユーザの操作に応じて抽出対象データから参照物体領域204を抽出する(ステップS107)。参照物体領域抽出部104は、抽出した参照物体領域204を記憶部106に記憶させる(ステップS108)。
陰影情報導出部105は、入力したシーン画像201と法線マップ203と参照物体領域204とを利用して、前述のように、陰影情報205を導出する(ステップS110)。
陰影情報導出部105は、このように導出した陰影情報205を記憶部106に記憶させる(ステップS111)。
[陰影情報導出装置の構成例]
次に、第2の実施形態について説明する。
図11は、第2の実施形態における陰影情報導出装置100Aの構成例を示している。なお、この図において、図1と同一部分には同一符号を付して、ここでの説明は省略する。
陰影情報正則化部109は、正則化された陰影情報205が導出されるように、陰影情報205の導出に利用する所定のパラメータを補正する。ここでの正則化は、導出された陰影が拡散反射の陰影に適合するように制約を加えることをいう。また、陰影情報正則化部109が補正対象とするパラメータは、球面調和関数の係数(重みw)である。
なお、この陰影情報正則化部109は、例えばCPUがプログラムを実行することにより実現できる。
図14は、図12に示すシーン画像201と、図13に示すデプスマップ202を入力し、図12において白抜きの矢印で示す球の領域を参照物体領域204として抽出した場合に導出される陰影情報205を画像により可視化したものである。
図14に示す陰影情報205においては、白抜きの矢印で示すように、円の左下の縁に沿うようにして明線が生じている。この明線がリンギングアーティファクトである。このリンギングアーティファクトとしての明線は、実世界の拡散反射では観察されないものである。このようなリンギングアーティファクトが生じないような陰影情報205を導出することができれば、これによりCGオブジェクトに付与される陰影についての実シーンとの合致度がさらに高くなる。
つまり、陰影情報正則化部109は、先の式(3)により表されるエラー関数E(w)に対して正則化項を加算したエラー関数E’(w)を最小化する重みwを求めるものである。エラー関数E’(w)を以下の式(5)に示す。
このことに基づいて、球面調和関数の次数間の2乗和の関係は以下のように求めることができる。
つまり、0次に対する1次の重みの2乗和は、1次に対応する球面調和関数の数である「3」と、1次の重みの絶対値に対する0次(l=0)の重みの絶対値の比である「2/3」とにより、3×(2/3)2=4/3倍である。
また、0次に対する2次の重みの2乗和は、2次に対応する球面調和関数の数である「5」と、2次(l=1)の重みの絶対値に対する0次(l=0)の重みの絶対値の比である「1/4」とにより、5×(1/4)2=5/16倍である。
式(5)のエラー関数E’(w)は、上記のように求められた2乗和の倍数が示す係数比を維持するように制約を与えたものである。このように制約を与えることは、すなわち、拡散反射の陰影を表現した際の球面調和関数の重みwの比により制約を与えることを意味する。
なお、陰影情報正則化部109は、例えば、式(3)のエラー関数E(w)についての最小化結果を初期値として利用してNewton法により式(5)のエラー関数E’(w)を最小化する重みwを求めてもよい。
図15と図14を比較して分かるように、図15に示す正則化陰影情報205Aでは、白抜きの矢印により示される箇所におけるリンギングアーティフェクトが大幅に低減されている。
そして、この正則化陰影情報205Aにより拡散反射のCGオブジェクトに陰影を付与することによっては、そのCGオブジェクトのシーンにおける実在感が高まる。
図16のフローチャートは、第2の実施形態における陰影情報導出装置100Aが実行する処理手順例を示している。なお、この図に示すステップにおいて、図10と同じ処理のものについては同一符号を付し、ここでの説明を省略する。
陰影情報導出部105は、シーン画像201と法線マップ203と参照物体領域204とを入力した後(ステップS109)、式(3)のエラー関数E(w)を最小化する重みwを算出する(ステップS110A)。
次に、陰影情報正則化部109は、ステップS110Aにより求められた重みwについて、式(5)のエラー関数E’(w)を最小化する重みwを求めることにより補正する(ステップS110B)。
そして、陰影情報導出部105は、ステップS110Bにより補正された重みwを利用して、正則化陰影情報205Aを算出する(ステップS110C)。これにより、陰影情報導出部105は正則化された陰影情報を導出したことになる。そして、陰影情報導出部105は、算出した正則化陰影情報205Aを記憶部106に記憶させる(ステップS111)。このような処理によって、第2の実施形態における陰影情報導出装置100Aは、拡散反射に対応して正則化された陰影情報を得ることができる。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
Claims (5)
- シーンとしての画像内容を有するシーン画像に対応するデプスマップに基づいて前記シーン画像が示すシーンの法線マップを導出する法線マップ導出部と、
前記シーン画像と前記デプスマップと前記法線マップとの少なくともいずれか1つに基づいて参照物体の領域部分である参照物体領域を抽出する参照物体領域抽出部と、
前記シーン画像と前記法線マップと前記参照物体領域とに基づいて陰影情報を導出する陰影情報導出部と、
を備える陰影情報導出装置。 - 正則化された陰影情報が導出されるように、陰影情報の導出に利用する所定のパラメータを補正する陰影情報正則化部をさらに備える、
請求項1に記載の陰影情報導出装置。 - シーンとしての画像内容を有するシーン画像に対応するデプスマップに基づいて前記シーン画像が示すシーンの法線マップを導出する法線マップ導出ステップと、
前記シーン画像と前記デプスマップと前記法線マップとの少なくともいずれか1つに基づいて参照物体の領域部分である参照物体領域を抽出する参照物体領域抽出ステップと、
前記シーン画像と前記法線マップと前記参照物体領域とに基づいて陰影情報を導出する陰影情報導出ステップと、
を備える陰影情報導出方法。 - 正則化された陰影情報が導出されるように、陰影情報の導出に利用する所定のパラメータを補正する陰影情報正則化ステップをさらに備える、
請求項3に記載の陰影情報導出方法。 - コンピュータを、請求項1または2に記載の陰影情報導出装置として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012141254A JP5795556B2 (ja) | 2012-06-22 | 2012-06-22 | 陰影情報導出装置、陰影情報導出方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012141254A JP5795556B2 (ja) | 2012-06-22 | 2012-06-22 | 陰影情報導出装置、陰影情報導出方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014006658A true JP2014006658A (ja) | 2014-01-16 |
JP5795556B2 JP5795556B2 (ja) | 2015-10-14 |
Family
ID=50104330
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012141254A Expired - Fee Related JP5795556B2 (ja) | 2012-06-22 | 2012-06-22 | 陰影情報導出装置、陰影情報導出方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5795556B2 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106408647A (zh) * | 2016-09-20 | 2017-02-15 | 广州视睿电子科技有限公司 | 一种图像阴影添加方法及装置 |
US9961319B2 (en) | 2015-03-11 | 2018-05-01 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
JP2019096044A (ja) * | 2017-11-22 | 2019-06-20 | 富士ゼロックス株式会社 | 画像処理装置及びプログラム |
CN111462295A (zh) * | 2020-03-27 | 2020-07-28 | 咪咕文化科技有限公司 | 增强现实合拍中的阴影处理方法、设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003067772A (ja) * | 2001-08-30 | 2003-03-07 | Canon Inc | 画像処理装置及び方法 |
JP2004021388A (ja) * | 2002-06-13 | 2004-01-22 | Nippon Hoso Kyokai <Nhk> | 画像処理装置及びそれを備えた撮影システム |
WO2010087164A1 (ja) * | 2009-01-29 | 2010-08-05 | 日本電気株式会社 | カラー画像処理方法、カラー画像処理装置および記録媒体 |
JP2011210237A (ja) * | 2010-03-26 | 2011-10-20 | Mitsubishi Electric Research Laboratories Inc | 物体クラスからの物体の新たな画像を合成するための方法 |
-
2012
- 2012-06-22 JP JP2012141254A patent/JP5795556B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003067772A (ja) * | 2001-08-30 | 2003-03-07 | Canon Inc | 画像処理装置及び方法 |
JP2004021388A (ja) * | 2002-06-13 | 2004-01-22 | Nippon Hoso Kyokai <Nhk> | 画像処理装置及びそれを備えた撮影システム |
WO2010087164A1 (ja) * | 2009-01-29 | 2010-08-05 | 日本電気株式会社 | カラー画像処理方法、カラー画像処理装置および記録媒体 |
JP2011210237A (ja) * | 2010-03-26 | 2011-10-20 | Mitsubishi Electric Research Laboratories Inc | 物体クラスからの物体の新たな画像を合成するための方法 |
Non-Patent Citations (1)
Title |
---|
八尾泰洋, 外3名: ""反射特性の未知の物体からの光源環境推定についての検討"", 電子情報通信学会技術研究報告, vol. 第111巻, 第235号, JPN6015021133, 6 October 2011 (2011-10-06), JP, pages 43 - 48, ISSN: 0003130508 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9961319B2 (en) | 2015-03-11 | 2018-05-01 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
CN106408647A (zh) * | 2016-09-20 | 2017-02-15 | 广州视睿电子科技有限公司 | 一种图像阴影添加方法及装置 |
JP2019096044A (ja) * | 2017-11-22 | 2019-06-20 | 富士ゼロックス株式会社 | 画像処理装置及びプログラム |
JP7020075B2 (ja) | 2017-11-22 | 2022-02-16 | 富士フイルムビジネスイノベーション株式会社 | 画像処理装置及びプログラム |
CN111462295A (zh) * | 2020-03-27 | 2020-07-28 | 咪咕文化科技有限公司 | 增强现实合拍中的阴影处理方法、设备及存储介质 |
CN111462295B (zh) * | 2020-03-27 | 2023-09-05 | 咪咕文化科技有限公司 | 增强现实合拍中的阴影处理方法、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
JP5795556B2 (ja) | 2015-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7403528B2 (ja) | シーンの色及び深度の情報を再構成するための方法及びシステム | |
EP3139589B1 (en) | Image processing apparatus and image processing method | |
US9607429B2 (en) | Relightable texture for use in rendering an image | |
KR101885090B1 (ko) | 영상 처리 장치, 조명 처리 장치 및 그 방법 | |
EP3561777B1 (en) | Method and apparatus for processing a 3d scene | |
US8040352B2 (en) | Adaptive image interpolation for volume rendering | |
EP2692140A2 (en) | Real-time depth extraction using stereo correspondence | |
JP5795556B2 (ja) | 陰影情報導出装置、陰影情報導出方法及びプログラム | |
CN110555903A (zh) | 图像处理方法和装置 | |
JP5909176B2 (ja) | 陰影情報導出装置、陰影情報導出方法及びプログラム | |
US20210312647A1 (en) | Detecting device, information processing device, detecting method, and information processing program | |
CN115239861A (zh) | 人脸数据增强方法、装置、计算机设备和存储介质 | |
CN107564085B (zh) | 图像扭曲处理方法、装置、计算设备及计算机存储介质 | |
US20130182944A1 (en) | 2d to 3d image conversion | |
WO2018127364A1 (en) | Method and device for applying an effect of an augmented or mixed reality application | |
US20210209347A1 (en) | Texture map generation using multi-viewpoint color images | |
CN114913287B (zh) | 一种三维人体模型重建方法及系统 | |
JP5661381B2 (ja) | 画像処理装置およびその方法 | |
Noh et al. | Soft shadow rendering based on real light source estimation in augmented reality | |
JP2013253946A (ja) | 光源分布推定装置、光源分布推定方法及び光源分布推定プログラム | |
CN115272575A (zh) | 图像生成方法及装置、存储介质和电子设备 | |
US11120606B1 (en) | Systems and methods for image texture uniformization for multiview object capture | |
JP6341540B2 (ja) | 情報端末装置、方法及びプログラム | |
JP5865092B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
Yao et al. | Shading derivation from an unspecified object for augmented reality |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140724 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150525 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150602 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150715 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150811 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150813 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5795556 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |