JP6674192B2 - 画像処理装置と画像処理方法 - Google Patents
画像処理装置と画像処理方法 Download PDFInfo
- Publication number
- JP6674192B2 JP6674192B2 JP2015005838A JP2015005838A JP6674192B2 JP 6674192 B2 JP6674192 B2 JP 6674192B2 JP 2015005838 A JP2015005838 A JP 2015005838A JP 2015005838 A JP2015005838 A JP 2015005838A JP 6674192 B2 JP6674192 B2 JP 6674192B2
- Authority
- JP
- Japan
- Prior art keywords
- illumination
- information
- virtual
- lighting
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 131
- 238000003672 processing method Methods 0.000 title claims description 6
- 238000005286 illumination Methods 0.000 claims description 284
- 239000003550 marker Substances 0.000 claims description 146
- 238000004891 communication Methods 0.000 claims description 42
- 238000003384 imaging method Methods 0.000 claims description 19
- 239000011159 matrix material Substances 0.000 description 37
- 238000000034 method Methods 0.000 description 31
- 238000001514 detection method Methods 0.000 description 24
- 230000009466 transformation Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 19
- 238000005516 engineering process Methods 0.000 description 12
- 230000014509 gene expression Effects 0.000 description 12
- 238000009877 rendering Methods 0.000 description 10
- 239000013598 vector Substances 0.000 description 10
- 230000006870 function Effects 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000002457 bidirectional effect Effects 0.000 description 4
- 238000005315 distribution function Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000002730 additional effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
- G06T15/506—Illumination models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/40—Analysis of texture
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Architecture (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Description
1.画像処理装置の概要
2.照明情報取得部の第1の実施の形態
3.照明情報取得部の第2の実施の形態
4.照明情報取得部の第3の実施の形態
5.照明情報取得部の第4の実施の形態
図1は、この技術の画像処理装置の構成を示している。画像処理装置10は、例えばリライティング処理を行い、撮像画像から撮影時とは異なる照明環境で撮像を行った場合の撮像画像に相当するリライティング画像を生成する。
Id=KdIp(N・L) ・・・(1)
Kd=Id/Ip(N・L) ・・・(2)
図5は、照明情報取得部の第1の実施の形態の構成を例示している。照明情報取得部30は、実空間情報取得部31と特徴量記憶部32および照明情報生成処理部35を有している。
ところで、第1の実施の形態では、予め参照特徴量が記憶されている物体を仮想照明体として用いる場合について説明したが、第2の実施の形態では、任意の物体を仮想照明体として用いる場合について説明する。
次に、第3の実施の形態について説明する。第3の実施の形態では、第2の実施の形態のように仮想照明体とする被写体を用いた学習を行わなくとも、ユーザが仮想照明体を例えば画面上で指定することで、照明情報を取得できるようにする。
次に、第4の実施の形態では、三次元情報の生成が可能な機器を仮想照明体として用いることで、照明情報を生成する場合について説明する。
(1) 被写体の照明に関連する被写体情報と、実空間内の仮想照明体に基づいて取得した照明情報とから、前記照明情報に基づいた照明環境下における前記被写体の画像を生成する画像生成部を
備える画像処理装置。
(2) 前記実空間内の仮想照明体に基づいて前記照明情報を取得する照明情報取得部をさらに備える(1)に記載の画像処理装置。
(3) 前記照明情報取得部は、前記実空間における前記仮想照明体の三次元情報に基づいて前記照明情報を取得する(2)に記載の画像処理装置。
(4) 前記照明情報取得部は、
前記仮想照明体が置かれる実空間の情報を取得する実空間情報取得部と、
前記仮想照明体の特徴量を記憶した特徴量記憶部と、
前記特徴量記憶部に記憶されている特徴量と前記実空間情報取得部が取得した前記実空間の情報に基づき前記仮想照明体を判別して、判別した前記仮想照明体の実空間の情報に基づき照明情報を生成する照明情報生成処理部と
を有する(2)または(3)に記載の画像処理装置。
(5) 前記照明情報取得部は、
前記仮想照明体が置かれる実空間の情報を取得する実空間情報取得部と、
前記仮想照明体の特徴量を学習する仮想照明体学習部と、
前記仮想照明体学習部で学習された前記特徴量を記憶する特徴量記憶部と、
前記特徴量記憶部に記憶されている特徴量と前記実空間情報取得部が取得した前記実空間の情報に基づき前記仮想照明体を判別して、判別した前記仮想照明体の実空間の情報に基づき照明情報を生成する照明情報生成処理部と
を有する(2)乃至(4)のいずれかに記載の画像処理装置。
(6) 前記照明情報取得部は、撮像部から前記実空間内の仮想照明体の三次元情報を取得する(2)乃至(5)のいずれかに記載の画像処理装置。
(7) 前記照明情報取得部は、前記仮想照明体が置かれる実空間の情報を取得して提示した情報から、ユーザが前記仮想照明体として指定した実空間の情報に基づき、前記照明情報を生成する照明情報生成処理部を有する(2)乃至(6)のいずれかに記載の画像処理装置。
(8) 前記照明情報取得部は、
前記仮想照明体との通信を行う通信部と、
前記通信部で前記仮想照明体からの通信信号を受信して得られた受信データに基づき前記照明情報を生成するデータ処理部とを有する(2)乃至(7)のいずれかに記載の画像処理装置。
(9) 前記データ処理部は、前記受信データで示された前記仮想照明体の位置や姿勢およびその変化に基づいて前記照明情報を生成する(8)に記載の画像処理装置。
(10) 前記データ処理部は、前記受信データで示された前記仮想照明体の位置や姿勢およびその変化に基づいて照明の位置や方向,強度を設定する前記照明情報を生成する(9)に記載の画像処理装置。
(11) 前記データ処理部は、前記仮想照明体におけるユーザ設定に基づいて、照明の強度や種類を設定する前記照明情報を生成する(9)に記載の画像処理装置。
(12) 前記照明情報は、照明の三次元位置と照明方向および照明強度と種類の少なくともいずれかの情報を含む(1)乃至(11)のいずれかに記載の画像処理装置。
(13) 前記仮想照明体は、認識できる任意な物体である(1)乃至(12)のいずれかに記載の画像処理装置。
(14) 前記認識できる任意な物体は、平面に矩形状の枠領域を設けて、前記枠領域内に所定のパターンを描画したマーカーである(13)に記載の画像処理装置。
(15) 撮像画像から前記被写体の照明に関連する被写体情報を取得する被写体情報取得部をさらに備える(1)乃至(14)のいずれかに記載の画像処理装置。
20・・・被写体情報取得部
25・・・被写体情報記憶部
30・・・照明情報取得部
31・・・実空間情報取得部
32,34・・・特徴量記憶部
33・・・仮想照明体学習部
35・・・照明情報生成処理部
36・・・通信部
37・・・データ処理部
38・・・仮想照明体指定操作部
50・・・画像生成部
60・・・仮想照明体
311・・・撮像部
312・・・仮想照明体検出部
Claims (14)
- 被写体の照明に関連する被写体情報と、照明体の代替物として実空間内に設けた仮想照明体の種類と前記実空間内における三次元情報によって示される前記仮想照明体の位置や姿勢およびその変化に基づいて、照明の位置や方向,強度,種類を設定する照明情報とから、前記照明情報に基づいた照明環境下における前記被写体の画像を生成する画像生成部を備える
画像処理装置。 - 前記実空間内の仮想照明体に基づいて前記照明情報を取得する照明情報取得部をさらに備える
請求項1に記載の画像処理装置。 - 前記照明情報取得部は、
前記仮想照明体が置かれる実空間の情報を取得する実空間情報取得部と、
前記仮想照明体の特徴量を記憶した特徴量記憶部と、
前記特徴量記憶部に記憶されている特徴量と前記実空間情報取得部が取得した前記実空間の情報に基づき前記仮想照明体を判別して、判別した前記仮想照明体の実空間の情報に基づき照明情報を生成する照明情報生成処理部とを有する
請求項2に記載の画像処理装置。 - 前記照明情報取得部は、
前記仮想照明体が置かれる実空間の情報を取得する実空間情報取得部と、
前記仮想照明体の特徴量を学習する仮想照明体学習部と、
前記仮想照明体学習部で学習された前記特徴量を記憶する特徴量記憶部と、
前記特徴量記憶部に記憶されている特徴量と前記実空間情報取得部が取得した前記実空間の情報に基づき前記仮想照明体を判別して、判別した前記仮想照明体の実空間の情報に基づき照明情報を生成する照明情報生成処理部とを有する
請求項2に記載の画像処理装置。 - 前記照明情報取得部は、撮像部から前記実空間内の仮想被写体の三次元情報を取得する請求項2に記載の画像処理装置。
- 前記照明情報取得部は、前記仮想照明体が置かれる実空間の情報を取得して提示した情報から、ユーザが前記仮想照明体として指定した実空間の情報に基づいて前記仮想照明体を決定して、決定した前記仮想照明体に基づいて前記照明情報を生成する照明情報生成処理部を有する
請求項2に記載の画像処理装置。 - 前記照明情報取得部は、
前記仮想照明体との通信を行う通信部と、
前記通信部で前記仮想照明体からの通信信号を受信して得られた受信データに基づき前記照明情報を生成するデータ処理部とを有する
請求項2に記載の画像処理装置。 - 前記データ処理部は、前記受信データで示された前記仮想照明体の位置や姿勢およびその変化に基づいて前記照明情報を生成する
請求項7に記載の画像処理装置。 - 前記データ処理部は、前記仮想照明体におけるユーザ設定に基づいて、照明の強度や種類を設定する前記照明情報を生成する
請求項8に記載の画像処理装置。 - 前記照明情報は、照明の三次元位置と照明方向および照明強度と種類の少なくともいずれかの情報を含む
請求項1に記載の画像処理装置。 - 前記仮想照明体は、認識できる任意な物体である
請求項1に記載の画像処理装置。 - 前記認識できる任意な物体は、平面に矩形状の枠領域を設けて、前記枠領域内に所定のパターンを描画したマーカーである
請求項9に記載の画像処理装置。 - 撮像画像から前記被写体の照明に関連する被写体情報を取得する被写体情報取得部をさらに備える
請求項1に記載の画像処理装置。 - 画像生成部で、被写体の照明に関連する被写体情報と、照明体の代替物として実空間内に設けた仮想照明体の種類と前記実空間内における三次元情報によって示される前記仮想照明体の位置や姿勢およびその変化に基づいて、照明の位置や方向,強度,種類を設定する照明情報とから、前記照明情報に基づいた照明環境下における前記被写体の画像を生成する工程を含む画像処理方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015005838A JP6674192B2 (ja) | 2014-05-28 | 2015-01-15 | 画像処理装置と画像処理方法 |
PCT/JP2015/002674 WO2015182134A1 (en) | 2014-05-28 | 2015-05-27 | Improved setting of virtual illumination environment |
US15/115,510 US10204404B2 (en) | 2014-05-28 | 2015-05-27 | Image processing device and image processing method |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014110386 | 2014-05-28 | ||
JP2014110386 | 2014-05-28 | ||
JP2015005838A JP6674192B2 (ja) | 2014-05-28 | 2015-01-15 | 画像処理装置と画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016006627A JP2016006627A (ja) | 2016-01-14 |
JP6674192B2 true JP6674192B2 (ja) | 2020-04-01 |
Family
ID=53404828
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015005838A Expired - Fee Related JP6674192B2 (ja) | 2014-05-28 | 2015-01-15 | 画像処理装置と画像処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10204404B2 (ja) |
JP (1) | JP6674192B2 (ja) |
WO (1) | WO2015182134A1 (ja) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6486096B2 (ja) * | 2014-12-18 | 2019-03-20 | キヤノン株式会社 | プリントデータ生成装置、プリントデータ生成方法およびプログラム |
EP3057067B1 (en) * | 2015-02-16 | 2017-08-23 | Thomson Licensing | Device and method for estimating a glossy part of radiation |
JP6727816B2 (ja) * | 2016-01-19 | 2020-07-22 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラムおよび記憶媒体 |
JP2017134775A (ja) * | 2016-01-29 | 2017-08-03 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP6700840B2 (ja) * | 2016-02-18 | 2020-05-27 | キヤノン株式会社 | 画像処理装置、撮像装置、制御方法及びプログラム |
US10372229B2 (en) * | 2016-02-25 | 2019-08-06 | Nec Corporation | Information processing system, information processing apparatus, control method, and program |
US20180268614A1 (en) * | 2017-03-16 | 2018-09-20 | General Electric Company | Systems and methods for aligning pmi object on a model |
JP2018163648A (ja) * | 2017-03-27 | 2018-10-18 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP2019109709A (ja) * | 2017-12-18 | 2019-07-04 | 株式会社東芝 | 画像処理装置、画像処理方法およびプログラム |
US11240441B2 (en) | 2018-03-05 | 2022-02-01 | Omron Corporation | Method, device, system and computer-program product for setting lighting condition and storage medium |
JP7059076B2 (ja) * | 2018-03-30 | 2022-04-25 | キヤノン株式会社 | 画像処理装置、その制御方法、プログラム、記録媒体 |
CN110567469B (zh) * | 2018-06-05 | 2021-07-20 | 北京市商汤科技开发有限公司 | 视觉定位方法、装置、电子设备及系统 |
EP4083991A4 (en) * | 2019-12-23 | 2023-06-28 | Sony Group Corporation | Image generation device, image generation method, and image generation program |
CN117716396A (zh) * | 2021-07-26 | 2024-03-15 | 京瓷株式会社 | 训练模型生成方法、用户环境估计方法、训练模型生成设备、用户环境估计设备和训练模型生成系统 |
CN114022607B (zh) * | 2021-11-19 | 2023-05-26 | 腾讯科技(深圳)有限公司 | 一种数据处理方法、装置以及可读存储介质 |
JP2023091492A (ja) * | 2021-12-20 | 2023-06-30 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6018350A (en) | 1996-10-29 | 2000-01-25 | Real 3D, Inc. | Illumination and shadow simulation in a computer graphics/imaging system |
JP2004213583A (ja) * | 2003-01-09 | 2004-07-29 | Sony Corp | 情報処理装置および方法、並びにプログラム |
EP1720131B1 (en) * | 2005-05-03 | 2009-04-08 | Seac02 S.r.l. | An augmented reality system with real marker object identification |
JP5123353B2 (ja) * | 2010-05-06 | 2013-01-23 | 株式会社スクウェア・エニックス | リアルタイムシーンを照明し,発見するバーチャルフラッシュライト |
JP5984327B2 (ja) * | 2010-07-24 | 2016-09-06 | キヤノン株式会社 | 情報処理方法及びその装置、プログラム |
JP2013025762A (ja) * | 2011-07-26 | 2013-02-04 | Canon Inc | 画像処理装置および画像処理方法、プログラム |
JP6021568B2 (ja) | 2012-10-02 | 2016-11-09 | 任天堂株式会社 | 画像処理用プログラム、画像処理装置、画像処理システム、および画像処理方法 |
EP3264246A4 (en) * | 2015-02-27 | 2018-09-05 | Sony Corporation | Information processing apparatus, information processing method, and program |
-
2015
- 2015-01-15 JP JP2015005838A patent/JP6674192B2/ja not_active Expired - Fee Related
- 2015-05-27 US US15/115,510 patent/US10204404B2/en not_active Expired - Fee Related
- 2015-05-27 WO PCT/JP2015/002674 patent/WO2015182134A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US20170011496A1 (en) | 2017-01-12 |
JP2016006627A (ja) | 2016-01-14 |
WO2015182134A1 (en) | 2015-12-03 |
US10204404B2 (en) | 2019-02-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6674192B2 (ja) | 画像処理装置と画像処理方法 | |
JP7344974B2 (ja) | マルチ仮想キャラクターの制御方法、装置、およびコンピュータプログラム | |
US9443353B2 (en) | Methods and systems for capturing and moving 3D models and true-scale metadata of real world objects | |
US9659381B2 (en) | Real time texture mapping for augmented reality system | |
JP4032776B2 (ja) | 複合現実感表示装置及び方法、記憶媒体、並びにコンピュータ・プログラム | |
KR100953606B1 (ko) | 화상 표시 장치, 화상 표시 방법 및 명령 입력 방법 | |
US11100719B2 (en) | Method and apparatus for overlaying a reproduction of a real scene with virtual image and audio data, and a mobile device | |
CN106062862A (zh) | 用于沉浸式和交互式多媒体生成的系统和方法 | |
JP5299173B2 (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
CN110926334B (zh) | 测量方法、装置、电子设备及存储介质 | |
CN111737547A (zh) | 商户信息的获取系统、方法、装置、设备及存储介质 | |
JP5756322B2 (ja) | 情報処理プログラム、情報処理方法、情報処理装置および情報処理システム | |
CN111742281B (zh) | 用于针对显示在显示器上的第一内容提供根据外部对象的移动的第二内容的电子装置及其操作方法 | |
US20210255328A1 (en) | Methods and systems of a handheld spatially aware mixed-reality projection platform | |
CN112581571B (zh) | 虚拟形象模型的控制方法、装置、电子设备及存储介质 | |
US11582409B2 (en) | Visual-inertial tracking using rolling shutter cameras | |
JPWO2019069575A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN109906600A (zh) | 模拟景深 | |
CN112912936A (zh) | 混合现实系统、程序、移动终端装置和方法 | |
JP2014029566A (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
CN112308103B (zh) | 生成训练样本的方法和装置 | |
CN111640190A (zh) | Ar效果的呈现方法、装置、电子设备及存储介质 | |
US12014645B2 (en) | Virtual tutorials for musical instruments with finger tracking in augmented reality | |
CN113412612A (zh) | 信息处理装置、信息处理方法和记录介质 | |
JP7287408B2 (ja) | 表示方法、情報処理装置、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170106 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180320 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180516 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20180619 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180829 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20180906 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20181005 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191023 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200306 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6674192 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |