JP6988819B2 - 画像処理装置、および画像処理方法、並びにプログラム - Google Patents
画像処理装置、および画像処理方法、並びにプログラム Download PDFInfo
- Publication number
- JP6988819B2 JP6988819B2 JP2018551548A JP2018551548A JP6988819B2 JP 6988819 B2 JP6988819 B2 JP 6988819B2 JP 2018551548 A JP2018551548 A JP 2018551548A JP 2018551548 A JP2018551548 A JP 2018551548A JP 6988819 B2 JP6988819 B2 JP 6988819B2
- Authority
- JP
- Japan
- Prior art keywords
- angle
- image
- reflection
- unit
- input unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/75—Circuitry for compensating brightness variation in the scene by influencing optical camera components
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Description
具体的には、路上に設置したカメラで車を撮影するような場合、カメラに対して斜めに車が走行していると、偏光フィルタの遮断方向と反射光のS波の方向が一致せず十分な反射光の除去効果が得られない。
しかし、この手法では、撮影対象とする被写体を、特定の方向から撮影することが必要となり、様々な自由なアングルでの画像撮影ができなくなるという問題が発生する。
異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得する画像入力部と、
前記画像入力部の取得画像の撮影方向と反射面の法線方向に相当する面方向との成す角度である反射角を取得する角度入力部と、
前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去する反射成分分離部と、
を有する画像処理装置にある。
画像処理装置において実行する画像処理方法であり、
画像入力部が、異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得する画像入力ステップと、
角度入力部が、前記画像入力ステップにおける取得画像の撮影方向と、反射面の法線方向に相当する面方向との成す角度である反射角を、反射成分分離部に出力する角度入力ステップと、
反射成分分離部が、前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去する反射成分分離ステップと、
を実行する画像処理方法にある。
画像処理装置において画像処理を実行させるプログラムであり、
画像入力部に、異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得させる画像入力ステップと、
角度入力部に、前記画像入力ステップにおける取得画像の撮影方向と、反射面の法線方向に相当する面方向との成す角度である反射角を、反射成分分離部に出力させる角度入力ステップと、
反射成分分離部に、前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去させる反射成分分離ステップと、
を実行させるプログラムにある。
具体的には、例えば、異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得する画像入力部と、取得画像の撮影方向と、反射面の法線方向に相当する面方向との成す角度である反射角を、強度透過率および強度反射率計算部に出力する角度入力部と、反射角を適用してS波およびP波各々の強度透過率と強度反射率を計算する計算部と、S波およびP波各々の強度透過率と強度反射率を適用して、画像入力部の取得画像から反射光成分を除去する反射成分分離部を有する。これらの処理により、様々な反射角の撮影画像からの反射光成分除去を可能とした。
本構成により、様々な方向の撮影画像から反射成分光を除去可能とした画像処理装置、および方法が実現される。
なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
1.反射面からの反射光の影響が発生する画像撮影構成の一例と、用語の定義について
2.偏光フィルタを適用して反射面からの反射光を除去する処理の原理と課題について
3.反射角の角度に応じた画像処理による反射光除去処理について
4.任意の撮影方向の画像から反射光成分を除去した画像を生成する画像処理装置と画像処理方法について
5.その他の実施例について
5−1.屈折率入力部を省略した構成例
5−2.ジャイロセンサを利用した角度入力部の例
5−3.被写体に応じた角度入力処理を実行する角度入力部の例
5−4.デプスセンサを有する角度入力部の例
5−5.反射除去結果呈示部を持つ実施例
5−6.生成画像の画素の輝度に基づいて反射角を推定する実施例
5−7.カメラ装着センサから取得するカメラ姿勢情報を用いて天頂角を算出し、天頂角を入射角(=反射角)として利用する実施例
6.画像処理装置のハードウェア構成例について
7.本開示の画像処理装置を適用した応用例について
8.本開示の構成のまとめ
まず、図1を参照して、反射面からの反射光の影響が発生する画像撮影構成の一例と、用語の定義について説明する。
図1において、カメラ10は、水面やガラス面等の反射面51の奥側の魚を被写体20として撮影する。
図1では、水面やガラス面等の反射面51の上側のカメラ10のある領域をカメラ側領域、反射面51の下側の被写体(=魚)20のある領域を被写体領域として示している。
撮影処理は、カメラ側領域の光源30、例えば太陽、あるいは室内光等の光源30の下で行う。
(a)被写体20の被写体画像に相当する透過光(拡散光)Lt
(b)反射面51の反射面画像に相当する反射光Lr
(b)反射面51の反射面画像に相当する反射光Lrは、水面やガラスなどの反射面51に映り込んだ光源等の外界の景色画像に相当する光である。
カメラ10には、これら2種類の光が入力する。
従って、カメラ10の撮影画像は、本来の撮影対象である被写体20(=魚)の画像に、水面やガラスなどの反射面51からの反射光画像が重なった画像となり、反射面からの反射光画像の成分が多い場合には、被写体20(=魚)画像が不鮮明になる。
図1において、カメラ10に対する入力光として示す透過光(または拡散光)Ltである。
また、反射光Lr(=反射成分)が反射面51に入射して反射する経路が成す面を「入射面52」と呼ぶ。
光は電磁波であり、進行方向に対して直交して振動する電界と磁界によって構成される。
電界が入射面に平行に振動する光成分、すなわち入射面51に平行な偏光方向の光をP波(P偏光)と呼ぶ。
一方、電界が入射面に垂直に振動する光成分、すなわち入射面51に垂直な偏光方向の光をS波(S偏光)と呼ぶ。
法線55と入射光Lxが成す角度を入射角と呼ぶ。
法線55と反射光Lrが成す角度を反射角と呼ぶ。反射角と入射角は、図1に示すように、同一の角度αとなる。
しかし、この手法では、撮影対象とする被写体を、特定の方向から撮影することが必要となり、様々な自由なアングルでの画像撮影ができなくなるという問題が発生する。
以下、偏光フィルタを適用した撮影処理とその問題点について説明する。
次に、図2以下を参照して、偏光フィルタを適用して反射面からの反射光を除去する処理の原理と課題について説明する。
横軸が、入射光Lxの入射角α(=反射角)、縦軸が反射率(反射光強度/入射光強度)である。
RsがS波の反射率、RpがP波の反射率である。
RsとRpは、反射光Lrに含まれるS波とP波の量と言い換えることもできる。
このように、
P波の反射率≒0
となる入射角をブリュースター角と呼ぶ。
従って、反射面51に対するカメラ10の方向をブリュースター角に設定して反射光のP波を除去し、さらに、カメラ10に偏光フィルタを装着し、反射光のS波を遮断する方向に偏光フィルタを回転させると、偏光フィルタによって反射光のS波も除去することができる。
図1の例では、被写体20(魚)の鮮明な画像を撮影することができる。
なお、このようなブリュースター角と偏光フィルタを用いた反射成分除去手法は、前述の特許文献1(特開2016−126410号公報)にも記載された従来から、よく知られた手法である。
このグラフに示すように、輝度Iは、偏光板角度に応じて変化し、偏光板角度に応じた輝度変化は、正弦波となる。
偏光フィルタ(偏光板)を介した透過光の観測輝度をIpolとしたとき、
観測輝度をIpolは、以下の(式1)によって示される。
Ipol:偏光フィルタ(偏光板)を介した観測輝度
θpol:回転させた偏光フィルタ(偏光板)の角度
φ:観測光の位相
Imax,Imin:cos関数の振幅の上限と下限
φ:観測光の位相
Imax,Imin:cos関数の振幅の上限と下限
この3つの輝度に正弦波をフィッティングすることで3つの未知数、すなわち正弦波モデルパラメータであるImin、Imax、φを得ることができる。
すなわち、カメラ10に装着した偏光フィルタを回して3種類以上の異なる角度で撮影した画像を取得し、上記(式1)の未知のパラメータ、Imin、Imax、Φを算出することができる。
ここで、輝度Iminは、S波を遮断して得られる輝度に相当する。
すなわち、上述した処理によって反射成分を取り除いた画像は、カメラを特定の方向に向けた撮影した特定方向の画像のみとなる。
すなわち、反射面の垂直方向に相当する面方向と、カメラの視線方向が成す角度を特定の角度(ブリュースター角)に一致、またはその近傍に設定するという特定の条件下で、画像を撮影することが必要となる。
このように、この手法は、撮影対象とする被写体を、特定の方向から撮影することが必要であり、様々な自由なアングルでの画像撮影ができなくなるという問題が発生する。
以下、この処理の詳細について説明する。
以下、反射角の角度に応じた画像処理を実行して、様々な方向の撮影画像から反射成分を除去する処理について説明する。
図4は、異なる屈折率を持つ界面に光が入射し、反射する様子を示した図である。
図4において、反射面70の上部領域を第1領域、下部領域を第2領域とする。
図1を参照して説明した入射面52が、図4の平面(紙面)に相当する。
図4に示す入射光のP波は、電界が入射面(図4平面)に平行に振動する光成分であり、図4に示す入射光のS波は、電界が入射面に垂直に振動する光成分である。
第1領域の屈折率をn1
第2領域の屈折率をn2、
とする。さらに、
入射光の入射角(=入射光反射角)をα、
拡散光の入射角をβとする。
この時、スネルの法則より、それぞれの値は以下の(式2)を満たすことが知られている。
rsは、反射成分のS波振幅反射率、
rpは、反射成分のP波振幅反射率、
である。
ここで、第2領域の第1領域に対する相対屈折率nを、
n=n2/n1、
とおき、スネルの法則を用いて、上記(式3)を、反射成分中の各波の光強度、すなわち、
反射成分に含まれるS波の光強度Rs
反射成分に含まれるP波の光強度Rp
これらの値の算出式を求めると、以下の(式4)として表すことができる。
この透過光は、第2領域内の被写体画像を形成する光となる。図1に示す例では、被写体20(魚)の画像を構成する光に相当する。
領域設定と、各領域の屈折率は図4と同様の設定である。
第1領域の屈折率をn1
第2領域の屈折率をn2、
とする。
第2領域から、反射面70を通過して第1領域に飛び出す透過光(拡散光)の屈折角をαとする。
この時、これらの各パラメータn1,n2,α、βは、先に説明したスネルの法則(式2)を満たす。
tsは、透過光(拡散光)のS波振幅透過率、
tpは、透過光(拡散光)のP波振幅透過率、
である。
n=n2/n1、
とおき、スネルの法則を用いて、上記(式5)を、透過成分中の各波の光強度、すなわち、
透過光に含まれるS波の光強度Ts
透過光に含まれるP波の光強度Tp
これらの値の算出式を求めると、以下の(式7)として表すことができる。
(A)反射光の入射角と反射率との対応関係データ
(B)透過光の入射角と透過率との対応関係データ
なお、図6に示すグラフは、第1領域と第2領域の相対屈折率(n=n2/n1)が、1.6の場合の例である。
すなわち、このふるまいの違いが反射光において無偏光の光が偏光する要因である。この偏光光の違いは人間の目や通常のイメージセンサでは取得できない。光の偏光の様子を観測するためには偏光子や偏光フィルタが使用されるが、以下では偏光フィルタをカメラの前に配置したときに観測される光の強度に関して説明する。
反射光の反射前の入射光の光の強度をIr、
透過光の透過前の入射光の光の強度をIt、
これらの光強度とする。
図7は、図7(参考図)に示すように、カメラ側から見たカメラに対する入射光の解析図である。
図7平面の手前にカメラがあり、図7平面の奥側から透過光と反射光の双方を含む観測光が、カメラに入力する。観測光は、カメラに垂直な入射面に沿って進む。
図7に示す入射面の線は、図7の平面に垂直方向に広がる平面であり、この入射面に沿って図7の奥側から手前側(カメラ側)に向けて光が進行する。
図7には、透過光と反射光からなる観測光に含まれるP波とS波の強度をそれぞれ実線の矢印で示している。
図7に示すP波81、S波82である。
なお、この透過偏光方向85の入射面からの傾き角度をτとする。
偏光フィルタを透過し、カメラにおいて観測されるP波とS波の強度は図7に点線で示した強度となる。
図7に示すフィルタ透過光のP波成分86、フィルタ透過光のS波成分87である。
また、図7に示すフィルタ透過光のS波成分87は、入射面に垂直なS波82のベクトルの偏光フィルタの透過偏光方向85の成分に相当する。
このような関係に基づいて、偏光フィルタを透過し観測される反射光の強度Ir polは、以下の(式9)によって表すことができる。
カメラで取得される画像平面の水平方向をX軸、垂直方向をY軸とした時の、Y軸と偏光フィルタの透過偏光方向の相対的な角度は容易に取得できるが、入射面の方向は容易には取得できない。
すなわち、図7を参照して説明した「入射面」と、「偏光フィルタの透過偏光方向」との角度τが不明である。
そこで、カメラ取得画像の垂直方向「Y軸」と偏光フィルタの透過偏光方向の相対的な角度をθとし、Y軸と入射面の方向の相対的な未知の角度をΦとすると、上記の(式11)は以下の(式12)のように書き換えることができる。
反射光の光強度対応の反射率を示す強度反射率Rs、Rpと、
透過光の光強度対応の透過率を示す強度透過率Ts、Tp、
これらの値については、先に説明した(式4)、(式7)を適用して計算することができる。
反射光の反射前の入射光の光の強度:Ir、
透過光の透過前の入射光の光の強度:It、
カメラ取得画像の垂直方向「Y軸」と入射面の方向の相対的な角度:Φ、
これらの3つの未知数を持つ三変数の関数と考えることが可能である。
このためには、カメラに装着した偏光フィルタの回転等による偏光方向制御により、角度θを3種類以上の異なる設定として画像撮影を行う。すなわち、カメラ取得画像の垂直方向「Y軸」と偏光フィルタの透過偏光方向の相対的な角度θを少なくとも三通りに変化させて撮影処理を実行して、上記(式12)のIpolの値、すなわち、カメラの観測光強度Ipolの値を取得する。
反射光の反射前の入射光の光の強度:Ir、
透過光の透過前の入射光の光の強度:It、
カメラ取得画像の垂直方向「Y軸」と入射面の方向の相対的な角度:Φ、
これらの未知数の値を算出することができる。
このItが、カメラの撮影画像に含まれる透過光成分に相当する。従って、このItの値を画素値として設定した画像を生成することで、透過光のみからなる画像、すなわち、反射光と透過光を含む観察画像から反射光成分を除去した透過光のみからなる画像を生成することが可能となる。
反射光の光強度対応の反射率を示す強度反射率Rs、Rpと、
透過光の光強度対応の透過率を示す強度透過率Ts、Tp、
これらの値の算出式である先に説明した(式4)、(式7)には、相対屈折率n=n2/n1と、反射角αが含まれる。
あるいは、多くの物質の空気との相対屈折率nは1.5〜1.6であるので、n=1.5〜1.6とした設定で演算を行ってもよい。
例えば、空気の屈折率=n1と、水やガラス等の物質の屈折率n2との比である相対屈折率n=n2/n1の値は、n=1.5〜1.6であり、水中やガラス内の被写体を撮影する場合には、相対屈折率n=1.5〜1.6として演算を行っても大きな誤差が発生することはない。
以下、具体的な画像処理装置と画像処理方法の実施例について、説明する。
図8以下を参照して、任意の撮影方向の画像から反射光成分を除去した画像を生成する画像処理装置と画像処理方法について説明する。
図8に示す画像処理装置100は、画像入力部101、角度入力部102、屈折率入力部103、強度透過率/強度反射率計算部104、反射成分分離部105を有する。
画像処理装置100は、例えば図1に示す環境で撮影した画像、すなわち、反射光と透過光を含む観察光から構成される画像を入力して、この入力画像から、反射光成分を除去した透過光成分のみからなる透過光成分画像110を生成する。
具体的には、例えば、偏光フィルタの設定されたカメラの偏光フィルタを回転させて撮影した3種類以上の異なる偏光画像を入力する。
あるいは、各画素単位で異なる偏光フィルタを積層した撮像素子を適用した1枚の撮影画像を入力してもよい。この撮像素子構成については、後段で説明する。
以下では、偏光フィルタの設定されたカメラの偏光フィルタを回転させて撮影した3種類以上の異なる偏光画像を入力した場合の処理について説明する。
反射成分分離部105は、強度透過率/強度反射率計算部104において計算された強度透過率と、強度反射率に基づき、取得された画像から反射成分を分離して、透過光成分のみからなる透過光成分画像110を生成して出力する。
このような構成では、反射成分分離部105内の強度透過率/強度反射率計算部104が、角度入力部102および屈折率入力部103から反射角α、および相対屈折率n=n2/n1を入力して、S波とP波各々の強度透過率Ts,Tp、および強度反射率Rs,Rpを計算する。さらに、同じ反射成分分離部105において、この計算結果に基づき、画像入力部101の取得画像から反射成分を分離して、透過光成分のみからなる透過光成分画像110を生成して出力する。
以下、各部の詳細を説明する。
複数の偏光画像を取得する方法の一例について、図9を参照して説明する。
例えば図9に示すように、3台以上の複数のカメラa,120,カメラb,130,カメラc,140を配置する。さらに各カメラa〜c,120〜140の前面に異なる方向の偏光フィルタ121a,131a,141aを配置して、画像撮影を行うことで各カメラa〜c,120〜140の撮像素子122a〜142cには、複数の異なる方向の偏光画像が撮影される。
カメラ150は複数回、時分割で画像を撮影する。カメラ150には、回転することが可能な回転可能偏光フィルタ151が装着されている。
回転可能偏光フィルタ151は、カメラ150の各回の撮影毎に、所定角度回転する。
すなわち、
透過偏光方向=0度で取得した偏光画像の各画素iの画素値をIi 0とし、
透過偏光方向=45度で取得した偏光画像の各画素iの画素値をIi 45とし、
透過偏光方向=90度で取得した偏光画像の各画素iの画素値をIi 90とする。
図11に示す偏光画像撮影カメラ160は、特殊なイメージセンサ、すなわち偏光子積層撮像素子162を搭載している。
偏光子積層撮像素子162は、撮像素子を構成する各画素単位で異なる偏光方向を持つ偏光フィルタ(偏光子)を積層した構成を持つ。
図11右下に示す偏光子積層撮像素子162の各画素に示すハッチングが偏光方向を示す。
例えば、左上端の4つの画素a,b,c,dの偏光方向は以下の設定である。
画素aの偏光方向は、垂直方向(0度)であり、画素aは垂直偏光のみを受光する。
画素bの偏光方向は、右上斜め方向(45度)であり、画素bは右上斜め方向の偏光のみを受光する。
画素cの偏光方向は、右下斜め方向(135度)であり、画素cは右下斜め方向の偏光のみを受光する。
画素dの偏光方向は、水平方向(90度)であり、画素dは水平偏光のみを受光する。
(1)シリコンレンズ、
(2)偏光子、
(3)光電変換素子、
これら(1)〜(3)の各層を有する積層構成となっている。
なお、1つの偏光画像は、4画素単位で1つのみの画素値を有するので、他の3画素には同一画素値を設定する。この処理により、解像度は低下するが4つの異なる偏光画像を1回の撮影処理で取得することができる。
画像の各画素に対応する反射角の取得方法には様々なものが考えられるが、例えば入力画像の撮影を行うカメラの撮影角度に応じてユーザ(撮影者)が入力した角度データをメモリに格納し、その格納データを利用して、画像の各画素に対応する反射角を算出することが可能である。
あるいは、予めメモリに45度などの規定角度情報を格納し、その角度情報を画像の各画素に対応する反射角として利用する設定としてもよい。
なお、画像を構成する画素ごとに異なる厳密な画素単位の反射角を算出してもよいが、簡易的に画像の構成画素の全て、あるいは所定領域単位の画素群単位で共通の同一の反射角を設定して利用する構成としてもよい。
なお、相対屈折率は、画像の構成画素の全てに共通の値として構わない。
あるいは、例えば、予めメモリに1.5などの相対屈折率(n=n2/n1)データを格納し、その格納データを利用してもよい。
空気の屈折率は、約1.0であり、水の屈折率は、約1.33、ガラスの屈折率は、約1.4〜2.0等、物質によって屈折率は多少、異なるが、空気以外の物質の多くは、屈折率=1.3〜1.6程度の物質である。
被写体の存在する領域が水中か、ガラス内かによって、ユーザが、その領域の屈折率に応じた相対屈折率を入力する設定としてもよい。
(a)画素iにおける反射光のS波の強度反射率Rsi、
(b)画素iにおける反射光のP波の強度反射率Rpi、
(c)画素iにおける透過光のS波の強度透過率Tsi、
(d)画素iにおける透過光のP波の強度透過率Tpi
(b)画素iにおける反射光のP波の強度反射率Rpi、
これらの各値は、先に説明した(式4)を利用して算出する。
(c)画素iにおける透過光のS波の強度透過率Tsi、
(d)画素iにおける透過光のP波の強度透過率Tpi
これらの各値は、先に説明した(式7)を利用して算出する。
反射角(α)
相対屈折率(n=n2/n1)、
これらの各値は、角度入力部102、屈折率入力部103からの入力値を適用する。
反射成分分離部105は、この画素値算出処理に、強度透過率/強度反射率計算部104から入力した各画素の強度透過率と強度反射率を用いる。すなわち、以下の各値を利用して、各画素の反射成分を除去した画素値を算出する。
(a)画素iにおける反射光のS波の強度反射率Rsi、
(b)画素iにおける反射光のP波の強度反射率Rpi、
(c)画素iにおける透過光のS波の強度透過率Tsi、
(d)画素iにおける透過光のP波の強度透過率Tpi
なお、画像入力部101から入力された入力画像は、以下の3種類の偏光画像であるとする。
透過偏光方向=0度で取得した偏光画像I0、
透過偏光方向=45度で取得した偏光画像I45、
透過偏光方向=90度で取得した偏光画像I90、
これらの3種類の偏光画像が画像入力部101から入力された入力画像である。
透過偏光方向=0度で取得した偏光画像の各画素iの画素値をIi 0とし、
透過偏光方向=45度で取得した偏光画像の各画素iの画素値をIi 45とし、
透過偏光方向=90度で取得した偏光画像の各画素iの画素値をIi 90とする。
なお、これらの各画素値は、いずれも反射光成分と透過光成分を含む観測画素値である。
(a)画素iにおける反射光のS波の強度反射率Rsi、
(b)画素iにおける反射光のP波の強度反射率Rpi、
(c)画素iにおける透過光のS波の強度透過率Tsi、
(d)画素iにおける透過光のP波の強度透過率Tpi
これらの各値を取得する。
これらの値は、強度透過率/強度反射率計算部104から入力した値である。
透過偏光方向=0度で取得した偏光画像の各画素iの画素値(観測画素値)をIi 0、
透過偏光方向=45度で取得した偏光画像の各画素iの画素値(観測画素値)をIi 45、
透過偏光方向=90度で取得した偏光画像の各画素iの画素値(観測画素値)をIi 90、
これらの画素値は、入力偏光画像から得られる画素値(観測画素値)であり既知である。
(a)画素iにおける反射光のS波の強度反射率Rsi、
(b)画素iにおける反射光のP波の強度反射率Rpi、
(c)画素iにおける透過光のS波の強度透過率Tsi、
(d)画素iにおける透過光のP波の強度透過率Tpi
これらの各値は、強度透過率/強度反射率計算部104から入力した値であり、既知である。
画素iにおける反射光の反射前の入射光の光の強度:Ii r、
画素iにおける透過光の透過前の入射光の光の強度:Ii t、
カメラ取得画像の垂直方向「Y軸」と入射面の方向の相対的な角度:Φ、
上記の(式13)は、この3つの変数(未知数)を持つ連立方程式である。
このIi tが、カメラの撮影画像に含まれる透過光成分に相当する。
反射成分分離部105は、このIi tの値を画素値として設定した画像を透過光成分画像110として生成して出力する。
この透過光成分画像110は、反射光と透過光を含む観察画像から反射光成分を除去した透過光成分のみからなる画像となる。
すなわち、画像入力部101からの入力画像に無偏光画像が含まれていても、反射成分を取り除くことが可能であり、鮮明な被写体画像(=透過光成分画像)を生成して出力することが可能となる。
次に、上述した実施例とは異なる構成、または異なる処理を実行する実施例について説明する。
先に図8を参照して説明した画像処理装置100は、反射角αを入力する角度入力部102と、相対屈折率(n=n2/n1)を入力する屈折率入力部103を有していた。
これらのパラメータ入力部から、屈折率入力部103を省略した構成も可能である。
図13に示す画像処理装置200は、画像入力部101、角度入力部102、強度透過率/強度反射率計算部104、反射成分分離部105を有する。
図8を参照して説明した画像処理装置100に含まれる屈折率入力部103を持たない構成である。
空気の屈折率は、約1.0であり、水の屈折率は、約1.33、ガラスの屈折率は、約1.4〜2.0等、物質によって屈折率は多少、異なるが、空気以外の物質の多くは、屈折率=1.3〜1.6程度の物質である。
例えば、透過光を出力する領域が水である場合は、相対屈折率n=1.33、ガラスである場合は、相対屈折率=1.5等、物質対応の屈折列データを適用する構成としてもよい。
図8、または図13に示す画像処理装置に設定される角度入力部102は、反射角αを強度透過率/強度反射率計算部104に入力する。
先に図8を参照して説明したように、この角度入力部102は、画像入力部101の入力する入力画像の各画素に対応する反射角(α)を取得し、強度透過率/強度反射率計算部104に入力する。
あるいは、カメラに備えられた角度センサ等の情報を入力画像の属性情報として設定して画像とともに入力してメモリに格納し、その格納データを利用してもよい。
あるいは、予めメモリに45度などの規定角度を格納し、その角度情報を利用する設定としてもよい。
例えば水面の反射を除去することのみを実現したい場合には、水面の面方向(法線方向)は必ず垂直であると仮定することが可能である。
このジャイロの計測した画像処理装置(カメラ)300の傾きを、角度入力部200が、強度透過率/強度反射率計算部104に出力する反射角αとして利用することができる。
次に、被写体に応じた角度入力処理を実行する角度入力部102の例について説明する。
前述したように、図8、または図13に示す画像処理装置に設定される角度入力部102は、反射角αを強度透過率/強度反射率計算部104に出力する。
以下に説明する例は、撮影被写体が、予め規定した特定の被写体である場合、画像処理装置が保持する特定被写体の形状のモデルに基づいて、角度入力部102が画像の各画素対応の被写体の面方向を推定し、推定した面方向に基づいて各画素対応の反射角αを算出して、算出した反射角αを強度透過率/強度反射率計算部104に出力する処理例である。
図15は、画像処理装置であるカメラが人の眼を撮影し、虹彩に映り込んだ反射を除去することを想定した例について説明する図である。
すなわち、画像処理装置は、メモリに特定被写体の形状モデルとして、眼球モデルを保持する。
カメラの撮影方向は、眼の正面方向であり、図に示す反射角αが、虹彩一部領域404の画素位置の反射角となる。
角度入力部102は、この角度αを算出し、この角度を虹彩一部領域404の画素位置に対応する反射角αとして強度透過率/強度反射率計算部104に出力する。
角度入力部102は、このようにして、各画素対応の反射角を計算した結果を強度透過率/強度反射率計算部104に出力する構成とすることが可能である。
次に、デプスセンサを有する角度入力部102の例について説明する。
前述したように、図8、または図13に示す画像処理装置に設定される角度入力部102は、反射角αを強度透過率/強度反射率計算部104に出力する。
以下に説明する例は、角度入力部102が、デプスセンサを有する構成とした実施例である。
デプスセンサを有する角度入力部102は、デプスセンサによって得られる被写体距離情報を有するデプスマップを生成し、このデプスマップに記録される距離データを微分することによって被写体の各点における面方向を算出する。
さらに、算出した面方向から、被写体の各点の反射角を算出する。
図16を参照してこの実施例について説明する。
画像処理装置の角度入力部102は、撮影画像の各画素単位の被写体のカメラからの距離を計測するデプスセンサを有している
画素2の距離と、画素1の距離は、図16(b)に示すように画素2が画素1より遠方にあり、図に示すような配置にあることが、デプスセンサの計測情報によって生成されるデプスマップから判定される。
画像処理装置の角度入力部102は、この平面に垂直な方向を面方向(法線方向)と推定する。
法線方向と、カメラの撮影方向とのなす角度が反射角αに相当する。
図16(c)に示す反射角α,510である。
角度入力部102は、この角度αを算出し、この角度を画素1,2に対応する反射角αとして強度透過率/強度反射率計算部104に出力する。
次に、画像処理装置が、反射除去結果呈示部を持つ実施例について説明する。
図17は、反射除去結果呈示部を持つ画像処理装置600の構成例を示す図である。
図17に示す画像処理装置600は、先に図8や、図13を参照して説明したと同様の画像入力部601、角度入力部602、強度透過率/強度反射率計算部604、反射成分分離部605を有する。さらに、反射除去結果呈示部606を有する。
例えば、画像処理装置600の操作を行うオペレータは、角度入力部602に任意の角度を入力し、反射除去結果呈示部606に呈示された画像を確認し、最も良好に反射が除去された画像が呈示される角度を探索する。
なお、角度入力方法として、例えば図に示すツマミのような角度操作部610を回して角度を調整するようなユーザーインターフェースを用いる構成とすることが可能である。
次に、生成画像の画素の輝度に基づいて反射角を推定する実施例について説明する。
図18は、本実施例の画像処理装置の構成例を示す図である。
生成した反射除去結果画像Aは、反射除去結果格納メモリ706に格納される。
α←α+Δα
とする反射角更新処理を実行して、更新した反射角αを強度透過率/強度反射率計算部704に入力する。
反射成分分離部705は、強度透過率/強度反射率計算部704から入力する新たな反射角αに基づく強度透過率と、強度反射率を適用して新たな反射除去結果画像Bを生成して、これを反射除去結果格納メモリ706に格納する。
この処理を行うことで、最終的に、反射成分を最大限に除去した画素から構成される透過成分画像が反射除去結果格納メモリ706に格納されることになる。
従って、最小輝度の画素値が得られる反射角の設定で生成した画像の画素値は、反射成分が最大限除去され、透過成分のみからなる画素値であると推定される。
本実施例は、この推定処理を利用して透過成分画像を生成するものである。
(ステップS101)
まず、ステップS101において、角度入力部702が、初期値の反射角αを0度と設定し、強度透過率/強度反射率計算部704に入力する。
次に、強度透過率/強度反射率計算部704は、ステップS102において、角度入力部702から入力した反射角αに基づいて、以下の各値を計算する。
反射光の光強度対応の反射率を示す強度反射率Rs、Rp、
透過光の光強度対応の透過率を示す強度透過率Ts、Tp、
強度透過率/強度反射率計算部704は、これらの値を、先に説明した(式4)、(式7)を適用して計算する。
強度透過率/強度反射率計算部704は、算出値を反射成分分離部705に出力する。
次に、反射成分分離部705は、ステップS103において、強度透過率/強度反射率計算部704からの入力値(Rs・Rp・Ts・Tp)を用いて、画像を構成する各画素に関して反射成分の除去された画素値を計算して、これを処理結果Aとして、反射除去結果格納メモリ706に格納する。
なお、この画素値算出処理は、画像入力部701から入力する3種類の異なる偏光画像を用いて、先に説明した(式13)を適用した処理によって実行する。
続いて、角度入力部702は、ステップS104において、反射角αを予め規定した更新角度Δαだけ増分して、新たな反射角α=α+Δαを算出する。
なお、Δαは例えば1度等の設定とする。
角度入力部702は、この更新角度αを強度透過率/強度反射率計算部704に入力する。
次に、強度透過率/強度反射率計算部704は、ステップS105において、角度入力部702から入力した更新された反射角αに基づいて、以下の各値を計算する。
反射光の光強度対応の反射率を示す強度反射率Rs、Rp、
透過光の光強度対応の透過率を示す強度透過率Ts、Tp、
強度透過率/強度反射率計算部704は、これらの値を、先に説明した(式4)、(式7)を適用して計算する。
強度透過率/強度反射率計算部704は、算出値を反射成分分離部705に出力する。
次に、反射成分分離部705は、ステップS106において、強度透過率/強度反射率計算部704からの入力値(Rs・Rp・Ts・Tp)を用いて、画像を構成する各画素に関して反射成分の除去された画素値を計算して、これを処理結果Bとして、反射除去結果格納メモリ706に格納する。
なお、この画素値算出処理は、画像入力部701から入力する3種類の異なる偏光画像を用いて、先に説明した(式13)を適用した処理によって実行する。
次に、反射除去結果輝度比較部707は、ステップS107において、反射除去結果格納メモリ706に格納された異なる反射角設定の下で生成された処理結果Aと処理結果Bの対応画素の画素値(輝度)の比較を実行し、画素値(輝度)の小さい方の画素値を、反射成分の除去率の高い画素値であると判定し、この画素値を処理結果Aとして、反射除去結果格納メモリ706に格納済みの処理結果Aに上書きする。
次に、角度入力部702は、ステップS108において、反射角αが90度未満であるか否かを判定し、90度未満である場合は、ステップS104に戻り、反射角αの更新処理を実行し、ステップS104〜S107の処理を繰り返す。
この終了時点で、反射除去結果格納メモリ706に格納された処理結果Aは、反射角α=0〜90度の設定で生成された反射成分除去画像中、最も小さい画素値(輝度)を持つ画像となる。この画像が、入力画像(観察画像)から反射成分を除去した透過成分画像となる。
この処理を行うことで、入力画像(観察画像)から反射成分を除去した透過成分画像を生成することができる。
次に、カメラ装着センサから取得するカメラ姿勢情報を用いて天頂角を算出して、算出した天頂角を入射角(=反射角)として利用する実施例について説明する。
図20に示す画像処理装置720は、先に図8を参照して説明した画像処理装置100とほぼ同様の構成を有するが、角度入力部102の構成が異なる。
図20に示すように、角度入力部102は、方位角算出部721、カメラ姿勢取得部722、天頂角算出部723を有する。
強度透過率/強度反射率計算部104では、角度入力部102から入力する天頂角を、前述の実施例で説明した入射角(=反射角)αとして利用した処理を実行する。
まず、これらの各情報について図21を参照して説明する。
図21において、反射面70は、透明あるいは半透明なガラスなどの面である。
カメラ10は、反射面70を介して被写体(撮影対象)20を撮影する。
カメラ10にはカメラの姿勢を検出するセンサ15が備えられている。センサ15は、例えばジャイロ、IMU、加速度センサ、傾きセンサ等によって構成され、カメラ視線ベクトルnvを求めるために用いられる。
なお、IMU(Inertial Measurement Unit)は、3軸方向の角度、または角速度、加速度を検出するセンサである。
法線ベクトルnの方向はn=(x,y,z)=(0,0,1)として定義される。
カメラ視線ベクトルnvの天頂角θvと、方位角Φvは、以下の(a),(b)のように定義される。
(a)カメラ視線ベクトルnvの天頂角θvは、天頂角対応基準軸(z軸)とカメラ視線ベクトルnvのなす角、
(b)カメラ視線ベクトルnvの方位角Φvは、カメラ視線ベクトルnvの反射面(xy平面)への射影と、方位角対応基準軸(x軸)とのなす角、
図21と先に説明した図1を比較して理解されるように、図21に示すカメラ視線ベクトルnvの天頂角θvと、先に説明した図1に示す反射角α(=入射角α)は、同じ定義の角度である。
以下、このカメラ視線ベクトルnvの天頂角θv算出処理の具体例について説明する。
センサ15によって取得されるカメラ角θcmはカメラの傾き角度であり、センサ15を構成するジャイロやIMU等によって取得される。
図20に示す角度入力部102の構成要素であるカメラ姿勢取得部722は、このセンサ15から入力する情報を用いて、カメラ角θcmを取得して、取得したカメラ角θcmを天頂角算出部723に出力する。
この場合、カメラ角θcmと、カメラ視線ベクトルnvの天頂角θvとは一致しない。
図23に示す例は、カメラ視線ベクトルnvの方位角Φvが90°(=y軸方向)としたカメラ設定例である。
この場合、カメラ角θcmと、カメラ視線ベクトルnvの天頂角θvとが一致する。
この設定の場合は、図20に示す角度入力部102の構成要素であるカメラ姿勢取得部722が取得したカメラ角θcmを、カメラ視線ベクトルnvの天頂角θvとして、そのまま利用可能となる。
以下、このような場合において、図20に示す角度入力部102の実行する処理について説明する。
図20に示す角度入力部102の天頂角算出部723は、方位角算出部721が算出する方位角Φvと、カメラ姿勢取得部722から入力するカメラ姿勢情報を利用してカメラ視線ベクトルnvの天頂角θvを算出する。
図24は、カメラ10が、ガラス等の反射面70を介して被写体20を撮影する例を示す図である。
カメラ10には、反射面70を介した被写体20からの光である透過光と、カメラ10側の光が反射面70に反射した光である反射光が混在して入力する。
先に説明したように、画像入力部101は、例えば図9、図10、あるいは図11〜図12を参照して説明したカメラによって撮影された3種類以上の異なる偏光画像を入力する。図20に示す角度入力部102の方位角算出部721は、画像入力部101から、これらの偏光画像を入力する。
図24に示すように、カメラ10には、反射面70を介した被写体20からの光である透過光と、カメラ10側の光が反射面70に反射した光である反射光が混在して入力する。
しかし、反射面70に反射した光である反射光は、1つの特定の平面からなる反射面70によって反射された光であり、その反射面70の方向に応じた特定の偏光成分を多く含む偏光となる。
前述したように、カメラ視線ベクトルnvの方位角Φvは、カメラ視線ベクトルnvの反射面(xy平面)への射影と、方位角対応基準軸(x軸)とのなす角であり、カメラ視線ベクトルnvに対する反射面70の方向から一義的に決定される。
このヒストグラムにおいて突出した度数(偏光強度)を示す方位角が、反射面70からの反射光に基づく偏光に対応するデータであると推定することができる。
図25に示す例では、方位角=120°の強度が突出しており、この120°を、カメラ視線ベクトルnvの方位角Φvと推定することができる。
方位角算出部721の算出したカメラ視線ベクトルnvの方位角Φvは、天頂角算出部723に出力される。
(a)方位角算出部721の算出したカメラ視線ベクトルnvの方位角Φv、
(b)カメラ姿勢取得部722が、センサ15から取得したカメラの傾きを示すカメラ角θcm、
天頂角算出部723は、これら(a),(b)の各データを利用してカメラ視線ベクトルnvの天頂角θvを算出する。
カメラ視線ベクトルnvの終点である反射面70の点を点Aとし、
カメラ視線ベクトルnvの起点であるカメラ10の位置を点Cする。
三角形CBDは、三角形EAFと同じ三角形であり、三角形CBDの頂点Bの角度が、カメラ視線ベクトルnvの方位角Φvとなる。なお、三角形CBDの点Dの角度は90°であり、三角形CBDは直角三角形である。
(1)カメラ角θcm、
カメラ角θcmは、カメラ10の水平面xzからの傾きを示す角度であり、図に示す三角形CADの頂点Aの角度となる。なお、三角形CADの点Dの角度は90°であり、三角形CADは直角三角形である。
カメラ視線ベクトルnvの方位角Φvは、カメラ視線ベクトルnvの反射面(xy平面)への射影(=EA)と、方位角対応基準軸(x軸)(=AF)とのなす角であり、図に示す三角形EAFの頂点Aの角度となる。なお、三角形EAFの点Fの角度は90°であり、三角形EAFは直角三角形である。
(3)カメラ視線ベクトルnvの天頂角θvは、天頂角対応基準軸(z軸)(=AB)と、カメラ視線ベクトルnv(=CA)のなす角であり、図に示す三角形CABの頂点Aの角度となる。なお、三角形CABの点Bの角度は90°であり、三角形CABは直角三角形である。
カメラ視線ベクトルnvは、天頂角θvを頂点Aの角度とする直角三角形CABの辺CAであるので、図26に示すように、
辺ABの長さ=cosθv、
辺BCの長さ=sinθv、
となる。
前述したように、直角三角形CBDの点Dの角度は90°であり、点Bの角度が、カメラ視線ベクトルnvの方位角Φvとなる。辺BCの長さは、図26を参照して説明したように、
辺BCの長さ=sinθv、
である。
従って、直角三角形CBDの、辺BDとCDの長さは、図27に示すように以下のようになる。
辺BDの長さ=sinθv・cosΦv、
辺CDの長さ=sinθv・sinΦv、
となる。
前述したように、直角三角形CADの点Dの角度は90°であり、点Aの角度が、カメラ角θcmとなる。辺CAは、カメラ視線ベクトルnvであり、長さは1である。
従って、直角三角形CADの、辺CDとADの長さは、図28に示すように以下のようになる。
辺CDの長さ=sinθcm、
辺ADの長さ=cosθcm、
となる。
先に図27を参照して説明した三角形CBDに基づく算出値、
CD=sinθv・sinΦv、
さらに、
先に図27を参照して説明した三角形CADに基づく算出値、
CD=sinθcm、
これら2つの値である。
CD=sinθcm=sinθv・sinΦv、
上記式が成立する。
この式に基づいて、カメラ視線ベクトルnvの天頂角θvについて、以下の式(式14)が成立する。
方位角算出部721から、カメラ視線ベクトルnvの方位角Φv、
カメラ姿勢取得部722から、カメラ角θcm、
これらの値を入力し、上記(式14)に従って、カメラ視線ベクトルnvの天頂角θvを算出して、算出したカメラ視線ベクトルnvの天頂角θvを、強度透過率/強度反射率計算部104に入力する。
強度透過率/強度反射率計算部104では、角度入力部102から入力する天頂角を、前述の実施例で説明した入射角(=反射角)αとして利用した処理を実行する。
nv=(x,y,z)=(DB,CD,BA)
=(sinθv・cosΦv,sinθv・sinΦv,cosθv)
(1)カメラ視線ベクトルnvの天頂角θv、
(2)カメラ視線ベクトルnvの方位角Φv、
(3)カメラ角θcm、
これらの3つの角度の関係をグラフ化すると、図29に示すようなグラフとなる。
横時に、カメラ視線ベクトルnvの方位角Φv、
縦軸に、カメラ視線ベクトルnvの天頂角θv、
これらの各値を設定し、
異なる複数のカメラ角θcmの曲線を示したグラフである。
すなわち、
方位角算出部721から、カメラ視線ベクトルnvの方位角Φv、
カメラ姿勢取得部722から、カメラ角θcm、
これらの値を入力し、保持した対応関係データを利用して、カメラ視線ベクトルnvの天頂角θvを算出する構成としてもよい。
この設定において、反射面70の法線ngは、
ng=(0,sinθg,cosθg)
となる。
天頂角対応基準軸=反射面70の法線ngと、カメラ視線ベクトルnvのなす角となる。
従って、カメラ視線ベクトルnvの天頂角θvは、以下の式(式15)によって算出することができる。
θv=cos−1(ng・nv)・・・(式15)
上述したように、反射面70の法線ngは、(0,sinθg,cosθg)で゜あり、カメラ視線ベクトルnvは、先に説明した処理と同様の処理により、
nv=(sin(θv+θg)・cosΦv,sin(θv+θg)・sinΦv,cos(θv+θg))
上記の設定となる。
上記(式15)に従って、カメラ視線ベクトルnvの天頂角θvを算出して、算出したカメラ視線ベクトルnvの天頂角θvを、強度透過率/強度反射率計算部104に入力する。
強度透過率/強度反射率計算部104では、角度入力部102から入力する天頂角を、前述の実施例で説明した入射角(=反射角)αとして利用した処理を実行する。
(1)カメラ視線ベクトルnvの天頂角θv、
(2)カメラ視線ベクトルnvの方位角Φv、
(3)反射面の傾き角θg、
これらの3つの角度の関係をグラフ化すると、図31に示すようなグラフとなる。
横時に、カメラ視線ベクトルnvの方位角Φv、
縦軸に、カメラ視線ベクトルnvの天頂角θv、
これらの各値を設定し、
異なる複数の反射面傾き角θgの曲線を示したグラフである。
次に、図34を参照して画像処理装置のハードウェア構成例について説明する。
なお、図34に示すハードウェア構成は、上述した実施例において説明した画像処理装置として利用可能なハードウェア構成の一例を示すブロック図である。
CPU801は、入力部806から入力される指令に対応して各種の処理を実行し、処理結果を例えば出力部807に出力する。
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
以上、特定の実施例を参照しながら、本開示の実施例について詳解してきた。しかしながら、本開示の要旨を逸脱しない範囲で当業者が実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本開示の要旨を判断するためには、特許請求の範囲の欄を参酌すべきである。
(1) 異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得する画像入力部と、
前記画像入力部の取得画像の撮影方向と反射面の法線方向に相当する面方向との成す角度である反射角を取得する角度入力部と、
前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去する反射成分分離部と、
を有する画像処理装置。
前記反射角を適用して、S波およびP波各々の強度透過率と強度反射率を計算する強度透過率および強度反射率計算部と、を含み、
前記強度透過率および強度反射率計算部の計算結果であるS波およびP波各々の強度透過率と強度反射率を適用して、前記画像入力部が取得した画像から反射光成分を除去する(1)に記載の画像処理装置。
前記反射面を境界として区分される2つの領域の相対屈折率を、前記強度透過率および強度反射率計算部に出力する屈折率入力部を有する(2)に記載の画像処理装置。
前記角度入力部から入力する反射角と、前記屈折率入力部から入力する相対屈折率を適用して、S波およびP波各々の強度透過率と強度反射率を計算する(3)に記載の画像処理装置。
偏光角度設定が異なる偏光板を装着した3以上の撮像部の撮影画像を取得する(1)〜(4)いずれかに記載の画像処理装置。
回転可能な偏光板を装着した撮像部の撮影画像を取得する構成であり、少なくとも3種類の異なる回転角度の偏光板の設定状態で撮影された3種類以上の偏光画像を取得する(1)〜(4)いずれかに記載の画像処理装置。
撮像素子の構成画素各々に、少なくとも3種類の異なる偏光角度設定の偏光子を積層した偏光子積層撮像素子により撮影された偏光画像を取得する(1)〜(4)いずれかに記載の画像処理装置。
前記画像入力部の取得画像を撮影する撮像部の角度検出を行うジャイロの検出情報を取得して、前記反射角を算出する(1)〜(7)いずれかに記載の画像処理装置。
前記画像入力部の取得画像の撮影対象である被写体の形状情報を有する被写体モデルに基づいて、前記反射角を算出する(1)〜(8)いずれかに記載の画像処理装置。
前記画像入力部の取得画像の撮影対象である被写体の距離情報を取得して、取得した距離情報に基づいて、前記反射角を算出する(1)〜(9)いずれかにに記載の画像処理装置。
前記反射成分分離部の生成した反射光成分を除去した透過光成分画像を呈示する画像呈示部を有する(1)〜(10)いずれかに記載の画像処理装置。
前記角度入力部の出力する反射角をユーザ操作により調整する角度操作部を有し、
前記角度操作部は、前記画像呈示部に呈示された透過光成分画像を観察しながら、反射成分の少ない画像が呈示されるように、反射角の設定を調整可能とした操作部である(11)に記載の画像処理装置。
前記反射成分分離部が、異なる反射角設定に従って生成した複数の反射除去画像の対応画素の輝度を比較し、輝度の小さい画素値を、より多く反射光成分が除去された画素値であると判定して選択する反射除去結果輝度比較部を有する(1)〜(12)いずれかに記載の画像処理装置。
前記反射角を、予め規定したステップで更新し、更新反射角データを、順次、前記反射成分分離部に出力し、
前記反射成分分離部は、
前記更新反射角データを適用して、前記画像入力部が取得した画像から反射光成分を除去した反射除去結果を生成し、
前記反射除去結果輝度比較部は、
前記反射成分分離部の生成する異なる反射角設定に従って生成した複数の反射除去画像の対応画素の輝度を比較する処理を実行する(13)に記載の画像処理装置。
前記反射角を適用して、S波およびP波各々の強度透過率と強度反射率を計算する強度透過率および強度反射率計算部を含み、
前記強度透過率および強度反射率計算部は、
前記角度入力部から、順次、入力する更新反射角データを適用して、S波およびP波各々の強度透過率と強度反射率を計算し、
前記反射成分分離部は、
前記更新反射角データに基づくS波およびP波各々の強度透過率と強度反射率を適用して、前記画像入力部が取得した画像から反射光成分を除去した反射除去結果を、順次、生成する(14)に記載の画像処理装置。
カメラの撮影方向を示すカメラ視線ベクトルの反射面への射影と、方位角対応基準軸とのなす角である方位角を算出する方位角算出部と、
前記画像入力部の取得画像を撮影するカメラの姿勢であるカメラ姿勢情報を取得するカメラ姿勢取得部と、
前記カメラ視線ベクトルと、天頂角対応基準軸とのなす角である天頂角を算出する天頂角算出部を有し、
前記天頂角算出部は、
前記方位角と、前記カメラ姿勢情報を入力して、前記反射角に相当する天頂角を算出する(1)〜(7)いずれかに記載の画像処理装置。
前記画像入力部の取得画像から、反射光成分の除去対象とする一部画像領域を選択する領域選択部を有し、
前記天頂角算出部は、
前記領域選択部において選択された画像領域対応の天頂角を算出する(16)に記載の画像処理装置。
前記画像入力部の取得画像の領域分割を行う領域分割部を有し、
前記天頂角算出部は、
前記領域分割部において分割された分割領域単位の天頂角を算出する(16)に記載の画像処理装置。
画像入力部が、異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得する画像入力ステップと、
角度入力部が、前記画像入力ステップにおける取得画像の撮影方向と、反射面の法線方向に相当する面方向との成す角度である反射角を、反射成分分離部に出力する角度入力ステップと、
反射成分分離部が、前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去する反射成分分離ステップと、
を実行する画像処理方法。
画像入力部に、異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得させる画像入力ステップと、
角度入力部に、前記画像入力ステップにおける取得画像の撮影方向と、反射面の法線方向に相当する面方向との成す角度である反射角を、反射成分分離部に出力させる角度入力ステップと、
反射成分分離部に、前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去させる反射成分分離ステップと、
を実行させるプログラム。
具体的には、例えば、異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得する画像入力部と、取得画像の撮影方向と、反射面の法線方向に相当する面方向との成す角度である反射角を、強度透過率および強度反射率計算部に出力する角度入力部と、反射角を適用してS波およびP波各々の強度透過率と強度反射率を計算する計算部と、S波およびP波各々の強度透過率と強度反射率を適用して、画像入力部の取得画像から反射光成分を除去する反射成分分離部を有する。これらの処理により、様々な反射角の撮影画像からの反射光成分除去を可能とした。
本構成により、様々な方向の撮影画像から反射成分光を除去可能とした画像処理装置、および方法が実現される。
15 センサ
20 被写体
30 光源
51 反射面
52 入射面
100 画像処理装置
101 画像入力部
102 角度入力部
103 屈折率入力部
104 強度透過率/強度反射率計算部
105 反射成分分離部
110 透過光成分画像
120,130,140 カメラ
121,131,141 偏光フィルタ
122,132,142 撮像素子
150 カメラ
151 回転可能偏光フィルタ
152 撮像素子
160 偏光画像撮影カメラ
162 偏光子積層撮像素子
200 画像処理装置
300 カメラ
600 画像処理装置
601 画像入力部
602 角度入力部
604 強度透過率/強度反射率計算部
605 反射成分分離部
606 反射除去結果呈示部
610 角度操作部
700 画像処理装置
701 画像入力部
702 角度入力部
704 強度透過率/強度反射率計算部
705 反射成分分離部
706 反射除去結果格納メモリ
707 反射除去結果比較部
721 方位角算出部
722 カメラ姿勢取得部
723 天頂角算出部
724 領域選択部
725 領域分割部
801 CPU
802 ROM
803 RAM
804 バス
805 入出力インタフェース
806 入力部
807 出力部
808 記憶部
809 通信部
810 ドライブ
811 リムーバブルメディア
Claims (19)
- 異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得する画像入力部と、
前記画像入力部の取得画像の撮影方向と反射面の法線方向に相当する面方向との成す角度である反射角を取得する角度入力部と、
前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去する反射成分分離部を有し、
前記反射成分分離部は、
前記反射角を適用して、S波およびP波各々の強度透過率と強度反射率を計算する強度透過率および強度反射率計算部と、を含み、
前記強度透過率および強度反射率計算部の計算結果であるS波およびP波各々の強度透過率と強度反射率を適用して、前記画像入力部が取得した画像から反射光成分を除去する画像処理装置。 - 前記画像処理装置は、さらに、
前記反射面を境界として区分される2つの領域の相対屈折率を、前記強度透過率および強度反射率計算部に出力する屈折率入力部を有する請求項1に記載の画像処理装置。 - 前記強度透過率および強度反射率計算部は、
前記角度入力部から入力する反射角と、前記屈折率入力部から入力する相対屈折率を適用して、S波およびP波各々の強度透過率と強度反射率を計算する請求項2に記載の画像処理装置。 - 前記画像入力部は、
偏光角度設定が異なる偏光板を装着した3以上の撮像部の撮影画像を取得する請求項1に記載の画像処理装置。 - 前記画像入力部は、
回転可能な偏光板を装着した撮像部の撮影画像を取得する構成であり、少なくとも3種類の異なる回転角度の偏光板の設定状態で撮影された3種類以上の偏光画像を取得する請求項1に記載の画像処理装置。 - 前記画像入力部は、
撮像素子の構成画素各々に、少なくとも3種類の異なる偏光角度設定の偏光子を積層した偏光子積層撮像素子により撮影された偏光画像を取得する請求項1に記載の画像処理装置。 - 前記角度入力部は、
前記画像入力部の取得画像を撮影する撮像部の角度検出を行うジャイロの検出情報を取得して、前記反射角を算出する請求項1に記載の画像処理装置。 - 前記角度入力部は、
前記画像入力部の取得画像の撮影対象である被写体の形状情報を有する被写体モデルに基づいて、前記反射角を算出する請求項1に記載の画像処理装置。 - 前記角度入力部は、
前記画像入力部の取得画像の撮影対象である被写体の距離情報を取得して、取得した距離情報に基づいて、前記反射角を算出する請求項1に記載の画像処理装置。 - 前記画像処理装置は、さらに、
前記反射成分分離部の生成した反射光成分を除去した透過光成分画像を呈示する画像呈示部を有する請求項1に記載の画像処理装置。 - 前記画像処理装置は、さらに、
前記角度入力部の出力する反射角をユーザ操作により調整する角度操作部を有し、
前記角度操作部は、前記画像呈示部に呈示された透過光成分画像を観察しながら、反射成分の少ない画像が呈示されるように、反射角の設定を調整可能とした操作部である請求項10に記載の画像処理装置。 - 前記画像処理装置は、さらに、
前記反射成分分離部が、異なる反射角設定に従って生成した複数の反射除去画像の対応画素の輝度を比較し、輝度の小さい画素値を、より多く反射光成分が除去された画素値であると判定して選択する反射除去結果輝度比較部を有する請求項1に記載の画像処理装置。 - 前記角度入力部は、
前記反射角を、予め規定したステップで更新し、更新反射角データを、順次、前記反射成分分離部に出力し、
前記反射成分分離部は、
前記更新反射角データを適用して、前記画像入力部が取得した画像から反射光成分を除去した反射除去結果を生成し、
前記反射除去結果輝度比較部は、
前記反射成分分離部の生成する異なる反射角設定に従って生成した複数の反射除去画像の対応画素の輝度を比較する処理を実行する請求項12に記載の画像処理装置。 - 前記反射成分分離部は、
前記反射角を適用して、S波およびP波各々の強度透過率と強度反射率を計算する強度透過率および強度反射率計算部を含み、
前記強度透過率および強度反射率計算部は、
前記角度入力部から、順次、入力する更新反射角データを適用して、S波およびP波各々の強度透過率と強度反射率を計算し、
前記反射成分分離部は、
前記更新反射角データに基づくS波およびP波各々の強度透過率と強度反射率を適用して、前記画像入力部が取得した画像から反射光成分を除去した反射除去結果を、順次、生成する請求項13に記載の画像処理装置。 - 前記角度入力部は、
カメラの撮影方向を示すカメラ視線ベクトルの反射面への射影と、方位角対応基準軸とのなす角である方位角を算出する方位角算出部と、
前記画像入力部の取得画像を撮影するカメラの姿勢であるカメラ姿勢情報を取得するカメラ姿勢取得部と、
前記カメラ視線ベクトルと、天頂角対応基準軸とのなす角である天頂角を算出する天頂角算出部を有し、
前記天頂角算出部は、
前記方位角と、前記カメラ姿勢情報を入力して、前記反射角に相当する天頂角を算出する請求項1に記載の画像処理装置。 - 前記角度入力部は、さらに、
前記画像入力部の取得画像から、反射光成分の除去対象とする一部画像領域を選択する領域選択部を有し、
前記天頂角算出部は、
前記領域選択部において選択された画像領域対応の天頂角を算出する請求項15に記載の画像処理装置。 - 前記角度入力部は、さらに、
前記画像入力部の取得画像の領域分割を行う領域分割部を有し、
前記天頂角算出部は、
前記領域分割部において分割された分割領域単位の天頂角を算出する請求項15に記載の画像処理装置。 - 画像処理装置において実行する画像処理方法であり、
画像入力部が、異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得する画像入力ステップと、
角度入力部が、前記画像入力ステップにおける取得画像の撮影方向と、反射面の法線方向に相当する面方向との成す角度である反射角を、反射成分分離部に出力する角度入力ステップと、
反射成分分離部が、前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去する反射成分分離ステップを実行し、
前記反射成分分離ステップにおいて、
前記反射角を適用して、S波およびP波各々の強度透過率と強度反射率を計算する強度透過率および強度反射率計算処理を実行するステップと、
前記強度透過率および強度反射率計算処理の計算結果であるS波およびP波各々の強度透過率と強度反射率を適用して、前記画像入力部が取得した画像から反射光成分を除去するステップを実行する画像処理方法。 - 画像処理装置において画像処理を実行させるプログラムであり、
画像入力部に、異なる偏光方向の偏光画像、または無偏光画像からなる少なくとも3種類の画像を取得させる画像入力ステップと、
角度入力部に、前記画像入力ステップにおける取得画像の撮影方向と、反射面の法線方向に相当する面方向との成す角度である反射角を、反射成分分離部に出力させる角度入力ステップと、
反射成分分離部に、前記画像入力部で取得した少なくとも3種類の画像と前記角度入力部から取得した反射角とに基づいて前記画像入力部が取得した画像から反射光成分を除去させる反射成分分離ステップを実行させ、
前記反射成分分離ステップにおいて、
前記反射角を適用して、S波およびP波各々の強度透過率と強度反射率を計算する強度透過率および強度反射率計算処理を実行するステップと、
前記強度透過率および強度反射率計算処理の計算結果であるS波およびP波各々の強度透過率と強度反射率を適用して、前記画像入力部が取得した画像から反射光成分を除去するステップを実行させるプログラム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016222403 | 2016-11-15 | ||
JP2016222403 | 2016-11-15 | ||
JP2017121663 | 2017-06-21 | ||
JP2017121663 | 2017-06-21 | ||
PCT/JP2017/038644 WO2018092540A1 (ja) | 2016-11-15 | 2017-10-26 | 画像処理装置、および画像処理方法、並びにプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018092540A1 JPWO2018092540A1 (ja) | 2019-10-17 |
JP6988819B2 true JP6988819B2 (ja) | 2022-01-05 |
Family
ID=62146322
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018551548A Active JP6988819B2 (ja) | 2016-11-15 | 2017-10-26 | 画像処理装置、および画像処理方法、並びにプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US10812735B2 (ja) |
EP (1) | EP3544283B1 (ja) |
JP (1) | JP6988819B2 (ja) |
CN (1) | CN109923855B (ja) |
WO (1) | WO2018092540A1 (ja) |
Families Citing this family (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6568301B2 (ja) * | 2016-02-29 | 2019-08-28 | 富士通フロンテック株式会社 | 撮像装置及び撮像方法 |
JP6712362B2 (ja) | 2017-04-25 | 2020-06-17 | 富士フイルム株式会社 | 画像処理装置、撮像装置、画像処理方法、およびプログラム |
JP7211364B2 (ja) * | 2017-07-12 | 2023-01-24 | ソニーグループ株式会社 | 撮像装置、画像生成方法、プログラム |
JP7259749B2 (ja) * | 2017-08-04 | 2023-04-18 | ソニーグループ株式会社 | 情報処理装置、および情報処理方法、プログラム、並びに移動体 |
WO2019069740A1 (ja) * | 2017-10-02 | 2019-04-11 | 富士フイルム株式会社 | 撮影装置および撮影方法 |
WO2019069741A1 (ja) * | 2017-10-02 | 2019-04-11 | 富士フイルム株式会社 | 撮影方法およびプログラム |
CN110166684B (zh) | 2018-06-29 | 2021-09-17 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机可读介质及电子设备 |
DE102018216983B3 (de) * | 2018-10-04 | 2019-11-28 | Audi Ag | Verfahren zum Unterdrücken von Abbildungen von Reflexionen in zumindest einem Kamerabild einer Kamera einer Umfeldsensorvorrichtung eines Kraftfahrzeugs sowie entsprechende Umfeldsensorvorrichtung |
US10721458B1 (en) * | 2018-12-14 | 2020-07-21 | Ambarella International Lp | Stereoscopic distance measurements from a reflecting surface |
CN111504475A (zh) * | 2019-01-31 | 2020-08-07 | 财团法人工业技术研究院 | 热影像感测系统及热影像感测方法 |
TW202131671A (zh) * | 2019-10-07 | 2021-08-16 | 日商索尼半導體解決方案公司 | 電子機器 |
TWI739431B (zh) * | 2019-12-09 | 2021-09-11 | 大陸商廣州印芯半導體技術有限公司 | 資料傳輸系統及其資料傳輸方法 |
CN111339848B (zh) * | 2020-02-13 | 2023-12-29 | 北京环境特性研究所 | 一种自然环境下人造目标识别方法及装置 |
JP2021136501A (ja) * | 2020-02-25 | 2021-09-13 | キヤノン株式会社 | 撮像装置及びその制御方法 |
CN111367121B (zh) * | 2020-03-19 | 2024-04-16 | 福建华佳彩有限公司 | 一种调整采光量方法 |
CN115769594A (zh) * | 2020-06-29 | 2023-03-07 | 索尼集团公司 | 图像处理装置、图像处理方法和程序 |
CN112379529B (zh) * | 2020-11-19 | 2022-04-19 | 中国人民解放军国防科技大学 | 一种基于偏振特征的透明物体表面反射光分离方法 |
US20230410464A1 (en) * | 2020-11-30 | 2023-12-21 | Sony Group Corporation | Image processing device, image processing method, and program |
CN112616014B (zh) * | 2020-12-09 | 2022-03-15 | 福州大学 | 一种基于gan的全景视频自适应流传输方法 |
WO2022259466A1 (ja) * | 2021-06-10 | 2022-12-15 | 株式会社ソニー・インタラクティブエンタテインメント | 画像処理装置およびマテリアル情報取得方法 |
KR20230007807A (ko) * | 2021-07-06 | 2023-01-13 | 삼성전자주식회사 | 이미지 프로세싱을 위한 전자 장치 및 그 동작 방법 |
EP4266693A1 (en) | 2021-07-06 | 2023-10-25 | Samsung Electronics Co., Ltd. | Electronic device for image processing and operation method thereof |
KR102539105B1 (ko) * | 2021-09-14 | 2023-06-02 | 한국과학기술연구원 | 비전 처리 장치 및 이를 이용한 다방향 영상 처리 방법 |
CN114440836B (zh) * | 2022-01-19 | 2023-06-30 | 南京市测绘勘察研究院股份有限公司 | 一种附有玻璃幕墙建筑的无人机摄影测量建模方法 |
CN115393237B (zh) * | 2022-07-18 | 2023-07-18 | 荣耀终端有限公司 | 图像去反光方法、介质及电子设备 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH01145668A (ja) * | 1987-12-02 | 1989-06-07 | Ricoh Co Ltd | 感光体ベルトの制御方法 |
JPH10145668A (ja) * | 1996-11-14 | 1998-05-29 | Nikon Corp | 偏光フィルタ制御機構 |
JP4147718B2 (ja) * | 2000-03-22 | 2008-09-10 | フジノン株式会社 | 撮影補助装置 |
US20020164061A1 (en) * | 2001-05-04 | 2002-11-07 | Paik David S. | Method for detecting shapes in medical images |
JP4974543B2 (ja) | 2005-08-23 | 2012-07-11 | 株式会社フォトニックラティス | 偏光イメージング装置 |
CN101356546B (zh) * | 2006-05-29 | 2011-10-12 | 松下电器产业株式会社 | 图像高分辨率化装置、方法及系统 |
CN101558282B (zh) | 2007-02-13 | 2011-12-14 | 松下电器产业株式会社 | 图像处理系统、方法、装置、以及图像格式 |
CN102017601B (zh) * | 2008-06-26 | 2013-03-13 | 松下电器产业株式会社 | 图像处理装置及图像合成方法 |
JP2014074838A (ja) * | 2012-10-05 | 2014-04-24 | Xacti Corp | 撮像装置 |
CN103344570A (zh) * | 2013-06-09 | 2013-10-09 | 中国科学院对地观测与数字地球科学中心 | 一种离水辐亮度确定方法及装置 |
JP2015026937A (ja) * | 2013-07-25 | 2015-02-05 | ソニー株式会社 | 撮像装置および撮像方法、並びにプログラム |
CN104297935A (zh) * | 2013-11-27 | 2015-01-21 | 中国航空工业集团公司洛阳电光设备研究所 | 制冷型红外成像系统及其冷反射消除装置、方法 |
JP2016126410A (ja) | 2014-12-26 | 2016-07-11 | 株式会社リコー | 撮像認知システム |
CN105866947A (zh) * | 2015-01-19 | 2016-08-17 | 上海芯天电子有限公司 | 一种消除汽车平视显示器投影图像重影的方法及装置 |
JP6456156B2 (ja) * | 2015-01-20 | 2019-01-23 | キヤノン株式会社 | 法線情報生成装置、撮像装置、法線情報生成方法および法線情報生成プログラム |
-
2017
- 2017-10-26 EP EP17871942.3A patent/EP3544283B1/en active Active
- 2017-10-26 US US16/340,604 patent/US10812735B2/en active Active
- 2017-10-26 JP JP2018551548A patent/JP6988819B2/ja active Active
- 2017-10-26 WO PCT/JP2017/038644 patent/WO2018092540A1/ja unknown
- 2017-10-26 CN CN201780069382.5A patent/CN109923855B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
US10812735B2 (en) | 2020-10-20 |
EP3544283A4 (en) | 2019-10-09 |
EP3544283B1 (en) | 2023-07-19 |
CN109923855B (zh) | 2022-08-19 |
EP3544283A1 (en) | 2019-09-25 |
CN109923855A (zh) | 2019-06-21 |
WO2018092540A1 (ja) | 2018-05-24 |
US20190273856A1 (en) | 2019-09-05 |
JPWO2018092540A1 (ja) | 2019-10-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6988819B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP7040447B2 (ja) | 画像処理装置および情報生成装置と情報生成方法 | |
JP7070423B2 (ja) | 画像処理装置と画像処理方法および撮像装置 | |
WO2019130945A1 (ja) | 情報処理装置、情報処理方法、プログラム、及び移動体 | |
JP7059522B2 (ja) | 制御装置、制御方法、プログラム及び撮像システム | |
JP7196063B2 (ja) | 撮像制御装置、および撮像制御装置の制御方法、並びに移動体 | |
JP7226440B2 (ja) | 情報処理装置、情報処理方法、撮影装置、照明装置、及び、移動体 | |
JP2017220051A (ja) | 画像処理装置、画像処理方法、および車両 | |
US10877288B2 (en) | Imaging device and imaging method | |
JP7024737B2 (ja) | 情報処理装置と情報処理方法とプログラムおよび撮像装置 | |
WO2018070266A1 (ja) | 画像処理装置および画像処理方法 | |
WO2017043331A1 (ja) | 画像処理装置、及び、画像処理方法 | |
WO2016203989A1 (ja) | 画像処理装置および画像処理方法 | |
JP6981416B2 (ja) | 画像処理装置と画像処理方法 | |
WO2019163315A1 (ja) | 情報処理装置、撮像装置、及び撮像システム | |
US20230186651A1 (en) | Control device, projection system, control method, and program | |
JP7059185B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
JP7302477B2 (ja) | 情報処理装置、情報処理方法および情報処理プログラム | |
WO2020255589A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2021180459A (ja) | 撮像装置及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200720 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210914 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211020 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211102 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211115 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6988819 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |