JPWO2010010871A1 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JPWO2010010871A1 JPWO2010010871A1 JP2010521704A JP2010521704A JPWO2010010871A1 JP WO2010010871 A1 JPWO2010010871 A1 JP WO2010010871A1 JP 2010521704 A JP2010521704 A JP 2010521704A JP 2010521704 A JP2010521704 A JP 2010521704A JP WO2010010871 A1 JPWO2010010871 A1 JP WO2010010871A1
- Authority
- JP
- Japan
- Prior art keywords
- photoelectric conversion
- characteristic
- pixel value
- pixel
- value obtained
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/57—Control of the dynamic range
- H04N25/571—Control of the dynamic range involving a non-linear response
- H04N25/575—Control of the dynamic range involving a non-linear response with a response composed of multiple slopes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/67—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
- H04N25/671—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
Abstract
【課題】非基準光電変換特性により得られた画素値をばらつきなく基準光電変換特性により得られた画素値に変換することができ、固定パターンノイズが画像に現れることを防止する。撮像センサ3は、変曲点を境に低輝度側をリニア特性、高輝度側をログ特性とする光電変換特性を有する画素からなる。変換情報記憶部68は、各画素におけるログ特性の近似式である2種類の一次関数(y=c・log(x)+d、y=e・log(x)+f)の係数c,d,e,fを変換情報として記憶する。但し、yは画素値を示し、xは入射光の輝度値を示す。リニア変換部64は、係数によって規定される近似式を用いてログ特性により得られた画素値をリニア特性により得られた画素値に変換する。
Description
本発明は、変曲点を境に異なる光電変換特性を有する複数の画素からなる撮像素子を備える撮像装置に関するものである。
近年、変曲点を境に異なる光電変換特性を有する複数の画素からなる撮像素子、例えば、変曲点よりも低輝度側は線形の光電変換特性(以下、リニア特性という)、高輝度側は対数の光電変換特性(以下、ログ特性という)を有する撮像素子が知られている。なお、リニア特性とログ特性とからなる光電変換特性をリニアログ特性という。
このような撮像素子を備える撮像装置においては、ログ特性により得られた画素値をリニア特性により得られた画素値に変換することがなされている。
しかしながら、リニア特性とログ特性との境界においては両特性の過渡的な光電変換特性を有する領域があるため、ログ特性の全域をリニア特性に変換すると、過渡的な光電変換特性により得られた画素値にがリニア特性により得られた画素値に精度良く変換されないという問題がある。
そこで、特許文献1には、リニア特性とログ特性により得られた画素値と過渡的な光電変換特性により得られた画素値とを基準光電変換特性により得られた画素値に変換する撮像装置が開示されている。
ところで、撮像素子においては、各画素におけるログ特性のばらつきが大きいことが知られている。図13はリニアログ特性を示したグラフであり、縦軸は画素値を示し、横軸は輝度を対数で示したものである。図14は、図13に示すログ特性をリニア特性に変換した場合のリニア特性を示したグラフであり、縦軸は画素値を示し、横軸は輝度を対数で示したものである。
図13に示すように、各画素のリニアログ特性をグラフ上にプロットすると、リニア特性においてはばらつきが少ないことが分かる。一方、ログ特性においては、実線で示す各画素のログ特性が、点線で示す想定される全画素共通のログ特性に一致せず、大きくばらついていることが分かる。
しかしながら、特許文献1の撮像装置は、各画素におけるログ特性のばらつきを考慮せず、全画素共通のログ特性の近似式を用いて、ログ特性により得られた画素値がリニア特性により得られた画素値に変換されている。
そのため、図14に示すように各画素の変換後のリニア特性が、変換されるべきリニア特性に一致せず、ログ特性により得られた画素値を、ばらつきなくリニア特性により得られた画素値に変換できないという問題があった。その結果、画像中に固定パターンノイズが生じるという問題があった。
本発明の目的は、非基準光電変換特性により得られた画素値をばらつきなく基準光電変換特性により得られた画素値に変換することができ、固定パターンノイズが画像に現れることを防止することができる撮像装置を提供することである。
本発明の一局面による撮像装置は、変曲点を境に異なる光電変換特性を有する複数の画素からなる撮像素子と、前記異なる光電変換特性のうち、一方を基準光電変換特性とし、他方を非基準光電変換特性として、前記非基準光電変換特性によって得られた画素値を、前記基準光電変換特性によって得られた画素値に変換する特性変換部とを備え、前記特性変換部は、各画素の非基準光電変換特性のばらつきに起因する、各画素の変換後の基準光電変換特性のばらつきをなくすために、各画素において予め定められた変換情報を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換する。
(実施の形態1)
図1は、本発明の実施の形態1による撮像装置のブロック図を示している。図1に示すように撮像装置は、デジタルカメラから構成され、レンズ部2、撮像センサ3(撮像素子の一例)、アンプ4、A/D変換部5、画像処理部6、画像メモリ7、制御部8、モニタ部9、及び操作部10を備えている。
図1は、本発明の実施の形態1による撮像装置のブロック図を示している。図1に示すように撮像装置は、デジタルカメラから構成され、レンズ部2、撮像センサ3(撮像素子の一例)、アンプ4、A/D変換部5、画像処理部6、画像メモリ7、制御部8、モニタ部9、及び操作部10を備えている。
レンズ部2は、被写体の光像を取り込み、撮像センサ3へ導く光学レンズ系から構成される。光学レンズ系としては、被写体の光像の光軸Lに沿って直列的に配置される例えばズームレンズやフォーカスレンズ、その他の固定レンズブロック等を採用することができる。また、レンズ部2は、透過光量を調節するための絞り(図略)、シャッタ(図略)等を備え、制御部8の制御の下、絞り及びシャッタの駆動が制御される。
撮像センサ3は、レンズ部2において結像された光像を光電変換して、光量に応じたレベルを有するR(赤)、G(緑)、B(青)の各色成分の画素値からなる画像データを生成し、アンプ4へ出力する。ここで、撮像センサ3としては、CMOSイメージセンサ、VMIS(Threshold Voltage Modulation Image Sensor)イメージセンサ、又はCCDイメージセンサ等の撮像センサを採用してもよい。また、本実施の形態では、撮像センサ3として、各色成分の画素が例えばベイヤー配列により配列された撮像センサが採用されている。
アンプ4は、例えばAGC(オートゲインコントロール)回路、及びCDS(相関二重サンプリング)回路等を含み、撮像センサ3から出力された画像データを増幅する。A/D変換部5は、アンプ4により増幅されたR,G,B各色の画像データをR,G,B各色のデジタルの画像データに変換する。本実施の形態では、撮像センサ3の各画素で受光された画像データは、例えば12ビットの階調値を有する画像データに変換される。
画像処理部6は、後述するような画像処理を実行する。画像メモリ7は、例えばRAM(Random Access Memory)から構成され、画像処理部6で画像処理が施された画像データ等を保存する。
制御部8は、各種制御プログラム等を記憶するROM、一時的にデータを格納するRAM及び制御プログラム等をROMから読み出して実行する中央演算処理装置(CPU)等からなり、撮像装置全体の動作制御を司る。
モニタ部9は、例えば撮像装置のハウジングの背面に配設されたカラー液晶表示器が採用され、撮像センサ3で撮影された画像或いは画像メモリ7に保存されていた画像等をモニタ表示する。
操作部10は、電源スイッチ、レリーズスイッチ、各種撮影モードを設定するモード設定スイッチ、メニュー選択スイッチ等の各種の操作スイッチ群等を含む。レリーズスイッチが押されることで、撮像動作、すなわち撮像センサ3により被写体が撮像され、この撮像により得られた画像データに対して所定の画像処理が施され、画像メモリ7等に記録されるというように一連の撮影動作が実行される。なお、画像メモリ7等に記憶せず、画像処理部6からデジタル信号として出力したり、D/A変換してNTSC等のアナログ信号として出力したりして一連の撮像動作を終えてもよい。
図2は、図1に示す画像処理部6のブロック図を示している。画像処理部6は、黒バラツキ補正部61、欠陥補間部62、変曲点バラツキ補正部63、リニア変換部64(特性変換部の一例)、階調変換部65、ベイヤー補間部66、トーンカーブ補正部67、及び変換情報記憶部68を備えている。
黒バラツキ補正部61は、撮像センサ3を構成する各画素の黒レベルのばらつきを補正する。欠陥補間部62は、所定の基準値以下の画素値しか得ることができない欠陥画素の画素値を、周辺の画素の画素値を用いて補間する補間処理を行う。ここで、補間処理としては例えば、線形補間やスプライン補間を採用することができる。
変曲点バラツキ補正部63は、各画素における光電変換特性の変曲点のバラツキを補正する。本実施の形態では、撮像センサ3を構成する各画素は、図3に示すように、変曲点P1を境に低輝度側がリニア特性を有し、高輝度側がログ特性を有するリニアログ特性の光電変換特性を有するリニアログセンサが採用されている。
そして、この変曲点P1は各画素においてばらつきがある。そこで、変曲点バラツキ補正部63は、この変曲点P1のばらつきを補正する処理を行う。具体的には、変曲点バラツキ補正部63は、各画素の変曲点が予め定められた基準となる変曲点上にくるように各画素の光電変換特性を補正するための所定の補正係数を用いて、各画素の画素値を補正することにより、変曲点P1のばらつきを補正する。
リニア変換部64は、ログ特性(非基準光電変換特性の一例)により得られた画素値をリニア特性(基準光電変換特性の一例)により得られた画素値に変換する。ここで、リニア変換部64は、各画素において予め定められた変換情報を用いて各画素のログ特性における近似式を算出し、算出した近似式を用いてログ特性により得られた画素値をリニア特性により得られた画素値に変換する。本実施の形態では、変換情報として、各画素におけるログ特性の近似式の係数が採用される。そして、リニア変換部64は、各画素におけるログ特性の近似式の係数によって規定される近似式を用いてログ特性により得られた画素値をリニア特性により得られた画素値に変換する。
ここで、ログ特性により得られた画素値とは、図3に示すように変曲点P1よりも高輝度側のログ特性領域D1とログ特性領域D2とからなるログ特性領域に属する画素値を示す。また、リニア特性により得られた画素値とは、変曲点P1よりも低輝度側のリニア特性領域に属する画素値を示す。
図2に示す変換情報記憶部68は、変換情報等を記憶する。階調変換部65は、リニア変換部64から出力された画素値からなる1枚の画像データのダイナミックレンジを圧縮するためのダイナミックレンジ圧縮処理を実行する。ここで、階調変換部65は、リニア変換部64から出力された画素値からなる1枚の画像データに対して、所定行×所定列のローパスフィルタを用いたデジタルフィルタ処理を施し、当該画像データを照明成分と反射率成分とに分離し、照明成分のダイナミックレンジが所定の圧縮特性となるように照明成分を圧縮し、圧縮後の照明成分に反射率成分を乗じることでダイナミックレンジ圧縮処理を実行する。
ベイヤー補間部66は、撮像センサ3を構成する各画素がベイヤー配列であるために生じる各色成分における欠落画素を補間するための補間処理であるベイヤー補間を実行する。なお、撮像センサ3がモノクロの撮像センサである場合はベイヤー補間部66を省略すればよい。トーンカーブ補正部67は、ベイヤー補間部66から出力された画像データをガンマ補正する。
図3は、本実施の形態における撮像センサ3の光電変換特性を示すグラフであり、縦軸は画素値を示し、横軸は入射光の輝度を対数で示したものである。以下、図3を用いてリニア変換部64の処理について説明する。ここで、リニア変換部64は、各画素のログ特性を2つの一次関数である近似式E1,E2を用いて近似する。近似式E1は、ログ特性の変曲点P2よりも低輝度側のログ特性を一次関数で近似したものであり、近似式E2は、変曲点P2よりも高輝度側のログ特性を一次関数で近似したものである。
また、光電変換特性がリニア特性により表される領域をリニア特性領域と呼び、光電変換特性が近似式E1により表される領域をログ特性領域D1と呼び、光電変換特性が近似式E2により表される領域をログ特性領域D2と呼ぶことにする。
近似式E1は、y=c・log(x)+dにより表され、近似式E2はy=e・log(x)+fにより表される。また、リニア特性はy=a・x+bで表される。なお、yは画素値を示し、xは輝度を示し、a,b,c,d,e,fは係数を示している。
図3において、sは変曲点P1の画素値を示し、tは近似式E1と近似式E2との交点P2´の画素値を示している。
ログ特性は各画素において大きくばらついているため、近似式E1,E2の係数c,d,e,fも各画素においてばらついている。そこで、本実施の形態では、各画素における係数c,d,e,fを実験的に予め求めておき、この係数を予め変換情報記憶部68に記憶させておく。
なお、リニア特性は各画素において大きくばらついていないため、全画素共通の係数a,bを実験的に予め求めておき、この係数を予め変換情報記憶部68に記憶させておく。また、s,tも全画素共通の値を予め実験的に求めておき、この値を予め変換情報記憶部68に記憶させておく。
そして、リニア変換部64は、以下の処理を実行する。
if(v≦s)
v´=v (1)
else if(v≦t)
v´=exp((v−d)/c)・a+b (2)
else
v´=exp((v−f)/e)・a+b (3)
なお、vはある画素の画素値を示し、v´は処理後の画素値を示している。
if(v≦s)
v´=v (1)
else if(v≦t)
v´=exp((v−d)/c)・a+b (2)
else
v´=exp((v−f)/e)・a+b (3)
なお、vはある画素の画素値を示し、v´は処理後の画素値を示している。
すなわち、リニア変換部64は、vがv≦s、つまり、vがリニア特性により得られた画素値である場合、式(1)の処理を実行する。
また、リニア変換部64は、vがs<v≦t、つまり、vがログ特性領域D1により得られた画素値である場合、式(2)の処理を実行する。
また、リニア変換部64は、vがv>t、つまり、vがログ特性領域D2により得られた画素値である場合、式(3)の処理を実行する。なお、式(2)は近似式E1をxについて解き、y=a・x+bに代入することで得られ、式(3)は近似式E2をxについて解き、y=a・x+bに代入することで得られる。
次に、本実施の形態による撮像装置の動作について説明する。まず、操作部10がユーザからの撮像指令を受け付けると、撮像センサ3により撮像された画像データはアンプ4により所定レベルに増幅され、A/D変換部5によりA/D変換がなされた後、画像処理部6に入力される。
画像処理部6に入力された画像データは、黒バラツキ補正部61により黒レベルが補正され、欠陥補間部62により欠陥画素が補間され、変曲点バラツキ補正部63により変曲点のばらつきが補正された後、リニア変換部64に入力される。
リニア変換部64に入力された画像データは、画素値vがv≦sの画素は式(1)により、v≦tの画素は式(2)により、v>tの画素は式(3)により処理される。
リニア変換部64により処理された画像データは、階調変換部65によりダイナミックレンジが圧縮され、ベイヤー補間部66によりベイヤー補間が行われ、トーンカーブ補正部67によりガンマ補正が行われ画像メモリ7に格納される。
このように本実施の形態による撮像装置によれば、各画素に対して予め定められた係数a〜eによって規定される近似式E1,E2を用いて、ログ特性により得られた画素値がリニア特性に変換されるため、ログ特性により得られた画素値を、ばらつきなくリニア特性により得られた画素値に変換することができる。よって、固定パターンノイズが画像に現れることを防止することができる。
なお、本実施の形態においては、ログ特性を近似式E1,E2と2つの近似式により近似したが、これに限定されず、1つの近似式により近似してもよいし、3つ以上の近似式により近似してもよい。この場合、各近似式の各画素における係数を予め実験的に求め、この係数を予め変換情報記憶部68に記憶させておけばよい。そして、リニア変換部64は、画素値の値に応じて対応する近似式を特定し、特定した近似式を用いてログ特性により得られた画素値をリニア特性により得られた画素値に変換すればよい。
また、本実施の形態では、非基準光電変換特性としてログ特性、基準光電変換特性としてログ特性を採用したが、これに限定されず、非基準光電変換特性をリニア特性とし、基準光電変換特性としてログ特性を採用してもよい。これらの変形例は下記の実施の形態にも適用可能である。
(実施の形態2)
実施の形態2による撮像装置は、ログ特性の近似式として二次関数を採用したことを特徴とする。なお、本実施の形態において実施の形態1と同一のものは説明を省略する。
実施の形態2による撮像装置は、ログ特性の近似式として二次関数を採用したことを特徴とする。なお、本実施の形態において実施の形態1と同一のものは説明を省略する。
本実施の形態において、リニア変換部64は、各画素のログ特性を二次関数で近似した近似式E3を用いて、ログ特性により得られた画素値をリニア特性により得られた画素値に変換する。また、変換情報として、近似式E3の各画素における係数を採用する。
図4は、本実施の形態における撮像センサ3の光電変換特性を示すグラフであり、縦軸は画素値を示し、横軸は入射光の輝度を対数で示したものである。
以下、図4を用いてリニア変換部64の処理について説明する。近似式E3は、y=g・(log(x))2+h・log(x)+iにより表される。なお、yは画素値を示し、xは輝度を示し、g,h,iは係数を示している。
ログ特性は各画素において大きくばらついているため、近似式E3の係数g,h,iも各画素においてばらついている。そこで、本実施の形態では、各画素における係数g,h,iを実験的に予め求めておき、この係数を予め変換情報記憶部68に記憶させておく。
そして、リニア変換部64は、以下の処理を実行する。
if(v≦s)
v´=v (4)
else
v´=exp((−h+(h2−4・g・i)1/2)/2・g)・a+b (5)
if(v≦s)
v´=v (4)
else
v´=exp((−h+(h2−4・g・i)1/2)/2・g)・a+b (5)
すなわち、リニア変換部64は、画素値vがv≦s、つまり、vがリニア特性により得られた画素値である場合、式(4)の処理を行う。
また、リニア変換部64は、画素値vがv>s、つまり、vがログ特性により得られた画素値である場合、式(5)の処理を行う。なお、式(5)は近似式E3をxについて解き、y=a・x+bに代入することで得られる。
このように、本実施の形態における撮像装置によれば、各画素におけるログ特性を精度良く近似した二次関数を用いて、ログ特性により得られた画素値がリニア特性により得られた画素値に変換されているため、ログ特性により得られた画素値を、ばらつきなくリニア特性に変換することが可能となり、画像中に固定パターンノイズが生じることを防止することができる。
(実施の形態3)
実施の形態3による撮像装置は、複数のルックアップテーブルを用いて、リニア特性により得られた画素値に変換することを特徴とする。なお、本実施の形態において、実施の形態1、2と同一のものは説明を省略する。
実施の形態3による撮像装置は、複数のルックアップテーブルを用いて、リニア特性により得られた画素値に変換することを特徴とする。なお、本実施の形態において、実施の形態1、2と同一のものは説明を省略する。
図5は、本実施の形態による画像処理部6のブロック図を示している。図5に示すように画像処理部6は、テーブル記憶部69を備えている。テーブル記憶部69は、各画素におけるログ特性を予め定められた全画素共通のログ特性に補正するためのn(nは2以上の整数)個のルックアップテーブルLUT1〜LUTnを記憶する。
本実施の形態において、変換情報は、各画素におけるログ特性を、想定される全画素共通のログ特性に補正するうえで最も好ましいルックアップテーブルを複数のルックアップテーブルの中から選択するための情報である。具体的には、ある画素αは、ルックアップテーブルLUT2を選択する、ある画素βは、ルックアップテーブルLUT5を選択するというような情報が変換情報となる。
また、本実施の形態において、リニア変換部64は、変換情報を用いてルックアップテーブルLUT1〜LUTnの中から1つのルックアップテーブルを選択し、選択したルックアップテーブルを用いてログ特性により得られた画素値を補正し、補正した画素値をリニア特性により得られた画素値に変換する。
図6は、本実施の形態における撮像センサ3の光電変換特性を示すグラフであり、縦軸は画素値を示し、横軸は入射光の輝度を対数で示したものである。以下、図6を用いてリニア変換部64の処理について説明する。
図6に示す実線はある画素αのログ特性を示し、点線は全画素共通のログ特性を示している。この全画素共通のログ特性は、例えば一次関数で近似されy=c・log(x)+dにより表される。ここで、yは画素値を示し、xは輝度を示し、c,dは予め定められた係数を示している。
そして、リニア変換部64は、変換情報から画素αに対応付けられたルックアップテーブルを選択し、選択したルックアップテーブルにログ特性により得られた画素値を入力する。そうすると、入力された画素値は、点線で示す全画素共通のログ特性の画素値となるように補正される。
具体的には、リニア変換部64は、以下の処理を実行する。
if(v≦s)
v´=v (6)
else
v´=exp((LUTi(v)−d)/c)・a+b (7)
但し、LUTi(v)のiはルックアップテーブルを特定するための番号であり、i=1〜nである。
if(v≦s)
v´=v (6)
else
v´=exp((LUTi(v)−d)/c)・a+b (7)
但し、LUTi(v)のiはルックアップテーブルを特定するための番号であり、i=1〜nである。
すなわち、リニア変換部64は、画素値vがv≦s、つまり、vが線形特性により得られた画素値である場合、式(6)の処理を行う。
また、リニア変換部64は、画素値vがv>s、つまり、vがログ特性により得られた画素値である場合、式(7)の処理を行う。なお、式(7)は全画素共通のログ特性の近似式であるy=LUTi(v)=c・log(x)+dをxについて解き、y=a・x+bに代入することで得られる。
ログ特性は、各画素において大きくばらついているため、本来的には各画素に対応するルックアップテーブルを予め用意しておき、このルックアップテーブルを用いてログ特性により得られた画素値を補正すると、当該画素値は確実に全画素共通のログ特性の画素値に補正することができる。
しかしながら、各画素に対応するルックアップテーブルをテーブル記憶部69に記憶させると、テーブル記憶部69の記憶容量を大規模化しなければならず、好ましくない。そこで、本実施の形態では、代表的なn個のルックアップテーブルLUT1〜LUTnを予め用意しておく。そして、変換情報は、これらのルックアップテーブルLUT1〜LUTnのうち、各画素のログ特性を全画素共通のログ特性に最も近く補正することができるように、各画素とルックアップテーブルとを対応付ける。これにより、各画素におけるログ特性のばらつきが抑制され、ログ特性により得られた画素値をばらつきなくリニア特性に変換することができる。なお、nの値は撮像センサ3の画素数よりも小さい。
図7は、ある2つのルックアップテーブルにおける画素値と補正量との関係を示したグラフであり、縦軸は補正量Δvを示し、横軸は画素値を示している。実線はあるルックアップテーブルLUTaにおける補正量を示し、点線は別のルックアップテーブルLUTbにおける補正量を示している。なお、補正量Δvは、各画素のログ特性と、全画素共通のログ特性との関係から実験的に予め得られた値が採用され、元の画素値に加算される場合はプラスの値となり、元の画素値から減算される場合はマイナスの値となる。
そして、リニア変換部64は、変換情報によりある画素に対して例えばルックアップテーブルLUTaが対応付けられており、s1の画素値が入力されたとすると、s1をルックアップテーブルLUTaに入力する。そうすると、ルックアップテーブルLUTaからs1+Δv1が出力され、この画素値が全画素共通の光電変換特性となるように補正される。そして、リニア変換部64は、s1+Δv1を式(7)のLUTi(v)に代入することで、v´を算出し、s1をリニア特性により得られた画素値に変換する。
このように、本実施の形態による撮像装置によれば、各画素に対するルックアップテーブルを用意しなくても、ログ特性により得られた画素値をばらつきなくリニア特性により得られた画素値に変換することができ、ルックアップテーブルを記憶するためのメモリ容量を削減することができる。
(実施の形態4)
実施の形態4による撮像装置は、1つのルックアップテーブルを用いてリニア特性に変換することを特徴とする。なお、本実施の形態において、実施の形態1〜3と同一のものは説明を省略する。
実施の形態4による撮像装置は、1つのルックアップテーブルを用いてリニア特性に変換することを特徴とする。なお、本実施の形態において、実施の形態1〜3と同一のものは説明を省略する。
本実施の形態における画像処理部6のブロック図は図5と同一である。テーブル記憶部69は、各画素におけるログ特性を予め定められた全画素共通のログ特性に補正するための1個のルックアップテーブルを記憶する。
本実施の形態において、変換情報は、ログ特性により得られた画素値を、全画素共通のログ特性に変更するために、ルックアップテーブルを各画素に応じたルックアップテーブルに変更するための変更値である。具体的には、テーブル記憶部69が記憶するルックアップテーブルをLUTo(v)と表し、各画素に応じたルックアップテーブルをLUTi(v)と表すと、変更値Kiは、LUTo(v・Ki)=LUTi(v)により与えられる。但し、iは画素を特定するための番号である。すなわち、変更値Kiは各画素に応じた値が存在する。また、変更値Kiは実験的に予め得られた値が採用される。
リニア変換部64は、変更値Kiを用いて変更されたルックアップテーブルLUTi(v・Ki)を用いて、ログ特性により得られた画素値をリニア特性により得られた画素値に変換する。
具体的には、リニア変換部64は、以下の処理を実行する。
if(v≦s)
v´=v (8)
else
v´=exp((LUTo(v・Ki)−d)/c)・a+b (9)
if(v≦s)
v´=v (8)
else
v´=exp((LUTo(v・Ki)−d)/c)・a+b (9)
すなわち、リニア変換部64は、画素値vがv≦s、つまり、vがリニア特性により得られた画素値である場合、式(8)の処理を行う。
また、リニア変換部64は、画素値vがs<v、つまり、vがログ特性により得られた画素値である場合、式(9)の処理を行う。
このように、本実施の形態による撮像装置によれば、各画素に対するルックアップテーブルを用意しなくても、1つのルックアップテーブルLUTo(x)を用意するだけで、ログ特性により得られた画素値をばらつきなく基準光電変換特性により得られた画素値に変換することができ、テーブル記憶部69のメモリ容量を削減することができる。
(実施の形態5)
実施の形態5による撮像装置は、各画素における変曲点から各画素におけるログ特性の近似式を求め、この近似式を用いてログ特性により得られた画素値をリニア特性により得られた画素値に変換することを特徴とする。なお、本実施の形態において実施の形態1〜4と同一のものは説明を省略する。図8は、実施の形態5による画像処理部6のブロック図である。図8に示すように実施の形態5においては、変曲点のばらつきに着目しているため、変曲点バラツキ補正部63が省かれている。
実施の形態5による撮像装置は、各画素における変曲点から各画素におけるログ特性の近似式を求め、この近似式を用いてログ特性により得られた画素値をリニア特性により得られた画素値に変換することを特徴とする。なお、本実施の形態において実施の形態1〜4と同一のものは説明を省略する。図8は、実施の形態5による画像処理部6のブロック図である。図8に示すように実施の形態5においては、変曲点のばらつきに着目しているため、変曲点バラツキ補正部63が省かれている。
また、本実施の形態において、変換情報としては、各画素における変曲点からログ特性の近似式の係数を定めるために予め定められた係数算出関数が採用される。
リニア変換部64は、各画素における変曲点から係数算出関数を用いて各画素における近似式の係数を算出し、算出した係数によって規定される近似式を用いてログ特性により得られた画素値をリニア特性により得られた画素値に変換する。ここで、ログ特性の近似式としては、下記の式(10)を採用することができる。そのため、近似式の係数は、g,h,iとなる。
y=g・(log(x))2+h・log(x)+i (10)
y=g・(log(x))2+h・log(x)+i (10)
図9は、本実施の形態による撮像センサ3の光電変換特性を示したグラフであり、縦軸は画素値を示し、横軸は輝度を示している。図9に示すように各画素のログ特性はばらつきを有していると共に、変曲点P1もばらつきを有している。ここで、ログ特性のばらつきは、変曲点の画素値(s:s1〜s3)に応じて変化する。
図10〜図12はそれぞれ係数gと変曲点の画素値sとの関係、係数hと変曲点の画素値sとの関係、及び係数iと変曲点の画素値sとの関係を示すグラフであり、縦軸は係数g,h,iの値を示し、横軸は変曲点の画素値sを示している。なお、図10〜図12に示す各点は、各画素における変曲点の画素値sと係数g,h,iとの測定結果をプロットしたものである。図10〜図12に示すように、係数g,h,iは、いずれも変曲点の画素値sに対してほぼ線形に変化しており、係数g,h,iと変曲点の画素値sとは相関があるといえる。なお、図10〜図12における、相関係数は0.8以上である。したがって、係数g,h,iと変曲点の画素値sとの関係は、下記の式(11)〜(13)に示すように一次関数で近似することが可能となる。
g=j・s+k (11)
h=l・s+m (12)
i=n・s+o (13)
g=j・s+k (11)
h=l・s+m (12)
i=n・s+o (13)
そこで、本実施の形態では、図10〜図12に示す測定結果から、式(11)〜(13)を係数算出関数として予め算出しておき、変換情報記憶部68に記憶させておく。具体的には、式(11)〜(13)の係数j,k,l,m,n,oを変換情報記憶部68に記憶させておく。また、各画素における変曲点も実験的に予め求めておき、変換情報記憶部68に記憶させておく。
そして、リニア変換部64は、各画素における変曲点の画素値sを式(11)〜(13)に代入すると共に、係数j,k,l,m,n,oを変換情報記憶部68から読み出し、式(11)〜(13)に代入し、係数g,h,iを算出する。そして、リニア変換部64は、算出した係数g,h,iを式(10)に代入してログ特性の近似式を求め、この近似式を用いてログ特性により得られた画素値をリニア特性により得られた画素値に変換する。
具体的には、リニア変換部64は、以下の処理を実行する。
if(v≦s)
v´=v
else{
g=j・s+k
h=l・s+m
i=n・s+o
v´=exp((−h+(h2−4・g・i)1/2)/2・g)・a+b
}
なお、elseのかっこ内の1〜4行目の式はそれぞれ、式(11)〜(13),(5)である。
if(v≦s)
v´=v
else{
g=j・s+k
h=l・s+m
i=n・s+o
v´=exp((−h+(h2−4・g・i)1/2)/2・g)・a+b
}
なお、elseのかっこ内の1〜4行目の式はそれぞれ、式(11)〜(13),(5)である。
v≦s、すなわち、vがリニア特性により得られた画素値である場合、リニア変換部64は、v´=vを実行する。一方、v>s、すなわち、vがログ特性により得られた画素値である場合、リニア変換部64は、式(10)〜(13)を実行する。
このように、本実施の形態の撮像装置によれば、各画素における変曲点の画素値sから各画素における近似式の係数が算出され、算出された係数によって規定される近似式を用いてログ特性により得られた画素値がリニア特性により得られた画素値に変換されるため、当該画素値を、ばらつきなくリニア特性により得られた画素値に変換することができる。
なお、本実施の形態では、ログ特性の近似式として、式(10)に示す二次関数を用いたが、これに限定されず、一次関数を用いてもよい。この場合、一次関数の各係数と変曲点の画素値との関係を示す係数算出関数の係数を予め求めておき、変換情報記憶部68に記憶させておけばよい。
また、実施の形態1〜5では、ログ特性の近似式として、一次関数又は二次関数が用いられていたが、これに限定されず、三次関数、四次関数等のより高次元の関数を用いてもよい。こうすることで、ログ特性をより精度良く近似することが可能となるが、その分、変換情報記憶部68に記憶させておくべき係数等が増大するため、一次関数又は二次関数を用いることが好ましい。
上述の実施の形態の技術的特徴は以下のようにまとめることができる。
(1)上記撮像装置は、変曲点を境に異なる光電変換特性を有する複数の画素からなる撮像素子と、前記異なる光電変換特性のうち、一方を基準光電変換特性とし、他方を非基準光電変換特性として、前記非基準光電変換特性によって得られた画素値を、前記基準光電変換特性によって得られた画素値に変換する特性変換部とを備え、前記特性変換部は、各画素の非基準光電変換特性のばらつきに起因する、各画素の変換後の基準光電変換特性のばらつきをなくすために、各画素において予め定められた変換情報を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換する。
この構成によれば、各画素の非基準光電変換特性のばらつきに起因する、各画素の変換後の基準光電変換特性のばらつきをなくすために、各画素において予め定められた変換情報を用いて、非基準光電変換特性により得られた画素値が、基準光電変換特性により得られた画素値に変換される。そのため、非基準光電変換特性により得られた画素値をばらつきなく基準光電変換特性により得られた画素値に変換することができ、画像中に固定パターンノイズが現れることを防止することができる。
(2)上記撮像装置において、前記特性変換部は、前記変換情報を用いて前記非基準光電変換特性の各画素における近似式を算出し、算出した近似式を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することが好ましい。
この構成によれば、変換情報を用いて非基準光電変換特性の各画素における近似式が算出され、この近似式を用いて、非基準光電変換特性により得られた画素値が基準光電変換特性により得られた画素値に変換されるため、非基準光電変換特性により得られた画素値をよりばらつきなく基準光電変換特性により得られた画素値に変換することができる。
(3)上記撮像装置において、前記変換情報は、各画素において予め定められた前記近似式の係数であり、前記特性変換部は、前記係数により規定される近似式を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することが好ましい。
この構成によれば、各画素において予め定められた近似式の係数を記憶するだけで、非基準光電変換特性により得られた画素値が基準光電変換特性により得られた画素値に変換されるため、メモリ容量を削減することができる。
(4)上記撮像装置において、前記近似式は、前記非基準光電変換特性を2種類の一次関数で近似したものであり、前記変換情報は、各一次関数の係数であることが好ましい。
この構成によれば、非基準光電変換特性が2種類の一次関数で近似されているため、各画素の非基準光電変換特性を精度良く近似することができる。
(5)上記撮像装置において、前記近似式は、前記非基準光電変換特性を二次関数で近似したものであり、前記変換情報は、前記二次関数の係数であることが好ましい。
この構成によれば、非基準光電変換特性が二次関数で近似されるため、各画素の非基準光電変換特性を精度良く近似することができる。
(6)上記撮像装置において、各画素における非基準光電変換特性を予め想定される全画素共通の非基準光電変換特性に補正するための補正テーブルを記憶するテーブル記憶部を更に備え、前記特性変換部は、前記変換情報と前記補正テーブルとを用いて前記非基準光電変換特性により得られた画素値を補正し、補正した画素値を前記基準光電変換特性により得られた画素値に変換することが好ましい。
この構成によれば、非基準光電変換特性により得られた画素値が、想定される全画素共通の非基準光電変換特性に補正された後、基準光電変換特性により得られた画素値に変換されるため、当該画素値をばらつきなく基準光電変換特性により得られた画素値に変換することができる。
(7)上記撮像装置において、前記補正テーブルは、複数存在し、前記変換情報は、各画素における非基準光電変換特性を、前記全画素共通の非基準光電変換特性に補正するうえで最も好ましい補正テーブルを複数の補正テーブルの中から選択するための情報であり、前記特性変換部は、前記変換情報を用いて複数の補正テーブルから1つの補正テーブルを選択し、選択した補正テーブルを用いて前記非基準光電変換特性により得られた画素値を補正し、補正した画素値を前記基準光電変換特性により得られた画素値に変換することが好ましい。
この構成によれば、各画素に対する補正テーブルを用意しなくても、非基準光電変換特性により得られた画素値をばらつきなく基準光電変換特性により得られた画素値に変換することができ、補正テーブルを記憶するためのメモリ容量を削減することができる。
(8)上記撮像装置において、前記補正テーブルは1個であり、前記変換情報は、前記非基準光電変換特性により得られた画素値を、全画素共通の非基準光電変換特性により得られた画素値に変更するために、前記補正テーブルを各画素に応じた補正テーブルに変更するための変更値であり、前記特性変換部は、前記変更値を用いて変更された補正テーブルを用いて、非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することが好ましい。
この構成によれば、各画素に対する補正テーブルを用意しなくても、1つの補正テーブルを用意するだけで、非基準光電変換特性により得られた画素値をばらつきなく基準光電変換特性により得られた画素値に変換することができ、補正テーブルを記憶するためのメモリ容量を削減することができる。
(9)上記撮像装置において、前記変換情報は、各画素における変曲点から前記非基準光電変換特性の近似式の係数を定めるために予め定められた係数算出関数であり、前記特性変換部は、各画素における変曲点から前記係数算出関数を用いて各画素における前記近似式の係数を算出し、算出した係数によって規定される近似式を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することが好ましい。
この構成によれば、各画素における変曲点から各画素における近似式の係数が算出され、算出された係数によって規定される近似式を用いて非基準光電変換特性により得られた画素値が基準光電変換特性により得られた画素値に変換されるため、当該画素値をばらつきなく基準光電変換特性に変換することができる。
(10)上記撮像装置において、前記基準光電変換特性は、線形の光電変換特性であり、前記非基準光電変換特性は、対数の光電変換特性であることが好ましい。
この構成によれば、対数の光電変換特性により得られた画素値をばらつきなく線形の光電変換特性により得られた画素値に変換することができる。
Claims (10)
- 変曲点を境に異なる光電変換特性を有する複数の画素からなる撮像素子と、
前記異なる光電変換特性のうち、一方を基準光電変換特性とし、他方を非基準光電変換特性として、前記非基準光電変換特性によって得られた画素値を、前記基準光電変換特性によって得られた画素値に変換する特性変換部とを備え、
前記特性変換部は、各画素の非基準光電変換特性のばらつきに起因する、各画素の変換後の基準光電変換特性のばらつきをなくすために、各画素において予め定められた変換情報を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することを特徴とする撮像装置。 - 前記特性変換部は、前記変換情報を用いて前記非基準光電変換特性の各画素における近似式を算出し、算出した近似式を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することを特徴とする請求項1記載の撮像装置。
- 前記変換情報は、各画素において予め定められた前記近似式の係数であり、
前記特性変換部は、前記係数により規定される近似式を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することを特徴とする請求項2記載の撮像装置。 - 前記近似式は、前記非基準光電変換特性を2種類の一次関数で近似したものであり、
前記変換情報は、各一次関数の係数であることを特徴とする請求項2記載の撮像装置。 - 前記近似式は、前記非基準光電変換特性を二次関数で近似したものであり、
前記変換情報は、前記二次関数の係数であることを特徴とする請求項2記載の撮像装置。 - 各画素における非基準光電変換特性を予め想定される全画素共通の非基準光電変換特性に補正するための補正テーブルを記憶するテーブル記憶部を更に備え、
前記特性変換部は、前記変換情報と前記補正テーブルとを用いて前記非基準光電変換特性により得られた画素値を補正し、補正した画素値を前記基準光電変換特性により得られた画素値に変換することを特徴とする請求項1記載の撮像装置。 - 前記補正テーブルは、複数存在し、
前記変換情報は、各画素における非基準光電変換特性を、前記全画素共通の非基準光電変換特性に補正するうえで最も好ましい補正テーブルを複数の補正テーブルの中から選択するための情報であり、
前記特性変換部は、前記変換情報を用いて複数の補正テーブルから1つの補正テーブルを選択し、選択した補正テーブルを用いて前記非基準光電変換特性により得られた画素値を補正し、補正した画素値を前記基準光電変換特性により得られた画素値に変換することを特徴とする請求項6記載の撮像装置。 - 前記補正テーブルは1個であり、
前記変換情報は、前記非基準光電変換特性により得られた画素値を、全画素共通の非基準光電変換特性により得られた画素値に変更するために、前記補正テーブルを各画素に応じた補正テーブルに変更するための変更値であり、
前記特性変換部は、前記変更値を用いて変更された補正テーブルを用いて、非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することを特徴とする請求項6記載の撮像装置。 - 前記変換情報は、各画素における変曲点から前記非基準光電変換特性の近似式の係数を定めるために予め定められた係数算出関数であり、
前記特性変換部は、各画素における変曲点から前記係数算出関数を用いて各画素における前記近似式の係数を算出し、算出した係数によって規定される近似式を用いて前記非基準光電変換特性により得られた画素値を前記基準光電変換特性により得られた画素値に変換することを特徴とする請求項2記載の撮像装置。 - 前記基準光電変換特性は、線形の光電変換特性であり、
前記非基準光電変換特性は、対数の光電変換特性であることを特徴とする請求項1〜9のいずれかに記載の撮像装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008192486 | 2008-07-25 | ||
JP2008192486 | 2008-07-25 | ||
PCT/JP2009/063058 WO2010010871A1 (ja) | 2008-07-25 | 2009-07-21 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2010010871A1 true JPWO2010010871A1 (ja) | 2012-01-05 |
Family
ID=41570331
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010521704A Pending JPWO2010010871A1 (ja) | 2008-07-25 | 2009-07-21 | 撮像装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8576307B2 (ja) |
JP (1) | JPWO2010010871A1 (ja) |
WO (1) | WO2010010871A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8576307B2 (en) | 2008-07-25 | 2013-11-05 | Konica Minolta Opto, Inc. | Imaging device having a characteristic converting section |
JP4586941B1 (ja) * | 2009-06-15 | 2010-11-24 | コニカミノルタオプト株式会社 | 撮像装置 |
JP5688258B2 (ja) * | 2010-09-22 | 2015-03-25 | 日立マクセル株式会社 | 画像信号処理装置 |
KR102182870B1 (ko) | 2014-04-08 | 2020-11-25 | 삼성전자주식회사 | 선형-로그형 이미지 센서 및 이를 포함하는 전자 기기 |
US9892487B1 (en) * | 2016-11-28 | 2018-02-13 | Sony Corporation | Method and apparatus for combining pixel values in array including linear pixels and logarithmic pixels |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004229257A (ja) * | 2003-01-22 | 2004-08-12 | Honda Motor Co Ltd | イメージセンサ |
JP2006014117A (ja) * | 2004-06-29 | 2006-01-12 | Sony Corp | 物理情報取得方法および物理情報取得装置並びに物理量分布検知の半導体装置 |
JP2007151016A (ja) * | 2005-11-30 | 2007-06-14 | Konica Minolta Holdings Inc | 撮像装置 |
JP2007329655A (ja) * | 2006-06-07 | 2007-12-20 | Konica Minolta Holdings Inc | 撮像装置 |
WO2007145099A1 (ja) * | 2006-06-14 | 2007-12-21 | Konica Minolta Holdings, Inc. | 撮像装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11298799A (ja) * | 1998-04-15 | 1999-10-29 | Honda Motor Co Ltd | 光センサ信号処理装置 |
JP4893042B2 (ja) | 2006-03-20 | 2012-03-07 | コニカミノルタホールディングス株式会社 | 撮像装置 |
US7920193B2 (en) * | 2007-10-23 | 2011-04-05 | Aptina Imaging Corporation | Methods, systems and apparatuses using barrier self-calibration for high dynamic range imagers |
US8576307B2 (en) | 2008-07-25 | 2013-11-05 | Konica Minolta Opto, Inc. | Imaging device having a characteristic converting section |
-
2009
- 2009-07-21 US US13/055,562 patent/US8576307B2/en active Active
- 2009-07-21 JP JP2010521704A patent/JPWO2010010871A1/ja active Pending
- 2009-07-21 WO PCT/JP2009/063058 patent/WO2010010871A1/ja active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004229257A (ja) * | 2003-01-22 | 2004-08-12 | Honda Motor Co Ltd | イメージセンサ |
JP2006014117A (ja) * | 2004-06-29 | 2006-01-12 | Sony Corp | 物理情報取得方法および物理情報取得装置並びに物理量分布検知の半導体装置 |
JP2007151016A (ja) * | 2005-11-30 | 2007-06-14 | Konica Minolta Holdings Inc | 撮像装置 |
JP2007329655A (ja) * | 2006-06-07 | 2007-12-20 | Konica Minolta Holdings Inc | 撮像装置 |
WO2007145099A1 (ja) * | 2006-06-14 | 2007-12-21 | Konica Minolta Holdings, Inc. | 撮像装置 |
Also Published As
Publication number | Publication date |
---|---|
US8576307B2 (en) | 2013-11-05 |
US20110122282A1 (en) | 2011-05-26 |
WO2010010871A1 (ja) | 2010-01-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4768448B2 (ja) | 撮像装置 | |
JP4742652B2 (ja) | 撮像装置 | |
US7952621B2 (en) | Imaging apparatus having temperature sensor within image sensor wherin apparatus outputs an image whose quality does not degrade if temperature increases within image sensor | |
US8154629B2 (en) | Noise canceling circuit, noise canceling method, and solid-state imaging device | |
US8792017B2 (en) | Image processing device, image processing method, and image pickup apparatus | |
US8155472B2 (en) | Image processing apparatus, camera, image processing program product and image processing method | |
WO2010010871A1 (ja) | 撮像装置 | |
JP4586942B1 (ja) | 撮像装置 | |
US8970732B2 (en) | Image capture apparatus and method of controlling the same | |
JP2011100204A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、撮像装置及び電子機器 | |
JP4977880B2 (ja) | 撮像装置 | |
JP5282306B2 (ja) | 画像処理装置、画像処理方法、及び撮像装置 | |
JP5588729B2 (ja) | 画像信号処理装置 | |
JP2012065069A (ja) | 欠陥検出補正装置、及びプログラム、並びに記憶媒体 | |
JP4720130B2 (ja) | 撮像装置 | |
JP2006109046A (ja) | 撮像装置 | |
JP3938097B2 (ja) | 補正装置、撮像装置、補正方法、コンピュータが読み取り可能な記憶媒体、及びプログラム | |
JPH11113012A (ja) | 電子的撮像装置 | |
JP2012134574A (ja) | 画像処理装置及び画像処理方法 | |
JP2004357238A (ja) | 撮像装置及びその画像処理方法 | |
JP2006197000A (ja) | 撮像装置 | |
JP2007306111A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120703 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20130418 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130813 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20131210 |