JP2012239076A - Imaging device and method - Google Patents
Imaging device and method Download PDFInfo
- Publication number
- JP2012239076A JP2012239076A JP2011107502A JP2011107502A JP2012239076A JP 2012239076 A JP2012239076 A JP 2012239076A JP 2011107502 A JP2011107502 A JP 2011107502A JP 2011107502 A JP2011107502 A JP 2011107502A JP 2012239076 A JP2012239076 A JP 2012239076A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- exposure
- imaging
- sensitivity
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 80
- 238000000034 method Methods 0.000 title claims description 22
- 238000012545 processing Methods 0.000 claims abstract description 74
- 239000000203 mixture Substances 0.000 claims abstract description 34
- 238000001514 detection method Methods 0.000 claims abstract description 16
- 230000004044 response Effects 0.000 claims abstract description 14
- 230000035945 sensitivity Effects 0.000 claims description 80
- 238000007781 pre-processing Methods 0.000 claims description 57
- 239000002131 composite material Substances 0.000 claims description 26
- 230000015572 biosynthetic process Effects 0.000 claims description 14
- 238000003786 synthesis reaction Methods 0.000 claims description 14
- 230000007704 transition Effects 0.000 claims description 10
- 230000009467 reduction Effects 0.000 claims description 9
- 230000002194 synthesizing effect Effects 0.000 claims description 6
- 230000015654 memory Effects 0.000 description 34
- 230000008569 process Effects 0.000 description 14
- 238000011156 evaluation Methods 0.000 description 11
- 238000012935 Averaging Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、複数回の撮像により取得した複数枚の画像を合成して1枚の合成画像を得る撮像装置及び方法に関するものである。 The present invention relates to an imaging apparatus and method for obtaining a single synthesized image by synthesizing a plurality of images acquired by a plurality of times of imaging.
従来、ダイナミックレンジの広い画像(以下「広ダイナミックレンジ画像」と称す)を生成するために、露光量を変えて撮像した同一被写体の複数の画像を、例えば加算平均による合成をして1枚の合成画像を得る撮像装置が知られている(特許文献1)。この撮像装置の画像合成手段は、標準より多い露光量で得られた画像データを低輝度側のデータとし、標準の露光量で得られた画像データを高輝度側のデータとし、標準より少ない露光量で得られた画像データを超高輝度側のデータとして、全てもしくは任意の組み合わせで画像データを合成している。 Conventionally, in order to generate an image with a wide dynamic range (hereinafter referred to as a “wide dynamic range image”), a plurality of images of the same subject picked up with different exposure amounts are combined by, for example, addition averaging to form one image An imaging apparatus that obtains a composite image is known (Patent Document 1). The image synthesizing means of this image pickup device uses image data obtained with an exposure amount larger than the standard as data on the low luminance side, and image data obtained with the standard exposure amount as data on the high luminance side. The image data obtained by the amount is combined as the data on the ultra-high brightness side, or the image data is synthesized in any combination.
ところで、広ダイナミックレンジ画像を得る撮影は、一般的に撮影モードを変えることで実行される。撮影モードの変更は、背面にあるメニューボタン、十字ボタン、及びその真中にある決定ボタン等を操作して撮影モードの一覧をLCDに表示し、その中から択一的に選択するものである。 By the way, shooting for obtaining a wide dynamic range image is generally performed by changing the shooting mode. To change the shooting mode, a menu button on the back, a cross button, a determination button in the middle of the shooting mode, and the like are operated to display a list of shooting modes on the LCD, and an alternative is selected from the list.
例えばメニューの中から撮影モード一覧を選択するためには、メニューボタンを押し、メニューの項目の中から十字ボタンの上又は下カーソルを押して撮影モード一覧の項目を選択した後に決定ボタンを押す。その後、撮影モード一覧の中から該当するモードを選択するために、上又は下カーソルを押して該当するモードを選択した後に決定ボタンを押す。そして、最後にメニューを終了するためのメニューボタンを押す、というようにメニューボタン、十字ボタン、及び決定ボタン等を何回も押す操作が必要になり手間が掛かる。 For example, in order to select a shooting mode list from the menu, the menu button is pressed, and the up or down cursor of the cross button is selected from the menu items to select an item in the shooting mode list, and then the enter button is pressed. Thereafter, in order to select a corresponding mode from the shooting mode list, the up or down cursor is pressed to select the corresponding mode, and then the enter button is pressed. Then, it is necessary to repeatedly press the menu button, the cross button, the enter button, and the like, such as pressing a menu button for ending the menu, which is troublesome.
特に、広ダイナミックレンジ画像の撮影では、被写体が静止していることが重要なポイントになる。モード変更の操作に手間がかかると、その撮影のタイミングを逃してしまうおそれがある。 In particular, in photographing a wide dynamic range image, it is important that the subject is stationary. If it takes time to change the mode, there is a risk of missing the timing of the shooting.
本発明は、上記課題を解決するために、撮影タイミングを逃すことなく広ダイナミックレンジ画像を簡便に得ることができる撮像装置及び方法を提供することを目的とする。 In order to solve the above-described problems, an object of the present invention is to provide an imaging apparatus and method that can easily obtain a wide dynamic range image without missing the imaging timing.
本発明では、静止被写体を検出する静止被写体検出手段と;撮像素子により同一被写体を異なる露光量で撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する本処理合成手段と;静止被写体を検出することに応答して、前記本処理合成手段を実行する合成撮影モードに移行するモード移行手段と;を備えたものである。 In the present invention, a stationary subject detection means for detecting a stationary subject; and a plurality of main processing image data generated by imaging the same subject with different exposure amounts by an image sensor, and a single wide dynamic range image data And a mode transition means for shifting to a composite photographing mode for executing the main processing composition means in response to detection of a stationary subject.
静止被写体検出手段としては、撮像素子から得られる画像データに基づいて被写体が静止していることを検出する。例えば連続する2つの画像データの全画素、あるいは顔画像等の特徴領域の画素を比較して被写体が静止していることを検出すればよい。また、ドライブモードとして連写モードが選択された時には、合成撮影モードをキャンセルし、通常撮影モードを実行するのが好適である。 The stationary subject detection means detects that the subject is stationary based on image data obtained from the image sensor. For example, it is only necessary to detect that the subject is stationary by comparing all the pixels of two consecutive image data or the pixels of a feature area such as a face image. When the continuous shooting mode is selected as the drive mode, it is preferable to cancel the composite shooting mode and execute the normal shooting mode.
合成撮影モードの時には、ランダムノイズを軽減することが望ましい。そこで、撮像素子の感度を設定する設定手段と;前記撮像素子により同一被写体を異なる露光量で撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する本処理合成手段と;前記設定手段で設定される感度が閾値未満の低感度の場合、前記被写体を標準露光よりも少ない露光量で複数回撮像して生成した複数枚の前処理用画像データを1枚のノイズ軽減用画像データとして合成し、合成した前記ノイズ軽減用画像データを前記本処理用画像データのうちの最も露光量が低い露光条件で撮像した画像データとして出力する前処理合成手段と;を備えるのが好適である。 It is desirable to reduce random noise during the composite shooting mode. Therefore, setting means for setting the sensitivity of the image sensor; and a plurality of main processing image data generated by imaging the same subject with different exposure amounts by the image sensor to synthesize one wide dynamic range image data. A main processing composition unit to be generated; and a plurality of preprocessing images generated by imaging the subject a plurality of times with an exposure amount smaller than a standard exposure when the sensitivity set by the setting unit is low and less than a threshold value Pre-processing composition for combining data as a single image data for noise reduction, and outputting the synthesized image data for noise reduction as image data captured under an exposure condition having the lowest exposure amount among the image data for main processing And means.
前処理用画像データを取得するための撮像回数としては、感度に応じて変更することができるように構成するのが望ましい。例えば設定感度が閾値未満である低感度の範囲のうちの低感度程、撮像回数を増やすのが望ましい。 It is desirable that the number of times of imaging for acquiring the preprocessing image data can be changed according to the sensitivity. For example, it is desirable to increase the number of times of imaging in the low sensitivity range of the low sensitivity range where the set sensitivity is less than the threshold.
また、前処理合成手段としては、設定手段で設定される感度が閾値を超える高感度の場合、複数枚の本処理用画像データを構成する、最も露光量が低い露光条件で撮像した短時間露光画像データ、標準の露光条件で撮像した標準露光画像データ、及び最も露光量が高い露光条件で撮像した長時間露光データのそれぞれを、複数枚の前処理用画像データを合成して作るのが、高感度撮影時に生じ易いランダムノイズを軽減することができるため好適である。 In addition, as the pre-processing synthesis means, when the sensitivity set by the setting means is high sensitivity exceeding the threshold value, the short-time exposure imaged under the exposure condition with the lowest exposure amount constituting a plurality of main processing image data Each of image data, standard exposure image data imaged under standard exposure conditions, and long-time exposure data imaged under the exposure conditions with the highest exposure amount is created by combining a plurality of preprocessing image data. This is preferable because random noise that is likely to occur during high-sensitivity imaging can be reduced.
この場合、短時間露光画像データ用の前処理用画像データを取得するための撮像回数を「A」、前記標準露光画像データ用の前処理用画像データを取得するための撮像回数を「B」、及び前記長時間露光データ用の前処理用画像データを取得するための撮像回数を「C」とすると、A>B>Cの関係を満足するのが望ましい。 In this case, the number of times of imaging for acquiring pre-processing image data for short-time exposure image data is “A”, and the number of times of imaging for acquiring pre-processing image data for standard exposure image data is “B”. If the number of times of imaging for acquiring the pre-processing image data for the long-time exposure data is “C”, it is desirable that the relationship of A> B> C is satisfied.
また、この場合、前処理合成手段は、前処理用画像データを取得するための撮像回数を、高感度と判定した範囲のうちの高感度程、撮像回数が増えるように、感度に応じて変更するのが好適である。 Further, in this case, the preprocessing combining unit changes the number of times of imaging for acquiring the preprocessing image data according to the sensitivity so that the number of times of imaging increases as the sensitivity increases in the range determined to be high sensitivity. It is preferable to do this.
本発明では、静止被写体を検出することで自動的に合成撮影モードに移行するため、ランダムノイズを軽減した広ダイナミックレンジ画像を瞬時に得ることができる。 In the present invention, since the transition to the composite shooting mode is automatically performed by detecting a stationary subject, a wide dynamic range image with reduced random noise can be obtained instantaneously.
本発明の撮像装置の一実施形態として電子カメラを説明する。電子カメラは、1回のシャッタレリーズに応答して、撮像素子により異なる露光量で撮像して得た複数枚の画像データを合成して1枚の広ダイナミックレンジ画像データを生成する合成撮影モードを有する。 An electronic camera will be described as an embodiment of the imaging apparatus of the present invention. In response to a single shutter release, the electronic camera has a composite shooting mode in which a plurality of pieces of image data obtained by imaging with different exposure amounts are combined to generate one wide dynamic range image data. Have.
電子カメラ10は、図1に示すうに、レンズ光学系11、絞り12,メカシャッタ13、撮像素子14、AFETG(アナログフロントエンド・タイミングジェネレータ)15、レンズ駆動部16、絞り駆動部17、シャッタ駆動部18、静止被写体検出回路、AE・AF回路19、制御部20、操作部21、LCD22、画像処理回路23、RAM24、ROM25、VRAM26、不揮発生メモリ27、メモリスロット28、及び外部メモリ29等で構成される。
As shown in FIG. 1, the
レンズ駆動部16は、レンズ光学系11の変倍及び合焦動作を行う。絞り駆動部17は、絞り12を駆動する。シャッタ駆動部18は、メカシャッタ13を駆動する。撮像素子14は、レンズ光学系11、及び絞り12を介して結像される被写体像を光電変換するCCDやCMOS等のイメージセンサである。
The
AFETG15は、TG(タイミングジェネレータ)30、V−driver(垂直駆動部)31、及びAFE(アナログフロントエンド)32で構成される。
TG30は、V−driver31を介して画像信号の読み出しタイミングを撮像素子14に与える。AFE32は、撮像素子14から読み出されるアナログの画像信号のノイズ除去やアナログゲインアップにより増幅を行った後、A/D変換してデジタルの画像データに変換し、変換した画像データを静止被写体検出回路、AE・AF回路19、及び画像処理回路23に出力する。
The AFET G15 includes a TG (timing generator) 30, a V-driver (vertical drive unit) 31, and an AFE (analog front end) 32.
The TG 30 gives the readout timing of the image signal to the
静止被写体検出回路34は、デジタルの画像データに基づいて被写体が静止しているかを検出する。具体的には、画像データを連続的に取り込み、前後する画像データの同じ位置の画素の輝度差の絶対値を差分値とし、全画素のそれぞれについて差分値を計算し、差分値が予め決めた閾値以上になる画素を判別し、これら画素を多く含む一塊の領域が無い場合に、被写体が静止していると判断して、静止被写体である旨の情報を制御部20出力する。
The stationary
なお、静止被写体検出回路34の他の構成としては、例えば、顔検出回路を設け、顔検出回路で、比較する2つの画像データから画像中に含まれる人物の顔領域を顔テンプレートとのパターンマッチングによりそれぞれ検出し、人物の顔領域における画素の輝度差の絶対値を差分値として計算し、差分値が予め決めた閾値以上になる画素が予め決めた閾値未満の場合に被写体が静止していると判別してもよい。
As another configuration of the stationary
AE・AF回路19は、画像データのコントラスト情報に基づいてフォーカスを制御するAF(オートフォーカス)情報、及び画像データに基づいて最適なAE(オートエクスポージャ)情報やホワイトバランス情報をそれぞれ取り出して制御部20に送る。制御部20は、AF情報、AE情報、及びホワイトバランス情報に基づいてレンズ駆動部16、絞り駆動部17、及び画像処理回路23等を制御する。
画像処理回路23は、ホワイトバランス処理、圧縮符号化、復号処理、画像合成処理等が含まれる。VRAM26は、LCD22に表示するための画像メモリである。LCD22には、撮像された画像の表示、カメラの各種設定のメニューや撮影モードの表示が行われる。
The AE /
The
メモリスロット28には、外部メモリ29が着脱自在に接続される。外部メモリ29には、画像処理回路23で生成される圧縮符号化された画像データが保存される。
An
RAM24は、制御部20や画像処理回路23のワークエリアとして使用される。ROM25には、制御部20が実行するプログラムが格納されている。不揮発性メモリ27は、電子カメラ10の各種の調整データや、ユーザによって設定された撮影モードや感度(ISO感度)等を格納する。
The
制御部20は、ROM25に記憶されているプログラムに従って動作するCPU(中央演算処理部)を中心に構成され、電子カメラ10の各部を制御する。例えば、制御部20は、撮像素子14の画像信号を読み出す指示をAFETG15のTG30に与え、撮像素子14から読み出した画像信号を、AFE32を介して画像処理回路23に入力し、画像処理回路23で撮影モードに対応する処理等を実行した後に、処理済みの画像データを、バス33を介して外部メモリ29に記録するように制御する。
The
操作部21は、感度設定部、シャッタボタン、モード設定部、ドライブモード設定部、及び電源ボタン等で構成されており、これらは制御部20に操作信号や設定信号を送る。感度設定部は、撮像素子14の感度(ISO感度)を複数段階に変更するための操作部である。感度は、予め任意の感度に定められている。
The
制御部20は、AE・AF回路19から被写体輝度情報を得ると、感度と被写体輝度とで決まる適正露出に近づくように、その時点に設定されている感度に対応したプログラム線図に従って標準の露光量(絞り値とシャッター速度値で求まる露光量)を決定する。
When the
モード設定部は、通常撮影モード、及び再生モードを択一的に選択する操作部である。通常撮影モードでは、ドライブモード設定部を選択操作することで、連写撮影と1コマ撮影とを択一的に選択することができる。 The mode setting unit is an operation unit that selectively selects the normal shooting mode and the reproduction mode. In the normal shooting mode, continuous shooting and single-frame shooting can be alternatively selected by operating the drive mode setting unit.
通常撮影モードは、標準の露光量で撮像素子14により撮像して画像データを生成するモードである。1コマ撮影を選択時には、1回のシャッタレリーズに応答して1枚の画像データを外部メモリ29に記録し、また、連写撮影を選択時には、シャッタボタンを押している間だけ、実質的に同じ露出で撮像した複数枚の画像データを外部メモリ29に記録する。再生モードは、外部メモリ29に記録した画像データをLCD22に再生するモードである。
The normal shooting mode is a mode in which image data is generated by imaging with the
制御部20は、静止被写体検出回路34が静止被写体であると判断した場合、通常撮影モードから合成撮影モードに自動的に移行する。合成撮影モードは、撮像素子14により同一被写体を、異なる露光量で撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを外部メモリ29に記録するモードである。
When the still
合成撮影モードの時には、撮像素子14の蓄積時間を可変する電子シャッタと絞り12の組み合わせで露光量を制御する。なお、シャッタ速度としては、電子シャッタの代わりに、例えばメカシャッタ13の開閉で決定してもよいし、露光の最初のタイミングを電子シャッタで取り、露光終了をメカシャッタ13で決定してもよい。
In the composite photographing mode, the exposure amount is controlled by a combination of an electronic shutter that changes the accumulation time of the
制御部20は、図2に示すように、合成撮影モード移行部42、感度判定部35、及びカウンタ36を有する。合成撮影モード移行部42は、静止被写体検出回路34から静止被写体である旨の信号を受け取ることに応答して撮影モードを通常撮影モードから合成撮影モードに移行する。なお、合成撮影モード移行部42は、連写撮影を選択している場合には、合成撮影モードへの移行をキャンセルする。
As illustrated in FIG. 2, the
感度判定部35は、撮影時に感度設定部に設定されている設定感度を認識するとともに、認識した感度を予め決められている閾値とを比較して高感度か低感度かを判定する。カウンタ36は、画像データの取り込み回数をカウントする。制御部20は、感度判定部35で判定した感度に応じて、アナログの画像データをAFE32のアナログゲインアップで増幅するときの度合いを変更する。
The
画像処理回路23は、振分け部37、前処理合成部38、及び本処理合成部39を備えている。振分け部37は、画像データを前処理合成部38と本処理合成部39に振り分けるものであり、この振り分け処理は、高感度又は低感度の時の前処理用の画像データか本処理用の画像データかに基づいて制御部20により制御される。
The
本処理合成部39は、合成撮影モードの時に、異なる露光量で撮像した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する処理を行う。本処理用画像データは、例えば、短時間露光画像データ、標準露光画像データ、及び長時間露光画像データで構成されている。 The main processing composition unit 39 performs processing for generating one wide dynamic range image data by combining a plurality of main processing image data captured with different exposure amounts in the composite photographing mode. The image data for processing is composed of, for example, short exposure image data, standard exposure image data, and long exposure image data.
短時間露光画像データは、撮像素子14により標準より少ない露光量で撮像して生成した画像データである。標準露光画像データは、撮像素子14により標準の露光量で撮像して生成した画像データである。長時間露光画像データは、撮像素子14により標準よりも多い露光量で撮像して生成した画像データである。
The short-time exposure image data is image data generated by capturing an image with an exposure amount smaller than the standard by the
前処理合成部38は、合成撮影モードの時に低感度と判定した場合、ランダムノイズを軽減するために、撮像素子14により標準よりも少ない露光量で撮像して生成した複数枚の前処理用画像データを合成して1枚のノイズ軽減用画像データを生成し、ノイズ軽減用画像データを本処理用画像データのうちの短時間露光画像データとして本処理合成部39に出力する。
When the
また、前処理合成部38は、合成撮影モードの時に高感度と判定した場合、撮像素子14により標準よりも少ない露光量で撮像して生成した複数枚の画像データを1枚の画像データに合成したものを短時間露光画像データとし、また、標準の露光量で撮像して生成した複数枚の画像データを1枚の画像データに合成したものを標準露光画像データとし、さらに、標準よりも多い露光量で撮像して生成した複数枚の画像データを1枚の画像データに合成したものを長時間露光画像データとしてそれぞれ本処理合成部39に出力する。
Further, when the
前処理及び本処理合成部38,39は、バッファメモリ40,44、位置合わせ処理41,45、及び画像合成43,47をそれぞれ備えている。バッファメモリ40,44は、複数の画像データを一時的に記憶する。位置合わせ処理41,45は、各画像データを比較して、各画像データの位置が一致するように座標を修正する処理を行う。画像合成43,47は、修正した座標の情報に基づいて各画像データを加算した後に、画像データの枚数で除算する平均化処理を行って1枚の画像データを生成する。
The preprocessing and main
位置合わせ処理41,45は、図3に示すように、評価部48、決定部49、及び位置合わせ部50で構成されている。評価部48は、所定の条件、例えば画像データのレベル(明るさ)、コントラスト、及び空間周波数の高周波成分とのうちの少なくとも1つを求めて各画像データを評価する。この場合、画像データの白黒レベルが飽和レベルに達していない画像データのうちの最も明るい画像データほど、又は最もコントラスト値が高い画像データほど、あるいは最も高周波成分が多い画像データほど評価値を高くする。
As shown in FIG. 3, the alignment processes 41 and 45 include an
なお、代わりに、各画像データから主要被写体を検出し、検出した主要被写体の動き量が小さい程評価値を高くする条件や、フォーカス状態、主要被写体の変形度合い等の評価で基準の画像データを決めても良い。 Instead, the main subject is detected from each image data, and the reference image data is obtained by evaluating the condition that the evaluation value is increased as the detected amount of movement of the main subject is smaller, the focus state, the degree of deformation of the main subject, etc. You can decide.
決定部49は、評価部48で求めた各画像データの評価値に基づいて最も合成に適した画像データを基準画像データとして決定する。位置合わせ部50は、基準画像データを基準として残りの画像データに対して座標位置が一致するように位置合わせ処理を行う。これにより、画像合成43,47で合成される画像データは、画質が向上する。なお、評価部48で、各画像データの評価をした後に、評価値が予め決めた閾値よりも低い場合には、その画像データを合成に使用しないように選択する処理を行うようにしてもよい。
The
次に上記構成の作用を、図4及び図5を参照しながら説明する。撮像素子14の感度は、初期値、例えばISO感度「400」に予め設定されている。
制御部20は、1回のシャッヤレリーズ(S−1)に応答して撮像素子14で撮影して得た画像データをAE・AF回路19、及び静止被写体検出回路34に取り込み、取り込んだ画像データに基づいて、標準露光量を決定し(S−2)、また、被写体が静止しているか否かを判断する(S−3)。
Next, the operation of the above configuration will be described with reference to FIGS. The sensitivity of the
The
制御部20は、静止被写体検出回路34で静止被写体と判断した場合、合成撮影モード移行部42で連写撮影モードが設定されているか否かを判定し(S−4)、連写撮影モードが設定されていない場合に合成撮影モードに移行する(S−5)。なお、制御部20は、動体と判断した場合、及び連写撮影モードと判断した場合には、通常撮影モードを実行する(S−6)。
When the stationary
合成撮影モードに移行すると、制御部20は、その時点で設定されている感度が閾値未満か否かを判定する(S−7)。例えば、設定感度がISO感度「400」で、閾値がISO感度「800」である場合には設定感度が低感度であると判定する。
When shifting to the composite shooting mode, the
制御部20は、低感度と判定した場合、標準より少ない露光量、例えば「−1EV」の露光補正をした露光量に設定して撮像素子14で連写的に撮像することで複数枚、例えば5枚の前処理用画像データを取得し(S−8)、振分け部37を制御して5枚の前処理用画像データを前処理合成部38のバッファメモリ40に取り込む。
When it is determined that the sensitivity is low, the
前処理合成部38は、制御部20からカウントアップに応答する信号を受け取ることで、バッファメモリ40から5枚の前処理用画像データを順に読み出し、各前処理用画像データについて評価部48で予め決めた条件に基づいて評価を行い、評価結果に基づいて基準の画像データを決定部49で決定し(S−9)、位置合わせ部50で基準の画像データに基づいて残りの画像データに対して位置合わせ処理を行い(S−10)、その後に画像合成43で、基準画像データに対して位置合わせ処理済みの画像データを順に加算平均化処理により合成をして本処理用の短時間露光画像データを生成し(S−11)、短時間露光画像データを本処理合成部39のバッファメモリ44に出力する。
The
なお、5枚の前処理用画像データを取得する時には、制御部20は、カウンタ36を初期化し(S−12)、カウンタ36で短時間露光での撮像回数をカウントし(S−13)、その撮像回数が予め決められた回数に達したか否かを判定する(S−14)。
When acquiring five pre-processing image data, the
引き続き制御部20は、標準の露光量に変えて1枚撮像して本処理用の標準露光画像データを生成し(S−15)、振分け部37を制御して標準露光画像データを本処理合成部39のバッファメモリ44に取り込み、引き続き、露出を標準より多い露光量に、例えば「+1EV」の露光補正をした露光量に設定して1枚撮像して本処理用の長時間露光画像データを生成し(S−16)、長時間露光画像データをバッファメモリ44に取り込む。
Subsequently, the
本処理合成部39は、短時間露光画像データ、標準露光画像データ、及び長時間露光画像データとの3つの本処理用画像データがバッファメモリ44に取り込まれることに応答して、位置合わせ処理45で前述した位置合わせ処理41と同じ処理を行って基準の画像データを決定し(S−17)、基準の画像データに対して残りの画像データについてそれぞれ位置合わせ処理を行って(S−18)、基準の画像データに対して位置合わせ処理済みの画像データを加算平均化処理により順に合成をして1枚の広ダイナミックレンジ画像データを生成し(S−19)、広ダイナミックレンジ画像データを外部メモリ29に記録する。低感度判定での合成撮影モードで得られる広ダイナミックレンジ画像は、白とびや黒つぶれの発生を抑えることに加えて、低感度撮影で生じ易いランダムノイズを低減した画像になる。
In response to the three main processing image data, that is, the short-exposure image data, the standard exposure image data, and the long-exposure image data, being fetched into the
次に、感度判定部35が図4(S―7)で高感度であると判定した場合について、図6を参照しながら説明する。この場合、制御部20は、標準より少ない露光量、例えば「−1EV」の露出補正をした露光量に設定して撮像素子14で連写的に撮像することで複数枚、例えば6枚の前処理用画像データを取得し(S−20)、振分け部37を制御して6枚の前処理用画像データを前処理合成部38のバッファメモリ40に取り込む。
Next, the case where the
前処理合成部38は、制御部20から短時間露光での撮影回数がカウントアップすることに応答して、バッファメモリ40から6枚の前処理用画像データを順に読み出し、前述した同じ処理を位置合わせ処理41、及び画像合成43で行って(S−21)、本処理用の短時間露光画像データを生成し(S−22)、短時間露光画像データを本処理合成部39のバッファメモリ44に出力する。
The
引き続き制御部20は、標準の露光量に設定して撮像素子14で連写的に撮像することで、短時間露光で撮像する枚数よりも少ない複数枚、例えば4枚の前処理用画像データを取得し(S−23)、振分け部37を制御して4枚の前処理用画像データを前処理合成部38のバッファメモリ40に取り込む。
Subsequently, the
前処理合成部38は、制御部20から標準露光での撮影回数がカウントアップすることに応答して、バッファメモリ40から4枚の前処理用画像データを順に読み出し、前述した同じ処理を位置合わせ処理41、及び画像合成43で行って(S−24)、本処理用の標準露光画像データを生成し(S−25)、標準露光画像データを本処理合成部39のバッファメモリ44に出力する。
In response to the increase in the number of shootings with standard exposure from the
引き続き制御部20は、図7に示すように、標準よりも多い露光量、例えば「+1EV」の露出補正をした露光量に設定して撮像素子14で連写的に撮像することで、標準露光で撮像する枚数よりも少ない複数枚、例えば2枚の前処理用画像データを取得し(S−26)、振分け部37を制御して2枚の前処理用画像データを前処理合成部38のバッファメモリ40に取り込む。
Subsequently, as shown in FIG. 7, the
前処理合成部38は、制御部20から標準露光での撮影回数がカウントアップすることに応答して、バッファメモリ40から2枚の前処理用画像データを順に読み出し、前述した同じ処理を位置合わせ処理41、及び画像合成43で行って(S−27)、本処理用の長時間露光画像データを生成し(S−28)、長時間露光画像データを本処理合成部39のバッファメモリ44に出力する。
In response to the increase in the number of shootings with standard exposure from the
そして、図5(S−17〜S−19)で説明したように、本処理合成部39は、3つの本処理用画像データがバッファメモリ44に取り込まれることに応答して、位置合わせ処理45で基準の画像データを決定し(S−29)、基準の画像データに対して残りの画像データについてそれぞれ位置合わせ処理を行って(S−30)、基準の画像データに対して位置合わせ処理済みの画像データを加算平均化処理により順に合成をして広ダイナミックレンジ画像データを生成し(S−31)、広ダイナミックレンジ画像データを外部メモリ29に記録する。
Then, as described in FIG. 5 (S-17 to S-19), the main processing composition unit 39 responds to the acquisition of the three main processing image data into the
これにより、高感度判定で生成した広ダイナミックレンジ画像は、白とびや黒つぶれの発生を抑えることに加えて、高感度撮影時に生じ易いランダムノイズを低減した画像になる。 As a result, the wide dynamic range image generated by the high sensitivity determination becomes an image in which random noise that is likely to occur during high sensitivity shooting is reduced in addition to suppressing the occurrence of overexposure and blackout.
なお、制御部20は、広ダイナミックレンジ画像データを記録した後に、バッファメモリ40,44をクリアする制御を行うことが望ましい。
Note that the
また、上記実施形態では、感度に応じて決められた撮影枚数、露出補正値は、前述した数値に限らないことはいうまでもない。例えば図8に示すように、設定感度が閾値未満の範囲において、設定感度が低感度程、短時間露光画像データの取得枚数を増やすのが好適である。また、例えば図9に示すように、設定感度が閾値を超える範囲において、設定感度が高感度程、短時間、標準、及び長時間との各露光画像データの取得枚数をそれぞれ増やすのが好適である。なお、短時間露光、標準露光、及び長時間露光との各画像データの取得枚数を順にA、B、Cとすると、A>B>Cの関係を保つように、各画像データの取得枚数を変更するのが好適である。 Further, in the above embodiment, it goes without saying that the number of shots and the exposure correction value determined according to the sensitivity are not limited to the above-described numerical values. For example, as shown in FIG. 8, it is preferable to increase the number of acquired short-time exposure image data as the setting sensitivity is lower in the range where the setting sensitivity is less than the threshold. Also, for example, as shown in FIG. 9, it is preferable to increase the number of pieces of exposure image data acquired for the short time, the standard, and the long time as the set sensitivity is higher in the range where the set sensitivity exceeds the threshold. is there. If the number of acquired image data for short-time exposure, standard exposure, and long-time exposure is A, B, and C in order, the acquired number of image data is set so as to maintain the relationship of A> B> C. It is preferable to change.
また、操作部にカーソルボタンやOKボタン等の変更操作部を設け、例えば低感度における短時間露光での撮影枚数、及び高感度における短時間露光での撮影枚数、標準露光での撮影枚数、長時間露光での撮影枚数をそれぞれ自由に設定することができるように構成してもよい。 In addition, a change operation unit such as a cursor button or an OK button is provided on the operation unit, and for example, the number of shots in short exposure at low sensitivity, the number of shots in short exposure at high sensitivity, the number of shots in standard exposure, and the length You may comprise so that the image | photographing number by time exposure can each be set freely.
上記実施形態では、短時間露光、標準露光、及び長時間露光との3つの画像データを合成して広ダイナミックレンジ画像を生成しているが、本発明ではこれに限らず、露光の異なる2つの画像データを合成して、又は超低時間露光や超長時間露光の画像データを追加した4つ以上の画像データを合成して広ダイナミックレンジ画像を生成してもよい。 In the embodiment described above, a wide dynamic range image is generated by synthesizing three image data of the short exposure, the standard exposure, and the long exposure. However, the present invention is not limited to this, and two exposures with different exposures are generated. A wide dynamic range image may be generated by synthesizing image data or by synthesizing four or more image data to which image data of ultra-low time exposure or ultra-long time exposure is added.
上記実施形態では、低感度と判定した時には、最初に前処理用画像を短時間露光で複数回撮像し、次に標準露光での撮像、最後に長時間露光での撮像の順としているが、本発明ではその順に限らず、例えば逆の順、あるいは最初に標準露光での撮像し、次に短時間露光で複数回撮像、最後に長時間露光での撮像の順にしてもよい。 In the above embodiment, when it is determined that the sensitivity is low, first the pre-processing image is imaged a plurality of times with short exposure, then imaging with standard exposure, and finally imaging with long exposure, In the present invention, the order is not limited to the above order. For example, imaging may be performed in the reverse order, or first in standard exposure, then multiple times in short exposure, and finally in long exposure.
また、高感度と判定した時も同様に、短時間露光画像データ用の前処理用画像データを取得するために撮像する期間、標準露光画像データ用の前処理用画像データを取得するための撮像期間、及び長時間露光データ用の前処理用画像データを取得するための撮像期間の順はいずれの順でもよい。 Similarly, when it is determined that the sensitivity is high, the imaging period for acquiring the preprocessing image data for the short exposure image data, the imaging period for acquiring the preprocessing image data for the standard exposure image data, The order of the period and the imaging period for acquiring the preprocessing image data for the long exposure data may be any order.
上記実施形態では、画像データを取得する毎に位置合わせ処理をして合成しているが、先に全ての撮像を行って画像データをRAMに記録しておき、撮影完了後にRAMから合成対象の画像データを読み出して合成していくように構成してもよい。 また、先に全ての撮像を行って画像データをフラッシュメモリ等に記録しておき、予め画像処理ソフトを電子カメラ等にインストールしておき、撮影後にそのソフトを実行して撮像した複数枚の画像データを合成するようにしてもよい。 In the above-described embodiment, each time image data is acquired, alignment processing is performed and combined. However, all imaging is performed first and image data is recorded in the RAM. You may comprise so that image data may be read and synthesize | combined. In addition, all images are taken first and image data is recorded in a flash memory or the like, and image processing software is installed in an electronic camera or the like in advance. You may make it synthesize | combine data.
さらに、上記実施形態では本発明を電子カメラ10に使用して説明しているが、本発明ではこれに限らず、ビデオカメラやテレビカメラ等に使用することができる。
Furthermore, although the present invention has been described using the
14 撮像素子
12 絞り
13 メカシャッタ
15 AFETG
23 画像処理回路
38 前処理合成部
39 本処理合成部
14
23
Claims (14)
撮像素子により同一被写体を異なる露光量で撮像して生成した複数枚の本処理用画像データを合成して1枚の広ダイナミックレンジ画像データを生成する本処理合成手段と、
静止被写体を検出することに応答して、前記本処理合成手段を実行する合成撮影モードに移行するモード移行手段と、を備えたことを特徴とする撮像装置。 A stationary subject detection means for detecting a stationary subject;
A main processing composition unit configured to combine a plurality of main processing image data generated by imaging the same subject with different exposure amounts by using an imaging element to generate one wide dynamic range image data;
An image pickup apparatus comprising: a mode transition unit that shifts to a composite photographing mode that executes the processing composition unit in response to detecting a stationary subject.
モード移行手段は、連写撮影モードが設定されることに応じて、前記合成撮影モードから通常撮影モードに移行することを特徴とする撮像装置。 The imaging device according to claim 1,
The mode shift means shifts from the composite shooting mode to the normal shooting mode in response to the continuous shooting mode being set.
撮像素子の感度を設定する設定手段と、
前記設定手段で設定される感度が閾値未満の低感度の場合、前記被写体を標準露光よりも少ない露光量で複数回撮像して生成した複数枚の前処理用画像データを合成して1枚のノイズ軽減用画像データを生成し、前記ノイズ軽減用画像データを前記本処理用画像データのうちの最も露光量が低い露光条件で撮像した画像データとして出力する前処理合成手段と、
を備えていることを特徴とする撮像装置。 The imaging apparatus according to claim 1 or 2,
Setting means for setting the sensitivity of the image sensor;
When the sensitivity set by the setting means is low sensitivity less than a threshold value, a plurality of pre-processing image data generated by imaging the subject a plurality of times with an exposure amount smaller than the standard exposure are combined to generate a single image. Pre-processing synthesis means for generating image data for noise reduction, and outputting the image data for noise reduction as image data captured under an exposure condition having the lowest exposure amount among the image data for main processing;
An imaging apparatus comprising:
前記前処理用画像データを取得するための撮像回数を、前記感度が前記低感度と判定する範囲のうちの低感度程撮像回数が増えるように、前記感度に応じて変える撮像回数変更手段を備えていることを特徴とする撮像装置。 The imaging device according to claim 3.
An imaging frequency changing means is provided for changing the imaging frequency for acquiring the preprocessing image data according to the sensitivity so that the imaging frequency is increased as the sensitivity is lower in a range where the sensitivity is determined to be the low sensitivity. An imaging device characterized by comprising:
前記複数枚の本処理用画像データを、最も露光量が低い露光条件で撮像した短時間露光画像データ、標準の露光条件で撮像した標準露光画像データ、及び最も露光量が高い露光条件で撮像した長時間露光データとで構成し、
前記前処理合成手段は、前記設定手段で設定される感度が前記閾値を超える高感度の場合、前記短時間露光画像データ、標準露光画像データ、及び長時間露光データのそれぞれを、複数枚の前処理用画像データを合成して作ることを特徴とする撮像装置。 In the imaging device according to claim 3 or 4,
The plurality of pieces of main processing image data were imaged under the short-exposure image data imaged under the exposure condition with the lowest exposure amount, the standard exposure image data imaged under the standard exposure condition, and the exposure condition with the highest exposure amount. Consisting of long exposure data,
When the sensitivity set by the setting unit is high sensitivity that exceeds the threshold, the pre-processing composition unit converts each of the short-time exposure image data, the standard exposure image data, and the long-time exposure data to a plurality of front images. An image pickup apparatus characterized by combining image data for processing.
前記短時間露光画像データを作るための前処理用画像データを取得する撮像回数を「A」、前記標準露光画像データを作るための前処理用画像データを取得する撮像回数を「B」、及び前記長時間露光データを作るための前処理用画像データを取得する撮像回数を「C」とすると、A>B>Cの関係を満足することを特徴とする撮像装置。 The imaging device according to claim 5.
“A” is the number of times of capturing preprocessing image data for creating the short-time exposure image data, “B” is the number of times of capturing preprocessing image data for creating the standard exposure image data, and An imaging apparatus characterized by satisfying a relationship of A>B> C, where “C” is the number of imaging times for acquiring preprocessing image data for creating the long-time exposure data.
前記撮像回数「A」,「B」,「C」のそれぞれを、前記感度が前記高感度の範囲のうちの高感度程撮像回数が増えるように、前記感度に応じて変える撮像回数変更手段を備えていることを特徴とする撮像装置。 The imaging device according to claim 6,
An imaging number changing means for changing the number of imaging times “A”, “B”, and “C” according to the sensitivity so that the number of imaging times increases as the sensitivity is higher in the high sensitivity range. An imaging apparatus comprising:
連写撮影モードが設定されることに応じて、前記合成撮影モードから通常撮影モードに移行することを特徴とする撮像方法。 The imaging method according to claim 8,
An imaging method, wherein transition from the composite shooting mode to the normal shooting mode is performed in response to the setting of the continuous shooting mode.
前記撮像素子の感度が閾値未満の低感度の場合、前記被写体を標準露光よりも少ない露光量で複数回撮像して生成した複数枚の前処理用画像データを1枚のノイズ軽減用画像データとして合成し、合成した前記ノイズ軽減用画像データを前記本処理用画像データのうちの最も露光量が低い露光条件で撮像した画像データとして出力することを特徴とする撮像方法。 The imaging method according to claim 8 or 9,
When the sensitivity of the image sensor is lower than a threshold value, a plurality of pre-processing image data generated by imaging the subject a plurality of times with an exposure amount smaller than the standard exposure is used as a single noise reduction image data. An image pickup method comprising: synthesizing and outputting the synthesized image data for noise reduction as image data picked up under an exposure condition having the lowest exposure amount among the image data for main processing.
前記ノイズ軽減用画像データを生成するための前記前処理用画像データの枚数を、前記感度が前記低感度と判定する範囲のうちの低感度程撮像回数が増えるように、前記感度に応じて変えるようにしたことを特徴とする撮像方法。 The imaging method according to claim 10.
The number of the pre-processing image data for generating the noise reduction image data is changed according to the sensitivity so that the number of times of imaging increases as the sensitivity is lower in the range where the sensitivity is determined as the low sensitivity. An imaging method characterized by the above.
前記複数枚の本処理用画像データを、最も露光量が低い露光条件で撮像した短時間露光画像データ、標準の露光条件で撮像した標準露光画像データ、及び最も露光量が高い露光条件で撮像した長時間露光データとで構成し、
前記撮像素子の感度が閾値を超える高感度の場合、前記短時間露光画像データ、標準露光画像データ、及び長時間露光データのそれぞれを、複数枚の前処理用画像データを合成して作ることを特徴とする撮像方法。 The imaging method according to any one of claims 8 to 11,
The plurality of pieces of main processing image data were imaged under the short-exposure image data imaged under the exposure condition with the lowest exposure amount, the standard exposure image data imaged under the standard exposure condition, and the exposure condition with the highest exposure amount. Consisting of long exposure data,
When the sensitivity of the image sensor is higher than a threshold value, each of the short-time exposure image data, the standard exposure image data, and the long-time exposure data is created by combining a plurality of pre-processing image data. A characteristic imaging method.
前記短時間露光画像データを作るための前処理用画像データを取得する撮像回数を「A」、前記標準露光画像データを作るための前処理用画像データを取得する撮像回数を「B」、及び前記長時間露光データを作るための前処理用画像データを取得する撮像回数を「C」とすると、A>B>Cの関係を満足することを特徴とする撮像方法。 The imaging method according to claim 12,
“A” is the number of times of capturing preprocessing image data for creating the short-time exposure image data, “B” is the number of times of capturing preprocessing image data for creating the standard exposure image data, and An imaging method characterized by satisfying a relationship of A>B> C, where “C” is the number of times of imaging for obtaining preprocessing image data for creating the long-time exposure data.
前記撮像回数「A」,「B」,「C」のそれぞれを、前記感度が前記高感度の範囲のうちの高感度程撮像回数が増えるように、前記感度に応じて変えることを特徴とする撮像方法。 The imaging method according to claim 13.
Each of the number of imaging times “A”, “B”, and “C” is changed according to the sensitivity so that the number of imaging times increases as the sensitivity is higher in the high sensitivity range. Imaging method.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011107502A JP2012239076A (en) | 2011-05-12 | 2011-05-12 | Imaging device and method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011107502A JP2012239076A (en) | 2011-05-12 | 2011-05-12 | Imaging device and method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012239076A true JP2012239076A (en) | 2012-12-06 |
Family
ID=47461579
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011107502A Pending JP2012239076A (en) | 2011-05-12 | 2011-05-12 | Imaging device and method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012239076A (en) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110992284A (en) * | 2019-11-29 | 2020-04-10 | Oppo广东移动通信有限公司 | Image processing method, image processing apparatus, electronic device, and computer-readable storage medium |
CN112565622A (en) * | 2016-07-01 | 2021-03-26 | 麦克赛尔株式会社 | Image capturing apparatus |
CN113327215A (en) * | 2021-05-28 | 2021-08-31 | 浙江大华技术股份有限公司 | Wide dynamic image synthesis method and device, electronic equipment and storage medium |
US12081876B2 (en) | 2020-12-17 | 2024-09-03 | Beijing Bytedance Network Technology Co., Ltd. | Method for determining photographing mode, electronic device and storage medium |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000050151A (en) * | 1998-07-28 | 2000-02-18 | Olympus Optical Co Ltd | Image pickup device |
JP2007049227A (en) * | 2005-08-05 | 2007-02-22 | Canon Inc | Image processing apparatus and method thereof |
JP2008178147A (en) * | 2008-04-08 | 2008-07-31 | Olympus Corp | Imaging apparatus |
-
2011
- 2011-05-12 JP JP2011107502A patent/JP2012239076A/en active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000050151A (en) * | 1998-07-28 | 2000-02-18 | Olympus Optical Co Ltd | Image pickup device |
JP2007049227A (en) * | 2005-08-05 | 2007-02-22 | Canon Inc | Image processing apparatus and method thereof |
JP2008178147A (en) * | 2008-04-08 | 2008-07-31 | Olympus Corp | Imaging apparatus |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112565622A (en) * | 2016-07-01 | 2021-03-26 | 麦克赛尔株式会社 | Image capturing apparatus |
CN110992284A (en) * | 2019-11-29 | 2020-04-10 | Oppo广东移动通信有限公司 | Image processing method, image processing apparatus, electronic device, and computer-readable storage medium |
US12081876B2 (en) | 2020-12-17 | 2024-09-03 | Beijing Bytedance Network Technology Co., Ltd. | Method for determining photographing mode, electronic device and storage medium |
CN113327215A (en) * | 2021-05-28 | 2021-08-31 | 浙江大华技术股份有限公司 | Wide dynamic image synthesis method and device, electronic equipment and storage medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5857444B2 (en) | Imaging device | |
US8368771B2 (en) | Generating a synthesized image from a plurality of images | |
JP4404823B2 (en) | Imaging device | |
KR101303410B1 (en) | Image capture apparatus and image capturing method | |
US8982232B2 (en) | Image processing apparatus and image processing method | |
JP5968068B2 (en) | Imaging apparatus for controlling exposure, control method for imaging apparatus, program, and recording medium | |
US9210333B2 (en) | Image capturing apparatus for generating composite image and control method thereof | |
JP6137792B2 (en) | IMAGING DEVICE, CONTROL METHOD FOR IMAGING DEVICE, PROGRAM, AND STORAGE MEDIUM | |
JP2013258444A (en) | Image processing device, image processing method, and program | |
JP2010136224A (en) | Imaging apparatus and imaging method | |
US9892497B2 (en) | Image processing apparatus, imaging apparatus, and image processing method | |
JP2008035167A (en) | Imaging apparatus | |
JP2010147786A (en) | Imaging device and image processing method | |
JP2012239076A (en) | Imaging device and method | |
JP2022105715A (en) | Image processor | |
JP2009213032A (en) | Wide dynamic range image formation processing apparatus | |
JP6242129B2 (en) | Imaging device, control method thereof, and control program | |
JP6519625B2 (en) | Imaging device | |
JP6222335B2 (en) | Imaging device | |
JP6769519B2 (en) | Imaging device | |
JP6052379B2 (en) | Imaging device | |
JP2015080157A (en) | Image processing device, image processing method and program | |
JP6075829B2 (en) | IMAGING DEVICE, CAMERA SYSTEM, IMAGING DEVICE CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM | |
JP5693647B2 (en) | Image processing method, image processing apparatus, and imaging apparatus | |
JP5264695B2 (en) | Image processing method, image processing apparatus, and imaging apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140512 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150203 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20150721 |