JP2013012983A - Imaging apparatus - Google Patents
Imaging apparatus Download PDFInfo
- Publication number
- JP2013012983A JP2013012983A JP2011145356A JP2011145356A JP2013012983A JP 2013012983 A JP2013012983 A JP 2013012983A JP 2011145356 A JP2011145356 A JP 2011145356A JP 2011145356 A JP2011145356 A JP 2011145356A JP 2013012983 A JP2013012983 A JP 2013012983A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- unit
- image
- random number
- read
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 34
- 239000011159 matrix material Substances 0.000 claims abstract description 8
- 238000012545 processing Methods 0.000 description 53
- 238000000034 method Methods 0.000 description 24
- 238000006243 chemical reaction Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 13
- 238000012937 correction Methods 0.000 description 9
- 230000006835 compression Effects 0.000 description 6
- 238000007906 compression Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 239000000203 mixture Substances 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 241001589086 Bellapiscis medius Species 0.000 description 1
- 239000003990 capacitor Substances 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
Description
本発明は、撮像装置に関する。 The present invention relates to an imaging apparatus.
近年、電子カメラなどで使用されている撮像素子は、様々な要因によって筋状のノイズやシェーディングなどが生じるという問題がある。そこで、固定ノイズやシェーディングの場合は別途取得した補正データを撮影毎に画像データから減算する処理が行われている。このような補正データは遮光状態で取得するのが一般的であるが、特性差などによる誤差を少なくするために遮光状態と同等の補正データを取得する技術も検討されている(例えば、特許文献1参照)。 In recent years, an image sensor used in an electronic camera or the like has a problem that streak noise, shading, or the like occurs due to various factors. Therefore, in the case of fixed noise or shading, a process of subtracting separately acquired correction data from image data for each shooting is performed. In general, such correction data is acquired in a light-shielded state, but a technique for acquiring correction data equivalent to the light-shielded state in order to reduce an error due to a characteristic difference or the like has been studied (for example, Patent Documents). 1).
ところが、従来の方法は、取得した補正データを保持するメモリや補正データを用いて補正する処理が必要になるという問題があった。また、撮像素子のAD変換に使用される電源変動などによる横筋ノイズは、撮影毎に位置が異なるため従来のように補正データを取得して画像データから減算する処理では除去することができない。このような電源変動の対策として、容量の大きいコンデンサやレギュレータおよびフィルタの使用などが考えられるが、外部部品が多くなるという問題が生じる。 However, the conventional method has a problem in that a correction process using a memory or correction data that holds the acquired correction data is required. Further, the horizontal stripe noise due to power supply fluctuation used for AD conversion of the image sensor cannot be removed by the process of acquiring correction data and subtracting it from the image data as in the prior art because the position differs for each photographing. As a countermeasure against such power supply fluctuation, use of a capacitor having a large capacity, a regulator, and a filter can be considered, but there is a problem that the number of external parts increases.
本発明の目的は、撮像素子からの読み出し方法を工夫することによって撮影画像のノイズを分散して見えにくくすることができる撮像装置を提供することである。 An object of the present invention is to provide an imaging apparatus that can disperse noise in a captured image and make it difficult to see by devising a method for reading from an imaging element.
本発明に係る撮像装置は、行列状に配置された複数の画素で光電変換された画像データを出力する撮像部と、乱数を発生する乱数発生部と、前記乱数発生部が発生した乱数に応じて前記撮像部の行列上の画素位置を指定して前記画像データを読み出す読み出し部と、前記読み出し部により読み出される画像データに当該画像データが読み出された前記画素位置を示すアドレスデータを付加するアドレス付加部とを有することを特徴とする。 An imaging apparatus according to the present invention includes an imaging unit that outputs image data photoelectrically converted by a plurality of pixels arranged in a matrix, a random number generation unit that generates a random number, and a random number generated by the random number generation unit A reading unit for specifying the pixel position on the matrix of the imaging unit and reading the image data, and adding address data indicating the pixel position from which the image data has been read to the image data read by the reading unit And an address adding unit.
本発明に係る撮像装置は、撮像素子からの読み出し方法を工夫することによって撮影画像のノイズを見えにくくすることができる。 The image pickup apparatus according to the present invention can make it difficult to see the noise of a captured image by devising a reading method from the image pickup element.
以下、本発明に係る撮像装置の実施形態について図面を用いて詳しく説明する。 Hereinafter, embodiments of an imaging apparatus according to the present invention will be described in detail with reference to the drawings.
図1は、本実施形態に係る電子カメラ101の構成例を示す図である。図1において、電子カメラ101は、光学系102と、メカニカルシャッタ103と、撮像素子104と、画像バッファ105と、画像処理部106と、制御部107と、メモリ108と、表示部109と、操作部110と、メモリカードIF(インターフェース)111とで構成される。
FIG. 1 is a diagram illustrating a configuration example of an
図1において、光学系102に入射される被写体光は、メカニカルシャッタ103を介して撮像素子104の受光面に結像される。ここで、光学系102は、ズームレンズやフォーカスレンズなどの複数枚のレンズおよびレンズ駆動部や絞り機構などを有し、制御部107によって、ズームレンズ位置、フォーカスレンズ位置、絞り値などが制御される。
In FIG. 1, the subject light incident on the
撮像素子104は、例えばCMOS型固体撮像素子で構成され、受光面に行列状に配置された画素の光電変換部により受光量に応じた電気信号に変換する。そして、各画素毎に出力されるアナログの電気信号はA/D変換され、デジタルの画像データとして出力される。尚、本実施形態に係る電子カメラ101では、後で詳しく説明するように、撮像素子104に電源変動などによる横筋ノイズを見えにくくするための機能が搭載されている。
The
画像バッファ105は、例えば揮発性の高速メモリで構成される。画像バッファ105は、撮像素子104が出力する画像データを一時的に記憶するだけでなく、画像処理部106が画像処理を行う時のバッファメモリとしても使用される。或いは撮影時の画像やメモリカードIF111に接続されたメモリカード111aに保存されている撮影済の画像を画像バッファ105に読み出して画像処理を行ったり、或いは、表示部109に画像を表示する時の表示メモリとしても使用される。
The
画像処理部106は、画像バッファ105に取り込まれた画像データに対して、ホワイトバランス処理,色補間処理,ガンマ補正処理,彩度強調処理,輪郭輪郭強調処理などの画像処理を行う。また、画像処理部106は、画像処理後の画像データに対してJPEG規格などに準拠した画像圧縮方法を用いて圧縮処理を行う。さらに、本実施形態に係る電子カメラ101では、後に説明するように、撮像素子104から読み出された画像データに付加されたアドレスデータに基づいて、撮影画像を合成する画像合成処理を行う。
The
制御部107は、例えば内部に記憶されたプログラムに従って動作するCPUで構成される。制御部107は電子カメラ101全体の動作を制御し、例えば操作部110の撮影モード選択ダイヤル111aで電子カメラ101の撮影モード(連写撮影、単写撮影など)を選択したり、レリーズボタン111bの押下時には光学系102のレンズ制御や絞り制御を行ってメカニカルシャッタ103を開閉し、撮像素子104で被写体画像を撮像する。そして、制御部107は、撮像素子104から画像データを読み出し、画像バッファ105に取り込む制御を行う。さらに、制御部107は、画像バッファ105に取り込まれた画像データに対して所定の画像処理を施すよう画像処理部106に指令し、画像処理後の画像データ(例えばJPEGデータ)に所定のファイル名やヘッダ情報を付加してメモリカード111aに保存する。或いは、画像バッファ105に取り込まれた画像データを表示部109に撮影画像として表示する。
The
メモリ108は、例えばフラッシュメモリなどの不揮発性の半導体メモリで構成される。電子カメラ101の撮影モードや露出情報、フォーカス情報などのパラメータが記憶される。制御部107は、これらのパラメータを参照して電子カメラ101の動作を制御する。
The
表示部109は、液晶モニタなどで構成される。そして、制御部107によって、撮影画像や電子カメラ101の操作に必要な設定メニューなどが表示される。
The
操作部110は、撮影モード選択ダイヤル111a、レリーズボタン111bなどで構成される。ユーザーは、これらの操作ボタンを操作して電子カメラ101を使用する。例えば撮影モード選択ダイヤル111aでは、連写撮影、単写撮影などを選択する。尚、これらの操作部110による操作情報は制御部107に出力され、制御部107は操作部110から入力する操作情報に応じて電子カメラ101の動作を制御する。
The
メモリカードIF111は、電子カメラ101にメモリカード111aを接続するためのインターフェースである。制御部107はメモリカードIF111を介してメモリカード111aに画像データを読み書きする。
The memory card IF 111 is an interface for connecting the
以上が本実施形態に係る電子カメラ101の構成および基本動作である。
[撮像素子104の構成]
次に、本実施形態に係る電子カメラ101の特徴である電源変動などによる横筋ノイズを見えにくくするための機能を実現するための撮像素子104の構成について詳しく説明する。
The above is the configuration and basic operation of the
[Configuration of Image Sensor 104]
Next, the configuration of the
図2は、撮像素子104の構成例を示す図である。図2において、撮像素子104は、画素部201と、走査回路202と、読み出し回路203と、A/D変換部204と、読み出し制御部205と、乱数発生部206と、アドレス付加部207とを有する。
FIG. 2 is a diagram illustrating a configuration example of the
画素部201は、行列状に配置された複数の画素Pを有し、走査回路202から出力されるタイミング信号に従って画素Pで光電変換された電気信号を読み出し回路203に読み出す。尚、図2では、画素部201は、N行M列(N,Mは自然数)の画素Pを有し、例えば1行2列目の画素は画素P(1,2)と記載する。ここで、xを1からNの整数、yを1からMの整数とすると、画素P(x,y)の(x,y)は画素座標を示す。ここで、本実施形態に係る電子カメラ101では、撮像素子104から画像データを読み出す時に、行や画素Pをランダムに選択し、横筋ノイズを見えにくくすることができるようになっている。尚、本実施形態では、撮像素子104の内部に、読み出し制御部205と、乱数発生部206と、アドレス付加部207とを設けたが、撮像素子104の外部に設けても構わない。
The
走査回路202は、画素部201から信号を読み出す画素(或いは行や領域)を選択し、選択された画素Pから信号を読み出すためのタイミング信号を出力する。例えば、1行目を選択して、1行目の各画素(画素P(1,1から画素P(1,M))から読み出し回路203に信号を読み出す。そして、走査回路202は、読み出し回路203に読み出されて保持されている1行分の信号を列順に画素単位で出力するタイミング信号を出力する。
The
読み出し回路203は、走査回路202によって各画素Pから読み出される信号を一時的に保持する回路を有する。そして、読み出し回路203に保持された信号は、走査回路202から出力されるタイミング信号に従って画素単位でA/D変換部204に出力される。
The
A/D変換部204は、読み出し回路203から出力されるアナログの電気信号をデジタルの画像データに変換する。
The A /
読み出し制御部205は、制御部107から出力されるクロック信号、垂直同期信号(VD)、水平同期信号(HD)、或いは読み出し開始信号などにより、走査回路202に画素部201から電気信号を読み出す画素位置を指示する。この時、読み出し制御部205は、乱数発生部206から入力する乱数に従って読み出す画素位置を選択する。また、読み出し制御部205は、走査回路202が画素部201および読み出し回路203から読み出す画像データの画素位置を示すアドレスデータをアドレス付加部207に出力する。
The
乱数発生部206は、読み出し制御部205の指令により乱数を発生して読み出し制御部205に出力する。乱数の発生方法としては、M系列符号による生成多項式をフリップフロップ回路などのハードウェアで構成して擬似乱数を発生させてもよいし、メルセンヌツイスター法などの一様乱数発生法などによりソフトウェア的に乱数を発生させてもよい。尚、発生する乱数は、画素部201を構成する行数や画素座標、或いは後で説明するブロック方式の場合はブロック数に対応するものとする。また、発生する乱数の値が重複する場合は除去し、行数分の全ての値を発生するまで処理を続けるものとする。例えば図2の画素部201において、行をランダムに選択する場合は、1からNまでの値が全て発生し終わるまで乱数発生処理を継続する。
The random
アドレス付加部207は、A/D変換部204が変換した画像データに読み出し制御部205が出力するアドレスデータを付加して撮像素子104から出力する。ここで、画像データにアドレスデータを付加する方法について説明する。図3(a)は、一般的な撮像素子から出力されるデータのフォーマット例を示す図である。図3(a)の場合は、同期用のスタート符号501とエンド符号503との間に各画素の画像データ502が出力される。通常の撮像素子では、1行目から順番に読み出されるので、画像データ502がどの行の画像データであるかを示す情報が付加されていなくても撮影画像を再生することができる。
The
これに対して、本実施形態に係る電子カメラ101は、先に述べたように、横筋ノイズを見えにくくするために、行や画素Pをランダムに選択するので、撮像素子104から読み出された画像データから撮影画像を再生するために、画像データ502が画素部201のどの位置(行や画素或いはブロックの位置)の画像データであるかを示す情報(アドレスデータ)が必要となる。そこで、アドレス付加部207は、図3(b)に示すように、スタート符号501とエンド符号503との間にアドレスデータ504と画像データ502bとを出力する。例えば、図3(c)は、画素部201の行をランダムに選択して画像データを読み出す場合に、アドレスデータ504として行位置データ505を付加する場合の出力データ例を示している。これにより、読み出された画像データが1行目の画像データなのかN行目の画像データなのかを判別することができ、電子カメラ101の制御部107や画像処理部106は、画像バッファ105に取り込まれた各行の画像データを並べ替えて撮像素子104の画素部201と同じ画素配置の撮影画像を生成することができる。
On the other hand, since the
[撮影時の処理]
次に、本実施形態に係る電子カメラ101における撮影時の処理について図4のフローチャートを用いて説明する。尚、図4のフローチャートは制御部107のプログラムに従って実行される処理で、操作部110のレリーズボタン110bが押下された時の処理である。そして、制御部107は、レリーズボタン110bの押下を検出すると、撮像素子104の読み出し制御部205に画像データの読み出し開始信号を出力する。
[Processing during shooting]
Next, processing at the time of shooting in the
(ステップS101)読み出し制御部205は、乱数発生部206に乱数を発生させる。
(Step S101) The read
(ステップS102)読み出し制御部205は、乱数発生部206が発生した乱数に対応する画素部201の読み出し位置(行位置、画素位置或いはブロック位置など)を選択する。
(Step S102) The read
(ステップS103)走査回路202は、読み出し制御部205が選択する読み出し位置の画素から読み出し回路203に信号を読み出し、さらにA/D変換部204で画像データに変換する。
(Step S <b> 103) The
(ステップS104)アドレス付加部207は、A/D変換部204が変換した画像データに対応して読み出し制御部205が出力するアドレスデータを付加して画像バッファ105に出力する。
(Step S <b> 104) The
(ステップS105)読み出し制御部205は、画素部201の全ての行または画素から信号を読み出したか否かを判別する。全ての読み出しを終了した場合はステップS106に進み、全ての読み出しを終了していない場合はステップS101に戻って同様の処理を繰り返し実行する。
(Step S <b> 105) The read
(ステップS106)制御部107は、画像処理部106に指令して、画像バッファ105に取り込まれたアドレスデータ付の画像データをアドレスデータが示す位置に並べ替えて撮像素子104の画素部201と同じ画素配置の1枚の撮影画像を合成する。尚、合成された画像は画像バッファ105に保持されている。
(Step S106) The
(ステップS107)制御部107は、画像バッファ105に保持されている画像処理部106が合成後の画像データをメモリカードIF111を介して接続されているメモリカード111aに保存する。尚、実際には、合成後の画像データに対して、ホワイトバランス処理,色補間処理,ガンマ補正処理,彩度強調処理,輪郭輪郭強調処理、或いはJPEGなどの画像圧縮処理など、通常の電子カメラと同じ処理を行って予め決められた所定のファイル名を付加してメモリカード111aに保存する。
(Step S <b> 107) The
ここで、ステップS106の合成処理を行わずに、画像バッファ105に保持されている1画面分のアドレスデータ付の画像データを1つのファイルとしてメモリカード111aに保存するようにしてもよい。この場合は、パソコンにステップS105と同様の合成処理を行うアプリケーションソフトウエアをインストールしておき、電子カメラ101で撮影後にメモリカード111aをパソコンに接続して、合成処理を行うアプリケーションソフトウエアを立ち上げて画像合成処理を行う。これにより、電子カメラ101は撮影時に合成処理を行う必要がなくなり、処理負荷を低減することができる。
Here, the image data with address data for one screen held in the
[ランダムに行を選択して画像データを読み出す場合の例]
次に、撮像素子104の画素部201からランダムに行を選択して読み出す場合の例について説明する。通常の撮像素子では、図5(a)に示すように、画素部201の1行目から順番に画像データを読み出す。ここで、VD(垂直同期信号)は1画面毎に出力される同期信号で、HD(水平同期信号)は行毎に出力されるタイミング信号である。図5(a)の場合は、HDに同期して1行目、2行目、3行目・・・のように行順に最後の3000行目までが読み出される。尚、図5(a)の例では画素部201は3000行あるものとする。これに対して、本実施形態に係る電子カメラ101の撮像素子104では、図5(b)に示すように、乱数発生部206が発生した乱数に対応する行をランダムに選択して画像データを読み出す。ここで、VDおよびHDは図5(a)と同じである。例えば図5(b)の場合は、HDに同期して4行目、1010行目、501行目・・・のようにランダムに選択された行順に画像データが全ての行から読み出される。尚、図5(b)の場合も図5(a)と同様に画素部201は3000行あるものとする。そして、乱数発生部206は、3000行全ての行に対応する行番号を発生するまで乱数の発生を継続し、発生した乱数が重複する行番号に対応する場合は無視して次の乱数を発生する。尚、乱数発生部206は単純に乱数を発生するだけにして、読み出し制御部205側で重複する乱数を無視するようにしても構わない。図5(b)の例では、4行目から読み出しが開始され、1010行目、501行目・・・901行目、1501行目、701行目、10行目で3000行分全ての行からの画像データの読み出しを終了する。尚、乱数発生部206は、HDのタイミングよりも高速に乱数発生処理を行うので、行番号が重複して再び乱数を発生する処理を行っても、HDのタイミングからずれることはない。
[Example when image data is read out by randomly selecting a row]
Next, an example of selecting and reading out rows from the
ここで、横筋ノイズについて説明する。図5(a)のように行順に画像データを読み出す場合、A/D変換部204などの電源変動により、図6の画像301の示すような横筋ノイズ301aが画像に現れる。通常、横筋ノイズ301aは点線円351に描いたように複数のラインに固まって出現するので目立ち易くなる。例えば図5(a)の場合は、複数ラインにわたる点線楕円で示したノイズが発生している1行目から3行目や2997行目から2999行目に横筋ノイズが載ってしまう。
Here, the horizontal stripe noise will be described. When the image data is read out in the row order as shown in FIG. 5A, the
これに対して、本実施形態に係る電子カメラ101は、図5(b)で説明したようにランダムに選択した行から画像データを読み出すので、図5(a)と同じようにノイズが発生した場合でも、ノイズは4行目、1010行目、501行目と、901行目、1501行目、701行目とに分散される。これにより、図6の画像302に示すように、横筋ノイズ302aは点線円352に描いたように1ラインのみとなり目立ちにくくなる。これは、例えば3000行の中の1行に対応し、例えば表示部109に表示したり、印画紙にプリントする時の縦方向の長さを90mmとすると、1行の幅は0.03mmに過ぎない。さらに、JPEG画像圧縮処理などでは、ブロック化して不可逆性の圧縮処理が行われるので、より一層目立ちにくくなる。尚、図6の例では、本実施形態に係る電子カメラ101の効果がわかり易いように、横筋ノイズ301aおよび横筋ノイズ302aは誇張して描いてある。
On the other hand, since the
[ランダムにブロックを選択して画像データを読み出す場合の例]
次に、撮影画像を複数のブロックに分割し、ブロック位置をランダムに選択してブロック毎に画像データを読み出す場合の例について説明する。尚、この場合も電子カメラ101および撮像素子104の基本的な構成は図1および図2と同じであるが、各部の動作が少し異なる。
[Example of selecting block randomly and reading image data]
Next, an example in which the captured image is divided into a plurality of blocks, the block positions are selected at random, and image data is read out for each block will be described. In this case as well, the basic configuration of the
図7は、撮影画像401を9つのブロックに分割して読み出す場合の例を描いてある。尚、図7では説明がわかり易いようにブロック数は9つにしてあるが、さらに多くのブロック数に分割しても構わない。図7の例では、乱数発生部206は、3,9,5,7,2,8,6,1,4の順番に乱数を発生している。ここで、乱数発生部206は、重複する乱数やブロック番号に割り当てられていない数字(例えば0)が発生された場合は無視して次の乱数を発生する動作を繰り返し行い、全ブロックに対応する1から9までの9つの乱数を発生するものとする。
FIG. 7 illustrates an example in which the captured
そして、読み出し制御部205は、乱数発生部206が発生した乱数に対応する画素部201のブロック位置を選択する。走査回路202は、読み出し制御部205が選択するブロックの各画素から読み出し回路203に信号を読み出し、さらにA/D変換部204で画像データに変換する。図7の例では、最初にブロック(3)から読み出された画像データにアドレスデータ(3)が付加される。同様に、2番目にブロック(9)、3番目にブロック(5)、4番目にブロック(7)、、、最後にブロック(4)の順に各ブロックから読み出されたそれぞれの画像データにアドレスデータ(9)、(5)、(7)、、、(4)がそれぞれ付加される。
Then, the
ここでは、走査回路202は、ブロック内の行順に各画素から画像データを読み出すものとするが、先の実施形態と同様に、ブロック内の行順をランダムに選択するようにしても構わない。これにより、横筋ノイズは更に分散されるのでより一層目立ちにくくすることができる。
Here, the
そして、アドレス付加部207は、A/D変換部204が変換したブロック内の画像データに読み出し制御部205が選択したブロック位置を示すデータ(ブロック番号など)をアドレスデータとして付加し、画像バッファ105に出力する。図3(d)は、画素部201のブロック位置をランダムに選択して画像データを読み出す場合に、図3(b)のアドレスデータ504としてブロック位置データ506を画像データ502cに付加する場合の出力データ例を示している。これにより、読み出された画像データ502cがブロック(1)からブロック(9)のどのブロックの画像データなのかを判別することができ、制御部107または画像処理部106は、画像バッファ105に取り込まれた各ブロックの画像データを並べ替えて撮像素子104の画素部201と同じ画素配置の撮影画像を生成することができる。尚、先に説明したように、ブロック内を行単位で読み出す場合は、図3(d)のフォーマットの画像データがブロック内の行数分だけ出力される。ここで、行順に出力する場合、制御部107や画像処理部106は、画像バッファ105に取り込まれた1つのブロック内の各行の画像データを順番に並べ替ることにより撮影画像を生成できるが、ブロック内の行をランダムに選択する場合は、ブロック内のどの行の画像データであるかを判別できない。そこで、読み出し制御部205は、読み出される画像データ502cのブロック位置データ506と行位置データ505aとをアドレス付加部207に出力し、アドレス付加部207は、図3(e)に示すように、画像データ502cにブロック位置データ506と、行位置データ505aとを付加する。これにより、制御部107や画像処理部106は、画像バッファ105に取り込まれたブロック内の各行の画像データを適正な位置に並べ替ることができる。
The
尚、読み出し制御部205は、画素部201の全てのブロックから画像データの読み出しが終了するまで同様の処理を繰り返し実行する。そして、制御部107は、画像処理部106に指令して、画像バッファ105に取り込まれたブロック位置データ付の画像データをブロック位置データが示す位置に並べ替えて各ブロック内の画像および1枚の撮影画像を合成する。
Note that the
ここで、ランダムにブロックを選択して画像データを読み出す場合の効果について図8を用いて説明する。尚、図8において、図6と同符号のものは同じものを示す。先に図6の画像301で説明したように、点線円351のように複数ラインからなる横筋ノイズ301aが画像に現れる。これに対して、ランダムにブロックを選択して画像データを読み出す場合は、図8の画像303のように横筋ノイズの長さが短くなり、且つ分散される。尚、画像303の場合は、9つのブロックであるが、より多くのブロックに分割するほど横筋ノイズの長さがより短くなり、横筋ノイズが目立たなくなる。
Here, the effect when the image data is read out by randomly selecting a block will be described with reference to FIG. In FIG. 8, the same reference numerals as those in FIG. As described above with reference to the
また、画像303の例は、ブロック内から行順に画像データを読み出した場合の様子を示しているが、先に述べたように、ブロック内の行をランダムに選択して画像データを読み出す場合は、画像304に示すように、図6の画像302と同様に横筋ノイズが細くなり、より一層目立ちにくくなる。更にブロックの大きさを細かく分割することにより、画像305に示すように、ランダムノイズと同程度まで分散することができる。尚、図8の各図は、説明がわかり易いように誇張して描いてあるのが、実際には画素の大きさが非常に小さいので、横筋ノイズであることは殆ど認識できない。
Further, the example of the
このようにして、撮影画像を複数のブロックに分割して、画像データを読み出すブロックをランダムに選択することにより、撮影画像に出現する横筋ノイズを目立たなくすることができる。 In this way, by dividing the photographed image into a plurality of blocks and randomly selecting a block from which the image data is read, the horizontal stripe noise appearing in the photographed image can be made inconspicuous.
[連写の例]
次に、連写で撮影した複数枚の画像に対して上述のブロック分割方式を適用する例について説明する。尚、この場合の電子カメラ101および撮像素子104の基本的な構成は図1および図2と同じであるが、各部の動作が少し異なる。
[Example of continuous shooting]
Next, an example in which the above-described block division method is applied to a plurality of images taken by continuous shooting will be described. In this case, the basic configuration of the
先の図7の例では、1枚の撮影画像を複数のブロックに分割し、ブロック位置をランダムに選択してブロック毎に画像データを読み出すようにしたが、連写の場合は撮影した複数枚の画像のそれぞれから異なる位置のブロックをランダムに選択して画像データを読み出す。尚、本実施形態では、各画像から1つのブロックを選択するようにしたが、複数のブロックを選択するようにしてもよい。 In the example of FIG. 7 described above, one shot image is divided into a plurality of blocks, and the block position is selected at random, and image data is read out for each block. Image data is read out by randomly selecting blocks at different positions from each of the images. In this embodiment, one block is selected from each image, but a plurality of blocks may be selected.
図9の例において、時間tの流れに従って画像401a(1枚目)から画像401i(9枚目)までの9枚の画像が連写される。尚、図9ではブロック数は9つであるが、さらに多くのブロック数に分割しても構わない。図9において、乱数発生部206は、図7の場合と同様に3,9,5,7,2,8,6,1,4の順番に乱数を発生している。ここで、乱数発生部206は、重複する乱数やブロック番号に割り当てられていない数字(例えば0)が発生された場合は無視して次の乱数を発生する動作を繰り返し行い、全ブロックに対応する1から9までの9つの乱数を発生するものとする。
In the example of FIG. 9, nine images from the
そして、読み出し制御部205は、1枚目の画像401aを撮影する時に、乱数発生部206が発生した乱数に対応する画素部201のブロック(3)を選択する。走査回路202は、読み出し制御部205が選択するブロック(3)の各画素から読み出し回路203に信号を読み出す。そして、A/D変換部204で画像データに変換し、アドレス付加部207でアドレスデータが付加されて画像バッファ105に出力される。尚、アドレスデータの付加については図7の例と同じなので説明を省略する。次に、読み出し制御部205は、2枚目の画像401bを撮影する時に、乱数発生部206が発生した乱数に対応する画素部201のブロック(9)を選択する。そして、走査回路202は、読み出し制御部205が選択するブロック(9)の各画素から読み出し回路203に信号を読み出す。さらに、A/D変換部204で画像データに変換し、アドレス付加部207でアドレスデータが付加されて画像バッファ105に出力される。以降同様に、3枚目の画像401cを撮影する時はブロック(5)を選択し、4枚目の画像401dを撮影する時はブロック(7)を選択して各画像の各ブロックから読み出されたブロック位置を示すアドレスデータが付加された画像データが画像バッファ105に取り込まれる。次の5枚目の画像401eから9枚目の画像401iについても同様に、異なるブロック位置の画像データが読み出される。
Then, the
このようにして、画像バッファ105に読み出された異なるブロック位置の9つの画像データは、図7の例と同様に1枚の撮影画像に合成される。この場合も、図8で説明したような効果が得られるが、撮影される画像自体が異なるので、横筋ノイズはさらに分散されて目立たなくなる。尚、この例の場合は、連写中に動きが少ない被写体を撮影する場合に適している。
In this manner, nine image data at different block positions read out to the
[カラー画像の例]
上記の各例ではカラー画像について特に言及しなかったが、ここでは、撮像素子104がベイヤー配列のカラー画像である場合の例について説明する。図10(a)は一般的なベイヤー配列の撮像素子104で撮影される画像601の画素配列を示した図である。画像601は、奇数行にはR画素とGr画素、偶数行にはB画素とGb画素がそれぞれ水平方向に交互に配置され、さらに各行が垂直方向に交互に配置されている。ここで、R画素は赤色成分の画像データを取得する画素、B画素は青色成分の画像データを取得する画素、Gr画素およびGb画素は緑色成分の画像データを取得する画素である。尚、GrのrはR画素の行のG画素を示し、GbのbはB画素の行のG画素を示している。
[Example of color image]
In each of the above examples, a color image is not particularly mentioned, but here, an example in which the
ベイヤー配列の撮像素子104の画素部201から読み出し回路203に読み出され、A/D変換部204でA/D変換された画像データは、アドレス付加部207でアドレスデータが付加される。図11(a)は、ランダムに行を選択してカラー画像を読み出す場合に、アドレス付加部207で画像データにアドレスデータを付加するデータフォーマットの例である。図11(a)の例では、乱数発生部206は1,8,4,7・・・の順に乱数を発生し、それぞれの乱数値に対応する行から画像データを読み出す。例えば図11(a)の場合、同期用のスタート符号501とエンド符号503との間に乱数1に対応する1行目を示す行位置データ601と1行目の画像データ602とが出力される。
Address data is added by the
ここで、画像データ602は奇数行なので、Gr,R,Gr,R,Gr・・・の画素順の画像データが出力される。次に、乱数8に対応する8行目を示す行位置データ601と8行目の画像データ602とが出力される。ここで、画像データ602aは偶数行なので、B,Gb,B,Gb,B・・・の画素順の画像データが出力される。同様に、次の乱数4に対応する4行目の画像データ602bは、B,Gb,B,Gb,B・・・の画素順の画像データが出力され、その次の乱数7に対応する7行目の画像データ602cは、Gr,R,Gr,R,Gr・・・の画素順の画像データが出力される。
Here, since the
このようにして、読み出された画像データがどの行の画像データなのかを判別することができ、電子カメラ101の制御部107や画像処理部106は、画像バッファ105に取り込まれた各行の画像データを並べ替えて撮像素子104の画素部201と同じ画素配置の撮影画像を生成することができる。
In this way, it is possible to determine which row of image data the read image data is, and the
ここで、図10(a)の画像601のようなベイヤー配列の各画素から読み出された生の画像データはRawデータと呼ばれており、各画素はRGBの何れかの色成分のデータしか持たない。そこで、各画素にRGB3色の色成分データが得られるように色補間処理が行われる。一般的な色補間処理は、周辺画素の画像データを用いて補間処理を行い、図10(b)の画像602に示すように、各画素にRGB3色の色成分データが生成される。従って、ベイヤー配列のカラー画像の場合は、例えば図10(a)に示した画像601の3行目に横筋ノイズが有ったとしても、隣接する行(この場合は2行目または1行目)に横筋ノイズが無い場合は、色補間処理で生成される3行目のR画素位置(例えば画素P(3,4)のR画素位置)のB成分とGb成分には横筋ノイズが含まれないので、カラー画像として見た場合、画素P(3,4)における横筋ノイズの影響はモノクロ画像の場合に比べて軽減される。
Here, the raw image data read from each pixel of the Bayer array such as the
[カラー画像の変形例]
図11(a)では、行別にランダムに読み出すようにしたので、同じ行にある異なる色成分の画素にも同じ横筋ノイズが含まれていたが、本変形例ではランダムに行を選択し、さらに色別に複数回に分けて読み出す。
[Modification of color image]
In FIG. 11A, since the random readout is performed for each row, pixels of different color components in the same row also contain the same horizontal stripe noise. However, in this modification, a row is selected at random, Read in multiple times for each color.
図11(b)は、ランダムに選択した行から色毎に画像データを読み出す場合に、アドレス付加部207が画像データにアドレスデータを付加するデータフォーマットの例を示している。図11(b)の例では、乱数発生部206は1,8,4・・・の順に乱数を発生し、それぞれの乱数値に対応する行から色別に2回に分けて画像データを読み出す。図11(b)において、同期用のスタート符号501とエンド符号503との間に乱数1に対応する1行目と色成分(Gr)とを示す情報が含まれる行位置データ601dと画像データ602dとが出力される。この場合、画像データ602dは、Gr,Gr,Gr・・・の奇数列のGr成分の画素の画像データが出力される。続いて、同じ1行目と色成分(R)とを示す情報が含まれる行位置データ601eと画像データ602eとが出力される。この場合、画像データ602eは、R,R,R・・・の偶数列のR成分の画素の画像データが出力される。
FIG. 11B shows an example of a data format in which the
同様に、乱数8に対応する8行目と色成分(B)とを示す情報が含まれる行位置データ601fと画像データ602fとが出力される。この場合、画像データ602fは、B,B,B・・・の奇数列のB成分の画素の画像データが出力される。続いて、同じ8行目と色成分(Gb)とを示す情報が含まれる行位置データ601gと画像データ602gとが出力される。この場合、画像データ602gは、Gb,Gb,Gb・・・の偶数列のGb成分の画素の画像データが出力される。
Similarly,
これにより、読み出された画像データがどの行のどの色成分の画像データであるかを判別でき、電子カメラ101の制御部107や画像処理部106は、画像バッファ105に取り込まれた各行の画像データを並べ替えて撮像素子104の画素部201と同じ画素配置の撮影画像を生成することができる。
As a result, it is possible to determine which color component of which row the read image data is, and the
このように、本変形例では、図10(a)の画像601に示すように、3行目のR画素に横筋ノイズが有ったとしても、同じ行のGr画素や隣接する行(この場合は2行目または1行目)のB画素やGb画素に横筋ノイズが含まれない場合は、図10(b)の画像602を生成する時の色補間処理で生成された3行目のR画素位置(例えば画素P(3,4)のR画素位置)のR成分以外(B成分とGb成分とGr成分)データには横筋ノイズが含まれないので、カラー画像として見た場合、画素P(3,4)における横筋ノイズの影響は先の例より更に軽減される。
As described above, in this modified example, as shown in the
尚、上述のカラー画像の例では、行をランダムに選択する場合を示したが、先に説明したブロック分割方式をカラー画像に適用しても構わない。この場合は、ブロック毎に行をランダムに選択するだけでもよいし、ランダムに選択した行に含まれる色成分毎に複数回に分けて画像データを読み出すようにしてもよい。 In the example of the color image described above, the case where the rows are selected at random is shown, but the block division method described above may be applied to the color image. In this case, the rows may be selected randomly for each block, or the image data may be read out in a plurality of times for each color component included in the randomly selected rows.
ここで、本実施形態に係る電子カメラ101のノイズ軽減効果について説明する。図12は、遮光して撮影されたベイヤー配列のカラー画像を18個のブロックに分割してランダムに読み出した場合のノイズの大きさと、従来通り通常読み出しを行った場合のノイズの大きさとをグラフ化したシミュレーション結果である。図12(a)は、通常読み出しの場合を示し、図12(b)は擬似ランダム読み出しの場合を示している。尚、図12(a)および図12(b)において、縦軸は画素の出力値(LSB)を示し、横軸は垂直アドレス(行位置)を示している。そして、各グラフの左側が画像上部、右側が画像下部にそれぞれ対応する。
Here, the noise reduction effect of the
図12(a)に示した通常読み出しの場合よりも、図12(b)に示したランダム読み出しの場合の方が出力値の変動幅が小さくなっているのがわかる。つまり、撮影画像における横筋ノイズが軽減されている。特にカラー画像の場合は、横筋ノイズが分散されて見えにくくなるだけではなく、先に説明したようにベイヤー配列の色補間処理やJPEGなどによる画像圧縮処理によって、ランダム読み出しにより分散されたノイズがさらに軽減されるという効果もある。 It can be seen that the fluctuation range of the output value is smaller in the case of random reading shown in FIG. 12B than in the case of normal reading shown in FIG. That is, horizontal stripe noise in the captured image is reduced. In particular, in the case of a color image, not only the horizontal streak noise is dispersed and becomes difficult to see, but also as described above, the noise dispersed by random readout is further increased by the color interpolation processing of the Bayer array or the image compression processing such as JPEG. There is also an effect that it is reduced.
このように、本実施形態に係る電子カメラ101は、撮像素子104から画像データをランダムに読み出すことによって撮影画像の横筋ノイズを見えにくくすることができる。
As described above, the
以上、本発明に係る撮像装置について、各実施形態で例を挙げて説明してきたが、その精神またはその主要な特徴から逸脱することなく他の多様な形で実施することができる。そのため、上述した実施形態はあらゆる点で単なる例示に過ぎず、限定的に解釈してはならない。本発明は、特許請求の範囲によって示されるものであって、本発明は明細書本文にはなんら拘束されない。さらに、特許請求の範囲の均等範囲に属する変形や変更は、全て本発明の範囲内である。 As described above, the imaging apparatus according to the present invention has been described by way of example in each embodiment. However, the imaging apparatus can be implemented in various other forms without departing from the spirit or main features thereof. Therefore, the above-described embodiment is merely an example in all respects and should not be interpreted in a limited manner. The present invention is defined by the claims, and the present invention is not limited to the text of the specification. Further, all modifications and changes belonging to the equivalent scope of the claims are within the scope of the present invention.
101・・・電子カメラ;102・・・光学系;103・・・メカニカルシャッタ;104・・・撮像素子;105・・・画像バッファ;106・・・画像処理部;107・・・制御部;108・・・メモリ;109・・・表示部;110・・・操作部;110a・・・撮影モード選択ダイヤル;111b・・・レリーズボタン;112・・・メモリカードIF;112a・・・メモリカード;201・・・画素部;202・・・走査回路;203・・・読み出し回路;204・・・A/D変換部;205・・・読み出し制御部;206・・・乱数発生部;207・・・アドレス付加部
DESCRIPTION OF
Claims (7)
乱数を発生する乱数発生部と、
前記乱数発生部が発生した乱数に応じて前記撮像部の行列上の画素位置を指定して前記画像データを読み出す読み出し部と、
前記読み出し部により読み出される画像データに当該画像データが読み出された前記画素位置を示すアドレスデータを付加するアドレス付加部と
を有することを特徴とする撮像装置。 An imaging unit that outputs image data photoelectrically converted by a plurality of pixels arranged in a matrix; and
A random number generator for generating random numbers;
A reading unit that reads out the image data by designating a pixel position on a matrix of the imaging unit according to the random number generated by the random number generation unit;
An image pickup apparatus comprising: an address adding unit that adds address data indicating the pixel position from which the image data is read to the image data read by the reading unit.
前記読み出し部は、前記乱数発生部が発生した乱数に応じて前記撮像部の前記行を指定して行単位で前記画像データを読み出し、
前記アドレス付加部は、前記読み出し部により読み出される画像データに当該画像データが読み出された前記行位置を示すアドレスデータを付加する
ことを特徴とする撮像装置。 The imaging device according to claim 1,
The reading unit reads the image data in units of rows by specifying the row of the imaging unit according to the random number generated by the random number generation unit,
The imaging apparatus, wherein the address adding unit adds address data indicating the row position from which the image data is read to the image data read by the reading unit.
前記撮像部の撮像領域を予め設定された複数のブロックに分割し、
前記読み出し部は、前記乱数発生部が発生した乱数に応じて前記撮像部の前記ブロックを指定してブロック単位で前記画像データを読み出し、
前記アドレス付加部は、前記読み出し部により読み出される画像データに当該画像データが読み出された前記ブロック位置を示すアドレスデータを付加する
ことを特徴とする撮像装置。 The imaging device according to claim 1,
Dividing the imaging area of the imaging unit into a plurality of preset blocks;
The reading unit reads the image data in block units by designating the block of the imaging unit according to the random number generated by the random number generation unit,
The address adding unit adds address data indicating the block position from which the image data is read to the image data read by the reading unit.
前記撮像部が複数毎の画像を連写する場合に、
前記読み出し部は、連写撮影毎に、前記乱数発生部が発生した乱数に応じて前記撮像部の前記ブロックを指定してブロック単位で前記画像データを読み出す
ことを特徴とする撮像装置。 The imaging device according to claim 3.
When the imaging unit continuously captures a plurality of images,
The image reading apparatus, wherein the reading unit reads the image data in units of blocks by designating the block of the image pickup unit according to the random number generated by the random number generation unit for each continuous shooting.
前記アドレス付加部が出力する前記アドレスデータが付加された前記画像データを前記アドレスデータが示す前記撮像部の位置に対応するように合成する合成部を更に設けた
ことを特徴とする撮像装置。 In the imaging device according to any one of claims 1 to 4,
An image pickup apparatus, further comprising: a combining unit that combines the image data to which the address data output from the address adding unit is added so as to correspond to the position of the image pickup unit indicated by the address data.
前記撮像部は、同一行に異なる色成分の画素が交互に配置され、
前記読み出し部は、前記撮像部から前記画像データを行単位で読み出す場合に、同じ色成分毎に同一行内の画素を複数回に分けて読み出す
ことを特徴とする撮像装置。 The imaging device according to claim 2,
In the imaging unit, pixels of different color components are alternately arranged in the same row,
When the image data is read from the imaging unit in units of rows, the reading unit reads out pixels in the same row for each same color component in a plurality of times.
前記撮像部は、同一行に異なる色成分の画素が交互に配置され、
前記読み出し部は、前記撮像部から前記画像データをブロック単位で読み出す場合に、同じ色成分毎に同一ブロック内の画素を複数回に分けて読み出す
ことを特徴とする撮像装置。 The imaging device according to claim 3.
In the imaging unit, pixels of different color components are alternately arranged in the same row,
The reading device reads the pixels in the same block for each of the same color components in a plurality of times when reading the image data from the image pickup unit in units of blocks.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011145356A JP5866826B2 (en) | 2011-06-30 | 2011-06-30 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011145356A JP5866826B2 (en) | 2011-06-30 | 2011-06-30 | Imaging device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013012983A true JP2013012983A (en) | 2013-01-17 |
JP5866826B2 JP5866826B2 (en) | 2016-02-24 |
Family
ID=47686473
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011145356A Active JP5866826B2 (en) | 2011-06-30 | 2011-06-30 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5866826B2 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014165579A (en) * | 2013-02-22 | 2014-09-08 | Olympus Corp | Image pickup device |
JP2014207631A (en) * | 2013-04-16 | 2014-10-30 | ソニー株式会社 | Solid-state imaging device, signal processing method therefor, and electronic apparatus |
WO2020045685A1 (en) * | 2018-08-31 | 2020-03-05 | ソニー株式会社 | Imaging device, imaging system, imaging method and imaging program |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001268450A (en) * | 2000-03-16 | 2001-09-28 | Minolta Co Ltd | Solid-state image pickup device |
JP2002094883A (en) * | 2000-09-13 | 2002-03-29 | Casio Comput Co Ltd | Image pickup device and image pickup method |
JP2009172165A (en) * | 2008-01-24 | 2009-08-06 | Canon Inc | Imaging apparatus, imaging system, signal processing method and program |
JP2010087962A (en) * | 2008-10-01 | 2010-04-15 | Sony Corp | Solid-state imaging device, imaging apparatus, and ad conversion gain adjusting method |
JP2011091535A (en) * | 2009-10-21 | 2011-05-06 | Nikon Corp | Image capturing apparatus |
-
2011
- 2011-06-30 JP JP2011145356A patent/JP5866826B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001268450A (en) * | 2000-03-16 | 2001-09-28 | Minolta Co Ltd | Solid-state image pickup device |
JP2002094883A (en) * | 2000-09-13 | 2002-03-29 | Casio Comput Co Ltd | Image pickup device and image pickup method |
JP2009172165A (en) * | 2008-01-24 | 2009-08-06 | Canon Inc | Imaging apparatus, imaging system, signal processing method and program |
JP2010087962A (en) * | 2008-10-01 | 2010-04-15 | Sony Corp | Solid-state imaging device, imaging apparatus, and ad conversion gain adjusting method |
JP2011091535A (en) * | 2009-10-21 | 2011-05-06 | Nikon Corp | Image capturing apparatus |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014165579A (en) * | 2013-02-22 | 2014-09-08 | Olympus Corp | Image pickup device |
JP2014207631A (en) * | 2013-04-16 | 2014-10-30 | ソニー株式会社 | Solid-state imaging device, signal processing method therefor, and electronic apparatus |
WO2020045685A1 (en) * | 2018-08-31 | 2020-03-05 | ソニー株式会社 | Imaging device, imaging system, imaging method and imaging program |
JP2020039124A (en) * | 2018-08-31 | 2020-03-12 | ソニー株式会社 | Imaging apparatus, imaging system, imaging method and imaging program |
US11704904B2 (en) | 2018-08-31 | 2023-07-18 | Sony Corporation | Imaging apparatus, imaging system, imaging method, and imaging program |
Also Published As
Publication number | Publication date |
---|---|
JP5866826B2 (en) | 2016-02-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4448888B2 (en) | Imaging apparatus and signal processing method of imaging apparatus | |
US9661210B2 (en) | Image pickup device and image pickup apparatus | |
US8368775B2 (en) | Imaging apparatus and live-view image display method thereof | |
JP2007150643A (en) | Solid state imaging element, driving method therefor, and imaging apparatus | |
JP6082274B2 (en) | Imaging apparatus and control method thereof | |
KR101889932B1 (en) | Apparatus and Method for photographing image | |
JP2010157804A (en) | Imaging apparatus | |
JP2007104178A (en) | Imaging element and imaging device | |
JP2012065187A (en) | Imaging apparatus and restored gain data generation method | |
JP2020053771A (en) | Image processing apparatus and imaging apparatus | |
JP5033711B2 (en) | Imaging device and driving method of imaging device | |
JP5866826B2 (en) | Imaging device | |
JP5078458B2 (en) | Imaging apparatus, control method therefor, and imaging system | |
JP6674255B2 (en) | Solid-state imaging device and imaging device | |
JP2012129927A (en) | Imaging apparatus | |
JP6702792B2 (en) | Image processing apparatus and control method thereof | |
JP2005217955A (en) | Imaging device, its control method, program, and storage medium | |
JP2006060496A (en) | Image display device | |
JP4687619B2 (en) | Image processing apparatus, image processing method, and program | |
JP5142807B2 (en) | Imaging apparatus and control method thereof | |
JP2013175919A (en) | Imaging apparatus | |
KR101448531B1 (en) | Digital photographing apparatus | |
JP2004153710A (en) | Control method of imaging apparatus, and imaging apparatus | |
JP2012156761A (en) | Imaging apparatus | |
JP2012124624A (en) | Imaging device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140624 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150427 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150512 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150713 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151208 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20151221 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5866826 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |