JP2004048172A - Electronic imaging apparatus and electronic imaging apparatus for microscope - Google Patents

Electronic imaging apparatus and electronic imaging apparatus for microscope Download PDF

Info

Publication number
JP2004048172A
JP2004048172A JP2002200208A JP2002200208A JP2004048172A JP 2004048172 A JP2004048172 A JP 2004048172A JP 2002200208 A JP2002200208 A JP 2002200208A JP 2002200208 A JP2002200208 A JP 2002200208A JP 2004048172 A JP2004048172 A JP 2004048172A
Authority
JP
Japan
Prior art keywords
image
contour
signal
frequency
microscope
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002200208A
Other languages
Japanese (ja)
Other versions
JP4309622B2 (en
Inventor
Junzo Sakurai
桜井 順三
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2002200208A priority Critical patent/JP4309622B2/en
Publication of JP2004048172A publication Critical patent/JP2004048172A/en
Application granted granted Critical
Publication of JP4309622B2 publication Critical patent/JP4309622B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an electronic imaging apparatus and an electronic imaging apparatus for microscope which provides a high-quality image with reduced noise or shaggies enhanced due to the counter enhancement while it holds a good resolution feeling. <P>SOLUTION: A piezoelectric driver 5 periodically displaces a CCD 2 for imaging an object to output an image signal for every displaced position. The image signals from the CCD 2 are rearranged to form a composite image. Then the contour enhancing frequency is made variable for the rearranged image according as before and after the displacement of the CCD 2 by the driver 5. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
本発明は、固体撮像素子等によって撮影された画像を電子的に記録する電子的撮像装置および顕微鏡用電子的撮像装置に関するものである。
【0002】
【従来の技術】
近年、撮影レンズにより結像された被写体像を撮像素子(CCD)などの撮像手段により撮像するとともに、この撮像手段から電気信号として得られる画像信号を電子的に記録するようにした電子カメラなどの電子的撮像装置が多く用いられるようになっている。
【0003】
このような電子的撮像装置では、より良好な画像を表示手段に表示することが重要であり、このため、従来、撮像手段から電気信号として出力される画像信号に対して適切な信号処理を施すことなどが行われている。
【0004】
特開平11−112837号公報は、このような考えに基づいたもので、撮像動作時のゲイン制御手段によるゲイン値に応じて、輪郭強調手段による輪郭強調度を可変制御するようにしている。
【0005】
一方、最近になって撮像素子に結像される被写体像を、撮影レンズの光路中に設けた平行平板などで光学的にずらしたり、撮影レンズを光軸に垂直な平面内でずらすなどして複数枚の画像を読み取り、これらの複数枚の画像を合成して高精細の静止画像を得るような方法が実用化されている。
【0006】
このような方法のものについても、より良好な画像を表示手段に表示するため、画像信号に対して適切な信号処理を施すことが行われており、例えば、特開平07−123424号公報に開示されるように、ずらし画像の相対位置関係に基づいてエッジエンハンス強度を可変させ、どの状態でも安定した解像力を感じられるように画質を制御するものが知られている。
【0007】
【発明が解決しようとする課題】
このような特開平07−123424号公報のものは、ずらし画像の相対位置関係が細かくなるにしたがって、同公報中の図4に示すように空間周波数特性を図示右側にシフトするようにしている。つまり、空間周波数特性をナイキスト周波数が高くなる方向にシフトしエッジ強調度を上げることによって、安定した解像力を確保しようとしている。
【0008】
ところが、このようにしてエッジ強調度を上げていくと、余計な周波数まで強調してしまうこととなり、余計なノイズやエッジ強調によるギザ等を発生させてしてしまい、かえって見苦しい画像になってしまうという問題を生じる。
【0009】
本発明は上記事情に鑑みてなされたもので、解像感を保ちながら輪郭強調により強調されるノイズやギザを低減した良質な画像を得られる電子的撮像装置および顕微鏡用電子的撮像装置を提供することを目的とする。
【0010】
【課題を解決するための手段】
請求項1記載の発明は、被写体像を撮像する撮像素子と、前記撮像素子を周期的に変位させ、それぞれの変位位置ごとに前記撮像素子より前記被写体像の画像信号を出力させる変位手段と、前記変位手段による各変位位置ごとの前記撮像素子の画像信号を再配置して画像合成する画像処理手段と、前記画像処理手段より再配置された画像に対して輪郭信号処理を施す輪郭強調手段と、を具備し、前記変位手段による前記撮像素子の変位の前後に応じて前記輪郭強調手段による輪郭強調周波数を可変可能にしたことを特徴としている。
【0011】
請求項2記載の発明は、請求項1記載の発明において、前記輪郭強調手段は、前記変位手段による前記撮像素子の周期的変位動作の前と後で前記輪郭強調周波数を可変可能にしたことを特徴としている。
【0012】
請求項3記載の発明は、請求項1記載の発明において、前記撮像素子に対し前記被写体像を投射させるレンズ系を有し、前記レンズ系の種類に応じて前記輪郭強調手段による輪郭強調周波数を可変可能にしたことを特徴としている。
【0013】
請求項4記載の発明は、請求項1記載の発明において、前記撮像素子より出力される画像の信号レベルを所定のゲインに調整するゲイン調整手段を有し、前記ゲイン調整手段のゲイン値に応じて前記輪郭強調手段による輪郭強調周波数を可変可能にしたことを特徴としている。
【0014】
請求項5記載の発明は、照明光の開口数を調整する開口絞りと対物レンズを有し、前記対物レンズからの像を出力するポートを少なくとも1つ有する顕微鏡に接続され、前記ポートから出力された像を撮像する顕微鏡用電子的撮像装置において、前記ポートから出力され撮像された画像に対して輪郭信号処理を施す輪郭強調強度を可変可能にした輪郭強調手段と、を具備し、前記開口絞りの状態変化に応じて輪郭強調手段による輪郭強調強度を可変することを特徴としている。
【0015】
請求項6記載の発明は、照明光の開口数を調整する開口絞りと対物レンズを有し、前記対物レンズからの像を出力するポートを少なくとも1つ有する顕微鏡に接続され、前記ポートから出力された像を撮像する顕微鏡用電子的撮像装置において、前記ポートから出力され撮像された画像に対して輪郭信号処理を施す輪郭強調周波数を可変可能にした輪郭強調手段と、を具備し、前記開口絞りの状態変化に応じて輪郭強調手段による輪郭強調周波数を可変することを特徴としている。
【0016】
請求項7記載の発明は、照明光の開口数を調整する開口絞りと対物レンズを有し、前記対物レンズからの像を出力するポートを少なくとも1つ有する顕微鏡に接続され、前記ポートから出力された像を撮像する顕微鏡用電子的撮像装置において、被写体像を撮像する撮像素子と、前記撮像素子を周期的に変位させ、それぞれの変位位置ごとに前記撮像素子より前記被写体像の画像信号を出力させる変位手段と、前記変位手段による各変位位置ごとの前記撮像素子の画像信号を再配置して画像合成する画像処理手段と、前記画像処理手段より再配置された画像に対して輪郭信号処理を施す輪郭強調周波数を可変可能にした輪郭強調手段と、を具備し、前記開口絞りの状態変化に応じて輪郭強調手段による輪郭強調周波数を可変することを特徴としている。
【0017】
この結果、本発明によれば、変位手段による撮像素子の変位の前後のどちらの場合も解像感を保ちながら、輪郭強調により強調される余計なノイズやエッジ強調による斜めギザ等の発生を抑制できる。
【0018】
また、本発明によれば、レンズ系のMTFに関係なく、解像感を保ちながら輪郭強調により強調される余計なノイズやエッジ強調によるギザ等の発生を抑制できる。
【0019】
さらに、本発明によれば、ノイズ量の大きな領域で必要以上のエッジ強調をすることがなくなり、良質な画像を取得することができる。
【0020】
【発明の実施の形態】
以下、本発明の実施の形態を図面に従い説明する。
【0021】
(第1の実施の形態)
図1は、本発明の第1の実施の形態が適用される電子的撮像装置の概略構成を示すものである。図において、1は撮影光学系で、撮影レンズやこれを駆動する駆動モータおよび駆動機構等からなっている。この撮影光学系1を介して光学的な被写体像がCCD等の固体撮像素子(以下、単にCCDという)2に結像される。
【0022】
CCD2は、結像される光学的な被写体像を光電変換し、被写体像の画像信号を生成する。
【0023】
この場合、CCD2には、駆動パルス等の同期信号を発生させるタイミングジェネレータ(TG)3およびシグナルジェネレータ(SG)4が接続され、所定のタイミング信号により駆動されるようになっている。また、CCD2は、図示しない電子シャッタ機能(手段)を有しており、これにより露光時間の制御を行なうことができるようになっている。
【0024】
CCD2には、変位手段として圧電ドライバ5が接続されている。この圧電ドライバ5は、ピエゾ素子等の圧電素子を有するもので、この圧電素子によりCCD2を周期的に変位させ、それぞれの変位位置での被写体像の画素ずらしされた画像信号を出力させるようになっている。
【0025】
CCD2には、CDS回路(相関二重サンプリング回路;Correlated DoubleSampling)が接続されている。このCDS回路は、CCD2の出力信号から画像信号成分を抽出するものである。
【0026】
CDS回路6には、ゲイン調整手段として増幅器(AMP)7が接続されている。この増幅器(AMP)7は、CDS回路6からの出力信号レベルを所定のゲイン値に調整するためのAGC回路などを含むゲイン制御手段からなっている。
【0027】
増幅器(AMP)7には、A/D変換器8を介して画像メモリとしてフレームメモリ9が接続されている。A/D変換器8は、タイミングジェネレータ(TG)3のタイミング信号に同期して増幅器(AMP)7より出力されるアナログ画像信号をデジタル画像信号に変換するものである。フレームメモリ9は、A/D変換器8から出力されるデジタル信号を記憶するものである。また、フレームメモリ9は、メモリコントローラ10によりデータの読み書きが制御される。フレームメモリ9は、画素ずらしにより取得される複数の画像に相当するメモリを備えており、これらメモリに各画像を各別に記憶する。そして、後述するCPU28の制御をもとに、これら複数の画像を1つの画像に再配置(画素ずらし)する(画像処理手段)。
【0028】
フレームメモリ9には、色分離回路11とγ補正回路12が接続されている。色分離回路11は、フレームメモリ9から読み出された画像信号をRL信号、GL信号、BL信号の三原色の各色信号に分離するものである。また、γ補正回路12は、色信号のガンマ(γ)補正処理を施すものである。
【0029】
色分離回路11には、画像信号のホワイトバランスを調整するWB(ホワイトバランス)回路13が接続されている。WB(ホワイトバランス)回路13には、ホワイトクリップ14、クリップレベル検出回路15を介して色補正回路16が接続されている。色補正回路16は、色再現性を改善するための色補正を行うものである。
【0030】
色補正回路16には、色γ補正回路17を介して色差マトリクス回路18が接続されている。色γ補正回路17は、色補正回路16で補正された色信号のγ(γ)補正処理を施すものである。色差マトリクス回路18は、R、G、Bの各色信号を輝度信号YLと二つの色差信号(R−Y信号及びB−Y信号)に変換して色相や色の飽和度等を調整するものである。
【0031】
一方、γ補正回路12には、Y信号生成部19が接続されている。このY信号生成部19は、γ補正回路12によりγ補正処理が施された画像信号から輝度信号(Y信号)のみを抽出し生成するものである。
【0032】
Y信号生成部19には、バンドパスフィルタ(BPF)20が接続されている。バンドパスフィルタ(BPF)20は、輪郭強調手段の一部を形成するもので、Y信号から低周波成分を除去して輪郭信号(以下、エッジ信号という)を抽出するようにしている。
【0033】
バンドパスフィルタ(BPF)20には、コアリング部21が接続されている。コアリング部21も輪郭強調手段の一部を形成するもので、バンドパスフィルタ(BPF)20により生成されたエッジ信号のノイズ成分を抑圧又は除去し、S/N比を改善するコアリング処理を施すものである。
【0034】
コアリング部21には、エッジ強調度積算器22が接続されている。エッジ強調度積算器22は、コアリング部21によってコアリング処理が施されたY信号に対して所定の係数を掛け合わせエッジ強調処理を施すもので、輪郭強調手段の一部を構成している。
【0035】
エッジ強調度積算器22から出力されるエッジ強調処理済みのY信号は、色差マトリクス回路18から出力される輝度信号YLとともに加算器23に入力される。加算器23は、これらの信号を加算して輝度信号YHを出力するようになっている。
【0036】
そして、加算器からの輝度信号YHは、色差マトリクス回路18からの色差信号(R−Y信号及びB−Y信号)とともに画像信号として表示手段である液晶ディスプレイ(LCD)24およびDRAM25に入力される。液晶ディスプレイ(LCD)24は、画像信号を表示可能な形態に処理する信号処理回路を有し、ここで信号処理された画像を表示するものである。DRAM25は、画像信号を一時的に記憶するメモリ等からなるカメラ内蔵記憶手段である。
【0037】
DRAM25には、画像信号に圧縮処理及び伸長処理を施す圧縮伸長回路26および画像信号を保存するメモリカード等の記録媒体27が接続されている。
【0038】
そして、上述した各構成部材は、制御手段であるCPU28に電気的に接続されている。CPU28は、電子的撮像装置全体を統括的に制御するものである。CPU28には、操作部29が接続されている。操作部29は、撮影時にAF動作を開始させると共に、露光動作を開始させるトリガー信号を発生させ得るトリガースイッチなど、複数のスイッチを有している。
【0039】
このように構成された電子的撮像装置において、撮影時に行われる動作について説明する。なお、ここでは撮影時に行われる作用のうち、本発明にかかわる部分のみを説明している。
【0040】
この場合、CCD2は、ピエゾ素子等からなる圧電素子を有する圧電ドライバ5により一定周期で振動され、この振動に同期して撮像出力を発生する。例えば、図2(a)に示す画素配置において、同図(b)に示す基準画素位置▲1▼に対して2/3画素間隔で、▲1▼→▲2▼→▲3▼→▲4▼→▲5▼→▲6▼→▲7▼→▲8▼→▲9▼の順番で、水平、垂直方向に、それぞれ3個所で合計9個所に画素ずらしを行い、それぞれの変位位置の撮像出力を発生する。これにより、同図(c)に示すようにR、G、Bの色配列を変えることなく、X、Y方向ともに3倍の画素数となり、その分解像度を向上させることができる。
【0041】
CCD2によって得られた画像信号は、CDS回路6において画像信号成分が抽出され、増幅器(AMP)7により出力信号レベルが所定のゲイン値に調整された後、A/D変換器8においてデジタル信号に変換される。そして、このデジタル信号に変換された画像信号は、フレームメモリ9に一時的に記憶される。
【0042】
フレームメモリ9は、画素ずらしにより取得される▲1▼〜▲9▼の9つの画像に相当するメモリを備えており、これらメモリに9つの画像を各別に記憶する。そして、CPU28の制御をもとに、これら9つの画像を1つの画像に再配置(画素ずらし)する。
【0043】
その後、再配置された画像の画像信号は、色分離回路11に出力される主信号と、γ補正回路12に出力される副信号とに分岐される。ここで、主信号については、色分離回路11以降の各回路において、所定の色補正処理等の信号処理が施される。一方、副信号については、γ補正回路12によってγ補正処理が施された後、Y信号生成部19において、輝度信号(Y信号)のみが抽出されて生成される。このY信号は、バンドパスフィルタ(BPF)20に入力される。バンドパスフィルタ(BPF)20は、Y信号からエッジ信号を生成して、これをコアリング部21に出力する。
【0044】
コアリング部21は、エッジ信号に対して所定のコアリング処理を施し、その後、これをエッジ強調度積算器22へ出力する。そして、このエッジ強調度積算器22においてエッジ強調処理がなされた後、エッジ強調処理済みのY信号は、加算器23において主信号の輝度信号YLに加算され、LCD24に出力され、画像の再生表示処理がなされる。
【0045】
ところで、バンドパスフィルタ(BPF)20によって施されるエッジ強調処理は、通常、4×4のBPFが用いられ、ナイキスト周波数付近を強調させている。つまり、図2(a)に示す画素ずらし前の画像信号については、図3(a)に示すような4×4のBPFを用いることにより、ナイキスト周波数付近をエッジ強調し、同時に、所定のMTF(コントラスト再現度)を確保できるようにしている。。
【0046】
一方、図2(c)に示す画素ずらし後の画像信号は、ナイキスト周波数を上げることにより、解像度の向上と折り返しによるモアレ低減が見込まれる。
【0047】
しかし、実際は、図4(a)に示すようにCCD2の開口部(光を電気信号に変換するPD(ホトダイオード))の形状が大きいような場合、同図(b)に示すように▲1▼〜▲9▼の画素ずらしにより、画素ずらし前の画素位置と重なり部分が生じ、この重なり部分により解像度の向上が難しく、画素ずらし後のナイキスト周波数までMTFを確保することができない。つまり、画素ずらし後の画像信号についてはCCD2の開口部の形状によって解像度の限界が決まってしまい、これ以降は、画素ずらしをしてもナイキスト周波数がシフトするだけになる。図5は、開口率85%のCCD2の場合の解像周波数に対するMTFを示すもので、画素ずらし前のナイキスト周波数F1については、問題なくMTFを確保することができる。しかし、画素ずらし後のナイキスト周波数F2については、既に解像度の限界に達しているため、これ以上の解像度の向上は見込めない。
【0048】
このような画素ずらし後の画像信号に対し、バンドパスフィルタ(BPF)20として4×4のBPFを適用すると、図6に示すように、かかる4×4のBPFの周波数特性Bは、図5で述べたCCD2のMTFに対して画素ずらし後のナイキスト周波数付近も強調するようになっているため、解像度の向上が見込めない余計な周波数域(図示ハッチングで示す部分)Dまで強調をしてしまうことになる。つまり、画素ずらし後のナイキスト周波数では、既に解像度の限界に達していて、これ以上の解像度の向上は見込めないにもかかわらず、余計な強調を行ってしまうこととなり、これによりノイズやエッジ強調による斜めギザ等を発生させてしまうという問題が生じる。
【0049】
そこで、この第1の実施の形態では、画素ずらし後については、4×4のBPFに代えて図3(b)に示すような6×6のBPFを用いる。この6×6のBPFの周波数特性は、図6中Cに示すように画素ずらし前のナイキスト周波数付近を含む解像度の限界点までの周波数範囲を強調するように設定されている。これにより、解像度の向上は見込めない余計な周波数域を強調することがなくなり、必要なエッジ強調のみを行うことができるので、ノイズやエッジ強調による斜めギサ等の発生を抑制することができる。
【0050】
このことから、画素ずらしをするしないによってエッジ強調のためのバンドパスフィルタ(BPF)20は、4×4のBPFと6×6のBPFを切換えて用いるようにする。
【0051】
この場合における撮影動作時のタイミングチャートは、図7に示すようになる。この場合、同図(a)に示す垂直同期信号VDは、フレーム周期で出力され、この垂直同期信号VDに基づいて同図(e)(f)に示す画素ずらし電圧x、yが制御され画素ずらしが行われる。また、この画素ずらしごとの同図(b)に示す露光により同図(g)に示す画像信号が読み出される。また、同図(d)に示すバンドパスフィルタ(BPF)20は、画像信号を画素ずらしする前の状態で撮影をする場合は、4×4のBPFが用いられ、画像信号を画素ずらした後は、4×4のBPFの代えて6×6のBPFが用いられる。つまりバンドパスフィルタ(BPF)20による輪郭強度周波数を可変制御して、所定のS/N比を確保した状態で、エッジ強調処理が実行される。
【0052】
このようにすれば、図2(a)に示す画素ずらし動作の前の画像信号については、4×4のBPFを用いることにより、ナイキスト周波数付近を強調させて問題なくMTFを確保することができる。また、図2(c)に示す画素ずらし動作の後の画像信号については、4×4のBPFに代えて6×6のBPFを用いることにより、解像度の向上は見込めない余計な周波数域を強調することがなくなり、必要なエッジ強調のみを行うことができる。これにより、画素ずらし前後のどちらの場合でも解像感を保ちながら、輪郭強調により強調される余計なノイズやエッジ強調による斜めギザ等の発生を抑制できる良質な画像を取得することができる。
【0053】
(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。
【0054】
この第2の実施の形態にかかる電子的撮像装置の概略構成は、第1の実施の形態で述べた図1と同様なので、同図を援用するものとする。
【0055】
この第2の実施の形態では、撮影光学系1や顕微鏡側の対物レンズなどの光学系を含むレンズ系のMTFの傾向によってバンドパスフィルタ(BPF)20により輪郭強度周波数を可変することを特徴としている。
【0056】
図8は、CCD2のMTFの一例を示すもので、このようなCCD2に対して図9(a)に示すように比較的MTFが高いレンズ系が用いられる場合は、これらCCD2とレンズ系を組み合わせた時のMTFは、図10(a)に示すようになり、解像周波数の全域に亘って高いMTFを得られる。
【0057】
このような場合は、バンドパスフィルタ(BPF)20として、図11(a)に示すような周波数特性を有する4×4のBPFを用いる。これにより、高域の周波数を含めて全域に亘って必要なエッジ強調を行うことができる。
【0058】
一方、図8に示すようなMTFのCCD2に対して図9(b)に示すように比較的MTFが低いレンズ系が用いられる場合は、これらCCD2とレンズ系を組み合わせた時のMTFは、図10(b)に示すようになり、特に、周波数の高い領域では、MTFが低くなり、解像度の向上がほとんど見込めない状態となる。
【0059】
このような場合は、バンドパスフィルタ(BPF)20では、4×4のBPFに代えて6×6のBPFを用いる。この6×6のBPFの周波数特性は、図11(b)に示すように解像度の向上は見込めない高い周波数域を除いた範囲の周波数を強調するように設定されている。
【0060】
これにより、解像度の向上は見込めない余計な周波数域を強調することがなくなり、必要なエッジ強調のみを行うことができるので、ノイズやエッジ強調によるギサ等の発生を抑制することができる。
【0061】
従って、このようにすれば、レンズ系のMTFに応じてバンドパスフィルタ(BPF)20において、4×4のBPFと6×6のBPFを切換えて用いるようにすることで、解像度の向上は見込めない余計な周波数域を強調することがなくなり、必要なエッジ強調のみを行うことができる。これにより、レンズ系のMTFに関係なく、解像感を保ちながら輪郭強調により強調される余計なノイズやエッジ強調によるギザ等の発生を抑制できる良質な画像を取得することができる。
【0062】
(第3の実施の形態)
次に、本発明の第3の実施の形態について説明する。
【0063】
この第3の実施の形態にかかる電子的撮像装置の概略構成は、第1の実施の形態で述べた図1と同様なので、同図を援用するものとする。
【0064】
上述した第1の実施の形態では、CCD2の出力信号から画像信号成分を抽出するCDS回路6の出力信号レベルを増幅器(AMP)7で所定のゲインに調整するようにしているが、この第3の実施の形態は、増幅器(AMP)7のゲイン値に応じてバンドパスフィルタ(BPF)20により輪郭強度周波数を可変することを特徴としている。
【0065】
図12は、増幅器(AMP)7のゲイン値とノイズ量の関係を示すもので、この図では、例えば取り込み画像が暗いため増幅器(AMP)7のゲイン値を上げていくと、最初から含まれるノイズの量も増加していく様子を示している。
【0066】
この状態から、増幅器(AMP)7において、ゲイン値が比較的小さくノイズ量もそれほど大きくないゲイン領域Aを使用している場合は、バンドパスフィルタ(BPF)20として、図13(a)に示すような周波数特性を有する4×4のBPFを用いる。
【0067】
すると、この場合は、図14に示すCCD2のMTFに対して、増幅器(AMP)7のゲイン領域Aと図13(a)に示す4×4のBPFを組合わせると、図15(a)に示すようなMTFが得られ、高い解像度の下で必要なエッジ強調を行うことができる。
【0068】
一方、増幅器(AMP)7において、ゲイン値が大きくなりノイズ量も大きくいゲイン領域Bを使用している場合は、バンドパスフィルタ(BPF)20では、4×4のBPFに代えて6×6のBPFを用いる。この6×6のBPFとして、図13(b)に示すような周波数特性を有するものを用いる。
【0069】
すると、この場合も、図14に示すCCD2のMTFに対して、増幅器(AMP)7のゲイン領域Bと図13(b)に示す6×6のBPFを組合わせると、図15(b)に示すようなMTFが得られ、低い解像度の下で必要なエッジ強調を行うことができる。
【0070】
従って、このようにすれば、増幅器(AMP)7でのゲイン値に応じてバンドパスフィルタ(BPF)20において、4×4のBPFと6×6のBPFを切換えて用いるようにすることで、ノイズ量の大きな領域で必要以上のエッジ強調をすることがなくなり、良質な画像を取得することができる。
【0071】
(第4の実施の形態)
次に、本発明の第4の実施の形態について説明する。
【0072】
図16は、本発明の顕微鏡用電子的撮像装置が適用される顕微鏡の概略構成を示すものである。なお、このような顕微鏡に接続される顕微鏡用電子的撮像装置の概略構成は、第1の実施の形態で述べた図1と同様なので、同図を援用するものとする。
【0073】
図16において、31は光源で、この光源31より発せられた光は、コレクタレンズ32で集光され、照明範囲を調整するためのFS(視野絞り)33、照明光の開口数を調整するAS(開口絞り)34、コンデンサレンズ35を介して試料36に照射される。また、試料36からの透過光は、対物レンズ37、結像レンズ38を介してCCD39により撮像される。この場合、CCD39は、図示しないポートに接続される顕微鏡用電子的撮像装置(図1参照)のCCD2に該当している。
【0074】
ところで、このように構成した顕微鏡では、AS(開口絞り)34を閉じたときと開いたときとで対物レンズ37のMTFが変化することが知られている。
【0075】
図17は、この状態を説明するもので、同図(A)はAS(開口絞り)34が閉の場合、同図(B)はAS(開口絞り)34が開の場合のそれぞれの対物レンズ37のMTFを示している。同図からも明らかなように、AS(開口絞り)34が閉の場合は、AS(開口絞り)34が開の場合と比べ、中域での解像度が高くなっている。一方、図示(B)のAS(開口絞り)34が開の場合は、図示(A)のAS(開口絞り)34が閉の場合と比べ、限界解像度が高域方向に大幅に延びている。
【0076】
これにより、AS(開口絞り)34が開の状態で取得される画像のMTFが図18(C)の状態にあった場合、AS(開口絞り)3を閉の状態に調整すると、これにより取得される画像のMTFは、同図(D)に示すように中域でのMTFが上がり過ぎて、著しく不自然な画像になってしまい、また、不必要な高域のMTF強調によりノイズの発生を招いてしまう。
【0077】
そこで、この第4の実施の形態では、AS(開口絞り)34の状態変化に応じて図1に示すエッジ強調度積算器22でのエッジ強調度を可変するようにしている。この場合、エッジ強調度積算器22は、CPU28からのゲイン値の制御指令により、図19(a)(b)に示すようにエッジ強調度のレベルを可変可能にしている。
【0078】
このような構成において、いま、AS(開口絞り)34が開の場合は、エッジ強調度積算器22において、同図(a)に示す通常のエッジ強調度が選択される。これにより、AS(開口絞り)34が開の状態で取得される画像のMTFは、図18(C)に示す状態が維持され、自然で良質な画像を取得することができる。一方、AS(開口絞り)34が閉の場合は、図18(D)に示すように中域での解像度が高くなるので、エッジ強調度積算器22において、同図(b)に示すレベルの小さなエッジ強調度が選択される。これにより、中域での解像度が高くなり過ぎるのが抑制され、AS(開口絞り)34が閉の状態で取得される画像のMTFも、図18(C)に示す状態となって、自然で良質な画像を取得することができる。
【0079】
一方、この第4の実施の形態では、AS(開口絞り)34の状態変化に応じてバンドパスフィルタ(BPF)20により輪郭強度周波数を可変するようにもしている。
【0080】
この場合、図17中(A)に示すAS(開口絞り)34が閉状態で、限界解像度が高域方向に延びていない場合は、バンドパスフィルタ(BPF)20として、図20(b)に示すような周波数特性を有する6×6のBPFを用いる。この6×6のBPFの周波数特性は、解像度の向上は見込めない高い周波数域を除いた範囲の周波数を強調するように設定されている。これにより、解像度の向上は見込めない余計な周波数域を強調することがなくなり、必要なエッジ強調のみを行うことができるので、ノイズの発生を抑制することができる。
【0081】
また、図17中(B)に示すAS(開口絞り)34が開状態で、限界解像度が高域方向に大幅に延びている場合は、バンドパスフィルタ(BPF)20として、6×6のBPFに代えて図20(a)に示すような周波数特性を有する4×4のBPFを用いる。これにより、高域の周波数を含めて全域に亘って必要なエッジ強調を行うことができる。
【0082】
従って、このようにすれば、AS(開口絞り)34の状態変化に応じて輪郭強調度および輪郭強度周波数を可変することにより、ノイズの発生を抑制した良質な画像を取得することができる。
【0083】
その他、本発明は、上記実施の形態に限定されるものでなく、実施段階では、その要旨を変更しない範囲で種々変形することが可能である。
【0084】
さらに、上記実施の形態には、種々の段階の発明が含まれており、開示されている複数の構成要件における適宜な組み合わせにより種々の発明が抽出できる。例えば、実施の形態に示されている全構成要件から幾つかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題を解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成が発明として抽出できる。
【0085】
【発明の効果】
以上述べたように本発明によれば、解像感を保ちながら輪郭強調により強調されるノイズや斜めギザを低減した良質な画像を得られる電子的撮像装置および顕微鏡用電子的撮像装置を提供できる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の電子的撮像装置の概略構成を示す図。
【図2】第1の実施の形態の画素ずらしを説明するための図。
【図3】第1の実施の形態に用いられる4×4、6×6のBPFを示す図。
【図4】第1の実施の形態に用いられるCCDの開口部を説明する図。
【図5】第1の実施の形態に用いられるCCDのMTFを説明する図。
【図6】第1の実施の形態の4×4と6×6のBPFを切換えた状態を説明する図。
【図7】第1の実施の形態の撮影動作時のタイミングチャートを示す図。
【図8】本発明の第2の実施の形態に用いられるCCDのMTFを説明する図。
【図9】第2の実施の形態に用いられるレンズ系のMTFを説明する図。
【図10】第2の実施の形態を説明するための図。
【図11】第2の実施の形態の4×4と6×6のBPFの周波数特性を示す図。
【図12】本発明の第3の実施の形態に用いられる増幅器(AMP)のゲイン値とノイズ量の関係を示す図。
【図13】第3の実施の形態の4×4と6×6のBPFの周波数特性を示す図。
【図14】第3の実施の形態に用いられるCCDのMTFを説明する図。
【図15】第3の実施の形態を説明するための図。
【図16】本発明の第4の実施の形態に適用される顕微鏡の概略構成を示す図。
【図17】第4の実施の形態の開口絞りの状態変化に応じたMTFを説明する図。
【図18】第4の実施の形態の開口絞りの状態変化に応じて取得される画像のMTFを説明する図。
【図19】第4の実施の形態に用いられるエッジ強調度積算器のエッジ強調度を説明する図。
【図20】第4の実施の形態の4×4と6×6のBPFの周波数特性を示す図。
【符号の説明】
1…撮影光学系
2…CCD
3…タイミングジェネレータ(TG)
4…シグナルジェネレータ(SG)4
5…圧電ドライバ
6…CDS回路
7…増幅器(AMP)
8…A/D変換器
9…フレームメモリ
10…メモリコントローラ
11…色分離回路
12…γ補正回路
13…WB(ホワイトバランス)回路
14…ホワイトクリップ
15…クリップレベル検出回路
16…色補正回路
17…γ補正回路
18…色差マトリクス回路
19…Y信号生成部
21…コアリング部
22…エッジ強調度積算器
23…加算器
24…LCD
25…DRAM
26…圧縮伸長回路
27…記録媒体
28…CPU
29…操作部
31…光源
32…コレクタレンズ
33…FS(視野絞り)
34…AS(開口絞り)
35…コンデンサレンズ
36…試料
37…対物レンズ
38…結像レンズ
39…CCD
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to an electronic imaging device for electronically recording an image captured by a solid-state imaging device or the like, and an electronic imaging device for a microscope.
[0002]
[Prior art]
2. Description of the Related Art In recent years, an image pickup device such as an image pickup device (CCD) captures an image of a subject formed by a photographing lens, and an electronic camera that electronically records an image signal obtained as an electric signal from the image capturing device. Electronic imaging devices have become popular.
[0003]
In such an electronic imaging apparatus, it is important to display a better image on the display means. For this reason, conventionally, appropriate signal processing is performed on an image signal output as an electric signal from the imaging means. Things have been done.
[0004]
Japanese Patent Laying-Open No. 11-112837 is based on such a concept, and variably controls the degree of contour emphasis by the contour emphasis means according to the gain value by the gain control means at the time of an imaging operation.
[0005]
On the other hand, recently, the subject image formed on the image sensor is optically shifted by a parallel plate provided in the optical path of the taking lens, or the taking lens is shifted in a plane perpendicular to the optical axis. A method of reading a plurality of images and synthesizing the plurality of images to obtain a high-definition still image has been put to practical use.
[0006]
In such a method, an appropriate signal processing is performed on an image signal in order to display a better image on the display means. For example, Japanese Patent Application Laid-Open No. H07-123424 discloses the method. As described above, there is known an image processing apparatus in which the edge enhancement strength is changed based on the relative positional relationship between the shifted images and the image quality is controlled so that a stable resolving power can be felt in any state.
[0007]
[Problems to be solved by the invention]
In Japanese Patent Application Laid-Open No. 07-123424, as the relative positional relationship of the shifted image becomes finer, the spatial frequency characteristic is shifted to the right in the figure as shown in FIG. That is, the spatial frequency characteristic is shifted in the direction of increasing the Nyquist frequency to increase the degree of edge enhancement, thereby trying to secure a stable resolution.
[0008]
However, when the edge enhancement degree is increased in this way, an unnecessary frequency is emphasized, and unnecessary noise and jaggedness due to edge enhancement are generated, which results in an unsightly image. The problem arises.
[0009]
The present invention has been made in view of the above circumstances, and provides an electronic imaging apparatus and an electronic imaging apparatus for a microscope that can obtain a high-quality image with reduced noise and jaggedness by contour enhancement while maintaining a sense of resolution. The purpose is to do.
[0010]
[Means for Solving the Problems]
The invention according to claim 1, an imaging device that captures a subject image, and a displacement unit that periodically displaces the imaging device and outputs an image signal of the subject image from the imaging device for each displacement position. Image processing means for rearranging the image signal of the image sensor for each displacement position by the displacement means and synthesizing the image, and contour enhancement means for performing contour signal processing on the image rearranged by the image processing means; Wherein the contour emphasizing frequency of the contour emphasizing means is made variable in accordance with before and after the displacement of the image pickup device by the displacing means.
[0011]
According to a second aspect of the present invention, in the first aspect of the present invention, the contour emphasizing means is capable of changing the contour emphasizing frequency before and after the cyclic displacement operation of the imaging device by the displacement means. Features.
[0012]
According to a third aspect of the present invention, in the first aspect of the present invention, there is provided a lens system for projecting the subject image onto the image sensor, and a contour emphasis frequency by the contour emphasizing means is set according to a type of the lens system. It is characterized by being variable.
[0013]
According to a fourth aspect of the present invention, in the first aspect of the present invention, there is provided a gain adjusting means for adjusting a signal level of an image output from the image sensor to a predetermined gain, and the gain adjusting means adjusts a gain value of the gain adjusting means. Thus, the contour emphasis frequency by the contour emphasizing means is made variable.
[0014]
According to a fifth aspect of the present invention, there is provided an aperture stop for adjusting a numerical aperture of illumination light and an objective lens, the microscope being connected to a microscope having at least one port for outputting an image from the objective lens, and outputting from the port. An electronic image pickup apparatus for a microscope that picks up an image captured by a microscope, comprising: a contour emphasis unit that enables a contour emphasis intensity for performing a contour signal processing on an image output from the port to be picked up; Is characterized in that the contour emphasis strength by the contour emphasis means is varied in accordance with the state change of.
[0015]
The invention according to claim 6 is connected to a microscope having an aperture stop for adjusting the numerical aperture of illumination light and an objective lens, and having at least one port for outputting an image from the objective lens, and outputting the image from the port. An electronic image pickup apparatus for a microscope that picks up an image obtained by a microscope, comprising: a contour emphasizing means capable of changing a contour emphasizing frequency for performing contour signal processing on an image picked up from the port. Is characterized in that the contour emphasizing frequency by the contour emphasizing means is varied in accordance with the state change.
[0016]
The invention according to claim 7 is connected to a microscope having an aperture stop for adjusting the numerical aperture of illumination light and an objective lens, and having at least one port for outputting an image from the objective lens, and outputting from the port. In an electronic imaging device for a microscope that captures an image of a subject, an image sensor that captures a subject image, and the image sensor is periodically displaced, and an image signal of the subject image is output from the image sensor for each displacement position. Displacing means, image processing means for rearranging an image signal of the image sensor for each displacement position by the displacing means to synthesize an image, and performing contour signal processing on the image rearranged by the image processing means. Contour emphasizing means that makes the contour emphasizing frequency to be applied variable, and wherein the contour emphasizing frequency by the contour emphasizing means is varied according to a change in the state of the aperture stop. To have.
[0017]
As a result, according to the present invention, while maintaining the sense of resolution both before and after the displacement of the imaging device by the displacement means, it is possible to suppress the occurrence of unnecessary noise emphasized by contour emphasis and oblique jaggies due to edge emphasis. it can.
[0018]
Further, according to the present invention, regardless of the MTF of the lens system, it is possible to suppress the occurrence of unnecessary noise emphasized by contour emphasis and the occurrence of jaggedness due to edge emphasis while maintaining a sense of resolution.
[0019]
Further, according to the present invention, unnecessary edge enhancement is not performed in a region with a large amount of noise, and a high-quality image can be obtained.
[0020]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
[0021]
(First Embodiment)
FIG. 1 shows a schematic configuration of an electronic imaging apparatus to which the first embodiment of the present invention is applied. In FIG. 1, reference numeral 1 denotes a photographing optical system, which includes a photographing lens, a driving motor for driving the lens, a driving mechanism, and the like. An optical subject image is formed on a solid-state imaging device (hereinafter simply referred to as a CCD) 2 such as a CCD via the photographing optical system 1.
[0022]
The CCD 2 photoelectrically converts the formed optical subject image to generate an image signal of the subject image.
[0023]
In this case, a timing generator (TG) 3 and a signal generator (SG) 4 for generating a synchronization signal such as a drive pulse are connected to the CCD 2 and are driven by a predetermined timing signal. Further, the CCD 2 has an electronic shutter function (means) (not shown) so that the exposure time can be controlled.
[0024]
A piezoelectric driver 5 is connected to the CCD 2 as displacement means. The piezoelectric driver 5 has a piezoelectric element such as a piezo element, and the CCD 2 is periodically displaced by the piezoelectric element to output an image signal in which the subject image at each displacement position is shifted by a pixel. ing.
[0025]
The CCD 2 is connected to a CDS circuit (correlated double sampling circuit; Correlated Double Sampling). The CDS circuit extracts an image signal component from an output signal of the CCD 2.
[0026]
An amplifier (AMP) 7 is connected to the CDS circuit 6 as gain adjustment means. The amplifier (AMP) 7 is composed of gain control means including an AGC circuit for adjusting the output signal level from the CDS circuit 6 to a predetermined gain value.
[0027]
The amplifier (AMP) 7 is connected to a frame memory 9 as an image memory via an A / D converter 8. The A / D converter 8 converts an analog image signal output from the amplifier (AMP) 7 into a digital image signal in synchronization with a timing signal of the timing generator (TG) 3. The frame memory 9 stores a digital signal output from the A / D converter 8. The reading and writing of data in the frame memory 9 is controlled by the memory controller 10. The frame memory 9 includes memories corresponding to a plurality of images obtained by pixel shifting, and stores each image separately in these memories. Then, based on the control of the CPU 28 described later, the plurality of images are rearranged (pixel-shifted) into one image (image processing means).
[0028]
A color separation circuit 11 and a γ correction circuit 12 are connected to the frame memory 9. The color separation circuit 11 separates an image signal read from the frame memory 9 into three primary color signals of an RL signal, a GL signal, and a BL signal. The γ correction circuit 12 performs gamma (γ) correction processing of the color signal.
[0029]
A WB (white balance) circuit 13 for adjusting the white balance of the image signal is connected to the color separation circuit 11. The WB (white balance) circuit 13 is connected to a color correction circuit 16 via a white clip 14 and a clip level detection circuit 15. The color correction circuit 16 performs color correction for improving color reproducibility.
[0030]
A color difference matrix circuit 18 is connected to the color correction circuit 16 via a color γ correction circuit 17. The color γ correction circuit 17 performs γ (γ) correction processing of the color signal corrected by the color correction circuit 16. The color difference matrix circuit 18 converts each of the R, G, and B color signals into a luminance signal YL and two color difference signals (RY signal and BY signal) to adjust hue, color saturation, and the like. is there.
[0031]
On the other hand, a Y signal generation unit 19 is connected to the γ correction circuit 12. The Y signal generation unit 19 extracts and generates only a luminance signal (Y signal) from the image signal subjected to the γ correction processing by the γ correction circuit 12.
[0032]
A band-pass filter (BPF) 20 is connected to the Y signal generator 19. The band pass filter (BPF) 20 forms a part of the contour emphasis means, and removes low frequency components from the Y signal to extract a contour signal (hereinafter, referred to as an edge signal).
[0033]
A coring unit 21 is connected to the band pass filter (BPF) 20. The coring unit 21 also forms part of the contour emphasizing means, and performs coring processing for suppressing or removing noise components of the edge signal generated by the band-pass filter (BPF) 20 and improving the S / N ratio. It is something to give.
[0034]
The coring unit 21 is connected to an edge enhancement degree accumulator 22. The edge enhancement degree integrator 22 performs an edge enhancement process by multiplying the Y signal subjected to the coring process by the coring unit 21 by a predetermined coefficient, and constitutes a part of a contour enhancement unit. .
[0035]
The edge enhanced Y signal output from the edge enhancement degree integrator 22 is input to the adder 23 together with the luminance signal YL output from the color difference matrix circuit 18. The adder 23 adds these signals and outputs a luminance signal YH.
[0036]
Then, the luminance signal YH from the adder is input to the liquid crystal display (LCD) 24 and the DRAM 25 as display means together with the color difference signals (RY signal and BY signal) from the color difference matrix circuit 18 as image signals. . The liquid crystal display (LCD) 24 has a signal processing circuit for processing image signals into a displayable form, and displays an image subjected to signal processing here. The DRAM 25 is a camera built-in storage unit including a memory for temporarily storing image signals.
[0037]
The DRAM 25 is connected to a compression / expansion circuit 26 for performing compression processing and expansion processing on the image signal and a recording medium 27 such as a memory card for storing the image signal.
[0038]
Each of the above-described components is electrically connected to the CPU 28 as a control unit. The CPU 28 controls the entire electronic imaging apparatus. An operation unit 29 is connected to the CPU 28. The operation unit 29 has a plurality of switches such as a trigger switch that can start an AF operation at the time of shooting and generate a trigger signal to start an exposure operation.
[0039]
An operation performed at the time of photographing in the electronic imaging device configured as described above will be described. Here, only the part related to the present invention among the operations performed at the time of photographing is described.
[0040]
In this case, the CCD 2 is vibrated at a constant period by a piezoelectric driver 5 having a piezoelectric element such as a piezo element, and generates an image output in synchronization with the vibration. For example, in the pixel arrangement shown in FIG. 2 (a), (1) → (2) → (3) → (4) at a 2/3 pixel interval from the reference pixel position (1) shown in FIG. 2 (b). In the order of ▼ → ▲ 5 ▼ → ▲ 6 ▼ → ▲ 7 ▼ → ▲ 8 ▼ → ▲ 9 ▼, three pixels are shifted in each of the horizontal and vertical directions, and a total of nine pixels are shifted, and imaging of each displacement position Generate output. As a result, the number of pixels in the X and Y directions is tripled without changing the R, G, and B color arrangements as shown in FIG.
[0041]
From the image signal obtained by the CCD 2, an image signal component is extracted by a CDS circuit 6, and an output signal level is adjusted to a predetermined gain value by an amplifier (AMP) 7, and then converted to a digital signal by an A / D converter 8. Is converted. Then, the image signal converted into the digital signal is temporarily stored in the frame memory 9.
[0042]
The frame memory 9 includes memories corresponding to the nine images (1) to (9) obtained by shifting the pixels, and stores the nine images individually in these memories. Then, under the control of the CPU 28, these nine images are rearranged (pixel-shifted) into one image.
[0043]
Thereafter, the image signal of the rearranged image is split into a main signal output to the color separation circuit 11 and a sub signal output to the γ correction circuit 12. Here, the main signal is subjected to signal processing such as predetermined color correction processing in each circuit after the color separation circuit 11. On the other hand, as for the sub signal, after the γ correction processing is performed by the γ correction circuit 12, the Y signal generation unit 19 extracts and generates only the luminance signal (Y signal). This Y signal is input to a band pass filter (BPF) 20. The band-pass filter (BPF) 20 generates an edge signal from the Y signal and outputs this to the coring unit 21.
[0044]
The coring unit 21 performs a predetermined coring process on the edge signal, and then outputs the result to the edge emphasis degree integrator 22. Then, after the edge enhancement processing is performed in the edge enhancement degree integrator 22, the Y signal subjected to the edge enhancement processing is added to the luminance signal YL of the main signal in the adder 23, output to the LCD 24, and reproduced and displayed. Processing is performed.
[0045]
In the edge enhancement processing performed by the band-pass filter (BPF) 20, a 4 × 4 BPF is usually used to enhance the vicinity of the Nyquist frequency. That is, for the image signal before the pixel shift shown in FIG. 2A, the edge is enhanced near the Nyquist frequency by using a 4 × 4 BPF as shown in FIG. (Contrast reproducibility). .
[0046]
On the other hand, in the image signal after the pixel shift shown in FIG. 2C, by increasing the Nyquist frequency, an improvement in resolution and a reduction in moire due to aliasing are expected.
[0047]
However, in practice, as shown in FIG. 4A, when the opening of the CCD 2 (PD (photodiode) for converting light into an electric signal) has a large shape as shown in FIG. Due to the pixel shift of (9), an overlapping portion occurs with the pixel position before the pixel shifting, and it is difficult to improve the resolution due to the overlapping portion, and it is impossible to secure the MTF up to the Nyquist frequency after the pixel shifting. That is, the resolution limit of the image signal after the pixel shift is determined by the shape of the opening of the CCD 2, and thereafter, even if the pixel is shifted, the Nyquist frequency only shifts. FIG. 5 shows the MTF with respect to the resolution frequency in the case of the CCD 2 having an aperture ratio of 85%, and the MTF can be secured without any problem for the Nyquist frequency F1 before the pixel shift. However, since the resolution of the Nyquist frequency F2 after the pixel shift has already reached the limit of the resolution, further improvement of the resolution cannot be expected.
[0048]
When a 4 × 4 BPF is applied as a band-pass filter (BPF) 20 to the image signal after such pixel shift, as shown in FIG. 6, the frequency characteristic B of the 4 × 4 BPF is as shown in FIG. Since the vicinity of the Nyquist frequency after the pixel shift is emphasized with respect to the MTF of the CCD 2 described in the above section, the emphasis is made to an unnecessary frequency range (a portion indicated by hatching) D in which no improvement in resolution can be expected. Will be. In other words, at the Nyquist frequency after pixel shift, the resolution limit has already been reached, and although further improvement in resolution cannot be expected, extra emphasis will be performed, thereby causing noise and edge emphasis. There is a problem that an oblique jaw or the like is generated.
[0049]
Therefore, in the first embodiment, a 6 × 6 BPF as shown in FIG. 3B is used instead of the 4 × 4 BPF after the pixel is shifted. The frequency characteristic of the 6 × 6 BPF is set so as to emphasize the frequency range up to the resolution limit including the vicinity of the Nyquist frequency before the pixel shift, as shown by C in FIG. As a result, it is not necessary to emphasize an unnecessary frequency range in which an improvement in resolution cannot be expected, and only necessary edge enhancement can be performed. Therefore, it is possible to suppress the generation of noise and oblique jaw due to edge enhancement.
[0050]
For this reason, the band-pass filter (BPF) 20 for edge enhancement is used by switching between 4 × 4 BPF and 6 × 6 BPF without shifting pixels.
[0051]
A timing chart at the time of the photographing operation in this case is as shown in FIG. In this case, the vertical synchronization signal VD shown in FIG. 11A is output at a frame period, and the pixel shift voltages x and y shown in FIGS. 11E and 11F are controlled based on the vertical synchronization signal VD. A shift is performed. The image signal shown in FIG. 9G is read out by the exposure shown in FIG. 9B for each pixel shift. In the case of photographing the image signal before shifting the pixel, the bandpass filter (BPF) 20 shown in FIG. 4D uses a 4 × 4 BPF. Uses a 6 × 6 BPF instead of a 4 × 4 BPF. That is, the edge emphasis processing is executed in a state where the contour intensity frequency is variably controlled by the bandpass filter (BPF) 20 and a predetermined S / N ratio is secured.
[0052]
In this way, for the image signal before the pixel shifting operation shown in FIG. 2A, by using the 4 × 4 BPF, the vicinity of the Nyquist frequency can be enhanced and the MTF can be secured without any problem. . In addition, for the image signal after the pixel shifting operation shown in FIG. 2C, by using a 6 × 6 BPF instead of a 4 × 4 BPF, an unnecessary frequency range where no improvement in resolution can be expected is emphasized. And only necessary edge enhancement can be performed. As a result, it is possible to obtain a high-quality image that can suppress the occurrence of unnecessary noise emphasized by contour emphasis and the occurrence of oblique jaggedness due to edge emphasis, while maintaining the resolution in both cases before and after pixel shift.
[0053]
(Second embodiment)
Next, a second embodiment of the present invention will be described.
[0054]
The schematic configuration of the electronic imaging apparatus according to the second embodiment is the same as that of FIG. 1 described in the first embodiment, and therefore, the drawing is used.
[0055]
The second embodiment is characterized in that the contour intensity frequency is varied by a band-pass filter (BPF) 20 according to the tendency of the MTF of a lens system including an optical system such as the photographing optical system 1 and an objective lens on the microscope side. I have.
[0056]
FIG. 8 shows an example of the MTF of the CCD 2. When a lens system having a relatively high MTF is used for such a CCD 2 as shown in FIG. 9A, the CCD 2 and the lens system are combined. The MTF at this time is as shown in FIG. 10A, and a high MTF can be obtained over the entire range of the resolution frequency.
[0057]
In such a case, a 4 × 4 BPF having a frequency characteristic as shown in FIG. 11A is used as the band-pass filter (BPF) 20. As a result, necessary edge enhancement can be performed over the entire frequency range including the high frequency range.
[0058]
On the other hand, when a lens system having a relatively low MTF as shown in FIG. 9B is used for the MTF CCD 2 as shown in FIG. 8, the MTF when these CCD 2 and the lens system are combined is as shown in FIG. As shown in FIG. 10 (b), especially in a high frequency region, the MTF becomes low, and the improvement of the resolution is hardly expected.
[0059]
In such a case, the bandpass filter (BPF) 20 uses a 6 × 6 BPF instead of a 4 × 4 BPF. The frequency characteristic of the 6 × 6 BPF is set so as to emphasize frequencies in a range excluding a high frequency range where improvement in resolution cannot be expected as shown in FIG. 11B.
[0060]
As a result, it is not necessary to emphasize an unnecessary frequency range where improvement in resolution cannot be expected, and only necessary edge enhancement can be performed. Therefore, it is possible to suppress occurrence of noise and jaggedness due to edge enhancement.
[0061]
Therefore, in this case, the resolution is expected to be improved by switching between the 4 × 4 BPF and the 6 × 6 BPF in the band-pass filter (BPF) 20 according to the MTF of the lens system. There is no need to emphasize unnecessary frequency ranges, and only necessary edge enhancement can be performed. Thereby, regardless of the MTF of the lens system, it is possible to obtain a high-quality image that can suppress the occurrence of unnecessary noise emphasized by contour emphasis or the occurrence of jaggedness due to edge emphasis while maintaining a sense of resolution.
[0062]
(Third embodiment)
Next, a third embodiment of the present invention will be described.
[0063]
The schematic configuration of the electronic imaging apparatus according to the third embodiment is the same as that of FIG. 1 described in the first embodiment, and therefore, the drawing is used.
[0064]
In the above-described first embodiment, the output signal level of the CDS circuit 6 for extracting an image signal component from the output signal of the CCD 2 is adjusted to a predetermined gain by the amplifier (AMP) 7, but the third embodiment is not limited to this. The embodiment is characterized in that the contour intensity frequency is varied by a band-pass filter (BPF) 20 according to the gain value of the amplifier (AMP) 7.
[0065]
FIG. 12 shows the relationship between the gain value of the amplifier (AMP) 7 and the noise amount. In this figure, for example, if the gain value of the amplifier (AMP) 7 is increased because the captured image is dark, it is included from the beginning. This shows how the amount of noise increases.
[0066]
From this state, when the amplifier (AMP) 7 uses the gain region A in which the gain value is relatively small and the noise amount is not so large, the bandpass filter (BPF) 20 is shown in FIG. A 4 × 4 BPF having such frequency characteristics is used.
[0067]
Then, in this case, when the gain area A of the amplifier (AMP) 7 and the 4 × 4 BPF shown in FIG. 13A are combined with the MTF of the CCD 2 shown in FIG. An MTF as shown is obtained, and necessary edge enhancement can be performed under high resolution.
[0068]
On the other hand, when the amplifier (AMP) 7 uses the gain region B where the gain value is large and the noise amount is large, the band-pass filter (BPF) 20 replaces the 4 × 4 BPF with 6 × 6. Is used. As this 6 × 6 BPF, one having a frequency characteristic as shown in FIG. 13B is used.
[0069]
Then, also in this case, when the gain area B of the amplifier (AMP) 7 and the 6 × 6 BPF shown in FIG. 13B are combined with the MTF of the CCD 2 shown in FIG. 14, FIG. The MTF as shown is obtained, and necessary edge enhancement can be performed at a low resolution.
[0070]
Therefore, in this way, the band-pass filter (BPF) 20 switches between 4 × 4 BPF and 6 × 6 BPF in accordance with the gain value of the amplifier (AMP) 7 and uses it. This eliminates unnecessary edge enhancement in a region with a large amount of noise, thereby obtaining a high-quality image.
[0071]
(Fourth embodiment)
Next, a fourth embodiment of the present invention will be described.
[0072]
FIG. 16 shows a schematic configuration of a microscope to which the electronic imaging device for a microscope of the present invention is applied. Note that the schematic configuration of the electronic imaging device for a microscope connected to such a microscope is the same as that of FIG. 1 described in the first embodiment, so that FIG.
[0073]
In FIG. 16, reference numeral 31 denotes a light source. Light emitted from the light source 31 is collected by a collector lens 32, an FS (field stop) 33 for adjusting an illumination range, and an AS for adjusting a numerical aperture of illumination light. The light is radiated to the sample 36 via an (aperture stop) 34 and a condenser lens 35. The transmitted light from the sample 36 is imaged by the CCD 39 via the objective lens 37 and the imaging lens 38. In this case, the CCD 39 corresponds to the CCD 2 of the electronic imaging device for a microscope (see FIG. 1) connected to a port (not shown).
[0074]
By the way, in the microscope configured in this way, it is known that the MTF of the objective lens 37 changes between when the AS (aperture stop) 34 is closed and when it is opened.
[0075]
17A and 17B illustrate this state. FIG. 17A shows the objective lens when the AS (aperture stop) 34 is closed, and FIG. 17B shows the objective lens when the AS (aperture stop) 34 is open. 37 shows the MTF. As can be seen from the figure, when the AS (aperture stop) 34 is closed, the resolution in the middle range is higher than when the AS (aperture stop) 34 is open. On the other hand, when the AS (aperture stop) 34 shown in the figure (B) is open, the limit resolution greatly extends in the high frequency direction as compared with the case where the AS (aperture stop) 34 shown in the figure (A) is closed.
[0076]
Thus, when the MTF of an image acquired with the AS (aperture stop) 34 in the open state is in the state of FIG. 18C, the AS (aperture stop) 3 is adjusted to the closed state, and the image is acquired. As shown in FIG. 3D, the MTF of the image to be processed is excessively high in the MTF in the middle band, resulting in a significantly unnatural image. In addition, noise is generated due to unnecessary high-frequency MTF enhancement. Will be invited.
[0077]
Therefore, in the fourth embodiment, the edge enhancement degree in the edge enhancement degree integrator 22 shown in FIG. 1 is changed according to the state change of the AS (aperture stop) 34. In this case, the edge emphasis degree integrator 22 can change the level of the edge emphasis degree as shown in FIGS. 19A and 19B according to a gain value control command from the CPU 28.
[0078]
In such a configuration, when the AS (aperture stop) 34 is open, the edge emphasis degree integrator 22 selects the normal edge emphasis degree shown in FIG. As a result, the MTF of an image acquired when the AS (aperture stop) 34 is open is maintained at the state shown in FIG. 18C, and a natural and high-quality image can be acquired. On the other hand, when the AS (aperture stop) 34 is closed, the resolution in the middle range is increased as shown in FIG. 18D, so that the edge emphasis degree integrator 22 has the level shown in FIG. A small edge enhancement is selected. As a result, the resolution in the middle range is prevented from becoming too high, and the MTF of an image obtained with the AS (aperture stop) 34 closed is also in the state shown in FIG. High quality images can be obtained.
[0079]
On the other hand, in the fourth embodiment, the contour intensity frequency is varied by the band-pass filter (BPF) 20 according to a change in the state of the AS (aperture stop) 34.
[0080]
In this case, when the AS (aperture stop) 34 shown in FIG. 17A is in the closed state and the limit resolution does not extend in the high frequency direction, the bandpass filter (BPF) 20 is used as shown in FIG. A 6 × 6 BPF having the frequency characteristics shown is used. The frequency characteristics of the 6 × 6 BPF are set so as to emphasize frequencies in a range excluding a high frequency range where improvement in resolution is not expected. This eliminates the need for emphasizing unnecessary frequency regions in which the resolution cannot be improved, and allows only necessary edge emphasis to be performed, thereby suppressing the occurrence of noise.
[0081]
In the case where the AS (aperture stop) 34 shown in FIG. 17B is in the open state and the limit resolution is greatly extended in the high frequency direction, a 6 × 6 BPF is used as the bandpass filter (BPF) 20. Instead, a 4 × 4 BPF having a frequency characteristic as shown in FIG. As a result, necessary edge enhancement can be performed over the entire frequency range including the high frequency range.
[0082]
Therefore, in this way, by changing the contour emphasis degree and the contour strength frequency according to the change in the state of the AS (aperture stop) 34, it is possible to obtain a high-quality image in which the occurrence of noise is suppressed.
[0083]
In addition, the present invention is not limited to the above-described embodiment, and can be variously modified in an implementation stage without departing from the spirit of the invention.
[0084]
Furthermore, the above embodiments include inventions at various stages, and various inventions can be extracted by appropriately combining a plurality of disclosed constituent features. For example, even if some components are deleted from all the components shown in the embodiments, the problem described in the column of the problem to be solved by the invention can be solved, and the problem described in the column of the effect of the invention can be solved. In the case where the effect described above is obtained, a configuration from which this configuration requirement is deleted can be extracted as an invention.
[0085]
【The invention's effect】
As described above, according to the present invention, it is possible to provide an electronic image pickup apparatus and an electronic image pickup apparatus for a microscope that can obtain a high-quality image in which noise emphasized by contour emphasis and diagonal jaws are reduced while maintaining a sense of resolution. .
[Brief description of the drawings]
FIG. 1 is a diagram showing a schematic configuration of an electronic imaging device according to a first embodiment of the present invention.
FIG. 2 is a diagram for explaining pixel shifting according to the first embodiment;
FIG. 3 is a diagram showing 4 × 4 and 6 × 6 BPFs used in the first embodiment;
FIG. 4 is a diagram illustrating an opening of a CCD used in the first embodiment.
FIG. 5 is a diagram illustrating an MTF of a CCD used in the first embodiment.
FIG. 6 is a diagram illustrating a state in which 4 × 4 and 6 × 6 BPFs of the first embodiment are switched.
FIG. 7 is a diagram showing a timing chart during a shooting operation according to the first embodiment.
FIG. 8 is a diagram for explaining an MTF of a CCD used in a second embodiment of the present invention.
FIG. 9 is a diagram illustrating an MTF of a lens system used in the second embodiment.
FIG. 10 is a diagram illustrating a second embodiment.
FIG. 11 is a diagram illustrating frequency characteristics of 4 × 4 and 6 × 6 BPFs according to the second embodiment;
FIG. 12 is a diagram illustrating a relationship between a gain value and an amount of noise of an amplifier (AMP) used in a third embodiment of the present invention.
FIG. 13 is a diagram illustrating frequency characteristics of 4 × 4 and 6 × 6 BPFs according to the third embodiment;
FIG. 14 is a diagram illustrating an MTF of a CCD used in the third embodiment.
FIG. 15 is a diagram illustrating a third embodiment.
FIG. 16 is a diagram showing a schematic configuration of a microscope applied to a fourth embodiment of the present invention.
FIG. 17 is a diagram illustrating an MTF according to a state change of an aperture stop according to a fourth embodiment.
FIG. 18 is a diagram illustrating an MTF of an image obtained according to a change in the state of the aperture stop according to the fourth embodiment.
FIG. 19 is a diagram illustrating an edge emphasis degree of an edge emphasis degree accumulator used in the fourth embodiment.
FIG. 20 is a diagram illustrating frequency characteristics of 4 × 4 and 6 × 6 BPFs according to the fourth embodiment;
[Explanation of symbols]
1. Photographing optical system 2. CCD
3. Timing generator (TG)
4 ... Signal generator (SG) 4
5 Piezoelectric driver 6 CDS circuit 7 Amplifier (AMP)
8 A / D converter 9 Frame memory 10 Memory controller 11 Color separation circuit 12 γ correction circuit 13 WB (white balance) circuit 14 White clip 15 Clip level detection circuit 16 Color correction circuit 17 Gamma correction circuit 18 Color difference matrix circuit 19 Y signal generation unit 21 Coring unit 22 Edge emphasis degree accumulator 23 Adder 24 LCD
25 ... DRAM
26 compression / expansion circuit 27 recording medium 28 CPU
29 ... operation unit 31 ... light source 32 ... collector lens 33 ... FS (field stop)
34 AS (Aperture stop)
35: condenser lens 36: sample 37: objective lens 38: imaging lens 39: CCD

Claims (7)

被写体像を撮像する撮像素子と、
前記撮像素子を周期的に変位させ、それぞれの変位位置ごとに前記撮像素子より前記被写体像の画像信号を出力させる変位手段と、
前記変位手段による各変位位置ごとの前記撮像素子の画像信号を再配置して画像合成する画像処理手段と、
前記画像処理手段より再配置された画像に対して輪郭信号処理を施す輪郭強調周波数を可変可能にした輪郭強調手段と
を具備したことをことを特徴とする電子的撮像装置。
An image sensor that captures a subject image;
Displacement means for periodically displacing the image sensor, and outputting an image signal of the subject image from the image sensor for each displacement position,
Image processing means for rearranging the image signal of the image sensor for each displacement position by the displacement means and performing image synthesis,
An electronic image pickup apparatus, comprising: a contour emphasis means for making a contour emphasis frequency for performing contour signal processing on an image rearranged by the image processing means variable.
前記輪郭強調手段は、前記変位手段による前記撮像素子の周期的変位動作の前と後で前記輪郭強調周波数を可変可能にしたことを特徴とする請求項1記載の電子的撮像装置。2. The electronic imaging apparatus according to claim 1, wherein the contour emphasizing means is capable of changing the contour emphasizing frequency before and after the cyclic displacement operation of the imaging device by the displacement means. 前記撮像素子に対し前記被写体像を投射させるレンズ系を有し、
前記レンズ系の種類に応じて前記輪郭強調手段による輪郭強調周波数を可変可能にしたことを特徴とする請求項1記載の電子的撮像装置。
A lens system that projects the subject image onto the image sensor,
2. An electronic image pickup apparatus according to claim 1, wherein an outline emphasis frequency by said outline emphasis means is made variable in accordance with a type of said lens system.
前記撮像素子より出力される画像の信号レベルを所定のゲインに調整するゲイン調整手段を有し、
前記ゲイン調整手段のゲイン値に応じて前記輪郭強調手段による輪郭強調周波数を可変可能にしたことを特徴とする請求項1記載の電子的撮像装置。
A gain adjusting unit that adjusts a signal level of an image output from the image sensor to a predetermined gain,
2. The electronic imaging apparatus according to claim 1, wherein an outline emphasis frequency by said outline emphasis means is made variable according to a gain value of said gain adjustment means.
照明光の開口数を調整する開口絞りと対物レンズを有し、前記対物レンズからの像を出力するポートを少なくとも1つ有する顕微鏡に接続され、前記ポートから出力された像を撮像する顕微鏡用電子的撮像装置において、
前記ポートから出力され撮像された画像に対して輪郭信号処理を施す輪郭強調強度を可変可能にした輪郭強調手段と、を具備し、
前記開口絞りの状態変化に応じて輪郭強調手段による輪郭強調強度を可変することを特徴とする顕微鏡用電子的撮像装置。
An electron microscope for connecting to a microscope having an aperture stop for adjusting the numerical aperture of illumination light and an objective lens and having at least one port for outputting an image from the objective lens, and capturing an image output from the port. In a typical imaging device,
Comprising a contour emphasis means capable of changing a contour emphasis strength for performing contour signal processing on an image captured and output from the port,
An electronic image pickup apparatus for a microscope, wherein an intensity of an outline emphasized by an outline enhancer is varied according to a change in a state of the aperture stop.
照明光の開口数を調整する開口絞りと対物レンズを有し、前記対物レンズからの像を出力するポートを少なくとも1つ有する顕微鏡に接続され、前記ポートから出力された像を撮像する顕微鏡用電子的撮像装置において、
前記ポートから出力され撮像された画像に対して輪郭信号処理を施す輪郭強調周波数を可変可能にした輪郭強調手段と、を具備し、
前記開口絞りの状態変化に応じて輪郭強調手段による輪郭強調周波数を可変することを特徴とする顕微鏡用電子的撮像装置。
An electron microscope for connecting to a microscope having an aperture stop for adjusting the numerical aperture of illumination light and an objective lens and having at least one port for outputting an image from the objective lens, and capturing an image output from the port. In a typical imaging device,
Comprising a contour emphasis means capable of changing a contour emphasis frequency for performing contour signal processing on an image captured and output from the port,
An electronic imaging apparatus for a microscope, wherein an outline emphasis frequency by an outline emphasis means is varied according to a change in the state of the aperture stop.
照明光の開口数を調整する開口絞りと対物レンズを有し、前記対物レンズからの像を出力するポートを少なくとも1つ有する顕微鏡に接続され、前記ポートから出力された像を撮像する顕微鏡用電子的撮像装置において、
被写体像を撮像する撮像素子と、
前記撮像素子を周期的に変位させ、それぞれの変位位置ごとに前記撮像素子より前記被写体像の画像信号を出力させる変位手段と、
前記変位手段による各変位位置ごとの前記撮像素子の画像信号を再配置して画像合成する画像処理手段と、
前記画像処理手段より再配置された画像に対して輪郭信号処理を施す輪郭強調周波数を可変可能にした輪郭強調手段と、を具備し
前記開口絞りの状態変化に応じて輪郭強調手段による輪郭強調周波数を可変することを特徴とする顕微鏡用電子的撮像装置。
An electron microscope for connecting to a microscope having an aperture stop for adjusting the numerical aperture of illumination light and an objective lens and having at least one port for outputting an image from the objective lens, and capturing an image output from the port. In a typical imaging device,
An image sensor that captures a subject image;
Displacement means for periodically displacing the image sensor, and outputting an image signal of the subject image from the image sensor for each displacement position,
Image processing means for rearranging the image signal of the image sensor for each displacement position by the displacement means and synthesizing the image,
Contour emphasizing means for making a contour emphasizing frequency for performing contour signal processing on an image rearranged by the image processing means variable, and the contour emphasizing frequency by the contour emphasizing means according to a change in the state of the aperture stop. An electronic imaging device for a microscope, wherein the electronic imaging device is configured to change the value of the electronic image.
JP2002200208A 2002-07-09 2002-07-09 Electronic imaging apparatus and electronic imaging apparatus for microscope Expired - Lifetime JP4309622B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002200208A JP4309622B2 (en) 2002-07-09 2002-07-09 Electronic imaging apparatus and electronic imaging apparatus for microscope

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002200208A JP4309622B2 (en) 2002-07-09 2002-07-09 Electronic imaging apparatus and electronic imaging apparatus for microscope

Publications (2)

Publication Number Publication Date
JP2004048172A true JP2004048172A (en) 2004-02-12
JP4309622B2 JP4309622B2 (en) 2009-08-05

Family

ID=31707133

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002200208A Expired - Lifetime JP4309622B2 (en) 2002-07-09 2002-07-09 Electronic imaging apparatus and electronic imaging apparatus for microscope

Country Status (1)

Country Link
JP (1) JP4309622B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008136289A1 (en) * 2007-04-27 2008-11-13 Sharp Kabushiki Kaisha Image processing device, method, image display device and method
JP2012230401A (en) * 2012-06-26 2012-11-22 Keyence Corp Magnification observation device, magnification observation method and magnification observation program
US8319898B2 (en) 2007-04-27 2012-11-27 Sharp Kabushiki Kaisha Edge enhancement method and apparatus

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008136289A1 (en) * 2007-04-27 2008-11-13 Sharp Kabushiki Kaisha Image processing device, method, image display device and method
US8319898B2 (en) 2007-04-27 2012-11-27 Sharp Kabushiki Kaisha Edge enhancement method and apparatus
JP2012230401A (en) * 2012-06-26 2012-11-22 Keyence Corp Magnification observation device, magnification observation method and magnification observation program

Also Published As

Publication number Publication date
JP4309622B2 (en) 2009-08-05

Similar Documents

Publication Publication Date Title
KR100819804B1 (en) Photographing apparatus
JP5022105B2 (en) Camera display control apparatus and method
JP4943721B2 (en) Color noise removal method for image data and imaging apparatus using the method
JP2006025312A (en) Imaging apparatus and image acquisition method
JP2000224490A (en) Image pickup controller and image pickup control method
JP2006238410A (en) Imaging apparatus
JPWO2008023706A1 (en) Imaging device
JP4606486B2 (en) Image processing apparatus and photographing apparatus
JP2004328117A (en) Digital camera and photographing control method
JP2006340070A (en) Imaging apparatus and imaging method
TW201223268A (en) Imaging apparatus, signal processing method, and program
JP4817529B2 (en) Imaging apparatus and image processing method
JP3546853B2 (en) Imaging device and image reproduction system
JP2007027845A (en) Imaging apparatus
JP2006345388A (en) Imaging apparatus
US9282257B2 (en) Image apparatus and imaging method
JP4123352B2 (en) Movie imaging device and movie playback device
JP4934617B2 (en) Imaging apparatus and imaging method
JP4309622B2 (en) Electronic imaging apparatus and electronic imaging apparatus for microscope
JP2000023016A (en) Digital camera
JP4136470B2 (en) Electronic imaging device
JP3540567B2 (en) Electronic imaging device
JP4635076B2 (en) Solid-state imaging device
JP4626482B2 (en) Electronic camera
JP2004135225A (en) Electronic camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050628

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090414

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090508

R151 Written notification of patent or utility model registration

Ref document number: 4309622

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130515

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140515

Year of fee payment: 5

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term
S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371