JP4459549B2 - 固体撮像素子、電子内視鏡、及び電子内視鏡装置 - Google Patents

固体撮像素子、電子内視鏡、及び電子内視鏡装置 Download PDF

Info

Publication number
JP4459549B2
JP4459549B2 JP2003138100A JP2003138100A JP4459549B2 JP 4459549 B2 JP4459549 B2 JP 4459549B2 JP 2003138100 A JP2003138100 A JP 2003138100A JP 2003138100 A JP2003138100 A JP 2003138100A JP 4459549 B2 JP4459549 B2 JP 4459549B2
Authority
JP
Japan
Prior art keywords
light receiving
receiving element
element group
light
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003138100A
Other languages
English (en)
Other versions
JP2004337379A (ja
Inventor
秀夫 杉本
貴之 榎本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hoya Corp
Original Assignee
Hoya Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hoya Corp filed Critical Hoya Corp
Priority to JP2003138100A priority Critical patent/JP4459549B2/ja
Publication of JP2004337379A publication Critical patent/JP2004337379A/ja
Application granted granted Critical
Publication of JP4459549B2 publication Critical patent/JP4459549B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、単一の半導体基板上に複数の受光素子がマトリクス状に配置されている固体撮像素子と、この固体撮像素子を先端部に備えている電子内視鏡、さらにこの電子内視鏡を備えている電子内視鏡装置に関する。
【0002】
【従来の技術】
従来、内視鏡の挿入部を細径化することにより、体腔内、特に細い管状器官内に内視鏡を挿入する際の患者の苦痛を軽減している。近年はその挿入部先端部にCCDなどの固体撮像素子を備えている電子内視鏡(電子スコープ)が広く普及しており、その挿入部内部に備えられている種々の部品を小型化することによって細径化を達成している。この内視鏡や電子内視鏡は細ければ細いほど、体腔内の至る所に挿入できるようになり、また、体腔内を自在に動かすことができるようになるため、さらなる細径化が要求されている。
【0003】
電子内視鏡では上述した理由により小型化に適したモノクロのCCDを搭載したものが多く見られる。しかしながら近年は生体組織の状態をより正確に観察するため、カラー画像を得るような装置が実用に供している。このカラー画像を得る装置は大きく分類すると2通りある。一つは、CCD上にマトリクス状に配置されている複数の受光素子各々の前面にRGBなどのカラーフィルタを備えたものによりカラー画像を得る、いわゆる同時方式を用いたものである。もう一つは、電子内視鏡に接続されている光源装置の回転カラーフィルタを介した各色の照明光で照明される生体組織をモノクロのCCDで撮像することによりカラー画像を得る、いわゆる面順次方式を用いたものである。
【0004】
しかしながら、近年電子内視鏡のさらなる細径化が要求されており、この先端部に備えられているCCDなどをさらに小型化させる必要がある。CCDを小型化させるためには各受光素子のサイズを小さく形成する必要がある。ところが、この各受光素子のサイズを小さく形成するにしたがって、受光素子1つ当たりに蓄積できる電荷量が少なくなってしまう。従って、撮影可能な明るさのダイナミックレンジが小さくなってしまう。
【0005】
電子内視鏡の観察対象となる体腔内の生体組織などは、暗部である体腔内を照明装置で照明されることにより観察されているため、その暗部と明部での輝度差がデジタルカメラやビデオなどの画像と比べて特に大きくなる傾向にある。従ってダイナミックレンジを低下させると、明部の輝度を適度に設定すると暗部の画像が黒く潰れてしまい、逆に暗部の輝度を適度に設定すると明部の画像が白くとぶという現象が頻発するようになってしまう。
【0006】
そこで従来は、隣り合う感度の異なった受光素子を一対として、それぞれの受光素子に蓄積された電荷を転送し、上記一対の受光素子の電荷を加算することにより、ダイナミックレンジを向上させていた(例えば、特許文献1参照)。また、隣接する所定数の画素毎に同色のカラーフィルタを搭載して、設定されたモードに応じてそれら所定数の同色の画素により得られた電荷を加算してダイナミックレンジ及び感度を向上させていた(例えば、特許文献2参照)。
【0007】
【特許文献1】
特開平9−252107号公報(第3〜5頁、第1図)
【特許文献2】
特開平11−298800号公報(第3、4頁、第2図)
【0008】
【発明が解決しようとする課題】
しかしながら上述の特許文献1及び特許文献2に記載されている固体撮像素子では、複数の画素に蓄積された電荷を加算して1画素相当の信号を出力しているため、出力される画像の解像度は低下してしまう。すなわち、ダイナミックレンジや感度を向上させて画像の潰れや白とびなどを改善することはできるが、解像度の低下により出力される画像は不鮮明なものとなってしまう。従って、術者はモニタに表示されている生体組織などの画像からその生体組織の細部の状態を正確に把握し難くなってしまう。
【0009】
また、解像度を維持しつつダイナミックレンジを向上させるために1画素当たりのサイズを大きくして蓄積できる電荷量を増加させた場合は、画像の鮮明さを低下させることなくダイナミックレンジの向上により滑らかな画像を得ることができる。しかしながら、画素数を維持しつつ1画素当たりの受光素子のサイズを大きくするため、固体撮像素子のサイズの小型化に限界があり、その結果、電子内視鏡の細径化が思うように図れず、患者への負担を軽減することができない。
【0010】
そこで、本発明は上記の事情に鑑み、円筒状の装置に組み込まれてもその径を太くさせたりダイナミックレンジを低下させたりすることなく、高画質の観察画像を得ることができる固体撮像素子、及びこの固体撮像素子を備えた電子内視鏡、さらにはこの電子内視鏡を備えた電子内視鏡装置を提供することを目的とする。
【0011】
【課題を解決するための手段】
上記の課題を解決する本発明の一態様に係る固体撮像素子は、所定方向に長く形成された単一の半導体基板上において所定方向のそれぞれ異なった領域に、被写体像を受光するための複数の受光素子を所定のピッチでマトリクス状に配置した第1、第2の受光素子群と、第1と第2の受光素子群に隣接すると共に所定方向に一列に整列した電荷結合素子とを有している。
【0012】
また、第1、第2の受光素子群は、所定の光束分離手段を介して分離された各被写体像が結像する別個のイメージサークルに対応する位置であって、所定方向及びそれと直交する方向に相対的にピッチの半分相当ずれた被写体像が導かれる位置に配置されている。電荷結合素子は、第1の受光素子群で蓄積された電荷の転送先である第1の転送部と、第2の受光素子群で蓄積された電荷の転送先である第2の転送部とを有している
【0013】
また、上記の課題を解決する本発明の一態様に係る電子内視鏡は、被写体像を結像させる対物光学系と、所定方向に長く形成された単一の半導体基板上において所定方向のそれぞれ異なった領域に、共に所定のピッチで複数の受光素子がマトリクス状に配置されている第1の受光素子群と第2の受光素子群とを有した固体撮像素子と、第1の受光素子群及び第2の受光素子群において被写体像が結像するように、被写体像を、第1の受光素子群と第2の受光素子群とに向けて分離する光束分離手段とを先端部内に備えたものであって、光束分離手段は、第1の受光素子群と第2の受光素子群の各々に対して所定方向及び所定方向と直交する方向に相対的にピッチの半分相当ずれた被写体像を導く機能を有している。
【0014】
また、上記の課題を解決する本発明の別の態様に係る電子内視鏡は、被写体像を結像させる対物光学系と、所定方向に長く形成された単一の半導体基板上において所定方向のそれぞれ異なった領域に、共に所定のピッチで複数の受光素子がマトリクス状に配置されている第1の受光素子群と第2の受光素子群とを有した固体撮像素子と、第1の受光素子群及び第2の受光素子群において被写体像が結像するように、被写体像を、第1の受光素子群と第2の受光素子群とに向けて分離する光束分離手段とを先端部内に備えたものであって、第1の受光素子群と第2の受光素子群の各々が、所定方向及び所定方向と直交する方向に相対的にピッチの半分相当ずれた被写体像を受光するよう固体撮像素子を配置している。
【0015】
また、上記電子内視鏡は、固体撮像素子を、半導体基板の長手方向と先端部の長手方向とが一致するように配置している。また、固体撮像素子が第1の受光素子群と第2の受光素子群に隣接して所定方向に一列に整列した電荷結合素子を更に有している。この電荷結合素子は、第1の受光素子群で蓄積された電荷の転送先である第1の転送部と、第2の受光素子群で蓄積された電荷の転送先である第2の転送部とをさらに備えている。
【0016】
また、上記の課題を解決する本発明の一態様に係る電子内視鏡装置は、上記の電子内視鏡と、第1の受光素子群に含まれている複数の受光素子の各々で撮像された複数の画素の各々の間に、第2の受光素子群に含まれている複数の受光素子の各々で撮像された複数の画素の各々が位置するように、第1の受光素子群と第2の受光素子群から得られた画像信号を合成する信号処理部を有したプロセッサとを備えている。
【0017】
【発明の実施の形態】
図1は、本発明の実施形態の電子内視鏡100を備えている電子内視鏡装置500の構成を示したブロック図である。この電子内視鏡装置500は、患者の体腔内の画像情報を出力する電子内視鏡(電子スコープ)100と、電子内視鏡100に出力された画像情報に所定の処理を施し映像信号に変換する画像処理装置に加えて観察像を得るための光束を電子内視鏡100に供給する光源装置を備えたプロセッサ200と、プロセッサ200から出力された映像信号に基づいて患者の体腔内を表示するモニタ300から構成されている。以下に、この図1を用いてこの電子内視鏡装置500の構成と作用を説明する。
【0018】
プロセッサ200は、本実施形態での観察対象である生体組織400を照明する照明光を射出する光源部(光源ランプ)210を備えている。本実施形態の電子内視鏡装置500では電子内視鏡100先端部の細径化を達成するために面順次方式の撮像システムを採用しているため、この光源部210が射出する照明光は白色光であり、また、その光路上にはRGB回転フィルタ220が配置されている。
【0019】
このRGB回転フィルタ220は、R(レッド)、G(グリーン)、B(ブルー)の三色のカラーフィルタ、及び遮光部を有している。これら三色のカラーフィルタは、各々対応した一色の光のみを透過するフィルタである。このRGB回転フィルタ220は、その回転方向に、順に、カラーフィルタ(R)、遮光部、カラーフィルタ(G)、遮光部、カラーフィルタ(B)、遮光部を有している。以下に、このRGB回転フィルタ220を用いた面順次方式によるカラー画像の生成のプロセスを説明する。
【0020】
まず、タイミングジェネレータ230は、図示しないモータドライバに駆動信号を送信する。このモータドライバはこの受信した駆動信号に基づいてモータ222を駆動させる。このモータ222の回転軸はRGB回転フィルタ220を回転自在に支持しているため、モータ222の駆動に伴い、RGB回転フィルタ220は回転する。RGB回転フィルタ220が回転することにより光源部210から射出された照明光は、R、G、Bの各色のフィルタを、それぞれの間に備えられた遮光部により間欠的に透過する。
【0021】
プロセッサ200はコネクタ280により電子内視鏡100と接続されている。RGB回転フィルタ220の各色のフィルタを透過した照明光の各々は、その光路上に配置されている集光レンズ224を介して電子内視鏡100が備えるライトガイド110に入射する。そしてこの照明光は、ライトガイド110により電子内視鏡100の先端部に導光される。このライトガイド110に導光された照明光は、電子内視鏡100の先端部の前面に備えられた照明窓120を介して観察対象(撮像対象)である生体組織400を照明する。
【0022】
生体組織400を照明した照明光はこの生体組織400により反射し、観察光として対物光学系130に入射する。この対物光学系130を出射した観察光は、光路偏向部140により対物光学系130の光軸と直交する方向、言い換えると電子内視鏡100の長手方向(挿入方向)と直交する方向に折り曲げられる。
【0023】
本実施形態の電子内視鏡100では、観察光を受光して光電変換を行い画像信号を生成する機能を有する固体撮像素子150は、電子内視鏡100の長手方向に対しその受光面が平行となるよう配置されている。この固体撮像素子150は例えばCCDである。
【0024】
上述した光路偏向部140により折り曲げられた観察光は、この固体撮像素子150の受光面で結像して、この受光面が有しているマトリクス状に配置された複数の受光素子の各々に受光される。なお、生体組織400は上述したようにRGB回転フィルタ220の各色のフィルタを順に透過した間欠的な照明光により照明されているため、固体撮像素子150の受光面は、各色の観察光を間欠的に順次受光する。
【0025】
プロセッサ200が備えているドライバ240は、タイミングジェネレータ230から送信されてくる駆動制御信号により固体撮像素子150を駆動している。さらに詳しく説明すると、このドライバ240はタイミングジェネレータ230から送信されてくる駆動制御信号に基づいて、固体撮像素子150がR光、G光、B光のいずれかの観察光を受光している期間はその観察光を各受光素子に蓄積するよう固体撮像素子150を駆動し、RGB回転フィルタ220の遮光部により固体撮像素子150がいずれの観察光も受光しない期間は各受光素子に蓄積されている電荷を転送して画像信号として出力させるよう固体撮像素子150を駆動している。
【0026】
図2は、本発明の実施形態の電子内視鏡100の先端部の内部構造を模式的に示した側断面図である。この図2では電子内視鏡100の先端部の内部構造を図1より詳細に示したものである。以下に、この図2を用いて、この電子内視鏡100の先端部の構成と作用をより詳細に説明する。
【0027】
上述したように、対物光学系130を介して入射した生体組織400の観察光は、光路偏向部140により電子内視鏡100の長手方向と直交する方向に折り曲げられる。この光路偏向部140は、第1のプリズム142と第2のプリズム144とを貼り合わせることにより形成されている。また、これらのプリズムは、電子内視鏡100の長手方向に、対物光学系130側から第1のプリズム142、第2のプリズム144の順に並んで配置されている。
【0028】
第1のプリズム142は、生体組織400から得られた観察光の光路中に、光を分割する機能を有するビームスプリッタ142aを有している。このビームスプリッタ142aは、対物光学系130の光軸と一致する生体組織400の観察光の光路に対して45度傾いた状態で配置している。別の言い方をすると、このビームスプリッタ142aは、電子内視鏡100の長手方向に対して45度傾いた状態で配置している。そのため、このビームスプリッタ142aに入射した生体組織400の観察光は、その一部が90度折り曲げられて(反射されて)電子内視鏡100の長手方向と直交する方向、すなわち固体撮像素子150に向かって進行し、その一部が透過して第2のプリズム144内を電子内視鏡100の長手方向に沿って進行していく。
【0029】
第2のプリズム144は、ビームスプリッタ142aを透過した観察光の光路中に、光を全反射する機能を有する全反射ミラー144aを有している。この全反射ミラー144aは、対物光学系130の光軸と一致するビームスプリッタ142aを透過した観察光の光路に対して45度傾いた状態で配置している。別の言い方をすると、この全反射ミラー144aは、電子内視鏡100の長手方向に対して45度傾いた状態で配置している。従って、ビームスプリッタ142aを透過した観察光は、この全反射ミラー144aにより90度折り曲げられて、電子内視鏡100の長手方向と直交する方向、すなわち固体撮像素子150に向かって進行する。
【0030】
図3は、本発明の実施形態の電子内視鏡100の先端部内に備えられている固体撮像素子150の構成を模式的に示した上面図である。この固体撮像素子150は、半導体基板上に、複数の受光素子がマトリクス状に配置されている受光部152を備えたものである。以下に、この図3を用いて、この固体撮像素子150の構成と作用を説明する。なお、この固体撮像素子150の基台である半導体基板の受光部152を備えている面すなわち受光面は、図3に示す矢印Y方向の辺が、矢印Y方向に直交する矢印X方向の辺より長い長方形の形状を有している。
【0031】
固体撮像素子150は、受光部152と、水平転送部154と、アンプ156とを備えている。上述したようにこの電子内視鏡装置500は面順次方式によりカラー画像を生成しているため、この固体撮像素子150はモノクロCCDである。また、電子内視鏡100の細径化を達成するため、この固体撮像素子150は蓄積部を備えないフルフレーム型CCDである。
【0032】
受光部152は、受光部152aと受光部152bの2つのイメージエリア(撮像エリア)を有している。この受光部152aは、ビームスプリッタ142aで反射された観察光学像を撮像するためのイメージエリアであって、この観察光学像の結像面と一致するよう配置されている。また、受光部152bは、全反射ミラー144aで反射された観察光学像を撮像するためのイメージエリアであって、この観察光学像の結像面と一致するよう配置されている。すなわち、受光部152aと受光部152bは電子内視鏡100の長手方向に沿って並んで配置されている。また、これら受光部152aと受光部152bには、矢印Y方向と矢印X方向のそれぞれに同一数の受光素子が同一ピッチで配置されている。すなわち、受光部152aと受光部152bは、互いに、同一形状かつ同一受光素子数の受光部として形成されている。
【0033】
また、上述したように、この固体撮像素子150はフルフレーム型CCDであるため、この受光部152は複数の受光素子各々に蓄積された電荷を、図3の矢印X方向に転送する垂直転送部の機能を兼ね備えている。なお、固体撮像素子150は微少サイズのチップであるため、受光部152aと受光部152bとは光学的に略等価に配置されている。従って、これら2つの受光部には実質的に同一形状の被写体像が結像する。
【0034】
図4は、受光部152と生体組織400のイメージサークルとの関係を模式的に示した図である。図4(a)は、受光部152aとイメージサークル410aとの関係を示した模式図である。また、図4(b)は、受光部152bとイメージサークル410bとの関係を示した模式図である。図4(c)は、受光部152aと受光部152bの画像信号に後述する画像合成処理を施すことにより生成された観察画像を模式的に示した図である。以下に、図2及び図3に加えてこの図4を用いて、固体撮像素子150の構成と作用を説明する。
【0035】
図4(a)は、受光部152aに入射してくる生体組織400の像、すなわち対物レンズ130が受光部152a上で結ぶ生体組織400のイメージサークル410aと、受光部152aとの位置関係を示したものである。この図4(a)において斜線で示された複数の四角部分の各々は、受光部152aに含まれている受光素子1つ1つを示している。また、図4(b)は、受光部152bに入射してくる生体組織400の像、すなわち対物レンズ130が受光部152b上で結ぶ生体組織400のイメージサークル410bと受光部152bとの位置関係を示したものである。この図4(b)において図4(a)と異なった斜線で示された複数の四角部分の各々、及び白で示された複数の四角部分の各々は、受光部152bが有している受光素子1つ1つを示している。なお、これらの受光部152a、152bに含まれている受光素子の各々は、互いに同一のピッチpで配置されている。また、イメージサークル410aとイメージサークル410bとにより形成される観察光学像は、実質的に同一の観察像である。また、この図4では説明を簡略化するためにそれぞれの受光部に含まれている受光素子を16個ずつとして示しているが、これらの受光部152a、152bは、実際にはこの図4で示した数より多くの受光素子を有している。
【0036】
図4(a)に示すように、受光部152aは、複数の受光素子の各々の間に、受光機能を有していない領域からなる非受光部分を有している。受光部152aの中心は、この非受光部分に該当する位置、すなわち受光素子と受光素子との間にあって、この受光部152aの中心の最も近くに配置されている4つの受光素子それぞれの中心からX方向及びY方向に関してp/2ずれたところ、すなわち中間に位置している。対物レンズ130を介しビームスプリッタ142aにより反射されて受光部152aに向けて進行してくる生体組織400のイメージサークル410aは、その中心412aが受光部152aの中心と一致する形態で受光部152a上で形成されるように、対物レンズ130、ビームスプリッタ142a及び受光部152aの相互の位置関係が定められている。
【0037】
また、図4(b)に示すように、受光部152bは、複数の受光素子の各々の間に、受光機能を有していない領域からなる非受光部分を有している。受光部152aと同様に、受光部152bの中心153bも、この非受光部分に該当する位置、すなわち受光素子と受光素子との間にあって、この中心153bの最も近くに配置されている4つの受光素子それぞれの中心からX方向及びY方向に関してp/2ずれたところ、すなわち中間に位置している。対物レンズ130を介し全反射ミラー144aに折り曲げられて進行してくる生体組織400のイメージサークル410bは、その中心412bが受光部152bの中心153bの最も近くに配置されているいずれかの受光素子の中心と一致する形態で受光部152b上で形成されるように、対物レンズ130、全反射ミラー144a及び受光部152bの相互の位置関係が定められている。
【0038】
以上のように、それぞれのイメージサークルは、それぞれの受光部に対して相対的に異なった位置で形成されている。説明を加えると、それぞれのイメージサークルは、それぞれの受光部に対してX方向及びY方向に相対的にp/2ずれた位置で形成されている。従って、これらの受光部152a、152bは、互いの非受光部分に該当した部分の観察画像を得ることができる。そのため、受光部152aと受光部152bにより得られた観察画像に後述する画像処理を施して、それぞれのイメージサークルの中心である中心412aと中心412bとが一致するようにそれぞれの観察画像を重ね合わせると、図4(c)に示すように、受光部152aに含まれている複数の受光素子の各々で撮像された複数の画素の各々の間に、受光部152bに含まれている複数の受光素子の各々で撮像された複数の画素の各々が位置するように、互いの非受光部分に該当する部分の観察像を埋め合わせた、多くの画素数からなる観察画像、すなわち高画素の観察画像を得ることができる。
【0039】
上述したようにそれぞれの受光部に対してX方向及びY方向に相対的にp/2ずれた位置でそれぞれのイメージサークルを形成させるように、受光部152及び光路偏向部140は配置されている。説明を加えると、受光部152aと受光部152bは、X方向に関して互いの受光素子の各々がp/2相当ずれるように配置されている。また、ビームスプリッタ142aと全反射ミラー144aは、Y方向に関して、イメージサークルがそれぞれの受光部に対して相対的にp/2ずれて形成されるように配置されている。また、Y方向に関して別の言い方をすると、受光部152aと受光部152bは、イメージサークルがそれぞれの受光部に対して相対的にp/2ずれて形成されるように配置されている。
【0040】
また、別の実施形態では、それぞれの受光部に対してX方向及びY方向に相対的にp/2ずれた位置でそれぞれのイメージサークルを形成させるように、光路偏向部140を配置することもできる。説明を加えると、ビームスプリッタ142aと全反射ミラー144aは、X方向及びY方向に関して、イメージサークルがそれぞれの受光部に対して相対的にp/2ずれて形成されるように配置されている。すなわち、ビームスプリッタ142a、全反射ミラー144aのいずれかは、入射した観察光を電子内視鏡100の長手方向と直交する方向に90度折り曲げると共に、受光部152に観察光が入射した際に対物レンズ130の光軸からX方向にp/2ずれた位置を中心にイメージサークルが形成されるような角度をもって配置されている。
【0041】
水平転送部154は、受光部152が備えている複数の受光素子の各々に蓄積された電荷が転送されてくる部位であって、半導体基板の長手方向に一列に整列した電荷結合素子から構成されている。この水平転送部154は、受光部152aが有している受光素子に蓄積された電荷が転送されてくる水平転送部154aと、受光部152bが有している受光素子に蓄積された電荷が転送されてくる水平転送部154bを含んでいる。
【0042】
水平転送部154を構成している電荷結合素子の各々は、矢印Y方向に関して、受光部152の受光素子と同ピッチで配置されている。水平転送部154に含まれている水平転送部154aは、受光部152aの受光素子各々と矢印Y方向に一致して配置している電荷結合素子から構成されている。また、水平転送部154に含まれている水平転送部154bは、受光部152bの受光素子各々と矢印Y方向に一致して配置している電荷結合素子から構成されている。なお、この水平転送部154を構成している電荷結合素子の各々は、受光部152の受光素子各々に蓄積された電荷が受光素子複数個相当蓄積されても飽和しないようその許容量を多くするため、矢印X方向に関して受光部152の受光素子より大きく形成されている。
【0043】
水平転送部154aには、受光部152aが有している受光素子の各々に蓄積された電荷が、矢印X方向に直交する矢印Y方向の受光素子1ライン毎に順次転送されてくる。また、水平転送部154bには、受光部152bが有している受光素子の各々に蓄積された電荷が、矢印X方向に直交する矢印Y方向の受光素子1ライン毎に順次転送されてくる。そしてこの水平転送部154は、受光部152aと受光部152bから転送されたそれぞれ1ラインずつの電荷をアンプ156に出力する。アンプ156は、この入力された電荷を増幅してプロセッサ200が備えている初段映像信号処理部250に出力する。
【0044】
固体撮像素子150から出力された画像信号は、プロセッサ200に送信されて、後述する画像処理を施される。このプロセッサ200に画像処理を施された信号は、外部機器に表示可能な種々のビデオ信号としてモニタ300に出力され、このモニタ300上でカラーの観察画像として表示される。以下に、プロセッサ200で行われる画像処理のプロセスを説明する。
【0045】
固体撮像素子150によって得られた体腔内の生体組織400の画像信号は、プロセッサ200に備えられている初段映像信号処理部250に送信される。この初段映像信号処理部250は、送信された画像信号を増幅し、サンプリング、ホールド等の処理を行う。そして、この画像信号をデジタル信号に変換する。変換されたデジタル信号は、さらに、初段映像信号処理部250が有している図示しないマルチプレクサによって固体撮像素子150の駆動と同期して切り替えられ、R、G、Bの各色の画像信号に分離されて、RGBメモリ260a、RGBメモリ260bが有している各メモリに出力される。
【0046】
電子内視鏡100は静止画ボタン160を備えている。この静止画ボタン160はモニタ300上における観察画像の表示方法を切り替えるための操作ボタンであって、この静止画ボタン160がオンのときはモニタ300上に観察対象の静止画を表示させることができ、この静止画ボタン160がオフのときはモニタ300上に観察対象の動画を表示させることができる。
【0047】
上述した静止画ボタン160がオンした状態のとき、プロセッサ200に備えられているシステムコントロール232、タイミングジェネレータ230を介して初段映像信号処理部250に静止画ボタン160がオンしていることを表す信号が入力する。このとき初段映像信号処理部250は、RGBメモリ260a及びRGBメモリ260bの各メモリにR、G、Bの各色の画像信号を出力する。また、この静止画ボタン160がオフした状態のときは初段映像信号処理部250に上記信号が入力しない。このとき初段映像信号処理部250は、RGBメモリ260aの各メモリにR、G、Bの各色の画像信号を出力する。
【0048】
RGBメモリ260a及びRGBメモリ260bはR、G、Bの各色に対応した3つのフレームメモリである図示しないRメモリ、Gメモリ、Bメモリを備えており、初段映像信号処理部250に分離された各色の画像信号は、それぞれ対応するフレームメモリに格納される。このRGBメモリ260aには受光部152aにより得られた画像信号が入力し、このRGBメモリ260bには受光部152bにより得られた画像信号が入力する。
【0049】
静止画ボタン160がオンした状態のとき、タイミングジェネレータ230は、RGBメモリ260a及びRGBメモリ260bの各フレームメモリに格納されている画像信号を同時に読み出すためのタイミング信号を送信する。このタイミング信号は、例えば、1秒当たり30フレームから構成される動画がモニタ上において表示できるタイミングで送信される。すなわち、このタイミングジェネレータ230は、RGBメモリ260a及びRGBメモリ260bの各フレームメモリに格納されている画像信号を1秒当たり30フレーム、同時に読み出すタイミング信号を送信する。このタイミング信号に基づき、RGBメモリ260a及びRGBメモリ260bに格納されている各色の画像信号は同時に読み出されて、画像合成処理部290に出力される。
【0050】
画像合成処理部290は、受光部152a及び受光部152bで得られた画像情報を、図4(c)に示すように、受光部152aに含まれている複数の受光素子の各々で撮像された複数の画素の各々の間に、第2の受光部に含まれている複数の受光素子の各々で撮像された複数の画素の各々が位置するように、両画像情報を重ね合わせて合成し、1枚の静止画を生成する画像合成を行う信号処理部である。すなわちこの画像合成処理部290は、RGBメモリ260a及びRGBメモリ260bの各々から同時に読み出された各色の画像信号を上述したように合成し、高画素の静止画を生成するものである。さらに、この画像合成処理部290は、合成後の画像信号をRGBビデオ信号に変換してモニタ300に出力する。これらのビデオ信号がモニタ300に出力されると、モニタ300上に生体組織400の観察画像がカラーの静止画像で表示される。また、この画像合成処理部290は、合成後の画像信号を他の記録メディアに記録できるように出力することもできる。
【0051】
静止画ボタン160がオフした状態のとき、タイミングジェネレータ230は、RGBメモリ260aの各フレームメモリに格納されている画像信号を同時に読み出すためのタイミング信号を送信する。このタイミング信号に基づき、RGBメモリ260aに格納されている各色の画像信号は同時に読み出されて、後段信号処理部270に出力される。
【0052】
後段信号処理部270は、この信号をアナログ信号に変換させ、さらにこのアナログ信号をモニタ300に表示させるためのコンポジットビデオ信号や、Y/C信号、RGBビデオ信号に変換する。そして、これらのビデオ信号がモニタ300に出力されると、モニタ300上に生体組織400の観察画像がカラーの動画で表示される。
【0053】
図5は、静止画ボタン160オン時の固体撮像素子150の撮像及び転送の周期と、固体撮像素子150に入射してくる観察光の周期とを示したタイミングチャートである。図5(a)は、固体撮像素子150の撮像及び転送を行うためのタイミングチャートであって、電荷を蓄積する蓄積期間と、蓄積した各色に対応した電荷を転送する転送期間とを交互に繰り返したものとなっている。また、図5(b)は、固体撮像素子150に入射してくる観察光の周期を示したタイミングチャートであって、各色の観察光が入射してくる期間と、観察光が遮光されている期間とを交互に繰り返したものとなっている。
【0054】
図5に示すように、Rの照明光で照明された生体組織400のR光の観察光が受光部152に入射している期間、固体撮像素子150は、受光部152a及び受光部152bの受光素子の各々に、このR光の観察光による電荷を蓄積している。これら受光部152a及び受光部152bに一定期間R光の観察光が入射するとRGB回転フィルタ220の遮光部により照明光が一定期間遮光され、受光部152a及び受光部152bに入射していた観察光も一定期間途絶える。これら受光部152a及び受光部152bに観察光が入射しない期間、固体撮像素子150は、受光部152a及び受光部152bの受光素子の各々に蓄積されたR光の観察光による電荷の各々を、水平転送部154a及び水平転送部154bにそれぞれ転送する。水平転送部154に転送されたこれらの電荷は、R光の画像情報としてアンプ156から出力され、初段映像信号処理部250に送信される。
【0055】
固体撮像素子150は同じ要領でG光の観察光による電荷を蓄積し、蓄積したG光の観察光による電荷を水平転送部154に転送する。水平転送部154に転送されたこの電荷は、G光の画像情報としてアンプ156から出力され、初段映像信号処理部250に送信される。さらに、固体撮像素子150は同じ要領でB光の観察光による電荷を蓄積し、蓄積したB光の観察光による電荷を水平転送部154に転送する。水平転送部154に転送されたこの電荷は、B光の画像情報としてアンプ156から出力され、初段映像信号処理部250に送信される。
【0056】
このように、アンプ156から出力されたR光、G光、B光それぞれの画像情報を上述したようにプロセッサ200で処理することにより1枚のカラーの静止画像が形成される。
【0057】
図5(c)、(d)、及び(e)は、図5(a)の期間Tbにおける受光素子に蓄積された電荷の転送動作を詳細に示したタイミングチャートである。この期間Tbは、上述した、G光の観察光により蓄積した電荷を水平転送部154に転送してG光の画像情報としてアンプ156から出力する期間を示している。図5(c)は、受光部152aの受光素子各々に蓄積された電荷を、矢印Y方向1ラインの受光素子毎に水平転送部154aに順次転送させるV1信号のパルスを示したタイミングチャートである。また、図5(d)は、受光部152bの受光素子各々に蓄積された電荷を、矢印Y方向1ラインの受光素子毎に水平転送部154bに順次転送させるV2信号のパルスを示したタイミングチャートである。また、図5(e)は、水平転送部154に転送された電荷を、水平転送部154の水平方向、すなわち矢印Y方向に転送するH信号のパルスを示したタイミングチャートである。
【0058】
期間Tbは静止画ボタン160オン時であるため、受光部152a及び受光部152bに蓄積された電荷を転送する期間である。従って、受光部152aにV1信号が入力され、受光部152bにV2信号が入力される。V1信号が受光部152aに入力すると、受光部152aの受光素子各々に蓄積されている全ての電荷は、矢印X方向に一段シフトする。また、V2信号が受光部152bに入力すると、受光部152bの受光素子各々に蓄積されている全ての電荷は、矢印X方向に一段シフトする。その結果、水平転送部154a及び水平転送部154bの最も近くに配置しているそれぞれの受光部の1ラインの受光素子に蓄積されている電荷の各々は、矢印X方向にシフトして水平転送部154a及び水平転送部154bの矢印Y方向に一致する電荷結合素子の各々に転送される。
【0059】
V1信号及びV2信号により受光部152a及び受光部152bから水平転送部154a及び水平転送部154bに電荷が転送されると、次に、H信号が水平転送部154に入力し、水平転送部154a及び水平転送部154bに転送された上記電荷を矢印Y方向に転送する。すなわち、水平転送部154に転送された上記電荷は、アンプ156に掃き出されて増幅されて、初段映像信号処理部250に送信される。
【0060】
上述した期間Tbにおける一連の動作は、受光部152a及び受光部152bに蓄積されている全ラインの電荷を初段映像信号処理部250に送信するまで繰り返される。全ラインの電荷がアンプ156から出力されると期間Tbの転送動作は終了し、次に、B光の観察光の蓄積動作が開始される。
【0061】
図6は、静止画ボタン160オフ時の固体撮像素子150の撮像及び転送の周期と、固体撮像素子150に入射してくる観察光の周期とを示したタイミングチャートである。図6(a)は図5(a)と同様のタイミングチャートであり、図6(b)は図5(b)と同様のタイミングチャートである。
【0062】
図6に示すように、Rの照明光で照明された生体組織400のR光の観察光が受光部152に入射している期間、固体撮像素子150は、受光部152aの受光素子の各々に、このR光の観察光による電荷を蓄積している。この受光部152aに一定期間R光の観察光が入射するとRGB回転フィルタ220の遮光部により照明光が一定期間遮光され、受光部152aに入射していた観察光も一定期間途絶える。この受光部152aに観察光が入射しない期間、固体撮像素子150は、受光部152aの受光素子の各々に蓄積されたR光の観察光による電荷の各々を、水平転送部154aに転送する。水平転送部154に転送されたこの電荷は、R光の画像情報としてアンプ156から出力され、初段映像信号処理部250に送信される。
【0063】
固体撮像素子150は同じ要領でG光の観察光による電荷を蓄積し、蓄積したG光の観察光による電荷を水平転送部154aに転送する。水平転送部154aに転送されたこの電荷は、G光の画像情報としてアンプ156から出力され、初段映像信号処理部250に送信される。さらに、固体撮像素子150は同じ要領でB光の観察光による電荷を蓄積し、蓄積したB光の観察光による電荷を水平転送部154aに転送する。水平転送部154aに転送されたこの電荷は、B光の画像情報としてアンプ156から出力され、初段映像信号処理部250に送信される。
【0064】
このように、アンプ156から出力されたR光、G光、B光それぞれの画像情報をプロセッサ200で処理することにより1画面のカラー画像が形成される。また、この作業を繰り返すことによりモニタ300上に生体組織400の画像が動画として表示される。
【0065】
図6(c)、(d)、及び(e)は、図6(a)の期間Taにおける受光素子に蓄積された電荷の転送動作を詳細に示したタイミングチャートである。この期間Taは、上述した、G光の観察光により蓄積した電荷を水平転送部154に転送してG光の画像情報としてアンプ156から出力する期間を示している。図6(c)は図5(c)と同様のタイミングチャートであり、図6(d)は図5(d)と同様のタイミングチャートであり、図6(e)は図5(e)と同様のタイミングチャートである。
【0066】
期間Taは静止画ボタン160オフ時であるため、受光部152aに蓄積された電荷のみを転送する期間である。従って、受光部152bにV2信号は入力されず、受光部152aにのみ転送動作のための信号であるV1信号が入力される。V1信号が受光部152aに入力すると、受光部152aの受光素子各々に蓄積されている全ての電荷は、矢印X方向に一段シフトする。その結果、水平転送部154aの最も近くに配置している1ラインの受光素子に蓄積されている電荷の各々は、矢印X方向にシフトして水平転送部154aの矢印Y方向に一致する電荷結合素子の各々に転送される。
【0067】
V1信号により受光部152aから水平転送部154aに電荷が転送されると、次に、H信号が水平転送部154に入力し、水平転送部154aに転送された上記電荷を矢印Y方向に転送する。すなわち、水平転送部154aに転送された上記電荷は、アンプ156に掃き出されて増幅し初段映像信号処理部250に送信される。
【0068】
上述した期間Taにおける一連の動作は、受光部152aに蓄積されている全ラインの電荷を初段映像信号処理部250に送信するまで繰り返される。全ラインの電荷がアンプ156から出力されると期間Taの転送動作は終了し、次に、B光の観察光の蓄積動作が開始される。
【0069】
なお、上述したように、本実施形態の固体撮像素子150は、2つのイメージエリアである受光部152aと受光部152bとが電子内視鏡100の先端部の長手方向に沿って並んで配置されている。また、本実施形態の固体撮像素子150では、受光部152aと受光部152bの電荷の転送路が1ラインの電荷結合素子である水平転送部154で形成されている。さらに、この水平転送部154は、電子内視鏡100の先端部の長手方向に沿って配列されている。従って、本実施形態の固体撮像素子150を備えることにより、電子内視鏡の径を太くすることなく2つの受光部を備えることができ、その結果、高画質の観察画像を得ることができる。
【0070】
以上が本発明の実施形態である。本発明はこれらの実施形態に限定されるものではなく様々な範囲で変形が可能である。
【0071】
なお、本実施形態において、静止画のときのみ2つの受光部から得られる画像信号を合成しているが、動画を得る際もこの画像信号の合成を行ってもよい。
【0072】
【発明の効果】
以上のように本発明の固体撮像素子は、所定方向に長く形成された単一の半導体基板上において所定方向のそれぞれ異なった領域に第1の受光部と第2の受光部とを有し、互いの受光素子の各々を、所定方向と直交する方向において前記ピッチの半分相当ずらして配置している。従ってこの固体撮像素子は、円筒状の装置、例えば電子内視鏡に組み込まれてもその径を太くさせたりダイナミックレンジを低下させたりすることなく、それぞれの受光部に対して、互いの非受光部分に該当した部分の観察画像を生成させることができる。このような観察画像は、画像処理部を含んだ装置、例えば電子内視鏡装置によって、第1の受光部の複数の受光素子の各々で撮像された複数の画素の各々の間に、第2の受光部の複数の受光素子の各々で撮像された複数の画素の各々が位置するように合成されることにより、高画質の観察画像として生成され得る。
【図面の簡単な説明】
【図1】本発明の実施形態の電子内視鏡を備えている電子内視鏡装置の構成を示したブロック図である。
【図2】本発明の実施形態の電子内視鏡の先端部の内部構造を模式的に示した側断面図である。
【図3】本発明の実施形態の電子内視鏡の先端部内に備えられている固体撮像素子の構成を模式的に示した上面図である。
【図4】受光部とイメージサークルとの関係を模式的に示した図である。
【図5】静止画ボタンオン時の固体撮像素子の撮像及び転送の周期と、固体撮像素子に入射してくる観察光の周期とを示したタイミングチャートである。
【図6】静止画ボタンオフ時の固体撮像素子の撮像及び転送の周期と、固体撮像素子に入射してくる観察光の周期とを示したタイミングチャートである。
【符号の説明】
100 電子内視鏡
140 光路偏向部
150 固体撮像素子
152a、152b 受光部
154a、154b 水平転送部
500 電子内視鏡装置

Claims (5)

  1. 所定方向に長く形成された単一の半導体基板上において前記所定方向のそれぞれ異なった領域に、被写体像を受光するための複数の受光素子を所定のピッチでマトリクス状に配置した第1、第2の受光素子群と、
    前記第1の受光素子群と前記第2の受光素子群に隣接すると共に前記所定方向に一列に整列した電荷結合素子と、
    を有し、
    前記第1、前記第2の受光素子群は、
    所定の光束分離手段を介して分離された各被写体像が結像する別個のイメージサークルに対応する位置であって、前記所定方向及び前記所定方向と直交する方向に相対的に前記ピッチの半分相当ずれた前記被写体像が導かれる位置に配置され、
    前記電荷結合素子は、
    前記第1の受光素子群で蓄積された電荷の転送先である第1の転送部と、
    前記第2の受光素子群で蓄積された電荷の転送先である第2の転送部と、
    を有すること、を特徴とする固体撮像素子。
  2. 被写体像を結像させる対物光学系と、
    所定方向に長く形成された単一の半導体基板上において前記所定方向のそれぞれ異なった領域に、共に所定のピッチで複数の受光素子がマトリクス状に配置されている第1の受光素子群と第2の受光素子群とを有した固体撮像素子と、
    前記第1の受光素子群及び前記第2の受光素子群において前記被写体像が結像するように、前記被写体像を、前記第1の受光素子群と前記第2の受光素子群とに向けて分離する光束分離手段であって、前記第1の受光素子群と前記第2の受光素子群の各々に対して前記所定方向及び前記所定方向と直交する方向に相対的に前記ピッチの半分相当ずれた前記被写体像を導く光束分離手段と、
    を先端部内に備え、
    前記固体撮像素子は、
    前記第1の受光素子群と前記第2の受光素子群に隣接すると共に前記所定方向に一列に整列した電荷結合素子を有し、
    前記電荷結合素子は、
    前記第1の受光素子群で蓄積された電荷の転送先である第1の転送部と、
    前記第2の受光素子群で蓄積された電荷の転送先である第2の転送部と、
    を有すること、を特徴とする電子内視鏡。
  3. 被写体像を結像させる対物光学系と、
    所定方向に長く形成された単一の半導体基板上において前記所定方向のそれぞれ異なった領域に、共に所定のピッチで複数の受光素子がマトリクス状に配置されている第1の受光素子群と第2の受光素子群とを有した固体撮像素子と、
    前記第1の受光素子群及び前記第2の受光素子群において前記被写体像が結像するように、前記被写体像を、前記第1の受光素子群と前記第2の受光素子群とに向けて分離する光束分離手段と、
    を先端部内に備え
    前記第1の受光素子群と前記第2の受光素子群の各々が前記所定方向及び前記所定方向と直交する方向に相対的に前記ピッチの半分相当ずれた前記被写体像を受光するように前記固体撮像素子を配置し
    前記固体撮像素子は、
    前記第1の受光素子群と前記第2の受光素子群に隣接すると共に前記所定方向に一列に整列した電荷結合素子を有し、
    前記電荷結合素子は、
    前記第1の受光素子群で蓄積された電荷の転送先である第1の転送部と、
    前記第2の受光素子群で蓄積された電荷の転送先である第2の転送部と、
    を有すること、を特徴とする電子内視鏡。
  4. 前記固体撮像素子を、前記半導体基板の長手方向と前記先端部の長手方向とが一致するように配置したこと、を特徴とする請求項または請求項のいずれかに記載の電子内視鏡。
  5. 請求項から請求項のいずれかに記載の電子内視鏡と、
    前記第1の受光素子群に含まれている複数の前記受光素子の各々で撮像された複数の画素の各々の間に、前記第2の受光素子群に含まれている複数の前記受光素子の各々で撮像された複数の画素の各々が位置するように、前記第1の受光素子群と前記第2の受光素子群から得られた画像信号を合成する信号処理部を有したプロセッサと、
    を備えたこと、を特徴とする電子内視鏡装置。
JP2003138100A 2003-05-16 2003-05-16 固体撮像素子、電子内視鏡、及び電子内視鏡装置 Expired - Fee Related JP4459549B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003138100A JP4459549B2 (ja) 2003-05-16 2003-05-16 固体撮像素子、電子内視鏡、及び電子内視鏡装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003138100A JP4459549B2 (ja) 2003-05-16 2003-05-16 固体撮像素子、電子内視鏡、及び電子内視鏡装置

Publications (2)

Publication Number Publication Date
JP2004337379A JP2004337379A (ja) 2004-12-02
JP4459549B2 true JP4459549B2 (ja) 2010-04-28

Family

ID=33527566

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003138100A Expired - Fee Related JP4459549B2 (ja) 2003-05-16 2003-05-16 固体撮像素子、電子内視鏡、及び電子内視鏡装置

Country Status (1)

Country Link
JP (1) JP4459549B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009219779A (ja) * 2008-03-18 2009-10-01 Toshiba Corp 内視鏡のカメラヘッドおよびその製造方法
JP5965726B2 (ja) * 2012-05-24 2016-08-10 オリンパス株式会社 立体視内視鏡装置
WO2014034339A1 (ja) * 2012-08-30 2014-03-06 オリンパスメディカルシステムズ株式会社 内視鏡
CN106667418B (zh) * 2016-11-22 2019-03-22 珠海维尔康生物科技有限公司 内窥镜

Also Published As

Publication number Publication date
JP2004337379A (ja) 2004-12-02

Similar Documents

Publication Publication Date Title
JP3094431B2 (ja) 内視鏡の映像信号処理方式
JP2964715B2 (ja) 電子内視鏡システム
JPS58103432A (ja) 固体撮像素子を用いた内視鏡装置
JP2000325307A (ja) 撮像装置、撮像信号の重なり検出装置及び内視鏡システム
JPH01201229A (ja) 電子内視鏡システム
JP2004313523A (ja) 固体撮像素子、電子内視鏡
JP2004321244A (ja) 電子内視鏡システム
US20090262186A1 (en) Endoscope control unit and endoscope unit
JP4459549B2 (ja) 固体撮像素子、電子内視鏡、及び電子内視鏡装置
JP2005204741A (ja) 電子内視鏡装置
JP4531347B2 (ja) 電子内視鏡装置
JP4024536B2 (ja) 電子内視鏡装置および電子内視鏡システムおよびシャッタ機構
JP4448320B2 (ja) 電子内視鏡装置
JP4439245B2 (ja) 電子内視鏡装置
JPS63189090A (ja) 映像信号処理装置
JP3038838B2 (ja) 内視鏡の映像信号処理方式
JP2837896B2 (ja) 内視鏡用外付けテレビカメラ
JP4953759B2 (ja) 電子内視鏡装置
JP3182415B2 (ja) 撮像装置
JP3403588B2 (ja) 全画素読出し式電子内視鏡装置
JPH0546012Y2 (ja)
JPH0145604B2 (ja)
JP2871680B2 (ja) 内視鏡撮像装置
JP2003190089A (ja) 電子内視鏡装置および電子内視鏡システムおよびシャッタ部材
JP3228621B2 (ja) 電子内視鏡装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060410

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20080501

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090911

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100205

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100210

R150 Certificate of patent or registration of utility model

Ref document number: 4459549

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130219

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130219

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140219

Year of fee payment: 4

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees