JP5181999B2 - 固体撮像素子、光学装置、信号処理装置及び信号処理システム - Google Patents

固体撮像素子、光学装置、信号処理装置及び信号処理システム Download PDF

Info

Publication number
JP5181999B2
JP5181999B2 JP2008264580A JP2008264580A JP5181999B2 JP 5181999 B2 JP5181999 B2 JP 5181999B2 JP 2008264580 A JP2008264580 A JP 2008264580A JP 2008264580 A JP2008264580 A JP 2008264580A JP 5181999 B2 JP5181999 B2 JP 5181999B2
Authority
JP
Japan
Prior art keywords
unit
signal
solid
light
state imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008264580A
Other languages
English (en)
Other versions
JP2010093750A (ja
Inventor
英彦 小笠原
俊之 関矢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008264580A priority Critical patent/JP5181999B2/ja
Priority to TW098127945A priority patent/TWI401951B/zh
Priority to US12/572,773 priority patent/US8368767B2/en
Priority to EP09172453A priority patent/EP2175633A3/en
Priority to CN200910204686.5A priority patent/CN101729801B/zh
Publication of JP2010093750A publication Critical patent/JP2010093750A/ja
Application granted granted Critical
Publication of JP5181999B2 publication Critical patent/JP5181999B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Optical Communication System (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Analogue/Digital Conversion (AREA)

Description

本発明は、固体撮像素子、固体撮像素子を備えた光学装置、光学装置が接続される信号処理装置、光学装置と信号処理装置を備えた信号処理システムに関する。詳しくは、固体撮像素子から読み出される画素信号で、外部から入力される光を変調して、光信号として出力できるようにしたものである。
回路基板の高速化、高集積化が進み、信号遅延、EMIの発生等の問題への対応が急務になってきている。電気配線により問題になっていた信号遅延、信号劣化、及び配線から放射される電磁干渉ノイズについて解決され、かつ高速伝送が可能である光配線技術が注目されている。
基板内の光による高速信号伝送の技術については、光インターコネクションと称される技術が提案されている(例えば、特許文献1参照)。特許文献1では、二次元光導波路層と、発振モードを切り替えられる半導体レーザと、半導体レーザからの出射光の光路を切り替える光路交換構造体を有する。
光路交換構造体は、半導体レーザの発振モードの切り替えに応じて、光導波路層における放射角を変化させ、出射光が光導波路層を伝播するように配置される。これにより、二次元光導波路層における光伝送信号において、伝播状態を選択することが可能になり、発光素子、受光素子の配置の自由度を大きくし、柔軟に光信号伝送の再構成を実現している。
このような光インターコネクションの技術を、特に平面ディスプレイの駆動等に用いるTFTへ応用した技術としては、大型化、大容量表示化にともなう信号の遅延に、光を信号伝送に用いる技術が検討されている。
一方、カメラ本体部に着脱可能に構成されたレンズに固体撮像素子を備えると共に、固体撮像素子から出力される信号を光でカメラ本体部に伝達できるようにした技術が提案されている(例えば、特許文献2参照)。
特開2004−219882号公報 特開2006−196972号公報
しかし、特許文献2に記載の技術では、撮像素子が実装されている基板に発光素子が実装されており、発光素子で発生する熱が、撮像素子に影響を及ぼす可能性があった。
本発明は、このような課題を解決するためになされたもので、外部から入力される光を、画素部から読み出される画素信号で変調して、光信号として出力できるようにした固体撮像素子、固体撮像素子を備えた光学装置、光学装置が接続される信号処理装置、光学装置と信号処理装置を備えた信号処理システムを提供することを目的とする。
上述した課題を解決するため、本発明の固体撮像素子は、光を電気信号に変換する画素部と、画素部から読み出される信号をディジタル信号に変換するA/D変換部と、外部から入力された光を、A/D変換部でディジタル化された信号で変調して、画素部から読み出された信号に基づく信号光を出力する光変調部と、画素部とA/D変換部と光変調部で、信号の入出力を同期させる同期信号を生成するタイミング発生部と、信号の読み出しを制御する制御部を備え、画素部、A/D変換部、光変調部、タイミング発生部及び制御部が単一の基板に集積形成され、1チップ化され、タイミング発生部から画素部に同期信号を供給する配線と、タイミング発生部からA/D変換部に同期信号を供給する配線と、タイミング発生部から光変調部に同期信号を供給する配線を、等長配線としたものである。
本発明の光学装置は、入射された光を電気信号に変換する固体撮像素子と、固体撮像素子に光を入射させる光学素子を備え、固体撮像素子は、光を電気信号に変換する画素部と、画素部から読み出される信号をディジタル信号に変換するA/D変換部と、外部から入力された光を、A/D変換部でディジタル化された信号で変調して、画素部から読み出された信号に基づく信号光を出力する光変調部と、画素部とA/D変換部と光変調部で、信号の入出力を同期させる同期信号を生成するタイミング発生部と、信号の読み出しを制御する制御部を備え、画素部、A/D変換部、光変調部、タイミング発生部及び制御部が単一の基板に集積形成され、1チップ化され、タイミング発生部から画素部に同期信号を供給する配線と、タイミング発生部からA/D変換部に同期信号を供給する配線と、タイミング発生部から光変調部に同期信号を供給する配線を、等長配線としたものである。
本発明の信号処理装置は、入射された光を電気信号に変換する固体撮像素子及び固体撮像素子に光を入射させる光学素子を有し、固体撮像素子は、光を電気信号に変換する画素部と、画素部から読み出される信号をディジタル信号に変換するA/D変換部と、外部から入力された光を、A/D変換部でディジタル化された信号で変調して、画素部から読み出された信号に基づく信号光を出力する光変調部と、画素部とA/D変換部と光変調部で、信号の入出力を同期させる同期信号を生成するタイミング発生部と、信号の読み出しを制御する制御部とを有し、画素部、A/D変換部、光変調部、タイミング発生部及び制御部が単一の基板に集積形成され、1チップ化され、タイミング発生部から画素部に同期信号を供給する配線と、タイミング発生部からA/D変換部に同期信号を供給する配線と、タイミング発生部から光変調部に同期信号を供給する配線を、等長配線とした光学装置が接続され、固体撮像素子の光変調部に入力される光を出力する発光部と、固体撮像素子の光変調部から出力される信号光が入力される受光部と、固体撮像素子に画素部からの信号の読み出しを制御する読み出し制御部と、画素部から読み出されて固体撮像素子から光通信で入力される信号に処理を行う信号処理部とを備えたものである。
本発明の信号処理システムは、入射された光を電気信号に変換する固体撮像素子及び固体撮像素子に光を入射させる光学素子を有した光学装置と、光学装置が接続される信号処理装置を備え、固体撮像素子は、光を電気信号に変換する画素部と、画素部から読み出される信号をディジタル信号に変換するA/D変換部と、外部から入力された光を、A/D変換部でディジタル化された信号で変調して、画素部から読み出された信号に基づく信号光を出力する光変調部と、画素部とA/D変換部と光変調部で、信号の入出力を同期させる同期信号を生成するタイミング発生部と、信号の読み出しを制御する制御部とを備え、画素部、A/D変換部、光変調部、タイミング発生部及び制御部が単一の基板に集積形成され、1チップ化され、タイミング発生部から画素部に同期信号を供給する配線と、タイミング発生部からA/D変換部に同期信号を供給する配線と、タイミング発生部から光変調部に同期信号を供給する配線を、等長配線とし、信号処理装置は、固体撮像素子の光変調部に入力される光を出力する発光部と、固体撮像素子の光変調部から出力される信号光が入力される受光部と、固体撮像素子に画素部からの信号の読み出しを制御する読み出し制御部と、画素部から読み出されて固体撮像素子から光通信で入力される信号に処理を行う信号処理部とを備えたものである。
本発明では、固体撮像素子に光が入射することで光電変換された電気信号は、タイミング発生部で生成した同期信号に同期させて画素部から読み出され、A/D変換部に入力される。A/D変換部に入力された信号はディジタル信号に変換され、タイミング発生部で生成した同期信号に同期させて出力されて、光変調部に入力される。光変調部では、信号処理装置から固体撮像素子に入力された一定の光が、A/D変換部から入力されたディジタル信号で変調され、画素部から読み出された画素信号に基づく信号光が、タイミング発生部で生成した同期信号に同期させて出力される。さらに、画素部、A/D変換部、光変調部、タイミング発生部及び制御部が単一の基板に集積形成され、1チップ化されており、タイミング発生部から画素部に同期信号を供給する配線と、タイミング発生部からA/D変換部に同期信号を供給する配線と、タイミング発生部から光変調部に同期信号を供給する配線が、等長配線とされている。
本発明の固体撮像素子によれば、外部から入力される光を、画素部から読み出される画素信号に基づき変調する光変調部を備えることで、固体撮像素子に光を自発光する発光素子を備えることなく、光通信による信号の出力を実現できる。また、信号の入出力を同期信号で同期させることで、画素部に光が入射されることで光電変換された電気信号を、光信号に変換して出力できる。これにより、光通信に起因する熱の発生が抑えられ、画素部に対する熱の影響を小さくできる。また、光通信に起因する消費電力を小さくできる。
従って、固体撮像素子から読み出される信号を、熱の影響を抑えて高速伝送することが可能となる。また、各要素を1チップ化すれば、省スペース化が実現できる。また、設計が容易となり、電気による信号の伝送経路を短くできることから高速伝送がより容易に実現できる。
本発明の光学装置によれば、上述した固体撮像素子を備えることで、固体撮像素子で撮像された光の像を、高速伝送で出力できる。本発明の信号処理装置によれば、上述した光学装置が接続されることで、固体撮像素子で撮像された光の像が高速伝送で入力され、大容量のデータを取得できる。
本発明の信号処理システムによれば、上述した光学装置と信号処理装置を備えることで、固体撮像素子で撮像された光の像が高速伝送可能となり、固体撮像素子の画素数の増大、フレームレートの増大に伴う転送データの大容量化に対応することができる。
以下、図面を参照して本発明の固体撮像素子、固体撮像素子を備えた光学装置、光学装置が接続される信号処理装置、光学装置と信号処理装置を備えた信号処理システムの実施の形態について説明する。
<第1の実施の形態の固体撮像素子の概要>
図1は、第1の実施の形態の固体撮像素子の概要を示す機能ブロック図である。第1の実施の形態の固体撮像素子1Aは、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ、またはCCD(Charge Coupled Device)イメージセンサで構成される。固体撮像素子1Aは、光を電気信号に変換して出力する画素部10Aと、画素部10Aから出力される電気信号をディジタル信号に変換するA/D変換部11Aを備える。画素部10Aは、光を電気に変換する画素が2次元または1次元に配列され、入射された光の強度に応じた電気信号が出力される。
固体撮像素子1Aは、A/D変換部11Aでディジタル化された電気信号を、光信号に変換して出力する光通信部12Aを備える。光通信部12Aは、外部から入力された光Lを変調して、信号光Lsを出力する光変調部120を備える。光変調部120は、外部から入力されて透過または反射する光を、電圧の変化等による電気信号に基づいて変調する機能を有する。
光通信部12Aでは、外部からの一定の光Lが光変調部120に入力されると共に、A/D変換部11Aでディジタル信号に変換された電気信号が光変調部120に入力される。これにより、光変調部120は、外部から入力された光Lを、A/D変換部11Aから入力された電気信号に基づいて変調することで、画素部10Aから読み出される画素データに基づく信号光Lsを出力する。
固体撮像素子1Aは、動作モードに応じた駆動クロック(CLK)を生成し、画素部10A、A/D変換部11A及び光通信部12Aの各機能ブロックに供給するタイミングジェネレータ(TG)13Aを備える。また、固体撮像素子1Aは、制御信号等の入出力が行われる制御I/O14Aと、電源を供給するDC−DC部15Aと、画素データの読み出しを制御する制御部16Aを備える。制御部16AとDC−DC部15Aとタイミングジェネレータ13Aは、バス17に接続されて、制御信号やデータの送受が行われる。固体撮像素子1Aは、画素信号を光通信で伝送するため、画素信号を電気信号で外部へ伝送するための電極は不要となる。このため、制御I/O14Aに接続される図示しない電極は、少なくとも電源線とGND線と制御線の3本で構成することが可能である。
制御部16Aは、DC−DC部15Aを制御して、固体撮像素子1Aの電源のオンとオフを切り替える。また、制御部16Aは、駆動クロックをタイミングジェネレータ13Aで生成して画素部10AとA/D変換部11Aと光通信部12Aに供給し、駆動クロックに同期させて画素部10AとA/D変換部11Aと光通信部12Aを動作させる。
画素部10AとA/D変換部11Aと光通信部12Aは、タイミングジェネレータ13Aから供給される駆動クロックで、信号の入出力を同期させる。画素部10Aでは、入射される光の像に応じた画素データが、電気信号として読み出される。A/D変換部11Aでは、画素部10Aから読み出された画素データが入力され、ディジタル信号に変換されて出力される。光通信部12Aでは、A/D変換部11Aでディジタル信号に変換された電気信号が光変調部120に入力され、外部から光変調部120に入力された光Lが、画素部10Aから読み出された電気信号に基づき変調されて信号光Lsが出力される。
<第1の実施の形態の光学装置の概要>
図2は、光学装置と信号処理装置を備えた信号処理システムの概要を示す機能ブロック図で、まず、固体撮像素子を備えた光学装置の概要について説明する。第1の実施の形態の光学装置2Aは、上述した固体撮像素子1Aと、レンズ部20と、固体撮像素子1Aとレンズ部20等が実装されるハウジング21を備える。レンズ部20は光学素子の一例で、1枚のレンズまたは複数枚のレンズを組み合わせて構成される。
光学装置2Aは、固体撮像素子1Aの画素部10Aが、レンズ部20の焦点位置に合うように構成され、レンズ部20から入射した光の像が、固体撮像素子1Aの画素部10Aに結像される。
光学装置2Aは、撮像対象物との距離によらず、レンズ部20の焦点位置を固体撮像素子1Aの画素部10Aに合わせるため、例えば、固体撮像素子1Aに対してレンズ部20を光軸方向に移動させる焦点合わせ機構を備えている。
<第1の実施の形態の信号処理装置の概要>
次に、図2を参照して信号処理装置の概要について説明する。第1の実施の形態の信号処理装置3Aは、光信号を電気信号に変換する光通信部30Aと、制御信号等の入出力が行われる制御I/O31Aを備え、上述した光学装置2Aと接続される。信号処理装置3Aは、光学装置2Aが接続されると、光通信部30Aが固体撮像素子1Aの光通信部12Aと光学的に結合される。また、制御I/O31Aが固体撮像素子1Aの制御I/O14Aと接続される。
信号処理装置3Aは、ユーザによる操作を受ける操作部32Aと、操作部32Aでの操作に基づいて、光学装置2Aの固体撮像素子1Aに画素データの読み出しを指示する読み出し制御部33Aを備える。
信号処理装置3Aは、制御I/O31Aから光学装置2Aの固体撮像素子1Aに画素データの読み出しを指示し、自機の光通信部30Aと固体撮像素子1Aの光通信部12Aとの間で光通信を行って、固体撮像素子1Aから画素データを取得する。
光通信部30Aは、固体撮像素子1Aの光変調部120に入力される光Lを出力する発光部300と、光変調部120から出力される信号光Lsが入力される受光部301を備える。発光部300は、半導体レーザ(LD)等の発光素子を有し、一定の連続した光Lを出力する。受光部301は、フォトダイオード(PD)等の受光素子を有し、信号処理装置3Aの発光部300から出力した光Lを、固体撮像素子1Aの光変調部120で変調した信号光Lsが入力されて、光信号で入力される画素データを電気信号に変換して出力する。
信号処理装置3Aは、固体撮像素子1Aと光通信を行って取得した画素データに所定の信号処理を行い、画像データを生成する信号処理部34Aを備える。また、信号処理装置3Aは、固体撮像素子1Aから取得した画素データを保持するデータ保持部35Aと、信号処理部34Aで生成された画像データから画像を表示する表示部36Aを備える。
信号処理装置3Aは、自機及び光学装置2Aに電源を供給する電源37Aと、電源の供給を制御する電源制御部38Aを備える。電源制御部38Aは、信号処理装置3Aの電源をオンとする操作、及び電源をオフとする操作に基づき、信号処理装置3Aに対する電源の供給の有無と、光学装置2Aに対する電源の供給の有無を、所定の順番で切り替える電源供給制御を行う。
<第1の実施の形態の信号処理システムの概要>
次に、図2を参照して信号処理システムの概要について説明する。第1の実施の形態の信号処理システム4Aは、上述した光学装置2Aと信号処理装置3Aを備え、例えば、光学装置2Aが信号処理装置3Aに対して着脱可能で交換できるように構成される。
信号処理システム4Aは、信号処理装置3Aに光学装置2Aが接続されると、信号処理装置3Aの光通信部30Aと、光学装置2Aを構成する固体撮像素子1Aの光通信部12Aが光学的に結合される。また、信号処理装置3Aの制御I/O31Aと、固体撮像素子1Aの制御I/O14Aが接続される。
これにより、信号処理システム4Aは、固体撮像素子1Aの光通信部12Aと、信号処理装置3Aの光通信部30Aによって、光学装置2Aと信号処理装置3Aとの間でデータが光信号で入出力される。
また、信号処理システム4Aは、信号処理装置3Aの制御I/O31Aと、固体撮像素子1Aの制御I/O14Aによって、信号処理装置3Aと光学装置2Aとの間で制御信号が入出力される。
信号処理システム4Aは、信号処理装置3Aの操作部32Aでユーザの操作を受け、操作部32Aでの操作に基づいて、信号処理装置3Aの読み出し制御部33Aが、画素データの読み出しを指示する制御信号を出力する。
信号処理システム4Aは、信号処理装置3Aの制御I/O31Aと、光学装置2Aの制御I/O14Aによって、画素データの読み出しを指示する制御信号が光学装置2Aの固体撮像素子1Aに入力される。
信号処理システム4Aは、画素データの読み出しを指示する制御信号が光学装置2Aの固体撮像素子1Aに入力されると、固体撮像素子1Aの制御部16Aが、タイミングジェネレータ13Aで駆動クロックを生成する。
タイミングジェネレータ13Aで生成された駆動クロックは、画素部10AとA/D変換部11Aと光通信部12Aに供給され、画素部10Aでは画素データが電気信号として読み出される。A/D変換部11Aでは、画素部10Aから読み出された画素データが入力され、ディジタル信号に変換されて出力される。光通信部12Aでは、A/D変換部11Aでディジタル信号に変換された電気信号が光変調部120に入力され、外部から光変調部120に入力された光Lが、画素部10Aから読み出された電気信号に基づき変調されて信号光Lsが出力される。
信号処理システム4Aは、固体撮像素子1Aの光通信部12Aと、信号処理装置3Aの光通信部30Aによって、固体撮像素子1Aで読み出された画素データが、光通信で信号処理装置3Aに入力される。
信号処理システム4Aは、固体撮像素子1Aで読み出された画素データが、光通信で信号処理装置3Aに入力されると、信号処理装置3Aの光通信部30Aが、光信号で入力される画素データを電気信号に変換して出力する。
信号処理システム4Aは、信号処理装置3Aの光通信部30Aで電気信号に変換された画素データに、信号処理装置3Aの信号処理部34Aが所定の信号処理を行って画像データを生成し、例えば表示部36Aに画像を表示する。
<固体撮像素子の光通信部の構成例>
図3は、固体撮像素子の光通信部の一例を示す構成図、図4は、印加電圧と光の吸収量の関係を示すグラフである。固体撮像素子1Aの光通信部12Aは、光変調部120として、電界吸収型光変調器120Aを備える。電界吸収型光変調器120Aは、量子井戸と呼ばれる半導体の微細構造に電界を印加すると、半導体のバンド構造が変化し、光の吸収量が変化する現象を利用している。
電界吸収型光変調器120Aは、多重量子井戸構造を有する導波路層501を、P層502aとN層502bで挟む構成である。電界吸収型光変調器120Aにおける導波路層501の光吸収量は、バイアス電圧によって、図4に示すように吸収帯域がシフトする。これにより、例えばλ2の波長の光を導波路層501に入力した場合、印加電圧があると光が吸収され、印加電圧が無いと光が透過し、導波路層501に入力された光が、印加される電圧に応じて損失が変化することで強度変調される。
固体撮像素子1Aでは、A/D変換部11Aから出力される電気信号に応じた電圧を電界吸収型光変調器120Aに印加することで、光の変調を実現する。そこで、固体撮像素子1Aの光通信部12Aは、信号処理装置3Aに光学装置2Aが接続されると、信号処理装置3Aの発光部300から出力された光Lが電界吸収型光変調器120Aの導波路層501に入力されるように構成される。また、電界吸収型光変調器120Aの導波路層501を透過して変調された信号光Lsが、信号処理装置3Aの受光部301に入力されるように構成される。更に、A/D変換部11Aでディジタル信号に変換されて出力される電気信号による電圧が、電界吸収型光変調器120AのP層502aとN層502bに印加されるように構成される。
これにより、固体撮像素子1Aの光通信部12Aは、信号処理装置3Aの発光部300から電界吸収型光変調器120Aに入力された光Lが、画素部10Aから読み出されてディジタル化された電気信号Dsに基づき変調され、信号光Lsとして出力される。
図5は、固体撮像素子の光通信部の他の例を示す構成図である。固体撮像素子1Aの光通信部12Aは、光変調部120として、マッハツェンダ型光変調器120Bを備える。マッハツェンダ型光変調器120Bは、電圧を印加することによって屈折率が変わる電気光学効果(ポッケルス効果)を利用している。電気光学効果を利用した光変調器では、印加する電圧によって、光の位相を変調することができる。
マッハツェンダ型光変調器120Bでは、電気光学効果で生じる光の位相差を利用して、マッハツェンダ干渉計を構成する2本の導波路で光路長差を生じさせることで光を干渉させ、光のオンとオフを実現している。
マッハツェンダ型光変調器120Bは、ニオブ酸リチウム(LiNbO3)等の強誘電体結晶の基板503に、分岐部504aと結合部504bにより第1の導波路505aと第2の導波路505bに分岐結合される光導波路505を備える。また、電圧を印加する電極506を備える。なお、マッハツェンダ型光変調器121Cは、GaAs(ガリウム砒素)やInP(インジウムリン)等の半導体材料を用いて構成しても良い。半導体材料によるマッハツェンダ型光変調器121Cは、半導体プロセスによりInP基板上に作成され、LiNbO3によるマッハツェンダ型変調器に比べて、より小型化が可能である。
マッハツェンダ型光変調器120Bは、第1の導波路505aと第2の導波路505bを通過する光の位相がπだけずれるような電圧V1を印加すると、分岐部504aで分岐した光は、位相がπだけずれて結合部504bで合波される。位相がπだけずれて合波した光は、干渉により互いに打ち消しあい、出力は0となる。
一方、第1の導波路505aと第2の導波路505bを通過する光の位相にずれが生じないような電圧V0を印加すると、分岐部504aで分岐した光は、同位相で結合部504bで合波される。同位相で合波した光は、干渉により強めあい、出力は1となる。
このように、マッハツェンダ型光変調器120Bは、位相がπずれる電圧を印加することで、光のオン/オフ制御が実現される。
固体撮像素子1Aでは、A/D変換部11Aから出力される電気信号に応じた電圧をマッハツェンダ型光変調器120Bに印加することで、光の変調を実現する。そこで、固体撮像素子1Aの光通信部12Aは、信号処理装置3Aに光学装置2Aが接続されると、信号処理装置3Aの発光部300から出力された光Lがマッハツェンダ型光変調器120Bの光導波路505の入力端に入力されるように構成される。また、マッハツェンダ型光変調器120Bの第1の導波路505aと第2の導波路505bを通過して変調され、光導波路505の出力端から出力された信号光Lsが、信号処理装置3Aの受光部301に入力されるように構成される。更に、A/D変換部11Aでディジタル信号に変換されて出力される電気信号による電圧が、マッハツェンダ型光変調器120Bの電極506に印加されるように構成される。
これにより、固体撮像素子1Aの光通信部12Aは、信号処理装置3Aの発光部300からマッハツェンダ型光変調器120Bに入力された光Lが、画素部10Aから読み出されてディジタル化された電気信号Dsに基づき変調され、信号光Lsとして出力される。
図6は、固体撮像素子の光通信部の他の例を示す構成図である。固体撮像素子1Aの光通信部12Aは、光変調部120として、ミラー部120Cを備える。ミラー部120Cは、MEMS(Micro Electro Mechanical Systems)技術を利用して形成されたマイクロミラーデバイス(DMD; Digital Micromirror Device)である。
ミラー部120Cは、例えばシリコン(Si)の基板507上に、反射ミラー508と、反射ミラー508に取り付けられるヨーク509と、反射ミラー508をヨーク509に固定するミラーサポートホスト510を備える。反射ミラー508とヨーク509は、ヒンジ511により基板507に支持される。ヨーク509の先端には緩衝板509aが形成される。ヒンジ511は、変形かつ復元する弾性を有する。基板507にはアドレス電極512が形成される。アドレス電極512は、ヨーク509及び反射ミラー508と対向する。ヨーク509と反射ミラー508は、バイアスリセットバス513に機械的及び電気的に接続される。
ミラー部120Cは、バイアス電圧を印加すると共に、アドレス電極512に電圧を印加すると、静電引力が反射ミラー508とアドレス電極512の間、及びヨーク509とアドレス電極512の間に作用して静電トルクを発生する。これにより、反射ミラー508とヨーク509は、緩衝板509aが着地、停止するまで回転して、反射ミラー508が傾けられる。バイアス電圧が無印加の場合には、ヒンジ511の復元力で、反射ミラー508とヨーク509は水平位置で安定する。
このように、ミラー部120Cは、反射ミラー508に入力される光が反射される方向が、電圧の印加の有無で変化し、受光側では、反射ミラー508の角度によって受光量が変わるので、光のオン/オフ制御が実現される。
固体撮像素子1Aでは、A/D変換部11Aから出力される電気信号に応じた電圧をミラー部120Cに印加することで、光の変調を実現する。そこで、固体撮像素子1Aの光通信部12Aは、信号処理装置3Aに光学装置2Aが接続されると、信号処理装置3Aの発光部300から出力された光Lがミラー部120Cの反射ミラー508に入力されるように構成される。また、反射ミラー508で反射される光が、電圧が印加されていないときの反射ミラー508の角度では、例えば信号処理装置3Aの受光部301に入力され、電圧が印加されたときの角度では入力されないように構成される。更に、A/D変換部11Aでディジタル信号に変換されて出力される電気信号による電圧が、ミラー部120Cに印加されるように構成される。
これにより、固体撮像素子1Aの光通信部12Aは、信号処理装置3Aの発光部300からミラー部120Cに入力された光Lが、画素部10Aから読み出されてディジタル化された電気信号Dsに基づき変調され、信号光Lsとして出力される。
<第1の実施の形態の信号処理システムの電源供給制御例>
図7は、電源オン時の処理の流れを示すフローチャート、図8は、電源オフ時の処理の流れを示すフローチャートで、次に、電源オン時及び電源オフ時の電源供給制御例について説明する。
まず、電源オン時の処理について、各図を参照して説明する。信号処理システム4Aでは、電源オン時に信号処理装置3Aから光学装置2Aの固体撮像素子1Aの順で電源が入れられ、かつ、信号処理装置3Aの光通信部30Aでは、受光部301から発光部300の順で電源が入れられるように電源供給制御が行われる。
すなわち、図示しない電源のスイッチで、信号処理システム4Aの電源をオンにする操作が行われると、図7のステップSA1の処理で、信号処理装置3Aに電源が供給される。信号処理装置3Aに電源が供給されると、信号処理装置3Aの電源制御部38Aは、図7のステップSA2の処理で、信号処理装置3Aの受光部301に電源を供給する。
信号処理装置3Aの電源制御部38Aは、自機の受光部301への電源の供給を開始した後、図7のステップSA3の処理で、光学装置2Aの固体撮像素子1Aに電源を供給する。
図2に示す構成の信号処理システム4Aでは、電源37Aが信号処理装置3Aに備えられており、信号処理装置3Aの制御I/O31Aと、固体撮像素子1Aの制御I/O14Aによって、信号処理装置3Aから光学装置2Aへの電源の供給が行われる。
固体撮像素子1AのDC−DC部15Aは、信号処理装置3Aから電源の供給を受けると、図7のステップSA4の処理で、固体撮像素子1Aの光変調部120に電源を供給する。詳細には、光通信部12Aの図示しない駆動部に電源が供給され、その後に、光変調部120に電源が入る。これにより、光変調部120の駆動部の出力段が不定の状態で光変調部120に電源が供給されることによる出力段の故障を防ぐことができる。その後、図7のステップSA5の処理で、画素部10Aをはじめとする撮像動作に関わる機能ブロックに電源を供給する。固体撮像素子1Aの電源投入時にこの順番を守ることで、光通信部12Aが駆動可能な状態となる前に光通信部12Aに画素データが入力されることで発生する、光通信部12Aの駆動部の入力段の故障や破壊を防ぐことができる。
信号処理装置3Aの電源制御部38Aは、固体撮像素子1Aに電源が供給されて、光変調部120に電源が供給されると、図7のステップSA6の処理で、信号処理装置3Aの発光部300に電源を供給する。
これにより、信号処理装置3Aの受光部301、固体撮像素子1Aの光変調部120、信号処理装置3Aの発光部300の順で電源が入れられる。
上述したように、受光部側から発光部側の順で電源が入れられると、信号処理装置3Aの読み出し制御部33Aは、図7のステップSA7の処理で、画素データの読み出しを指示する制御信号を出力して、固体撮像素子1Aからの画素データの読み出しを開始する。
次に、電源オフ時の処理について、各図を参照して説明する。信号処理システム4Aでは、電源オフ時に光学装置2Aの固体撮像素子1Aから信号処理装置3Aの順で電源の供給が停止され、かつ、信号処理装置3Aの光通信部30Aでは、発光部300から受光部301の順で電源の供給が停止されるように電源供給制御が行われる。
すなわち、図示しない電源のスイッチで、信号処理システム4Aの電源をオフにする操作が行われると、信号処理装置3Aの電源制御部38Aは、図8のステップSB1の処理で、信号処理装置3Aの発光部300への電源供給を停止する。信号処理装置3Aの電源制御部38Aは、自機の発光部300への電源供給を停止すると、光学装置2Aに固体撮像素子1Aの電源供給停止処理を行う制御信号を出力する。固体撮像素子1AのDC−DC部15Aは、電源供給停止処理の制御信号により、図8のステップSB2の処理で、固体撮像素子1Aの画素部10A等、撮像動作に関わる機能ブロックへの電源供給を停止する。画素部10A等への電源供給を停止した後、ステップSB3の処理で、固体撮像素子1Aの光変調部120への電源供給を停止する。固体撮像素子1Aの電源供給停止時にこの順番を守ることで、光通信部12Aが駆動されない状態となってから光通信部12Aに画素データが入力されることで発生する、光通信部12Aの駆動部の入力段の故障や破壊を防ぐことができる。光通信部12Aでは、光変調部120への電源供給を停止した後に、駆動部への電源供給が停止される。これにより、電源投入時と同様に、光変調部120の駆動部の出力段が不定の状態で光変調部120に電源が供給され続けることによる出力段の故障を防ぐことができる。
信号処理装置3Aの電源制御部38Aは、固体撮像素子1Aの光変調部120への電源供給を停止させた後、図8のステップSB4の処理で、固体撮像素子1Aへの電源供給を停止する。
信号処理装置3Aの電源制御部38Aは、固体撮像素子1Aへの電源供給を停止した後、図8のステップSB5の処理で、信号処理装置3Aの受光部301への電源供給を停止する。
これにより、信号処理装置3Aの発光部300、固体撮像素子1Aの光変調部120、信号処理装置3Aの受光部301の順で電源の供給が停止される。
上述したように、発光部側から受光部側の順で電源供給が停止されると、信号処理装置3Aの電源制御部38Aは、図8のステップSB6の処理で、信号処理装置3Aへの電源供給を停止する。
図9は、発光部の一例を示す構成図である。発光部300は、例えば面発光型半導体レーザ(VCSEL)300Aが用いられる。面発光型半導体レーザ300Aは、p型電極300aとn型電極300bの間に、上方ブラック反射ミラー(DBRミラー)300cと、活性層300dと、下方ブラック反射ミラー(DBRミラー)300eと、n型半導体基板300fが積層される。面発光型半導体レーザ300Aは、活性層300dの上下に、誘電体多層膜で構成された上方ブラック反射ミラー300cと下方ブラック反射ミラー300eが形成されることで、ミラー間で共振器が構成される。
次に、面発光型半導体レーザ300Aの動作原理について説明する。
(1)p型電極300aとn型電極300bに電圧を印加し外部から電流を流すことにより、活性層300dにおけるエネルギー準位において、反転分布状態を生じさせる。
(2)活性層300dにおいて、エネルギーギャップに対応するエネルギーを持つ光子が自然放出し、そのホトンが誘導放出を引き起こすことにより、光を増幅する。
(3)活性層300dの上下のミラーにより光は反射され、その一部は再び活性層300d内へ導かれ、誘導放出により増幅される。
(4)増幅された光の一部がp型電極300a側の端面を通過して外部に出射される。
これにより、面発光型半導体レーザ300Aは、電圧を印加し所定の電流を流すことにより、連続した一定の光Lが出力される。なお、発光部300としては、端面発光型の半導体レーザでも良い。
半導体レーザで構成される発光部300は、過大電流が入力すると、ミラー近傍の溶解や破壊が発生する。また、例えば、半導体レーザの駆動のために電流を吸い込むタイプの駆動回路においては、半導体レーザだけに先に電源が入ることで、意図しない電流が流れると、破損する可能性がある。このため、発光部300内においても、図7のステップSA6で説明した電源オン時には、光通信部12Aの光変調部120と図示しない駆動部における電源オン時の制御と同様に、図示しない駆動回路に電源を供給した後に、半導体レーザに電源を供給する。また、図8のステップSB1で説明した電源オフ時には、光通信部12Aの光変調部120と図示しない駆動部における電源オフ時の制御と同様に、半導体レーザへの電源供給を停止した後に駆動回路への電源供給を停止する。
図10は、受光部の一例を示す機能ブロック図である。受光部301は、フォトダイオード301aと、増幅器であるトランスインピーダンスアンプ301bと、リミッティングアンプ301cを備える。フォトダイオード301aは電圧(逆バイアス電圧)が印加され、入射した光に応じた電流を出力する。トランスインピーダンスアンプ301bは、フォトダイオード301aから入力される微弱な電流信号を増幅し、電圧信号に変換する。リミッティングアンプ301cは、トランスインピーダンスアンプ301bからの微小信号を、その大きさによらず一定の電圧振幅になるように増幅して出力する。
一般に、フォトダイオード301aの直後に使用されるトランスインピーダンスアンプ301bは、高速、高感度のため、入力段に保護回路が無い。一方、リミッティングアンプ301cは、電圧入力であるので静電対策が施されている。
これにより、フォトダイオードに意図しない強度の光が入力すると、増幅器が破壊する可能性がある。また、想定された規格を超える電圧が印加されると、フォトダイオードが破壊する可能性がある。このため、図7及び図8のフローチャートで説明した処理で電源のオンとオフを制御する。
図7及び図8の処理では、電源オン時には、信号処理装置3Aから固体撮像素子1Aの順で電源が入る。また、信号処理装置3Aでは、読み出し制御部33A等の制御系の電源が入れられてから、光通信部30Aの電源が入れられる。更に、光通信部30Aでは、受光部301の電源が入れられてから、発光部300の電源が入れられる。また、発光部300は、固体撮像素子1Aの光変調部120の電源が入れられてから、電源が入れられる。発光部300は、図示しない駆動回路の電源が入れられた後に半導体レーザの電源が入れられる。更に、固体撮像素子1Aでは、制御部16A等の電源が入れられてから、光通信部12Aの駆動部の電源が入れられた後、光変調部120の電源が入れられる。その後、撮像動作に関わる画素部10Aをはじめとする機能ブロックの電源が入れられる。
図7及び図8の処理では、電源オフ時には、固体撮像素子1Aから信号処理装置3Aの順で電源が切られる。また、信号処理装置3Aでは、光通信部30Aの電源が切られてから、読み出し制御部33A等の電源が切られる。更に、光通信部30Aでは、発光部300の電源が切られてから、受光部301の電源が切られる。また、発光部300は、固体撮像素子1Aの光変調部120の電源が切られる前に、電源が切られる。発光部300は、半導体レーザの電源が切られてから駆動回路の電源が切られる。更に、固体撮像素子1Aでは、撮像動作に関わる画素部10A等の機能ブロックの電源が切られ、その後、光通信部12Aの電源が切られる。光通信部12Aでは、光変調部120の電源が切られてから、駆動部の電源が切られる。そして、光通信部12Aの電源が切られてから、制御部16A等の電源が切られる。
これにより、信号処理装置3Aでは、光通信部30Aを制御できる状態でなければ、光通信部30Aに電源が供給されない。また、受光部301で光を受信できる状態でなければ、発光部300は駆動されない。更に、固体撮像素子1Aで光変調部120を制御できる状態でなければ、発光部300は駆動されない。
従って、信号処理装置3Aの光通信部30Aにおいて、発光部300の半導体レーザだけに先に電源が入ることで意図しない電流が流れて、破壊することを防ぐことができる。また、信号処理装置3Aの光通信部30Aにおいて、受光部301のフォトダイオードに意図しない強度の光が入力して、増幅器が破壊することを防ぐことができる。更に、想定された規格を超える電圧が印加されて、フォトダイオードが破壊することを防ぐことができる。
<第1の実施の形態の固体撮像素子の具体例>
図11は、第1の実施の形態の固体撮像素子の具体例を示す機能ブロック図である。以下の説明では、固体撮像素子1Aは、CMOSイメージセンサで構成される。
CMOSイメージセンサを構成する固体撮像素子1Aの画素部10Aは、画素100が2次元配列される画素アレイ101と、画素データを読み出す画素100をXYアドレス方式で選択する垂直走査回路102及び水平走査回路103を備える。
垂直走査回路(Row Decoder/Driver)102は、画素アレイ101の行方向において画素データを読み出す画素100を選択する。また、動作モード毎に行の選択パターンを生成して、生成された選択パターンに基づき画素データを読み出す画素100を選択する。
水平走査回路(Column Decoder/Driver)103は、画素アレイ101の列方向において画素データを読み出す画素100を選択する。また、動作モード毎に列の選択パターンを生成して、生成された選択パターンに基づき画素データを読み出す画素100を選択する。更に、水平方向の画素加算等の演算を行って、各画素100から出力された信号の並びを並列直列変換する。
固体撮像素子1Aは、画素データからノイズを除去するカラム(Column)CDS回路104を備える。CDS(Correlated Double Sampling:相関2重サンプリング)回路とは、信号の中に含まれる基準(リセット)レベルと信号レベルをサンプリングし、減算を行って差分を算出する動作を行う回路である。カラムCDS回路104は、画素アレイ101から画素データを出力する列信号線105に接続されたCDS回路で、画素100毎に増幅等のばらつきを除去する。カラムCDS回路104では、回路内部でアナログ信号のまま処理が行われる。
固体撮像素子1Aは、画素部10Aの上述した垂直走査回路102と水平走査回路103がバス17に接続される。また、上述したA/D変換部11Aと、光変調部120と、タイミングジェネレータ13Aと、DC−DC部15Aと、制御部16Aがバス17に接続される。
そして、タイミングジェネレータ13Aで生成される駆動クロックφhが水平走査回路103とカラムCDS回路104に供給される。また、駆動クロックφADCがA/D変換部11Aに供給される。更に、駆動クロックφOptが光変調部120に供給される。
固体撮像素子1Aは、画素部10Aと、A/D変換部11Aと、光変調部120と、タイミングジェネレータ13Aと、DC−DC部15Aと、制御部16Aが、シリコン等の基板18上に集積形成される。固体撮像素子1Aは、半導体の製造プロセスを利用してこれら構成要素が集積形成されて1チップ化されている。また、固体撮像素子1Aでは、基板18の表面または裏面に、図1で説明した制御I/O14Aと接続される図示しない電極が形成される。
図12及び図13では、各画素の構成と画素信号の読み出し構成を示し、図12は、画素アレイの具体例を示す回路構成図、図13は、各画素の構造モデル例を示す断面構造図である。画素100は、光を電気(信号電荷)に変換するフォトダイオード(PD)106と、電気信号を増幅するFDアンプ107と、行選択スイッチを構成する行選択トランジスタ(Tr)108を備える。各画素100は、垂直走査回路102により行選択線109で行選択トランジスタ108のオンとオフが切り替えられ、FDアンプ107で増幅された電気信号が列信号線105に出力される。
FDアンプ107は、電荷検出部(FD)110と、リセットトランジスタ111と、増幅トランジスタ112を備え、蓄積期間の間に光電変換された電荷の増幅機能を持つ。
すなわち、FDアンプ107は、蓄積期間が完了すると、信号を出力する前に電荷検出部110がリセットゲート(Rst)を構成するリセット線113でリセットされる。リセットされた電荷検出部110の電圧が、増幅トランジスタ112のゲートに接続されているので、信号の無い状態であるリセットレベルが、増幅トランジスタ112のソースから列信号線105に出力される。
その直後にフォトダイオード106から読み出しゲート(Rd)を構成する行読み出し線114により電荷検出部110に信号電荷が読み出され、転送を終えてから行読み出し線114が閉じられると、電荷検出部110の電圧が、フォトダイオード106に入射した光の強さに相当する分変化するので、信号のある状態である信号レベルが、増幅トランジスタ112から列信号線105に出力される。
なお、図13に示すフォトダイオード106は、N層領域106aの表面にP層領域106bが形成される埋め込みフォトダイオードと称される構成で、P層領域106bが暗電流の発生を抑制し、暗電流によるFPN(Fixed Pattern Noise)が改善されている。
<第1の実施の形態の信号処理システムの具体例>
図14は、第1の実施の形態の信号処理システムの具体例を示す機能ブロック図である。固体撮像素子1AとしてCMOSイメージセンサが用いられる信号処理システム4Aとして、カメラシステム401Aが構成される。
カメラシステム401Aは、図2で説明した光学装置2Aとしてレンズユニット402Aを備えると共に、信号処理装置3Aとしてカメラ本体部403Aを備える。カメラ本体部403Aは、図2で説明した構成に加えて、撮像を行うシャッタ404と、測光及び測距を行うAE/AF検出部405と、補助光を出射するストロボ406と、ストロボ制御部407を備える。カメラシステム401Aは、カメラ本体部403Aの信号処理部34Aでデモザイク処理及びカメラ信号処理が行われる。
<カメラシステムにおける画素信号の読み出し動作>
次に、カメラシステム401Aにおける画素信号の読み出し動作について、各図を参照して説明する。
(1)レンズユニット402Aに入射した光の像は、レンズ部20により結像されて、固体撮像素子1Aの画素部10Aに入射する。
(2)画素部10Aの画素100に光が入射されることで光電変換が行われ、電荷の蓄積が開始される。
(3)電子シャッタまたはメカニカルシャッタによる露光制御の時間に応じて、蓄積時間の制御が行われ、電荷の蓄積期間が完了する。
(4)垂直走査回路102によって信号を読み出す行選択線109を選択する。
(5)電荷検出部110をリセット線113でリセットして、リセットレベルを読み出す。読み出されたリセットレベルはFDアンプ107で増幅される。
(6)リセットレベルをカラムCDS回路104に保持する。
(7)フォトダイオード106から行読み出し線114により電荷検出部110に信号電荷を読み出す。読み出された信号電荷はFDアンプ107で増幅される。
(8)信号レベルをカラムCDS回路104に保持する。
(9)カラムCDS回路104において、信号レベルとリセットレベルを減算する。
(10)水平走査回路103により列選択を順次行うことで、カラムCDS回路104から列毎の画素信号を得る。
(11)得られた画素信号をA/D変換部11AでA/D変換し、固体撮像素子1Aの光通信部12Aに転送する。
(12)固体撮像素子1Aの光通信部12Aでは、カメラ本体部403Aから光変調部120に入力された光Lが、A/D変換部11Aから入力されたディジタル信号に従って変調されて、信号光Lsが出力される。
上述した(4)〜(12)の手順を、垂直走査回路102により行毎に順次行うことで、固体撮像素子1Aに入射された光の像から、画像(静止画)が得られる。
<カメラシステムにおける動作モード例>
図15は、カメラシステムで実行される動作モードの一例を示す状態遷移図ある。カメラシステム401Aで実行される動作モードには、後述するドラフトモードや静止画モードの他に、例えば、隣接数画素間での演算をする画素演算モードがある。画素演算モードは、微分や積分の他、特徴量抽出、重心抽出、計数、計測等にも利用できる。更に、動作モードには、間引き選択の代替としての画素加算モード、フレーム加算モード、顔認識等に代表される認識パラメータを算出する認識モード等もある。次に、カメラシステム401Aで実行される動作モードについて、ここではドラフトモードと静止画モードを例に説明する。カメラシステム401Aは、低解像度で動画を出力するドラフトモードM1と、高解像度で静止画を出力する静止画モードM2が実行される。カメラシステム401Aは、撮像前の構図を決める動作等では、ドラフトモードM1を実行し、シャッタが押されることによるシャッタトリガで、静止画モードM2を実行し、ドラフトモードM1から静止画モードM2に遷移する。静止画モードM2で撮像が行われ、静止画の取り込みが終了すると、ドラフトモードM1を実行し、静止画モードM2からドラフトモードM1に遷移する。
<ドラフトモードの動作例>
図16は、ドラフトモードにおけるデータの流れを示すデータフロー図、図17は、ドラフトモードにおける固体撮像素子での処理の一例を示すフローチャートであり、次に、ドラフトモードの詳細について説明する。
まず、ドラフトモードにおけるデータの流れについて説明すると、カメラシステム401Aは、全画素の中から所定の画素を選択して画素データの読み出しを指示し、固体撮像素子1Aでは、レンズ部20から入射した光の像が画素部10Aで光電変換される。読み出しが指示された画素から読み出された信号電荷はFDアンプ107で増幅され、カラムCDS回路104でノイズ除去される。画素部10Aから読み出された画素データは、A/D変換部11AでA/D変換される。カメラ本体部403Aの発光部300から固体撮像素子1Aの光変調部120に入力される光Lは、A/D変換部11Aから出力されるディジタル信号で変調され、画素データに応じた信号光Lsが出力される。
固体撮像素子1Aとカメラ本体部403Aとの間では、光通信部12Aと光通信部30Aによってデータの光通信が行われ、固体撮像素子1Aの光変調部120で変調された信号光Lsは、カメラ本体部403Aの受光部301に入力される。
カメラ本体部403Aの受光部301に入力された画素データの光信号は、電気信号に変換され、信号処理部34Aでデモザイク処理及びカメラ信号処理が行われて、表示部36Aに表示される。
次に、ドラフトモードを実行する固体撮像素子1Aでの処理について説明すると、固体撮像素子1Aは、図17のステップSC1の処理で、カメラ本体部403Aの読み出し制御部33Aにより、ドラフトモードでの画素読み出しの指示を受ける。
固体撮像素子1Aの制御部16Aは、図17のステップSC2の処理で、タイミングジェネレータ13Aに指定された画素読み出しのタイミングを指示する。制御部16Aは、図17のステップSC3の処理で、垂直走査回路102にドラフトモードの設定を行う。また、制御部16Aは、図17のステップSC4の処理で、水平走査回路103にドラフトモードの設定を行う。
ステップSC3,SC4の処理では、画素の間引き、画素の加算等の設定が行われ、垂直走査回路102では、ドラフトモードで読み出される行の選択パターンが生成され、生成された選択パターンに基づき画素データを読み出す画素が選択される。水平走査回路103では、ドラフトモードで読み出される列の選択パターンが生成され、生成された選択パターンに基づき画素データを読み出す画素が選択される。
制御部16Aは、図17のステップSC5の処理で、光通信部12Aにドラフトモードに応じた駆動を設定する。固体撮像素子1Aでは、ドラフトモードの設定により、読み出し総画素数の減少の程度が大きく変わるので、水平走査のタイミングで、出力されるデータのビットレートを逐次制御する必要がある。このため、逐次制御されるビットレートに応じて光変調部120の駆動設定が行われる。
<静止画モードの動作例>
図18は、静止画モードにおけるデータの流れを示すデータフロー図である。また、図19は、静止画モードにおけるカメラ本体部での処理の一例を示すフローチャート、図20は、静止画モードにおける固体撮像素子での処理の一例を示すフローチャートであり、次に、静止画モードの詳細について説明する。
まず、静止画モードにおけるデータの流れについて説明すると、カメラシステム401Aは、全画素を所定の順番で選択して画素データの読み出しを指示し、固体撮像素子1Aでは、レンズ部20から入射した光の像が画素部10Aで光電変換される。読み出しが指示された画素から読み出された信号電荷はFDアンプ107で増幅され、カラムCDS回路104でノイズ除去される。画素部10Aから読み出された画素データは、A/D変換部11AでA/D変換される。カメラ本体部403Aの発光部300から固体撮像素子1Aの光変調部120に入力される光Lは、A/D変換部11Aから出力されるディジタル信号で変調され、画素データに応じた信号光Lsが出力される。
固体撮像素子1Aの光変調部120で変調された信号光Lsは、カメラ本体部403Aの光通信部30Aに入力され、受光部301で電気信号に変換されて、データ保持部35で保持される。データ保持部35で保持された1画面分の画素データは、信号処理部34Aでデモザイク処理及びカメラ信号処理が行われて、表示部36Aに表示される。
次に、静止画モードを実行するカメラ本体部403Aでの処理について説明すると、カメラ本体部403Aは、図19のステップSD1の処理で、読み出し制御部33Aがシャッタ404の押下を取得する。ここで、カメラ本体部403Aは、シャッタ404が半押しと称される状態で、AE/AF検出部405が測光及び測距を行って、撮影時のカメラパラメータの設定及び制御が行われる。そして、シャッタタイミングに応じて露光を制御して、全画素の読出しが開始される。
カメラ本体部403Aは、図19のステップSD2の処理で、測光結果に基づきストロボ制御部407がストロボ406の駆動を行う。なお、ストロボ406の発光を禁止する設定では、ステップSD2の処理は行われない。
カメラ本体部403Aは、図19のステップSD3の処理で、読み出し制御部33Aが固体撮像素子1Aの制御部16Aに静止画モードを実行して全画素の読み出しを指示する。カメラ本体部403Aは、図19のステップSD4の処理で、読み出し制御部33Aが固体撮像素子1Aの制御部16Aから全画素の読み出し完了通知を受ける。カメラ本体部403Aは、固体撮像素子1Aから全画素の読み出し完了通知を受けると、図19のステップSD5の処理で、読み出し制御部33Aが固体撮像素子1Aの制御部16Aにドラフトモードの実行を指示する。
次に、静止画モードを実行する固体撮像素子1Aでの処理について説明する。固体撮像素子1Aは、カメラ本体部403Aの読み出し制御部33Aにおける図19のステップSD3の処理に従い、図20のステップSE1の処理で、静止画モードでの全画素読み出しの指示を受ける。
固体撮像素子1Aの制御部16Aは、図20のステップSE2の処理で、タイミングジェネレータ13Aに全画素読み出しのタイミングを指示する。制御部16Aは、図20のステップSE3の処理で、垂直走査回路102に全画素読み出しの設定を行う。また、制御部16Aは、図20のステップSE4の処理で、水平走査回路103に全画素読み出しの設定を行う。
制御部16Aは、図20のステップSE5の処理で、光通信部12Aに全画素読み出しに応じた駆動の設定を行う。これにより、固体撮像素子1Aでは、画素部10Aにおいて所定の順番で各画素から画素データの読み出しが行われ、図20のステップSE6の処理で、全画素の読み出しが終了する。
固体撮像素子1Aで全画素の読み出しが終了すると、図19のステップSD4の処理で、カメラ本体部403Aの読み出し制御部33Aに全画素の読み出し完了が通知され、図19のステップSD5の処理で、ドラフトモードの実行が指示される。
固体撮像素子1Aは、カメラ本体部403Aの読み出し制御部33Aにおける図19のステップSD5の処理に従い、図20のステップSE7の処理で、ドラフトモードでの画素読み出しの指示を受ける。
固体撮像素子1Aの制御部16Aは、図20のステップSE8の処理で、タイミングジェネレータ13Aに指定された画素読み出しのタイミングを指示する。制御部16Aは、図20のステップSE9の処理で、垂直走査回路102にドラフトモードの設定を行う。また、制御部16Aは、図20のステップSE10の処理で、水平走査回路103にドラフトモードの設定を行う。更に、制御部16Aは、図20のステップSE11の処理で、光通信部12Aにドラフトモードに応じた駆動の設定を行う。
<各動作モードにおける信号の具体例>
図21は、ドラフトモードと静止画モードにおける各信号のタイミングチャート、図22は、ドラフトモードにおける各信号のタイミングチャート、図23は、静止画モードにおける各信号のタイミングチャートである。
ドラフトモードM1では、制御部16Aがタイミングジェネレータ13Aにドラフトモードのタイミングを指示する。これにより、タイミングジェネレータ13Aにより、図21(a)に示す垂直同期信号と図21(b)に示す水平同期信号が生成される。更に、制御部16Aは、垂直走査回路102及び水平走査回路103にそれぞれドラフトモードの設定を行うことで、図21(c)に示す番号で、信号を読み出す画素が選択される。
そして、図21(d)に示すシャッタトリガが入力されると、測光及び測距が行われ、ドラフトモードM1での1画面分の読み出しが終了すると静止画モードM2を実行する。静止画モードM2では、制御部16Aがタイミングジェネレータ13Aに全画素読み出しのタイミングを指示する。これにより、タイミングジェネレータ13Aにより、図21(a)に示す垂直同期信号と図21(b)に示す水平同期信号が生成される。更に制御部16Aは、垂直走査回路102と水平走査回路103にそれぞれ全画素読み出しの設定を行う。
ドラフトモードM1において、ある水平走査期間H1に注目すると、図22(a)に示す水平同期信号に対して、駆動クロックとして図22(b)に示す水平走査クロックφhが生成される。また、図22(c)に示す番号で、信号を読み出す画素が選択される。これにより、図22(d)に示すデータDが読み出され、図22(e)に示すシリアルデータが得られる。
静止画モードM2において、ある水平走査期間H2に注目すると、図23(a)に示す水平同期信号に対して、駆動クロックとして図23(b)に示す水平走査クロックφhが生成される。また、図23(c)に示す番号で、信号を読み出す画素が選択される。これにより、図23(d)に示すデータDが読み出され、図23(e)に示すシリアルデータが得られる。なお、データのシリアル化については後述する。
<画素データの読み出しの同期タイミングを確保する方法例>
次に、光通信部と、画素部及びA/D変換部等の電気動作部で、画素データの読み出しの同期タイミングを確保する方法について説明する。
固体撮像素子1Aは、図11に示すように、動作モードに応じてタイミングジェネレータ13Aで生成された駆動クロックが、画素部10AとA/D変換部11Aと光通信部12Aに供給される。画素部10AとA/D変換部11Aと光通信部12Aは、タイミングジェネレータ13Aから供給される駆動クロックで、信号の入出力を同期させている。
図24は、画素データの読み出しの同期タイミングを確保する第1の方法例を示すタイミングチャートである。同期タイミングを確保する第1の方法では、A/D変換部11Aの出力のタイミングで、光通信部12Aの光変調部120を駆動する。
図24(a)に示すA/D変換部11Aに入力される駆動クロックφADCに対して、図24(b)に示すように、A/D変換部11Aから出力される信号は遅延している。A/D変換部11Aでの処理の遅延は、回路構成によって遅延量が固定されている。そこで、図24(c)に示すように、A/D変換部11Aでの固定遅延量に基づき予め位相をずらした駆動クロックφOptをタイミングジェネレータ13Aで生成し、光通信部12Aに供給する。
図25は、画素データの読み出しの同期タイミングを確保する第2の方法例を示すタイミングチャートである。同期タイミングを確保する第2の方法では、水平走査回路103での水平走査でデータが出力されるタイミングで、A/D変換部11Aは入力信号をラッチする。
図25(a)に示す水平走査回路103に入力される駆動クロックφhに対して、水平走査回路103から出力される信号は遅延している。そこで、図25(b)に示すように、水平走査回路103で列の値が出力されるタイミングと一致させた駆動クロックφADCをタイミングジェネレータ13Aで生成し、A/D変換部11Aに供給する。
図26は、画素データの読み出しの同期タイミングを確保する第3の方法例を示すタイミングチャートである。同期タイミングを確保する第3の方法では、上述した第1の方法と第2の方法を組み合わせて最適化したものである。
図26(a)に示す水平走査回路103に入力される駆動クロックφhに対して、図26(b)に示すように、水平走査回路103の出力とタイミングを一致させた駆動クロックφADCをタイミングジェネレータ13Aで生成し、A/D変換部11Aに供給する。また、図26(c)に示すように、A/D変換部11Aに入力される駆動クロックφADCに対して、A/D変換部11Aでの固定遅延量に基づき予め位相をずらした駆動クロックφOptをタイミングジェネレータ13Aで生成し、光通信部12Aに供給する。
同期タイミングを確保する第3の方法では、画素部10Aでの遅延とA/D変換部11Aでの遅延をそれぞれ考慮して、光通信部12Aに供給される駆動クロックφOptが生成されるので、光通信による高速変調での同期タイミングを、確実に守ることができる。
<画素データの読み出しの同期タイミングを確保する構成例>
図27は、画素データの読み出しの同期タイミングを確保する構成例を示す固体撮像素子の機能ブロック図である。上述した図24〜図26の方法で生成した駆動クロックを、画素部10AとA/D変換部11Aと光通信部12Aの各機能ブロックで、遅延を生じさせずに供給するためには、配線長を等しくすれば良い。
配線130Hは、タイミングジェネレータ13Aから水平走査回路103に駆動クロックφhを供給する配線である。配線130ADは、タイミングジェネレータ13AからA/D変換部11Aに駆動クロックφADCを供給する配線である。配線130OPは、タイミングジェネレータ13Aから光通信部12Aに駆動クロックφOptを供給する配線である。これら配線130H、配線130AD及び配線130OPを等長配線とすることで、配線長の差に伴う駆動クロックの遅延を防ぐ。
<光通信される画素データをシリアル化する構成例>
図28は、シリアルインタフェースを備えた固体撮像素子の一例を示す機能ブロック図、図29は、シリアルインタフェースを備えた信号処理システムの一例を示す機能ブロック図である。また図30は、シリアルインタフェースを備えた信号処理システムにおけるデータの流れを示すデータフロー図である。
固体撮像素子1Aから光通信で画素データを出力する際に、データをシリアル化することで、多ビットのデータを1つの伝送チャネル、または、データのビット数より少ない数の伝送チャネルで伝送可能となる。このため、光通信部12Aは、A/D変換部11Aでディジタル信号に変換されて光変調部120に入力される画素データをシリアルデータに変換するシリアルインタフェース(I/F)121を備える。
信号処理装置3Aは、固体撮像素子1Aからシリアルデータで信号光が入力されることで、受光部301から出力されるシリアルデータから画素データを検出して、パラレルデータに変換するパラレルインタフェース(I/F)302を備える。なお、以下の説明で、パラレルインタフェース302を備えた信号処理装置3Aは、上述したカメラ本体部403Aであっても良い。
固体撮像素子1Aは、レンズ部20から入射した光の像が画素部10Aで光電変換される。読み出しが指示された画素から読み出された信号電荷はFDアンプ107で増幅され、カラムCDS回路104でノイズ除去される。画素部10Aから読み出された画素データは、A/D変換部11AでA/D変換され、シリアルインタフェース121でシリアルデータ化される。カメラ本体部403Aの発光部300から固体撮像素子1Aの光変調部120に入力される光Lは、シリアルインタフェース121から出力される画素データのディジタル信号で変調され、画素データに応じた信号光Lsが出力される。
固体撮像素子1Aの光変調部120で変調された信号光Lsは、信号処理装置3Aの光通信部30Aに入力され、受光部301で電気信号に変換される。受光部301から出力されるシリアルデータからパラレルインタフェース302で画素データが検出されてパラレルデータに変換され、信号処理部34Aで信号処理が行われて、表示部36Aに表示される。
図31は、画素データをシリアル化して光通信する固体撮像素子と信号処理装置における光通信部の一例を示す機能ブロック図、図32は、画素データをシリアル化して光通信する固体撮像素子と信号処理装置での信号処理例を示すタイミングチャートである。図31の例では、シリアル化した画素データと、クロック信号を別の伝送チャネルで伝送する例を示す。
固体撮像素子1Aの光通信部12Aは、シリアルインタフェースとして、A/D変換部11AでA/D変換された画素データDATA_TXをシリアルデータに変換するパラレル/シリアル変換部121Aを備える。
また、光通信部12Aは、信号処理装置3Aから入力された一定の光Lを、シリアル化された画素データSDATA_TXで変調して出力する光変調部120Sと、クロック信号φSCLK_TXで変調して出力する光変調部120CLを備える。
信号処理装置3Aの光通信部30Aは、固体撮像素子1Aの光変調部120Sに入力される光Lを出力する発光部300Sと、光変調部120CLに入力される光Lを出力する発光部300CLを備える。
信号処理装置3Aの光通信部30Aは、シリアル化され光信号に変換された画素データSDATA_TXが光通信によるデータ線LsDで入力され、入力された光信号をシリアル化された電気信号としての画素データSDATA_RXに変換する受光部301Sを備える。また、光通信部30Aは、光信号に変換されたクロック信号φSCLK_TXが光通信によるクロック線LsCLで入力され、入力された光信号を電気信号としてのクロック信号φSCLK_RXに変換する受光部301CLを備える。
更に、光通信部30Aは、パラレルインタフェースとして、受光部301CLから出力されるクロック信号φSCLK_RXで、受光部301Sから出力される画素データSDATA_RXから画素データDATA_RXを検出するシリアル/パラレル変換部302Aを備える。
固体撮像素子1Aは、A/D変換部11AでA/D変換された画素データDATA_TXと、タイミングジェネレータ13Aで生成されるクロック信号CLK_TXである駆動クロックφOptが、パラレル/シリアル変換部121Aに入力される。
パラレル/シリアル変換部121Aは、タイミングジェネレータ13Aから入力される図32(a)に示す駆動クロックφOptで、A/D変換部11Aから入力される図32(b)に示す画素データDATA_TXをシリアル化する。パラレル/シリアル変換部121Aは、図32(c)に示すクロック信号φSCLK_TXと、図32(d)に示すシリアル化された画素データSDATA_TXを出力する。
パラレル/シリアル変換部121Aは、シリアル化された画素データSDATA_TXを光変調部120Sに出力すると共に、クロック信号φSCLK_TXを光変調部120CLに出力する。シリアル化された画素データSDATA_TXは、信号処理装置3Aから入力された光Lを変調することで、光変調部120Sで光信号に変換されて出力される。また、クロック信号φSCLK_TXは、信号処理装置3Aから入力された光Lを変調することで、光変調部120CLで光信号に変換されて出力される。
固体撮像素子1Aの光変調部120Sから出力された光信号は、信号処理装置3Aの受光部301Sに入力され、受光部301Sで電気信号に変換されてシリアル化されている画素データSDATA_RXが出力される。固体撮像素子1Aの光変調部120CLから出力された光信号は、信号処理装置3Aの受光部301CLに入力され、受光部301CLで電気信号に変換されてクロック信号φSCLK_RXが出力される。
信号処理装置3Aは、図32(e)に示すクロック信号φSCLK_RXと、図32(f)に示す画素データSDATA_RXが、シリアル/パラレル変換部302Aに入力される。
シリアル/パラレル変換部302Aは、受光部301Sから入力される画素データSDATA_ RXから、受光部301CLから入力されるクロック信号φSCLK_RXで画素データを検出し、図32(g)に示すクロック信号φCLK_RXと、図32(h)に示す画素データDATA_RXを出力する。
<複数の光変調部で画素データの読み出しの同期タイミングを確保する構成例>
図33は、複数の光変調部で画素データの読み出しの同期タイミングを確保する構成例を示す固体撮像素子の機能ブロック図である。配線130Hは、タイミングジェネレータ13Aから水平走査回路103に駆動クロックφhを供給する配線である。配線130ADは、タイミングジェネレータ13AからA/D変換部11Aに駆動クロックφADCを供給する配線である。配線130OPは、タイミングジェネレータ13Aから光通信部12Aのパラレル/シリアル変換部121Aに駆動クロックφOptを供給する配線である。これら配線130H、配線130AD及び配線130OPを等長配線とすることで、配線長の差に伴う駆動クロックの遅延を防ぐ。
また、パラレル/シリアル変換部121Aと光変調部120Sとの間の配線122Aと、光変調部120CLとの間の配線122Bを等長配線とする。更に、A/D変換部11Aとパラレル/シリアル変換部121Aとの間の配線123を等長配線とする。
図34は、画素データをシリアル化して光通信する固体撮像素子と信号処理装置における光通信部の他の例を示す機能ブロック図、図35は、固体撮像素子と信号処理装置との間でシリアル化して光通信される信号のタイミングチャートである。図34の例では、シリアル化した画素データに同期信号を重畳して、1つの伝送チャネルで伝送する例を示す。
固体撮像素子1Aの光通信部12Aは、A/D変換部11AでA/D変換された画素データDATAと、タイミングジェネレータ13Aで生成された同期信号を重畳するエンコード部124を備える。
また、光通信部12Aは、同期信号が重畳された画素データをスクランブルするデータスクランブル部125と、同期信号が重畳されてスクランブルされた画素データをシリアルデータに変換するパラレル/シリアル変換部126を備える。更に、光通信部12Aは、信号処理装置3Aから入力された一定の光Lを、画素データに同期信号が重畳されたシリアルデータで変調して出力する光変調部120を備える。
信号処理装置3Aの光通信部30Aは、固体撮像素子1Aの光変調部120に入力される光Lを出力する発光部300を備える。また、光通信部30Aは、画素データに同期信号が重畳されたシリアルデータで変調された信号光Lsが、固体撮像素子1Aの光変調部120から入力され、入力された光信号を電気信号に変換する受光部301を備える。
更に、光通信部30Aは、画素データに同期信号が重畳されたシリアルデータからクロックを再生し、画素データを検出するシリアル/パラレル変換部303を備える。また、光通信部30Aは、同期信号が重畳された画素データをデスクランブルするデスクランブル部304と、同期信号を検出するデコード部305を備える。
固体撮像素子1Aは、タイミングジェネレータ13Aの信号を元に垂直走査回路102では図35(a)に示す垂直同期信号φVで駆動される。また、水平走査回路103では図35(b)に示す水平同期信号φHで駆動される。
ある水平走査期間H1に注目すると、図35(c)に示す水平同期信号φHに対して、図35(d)に示す水平走査クロックφhが生成される。また、図35(e)に示す番号で、信号を読み出す画素が選択される。これにより、図35(f)に示すデータDが読み出される。
固体撮像素子1Aは、A/D変換部11AでA/D変換された画素データがエンコード部124に入力される。また、垂直走査回路102で駆動される垂直同期信号φVと、水平走査回路103で駆動される水平同期信号φHと、フィールドを選択するフィールド信号Fがエンコード部124に入力される。
エンコード部124は、図35(g),図35(h)に示すように、画素データが無い区間Eに、フィールド信号F、垂直同期信号φV、水平同期信号φHを示すデータを含める。
図36は、エンコード部の一例を示す機能ブロック図である。エンコード部124は、例えば8b/10b方式を採用する。8b/10b方式は、8ビットのデータを変換テーブルに従って10ビットに変換し、シリアルデータの中にクロックを重畳させる。
図37は、シリアル/パラレル変換部におけるクロック再生部の一例を示す機能ブロック図である。クロック再生部303Aは、例えば位相同期回路(PLL; Phase-locked loop)で構成され、入力されたシリアルデータD1のエッジを利用して、クロックCLKを再生する。
クロック再生部303Aは、入力された2つの信号の位相差を電圧に変換して出力する位相比較器306と、位相補償を行うループフィルタ307を備える。また、クロック再生部303Aは、入力された電圧によって出力パルスの周波数を制御する発振器(VCO; voltage controlled oscillator)308と、入力された周波数をN分割して出力する分周器309を備える。
図38は、デコード部の一例を示す機能ブロック図である。デコード部305は、エンコード部124に対応して10b/8b方式を採用する。10b/8b方式は、10ビットのデータを変換テーブルに従って変換して、元の8ビットのデータを得る。
図39は、固体撮像素子でエンコード部に入力されるデータの生成例を示す動作説明図であり、次に、エンコード部124に8b/10b方式を用いる場合、A/D変換部11Aの出力から8ビットのデータを生成する方法について説明する。A/D変換部11Aから出力されるデータが8ビット以上の場合、図39の例では、12ビットのデータD0〜D11を、8ビットと4ビットのデータに分けて出力する。
図40〜図42は、信号処理装置でデコード部から出力されるデータの生成例を示す動作説明図であり、次に、エンコード部124に8b/10b方式を用いる場合、デコード部305から12ビットのデータを生成する方法について説明する。固体撮像素子からは、例えば本来12ビットであるデータが、8ビットに分割されて送信される。このため、デコード部305は、元々の12ビットのパラレル信号として、バスに出力する必要がある。図40〜図42の例では、デコード部305から出力されるデータが、8ビット以上の場合、8ビットもしくは、4ビット分のデータをバッファ305Aで保持し、12ビット分揃ったら出力する。図40では、データ1のうち、[11−4]ビットの受信が終了したので、デコード部305でバッファ305Aに保持する。図41では、次の8ビットを受信することで、データ1の残りの[3−0]ビットを受信するので、バッファ305Aに格納してあったデータと合わせて、データ1の12ビットを出力する。同時に、データ2の[11−8]ビットを受信するので、その4ビット分をバッファ305Aに格納する。図42では、更に次の8ビットを受信することで、データ2の残りの[7−0]ビットを受信するので、バッファ305Aに格納してあったデータと合わせて、データ2の12ビットを出力する。この時点で、バッファ305Aで保持するデータは無くなる。
<光通信部を光変調部で構成した固体撮像素子の効果例>
光通信部を外部からの光を変調して出力する光変調部で構成した固体撮像素子では、信号処理装置に発光部を備えることで、固体撮像素子に光を自発光する発光素子を備えることなく、固体撮像素子と信号処理装置との間で光通信を実現できる。
自発光型の発光素子は、駆動電流の一部が光ではなく熱に変換されて熱源となる。光変調部は、自発光型の発光素子に比べて発熱量が小さく、消費電力が小さい。これにより、光通信部を光変調部で構成した固体撮像素子では、駆動電流による熱の発生を小さくできると共に、消費電力を小さくできる。また、駆動電流による電磁波の発生を小さくできる。また、電気光学効果等は応答時間が非常に早い現象であり、光変調部は自発光型の発光素子と比べて、周波数チャーピングを抑えてより高速変調が可能であるので、1chあたりの読み出し速度の高速化が可能である。
このように、光通信部を外部からの光を変調して出力する光変調部で構成した固体撮像素子は、シンプルな構成を実現できる。これにより、低コスト化、低電力化、低ノイズを実現できる。
光変調部に入力される光を出力する光源は、一定の光を出力できれば良いことから、発光部を実現する光源の自由度が広がる。例えば、汎用、安価なものから、高性能で高価なものの中で、用途に合わせた発光素子を選択できる。また、発光部を備える信号処理装置は、固体撮像素子側に比べて実装スペースに余裕があることから、嵩高なもの等、大きさに対する自由度も広がる。
更に、固体撮像素子側で変調された信号光が入力される受光部は、固体撮像素子での読み出し速度に応じた高速型や、変調光量に応じた受光素子及び増幅素子の選択が可能で、受光部の自由度も広がって、最適な構成を実現しやすくなる。
また、発光部と受光部の配置や、固体撮像素子との配置関係が自由になる。例えば、ある遠隔点Aに備えた発光部から、別の遠隔点Bにある固体撮像素子の変調部に光を入力し、更に別の遠隔点cに備えた受光部で信号を読み出すことができる。更に、別の遠隔点dに別光源の発光部を備え、別光源から上述した固体撮像素子の光変調部に光を入力し、別の遠隔点f、または上述した上述した遠隔点cの受光部で信号を読み出せるようにすることもできる。
<信号処理システムの応用例>
図43〜図45は、第1の実施の形態の信号処理システムの応用例を示す機能ブロック図である。図43では、信号処理システムとして測距装置401Bが構成される。測距装置401Bは、光学装置20Aに、測距対象物を照射する発光部410と、発光制御部411と、データ比較演算部412を備える。また、信号処理装置3Aに、距離データ算出部413を備える。
測距装置401Bは、発光部410で測距対象物を照射した光の反射光が画素部10Aに入射され、画素部10Aから読み出された電気信号で、距離の変化に伴う位相の変化がデータ比較演算部412で求められる。データ比較演算部412での演算結果が光通信で固体撮像素子1Aから信号処理装置3Aに送られ、距離データ算出部413で距離が求められる。
図44では、信号処理システムとして画像形成装置401Cが構成される。画像形成装置401Cは、コピー機、スキャナ、ファクシミリ装置、あるいはこれら機能を併せ持つ複合機、更にはネットワークに接続されるネットワーク複合機等である。
画像形成装置401Cは、光学装置2Aに画素部としてラインセンサ414を備える。ラインセンサ414は、画素が1次元に配列されたものである。また、図示しない感光ドラムを露光する露光ライト415と、発光制御部416を備える。
図45では、信号処理システムとして監視カメラ401Dが構成される。監視カメラ401Dは、信号処理装置3Aに、固体撮像素子1Aから送られる画像を認識する認識部417と、外部に情報を報知するネットワークI/F部418を備える。
本発明は、固体撮像素子を備えた光学装置に適用される。
第1の実施の形態の固体撮像素子の概要を示す機能ブロック図である。 光学装置と信号処理装置を備えた信号処理システムの概要を示す機能ブロック図である。 固体撮像素子の光通信部の一例を示す構成図である、 印加電圧と光の吸収量の関係を示すグラフである。 固体撮像素子の光通信部の他の例を示す構成図である。 固体撮像素子の光通信部の他の例を示す構成図である。 電源オン時の処理の流れを示すフローチャートである。 電源オフ時の処理の流れを示すフローチャートである。 発光部の一例を示す構成図である。 受光部の一例を示す機能ブロック図である。 第1の実施の形態の固体撮像素子の具体例を示す機能ブロック図である。 画素アレイの具体例を示す回路構成図である。 各画素の構造モデル例を示す断面構造図である。 第1の実施の形態の信号処理システムの具体例を示す機能ブロック図である。 カメラシステムで実行される動作モードの一例を示す状態遷移図である。 ドラフトモードにおけるデータの流れを示すデータフロー図である。 ドラフトモードにおける固体撮像素子での処理の一例を示すフローチャートである。 静止画モードにおけるデータの流れを示すデータフロー図である。 静止画モードにおけるカメラ本体部での処理の一例を示すフローチャートである。 静止画モードにおける固体撮像素子での処理の一例を示すフローチャートである。 ドラフトモードと静止画モードにおける各信号のタイミングチャートである。 ドラフトモードにおける各信号のタイミングチャートである。 静止画モードにおける各信号のタイミングチャートである。 画素データの読み出しの同期タイミングを確保する第1の方法例を示すタイミングチャートである。 画素データの読み出しの同期タイミングを確保する第2の方法例を示すタイミングチャートである。 画素データの読み出しの同期タイミングを確保する第3の方法例を示すタイミングチャートである。 画素データの読み出しの同期タイミングを確保する構成例を示す固体撮像素子の機能ブロック図である。 シリアルインタフェースを備えた固体撮像素子の一例を示す機能ブロック図である。 シリアルインタフェースを備えた信号処理システムの一例を示す機能ブロック図である。 シリアルインタフェースを備えた信号処理システムにおけるデータの流れを示すデータフロー図である。 画素データをシリアル化して光通信する固体撮像素子と信号処理装置における光通信部の一例を示す機能ブロック図である。 画素データをシリアル化して光通信する固体撮像素子と信号処理装置での信号処理例を示すタイミングチャートである。 複数の光変調部で画素データの読み出しの同期タイミングを確保する構成例を示す固体撮像素子の機能ブロック図である。 画素データをシリアル化して光通信する固体撮像素子と信号処理装置における光通信部の他の例を示す機能ブロック図である。 固体撮像素子と信号処理装置との間でシリアル化して光通信される信号のタイミングチャートである。 エンコード部の一例を示す機能ブロック図である。 シリアル/パラレル変換部におけるクロック再生部の一例を示す機能ブロック図である。 デコード部の一例を示す機能ブロック図である。 固体撮像素子でエンコード部に入力されるデータの生成例を示す動作説明図である。 信号処理装置でデコード部から出力されるデータの生成例を示す動作説明図である。 信号処理装置でデコード部から出力されるデータの生成例を示す動作説明図である。 信号処理装置でデコード部から出力されるデータの生成例を示す動作説明図である。 第1の実施の形態の信号処理システムの応用例を示す機能ブロック図である。 第1の実施の形態の信号処理システムの応用例を示す機能ブロック図である。 第1の実施の形態の信号処理システムの応用例を示す機能ブロック図である。
符号の説明
1A・・・固体撮像素子、10A・・・画素部、11A・・・A/D変換部、12A・・・光通信部、13A・・・タイミングジェネレータ、14A・・・制御I/O、15A・・・DC−DC部、16A・・・制御部、17・・・バス、2A・・・光学装置、20A・・・レンズ部、21・・・ハウジング、3A・・・信号処理装置、30A・・・光通信部、31A・・・制御I/O、32A・・・操作部、33A・・・読み出し制御部、34A・・・信号処理部、35A・・・データ保持部、36A・・・表示部、37A・・・電源、38A・・・電源制御部、4A・・・信号処理システム、100・・・画素、101・・・画素アレイ、102・・・垂直走査回路、103・・・水平走査回路、104・・・カラムCDS回路、105・・・列信号線、106・・・フォトダイオード、107・・・FDアンプ、108・・・行選択トランジスタ、109・・・行選択線、110・・・電荷検出部、111・・・リセットトランジスタ、112・・・増幅トランジスタ、113・・・リセット線、114・・・行読み出し線、120・・・光変調部、121・・・シリアルインタフェース、122A,122B・・・配線、123・・・配線、124・・・エンコード部、125・・・データスクランブル部、126・・・パラレル/シリアル変換部、130H,130AD,130OP・・・配線、300・・・発光部、301・・・受光部、302・・・パラレルインタフェース、303・・・シリアル/パラレル変換部、304・・・デスクランブル部、305・・・デコード部、401A・・・カメラシステム、402A・・・レンズユニット、403A・・・カメラ本体部、404・・・シャッタ、405・・・AE/AF検出部、406・・・ストロボ、407・・・ストロボ制御部

Claims (12)

  1. 光を電気信号に変換する画素部と、
    前記画素部から読み出される信号をディジタル信号に変換するA/D変換部と、
    外部から入力された光を、前記A/D変換部でディジタル化された信号で変調して、前記画素部から読み出された信号に基づく信号光を出力する光変調部と、
    前記画素部と前記A/D変換部と前記光変調部で、信号の入出力を同期させる同期信号を生成するタイミング発生部と、
    信号の読み出しを制御する制御部を備え
    前記画素部、前記A/D変換部、前記光変調部、前記タイミング発生部及び前記制御部が単一の基板に集積形成され、1チップ化され、
    前記タイミング発生部から前記画素部に同期信号を供給する配線と、前記タイミング発生部から前記A/D変換部に同期信号を供給する配線と、前記タイミング発生部から前記光変調部に同期信号を供給する配線を、等長配線とした
    固体撮像素子。
  2. 前記画素部から読み出される信号の、前記画素部に供給される同期信号に対する遅延量と、前記A/D変換部から出力される信号の、前記A/D変換部に供給される同期信号に対する遅延量のいずれか、または両方に基づき、前記光変調部に供給される同期信号が生成される
    請求項1記載の固体撮像素子。
  3. 前記制御部は、電源のオン時には、前記光変調部に電源を供給した後、前記画素部に電源を供給し、
    電源のオフ時には、前記画素部への電源の供給を停止した後、前記光変調部への電源の供給を停止する電源供給制御を行う
    請求項1記載の固体撮像素子。
  4. 前記画素部は、光電変換が行われる画素が配列され、前記制御部は、前記画素部の全画素の中から所定の画素を選択して信号を読み出す動作モードと、前記画素部の全画素を所定の順番で選択して信号を読み出す動作モードが切り替えられる
    請求項1記載の固体撮像素子。
  5. 前記画素部から読み出され、前記A/D変換部でディジタル化された信号を、シリアルデータに変換するシリアルインタフェースを備えた
    請求項1記載の固体撮像素子。
  6. 前記画素部は、各画素から読み出された信号のノイズ成分を除去するノイズ除去部を備えた
    請求項1記載の固体撮像素子。
  7. 入射された光を電気信号に変換する固体撮像素子と、
    前記固体撮像素子に光を入射させる光学素子を備え、
    前記固体撮像素子は、
    光を電気信号に変換する画素部と、
    前記画素部から読み出される信号をディジタル信号に変換するA/D変換部と、
    外部から入力された光を、前記A/D変換部でディジタル化された信号で変調して、前記画素部から読み出された信号に基づく信号光を出力する光変調部と、
    前記画素部と前記A/D変換部と前記光変調部で、信号の入出力を同期させる同期信号を生成するタイミング発生部と、
    信号の読み出しを制御する制御部を備え、
    前記画素部、前記A/D変換部、前記光変調部、前記タイミング発生部及び前記制御部が単一の基板に集積形成され、1チップ化され
    前記タイミング発生部から前記画素部に同期信号を供給する配線と、前記タイミング発生部から前記A/D変換部に同期信号を供給する配線と、前記タイミング発生部から前記光変調部に同期信号を供給する配線を、等長配線とした
    光学装置。
  8. 入射された光を電気信号に変換する固体撮像素子及び前記固体撮像素子に光を入射させる光学素子を有し、
    前記固体撮像素子は、
    光を電気信号に変換する画素部と、
    前記画素部から読み出される信号をディジタル信号に変換するA/D変換部と、
    外部から入力された光を、前記A/D変換部でディジタル化された信号で変調して、前記画素部から読み出された信号に基づく信号光を出力する光変調部と、
    前記画素部と前記A/D変換部と前記光変調部で、信号の入出力を同期させる同期信号を生成するタイミング発生部と、
    信号の読み出しを制御する制御部とを有し
    前記画素部、前記A/D変換部、前記光変調部、前記タイミング発生部及び前記制御部が単一の基板に集積形成され、1チップ化され、
    前記タイミング発生部から前記画素部に同期信号を供給する配線と、前記タイミング発生部から前記A/D変換部に同期信号を供給する配線と、前記タイミング発生部から前記光変調部に同期信号を供給する配線を、等長配線とした光学装置が接続され、
    前記固体撮像素子の前記光変調部に入力される光を出力する発光部と、
    前記固体撮像素子の前記光変調部から出力される信号光が入力される受光部と、
    前記固体撮像素子に前記画素部からの信号の読み出しを制御する読み出し制御部と、
    前記画素部から読み出されて前記固体撮像素子から光通信で入力される信号に処理を行う信号処理部と
    を備えた信号処理装置。
  9. 入射された光を電気信号に変換する固体撮像素子及び前記固体撮像素子に光を入射させる光学素子を有した光学装置と、
    前記光学装置が接続される信号処理装置を備え、
    前記固体撮像素子は、
    光を電気信号に変換する画素部と、
    前記画素部から読み出される信号をディジタル信号に変換するA/D変換部と、
    外部から入力された光を、前記A/D変換部でディジタル化された信号で変調して、前記画素部から読み出された信号に基づく信号光を出力する光変調部と、
    前記画素部と前記A/D変換部と前記光変調部で、信号の入出力を同期させる同期信号を生成するタイミング発生部と、
    信号の読み出しを制御する制御部とを備え、
    前記画素部、前記A/D変換部、前記光変調部、前記タイミング発生部及び前記制御部が単一の基板に集積形成され、1チップ化され、
    前記タイミング発生部から前記画素部に同期信号を供給する配線と、前記タイミング発生部から前記A/D変換部に同期信号を供給する配線と、前記タイミング発生部から前記光変調部に同期信号を供給する配線を、等長配線とし、
    前記信号処理装置は、
    前記固体撮像素子の前記光変調部に入力される光を出力する発光部と、
    前記固体撮像素子の前記光変調部から出力される信号光が入力される受光部と、
    前記固体撮像素子に前記画素部からの信号の読み出しを制御する読み出し制御部と、
    前記画素部から読み出されて前記固体撮像素子から光通信で入力される信号に処理を行う信号処理部とを備えた
    信号処理システム。
  10. 前記信号処理装置で電源がオンにされると、前記信号処理装置の前記受光部に電源を供給した後、前記固体撮像素子に電源を供給し、前記固体撮像素子の前記光変調部に電源を供給してから前記画素部に電源を供給した後、前記信号処理装置の前記発光部に電源を供給し、
    前記信号処理装置で電源がオフにされると、前記信号処理装置の前記発光部への電源の供給を停止した後、前記固体撮像素子の前記画素部への電源の供給を停止してから前記光変調部への電源の供給を停止し、前記固体撮像素子への電源の供給を停止した後に、前記信号処理装置の前記受光部への電源の供給を停止する電源供給制御を行う
    請求項9記載の信号処理システム。
  11. 前記固体撮像素子は、前記画素部の全画素の中から所定の画素を選択して信号を読み出す動作モードと、前記画素部の全画素を所定の順番で選択して信号を読み出す動作モードが切り替えられ、
    前記信号処理装置は、操作部での操作に基づき前記固体撮像素子で実行される動作モードを切り替える指示を出力する。
    請求項9記載の信号処理システム。
  12. 前記固体撮像素子は、前記画素部から読み出され、前記A/D変換部でディジタル化された信号を、シリアルデータに変換するシリアルインタフェースを備え、
    前記信号処理装置は、前記固体撮像素子から入力されたシリアルデータを変換するパラレルインタフェースを備えた
    請求項9記載の信号処理システム。
JP2008264580A 2008-10-10 2008-10-10 固体撮像素子、光学装置、信号処理装置及び信号処理システム Expired - Fee Related JP5181999B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2008264580A JP5181999B2 (ja) 2008-10-10 2008-10-10 固体撮像素子、光学装置、信号処理装置及び信号処理システム
TW098127945A TWI401951B (zh) 2008-10-10 2009-08-19 固態影像拾取器件,光學裝置,信號處理裝置,及信號處理系統
US12/572,773 US8368767B2 (en) 2008-10-10 2009-10-02 Solid-state image pickup device, optical apparatus, signal processing apparatus, and signal processing system
EP09172453A EP2175633A3 (en) 2008-10-10 2009-10-07 Solid-state image pickup device, optical apparatus, signal processing apparatus, and signal processing system
CN200910204686.5A CN101729801B (zh) 2008-10-10 2009-10-10 固态图像拾取装置、光学设备、信号处理设备及其系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008264580A JP5181999B2 (ja) 2008-10-10 2008-10-10 固体撮像素子、光学装置、信号処理装置及び信号処理システム

Publications (2)

Publication Number Publication Date
JP2010093750A JP2010093750A (ja) 2010-04-22
JP5181999B2 true JP5181999B2 (ja) 2013-04-10

Family

ID=41443865

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008264580A Expired - Fee Related JP5181999B2 (ja) 2008-10-10 2008-10-10 固体撮像素子、光学装置、信号処理装置及び信号処理システム

Country Status (5)

Country Link
US (1) US8368767B2 (ja)
EP (1) EP2175633A3 (ja)
JP (1) JP5181999B2 (ja)
CN (1) CN101729801B (ja)
TW (1) TWI401951B (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2535666B2 (ja) * 1989-11-30 1996-09-18 三井東圧化学株式会社 ポリイミド系樹脂組成物
JP5392533B2 (ja) * 2008-10-10 2014-01-22 ソニー株式会社 固体撮像素子、光学装置、信号処理装置及び信号処理システム
JP5458556B2 (ja) 2008-11-27 2014-04-02 ソニー株式会社 タイミング調整回路、固体撮像素子、およびカメラシステム
JP2010200090A (ja) * 2009-02-26 2010-09-09 Toshiba Corp 位相補償用クロック同期回路
JP5874178B2 (ja) * 2010-04-09 2016-03-02 ソニー株式会社 カメラシステム、カメラ装置、カメラ制御装置、および中継装置
JP5469527B2 (ja) 2010-05-10 2014-04-16 パナソニック株式会社 撮像装置
WO2012112880A1 (en) 2011-02-18 2012-08-23 Alliance For Sustainable Energy, Llc In situ optical diagnostic for monitoring or control of sodium diffusion in photovoltaics manufacturing
JP6127536B2 (ja) * 2013-01-24 2017-05-17 株式会社リコー 画像読取装置、画像形成装置及び画像読取方法
US11297258B2 (en) * 2015-10-01 2022-04-05 Qualcomm Incorporated High dynamic range solid state image sensor and camera system
US10834347B2 (en) * 2018-09-17 2020-11-10 Omnivision Technologies, Inc. Image sensor having separate, stacked, pixel array, DRAM, and logic/analog-digital converter integrated circuit die
US20230117988A1 (en) * 2021-10-20 2023-04-20 Canon Kabushiki Kaisha Photoelectric conversion device, light emitting device, photoelectric conversion system, and moving body

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1079809A (en) * 1976-06-07 1980-06-17 Rca Limited Retro-reflection communication system
JPS5846071B2 (ja) 1979-06-28 1983-10-14 横河電機株式会社 半導体集積装置
JPS60209717A (ja) * 1984-04-04 1985-10-22 Olympus Optical Co Ltd 内視鏡装置
US4983021A (en) * 1988-08-10 1991-01-08 Fergason James L Modulated retroreflector system
US6456326B2 (en) * 1994-01-28 2002-09-24 California Institute Of Technology Single chip camera device having double sampling operation
US5524076A (en) * 1994-01-28 1996-06-04 Northern Telecom Limited Chirp control of a Mach-Zehnder optical modulator using non-equal power splitting
US5835646A (en) 1995-09-19 1998-11-10 Fujitsu Limited Active optical circuit sheet or active optical circuit board, active optical connector and optical MCM, process for fabricating optical waveguide, and devices obtained thereby
US5778113A (en) * 1996-11-07 1998-07-07 Northern Telecom Limited Configurable chirp Mach-Zehnder optical modulator
JPH10150604A (ja) * 1996-11-20 1998-06-02 Sony Corp 固体撮像装置およびその出力信号の伝送方法
US6721008B2 (en) * 1998-01-22 2004-04-13 Eastman Kodak Company Integrated CMOS active pixel digital camera
US6188262B1 (en) * 1998-09-04 2001-02-13 Sun Microsystems, Inc. Synchronous polyphase clock distribution system
JP4530487B2 (ja) * 2000-02-10 2010-08-25 俊弘 津村 多チャンネル光通信システムおよびそのための光送信装置
US6624643B2 (en) * 2000-12-08 2003-09-23 Intel Corporation Apparatus and method to read output information from a backside of a silicon device
US6476956B1 (en) * 2001-02-28 2002-11-05 Teracomm Research, Inc. Fast optical modulator
US6600843B2 (en) * 2001-03-13 2003-07-29 Srico, Inc. Optical modulator
US6990644B2 (en) * 2002-04-18 2006-01-24 International Business Machines Corporation On chip timing adjustment in multi-channel fast data transfer
JP2004112422A (ja) 2002-09-19 2004-04-08 Canon Inc 撮像装置
US20040140417A1 (en) * 2002-12-27 2004-07-22 Accretech (Israel) Ltd. Image sensor for confocal microscopy
JP2004219882A (ja) 2003-01-17 2004-08-05 Canon Inc 光接続装置、及びそれを用いた光電融合配線基板
US6954093B2 (en) * 2003-03-27 2005-10-11 Micronas Gmbh Clocking scheme and clock system for a monolithic integrated circuit
US8149492B2 (en) * 2004-03-31 2012-04-03 Google Inc. Optical modulator
JP2006191465A (ja) 2005-01-07 2006-07-20 Seiko Instruments Inc 電子機器
JP2006196972A (ja) 2005-01-11 2006-07-27 Fuji Photo Film Co Ltd カメラシステム
US7519291B2 (en) * 2005-03-24 2009-04-14 Fujifilm Corporation Digital camera, lens unit, and camera system having the same
JP4504873B2 (ja) * 2005-05-31 2010-07-14 富士フイルム株式会社 カメラシステム、本体アダプタおよびヘッドアダプタ
JP2008005142A (ja) 2006-06-21 2008-01-10 Sony Corp 撮像装置
JP4910780B2 (ja) * 2007-03-02 2012-04-04 セイコーエプソン株式会社 入力機能付有機エレクトロルミネッセンス装置、及び電子機器
US8301032B2 (en) * 2008-02-12 2012-10-30 Arun Kumar Majumdar Wide field-of-view amplified fiber-retro for secure high data rate communications and remote data transfer
JP2008264580A (ja) 2008-07-02 2008-11-06 Sanyo Product Co Ltd 遊技機

Also Published As

Publication number Publication date
US20100091153A1 (en) 2010-04-15
CN101729801A (zh) 2010-06-09
TWI401951B (zh) 2013-07-11
EP2175633A3 (en) 2012-10-31
JP2010093750A (ja) 2010-04-22
EP2175633A2 (en) 2010-04-14
US8368767B2 (en) 2013-02-05
CN101729801B (zh) 2013-01-02
TW201015994A (en) 2010-04-16

Similar Documents

Publication Publication Date Title
JP5181999B2 (ja) 固体撮像素子、光学装置、信号処理装置及び信号処理システム
JP5392533B2 (ja) 固体撮像素子、光学装置、信号処理装置及び信号処理システム
US8704923B2 (en) Solid-state imager and signal processing system
US8355049B2 (en) Solid-state imaging device including an optical communication section placed in proximity to an optical black area and signal processing system
US8174597B2 (en) Solid-state imaging device and signal processing system
JP5178394B2 (ja) 撮像装置及びその制御方法
JP2010093752A (ja) 固体撮像素子及び信号処理システム
US20100091150A1 (en) Solid-state imaging device and signal processing system
JP2009253693A (ja) 撮像装置
JP2002051357A (ja) 撮像素子及びそれを用いた撮像装置
JP6737325B2 (ja) 撮像モジュール及び撮像装置
JP2007306482A (ja) 撮像装置
EP3979635A1 (en) Image transducer and 3d image capturing system having the same
JP2019080265A (ja) 電源装置及びその制御方法
JP2010093796A (ja) 撮像装置及び埃塵除去装置
Kagawa et al. Demonstration of wide-angle beam steering optics in wavelength-division-multiplexing indoor optical wireless LAN with dedicated CMOS imager
JP2010010757A (ja) 撮像装置及び固体撮像素子の駆動方法
JPH11252463A (ja) 撮像システム
JPH11261905A (ja) 固体撮像装置の駆動方法およびこれを用いた撮像装置
JP2003110812A (ja) 画像読取装置
JP2012178765A (ja) 固体撮像装置、固体撮像装置の駆動方法、及びカメラシステム
JP2000184248A (ja) 固体撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110914

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121011

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121203

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121231

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160125

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees