JP4446674B2 - 画像処理装置及び撮像装置 - Google Patents

画像処理装置及び撮像装置 Download PDF

Info

Publication number
JP4446674B2
JP4446674B2 JP2003094115A JP2003094115A JP4446674B2 JP 4446674 B2 JP4446674 B2 JP 4446674B2 JP 2003094115 A JP2003094115 A JP 2003094115A JP 2003094115 A JP2003094115 A JP 2003094115A JP 4446674 B2 JP4446674 B2 JP 4446674B2
Authority
JP
Japan
Prior art keywords
signal
circuit
selector
input
terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003094115A
Other languages
English (en)
Other versions
JP2004304460A (ja
Inventor
元 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MegaChips Corp
Original Assignee
MegaChips Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MegaChips Corp filed Critical MegaChips Corp
Priority to JP2003094115A priority Critical patent/JP4446674B2/ja
Priority to US10/811,934 priority patent/US7457014B2/en
Publication of JP2004304460A publication Critical patent/JP2004304460A/ja
Application granted granted Critical
Publication of JP4446674B2 publication Critical patent/JP4446674B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、CCDやCMOSなどの固体撮像素子から出力された画像信号を処理する装置及びシステムに関する。
【0002】
【従来の技術】
一般にデジタルカメラは、CCDやCMOSなどの固体撮像素子(以下、単に「撮像素子」と呼ぶ。)を搭載している。R(赤色),G(緑色),B(青色)の各色毎に撮像素子を搭載したデジタルカメラ(以下、「3板式デジタルカメラ」と呼ぶ。)の他に、単板の撮像素子を搭載したデジタルカメラ(以下、「単板式デジタルカメラ」と呼ぶ。)も広く普及している。単板式デジタルカメラの場合、撮像素子の受光部上には、公知のベイヤー配列などに従って各画素毎にR,GまたはBの色フィルタが形成されている。この撮像素子で撮像した画像信号に対しては、各画素がR,G,Bの複数色の成分を持つように画素補間処理を施されるが、この画素補間処理によって解像度の低下や偽色の発生などの問題が起きることが知られている。
【0003】
一方、3板式デジタルカメラの場合、3枚の撮像素子からパラレルに出力される画像信号を処理する必要があることから、画像処理の回路構成が複雑化し、製造コストが高くなり易かった。なお、3板式デジタルカメラの画像処理に関する情報は、例えば下記特許文献1に記載されている。
【0004】
ところで、近年、各画素にR,G,Bの3層の受光部を備えた"foveon社 x3センサー"などの単板完全フルカラー撮像素子が普及してきている。この撮像素子では、入射光は、R,G,Bの各層の受光部で検出されるため、単板の撮像素子からR,G,Bの3色の成分信号が並列に出力され、また画素補間処理が不要であるため偽色の発生や解像度の低下などが起こり難いという利点がある。この種の撮像素子に関連する情報は、例えば下記非特許文献1に示すURLから得ることが可能である。
【0005】
【特許文献1】
特開平10−308901号公報(図1,図2)
【非特許文献1】
インターネット<URL: http://www.foveon.com/X3_better.html>
【0006】
【発明が解決しようとする課題】
上記単板完全フルカラー撮像素子の普及に伴い、この単板完全フルカラー撮像素子を搭載したデジタルカメラに対応するとともに、従来の単板式デジタルカメラにも対応し得る低コストで低消費電力且つ小回路規模の画像処理チップが求められている。
【0007】
以上の状況に鑑みて本発明の目的は、(1)撮像センサから並列に出力される複数の色成分信号を並列に処理し得る低コスト、低消費電力及び小回路規模の画像処理装置及び画像処理システム並びにこれらを搭載した撮像装置を提供することと、(2)複数の種類の撮像素子に対応し得る画像処理装置及びこれを搭載した撮像装置を提供することにある。
【0008】
【課題を解決するための手段】
上記目的を達成するため、第1の発明は、撮像センサから並列に出力された複数の色成分信号を処理する画像処理装置において、前記複数の色成分信号が入力する入力端子と、所定のタイミングに従って前記撮像センサにおける欠陥画素に対応する前記複数の色成分信号を補正する複数の欠陥画素補正回路と、前記複数の色成分信号の入力に合わせて欠陥画素補正を行うための前記所定のタイミングを生成する欠陥画素補正タイミング生成回路と、を備え、前記複数の欠陥画素補正回路は、同一の前記欠陥画素に対応する前記複数の色成分信号を、同一の前記所定のタイミングで並列に補正するとともに、DMA(ダイレクト・メモリ・アクセス)コントローラによってメモリから転送された欠陥補正データに基づいて前記所定のタイミングを生成する
【0024】
そして第の発明は、第1の発明の画像処理装置を備えた撮像装置である。
【0025】
【発明の実施の形態】
以下、本発明の種々の実施形態について説明する。
【0026】
<撮像装置1の構成>
図1は、本発明の実施形態に係る撮像装置(デジタルカメラ)1の構成を概略的に示すブロック図である。この撮像装置1は、光学機構10、撮像センサ11、SPU12、RPU13、CPU(中央演算装置)14、主メモリ18、ROM19、DMAコントローラ(DMAC)17、バス16及びシステムクロック生成部15を備えて構成されている。バス16は、アドレスバスやデータバス、DMA転送用バスなどで構成されており、バス16を介したモジュール12,13,14,17,18,19間の信号転送は、CPU14或いはDMAC17の制御によって実行される。なお、この明細書では「データ転送制御部」は、CPU14とDMAC17との一方または双方を含む。またシステムクロック生成部15は、クロック信号SCK0〜SCK2を生成し、SPU12、RPU13及びDMAC17に供給している。
【0027】
また、この撮像装置1は、図示しないが、撮像した画像を表示する表示装置、メモリカードなどの周辺装置に対応した各種インターフェース回路、圧縮符号化回路、入力ボタンやダイアルなどの入力装置、フラッシュ光を発する閃光装置などを搭載している。
【0028】
光学機構10は、レンズ群やプリズム、AF(オート・フォーカス;自動合焦)機能や絞り調節機能などを有しており、被写体からの入射光ILはこの光学機構10を透過し、撮像センサ11で結像させられる。撮像センサ11に入射した光は、図示しない光学LPF(光学ローパスフィルタ)を通過した後に、CCDやCMOSなどの撮像素子で受光される。また撮像センサ11では、前記光学LPFを透過した光がアナログ画像信号に光電変換され、次いで、CDS処理(Correlated Double Sampling processing;相関二重サンプリング処理)、AGC処理(Automatic Gain Control processing;自動利得制御処理)及びA/D変換処理をこの順で施された後に、SPU12へ出力される。
【0029】
SPU(Signal Processing Unit;シグナル・プロセッシング・ユニット)12は、撮像センサ11から入力したデジタル画像信号に欠陥画素補正などの処理を施した後に、バス16或いはRPU(Real-time Processing Unit;リアルタイム・プロセッシング・ユニット)13に出力する。RPU13は、SPU12から入力する画像信号に対して、シェーディング補正処理、画素補間処理、ガンマ補正処理、色空間変換処理、輪郭強調処理及び解像度変換処理などの種々のデジタル画像処理をリアルタイムに実行する機能を有している。SPU12やRPU13がバス16に出力した画像データは、CPU14またはDMAC17の制御によって主メモリ18に転送し格納することができる。またCPU14は、ROM19からプログラムをロードして実行することにより、主メモリ18から読出した画像データに様々なソフトウェア処理を施すことができる。
【0030】
またDMAC17は、複数個のDMAチャンネルCH0〜CHn(nは1以上の整数)とバスコントローラBCとを備えている。DMAC17の制御部(図示せず)は、他のモジュールからDMA転送の要求を受けると、搭載する複数のDMAチャンネルCH0〜CHnの中から、当該DMA転送に割り当てるDMAチャンネルCHk(kは0〜nの何れか)を選択するとともに、バスコントローラBCにバス獲得要求を発する。バスコントローラBCがそのバス獲得要求に成功した場合、バスコントローラBCは、割り当てられたDMAチャンネルCHkを用いてモジュール間のデータ転送を実行する。DMA転送の終了後、バスコントローラBCは、使用していたバスを開放する。また複数のDMA転送を実行する場合、複数のDMAチャンネルが割り当てられ、複数のDMA転送が時分割で実行されることになる。
【0031】
以上の構成を有する撮像装置1の各部の構成を以下に説明する。
【0032】
<第1の実施形態>
図2及び図3は、本発明の第1の実施形態に係るSPU(画像処理装置)12の回路構成を概略的に示す図である。なお、図2及び図3に示す回路は、一点鎖線Mを介して連続的に接続する。このSPU12は、入力端子P1〜P7から入力した原色RGBの色成分信号、或いは16ビットのYUV信号、或いはRAWデータ信号を処理する機能を有する。
【0033】
<原色RGBの色成分信号の処理>
このSPU12が原色RGBの色成分信号を処理する場合、撮像センサ11から並列に入力するG信号、R信号及びB信号はそれぞれ、入力端子P2、P6及びP7に入力させられる。入力端子P2に入力した12ビット幅のG信号CCDD[11:0]は、図2に示す第1位相調整回路(first phase adjustment circuit)21、セレクタ26,29及び黒レベル補正回路(DLC;dark level compensation circuit)35に順次伝達し、さらに、図3に示すセレクタ43、ホワイトバランス補正回路(WBC;white balance compensation circuit)46及び欠陥画素補正回路49に伝達する。その後、欠陥画素補正回路49から出力されたG信号は、AF評価値算出回路(AFC)53、画素平均回路54、サブサンプリング回路(subsampling circuit)55及びサブサンプリング回路59に供給される。画素平均回路54若しくはサブサンプリング回路55に伝達したG信号は、セレクタ56,57を介して出力制御回路58からバス16に出力され得る。一方、サブサンプリング回路59に伝達したG信号は、セレクタ62を介してRPU13に出力され得る。
【0034】
具体的には、第1位相調整回路21は、クロックSPU2CK,SPUCKを用いて、入力端子P2から伝達したG信号CCDD[11:0]をサンプリングし位相調整した後に、セレクタ26の"0"番目端子に出力する。セレクタ26は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号を次段のセレクタ29の"0"番目端子へ出力する。いま、セレクタ26は"0"番目端子を選択しており、第1位相調整回路21から入力したG信号を選択しセレクタ29へ出力している。
【0035】
またセレクタ29は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号(選択信号)S0を出力する。いま、セレクタ29は"0"番目端子を選択しており、前段のセレクタ26から伝達した信号を選択信号S0として出力している。
【0036】
その選択信号S0の上位2ビットがセレクタ32の"0"番目端子に入力し、選択信号S0の下位10ビットが黒レベル補正回路(DLC)35に入力する。セレクタ32は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した2ビット信号を出力する。セレクタ32が"1"番目端子を選択したとき、ゼロ値(=0x0)の2ビット信号が出力される。セレクタ32が出力した2ビット信号と、前記選択信号S0の下位10ビットとは結合されて黒レベル補正回路35に供給される。このようにセレクタ32を設けた理由は、10ビット出力の撮像センサ11に対応するためである。SPU12が、10ビット信号を出力する撮像センサ11と接続される場合、セレクタ32に"1"番目端子を選択させ、選択信号S0の上位2ビットをマスクする。これによりマスクされた上位2ビットに相当する端子を他の用途に使用することができる。
【0037】
また黒レベル補正回路35は、入力信号の黒レベルが基準レベルに一致するように当該入力信号の階調を補正する機能を有する。黒レベル補正回路35は、基準レベルの値を保持するレジスタ(図示せず)を備えている。この黒レベル補正回路35から出力された12ビット信号は、図3に示す2ビットシフト演算器(BS)40とセレクタ43の"0"番目端子とに入力する。
【0038】
また2ビットシフト演算器40は、黒レベル補正回路35から伝達した12ビット信号を2ビット左シフトしてセレクタ43の"1"番目端子に出力する機能を有している。SPU12が10ビット出力の撮像センサ11と接続されている場合、黒レベル補正回路35が出力した12ビット信号の下位10ビットに画像成分が含まれており、この12ビット信号を2ビット左シフトすることで画像成分は上位10ビットに移動させられる。これは、後段のホワイトバランス補正に対処するためである。セレクタ43は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号を出力する。
【0039】
またホワイトバランス補正回路(WBC;white balance compensation circuit)46は、前段のセレクタ43から伝達した入力信号の色調を基準値に合わせて補正し、欠陥画素補正回路49に出力する。このホワイトバランス補正回路46は前記基準値を格納するレジスタ(図示せず)を備える。
【0040】
また欠陥画素補正回路49は、タイミング生成回路(TG;Timing generator)52から供給された制御信号TSのタイミングで、撮像センサ11における欠陥画素に対応する入力信号を補正して出力する。入力信号が欠陥画素に対応するとき、例えば、当該欠陥画素に近い正常な画素に対応する信号を平均化して補正信号を生成し、入力信号をその補正信号に置き換えるといった処理が実行される。
【0041】
また欠陥画素の位置は、撮像センサ11の検査段階で予め検出されており、その欠陥画素の位置情報を含む欠陥補正データDCDがROM19(図1)に記録されている。この欠陥補正データDCDは、DMAC17により、欠陥画素補正回路49へのG信号の入力に合わせて画素単位でROM19からSPU12へ転送され、入力制御回路63で受信される。ROM19から直接DMA転送するかわりに、いったんRAM18に欠陥補正データDCDをコピーした後にDMA転送してもよい。入力制御回路63は、受信した欠陥補正データDCDをFIFO回路63aにバッファリングさせた後、タイミング生成回路52へ供給する。そしてタイミング生成回路52は、欠陥補正データDCDに基づいて制御信号TSを生成し、前記欠陥画素補正回路49と後述する他の欠陥画素補正回路50,51とに供給する。よって、3つの欠陥画素補正回路49,50,51が同一のタイミングで同一画素に対応する信号を補正することとなる。なお、ここでは、欠陥補正データDCDをROMやRAMなどのメモリに格納し、これらメモリからDMA転送するようにしたが、欠陥補正データDCDは、たとえば、タイミング生成回路52内のレジスタに格納するような形態でもよい。また、CPUの処理能力に余裕があれば、ROM等のメモリに格納されている欠陥補正データをDMA転送ではなく、CPUにより転送する形態でもよい。つまり、欠陥補正データDCDの格納場所や転送方法は特に限定されるものではない。
【0042】
欠陥画素補正回路49から出力されたG信号は、AF評価値算出回路(AFC)53、画素平均回路54及びサブサンプリング回路55,59に供給される。AF評価値算出回路(AFC)53は、欠陥画素補正回路49から出力されたG信号を用いて、オートフォーカス制御用の評価データ信号EVを算出する。また画素平均回路54は、数十画素の入力信号を平均化することでホワイトバランス調整用或いは自動露出調整用の評価データ信号を生成し、セレクタ56の"1"番目端子に出力する。またサブサンプリング回路55は、入力信号をサブサンプリングすることで入力信号の解像度を低下させ、その処理結果である信号をセレクタ56の"0"番目端子に出力する。サブサンプリング回路59も、前記サブサンプリング回路55と同様の処理を実行し、その処理結果である信号をセレクタ62の"0"番目端子に出力する。なお、これらサブサンプリング回路55,59は、入力信号をサブサンプリングせずにそのまま出力することも可能である。
【0043】
セレクタ56は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号を後段のセレクタ57の"0"番目端子へ出力する。またこのセレクタ57の他方"1"番目端子には、後述する分離回路20から伝達した信号が入力しており、セレクタ57は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号を出力制御回路58に出力することができる。そして出力制御回路58は、入力信号をFIFO回路58aにバッファリングした後、DMA転送させるべくバス16に出力する。
【0044】
一方、入力端子P6に入力した12ビット幅のR信号TCCHR[11:0]は、図2に示す第2位相調整回路(2nd phase adjustment circuit)22、セレクタ27,30及び黒レベル補正回路36に伝達した後、さらに、図3に示すセレクタ44、ホワイトバランス補正回路47、欠陥画素補正回路50及びサブサンプリング回路60に伝達し、その後、RPU13に出力される。
【0045】
具体的には、第2位相調整回路22は、クロックSPU2CK,SPUCKを用いて、入力端子P6から伝達したR信号TCCHR[11:0]をサンプリングし位相調整した後に、セレクタ27の"0"番目端子に出力する。セレクタ27は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号を次段のセレクタ30の"0"番目端子へ出力する。いま、セレクタ27は"0"番目端子を選択しており、第2位相調整回路22から入力したR信号を選択しセレクタ30へ出力している。
【0046】
またセレクタ30は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号(選択信号)S1を出力する。いま、セレクタ30は"0"番目端子を選択しており、前段のセレクタ27から伝達した信号を選択信号S1として出力している。
【0047】
またその選択信号S1の上位2ビットがセレクタ33の"0"番目端子に入力し、選択信号S1の下位10ビットが黒レベル補正回路(DLC)36に入力する。セレクタ33は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した2ビット信号を出力する。セレクタ33が"1"番目端子を選択したとき、ゼロ値(=0x0)の2ビット信号が出力される。またセレクタ33が出力した2ビット信号と、前記選択信号S1の下位10ビットとは結合されて黒レベル補正回路36に供給される。
【0048】
また黒レベル補正回路36は、内蔵レジスタ(図示せず)に保持する基準レベルを用いて、入力信号の黒レベルが基準レベルに一致するように当該入力信号の階調を補正し、その結果得た信号を後段(図3)の2ビットシフト演算器(BS)41とセレクタ44の"0"番目端子とに出力する。2ビットシフト演算器41は、黒レベル補正回路36から伝達した12ビット信号を2ビット左シフトしてセレクタ44の"1"番目端子に出力する。このセレクタ44は、CPU14から供給された選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号をホワイトバランス補正回路47へ出力する。そしてホワイトバランス補正回路47は、内蔵レジスタ(図示せず)に保持した基準値を用いて、前段のセレクタ44から伝達した入力信号の色調をその基準値に合わせて補正し、欠陥画素補正回路50に出力する。
【0049】
欠陥画素補正回路50は、タイミング生成回路52から供給された制御信号TSのタイミングで欠陥画素に対応する入力信号を補正する。この欠陥画素補正回路50の出力信号は、サブサンプリング回路60でサブサンプリングされた後、RPU13に供給される。なお、サブサンプリング回路60は、入力信号をサブサンプリングせずにそのままRPU13へ出力することも可能である。
【0050】
また前記サブサンプリング回路60の出力信号は、セレクタ62の"1"番目端子にも入力している。セレクタ62は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号をRPU13へ出力する。このためセレクタ62によって、"0"番目端子に入力するG信号と、"1"番目端子に入力するR信号との何れか一方を選択してRPU13に供給することができる。いま、セレクタ62は、G信号を選択してRPU13に供給している。
【0051】
他方、入力端子P7に入力した12ビット幅のB信号TCCHB[11:0]は、図2に示す第3位相調整回路(3rd phase adjustment circuit)23、セレクタ28,31及び黒レベル補正回路37に伝達した後、さらに、図3に示すセレクタ45、ホワイトバランス補正回路48、欠陥画素補正回路51及びサブサンプリング回路61に伝達し、その後、RPU13に出力される。
【0052】
具体的には、第3位相調整回路23は、クロックSPU2CK,SPUCKを用いて、入力端子P7から伝達したB信号TCCHB[11:0]をサンプリングし位相調整した後に、セレクタ28の"0"番目端子に出力する。セレクタ28は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号を次段のセレクタ31の"0"番目端子へ出力する。いま、セレクタ31は"0"番目端子を選択しており、第3位相調整回路23から入力したB信号を選択しセレクタ31へ出力している。
【0053】
またセレクタ31は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号(選択信号)S2を出力する。いま、セレクタ31は"0"番目端子を選択しており、前段のセレクタ28から伝達した信号を選択信号S2として出力している。
【0054】
またその選択信号S2の上位2ビットがセレクタ34の"0"番目端子に入力し、選択信号S2の下位10ビットが黒レベル補正回路(DLC)37に入力する。セレクタ34は、CPU14から与えられた選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した2ビット信号を出力する。セレクタ34が"1"番目端子を選択したとき、ゼロ値(=0x0)の2ビット信号が出力される。またセレクタ34が出力した2ビット信号と、前記選択信号S2の下位10ビットとは結合されて黒レベル補正回路37に供給される。
【0055】
また黒レベル補正回路37は、内蔵レジスタ(図示せず)に保持する基準レベルを用いて、入力信号の黒レベルが基準レベルに一致するように当該入力信号の階調を補正し、その結果得た信号を後段(図3)の2ビットシフト演算器(BS)42とセレクタ45の"0"番目端子とに出力する。2ビットシフト演算器42は、黒レベル補正回路37から伝達した12ビット信号を2ビット左シフトしてセレクタ45の"1"番目端子に出力する。このセレクタ45は、CPU14から供給された選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した信号をホワイトバランス補正回路48へ出力する。そしてホワイトバランス補正回路48は、内蔵レジスタ(図示せず)に保持した基準値を用いて、前段のセレクタ45から伝達した入力信号の色調をその基準値に合わせて補正し、欠陥画素補正回路51に出力する。
【0056】
欠陥画素補正回路51は、タイミング生成回路52から供給された制御信号TSのタイミングで欠陥画素に対応する入力信号を補正する。この欠陥画素補正回路51の出力信号は、サブサンプリング回路61でサブサンプリングされた後、RPU13に供給される。なお、サブサンプリング回路61は、入力信号をサブサンプリングせずにそのままRPU13へ出力することも可能である。
【0057】
<YUV422信号の処理>
次に、第1の実施形態に係るSPU12(図2及び図3)が16ビットのYUV信号を処理する場合について以下に説明する。この16ビットのYUV信号は、Y信号(輝度信号)、U信号(色差信号)及びV信号(色差信号)のサンプリング比が4:2:2となるように生成されたYUV422信号であって、8ビットのY信号と、8ビットのUV信号(U信号とV信号とを時分割で多重化した信号)とで構成される。ここでUV信号は8ビットのU信号と8ビットのV信号とをサブサンプリングして多重化したものである。
【0058】
16ビットのYUV信号の上位4ビット信号YUVI[15:12]は入力端子P1に入力させられ、その下位12ビット信号CCDD[11:0]は入力端子P2に入力させられる。これら信号YUVI[15:12],CCDD[11:0]は結合されて分離回路20に入力する。よって、入力端子P2は、YUV信号と上記原色RGB信号とで共用されるため、YUV信号と原色RGB信号とで独立に入力端子を設ける場合と比べると、入力端子に設ける入力ピンの個数が少なくて済む。
【0059】
また入力端子P1,P2に入力した16ビット幅のYUV422信号は、分離回路20に伝達する。分離回路20は、YUV422信号をサンプリングして8ビットのY信号と8ビットのUV信号とに分離して出力する。Y信号は、ゼロ値(=0b0000)の上位4ビットを付加され12ビット信号となってセレクタ29の"1"番目端子に伝達し、UV信号はオーバーサンプリング回路25に伝達する。またオーバーサンプリング回路25は、入力するUV信号をオーバーサンプリングし、その結果8ビットのU信号及び8ビットのV信号を出力する。これらU信号及びV信号はそれぞれ、ゼロ値(=0b0000)の上位4ビットを付加され12ビット信号となってセレクタ30及び31の"1"番目端子に伝達する。
【0060】
セレクタ29,30,31はそれぞれ、CPU14から与えられた共通の選択制御信号(図示せず)の値に応じて"0"番目端子と"1"番目端子との何れか一方を選択し、選択した端子に入力した選択信号S0,S1,S2を出力する。いま、セレクタ29〜31は"1"番目端子を選択しており、セレクタ29はY信号を、セレクタ30はU信号を、セレクタ31はV信号をそれぞれ出力する。
【0061】
セレクタ29から出力されたY信号(選択信号S0)は、上記原色RGBの色成分信号の処理と同様に、セレクタ32、黒レベル補正回路35、2ビットシフト演算器40、セレクタ43及び欠陥画素補正回路49で順次処理された後、AF評価値算出回路(AFC)53、画素平均回路54及びサブサンプリング回路55,59に出力され処理される。いま、セレクタ62は"0"番目端子を選択しており、サブサンプリング回路59から入力するY信号をRPU13へ出力する。
【0062】
またセレクタ30から出力されたU信号(選択信号S1)も同様に、セレクタ33、黒レベル補正回路36、2ビットシフト演算器41、セレクタ44、ホワイトバランス補正回路47、欠陥画素補正回路50及びサブサンプリング回路60で順次処理された後、RPU13へ出力される。さらにセレクタ31から出力されたV信号(選択信号S2)も同様に、セレクタ34、黒レベル補正回路37、2ビットシフト演算器42、セレクタ45、ホワイトバランス補正回路48、欠陥画素補正回路51及びサブサンプリング回路61で順次処理された後、RPU13へ出力される。
【0063】
一方、分離回路20から出力されたY信号とUV信号とは結合され、16ビットのYUV422信号としてセレクタ57(図3)の"1"番目端子に伝達している。セレクタ57は、前段のセレクタ56から出力された信号と、YUV422信号との何れか一方を出力制御回路58に出力し、出力制御回路58は、DMA転送すべき信号をバス16に出力する。したがって、セレクタ57に"1"番目端子を選択させることで、YUV422信号をそのまま他のモジュールにDMA転送する処理と並行して、上記Y信号、U信号及びV信号(YUV444信号)をRPU13に出力することができる。YUV422信号はオーバーサンプリングされていないため、YUV444信号を転送する場合と比べるとそのデータ転送量が小さく、バス16の使用帯域を抑制できるという利点がある。
【0064】
<RAWデータ信号の処理>
なお、上記SPU12は、ベイヤー配列の色フィルタアレイを備えた単板の撮像センサ11の出力信号(RAWデータ信号)を処理することができる。RAWデータ信号は、各画素が単色成分のみを持つ信号である。
【0065】
入力端子P2から入力した12ビット幅のRAWデータ信号は、第1位相調整回路21でサンプリングされ位相調整された後に、セレクタ26に出力される。いま、セレクタ26は"0"番目端子を選択しており、第1位相調整回路21から出力されたRAWデータ信号をセレクタ29に出力する。いま、セレクタ29は"0"番目端子を選択しており、前段のセレクタ26から入力したRAWデータ信号を選択信号S0として出力する。
【0066】
その後、RAWデータ信号の上位2ビット信号はセレクタ32の"0"番目端子に伝達し、その下位10ビット信号は黒レベル補正回路35に伝達する。黒レベル補正回路35には、セレクタ32から出力された上位2ビット信号と、RAWデータの下位10ビット信号とが結合され、12ビット信号となって入力する。
【0067】
黒レベル補正回路35は4種類の動作モード(TC MODE)を備えており、各動作モード毎に使用する基準レベルの値が異なる。第1の動作モードは、上記原色RGBの色成分信号の処理と、上記YUV信号の処理とで使用するモードである。また第2〜第4の動作モードは、RAWデータ信号の処理で使用するモードである。RAWデータ信号は、隣接する画素間で信号の色が異なるため、黒レベル補正回路35は、入力信号の色に合わせて画素毎に動作モードを切り換える。例えば、R信号,G信号,R信号,G信号,…のようにR信号とG信号とが交互に入力する場合、R信号用の動作モードとG信号用の動作モードとが交互に切り換えられることになる。
【0068】
また黒レベル補正回路35から出力された信号は、2ビットシフト演算器40及びセレクタ43を伝達した後、ホワイトバランス補正回路46に入力する。このホワイトバランス補正回路46は、上記黒レベル補正回路35と同様に4種類の動作モード(TC MODE)を備えており、入力信号の色に合わせて画素毎に動作モードを切り換える。
【0069】
また欠陥画素補正回路49からサブサンプリング回路55に伝達した信号は、サブサンプリング回路55、セレクタ56,57を介して出力制御回路58に入力した後、バス16に出力され転送される。一方、サブサンプリング回路59は、上記黒レベル補正回路35と同様に4種類の動作モード(TC MODE)を備えており、入力信号の色に合わせて画素毎に動作モードを切り換える。欠陥画素補正回路49からサブサンプリング回路59に伝達した信号は、サブサンプリング回路59及びセレクタ62を介してRPU13に出力される。
【0070】
以上に説明した通り、本実施形態に係るSPU12は、複数の種類の画像信号を処理し得るため高い汎用性を有している。
【0071】
また3つの欠陥画素補正回路49,50,51は、タイミング生成回路52から供給された共通の制御信号TSに基づいて、同一のタイミングで同一の欠陥画素に対応する信号を補正するため、各欠陥画素補正回路毎にタイミングを生成する必要は無い。よって、欠陥補正データDCDの容量も小さくなるため、データ転送量が少なくて済み、バス16の使用効率を向上させることが可能となる。また、各欠陥画素補正回路毎にタイミング生成回路を設ける必要が無いため、SPU12の回路規模を小さくし消費電力を抑えることが可能である。さらに欠陥補正データDCDは、DMAC17によってDMA方式で転送されることから、CPU14の処理負荷の軽減によって処理効率が向上するとともに、欠陥補正データDCDの転送に割り当てるDMAチャンネルは一つで済むため効率の高いデータ転送が可能である。
【0072】
<第2の実施形態>
上記第1の実施形態では、3種類の信号を処理するSPU12の構成について説明したが、SPU12は、サンプリング回路24を用いてさらに別の種類の信号を処理することが可能である。第2の実施形態に係るSPU12では、図2に示したサンプリング回路24が図4に示す回路構成を有することが特徴である。
【0073】
本実施形態では、撮像センサ11は、各色12ビットのG信号、R信号及びB信号を生成し、各色成分信号を6ビットづつ直列に変換してSPU12に出力する。言い換えれば、12ビット幅の色成分信号を6ビット幅のデータ信号に分解し、これらデータ信号を時分割で多重化して得た多重化信号CCDD[5:0],CCDD[11:6],TCCHR[5:0]が、SPU12に供給される。
【0074】
図5のタイミングチャートに、多重化信号CCDD[5:0],CCDD[11:6],TCCHR[5:0]の波形例を示す。多重化信号CCDD[5:0]は、12ビットのG信号G[11:0]を下位6ビットのデータ信号G[5:0]と、上位6ビットのデータ信号G[11:6]とに分解し時分割で多重化することで構成され、多重化信号CCDD[5:0]は、12ビットのR信号R[11:0]を下位6ビットのデータ信号R[5:0]と、上位6ビットのデータ信号R[11:6]とに分解し時分割で多重化することで構成され、多重化信号TCCHR[5:0]は、12ビットのB信号B[11:0]を下位6ビットのデータ信号B[5:0]と、上位6ビットのデータ信号B[11:6]とに分解し時分割で多重化することで構成されている。また多重化された各データ信号は、クロック信号SPU2CKと同期して入力する。
【0075】
図4に示すサンプリング回路24は、クロック信号SPUCKとこのクロック信号SPUCKの2倍の周波数を持つクロック信号SPU2CKとを用いて、6ビット幅の多重化信号をサンプリングし結合して12ビット幅の色成分信号G[11:0],R[11:0],B[11:0]へ変換する機能を有する。以下、図4及び図5を参照しつつサンプリング回路24の構成及び動作を説明する。
【0076】
このサンプリング回路24は、タイミングコントローラ89、ラッチ回路90A〜93B、第1セレクタ94〜第3セレクタ96及び第1レジスタ97〜第3レジスタ99を備えている。タイミングコントローラ89は、クロック信号SPU2CKを2分周してロー・イネーブル信号LENを生成し、ラッチ回路90A,91A,92A,93Aのイネーブル端子ENに供給すると共に、ロー・イネーブル信号LENに対して180度位相がずれたハイ・イネーブル信号HENを生成し、ラッチ回路90B,91B,92B,93Bのイネーブル端子ENに供給する。
【0077】
ラッチ回路90A〜93Bは、イネーブル端子ENへの入力信号の高レベル期間においてクロック信号SPU2CKの立下りエッジで、端子Dに入力したデータ信号をラッチしこれを端子Qから出力する。具体的には、ラッチ回路90A,91A,92A,93Aはそれぞれ、ロー・イネーブル信号LENの高レベル期間においてクロック信号SPU2CKの立下りエッジで、データ信号G[5:0](=CCDD[5:0]),R[5:0](=CCDD[11:6]),B[5:0](=TCCHR[5:0]),X[5:0](=TCCHR[11:6])をラッチする。またラッチ回路90B,91B,92B,93Bはそれぞれ、ハイ・イネーブル信号HENの高レベル期間においてクロック信号SPU2CKの立下りエッジで、データ信号G[11:6](=CCDD[5:0]),R[11:6](=CCDD[11:6]),B[11:6](=TCCHR[5:0]),X[11:6](=TCCHR[11:6])をラッチする。なお、本実施形態ではデータ信号X[5:0],X[11:6]は何れの色成分信号にも割り当てられていない。
【0078】
次にラッチ回路90A,90Bの出力信号は結合して12ビット信号CH0D[11:0]として第1セレクタ94〜第3セレクタ96の"0"番目端子に入力し、ラッチ回路91A,91Bの出力信号は結合して12ビット信号CH1D[11:0]として第1セレクタ94〜第3セレクタ96の"1"番目端子に入力し、ラッチ回路92A,92Bの出力信号は結合して12ビット信号CH2D[11:0]として第1セレクタ94〜第3セレクタ96の"2"番目端子に入力し、そして、ラッチ回路93A,93Bの出力信号は結合して12ビット信号CH3D[11:0]として第1セレクタ94〜第3セレクタ96の"3"番目端子に入力する。
【0079】
第1セレクタ94〜第3セレクタ96はそれぞれ、CPU14から与えられた2ビットの選択制御信号TCPHR[1:0],TCPHG[1:0],TCPHB[1:0]の値に応じて"0"番目端子〜"4"番目端子の何れかを選択し、選択した端子に入力した信号を出力する。
【0080】
本例では、第1セレクタ94は"1"番目端子を選択してR信号を出力し、第2セレクタ95は"0"番目端子を選択してG信号を出力し、第3セレクタ96は"2"番目端子を選択してB信号を出力している。なお、図5に示すデータXXは、第1セレクタ94〜第3セレクタ96で選択されないデータを指している。
【0081】
そして第1レジスタ97〜第3レジスタ99はそれぞれ、クロック信号SPUCKの立上りエッジで、第1セレクタ94〜第3セレクタ96から入力した信号をラッチし、R信号R[11:0](=CHR[11:0]),G信号G[11:0](=CHG[11:0])及びB信号B[11:0](=CHB[11:0])として出力する。
【0082】
このようにSPU12が本実施形態に係るサンプリング回路24を採用した場合、サンプリング回路24は6ビットづつ直列に転送された多重化信号を受信して12ビット幅の色成分信号へ変換するため、色成分信号をそのまま受信する場合と比べると入力端子に備える入力ピンの個数を大幅に減らすことが可能となる。したがって、小回路規模のSPU12を実現できる。
【0083】
なお、本実施形態に係るサンプリング回路24は6ビット幅の多重化信号を12ビット幅の色成分信号に変換したが、本発明ではこれに限らず、N2ビット幅(N2は正整数)の多重化信号をN1(=2×N2)ビット幅の色成分信号に変換する構成に拡張することは当業者にとって容易である。
【0084】
また、本実施形態に係るサンプリング回路24は、多重化信号を3色成分信号G[11:0],R[11:0],B[11:0]に変換する構成を有するが、多重化信号を4色成分信号に変換する構成に拡張することも当業者にとって容易である。具体的には、サンプリング回路24に、第1セレクタ94〜第3セレクタ96と同一構成のセレクタと、第1レジスタ97〜第3レジスタ99と同一構成のレジスタとを付加すればよい。
【0085】
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。第3の実施形態に係るSPU12では、図2に示したサンプリング回路24が図6に示す回路構成を有することが特徴である。本実施形態では、撮像センサ11は、各色12ビットのG信号、R信号及びB信号を生成し、各色成分信号を4ビットづつ直列に変換してSPU12に出力する。言い換えれば、12ビット幅の色成分信号を4ビット幅のデータ信号に分解し、これらデータ信号を時分割で多重化して得た多重化信号CCDD[3:0],CCDD[7:4],CCDD[11:8]が、SPU12に供給される。
【0086】
図7のタイミングチャートに、多重化信号CCDD[3:0],CCDD[7:4],CCDD[11:8]の波形例を示す。多重化信号CCDD[3:0]は、12ビットのG信号G[11:0]をデータ信号G[3:0],G[7:4],G[11:8]に分解し多重化することで構成され、多重化信号CCDD[7:4]は、12ビットのR信号R[11:0]をデータ信号R[3:0],R[7:4],R[11:8]に分解し多重化することで構成され、多重化信号CCDD[11:8]は、12ビットのB信号B[11:0]をデータ信号B[3:0],B[7:4],B[11:8]に分解し多重化することで構成されている。また多重化された各データ信号は、クロック信号SPU3CKと同期して入力する。
【0087】
図6に示すサンプリング回路24は、クロック信号SPUCKとこのクロック信号SPUCKの3倍の周波数を持つクロック信号SPU3CKとを用いて、4ビット幅の多重化信号をサンプリングし結合することで当該多重化信号を12ビット幅の色成分信号G[11:0],R[11:0],B[11:0]へ変換する機能を有する。以下、図6及び図7を参照しつつサンプリング回路24の構成及び動作を説明する。
【0088】
このサンプリング回路24は、タイミングコントローラ106、ラッチ回路100A〜102C及び第1レジスタ103〜第3レジスタ105を備えている。タイミングコントローラ106は、クロック信号SPU3CKを分周して第1イネーブル信号LEN、第2イネーブル信号MEN及び第3イネーブル信号HENを生成する。第1イネーブル信号LENのパルス幅はクロック信号SPU3CKの1周期(=T)に相当しており、第2イネーブル信号MENの位相は、第1イネーブル信号LENのそれと比べて1周期(=T)だけ遅れており、第3イネーブル信号HENの位相は、第1イネーブル信号LENのそれと比べて2周期(=2×T)だけ遅れている。第1イネーブル信号LENは、ラッチ回路100A,101A,102Aのイネーブル端子ENに入力し、第2イネーブル信号MENは、ラッチ回路100B,101B,102Bのイネーブル端子ENに入力し、第3イネーブル信号HENは、ラッチ回路100C,101C,102Cのイネーブル端子ENに入力している。
【0089】
これらラッチ回路100A〜102Cは何れも、イネーブル端子ENへの入力信号の高レベル期間においてクロック信号SPU3CKの立下りエッジで、端子Dに入力したデータ信号をラッチしこれを端子Qから出力する。具体的には、ラッチ回路100A、101A,102Aはそれぞれ、第1イネーブル信号LENの高レベル期間においてクロック信号SPU3CKの立下りエッジで、データ信号G[3:0](=CCDD[3:0]),R[3:0](=CCDD[7:4]),B[3:0](=CCDD[11:8])をラッチする。またラッチ回路100B、101B,102Bはそれぞれ、第2イネーブル信号MENの高レベル期間においてクロック信号SPU3CKの立下りエッジで、データ信号G[7:4](=CCDD[7:4]),R[7:4](=CCDD[7:4]),B[7:4](=CCDD[11:8])をラッチする。そしてラッチ回路100C、101C,102Cはそれぞれ、第3イネーブル信号HENの高レベル期間においてクロック信号SPU3CKの立下りエッジで、データ信号G[11:8](=CCDD[3:0]),R[11:8](=CCDD[7:4]),B[11:8](=CCDD[11:8])をラッチする。
【0090】
次にラッチ回路100A〜100Cの出力信号は結合して12ビット信号として第1レジスタ103に入力し、ラッチ回路101A〜101Cの出力信号は結合して12ビット信号として第2レジスタ104に入力し、ラッチ回路102A〜102Cの出力信号は結合して12ビット信号として第3レジスタ105に入力する。
【0091】
そして第1レジスタ103〜第3レジスタ105はそれぞれ、クロック信号SPUCKの立上りエッジで入力信号をラッチし、G信号G[11:0](=CHG[11:0]),R信号R[11:0](=CHR[11:0])及びB信号B[11:0](=CHB[11:0])を出力する。
【0092】
このようにSPU12が本実施形態に係るサンプリング回路24を採用する場合、4ビットづつ直列に転送された多重化信号を受信して12ビット幅の色成分信号へ変換するため、色成分信号をそのまま受信する場合と比べると入力端子に備える入力ピンの個数をさらに大幅に減らすことが可能となる。したがって、小回路規模のSPU12を実現できる。
【0093】
なお、本実施形態に係るサンプリング回路24は4ビット幅の多重化信号を12ビット幅の色成分信号に変換したが、本発明ではこれに限らず、N2ビット幅(N2は正整数)の多重化信号をN1(=3×N2)ビット幅の色成分信号に変換する構成に拡張することは当業者にとって容易である。
【0094】
<第4の実施形態>
次に、本発明の第4の実施形態について説明する。第4の実施形態に係るSPU12では、図2に示したサンプリング回路24が図8に示す回路構成を有することが特徴である。本実施形態では、撮像センサ11は、各色12ビットのG信号、R信号及びB信号を生成し、各色成分信号を3ビットづつ直列に変換してSPU12に出力する。言い換えれば、12ビット幅の色成分信号を3ビット幅のデータ信号に分解し、これらデータ信号を時分割で多重化して得た多重化信号CCDD[2:0],CCDD[5:3],CCDD[8:6]が、SPU12に供給される。
【0095】
図9のタイミングチャートに、多重化信号CCDD[2:0],CCDD[5:3],CCDD[8:6]の波形例を示す。多重化信号CCDD[2:0]は、12ビットのG信号G[11:0]をデータ信号G[2:0],G[5:3],G[8:6],G[11:9]に分解し多重化することで構成され、多重化信号CCDD[5:3]は、12ビットのR信号R[11:0]をデータ信号R[2:0],R[5:3],R[8:6],R[11:9]に分解し多重化することで構成され、多重化信号CCDD[8:6]は、12ビットのB信号B[11:0]をデータ信号B[2:0],B[5:3],B[8:6],B[11:9]に分解し多重化することで構成されている。また多重化された各データ信号は、クロック信号SPU4CKと同期して入力する。
【0096】
図8に示すサンプリング回路24は、クロック信号SPUCKとこのクロック信号SPUCKの4倍の周波数を持つクロック信号SPU4CKとを用いて、3ビット幅の多重化信号をサンプリングし結合することで当該多重化信号を12ビット幅の色成分信号G[11:0],R[11:0],B[11:0]へ変換する機能を有する。以下、図8及び図9を参照しつつサンプリング回路24の構成及び動作を説明する。
【0097】
このサンプリング回路24は、タイミングコントローラ116、ラッチ回路110A〜112D及び第1レジスタ113〜第3レジスタ115を備えている。タイミングコントローラ116は、クロック信号SPU4CKを分周して第1イネーブル信号EN1、第2イネーブル信号EN2、第3イネーブル信号EN3及び第4イネーブル信号EN4を生成する。第1イネーブル信号EN1のパルス幅はクロック信号SPU4CKの1周期(=TK)に相当しており、第2イネーブル信号EN2の位相は、第1イネーブル信号EN1のそれと比べて2周期(=2×TK)だけ遅れ、第3イネーブル信号EN3の位相は、第1イネーブル信号EN1のそれと比べて3周期(=3×TK)だけ遅れ、第4イネーブル信号EN4の位相は、第1イネーブル信号EN1のそれと比べて4周期(=4×TK)だけ遅れている。また第1イネーブル信号EN1は、ラッチ回路110A,111A,112Aのイネーブル端子ENに入力し、第2イネーブル信号EN2は、ラッチ回路110B,111B,112Bのイネーブル端子ENに入力し、第3イネーブル信号EN3は、ラッチ回路110C,111C,112Cのイネーブル端子ENに入力し、第4イネーブル信号EN4は、ラッチ回路110D,111D,112Dのイネーブル端子ENに入力している。
【0098】
これらラッチ回路110A〜112Dは何れも、イネーブル端子ENへの入力信号の高レベル期間においてクロック信号SPU4CKの立下りエッジで、端子Dに入力したデータ信号をラッチしこれを端子Qから出力する。具体的には、ラッチ回路110A、111A,112Aはそれぞれ、第1イネーブル信号EN1の高レベル期間においてクロック信号SPU4CKの立下りエッジで、データ信号G[2:0](=CCDD[2:0]),R[2:0](=CCDD[5:3]),B[2:0](=CCDD[8:6])をラッチする。またラッチ回路110B、111B,112Bはそれぞれ、第2イネーブル信号EN2の高レベル期間においてクロック信号SPU4CKの立下りエッジで、データ信号G[5:3](=CCDD[2:0]),R[5:3](=CCDD[5:3]),B[5:3](=CCDD[8:6])をラッチする。またラッチ回路110C、111C,112Cはそれぞれ、第3イネーブル信号EN3の高レベル期間においてクロック信号SPU4CKの立下りエッジで、データ信号G[8:6](=CCDD[2:0]),R[8:6](=CCDD[5:3]),B[8:6](=CCDD[8:6])をラッチする。そしてラッチ回路110D、111D,112Dはそれぞれ、第4イネーブル信号EN4の高レベル期間においてクロック信号SPU4CKの立下りエッジで、データ信号G[11:9](=CCDD[2:0]),R[11:9](=CCDD[5:3]),B[11:9](=CCDD[8:6])をラッチする。
【0099】
次にラッチ回路110A〜110Dの出力信号は結合して12ビット信号として第1レジスタ113に入力し、ラッチ回路111A〜111Dの出力信号は結合して12ビット信号として第2レジスタ114に入力し、ラッチ回路112A〜112Dの出力信号は結合して12ビット信号として第3レジスタ115に入力する。
【0100】
そして第1レジスタ113〜第3レジスタ115はそれぞれ、クロック信号SPUCKの立上りエッジで入力信号をラッチし、G信号G[11:0](=CHG[11:0]),R信号R[11:0](=CHR[11:0])及びB信号B[11:0](=CHB[11:0])を出力する。
【0101】
このようにSPU12が本実施形態に係るサンプリング回路24を使用する場合、3ビットづつ直列に転送された多重化信号を受信して12ビット幅の色成分信号へ変換するため、色成分信号をそのまま受信する場合と比べると入力端子に備える入力ピンの個数をさらに大幅に減らすことが可能となる。したがって、小回路規模のSPU12を実現できる。
【0102】
なお、本実施形態に係るサンプリング回路24は3ビット幅の多重化信号を12ビット幅の色成分信号に変換したが、本発明ではこれに限らず、N2ビット幅(N2は正整数)の多重化信号をN1(=4×N2)ビット幅の色成分信号に変換する構成に拡張することは当業者にとって容易である。
【0103】
<第5の実施形態>
次に、本発明の第5の実施形態について説明する。第5の実施形態に係るSPU12では、図2に示したサンプリング回路24が図10に示す回路構成を有することが特徴である。本実施形態では、撮像センサ11は、各色12ビットのG信号,R信号及びB信号を生成し、これらの色成分信号を時分割で多重化して得られる多重化信号をSPU12に出力する。図11のタイミングチャートに、多重化信号CCDD[11:0]の波形例を示す。図11中のR,G,BはそれぞれR信号、G信号及びB信号を表し、Xは何れの色成分信号でも無い(以下、X信号と呼ぶ。)。またその多重化信号はクロック信号SPU4CKと同期して入力する。
【0104】
図10に示すサンプリング回路24は、クロック信号SPUCKとこのクロック信号SPUCKの4倍の周波数を持つクロック信号SPU4CKとを用いて、多重化信号CCDD[11:0]をサンプリングし並列に出力する機能を有する。以下、図10及び図11を参照しつつサンプリング回路24の構成及び動作を説明する。
【0105】
このサンプリング回路24は、タイミングコントローラ120、ラッチ回路121〜124、第1セレクタ126〜第3セレクタ128及び第1レジスタ129〜第3レジスタ131を備えている。タイミングコントローラ120は、クロック信号SPU4CKを分周して第1イネーブル信号EN1、第2イネーブル信号EN2、第3イネーブル信号EN3及び第4イネーブル信号EN4を生成する。第1イネーブル信号EN1のパルス幅はクロック信号SPU4CKの1周期(=TK)に相当しており、第2イネーブル信号EN2の位相は、第1イネーブル信号EN1のそれと比べて2周期(=2×TK)だけ遅れ、第3イネーブル信号EN3の位相は、第1イネーブル信号EN1のそれと比べて3周期(=3×TK)だけ遅れ、第4イネーブル信号EN4の位相は、第1イネーブル信号EN1のそれと比べて4周期(=4×TK)だけ遅れている。また第1イネーブル信号EN1〜第4イネーブル信号EN4はそれぞれ、ラッチ回路121〜124のイネーブル端子ENに入力している。
【0106】
ラッチ回路121〜124は何れも、イネーブル端子ENへの入力信号の高レベル期間においてクロック信号SPU4CKの立下りエッジで、端子Dに入力した信号をラッチしこれを端子Qから出力する。具体的には、ラッチ回路121は、第1イネーブル信号EN1の高レベル期間にクロック信号SPU4CKの立下りエッジで多重化信号中のR信号CH0D[11:0]をラッチして第1セレクタ126〜第3セレクタ128の"0"番目端子に出力し、ラッチ回路122は、第2イネーブル信号EN2の高レベル期間にクロック信号SPU4CKの立下りエッジでG信号CH1D[11:0]をラッチして第1セレクタ126〜第3セレクタ128の"1"番目端子に出力し、ラッチ回路123は、第3イネーブル信号EN3の高レベル期間にクロック信号SPU4CKの立下りエッジでB信号CH2D[11:0]をラッチして第1セレクタ126〜第3セレクタ128の"2"番目端子に出力し、そして、ラッチ回路124は第4イネーブル信号EN4の高レベル期間にクロック信号SPU4CKの立下りエッジでX信号CH3D[11:0]をラッチして第1セレクタ126〜第3セレクタ128の"3"番目端子に出力する。
【0107】
第1セレクタ126〜第3セレクタ128はそれぞれ、CPU14から与えられた2ビットの選択制御信号TCPHR[1:0],TCPHG[1:0],TCPHB[1:0]の値に応じて"0"番目端子〜"3"番目端子の何れかを選択し、選択した端子に入力した信号を出力する。本例では、第1セレクタ126は"0"番目端子を選択し、第2セレクタ127は"1"番目端子を選択し、第3セレクタ128は"2"番目端子を選択している。そして第1レジスタ129〜第3レジスタ131はそれぞれ、クロック信号SPUCKの立上りエッジで、第1セレクタ126〜第3セレクタ128の出力信号をラッチし、R信号CHR[11:0]、G信号CHG[11:0]及びB信号CHB[11:0]として出力する。
【0108】
このようにSPU12が本実施形態に係るサンプリング回路24を採用した場合、サンプリング回路24は多重化された複数の色成分信号を分離して並列に出力できるため、SPU12で複数の色成分信号の並列処理を行うことが可能である。また色成分信号をそのまま受信する場合と比べると入力端子に備える入力ピンの個数を大幅に減らすことが可能である。したがって、小回路規模のSPU12を実現できる。
【0109】
なお、本実施形態に係るサンプリング回路24は、12ビット幅の多重化信号を36ビット幅の並列信号に変換していたが、本発明ではこれに限らず、一般にN1ビット幅(N1は正整数)の多重化信号をN2ビット幅(N2はN1の正整数倍)の並列信号に変換する構成に拡張することは当業者にとって容易である。特に現実的な構成としては、上記実施形態のようにN2がN1の4倍の場合であって多重化信号から4つの色成分信号を分離する構成と、N2がN1の3倍の場合であって多重化信号から3つの色成分信号を分離する構成とが挙げられる。
【0110】
<第6の実施形態>
次に、本発明の第6の実施形態について説明する。図12は、第6の実施形態に係る画像処理システムの構成を概略的に示すブロック図である。この画像処理システムは、SPU12、バス16、主メモリ18及びDMAC17で構成される。
【0111】
SPU12は、撮像センサ11から並列に読み出された2本の画像信号を並列に処理する信号処理部12aと、2つの出力制御回路58A,58Bとを備えている。信号処理部12aは、上記第1の実施形態の図2及び図3に示した構成を備え、本実施形態に係るSPU12はさらに、2つの出力制御回路58A,58Bを備える。一方の出力制御回路58Aとして図3に示した出力制御回路58を採用し、図3に示すサブサンプリング回路60の出力結果を受ける他方の出力制御回路58Bを設けた構成を採用すればよい。
【0112】
本実施形態の撮像センサ11は、CCDからなる受光回路70、第1アナログ信号処理回路74A及び第2アナログ信号処理回路74Bを備えており、この受光回路70はさらに、垂直転送部710〜71n(nは3以上の整数)、第1水平転送部72A、第1アンプ73A、第2水平転送部72B及び第2アンプ73Bを備えている。
【0113】
受光回路70のフォトダイオード(図示せず)は入射光を光電変換することでキャリア(電荷またはホール)を発生させる。垂直転送部710〜71nは、その発生したキャリアの信号を第1水平転送部72A及び第2水平転送部72Bに転送する。その垂直転送部710〜71nのうち偶数列の垂直転送部710,712,…は第1水平転送部72Aに信号を転送し、奇数列の垂直転送部711,713,…は第2水平転送部72Bに信号を転送する。このように受光回路70は、偶数列の垂直転送部710,712,…と奇数列の垂直転送部711,713,…とで分けられる二つの受光部を有しており、二つの受光部で発生したキャリアがそれぞれ、第1水平転送部72Aと第2水平転送部72Bとに転送され、次いで第1アンプ73Aと第2アンプ73Bとに水平方向へ転送される。第1アンプ73Aと第2アンプ73Bとはそれぞれ、転送された信号を増幅して第1アナログ信号処理回路74Aと第2アナログ信号処理回路74Bとに出力する。次に、第1アナログ信号処理回路74Aと第2アナログ信号処理回路74Bはそれぞれ、入力信号にCDS処理、AGC処理及びA/D変換処理を施した後、デジタル画像信号をSPU12に出力する。
【0114】
また信号処理部12aから出力制御回路58Aと出力制御回路58Bとに入力した画像信号は、DMAC17の制御によりバス16を介して主メモリ18に転送される。ここで、DMAC17は、出力制御回路58Aと主メモリ18との間のデータ転送にDMAチャンネルCH0を割り当て、出力制御回路58Bと主メモリ18との間のデータ転送にDMAチャンネルCH1を割り当てる。そして、主メモリ18に転送され格納された画像データTDは読み出され、RPU13に転送され処理される。
【0115】
このようにSPU12は、2本の画像信号を並列に処理し、バス16を介して他のモジュールに並列に転送できるため、効率良く画像処理を行うことができる。仮にSPU12が単一の出力制御回路58Aしか持たない場合、出力制御回路58Aが2本の画像信号のうち一方を転送する間、他方の画像信号をバッファリングするためにラインメモリが必要となるが、本実施形態では2本の画像信号を並列にDMA転送できるためラインメモリを設ける必要が無い。
【0116】
なお、本実施形態では、SPU12は2つの出力制御回路58A,58Bを備えるが、この代わりに、他方の出力制御回路58BとしてRPU13のものを使用してもよい。図3に示すセレクタ62に"1"番目端子を選択させることで、サブサンプリング回路60から出力された信号をRPU13へ転送させ、当該RPU13の出力制御回路を介して主メモリ18に転送させることが可能である。
【0117】
<第7の実施形態>
次に、本発明の第7の実施形態について説明する。図13は、第7の実施形態に係る画像処理システムの構成を概略的に示すブロック図である。この画像処理システムは、SPU12及びDMAC17で構成される。SPU12及びDMAC17の構成は、図12に示したそれらと同じである。また本実施形態の撮像センサ11は、受光回路80の構成を除けば、図12に示した撮像センサ11の構成と略同じである。
【0118】
本実施形態の受光回路80は、互いに独立構成の第1受光部81及び第2受光部82を備えており、第1受光部81は、K+1本(Kは正整数)の垂直転送部820〜82Kと、L+1本(Lは正整数)の垂直転送部810〜81Lとを備える。
【0119】
第1受光部81及び第2受光部82のフォトダイオード(図示せず)はそれぞれ、入射光を光電変換することでキャリアを発生させる。第1受光部81の垂直転送部820〜82Kはキャリアの信号を第1水平転送部83Bに転送し、第2受光部82の垂直転送部810〜81Lはキャリアの信号を第2水平転送部83Aに転送する。次いで第1水平転送部83Bは転送された信号を第1アンプ84Bに転送し、第1アンプ84Bはその信号を増幅して第1アナログ信号処理回路74Aに出力する。一方、第2水平転送部83Aは転送された信号を第2アンプ84Aに転送し、第2アンプ84Aはその信号を増幅して第2アナログ信号処理回路74Bに出力する。その結果、2本のデジタル画像信号が並列にSPU12の信号処理部12aに供給される。
【0120】
第1水平転送部83B及び第2水平転送部83Aは、図12に示した撮像センサ11の第1水平転送部72A及び第2水平転送部72Bと比べると、信号転送の段数が略半分で済むという利点を持つ。近年、高解像度の撮像素子が提供されているが、水平方向の解像度が高いほどに水平転送部の段数が大きくなり、信号の高速転送が難しくなるという問題がある。本実施形態の受光回路80の構成はこの種の問題を改善するものである。しかしながら、第1受光部81と第2受光部82とで信号の読出し方向が互いに逆方向になるため、一方の受光部から読出した信号配列を、他方の受光部から読出した信号配列に合わせるために並べ替える必要がある。図14に模式的に示すように、受光回路80から読み出された画像信号90のうち、第1受光部81からは右半分の画像信号90Bが矢印で示す走査方向で読み出され、第2受光部82からは左半分の画像信号90Aが矢印で示す走査方向で読み出されており、走査方向が互いに逆方向になることが分かる。
【0121】
本実施形態では、出力制御回路58A及び出力制御回路58Bから出力され主メモリ18に転送される2本の画像信号のうち、一方の転送先アドレスを他方の転送先アドレスに対して逆方向にインクリメントすることが特徴である。具体的には、DMAC17は、出力制御回路58Aと主メモリ18との間のデータ転送にDMAチャンネルCH0を割り当て、出力制御回路58Bと主メモリ18との間のデータ転送にDMAチャンネルCH1を割り当てる。そして、DMAチャンネルCH0は、DMAチャンネルCH1が発生する転送先アドレスに対して逆方向へ転送先アドレスをインクリメントする。これにより、図15に模式的に示すように、左半分の画像信号91Aの信号配列を右半分の画像信号91Bの信号配列に合わせることができる。
【0122】
このように本実施形態では、SPU12から主メモリ18に転送された画像データTDの左右の画像信号のうち一方の信号配列を並べ替える工程を省略できるため、画像処理を高速化することが可能となる。
【0123】
【発明の効果】
以上の如く、本発明に係る画像処理装置によれば、同一のタイミングで同一の欠陥画素に対応する複数の色成分信号が並列に補正され、各欠陥画素補正回路毎にタイミングを生成する必要が無いことから、欠陥補正データの転送量が少なくて済み、バスの使用効率を向上させることが可能となる。
【0124】
また本発明に係る他の画像処理装置によれば、入力端子に備える入力ピンの個数を減少させ、回路構成を小規模化することが可能である。
【図面の簡単な説明】
【図1】本発明の実施形態に係る撮像装置(デジタルカメラ)の構成を概略的に示すブロック図である。
【図2】本発明の第1の実施形態に係るSPU(画像処理装置)の回路構成を概略的に示す図である。
【図3】本発明の第1の実施形態に係るSPUの回路構成を概略的に示す図である。
【図4】本発明の第2の実施形態に係るSPUのサンプリング回路の回路構成を概略的に示す図である。
【図5】第2の実施形態のサンプリング回路における各種信号波形を示すタイミングチャートである。
【図6】本発明の第3の実施形態に係るSPUのサンプリング回路の回路構成を概略的に示す図である。
【図7】第3の実施形態のサンプリング回路における各種信号波形を示すタイミングチャートである。
【図8】本発明の第4の実施形態に係るSPUのサンプリング回路の回路構成を概略的に示す図である。
【図9】第4の実施形態のサンプリング回路における各種信号波形を示すタイミングチャートである。
【図10】本発明の第5の実施形態に係るSPUのサンプリング回路の回路構成を概略的に示す図である。
【図11】第5の実施形態のサンプリング回路における各種信号波形を示すタイミングチャートである。
【図12】本発明の第6の実施形態に係る画像処理システムの構成を概略的に示すブロック図である。
【図13】本発明の第7の実施形態に係る画像処理システムの構成を概略的に示すブロック図である。
【図14】撮像センサの受光回路から読み出される信号の走査方向を模式的に示す図である。
【図15】第7の実施形態における画像信号の配列を模式的に示す図である。
【符号の説明】
1 撮像装置
10 光学機構
11 撮像センサ
12 SPU
13 RPU
14 CPU
15 システムクロック生成部
16 バス
17 DMAC(DMAコントローラ)
18 主メモリ
19 ROM

Claims (2)

  1. 撮像センサから並列に出力された複数の色成分信号を処理する画像処理装置において、
    前記複数の色成分信号が入力する入力端子と、
    所定のタイミングに従って前記撮像センサにおける欠陥画素に対応する前記複数の色成分信号を補正する複数の欠陥画素補正回路と、
    前記複数の色成分信号の入力に合わせて欠陥画素補正を行うための前記所定のタイミングを生成する欠陥画素補正タイミング生成回路と、を備え、
    前記複数の欠陥画素補正回路は、同一の前記欠陥画素に対応する前記複数の色成分信号を、同一の前記所定のタイミングで並列に補正するとともに、DMA(ダイレクト・メモリ・アクセス)コントローラによってメモリから転送された欠陥補正データに基づいて前記所定のタイミングを生成する、画像処理装置。
  2. 請求項1記載の画像処理装置を備えた撮像装置。
JP2003094115A 2003-03-31 2003-03-31 画像処理装置及び撮像装置 Expired - Fee Related JP4446674B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003094115A JP4446674B2 (ja) 2003-03-31 2003-03-31 画像処理装置及び撮像装置
US10/811,934 US7457014B2 (en) 2003-03-31 2004-03-30 Image processing apparatus and image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003094115A JP4446674B2 (ja) 2003-03-31 2003-03-31 画像処理装置及び撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009120076A Division JP5115888B2 (ja) 2009-05-18 2009-05-18 画像処理装置及び撮像装置

Publications (2)

Publication Number Publication Date
JP2004304460A JP2004304460A (ja) 2004-10-28
JP4446674B2 true JP4446674B2 (ja) 2010-04-07

Family

ID=32985414

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003094115A Expired - Fee Related JP4446674B2 (ja) 2003-03-31 2003-03-31 画像処理装置及び撮像装置

Country Status (2)

Country Link
US (1) US7457014B2 (ja)
JP (1) JP4446674B2 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4446674B2 (ja) * 2003-03-31 2010-04-07 株式会社メガチップス 画像処理装置及び撮像装置
US7796169B2 (en) * 2004-04-20 2010-09-14 Canon Kabushiki Kaisha Image processing apparatus for correcting captured image
JP4277739B2 (ja) * 2004-06-08 2009-06-10 ソニー株式会社 映像デコーダ
WO2006116726A2 (en) * 2005-04-28 2006-11-02 Applera Corporation Multi-color light detection with imaging detectors
JP4692115B2 (ja) * 2005-07-11 2011-06-01 ソニー株式会社 画像処理装置および撮像装置
WO2007070610A2 (en) * 2005-12-12 2007-06-21 Wilson Daniel W Color camera computed tomography imaging spectrometer for improved spatial-spectral image accuracy
WO2007087372A2 (en) * 2006-01-24 2007-08-02 California Institute Of Technology Spatial image modulation to improve performance of computed tomography imaging spectrometer
JP4868576B2 (ja) 2006-01-27 2012-02-01 株式会社メガチップス 画像処理装置
JP2008005048A (ja) * 2006-06-20 2008-01-10 Olympus Imaging Corp 撮像装置及び信号処理装置
US20080215261A1 (en) * 2006-10-27 2008-09-04 International Business Machines Corporation Design structure for enhancing yield and performance of cmos imaging sensors
US20080100725A1 (en) * 2006-10-27 2008-05-01 Abadeer Wagdi W Circuits for enhancing yield and performance of cmos imaging sensors
JP2008228118A (ja) * 2007-03-15 2008-09-25 Fujifilm Corp 固体電子撮像素子の補正装置およびその補正方法
KR100905082B1 (ko) * 2007-04-17 2009-06-30 엠텍비젼 주식회사 이미지 처리 방법 및 장치
JP5256476B2 (ja) * 2011-03-10 2013-08-07 株式会社メガチップス 画像処理装置
JP5256477B2 (ja) * 2011-03-10 2013-08-07 株式会社メガチップス 画像処理装置
US9712847B2 (en) * 2011-09-20 2017-07-18 Microsoft Technology Licensing, Llc Low-complexity remote presentation session encoder using subsampling in color conversion space
US20150301984A1 (en) * 2014-04-21 2015-10-22 National Taiwan University Signal decomposition system with low-latency empirical mode decomposition and method thereof
US10820068B2 (en) * 2019-02-07 2020-10-27 Simmonds Precision Products, Inc. Configurable sensing systems and methods for configuration

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5077602A (en) * 1990-02-15 1991-12-31 Eastman Kodak Company Color difference compressor
JPH07236148A (ja) * 1994-02-23 1995-09-05 Asahi Optical Co Ltd 画素信号生成装置
JP3951354B2 (ja) 1997-05-09 2007-08-01 ソニー株式会社 固体撮像素子の欠陥検出補正回路
US6388241B1 (en) * 1998-02-19 2002-05-14 Photobit Corporation Active pixel color linear sensor with line—packed pixel readout
US6806902B1 (en) * 1999-06-08 2004-10-19 Chrontel, Inc. System and method for correcting bad pixel data in a digital camera
JP3634730B2 (ja) * 2000-09-18 2005-03-30 三洋電機株式会社 色調補正回路および色相補正回路
US20040196514A1 (en) * 2003-03-05 2004-10-07 Koji Tanimoto Image sensor unit
JP4446674B2 (ja) * 2003-03-31 2010-04-07 株式会社メガチップス 画像処理装置及び撮像装置

Also Published As

Publication number Publication date
JP2004304460A (ja) 2004-10-28
US7457014B2 (en) 2008-11-25
US20040189838A1 (en) 2004-09-30

Similar Documents

Publication Publication Date Title
JP4446674B2 (ja) 画像処理装置及び撮像装置
CN101505368B (zh) 逐行到隔行转换方法、图像处理装置、成像装置
JP4594911B2 (ja) 読み取り信号処理装置、画像読み取り装置、及び画像形成装置
US8077253B2 (en) Solid-state device having digital signal processing circuit
JP4600315B2 (ja) カメラ装置の制御方法及びこれを用いたカメラ装置
JP4892659B2 (ja) Cmosイメージセンサ、そのイメージデータ変換装置及びそのピクセルデータ処理方法
US8139132B2 (en) Solid-state imaging apparatus and driving method for solid-state imaging apparatus
CN1312901C (zh) 成像设备
JP5115888B2 (ja) 画像処理装置及び撮像装置
US7470881B2 (en) Solid-state imaging device including plural groups of photoelectric conversion devices with plural microlenses being shifted in a peripheral portion of the imaging device, and imaging apparatus including the imaging device
JP5469197B2 (ja) 画像処理システムおよび撮像装置
JP4645344B2 (ja) 画像処理装置および撮像装置
US20080018742A1 (en) Analog front-end device and imaging apparatus
US7751097B2 (en) Methods and apparatuses for changing driving sequence to output charge coupled device signal
JP2003009167A (ja) 撮像装置
JP3530403B2 (ja) ビデオカメラ
KR101142224B1 (ko) Cmos 이미지 센서
WO2006064587A1 (ja) 多分割読出ccd補正処理装置および方法
JP3733172B2 (ja) 撮像装置
JP2013042327A (ja) 画像処理装置及び固体撮像装置
JP2006011608A (ja) パターン認識装置およびパターン認識方法
US20120050588A1 (en) Image sensing device
JP2006319581A (ja) 撮像装置
JP2006054527A (ja) 撮像信号処理方法、撮像信号処理回路、撮像装置
JP2007295073A (ja) 固体撮像装置および撮像方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060328

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090518

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20090518

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090827

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090917

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100119

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100119

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130129

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4446674

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130129

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130129

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160129

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees