JP2006191536A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2006191536A JP2006191536A JP2005323170A JP2005323170A JP2006191536A JP 2006191536 A JP2006191536 A JP 2006191536A JP 2005323170 A JP2005323170 A JP 2005323170A JP 2005323170 A JP2005323170 A JP 2005323170A JP 2006191536 A JP2006191536 A JP 2006191536A
- Authority
- JP
- Japan
- Prior art keywords
- data
- pixel
- image
- output
- hdr
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/741—Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【解決手段】BRAMデータ蓄積部19に蓄積されているHDR−RAWデータの飽和フラグが「1」であり、また、入力データ蓄積部18に蓄積されているHDR−RAWデータの飽和フラグが「0」である場合、つまり、それまで飽和状態であった画素が飽和状態でなくなった場合に、それまでのHDR−RAWデータに代えて入力データ蓄積部18に蓄積されているHDR−RAWデータをBRAM10に記録させるようにした。そのため、例えば、第1の画像を撮像した後に、第2の画像を撮像し、第1の画像の画像データを遅延素子で遅延させ、その遅延された第1の画像内で輝度値がダイナミックレンジの最大値となっている画素の画像データに代えて第2の画像内の画素の画像データを記録させる方法と異なり、遅延素子を設ける必要がなく、その結果、遅延素子の分だけ製造コストを低くすることができる。
【選択図】図3
Description
このような撮像装置にあっては、一般に、第1の画像の画像データをバッファで遅延させることで、第1の画像の各画素の画像データを、置き換え候補となる第2の画像の画像データと同時に合成手段に取得させるようになっている(例えば特許文献1参照)。
さらに、前記撮像手段で撮像された画像のうち先に撮像された画像を記録する記録手段を備え、前記選択画素合成手段は、前記撮像手段で後に撮像された画像に含まれる画素の属性情報が前記選択条件を満たすと判定された場合に当該画素を前記記録手段に記録されている撮像画像の対応画素と置き換えるようにしてもよい。
さらに、前記選択条件判定手段は、新しく撮像された画像の対象画素の露光時間が前記記録手段に記録されている撮像画像の対応画素の露光時間より長いか否か、新しく撮像された画像の対象画素の輝度値がダイナミックレンジの上限値より大きく且つ前記記録手段に記録されている撮像画像の対応画素の輝度値がダイナミックレンジの上限値より小さいか否か、及び新しく撮像された画像の対象画素の撮像時刻が前記記録手段に記録されている撮像画像の対応画素の撮像時刻より所定時間以上離れているか否かの少なくともいずれかを判定するようにしてもよい。
前記撮像手段で撮像された撮像画像の画像データを構成する各画素のデータに当該画素の撮像条件を含む属性情報を付加する属性情報付加手段と、
前記属性情報の付加された撮像画像の画像データを記録する記録手段と、
前記N個の出力チャンネルから前記露光時間の種類毎に所定の順番で順次出力される各ラインの画像データに付加された属性情報と、前記記録手段に記録された前記各ラインの画像データに対応するラインの画像データに付加された属性情報とに基づいて、各画素毎に、当該各画素のデータに付加された属性情報が予め設定された画素の選択条件を満たすか否かを判定する選択条件判定手段と、
前記選択条件を満たすと判定された属性情報に対応する画素のデータを選択し、当該選択した画素のデータが前記記録手段に記録されるようにして、当該記録手段に記録された前記撮像画像の画像データを各画素毎に更新又は維持する撮像画像生成手段とを備えることを特徴とする。
また、前記選択条件判定手段は、前記各画素のデータに付加された属性情報に基づき、前記出力チャンネルから出力される画像データにおける対象画素のデータの露光時間が前記記録手段に記録されている画像データにおける対応画素のデータの露光時間より長いか否か、前記出力チャンネルから出力される画像データにおける対象画素のデータの輝度値がダイナミックレンジの上限値より大きく且つ前記記録手段に記録されている画像データにおける対応画素のデータの輝度値がダイナミックレンジの上限値より小さいか否か、及び前記出力チャンネルから出力される画像データにおける対象画素のデータの撮像時刻が前記記録手段に記録されている画像データにおける対応画素のデータの撮像時刻より所定時間以上離れているか否かの少なくともいずれかを判定するようにしてもよい。
また、撮像された画像の各画素のデータの属性情報として、前記画素の露光時間を示す情報、前記画素の輝度値がダイナミックレンジの上限値であることを示す情報及び前記画素の撮像時刻を示す情報を付加し、記録手段に記録された対応画素のデータのうち撮像時刻が所定時間以上経過している画素のデータを最優先で出力チャンネルから出力された対象画素のデータに更新するようにし、記録手段に記録された対応画素の撮像時刻が所定時間経過しておらず、出力チャンネルから出力された対象画素のデータの輝度値がダイナミックレンジの上限値より小さく且つ前記記録手段に記録されている対応画素のデータの輝度値がダイナミックレンジの上限値より大きい場合に、前記対応画素のデータを前記対象画素のデータに更新するようにし、出力チャンネルから出力された対象画素のデータの輝度値がダイナミックレンジの上限値より小さく且つ前記記録手段に記録されている対応画素のデータの輝度値がダイナミックレンジの上限値より小さい場合で、且つ前記出力チャンネルから出力される対象画素のデータの露光時間が前記記録手段に記録されている対応画素のデータの露光時間より長い場合に、前記対応画素のデータを前記対象画素のデータに更新するようにすることで、撮像画像の画質への悪影響を最優先で抑えつつ、ダイナミックレンジが広く且つS/Nが高い画像を生成することができる。
以下、本発明に係る撮像装置の第1の実施形態を、図面に基づいて説明する。
この撮像装置1は、1フレーム期間に4種類の露光時間(長露光時間>標準露光時間>短露光時間>超短露光時間)で画像を撮像可能な電子シャッタ機能を備えた撮像素子を備える。通常の撮像素子は、画素列毎に順次、光電変換された画素信号が出力される。本実施例は、画素列毎(単位)に露光時間が変えられる撮像素子を想定する。なお、一般的なフレーム単位に露光時間が変えられる撮像素子でも本発明は適応できる。そして、撮像装置1は、図1に示すように、その読み出された画素信号に基づいて形成される画像の各画素の画像データ(画素の輝度値を示すデータ)に、その画像データの属性データを付加して1組のデータ(以下、「HDR―RAWデータ」とも呼ぶ。)を生成する。なお、属性データとしては、画像データの生成時における露光時間を示す露光コード、前記画像データの輝度値がダイナミックレンジの最大値であることを示す飽和フラグ、前記画像データが生成された時刻を示す作成時刻コード等が挙げられる。
さらに、作成時刻コードは、「0」、「1」、「2」、「3」の4種類(2ビット)のコードである。作成時刻コード「0」は、画像データが最新のフレームで生成されたことを示し、作成時刻コード「1」は、画像データが1つ前のフレームで生成されたことを示し、作成時刻コード「2」は、画像データが2つ前のフレームで生成されたことを示し、作成時刻コード「3」は、画像データが3つ前のフレームで生成されたことを示す。
図2は、本発明の第1の実施形態の内部構成を示すブロック図である。図2に示すように、撮像装置1は、撮像処理部2、信号処理部3及び表示装置・画像処理装置4を含んで構成される。
また、撮像処理部2は、撮像素子5及びAFE(Analog Front End)6を含んで構成される。
撮像素子5は、被写体からの光を撮像レンズ(不図示)でエリアセンサ7に集光し、その集光量に応じた電荷をエリアセンサ7の各画素に蓄積させる。また、撮像素子5は、信号処理部3のタイミング制御部11(後述)から出力される駆動信号(水平同期信号及び垂直同期信号)に基づいて、エリアセンサ7の各画素列に蓄積されている電荷群を電圧群に順次変換し、その変換された電圧群を水平転送部8でAFE6に順次出力させる。
信号処理部3は、画像合成部9、BRAM10、タイミング制御部11及びALC(Automatic Level Control)12を含んで構成される。
プリプロセス13は、AFE6から出力されるデジタル画像データを黒レベル補正する。そして、補正されたデジタル画像データをALC12とHDR−RAW生成器14(HDR−RAW入力データ生成部17(後述))とに出力する。また、プリプロセス13は、デジタル画像データの輝度値がダイナミックレンジの最大値であるか否か(飽和/未飽和)を判定し、その結果(飽和フラグ)をHDR−RAW生成器14(HDR−RAW入力データ生成部17)に出力する。なお、デジタル画像データが飽和している場合は飽和フラグとして「1」を、また、未飽和の場合は飽和フラグとして「0」を出力する。
HDR−RAW入力データ生成部17は、プリプロセス13から出力されるデジタル画像データに、そのデジタル画像データの属性データ(露光コード、飽和フラグ、作成時刻コード)を付加してHDR−RAWデータを生成する。具体的に、まず、露光コード(2ビットコード)の付加について説明する。HDR−RAW入力データ生成部17は、プリプロセス13からのデジタル画像データの露光時間を示す情報をALC12から受け取る。そして、その露光時間が長露光時間であった場合には露光コードとして「0」を当該画像データに付加し、前記露光時間が標準露光時間であった場合には露光コードとして「1」を付加し、前記露光時間が短露光時間であった場合には露光コードとして「2」を付加し、前記露光時間が超短露光時間であった場合には露光コードとして「3」を付加する。
さらに、HDR−RAW入力データ生成部17は、作成時刻コードとして「0」(画像データが最新のフレームで生成されたことを示すコード)を画像データに付加する。
また、HDR−RAW入力データ生成部17は、それら属性データが付加されたデジタル画像データ、つまり、HDR−RAWデータを入力データ蓄積部18に出力する。
また、BRAMデータ蓄積部19は、タイミング制御部11から出力されるアドレス情報が示す画素列(プリプロセス13から出力されるデジタル画像データに対応する画素列)のHDR−RAWデータをBRAM10から読み出させる指令(以下、「読み出し指令」とも呼ぶ。)をメモリアービタ15に出力する。そして、BRAMデータ蓄積部19は、その読み出し指令によって読み出されるHDR−RAWデータを1画素列分蓄積する。なお、BRAMデータ蓄積部19に蓄積されたHDR−RAWデータは、入力データ蓄積部18に蓄積されたそれと同じ画素列番号のデータとなる。
BRAMデータ蓄積部19に蓄積されているHDR−RAWデータの作成更新時刻コードが「2」又は「3」(2フレーム期間以上前を示すコード)であるか否かを判定する。そして、「2」又は「3」である場合には、HDR−RAWデータを更新する必要があると判定し、また、「優先順位2、3」の処理は行わない。
BRAMデータ蓄積部19に蓄積されているHDR−RAWデータの飽和フラグが「1」(輝度値がダイナミックレンジの最大値であることを示すフラグ)であり、入力データ蓄積部18に蓄積されているHDR−RAWデータの飽和フラグが「0」(輝度値がダイナミックレンジの最大値より小さいことを示すフラグ)であるか否かを判定する。そして、前者が「1」であり、後者が「0」である場合には、HDR−RAWデータを更新する必要があると判定する。逆に、前者が「0」で、後者が「1」の場合には、HDR−RAWデータを更新しないと判定する。そして、「優先順位3」の処理は行わない。
BRAMデータ蓄積部19のHDR−RAWデータの飽和フラグが「0」で、入力データ蓄積部18のそれ(飽和フラグ)が「0」の場合、BRAMデータ蓄積部19のHDR−RAWデータの露光コードと、入力データ蓄積部18のHDR−RAWデータの露光コードを比較し、入力データ蓄積部18の露光時間が長い場合には、HDR−RAWデータを更新する必要があると判定する。この処理により、より長い露光時間で生成された画像データに更新することができるので、S/Nの高い画像を生成できる。BRAMデータ蓄積部19のHDR−RAWデータの飽和フラグが「1」で、入力データ蓄積部18のそれ(飽和フラグ)が「1」の場合、BRAMデータ蓄積部19のHDR−RAWデータの露光コードと、入力データ蓄積部18のHDR−RAWデータの露光コードを比較し、入力データ蓄積部18の露光時間が短い場合には、HDR−RAWデータを更新する必要があると判定する(画素データは最大値のため同じ値になるが、露光コードが更新される)。
さらに、メモリアービタ15は、HDR−RAW生成器14(BRAMデータ蓄積部19、データ更新部21)及び出力読出器16のいずれかから読み出し指令が出力されると、その出力された読み出し指令が示すHDR−RAWをBRAM10から読み出し、そのHDR−RAWデータを読み出し指令の出力元に出力する。また、メモリアービタ15は、HDR−RAW生成器14(データ更新部21)から書き込み指令が出力されると、その出力された書き込み指令が示すHDR−RAWデータをBRAM10に書き込む。
次に、本実施形態の撮像装置の動作を具体的状況に基づいて詳細に説明する。
ここでは、画素列(ライン)単位で露光時間が変えられる撮像装置を想定する。なお、フレーム単位で露光時間を変えられる撮像装置においても以下の説明を適応できる。
いま、撮像動作を何フレームか実施し、その結果、ALC動作が収束し、画素列毎に露光時間が算出されたとする。そして、Nライン目において、標準露光時間で撮像された画像の電荷群が撮像素子5のエリアセンサ7で電圧群に変換されたとする。すると、図2に示すように、水平転送部8によって、信号処理部3のタイミング制御部11から出力される駆動信号が示す画素列で変換された電圧群が読み出され、その読み出された電圧群が水平転送部8でAFE6に出力される。また、AFE6によって、その出力された電圧群に基づいてデジタル画像データが生成され、その生成されたデジタル画像データが信号処理部3の画像合成部9(プリプロセス13)に出力される。さらに、図3に示すように、プリプロセス13によって、その出力されたデジタル画像データが黒レベル補正され、その黒レベル補正されたデジタル画像データがALC12とHDR−RAW生成器14(HDR−RAW入力データ生成部17)とに出力される。また、プリプロセス13は、デジタル画像データの未飽和/飽和を判定し、その結果(飽和フラグ)をHDR−RAW生成器14(HDR−RAW入力データ生成部17)に出力する(輝度値がダイナミックレンジの最大値である画素のデジタル画像データに飽和フラグ「1」を出力)。ALC12は、タイミング制御部11から出力されるアドレス情報に基づいて現在入力されているデジタル画像データの露光時間を出力し、その露光時間を画像合成部9のHDR−RAW生成器14(HDR−RAW入力データ生成部17)とタイミング制御部11とに出力する。すると、HDR−RAW入力データ生成部17によって、そのデジタル画像データにそのデジタル画像データの属性データが付加されてHDR−RAWデータが生成される。このとき、属性データとして、飽和フラグ、作成時刻データ、露光コードが付加される。なお、露光コードは露光時間から算出される。そして、HDR−RAW入力データ生成部17によって、その生成されたHDR−RAWデータが入力データ蓄積部18に出力される。そして、入力データ蓄積部18によって、生成されたHDR−RAWデータが1画素列分蓄積される。この入力データ蓄積動作と平行して、BRAMデータ蓄積部19によって、読み出し指令がメモリアービタ15に出力される。このとき、BRAMデータ蓄積部19に対して、タイミング制御部11から、現在入力されているデジタル画像データに対応する画素列のアドレス情報と、水平同期信号に同期した制御信号が入力される。このアドレス情報と制御信号に基づいた読み出し指令がメモリアービタに出力される。メモリアービタは、前記読み出し指令に基づいて、HDR−RAWデータをBRAM10から読み出す。そして、BRAMデータ蓄積部19によって、その読み出されたHDR−RAWデータが1画素列分蓄積される。
次に、BRAMに格納されたHDR−RAWデータの外部装置(表示装置・画像処理装置4)への出力方法について記述する。出力読出器16は、前記合成動作とは非同期に、即ち、表示装置・画像処理装置4の同期信号に同期した読み出し指令をメモリアービタ15に出力する。メモリアービタ15は、外部出力のための読み出し指令に基づいて、HDR−RAWデータをBRAM10から読み出し、その読み出したHDR−RAWデータが出力読出器16に出力される。また、出力読出器16は、HDR−RAWデータを表示装置・画像処理装置4が理解できる形式に変換して外部出力する。本実施形態では、画像データ形式として特別な形式を想定する。即ち、デジタル画像データと露光コードで構成される画像データ形式とする(画素単位)。表示装置・画像処理装置4は、前記形式の画像データが入力されると、デジタル画像データと露光コードから、画像信号を再構成し、表示や画像処理を行う。
以下、本発明に係る撮像装置の第2の実施形態を、図面に基づいて説明する。
上記第1の実施形態においては、アナログの画像データをAFE6に出力するための出力チャンネルを1つだけ持つ撮像処理部2(センサ)を用いる例を示したが、本実施形態における撮像装置は、出力チャンネルを2つ以上持ち、複数チャンネルで同時に非同期に(別々の画素列から)複数種類の露光時間に対応したアナログの画像データ(画素信号データ)を出力するセンサを用い、そのセンサから出力される複数種類の露光時間に対応したアナログの画像データをAFEでデジタル化された画像データに変換し、当該デジタル化した画像データと、この画像データに対応するBRAMに記録された画像データとを画像合成部で各画素毎に合成して撮像画像を生成するようにした。また、上記第1の実施形態と同様に、撮像処理部のエリアセンサから読み出された画素信号に基づいて形成される画像の各画素のデジタル画像データ(画素の輝度値を示すデータ)に、その画像データの属性データを付加して1組のデータ(以下、「HDR―RAWデータ」とも呼ぶ。)を生成する。なお、属性データについては、上記第1の実施形態と同様に、画像データの生成時における露光時間を示す露光コード、前記画像データの輝度値がダイナミックレンジの最大値であることを示す飽和フラグ、前記画像データが生成された時刻を示す作成時刻コード等を含み、これらは上記第1の実施形態と同様の構成のものを用いることとする。また、BRAMについても、上記第1の実施形態と同様の構成とする。
<撮像装置の構成>
本実施形態の撮像装置1’は、上記第1の実施形態の図2に示す撮像装置1と基本的な構成は同じであり、撮像処理部2における撮像素子5の水平転送部8に、異なる2種類の露光時間で撮像した画像の画素信号をそれぞれ別々に読み出して出力するための第1の出力チャネル及び第2の出力チャンネルを追加すると共に、これら2つの出力チャンネルにそれぞれ対応させて、撮像処理部2のAFE6を第1のAFE6として、当該撮像処理部2に、更に第1のAFE6と同じ構成の第2のAFE6’を追加し、水平転送部8に、前記2つの出力チャンネルから前記読み出した画素列単位の画像データを第1及び第2のAFE6及び6’にそれぞれ別々に出力させる機能を追加する構成とした。また、撮像装置1’は、第1及び第2のAFE6及び6’から出力される露光時間の異なる2種類のデジタル画像データを別々に処理するために、画像合成部9のプリプロセス13を第1のプリプロセス13として、当該画像合成部9に、更に第1のプリプロセス13と同じ構成の第2のプリプロセス13’を追加し、同じく画像合成部9のHDR−RAW生成器14を第1のHDR−RAW生成器14として、当該画像合成部9に、更に第1のHDR−RAW生成器14と同じ構成の第2のHDR−RAW生成器14’を追加する構成とした。なお、上記第1の実施形態と同様の構成部については同じ符号を付して詳細な説明を省略し、以下、異なる部分を詳細に説明する。
撮像素子5は、エリアセンサ7及び水平転送部8を含んで構成され、水平転送部8は、アナログラインメモリを含んで構成される第1の出力チャンネル及び第2の出力チャンネルを含んで構成される。また、撮像素子5は、信号処理部3のタイミング制御部11から出力される駆動信号(水平同期信号及び垂直同期信号)に基づいて、異なる2種類の露光時間毎にエリアセンサ7の各画素列に蓄積されている電荷群を電圧群に順次変換し、その変換された電圧群を水平転送部8の第1の出力チャンネル及び第2の出力チャンネル(これらのチャンネルは物理的に異なるものである)を介して各露光時間毎にそれぞれ別々に第1及び第2のAFE6及び6’に順次出力させる。本実施の形態においては、第1の出力チャンネルと第1のAFE6とが対応しており、第2の出力チャンネルと第2のAFE6’とが対応していることとする。
ここで、本発明の露光時間の制御は、エリアセンサ7に対して、画素信号の読み出し及び各画素のリセットを画素列単位で行う読み出し・リセットラインを各露光時間毎に複数設定し、各読み出し・リセットラインにおける画素信号の読み出し及び画素のリセットを、ALC12から出力される露光時間に基づいて、各露光時間に応じたタイミングで画素信号の読み出し及びリセットが実行されるように制御することで行う。例えば、図6に示すように、ALC12から出力された短露光時間に対して読み出し・リセットライン1を設定し、同じくALC12から出力された標準露光時間に対して読み出し・リセットライン2を設定する。これら読み出し・リセットライン1及び2の画素信号の読み出し及び画素のリセットのタイミングの制御は、図6に示すように、標準露光時間に対応する読み出し・リセットライン2において画素信号の読み出し及び画素のリセットが行われた画素列に対して、短露光時間の経過後に、短露光時間に対応する読み出し・リセットライン1において画素信号の読み出し及び画素のリセットが行われ、且つ読み出し・リセットライン1において画素信号の読み出し及び画素のリセットが行われた画素列に対して、標準露光時間の経過後に、読み出し・リセットライン2において画素信号の読み出し及びリセットが行われるように制御する。つまり、標準露光時間の経過に合わせて、先行して読み出し・リセットライン2による画素信号の読み出し及び画素のリセットを開始し、当該リセット後で且つ短露光時間の経過後に、読み出し・リセットライン2の開始位置と同じ位置の画素列から同じ走査方向に向けて、読み出し・リセットライン1による画素信号の読み出し及び画素のリセットを開始する。このようなタイミングで、エリアセンサ7の全領域を、読み出し・リセットライン1及び2によって並列に走査して画素信号の読み出し及びリセットを順次行い、異なる2種類の露光時間に対する撮像画像のアナログデータをそれぞれ読み出す。
画像構成処理を行う主たる機能部は、画像構成部9、BRAM10、タイミング制御部11及びALC12を含んで構成される。
撮像装置1’におけるタイミング制御部11は、各露光時間毎に、各画素列のアドレス情報をALC12及び画像合成部9(第1のHDR−RAW生成器14、第2のHDR−RAW生成器11’)に出力する。その他の機能は、上記第1の実施の形態と同様となる。
第1のプリプロセス13は、第1のAFE6から出力されるデジタル画像データを黒レベル補正し、第2のプリプロセス13’は、第2のAFE6’から出力されるデジタル画像データを黒レベル補正する。そして、第1のプリプロセス13は、補正されたデジタル画像データをALC12と第1のHDR−RAW生成器14(第1のHDR−RAW入力データ生成部17(後述))とに出力し、第2のプリプロセス13’は、補正されたデジタル画像データをALC12と第2のHDR−RAW生成器14’(第2のHDR−RAW入力データ生成部17’(後述))とに出力する。
図8(a)に示すように、まずステップS100に移行し、画素値の更新処理後の画素データを選択してステップS102に移行する。
ステップS102では、ステップS100で選択した画素データは、第2HDR−RAWデータによって、画素値が更新された画素であるか否かを判定し、更新された画素データであると判定された場合(Yes)は、ステップS104に移行し、そうでない場合(No)は、ステップS108に移行する。
一方、ステップS106に移行した場合は、選択画素データに付加された作成時刻コードを更新せずに(そのまま維持して)処理を終了する。例えば、作成時刻コードが「0」の場合は、「0」のまま維持する。
図8(b)に示すように、まずステップS200に移行し、先に出力された第2HDR−RAWデータによる画素値更新処理後で且つ上記図8(a)による作成時刻コードの更新処理後の画素データを選択してステップS202に移行する。
ステップS204に移行した場合は、選択画素データに付加された作成時刻コードを0にリセットして処理を終了する。
次に、本実施形態の撮像装置の動作を具体的状況に基づいて詳細に説明する。
ここでは、画素列(ライン)単位で露光時間が変えられる撮像装置を想定する。
いま、撮像動作を何フレームか実施し、その結果、ALC動作が収束し、画素列毎に露光時間が算出されたとする。そして、読み出し・リセットライン2の走査によって、Nライン目において、標準露光時間で撮像された画像の電荷群が撮像素子5のエリアセンサ7で電圧群に変換されたとする。すると、水平転送部8によって、信号処理部3のタイミング制御部11から出力される駆動信号が示す画素列で変換された電圧群が読み出され、その読み出された電圧群が水平転送部8の第2の出力チャンネルを介して第2のAFE6’に出力される。一方、読み出し・リセットライン2の走査によって、Nライン目の画素がリセット後に短露光時間が経過し、読み出し・リセットライン1の走査によって、Nライン目において、短露光時間で撮像された画像の電荷群が撮像素子5のエリアセンサ7で電圧群に変換されたとする。すると、水平転送部8によって、信号処理部3のタイミング制御部11から出力される駆動信号が示す画素列で変換された電圧群が読み出され、その読み出された電圧群が水平転送部8の第1の出力チャンネルを介して第1のAFE6に出力される。第1及び第2の出力チャンネルからそれぞれ出力されるアナログデータは、所定の位相差(少なくとも短露光時間以上の差)をもって第1のAFE6及び第2のAFE6’に出力される。つまり、第2の出力チャンネルから、標準露光時間に対応するアナログデータが先に出力され、その後、所定の位相差をもって第1の出力チャンネルから、短露光時間に対応するアナログデータが出力される。
このように、本実施形態の撮像装置では、第2のBRAMデータ蓄積部19’に蓄積されているHDR−RAWデータの飽和フラグが「1」であり、また、第2の入力データ蓄積部18’に蓄積されている第2HDR−RAWデータの飽和フラグが「0」である場合、つまり、それまで飽和状態であった画素が飽和状態でなくなった場合に、それまでのHDR−RAWデータに代えて第2の入力データ蓄積部18’に蓄積されているHDR−RAWデータをBRAM10に記録させ、更に、第2HDR−RAWデータを用いた更新処理後においてもHDR−RAWデータの飽和フラグが「1」であり、第1の入力データ蓄積部18に蓄積されている、第2HDR−RAWデータよりも短い露光時間で撮像された第1HDR−RAWデータの飽和フラグが「0」である場合、つまり、それまで飽和状態であった画素が露光時間を短くしたことにより飽和状態でなくなった場合に、それまでのHDR−RAWデータに代えて第1の入力データ蓄積部18に蓄積されているHDR−RAWデータをBRAM10に記録させて、ダイナミックレンジの広い画像の画像データを生成することができる。
例えば、属性データとして、画像データの生成時における露光時間を示す露光コード、前記画像データの輝度値がダイナミックレンジの最大値であることを示す飽和フラグ、前記画像データが生成された時刻を示す作成時刻コードを用いる例を示したが、これに限られるものではない。例えば、画素固有のデータをさらに追加することも可能である。例えば、欠陥画素であることを示すデータ等がある。
Claims (11)
- 露光時間を変更可能な電子シャッタ機能を備えた撮像手段と、その撮像手段で撮像された画像の各画素に当該画素の撮像条件を含む属性情報を付加する属性情報付加手段と、その付加された属性情報に基づいて、前記画像を画素毎に選択することで撮像画像を生成する撮像画像生成手段とを備えたことを特徴とする撮像装置。
- 前記撮像画像生成手段は、前記属性情報付加手段で各画素に付加された属性情報が当該属性情報に対応する画素を選択する選択条件を満たすか否かを判定する選択条件判定手段と、その選択条件を満たすと判定された属性情報に対応する画素を選択して撮像画像を生成する選択画素合成手段とを備えたことを特徴とする請求項1に記載の撮像装置。
- 前記撮像手段で撮像された画像のうち先に撮像された画像を記録する記録手段を備え、前記選択画素合成手段は、前記撮像手段で後に撮像された画像に含まれる画素の属性情報が前記選択条件を満たすと判定された場合に当該画素を前記記録手段に記録されている撮像画像の対応画素と置き換えることを特徴とする請求項2に記載の撮像装置。
- 前記画素の属性情報は、前記画素の露光時間を示す情報、前記画素の輝度値がダイナミックレンジの上限値であることを示す情報及び前記画素の撮像時刻を示す情報の少なくともいずれかを含むことを特徴とする請求項3に記載の撮像装置。
- 前記選択条件判定手段は、新しく撮像された画像の対象画素の露光時間が前記記録手段に記録されている撮像画像の対応画素の露光時間より長いか否か、新しく撮像された画像の対象画素の輝度値がダイナミックレンジの上限値より大きく且つ前記記録手段に記録されている撮像画像の対応画素の輝度値がダイナミックレンジの上限値より小さいか否か、及び新しく撮像された画像の対象画素の撮像時刻が前記記録手段に記録されている撮像画像の対応画素の撮像時刻より所定時間以上離れているか否かの少なくともいずれかを判定することを特徴とする請求項4に記載の撮像装置。
- 前記選択条件判定手段は、前記画素の選択条件を満たすか否かを判定する処理として、各画素に付加された前記属性情報に基づき、新しく撮像された画像の対象画素の撮像時刻が前記記録手段に記録されている撮像画像の対応画素の撮像時刻より所定時間以上離れているか否かを判定する優先順位が第1位の第1判定処理、新しく撮像された画像の対象画素の輝度値がダイナミックレンジの上限値より小さく且つ前記記録手段に記録されている撮像画像の対応画素の輝度値がダイナミックレンジの上限値より大きいか否かを判定する優先順位が第2位の第2判定処理、及び新しく撮像された画像の対象画素の輝度値がダイナミックレンジの上限値より小さく且つ前記記録手段に記録されている撮像画像の対応画素の輝度値がダイナミックレンジの上限値より小さい場合に、新しく撮像された画像の対象画素の露光時間が前記記録手段に記録されている撮像画像の対応画素の露光時間より長いか否かを判定する優先順位が第3位の第3判定処理を、前記優先順位の高い方から順に実行し、前記第1〜第3判定処理のいずれかにおいて、前記選択条件を満たした時点で前記判定処理を終了することを特徴とする請求項4に記載の撮像装置。
- 露光した光を電荷に変換して蓄積する光電変換素子が複数マトリクス状に配設された光電変換部と、前記光電変換部における前記光電変換素子の構成する画素のライン毎に露光時間を変更可能な電子シャッタ機能とを有し、前記露光時間の異なる各ライン毎に、前記各光電変換素子のリセット及び露光並びに前記各光電変換素子からの電荷の読み出しを順次行う撮像手段と、N種類(Nは2以上の自然数)の露光時間にそれぞれ対応し、且つ当該各種類毎に読み出した前記ライン毎の電荷に対応する画像データを記録及び出力するN個の出力チャンネルとを備えた撮像装置であって、
前記撮像手段で撮像された撮像画像の画像データを構成する各画素のデータに当該画素の撮像条件を含む属性情報を付加する属性情報付加手段と、
前記属性情報の付加された撮像画像の画像データを記録する記録手段と、
前記N個の出力チャンネルから前記露光時間の種類毎に所定の順番で順次出力される各ラインの画像データに付加された属性情報と、前記記録手段に記録された前記各ラインの画像データに対応するラインの画像データに付加された属性情報とに基づいて、各画素毎に、当該各画素のデータに付加された属性情報が予め設定された画素の選択条件を満たすか否かを判定する選択条件判定手段と、
前記選択条件を満たすと判定された属性情報に対応する画素のデータを選択し、当該選択した画素のデータが前記記録手段に記録されるようにして、当該記録手段に記録された前記撮像画像の画像データを各画素毎に更新又は維持する撮像画像生成手段とを備えることを特徴とする撮像装置。 - 前記各画素のデータに付加される属性情報は、前記画素の露光時間を示す情報、前記画素の輝度値がダイナミックレンジの上限値であることを示す情報及び前記画素の撮像時刻を示す情報の少なくともいずれかを含むことを特徴とする請求項7に記載の撮像装置。
- 前記選択条件判定手段は、前記各画素のデータに付加された属性情報に基づき、前記出力チャンネルから出力される画像データにおける対象画素のデータの露光時間が前記記録手段に記録されている画像データにおける対応画素のデータの露光時間より長いか否か、前記出力チャンネルから出力される画像データにおける対象画素のデータの輝度値がダイナミックレンジの上限値より大きく且つ前記記録手段に記録されている画像データにおける対応画素のデータの輝度値がダイナミックレンジの上限値より小さいか否か、及び前記出力チャンネルから出力される画像データにおける対象画素のデータの撮像時刻が前記記録手段に記録されている画像データにおける対応画素のデータの撮像時刻より所定時間以上離れているか否かの少なくともいずれかを判定することを特徴とする請求項8に記載の撮像装置。
- 前記選択条件判定手段は、前記画素の選択条件を満たすか否かを判定する処理として、各画素のデータに付加された属性情報に基づき、前記出力チャンネルから出力される画像データにおける対象画素のデータの撮像時刻が前記記録手段に記録されている画像データの対応画素のデータの撮像時刻より所定時間以上離れているか否かを判定する優先順位が第1位の第1判定処理、前記出力チャンネルから出力される画像データにおける対象画素のデータの輝度値がダイナミックレンジの上限値より小さく且つ前記記録手段に記録されている画像データにおける対応画素のデータの輝度値がダイナミックレンジの上限値より大きいか否かを判定する優先順位が第2位の第2判定処理、及び前記出力チャンネルから出力される画像データにおける対象画素のデータの輝度値がダイナミックレンジの上限値より小さく且つ前記記録手段に記録されている画像データの対応画素のデータの輝度値がダイナミックレンジの上限値より小さい場合に、前記出力チャンネルから出力される画像データにおける対象画素のデータの露光時間が前記記録手段に記録されている画像データにおける対応画素のデータの露光時間より長いか否かを判定する優先順位が第3位の第3判定処理を前記優先順位の高い方から順に実行し、前記第1〜第3判定処理のいずれかにおいて、前記選択条件を満たした時点で前記判定処理を終了することを特徴とする請求項8に記載の撮像装置。
- 前記撮像画像生成手段は、前記N個の出力チャンネルから前記露光時間の種類毎に所定の順番で順次出力される前記ライン毎の画像データのうち、最初に画像データが出力される出力チャンネルにおいて、当該出力チャンネルから出力される画像データのラインに対応するラインの前記記録手段に記録された画像データを構成する画素のデータのうち、前記撮像画像生成手段で記録が更新されず、且つ次以降に画像データが出力される残りN−1個の出力チャンネルにおいて、各出力チャンネルから出力される画像データのラインに対応するラインの前記記録手段に記録された画像データを構成する画素のデータのうち、前記撮像画像生成手段で記録が更新されなかった画素のデータに付加された前記撮像時刻を示す情報を当該撮像時刻を所定時間経過させた情報に変更し、前記N個の出力チャンネルにおいて、各出力チャンネルから出力される画像データのラインに対応するラインの前記記録手段に記録された画像データを構成する画素のデータのうち、前記撮像画像生成手段で記録が更新された画素のデータに付加された前記撮像時刻を示す情報を所定値にリセットすることを特徴とする請求項10に記載の撮像装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005323170A JP4379408B2 (ja) | 2004-12-07 | 2005-11-08 | 信号処理部および撮像装置 |
US11/294,889 US7643075B2 (en) | 2004-12-07 | 2005-12-05 | Image pickup device |
CN2005101274743A CN1787609B (zh) | 2004-12-07 | 2005-12-07 | 摄像装置 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004353655 | 2004-12-07 | ||
JP2005323170A JP4379408B2 (ja) | 2004-12-07 | 2005-11-08 | 信号処理部および撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006191536A true JP2006191536A (ja) | 2006-07-20 |
JP4379408B2 JP4379408B2 (ja) | 2009-12-09 |
Family
ID=36755997
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005323170A Expired - Fee Related JP4379408B2 (ja) | 2004-12-07 | 2005-11-08 | 信号処理部および撮像装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7643075B2 (ja) |
JP (1) | JP4379408B2 (ja) |
CN (1) | CN1787609B (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007215073A (ja) * | 2006-02-13 | 2007-08-23 | Seiko Epson Corp | 画像圧縮装置、画像圧縮プログラム及び画像圧縮方法、hdr画像生成装置、hdr画像生成プログラム及びhdr画像生成方法、並びに画像処理システム、画像処理プログラム及び画像処理方法 |
JP2008205530A (ja) * | 2007-02-16 | 2008-09-04 | Seiko Epson Corp | 撮像装置、撮像システム及び撮像方法 |
JP2008227822A (ja) * | 2007-03-12 | 2008-09-25 | Brother Ind Ltd | 画像読取装置 |
US7768556B2 (en) | 2006-08-18 | 2010-08-03 | Sony Corporation | Physical quantity detection system, method for driving physical quantity detection system, solid-state image pickup device, method for driving solid-state image pickup device, and image pickup apparatus |
US10979647B2 (en) | 2018-10-26 | 2021-04-13 | Canon Kabushiki Kaisha | Imaging device and imaging system |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070255874A1 (en) * | 2006-04-28 | 2007-11-01 | Jennings Kevin F | System and method for target device access arbitration using queuing devices |
US7414795B2 (en) * | 2006-05-15 | 2008-08-19 | Eastman Kodak Company | Method for driving display with reduced aging |
US9077917B2 (en) | 2011-06-09 | 2015-07-07 | Apple Inc. | Image sensor having HDR capture capability |
BR112013031870B1 (pt) * | 2011-06-14 | 2022-05-10 | Koninklijke Philips N.V. | Dispositivo para processar informações de vídeo, sinal de vídeo para transferir informações de vídeo a um dispositivo de processamento de vídeo, portador de registro óptico, dispositivo para gerar informações de vídeo, método de processar informações de vídeo e método de gerar informações de vídeo para transferir a um dispositivo de processamento de vídeo |
US9218069B2 (en) * | 2013-04-11 | 2015-12-22 | Avago Technologies General Ip (Singapore) Pte. Ltd. | Optical sensing device to sense displacement |
TWI464526B (zh) * | 2013-08-08 | 2014-12-11 | Quanta Comp Inc | 高動態範圍影像曝光時間控制方法 |
JP2015130547A (ja) * | 2014-01-06 | 2015-07-16 | パナソニックIpマネジメント株式会社 | 記録装置 |
JP2017108309A (ja) * | 2015-12-10 | 2017-06-15 | オリンパス株式会社 | 撮像装置および撮像方法 |
WO2017104395A1 (ja) * | 2015-12-15 | 2017-06-22 | 株式会社リコー | 画像処理装置及び画像処理方法 |
CN112889085A (zh) | 2018-10-15 | 2021-06-01 | 生物辐射实验室股份有限公司 | 数字成像中的饱和避免 |
CN110581957B (zh) * | 2019-08-26 | 2021-04-02 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质及电子设备 |
CN112543261A (zh) * | 2020-12-08 | 2021-03-23 | 浙江大华技术股份有限公司 | 一种图像质量提升方法、装置以及计算机可读存储介质 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US2003A (en) * | 1841-03-12 | Improvement in horizontal windivhlls | ||
JP3630905B2 (ja) * | 1997-02-28 | 2005-03-23 | キヤノン株式会社 | 撮像方法及び撮像装置 |
US6529242B1 (en) * | 1998-03-11 | 2003-03-04 | Micron Technology, Inc. | Look ahead shutter pointer allowing real time exposure control |
JP3657780B2 (ja) * | 1998-06-30 | 2005-06-08 | 株式会社東芝 | 撮像装置 |
JP4003151B2 (ja) | 1998-07-09 | 2007-11-07 | 富士フイルム株式会社 | 撮像装置 |
JP2000050174A (ja) | 1998-07-30 | 2000-02-18 | Canon Inc | 撮像装置とその駆動方法 |
US7038716B2 (en) * | 1999-07-30 | 2006-05-02 | Pixim, Inc. | Mobile device equipped with digital image sensor |
US6922210B2 (en) * | 1999-07-30 | 2005-07-26 | Pixim, Inc. | Memory updating for digital pixel sensors |
US6975355B1 (en) * | 2000-02-22 | 2005-12-13 | Pixim, Inc. | Multiple sampling via a time-indexed method to achieve wide dynamic ranges |
US6778212B1 (en) * | 2000-02-22 | 2004-08-17 | Pixim, Inc. | Digital image sensor with on -chip programmable logic |
US6452152B1 (en) * | 2000-02-22 | 2002-09-17 | Pixim, Inc. | Sense amplifier having a precision analog reference level for use with image sensors |
US6498576B1 (en) | 2000-05-09 | 2002-12-24 | Pixim, Inc. | Selective analog-to-digital conversion for a digital pixel sensor |
US6791611B2 (en) * | 2000-05-09 | 2004-09-14 | Pixim, Inc. | Dual ported memory for digital image sensor |
US6831684B1 (en) * | 2000-05-09 | 2004-12-14 | Pixim, Inc. | Circuit and method for pixel rearrangement in a digital pixel sensor readout |
US20010040632A1 (en) * | 2000-05-09 | 2001-11-15 | Yang David Xiao Dong | Multiple sampling via a time-indexed method to achieve wide dynamic ranges |
US6985181B2 (en) * | 2000-05-09 | 2006-01-10 | Pixim, Inc. | CMOS sensor array with a memory interface |
US6498546B1 (en) * | 2000-08-25 | 2002-12-24 | James Leych Lau | Utilization of proximity effect in ripple noise filtering |
US6516154B1 (en) * | 2001-07-17 | 2003-02-04 | Eastman Kodak Company | Image revising camera and method |
JP4135360B2 (ja) | 2001-12-25 | 2008-08-20 | ソニー株式会社 | 固体撮像装置 |
JP4136464B2 (ja) | 2002-06-03 | 2008-08-20 | オリンパス株式会社 | 撮像装置及び撮像方法 |
JP2004015291A (ja) | 2002-06-05 | 2004-01-15 | Sony Corp | 固体撮像装置及びその駆動方法 |
JP2004159274A (ja) | 2002-09-13 | 2004-06-03 | Shoji Kawahito | 固体撮像装置 |
-
2005
- 2005-11-08 JP JP2005323170A patent/JP4379408B2/ja not_active Expired - Fee Related
- 2005-12-05 US US11/294,889 patent/US7643075B2/en not_active Expired - Fee Related
- 2005-12-07 CN CN2005101274743A patent/CN1787609B/zh not_active Expired - Fee Related
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007215073A (ja) * | 2006-02-13 | 2007-08-23 | Seiko Epson Corp | 画像圧縮装置、画像圧縮プログラム及び画像圧縮方法、hdr画像生成装置、hdr画像生成プログラム及びhdr画像生成方法、並びに画像処理システム、画像処理プログラム及び画像処理方法 |
JP4561649B2 (ja) * | 2006-02-13 | 2010-10-13 | セイコーエプソン株式会社 | 画像圧縮装置、画像圧縮プログラム及び画像圧縮方法、hdr画像生成装置、hdr画像生成プログラム及びhdr画像生成方法、並びに画像処理システム、画像処理プログラム及び画像処理方法 |
US7768556B2 (en) | 2006-08-18 | 2010-08-03 | Sony Corporation | Physical quantity detection system, method for driving physical quantity detection system, solid-state image pickup device, method for driving solid-state image pickup device, and image pickup apparatus |
JP2008205530A (ja) * | 2007-02-16 | 2008-09-04 | Seiko Epson Corp | 撮像装置、撮像システム及び撮像方法 |
JP2008227822A (ja) * | 2007-03-12 | 2008-09-25 | Brother Ind Ltd | 画像読取装置 |
JP4552154B2 (ja) * | 2007-03-12 | 2010-09-29 | ブラザー工業株式会社 | 画像読取装置 |
US10979647B2 (en) | 2018-10-26 | 2021-04-13 | Canon Kabushiki Kaisha | Imaging device and imaging system |
Also Published As
Publication number | Publication date |
---|---|
CN1787609A (zh) | 2006-06-14 |
JP4379408B2 (ja) | 2009-12-09 |
CN1787609B (zh) | 2010-12-08 |
US7643075B2 (en) | 2010-01-05 |
US20060170662A1 (en) | 2006-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4379408B2 (ja) | 信号処理部および撮像装置 | |
JP4320658B2 (ja) | 撮像装置、制御方法、並びにプログラム | |
JP4208904B2 (ja) | 撮像装置及びその制御方法並びに撮像システム | |
CN101188773B (zh) | 摄像装置及图像处理方法 | |
JP2008205530A (ja) | 撮像装置、撮像システム及び撮像方法 | |
KR101128167B1 (ko) | 화상 표시 장치 | |
JP2007194687A (ja) | 撮像装置 | |
JP2011151792A (ja) | 画像処理装置及び方法 | |
JP5222068B2 (ja) | 撮像装置 | |
JP2009164725A (ja) | 画像記録装置および画像再生装置 | |
US9247168B2 (en) | Imaging device including focusing pixels | |
JP4606218B2 (ja) | 歪補正装置 | |
JP2000023024A (ja) | 画像入力装置 | |
JP5019581B2 (ja) | 撮像装置及び撮像システム | |
JP6235788B2 (ja) | 撮像装置及びその制御方法 | |
JP2014099714A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
JP4555642B2 (ja) | 信号処理回路 | |
CN101296328B (zh) | 摄像设备及其控制方法 | |
JP6302217B2 (ja) | 撮像装置及びその制御方法 | |
JP2019004257A (ja) | 撮像装置及びその制御方法 | |
JP7020463B2 (ja) | 撮像装置 | |
JP2009033438A (ja) | 撮像装置 | |
JP2009272703A (ja) | 撮像装置及びその制御方法 | |
JP2000050127A (ja) | 電子スチルカメラ及びその制御方法 | |
JP3835657B2 (ja) | 電子スチルカメラ及び連写画像再生方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060630 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070404 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080717 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080722 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080922 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090317 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090420 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090825 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090907 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121002 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4379408 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121002 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131002 Year of fee payment: 4 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |