JP4134869B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP4134869B2 JP4134869B2 JP2003333029A JP2003333029A JP4134869B2 JP 4134869 B2 JP4134869 B2 JP 4134869B2 JP 2003333029 A JP2003333029 A JP 2003333029A JP 2003333029 A JP2003333029 A JP 2003333029A JP 4134869 B2 JP4134869 B2 JP 4134869B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- processor
- visual axis
- rotation
- photoelectric conversion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000003384 imaging method Methods 0.000 title claims description 47
- 230000000007 visual effect Effects 0.000 claims description 76
- 230000002159 abnormal effect Effects 0.000 claims description 47
- 238000012937 correction Methods 0.000 claims description 44
- 238000006243 chemical reaction Methods 0.000 claims description 39
- 230000003287 optical effect Effects 0.000 claims description 32
- 230000010354 integration Effects 0.000 claims description 27
- 238000012545 processing Methods 0.000 claims description 25
- 238000000034 method Methods 0.000 claims description 16
- 238000001514 detection method Methods 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 13
- 238000013500 data storage Methods 0.000 claims description 12
- 238000013519 translation Methods 0.000 claims description 11
- 230000007246 mechanism Effects 0.000 claims description 4
- 230000001934 delay Effects 0.000 claims 1
- 239000000284 extract Substances 0.000 claims 1
- 230000002950 deficient Effects 0.000 description 10
- 230000035945 sensitivity Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 238000012544 monitoring process Methods 0.000 description 9
- 230000008859 change Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000002829 reductive effect Effects 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000002834 transmittance Methods 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000012535 impurity Substances 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000009291 secondary effect Effects 0.000 description 1
Images
Landscapes
- Image Input (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
Description
このような監視システムのカメラ(撮像装置)では、撮像装置全体を動かすことで撮影方向を移動させるものもあるが、撮像装置を目立たせたくない等の事情により光学系の一部分だけを外部に露出させ、この部分を回転させることで撮像方向を変えるものもある(例えば、特許文献1参照。)。
そこで、像の回転に対して意図的な逆回転を施し、像が常にラインセンサに直交して流れるようにコントロールする必要がある。これは特許文献1、第1図、符号46の補正回転フレームのような部品で行っている。
この場合、得られる画像の単位は エリアセンサの画角に相当する縦横比1:1あるいは3:4の画像であり、この画像単位で目標検出処理を行うのが一般的である。
このような画像を撮影しながら連続的に撮影方向を移動させていく場合、移動による画像流れを抑えるため露光時間を短くする必要があるが、撮像対象が暗い場合は感度が稼げず不利となる。
しかし、視軸の移動時間が監視におけるブラインドタイムとなり、ちょうど撮影領域の境目を走査方向に正対する形で横切るようなタイミングで移動する目標を見逃す可能性が増大すると共に、加減速を繰り返す視軸移動時間にかなりの時間がかかるために効率が悪く、捜索周期が長くなる傾向がある。
しかし、例えば監視領域をタイル状に撮影する場合には、隣接する画像を連続的に接続させるために像回転補償が必要であり、やはり光学的に像回転を補償する機構を有していた。
第1に、光学的像回転補償部品はプリズムやミラーから成る比較的大型の部品であるため、装置全体の小型化阻害要因になるとともに、これを駆動するために消費電力も増加する。また、大型のプリズムは高価であり、装置のコストの大きな部分を占めている。
第2に、光学的像回転補償部品をできるだけ小さくするためには、部品近辺で光束を絞る必要が生じ、これが光学系の設計自由度を束縛する。これは小型化阻害要因となるばかりか、開口径を制限するなどして感度劣化要因ともなる。
第3に、光学的像回転補償部品を小型化するには、これをプリズムで構成するのが効果的なのだが、プリズムでは透過率が低下する。特に赤外線では これが著しい。
このような欠陥画素はエリアセンサにおいても同様に問題となり、特にエリアセンサについては欠陥画素が不感領域となる問題以外に、欠陥が例えば輝点となって、誤った目標として認識されてしまうこともある。
しかし、シャッターを装置内部に設置することは小型化阻害要因となり、シャッターのような校正手段を持たなければ感度が劣化することになるという問題があった。
また、特に赤外線撮像装置においては光電変換素子の特性変動が著しく、動作中、頻繁に校正が必要となる場合があるが、校正中は撮影が中断するため、監視におけるブラインドタイムになるという問題もあった。
以下、図を用いてこの発明に係る実施の形態1について説明する。
図1は、この発明の実施の形態1を示す構成図であり、一例として航空機に搭載する捜索装置の撮像装置部分を簡単に説明したものである。
光電変換素子4の素子出力は素子出力補正処理器5に入力され、あらかじめ設定された素子補正データ記憶器6に従い、各画素のゲイン、直流成分ばらつきが補正されるとともに、欠陥画素の出力信号については隣接する正常画素の信号で置きかえる等の補正処理が施され、原画像信号となる。
なお、このような補正処理は、光電変換素子の特性によっては不要な場合もある。
視軸駆動装置(EL)9がこれを駆動し、視軸駆動量は、例えば駆動角度情報として視軸方向センサ(EL)10によって測定される。
ここで、ミラー3をELフレーム7の駆動角度の1/2だけ駆動するように調整すると、ELフレーム7が上下に回転しても入射光1は常に光電変換素子4上に結像する。
AZフレーム11は視軸を左右に振るための動作ユニットであり、AZ回転中心12を中心に回転させることができる。
視軸駆動装置(AZ)13がこれを駆動し、視軸駆動量は、例えば駆動角度情報として視軸方向センサ(AZ)14によって測定される。
ELフレーム7、視軸駆動装置(EL)9、視軸方向センサ(EL)10は、すべてAZフレーム11に含まれている。
時刻がt0、t1、t2と進展するに従い、撮影領域の中心がAZ回転方向に移動(すなわち走査)していくが、同時に像が撮影領域の中心回りに回転し、像は並進移動と回転移動の複合的な動きをすることになる。そこで、得られた画像を信号処理により回転変換し、視軸の移動によって副次的に発生した回転移動を打ち消すのである。
また、視軸方向を変えなくても、撮像装置を搭載した機体が視軸方向を中心に回転運動すると画像が回転してしまう。例えば、機体前方を撮影中に機体がロールして上下逆さまになれば、得られる画像も上下逆さまになる。これについても、姿勢センサ16によって測定されたロール回転量分だけ画像を逆に回転変換処理すれば、得られる画像の上下は常に維持される。
ところが、現実的な光学装置では歪曲を充分に小さくすることが困難な場合が多いため、各時刻で撮影された像17を回転変換と走査分の平行移動だけで足しあわせようとしても正しく重ならない。そのため、回転変換を行う前に歪曲補正を行っている。
原画像信号は歪曲補正処理器24に入力され、事前に測定された歪曲データを記憶する歪曲データ記憶器25によって、画像上の各点における歪曲によるズレが補正される。
続いて、視軸制御装置15は、視軸方向センサ(EL)10によって得られたEL角度情報、及び視軸方向センサ(AZ)14によって得られたAZ角度情報と、姿勢センサ16によって得られた自身の姿勢情報から、光電変換素子4に結像されている像の基準からの回転角度を計算し、この回転角度に(−1)を掛けた値を所要回転量として、これを画像回転処理器26に与える。
画像回転処理器26は、光電変換素子4の出力として得られる画像信号に対して信号処理を行い、視軸制御装置15から与えられた角度だけ回転変換を施す。
これによって得られた画像信号はフレーム積分処理器27に入力され、視軸制御装置15が計算して求めた走査移動量分(図2の走査移動量22)だけ画像をずらしながら信号を足しあわせることでフレーム積分が行われる。
また、かかる光学的部品は特に赤外線を用いた撮像装置では透過率を低下させる大きな要因となるが、これがなくなることで透過率が改善され、撮像装置としての感度が向上する。
さらに、かかる光学的部品の近傍において光束を絞る必要がなくなるために設計上の制限条件が低減され、光学装置の最適設計が可能となる。これは感度向上や小型化等にメリットがある。
加えて、エリアセンサを用いながらも広い領域を1枚の画像として生成することができ、フレーム積分の効果として1画素分の信号を得るための光電荷蓄積時間の合計を非常に長くとれることから、さらに高い感度を得ることができる。
さらに、上記の効果に加え、この実施の形態では 最終的に得られる画像における1つの画素の信号が光電変換素子上の複数の画素信号の積分値として求められることから、欠陥画素等によって発生する異常な出力の影響が最終画像における複数の画素に分散することになり、結果的に欠陥画素の影響を小さくすることができる。
画像回転処理前の画像28には、一例として雲の像29が写っており、同時に異常画素による異常信号30も画像上に現れている。
時間が t0、t1、t2 と進展するに従い、雲の像29は視軸の走査やそれに伴って発生する画像回転により複雑に移動するが、異常画素による異常信号30は常に同じ位置に現れる。これはすなわち、画像回転処理後の画像31では異常画素による異常信号30のほうが複雑に動き回ることを意味する。
そのため、景色が正しく重ねあわせられるように処理が施されたフレーム積分処理器の出力画像32では、異常画素による異常信号30の像はボケて、ぼやけた異常信号33のようになる。
すなわち、異常画素による点状の模様が目立たなくなるわけである。
以下、図を用いてこの発明に係る実施の形態2について説明する。
図4は、この発明の実施の形態2を示す構成図であり、実施の形態1に処理を追加したものである。
ところが、逆に位置的な変換を行わずに単純にフレーム積分を行うと、単純フレーム積分処理器の出力画像35に示すように 撮像対象である雲の像29は走査による像の移動や、これに伴って発生する像回転によりぼやけた雲の像36のようにボケてしまうが、異常画素による異常信号30は常に同じ画素で発生するため、積分された異常信号37のように強調されてくっきりした画像(点)となるのである。
異常画素検出処理器38は、単純フレーム積分処理器34から渡された補正用画像信号から、1〜2画素程度の孤立輝点/暗点を検出する。これには、検査対象の画素信号と その周辺にある複数の画素信号の平均値とを比較し、あらかじめ設定した一定値以上の差があることをもって孤立輝点/暗点と判断するとか、上記「一定値」を固定値とせず、周辺にある複数の画素信号の標準偏差の一定倍として求めた上でその値を基に判断するなど 複数の方法がある。
このようにすることで、異常画素を検出、補正することが可能となる。
また、シャッターを用いた異常画素検出では、シャッターを挿入している時間に撮像対象を撮影できず、これがブラインドタイムとなるが、この実施の形態では撮像しながら同時に異常画素を検出できるため、ブラインドタイムが発生しないというメリットがある。
以下、図を用いてこの発明に係る実施の形態3について説明する。
図6は、この発明の実施の形態3を示す構成図であり、図4の一部を取り出し、この発明の形態に合わせて変更を加えたものである。光電変換素子4、素子出力補正処理器5、画像回転処理器26については図4とまったく同じである。
オフセット検出処理器39は単純フレーム積分処理器34から補正用画像信号を受け、異常画素検出処理器38の出力として得られた異常画素の位置における信号強度を取得する。
また、同時に原画像信号から上記異常画素の周囲画素の信号強度も得て、周囲画素の平均信号強度と異常画素の信号強度の差を計算する。
このようなオフセット成分は、光電変換素子中の不純物に起因する構造を原因として突然発生することもあれば、いわゆる1/f揺らぎと言われる低周波の雑音により徐々に現れる場合もある。いずれにしても感度はあり、周囲の信号に対して下駄を履かされた状態になっているだけである。
逆に異常画素が補正可能と判断された場合は、周囲画素の平均信号強度と異常画素の信号強度の差をフレーム積分回数で除することでオフセット量を求め、これによって素子補正データ記憶器6における当該画素のオフセット補正データを修正し、以降は当該画素のオフセット値が適宜引き去れるようにする。
以下、図を用いてこの発明に係る実施の形態4について説明する。
図7は、この発明の実施の形態4を示す構成図であり、実施の形態1の一部を変更したものである。
実施の形態1では、撮像装置が航空機に搭載されているため、航空機の姿勢変化により撮像装置も慣性空間に対して姿勢変動する。そのため、視軸制御装置15は姿勢センサ16から撮像装置自身の姿勢情報を受け、視軸方向が装置自身の姿勢変動の影響を受けることなく慣性空間に対して一定角速度で動くように視軸駆動装置(EL)9および視軸駆動装置(AZ)13へ駆動指令を送るようにしていたのだが、この間のタイムラグは現実的な装置では少なくとも数十〜数百msec程度ある。そのため、姿勢変動の角速度が大きいとタイムラグ分の時間内における角度変動が大きく、姿勢変動による撮影方向のズレを画素サイズより十分小さいレベルに抑えられない。
すなわち、激しく機動するような航空機に搭載される撮像装置の場合は、このタイムラグにより画像がずれてしまい、実施の形態1で示したようなフレーム積分を行っても重なるべき画像が重ならず、画像のS/Nはむしろ低下してしまうのである。
視軸制御装置15は視軸駆動装置(EL)9および視軸駆動装置(AZ)13を適宜駆動するとともに、視軸方向センサ(EL)10および視軸方向センサ(AZ)14によって測定された実際の視軸駆動量と、視軸方向の変化に伴って回転してしまった像を元に戻すための所要像回転量とを姿勢変動補償装置40へ送り返し、姿勢変動補償装置40はこの値を記録する。(これを「視軸駆動量B」および「所要像回転量C」と呼ぶことにする)
そこで、姿勢変動補償装置40は姿勢情報Aと姿勢情報Eから画像Fの撮影方向ズレ補正のための所要移動量(これを「所要移動量G」と呼ぶことにする)を計算するとともに、さらに所要像回転量Cを用いて新たな所要像回転量(これを「所要像回転量H」と呼ぶことにする)を計算し、それぞれを画像回転処理器26および画像平行移動処理器41に送信して、画像を補正する。
構成によっては、画像E の方が時間的に遅れて出てくることもありうるが、その場合は所要移動量G及び所要回転量Hを遅延させれば良く、これは小規模に構成できるため、姿勢変動補償装置40内のメモリをFIFOバッファとして構成すればよい。
そこで、実施の形態4の画像回転処理器26と画像平行移動処理器41を1つにまとめ、各画素について回転処理と平行移動処理の両方による位置移動量を同時に計算し、一気に位置補正処理を行うと、よりボケの少ない撮像装置を得ることができる。
Claims (6)
- 光電変換を行う2次元の光電変換素子と、
上記光電変換素子上に像を結像させる光学装置と、
上記光学装置の一部あるいは全体を移動させることにより、撮影方向を変化させる視軸駆動装置と、
上記視軸駆動装置による視軸駆動量を検出するための視軸方向センサと、
上記視軸駆動装置を制御するとともに、上記視軸方向センサで検出される視軸駆動量から上記光学装置によって結像される画像の回転量および並進移動量を算出する視軸制御装置と、
上記光電変換素子によって電子化された画像に対し、上記視軸制御装置によって計算される画像回転量分だけ画像を逆回転させる画像回転処理器と、
上記画像回転処理器によって得られる画像中に内包され画像の回転中心と同心である円に内接する矩形領域について、上記視軸制御装置によって計算される画像の並進移動量分だけ画像をずらしながらフレーム積分するフレーム積分処理器と、
を備え、
上記撮影方向の移動によって発生する上記光電変換素子面上に結像する画像の回転を、検出された上記視軸駆動量に基づいて電子的に補正することを特徴とする撮像装置。 - 上記光電変換素子における各画素のゲインや直流成分等の特性ばらつきや異常値の補正を行うための素子補正データを記憶する素子補正データ記憶器と、
上記素子補正データ記憶器を用いて上記光電変換素子の出力信号を補正する素子出力補正処理器と、
上記素子出力補正処理器から得られる原画像信号をフレーム積分する単純フレーム積分処理器と、
上記単純フレーム積分処理器が出力する補正用画像信号から、周囲画素の出力信号の所定の強度差以上を出力する異常画素を抽出するか、あるいは、上記周囲画素の出力信号の標準偏差の所定の倍数以上を出力する異常画素を抽出し、この異常画素に対する上記素子補正データ記憶器の素子補正データを修正する異常画素検出処理器と、
を備え、
上記光電変換素子中の異常画素を検出し、上記素子補正データを自動的に修正する様にしたことを特徴とする、請求項1に記載の撮像装置。 - 上記異常画素検出処理器が出力する異常画素について、上記単純フレーム積分処理器が出力する補正用画像信号から上記異常画素信号と対応する周囲画素信号との差を検出し、これによって当該異常画素の出力信号における直流成分のオフセット量を求めて上記素子補正データ記憶器の素子補正データを修正するオフセット検出処理器を備え、
上記光電変換素子における直流成分のオフセット量が異常となっている画素を検出し、このオフセット量の推定または校正を自動的に行う様にしたことを特徴とする、請求項2に記載の撮像装置。 - 撮像装置自身の姿勢を検出するための姿勢センサと、
撮影画像の平行移動を行うための画像平行移動処理器と、
撮影画像の回転あるいは撮影画像の平行移動を行う前の画像信号を遅延させる遅延処理器と、
上記姿勢センサの出力情報を中継して上記視軸制御装置に与えると共に、上記姿勢センサの出力情報および上記視軸制御装置の出力情報から画像の回転量及び画像の平行移動量を算出し、これを上記画像回転処理器および上記画像平行移動処理器へ与える姿勢変動補償装置と、
を備え、
上記撮影装置自身の姿勢が変動するような環境下であり、上記姿勢を検出すると共に、上記姿勢の変動を相殺するように撮影方向を調整する機構において、検出される上記姿勢の情報に追従して撮影方向を調整するまでの時間差により発生する追従誤差を画像処理によって補償する様にしたことを特徴とする、請求項1乃至請求項3に記載の撮像装置。 - 上記画像回転処理器による画像の回転処理と、上記画像平行移動処理器による画像の平行移動処理とを一括して処理する様にしたことを特徴とする、請求項4に記載の撮像装置。
- 上記素子出力補正処理器から得られる原画像信号を予め設定される歪曲データにより画像の歪曲補正を行う歪曲補正処理器を備え、
上記画像回転処理器による画像の回転処理と、上記画像平行移動処理器による画像の平行移動処理とを一括して処理する様にしたことを特徴とする、請求項4に記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003333029A JP4134869B2 (ja) | 2003-09-25 | 2003-09-25 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003333029A JP4134869B2 (ja) | 2003-09-25 | 2003-09-25 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005101905A JP2005101905A (ja) | 2005-04-14 |
JP4134869B2 true JP4134869B2 (ja) | 2008-08-20 |
Family
ID=34461162
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003333029A Expired - Lifetime JP4134869B2 (ja) | 2003-09-25 | 2003-09-25 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4134869B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100803212B1 (ko) | 2006-01-11 | 2008-02-14 | 삼성전자주식회사 | 스케일러블 채널 복호화 방법 및 장치 |
KR100773560B1 (ko) | 2006-03-06 | 2007-11-05 | 삼성전자주식회사 | 스테레오 신호 생성 방법 및 장치 |
JP4734176B2 (ja) * | 2006-05-22 | 2011-07-27 | 財団法人電力中央研究所 | 電線異常検出方法、電線異常検出装置及び電線異常検出プログラム |
KR100763920B1 (ko) | 2006-08-09 | 2007-10-05 | 삼성전자주식회사 | 멀티채널 신호를 모노 또는 스테레오 신호로 압축한 입력신호를 2채널의 바이노럴 신호로 복호화하는 방법 및 장치 |
JP2008078713A (ja) | 2006-09-19 | 2008-04-03 | Sony Corp | 記録装置および方法、プログラム、並びに再生装置および方法 |
JP5137380B2 (ja) * | 2006-11-07 | 2013-02-06 | キヤノン株式会社 | ぶれ補正装置及び方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS61125289A (ja) * | 1984-11-20 | 1986-06-12 | Fujitsu Ltd | 撮像装置 |
JP3489531B2 (ja) * | 1999-06-25 | 2004-01-19 | 日本電気株式会社 | 2軸駆動機構とそれを利用した画像入力装置及び光投射装置 |
JP2001339716A (ja) * | 2000-05-25 | 2001-12-07 | Matsushita Electric Ind Co Ltd | 車両周辺監視装置及び方法 |
-
2003
- 2003-09-25 JP JP2003333029A patent/JP4134869B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2005101905A (ja) | 2005-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8558943B2 (en) | System and method for image capture device | |
JP4557060B2 (ja) | 電子カメラ | |
CN101494743B (zh) | 灰尘检测系统以及数码相机 | |
US7999841B1 (en) | Image expansion system to create larger size or larger resolution images | |
KR20150120832A (ko) | 디지털 촬영시스템 및 그 제어방법 | |
JPH05344403A (ja) | 撮像装置 | |
JP2007074629A (ja) | 撮像装置 | |
JP2010250156A (ja) | 電子カメラ | |
JP4134869B2 (ja) | 撮像装置 | |
JP6250446B2 (ja) | 画像処理システム、画像処理装置、画像処理方法及びプログラム | |
JP2002365524A (ja) | オートフォーカス装置及びそれを用いた撮像装置 | |
JP4306438B2 (ja) | 撮像装置 | |
US20080122952A1 (en) | Electronic camara | |
JP2005117343A (ja) | 監視システム | |
JP4064001B2 (ja) | カメラ | |
JP6477275B2 (ja) | 撮像装置 | |
JP2007121501A (ja) | カメラ | |
JPH11194377A (ja) | ブレ補正カメラ | |
JP3039669B2 (ja) | 撮像装置 | |
JP2006259078A (ja) | 一眼レフカメラのファインダー内表示装置 | |
WO2023234356A1 (ja) | 撮像システム、及び、それを備えた移動体 | |
JP2003207813A (ja) | 撮像装置 | |
WO2022054679A1 (ja) | 撮像装置及び付着物検出方法 | |
WO2023002826A1 (ja) | 撮像システム、及び、それを備えた移動体 | |
WO2023243656A1 (ja) | 撮像システム、及び、それを備えた移動体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080212 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080410 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080507 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080520 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4134869 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110613 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120613 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130613 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |