JPH076780B2 - 三次元物体の判別方法およびその装置 - Google Patents

三次元物体の判別方法およびその装置

Info

Publication number
JPH076780B2
JPH076780B2 JP63079546A JP7954688A JPH076780B2 JP H076780 B2 JPH076780 B2 JP H076780B2 JP 63079546 A JP63079546 A JP 63079546A JP 7954688 A JP7954688 A JP 7954688A JP H076780 B2 JPH076780 B2 JP H076780B2
Authority
JP
Japan
Prior art keywords
image
inspection area
dimensional object
points
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP63079546A
Other languages
English (en)
Other versions
JPH01250709A (ja
Inventor
真也 石田
洋 吉田
Original Assignee
近畿日本鉄道株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 近畿日本鉄道株式会社 filed Critical 近畿日本鉄道株式会社
Priority to JP63079546A priority Critical patent/JPH076780B2/ja
Publication of JPH01250709A publication Critical patent/JPH01250709A/ja
Publication of JPH076780B2 publication Critical patent/JPH076780B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

【発明の詳細な説明】 (産業上の利用分野) 本発明は、監視用テレビカメラ等で撮影された画像が二
次元物体のものであるか三次元物体のものであるかを、
容易に、迅速かつ確実に判別できる二次元物体と三次元
物体の判別方法およびその装置に関する。
(従来の技術) 従来、テレビカメラ等で撮影された画像についてのこの
種の判別方法としては、同一の物体を2台のカメラで異
なる方向から撮影してその距離画像を得るステレオ法が
行なわれている。
このステレオ法は、撮影される対象物の任意の点と2台
のカメラのレンズ中心で決定される平面が画面上では直
線となるので、この直線上の濃度変化のパターン等を手
掛かりとして、一方の画面内の点と他方の画面の対応す
る点を求め、その点についての三次元座標値を三角測量
の原理を応用して決定するものである。そして、この三
次元座標値の決定を対象物の画像中の多くの点について
施すことにより三次元距離画像を得、撮影された対象物
が二次元物体か三次元物体かを判別しようとするもので
ある。
(発明が解決しようとする課題) 従来の二次元物体と三次元物体の判別方法においては、
2台のカメラで撮影された画像中の対応点の決定方法
は、どのような画像についても十分に確立されていると
はいえない。しかも、現実に行なわれているエッジ等の
特徴点のみを用いた対応では、処理が煩雑になるととも
に対象物の影の影響を完全に除去することができないた
め、撮影された対象物が単に二次元物体か三次元物体で
あるかをステレオ法によって判別しようとすると、判別
に時間がかかるという問題点があった。
本発明は、従来の技術の有するこのような問題点に鑑み
てなされたもので、対象物の三次元の座標値を煩雑な処
理によって求めることなく、撮影された画像の一方を二
次元射影変換により他方の画像の座標に変換し、共通の
座標に変換された2つの画像を比較することにより、影
の影響を除去して対象物が二次元物体であるか三次元物
体であるかを容易に、迅速かつ確実に判別できる二次元
物体と三次元物体の判別方法を提供することを目的とす
るものであり、さらに該判別方法の実施に用いられる構
成が簡単な二次元物体と三次元物体の判別装置の提供を
目的とするものである。
(課題を解決するための手段) 上記目的を達成するために、本発明の三次元物体の判別
方法においては、(a)平面状の検査領域内に三次元物
体が存在するか否かを判別する方法であって、(b)前
記検査領域について、距離と角度の少なくとも一方が異
なる二箇所の撮影点を予め決定し、(c)前記検査領域
上の全ての二次元図形について、一方側の撮影点におけ
る撮影画像を他方側の撮影点における撮影画像に一致さ
せる射影変換式を、前記検査領域平面と前記二箇所の撮
影点との位置関係に基づいて予め決定しておき、(d)
判別動作時には、前記二箇所の撮影点の一方側の画像デ
ータを、前記射影変換式に基づいて他方側のデータに変
換し、(e)この変換後のデータを、前記他方側の撮影
点で得られる画像データと比較して、両者間に所定値以
上の不一致が認められるときには、前記検査領域内に三
次元物体が存在すると判別するようにしている。
また、三次元物体の判別装置は、(f)平面状の検査領
域内に三次元物体が存在するか否かを判別する装置であ
って、(g)前記検査領域について、距離と角度の少な
くとも一方が異なる二箇所の撮影点からの映像を画像デ
ータとして出力する撮影手段と、(h)前記検査領域上
の全ての二次元図形について、一方側の撮影点における
投影画像を他方側の撮影点における撮影画像に一致させ
る射影変換式又は射影変換表を、前記検査領域平面と前
記二箇所の撮影点との位置関係に基づいて予め決定して
記憶しておく記憶手段と、(i)前記二つの撮影手段の
内、一方側の撮影手段により得られる画像データを、前
記射影変換式又は射影変換表に基づいて他方側のデータ
に変換する変換手段と、(j)この変換後のデータを、
前記他方側の撮影手段により得られる画像データと比較
して、両者に所定値以上の不一致が認められるときに
は、前記検査領域内に三次元物体が存在すると判別する
判別手段とを特徴的に備えている。
(作用) 平面状の検査領域内に三次元物体が存在しなければ、こ
の検査領域について距離と角度の少なくとも一方を変え
て撮影したとしても、一方側の画像を他方側の画像に一
致させることができる。それ故、一方側の画像を他方側
に射影変換した場合に両画像が一致するか否かによって
検査領域内に三次元物体が存在するか否かを判別するこ
とができる。
以下、2台のテレビカメラを用いる場合を例にして、図
8に基づいて更に詳細に説明する。
平面状の検査領域をP、2台のテレビカメラによる撮像
面をA、Bとし、平面P上の2次元図形Gを撮像面Aに
変換する射影変換をfa、撮像面Bに変換する射影変換を
fbとする。そして、図形Gが撮像面A、B上に射影変換
された像をga、gbで表わすことにする。なお、実際の撮
像面は、投影中心(カメラのレンズ中心)O,O′に関し
て点対称位置に存在するが、便宜上、撮像面をA,Bで表
している。
射影変換faの逆変換(撮像面Aから平面Pへの変換)を
fa-1と表わすならば、gaをfa-1で変換し、続けてfbで変
換すると、結果として得られる図形はgbと一致すること
になる。すなわち、撮像面Aの全ての2次元図形像は、
fa-1とfbの二つの連続した変換によって、撮像面Bの像
と一致するはずである。
連続した2つの変換をf=fb*fa-1と表わすなら、fも
射影変換であり、この射影変換fは、撮像面A,Bと、平
面Pと、投影中心O,O′とに基づいて一意的に決定され
る。つまり、射影変換faは、平面Pと撮像面Aと投影中
心Oが決まれば一意的に決定され、同様に、射影変換fb
は、平面Pと撮像面Bと投影中心O′によって決定され
る。なお、請求項1請求項3では、撮像面A,Bと、投影
中心O,O′とを合わせて撮影点と称している。
このように、射影変換fは、本来、撮像面A,Bと、平面
Pと、レンズ中心O,O′とに基づいて一意的に決定でき
るのであるが、請求項2のように、平面図形Gを撮影し
た撮影画像ga,gb上の対応する4点から決定することも
できる。
いずれにしても、判別動作時において、射影変換fによ
って一方側の画像を変換すれば、撮影された物体が表面
P上に存在する二次元物体であるとき、且つそのときの
み、他方側の画像と一致するので、二つの画像が一致し
ない場合には、判別対象物は平面P上の三次元物体であ
ると判別できることになる。
この発明は、例えば、列車が近づきつつある踏切内に自
動車などが残っていないかどうかを確実に判別したい場
合などに特に有効な発明であって、ビルの影やその他の
撮影条件が、日によって、また時間によって大幅に変わ
り、検査領域を撮影してから異常の有無を判別するまで
に時間的余裕が無い場合でも、自動車などを短時間に正
確に認識できる点に特徴がある。
(実施例) 以下本発明をその実施例を示す図面について説明する。
第1図は本発明に係る三次元物体の判別方法の実施に使
用する装置のブロック図で、該装置は、通常2台のテレ
ビカメラ(以下カメラと略記する)1,2と、カメラ切替
え器3と、カメラ1,2からのアナログビデオ信号をディ
ジタル値に変換するA/Dユニット部4と、各種画像を記
憶する画像メモリ部5と、各画像に指示された演算処理
を施す演算部6と、上記各構成要素に制御指令を出す中
央制御部(以下CPUと略記する)7とから主として構成
されている。
2台のカメラ1,2は、判別対象物aを含む同一の領域を
距離と角度のいずれか一方または両方を変えてほぼ同時
に2方向から撮影する。カメラ1,2により撮影された画
像の一例が、それぞれ第2図および第3図に示されてい
る。判別対象物aの撮影は、通常2方向からほぼ同時に
行なわれるが、背景の明るさ等が大きく変化しない場合
には、多少の時間的なずれを伴って撮影を行なうように
してもよい。
カメラ切替え器3は2台のカメラ1,2とA/Dユニット部4
とに接続されるとともに、制御用の標準(インテル系)
データウエイであるマルチバス8を介してCPU7とも接続
されている。CPU7からの指令によりカメラ切替え器3が
切替えられると、カメラ切替え器3は、切替えられたカ
メラ1または2から入力される画像のアナログビデオ信
号をA/Dユニット部4に出力する。
A/Dユニット部4は、画像データを専用に転送する画像
データバス9により画像メモリ部5と演算部6とに接続
されており、また、A/Dユニット部4,画像メモリ部5,お
よび演算部6は、共通のマルチバス8によりそれぞれCP
U7に接続されている。
画像メモリ部5は、A/Dユニット部4でディジタル値に
変換されたカメラ1,2からの画像をそれぞれ別個に記憶
する第1画像メモリ部5aと第2画像メモリ部5b、この第
2画像メモリ部5bに記憶されたカメラ2の画像に、後述
する二次元射影変換を施してカメラ1の画像と同じ座標
系の画像に変換したカメラ2の変換画像を記憶する第3
画像メモリ部5cと、第1画像メモリ部5aに記憶させたカ
メラ1の画像から、第3画像メモリ部5cに記憶させたカ
メラ2の変換画像を差し引いた差し引き画像を記憶させ
る第4画像メモリ部5dとに分割されている。
演算部6は画像メモリの内容を変換する演算を行なう部
分で、該演算部6に二次元射影変換の座標変換式を記憶
させて直接演算を行なうようにしてもよいが、演算の処
理速度を速めるために、2台のカメラ1,2の画像につい
ての座標間の対応する変換パラメータの組を予め求めて
格納させた参照表メモリ部10を設け、この参照表メモリ
部10と演算部6とをマルチバス8により接続して両者を
併用できるようにしてもよい。
CPU7はカメラ切替え器3,A/Dユニット部4,画像メモリ部
5,演算部6,および参照表メモリ部10とマルチバス8によ
り接続されて汎用画像処理装置bを形成し、これらを制
御している。
第2画像メモリ部5bに記憶されたカメラ2の画像の二次
元射影変換は、次の座標変換式を用いて行なわれる。
ここで(U,V)は入力画像の座標値、(X,Y)は出力画像
の座標値、a1〜a5、b1〜b3は係数である。
二次元射影変換を行なうに当っては、8つの係数a1
a5、b1〜b3の値を決めねばならないが、この8つの係数
の値は、2台のカメラ1、2で撮影された第1の画像
(第2図)と第2の画像(第3図)の両方に写ってお
り、かつ判別対象物aがのっていると考えられる平面上
の対応する4つの点A、B、C、DのX、Y座標とU、
V座標の各値を読み取ったのち、これらの各座標値を前
記二次元射影変換の座標変換式に代入した8元連立一
次方程式を解いて求められる。ここに、X、Y座標と
U、V座標は、第2図と第3図に示す如く、第1画像と
第2画像の左上隅をそれぞれ原点Oとし、右の方向にX
座標とU座標が、下の方向にY座標とV座標が取られた
座標系である。
次に、参照表メモリ部10の作成を第6図に示すフローチ
ャートについて説明する。
判別対象物aがのっていると考えられる平面上の同じ4
点A、B、C、Dを、例えば、第2図および第3図に示
す如く設定する。
第1図において、CPU7から画像の取り込み指令を出す
と、カメラ切替え器3により切替えられた2台のカメラ
1、2のアナログビデオ信号はA/Dユニット部4により
ディジタル値に変換されて第1画像メモリ部5aと第2画
像メモリ部5bとに格納される。各画像は、例えば縦512
ドット、横512ドット、諧調256の画素に分解して格納さ
れる。
先に設定された標点となる4点A、B、C、Dの座標値
(第2図、第3図参照)の読み取りを行なう。この読み
取りは、図示していないCRT上に十印のカーソルを出
し、このカーソルを目で見ながら標点と一致させ、一致
した座標値をドット数で読み取ることにより行なわれる
が、CRTの画面上で物差しを使って寸法を直接に計測し
て行なってもよい。座標値の読み取りにおけるカーソル
の発生およびカーソルの移動は、CPU7に接続された図示
していないCRT、キーボードを用いて行なわれる。
読み取った4点A、B、C、DについてのX、Y座標値
とU、V座標値を前記座標変換式に代入した8元連立
一次方程式より、8つの座標変換係数a1〜a5、b1〜b5
値を求める。これらの各係数値を代入した座標変換式
を用いて、X=0〜512、Y=0〜512までの約25万個の
(X、Y)の組み合わせに対する(U、V)値を求めて
おく。(U、V)値に小数点が出る場合は補間法により
処理する。
以上の手順により参照表メモリ部10の作成は完了する。
以下に、参照表メモリ部10を利用した本願発明の二次元
物体と三次元物体の判別方法を第7図に示すフローチャ
ートについて説明する。
第1図に示す2台のカメラ1、2の切替えにより、判別
対象物aをほぼ同時に異なる方向から撮影した検査用の
第1画像(第2図)と第2画像(第3図)を取り込み、
第1画像メモリ部5aと第2画像メモリ5bに格納する。
第2画像メモリ部5bに格納された第2画像について二次
元射影変換の座標変換を行なう。この座標変換は、参照
表メモリ部10を順にみて第2画像におけるU、Vの値に
従って第2画像から画素の濃度値を読み取り、その濃度
値を第3画像メモリ部5cに順次格納することにより行な
われる。
第4図は第3図に示す第2画像の座標変換後の第3画像
で、この座標変換により第4図に示す同一平面上の4点
A、B、C、Dは、第2図に示す4点A、B、C、Dと
重なる位置に変形される。
第1画像メモリ部5aと第3画像メモリ部5cに格納された
対応するデータを抜き出して引き算を行ない、その値を
第4画像メモリ部5dの対応する位置に格納して第1画像
と第3画像の差し引き画像である第4画像を形成する。
第5図はこの第4画像を示したもので、ハッチング部分
は差し引きされずに残ったはみ出し部分の画像である。
次に、第5図においてハッチングを施した部分の大小に
より、判別対象物aが二次元物体であるか三次元物体で
あるかの判定を行なう。この判定は、二次元物体を異な
る方向から撮影した画像について二次元射影変換の座標
変換を行なうと、二次元射影変換の特性上、同じ座標系
に変換された2つの画像は、本来一致する特性があるこ
とを根拠にするものである。それ故、実際的な判定で
は、第4画像(第5図)でハッチングを施して示した或
る濃度以上を持っている画素の数を数え、その数が予め
決めておいた数より多い場合に、判定対象物aは三次元
物体であると判定する。
別の判定対象物について引き続き二次元物体であるか三
次元物体であるかの判定を行なう場合には、第7図のフ
ローチャートが繰り返され、そうでない場合には、判定
は終了する。
上記実施例では、背景の平面が1つの場合について説明
したが、背景の平面が複数ある場合には、画像を各平面
で分割し、分割された各領域毎に上述の判別方法を適用
して判別対象物が二次元物体であるか三次元物体である
かの判定を行なってもよい。
なお、本発明に係る三次元物体の判別方法は、1台のテ
レビカメラを異なる2位置に移動して得た2つの画像に
ついても同様に行なうことができる。この場合、カメラ
切替え器は、1台のカメラによって撮影された2つの画
像を第1、第2画像メモリ部に格納する切替え器の役目
を果たす。
(発明の効果) 本発明は、以上説明するように構成されているので、次
に記載する効果を奏する。
請求項1の三次元物体の判別方法においては、二箇所の
撮影点のうちの一方側の画像データを、射影変換式に基
づいて他方側のデータに変換するだけで、検査領域内に
三次元物体が存在するか否かを確実に判別できる。
つまり、検査対象物の形状を認識するなどの複雑な演算
処理を全く必要とせず、容易かつ迅速な処理によって、
検査領域中に三次元物体が存在するか否かを判別でき
る。この発明は、例えば、踏切内を検査領域として、そ
の中に自動車や落下荷重などが存在しないか否かを確実
に判別する場合に特に有効に機能する。ここで、検査領
域を2台のカメラによって、ほぼ同時に撮影するように
すれば、ビルの影やその他の光の影響を完全に除去でき
るので、簡単かつ迅速な処理であるにも係わらず、特に
優れた判別性能を実現することができる。
請求項3の三次元物体の判別装置においても同様の効果
が得られるが、特に、記憶手段に射影変換表を記憶する
ようにすれば、判別処理時間を更に短縮化できるので、
例えば、自動車などが放置されている踏切に、列車が高
速度で近づきつつあるような場合でも、列車事故を確実
に未然防止できる。
【図面の簡単な説明】
第1図は本発明の方法を実施する装置のブロック図,第
2図は第1カメラによって撮影された第1画像の斜視
図、第3図は第2カメラによって撮影された第2画像の
斜視図、第4図は第3図の二次元射影変換後の第3画像
を示す斜視図、第5図は第1画像から第3画像を差し引
いた第4画像を示す斜視図、第6図は参照表メモリ部の
作成を示すフローチャート、第7図は本発明の判別方法
を示すフローチャート、図8は本発明の原理を説明する
図面である。 1、2……テレビカメラ、3……カメラ切替え器、4…
…A/Dユニット部、5……画像メモリ部、5a……第1画
像メモリ部、5b……第2画像メモリ部、5c……第3画像
メモリ部、5d……第4画像メモリ部、6……演算部、7
……中央制御部、10……参照表メモリ部、a……判別対
象物

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】平面状の検査領域内に三次元物体が存在す
    るか否かを判別する方法であって、 前記検査領域について、距離と角度の少なくとも一方が
    異なる二箇所の撮影点を予め決定し、 前記検査領域上の全ての二次元図形について、一方側の
    撮影点における撮影画像を他方側の撮影点における撮影
    画像に一致させる射影変換式を、前記検査領域平面と前
    記二箇所の撮影点との位置関係に基づいて予め決定して
    おき、 判別動作時には、前記二箇所の撮影点の一方側の画像デ
    ータを、前記射影変換式に基づいて他方側のデータに変
    換し、 この変換後のデータを、前記他方側の撮影点で得られる
    画像データと比較して、両者間に所定値以上の不一致が
    認められるときには、前記検査領域内に三次元物体が存
    在すると判別する ことを特徴とする三次元物体の判別方法。
  2. 【請求項2】前記一方側の撮影画像の座標値(X,Y)か
    ら、前記他方側の撮影画像の座標値(U,V)への射影変
    換式が U=(a1X+a2Y+a3)/(a4X+a5Y+1) V=(b1X+b2Y+b3)/(b4X+b5Y+1) であり(但しa4=b4,a5=b5)、 前記二箇所の撮影点から得られる二枚の平面画像中の4
    箇所の座標値(X1,Y1))〜(X4,Y4),(U1,V1)〜(U
    4,V4)に基づいて、係数a1〜a5,b1〜b5を決定すること
    を特徴とする請求項1に記載の三次元物体の判別方法。
  3. 【請求項3】平面状の検査領域内に三次元物体が存在す
    るか否かを判別する装置であって、 前記検査領域について、距離と角度の少なくとも一方が
    異なる二箇所の撮影点からの映像を画像データとして出
    力する撮影手段と、 前記検査領域上の全ての二次元図形について、一方側の
    撮影点における投影画像を他方側の撮影点における撮影
    画像に一致させる射影変換式又は射影変換表を、前記検
    査領域平面と前記二箇所の撮影点との位置関係に基づい
    て予め決定して記憶しておく記憶手段と、 前記二つの撮影手段の内、一方側の撮影手段により得ら
    れる画像データを、前記射影変換式又は射影変換表に基
    づいて他方側のデータに変換する変換手段と、 この変換後のデータを、前記他方側の撮影手段により得
    られる画像データと比較して、両者に所定値以上の不一
    致が認められるときには、前記検査領域内に三次元物体
    が存在すると判別する判別手段と を備えることを特徴とする三次元物体の判別装置。
JP63079546A 1988-03-30 1988-03-30 三次元物体の判別方法およびその装置 Expired - Lifetime JPH076780B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP63079546A JPH076780B2 (ja) 1988-03-30 1988-03-30 三次元物体の判別方法およびその装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP63079546A JPH076780B2 (ja) 1988-03-30 1988-03-30 三次元物体の判別方法およびその装置

Publications (2)

Publication Number Publication Date
JPH01250709A JPH01250709A (ja) 1989-10-05
JPH076780B2 true JPH076780B2 (ja) 1995-01-30

Family

ID=13692997

Family Applications (1)

Application Number Title Priority Date Filing Date
JP63079546A Expired - Lifetime JPH076780B2 (ja) 1988-03-30 1988-03-30 三次元物体の判別方法およびその装置

Country Status (1)

Country Link
JP (1) JPH076780B2 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6166108A (ja) * 1984-09-08 1986-04-04 Nippon Telegr & Teleph Corp <Ntt> 物体位置・形状計測方法およびその装置
JPH061171B2 (ja) * 1984-11-20 1994-01-05 オムロン株式会社 複合視覚装置

Also Published As

Publication number Publication date
JPH01250709A (ja) 1989-10-05

Similar Documents

Publication Publication Date Title
JP3284190B2 (ja) ステレオカメラの画像補正装置
JP2874710B2 (ja) 三次元位置計測装置
JPS59182688A (ja) ステレオ視処理装置
JP2004334819A (ja) ステレオキャリブレーション装置とそれを用いたステレオ画像監視装置
Ding et al. Fusing structure from motion and lidar for dense accurate depth map estimation
CN110926330A (zh) 图像处理装置和图像处理方法
CN111724446B (zh) 一种用于建筑物三维重建的变焦距相机外参数标定方法
CN112833784A (zh) 一种单目相机结合激光扫描的钢轨定位方法
KR100574227B1 (ko) 카메라 움직임을 보상한 객체 움직임 추출 장치 및 그 방법
JP3516067B2 (ja) デパレタイズ用画像作成方法および画像作成装置
WO1992010810A1 (fr) Procede de correction de tache et dispositif a cet effet
TW202004664A (zh) 影像處理裝置、影像處理方法、及影像處理程式
JP3516118B2 (ja) 物体認識方法および物体認識装置
US20220230459A1 (en) Object recognition device and object recognition method
JP4172728B2 (ja) 画像処理方法
JP3237705B2 (ja) 障害物検出装置および障害物検出装置を搭載した移動体
JPH076780B2 (ja) 三次元物体の判別方法およびその装置
JPH0875454A (ja) 測距装置
JPH09145368A (ja) ステレオ画像による物体の移動追跡方法
CN110796596A (zh) 图像拼接方法、成像装置及全景成像系统
JPH05173644A (ja) 3次元物体認識装置
CN111489384A (zh) 基于互视角的遮挡评估方法及装置、设备、系统和介质
JPH09229648A (ja) 画像情報入出力装置及び画像情報入出力方法
JPH09231371A (ja) 画像情報入力装置及び画像情報入力方法
JP3110482B2 (ja) 画像監視装置

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090130

Year of fee payment: 14

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090130

Year of fee payment: 14