JP3787230B2 - 溶接状態監視装置およびその方法 - Google Patents

溶接状態監視装置およびその方法 Download PDF

Info

Publication number
JP3787230B2
JP3787230B2 JP01988098A JP1988098A JP3787230B2 JP 3787230 B2 JP3787230 B2 JP 3787230B2 JP 01988098 A JP01988098 A JP 01988098A JP 1988098 A JP1988098 A JP 1988098A JP 3787230 B2 JP3787230 B2 JP 3787230B2
Authority
JP
Japan
Prior art keywords
welding
processing unit
image
image processing
geometric feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP01988098A
Other languages
English (en)
Other versions
JPH11216563A (ja
Inventor
田 福 久 松
中 幸太郎 田
紀 圭 史 多
円 隆 仏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Plant Systems and Services Corp
Original Assignee
Toshiba Corp
Toshiba Plant Systems and Services Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Plant Systems and Services Corp filed Critical Toshiba Corp
Priority to JP01988098A priority Critical patent/JP3787230B2/ja
Publication of JPH11216563A publication Critical patent/JPH11216563A/ja
Application granted granted Critical
Publication of JP3787230B2 publication Critical patent/JP3787230B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Radiation Pyrometers (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は溶接状態を監視する溶接状態監視装置およびその方法に係り、とりわけ非接触の温度計測により溶接状態を監視する溶接状態監視装置およびその方法に関する。
【0002】
【従来の技術】
発電プラント等においては、高容量化および高効率化等の要求に伴って構造部材間の溶接施工箇所が増大する傾向にあり、溶接品質の確保が極めて重要な課題となってきている。
【0003】
このような溶接施工は従来、熟練した溶接士による手溶接で行われることが多かった。しかしながら、熟練した溶接士はその確保が難しく、また多大な人件費がかかるので、自動溶接機等を用いて溶接施工を自動化することが望まれている。このような自動溶接機等においては例えば、撮像装置を有する画像処理装置等に視覚による作業を代替させる試みがなされている。
【0004】
ところで、溶接施工においては、溶接施工後の溶接金属の温度変化を計測することにより、溶接施工後の溶接状態の冶金的健全性を評価できることが知られている。このような評価方法は、溶接士のスキル等に依存しない自動溶接機等において特に有用であり、自動溶接機等による溶接施工後に溶接状態の冶金的健全性を評価することにより、一定の溶接品質を確保することができる。なお従来においては、溶接施工後の溶接金属の温度変化を計測するために接触式のセンサが用いられている。
【0005】
【発明が解決しようとする課題】
上述したように従来においては、溶接施工後の溶接金属の温度変化を計測するために接触式のセンサが用いられている。しかしながら、このような接触式のセンサでは、溶接施工中における溶融金属の温度変化を計測することができないので、溶接施工中における溶接状態の冶金的健全性を評価しつつ自動溶接を進めることができず、このため溶接品質が良好な信頼性の高い溶接を実現することができなかった。
【0006】
本発明はこのような点を考慮してなされたものであり、溶接施工表面上の温度変化を非接触で計測することにより、溶接士のスキル等に依存しない自動溶接機等において、溶接施工中における溶接状態の冶金的健全性を評価しつつ自動溶接を進めることができるようにする溶接状態監視装置およびその方法を提供することを目的とする。
【0007】
【課題を解決するための手段】
本発明は、溶接施工表面を連続的に撮像して映像情報を出力する映像化装置と、前記映像化装置から出力された映像情報に画像処理を施して前記溶接施工表面上に形成される溶融部に対応する幾何学的な特徴点を抽出する画像処理装置と、前記画像処理装置により抽出された前記幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化を算出し、この算出結果に基づいて溶接状態の冶金的健全性を評価する判定装置とを備え、前記映像化装置は溶接トーチを有する溶接台車に取り付けられ、前記画像処理装置は、前記映像化装置から出力された映像情報をディジタルデータからなる時系列画像に変換するA/D変換処理部と、このA/D変換処理部により変換された各時点の画像に含まれるノイズ成分を除去する空間フィルタリング処理部と、この空間フィルタリング処理部によりノイズ成分が除去された各時点の画像から前記溶接施工表面上に形成される溶融部に対応する溶融部領域を抽出する領域分割処理部と、この領域分割処理部により抽出された溶融部領域の境界線上に位置する幾何学的な特徴点を求める論理フィルタリング処理部と、前記溶接台車の移動量に基づいて前記各時点の画像間での前記幾何学的な特徴点同士の対応関係を決定する画素間演算処理部とを有することを特徴とする溶接状態監視装置を提供する。
【0008】
また本発明は、溶接施工表面を連続的に撮像して映像情報を出力する工程と、出力された映像情報に画像処理を施して前記溶接施工表面上に形成される溶融部に対応する幾何学的な特徴点を、連続的に撮像された映像情報に含まれる各時点の画像ごとに抽出する工程と、抽出された各時点の画像間で対応関係にある幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化を算出し、この算出結果に基づいて溶接状態の冶金的健全性を評価する工程とを含むことを特徴とする溶接状態監視方法を提供する。
【0009】
本発明によれば、溶接施工表面を撮像して得られた映像情報から溶接施工表面上に形成される溶融部に対応する幾何学的な特徴点を、連続的に撮像された映像情報に含まれる各時点の画像ごとに抽出するとともに、この抽出された各時点の画像間での対応関係にある幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化を算出するので、溶接施工中における溶接状態の冶金的健全性を非接触で評価することができる。従って、溶接士のスキル等に依存しない自動溶接機等において、溶接施工中における溶接状態の冶金的健全性を評価しつつ自動溶接を進めることができ、このため溶接品質が良好な信頼性の高い溶接を実現することができる。
【0010】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態について説明する。図1乃至図3は本発明による溶接状態監視装置の一実施の形態を示す図である。
【0011】
まず、図1により、溶接状態監視装置の全体構成について説明する。図1に示すように、溶接状態監視装置は、溶接施工表面20を連続的に撮像して映像信号(映像情報)を出力する映像化装置1と、映像化装置1から出力された映像信号に画像処理を施して溶接施工表面20上に形成される溶融部(溶融池)20aに対応する幾何学的な特徴点を抽出する画像処理装置2と、画像処理装置2により抽出された幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化を算出し、この算出結果に基づいて溶接状態の冶金的健全性を評価する判定装置3と、画像処理装置2による処理結果または判定装置3による評価結果を表示する表示装置4とを備えている。
【0012】
このうち映像化装置1は、溶接施工表面20から所定距離だけ離間して配置され溶接施工表面20を連続的に撮像して映像信号を出力する赤外線撮像装置1aと、赤外線撮像装置1aに入力される入力光から溶接アーク光の影響を除去するためのバンドパスフィルタ1bとを有している。ここでバンドパスフィルタ1bは、赤外線波長帯域の光のみを選択的に透過させる狭帯域のフィルタである。また、赤外線撮像装置1aおよびバンドパスフィルタ1bからなる映像化装置1は、溶接トーチ21を有する溶接台車(図示せず)に取り付けられ、溶接施工中に溶接台車の移動(図1中の矢印の方向)に伴って移動するようになっている。ここで、映像化装置1の赤外線撮像装置1aにより溶接施工表面20を撮像して得られた映像信号は常時画像処理装置2に入力されるようになっている。
【0013】
また画像処理装置2は、図2に示すように、映像化装置1の赤外線撮像装置1aから出力された映像信号(アナログ信号)を標本および量子化して8ビットで256階調のディジタル信号(ディジタルデータ)からなる時系列画像に変換するA/D変換処理部5と、A/D変換処理部5により変換された各時点の画像を順次保存するフレームメモリ6とを有している。ここでフレームメモリ6は、少なくとも第1フレームおよび第2フレームを有し、A/D変換処理部5により変換された各時点の画像が順次保存されるようになっている。また画像処理装置2は、フレームメモリ6に保存された各時点の画像を平滑化して各時点の画像に含まれるノイズ成分を除去する空間フィルタリング処理部7と、空間フィルタリング処理部7によりノイズ成分が除去された各時点の画像(濃淡画像)を二階調の画像に変換するとともに、この変換された二階調の画像を領域分割して溶融部20aに対応する溶融部領域を抽出する領域分割処理部8と、領域分割処理部8により抽出された溶融部領域と母材領域との境界線上に位置する幾何学的な特徴点の座標値を求める論理フィルタリング処理部9とを有している。さらに画像処理装置2は、溶接台車の移動量と映像化装置1および溶接台車の物理的な位置関係と基づいて各時点の画像間での幾何学的な特徴点同士の対応関係を決定する画素間演算処理部10を有している。
【0014】
ここで、画像処理装置2のA/D変換処理部5、フレームメモリ6、空間フィルタリング処理部7、領域分割処理部8、論理フィルタリング処理部9および画素間演算処理部10の各々はデータ転送用バス12,13を介して互いに接続されている。また、画像処理装置2のA/D変換処理部5、フレームメモリ6、空間フィルタリング処理部7、領域分割処理部8、論理フィルタリング処理部9および画素間演算処理部10の各々はCPU11により制御され、フレームメモリ6に保存された各時点の画像に対して空間フィルタリング処理部7、領域分割処理部8、論理フィルタリング処理部9および画素間演算処理部10の各々により画像処理が施されるようになっている。
【0015】
さらに判定装置3は、溶接状態の冶金的健全性を評価するための材料(例えば母材)別の判定データを保持するデータベース14と、画像処理装置2により抽出された幾何学的な特徴点の輝度変化に基づいてデータベース14を参照して溶接施工中における溶接状態の冶金的健全性を評価する比較照合部15とを有している。ここで比較照合部15においては、画像処理装置2により抽出された各時点の画像間で対応関係にある幾何学的な特徴点の輝度値を時系列的に並べ替え、あらかじめ求められた校正曲線に基づいて絶対温度に校正して温度変化を算出するとともに、この算出結果(すなわち溶融金属の冷却速度)と、データベース14に保持された材料別の判定データとを比較して所定の推論規則(例えばif−thenルール)に従って溶接状態の冶金的健全性を評価するようになっている。
【0016】
次に、このような構成からなる本実施の形態の作用について説明する。
【0017】
図3に示すように、画像処理装置2に対して処理開始命令が与えられると、映像化装置1の赤外線撮像装置1aから出力された映像信号(アナログ信号)が画像処理装置2のA/D変換処理部5に入力され、標本および量子化により8ビットで256階調のディジタル信号(ディジタルデータ)からなる時系列画像に変換される(ステップ101)。なお、変換後の各時点の画像はフレームメモリ6の第1フレームに保存される(ステップ102)。
【0018】
その後、画像処理装置2において、フレームメモリ6の第1フレームに保存された所定時点の画像に対して空間フィルタリング処理部7、領域分割処理部8、論理フィルタリング処理部9および画素間演算処理部10により画像処理が施され、溶接施工表面20上に形成される溶融部20aに対応する幾何学的な特徴点が抽出される。
【0019】
具体的には、まず、空間フィルタリング処理部7により、フレームメモリ6の第1フレームに保存された所定時点の画像を平滑化して画像に含まれるノイズ成分を除去し(ステップ103)、次いで、領域分割処理部8により、空間フィルタリング処理部7によりノイズ成分が除去された所定時点の画像(濃淡画像)を二階調の画像に変換するとともに、この変換された二階調の画像を領域分割して溶融部20aに対応する溶融部領域を抽出する(ステップ104)。
【0020】
このようにして溶融部20aに対応する溶融部領域が抽出されると、論理フィルタリング処理部9により、領域分割処理部8により抽出された溶融部領域と母材領域との境界線を抽出するとともに(ステップ105)、この境界線上に位置する幾何学的な特徴点の座標値を求める(ステップ106)。
【0021】
ここで、上述したステップ101乃至106の画像処理が時系列画像の最初の時点の画像(1枚目の画像)に対してなされた場合には(ステップ107)、フレームメモリ6の第1フレームに保存された画像を第2フレームにコピーした後(ステップ108)、次の時点の画像に対して上述したステップ101乃至106の処理を繰り返す。
【0022】
一方、上述したステップ101乃至106の画像処理が時系列画像の2番目以降の時点の画像(2枚目以降の画像)に対してなされた場合には(ステップ107)、画素間演算処理部10により、溶接台車の移動量と、映像化装置1および溶接台車の物理的な位置関係と基づいてフレームメモリ6の第1フレームおよび第2フレームに保存された画像の幾何学的な特徴点同士の対応関係を決定するとともに(ステップ109)、対応関係が決定された幾何学的な特徴点の輝度値を算出する(ステップ110)。なお、算出された幾何学的な特徴点の輝度値は記憶装置(図示せず)内に時系列的に保存される。
【0023】
その後、判定装置3において、画像処理装置2により抽出された幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化が算出され、この算出結果に基づいて溶接状態の冶金的健全性が評価される。
【0024】
具体的には、判定装置3の比較照合部15により、画像処理装置2により抽出された各時点の画像の幾何学的な特徴点の輝度値を時系列的に並べ替え、あらかじめ求められた校正曲線に基づいて絶対温度に校正して温度変化を算出するとともに、この算出結果(すなわち溶融金属の冷却速度)と、データベース14に保持された材料別の判定データとを比較して所定の推論規則(例えばif−thenルール)に従って溶接状態の冶金的健全性を評価する(ステップ111)。
【0025】
このようにして判定装置3により溶接状態の冶金的健全性が評価されると、その評価結果は、表示装置4の画面上に表示されるとともに、記憶装置内に保存される(ステップ112)。
【0026】
なお、上述したステップ101乃至112の処理は、判定装置3により溶接状態が異常であると評価され、または溶接が終了するまで繰り返される(ステップ113)。
【0027】
このように本実施の形態によれば、画像処理装置2において、映像化装置1により溶接施工表面20を撮像して得られた映像信号から溶接施工表面20上に形成される溶融部20aに対応する幾何学的な特徴点を抽出するとともに、この抽出された幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化を算出し、次いで、判定装置3により、溶接施工中における溶接状態の冶金的健全性を非接触で評価することができる。従って、溶接士のスキル等に依存しない自動溶接機等において、溶接施工中における溶接状態の冶金的健全性を評価しつつ自動溶接を進めることができ、このため溶接品質が良好な信頼性の高い溶接を実現することができる。
【0028】
なお上述した実施の形態において、画像処理装置2のA/D変換処理部5、空間フィルタリング処理部7、領域分割処理部8、論理フィルタリング処理部9および画素間演算処理部10等はいずれもA/D変換ボードまたは演算ユニット等としてハードウェア的に実現することができる他、プログラムモジュールとしてソフトウェア的に実現することもできる。
【0029】
【発明の効果】
以上説明したように本発明によれば、溶接施工中における溶接状態の冶金的健全性を非接触で評価することができるので、溶接士のスキル等に依存しない自動溶接機等において、溶接施工中における溶接状態の冶金的健全性の評価しつつ自動溶接を進めることができ、これにより溶接品質が良好な信頼性の高い溶接を実現することができる。
【図面の簡単な説明】
【図1】本発明による溶接状態監視装置の一実施の形態を示すブロック図。
【図2】図1に示す画像処理装置および判定装置の詳細を示すブロック図。
【図3】図1および図2に示す溶接状態監視装置の作用を説明するためのフローチャート。
【符号の説明】
1 映像化装置
1a 赤外線撮像装置
1b バンドパスフィルタ
2 画像処理装置
3 判定装置
4 表示装置
5 A/D変換処理部
6 フレームメモリ
7 空間フィルタリング処理部
8 領域分割処理部
9 論理フィルタリング処理部
10 画素間演算処理部
11 CPU
12,13 データ転送用バス
14 データベース
15 比較照合部
20 溶接施工表面
20a 溶融部
21 溶接トーチ

Claims (7)

  1. 溶接施工表面を連続的に撮像して映像情報を出力する映像化装置と、
    前記映像化装置から出力された映像情報に画像処理を施して前記溶接施工表面上に形成される溶融部に対応する幾何学的な特徴点を抽出する画像処理装置と、
    前記画像処理装置により抽出された前記幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化を算出し、この算出結果に基づいて溶接状態の冶金的健全性を評価する判定装置とを備え
    前記映像化装置は溶接トーチを有する溶接台車に取り付けられ、
    前記画像処理装置は、前記映像化装置から出力された映像情報をディジタルデータからなる時系列画像に変換するA/D変換処理部と、このA/D変換処理部により変換された各時点の画像に含まれるノイズ成分を除去する空間フィルタリング処理部と、この空間フィルタリング処理部によりノイズ成分が除去された各時点の画像から前記溶接施工表面上に形成される溶融部に対応する溶融部領域を抽出する領域分割処理部と、この領域分割処理部により抽出された溶融部領域の境界線上に位置する幾何学的な特徴点を求める論理フィルタリング処理部と、前記溶接台車の移動量に基づいて前記各時点の画像間での前記幾何学的な特徴点同士の対応関係を決定する画素間演算処理部とを有することを特徴とする溶接状態監視装置。
  2. 前記映像化装置は、溶接施工表面を連続的に撮像して映像情報を出力する撮像装置と、前記撮像装置に入力される入力光から溶接アーク光の影響を除去するバンドパスフィルタとを有することを特徴とする請求項1記載の溶接状態監視装置。
  3. 前記画像処理装置は前記各時点の画像を順次保存するフレームメモリをさらに有し、このフレームメモリに保存された各時点の画像に対して前記空間フィルタリング処理部、前記領域分割処理部、前記論理フィルタリング処理部および前記画素間演算処理部の各々により画像処理が施されることを特徴とする請求項1記載の溶接状態監視装置。
  4. 前記判定装置は、溶接状態の冶金的健全性を評価するための材料別の判定データを保持するデータベースと、前記画像処理装置により抽出された前記幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化を算出し、この算出結果に基づいて前記データベースを参照して溶接状態の冶金的健全性を評価する比較照合部とを有することを特徴とする請求項1記載の溶接状態監視装置。
  5. 前記判定装置の前記比較照合部は、前記画像処理装置により抽出された前記幾何学的な特徴点の輝度変化に基づいて算出された溶接施工中における溶融金属の温度変化と、前記データベースに保持された材料別の判定データとを比較して所定の推論規則に従って溶接状態の冶金的健全性を評価することを特徴とする請求項4記載の溶接状態監視装置。
  6. 前記画像処理装置による処理結果または前記判定装置による評価結果を表示する表示装置をさらに備えたことを特徴とする請求項1記載の溶接状態監視装置。
  7. 溶接施工表面を連続的に撮像して映像情報を出力する工程と、
    出力された映像情報に画像処理を施して前記溶接施工表面上に形成される溶融部に対応する幾何学的な特徴点を、連続的に撮像された映像情報に含まれる各時点の画像ごとに抽出する工程と、
    抽出された各時点の画像間で対応関係にある幾何学的な特徴点の輝度変化に基づいて溶接施工中における溶融金属の温度変化を算出し、この算出結果に基づいて溶接状態の冶金的健全性を評価する工程とを含むことを特徴とする溶接状態監視方法。
JP01988098A 1998-01-30 1998-01-30 溶接状態監視装置およびその方法 Expired - Fee Related JP3787230B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01988098A JP3787230B2 (ja) 1998-01-30 1998-01-30 溶接状態監視装置およびその方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01988098A JP3787230B2 (ja) 1998-01-30 1998-01-30 溶接状態監視装置およびその方法

Publications (2)

Publication Number Publication Date
JPH11216563A JPH11216563A (ja) 1999-08-10
JP3787230B2 true JP3787230B2 (ja) 2006-06-21

Family

ID=12011535

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01988098A Expired - Fee Related JP3787230B2 (ja) 1998-01-30 1998-01-30 溶接状態監視装置およびその方法

Country Status (1)

Country Link
JP (1) JP3787230B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2406904A (en) * 2003-10-09 2005-04-13 Asahi Chemical Ind Measuring the melting, softening or decomposition points by detecting a change in luminosity or reflectance of the sample
CN106325247B (zh) * 2016-08-29 2019-04-23 中国一冶集团有限公司 施工现场电焊机信息动态管理装置、系统及方法

Also Published As

Publication number Publication date
JPH11216563A (ja) 1999-08-10

Similar Documents

Publication Publication Date Title
EP3176537B1 (en) System for automated in-process inspection of welds
JP2023521379A (ja) 溶接品質のin-situ検査のための方法
JP2006281270A (ja) 手溶接作業分析装置および手溶接作業分析装置に適用する手溶接トーチ一体型監視カメラ
CN111157539B (zh) 焊缝形貌监控方法、系统、装置及可读存储介质
US20080237197A1 (en) System and method for welding and real time monitoring of seam welded parts
JP6191160B2 (ja) 画像処理プログラムおよび画像処理装置
US20240335910A1 (en) Welding phenomenon behavior measuring method, measuring device, welding system, and program
JP2019174931A (ja) 輪郭抽出装置及び輪郭抽出方法
JP3787230B2 (ja) 溶接状態監視装置およびその方法
JP4513962B2 (ja) 擬似欠陥画像作成方法及びこれを用いた装置
CN117169227A (zh) 插头的生产方法、装置、设备及存储介质
JPH0224542A (ja) 鋳片断面の品質評価装置
JP2769036B2 (ja) 架空線の自動点検方法
JPH05149728A (ja) 視覚認識装置
JPH06103967B2 (ja) 架空線点検用画像処理装置
JP2543370B2 (ja) 視覚センサを使用したシ―ラント検査方法
JP2002205166A (ja) 溶接状態表示装置
JP5510398B2 (ja) 溶接部検査装置
JPH06103968B2 (ja) 架空線点検用画像処理装置
JPH11320012A (ja) 鍛造素材の位置ずれ検出装置
JPS6385432A (ja) 線状欠陥の検査方法
JP3289559B2 (ja) 溶接位置検査装置および溶接システム
WO2023002754A1 (ja) 溶接関連情報の表示方法、表示装置、溶接システム、プログラム、および溶接関連情報の表示画面
CN118081171B (zh) 应用于金属板焊接下的异常智能识别方法及系统
JP5047104B2 (ja) アーク溶接の監視装置及びアーク溶接の監視方法

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060317

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060324

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100331

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100331

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100331

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100331

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110331

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120331

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130331

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130331

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140331

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees