JP5442354B2 - 車両操縦用画像表示装置および方法 - Google Patents
車両操縦用画像表示装置および方法 Download PDFInfo
- Publication number
- JP5442354B2 JP5442354B2 JP2009185707A JP2009185707A JP5442354B2 JP 5442354 B2 JP5442354 B2 JP 5442354B2 JP 2009185707 A JP2009185707 A JP 2009185707A JP 2009185707 A JP2009185707 A JP 2009185707A JP 5442354 B2 JP5442354 B2 JP 5442354B2
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- road surface
- infrared image
- luminance
- surface area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Measurement Of Optical Distance (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Traffic Control Systems (AREA)
Description
このような目的で、赤外線カメラを用いた装置が既に提案されている(例えば、特許文献1〜3)。
また、本出願に関連する技術が、特許文献4、5及び非特許文献1に開示されている。なお特許文献5は本願の出願時において未公開である。
特許文献2は、可視撮像手段、赤外撮像手段、重畳手段、表示手段、及び領域設定手段を備え、可視画像と赤外画像を取捨選択して重畳して表示するものである。なお、このような画像を無線で伝送することで、一つの画面を見るだけで遠隔操縦が行えるため、遠隔操縦にさらに適した情報提示を行うことができる。
特許文献3は、検出する対象(人)の温度や対象外の温度を想定して、検出対象の温度を強調し、また、対象外の温度を除外することによって、赤外線画像を見やすくするものである。さらに、状況に応じて、強調対象と除外対象を切り替えることも提案されている。
赤外線画像の明るさは温度の影響が大きく、材質や表面粗さの違いは見えるものと、あまり明確に見ないものがある。このため、夜間のような温度差が出ない状況においては、図1の舗装路のようなコンクリートとアスファルトという赤外線の放射(輻射)率の違いが顕著な材質のみ見分けることができ、図2のような土と草のような材質は、ノイズに埋もれてしまい、道の部分の状態や、その周辺を見分けるのが非常に困難になる。
また、赤外線画像は物質の輻射熱を撮影しており、可視光画像のように光の影を見ることができないため、形状を撮影することができない。このため、周囲の物体の温度差が小さく、さらに同じ物質でできている場合(例えば図3のような草で覆われた道(轍)の赤外線画像)には、形状としては大きく変化しているはずの部分なども見分けがつかなくなる。
このため、特に未舗装路や草道で、赤外線画像を見ながら安全に運転することが難しくなる。
しかし、視界の悪い状況下で車両を操縦する場合、赤外線カメラの画像は一般的な屋外環境(舗装路、未舗装路を問わず、夜、天候を問わず)であり、環境変化により路面(および、路面の境界)の見え方(明るさやコントラスト)がさまざまになるため、一定の画質向上ルールを適用することができず、路面とその周囲を見やすくできなかった。
車両に搭載され前記特定範囲と重なりをもつ車両前方の特定範囲の3次元形状を計測する3次元形状測定装置と、
前記3次元形状から車両が通りやすい路面領域を検出し、前記赤外線画像上において路面領域を強調した補正赤外線画像を形成する演算処理装置と、
前記補正赤外線画像を表示する表示装置と、を備え、
前記演算処理装置は、前記3次元形状から車両が通りやすい前記路面領域を検出する路面検出手段と、前記赤外線画像を補正し前記路面領域を強調した補正赤外線画像を形成する赤外線画像補正手段とを有し、
前記赤外線画像補正手段は、前記路面領域の赤外線画像上の輝度分布を統計処理する手段と、路面領域の周辺輝度の輝度変化を大きくする輝度変換を行う画像補正手段とを有する、ことを特徴とする車両操縦用画像表示装置が提供される。
車両に搭載された3次元形状測定装置により前記特定範囲と重なりをもつ車両前方の特定範囲の3次元形状を計測し、
演算処理装置により、
(A) 前記3次元形状から車両が通りやすい路面領域を検出し、
(B) 前記赤外線画像上の前記路面領域を、3次元形状測定装置と赤外線カメラの設置位置と姿勢から求め、
(C) 前記路面領域の赤外線画像上の輝度分布を統計処理し、路面領域の輝度変化を大きくする輝度変換テーブルを作成し、
(D) 前記赤外線画像全体を前記輝度変換テーブルにより輝度変換して前記路面領域を強調した補正赤外線画像を形成し、
表示装置により前記補正赤外線画像を表示する、ことを特徴とする車両用画像表示方法が提供される。
またこのような画像処理により、もともとも赤外線が苦手としていた、温度変化に乏しい環境、似たような材質が大きな形状を形作っている環境においても、操縦しやすい赤外線画像を操縦者に提示することが可能になる。
演算処理装置30は、3次元形状3から車両1が通りやすい路面領域4を検出し、赤外線画像2上において路面領域4を強調した補正赤外線画像5を形成する。
表示装置40は、補正赤外線画像5を表示する。
またそれぞれの構成要素は車両1中に図4のように配置され、図中に示された方向の環境をセンシングし、図5では車両内部で情報提示を行い、図6では遠隔操作用の表示端末に情報提示する。
3次元形状測定装置20は、車両1の周囲の、立体形状を計測するための装置であり、車両1の進行方向に15mないし40m程度(最高速度による)まで計測できれば良く、計測範囲は前方に限定しても、全周囲を計測してもかまわない。
LRFの場合、レーザ6をライン状(図7)、もしくは面状(図8)にスキャンし、レーザ6が物体に当たり反射が得られるまでの時間で距離を計測する。
ライン状にスキャンするレーザレンジファインダの場合には、図7に示すように、スキャンを行いながら車両1が前進することで、周囲(車両前方の特定範囲)の立体形状を計測する。
面状にスキャンするレーザレンジファインダの場合には、図8のようにレーザが面をスキャンするため自動的に周囲(車両前方の特定範囲)の立体形状を計測することができる。
路面検出手段32は、車両1の周囲の3次元形状3を元に、車が通りやすい領域、すなわち、なだらかで、進行方向に連続している領域を路面領域4として検出する。つまり、路面検出手段32は、3次元形状3の起伏の大小を評価して車両1が走行可能な領域と走行不能な領域に区分し、走行可能領域を路面領域4として検出する。
従って、本願において「路面領域」とは、3次元形状3から判断された、車が通りやすい領域、なだらかで進行方向に連続している領域、車両が走行可能な領域を意味し、実際の路面と一致していなくてもよい。
例えば、車両前方の特定範囲の3次元形状3から、その範囲の勾配と表面粗さを求め、車両が走行可能な勾配と表面粗さであり、かつ進行方向に連続している領域を路面領域として検出する。
なお路面検出の具体的な手段は、特許文献5に開示されている。
赤外線画像補正手段34は、赤外線カメラ10の赤外線画像2を、路面検出手段32で検出した路面情報を元に、路面領域4が強調されて見やすくなるように変換を施す。
赤外線画像補正機能の具体的な動作は後述する。
(A) 図5のように車両1に人が乗車して運転する場合には、運転席に備え付けた画面、もしくは、運転席のガラス面に投影して半透過型の画像として運転者に周囲の情報を提示する。
(B) 図6のように、遠隔操縦で車両を運転する場合には、演算処理装置30での処理で得られた補正赤外線画像5を無線送信装置42と無線受信装置44を介して無線で、遠隔表示端末46に送信する。遠隔表示端末46では、画像情報を受信し、表示装置40に表示する。
通信は無線LANのようなデジタル方式を用いても、テレビ画像トランスミッタのようなアナログ方式を用いても良い。
図9は、赤外線画像補正方法の説明図である。
この図において、赤外線画像補正手段34による赤外線画像補正は、S1〜S5の5つのステップ(工程)からなり、撮影した赤外線画像の路面部分を見やすくするように変換する。
ただし、S5ステップ(後処理フィルタによる処理)は、必須ではなく省略してもよい。
図10(A)は、3次元形状3から路面検出手段32により車両が通りやすい路面領域4を検出した画像であり、図10(B)は、赤外線カメラ10で撮影した赤外線画像2に路面領域4を重ね合わせた画像である。
LRF20の情報から得られる路面領域4は図10(A)のように、車両1を軸とした3次元、もしくは車両1を真上から見る二次元の位置関係として得られる。図10(B)に示すように、赤外線カメラ10で撮影した赤外線画像上で路面領域4に対応する領域が画像中のどの範囲に相当するかを求める。
図11の車体1の向きを軸とした座標系(X:進行方向、Y:左、Z:上)の任意の点(X,Y,Z)、もしくは、図12の鳥瞰地図上の点(X,Y,0)で観測されたデータが赤外線画像上のどの画素(x,y)に相当するかは、数1の式(1)で求められる。
ここでAは、カメラパラメータであり、画像上の光軸中心Cx,Cy、焦点距離fx,fyにより数1の式(2)のように示される。
また、Rは、車体の進行軸座標系とカメラの画像平面座標系(右:x、下:y、手前:z)を変換する行列であり、数1の式(3)より求まる。
カメラの向きを正確に求める場合にも、特許文献4に示すような、校正板を既知の位置に設置し、カメラと構成板の位置関係を画像処理で求め、カメラの向き・位置を校正板の位置から逆算することでR,tを決定する。
路面領域4は輪郭の線分、もしくは、分布全域をメッシュ(升目)で区切り、区画ごとに路面部分の有無を示す形で与えられている。輪郭の各点、各升目の中央点が画像上でどこに相当するかを上記の対応画素計算式で求め、輪郭形状を変換して形状を得る、もしくは全区画の対応する位置へ有無の情報を投影して分布を得る。
S2ステップでは、路面領域4内の輝度分布を対象に統計処理を行う。
平均や分散、もしくは最頻値、上位10%の輝度、下位10%の輝度など統計的な輝度値を求める。統統計値は後述する輝度変換パラメータの決定に用いる。
図13は、画面全体と路面領域4の輝度ヒストグラムを示す図である。
S3ステップでは、以下の特徴をもつ変換式、もしくは変換テーブルを作成する。
図13における路面領域の平均輝度(El)の周囲(幅は路面輝度分散σlに比例)で、輝度が変換前より大きく変化し、それ以外の部分で変換前より小さく変化するような変換式・もしくは変換テーブル。
図14において、横軸は入力輝度(変換前の輝度)、縦軸は出力輝度(変換後の輝度)である。
この例では、路面領域の平均輝度(El)が変換後に50%の明るさになり、輝度El?2・σlで明るさが15%、輝度El+2・σlで明るさが85%となるような数4のシグモイド関数(8)を設定している。ここで、a=1/(2・σl)である。
S4ステップでは、入力画像の全画素を対象とし、個々の画素について、輝度値の変換を実施する。
上述した変換関数、もしくは、変換テーブルに基づいて、入力画像の輝度値をすべて変換して、同じ場所の画素値を置き換え、出力画像を生成する。
本発明で対象とする領域の赤外線画像は、対象の温度差などが小さく輝度の差がでにくいために可視光にくらべSNが悪くなり、大きなノイズが載りやすい傾向がある。このためS5ステップでは、上述したでS1ステップで得られた路面領域4に選択的に細かいノイズ除去を行う。
細かいノイズ除去フィルタとしては、3×3の中央値フィルタ、ないしは、σ=2画素程度のガウシアンフィルタを用いるのがよい。
以下のこの図を参照して本発明の装置の作動を説明する。
(1) LRF計測(T1)でLRFを連続的に動作させ、車両前方の特定範囲(特に前方0〜30m、横幅20m程度)の形状(起伏や障害物)を計測する。
(2) 路面検出(T2)でLRF20の計測結果から路面領域4(路面と推測される領域)を抽出する。T1、T2は対象領域全体を計測、抽出するまで繰り返す。
(3) 路面分布集計(T3)で路面領域4の分布を継続的に蓄積、集計して路面分布地図を作成する。
(4) 赤外線画像撮影(T4)で遠赤外カメラが一定時間毎に車両前方の前記特定範囲の赤外線画像2を撮影する。
(5) 赤外線画像への重ね合わせ(T5)で赤外線カメラ10と同じ視点で、路面の分布がどのように見えるかを計算で求める。
(6) 路面部輝度の統計処理(T6)で立体形状から路面領域4に重なる赤外画像2の輝度を統計処理して、平均や分散を求める
(7) 輝度変換テーブル生成(T7)で路面領域4の輝度変化が明るさの25%〜75%の変化に相当し、最も暗いところで輝度が0%、最も明るい場所の輝度が100%の明るさになるように、スプライン曲線で輝度変換テーブルを作成する。
(8) 輝度変換の実施(T8)で赤外線画像2に輝度変換処理を施し、路面領域4の微妙な変化が強調して表示された画像を生成する。
(9) 後処理フィルタ(T9)で輝度変換済み赤外線画像において路面領域4(立体形状から路面と判定した部分に重なる領域)にのみに3×3の中央値フィルタをかける。
(10) 画像表示(T10)で逐次、無線端末、もしくは車内で、処理結果の画像を操縦者に提示する。
(1) LRF20からの3次元形状情報3を用いて、路面領域4(路面らしき領域)の分布を検出する。
(2) 赤外線画像2中で路面領域4が写る部分を、3次元形状測定装置と赤外線カメラの設置位置と姿勢から求める。
(3) 路面領域4の赤外線画像の輝度分布を統計処理し、路面領域4と似たような明るさを持つ所の輝度変化が見分けやすくなるように、注目している明るさ付近の変化を大きくするような明るさ変換テーブルを作成する。
(4) 画像全体に明るさ変換を適用する。
またこのような画像処理により、もともとも赤外線が苦手としていた、温度変化に乏しい環境、似たような材質が大きな形状を形作っている環境においても、操縦しやすい赤外線画像を操縦者に提示することが可能になる。
4 路面領域、5 補正赤外線画像、
10 赤外線カメラ、
20 3次元形状測定装置(レーザレンジファインダ)、
30 演算処理装置、32 路面検出手段、
34 赤外線画像補正手段、40 表示装置、
42 無線送信装置、44 無線受信装置、
46 遠隔表示端末
Claims (4)
- 車両に搭載され車両前方の特定範囲の赤外線画像を撮影する赤外線カメラと、
車両に搭載され前記特定範囲と重なりをもつ車両前方の特定範囲の3次元形状を計測する3次元形状測定装置と、
前記3次元形状から車両が通りやすい路面領域を検出し、前記赤外線画像上において路面領域を強調した補正赤外線画像を形成する演算処理装置と、
前記補正赤外線画像を表示する表示装置と、を備え、
前記演算処理装置は、前記3次元形状から車両が通りやすい前記路面領域を検出する路面検出手段と、前記赤外線画像を補正し前記路面領域を強調した補正赤外線画像を形成する赤外線画像補正手段とを有し、
前記赤外線画像補正手段は、前記路面領域の赤外線画像上の輝度分布を統計処理する手段と、路面領域の周辺輝度の輝度変化を大きくする輝度変換を行う画像補正手段とを有する、ことを特徴とする車両操縦用画像表示装置。 - 車両に搭載された赤外線カメラにより車両前方の特定範囲の赤外線画像を撮影し、
車両に搭載された3次元形状測定装置により前記特定範囲と重なりをもつ車両前方の特定範囲の3次元形状を計測し、
演算処理装置により、
(A) 前記3次元形状から車両が通りやすい路面領域を検出し、
(B) 前記赤外線画像上の前記路面領域を、3次元形状測定装置と赤外線カメラの設置位置と姿勢から求め、
(C) 前記路面領域の赤外線画像上の輝度分布を統計処理し、路面領域の輝度変化を大きくする輝度変換テーブルを作成し、
(D) 前記赤外線画像全体を前記輝度変換テーブルにより輝度変換して前記路面領域を強調した補正赤外線画像を形成し、
表示装置により前記補正赤外線画像を表示する、ことを特徴とする車両用画像表示方法。 - 前記輝度変換テーブルは、前記路面領域の輝度を中心に、一定幅で急峻なテーブル勾配を持ち、それ以外の部分でなだらかなテーブル勾配を持つ単調増加テーブルであり、輝度変換前の0%、100%の輝度点は、輝度変換後も0%、100%であり、変換前後で輝度は変化しない、ように設定されている、ことを特徴とする請求項2に記載の車両用画像表示方法。
- 前記補正赤外線画像を、ノイズ除去フィルタを用いて後処理する、ことを特徴とする請求項2に記載の車両用画像表示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009185707A JP5442354B2 (ja) | 2009-08-10 | 2009-08-10 | 車両操縦用画像表示装置および方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009185707A JP5442354B2 (ja) | 2009-08-10 | 2009-08-10 | 車両操縦用画像表示装置および方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011039732A JP2011039732A (ja) | 2011-02-24 |
JP5442354B2 true JP5442354B2 (ja) | 2014-03-12 |
Family
ID=43767445
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009185707A Expired - Fee Related JP5442354B2 (ja) | 2009-08-10 | 2009-08-10 | 車両操縦用画像表示装置および方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5442354B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6205712B2 (ja) * | 2012-03-02 | 2017-10-04 | 日産自動車株式会社 | 横断歩道検出装置および横断歩道検出方法 |
JP2017188739A (ja) * | 2016-04-04 | 2017-10-12 | 株式会社Ihiエアロスペース | 画像取得圧縮送信方法、移動体の遠隔操縦方法、画像取得圧縮送信装置、及び移動体の遠隔操縦システム |
EP3496032A4 (en) * | 2016-08-04 | 2020-03-25 | Sony Corporation | IMAGE PROCESSING APPARATUS AND IMAGE PROCESSING METHOD |
JP6833668B2 (ja) * | 2017-11-28 | 2021-02-24 | 株式会社東芝 | 画像特徴強調装置、路面特徴解析装置、画像特徴強調方法及び路面特徴解析方法 |
JP7203514B2 (ja) * | 2018-05-31 | 2023-01-13 | 株式会社デンソーテン | 走行領域判定装置、走行領域判定方法、および路面画像機械学習モデルの生成方法 |
CN112172698A (zh) * | 2020-10-16 | 2021-01-05 | 湖北大学 | 一种用于无人驾驶的交通禁令标志实时监控识别装置 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04193641A (ja) * | 1990-11-28 | 1992-07-13 | Nissan Motor Co Ltd | 車両用障害物検出装置 |
JPH1116099A (ja) * | 1997-06-27 | 1999-01-22 | Hitachi Ltd | 自動車走行支援装置 |
JP4238949B2 (ja) * | 1999-06-30 | 2009-03-18 | ソニー株式会社 | 赤外線式監視装置 |
JP3582449B2 (ja) * | 2000-03-17 | 2004-10-27 | 日産自動車株式会社 | 車両用自動操舵装置 |
JP3941926B2 (ja) * | 2002-03-12 | 2007-07-11 | 松下電器産業株式会社 | 車両周辺監視装置 |
JP4043416B2 (ja) * | 2003-07-30 | 2008-02-06 | オリンパス株式会社 | 安全移動支援装置 |
CN101185084B (zh) * | 2005-05-31 | 2010-06-16 | 皇家飞利浦电子股份有限公司 | 用于夜间探测道路的方法和系统 |
JP4777196B2 (ja) * | 2006-09-11 | 2011-09-21 | 川崎重工業株式会社 | 運転支援装置 |
JP4832272B2 (ja) * | 2006-12-12 | 2011-12-07 | アルパイン株式会社 | 車両周辺画像表示装置およびその表示方法 |
JP2008217267A (ja) * | 2007-03-01 | 2008-09-18 | Denso Corp | 道路形状認識装置 |
JP2009017306A (ja) * | 2007-07-05 | 2009-01-22 | Olympus Corp | 画像表示装置及びそれを用いた撮像装置 |
-
2009
- 2009-08-10 JP JP2009185707A patent/JP5442354B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011039732A (ja) | 2011-02-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5442353B2 (ja) | 車両操縦用画像表示装置および方法 | |
KR102393845B1 (ko) | 동적 범위를 확장하기 위한 다수의 동작 모드들 | |
JP5442354B2 (ja) | 車両操縦用画像表示装置および方法 | |
CN108460734B (zh) | 车辆驾驶员辅助模块进行图像呈现的系统和方法 | |
US20240326787A1 (en) | Methods and systems for providing depth maps with confidence estimates | |
US9013286B2 (en) | Driver assistance system for displaying surroundings of a vehicle | |
JP5096836B2 (ja) | 車両の周囲を画像化する方法およびそのためのシステム | |
US20180302551A1 (en) | Signal processing apparatus and imaging apparatus | |
JP5953824B2 (ja) | 車両用後方視界支援装置及び車両用後方視界支援方法 | |
WO2012073722A1 (ja) | 画像合成装置 | |
JP2008511080A (ja) | 融合画像を形成するための方法および装置 | |
JP5171723B2 (ja) | 障害物検知装置、および当該装置を搭載した車両 | |
US20110157184A1 (en) | Image data visualization | |
JP2010136289A (ja) | 運転支援装置及び運転支援方法 | |
JP2017520133A (ja) | 車両周辺イメージ生成装置および方法 | |
US20120320206A1 (en) | System and method for tracking a lead object | |
JP2015232442A (ja) | 画像処理装置及び車両前方監視装置 | |
CN108021849B (zh) | 一种行人预警方法及装置 | |
JP2012105090A (ja) | 駐車支援装置 | |
JP4344860B2 (ja) | ステレオ画像を用いた道路平面領域並びに障害物検出方法 | |
JP5951785B2 (ja) | 画像処理装置及び車両前方監視装置 | |
JP2016149613A (ja) | カメラパラメータ調整装置 | |
US12026952B2 (en) | Multi-sensory measuring system and method for transportation vehicle operating systems | |
CN110053625B (zh) | 距离计算装置和车辆控制装置 | |
KR102347226B1 (ko) | 융합 센서 데이터 시각화 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120229 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130410 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130412 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130604 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130830 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131112 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20131120 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131209 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131218 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5442354 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |