JP2007225434A - 3次元計測装置 - Google Patents

3次元計測装置 Download PDF

Info

Publication number
JP2007225434A
JP2007225434A JP2006046789A JP2006046789A JP2007225434A JP 2007225434 A JP2007225434 A JP 2007225434A JP 2006046789 A JP2006046789 A JP 2006046789A JP 2006046789 A JP2006046789 A JP 2006046789A JP 2007225434 A JP2007225434 A JP 2007225434A
Authority
JP
Japan
Prior art keywords
measurement object
range finder
dimensional
measurement
axis
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006046789A
Other languages
English (en)
Inventor
Masayuki Obata
昌之 小畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yaskawa Electric Corp
YE Digital Co Ltd
Original Assignee
Yaskawa Electric Corp
Yaskawa Information Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yaskawa Electric Corp, Yaskawa Information Systems Co Ltd filed Critical Yaskawa Electric Corp
Priority to JP2006046789A priority Critical patent/JP2007225434A/ja
Publication of JP2007225434A publication Critical patent/JP2007225434A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】CCDカメラとレンジファインダを用いて計測対象物の3次元計測を行い、未知の計測対象物を早い処理で、計測精度良く認識する3次元計測装置を提供する。
【解決手段】CCDカメラ1、レンジファインダ5を有し、ヨー、ピッチ、ロール方向に動くセンサ部6と、CCDカメラ1で撮影した画像データに基づいて計測対象物2を検知し、計測対象物2とレンジファインダ5が正対する位置になるようにヨー軸7、ピッチ軸8を制御し、計測対象物2を中央に捉えたまま、レンジファインダ5をその光軸中心に180度ロール回転動作させ、回転動作中に得られたレンジファインダ5の情報に基づいて計測対象物2の3次元形状データ11cを取得し、3次元形状パターン12bとの比較結果に基づいて計測対象物2を認識するコンピュータ16を備える。
【選択図】図1

Description

本発明は、CCDカメラとレーザーレンジファインダ(以下、レンジファインダと称す)を用いて計測対象物を3次元計測することにより認識する3次元計測装置に関する。
計測対象物の3次元計測を行う従来技術として、複数台カメラを用いたステレオ視による第1の従来技術(例えば、特許文献1参照)と、レンジファインダを用いたレーザー距離計測による第2の従来技術(例えば、特許文献2参照)がある。
図4は、第1の従来技術を示す3次元計測装置の説明図である。
図4において、1はCCDカメラ、2は計測対象物である。
以下、図4を用いて、複数台カメラを用いたステレオ視による第1の従来技術を説明する。図4に示すように、計測対象物2を異なる複数の視点からCCDカメラ1で撮影し、得られた撮像の差異によりその3次元的な位置を計測するものであり、比較的計算コストも安価で、計測対象物のエッジ検出処理などに優れている。
また図5は、第2の従来技術を示す3次元計測装置の説明図である。
図5において、2は計測対象物、3は測定ポイントである。
以下、図5を用いて、レンジファインダを用いたレーザー距離計測による第2の従来技術を説明する。
回転鏡などの駆動機構を用いてヨー、ピッチ方向にレーザーを駆動し、図5に示すような計測ポイント毎の距離を計測して3次元距離計測を行う。レーザー光線を用いるため、外部環境の明るさの変化や、平面部分の距離計測に優れている。
図6は、第1、第2の従来技術の長所・短所を説明する比較図である。すなわち、カメラを用いたステレオ視による第1の従来技術と、レンジファインダを用いたレーザー距離計測による第2の従来技術について長所・短所をまとめたものである。
特開平7−35546号公報(第2図) 特開平9−297019号公報(第5図)
図6に示すように、複数台カメラを用いたステレオ視による第1の従来技術では、外部環境の変化による輝度の変化に弱い、平面部分の計測に大きな誤差が生ずる、全体的な距離の精度がばらつくなどの問題がある。
また、レンジファインダを用いたレーザー距離計測による第2の従来技術では、平面に対して均一にレーザー光を照射するため計測対象物のエッジ部分の計測精度がばらつく、スキャン時間が長いなどの問題がある。
本発明は、これらの問題点に鑑みてなされたものであり、複数台カメラを用いたステレオ視による第1の従来技術と、レンジファインダを用いたレーザー距離計測による第2の従来技術のそれぞれの長所が、それぞれの短所を補間する3次元計測装置を提供することを目的としている。すなわち、CCDカメラによって得られた画像データとレンジファインダによって得られた3次元データを用いて、未知の計測対象物を早い処理で、計測精度良く認識する3次元計測装置を提供することを目的としている。
請求項1に記載の発明は、3次元計測することにより未知の計測対象物を認識する3次元計測装置において、CCDカメラおよびレンジファインダを有し、ヨー軸、ピッチ軸、ロール軸により、それぞれヨー、ピッチ、ロール方向に動くセンサ部と、 前記CCDカメラで撮影した画像データに基づいて前記計測対象物を検知し、前記計測対象物と前記レンジファインダが正対する位置になるように前記ヨー軸、前記ピッチ軸を制御し、前記正対後に前記レンジファインダが前記計測対象物を中央に捉えたまま、その光軸中心にロール回転動作するように前記ロール軸を制御し、該回転動作中に得られた前記レンジファインダからの情報に基づいて前記計測対象物の3次元形状データを取得するコンピュータと、を備えたことを特徴としている。
また、請求項2に記載の発明は、請求項1に記載の3次元計測装置において、前記レンジファインダが前記計測対象物を中央に捉えたまま、前記光軸中心にロール回転動作する角度は180度であることを特徴としている。
また、請求項3に記載の発明は、請求項1に記載の3次元計測装置において、前記コンピュータは、前記CCDカメラで撮影した前記画像データおよび前記レンジファインダで取得した前記3次元形状データを一時的に保存するメモリと、前記計測対象物の2次元テンプレート画像と計測対象物3次元パターンを予め登録し保存する固定ディスクと、を備え、前記画像データと前記2次元テンプレート画像の比較結果、および前記3次元形状データと前記計測対象物3次元パターンとの比較結果に基づいて前記計測対象物を認識することを特徴としている。
請求項1に記載の発明によると、CCDカメラで撮影した画像データに基づいて計測対象物を検知するようにしているので、動く計測対象物でも短時間で検知することができる。また、計測対象物とレンジファインダが正対する位置になるようにヨー軸、ピッチ軸を制御し、計測対象物がレンジファインダとの位置が正対した後、レンジファインダが計測対象物を中央に捉えたまま、その光軸中心にロール回転動作するようにロール軸を制御し、該回転動作中に得られたレンジファインダの情報に基づいて計測対象物の3次元形状データを取得するようにしているので精度よく計測することができる。
また、請求項2に記載の発明は、レンジファインダが計測対象物を中央に捉えたまま、その光軸中心に180度ロール回転動作するようにロール軸を制御し、該回転動作中に得られたレンジファインダの情報に基づいて計測対象物の3次元形状データを取得するようにしているので、レンジファインダの計測ポイントを計測対象物に集中でき、計測精度を向上することができる。
また、請求項3に記載の発明は、予め登録保存している計測対象物の3次元パターンと計測対象物と計測で得られた3次元形状データの比較結果に基づいて計測対象物を認識するようにしているので、精度良く未知の計測対象物を認識できる。
以下、本発明の具体的実施例について、図に基づいて説明する。
図1は、本発明を示す3次元計測装置の構成図である。
図1において、1はCCDカメラ、2は計測対象物、3は測定ポイント、4はレンジファインダの回転中心、5はレンジファインダ、6はセンサ部、7はヨ―軸、8はピッチ軸、9はロール軸、10はCPU、10aはデーターバス、11はメモリ、11aは制御プログラム、11bは画像データ、11cは3次元形状データ、12は固定ディスク、12aはテンプレート画像、12bは計測対象物3次元パターン、13はモータ制御部、14は外部入力部、15は表示部、16はコンピュータである。
本発明が従来技術と異なる部分は、CCDカメラ1、レンジファインダ5を有してヨー、ピッチ、ロール方向に動くセンサ部6と、計測対象物2とレンジファインダ5が正対する位置になるようにヨー軸7、ピッチ軸8を制御し計測対象物2を中央に捉えたままレンジファインダ5をその光軸中心に180度ロール回転動作させて得られたレンジファインダ5の情報から3次元形状データ11cを取得して3次元形状パターン12bとの比較結果に基づいて計測対象物2を認識するコンピュータ16を備えた部分である。
以下、図1を用いて、本発明の3次元計測装置の詳細構成について説明する。
CCDカメラ1は、例えば640×480ピクセル程度の画像を30フレーム/secで計測対象物2の画像データ11bの取得を行うものである。レンジファインダ5は、計測ポイント間が1deg程度、最大計測距離が数m程度、1ライン10Hz程度でスキャン可能であり、計測距離の分解能が数mm程度のものであり、距離画像を取得して計測対象物2の3次元形状データ11cを取得するものである。
また、CCDカメラ1とレンジファインダ5は、1つのテーブル上に固定されセンサ部6を形成しており、センサ部6をヨー方向、ピッチ方向、ロール方向にそれぞれ駆動するヨー軸7、ピッチ軸8、ロール軸9を備えている。尚、本発明におけるヨー方向、ピッチ方向、ロール方向の定義は図1に示す方向である。
また、コンピュータ16は、通常のDOS/Vマシン相当と同様な構成になっており、各種演算命令を実行するCPU10、制御プログラム11a、取得した画像データ11b、3次元形状データ11cを一時的に保存しておくメモリ11、計測対象物2の認識ため取得データと比較する各種データ、すなわちテンプレート画像12aや計測対象物3次元パターン12bを保存しておく固定ディスク12、ヨー軸7、ピッチ軸8、ロール軸9のモータを制御するモータ制御部13、CCDカメラ1とレンジファインダ5からの信号データを取得する外部入力部14、画像データ11b、3次元形状データ11c、計測対象物2の認識結果などを表示する表示部15から構成され、制御プログラム11aに従ってCPU10が命令を実行することにより、モータ制御部13、外部入力部14を介して画像データ11b、3次元形状データ11cを取得し計測対象物2の認識処理を実現するものであり、主としてCPU10およびメモリ11がコンピュータ16の動作を実現する手段としての役割を果たしている。
図2は、本発明を示す3次元計測装置における動作を説明するフロー図である。
以下、図2を用いて本発明の3次元計測装置における動作を手順を追って説明する。
先ず、ステップST20はキャリブレーションなどの初期設定であり、ヨー軸7、ピッチ軸8、ロール軸9のキャリブレーション動作、CCDカメラ1のズーム、フォーカス設定、レンジファインダの反射率設定などの初期設定を行う。
ステップST20のキャリブレーションなどの初期設定が完了すると、次に、ステップST21で、ヨー軸7、ピッチ軸8を駆動してセンサ部6を上下左右に動作させCCDカメラ1を用いて計測対象物の検索を行う。
次のステップST22はCCDカメラ1により得られた画像データ11bによる計測対象物2の認識であり、認識しようとする計測対象物2を予め様々な角度から撮影して大量のテンプレート画像12aを用意し、テンプレートマッチングによる認識を行う。
尚、計算コストの削減と、複雑な背景や環境光の変化に対するある程度頑健な認識を行うためテンプレートマッチングには固有空間法を用いる。すなわち、CCDカメラ1により得られる画像データ11bとテンプレート画像12aに対してK-L展開を施し、画像ベクトルの識別に最適な固有空間上で類似度計算を正規化相関によって行い、お互いを比較することで計測対象物2の認識を行う。またここで、カメラ画像を用いた計測対象物2の認識においては、本実施例では1つのカメラ画像による計測対象物2の認識を挙げたが、複数カメラを用いたステレオ視による計測対象物2の認識手法を用いても良い。
ただし、画像データ11bによる計測対象物2の認識においては、外部環境の変化による輝度値の変化に弱いなどのカメラ特有の問題があるため、ロバストな計測が困難であり計測対象物2の認識精度が劣化する。また、画像データ11bは、2次元データであるため形状を持った計測対象物2の正確な認識には不十分である。そのため、CCDカメラ1によって得られた画像データ11bで計測対象物2が認識された場合は、さらに高精度な認識処理を施すため、レンジファインダ5を用いて計測対象物2の3次元形状データ11cを取得し計測対象物の認識に用いる。
次のステップST23はレンジファインダ5を用いた計測対象物2の3次元形状データの取得であり、CCDカメラ1により認識された計測対象物2の中心が、レンジファインダ5の光軸中心と一致するようにレンジファインダ5をヨー軸7、ピッチ軸8を駆動して正対動作させる。
正対動作させたあと、ステップST24で、レンジファインダ5を計測対象物2を中央に捉えたまま、その光軸中心に180度ロール軸9でロール回転動作させて3次元形状データ11cを取得する。
なお、計測対象物2に対してレンジファインダ5を正対動作させるためには、画像データ11bで認識された計測対象物2を追跡しながら、3次元計測装置のヨー軸7、ピッチ軸8を駆動してビジュアルサーボ制御して正対動作を行う。画像データ11bを用いた計測対象物2の追跡は、固有空間法によるパターンマッチング処理を行ったあと、CAMSHIFT(continuously adaptive mean shift)アルゴリズムに切り替えて行う。このCAMSHIFTアルゴリズムは、画像データをHSV(hue、saturation、value)変換することによって得られる色相値の分布を参照しながら計測対象物2周辺の色相値の勾配を検査し、その勾配のピーク周辺の領域を追跡するというノンパラメトリックな手法である。このアルゴリズムは、ノイズに対する頑健性を持ち、計測対象物追跡領域を前フレームの追跡領域の周辺に限定するため計算量が少なく、ほぼリアルタイムでの処理が可能であるため、計測対象物2への追従動作といったビジュアルサーボに用いることができる。
ステップST25で、取得した計測対象物2の3次元形状データ11cが、登録されている計測対象物2の3次元形状パターン12bと一致しているかを判断する。
一致していたら、ステップST26で、計測対象物2の認識を行う。
図3は、本発明を示す3次元計測装置におけるレンジファインダ5の計測ポイントの説明図である。
図3において、2は計測対象物、3は測定ポイント、4はレンジファインダの回転中心である。
図3に示すように、本実施例に係る3次元計測装置は、レンジファインダ5を計測対象物2中心、すなわちレンジファインダの回転中心4を中心に180degロール回転させて3次元形状データを取得するようにしているため、従来技術を示す図5と比較して、レンジファインダ5の計測ポイント3を計測対象物2に集中でき、計測精度の向上が図れる。
本発明は、未知の計測対象物を早い処理で、計測精度良く認識することができるので、屋外における清掃、警備、運搬などをおこなうサービスロボットに応用可能である。
本発明を示す3次元計測装置の構成図 本発明を示す3次元計測装置における動作を説明するフロー図 本発明を示す3次元計測装置におけるレンジファインダ5の計測ポイントの説明図 第1の従来技術を示す3次元計測装置の説明図 第2の従来技術を示す3次元計測装置の説明図 第1、第2の従来技術の長所・短所を説明する比較図
符号の説明
1 CCDカメラ
2 計測対象(対象物)
3 測定ポイント
4 レンジファインダの回転中心
5 レンジファインダ
6 センサ部
7 ヨ―軸
8 ピッチ軸
9 ロール軸
10 CPU
10a データーバス
11 メモリ
11a 制御プログラム1
11b 画像データ
11c 3次元形状データ
12 固定ディスク
12a テンプレート画像
12b 計測対象物3次元パターン
13 モータ制御部
14 外部入力部
15 表示部
16 コンピュータ

Claims (3)

  1. 3次元計測することにより未知の計測対象物(2)を認識する3次元計測装置において、
    CCDカメラ(1)およびレーザーレンジファインダ(5)を有し、ヨー軸(7)、ピッチ軸(8)、ロール軸(9)により、それぞれヨー、ピッチ、ロール方向に動くセンサ部(6)と、
    前記CCDカメラ(1)で撮影した画像データに基づいて前記計測対象物(2)を検知し、前記計測対象物(2)と前記レーザーレンジファインダ(5)が正対する位置になるように前記ヨー軸(7)、前記ピッチ軸(8)を制御し、前記正対後に前記レーザーレンジファインダ(5)が前記計測対象物(2)を中央に捉えたまま、その光軸中心にロール回転動作するように前記ロール軸(9)を制御し、該回転動作中に得られた前記レーザーレンジファインダ(5)からの情報に基づいて前記計測対象物(2)の3次元形状データ(11c)を取得するコンピュータ(16)と、を備えたことを特徴とする3次元計測装置。
  2. 前記レーザーレンジファインダ(5)が前記計測対象物(2)を中央に捉えたまま、前記光軸中心にロール回転動作する角度は180度であることを特徴とする請求項1に記載の3次元計測装置。
  3. 前記コンピュータ(16)は、
    前記CCDカメラ(1)で撮影した前記画像データ(11b)および前記レーザーレンジファインダ(5)で取得した前記3次元形状データ(11c)を一時的に保存するメモリ(11)と、
    前記計測対象物(2)の2次元テンプレート画像(12a)と計測対象物3次元パターン(12b)を予め登録し保存する固定ディスク(12)と、を備え、
    前記画像データ(11b)と前記2次元テンプレート画像(12a)の比較結果、および前記3次元形状データ(11c)と前記計測対象物3次元パターン(12b)との比較結果に基づいて前記計測対象物(2)を認識することを特徴とする請求項1に記載の3次元計測装置。
JP2006046789A 2006-02-23 2006-02-23 3次元計測装置 Pending JP2007225434A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006046789A JP2007225434A (ja) 2006-02-23 2006-02-23 3次元計測装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006046789A JP2007225434A (ja) 2006-02-23 2006-02-23 3次元計測装置

Publications (1)

Publication Number Publication Date
JP2007225434A true JP2007225434A (ja) 2007-09-06

Family

ID=38547392

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006046789A Pending JP2007225434A (ja) 2006-02-23 2006-02-23 3次元計測装置

Country Status (1)

Country Link
JP (1) JP2007225434A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008241491A (ja) * 2007-03-28 2008-10-09 Hitachi Ltd 3次元計測装置
WO2014136490A1 (ja) * 2013-03-05 2014-09-12 株式会社日立製作所 形状検査方法およびその装置
CN107817567A (zh) * 2017-11-08 2018-03-20 中船重工中南装备有限责任公司 全向观察窗口结构
CN108680105A (zh) * 2018-05-22 2018-10-19 公安部沈阳消防研究所 一种定点三维相对位置坐标非接触式测量的方法及装置
US10281273B2 (en) 2015-12-24 2019-05-07 Honda Motor Co., Ltd. Sensing system and sensing method
CN111141214A (zh) * 2020-01-10 2020-05-12 福建农林大学 一种锤子检测装置及方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0518746A (ja) * 1991-07-15 1993-01-26 Mitsubishi Heavy Ind Ltd 3次元形状計測装置
JPH05272934A (ja) * 1992-03-27 1993-10-22 Kobe Steel Ltd 形状計測方法
JPH0755439A (ja) * 1993-08-11 1995-03-03 Kobe Steel Ltd 三次元形状計測装置
JP2000283720A (ja) * 1999-03-30 2000-10-13 Minolta Co Ltd 3次元データ入力方法及び装置
JP2001296124A (ja) * 2000-02-10 2001-10-26 Nkk Corp 3次元座標計測方法及び3次元座標計測装置
JP2003090716A (ja) * 1998-05-25 2003-03-28 Matsushita Electric Ind Co Ltd カメラ
JP2003156333A (ja) * 2001-11-21 2003-05-30 Nikon Corp 測距装置、並びに、これを用いた室内計測装置及びトータルステーション

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0518746A (ja) * 1991-07-15 1993-01-26 Mitsubishi Heavy Ind Ltd 3次元形状計測装置
JPH05272934A (ja) * 1992-03-27 1993-10-22 Kobe Steel Ltd 形状計測方法
JPH0755439A (ja) * 1993-08-11 1995-03-03 Kobe Steel Ltd 三次元形状計測装置
JP2003090716A (ja) * 1998-05-25 2003-03-28 Matsushita Electric Ind Co Ltd カメラ
JP2000283720A (ja) * 1999-03-30 2000-10-13 Minolta Co Ltd 3次元データ入力方法及び装置
JP2001296124A (ja) * 2000-02-10 2001-10-26 Nkk Corp 3次元座標計測方法及び3次元座標計測装置
JP2003156333A (ja) * 2001-11-21 2003-05-30 Nikon Corp 測距装置、並びに、これを用いた室内計測装置及びトータルステーション

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008241491A (ja) * 2007-03-28 2008-10-09 Hitachi Ltd 3次元計測装置
WO2014136490A1 (ja) * 2013-03-05 2014-09-12 株式会社日立製作所 形状検査方法およびその装置
JP2014169947A (ja) * 2013-03-05 2014-09-18 Hitachi Ltd 形状検査方法およびその装置
US10281273B2 (en) 2015-12-24 2019-05-07 Honda Motor Co., Ltd. Sensing system and sensing method
CN107817567A (zh) * 2017-11-08 2018-03-20 中船重工中南装备有限责任公司 全向观察窗口结构
CN107817567B (zh) * 2017-11-08 2024-01-05 中船重工中南装备有限责任公司 全向观察窗口结构
CN108680105A (zh) * 2018-05-22 2018-10-19 公安部沈阳消防研究所 一种定点三维相对位置坐标非接触式测量的方法及装置
CN108680105B (zh) * 2018-05-22 2020-09-11 公安部沈阳消防研究所 一种定点三维相对位置坐标非接触式测量的方法及装置
CN111141214A (zh) * 2020-01-10 2020-05-12 福建农林大学 一种锤子检测装置及方法

Similar Documents

Publication Publication Date Title
JP5580164B2 (ja) 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム
JP2767340B2 (ja) 物体の3次元位置・姿勢計測方式
CN108700408B (zh) 三维形状数据及纹理信息生成系统、方法及拍摄控制方法
US20110080476A1 (en) High Performance Vision System for Part Registration
US20050232466A1 (en) Method of recognizing and/or tracking objects
JP2007225434A (ja) 3次元計測装置
JP2008204384A (ja) 撮像装置、物体検出方法及び姿勢パラメータの算出方法
JP4836086B2 (ja) 3次元形状検出装置
JP2020135623A (ja) 物体検出装置、制御装置及び物体検出用コンピュータプログラム
JP7063760B2 (ja) 移動体
JP2005024463A (ja) ステレオ広視野画像処理装置
Neves et al. Acquiring high-resolution face images in outdoor environments: A master-slave calibration algorithm
US20110149045A1 (en) Camera and method for controlling a camera
JP6065629B2 (ja) 物体検知装置
CN115529452A (zh) 用于传感器校准的方法和设备
JP3988574B2 (ja) 画像処理装置
US11546497B2 (en) Image capturing system with wide field of view using rotation mirror
JP2008286648A (ja) 距離計測装置、距離計測システム、距離計測方法
JP2000304508A (ja) 3次元入力装置
JP2006317418A (ja) 画像計測装置、画像計測方法、計測処理プログラム及び記録媒体
Mühlenbrock et al. Fast and robust registration of multiple depth-sensors and virtual worlds
JP2007093479A (ja) 3次元座標測定方法
KR101817667B1 (ko) 광학간섭계의 광축 정렬방법
JPH087102A (ja) 対応点抽出装置
Zhang et al. High-Magnification Object Tracking with Ultra-Fast View Adjustment and Continuous Autofocus Based on Dynamic-Range Focal Sweep

Legal Events

Date Code Title Description
A621 Written request for application examination

Effective date: 20090213

Free format text: JAPANESE INTERMEDIATE CODE: A621

A131 Notification of reasons for refusal

Effective date: 20110428

Free format text: JAPANESE INTERMEDIATE CODE: A131

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110824