JP4504433B2 - オブジェクト探索装置及び方法 - Google Patents
オブジェクト探索装置及び方法 Download PDFInfo
- Publication number
- JP4504433B2 JP4504433B2 JP2008018105A JP2008018105A JP4504433B2 JP 4504433 B2 JP4504433 B2 JP 4504433B2 JP 2008018105 A JP2008018105 A JP 2008018105A JP 2008018105 A JP2008018105 A JP 2008018105A JP 4504433 B2 JP4504433 B2 JP 4504433B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- object information
- target
- search
- detecting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/0003—Home robots, i.e. small robots for domestic use
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/49—Nc machine tool, till multiple
- G05B2219/49302—Part, workpiece, code, tool identification
Description
目的オブジェクトを入力する入力手段と、
ICタグから、該ICタグを貼り付けるオブジェクトの識別子、階層レベル、該オブジェクトを検出するための画像処理の種類を含む該オブジェクトを検出するための検出方法、及び該オブジェクトの操作方法を含むオブジェクト情報を取得する取得手段と、
前記取得手段で取得された、目的オブジェクトのオブジェクト情報を含むオブジェクト情報群から、該目的オブジェクトよりも前記階層レベルの高いオブジェクト情報及び該目的オブジェクトのオブジェクト情報のうちの1つを、前記階層レベルの高い順に選択する選択手段と、
画像を取得し該画像から前記オブジェクトを検出する画像処理手段と、
前記選択手段で選択されたオブジェクト情報中の前記検出方法を用いて、当該オブジェクト情報に対応するオブジェクトを検出する検出手段と、
前記検出手段で検出されたオブジェクトを、該オブジェクトのオブジェクト情報中の前記操作方法に従って操作する操作手段と、
前記操作手段によって操作されるマニピュレータと、
を含み、
前記検出手段は、前記目的オブジェクトより前記階層レベルの高いオブジェクト及び該オブジェクトが有するオブジェクトを前記階層レベルの高いオブジェクトから下位の前記階層レベルのオブジェクトへ順次検出することにより、該目的オブジェクトを検出する。
・該オブジェクトの種類(例えば、冷蔵庫、テーブル、食器棚、冷蔵庫の中の1番目の棚、ペットボトル、皿など)
・該オブジェクトが、「ハンドリング対象」、「容器」、「家具」、「部屋」などのどの階層に属するのかを表す階層レベル
・該オブジェクトを検出するための検出方法(該オブジェクトを検出するために必要な画像処理の種類(例えば、画像処理プログラムの識別情報など)や、該画像処理に用いるパラメータ(例えば該オブジェクトと判定するために必要な特徴情報(条件、パラメータなど))
・該オブジェクトの下位階層へ移行するための該オブジェクトの操作方法(例えば、該オブジェクトの開扉方法(扉を開けるための把持点や把持姿勢、動作方向)など、該オブジェクトが有する(該オブジェクトよりも階層レベルの低い)オブジェクト群を検出するために必要な該オブジェクトの操作方法)、または該オブジェクトのハンドリング方法
なお、上記オブジェクト情報は、ICタグの記憶領域に直接書き込んでおいても良いし、ICタグからは当該タグのIDのみを読み出して、別に用意されているデータベースに対しこのIDをキーとして、上記オブジェクト情報をデータベースから読み出す、という形態の実装であっても構わない。
(1)画素のRGB値に対する閾値を使った領域検出処理
(2)物体のテクスチャ情報をテンプレートとして画像中から類似の物体を検出するテンプレートマッチング処理
(3)画像中のエッジ成分から楕円形をした部分を検出する楕円検出処理
などの複数種類の画像処理プログラムが記憶されている。
Ax2+By2+Cxy+Dx+Ey+F=0
に当てはめたときのパラメータA,B,C,D,E,Fを最小二乗法により求める。そして求められた楕円とエッジがどのくらい離れているかを求めて楕円の良さを評価する。この評価値が一定値以上のものを楕円形の物体であると判断する。このアルゴリズムの場合、ステレオ視を使うことにより、物体の3次元位置だけでなく、検出した楕円の実際のサイズを求めることができる。このサイズ情報を用いて物体の絞り込みを行う。したがって、楕円検出処理でオブジェクトの判定に用いる閾値条件のパラメータとして、該オブジェクト(楕円)の実際のサイズを用いる。これが、オブジェクト情報に、当該オブジェクトの検出方法として含まれている。例えば、“この皿は半径60mmである”といったように実数値で記述された閾値条件が、オブジェクト情報に含まれている。
(2)指定オブジェクトの内部を探索して目的オブジェクトを探索する手順(図15のステップS116〜ステップS124)
この2つの手順のそれぞれは、図7に示した手順と同様、階層レベルに基づき階層レベルの高い順にオブジェクトを探索する。図7と異なる点は、図14及び図15では目的オブジェクトは指定オブジェクトの中にあることが分かっているため、指定レベルの他のオブジェクトおよびその内部は探索せずにすむことになり、探索範囲を限定することができる、ということである。
2…タグ読取部
3…探索制御部
4…オブジェクト検出部
5…移動部
6…マニピュレータ操作部
7…入力部
8…通信部
4a…撮像部
4b…画像処理部
Claims (7)
- 目的オブジェクトを入力する入力手段と、
ICタグから、該ICタグを貼り付けるオブジェクトの識別子、階層レベル、該オブジェクトを検出するための画像処理の種類を含む該オブジェクトを検出するための検出方法、及び該オブジェクトの操作方法を含むオブジェクト情報を取得する取得手段と、
前記取得手段で取得された、目的オブジェクトのオブジェクト情報を含むオブジェクト情報群から、該目的オブジェクトよりも前記階層レベルの高いオブジェクト情報及び該目的オブジェクトのオブジェクト情報のうちの1つを、前記階層レベルの高い順に選択する選択手段と、
画像を取得し該画像から前記オブジェクトを検出する画像処理手段と、
前記選択手段で選択されたオブジェクト情報中の前記検出方法を用いて、当該オブジェクト情報に対応するオブジェクトを検出する検出手段と、
前記検出手段で検出されたオブジェクトを、該オブジェクトのオブジェクト情報中の前記操作方法に従って操作する操作手段と、
前記操作手段によって操作されるマニピュレータと、
を含み、
前記検出手段は、前記目的オブジェクトより前記階層レベルの高いオブジェクト及び該オブジェクトが有するオブジェクトを前記階層レベルの高いオブジェクトから下位の前記階層レベルのオブジェクトへ順次検出することにより、該目的オブジェクトを検出するオブジェクト探索装置。 - 前記操作方法は、該オブジェクトの中にある該オブジェクトよりも階層レベルの低いオブジェクト群を検出するために必要な該オブジェクトの操作方法を含むことを特徴とする請求項1記載のオブジェクト探索装置。
- 前記操作方法は、該オブジェクトのハンドリング方法を含むことを特徴とする請求項1記載のオブジェクト探索装置。
- 前記選択手段は、
前記目的オブジェクトの格納先である指定オブジェクトであって、前記目的オブジェクトより前記階層レベルの高い指定オブジェクトのオブジェクト情報、及び該指定オブジェクトより前記階層レベルの高いオブジェクト情報のうちの1つを、前記階層レベルの高い順に選択する第1の選択手段と、
前記指定オブジェクトより前記階層レベルの低いオブジェクト情報を、前記階層レベルの高い順に選択する第2の選択手段と、
を含み、
前記検出手段は、前記第1の選択手段で選択された順に各オブジェクトを検出することにより、前記指定オブジェクトを検出したとき、該指定オブジェクトが有するオブジェクトを前記第2の選択手段で選択された順に検出することにより、前記目的オブジェクトを検出し、前記第2の選択手段は、前記指定オブジェクトを検出したとき、前記オブジェクト情報を選択することを特徴とする請求項1記載のオブジェクト探索装置。 - 前記検出手段で検出されたオブジェクト群の階層的な位置関係を記憶する記憶手段をさらに備え、
前記選択手段は、前記記憶手段に位置関係を記憶したオブジェクト群に含まれる上位オブジェクトの中から前記目的オブジェクトのオブジェクト情報、及び該目的オブジェクトを有する該目的オブジェクトより前記階層レベルの高い前記上位オブジェクトのオブジェクト情報のうちの1つを、前記階層レベルの高い順に選択し、
前記検出手段は、前記上位オブジェクトを検出した後、前記上位オブジェクトが有する前記目的オブジェクトを検出することを特徴とする請求項1記載のオブジェクト探索装置。 - 各オブジェクトのオブジェクト情報に含まれている前記検出方法は、前記画像処理に用いるパラメータとを含むことを特徴とする請求項1記載のオブジェクト探索装置。
- 目的オブジェクトを入力する入力手段と、
ICタグから、該ICタグを貼り付けるオブジェクトの識別子、階層レベル、該オブジェクトを検出するための画像処理の種類を含む該オブジェクトを検出するための検出方法、及び該オブジェクトの操作方法を含むオブジェクト情報を取得する取得手段と、
前記取得手段で取得された、目的オブジェクトのオブジェクト情報を含むオブジェクト情報群から、該目的オブジェクトよりも前記階層レベルの高いオブジェクト情報及び該目的オブジェクトのオブジェクト情報のうちの1つを、前記階層レベルの高い順に選択する選択手段と、
画像を取得し該画像から前記オブジェクトを検出する画像処理手段と、
前記選択手段で選択されたオブジェクト情報中の前記検出方法を用いて、当該オブジェクト情報に対応するオブジェクトを検出する検出手段と、
前記検出手段で検出されたオブジェクトを、該オブジェクトのオブジェクト情報中の前記操作方法に従って操作する操作手段と、
前記操作手段によって操作されるマニピュレータと、
を備えたオブジェクト探索装置におけるオブジェクト探索方法であって、
前記入力手段が、目的オブジェクトを入力する入力ステップと、
前記取得手段が、オブジェクト情報群を取得する取得ステップと、
前記選択手段が、前記オブジェクト情報群から目的オブジェクトより高い階層レベルをもつ第1のオブジェクト情報を選択する第1の選択ステップと、
前記検出手段が、前記第1のオブジェクト情報中の前記検出方法を用いて、第1のオブジェクトを検出する第1の検出ステップと、
前記操作手段が、前記第1のオブジェクト情報中の前記操作方法に従って、前記第1の検出ステップで検出された前記第1のオブジェクトを操作する第1の操作ステップと、
前記選択手段が、前記オブジェクト情報群から前記目的オブジェクトのオブジェクト情報を選択する第2の選択ステップと、
前記検出手段が、前記目的オブジェクトより前記階層レベルの高いオブジェクト及び該オブジェクトが有するオブジェクトを前記階層レベルの高いオブジェクトから下位の前記階層レベルのオブジェクトへ順次検出することにより、前記第1のオブジェクトから前記目的オブジェクトを検出する第2の検出ステップと、
を含むオブジェクト探索方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008018105A JP4504433B2 (ja) | 2008-01-29 | 2008-01-29 | オブジェクト探索装置及び方法 |
US12/360,511 US8116904B2 (en) | 2008-01-29 | 2009-01-27 | Object search apparatus and method |
US12/361,002 US7842982B2 (en) | 2008-01-29 | 2009-01-28 | Semiconductor device and manufacturing method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008018105A JP4504433B2 (ja) | 2008-01-29 | 2008-01-29 | オブジェクト探索装置及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009181222A JP2009181222A (ja) | 2009-08-13 |
JP4504433B2 true JP4504433B2 (ja) | 2010-07-14 |
Family
ID=40900033
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008018105A Active JP4504433B2 (ja) | 2008-01-29 | 2008-01-29 | オブジェクト探索装置及び方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8116904B2 (ja) |
JP (1) | JP4504433B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7877014B2 (en) | 2001-07-05 | 2011-01-25 | Enablence Technologies Inc. | Method and system for providing a return path for signals generated by legacy video service terminals in an optical network |
US7953325B2 (en) | 2004-08-19 | 2011-05-31 | Enablence Usa Fttx Networks, Inc. | System and method for communicating optical signals between a data service provider and subscribers |
US7986880B2 (en) | 2003-03-14 | 2011-07-26 | Enablence Usa Fttx Networks Inc. | Method and system for providing a return path for signals generated by legacy terminals in an optical network |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012524663A (ja) * | 2009-04-23 | 2012-10-18 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 物体学習ロボットおよび方法 |
TWI388956B (zh) * | 2009-05-20 | 2013-03-11 | Univ Nat Taiwan Science Tech | 行動機器人與其目標物處理路徑的規劃方法 |
US8359344B2 (en) * | 2010-01-21 | 2013-01-22 | Qualcomm Incorporated | Automatic linking of points of interest for indoor location based searching |
US8553954B2 (en) | 2010-08-24 | 2013-10-08 | Siemens Medical Solutions Usa, Inc. | Automated system for anatomical vessel characteristic determination |
JP5892361B2 (ja) | 2011-08-02 | 2016-03-23 | ソニー株式会社 | 制御装置、制御方法、プログラム、及びロボット制御システム |
JP5879877B2 (ja) * | 2011-09-28 | 2016-03-08 | 沖電気工業株式会社 | 画像処理装置、画像処理方法、プログラム、および画像処理システム |
US9072929B1 (en) * | 2011-12-01 | 2015-07-07 | Nebraska Global Investment Company, LLC | Image capture system |
JP6343337B2 (ja) * | 2013-03-15 | 2018-06-13 | ニューラ ラブス コーポレイション | 知識への1段階アクセスを提供する適応ユーザインターフェースを有する知的インターネットシステム |
US20150002660A1 (en) * | 2013-06-28 | 2015-01-01 | Lg Electronics Inc. | Electric product |
KR102145607B1 (ko) * | 2013-06-28 | 2020-08-18 | 엘지전자 주식회사 | 전기제품 |
CN104462137A (zh) * | 2013-09-22 | 2015-03-25 | 北大方正集团有限公司 | 互动对象的创建方法及装置 |
JP2015099550A (ja) * | 2013-11-20 | 2015-05-28 | 東芝テック株式会社 | 商品認識装置及び商品認識プログラム |
US9597801B2 (en) * | 2014-10-21 | 2017-03-21 | Centurylink Intellectual Property Llc | Automated data center |
US10025473B2 (en) | 2014-12-18 | 2018-07-17 | Aditazz, Inc. | Room plan generation user interface for room plan selection |
US20160179315A1 (en) * | 2014-12-18 | 2016-06-23 | Aditazz, Inc. | Room plan generation user interface for component placement configuration |
CN107516087A (zh) * | 2017-09-01 | 2017-12-26 | 华北科技学院 | 一种用于现实增强技术的物体识别方法 |
KR102032284B1 (ko) * | 2017-09-22 | 2019-10-15 | 엘지전자 주식회사 | 인공지능 이용한 이동 로봇 및 이동 로봇의 제어방법 |
CN108052860A (zh) * | 2017-11-06 | 2018-05-18 | 珠海格力电器股份有限公司 | 物品检索方法及装置 |
CN109029449B (zh) * | 2018-06-29 | 2020-09-29 | 英华达(上海)科技有限公司 | 寻物方法、寻物装置及寻物系统 |
JP7185869B2 (ja) | 2018-09-04 | 2022-12-08 | 国立大学法人大阪大学 | 処理装置 |
CN109064719A (zh) * | 2018-09-04 | 2018-12-21 | 高新兴科技集团股份有限公司 | 一种操作规范的检测方法和设备 |
US11551537B2 (en) * | 2019-04-11 | 2023-01-10 | Nexite Ltd. | Wireless dual-mode identification tag |
EP3996289A1 (en) | 2019-04-11 | 2022-05-11 | Nexite Ltd. | Wireless dual-mode identification tag |
CN110355322B (zh) * | 2019-07-11 | 2021-07-13 | 爱驰汽车有限公司 | 铆模选取系统及方法 |
CN110990594B (zh) * | 2019-11-29 | 2023-07-04 | 华中科技大学 | 一种基于自然语言交互的机器人空间认知方法及系统 |
EP4275160A1 (en) | 2021-01-11 | 2023-11-15 | Nexite Ltd. | Contactless and automatic operations of a retail store |
US11797928B2 (en) | 2021-12-13 | 2023-10-24 | Nexite Ltd. | Dual-antenna, four-armed identification tag |
US11861959B2 (en) * | 2022-01-06 | 2024-01-02 | Johnson Controls Tyco IP Holdings LLP | Methods and systems for integrating autonomous devices with an access control system |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005280890A (ja) * | 2004-03-29 | 2005-10-13 | Nec Fielding Ltd | 資料管理システム |
JP2006289547A (ja) * | 2005-04-11 | 2006-10-26 | Ntt Docomo Inc | 物品管理システム、物品管理サーバ、物品モジュール、およびロボット |
JP2007519583A (ja) * | 2003-12-09 | 2007-07-19 | サビ テクノロジー、インク. | ネスト化され近接したコンテナのアイテムレベル可視化技術 |
JP2007217069A (ja) * | 2006-02-14 | 2007-08-30 | Fujitsu Ltd | 在庫管理ロボットおよびそれによる在庫管理方法 |
JP2008502559A (ja) * | 2004-06-14 | 2008-01-31 | オラクル・インターナショナル・コーポレイション | 階層的に配置された物体の位置および状態を検査するための方法およびシステム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2004106009A1 (ja) * | 2003-06-02 | 2006-07-20 | 松下電器産業株式会社 | 物品取扱いシステムおよび物品取扱いサーバ |
JP2007034356A (ja) | 2005-07-22 | 2007-02-08 | Keirin Hirabayashi | オブジェクト管理装置、オブジェクト管理方法、プログラム及びオブジェクト管理システム |
US7932809B2 (en) * | 2006-02-23 | 2011-04-26 | Rockwell Automation Technologies, Inc. | RFID/biometric area protection |
-
2008
- 2008-01-29 JP JP2008018105A patent/JP4504433B2/ja active Active
-
2009
- 2009-01-27 US US12/360,511 patent/US8116904B2/en not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007519583A (ja) * | 2003-12-09 | 2007-07-19 | サビ テクノロジー、インク. | ネスト化され近接したコンテナのアイテムレベル可視化技術 |
JP2005280890A (ja) * | 2004-03-29 | 2005-10-13 | Nec Fielding Ltd | 資料管理システム |
JP2008502559A (ja) * | 2004-06-14 | 2008-01-31 | オラクル・インターナショナル・コーポレイション | 階層的に配置された物体の位置および状態を検査するための方法およびシステム |
JP2006289547A (ja) * | 2005-04-11 | 2006-10-26 | Ntt Docomo Inc | 物品管理システム、物品管理サーバ、物品モジュール、およびロボット |
JP2007217069A (ja) * | 2006-02-14 | 2007-08-30 | Fujitsu Ltd | 在庫管理ロボットおよびそれによる在庫管理方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7877014B2 (en) | 2001-07-05 | 2011-01-25 | Enablence Technologies Inc. | Method and system for providing a return path for signals generated by legacy video service terminals in an optical network |
US7986880B2 (en) | 2003-03-14 | 2011-07-26 | Enablence Usa Fttx Networks Inc. | Method and system for providing a return path for signals generated by legacy terminals in an optical network |
US8682162B2 (en) | 2003-03-14 | 2014-03-25 | Aurora Networks, Inc. | Method and system for providing a return path for signals generated by legacy terminals in an optical network |
US7953325B2 (en) | 2004-08-19 | 2011-05-31 | Enablence Usa Fttx Networks, Inc. | System and method for communicating optical signals between a data service provider and subscribers |
Also Published As
Publication number | Publication date |
---|---|
JP2009181222A (ja) | 2009-08-13 |
US8116904B2 (en) | 2012-02-14 |
US20090192647A1 (en) | 2009-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4504433B2 (ja) | オブジェクト探索装置及び方法 | |
EP3002656B1 (en) | Robot cleaner and control method thereof | |
US11429103B2 (en) | Semantic obstacle recognition for path planning | |
JP6054425B2 (ja) | 自己位置推定を自動的に実行する方法 | |
US20060195226A1 (en) | Mobile robot system and program for controlling the same | |
CN111328386A (zh) | 通过自主移动机器人对未知环境的探察 | |
CN108344414A (zh) | 一种地图构建、导航方法及装置、系统 | |
KR101222624B1 (ko) | 군집 로봇 및 군집 로봇을 이용한 수색 방법 | |
WO2018111789A1 (en) | Object recognition tool | |
US20150212520A1 (en) | Robot And Method For Autonomous Inspection Or Processing Of Floor Areas | |
JP2019525342A (ja) | 自律移動ロボッを制御する方法 | |
US8035687B2 (en) | Image processing apparatus and program | |
US20190310092A1 (en) | Method, system and apparatus for dynamic path generation | |
KR20160048750A (ko) | 로봇 청소기 및 로봇 청소기의 제어방법 | |
Anup et al. | Visual positioning system for automated indoor/outdoor navigation | |
EP4071684A1 (en) | Warehouse monitoring system | |
Gallagher et al. | Gatmo: A generalized approach to tracking movable objects | |
US20220067634A1 (en) | Delivery method and system using robot | |
CN114359692A (zh) | 房间识别方法、装置、电子设备及存储介质 | |
US20240004388A1 (en) | Method and system for navigation of robot from one area to another area | |
JP2004243499A (ja) | 生活空間用の物品取扱いシステム、物品取扱い方法、及びロボット操作装置 | |
US20230111067A1 (en) | Systems, robots, and methods for selecting classifiers based on context | |
KR20130105964A (ko) | 영상 처리 장치 및 그 방법 | |
CN114510022A (zh) | 一种医疗运输机器人及其控制方法 | |
JP2006338059A (ja) | 物品管理システム及びその制御用プログラム並びにその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091023 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091104 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100126 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100303 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100330 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100422 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4504433 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130430 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140430 Year of fee payment: 4 |