JP2010189130A - フォークリフトの荷役支援装置 - Google Patents

フォークリフトの荷役支援装置 Download PDF

Info

Publication number
JP2010189130A
JP2010189130A JP2009034745A JP2009034745A JP2010189130A JP 2010189130 A JP2010189130 A JP 2010189130A JP 2009034745 A JP2009034745 A JP 2009034745A JP 2009034745 A JP2009034745 A JP 2009034745A JP 2010189130 A JP2010189130 A JP 2010189130A
Authority
JP
Japan
Prior art keywords
pallet
cargo handling
fork
support device
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009034745A
Other languages
English (en)
Inventor
Sanemoto Nakada
真基 仲田
Hideki Hase
日出樹 長谷
Masahiro Kameda
昌宏 亀田
Mitsuru Kamishiro
充 神代
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Yusoki Co Ltd
Original Assignee
Nippon Yusoki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Yusoki Co Ltd filed Critical Nippon Yusoki Co Ltd
Priority to JP2009034745A priority Critical patent/JP2010189130A/ja
Publication of JP2010189130A publication Critical patent/JP2010189130A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Forklifts And Lifting Vehicles (AREA)

Abstract

【課題】パレットにフォークを差し込む前に、フォークの位置を正確に補正する。
【解決手段】荷役支援装置4は、パレットの撮像画像を取得する撮像手段40と、パレットのテンプレート画像を記憶する記憶手段43と、撮像画像とテンプレート画像とのマッチング処理をするマッチング手段44と、マッチング処理により最もマッチングしたテンプレート画像の位置からパレットの位置を検出する位置検出手段45と、パレットの位置から予め設定した荷役位置とのオフセット量を算出する算出手段46と、オフセット量に基づいてフォークの位置を補正する補正手段47とを備える。
【選択図】図4

Description

本発明は、荷物を載せたパレットをフォークで荷役する際に、フォークの動作を制御して荷役を支援するフォークリフトの荷役支援装置に関する。
物流倉庫等では、効率化及び省力化を向上するために、無人フォークリフトが荷物を運搬する。一般に、無人フォークリフトの自動走行として、電磁や磁気を検知して走行する方式(電磁誘導式・磁気誘導式)がある。この方式では、無人フォークリフトは、磁気テープ等の誘導手段からの電磁や磁気等を検知して自動走行する。そして、無人フォークリフトは、荷物の位置や荷役動作等の運行情報が知らされて、この運行情報に基づいて荷役作業を行う。
無人フォークリフトに知らされる運行情報は、荷物を載せたパレットが正しい位置に置かれていることを前提にしている。しかし、荷物を載せたパレットは、正しい位置に置かれているとは限らず、例えば無人フォークリフトではなく作業者がパレットを置いた場合には、正確な位置からずれて置かれることがある。その状態で、無人フォークリフトが荷役作業を行うと、パレットをずれた位置で荷役するので、パレットのずれが段々と大きくなり不安定な荷置きとなったり、荷役作業ができない場合がある。
そこで、パレットとフォークとの左右方向のずれを認知して、フォークをパレット内の中央位置に移動させるフォークリフトの荷取制御装置がある(特許文献1等)。この荷取制御装置は、パレットとパレット内に差し込まれたフォークとの相対位置をセンサで検出して、パレットに対するフォークの偏位を補正するものである。しかし、この荷取制御装置は、パレットにフォークを差し込んだ後に補正するので、パレットにフォークを差し込む差込孔が小さい場合には、パレットにフォークを差し込むことができない場合がある。
特開平5−186200号公報
そこで、本発明が解決しようとする課題は、パレットにフォークを差し込む前に、フォークの位置を正確に補正できるフォークリフトの荷役支援装置を提供することである。
上記課題を解決するために、本発明に係るフォークリフトの荷役支援装置は、
荷物を載せたパレットを一対のフォークで荷役する際に、フォークの動作を制御して荷役を支援し、
荷役支援装置は、パレットの撮像画像を取得する撮像手段と、パレットのテンプレート画像を記憶する記憶手段と、撮像画像とテンプレート画像とのマッチング処理をするマッチング手段と、マッチング処理により最もマッチングしたテンプレート画像の位置からパレットの位置を検出する位置検出手段と、パレットの位置から予め設定した荷役位置とのオフセット量を算出する算出手段と、オフセット量に基づいてフォークの位置を補正する補正手段とを備える。
好ましくは、パレットは、各フォークを差し込むための一対のフォーク差込孔を備え、各フォーク差込孔の間に設けられた中壁と、フォーク差込孔の上下に設けられた上下壁とを備え、
テンプレート画像は、中壁と上下壁とで構成されるI型形状を採用し、
撮像手段は、パレットのI型形状を含む撮像画像を取得できるように設置され、
マッチング手段は、I型形状に基づいてマッチング処理を実行する。
好ましくは、マッチング手段は、撮像画像におけるI型形状の高さを基準にして、テンプレート画像とのマッチング処理を実行する。
本発明に係るフォークリフトの荷役支援装置は、パレットを含む撮像画像とテンプレート画像とのマッチング処理をしてパレットの位置を検出し、フォークの位置を検出したパレットの位置に一致するように補正して、荷役作業を行う。そのため、パレットにフォークを差し込む前にフォークの位置を正確に補正できるので、パレットの差込孔が小さい場合であっても、フォークをパレットに確実に差し込むことができる。
無人搬送システムを示す斜視図。 無人フォークリフトを示す斜視図。 荷物を載せるパレットを示す斜視図。 荷役支援装置を示すブロック図。 カメラで撮像したカメラ画像を示す図。 カメラ画像の両側部分を塗り潰した図。 カメラ画像を二値化した図。 テンプレート画像を示す図。
以下、添付図面に基づいて、本発明に係るフォークリフトの荷役支援装置について説明する。
[全体構成]
図1の通り、無人搬送システムは、荷物を保管する複数の棚1と、荷物を搬送する無人フォークリフト2を備える。無人搬送システムは、各棚1の間に形成される通路に敷設された磁気テープ等からなる誘導線路3を備える。無人フォークリフト2は、車体に磁気検出センサ(図示略)を備えており、この磁気検出センサで誘導線路3に沿って自律走行する。無人フォークリフト2は、誘導線路3に沿って棚1の間の通路に進入して、設定された棚1に対して荷物を積み降ろす荷役作業を行う。
図2の通り、無人フォークリフト2は、車体23にマスト26を立設しており、このマスト26に沿ってスタッキング機構27が昇降可能に設けられている。スタッキング機構27は、リフトブラケット30に形成された上下一対のシフトレール31に沿ってシフトキャリッジ32が車体の左右方向23bにスライド可能に設けられている。
シフトキャリッジ32にフィンガーバー33が設けられている。フィンガーバー33は、一対のフォーク34を備える。これにより、フォーク34は、スタッキング機構27のスライド移動及び車体の前後移動によって、フォークの前後方向(車体の左右方向)23b及びフォークの左右方向(車体の前後方向)23aにスライド可能で、各方向に旋回でき、かつ、マスト26に沿って昇降できるようになっている。
無人フォークリフト2は、コントローラ17を備える。コントローラ17には、無人フォークリフト2が走行及び荷役するための運行情報が入力されて記憶される。この運行情報に基づくコントローラ17の指示に従って、無人フォークリフト2は、所定の誘導線路3に沿って走行して、スタッキング機構27を駆動して所定の棚1の所定区画に対して荷役作業を行う。
図3の通り、荷物MはパレットPに載せられて搬送される。パレットPは、上壁Pc及び下壁Pdを備え、上下壁Pc,Pdは、両側に設けられた左右壁Peと中央に設けられた中壁Pbとにより支持される。これにより、パレットPは、左右壁Peと中壁Pbとの間に、一対のフォーク差込孔Paが形成される。そして、無人フォークリフト2は、フォーク34をパレットPのフォーク差込孔Paに差し込んで搬送する。
[荷役支援装置]
図4の通り、無人フォークリフト2は、荷物Mを載せたパレットPの荷役作業をする際に、荷役を支援するための荷役支援装置4を備える。上記の通り、無人フォークリフト2は、コントローラ17における運搬情報記憶手段170に記憶された運搬情報に基づいて、所定の棚1へ走行し、荷役するパレットPの位置までフォーク34を昇降する。
そして、荷役支援装置4は、運搬情報を記憶する運搬情報記憶手段170と交信して、パレットPにフォーク34を差し込む直前に、次の制御手法を実行することによりフォーク34の位置を補正する。
荷役支援装置4は、カメラ(撮像装置)40を備える。カメラ40は、無人フォークリフト2のフィンガーバー33に設けられ(図2)、一対のフォーク34の中央部分に配設され、フォーク34の先端側を撮像するようになっている。荷役支援装置4は、コントローラ17にカメラ画像取得手段41を備える。カメラ画像取得手段41は、カメラ40が撮像したカメラ画像Cgを取得する(図5)。図5の通り、カメラ画像Cgの画面中心C3(一対のフォーク34,34間の中心位置)から解るとおり、本実施形態では、パレットPは、正しい位置(予め設定された位置)から図左側にずれて設置されている。尚、パレットPは、棚1に設置されるので、高さ方向のずれはない。
荷役支援装置4は、コントローラ17に画像二値化手段42を備える。画像二値化手段42は、先ず、カメラ画像Cgのフォーク34が写っている両側部分を黒色に塗り潰してカットし、パレットPの必要な部分のみの画像とする処理を行う(図6)。
そして、画像二値化手段42は、その画像を二値化処理して、パレットPの部分を白色に、それ以外の部分を黒色に変換して、二値化画像Tgを形成する(図7)。本実施形態では、二値化処理は、カメラ画像CgをRGB及びHSVで表現して、予め設定したパレットPの色(例えば、赤色及び青色)に基づいて所定のフィルタを加えることで二値化することができる。
荷役支援装置4は、コントローラ17にテンプレート画像記憶手段43を備える。テンプレート画像記憶手段43は、テンプレート画像Lgを記憶する(図8)。テンプレート画像Lgは、二値化画像Tgとのマッチング処理を行うものであり、本実施形態では、正面視におけるパレットPの中壁Pb及び上下壁Pc,Pdを表現したI型形状からなる。テンプレート画像LgをI型形状にすることで、周囲の光量等によって形状が変化し易いフォーク差込孔等の影響を最小限できる。
荷役支援装置4は、コントローラ17にマッチング手段44を備える。マッチング手段44は、テンプレート画像Lgのパレット部分P2と二値化画像Tgのパレット部分P1とのマッチング処理を行う。マッチング処理は、公知のアルゴリズムでパターンマッチング処理を行う。
先ず、二値化画像Tgのパレット部分P1(図7の白色部分)における平均高さH1のピクセル数を算出する。そして、テンプレート画像Lgのパレット部分P2(図8の白色部分)における平均高さH2のピクセル数が、二値化画像Tgの平均高さH1のピクセル数に一致するように、テンプレート画像Lgを拡大・縮小する。
これにより、テンプレート画像Lgの縮尺が二値化画像Tgの縮尺と略一致する。そして、テンプレート画像Lgを二値化画像Tgに対して上下左右にスライドさせて、最もマッチングする位置を検出する。このとき、最もよいマッチング結果(一致度)を最小値として検出する。そして、この最小値が、予め設定した閾値以下であればパレット検出(マッチングOK)として、閾値以上であればパレット非検出(マッチングNG)とする。
荷役支援装置4は、コントローラ17にパレット中心検出手段45を備える。上記の通り、マッチング手段44がパレットの位置を検出すると、パレット中心検出手段45は、マッチングしたテンプレート画像Lgにおけるパレットの中心位置C2(この位置C2は、予めテンプレート画像Lgに設定されて記憶されている)を、カメラ画像Cgのパレットの中心位置C1として検出する(図7)。
荷役支援装置4は、コントローラ17にオフセット量算出手段46を備える。オフセット量算出手段46は、上記で検出したカメラ画像Cgのパレット中心位置C1と、カメラ画像Cgの画面中心位置C3とを比較して、フォークの左右方向(車体の前後方向)23a(図2)のずれ量(オフセット量)Po(図7)をピクセル数で算出する。
ここで、パレットPの実際の高さを設定し(例えば、H1=150mm)、これと上記で算出した高さH1のピクセル数とに基づいて、1ピクセル当りの実寸値を算出して、上記で求めたオフセット量Poのピクセル数を実寸値に変換する。尚、カメラ画像Cgの画面中心C3がフォーク34,34間の中心位置になるので、オフセット量Poが予め設定した荷役位置とのずれ量(実寸値)を表すことになる。
荷役支援装置4は、フォーク位置補正手段47を備える。フォーク位置補正手段47は、車体を前後方向23a(図2)に移動して、オフセット量Poに基づいて、フォーク34を左右方向に移動させ、パレット中心位置C1を画面中心位置C3に一致させる。これにより、フォーク34が、予め設定した荷役位置からずれた現状のパレット位置における荷役位置に移動するので、正確にフォーク差込孔Paに差し込むことができる。尚、フォーク位置補正手段47は、車体を前後移動せずに、フォーク34を支持するフィンガーバー等を移動して、左右方向にスライド移動してもよい。
4 荷役支援装置
40 カメラ
41 カメラ画像取得手段
42 画像二値化手段
43 テンプレート画像記憶手段
44 マッチング手段
45 パレット中心検出手段
46 オフセット量算出手段
47 フォーク位置補正手段
17 コントローラ
34 フォーク
Cg カメラ画像
Tg 二値化画像
Lg テンプレート画像
P パレット
Pb 中壁
Pc,Pd 上下壁

Claims (3)

  1. 荷物を載せたパレットを一対のフォークで荷役する際に、前記フォークの動作を制御して荷役を支援する荷役支援装置を備えたフォークリフトにおいて、
    前記荷役支援装置は、前記パレットの撮像画像を取得する撮像手段と、前記パレットのテンプレート画像を記憶する記憶手段と、前記撮像画像と前記テンプレート画像とのマッチング処理をするマッチング手段と、前記マッチング処理により最もマッチングした前記テンプレート画像の位置から前記パレットの位置を検出する位置検出手段と、前記パレットの位置から予め設定した荷役位置とのオフセット量を算出する算出手段と、前記オフセット量に基づいて前記フォークの位置を補正する補正手段とを備えることを特徴とするフォークリフトの荷役支援装置。
  2. 前記パレットは、前記各フォークを差し込むための一対のフォーク差込孔を備え、前記各フォーク差込孔の間に設けられた中壁と、前記フォーク差込孔の上下に設けられた上下壁とを備え、
    前記テンプレート画像は、前記中壁と前記上下壁とで構成されるI型形状を採用し、
    前記撮像手段は、前記パレットの前記I型形状を含む前記撮像画像を取得できるように設置され、
    前記マッチング手段は、前記I型形状に基づいて前記マッチング処理を実行することを特徴とする請求項1に記載のフォークリフトの荷役支援装置。
  3. 前記マッチング手段は、前記撮像画像における前記I型形状の高さを基準にして、前記テンプレート画像との前記マッチング処理を実行することを特徴とする請求項2に記載のフォークリフトの荷役支援装置。
JP2009034745A 2009-02-18 2009-02-18 フォークリフトの荷役支援装置 Pending JP2010189130A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009034745A JP2010189130A (ja) 2009-02-18 2009-02-18 フォークリフトの荷役支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009034745A JP2010189130A (ja) 2009-02-18 2009-02-18 フォークリフトの荷役支援装置

Publications (1)

Publication Number Publication Date
JP2010189130A true JP2010189130A (ja) 2010-09-02

Family

ID=42815627

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009034745A Pending JP2010189130A (ja) 2009-02-18 2009-02-18 フォークリフトの荷役支援装置

Country Status (1)

Country Link
JP (1) JP2010189130A (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015202956A (ja) * 2014-04-16 2015-11-16 ニチユ三菱フォークリフト株式会社 荷役車両
JP2016013924A (ja) * 2015-10-28 2016-01-28 ニチユ三菱フォークリフト株式会社 荷役車両
CN106672859A (zh) * 2017-01-05 2017-05-17 深圳市有光图像科技有限公司 一种基于叉车视觉识别托盘的方法及叉车
JP2018020881A (ja) * 2016-08-03 2018-02-08 トヨタ自動車株式会社 フォークリフト制御装置
CN109279542A (zh) * 2018-10-22 2019-01-29 广州微牌智能科技有限公司 叉车入叉方法、装置、计算机设备和存储介质
US10414640B2 (en) 2015-04-16 2019-09-17 Kabushiki Kaisha Toyota Jidoshokki Forklift
JP2020023397A (ja) * 2018-08-07 2020-02-13 住友ナコ フォ−クリフト株式会社 搬送装置
JP2020040790A (ja) * 2018-09-11 2020-03-19 三菱ロジスネクスト株式会社 情報処理装置および情報処理方法
JP2020045219A (ja) * 2018-09-19 2020-03-26 三菱ロジスネクスト株式会社 差込制御装置および差込制御方法
JP2020107322A (ja) * 2018-12-27 2020-07-09 北京曠視機器人技術有限公司Beijing Kuangshi Robotics Technology Co., Ltd. 運搬ロボット、商品棚、倉庫保管システム及び商品棚運搬方法
JP2021116140A (ja) * 2020-01-23 2021-08-10 三菱ロジスネクスト株式会社 無人フォークリフトおよび荷役システム
KR20230013413A (ko) * 2021-07-19 2023-01-26 (주)러셀로보틱스 자율 주행 지게차의 포킹 높이 제어 방법 및 서버
JP7504147B2 (ja) 2021-10-29 2024-06-21 三菱ロジスネクスト株式会社 無人フォークリフトの初期設定方法、調整用パレット、無人フォークリフトの調整システム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59116399U (ja) * 1983-01-24 1984-08-06 日立造船株式会社 フオ−クリフトトラツク
JPH05186200A (ja) * 1992-01-16 1993-07-27 Toyota Autom Loom Works Ltd フォークリフトの荷取制御装置
JPH09102039A (ja) * 1995-10-05 1997-04-15 Nippon Steel Corp テンプレートマッチング方法
JP2003028614A (ja) * 2001-07-12 2003-01-29 Toyota Industries Corp 位置検出方法、位置検出装置、産業車両、マーク、荷役用パレット、荷役用棚、貼付用シート及び荷役システム
JP2003030653A (ja) * 2001-07-18 2003-01-31 Shinkawa Ltd 画像処理方法、同装置、およびボンディング装置
JP2004095657A (ja) * 2002-08-29 2004-03-25 Hitachi High-Technologies Corp 半導体検査装置
JP2007084162A (ja) * 2005-09-20 2007-04-05 Toyota Industries Corp フォークリフトにおける荷役作業支援装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59116399U (ja) * 1983-01-24 1984-08-06 日立造船株式会社 フオ−クリフトトラツク
JPH05186200A (ja) * 1992-01-16 1993-07-27 Toyota Autom Loom Works Ltd フォークリフトの荷取制御装置
JPH09102039A (ja) * 1995-10-05 1997-04-15 Nippon Steel Corp テンプレートマッチング方法
JP2003028614A (ja) * 2001-07-12 2003-01-29 Toyota Industries Corp 位置検出方法、位置検出装置、産業車両、マーク、荷役用パレット、荷役用棚、貼付用シート及び荷役システム
JP2003030653A (ja) * 2001-07-18 2003-01-31 Shinkawa Ltd 画像処理方法、同装置、およびボンディング装置
JP2004095657A (ja) * 2002-08-29 2004-03-25 Hitachi High-Technologies Corp 半導体検査装置
JP2007084162A (ja) * 2005-09-20 2007-04-05 Toyota Industries Corp フォークリフトにおける荷役作業支援装置

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015202956A (ja) * 2014-04-16 2015-11-16 ニチユ三菱フォークリフト株式会社 荷役車両
US10414640B2 (en) 2015-04-16 2019-09-17 Kabushiki Kaisha Toyota Jidoshokki Forklift
JP2016013924A (ja) * 2015-10-28 2016-01-28 ニチユ三菱フォークリフト株式会社 荷役車両
JP2018020881A (ja) * 2016-08-03 2018-02-08 トヨタ自動車株式会社 フォークリフト制御装置
CN106672859A (zh) * 2017-01-05 2017-05-17 深圳市有光图像科技有限公司 一种基于叉车视觉识别托盘的方法及叉车
JP2020023397A (ja) * 2018-08-07 2020-02-13 住友ナコ フォ−クリフト株式会社 搬送装置
JP7300646B2 (ja) 2018-08-07 2023-06-30 住友ナコ フォ-クリフト株式会社 搬送装置
JP2020040790A (ja) * 2018-09-11 2020-03-19 三菱ロジスネクスト株式会社 情報処理装置および情報処理方法
JP2020045219A (ja) * 2018-09-19 2020-03-26 三菱ロジスネクスト株式会社 差込制御装置および差込制御方法
CN109279542A (zh) * 2018-10-22 2019-01-29 广州微牌智能科技有限公司 叉车入叉方法、装置、计算机设备和存储介质
JP2020107322A (ja) * 2018-12-27 2020-07-09 北京曠視機器人技術有限公司Beijing Kuangshi Robotics Technology Co., Ltd. 運搬ロボット、商品棚、倉庫保管システム及び商品棚運搬方法
JP2021116140A (ja) * 2020-01-23 2021-08-10 三菱ロジスネクスト株式会社 無人フォークリフトおよび荷役システム
KR20230013413A (ko) * 2021-07-19 2023-01-26 (주)러셀로보틱스 자율 주행 지게차의 포킹 높이 제어 방법 및 서버
KR102598941B1 (ko) 2021-07-19 2023-11-07 (주)러셀로보틱스 자율 주행 지게차의 포킹 높이 제어 방법 및 서버
JP7504147B2 (ja) 2021-10-29 2024-06-21 三菱ロジスネクスト株式会社 無人フォークリフトの初期設定方法、調整用パレット、無人フォークリフトの調整システム

Similar Documents

Publication Publication Date Title
JP2010189130A (ja) フォークリフトの荷役支援装置
JP3785061B2 (ja) 荷役クレーンにおけるコンテナ位置検知方法及び装置並びにコンテナ着床、段積制御方法
US10981764B2 (en) Industrial truck having a fork and a fork arm camera and method for operating such an industrial truck
JP2009035403A (ja) 搬送システム、及び該搬送システムにおける教示方法
CN111032561B (zh) 起重机装置
JP2008074613A (ja) 移載システム
CN109748023B (zh) 输送装置
JP2021042070A (ja) 位置姿勢推定装置
US20220375206A1 (en) Unmanned forklift
KR20150098508A (ko) 무인 자동 운반장치
JP6040576B2 (ja) スタッカクレーン
JP5765577B2 (ja) スタッカークレーン
WO2010010977A1 (en) Apparatus for handling container and skew resistance system thereof
JP2855147B2 (ja) 視覚付無人車
JP5372422B2 (ja) 搬送台車用ワーク移載装置
JP6974921B2 (ja) 無人フォークリフト及びその荷役方法
JP2022179331A (ja) 無人フォークリフト
JP4419782B2 (ja) スタッカクレーン
JP2022112068A (ja) 荷取支援装置、搬送装置、荷取支援方法及び荷取支援プログラム
CN114275712A (zh) 一种堆垛装置及堆垛方法
JP2005001844A (ja) フォークリフトの荷役補助装置
CN114589111A (zh) 一种agv小车柔性物料输送系统及物料接驳方法
KR20190056898A (ko) 파레트형 이동 적재장치
CN112703167B (zh) 集装箱起重机装置及集装箱起重机装置的控制方法
JP2003034495A (ja) 産業車両における荷役制御装置及び産業車両

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Effective date: 20110720

Free format text: JAPANESE INTERMEDIATE CODE: A131

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110721

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111116