JP2020023397A - 搬送装置 - Google Patents

搬送装置 Download PDF

Info

Publication number
JP2020023397A
JP2020023397A JP2019145554A JP2019145554A JP2020023397A JP 2020023397 A JP2020023397 A JP 2020023397A JP 2019145554 A JP2019145554 A JP 2019145554A JP 2019145554 A JP2019145554 A JP 2019145554A JP 2020023397 A JP2020023397 A JP 2020023397A
Authority
JP
Japan
Prior art keywords
pallet
distance
transport device
image
detection target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019145554A
Other languages
English (en)
Other versions
JP7300646B2 (ja
Inventor
日南 敦史
Atsushi Hinami
敦史 日南
雄士 鈴木
Yuji Suzuki
雄士 鈴木
賢司 寺林
Kenji Terabayashi
賢司 寺林
海音 福井
Kaito Fukui
海音 福井
亮 笹木
Akira Sasaki
亮 笹木
彪雅 浅井
Hyoga Asai
彪雅 浅井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyama University
Sumitomo Nacco Forklift Co Ltd
Original Assignee
Toyama University
Sumitomo Nacco Forklift Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyama University, Sumitomo Nacco Forklift Co Ltd filed Critical Toyama University
Publication of JP2020023397A publication Critical patent/JP2020023397A/ja
Application granted granted Critical
Publication of JP7300646B2 publication Critical patent/JP7300646B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Forklifts And Lifting Vehicles (AREA)

Abstract

【課題】オペレータの操作を支援可能な搬送装置を提供する。【解決手段】距離画像取得部330は、画素値が距離を表す距離画像D2を取得する。識別器340は、距離画像D2にもとづいてパレットまたはパレットの特定部位を特定できるように機械学習により構成されている。【選択図】図4

Description

本発明は、パレットを搬送対象とする搬送装置に関する。
フォークリフトなどの搬送装置は、予め決められた形状を有するパレットを搬送対象とする。パレットには、穴(フォークポケット)が設けられており、搬送装置には、フォークポケットに挿入可能なフォークが設けられる。
搬送装置のオペレータは、フォークの高さを調節し、ステアリング操作を行いながら搬送装置を走行させて、フォークポケットにフォークを挿入する必要がある。
特開2017−151650号公報
ところが不慣れなオペレータにとって、フォークを、うまくフォークポケットに挿入することは容易でない。もし、フォークがフォークポケット以外の場所に衝突すると、パレット上の荷物が崩れるかもしれない。またフォークポケットにフォークが挿入されたとしても、フォークポケットの内壁にフォークがぶつかると、パレットがずれたり、フォークに好ましくない応力が加わるおそれがある。
本発明は係る課題に鑑みてなされたものであり、そのある態様の例示的な目的のひとつは、オペレータの操作を支援可能な搬送装置の提供にある。
本発明のある態様は、搬送装置に関する。搬送装置は、測距センサと、(i)測距センサの出力にもとづいて画素値が距離を表す距離画像を取得可能であり、(ii)距離画像にもとづいて、パレットまたはパレットの特定部位である検出対象を特定できるように機械学習により得られた識別器を有する演算部と、を備える。
TOF(Time Of Flight)センサ、LiDAR(Light Detection and Ranging)、ステレオカメラやストラクチャカメラなどの測距センサにより得られる3次元点群データを、2次元の距離画像にマッピングし、距離画像を入力とする識別器を構成することにより、パレットあるいはその部位の特定の精度を高めることができる。そして得られた検出結果を、搬送装置の動作に反映させ、あるいはオペレータに通知することにより、オペレータを支援することができる。
検出対象は、パレットの穴と穴を区切る桁を含んでもよい。パレットには、さまざまな形状や構造が存在するところ、それらには穴と穴を区切る桁が共通して存在する。そこで、桁を検出対象とした識別器を搭載することで、さまざまなパレットについて、穴の位置を検出できる。
演算部は、予め保持しているパレットの幾何学的な情報にもとづいて、穴の位置を特定してもよい。
検出対象であるパレットまたはパレットの特定部位を特定した後に、その結果を利用して、距離画像にもとづいてパレットの穴を特定してもよい。元の距離画像から直接、パレットの穴を特定するように識別器を構成すると、精度が低下する場合がある。そこで、パレットあるいはパレットの特定部位を特定する識別器を構成し、さらにその結果をベースとして穴を特定する識別器を構成することにより、穴の識別精度を高めることができる。
搬送装置は、パレットの穴の位置を、オペレータに視覚的に表示する表示部をさらに備えてもよい。これによりオペレータは表示部を見ることで、直感的に、穴の位置を知ることができる。
搬送装置は、現在の状態で搬送装置を走行させたときに、フォークがパレットの穴に挿入可能か否かをオペレータに通知する通知部をさらに備えてもよい。通知は、視覚的に行ってもよいし、聴覚的に行ってもよい。
演算部は、識別器によって距離画像の中から検出対象の存在位置を示す位置情報を生成してもよい。演算部は、位置情報に応じたテンプレート画像を利用したテンプレートマッチングにより、検出対象の位置を相対的に高い精度で検出してもよい。すなわち前処理として、識別器によって粗い位置検出を行い、特定部位の粗い存在位置あるいは存在範囲を絞り込む。次のステップとして、絞り込まれた範囲内で、存在範囲に適したテンプレート画像を用いたテンプレートマッチングを行うことにより、検出対象の位置を正確に検出できる。
複数のテンプレート画像を予め用意しておいてもよい。演算部は、識別器の出力にもとづいて検出対象の位置を特定し、複数のテンプレート画像の中から、特定した位置に対応するひとつを選択してもよい。
演算部は、テンプレート画像を、検出対象の存在位置にもとづいてリアルタイムで生成してもよい。
なお、以上の構成要素の任意の組み合わせや本発明の構成要素や表現を、方法、装置、システムなどの間で相互に置換したものもまた、本発明の態様として有効である。
本発明によれば、オペレータの操作を支援できる。
搬送装置の一態様であるフォークリフトの外観図を示す斜視図である。 フォークリフトの操縦席の一例を示す図である。 図3(a)〜(h)は、フォークリフトが搬送対象とするパレットを示す図である。 実施の形態に係るフォークリフトの機能ブロック図である。 図5(a)、(b)は、測距センサの設置箇所を説明する図である。 距離画像の一例を示す図である。 図7(a)、(b)は、検出対象である特定部位を模式的に示す図である。 図7(a)の特定部位の距離画像を示す図である。 ディスプレイを利用した運転支援を説明する図である。 変形例1に係るコントローラの一部のブロック図である。 パレットと測距センサの相対的な位置関係を示す図である。 図11の複数のパレットそれぞれを測距センサによって撮影して得られる距離画像を示す図である。 変形例3に係るコントローラのブロック図である。 図14(a)〜(c)は、変形例3に係るコントローラの処理を説明する図である。 図15(a)〜(c)は、変形例4に係るコントローラの処理を説明する図である。
以下、本発明を好適な実施の形態をもとに図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施の形態は、発明を限定するものではなく例示であって、実施の形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。
図1は、搬送装置の一態様であるフォークリフトの外観図を示す斜視図である。フォークリフト600は、車体(シャーシ)602、フォーク604、昇降体(リフト)606、マスト608、車輪610、612を備える。マスト608は車体602の前方に設けられる。昇降体606は、油圧アクチュエータ(図1に不図示)などの動力源によって駆動され、マスト608に沿って昇降する。昇降体606には、荷物を支持するためのフォーク604が取り付けられている。フォークリフト600は、2本のフォーク604が図示しないパレットの穴(フォークポケット)に挿入された状態で、パレットを搬送する。
図2は、フォークリフトの操縦席700の一例を示す図である。操縦席700は、イグニッションスイッチ702、ステアリングホイール704、リフトレバー706、アクセルペダル708、ブレーキペダル710、ダッシュボード714、前後進レバー712を備える。
イグニッションスイッチ702は、フォークリフト600の起動用のスイッチである。ステアリングホイール704は、フォークリフト600の操舵を行うための操作手段である。リフトレバー706は、昇降体606を上下に移動させるための操作手段である。アクセルペダル708は、走行用の車輪の回転を制御する操作手段であり、オペレータが踏み込み量を調節することでフォークリフト600の走行が制御される。オペレータがブレーキペダル710を踏み込むと、ブレーキがかかる。前後進レバー712は、フォークリフト600の走行方向を、前進と後進で切りかえるためのレバーである。そのほか、図示しないインチングペダルが設けられてもよい。
オペレータは、車体の位置制御に関して、ステアリングホイール704とアクセルペダル708、ブレーキペダル710を操作し、フォーク604の位置制御に関して、リフトレバー706を操作する必要がある。
図3(a)〜(h)は、フォークリフト600が搬送対象とするパレットを示す図である。パレット800は、上板806、穴802、桁804を有する。パレット800の形状は、JIS規格により定められるほか、目的や用途に応じて多種多様な形状のものが存在する。図3(a)〜(h)はそれぞれ、JIS規格でS2,SU2,DP4,R4,RW2,D2,DU2,D4と表記される。図3(a)〜(h)に示すように、一概にパレットといっても、さまざまな形状、構造が存在しており、不慣れなオペレータにとって、複数の操作入力手段(704,706,708,710,706)を正確に操作して、フォークポケットに正確にフォークを挿入することは容易でない。
以下では、パレットの荷すくい動作を支援可能な構成について説明する。図4は、実施の形態に係るフォークリフト300の機能ブロック図である。図4には、荷すくい動作の支援に関連するブロックのみが示され、その他のブロックは省略している。
フォークリフト300は、測距センサ302、カメラ303、通知手段304、コントローラ310を備える。測距センサ302は、フォークリフト前方300に取り付けられ、車両前方の距離情報を取得する。その限りでないが測距センサ302としては、ToFカメラ、LiDAR、ストラクチャードライト法を用いたセンサ、ステレオカメラなどを用いることができる。測距センサ302は、車両前方に位置する構造物や物品等の3次元点群データを含む測距データD1を生成する。
図5(a)、(b)は、測距センサ302の設置箇所を説明する図である。図5(a)は、上から見た図である。フォークを挿入すべき穴の位置を検出する必要があることから、左右方向に関して、測距センサ302は、2本のフォークの中央に配置することが好ましい。これにより、フォークをパレットに挿入する際に、測距センサ302によって、パレットを正面から撮影することが可能となる。特に、後述のように桁を含む特定部位を検出対象とする場合に、フォークの中央に測距センサ302を配置しておくことで、特定部位の距離画像をうまく撮影することができる。
図5(b)は横から見た図である。上下方向に関しては、302cで示すようにフォーク604と同じ高さとしてもよいが、それよりわずかに上側の位置302a(あるいは下側の位置302b)に設けるとよい。これにより、パレット800の上板806の上面S1(あるいは上板806の下面S2)を確実に捉えることが可能となるからである。また、この位置は、フォークの高さの最終的な調整の局面において、フォークやその他の車両構造物に遮蔽されにくいという利点もある。
図4に戻る。カメラ303は、フォークリフト300の前方を撮影する。カメラ303の撮影した画像データD3は、ディスプレイ306に表示される。なお図4においては、カメラ303と測距センサ302を別個の機能ブロックとして示すが、必ずしもハードウェアとして測距センサ302と独立していることを意味するものでなく、測距センサ302は、カメラ303を兼ねていてもよい。たとえば測距センサ302がTOFカメラやステレオカメラである場合、それから1次的に得られる単眼画像(赤外線強度分布や可視光モノクロ画像、可視光カラー画像)を、画像データD3として用いることができる。
コントローラ310は、フォークリフト300を統合的に制御する。コントローラ310は、距離画像取得部330および識別器340を備える。距離画像取得部330は、点群データを含む測距データD1にもとづいて、距離画像D2を生成する。距離画像D2とは、縦横に複数ピクセルを有する画像データであって、画素値が距離を表すデータをいう。図6は、距離画像の一例を示す図である。なお、測距センサ302の出力が距離データである場合、距離画像取得部330の処理は簡略化され、あるいは省略される。
図4に戻る。識別器340は、距離画像D2にもとづいて、パレットまたはパレットの特定部位を特定できるように、機械学習により構成される。
処理部350は、識別器340の検出結果にもとづいて、パレットの穴の位置を特定する。そして検出した結果にもとづいて、通知手段304を制御し、オペレータに通知する。通知手段304は、ディスプレイ306やスピーカ308を含みうる。ディスプレイ306は、視覚的にパレットの穴の位置やその他の情報をオペレータに通知するために用いられる。スピーカ308は、オペレータに聴覚的にパレットの位置やその他の情報を通知するために用いることができる。通知手段304による通知については後述する。
識別器340および処理部350は、演算処理装置(CPU)やメモリを有するマイコン320と、マイコン320が実行するソフトウェアプログラムで構成することができる。さらに距離画像取得部330も、マイコン320の機能として実装することができる。したがって距離画像取得部330、識別器340、処理部350は、必ずしも別個のハードウェアとして認識されるものではなく、演算処理装置とソフトウェアプログラムの組み合わせにより実現される機能を表す。
あるいは距離画像取得部330と識別器340を別個のハードウェアで構成してもよい。たとえば測距センサ302とマイコン320のインタフェースとして、FPGA(Field Programmable Gate Array)やASIC(Application Specific Integrated Circuit)などのハードウェア(チップ)が搭載される場合がある。この場合、距離画像取得部330の処理を、このハードウェアに実行させてもよい。
以上がフォークリフト300の構成である。このフォークリフト300によれば、測距センサにより得られる距離画像を入力とする識別器を機械学習により構成することにより、パレットあるいはその部位の特定の精度を高めることができる。そして得られた検出結果を、搬送装置の動作に反映させ、あるいはオペレータに通知することにより、オペレータの操作を支援することができる。
なお、パレットやその特定部位を検出する別の方法として、3次元点群データを用いて、特徴的な部位をパターンマッチングによって検出する方法も考えられる。ところがこの方法は、対象物を常に同じ方向から測定する必要があり、特徴的な部位の3次元点群データを高密度に精度よく測ることが難しいという問題点がある。
続いて識別器340の具体例と、その学習について説明する。一実施例において、識別器340は、線形SVM(Support Vector Machine)とHOG(Histograms of Oriented Gradients)特徴量の組み合わせで構成される。線形SVMは、入力が、2クラスのいずれかに属するかを判定可能な識別器として広く用いられる。一般的な画像処理の分野において、線形SVMの入力は、画素値が輝度である画像データであるが、本実施の形態では、距離画像を入力としたところが異なっている。
線形SVMは、2個の穴のペアを直接検出するように学習することもできる。ただし、図3(a)〜(h)に示したように、穴の形状やサイズは、パレットの種類によってさまざまである。具体的には、穴の横幅は、パレットによって異なっている。またパレットは下板を有するものもあれば、有しないものもあり、したがって穴は下側が開放されている場合と閉じている場合がある。このことから、穴を直接的な識別対象として学習した識別器では、十分に高い識別率が得られない場合がある。
そこで本発明者らは、さらなる識別率の改善のために、パレット800の穴802と穴802を区切る桁804に着目し、桁804を含む一部分(特定部位)を検出対象として識別器340を構成することとした。桁804は、パレット800の規格によらずに、パレットの必須の構成要素であり、検出対象として好適であり、高い識別率が期待できる。
図7(a)、(b)は、検出対象である特定部位801を模式的に示す図である。特定部位801は、上板806の一部と、下板808の一部と、桁804および2つの穴802を含む。この特定部位801は、向かい合わせの2個のコの字形状を含むものと把握できる。図8は、図7(a)の特定部位801の距離画像を示す図である。
なお図3(b)等に示すように、下板が存在しないパレットも存在する。そこで図7(b)に示すように、下板808を除いたT字形状を特定部位801として識別器340を学習させてもよい。
処理部350には、パレットの幾何学的な情報が保持されている。処理部350は、識別器340が特定した特定部位801の位置と、幾何学的な情報にもとづいて、演算処理によって、フォークを挿入すべき2個の穴の位置を特定することができる。たとえば、幾何学的な情報は、パレットのセンターの位置(座標)と、穴の位置の相対的な位置関係を含みうる。処理部350は、識別器340の出力にもとづいて、パレット800のセンター位置を検出し、センター位置から、左右に所定量オフセットした位置を、フォークを挿入すべき穴の位置とすることができる。
図7(c)は、別のパレットの一部分を示す図である。パレットは、3個の(あるいはそれより多い)穴を有する場合もあり、その場合、1個のパレットが、2個の(あるいはそれより多い)桁を含み、1個のパレットについて、2個の特定部位801が隣接して検出される場合もありえる。この場合、2個の特定部位801のセンター(すなわち2個の桁804のセンター)を、パレット800全体のセンター位置と判定してもよい。
続いて、通知手段304について説明する。図9は、ディスプレイ306を利用した運転支援を説明する図である。ディスプレイ306には、図4のカメラ303が撮影した画像データD3が表示される。処理部350は、この画像データD3とオーバーラップする形で、パレット800の穴あるいはその外形を強調する図形810を表示してもよい。図9に示すようにカメラ303が撮影する画像データD3には、2本のフォーク604が写っていることが好ましい。これにより、オペレータは、ディスプレイ306を見ながら、フォーク604と穴の位置との相対的な関係を直感的に把握できる。
さらに通知手段304は、現在の状態(ステアリング角、アクセルの開度)でフォークリフトを走行させたときに、フォーク604がパレット800の穴802に挿入可能か否かをオペレータに通知してもよい。この通知は、図9のディスプレイ306を用いて行うことができ、たとえば、挿入可能な場合、図形810を第1の色(たとえば青)で描画し、挿入不可能な場合、図形810を第2の色(たとえば赤)で描画してもよい。
図形810の描画色の制御に加えて、あるいはそれに変えて、スピーカ308を利用して、挿入可能か否かをオペレータに報知してもよい。
以上、本発明を実施例にもとづいて説明した。本発明は上記実施形態に限定されず、種々の設計変更が可能であり、様々な変形例が可能であること、またそうした変形例も本発明の範囲にあることは、当業者に理解されるところである。以下、こうした変形例を説明する。
(変形例1)
図10は、変形例1に係るコントローラ310Aの一部のブロック図である。この変形例では、2個の識別器340,342が用いられる。前段の識別器340は、距離画像D2を入力として受け、パレットまたはパレットの特定部位を識別可能に構成される。後段の識別器342は、識別器340の識別結果を利用して、穴を特定するように学習されている。たとえば前段の識別器340によりパレットが特定されると、距離画像D2のうち、パレットの部分が、後段の識別器342に入力される。後段の識別器342は、局所的な距離画像から、穴を特定可能に構成される。元の距離画像から直接、パレットの穴を特定するように識別器を構成すると、精度が低下する場合がある。そこで、パレットあるいはパレットの特定部位を特定する識別器を構成し、さらにその結果をベースとして穴を特定する識別器を構成することにより、穴の識別精度を高めることができる。この変形例では、処理部350にパレットの幾何学的な情報を保持しなくてよいという利点がある。
(変形例2)
識別器340を多層のニューラルネットワークで構成し、深層学習を用いてもよい。
(変形例3)
測距センサによってある物体(被写体)を撮影する際に、物体と測距センサの位置関係によって、物体の見え方は大きく異なる。図11は、パレット800と測距センサ302の相対的な位置関係を示す図である。たとえばパレット800m#(#=l,c,r)は、測距センサ302と同じ高さに位置しており、パレット800u#は、測距センサ302より高い位置に存在しており、パレット800l#は、測距センサ302より低い位置に存在している。
図12は、図11の各パレット800を測距センサ302によって撮影して得られる距離画像を示す図である。パレット800と測距センサ302の相対的な位置関係に応じて、識別器340による検出対象である特定部位(桁804)の像も大きく異なる。もし、識別器340の学習段階において、特定の位置関係にあるパレット800##(たとえば正対する800mc)の特定部位801##のみを含むような教師データ群を用いて、識別器340の機械学習を行ったとすると、別の位置関係にあるパレット800**(ただし**≠##)の特定部位801**の位置検出精度が低下するおそれがある。この問題は、測距センサ302の視野角が広い場合に顕著に表れる。
フォーク604を、パレット800の穴802に干渉なく挿入するためには、フォーク604とパレット800の相対的な位置を数cmより高い精度で制御する必要があり、そのためには特定部位801を同じ数cmの高い精度で位置検出する必要がある。なお本発明者らが検討したところ、識別器340の学習段階において、さまざまな相対位置関係にあるパレットの特定部位801を撮影しておき、それらを教師データとして機械学習を行うと、識別器340によって特定部位801を見つけやすくなるものの、位置検出精度はそれほど高くならない場合がある。
変形例3ではこの問題を解決し、位置検出精度を高めるための手法を説明する。図13は、変形例3に係るコントローラ310Bのブロック図である。コントローラ310Bは、マイコン320Bを備える。マイコン320Bは、識別器340および処理部350に加えて、パターンマッチング処理部360と、テンプレート画像生成部362を備える。
識別器340については上述したとおりであり、事前の機械学習に得られた予測モデルを用いて、特定部位801を検出可能に構成されている。なお上述のように、この変形例3では、識別器340における特定部位801の位置検出精度がそれほど高くない場合を想定する。
識別器340は、元の距離画像D2のうち検出した特定部位801を含む一部分である、部分距離画像D4を抽出し、パターンマッチング部360に与える。また識別器340は、テンプレート画像生成部362に対して、検出した特定部位の位置情報D5を生成し、テンプレート画像生成部362に供給する。位置情報D5は、検出した特定部位の座標であってもよいし、元の距離画像D2を複数の範囲に分割したときに、特定部位を含む範囲を示すデータであってもよい。
テンプレート画像生成部362は、位置情報D5にもとづいて、テンプレート画像D6を生成する。なおこのテンプレート画像D6は、距離画像であることに留意されたい。位置情報D5が与えられると、特定部位と測距センサ302の相対的な位置関係がわかるため、その位置関係において、測距センサ302によって特定部位を撮影したときに得られるであろう距離画像を推定できる。テンプレート画像生成部362は、この位置関係に応じた距離画像をテンプレート画像としてパターンマッチング部360に供給する。
パターンマッチング部360は、位置情報に応じたテンプレート画像D6を利用して、テンプレートマッチングにより、部分距離画像D4の中から、検出対象である特定部位の位置を検出し、最終的な位置情報D7を出力する。
以上が変形例3に係るコントローラ310Bの構成である。つづてその動作を説明する。図14(a)〜(c)は、変形例3に係るコントローラ310Bの処理を説明する図である。図14(a)は、あるシチュエーションにおいて得られた距離画像D2を示す。この距離画像D2が識別器340に入力され、パレット800の特定部位801が検出される。ただしその位置検出精度はそれほど高くはなく、特定部位801のおおよその位置が検出される。
識別器340が検出した特定部位801の位置を含むように、注目領域(ROI:Region Of Interest)が設定され、ROIが部分距離画像D4としてパターンマッチング部360に供給される。図14(b)には、部分距離画像D4が示される。部分距離画像D4は、特定部位801が存在しうる範囲であり、たとえば識別器340による検出位置Pを中心とする矩形領域とすることができる。
テンプレート画像生成部362には、図14(c)に示すような複数のテンプレート画像D6_1〜D6_Nが用意されている。テンプレート画像生成部362は、複数のテンプレート画像D6_1〜D6_Nの中から、位置情報D5に応じたひとつを選択する。選択されたテンプレート画像D6_iは、特定部位801が存在しうる範囲に適したものとなっている。
図14(d)に示すように、パターンマッチング部360は、テンプレートマッチングにより、部分距離画像D4のなかから、テンプレート画像D6_9を検出し、特定部位801の位置を高精度に検出する。以上がコントローラ310Bの動作である。
このようにコントローラ310Bによれば、前処理として、識別器340によって粗い位置検出を行い、特定部位の粗い存在位置あるいは存在範囲を絞り込む。次のステップとして絞り込まれた範囲内で、存在範囲に適したテンプレート画像を用いたテンプレートマッチングを行うことにより、検出対象の位置を正確に検出できる。
(変形例4)
図15(a)〜(c)は、変形例4に係るコントローラの処理を説明する図である。図15(a)は、あるシチュエーションにおいて得られた距離画像D2を示す。この距離画像D2が識別器340に入力され、パレット800の特定部位801が検出される。ただしその位置検出精度はそれほど高くはない。たとえば距離画像D2は複数の範囲900_1〜900_N(この例ではN=9)に分割されており、識別器340は、複数の範囲900_1〜900_Nのうち、特定部位801を含む範囲900を、注目領域(ROI:Region Of Interest)とし、ROIを部分距離画像D4としてパターンマッチング部360に供給する。またROIの位置を示す位置情報D5を、テンプレート画像生成部362に出力する。
テンプレート画像生成部362には、複数の範囲900_1〜900_9それぞれに対応するテンプレート画像D6_1〜D6_9が用意されている。テンプレート画像生成部362は、現在のROIが9番目の領域であるから、それに対応するテンプレート画像D6_9を選択し、パターンマッチング部360に供給する。
パターンマッチング部360は、テンプレートマッチングにより、部分距離画像D4のなかから、テンプレート画像D6_9を検出し、特定部位801の位置を高精度に検出する。以上がコントローラ310Bの動作である。
このようにコントローラ310Bによれば、前処理として、識別器340によって粗い位置検出を行い、特定部位の粗い存在位置あるいは存在範囲を絞り込む。そして絞り込まれた範囲内で、より適切なテンプレート画像を用いることにより、検出対象の位置を正確に検出できる。
(変形例5)
テンプレート画像生成部362は、テンプレート画像D6を、位置情報D5にもとづいてリアルタイムで生成してもよい。テンプレート画像生成部362には、パレット800の3次元モデルのデータを格納しておく。そして、仮想的な3次元空間内に、測距センサとパレット800のモデルを配置し、測距センサによって撮影されるであろう特定部分の距離画像を生成することができる。この場合、さらに位置検出精度を高めることができる。
(変形例6)
変形例3や4では、測距センサ302とパレット800の、水平方向/垂直方向に関する相対的な位置関係の違いについて議論した。変形例6では、測距センサ302とパレット800の奥行き方向の距離の違いについて検討する。測距センサ302からの見え方は、パレット800と測距センサ302の奥行き方向の距離によっても変化する。たとえばパレット800と測距センサ302が正対する場合であっても、それらの距離が変化すると、特定部位801の距離画像の大きさが変化する。
そこで位置情報D5は、測距センサ302と特定部位801の奥行き方向の距離情報を含んでもよい。テンプレート画像生成部362は、奥行き方向の距離に応じたテンプレート画像を生成することができる。最も簡易には、奥行きの方向の距離に応じてテンプレート画像を拡大・縮小してもよい。
(変形例7)
実施の形態では搬送装置としてフォークリフトを例に説明したが、本発明の適用はその限りでなく、ハンドリフト(ハンドパレット)やAGV(Automatic Guided Vehicle)、フォークローダー(フォーク付きのホイルローダー)など、パレットを取り扱うさまざまな搬送装置に適用することができる。
600 フォークリフト
602 車体
604 フォーク
606 昇降体
608 マスト
610 前輪
612 後輪
700 操縦席
702 イグニッションスイッチ
704 ステアリングホイール
706 リフトレバー
708 アクセルペダル
710 ブレーキペダル
712 前後進レバー
714 ダッシュボード
300 フォークリフト
302 測距センサ
303 カメラ
304 通知手段
306 ディスプレイ
308 スピーカ
310 コントローラ
320 マイコン
330 距離画像取得部
340 識別器
350 処理部
360 パターンマッチング部
362 テンプレート画像生成部
D1 測距データ
D2 距離画像
D3 画像データ
D4 部分距離画像
D5 位置情報
D6 テンプレート画像
800 パレット
801 特定部位
802 穴
804 桁

Claims (9)

  1. 測距センサと、
    (i)前記測距センサの出力にもとづいて画素値が距離を表す距離画像を取得可能であり、(ii)前記距離画像にもとづいて、パレットまたはパレットの特定部位である検出対象を特定できるように機械学習により構成された識別器を有する演算部と、
    を備えることを特徴とする搬送装置。
  2. 前記検出対象は、前記パレットの穴と穴を区切る桁を含むことを特徴とする請求項1に記載の搬送装置。
  3. 前記演算部は、予め保持している前記パレットの幾何学的な情報にもとづいて、前記穴の位置を特定することを特徴とする請求項2に記載の搬送装置。
  4. 前記検出対象を特定した後に、その結果を利用して、前記距離画像にもとづいて前記パレットの穴を特定することを特徴とする請求項1に記載の搬送装置。
  5. 前記パレットの穴の位置を、オペレータに視覚的に表示する表示部をさらに備えることを特徴とする請求項1から4のいずれかに記載の搬送装置。
  6. 現在の状態で前記搬送装置を走行させたときに、フォークが前記パレットの穴に挿入可能か否かをオペレータに通知する通知部をさらに備えることを特徴とする請求項1から4のいずれかに記載の搬送装置。
  7. 前記演算部は、前記識別器によって前記距離画像の中から前記検出対象の存在位置を示す位置情報を生成し、
    前記演算部は、前記位置情報に応じたテンプレート画像を利用したテンプレートマッチングにより、前記検出対象の位置を相対的に高い精度で検出することを特徴とする請求項1から6のいずれかに記載の搬送装置。
  8. 複数の前記テンプレート画像が予め用意されており、
    前記演算部は、前記識別器の出力にもとづいて前記検出対象の位置を特定し、前記複数のテンプレート画像の中から、特定した位置に対応するひとつを選択することを特徴とする請求項7に記載の搬送装置。
  9. 前記演算部は、前記テンプレート画像を、前記検出対象の存在位置にもとづいてリアルタイムで生成することを特徴とする請求項7に記載の搬送装置。
JP2019145554A 2018-08-07 2019-08-07 搬送装置 Active JP7300646B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018148358 2018-08-07
JP2018148358 2018-08-07

Publications (2)

Publication Number Publication Date
JP2020023397A true JP2020023397A (ja) 2020-02-13
JP7300646B2 JP7300646B2 (ja) 2023-06-30

Family

ID=69618232

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019145554A Active JP7300646B2 (ja) 2018-08-07 2019-08-07 搬送装置

Country Status (1)

Country Link
JP (1) JP7300646B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220051461A (ko) * 2020-10-19 2022-04-26 시그널시스템 주식회사 파렛트 홀 검출 장치 및 검출 방법
WO2023033550A1 (ko) * 2021-08-31 2023-03-09 주식회사 파인에스엔에스 영상 분석 기반 지게차 인터페이스 제공 장치 및 그 동작 방법
US12055943B2 (en) 2020-08-31 2024-08-06 Mitsubishi Logisnext Co., LTD. Pallet detection device, forklift, pallet detection method, and program
JP7544649B2 (ja) 2021-03-31 2024-09-03 住友重機械工業株式会社 荷役システム

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10143659A (ja) * 1996-11-06 1998-05-29 Komatsu Ltd 物体検出装置
JP2005346654A (ja) * 2004-06-07 2005-12-15 Glory Ltd 画像認識装置、画像認識方法およびその方法をコンピュータに実行させるプログラム
JP2007084162A (ja) * 2005-09-20 2007-04-05 Toyota Industries Corp フォークリフトにおける荷役作業支援装置
JP2010189130A (ja) * 2009-02-18 2010-09-02 Nippon Yusoki Co Ltd フォークリフトの荷役支援装置
JP2015225453A (ja) * 2014-05-27 2015-12-14 村田機械株式会社 物体認識装置及び物体認識方法
US20160090283A1 (en) * 2014-09-25 2016-03-31 Bt Products Ab Fork-Lift Truck
JP2017151650A (ja) * 2016-02-23 2017-08-31 村田機械株式会社 物体状態特定方法、物体状態特定装置、および、搬送車
US20170316253A1 (en) * 2016-04-27 2017-11-02 Crown Equipment Corporation Pallet detection using units of physical length

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10143659A (ja) * 1996-11-06 1998-05-29 Komatsu Ltd 物体検出装置
JP2005346654A (ja) * 2004-06-07 2005-12-15 Glory Ltd 画像認識装置、画像認識方法およびその方法をコンピュータに実行させるプログラム
JP2007084162A (ja) * 2005-09-20 2007-04-05 Toyota Industries Corp フォークリフトにおける荷役作業支援装置
JP2010189130A (ja) * 2009-02-18 2010-09-02 Nippon Yusoki Co Ltd フォークリフトの荷役支援装置
JP2015225453A (ja) * 2014-05-27 2015-12-14 村田機械株式会社 物体認識装置及び物体認識方法
US20160090283A1 (en) * 2014-09-25 2016-03-31 Bt Products Ab Fork-Lift Truck
JP2017151650A (ja) * 2016-02-23 2017-08-31 村田機械株式会社 物体状態特定方法、物体状態特定装置、および、搬送車
US20170316253A1 (en) * 2016-04-27 2017-11-02 Crown Equipment Corporation Pallet detection using units of physical length

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12055943B2 (en) 2020-08-31 2024-08-06 Mitsubishi Logisnext Co., LTD. Pallet detection device, forklift, pallet detection method, and program
KR20220051461A (ko) * 2020-10-19 2022-04-26 시그널시스템 주식회사 파렛트 홀 검출 장치 및 검출 방법
KR102409821B1 (ko) * 2020-10-19 2022-06-20 시그널시스템 주식회사 파렛트 홀 검출 장치 및 검출 방법
JP7544649B2 (ja) 2021-03-31 2024-09-03 住友重機械工業株式会社 荷役システム
WO2023033550A1 (ko) * 2021-08-31 2023-03-09 주식회사 파인에스엔에스 영상 분석 기반 지게차 인터페이스 제공 장치 및 그 동작 방법

Also Published As

Publication number Publication date
JP7300646B2 (ja) 2023-06-30

Similar Documents

Publication Publication Date Title
JP7300646B2 (ja) 搬送装置
KR102629651B1 (ko) 신경망 이미지 프로세싱을 사용하는 3d 경계 박스들로서의 직접 차량 검출
KR102326097B1 (ko) 물리적 길이의 단위를 사용하는 팔렛 검출
JP6013884B2 (ja) 物体検出装置及び物体検出方法
JP6233345B2 (ja) 路面勾配検出装置
US8908924B2 (en) Exterior environment recognition device and exterior environment recognition method
CN104956400B (zh) 移动对象识别器、车辆及识别移动对象的方法
JP6649796B2 (ja) 物体状態特定方法、物体状態特定装置、および、搬送車
US11410430B2 (en) Surround view system having an adapted projection surface
US20200311964A1 (en) Object detection device and object detection method
CN110893085A (zh) 清洁机器人及其充电路径决定方法
US12065341B2 (en) Operation assisting apparatus for load handling vehicle
JP7029728B2 (ja) 搬送システム、搬送装置、計算機、学習方法
JPWO2019163378A5 (ja)
JP4466963B2 (ja) 車両前方画像表示装置及び方法
US20230237809A1 (en) Image processing device of person detection system
JP7192706B2 (ja) 位置姿勢推定装置
CN112611360A (zh) 物体检测装置、车辆及物体检测处理方法
WO2022004495A1 (ja) 障害物検出装置及び障害物検出方法
JP7236705B2 (ja) 搬送装置の学習に使用する教師データの生成方法
JP2018178878A (ja) 産業車両
JP2020142903A (ja) 画像処理装置、および制御プログラム
JP2022152449A (ja) 搬送装置の学習に使用する教師データの生成方法
EP4216177A1 (en) Image processing device of person detection system
JP7057053B1 (ja) 荷役システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190808

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230530

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230609

R150 Certificate of patent or registration of utility model

Ref document number: 7300646

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150