JP7322800B2 - 認識装置 - Google Patents

認識装置 Download PDF

Info

Publication number
JP7322800B2
JP7322800B2 JP2020083196A JP2020083196A JP7322800B2 JP 7322800 B2 JP7322800 B2 JP 7322800B2 JP 2020083196 A JP2020083196 A JP 2020083196A JP 2020083196 A JP2020083196 A JP 2020083196A JP 7322800 B2 JP7322800 B2 JP 7322800B2
Authority
JP
Japan
Prior art keywords
image
hue
recognition
marker
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020083196A
Other languages
English (en)
Other versions
JP2021179667A (ja
Inventor
達也 三田
力 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Industries Corp
Original Assignee
Toyota Industries Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Industries Corp filed Critical Toyota Industries Corp
Priority to JP2020083196A priority Critical patent/JP7322800B2/ja
Publication of JP2021179667A publication Critical patent/JP2021179667A/ja
Application granted granted Critical
Publication of JP7322800B2 publication Critical patent/JP7322800B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、認識装置に関する。
従来の認識装置としては、例えば特許文献1に記載されているような技術が知られている。特許文献1に記載の認識装置は、撮像部によってRGBによるカラー画像を取得し、RGBによるカラー画像を、色相、彩度及び明度の各成分情報を有するカラー画像に変換し、各成分情報を有するカラー画像から赤・青・黄の色相成分情報を有する色相画像を生成し、道路標識に原則として使用されていない緑に対応する色相値を色相環の0度の位置(基準値)にシフトし、道路標識を認識する。
特開2004-213127号公報
ところで、自動運転フォークリフトでは、屋内外の任意の位置に置かれたパレットの荷取りが行われる。この場合、例えば白黒のマーカ(認識対象)をパレットに取り付け、マーカをカメラで撮像して画像処理を行うことで、マーカを認識し、マーカの3次元位置を推定している。しかし、晴天の屋外下では、マーカの一部に影がかかると、マーカの白及び黒が不明瞭になるため、マーカの認識精度が低下する。
本発明の目的は、屋外下における認識対象の認識精度を向上させることができる認識装置を提供することである。
本発明の一態様は、2色からなる認識対象を認識する認識装置であって、認識対象を撮像してRGBカラー画像を取得するカラー用撮像部と、カラー用撮像部により取得されたRGBカラー画像を、色相、彩度及び明度を含む色空間における色相環上の対角の色に対応する画像に変換する画像変換部と、画像変換部により変換された色空間における色相環上の対角の色に対応する画像に基づいて、色相環上の対角の色からなる色相画像を生成する色相画像生成部と、色相画像生成部により生成された色相画像を用いて認識対象を認識する認識部とを備える。
このような認識装置においては、カラー用撮像部によって2色からなる認識対象が撮像されて、RGBカラー画像が取得される。そして、RGBカラー画像が色相、彩度及び明度を含む色空間における色相環上の対角の色に対応する画像に変換され、その画像に基づいて、色相環上の対角の色からなる色相画像が生成される。そして、色相画像を用いて認識対象が認識される。ここで、色空間における色相は、影等による明暗の影響を受けにくい。このため、影等の影響を殆ど受けずに、認識対象の認識を行うことが可能となる。また、色相環上の対角の色からなる色相画像が生成されるため、影等に関わらず、2色の違いが鮮明な色相画像が得られる。これにより、屋外下における認識対象の認識精度が向上する。
認識装置は、色相画像生成部により生成された色相画像をグレースケール化するグレースケール変換部を更に備え、認識部は、グレースケール変換部によりグレースケール化して得られた画像に基づいて、認識対象を認識してもよい。このような構成では、2色の違いがより鮮明な白黒画像が得られるため、認識対象の認識精度が更に向上する。
認識対象は白黒2色からなってもよい。この場合には、安価な認識対象を容易に得ることができる。
本発明によれば、屋外下における認識対象の認識精度を向上させることができる。
本発明の一実施形態に係る認識装置を備えた走行制御装置の概略構成を示すブロック図である。 図1に示された走行制御装置が適用されるフォークリフトの前側部分の外観を示す斜視図である。 図2に示されたフォークリフトにより荷役が行われるメッシュパレットを示す正面図である。 図1に示された画像変換部により得られるHSV画像の一例を示す図である。 図1に示された色相画像生成部により得られる色相画像の一例を示す図である。 図1に示されたグレースケール変換部により得られる白黒画像の一例を示す図である。
以下、本発明の実施形態について図面を参照して詳細に説明する。
図1は、本発明の一実施形態に係る認識装置を備えた走行制御装置の概略構成を示すブロック図である。図1において、走行制御装置1は、フォークリフト2(図2参照)の自動走行を制御する装置である。
フォークリフト2は、メッシュパレット3(図3参照)の荷役を行う産業車両である。フォークリフト2は、図2に示されるように、車体4と、この車体4の下部に回転可能に取り付けられた複数の車輪5と、車体4の前側に配置された荷役装置6とを備えている。車体4の前側に位置する車輪5は、駆動輪である。車体4の後側に位置する車輪5(図示せず)は、操舵輪である。荷役装置6は、車体4の前端部に連結されたマスト7と、このマスト7にリフトブラケット8を介して昇降可能に支持された1対のフォーク9とを有している。
メッシュパレット3は、図3に示されるように、メッシュ状(網状)に構成されたパレット本体10と、このパレット本体10の下部に取り付けられた4つの脚部11とを有している。メッシュパレット3の前面(正面)の下部には、メッシュパレット3の左右方向に延びるプレート12が取り付けられている。
プレート12には、認識対象である2枚の位置検知用のマーカ13が貼り付けられている。マーカ13は、プレート12の左右両端部に貼り付けられている。マーカ13は、白黒模様からなっている。マーカ13の形状は、四角形状である。なお、マーカ13の数としては、特に2枚には限られず、1枚でもよい。この場合には、プレート12の中央部にマーカ13が貼り付けられる。
図1に戻り、走行制御装置1は、カラーカメラ15と、コントローラ16と、走行モータ17と、操舵モータ18とを備えている。
カラーカメラ15は、メッシュパレット3に設けられたマーカ13を撮像して、マーカ13のRGBカラー画像を取得するカラー用撮像部である。カラーカメラ15は、図2に示されるように、リフトブラケット8の車幅方向の中央部に取付板19を介して取り付けられている。
コントローラ16は、CPU、RAM、ROM及び入出力インターフェース等により構成されている。コントローラ16は、カラーカメラ15により取得されたマーカ13のRGBカラー画像に基づいて、マーカ13の3次元位置を推定し、フォークリフト2をメッシュパレット3の荷取り位置まで走行させるように走行モータ17及び操舵モータ18を制御する。メッシュパレット3の荷取り位置は、フォークリフト2のフォーク9がメッシュパレット3を荷取りすることが可能な位置である。
走行モータ17は、フォークリフト2の前側に配置された車輪5(駆動輪)を回転させるモータである。操舵モータ18は、フォークリフト2の後側に配置された車輪5(操舵輪)を転舵させるモータである。
コントローラ16は、画像処理部20と、画像変換部21と、色相画像生成部22と、グレースケール変換部23と、マーカ認識部24と、経路生成部25と、駆動制御部26とを有している。
画像処理部20は、カラーカメラ15により取得されたRGBカラー画像を画像処理する。RGBカラー画像の画像処理としては、RGBカラー画像の2値化及び特徴抽出等がある。
画像変換部21は、図4に示されるように、画像処理部20により画像処理が行われたRGBカラー画像を、色相(Hue)、彩度(Saturation・Chroma)及び明度(Value・Brightness)を含むHSV色空間における色相環上の対角の色に対応する画像であるHSV画像Zaに変換する。
色相は、色の種類であり、0~360度の角度で表される。色相環上の対角の色としては、例えば赤と水色が用いられる。赤の色相は0度であり、水色の色相は180度である。なお、彩度は、色の鮮やかさであり、0~100%で表される。明度は、色の明るさであり、0~100%で表される。
図4において、領域R1は、HSV画像Zaの赤の部分のうち影が映っていない領域である。領域R1のRGB座標は、(255,0,0)で表される。領域R1*は、HSV画像Zaの赤の部分のうち影が映っている領域である。領域R1*のRGB座標は、(151,0,0)で表される。領域LB1は、HSV画像Zaの水色のうち影が映っていない領域である。領域LB1のRGB座標は、(0,255,255)で表される。領域LB1*は、HSV画像Zaの水色のうち影が映っている領域である。領域LB1*のRGB座標は、(0,120,120)で表される。
色相画像生成部22は、図5に示されるように、画像変換部21により変換されたHSV色空間における色相環上の対角の色に対応するHSV画像Zaに基づいて、色相環上の対角の色からなる色相画像Zbを生成する。
図5において、領域R2は、色相画像Zbの赤の部分のうち影が映っていない領域である。領域R2の色相Hは、0度である。領域R2*は、色相画像Zbの赤の部分のうち影が映っている領域である。領域R2*の色相Hも、0度である。領域LB2は、色相画像Zbの水色のうち影が映っていない領域である。領域LB2の色相Hは、180度である。領域LB2*は、色相画像Zbの水色のうち影が映っている領域である。領域LB2*の色相Hも、180度である。このように色相画像Zbの色が同じであれば、影の有無に関わらず、色相Hは変化しない。
グレースケール変換部23は、図6に示されるように、色相画像生成部22により生成された色相画像Zbをグレースケール化して、白黒画像Zcを取得する。このとき、色相画像Zbは、赤が0となり、水色が255となるようにグレースケール化される。
マーカ認識部24は、グレースケール変換部23によりグレースケール化して得られた白黒画像Zcに基づいて、マーカ13を認識する。そして、マーカ認識部24は、フォークリフト2に対するマーカ13の3次元位置を推定する。
経路生成部25は、マーカ認識部24により推定されたフォークリフト2に対するマーカ13の3次元位置に基づいて、メッシュパレット3の荷取り位置までのフォークリフト2の走行経路を生成する。
駆動制御部26は、経路生成部25により生成された走行経路に従ってフォークリフト2をメッシュパレット3に向けて走行させるように走行モータ17及び操舵モータ18を制御する。
ここで、カラーカメラ15、コントローラ16の画像処理部20、画像変換部21、色相画像生成部22、グレースケール変換部23及びマーカ認識部24は、本実施形態の認識装置27を構成している。認識装置27は、白黒2色からなるマーカ13を認識する装置である。
ところで、白黒のマーカ13をモノクロカメラで撮像し、その撮像画像を画像処理してマーカ13を認識する場合には、以下の不具合が発生する。即ち、晴天の屋外下で荷役作業を行っているときに、マーカ13の一部に影がかかると、マーカ13の白部分及び黒部分が不明瞭となるため、マーカ13の認識精度が低下してしまう。
例えば、トラック上に置かれたメッシュパレット3の荷役を行う場合、フォークリフト2の後方からの日射があるときに、メッシュパレット3に設けられたマーカ13に影が映ると、マーカ13を認識できなくなる。また、メッシュパレット3のフックの影がマーカ13に映っても、マーカ13を認識できなくなる。
そのような不具合に対し、本実施形態では、カラーカメラ15によって2色からなるマーカ13が撮像されて、RGBカラー画像が取得される。そして、RGBカラー画像が色相、彩度及び明度を含むHSV色空間における色相環上の対角の色に対応するHSV画像に変換され、そのHSV画像に基づいて、色相環上の対角の色からなる色相画像が生成される。そして、色相画像を用いてマーカ13が認識される。ここで、色空間における色相は、影等による明暗の影響を受けにくい。このため、影等の影響を受けずに、マーカ13の認識を行うことが可能となる。また、色相環上の対角の色からなる色相画像が生成されるため、影等に関わらず、2色の違いが鮮明な色相画像が得られる。これにより、屋外下におけるマーカ13の認識精度が向上する。
また、本実施形態では、色相画像をグレースケール化して得られた白黒画像に基づいて、マーカ13が認識される。このように2色の違いがより鮮明な白黒画像が得られるため、マーカ13の認識精度が更に向上する。
また、本実施形態では、白黒2色からなるマーカ13を用いることにより、安価なマーカ13を容易に得ることができる。
なお、本発明は、上記実施形態には限定されない。例えば上記実施形態では、HSV色空間における色相環上の対角の色として、赤と水色が用いられるが、特にそのような形態には限られない。HSV色空間における色相環上の対角の色として、紫と緑を用いてもよいし、或いは黄色と青を用いてもよい。
また、上記実施形態では、色相画像をグレースケール化して得られた白黒画像に基づいて、マーカ13が認識されているが、色相画像からマーカ13の認識が可能であれば、特に色相画像をグレースケール化しなくてもよい。
また、上記実施形態では、マーカ13は白黒2色であるが、特にその形態には限られず、マーカ13は有色2色であってもよいし、或いは白黒の何れか1色と有色1色との組み合わせであってもよい。なお、ここでの2色は、色の種類である色相が2つということである。
また、上記実施形態では、マーカ13はメッシュパレット3に取り付けられているが、マーカ13が取り付けられるパレットとしては、特にメッシュパレット3には限られず、平パレットまたはボックスパレット等であってもよい。また、マーカ13が取り付けられる対象は、特にパレットには限られない。
また、上記実施形態の認識装置27は、フォークリフト2に搭載されているが、本発明は、特にフォークリフト2には限られず、例えば他の産業車両や搬送台車等のような移動体にも適用可能である。
また、上記実施形態の認識装置27は、2色からなるマーカ13が認識されているが、本発明は、特にマーカ13には限られず、例えば道路標識等のような2色からなる認識対象であれば適用可能である。
13…マーカ(認識対象)、15…カラーカメラ(カラー用撮像部)、21…画像変換部、22…色相画像生成部、23…グレースケール変換部、24…マーカ認識部(認識部)、27…認識装置、Za…HSV画像、Zb…色相画像、Zc…白黒画像。

Claims (3)

  1. 2色からなる認識対象を認識する認識装置であって、
    前記認識対象を撮像してRGBカラー画像を取得するカラー用撮像部と、
    前記カラー用撮像部により取得された前記RGBカラー画像を、色相、彩度及び明度を含む色空間における色相環上の対角の色に対応する画像に変換する画像変換部と、
    前記画像変換部により変換された前記色空間における色相環上の対角の色に対応する画像に基づいて、前記色相環上の対角の色からなる色相画像を生成する色相画像生成部と、
    前記色相画像生成部により生成された色相画像を用いて前記認識対象を認識する認識部とを備える認識装置。
  2. 前記色相画像生成部により生成された前記色相画像をグレースケール化するグレースケール変換部を更に備え、
    前記認識部は、前記グレースケール変換部によりグレースケール化して得られた画像に基づいて、前記認識対象を認識する請求項1記載の認識装置。
  3. 前記認識対象は白黒2色からなる請求項1または2記載の認識装置。
JP2020083196A 2020-05-11 2020-05-11 認識装置 Active JP7322800B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020083196A JP7322800B2 (ja) 2020-05-11 2020-05-11 認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020083196A JP7322800B2 (ja) 2020-05-11 2020-05-11 認識装置

Publications (2)

Publication Number Publication Date
JP2021179667A JP2021179667A (ja) 2021-11-18
JP7322800B2 true JP7322800B2 (ja) 2023-08-08

Family

ID=78511519

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020083196A Active JP7322800B2 (ja) 2020-05-11 2020-05-11 認識装置

Country Status (1)

Country Link
JP (1) JP7322800B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004213127A (ja) 2002-12-27 2004-07-29 Toyota Motor Corp 物体認識装置および物体認識方法
JP2006514356A (ja) 2002-12-17 2006-04-27 キネティック リミテッド 画像解析による有糸分裂活動の評価方法
JP2012216029A (ja) 2011-03-31 2012-11-08 Namco Bandai Games Inc プログラム、情報記憶媒体、端末、サーバ、及びマーカー表示体
JP2018525707A (ja) 2015-06-11 2018-09-06 ユニバーシティ オブ ピッツバーグ−オブ ザ コモンウェルス システム オブ ハイヤー エデュケーションUniversity Of Pittsburgh Of The Commonwealth System Of Higher Education ヘマトキシリン・エオシン(h&e)染色組織画像における関心領域を調べて、多重化/高多重化蛍光組織画像で腫瘍内細胞空間的不均一性を定量化するシステム及び方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006514356A (ja) 2002-12-17 2006-04-27 キネティック リミテッド 画像解析による有糸分裂活動の評価方法
JP2004213127A (ja) 2002-12-27 2004-07-29 Toyota Motor Corp 物体認識装置および物体認識方法
JP2012216029A (ja) 2011-03-31 2012-11-08 Namco Bandai Games Inc プログラム、情報記憶媒体、端末、サーバ、及びマーカー表示体
JP2018525707A (ja) 2015-06-11 2018-09-06 ユニバーシティ オブ ピッツバーグ−オブ ザ コモンウェルス システム オブ ハイヤー エデュケーションUniversity Of Pittsburgh Of The Commonwealth System Of Higher Education ヘマトキシリン・エオシン(h&e)染色組織画像における関心領域を調べて、多重化/高多重化蛍光組織画像で腫瘍内細胞空間的不均一性を定量化するシステム及び方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
杉本真崇, 外4名,"地理情報システムのための車載カメラ映像からの道路標識の認識",電子情報通信学会技術研究報告,日本,社団法人電子情報通信学会,2008年06月12日,第108巻, 第94号,p.13-18
石塚裕, 外1名,"Opponent-Colorフィルタを用いた道路交通標識認識システム",電子情報通信学会技術研究報告,日本,社団法人電子情報通信学会,2004年03月11日,第103巻, 第737号,p.13-18

Also Published As

Publication number Publication date
JP2021179667A (ja) 2021-11-18

Similar Documents

Publication Publication Date Title
EP1333003B1 (en) Container position measuring method and device for cargo crane and container landing/stacking method
KR101095579B1 (ko) 모노 비전 기반의 팔레트 위치 및 자세 측정 방법
JP3921968B2 (ja) 位置検出方法及び位置検出装置
CA3033242A1 (en) Real-time hdr video for vehicle control
CN104812693A (zh) 通过货物操纵设备进行货物操纵
CN112938766B (zh) 起重机装置
US11673780B2 (en) Multi-function camera system
JP7322800B2 (ja) 認識装置
US8817140B2 (en) Camera set-up and method for ascertaining picture signals having color values
JP2020060550A (ja) 異常検出装置、異常検出方法、姿勢推定装置、および、移動体制御システム
JP7300646B2 (ja) 搬送装置
JP6845768B2 (ja) エッジ検出装置、エッジ検出方法、及び物品保持装置
JP7351263B2 (ja) 産業車両
US20220318968A1 (en) Image processing device and image processing method
JP7192706B2 (ja) 位置姿勢推定装置
JP7095653B2 (ja) 自動運転フォークリフト用荷置き位置検出装置
JP6965852B2 (ja) 産業車両用遠隔操作システム
CN116134830A (zh) 摄像装置
US10872418B2 (en) Edge detection device, an edge detection method, and an object holding device
JP2022007511A (ja) 認識装置、認識方法、及びマーカ
JP7167834B2 (ja) 障害物・段差検知システム、及び移動体の注意喚起システム
FI127684B (en) Heavy lift truck
JP2022127854A (ja) 位置推定装置
JP2024021834A (ja) 荷役システム
JP4711401B2 (ja) 鋼材の形状認識方法及び装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220809

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230609

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230710

R151 Written notification of patent or utility model registration

Ref document number: 7322800

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151