JPWO2020121626A1 - 画像処理装置、コンピュータプログラム、および画像処理システム - Google Patents

画像処理装置、コンピュータプログラム、および画像処理システム Download PDF

Info

Publication number
JPWO2020121626A1
JPWO2020121626A1 JP2020559747A JP2020559747A JPWO2020121626A1 JP WO2020121626 A1 JPWO2020121626 A1 JP WO2020121626A1 JP 2020559747 A JP2020559747 A JP 2020559747A JP 2020559747 A JP2020559747 A JP 2020559747A JP WO2020121626 A1 JPWO2020121626 A1 JP WO2020121626A1
Authority
JP
Japan
Prior art keywords
label
color
region
image processing
brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020559747A
Other languages
English (en)
Inventor
有里 木下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric Industries Ltd filed Critical Sumitomo Electric Industries Ltd
Publication of JPWO2020121626A1 publication Critical patent/JPWO2020121626A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09FDISPLAYING; ADVERTISING; SIGNS; LABELS OR NAME-PLATES; SEALS
    • G09F3/00Labels, tag tickets, or similar identification or indication means; Seals; Postage or like stamps

Abstract

画像処理装置は、検出対象に取り付けられるラベルを検出する画像処理装置であって、カメラで撮像されたカラーの画像を取得する画像取得部と、カメラの撮像範囲の明るさを判定する明るさ判定部と、明るさ判定部の判定結果に基づいて、所定数以上の色の領域を含むラベルに付される色の中から、1色以上の検出対象色を決定する検出対象色決定部と、画像取得部が取得した画像から、検出対象色決定部が決定した検出対象色の領域を抽出することにより、ラベルを検出するラベル検出部とを備える。

Description

本開示は、画像処理装置、コンピュータプログラム、および画像処理システムに関する。
本出願は、2018年12月12日出願の日本出願第2018−232117号に基づく優先権を主張し、前記日本出願に記載された全ての記載内容を援用するものである。
従来、複数の色領域を含むラベルが物体を認識するために用いられている。例えば、特許文献1には、ラベルの一例として、マークと呼ばれる色領域を複数含む二次元コードが開示されている。二次元コードに含まれるマークの色およびマークの位置により、所定の情報がエンコードされる。つまり、二次元コードは、所定の情報を表す。このため、カメラで二次元コードを撮影した画像から、複数のマークを検出し、検出したマークの色およびマークの位置に基づいて、情報をデコードすることができる。
特開2011−076395号公報
本開示の一実施態様に係る画像処理装置は、検出対象に取り付けられるラベルを検出する画像処理装置であって、カメラで撮像されたカラーの画像を取得する画像取得部と、前記カメラの撮像範囲の明るさを判定する明るさ判定部と、前記明るさ判定部の判定結果に基づいて、所定数以上の色の領域を含む前記ラベルに付される色の中から、1色以上の検出対象色を決定する検出対象色決定部と、前記画像取得部が取得した前記画像から、前記検出対象色決定部が決定した前記検出対象色の領域を抽出することにより、前記ラベルを検出するラベル検出部とを備える。
本開示の他の実施態様に係るコンピュータプログラムは、コンピュータを、検出対象に取り付けられるラベルを検出する画像処理装置として機能させるためのコンピュータプログラムであって、前記コンピュータを、カメラで撮像されたカラーの画像を取得する画像取得部と、前記カメラの撮像範囲の明るさを判定する明るさ判定部と、前記明るさ判定部の判定結果に基づいて、所定数以上の色の領域を含む前記ラベルに付される色の中から、1色以上の検出対象色を決定する検出対象色決定部と、前記画像取得部が取得した前記画像から、前記検出対象色決定部が決定した前記検出対象色の領域を抽出することにより、前記ラベルを検出するラベル検出部として機能させる。
本開示の他の実施態様に係る画像処理システムは、検出対象に取り付けられる、所定数以上の色の領域を含むラベルと、カラーの画像を撮影するカメラと、上述の画像処理装置とを備える。
なお、本開示は、このような特徴的な処理部を備える画像処理装置として実現することができるだけでなく、画像処理装置に含まれる特徴的な処理部が実行する処理をステップとして含む画像処理方法として実現することができる。また、上述のコンピュータプログラムを、CD−ROM(Compact Disc-Read Only Memory)等のコンピュータ読取可能な非一時的な記録媒体やインターネット等の通信ネットワークを介して流通させることができるのは、言うまでもない。また、本開示は、画像処理装置の一部又は全部を実現する半導体集積回路として実現することもできる。
図1は、実施の形態1に係る画像処理システムの取付例を示す図である。 図2は、実施の形態1に係る画像処理システムの構成を示すブロック図である。 図3Aは、人物が被るヘルメットを側方から見た図である。 図3Bは、人物が被るヘルメットを上方から見た図である。 図4は、各色ラベルのマンセル表色系(JIS Z8721)における表現を示す図である。 図5は、各色ラベルの分光反射率を示す図である。 図6は、太陽光の分光分布を示す図である。 図7は、太陽光下の明るい環境で撮影されたラベルを模式的に示す図である。 図8は、白熱電球の光の分光分布を示す図である。 図9は、白熱電球光下の暗い環境で撮影されたラベルを模式的に示す図である。 図10は、明暗基準DBの一例を示す図である。 図11Aは、画像上の緑色領域と赤色領域との一例を示す図である。 図11Bは、画像上の緑色領域と赤色領域との一例を示す図である。 図12は、実施の形態1に係る画像処理装置が実行する処理の手順を示すフローチャートである。 図13は、ヘルメットに貼り付けられたラベルの一例を示す図である。 図14は、実施の形態2に係る画像処理装置が実行する処理の手順を示すフローチャートである。 図15は、実施の形態2の変形例に係る画像処理装置が実行する処理の手順を示すフローチャートである。 図16は、実施の形態3に係る画像処理システムの構成を示すブロック図である。 図17は、明暗基準DBの一例を示す図である。 図18は、実施の形態4に係る画像処理システムの構成を示すブロック図である。 図19は、明暗基準DBの一例を示す図である。 図20は、明暗基準DBの一例を示す図である。 図21は、人物を正面から見た図である。 図22は、段ボール箱の外観図である。 図23は、フォークリフトが走行する道路を模式的に示す図である。
[本開示が解決しようとする課題]
マークの色は、照明の影響を受けやすく、同じ色のマークであっても、照明が異なると、異なる色のマークとしてカメラに撮影される場合がある。具体的には、日中の屋外のように太陽光下で赤色マークを撮影した場合には、赤色マークが黄色く映る場合がある。また、屋内の白熱電球光下で青色マークを撮影した場合には、青色マークが黒く映る場合がある。マークが本来の色とは異なる色の領域として撮影された場合には、二次元コードの誤検出や、情報の誤認識を起こしてしまう。
本開示はこのような事情に鑑みてなされたものであり、照明の影響を受けずに、所定数以上の色領域を含むラベルを検出することのできる画像処理装置、コンピュータプログラム、および画像処理システムを提供することを目的とする。
[本開示の効果]
本開示によると、照明の影響を受けずに、所定数以上の色領域を含むラベルを検出することができる。
[本開示の実施形態の概要]
最初に本開示の実施形態の概要を列記して説明する。
(1)本開示の一実施形態に係る画像処理装置は、検出対象に取り付けられるラベルを検出する画像処理装置であって、カメラで撮像されたカラーの画像を取得する画像取得部と、前記カメラの撮像範囲の明るさを判定する明るさ判定部と、前記明るさ判定部の判定結果に基づいて、所定数以上の色の領域を含む前記ラベルに付される色の中から、1色以上の検出対象色を決定する検出対象色決定部と、前記画像取得部が取得した前記画像から、前記検出対象色決定部が決定した前記検出対象色の領域を抽出することにより、前記ラベルを検出するラベル検出部とを備える。
この構成によると、所定数以上の色の領域を含むラベルの色の中から、カメラの撮像範囲の明るさに基づいて、1色以上の検出対象色が決定される。これにより、明るさによっては色の見え方が変化するような色を除いて検出対象色を決定することができる。よって、検出対象色の領域を抽出することで、照明の影響を受けずに、ラベルを検出することができる。
(2)好ましくは、前記ラベルは、前記領域に再帰性反射材を含む。
再帰性反射材は、光の入射角と出射角が等しくなる性質を有している。このため、ラベルがいずれかの方向に傾いていたとしても、カメラの光軸方向に沿った光をラベルに照射することにより、カメラは当該光のラベルでの反射光を受光することができる。これにより、夜間でもラベルを高精度に検出することができる。
(3)また、前記明るさ判定部は、前記画像取得部が取得した前記画像、前記カメラから取得される明るさの調整に関する撮像パラメータ情報、および前記カメラの撮像範囲に含まれる位置に係る照度を計測する照度センサから取得される照度情報の少なくとも1つに基づいて、前記明るさを判定してもよい。
この構成によると、カメラの撮像範囲の明るさを容易に判定することができる。特に、画像または撮像パラメータに基づいて明るさを判定する場合には、明るさ判定のための特別な装置を設ける必要がないため、低コストで明るさを判定することができる。
(4)また、前記検出対象色決定部は、前記所定数以上の色のうち、少なくとも波長が最長の色および波長が最短の色以外の色である中間波長色を、前記検出対象色と決定してもよい。
カメラの撮像範囲が明るい場合には、波長の長い色が本来の色とは異なる色として撮影され、カメラの撮像範囲が暗い場合には、波長の短い色が本来の色とは異なる色として撮影される。このため、少なくともこれらの色を除く中間波長色は、照明の影響を受けにくい。よって、この構成によると、照明の影響を受けずに、ラベルを検出することができる。
(5)また、前記ラベル検出部は、前記中間波長色の領域から順に前記検出対象色の領域を抽出してもよい。
この構成によると、最も照明の影響を受けにくい中間波長色の領域から優先して、領域抽出を行うことができる。よって、中間波長色の領域が抽出できなかった場合には、他の検出対象色の領域を抽出する必要がなく、処理時間を短縮することができる。
(6)また、前記ラベルは、赤色領域、青色領域および緑色領域を含んでもよい。
光の三原色である赤色、青色および緑色は、波長が適度に離れた色同士である。このため、いずれか一色の領域が照明の影響を受けて本来の色とは異なる色領域として撮影された場合であっても、他の二色は照明の影響を受けずに、元の色の色領域として撮影される。よって、当該他の二色を検出対象色とすることにより、照明の影響を受けずに、ラベルを検出することができる。
(7)また、上述の画像処理装置は、さらに、前記ラベル検出部による検出結果に応じた情報を出力する出力部を備えてもよい。
この構成によると、例えば、ラベルを検出した際に、ラベルを検出したことを示す音声、アラーム音等の音をスピーカーから出力させたり、ラベルの検出結果を示す画像をディスプレイ装置に表示させたりできる。これにより、ユーザに、ラベルの検出結果を通知することができる。
(8)本開示の他の実施形態に係るコンピュータプログラムは、コンピュータを、検出対象に取り付けられるラベルを検出する画像処理装置として機能させるためのコンピュータプログラムであって、前記コンピュータを、カメラで撮像されたカラーの画像を取得する画像取得部と、前記カメラの撮像範囲の明るさを判定する明るさ判定部と、前記明るさ判定部の判定結果に基づいて、所定数以上の色の領域を含む前記ラベルに付される色の中から、1色以上の検出対象色を決定する検出対象色決定部と、前記画像取得部が取得した前記画像から、前記検出対象色決定部が決定した前記検出対象色の領域を抽出することにより、前記ラベルを検出するラベル検出部として機能させる。
この構成によると、コンピュータを、上述の画像処理装置として実現することができる。このため、上述の画像処理装置と同様の作用および効果を奏することができる。
(9)本開示の他の実施形態に係る画像処理システムは、検出対象に取り付けられる、所定数以上の色の領域を含むラベルと、カラーの画像を撮影するカメラと、上述の画像処理装置とを備える。
この構成には、上述の画像処理装置が含まれる。このため、上述の画像処理装置と同様の作用および効果を奏することができる。
[本開示の実施形態の詳細]
以下、本開示の実施の形態について、図面を用いて詳細に説明する。なお、以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示すものである。以下の実施の形態で示される数値、形状、構成要素、構成要素の配置位置および接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。本発明は、請求の範囲によって特定される。よって、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、本発明の課題を達成するのに必ずしも必要ではないが、より好ましい形態を構成するものとして説明される。
また、同一の構成要素には同一の符号を付す。それらの機能および名称も同様であるため、それらの説明は適宜省略する。
(実施の形態1)
以下、実施の形態1に係る画像処理システムについて説明する。
[画像処理システムの構成]
図1は、実施の形態1に係る画像処理システムの取付例を示す図である。図2は、実施の形態1に係る画像処理システムの構成を示すブロック図である。
以下では、フォークリフトにカメラおよび画像処理装置を設置した画像処理システムについて説明するが、カメラおよび画像処理装置の設置される場所はフォークリフトに限定されるものではない。例えば、自動車にこれらが取り付けられていてもよいし、カメラを所定エリアの監視用途に用いる場合には、当該エリアを撮像可能な場所にカメラを設置してもよい。
画像処理システム1は、フォークリフト25の周囲を監視するためのシステムであり、カメラ20と、照度センサ26と、画像処理装置10と、音出力装置30と、表示装置40と、端末装置50とを備える。なお、図1および図2に示す画像処理システム1の構成は一例であり、例えば、音出力装置30、表示装置40および端末装置50のいずれかが備えられていなくてもよい。
カメラ20は、例えば、フォークリフト25の後方を撮像可能な位置(例えば、フォークリフト25のヘッドガード後端位置など)に取り付けられ、フォークリフト25の後方のカラー画像を撮像する。カメラ20のカメラレンズは、例えば、画角120°以上の超広角レンズである。なお、カメラ20での夜間撮影のために、フォークリフト25にヘッドライトなどの光源を備えるのが望ましい。また、光源は、カメラ20の光軸方向に光を照射するのが望ましい。
フォークリフト25の後方には、フォークリフト25の撮像領域21から外れる死角領域22が生じる場合がある。なお、図1では、撮像領域21と死角領域22との境界23を破線で示している。この死角領域22をカバーするために、フォークリフト25の撮像領域21内にミラー60が設置されている。つまり、カメラ20がミラー60越しに撮像した場合の撮像領域61が死角領域22をカバーするようにミラー60を配置することにより、カメラ20が、死角領域22に存在する人物72を撮像することができる。なお、死角領域22を撮像するために、ミラー60の代わりに、カメラ20とは異なる他のカメラをフォークリフト25に配置してもよい。
照度センサ26は、受光素子に入射した光を電流に変換して照度を測定するセンサである。照度センサ26は、例えば、フォークリフト25の天井部分等に配置され、カメラ20の撮像範囲に含まれる位置の照度を測定する。なお、照度センサ26は、カメラ20の近傍または撮像領域21内に設けられるのが望ましい。また、照度センサ26は、カメラ20の光軸方向の照度を測定可能なように、照度センサ26のセンサ面が該光軸方向と垂直となる位置に取り付けられるのが望ましい。
なお、照度センサ26は、必ずしもフォークリフト25に設置されていなくてもよい。例えば、照度センサ26Aが、フォークリフト25の走行可能範囲内に予め設置されていてもよい。つまり、照度センサ26Aが、フォークリフト25の走行経路上や走行経路の近傍に設置されていてもよい。ここで、照度センサ26Aは、照度センサ26と同様に周囲の照度を測定するセンサである。
また、照度センサ26または26Aによる照度の測定範囲は、カメラ20の撮影範囲に含まれていることが望ましいが、数m程度であれば、測定範囲および撮影範囲が多少ずれていても良い。多少の位置ずれにより照度が急激に変化することは考えにくいため、この程度のずれであれば、画像処理の結果に影響を及ぼさないと考えられるからである。
画像処理装置10は、フォークリフト25に設置されたコンピュータである。画像処理装置10は、カメラ20に接続され、カメラ20が撮像した撮像領域21および61の画像から、人物71および72を検出する。なお、本実施の形態では、人物71および72には、所定数の色の領域が所定の位置関係で配置されているラベルを付けているものとする。なお、以下では所定数を3として説明を行うが、所定数は3に限定されるものではなく1以上の自然数であればそれ以外の数であってもよい。つまり、ラベルには予め定められた1色以上の領域が配置されていればよい。
また、ラベルは、色の領域に再帰性反射材を含むのが好ましい。再帰性反射材は、例えば、ガラスビーズをラベルの表面に配置したものであり、光源からの光をガラスビーズ内で反射させ、反射光を光源方向に戻す性質を有する。
図3Aは、人物が被るヘルメットを側方から見た図であり、図3Bは、そのヘルメットを上方から見た図である。
図3Aおよび図3Bに示すように、ヘルメット80には、ラベル90Aがそれぞれ貼り付けられている。ラベル90Aは、平行に配置された青ラベル91B、赤ラベル91Rおよび緑ラベル91Gから構成される。図3Aに示すように、ヘルメット80の幅が283mm、高さが148mmとした場合、ラベル90Aの幅は約60mm、長さは約180〜250mmとすることができる。
なお、青ラベル91Bおよび赤ラベル91Rとの間、および赤ラベル91Rと緑ラベル91Gとの間には、それぞれ間隙領域92が設けられている。間隙領域92は、例えば黒色の領域であり、2〜3mmの幅を有する。間隙領域92を設けることにより、フォークリフト25の走行時の振動などによりカメラ20で撮像された画像に乱れが生じている場合であっても、ある色ラベルの色が隣接する色ラベルの色と混じり合って撮像されるのを防止することができる。
図3Bに示すように、図3Aに示したラベル90Aと同様のラベル90Aがヘルメット80の上方にも貼り付けられている。また、ラベル90Aは、ヘルメット80の反対側の側面および前後にも貼り付けられている。なお、図3Aでは、図示の関係上、ヘルメット80の左側面のラベル90Aのみを示している。このように、あらゆる箇所にラベル90Aを貼り付けることで、人物がどのような姿勢(直立、しゃがみ込み等)を行っても、いずれかのラベル90Aがカメラ20に撮像されるようにすることができる。
ラベル90Aは、光の3原色のラベルである赤ラベル91R、緑ラベル91Gおよび青ラベル91Bから構成されている。
図4は、各色ラベルのマンセル表色系(JIS(Japanese Industrial Standards) Z8721)における表現を示す図である。
図4において、H、V、Cは、それぞれマンセル表色系における色相、明度、彩度を示す。つまり、赤ラベル91Rの色彩は、マンセル表色系の色相(H)が10P〜7.5YRの範囲に含まれ、明度(V)が3以上であり、彩度(C)が2以上である。緑ラベル91Gの色彩は、マンセル表色系の色相(H)が2.5GY〜2.5BGの範囲に含まれ、明度(V)が3以上であり、彩度(C)が2以上である。青ラベル91Bの色彩は、マンセル表色系の色相(H)が5BG〜5Pの範囲に含まれ、明度(V)が1以上であり、彩度(C)が1以上である。ただし、ラベル90Aは、光の3原色のラベルから構成されるものには限定されず、それ以外の色のラベルから構成されていてもよい。
図5は、各色ラベルの分光反射率を示す図である。横軸は波長(nm)を示し、縦軸は分光反射率(%)を示す。
図5に示すように、赤ラベル91Rが示す赤色は、波長700nm付近に分光反射率のピークを有する。緑ラベル91Gが示す緑色は、波長546.1nm付近に分光反射率のピークを有する。青ラベル91Bが示す青色は、波長435.8nm付近に分光反射率のピークを有する。なお、各色の分光反射率のピークは上記した値に限定されるものではない。例えば、赤色は、波長700±30nmに分光反射率のピークを有していればよい。緑色は、波長546.1±30nmに分光反射率のピークを有していればよい。青色は、波長435.8±30nmに分光反射率のピークを有していればよい。
また、青ラベル91B、赤ラベル91Rおよび緑ラベル91Gは、蛍光テープにより構成されていたり、これらのラベルに蛍光塗料が塗られたりしていることが好ましい。これにより、夜間や曇天などの照度が低い環境下であっても、ラベルを認識しやすくすることができる。また、赤外線カメラなどの特殊なカメラを用いなくてもラベルを認識することができる。
図1を参照して、画像処理装置10は、カメラ20が撮像した画像からラベル90Aを検出することにより、人物の検出を行う。なお、画像処理装置10の詳細な構成については後述する。
音出力装置30は、例えば、フォークリフト25のドライバーの座席付近に設置され、スピーカーを含んで構成される。音出力装置30は、画像処理装置10に接続され、画像処理装置10が人物71または人物72を検出したことをドライバーに通知するメッセージ音声やアラーム音などの通知音を出力する。
表示装置40は、例えば、フォークリフト25のドライバーが視認可能な位置に設置され、液晶ディスプレイなどを含んで構成される。表示装置40は、画像処理装置10に接続され、画像処理装置10が人物71または人物72を検出したことを知らせる画像を表示する。
端末装置50は、例えば、フォークリフト25を管理する管理室などフォークリフト25と離れた場所に設置されるコンピュータである。端末装置50は、画像処理装置10に接続され、画像処理装置10が人物71または人物72を検出したことを知らせる画像または音を出力したり、人物71または人物72を検出したことを時刻情報とともにログ情報として記録したりする。なお、端末装置50と画像処理装置10との間は、4Gまたは5Gなどの通信規格に従った携帯電話回線や、Wi−Fi(登録商標)などの無線LAN(Local Area Network)により接続されていてもよい。
なお、端末装置50は、人物71または72が携帯するスマートフォンなどであってもよい。これにより、端末装置50は、画像処理装置10により人物71または72自身が検出されたこと、つまり、人物71または72の近くにフォークリフト25が存在することを、人物71または72に通知することができる。
なお、画像処理装置10、カメラ20、音出力装置30および表示装置40の機能が、スマートフォンやカメラ付のコンピュータなどに備えられていてもよい。例えば、図1に示したカメラ20の位置に、スマートフォンを取り付けることにより、スマートフォンが撮像した画像を、スマートフォンが処理して、人物71および72を検出する。また、スマートフォンが検出結果を音または画像により通知する。ただし、スマートフォンがカメラ20の位置に取り付けられている場合には、ドライバーは画像を見ることができない。このため、別のタブレット装置などをドライバーが視認可能な位置に設置し、タブレット装置がスマートフォンから送信された画像を表示するようにしてもよい。タブレット装置とスマートフォンとの間は、例えば、Wi−Fi(登録商標)、Bluetooth(登録商標)、Zigbee(登録商標)などの無線通信規格に従い無線接続されていてもよい。
[照明環境によるラベルの色の見え方の変化について]
次に、照明環境によって、ラベル90Aの色の見え方が変化する現象について説明する。
図6は、太陽光の分光分布を示す図である。横軸が波長を示し、縦軸が放射エネルギーを示す。
太陽光に含まれる赤色、緑色および青色の光の成分を比較すると、赤色の光の成分が、緑色および青色の光の成分よりも少ない。このため、太陽を光源とする屋外でカメラ20が赤色領域を撮影した場合には、カメラ20が受光する赤色成分の光が相対的に弱くなる。よって、画像上では赤色領域が黄色領域として映る場合がある。
図7は、太陽光下の明るい環境で撮影されたラベルを模式的に示す図である。
図7に示すラベル90Aは、図3Aに示したラベル90Aと同じである。ただし、太陽光の影響により、赤色成分の光の強度が弱い。このため、画像上では赤ラベル91Rが、黄色いラベルとして映ってしまう。
図8は、白熱電球の光の分光分布を示す図である。横軸が波長を示し、縦軸が比エネルギーを示す。比エネルギーは、測定した波長範囲での発光強度の最大値を100%とした場合の相対的な強度を示す。
白熱電球光に含まれる赤色、緑色および青色の光の成分を比較すると、青色の成分が赤色および緑色の成分よりも少ない。このため、白熱電球を光源とする屋内でカメラ20が青色領域を撮影した場合には、カメラ20が受光する青色成分の光が相対的に弱くなる。よって、画像上では青色領域が黒色領域として映る場合がある。
図9は、白熱電球光下の暗い環境で撮影されたラベルを模式的に示す図である。
図9に示すラベル90Aは、図3Aに示したラベル90Aと同じである。ただし、白熱電球光の影響により、青色成分の光の強度が弱い。このため、画像上では青ラベル91Bが、黒色のラベルとして映ってしまう。
なお、暗い環境で用いられる照明は、白熱電球に限定されるものではなく、その他の色の電球であってもよいし、蛍光灯やLED(Light Emitting Diode)照明等であってもよい。
このように、照明の影響により各色ラベルの色の見え方が変化する場合がある。本実施の形態では、照明の影響を受けずに、ラベル90Aを検出することのできる画像処理装置10について、以下説明する。
[画像処理装置10の構成]
図2を参照して、画像処理装置10の機能的な構成についてより詳細に説明する。
画像処理装置10は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)、HDD(Hard Disk Drive)、通信I/F(インタフェース)、タイマーなどを備える一般的なコンピュータにより構成される。画像処理装置10は、HDDまたはROMからRAMに読み出したコンピュータプログラムを実行することにより実現される機能的な構成として、画像取得部11と、明るさ判定部12と、検出対象色決定部13と、ラベル検出部14と、出力部15とを備える。また、画像処理装置10は、記憶装置16を備える。
画像取得部11は、通信I/Fを介して、カメラ20が撮像したカラーの画像を取得する。つまり、図1に示した撮像領域21および61をカメラ20が撮像した画像を取得する。
明るさ判定部12は、カメラ20の撮像範囲の明るさを判定する。つまり、明るさ判定部12は、照度センサ26が測定したカメラ20の撮像範囲の照度情報に基づいて、後述する記憶装置16に記憶されている明暗基準DB(データベース)を参照して、カメラ20の撮像範囲が、明るい環境か、暗い環境か、中程度の明るさの環境かを判定する。
なお、明るさ判定部12は、フォークリフト25以外に設置された照度センサ26Aから照度情報を取得する場合には、無線通信により照度センサ26Aから照度情報を直接受信してもよいし、端末装置50を経由して照度センサ26Aから照度情報を受信してもよい。その際、明るさ判定部12は、フォークリフト25の位置とカメラ20のカメラパラメータ(光軸方向、ズーム倍率等)とから、カメラ20の撮像範囲に含まれる照度センサ26Aを特定し、特定した照度センサ26Aから照度情報を取得する。なお、明るさ判定部12は、照度センサ26Aから照度情報とともに位置情報を取得可能な場合には、取得した位置情報が示す照度センサ26Aの位置と、フォークリフト25の位置とを比較することにより、カメラ20の撮像範囲に含まれる照度センサ26Aを特定してもよい。
図10は、明暗基準DB17の一例を示す図である。
明暗基準DB17は、照度(IL)に基づいて、当該照度を有する環境が、明るい環境か、暗い環境か、中程度の明るさの環境かを判定するための基準が示されている。例えば、図10に示す明暗基準DB17によると、照度がIL<500lxの環境は、暗い環境である。照度が500≦IL<10000の環境は、中程度の明るさの環境である。照度がIL≧10000の環境は、明るい環境である。
つまり、明るさ判定部12は、照度センサ26が測定した照度ILがIL<500lxであれば、カメラ20の撮像範囲は暗い環境であると判定する。また、明るさ判定部12は、照度センサ26が測定した照度ILが500≦IL<10000であれば、カメラ20の撮像範囲は中程度の明るさの環境であると判定する。さらに、明るさ判定部12は、照度センサ26が測定した照度ILがIL≧10000であれば、カメラ20の撮像範囲は明るい環境であると判定する。なお、明暗基準DB17が示す数値は一例であり、これ以外の数値であってもよいのは言うまでもない。以降の図においても同様である。
検出対象色決定部13は、明るさ判定部12の判定結果に基づいて、ラベル90Aに付された色の中から1色以上の検出対象色を決定する。以下では、検出対象色決定部13は、ラベル90Aに付された3色の中から2色以上の検出対象色を決定するものとする。つまり、検出対象色決定部13は、照明環境によって見え方が変化する色を除く色を検出対象色として決定する。
具体的には、明るい環境では、赤色領域が黄色領域として画像に映る可能性がある。このため、検出対象色決定部13は、明るさ判定部12が明るい環境と判定した場合には、赤色を除く、緑色および青色の2色を検出対象色として決定する。
また、暗い環境では、青色領域が黒色領域として画像に映る可能性がある。このため、検出対象色決定部13は、明るさ判定部12が暗い環境と判定した場合には、青色を除く、赤色および緑色の2色を検出対象色として決定する。
ただし、ここで言う暗い環境は白熱電球光下の環境を示している。このため、蛍光灯やLED照明などの他の人工光源下では、見え方が変化する色が青色とは限らない。このため、人工光源が白熱電球以外の場合には、検出対象色決定部13は、人工光源の種類に応じて、見え方が変化する色を除いた色を、検出対象色として決定する。
中程度の明るさの環境で、赤色領域、緑色領域および青色領域をカメラ20で撮影した場合には、カメラ20が受光する光の強度は各領域間で大差がないと考えられる。このため、検出対象色決定部13は、明るさ判定部12が中程度の明るさの環境と判定した場合には、赤色、緑色および青色の3色を検出対象色として決定する。
ラベル検出部14は、画像取得部11が取得した画像から、検出対象色決定部13が決定した検出対象色の領域を抽出することにより、ラベル90Aを検出する。
具体的には、ラベル検出部14は、画像取得部11が取得した画像を構成する各画素の色空間上の画素値と所定の閾値とに基づいて、検出対象色の領域を抽出する。ここでは、色空間としてHSV色空間を想定する。また、HSV色空間上の画素値として、色相(H)、彩度(S)および明度(V)を想定する。
なお、画像取得部11が取得した画像がRGB色空間の画素値から構成される場合には、ラベル検出部14は、RGB色空間の画素値をHSV色空間の画素値に変換した上で、領域抽出処理を行う。RGB色空間の画素値からHSV色空間の画素値への変換は例えば、以下の式1〜式3に従い実行される。
Figure 2020121626

ここで、R、G、Bは、それぞれ、変換前の画素の赤色成分、緑色成分、青色成分を表す。また、MAXは、変換前の画素の赤色成分、緑色成分および青色成分の最大値を表す。MINは、変換前の画素の赤色成分、緑色成分および青色成分の最小値を表す。
ラベル検出部14には、例えば、緑色の色相(H)の閾値として、95および145が設定され、緑色の彩度(S)の閾値として70および100が設定され、緑色の明度(V)の閾値として70および100が設定されているものとする。緑色が検出対象色の場合には、ラベル検出部14は、ある画素の色相(H)が95以上かつ145以下で、彩度(S)が70以上かつ100以下で、明度(V)が70以上かつ100以下である場合に、当該画素を緑色画素として抽出する。
ラベル検出部14には、同様に、赤色の色相(H)、彩度(S)および明度(V)の閾値と、青色の色相(H)、彩度(S)および明度(V)の閾値とが設定されているものとする。赤色が検出対象色の場合には、ラベル検出部14は、赤色の色相(H)、彩度(S)および明度(V)の閾値を用いて、画像中から赤色画素を抽出する。青色が検出対象色の場合には、ラベル検出部14は、青色の色相(H)、彩度(S)および明度(V)の閾値を用いて、画像中から青色画素を抽出する。
ラベル検出部14は、検出対象色の画素である緑色画素、赤色画素または青色画素に対してそれぞれラベリング処理を施し、ラベリング処理により同一のラベル(符号)が付された画素同士を1つの領域として、緑色領域、赤色領域または青色領域を抽出する。なお、ラベル検出部14は、抽出した緑色領域、赤色領域または青色領域の各々に対して膨張収縮処理や領域サイズによるフィルタリング処理を施すことによりノイズ領域を除去してもよい。
ラベル検出部14は、抽出した検出対象色の領域同士が所定の位置関係を有している場合には、画像取得部11が取得した画像に検出対象色の領域が含まれると判定する。例えば、検出対象色が赤色、緑色および青色の場合には、ラベル検出部14は、画像上で緑色領域の中心位置から所定距離範囲内に赤色領域が存在し、かつ赤色領域の中心位置から所定距離範囲内に青色領域が存在する場合に、画像に緑色領域、赤色領域および青色領域が含まれると判定する。ラベル検出部14は、画像に検出対象色の領域が含まれると判定した場合には、画像中でラベル90Aを検出したこととする。これにより、ラベル検出部14は、フォークリフト25の周囲に人物が存在すると判定することができる。
なお、ラベル検出部14は、明るさ判定部12の判定結果に応じて、各色の色相(H)、彩度(S)および明度(V)の閾値を変更してもよい。カメラ20の撮像範囲の明るさに応じて閾値を変更することで、ラベル検出部14は、より正確に領域抽出を行うことができる。例えば、ラベル検出部14は、撮像範囲が明るいほど、各色の色相(H)、彩度(S)および明度(V)の閾値が大きくなるように、各閾値を変更してもよい。具体的には、ラベル検出部14は、撮像範囲の明るさと、各色の色相(H)、彩度(S)および明度(V)の閾値との対応関係を示したテーブル情報を参照して、各閾値を変更してもよい。
図11Aおよび図11Bは、画像上の緑色領域と赤色領域との一例を示す図である。図11Aに示すように、緑色領域82Gの中心位置83を中心とする円で示される所定距離範囲84内に、赤色領域82Rが含まれていれば、画像上で緑色領域82Gの中心位置83から所定距離範囲84内に赤色領域82Rが存在すると判定される。
一方、図11Bに示すように、緑色領域82Gの中心位置83を中心とする円で示される所定距離範囲84内に、赤色領域82Rが含まれていなければ、画像上で緑色領域82Gの中心位置83から所定距離範囲84内に赤色領域82Rが存在しないと判定される。
ここで、所定距離範囲84の円の直径は、例えば、緑色領域82Gの最も長い辺の長さとしてもよい。緑色領域82Gが矩形以外の領域の場合には、緑色領域82Gの外接矩形の最も長い辺の長さを、所定距離範囲84の円の直径としてもよい。ただし、当該直径は、これら以外の値でもよい。
なお、検出対象色の組み合わせが、赤色、緑色および青色以外の場合であっても、同様の処理により、ラベル検出部14は、抽出した検出対象色の領域同士が所定の位置関係を有するか否かを判定する。
出力部15は、ラベル検出部14の検出結果に応じた情報を出力する。例えば、ラベル検出部14がラベル90Aを検出した場合には、出力部15は、通信I/Fを介して音出力装置30に対して所定の音信号を送信すること、音出力装置30に通知音を出力させる。これにより、ドライバーに対してフォークリフト25の周囲に人物がいることを通知する。
また、ラベル検出部14がラベル90Aを検出した場合に、出力部15は、通信I/Fを介して表示装置40に所定の画像信号を送信することで、表示装置40に人物を検出したことを知らせる画像を表示させる。これにより、ドライバーに対してフォークリフト25の周囲に人物がいることを通知する。
また、ラベル検出部14がラベル90Aを検出した場合に、出力部15は、通信I/Fを介して端末装置50に対して、人物を検出したことを示す情報を送信することで、端末装置50に音や画像の出力処理をさせたり、ログ情報の記録処理をさせたりする。出力部15は、その際に、検出時刻の情報を送信してもよい。
記憶装置16は、明暗基準DB17を含む各種情報を記憶するための記憶装置であり、磁気ディスクや半導体メモリなどにより構成される。
[画像処理装置10の処理の流れ]
次に、画像処理装置10が実行する処理の流れについて説明する。
図12は、実施の形態1に係る画像処理装置10が実行する処理の手順を示すフローチャートである。
図12を参照して、画像取得部11は、カメラ20が撮像した画像を取得する(S1)。
ラベル検出部14は、画像取得部11が取得した画像から、緑色領域を抽出する(S2)。なお、緑色領域は、照明環境に影響されずに抽出可能であるため、緑色は必須の検出対象色とされる。このため、検出対象色決定部13による検出対象色の決定処理(後述のステップS6、S9およびS12)を行うことなく、緑色領域の抽出処理が実行される。
緑色領域が抽出されなかった場合には(S3でNO)、画像中にラベル90Aが含まれないと判断することができるため、画像処理装置10は処理を終了する。
緑色領域が抽出された場合には(S3でYES)、明るさ判定部12は、照度センサ26が測定したカメラ20の撮像範囲の照度に基づいて、明暗基準DB17を参照して、カメラ20の撮像範囲が、明るい環境か、暗い環境か、中程度の明るさの環境かを判定する明るさ判定処理を実行する(S4)。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が明るい環境であると判定された場合には(S5で明るい)、検出対象色決定部13は、緑色および青色を検出対象色として決定する(S6)
ラベル検出部14は、未抽出の検出対象色領域である青色領域を抽出する(S7)。
ラベル検出部14は、緑色領域と所定の位置関係を有する青色領域が画像から抽出されたか否かを判定する(S8)。
所定の位置関係を有する青色領域が抽出されなかった場合には(S8でNO)、画像中にラベル90Aが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する青色領域が抽出された場合には(S8でYES)、ラベル検出部14は、緑色領域および青色領域をラベル90Aとして検出し、出力部15は、ラベル90Aの検出結果を出力する(S15)。例えば、出力部15は、音出力装置30に対して所定の音信号を送信することにより、音出力装置30に通知音を出力させる。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が暗い環境であると判定された場合には(S5で暗い)、検出対象色決定部13は、赤色および緑色を検出対象色として決定する(S9)。
ラベル検出部14は、未抽出の検出対象色領域である赤色領域を抽出する(S10)。
ラベル検出部14は、緑色領域と所定の位置関係を有する赤色領域が画像から抽出されたか否かを判定する(S11)。
所定の位置関係を有する赤色領域が抽出されなかった場合には(S11でNO)、画像中にラベル90Aが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する赤色領域が抽出された場合には(S11でYES)、ラベル検出部14は、赤色領域および緑色領域をラベル90Aとして検出し、出力部15は、ラベル90Aの検出結果を出力する(S15)。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が中程度の明るさの環境であると判定された場合には(S5で中程度)、検出対象色決定部13は、赤色、緑色および青色を検出対象色として決定する(S12)。
ラベル検出部14は、未抽出の検出対象色領域である赤色領域および青色領域を抽出する(S13)。
ラベル検出部14は、緑色領域と所定の位置関係を有する赤色領域および青色領域が画像から抽出されたか否かを判定する(S14)。
所定の位置関係を有する赤色領域および青色領域が抽出されなかった場合には(S14でNO)、画像中にラベル90Aが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する赤色領域および青色領域が抽出された場合には(S14でYES)、ラベル検出部14は、赤色領域、緑色領域および青色領域をラベル90Aとして検出し、出力部15は、ラベル90Aの検出結果を出力する(S15)。
なお、ステップS14において、赤色領域および青色領域のうちの少なくとも一方の領域が緑色領域と所定の位置関係を有していれば、画像中にラベル90Aが含まれると判定してもよい。
また、ラベル検出結果出力処理(ステップS15)は、ラベル90Aが検出されなかった場合にも行うことにしてもよい。つまり、出力部15は、ラベル90Aが検出されなかったことを示す通知音を音出力装置30に出力させてもよいし、ラベル90Aが検出されなかったことを示す画像を表示装置40に表示させてもよい。また、出力部15は、ラベル90Aが検出されなかったことを示す情報を端末装置50に送信してもよい。
画像処理装置10は、図12に示す処理を、所定の周期(例えば、100msec間隔)で繰り返し実行する。これにより、リアルタイムでラベル90Aを検出することができる。
[実施の形態1の効果]
以上説明したように、本開示の実施の形態1によると、検出対象色決定部13は、所定数以上の色の領域を含むラベル90Aの色の中から、カメラ20の撮像範囲の明るさに基づいて、1色以上の検出対象色を決定する。具体的には、検出対象色決定部13は、3色以上の領域を含むラベル90Aの色の中から、カメラ20の撮像範囲の明るさに基づいて、2色以上の検出対象色を決定する。これにより、明るさによっては色の見え方が変化するような色を除いて検出対象色を決定することができる。よって、ラベル検出部14が検出対象色の領域を抽出することで、照明の影響を受けずに、ラベルを検出することができる。
また、ラベル90Aは、色の領域に再帰性反射材を含んでいる。再帰性反射材は、光の入射角と出射角が等しくなる性質を有している。このため、ラベル90Aがいずれかの方向に傾いていたとしても、カメラ20の光軸方向に沿った光をラベル90Aに照射することにより、カメラ20は当該光のラベル90Aでの反射光を受光することができる。これにより、ラベル検出部14は、夜間でもラベル90Aを高精度に検出することができる。
また、明るさ判定部12は、照度センサ26が測定したカメラ20の撮像範囲の照度に基づいて、カメラ20の撮像範囲の明るさを判定することができる。このため、カメラ20の撮像範囲の明るさを容易に判定することができる。
また、検出対象色決定部13は、赤色、緑色および青色のうち、最も波長の長い赤色と最も波長の短い青色以外の色である中間波長色の緑色を、照明環境によらずに必須の検出対象色と決定する。緑色は照明の影響を受けにくい色であることより、ラベル検出部14は、照明の影響を受けずに、ラベル90Aを検出することができる。
また、ラベル検出部14は、必須の検出対象色である中間波長色の緑色の領域から優先して、領域抽出処理を行っている(図12のS2)。これにより、緑色領域が抽出できなかった場合には、ラベル検出部14は、他の検出対象色である赤色領域または青色領域を抽出する必要がなく、処理時間を短縮することができる。
また、ラベル90Aは、赤ラベル91R、緑ラベル91Gおよび青ラベル91Bから構成される。光の三原色である赤色、青色および緑色は、波長が適度に離れた色同士である。このため、いずれか一色(赤色または青色)の領域が照明の影響を受けて本来の色とは異なる色領域として撮影された場合であっても、中間波長色ある緑色を含む他の二色は照明の影響を受けずに、元の色の色領域として撮影される。よって、当該他の二色を検出対象色とすることにより、照明の影響を受けずに、ラベルを検出することができる。
また、出力部15は、ラベル検出部14がラベル90Aを検出した際に、ラベル90Aを検出したことを示す音声、アラーム音等の音を音出力装置30から出力させたり、ラベル90Aの検出結果を示す画像を表示装置40に表示させたりできる。また、出力部15は、ラベル90Aの検出結果を示す情報を端末装置50に送信することもできる。これにより、ユーザに、ラベル90Aの検出結果を通知することができる。
(実施の形態2)
実施の形態1では、ラベルは、青ラベル91B、赤ラベル91Rおよび緑ラベル91Gから構成されるものとしたが、ラベルの色はこれらに限定されるものではない。実施の形態2では、4色の色ラベルから構成されるラベルを用いた例を説明する。
図13は、ヘルメットに貼り付けられたラベルの一例を示す図である。
図13に示すように、ヘルメット80には、ラベル90Cが貼り付けられている。ラベル90Cは、平行に配置された青ラベル91B、赤ラベル91R、緑ラベル91Gおよび白ラベル91Wから構成される。また、青ラベル91Bおよび赤ラベル91Rとの間、赤ラベル91Rと緑ラベル91Gとの間、および緑ラベル91Gと白ラベル91Wとの間には、それぞれ間隙領域92が設けられている。
白色は、彩度が0の無彩色であり、様々な波長を含む。このため、白ラベル91Wは、明るさに影響されずに検出可能なラベルである。
なお、白色は無彩色であることより、ラベル検出部14が画像中の白色画素を抽出する際には、各画素の彩度(S)および明度(V)と、それぞれの閾値との比較を行い、色相(H)と閾値との比較は行わない。これにより、ラベル検出部14は、画像中から、白色の彩度閾値および明度閾値をそれぞれ超える彩度(S)および明度(V)を有する画素を、白色画素として抽出し、抽出した白色画素をラベリング処理することにより、白色領域を抽出する。
実施の形態2に係る画像処理装置の構成は、図2に示したものと同様である。ただし、検出対象色決定部13およびラベル検出部14の処理が一部異なる。以下、図14に示すフローチャートを参照しながら、実施の形態1と異なる処理について説明する。
図14は、実施の形態2に係る画像処理装置10が実行する処理の手順を示すフローチャートである。
画像処理装置10は、ステップS1〜S4の処理を実行する。ステップS1〜S4の処理は、図12に示したものと同様である。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が明るい環境であると判定された場合には(S5で明るい)、検出対象色決定部13は、緑色、青色および白色を検出対象色として決定する(S6A)。
ラベル検出部14は、未抽出の検出対象色領域である青色領域および白色領域を抽出する(S7A)。
ラベル検出部14は、緑色領域と所定の位置関係を有する青色領域および白色領域が画像から抽出されたか否かを判定する(S8A)。
所定の位置関係を有する青色領域および白色領域が抽出されなかった場合には(S8AでNO)、画像中にラベル90Cが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する青色領域および白色領域が抽出された場合には(S8AでYES)、ラベル検出部14は、緑色領域、青色領域および白色領域をラベル90Cとして検出し、出力部15は、ラベル90Cの検出結果を出力する(S15)。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が暗い環境であると判定された場合には(S5で暗い)、検出対象色決定部13は、赤色、緑色および白色を検出対象色として決定する(S9A)。
ラベル検出部14は、未抽出の検出対象色領域である赤色領域および白色領域を抽出する(S10A)。
ラベル検出部14は、緑色領域と所定の位置関係を有する赤色領域および白色領域が画像から抽出されたか否かを判定する(S11A)。
所定の位置関係を有する赤色領域および白色領域が抽出されなかった場合には(S11AでNO)、画像中にラベル90Cが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する赤色領域および白色領域が抽出された場合には(S11AでYES)、ラベル検出部14は、赤色領域、緑色領域および白色領域をラベル90Cとして検出し、出力部15は、ラベル90Cの検出結果を出力する(S15)。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が中程度の明るさの環境であると判定された場合には(S5で中程度)、検出対象色決定部13は、赤色、緑色、青色および白色を検出対象色として決定する(S12A)。
ラベル検出部14は、未抽出の検出対象色領域である赤色領域、青色領域および白色領域を抽出する(S13A)。
ラベル検出部14は、緑色領域と所定の位置関係を有する赤色領域、青色領域および白色領域が画像から抽出されたか否かを判定する(S14A)。
所定の位置関係を有する赤色領域、青色領域および白色領域が抽出されなかった場合には(S14AでNO)、画像中にラベル90Cが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する赤色領域、青色領域および白色領域が抽出された場合には(S14AでYES)、ラベル検出部14は、赤色領域、緑色領域、青色領域および白色領域をラベル90Cとして検出し、出力部15は、ラベル90Cの検出結果を出力する(S15)。
画像処理装置10は、図14に示す処理を、所定の周期(例えば、100msec間隔)で繰り返し実行する。これにより、リアルタイムでラベル90Cを検出することができる。
本開示の実施の形態2によると、実施の形態1に比べて、より多くの色の色ラベルを用いて、ラベル検出を行うことができる。このため、より照明の影響を受けずに、ラベルを検出することができる。なお、ラベルに含まれる色ラベルの色は、上記したものには限定されず、例えば、白ラベル91Wの代わりに、黒ラベルを用いてもよい。
(実施の形態2の変形例)
本変形例では、実施の形態2と同様に、ラベルは4色の色ラベルから構成されるものとする。ただし、画像処理装置10が実行する処理の手順が実施の形態2とは異なる。
図15は、実施の形態2の変形例に係る画像処理装置10が実行する処理の手順を示すフローチャートである。
画像処理装置10は、ステップS1〜S3の処理を実行する。ステップS1〜S3の処理は、図12に示したものと同様である。
緑色領域が抽出された場合には(S3でYES)、ラベル検出部14は、画像取得部11が取得した画像から、白色領域を抽出する(S21)。なお、白色領域は、照明環境に影響されずに抽出可能であるため、白色は必須の検出対象色とされる。このため、検出対象色決定部13による検出対象色の決定処理(後述のステップS6A、S9AおよびS12A)を行うことなく、白色領域の抽出処理が実行される。
白色領域が抽出されなかった場合には(S22でNO)、画像中にラベル90Cが含まれないと判断することができるため、画像処理装置10は処理を終了する。
白色領域が抽出された場合には(S22でYES)、明るさ判定処理(ステップS4)を実行する。明るさ判定処理(ステップS4)は、図12に示したものと同様である。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が明るい環境であると判定された場合には(S5で明るい)、検出対象色決定部13は、緑色、青色および白色を検出対象色として決定する(S6A)。
ラベル検出部14は、未抽出の検出対象色領域である青色領域を抽出する(S7)。
ラベル検出部14は、緑色領域および白色領域と所定の位置関係を有する青色領域が画像から抽出されたか否かを判定する(S8B)。
所定の位置関係を有する青色領域が抽出されなかった場合には(S8BでNO)、画像中にラベル90Cが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する青色領域が抽出された場合には(S8BでYES)、ラベル検出部14は、緑色領域、青色領域および白色領域をラベル90Cとして検出し、出力部15は、ラベル90Cの検出結果を出力する(S15)。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が暗い環境であると判定された場合には(S5で暗い)、検出対象色決定部13は、赤色、緑色および白色を検出対象色として決定する(S9A)。
ラベル検出部14は、未抽出の検出対象色領域である赤色領域を抽出する(S10)。
ラベル検出部14は、緑色領域および白色領域と所定の位置関係を有する赤色領域が画像から抽出されたか否かを判定する(S11B)。
所定の位置関係を有する赤色領域が抽出されなかった場合には(S11BでNO)、画像中にラベル90Cが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する赤色領域が抽出された場合には(S11BでYES)、ラベル検出部14は、赤色領域、緑色領域および白色領域をラベル90Cとして検出し、出力部15は、ラベル90Cの検出結果を出力する(S15)。
明るさ判定処理(ステップS4)の結果、カメラ20の撮像範囲が中程度の明るさの環境であると判定された場合には(S5で中程度)、検出対象色決定部13は、赤色、緑色、青色および白色を検出対象色として決定する(S12A)。
ラベル検出部14は、未抽出の検出対象色領域である赤色領域および青色領域を抽出する(S13A)。
ラベル検出部14は、緑色領域および白色領域と所定の位置関係を有する赤色領域および青色領域が画像から抽出されたか否かを判定する(S14B)。
所定の位置関係を有する赤色領域および青色領域が抽出されなかった場合には(S14BでNO)、画像中にラベル90Cが含まれないと判断することができるため、画像処理装置10は処理を終了する。
所定の位置関係を有する赤色領域および青色領域が抽出された場合には(S14BでYES)、ラベル検出部14は、赤色領域、緑色領域、青色領域および白色領域をラベル90Cとして検出し、出力部15は、ラベル90Cの検出結果を出力する(S15)。
画像処理装置10は、図15に示す処理を、所定の周期(例えば、100msec間隔)で繰り返し実行する。これにより、リアルタイムでラベル90Cを検出することができる。
(実施の形態3)
実施の形態1および2では、照度センサの測定結果に基づいて、カメラ20の撮像範囲の明るさを判定した。実施の形態3では、照度センサを用いずに明るさ判定を行う例について説明する。
図16は、実施の形態3に係る画像処理システムの構成を示すブロック図である。
図16に示す画像処理システム1Aは、図2に示した画像処理システム1の構成において、画像処理装置10の代わりに画像処理装置10Aを備える。
画像処理装置10Aは、画像処理装置10と同様にコンピュータにより構成される。なお、画像処理装置10Aは、機能的な構成として明るさ判定部12の代わりに明るさ判定部12Aを備える。
明るさ判定部12Aは、画像取得部11に接続され、画像取得部11が取得した画像に基づいて、カメラ20の撮像範囲の明るさを判定する。つまり、明るさ判定部12Aは、画像取得部11が取得した画像に含まれる画素の輝度の平均を算出し、算出した輝度平均に基づいて、記憶装置16に記憶されている明暗基準DB17を参照して明るさを判定する。
図17は、明暗基準DB17の一例を示す図である。
明暗基準DB17は、輝度平均(M)に基づいて、当該輝度平均を有する環境が、明るい環境か、暗い環境か、中程度の明るさの環境かを判定するための基準が示されている。例えば、図17に示す明暗基準DB17によると、輝度平均がM<50の環境は、暗い環境である。輝度平均が50≦M<130の環境は、中程度の明るさの環境である。輝度平均がM≧130の環境は、明るい環境である。なお、一例として輝度は256階調を有するものとする。
つまり、明るさ判定部12は、算出した輝度平均MがM<50であれば、カメラ20の撮像範囲は暗い環境であると判定する。また、明るさ判定部12は、輝度平均Mが50≦M<130であれば、カメラ20の撮像範囲は中程度の明るさの環境であると判定する。さらに、明るさ判定部12は、輝度平均MがM≧130であれば、カメラ20の撮像範囲は明るい環境であると判定する。
画像処理装置10が実行する処理の手順は、実施の形態1または2と同様である。
本開示の実施の形態3によると、照度センサ26を用いることなく明るさを判定することができる。このため、低コストで明るさを判定することができる。
また、フォークリフト25が屋内に位置し、カメラ20が屋外の明るい環境を撮影しているような場合には、照度センサ26を用いて明るさ判定を行うと、暗い環境と判定されてしまい、撮影対象の環境と異なる結果となる場合がある。しかし、画像の輝度平均を用いて明るさを判定した場合には、カメラ20が撮像対象とする環境と同様に明るい環境と判定される。このため、ラベルをより正しく検出することができる。
(実施の形態4)
実施の形態3では、照度センサを用いずにカメラ20の撮像範囲の明るさ判定を行う例について説明した。実施の形態4では、照度センサを用いずに明るさ判定を行う他の例について説明する。
図18は、実施の形態4に係る画像処理システムの構成を示すブロック図である。
図18に示す画像処理システム1Bは、図2に示した画像処理システム1の構成において、画像処理装置10の代わりに画像処理装置10Bを備える。
画像処理装置10Bは、画像処理装置10と同様にコンピュータにより構成される。なお、画像処理装置10Bは、機能的な構成として明るさ判定部12の代わりに明るさ判定部12Bを備える。
明るさ判定部12Bは、カメラ20に接続され、カメラ20から取得される明るさの調整に関する撮像パラメータ情報に基づいて、カメラ20の撮像範囲の明るさを判定する。カメラ20が撮像範囲の明るさに応じて露光時間を自動調整する機能を備えている場合には、明るさ判定部12Bは、カメラ20から撮像パラメータ情報として露光時間(シャッター速度)の情報を取得する。明るさ判定部12Bは、取得した露光時間に基づいて、記憶装置16に記憶されている明暗基準DB17を参照して明るさを判定する。
図19は、明暗基準DB17の一例を示す図である。
明暗基準DB17は、露光時間(ET)に基づいて、当該露光時間でカメラ20が撮像した環境が、明るい環境か、暗い環境か、中程度の明るさの環境かを判定するための基準が示されている。例えば、図19に示す明暗基準DB17によると、露光時間がET>1/30秒となる環境は、暗い環境である。露光時間が1/100秒<ET≦1/30秒となる環境は、中程度の明るさの環境である。露光時間がET≦1/100秒となる環境は、明るい環境である。
つまり、明るさ判定部12は、カメラ20から取得した露光時間(ET)がET>1/30秒であれば、カメラ20の撮像範囲は暗い環境であると判定する。また、明るさ判定部12は、露光時間(ET)が1/100秒<ET≦1/30秒であれば、カメラ20の撮像範囲は中程度の明るさの環境であると判定する。さらに、明るさ判定部12は、露光時間(ET)がET≦1/100秒であれば、カメラ20の撮像範囲は明るい環境であると判定する。
画像処理装置10が実行する処理の手順は、実施の形態1または2と同様である。
なお、撮像パラメータ情報として、その他の情報を用いることもできる。例えば、カメラ20が自動絞り機構を備える場合には、明るさ判定部12Bは、カメラ20から撮像パラメータ情報として絞り値(F値)を取得する。明るさ判定部12Bは、取得した絞り値に基づいて、絞り値と明るさとの対応関係を示した明暗基準DB17を参照して、カメラ20の撮像範囲の明るさを判定する。なお、明るい環境ではレンズを通過する光を少なくするために絞り値が大きくなり、暗い環境ではレンズを通過する光を多くするために絞り値が小さくなる。
本開示の実施の形態4によると、照度センサ26を用いることなく明るさを判定することができる。このため、低コストで明るさを判定することができる。
(変形例1)
上述の実施の形態1〜4では、照度、輝度平均および露光時間などのうち、1つの項目に基づいて、カメラ20の撮像範囲の明るさを判定していた。しかし、2つ以上の項目に基づいて、明るさを判定するようにしてもよい。
例えば、明るさ判定部12は、照度センサ26が測定したカメラ20の撮像範囲の照度と、カメラ20の露光時間とに基づいて、明暗基準DB17を参照して、カメラ20の撮像範囲の明るさを判定してもよい。
図20は、明暗基準DB17の一例を示す図である。
明暗基準DB17は、照度(IL)および露光時間(ET)に基づいて、当該照度を有し、当該露光時間でカメラ20が撮像した環境が、明るい環境か、暗い環境か、中程度の明るさの環境かを判定するための基準が示されている。例えば、図20に示す明暗基準DB17によると、照度がIL<500lxかつ露光時間がET>1/30秒となる環境は、暗い環境である。照度がIL≧10000かつ露光時間がET≦1/100秒となる環境は、明るい環境である。それ以外の場合には、中程度の明るさの環境である。
明るさ判定部12は、照度センサ26が測定した(IL)とカメラ20から取得した露光時間(ET)に基づいて、明暗基準DB17を参照して、カメラ20の撮像範囲の明るさを判定する。
本変形例によると、複数の項目に基づいて、カメラ20の撮像範囲の明るさを判定することができる。このため、より正確に明るさを判定することができる。
(変形例2)
上述の実施の形態1〜4では、ラベルをヘルメット80に取り付ける例を説明したが、ラベルの取り付け位置はヘルメット80に限定されるものではない。
例えば、ラベルは、人物が身に着ける衣類や腕章などに取り付けられていてもよい。
図21は、人物を正面から見た図である。人物は、ラベル90Fが取り付けられた腕章を両腕にはめている。ラベル90Fは、青ラベル91B、赤ラベル91Rおよび緑ラベル91Gから構成され、各ラベル間には間隙領域92が設けられている。
また、ラベルの取り付けられる対象は人物に限定されるものではない。例えば、対象物を検出するための画像処理装置10を用いる場合には、検出対象物にラベルが取り付けられていてもよい。
図22は、段ボール箱の外観図である。検出対象物が段ボール箱である場合には、段ボール箱にラベル90Dが取り付けられる。ラベル90Dは、青ラベル91B、赤ラベル91Rおよび緑ラベル91Gから構成され、各ラベル間には間隙領域92が設けられている。
また、車両の進入禁止場所を検出するために画像処理装置10を用いる場合には、検出対象としての進入禁止場所にラベルが取り付けられていてもよい。
図23は、フォークリフト25が走行する道路を模式的に示す図である。フォークリフト25が走行する道路100には、例えば、フォークリフト25の進入が禁止された進入禁止道路101、進入禁止道路102および進入禁止エリア103が設けられている。進入禁止道路101および進入禁止道路102の入口付近には、ラベル90Jおよびラベル90Kが貼り付けられている。また、進入禁止エリア103の周囲にはラベル90Lが貼り付けられている。なお、ラベル90J、90Kおよび90Lのそれぞれは、青ラベル91B、赤ラベル91Rおよび緑ラベル91Gから構成される。このような構成により、画像処理装置10は、フォークリフト25が進入禁止場所(進入禁止道路101、進入禁止道路102または進入禁止エリア103)に接近したことを検知することができる。画像処理装置10は、フォークリフト25が進入禁止場所に接近したことをフォークリフト25のドライバーやフォークリフト25の周囲にいるユーザに通知するために、音出力装置30から通知音を出力したり、表示装置40にメッセージを表示させたり、端末装置50に進入禁止場所に接近したことを示す情報を送信する。
このように、進入禁止場所にラベルを取り付けることにより、フォークリフト25のドライバーに対して、進入禁止場所に近づかないように注意喚起を行うことができる。
このように、検出したい対象にラベルを取り付けることにより、対象を正確に検出することができる。
(付記)
上述の実施の形態および変形例では、ヘルメットにラベルを貼り付けたり、衣類または腕章などにラベルを取り付けることにより、検出対象物にラベルを取り付けることとしたが、ラベルの取り付け方法はこれに限定されるものではない。例えば、検出対象物にラベルを構成する各色の塗料を直接塗布することによりラベルを取り付けてもよい。具体的には、ヘルメットに赤色、緑色および青色の塗料と、間隙領域としての黒色の塗料とを直接塗布することにより、ヘルメットにラベルを取り付けてもよい。
上記の画像処理装置10を構成する構成要素の一部または全部は、1個のシステムLSIから構成されているとしてもよい。システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。RAMには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、システムLSIは、その機能を達成する。
また、本開示は、上記に示す方法をコンピュータにより実現するコンピュータプログラムとして実現することもできる。このようなコンピュータプログラムは、コンピュータ読取可能な非一時的な記録媒体、例えば、HDD、CD−ROM、半導体メモリなどに記録して流通させることもできるし、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送させることもできる。
また、画像処理装置10は、複数のコンピュータにより実現されてもよい。
また、画像処理装置10の一部または全部の機能がクラウドコンピューティングによって提供されてもよい。つまり、画像処理装置10の一部または全部の機能がクラウドサーバにより実現されていてもよい。例えば、画像処理装置10において、ラベル検出部14の機能がクラウドサーバにより実現され、画像処理装置10は、クラウドサーバに対して画像および検出対象色の情報を送信し、クラウドサーバからラベルの検出結果を取得する構成であってもよい。
さらに、上記実施の形態および上記変形例をそれぞれ組み合わせるとしてもよい。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、請求の範囲によって示され、請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1、1A、1B 画像処理システム
10、10A、10B 画像処理装置
11 画像取得部
12、12A、12B 明るさ判定部
13 検出対象色決定部
14 ラベル検出部
15 出力部
16 記憶装置
17 明暗基準DB
20 カメラ
21 撮像領域
22 死角領域
23 境界
25 フォークリフト
26、26A 照度センサ
30 音出力装置
40 表示装置
50 端末装置
60 ミラー
61 撮像領域
71、72 人物
80 ヘルメット
82G 緑色領域
82R 赤色領域
83 中心位置
84 所定距離範囲
90A、90C、90D、90F、90J、90K、90L ラベル
91B 青ラベル
91G 緑ラベル
91R 赤ラベル
91W 白ラベル
92 間隙領域
100 道路
101 進入禁止道路
102 進入禁止道路
103 進入禁止エリア

Claims (9)

  1. 検出対象に取り付けられるラベルを検出する画像処理装置であって、
    カメラで撮像されたカラーの画像を取得する画像取得部と、
    前記カメラの撮像範囲の明るさを判定する明るさ判定部と、
    前記明るさ判定部の判定結果に基づいて、所定数以上の色の領域を含む前記ラベルに付される色の中から、1色以上の検出対象色を決定する検出対象色決定部と、
    前記画像取得部が取得した前記画像から、前記検出対象色決定部が決定した前記検出対象色の領域を抽出することにより、前記ラベルを検出するラベル検出部と
    を備える画像処理装置。
  2. 前記ラベルは、前記領域に再帰性反射材を含む
    請求項1に記載の画像処理装置。
  3. 前記明るさ判定部は、前記画像取得部が取得した前記画像、前記カメラから取得される明るさの調整に関する撮像パラメータ情報、および前記カメラの撮像範囲に含まれる位置に係る照度を計測する照度センサから取得される照度情報の少なくとも1つに基づいて、前記明るさを判定する
    請求項1または請求項2に記載の画像処理装置。
  4. 前記検出対象色決定部は、前記所定数以上の色のうち、少なくとも波長が最長の色および波長が最短の色以外の色である中間波長色を、前記検出対象色と決定する
    請求項1から請求項3のいずれか1項に記載の画像処理装置。
  5. 前記ラベル検出部は、前記中間波長色の領域から順に前記検出対象色の領域を抽出する
    請求項4に記載の画像処理装置。
  6. 前記ラベルは、赤色領域、青色領域および緑色領域を含む
    請求項1から請求項5のいずれか1項に記載の画像処理装置。
  7. さらに、前記ラベル検出部による検出結果に応じた情報を出力する出力部を備える
    請求項1から請求項6のいずれか1項に記載の画像処理装置。
  8. コンピュータを、検出対象に取り付けられるラベルを検出する画像処理装置として機能させるためのコンピュータプログラムであって、
    前記コンピュータを、
    カメラで撮像されたカラーの画像を取得する画像取得部と、
    前記カメラの撮像範囲の明るさを判定する明るさ判定部と、
    前記明るさ判定部の判定結果に基づいて、所定数以上の色の領域を含む前記ラベルに付される色の中から、1色以上の検出対象色を決定する検出対象色決定部と、
    前記画像取得部が取得した前記画像から、前記検出対象色決定部が決定した前記検出対象色の領域を抽出することにより、前記ラベルを検出するラベル検出部と
    して機能させるためのコンピュータプログラム。
  9. 検出対象に取り付けられる、所定数以上の色の領域を含むラベルと、
    カラーの画像を撮影するカメラと、
    請求項1から請求項7のいずれか1項に記載の画像処理装置と
    を備える画像処理システム。
JP2020559747A 2018-12-12 2019-09-30 画像処理装置、コンピュータプログラム、および画像処理システム Pending JPWO2020121626A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018232117 2018-12-12
JP2018232117 2018-12-12
PCT/JP2019/038543 WO2020121626A1 (ja) 2018-12-12 2019-09-30 画像処理装置、コンピュータプログラム、および画像処理システム

Publications (1)

Publication Number Publication Date
JPWO2020121626A1 true JPWO2020121626A1 (ja) 2021-10-21

Family

ID=71075767

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020559747A Pending JPWO2020121626A1 (ja) 2018-12-12 2019-09-30 画像処理装置、コンピュータプログラム、および画像処理システム

Country Status (2)

Country Link
JP (1) JPWO2020121626A1 (ja)
WO (1) WO2020121626A1 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3802737B2 (ja) * 2000-08-07 2006-07-26 財団法人電力中央研究所 情報識別用マーカ及びその検出方法及び情報識別用マーカを用いた関連情報取得システム及び情報識別用マーカを用いた関連情報取得方法
JP2005286536A (ja) * 2004-03-29 2005-10-13 Fujinon Corp 撮像装置
JP2011134110A (ja) * 2009-12-24 2011-07-07 Canon Finetech Inc カラーコード及びカラーコード認識方法
JP6260620B2 (ja) * 2013-06-17 2018-01-17 富士通株式会社 画像処理装置、画像処理方法、及び画像処理プログラム

Also Published As

Publication number Publication date
WO2020121626A1 (ja) 2020-06-18

Similar Documents

Publication Publication Date Title
ES2858370T3 (es) Sistema de vigilancia y procedimiento para controlar un sistema de vigilancia
WO2017157034A1 (zh) 一种二维码的识别方法及装置、存储介质
US9196056B2 (en) Electro-optical system and method for analyzing images of a scene to identify the presence of a target color
CN108811271A (zh) 一种灯光调节方法、装置、智能台灯和存储介质
JP6553624B2 (ja) 計測機器、及びシステム
WO2018042747A1 (ja) 画像処理装置、画像処理システム、画像処理プログラムおよびラベル
US11375133B2 (en) Automatic exposure module for an image acquisition system
JPWO2019008936A1 (ja) 画像処理装置、コンピュータプログラム、および画像処理システム
KR102185100B1 (ko) 횡단보도 보행자 안전관리 시스템 및 그 방법
JPWO2020121626A1 (ja) 画像処理装置、コンピュータプログラム、および画像処理システム
KR101937582B1 (ko) 인도 보안 안전 시스템
CN115412677B (zh) 灯具光谱确定、获取方法及相关设备和介质
JP7468002B2 (ja) 異常箇所表示装置、異常箇所表示システム、異常箇所表示方法、及び異常箇所表示プログラム
JP6961506B2 (ja) 画像処理装置
Gurney et al. The effect of ANPR camera settings on system performance
KR101943195B1 (ko) 지능형 조명 제어장치 및 방법
JP6642568B2 (ja) 対象特定システム、対象特定方法およびプログラム
JP6999478B2 (ja) マーカ及びマーカ検出システム
JP7071861B2 (ja) マーカ検出システム
KR101756923B1 (ko) 방범용 전방위 카메라 시스템
Chan et al. MI3: Multi-intensity infrared illumination video database
KR102486110B1 (ko) 조도변화에 적응하는 초저조도 카메라
US11921024B2 (en) Airborne particulate density determination using standard user equipment
KR20190064327A (ko) 가시광 통신 신호 기반의 식별자 검출 시스템 및 방법
ES2349605B1 (es) Flash infrarrojo de potencia.