JP2021163299A - 荷役車用画像記憶システムおよび画像記憶プログラム - Google Patents
荷役車用画像記憶システムおよび画像記憶プログラム Download PDFInfo
- Publication number
- JP2021163299A JP2021163299A JP2020065643A JP2020065643A JP2021163299A JP 2021163299 A JP2021163299 A JP 2021163299A JP 2020065643 A JP2020065643 A JP 2020065643A JP 2020065643 A JP2020065643 A JP 2020065643A JP 2021163299 A JP2021163299 A JP 2021163299A
- Authority
- JP
- Japan
- Prior art keywords
- image
- face
- image storage
- cargo handling
- hearing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Time Recorders, Dirve Recorders, Access Control (AREA)
- Forklifts And Lifting Vehicles (AREA)
- Image Analysis (AREA)
Abstract
【課題】単純な構成でヒヤリハットが発生したときの画像を記憶することができるとともに、単なる急旋回、急ブレーキで画像を記憶することを防止することができる荷役車用画像記憶システムを提供する。
【解決手段】荷役車用画像記憶システムSは、第1および第2顔カメラ2、3と、荷役車1の周囲を撮像する周囲カメラ4と、画像記憶装置5と、を備える。画像記憶装置5は、顔画像を教師データとして機械学習された学習済みモデルと、顔カメラによって生成された顔画像を学習済みモデルに入力して、ヒヤリ度を取得するヒヤリ度取得部と、ヒヤリ度取得部によって取得されたヒヤリ度に基づいて、ヒヤリハットが発生したか否かを判定する判定部と、記憶部と、を有する。記憶部は、判定部によってヒヤリハットが発生したと判定されたとき、周囲カメラ4によって生成されたヒヤリハット発生前後の荷役車1の周囲の画像を記憶する。
【選択図】図1
【解決手段】荷役車用画像記憶システムSは、第1および第2顔カメラ2、3と、荷役車1の周囲を撮像する周囲カメラ4と、画像記憶装置5と、を備える。画像記憶装置5は、顔画像を教師データとして機械学習された学習済みモデルと、顔カメラによって生成された顔画像を学習済みモデルに入力して、ヒヤリ度を取得するヒヤリ度取得部と、ヒヤリ度取得部によって取得されたヒヤリ度に基づいて、ヒヤリハットが発生したか否かを判定する判定部と、記憶部と、を有する。記憶部は、判定部によってヒヤリハットが発生したと判定されたとき、周囲カメラ4によって生成されたヒヤリハット発生前後の荷役車1の周囲の画像を記憶する。
【選択図】図1
Description
本発明は、荷役車の周囲の画像を記憶する荷役車用画像記憶システムおよび当該システムに係る画像記憶プログラムに関する。
車両走行中に事故が発生した場合に、車両の周囲の画像を記憶する画像記憶装置が知られている。この種の画像記憶装置は、判定装置と、撮像部と、記憶部とを備え、判定装置によって記憶部に記憶すべき衝撃が車両に生じたと判定されたとき、撮像部によって撮像された画像が記憶部に記憶される。例えば、特許文献1に記載の画像記憶装置の判定部は、車両の速度と加速度とに基づいて、映像を記憶すべきか否かを判定する。
近年では、この種の画像記憶装置がフォークリフトなどの荷役車にも搭載されるようになった。ところが、荷役車では、通常の車両と異なり、急旋回、急ブレーキなどの操作が頻繁に繰り返される。したがって、荷役車に事故が発生したか否かの基準が通常の車両と同様であると、判定装置によって、事故ではない状態が事故であると判定される。そこで、荷役車の画像記憶装置に係る判定装置には、単なる急旋回、急ブレーキでは、荷役車に事故が発生したと判定しないよう通常の車両とは異なる基準が求められる。
また、事故が発生した場合だけでなく、事故発生に関連するヒヤリハットの発生を抑制して事故を減少させるために、ヒヤリハット発生時における車両の周囲の画像も記憶したいという要望がある。荷役車の稼働時におけるヒヤリハットとしては、例えば、移送中の荷崩れや、車体に設けられたアタッチメントが壁や天井に当たるなどがある。このようなヒヤリハットには、加速度に影響しないものがある。したがって、従来の画像記憶装置の機能では、荷役車の稼働時におけるヒヤリハット発生時の画像を適切に記憶できないといった問題があった。
そこで、ヒヤリハット発生の検出手段として、例えば、特許文献2に記載の事象検出装置がある。この事象検出装置は、生体情報取得手段と、シーン取得手段と、しきい値設定手段と、判断手段と、を備える。生体情報取得手段は、運転者の生体情報を取得し、シーン取得手段は、車両の運転シーンを取得する。また、しきい値設定手段は、生体情報のしきい値を運転シーンに応じて設定し、判断手段は、運転者の生体情報の値が設定されたしきい値を超えたときヒヤリハットが発生したと判断する。
しかしながら、この事象検出装置では、生体情報を検出するために、体温については体温計をステアリングホイールに取り付け、脈拍についてはシートベルトを介して検出するなど、コストがかかる。特に、荷役車の場合、運転者は手袋をしながらステアリングホイールを操作することがあるので、この体温計では運転者の体温を測れない。また、荷役車では、シートベルトの装着が必須でない。したがって、特許文献2に記載の事象検出装置では、荷役車の稼働時におけるヒヤリハットを検出することは難しい。
上記事情に鑑みて、本発明が解決しようとする課題は、単純な構成でヒヤリハットが発生したときの画像を記憶することができるとともに、単なる急旋回、急ブレーキで画像を記憶することを防止することができる荷役車用画像記憶システムを提供することにある。
上記課題を解決するために、本発明に係る荷役車用画像記憶システムは、
運転者の顔を撮像し顔画像を生成する顔カメラと、
荷役車の周囲を撮像し周囲画像を生成する周囲カメラと、
画像記憶装置と、を備え、
画像記憶装置は、
運転者の顔からヒヤリ度を推定するために、顔画像を教師データとして機械学習された学習済みモデルと、
顔カメラによって生成された顔画像を学習済みモデルに入力して、ヒヤリ度を取得するヒヤリ度取得部と、
ヒヤリ度取得部によって取得されたヒヤリ度に基づいて、ヒヤリハットが発生したか否かを判定する判定部と、
判定部によってヒヤリハットが発生したと判定されたとき、ヒヤリハット発生前後の周囲画像を記憶する記憶部と、を有する、ことを特徴とする。
運転者の顔を撮像し顔画像を生成する顔カメラと、
荷役車の周囲を撮像し周囲画像を生成する周囲カメラと、
画像記憶装置と、を備え、
画像記憶装置は、
運転者の顔からヒヤリ度を推定するために、顔画像を教師データとして機械学習された学習済みモデルと、
顔カメラによって生成された顔画像を学習済みモデルに入力して、ヒヤリ度を取得するヒヤリ度取得部と、
ヒヤリ度取得部によって取得されたヒヤリ度に基づいて、ヒヤリハットが発生したか否かを判定する判定部と、
判定部によってヒヤリハットが発生したと判定されたとき、ヒヤリハット発生前後の周囲画像を記憶する記憶部と、を有する、ことを特徴とする。
上記画像記憶システムは、好ましくは、
学習済みモデルが、顔画像から得られる表情筋の動きを教師データとして機械学習された第1学習済みモデルを含む。
学習済みモデルが、顔画像から得られる表情筋の動きを教師データとして機械学習された第1学習済みモデルを含む。
上記画像記憶システムは、好ましくは、
学習済みモデルが、ヒヤリハットが発生したときの顔画像から得られる視線および顔の動きまたはそのいずれかの動きを教師データとして機械学習された第2学習済みモデルを含む。
学習済みモデルが、ヒヤリハットが発生したときの顔画像から得られる視線および顔の動きまたはそのいずれかの動きを教師データとして機械学習された第2学習済みモデルを含む。
上記画像記憶システムは、好ましくは、
顔カメラによって生成された顔画像から瞬きの回数・速度、心拍および体温またはそのいずれかを検出する生体情報検出部をさらに備え、
判定部は、さらに、検出された生体情報とヒヤリ度との相関に基づいて、ヒヤリハットが発生したか否かを判定する。
顔カメラによって生成された顔画像から瞬きの回数・速度、心拍および体温またはそのいずれかを検出する生体情報検出部をさらに備え、
判定部は、さらに、検出された生体情報とヒヤリ度との相関に基づいて、ヒヤリハットが発生したか否かを判定する。
上記画像記憶システムは、好ましくは、
荷役車の車速、荷役車の加速度および荷役車にかかっている荷の荷重またはそのいずれかを含む車両情報を取得する車両情報取得部をさらに備え、
記憶部は、周囲画像を記憶するとき、ヒヤリハット発生前後の車両情報をさらに記憶する。
荷役車の車速、荷役車の加速度および荷役車にかかっている荷の荷重またはそのいずれかを含む車両情報を取得する車両情報取得部をさらに備え、
記憶部は、周囲画像を記憶するとき、ヒヤリハット発生前後の車両情報をさらに記憶する。
上記画像記憶システムは、好ましくは、
判定部が、さらに、取得された車両情報とヒヤリ度との相関に基づいて、ヒヤリハットが発生したか否かを判定する。
判定部が、さらに、取得された車両情報とヒヤリ度との相関に基づいて、ヒヤリハットが発生したか否かを判定する。
上記画像記憶システムは、好ましくは、
記憶部が、判定部によってヒヤリハットが発生したと判定されたとき、ヒヤリハットが発生したときの顔画像をさらに記憶する。
記憶部が、判定部によってヒヤリハットが発生したと判定されたとき、ヒヤリハットが発生したときの顔画像をさらに記憶する。
上記画像記憶システムは、好ましくは、
判定部によってヒヤリハットが発生したと判定されたときの顔画像を教師データとして収集する教師データ収集部をさらに備える。
判定部によってヒヤリハットが発生したと判定されたときの顔画像を教師データとして収集する教師データ収集部をさらに備える。
上記画像記憶システムは、好ましくは、
顔カメラおよび周囲カメラまたはそのいずれかが、荷役車に設けられている。
顔カメラおよび周囲カメラまたはそのいずれかが、荷役車に設けられている。
上記画像記憶システムは、好ましくは、
顔カメラおよび周囲カメラまたはそのいずれかが、荷役車が荷役作業を行う施設内に設けられている。
顔カメラおよび周囲カメラまたはそのいずれかが、荷役車が荷役作業を行う施設内に設けられている。
上記画像記憶システムは、好ましくは、
顔カメラが、複数のカメラからなり、複数のカメラは、運転者が顔を前後左右に向けた場合にも適切に運転者の顔を撮像することができるよう配置されている。
顔カメラが、複数のカメラからなり、複数のカメラは、運転者が顔を前後左右に向けた場合にも適切に運転者の顔を撮像することができるよう配置されている。
上記画像記憶システムは、好ましくは、
顔カメラが、運転者の装着するヘルメットに設けられている。
顔カメラが、運転者の装着するヘルメットに設けられている。
上記課題を解決するために、本発明に係る画像記憶プログラムは、
コンピュータを上記画像記憶装置として機能させる、ことを特徴とする。
コンピュータを上記画像記憶装置として機能させる、ことを特徴とする。
本発明に係る荷役車用画像記憶システムは、単純な構成でヒヤリハットが発生したときの画像を記憶することができるとともに、単なる急旋回、急ブレーキで画像を記憶することを防止することができる。
以下、添付図面を参照しつつ、本発明の荷役車用画像記憶システムの一実施形態について説明する。本明細書における前後方向および左右方向は、図1および図2に記載の両矢印XおよびYを基準にしている。
図1は、本実施形態に係る荷役車用画像記憶システムS全体の概略を示す。画像記憶システムSは、荷役車1と、第1顔カメラ2と、第2顔カメラ3と、周囲カメラ4と、画像記憶装置5と、を備える。
図1および図2に示すように、荷役車1は、車体10と、車体10の上部に設けられた左右1対の支柱11と、支柱11に支持されているヘッドガード12と、運転席13と、車体10の前部に設けられた左右1対のマスト14と、マスト14に昇降可能に設けられたリフトブラケット15と、リフトブラケット15に設けられた左右一対のフォーク16と、を備える。運転席13は、車体10の右側に配置され、ステアリングホイールHは、車体10の略中央に配置されている。そのため、運転者Dは、左側に体を向けステアリングホイールHを操作して運転する。荷役作業時には、運転者Dは、荷役車1を操作して、フォーク16をパレット100の係止孔に差し込むとともにパレット100を持ち上げ、荷役車1を走行させることによりパレット100に載置された荷Wを所定の場所に搬送する。本実施形態の荷役車1は、リーチ式フォークリフトであって、施設内で荷役作業を行う。
第1顔カメラ2は、荷役車1に設けられており、運転者Dの顔を撮像し、運転者Dの顔画像FIを生成する。本実施形態の第1顔カメラ2は、荷役車1の左側の支柱11の高さ方向中央に設けられている。これにより、第1顔カメラ2は、左側に体を向ける運転者Dの顔をとらえることができる。第1顔カメラ2は、運転者Dの顔を撮像することができれば、設置箇所および数は、特に限定されない。
第2顔カメラ3は、第1顔カメラ2と同様に、運転者Dの顔を撮像し、顔画像FIを生成する。荷役車1は、一般の車両と異なり、後方走行や方向転換を頻繁に繰り返される。また、荷役車1は、荷役作業の間、高所に載置されたパレット100をフォーク16によってすくい上げたり、搬送してきたパレット100を高所に載置したりする。運転者Dは、これらのたびに、顔を前後左右および上方に向けるため、第1顔カメラ2のみの場合、適切に運転者Dの顔を撮像することができない。そこで、図1に示すように、第2顔カメラ3は、施設内に設置された棚6の高さ方向中央部や棚6の上部に設けられ、第1顔カメラ2が撮像することができない場面の運転者Dの顔を適切に撮像する。第2顔カメラ3は、第1顔カメラ2を補って運転者Dの顔を撮像することができれば、設置箇所および数は、特に限定されない。
図1に示すように、周囲カメラ4は、ヘッドガード12の下面に設けられ、荷役車1の周囲を撮像し、周囲画像SIを生成する。なお、第2顔カメラ3も、荷役車1の周囲を撮像する周囲カメラ4として機能してよい。この場合、第2顔カメラ3は、周囲カメラ4より広い範囲で荷役車1の周囲を撮像してもよく、例えば、荷役車1の前方を通り過ぎる通行者を含む画像を周囲画像SIとして生成してもよい。さらに、第2顔カメラ3は、例えば、荷役車1の上方の棚や天井を含む画像を周囲画像SIとして生成してもよい。
図1および図3に示すように、画像記憶装置5は、荷役車1に搭載されたコンピュータCからなる。図3に示すように、画像記憶装置5は、入力部C1と、記憶部C2と、メモリC3と、制御部C4と、を有する。入力部C1は、第1および第2顔カメラ2、3ならびに周囲カメラ4と通信可能であって、第1および第2顔カメラ2、3ならびに周囲カメラ4が生成した顔画像FIおよび周囲画像SIを入力される。記憶部C2は、ハードディスクなどからなり、OSと画像記憶プログラムを記憶している。また、記憶部C2は、ヒヤリハットが発生したときの周囲画像SIを記憶する。制御部C4は、画像記憶プログラムを動作させる。画像記憶装置5は、画像記憶プログラムによって、第1および第2顔カメラ2、3が生成した顔画像FIに基づき周囲カメラ4が生成した周囲画像SIを記憶する。
図4は、画像記憶装置5の機能ブロック図である。画像記憶装置5は、ヒヤリ度取得部50と、判定部51と、生体情報検出部52と、車両情報取得部53と、記憶部54と、教師データ収集部55と、を有する。
ヒヤリ度取得部50は、第1学習済みモデル500を有する。ヒヤリ度取得部50は、第1学習済みモデル500に第1および第2顔カメラ2、3が生成した顔画像FIを入力して、ヒヤリ度Qを取得する。第1学習済みモデル500は、例えば、ニューラルネットワークであって、運転者Dの顔からヒヤリ度Qを推定するために、顔画像を教師データとして機械学習されている。教師データとして用いられる顔画像は、驚きや焦りといった感情が表された顔の画像であって、第1学習済みモデル500は、驚きや焦りの感情に関する表情筋の動きの特徴を学習させられている。教師データとして用いられる顔画像は、ヒヤリハット発生時における顔画像FIが好ましい。第1学習済みモデル500の機械学習は、ディープラーニングを利用し、かつ、畳み込みニューラルネットワークおよび再帰型ニューラルネットワークまたはそのいずれかを利用したものであってもよい。本実施形態では、第1学習済みモデル500は、ヒヤリ度Qを0.01〜1.00の間の値で出力する。
ヒヤリ度取得部50は、さらに、第2学習済みモデル501を有する。第2学習済みモデル501は、例えば、ニューラルネットワークであって、運転者Dの顔からヒヤリ度Qを推定することができるように、ヒヤリハットが発生したときの運転者Dの視線および顔の動きまたはそのいずれかの動きが表された顔画像FIを教師データとして、ヒヤリハットが発生したときの運転者Dの視線および顔の動きの特徴を機械学習されている。これにより、第2学習済みモデル501は、顔画像FIが入力されると、入力された顔画像FIの視線および顔の動きまたはそのいずれかの動きの特徴に基づいて、ヒヤリ度Qを出力する。第2学習済みモデル501の機械学習は、ディープラーニングを利用し、かつ、畳み込みニューラルネットワークもしくは再帰型ニューラルネットワークまたはその両方を利用したものであってもよい。また、第2学習済みモデル501は、複数のカメラが撮像した複数の顔画像FIから運転者Dの視線および顔の動きを認識するように機械学習されてもよい。この場合、第2学習済みモデル501は、例えば、第1および第2顔カメラ2、3の顔画像FIを参照し、運転者Dの視線および顔の動きを3次元的に解析するように機械学習されてもよい。
ヒヤリ度取得部50は、第2学習済みモデル501に第1および第2顔カメラ2、3が生成した顔画像FIを入力して、ヒヤリ度Qを取得する。本実施形態では、第2学習済みモデル501は、第1学習済みモデル500と同様に、ヒヤリ度Qを0.01〜1.00の間の値で出力する。
学習済みモデルの動作例として、図5に、第1学習済みモデル500の動作を示す。図中の矢印Tは、時間軸を示している。図5に示すように、第1学習済みモデル500は、第1顔カメラ2(第2顔カメラ3)が生成した顔画像FI1、FI2、FI3が入力されると、入力された顔画像FI1、FI2、FI3の表情筋の動きの特徴に基づいて、ヒヤリ度Q1=0.5、ヒヤリ度Q2=0.95、ヒヤリ度Q3=0.6といった値を出力する。顔画像FI2が、図1に示された荷崩れによるヒヤリハットが発生したときの運転者Dの顔画像FIである。
図6のフロー図に示すように、判定部51は、ヒヤリ度取得部50が取得したヒヤリ度Qが所定の第1のしきい値RQ1以上のとき(すなわち、RQ1≦Qのとき)、ヒヤリハットが発生したと判定する(S62参照)。第1のしきい値RQ1は、ヒヤリハットがほぼ確実に発生したといえる値以上に設定されている。第1のしきい値RQ1は、例えば、0.9に設定されてもよい。
図7は、記憶部54の動作を示しており、矢印Tは時間軸を示している。図6および図7に示すように、記憶部54は、判定部51によって顔画像FI2が撮像されたときにヒヤリハットが発生したと判定されると(図6のS62参照)、ヒヤリハットが発生したときの顔画像FI2およびヒヤリハット発生前後の周囲画像SI1、SI2、SI3を記憶する(図6のS63参照)。
図4に示すように、生体情報検出部52は、顔画像FIが入力されると、公知技術によって顔画像FIを解析し、運転者Dの瞬きの回数・速度、心拍および体温またはそのいずれかを含む生体情報およびその変化値P1を検出する。
判定部51は、さらに、生体情報検出部52によって検出された生体情報とヒヤリ度Qとの相関に基づいて、ヒヤリハットが発生したか否かを判定する(図6のS64参照)。判定部51は、ヒヤリ度取得部50が取得したヒヤリ度Qが第2のしきい値RQ2以上であって、かつ、いずれかの生体情報の変化値P1が予め定められた対応する生体情報の第3のしきい値RP1以上のとき(すなわち、(RQ2≦Q)∧(RP1≦P1)のとき)、ヒヤリハットが発生したと判定する(図6のS62参照)。第2のしきい値RQ2は、ヒヤリハットが発生した可能性がある値以上に設定されている。例えば、判定部51は、ヒヤリ度取得部50が取得したヒヤリ度Qが第2のしきい値RQ2以上であって、生体情報検出部52が検出した体温の変化値が所定の変化値以上のとき、ヒヤリハットが発生したと判定する。第2のしきい値RQ2は、例えば、0.7に設定されてもよい。
このように、判定部51は、偶然による生体情報の変化によっていずれかの生体情報の変化値P1が第3のしきい値RP1以上と検出されたとしても、取得されたヒヤリ度Qが第2のしきいRQ2より低いとき(すなわち、(RQ2>Q)∧(RP1≦P1)のとき)には、ヒヤリハットが発生したと判定しない。これにより、画像記憶システムSは、生体情報が偶然に大きく変化した場合に、周囲画像SIが記憶されることを防止することができ、しかも、ヒヤリハットが発生した場合には、ヒヤリ度Qおよび生体情報の変化値P1を参照することにより、適切に顔画像FIおよび周囲画像SIを記憶することができる。
車両情報取得部53は、荷役車1の車速、荷役車1の加速度および荷役車1にかかっている荷Wの荷重またはそのいずれかを含む車両情報およびその変化値P2を取得する。これにより、運転者Dの急ブレーキ操作や急旋回操作、または車両に発生した衝撃などが検出される。
判定部51は、さらに、車両情報とヒヤリ度Qとの相関に基づいて、ヒヤリハットが発生したか否かを判定する。判定部51は、ヒヤリ度取得部50が取得したヒヤリ度Qが第2のしきい値RQ2以上であって、かつ、車両情報取得部53が取得したいずれかの車両情報の変化値P2が予め定められた対応する車両情報の第4のしきい値RP2以上のとき(すなわち、(RQ2≦Q)∧(RP2≦P2)のとき)(図6のS65参照)、ヒヤリハットが発生したと判定する(図6のS62参照)。例えば、判定部51は、ヒヤリ度取得部50が取得したヒヤリ度Qが第2のしきい値RQ2以上であって、車両情報取得部53が取得した荷役車1の加速度の変化値が所定の第4のしきい値RP2以上のとき、ヒヤリハットが発生したと判定する。
このように、判定部51は、単なる急旋回、急ブレーキなどによっていずれかの車両情報の変化値P2が対応する所定の第4のしきい値RP2以上になったとしても、ヒヤリ度Qが第2のしきい値RQ2より低いとき(すなわち、(RQ2>Q)∧(RP2≦P2)のとき)には、ヒヤリハットが発生したと判定しない。これにより、画像記憶システムSは、単なる急旋回、急ブレーキなどによって周囲画像SIが記憶されることを防止することができ、ヒヤリハットが発生した場合には、ヒヤリ度Qおよび車両情報の変化値P2を参照することにより、適切に顔画像FIおよび周囲画像SIを記憶することができる。なお、言い換えると、判定部51は、ヒヤリ度Qが第2のしきい値RQ2以上だったとしても(すなわち、RQ2≦Q)、いずれの生体情報の変化値P1も第3のしきい値RP1より低く、かつ、いずれの車両情報の変化値P2も第4のしきい値RP2より低いとき(すなわち、(RP1>P1)かつ(RP2>P2)のとき)には、ヒヤリハットが発生していないと判定する(図6のS66参照)。
記憶部54は、ヒヤリハット発生前後の周囲画像SIを記憶するとき、さらに、車両情報取得部53が取得したヒヤリハット発生前後における車両情報を記憶してもよい。これにより、ヒヤリハットが発生したときの外観的な状況と車両情報との相関を取得することができる。
教師データ収集部55は、第1のしきい値RQ1以上のヒヤリ度Qが取得され、判定部51によってヒヤリハットが発生したと判定されたとき、その判定に係る顔画像FIを教師データとして収集する。また、教師データ収集部55は、ヒヤリ度取得部50によって取得されたヒヤリ度Qが第2のしきい値RQ2以上であって、かつ、判定部51によってヒヤリハットが発生したと判定されたとき、その判定に係る顔画像FIも教師データとして収集する。
第1および第2学習済みモデル500、501は、教師データ収集部55が収集した顔画像FIに基づいて、さらに機械学習されてもよい。この機械学習としては、例えば、教師データ収集部55が収集した顔画像FIに基づくバックプロパゲーションによってもよい。これにより、第1および第2学習済みモデル500、501は、入力された顔画像FIに基づいて、より適切なヒヤリ度Qを出力することができるようになる。
以上、本発明の車用画像記憶システムの一実施形態について説明したが、本発明に係る画像記憶システムは、上記実施形態に限定されるものではない。本発明に係る画像記憶システムは、例えば、以下の変形例によって実施されてもよい。
(1)顔カメラは、例えば、運転者Dが装着するヘルメットの前方のつばに設けられていてもよい。これにより、顔カメラは、運転者Dが顔を上下左右、後方および上方に向けた場合にも適切に運転者Dの顔を撮像することができる。
(2)荷役車1は、本実施形態ではリーチ式フォークリフトであるが、単なる例示であってこれに限定されない。例えば、荷役車1は、カウンターバランス型フォークリフトでもよい。
(3)画像記憶装置5は、例えば、第1顔および第2顔カメラ2、3ならびに周囲カメラ4と通信可能な状態で、クラウド上のサーバに設けられてもよい。
S 画像記憶システム
C コンピュータ(画像記憶装置)
C1 入力部
C2 記憶部
C3 メモリ
C4 制御部
D 運転者
H ステアリングホイール
FI 顔画像
SI 周囲画像
W 荷
1 荷役車
10 車体
11 支柱
12 ヘッドガード
13 運転席
14 マスト
15 リフトブラケット
16 フォーク
2 第1顔カメラ
3 第2顔カメラ
4 周囲カメラ
5 画像記憶装置
50 ヒヤリ度取得部
500 第1学習済みモデル
501 第2学習済みモデル
51 判定部
52 生体情報検出部
53 車両情報取得部
54 記憶部
55 教師データ収集部
6 棚
100 パレット
C コンピュータ(画像記憶装置)
C1 入力部
C2 記憶部
C3 メモリ
C4 制御部
D 運転者
H ステアリングホイール
FI 顔画像
SI 周囲画像
W 荷
1 荷役車
10 車体
11 支柱
12 ヘッドガード
13 運転席
14 マスト
15 リフトブラケット
16 フォーク
2 第1顔カメラ
3 第2顔カメラ
4 周囲カメラ
5 画像記憶装置
50 ヒヤリ度取得部
500 第1学習済みモデル
501 第2学習済みモデル
51 判定部
52 生体情報検出部
53 車両情報取得部
54 記憶部
55 教師データ収集部
6 棚
100 パレット
Claims (13)
- 運転者の顔を撮像し顔画像を生成する顔カメラと、
荷役車の周囲を撮像し周囲画像を生成する周囲カメラと、
画像記憶装置と、を備え、
前記画像記憶装置は、
前記運転者の顔からヒヤリ度を推定するために、顔画像を教師データとして機械学習された学習済みモデルと、
前記顔カメラによって生成された前記顔画像を前記学習済みモデルに入力して、前記ヒヤリ度を取得するヒヤリ度取得部と、
前記ヒヤリ度取得部によって取得された前記ヒヤリ度に基づいて、ヒヤリハットが発生したか否かを判定する判定部と、
前記判定部によってヒヤリハットが発生したと判定されたとき、ヒヤリハット発生前後の前記周囲画像を記憶する記憶部と、を有する
ことを特徴とする荷役車用画像記憶システム。 - 前記学習済みモデルは、顔画像から得られる表情筋の動きを前記教師データとして機械学習された第1学習済みモデルを含む
ことを特徴とする請求項1に記載の画像記憶システム。 - 前記学習済みモデルは、ヒヤリハットが発生したときの顔画像から得られる視線および顔の動きまたはそのいずれかの動きを前記教師データとして機械学習された第2学習済みモデルを含む
ことを特徴とする請求項1に記載の画像記憶システム。 - 前記顔カメラによって生成された前記顔画像から瞬きの回数・速度、心拍および体温またはそのいずれかを検出する生体情報検出部をさらに備え、
前記判定部は、さらに、前記検出された生体情報と前記ヒヤリ度との相関に基づいて、ヒヤリハットが発生したか否かを判定する
ことを特徴とする請求項2または3に記載の画像記憶システム。 - 前記荷役車の車速、前記荷役車の加速度および前記荷役車にかかっている荷の荷重またはそのいずれかを含む車両情報を取得する車両情報取得部をさらに備え、
前記記憶部は、前記周囲画像を記憶するとき、ヒヤリハット発生前後の前記車両情報をさらに記憶する
ことを特徴とする請求項1〜4のいずれか1項に記載の画像記憶システム。 - 前記判定部は、さらに、前記取得された車両情報と前記ヒヤリ度との相関に基づいて、ヒヤリハットが発生したか否かを判定する
ことを特徴とする請求項5に記載の画像記憶システム。 - 前記記憶部は、前記判定部によってヒヤリハットが発生したと判定されたとき、ヒヤリハットが発生したときの前記顔画像をさらに記憶する
ことを特徴とする請求項1〜6のいずれか1項に記載の画像記憶システム。 - 前記判定部によってヒヤリハットが発生したと判定されたときの顔画像を前記教師データとして収集する教師データ収集部をさらに備える
ことを特徴とする請求項1〜7のいずれか1項に記載の画像記憶システム。 - 前記顔カメラおよび前記周囲カメラまたはそのいずれかは、前記荷役車に設けられている
ことを特徴とする請求項1〜8のいずれか1項に記載の画像記憶システム。 - 前記顔カメラおよび前記周囲カメラまたはそのいずれかは、前記荷役車が荷役作業を行う施設内に設けられている
ことを特徴とする請求項1〜9のいずれか1項に記載の画像記憶システム。 - 前記顔カメラは、複数のカメラからなり、前記複数のカメラは、前記運転者が顔を前後左右に向けた場合にも適切に前記運転者の顔を撮像することができるよう配置されている
ことを特徴とする請求項1〜10のいずれか1項に記載の画像記憶システム。 - 前記顔カメラは、前記運転者の装着するヘルメットに設けられている
ことを特徴とする請求項1〜11のいずれか1項に記載の画像記憶システム。 - コンピュータを請求項1〜12のいずれか1項に記載の画像記憶装置として機能させることを特徴とする画像記憶プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020065643A JP6892210B1 (ja) | 2020-04-01 | 2020-04-01 | 荷役車用画像記憶システムおよび画像記憶プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020065643A JP6892210B1 (ja) | 2020-04-01 | 2020-04-01 | 荷役車用画像記憶システムおよび画像記憶プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6892210B1 JP6892210B1 (ja) | 2021-06-23 |
JP2021163299A true JP2021163299A (ja) | 2021-10-11 |
Family
ID=76464524
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020065643A Active JP6892210B1 (ja) | 2020-04-01 | 2020-04-01 | 荷役車用画像記憶システムおよび画像記憶プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6892210B1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI799051B (zh) * | 2022-01-03 | 2023-04-11 | 財團法人工業技術研究院 | 叉取棧板的自動搬運車和叉取棧板方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007049596A1 (ja) * | 2005-10-28 | 2007-05-03 | Pioneer Corporation | 情報記録装置、情報記録方法、情報記録プログラムおよびコンピュータに読み取り可能な記録媒体 |
JP2010015451A (ja) * | 2008-07-04 | 2010-01-21 | Toyota Motor Corp | 運転者状態記録装置 |
JP2010079825A (ja) * | 2008-09-29 | 2010-04-08 | Tokyo Univ Of Agriculture & Technology | ドライブレコーダ |
JP2019200603A (ja) * | 2018-05-16 | 2019-11-21 | 株式会社堀場製作所 | 車両状況解析方法、車両状況解析システム、車両状況解析装置及びドライブレコーダ |
JP2020037463A (ja) * | 2018-09-03 | 2020-03-12 | 三菱ロジスネクスト株式会社 | 判定装置および判定方法 |
JP2020040812A (ja) * | 2018-09-12 | 2020-03-19 | 三菱ロジスネクスト株式会社 | 出力制御装置および出力制御方法 |
-
2020
- 2020-04-01 JP JP2020065643A patent/JP6892210B1/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007049596A1 (ja) * | 2005-10-28 | 2007-05-03 | Pioneer Corporation | 情報記録装置、情報記録方法、情報記録プログラムおよびコンピュータに読み取り可能な記録媒体 |
JP2010015451A (ja) * | 2008-07-04 | 2010-01-21 | Toyota Motor Corp | 運転者状態記録装置 |
JP2010079825A (ja) * | 2008-09-29 | 2010-04-08 | Tokyo Univ Of Agriculture & Technology | ドライブレコーダ |
JP2019200603A (ja) * | 2018-05-16 | 2019-11-21 | 株式会社堀場製作所 | 車両状況解析方法、車両状況解析システム、車両状況解析装置及びドライブレコーダ |
JP2020037463A (ja) * | 2018-09-03 | 2020-03-12 | 三菱ロジスネクスト株式会社 | 判定装置および判定方法 |
JP2020040812A (ja) * | 2018-09-12 | 2020-03-19 | 三菱ロジスネクスト株式会社 | 出力制御装置および出力制御方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI799051B (zh) * | 2022-01-03 | 2023-04-11 | 財團法人工業技術研究院 | 叉取棧板的自動搬運車和叉取棧板方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6892210B1 (ja) | 2021-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3124348B1 (en) | Vehicle occupant information acquisition device and vehicle control system | |
CN106663377B (zh) | 驾驶员的驾驶不能状态检测装置 | |
JP6573193B2 (ja) | 判定装置、判定方法、および判定プログラム | |
KR20210115207A (ko) | 퍼스널 모빌리티 및 그 제어 방법 | |
US20180032825A1 (en) | System and method for detecting distraction and a downward vertical head pose in a vehicle | |
JP6892210B1 (ja) | 荷役車用画像記憶システムおよび画像記憶プログラム | |
US11203347B2 (en) | In-vehicle device, information management server, information management system, and method | |
US11845442B2 (en) | Systems and methods for driver presence and position detection | |
US20180148048A1 (en) | Apparatus and method for controlling stop of vehicle | |
JP6192140B1 (ja) | フォークリフトの管理装置 | |
US9796267B1 (en) | Machine operation assistance based on height detection of machine load using a camera | |
JP6775135B2 (ja) | ドライバ状態検出装置 | |
JP2019119342A (ja) | 車両用制御装置 | |
JP4869319B2 (ja) | 移動体、移動体システム、及び画像管理方法 | |
JP6918908B2 (ja) | 荷役システム | |
JP2017174093A (ja) | 運転者状態判定装置 | |
JP2020142903A (ja) | 画像処理装置、および制御プログラム | |
US20240140454A1 (en) | On-vehicle system | |
JP2020052869A (ja) | 識別装置、識別方法および識別プログラム | |
WO2024075363A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
WO2024075362A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
US20210281804A1 (en) | Information processing apparatus and information processing method | |
JP7438045B2 (ja) | 情報記録装置、情報記録方法及び情報記録システム | |
JP7127282B2 (ja) | 運転状態判定装置及び運転状態判定方法 | |
CN113041558B (zh) | 飞轮车骑乘动作的感测与回馈系统及其方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200403 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210526 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210526 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6892210 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |