JP6613343B1 - 判定装置および判定方法 - Google Patents
判定装置および判定方法 Download PDFInfo
- Publication number
- JP6613343B1 JP6613343B1 JP2018145315A JP2018145315A JP6613343B1 JP 6613343 B1 JP6613343 B1 JP 6613343B1 JP 2018145315 A JP2018145315 A JP 2018145315A JP 2018145315 A JP2018145315 A JP 2018145315A JP 6613343 B1 JP6613343 B1 JP 6613343B1
- Authority
- JP
- Japan
- Prior art keywords
- scene
- moving image
- learned model
- predetermined operation
- determination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Forklifts And Lifting Vehicles (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
Description
(システム概要)
本実施形態の判定システムの概要を図2に基づいて説明する。図2は、判定システム100の概要を示す図である。判定システム100は、搬送対象物を搬送する搬送車両を作業者が操作して行う作業において、搬送車両に対する操作が適切に行われたか否かを判定するシステムである。
判定装置1の要部構成について図1に基づいて説明する。図1は、判定装置1の要部構成の一例を示すブロック図である。図示のように、判定装置1は、判定装置1の各部を統括して制御する制御部10と、判定装置1が使用する各種データを記憶する記憶部20を備えている。さらに、判定装置1は、判定装置1に対する入力操作を受け付ける入力部30と、判定装置1が情報を出力するための出力部40と、判定装置1が他の装置と通信するための通信部50とを備えている。
本実施形態の学習済みモデル102は、所定の操作が適切に行われたか否かの判定を行うことができるように、教師ありの機械学習により生成された学習済みモデルである。以下では、学習済みモデル102の生成について説明する。
学習済みモデル102の出力を用いたシーン検出について説明する。上記のような機械学習により生成した学習済みモデル102に動画像を入力することにより、入力された動画像に写るシーンが、ラベル付与された各シーンに該当する確率がそれぞれ出力される。シーン検出部103は、この確率の値に基づいて撮影された動画像から所定のシーンを検出する。
フォークリフト3を用いた作業においては操作手順が決まっているから、正しい手順で作業が行われた場合、所定の順序で所定のシーンが検出される。このため、操作適否判定部104は、シーン検出部103の検出結果から、正しい手順で作業が行われているか判定する。なお、正しい手順(シーンの正しい検出順)は、例えば学習済みモデル102の教師データを生成する際に特定することができる。
図3には、フォークリフト3を側方から見た様子を示したが、教師データおよび学習済みモデル102への入力に用いる動画像は、作業の様子が認識できるようなものであればよく、フォークリフト3の側方から撮影したものに限られない。例えば、図4や図5に示すような画像を教師データおよび学習済みモデル102への入力に用いてもよい。
判定装置1が実行する処理の流れを図6に基づいて説明する。図6は、判定装置1が実行する処理(判定方法)の一例を示すフローチャートである。なお、図2の例のように、撮影装置2が撮影した、作業者Aがフォークリフト3を操作する様子を撮影した動画像は判定装置1に送信され、記憶部20に動画像201として記録される。
以上のように、本実施形態のシーン検出部103は、フォークリフト3を操作して行う作業の様子を撮影した動画像から所定の操作が行われているシーンを検出する。そして、操作適否判定部104は、学習済みモデル102に対して、シーン検出部103が検出した上記シーンを入力して得られる結果に基づいて、当該シーンにおいて行われた上記所定の操作が適切か否かを判定する。なお、学習済みモデル102は、上記所定の操作が適切に行われたシーンを撮影した動画像を教師データとした機械学習により生成された学習済みモデルである。よって、本実施形態の判定装置1によれば、作業の様子を撮影した動画像から不適切な操作が行われたシーンを検出することができる。
本発明の他の実施形態について、以下に説明する。なお、説明の便宜上、上記実施形態1にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。本実施形態の判定システム100は、シーン検出の方法が実施形態1と異なっている。これについて、図7に基づいて説明する。図7は、本発明の実施形態2に係る判定システム100の概要を示す図である。
以上のように、本実施形態のシーン検出部103は、フォークリフト3が操作されたときの当該フォークリフト3の動作状況を示すデータを用いてシーンを検出する。このように、動作状況を示すデータを用いたシーン検出と、学習済みモデルを用いた適否判定という異なる技術要素を組み合わせたことによって、より信頼性の高い判定を行うことが可能になる。例えば、入力された動画像201の一部にノイズが含まれており、動画像201に基づく判定の精度が落ちている期間についても、センシングデータ等を用いたシーン検出は問題なく行うことができる。よって、そのシーンについては適否判定をスキップする等の処理を採用して、信頼性の低い判定結果を出力しないようにすることもできる。
上記各実施形態で説明した判定装置1の実行する処理の一部は、判定装置1と通信接続された1または複数の装置に実行させてもよい。例えば、学習済みモデル102の実行する処理を、判定装置1と通信接続されたAIサーバに実行させてもよい。この場合、判定装置1は、動画像201から入力データを生成してAIサーバに送信し、該AIサーバから出力データを受信してシーン検出や操作適否の判定を行う。
学習済みモデル102に対する入力データとしては、動画像201をそのまま用いてもよいし、動画像201に対して所定の処理を施したものを用いてもよい。上記所定の処理は、各シーンの特徴点を失わせることなく、特徴点と関係のない情報を減らすことができるものであればよい。例えば、動画像201がカラー画像であれば、グレースケール化して入力データとしてもよい。また、動画像201において、動きのある領域のみを抽出して入力データとしてもよい。
上記各実施形態では、適切に行われた作業の様子を撮影した動画像を教師データとした機械学習で学習済みモデルを生成する例を説明したが、教師データは、操作内容が不適切であったときの作業の様子を撮影した動画像としてもよい。この場合、操作内容の適否の判定においては、不適切な操作内容に該当する確率が所定の閾値以上であれば、操作内容が不適切であると判定する。
判定装置1の制御ブロック(特に制御部10に含まれる各部)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
102 学習済みモデル
103 シーン検出部
104 操作適否判定部
Claims (4)
- 搬送対象物を搬送する搬送車両を操作して行う作業の様子を撮影した動画像における、上記搬送車両に対して所定の操作が行われているシーンを検出するシーン検出部と、
上記所定の操作が適切に行われたシーンを撮影した動画像を教師データとした機械学習により生成された学習済みモデルに対して、上記シーン検出部が検出した上記シーンの動画像を入力して得られる結果に基づいて、当該シーンにおいて行われた上記所定の操作が適切か否かを判定する操作適否判定部と、を備え、
上記学習済みモデルは、上記所定の操作が適切に行われた上記作業の様子を撮影した動画像であって、各シーンが分類済みの動画像を教師データとした機械学習により生成されたものであって、当該学習済みモデルに入力された動画像を複数のシーンに分類すると共に、該分類の確度を示す情報を出力するものであり、
上記操作適否判定部は、複数の上記シーンのそれぞれについて出力された上記分類の確度のうち、上記シーン検出部が検出したシーンの上記分類の確度が所定の閾値未満であった場合に、上記所定の操作は適切ではないと判定することを特徴とする判定装置。 - 搬送対象物を搬送する搬送車両を操作して行う作業の様子を撮影した動画像から上記搬送車両に対して所定の操作が行われているシーンを検出するシーン検出部と、
上記所定の操作が適切に行われたシーンを撮影した動画像を教師データとした機械学習により生成された学習済みモデルに対して、上記シーン検出部が検出した上記シーンを入力して得られる結果に基づいて、当該シーンにおいて行われた上記所定の操作が適切か否かを判定する操作適否判定部と、を備え、
上記学習済みモデルは、上記所定の操作が適切に行われた上記作業の様子を撮影した動画像であって、各シーンが分類済みの動画像を教師データとした機械学習により生成されたものであって、当該学習済みモデルに入力された動画像を複数のシーンに分類すると共に、該分類の確度を示す情報を出力するものであり、
上記シーン検出部は、上記分類の確度に基づいて上記学習済みモデルに入力されたシーンが上記複数のシーンの何れに該当するかを検出し、
上記操作適否判定部は、複数の上記シーンのそれぞれについて出力された上記分類の確度のうち、上記シーン検出部が検出したシーンの上記分類の確度が所定の閾値未満であった場合に、上記所定の操作は適切ではないと判定することを特徴とする判定装置。 - 上記シーン検出部は、上記搬送車両が操作されたときの当該搬送車両の動作状況を示すデータを用いて上記シーンを検出する、
ことを特徴とする請求項1に記載の判定装置。 - 判定装置による判定方法であって、
搬送対象物を搬送する搬送車両を操作して行う作業の様子を撮影した動画像における、上記搬送車両に対して所定の操作が行われているシーンを検出するシーン検出ステップと、
上記所定の操作が適切に行われたシーンを撮影した動画像を教師データとした機械学習により生成された学習済みモデルに対して、上記シーン検出ステップで検出した上記シーンの動画像を入力して得られる結果に基づいて、当該シーンにおいて行われた上記所定の操作が適切か否かを判定する操作適否判定ステップと、を含み、
上記学習済みモデルは、上記所定の操作が適切に行われた上記作業の様子を撮影した動画像であって、各シーンが分類済みの動画像を教師データとした機械学習により生成されたものであって、当該学習済みモデルに入力された動画像を複数のシーンに分類すると共に、該分類の確度を示す情報を出力するものであり、
上記操作適否判定ステップでは、複数の上記シーンのそれぞれについて出力された上記分類の確度のうち、上記シーン検出ステップにて検出したシーンの上記分類の確度が所定の閾値未満であった場合に、上記所定の操作は適切ではないと判定することを特徴とする判定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018145315A JP6613343B1 (ja) | 2018-08-01 | 2018-08-01 | 判定装置および判定方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018145315A JP6613343B1 (ja) | 2018-08-01 | 2018-08-01 | 判定装置および判定方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6613343B1 true JP6613343B1 (ja) | 2019-11-27 |
JP2020021323A JP2020021323A (ja) | 2020-02-06 |
Family
ID=68692108
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018145315A Active JP6613343B1 (ja) | 2018-08-01 | 2018-08-01 | 判定装置および判定方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6613343B1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021109732A (ja) * | 2020-01-09 | 2021-08-02 | 東芝三菱電機産業システム株式会社 | クレーン運転操作記録装置 |
JP7401303B2 (ja) | 2019-12-27 | 2023-12-19 | 矢崎エナジーシステム株式会社 | 作業車両の操作評価システム |
JP7471435B2 (ja) | 2020-09-17 | 2024-04-19 | 株式会社日立国際電気 | 映像処理装置、撮像装置、及び、映像処理方法 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7124852B2 (ja) * | 2020-07-30 | 2022-08-24 | カシオ計算機株式会社 | 教師データの生成方法、教師データの生成装置及びプログラム |
JP7353501B2 (ja) * | 2020-08-07 | 2023-09-29 | 三菱電機株式会社 | 運搬車両稼働分析システム、運搬車両稼働分析装置、運搬車両稼働分析方法およびプログラム |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017151694A (ja) * | 2016-02-24 | 2017-08-31 | 株式会社デンソー | 安全確認診断システム及び安全確認診断方法 |
-
2018
- 2018-08-01 JP JP2018145315A patent/JP6613343B1/ja active Active
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7401303B2 (ja) | 2019-12-27 | 2023-12-19 | 矢崎エナジーシステム株式会社 | 作業車両の操作評価システム |
JP2021109732A (ja) * | 2020-01-09 | 2021-08-02 | 東芝三菱電機産業システム株式会社 | クレーン運転操作記録装置 |
JP7220014B2 (ja) | 2020-01-09 | 2023-02-09 | 東芝三菱電機産業システム株式会社 | クレーン運転操作記録装置 |
JP7471435B2 (ja) | 2020-09-17 | 2024-04-19 | 株式会社日立国際電気 | 映像処理装置、撮像装置、及び、映像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2020021323A (ja) | 2020-02-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6613343B1 (ja) | 判定装置および判定方法 | |
US8233678B2 (en) | Imaging apparatus, imaging method and computer program for detecting a facial expression from a normalized face image | |
JP2019156641A (ja) | フォークリフト用の画像処理装置、および制御プログラム | |
US20100253495A1 (en) | In-vehicle image processing device, image processing method and memory medium | |
JP2008033819A (ja) | 物体認識装置、監視システム、物体認識方法、物体認識プログラム、および該プログラムを記録した記録媒体 | |
CN109383519B (zh) | 信息处理方法、信息处理系统和记录介质 | |
US10675659B2 (en) | Instruction projecting device, package sorting system and instruction projecting method | |
US20190042847A1 (en) | Instruction projecting device, package sorting system and instruction projecting method | |
US11657634B2 (en) | Control system, control method, and program | |
EP3434623A1 (en) | Projection indicator, cargo assortment system, and projection indicating method | |
JP6586497B1 (ja) | 差込制御装置および差込制御方法 | |
JP6674515B2 (ja) | 判定装置および判定方法 | |
JP6600726B1 (ja) | 判定装置および判定方法 | |
JP6586496B1 (ja) | 出力制御装置および出力制御方法 | |
JP6722733B2 (ja) | 判定装置および判定方法 | |
JP2021076711A (ja) | スクラップ画像撮影システム、スクラップ画像撮影方法、撮影支援装置、及びプログラム | |
JP6893198B2 (ja) | 情報処理装置および情報処理方法 | |
EP3647236A1 (en) | Projection instruction device, baggage sorting system, and projection instruction method | |
CN113879321B (zh) | 驾驶员监视装置及驾驶员监视方法 | |
JP5376254B2 (ja) | 被写体認識装置 | |
JP2019142304A (ja) | 落下物検出装置及び落下物検出方法 | |
US20200380296A1 (en) | Reading system, reading method, storage medium, and moving body | |
KR102135883B1 (ko) | 크레인의 인양물 분석 시스템 및 방법 | |
CN113784875B (zh) | 相机位置检测装置和方法、相机单元以及存储介质 | |
US20220230333A1 (en) | Information processing system, information processing method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180803 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190725 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190730 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190912 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191029 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191101 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6613343 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |