JP7333242B2 - 作業安全管理システム、安全判定装置、作業安全管理方法、及びコンピュータプログラム - Google Patents
作業安全管理システム、安全判定装置、作業安全管理方法、及びコンピュータプログラム Download PDFInfo
- Publication number
- JP7333242B2 JP7333242B2 JP2019187693A JP2019187693A JP7333242B2 JP 7333242 B2 JP7333242 B2 JP 7333242B2 JP 2019187693 A JP2019187693 A JP 2019187693A JP 2019187693 A JP2019187693 A JP 2019187693A JP 7333242 B2 JP7333242 B2 JP 7333242B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- worker
- safety
- image
- work
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
作業者による作業に関して、一日の作業工程を遅らせることなく予定通りに実施することができる技術が知られている(例えば、特許文献1参照)。この技術では、作業内容が順序に従って表示された作業内容表示と、各作業内容に対応した時刻が表示された時刻表示とを備えた作業手順マニュアルを予め用意し、作業者はこの作業手順マニュアル基づいて施工作業を行う。
例えば、作業員の服装について、以下を禁止する社内規定が挙げられる。
・作業服を着用していない、作業服の前が開いている、袖まくりしている
・安全靴を着用していない
・貴金属類(腕時計・指輪等)を着用している
このような社内規定を順守するため、作業前に、作業員が自分自身の服装、同僚の服装を確認している。しかし、作業時間に余裕がない場合、作業に慣れてきた場合には、作業員の服装の確認が疎かになるおそれがある。
本発明は、このような事情を考慮してなされたものであり、その目的は、作業員に対して作業を許可するか否かを判定できる作業安全管理システム、端末装置、安全判定装置、作業安全管理方法、及びコンピュータプログラムを提供することにある。
(2)本発明の一態様は、上記(1)に記載の作業安全管理システムにおいて、前記処理部は、前記作業員に指示を通知し、前記取得部は、前記処理部が、前記作業員に前記指示を通知した後に、前記作業員の前記画像を取得する。
(3)本発明の一態様は、上記(1)又は上記(2)に記載の作業安全管理システムにおいて、前記作成部は、前記判定部によって、前記作業員の安全性の判定が困難であると判定された場合に、安全性の判定が困難であることを通知するための情報を作成し、前記第2送信部は、前記作成部が作成した安全性の判定が困難であることを通知するための前記情報を、前記端末装置へ送信し、前記第1受信部は、前記第2送信部が送信した安全性の判定が困難であることを通知するための前記情報を受信し、前記処理部は、前記第1受信部が受信した安全性の判定が困難であることを通知するための前記情報を、作業員に通知し、前記取得部は、前記処理部が、安全性の判定が困難であることを通知するための前記情報を、作業員に通知した後に、前記作業員の前記画像を取得する。
(4)作業員の安全性を判定する安全判定装置であって、作業員の画像を取得する取得部と、前記取得部が取得した前記画像に基づいて、前記作業員の安全性を判定する判定部と、前記判定部によって、安全性に問題があると判定された場合に、注意情報を作成する作成部と、前記作成部が作成した前記注意情報を、作業員に通知する処理部と、距離を検出する距離検出部と、前記安全判定装置を移動させる移動部とを備え、前記取得部は、前記移動部が前記安全判定装置を移動させることによって、前記距離検出部が検出した前記作業員との間の距離が、距離閾値以下となった場合に、前記作業員の前記画像を取得する、安全判定装置である。
記作成部が作成した前記注意情報を、作業員に通知する処理部として機能させ、前記コンピュータは、前記取得部として機能させる場合に、移動部が安全判定装置を移動させることによって、距離検出部が検出した前記作業員との間の距離が、距離閾値以下となった場合に、前記作業員の前記画像を取得する、コンピュータプログラムである。
なお、実施形態を説明するための全図において、同一の機能を有するものは同一符号を用い、繰り返しの説明は省略する。
また、本願でいう「XXに基づいて」とは、「少なくともXXに基づく」ことを意味し、XXに加えて別の要素に基づく場合も含む。また、「XXに基づいて」とは、XXを直接に用いる場合に限定されず、XXに対して演算や加工が行われたものに基づく場合も含む。「XX」は、任意の要素(例えば、任意の情報)である。
(作業安全管理システム)
図1は、本発明の第1の実施形態に係る作業安全管理システムの構成例を示す図である。図1において、作業安全管理システム1は、端末装置100-1から端末装置100-n(nは、n>1の整数)と、データセンター10とを備える。端末装置100-1から端末装置100-nは、それぞれ作業員W-1から作業員W-nによって携帯される。
端末装置100-1から端末装置100-nの各々と、データセンター10とは、通信網NWを介して互いに、接続される。通信網NWは、例えば、無線基地局、Wi-Fiアクセスポイント、通信回線、プロバイダ、インターネットなどを含む。なお、通信網NWは、一部にローカルなネットワークを含んでもよい。
端末装置100-1から端末装置100-nの各々は、データセンター10へアクセスする。データセンター10は、端末装置100-1から端末装置100-nの各々がアクセスしたことによって、作業員W-1から作業員W-nの各々の入退室を管理する。データセンター10は、作業IDと、作業内容と、作業を許可するか否かのチェック項目とを関連付けた作業DBを記憶している。作業員W-1から作業員W-nとが、それぞれ端末装置100-1から端末装置100-nを操作することによって、端末装置100-1から端末装置100-nは、作業IDと含む作業通知を作成し、作成した作業通知を、データセンター10へ送信する。データセンター10は、端末装置100-1から端末装置100-nの各々が送信した作業通知を受信し、受信した作業通知に含まれる作業IDを取得する。データセンター10は、取得した作業IDに関連付けて記憶されている作業を許可するか否かのチェック項目を示す情報を取得し、取得した作業を許可するか否かのチェック項目を含み、作業通知を送信した端末装置を宛先とする作業応答を作成する。データセンター10は、作成した作業応答を、作業通知を送信した端末装置へ送信する。
作業員W-1は、端末装置100-1を操作することによって、作業員W-1から作業員W-nのいずれかを撮像する。ここでは、一例として、作業員W-1が、端末装置100-1を操作することによって、作業員W-nを撮像する。端末装置100-1は、作業員W-nを撮像することによって、作業員W-nが写っている画像を取得する。端末装置100-1は、取得した画像と、取得したチェック項目とに基づいて、作業員W-nの安全性を判定する。端末装置100-1は、作業員W-nの安全性の判定結果を出力する。
以下、作業安全管理システム1に含まれる端末装置100-1から端末装置100-nについて説明する。端末装置100-1から端末装置100-nのうち、任意の端末装置を、端末装置100と記載する。作業員W-1から作業員W-nのうち、任意の作業員を、作業員Wと記載する。
図2は、本実施形態に係る作業安全管理システムに含まれる端末装置の一例を示す図である。
端末装置100は、スマートフォン、携帯端末、又はパーソナルコンピュータ、タブレット端末装置、腕時計型端末装置、あるいはその他の情報処理機器として実現される。端末装置100は、例えば、撮像部11と、取得部12と、判定部13と、処理部14と、作成部15と、通信部16と、記憶部17とを備える。
撮像部11は、作業員Wによる撮像操作に基づいて、撮像することによって撮像対象である作業員の画像を生成する。
記憶部17は、HDD(Hard Disk Drive)やフラッシュメモリ、RAM(Random Access Memory)、ROM(Read Only Memory)などにより実現される。記憶部17には、画像分類モデル17aが記憶される。画像分類モデル17aがクラウド上に記憶されていてもよい。
画像分類モデル17aは、作業員が写っている画像と、その画像に写っている作業員の服装が禁止事項に該当しているか否かを示す情報とに基づいて、撮像部11が撮像することによって生成された画像と、その画像に写っている作業員に対して作業を許可するか否かとの関係を学習した学習モデルである。ここで、その画像に写っている作業員の服装が禁止事項に該当している場合には、その画像に写っている作業員に対して作業を許可しないと判定され、その画像に写っている作業員の服装が禁止事項に該当していない場合には、その画像に写っている作業員に対して作業を許可すると判定される。画像分類モデル17aの一例は、AlexNet、ResNet、Inception、Xceptionなどのニューラルネットワークのモデルである。
判定部13は、取得部12が取得した画像データを取得し、取得した画像データを画像処理することによって画像を生成する。判定部13は、記憶部17に記憶されている画像分類モデル17aを用いて、生成した画像に写っている作業員に対して作業を許可するか否を判定する。
図3は、本実施形態に端末装置の処理を説明するための図である。図3は、端末装置100の判定部13の処理を主に示す。
判定部13は、通信部16が受信した作業応答を取得し、取得した作業応答に含まれるチェック項目を取得する。ここで、チェック項目は、判定内容の一例である。チェック項目の一例は、作業員が作業服を着用しているか否かと、作業員が作業靴を着用しているか否かと、作業員が腕時計を着用しているか否かである。判定部13は、取得したチェック項目に基づいて、画像分類モデル17aから、第1学習モデルと、第2学習モデルと、第3学習モデルとを取得し、取得した第1学習モデルと、第2学習モデルと、第3学習モデルとを設定する。ここで、第1学習モデルは、作業員が写っている画像と、その画像に写っている作業員の服装を示す情報とに基づいて、撮像部11が撮像することによって生成された画像と、その画像に写っている作業員が作業服を着用しているか否かとの関係を学習したものである。第2学習モデルは、作業員が写っている画像と、その画像に写っている作業員の靴を示す情報とに基づいて、撮像部11が撮像することによって生成された画像と、その画像に写っている作業員が作業靴を着用しているか否かとの関係を学習したものである。第3学習モデルは、作業員が写っている画像と、その画像に写っている作業員の腕を示す情報とに基づいて、撮像部11が撮像することによって生成された画像と、その画像に写っている作業員が腕時計を着用しているか否かとの関係を学習したものである。
判定部13は、作業員が作業服を着用しているか否かの判定結果1と、作業員が作業靴を着用しているか否かの判定結果2と、作業員が腕時計を着用しているか否かの判定結果3とに基づいて、画像に写っている作業員に対して作業を許可するか否を判定する。例えば、判定部13は、作業服を着用していることを示す判定結果1と、作業靴を着用していることを示す判定結果2と、腕時計を着用していないことを示す判定結果3とを取得した場合に、作業員に対して作業を許可すると判定する。判定部13は、作業服を着用していないことを示す判定結果1と、作業靴を着用していないことを示す判定結果2と、腕時計を着用していることを示す判定結果3とのいずれかを取得した場合に、作業員に対して作業を許可しないと判定する。図2に戻り説明を続ける。
作成部15は、作業者Wが、端末装置100に対して、作業IDを通知する操作を行った場合に、作業IDを含み、データセンター10を宛先とする作業通知を作成する。作成部15は、作成した作業通知を、通信部16へ出力する。
作成部15は、作業者Wが、端末装置100に対して、判定結果を通知する操作を行った場合に、判定結果を含み、通知先のアドレスを宛先とする判定結果通知を作成する。例えば、作成部15は、作業者Wが、端末装置100に対して、撮像対象の作業員の端末装置へ判定結果を通知する操作を行った場合に、判定結果を含み、撮像対象の作業員の端末装置のアドレスを宛先とする判定結果通知を作成する。作成部15は、判定結果とともに、判定結果が作業を許可しないことを示す場合には、注意情報を含む判定結果通知を作成してもよい。ここで、撮像対象の作業員の端末装置のアドレスは、記憶部17に記憶された作業員の作業員IDと、その作業員が携帯する端末装置100のアドレスを示す情報とを関連付けたアドレス帳から、作業者Wが選択するようにしてもよい。
図4は、本実施形態に係る作業安全管理システムの動作の一例を示すシーケンスチャートである。端末装置100-1は、作業IDを含む作業通知を作成し、作成した作業通知を、データセンター10へ送信する。データセンター10は、端末装置100-1が送信した作業通知を受信し、受信した作業通知に含まれる作業IDに基づいて、チェック項目を取得する。データセンター10は、取得したチェック項目を含み、端末装置100-1を宛先とする作業応答を作成し、作成した作業応答を、端末装置100-1へ送信する。端末装置100-1は、データセンター10が送信した作業応答を受信し、受信した作業応答に含まれるチェック項目を取得し、取得したチェック項目に基づいて、学習モデルを設定する。図4は、以上の処理が行われた後の動作について説明する。また、作業員W-1は、端末装置100-1を操作することによって、作業員W-1を撮像する場合について説明する。
(ステップS1)
端末装置100-1において、撮像部11は、作業員W-1による撮像操作に基づいて、撮像することによって撮像対象である作業員の画像を生成する。
(ステップS2)
端末装置100-1において、取得部12は、撮像部11が生成した作業員の画像の画像データを取得する。
(ステップS3)
端末装置100-1において、判定部13は、取得部12が取得した画像データを取得し、取得した画像データを画像処理することによって画像を生成する。判定部13は、記憶部17に記憶されている画像分類モデル17aから、チェック項目に基づいて、学習モデルを取得し、取得した学習モデルを用いて、生成した画像に写っている作業員に対して作業を許可するか否を判定する。
端末装置100-1において、処理部14は、判定部13による判定結果を取得し、取得した判定結果を出力する。処理部14は、取得した判定結果を、音声、画像などで出力する。
(ステップS5)
端末装置100-1において、作成部15は、作業者W-1が、端末装置100-1に対して、判定結果を通知する操作を行った場合に、判定結果を含み、撮像した対象である作業者W-2の端末装置100-2のアドレスを宛先とする判定結果通知を作成する。
(ステップS6)
端末装置100-1において、作成部15は、作成した判定結果通知を、通信部16へ出力する。通信部16は、作成部15が出力した判定結果通知を取得し、取得した判定結果通知を、端末装置100-2へ送信する。
(ステップS7)
端末装置100-2において、通信部16は、端末装置100-1が送信した判定結果通知を受信し、受信した判定結果通知を、処理部14へ出力する。処理部14は、通信部16が出力した判定結果通知を取得し、取得した判定結果通知に含まれる判定結果を取得する。処理部14は、判定結果を出力する。処理部14は、取得した判定結果を、音声、画像などで出力する。
前述した第1の実施形態では、一例として、端末装置100-1から端末装置100-nの各々が受信する作業応答に同様のチェック項目が含まれる場合について説明したがこの例に限られない。端末装置100-1から端末装置100-nの各々が受信する作業応答に異なるチェック項目が含まれる場合にも適用できる。
前述した第1の実施形態では、端末装置100は、データセンター10が送信した作業応答に含まれるチェック項目に基づいて、画像分類モデル17aから学習モデルを取得し、取得した学習モデルを設定する場合について説明したがこの例に限られない。例えば、端末装置100は、作業応答に含まれるチェック項目に基づくことなく、画像分類モデル17aから学習モデルを取得してもよい。例えば、端末装置100は、作業員Wの操作に基づいて、画像分類モデル17aから学習モデルを取得し、取得した学習モデルを設定してもよい。
前述した第1の実施形態において、端末装置100は、判定部13において、画像に写っている作業員に対して作業を許可するか否の判定が困難であると判定した場合には、処理部14へ、作業を許可するか否かの判定が困難である理由と、判定が困難であることを通知するための情報とを含む判定不可能通知を出力してもよい。処理部14は、判定部13が出力した判定不可能通知を取得し、取得した判定不可能通知に基づいて、撮像対象の作業員へ、作業を許可するか否かを判定できる画像を取得するための指示を作成し、作成した指示を出力する。処理部14は、取得した指示を、音声、画像などで出力する。
例えば、処理部14は、判定不可能通知に、作業を許可するか否かの判定が困難である理由として「作業員が横向きである」ことなどの作業員の向きが適切でないことを示す情報が含まれる場合には、指示として「正面を向いてください」などの作業員に対して適切な方向を向くことを促す情報を作成し、作成した指示を出力する。また、例えば、処理部14は、判定不可能通知に、作業を許可するか否かの判定が困難である理由として「作業員の腕が隠れている」ことなどの作業員の体の部位か見えないことを示す情報が含まれる場合には、指示として「両腕を前に出してください」などの作業員に対して体の部位を見えるようにすることを促す情報を作成し、作成した指示を出力する。処理部14は、指示を出力した後に、作業員Wへ、撮像することを促す情報を作成し、作成した情報を出力する。
(作業安全管理システム)
本発明の第1の実施形態の変形例に係る作業安全管理システムの構成例は、図1を適用できる。第1の実施形態の変形例に係る作業安全管理システム1aは、第1の実施形態に係る作業安全管理システムと比較して、端末装置100-1の代わりに端末装置100a-1を備え、・・・、端末装置100-nの代わりに端末装置100a-nを備える点で異なる。端末装置100a-1から端末装置100a-nは、それぞれ作業員W-1から作業員W-nによって携帯される。
以下、端末装置100a-1から端末装置100a-nのうち、任意の端末装置を、端末装置100aと記載する。
本実施形態の変形例に係る作業安全管理システムに含まれる端末装置100aの一例は、図2を適用できる。
端末装置100aは、スマートフォン、携帯端末、又はパーソナルコンピュータ、タブレット端末装置、腕時計型端末装置、あるいはその他の情報処理機器として実現される。端末装置100aは、例えば、撮像部11と、取得部12と、判定部13aと、処理部14と、作成部15と、通信部16と、記憶部17とを備える。
図5は、第1の実施形態の変形例に係る端末装置の処理を説明するための図である。図5は、端末装置100aの判定部13aの処理を主に示す。
判定部13aは、通信部16が受信した作業応答を取得し、取得した作業応答に含まれるチェック項目を取得する。チェック項目の一例は、作業員が作業服を着用しているか否かと、作業員が作業靴を着用しているか否かと、作業員が腕時計を着用しているか否かである。判定部13aは、取得したチェック項目に基づいて、画像分類モデル17aから、第1学習モデルと、第2学習モデルと、第3学習モデルとを取得し、取得した第1学習モデルと、第2学習モデルと、第3学習モデルとを設定する。ここで、第1学習モデル、第2学習モデル、及び第3学習モデルは、前述したので、ここでの説明は省略する。
判定部13aは、生成した画像に含まれる作業員Wの体の部位を検出し、検出した作業員Wの体の部位の画像を抽出する。判定部13aは、抽出した作業員Wの体の部位の画像に基づいて、第1学習モデルと、第2学習モデルと、第3学習モデルとを用いて、作業員Wに対して作業を許可するか否を判定する。
判定部13aは、姿勢推定モデル13a-1と、部位抽出部13a-2と、画像分類モデル17aとして機能する。判定部13aは、姿勢推定モデル13a-1を使用して、生成した画像に含まれる作業員Wの姿勢を推定する。判定部13aは、姿勢推定モデル13a-1を使用して、体の骨格情報を取得する。例えば、判定部13aは、Openpose、CPN(Cascaded Pyramid Network)などの姿勢推定モデルを使用して、体の骨格情報を取得する。
判定部13aは、画像分類モデル17aから、チェック項目に基づいて、学習モデルを取得し、所得した学習モデルを使用して、抽出した体の部位の画像に基づいて、画像に写っている作業員に対して作業を許可するか否を判定する。ここで、チェック項目と、そのチェック項目に該当する学習モデルとを関連付けた情報が、記憶部17に記憶されていてもよい。具体的には、部位抽出部13a-2が、体の上半身の部分の画像を抽出した場合には、判定部13aは、画像分類モデル17aから、第1学習モデルを取得し、取得した第1学習モデルを使用して、抽出した体の上半身の部分の画像に基づいて、作業員が作業服を着用しているか否かを判定する。また、部位抽出部13a-2が、体の足の部分の画像を抽出した場合には、判定部13aは、画像分類モデル17aから、第2学習モデルを取得し、取得した第2学習モデルを使用して、抽出した体の足の部分の画像に基づいて、作業員が作業靴を着用しているか否かを判定する。また、部位抽出部13a-2が、体の腕の部分の画像を抽出した場合には、判定部13aは、画像分類モデル17aから、第3学習モデルを取得し、取得した第3学習モデルを使用して、抽出した体の腕の部分の画像に基づいて、作業員が腕時計を着用しているか否かを判定する。
判定部13aは、作業員が作業服を着用しているか否かの判定結果と、作業員が作業靴を着用しているか否かの判定結果と、作業員が腕時計を着用しているか否かの判定結果とに基づいて、画像に写っている作業員に対して作業を許可するか否を判定する。
本実施形態の変形例に係る作業安全管理システムに含まれる端末装置の一例は、図4を適用できる。ただし、ステップS3の処理が異なる。
ステップS3では、端末装置100a-1において、判定部13aは、取得部12が取得した画像データを取得し、取得した画像データを画像処理することによって画像を生成する。判定部13aは、姿勢推定モデル13a-1を使用して、生成した画像に含まれる作業員Wの姿勢を推定し、推定した作業員Wの骨格情報に基づいて、体の部位の画像を抽出する。判定部13aは、画像分類モデル17aを使用して、抽出した体の部位の画像に基づいて、画像に写っている作業員に対して作業を許可するか否を判定する。
(作業安全管理システム)
第2の実施形態に係る作業安全管理システムは、安全判定装置100bを備える。安全判定装置100bの一例は、移動機能を有する移動ロボットである。
例えば、作業管理者は、安全判定装置100bを操作することによって、安全判定装置100bでは、作業安全管理システム1bを利用するためのアプリケーションプログラム、或いはブラウザなどが起動し、安全管理サービスをサポートする。安全判定装置100bは、アプリケーションプログラム(安全管理サービス利用アプリ)が起動していることを前提とする。安全管理サービス利用アプリは、作業管理者の操作に応じてデータセンター10と通信し、データセンター10から受信した応答に基づく処理を行う。
安全判定装置100bは、データセンター10へアクセスする。データセンター10は、安全判定装置100bがアクセスしたことによって、作業員W-1から作業員W-nの各々の入退室を管理する。データセンター10は、作業IDと、作業内容と、作業を許可するか否かのチェック項目とを関連付けた作業DBを記憶している。作業管理者が、安全判定装置100bを操作することによって、安全判定装置100bは、作業IDと含む作業通知を作成し、作成した作業通知を、データセンター10へ送信する。データセンター10は、安全判定装置100bが送信した作業通知を受信し、受信した作業通知に含まれる作業IDを取得する。データセンター10は、取得した作業IDに関連付けて記憶されている作業を許可するか否かのチェック項目を示す情報を取得し、取得した作業を許可するか否かのチェック項目を含み、安全判定装置100bを宛先とする作業応答を作成する。データセンター10は、作成した作業応答を、安全判定装置100bへ送信する。
安全判定装置100bは、データセンター、ネットワークセンターなどの施設内を定期的に巡回する。安全判定装置100bは、巡回中に、作業員W発見した場合に、以下の処理を行う。
安全判定装置100bは、作業員Wまでの距離を検出し、検出した作業員Wまでの距離に基づいて、作業員Wまでの距離が、距離閾値以下となる位置まで移動する。ここで、距離閾値は、安全判定装置100bが搭載する撮像部11bが、作業者Wを撮像することで得られる画像に基づいて、安全性を判定できるか否かに基づいて、設定される。
安全判定装置100bは、作業員Wまでの距離が、距離閾値以下となった場合に、指示を作業員に通知する。例えば、安全判定装置100bは、音声出力により「正面を向いてください」、「両腕を前に出してください」などの作業を許可するか否かを判定できる画像を取得するための指示を、作業員Wに通知する。
安全判定装置100bは、作業員Wの向きが適切であることを確認した後に、作業員Wを撮像する。安全判定装置100bは、作業員Wを撮像することによって、作業員Wが写っている画像を取得する。安全判定装置100bは、取得した画像に基づいて、作業員Wの安全性を判定する。安全判定装置100bは、作業員Wの安全性の判定結果を出力する。
以下、第2の実施形態に係る作業安全管理システムに含まれる安全判定装置100bについて説明する。
図6は、本発明の第2の本実施形態に係る作業安全管理システムに含まれる安全判定装置の一例を示す図である。
安全判定装置100bは、移動ロボットなどの情報処理機器として実現される。安全判定装置100bは、例えば、撮像部11bと、取得部12と、判定部13と、処理部14aと、通信部16と、記憶部17と、距離検出部18と、移動部19とを備える。
移動部19は、距離検出部18が検出した作業員Wと安全判定装置100bとの間の距離に基づいて、作業員Wと安全判定装置100bとの間の距離が距離閾値以下となるまで、安全判定装置100bを移動させる。
撮像部11bは、安全判定装置100bが、作業員Wと安全判定装置100bとの間の距離が距離閾値以下となったことによって停止した場合に、撮像することによって撮像対象である作業員の画像を生成する。
処理部14aは、判定部13による判定結果を取得し、取得した判定結果を出力する。処理部14aは、取得した判定結果を、音声、画像などで出力する。処理部14aは、判定結果として、作業員Wに対して作業を許可しないことを通知する場合に、その理由を併せて通知してもよい。さらに、処理部14aは、判定結果が作業を許可しないことを示す場合に、注意情報を作成し、作成した注意情報を出力してもよい。処理部14aは、取得した注意結果を、音声、画像などで出力する。例えば、処理部14aは、判定結果が、作業員が作業服を着用していないために作業を許可しないことを示す場合には、「作業服を着用してください」と作業服の着用を促す注意情報を作成し、作成した注意情報を出力する。また、例えば、処理部14aは、判定結果が、作業員が安全靴を着用していないために作業を許可しないことを示す場合には、「安全靴を着用してください」と安全靴の着用を促す注意情報を作成し、作成した注意情報を出力する。また、例えば、処理部14aは、判定結果が、作業員が腕時計を着用しているために作業を許可しないことを示す場合には、「腕時計を外してください」と腕時計を外すことを促す注意情報を作成し、作成した注意情報を出力する。
図7は、本実施形態に係る作業安全管理システムに含まれる安全判定装置の動作の一例を示すシーケンスチャートである。安全判定装置100bは、作業IDを含む作業通知を作成し、作成した作業通知を、データセンター10へ送信する。データセンター10は、安全判定装置100bが送信した作業通知を受信し、受信した作業通知に含まれる作業IDに基づいて、チェック項目を取得する。データセンター10は、取得したチェック項目を含み、安全判定装置100bを宛先とする作業応答を作成し、作成した作業応答を、安全判定装置100bへ送信する。安全判定装置100bは、データセンター10が送信した作業応答を受信し、受信した作業応答に含まれるチェック項目を取得し、取得したチェック項目に基づいて、学習モデルを設定する。図7は、以上の処理が行われた後の動作について説明する。また、安全判定装置100bは、作業員Wの近傍まで移動し、作業員Wを撮像する場合について説明する。
(ステップS11)
安全判定装置100bにおいて、移動部19は、距離検出部18が検出した作業員Wと安全判定装置100bとの間の距離に基づいて、安全判定装置100bを移動させる。
(ステップS12)
安全判定装置100bにおいて、移動部19は、距離検出部18が検出した作業員Wと安全判定装置100bとの間の距離が、距離閾値以下であるか否かを判定する。作業員Wと安全判定装置100bとの間の距離が、距離閾値以下でない場合、ステップS11へ移行する。
(ステップS13)
安全判定装置100bにおいて、移動部19は、距離検出部18が検出した作業員Wと安全判定装置100bとの間の距離が、距離閾値以下である場合、停止する。撮像部11bは、安全判定装置100bが、作業員Wと安全判定装置100bとの間の距離が距離閾値以下となったことによって停止した場合に、撮像することによって撮像対象である作業員の画像を生成する。
安全判定装置100bにおいて、取得部12は、撮像部11が生成した作業員の画像の画像データを取得する。
(ステップS15)
安全判定装置100bにおいて、判定部13は、取得部12が取得した画像データを取得し、取得した画像データを画像処理することによって画像を生成する。判定部13は、記憶部17に記憶されている画像分類モデル17aから、チェック項目に基づいて、学習モデルを取得し、取得した学習モデルを用いて、生成した画像に写っている作業員に対して作業を許可するか否を判定する。
(ステップS16)
安全判定装置100bにおいて、処理部14aは、判定部13による判定結果を取得し、取得した判定結果を出力する。処理部14aは、取得した判定結果を、音声、画像などで出力する。
第2の実施形態に係る安全判定装置100bに、第1の実施形態の変形例で説明した判定部13aを適用してもよい。このように構成することによって、判定精度を向上できる。
第2の実施形態に係る作業安全管理システムによれば、安全判定装置100bは、作業員を撮像する撮像部11bと、作業員の画像を取得する取得部12と、取得部12が取得した画像に基づいて、作業員の安全性を判定する判定部13と、判定部13による判定結果を、作業員に通知する処理部14bと、距離を検出する距離検出部18と、安全判定装置100bを移動させる移動部19とを備える。撮像部11bは、距離検出部18が検出した距離が、距離閾値以下となった場合に、作業員を撮像する。距離検出部18が検出した距離が、距離閾値以下となった場合に、作業員Wを撮像することによって、近い距離で作業員Wを撮像できるため、安全性を判定する精度を向上できる。また、第1の実施形態と比較して、端末装置100を操作することなく、作業員に作業をさせるか否かを判定できるため、利便性を向上できる。
(作業安全管理システム)
図8は、本発明の第3の実施形態に係る作業安全管理システムの構成例を示す図である。図8において、作業安全管理システム1cは、端末装置100c-1から端末装置100c-nと、データセンター10と、サーバー装置200とを備える。端末装置100c-1から端末装置100c-nは、それぞれ作業員W-1から作業員W-nによって携帯される。
端末装置100c-1から端末装置100c-nの各々と、データセンター10と、サーバー装置200とは、通信網NWを介して互いに、接続される。
作業員W-1から作業員W-nとが、それぞれ端末装置100c-1から端末装置100c-nを操作することによって、端末装置100c-1から端末装置100c-nの各々は、端末装置IDと、作業IDと含む作業通知を作成し、作成した作業通知を、データセンター10へ送信する。データセンター10は、端末装置100c-1から端末装置100c-nの各々が送信した作業通知を受信し、受信した作業通知に含まれる端末装置IDと、作業IDとを取得する。データセンター10は、取得した作業IDに関連付けて記憶されている作業を許可するか否かのチェック項目を示す情報を取得し、取得した作業を許可するか否かのチェック項目と、端末装置IDとを含み、サーバー装置200を宛先とする作業応答を作成する。データセンター10は、作成した作業応答を、サーバー装置200へ送信する。
作業員W-1は、端末装置100c-1を操作することによって、作業員W-1から作業員W-nのいずれかを撮像する。ここでは、一例として、作業員W-1が、端末装置100c-1を操作することによって、端末装置100c-1が、作業員W-nを撮像した場合について説明を続ける。端末装置100c-1は、作業員W-nを撮像することによって、作業員W-nが写っている画像を取得する。端末装置100c-1は、取得した画像の画像データと、端末装置IDとを含み、サーバー装置200を宛先とする判定要求を作成する。端末装置100c-1は、作成した判定要求を、サーバー装置200へ送信する。
端末装置100c-1は、サーバー装置200が送信した判定応答を受信し、受信した判定応答に含まれる判定結果を出力する。
以下、作業安全管理システム1cに含まれる端末装置100c-1から端末装置100c-nと、データセンター10と、サーバー装置200とのうち、端末装置100c-1から端末装置100c-nと、サーバー装置200とについて説明する。端末装置100c-1から端末装置100c-nのうち、任意の端末装置を、端末装置100cと記載する。
図9は、本実施形態に係る作業安全管理システムに含まれる端末装置とサーバー装置との一例を示す図である。
端末装置100cは、スマートフォン、携帯端末、又はパーソナルコンピュータ、タブレット端末装置、腕時計型端末装置、あるいはその他の情報処理機器として実現される。端末装置100cは、例えば、撮像部11と、取得部12と、処理部14cと、作成部15cと、通信部16と、記憶部17とを備える。
作成部15cは、作業者Wが、端末装置100cに対して、作業IDを通知する操作を行った場合に、端末装置IDと作業IDとを含み、データセンター10を宛先とする作業通知を作成する。作成部15cは、作成した作業通知を、通信部16へ出力する。作成部15cは、取得部12が取得した作業員の画像の画像データと端末装置IDとを含み、サーバー装置200を宛先とする判定要求を作成する。作成部15cは、作成した判定要求を、通信部16へ出力する。
通信部16は、作成部15cが出力した作業通知を取得し、取得した作業通知を、データセンター10へ送信する。通信部16は、作成部15cが出力した判定要求を取得し、取得した判定要求を、サーバー装置200へ送信する。通信部16は、サーバー装置200が送信した判定応答を受信し、受信した判定応答を、処理部14cへ出力する。
サーバー装置200は、パーソナルコンピュータ、サーバー、スマートフォン、タブレットコンピュータ又は産業用コンピュータ等の装置によって実現される。サーバー装置200は、例えば、判定部23、作成部25と、通信部26と、記憶部27とを備える。
記憶部27は、HDDやフラッシュメモリ、RAM、ROMなどにより実現される。記憶部27には、画像分類モデル27aが記憶される。画像分類モデル27aがクラウド上に記憶されていてもよい。
画像分類モデル27aは、前述した画像分類モデル17aを適用できる。
作成部25は、判定部23による判定結果を取得する。作成部25は、取得した判定結果を含み、判定要求を送信した端末装置100cのアドレスを宛先とする判定応答を作成する。作成部25は、作成した判定応答を、通信部26へ出力する。
図10は、本実施形態に係る作業安全管理システムの動作の一例を示すシーケンスチャートである。端末装置100c-1は、作業IDと端末装置IDとを含む作業通知を作成し、作成した作業通知を、データセンター10へ送信する。データセンター10は、端末装置100c-1が送信した作業通知を受信し、受信した作業通知に含まれ作業IDと、端末装置IDとを取得し、取得した作業IDに基づいて、チェック項目を取得する。データセンター10は、取得したチェック項目と、端末装置IDとを含み、サーバー装置200を宛先とする作業応答を作成し、作成した作業応答を、サーバー装置200へ送信する。サーバー装置200は、データセンター10が送信した作業応答を受信し、受信した作業応答に含まれるチェック項目と、端末装置IDとを取得し、取得したチェック項目と、端末装置IDとに基づいて、端末装置ID毎に、学習モデルを設定する。端末装置IDと、学習モデルとを関連付けて、記憶部27に記憶してもよい。図10は、以上の処理が行われた後の動作について説明する。また、図10に示される例では、作業員W-1は、他の作業員に、端末装置100c-1で、作業員W-1を撮像してもらう場合について説明する。
(ステップS21)
端末装置100c-1において、撮像部11は、作業員W-1以外の他の作業者による撮像操作に基づいて、撮像することによって撮像対象である作業員W-1の画像を生成する。
(ステップS22)
端末装置100c-1において、取得部12は、撮像部11が生成した作業員W-1の画像の画像データを取得する。
(ステップS23)
端末装置100c-1において、作成部15cは、取得部12が取得した作業員の画像の画像データと、端末装置IDとを含み、サーバー装置200を宛先とする判定要求を作成する。
(ステップS24)
端末装置100c-1において、作成部15cは、作成した判定要求を、通信部16へ出力する。通信部16は、作成部15cが出力した判定要求を取得し、取得した判定要求を、サーバー装置200へ送信する。
サーバー装置200において、通信部26は、端末装置100cが送信した判定要求を受信し、受信した判定要求を、判定部23へ出力する。判定部23は、通信部26が出力した判定要求に含まれる画像データと、端末装置IDとを取得し、取得した画像データを画像処理することによって画像を生成する。判定部23は、判定要求に含まれる端末装置IDに該当するチェック項目を、作業応答から取得する。判定部23は、取得したチェック項目に該当する学習モデルを、記憶部27に記憶されている画像分類モデル27aから、取得する。判定部23は、取得した学習モデルを設定し、設定した学習モデルに用いて、生成した画像に写っている作業員に対して作業を許可するか否を判定する。
(ステップS26)
サーバー装置200において、作成部25は、判定部23による判定結果を取得する。作成部25は、取得した判定結果を含み、判定要求を送信した端末装置100cのアドレスを宛先とする判定応答を作成する。
(ステップS27)
サーバー装置200において、作成部25は、作成した判定応答を、通信部26へ出力する。通信部26は、作成部25が出力した判定応答を取得し、取得した判定応答を、端末装置100cへ送信する。
(ステップS28)
端末装置100c-1において、通信部16は、サーバー装置200が送信した判定応答を受信し、受信した判定応答を、処理部14cへ出力する。処理部14cは、通信部16が出力した判定応答を取得する。処理部14cは、取得した判定応答に含まれる判定結果を取得し、取得した判定結果を出力する。処理部14cは、取得した判定結果を、音声
画像などで出力する。
第3の実施形態に係る端末装置100cに、第1の実施形態の変形例で説明した判定部13aを適用してもよい。このように構成することによって、判定精度を向上できる。
本実施形態に係る作業安全管理システムによれば、端末装置100cは、作業員の画像を取得する取得部12と、取得部が取得した画像の画像データをサーバー装置200へ送信し、サーバー装置200が送信した注意情報を受信する通信部16(第1送信部、第1受信部、受信部、送信部の一例)と、通信部が受信した注意情報を、作業員に通知する処理部14cとを備える。サーバー装置200は、端末装置100cが送信した画像データを受信する通信部26(第2送信部、第2受信部の一例)と、通信部26が受信した画像データに基づいて、作業員の安全性を判定する判定部23と、判定部23によって、安全性に問題があると判定された場合に、注意情報を作成する作成部25とを備え、通信部26は、作成部25が作成した注意情報を端末装置100cへ送信する。このように構成することによって、第1の実施形態と比較して、端末装置100cの処理負荷を低減できる。
また、例えば、上述した各装置の機能を実現するためのコンピュータプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行するようにしてもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、DVD(Digital Versatile Disc)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバーやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。
さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
Claims (6)
- 端末装置とサーバー装置とを備えた作業安全管理システムであって、
端末装置は、
作業員の画像を取得する取得部と、
前記取得部が取得した前記画像の画像データをサーバー装置へ送信する第1送信部と、
前記サーバー装置が送信した注意情報を受信する第1受信部と、
前記第1受信部が受信した前記注意情報を、作業員に通知する処理部と、
距離を検出する距離検出部と、
前記端末装置を移動させる移動部と
を備え、
前記取得部は、前記移動部が前記端末装置を移動させることによって、前記距離検出部が検出した前記作業員との間の距離が、距離閾値以下となった場合に、前記作業員の前記画像を取得し、
前記サーバー装置は、
前記端末装置が送信した前記画像データを受信する第2受信部と、
前記第2受信部が受信した前記画像データに基づいて、前記作業員の安全性を判定する判定部と、
前記判定部によって、安全性に問題があると判定された場合に、前記注意情報を作成する作成部と、
前記作成部が作成した前記注意情報を前記端末装置へ送信する第2送信部と
を備え、
前記判定部は、前記画像データを処理することによって得られる画像から前記作業員の体の部位を検出し、検出した前記部位の画像と判定内容に応じた学習モデルとに基づいて、安全性を判定し、
前記学習モデルは、撮像部が撮像することによって生成された画像と判定内容との関係を学習したものである、作業安全管理システム。 - 前記処理部は、前記作業員に指示を通知し、
前記取得部は、前記処理部が、前記作業員に前記指示を通知した後に、前記作業員の前記画像を取得する、請求項1に記載の作業安全管理システム。 - 前記作成部は、前記判定部によって、前記作業員の安全性の判定が困難であると判定された場合に、安全性の判定が困難であることを通知するための情報を作成し、
前記第2送信部は、前記作成部が作成した安全性の判定が困難であることを通知するための前記情報を、前記端末装置へ送信し、
前記第1受信部は、前記第2送信部が送信した安全性の判定が困難であることを通知するための前記情報を受信し、
前記処理部は、前記第1受信部が受信した安全性の判定が困難であることを通知するための前記情報を、作業員に通知し、
前記取得部は、前記処理部が、安全性の判定が困難であることを通知するための前記情報を、作業員に通知した後に、前記作業員の前記画像を取得する、請求項1又は請求項2に記載の作業安全管理システム。 - 作業員の安全性を判定する安全判定装置であって、
作業員の画像を取得する取得部と、
前記取得部が取得した前記画像に基づいて、前記作業員の安全性を判定する判定部と、
前記判定部によって、安全性に問題があると判定された場合に、注意情報を作成する作成部と、
前記作成部が作成した前記注意情報を、作業員に通知する処理部と、
距離を検出する距離検出部と、
前記安全判定装置を移動させる移動部と
を備え、
前記取得部は、前記移動部が前記安全判定装置を移動させることによって、前記距離検出部が検出した前記作業員との間の距離が、距離閾値以下となった場合に、前記作業員の前記画像を取得する、安全判定装置。 - 作業員の安全性を判定する安全判定装置が実行する作業安全管理方法であって、
作業員の画像を取得するステップと、
前記取得するステップで取得した前記画像の画像データに基づいて、前記作業員の安全性を判定するステップと、
前記判定するステップで、安全性に問題があると判定された場合に、注意情報を作成するステップと、
前記作成するステップで作成した前記注意情報を、作業員に通知するステップと、
距離を検出するステップと、
前記安全判定装置を移動させるステップと、
前記移動させるステップで前記安全判定装置を移動させることによって、前記距離を検出するステップで検出した前記作業員との間の距離が、距離閾値以下となった場合に、前記作業員の前記画像を取得するステップと
を有する、安全判定装置が実行する作業安全管理方法。 - コンピュータに、
作業員の画像を取得する取得部と、
前記取得部が取得した前記画像に基づいて、前記作業員の安全性を判定する判定部と、
前記判定部によって、安全性に問題があると判定された場合に、注意情報を作成する作成部と、
前記作成部が作成した前記注意情報を、作業員に通知する処理部と
して機能させ、
前記コンピュータは、前記取得部として機能させる場合に、移動部が安全判定装置を移動させることによって、距離検出部が検出した前記作業員との間の距離が、距離閾値以下となった場合に、前記作業員の前記画像を取得する、コンピュータプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019187693A JP7333242B2 (ja) | 2019-10-11 | 2019-10-11 | 作業安全管理システム、安全判定装置、作業安全管理方法、及びコンピュータプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019187693A JP7333242B2 (ja) | 2019-10-11 | 2019-10-11 | 作業安全管理システム、安全判定装置、作業安全管理方法、及びコンピュータプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021064103A JP2021064103A (ja) | 2021-04-22 |
JP7333242B2 true JP7333242B2 (ja) | 2023-08-24 |
Family
ID=75486289
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019187693A Active JP7333242B2 (ja) | 2019-10-11 | 2019-10-11 | 作業安全管理システム、安全判定装置、作業安全管理方法、及びコンピュータプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7333242B2 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015095209A (ja) | 2013-11-14 | 2015-05-18 | オムロン株式会社 | 監視装置および監視方法 |
JP2017182545A (ja) | 2016-03-31 | 2017-10-05 | 積水ハウス株式会社 | 施工管理システム、端末装置及び端末装置用プログラム |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013015891A (ja) * | 2011-06-30 | 2013-01-24 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
JP2019096146A (ja) * | 2017-11-24 | 2019-06-20 | キヤノン株式会社 | 画像識別装置、画像識別方法、コンピュータプログラム、及び記憶媒体 |
-
2019
- 2019-10-11 JP JP2019187693A patent/JP7333242B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015095209A (ja) | 2013-11-14 | 2015-05-18 | オムロン株式会社 | 監視装置および監視方法 |
JP2017182545A (ja) | 2016-03-31 | 2017-10-05 | 積水ハウス株式会社 | 施工管理システム、端末装置及び端末装置用プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2021064103A (ja) | 2021-04-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10419429B2 (en) | Information providing method and device for sharing user information | |
KR20190139938A (ko) | 픽쳐 기반의 차량 손해 평가 방법 및 장치, 및 전자 디바이스 | |
CN110348257B (zh) | 一种条码解析方法及装置 | |
US10726262B2 (en) | Imaging support system, device and method, and imaging terminal | |
CN110224870B (zh) | 接口监控方法、装置、计算设备及存储介质 | |
US11170188B2 (en) | Method and apparatus for presenting graphic codes | |
JP2020509622A (ja) | ワイヤレスネットワークタイプ検出方法および装置および電子デバイス | |
US20170041597A1 (en) | Head mounted display and method for data output | |
JPWO2017169907A1 (ja) | 作業支援装置、作業支援方法および記録媒体 | |
JP2017174212A (ja) | 行動解析装置、行動解析方法及びプログラム | |
JP7333242B2 (ja) | 作業安全管理システム、安全判定装置、作業安全管理方法、及びコンピュータプログラム | |
JP2015233204A (ja) | 画像記録装置及び画像記録方法 | |
JP6661902B2 (ja) | 通信制御装置、通信制御方法及びプログラム | |
US10278007B2 (en) | Information providing system and information providing method | |
JP2015158866A (ja) | 混雑状況把握装置、混雑状況把握システム及び混雑状況把握方法 | |
US10630894B2 (en) | Notification system, wearable device, information processing apparatus, control method thereof, and computer-readable storage medium | |
CN106169057B (zh) | 信息处理装置及方法 | |
JP2016208096A (ja) | 情報処理装置、情報処理方法及び画像転送システム | |
JP6733926B1 (ja) | 通知システム、通知方法及び通知用コンピュータプログラム | |
JP2018157289A (ja) | 情報収集システム、携帯端末装置、情報収集方法および携帯端末プログラム | |
JP5891828B2 (ja) | 携帯端末、撮影画像公開方法、プログラム | |
JP2015011431A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP5743017B2 (ja) | 画像管理装置及びプログラム | |
JP6477935B1 (ja) | 前処理判定装置、前処理判定方法及びプログラム | |
WO2016038378A1 (en) | Interaction between users of mobile devices |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211122 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220920 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220921 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221024 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230314 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230508 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20230511 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230801 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230814 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7333242 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |