JP2019061501A - 行動情報処理装置 - Google Patents

行動情報処理装置 Download PDF

Info

Publication number
JP2019061501A
JP2019061501A JP2017185631A JP2017185631A JP2019061501A JP 2019061501 A JP2019061501 A JP 2019061501A JP 2017185631 A JP2017185631 A JP 2017185631A JP 2017185631 A JP2017185631 A JP 2017185631A JP 2019061501 A JP2019061501 A JP 2019061501A
Authority
JP
Japan
Prior art keywords
information
worker
action
unit
event
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017185631A
Other languages
English (en)
Other versions
JP7069617B2 (ja
Inventor
小松 裕
Yutaka Komatsu
裕 小松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2017185631A priority Critical patent/JP7069617B2/ja
Priority to US16/130,267 priority patent/US20190095848A1/en
Publication of JP2019061501A publication Critical patent/JP2019061501A/ja
Application granted granted Critical
Publication of JP7069617B2 publication Critical patent/JP7069617B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311Scheduling, planning or task assignment for a person or group
    • G06Q10/063114Status monitoring or status determination for a person or group
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Abstract

【課題】熟練作業者の行動を特定し、非熟練作業者にも実施可能な手法として抽出することを支援する。
【解決手段】作業環境における複数の変量の情報を収集する情報収集部130と、情報収集部130が収集した情報を保持する第1情報保持部140と、作業環境における作業者の行動を特定する動作情報管理部110、影響情報管理部120および関係性情報取得部160と、第1情報保持部140に保持された情報から、情報の種類に応じて予め定められた特徴を有する事象が表れた情報を検出する特徴検出部150と、動作情報管理部110、影響情報管理部120および関係性情報取得部160により特定された行動と特徴検出部150により検出された情報の事象との関係性についての情報の入力を要求する関係性情報取得部160と、関係性情報取得部160の要求に応じて入力された情報を保持する第2情報保持部170と、を備える。
【選択図】図1

Description

本発明は、行動情報処理装置に関する。
種々の作業において、熟練作業者が非熟練作業者とは異なる手順で作業を行ったり、非熟練作業者がとらない行動を熟練作業者がとったりすることがある。このような、熟練作業者による行動であって、作業の結果に、非熟練作業者による作業とは異なる効果を生じさせる行動を、熟練作業者の技能として継承することが要請される。
特許文献1には、作業対象となる物体が置かれている状況を把握するための計測部、計測部をコントロールし、かつ得られた情報に対して適切な情報処理を行い、さらに作業者へ提示する視覚情報を構築する情報処理部、及び作業者に対し対象となる物体上に重ね合わせた視覚情報を与えるための表示部を具備し、作業者がなすべき作業を作業現場において指示する作業支援装置が開示されている。また、特許文献2には、生産システムにおいて発生した結果から要因を推定することを支援する要因推定支援装置が開示されている。この要因推定支援装置は、生産システムから取得した材料・環境履歴データおよび検査履歴データと、複数の変量間の因果関係を示す因果構造データとを記憶部に記憶し、最終品質異常検知部にて最終品質特性が異常であると判定した場合、変量異常検知部にて最終品質特性以外の各変量が異常であるかを判定し、この判定結果を、可視化画像作成部にて因果構造データを可視化した可視化画像に反映する。また、特許文献3には、人と1又は複数の測定対象との位置関係と、位置関係の時間変化とに基づいて、人の測定対象に対する関心度を測定対象毎に算出する関心度算出部と、測定対象に関する1又は複数の属性と、属性が有する属性値を記憶する属性記憶部と、測定対象に対する関心度を、測定対象に関する1又は複数の属性の関心度として扱い、属性間の関係性、又は属性と1若しくは複数の属性の関心度の相関を算出する相関算出部とを備える情報処理装置が開示されている。
特開2009−69954号公報 特許第5186956号公報 特開2010−20718号公報
作業場等における作業者の行動であって、他の作業者にはない行動には、作業効果の向上に寄与する可能性があるものの、作業者自身にとっても言語化されず説明されない理由(いわゆる暗黙知)に基づくものがある。そのような行動は、言語化して説明されないため、マニュアル等で伝えられる手順等と異なり、手法として再利用(継承)することが困難である。
本発明は、作業者の行動を特定し、他の作業者にも実施可能な手法として抽出することを支援することを目的とする。
請求項1に係る本発明は、
作業環境における複数の変量の情報を収集する収集手段と、
前記収集手段が収集した情報を保持する第1保持手段と、
前記作業環境における作業者の行動を特定する行動特定手段と、
前記第1保持手段に保持された情報から、情報の種類に応じて予め定められた特徴を有する事象が表れた情報を検出する検出手段と、
前記行動特定手段により特定された行動と前記検出手段により検出された情報の事象との関係性についての情報の入力を要求する要求手段と、
前記要求手段の要求に応じて入力された情報を保持する第2保持手段と、
を備えることを特徴とする、行動情報処理装置である。
請求項2に係る本発明は、
前記要求手段は、
質問を生成して提示する質問提示手段と、
提示した質問に対する回答の入力を受け付ける回答受け付け手段と、
を備えることを特徴とする、請求項1に記載の行動情報処理装置である。
請求項3に係る本発明は、
前記質問提示手段は、前記行動特定手段により特定された行動の種類に応じて、質問の種類および提示順を決定することを特徴とする、請求項2に記載の行動情報処理装置である。
請求項4に係る本発明は、
前記行動特定手段は、
作業者の動作を特定する動作特定手段と、
動作の影響と判断される事象を特定する影響特定手段と、
を備えることを特徴とする、請求項1に記載の行動情報処理装置である。
請求項5に係る本発明は、
前記動作特定手段は、作業者による動作に関する情報の入力を受け付け、入力された情報を解析して、当該作業者の動作の内容を特定することを特徴とする、請求項4に記載の行動情報処理装置である。
請求項6に係る本発明は、
前記動作特定手段は、作業環境に設けられたセンサにより計測される作業者のデータに基づき、当該作業者の動作の内容を特定することを特徴とする、請求項4に記載の行動情報処理装置である。
請求項7に係る本発明は、
前記動作特定手段は、作業者を撮影した映像を解析して、当該作業者の動作の内容を特定することを特徴とする、請求項4に記載の行動情報処理装置である。
請求項8に係る本発明は、
作業環境において取得される変量の情報に関して、情報の種類に応じて予め定められた特徴を有する事象が表れた情報を提示すると共に、当該作業環境における作業者の行動との関係を当該作業者に問い合わせる問い合わせ手段と、
前記問い合わせ手段による問い合わせに対する回答の入力を受け付ける回答受け付け手段と、
を備えることを特徴とする、行動情報処理装置である。
請求項1の発明によれば、作業者の行動と、行動の対象物や作業に関連する情報において検出される事象とを関連付けない構成と比較して、作業者の行動と事象との関係を作業者に認識させ、作業者の行動を他の作業者にも実施可能な手法として抽出することを支援することができる。
請求項2の発明によれば、作業者の行動と、行動の対象物や作業に関連する情報において検出される事象とを関連付けない構成と比較して、質問を通して、作業者の行動と事象との関係に対する作業者の認識を明確化することができる。
請求項3の発明によれば、質問の提示順を固定的に定める構成と比較して、作業者の行動に応じて柔軟に質問を提示することができる。
請求項4の発明によれば、作業者の行動と、行動の対象物や作業に関連する情報において検出される事象とを関連付けない構成と比較して、作業者の動作および動作の影響に基づいて作業者の行動を特定し、特定した行動と事象との関係に対する作業者の認識を明確化することができる。
請求項5の発明によれば、作業者自身が自覚している動作に関して、事象との関係に対する作業者の認識を明確化することができる。
請求項6の発明によれば、作業者は自覚していないがセンサ値によって特定される動作に関して、事象との関係に対する作業者の認識を明確化することができる。
請求項7の発明によれば、作業者は自覚していないが作業者が撮影された画像を解析して特定される動作に関して、事象との関係に対する作業者の認識を明確化することができる。
請求項8の発明によれば、作業者の行動と、行動の対象物や作業に関連する情報において検出される事象とを関連付けない構成と比較して、質問を通して、作業者の行動と事象との関係を作業者に認識させ、作業者の行動を他の作業者にも実施可能な手法として抽出することを支援することができる。
本実施形態が適用される行動情報処理装置の構成を示す図である。 対象物属性情報の例を示す図である。 検査値情報の例を示す図である。 作業関連情報の例を示す図である。 行動情報処理装置として用いられるコンピュータのハードウェア構成例を示す図である。 行動情報処理装置の動作を示すフローチャートである。 質問画面の例を示す図である。 質問画面の他の例を示す図である。
以下、添付図面を参照して、本発明の実施の形態について詳細に説明する。
<行動情報処理装置の構成>
図1は、本実施形態が適用される行動情報処理装置の構成を示す図である。本実施形態の行動情報処理装置100は、動作情報管理部110と、影響情報管理部120と、情報収集部130と、第1情報保持部140と、特徴検出部150と、関係性情報取得部160と、第2情報保持部170とを備える。また、行動情報処理装置100は、製品や作業環境、作業者の動作等に関する種々の情報を取得するための種々の外部装置に接続されている。
動作情報管理部110は、作業者が行った動作に関する情報(動作情報)を管理する手段である。動作情報は、作業者の動作を特定する情報である。したがって、動作情報管理部110は、動作特定手段の一例である。動作情報には、動作を特定する情報として、例えば、動作を行った作業者、動作の対象となった対象物、動作が行われた日時や場所、動作の内容等の情報が含まれる。なお、動作情報は、これらの情報の全てを含むものでなくても良いし、これら以外の情報を含んでも良い。ここで、作業者の動作には、作業における動作だけでなく、作業以外で行った動作も含まれる。例えば、作業で用いる機器を調整する動作、作業で用いる道具の配置を変更する動作、作業中に作業者自身の立ち位置や作業対象の製品の向きを変更する動作等が含まれる。また、対象物には、作業対象の製品だけでなく、作業で用いられる機器や道具等も含まれる。
動作情報管理部110により管理される動作情報は、例えば、対象物の識別情報で特定される。動作情報は、例えば、作業者自身が、行動情報処理装置100のユーザ・インターフェイスとしての入力手段を操作して入力することにより取得される。また、作業場に設けられたカメラやセンサにより取得された映像やセンサ値の変化を解析して動作を特定し、動作情報を取得しても良い。この場合、映像やセンサ値の解析は、解析処理用に用意された解析サーバ(外部サーバ)により行い、解析結果を動作情報管理部110が取得して管理するように構成しても良い。
影響情報管理部120は、作業者が行った動作により生じた影響に関する情報(影響情報)を管理する手段である。影響情報は、作業者の動作により生じた影響を特定する情報である。したがって、影響情報管理部120は、影響特定手段の一例である。影響情報には、例えば、対象物に起こった事象や、対象物の状態の変化等を示す情報が含まれる。また、影響情報は、動作情報管理部110に管理されている動作情報に対応付けて管理される。影響情報管理部120により管理される影響情報は、例えば、対象物の識別情報で特定される。影響情報は、例えば、作業者自身が、行動情報処理装置100のユーザ・インターフェイスとしての入力手段を操作して入力することにより取得される。また、作業場に設けられたカメラやセンサにより取得された映像やセンサ値の変化を解析して対象物に生じた影響を特定し、影響情報を取得しても良い。この場合、映像やセンサ値の解析は、解析処理用に用意された解析サーバ(外部サーバ)により行い、解析結果を影響情報管理部120が取得して管理するように構成しても良い。
情報収集部130は、対象物および作業に関連する変量の情報を取得する手段である。情報収集部130は、対象物に関連する変量の情報として、対象物属性情報と、検査値情報とを取得する。また、情報収集部130は、作業に関連する変量の情報として、作業関連情報と、作業者動作情報とを取得する。情報収集部130は、収集手段の一例である。これらの情報は、例えば、製品を管理する管理システム、作業で用いられる機器を管理する管理システム、作業者を管理する管理システム等のサーバ(外部サーバ)から取得される。なお、情報収集部130は、関係性情報取得部160が関係性情報の取得対象である作業者の行動を特定した後、対象物および作業に関連する情報のうち、特定された行動に関連する情報を選択して収集しても良い。関係性情報取得部160が関係性情報の取得対象である作業者の行動を特定する処理については後述する。
対象物属性情報とは、対象物の個体ごとの属性情報である。具体的には、対象物の製造年月日、検査日時等の情報が含まれる。また、対象物の種類によっては、サイズ、重さ、形状、色、可動物の動作速度や可動範囲、構成部品等の情報が含まれる。
図2は、対象物属性情報の例を示す図である。図2には、対象物の例として作業で用いられる機器のシリンダーに関する属性情報が示されている。図2に示す例において、「属性名」は、属性の種類を示す。対象物であるシリンダーは、対象物IDで特定される。図2に示す例では、対象物ID「#22」のシリンダーに関して、「製造年月日」、「最終検査日時」、「シリンダー径」、「動作速度」、「構成部品」の5種類の属性の属性値が記録されている。また、図2に示す例において、属性名「構成部品」の欄の属性値を参照すると、対象物ID「#22」のシリンダーには、ID「X222」で特定される部品が装着されている。
検査値情報とは、各対象物の属性に関する検査値の情報である。検査値は、対象物に対する検査によって得られる実測値である。検査値情報の検査値は、時間経過に伴って繰り返し取得される。したがって、検査値情報を参酌することにより、対象物の属性の時間経過に伴う推移を辿ることができる。
図3は、検査値情報の例を示す図である。図3には、対象物ID「#22」のシリンダーに関して、属性名「動作速度」と属性名「作動音」の2種類の属性の検査値が記録されている。検査値は、1日に1回取得され、図3には、5月28日から6月2日までの検査値が示されている。図3を参照すると、作動音の検査値が、5月28日から6月1日まではほぼ57db(デシベル)で安定しているが、6月2日のみ77dbであり、他の検査値から大きく乖離している。すなわち、6月2日になって突然大きな作動音が発生するようになったことがわかる。
作業関連情報とは、作業に関する属性情報である。具体的には、例えば、室温等の環境情報や作業主体である作業者の情報等が含まれる。作業関連情報における個々の情報は、例えば、作業が行われた場所および日時で特定される。
図4は、作業関連情報の例を示す図である。図4に示す例において、「場所」は作業が行われた場所を特定する。「開始日時」および「終了日時」は、作業が行われた時間を特定する。「属性名」および「値」は、属性情報として、属性の種類および属性値を示す。図4に示す例では、「区画X」および「区画Y」の2つの場所に関して、2017年6月2日の11時〜12時、12時〜13時、13時〜14時、14時〜15時の各時間帯で、属性名「室温」と属性名「作業者」についての属性情報が示されている。
作業者動作情報とは、作業者の動作を特定する情報である。作業者の動作には、作業における動作および作業中に行われた作業以外の動作が含まれる。例えば、対象物に対する立ち位置や姿勢を変更する動作等も含まれる。このような動作の情報は、作業場に設けられたカメラで撮影した映像や各種のセンサで検知されたセンサ値等を解析して得られる。また、映像やセンサ値に基づいて動作の情報を得る場合、得られた動作の情報に、その動作の確信度を付加するようにしても良い。動作の確信度の内容は、例えば、その動作が確実に行われたと判断される場合と、その動作が行われた可能性がある場合とを数段階で評価して区別することが考えられる。作業者動作情報に付加される確信度の情報は、例えば、「行われた」、「多分行われた」、「行われた可能性がある」等のような評価内容を示す情報としても良いし、評価の段階を表す数値(確実に行われた場合を100%とするパーセント値や、確実に行われた場合を最大値とする10段階の数値など)としても良い。作業者動作情報における個々の情報は、例えば、作業が行われた時間、場所、作業者等の情報に基づいて特定される。作業者動作情報の例については、特に図示しない。
第1情報保持部140は、情報収集部130により取得された情報を保持する保持手段である。すなわち、第1情報保持部140は、第1保持手段の一例である。第1情報保持部140に保持された情報は、特徴検出部150による処理において参照される。
特徴検出部150は、第1情報保持部140に保持されている情報のうち、特定の事象が表れた情報を検出する処理手段である。検出される事象は、第1情報保持部140に保持されている情報の種類に応じて予め定められた特徴を有する事象である。具体的な事象は、情報である変量や属性値の種類、作業対象の製品、作業場の環境、作業の種類、製品や作業に対する管理システムの設定等、作業に関する構成に応じて様々に設定し得る。例えば、変量の値や属性値の時間経過に伴う推移において突発的な変化が生じたこと、変量の値や属性値が予め定められた閾値を超えたこと、そのような変化の発生回数や発生頻度等を検出条件の事象としても良い。特徴検出部150は、検出手段の一例である。
関係性情報取得部160は、動作情報管理部110に管理されている動作と特徴検出部150により検出された情報の事象との関係性についての情報を取得する手段である。関係性情報取得部160は、これらの動作と事象との関係性の情報(関係性情報)を、その動作を行った作業者による入力を受け付けることにより取得する。具体的には、関係性情報取得部160は、動作と事象との関係性を問う質問を提示し、動作を行った作業者による回答を要求する。そして、提示された質問に対する、その動作を行った作業者による回答を受け付ける。したがって、関係性情報取得部160は、質問提示手段の一例であり、問い合わせ手段の一例である。そして、関係性情報取得部160は、回答受け付け手段の一例である。質問の提示および回答の受け付けは、例えば、質問文を表示した質問表示部と回答を入力する回答入力部とを有する質問画面を表示手段に表示させ、回答入力部に入力された回答を受け付けることにより行われる。また、関係性情報取得部160は、要求手段の一例である。ここで、関係性情報取得部160による質問は、例えば、質問文を予め用意しておき、関係性を問う対象である動作や検出された事象等に対応する質問文を選択して提示することにより行われる。動作や事象が変量を含む場合(例えば、日時を指定する場合や、事象の発生回数が検出条件となっている場合等)、それらの変量は事象が発生した情報から取得して質問文に挿入される。
また、関係性情報取得部160は、動作情報管理部110に管理された動作情報と、影響情報管理部120に管理された影響情報とに基づき、何らかの影響を生じさせた動作を特定する。ここで、作業者が行った動作により何らかの影響が生じるとき、その影響を生じさせるために行われた作業者の動作を作業者の行動と呼ぶことにする。すなわち、関係性情報取得部160は、動作情報管理部110に管理された動作のうち、何らかの影響を生じさせた行動を特定する。そして、関係性情報取得部160は、特定された動作である行動に関して、関係性情報を取得するための上記の処理を行う。したがって、動作情報管理部110、影響情報管理部120および関係性情報取得部160は、行動特定手段の一例である。
何らかの影響を生じさせた動作の特定は、例えば、次のようにして行う。予め、動作情報管理部110に管理された動作情報と影響情報管理部120に管理された影響情報とに基づき、ある動作に基づいてある影響が生じたと判断するための規則を設定しておく。例えば、動作情報管理部110に管理された動作情報により特定される動作が行われた日時と、影響情報管理部120に管理された影響情報により特定される影響が生じた日時とが特定の関係を有する場合に、かかる動作に基づいてかかる影響が生じたと判断するような規則を設定しても良い。また、動作の対象物と影響が生じた対象物とが特定の関係を有する場合に、かかる動作に基づいてかかる影響が生じたと判断するような規則を設定しても良い。そして、この規則に基づき、ある動作に基づいて生じた影響があると判断される場合に、関係性情報取得部160は、何らかの影響を生じさせる行動としての、その動作に関して、関係性情報を取得する。
また、関係性情報取得部160は、上記のようにして何らかの影響を生じさせる行動として特定された動作に関し、問い合わせ対象の事象を選択して質問を行う。問い合わせ対象の事象の選択は、例えば、行動として特定された動作が行われた日時と、事象が発生した日時とが特定の関係を有する場合に、そのような事象を問い合わせ対象とするような規則を設定して行われる。
第2情報保持部170は、関係性情報取得部160により取得された動作と事象との関係性の情報を保持する保持手段である。すなわち、第2情報保持部170は、第2保持手段の一例である。
<コンピュータのハードウェア構成>
図5は、行動情報処理装置100として用いられるコンピュータのハードウェア構成例を示す図である。図5に示すコンピュータ200は、演算手段であるCPU(Central Processing Unit)201と、記憶手段である主記憶装置(メイン・メモリ)202および外部記憶装置203を備える。CPU201は、外部記憶装置203に格納されたプログラムを主記憶装置202に読み込んで実行する。主記憶装置202としては、例えばRAM(Random Access Memory)が用いられる。外部記憶装置203としては、例えば磁気ディスク装置やSSD(Solid State Drive)等が用いられる。また、コンピュータ200は、表示装置(ディスプレイ)210に表示出力を行うための表示機構204と、コンピュータ200の操作者による入力操作が行われる入力デバイス205とを備える。入力デバイス205としては、例えばキーボードやマウス等が用いられる。また、コンピュータ200は、ネットワークに接続するためのネットワーク・インターフェイス206を備える。なお、図5に示すコンピュータ200の構成は一例に過ぎず、本実施形態で用いられるコンピュータは図5の構成例に限定されるものではない。例えば、記憶装置としてフラッシュ・メモリ等の不揮発性メモリやROM(Read Only Memory)を備える構成としても良い。
図1に示した行動情報処理装置100において、動作情報管理部110および影響情報管理部120は、例えば、プログラム制御されたCPU201と、主記憶装置202や外部記憶装置203等の記憶装置により実現される。情報収集部130は、例えば、プログラム制御されたCPU201と、ネットワーク・インターフェイス206により実現される。第1情報保持部140および第2情報保持部170は、例えば、主記憶装置202や外部記憶装置203等の記憶装置により実現される。特徴検出部150は、例えば、プログラム制御されたCPU201により実現される。関係性情報取得部160は、例えば、プログラム制御されたCPU201と、表示機構204および表示装置210と、入力デバイス205により実現される。関係性情報取得部160により生成された質問画面は、表示機構204により表示装置210に表示される。そして、作業者が入力デバイス205を操作することにより、質問画面に示された質問に対する回答が入力される。また、動作情報管理部110および影響情報管理部120において、動作情報および影響情報を作業者自身が入力する場合、例えば、図5に示す入力デバイス205が入力手段として用いられる。
<行動情報処理装置の動作>
図6は、行動情報処理装置100の動作を示すフローチャートである。行動情報処理装置100は、動作情報管理部110により、動作情報を取得し、管理する(S601)。また、行動情報処理装置100は、影響情報管理部120により、影響情報を取得し、管理する(S602)。次に、行動情報処理装置100の関係性情報取得部160は、動作情報管理部110に保持されている動作情報および影響情報管理部120に保持されている影響情報に基づいて、作業者の行動を特定する(S603)。また、情報収集部130は、対象物および作業に関連する情報を取得する(S604)。
次に、行動情報処理装置100の特徴検出部150は、特定の特徴を有する事象が現れた情報を検出する(S605)。そして、関係性情報取得部160は、S603で行動として特定された動作と、S605で検出した情報における特定の特徴を有する事象との関係性に関する質問を生成し、提示する(S606)。次に、関係性情報取得部160は、S603で行動として特定された動作を行った作業者からの回答の入力を受け付けると(S607)、入力した回答に応じて、問い合わせ対象となった動作(行動)の動作情報および影響情報と、回答に基づく関係性を表す情報を第2情報保持部170に保持させる(S608)。
<第1の適用例>
次に、本実施形態の適用例を説明する。ここでは、作業場設備の保全担当者を作業者として、設備保全のための行動を検出する処理について説明する。熟練作業者である保全担当者(以下、作業者)が、作業場設備を構成するシリンダーの一つにオイルを5ml(ミリ・リットル)注入する動作を行ったものとする。オイルが注入されたシリンダーの識別情報を#22とする。また、シリンダー#22へのオイルの注入は、2017年6月2日に行われたものとする。また、シリンダー#22は、作業場「区画X」に設置された設備に設けられているものとする。
ここでは、作業者が、自身がシリンダー#22にオイルを注入した動作を自覚しており、作業者自身の操作により、動作情報が入力され、動作情報管理部110に管理されるものとする。また、作業者は、オイルを注入した影響として、シリンダー#22の動作が滑らかになることを認識しており、作業者自身の操作により、影響情報が入力され、影響情報管理部120に管理されるものとする。関係性情報取得部160は、これらの動作情報および影響情報に基づき、シリンダー#22にオイルを注入した動作を関係性情報の取得対象の行動とする。
一方、情報収集部130は、対象物属性情報、検査値情報、作業関連情報および作業者動作情報を収集して第1情報保持部140に格納する。そして、特徴検出部150は、第1情報保持部140に保持された情報から、作業者によるシリンダー#22にオイルを注入する行動が行われた6月2日の近辺の情報を参照し、特徴のある事象の検出を行う。ここで、図2を参照すると、シリンダー#22に関する事象として、製造日から6か月経過していること、最終検査日から2か月経過していることがわかる。また、図3を参照すると、シリンダー#22の作動音が、前日と比較して約35%増大したことがわかる。また、図4を参照すると、区画Xでは室温が、11時〜12時で21度、12時〜13時で22度、13時〜14時および14時〜15時で23度となっている。また、区画Xでは、11時〜13時は作業者が「山田」であり、13時〜15時は作業者が「田中」であったことがわかる。したがって、例えば、シリンダー#22にオイルを注入する行動が行われた時刻が13時33分であるとすると、室温は23度であり、作業者は「田中」である。
関係性情報取得部160は、予め定められた規則に基づいて、特徴検出部150により検出された特徴のある事象に関して、質問画面により作業者に問い合わせるための質問文を作成する。具体的には、「オイルを注入したのは、○○○○○からですか?」という定型文を用意しておき、「○○○○○」の部分に、特定した事象に基づく内容を挿入する。ここでは、例えば次のような質問文が作成される。
「オイルを注入したのは、シリンダーが製造後6ヶ月経っていたからですか?」
「オイルを注入したのは、シリンダーが最終検査後、2ヶ月経っていたからですか?」
「オイルを注入したのは、動作音が前日と比べて35%増大したからですか?」
「オイルを注入したのは、室温が23度だったからですか?」
「オイルを注入したのは、室温が上昇傾向だったからですか?」
質問の提示順は、適当な規則に基づいて定めて良い。例えば、次のような規則が考えられる。
・特定された事象における情報に含まれる値の平均値に対する乖離が大きいものから優先して提示する。
・特定された事象における情報に含まれる値が予め定められた管理値を超えているものを優先して提示する。
・特定された事象における情報に含まれる値の変化の度合いが大きいものを優先して提示する。
・関係性情報の取得対象の行動が行われた日時に対して最も近い日時に発生した事象から順に提示する。
さらにまた、特徴検出部150により検出された事象が複数ある場合に、各事象における特徴の表出具合に応じて、その事象に関する質問の提示順を決定しても良い。例えば、特徴検出部150が検出する事象として、「音が10db以上大きくなった」という事象P−1と、「気温が2度以上上がった」という事象P−2とが設定されている場合を考える。そして、情報収集部130が、音が30db大きくなったことを示す情報I−1と、気温が3度上がったという情報I−2とを取得したものとする。この場合、情報I−1により事象P−1が検出され、情報I−2により事象P−2が検出される。ここで、事象P−1が検出されるための条件である「10db以上」に対する情報I−1の「30db」という表出具合と、事象P−2が検出されるための条件である「2度以上」に対する情報I−1の「3度」という表出具合とを比較する。そして、情報I−1の表出具合の方が情報I−2の表出具合よりも大きいと判断されるならば、事象P−1に関する質問を先に行う。なお、表出具合の大きさの判断方法や判断基準は、例えば、事象の種類や情報収集部130により収集される情報が取得される現場の環境等に応じて、具体的に設定される。
また、情報収集部130により収集された作業者動作情報に基づいて特徴検出部150による事象の検出が行われた場合に、各事象を検出する条件となった作業者の動作の確信度に応じて、その事象に関する質問の提示順を決定しても良い。例えば、映像やセンサ値に基づいて作業者動作情報を得ると共に、作業者動作情報に動作の確信度の情報が付加される場合を考える。各進度の情報は、その動作が確実に行われた場合を最大値とする3段階評価によるものとする。そして、特徴検出部150により事象として検出された動作に関して、ある動作B−1である確信度が「3」であり、他の動作B−2である確信度が「2」であるものとする。この場合、確信度が高い動作B−1が行われたとする判断に基づいて検出された事象に関する質問を先に行い、確信度が低い動作B−2が行われたとする判断に基づいて検出された事象に関する質問を後に行う。
なお、関係性情報の取得対象である行動の種類、検出された事象の内容等に応じて、質問画面による質問の提示順を定める規則を切り替えても良い。また、質問文に対する回答は、肯定的な答え(例えば、「はい」)と否定的な答え(例えば、「いいえ」)の二値的な回答の他、中間的な回答(例えば、「○」、「△」、「×」で回答)、該当する程度による回答(例えば、100点中何点かを入力)、文章による自由回答(例えば、テキストによる入力欄への入力)等のように、様々な形式で受け付けて良い。また、受け付けた回答の内容に応じて、質問文の提示数を制御しても良い。
図7は、質問画面の例を示す図である。図7に示す質問画面161には、質問表示部162と、回答入力部163とが設けられている。質問表示部162には、上記のようにして選択され作成された質問文が表示される。図7に示す例では、「オイルを注入したのは、シリンダーが製造後6ヶ月経っていたからですか?」という質問文が表示されている。また、図7に示す例において、回答入力部163には、回答として「はい」、「いいえ」、「その他」のいずれかを選択するための選択ボタン163aと、「その他」が選択された場合にテキストの入力を受け付けるための入力欄163bとが設けられている。作業者は、回答として「その他」を選択した場合、質問表示部162に表示された質問に対する回答を、入力欄163bを用いてテキストで入力することができる。一例を挙げると、図7の質問表示部162に表示された質問に対して、「シリンダーが製造後6ヶ月経っていた」ことは、今回の「オイルを注入した」という行動の直接的な原因ではないが、オイルを注入するか否かを判断する際に参酌すべき事項である場合、そのような内容の文章を入力欄163bに入力しても良い。
図8は、質問画面の他の例を示す図である。図8に示す質問画面161において、質問表示部162は、図7に示した質問画面161の質問表示部162と同様である。回答入力部163は、テキストの入力を受け付ける入力欄(図8では「記入欄」と記載)のみで構成されている。このように構成された質問画面161を用いる場合、関係性情報取得部160は、質問に対する回答(関係性情報)として、上記の図7に示す質問画面161における入力欄163bへの入力例のような、より具体的な内容や詳細な情報を含む回答を得ることができる。また、図8に示す回答入力部163に対し、テキスト入力により「はい」、「いいえ」等の回答を入力しても良い。
関係性情報取得部160は、回答を受け付けると、行動として特定された動作(ここでは、シリンダーにオイルを注入する動作)の動作情報と、この動作による影響(ここでは、シリンダーの動作が滑らかになること)の影響情報と、作業者の回答に基づく関係性情報(ここでは、例えば、動作音が前日と比べて35%増大したという事象)を、第2情報保持部170に格納する。
<第2の適用例>
次に、本実施形態の他の適用例を説明する。ここでは、作業者が対象物である製品に対する作業を行う際の行動を検出する処理について説明する。製造ラインでの作業において、熟練作業者と非熟練作業者とが異なる動作を行ったものとする。具体的には、熟練作業者が、特定の製品に対する作業を行う際に立ち位置を変更することがあるものとする。
ここでは、作業場の作業状況をカメラで撮影して得られた映像を外部サーバ(映像解析サーバ)により解析し、非熟練作業者が行わない熟練作業者の動作が検出されたものとする。検出された動作の情報は、外部サーバから行動情報処理装置100へ送られ、動作情報管理部110に管理される。また、作業現場の管理者により、熟練作業者(作業中に立ち位置を変更する作業者)による作業と、非熟練作業者(作業中に立ち位置を変更しない作業者)による作業とで、前者の方が不良排出率が少ないことが把握されたものとする。この情報は、管理者により、影響情報として入力され、影響情報管理部120に管理される。関係性情報取得部160は、これらの動作情報および影響情報に基づき、特定の製品に対する作業を行う際に立ち位置を変更する動作を関係性情報の取得対象の行動とする。
一方、情報収集部130は、対象物属性情報、検査値情報、作業関連情報および作業者動作情報を収集して第1情報保持部140に格納する。特徴検出部150は、第1情報保持部140に保持された情報から、作業者が立ち位置を変更する行動を行った日時の近辺の情報を参照し、特徴のある事象の検出を行う。ここで、立ち位置を変更する行動が度々行われている場合、立ち位置を変更して行われた作業の対象である製品も複数存在する。そして、この製品ごとに、製品に対する作業が行われた際の対象物属性情報、検査値情報、作業関連情報および作業者動作情報が存在する。そこで、各製品に対する作業に関連する情報のうち、共通する種類の情報として分類される情報を抽出して収集しても良い。情報の分類は、例えば、特定の規則に基づいて、予め行っておく。
関係性情報取得部160は、予め定められた規則に基づいて、特徴検出部150により検出された特徴のある事象に関して、作業者に問い合わせるための質問文を作成する。質問文の作成については、第1の適用例と同様である。具体的には、例えば次のような質問文が作成される。
「立ち位置を変更したことと、すべての対象製品のコンベア上の製品設置角度が斜め45度〜60度の範囲内であったことは関係がありますか?」
「立ち位置を変更した製品20個中17個(85%)で、前工程にて締め付けトルク値NGによるラインアウトした製品であることは関係がありますか?」
なお、第2の適用例においても、例えば、より多くの製品に対する作業において共通して生じていた事象に関する質問文を優先して提示する等、質問文の提示順を制御しても良い。関係性情報取得部160は、回答を受け付けると、行動として特定された動作(ここでは、立ち位置を変更する動作)の動作情報と、この動作による影響(ここでは、不良排出率が減少すること)の影響情報と、作業者の回答に基づく関係性情報(ここでは、例えば、前工程にて締め付けトルク値NGによるラインアウトした製品であるという事象、および、対象製品のコンベア上の製品設置角度が斜め45度〜60度の範囲内であったという事象)を、第2情報保持部170に格納する。
以上のように、本実施形態では、作業者の動作のうち、何らかの影響を生じさせる行動を特定し、対象物や作業に関連して収集される様々な情報に基づき、特徴のある事象を検出し、作業者の行動と検出された事象との関係性を作業者に問う。そして、作業者による回答を、行動に関する知識として保存する。作業者の行動と事象との関係を質問として提示することにより、作業者自身が言語化して認識していない知識(いわゆる暗黙知)を顕在化させ、非熟練作業者にも実施可能な手法として抽出することを支援する。
以上、本発明の実施形態について説明したが、本発明の技術的範囲は上記の実施形態には限定されない。本発明の技術思想の範囲から逸脱しない様々な変更や構成の代替は、本発明に含まれる。例えば、情報収集部130が収集する変量の情報は、本実施形態による支援対象の現場システムの種類や使用、作業の内容等に応じて具体的に設定される。また、質問の具体的な提示方法についても、上述した方法には限定されない。また、上記第2の適用例では、カメラで撮影して得られた映像を解析することにより、非熟練作業者が行わない熟練作業者の動作を検出したが、人感センサや重量センサその他のセンサで取得されるセンサ値から作業者の立ち位置や姿勢、作業者が所持する道具や扱う機器等を特定し、作業者の動作を検出しても良い。
100…行動情報処理装置、110…動作情報管理部、120…影響情報管理部、130…情報収集部、140…第1情報保持部、150…特徴検出部、160…関係性情報取得部、170…第2情報保持部

Claims (8)

  1. 作業環境における複数の変量の情報を収集する収集手段と、
    前記収集手段が収集した情報を保持する第1保持手段と、
    前記作業環境における作業者の行動を特定する行動特定手段と、
    前記第1保持手段に保持された情報から、情報の種類に応じて予め定められた特徴を有する事象が表れた情報を検出する検出手段と、
    前記行動特定手段により特定された行動と前記検出手段により検出された情報の事象との関係性についての情報の入力を要求する要求手段と、
    前記要求手段の要求に応じて入力された情報を保持する第2保持手段と、
    を備えることを特徴とする、行動情報処理装置。
  2. 前記要求手段は、
    質問を生成して提示する質問提示手段と、
    提示した質問に対する回答の入力を受け付ける回答受け付け手段と、
    を備えることを特徴とする、請求項1に記載の行動情報処理装置。
  3. 前記質問提示手段は、前記行動特定手段により特定された行動の種類に応じて、質問の種類および提示順を決定することを特徴とする、請求項2に記載の行動情報処理装置。
  4. 前記行動特定手段は、
    作業者の動作を特定する動作特定手段と、
    動作の影響と判断される事象を特定する影響特定手段と、
    を備えることを特徴とする、請求項1に記載の行動情報処理装置。
  5. 前記動作特定手段は、作業者による動作に関する情報の入力を受け付け、入力された情報を解析して、当該作業者の動作の内容を特定することを特徴とする、請求項4に記載の行動情報処理装置。
  6. 前記動作特定手段は、作業環境に設けられたセンサにより計測される作業者のデータに基づき、当該作業者の動作の内容を特定することを特徴とする、請求項4に記載の行動情報処理装置。
  7. 前記動作特定手段は、作業者を撮影した映像を解析して、当該作業者の動作の内容を特定することを特徴とする、請求項4に記載の行動情報処理装置。
  8. 作業環境において取得される変量の情報に関して、情報の種類に応じて予め定められた特徴を有する事象が表れた情報を提示すると共に、当該作業環境における作業者の行動との関係を当該作業者に問い合わせる問い合わせ手段と、
    前記問い合わせ手段による問い合わせに対する回答の入力を受け付ける回答受け付け手段と、
    を備えることを特徴とする、行動情報処理装置。
JP2017185631A 2017-09-27 2017-09-27 行動情報処理装置 Active JP7069617B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017185631A JP7069617B2 (ja) 2017-09-27 2017-09-27 行動情報処理装置
US16/130,267 US20190095848A1 (en) 2017-09-27 2018-09-13 Action-information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017185631A JP7069617B2 (ja) 2017-09-27 2017-09-27 行動情報処理装置

Publications (2)

Publication Number Publication Date
JP2019061501A true JP2019061501A (ja) 2019-04-18
JP7069617B2 JP7069617B2 (ja) 2022-05-18

Family

ID=65809322

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017185631A Active JP7069617B2 (ja) 2017-09-27 2017-09-27 行動情報処理装置

Country Status (2)

Country Link
US (1) US20190095848A1 (ja)
JP (1) JP7069617B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11120374B2 (en) * 2018-10-08 2021-09-14 Cräkn, Llc Memorial event management system

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001092525A (ja) * 1999-09-21 2001-04-06 Mitsubishi Electric Corp 人間−機械系観測装置
JP2012525623A (ja) * 2009-04-30 2012-10-22 ジーイー・インフラストラクチャー・サウスアフリカ(プロプライアトリー)・リミテッド プロセス決定支援システムを設ける方法

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4413277A (en) * 1981-01-23 1983-11-01 Instant Replay Systems Instant replay productivity motivation system
US5212635A (en) * 1989-10-23 1993-05-18 International Business Machines Corporation Method and apparatus for measurement of manufacturing technician efficiency
US6033226A (en) * 1997-05-15 2000-03-07 Northrop Grumman Corporation Machining tool operator training system
US7222086B2 (en) * 2001-05-02 2007-05-22 Ncr Corp. Systems and methods for providing performance feedback to a cashier at a point-of-sale terminal
JP3915011B2 (ja) * 2002-03-20 2007-05-16 富士通株式会社 スキル分析方法、スキル分析プログラム及びスキル分析装置
US7769622B2 (en) * 2002-11-27 2010-08-03 Bt Group Plc System and method for capturing and publishing insight of contact center users whose performance is above a reference key performance indicator
US20060047535A1 (en) * 2004-08-26 2006-03-02 Paiva Fredricksen Group, Llc Method and system of business management
US20060095317A1 (en) * 2004-11-03 2006-05-04 Target Brands, Inc. System and method for monitoring retail store performance
US20070015125A1 (en) * 2005-07-14 2007-01-18 Presidio Sciences, L.P. Automated updating of job assessments
US20070015124A1 (en) * 2005-07-14 2007-01-18 Presidio Sciences, L.P. Automated updating of job analyses
US9129233B2 (en) * 2006-02-15 2015-09-08 Catepillar Inc. System and method for training a machine operator
US20090299827A1 (en) * 2008-05-30 2009-12-03 Oracle International Corporation Verifying Operator Competence
US7920935B2 (en) * 2008-08-19 2011-04-05 International Business Machines Corporation Activity based real-time production instruction adaptation
US20100167248A1 (en) * 2008-12-31 2010-07-01 Haptica Ltd. Tracking and training system for medical procedures
US8180105B2 (en) * 2009-09-17 2012-05-15 Behavioral Recognition Systems, Inc. Classifier anomalies for observed behaviors in a video surveillance system
US9293060B2 (en) * 2010-05-06 2016-03-22 Ai Cure Technologies Llc Apparatus and method for recognition of patient activities when obtaining protocol adherence data
US8727782B2 (en) * 2010-05-11 2014-05-20 Across The Street Productions Inc. Hazard-zone incident command training and certification systems
US9036173B2 (en) * 2011-04-27 2015-05-19 Xerox Corporation Methods and systems to troubleshoot malfunctions in multifunction devices using a wireless handheld device
US9208470B2 (en) * 2011-10-04 2015-12-08 Yahoo! Inc. System for custom user-generated achievement badges based on activity feeds
US20130311244A1 (en) * 2012-05-16 2013-11-21 David D. Abotchie Computer Automated System for Selecting, Tracking, and Rating Workers
US20140315164A1 (en) * 2013-04-17 2014-10-23 Caterpillar Inc. System and method for improving operator performance
CA2918506C (en) * 2013-09-05 2022-03-22 Crown Equipment Corporation Dynamic operator behavior analyzer
US10510267B2 (en) * 2013-12-20 2019-12-17 Intuitive Surgical Operations, Inc. Simulator system for medical procedure training
US10380704B2 (en) * 2014-01-14 2019-08-13 Deere & Company Operator performance recommendation generation
WO2015108700A1 (en) * 2014-01-14 2015-07-23 Zsolutionz, LLC Sensor-based evaluation and feedback of exercise performance
US20150242797A1 (en) * 2014-02-27 2015-08-27 University of Alaska Anchorage Methods and systems for evaluating performance
US10335091B2 (en) * 2014-03-19 2019-07-02 Tactonic Technologies, Llc Method and apparatus to infer object and agent properties, activity capacities, behaviors, and intents from contact and pressure images
US20160306172A1 (en) * 2015-04-20 2016-10-20 NSF International Computer-implemented techniques for remotely interacting with performance of food quality, food safety, and workplace safety tasks
WO2017154758A1 (ja) * 2016-03-09 2017-09-14 日本電気株式会社 情報処理システム及び情報処理方法、サーバ装置、クライアント、並びにコンピュータ・プログラムが格納された記録媒体
US10902737B2 (en) * 2016-09-30 2021-01-26 Genesys Telecommunications Laboratories, Inc. System and method for automatic quality evaluation of interactions

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001092525A (ja) * 1999-09-21 2001-04-06 Mitsubishi Electric Corp 人間−機械系観測装置
JP2012525623A (ja) * 2009-04-30 2012-10-22 ジーイー・インフラストラクチャー・サウスアフリカ(プロプライアトリー)・リミテッド プロセス決定支援システムを設ける方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
坂上 聡子: "保守現場における技術者知識の共有化の課題と実例", システム/制御/情報, vol. 第52巻 第4号, JPN6021020852, 15 April 2008 (2008-04-15), JP, pages 26 - 31, ISSN: 0004678818 *
鈴木 剛: "プラント安全運転と技能伝承・教育へ向けた保守・点検作業支援システムの開発", 計装, vol. 48, no. 6, JPN6021020850, 1 June 2005 (2005-06-01), JP, pages 27 - 31, ISSN: 0004678817 *

Also Published As

Publication number Publication date
US20190095848A1 (en) 2019-03-28
JP7069617B2 (ja) 2022-05-18

Similar Documents

Publication Publication Date Title
GB2586105A (en) Quality review management system
JP2013534310A5 (ja)
JP2005346655A (ja) 工程管理装置、工程管理方法、工程管理プログラム、および該プログラムを記録した記録媒体
CN110334816B (zh) 一种工业设备检测方法、装置、设备及可读存储介质
JP2012150787A (ja) 監視制御システム
US11138805B2 (en) Quantitative quality assurance for mixed reality
JP5061744B2 (ja) 状況解析システムおよび状況解析方法
JP2017097628A (ja) 保全システム
JP5062496B2 (ja) 運転状態解析システムおよび運転状態解析方法
CN112465288A (zh) 用于自动地捕获技术转移知识的系统和方法
JP4273763B2 (ja) 設計支援システム
JP2019061501A (ja) 行動情報処理装置
JP6802122B2 (ja) 原因推定方法およびプログラム
JP6312955B1 (ja) 品質分析装置及び品質分析方法
JP2008046746A (ja) 工程管理システム
JP2020017283A (ja) プログラム、情報処理装置及び情報処理方法
JP6715705B2 (ja) 不良原因探索システム、及び不良要因探索方法
JP2020024529A (ja) 作業管理システム
CN113672497B (zh) 无埋点事件的生成方法、装置、设备及存储介质
JP6247777B2 (ja) 異常診断装置および異常診断方法
CN115099425A (zh) 一种机电设备保养的远程检测方法
CN111596619B (zh) 计算机系统及设施的监视方法
CN110688424A (zh) 一种生产监控方法及装置
JP5527533B2 (ja) Webベースシステム用ユーザビリティ評価支援装置、方法、及びプログラム
CN109726818B (zh) 一种模型编辑方法、装置、设备和介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210805

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220418

R150 Certificate of patent or registration of utility model

Ref document number: 7069617

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150