JP7106851B2 - 情報処理装置及びプログラム - Google Patents

情報処理装置及びプログラム Download PDF

Info

Publication number
JP7106851B2
JP7106851B2 JP2017237613A JP2017237613A JP7106851B2 JP 7106851 B2 JP7106851 B2 JP 7106851B2 JP 2017237613 A JP2017237613 A JP 2017237613A JP 2017237613 A JP2017237613 A JP 2017237613A JP 7106851 B2 JP7106851 B2 JP 7106851B2
Authority
JP
Japan
Prior art keywords
behavior
worker
evaluation
growth
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017237613A
Other languages
English (en)
Other versions
JP2019105972A (ja
Inventor
佑介 山浦
幸寛 坪下
昌嗣 外池
亮子 薄葉
健司 大西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2017237613A priority Critical patent/JP7106851B2/ja
Priority to US15/979,487 priority patent/US11295459B2/en
Priority to CN201810716548.4A priority patent/CN109919404A/zh
Publication of JP2019105972A publication Critical patent/JP2019105972A/ja
Application granted granted Critical
Publication of JP7106851B2 publication Critical patent/JP7106851B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、情報処理装置及びプログラムに関する。
近年、作業者の熟練度を判定し、これにより作業者の熟練度に応じて効果的に作業を支援する作業支援装置が提案されている(特許文献1参照。)。
特許文献1に記載された作業支援装置は、測定値に基づく視線移動速度分布データと典型的な初心者の視線移動速度分布データとの間の類似度Sbと、測定値に基づく視線移動速度分布データと典型的な熟練者の視線移動速度分布データとの間の類似度Ssとを算出し、Sb>Ssを満たせば当該作業者は初心者であると判定し、Sb>Ssを満たさなければ、当該作業者は熟練者であると判定する。
特開2012-234406号公報
本発明の課題は、作業者の成長の程度を示す成長度を評価することが可能な情報処理装置及びプログラムを提供することにある。
[1]作業者の接客相手に対する行動を時系列的に評価した少なくとも2つの第1の評価値、及び前記作業者の模範となる熟練者の行動を評価した基準の評価値を取得し、前記接客相手の前記作業者に対する行動を時系列的に評価した少なくとも2つの第2の評価値、及び前記接客相手の模範となる熟練者の行動を評価した基準の評価値を取得する取得手段と、
前記作業者に関して取得された前記少なくとも2つの第1の評価値と前記基準の評価値との間の類似度を示す少なくとも2つの第1の行動レベルを算出し、前記接客相手に関して取得された前記少なくとも2つの第2の評価値と前記基準の評価値との間の類似度を示す少なくとも2つの第2の行動レベルを算出する算出手段と、
前記少なくとも2つの第1の行動レベルに基づいて前記作業者の成長の程度を示す第1の成長度を出力し、前記少なくとも2つの第2の行動レベルに基づいて前記接客相手の成長の程度を示す第2の成長度を出力する出力手段と、を備えた情報処理装置。
[2]前記評価値は、行動が実行される確率分布である、前記[1]に記載の情報処理装置。
[3]前記行動レベルは、前記確率分布間の距離に対応する値である、前記[2]に記載の情報処理装置。
[4]前記第1の行動レベル及び前記第2の行動レベルを重み付け加算した第3の評価値を算出する評価手段、をさらに備えた前記[1]から[3]のいずれかに記載の情報処理装置。
[5]前記評価手段は、前記第1の行動レベル及び前記第2の行動レベルのそれぞれの成長度に応じて重み付けが異なる計算式を用いて前記第3の評価値を算出する、前記[4]に記載の情報処理装置。
[6]前記取得手段は、前記評価値を行動種別ごとに取得し、
前記算出手段は、前記行動レベルを行動種別ごとに算出する、前記[1]から[5]のいずれかに記載の情報処理装置。
[7]前記評価手段は、行動種別ごとに前記第3の評価値を算出し、行動種別ごとの前記第3の評価値を重み付け加算した第4の評価値を算出する、前記[5]に記載の情報処理装置。
[8]コンピュータを、作業者の接客相手に対する行動を時系列的に評価した少なくとも2つの第1の評価値、及び前記作業者の模範となる熟練者の行動を評価した基準の評価値を取得し、前記接客相手の前記作業者に対する行動を時系列的に評価した少なくとも2つの第2の評価値、及び前記接客相手の模範となる熟練者の行動を評価した基準の評価値を取得する取得手段と、
前記作業者に関して取得された前記少なくとも2つの第1の評価値と前記基準の評価値との間の類似度を示す少なくとも2つの第1の行動レベルを算出し、前記接客相手に関して取得された前記少なくとも2つの第2の評価値と前記基準の評価値との間の類似度を示す少なくとも2つの第2の行動レベルを算出する算出手段と、
前記少なくとも2つの第1の行動レベルに基づいて前記作業者の成長の程度を示す第1の成長度を出力し、前記少なくとも2つの第2の行動レベルに基づいて前記接客相手の成長の程度を示す第2の成長度を出力する出力手段、として機能させるためのプログラム。
請求項1-3及び8に係る発明によれば、作業者及び接客相手の双方の成長度を評価することが可能になる。
請求項4に係る発明によれば、接客相手の行動レベルを考慮した作業者の成長度を評価することが可能になる。
請求項5に係る発明によれば、接客相手の成長度に応じた作業者の成長度を評価することが可能になる。
請求項6に係る発明によれば、行動種別ごとに作業者の成長度を評価することが可能になる。
請求項7に係る発明によれば、作業者の成長度を総合的に評価することが可能になる。
図1は、本発明の第1の実施の形態に係る評価システムの構成の一例を示す図である。 図2は、第1の実施の形態に係る評価システムの制御系の一例を示すブロック図である。 図3は、重み付け係数テーブルの一例を示す図である。 図4は、ある1つの行動種別において、行動レベル及び成長度の算出までの流れの一例を説明するための図である。 図5は、ある1つの行動種別において、行動レベルの算出から行動評価値を算出するまでの流れの一例を模式的に示す図である。 図6は、行動種別ごとに得られた行動評価値から作業スキルを評価するまでの流れの一例を模式的に示す図である。 図7は、本発明の第2の実施の形態に係る評価システムの構成の一例を示す図である。 図8は、第2の実施の形態に係る評価システムの制御系の一例を示すブロック図である。
以下、本発明の実施の形態について図面を参照して説明する。なお、各図中、実質的に同一の機能を有する構成要素については、同一の符号を付してその重複した説明を省略する。
[実施の形態の要約]
本発明の実施の形態に係る情報処理装置は、作業者の行動を時系列的に評価した少なくとも2つの第1の評価値、及び作業者の模範となる熟練者の行動を評価した基準の評価値を取得する取得手段と、少なくとも2つの第1の評価値と基準の評価値との間の類似度を示す少なくとも2つの行動レベルを算出する算出手段と、少なくとも2つの行動レベルに基づいて作業者の成長の程度を示す成長度を出力する出力手段とを備える。
「作業相手」とは、作業者の作業の対象となる人や物をいう。成長度は、2つの行動レベルの差でも、この差を経過時間で割った行動レベルの変化率(成長速度ともう。)でもよい。
[第1の実施の形態]
図1は、本発明の第1の実施の形態に係る評価システムの構成の一例を示す図である。この評価システム1は、例えば、作業エリアに設けられ、作業を行う作業者P1を撮影する第1のカメラ3Aと、作業者P1の作業の対象となる作業相手P2を撮影する第2のカメラ3Bと、カウンタ2に設けられ、作業者P1の音声を入力する第1のマイク4Aと、カウンタ2に設けられ、作業相手P2の音声を入力する第2のマイク4Bとを備える。作業相手P2は、本実施の形態では人である。
本実施の形態の作業エリアは、例えば、コンビニエンスストア等の小売店、ホテルの受付等の接客エリア等が該当する。
第1のマイク4A及び第2のマイク4B(これらを総称するときは「マイク4」ともいう。)は、カウンタ2に設けられていなくてもよく、壁や他の場所に設けられていてもよい。例えば、第1のマイク4Aを第1のカメラ3Aに設け、第2のマイク4Bを第2のカメラ3Bに設けてもよい。以下、第1のカメラ3A及び第2のカメラ3B(これらを総称するときは「カメラ3」ともいう。
カメラ3から人の各部の位置及び速度、顔の向き、表情(笑顔等)、姿勢等を検出してもよい。マイク4から発話量、会話量、声のトーン、笑い声等を検出してもよい。カメラ3及びマイク4から検出する情報は、行動情報の一例である。カメラ3及びマイク4は、行動情報を取得するセンサが一体となったウェアラブル端末でもよい。センサは、握力、トルク、手首の回転数、視線、加速度、角加速度、動きの速さ、変動量等を検出するものでもよい。行動情報は、会話量や笑顔回数の他に、声のトーン、心拍数、呼吸数、集中力、ストレス量、疲労度、自律神経の状態等の生体情報でもよい。行動情報は、作業者P1の種類(営業社員、工場作業員等)によって異なるものとしてもよい。
図2は、評価システム1の制御系の一例を示すブロック図である。評価システム1は、第1のカメラ3A及び第2のカメラ3Bと、第1のマイク4A及び第2のマイク4Bとが接続された評価装置5を有する。評価装置5は、情報処理装置の一例である。
評価装置5は、例えば、コンピュータ装置により実現される。なお、評価装置5は、1つのコンピュータ装置により実現してもよく、ネットワークにより接続された複数のコンピュータ装置により実現してもよい。
評価装置5には、作業者P1に対応して、第1の笑顔検出部51A、第1の発話分析部52A、第1の確率分布算出部53A、第1の行動レベル算出部54A、第1の熟練者確率分布記憶部55A及び第1の生長段階判定部56Aが設けられている。笑顔検出部51Aには、第1のカメラ3Aが接続され、第1の発話分析部52Aには、第1のマイク4Aが接続されている。第1の笑顔検出部51A、第1の発話分析部52A及び第1の行動レベル算出部54Aは、それぞれ取得手段の一例である。第1の確率分布算出部53A及び第1の行動レベル算出部54Aは、作業者P1の行動レベルを算出する算出手段の一例である。第1の生長段階判定部56Aは、出力手段の一例である。
また、評価装置5には、作業相手P2に対応して、第2の笑顔検出部51B、第2の発話分析部52B、第2の確率分布算出部53B、第2の行動レベル算出部54B、第2の熟練者確率分布記憶部55B及び第2の生長段階判定部56Bが設けられている。笑顔検出部51Bには、第2のカメラ3Bが接続され、第2の発話分析部52Bには、第2のマイク4Bが接続されている。第2の笑顔検出部51B、第2の発話分析部52B及び第2の行動レベル算出部54Bは、それぞれ取得手段の一例である。第2の確率分布算出部53B及び第2の行動レベル算出部54Bは、作業相手P2の行動レベルを算出する算出手段の一例である。第2の生長段階判定部56Bは、出力手段の一例である。
また、評価装置5には、作業者P1及び作業相手P2に共通して、行動評価モデル選定部57、行動評価モデル記憶部58及び行動評価部59が設けられている。
第1の笑顔検出部51A及び第2の笑顔検出部51B(これらを総称するときは「笑顔検出部51」ともいう。)は、例えば、カメラ3により撮影された画像から顔の領域を検出し、顔の領域についてパターンマッチングを行って笑顔を検出する。笑顔検出部51は、カメラ3によって撮影された画像から作業者P1又は作業相手P2の一日当たりの笑顔の回数を検出する。笑顔の回数は、行動種別の一例である。「行動種別」とは、作業者が行う行動の種類をいう。
第1の発話分析部52A及び第2の発話分析部52B(これらを総称するときは「発話分析部52」ともいう。)は、マイク4から入力される音声に対して音声認識処理を行って文字列に変換し、発話量を検出する。なお、発話回数、発話時間、発話速度を検出してもよい。発話量とは、1回の発話における総文字数をいう。発話回数とは、一日当たりの発話数をいう。発話時間とは、一人の作業相手P2に対して会話している時間をいう。発話速度とは、単位時間当たりの文字数をいう。発話量、発話回数、発話時間及び発話速度は、それぞれ行動種別の一例である。
第1の確率分布算出部53Aには、作業者P1について検出又は分析された複数種類の行動情報が時間の経過とともに入力される。第1の確率分布算出部53Aは、予め定められた期間(例えば、1日)内の行動情報から行動種別ごとに確率分布を算出する。行動情報は、第1の笑顔検出部51A及び第1の発話分析部52Aから出力される行動種別ごとの値である。これは第2の確率分布算出部53Bに入力される行動情報も同様である。第1の確率分布算出部53Aが算出する確率分布は、作業者P1の行動を時系列的に評価した第1の評価値の一例である。作業者P1について算出する確率分布は、作業者P1の成長度を評価するために用いられることから、時系列的に得られた少なくとも2つの確率分布が必要になる。これは第2の確率分布算出部53Bが作業相手P2について算出する確率分布についても同様である。
第2の確率分布算出部53Bは、作業相手P2について複数の行動情報が時間の経過とともに入力される。第1の確率分布算出部53Aと同様に、予め定められた期間(例えば、1日)内の行動情報から行動種別ごとに確率分布を算出する。第2の確率分布算出部53Bが算出する確率分布は、作業相手P2の行動を時系列的に評価した第2の評価値の一例である。
第1の行動レベル算出部54Aは、予め定められた期間(例えば、1日)内について第1の確率分布算出部53Aが算出した作業者の確率分布と、第1の熟練者確率分布記憶部55Aに記憶されている熟練者集団の確率分布との距離を用いて、作業者P1の行動レベルを評価する。
第2の行動レベル算出部54Bは、予め定められた期間(例えば、1日)内について第2の確率分布算出部53Bが算出した作業者相手の確率分布と、第2の熟練者確率分布記憶部55Bに記憶されている熟練者集団の確率分布との距離を用いて、作業相手P2の行動レベルを評価する。「熟練者集団の確率分布」は、複数の熟練者の確率分布を平均したものである。
第1の熟練者確率分布記憶部55Aには、作業者P1に対応する熟練者集団の確率分布が行動種別ごとに記憶されている。第2の熟練者確率分布記憶部55Bには、作業相手P2に対応する熟練者集団について、確率分布が行動種別ごとに記憶されている。熟練者集団の確率分布は、基準の評価値の一例である。
第1の生長段階判定部56Aは、第1の行動レベル算出部54Aが算出した作業者P1の行動レベルに基づいて、作業者P1が「未熟期」、「成長期」、「成熟期」(それぞれ成長度「低」、「中」、「高」ともいう。)のどの成長段階にいるかを判定する。なお、成長段階は、3つに限られず、2つ又は4つ以上でもよい。「成長期」とは、行動レベルの移動平均の傾きが連続してプラスとなる期間、又は予め設定した閾値を連続して上回る期間をいう。「未熟期」とは、「成長期」の前の期間(成長段階)をいう。「成熟期」とは、「成長期」の後の期間(成長段階)をいう。なお、「成長期」が特定できない場合は「未熟期」に属することとしてもよい。第1の生長段階判定部56Aが作業者P1に対して判定した成長段階は、第1の成長度の一例である。
第2の生長段階判定部56Bは、第2の行動レベル算出部54Bが算出した作業相手P2の行動レベルに基づいて、作業相手P2が「相互未知期」、「親密化過程」、「親密期」それぞれ成長度「低」、「中」、「高」ともいう。)のどの成長段階にいるかを判定する。なお、成長段階は、3つに限られず、2つ又は4つ以上でもよい。「親密化過程」とは、行動レベルの移動平均の傾きが連続してプラスとなる期間、又は予め設定した閾値を連続して上回る期間をいう。「相互未知期」とは、「親密化過程」の前の期間(成長段階)をいう。「親密期」とは、「親密化過程」の後の期間(成長段階)をいう。第2の生長段階判定部56Bが作業相手P2に対して判定した成長段階は、第2の成長度の一例である。
行動評価モデル記憶部58には、作業者P1及び作業相手P2の成長度の組合せに応じた評価モデルと、重み付け係数テーブル580(図3参照)とを記憶している。重み付け係数テーブル580は、評価モデルに用いられ、行動種別ごとに作業者P1及び作業相手P2の成長度(成長段階)に応じた重み付け係数が記録されている。
行動評価モデル選定部57は、行動評価モデル記憶部58に記憶している行動評価モデルから、作業者P1の成長度及び作業相手P2の成長度に応じて使用する行動評価モデルを選定し、重み付け係数テーブル580から重み付け係数を選定する。
行動評価部59は、行動種別ごとに、作業者P1の現在の行動レベル及び作業相手P2の現在の行動レベルに基づいて、作業者P1の成長度及び作業相手P2の成長度によって選定される行動評価モデルを用いて、行動種別ごとに行動評価値を算出する。
ある行動種別1の作業者P1の行動レベルをx、作業相手P2の行動レベルをxとすると、行動評価値yは、例えば、次の式(1)で表すことができる。行動評価値yは、第3の評価値の一例である。
=K・x+K・x ・・・(1)
ここで、Kは作業者P1の成長度及び作業相手P2の成長度に応じた重み付け係数であり、図3に示すように、α11、α12、α13、α21、α22、α23、α31、α32、α33が定められている。Kは、例えば、1としてもよく、作業相手P2の成長度に応じた重み付け係数でもよく、Kと同様に作業者P1の成長度及び作業相手P2の成長度に応じた重み付け係数でもよい。なお、Kは、1としてもよく、作業者P1の成長度に応じた重み付け係数でもよい。
また、行動評価部59は、行動種別ごとに算出した行動評価値を統合して作業者の作業スキルを評価する。行動種別1、2、・・・Nの行動評価値をそれぞれy1、y2、・・・ynとしたとき、作業スキルzは、例えば、次の式(2)で表すことができる。作業スキルzは、第4の評価値の一例である。
z=a・y+a・y+・・・+a・y ・・・(2)
ここで、a、a、・・・aは、重み付け係数である。
図3は、行動評価モデル記憶部58に記憶されている重み付け係数テーブル580の一例を示す図である。重み付け係数テーブル580は、行動評価モデル選定部57が行動評価モデル記憶部58から行動評価モデルを選定する際に作業者P1の行動レベルに対する重み付け係数を選定するためのものである。重み付け係数は、行動種別ごとに作業者P1の成長度及び作業対象P2の成長度に応じて定められた値が記録されている。例えば、行動種別1は笑顔の回数、行動種別2は発話量、行動種別3は発話回数としてもよい。同図は、行動種別1に対してα11、α12、α13、α21、α22、α23、α31、α32、α33が記録され、行動種別2に対してβ11、β12、β13、β21、β22、β23、β31、β32、β33が記録され、行動種別3に対してγ11、γ12、γ13、γ21、γ22、γ23、γ31、γ32、γ33が記録されている場合を示す。
(第1の実施の形態の動作)
次に、評価システム1の動作の一例を図4~図6を参照して説明する。
図4は、ある1つの行動種別において、行動レベル及び成長度の算出までの流れの一例を説明するための図である。同図において、(a)は、作業者P1が作業を行った時を示し、(b)は、作業者P1の確率分布Pb(X)|を示し、(c)は、作業者P1に対応する熟練者集団の確率分布Pp(X)を示し、(d)は、(b)及び(c)に示す確率分布間の距離d|tを示し、(e)は、確率分布間の距離d|tを増加関数に変換した値(1/d|t)で表される行動レベルLを示し、(f)は作業者P1及び作業相手P2の成長期を示す。図4(f)の移動平均は、時系列で得られるデータにおいて、一定区間ごとの平均値を区間をずらしながら求めたもので、ノイズを除去し、滑らかな曲線を取得することができる。
図5は、ある1つの行動種別において、行動レベルの算出から行動評価値を算出するまでの流れの一例を模式的に示す図である。図5は、行動種別ごとに得られた行動評価値から作業スキルを評価するまでの流れの一例を模式的に示す図である。
(接客業における店員の接客スキル評価事例1)
次に、接客業における店員の接客スキルを、発話量に基づいて評価する場合について説明する。
(1)店員の行動レベルの算出、成長段階の判定
図4及び図5に示すように、第1の確率分布算出部53Aには、店員P1について発話の行動情報が時間の経過とともに入力される。図4(b)に示すように、第1の確率分布算出部53Aは、作業者P1について、1日単位で発話量の確率分布Pb(X)|を算出する。
図4(c)に示すように、第1の熟練者確率分布記憶部55Aには、店員P1に対応する熟練者集団について、1日における発話量の確率分布Pp(X)を記憶しておく。
次に、図4(d)に示すように、第1の行動レベル算出部54Aは、店員P1の発話量の確率分布Pb(X)|と店員P1に対応する熟練者集団の発話量の確率分布Pp(X)との距離d|tを計算し、図4(e)に示すように、行動レベルLを算出する。
1回1回の行動情報を熟練者と比較すると、その度に評価結果が変わり、偶然上手くいった場合に本来の技能を評価できない可能性があるため、一定期間内の複数の行動情報の確率分布を比較している。
第1の生長段階判定部56Aは、図4(f)に示すように、第1の行動レベル算出部54Aが算出した発話の行動レベルに基づいて、店員P1が「未熟期」、「成長期」、「成熟期」のどの成長段階にいるかを判定し、店員P1の成長度(生長段階)を推定する。
(2)客の行動レベルの算出、成長段階の判定
作業相手である客P2についても、店員P1と同様に、第2の確率分布算出部53Bには、客P2について発話の行動情報が時間の経過とともに入力される。図4(b)に示すように、第2の確率分布算出部53Bは、客P2について、1日単位で発話量の確率分布を算出する。
図4(c)に示すように、第2の熟練者確率分布記憶部55Bには、客P2に対応する熟練者集団について、1日における発話量の確率分布を記憶しておく。
次に、図4(d)に示すように、第2の行動レベル算出部54Bは、客P2の発話量の確率分布と客P2に対応する熟練者集団の発話量の確率分布との距離を計算し、行動レベルLを算出する。
第2の生長段階判定部56Bは、図4(f)に示すように、第2の行動レベル算出部54Bが算出した発話量の行動レベルLに基づいて、客P2が「相互未知期」、「親密化過程」、「親密期」のどの成長段階にいるかを判定し、客P2の成長度(生長段階)を推定する。
(3)作業スキルの評価
行動評価モデル選定部57は、第1の生長段階判定部56Aによって判定された店員P1の生長段階、及び第2の生長段階判定部56Bによって判定された客P2の生長段階に応じた行動評価モデル及び重み付け係数を行動評価モデル記憶部58から取得する。
行動評価部59は、行動評価モデル選定部57により選定された行動評価モデル及び重み付け係数を用いて、時間経過と共に得られる行動情報を元に、店員P1の接客スキルを評価する。
店員P1と客P2の成長度に応じて、その行動情報を評価する行動評価モデルを切り替える。行動評価モデルの入力値は、各行動評価モデルによって異なるが、現在の行動レベルは共通とする。
店員P1と客P2の発話量は多い方が好ましいが、店員P1と客P2の成長度によってはそうとは限らない場合がある。例えば、図4(e)に示すように、店員P1は「成熟期」にいるが、客P2が「相互未知期」にいる場合(来店回数が浅い、あまり会話を好まないなど)、発話量は少ない方が適切である。この場合、現在の行動レベルは低いが、高くなるようスケールがかかる。すなわち、発話量の重み付け係数βとして小さい値を採用する。なお、他の行動種別に大きい重み付け係数α、γを採用してもよい。
一方、店員P1が「未熟期」でも、客P2が常連であるために「親密期」である場合、積極的に話しかけて発話量を多くすることが好ましい。すなわち、発話量の重み付け係数βとして大きい値を採用する。なお、他の行動種別に小さい重み付け係数α、γを採用してもよい。
前述のしたように、作業者の1つの行動種別に対して1つの行動評価値が得られるため、複数の行動種別の行動情報を取得する場合は、複数の行動評価値が得られることになる。そこで、図6に示すように、複数の行動評価値を重み付け加算により統合して作業スキルを評価する。
各行動評価値に使う重み付け係数は、評価者の経験に基づき設定する方法と、評価者の主観的な作業スキル評価結果を正解値として機械学習により求める方法等がある。また、複数の行動情報に対する行動評価値を正規化して比較することで、作業者が伸ばすべき行動を抽出してもよい。行動評価値が比較的低い行動情報について、それを改善するよう行動を指示・推薦してもよい。
(接客業における店員の接客スキル評価事例2)
次に、接客業における店員の接客スキルの評価事例2として、発話量と笑顔回数に基づく評価事例を説明する。
接客時の店員P1と客P2の発話量と笑顔回数をカメラ3とマイク4を用いて取得する。日々得られる発話量と笑顔回数について、1週間ごとに確率分布を作成し、熟練者の確率分布との距離を計算する。客P2の発話量と笑顔回数の確率分布は、常連の確率分布との距離を計算する。確率分布間距離を増加関数に変換した値を行動レベルとする。つまり1週間ごとに発話量と笑顔回数の行動レベルが取得されることになる。
1週間ごとに得られる店員P1と客P2の発話量と笑顔回数の行動レベルについて、それぞれ移動平均を求め、移動平均の傾きからどの期間に属するかを推定する。
店員P1が「成熟期」と判定され、客P2が「相互未知期」と判定された場合、その情報を元に行動評価モデル及び重み付け係数を選定する。行動評価モデルの入力値は、店員P1と客P2の現在の行動レベル、属する期間での経験回数、経験回数の増加率、過去の行動評価値、安定性(行動レベルのバラつき)、成長率(行動レベルの傾き)などが挙げられる。
店員P1は、発話量についての行動評価値と、笑顔回数についての行動評価値を得て、これらの重み付き加算により、接客スキルを評価する。このときの重み付き係数は、評価者である店長が主観的に決めてもよい(例えば、この店舗ではとにかく客P2と話すことを重要視しているならば、発話量の重み付け係数の値を上げるなど)。もしくは店長が主観的に評価した接客スキルの値を正解値としてニューラルネットなどの機械学習により各重み付け係数を計算してもよい。
また、発話量と笑顔回数の行動評価値を正規化して比較したときに、笑顔回数の行動評価値が低かった場合、笑顔回数を増やすよう推薦する。このとき、作業者1人の行動評価値のみを用いて伸ばすべき行動を抽出してもよいが、複数の作業者がいる場合、複数人の行動評価値を基に伸ばすべき行動を抽出してもよい。
[第2の実施の形態]
図7は、本発明の第2の実施の形態に係る評価システムの構成の一例を示す図である。第1の実施の形態では、作業相手P2を人としたが、本実施の形態は物としたものである。以下、第1の実施の形態と異なる点を中心に説明する。
第2の実施の形態に係る評価システム1は、例えば、作業エリアに設けられ、作業を行う作業者P1に装着された第1のセンサ6Aと、作業者P1の作業の対象となる作業相手P2に取り付けられた第2のセンサ6Bとを備える。第1のセンサ6A及び第2のセンサ6B(これらを総称するときは「センサ6」ともいう。)は、それぞれ1つでも複数でもよい。作業相手P2は、本実施の形態では、物の一例として加工機等の装置とした。作業相手P2は、装置の他、器具でもよい。
本実施の形態の作業エリアは、例えば、工場、木工所、陶芸教室、料理教室等が該当する。同図は、工場の作業エリアに設置されている作業相手P2の加工機に設けられたボルトBを、作業者P1がスパナSで締め付けている状態を示している。
第1のセンサ6Aから複数の行動情報を検出する。複数の行動情報としては、例えば、加速度、角速度、変動量、ボルトBの回し回数、ボルトBの締付け強さ等がある。なお、第1のセンサ6Aは、行動情報を取得するセンサが一体となったウェアラブル端末でもよい。第1のセンサ6Aは、握力、トルク、手首の回転数、視線、加速度、角加速度等を検出するものでもよい。行動情報は、腕の動作の他に、心拍数、呼吸数、集中力等の生体情報でもよい。
第2のセンサ6Bから複数の状態情報(第1の実施の形態の行動情報に対応する。)を検出する。複数の状態情報としては、例えば、使用回数、使用時間、使用人数、耐久性、落下回数、振動数、騒音レベル、モータ回転数等でもよい。
図8は、第2の実施の形態に係る評価システム1の制御系の一例を示すブロック図である。評価システム1は、第1のセンサ6A及び第2のセンサ6B(これらを総称するときは「センサ6」ともいう。)が接続された評価装置5を有する。
評価装置5には、作業者P1に対応して、第1の分析部50Aが設けられ、さらに第1の実施の形態と同様に、第1の確率分布算出部53A、第1の行動レベル算出部54A、第1の熟練者確率分布記憶部55A及び第1の生長段階判定部56Aが設けられている。第1の分析部50Aには、第1のセンサ6Aが接続されている。第1の分析部50Aは、取得手段の一例である。
また、評価装置5には、作業相手P2に対応して、第2の分析部50B及び状態レベル算出部54Cが設けられ、さらに第1の実施の形態と同様に、第2の確率分布算出部53B、第2の熟練者確率分布記憶部55B及び第2の生長段階判定部56Bが設けられている。第2の分析部50Bには、第2のセンサ6Bが接続されている。第2の分析部50Bは、取得手段の一例である。状態レベル算出部54Cは、作業相手P2の行動レベルを算出する算出手段の一例である。
また、評価装置5には、第1の実施の形態と同様に、作業者P1及び作業相手P2に共通して、行動評価モデル選定部57、行動評価モデル記憶部58及び行動評価部59が設けられている。
第1の分析部50Aは、例えば、第1のセンサ6Aにより検出された加速度から作業者P1の腕の動きを検出する。腕の動きは、行動種別の一例である。
第2の分析部50Bは、例えば、第2のセンサ6Bから入力される加速度から振動数を分析する。振動数は、行動種別の一例である。
状態レベル算出部54Cは、予め定められた期間(例えば、1日)内について第2の確率分布算出部53Bが算出した作業者相手P2の状態(例えば、振動数)の確率分布と、第2の熟練者確率分布記憶部55Bに記憶されている熟練者集団の状態(例えば、振動数)の確率分布との距離を用いて、作業相手P2の状態レベル(例えば、老化レベル)を評価する。
第2の生長段階判定部56Bは、第2の行動レベル算出部54Bが算出した作業相手P2の状態レベルに基づいて、作業相手P2が「相互未知期」、「親密化過程」、「親密期」それぞれ成長度「低」、「中」、「高」ともいう。)のどの成長段階にいるかを判定する。
行動評価部59は、行動の種別ごとに、作業者P1の現在の行動レベル及び作業相手P2の現在の状態レベルに基づいて、作業者の成長度及び作業相手の成長度によって選定される行動評価モデル及び重み付け係数を用いて、行動の種別ごとに行動評価値を算出する。
本実施の形態では、例えば、振動数の確率分布を求め、古くなったマシンの振動数の確率分布との距離を、老化レベル(作業相手P2が人の場合の行動レベルに対応する。)として評価する。
時系列で得られる作業相手P2の老化レベルから「相互未知期」、「親密化過程」、「親密期」を特定する。この場合、「相互未知期」は物が新品の状態、「親密化過程」は物が使い慣らされた状態、「親密期」は物が古くなった状態を表す。
一方、作業者P1のセンシング情報は、例えば、1つの作業に要した稼働時間や加えた力の大きさ等である。作業者P1が「成熟期」で物が「相互未知期」での評価モデルでは、物が新品の状態なので慎重に作業するケースや調整しながら作業するケースがある。そのため、1つの作業に要した稼働時間の行動レベルに対する重み付け係数は通常よりも小さく設定される(1つの作業に要した稼働時間は重要視されない。)。
作業者P1が「未熟期」で物が「親密期」での評価モデルでは、1つの作業に要した稼働時間が長いと負担が大きく物が故障してしまうおそれがある。そのため、1つの作業に要した稼働時間の行動レベルに対する重み付け係数は大きく設定される(熟練に近いほど良い。)。
以上、本発明の実施の形態を説明したが、本発明の実施の形態は上記実施の形態に限定されるものではなく、本発明の要旨を変更しない範囲内で種々の変形、実施が可能である。
評価装置5の各部は、それぞれ一部又は全部を再構成可能回路(FPGA:Field Programmable Gate Array)、特定用途向け集積回路(ASIC:Application Specific Integrated Circuit)等のハードウエア回路によって構成してもよい。
また、本発明の要旨を変更しない範囲内で、上記実施の形態の構成要素の一部を省くことや変更することが可能である。また、本発明の要旨を変更しない範囲内で、上記実施の形態のフローにおいて、ステップの追加、削除、変更、入替え等が可能である。また、上記実施の形態で用いたプログラムをCD-ROM等のコンピュータ読み取り可能な記録媒体に記録して提供することができる。また、上記実施の形態で用いたプログラムをクラウドサーバ等の外部サーバに格納しておき、ネットワークを介して利用することができる。
1…評価システム、2…カウンタ、3、3A、3B…カメラ、4、4A、4B…マイク、5…評価装置、6、6A、6B…センサ、50、50A、50B…分析部、51、51A、51B…笑顔検出部、52、52A、52B…発話分析部、53A、53B…確率分布算出部、54A、54B…行動レベル算出部、54C…状態レベル算出部、55A、55B…熟練者確率分布記憶部、56A、56B…生長段階判定部、57…行動評価モデル選定部、58…行動評価モデル記憶部、59…行動評価部

Claims (8)

  1. 作業者の接客相手に対する行動を時系列的に評価した少なくとも2つの第1の評価値、及び前記作業者の模範となる熟練者の行動を評価した基準の評価値を取得し、前記接客相手の前記作業者に対する行動を時系列的に評価した少なくとも2つの第2の評価値、及び前記接客相手の模範となる熟練者の行動を評価した基準の評価値を取得する取得手段と、
    前記作業者に関して取得された前記少なくとも2つの第1の評価値と前記基準の評価値との間の類似度を示す少なくとも2つの第1の行動レベルを算出し、前記接客相手に関して取得された前記少なくとも2つの第2の評価値と前記基準の評価値との間の類似度を示す少なくとも2つの第2の行動レベルを算出する算出手段と、
    前記少なくとも2つの第1の行動レベルに基づいて前記作業者の成長の程度を示す第1の成長度を出力し、前記少なくとも2つの第2の行動レベルに基づいて前記接客相手の成長の程度を示す第2の成長度を出力する出力手段と、
    を備えた情報処理装置。
  2. 前記評価値は、行動が実行される確率分布である、
    請求項1に記載の情報処理装置。
  3. 前記行動レベルは、前記確率分布間の距離に対応する値である、
    請求項2に記載の情報処理装置。
  4. 前記第1の行動レベル及び前記第2の行動レベルを重み付け加算した第3の評価値を算出する評価手段、
    をさらに備えた請求項1から3のいずれか1項に記載の情報処理装置。
  5. 前記評価手段は、前記第1の行動レベル及び前記第2の行動レベルのそれぞれの成長度に応じて重み付けが異なる計算式を用いて前記第3の評価値を算出する、
    請求項4に記載の情報処理装置。
  6. 前記取得手段は、前記評価値を行動種別ごとに取得し、
    前記算出手段は、前記行動レベルを行動種別ごとに算出する、
    請求項1から5のいずれか1項に記載の情報処理装置。
  7. 前記評価手段は、行動種別ごとに前記第3の評価値を算出し、行動種別ごとの前記第3の評価値を重み付け加算した第4の評価値を算出する、
    請求項5に記載の情報処理装置。
  8. コンピュータを、
    作業者の接客相手に対する行動を時系列的に評価した少なくとも2つの第1の評価値、及び前記作業者の模範となる熟練者の行動を評価した基準の評価値を取得し、前記接客相手の前記作業者に対する行動を時系列的に評価した少なくとも2つの第2の評価値、及び前記接客相手の模範となる熟練者の行動を評価した基準の評価値を取得する取得手段と、
    前記作業者に関して取得された前記少なくとも2つの第1の評価値と前記基準の評価値との間の類似度を示す少なくとも2つの第1の行動レベルを算出し、前記接客相手に関して取得された前記少なくとも2つの第2の評価値と前記基準の評価値との間の類似度を示す少なくとも2つの第2の行動レベルを算出する算出手段と、
    前記少なくとも2つの第1の行動レベルに基づいて前記作業者の成長の程度を示す第1の成長度を出力し、前記少なくとも2つの第2の行動レベルに基づいて前記接客相手の成長の程度を示す第2の成長度を出力する出力手段、
    として機能させるためのプログラム。
JP2017237613A 2017-12-12 2017-12-12 情報処理装置及びプログラム Active JP7106851B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017237613A JP7106851B2 (ja) 2017-12-12 2017-12-12 情報処理装置及びプログラム
US15/979,487 US11295459B2 (en) 2017-12-12 2018-05-15 Information processing apparatus
CN201810716548.4A CN109919404A (zh) 2017-12-12 2018-07-03 信息处理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017237613A JP7106851B2 (ja) 2017-12-12 2017-12-12 情報処理装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2019105972A JP2019105972A (ja) 2019-06-27
JP7106851B2 true JP7106851B2 (ja) 2022-07-27

Family

ID=66696305

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017237613A Active JP7106851B2 (ja) 2017-12-12 2017-12-12 情報処理装置及びプログラム

Country Status (3)

Country Link
US (1) US11295459B2 (ja)
JP (1) JP7106851B2 (ja)
CN (1) CN109919404A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6815667B1 (ja) * 2019-11-15 2021-01-20 株式会社Patic Trust 情報処理装置、情報処理方法、プログラム及びカメラシステム
WO2023175802A1 (ja) * 2022-03-16 2023-09-21 日本電気株式会社 作業分析装置、作業分析システム、作業分析方法および記憶媒体

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003271048A (ja) 2002-03-14 2003-09-25 Mitsubishi Heavy Ind Ltd 訓練評価装置及び訓練評価方法
JP2006190166A (ja) 2005-01-07 2006-07-20 Sharp Corp 作業時間管理システム、作業時間管理方法、作業時間管理プログラム、及び、そのプログラムを記録した記録媒体
JP2008201569A (ja) 2007-02-22 2008-09-04 Hitachi Ltd 作業管理システム、作業管理方法、及び管理計算機
JP2012234406A (ja) 2011-05-02 2012-11-29 Kawasaki Heavy Ind Ltd 作業支援装置および作業支援方法
US20150269860A1 (en) 2014-03-24 2015-09-24 Steven E. Shaw Operator Training and Maneuver Refinement System and Method for Aircraft, Vehicles and Equipment

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7457439B1 (en) * 2003-12-11 2008-11-25 Motion Reality, Inc. System and method for motion capture
JP2005198818A (ja) * 2004-01-15 2005-07-28 Ritsumeikan 身体動作の学習支援システム及び学習支援方法
KR100776193B1 (ko) * 2006-06-20 2007-11-16 연세대학교 산학협력단 거절자 추론을 반영한 기술평가방법
JP4793734B2 (ja) * 2007-10-02 2011-10-12 大阪瓦斯株式会社 プラント操業訓練システム及びコンピュータプログラム
JP4416827B1 (ja) * 2008-09-10 2010-02-17 シャープ株式会社 評価装置、校正方法、校正プログラム、及び、記録媒体
JP5761730B2 (ja) * 2010-01-28 2015-08-12 長崎県公立大学法人 身体技能習得支援装置
JP2012023446A (ja) 2010-07-12 2012-02-02 Hitachi Kokusai Electric Inc 監視システム
JP2012078768A (ja) 2010-09-06 2012-04-19 Nippon Telegr & Teleph Corp <Ntt> 人物マッチング装置、方法及びプログラム
US20130260351A1 (en) * 2012-03-29 2013-10-03 Dreambox Learning Inc. Calendar-driven sequencing of academic lessons
JP6556436B2 (ja) * 2014-09-22 2019-08-07 株式会社日立システムズ 作業管理装置、感情解析端末、作業管理プログラムおよび作業管理方法
JP6467966B2 (ja) * 2015-02-13 2019-02-13 オムロン株式会社 健康管理補助装置及び健康管理補助方法
WO2016199356A1 (ja) * 2015-06-10 2016-12-15 日本電気株式会社 動作分析装置、動作分析方法および動作分析プログラム
JP2017033457A (ja) * 2015-08-05 2017-02-09 富士通株式会社 スケジューリング支援方法、情報処理装置およびスケジューリング支援プログラム
US10311617B2 (en) * 2015-08-25 2019-06-04 Ns Solutions Corporation Operation support device, operation support method, and non-transitory computer readable recording medium
KR20170102799A (ko) * 2016-03-01 2017-09-12 가부시키가이샤 고마쓰 세이사쿠쇼 평가 장치 및 평가 방법
CN106296300A (zh) * 2016-08-18 2017-01-04 南京坦道信息科技有限公司 一种电信行业移动产品口碑营销效果的鉴定方法
CN106970703A (zh) * 2017-02-10 2017-07-21 南京威卡尔软件有限公司 基于心情指数的多层情感计算方法
DE112017006891T5 (de) * 2017-02-24 2019-10-10 Mitsubishi Electric Corporation Bewegungslerneinrichtung, fertigkeitendiskriminationseinrichtung und fertigkeitendiskriminationssystem
JP6649306B2 (ja) * 2017-03-03 2020-02-19 株式会社東芝 情報処理装置、情報処理方法及びプログラム
JP2019057057A (ja) * 2017-09-20 2019-04-11 富士ゼロックス株式会社 情報処理装置、情報処理システム及びプログラム
US20190114571A1 (en) * 2017-10-13 2019-04-18 Vocollect, Inc. Systems and methods for evaluating personnel for task assignment
JP7103078B2 (ja) * 2018-08-31 2022-07-20 オムロン株式会社 作業支援装置、作業支援方法及び作業支援プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003271048A (ja) 2002-03-14 2003-09-25 Mitsubishi Heavy Ind Ltd 訓練評価装置及び訓練評価方法
JP2006190166A (ja) 2005-01-07 2006-07-20 Sharp Corp 作業時間管理システム、作業時間管理方法、作業時間管理プログラム、及び、そのプログラムを記録した記録媒体
JP2008201569A (ja) 2007-02-22 2008-09-04 Hitachi Ltd 作業管理システム、作業管理方法、及び管理計算機
JP2012234406A (ja) 2011-05-02 2012-11-29 Kawasaki Heavy Ind Ltd 作業支援装置および作業支援方法
US20150269860A1 (en) 2014-03-24 2015-09-24 Steven E. Shaw Operator Training and Maneuver Refinement System and Method for Aircraft, Vehicles and Equipment

Also Published As

Publication number Publication date
JP2019105972A (ja) 2019-06-27
CN109919404A (zh) 2019-06-21
US20190180455A1 (en) 2019-06-13
US11295459B2 (en) 2022-04-05

Similar Documents

Publication Publication Date Title
KR101967415B1 (ko) 글로벌 모델로부터의 로컬화된 학습
WO2018079106A1 (ja) 感情推定装置、感情推定方法、記憶媒体、および感情カウントシステム
JP7106851B2 (ja) 情報処理装置及びプログラム
JP6397250B2 (ja) 集中度推定装置、方法及びプログラム
US10836044B2 (en) Robot control device and robot control method
US20180121784A1 (en) Conversation control system
JP7380567B2 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
JP4719826B2 (ja) 作業認識装置
JP2010267207A (ja) 非日常性評価装置、非日常性評価方法及びコンピュータプログラム
JP2012524578A (ja) 可動要素の活動を決定するためのシステム及び方法
WO2019146405A1 (ja) 表情解析技術を用いた商品に対するモニタの反応を評価するための情報処理装置、情報処理システム、プログラム
US20170076618A1 (en) Physical Object Training Feedback Based On Object-Collected Usage Data
JP6887035B1 (ja) 制御システム、制御装置、制御方法及びコンピュータプログラム
JP7168825B2 (ja) 推定装置、推定方法及び推定プログラム
WO2020115930A1 (ja) 手順検知装置、および手順検知プログラム
CN116561421A (zh) 基于人脸识别的学生课程推荐方法、装置及设备
WO2023084715A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP7014761B2 (ja) 認知機能推定方法、コンピュータプログラム及び認知機能推定装置
JP6545950B2 (ja) 推定装置、推定方法、およびプログラム
US20220309704A1 (en) Image processing apparatus, image processing method and recording medium
JP6941590B2 (ja) 情報処理装置及び情報処理プログラム
JP7186207B2 (ja) 情報処理装置、情報処理プログラム及び情報処理システム
JP6627625B2 (ja) 応対支援装置、応対支援方法、応対支援プログラム、応対評価装置、応対評価方法、及び応対評価プログラム
JP6936198B2 (ja) 出力装置及び出力方法
US20220415086A1 (en) Information processing device, and emotion estimation method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210713

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220614

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220627

R150 Certificate of patent or registration of utility model

Ref document number: 7106851

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150