JP7468689B2 - 分析装置、分析方法及び分析プログラム - Google Patents

分析装置、分析方法及び分析プログラム Download PDF

Info

Publication number
JP7468689B2
JP7468689B2 JP2022557240A JP2022557240A JP7468689B2 JP 7468689 B2 JP7468689 B2 JP 7468689B2 JP 2022557240 A JP2022557240 A JP 2022557240A JP 2022557240 A JP2022557240 A JP 2022557240A JP 7468689 B2 JP7468689 B2 JP 7468689B2
Authority
JP
Japan
Prior art keywords
data
analysis
conference
message
emotion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022557240A
Other languages
English (en)
Other versions
JPWO2022079768A1 (ja
JPWO2022079768A5 (ja
Inventor
真 則枝
良志 田中
翔悟 赤崎
治樹 横田
雅美 坂口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2022079768A1 publication Critical patent/JPWO2022079768A1/ja
Publication of JPWO2022079768A5 publication Critical patent/JPWO2022079768A5/ja
Application granted granted Critical
Publication of JP7468689B2 publication Critical patent/JP7468689B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Description

本発明は分析装置、システム、方法及びプログラムに関する。
オンラインでのビデオ会議(以下オンライン会議と称する)において、会議の状況や内容を評価する技術が提案されている。
例えば、特許文献1に記載のシステムは、各出席者に係る画像を認識する画像認識部と、音声データにおける各発言の発言者を特定する音声認識部と、各出席者の音声データを発言の時系列でタイムラインとして出力するタイムライン管理部とを有する。またこのシステムは、例えば、会議中において各出席者による発言のテンポが落ちた状態からテンポが上がった状態に遷移した場合や、会議の状態が低調な状態から好調な状態に遷移したことを、検出する。そして、その遷移の間に発言した複数の出席者を特定し、特定された各出席者の発言内容にそれぞれ含まれるキーワードを所定の条件に基づいて重み付けして出席者毎にスコアリングし、各出席者の貢献度とする。
また、特許文献2に記載の会議支援システムは、受信した映像データに基づいて出席者ごとの感情を判別する感情判別部と、受信した音声データに基づいて、出席者の発言の内容を示す発言テキストデータを生成するテキストデータ生成部と、を有する。また会議支援システムは、感情判別部による判別の結果を示す感情データおよび発言テキストデータに基づいて、出席者の発言の内容とその発言があったときの各出席者の感情とを記録した議事録データを生成する議事録生成部を有する。
特開2019-061594号公報 特開2005-277462号公報
上述の技術は、会議の発言内容等に基づいて会議の状況を判定するものである。しかしながら、評価の対象となる会議の属性により、評価の対象や判断基準等は変化する。
本開示はこのような課題を鑑みてなされたものであり、オンライン会議を効果的に運営するための分析装置、分析方法、分析システムおよびプログラムを提供することを目的とする。
本開示の1実施形態にかかる分析装置は、感情データ取得手段、分析データ生成手段、会議データ取得手段、記憶手段およびメッセージ制御手段を有する。感情データ取得手段は、オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの感情データを取得する。分析データ生成手段は、感情データに基づいて会議に対する分析データを生成する。会議データ取得手段は、会議の属性データを含む会議データを取得する。記憶手段は、ユーザに提示するメッセージのパターンと会議データとを紐付けたメッセージデータを記憶する。メッセージ制御手段は、分析データとメッセージデータとに基づいてメッセージを選択し、選択したメッセージを含む分析結果を出力可能に記憶部に記憶させる。
本開示の1実施形態にかかる申請情報処理方法は、以下の方法をコンピュータが実行する。コンピュータは、オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの時刻データを伴う感情データを取得する。コンピュータは、感情データに基づいて会議に対する分析データを生成する。コンピュータは、会議の属性データを含む会議データを取得する。コンピュータは、ユーザに提示するメッセージのパターンと会議データとを紐付けたメッセージデータを記憶する。コンピュータは、分析データとメッセージデータとに基づいてメッセージを選択する。コンピュータは、選択したメッセージを含む分析結果を出力可能に記憶する。
本開示の1実施形態にかかるプログラムは、コンピュータに、以下のステップを実行させるものである。コンピュータは、オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの時刻データを伴う感情データを取得する。コンピュータは、感情データに基づいて会議に対する分析データを生成する。コンピュータは、会議の属性データを含む会議データを取得する。コンピュータは、ユーザに提示するメッセージのパターンと会議データとを紐付けたメッセージデータを記憶する。コンピュータは、分析データとメッセージデータとに基づいてメッセージを選択する。コンピュータは、選択したメッセージを含む分析結果を出力可能に記憶する。
本開示によれば、オンライン会議を効果的に運営するための分析装置、分析方法、分析システムおよびプログラムを提供することができる。
実施形態1にかかる分析装置の構成を示すブロック図である。 実施形態1にかかる分析方法を示すフローチャートである。 実施形態2にかかる分析システムの構成を示すブロック図である。 実施形態2にかかる分析装置の構成を示すブロック図である。 分析データ生成部が処理するデータの例を示す図である。 実施形態2にかかる感情データ生成装置の構成を示すブロック図である。 実施形態2にかかる分析方法を示すフローチャートである。 分析データの例を示す図である。 メッセージデータの例を示す図である。 分析結果の表示例を示す図である。
以下では、本開示の実施形態について、図面を参照しながら詳細に説明する。各図面において、同一又は対応する要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明は省略される。
<実施形態1>
図1を参照して実施形態1について説明する。図1は、実施形態1にかかる分析装置100の構成を示すブロック図である。分析装置100は、オンライン会議に参加する参加者の感情データを取得し、取得した感情データから当該オンライン会議にかかる分析データを生成して、生成した分析データを所定の端末等に出力する。
なお、本実施形態にいて、オンライン会議とは、通信回線を介して互いに通信可能に接続された複数の会議端末を利用して開催される会議をいう。オンライン会議に接続する会議端末は、例えばパソコン、スマートフォン、タブレット端末、カメラ付き携帯電話等である。また会議端末は、参加者を撮影するカメラ、参加者の発話を収音するマイクおよび画像データや音声データを送受信する通信機能を有する装置であれば上記のものに限られない。また以降の説明においてオンライン会議を、単に「会議」と称する場合がある。
本実施形態においてオンライン会議の参加者とは、会議端末を通じてオンライン会議に接続している人物を示すものであって、会議の主催者、会議の発表者、プレゼンタおよび会議の傍聴者を含む。例えば1つの会議端末を通じて複数の人物が会議に参加している場合には複数の人物それぞれが参加者である。本実施形態において参加者は会議端末が内蔵するまたは会議端末に接続されたカメラにより顔画像が撮影可能な状態で会議に参加するものとする。
分析装置100は、オンライン会議における参加者の感情データを生成する感情データ生成装置および会議を運営する会議運営装置と通信可能にそれぞれ接続する。また分析装置100は、分析装置100を利用するユーザが有する端末(ユーザ端末)と通信可能に接続する。分析装置100は主な構成として、感情データ取得部111、会議データ取得部112、分析データ生成部113、メッセージ制御部114、出力部115および記憶部120を有する。
感情データ取得部111は、感情データ生成装置から感情データを取得する。感情データ生成装置は、オンライン会議における会議の参加者の顔画像データから感情データを生成し、生成した感情データを分析装置100に供給する。感情データは、会議の参加者がそれぞれ有する感情を示す指標となるデータである。
感情データは、例えば、注目度、困惑度、幸福度および驚きなど複数の項目を含む。すなわち感情データは、上述のそれぞれの項目ごとに、参加者がどの程度これらの感情を感じているかを示すものである。感情データ取得部111が取得する感情データは、時刻データを伴う。感情データ生成装置は、所定期間(例えば1秒間)毎の感情データを生成する。感情データ取得部111は、会議の進行時刻に沿った所定時間ごとの感情データを取得する。感情データ取得部111は、感情データを取得すると、取得した感情データを、分析データ生成部113に供給する。
会議データ取得部112は、会議運営装置から会議データを取得する。会議運営装置は、例えば会議の参加者のそれぞれが通信可能に接続するサーバ装置である。会議運営装置は、会議の参加者が利用する会議端末に含まれるものであってもよい。会議データは、時刻データを伴う会議に関するデータである。より具体的には、会議データは、会議の開始時刻および終了時刻を含む。また会議データは、会議中に取られた休憩の時刻を含む。
会議データ取得部112は、会議の属性データを含む会議データを取得する。会議の属性データとは、例えば、ウェビナー(ウェブセミナーまたはオンラインセミナーとも称する)、定例ミーティング、またはブレーンストーミングなどの、会議の種別を示す情報を含み得る。また会議の属性データとは、会議の参加者が所属する会社の業種や職種に関する情報を含み得る。また会議の属性データは、会議の議題、会議の目的または会議体の名称等に関する情報を含み得る。会議データ取得部112は、取得した会議データを、分析データ生成部113およびメッセージ制御部114に供給する。
分析データ生成部113は、受け取った感情データ、会議データおよびチャプタを示すデータから、会議に対する分析データを生成する。分析データは、感情データから導出されるデータであって、複数の感情を示す項目から抽出または算出されるデータである。分析データは、会議の運営に役立つような指標であることが好ましい。例えば分析データは、会議に対する注目度、共感度および理解度を含むものであってもよい。あるいは分析データは、会議の傍聴者に対する発言者の感情伝達度を含むものであってもよい。このように、分析データ生成部113は、予め設定された複数の分析項目に応じた分析データを生成する。これにより分析装置100は、効率よく会議を行うための複数の観点から分析データを生成できる。
なお、分析データ生成部113は、会議データ取得部112から受け取った属性データに応じて、分析データの算出の方法を設定するものであってもよい。すなわちこの場合、分析データ生成部113は、会議データ取得部112から受け取った属性データに応じて、分析データの算出方法を選択する。これにより、分析装置100は、会議の属性に応じた分析データを算出できる。分析データ生成部113は、分析データを生成すると、生成した分析データをメッセージ制御部114に供給する。
メッセージ制御部114は、分析データ生成部113から分析データを受け取ると共に、記憶部120からメッセージデータ121を読み取る。またメッセージ制御部114は、会議データ取得部112から会議データを受け取る。そしてメッセージ制御部114は、受け取ったこれらのデータから、対応するメッセージを選択し、選択したメッセージを含む分析結果を生成する。分析結果は、少なくとも、会議に対する分析データと当該分析データに対応するメッセージとを含む。メッセージ制御部114は、分析結果を出力可能に記憶部120に記憶させる。
出力部115は、記憶部120に格納される分析結果をユーザ端末に出力する。分析装置100を利用するユーザは、ユーザ端末が受け取った分析結果を知覚することにより、参加者が会議の内容またはプレゼンタの発言等に対してどのような感情を抱いていたかを認識できる。また分析装置100を利用するユーザは、分析結果に含まれるメッセージまたはアドバイスを知覚することにより、ユーザが次の会議に向けてどのようなアクションを取れば良いかを認識できる。そのため、ユーザは、受け取った分析データから、その後に開催される会議に対して、留意すべき事項等を知覚し得る。
記憶部120は、SSD(Solid State Drive)またはフラッシュメモリ等の不揮発メモリを含む記憶装置である。記憶部120は、メッセージデータ121と分析結果格納領域122とを有する。メッセージデータ121は、ユーザに提示するメッセージのパターンと会議データとが紐づけられたデータである。分析結果格納領域122は、メッセージ制御部114が生成した分析結果を格納する領域である。
次に、図2を参照して、実施形態1にかかる分析装置100の処理について説明する。図2は、実施形態1にかかる分析方法を示すフローチャートである。図2に示すフローチャートは、例えば分析装置100が会議運営装置から会議の開始を示す信号を受け取ることにより開始する。
まず、感情データ取得部111は、感情データ生成装置から感情データを取得する(ステップS11)。感情データ取得部111は、感情データ生成装置が感情データを生成する都度、生成された感情データを取得してもよいし、複数の異なる時刻における感情データをまとめて取得してもよい。
次に、会議データ取得部112は、時刻データを伴う会議に関する会議データを取得する(ステップS12)。会議データ取得部112はかかる会議データを、所定期間(例えば1分間)毎に受け取ってもよいし、会議データに更新すべき情報がある場合に逐次受け取ってもよい。また会議データ取得部112は会議データを、会議が終了した後に受け取ってもよい。
次に、分析データ生成部113は、感情データ取得部111から受け取った感情データと、会議データ取得部112から受け取った会議データとから、会議に対する分析データを生成する(ステップS13)。
次に、メッセージ制御部114は、記憶部120のメッセージデータ121から分析データに対応するメッセージを選択する(ステップS14)。さらに、メッセージ制御部114は、選択したメッセージを含む分析結果を出力可能に記憶部120の分析結果格納領域122に記憶させる(ステップS15)。
以上、分析装置100が行う処理について説明した。なお、上述の処理のうち、ステップS11とステップS12とは、順序を問わない。またステップS11とステップS12とは平行して実行されてもよい。あるいは、ステップS11とステップS12とは、所定期間ごとに交互に実行されてもよい。
以上、実施形態1について説明した。上述のとおり、実施形態1にかかる分析装置100は、オンライン会議における参加者の感情データおよび会議データを取得し、会議に対する分析データを生成する。そして分析装置100は、分析データに対応したメッセージを選択し、出力可能に記憶する。これにより分析装置100を利用するユーザは、オンライン会議における分析データに対応するメッセージにより分析結果を把握できる。よって、本実施形態によれば、オンライン会議を効果的に運営するための分析装置、分析方法、分析システムおよびプログラムを提供することができる。
尚、分析装置100は、図示しない構成としてプロセッサ及び記憶装置を有するものである。分析装置100が有する記憶装置は、フラッシュメモリやSSDなどの不揮発性メモリを含む記憶装置を含む。分析装置100が有する記憶装置には、本実施形態に係る分析方法を実行するためのコンピュータプログラム(以降、単にプログラムとも称する)が記憶されている。またプロセッサは、記憶装置からコンピュータプログラムをメモリへ読み込ませ、当該プログラムを実行する。
分析装置100が有する各構成は、それぞれが専用のハードウェアで実現されていてもよい。また、各構成要素の一部又は全部は、汎用または専用の回路(circuitry)、プロセッサ等やこれらの組合せによって実現されてもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組合せによって実現されてもよい。また、プロセッサとして、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、FPGA(field-programmable gate array)等を用いることができる。
また、分析装置100の各構成要素の一部又は全部が複数の演算装置や回路等により実現される場合には、複数の演算装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、演算装置や回路等は、クライアントサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。また、分析装置100の機能がSaaS(Software as a Service)形式で提供されてもよい。
<実施形態2>
次に、実施形態2について説明する。図3は、実施形態2にかかる分析システムの構成を示すブロック図である。図3に示す分析システム10は、分析装置200と感情データ生成装置300とを含む。分析装置200と感情データ生成装置300とは、ネットワークNを介して互いに通信可能に接続している。また分析システム10は、ネットワークNを介して会議運営装置400と通信可能に接続している。会議運営装置400は、ネットワークNを介して会議端末群90に接続してオンライン会議を運営する。会議端末群90は、複数の会議端末(900A、900B、・・・、900N)およびユーザ端末990を含む。
次に、図4を参照して実施形態2にかかる分析装置について説明する。図4は、実施形態2にかかる分析装置200の構成を示すブロック図である。実施形態2にかかる分析装置200は、人物特定部116およびチャプタ生成部117を有する点が、実施形態1にかかる分析装置100と異なる。以下に、分析装置200の各構成について、分析装置100と異なる点を含めて説明する。
本実施形態にかかる感情データ取得部111は、感情の状態を示す複数の指標を数値により示した感情データを取得する。分析データ生成部113は、感情データの所定期間における統計値を算出することにより、分析データを生成する。なお、感情データ取得部111は、会議端末の識別情報を含んだ感情データを取得し得る。すなわちこの場合、感情データ取得部111は、参加者それぞれの感情データを区別可能に取得し得る。したがって、感情データ取得部111は例えば、会議における発表者の感情データと非発表者の感情データとを区別可能に取得できる。
また感情データ取得部111は、会議に関する時刻データを伴う感情データを取得し得る。会場データが時刻データを伴うことにより、感情データ取得部111は、後述するように、例えばチャプタごとの分析データを生成するための感情データを取得できる。
会議データ取得部112は、会議を運営する会議運営装置400から会議データを取得する。会議データ取得部112は、会議の属性データを含む会議データを取得する。また会議データ取得部112は、会議運営装置400から参加者の顔画像データを取得し得る。さらに会議データ取得部112は、会議における発表者を特定するためのデータを含む会議データを取得し得る。
会議データ取得部112は、会議における画面共有に関するデータを含む会議データを取得するものであってもよい。この場合、会議データは、例えば参加者に共有される共有画面を操作する権限(共有画面のオーナー)の切替え時刻や、参加者の発話の切替え時刻を含み得る。会議データ取得部112は、会議において共有された画面データを含む会議データを取得するものであってもよい。この場合、会議データは、共有画面中のページ送りや表示画像の変化などの時刻を含み得る。さらに会議データは、上述した時刻が、それぞれ何を示すものであるかを含み得る。会議データ取得部112は取得した顔画像データを人物特定部116に供給する。
また会議データ取得部112は、時刻データを伴う会議データを取得し得る。時刻データを伴う会議データを取得することにより、会議データ取得部112は、後述するように、例えばチャプタごとの分析データを生成するための会議データを取得できる。
分析データ生成部113は、受け取った感情データ、会議データから、会議に対する分析データを生成する。また分析データ生成部113は、チャプタ生成部117から受け取ったチャプタを示すデータから、会議に対する分析データをチャプタごとに生成し得る。
また分析データ生成部113は、発表者と非発表者とを区別して分析データを生成し得る。この場合、分析データ生成部113は、参加者を区別可能に感情データと会議データとを取得する。このとき会議データは、会議における発表者がどの参加者であるかを示すデータを含む。これにより分析データ生成部113は、発表者の感情データと非発表者の感情データとを区別したうえでそれぞれの分析データを生成できる。分析データ生成部113は、上述のように生成した分析データを、メッセージ制御部114に供給する。
また分析データ生成部113は、会議の属性データと記憶部120が記憶する分析履歴データ124とから、会議の属性データに対応した相対比較結果を含む分析データを生成できる。すなわち、分析データ生成部113は、分析にかかる会議データに含まれる属性データに対応する属性データを有する分析データを、分析履歴データ124から抽出し、相対比較結果を生成する。なお、分析データ生成部113は、分析履歴データ124から直近のデータを優先的に抽出してもよい。また分析データ生成部113は、分析履歴データ124から対応する属性データにおける分析データのスコアの統計値を算出したうえで相対比較してもよい。
また分析データ生成部113は、会議に対してチャプタを示すデータが生成されている場合には、チャプタごとに会議に対する分析データを生成しうる。これにより、分析装置200は、チャプタごとの分析データを生成し、生成した分析データに対応したメッセージを提供できる。
メッセージ制御部114は、分析データ生成部113から受け取った分析データに、複数の分析項目が含まれている場合、分析項目に基づいたメッセージを選択できる。例えば分析データに、注目度、共感度および理解度という分析項目それぞれに対するスコアが含まれる場合、メッセージ制御部114は、注目度のスコアに対するメッセージと、共感度に対するメッセージと、理解度に対するメッセージと、をそれぞれ選択できる。これにより分析装置200はユーザに対してきめ細かいメッセージないしアドバイスを提供できる。
メッセージ制御部114は、分析データが予め設定された閾値の範囲を越えた場合に、分析データが閾値の範囲内に入るためのアドバイスをメッセージとして選択できる。例えば、分析データ生成部113が分析項目である「理解度」のスコアをゼロから100の間の数値により生成するものであって、数値が大きい程、参加者の理解度が高いものとする。またメッセージ制御部114は、理解度に対して閾値50を設定しているものとする。この場合、メッセージ制御部114は、理解度の分析データが50を下回ると、メッセージデータ121に記憶されているメッセージから、スコアを50より高くするためのアドバイスを選択する。例えばこの場合、メッセージデータ121には、「理解度を高めましょう」というメッセージが記憶されており、メッセージ制御部114はこのメッセージを選択する。このような構成により、分析装置200は、ユーザに対して効果的な会議を行うためのアドバイスを提供できる。
メッセージ制御部114は、分析データ生成部113から発表者と非発表者とを区別した分析データを受け取った場合、受け取った分析データから、発表者に対するメッセージを含む分析結果を生成し、この分析結果を記憶部120に記憶させる。このような構成により、分析装置200は、発表者の分析データと非発表者の分析データとのそれぞれに対するメッセージを選択する。そのためユーザは、発表者と非発表者とのそれぞれの観点における分析データおよびメッセージを把握できる。
またメッセージ制御部114は、チャプタごとに分析データが生成されている場合には、生成されているチャプタごとの分析データのそれぞれに対してメッセージを選択する。これにより、分析装置200は、チャプタごとのメッセージないしアドバイスを提供できる。
人物特定部116は、顔画像データから顔画像にかかる人物の顔特徴情報を抽出し、抽出した情報に応じて、人物の属する区分を推定する機能を有し得る。人物の属する区分とは、例えば人物の年齢または性別など、人物の特徴ないし属性を示すものである。人物特定部116は、上述の機能を使って、会議データ取得部112から受け取った顔画像データにかかる参加者が属する区分を特定する。人物特定部116は、人物の区分に関するデータを、分析データ生成部113に供給する。
また人物特定部116は、記憶部120が記憶する人物属性データ123を利用して、特定した参加者が属する区分を特定してもよい。この場合、人物特定部116は、顔画像から抽出した顔特徴情報と、人物属性データ123とを紐づけ、顔特徴情報に対応する参加者の区分を特定する。この場合における参加者の区分は、例えば参加者の所属する法人、当該法人内の部署または参加者の職種などである。このような構成により、分析装置200は、参加者のプライバシーに配慮しつつ、分析データに利用可能なデータを抽出できる。
また人物特定部116は、会議データ取得部112から受け取った顔画像データから顔画像にかかる人物を特定するものであってもよい。この場合、人物特定部116は、顔画像から抽出した顔特徴情報と、記憶部120が記憶する人物属性データ123とを紐づけ、顔特徴情報に対応する参加者を特定する。これにより人物特定部116は会議の参加者それぞれを特定できる。会議の参加者を特定することにより、分析装置200は特定された参加者に紐づいた分析データを生成できる。よって、分析装置200は、特定した参加者における詳細な分析を行うことができる。
チャプタ生成部117は、会議データ取得部112から受け取った会議データから、会議に対するチャプタを生成する。チャプタ生成部117は、例えば会議の開始から会議の終了までの時刻を検出し、さらに、予め設定された条件に合致する時刻を検出して、それぞれの時刻を区切りとして、チャプタを示すデータを生成する。本開示における会議のチャプタは、会議において所定の条件に合致する状態が維持されているか、あるいは所定の条件が変化したかにより定義される。チャプタ生成部117は、例えば画面共有に関するデータに基づいてチャプタを生成してもよい。より具体的には、チャプタ生成部117は、画面共有の切替えタイミングに応じてチャプタを生成してもよい。またチャプタ生成部117は、画面共有にかかる共有画面のオーナーの切替え時刻に応じてチャプタを生成してもよい。チャプタ生成部117は、生成したチャプタを示すデータを、分析データ生成部113に供給する。
記憶部120は、SSDまたはフラッシュメモリ等の不揮発メモリを含む記憶装置である。記憶部120は、メッセージデータ121および分析結果格納領域122に加えて、人物属性データ123および分析履歴データ124を記憶する。
人物属性データ123は、人物の顔特徴情報と、人物の区分や属性に関する情報とが紐づけられたデータである。人物の区分や属性に関する情報とは、例えば人物の氏名、性別、年齢、職種、所属する法人または所属する部署であるが、これらに限定されない。
分析履歴データ124は、分析装置200が過去に実行した分析にかかる分析データ、すなわち分析装置200の分析データ生成部113が過去に生成した分析データである。なお、記憶部120は、上述のデータの他に、例えば本実施形態にかかる分析方法を実行させるためのプログラムなどを記憶する。
図5を参照して、分析データ生成部113についてさらに説明する。図5は、分析データ生成部が処理するデータの例を示す図である。図5は、分析データ生成部113が受け取る入力データ群と、分析データ生成部113が出力する出力データ群とが示されている。分析データ生成部113は、感情データ生成装置300から、入力データ群としての感情データを受け取る。入力データ群は例えば、注目度、困惑度、軽蔑度、嫌悪感、恐怖感、幸福度、共感度、驚き、および存在感に関するそれぞれの指標を含む。これらの指標は例えばそれぞれの指標が0から100までの数値により示される。ここで示す指標は、例えば値が大きい程その感情に対する参加者の反応が大きいことを示している。入力データ群の感情データは、顔画像データから既存の映像処理技術を用いて生成されたものが取得されてもよく、その他の方法により生成、取得されてもよい。
分析データ生成部113は、上述の入力データ群を受け取ると、予め設定された処理を行い、入力データ群を用いて出力データ群を生成する。出力データ群は、分析システム10を利用するユーザが会議を効率良く行うために参照するデータである。出力データ群は例えば、注目度、共感度および理解度を含む。分析データ生成部113は、入力データ群から予め設定された指標を抽出する。また分析データ生成部113は、抽出した指標にかかる値に対して予め設定された演算処理を行う。そして分析データ生成部113は、上述の出力データ群を生成する。なお、出力データ群として示す注目度は、入力データ群に含まれる注目度と同じものであってもよいし、異なるものであってもよい。同様に、出力データ群として示す共感度は、入力データ群に含まれる共感度と同じものであってもよいし、異なるものであってもよい。
次に、図6を参照して感情データ生成装置300について説明する。図6は、実施形態2にかかる感情データ生成装置の構成を示すブロック図である。感情データ生成装置300は、主な構成として、参加者データ取得部311、感情データ生成部312および感情データ出力部313を有している。
参加者データ取得部311は、会議運営装置400から参加者に関するデータを取得する。参加者に関するデータとは、会議端末が撮影した参加者の顔画像データである。感情データ生成部312は、感情データ生成装置300が受け取った顔画像データから感情データを生成する。感情データ出力部313は、感情データ生成部312が生成した感情データを、ネットワークNを介して分析装置200に出力する。なお、感情データ生成装置300は、参加者の顔画像データに対して所定の画像処理を施すことにより感情データを生成する。所定の画像処理とは例えば、特徴点(または特徴量)の抽出、抽出した特徴点に対する参照データとの照合、画像データの畳み込み処理および機械学習した教師データを利用した処理、ディープラーニングによる教師データを活用した処理等である。ただし、感情データ生成装置300が感情データを生成する手法は、上述の処理に限られない。感情データは、感情を示す指標である数値であってもよいし、感情データを生成する際に利用した画像データを含むものであってもよい。
なお、参加者に関するデータには、参加者を区別するためのデータが含まれていてもよい。例えば、参加者に関するデータには、参加者の顔画像データを撮影した会議端末の識別子が含まれていてもよい。これにより、感情データ生成部312は、参加者を区別可能な状態で感情データ生成できる。そして感情データ出力部313は、会議端末に対応する感情データを、会議端末それぞれを区別可能に生成して感情データ取得部111に供給する。
尚、感情データ生成装置300は、図示しない構成としてプロセッサ及び記憶装置を有するものである。感情データ生成装置300が有する記憶装置には、本実施形態に係る感情データ生成を実行するためのプログラムが記憶されている。またプロセッサは、記憶装置からプログラムをメモリへ読み込ませ、当該プログラムを実行する。
感情データ生成装置300が有する各構成は、それぞれが専用のハードウェアで実現されていてもよい。また、各構成要素の一部又は全部は、汎用または専用の回路、プロセッサ等やこれらの組合せによって実現されてもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。各装置の各構成要素の一部又は全部は、上述した回路等とプログラムとの組合せによって実現されてもよい。また、プロセッサとして、CPU、GPU、FPGA等を用いることができる。
また、感情データ生成装置300の各構成要素の一部又は全部が複数の演算装置や回路等により実現される場合には、複数の演算装置や回路等は、集中配置されてもよいし、分散配置されてもよい。例えば、演算装置や回路等は、クライアントサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。また、感情データ生成装置300の機能がSaaS形式で提供されてもよい。
次に、図7を参照して分析装置200が実行する処理について説明する。図7は、実施形態2にかかる分析方法を示すフローチャートである。図7に示す処理は、開催中の会議において、新たなチャプタが生成される度に分析データを出力する点において、実施形態1にかかる処理と異なる。
まず、分析装置200は、オンライン会議が開始されたか否かを判定する(ステップS21)。分析装置200は、会議運営装置400から会議が開始されたことを示す信号を受け取ることにより、会議の開始を判定する。オンライン会議が開始されたと判定しない場合(ステップS21:NO)、分析装置200は、ステップS21を繰り返す。オンライン会議が開始されたと判定した場合(ステップS21:YES)、分析装置200は、ステップS22に進む。
ステップS22において、感情データ取得部111は、感情データ生成装置から感情データの取得を開始する(ステップS22)。感情データ取得部111は、感情データ生成装置が感情データを生成する都度、生成された感情データを取得してもよいし、複数の異なる時刻における感情データをまとめて取得してもよい。
次に、会議データ取得部112は、時刻データを伴う会議に関する会議データを取得する(ステップS23)。会議データ取得部112はかかる会議データを、所定期間(例えば1分間)毎に受け取ってもよいし、会議データに更新すべき情報がある場合に逐次受け取ってもよい。
次に、分析装置200は、受け取った会議データから新しいチャプタを生成可能か否かについて判定する(ステップS24)。新しいチャプタを生成可能と判定しない場合(ステップS24:NO)、分析装置200は、ステップS22に戻る。一方、新しいチャプタを生成可能と判定した場合(ステップS24:YES)、分析装置200は、ステップS25に進む。
ステップS25において、チャプタ生成部117は、会議データ取得部112から受け取った会議データからチャプタを生成する(ステップS25)。
次に、分析データ生成部113は、感情データ取得部111から受け取った感情データと、会議データ取得部112から受け取った会議データと、チャプタ生成部117から受け取ったチャプタを示すデータと、人物特定部116から受け取ったデータとから、新しく生成したチャプタに対する分析データを生成する(ステップS26)。
次に、メッセージ制御部114は、記憶部120のメッセージデータ121から分析データに対応するメッセージを選択する(ステップS27)。さらに、メッセージ制御部114は、選択したメッセージを含む分析結果を出力可能に記憶部120の分析結果格納領域122に記憶させる(ステップS28)。
次に、分析装置200は、会議が終了したか否かを判定する(ステップS29)。分析装置200は、会議運営装置400から会議が終了したことを示す信号を受け取ることにより、会議の終了を判定する。会議が終了したと判定しない場合(ステップS29:NO)、分析装置200は、ステップS22に戻り、処理を続ける。一方、オンライン会議が終了したと判定した場合(ステップS29:YES)、分析装置200は、一連の処理を終了する。
以上、実施形態2にかかる分析装置200の処理について説明した。上述のフローチャートによれば、分析装置200は、開催中の会議において、新しいチャプタが生成される度に生成されたチャプタに対する分析データを生成し、生成した分析データに対応したメッセージを選択できる。これにより、分析システム10を利用するユーザは、開催中の会議において、新しいチャプタが生成される度に提供されるメッセージないしアドバイスを利用して会議を効果的に進めることができる。あるいは、ユーザは、開催中の会議において、新しいチャプタが生成される度に提供されるメッセージないしアドバイスを利用して、円滑なコミュニケーションを図ることができる。
次に、図8を参照して、分析データ生成部113が生成する分析データの例について説明する。図8は、分析データの例を示す図である。図8は、上段において分析データを時系列に沿って示したグラフG11が示されている。また中段において上記時系列に対応した会議データG12が示されている。さらに、下段において、上記会議データに対応したチャプタごとの分析データG13が示されている。
グラフG11は、横軸が時間を示し、縦軸が分析データのスコアを示している。横軸は左端が時刻T10であり、右に進むほど時間が経過し、右端が時刻T15となっている。時刻T10は、会議の開始時刻であり、時刻T15は会議の終了時刻である。時刻T10と時刻T15の間の時刻T11、T12、T13およびT14は、後述するチャプタに対応する時刻を示している。
またグラフG11は、実線により示された第1分析データL11と、点線により示された第2分析データL12と、二点鎖線により示された第3分析データL13とがプロットされている。第1分析データL11は、分析データの内の、注目度を示している。第2分析データL12は、分析データの内の共感度を示している。第3分析データL13は、分析データの内の理解度を示している。
会議データG12は、会議の共有画面に関するデータと、発表者(プレゼンタ)に関するデータとが時系列に沿って示されている。すなわち、表示画面に関するデータには、時刻T10から時刻T11までの共有画面が画面D1であったことが示されている。また表示画面に関するデータには、時刻T11から時刻T12までの共有画面が画面D2であったことが示されている。以下同様に、会議データG12によれば、会議における共有画面は、時刻T12から時刻T13までが画面D3、時刻T13から時刻T14までが画面D4、そして時刻T14から時刻T15までが画面D5であったことが示されている。
また会議データG12において、発表者に関するデータには、時刻T10から時刻T12までが発表者W1であったことが示されている。同様に、発表者に関するデータには、時刻T12から時刻T14までが発表者W2、そして時刻T14から時刻T15までが再び発表者W1であったことが示されている。
上述の会議データG12における共有画面と発表者との関係について、時系列に沿って説明する。会議が開始された時刻T10から時刻T12までの間は、発表者W1が会議の進行を行っており、時刻T10から時刻T11までの間、発表者W1は共有画面として画面D1を共有画面として表示(すなわち画面D1を共有)させていた。次に発表者W1は、時刻T11から時刻T12までの間、表有画面を画面D1から画面D2に切り替えて発表を続けた。次に、時刻T12に、発表者が発表者W1から発表者W2に交代した。発表者W2は、時刻T12から時刻T13までの間、画面D3を共有させ、時刻T13から時刻T14までの間は、画面D4を共有させた。時刻T14から時刻T15までの間は、発表者W2から交代した発表者W1が、画面D5を共有させていた。
以上、会議データG12における共有画面と発表者との関係について、時系列に沿って説明した。上述のように、図8に示す会議データは、共有画面における画面データが表示されていた期間についてのデータと、発表者が誰であったかについてのデータが含まれる。チャプタ生成部117は、上述の会議データの内、共有画面に関するデータに応じてチャプタを生成している。
分析データG13は、上述の会議データに対応するチャプタを示すデータと、チャプタに対応する分析データとが時系列に沿って示されている。図8に示す例において、チャプタを示すデータは、会議データの内の共有画面に関するデータに対応している。すなわち、第1チャプタC11は、画面D1が共有されていた時刻T10から時刻T11である。同様に、第2チャプタC12は、画面D2が共有されていた時刻T11から時刻T12である。第3チャプタC13は、画面D3が共有されていた時刻T12から時刻T13である。第4チャプタC14は、画面D4が共有されていた時刻T13から時刻T14である。第5チャプタC15は、画面D5が共有されていた時刻T14から時刻T15である。
図8に示すように、分析データG13には、それぞれのチャプタに対応する分析データが含まれる。分析データは、注目度、共感度、理解度およびこれらを合計した総合スコアが示されている。分析データG13において、例えば、チャプタC11に対応する分析データとして、注目度が65、共感度が50、理解度が43と示されている。また総合スコアはこれらの合計として158と示されている。同様に、例えばチャプタC12に対応する分析データとして、注目度が61、共感度が45、理解度が32そして総合スコアが138と示されている。
上記分析データは、グラフG11においてそれぞれプロットされているデータに対応したものである。すなわち、分析データG13として示されている分析データは、対応するチャプタの期間において所定期間(例えば1分間)毎に算出された分析データの平均値である。
以上、分析データの例について説明した。図8に示す例において、チャプタ生成部117は、会議データのうち共有画面が切り替わるタイミングを、チャプタの切替えタイミングに設定している。そして分析データ生成部113は、会議の開始から会議の終了までの間の分析データを、上述のチャプタごとに算出する。これにより、分析システム10は、表示されている共有画面ごとの分析データを提供できる。
図8に示した例において、分析システム10は、上述のグラフG11に示すように、分析データを所定期間毎に算出してプロットしている。これことにより、分析システム10は、会議における分析データの詳細な変化を示すことができる。ただし、分析データ生成部113は、グラフG11に示すように算出するのに代えて、チャプタが終了した後に、まず当該チャプタにおける感情データの統計値(例えば平均値)を算出し、その後に分析データを算出してもよい。このような構成により、分析システム10は、分析データの処理速度を向上させることができる。
なお、上述の例において、チャプタ生成部117は、会議データG12における会議データの内、共有画面に関するデータに応じてチャプタを生成していた。しかしチャプタ生成部117は、発表者が切り替わるタイミングによりチャプタを生成してもよい。
次に図9を参照して、メッセージデータ121について説明する。図9は、メッセージデータの例を示す図である。図9に示す表は、会議種別、分析項目、スコアおよびメッセージがそれぞれ示されている。
会議種別は、会議の属性データに含まれる項目であって、会議を予め設定された種別に分類するためのものである。図9に示すメッセージデータ121は会議種別として、「セミナー」および「問題対策会議」という項目が示されている。会議種別はこの他に、例えば、「ブレーンストーミング」、「キックオフミーティング」、「定例会議」、「経営会議」などが含まれていてもよいが、上述の項目に限られない。
図9に示すメッセージデータ121は、「セミナー」に対応する分析項目として、「注目度」および「共感度」が示されている。これは、会議種別がセミナーとして分類される会議において、分析データに含まれる分析項目のうち、「注目度」と「共感度」に着目してメッセージを選択することを示している。
図9に示す表において、「注目度」の右側にはスコア「50-100」およびスコア「0-49」が示されている。またそれぞれのスコアの右側には対応するメッセージとして、「注目を集めていました」および「注目を集めましょう」が示されている。これらは、会議種別「セミナー」において、分析項目である「注目度」のスコアが「50から100」の場合に、メッセージとして「注目を集めていました」を選択可能であることを示している。同様に、会議種別「セミナー」において、分析項目である「注目度」のスコアが「0から49」の場合に、メッセージとして「注目を集めましょう」を選択可能であることを示している。
また図9に示す表において、「セミナー」の分析項目として、「発表者の共感度」および「非発表者の共感度」が示されている。また「発表者の共感度」に対応するスコアには「0-40」が示され、さらにメッセージとして「発表者の笑顔を増やしましょう」と示されている。また「非発表者の共感度」に対応するスコアには「0-30」が示され、さらにメッセージとして「聴衆の笑顔を増やしましょう」と示されている。
さらに、会議種別「セミナー」の下の欄には、「問題対策会議」が示されている。問題対策会議に対応する分析項目には、「共感度」と「理解度」とが示されている。問題対策会議における共感度に対応するスコアは「0-40」が示され、対応するメッセージには「共感度が低いようです」と示されている。また理解度に対応するスコアは「36-60」が示され、対応するメッセージには「参加者へ理解度の確認をしましょう」と示されている。
以上、図9に示す例において、メッセージデータ121は、会議種別、分析項目、分析項目のスコアおよびメッセージをそれぞれ紐づけて記憶している。メッセージ制御部114は、会議データ取得部112から受け取った会議データと、分析データ生成部113から受け取った分析データと、メッセージデータ121とを照合して、対応するメッセージを選択する。よって、分析装置200は、会議の属性データや分析データのスコア等に応じて、適宜選択されるメッセージをユーザに提供できる。なお、メッセージデータ121は、会議の属性データとして、会議種別の他に、例えば会議の題名、主催者または会議の目的等を採用してもよい。
次に、図10を参照して、分析結果の例について説明する。図10は、分析結果の表示例を示す図である。図10は、メッセージ制御部114が生成した分析結果K10が示されている。分析結果K10は、ユーザ端末990が有する表示装置に表示可能に構成された画面である。分析結果K10は、第1表示部K11、第2表示部K12、第3表示部K13、第4表示部K14および第5表示部K15を含む。
第1表示部K11は、会議種別および会議名称が表示される。第2表示部K12は、会議の開催日時および発表者が表示される。第1表示K11および第2表示に表示されるデータは、会議データ取得部112から受け取った会議データに含まれるものである。
第3表示部K13は、メッセージ制御部114が選択したメッセージが表示される。図10において、第3表示部K13には、「選択範囲:チャプタ#1」と表示されている。すなわち図10において第3表示部K13に表示されているメッセージは、会議におけるチャプタ#1に対応したメッセージとなっている。第3表示部K13には、「分析結果メッセージ」として、「注目度は比較的高いです」「共感度は中程度です」「理解度は前回より低いです」と表示されている。また第3表示部K13には、「今後へ向けてのアドバイス」として「参加者へ理解度の確認をしましょう」と表示されている。
第4表示部K14は、チャプタ#1における分析データが、レーダーチャートとして示されている。第4表示部K14に示すレーダーチャートは、「今回の分析データ」として実線によりチャプタ#1の分析データがプロットされている。また第4表示部K14に示すレーダーチャートは、「前回の分析データ」として、点線により前回の会議における分析データがプロットされている。前回の分析データは、過去に開催された類似の会議種別における分析データであって、分析履歴データ124に記憶されているデータである。図に示すように、メッセージ制御部114は、分析履歴データ124を利用して、分析データをグラフまたはチャートとして相対比較する。これにより分析装置200は、直感的に理解しやすいデータを示すことが出来る。
第5表示部K15は、会議全体の分析データおよびチャプタごとに算出された分析データを示している。第5表示部K15において、太線により囲まれているチャプタ#1は、注目度が65、共感度が50、そして理解度が43と示されている。これらの値と、第4表示部K14に示したレーダーチャートとは対応している。またこれらの値と、第3表示部K13において表示されているメッセージおよびアドバイスとは、対応している。
なお、分析結果K10がユーザ端末990に表示された場合において、例えばユーザが第5表示部K15の任意のチャプタまたは全体と表示された領域を選択することで、第3表示部K13および第4表示部K14の内容は選択された領域に対応したデータが表示される。
以上、分析結果の例について説明した。分析装置200は、上述の内容の他にも様々な態様のメッセージを生成できる。例えば、分析装置200は、分析データの傾向を色調として表現し、かかる色調によるイメージをメッセージに含んでも良い。
以上、実施形態2について説明したが、実施形態2にかかる分析システム10は上述の構成に限られない。例えば、分析システム10は、会議運営装置400を含んでもよい。その場合、分析装置200、感情データ生成装置300および会議運営装置400は、それぞれ別個に存在してもよいし、これらのうち一部または全部が一体となった構成であってもよい。また例えば感情データ生成装置300が有する機能は、プログラムとして構成されており、分析装置200または会議運営装置400に含まれるものであってもよい。
なお、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)CD-R、CD-R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
なお、本発明は上記実施形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
(付記1)
オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの前記感情データを取得する感情データ取得手段と、
前記感情データに基づいて前記会議に対する分析データを生成する分析データ生成手段と、
前記会議の属性データを含む会議データを取得する会議データ取得手段と、
ユーザに提示するメッセージのパターンと前記会議データとを紐付けたメッセージデータを記憶する記憶手段と、
前記分析データと前記メッセージデータとに基づいて前記メッセージを選択し、選択したメッセージを含む分析結果を出力可能に前記記憶手段に記憶させるメッセージ制御手段と、
を備える分析装置。
(付記2)
前記分析データ生成手段は、前記属性データに基づいて前記分析データの算出方法を選択して前記分析データを生成する、
付記1に記載の分析装置。
(付記3)
前記分析データ生成手段は、予め設定された複数の分析項目を生成し、
前記記憶手段は、前記複数の分析項目に基づいて設定されたメッセージデータを記憶し、
前記メッセージ制御手段は、前記会議に対して前記分析項目に基づいたメッセージを選択する、
付記1または2に記載の分析装置。
(付記4)
前記記憶手段は、過去に生成した前記分析結果にかかる分析履歴データをさらに記憶し、
前記分析データ生成手段は、前記属性データと前記分析履歴データとに基づいて前記属性データに対応した前記会議の相対比較結果を含む前記分析データを生成する、
付記1~3のいずれか一項に記載の分析装置。
(付記5)
前記感情データ取得手段は、前記会議における発表者の前記感情データと非発表者の前記感情データとを区別可能に取得し、
前記会議データ取得手段は、前記会議における発表者を特定するためのデータを含む前記会議データを取得し、
前記分析データ生成手段は前記発表者と前記非発表者とを区別して前記分析データを生成し、
前記メッセージ制御手段は、前記区別の結果に基づいて前記発表者に対するメッセージを含む前記分析結果を出力可能に前記記憶手段に記憶させる、
付記1~4のいずれか一項に記載の分析装置。
(付記6)
顔画像データに基づいて人物を特定する人物特定手段をさらに備え、
前記会議データ取得手段は、前記参加者の顔画像データを取得し、
前記人物特定手段は、前記顔画像データから前記参加者が属する区分を特定し、
前記分析データ生成手段は、前記区分を加味して前記分析データを生成する、
付記1~4のいずれか一項に記載の分析装置。
(付記7)
顔画像データに基づいて人物を特定する人物特定手段をさらに備え、
前記会議データ取得手段は、前記参加者の顔画像データを取得し、
前記人物特定手段は、前記顔画像データから前記参加者を特定し、
前記分析データ生成手段は、前記特定にかかる前記参加者の前記分析データを生成する、
付記1~4のいずれか一項に記載の分析装置。
(付記8)
前記メッセージ制御手段は、前記分析データが予め設定された閾値の範囲を越えた場合に、前記分析データが前記閾値の範囲内に入るためのアドバイスを前記メッセージとして選択する、
付記1~7のいずれか一項に記載の分析装置。
(付記9)
前記会議に対してチャプタを生成するチャプタ生成手段をさらに備え、
前記感情データ取得手段は、前記会議に関する時刻データを伴う前記感情データを取得し、
会議データ取得手段は、時刻データを伴う前記会議に関する会議データをさらに取得し、
前記チャプタ生成手段は、前記会議データに基づいて前記会議に対してチャプタを生成し、
前記分析データ生成手段は、前記チャプタごとに前記会議に対する分析データを生成し、
前記メッセージ制御手段は、前記チャプタごとに前記メッセージを選択する、
付記1~8のいずれか一項に記載の分析装置。
(付記10)
前記感情データ取得手段は、感情の状態を示す複数の指標を数値により示した前記感情データを取得し、
前記分析データ生成手段は、前記感情データの所定期間における統計値を算出することにより、前記分析データを生成する、
付記1~9のいずれか一項に記載の分析装置。
(付記11)
付記1~10のいずれか一項に記載の分析装置と、
前記参加者の感情データを生成して前記分析装置に前記感情データを提供する感情データ生成装置と、
を備える
分析システム。
(付記12)
コンピュータが、
オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの時刻データを伴う前記感情データを取得し、
前記感情データに基づいて前記会議に対する分析データを生成し、
前記会議の属性データを含む会議データを取得し、
ユーザに提示するメッセージのパターンと前記会議データとを紐付けたメッセージデータを記憶し、
前記分析データと前記メッセージデータとに基づいて前記メッセージを選択し、
選択したメッセージを含む分析結果を出力可能に記憶する、
分析方法。
(付記13)
オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの時刻データを伴う前記感情データを取得する処理と、
前記感情データに基づいて前記会議に対する分析データを生成する処理と、
前記会議の属性データを含む会議データを取得する処理と、
ユーザに提示するメッセージのパターンと前記会議データとを紐付けたメッセージデータを記憶する処理と、
前記分析データと前記メッセージデータとに基づいて前記メッセージを選択する処理と、
選択したメッセージを含む分析結果を出力可能に記憶する処理と、
をコンピュータに実行させる分析プログラムが格納された非一時的なコンピュータ可読媒体。
10 分析システム
90 会議端末群
100 分析装置
111 感情データ取得部
112 会議データ取得部
113 分析データ生成部
114 メッセージ制御部
115 出力部
116 人物特定部
117 チャプタ生成部
120 記憶部
121 メッセージデータ
122 分析結果格納領域
123 人物属性データ
124 分析履歴データ
200 分析装置
300 感情データ生成装置
311 参加者データ取得部
312 感情データ生成部
313 感情データ出力部
400 会議運営装置
990 ユーザ端末
N ネットワーク

Claims (10)

  1. オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの前記感情データを取得する感情データ取得手段と、
    前記感情データに基づいて前記会議に対する分析データを生成する分析データ生成手段と、
    前記会議の属性データを含む会議データを取得する会議データ取得手段と、
    ユーザに提示するメッセージのパターンと前記会議データとを紐付けたメッセージデータを記憶する記憶手段と、
    前記分析データと前記メッセージデータとに基づいて前記メッセージを選択し、選択した前記メッセージを含む分析結果を出力可能に前記記憶手段に記憶させるメッセージ制御手段と、
    を備える分析装置。
  2. 前記分析データ生成手段は、前記属性データに基づいて前記分析データの算出方法を選択して前記分析データを生成する、
    請求項1に記載の分析装置。
  3. 前記分析データ生成手段は、予め設定された複数の分析項目を生成し、
    前記記憶手段は、前記複数の分析項目に基づいて設定された前記メッセージデータを記憶し、
    前記メッセージ制御手段は、前記会議に対して前記分析項目に基づいた前記メッセージを選択する、
    請求項1または2に記載の分析装置。
  4. 前記記憶手段は、過去に生成した前記分析結果にかかる分析履歴データをさらに記憶し、
    前記分析データ生成手段は、前記属性データと前記分析履歴データとに基づいて前記属性データに対応した前記会議の相対比較結果を含む前記分析データを生成する、
    請求項1~3のいずれか一項に記載の分析装置。
  5. 前記感情データ取得手段は、前記会議における発表者の前記感情データと非発表者の前記感情データとを区別可能に取得し、
    前記会議データ取得手段は、前記会議における発表者を特定するためのデータを含む前記会議データを取得し、
    前記分析データ生成手段は前記発表者と前記非発表者とを区別して前記分析データを生成し、
    前記メッセージ制御手段は、前記区別の結果に基づいて前記発表者に対する前記メッセージを含む前記分析結果を出力可能に前記記憶手段に記憶させる、
    請求項1~4のいずれか一項に記載の分析装置。
  6. 顔画像データに基づいて人物を特定する人物特定手段をさらに備え、
    前記会議データ取得手段は、前記参加者の顔画像データを取得し、
    前記人物特定手段は、前記顔画像データから前記参加者が属する区分を特定し、
    前記分析データ生成手段は、前記区分を加味して前記分析データを生成する、
    請求項1~4のいずれか一項に記載の分析装置。
  7. 顔画像データに基づいて人物を特定する人物特定手段をさらに備え、
    前記会議データ取得手段は、前記参加者の顔画像データを取得し、
    前記人物特定手段は、前記顔画像データから前記参加者を特定し、
    前記分析データ生成手段は、前記特定にかかる前記参加者の前記分析データを生成する、
    請求項1~4のいずれか一項に記載の分析装置。
  8. 前記メッセージ制御手段は、前記分析データが予め設定された閾値の範囲を越えた場合に、前記分析データが前記閾値の範囲内に入るためのアドバイスを前記メッセージとして選択する、
    請求項1~7のいずれか一項に記載の分析装置。
  9. コンピュータが、
    オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの時刻データを伴う前記感情データを取得し、
    前記感情データに基づいて前記会議に対する分析データを生成し、
    前記会議の属性データを含む会議データを取得し、
    ユーザに提示するメッセージのパターンと前記会議データとを紐付けたメッセージデータを記憶し、
    前記分析データと前記メッセージデータとに基づいて前記メッセージを選択し、
    選択した前記メッセージを含む分析結果を出力可能に記憶する、
    分析方法。
  10. オンライン会議における会議の参加者の顔画像データから感情データを生成する感情データ生成装置からの時刻データを伴う前記感情データを取得する処理と、
    前記感情データに基づいて前記会議に対する分析データを生成する処理と、
    前記会議の属性データを含む会議データを取得する処理と、
    ユーザに提示するメッセージのパターンと前記会議データとを紐付けたメッセージデータを記憶する処理と、
    前記分析データと前記メッセージデータとに基づいて前記メッセージを選択する処理と、
    選択した前記メッセージを含む分析結果を出力可能に記憶する処理と、
    をコンピュータに実行させる分析プログラ
JP2022557240A 2020-10-12 2020-10-12 分析装置、分析方法及び分析プログラム Active JP7468689B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/038513 WO2022079768A1 (ja) 2020-10-12 2020-10-12 分析装置、システム、方法及びプログラムが格納された非一時的なコンピュータ可読媒体

Publications (3)

Publication Number Publication Date
JPWO2022079768A1 JPWO2022079768A1 (ja) 2022-04-21
JPWO2022079768A5 JPWO2022079768A5 (ja) 2023-07-26
JP7468689B2 true JP7468689B2 (ja) 2024-04-16

Family

ID=81207800

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022557240A Active JP7468689B2 (ja) 2020-10-12 2020-10-12 分析装置、分析方法及び分析プログラム

Country Status (3)

Country Link
US (1) US20230377369A1 (ja)
JP (1) JP7468689B2 (ja)
WO (1) WO2022079768A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014511620A (ja) 2011-02-27 2014-05-15 アフェクティヴァ,インコーポレイテッド 感情に基づく映像推薦
JP2019061594A (ja) 2017-09-28 2019-04-18 株式会社野村総合研究所 会議支援システムおよび会議支援プログラム
JP2020005030A (ja) 2018-06-25 2020-01-09 シャープ株式会社 情報処理装置、情報処理方法及びプログラム
JP2020048149A (ja) 2018-09-21 2020-03-26 ヤマハ株式会社 画像処理装置、カメラ装置、および画像処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014511620A (ja) 2011-02-27 2014-05-15 アフェクティヴァ,インコーポレイテッド 感情に基づく映像推薦
JP2019061594A (ja) 2017-09-28 2019-04-18 株式会社野村総合研究所 会議支援システムおよび会議支援プログラム
JP2020005030A (ja) 2018-06-25 2020-01-09 シャープ株式会社 情報処理装置、情報処理方法及びプログラム
JP2020048149A (ja) 2018-09-21 2020-03-26 ヤマハ株式会社 画像処理装置、カメラ装置、および画像処理方法

Also Published As

Publication number Publication date
WO2022079768A1 (ja) 2022-04-21
US20230377369A1 (en) 2023-11-23
JPWO2022079768A1 (ja) 2022-04-21

Similar Documents

Publication Publication Date Title
Han et al. From hard to soft: Towards more human-like emotion recognition by modelling the perception uncertainty
KR20190084278A (ko) 이미지들을 공유하기 위한 자동 제안들
JP7394809B2 (ja) ビデオを処理するための方法、装置、電子機器、媒体及びコンピュータプログラム
US10896688B2 (en) Real-time conversation analysis system
Ringeval et al. Emotion recognition in the wild: Incorporating voice and lip activity in multimodal decision-level fusion
KR20210095609A (ko) 회의록 열람 문서 생성 방법 및 그 장치
JP2018005011A (ja) プレゼンテーション支援装置、プレゼンテーション支援システム、プレゼンテーション支援方法及びプレゼンテーション支援プログラム
JP7468689B2 (ja) 分析装置、分析方法及び分析プログラム
JP6913995B1 (ja) 情報処理システム、情報処理方法及びプログラム
JP7468690B2 (ja) 分析装置、分析方法、および分析プログラム
Wakita et al. Influence of personal characteristics on nonverbal information for estimating communication smoothness
WO2022079773A1 (ja) 分析装置、システム、方法及びプログラムが格納された非一時的なコンピュータ可読媒体
Cheng et al. Edge4emotion: An edge computing based multi-source emotion recognition platform for human-centric software engineering
US20230351806A1 (en) Analysis apparatus, analysis system, analysis method, and non-transitory computer readable medium storing program
Rasipuram et al. Online peer-to-peer discussions: A platform for automatic assessment of communication skill
WO2022079767A1 (ja) 分析装置、システム、方法及びプログラムが格納された非一時的なコンピュータ可読媒体
JP7313518B1 (ja) 評価方法、評価装置、および、評価プログラム
JP7465012B2 (ja) ビデオミーティング評価端末、ビデオミーティング評価システム及びビデオミーティング評価プログラム
JP7465013B2 (ja) ビデオミーティング評価端末、ビデオミーティング評価システム及びビデオミーティング評価プログラム
JP7471683B2 (ja) 反応通知システム
Li et al. MEMOS: A Multi-modal Emotion Stream Database for Temporal Spontaneous Emotional State Detection
JP2019148849A (ja) 理解度判定システムおよび理解度判定プログラム
US20230100755A1 (en) Information processing apparatus and method and non-transitory computer readable medium
US20240029474A1 (en) Person evaluation information generation method
WO2022269801A1 (ja) 動画像分析システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230407

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230407

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240318