JP7145556B1 - 動画像分析システム - Google Patents
動画像分析システム Download PDFInfo
- Publication number
- JP7145556B1 JP7145556B1 JP2022517950A JP2022517950A JP7145556B1 JP 7145556 B1 JP7145556 B1 JP 7145556B1 JP 2022517950 A JP2022517950 A JP 2022517950A JP 2022517950 A JP2022517950 A JP 2022517950A JP 7145556 B1 JP7145556 B1 JP 7145556B1
- Authority
- JP
- Japan
- Prior art keywords
- user
- biological reaction
- unit
- change
- video meeting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010191 image analysis Methods 0.000 title claims description 9
- 238000004458 analytical method Methods 0.000 claims abstract description 95
- 238000013500 data storage Methods 0.000 claims abstract description 10
- 238000006243 chemical reaction Methods 0.000 claims description 104
- 230000008859 change Effects 0.000 claims description 79
- 238000011156 evaluation Methods 0.000 claims description 60
- 230000008451 emotion Effects 0.000 claims description 40
- 230000008512 biological response Effects 0.000 claims description 5
- 230000004424 eye movement Effects 0.000 claims description 3
- 238000004891 communication Methods 0.000 abstract description 9
- 230000000694 effects Effects 0.000 abstract description 4
- 230000008921 facial expression Effects 0.000 description 16
- 230000002996 emotional effect Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 230000006399 behavior Effects 0.000 description 10
- 238000012545 processing Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000000034 method Methods 0.000 description 8
- 230000001815 facial effect Effects 0.000 description 7
- 238000012937 correction Methods 0.000 description 5
- 239000000463 material Substances 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 210000000887 face Anatomy 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 208000019901 Anxiety disease Diseases 0.000 description 1
- 208000035473 Communicable disease Diseases 0.000 description 1
- 230000036506 anxiety Effects 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/15—Conference systems
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
Abstract
Description
複数のユーザでビデオミーティングが行われる環境においてビデオミーティング中にユーザが画面に表示されているか否かによらず前記ユーザを撮影することによって得られる動画像をもとに前記ユーザの反応を分析する動画像分析システムであって、
前記ビデオミーティング中に前記ユーザを撮影することによって得られる動画像を取得する動画像取得部と、
前記動画像取得部により取得された動画像に基づいて、前記ユーザについて生体反応の変化を解析する解析部と、
所定の特徴パラメータが関連付けられたキャラクタデータが記憶されているキャラクタデータ記憶部と、
前記解析の結果と前記特徴パラメータとを分析することにより、最も近似している前記キャラクタデータを特定するキャラクタ分析部と、
当該キャラクタデータを提供するキャラクタデータ提供部と、を備える
ビデオミーティング評価端末が得られる。
[項目1]
複数のユーザでビデオミーティングが行われる環境においてビデオミーティング中にユーザが画面に表示されているか否かによらず前記ユーザを撮影することによって得られる動画像をもとに前記ユーザの反応を分析する動画像分析システムであって、
前記ビデオミーティング中に前記ユーザを撮影することによって得られる動画像を取得する動画像取得部と、
前記動画像取得部により取得された動画像に基づいて、前記ユーザについて生体反応の変化を解析する解析部と、
所定の特徴パラメータが関連付けられたキャラクタデータが記憶されているキャラクタデータ記憶部と、
前記解析の結果と前記特徴パラメータとを分析することにより、最も近似している前記キャラクタデータを特定するキャラクタ分析部と、
当該キャラクタデータを提供するキャラクタデータ提供部と、を備える
ビデオミーティング評価端末。
[項目2]
項目1に記載のビデオミーティング評価端末であって、
前記特徴パラメータと、前記キャラクタとの関連付けの登録を受け付けるキャラクタデータ登録部を更に備えている、
ビデオミーティング評価端末。
[項目3]
項目1又は項目2に記載のビデオミーティング評価端末であって、
前記キャラクタデータの選択を受け付け、当該キャラクタデータに類似する前記解析結果を検索するキャラクタ検索部を更に備える、
ビデオミーティング評価端末。
[項目4]
項目1に記載のビデオミーティング評価端末であって、
前記生体反応の変化に基づいて、複数のユーザ間で平準化された評価基準に従って前記ユーザの感情の度合いを評価する感情評価部を更に備え、
前記感情評価部は、平常時の生体反応に対する現在の生体反応の違いの大きさに基づく感情の程度であって、前記ユーザによる同じ感情の生起しやすさに応じて調整された感情の度合いを評価する、
ビデオミーティング評価端末。
[項目5]
項目1に記載のビデオミーティング評価端末であって、
一のビデオミーティングに関してユーザについて解析された前記生体反応の変化が前記一のビデオミーティングより時間的に前のビデオミーティングに関して前記ユーザについて解析された前記生体反応の変化と比べて特異的か否かを判定し、特異的であると判定された生体反応の変化の内容および以前からの変化の大きさに基づいて前記生体反応の変化パターンをクラスタリングする、
ビデオミーティング評価端末。
[項目6]
項目1に記載のビデオミーティング評価端末であって、
前記複数のユーザのそれぞれについて前記目線の動きを解析して目線の方向を示すヒートマップを生成し、生成されたヒートマップと他のユーザについて生成されたヒートマップとの対比により前記ユーザについて解析された前記生体反応の変化が前記他のユーザについて解析された前記生体反応の変化と比べて特異的か否かを判定する、判定部を更に備えている、
ビデオミーティング評価端末。
[項目7]
項目1に記載のビデオミーティング評価端末であって、
前記ユーザについて解析された前記生体反応の変化が他の前記ユーザについて解析された前記生体反応の変化と比べて特異的か否かを判定し、前記ユーザに特異的であると判定された生体反応の変化が起きたときに前記ユーザ、他の前記ユーザ又環境の少なくとも1つに関して発生している事象を特定し、前記ユーザの前記生体反応の変化と前記事象との相関の程度を解析し、前記相関が一定レベル以上であると判定された場合にその相関の解析結果に基づいて前記ユーザ又は前記事象をクラスタリングする、
ビデオミーティング評価端末。
本実施形態のビデオセッション評価システムは、複数人でビデオセッション(以下、一方向及び双方向含めてオンラインセッションという)が行われる環境において、当該複数人の中の解析対象者について他者とは異なる特異的な感情(自分または他人の言動に対して起こる気持ち。快・不快またはその程度など)を解析し評価するシステムである。オンラインセッションは、例えばオンライン会議、オンライン授業、オンラインチャットなどであり、複数の場所に設置された端末をインターネットなどの通信ネットワークを介してサーバに接続し、当該サーバを通じて複数の端末間で動画像をやり取りできるようにしたものである。オンラインセッションで扱う動画像には、端末を使用するユーザの顔画像や音声が含まれる。また、動画像には、複数のユーザが共有して閲覧する資料などの画像も含まれる。各端末の画面上に顔画像と資料画像とを切り替えて何れか一方のみを表示させたり、表示領域を分けて顔画像と資料画像とを同時に表示させたりすることが可能である。また、複数人のうち1人の画像を全画面表示させたり、一部または全部のユーザの画像を小画面に分割して表示させたりすることが可能である。端末を使用してオンラインセッションに参加する複数のユーザのうち、何れか1人または複数人を解析対象者として指定することが可能である。例えば、オンラインセッションの主導者、進行者または管理者(以下、まとめて主催者という)が何れかのユーザを解析対象者として指定する。オンラインセッションの主催者は、例えばオンライン授業の講師、オンライン会議の議長やファシリテータ、コーチングを目的としたセッションのコーチなどである。オンラインセッションの主催者は、オンラインセッションに参加する複数のユーザの中の一人であるのが普通であるが、オンラインセッションに参加しない別人であってもよい。なお、解析対象者を指定せず全ての参加者を解析対象としてもよい。また、オンラインセッションの主導者、進行者または管理者(以下、まとめて主催者という)が何れかのユーザを解析対象者として指定することも可能である。オンラインセッションの主催者は、例えばオンライン授業の講師、オンライン会議の議長やファシリテータ、コーチングを目的としたセッションのコーチなどである。オンラインセッションの主催者は、オンラインセッションに参加する複数のユーザの中の一人であるのが普通であるが、オンラインセッションに参加しない別人であってもよい。
以下に説明する各機能ブロック、機能単位、機能モジュールは、例えばコンピュータに備えられたハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶されたプログラムが動作することによって実現される。本明細書において説明するシステム及び端末による一連の処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。本実施形態に係るユーザ端末10の各機能を実現するためのコンピュータプログラムを作製し、PC等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することが可能である。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
図2に示されるように、ビデオセッションサービス端末が提供するビデオセッションサービス(以下、単に「本サービス」と言うことがある」)は、ユーザ端末10、20に対して双方向に画像および音声によって通信が可能となるものである。本サービスは、ユーザ端末のディスプレイに相手のユーザ端末のカメラ部で取得した動画像を表示し、相手のユーザ端末のマイク部で取得した音声をスピーカーから出力可能となっている。また、本サービスは双方の又はいずれかのユーザ端末によって、動画像及び音声(これらを合わせて「動画像等」という)を少なくともいずれかのユーザ端末上の記憶部に記録(レコーディング)することが可能に構成されている。記録された動画像情報Vs(以下「記録情報」という)は、記録を開始したユーザ端末にキャッシュされつついずれかのユーザ端末のローカルのみに記録されることとなる。ユーザは、必要があれば当該記録情報を本サービスの利用の範囲内で自分で視聴、他者に共有等行うこともできる。
図3は、本実施形態による構成例を示すブロック図である。図3に示すように、本実施形態のビデオセッション評価システムは、ユーザ端末10が有する機能構成として実現される。すなわち、ユーザ端末10はその機能として、動画像取得部11、生体反応解析部12、特異判定部13、関連事象特定部14、クラスタリング部15および解析結果通知部16を備えている。
図4に示すように、本実施形態のビデオセッション評価システムは、機能構成として、動画像取得部11、生体反応解析部12および反応情報提示部13aを備えていてもよい。
図5は、本実施形態による構成例を示すブロック図である。図5に示すように、本実施形態のビデオセッション評価システムは、機能構成として、上述した実施の形態1と類似する機能については同一つの参照符号を付して説明を省略することがある。
(1)すべてをユーザ端末のみで処理
図8に示されるように、解析部による処理をビデオセッションを行っている端末で行うことにより、(一定の処理能力は必要なものの)ビデオセッションを行っている時間と同時に(リアルタイムに)分析・評価結果を得ることができる。
(2)ユーザ端末と評価端末とで処理
図9に示されるように、ネットワーク等で接続された評価端末に解析部を備えさせることとしてもよい。この場合、ユーザ端末で取得された動画像は、ビデオセッションと同時に又は事後的に評価端末に共有され、評価端末における解析部によって分析・評価されたのちに、オブジェクト50及びオブジェクト100の情報がユーザ端末に動画像データと共に又は別に(即ち、少なくとも解析データを含む情報が)共有され表示部に表示される。
本実施の形態による動画像分析システムは、複数のユーザでオンラインセッションが行われる環境においてオンラインセッション中にユーザが画面に表示されているか否かによらずユーザを撮影することによって得られる動画像をもとにユーザの反応を分析する動画像分析システムである。
22 位置情報取得部
23 イベント情報取得部
24 統計情報生成部
25 出力部
30 ビデオセッションサービス端末
40 評価端末
Claims (6)
- 複数のユーザでビデオミーティングが行われる環境において、前記ユーザを撮影することによって得られる動画像をもとに前記ユーザの反応を分析する動画像分析システムであって、
前記ビデオミーティング中に前記ユーザを撮影することによって得られる動画像を取得する動画像取得部と、
前記動画像取得部により取得された動画像に基づいて、前記ユーザについて生体反応の変化を解析する解析部と、
所定の特徴パラメータが関連付けられたキャラクタデータが記憶されているキャラクタデータ記憶部と、
前記解析の結果と前記特徴パラメータとを分析することにより、最も近似している前記キャラクタデータを特定するキャラクタ分析部と、
当該キャラクタデータを提供するキャラクタデータ提供部と、を備える
ビデオミーティング評価端末であって、
前記キャラクタデータの選択を受け付け、当該キャラクタデータに類似する前記解析結果を検索するキャラクタ検索部を更に備える、
ビデオミーティング評価端末。 - 請求項1に記載のビデオミーティング評価端末であって、
前記特徴パラメータと、前記キャラクタデータとの関連付けの登録を受け付けるキャラクタデータ登録部を更に備えている、
ビデオミーティング評価端末。 - 請求項1に記載のビデオミーティング評価端末であって、
前記生体反応の変化に基づいて、複数のユーザ間で平準化された評価基準に従って前記ユーザの感情の度合いを評価する感情評価部を更に備え、
前記感情評価部は、平常時の生体反応に対する現在の生体反応の違いの大きさに基づく感情の程度であって、前記ユーザによる同じ感情の生起しやすさに応じて調整された感情の度合いを評価する、
ビデオミーティング評価端末。 - 請求項1に記載のビデオミーティング評価端末であって、
一のビデオミーティングに関してユーザについて解析された前記生体反応の変化が前記一のビデオミーティングより時間的に前のビデオミーティングに関して前記ユーザについて解析された前記生体反応の変化と比べて特異的か否かを判定し、特異的であると判定された生体反応の変化の内容および以前からの変化の大きさに基づいて前記生体反応の変化パターンをクラスタリングする、
ビデオミーティング評価端末。 - 請求項1に記載のビデオミーティング評価端末であって、
前記複数のユーザのそれぞれについて目線の動きを解析して前記目線の方向を示すヒートマップを生成し、生成されたヒートマップと他のユーザについて生成されたヒートマップとの対比により前記ユーザについて解析された前記生体反応の変化が前記他のユーザについて解析された前記生体反応の変化と比べて特異的か否かを判定する、判定部を更に備えている、
ビデオミーティング評価端末。 - 請求項1に記載のビデオミーティング評価端末であって、
前記ユーザについて解析された前記生体反応の変化が他の前記ユーザについて解析された前記生体反応の変化と比べて特異的か否かを判定し、前記ユーザに特異的であると判定された生体反応の変化が起きたときに前記ユーザ、他の前記ユーザ又環境の少なくとも1つに関して発生している事象を特定し、前記ユーザの前記生体反応の変化と前記事象との相関の程度を解析し、前記相関が一定レベル以上であると判定された場合にその相関の解析結果に基づいて前記ユーザ又は前記事象をクラスタリングする、
ビデオミーティング評価端末。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022144275A JP2023059238A (ja) | 2021-10-14 | 2022-09-12 | ビデオミーティング評価端末 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2021/038122 WO2023062793A1 (ja) | 2021-10-14 | 2021-10-14 | 動画像分析システム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022144275A Division JP2023059238A (ja) | 2021-10-14 | 2022-09-12 | ビデオミーティング評価端末 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP7145556B1 true JP7145556B1 (ja) | 2022-10-03 |
JPWO2023062793A1 JPWO2023062793A1 (ja) | 2023-04-20 |
JPWO2023062793A5 JPWO2023062793A5 (ja) | 2023-09-20 |
Family
ID=83462249
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022517950A Active JP7145556B1 (ja) | 2021-10-14 | 2021-10-14 | 動画像分析システム |
JP2022144275A Pending JP2023059238A (ja) | 2021-10-14 | 2022-09-12 | ビデオミーティング評価端末 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022144275A Pending JP2023059238A (ja) | 2021-10-14 | 2022-09-12 | ビデオミーティング評価端末 |
Country Status (2)
Country | Link |
---|---|
JP (2) | JP7145556B1 (ja) |
WO (1) | WO2023062793A1 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120290508A1 (en) * | 2011-05-09 | 2012-11-15 | Anurag Bist | System and Method for Personalized Media Rating and Related Emotional Profile Analytics |
JP2018505462A (ja) * | 2014-12-11 | 2018-02-22 | インテル コーポレイション | アバター選択機構 |
JP2020123884A (ja) * | 2019-01-31 | 2020-08-13 | 富士通株式会社 | 集中度評価プログラム、装置、及び方法 |
JP2021022909A (ja) * | 2019-07-30 | 2021-02-18 | 株式会社リコー | 情報処理装置、情報処理プログラム、情報処理システム、情報処理方法 |
-
2021
- 2021-10-14 WO PCT/JP2021/038122 patent/WO2023062793A1/ja active Application Filing
- 2021-10-14 JP JP2022517950A patent/JP7145556B1/ja active Active
-
2022
- 2022-09-12 JP JP2022144275A patent/JP2023059238A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20120290508A1 (en) * | 2011-05-09 | 2012-11-15 | Anurag Bist | System and Method for Personalized Media Rating and Related Emotional Profile Analytics |
JP2018505462A (ja) * | 2014-12-11 | 2018-02-22 | インテル コーポレイション | アバター選択機構 |
JP2020123884A (ja) * | 2019-01-31 | 2020-08-13 | 富士通株式会社 | 集中度評価プログラム、装置、及び方法 |
JP2021022909A (ja) * | 2019-07-30 | 2021-02-18 | 株式会社リコー | 情報処理装置、情報処理プログラム、情報処理システム、情報処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2023062793A1 (ja) | 2023-04-20 |
WO2023062793A1 (ja) | 2023-04-20 |
JP2023059238A (ja) | 2023-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2022230156A1 (ja) | 動画像分析システム | |
JP7145556B1 (ja) | 動画像分析システム | |
JP7197955B1 (ja) | ビデオミーティング評価端末 | |
JP7138997B1 (ja) | ビデオミーティング評価端末 | |
JP7121439B1 (ja) | 動画像分析システム | |
WO2023032056A1 (ja) | 動画像分析システム | |
WO2022201265A1 (ja) | 動画像分析プログラム | |
JP7121433B1 (ja) | 動画像分析プログラム | |
WO2022254489A1 (ja) | 動画像分析システム | |
JP7152817B1 (ja) | 動画像分析プログラム | |
JP7121436B1 (ja) | 動画像分析プログラム | |
JP7152819B1 (ja) | 動画像分析プログラム | |
WO2023013026A1 (ja) | 動画像分析システム | |
WO2022269801A1 (ja) | 動画像分析システム | |
WO2022269802A1 (ja) | 動画像分析システム | |
WO2022201264A1 (ja) | 動画像分析プログラム | |
JP7138990B1 (ja) | 動画像分析システム | |
WO2022254498A1 (ja) | 動画像分析システム | |
WO2022230138A1 (ja) | 動画像分析システム | |
WO2022201270A1 (ja) | 動画像分析プログラム | |
WO2022201268A1 (ja) | 動画像分析プログラム | |
WO2022201267A1 (ja) | 動画像分析プログラム | |
WO2022264218A1 (ja) | 動画像分析システム | |
WO2022264220A1 (ja) | 動画像分析システム | |
WO2022264221A1 (ja) | 動画像分析システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220714 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220714 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20220714 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220818 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220831 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220908 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220912 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7145556 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |