JP6841097B2 - 動き量算出プログラム、動き量算出方法、動き量算出装置及び業務支援システム - Google Patents

動き量算出プログラム、動き量算出方法、動き量算出装置及び業務支援システム Download PDF

Info

Publication number
JP6841097B2
JP6841097B2 JP2017045227A JP2017045227A JP6841097B2 JP 6841097 B2 JP6841097 B2 JP 6841097B2 JP 2017045227 A JP2017045227 A JP 2017045227A JP 2017045227 A JP2017045227 A JP 2017045227A JP 6841097 B2 JP6841097 B2 JP 6841097B2
Authority
JP
Japan
Prior art keywords
movement
amount calculation
feature points
points
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017045227A
Other languages
English (en)
Other versions
JP2018151685A (ja
Inventor
典弘 覚幸
典弘 覚幸
珊珊 于
珊珊 于
猛 大谷
猛 大谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2017045227A priority Critical patent/JP6841097B2/ja
Priority to US15/909,135 priority patent/US10706272B2/en
Publication of JP2018151685A publication Critical patent/JP2018151685A/ja
Application granted granted Critical
Publication of JP6841097B2 publication Critical patent/JP6841097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • G06V40/176Dynamic expression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Description

本発明は、動き量算出プログラム、動き量算出方法、動き量算出装置及び業務支援システムに関する。
従来より、物体を撮影することで得た動画像データから、当該物体の動き量を算出する動き量算出方法が知られている。例えば、下記特許文献1では、動画像データの各フレームから、物体の特徴点を複数抽出し、次フレームでの移動先を特定したうえで、各特徴点の移動量を求め、各特徴点の移動量の平均値を算出することで、当該物体の動き量を算出する方法が提案されている。
下記特許文献1によれば、現フレームの特徴点と相関の高い領域を次フレームより取得し、取得した領域の重心位置を特徴点の移動先として特定するため、物体が動いたことで次フレームがボケた画像となった場合でも動き量を算出することができる。
特開2009−130537号公報
しかしながら、現フレームにおいて抽出した特徴点が互いに隣接していた場合、次フレームにおいてそれぞれの特徴点のボケが重なることがある。このような場合、上記算出方法によれば、隣接する特徴点それぞれと相関の高い領域を次フレームより正しく取得することが困難となり、次フレームにおいて特徴点の移動先を精度よく特定することができない。この結果、物体の動き量の算出精度が低下するといった問題がある。
一つの側面では、動き量の算出精度を向上させることを目的としている。
一態様によれば、動き量算出プログラムは、
撮影対象についての複数の撮像画像のうち、第1の撮像画像から複数の特徴点を抽出し、
前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定し、
前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記撮影対象の動き量を算出する処理をコンピュータに実行させる。
動き量の算出精度を向上させることができる。
第1の実施形態に係る動き量算出装置を有する動き量算出システムのシステム構成の一例を示す図である。 動き量算出装置のハードウェア構成の一例を示す図である。 動き量算出処理の比較例を示す図である。 動き量算出処理の具体例を示す図である。 動き量算出部の機能構成の詳細を示す図である。 特徴点抽出部による特徴点抽出処理の具体例を示す図である。 移動先特定部による相関点取得処理及び重心位置算出処理の具体例を示す図である。 重なり度合い算出部による重なり度合い算出処理及び重み算出処理の具体例を示す図である。 重み調整部による重み調整処理の具体例を示す図である。 加重平均部による加重平均処理の具体例を示す図である。 動き量算出部による動き量算出処理のフローチャートである。 第2の実施形態に係る動き量算出装置を有する業務支援システムのシステム構成の一例を示す図である。 顔検出部による顔検出処理の具体例を示す図である。 うなずき検出部によるうなずき検出処理の具体例を示す図である。 応対品質評価部による応対品質評価処理の具体例を示す図である。 評価値表示処理部による評価値表示処理の具体例を示す図である。 動き量算出装置による顔の動き量算出処理のフローチャートである。 動き解析装置による解析処理のフローチャートである。 第3の実施形態に係る動き量算出装置を有する業務支援システムのシステム構成の一例を示す図である。 振動部による振動指示処理の具体例を示す図である。 業務支援処理のフローチャートである。
以下、各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。
[第1の実施形態]
<動き量算出システムのシステム構成>
はじめに、第1の実施形態に係る動き量算出装置を有する動き量算出システムのシステム構成について説明する。図1は、第1の実施形態に係る動き量算出装置を有する動き量算出システムのシステム構成の一例を示す図である。
図1に示すように、動き量算出システム100は、撮像装置110と動き量算出装置120とを有する。撮像装置110と動き量算出装置120とは、所定のインタフェースを介して接続される。
撮像装置110は、撮影対象の物体を所定のフレームレートで動画像として撮影し、撮影により得た動画像データを動き量算出装置120に送信する。
動き量算出装置120は、動画像データ格納部122を有し、撮像装置110から送信された動画像データを格納する。また、動き量算出装置120には、動き量算出プログラムがインストールされており、当該プログラムが実行されることで、動き量算出装置120は、動き量算出部121として機能する。
動き量算出部121は、動画像データ格納部122に格納された動画像データの各フレームより、撮影対象の物体の複数の特徴点を抽出し、抽出した複数の特徴点それぞれについて、次のフレームでの移動先を特定することで、撮影対象の物体の動き量を算出する。
<動き量算出装置のハードウェア構成>
次に、動き量算出装置120のハードウェア構成について説明する。図2は、動き量算出装置のハードウェア構成の一例を示す図である。図2に示すように、動き量算出装置120は、CPU(Central Processing Unit)201、ROM(Read Only Memory)202、RAM(Random Access Memory)203を有する。CPU201、ROM202、RAM203は、いわゆるコンピュータを形成する。
また、動き量算出装置120は、補助記憶装置204、表示装置205、操作装置206、I/F(Interface)装置207、ドライブ装置208を有する。動き量算出装置120の各部は、バス209を介して相互に接続されている。
CPU201は、補助記憶装置204にインストールされている各種プログラム(例えば、動き量算出プログラム等)を実行するデバイスである。
ROM202は、不揮発性メモリである。ROM202は、補助記憶装置204にインストールされている各種プログラムをCPU201が実行するために必要な各種プログラムやデータ等を格納する、主記憶デバイスとして機能する。具体的には、ROM202はBIOS(Basic Input/Output System)やEFI(Extensible Firmware Interface)等のブートプログラム等を格納する。
RAM203は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の揮発性メモリである。RAM203は、補助記憶装置204にインストールされている各種プログラムがCPU201によって実行される際に展開される作業領域を提供する、主記憶デバイスとして機能する。
補助記憶装置204は、各種プログラムや、各種プログラムが実行されることで生成される情報、ならびに各種プログラムが実行される際に用いられる情報を格納する補助記憶デバイスである。動画像データ格納部122は、補助記憶装置204において実現される。
表示装置205は、動き量算出装置120の内部状態等を表示する表示デバイスである。操作装置206は、動き量算出装置120の使用者が動き量算出装置120に対して各種指示を入力するための入力デバイスである。I/F装置207は、撮像装置110と接続するための接続デバイスである。
ドライブ装置208は記録媒体210をセットするためのデバイスである。ここでいう記録媒体210には、CD−ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記録する媒体が含まれる。また、記録媒体210には、ROM、フラッシュメモリ等のように情報を電気的に記録する半導体メモリ等が含まれていてもよい。
なお、補助記憶装置204に格納される各種プログラムは、例えば、配布された記録媒体210がドライブ装置208にセットされ、該記録媒体210に記録された各種プログラムがドライブ装置208により読み出されることでインストールされるものとする。
<動き量算出処理の概要>
次に、動き量算出部121により実行される動き量算出処理の概要について、比較例と対比しながら説明する。
(1)動き量算出処理の比較例
はじめに、動き量算出処理の比較例の概要について説明する。図3は、動き量算出処理の比較例を示す図である。図3に示すように、動き量算出処理の比較例では、動画像データに含まれる各フレーム(例えば、フレーム310、320)から、撮影対象の物体の特徴点を抽出する。ここでは、撮影対象の物体が人物の顔であり、特徴点として、人物の目の端部を抽出するものとして説明する。
図3に示すように、時間tにおいて撮影されたフレーム310から、人物の目を含む領域311が抽出され、特徴点抽出処理が実行されることで、特徴点312、313が抽出されたとする。
また、時刻tにおいて撮影されたフレーム320から、人物の目を含む領域321が抽出されたとする。時刻tのフレーム320の場合、撮影対象の人物が顔を動かしたことで、領域321に含まれる画像はボケた画像となっている。
動き量算出処理の比較例の場合、特徴点312、313の移動先を領域321において特定するにあたり、特徴点312、313それぞれとの相関が高い点(相関点)の集合を取得する。これにより、領域321から、相関点の集合322、323がそれぞれ取得される。
続いて、動き量算出処理の比較例では、相関点の集合322、323それぞれの重心位置を算出し、当該重心位置を、それぞれ、特徴点312の移動先324及び特徴点313の移動先325として特定する。
更に、動き量算出処理の比較例では、特徴点312の移動先324までの移動量と、特徴点313の移動先325までの移動量との平均値を算出し、撮影対象の人物の顔の動き量として出力する。
(2)動き量算出部121による動き量算出処理の具体例
次に、第1の実施形態に係る動き量算出装置120の動き量算出部121による動き量算出処理の具体例について説明する。図4は、動き量算出処理の具体例を示す図である。
撮影対象の人物の目が、図4の領域411に示すような形状であった場合、特徴点抽出処理が実行されると、特徴点413に隣接する位置において特徴点414が抽出されることになる。
このような場合に、撮影対象の人物が顔を動かすと、領域421に示すように、隣接する特徴点同士(特徴点413と特徴点414と)で、ボケが重なることになる(点線領域430参照)。この結果、相関点取得処理が実行されることで取得される相関点の集合422、423のうち、相関点の集合423は、ボケが重なっていない場合(図3の相関点の集合323)と比較して、相関点の数が著しく少なくなる。
更に、重心位置算出処理が実行されることで特定される移動先424、425のうち、移動先425(相関点の数が少ない方の移動先)は、正しい移動先426からずれることになる。
ここで、動き量算出部121では、撮影対象の人物の顔の動き量を算出するにあたり、正しい移動先426からずれた位置において特定された移動先425の影響を抑えるように算出を行う。具体的には、特徴点412の移動先424までの移動量、及び、特徴点413の移動先425までの移動量に対して、加重平均処理を行うことで、撮影対象の人物の顔の動き量を算出する。
なお、加重平均処理を行うにあたり、動き量算出部121は、特徴点412の移動先424までの移動量にかけあわせる重みよりも、特徴点413の移動先425までの移動量にかけあわせる重みを小さくする。
このように、動き量算出部121では、ボケの重なりに起因して特徴点の移動先が正しく特定されなかった場合に、その影響を抑えるように動き量を算出する。この結果、動き量算出部121によれば、比較例による動き量算出処理よりも、動き量の算出精度を向上させることができる。
<動き量算出部の機能構成の詳細>
次に、動き量算出部121の機能構成の詳細について説明する。図5は、動き量算出部の機能構成の詳細を示す図である。
図5に示すように、動き量算出部121は、動画像取得部501、特徴点抽出部502、移動先特定部503、重なり度合い算出部504、重み調整部505、加重平均部506を有する。
動画像取得部501は、動画像データ格納部122より動画像データを読み出し、フレーム単位で特徴点抽出部502に転送する。
特徴点抽出部502は、動画像取得部501より転送された動画像データの各フレームより、特徴点を抽出し、移動先特定部503に通知する。
移動先特定部503は、処理対象のフレームにおいて抽出された特徴点との相関関係が所定の条件を満たす相関点の集合を、処理対象の次のフレームより取得し、取得した相関点の重心位置を、処理対象のフレームにおいて抽出された特徴点の移動先として特定する。移動先特定部503は、処理対象の次のフレームにおいて、特徴点抽出部502より通知された、処理対象のフレームの全ての特徴点についての移動先を特定する。
また、移動先特定部503は、処理対象のフレームにおいて抽出された各特徴点の移動先までの移動量(つまり、各特徴点の移動量)を、加重平均部506に通知する。
また、移動先特定部503は、移動先を特定する際に取得した相関点の数を、特徴点ごとに重なり度合い算出部504に通知する。
重なり度合い算出部504は、移動先特定部503より通知された相関点の数に基づいて、ボケの重なり度合いを算出する。また、重なり度合い算出部504は、算出した重なり度合いに基づいて、特徴点ごとに、重みを算出する。重なり度合い算出部504は、算出した重みを、各特徴点と対応付けて重み調整部505に通知する。
重み調整部505は、重なり度合い算出部504より通知された重みについて統計処理を行い、加重平均部506が加重平均処理を行う際に用いる重みを調整する。重み調整部505は、調整した重みを、各特徴点と対応付けて加重平均部506に通知する。
加重平均部506は、移動先特定部503より通知された各特徴点の移動量に対して、重み調整部505より通知された重みをかけあわせることで、加重平均処理を行い、撮影対象の人物の顔の動き量を出力する。
<動き量算出部に含まれる各部の処理>
次に、動き量算出部121に含まれる各部(特徴点抽出部502、移動先特定部503、重なり度合い算出部504、重み調整部505、加重平均部506)の処理の詳細について説明する。
(1)特徴点抽出部502の処理の詳細
図6は、特徴点抽出部による特徴点抽出処理の具体例を示す図である。図6に示すように、領域421に含まれる各画素(座標=(x,y))の画素値をG(t,x,y)とした場合、特徴点抽出部502は、下式を満たす画素を、特徴点として抽出する。なお、tは、領域421を含むフレームが撮影された時間を指すものとする。
つまり、特徴点抽出部502は、縦方向に隣接する画素、横方向に隣接する画素、斜め方向に隣接する画素それぞれの画素値との差分が、いずれも閾値Tより大きい画素値を有する画素を、特徴点として抽出する。
(2)移動先特定部503の処理の詳細
図7は、移動先特定部による相関点取得処理及び重心位置算出処理の具体例を示す図である。移動先特定部503は、例えば、特徴点抽出部502により領域411から抽出された特徴点412(座標=(x,y))について、図7(a)に示すように、領域421から下式に基づいて相関点(座標=(k,l))の集合422を抽出する。
つまり、移動先特定部503は、まず、処理対象のフレーム(時間tで撮影されたフレーム)の領域411から特徴点412及びその周辺の画素の画素値((2M+1)×(2N+1)個分の画素値)を抽出する。
次に、移動先特定部503は、処理対象の次のフレーム(時間t+1で撮影されたフレーム)の領域421から点(k,l)及びその周辺の画素の画素値((2M+1)×(2N+1)個分の画素の画素値)を抽出する。
次に、移動先特定部503は、特徴点412(座標=(x,y))について抽出した(2M+1)×(2N+1)個分の画素の画素値と、点(k,l)について抽出した(2M+1)×(2N+1)個分の画素の画素値との間における、対応する画素間の差分の合計を算出する。
次に、移動先特定部503は、算出した差分の合計が、閾値T未満であるか否かを判定し、閾値T未満であると判定した場合に、当該点(k,l)を、相関点として取得する。
移動先特定部503は、領域421内のすべての点(k,l)について同様の処理を行うことで、特徴点412と相関の高い相関点の集合を取得する。また、移動先特定部503は、領域411の全ての特徴点について同様の処理を行うことで、特徴点ごとの相関点の集合を取得する。
また、図7(b)に示すように、移動先特定部503は、例えば、算出した相関点の集合422について、下式に基づいて重心位置(p,q)を算出し、移動先424を特定する。
なお、Rは、相関点の集合422に含まれる相関点の数を表す。また、Qは、相関点の集合422を表す。つまり、移動先特定部503は、相関点の集合422に含まれる各相関点の横方向の中心、及び、縦方向の中心を、重心位置(p,q)として算出する。
(3)重なり度合い算出部504の処理の詳細
図8は、重なり度合い算出部による重なり度合い算出処理及び重み算出処理の具体例を示す図である。重なり度合い算出部504は、図8に示すように、相関点の集合422に含まれる相関点の数Rを用いて、下式に基づいて、特徴点412(座標=(x,y))の移動先424についての重なり度合いを算出する。
つまり、重なり度合い算出部504により算出される重なり度合いは、相関点の集合422に含まれる相関点の数が多いほど小さくなり、相関点の集合422に含まれる相関点の数が少ないほど大きくなる。
また、図8に示すように、重なり度合い算出部504は、算出した重なり度合いを用いて、下式に基づいて、特徴点412(座標=(x,y))の移動先424についての重み(w(x,y))を算出する。
つまり、重なり度合い算出部504により算出される重みは、相関点の集合422に含まれる相関点の数が多いほど大きくなり、相関点の集合422に含まれる相関点の数が少ないほど小さくなる。
(4)重み調整部505の処理の詳細
図9は、重み調整部による重み調整処理の具体例を示す図である。図9に示すように、領域411に含まれる各特徴点について算出された重みの度数分布は、正規分布に近い分布となる。そこで、重み調整部505は、各特徴点の重みについて統計処理を行う。
具体的には、重み調整部505は、重みの度数分布のうち、下限閾値である閾値Tよりも小さい重みが算出された特徴点については、重みをゼロに変更する。なお、閾値Tは、例えば、下式に基づいて算出する。
ここで、算出された重みが小さいということは、対応する相関点の数が少ないことを意味し、相関点の数が少ないということは、ボケの重なり度合いが大きいことを意味する。そして、ボケの重なり度合いが大きい場合に特定される移動先の位置は、精度が低いことから、重み調整部505は、当該特徴点の移動量を、加重平均処理から除外するように重みをゼロに変更する。これにより、動き量の算出精度をより向上させることができる。
また、重み調整部505は、重みの度数分布のうち、上限閾値である閾値Tよりも大きい重みが算出された特徴点については、重みをTに変更する。なお、閾値Tは、例えば、下式に基づいて算出する。
ここで、算出された重みが大きいということは、対応する相関点の数が多いことを意味し、相関点の数が多いということは、ボケの重なり度合いが小さいことを意味する。そして、ボケの重なり度合いが小さい場合に特定される移動先の位置は、精度が高いことから、重み調整部505は、当該特徴点の移動量を、加重平均処理に加える。ただし、重みの大きさが大きすぎる特徴点については、当該特徴点の存在により、動き量の算出結果が影響を受けることが考えられる。そこで、重み調整部505では、閾値Tより大きい重みについては、一律、重み=Tに変更する。これにより、一部の特徴点の移動量により動き量の算出結果が左右されることがなくなり、動き量の算出精度をより向上させることができる。
(5)加重平均部506の処理の詳細
図10は、加重平均部による加重平均処理の具体例を示す図である。図10に示すように、加重平均部506は、撮影対象の人物の顔の動き量(横方向の動き量u、縦方向の動き量v)を、下式に基づいて算出する。
つまり、加重平均部506は、座標(x,y)の特徴点の重み(w(x,y))を、各特徴点の重みの総和を用いて正規化したうえで、対応する特徴点の移動量(p−x)にかけあわせることで、横方向の動き量uを算出する。これにより、動き量が同じであるにも関わらず、取得した相関点の数が全体的多いフレームと、少ないフレームとで、動き量の算出結果に違いが生じるといった事態を回避することができる。なお、Pは特徴点の集合を表す。
同様に、加重平均部506は、座標(x,y)の特徴点の重み(w(x,y))を、各特徴点の重みの総和を用いて正規化したうえで、対応する特徴点の移動量(q−y)にかけあわせることで、縦方向の動き量vを算出する。
この結果、例えば、特徴点412の移動先424までの移動量が動き量(u,v)に占める割合に対して、特徴点413の移動先425までの移動量が動き量(u,v)に占める割合を小さくすることが可能となる。つまり、動き量を算出するにあたり、特徴点の移動先の算出精度の低下の影響を抑えることが可能となり、動き量の算出精度を向上させることが可能となる。
<動き量算出部による動き量算出処理の流れ>
次に、動き量算出部121による動き量算出処理の全体の流れについて説明する。図11は、動き量算出部による動き量算出処理のフローチャートである。動き量算出部121が起動することで、図11に示すフローチャートが実行される。
ステップS1101において、動画像取得部501は、フレームカウンタfに1を代入する。
ステップS1102において、動画像取得部501は、動画像データ格納部122より動画像データのfフレーム目を読み込む。
ステップS1103において、特徴点抽出部502は、fフレームより撮影対象の物体の特徴点を複数抽出する。
ステップS1104において、移動先特定部503は、fフレームより抽出した特徴点との相関が所定の条件を満たす相関点の集合を、(f+1)フレーム目より取得し、取得した相関点の集合の重心位置を算出し、当該特徴点の移動先として特定する。
なお、移動先特定部503は、ステップS1103において抽出された複数の特徴点全てについて同様の処理を行い、各特徴点の移動先を特定する。
ステップS1105において、重なり度合い算出部504は、各特徴点について取得した相関点の数に応じて、fフレーム目の各特徴点についての(f+1)フレーム目における重なり度合いを算出する。
ステップS1106において、重なり度合い算出部504は、算出した重なり度合いに基づいて、fフレーム目の各特徴点の移動量の重みを算出する。
ステップS1107において、重み調整部505は、重なり度合い算出部504において算出された重みに対して統計処理を行い、重みを調整する。
ステップS1108において、加重平均部506は、fフレーム目の各特徴点の(f+1)フレーム目における各移動先までの各移動量に対して、調整済みの重みを用いて加重平均処理を行い、撮影対象の物体の動き量を算出する。
ステップS1109において、動画像取得部501は、動き量算出処理を終了するか否かを判定し、終了しないと判定した場合には(ステップS1109においてNoの場合には)、ステップS1110に進む。
ステップS1110において、動画像取得部501は、フレームカウンタfをインクリメントした後、ステップS1102に戻る。
一方、ステップS1109において、終了すると判定した場合には(ステップS1109においてYesの場合には)、動き量算出処理を終了する。
以上の説明から明らかなように、第1の実施形態に係る動き量算出装置120は、動画像データにおいて、fフレーム目から撮影対象の物体に含まれる複数の特徴点を抽出する。また、第1の実施形態に係る動き量算出装置120は、fフレーム目から抽出された複数の特徴点それぞれとの相関が所定の閾値以上となる相関点の集合を、(f+1)フレーム目から取得する。また、第1の実施形態に係る動き量算出装置120は、取得した相関点の集合の重心位置を、fフレーム目における特徴点の(f+1)フレーム目における移動先として特定する。更に、第1の実施形態に係る動き量算出装置120は、各特徴点の移動量に対して、各特徴点の相関点の集合に含まれる相関点の数に応じた重みを用いて加重平均処理を行うことで、撮影対象の物体の動き量を算出する。
これにより、第1の実施形態に係る動き量算出装置120によれば、ボケの重なりに起因して特徴点の移動先を精度よく特定することができない場合でも、その影響を抑えるように動き量を算出することが可能となる。
この結果、第1の実施形態に係る動き量算出装置120によれば、動き量の算出精度を向上させることができる。
[第2の実施形態]
第2の実施形態では、上記第1の実施形態に係る動き量算出装置120を適用した業務支援システムについて説明する。上記第1の実施形態に係る動き量算出装置120によれば、撮影対象の人物の顔の動き量を精度よく算出することができる。
そこで、第2の実施形態では、動き量算出装置120を、販売業務等に従事する店員の接客業務を評価するシーンに適用する場合について説明する。
<業務支援システムのシステム構成>
はじめに、上記第1の実施形態に係る動き量算出装置を適用した業務支援システムのシステム構成について説明する。図12は、第2の実施形態に係る動き量算出装置を有する業務支援システムのシステム構成の一例を示す図である。
図12に示すように、業務支援システム1200は、撮像装置110、動き量算出装置120’、動き解析装置1210、管理装置1220を有する。
このうち、撮像装置110、動き量算出装置120’、動き解析装置1210は、店員1240が販売業務を行う店舗に設置されている。また、管理装置1220は、店員1240を管理する管理者1260が管理業務を行う管理センターに設置されている。なお、動き解析装置1210と管理装置1220とは、ネットワーク1230を介して相互に接続されているものとする。
動き量算出装置120’は、上記第1の実施形態における動き量算出装置120に、顔検出部1201を追加した装置である。第2の実施形態では、撮像装置110が撮影する撮影対象の人物を、販売業務を行う店員1240としており、店員1240の顔の動き量を算出する。このため、動き量算出装置120’は、撮影により得られた動画像データの各フレームから、店員1240の顔領域を検出する顔検出部1201を有している。
動き解析装置1210は、動き量算出装置120’より出力された店員1240の顔の動き量を解析する装置である。動き解析装置1210には、うなずき検出プログラム、応対品質評価プログラムがインストールされており、当該プログラムが実行されることで、動き解析装置1210は、うなずき検出部1211、応対品質評価部1212として機能する。
うなずき検出部1211は判定部の一例であり、動き量算出装置120’より出力された店員1240の顔の動き量に基づいて、客1250への応対時の店員1240のうなずきの有無を判定する。また、うなずき検出部1211は、うなずきがあったと判定した場合、うなずきを定量化するパラメータを算出する。
応対品質評価部1212は、うなずき検出部1211において算出されたパラメータに基づいて、店員1240の応対品質を評価する評価値を算出する。また、応対品質評価部1212は、算出した評価値を、時間情報と対応付けて管理装置1220に送信する。
管理装置1220には、評価値表示処理プログラムがインストールされており、当該プログラムが実行されることで、管理装置1220は、評価値表示処理部1221として機能する。
評価値表示処理部1221は表示部の一例であり、動き解析装置1210より送信される評価値を時間情報と対応付けて表示する。これにより、管理者1260は、店員1240の各時間における応対品質を把握することができる。
<業務支援システムの各装置の各部による処理の詳細>
次に、業務支援システム1200に含まれる各装置の各部による処理の詳細について説明する。なお、上記第1の実施形態において説明済みの処理については説明を省略する。
(1)動き量算出装置120’の顔検出部1201の処理の詳細
図13は、顔検出部による顔検出処理の具体例を示す図である。図13に示すように、時間tにおいて撮影されたフレーム1310に含まれる各画素(座標=(k,l))の画素値をG(t,k,l)とし、店員1240の顔画像1320の各画素(座標=(X,Y))の画素値をF(X,Y)とする。この場合、顔検出部1201は、下式に基づいて顔領域を検出する。
つまり、顔検出部1201は、まず、店員1240の顔画像1320の各画素の画素値((2X+1)×(2Y+1)個分の画素の画素値)を抽出する。次に、顔検出部1201は、処理対象のフレーム1310(時間tで撮影されたフレーム1310)の点(k,l)及びその周辺の画素の画素値((2X+1)×(2Y+1)個分の画素の画素値)を抽出する。
次に、顔検出部1201は、顔画像1320より抽出した(2X+1)×(2Y+1)個分の画素の画素値と、フレーム1310の点(k,l)について抽出した(2X+1)×(2Y+1)個分の画素の画素値との間における、対応する画素間の差分の合計を算出する。
次に、顔検出部1201は、算出した差分の合計が、閾値T未満であるか否かを判定し、閾値T未満であると判定した場合には、当該点(k,l)について抽出した(2X+1)×(2Y+1)個分の画素を含む矩形領域を、顔領域として検出する。なお、フレーム1310から複数の顔領域が検出された場合、顔検出部1201は、差分が最小となる矩形領域を顔領域として選択する。
(2)動き解析装置1210のうなずき検出部1211の処理の詳細
図14は、うなずき検出部によるうなずき検出処理の具体例を示す図である。図14において、横軸は時間を表し、縦軸は、動き量算出装置120’から出力される、店員1240の顔領域の縦方向の位置yを表している。
うなずき検出部1211は、動き量算出装置120’から出力される縦方向の位置yについて閾値T以上の負の変化があった後に、閾値T以上の正の変化があった場合に、うなずきがあったと判定する。図14は、うなずき検出部1211がうなずきがあったと判定した際の縦方向の位置yの時間変化を示している。
うなずき検出部1211は、うなずきがあったと判定した場合、うなずきを定量化するパラメータ(i,j)を算出する。なお、うなずきがあったと判定した際の縦方向の位置yの時間変化のうち、縦方向の位置yが最も小さい値yminとなる前の時間で、閾値T未満の変化となっていた時間を、開始時間とする。また、その時の縦方向の位置yをyleftとする。また、yminとなった後の時間で、閾値T未満の変化となっていた時間を終了時間とする。また、その時の縦方向の位置yをyrightとする。その場合、うなずきを定量化するパラメータ(i,j)を下式のように定義する。
つまり、うなずき検出部1211は、縦方向の位置yに基づいてうなずきの有無を判定するとともに、うなずきを定量化するパラメータとして、うなずきの時間幅(長さi)、うなずきの動作幅(深さj)を算出する。
(3)動き解析装置1210の応対品質評価部1212の処理の詳細
図15は、応対品質評価部による応対品質評価処理の具体例を示す図である。図15(a)、(b)において横軸は時間を表し、時間軸上の長方形は、各時間におけるうなずきの長さ(i)及び深さ(j)を表したものである。時間軸上の長方形の横の辺の長さは、うなずきの長さ(i)を表している。また、時間軸上の長方形の縦の辺の長さは、うなずきの深さ(j)を表している。
一般に、“聞き手が同じうなずきを続けると、話し手は、聞き手が本当に話を聞いているのか疑問に感じる”との知見がある。応対品質評価部1212は、当該知見に基づいて、店員1240の応対品質を評価する。
具体的には、応対品質評価部1212は、k回目のうなずきの長さをi、k回目のうなずきの深さをjとし、下式を満たす間、rをk−1から順次小さくしていき、下式を満たさなくなったときの回数C=k−rを算出する。
そして、応対品質評価部1212は、算出した回数Cを下式に代入することで、店員1240の応対品質の評価値Hを算出する。
店員1240が、図15(a)に示すようなうなずきを行った場合、店員1240の応対品質の評価値Hは下がる。一方、店員1240が、図15(b)に示すようなうなずきを行った場合、店員1240の応対品質の評価値Hは上がる。
(4)管理装置1220の評価値表示処理部1221の処理の詳細
図16は、評価値表示処理部による評価値表示処理の具体例を示す図である。図16において横軸は時間を表し、縦軸は、動き解析装置1210から送信された評価値Hを表している。
図16に示すように、評価値表示処理部1221は、動き解析装置1210から送信される評価値Hを、時間情報と対応付けてグラフ化する。これにより、管理者1260は、店員1240の応対品質の評価値Hが、時間とともにどのように変化しているのかを容易に把握することができる。
<業務支援システムの各装置による処理の流れ>
次に、業務支援システム1200に含まれる各装置による処理の流れについて説明する。
(1)動き量算出装置120’による顔の動き量算出処理の流れ
図17は、動き量算出装置による顔の動き量算出処理のフローチャートである。図11との相違点は、ステップS1701、S1702、S1703である。
ステップS1701において、顔検出部1201は、fフレーム目より顔領域を検出する。なお、以降、ステップS1103からステップS1107までの処理は、ステップS1701において検出した顔領域について行う。
ステップS1702において、加重平均部506は、fフレーム目の各特徴点の(f+1)フレーム目における各移動先までの各移動量に対して、調整済みの重みを用いて加重平均処理を行い、顔の動き量を算出する。
ステップS1703において、加重平均部506は、算出した顔の動き量にfフレームにおける顔の縦方向の位置を加えて、時間情報と対応付けて動き解析装置1210に出力する。
(2)動き解析装置1210による解析処理の流れ
図18は、動き解析装置による解析処理のフローチャートである。ステップS1801において、うなずき検出部1211は、動き量算出装置120’から出力された顔の縦方向の位置と時間情報とを取得する。
ステップS1802において、うなずき検出部1211は、所定の時間幅における顔の縦方向の位置yの変化から、うなずきの有無を判定する。具体的には、うなずき検出部1211は、動き量算出装置120’から出力された顔の縦方向の位置yについて、閾値T以上の負の変化があった後に、閾値T以上の正の変化があったか否かを判定する。
ステップS1802において、顔の縦方向の位置yについて、閾値T以上の負の変化があった後に、閾値T以上の正の変化があったと判定した場合には、うなずき検出部1211は、うなずきがあったと判定する。この場合、うなずき検出部1211は、ステップS1803からステップS1804へと進み、うなずきを定量化するパラメータ(i,j)を算出する。
ステップS1805において、応対品質評価部1212は、過去のパラメータ(i,j)と対比し、現在の応対品質の評価値Hを算出する。
ステップS1806において、応対品質評価部1212は、現在の応対品質の評価値Hを管理装置1220に送信する。
一方、ステップS1803においてうなずきがなかったと判定した場合には(ステップS1803においてNoの場合には)、直接ステップS1806に進む。この場合、ステップS1806において、応対品質評価部1212は、前回送信した応対品質の評価値Hと同じ評価値Hを管理装置1220に送信する。
ステップS1807において、うなずき検出部1211は、解析処理を終了するか否かを判定する。ステップS1807において、解析処理を終了しないと判定した場合には(ステップS1807においてNoの場合には)、ステップS1801に戻る。一方、ステップS1807において終了すると判定した場合には(ステップS1807においてYesの場合には)、解析処理を終了する。
以上の説明から明らかなように、業務支援システム1200では、動き量算出装置120’より出力された顔の縦方向の位置に基づき、動き解析装置1210が販売業務等に従事する店員のうなずきの長さ及び深さを算出する。また、業務支援システム1200では、算出したうなずきの長さ及び深さに基づき、動き解析装置1210が店員の応対品質の評価値を算出し、表示する。これにより、業務支援システム1200によれば、販売業務等に従事する店員の応対品質を管理することが可能となる。
[第3の実施形態]
上記第2の実施形態では、業務支援システム1200が、撮像装置、動き量算出装置、動き解析装置、管理装置を有する場合について説明したが、業務支援システムのシステム構成はこれに限定されない。
例えば、動き量算出装置及び動き解析装置の機能を店員が有する携帯端末において実現するようにしてもよい。また、携帯端末が有するバイブレーション機能を利用して、評価値が所定の閾値以下となった場合に、店員に通知するようにしてもよい。以下、第3の実施形態について、第2の実施形態との相違点を中心に説明する。
<業務支援システムのシステム構成>
はじめに、第3の実施形態に係る動き量算出装置を有する業務支援システムのシステム構成について説明する。図19は、第3の実施形態に係る動き量算出装置を有する業務支援システムのシステム構成の一例を示す図である。
図19に示すように、業務支援システム1900は、撮像装置110、動き量算出装置1910を有する。撮像装置110と動き量算出装置1910とは無線により接続されるものとする。
第3の実施形態に係る動き量算出装置1910は、例えば、携帯端末により実現される。動き量算出装置1910には、顔検出プログラム、動き量算出プログラム、うなずき検出プログラム、応対品質評価プログラム、振動プログラムがインストールされている。動き量算出装置1910は、これらのプログラムが実行されることで、顔検出部1201、動き量算出部121、うなずき検出部1211、応対品質評価部1212、振動部1911として機能する。
なお、動き量算出装置1910が実現する各機能のうち、顔検出部1201、動き量算出部121、うなずき検出部1211、応対品質評価部1212は、上記第1または第2の実施形態において説明済みであるため、ここでは詳細な説明は省略する。
振動部1911は通知部の一例であり、応対品質評価部1212において算出された応対品質の評価値Hが所定の条件を満たすと判定した場合に、動き量算出装置1910が有するバイブレータを動作させる。これにより、応対品質が低下していることが通知され、店員1240はこれを認識することができる。
<動き量算出装置の各部による処理の詳細>
次に、動き量算出装置1910の各部による処理の詳細について説明する。ここでは、振動部1911による振動指示処理の詳細について説明する。図20は、振動部による振動指示処理の具体例を示す図である。図20において横軸は時間を表し、縦軸は、応対品質評価部1212から通知された評価値Hを表している。
図20に示すように、振動部1911は、応対品質評価部1212から通知された評価値Hが、閾値T以下となっている時間が、S秒以上継続したと判定した場合に、振動指示を出力する。
<動き量算出装置による業務支援処理の流れ>
次に、動き量算出装置1910による業務支援処理の流れについて説明する。図21は、業務支援処理のフローチャートである。なお、上記第2の実施形態において図17、18を用いて説明した顔の動き量算出処理に含まれる工程、解析処理に含まれる工程と同様の工程については同じ符号を付し、ここでは説明を省略する。
上記第2の実施形態との相違点は、ステップS2101、S2102である。ステップS2101において、振動部1911は、応対品質評価部1212において算出された応対品質の評価値Hが、閾値T以下となっている時間が、S秒以上継続しているか否かを判定する。
ステップS2101においてS秒以上継続していると判定した場合には、ステップS2102に進み、振動部1911は振動指示を出力し、動き量算出装置1910が有するバイブレータを動作させる。
一方、ステップS2101においてS秒以上継続していないと判定した場合には、直接ステップS1109に進む。
以上の説明から明らかなように、業務支援システム1900は、店員の応対品質の評価値を監視し、所定の条件を満たすと判定した場合に、店員に通知する。これにより、業務支援システム1900によれば、販売業務等に従事する店員の応対品質が低下した場合に、当該店員は、自身の応対品質が低下していることを直ちに認識することができる。
[その他の実施形態]
上記第1の実施形態では、重なり度合い算出部504が、相関点の数に基づいて重なり度合いを算出したうえで、重みを算出するものとして説明した。しかしながら、重なり度合い算出部504は、相関点の数に基づいて、直接、重みを算出してもよい。
上記第2の実施形態では、動き量算出装置120’と動き解析装置1210とを別体としたが、動き量算出装置120’と動き解析装置1210とは一体としてもよい。また、動き量算出装置120’及び動き解析装置1210が有する機能の一部は、管理装置1220が有していてもよい。
上記第3の実施形態では、動き量算出装置1910が、顔検出部1201、動き量算出部121、うなずき検出部1211、応対品質評価部1212、振動部1911を有するものとして説明した。しかしながら、動き量算出装置1910が有するこれらの機能のうち、振動部1911を除く他の機能については、動き量算出装置1910とは異なる装置が有していてもよい。
なお、開示の技術では、以下に記載する付記のような形態が考えられる。
(付記1)
撮影対象についての複数の撮像画像のうち、第1の撮像画像から複数の特徴点を抽出し、
前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定し、
前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記撮影対象の動き量を算出する、
処理をコンピュータに実行させる動き量算出プログラム。
(付記2)
前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを算出し、前記複数の特徴点の移動量それぞれに、該算出した重みをかけあわせることで、加重平均処理を行うことを特徴とする付記1に記載の動き量算出プログラム。
(付記3)
前記点の数が多くなるにつれて前記重みを大きくし、前記点の数が少なくなるにつれて前記重みを小さくして、前記加重平均処理を行うことを特徴とする付記2に記載の動き量算出プログラム。
(付記4)
前記複数の特徴点それぞれの重みの総和を用いて、前記複数の特徴点それぞれの重みを正規化し、前記複数の特徴点の移動量それぞれに、該正規化した重みをかけあわせることで、前記加重平均処理を行うことを特徴とする付記2に記載の動き量算出プログラム。
(付記5)
所定の下限閾値よりも小さい重みの値をゼロに変更することを特徴とする付記4に記載の動き量算出プログラム。
(付記6)
前記複数の特徴点それぞれの重みの度数分布から、前記所定の下限閾値を算出することを特徴とする付記5に記載の動き量算出プログラム。
(付記7)
所定の上限閾値よりも大きい重みの値を該上限閾値に変更することを特徴とする付記4に記載の動き量算出プログラム。
(付記8)
前記複数の特徴点それぞれの重みの度数分布から、前記所定の上限閾値を算出することを特徴とする付記7に記載の動き量算出プログラム。
(付記9)
撮影対象についての複数の撮像画像のうち、第1の撮像画像から複数の特徴点を抽出し、
前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定し、
前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記撮影対象の動き量を算出する、
処理をコンピュータが実行する動き量算出方法。
(付記10)
撮影対象についての複数の撮像画像のうち、第1の撮像画像から複数の特徴点を抽出する抽出部と、
前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定する特定部と、
前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記撮影対象の動き量を算出する算出部と
を有することを特徴とする動き量算出装置。
(付記11)
人物についての複数の撮像画像のうち、第1の撮像画像から、該人物の顔領域を検出する検出部と、
前記顔領域から、複数の特徴点を抽出する抽出部と、
前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定する特定部と、
前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記人物の顔の動き量を算出し、前記第1の撮像画像の顔領域の位置に前記動き量を加えて前記第2の撮像画像の顔領域の位置を算出する算出部と
を有することを特徴とする業務支援システム。
(付記12)
前記顔領域の位置の変化が所定の条件を満たす場合に、前記人物がうなずいたと判定し、うなずいたと判定した時間幅と、うなずいたと判定した時間幅における動作幅とを算出する判定部と、
前記人物がうなずいたと判定されるごとに算出される前記時間幅及び前記動作幅についての時間変化に基づいて、評価値を算出する評価部と
を更に有することを特徴とする付記11に記載の業務支援システム。
(付記13)
前記評価値の時間変化を表示する表示部を更に有することを特徴とする付記12に記載の業務支援システム。
(付記14)
前記評価値が所定の条件を満たすことを前記人物に通知するための通知部を更に有することを特徴とする付記13に記載の業務支援システム。
なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせ等、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
100 :動き量算出システム
110 :撮像装置
120、120’ :動き量算出装置
121 :動き量算出部
122 :動画像データ格納部
501 :動画像取得部
502 :特徴点抽出部
503 :移動先特定部
504 :重なり度合い算出部
505 :重み調整部
506 :加重平均部
1200 :業務支援システム
1201 :顔検出部
1210 :動き解析装置
1211 :うなずき検出部
1212 :応対品質評価部
1220 :管理装置
1221 :評価値表示処理部
1900 :業務支援システム
1910 :動き量算出装置
1911 :振動部

Claims (14)

  1. 撮影対象についての複数の撮像画像のうち、第1の撮像画像から複数の特徴点を抽出し、
    前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定し、
    前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記撮影対象の動き量を算出する、
    処理をコンピュータに実行させる動き量算出プログラム。
  2. 前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを算出し、前記複数の特徴点の移動量それぞれに、該算出した重みをかけあわせることで、加重平均処理を行うことを特徴とする請求項1に記載の動き量算出プログラム。
  3. 前記点の数が多くなるにつれて前記重みを大きくし、前記点の数が少なくなるにつれて前記重みを小さくして、前記加重平均処理を行うことを特徴とする請求項2に記載の動き量算出プログラム。
  4. 前記複数の特徴点それぞれの重みの総和を用いて、前記複数の特徴点それぞれの重みを正規化し、前記複数の特徴点の移動量それぞれに、該正規化した重みをかけあわせることで、前記加重平均処理を行うことを特徴とする請求項2に記載の動き量算出プログラム。
  5. 所定の下限閾値よりも小さい重みの値をゼロに変更することを特徴とする請求項4に記載の動き量算出プログラム。
  6. 前記複数の特徴点それぞれの重みの度数分布から、前記所定の下限閾値を算出することを特徴とする請求項5に記載の動き量算出プログラム。
  7. 所定の上限閾値よりも大きい重みの値を該上限閾値に変更することを特徴とする請求項4に記載の動き量算出プログラム。
  8. 前記複数の特徴点それぞれの重みの度数分布から、前記所定の上限閾値を算出することを特徴とする請求項7に記載の動き量算出プログラム。
  9. 撮影対象についての複数の撮像画像のうち、第1の撮像画像から複数の特徴点を抽出し、
    前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定し、
    前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記撮影対象の動き量を算出する、
    処理をコンピュータが実行する動き量算出方法。
  10. 撮影対象についての複数の撮像画像のうち、第1の撮像画像から複数の特徴点を抽出する抽出部と、
    前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定する特定部と、
    前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記撮影対象の動き量を算出する算出部と
    を有することを特徴とする動き量算出装置。
  11. 人物についての複数の撮像画像のうち、第1の撮像画像から、該人物の顔領域を検出する検出部と、
    前記顔領域から、複数の特徴点を抽出する抽出部と、
    前記第1の撮像画像よりも後に撮影された第2の撮像画像に含まれる前記特徴点との相関関係が所定の条件を満たす点の集合の重心位置を該特徴点の移動先として特定する特定部と、
    前記複数の特徴点それぞれの前記移動先までの移動量に対して、前記複数の特徴点それぞれについて取得した前記点の数に応じた重みを用いて前記人物の顔の動き量を算出し、前記第1の撮像画像の顔領域の位置に前記動き量を加えて前記第2の撮像画像の顔領域の位置を算出する算出部と
    を有することを特徴とする業務支援システム。
  12. 前記顔領域の位置の変化が所定の条件を満たす場合に、前記人物がうなずいたと判定し、うなずいたと判定した時間幅と、うなずいたと判定した時間幅における動作幅とを算出する判定部と、
    前記人物がうなずいたと判定されるごとに算出される前記時間幅及び前記動作幅についての時間変化に基づいて、評価値を算出する評価部と
    を更に有することを特徴とする請求項11に記載の業務支援システム。
  13. 前記評価値の時間変化を表示する表示部を更に有することを特徴とする請求項12に記載の業務支援システム。
  14. 前記評価値が所定の条件を満たすことを前記人物に通知するための通知部を更に有することを特徴とする請求項13に記載の業務支援システム。
JP2017045227A 2017-03-09 2017-03-09 動き量算出プログラム、動き量算出方法、動き量算出装置及び業務支援システム Active JP6841097B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017045227A JP6841097B2 (ja) 2017-03-09 2017-03-09 動き量算出プログラム、動き量算出方法、動き量算出装置及び業務支援システム
US15/909,135 US10706272B2 (en) 2017-03-09 2018-03-01 Method of determining an amount, non-transitory computer-readable storage medium and information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017045227A JP6841097B2 (ja) 2017-03-09 2017-03-09 動き量算出プログラム、動き量算出方法、動き量算出装置及び業務支援システム

Publications (2)

Publication Number Publication Date
JP2018151685A JP2018151685A (ja) 2018-09-27
JP6841097B2 true JP6841097B2 (ja) 2021-03-10

Family

ID=63446436

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017045227A Active JP6841097B2 (ja) 2017-03-09 2017-03-09 動き量算出プログラム、動き量算出方法、動き量算出装置及び業務支援システム

Country Status (2)

Country Link
US (1) US10706272B2 (ja)
JP (1) JP6841097B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022167670A (ja) * 2021-04-23 2022-11-04 富士通株式会社 情報処理プログラム、情報処理方法、および情報処理装置
CN113673494B (zh) * 2021-10-25 2022-03-08 青岛根尖智能科技有限公司 人体姿态标准运动行为匹配方法及系统

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3627468B2 (ja) * 1997-09-08 2005-03-09 日産自動車株式会社 動作検出装置
KR100415313B1 (ko) * 2001-12-24 2004-01-16 한국전자통신연구원 동영상에서 상관 정합과 시스템 모델을 이용한 광류와카메라 움직임 산출 장치
JP4482795B2 (ja) * 2004-03-05 2010-06-16 ソニー株式会社 画像処理装置、移動物体追跡方法、移動物体追跡プログラム、監視装置及びゲーム装置
JP4625949B2 (ja) * 2005-02-18 2011-02-02 国立大学法人九州工業大学 物体追跡方法および物体追跡装置ならびにプログラム
JP4787210B2 (ja) 2007-05-30 2011-10-05 日本電信電話株式会社 映像品質推定方法、装置、およびプログラム
JP5052301B2 (ja) 2007-11-21 2012-10-17 オリンパス株式会社 画像処理装置、画像処理方法
JP4982410B2 (ja) * 2008-03-10 2012-07-25 株式会社東芝 空間移動量算出装置及びその方法
JP4915468B2 (ja) 2010-08-30 2012-04-11 ソニー株式会社 画像処理装置、画像処理方法、プログラム
FR2967804B1 (fr) * 2010-11-19 2013-01-04 Total Immersion Procede et dispositif de detection et de suivi d'objets non rigides en mouvement, en temps reel, dans un flux video, permettant a un utilisateur d'interagir avec un systeme informatique
CN104917931B (zh) * 2015-05-28 2018-03-02 京东方科技集团股份有限公司 运动图像补偿方法及装置、显示装置
US9922244B2 (en) * 2015-09-03 2018-03-20 Gestigon Gmbh Fast and robust identification of extremities of an object within a scene
DE102016114168A1 (de) * 2016-08-01 2018-02-01 Connaught Electronics Ltd. Verfahren zum Erfassen eines Objekts in einem Umgebungsbereich eines Kraftfahrzeugs mit Vorhersage der Bewegung des Objekts, Kamerasystem sowie Kraftfahrzeug

Also Published As

Publication number Publication date
US10706272B2 (en) 2020-07-07
US20180260619A1 (en) 2018-09-13
JP2018151685A (ja) 2018-09-27

Similar Documents

Publication Publication Date Title
US10404917B2 (en) One-pass video stabilization
US9799118B2 (en) Image processing apparatus, imaging apparatus and distance correction method
US9842409B2 (en) Image transmission device, image transmission method, image transmission program, image recognition and authentication system, and image reception device
JP5144487B2 (ja) 主顔選択装置、その制御方法、撮像装置及びプログラム
US9451172B2 (en) Method and apparatus for correcting multi-exposure motion image
US9823331B2 (en) Object detecting apparatus, image capturing apparatus, method for controlling object detecting apparatus, and storage medium
US9773192B2 (en) Fast template-based tracking
US20140293074A1 (en) Generating a composite image from video frames
US9508153B2 (en) Distance measurement apparatus, imaging apparatus, distance measurement method, and program
WO2017090458A1 (ja) 撮影装置、および撮影方法、並びにプログラム
US9036936B2 (en) Image processing device, image processing method, and image processing program
US8983221B2 (en) Image processing apparatus, imaging apparatus, and image processing method
US20080232707A1 (en) Motion blurred image restoring method
US8736719B2 (en) Image processing apparatus and control method for the same
JP2012530994A (ja) 半顔面検出のための方法および装置
US9088709B2 (en) Image processing apparatus and method for controlling the same, and image pickup apparatus
US20180061014A1 (en) Contrast Adaptive Video Denoising System
JP2010114752A (ja) 撮像装置及び撮像方法及びプログラム
US20090213235A1 (en) Image pickup apparatus and recording medium
JP2011114407A (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
JP6841097B2 (ja) 動き量算出プログラム、動き量算出方法、動き量算出装置及び業務支援システム
US20150371090A1 (en) Image processing apparatus, control method thereof, and storage medium
JP2009088935A (ja) 画像記録装置、画像補正装置及び撮像装置
JP5841345B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置
JP6282133B2 (ja) 撮像装置、その制御方法、および制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191212

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210201

R150 Certificate of patent or registration of utility model

Ref document number: 6841097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150