JPWO2016111069A1 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JPWO2016111069A1
JPWO2016111069A1 JP2016568286A JP2016568286A JPWO2016111069A1 JP WO2016111069 A1 JPWO2016111069 A1 JP WO2016111069A1 JP 2016568286 A JP2016568286 A JP 2016568286A JP 2016568286 A JP2016568286 A JP 2016568286A JP WO2016111069 A1 JPWO2016111069 A1 JP WO2016111069A1
Authority
JP
Japan
Prior art keywords
user
action
information
turn
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016568286A
Other languages
English (en)
Inventor
荘太 松澤
荘太 松澤
小形 崇
崇 小形
仁 大久保
仁 大久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2016111069A1 publication Critical patent/JPWO2016111069A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/30ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0003Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
    • A63B24/0006Computerised comparison for qualitative assessment of motion sequences or the course of a movement
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • A63B69/18Training appliances or apparatus for special sports for skiing
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B71/00Games or sports accessories not covered in groups A63B1/00 - A63B69/00
    • A63B71/06Indicating or scoring devices for games or players, or for other sports activities
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B24/00Electric or electronic controls for exercising apparatus of preceding groups; Controlling or monitoring of exercises, sportive games, training or athletic performances
    • A63B24/0003Analysing the course of a movement or motion sequences during an exercise or trainings sequence, e.g. swing for golf or tennis
    • A63B24/0006Computerised comparison for qualitative assessment of motion sequences or the course of a movement
    • A63B2024/0012Comparing movements or motion sequences with a registered reference
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B69/00Training appliances or apparatus for special sports
    • A63B69/18Training appliances or apparatus for special sports for skiing
    • A63B2069/185Training appliances or apparatus for special sports for skiing for ski-jumping
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/30Speed
    • A63B2220/34Angular speed
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/40Acceleration
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/40Acceleration
    • A63B2220/44Angular acceleration
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/62Time or time measurement used for time reference, time stamp, master time or clock signal
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2220/00Measuring of physical parameters relating to sporting activity
    • A63B2220/80Special sensors, transducers or devices therefor
    • A63B2220/83Special sensors, transducers or devices therefor characterised by the position of the sensor
    • A63B2220/836Sensors arranged on the body of the user
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63BAPPARATUS FOR PHYSICAL TRAINING, GYMNASTICS, SWIMMING, CLIMBING, OR FENCING; BALL GAMES; TRAINING EQUIPMENT
    • A63B2244/00Sports without balls
    • A63B2244/19Skiing
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1012Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals involving biosensors worn by the player, e.g. for measuring heart beat, limb activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/105Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals using inertial sensors, e.g. accelerometers, gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1087Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals comprising photodetecting means, e.g. a camera
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/55Details of game data or player data management
    • A63F2300/5546Details of game data or player data management using player registration data, e.g. identification, account, preferences, game history
    • A63F2300/558Details of game data or player data management using player registration data, e.g. identification, account, preferences, game history by assessing the players' skills or ranking
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/60Methods for processing data by generating or executing the game program
    • A63F2300/6063Methods for processing data by generating or executing the game program for sound processing
    • A63F2300/6081Methods for processing data by generating or executing the game program for sound processing generating an output signal, e.g. under timing constraints, for spatialization
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/80Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
    • A63F2300/8041Skating using skis, skates or board
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01PMEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P15/00Measuring acceleration; Measuring deceleration; Measuring shock, i.e. sudden change of acceleration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01PMEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
    • G01P3/00Measuring linear or angular speed; Measuring differences of linear or angular speeds

Abstract

ユーザまたは上記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得するセンサデータ取得部と、上記センサデータに基づいて上記ユーザのアクションを検出し、上記アクションはターンを含むアクション検出部と、上記ターンに関する情報を生成する情報生成部とを備える情報処理装置が提供される。【選択図】図1

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関する。
例えばユーザに装着されたセンサによって提供されるセンサデータに基づいて、ユーザのさまざまな行動を検出する技術が種々提案されている。例えば、特許文献1には、センサデータの閾値処理によって認識されたユーザの行動のうち特定の行動に特化した複数の行動判定部を有し、それぞれの行動判定部における判定結果に基づいて行動情報を生成する情報処理装置が記載されている。
特開2010−198595号公報
しかしながら、ユーザの生活の中ではさまざまな種類の行動(アクション)が発生するため、例えば特許文献1に記載されたような技術では、必ずしもユーザのあらゆるアクションを検出し、検出されたアクションに関する情報を提供できるわけではない。
そこで、本開示では、ユーザのより多様なアクションに関する情報を提供することを可能にする、新規かつ改良された情報処理装置、情報処理方法、およびプログラムを提案する。
本開示によれば、ユーザまたは上記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得するセンサデータ取得部と、上記センサデータに基づいて上記ユーザのアクションを検出し、上記アクションはターンを含むアクション検出部と、上記ターンに関する情報を生成する情報生成部とを備える情報処理装置が提供される。
また、本開示によれば、ユーザまたは上記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得することと、プロセッサが、上記センサデータに基づいて上記ユーザのアクションを検出し、上記アクションはターンを含むことと、上記ターンに関する情報を生成することとを含む情報処理方法が提供される。
また、本開示によれば、ユーザまたは上記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得する機能と、上記センサデータに基づいて上記ユーザのアクションを検出し、上記アクションはターンを含む機能と、上記ターンに関する情報を生成する機能とをコンピュータに実現させるためのプログラムが提供される。
以上説明したように本開示によれば、ユーザのより多様なアクションに関する情報を提供することができる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態に係る情報処理装置の概略的な機能構成を示すブロック図である。 本開示の一実施形態において、ユーザのアクションに含まれるジャンプを検出するための処理の第1の例を示すフローチャートである。 図2に示したハイインパクト検出処理の例を示すフローチャートである。 図2に示した自由落下検出処理の第1の例を示すフローチャートである。 図2に示した自由落下検出処理の第2の例を示すフローチャートである。 本開示の一実施形態において、ユーザのアクションに含まれるジャンプを検出するための処理の第2の例を示すフローチャートである。 図6に示した候補区間検出処理の例を示すフローチャートである。 図7に示した鉛直方向加速度算出処理の例を示すフローチャートである。 図7に示した水平方向加速度算出処理の例を示すフローチャートである。 本開示の一実施形態において、ユーザのアクションに含まれるターン区間を検出するための処理の例を示すフローチャートである。 図10に示した回転区間検出処理の例を示すフローチャートである。 図10に示した首振り検出処理の例を示すフローチャートである。 図10に示したターン検出処理の例を示すチャートである。 本開示の一実施形態において、センサ装着状態を推定するための処理の例を示すブロック図である。 本開示の一実施形態に含まれる情報生成の第1の例における処理を示すフローチャートである。 本開示の一実施形態に含まれる情報生成の第1の例における画面表示を示す図である。 本開示の一実施形態に含まれる情報生成の第2の例における処理を示すフローチャートである。 本開示の一実施形態に含まれる情報生成の第2の例における画面表示を示す図である。 本開示の一実施形態に含まれる情報生成の第2の例における画面表示を示す図である。 本開示の一実施形態に含まれる情報生成の第3の例を概念的に説明するための図である。 本開示の一実施形態に含まれる情報生成の第3の例における処理を示すフローチャートである。 図21に例に示した処理における映像の加工について説明するための図である。 図21に示した処理における映像のダウンロードのためのユーザインターフェースについて説明するための図である。 本開示の一実施形態に含まれる情報生成の第4の例における処理を示すフローチャートである。 本開示の一実施形態に含まれる情報生成の第4の例における画面表示を示す図である。 本開示の実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。 本開示の一実施形態におけるコンテンツ制御のための時系列スコアの算出について説明するための図である。 本開示の一実施形態における時系列スコアを利用したコンテンツ制御の例について説明するための図である。 本開示の一実施形態においてアクションに関連して定義されるタイミングの例について説明するための図である。 本開示の一実施形態においてアクションに関連して定義されるタイミングで提供されるエフェクトの第1の例を示す図である。 本開示の一実施形態においてアクションに関連して定義されるタイミングで提供されるエフェクトの第2の例を示す図である。 本開示の一実施形態においてアクションに関連して定義されるタイミングで提供されるエフェクトの第3の例を示す図である。 本開示の一実施形態においてアクションに関連して定義されるタイミングで提供されるエフェクトの第4の例を示す図である。 本開示の実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.情報処理装置の機能構成
2.アクション検出処理の例
2−1.ジャンプの検出−1
2−2.ジャンプの検出−2
2−3.ターンの検出
3.付加的な処理の例
3−1.アクションスコアの算出
3−2.クラスタリング処理
3−3.センサ装着状態の推定
4.情報生成の例
4−1.第1の例
4−2.第2の例
4−3.第3の例
4−4.第4の例
4−5.ユーザのプロファイルについて
5.ハードウェア構成
6.補足
7.コンテンツ制御の例
7−1.時系列スコアによる制御
7−2.アクションに関連して定義されるタイミングによる制御
7−3.ユーザのプロファイルについて
8.ハードウェア構成
9.補足
(1.情報処理装置の機能構成)
図1は、本開示の一実施形態に係る情報処理装置の概略的な機能構成を示すブロック図である。図1を参照すると、情報処理装置100は、送信部101と、受信部102と、センサデバイス制御部103と、センサデータ解析部104と、解析結果処理部107と、検出区間情報保持部110と、付加的情報保持部111と、サービス制御部112とを含む。
情報処理装置100は、例えば後述するいくつかの具体的な例において示されるように、ネットワーク上のサーバを構成する単一の装置、または装置の集合体でありうる。また、情報処理装置100は、ネットワークを介してサーバと通信する端末装置、または単独で動作する端末装置であってもよい。あるいは、情報処理装置100の機能は、ネットワークを介して互いに通信するサーバと端末装置とに分散して実現されてもよい。情報処理装置100、または情報処理装置100の機能を実現する複数の装置のそれぞれのハードウェア構成については後述する。
送信部101および受信部102は、例えば有線または無線の各種通信方式によってセンサデバイスと通信する通信装置によって実現される。センサデバイスは、ユーザまたはユーザによって使用される器具に装着された少なくとも1つのセンサを含む。送信部101は、センサデバイス制御部103が出力する制御信号をセンサデバイスに送信する。受信部102は、センサデバイスからセンサデータおよび時刻情報(タイムスタンプ)を受信し、これらをセンサデバイス制御部103に入力する。図示された例において、受信部102は、ユーザまたはユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを受信するセンサデータ受信部を実現する。なお、例えば情報処理装置100が、少なくとも1つのセンサを備える端末装置、より具体的にはモバイルデバイスやウェアラブルデバイスであるような場合には、センサからセンサデータを受信するドライバプログラムを実行するCPU(Central Processing Unit)などのプロセッサによってセンサデータ受信部が実現されてもよい。また、本実施形態に係る情報処理装置は、例えば、センサを備える外部の装置からセンサデータを取得する取得部を備えていてもよい。ここで、取得部は、例えば、“送信部101および受信部102を実現する上記通信装置などを介して、センサを備える外部の装置からセンサデータを受信するドライバプログラム”を実行するCPUなどのプロセッサによって、実現される。なお、取得部を備える場合、本実施形態に係る情報処理装置は、センサデータ受信部を備えない構成をとることも可能である
センサデバイス制御部103は、例えばCPUなどのプロセッサが、メモリに格納されたプログラムに従って動作することによって実現される。センサデバイス制御部103は、受信部102からセンサデータおよび時刻情報を取得する。センサデバイス制御部103は、これらのデータをセンサデータ解析部104および解析結果処理部107に提供する。センサデバイス制御部103は、必要に応じて、データの前処理を実施してもよい。また、センサデバイス制御部103は、センサデバイスの制御信号を送信部101に出力する。いくつかの実施形態において、センサデバイス制御部103は、センサデータ解析部104または解析結果処理部107における処理の結果のフィードバックに基づいて、制御信号を出力してもよい。
センサデータ解析部104は、例えばCPUなどのプロセッサが、メモリに格納されたプログラムに従って動作することによって実現される。センサデータ解析部104は、センサデバイス制御部103から提供されたセンサデータを用いた種々の解析を実行する。図示された例において、センサデータ解析部104は、特徴量抽出部105と、アクション検出部106とを含む。特徴量抽出部105は、センサデータから各種の特徴量を抽出する。アクション検出部106は、特徴量抽出部105によってセンサデータから抽出された特徴量に基づいて、ユーザのアクションを検出する。本実施形態において、アクション検出部106が検出するユーザのアクションには、ユーザのターンおよび/またはジャンプが含まれる。さらに、アクション検出部106は、歩く、走る、静止する、乗り物で移動するなどといった、その他のユーザのアクションを検出してもよい。ユーザのアクションは、それが発生した区間(アクション区間)を示す時刻情報(タイムスタンプ)に関連付けて検出されうる。センサデータ解析部104は、解析結果、より具体的には例えばアクション検出部106によって検出されたユーザのアクション区間を含む情報を、検出区間情報保持部110に格納する。また、センサデータ解析部104は、解析結果を、解析結果処理部107に提供する。
解析結果処理部107は、例えばCPUなどのプロセッサが、メモリに格納されたプログラムに従って動作することによって実現される。解析結果処理部107は、センサデータ解析部104の解析結果、より具体的にはアクション検出部106によって検出されたユーザのアクションの情報に基づいて、後段のサービス制御部112によって利用される各種の付加的な情報を生成する。図示された例において、解析結果処理部107は、クラスタリング処理部108と、スコアリング処理部109とを含む。例えば、検出されたユーザのアクションが同じ種類の複数のアクションを含む場合、クラスタリング処理部108が、これらのアクションをその特徴量(特徴量抽出部105によって抽出された特徴量であってもよいし、アクション検出部106によって算出された中間的な特徴量であってもよい)に基づいてクラスタリングしてもよい。また、同じ場合、スコアリング処理部109が、特徴量に基づいてアクションの評価を示すスコアを算出してもよい。また、クラスタリング処理部108および/またはスコアリング処理部109は、センサデバイス制御部103から提供されたセンサデータに基づいて、新たに特徴量を算出してもよい。解析結果処理部107は、処理結果、より具体的にはクラスタリング処理部108によるクラスタリングの結果や、スコアリング処理部109によって算出されたスコアの情報を、時刻情報(タイムスタンプ)とともに付加的情報保持部111に格納する。
検出区間情報保持部110および付加的情報保持部111は、例えば各種のメモリまたはストレージ装置によって実現される。検出区間情報保持部110および付加的情報保持部111は、上記のようにセンサデータ解析部104および解析結果処理部107から提供された情報を、一時的または永続的に格納する。検出区間情報保持部110に格納された情報と、付加的情報保持部111に格納された情報とは、例えば時刻情報(タイムスタンプ)によって互いに対応付けることが可能でありうる。また、検出区間情報保持部110および付加的情報保持部111には、複数のユーザのそれぞれに関する情報が格納されてもよい。
サービス制御部112は、例えばCPUなどのプロセッサが、メモリに格納されたプログラムに従って動作することによって実現される。サービス制御部112は、検出区間情報保持部110および/または付加的情報保持部111に格納された情報を利用して、サービス113を制御する。より具体的には、例えば、サービス制御部112は、検出区間情報保持部110および/または付加的情報保持部111から読み出した情報に基づいて、サービス113においてユーザに提供される情報を生成する。ここで、上記の通り、検出区間情報保持部110および/または付加的情報保持部111に格納されている情報には、センサデータ解析部104に含まれるアクション検出部106によって検出されたユーザのアクションに関する情報が含まれる。つまり、図示された例において、サービス制御部112は、アクション検出部によって検出されたユーザのアクションに関する情報を出力する情報生成部を実現する。なお、例えば情報処理装置100がサーバであるような場合、サービス制御部112によって出力された情報は、通信装置を介して端末装置に送信されうる。また、例えば情報処理装置100が端末装置であるような場合、サービス制御部112によって出力された情報は、端末装置が備えるディスプレイ、スピーカ、またはバイブレータなどの出力装置に提供されうる。
(2.アクション検出処理の例)
以下では、本開示の一実施形態において実行されるアクション検出処理の例について説明する。これらの例では、ユーザがスノーボードをしている場合に発生するジャンプおよびターンが検出される。例えば、スノーボードの場合、加速度センサおよび角速度センサなどを含むセンサデバイスは、ウェアに埋め込まれたり、ウェアラブル端末装置やモバイル端末装置に組み込まれたりすることによって、ユーザに直接的に装着されてもよい。あるいは、センサデバイスは、スノーボードの用具、例えばボードに装着されてもよい。
なお、本実施形態で実行されるアクション検出処理はスノーボードで発生するジャンプやターンには限られず、例えばスノーボード以外のスポーツで発生するジャンプやターンについてアクション検出処理が実行されてもよい。ジャンプやターンは、さまざまなスポーツで共通して発生しうるアクションであるため、例えば以下で説明するような検出処理によって、スポーツの種類に関わらずジャンプやターンを検出することが可能でありうる。また、本実施形態で実行されるアクション検出処理では、ジャンプやターン以外のアクションが検出されてもよい。そのようなアクション検出処理には、例えば特開2010−198595号公報などに記載された行動認識の技術において利用されている様々な技術を応用することが可能である。
(2−1.ジャンプの検出−1)
図2は、本開示の一実施形態において、ユーザのアクションに含まれるジャンプを検出するための処理の第1の例を示すフローチャートである。図示された処理は、例えば上記の情報処理装置100に含まれるセンサデータ解析部104において実行される。
まず、センサデータ解析部104は、所定のタイムフレームごとに、ハイインパクト検出処理(S110)と、自由落下検出処理(S120)とを実行する。なお、これらの処理の詳細については後述する。これらの処理の結果を受けて、センサデータ解析部104に含まれるアクション検出部106は、2つのハイインパクト区間(踏み切りおよび着地と推定される)に挟まれた区間が発生したか否かを判定する(S101)。そのような区間が発生した場合、アクション検出部106は、区間の持続時間(duration)が2つの閾値(TH1,TH2)の間にあるか否かを判定する(S102)。これらの閾値は、例えば、ジャンプとしては長すぎる区間や短すぎると判断される区間を除外する目的で設定される。
S102の判定において持続時間が2つの閾値の間にあった場合、さらに、アクション検出部106は、当該区間における自由落下区間の比率が閾値(TH)を超えるか否かを判定する(S103)。自由落下区間の比率が閾値を超える場合、当該区間(2つのハイインパクト区間に挟まれた区間)がジャンプ区間であることが検出される(S104)。
図3は、図2に示したハイインパクト検出処理(S110)の例を示すフローチャートである。図3を参照すると、ハイインパクト検出処理では、センサデータに含まれる加速度(D111)が利用される。まず、センサデータ解析部104に含まれる特徴量抽出部105が、加速度のノルムを算出し(S112)、さらにノルムをLPF(Low Pass Filter)によってスムージングする(S113)。続いて、特徴量抽出部105は、スムージングされた加速度のノルムについて、所定のタイムフレームで振幅のパワーを算出する(S114)。アクション検出部106は、パワーが閾値(TH)を上回るか否かを判定し(S115)、パワーが閾値を上回る場合、当該タイムフレームがハイインパクト区間であることを検出する(S116)。
なお、本明細書および図面において、TH、TH1またはTH2などとして表記される閾値には、それぞれの処理において適切な値が設定される。つまり、これらの閾値がいずれもTHなどとして表記されていることは、これらの閾値が同じ値であることを示すものではない。
図4は、図2に示した自由落下検出処理(S120)の第1の例を示すフローチャートである。図4を参照すると、第1の例に係る自由落下検出処理では、センサデータに含まれる加速度(D121)および角速度(D125)が利用される。まず、特徴量抽出部105が加速度のノルムを算出し(S122)、アクション検出部106が各区間におけるノルムが閾値(TH)を下回るか否かを判定する(S123)。アクション検出部106は、加速度のノルムが閾値を下回った区間について、当該区間が自由落下区間であることを検出する(S124)。
一方、特徴量抽出部105は、角速度についてもノルムを算出し(S126)、さらに所定のタイムフレームにおけるノルムの分散を算出する(S127)。アクション検出部106は、角速度のノルムの分散が閾値(TH)を下回るか否かを判定し(S128)、分散が閾値を下回る場合、S124において検出された自由落下区間をマスクする(つまり、自由落下区間としての判定を取り消す)(S129)。このような角速度に基づくマスク処理は、ユーザがジャンプした場合には角速度の変化が発生するため、角速度の変化(分散)が小さい自由落下区間はジャンプ以外の原因で発生している、という知見に基づく。
なお、上記の処理において、S126〜S129におけるマスクの処理は、必ずしもS121〜S124における自由落下区間の判定処理の後に実行されなくてもよい。例えば、アクション検出部106は、マスクの処理を先行して実行し、マスクする区間として特定された区間については自由落下区間の判定処理を実行しなくてもよい。あるいは、マスクの処理は、図2に示したジャンプ区間の検出処理(S104)の後に実行され、一旦ジャンプ区間として検出された区間がマスクされてもよい。さらにいえば、図4などに示す自由落下処理(S120)は、必ずしも図2に示した区間の発生判定(S101)の前に実行される必要はなく、区間の発生判定の後、例えば自由落下区間の比率に関する判定(S103)の前に、当該区間について自由落下検出処理が実行されてもよい。
図5は、図2に示した自由落下検出処理(S120)の第2の例を示すフローチャートである。図5を参照すると、第2の例に係る自由落下検出処理では、ユーザまたはユーザによって使用される器具に装着された加速度センサによって提供されるセンサデータに含まれる加速度(D121)が利用される。S122〜S124では、特徴量抽出部105およびアクション検出部106が上記の第1の例と同様の処理を実行し、自由落下区間を検出する。
一方、本例において、特徴量抽出部105は、加速度のX軸成分およびY軸成分を抽出し(S132)、さらに加速度のX軸成分とY軸成分との間での共分散を算出する(S133)。より具体的には、例えば、特徴量抽出部105は、ユーザが基準面(水平面には限らず、傾斜面であってもよい)上を歩いたり走ったりしている場合に、加速度センサの座標軸のうちユーザの進行方向に最も近い軸をX軸、基準面の法線方向に最も近い軸をY軸とし、これらの軸方向の加速度成分(X軸成分、Y軸成分)の共分散を算出する。アクション検出部106は、共分散が閾値(TH)を下回るか否かを判定し(S134)、共分散が閾値を下回る場合、S124において検出された自由落下区間をマスクする(S129)。このような加速度の共分散に基づくマスク処理は、例えば、検出したいジャンプが専ら基準面の法線方向の変位を伴ういわゆる垂直跳びではなく、ユーザの進行方向への変位を伴うジャンプである場合に有効である。
(2−2.ジャンプの検出−2)
図6は、本開示の一実施形態において、ユーザのアクションに含まれるジャンプを検出するための処理の第2の例を示すフローチャートである。図示された処理は、上記の第1の例と同様に、例えば情報処理装置100に含まれるセンサデータ解析部104において実行される。
まず、センサデータ解析部104は、候補セクション検出処理(S140)を実行する。なお、この処理の詳細については後述する。処理の結果を受けて、センサデータ解析部104に含まれるアクション検出部106は、候補区間が発生したか否かを判定する(S105)。候補区間が発生した場合、アクション検出部106は、上記の第1の例と同様に、区間の持続時間(duration)が2つの閾値(TH1,TH2)の間にあるか否かを判定する(S102)。持続時間が2つの閾値の間にあった場合、さらに、アクション検出部106は、区間における鉛直方向および水平方向の加速度の平均値(mean)がそれぞれの閾値(THs)を超えるか否かを判定する(S106)。加速度の平均値がそれぞれの閾値を超える場合、当該候補区間がジャンプ区間であることが検出される(S104)。
図7は、図6に示した候補区間検出処理(S140)の例を示すフローチャートである。図7を参照すると、候補区間検出処理では、まず、上記で図3を参照して説明したハイインパクト検出処理(S110)と、鉛直方向加速度算出処理(S141)と、水平方向加速度算出処理(S142)とが実行される。さらに、センサデータ解析部104に含まれる特徴量抽出部105は、各区間について、S141,S142で算出された鉛直方向加速度と水平方向加速度との差分を算出する(S143)。その上で、アクション検出部106が、2つのハイインパクト区間(踏み切りおよび着地と推定される)に挟まれた区間が発生したか否かを判定する(S144)。そのような区間が発生した場合、アクション検出部106は、S143で算出された鉛直方向加速度と水平方向加速度との差分が、当該区間において閾値(TH)を超えるか否かを判定する(S145)。差分が閾値を超える場合、当該区間(2つのハイインパクト区間に挟まれた区間)がジャンプ区間の候補区間であることが検出される(S146)。
図8は、図7に示した鉛直方向加速度算出処理(S141)の例を示すフローチャートである。図8を参照すると、鉛直方向加速度算出処理では、センサデータに含まれる加速度(D151)が利用される。まず、センサデータ解析部104に含まれる特徴量抽出部105が、加速度の平均値(mean)を算出する(S152)。ここで算出される平均値は、例えば移動平均でありうる。S152で算出された加速度の平均値に基づいて、特徴量抽出部105は重力成分加速度算出処理を実行する(S153)。さらに、特徴量抽出部105は、算出された重力成分加速度のノルムを算出する(S154)。なお、重力成分加速度は、移動平均などの平均値に基づいて算出されてもよいし、LPFなどのフィルタを用いて算出されてもよい。
一方、特徴量抽出部105は、上記のS152〜S154の処理とは別に、加速度(D151)をBPF(Band Pass Filter)で処理する(S155)。図示された例において、BPFは、低周波領域のフィルタによって加速度に含まれるDC成分(つまり、重力成分)を除去し、さらに高周波領域のフィルタによって加速度をスムージングすることを目的として用いられる。なお、S155のBPFは、例えばLPFやHPF(High Pass Filter)など、他の種類のフィルタの組み合わせによって代替されてもよい。特徴量抽出部105は、BPFによって処理された加速度について、S153で算出された重力成分加速度との内積を算出する(S156)。
さらに、特徴量抽出部105は、S156で算出された内積を、S154で算出された重力成分加速度のノルムで割る(S157)。これによって、鉛直方向加速度(V158)が得られる。図示された例において、鉛直方向加速度は、BPF(S155)によって重力成分を除去した加速度を、重力成分加速度の方向に射影することによって算出されている。
図9は、図7に示した水平方向加速度算出処理(S142)の例を示すフローチャートである。図9を参照すると、水平方向加速度算出処理でも、センサデータに含まれる加速度(D151)が利用される。また、水平方向加速度算出処理では、上記で図8を参照して説明した鉛直方向加速度算出処理(S141)において算出された鉛直方向加速度が利用される。より具体的には、センサデータ解析部104に含まれる特徴量抽出部105は、鉛直方向加速度を2乗して利用する(S161)。
その一方で、特徴量抽出部加速度(D151)をBPFで処理し(S162)、加速度に含まれるDC成分を除去するとともに加速度をスムージングする。なお、S162のBPFも、例えばLPFやHPFなど、他の種類のフィルタの組み合わせによって代替されてもよい。特徴量抽出部105は、BPFによって処理された加速度のノルムを算出し(S163)、これを2乗する(S164)。さらに、特徴量抽出部105は、S161で算出された鉛直方向加速度の2乗と、S164で算出された水平方向加速度の2乗との差分を算出し(S165)、差分の平方根(S166)によって水平方向加速度(V167)を得る。
以上で説明したような、本開示の一実施形態におけるジャンプ検出では、ジャンプ検出の第1の例(図2)で自由落下検出処理に第1の例(図4)を採用する場合と、同じくジャンプ検出の第1の例(図2)で自由落下検出処理に第2の例(図5)を採用する場合と、ジャンプ検出の第2の例(図6)の場合とで、合計3種類のジャンプ検出処理が可能である。アクション検出部106を含むセンサデータ解析部104は、これらの3種類のジャンプ検出処理をそれぞれ実行した上で、それらの結果に基づいて最終的なジャンプ区間を検出してもよい。より具体的には、例えば、アクション検出部106は、3種類のジャンプ検出処理のうちの少なくとも1つでジャンプ区間が検出された場合に、当該区間を最終的なジャンプ区間として検出してもよい。あるいは、アクション検出部106は、3種類のジャンプ検出処理のうちの2つ以上、または3種類すべてでジャンプ区間が検出された場合に、当該区間を最終的なジャンプ区間として検出してもよい。
(2−3.ターンの検出)
図10は、本開示の一実施形態において、ユーザのアクションに含まれるターン区間を検出するための処理の例を示すフローチャートである。図示された処理は、例えば上記の情報処理装置100に含まれるセンサデータ解析部104において実行される。以下の処理では、センサデータ解析部104が、ユーザのアクションに含まれる回転を検出し(S210)、さらにその回転に含まれる非ターン性の回転を検出し(S230)、回転から非ターン性の回転を除いたものの中からターンを検出する(S250)。
ここで、非ターン性の回転は、例えば、センサがユーザの頭部、またはユーザの頭部に装着される器具に装着されるセンサを含む場合に、ユーザの首振りによって発生する回転を含む。非ターン性の回転は、他にも、ユーザの体動によって発生する回転、より具体的には、センサがユーザの腕部、またはユーザの腕部に装着される器具に装着されるセンサを含む場合に、ユーザの腕振りや腕回しによって発生する回転などを含みうる。
本実施形態では、センサデータ解析部104が、このような非ターン性の回転を除いた上でターン区間を検出することで、より精度の高いターン区間の検出が可能になる。そのような意味で、非ターン性の回転は、検出対象であるターンに対するノイズであるともいえ、本実施形態において、センサデータ解析部104は、ユーザのアクションに含まれる回転を検出し、さらにその回転に含まれるノイズを検出し、回転からノイズを除いたものの中からターンを検出するともいえる。
まず、センサデータ解析部104は、回転区間検出処理(S210)を実行する。本実施形態において、回転区間は、水平面方向の角速度が閾値を超える区間として定義される。センサデータ解析部104は、回転区間が発生したか否かを判定する(S201)。回転区間が発生した場合、まず、センサデータ解析部104は、首振り(HEAD SHAKE)検出処理(S230)を実行する。さらに、センサデータ解析部104は、首振りが検出されたか否かを判定し(S203)、首振りが検出されなかった場合に、さらにターン検出処理(S250)を実行する。このような処理によって、回転区間からユーザの首振り(例えば、センサが頭部装着型のウェアラブル端末装置に搭載されている場合などに発生する)によって生じた区間が除かれ、さらに回転半径や角速度、持続時間などが所望の条件を満たすターン区間を抽出することができる。
図11は、図10に示した回転区間検出処理(S210)の例を示すフローチャートである。図11を参照すると、回転区間検出処理では、センサデータに含まれる加速度(D211)および角速度(D214)が利用される。まず、センサデータ解析部104に含まれる特徴量抽出部105が、加速度の平均値(mean)を算出する(S212)。ここで算出される平均値は、例えば移動平均でありうる。S212で算出された加速度の平均値に基づいて、特徴量抽出部105は重力成分加速度算出処理を実行する(S213)。さらに、特徴量抽出部105は、S213で算出された重力成分加速度と、角速度(D214)との内積を算出する(S215)。これによって、重力成分加速度の方向への角速度の射影、つまり水平面方向(鉛直軸回り)の角速度(V216)が得られる。
ここで、特徴量抽出部105は、算出された角速度を一旦積分して(S217)、水平面方向の角変位(V218)を算出する。特徴量抽出部105は、角変位をLPFで処理する(S219)。さらに、特徴量抽出部105は、角変位を微分して(S220)、水平面方向の角速度(V221)にする。V221の角速度は、V218の角速度と比較して、S217で一旦積分され、さらに積分後の角変位がS219でLPFによって処理されたことによってスムージングされ、波形からノイズが除去されている。センサデータ解析部104に含まれるアクション検出部106は、水平面方向の角速度(V221)が閾値を上回るか否かを判定し(S222)、角速度が閾値を上回る区間を回転区間として検出する(S223)。
図12は、図10に示した首振り検出処理(S230)の例を示すフローチャートである。図12を参照すると、首振り検出処理では、図11に示した回転区間検出処理で算出された、スムージング後の水平面方向の角速度(V221)を利用する。特徴量抽出部105は、角速度の符号を取得する(S231)。回転の向きに対する符号の定義はどのようなものでもよいが、図示された例において、角速度(V221)の符号として、時計回りの回転(V232)と、反時計回りの回転(V233)とを定義する。さらに、特徴量抽出部105は、逆向きの回転が発生した時間間隔を算出する(S234)。つまり、図示された例において、特徴量抽出部105は、時計回りの回転(V232)が発生してから反時計回りの回転(V233)が発生するまでの時間間隔、および反時計回りの回転(V233)が発生してから時計回りの回転(V232)が発生するまでの時間間隔を算出する。アクション検出部106は、S234で算出された時間間隔が閾値(TH)を下回るか否かを判定し(S235)、時間間隔が閾値を下回る場合に、首振りが発生していることを検出する(S236)。
図13は、図10に示したターン検出処理(S250)の例を示すチャートである。ターン検出処理では、特徴量抽出部105によって複数の特徴量が算出され、それぞれの特徴量に基づいてアクション検出部106が閾値による判定を実施する。図13には、特徴量抽出部105がそれぞれの特徴量を算出するための処理が示されている。なお、以下の説明ではそれぞれの特徴量の算出の処理を順を追って説明するが、特徴量抽出部105による処理は必ずしも説明の順序に実行されなくてもよく、前提になる量が取得または算出されていれば、任意の順序で処理が実行されうる。
まず、特徴量抽出部105は、センサデータに含まれる加速度(D251)のノルムを算出し(S252)、さらに所定のタイムフレームにおけるノルムの平均値を算出する(S253)。このようにして算出された加速度ノルム平均(V254)は、ターン検出のための特徴量の1つとして利用される。
一方、特徴量抽出部105は、加速度(D251)を第1のLPFで処理し(S273)、重力成分加速度(V274)を算出する。さらに、特徴量抽出部105は、センサデータに含まれる角速度(D255)と重力成分加速度との内積を算出する(S256)。これによって、重力成分加速度の方向への角速度の射影、つまり水平面方向(鉛直軸回り)の角速度(V257)が得られる。特徴量抽出部105は、算出された角速度を積分して(S258)、水平面方向の角変位(V259)を算出する。角変位(V259)も、ターン検出のための特徴量の1つとして利用される。
さらに、特徴量抽出部105は、角変位(V259)と、処理の対象になっている回転区間の持続時間(duration)(V260)とに基づいて、角速度(V261)を算出する。V261の角速度は、例えばD255の角速度と比べて、より長いタイムフレーム(例えば回転区間全体でスムージングされたものでありうる。回転区間の持続時間(V260)および角変化率(V261)も、ターン検出のための特徴量の1つとして利用される。
また、特徴量抽出部105は、角変位(V259)を所定のタイムフレームについて解析する(S262)ことによって、いくつかの特徴量を算出する。より具体的には、特徴量抽出部105は、タイムフレーム内での角速度の最大値(S263,V268)、平均値(S264,V269)、分散(S265,V270)、尖度(S266,V271)、および歪度(S267,V272)を算出する。これらの特徴量も、ターン検出のための特徴量として利用される。
一方で、特徴量抽出部105は、加速度(D251)を第2のLPFで処理する(S275)。図示された例では、第1のLPF(S273)が、加速度に含まれるDC成分である重力成分加速度(V274)を抽出するために用いられたのに対して、第2のLPF(S275)は、高周波領域をフィルタすることによって加速度をスムージングするために用いられる。従って、これらのLPFの通過帯域設定は異なりうる。
特徴量抽出部105は、第2のLPF(S275)によってスムージングされた加速度と、第1のLPF(S273)によって抽出された重力成分加速度(V274)との内積を算出する(S276)。これによって、鉛直方向加速度(V277)が得られる。さらに、特徴量抽出部105は、重力成分加速度(V274)と鉛直方向加速度(V277)とを合成した加速度ベクトルの、第2のLPF(S275)によってスムージングされた加速度との差分を算出する(S278)。これによって、水平方向加速度(V279)が得られる。特徴量抽出部105は、水平方向加速度の平均値を算出する(S280).このようにして算出された水平方向加速度の平均値(V281)も、ターン検出のための特徴量として利用される。
アクション検出部106は、例えば上記のようにしてセンサデータから抽出された特徴量に基づいて、ターンが発生したか否かの判定を実施する。図示された例において、アクション検出部106は、回転区間の持続時間(V260)、水平面方向の角変位(V259)、スムージングされた角速度(V261)、加速度ノルム平均(V254)、水平方向加速度の平均値(V281)、タイムフレーム内での角速度の最大値(V268)、平均値(V269)、分散(V270)、尖度(V271)、および歪度(V272)に基づいて判定を実施する。
なお、判定に用いられる特徴量は上記の例には限られず、例えば上記の例以外の特徴量が用いられてもよいし、上記の例の特徴量の一部が用いられなくてもよい。例えば、センサデータから抽出可能な様々な種類の特徴量の中から、実際にターンが発生したときのセンサデータに基づく主成分分析によって、ターン検出に使用する特徴量の種類が決定されてもよい。あるいは、実際にターンが発生したときに現れるセンサデータの傾向に基づいて、判定に用いられる特徴量が決定されてもよい。例えば、上記の例のうち、加速度ノルム平均(V254)および水平方向加速度の平均値(V281)は、ターンの回転半径に関係する特徴量である。
また、アクション検出部106による判定において適用される各特徴量の閾値は、例えば、実際にターンが発生した時のセンサデータに基づく機械学習の結果に従って決定される。このとき、実際にターンが発生したか否かは、例えば、センサデータと同時に取得されたアクションの映像を参照してマニュアルで決定されてもよい。また、単にターンが発生したか否かだけではなく、どのようなターンかを示すラベルが与えられてもよい。より具体的には、例えば、映像を参照した結果、サービス提供者側で、ターンとして検出したい、ターンとして検出したくない、またはどちらでもよいと判定されたアクションについて、それぞれの属性を示すラベルが与えられてもよい。
以上、本開示の一実施形態において実行されるアクション検出処理のいくつかの例について説明した。既に説明した通り、本実施形態で実行されるアクション検出処理はスノーボードで発生するジャンプやターンには限られず、例えばスノーボード以外のスポーツ、またはスポーツ以外のシーンで発生するジャンプやターンについてアクション検出処理が実行されてもよい。また、本実施形態で実行されるアクション検出処理では、ジャンプやターン以外のアクションが検出されてもよい。一例として、アクション検出部106は、スノーボードなどで発生する転倒を検出してもよい。この場合、特徴量抽出部105が上述したジャンプやターンの検出と同様にして加速度のノルムを算出し、アクション検出部106が、加速度のノルムが閾値(例えば、通常の滑走では発生しない程度の大きな値でありうる)を上回った場合に、転倒の発生を検出してもよい。
(3.付加的な処理の例)
(3−1.アクションスコアの算出)
例えば、解析結果処理部107に含まれるスコアリング処理部109は、上記で図2〜図13を参照して説明したような処理によって検出されるジャンプ区間および/またはターン区間を含むアクション区間について、発生したアクションを評価するスコア(アクションスコア)を算出する。アクションスコアは、例えばアクション区間におけるセンサデータから、アクションの良し悪しや特徴を表す物理量(特徴量)を抽出し、それらを重みづけ加算することによって算出されうる。サービス制御部112は、このようにして算出されたスコアに基づいて、アクション(例えばジャンプまたはターン)に関する情報を生成する。
例えば、ジャンプ区間の場合、区間の持続時間(duration)、区間におけるX軸/Y軸/Z軸回りの角変位)、自由落下区間の割合、踏切時/着地時の衝撃の大きさなどが、スコアを算出するための特徴量として抽出されうる。また、例えば、ターン区間の場合、区間の持続時間、変位角、各速度の平均値、最大値、および標準偏差、角加速度の最大値および標準偏差などが、スコアを算出するための特徴量として抽出されうる。
なお、重みづけ加算の係数は、例えば、情報処理装置100によって提供されるサービス113において重視されるアクションの性質に応じて設定されうる。また、特徴量からアクションのスコアを算出するための方法は重みづけ加算には限られず、他の計算方法が用いられてもよい。例えば、線形回帰モデルなど、機械学習のアルゴリズムを適用することによってアクションスコアを算出してもよい。
(3−2.クラスタリング処理)
また、例えば、解析結果処理部107に含まれるクラスタリング処理部108は、上記で図2〜図13を参照して説明したような処理によって検出されるジャンプ区間および/またはターン区間を含むアクション区間について、スコアリングのために抽出した特徴量などを利用してk−means法などのクラスタリングアルゴリズムを適用し、検出されたアクションをクラスタに分類する。ジャンプ区間やターン区間の場合、例えば、区間の持続時間の長短や、回転の大小によってアクションがクラスタに分類されてもよい。クラスタリングの結果は、例えば、サービスとしてダイジェスト動画を提供するような場合に、様々な種類のジャンプやターンなどのアクションが動画に含まれるようにアクション区間を抽出するために利用される。また、良かったアクションとそうでなかったアクションとを別々のクラスタに分類することによって、ユーザ自身がアクションを振り返ったり、アクションの改善のためのコーチングに役立てたりしてもよい。
なお、解析結果処理部107は、クラスタリングと同様の処理として、特徴量の相関係数に基づいてアクション区間同士の類似度を算出してもよい(類似度が高いアクション区間は、同じクラスタに分類されたアクション区間と同様に扱うことができる)。また、例えば、解析結果処理部107は、典型的なタイプのアクションの特徴量パターンを予め用意しておき、k−NN法などによって、新たに発生したアクションがどのタイプに該当するかを判定してもよい。
(3−3.センサ装着状態の推定)
図14は、本開示の一実施形態において、センサ装着状態を推定するための処理の例を示すブロック図である。より具体的には、図示された構成によって、センサデータを提供するセンサがユーザの身体に直接的に装着されているか、ユーザによって使用される器具に装着されているかが判定される。図示された処理は、例えば上記の情報処理装置100に含まれるセンサデータ解析部104において実行される。なお、図示された例では、フィルタの遮断周波数(Fc)やタイムフレームの長さが具体的に説明されているが、これらの数値は一例であり、実際のセンサの特性などに応じて適宜変更されうる。
図示された例において、情報処理装置100の受信部102は、3軸(u,v,w)の加速度センサ121によって提供されるセンサデータを受信する。センサデータ解析部104は、センサデバイス制御部103を介してこのセンサデータを取得する。センサデータ解析部104は、まず、センサデータに含まれる加速度を1段のHPF122(Fc=0.5Hz)で処理し、その後ノルム算出123を実行する。さらに、センサデータ解析部104は、ノルムを2段のLPF124(Fc=2Hz)および2段のHPF(Fc=7Hz)でそれぞれ処理した結果について、タイムフレーム2secでの振幅(最大値と最小値の差)を算出する(125,127)。これらの結果(AおよびB)について、A/Bを演算する(128)。その結果を1段のHPF129(Fc=0.25Hz)で処理し、閾値判定130を実施する。
上記のような判定の処理は、センサがユーザの身体に直接的に装着されている場合、身体がLPFとして機能することによって加速度の高周波成分が減衰することに基づいている。上記の例におけるA(LPF124を通過した低周波成分の振幅)/B(HPFを通過した高周波成分の振幅)は、元の加速度において高周波成分が減衰しているほど大きな値になる。従って、閾値判定130では、A/BをHPF129で処理した値が閾値よりも大きい場合にはセンサがユーザの身体に直接的に装着されていると判定し、そうでない場合にはセンサが器具に装着されていると判定することができる。
上記のような推定の結果は、例えば、センサデータ解析部104の内部で利用されてもよい。この場合、センサデータ解析部104は、上述したようなユーザのアクションの検出の処理において、閾値やフィルタの設定値などを、センサが身体に装着されているか器具に装着されているかによって変更してもよい。あるいは、上記のような推定の結果は、センサデバイス制御部103にフィードバックされ、センサデバイスの測定に関するパラメータなどの設定や、センサデバイス制御部103によるセンサデータの前処理方法などを決定するために利用されてもよい。
本実施形態では、例えば上記のセンサ装着状態の推定のように、センサデータの提供側の状態に関する推定に基づいて、センサデータの処理に関する適応的な制御が実施されてもよい。他の例として、センサデータ解析部104は、加速度センサなどによって検出された衝撃の強さや動きのパターンなどから、機械学習などのアルゴリズムを用いてアクションが発生しているスポーツの種類を推定してもよい。スポーツは、一般的に認識されている種目ごとに推定されてもよいし、ボードスポーツ、水上スポーツ、自転車競技、モータースポーツなどの系統ごとに推定されてもよい。また、例えば、センサデータ解析部104は、センサが器具に装着されている場合に、器具の種類(例えばスキーの場合、スキー板に装着されているか、ストックに装着されているか、など)を推定してもよい。推定の結果は、上記のセンサ装着状態の推定結果と同様に、例えばアクションの検出などにおける閾値やフィルタの設定値の制御に利用されてもよいし、センサデバイス制御部103にフィードバックされて、センサデバイスの制御やセンサデータの前処理方法の決定に利用されてもよい。
(4.情報生成の例)
以下、本開示の一実施形態に含まれる情報生成のいくつかの例について説明する。
(4−1.第1の例)
図15は、本開示の一実施形態に含まれる情報生成の第1の例における処理を示すフローチャートである。
図示された例では、まず、センサデータ解析部104に含まれるアクション検出部106が、アクション区間を検出する(S301)。アクション区間は、例えば、上記で図2〜図13を参照して説明したような処理によって検出されるジャンプ区間および/またはターン区間を含んでもよい。また、アクション区間は、歩く、走る、静止する、乗り物で移動するなどといった、センサデータに基づいて検出されるその他のユーザのアクションが発生した区間を含んでもよい。
次に、解析結果処理部107に含まれるスコアリング処理部109が、S301で検出されたアクション区間についてアクションスコアを算出する(S302)。さらに、アクション区間やアクションスコアに関するアクション情報と、ユーザID、位置情報、別途取得されたアクションの映像データなどを含むデータがアップロードされる(S303)。S303におけるアップロードは、例えば、センサデータ解析部104や解析結果処理部107の機能を実現するサーバから、サービス制御部112を実現するサーバへのアップロードであってもよい。あるいは、S303におけるアップロードは、センサデータ解析部104や解析結果処理部107の機能を実現する端末装置から、サービス制御部112を実現するサーバへのアップロードであってもよい。これらのサーバまたは端末装置が同じものである場合、アップロードは、例えば内部的なデータベースへの登録と読み替えられる。
S303において、例えば個々のユーザに関して検出されたアクション区間およびアクションスコアのアップロードを受け付けたサービス制御部112は、当該ユーザのスキルレベルを算出する(S304)。スキルレベルは、後述するように、例えば各ユーザについて算出されたアクションスコアの履歴に基づいて算出される。従って、図示された例において、サービス制御部112を実現するサーバでは、ユーザのアクションスコアの履歴を保持するデータベースが利用可能である。また、このサーバでは、ユーザのスキルレベルを保持するデータベースが利用可能であってもよく、S304でスキルレベルを算出したサービス制御部112は、スキルレベルのデータベースを更新してもよい。
S304で算出されたスキルレベルを利用して、サービス制御部112は、いくつかの処理を実行可能である。例えば、サービス制御部112は、入力されたユーザIDによって当該ユーザのスキルレベルを検索し(S305)、スキルレベルに関する情報を提供してもよい(S306)。また、サービス制御部112は、対象になるユーザのスキルレベルに基づいてランキング情報を計算し(S307)、これを提供してもよい(S308)。あるいは、サービス制御部112は、ランキング情報に基づいてアクション映像を共有するユーザを決定し(S309)、共有対象のユーザの映像データを取得してもよい(S310)。なお、ランキング情報の計算や、計算されたランキング情報を利用した処理の詳細については後述する。
また、サービス制御部112は、S303でアップロードされたデータに含まれる位置情報から、アクションが検出された施設のIDを検索し(S311)、当該施設において検出されたアクションのアクションスコアと、それぞれのアクションを実行したユーザのスキルレベルとの分布に基づいて施設レベルを算出し(S312)、施設レベルの情報を含む施設データを提供する(S313)。なお、施設レベルの算出処理の詳細についても後述する。サービス制御部112は、上述したいくつかの情報を提供するにあたり、ソーシャルメディアやWeb上であるユーザがリクエストした情報を他のユーザとの間で共有してもよい(S314)。
以下、上記で図15に示した例で算出されたそれぞれの情報について、さらに具体的に説明する。なお、これらの情報は、必ずしもすべてが算出されなくてもよく、一部だけが算出されてもよい。また、これらの情報に加えて、またはこれに代えて、他の種類の情報が算出されてもよい。
(スキルレベルの算出)
上記の図15の例では、各ユーザについて算出されたアクションスコアの履歴に基づいてスキルレベルが算出される(S304)。具体的な例として、スキルレベルは、以下の変数を含む式によって算出されるポイントの累計値に応じて決定されてもよい。
・アクションスコアの合計値
・アクションスコアの最大値
・アクションスコアの分布
・アクション種類のバリエーション(上述したクラスタリングの結果が利用できる)
・アクションが検出された施設のレベル
・アクションが検出された施設のバリエーション
・直近の期間でのアクション検出回数
・総アクション検出回数
・アクション検出頻度(総アクション検出回数/サービス利用期間)
・連続するアクションによって形成されるパターンの難易度
・目標達成率
なお、上記の目標達成率は、例えばユーザ自身が設定した目標の達成率であってもよい。あるいは、ユーザの現在のスキルレベルに応じた目標がサービスによって自動的に設定され、設定された目標を達成することによってスキルレベルが上昇してもよい。あるいは、自動的に設定される目標は、例えばそれを達成することが上級者またはサービスのヘビーユーザであることを意味し、達成すること自体が記録として残るものであってもよい。
(ランキングの生成)
上記の図15の例では、ユーザのスキルレベルに基づいてランキングが生成される(S307)。ランキングは、より具体的には、各ユーザについて算出されたスキルレベルを昇順に並べることによって生成される。ランキングは、例えば、全ユーザ(総合ランキング)や、あるユーザによって指定された範囲のユーザ(友人グループ内ランキング)について生成されてもよいし、地域、年代などのユーザの属性ごとに生成されてもよいし、アクションが検出された施設ごとに生成されてもよい。ランキングはサーバ上のデータベースに保存され、アクションが検出された時にリアルタイムで更新されてもよい。
(映像の共有)
上記の図15の例では、ランキング情報に基づいて選択されたユーザとの間で、アクション映像が共有される(S309,S310)。アクション映像は、例えば、センサデバイスとペアリングされたデジタルビデオカメラなどの撮像装置によって撮像された映像データから、アクション区間に対応する部分を切り出すことによって生成される。
ここで、共有されるアクション映像は、複数のアクション区間について生成されたアクション映像を、視聴環境に応じて数秒〜数十秒に編集したものでありうる。例えば、単一のユーザについてのアクション映像を編集する場合、アクションスコア上位または下位の映像を抽出したり、アクション映像を視聴するユーザがいる施設で検出されたアクションの映像を抽出したりしてもよい。また、複数のユーザについてのアクション映像を編集する場合、ランキングが上位のユーザの映像を抽出したり、アクション映像を視聴するユーザがいる施設でのランキングが上位のユーザの映像を抽出したり、アクション映像を視聴するユーザの友人グループに属するユーザの映像を抽出したり、直近の期間にアップロードされた映像を抽出したり、アクション映像を視聴するユーザに近いスキルレベルの他のユーザの映像を抽出したりしてもよい。
また、映像の編集では、単一のアクション映像を時系列で配列するだけではなく、画面を分割して複数のアクション映像を並行して再生したり、複数の映像を透過的に重畳して表示させたりしてもよい。また、生成されたアクション画像は、ソーシャルメディアやWebで共有または公開するためだけではなく、例えば広告としてパブリックディスプレイに表示させたり、コーチに送信してアドバイスをもらったりするために利用されてもよい。
(施設レベルの算出)
上記の図15の例では、位置情報に基づいて検索された施設について、当該施設において検出されたアクションのアクションスコアと、それぞれのアクションを実行したユーザのスキルレベルとの分布に基づいて施設レベルが算出される(S312)。施設レベルの算出にあたっては、例えば、スキルレベルに関係なく多くのユーザについてスコアの高いアクションが検出されている施設には、低いレベル(難易度が低いことを示す)が与えられてもよい。一方、スキルレベルの高いユーザだけについてスコアの高いアクションが検出されている施設には、高いレベル(難易度が高いことを示す)が与えられてもよい。また、転倒などのアクション(試みたアクションに失敗したことを示す)が検出されたことも、施設レベルに反映されてもよい。上記のような難易度を示すレベルに限らず、アクションが検出されたユーザの数に応じて人気度を示すレベルを算出することも可能である。
なお、施設は、例えばコースやコート、フィールドなど、アクションが発生しているスポーツの種類によって様々な形態でありうる。また、スキーの例でいえば、複数のコースを含むパークや、コース内の特定のジャンプ台などのように、様々な単位で施設を定義することができる。他のスポーツについても同様に、様々な単位で施設が定義されうる。
(画面表示例)
図16は、本開示の一実施形態に含まれる情報生成の第1の例における画面表示を示す図である。図16を参照すると、画面1000には、ユーザプロファイル1001が表示される。ユーザプロファイル1001の項目には、スキルレベル1003が含まれる。スキルレベル1003は、例えば図15に示したS304の処理で算出されたスキルレベルである。図示された例において、ユーザプロファイル1001には、スキルポイント1005がさらに含まれる。スキルポイント1005は、例えば上記で説明したように、スキルレベルを決定するために算出されたポイントであってもよい。
また、画面1000には、スキルランキング1007が表示される。スキルランキング1007は、例えば図15に示したS307の処理で生成されたランキングに基づいて表示される。図示された例において、スキルランキング1007は、総合ランキングの他、地域別ランキング(タブ1009を選択して表示)、施設別ランキング(タブ1011を選択して表示)、および年齢別ランキング(タブ1013を選択して表示)などについて表示可能である。
さらに、画面1000には、共有されたアクション映像1015が表示される。アクション映像1015は、例えば図15に示したS309,S310の処理によって共有される映像である。また、画面1000では、施設に関する表示(例えば施設名1017)について、施設情報1019をポップアップ表示させることが可能である。施設情報1019には、例えば図15に示したS312に処理によって算出される施設レベル1021が含まれる。
例えば上記のような画面1000を、ソーシャルメディアやWebサービス、スマートフォンなどのモバイルデバイスやウェアラブルデバイス用のアプリケーションなどを通じて公開することによって、ユーザは他のユーザとの間で様々な情報を共有し、自身のレベルを確認したり、友達などと競い合ったりすることができる。
(4−2.第2の例)
図17は、本開示の一実施形態に含まれる情報生成の第2の例における処理を示すフローチャートである。
図示された例では、まず、アクション区間検出(S301)、アクションスコア算出(S302)、データアップロード(S303)、およびスキルレベル算出(S304)の処理が、図15に示した第1の例と同様に実行される。
ここで、本例において、サービス制御部112は、画像マッチングによるユーザ検索(S321)、ならびに/または位置および方位によるユーザ検索(S322)を実行する。これらの処理は、情報の提供を受けようとするユーザ(第1のユーザ)に近接している他のユーザ(第2のユーザ)を検索する処理である。S321では、例えば、第1のユーザの視界に対応する撮像画像(以下、視界画像ともいう)に含まれる第2のユーザの顔が検出されてもよい。あるいは、S321では、例えば、第1のユーザの視界画像と第2のユーザの視界画像とに共通して含まれるランドマークが検出されてもよい。S322では、端末装置に搭載されたGPSなどによって取得される位置情報と、地磁気センサなどによって取得される方位の情報に基づいてユーザが検索される。より具体的には、サービス制御部112は、第1のユーザと第2のユーザとがそれぞれ所持している端末装置で取得される位置情報が近接しており、かつ第1のユーザが端末装置を向けていると推定される方位が、第1のユーザからみて第2のユーザがいる方位と近い場合に、第2のユーザが対象ユーザとして検出されてもよい。
さらに、サービス制御部112は、上記のS321またはS322において検索された第2のユーザを対象として、対象ユーザIDを取得する(S323)。対象ユーザIDを取得可能な第2のユーザは、例えば第1のユーザと同じサービス、または第1のユーザが利用しているサービスと連携しているサービスを利用している他のユーザでありうる。S323で取得された対象ユーザIDを利用して、サービス制御部112は、いくつかの処理を実行可能である。
例えば、サービス制御部112は、情報の提供を受けようとする第1のユーザと、対象ユーザとして検出された第2のユーザとの間で、S304で算出されたスキルレベルを比較する(S324)。サービス制御部112は、比較の結果に従って、第1のユーザおよび/または第2のユーザに通知を送信する(S325)。例えば、本実施形態において対戦型のスポーツで発生するアクションが検出される場合、S325では、S324の比較において第1のユーザのスキルレベルと第2のユーザのスキルレベルとが近い場合に、いずれかまたは両方のユーザに互いの存在または接近を知らせる通知が送信されうる。この場合、第1のユーザと第2のユーザとの位置が近接していることが条件とされてもよい。後述するように、この場合、第1のユーザおよび第2のユーザが承諾した場合には、これらのユーザが出会えるようにナビゲーションが提供されてもよい。
また、例えば、サービス制御部112は、S323で取得された対象ユーザIDを用いて、対象になる第2のユーザのスキルレベル情報を取得する(S326)。例えば情報の提供を受けようとする第1のユーザが装着している端末装置がグラス型やゴーグル型などのHMD(Head Mounted Display)である場合、サービス制御部112は、取得されたスキルレベル情報をHMDに表示させる(S327)。この場合、スキルレベル情報を表示する画像は、例えばHMDにおいて実空間の像に重畳して表示される。さらに、例えば、サービス制御部112は、S323で取得された対象ユーザIDを用いて、対象になる第2のユーザのアクション映像のデータを取得してもよい(S328)。第2のユーザのアクション映像も、第1のユーザが装着しているHMDで表示されうる(S327)。なお、HMDに代えて、ユーザがスマートフォンやタブレットなどを実空間にかざしている場合に、これらのモバイルデバイスのカメラとディスプレイとを利用して同様の情報が表示されてもよい。
(画面表示例)
図18は、本開示の一実施形態に含まれる情報生成の第2の例における画面表示を示す図である。図18を参照すると、画面1100(画面1100a,1100b)は、HMDを用いて、実空間の像Rに重畳して表示されている。画面1100aでは、上記の図17に示したS325の処理によって生成された通知1101が表示されている。上述のように、このような通知1101は、例えば、画面1100を見ているユーザ(第1のユーザ)に近いスキルレベルを有する他のユーザ(第2のユーザ)が近接した場合に表示されうる。
また、画面1100bでは、例えば画面1100aのような通知が表示された後に、第1のユーザおよび第2のユーザの承諾が得られたことによって、これらのユーザが出会えるようにナビゲーションが提供されている。図示された例において、画面1100bは、ナビゲーションのためのインストラクションテキスト1103、矢印1105、方位1107、およびレーダーマップ1109を含む。
図19も、本開示の一実施形態に含まれる情報生成の第2の例における画面表示を示す図である。図19を参照すると、画面1200(画面1200a,1200b)は、HMDを用いて、実空間の像Rに重畳して表示されている。画面1200aでは、実空間の像Rにおいて、他のユーザ(第2のユーザ)U2がスノーボードで滑走している。本例では、例えばこのHMDに搭載されたカメラが取得した画像に基づいて、ユーザU2が識別される(図17に示したS321)。あるいは、このHMDで取得された位置および方位と、ユーザU2が携帯または装着している端末装置で取得された位置(および方位)とに基づいて、ユーザU2が識別されてもよい(図17に示したS322)。図示された例では、識別されたユーザU2のスキルレベル情報1201が表示されている(図17に示したS326,S327)。一方、画面1200bでは、ユーザU2のスキルレベル情報1201に加えて、ユーザU2の過去のアクション画像1203が表示されている(図17に示したS326,S327,S328)。
(4−3.第3の例)
図20は、本開示の一実施形態に含まれる情報生成の第3の例を概念的に説明するための図である。図20を参照すると、スノーボードのコース142(施設の例)において、施設に設置されたカメラ141が、スノーボードで滑走しているユーザ143の映像を取得している。このとき、カメラ141は、ユーザ143がコース142上で実行したアクションを捉えた映像を取得している可能性がある。つまり、カメラ141が取得した映像は、ユーザのアクションを客観的な視点から捉えた映像として有用である可能性がある。
しかしながら、カメラ141が連続的に撮像している映像の中から、ユーザが所望する部分を適切に抽出することは容易ではない。そこで、本例では、サービス制御部112が、アクション区間の情報などに基づいて、映像の適切な部分を抽出する。これによって、ユーザが所望する映像の部分を適切に提供することができる。なお、本例の場合、上述したようなアクションスコアやスキルレベルの算出は、必ずしも実行されなくてもよい。
図21は、本開示の一実施形態に含まれる情報生成の第3の例における処理を示すフローチャートである。図示された例では、まず、センサデータ解析部104に含まれるアクション検出部106によるアクション区間検出(S301)の処理が、上記の第1および第2の例と同様に実行される。次に、アクション区間の映像受信リクエストが発行される(S341)。このリクエストは、例えば、センサデータ解析部104の機能を実現するサーバから、サービス制御部112を実現するサーバに送信されてもよい。あるいは、S341におけるリクエストは、センサデータ解析部104の機能を実現する端末装置から、サービス制御部112を実現するサーバに送信されてもよい。これらのサーバまたは端末装置が同じものである場合、リクエストの発行は、例えばデータを要求する内部的なコマンドの発行と読み替えられる。リクエストは、例えば、対象になるアクション区間の情報と、デバイスIDと、アクションが発生した位置を示す位置情報とを含みうる。
S341において映像受信リクエストを受け付けたサービス制御部112は、リクエストに含まれる位置情報に基づいて、施設に設置されたカメラの中から対象カメラを決定する(S342)。対象カメラは、例えば、リクエストに含まれる位置情報によって示されるアクションが発生した位置に、最も近い位置に設置されたカメラでありうる。さらに、サービス制御部112は、対象カメラによって取得された映像データから、リクエストに含まれるアクション区間を検索し(S343)、アクション区間についてのデータがあるか否か判定する(S344)。ここで、例えば、サービス制御部112は、映像データのタイムスタンプとアクション区間のタイムスタンプとを比較し、アクション区間に対応する時間の映像データが存在するか否かを判定する。さらに、サービス制御部112は、アクション区間の映像データについて画像解析を実施し、動きのある(アクションを実行している)被写体が映っているか否かを判定してもよい。
S344において、対象の映像データがあると判定された場合、さらに、サービス制御部112は、対象の映像データに基づいてサムネイル画像を作成する(S345)。図示された例において、サムネイル画像は、例えば対象の映像データから、アクション区間において1または複数の静止画像をキャプチャすることによって生成される。従って、この時点では、映像データに対して後述するS349のような加工は加えられていなくてもよい。サービス制御部112は、サムネイル画像をユーザが使用している端末装置に送信し(S346)、端末装置において、ユーザが映像のダウンロードを承諾するか否かの確認が実施される(S347)。ここで端末装置に送信されるサムネイル画像は、ユーザに、アクション区間(例えば、ジャンプ区間やターン区間)を撮影した映像が存在することを通知する情報の例である。端末装置では、ユーザが、操作入力によって、ダウンロードを承諾するか否かを決定する(S348)。
S348で、ユーザが映像のダウンロードを承諾した場合、サービス制御部112は、映像を加工する(S349)。より具体的には、サービス制御部112は、対象の映像データから、アクション区間に対応する区間を切り出す。さらに、サービス制御部112は、映像が提供される端末装置の性能(ディスプレイの解像度やプロセッサの処理能力、通信速度など)に応じて映像データのダウンコンバートなどの加工を実施してもよい。加工が終了すると、サービス制御部112は、加工後の映像を、ユーザが使用する端末装置に送信する(S350)。サービス制御部112は、端末装置で映像の受信が完了したか否かを確認し(S351)、映像の受信が完了した場合、必要に応じて課金処理を実行する(S352)。
ここで、上述したような端末装置とサーバとのやりとりは、それぞれ単一の端末装置とサーバとの間で実施されてもよいし、ユーザによって使用される複数の端末装置、および/またはネットワークを介して協働する複数のサーバ装置の間で実施されてもよい。例えば、S341でのリクエストの発行と、S347でのダウンロードの確認と、S350の映像が受信とが、単一の端末装置(例えば、ウェアラブルデバイスやモバイルデバイスでありうる)で実行される例がありうる。その一方で、上述の通り、S341のリクエストの発行は、サーバで実行されてもよい。また、ユーザが複数のウェアラブルデバイスやモバイルデバイスを装着している場合、リクエストを発行した端末装置とは別の端末装置でダウンロードを確認したり、さらに別の端末装置で映像を受信したりすることが可能でありうる。例えば、S346では複数の端末装置に同時にサムネイル画像が送信され、S347では、その複数の端末装置のうちのいずれか、より具体的にはユーザによる応答が取得された端末装置でダウンロードの確認が実施されてもよい。また、S347でのダウンロードの確認時に、ユーザは、S350で映像を受信する端末装置を選択または指定可能であってもよい。このような場合、S350で映像を受信する端末装置は、ウェアラブルデバイスやモバイルデバイスには限らず、その時点ではユーザから離れている(例えば自宅などにある)端末装置であってもよい。
図22は、図21に例に示した処理における映像の加工について説明するための図である。なお、図示された例において、検出されるアクションはジャンプを含む。図21に示した処理のS349において、サービス制御部112は、映像データからアクション区間に対応する区間を切り出す加工を実施する。このとき、映像144から切り出される区間144aは、アクション検出結果145においてユーザ143のアクション区間(図示された例ではジャンプ区間)として検出された区間145aよりも所定の長さ、または所定の割合だけ拡大された区間でありうる。例えばジャンプ区間の場合、ジャンプの踏切の前および着地の後についても映像に含まれている方が望ましい。このような場合、サービス制御部112は、映像の区間144aを、検出されたアクション区間145aよりも拡大する。
図23は、図21に示した処理における映像のダウンロードのためのユーザインターフェースについて説明するための図である。図23では、図21に示したS436,S348,S350,S351の処理が、サーバ147(情報処理装置100でありうる)と端末装置148との間の通信として示されている。例えば、S346の処理でサーバ147サムネイル画像を受信した端末装置148(図示された例ではタブレットまたはスマートフォンのようなモバイルデバイス)では、ディスプレイ149に、サムネイル画像1491と、映像のダウンロードを承諾するか否かの確認ダイアログ1492が表示される。ここで、ユーザは、例えばディスプレイ149上に設けられたタッチパネルなどを介した操作入力によって、ダウンロードを承諾するか否かを決定する。ダウンロードが承諾された場合、端末装置148からサーバ147にダウンロードのリクエストが送信される(S348)。
上述の通り、S348でユーザの承諾があったと判定された場合、加工された画像が、サーバ147から端末装置148にダウンロードされる(S350)。このとき、端末装置148のディスプレイ149には、ダウンロードされた映像の再生画面1493と、ダウンロードの完了を通知するメッセージ1494とが表示されてもよい。ダウンロードが完了すると、端末装置148からサーバ147に受信の完了通知が送信され(S351)、サーバ147はその後の課金処理などに移行する。
(4−4.第4の例)
図24は、本開示の一実施形態に含まれる情報生成の第4の例における処理を示すフローチャートである。本例では、検出されたアクション区間の情報に基づいて、アクション(例えばスポーツにおけるプレー)の上達支援のための情報が提供される。
図示された例では、まず、センサデータ解析部104に含まれるアクション検出部106によるアクション区間検出(S301)の処理が、上記の第1〜第3の例と同様に実行される。次に、解析結果処理部107に含まれるスコアリング処理部109が、上記の第1および第2の例と同様に、アクションスコアを算出してもよい(S302)。また、解析結果処理部107は、アクション区間における各種の物理量、または物理量から抽出される特徴量を可視化するためのデータを生成してもよい(S381)。ここで生成されるデータは、例えば、アクションに関する統計量をリアルタイムに更新しながら可視化することによって、アクションの改善に有用な情報として利用されうる。さらに、解析結果処理部107は、アクション区間において、アクション検出に用いられるセンサデータと、別途ユーザに装着された生体センサのデータとを同期させてもよい(S382)。
上記で解析結果処理部107によって生成されたデータは、例えば解析結果処理部107の機能を実現するサーバから、サービス制御部112を実現するサーバにアップロードされる(S383)。あるいは、S383におけるアップロードは、解析結果処理部107の機能を実現する端末装置から、サービス制御部112を実現するサーバへのアップロードであってもよい。これらのサーバまたは端末装置が同じものである場合、アップロードは、例えば内部的なデータベースへの登録と読み替えられる。
S383において、生成された情報のアップロードを受け付けたサービス制御部112は、コーチング情報の生成(S384)、および/または比較データの生成(S385)を実行する。S384で生成されるコーチング情報は、アップロードされた情報、例えば運動強度(脈拍数および呼吸数から算出される)、脈拍数、呼吸数、動きの安定度/不安定度、アクションスコアなどについて、ユーザの過去の履歴データから最新のデータに至る推移から抽出される。より具体的には、コーチング情報は、疲労度(アクション履歴から推定される)と集中度の推移から休憩のタイミングを通知したり、ユーザのコンディションの良し悪しを推定したり、過去の履歴データと比較して優れたアクションが検出された場合に通知したりする情報を含む。また、S385で生成される比較データは、例えば、新たに検出されたアクションについて、ユーザ自身の過去のデータや、他のユーザのデータと比較することによって、改善点を定量的に把握するためのデータである。このような比較データは、例えば、ユーザの傾き、方向、高さ、動きの安定度/不安定度、沈み込み、衝撃、速度(ベクトル)、加速度(ベクトル)、回転ベクトル(クォータニオン)などを時系列でマッチングし、相関および差分を導出することによって抽出されうる。
S384および/またはS385におけるデータの生成後、データのリクエストが発行される(S386)。このリクエストは、例えば、S383で情報をアップロードした、解析結果処理部107の機能を実現するサーバまたは端末装置から、サービス制御部112を実現するサーバに送信されてもよい。これらのサーバまたは端末装置が同じものである場合、リクエストの発行は、例えばデータを要求する内部的なコマンドの発行と読み替えられる。リクエストに応じて、サービス制御部112は、リクエストを発行したサーバまたは端末装置にデータを提供する(S387)。サーバは、提供されたデータをさらに端末装置に転送してもよい。端末装置に提供されたデータは、例えば、画面に表示される情報提示のためのユーザインターフェースによって出力される。
(画面表示例)
図25は、本開示の一実施形態に含まれる情報生成の第4の例における画面表示を示す図である。図25を参照すると、画面1500には、リアルタイムで検出されているユーザの方位および傾き1501と、同じくリアルタイムで検出されているユーザの生体情報(呼吸数と脈拍数)1503と、複数視点の切り替えボタン1505と、アクション区間内の過去の部分におけるユーザの残像1507と、物理量表示1509と、アクション区間内でのユーザの軌跡1511と、アクションスコアのレーダーチャート1513と、統計量1515と、物理的/心理的な状態を示すグラフ1517と、検出されたアクションの時系列表示1519と、動きの不安定度の時系列表示1521と、リラックス/緊張の度合いの時系列表示1523と、時系列表示を参照するためのシークバー1525とが表示される。
例えば、上記の方位および傾き1501や物理量表示1509、レーダーチャート1513、および統計量1515は、例えば図24に示したS381の処理で生成されうる。図示された例において、物理量表示1509は、回転角度表示1509a、ジャンプ高さ表示1509b、および速度表示1509cを含む。これらの表示要素は、例えばアクション区間における各種の物理量、物理量から抽出される特徴量、およびアクションスコアのように特徴量に基づいて算出される値を可視化する。例えば、これらの情報をリアルタイムに更新しながら可視化することによって、ユーザがアクションの改善点を把握することが容易になる。
また、上記の生体情報1503やグラフ1517、時系列表示1521,1523は、例えば図24に示したS382の処理で生成されうる。これらの表示要素は、例えばアクション区間における生体センサの検出値、およびその解析結果に基づいて表示される。なお、動きの不安定度は、加速度センサや角速度センサを含む慣性センサの検出値から抽出される。このように、アクション区間に同期された生体情報がフィードバックされることによって、ユーザがアクションを実行したときの心理状態などを把握し、アクションの改善につなげることが容易になる。
(4−5.ユーザのプロファイルについて)
上述したような本開示の一実施形態では、過去に検出されたアクションの種類によって、ユーザのプロファイルを作成することができる。例えば、ジャンプのアクションで、高いアクションスコアが安定的に算出されているユーザについては、「ジャンプの上級者」というプロファイルが与えられる。また、ジャンプのアクションスコアが低く、またジャンプの途中で転倒が検出されることが多いユーザについては、「ジャンプの初級者」というプロファイルが与えられる。
例えば、上記のようなプロファイルを利用して、本実施形態における情報生成の処理を異ならせてもよい。例えば、図24および図25に示した例でユーザの上達支援のための情報を提供するにあたり、ユーザのプロファイルを反映させてもよい。より具体的には、ユーザがジャンプの上級者である場合、まれに発生する転倒が検出されたジャンプに関する可視化された情報を、より詳細に提供してもよい。上級者はジャンプに成功するのが当たり前であるため、まれな失敗を詳細に分析することによって、さらなる上達の支援になると考えられるためである。逆に、ユーザがジャンプの初級者である場合、転倒が検出されない、成功したジャンプに関する可視化された情報を、より詳細に提供してもよい。初級者は、成功したジャンプを振り返ることで、安定してジャンプに成功できるようになるヒントをつかめる可能性があるためである。
(5.ハードウェア構成)
次に、図26を参照して、本開示の実施形態に係る情報処理装置のハードウェア構成について説明する。図26は、本開示の実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。
情報処理装置900は、CPU(Central Processing unit)901、ROM(Read Only Memory)903、およびRAM(Random Access Memory)905を含む。また、情報処理装置900は、ホストバス907、ブリッジ909、外部バス911、インターフェース913、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート923、通信装置925を含んでもよい。さらに、情報処理装置900は、必要に応じて、撮像装置933、およびセンサ935を含んでもよい。情報処理装置900は、CPU901に代えて、またはこれとともに、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、またはFPGA(Field-Programmable Gate Array)などの処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体927に記録された各種プログラムに従って、情報処理装置900内の動作全般またはその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータなどを記憶する。RAM905は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータなどを一次記憶する。CPU901、ROM903、およびRAM905は、CPUバスなどの内部バスにより構成されるホストバス907により相互に接続されている。さらに、ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチおよびレバーなど、ユーザによって操作される装置である。入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理装置900の操作に対応した携帯電話などの外部接続機器929であってもよい。入力装置915は、ユーザが入力した情報に基づいて入力信号を生成してCPU901に出力する入力制御回路を含む。ユーザは、この入力装置915を操作することによって、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりする。
出力装置917は、取得した情報をユーザに対して視覚や聴覚、触覚などの感覚を用いて通知することが可能な装置で構成される。出力装置917は、例えば、LCD(Liquid Crystal Display)または有機EL(Electro-Luminescence)ディスプレイなどの表示装置、スピーカまたはヘッドフォンなどの音声出力装置、もしくはバイブレータなどでありうる。出力装置917は、情報処理装置900の処理により得られた結果を、テキストもしくは画像などの映像、音声もしくは音響などの音声、またはバイブレーションなどとして出力する。
ストレージ装置919は、情報処理装置900の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)などの磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイスなどにより構成される。ストレージ装置919は、例えばCPU901が実行するプログラムや各種データ、および外部から取得した各種のデータなどを格納する。
ドライブ921は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブル記録媒体927のためのリーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ921は、装着されているリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されているリムーバブル記録媒体927に記録を書き込む。
接続ポート923は、機器を情報処理装置900に接続するためのポートである。接続ポート923は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポートなどでありうる。また、接続ポート923は、RS−232Cポート、光オーディオ端子、HDMI(登録商標)(High-Definition Multimedia Interface)ポートなどであってもよい。接続ポート923に外部接続機器929を接続することで、情報処理装置900と外部接続機器929との間で各種のデータが交換されうる。
通信装置925は、例えば、通信ネットワーク931に接続するための通信デバイスなどで構成された通信インターフェースである。通信装置925は、例えば、有線または無線のLAN(Local Area Network)、Bluetooth(登録商標)、NFC(Near Field Communication)、またはWUSB(Wireless USB)用の通信カードなどでありうる。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデムなどであってもよい。通信装置925は、例えば、インターネットや他の通信機器との間で、TCP/IPなどの所定のプロトコルを用いて信号などを送受信する。また、通信装置925に接続される通信ネットワーク931は、有線または無線によって接続されたネットワークであり、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信または衛星通信などを含みうる。
撮像装置933は、例えば、CMOS(Complementary Metal Oxide Semiconductor)またはCCD(Charge Coupled Device)などの撮像素子、および撮像素子への被写体像の結像を制御するためのレンズなどの各種の部材を用いて実空間を撮像し、撮像画像を生成する装置である。撮像装置933は、静止画を撮像するものであってもよいし、また動画を撮像するものであってもよい。
センサ935は、例えば、加速度センサ、角速度センサ、地磁気センサ、照度センサ、温度センサ、気圧センサ、圧力センサ、距離センサ、または音センサ(マイクロフォン)などの各種のセンサである。センサ935は、例えば情報処理装置900の筐体の姿勢など、情報処理装置900自体の状態に関する情報や、情報処理装置900の周辺の明るさや騒音など、情報処理装置900の周辺環境に関する情報を取得する。また、センサ935は、GNSS(Global Navigation Satellite System)信号を受信して装置の緯度、経度および高度を測定するGNSS受信機を含んでもよい。
以上、情報処理装置900のハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。かかる構成は、実施する時々の技術レベルに応じて適宜変更されうる。
(6.補足)
本開示の実施形態は、例えば、上記で説明したような情報処理装置、システム、情報処理装置またはシステムで実行される情報処理方法、情報処理装置を機能させるためのプログラム、およびプログラムが記録された一時的でない有形の媒体を含みうる。
(4.コンテンツ制御の例)
以下、本開示の一実施形態に含まれるコンテンツ制御のいくつかの例について説明する。いくつかの例において、情報処理装置100のサービス制御部112は、例えば、アクションの進行に並行して提供される視覚的または音声的なコンテンツの提供を制御する。このようなコンテンツは、例えば、アクションを実行するユーザまたはそれを観察する他のユーザにHMD(Head Mounted Display)などを利用してリアルタイムで提供されるビジュアルエフェクトやサウンドエフェクトなどを含みうる。あるいは、コンテンツは、事後的にアクションの映像とともに再生されるビジュアルエフェクトやサウンドエフェクトなどを含んでもよい。また、他のいくつかの例において、コンテンツは、アクションの映像そのものを含んでもよい。
(7−1.時系列スコアによる制御)
第1の例として、本実施形態において、情報処理装置100のサービス制御部112は、アクション検出部106によって検出されるユーザの一連のアクションを含む区間について時系列のスコアを算出し、このスコアを利用してコンテンツの制御を実施する。
図27は、本開示の一実施形態におけるコンテンツ制御のための時系列スコアの算出について説明するための図である。図示された例では、スノーボードをしているユーザのアクションとして、ジャンプ(例えば、上述した2つの例に係る検出方法によってそれぞれ検出される)、インパクト、(自由)落下、移動、ボードに乗っている状態、および転倒(クラッシュ)が検出されている。サービス制御部112は、例えばセンサデータ解析部104に含まれるアクション検出部106が検出されたアクションのそれぞれについてのアクションスコアを、必要に応じて重みづけして足し合わせることによって、図示された例のようなコンテンツ制御のための時系列スコアを算出する。ある時刻t1における時系列スコアS(t1)は、例えば、各アクションのスコアSAction(t1)と、それぞれのアクションに設定された重みWActionと(Actionはアクション名を示す)に基づいて、以下の式1によって算出される。
Figure 2016111069
ここで、各アクションのスコアSAction(t1)は、単純に時刻t1においてそのアクションが発生していたか否かを示してもよいし(その場合、SAction(t1)は0/1でありうる)、時刻t1、または時刻t1を含むアクション区間についてスコアリング処理部109が算出したスコアであってもよい。例えば、図示された例のように滑らかに変化する時系列スコアを算出する場合、各アクションのスコアSAction(t1)をスムージングした上で足し合わせてもよい。また、各アクションの重みWActionは、例えばスノーボードにおけるそれぞれのアクションの重要度に応じて設定されうる。
例えば、サービス制御部112は、算出された時系列スコアについて、1または複数の閾値(TH1,TH2)を設定し、時系列スコアが閾値を超えるか否かを基準にしてコンテンツ制御を実施してもよい。例えば、サービス制御部112は、時系列スコアが閾値を超えていた区間について、継続的に何らかのコンテンツを生成または出力させてもよい。あるいは、サービス制御部112は、時系列スコアが閾値を超えていた区間の最初と最後の少なくともいずれかで、何らかのコンテンツを生成または出力させてもよい。
より具体的な利用例として、サービス制御部112は、時系列スコアに基づいて、アクション映像のハイライトを抽出してもよい。アクション映像は、例えば、アクションを実行しているユーザを撮影した映像であり、センサデータと並行して取得される(センサデータを取得するセンサデバイスと、アクション映像を取得する撮像装置は異なる装置でありうる)。例えば、図示された例において、サービス制御部112は、スノーボードの滑走中に継続的に撮影されたアクション映像から、時系列スコアが閾値(TH1またはTH2)を超えている区間を、ハイライト映像として抽出してもよい。この区間は、例えばアクションが発生したときに、時系列スコアが上昇して閾値を上回ったタイミングと、その後時系列スコアが下降して閾値を下回ったタイミングとによって定義される。抽出の判定に閾値TH1を利用するか、閾値TH2を利用するかは、例えば予め指定されたハイライト映像の長さに応じて選択される。図示された例の場合、閾値TH1を判定に利用すればより短いハイライト映像が抽出され、閾値TH2を判定に利用すればより長いハイライト映像が抽出される。
また、他の例として、サービス制御部112は、時系列スコアに基づいて、アクション映像の再生を制御してもよい。より具体的には、サービス制御部112は、上記の例のようにハイライトが抽出されていないアクション映像を再生するにあたり、ユーザのシーク操作に応じて、または自動的に、時系列スコアが閾値(TH1またはTH2)を下回っている区間をスキップしてアクション映像を再生してもよい。上記の例と同様に、スキップの判定に閾値TH1を利用するか、閾値TH2を利用するかは、例えば予め指定された再生時間に応じて選択される。図示された例の場合、閾値TH1を判定に利用すればより短い時間でアクション映像が再生され、閾値TH2を判定に利用すればより長い時間でアクション映像が再生される。
また、例えば、サービス制御部112は、算出された時系列スコアの値に応じてコンテンツ制御を実施してもよい。例えば、サービス制御部112は、ある区間(上記の例と同様に、この区間も時系列スコアに応じて定義されうる)における時系列スコアの値(例えば、平均値、または最大値など)に応じて、当該区間でアクション映像の再生時に付加するエフェクトや、スコア自体を表示するか否かを制御してもよい。また、例えば、サービス制御部112は、時系列スコアの値に応じて、アクション映像とともに再生する楽曲やその音量を選択してもよい。より具体的には、サービス制御部112は、時系列スコアが高い区間では賑やかな曲を大きい音量で再生し、時系列スコアが低い区間では静かな曲を小さい音量で再生してもよい。
なお、上記のようなコンテンツ制御のための時系列スコアの算出は、スノーボードをしているユーザのアクションに限らず、その他のスポーツ、または日常生活などにおける、さまざまなシーンで発生するアクションについて適用可能である。例えば、上記の例のように、そのシーンで発生する複数のアクションについてのスコア(発生を示す0/1の値、または算出されたスコア)を足し合わせることによって時系列スコアが算出されてもよいし、単一のアクションについてのスコアがそのまま時系列スコアとして利用されてもよい。また、センサデータに基づいて検出されたアクション以外に関するスコア、より具体的にはユーザの操作入力に基づくスコアや、位置情報の検出、チェックイン情報(例えば、NFCなどを利用したユーザの明示的な操作によるチェックインや、位置情報を利用したジオフェンス、無線LANなどの電波の受信範囲、国際公開2014/125689号に記載された無線局クラスタなどによって定義される)などに基づくスコアが、アクションのスコアとともに時系列スコアの算出に用いられてもよい。また、このような場合、サービス制御部112は、スポーツにおいて発生するアクションと、そうでないアクションとの間で、コンテンツ提供の制御を変更してもよい。
図28は、本開示の一実施形態における時系列スコアを利用したコンテンツ制御の例について説明するための図である。図示された例では、アクション画像の再生速度が、時系列スコアに基づいて連続的に制御されている。より具体的には、サービス制御部112は、ある時刻t1における時系列スコアS(t1)に所定の係数αをかけることによって、時刻t1における再生スピードSp(t1)を決定してもよい。つまり、
Sp(t1)=α・S(t1)
であってもよい。図示された例では、マイナスの係数αが、時系列スコアが最小の場合に再生速度が通常の速度(1.0倍)になり、時系列スコアが最大の場合に再生速度が通常の半分(0.5倍)になるように設定されている。これによって、時系列スコアが高い部分でアクション映像を自動的にスロー再生することができる。別の例として、時系列スコアが最大の場合に再生速度が通常の速度(1.0倍)になり、時系列スコアがそれよりも小さくなるにしたがって再生速度がさらに大きくなる(>1.0倍)ようにすれば、時系列スコアが高くない部分でアクション映像を自動的に早送りすることができる。
(7−2.アクションに関連して定義されるタイミングによる制御)
第2の例として、本実施形態において、情報処理装置100のサービス制御部112は、アクション検出部106によって検出されるユーザのアクションに関連して定義される少なくとも2つのタイミングを特定し、これらのタイミングに応じてコンテンツの制御を実施する。
図29は、本開示の一実施形態においてアクションに関連して定義されるタイミングの例について説明するための図である。図示された例では、アクション検出部106が例えば上記で図10を参照して説明したような検出処理を実行し、ユーザのターンを検出している。本例において、アクション検出部106は、回転の向きによって時計回りのターン(CW)と反時計回りのターン(CCW)を識別する。
図には、これらの2種類のターンの検出タイミングが、時系列で示されている。例えばスノーボードで滑走中のユーザのアクションを検出した場合、図示された例のように、時計回りのターンと反時計回りのターンとがほぼ一定の時間間隔で規則的に連続して発生する区間が存在しうる。このような場合、連続して発生するターンによって定義される一連のタイミングに基づいて、サービス制御部112は、例えば連続するターンの最初のタイミングと最後のタイミングとを含む区間s1や、回転の向きが異なるターン同士のタイミングの間隔d1、回転の向きが同じであるターン同士のタイミングの間隔d2などを定義し、これらに基づいてコンテンツの制御を実施することができる。
例えば、サービス制御部112は、間隔d1または間隔d2に対応するテンポの楽曲を選択して、区間s1の少なくとも一部を含む区間でアクション映像とともに再生してもよい。このとき、サービス制御部112は、少なくとも区間s1を含む区間で楽曲を再生する。より具体的には、例えば、サービス制御部112は、区間s1の始点(最初のターンのタイミング)から楽曲の再生を開始してもよいし、それよりも前から楽曲の再生を開始してもよい。あるいは、サービス制御部112は、ユーザの滑走中に、リアルタイムでそのような楽曲を再生してもよい。この場合、サービス制御部112は、区間s1の最初に、いくつかの間隔d1または間隔d2が連続して検出された時点で楽曲を選択して再生を開始する。サービス制御部112は、区間s1の終点(最後のターンのタイミング)でフェイドアウトなどによって楽曲の再生を終了してもよいし、区間s1の終了後も、例えば次のターンの連続が検出されるまで当該楽曲の再生を継続してもよい。
ここで、間隔d1または間隔d2に対応するテンポの楽曲は、例えば、間隔d1または間隔d2の逆数、つまりターンの出現周波数に近いBPM(Beats Per Minute)で進行する楽曲でありうる。このとき、ターンの出現周波数にある程度近いBPMの楽曲のテンポを微調整して、ターンの出現周波数に合わせてもよい。
また、例えば、サービス制御部112は、間隔d1または間隔d2に対応するタイミングで進行する(例えば、繰り返される)ビジュアルエフェクト(例えばアニメーションやアバターなど)またはサウンドエフェクトを生成し、区間s1の少なくとも一部を含む区間でアクション映像とともに再生してもよい。上記の楽曲の例と同様に、サービス制御部112は、例えばユーザが装着しているHMDなどを用いて、リアルタイムでビジュアルエフェクトやサウンドエフェクトを提供してもよい。
なお、上記のようなアクションに関連して定義されるタイミングによるコンテンツの制御は、スノーボードの滑走中に発生する連続したターンの場合には限らず、例えば連続したジャンプなどの場合にも適用可能である。また、上記のような制御は、その他のスポーツ、または日常生活などにおいて、何らかのアクションが周期的に発生する場合にも、同様に適用可能である。このような場合、サービス制御部112は、スポーツにおいて発生するアクションと、そうでないアクションとの間で、コンテンツ提供の制御を変更してもよい。また、このような場合、例えば上記の例のような楽曲の選択にあたっては、検出されたアクションと位置情報、アクションが発生した前後のコンテキストなどに基づいて推定される、ユーザの高次の行動情報が利用されてもよい。例えば、周期的に発生する歩行のアクションに合わせて楽曲を再生するときに、その歩行が移動中であるのか、散歩中であるのか、買い物中であるのかといったような高次の行動情報が利用できれば、ユーザの状況により適合した楽曲を選択することができる。
図30は、本開示の一実施形態においてアクションに関連して定義されるタイミングで提供されるエフェクトの第1の例を示す図である。図示された例では、アクション映像を再生する画面1100において、ジャンプの踏み切りおよび着地のタイミングに合わせて、ビジュアルエフェクトおよびサウンドエフェクトが提供される。より具体的には、図示された例において、ジャンプの踏み切り時の画面1100aでは、「Jump!!」というテキストのビジュアルエフェクト1101が表示される。さらに、ジャンプの着地時の画面1100bでは、サウンドエフェクトSEが出力されている。
ここで、例えば解析結果処理部107に含まれるスコアリング処理部109が算出するアクションスコアに応じて、提供されるエフェクトが変更されてもよい。例えば、図30に示した例ではビジュアルエフェクト1101およびサウンドエフェクトSEの両方が提供されているが、アクションスコアが低かった場合には、ビジュアルエフェクト1101だけが提供されてもよい。さらに、アクションスコアが低かった場合には、ビジュアルエフェクト1101のサイズが小さくなったり、エフェクトが地味になったりしてもよい。アクションの種類と、アクションスコアに応じたエフェクトの種類の制御の例を、以下の表1に示す。
Figure 2016111069
図31は、本開示の一実施形態においてアクションに関連して定義されるタイミングで提供されるエフェクトの第2の例を示す図である。図示された例では、アクション映像を再生する画面1200において、ジャンプの踏み切りおよび着地のタイミングを基準にして、ビジュアルエフェクトの一種であるアニメーション1201が表示される。より具体的には、図示された例において、ジャンプの踏み切り時の画面1200aでは、滞空時間を示すカウンタが回転中であることを示すアニメーション1201aが表示される。さらに、ジャンプの着地時の画面1200bでは、カウンタが止まって滞空時間が確定されたアニメーション1201bが表示される。より詳細には、アニメーション1201aのカウンタは、踏み切りの後、ユーザが滞空状態にある間にカウントアップされ、着地の時点でストップしてもよい。
このように、本実施形態において、サービス制御部112は、一連のビジュアルエフェクトやサウンドエフェクトの動作を、アクションに関連して定義されるタイミングを基準にして変化させてもよい。より具体的には、サービス制御部112は、上記の例におけるジャンプの踏み切りおよび着地のように2つのタイミング(第1のタイミングおよび第2のタイミング)が定義されている場合に、その少なくともいずれかで動作が変化するビジュアルエフェクトやサウンドエフェクトを提供してもよい。
図32は、本開示の一実施形態においてアクションに関連して定義されるタイミングで提供されるエフェクトの第3の例を示す図である。図示された例では、上記の第2の例と同様に、アクション画像を再生する画面1300において、ジャンプの踏み切りおよび着地のタイミングを基準にしてアニメーション1301が表示される。より具体的には、図示された例において、ジャンプの踏み切り時の画面1300aでは、ジャンプのアクションスコアを示すカウンタが回転中であることを示すアニメーション1301aが表示される。さらに、ジャンプの着地時の画面1300bでは、カウンタが止まってアクションスコアが確定されたアニメーション1301bが表示される。より詳細には、アニメーション1301aのカウンタでは、踏み切りの後、ユーザが滞空状態にある間にランダムにスコアが変化し、着地の時点でストップしてもよい。あるいは、ジャンプが実行された後に採点される様子を再現するために、ジャンプの着地の直後にアニメーション1301aの回転するカウンタが表示され、所定の時間の経過後にアクションスコアが確定したアニメーション1301bが表示されてもよい。例えばこのような場合、アニメーション1301を、ユーザが装着しているHMDなどを用いてリアルタイムで表示させることも可能である。
図33は、本開示の一実施形態においてアクションに関連して定義されるタイミングで提供されるエフェクトの第4の例を示す図である。図示された例では、HMDなどを用いて実空間の像Rに重畳して表示される画像1400において、実空間に存在する人物の被写体(OBJ)の振り向き(首振り)に合わせて、被写体(OBJ)の顔の周辺に星のビジュアルエフェクト1401が表示されている。
このようなビジュアルエフェクト1401の表示は、例えば、被写体(OBJ)に装着された加速度センサおよび角速度センサなどによって提供されるセンサデータに基づいて被写体(OBJ)の首振りのアクションを検出し、首振りが検出されたタイミングで画像1400にビジュアルエフェクト1401を表示させることによって可能になる。被写体(OBJ)の顔の位置は、例えば公知の顔検出の技術を利用して特定されうる。ビジュアルエフェクト1401と同様にして、アニメーションやサウンドエフェクトが出力されてもよい。
(7−3.ユーザのプロファイルについて)
上述したような本開示の一実施形態では、過去に検出されたアクションの種類によって、ユーザのプロファイルを作成することができる。例えば、ジャンプのアクションで、高いアクションスコアが安定的に算出されているユーザについては、「ジャンプの上級者」というプロファイルが与えられる。また、ジャンプのアクションスコアが低く、またジャンプの途中で転倒が検出されることが多いユーザについては、「ジャンプの初級者」というプロファイルが与えられる。
例えば、上記のようなプロファイルを利用して、本実施形態におけるコンテンツ制御の処理を異ならせてもよい。例えば、図27に示した例で算出される時系列スコアを利用したハイライト映像の生成において、ユーザのプロファイルに基づいて、優先的に抽出する区間を決定してもよい。より具体的には、ユーザがジャンプの上級者である場合、まれに発生する転倒が検出されたジャンプの区間を優先的に抽出してもよい。上級者はジャンプに成功するのが当たり前であるため、まれな失敗を詳細に分析することによって、さらなる上達の支援になると考えられるためである。また、上級者は、成功したジャンプの映像を観て楽しむことも多いと考えられるため、例えばタイムラプスエフェクトのような控えめなエフェクトを追加してもよい。
一方、ユーザがジャンプの初級者である場合、転倒が検出されない、成功したジャンプの区間を優先的に抽出してもよい。初級者は、成功したジャンプを振り返ることで、安定してジャンプに成功できるようになるヒントをつかめる可能性があるためである。あるいは、初級者の場合、成功したジャンプと失敗したジャンプとが比較しやすいように、これらが連続して再生されるように抽出された映像を配列してもよい。また、初級者は、ジャンプが成功したことを喜ぶことも多いと考えられるため、例えばアニメーションやアバター、サウンドエフェクトのような、派手なエフェクトを追加してもよい。
(8.ハードウェア構成)
次に、図34を参照して、本開示の実施形態に係る情報処理装置のハードウェア構成について説明する。図34は、本開示の実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。
情報処理装置900は、CPU(Central Processing unit)901、ROM(Read Only Memory)903、およびRAM(Random Access Memory)905を含む。また、情報処理装置900は、ホストバス907、ブリッジ909、外部バス911、インターフェース913、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート923、通信装置925を含んでもよい。さらに、情報処理装置900は、必要に応じて、撮像装置933、およびセンサ935を含んでもよい。情報処理装置900は、CPU901に代えて、またはこれとともに、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、またはFPGA(Field-Programmable Gate Array)などの処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体927に記録された各種プログラムに従って、情報処理装置900内の動作全般またはその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータなどを記憶する。RAM905は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータなどを一次記憶する。CPU901、ROM903、およびRAM905は、CPUバスなどの内部バスにより構成されるホストバス907により相互に接続されている。さらに、ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチおよびレバーなど、ユーザによって操作される装置である。入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理装置900の操作に対応した携帯電話などの外部接続機器929であってもよい。入力装置915は、ユーザが入力した情報に基づいて入力信号を生成してCPU901に出力する入力制御回路を含む。ユーザは、この入力装置915を操作することによって、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりする。
出力装置917は、取得した情報をユーザに対して視覚や聴覚、触覚などの感覚を用いて通知することが可能な装置で構成される。出力装置917は、例えば、LCD(Liquid Crystal Display)または有機EL(Electro-Luminescence)ディスプレイなどの表示装置、スピーカまたはヘッドフォンなどの音声出力装置、もしくはバイブレータなどでありうる。出力装置917は、情報処理装置900の処理により得られた結果を、テキストもしくは画像などの映像、音声もしくは音響などの音声、またはバイブレーションなどとして出力する。
ストレージ装置919は、情報処理装置900の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)などの磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイスなどにより構成される。ストレージ装置919は、例えばCPU901が実行するプログラムや各種データ、および外部から取得した各種のデータなどを格納する。
ドライブ921は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブル記録媒体927のためのリーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ921は、装着されているリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されているリムーバブル記録媒体927に記録を書き込む。
接続ポート923は、機器を情報処理装置900に接続するためのポートである。接続ポート923は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポートなどでありうる。また、接続ポート923は、RS−232Cポート、光オーディオ端子、HDMI(登録商標)(High-Definition Multimedia Interface)ポートなどであってもよい。接続ポート923に外部接続機器929を接続することで、情報処理装置900と外部接続機器929との間で各種のデータが交換されうる。
通信装置925は、例えば、通信ネットワーク931に接続するための通信デバイスなどで構成された通信インターフェースである。通信装置925は、例えば、有線または無線のLAN(Local Area Network)、Bluetooth(登録商標)、NFC(Near Field Communication)、またはWUSB(Wireless USB)用の通信カードなどでありうる。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデムなどであってもよい。通信装置925は、例えば、インターネットや他の通信機器との間で、TCP/IPなどの所定のプロトコルを用いて信号などを送受信する。また、通信装置925に接続される通信ネットワーク931は、有線または無線によって接続されたネットワークであり、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信または衛星通信などを含みうる。
撮像装置933は、例えば、CMOS(Complementary Metal Oxide Semiconductor)またはCCD(Charge Coupled Device)などの撮像素子、および撮像素子への被写体像の結像を制御するためのレンズなどの各種の部材を用いて実空間を撮像し、撮像画像を生成する装置である。撮像装置933は、静止画を撮像するものであってもよいし、また動画を撮像するものであってもよい。
センサ935は、例えば、加速度センサ、角速度センサ、地磁気センサ、照度センサ、温度センサ、気圧センサ、圧力センサ、距離センサ、または音センサ(マイクロフォン)などの各種のセンサである。センサ935は、例えば情報処理装置900の筐体の姿勢など、情報処理装置900自体の状態に関する情報や、情報処理装置900の周辺の明るさや騒音など、情報処理装置900の周辺環境に関する情報を取得する。また、センサ935は、GNSS(Global Navigation Satellite System)信号を受信して装置の緯度、経度および高度を測定するGNSS受信機を含んでもよい。
以上、情報処理装置900のハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。かかる構成は、実施する時々の技術レベルに応じて適宜変更されうる。
(9.補足)
本開示の実施形態は、例えば、上記で説明したような情報処理装置、システム、情報処理装置またはシステムで実行される情報処理方法、情報処理装置を機能させるためのプログラム、およびプログラムが記録された一時的でない有形の媒体を含みうる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得するセンサデータ取得部と、
前記センサデータに基づいて前記ユーザのアクションを検出し、前記アクションはターンを含むアクション検出部と、
前記ターンに関する情報を生成する情報生成部と
を備える情報処理装置。
(2)前記アクション検出部は、前記ユーザのアクションに含まれる回転を検出し、前記回転に含まれる非ターン性の回転を検出し、前記回転から前記非ターン性の回転を除いたものの中から前記ターンを検出する、前記(1)に記載の情報処理装置。
(3)前記センサは、前記ユーザの頭部、または前記ユーザの頭部に装着される器具に装着されたセンサを含み、
前記非ターン性の回転は、前記ユーザの首振りによって発生する回転を含む、前記(2)に記載の情報処理装置。
(4)前記アクション検出部は、逆向きの回転が閾値以下の時間間隔で連続する場合に、前記ユーザの首振りによって発生する回転を検出する、前記(3)に記載の情報処理装置。
(5)前記センサは、加速度センサおよび角速度センサを含み、
前記アクション検出部は、前記センサデータから抽出される特徴量に基づいて前記アクションを検出する、前記(1)〜(4)のいずれか1項に記載の情報処理装置。
(6)前記ターンを評価するスコアを算出するスコアリング処理部をさらに備え、
前記情報生成部は、前記スコアに基づいて前記ターンに関する情報を生成する、前記(1)〜(5)のいずれか1項に記載の情報処理装置。
(7)前記情報生成部は、前記スコアに基づいて推定される、前記ユーザのターンのスキルレベルを含む情報を生成する、前記(6)に記載の情報処理装置。
(8)前記情報生成部は、前記スキルレベルに基づいて決定される、前記ユーザのターンのスキルに関するランキングを含む情報を生成する、前記(7)に記載の情報処理装置。
(9)前記情報生成部は、前記スキルレベルに基づいて決定される、前記ターンが実行される施設ごとの評価を含む情報を生成する、前記(7)または(8)に記載の情報処理装置。
(10)前記ユーザは、第1のユーザおよび第2のユーザを含み、
前記情報生成部は、前記スキルレベルを前記第1のユーザと前記第2のユーザとの間で比較することによって前記ターンに関する情報を生成する、前記(7)〜(9)のいずれか1項に記載の情報処理装置。
(11)前記情報生成部は、前記第1のユーザと前記第2のユーザとスキルレベルが近い場合に、前記第2のユーザの存在を前記第1のユーザに通知する情報を生成する、前記(10)に記載の情報処理装置。
(12)前記情報生成部は、前記第1のユーザと前記第2のユーザとの位置が近接している場合に、前記第2のユーザの存在を前記第1のユーザに通知する情報を生成する、前記(11)に記載の情報処理装置。
(13)前記スコアリング処理部は、前記ターンの持続時間、角変位、または角速度もしくは角加速度の統計量を評価する、前記(6)〜(12)のいずれか1項に記載の情報処理装置。
(14)前記アクションは前記ターンと、ジャンプまたは転倒とを含み、
前記情報生成部は、前記ターンと、前記ジャンプまたは前記転倒とに関する情報を生成する、前記(1)〜(13)のいずれか1項に記載の情報処理装置。
(15)前記ジャンプを評価するスコアを算出するスコアリング処理部をさらに備え、
前記スコアリング処理部は、前記ジャンプの持続時間、前記ジャンプの間の角変位、前記ジャンプの間の自由落下の度合い、前記ジャンプの踏切時または着地時の衝撃を評価する、前記(14)に記載の情報処理装置。
(16)前記ターンを評価するターンスコア、および前記ジャンプを評価するジャンプスコアを算出するスコアリング処理部をさらに備え、
前記情報生成部は、前記ターンスコアおよび前記ジャンプスコアに基づいて推定される、前記ユーザのスキルレベルを含む情報を生成する、前記(14)または(15)に記載の情報処理装置。
(17)前記情報生成部は、前記ターンを撮影した映像が存在することを前記ユーザに通知する情報を生成する、前記(1)〜(16)のいずれか1項に記載の情報処理装置。
(18)前記情報生成部は、前記ターンに関する量を時系列で可視化するための情報を生成する、前記(1)〜(17)のいずれか1項に記載の情報処理装置。
(19)ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得することと、
プロセッサが、前記センサデータに基づいて前記ユーザのアクションを検出し、前記アクションはターンを含むことと、
前記ターンに関する情報を生成することと
を含む情報処理方法。
(20)ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得する機能と、
前記センサデータに基づいて前記ユーザのアクションを検出し、前記アクションはターンを含む機能と、
前記ターンに関する情報を生成する機能と
をコンピュータに実現させるためのプログラム。
また、以下のような構成も本開示の技術的範囲に属する。
(1)ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを受信するセンサデータ受信部と、
前記センサデータに基づいて前記ユーザのアクションを検出するアクション検出部と、
前記検出されたアクションに関連して定義されるタイミングを基準にして前記アクションに関連するコンテンツの提供を制御するコンテンツ制御部と
を備える情報処理装置。
(2)前記コンテンツは、前記アクションの進行に並行して提供される視覚的なまたは音声的なコンテンツを含む、前記(1)に記載の情報処理装置。
(3)前記タイミングは、第1のタイミングと第2のタイミングとを含み、
前記コンテンツ制御部は、少なくとも前記第1のタイミングと前記第2のタイミングとを含む区間で前記コンテンツを提供する、前記(2)に記載の情報処理装置。
(4)前記コンテンツ制御部は、前記第1のタイミングを始点とする、または前記第2のタイミングを終点とする前記コンテンツを提供する、前記(3)に記載の情報処理装置。
(5)前記コンテンツ制御部は、前記第1のタイミングまたは前記第2のタイミングの少なくともいずれかで動作が変化する前記コンテンツを提供する、前記(3)または(4)に記載の情報処理装置。
(6)前記タイミングは、規則的に連続して発生する前記アクションによって定義される一連のタイミングを含み、
前記コンテンツ制御部は、その少なくとも一部が前記一連のタイミングに対応したテンポで進行するコンテンツを提供する、前記(2)〜(5)のいずれか1項に記載の情報処理装置。
(7)前記コンテンツ制御部は、前記テンポで進行する楽曲を選択する、前記(6)に記載の情報処理装置。
(8)前記コンテンツ制御部は、前記テンポで進行する視覚的または音声的なエフェクトを生成する、前記(6)または(7)に記載の情報処理装置。
(9)前記コンテンツは、前記アクションを実行するユーザまたはそれを観察する他のユーザにリアルタイムで提供されるコンテンツを含む、前記(2)〜(8)のいずれか1項に記載の情報処理装置。
(10)前記コンテンツは、前記アクションの映像とともに再生されるコンテンツを含む、前記(2)〜(8)のいずれか1項に記載の情報処理装置。
(11)前記アクションは、スポーツにおいて発生する第1のアクションと、そうでない第2のアクションとを含み、
前記コンテンツ制御部は、前記第1のアクションと前記第2のアクションとの間で前記コンテンツの提供の制御を変更する、前記(1)〜(10)のいずれか1項に記載の情報処理装置。
(12)前記コンテンツは、前記アクションの映像を含む、前記(1)〜(11)のいずれか1項に記載の情報処理装置。
(13)前記タイミングは、第1のタイミングと第2のタイミングとを含み、
前記コンテンツ制御部は、少なくとも前記第1のタイミングと前記第2のタイミングとを含む区間で前記アクションの画像を抽出する、前記(12)に記載の情報処理装置。
(14)前記コンテンツ制御部は、前記アクションに基づいて特定される前記ユーザのプロファイルにさらに基づいて前記コンテンツの提供を制御する、前記(1)〜(13)のいずれか1項に記載の情報処理装置。
(15)前記アクションを評価するスコアを算出するスコアリング処理部をさらに備え、
前記コンテンツ制御部は、前記スコアにさらに基づいて前記コンテンツの提供を制御する、前記(1)〜(14)のいずれか1項に記載の情報処理装置。
(16)ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを受信することと、
前記センサデータに基づいて前記ユーザのアクションを検出することと、
プロセッサが、前記検出されたアクションに関連して定義されるタイミングを基準にして前記アクションに関連するコンテンツの提供を制御することと
を含む情報処理方法。
(17)ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを受信する機能と、
前記センサデータに基づいて前記ユーザのアクションを検出する機能と、
前記検出されたアクションに関連して定義されるタイミングを基準にして前記アクションに関連するコンテンツの提供を制御する機能と
をコンピュータに実現させるためのプログラム。
100 情報処理装置
101 送信部
102 受信部
103 センサデバイス制御部
104 センサデータ解析部
105 特徴量抽出部
106 アクション検出部
107 解析結果処理部
108 クラスタリング処理部
109 スコアリング処理部
112 サービス制御部

Claims (20)

  1. ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得するセンサデータ取得部と、
    前記センサデータに基づいて前記ユーザのアクションを検出し、前記アクションはターンを含むアクション検出部と、
    前記ターンに関する情報を生成する情報生成部と
    を備える情報処理装置。
  2. 前記アクション検出部は、
    前記ユーザのアクションに含まれる回転を検出し、
    前記回転に含まれる非ターン性の回転を検出し、
    前記回転から前記非ターン性の回転を除いたものの中から前記ターンを検出する、請求項1に記載の情報処理装置。
  3. 前記センサは、前記ユーザの頭部、または前記ユーザの頭部に装着される器具に装着されたセンサを含み、
    前記非ターン性の回転は、前記ユーザの首振りによって発生する回転を含む、請求項2に記載の情報処理装置。
  4. 前記アクション検出部は、逆向きの回転が閾値以下の時間間隔で連続する場合に、前記ユーザの首振りによって発生する回転を検出する、請求項3に記載の情報処理装置。
  5. 前記センサは、加速度センサおよび角速度センサを含み、
    前記アクション検出部は、前記センサデータから抽出される特徴量に基づいて前記アクションを検出する、請求項1に記載の情報処理装置。
  6. 前記ターンを評価するスコアを算出するスコアリング処理部をさらに備え、
    前記情報生成部は、前記スコアに基づいて前記ターンに関する情報を生成する、請求項1に記載の情報処理装置。
  7. 前記情報生成部は、前記スコアに基づいて推定される、前記ユーザのターンのスキルレベルを含む情報を生成する、請求項6に記載の情報処理装置。
  8. 前記情報生成部は、前記スキルレベルに基づいて決定される、前記ユーザのターンのスキルに関するランキングを含む情報を生成する、請求項7に記載の情報処理装置。
  9. 前記情報生成部は、前記スキルレベルに基づいて決定される、前記ターンが実行される施設ごとの評価を含む情報を生成する、請求項7に記載の情報処理装置。
  10. 前記ユーザは、第1のユーザおよび第2のユーザを含み、
    前記情報生成部は、前記スキルレベルを前記第1のユーザと前記第2のユーザとの間で比較することによって前記ターンに関する情報を生成する、請求項7に記載の情報処理装置。
  11. 前記情報生成部は、前記第1のユーザと前記第2のユーザとスキルレベルが近い場合に、前記第2のユーザの存在を前記第1のユーザに通知する情報を生成する、請求項10に記載の情報処理装置。
  12. 前記情報生成部は、前記第1のユーザと前記第2のユーザとの位置が近接している場合に、前記第2のユーザの存在を前記第1のユーザに通知する情報を生成する、請求項11に記載の情報処理装置。
  13. 前記スコアリング処理部は、前記ターンの持続時間、角変位、または角速度もしくは角加速度の統計量を評価する、請求項6に記載の情報処理装置。
  14. 前記アクションは前記ターンと、ジャンプまたは転倒とを含み、
    前記情報生成部は、前記ターンと、前記ジャンプまたは前記転倒とに関する情報を生成する、請求項1に記載の情報処理装置。
  15. 前記ジャンプを評価するスコアを算出するスコアリング処理部をさらに備え、
    前記スコアリング処理部は、前記ジャンプの持続時間、前記ジャンプの間の角変位、前記ジャンプの間の自由落下の度合い、前記ジャンプの踏切時または着地時の衝撃を評価する、請求項14に記載の情報処理装置。
  16. 前記ターンを評価するターンスコア、および前記ジャンプを評価するジャンプスコアを算出するスコアリング処理部をさらに備え、
    前記情報生成部は、前記ターンスコアおよび前記ジャンプスコアに基づいて推定される、前記ユーザのスキルレベルを含む情報を生成する、請求項14に記載の情報処理装置。
  17. 前記情報生成部は、前記ターンを撮影した映像が存在することを前記ユーザに通知する情報を生成する、請求項1に記載の情報処理装置。
  18. 前記情報生成部は、前記ターンに関する量を時系列で可視化するための情報を生成する、請求項1に記載の情報処理装置。
  19. ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得することと、
    プロセッサが、前記センサデータに基づいて前記ユーザのアクションを検出し、前記アクションはターンを含むことと、
    前記ターンに関する情報を生成することと
    を含む情報処理方法。
  20. ユーザまたは前記ユーザによって使用される器具に装着されたセンサによって提供されるセンサデータを取得する機能と、
    前記センサデータに基づいて前記ユーザのアクションを検出し、前記アクションはターンを含む機能と、
    前記ターンに関する情報を生成する機能と
    をコンピュータに実現させるためのプログラム。
JP2016568286A 2015-01-05 2015-10-15 情報処理装置、情報処理方法、およびプログラム Pending JPWO2016111069A1 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2015000412 2015-01-05
JP2015000412 2015-01-05
JP2015000414 2015-01-05
JP2015000414 2015-01-05
PCT/JP2015/079177 WO2016111069A1 (ja) 2015-01-05 2015-10-15 情報処理装置、情報処理方法、およびプログラム

Publications (1)

Publication Number Publication Date
JPWO2016111069A1 true JPWO2016111069A1 (ja) 2017-10-12

Family

ID=56342221

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016568286A Pending JPWO2016111069A1 (ja) 2015-01-05 2015-10-15 情報処理装置、情報処理方法、およびプログラム

Country Status (5)

Country Link
US (1) US20170312574A1 (ja)
EP (1) EP3243554B1 (ja)
JP (1) JPWO2016111069A1 (ja)
CN (2) CN105749548B (ja)
WO (1) WO2016111069A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016111069A1 (ja) * 2015-01-05 2016-07-14 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP2017136142A (ja) * 2016-02-02 2017-08-10 セイコーエプソン株式会社 情報端末、動作評価システム、動作評価方法、動作評価プログラム、及び記録媒体
KR101992113B1 (ko) * 2016-08-31 2019-06-24 (주)그린콤 피트니스 모니터링 시스템
JP2018101101A (ja) * 2016-12-21 2018-06-28 ソニー株式会社 カメラ制御装置及び撮像装置
JP2019021996A (ja) * 2017-07-12 2019-02-07 パナソニックIpマネジメント株式会社 ウェアラブルカメラ、ウェアラブルカメラシステム及び情報記録方法
CN107233718B (zh) * 2017-08-07 2023-04-21 深圳市科创数字显示技术有限公司 配合传感器的虚拟现实滑雪训练系统及方法
JP6989766B2 (ja) * 2017-09-29 2022-01-12 ミツミ電機株式会社 レーダー装置及び物標検出方法
CN108021888B (zh) * 2017-12-05 2021-09-24 电子科技大学 一种跌倒检测方法
JP7081921B2 (ja) * 2017-12-28 2022-06-07 株式会社バンダイナムコエンターテインメント プログラム及びゲーム装置
JP7051503B2 (ja) * 2018-03-13 2022-04-11 アズビル株式会社 多変量時系列データの同期方法および多変量時系列データ処理装置
US11675617B2 (en) * 2018-03-21 2023-06-13 Toshiba Global Commerce Solutions Holdings Corporation Sensor-enabled prioritization of processing task requests in an environment
JP7147390B2 (ja) * 2018-09-07 2022-10-05 日本電信電話株式会社 スキル情報提示装置、スキル情報提示方法、プログラム
JP7164456B2 (ja) * 2019-02-05 2022-11-01 トッパン・フォームズ株式会社 判別装置、情報提供システム、判別方法、および情報提供方法
JP7237756B2 (ja) * 2019-07-03 2023-03-13 株式会社東芝 電子機器および情報処理システム
JP7436257B2 (ja) * 2020-03-25 2024-02-21 株式会社日立製作所 行動認識サーバ、行動認識システム、および、行動認識方法
CN112569567B (zh) * 2020-12-11 2022-03-08 简极科技有限公司 护腿板监测方法
CN113933012B (zh) * 2021-10-14 2024-01-30 西安现代控制技术研究所 基于K-means聚类的螺旋桨转速测量方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10340040A (ja) * 1998-07-07 1998-12-22 Namco Ltd シミュレータ及びこれを用いたゲーム装置
JP2008253470A (ja) * 2007-04-04 2008-10-23 Seiko Epson Corp 水泳距離計測装置及びその制御方法
JP2009050368A (ja) * 2007-08-24 2009-03-12 Masashi Hosoya 水泳量計測装置
JP2010273746A (ja) * 2009-05-27 2010-12-09 Panasonic Corp リハビリ動作の判定装置
JP2011120644A (ja) * 2009-12-08 2011-06-23 Yamaha Corp 回転動作解析装置及びプログラム
JP2012120579A (ja) * 2010-12-06 2012-06-28 Seiko Epson Corp 運動解析装置
US20130044043A1 (en) * 2010-01-18 2013-02-21 Recon Instruments Inc. Head mounted information systems and related methods
JP2013122725A (ja) * 2011-12-12 2013-06-20 Nikon Corp 電子機器
US20130330054A1 (en) * 2012-06-11 2013-12-12 Alpinereplay, Inc. Automatic digital curation and tagging of action videos
JP2016083063A (ja) * 2014-10-23 2016-05-19 国立大学法人 筑波大学 評価値算出プログラム、評価値算出方法、情報処理装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090029754A1 (en) * 2007-07-23 2009-01-29 Cybersports, Inc Tracking and Interactive Simulation of Real Sports Equipment
US20110301432A1 (en) * 2010-06-07 2011-12-08 Riley Carl W Apparatus for supporting and monitoring a person
JP5959010B2 (ja) * 2013-04-24 2016-08-02 ニチコン株式会社 過電流検出装置
CN104224189A (zh) * 2014-09-22 2014-12-24 青岛蓝图文化传播有限公司市南分公司 一种开关电源供电的行为监控手环
WO2016111069A1 (ja) * 2015-01-05 2016-07-14 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10340040A (ja) * 1998-07-07 1998-12-22 Namco Ltd シミュレータ及びこれを用いたゲーム装置
JP2008253470A (ja) * 2007-04-04 2008-10-23 Seiko Epson Corp 水泳距離計測装置及びその制御方法
JP2009050368A (ja) * 2007-08-24 2009-03-12 Masashi Hosoya 水泳量計測装置
JP2010273746A (ja) * 2009-05-27 2010-12-09 Panasonic Corp リハビリ動作の判定装置
JP2011120644A (ja) * 2009-12-08 2011-06-23 Yamaha Corp 回転動作解析装置及びプログラム
US20130044043A1 (en) * 2010-01-18 2013-02-21 Recon Instruments Inc. Head mounted information systems and related methods
JP2012120579A (ja) * 2010-12-06 2012-06-28 Seiko Epson Corp 運動解析装置
JP2013122725A (ja) * 2011-12-12 2013-06-20 Nikon Corp 電子機器
US20130330054A1 (en) * 2012-06-11 2013-12-12 Alpinereplay, Inc. Automatic digital curation and tagging of action videos
JP2016083063A (ja) * 2014-10-23 2016-05-19 国立大学法人 筑波大学 評価値算出プログラム、評価値算出方法、情報処理装置

Also Published As

Publication number Publication date
EP3243554A4 (en) 2018-07-11
US20170312574A1 (en) 2017-11-02
CN205750721U (zh) 2016-11-30
EP3243554B1 (en) 2022-07-20
EP3243554A1 (en) 2017-11-15
CN105749548A (zh) 2016-07-13
WO2016111069A1 (ja) 2016-07-14
CN105749548B (zh) 2020-12-04

Similar Documents

Publication Publication Date Title
WO2016111069A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP6658545B2 (ja) 情報処理装置、情報処理方法、およびプログラム
US20100271367A1 (en) Method and apparatus for combining a real world event and a computer simulation
JP6683134B2 (ja) 情報処理装置、情報処理方法、およびプログラム
EP3117882B1 (en) Apparatus and method of user interaction
US20170216675A1 (en) Fitness-based game mechanics
WO2017034767A1 (en) Player position and auxiliary information visualization
US20210402292A1 (en) Method of haptic responses and interacting
US10441847B2 (en) Framework, devices, and methodologies configured to enable gamification via sensor-based monitoring of physically performed skills, including location-specific gamification
WO2016073253A1 (en) Method and system for event pattern guided mobile content services
US11673050B2 (en) Node based world mapping for finite, depth first search
JP2018522361A (ja) パフォーマンスセンサユニットから得られるユーザパフォーマンス属性に基づいてメディアデータの自動化された分類及び/又は検索を可能にするように構成されたフレームワーク、デバイス及び方法論
WO2016092933A1 (ja) 情報処理装置、情報処理方法およびプログラム
JP2023027017A (ja) ジェスチャベーススキル検索
KR20190038748A (ko) 성능 모니터링 하드웨어를 통한 사용자 성능 모니터링에 기초하여 기능 훈련 데이터의 실시간 적응 공급을 가능하게 하는 구조 및 방법
US20240066410A1 (en) Metric-driven improvements of virtual reality experiences
US20240069625A1 (en) Metric-driven improvements of virtual reality experiences
US20240066406A1 (en) Metric-driven improvements of virtual reality experiences
JP2024035212A (ja) 仮想現実体験のメトリック駆動型改良

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180827

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180827

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191203