JP2016158683A - 画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、画像データ整理端末装置プログラムおよび画像データ整理装置プログラム - Google Patents

画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、画像データ整理端末装置プログラムおよび画像データ整理装置プログラム Download PDF

Info

Publication number
JP2016158683A
JP2016158683A JP2015037604A JP2015037604A JP2016158683A JP 2016158683 A JP2016158683 A JP 2016158683A JP 2015037604 A JP2015037604 A JP 2015037604A JP 2015037604 A JP2015037604 A JP 2015037604A JP 2016158683 A JP2016158683 A JP 2016158683A
Authority
JP
Japan
Prior art keywords
image data
frequency component
healing
degree
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015037604A
Other languages
English (en)
Other versions
JP6533897B2 (ja
JP2016158683A5 (ja
Inventor
板生 清
Kiyoshi Itao
清 板生
研一 板生
Kenichi Itao
研一 板生
真人 駒澤
Masato Komazawa
真人 駒澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
WINFRONTIER CO Ltd
Original Assignee
WINFRONTIER CO Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by WINFRONTIER CO Ltd filed Critical WINFRONTIER CO Ltd
Priority to JP2015037604A priority Critical patent/JP6533897B2/ja
Publication of JP2016158683A publication Critical patent/JP2016158683A/ja
Publication of JP2016158683A5 publication Critical patent/JP2016158683A5/ja
Application granted granted Critical
Publication of JP6533897B2 publication Critical patent/JP6533897B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

【課題】画像を自動的に整理する技術を提供する。
【解決手段】画像データ整理端末装置は、画像を撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた撮像された画像を表示する画像表示部と、を具備し、画像データ整理サーバー装置は、時系列心拍データから癒し度を求める癒し度検出部と、癒され度の高い順に撮像された画像を並べるソーテイング処理部と、を具備する画像データ整理システムとした。
【選択図】図1

Description

本発明は、画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、画像データ整理端末装置プログラムおよび画像データ整理装置プログラムに関する。
現在、スマートフォンが広く普及している。スマートフォンは、電話機能とともに種々の機能を有している。スマートフォンの多機能性は、マイクロプロセッサ(MPU:microprocessor)で実行されるオペレーティングンシステム、アプリケーションソフトおよびスマートフォンに内蔵されるカメラ機能、GPS(Global Positioning System)機能等の種々の機能によって保障される。現在普及している主なるオペレーティングシステムは、アンドロイド(Android:登録商標)、アイオーエス(iOS:登録商標)である。
インターネットの発達に伴い、ネットワーク上に存在するサーバーが提供するサービスを、それらのサーバーを意識することなしに利用できるクラウド・コンピューティング技術が提供されている。
特許文献1には、血流に応じて変化する皮膚の輝度を撮像して輝度データを得るカメラと、画像表示をするディスプレイと、輝度データからRR間隔時系列データを検出するRR間隔時系列データの検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分の検出処理部と、高周波成分に対応する副交感神経の活動と低周波成分に対応する交感神経の活動とをディスプレイに表示するための解析結果データを出力する解析結果データ出力処理部と、を備える、自律神経機能評価装置等が記載されている。
視覚刺激を定量化した指標として、フラクタル次元が提唱されている。また、画像のフラクタル次数を算出する手法も研究されている。例えば、非特許文献1には、フラクタル次元は,視覚刺激をその形状から定量化するものであり,その値によって表象される特徴は刺激の「複雑さ」と呼ばれることが記載されている。非特許文献2には、画像濃度空間の濃度面の起伏の複雑さを示すフラクタル次元を推測する方法が記載されている。また、フラクタル理論を用いる画像解析と人の心理との関係が研究されている。例えば、非特許文献3には、男女3名を対象に、6つの絵画でアイカメラを使用して視点の集中位置とフラクタル次元との関係を調べ、フラクタル次数が高い箇所に視点が集中する傾向がみられることが記載されている。非特許文献4には、男女23名を対象に、笑顔と真顔の写真のフラクタル次数とアンケートでの好感度の相関分析をした。その結果、顔全体のフラクタル次元と好感度に相関がみられ、笑顔のほうが、フラクタル次数が高い傾向にあることが記載されている。非特許文献5には、男女23名を対象に、知名度が低い45種類の缶ビールのパッケージ・デザインについて、フラクタル次元及び主観のアンケートを実施し、フラクタル次元の高いパッケージ・デザインを持った缶ビールに、高い購買効果がみられることが記載されている。
特許公開2014−140587号公報
Cutting J., & Garvin, J. J., Fractal curves and complexity, Perception & Psychophysics, 42, 365-370, 1987 Pentland A. P., Fractal-based description of sciences, IEEE Trans. Pattern Analysis and Machine Intelligence, PAMI-6, pp.661-674, 1984 Nagai M., Oyama-Higa M., & Miao T., Relationship between image gaze location and fractal dimension, IEEE International Conference on Systems, Man and Cybernetics, Oct. 7-10, 2007, Montreal, pp. 4014-4018, 2007 Oyama-Higa M., Miao T., & Itoh T, Relationship between fractal dimension and agreeability of facial imagery, Computational Models for Life Sciences-CMLS '07: 2007 International Symposium on Computational Models of Life Sciences, AIP Conference Proceedings 952, pp. 104-113, 2007 Oyama-Higa Mayumi, The Relation of the Purchase Effect by the Fractal Dimension and the SD Method of Product Packaging, Journal of Business Studies 59 (2), 近畿大学商経学会 商経学叢 pp.77-93, December, 2012
近年は画像撮像において、ディジタル技術が普及して、化学変化を利用したフィルムを用いる技術を置き換えている。ディジタル技術を用いる静止画または動画を撮像する画像記録装置においては、撮像した画像データを記憶装置に記憶することが安価にかつ容易にできるところから、まずは、撮像をして事後的に撮像した画像データを整理することが広く行われている。このために、不要な画像データも多量に撮像しがちである。その結果、多量の画像データから、必要な画像データを整理する処理が必要となる。
この場合に、人が、撮像された画像を目視により確認して、1枚毎に判断しながら整理することは手間がかかる。よって、予め定める整理基準に基づいて自動的に整理することができれば手間が省けて好都合である。さらに、人が撮像するのにふさわしい対象物であるか否かを、予め定める整理基準に基づいて自動的に判断して、自動撮像することができれば、画像データを事後的に整理する手間が省けるとともに、撮像チャンスを逃してしまうことも回避でき、撮りこぼしを恐れるあまり必要以上に撮像してしまい無駄に記憶容量を消費することが防止できるので画像を記憶する記憶装置の記憶容量を削減することもできる。
本発明は、係る問題点に鑑みなされたものであり、撮像する画像が、予め定める整理基準を満たしているか否かを装置の操作者に知らせる技術、予め定める整理基準を満たしている場合には自動撮像する技術、撮像した複数の画像を事後的に自動整理する技術を提供するものである。
本発明の画像データ整理システムは、画像データ整理端末装置と画像データ整理サーバー装置とを備える画像データ整理システムであって、前記画像データ整理端末装置は、画像を撮像して画像データを取得する撮像部と、前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、前記時系列心拍データを前記画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、前記画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた前記撮像された画像を表示する画像表示部と、を具備し、前記画像データ整理サーバー装置は、前記時系列心拍データから癒し度を求める癒し度検出部と、前記癒され度の高い順に前記撮像された画像を並べるソーテイング処理部と、を具備する。
本発明の画像データ整理装置は、撮像して画像データを取得する撮像部と、前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、前記時系列心拍データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、少なくとも、前記高周波成分を予め測定した基準高周波成分で除して、癒され度を求める自律神経解析エンジン処理部と、前記癒され度の高い順に前記画像データを並べるソーテイング処理部と、前記癒され度の高い順に並べられた画像データを表示する画像表示部と、を備える。
本発明の別の画像データ整理装置は、撮像して画像データを取得する撮像部と、前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、前記時系列心拍データから心拍数を求める心拍数検出部と、前記心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、前記癒され度の高い順に前記画像データを並べるソーテイング処理部と、前記癒され度の高い順に並べられた画像データを表示する画像表示部と、を備える。
本発明の画像データ整理サーバー装置プログラムは、画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、前記画像データ整理端末装置が取得した時系列心拍データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、少なくとも、前記高周波成分を予め測定した基準高周波成分で除して、癒され度を求める自律神経解析エンジン処理部と、前記癒され度の高い順に前記撮像された画像を並べるソーテイング処理部と、を備えるように前記コンピュータを機能させる。
本発明の別の画像データ整理サーバー装置プログラムは、画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、前記画像データ整理端末装置が取得した時系列心拍データから心拍数を求める心拍数検出部と、前記心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、前記癒され度の高い順に前記撮像された画像を並べるソーテイング処理部と、を備えるように前記コンピュータを機能させる。
本発明の画像データ整理端末装置プログラムは、画像データ整理システムにおいて画像データ整理サーバー装置と協調して動作する画像データ整理端末装置のコンピュータに実行させる画像データ整理端末装置プログラムであって、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、前記時系列心拍データを前記画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、前記画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた前記撮像された画像を表示する画像表示部と、を備えるように前記コンピュータを機能させる。
本発明の画像データ整理装置プログラムは、画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、撮像して画像データを取得する撮像部と、前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、前記時系列心拍データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、少なくとも、前記高周波成分を予め測定した基準高周波成分で除して、癒され度を求める自律神経解析エンジン処理部と、前記癒され度の高い順に前記画像データを並べるソーテイング処理部と、前記癒され度の高い順に並べられた画像データを表示する画像表示部と、を備えるように前記コンピュータを機能させる。
本発明の別の画像データ整理装置プログラムは、画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、撮像して画像データを取得する撮像部と、前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、前記時系列心拍データをフーリエ変換するフーリエ変換処理部と、前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、少なくとも、前記高周波成分を予め測定した基準高周波成分で除して、癒され度を求める自律神経解析エンジン処理部と、前記癒され度の高い順に前記画像データを並べるソーテイング処理部と、前記癒され度の高い順に並べられた画像データを表示する画像表示部と、を備えるように前記コンピュータを機能させる。
本発明の技術によれば、予め定める整理基準に基づいて、撮像した複数の画像を事後的に自動的に整理することができる。また、予め定める整理基準を満たしている画像か否かを客観的に、装置の操作者が撮像する前に知ることができるので撮像すべきか否かの主観的判断に迷うことがない。さらに、予め定める整理基準を満たしている場合には自動撮像することができる。これらの効果によってビッグデータである多数の画像の有効活用が可能となる。
第1実施形態の画像データ整理システムを示す図である。 第1実施形態の画像データ整理端末装置に表示される画面1ないし画面4を示す図である。 第1実施形態の画像データ整理端末装置に表示される画面5ないし画面8を示す図である。 第1実施形態の画像データ整理端末装置に表示される画面9、画面10を示す図である。 第1実施形態の画像データ整理端末装置および画像データ整理サーバー装置における処理を示す図である。 第1実施形態の画像データ整理端末装置および画像データ整理サーバー装置における図5に続く処理を示す図である。 第1実施形態の前倒しロジック処理を模式的に示す図である。 第1実施形態の画像データ整理サーバー装置における自律神経解析エンジン処理の各ステップの処理終了後の時系列輝度データを示す図である。 第1実施形態のローパスフィルタの定数をどのように定めるかについての説明図である。 第1実施形態のローパスフィルタの定数をどのように定めるかについての別の説明図である。 第4実施形態の画像データ整理システムを示す図である。 第4実施形態の画像データ整理端末装置に表示される画面21ないし画面24を示す図である。 第4実施形態の画像データ整理端末装置に表示される画面25ないし画面28を示す図である。 第4実施形態の画像データ整理端末装置に表示される画面29を示す図である。 第4実施形態の画像データ整理端末装置および画像データ整理サーバー装置における処理を示す図である。 第4実施形態の画像データ整理端末装置および画像データ整理サーバー装置における図15に続く処理を示す図である。
発明を実施するための形態(実施形態)の画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、画像データ整理端末装置プログラム、画像データ整理装置プログラムは、以下に説明する第1実施形態ないし第3実施形態が、予め定める整理基準に基づいて、撮像した画像データを事後的に自動的に整理し、撮像する画像が、予め定める整理基準を満たしているか否かを装置の操作者に知らせる技術に関するものであり、以下に説明する第4実施形態ないし第6実施形態が、さらに、これらの技術に加え、撮像する画像が予め定める整理基準を満たしている場合には自動的に撮像する技術に関するものである。第7実施形態、第8実施形態は第1実施形態ないし第6実施形態の一部を組み合わせる技術の一例に関するものである。
実施形態においては、心拍センサを用いて心臓の動きを検出して、さらに心臓の動きから人の心の動きを検出して、人の心の動きに基づき画像データ(視覚的には画像)を自動整理をする。また、別の手段による画像データ(視覚的には画像)の自動整理に際しては、画像データ(視覚的には画像)そのものの性質を解析して自動整理をする。
人の心の動きは心臓の律動に反映される。心臓の動きを検出する心拍センサは、心臓の律動により変化する血管を流れる血液の流れに応じた反射光の変化を捉える光電脈波法、心臓の律動に応じて脈動する血管の圧力を圧力センサで捉える血圧計法、電極を心臓に近い皮膚に貼り付けて心臓の律動を引き起こす筋肉に流れる電流を捉える心電計法等の諸原理を用いて構成される。実施形態では、心拍センサからの時系列心拍データを解析して得られる交感神経の活動または/および副交感神経の活動を画像の整理基準のための指標とする。
実施形態のコンピュータ処理観点からの画像データ整理の技術(視覚的観点からの画像整理の技術)は、撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データから癒し度を求める癒し度検出部と、癒し度検出部で検出される癒し度が高い順に前記撮像された画像を並べるソーテイング処理部と、を具備する。
癒し度検出部は、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、整理基準となる心の動きを検出する自律神経解析エンジン処理部と、を有するようにしてもよい。また、癒し度検出部は、時系列心拍データから心拍数を求める心拍数検出部と、心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、を有するようにしてもよい。このような技術的特徴を有する各構成部を、クライアント・サーバーとして構成してもよく、単独の装置(スタンドアロン)として構成してもよい。さらに、各構成部はハードウエアとして構成してもよく、コンピュータとコンピュータプログラムとして構成してもよい。
また、実施形態では、人が視認する風景等の画像そのものを、フラクタル理論を用いて解析して(解析に際してはディジタル信号処理技術を用いるのでコンピュータの処理対象は画像データ)、その解析結果と人の心の動きを統計的に関連づけて、人の心の動きを推測するようにしてもよい。すなわち、画像のフラクタル解析の結果を画像の整理基準としてもよい。フラクタル解析をおこなう場合には、撮像された画像のフラクタル次元を演算するフラクタル解析処理部と、画像が与える、癒されたという印象の高い順に前記撮像した画像を並べるソーテイング処理部と、を備えるようにしてもよい。ここで、癒されたという印象と、その画像に対応するフラクタル次元との関係は、統計解析に基づき、予め特定しておく。
さらに、実施形態では、画像データの取得に際して心拍に応じた時系列心拍データを取得するものである。ここで、画像データの取得の時刻と時系列心拍データの取得の時刻とは略同時であってもよく、画像データを取得しているときに得られる印象が維持されている時間内に時系列心拍データを取得するようにしてもよい。また、時系列心拍データを取得して癒され度を検出するタイミングは、装置操作者の意思によって癒され度を検出するタイミングを決めてもよく、リアルタイムで自動的に癒され度を検出するようにしてもよい。実施形態では、コンピュータが所定時間毎の割り込み処理をおこなうことによって所定時間毎に略リアルタイムで癒され度を検出するようにしている。
また、さらに、実施形態では、画像の整理基準として、癒され度に替えて興奮度を用いるようにしてもよい。
「第1実施形態」
第1実施形態の画像データ整理システムは、画像データ整理端末装置と画像データ整理サーバー装置とを備える。画像データ整理システムは、撮像した画像データを事後的に自動的に整理し、または、撮像する画像が、予め定める整理基準を満たしているか否かを装置の操作者に知らせる。ここで、整理するための予め定める整理基準として、癒され度(いやされ度)を用いている。癒やされるとは、気持ちが、のんびり、ゆったりしており、苦痛から解放されているような心理状態をいい、癒され度とは、癒されている度合がどの程度であるかをいう。
画像データ整理端末装置は、静止画または動画の画像を撮像する撮像部と、心拍に応じた信号である血流に応じて変化する皮膚の輝度を撮像して時系列輝度データを取得する時系列輝度データ取得部と、皮膚の輝度に応じた時系列輝度データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた撮像された画像を表示する画像表示部と、を具備する。ここで、時系列輝度データは時系列心拍データの一態様であり、時系列輝度データ取得部は時系列心拍データ取得部の一態様である。
画像データ整理サーバー装置は、時系列輝度データからRR間隔時系列データを検出するRR間隔時系列データ検出処理部と、RR間隔時系列データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、少なくとも高周波成分の大きさに基づいて癒され度を求める、癒され度検出部と、癒され度の高い順に撮像された画像を並べるソーテイング処理部と、を具備する。
ここで、低周波成分(RR間隔時系列データをフーリエ変換した信号の低周波成分)と高周波成分(RR間隔時系列データをフーリエ変換した信号の低周波成分)とを分離するフィルタの特性は、規格化した所定の特性である。例えば、高周波成分は、フーリエ変換した後、第1所定周波数の帯域(例えば、0.15〜0.4Hz)のフィルタを通過させることによって得られる。すなわち、高周波成分は、第1所定周波数の帯域のパワースペクトルの積分値である。低周波成分は、第1所定周波数よりも周波数が低い第2所定周波数の帯域(例えば、0.04〜0.15Hz)のフィルタを通過させることによって得られる。すなわち、低周波成分は、第2所定周波数の帯域のパワースペクトルの積分値である。
高周波成分は副交感神経の活動に関係し、低周波成分は交感神経の活動に関係することが知られている。よって、高周波成分の値、または、高周波成分を低周波成分で除した値が大きい程、副交感神経の活動が活発であることを表す。さらに、高周波成分の対数の値、または、高周波成分の対数を低周波成分の対数でした値が大きい程、副交感神経の活動が活発であることを表す。
癒されると、副交感神経の活動が活発となることが知られているので、副交感神経の活動を調べれば、どの程度、癒されているかの度合(いやされ度)を知ることができる。すなわち、少なくとも高周波成分の値(高周波成分の値、高周波成分の対数の値、高周波成分を低周波成分で除した値、または、高周波成分の対数を低周波成分の対数で除した値)が大きい程、癒やされている。
具体的には、癒され度は以下の様にして求める。

癒され度=(高周波成分)・・・・・・・・・・・・・・・・・・・(1)

癒され度=(高周波成分の対数)・・・・・・・・・・・・・・・・(2)

癒され度=(高周波成分/低周波成分)・・・・・・・・・・・・・(3)

癒され度={(高周波成分の対数/低周波成分の対数)}・・・・・・(4)
しかしながら、上述した、高周波成分、高周波成分を低周波成分で除するもの、高周波成分の対数、高周波成分の対数を低周波成分の対数で除するものは、それらの値が大きい場合でも、ある人は癒されていない場合がある。反面、それらの値が小さい場合でも、別の人は癒されている場合がある。すなわち高周波成分の値、高周波成分を低周波成分で除した値、高周波成分の対数の値、高周波成分の対数を低周波成分の対数で除した値と、どの程度癒されているかの関係には個人差がある。
そこで、測定時点の高周波成分と、基準高周波成分との大きさの違い、または、測定時点の(高周波成分/低周波成分)と、(基準高周波成分/基準低周波成分)との大きさの違いに基づいて癒され度(いやされ度)を求めるようにした。ここで、基準高周波成分とは、同一人について、予め測定した基準となる癒しの状態の高周波成分の値である。また、基準低周波成分とは、同一人について、予め測定した基準となる癒しの状態の低周波成分の値である。このようにすれば、癒されている度合である癒され度が個人差なく規格化できる。ここで、基準の癒され度とは、通常の日常生活を行っている場合における癒され度であり、過度に癒された状態でもなく、過度に興奮した状態でもなく、日常生活において平常心を保っている状態における癒され度である。
具体的には、基準の癒され度は以下の様にして求める。

癒され度=(高周波成分)/(基準高周波成分)・・・・・・・・・・・・・(5)

癒され度=(高周波成分の対数)/(基準高周波成分の対数)・・・・・・・(6)

癒され度=(高周波成分/低周波成分)/(基準高周波成分/基準低周波成分)
=(高周波成分/基準高周波成分)/(低周波成分/基準低周波成分)・・(7)

癒され度={(高周波成分の対数/低周波成分の対数)/(基準高周波成分の対数/基準低周波成分の対数)}
={(高周波成分の対数/基準高周波成分の対数)/(低周波成分の対数/基準低周波成分の対数)}・・・・・・・・・・・・・・・・・・・・・・・・・・・・(8)
以上の、(5)式、(6)式、(7)式、(8)式のいずれの式も、少なくとも、測定時の高周波成分と予め測定した基準高周波成分との大きさの違いに基づいて癒され度を求めている。(5)式では、測定時の高周波成分と予め測定した基準高周波成分のみの大きさの違いに基づいて癒され度を求めている。(6)式では、測定時の高周波成分の対数と予め測定した基準高周波成分の対数との大きさの違いにのみ基づいて癒され度を求めている。(7)式では、測定時の高周波成分と予め測定した基準高周波成分の大きさの違いに基づいて癒され度を求めているが、測定時の低周波成分と予め測定した基準低周波成分との大きさの違いも用いて癒され度を求めている。(8)式では、測定時の高周波成分の対数と予め測定した基準高周波成分の対数との大きさの違いに基づいて癒され度を求めているが、測定時の低周波成分の対数と予め測定した基準低周波成分の対数との大きさの違いも用いて癒され度を求めている。以上の、(5)式、(6)式、(7)式、(8)式のいずれの式に基づき、癒され度を求めるかは、任意に選択できる。
実施形態の画像データ整理システムは、RR間隔時系列データ(アール・アール間隔時系列データ)に含まれるノイズを除去するためのローパスフィルタリング処理部を備えてもよい。
実施形態の画像データ整理システムは、時系列輝度データに含まれるノイズを除去しピーク検出をするためのSavitzky-Golayフィルタ(サビツキ・ゴレイフィルタ)を備えてもよい。
実施形態の画像データ整理システムは、時系列輝度データの連続補間をするための関数化処理部を備えてもよい。
実施形態の画像データ整理システムは、時系列輝度データの値が連続して同値である場合には、予め定める所定複数回数以上の時系列輝度データを処理の対象から除く前倒しロジック処理部を備えてもよい。
実施形態の画像データ整理システムは、時系列輝度データの検出をおこなうに際してディスプレイに時系列輝度データの波形を表示してもよい。
実施形態の画像データ整理システムは、時系列輝度データの検出をおこなう前にディスプレイに、血流に応じて変化する皮膚の輝度を撮像する指の画像を表示するとともに時系列輝度データの波形を表示してもよい。
実施形態の画像データ整理システムは、RR間隔時系列データ(アール・アール間隔時系列データ)の値に逆比例する瞬時心拍数を得て、現在の瞬時心拍数と直前の瞬時心拍数との差分が第1所定値よりも大きい場合には、現在のRR間隔時系列データを処理の対象から除去するRR間隔時系列データの異常値除去処理部を備えてもよい。
以下、図を参照して第1実施形態について説明をする。
図1は、実施形態の画像データ整理システム10を示す。
画像データ整理システム10は、画像データ整理端末装置として機能するスマートフォン11と、画像データ整理サーバー装置として機能するサーバー12と、スマートフォン11とサーバー12とを接続する端末装置・サーバー装置間接続手段として機能するインターネット13とを備える。
スマートフォン11は、脈波検出部の一部として機能するカメラ機能と各種外部データ検出部とを有する。スマートフォン11は、「(1)測定データ(輝度データ)、撮像した写真(画像データ)をサーバー12にアップロード」し、「(2)各種外部データ(例えば、天気、気温、気圧、位置データ、加速度データ)をサーバー12にアップロード」する。
ここで、脈波検出部は、撮像部の一実施形態であり、時系列心拍データ取得部の一実施形態でもある。スマートフォン11は、撮像部の一実施形態のカメラ機能とカメラで撮像した血管上の皮膚から時系列心拍データを取得する。
ここで、各種外部データをサーバー12にアップロードするに際しては、測定データ及び画像データと各種外部データとを紐付けてアップロードする。これらの処理の内容については後述する。
サーバー12は、サーバーのCPUとプログラムによって、「(3A)(自律神経解析エンジン)を構成し、生体の解析処理をおこなう」、また、「(3B)(画像解析エンジン)を構成し、フラクタル解析処理をおこなう。そして、「(4)解析結果を返却する」。
サーバー12は、(3A)の生体解析処理によって画像撮像者であるスマートフォン操作者(以下、操作者と省略する)の、心の、癒され度を解析する。サーバー12は、(3B)のフラクタル解析によって撮像された画像自体の客観的な解析処理をする。(3A)と(3B)は異なる観点からの解析処理であるので、その両方、または、いずれかの一方を採用することができる。サーバー12は、(3A)、または/および、(3B)の処理の解析結果をスマートフォン11に返却する。(3A)の処理の解析結果の内容は、サーバー12のデータベースに蓄積された、癒し度と画像データの組をソーテイングして、癒され度に基づく画像のランキング化であり、(3B)の処理の解析結果の内容は、サーバー12のデータベースに蓄積された、フラクタル解析結果(フラクタル次元)と画像データの組をソーテイングして、フラクタル次元に基づく画像のランキング化である。
スマートフォン11は、携帯電話として機能するのみならず、インターネットに接続し、種々のアプリケーションソフトの動作を可能とするオペレーティングシステム(OS)、液晶画面(LCD)とタッチパネルとを主たるユーザインターフェイスデバイスとする多機能携帯電話である。スマートフォン11は、画像データ整理端末装置の一実施形態として機能する。スマートフォン11の多機能性は、オペレーティングシステムによって保障される。
スマートフォン11は、電話機能以外に、液晶画面を含む画像表示部が発揮する画像表示機能、液晶表示画面とタッチパネルを組み合わせることによって発揮されるタッチパネル機能、音声送出機能、音声入力機能、カメラ機能、インターネット接続機能、位置データを検出するGPS(Global Positioning System)機能を備えるのが一般的である。実施形態のスマートフォン11は、さらに、加速度データを検出する加速度検出機能、操作者の行動を記録する行動記録機能(操作者が自己の行動を入力して記録するメモ機能)、気圧データを検出する気圧検出機能、天気を含む気象データを検出する気象データ検出機能を有している。
そして、一般的なパーソナルコンピュータと同様に、オペレーティングシステムが動作するハードウエアであるマイクロプロセッサ(MPU)を中心としてラム、ロム、上記の各種機能を発揮させるための周辺機器がバスラインによって接続されている。オペレーティングシステムはMPUにおいて実行され、MPUは周辺機器を制御して所望の上述した機能を発揮させる。スマートフォン11以外の画像データ整理端末装置の他の実施形態として、上述した各種機能を有するタブレット(多機能携帯端末)、本実施形態の使用に特化した専用の画像データ整理端末装置であってもよい。
図1に示すようにスマートフォン11は、インターネット接続機能によって無線でインターネット13と接続される。本実施形態の使用に特化した画像データ整理端末装置を用いる場合には、端末装置・サーバー装置間接続手段は専用線としてもよく、有線でインターネット13を介して接続するものとしてもよい。
サーバー12は、高速で大容量のデータを処理することが可能なコンピュータであり、高速、高機能なCPU(セントラルプロセッシングユニット:中央演算装置)、大容量ラム、大容量ロム、大容量書換可能不揮発メモリ、等を備え、複雑な処理を高速でおこなうことができる。よって、多数のクライアント(スマートフォン11等)がインターネット13を介してサーバー(サーバー12)にアクセスした場合であっても、高速にクライアントからの要求を受けとり、瞬時に情報の処理をおこない、その処理結果を、高速なインターネット13を介してクライアントに返送する。
スマートフォン11からサーバー12に対して後述する、時系列心拍データの一実施形態である時系列輝度データを送信し、サーバー12における演算処理の後、サーバー12からスマートフォン11に対して解析結果データを送信する。このように、実施形態においては、スマートフォン11とサーバー12とで処理の分担をおこなっている。その理由は、スマートフォン11にインストールできるアプリケーションの許容サイズ、処理速度に限界があるので全ての処理をスマートフォン11の内部で処理する場合には、解析結果データを得るために要する時間が長くなるという課題を有するからである。クライアント・サーバー・システムを採用することによってこのような課題は解決する。また、サーバーにおいてクライアントから得られる多量のデータを集積し、これを当該クライアントの資産またはサーバー12を利用する多数のクライアントの共通の資産として利用できる。
このようにスマートフォン11とサーバー12とは、インターネット13を介して接続され、協調して動作する。すなわち、スマートフォン11を操作する者から見ると、インターネット13を介して接続されるサーバー12はクラウド・コンピュータとして機能してサーバー12は「雲」のようにその存在が明確には認識されず、あたかも、サーバー12における処理はスマートフォン11がおこなう処理であるかのように認識される。
(画像データ整理端末装置に表示される画面)
図2ないし図4は、画像データ整理端末装置として機能するスマートフォン11の液晶画面に表示される画像を示す。
図2は、画像データ整理端末装置に表示される画面1ないし画面4を示す。図3は、画像データ整理端末装置に表示される画面5ないし画面8を示す。図4は、画像データ整理端末装置に表示される画面9、画面10を示す。
図2に示す画面1は、スマートフォンのOS上で動作するアプリケーションの一つである操作者が「画像データ整理端末装置プログラム」を起動させた後、MPUが最初にスマートフォン11の液晶画面に表示させる画面である。MPUは画面に、例えば、「旅先での画像をランキング化するアプリ」と表示させる。
図2に示す画面2は、MPUがスマートフォン11の液晶画面に表示させる「画像データ整理端末装置プログラム」の利用規約表示の画面である。
画面2の下部の「同意する」を操作者がタッチすると、MPUはタッチパネル機能によって、操作者が「画像データ整理端末装置プログラム」を利用することを同意したことを認識し、図3に示す画面3をスマートフォン11の液晶画面に表示させる。
図3に示す画面3は、属性情報の入力のためにMPUがスマートフォン11の液晶画面に表示させる画面である。
画面3は、「画像データ整理端末装置プログラム」を利用する者、すなわち、操作者の情報をユーザ情報として登録するための画面であり、登録に際しては、液晶画面の適当な場所に図示しないキーボードとして機能するタッチキーを表示してタッチキーによってMPUに登録情報を認識させる。
属性情報としては、「ニックネーム」(例えば、タロウ)、「性別」(例えば、男性)、「生年月日」(例えば、1980年10月19日)及び、「おすまい」(例えば、東京都)であり、MPUはこれらの情報を取得する。
図3に示す画面4は、操作者がスマートフォン11のカメラ機能を動作させる場合に、MPUが表示させる画面である。
一度、画面2、画面3を用いた属性情報の入力を行った後には、画面4は、画面1の表示の直後に表示するようにしてもよい。
画面4に示すようにMPUはスマートフォン11の液晶画面に「癒し風景の画像を取ってみましょう!」と表示させ、操作者が見ている被写体をスマートフォン11の液晶画面に表示させる。
「測定する」を指でタッチすると、MPUは図4に示す画面5をスマートフォン11の液晶画面に表示させる。操作者が「測定する」を指でタッチしないと、MPUは画面5を表示しないようにしてもよく、操作者が「測定する」を一定時間、指でタッチしないと、MPUは癒され度を測定しない通常の撮像モードに移行させるようにしてもよい。
また、操作者が「測定する」をタッチした時点で、MPUはカメラ機能を動作させて撮像した画像データを画像記憶装置に記憶させる。このようにして、画像データとその時点における癒され度とを紐付することができる。
ここで、操作者が「測定する」をタッチした時点(図4を参照)で、風景等の撮像をし、その後、癒され度の検出のために指先をカメラのレンズに接近させる(図5、図6を参照)ので、撮像時刻と癒し度の測定時刻とには、ずれが生じる。そこで、癒し度の測定中においても、撮像した風景等を見続けるか、撮像した瞬間(図4を参照)の印象を脳裏に刻み、癒し度の測定が終了するまで(図7を参照)忘れないようにして、撮影した画像と癒し度の関係が崩れないようにすることが望ましい。
図4に示す画面5は、癒され度の測定を開始することを操作者に知らせる表示画面である。
MPUは、画面5の画面上段に「癒され度の測定」と表示させる。MPUは、画面5の画面中段に測定の注意事項として「現在のリラックス度を測定します。人差し指の先をカメラに当てて、測定開始測定開始ボタンをおしてください」と表示させる。
MPUは、画面5の画面下段に人差し指の先をカメラで撮像した時系列輝度データをアナログ値に変換して縦軸に表示させ、横軸に時間を表示する脈波を表示させる。
MPUは、画面5の画面下段の波形図の中に、「スタンバイ中」と表示させる。「スタンバイ中」とは、未だ、癒され度の測定をおこなっておらず、測定の準備段階であることを意味する。
操作者は、画面5が表示されている間に、脈波が安定して撮像されるように人差し指とカメラのレンズとの位置を合わせる。
操作者は、人差し指とカメラのレンズとの位置を合わせるに際して、画面5の画面中段の右側に表示される画像に、人差し指が撮像されるようにして合わせることができる。
そして、操作者は、人差し指のカメラのレンズに対する位置を決めたら、その位置関係を固定したままで、画面5の画面最下段の「測定開始」をタッチする。または、「測定開始」にタッチすることに替えて、スマートフォン11が自動的に測定開始をする様にしてもよい。
MPUは、指先が撮像されていることを確認、または/および、輝度信号波形が特徴ある脈波であることを認識すると、自動的に、血流に応じて変化する皮膚の輝度を撮像して時系列輝度データを取得する時系列輝度データ取得の処理を開始するようにしてもよい。
より具体的には、MPUは、撮像された画像のR(赤色)、G(緑色)、B(青色)に分離される各成分の割合から肌色を含むことを判断するとともに肌色の部分の画像に占める割合を検出して予め定める所定割合以上であることを検出した後、または/および、時系列輝度データが略一定の周期を有する繰り返し波形であるとともにエンベロープが略一定であることを検出した後に、時系列輝度データの取得を開始する。
図4に示す画面6は、癒され度を測定中に表示される画面である。
MPUは、画面6の画面上段に「測定中」と表示させる。
MPUは、画面6の画面中段に測定中の時系列輝度データをアナログ値に変換して縦軸に表示させ、横軸に時間を表示させる。
MPUは、画面6の画面下段に、「キャンセル」と表示させる。「キャンセル」とは、操作者が、測定中の測定中の時系列輝度データが正しくないと判断する場合に、「キャンセル」にタッチするためのものである。
MPUは、「キャンセル」がタッチされたことを検出すると処理を移し、画面5を再度、表示させて処理を前に戻す。画面6の画面下段の「キャンセル」を長押しすると癒され度測定モードから抜け出すようにしてもよい。
MPUが「ただいま測定中」の表示をさせている間に画面6の画面下段の「キャンセル」にタッチしないと、MPUは、測定の終了後に画面7を表示させる。
図4に示す画面7は、測定結果を見るための画面である。
MPUは、画面7の画面上段に「結果を見てみましょう!」と表示させ、画面7の画面下段に「次へ」と表示させる。操作者が「次へ」にタッチすると、MPUは画面8を表示させる。
操作者が「次へ」にタッチしないと画面7を維持するか、または、操作者が「次へ」に一定時間以上タッチしないとMPUは癒され度測定モードから通常モードに処理を移すようにしてもよい。
図4に示す画面8は、癒され度を表示する画面である。
MPUは、画面8の画面中段に撮像した画像を表示し、画面8の画面上段に当該画像を撮像したときの、癒され度を表示させ、画面8の画面下段に当該画像を撮像したときの、癒され度をグラフ表示させる。
操作者が「共有する」ボタンを押すと、MPUは、FaceBook(フェイスブック:登録商標)、Twitter(ツイータ:登録商標)、LINE(ライン:登録商標)等にインターネット13を介して測定結果(撮像された画像と紐付された癒され度)を投稿する。
操作者が「外部データと紐付ける」ボタンをクリックすると、MPUは、測定結果(撮像された画像と紐付された癒され度)と天気、気温、気圧、GPSからの位置データ、加速度データ等のデータと紐付(リンク)させてインターネット13を介してサーバー12に格納させる。天気は、操作者が入力するようにしてもよく、MPUがGPSを介して検出した位置データに基づきインターネット13を介して自動取得するようにしてもよい。気温は、MPUがスマートフォンに備えられた温度検出機能を制御して検出するか、MPUがGPSを介して検出した位置データに基づきインターネット13を介して気象情報提供サイトから自動取得するようにしてもよい。気圧は、MPUがスマートフォンに備えられた気圧検出機能を制御して検出するか、MPUがGPSを介して検出した位置データに基づきインターネット13を介して気象情報提供サイトから自動取得するようにしてもよい。位置データは、MPUがスマートフォンに備えられた気圧検出機能を制御して検出する。加速度データは、MPUがスマートフォンに備えられた加速度センサ機能を制御して検出する。
天気、気温、気圧、GPSからの位置データ、加速度データ等の情報は、いわゆる、ビッグデータの一種類である。これらの情報は、現在は、癒され度との関係が明確ではない。これらの一見、癒され度と関係がないように思われる情報、または、関係があるとの予想はあるものの、どのような関係があるのか現在は明確でない情報は、サーバーが収集して、将来、これらの間の複雑な関係を解明するのに益する。例えば、癒され度と気圧度との関連性、癒され度と身体の活発な運動(加速度センサで検出できる)との関連性、癒され度と高度との関連性、癒され度と、いわゆる、パワースポットとの関連性を、解明するのに益する。
操作者が、「共有する」ボタンと「外部データと紐付ける」ボタンとをクリックすると、MPUは、図5の画面9を表示させる。
操作者が、「共有する」ボタン、または、「外部データと紐付ける」ボタンの一方のみを所定時間内にクリックする場合には、MPUは、所定時間後に図5の画面9を表示させる。
操作者が、「共有する」ボタンと「外部データと紐付ける」ボタンのいずれかを所定時間内にクリックしない場合には、MPUは、所定時間後に図5の画面9を表示させる。
図6に示す画面9は、測定結果を表示する画面である。
画面9は、「癒し画像ランキング」として、同一旅行中において癒され度が高い順に表示される順位づけられた画像である。
順位付けする集合は、同一旅行の画像のみならず、過去に撮像した画像、同一の日に撮像した画像等、適宜に集合を選択できる。
図4に示す画面10は、測定結果を表示する別の画面である。
画面10は、「癒し画像ランキング」として、癒され度に基づいて順位を付けたのが左側画面であり、フラクタル解析に基づいて順位を付けたのが右側画面である。
順位づけに用いる集合の範囲は、同一旅行中の画像、過去に撮像した画像、同一の日に撮像した画像等、適宜に選択できる。フラクタル解析については後述する。
(画像データ整理端末装置と画像データ整理サーバー装置とにおける処理の概要)
図7、図8を参照して、画像データ整理システムの、癒され度検出端末装置における処理と画像データ整理サーバー装置における処理との概要を説明する。
図7、図8は連続した一連の処理を示す図である。図7、図8の各図の上段は、画像データ整理端末装置(スマートフォン11)における処理を示し、図7、図8の各図の下段は、画像データ整理サーバー装置(サーバー12)における処理を示す。図7、図8の各図の上段の処理について図2ないし図10の対応する画面がある場合には対応する画面番号を付す。スマートフォンにおける処理は、ステップST11ないしステップST18の処理およびステップST27、ステップST28、ステップST32の処理である。サーバーにおける処理は、ステップST19ないしステップST26の処理およびステップST29ないしステップST31の処理である。
図7、図8に示す一連の処理における各処理の処理順序は一つの実施形態であり、この順序を修正して用いることもできる。以下においては、図7、図8に矢印で示す順序に沿って以下に説明をする。
(画像データ整理端末装置における処理)
画像データ整理端末装置(スマートフォン11)のMPUはステップST11(開始)において、操作者が「画像データ整理端末装置プログラム」のアプリを選択すると画面1を表示させ、ステップST11の処理開始の所定時間後にステップST12に処理を移して画面2を表示させる。
MPUは、ステップST12(利用規約の表示)において、操作者が画面2の「同意する」にタッチするとST13に処理を移して画面3を表示させる。
MPUはステップST13(画像撮像モード)において、操作者が画面3の「ニックネーム」、「性別」、「生年月日」、「お住まい」の情報を入力し、「登録」にタッチするとステップST14(画像撮像モード)に処理を移して画面4を表示させる。
MPUはステップST14(画像撮像モード)において、操作者が画面4の「測定する」にタッチすると、カメラ機能を制御して、現在、液晶画面に表示されている画像を撮像して、記憶装置を制御して画像データを記憶装置に格納させる。そして、MPUはステップST15に処理を移して画面5を表示させる。
MPUはステップST15(脈波測定モードの開始処理)において、操作者が画面5の「測定開始」にタッチするとステップST16に処理を移す。
MPUはステップST16(測定の開始通知処理)において、測定の開始をして画面6を表示させる。
MPUはステップST17(カメラに近接した手の指の画像の撮像処理)において、操作者が画面6の「キャンセル」に短時間タッチするとステップST15に処理を移して画面5を表示させ、操作者が画面6の「キャンセル」に長時間タッチすると「画像データ整理端末装置プログラム」を終了させる。
MPUはステップST16(測定の開始通知処理)において、操作者が画面6の「キャンセル」に所定時間タッチしないとステップST17に処理を移して画面5を表示させ、操作者が画面6の「キャンセル」に長時間タッチすると「画像データ整理端末装置プログラム」を終了させる。
MPUはステップST18(測定の終了通知処理・演算中の表示処理・サーバーへのデータアップロード処理)において、画面7を表示させるとともに、測定の終了通知処理・演算中の表示処理をする。さらに、サーバーへのデータのアップロード処理をする。
スマートフォン11からサーバー12へアップロードするデータは、画像データ(静止画にあっては1画面を構成する1群のデータ、動画にあっては動画を構成する1群のデータ)と、この画像を撮像直後の人差し指の先をカメラで所定時間、撮像したデータ(一群の時系列輝度データ)である。
(画像データ整理サーバー装置における処理)
画像データ整理サーバー装置(サーバー12)のCPUは、ステップST19(前倒しロジック)において、前倒しロジック処理をおこなう。
前倒しロジック処理とは、時系列輝度データ信号のピークをより検出しやすいようにする処理であり、時系列輝度データの値が連続して同値である場合には、予め定める所定複数回数以上の同値の連続する時系列輝度データを処理の対象から除く処理である。
CPUは、ステップST20(輝度データの関数化処理)において時系列輝度データの関数化処理をおこなう。
時系列輝度データは、離散時間サンプリングデータであり、そのサンプリング時刻はスマートフォン11内の時刻に同期している。関数化処理は、サーバー12内の時刻に同期するために、スマートフォン11で検出する時系列輝度データが存在しない時間における時系列輝度データを関数化して連続的に補間し、リサンプリングを可能とする。リサンプリング可能とすることによってステップST25におけるフーリエ変換処理を精度よく実行できる。
CPUは、ステップST21(Savitzky-Golayフィルタによるノイズ除去及びピーク検出処理)において、Savitzky-Golay(サビツキ・ゴレイ)フィルタによるノイズ除去およびピーク検出処理をおこなう。
Savitzky-Golayフィルタ自体は公知のフィルタリング技術である。スマートフォン11のカメラで検出する時系列輝度データ信号の波形は専用の心拍センサで検出する脈波波形に比べて精度が悪く、簡単なフィルタリングでは専用の心拍センサで検出するような脈波のピークを再生することは困難である。ここで、脈波のピークを再生する際に、単純な微分を用いる場合には、高域のノイズが増加してしまいその目的を達することができない。よって、ノイズを増加させることなくピークが明確に表れるようなフィルタとしてSavitzky-Golayフィルタを用いている。
CPUは、ステップST22(RR間隔時系列データの検出処理)において、RR間隔時系列データの検出処理をおこなう。
RR間隔時系列データ(アールアール間隔時系列データ)の検出処理は、時系列輝度データ信号をRR間隔時系列データに変換する処理である。RR間隔時系列データの検出処理は、ステップST21のSavitzky-Golayフィルタによって明瞭に再生された時系列輝度データ信号に含まれる脈波のピークを微分演算により検出する処理と、この微分演算により検出された隣接する2つのピーク間の時間を検出する処理とを含んでいる。
CPUは、ステップST23(ローパスフィルタリング処理)において、ローパスフィルタリング処理をおこなう。
ローパスフィルタリング処理は、時系列輝度データからRR間隔時系列データを検出した後において、時系列輝度データが正確に脈波を検出したならば本来得られるであろうRR間隔時系列データに変換する処理である。
CPUは、ステップST24(RR間隔時系列データの異常値除去処理)において、RR間隔時系列データの異常値除去処理をおこなう。
RR間隔時系列データの異常値除去処理は、RR間隔時系列データに含まれる異常値を除去する処理である。ここで異常値とは通常は検出されないであろうRR間隔時系列データの値である。異常値の検出には、60をRR間隔時系列データの値で除して得る、RR間隔時系列データの値に逆比例する瞬時心拍数(H.R)を用いる。異常値が検出された場合には、RR間隔時系列データに混入したノイズ(すなわち、時系列輝度データ信号に混入したノイズ)がなせるものとして、ステップST25のフーリエ変換以降の処理において、異常値を示したRR間隔時系列データを用いない。異常値除去処理における異常値をどのようなものであるとみなすかについては、以下の第1のルールないし第3のルールいずれか1つが成立する場合に異常値であるとしてもよく、第1のルールないし第3のルールの任意の2つ以上の組み合わせが成立する場合に異常値であるとしてもよい。以下に第1のルールないし第3のルールについては、より詳しく後述する。
<第1のルール>
nを正整数、t(n)はn回目に検出するRR間隔時系列データとして、|60/t(n)-60/t(n-1)|≦第1所定値ではないときは、異常値であるする。すなわち、現在の瞬時心拍数と直前の瞬時心拍数との差分が第1所定値よりも大きい場合には、そのときのRR間隔時系列データを除去する。
<第2のルール>
(meanH.R(N))は移動平均値であり、Nは正整数(例えば、5、8)として、|60/t-meanH.R(N)|≧第2所定値の範囲であるときは、異常値であるとする。すなわち、現在の瞬時心拍数と直前までの瞬時心拍数の移動平均値との差分が第2所定値よりも大きい場合には、そのときのRR間隔時系列データを除去する。
<第3のルール>
第2のルールを適用した結果、所定回数(例えば、8回)連続して異常値である場合に、meanH.R(8)をリセットして、再び、meanH.R(8)を算出し直す。すなわち、第3のルールは、第2のルールを適用するに際して、現在の瞬時心拍数と移動平均値との差分が第2所定値よりも大きい場合が所定回数連続したときには、その移動平均値をリセットして、新たに、移動平均値を求めるものである。
CPUは、ステップST25(フーリエ変換処理)において、フーリエ変換処理をおこなう。
周知のハミング窓を用い、周知のFFT(高速フーリエ変換)によって、ステップST24で得られた異常値除去処理後のRR間隔時系列データをフーリエ変換処理する。ステップST20において時系列輝度データの関数化処理がなされているので、高速フーリエ変換に際しては、スマートフォン11におけるデータサンプリングタイミングとは異なるタイミングにおいてリサンプリングすることができる。また、異常値除去処理後のRR間隔時系列データをフーリエ変換するので、時系列輝度データ信号にノイズが混入しない場合に本来得られるであろうフーリエ変換後のパワースペクトルを得ることができる。
CPUは、ステップST26(高周波成分(HF)、低周波成分(LF)の検出処理
)において、高周波成分HF・低周波成分LFの検出処理をおこなう。
フーリエ変換した後、高周波成分HF、低周波成分LFを検出する。高周波成分HFは、フーリエ変換され得られた所定周波数範囲の高域のパワースペクトルの積分値である。低周波成分LFは、フーリエ変換され得られた所定周波数範囲の低域のパワースペクトルの積分値である。
ステップST26で得られた高周波成分HF、低周波成分LF値は、測定時点における「画像データ整理端末装置プログラム」を利用する者の、癒され度に関係するものである。
ステップST26においては、操作者の生体情報である高周波成分HF値、低周波成分LF値に基づいて、操作者の、癒され度を表示するための解析結果データを生成する。
解析結果データの作成に際しては、スペクトルを正規分布に近づけ、基準高周波成分から、高周波成分が極端に大きく、または、極端に小さくなる場合には、個人間のばらつきを圧縮するために、高周波成分HFを対数表示するLnHF、低周波成分LFを対数表示するLnLFを用いる。以下、LnHFを高周波成分LnHFと称し、LnLFを低周波成分LnLFと称する。なお、基準となる平常心における測定の結果得られる基準高周波成分HFを対数表示するのが基準高周波成分LnHFであり、基準となる平常心における測定の結果得られる基準低周波成分LFを対数表示するのが基準低周波成分LnLFである。
基準となる平常心における測定の結果得られる基準高周波成分HF、基準となる平常心における測定の結果得られる基準低周波成分LFは、予めスマートフォン11で測定されており、スマートフォン11の記憶装置(例えば、不揮発メモリ)に格納されている。同様に、基準高周波成分LnHF、基準低周波成分LnLFもスマートフォン11の記憶装置(例えば、不揮発メモリ)に格納されている。
表示は、図3の画面8の中段において半ドーナツ部で示すような極座標を用いる。半ドーナツ部の中心点(外側の円弧および内側の円弧の中心点)から放射状に伸びる「矢印」の直線(中心点から放射状に伸びる直線)と半ドーナツ部左端と半ドーナツ部左端とを結ぶ直線(中心点を通過する直線)とのなす角度によって癒され度を表す。
CPUが(5)式を用いて癒され度を算出する場合には、癒され度=(高周波成分HF)/(基準高周波成分HF)は、理論上は、0(零)から∞(無限大)までの範囲があり得る。(高周波成分HF)/(基準高周波成分HF)=0のときに、中心点から放射状に伸びる中心点を通過する直線(画面8の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は0°となり、癒され度は0である。一方、(高周波成分HF)/(基準高周波成分HF)=∞のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は180°となり、癒され度は100である。また、(高周波成分HF)/(基準高周波成分HF)=1のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は90°となり、癒され度は50である。ここで、癒され度の数値は、上述したものに限らず、(高周波成分HF)/(基準高周波成分HF)=0のときの、癒され度を−100として、(高周波成分HF)/(基準高周波成分HF)=1のときの、癒され度を0として、(高周波成分HF)/(基準高周波成分HF)=∞のときの、癒され度を100としてもよい。
CPUが(6)式を用いて癒され度を算出する場合には、癒され度=(高周波成分LnHF)/(基準高周波成分LnHF)は、理論上は、−∞から∞までの範囲があり得る。(高周波成分LnHF)/(基準高周波成分LnHF)=−∞のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は0°となり、癒され度は0である。一方、(高周波成分LnHF)/(基準高周波成分LnHF)=∞のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は180°となり、癒され度は100である。また、(高周波成分LnHF)/(基準高周波成分LnHF)=0のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は90°となり、癒され度は50である。ここで、癒され度の数値は、上述したものに限らず、(高周波成分LnHF)/(基準高周波成分LnHF)=−∞のときの、癒され度を−100として、(高周波成分LnHF)/(基準高周波成分LnHF)=0のときの、癒され度を0として、(高周波成分LnHF)/(基準高周波成分LnHF)=∞のときの、癒され度を100としてもよい。
CPUが(7)式を用いて癒され度を算出する場合には、癒され度=(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)は、理論上は、0から∞までの範囲があり得る。(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)=0のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は0°となり、癒され度は0である。一方、(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)=∞のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は180°となり、癒され度は100である。また、(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)=1のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は90°となり、癒され度は50である。ここで、癒され度の数値は、上述したものに限らず、(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)=0のときの、癒され度を−100として、(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)=1のときの、癒され度を0として、(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)=∞のときの、癒され度を100としてもよい。
CPUが(8)式を用いて癒され度を算出する場合には、癒され度=(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)は、理論上は、−∞から∞までの範囲があり得る。(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)=−∞のときに、中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度は0°となり、癒され度は0である。一方、(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)=∞のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は180°となり、癒され度は100である。また、(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)=0のときに、中心点から放射状に伸びる直線と、中心点を通過する直線と半ドーナツ部左端とのなす角度は90°となり、癒され度は50である。ここで、癒され度の数値は、上述したものに限らず、(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)=−∞のときの、癒され度を−100として、(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)=0のときの、癒され度を0として、(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)=∞のときの、癒され度を100としてもよい。
半ドーナツ部の円弧の中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度θは、(5)式を用いる場合には、CPUが以下の(9)式で求め、(7)式を用いる場合には以下の(10)式で求める。ここで、K4,K5は係数であり、K4,K5の値を大きくすると検出値である癒され度が強調される。

θ(°)= 2×tan-1{K4×(高周波成分HF)/(基準高周波成分HF)}・・(9)

θ(°)= 2×tan-1{K5×(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)}・・・・(10)
また、半ドーナツ部の円弧の中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度θは、(6)式を用いる場合には、CPUが以下の(11)式で求め、(8)式を用いる場合には以下の(12)式で求める。ここで、K6,K7は係数であり、K6,K7の値を大きくすると検出値である癒され度が強調される。

θ(°)= [90 + tan-1{K6×(高周波成分LnHF)/(基準高周波成分LnHF)}]・・・・・・・・・・・・・・・・・(11)

θ(°)= [90 + tan-1{K7×(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)}]・・・(12)
癒され度を0から100の範囲に変換する場合には、(5)式を用いる場合には、CPUが以下の(13)式で求め、(7)式を用いる場合には以下の(14)式で求める。ここで、K8,K9は係数であり、K8,K9の値を大きくすると検出値である癒され度が強調される。

癒され度= (100/90) × tan-1{K8×(高周波成分HF)/(基準高周波成分HF)}・・・・・・・・・・・・・・・(13)

癒され度= (100/90) × tan-1{K9×(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)}・・・・(14)
癒され度を−100から100の範囲に変換する場合には、(5)式を用いる場合には、CPUが以下の(15)式で求め、(7)式を用いる場合には以下の(16)式で求める。ここで、K10,K11は係数であり、K10,K11の値を大きくすると検出値である癒され度が強調される。

癒され度= − 100 + (200/90) × tan-1{K10×(高周波成分HF)/(基準高周波成分HF)}・・・・・・・・・・・・・・・(15)

癒され度= - 100 + (200/90) × tan-1{K11×(高周波成分HF/低周波成分LF)/(基準高周波成分HF/基準低周波成分LF)}・・・・(16)
癒され度を0から100の範囲に変換する場合には、(6)式を用いる場合には、CPUが以下の(17)式で求め、(8)式を用いる場合には以下の(18)式で求める。ここで、K12,K13は係数であり、K12,K13の値を大きくすると検出値である癒され度が強調される。

癒され度= (100/180) ×[90 + tan-1{K12×(高周波成分LnHF)/(基準高周波成分LnHF)}]・・・・・・・・・・・・・・・(17)

癒され度= (100/180) ×[90 + tan-1{K13×(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)}・・・・(14)
癒され度を−100から100の範囲に変換する場合には、(6)式を用いる場合には、CPUが以下の(19)式で求め、(8)式を用いる場合には以下の(20)式で求める。ここで、K14,K15は係数であり、K14,K15の値を大きくすると検出値である癒され度が強調される。

癒され度= (100/90) × tan-1{K14×(高周波成分LnHF)/(基準高周波成分LnHF)}・・・・・・・・・・・・・・・(19)

癒され度= (100/90) × tan-1{K15×(高周波成分LnHF/低周波成分LnLF)/(基準高周波成分LnHF/基準低周波成分LnLF)}・・・・(20)
(画像データ整理端末装置における処理)
MPUはステップST27(癒され度の解析結果表示処理)において、癒され度に関しては図3に示すように、画面8の上段に「癒され度 87/100」と表示させ、画面8の下段にグラフで表示させる。画面8の下段のグラフは、癒され度の大きさを3段階(高、中、低)に分類して、画面8の中段の画像を撮像した時点に近い時点(例えば、画面8の中段の画像を撮像した直後)の、癒され度が3段階のどこに位置するかを表示する。図面8に示す例では、癒され度は87/100であるので高に分類される。「かなりリラックスできたようですね。」と表示してもよい。
MPUはステップST28(外部データとの紐付け機能)において、操作者が画面8の「外部データとの紐付ける」をタッチした場合には、画面8に表示している画面と種々の外部データとを紐づける。
具体的には、画像データが記憶されている記憶装置(メモリ)における画面8に表示されている画面に対応する画像データの先頭番地(1群のアドレスで指定される画像データの格納されている先頭のアドレス)と、「外部データとの紐付ける」をタッチした時点において取得する外部データ(天気、気温、気圧、GPSからの位置データ、加速度データ等のデータ)を記憶する記憶装置(メモリ)のアドレスとを関係をづける。
そして、MPUはステップST28において、「当該画像の、癒され度の解析結果」と「外部データ」と、「当該画像の記憶されるアドレスと外部データの記憶されるアドレスとの紐付け情報」とを画像データ整理サーバー装置にアップロードする。
なお、MPUはステップST28において、操作者の撮像時における自己の行動記録(例えば、歩行、乗り物で移動、休息等の自己の行動の記録、さらには、自己判断する主観的な癒され度の数値の記録)を紐づけることもできる。この場合には、サーバー12のCPUは、(1)式ないし(8)式に基づき検出する、癒され度に加えて、操作者の撮影時の行動、撮影時の主観面も画像データ整理をおこなうに際しての判断基準とすることができるので、画像データ整理の精度をより向上させることができる。例えば、(1)式ないし(8)式に基づき検出する、指標には、「癒され度」以外に「感動」が混入することがあり、この場合には、自己判断する主観的な癒され度の記録を参照し、自己判断による癒され度が高い場合には、サーバー12のCPUは、間違いなく癒され度を検出していると判断し、「癒され度」と「感動」とを分離することができる。
(画像データ整理サーバー装置における処理)
CPUはステップST29(各種データ(天気、気圧、気温、位置、GPS)と測定データ、画像データを紐付けてDBに格納)において、画像データ整理端末装置のフォーマットにしたがって画像データ整理端末装置のDB(データベース)に格納する。
CPUはステップST30(フラクタル解析)において、撮像した画像のフラクタル解析をおこなう。ステップST30のフラクタル解析は、上述した、癒され度を画像に紐づける処理とは全く独立した処理である。癒され度を測定して画像に紐づける処理は、人の主観的な感性を客観的に検出して画像データを整理するものであるが、フラクタル解析は画像自体の構成に基づく基づき画像データを整理するものである。
ステップST30の処理を、癒され度を画像に紐づける処理とともに用いて画像データを整理するようにしてもよい。また、ステップST30の処理か癒され度を画像に紐づける処理かのいずれかの一方だけを用いて画像データを整理するようにしてもよい。
CPUはステップST31(データベースの集計)において、データベースに記憶されている情報と所定の整理基準に基づいて画像データの整理をする。
CPUがおこなう画像データの整理は、例えば、操作者が指定する整理すべき画像データの範囲において、操作者が指定する整理基準(第1実施形態では癒され度)に基づきソーテイングをおこなう。
CPUはステップST31において、画像データを整理した結果を画像データ整理端末装置にダウンロードする。
画像データを整理した結果は、静止画にあっては1画面の画像データに対して、または、動画にあっては1タイトルの動画に対して癒され度が高い順番を付与したものである。
(画像データ整理端末装置における処理)
MPUはステップST32(ランキングの表示)において、ステップST31において得られた画像データを整理した結果を表示する。
MPUは図4の画面9に表示するように癒され度の高い順位とサムネイルとを表示する。サムネイルとは、静止画や動画を縮小表示したものであり、多数の画像を一覧表示する際に使われる。動画においては、通常、動画のタイトル部の画像がサムネイルとして使用される。画面9をスクロールすることによって3位以降の順位に対応する画像を見ることができる。
このようにサムネイルによって、操作者は、一目で、癒され度が高い画像を素早く見つけることができる。
画像データ整理サーバー装置のCPUが、ステップST30(フラクタル解析)を採用する場合においては、MPUは図4の画面10に表示するように癒され度の高い順位およびサムネイルと、フラクタル解析に基づく順位およびサムネイルとを表示することができる。これによって、人間の心理状態に依存する心拍情報から検出する、癒され度と、画像自体から検出する、癒され度とを対比することができる。
なお、図示しないが、画面9、画面10に替えて、フラクタル解析に基づく順位およびサムネイルのみを表す画面を表示することもできる。
(画像データ整理サーバー装置各処理の詳細について)
上述したステップST19ないしステップST26を有する自律神経解析エンジンの処理の詳細について順に説明をする。
(ステップST19の前倒しロジック処理)
図6は、前倒しロジック処理を模式的に示す図である。
前倒しロジック処理は、時系列輝度データの数値が3回以上同じ場合に、2回連続に縮めるロジックである。すなわち、予め定める所定複数回数(例えば3回)以上の同値の連続する時系列輝度データを処理の対象から除く。ここで、同値には幅を持たせて、微小な所定範囲内の値のばらつきは、同値であるとして前倒しロジック処理の対象に含めるようにしてもよい。この処理によって、ステップST22のRR間隔時系列データの検出処理において、ピークがより検出しやすいようにできる。図6(a)は、前倒しロジック処理前の時系列輝度データである。図6(a)では、同じデータが4回連続している。図6(b)は、前倒しロジック処理後の時系列輝度データである。図6(b)では、同じデータの4回連続は2回連続となるように処理されている。
(ステップST20の時系列輝度データの関数化処理)
時系列輝度データの関数化は、全ての時系列輝度データのサンプル点を通過するB-スプライン関数によっておこなう。B-スプライン関数を用いることによってスマートフォン11で検出する時系列輝度データが存在しない時間における時系列輝度データも滑らかに連続関数として補間できるので、サーバー12のCPUのクロック信号を基準としてステップST21以降の処理をおこなうことができる。また、FFT(高速フーリエ変換)をおこなうための一定サンプル周期(例えば、10msec(ミリ秒))毎の時系列輝度データを新たな時系列データとして得ることができる。B-スプライン関数自体は公知の関数である。なお、データ補間の手法としては、直線補間も知られているが、B-スプライン関数を用いることによってデータの補間精度は直線補間に比べてより向上する。
(ステップST21のSavitzky-Golayフィルタによるノイズ除去処理およびピーク検出処理)
Savitzky-Golayフィルタは、ディジタル平滑化多項式フィルタ、または、最小二乗平滑化フィルタとも称されている。時間領域で設計される平滑フィルタであり、かつ微分フィルタである。実施形態のSavitzky-Golayフィルタは、例えば、窓は0.9(秒)、3次多項式で近似して2階微分を実行する。
(ステップST22のRR間隔時系列データの検出処理)
時系列輝度データ信号のピーク検出をおこなった後、隣接するピーク間の時間であるRR間隔時系列データの検出をおこなう。ピーク検出のロジックは、公知技術である単純な符号逆転としている。隣接するピーク間の時間の検出は、クロック信号に同期して動作するカウンタによっておこなう。ここで、単純な符合逆転ロジックでピーク検出が可能となり、RR間隔時系列データの検出が可能となったのは、ステップST21におけるSavitzky-Golayフィルタの効果が寄与している。
(ステップST19からステップST22までの処理をおこなった時系列データの一例)
図7は、サーバー12における各ステップの処理終了後の時系列輝度データを示す図である。
図7(a)は、ステップST18においてアップロードされた時系列輝度データを示す図である。図7(b)は、ステップST20の時系列輝度データの関数化処理終了後の時系列輝度データを示す図である。図7(c)は、ステップST21のSavitzky-Golayフィルタによるノイズ除去処理後の時系列輝度データを示す図である。
(ステップST23のローパスフィルタリング処理)
カメラに入射する周囲の光は迷光としてノイズ発生原となる。スマートフォン11のカメラは、通常の風景、人物を写すカメラの機能を発揮するように設計されている。よって、カメラがとらえるごくわずかな皮膚の輝度の変化に対してノイズとなる迷光のレベルは相対的に大きく、ステップST22において時系列輝度データから検出したRR間隔時系列データ(RRI)にはノイズが含まれるので、ステップST22において得られるRR間隔時系列データの中から適切にノイズを除かないとRR間隔時系列データを精度よく分離することができない。
そこで、ノイズを除去するのに最適なフィルタ特性を予め実験によって求め、このような特性を有するローパスフィルタをステップST23の処理において用いた。以下、どのようにして、最適なフィルタ特性を求めたかについて説明をする。
市販の専用の心拍センサから得られるRR間隔(RRI)時系列データの波形を基準波形として、この基準波形にステップST20の処理後に得られるRR間隔時系列データの波形を近づけるローパスフィルタの特性を求めた。ステップST23のローパスフィルタリング処理によってスマートフォン11のカメラから得られた輝度信号から検出されるRR間隔時系列データからノイズが除去されて、本来検出されるべきであろうRR間隔時系列データにより近いRR間隔時系列データが得られた。
図8、図9は、ローパスフィルタの定数をどのように定めるかについての説明図である。
図8は、市販の専用の心拍センサ(MyBeat:登録商標)から得られるRR間隔時系列データとステップST23のローパスフィルタリング処理をしないRR間隔時系列データとを対比する図である。
図8(a)は、市販の心拍センサから得られるRR間隔時系列データである。図8(b)は、ステップST23のローパスフィルタリング処理をしない前のスマートフォン11から得られるRR間隔時系列データである。図8(a)と図8(b)とは、同一人から同時に得られたデータである。
図8(a)の市販の心拍センサのデータと図8(b)のスマートフォン11からのステップST22のローパスフィルタリング処理前のRR間隔時系列データとはかなり異なっている。そこで、平滑化スプラインを用いたローパスフィルタによってスマートフォン11からのRR間隔時系列データをフィルタリングすることを試みた。
図9は、平滑化パラメータ(spar)を変化させたときに、ローパスフィルタリング処理後のRR間隔時系列データがどのように変化するかを示す図である。
図9(a)の平滑化パラメータ(spar)は、0.7である。図9(b)の平滑化パラメータ(spar)は、0.6である。図9(c)の平滑化パラメータ(spar)は、0.5である。図9(d)の平滑化パラメータ(spar)は、0.4である。図9(e)の平滑化パラメータ(spar)は、0.3である。図9(f)の平滑化パラメータ(spar)は、0.2である。
図8(a)に示す市販の心拍センサから得られるRR間隔時系列データと、図9(a)ないし図9(f)に示すローパスフィルタリング処理後のRR間隔時系列データを対比する。平滑化パラメータ(spar)が0.2〜0.4の範囲で両者が近似する好適な結果が得られる。平滑化パラメータ(spar)が0.3の〜0.4の範囲で両者がより近似するより好適な結果が得られる。よって、本実施形態においては、市販の心拍センサから得られるRR間隔時系列データとスマートフォン11から得られるRR間隔時系列データを最も近くする平滑化パラメータ(spar)の値として0.3の〜0.4の範囲を用いている。
(ステップST24のRR間隔時系列データの異常値除去処理)
表1は、RR間隔時系列データの異常値除去処理を説明するための表である。表1を参照して以下に説明をする。
表1の第1列目は、RR間隔時系列データが検出された順番に対応する数字である。RR間隔時系列データが最初に検出された1回目から14回目までが表1には記載されている。
表1の第2列目は、RR間隔時系列データの値であり、1回目に検出されたRR間隔時系列データの値は時間t1、2回目に検出されたRR間隔時系列データの値は時間t2、・・・13回目に検出されたRR間隔時系列データの値は時間t13、14回目に検出されたRR間隔時系列データの値は時間t14である。
表1の第3列目は、60をRR間隔時系列データの値で除して、RR間隔時系列データの値に逆比例する瞬時心拍数(H.R)を得た値である。
表1の第4列目は、瞬時心拍数(H.R)の1回毎の増減量の絶対値|60/tn -60/tn-1|を演算した結果である。ルール1に対応する演算である。
表1の第5列目は、当該瞬時心拍数(H.R)と、当該瞬時心拍数(H.R)の前の所定拍数(表1の例では8拍)の瞬時心拍数を移動平均によって平均化した値との差分の絶対値である。ルール2に対応する演算である。すなわち、9回目の瞬時心拍数(H.R)である60/t9と、9回目に対応する移動平均であるmeanH.R(8(t1,t2,t3,t4,t5,t6,t7,t8))(1回目から8回目までの移動平均)との差分の絶対値が9回目のHR差分である。同様に、10回目の瞬時心拍数(H.R)である60/t10と、10回目の測定に対応する移動平均であるmeanH.R(8(t2,t3,t4,t5,t6,t7,t8,t9))(2回目から9回目までの移動平均)との差分の絶対値が10回目のHR差分である。以下同様にして、11回目以降についても演算をする。
表1の12回目の第4列目が「error」と記載されているのは、12回目の瞬時心拍数(H.R)である60/t12 をエラー値であるとして、HR差分の演算に用いず、当該RR間隔時系列データであるt12を除去してデータ処理の対象としないことを意味している。
RR間隔時系列データの除去に際しては 、上述した第1のルール、第2のルール、第3のルールの3つのルールが適用される。第1のルールないし第3のルールのいずれか1つでもクリアしない場合には、当該RR間隔時系列データは除去されデータ処理の対象とはしないとしてもよく、第1のルールないし第3のルールの任意の2つ以上の組み合わせ(第1のルールないし第3のルールの全ての組み合わせも当然に含む)をクリアしない場合には、当該RR間隔時系列データは除去されデータ処理の対象とはしないとしてもよい。
本実施形態においては、第1のルール(ルール1)、第2のルール(ルール2)、第3のルール(ルール3)を以下のように組み合わせて用いている。
第1のルールは、以下のように用いている。1回目にはRR間隔時系列データの前のデータがないので第1のルールは適用しない。2回目以降は、当該瞬時心拍数と1回前の瞬時心拍数との差分である|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときにのみ、RR間隔時系列データを採用する、それとともに、8拍の瞬時心拍数(H.R)であるmeanH.R(8)の算出に際して、|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときにのみ当該瞬時心拍数(60/t(n))を用いる。
表1の1回目〜11回目はこのルール1に則り、|60/t(n)-60/t(n-1)|の演算結果が第1所定値以下のときの処理をおこなう。
|60/t(n)-60/t(n-1)|の演算結果が第1所定値よりも大きい場合には、突然に前と異なる瞬時心拍数(H.R)がノイズ等により発生したと判断して(すなわち、突然に前と異なるRR間隔時系列データがノイズ等により発生したと判断して)、当該RR間隔時系列データは除去されデータ処理の対象とはしない。それとともに、本実施形態においては8拍の瞬時心拍数(H.R)であるmeanH.R(8)の算出に際しても、第1のルールを適用してerror(エラー)となった瞬時心拍数(H.R)を移動平均の演算に用いない。ここで、meanH.R(8)の表記は8拍の瞬時心拍数(H.R)についての移動平均値を意味し、N拍の移動平均値であれば、meanH.R(N)と記載する。Nの値は適宜に決め得るものである。
表1の13回目のmeanH.R(8)の算出はこのルールに則っており、meanH.R(8)として|60/t13-meanH.R(8(t4,t5,t6,t7,t8,t9,t10,t11))|(4回目から11回目の移動平均)を用いている。本来あるべき13回目のmeanH.R(8)である|60/t13-meanH.R(8(t5,t6,t7,t8,t9,t10,t11,t12))|は、用いていない。また、14回目のmeanH.R(8)の算出もこのルールに則っており、meanH.R(8)として|60/t14-meanH.R(8 (t5,t6,t7,t8,t9,t10,t11,t13))|(5回目から13回目まで12回目を除く移動平均)を用いている。
また、表1には表れていないが、本実施形態では第2のルールも用いている。第2のルールは、|60/t-meanH.R(8)|の演算結果が第2所定値以上のときは、前の8拍の平均値と異なる異常な瞬時心拍数(H.R)が発生したと判断して、当該RR間隔時系列データは除去されデータ処理の対象とはしない。なお、第1所定値と第2所定値の大小関係によって、|60/t(n)-60/t(n-1)|≦第1所定値ではない(第1のルール)、または、|60/t-meanH.R(N)|≧第2所定値である(第2のルール)のいずれか一方に該当し、または、その双方に該当して、異常値であると判断される。
また、表1には表れていないが、本実施形態では第3のルールも用いている。第3のルールは、所定拍数(例えば、8拍)についての移動平均値(meanH.R(8))の演算結果が、所定回数(例えば、8回)連続して第2所定値の範囲にない場合は、meanH.R(8)をリセットして、再び、meanH.R(8)を算出し直す。この演算は、表1の1回目から8回目の処理に対応するが、表1とは異なり、この場合には1回目の値が検出されるので1回目についても第1のルールが適用され、1回早く表1の8回目において移動平均値が得られる。
(ステップST25のフーリエ変換処理)
フーリエ変換処理は、窓として、周知技術の方形窓(窓なし)、ハニング窓、ハミング窓の3種類の窓を試みた。その結果、ハミング窓が後述する高周波成分HFと低周波成分LFとの分離において最も良好な結果が得られので、ハミング窓を用いる。RR間隔時系列データは、関数化処理がなされているので、一定の周期でリサンプリングをおこなう高速フーリエ変換が可能となる。
(ステップST26の高周波成分HF・低周波成分LFの検出処理)
高周波成分HFは副交感神経の活動を表し、低周波成分LFは交感神経の活動を表す指標として定義されて既住の論文、文献において用いられている。高周波成分HFは、フーリエ変換した後、0.15〜0.4Hzの帯域を通過させるフィルタによって得られる0.15〜0.4Hzのパワースペクトルの積分値である。低周波成分LFは、0.04〜0.15Hzの帯域を通過させるフィルタによって得られるパワースペクトルの積分値である。
低周波成分LnLFは、低周波成分LFの対数表示である。対数表示によって低周波成分LnLFは、複数回測定すると正規分布に近づく。高周波成分LnHFは、高周波成分HFの対数表示である。対数表示によって高周波成分LnHFは、複数回測定すると正規分布に近づく。
低周波成分LnLFの値が大きいほど、交感神経の活動は高く、低周波成分LnLFの値が小さいほど、交感神経の活動は低い。また、高周波成分LnHFの値が大きいほど、副交感神経の活動は高く、高周波成分LnHFの値が小さいほど、副交感神経の活動は低い。
(ステップST30のフラクタル解析)
サーバー12のCPUがおこなうステップST30におけるフラクタル解析について説明をする。
フラクタルとは.1975年にマンデルブロ(Mandelbrot)が「砕けた石」という意味のラテン語から命名した用語であり、非整数次元を持った図形、構造を指す。特徴としては微小な部分をとっても全体に相似している自己相似性が挙げられる。図形等の複雑さの程度を表す共通の尺度として、フラクタル次元があり、図形などが複雑であればあるほどフラクタル次元の値も大きい。
非特許文献4に記載されるようにフラクタル次元に関して、絵画や風景などの視覚情報のフラクタル次元がその好感度と関連があることが主張されている。しかしながら、心拍のゆらぎから算出される癒され度とフラクタル次元との関係についての研究はほとんどされていない。そこで、本特許出願の願書に記載の発明者ら(以下、単に発明者らと省略する)は、上述したように、画像を視認したときの人間の心理状態に依存する心拍情報から検出する癒され度と、同様な指標を画像自体から検出する方法がないかを探索し、画像自体から癒され度と同様な指標を抽出することができた。画像自体から抽出されるこの指標を、画像自体から得られる癒され度、あるいは単に癒され度と以下では称する。
すなわち、発明者らは画像のフラクタル次元が低いと、画像自体から得られる、癒され度が高いという傾向があるとの結論に至った。簡単に説明するとフラクタル次元が高い画像は一般的に入り組んだごちゃごちゃした感じを与えるとともに強い印象を与える傾向が高いのに対して、フラクタル次元が低い画像は雄大な感じを与える傾向が高い。そして、フラクタル次元の値が近似していれば,刺激は類似しており、フラクタル次元が離れた値である場合の刺激は類似していないのではないかという仮説に基づけば、フラクタル次元により視覚的注意への影響が一定の確定性を有することとなる。このような理屈から、同様なフラクタル次元を有する画像から得られる人間の心理は同様なものとなり、この心理が心拍(脈波)に影響を与え、フラクタル次元が低い画像は癒され度が高いものとして検出されるのではないかと発明者らは推測している。
実施形態では、フラクタル次元を計算するために、元の画像をグレースケールに変換し、濃淡によってpixel値を表した3次元の画像に置き換えた(立方体法)。このようにして3次元に置き換えた空間を画像濃度空間と呼ぶ。画像濃度空間の濃度面の起伏の複雑さを示すフラクタル次元を推測する方法として,フラクタルブラウン関数に従ってpixel(x)の濃度値を推量する方法を用いた(非特許文献2を参照)。自己相似性によって特徴づけられる統計的フラクタルの代表的な記述モデルであるフラクタルブラウン関数を画像の濃度値で定義すると,任意の変位(x)について以下の(21)式が得られる。ここで、E[]はΔxを固定した場合の期待値を,l(x)はxにおける濃度値、H,Cは定数である。

E[|(l(x + Δx)-l(x)|]×|Δx|-H =C・・・・(21)
(21)式におけるH,Cは定数であるため(21)式を対数変換すると、(22)式となり、Cとxが対数プロットされたグラフの直線部分の傾きはHで表わされる。

log C= log E[|(l(x + Δx)-l(x)|]-H log|Δx|・・・・(22)式
Hによって画像の濃度空間の3次元曲面のフラクタル次元Dは次の(23)式
で与えられる。
D=3-H・・・・・(23)
フラクタル次元Dを求める別の方法としては、より計算を単純化した平面法と呼ばれるものがある。この方法は、パラメータrによりサイズが決定される任意のボックスサイズを設定し、その面を覆う小さなエリア単位の個数を数える方法である。この方法では、Hについての式は、log N(r)= -H log r +log N(1)となり、最終的には(23)式に対応する式は、D=2-Hとなる。
このようにしてステップST30(フラクタル解析)の処理をおこない、画像自体の癒され度が高い順に撮像した画像を並べることができる。なお、図4の画面10に示すような対比処理を多量のデータについて統計的におこなえば、フラクタル次元と癒され度との関係についての知見の精度がより高まると発明者らは考えている。さらに、このような統計処理の積み重ねの結果、操作者の心の動きを測定することなく画像そのものの性質を解析することによって画像データの自動整理も可能とできると発明者らは考えている。
フラクタル解析の処理を用いる画像データの自動整理の方法には、操作者の心の動きを測定することなく画像データの自動整理をする段階から、操作者の心の動きを測定に加えてフラクタル解析の結果を用いる段階までいくつかの段階がある。操作者の心の動きを測定に加えてフラクタル解析の結果を用いる場合には、上述した「癒され度」と「感動」とを分離するに際して、上述したように操作者の癒されているという主観を入力することなく、自動分離をすることができる。すなわち、(1)式ないし(8)式によって自律神経指標により検出する、癒され度が高い画像を検出した後、さらに、フラクタル解析の結果「癒され度」が高いと判断される画像のみを自動検出して、「感動」する画像を排除して「癒され度」が高い画像のみを検出できる。「興奮度」と「ストレス」とを分離するに際しても同様の手法を用いることができる。
「第1実施形態の変形例」
(第1変形例)
上述した実施形態においては、画像データ整理システムにおけるクライアントとサーバーとの接続は、インターネット回線を用いるものとして説明をしたが、両者の接続はこれに限るものではなく、専用回線、公衆回線を問わず、有線通信回線、無線回線を問わず、あらゆる回線を用いることができる。例えば、LAN、専用の微弱電波を用いた専用回線、高速汎用回線等を用いることができる。
(第2変形例)
クライアントとしての画像データ整理端末装置は、スマートフォン、タブレット、専用端末を始めとして、種々のものを使用できる。また、画像データ整理端末装置はコンピュータ(MPU)とMPUにおいて実行されるプログラムを中心にして構成するのみならず、処理の一部、または、全部をランダムロジック回路でおこなうようにしてもよい。この場合においては、各処理部は、コンピュータにプログラムを実行させて実現するのでなく、ハードウエアで構成して実現される。
サーバーとしての画像データ整理サーバー装置は、コンピュータ(CPU)とソフトウエアとの組み合わせによって実現するのみならず、各処理の一部、または、全部を集積回路、ランダムロジック回路等のハードウエアで構成しておこなってもよい。この場合においては、ランダムロジック回路等のハードウエアでおこなう各処理は、コンピュータとプログラムとで実行するのでなく、ハードウエアで構成する各処理部で実行する。
ハードウエア構成においては、前倒しロジック処理部で前倒しロジック処理を実行し、時系列輝度データの関数化処理部で時系列輝度データの関数化処理を実行し、Savitzky-Golayフィルタ部でノイズ除去およびピーク検出処理を実行し、RR間隔時系列データ検出処理部でRR間隔時系列データの検出処理を実行し、ローパスフィルタリング処理部でローパスフィルタリング処理を実行し、RR間隔時系列データの異常値除去処理部でRR間隔時系列データの異常値除去処理を実行し、フーリエ変換処理部でフーリエ変換処理を実行し、高周波成分HF・低周波成分LFの検出処理部で高周波成分HF・低周波成分LFの検出処理を実行する。
(第3変形例)
前倒しロジック処理、Savitzky-Golayフィルタによるノイズ除去処理およびピーク検出処理、ローパスフィルタリング処理、RR間隔時系列データの異常値除去処理は、いずれも、時系列輝度データに含まれるノイズ、または、RR間隔時系列データに含まれるノイズを除去するための処理であり、これらのいずれかの一つ、または、これらの二つ以上の組み合わせ(これらの全部の組み合わせを含む)を適宜に用いることができる。
また、クライアントの画像データ整理端末装置における処理と、サーバーの画像データ整理サーバー装置における処理とをどのように分けるかは、適宜に決め得るものである。例えば、画像データ整理端末装置にあるカメラ毎の性能の異なりを画像データ整理端末装置において補正するために、前倒しロジック処理(ステップST19)、時系列輝度データの関数化処理(ステップST20)、Savitzky-Golayフィルタによるノイズ除去およびピーク検出処理(ステップST21)、RR間隔時系列データの検出処理(ステップST22)、ローパスフィルタリング処理(ステップST23)、RR間隔時系列データの異常値除去処理(ステップST24)のうちの一部または、その全部を画像データ整理端末装置においておこなうようにしてもよい。このようにすることによって、カメラの特性にあわせた適切な処理を画像データ整理端末装置においておこなうことができる。
(第4変形例)
第1実施形態においては、画像データ整理端末装置が有するカメラは1個であったので、例えば、風景の画像撮像時には、手の指先を同時に撮像することができなかった。そのために、風景の画像を撮像した直後にカメラの位置を変えて手の指先を撮像しなければならず煩雑であった。そこで、これを改善するために以下のようにする。
画像データ整理端末装置(スマートフォン11)のカメラは、風景等を撮像するためのカメラに加えて、スマートフォン11を手で保持するときに手の指先を撮像する位置に補助カメラを備える。このようにすれば、風景等の撮像時そのままの手の指の位置を維持しながら、風景等を撮像した直後に補助カメラから時系列輝度データを得ることができる。
(第5変形例)
上述したフラクタル解析の結果を以下のようにして用いることができる。フラクタル解析の結果として得られた画像のフラクタル次元と、そのフラクタル次元の画像を視認する者の好む音楽(画像フラクタル次元に対応する音楽)を予めサーバー12に保存しておく。そして、サーバー12がスマートフォン11からの送られる画像についてのフラクタル解析をおこなった後、サーバー12に保存されている画像フラクタル次元に対応する音楽をスマートフォン11にダウンロードする。このようにすれば、スマートフォン11を携帯する者は、音楽をその者の意思で選択することなく自動的に、現在見ている風景に最もマッチする音楽を楽しむことができる。
第1実施形態の要点をまとめると以下の様になる。
画像データ整理システムは、画像データ整理端末装置と画像データ整理サーバー装置とを備える画像データ整理システムであって、画像データ整理端末装置は、画像を撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた撮像された画像を表示する画像表示部と、を具備し、画像データ整理サーバー装置は、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、高周波成分から癒され度を求める自律神経解析エンジン処理部と、癒され度の高い順に撮像された画像を並べるソーテイング処理部と、を具備する。自律神経解析エンジン処理部は、少なくとも、高周波成分を予め測定した基準高周波成分で除して、癒され度を求めることがより望ましい。
また、画像データ整理サーバー装置は、撮像された画像から撮像された画像のフラクタル次元を演算するフラクタル解析処理部と、画像が与える、癒されたという印象と、その画像に対応するフラクタル次元との関係の統計解析に基づき、癒されたという印象の高い順に撮像した画像を並べるソーテイング処理部と、を具備するようにしてもよい。
画像データ整理端末装置は、スマートフォンであり、撮像部は、スマートフォンのカメラ機能で構成し、時系列心拍データ取得部は、スマートフォンのカメラ機能に指先を撮影させて構成するようにしてもよい。
画像データ整理サーバー装置プログラムは、画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、画像データ整理端末装置が取得した時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、高周波成分から癒され度を求める自律神経解析エンジン処理部と、癒され度の高い順に撮像された画像を並べるソーテイング処理部と、を備えるようにコンピュータを機能させる。自律神経解析エンジン処理部は、少なくとも、高周波成分を予め測定した基準高周波成分で除して、癒され度を求めることがより望ましい。
画像データ整理端末装置プログラムは、画像データ整理システムにおいて画像データ整理サーバー装置と協調して動作する画像データ整理端末装置のコンピュータに実行させる画像データ整理端末装置プログラムであって、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた撮像された画像を表示する画像表示部と、を備えるようにコンピュータを機能させる。
「第2実施形態」
第1実施形態においては、クライアント・サーバー・システムとして画像データ整理システムを構成した。第2実施形態は、第1実施形態のサーバーにおける全ての処理をクライアントに移すようにする実施形態である画像データ整理装置、画像データ整理装置プログラムに関する。このような画像データ整理装置は、例えば、図1に記載されたスマートフォン11がサーバー12の支援を受けることなく、単独で全ての処理をおこなう場合に相当する。画像データ整理装置として機能するスマートフォン11が単体で上述した処理の全てをおこなう場合には、サーバーを用いなくともよい。また、画像データ整理装置は画像データ整理装置プログラムのみによって動作する。
第2実施形態の要点をまとめると以下の様になる。
画像データ整理装置は、撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、高周波成分から癒され度を求める自律神経解析エンジン処理部と、癒され度の高い順に画像データを並べるソーテイング処理部と、癒され度の高い順に並べられた画像データを表示する画像表示部と、を備える。自律神経解析エンジン処理部は、少なくとも、高周波成分を予め測定した基準高周波成分で除して、癒され度を求めることがより望ましい。
画像データ整理装置プログラムは、画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、高周波成分から癒され度を求める自律神経解析エンジン処理部と、癒され度の高い順に画像データを並べるソーテイング処理部と、癒され度の高い順に並べられた画像データを表示する画像表示部と、を備えるようにコンピュータを機能させる。自律神経解析エンジン処理部は、少なくとも、高周波成分を予め測定した基準高周波成分で除して、癒され度を求めることがより望ましい。
「第3実施形態」
第1実施形態、第2実施形態においては、画像データ整理システム、画像データ整理サーバー装置、画像データ整理端末装置、画像データ整理サーバー装置プログラム、画像データ整理端末装置プログラムは、「癒され度」を整理基準として画像データを整理するものであった。しかしながら、第1実施形態、第2実施形態と同様な技術的思想に基づきながら、「癒され度」とは異なる他の整理基準に基づき、画像データを整理することができる。第3実施形態は、「興奮度」を整理基準として画像データを整理する、画像データ整理システム、画像データ整理サーバー装置、画像データ整理端末装置、画像データ整理サーバー装置プログラム、画像データ整理端末装置プログラムである。
上述したように、高周波成分は副交感神経の活動に関係する。一方、低周波成分は交感神経の活動に関係することが知られている。また、高周波成分を低周波成分で除したものも副交感神経の活動を表し、高周波成分の対数も副交感神経の活動を表し、高周波成分の対数を低周波成分の対数で除するものも副交感神経の活動を表す。一方、低周波成分を高周波成分で除したものも交感神経の活動を表し、低周波成分の対数も交感神経の活動を表し、低周波成分の対数を高周波成分の対数で除するものも交感神経の活動を表すことが知られている。このことを利用して、「興奮度」を整理基準として画像データを整理することができる。以下の第3実施形態の説明においては、図を引用せずに説明するが、「癒され度」を「興奮度」と置き換えて、既に説明をした図1ないし図5を第3実施形態の説明に援用することができる。
低周波成分、低周波成分を高周波成分で除するもの、低周波成分の対数、低周波成分の対数を高周波成分の対数で除するものは、いずれも、それらの値が大きいほど、交感神経の活動が高い。そして、交感神経の活動が高い程、興奮度が高い。
具体的には、興奮度は以下の様にして求める。

興奮度=(低周波成分)・・・・・・・・・・・・・・・・・・・(24)

興奮度=(低周波成分の対数)・・・・・・・・・・・・・・・・(25)

興奮度=(低周波成分/高周波成分)・・・・・・・・・・・・・(26)

興奮度={(低周波成分の対数/高周波成分の対数)}・・・・・・(27)
しかしながら、興奮度が大きい場合でも、興奮していない者もある反面、興奮度が小さい場合でも、興奮している者もある。すなわち、低周波成分、低周波成分を高周波成分で除するもの、低周波成分の対数、低周波成分の対数を高周波成分の対数で除するものと、どの程度興奮しているかの関係は、個人差がある。そこで、測定時点の低周波成分と、基準低周波成分との大きさの違いに基づいて興奮度を求めるようにした。このようにして、興奮している度合である興奮度が個人差なく規格化できる。
具体的には、規格化した興奮度は以下の様にして求める。

興奮度=(低周波成分LF)/(基準低周波成分LF)・・・・・・・・・(28)

興奮度=(低周波成分の対数LnLF)/(基準低周波成分の対数LnLF)・・(29)

興奮度=(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)
=(低周波成分LF/基準低周波成分LF)/(高周波成分HF/基準高周波成分HF)・・(30)

興奮度={(低周波成分の対数LnLF/高周波成分の対数LnHF)/(基準低周波成分の対数LnLF/基準高周波成分の対数LnHF)}
={(低周波成分の対数LnLF/基準低周波成分の対数LnLF)/(高周波成分の対数LnHF/基準高周波成分の対数LnHF)}・・・・・・・(31)
以上の、(24)式ないし(31)式のいずれの式に基づき、興奮度を求めるかは、任意に選択できる。
基準低周波成分とは基準の興奮状態における低周波成分であり、基準高周波成分とは基準の興奮状態における高周波成分である。ここで、基準の興奮状態とは、通常の日常生活を行っている場合における興奮状態であり、過度に気が緩んだ状態でもなく、過度に興奮した状態でもなく、くつろいだ穏やかな平常心における興奮状態である。一般的には、(24)式ないし(31)式における基準低周波成分と基準高周波成分は、(1)式ないし(8)式における基準低周波成分と基準高周波成分、同じものである。
第3実施形態における以下の各式と第1実施形態における各式とは以下の様に対応する。(32)式は(9)式に対応し、(33)式は(10)式に対応し、(34)式は(11)式に対応し、(35)式は(12)式に対応し、(36)式は(13)式に対応し、(37)式は(14)式に対応し、(38)式は(15)式に対応し、(39)式は(16)式に対応し、(40)式は(17)式に対応し、(41)式は(18)式に対応し、(42)式は(19)式に対応し、(43)式は(20)式に対応する。以下では、低周波成分の対数LnLFを低周波成分LnLFと省略し、高周波成分の対数LnHFを高周波成分LnHFと省略し、基準低周波成分の対数LnLFを基準低周波成分LnLFと省略し、基準高周波成分の対数LnHFを基準高周波成分LnHFと省略して記載する。
半ドーナツ部の円弧の中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度θは、(28)式を用いる場合には、CPUが以下の(32)式で求め、(29)式を用いる場合には以下の(33)式で求める。ここで、K4,K5は係数であり、K4,K5の値を大きくすると興奮度が強調される。

θ(°)= 2×tan-1{K4×(低周波成分LF)/(基準低周波成分LF)}・・(32)

θ(°)= 2×tan-1{K5×(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)}・・・・・・・・・・・・・・・・・・・・・(33)
また、半ドーナツ部の円弧の中心点から放射状に伸びる中心点を通過する直線(画面16の「矢印」の直線)と、中心点と半ドーナツ部左端とを結ぶ直線とのなす角度θは、(28)式を用いる場合には以下の(34)式で求められ、(30)式を用いる場合には以下の(35)式で求められる。ここで、K6,K7は係数であり、K6,K7の値を大きくすると興奮度が強調される。

θ(°)= [90 + tan-1{K6×(低周波成分LnLF)/(基準低周波成分LnLF)}]・・・・・・・・・・・・・・・・・・・・・・・・・・・・(34)

θ(°)= [90 + tan-1{K7×(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)}]・・・・・・・・・(35)
興奮度を0から100の範囲に変換する場合には、(28)式を用いる場合には以下の(36)式で求められ、(30)式を用いる場合には以下の(37)式で求められる。ここで、K8,K9は係数であり、K8,K9の値を大きくすると興奮度が強調される。

興奮度= (100/90) × tan-1{K8×(低周波成分LF)/(基準低周波成分LF)}・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・(36)

興奮度= (100/90) × tan-1{K9×(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)}・・・・・・・・・・・・・・・・(37)
興奮度を−100から100の範囲に変換する場合には、(28)式を用いる場合には以下の(38)式で求められ、(30)式を用いる場合には以下の(39)式で求められる。ここで、K10,K11は係数であり、K10,K11の値を大きくすると興奮度が強調される。

興奮度= − 100 + (200/90) × tan-1{K10×(低周波成分LF)/(基準低周波成分LF)}・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・(38)

興奮度= - 100 + (200/90) × tan-1{K11×(低周波成分LF/高周波成分HF)/(基準低周波成分LF/基準高周波成分HF)}・・・・・・・・・・・・・・(39)
興奮度を0から100の範囲に変換する場合には、(28)式を用いる場合には以下の(40)式で求められ、(30)式を用いる場合には以下の(41)式で求められる。ここで、K12,K13は係数であり、K12,K13の値を大きくすると興奮度が強調される。

興奮度= (100/180) ×[90 + tan-1{K12×(低周波成分LnLF)/(基準低周波成分LnLF)}]・・・・・・・・・・・・・・・・・・・・・・・・・(40)

興奮度= (100/180) ×[90 + tan-1{K13×(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)}・・・・(41)
興奮度を−100から100の範囲に変換する場合には、(28)式を用いる場合には以下の(42)式で求められ、(30)式を用いる場合には以下の(43)式で求められる。ここで、K14,K15は係数であり、K14,K15の値を大きくすると興奮度が強調される。

興奮度= (100/90) × tan-1{K14×(低周波成分LnLF)/(基準低周波成分LnLF)}・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・(42)

興奮度= (100/90) × tan-1{K15×(低周波成分LnLF/高周波成分LnHF)/(基準低周波成分LnLF/基準高周波成分LnHF)}・・・・・・・・・(43)
以上のようにして、第3実施形態においては、第1実施形態における演算式を「癒され度」を求めるものから「興奮度」を求めるものに変更することによって、第1実施形態と同様にして、興奮度を整理基準として画像データを整理することができる。興奮度を整理基準として画像データを整理するのに適当な画像データは、例えば、観戦しながら撮像したスポーツの試合の画像データなどである。試合観戦中に、あまり深く考えることなく次から次に撮像した多数の画像データを、興奮度を整理基準としてエキサイティングな画像だけを苦労なく自動整理することができる。
なお、MPUは、操作者の撮像時における自己の行動記録(例えば、歩行、乗り物で移動、休息等の自己の行動の記録、さらには、自己判断する主観的な興奮度の数値の記録)を紐づけることもできる。この場合には、サーバー12のCPUは、(24)式ないし(31)式に基づき検出する、興奮度に加えて、操作者の撮影時の行動、撮影時の主観面も画像データ整理をおこなうに際しての判断基準とすることができるので、画像データ整理の精度をより向上させることができる。例えば、(24)式ないし(31)式に基づき検出する、指標には、「興奮度」以外に「ストレス」が混入することがあり、この場合には、自己判断する主観的な興奮度の記録を参照し、自己判断による興奮度が高い場合には、サーバー12のCPUは、間違いなく興奮度を検出していると判断し、「興奮度」と「ストレス」とを分離することができる。
「第3実施形態の変形例」
第3実施形態においても、第1実施形態の第1変形例ないし第4変形例と同様な実施形態を実施することができる。
第3実施形態の要点をまとめると以下の様になる。
画像データ整理システムは、画像データ整理端末装置と画像データ整理サーバー装置とを備える画像データ整理システムであって、画像データ整理端末装置は、画像を撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、興奮度の高い順に並べられた撮像された画像を表示する画像表示部と、を具備し、画像データ整理サーバー装置は、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分から興奮度を求める自律神経解析エンジン処理部と、興奮度の高い順に撮像された画像を並べるソーテイング処理部と、を具備する。自律神経解析エンジン処理部は、少なくとも、低周波成分を予め測定した基準低周波成分で除して、興奮度を求めることがより望ましい。
画像データ整理端末装置は、スマートフォンであり、撮像部は、スマートフォンのカメラ機能で構成し、時系列心拍データ取得部は、スマートフォンのカメラ機能に指先を撮影させて構成するようにしてもよい。
画像データ整理サーバー装置プログラムは、画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、画像データ整理端末装置が取得した時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分から興奮度を求める自律神経解析エンジン処理部と、興奮度の高い順に撮像された画像を並べるソーテイング処理部と、を備えるようにコンピュータを機能させる。自律神経解析エンジン処理部は、低周波成分を予め測定した基準低周波成分で除して、興奮度を求めることがより望ましい。
画像データ整理端末装置プログラムは、画像データ整理システムにおいて画像データ整理サーバー装置と協調して動作する画像データ整理端末装置のコンピュータに実行させる画像データ整理端末装置プログラムであって、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、興奮度の高い順に並べられた撮像された画像を表示する画像表示部と、を備えるようにコンピュータを機能させる。
画像データ整理装置は、撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分から興奮度を求める自律神経解析エンジン処理部と、興奮度の高い順に画像データを並べるソーテイング処理部と、興奮度の高い順に並べられた画像データを表示する画像表示部と、を備える。自律神経解析エンジン処理部は、低周波成分を予め測定した基準低周波成分で除して、興奮度を求めることがより望ましい。
画像データ整理装置プログラムは、画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分から興奮度を求める自律神経解析エンジン処理部と、興奮度の高い順に画像データを並べるソーテイング処理部と、興奮度の高い順に並べられた画像データを表示する画像表示部と、を備えるようにコンピュータを機能させる。自律神経解析エンジン処理部は、低周波成分を予め測定した基準低周波成分で除して、興奮度を求めることがより望ましい。
「第4実施形態」
第1実施形態ないし第3実施形態の画像の整理技術においては、撮像する画像が、予め定める整理基準を満たしているか否かを装置の操作者に知らせる技術と、撮像した複数の画像を事後的に自動整理する技術を提供するものであった。第4実施形態では、上述した技術に加え、撮像像する前に癒され度が高速に検出できるので、癒やされ度が高い静止画または動画を即座に選択して撮像することができる。また、予め定める整理基準を満たしている場合には自動撮像することができる。
この場合において、自動撮像によって多数の画像を撮像したとしても整理基準からはずれた、不要な画像を撮像することはない。よって、画像データの記憶装置の記憶容量を無駄に消費することがない。そして、癒され度の高い画像のみが撮像されているのでソーテイングも簡単にできる。さらに、癒され度が高い風景等に遭遇した場合に、人が意識することなく、自動的にその風景等を撮像することができるので撮像チャンスを逃すことがない。
第4実施形態の画像データ整理システムについて図11を参照しながら説明をする。
第4実施形態では、撮像とは独立して高速に癒され度の検出機能を有する点、この機能を発揮するためにハードウエア構成およびソフトウエア処理が異なる点が第1実施形態ないし第3実施形態とは異なるので、これらの異なる点を中心に以下に説明をする。第1実施形態ないし第3実施形態と同様な点は説明を省略する。
画像データ整理システム20は、画像データ整理端末装置21と画像データ整理サーバー装置として機能するサーバー22と、画像データ整理端末装置21とサーバー22とを接続するインターネット13とを備える。
画像データ整理端末装置21は、ウエアラブルパーソナルコンピュータ(身体に装着可能なパーソナルコンピュータ)と心拍センサと各種外部データ検出部とを備えている。心拍センサは、胸部の皮膚に貼りつけてリアルタイムで心拍数・心拍波形(RR間隔データ)・心拍周期を無線でウエアラブルパソコンに送る機能を有している。パーソナルコンピュータは心拍センサおよび各種外部データ検出部を制御し、サーバー22との間で情報のアップロードおよびダウンロードをおこなう。
画像データ整理端末装置21は、第1実施形態における各種外部データ検出部に加えて画像データ検出部としてのウエアラブルカメラ(身体に装着可能なカメラ)を有している。ウエアラブルカメラは、例えば、人の頭部にバンドで固定して、人の眼で視認できる範囲の画像と同等の範囲の画像を通常状態では撮像し、画像データ整理端末装置21の操作者(以下、操作者と省略する)の意思によって画像の撮像範囲を拡大または縮小することができる。
画像データ整理端末装置21は、カメラ機能とは別に心拍センサを備えているので、風景等の撮像と心拍情報の検出とを独立しておこなうことができる、これによって、MPUは、所定時間毎の割り込み処理によって心拍情報の検出を常時おこなうことができる。さらに、心拍センサは心臓の近傍に配置する専用の心拍を検出するセンサであるので、精度よくRR間隔時系列データを検出できる(図9の(a)を参照)。この結果として、自律神経解析エンジン処理において、前処理なしに、直接にフーリエ変換処理をおこなうことができる(図15の「自律神経解析エンジン処理」を参照)。これにより、MPUの割り込み処理における割り込み時間を癒され度を瞬時にリアルタイムで検出できるとみなせる程に短縮することができ、画像データを取得すると略同時に癒され度を検出できる。また、ウエアラブルカメラを有しているので、操作者が見ている風景等と撮像する画像とが一致しており、リアルタイムによる癒され度の検出と相まって、自動撮像が可能となる。
ウエアラブルパーソナルコンピュータに替えて、同一の機能を有する多機能携帯端末(タブレット)、スマートフォン、本実施形態に用いることに特化した画像データ整理端末装置であってもよい。これらは、Wi-Fi(ワイファイ:登録商標)、または、Bluetooth(ブルートゥース:登録商標)等を標準の無線インターフェイスとして有しているので、心拍センサ(例えば、前述した市販のMyBeat)を無線によって接続することができる。
画像データ整理端末装置21は、「(1)測定データ(RR間隔データ)、撮像した画像をサーバー22にアップロード」し、「(2)各種外部データ(例えば、天気、気温、気圧、位置データ、加速度データ)をサーバー22にアップロード」する。各種外部データをサーバー22にアップロードするに際しては、測定データ及び画像データと各種外部データとを紐付けてアップロードする。これらの処理の内容については後述する。
サーバー22は、サーバーのCPUとプログラムによって、「(3A)(自律神経解析エンジン)を構成し、生体の解析処理をおこなう」、また、「(3B)(画像解析エンジン)を構成し、フラクタル解析処理をおこなう。そして、「(4)解析結果を返却する」。
サーバー22は、(3A)の生体解析処理によって操作者の心の、癒され度を解析する。サーバー22は、(3B)のフラクタル解析によって撮像された画像自体の客観的な解析処理をする。(3A)と(3B)は異なる観点からの解析処理であるので、その両方、または、いずれかの一方を採用することができる。
サーバー22は、(3A)、または/および、(3B)の処理の解析結果を画像データ整理端末装置21に返却する。(3A)の処理の解析結果は、サーバー22のデータベースに蓄積されたデータを集計して癒され度に基づく画像のランキング化であり、(3B)の処理の解析結果は、サーバー22のデータベースに蓄積された画像のフラクタル解析に基づく画像のランキング化である。第4実施形態では、撮像のタイミングを画像撮像者が判断するだけではなく、(3A)の処理の解析結果、または/および、(3B)の処理の解析結果から撮像のタイミングを画像撮像者に知らせるアラート通知を常時おこなうことができる。さらに、(3A)の処理の解析結果、または/および、(3B)の処理の解析結果として人手を介すことなく予め定める整理基準に基づいて自動的に撮像することができる。
(画像データ整理端末装置に表示される画面)
図12ないし図14は、画像データ整理端末装置21の液晶画面に表示される画像を示す。
図12は、画像データ整理端末装置21に表示される画面21ないし画面24を示す。図13は、画像データ整理端末装置21に表示される画面25ないし画面28を示す。図14は、画像データ整理端末装置21に表示される画面29を示す。
図12に示す画面21ないし画面23は、第1実施形態における画面1ないし画面3と同じであるので説明を省略する。
図12に示す画面24は、心拍センサの装着を促す画面である。画像データ整理端末装置21のMPUは画面24の上段に「心拍センサを装着しましょう!!」と表示させ、画面24の中段に装着の手順を画面表示させる。
操作者が心拍センサを装着後、または既に装着している場合には直ちに、画面24の下段の「測定開始」にタッチすると、MPUはサーバー22のCPUにおいて「自律神経解析エンジン処理」をおこなうことを依頼する。そして、MPUはサーバー22から「自律神経解析エンジン処理」における解析結果を受け取り、癒し度を画像データ整理端末装置21の液晶表示面に図13に示す画面25として表示させる。
図13に示す画面25は、撮像のタイミングを画像撮像者に知らせる「アラート通知画面」である。図25の上段には「ただ今の癒され度:70」と表示され70%であることを操作者は認識できる。図25の中段には「癒されていますね。今がシャッターチャンスです!!」と表示される。
「アラート通知画面」とともに、「アラート通知音声」によって「ただ今の癒され度:70」、「癒されていますね。今がシャッターチャンスです!!」と通知してもよい。
操作者は「アラート通知画面」または/および「アラート通知音声」によって自ら判断して、撮像する気分になった場合には図25の下段の「撮影する」をタッチする。MPUは「撮影する」がタッチされたことを認識して画面26を表示させる。MPUは「撮影する」が所定時間タッチされなかったことを認識すると再び、所定間隔毎に癒し度の編算をおこなう。そして、MPUは、癒され度が予め定める、癒され度以上(例えば、65%以上)になると再び、「アラート通知画面」または/および「アラート通知音声」によって「アラート通知」をおこなわせる。ここで、癒され度の解析は、MPUとCPUとが強調してウエアラブルカメラで撮像した画像データに基づいて自動的におこなう。
図13に示す画面26は、撮像を促す画面である。画面26の上段には「写真を撮りましょう!」と表示され、画面26の中段には撮像される画面の範囲が表示される。
ウエアラブルカメラで撮像している風景等と、ウエアラブルカメラを装着した操作者が視認している風景等とは同じ範囲、アングルとなるように予め調整しておくが、撮像する範囲の変更、範囲の拡大、縮小は自由に操作できる。
操作者が画面26の下段の写真マークにタッチすると、MPUは撮像の処理をおこなうとともに、画像データ整理端末装置21およびサーバー22が癒され度を検出する処理をおこなうように制御する。そして、MPUは画面27に解析結果を表示させる。
図13に示す画面26は画面4と、画面27は画面8と、画面28は画面9と、図14に示す画面29は画面10と、ほぼ同じであるので、説明は省略する。第4実施形態においては、画面5ないし画面7がないのは、指先の撮像が必要ないからである。
画面25における癒され度の値と画面27における癒され度の値とが異なる理由は、癒され度の測定時点が異なるのと、肉眼で見た風景等が与える、癒され度と、カメラを通して見た風景等が与える、癒され度との間にずれがあるからである。
(画像データ整理端末装置と画像データ整理サーバー装置とにおける処理の概要)
図15、図16を参照して、画像データ整理システムの、癒され度検出端末装置における処理と画像データ整理サーバー装置における処理との概要を説明する。
図15、図16は連続した一連の処理を示す図である。図15、図16の各図の上段は、画像データ整理端末装置21における処理を示し、図15、図16の各図の下段は、画像データ整理サーバー装置(サーバー22)における処理を示す。図15、図16の各図の上段の処理について図12ないし図14の対応する画面がある場合には対応する画面番号を付して説明を省略する。
画像データ整理端末装置21における処理は、ステップST50ないしステップST53の処理およびステップST57の処理である。サーバー22における処理は、ステップST47ないしステップST49の処理およびステップST54ないしステップST56の処理である。
図15、図16に示す一連の処理における各処理の処理順序は一つの実施形態であり、この順序を修正して用いることもできる。以下においては、図15、図16において矢印で示す順序に沿って以下に説明をする。
(画像データ整理端末装置における処理)
画像データ整理端末装置21のMPUはステップST41(開始)ないしST43(属性情報の入力)の処理をおこなう。この処理は、ステップST11(開始)ないしST13(属性情報の入力)の処理と同様であるので説明は省略する。
MPUはステップST44(心拍センサの装着画面)の処理をおこなう。
この処理は、画像データ整理端末装置21の液晶表示面に画面24を表示させる処理である。
MPUはステップST45(心拍センサの測定開始処理)の処理をおこなう。
この処理は、心拍センサによる測定を開始して、所定時間長のRR間隔データの測定結果を得るものである。所定時間長は、充分な精度で癒され度を検出できるに充分な長さである。第4実施形態においては、RR間隔データは図9(a)に示すように心拍センサから精度よく検出される。
MPUはステップST46(RR間隔データの測定・サーバーへのアップロード)の処理をおこなう。
この処理は、所定時間長のRR間隔データをサーバー22にアップロードする処理である。
MPUはステップST47(RR間隔時系列データの異常値除去処理)、ステップST48(フーリエ変換処理)、ステップST49(高周波成分(HF)、低周波成分(LF)の検出処理)の自律神経解析エンジン処理をおこなう。
この処理は、第1実施形態におけるステップST19ないしステップST26の処理よりも簡略化されている。その理由は、心拍センサは心拍検出専用のセンサであり、かつ、スマートフォンカメラよりも心臓に近い位置から心拍信号を検出するために雑音の混入が少なく、良好なRR間隔データが得られるからである。すなわち、第4実施形態では、第1実施形態における「前倒しロジック」、「輝度データの関数化処理」、「Savitzky-Golayフィルタによるノイズ除去及びピーク検出処理」、「RR間隔時系列データの検出処理」、「ローパスフィルタリング処理」の各処理をおこなうことなく、精度よくステップST48の「フーリエ変換処理」、ステップST49の「高周波成分(HF)、低周波成分(LF)の検出処理」の各処理の解析結果を得ることができる。ステップST48の「フーリエ変換処理」、ステップST49の「高周波成分(HF)、低周波成分(LF)の検出処理」の各処理の内容は、ステップST25の処理、ステップST26の処理と同じであるので説明を省略する。
MPUは、ステップST50(癒され度の解析結果表示処理(リアルタイム))の処理をして画面25を表示する。
ここで、MPUは、ステップST47、ステップST48、ステップST49の自律神経解析エンジン処理を所定時間長毎のタイマー割り込みによって処理している。よって、画像データ整理端末装置21のMPUとサーバー22のCPUは、タイマー割り込み時間に対応する所定時間長毎のリアルタイムで癒され度を解析して、画像データ整理端末装置21の液晶に表示することが可能であり、リアルタイムでステップST50(癒され度の解析結果表示処理(リアルタイム))の処理をして画面25を所定時間長毎に更新することが可能である。しかしながら、第4実施形態においては、画面25を所定時間長毎に更新することなく、癒され度が所定値を超える場合のみ、ステップST50の処理をして「アラート通知」として画面25を表示するようにしている。
MPUは、ステップST51(写真撮影処理)の処理をして風景等の画像を、ウエアラブルカメラを制御して撮像させる。
ここで、操作者が風景等の画像を撮像するときに、MPUは自律神経解析エンジン処理を所定時間長毎のタイマー割り込みの処理を中断して、撮像時を起点とする割り込みを新たに発生させ、この割り込み処理によって自律神経解析エンジン処理をおこなう。その後は、撮像時を起点とする所定時間長毎の割り込みによって自律神経解析エンジン処理を引き続きおこなう。
MPUは、ステップST52(癒され度の解析結果表示処理)の処理をする。
MPUは、ステップST51で撮像して画像とともに撮像時を起点とする割り込み処理で求めた癒し度を、画面27に示すように表示させる。
MPUは、ステップST53(外部データとの紐付け機能)ないしステップST57(ランキングの表示)の処理をする。
第4実施形態のステップST53、ステップST54、ステップST55、ステップST56、ステップST57の各処理は、第1実施形態における、ステップST28、ステップST29、ステップST30、ステップST31、ステップST32の各処理と同様の処理であるので説明を省略する。
「第4実施形態の変形例」
(第1変形例)
上述した実施形態においては、画像データ整理システムのクライアントとサーバーとの接続は、インターネット回線を用いるものとして説明をしたが、両者の接続はこれに限るものではなく、専用回線、公衆回線を問わず、有線通信回線、無線回線を問わず、あらゆる回線を用いることができる。例えば、LAN、専用の微弱電波を用いた専用回線、高速汎用回線等を用いることができる。
(第2変形例)
クライアントとしての画像データ整理端末装置は、ウエアラブルパーソナルコンピュータ、タブレット、専用端末を始めとして、種々のものを使用できる。また、画像データ整理端末装置はコンピュータ(MPU)とMPUにおいて実行されるプログラムを中心にして構成するのみならず、処理の一部、または、全部をランダムロジック回路でおこなうようにしてもよい。この場合においては、各処理部は、コンピュータにプログラムを実行させて実現するのでなく、ハードウエアで構成して実現される。
サーバーとしての画像データ整理サーバー装置は、コンピュータ(CPU)とソフトウエアとの組み合わせによって実現するのみならず、各処理の一部、または、全部を集積回路、ランダムロジック回路等のハードウエアで構成しておこなってもよい。この場合においては、ランダムロジック回路等のハードウエアでおこなう各処理は、コンピュータとプログラムとで実行するのでなく、ハードウエアで構成する各処理部で実行する。
ハードウエア構成においては、RR間隔時系列データの異常値除去処理部でRR間隔時系列データの異常値除去処理を実行し、フーリエ変換処理部でフーリエ変換処理を実行し、高周波成分HF・低周波成分LFの検出処理部で高周波成分HF・低周波成分LFの検出処理を実行する。
(第3変形例)
クライアントの画像データ整理端末装置21における処理と、サーバー22における処理とをどのように分けるかは、適宜に決め得るものである。
第4実施形態の要点をまとめると以下の様になる。
画像データ整理システムは、画像データ整理端末装置と画像データ整理サーバー装置とを備える画像データ整理システムであって、画像データ整理端末装置は、画像を撮像して画像データを取得する撮像部と、心拍に応じた時系列心拍データを所定割り込み時間毎に取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた撮像された画像を表示する画像表示部と、を具備し、画像データ整理サーバー装置は、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、高周波成分から癒され度を求める自律神経解析エンジン処理部と、所定割り込み時間毎の次の時系列心拍データが取得される前に自律神経解析エンジン処理部の解析結果を画像データ整理端末装置に対して出力する出力処理部と、癒され度の高い順に撮像された画像を並べるソーテイング処理部と、を具備する。自律神経解析エンジン処理部は、高周波成分を予め測定した基準高周波成分で除して、癒され度を求めることがより望ましい。
また、画像データ整理サーバー装置は、撮像された画像から撮像された事物の境界のみを抽出してフラクタル次元を演算するフラクタル解析処理部と、画像が与える、癒されたという印象と、その画像に対応するフラクタル次元との関係の統計解析に基づき、癒されたという印象の高い順に撮像した画像を並べるソーテイング処理部と、を具備するようにしてもよい。
画像データ整理端末装置は、ウエアラブルパーソナルコンピュータであり、撮像部は、ウエアラブルカメラであり、時系列心拍データ取得部は、心臓の近傍に配置する心拍センサであるようにしてもよい。
画像データ整理サーバー装置プログラムは、画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、画像データ整理端末装置が取得した時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、高周波成分から癒され度を求める自律神経解析エンジン処理部と、所定割り込み時間毎の次の時系列心拍データが取得される前に自律神経解析エンジン処理部の解析結果を画像データ整理端末装置に対して出力する出力処理部と、癒され度の高い順に撮像された画像を並べるソーテイング処理部と、を備えるようにコンピュータを機能させる。自律神経解析エンジン処理部は、高周波成分を予め測定した基準高周波成分で除して、癒され度を求めることがより望ましい。
画像データ整理端末装置プログラムは、画像データ整理システムにおいて画像データ整理サーバー装置と協調して動作する画像データ整理端末装置のコンピュータに実行させる画像データ整理端末装置プログラムであって、心拍に応じた時系列心拍データを所定割り込み時間毎に取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた撮像された画像を表示する画像表示部と、を備えるようにコンピュータを機能させる。
「第5実施形態」
第4実施形態においては、クライアント・サーバー・システムとして画像データ整理システムを構成した。第5実施形態は、第4実施形態のサーバー22における全ての処理をクライアントに移すようにする実施形態である画像データ整理装置、画像データ整理装置プログラムに関する。このような画像データ整理装置は、例えば、図11に記載された画像データ整理端末装置21がサーバー22の支援を受けることなく、単独で全ての処理をおこなう場合に相当する。画像データ整理装置が単体で上述した処理の全てをおこなう場合には、サーバーを用いなくともよい。
第5実施形態の要点をまとめると以下の様になる。
画像データ整理装置は、撮像して画像データを取得する撮像部と、心拍に応じた時系列心拍データを所定割り込み時間毎に取得する時系列心拍データ取得部と、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、高周波成分から癒され度を求める自律神経解析エンジン処理部と、所定割り込み時間毎の次の時系列心拍データが取得される前に自律神経解析エンジン処理部の解析結果を画像データ整理端末装置に対して出力する出力処理部と、癒され度の高い順に画像データを並べるソーテイング処理部と、癒され度の高い順に並べられた画像データを表示する画像表示部と、を備える。自律神経解析エンジン処理部は、少なくとも、高周波成分を予め測定した基準高周波成分で除して、癒され度を求めることがより望ましい。
画像データ整理装置プログラムは、画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、撮像して画像データを取得する撮像部と、心拍に応じた時系列心拍データを所定割り込み時間毎に取得する時系列心拍データ取得部と、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、高周波成分から癒され度を求める自律神経解析エンジン処理部と、所定割り込み時間毎の次の時系列心拍データが取得される前に自律神経解析エンジン処理部の解析結果を画像データ整理端末装置に対して出力する出力処理部と、癒され度の高い順に画像データを並べるソーテイング処理部と、癒され度の高い順に並べられた画像データを表示する画像表示部と、を備えるようにコンピュータを機能させる。自律神経解析エンジン処理部は、少なくとも、高周波成分を予め測定した基準高周波成分で除して、癒され度を求めることがより望ましい。
「第6実施形態」
第4実施形態、第5実施形態においては、画像データ整理システム、画像データ整理サーバー装置、画像データ整理端末装置、画像データ整理サーバー装置プログラム、画像データ整理端末装置プログラム、画像データ整理装置および画像データ整理装置プログラムは、「癒され度」を整理基準として画像データを整理するものであった。しかしながら、第4実施形態、第5実施形態と同様な技術的思想に基づきながら、「癒され度」とは異なる他の整理基準に基づき、画像データを整理することができる。第6実施形態は、「興奮度」を整理基準として画像データを整理する、画像データ整理システム、画像データ整理サーバー装置、画像データ整理端末装置、画像データ整理サーバー装置プログラム、画像データ整理端末装置プログラム、画像データ整理装置および画像データ整理装置プログラムである。
第6実施形態における「興奮度」に関しては第3実施形態におけると同様であるので、説明を省略する。
第6実施形態の要点をまとめると以下の様になる。
画像データ整理システムは、画像データ整理端末装置と画像データ整理サーバー装置とを備える画像データ整理システムであって、画像データ整理端末装置は、画像を撮像して画像データを所定割り込み時間毎に取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、興奮度の高い順に並べられた撮像された画像を表示する画像表示部と、を具備し、画像データ整理サーバー装置は、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分から興奮度を求める自律神経解析エンジン処理部と、所定割り込み時間毎の次の時系列心拍データが取得される前に自律神経解析エンジン処理部の解析結果を画像データ整理端末装置に対して出力する出力処理部と、興奮度の高い順に撮像された画像を並べるソーテイング処理部と、を具備する。自律神経解析エンジン処理部は、少なくとも、低周波成分を予め測定した基準低周波成分で除して、興奮度を求めることがより望ましい。
画像データ整理端末装置は、ウエアラブルパーソナルコンピュータであり、撮像部は、ウエアラブルカメラであり、時系列心拍データ取得部は、心臓の近傍に配置する心拍センサであるようにしてもよい。
画像データ整理サーバー装置プログラムは、画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、画像データ整理端末装置が取得した時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分から興奮度を求める自律神経解析エンジン処理部と、所定割り込み時間毎の次の時系列心拍データが取得される前に自律神経解析エンジン処理部の解析結果を画像データ整理端末装置に対して出力する出力処理部と、興奮度の高い順に撮像された画像を並べるソーテイング処理部と、を備えるようにコンピュータを機能させる。自律神経解析エンジン処理部は、少なくとも、低周波成分を予め測定した基準低周波成分で除して、興奮度を求めることがより望ましい。
画像データ整理端末装置プログラムは、画像データ整理システムにおいて画像データ整理サーバー装置と協調して動作する画像データ整理端末装置のコンピュータに実行させる画像データ整理端末装置プログラムであって、心拍に応じた時系列心拍データを所定割り込み時間毎に取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、興奮度の高い順に並べられた撮像された画像を表示する画像表示部と、を備えるようにコンピュータを機能させる。
画像データ整理装置は、撮像して画像データを取得する撮像部と、心拍に応じた時系列心拍データを所定割り込み時間毎に取得する時系列心拍データ取得部と、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分から興奮度を求める自律神経解析エンジン処理部と、所定割り込み時間毎の次の時系列心拍データが取得される前に自律神経解析エンジン処理部の解析結果を画像データ整理端末装置に対して出力する出力処理部と、興奮度の高い順に画像データを並べるソーテイング処理部と、興奮度の高い順に並べられた画像データを表示する画像表示部と、を備える。自律神経解析エンジン処理部は、少なくとも、低周波成分を予め測定した基準低周波成分で除して、興奮度を求めることがより望ましい。
画像データ整理装置プログラムは、画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、撮像して画像データを取得する撮像部と、心拍に応じた時系列心拍データを所定割り込み時間毎に取得する時系列心拍データ取得部と、時系列心拍データをフーリエ変換するフーリエ変換処理部と、フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、低周波成分から興奮度を求める自律神経解析エンジン処理部と、所定割り込み時間毎の次の時系列心拍データが取得される前に自律神経解析エンジン処理部の解析結果を画像データ整理端末装置に対して出力する出力処理部と、興奮度の高い順に画像データを並べるソーテイング処理部と、興奮度の高い順に並べられた画像データを表示する画像表示部と、を備えるようにコンピュータを機能させる。自律神経解析エンジン処理部は、少なくとも、低周波成分を予め測定した基準低周波成分で除して、興奮度を求めることがより望ましい。
「第7実施形態」
癒され度が、(1)式ないし(8)式によって検出する自律神経指標により検出する場合について上述した。これ以外に、心拍センサからの時系列心拍データから直接に検出する心拍数(単位時間当たりの心臓の鼓動の数)を利用しても癒され度を算出することができる。例えば、以下の(44)式または(45)式で算出することができる。ここで、ここで、平常時における心拍数(基準となる心拍数)とは、通常の日常生活を行っている場合における心拍数であり、過度に癒された状態における心拍数でもなく、過度に興奮した状態における心拍数でもなく、日常生活において平常心を保っている状態におけるにおける心拍数である。

癒され度 = (測定時点の心拍数 - 平常時における心拍数(基準となる心拍数))・・・(44)

癒され度 = (測定時点の心拍数 / 平常時における心拍数(基準となる心拍数))・・・(45)
癒された場合は、平常時における心拍数より測定時点の心拍数の方が低くなる傾向があることが経験的に分かっているので、(44)式の場合は、癒され度< 0になると癒されていると判定し、(45)式の場合は、癒され度< 1になると癒されていると判定する。さらに、癒され度をより正確に検出する場合には、(44)式で検出される、癒され度< δ1、(45)式で検出される、癒され度< δ2になると癒されていると判定するようにしてもよい。ここで、δ1は負値の適宜な定数であり、δ2は1以下の適宜な定数である。
第7実施形態の画像データ整理システムは、画像データ整理端末装置と画像データ整理サーバー装置とを備える画像データ整理システムであって、画像データ整理端末装置は、画像を撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データを画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた前記撮像された画像を表示する画像表示部と、を具備し、画像データ整理サーバー装置は、時系列心拍データから心拍数を求める心拍数検出部と、心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、を具備する。ここで、心拍数検出部と、癒され度演算部とは癒し度検出部を構成する。
第7実施形態の画像データ整理装置は、撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データから心拍数を求める心拍数検出部と、心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、癒され度の高い順に前記画像データを並べるソーテイング処理部と、癒され度の高い順に並べられた画像データを表示する画像表示部と、を備える。
第7実施形態の画像データ整理サーバー装置プログラムは、画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、画像データ整理端末装置が取得した時系列心拍データから心拍数を求める心拍数検出部と、心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、癒され度の高い順に前記撮像された画像を並べるソーテイング処理部と、を備えるようにコンピュータを機能させる。
第7実施形態の画像データ整理装置プログラムは、画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、撮像して画像データを取得する撮像部と、画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、時系列心拍データから心拍数を求める心拍数検出部と、心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、癒され度の高い順に前記画像データを並べるソーテイング処理部と、癒され度の高い順に並べられた画像データを表示する画像表示部と、を備えるように前記コンピュータを機能させる。
「第8実施形態」
上述した実施形態を組み合わせる実施形態も実施可能である。ように、主観の気持ちを癒され度の算出に利用してもよい。例えば、主観では「最高に癒された」だったら100点、主観では「とても癒された」だったら80点、主観では「まあまあ癒された」だったら60点、主観では「なんともいえない」だったら40点、「あまり癒されなかった」だったら20点のように各項目の値を数値化する。さらに、上述した、(1)式ないし(9)式の自律神経指標を組み合わせてもよい。
上述した各実施形態の一部または全部を組み合わせた実施形態も実施可能である。例えば、a、b、c、dが0を含む正値の定数であるとして、以下の(46)式によって癒し度を求めるようにしてもよい。ここで、少なくとも直接的、間接的を問わずに心拍数に基づき癒し度を求める場合には、aまたはbのいずれかは0ではなく、他の3つは0も含み任意に定め得るものである。a、b、c、dの各定数の値が0である場合には、0である要素は癒し度の算出においては考慮をしないという意味である。

癒され度 =a×(自律神経指標により検出される癒され度)+ b×(心拍数から検出される癒され度)+ c×(主観による癒され度)+ d×(フラクタル解析により検出される癒され度)・・・・・(46)
ここで、b= 0である場合の例が、第1実施形態、第2実施形態、第4実施形態ないし第6実施形態である。b≠0である場合の例が、第7実施形態である。c=0の場合の例が、主観による癒され度を考慮しない場合であり、c≠0の場合の例が、主観による癒され度を考慮する場合であり、第8実施形態である。d=0の場合の例が、フラクタル解析をおこなわない場合であり、d≠0の場合の例が、フラクタル解析の結果を用いる場合である。各実施形態の一部または全部を組み合わせた実施形態の例は、これに限るものではなく、種々の実施形態が可能である。また、本発明は、実施形態に限定されるものではなく、同一の技術的思想の範囲に及ぶことは言うまでもない。
10 画像データ整理システム
11 スマートフォン
12 サーバー
13 インターネット
20 画像データ整理システム
21 画像データ整理端末装置
22 サーバー

Claims (14)

  1. 画像データ整理端末装置と画像データ整理サーバー装置とを備える画像データ整理システムであって、
    前記画像データ整理端末装置は、
    画像を撮像して画像データを取得する撮像部と、
    前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、
    前記時系列心拍データを前記画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、
    前記画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた前記撮像された画像を表示する画像表示部と、を具備し、
    前記画像データ整理サーバー装置は、
    前記時系列心拍データから癒し度を求める癒し度検出部と、
    前記癒し度検出部で検出される癒し度が高い順に前記撮像された画像を並べるソーテイング処理部と、を具備する、
    画像データ整理システム。
  2. 前記癒し度検出部は、
    前記時系列心拍データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    少なくとも、前記高周波成分を予め測定した基準高周波成分で除して、癒され度を求める自律神経解析エンジン処理部と、を有する、
    請求項1に記載の画像データ整理システム。
  3. 前記癒し度検出部は、
    前記時系列心拍データから心拍数を求める心拍数検出部と、
    前記心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、を有する、
    請求項1に記載の画像データ整理システム。
  4. 前記画像データ整理サーバー装置は、
    前記撮像された画像からフラクタル次元を演算するフラクタル解析処理部を具備する、請求項1または請求項2に記載の画像データ整理システム。
  5. 前記画像データ整理端末装置は、スマートフォンであり、
    前記撮像部は、前記スマートフォンのカメラ機能で構成し、
    前記時系列心拍データ取得部は、前記スマートフォンの前記カメラ機能に指先を撮影させて構成する、請求項1に記載の画像データ整理システム。
  6. 前記画像データ整理端末装置は、ウエアラブルコンピュータであり、
    前記撮像部は、ウエアラブルカメラであり、
    前記時系列心拍データ取得部は、人の心臓の近くの皮膚に配置される心拍センサであり、
    前記時系列心拍データ出力処理部は、所定時間毎の割り込み処理によって前記時系列心拍データを前記画像データ整理サーバー装置に対して出力する、請求項1に記載の画像データ整理システム。
  7. 画像データ整理サーバー装置は、
    前記画像データ整理端末装置から前記所定時間毎の割り込み処理によって出力される前記時系列心拍データを入力し、
    次の前記時系列心拍データが入力される前に、フーリエ変換し、高周波成分と低周波成分とを分離し、癒され度を求め、前記画像データ整理端末装置に返却する、請求項5に記載の画像データ整理システム。
  8. 撮像して画像データを取得する撮像部と、
    前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、
    前記時系列心拍データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    少なくとも、前記高周波成分を予め測定した基準高周波成分で除して、癒され度を求める自律神経解析エンジン処理部と、
    前記癒され度の高い順に前記画像データを並べるソーテイング処理部と、
    前記癒され度の高い順に並べられた画像データを表示する画像表示部と、を備える、
    画像データ整理装置。
  9. 撮像して画像データを取得する撮像部と、
    前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、
    前記時系列心拍データから心拍数を求める心拍数検出部と、
    前記心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、
    前記癒され度の高い順に前記画像データを並べるソーテイング処理部と、
    前記癒され度の高い順に並べられた画像データを表示する画像表示部と、を備える、
    画像データ整理装置。
  10. 画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、
    前記画像データ整理端末装置が取得した時系列心拍データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    少なくとも、前記高周波成分を予め測定した基準高周波成分で除して、癒され度を求める自律神経解析エンジン処理部と、
    前記癒され度の高い順に前記撮像された画像を並べるソーテイング処理部と、を備えるように前記コンピュータを機能させる、
    画像データ整理サーバー装置プログラム。
  11. 画像データ整理システムにおいて画像データ整理端末装置と協調して動作する画像データ整理サーバー装置のコンピュータに実行させる画像データ整理サーバー装置プログラムであって、
    前記画像データ整理端末装置が取得した前記時系列心拍データから心拍数を求める心拍数検出部と、
    前記心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、
    前記癒され度の高い順に前記撮像された画像を並べるソーテイング処理部と、を備えるように前記コンピュータを機能させる、
    画像データ整理サーバー装置プログラム。
  12. 画像データ整理システムにおいて画像データ整理サーバー装置と協調して動作する画像データ整理端末装置のコンピュータに実行させる画像データ整理端末装置プログラムであって、
    前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、
    前記時系列心拍データを前記画像データ整理サーバー装置に対して出力する時系列心拍データ出力処理部と、
    前記画像データ整理サーバー装置から出力される、癒され度の高い順に並べられた前記撮像された画像を表示する画像表示部と、を備えるように前記コンピュータを機能させる、
    画像データ整理端末装置プログラム。
  13. 画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、
    撮像して画像データを取得する撮像部と、
    前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、
    前記時系列心拍データをフーリエ変換するフーリエ変換処理部と、
    前記フーリエ変換処理された信号の高周波成分と低周波成分とを分離する高周波成分・低周波成分検出処理部と、
    少なくとも、前記高周波成分を予め測定した基準高周波成分で除して、癒され度を求める自律神経解析エンジン処理部と、
    前記癒され度の高い順に前記画像データを並べるソーテイング処理部と、
    前記癒され度の高い順に並べられた画像データを表示する画像表示部と、を備えるように前記コンピュータを機能させる、
    画像データ整理装置プログラム。
  14. 画像データ整理装置のコンピュータに実行させる画像データ整理装置プログラムであって、
    撮像して画像データを取得する撮像部と、
    前記画像データの取得に際して心拍に応じた時系列心拍データを取得する時系列心拍データ取得部と、
    前記時系列心拍データから心拍数を求める心拍数検出部と、
    前記心拍数から予め求めた平常時における心拍数を減じた負値の大きさに応じて、癒され度を求める、癒され度演算部と、
    前記癒され度の高い順に前記画像データを並べるソーテイング処理部と、
    前記癒され度の高い順に並べられた画像データを表示する画像表示部と、を備えるように前記コンピュータを機能させる、
    画像データ整理装置プログラム。
JP2015037604A 2015-02-27 2015-02-27 画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、および画像データ整理装置プログラム Expired - Fee Related JP6533897B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015037604A JP6533897B2 (ja) 2015-02-27 2015-02-27 画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、および画像データ整理装置プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015037604A JP6533897B2 (ja) 2015-02-27 2015-02-27 画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、および画像データ整理装置プログラム

Publications (3)

Publication Number Publication Date
JP2016158683A true JP2016158683A (ja) 2016-09-05
JP2016158683A5 JP2016158683A5 (ja) 2018-03-15
JP6533897B2 JP6533897B2 (ja) 2019-06-26

Family

ID=56843514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015037604A Expired - Fee Related JP6533897B2 (ja) 2015-02-27 2015-02-27 画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、および画像データ整理装置プログラム

Country Status (1)

Country Link
JP (1) JP6533897B2 (ja)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002192485A (ja) * 2000-10-11 2002-07-10 Sony Corp ロボット装置、情報表示システム及び方法、ロボットシステム、並びに記録媒体
JP2006227236A (ja) * 2005-02-17 2006-08-31 Seiko Epson Corp 画像記録装置、画像記録方法および制御プログラム
JP2007050158A (ja) * 2005-08-19 2007-03-01 Utsunomiya Univ 肌画像の処理方法及び処理装置並びにそれを用いた肌年齢の推定方法
JP2007275115A (ja) * 2006-04-03 2007-10-25 Nissan Motor Co Ltd 運転適応状態推定装置、自動車及び運転適応状態推定方法
JP2007289540A (ja) * 2006-04-27 2007-11-08 Olympus Corp ストレスセンサシステム
JP2008263274A (ja) * 2007-04-10 2008-10-30 Sony Corp 画像保存処理装置、画像検索装置、画像保存処理方法、画像検索方法、プログラム
JP2009049951A (ja) * 2007-08-23 2009-03-05 Sony Corp 撮像装置、撮像方法
JP2009065466A (ja) * 2007-09-06 2009-03-26 Olympus Corp カメラ
JP2009294790A (ja) * 2008-06-03 2009-12-17 Denso Corp 自動車用情報提供システム
US20100011388A1 (en) * 2008-07-10 2010-01-14 William Bull System and method for creating playlists based on mood
JP2011513019A (ja) * 2008-03-10 2011-04-28 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 充電ドッキングステーションを持つecg監視システム
US20130316763A1 (en) * 2012-05-23 2013-11-28 Steven Earl Kader Method of displaying images while charging a smartphone
JP2014140587A (ja) * 2013-01-25 2014-08-07 Winfrontier Co Ltd 自律神経機能評価装置、自律神経機能評価システム、自律神経機能評価サーバー、自律神経機能評価端末装置、自律神経機能評価装置プログラム、自律神経機能評価サーバープログラム、および、自律神経機能評価端末プログラム

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002192485A (ja) * 2000-10-11 2002-07-10 Sony Corp ロボット装置、情報表示システム及び方法、ロボットシステム、並びに記録媒体
JP2006227236A (ja) * 2005-02-17 2006-08-31 Seiko Epson Corp 画像記録装置、画像記録方法および制御プログラム
JP2007050158A (ja) * 2005-08-19 2007-03-01 Utsunomiya Univ 肌画像の処理方法及び処理装置並びにそれを用いた肌年齢の推定方法
JP2007275115A (ja) * 2006-04-03 2007-10-25 Nissan Motor Co Ltd 運転適応状態推定装置、自動車及び運転適応状態推定方法
JP2007289540A (ja) * 2006-04-27 2007-11-08 Olympus Corp ストレスセンサシステム
JP2008263274A (ja) * 2007-04-10 2008-10-30 Sony Corp 画像保存処理装置、画像検索装置、画像保存処理方法、画像検索方法、プログラム
JP2009049951A (ja) * 2007-08-23 2009-03-05 Sony Corp 撮像装置、撮像方法
JP2009065466A (ja) * 2007-09-06 2009-03-26 Olympus Corp カメラ
JP2011513019A (ja) * 2008-03-10 2011-04-28 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 充電ドッキングステーションを持つecg監視システム
JP2009294790A (ja) * 2008-06-03 2009-12-17 Denso Corp 自動車用情報提供システム
US20100011388A1 (en) * 2008-07-10 2010-01-14 William Bull System and method for creating playlists based on mood
US20130316763A1 (en) * 2012-05-23 2013-11-28 Steven Earl Kader Method of displaying images while charging a smartphone
JP2014140587A (ja) * 2013-01-25 2014-08-07 Winfrontier Co Ltd 自律神経機能評価装置、自律神経機能評価システム、自律神経機能評価サーバー、自律神経機能評価端末装置、自律神経機能評価装置プログラム、自律神経機能評価サーバープログラム、および、自律神経機能評価端末プログラム

Also Published As

Publication number Publication date
JP6533897B2 (ja) 2019-06-26

Similar Documents

Publication Publication Date Title
AU2015201759B2 (en) Electronic apparatus for providing health status information, method of controlling the same, and computer readable storage medium
JP6493680B2 (ja) 非接触血圧測定装置、及び、非接触血圧測定方法
EP2919142B1 (en) Electronic apparatus and method for providing health status information
KR101777738B1 (ko) 동영상을 이용하여 혈압을 추정하는 방법
JP6519798B2 (ja) 情報処理装置、情報処理方法、及び、情報処理システム
US20120083675A1 (en) Measuring affective data for web-enabled applications
KR101738278B1 (ko) 영상을 이용한 감정 인식 방법
CN108261176B (zh) 胎心监护数据处理方法、装置、系统、存储介质和计算机设备
JP6115263B2 (ja) 脈波検出装置、脈波検出方法及び脈波検出プログラム
JP6139148B2 (ja) 自律神経機能評価装置、自律神経機能評価システム、自律神経機能評価サーバー、自律神経機能評価装置プログラム、および、自律神経機能評価サーバープログラム
JP2016127923A (ja) 被験者の映像から生理学的パラメータを抽出するための対象領域を選択する方法
Alnaggar et al. Video-based real-time monitoring for heart rate and respiration rate
JP7171349B2 (ja) 画像処理装置、画像処理方法、プログラムおよび記録媒体
Ding et al. Noncontact multiphysiological signals estimation via visible and infrared facial features fusion
Ma et al. Remote photoplethysmography (rPPG) for contactless heart rate monitoring using a single monochrome and color camera
JP7044171B2 (ja) 脈波算出装置、脈波算出方法及び脈波算出プログラム
JP6481241B2 (ja) メンタルゲーム装置、メンタルゲームシステム、メンタルゲームサーバー装置、メンタルゲーム装置プログラム、メンタルゲームサーバー装置プログラム。
JP6533897B2 (ja) 画像データ整理システム、画像データ整理装置、画像データ整理サーバー装置プログラム、および画像データ整理装置プログラム
JP6481130B2 (ja) 興奮度検出装置、興奮度検出システム、興奮度検出サーバー装置、興奮度検出装置プログラム、興奮度検出サーバー装置プログラム
Kuang et al. Shuffle-rPPGNet: Efficient Network with Global Context for Remote Heart Rate Variability Measurement
Datta et al. Novel statistical post processing to improve blood pressure estimation from smartphone photoplethysmogram
JP7457496B2 (ja) データ管理装置、データ管理方法およびデータ管理プログラム
US20240153304A1 (en) Method, Computer Software, Non-Transitory Storage Medium, Apparatus and System For Performing A Measurement Of A Physiological Parameter Of A Person From A Series Of Images
WO2022181080A1 (ja) 傾向判定装置、反射体付き表示装置、傾向表示システム装置、傾向判定方法、表示処理方法、傾向表示方法、プログラム及び記録媒体
JP2022157247A (ja) 血圧測定装置、及び血圧測定プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180201

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181009

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190312

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190401

R150 Certificate of patent or registration of utility model

Ref document number: 6533897

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees