JP2020507437A - 心疾患を対象とする言葉による定期的なスクリーニング - Google Patents

心疾患を対象とする言葉による定期的なスクリーニング Download PDF

Info

Publication number
JP2020507437A
JP2020507437A JP2019565085A JP2019565085A JP2020507437A JP 2020507437 A JP2020507437 A JP 2020507437A JP 2019565085 A JP2019565085 A JP 2019565085A JP 2019565085 A JP2019565085 A JP 2019565085A JP 2020507437 A JP2020507437 A JP 2020507437A
Authority
JP
Japan
Prior art keywords
audio
heart
condition
speech
sample
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019565085A
Other languages
English (en)
Other versions
JP7353592B2 (ja
JP2020507437A5 (ja
Inventor
イルミヤフ ホープトマン
イルミヤフ ホープトマン
アロン ゴレン
アロン ゴレン
エリ アッタール
エリ アッタール
ピナス サバチ
ピナス サバチ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cardiokol Ltd
Original Assignee
Cardiokol Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cardiokol Ltd filed Critical Cardiokol Ltd
Publication of JP2020507437A publication Critical patent/JP2020507437A/ja
Publication of JP2020507437A5 publication Critical patent/JP2020507437A5/ja
Application granted granted Critical
Publication of JP7353592B2 publication Critical patent/JP7353592B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/66Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for extracting parameters related to health condition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4803Speech analysis specially adapted for diagnostic purposes
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • G10L17/26Recognition of special voice characteristics, e.g. for use in lie detectors; Recognition of animal voices
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0002Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
    • A61B5/0015Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by features of the telemetry system
    • A61B5/0022Monitoring a patient using a global network, e.g. telephone networks, internet
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biomedical Technology (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Physiology (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Epidemiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Psychiatry (AREA)
  • Cardiology (AREA)
  • Fuzzy Systems (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

被検者の音声サンプルを分析して心臓の状態(例えば不整脈の状態)を判定する方法であって、音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、少なくとも1種類の音声特徴に対する心臓の状態の影響を検出するステップと、この影響に基づいて心臓の状態を判定するステップと、を含む、方法。さらに、被検者によって提供される音声サンプルにおいて心臓の状態を判定するシステム、を開示する。さらに、関連する装置および方法を説明する。【選択図】図1A

Description

関連出願
本出願は、米国仮特許出願第62/457,914号(出願日:2017年2月12日)からの優先権を主張し、この文書の内容はその全体が参照により本明細書に組み込まれている。
本発明は、そのいくつかの実施形態においては、声を使用する医療診断に関し、より詳細には、これに限定されないが、人の声に基づいて心臓の状態を推定することに関する。
特許文献1には、利用者の健康状態を診断する方法および装置が開示されている。この装置は、利用者の音声を検出およびモニタリングする音声検出ユニットと、音声検出ユニットによって検出された音声から、診断される健康状態に基づいて音声の特徴を抽出する音声分析ユニットと、音声分析ユニットによって抽出された音声の特徴を異常状態の基準と比較することによって利用者の健康状態を診断し、かつ健康状態の変化を監視する、音声診断ユニットと、音声診断ユニットによって診断された健康状態および健康状態の変化に関する情報を出力する診断出力ユニットと、を含む。
特許文献2には、声を記録および分析する方法および計算システムであって、発声の一連のパラメータを計算することを可能にする、方法および計算システム、が開示されている。これらの方法および計算システムは、器質性障害(喉頭の生理機能に影響する)または神経障害(脳の言語中枢に影響する)によってもたらされる影響に関する関連情報を送信する。存在する機能障害の推定を得ることと、個人識別情報(personality)を割り当てることを可能にする分類方法も、この発明の本質的な部分と考えられる。
さらなる背景技術としては、以下が挙げられる。
非特許文献1(Web上(www.ortra.com/events/Portals/16/Dias%20et%20al_AfekaConfSP2014.pdf)で公開されている)
非特許文献2(ポルト大学工学部に提出された修士論文)
非特許文献3
非特許文献4(博士論文)
特許文献3
特許文献4
特許文献5
特許文献6
特許文献7
特許文献8
特許文献9
特許文献10
米国特許出願第2012/0220899号明細書 米国特許出願第2014/0122063号明細書 米国特許第8,078,470号明細書 米国特許出願第2008/0045805号明細書 米国特許第7,917,366号明細書 米国特許第8,249,875号明細書 米国特許第8,768,708号明細書 国際出願公開第2016/035070号 国際出願公開第2014/037937号 米国特許第7,398,213号明細書
"Glottal Pulse Estimation - A Frequency Domain Approach" by Sandra Dias and Anibal Ferreira, of the Department of Electrical and Computer Engineering, University of Porto - Faculty of Engineering, Porto, Portugal "Estimation of the glottal pulse from speech or singing voice" by Sandra de Oliviera Dias, in July 2012 "Discrete Wavelet Transform Decomposition Level Determination Exploiting Sparseness Measurement", by Lei Lei, Chao Wang, and Xin Liu, published in International Journal of Electrical, Computer, Energetic, Electronic and Communication Engineering Vol:7, No:9, 2013 "Advances in Glottal Analysis and its Applications" by Thomas Drugmore to obtain the title of PhD in Applied Sciences of University of Mons Yingyong Qi and Bobby R. Hunt, Voiced-Unvoiced-Silence Classifications of Speech Using Hybrid Features and a Network Classifier, Yingyong Qi and Bobby R. Hunt, 1993
例1. 被検者の音声サンプルを分析して不整脈の心臓の状態を判定する方法であって、
音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、
少なくとも1種類の音声特徴に対する血流の影響を検出するステップと、
この影響に基づいて不整脈の心臓の状態を判定するステップと、
を含む、方法。
例2. 不整脈の心臓の状態を判定するステップが、複数の識別された影響を統合するステップ、を含む、例1に記載の方法。
例3. 影響を識別するステップが、血流のタイミング、血流の周期性、および、血流の大きさまたは大きさの変化、のうちの少なくとも1つの影響を識別するステップ、を含む、例1または例2のいずれかに記載の方法。
例4. 音声サンプルを分類して有声セグメントを識別するステップ、をさらに含む、例1に記載の方法。
例5. 少なくともいくつかのセグメントが削除され、かつ残っているセグメントの端部が滑らかにされるように、有声セグメントを連結するステップ、をさらに含む、例4に記載の方法。
例6. 音声サンプルから削除されるセグメントにおける血流に関連するデータを外挿するステップ、をさらに含む、例1から例5のいずれか1つに記載の方法。
例7. 検出される影響が、心拍のタイミングを含む、例1から例6のいずれか1つに記載の方法。
例8. 影響を検出するステップが、心拍の少なくとも3回の連続する発生を識別するステップ、を含む、例7に記載の方法。
いくつかの実施形態においては、心拍の3回の連続する発生を識別することによって影響を検出するステップは、心拍の3回の連続する発生にほぼ等しい時間、または約2〜3秒かかりうる。心臓の状態の影響を2〜3秒検出することは、心電図による検出と比較すると、心電図では一般に準備(電極を配置する)だけで2〜3秒以上を要する。
例9. 不整脈の心臓の状態を判定するステップが、心拍の少なくとも3回の連続する発生の間の時間間隔を計算するステップ、を含む、例8に記載の方法。
例10. 不整脈の心臓の状態を判定するステップが、これらの時間間隔を、基準の心臓状態から得られる基準時間間隔と照合するステップ、を含む、例9に記載の方法。
例11. 判定するステップが、
一致する確率を求めるステップと、
この確率をしきい値と比較して不整脈の心臓の状態を判定するステップと、
をさらに含む、
例10に記載の方法。
例12. 基準の心臓状態が、健康または不整脈である、例11に記載の方法。
例13. 心拍の少なくとも3回の連続する発生が、同じ有声セグメントにおいて識別されない、例7から例12のいずれか1つに記載の方法。
例14. 影響を検出するステップが、心拍の少なくとも2回の連続する発生を識別するステップ、を含む、例7から例13のいずれか1つに記載の方法。
いくつかの実施形態においては、心拍の2回の連続する発生を識別することによって影響を検出するステップは、心拍の2回の連続する発生にほぼ等しい時間、または約2秒かかりうる。
例15. 検出される影響が、心拍の大きさの影響、または心拍の大きさの変化の影響を含む、例1から例14のいずれか1つに記載の方法。
例16. 影響を検出するステップが、少なくとも1種類の音声特徴の複数の値の分布を計算するステップ、を含む、例15に記載の方法。
例17. 分布が、標準偏差を含む、例16に記載の方法。
例18. 不整脈の心臓の状態を影響に基づいて判定するステップが、分布の特徴パラメータをしきい値と比較するステップ、を含む、例16または例17のいずれかに記載の方法。
例19. 特徴パラメータが、分布の形状を含む、例18に記載の方法。
例20. 値が、形状の幅を含む、例19に記載の方法。
例21. 検出される影響が、心拍の周期性の影響を含む、例1から例20のいずれか1つに記載の方法。
例22. 被検者の心拍数を推定するステップ、をさらに含む、例1から例21のいずれか1つに記載の方法。
例23. 不整脈の心臓の状態を判定するステップが、心拍数の周波数の前後の所定の範囲における周期性を特徴付けるステップ、を含む、例22に記載の方法。
例24. 特徴付けるステップが、所定の範囲におけるピークの帯域幅を計算するステップ、を含む、例23に記載の方法。
例25. 不整脈の心臓の状態を判定するステップが、この帯域幅をしきい値と比較するステップ、を含む、例24に記載の方法。
例26. 不整脈の心臓の状態の判定を確認するステップ、をさらに含む、例1から例25のいずれか1つに記載の方法。
例27. 確認するステップが、所定の発声を含む第2の音声サンプルを取得するステップ、を含む、例26に記載の方法。
例28. 確認するステップが、被検者に対する心電図検査(electrocardiogram test)および光電式容積脈波記録法検査(photoplethysmography test)の少なくとも一方を含む、例26に記載の方法。
例29. 不整脈の心臓の状態が、心房細動を含む、例1から例28のいずれか1つに記載の方法。
例30. 音声サンプルが、自発的な発話である、例1から例29のいずれか1つに記載の方法。
例31. 音声サンプルが、複数の被検者の音声を含む、例1から例30のいずれか1つに記載の方法。
例32. 音声サンプルから被検者の音声セグメントを抽出するステップ、をさらに含む、例31に記載の方法。
例33. 音声特徴が、ピッチを含む、例1から例32のいずれか1つに記載の方法。
例34. 音声特徴を抽出するステップが、メル周波数ケプストラム係数(MFCC:Mel Frequency Cepstral Coefficients)を抽出するステップを含む、例1から例33のいずれか1つに記載の方法。
例34.1. 音声特徴を抽出するステップが、クロスコヒーレンス(cross coherence)を計算するステップ、を含む、例1から例34のいずれか1つに記載の方法。いくつかの実施形態においては、クロスコヒーレンスは、ピッチ周波数および/またはフォルマント周波数(formant frequencies)において計算される。いくつかの実施形態においては、クロスコヒーレンスは、オプションとして、発話信号における2つのセグメントの1つまたは複数のセットの間で計算される。いくつかの実施形態においては、より低いコヒーレンスを有するセット(2つのセグメント)は、オプションとして、それらのセグメント中に起こる心拍の指標の役割を果たすことができる。
いくつかの実施形態においては、クロスコヒーレンスは、次のように計算される。
式中、
「Ts」:フレーム間の時間ステップ[秒]
「Tw」:各フレームの持続時間[秒]
「m」:フレーム番号
「t」:時刻
「Speech」:発話サンプル
「Speech_frame(m)」:時刻Ts*mにおける発話サンプルのフレーム
Coh(m,m+T)は、(時刻m*Tsにおける)フレーム「m」と、時刻((m+T)*Ts)におけるフレーム「m+T」との間のクロスコヒーレンスである。
コヒーレンスの値は、0〜1の範囲内であり、1は完全な一致である。
上の方法は、オプションとして、(時刻Ts*m[秒]における)各フレームmについて、コヒーレンスがしきい値よりも低下するフレーム距離Tを見つけるステップを含む。いくつかの実施形態においては、しきい値は、0.1〜0.98の間、例えば0.1、0.2、0.3、0.4、0.5、0.6、0.7、0.8、0.9、0.95、0.97、および0.98である。
いくつかの実施形態においては、時刻T*Tsは、RR間隔の推定である。
いくつかの実施形態においては、クロスコヒーレンスの全体的な摂動(perturbation)(分布の幅)は、オプションとして、心房細動の指標の役割を果たす。すなわち、心房細動があるときの発話は、より広い分布(より大きい標準偏差)を有する。
例34.2. 音声特徴を抽出するステップが、変調スペクトルの特定の特性を含む、例1から例33のいずれか1つに記載の方法。
いくつかの実施形態においては、オプションとして各フレームにおいて計算される音響特徴(acoustic feature)のスペクトルの特性が、病的な発話の指標の役割を果たす。
例34.3. 音声特徴を抽出するステップが、
ウェーブレット解析、
声門パルス分析、および、
線形予測符号化(LPC:Linear Predictive Coding)分析、
からなる群から選択される、発話信号の分析、を実行するステップ、を含む、
例1から例34.2のいずれか1つに記載の方法。
例35. 音声特徴を抽出するステップが、発話信号の周期と、発話信号の別の周期との間のクロスコヒーレンスを実行するステップ、を含む、例1から例33のいずれか1つに記載の方法。
例36. 音声特徴を抽出するステップが、ウェーブレット変換(WT)を実行するステップ、を含む、例1から例35のいずれか1つに記載の方法。
例35. 被検者によって提供される音声サンプルにおいて不整脈の心臓の状態を判定するシステムであって、
音声サンプルのデジタル音声サンプルを取得する音声入力部と、
デジタル音声サンプルから少なくとも1種類の音声特徴を抽出する音声特徴抽出器と、
少なくとも1種類の音声特徴に対する心臓活動の影響を識別する音声特徴プロセッサと、
この影響に基づいて不整脈の心臓の状態を判定する心臓状態分類器と、
を備えている、システム。
例36. 音声入力部が、携帯電話の一部を形成している、例35に記載のシステム。
例37. 音声入力部が、カーマルチメディアシステムの一部を形成している、例35に記載のシステム。
例38. 音声特徴抽出器、音声特徴プロセッサ、および心臓状態分類器、の少なくとも1つが、サーバーに位置している、例35から例37のいずれか1つに記載のシステム。
例39. サーバーが、電話交換機と連携されており、交換機からデータを取得する、例38に記載のシステム。
例40. 音声入力部が、所定のスケジュールに従ってデジタル音声サンプルを取得するように構成されている、例35から例39のいずれか1つに記載のシステム。
例41. 固定記憶装置をさらに備えている、例35から例40のいずれか1つに記載のシステム。
例42. 記憶装置が、不整脈の心臓の状態または健康な心臓の状態に関連付けられる複数の音声サンプルから導かれる基準音声特徴、を記憶している、例41に記載のシステム。
例43. 心臓状態分類器が、基準音声特徴を特徴付ける訓練段階に基づいて、不整脈の心臓の状態を判定する、例42に記載のシステム。
例44. 固定記憶装置が、被検者から以前に集められた少なくとも1つの音声サンプルを記憶している、例41に記載のシステム。
例45. 心臓状態分類器が、以前に集められた音声サンプルとデジタル音声サンプルとの間の変化に基づいて、不整脈の心臓の状態を判定する、例44に記載のシステム。
例46. 被検者の音声サンプルを分析して心臓の状態を判定する方法であって、
音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、
少なくとも1種類の音声特徴に対する血流の影響を検出するステップであって、この影響が、血流のタイミング、血流の周期性、および、血流の大きさまたは大きさの変化、のうちの少なくとも1つである、ステップと、
影響に基づいて心臓の状態を判定するステップと、
を含む、方法。
例47. 判定される心臓の状態が、異常な心拍数を含む、例46に記載の方法。
例48. 異常な心拍数が、心室頻拍(ventricle tachycardia)を含む、例47に記載の方法。
例49. 判定される心臓の状態が、異所性拍動(ectopic beat)を含む、例46に記載の方法。
例50. 異所性拍動を有する判定される心臓の状態が、心室性期外収縮(premature ventricular contraction)を含む、例49に記載の方法。
例51. 被検者の音声サンプルを分析して心臓の挙動を再現する方法であって、
音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、
少なくとも1種類の音声特徴に対する血流の影響を検出するステップと、
検出された影響から、心臓の挙動の1つまたは複数のパラメータを再現するステップと、
を含む、方法。
例52. 心臓の挙動が、心細動の発生を含む、例51に記載の方法。
例53. 所定の回数よりも多くの心細動の発生を識別するときに、不整脈の心臓の状態の存在を判定するステップ、を含む、例52に記載の方法。
例54. 所定の回数よりも少ない心細動の発生を識別するときに、不整脈の心臓の状態の存在を排除するステップ、を含む、例52に記載の方法。
例55. 心臓の挙動の1つまたは複数のパラメータが、不整脈以外の心臓の状態を示す、例51に記載の方法。
例56. 1つまたは複数のパラメータが、パルス波の形状を含む、例51に記載の方法。
本発明のいくつかの実施形態の一態様によれば、被検者の音声サンプルを分析して不整脈の心臓の状態を判定する方法であって、音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、少なくとも1種類の音声特徴に対する心臓の状態の影響を検出するステップと、この影響に基づいて不整脈の心臓の状態を判定するステップと、を含む、方法、を提供する。
本発明のいくつかの実施形態によれば、少なくとも1種類の音声特徴に対する心臓の状態の影響を検出するステップは、血流、心室拍動、および心房拍動、からなる群から選択される、音声に影響を及ぼす少なくとも1つの原因、によって少なくとも1種類の音声特徴に対してもたらされる心臓の状態の影響、を検出するステップ、を含む。
本発明のいくつかの実施形態によれば、影響を検出するステップは、音声に影響する原因のタイミング、音声に影響する原因の周期性、音声に影響する原因の大きさまたは大きさの変化、のうちの少なくとも1つの影響を識別するステップ、を含む。
本発明のいくつかの実施形態によれば、不整脈の心臓の状態を判定するステップは、複数の識別された影響を統合するステップ、を含む。
本発明のいくつかの実施形態によれば、音声サンプルを分析して有声セグメントを識別するステップ、をさらに含む。
本発明のいくつかの実施形態によれば、少なくともいくつかのセグメントが削除され、かつ残っているセグメントの端部が滑らかにされるように、有声セグメントを連結するステップ、をさらに含む。
本発明のいくつかの実施形態によれば、音声サンプルから削除されるセグメントにおける、音声に影響する原因に関連するデータ、を外挿するステップ、をさらに含む。
本発明のいくつかの実施形態によれば、検出される影響は、心拍のタイミングを含む。
本発明のいくつかの実施形態によれば、影響を検出するステップは、心拍の3回の連続する発生を識別するステップ、を含む。
本発明のいくつかの実施形態によれば、不整脈の心臓の状態を判定するステップは、心拍の連続する発生の間の時間間隔を計算するステップと、この時間間隔を、基準の心臓状態から得られる基準時間間隔と照合するステップと、を含む。
本発明のいくつかの実施形態によれば、判定するステップは、一致する確率を求めるステップと、この確率をしきい値と比較して不整脈の心臓の状態を判定するステップと、をさらに含む。
本発明のいくつかの実施形態によれば、基準の心臓状態は、正常または不整脈である。
本発明のいくつかの実施形態によれば、心拍の3回の連続する発生は、同じ有声セグメントにおいて識別されない。
本発明のいくつかの実施形態によれば、影響を検出するステップは、心拍の2回の連続する発生を識別するステップ、を含む。
本発明のいくつかの実施形態によれば、検出される影響は、心拍の大きさの影響、または心拍の大きさの変化の影響を含む。
本発明のいくつかの実施形態によれば、影響を検出するステップは、少なくとも1種類の音声特徴の複数の値の分布を計算するステップ、を含む。
本発明のいくつかの実施形態によれば、不整脈の心臓の状態を影響に基づいて判定するステップは、分布の特徴パラメータをしきい値と比較するステップ、を含む。
本発明のいくつかの実施形態によれば、特徴パラメータは、分布の形状を含む。
本発明のいくつかの実施形態によれば、値は、形状の幅を含む。
本発明のいくつかの実施形態によれば、検出される影響は、心拍の周期性の影響を含む。
本発明のいくつかの実施形態によれば、被検者の心拍数を推定するステップ、をさらに含む。
本発明のいくつかの実施形態によれば、不整脈の心臓の状態を判定するステップは、心拍数の周波数の前後の所定の範囲における周期性を特徴付けるステップ、を含み、特徴付けるステップは、所定の範囲におけるピークの帯域幅を計算するステップ、を含み、不整脈の心臓の状態を判定するステップは、この帯域幅をしきい値と比較するステップ、を含む。
本発明のいくつかの実施形態によれば、不整脈の心臓の状態の判定を確認するステップ、をさらに含む。
本発明のいくつかの実施形態によれば、確認するステップは、所定の発声を含む第2の音声サンプルを取得するステップ、を含む。
本発明のいくつかの実施形態によれば、確認するステップは、被検者に対する心電図検査および光電式容積脈波記録法検査の少なくとも一方を含む。
本発明のいくつかの実施形態によれば、不整脈の心臓の状態は、心房細動を含む。
本発明のいくつかの実施形態によれば、音声サンプルは、自発的な発話である。
本発明のいくつかの実施形態によれば、音声特徴は、ピッチを含む。
本発明のいくつかの実施形態によれば、音声特徴を抽出するステップは、音声サンプルの第1のセグメントと、音声サンプルの第2のセグメントとの間のクロスコヒーレンスを実行するステップ、を含む。
本発明のいくつかの実施形態によれば、音声特徴を抽出するステップは、ウェーブレット解析、メル周波数ケプストラム係数(MFCC)分析、声門パルス分析、および線形予測符号化(LPC)分析、からなる群から選択される、発話信号の分析、を実行するステップ、を含む。
本発明のいくつかの実施形態の一態様によれば、被検者によって提供される音声サンプルにおいて不整脈の心臓の状態を判定するシステムであって、音声サンプルのデジタル音声サンプルを取得する音声入力部と、デジタル音声サンプルから少なくとも1種類の音声特徴を抽出する音声特徴抽出器と、少なくとも1種類の音声特徴に対する心臓活動の影響を識別する音声特徴プロセッサと、この影響に基づいて不整脈の心臓の状態を判定する心臓状態分類器と、を含む、システム、を提供する。
本発明のいくつかの実施形態によれば、音声入力部は、携帯電話、情報端末、およびカーマルチメディアシステム、のうちの少なくとも1つの一部を形成している。
本発明のいくつかの実施形態によれば、音声特徴抽出器、音声特徴プロセッサ、および心臓状態分類器、の少なくとも1つは、サーバーに位置している。
本発明のいくつかの実施形態によれば、サーバーは、電話交換機と連携されており、交換機からデータを取得する。
本発明のいくつかの実施形態によれば、音声入力部は、所定のスケジュールに従ってデジタル音声サンプルを取得するように構成されている。
本発明のいくつかの実施形態によれば、固定記憶装置をさらに含み、この記憶装置は、不整脈の心臓の状態または健康な心臓の状態に関連付けられる複数の音声サンプルから導かれる基準音声特徴、を記憶している。
本発明のいくつかの実施形態によれば、心臓状態分類器は、基準音声特徴を特徴化する訓練段階に基づいて、不整脈の心臓の状態を判定する。
本発明のいくつかの実施形態によれば、固定記憶装置は、被検者から以前に集められた少なくとも1つの音声サンプルを記憶している。
本発明のいくつかの実施形態によれば、心臓状態分類器は、以前に集められた音声サンプルとデジタル音声サンプルとの間の変化に基づいて、不整脈の心臓の状態を判定する。
本発明のいくつかの実施形態の一態様によれば、被検者によって提供される音声サンプルにおいて心臓の状態を判定するシステムであって、音声サンプルのデジタル音声サンプルを取得する音声入力部と、デジタル音声サンプルから少なくとも1種類の音声特徴を抽出する音声特徴抽出器と、少なくとも1種類の音声特徴に対する心臓の状態の影響を識別する音声特徴プロセッサと、この影響に基づいて心臓の状態を判定する心臓状態分類器と、を含む、システム、を提供する。
本発明のいくつかの実施形態の一態様によれば、被検者の音声サンプルを分析して心臓の状態を判定する方法であって、音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、少なくとも1種類の音声特徴に対する血流の影響を検出するステップであって、この影響が、血流のタイミング、血流の周期性、および、血流の大きさまたは大きさの変化、のうちの少なくとも1つである、ステップと、影響に基づいて心臓の状態を判定するステップと、を含む、方法、を提供する。
本発明のいくつかの実施形態によれば、判定される心臓の状態は、異常な心拍数を含む。
本発明のいくつかの実施形態によれば、異常な心拍数は、心室頻拍を含む。
本発明のいくつかの実施形態によれば、判定される心臓の状態は、異所性拍動および心室性期外収縮の少なくとも一方を含む。
本発明のいくつかの実施形態の一態様によれば、被検者の音声サンプルを分析して心臓の挙動を再現する方法であって、音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、少なくとも1種類の音声特徴に対する血流の影響を検出するステップと、検出された影響から、心臓の挙動の1つまたは複数のパラメータを再現するステップと、を含む、方法、を提供する。
本発明のいくつかの実施形態によれば、心臓の挙動は、心細動の発生を含む。
本発明のいくつかの実施形態によれば、所定の回数よりも多くの心細動の発生を識別するときに、不整脈の心臓の状態の存在を判定するステップ、を含む。
本発明のいくつかの実施形態によれば、所定の回数よりも少ない心細動の発生を識別するときに、不整脈の心臓の状態の存在を排除するステップ、を含む。
本発明のいくつかの実施形態によれば、心臓の挙動の1つまたは複数のパラメータは、不整脈以外の心臓の状態を示す。
本発明のいくつかの実施形態によれば、1つまたは複数のパラメータは、パルス波の形状を含む。
当業者によって理解されるように、本発明のいくつかの実施形態は、システム、方法、またはコンピュータプログラム製品として実施することができる。したがって、本発明のいくつかの実施形態は、完全にハードウェアの実施形態、完全にソフトウェアの実施形態(ファームウェア、常駐ソフトウェア、マイクロコードなどを含む)、またはソフトウェアの側面とハードウェアの側面を組み合わせた実施形態、の形をとることができ、これらはいずれも本明細書においては、一般に「回路」、「モジュール」、または「システム」と称することがある。さらに、本発明のいくつかの実施形態は、コンピュータ可読プログラムコードを実装した1つまたは複数のコンピュータ可読媒体に実施されたコンピュータプログラム製品の形をとることができる。本発明のいくつかの実施形態の方法および/またはシステムの実施は、選択されたタスクを、手動で、または自動的に、またはこれらの組合せにおいて、実行することを含むことができる。さらに、本発明の方法および/またはシステムのいくつかの実施形態の実際の機器類および装置によれば、いくつかの選択されたタスクを、ハードウェアによって、またはソフトウェアによって、またはファームウェアによって、および/またはこれらの組合せによって(例:オペレーティングシステムを使用して)、実施することができる。
例えば、本発明のいくつかの実施形態に係る選択されたタスクを実行するハードウェアを、チップまたは回路として実施することができる。ソフトウェアとしては、本発明のいくつかの実施形態に係る選択されたタスクを、任意の適切なオペレーティングシステムを使用するコンピュータによって実行される複数のソフトウェア命令として実施することができる。本発明の例示的な実施形態においては、本明細書に記載されている方法および/またはシステムのいくつかの例示的な実施形態に係る1つまたは複数のタスクは、データプロセッサ(複数の命令を実行するコンピューティングプラットフォーム、さらには携帯電話など)によって実行される。データプロセッサは、オプションとして、命令および/またはデータを記憶する揮発性メモリ、および/または、命令および/またはデータを記憶する不揮発性記憶装置(例えば磁気ハードディスクおよび/またはリムーバブル媒体)、を含む。オプションとして、ネットワーク接続も提供される。オプションとして、ディスプレイ、および/または、キーボードやマウスなどのユーザ入力デバイス、も提供される。
本発明のいくつかの実施形態では、1つまたは複数のコンピュータ可読媒体の任意の組合せを利用することができる。コンピュータ可読媒体は、コンピュータ可読信号媒体またはコンピュータ可読記憶媒体とすることができる。コンピュータ可読記憶媒体は、例えば、以下に限定されないが、電子式、磁気式、光学式、電磁式、赤外線式、または半導体の、システム、装置、またはデバイス、またはこれらの任意の適切な組合せ、とすることができる。コンピュータ可読記憶媒体のさらに具体的な例(すべてを網羅していないリスト)としては、以下、すなわち、1本または複数本のワイヤを有する電気接続、携帯型コンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み出し専用メモリ(ROM)、消去可能プログラマブル読み出し専用メモリ(EPROMまたはフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスク読み出し専用メモリ(CD−ROM)、光記憶装置、磁気記憶装置、またはこれらの任意の適切な組合せ、が挙げられる。本文書の文脈においては、コンピュータ可読記憶媒体は、命令を実行するシステム、装置、またはデバイスによって、またはこれらのシステム、装置、またはデバイスに関連して使用するためのプログラムを、含むまたは記憶することのできる任意の有形媒体とすることができる。
コンピュータ可読信号媒体としては、コンピュータ可読プログラムコードが、例えばベースバンドにおいて、または搬送波の一部として実施されている、伝搬されるデータ信号、が挙げられる。このような伝搬信号は、さまざまな形(以下に限定されないが、電磁気、光、またはこれらの任意の適切な組合せを含む)のいずれかをとることができる。コンピュータ可読信号媒体は、コンピュータ可読記憶媒体ではなく、かつ、命令を実行するシステム、装置、またはデバイスによって、またはこれらのシステム、装置、またはデバイスに関連して使用するためのプログラムを、伝える、伝搬させる、または運ぶことのできる、任意のコンピュータ可読媒体、とすることができる。
コンピュータ可読媒体に実施されているプログラムコード、および/または、このようなプログラムコードによって使用されるデータは、任意の適切な媒体(以下に限定されないが、ワイヤレス、有線、光ファイバケーブル、無線周波数など、またはこれらの任意の適切な組合せを含む)を使用して送信することができる。
本発明のいくつかの実施形態の動作を実行するためのコンピュータプログラムコードは、1種類または複数種類のプログラミング言語(オブジェクト指向プログラミング言語(Java(登録商標)、Smalltalk、C++など)および従来の手続型プログラミング言語(「C」プログラミング言語または類似するプログラミング言語など)を含む)の任意の組合せにおいて書かれていてよい。プログラムコードは、独立したソフトウェアパッケージとして、その全体を使用者のコンピュータ上で実行する、またはその一部を使用者のコンピュータ上で実行する、または一部を使用者のコンピュータ上で実行しかつ一部を遠隔のコンピュータ上で実行する、または全体を遠隔のコンピュータまたはサーバー上で実行することができる。後者のシナリオでは、遠隔のコンピュータは、任意のタイプのネットワーク(ローカルエリアネットワーク(LAN)またはワイドエリアネットワーク(WAN)を含む)を通じて使用者のコンピュータに接続することができる、または、(例えばインターネットサービスプロバイダを使用してインターネットを通じて)外部のコンピュータへの接続を形成することができる。
本発明のいくつかの実施形態は、本発明の実施形態に係る方法、装置(システム)、およびコンピュータプログラム製品の流れ図および/またはブロック図を参照しながら、以下に説明されている。流れ図および/またはブロック図の各ブロック、および、流れ図および/またはブロック図におけるブロックの組合せを、コンピュータプログラム命令によって実施できることが理解されるであろう。これらのコンピュータプログラム命令は、汎用コンピュータ、専用コンピュータ、またはマシンを形成するための他のプログラマブルデータ処理装置のプロセッサに提供することができ、したがってこれらの命令(コンピュータまたは他のプログラマブルデータ処理装置のプロセッサを介して実行される)は、流れ図および/またはブロック図の1つまたは複数のブロックに指定されている機能/動作を実施する手段を形成する。
これらのコンピュータプログラム命令は、コンピュータ、他のプログラマブルデータ処理装置、または他の装置が特定の方法で機能するように導くことができるコンピュータ可読媒体に記憶してもよく、したがって、コンピュータ可読媒体に記憶されている命令は、流れ図および/またはブロック図の1つまたは複数のブロックに指定されている機能/動作を実施する命令を含む製品を形成する。
コンピュータ、他のプログラマブル装置、または他の装置上で一連の動作ステップが実行されて、コンピュータによって実施されるプロセスが生成されるように、コンピュータプログラム命令を、コンピュータ、他のプログラマブルデータ処理装置、または他の装置にロードしてもよく、したがって、コンピュータまたは他のプログラマブル装置で実行される命令が、流れ図および/またはブロック図の1つまたは複数のブロックに指定されている機能/動作を実施する。
本明細書に記載されている方法のいくつかは、一般的にコンピュータによる使用のみを目的として設計されており、専門家が純粋に手動で実行するには適していない、または実用的ではないかもしれない。類似するタスク(音響的パターンを識別して照合するなど)を手動で実行することを望む専門家は、まったく異なる方法(例えば、専門知識および/または人の脳のパターン認識能力を利用する)(本明細書に記載されている方法のステップを手動で行うよりも大幅に効率的である)を使用することが予測されうる。
本明細書において使用される用語「回路」または「電気回路」は、例えば音声分析を行う目的で、選択されたタスクを実行するための命令を有するハードウェアおよび/またはソフトウェア(例えば、特定の計算を実行する、メモリを有するコントローラ(ソフトウェアまたはアルゴリズム)、またはいくつかの信号処理タスクを実行するチップ)を意味する。
本発明のいくつかの実施形態について、その例示のみを目的として添付の図面を参照して本明細書に記載する。以下、特に図面を詳細に参照して示す細部は、例示を目的とし、また本発明の実施形態の詳細な説明を目的とすることを強調する。同様に、図面と共に説明を見ることで、本発明の実施形態をどのように実践し得るかが当業者には明らかとなる。
本発明のいくつかの実施形態による、音声検出・分析の一般的な構成要素とそれらの間のデータの流れを示している高レベルの流れ図である。 本発明のいくつかの実施形態による、ウェーブレット分解の単純化された図である。 本発明のいくつかの実施形態による、オプションの音声分析ステーションの間のデータの流れを示しているデータフローマップである。 本発明のいくつかの実施形態による、音声サンプルに基づく心臓の状態の推定の、一般的な高レベルの概要である。 本発明のいくつかの実施形態による、例示的なプラットフォームにおける音声サンプリングおよび/または音声分析を概略的に示しており、図4Aは携帯電話のプラットフォームを示している。 本発明のいくつかの実施形態による、例示的なプラットフォームにおける音声サンプリングおよび/または音声分析を概略的に示しており、図4Bは車両のプラットフォームを示している。 本発明のいくつかの実施形態による、例示的な音声処理を示しており、図5Aは、音響ベクトルを得るための音声サンプル処理を示している。 本発明のいくつかの実施形態による、例示的な音声処理を示しており、図5Bは、音声特徴の正規化プロセスを示している。 本発明のいくつかの実施形態による、例示的な音声処理を示しており、図5Cは、正規化の例を提示している。 本発明のいくつかの実施形態による、分布の分析による、音声サンプルからの心臓の状態の推定を示している、一般的な高レベルの概要である。 本発明のいくつかの実施形態による、特徴の分布を分析するための詳細なプロセスを示している流れ図であり、音声特徴の例としてピッチを示している。 本発明のいくつかの実施形態による、心臓の状態を診断するための学習の方法の単純化された流れ図である。 本発明のいくつかの実施形態による、心臓の状態を分類する方法の単純化された流れ図である。 本発明のいくつかの実施形態による音声サンプルを提示しており、図7Aには、セグメントを削除するように分類された音声サンプルを示してあり、図7Bでは、残っているセグメントが連結されている。 本発明のいくつかの実施形態による、平滑化された音声サンプルから抽出されるピッチデータの例を示しており、図8Aは、音声の「自然な」変動の平滑化を示しており、図8Bは、平滑化されたデータを示している。 本発明のいくつかの実施形態による、フィルタリングおよび平滑化された後に音声サンプルから抽出されるピッチデータの例を示しており、図9Aは、連結された有声セグメントの例を示しており、図9Bは、ピッチ抽出の例を示している。 本発明のいくつかの実施形態による、心房細動中に(図10B)、および健康な人の発話中に(図10A)記録された発話のピッチの正規化された標準偏差値の分布のヒストグラムの例を示している。 本発明のいくつかの実施形態による、心房細動中に(図10D)、および健康な人の発話中に(図10C)記録された発話のピッチの正規化された標準偏差値の分布のヒストグラムの例を示している。 本発明のいくつかの実施形態による、パルス間隔分析の形における心臓タイミング分析を示しており、図11Aは、一般的な流れ図を示している。 本発明のいくつかの実施形態による、パルス間隔分析の形における心臓タイミング分析を示しており、図11Bは詳細な流れ図を示している。 本発明のいくつかの実施形態による、パルス間隔分析の形における心臓タイミング分析を示しており、図11Cは、本発明のいくつかの実施形態による、時間の経過に伴う例示的なパルス判定を示している。 本発明のいくつかの実施形態による、RR間隔推定の例示的なグラフを示している。 本発明のいくつかの実施形態による、MFCCタイプの音声特徴の場合のフレーム間距離の例を示しており、上のグラフはフレーム間距離のパターンを示しており、下のグラフは基準としての心電図グラフを示している。 本発明のいくつかの実施形態による、コヒーレンス計算の例示的なグラフを示している。 本発明のいくつかの実施形態による、連続するパルスの発生を増やすときの、心臓の状態の判定の特異度に対する感度の変化の例を示している。 本発明のいくつかの実施形態による、心臓の状態を判定するために使用される心拍数の周期性を求めるプロセスを示しており、図14Aは高レベルの概要である。 本発明のいくつかの実施形態による、心臓の状態を判定するために使用される心拍数の周期性を求めるプロセスを示しており、図14Bは詳細な流れ図である。 本発明のいくつかの実施形態による、声門波の単純化された図である。 本発明のいくつかの実施形態による、音声特徴のスペクトル特性を使用しての心拍数の病態の確率の決定を示しており、図15Aおよび図15Cは、本発明のいくつかの実施形態による、健康なパターンを示しており、図15Bおよび図15Dは心房細動のパターンを示している。 本発明のいくつかの実施形態による、可能な治療およびモニタリングの時系列を示している。 本発明のいくつかの実施形態による、音声サンプルから心拍数を抽出する例を示している。 図18Aは、本発明のいくつかの実施形態による、発話者に依存しない検出結果を示しているグラフであり、図18Bは、本発明のいくつかの実施形態による、発話者に依存する検出結果を示しているグラフである。
本発明は、そのいくつかの実施形態においては、声を使用する医療診断に関し、より詳細には、これに限定されないが、人の声に基づいて心臓の状態を推定することに関する。
概要
本発明いくつかの実施形態の一態様は、音声サンプルに対する心臓活動(血流など)のタイミングの影響、および/または影響の大きさ、を求めることに関する。
心臓活動は、以下の任意の1つまたは複数において、音声サンプルに影響しうる:
血流に影響し、血流が音声サンプルに影響する場合;
心臓の鼓動の影響が肺に伝わり、肺が音声サンプルに影響する場合(なお、左肺は、胸部の空間を心臓と共有する);
心臓の鼓動の影響が気管支に伝わり、気管支が音声サンプルに影響する場合;
心臓の鼓動の影響が胸膜液に伝わり、胸膜液が音声サンプルに影響する場合;
喉頭(「発生器」)および声道に沿った動脈および筋肉の、心臓の鼓動に関連する機械的な変化によって、発声音における検出可能な変調がもたらされる可能性がある場合。
いくつかの実施形態においては、音声サンプルに対する心臓の状態の影響を検出することによって、被検者の音声サンプルを分析して不整脈の心臓の状態を判定する。
いくつかの実施形態においては、分析するステップは、音声サンプルに影響を及ぼす原因の影響を検出するステップを含む。
このような原因のいくつかの例としては以下が挙げられる(ただしこれらに限定されない):
血流;
心室拍動;
心房拍動。
本出願においては、音声サンプルに影響を及ぼす血流の影響の例を説明し、用語「血流」は、本明細書および特許請求の範囲においては、音声サンプルに対する心臓の鼓動の影響を含むように意図されている。
いくつかの実施形態においては、心臓活動の影響には、心拍のタイミングによって影響される血流が含まれる。これに代えて、またはこれに加えて、心臓活動の影響には、心拍の大きさによって影響される血流が含まれる。いくつかの実施形態においては、音声サンプルに対する影響を使用して、不整脈の心臓の状態(例えば心房細動(AFまたはAfib))を判定する。これに代えて、またはこれに加えて、音声サンプルに対する影響を使用して、異常な心臓の状態(例えば頻脈(VT))を判定する。これに代えて、またはこれに加えて、音声サンプルに対する影響を使用して、健康な心臓の状態(例えば、タイミングおよび/または大きさにおける十分な周期性を有する心臓の状態)を判定する。
いくつかの実施形態においては、(オプションとして自発的な発話中に)声をデジタル形式としてサンプリングし、そのデジタル音声サンプルを分析して心臓の状態を識別することによって、被検者の声に対する影響が判定される。これに代えて、またはこれに加えて、所定の有声音に基づいて、影響が判定される。いくつかの実施形態においては、被検者の発話は、被検者自身によって行われる能動的な動作なしに、受動的にサンプリングされる。いくつかの実施形態においては、音声サンプルを分析して、音声サンプルから音声特徴を抽出する。音声特徴は、例えば、ピッチおよび/またはメル周波数ケプストラム係数(MFCC)を含むことができる。これに代えて、またはこれに加えて、音声サンプル、または音声特徴自体を分析して、心臓のデータ(RR間隔、例えば連続する心拍の間の時間間隔)を抽出する。
いくつかの実施形態においては、心拍の変動性または変化が、検出される、および/または測定される。
本明細書において使用されている用語「音声特徴」は、発話から計算することのできる任意の値と、これに加えて、この値の任意の統計的操作および/または数学的演算(導関数、標準偏差、自己相関、コヒーレンス、クロスコヒーレンス、ウェーブレット変換、歪度など)を含む。さらに、用語「音声特徴」は、時間の経過に伴う発話特性の変化(時間の経過に伴う別の音声特徴の変化など)の値も含む。
一般には、発話を行っている間、声帯ヒダ(vocal folds)が振動して空気のパルスを形成する。声帯ヒダの大きさおよび緊張と、肺の空気圧とによって、ピッチが決まる。口腔/咽頭の構造および容積に従って、空気のパルスのスペクトル密度およびスペクトル組成が変化し、さまざまな音が形成される。
なお、心拍は、いくつかのメカニズムにおいて音声に影響する可能性がある。
一時的な血圧および/または血管容積を変化させる。声帯ヒダの組織におけるこれらの変化は、声帯の大きさの小さな変化をもたらし、これが声に影響する。
これに加えて、血圧および心臓の鼓動は、鼻腔および/または口腔の容積の小さな変化をもたらすこともあり、これも発話に影響しうる。
心臓の鼓動は「機械的なパルス」を形成し、肺、声帯、および/または口腔を振動させ、発話の変調をもたらす可能性がある。
頸部を通過する大動脈の脈動によって、声帯ヒダの機械的な振動がもたらされる可能性がある。
心房細動(AF)は、一般には、不規則な心臓のリズムによって識別され、臨床的には心房の非協調的収縮と定義される。心房細動は、無症候性であることがある。心房細動が存在すると、脳卒中が最大で5倍起こりやすくなる。現在の医療では、心房細動に関連する脳卒中の約80%を防止することができる。したがって、治療を開始する目的で、心房細動を発症している被検者を早期に識別することは有利であり得る。
心房細動を検出するいくつかの方法は、主として、連続的な心電図記録(例:心臓ホルターモニター、移動性の心臓遠隔モニターなど)の使用に頼っている。一般に連続的な測定が必要であるのは、心房細動が1日あたり数分間しか起こらないことがあり、かつ無症候性であるためである。しかしながら、心電図による連続的な心臓のモニタリングには、さまざまな電極の正確な貼り付け、不快な装置、ケーブル配線、ウェアラブルセンサー、バッテリの交換または充電の問題などの課題が存在する。受動的なモニタリングには、スクリーニングされる被検者が能動的な行動を起こすことなく、かつ毎日の決まった仕事から逸脱する必要なしに、心臓の状態が識別されるという潜在的な利点がある。
いくつかの実施形態においては、声は、音声入力部(例えばマイクロフォン装置など)によってサンプリングされる。オプションとして、音声入力部は、電話の一部を形成している。これに代えて、またはこれに加えて、音声入力部は、コンピュータおよび/またはスマートフォンの一部を形成している。これに代えて、またはこれに加えて、音声入力部は、カーマルチメディアシステム、および/またはスピーカーフォン、および/または自動車における他の関連するシステム、の一部を形成している。これに代えて、またはこれに加えて、音声入力部は、音声サービス(Alexa(登録商標)など)を含む。これに代えて、またはこれに加えて、音声入力部は、スマートウォッチ、および/またはマイクロフォンを有する他のウェアラブル手段、および/またはパーソナルモニター(セルラーおよび/または携帯型)、の一部を形成している。いくつかの実施形態においては、音声のサンプリングおよび/または分析のモジュールは、マイクロフォンを有するパニック警報ボタン(panic alarm button)(オプションとして個人用アプリケーションである、または医療緊急サービスに関連している)の一部を形成している。
いくつかの実施形態においては、声のサンプリングは、被検者によって開始される。これに代えて、またはこれに加えて、声のサンプリングは、音声入力部を有するサンプリング装置によって、オプションとして所定のスケジュールに従って、開始される(例えば、5分ごと、1時間に1回、1日に2回、およびより多くの、またはより少ない頻度の任意の使用計画で、音声サンプルを取得する)。いくつかの実施形態においては、時間の経過とともに複数の音声サンプルが取得されて分析される。複数のサンプルを取得する潜在的な利点は、検査結果および診断の特異度および/または感度が向上することである。いくつかの実施形態においては、音声サンプルの数、および/またはサンプリングの間の時間間隔は、所与の心臓の状態が検出される推定確率に基づいて決定される。例えば、一週間に1回起こることが疑われる心房細動の発症を探すときには、1時間毎に起こる心房細動の発症を探すときとは異なる使用計画(おそらくはより高い頻度)が提供される。
いくつかの実施形態においては、音声サンプルを分析するためにクラウドサーバー(プライベートおよび/またはパブリック)が使用される。いくつかの実施形態においては、例えば被検者が心臓の状態の推定サービスを求めて電話をかけたときに、電話交換機またはコールセンターにおいて声がサンプリングされ、少なくとも部分的に分析される。いくつかの実施形態においては、サーバーが電話交換機と連携されており、交換機からデータを取得する。
これに代えて、被検者が別のサービスを求めて電話をかけ、ただしその同じ電話によって心臓の状態の推定サービスを受ける。オプションとして、分析結果が被検者に送られる。これに代えて、またはこれに加えて、分析結果は、世話をする人に送られる。これに代えて、またはこれに加えて、分析結果は、要求されるまで、または支払が行われるまで、データベースに格納される。いくつかの実施形態においては、分析される有声サンプルの基準として、データベースおよび/または固定記憶装置が使用される。
いくつかの実施形態においては、分析は、スマートフォン、および/またはCPUベースの装置、および/またはサーバー、における電気回路および/またはソフトウェア、によって実行される。いくつかの実施形態においては、電気回路は、音声サンプルを処理して発話者の心臓の状態を推定するための命令、を有する。既存の設備を受動的に使用する潜在的な利点は、心疾患の受動的なモニタリングを行うことができ、オプションとして、潜在的に疑いがある場合には、サンプリングされた被検者が能動的な動作を行うことなく、警告情報および/またはさらなる健康診断の推奨が提供されることである。もう1つの潜在的な利点は、毎日の生活の中で検査にアクセスできるため、早期発見の可能性が高いことである。早期発見によって、脳卒中および他の合併症を予防するための早期介入を提供することができ、再入院および/または死亡が防止される可能性がある。
いくつかの実施形態においては、電話の会話が第1のステーションにおいて暗号化され、第2のステーションにおいて復号される。このような実施形態においては、発話の分析は、オプションとして、第1のステーションまたは第2のステーションにおける電気回路および/またはソフトウェアによって実行され、オプションとして、暗号化されていない発話を分析する。
いくつかの実施形態においては、影響の特徴パラメータが、しきい値(または基準)と比較される。いくつかの実施形態においては、基準値は、同じ被検者から、ただし、健康であることが既知であるサンプル、および/または病的であることが既知であるサンプル、において取得される。影響を自己の基準と比較する潜在的な利点は、サンプリングされる個人において起こる変化を識別することができ、オプションとして、これらの変化に基づいて心臓の状態を判定できることである。これに代えて、またはこれに加えて、基準は、健康、および/または、心臓の病態を有することに関連付けられる複数の基準、を有するデータベースから提供される。これに代えて、またはこれに加えて、特徴パラメータは、心臓の状態を判定するための限界点としてあらかじめ決められているしきい値、と比較され、例えば、しきい値よりも低いときには健康な状態と判定され、しきい値よりも高いときには病的な状態と判定される。いくつかの実施形態においては、限界値を使用して、被検者が病態を有する確率を計算することができる。
いくつかの実施形態においては、しきい値または多次元しきい値(multi-dimensional threshold)は、オプションとして、機械学習に基づいて動的に決定され、オプションとして、音声サンプルから導かれる別のデータを使用する。いくつかの実施形態においては、訓練セットは、病態を有する別の患者および病態を有さない別の患者から計算された音声特徴を含む。いくつかの実施形態においては、訓練セットを最適に分類し、個別の検査セットを高度に分類するために、分類器が選択される。これらの方法は、例えば、SVM、回帰、PCA KNNを含むことができる。
いくつかの実施形態においては、いくつかの音声サンプル分析法の統合が実行される。いくつかの実施形態においては、オプションとして分析結果の特異度および/または感度に基づいて、各分析法に異なる重みが割り当てられる。いくつかの実施形態においては、各分析の重みを動的に決定するために、機械学習が使用される。オプションとして、統合プロセスにおいて別のデータ(被検者の病歴、および/または家族歴、および/または生理学的検査結果など)が使用される。
いくつかの実施形態においては、オプションとして、統合された結果に基づいて、不整脈の心臓の状態の重症度が判定される。オプションとして、不整脈の重症度は、識別された発症の回数(例えば識別された心房細動発症の回数)に従って判定される。これに代えて、またはこれに加えて、重症度は、識別された発症の間の時間間隔、および/または発症の持続時間に基づいて、判定される。これに代えて、またはこれに加えて、重症度は、音声サンプルに対して求められる影響の程度に基づいて判定され、例えば、音声サンプルが不規則であるほど、判定される病的状態は重症である。
いくつかの実施形態においては、心臓の状態を判定した後、確認検査が、オプションとして第2の音声サンプルの形において実行される。いくつかの実施形態においては、第2の音声サンプルは、所定の単語または母音を含む。これに代えて、またはこれに加えて、確認検査は、心電図(ECG)検査および/または光電式容積脈波記録法(PPG)検査、および/または、心電図検査および/またはPPG検査を実行するための指定されたモバイルアプリケーション、を含む。補足検査を使用する潜在的な利点は、診断の特異度および感度が高まることである。
いくつかの実施形態においては、音声への血流の影響を使用して、心拍数、および/または心拍数の変動性または変化を識別し、これらは、感情の状態(例えば、ストレス、怒り、神経過敏、興奮など)を識別するために使用される。これに代えて、またはこれに加えて、音声分析を使用して、サンプリングされる被検者の健康レベルを判定する。これに代えて、またはこれに加えて、音声分析を使用して、サンプリングされる被検者の一般的な健康状態および/または臨床状態を判定する。
音声に対する心臓活動のタイミングの影響の抽出
本発明のいくつかの実施形態の一態様は、音声に影響を及ぼす血流に対する心拍のタイミングの影響を検出することによって、心臓活動のタイミングが音声に対して有する影響を検出することに基づいて、心臓の状態を判定することに関する。不規則な心拍数では、血流に影響を及ぼす心拍の影響が不規則に起こり、このことが声に現れると推測される。
いくつかの実施形態においては、音声サンプルの有声セグメントから、時間軸上の心臓データが抽出される。時間軸上の心臓データは、例えば、少なくとも1つのRR間隔を含む。オプションとして、Rの頂点は不連続である。本明細書において使用されている用語「R」は、心拍中の血圧のピークのタイミングを意味する。RRは、2回の連続する心拍の間の時間的距離である。
いくつかの実施形態においては、心臓のパラメータは、自発的な発話から抽出される。自発的な発話は、一般には、有声音、無声音、および沈黙から構成される。本明細書において使用されているとき、有声音とは、発話のうち、声帯が閉じて振動する部分(「cat」における音素/a/など)であり、無声音とは、発話のうち、声帯が開いている部分(「shame」における音素/sh/など)であり、沈黙期間は、発話が存在しない部分(息継ぎなど)である。心臓活動は主として有声音に影響し、無声音は心臓活動による影響が小さく、沈黙期間はまったく影響されないと推測される。自発的な発話中の有声セグメントは比較的短く、通常では持続時間が3秒未満である。いくつかの実施形態においては、不連続な断片化された発話データから、心臓の状態が推定される。オプションとして、断片化された発話データは、自発的な発話の有声セグメントから抽出される。いくつかの実施形態においては、有声セグメントを識別するために音声サンプルが分類され、オプションとして、少なくともいくつかのセグメントが削除されて残っているセグメントの端部が滑らかにされるように、有声セグメントが連結される。
いくつかの実施形態においては、有声音は、標準的な音声分類法(例えば非特許文献5(その全体が参照により本明細書に組み込まれている)に記載されている分類法)によって分類される。
いくつかの実施形態においては、心拍データは、断続的な有声セグメントから導かれる。いくつかの実施形態においては、心拍データおよび/または血流の挙動が、パルスの発生を示唆する傾向にある、2つの有声セグメントの間にオプションとして見つかる有声ではないセグメントから、外挿される。いくつかの実施形態においては、Rパルスの2回の発生の間の時間間隔は、心臓の状態を判定するのに十分である。例えば、異常に高い心拍数状態(心室性頻拍など)を特徴付ける時間間隔を識別するときである。これに代えて、またはこれに加えて、Rパルスの少なくとも3回の発生は、不整脈(心房細動など)を判定するのに十分である。いくつかの実施形態においては、不整脈の心臓の状態は、心拍の3回の連続する発生の間の時間間隔を計算することによって判定される。いくつかの実施形態においては、多数の連続するRパルスの発生(例えば、5回以上、および/または6回以上、および/または7回以上、および/または8回以上、および/または9回以上、および/または10回以上の連続する発生)は、検査のより高い感度および/または特異度を提供する。いくつかの実施形態においては、識別される心拍の間の時間間隔が、健康であることが既知である、または病的および/または不整脈であることが既知である基準心臓状態から得られる基準時間間隔と照合される。オプションとして、心臓の状態を判定するために、一致する確率が計算されてしきい値と比較される。
本発明のいくつかの実施形態の一態様は、時間の経過に伴う音声からの関連情報を伝える特定のパラメータの変動を探すことによって、心臓の状態を推定することに関する。例えば、時間の経過に伴う音声特徴を分析し、それら音声特徴の値の周期性を計算することによる。いくつかの実施形態においては、音声特徴は、有声サンプル(オプションとして自発的な発話)から抽出される。いくつかの実施形態においては、音声特徴は、例えば、重み付けられたスペクトル、および/または線形予測係数(LPC:Linear Predictive Coefficient)、および/またはLPCに基づくスペクトル、および/またはメル周波数ケプストラム係数(MFCC)、および/または基本周波数(ピッチ)、および/またはエネルギー、および/またはゼロ交差(zero crossing)、および/またはフォルマント、および/または声門パルス(声帯パルス)、および/またはジッター、および/またはシマー(shimmer)、および/またはフラクタル次元、および/またはコヒーレンス、および/またはウェーブレット解析、または発話サンプルの任意の他の数学的/統計学的表現、を含む。
いくつかの実施形態においては、オプションとして被検者の音声サンプルを分析することによって、被検者の心拍数が推定される。いくつかの実施形態においては、例えば、心拍数の周波数の前後の所定の範囲における周波数における周期性を識別することによって、心臓活動のタイミングにおける不規則性を識別するために、音声特徴の不均一性が使用される。いくつかの実施形態においては、音声サンプルにおける周期的な変化および/または半周期的な変化を識別するために、スペクトル分析および/または自己相関が使用される。いくつかの実施形態においては、音声特徴の周期性は、心拍数の所定の範囲におけるスペクトルピークの帯域幅において計算される。一般には、帯域幅が広いほど周期性が小さく、したがって不整脈の確率が高い。いくつかの実施形態においては、心臓の状態を判定する目的で、帯域幅が所定のしきい値と比較される。
いくつかの実施形態においては、心臓の状態を判定するため、周期性の特徴パラメータがしきい値と比較される。例えば、心拍数の周波数付近の(ピッチなどの音声特徴の)自己相関関数のピークを、その帯域幅によって特徴付けることができ、所定のしきい値よりも大きい値を有する自己相関関数の帯域幅は、不整脈の心臓の状態の高い確率に関連付けられる。
いくつかの実施形態においては、発話のセグメントの間で、オプションとして、ピッチ周波数および/またはフォルマント周波数の付近で、および/または、心拍によって影響される可能性のある任意の周波数の付近で、発話のスペクトルクロスコヒーレンスが計算される。短時間だけ低い値に達するコヒーレンスは、心拍の指標であり得る。このように、心拍を発話の時系列上に位置させることができる。
音声に対する心臓活動の大きさの影響の抽出
本発明のいくつかの実施形態の一態様は、音声に対する心臓活動の大きさの影響を抽出することに基づいて、心臓の状態を判定することに関する。本明細書において使用されている用語「大きさ」は、血液の機械的影響(血圧および/または血管容積など)の程度、および/または、心室拍動および/または心房拍動の影響の程度、を意味する。不規則な心拍数は、発声領域への血流の大きさの変動性につながり、したがって音声に対する血流の影響の大きさの変動性につながると推測される。心臓の鼓動によって発話が変調され、それにより音響信号の変動がもたらされると推測される。したがって、(例えば洞律動によって特徴付けられる)規則的な心拍波は、おそらくは発話器官を通る血流が周期的に変化する結果として周期的な変調をもたらすと予測される。これに対して、不規則な心臓の鼓動(例えば心房細動)は、血流の無秩序な変化をもたらし、音響信号のより大きな変動をもたらす。
いくつかの実施形態においては、音声特徴の値の分布(例えば標準偏差)が求められる。いくつかの実施形態においては、心臓の状態を判定するために、分布の形状の特徴パラメータがしきい値と比較される。例えば、分布の形状の大きい幅、および/または、スペクトルピーク値の大きい幅を、不整脈の心臓の状態の高い確率に関連付けられる所定のしきい値と比較することができる。
いくつかの実施形態においては、オプションとしてマルチ特徴分類器(multi-feature classifier)が使用され(いくつかの特徴を組み合わせる)、オプションとして、音声特徴の値の多次元分布における多次元しきい値(multi-dimensional threshold)が、例えばサポートベクターマシン(SVM:Support Vector Machine)法、および/またはベクトル量子化法(K−MEANSクラスタリング解析など)を使用して求められる。
いくつかの実施形態においては、心臓の状態を判定するために、多次元分布の形状の特徴パラメータが、多次元しきい値と比較される。
心房細動の検出
本発明のいくつかの実施形態の一態様は、患者の声に対する心房細動の影響によって、心房細動を検出することに関する。
いくつかの実施形態においては、慢性的な病的状態は、音声パラメータの変化によって検出される可能性がある。いくつかの場合、心房細動(AF)は、左心房の拡大をもたらす(これは病的な心房細動のケースの大部分において起こる)。拡大は反回神経に強く影響し、声の一定の変化をもたらす。変化は、ピッチ信号のパラメータに現れる可能性があり、分析して検出することができる。
これにより、たとえ心臓の鼓動が正常な速度である場合にも、慢性状態の心房細動患者を検出することが可能になる。
本発明の少なくとも1つの実施形態を詳細に説明する前に、本発明は、必ずしもその用途が、以下の記載に示す、および/または図面および/または実施例で例示する、構成の詳細および要素の配置および/または方法に限定されるものではないことを理解するべきである。本発明は、他の実施形態が可能であり、また、さまざまな手段で実施または実行することが可能である。
例示的な声のサンプリングおよび分析
次に図面を参照し、図1Aは、本発明のいくつかの実施形態による、人の声から心臓の状態を判定することを例示している高レベルのブロック図およびデータの流れであり、関与する要素と、要素の間のデータの流れを示している。
いくつかの実施形態においては、アナログ音声サンプル1が、音声出力102によって生成され、音声出力102は、1人または複数の話している被検者を含むことができる。いくつかの実施形態においては、アナログ音声サンプル1が、音声入力部104(例えばマイクロフォンを有する電子装置)によってサンプリングされ、デジタル音声サンプル3に変換される。いくつかの実施形態においては、デジタル音声サンプル3が、音声分析器106によって処理される。いくつかの実施形態においては、分析器106による処理は、音声の特徴5aおよび/または心臓の特徴5bを識別する。心臓の特徴は、例えば、RR間隔、および/または心拍数、および/または心拍数の変動性を含むことができる。音声特徴の例として、ピッチ、および/またはフォルマント、および/またはメル周波数ケプストラム係数(MFCC)および/またはフレーム間のクロスコヒーレンス、および/またはウェーブレットに基づく特徴、および/またはこれらのパラメータの1つまたは複数のスペクトル帯エネルギーおよび帯域幅、および/またはこのような特徴の、発話中の変動および/または導関数、が挙げられる。
発話の特徴としてのクロスコヒーレンス: 時刻(t)における発話サンプルの特定のフレームについて、時刻(t+Δn)におけるフレームに対するクロスコヒーレンスが計算される。オプションとして、この値は、次のようにN個の値を含むベクトルに格納される。
特徴としてのウェーブレット:
ウェーブレット変換は、オプションとしていくつかの方法で発話の特徴として使用される。
第1の方法においては、いくつかの実施形態においては、オプションとして広域通過フィルタ(HPF)分解および/または低域通過フィルタ(LPF)分解を使用して、ウェーブレット分解が使用される。
次に図1Bを参照し、図1Bは、本発明のいくつかの実施形態による、離散ウェーブレット変換(DWT:Discrete Wavelet Transform)によるウェーブレット分解の単純化された図である。
図1Bは、レベル1のDWT係数h(n)124およびg(n)122を生成する信号x(n)120を示している。
さらに図1Bは、オプションとしてレベル2のDWT係数h(n)126およびg(n)128を生成するレベル1のDWT係数g(n)122を示している。
図1Bは、各フィルタの出力エネルギーが、出力特徴ベクトルの要素として使用される例示的な実施形態を示している。
第2の方法においては、いくつかの実施形態においては、スペクトルを使用してのエネルギーおよび周波数に類似して、各フレームの「スケール」および「係数」の値がオプションとして計算され、これらの値を特徴として使用する。
変動の特徴のスペクトルエネルギーおよび帯域幅:
いくつかの実施形態においては、以下の2段階の計算が実行される:
各フレームごとに、発話の特徴ベクトルを計算する
スペクトル推定法を使用して特徴ベクトルのスペクトルを計算する。
本発明を制限しないいくつかの例として、特徴ベクトルが(フレームごとの)ピッチ周波数である場合には、
スペクトルは、
いくつかの実施形態においては、特徴ベクトルが時間の経過に伴って変化する周波数を明らかにするために、SpecVecがオプションとして使用される。心拍によって音声信号のいくつかの特徴が変調されるため、SpecVecは、心拍数の周波数における周波数ピークを示す可能性がある。
いくつかの実施形態においては、スペクトル推定は、オプションとして例えば以下の方法によって実行される:
フーリエ変換;
共分散法;
ペリオドグラム法;
Yule−Walker法;
多重信号分類(MUSIC:Multiple Signal Classification)法;
固有ベクトル法。
いくつかの実施形態においては、スペクトル推定法は、オプションとして、発話ごとにいくつかの値を生成する:
(1つまたは複数の)スペクトルピークの位置[Hz];
(1つまたは複数の)スペクトルピークの帯域幅[Hz];
(1つまたは複数の)スペクトルピークのエネルギー(オプションとして帯域幅*高さ)[ワット]。
上の値は、オプションとして心拍数の状態の指標として使用される。
いくつかの実施形態においては、心臓の状態7を推定するために、心臓/音声の特徴が心臓状態分類器108によって分析される。心臓の状態は、例えば、健康な心臓状態である、または病的な心臓状態である(例えば、不整脈および/または心房細動として識別される)。オプションとして、心臓の状態7が、心臓状態出力部110(例えば画面)によって提示される。
いくつかの実施形態においては、音声出力102は、アナログ音声サンプル1を生成する人の被検者を含む。被検者は、声を使用する心臓状態診断の候補者である任意の人とすることができる。オプションとして、例えば音声サンプル1が2人以上の被検者の間の会話を含むときには、音声出力102は、音声サンプル1を生成する2人以上の被検者を含む。いくつかの実施形態においては、識別された発話者のみが分析される。いくつかの実施形態においては、音声サンプル1は、自発的な発話(例えば、利用者が話しているセグメント、および/または利用者が会話しているセグメント、および/または沈黙期間のセグメント、および/または背景雑音のセグメント、および/または背景の発話者のセグメント、を含みうるシーケンス)を含む。これに代えて、またはこれに加えて、音声サンプル1は、限定された発話(例えば、オプションとしてあらかじめ決められた、または参照テーブルから選択される、特定の単語および/または母音)を含む。
いくつかの実施形態においては、音声入力部104は、アナログ音声サンプル1をデジタル音声サンプル3に変換することによって、アナログ音声サンプル1を記録する。いくつかの実施形態においては、音声入力部104は、マイクロフォンを有する装置である。例えば、音声入力部104は、固定電話、および/または携帯電話、および/またはコンピュータ、および/またはスピーカーフォン、および/またはボイスレコーダー、とすることができる。これに代えて、またはこれに加えて、音声入力部104は、デジタル音声サンプル3を記録するサーバー(オプションとして(例えばコールセンターに位置する)遠隔サーバー)である。
オプションとして、音声入力部104は、デジタル音声サンプル3を格納するデータベースを備えている。これに代えて、またはこれに加えて、音声入力部104は、音を長期にわたり格納せずに、音を変換してそれを送信するのみである。いくつかの実施形態においては、デジタル音声サンプル3は、音声データ形式(例えば、PCM、および/またはWAV、および/またはADPCM)において格納される。これに代えて、またはこれに加えて、アナログ音はデジタル形式に変換されず、アナログ分析回路によって分析され、次にアナログ分析回路がそれをデジタル形式に変換する。
いくつかの実施形態においては、音声入力部104によるサンプリングは、自動的に(すなわちサンプリングに関して被検者によって行われる能動的な動作なしに)提供される。これに代えて、またはこれに加えて、サンプリングは、被検者の能動的な動作によって操作されることによって(例えば、専用コールセンターに能動的に電話をかけることによって、または装置の録音ボタンを押すことによって、など)、手動で提供される。これに代えて、またはこれに加えて、サンプリングは、事前に予定された設定において提供され、オプションとして、特定の単語または音を話す、および/または発音するように、利用者に求められる。例えば、サービスが、事前に予定された時刻に利用者に電話をかけて会話をサンプリングすることができる。これに代えて、被検者が、空いた時間にデジタル音声サンプル3を記録し、この音声サンプルを(例えばサーバーにアップロードすることによって)サービスに送信することができる。
いくつかの実施形態においては、可能性のあるリスクが検出された後、事前に予定された動作を、モニタリング設備から、および/またはモニタリングアプリケーションから、および/または医療支援サービス(medical assistance)から、および/またはソフトウェアアプリケーションから、初期化することができる。いくつかの実施形態においては、事前に予定された動作は、定期的なスクリーニングを含む。定期的なスクリーニングの潜在的な利点は、被検者の状態が継続的にモニタリングされることである。いくつかの実施形態においては、事前に予定された動作は、オプションとして通知を送ることによって、人に特定の発話を発音させることを含む。いくつかの実施形態においては、通知は、口頭および/またはテキストのアラート、および/またはビープ音、および/またはスマートフォンへのテキストメッセージ、および/または音声命令、を含む。いくつかの実施形態においては、利用者が、システムのマニュアル起動を使用して、自分の血縁者のために検査を開始する。いくつかの実施形態においては、オプションとして利用者が合意した時点で、マイクロフォンを自動的に起動するように装置をプログラムすることができる。いくつかの実施形態においては、離れた場所から(例えば健康管理サービスを通じて)装置を起動することができる。
いくつかの実施形態においては、デジタルサンプル3は、音声分析器106における分析に送り込まれる前に分類される。例えば、交換機/サーバーアプリケーション(大規模な集中管理型スクリーニング)の場合、選択された電話のみを分析することができる。オプションとして、この選択は、サンプルの特徴(例えば、電話の持続時間、および/または雑音レベル、および/または特定の発話者の有声セグメントの持続時間、および/または有声セグメントの持続時間、および/または発話者の識別データ、および/または診断の感度もしくは特異度またはその両方に影響しうる任意の他の基準など)に基づいて行われる。
いくつかの実施形態においては、音声分析器106は、発話者の識別を実行する。発話者の識別は、いくつかの理由で(分析結果を誰に送るべきかを認識するなど)、重要でありうる。これに代えて、またはこれに加えて、発話者の識別を、発話者の個人情報に関連付けることができ、発話者の個人情報は、オプションとして臨床診断を支援するために使用される。個人情報は、例えば、体重、および/または喫煙習慣、および/または以前に既知の病態、および/または事前の医療診断、を含むことができる。いくつかの実施形態においては、利用者の識別は、複数の発話者から、および/または、参加者の間で音声サンプルが交互に現れる会話から、1人の発話者を識別するのに役立つ。オプションとして、音声分析器106は、識別に続いて、別の発話者を有する音声セグメントから被検者の音声セグメントを分離する。
いくつかの実施形態においては、識別された発話者のみが分析される。オプションとして、発話者は、要求されたときに分析される。これに代えて、発話者は、サービスの支払いが受領された時点で分析される。これに代えて、発話者がグループのメンバー(例えば保険または健康維持機構のメンバーである)として識別される場合に、発話者が分析される。
オプションとして、被検者の声は、事前に識別された発話者を有するデータベースを使用して、識別される。いくつかの実施形態においては、例えば、何人かの利用者が同じ分析装置を使用する場合、声紋を作成することによって、および/または、発話に関連する別の詳細情報もしくは別のパラメータ(例えば発信者識別番号など)またはその両方を使用することによって、利用者の間の分離を得ることができる。これに代えて、またはこれに加えて、所定の単語または単語のリストを発音することによって、利用者が識別される。
いくつかの実施形態においては、いくつかのアプリケーション(通信ネットワークにおけるモニタリングなど)では、発話者の識別情報は不明であるがシステムが心臓の病態の確率を検出した場合、オプションとして分析結果がシステムのデータベースに格納される。このような場合、いくつかの実施形態においては、代替の分類(例えば、電話番号、および/または発信者識別番号、および/または国際移動体装置識別番号など)を使用して、結果が格納される。例えば、コールセンターにおける集団スクリーニング時、診断結果がシステムのデータベースに格納されるとき、発話者が登録されている場合には発話者の個人ファイルに従って、発話者が既知ではない場合には発信者情報に基づいて、診断結果が保存される。
いくつかの実施形態においては、発話者の心臓の状態を推定する以外の将来的な使用のために、デジタル音声サンプル3が格納される。オプションとして、音声サンプル、および/または分析された音声サンプル、および/または診断結果を含むデータベースが、別の音声サンプルの今後の分析に使用される。これに代えて、またはこれに加えて、このようなデータベースは、例えばモニタリングされた病態に関する統計的情報を得る目的で、疫学調査に使用される。
いくつかの実施形態においては、音声サンプル3を処理するステップは、音声分析器106によって実行され、音声分析器106は、例えば、スマートフォンの電気回路、および/または遠隔のサーバー(クラウドコンピューティング)、および/または独立した装置(PCおよび/またはタブレットなど)において実行されている電気回路、および/またはコールセンターにおけるサーバー(例えば、ある人が通話を開始することができ、その人の声が記録および分析される)、を含む。
いくつかの実施形態においては、音声分析器106は、音声入力部104と同じ装置内に実施されている。例えば、スマートフォンは、アナログ音声サンプル1をサンプリングしてそれをデジタル音声サンプル3に変換するマイクロフォン104を有することができ、さらに、音声を分析し、オプションとして音声の特徴5aおよび/または心臓の特徴5bを導く音声分析器106(信号処理を実行する回路および/またはソフトウェアなど)を有することができる。
これに代えて、またはこれに加えて、音声分析器106は、音声入力部104とは異なる装置内である、および/または、地理的に異なる場所にある。例えば、スマートフォンは、音声入力部104(マイクロフォンなど)を有することができるが、音声分析器106の電気回路を有する遠隔のサーバーにデジタル音声サンプル3を送信することができる。
これに代えて、またはこれに加えて、音声入力部104および音声分析器106の両方が、音声出力102から離れている。例えば、被検者がコールセンターに電話をかけ、被検者の声が、通信ネットワーク内に存在するサーバーに記録され、さらにそのサーバーによって分析されるときである。
いくつかの実施形態においては、音声分析器106は、デジタル音声サンプル3から音声特徴5aを抽出する。音声特徴5aは、例えば、重み付けられたスペクトル、および/または線形予測係数(LPC)、および/またはLPCに基づくスペクトル、および/またはメル周波数ケプストラム係数(MFCC)、および/または基本周波数(ピッチ)、および/またはエネルギー、および/またはゼロ交差、および/またはフォルマント、および/または声門パルス(声帯パルス)、および/またはジッター、および/またはシマー、および/またはフラクタル次元、および/またはコヒーレンス、および/またはウェーブレット解析、または発話サンプルから関連情報(エネルギー、および/または平均電力、および/またはエントロピー、および/またはその他など)を抽出する任意の他の特徴、を含むことができる。
これに代えて、またはこれに加えて、音声分析器106は、デジタル音声サンプル3から、および/または音声特徴5aから、心臓の特徴5bを抽出する。いくつかの実施形態においては、心臓の特徴5bは、パルスデータ(例えばRR間隔)を含む。これに代えて、またはこれに加えて、心臓の特徴は、心拍数および/または心拍数の変動、を含む。
いくつかの実施形態においては、心臓状態分類器108は、音声特徴5aおよび/または心臓の特徴5bを処理し、心臓の状態7を推定する。いくつかの実施形態においては、心臓状態分類器108は、被検者が不整脈を有する確率を求める。これに代えて、またはこれに加えて、心臓状態分類器108は、被検者が心房細動を有する確率を求める。これに代えて、またはこれに加えて、別の心臓の状態(例えば、急性冠動脈症候群、および/または塞栓性脳卒中の警告兆候、および/または心筋梗塞、および/または突然の心停止、および/または心室粗動、および/または心房粗動、および/または心房性頻拍、および/または心室性頻拍、および/または徐脈、および/または呼吸困難、および/または胸痛)が判定される。
オプションとして、推定された心臓の状態7、および/または音声特徴5a、および/または心臓の特徴5bが、心臓状態出力部110に提示される。いくつかの実施形態においては、心臓状態出力部110は、画面(例えばモニターおよび/または装置のディスプレイ)を含む。いくつかの実施形態においては、心臓状態出力110は、発話者および/または発話者の世話をする人への通知、を含む。通知の例としては、テキストメッセージ、および/または電子メール、および/または通話、および/またはメッセージングアプリケーション(WhatsApp、フェイスブック、および利用者によって選択される他の手段など)が挙げられる。これに代えて、またはこれに加えて、通知は、グラフィカルな表現でもよい。これに代えて、またはこれに加えて、通知は、視覚的な通知、および/または音声通知の形とすることができる。例えば、車両に埋め込まれており、本発明のいくつかの実施形態に従って発話者の分析を提供するアプリケーションを有するスピーカーフォンを、車両の通知設備に接続することができる(点滅光、または車両のスピーカーシステムを通じての音声通知など)。
例示的なデータの流れ
次に図2を参照し、図2は、本発明のいくつかの実施形態による、オプションの音声分析ステーションの間のデータ伝送のいくつかのオプションのデータフローマップを示している。
いくつかの実施形態においては、少なくとも1人の被検者220が、フィーチャーフォン240として例示されている音声入力部(例:ボイスレコーダーおよび/またはフィーチャーフォンなど、マイクロフォンを有する装置)の範囲内で、アナログ音声サンプル1を出力する。これに代えて、またはこれに加えて、音声入力部は、タブレット260として例示されているスマートデバイス(例えば、パーソナルコンピュータ、および/またはスマートフォン、および/または任意の他の電話装置(移動電話および/またはスピーカーフォンなど)、および/またはタブレット)内のモジュールとすることができる。いくつかの実施形態においては、240および/または260における音声入力部は、アナログ音声サンプル1をデジタル音声サンプル3に変換する。
いくつかの実施形態においては、音声入力部は、オプションとしてウェアラブルマイクロフォン(図示していない)であり、オプションとして、分析用のコンピューティングユニットに、または、分析用のコンピューティングユニットに送信するための送信ユニットに、有線または無線によって接続されている。
いくつかの実施形態においては、デジタルサンプル3は分析器(サーバー262など)に送信され、サーバー262は、遠隔のサーバーまたはクラウドサーバーとすることができる。これに代えて、またはこれに加えて、デジタルサンプル3はコールセンターに送信され、オプションとしてコールセンターにおいて記録され、次いで分析される。これに代えて、またはこれに加えて、例えば、コールセンター290に導かれる前に電話交換機265を最初に通過するようにデジタルサンプル3を設定することによって、デジタルサンプル3が電話交換機265に送信される。例えば被検者は、290に位置する、行政機関または民間の顧客サービスに電話をかけて話すことができ、ただし被検者の声は、同意した時点で交換機265を通じて伝送され、心臓の状態を推定するために分析される。いくつかの実施形態においては、コールセンターは、分析されることを望む人のためのサービスを備えている。これに代えて、またはこれに加えて、コールセンターは、心臓の状態を診断する以外の目的のサービスを備えている。例えば、行政機関のサービスのためのコールセンターは、診断目的の副サービス用に音声サンプリングを含むことができる。通信サービスの別の例としては、健康通信サービス、および/または緊急コールセンター、および/または医療サービス、および/または保健サービス、および/または個人用仮想アシスタント、が挙げられる。
これに代えて、またはこれに加えて、スマートデバイス260は、デジタルサンプル3を分析し、かつオプションとして、例えば心臓および/または音声の特徴5、および/または推定された心臓の状態7、の形における出力を送信するための命令、をさらに有する。いくつかの実施形態においては、出力は、世話をする人280に直接送信される。これに代えて、またはこれに加えて、出力は、さらなる分析および/または格納のために、サーバー262に送信される。これに代えて、またはこれに加えて、出力は、交換機265を通過して、または通過せずに、コールセンター290に送信され、オプションとしてコールセンター290から、世話をする人280に送信される。いくつかの実施形態においては、出力は、分析された被検者220に提供される。
いくつかの実施形態においては、電気回路は、心房細動の現在の状態に関して利用者に報告するように構成されている。このような電気回路は、スマートフォン240および/またはクラウドサーバー262(プライベートおよび/またはパブリック)に実施することができる。既存の設備を利用する潜在的な利点は、例えば記録および/または分析および/または送信を行う外部の無線装置とは対照的に、検出および/またはデータ伝送のいずれにおいても追加の放射が存在しないことである。
いくつかの実施形態においては、ローカルな評価(local assessment)が提供される。ローカルな評価は、例えば、同じ装置が音声のサンプリングとその分析の両方を行うときに(スマートフォンが音声のサンプリングとその分析の両方を行って、特徴および/または心臓の状態を抽出するなど)、提供される。オプションとして、ローカルな評価は、手動操作によって提供される。これに代えて、またはこれに加えて、ローカルな評価は、例えば被検者が自分の電話を使用するたびに動作することによって、および/または、装置によって音声を定期的にサンプリングすることによって、自動的に動作する。
これに代えて、またはこれに加えて、遠隔評価が提供される。遠隔評価は、例えば、音声のサンプリングが1つの地理的場所で行われる一方で、音声サンプルの分析の少なくとも一部分が異なる地理的場所で行われるときに、提供される。例えば、被検者を電話によってサンプリングすることができるが、サンプリングされた音声を、遠隔のサーバーによって分析されるように送信することができる(クラウド、携帯電話回線、固定電話回線)。いくつかの実施形態においては、通信ネットワークの構成要素(基地局(BTS)、および/または大容量記憶制御機構(MSC)またはサーバー/クラウド、および/または交換機など)が、分析回路を備えている。いくつかの実施形態においては、分析回路が、VoIPサーバー(Skype、WhatsApp、Viber、会議通話、ビデオメッセージ、ビデオ記録など)に設けられている。暗号化通信の場合、いくつかの実施形態においては、心臓の情報を含む関連する音声特徴が、暗号化の前に装置において計算され、オプションとしてローカルに分析される、あるいはこれに代えて、またはこれに加えて、サーバーにおける遠隔分析に送られる。
いくつかの実施形態においては、被検者をその声を通じて識別するために、発話者の識別が使用される。例えば、ある人がサービスを受けるためにコールセンター290に電話をかけるとき、音声分析用に適合化されている電気回路を、被検者を識別するようにさらに構成することができ、例えば、オプションとして被検者を特定して、検出された状態を知らせる目的で、利用者の電話番号を使用することもできる。いくつかの実施形態においては、会話および/または会議通話をサンプリングするときなどに、複数の同時にサンプリングされる音声から、少なくとも1人の被検者、または複数の被検者を検出することができる。
例示的な高レベルの概要
次に図3を参照し、図3は、本発明のいくつかの実施形態による、音声サンプルに基づく心臓の状態の推定の、一般的な高レベルの流れ図を示している。
いくつかの実施形態においては、分析は302において開始され、例えば図5Aに示したように、オプションとして断片化および/または分類された音声サンプルを取得する。いくつかの実施形態においては、304において、オプションとして音声サンプルの各断片ごとの音声特徴ベクトルの形で、音声特徴を抽出する。
いくつかの実施形態においては、306において、音声サンプルおよび/または音声特徴を使用して、音声特徴の分布を計算する、および/または、任意の数学的演算を計算して、関連する情報を明らかにする。例えば、音声特徴の複数の値のばらつきなど、分布を計算する。音声特徴は、心拍のタイミングおよびパワー/強さによる影響を受ける、発声器官への血流によって影響されると推測される。したがって、(不整脈において見られるような)不規則な心拍は、音声特徴への不規則な影響につながり、このことは音声特徴値の大きな変動性に表れると推測される。音声特徴の分布は、図6A,6B、図7A,7B、図8A,8B、図9A,9B、および図10A〜図10Dにさらに詳述、例示されている。
これに代えて、またはこれに加えて、308において、音声サンプルおよび/または音声特徴を使用して、心拍の発生の間の時間間隔を計算する。
いくつかの実施形態においては、音声特徴値の一時的な変化を、心拍の指標として使用する。時間スケール上の一時的な変化を特定することにより、心拍の位置の近似値が得られる。
いくつかの実施形態においては、音声サンプルを使用して、パルスの発生を識別し、連続する発生の間の時間間隔を計算する。いくつかの実施形態においては、複数の時間間隔をシーケンスとしてまとめる。いくつかの実施形態においては、心臓の状態は、このシーケンスに基づいて推定される。パルスの抽出は、図11A〜図11D、図12A,12B、および図13にさらに詳述、例示されている。
これに代えて、またはこれに加えて、310において、音声サンプルおよび/または音声特徴を使用して、心拍数付近の、音声特徴の周期性を計算する。例えば、音声特徴に、心拍数の値における自己相関の計算を行うことができる。音声特徴へのパルスの影響は、心拍が健康な状態にあるときには周期的であるが、心拍が不整脈であるときには不規則であると推測される。周期性の計算(自己相関など)によって、音声特徴がどれくらい規則的に影響されているかを明らかにすることができる。さらなる詳細および例は、図14A,14B、図15A〜図15Dにおいて説明する。
いくつかの実施形態においては、362において、分析されたパターンの結果を統合して、心臓の状態の総合的な確率を提供し、364において、心臓の状態の評価に達する。
いくつかの実施形態においては、分析モジュール(362)は、本明細書にリストした3つの方法それぞれにおいて、発話の分析から得られた値を継続的に格納する。オプションとして、システムは、これらの値を学習する。これらの値は、モニタリングされた特定の人の健康な状態を定義する「正常値」として定義される。いくつかの実施形態においては、システムは、特定の人の進行中のモニタリング時に、格納されている(正常)値を現在の値と比較して、相対的な変化レベルを測定する。いくつかの実施形態においては、「正常値」と比較された値の変化量は、病態を有する確率に比例する。
オプションとして、370では、心臓の状態の評価において、検査されている被検者の病歴データおよび/または個人歴データをさらに考慮に入れる。これに代えて、またはこれに加えて、380において、バイオマーカー検査を考慮に入れる。
バイオマーカーの例としては、体重、性別、職業、過去に診断された病気および心房細動の発症、喫煙習慣、CHADS2(うっ血心不全の既往歴)、高血圧の既往歴、年齢、糖尿病の既往歴、脳卒中、およびTIA(一過性脳虚血発作)の症状、の任意の1つまたは組合せ、が挙げられる。
いくつかの実施形態においては、心臓の状態の評価が、出力部390(例えばディスプレイ)を通じて利用者に提示される。
オプションとして、395において、得られたデータを機械学習に使用する。例えば、音声サンプル、処理された音声データ、音声特徴、病歴データ、バイオマーカーデータ、および/または心臓の状態を使用して、将来のプロセスにおいてさらに正確に診断するための規則および統計学的な特徴を生成し、また、362において行われる統合を支援することができる。
いくつかの実施形態においては、機械学習は訓練段階を含む。訓練段階においては、例えば、音声サンプル、および/または、音声特徴および/または心臓の特徴を、健康な被検者と、心臓の病態を有することが既知である被検者とから取得し、基準として使用することができる。例えば訓練段階では、このデータに基づいて、健康な発話と病的な発話とを分離するための最も適切なアルゴリズムが得られる。運用段階時には、その機械学習モデルが、利用者の声(および/または特徴)から病態の確率を計算し、決定を支援する。
これに加えて、またはオプションとして、次いで音声サンプルの選択されたフレームにおいて音声特徴を計算することができ、各特徴についてスペクトル表現を計算することができる。各母集団のスペクトル分析に基づいて、健康なプロファイルを特徴付けるための訓練統計モデルを形成することができ、さらに、健康ではないプロファイルを特徴付けるための訓練統計モデルを形成することができる。
オプションとして、これら2つの訓練統計モデルを区別するために分類器が提供される。これに代えて、またはこれに加えて、確率を比較し、それに応じて決定を行う。
いくつかの実施形態においては、図3の流れ図に開示されているプロセスを使用して、さまざまな心臓の状態(不整脈であるか、または別の疾患であるか)を識別することができる。例えば、心房粗動、および/または心室頻拍、および/または心室性期外収縮(PVC)、および/または異常心律動、および/または異所性拍動の診断は、前に説明した評価に類似する評価に基づき、オプションとして、362における統合プロセスおよび/または364における評価を、判定する特定の異常な心律動に調整する。これに代えて、またはこれに加えて、306において特徴の分布、および/または308においてパルスの間隔、および/または310において周期性を計算するときに使用されるしきい値および/または基準を調整する。
異常な心律動(心室頻拍または除脈など)を検出するときには、いくつかの実施形態においては、プロセスは上述したプロセスに類似するが、いくつかの変更を伴う。例えば、308において、いくつかの実施形態においては、極めて高い、または極めて低い心拍間隔を探すことによる(例えば、200BPMよりも高い(頻拍)、または60BPMよりも低い(除脈))。いくつかの実施形態においては、306において、分布を特徴付ける別のパラメータを計算する。いくつかの実施形態においては、380において、重要な入力は、モニタリングされる人の年齢(60歳よりも上)である。
いくつかの実施形態においては、心房粗動、および/またはPVC、および/または任意の別のタイプの不整脈を検出する場合には、図3に示したプロセスに従うが、異なるしきい値およびパラメータ値を使用する。
いくつかの実施形態においては、呼吸困難および/または胸痛を検出する場合には、同じプロセスを使用するが、異なる音声特徴、および/またはしきい値、および/またはパラメータ値、を使用する。
例えば、上記の病態すべてにおいて、検出は以下のステップに基づくことができる。
(1)心拍のタイミング(RR間隔)を推定して心臓のリズムを検出し、それを、病的/健康であることが既知であるリズムと比較するステップ。
(2)発話の特徴の周期性を計算し(自己相関および/またはスペクトル領域)、それを、病的/健康であることが既知である周期性と比較するステップ。
(3)機械学習方式を使用して、健康な発話者からの音声特徴からの統計モデル、および/または病態を有する発話者からの音声特徴からの統計モデル、を訓練するステップ。
いくつかの実施形態においては、このプロセスを使用して、健康な心臓の状態を識別する(例えば洞律動を識別することによる)。
いくつかの実施形態においては、既知ではない発話者の場合、音響特徴を、病的なモデルおよび/または健康なモデル(訓練段階で計算されたモデルなど)のそれぞれと(例えば確率の計算によって)比較し、最も高い確率のモデルを結果とすることによって、病態が検出される。
音声サンプリングおよび/または音声分析の例示的な装置
次に図4Aおよび図4Bを参照し、これらの図は、本発明のいくつかの実施形態による、例示的なプラットフォーム(図4Aにおける携帯電話、図4Bにおける車両など)における音声サンプリングおよび/または音声分析を概略的に示している。オプションとして、本システムは、任意の音声プラットフォームおよび/または音声支援プラットフォーム(voice assisting platforms)に実施することができる。
いくつかの実施形態においては、サンプリングおよび/または分析の電気回路を埋め込むために車両が使用される。例えば、音声入力部および/または分析器を、カーマルチメディアシステムおよび/またはスピーカーフォンシステムに埋め込むことができる。例えば、被検者が車内の電話/スピーカーに向かって話しているとき、および/または音声命令を発しているとき、および/または車内で自発的に話しているときに、サンプリングすることによる。
いくつかの実施形態においては、音声入力部422(例えばマイクロフォン)を使用して音声サンプルをサンプリングするために、電話および/またはスマートフォンが使用される。オプションとして、音声サンプルの分析も、そのような分析のための命令を有する電気回路によって、電話において行われる。いくつかの実施形態においては、図5A〜図5Cにおいてさらに説明するように、音声プロセッサ420を使用して音声サンプルを処理する。いくつかの実施形態においては、音声プロセッサ420は、音声フィルタリングユニット424において、例えば、フィルタリングする、および/または分類する、および/または断片に断片化することによって、音声サンプルから不要成分を取り除く。例えば、フィルタリングユニット424は、雑音を除去し、サンプリングされた音声の信号から「不要成分を取り除く」ことができる。いくつかの実施形態においては、フィルタリングされた音声、またはフィルタリングされていない音声に対して、さらに分類を行う。オプションとして、音声サンプルは、発話部分および/または非発話部分および/または沈黙部分および/または遷移部分に分類される。いくつかの実施形態においては、フィルタリングユニット424は、オプションとして音の基準を使用することによって、音声ストリームから関連する発話データの位置を検出してマークするために使用される。音の基準は、例えば、エネルギー、および/またはゼロ交差、および/またはフォルマント、および/またはピッチとすることができる。例えば有声部分には、自己相関分析によってピッチ周波数における顕著なピークが示され、オプションとしてこのピークを使用して有声/無声を分類する。
いくつかの実施形態においては、特徴抽出器426は、音声サンプルからデータ(例えば音声特徴および/または音響ベクトルおよび/または心臓の特徴)を抽出する。いくつかの実施形態においては、フレームごとに音声特徴の少なくとも1つの値が計算される。音声特徴は、例えば、重み付けられたスペクトル、および/または線形予測係数(LPC)および/またはLPCに基づくスペクトル、および/またはメル周波数ケプストラム係数(MFCC)、および/または基本周波数(ピッチ)、および/またはエネルギー、および/またはゼロ交差、および/またはフォルマント、および/または声門パルス(声帯パルス)、および/またはジッター、および/またはシマー、および/またはフラクタル次元、および/またはコヒーレンス、および/またはウェーブレット解析、または発話サンプルから関連情報を抽出する任意の他の特徴、を含むことができる。これに代えて、またはこれに加えて、図5Aにさらに実例を示したように、これらの音声特徴のいくつかまたはすべての組合せを使用して、複数の特徴を含む1つの高次元ベクトル(オプションとして各パラメータの統計的重みを含む)を形成する。
いくつかの実施形態においては、特徴プロセッサ440において、音声特徴および/または音響ベクトルおよび/または心臓の特徴が分析される。いくつかの実施形態においては、パルス間隔計算器442が、心拍の間の時間間隔を計算するために使用される。これに代えて、またはこれに加えて、音声特徴分布計算器444が、少なくとも1種類の音声特徴の分布および/または変動性を特徴付けるために使用される。これに代えて、またはこれに加えて、音声特徴周期性計算器446が、少なくとも1種類の音声特徴の時間の経過に伴う変化の規則性を識別するために使用される。
いくつかの実施形態においては、さまざまな統計的手法を使用して心臓の病態の確率を推定するために、特徴プロセッサ440の結果が心臓状態分類器460によって分析される。いくつかの実施形態においては、確率統合モジュール462が、特徴プロセッサ440のさまざまな結果(計算器442,444,446の結果の任意の組合せとすることができる)を重み付けるために使用される。いくつかの実施形態においては、心臓状態評価モジュール464が、確率統合モジュール462の重み付けの結果を使用して、心臓の状態の推定を導く。いくつかの実施形態においては、確率統合モジュール462および/または心臓状態評価モジュール464は、機械学習モジュール466とデータを交換する、機械学習モジュール466に送信する、および/または機械学習モジュール466から受信する。
オプションとして、図4Bに例示したように、心臓の状態を判定するシステム400は、被検者450を収容する車室(例えば車両402など)に埋め込まれている。いくつかの実施形態においては、システム400は、カーマルチメディアシステムおよび/または任意の別の計算ハードウェアに組み込まれている。いくつかの実施形態においては、システム400は、被検者450からの音声サンプル420を入力するように構成されている。いくつかの実施形態においては、システム400は、心臓の病態の分析の少なくとも一部を実行する電気回路を備えている。これに代えて、またはこれに加えて、音声サンプル、および/または、少なくとも部分的に分析された音声サンプルが、接続されているカーマルチメディアシステムを通じて、さらなる分析用のサーバーに送信される。いくつかの実施形態においては、結果が、被検者450に(例えばスマートフォンおよび/または電子メールを通じて)直接送られる。これに代えて、またはこれに加えて、出力が、自動車のインタフェース(例えばマルチメディアシステム、および/またはスピーカー、および/またはダッシュボードインタフェース(例えば警告灯の形のもの)など)を通じて、利用者に提示される。これに代えて、またはこれに加えて、結果は、世話をする人に送られる。
例示的な音声サンプル処理
次に図5Aを参照し、図5Aは、本発明のいくつかの実施形態による、例示的な音声処理を示している。いくつかの実施形態においては、得られた音声サンプルを、心臓の特徴および/または音声特徴の情報を有する可能性のあるフレームに分割し、そのような情報を提供する可能性が低いフレームを削除することは、有利であり得る。
いくつかの実施形態においては、502において、例えば雑音および/または歪みを除去するために、音声サンプルをフィルタリングする。オプションとして、音声のフィルタリングは、音声削減手法および/または能動型雑音消去手法を含む。例えば背景雑音および/または音声歪みを減衰させることによるフィルタリングの潜在的な利点は、後からの処理の効率が高まる可能性があることである。いくつかの実施形態においては、フィルタリングは、能動型雑音消去(発話から雑音が差し引かれる)によって行われる。これに代えて、またはこれに加えて、フィルタリングは、時間領域または周波数領域における雑音フィルタリングによって行われる。
いくつかの実施形態においては、504において、音声サンプルを分類する。心臓の鼓動の後の血流によって、発話信号の変調がもたらされると推測される。いくつかの実施形態においては、発話信号から心臓の情報および/または音響情報を抽出するために、オプションとして発話信号が4つの種類、すなわち、(i)沈黙/背景雑音セグメント(一般には関連情報を有さない)、(ii)無声セグメント(一般には少ない情報を有する)、(iii)有声セグメント(関連情報を有すると推測される)、(iv)発話のうち、1つの音から別の音の間で発声器官がその構造(例:口腔の向き、および/または舌の位置、および/または唇の位置、および/または声帯の形状)を変化させる部分として定義される遷移部分、に分類される。オプションとして、分類の後、非発話(および/または雑音)セグメントが削除される。いくつかの実施形態においては、分類は、特定の母音(例えば、/ah/母音のみ、または/eh/母音のみ、または/oh/母音のみ、または/uh/母音のみ、または/eeh/母音のみ)を含める、または除外されるように、有声セグメントにおいて行われる。
いくつかの実施形態においては、506において、発話サンプルを、(例えば約0.1msec〜約400msecの長さを有する){m}個のフレームに分割する。これに代えて、またはこれに加えて、フレームは、約20msec〜約40msecの長さを有する。オプションとして、フレームは、重なっている(例えば、10%、および/または20%、および/または30%、および/または40%、および/または50%、および/または60%の重なり、または1%〜99%の範囲内の重なり)。
いくつかの実施形態においては、508において、各フレーム{m}において、{j}個の音声特徴を計算し、したがって例えば以下である。
式中、
(m):フレーム番号
(t):サンプル時刻インデックス(t=1/Fs、Fsは通常では6KHz〜100KHzの間のサンプリング周波数)
(Ts):フレームのステップ(Ts=Twならば重なりがなく、Ts=0.5*Twは50%の重なり)
(Tw):フレームのサイズ(持続時間)
(Speech):発話のサンプル
F{}は、発話サンプル=音声特徴(発話の情報の代替表現である)の関数である。例えば、スペクトル、および/またはMFCC、および/またはLPC、および/または自己相関、および/またはウェーブレットである。
いくつかの実施形態においては、510において、各特徴の時間導関数(任意の次数)も計算され、例えば以下である。
いくつかの実施形態においては、発話信号に沿ったさまざまな点の間で、特徴の値の差が計算される。本発明を制限することのない一例として、心臓の鼓動によって、特徴の値が、あるパターンで変化する可能性があり、このパターンを使用してRRパルスを特定することができる。
いくつかの実施形態においては、本発明を制限することのない一例として、心臓の鼓動によって、ピッチ周波数およびフォルマント周波数におけるスペクトルのクロスコヒーレンスが変化する可能性があり、したがってコヒーレンスが最小である発話の2つの部分の間の時間差を使用して、RR間隔を推定することができる。
いくつかの実施形態においては、発話全体において、いくつかの特徴が平均される。
いくつかの実施形態においては、発話全体にわたり、いくつかの特徴のいくつかの統計値が計算される。オプションとして、いくつかの音声特徴用には、無声部分が使用される。これに代えて、またはこれに加えて、いくつかの音声特徴用には、(例えばフォルマントおよび/またはピッチなどの特徴を選ぶことによって)有声部分のみが使用される。いくつかの実施形態においては、連続するセグメントの間の小さいギャップ(例:BPM長)の約20%未満、および/またはBPM長の約15%未満、および/またはBPM長の約10%未満、および/またはBPM長の約5%未満)が無視される(例えば特徴のシーケンスから除外される)。小さいギャップは重要ではない可能性があり、なぜなら血圧に対する心拍の影響はギャップよりも長いと推測されるためである。これに代えて、またはこれに加えて、セグメントの間のギャップが再現される、および/または外挿され、例えば、セグメントの端部における傾斜と、次のセグメントにおける相補的な傾斜を識別するときに、音声特徴および/または心臓の特徴の発生を外挿することができる。
オプションとして、512において、例えば図5Bおよび図5Cに示したように音声特徴を正規化する。正規化の潜在的な利点は、より少ない情報を有する可能性のあるフレーム(遷移フレームなど)の分析を最小にすることである。いくつかの実施形態においては、514において、所定の規則に従ってフレームを削除し、この規則は、オプションとして、フレームが心臓の情報を示す可能性に関連する。
いくつかの実施形態においては、516において、計算された音声特徴を組み合わせて、各フレームを表す音響ベクトルにする。オプションとして、音響ベクトルは、1つのベクトルに組み合わせされる、いくつかの音声特徴(MFCC、LPC、ウェーブレット、ピッチなどであり、総称して音響パラメータと称される)、および/または音声特徴の統計的情報および/または導関数(以下の等式では「DIFF」と表してある)を含み、例えば以下である。
この音響ベクトルは、一連の音響パラメータおよびそれらの導関数(一次導関数の場合はDiff1、二次導関数の場合はDiff2と表されている)を含む。
本発明を制限することのない一例として、フレーム「m」の音響ベクトルは、例えば以下とすることができる。
オプションとして、フレームごとの音声特徴ベクトルに、続く分析を行う(例えば心拍数の情報を導く)。これに代えて、またはこれに加えて、続く分析は、分布の計算および/または周期性の計算を含む。これに代えて、またはこれに加えて、続く分析には、音声特徴または音響ベクトルではなく、(オプションとしてフィルタリングおよび/または分類の後の)音声サンプルが使用される。
次に図5Bを参照し、図5Bは、本発明のいくつかの実施形態による、音声サンプルの正規化を例示している。音響ベクトルは、心臓の状態に関する情報と、発話の音声学的情報を含むため、心臓の情報を強調する目的で、発話の音声学的情報を除去する(例:正規化する)ことは有利であり得る。図5Bおよび図5Cは、(音声学的情報に起因する)発話の「自然な」変化を正規化する方法を例示している。
いくつかの実施形態においては、正規化のアルゴリズムは、例えば以下に説明するように、多項式回帰曲線フィッティング法(polynomial regression curve fitting method)を使用して、発話の「自然な」変化を推定する。
いくつかの実施形態においては、音声特徴ベクトルが得られた時点で、542において、音響ベクトルの係数を導く。いくつかの実施形態においては、544において、係数に対して多項式近似を行う。多項式関数は、特徴の時間変動(すなわち時間の関数としてのパラメータ)を推定する。多項式による変動関数の表現は、心拍の影響から生じる短い変化ではなく「自然な」長い変化のみを考慮する「滑らかな」関数である。
いくつかの実施形態においては、546において、傾斜変化を計算する。オプションとして、548において、(フレームごとの)特徴ベクトルに、所定のしきい値または範囲に関連して、それらの傾斜の値および位置に基づいて帯域通過フィルタをかける。いくつかの実施形態においては、多項式の推定は、発話の「自然な」変動(すなわち発声に起因する発話の変化)を反映し、オプションとして音声特徴から差し引かれる。例えば以下のとおりである。
いま、x(i)は、時刻t(i)(i=1...N)においてサンプリングされる、発話のセグメントi=1...Nの音声特徴ベクトルの係数とする。
フレームのサンプリング間隔は、Ts(1/Frに等しい)である。
Frはフレームレートである。
推定にはM次の多項式が使用され、推定誤差ε(i)が生じる。
これは次のように書くことができる。
または、
多項式の係数は、最小二乗推定を使用して推定することができる。
多項式の推定は、発話の「自然な」変動を反映し、音声特徴から差し引かれる。
図5Cは、例示的な正規化プロセスを示しており、黒色の線は、時間の経過に伴う音声特徴値を示している(上のグラフ)。青色の(点)線は、3次多項式を使用した正規化−補正関数である。上のグラフは、元の信号および補正関数を示しており、下のグラフは、正規化後の信号を示している。いくつかの実施形態においては、発話のうち一定の音声期間の間の部分は、分析から除去される。
発話中、音声特徴は、音声情報および心臓の情報の両方を反映していると推測される。発話信号に対する心拍の影響は微細であると推測されるため、いくつかの実施形態においては、(オプションとして一定の音声期間の間、)音声特徴における「自然な」変化を低減するために正規化アルゴリズムが使用される。
このような音声正規化プロセスは、本発明のいくつかの実施形態においてオプションとして行われる。いくつかの実施形態においては、正規化アルゴリズムは、より多くのデータを分析において考慮する目的で、遷移部分を減らす、および/または、単一音声部分を「平滑化する」。図8Aおよび図8Bは、ピッチパラメータを使用する別の例を示している。
分布の分析の例示的な高レベルの概要
次に図6Aを参照し、図6Aは、本発明のいくつかの実施形態による、分布の分析によって音声サンプルから心臓の状態を推定することを示している一般的な高レベルの概要である。
いくつかの実施形態においては、602において、音声をサンプリングし、604において、分析して少なくとも1種類の音声特徴を抽出する。いくつかの実施形態においては、606において、音声特徴の時間の経過に伴う分布を計算し、608において、この分布を使用して心臓の状態を判定する。オプションとして、分布の計算は、抽出された音声特徴の変動性を計算するステップを含む。心拍によって影響される血流は音声に影響すると推測され、不整脈が起きているとき、この影響は不規則であると推測される。したがって、病的な心臓の状態においては、音声特徴値の分布が変化すると推測される。
例示的な分布の分析の例示的な詳細な流れ図
次に図6Bを参照し、図6Bは、本発明のいくつかの実施形態による、特徴の分布を分析する詳細なプロセスを示している流れ図を示しており、音声特徴の例としてピッチを示している。
いくつかの実施形態においては、選択される音声特徴はピッチである。ピッチを計算する潜在的な利点は、ピッチが、心臓の鼓動に起因する声帯ヒダの大きさの変化によって心拍を示す主たる音声特徴の1つであることである。ピッチパラメータは、一定の発話信号の間は、比較的小さい「自然な」変化のみを有すると推測される。本明細書において使用されているとき、自然な変化とは、例えば呼吸を含む、音声の遷移時に(例えば音の間および/または音素の間に)音声特徴に起こる変化を意味する。この自然な変化は、心臓の鼓動に関連せず、いくつかの実施形態においては、図5B〜図5Cに例示したように、正規化アルゴリズムによって最小にされる。音声の分析にピッチを使用することは、心臓以外に起因して変化しやすい他の音声特徴よりも有利であり得る。ピッチ特徴の他の潜在的な利点は、ピッチは一般に音声信号の時間の40%以上において見つかることと、自発的な発話のさまざまな音にわたり安定的な値を維持する可能性が高いことである。
いくつかの実施形態においては、612において、音声をサンプリングし、614において、有声セグメントを分類する。いくつかの実施形態においては、616において、分類された有声セグメントを連結して、連続的なデータを受信する。いくつかの実施形態においては、618において、連結された有声セグメントからピッチを抽出する。
オプションとして、ピッチの自然な変動(例:血流に起因するのではなく発声器官の動きおよび/または動作に起因する)を、例えば図5Bおよび図5Cに説明および図解したプロセスを使用して、除去する。いくつかの実施形態においては、セグメントを削除した後、622において、残っている有声セグメントを連結し、624において、オプションとして滑らかにする。いくつかの実施形態においては、滑らかにするステップは、異なるセグメントの間の融合点における遷移部を滑らかにするステップを含む。
いくつかの実施形態においては、626において、ピッチの分布を計算する。分布の計算は、例えば、ピッチの値の統計的ばらつき、および/または、音声特徴に対する数学的演算から得られる任意の他の統計的情報(例えば、標準偏差、および/または高次モーメント、および/または非対称偏差(skew deviation)、および/または平均など)を含む。
いくつかの実施形態においては、628において、分布の値を所定のしきい値と比較し、630において、健康な状態と判定する、または632において、病的な状態と判定する。例えば、値の高い分布は不規則な影響を示唆し、したがって、しきい値よりも高い分布値は、病的な状態とみなすことができる。いくつかの実施形態においては、分布の値は、分布の形状とすることができる。
例示的な単一発話者法
いくつかの実施形態においては、オプションとして、ある時刻における1人の患者の声と、別の時刻における同じ患者の声とを比較したときの変動を測定することによって、パルスのリズムの変動が検出される。
いくつかの実施形態においては、異なる時刻に、特に、患者の心臓が不整脈であるときの1つの時刻と、患者の心臓の鼓動が規則的である時刻とにおいて、同じ(1つまたは複数の)音声および/または同じ(1つまたは複数の)音素を発声するように患者に要求する。
オプションとして、音声信号の分析によって、心臓のリズムの変化が検出される。
いくつかの実施形態においては、分析は、さまざまな時刻において患者のトーン、および/または音素、および/または単語、および/または発話を記録し、オプションとして、その患者の同じトーン、および/または同じ音素、および/または同じ単語、および/または同じ発話の生の発声と比較することである。
いくつかの実施形態においては、オプションとして、慢性疾患(慢性心疾患など)を有する患者の同じ音素が、患者の心拍が規則的であるときに分析され、分析の音響特徴がオプションとして保存され、生の発声の音響特徴と、または別の時刻における同じ患者の別の記録と、比較される。
音響特徴は、オプションとして、以下の1つまたは複数を含む:
スペクトルに基づくパラメータ(エネルギーのスペクトル分布、ピーク、ピークのエネルギー、ピークの帯域幅、スペクトルの傾斜など);
メル周波数ケプストラム係数(MFCC);
LPC係数;
声門パルスパラメータ(声門パルスの立ち上がり時間、声門パルスの立ち下がり時間、声門パルスの開期間、声門パルスの閉期間、声門パルスの周波数、声門パルスのピークの位置、声門パルスのスペクトル、声門パルスの期間のジッター、声門パルスの振幅のジッター、その他);
(1つまたは複数の)ピッチパラメータ;
偏相関係数(略してPARCOR): これはパラメータ間の(ただし必ずしもすべてのパラメータの間ではない)相関の測度;
ウェーブレット解析パラメータ。
いくつかの実施形態においては、音響特徴を計算するステップは、以下の1つまたは複数を含む:
特徴空間の重心(オプションとしてK−MEANSクラスタリング分析を使用する);
特徴の変動のヒストグラムおよび/または確率密度関数(PDF:Probability Density Function)。いくつかの実施形態においては、発話に対して1つまたは複数の音響特徴が計算され、オプションとして、それらの音響特徴の分布(最小値および最大値、標準偏差、分布の形状など)が、発話における心拍数の病態の指標として使用される;
変調パラメータ: 発話の(1つまたは複数の)音響パラメータを計算した後、オプションとして、それら(1つまたは複数の)パラメータのスペクトルが、パラメトリック法および/またはノンパラメトリック法を使用して計算される。使用されるスペクトルからのパラメータは、以下の1つまたは複数である;
(1つまたは複数の)ピークの位置、(1つまたは複数の)ピークの帯域幅、ピークのエネルギー、(1つまたは複数の)スペクトル傾斜など;
サポートベクターマシン(SVM)を使用しての特徴空間の部分空間の計算;
機械学習手法からの他のクラスタリング法。
音響特徴の上記の計算では、オプションとして、健康な人の発話と、病的な心臓の状態を有する人の発話の、異なる特性の分布が生成される。
いくつかの実施形態においては、初期の学習/訓練段階において、オプションとして音響信号の統計モデル(オプションとして健康な規則的な心律動におけるRR間隔の長さの分布と、病的な心律動におけるRR間隔の長さの分布を含む)が計算され、音響特徴の1つまたは複数の統計的測度の健康な値と病的な値とを区別するために、しきい値が求められる。
いくつかの実施形態においては、統計的心臓状態分類器は、オプションとして、
心臓が健康である発話者と、心臓が健康ではない発話者の音声記録を収集するステップと、
これらの記録に対して、本明細書に説明されているように1つまたは複数の音響特徴を計算するステップと、
上述した手法および/または追加の機械学習手法を使用して、統計的分類器を訓練するステップと、
によって訓練される。
いくつかの実施形態においては、さまざまな人々(オプションとして、さらに多数の健康な発話者および/または多数の健康ではない発話者)の音声記録が収集される。
いくつかの実施形態においては、1人の人の音声記録が、例えばその人が健康であることが既知であるときに、収集される。
いくつかの実施形態においては、健康な発話における変化が検出されたとき、オプションとして、その人は健康ではない心臓の状態を有する可能性があると分類される。
いくつかの実施形態においては、オプションとして、1人の人の音声記録が、例えばその人が健康ではないことが既知である(オプションとして既知の心臓の状態を有する)ときにも、収集される。
いくつかの実施形態においては、発話が、(1つまたは複数の)健康ではない記録に類似していることが検出されたとき、オプションとして、その人は健康ではない心臓の状態を有する可能性があると分類される。
いくつかの実施形態においては、初期の学習/訓練段階において、オプションとして音響信号の統計モデル(オプションとして健康な規則的な心律動におけるRR間隔の長さの分布と、病的な心律動におけるRR間隔の長さの分布を含む)が計算され、音響特徴の1つまたは複数の統計的測度の健康な値と病的な値とを区別するために、しきい値が求められる。
次に図6Cを参照し、図6Cは、本発明のいくつかの実施形態による、心臓の状態を診断するための学習の方法の単純化された流れ図である。
図6Cは、以下のステップを含む方法を示している:
音声をサンプリングするステップ(640);
音声特徴を抽出するステップ(642);
オプションとして、いくつかの発話からの音声特徴を組み合わせるステップ(644);
クラスター分析を実行するステップ(646);
オプションとして、コードブックを生成するステップ(648)。
いくつかの実施形態においては、サンプリングは、オプションとして、6Hz〜100KHzを含む周波数の範囲内で音声をデジタル化することによって実行される。
いくつかの実施形態においては、音声のサンプリングは、オプションとして、心臓が健康である1人または複数の発話者によって、および/または、少なくとも(1人または複数の)発話者が病的ではない心臓のリズムを有する期間において、話されていることが既知である発話に対して、行われる。
いくつかの実施形態においては、音声のサンプリングは、オプションとして、病的な心臓のリズムを有する1人または複数の発話者によって話されていることが既知である(オプションとして病的な心臓のリズムを有する1人または複数の発話者の発話の例として認識される)発話、を含む。
いくつかの実施形態においては、いくつかの発話からの音声特徴をオプションとして組み合わせるステップは、オプションとして、(1人または複数の)健康な発話者の発話、および/または、(1人または複数の)発話者が病的ではない心臓のリズムを有するときの発話、に対して実行される。
いくつかの実施形態においては、いくつかの発話からの音声特徴をオプションとして組み合わせるステップは、オプションとして、(1人または複数の)健康な発話者の発話、および/または、(1人または複数の)発話者が病的ではない心臓のリズムを有するときの発話、に対して個別に実行され、かつ、病的な心臓のリズムを有する(1人または複数の)発話者の発話に対して個別に実行される。
いくつかの実施形態においては、クラスター分析は、オプションとして、(1人または複数の)健康な発話者の発話、および/または、(1人または複数の)発話者が病的ではない心臓のリズムを有するときの発話、に対して実行される。
いくつかの実施形態においては、クラスター分析は、オプションとして、(1人または複数の)健康な発話者の発話、および/または、(1人または複数の)発話者が病的ではない心臓のリズムを有するときの発話、に対して個別に実行され、かつ、病的な心臓のリズムを有する(1人または複数の)発話者の発話に対して個別に実行される。
いくつかの実施形態においては、コードブックは、オプションとして、(1人または複数の)健康な発話者のコードブックである、および/または、(1人または複数の)発話者が病的ではない心臓のリズムを有するときを表すコードブックである。
いくつかの実施形態においては、コードブックは、オプションとして、(1人または複数の)健康な発話者の発話と、病的な心臓のリズムを有する(1人または複数の)発話者の発話の分類、を含む。
いくつかの実施形態においては、クラスター分析は、オプションとして、K−means分析によって実行される。
次に図6Dを参照し、図6Dは、本発明のいくつかの実施形態による、心臓の状態を分類する方法の単純化された流れ図である。
図6Dは、以下のステップを含む方法を示している:
音声をサンプリングするステップ(650);
音声特徴を抽出するステップ(652);
オプションとして、音声特徴を選択するステップ(654);
1つまたは複数のコードブック値からの音声特徴の距離を計算するステップ(656);
距離をしきい値と比較するステップ(658);
心臓の状態を分類するステップ(659)。
いくつかの実施形態においては、サンプリングは、オプションとして、6Hz〜100KHzを含む周波数の範囲内で音声をデジタル化することによって実行される。
いくつかの実施形態においては、心臓の状態の分類は、オプションとして、健康な心臓の状態の1つまたは複数のコードブック値からの距離がしきい値よりも大きいことに基づいて、判定される。
いくつかの実施形態においては、心臓の状態の分類は、オプションとして、健康な心臓の状態の1つまたは複数のコードブック値からの距離がしきい値よりも小さいことに基づいて、判定される。
いくつかの実施形態においては、心臓の状態の分類は、オプションとして、病的な心臓の状態の1つまたは複数のコードブック値からの距離がしきい値よりも大きいことに基づいて、判定される。
いくつかの実施形態においては、心臓の状態の分類は、オプションとして、病的な心臓の状態の1つまたは複数のコードブック値からの距離がしきい値よりも小さいことに基づいて、判定される。
連結された有声セグメントの例
次に図7Aおよび図7Bを参照し、図7Aは、本発明のいくつかの実施形態による、音声セグメントを削除するように分類された音声サンプルの例を示しており、図7Bでは、残っているセグメントが連結されている。
この例示的な分類においては、図7Aの音声サンプルは、有声セグメント702および無声セグメント704に分類されている。図7Bに示したグラフは、残っている有声セグメント702が連結されていることを示している。なお、セグメントの連結は、本発明のいくつかの実施形態のみにおいて行われ、一般には、音声特徴の時系列がさほど重要ではなく、各点における挙動が分析されるとき、および/またはすべての点における挙動が全体として分析されるときに、行われることに留意されたい。
データの平滑化の例
次に図8Aおよび図8Bを参照し、これらの図は、平滑化された音声サンプルから抽出されるピッチデータの例を示しており、図8A,8Bは、声の「自然な」変動の平滑化を示している。赤色の線は、時間の経過に伴う音声特徴(この場合には時間の経過に伴うピッチ)を示しており、青色の線は、補正関数を示している。
図8Bは、正規化の後のピッチ信号を示している。一般には、音声特徴から「自然な」変化を除去した後には、心臓の情報がより高い精度で抽出される。
ピッチの抽出の例
次に図9Aおよび図9Bを参照し、これらの図は、本発明のいくつかの実施形態による、フィルタリングおよび平滑化された後に音声サンプルから抽出されるピッチデータの例を示しており、図9Aは、本発明のいくつかの実施形態による、連結された有声セグメントの例を示しており、図9Bは、図9Aにおける連結された音声セグメントのピッチ抽出の例を示している。点線部分は、「自然な」変化が顕著であり心臓に起因する変化を隠しうる理由で分析から除外される個別のセグメントの間の「融合」部分である。
音声特徴の統計分析法を使用して心拍数の病態の確率を求める例
いくつかの実施形態においては、「健康な」音声特徴(および/またはその統計的操作および/または数学的演算)の分布は、健康な発話者の訓練セットから計算される(すなわち発話者に依存しないモデル)。これに代えて、またはこれに加えて、「健康な」音声特徴の分布(および/またはその統計的操作および/または数学的演算)は、既知の健康な(例えば十分に周期的な)状態時に検査されたその発話者から計算される(すなわち発話者に依存するモデル)。
次に図10A〜図10Dを参照し、これらの図は、本発明のいくつかの実施形態による、心房細動中に(図10Bおよび図10D)、および健康な人の発話中に(図10Aおよび図10C)記録された発話のピッチの正規化された標準偏差値の分布のヒストグラムの例を示しており、音声特徴の分布の分析を使用しての心拍数の病態の確率の決定を例示している。
図10A(および図10C(図10Aの同じ分布をより高い解像度で示している))には、健康な被検者から、図10B(および図10D(図10Bの同じ分布をより高い解像度で示している))には、心房細動と診断された被検者から、それぞれ導かれた発話の訓練セットを通じて計算された、ピッチの正規化された標準偏差を例示してある。この例ではピッチパラメータが選択されており、なぜならピッチパラメータは、さまざまな音にわたり比較的安定性が高く、また自然な発話期間の40%以上に存在するためである。
いくつかの実施形態においては、心房細動を検出するために、ピッチの正規化された標準偏差のしきい値が使用される。これに代えて、またはこれに加えて、健康な被検者の、訓練された統計的分布が形成され、健康ではない被検者の、訓練された統計的分布が形成され、オプションとして、現在の分布が、訓練された各分布と統計的に照合される。オプションとして、一致する高い統計的確率に基づいて、診断が推定される。
例えば以下は、発話のi番目のフレーム(i=1...N)に対して計算されるピッチ値の場合である。
発話信号のいくつかの部分の全体にわたり、標準偏差が計算される。これらの部分の持続時間は、使用される音響パラメータの変動性に従って、(病態の短い発症を検出する目的で)最小であるように選択される。
この例の場合、規則的な心拍の標準偏差の85%が0.02未満であり、心房細動の記録の標準偏差の60%が0.02よりも大きいことを理解できる。
例示的な心拍数の抽出
いくつかの実施形態においては、いくつかの計算で、分析される被検者の心拍数が使用される。以下は、本発明のいくつかの実施形態による、被検者の音声サンプルから心臓の鼓動の周波数を抽出する例である。
この行列は、特定の時刻におけるさまざまな音声特徴を含むことができ、例えば以下である。
V(t,1): 時刻tにおけるピッチ値とすることができる
V(t,2): 時刻tにおけるピッチの導関数とすることができる
V(t,3): 時刻tにおけるMFCC係数とすることができる。
次式を使用することによって、各係数(行列の行)に対して離散フーリエ変換を計算することができる。
各行は、1つの音声特徴パラメータのフーリエ変換の絶対値に等しい。心拍数は、心拍数の周波数におけるピークによって周波数領域に示される。オプションとして、何種類かの音声特徴に対してBPM(心拍数の拍/分)が計算され、続いて平均し、その平均値を使用する、または、すべての計算された特徴の係数の中で最も一般的な値を多数決式に選択した後の値を使用する。いくつかの実施形態においては、妥当ではない値(例えば、約30bpmよりも低い値、および約300bpmよりも高い値)がフィルタリングされる。これに代えて、またはこれに加えて、極めて不規則な心拍の場合、スペクトルエネルギーを帯域制限しない。
例示的な心拍の間隔の抽出
次に図11Aを参照し、図11Aは、本発明のいくつかの実施形態による、パルスの間隔を計算するための一般的な流れ図を示している。
いくつかの実施形態においては、1104において、音声サンプル1102を使用して少なくとも2回の心拍を識別する。いくつかの実施形態においては、1106において、パルス発生の間の時間間隔を計算する。いくつかの実施形態においては、1108において、抽出された時間間隔に基づいて心臓の状態を推定する。
オプションとして、パルスは互いに連続的である。これに代えて、十分に短い時間間隔が計算される場合、連続していないパルスでも、心臓の状態を判定するのに十分である。
いくつかの実施形態においては、分析は、各フレームごとに個別に実行される。これに代えて、またはこれに加えて、分析は、複数のフレームの複合シーケンスに対して実行される。いくつかの実施形態においては、識別されたパルスのシーケンスが形成され、オプションとして、たとえこれらのパルスが異なるフレームで発生しても心拍の時系列を維持する。いくつかの実施形態においては、心臓の状態を判定する目的で、識別されたパルスの間の時間間隔が、基準および/またはしきい値と比較される。
例示的なパルス間隔の抽出の詳細
次に図11Bを参照し、図11Bは、本発明のいくつかの実施形態による、パルス間隔の抽出の詳細を例示する流れ図を示している。
いくつかの実施形態においては、1114において、音声サンプル1112を分類して有声セグメントを抽出する。いくつかの実施形態においては、有声セグメントは、約0.5秒〜約3秒の長さを含む。いくつかの実施形態においては、1116において、有声セグメントを使用して心拍(例えば図11Cおよび図11Dにさらに詳述および記載されているように例えばRパルスなど)を識別する。いくつかの実施形態においては、1118において、識別されたパルスの間の時間間隔を計算する。
いくつかの実施形態においては、1つの音声セグメントにおいて少なくとも2つのパルスが識別される。これに代えて、音声セグメントあたり、少なくとも3つのパルス、または少なくとも4つのパルス、または少なくとも5つのパルス、または少なくとも6つのパルス、または少なくとも7つのパルス、または少なくとも8つのパルス、が識別される。いくつかの実施形態においては、このセグメントは、連続していない部分を含む。いくつかの実施形態においては、互いに連続しているパルスのみが考慮される。これに代えて、被検者の心拍数に等しいかまたはそれよりも小さい時間間隔のみが考慮される。
オプションとして、1120において、識別されたパルスの間の時間間隔の短いシーケンスを基準と照合し、基準に一致する確率を計算する。いくつかの実施形態においては、基準は、同じ被検者において、ただし健康な状態時に識別されたパルスの時間間隔である。これに代えて、またはこれに加えて、基準は、健康な状態、および/または病的な状態の特性であることが既知であるパルスの時間間隔を含む。これに代えて、またはこれに加えて、基準は、別の健康な音声サンプルおよび/または病的な音声サンプルから導かれた複数の時間間隔のシーケンスのデータベース、を含む。いくつかの実施形態においては、準備段階において、健康な発話サンプルおよび病的な発話サンプルの両方のデータベースを使用して、基準のパターンが取得される。
いくつかの実施形態においては、1122において、値が一致する確率をしきい値と比較し、例えば、病的なシーケンスと照合するときには、しきい値よりも値が低ければ、1130において健康な状態と判定され、しきい値よりも値が高ければ、1132において病的な状態と判定される。いくつかの実施形態においては、しきい値は、所定の固定値である。これに代えて、しきい値は、複数のデータ源に基づいて(例えば機械学習を使用することによって)動的に決定される変数である。例えば、別の検査において、不整脈と判定される高い確率が検出される場合、1122において時間間隔に基づいて不整脈を判定するためのしきい値を下げることができる。
例示的なRパルスの位置の識別
次に図11Cを参照し、図11Cは、時間軸上のRパルスの位置の識別を例示する流れ図を示している。
したがって、いくつかの実施形態においては、発話フレームの分類(図5A〜図5Cに示してある)の後、かつオプションとして、沈黙、および/または情報が存在しないフレーム、および/または遷移フレームを除外した後である。
いくつかの実施形態においては、発話の連続的なセグメントにおいて、発話のフレームを表す音響ベクトルが取得される。いくつかの実施形態においては、各フレームの音響ベクトルからセグメント内のすべての他のフレームまでの距離が計算される。これらの距離は、組織の柔軟性を反映する発声器官組織における不連続/未知の小さい変化、および/または、筋肉の緊張の変化および/または血管の大きさおよび容積の変化による自然な変化、に起因する発話信号における変化に関する情報を保持している可能性がある。連続的なフレーム間の距離は小さいことが予測され、分離されるフレームが多いほど大きい。
いくつかの実施形態においては、1150において、各フレーム(t)について、オプションとしてすべての発話フレームについて、以前の(後方の)フレームおよび以降の(前方の)フレームまでの距離を計算する。
例えば、2つの音響ベクトルの間の距離関数は、次式によって計算することができる。
式中、W(p)は、正規化およびスケーリングの役割を果たす重み付け係数である。
いくつかの実施形態においては、1152において、前方の距離系列(distance series)および/または後方の距離系列における極小を識別する。
点(t=t1)から前方方向に(t>t1)測定される距離における極小を見つける。
さらに後方方向における(t<t1)極小を見つける。
いくつかの実施形態においては、1154において、フレームtに基づいて、極小までの距離の和を使用してRR間隔を推定する。
式中、αは定数である。
次に図11Dを参照し、図11Dは、本発明のいくつかの実施形態による、RR間隔推定の例示的なグラフを示している。
図11Dは、X軸1107に沿った時間tの関数として、Y軸1106におけるD(t)を示すグラフ1100を含む。
グラフ1100は、時刻t1におけるD(t1)1101と、t1よりも前の時刻t2におけるD(t)の第1の極小1102と、t1に続く時刻t3におけるD(t)の第2の極小1103とを示している。
図11Dは、極小1102,1103の検出に基づいて、RR間隔が、RR_interval=(t3−t2)として推定されることを示している。
いくつかの実施形態においては、いくつかのRR間隔が推定される。
いくつかの実施形態においては、以下のような1つまたは複数の基準に従って、いくつかの推定されるRR間隔のみが使用される。
(1)極小の形状(「深い」または「平坦」)
(2)RR間隔の妥当性。いくつかの実施形態においては、オプションとしてRR間隔は、BPM値を推定するのに常識の範囲内で適切である場合にのみ使用される(本発明を制限することのない一例として、45BPMよりも大きく、かつ250BPMよりも小さい、など)。
(3)最も可能性の高いいくつかのRR間隔を選択する。いくつかの実施形態においては、オプションとしてRR間隔の長さが計算され、オプションとしてRR間隔の長さの分布が計算される。オプションとして、平均のRR間隔の長さの前後の特定のしきい値の範囲内に(平均の約±5%、±10%、±20%、±33%、±50%などの範囲内に)入るRR間隔が選択される。オプションとして、平均心拍数の前後の心拍数に対応するRR間隔長さの特定の範囲内に(平均の約±5%、±10%、±20%、±33%、±50%などの範囲内に)入るRR間隔が選択される。いくつかの実施形態においては、このような分析は、オプションとして、発話のセグメント(オプションとして会話全体)を分析した後、可能性のあるRR間隔のリストを取得した後に、行われる。
いくつかの実施形態においては、シーケンスの分析が行われ、最も可能性が高いパターンを探す。規則的な心拍数の場合、同程度のRR間隔が見つかる。不規則な心拍数の場合、同程度のRR間隔が見つからない、またはわずかに見つかる。
(4)「心拍」に関連しない自然な発話の変化の確率を推定するために、別の基準を使用する。
いくつかの実施形態においては、極小がはっきりしない(例:期間が長い)ときには、推定距離が次の分析から除去され、その次の最小が考慮される。いくつかの実施形態においては、一般に短いフレームセグメントの場合、フレームセグメントあたり1つのRR間隔が計算される。これに代えて、一般に長いセグメントの場合、複数のRR間隔が計算される。
いくつかの実施形態においては、すべてのフレーム{t=0,1,...,T}に対するRR間隔が推定される。オプションとして、1156において、計算されるすべての特徴にわたり、発話サンプル全体から導かれるRR間隔を平均し、オプションとして、1158において、発話サンプル全体の、RR間隔の総合的な推定を導く。
音声サンプルにおけるRR間隔の識別の例
次に図12Aを参照し、図12Aは、本発明のいくつかの実施形態による、一定の母音におけるMFCCタイプの音声特徴の場合のフレーム間距離の例を提示しており、上のグラフは、(各フレームにおいて計算されたMFCC音響特徴の)フレーム間距離のパターンを示しており、下のグラフは、基準としての心電図グラフを示している。図12Aに示した矢印は、2つのフレーム、すなわちフレーム(t)およびフレーム(i)を示している。所与のフレーム{t}に対して、フレーム{i}までのフレーム間距離は周期的な性質を有し、極小がRR間隔毎に現れる可能性が高く、すなわちD(t,i)は、極小の間の時間距離がRR間隔に等しい位置に極小を有する。上のグラフから下のグラフまでの矢印は、フレーム間距離の極小(上のグラフ)が、周期的にRR間隔に類似する位置に現れる(下のグラフ)ことを示している。
コヒーレンスを使用しての音声サンプルにおけるRR間隔の識別の例
いくつかの実施形態においては、発話の変動の測度としてコヒーレンス値を使用して、オプションとして上の方法が使用される。
上の方法および定義を使用する。
コヒーレンスの場合には、
いくつかの実施形態においては、2つの発話フレーム(一方は時刻t1から始まり、他方は時刻t2から始まる)の間のスペクトルクロスコヒーレンスが計算される。
式中、Twは分析のフレームサイズである。
次に図12Bを参照し、図12Bは、本発明のいくつかの実施形態による、コヒーレンス計算の例示的なグラフを示している。
図12Bはグラフ1230を含み、このグラフは、X軸1237に沿った時刻t(単位:ミリ秒)の関数としての、Y軸1236におけるコヒーレンス値を示している。
グラフ1230は、ピッチ周波数におけるコヒーレンスを示しており、時刻t1における点1231から、約820msecの距離の時刻t2における最小値1232に達する(周波数の最大変化に対応する)。時刻t2は、患者の855msecのパルス位置に近い。
RR間隔データの例
次に図13を参照し、図13は、本発明のいくつかの実施形態による、連続するパルスの発生を増やすときの、心臓の状態の判定の特異度に対する感度の変化の例を提示している。
このグラフは、X軸におけるP(FA)(1−確率で示してある)としての、人が病態を有すると誤って診断される確率に対する、Y軸におけるP(D)としての、人が病態を有すると正しく診断される確率を示している。示したグラフは、連続するパルスの数が増えると感度がどのように高まるかを例示している。さらにこのグラフは、連続するパルスの数が増えると、特異度および感度の両方も高まることを示している。
なお、この計算は、後からの「総合的な不整脈の確率の統合」のセクション(わずか数個のRRパルスから心房細動を評価する方法を含む)に示したアルゴリズムに基づいていることに留意されたい。
例示的な周期性の判定の概要
次に図14Aを参照し、図14Aは、本発明のいくつかの実施形態による、心臓の状態を判定するために使用される、心拍数の周期性を求めるプロセスを示した流れ図を提示している。心拍数が周期的であると想定すると、血管の大きさおよび/または容積の変化は半周期的(または正常な洞性心拍数の場合には周期的)であると推測される。したがって心臓活動のタイミングは、フレーム間距離のパターンの周期的な変化を見つけることによって検出される可能性がある。
いくつかの実施形態においては、1402において、音声をサンプリングし、1404において、少なくとも1種類の音声特徴を抽出する。いくつかの実施形態においては、1406において、例えばスペクトル分析および/または自己相関を使用して、少なくとも1種類の音声特徴の周期性を計算する。いくつかの実施形態においては、1408において、音声特徴の周期性に基づいて心臓の状態を推定する。すなわち、規則的な心拍数では、(時間の経過に伴う音声特徴の)スペクトル領域/自己相関領域において「狭い」エネルギーが形成されると推測され、なぜならほとんどのエネルギーは心拍数の周波数に集中すると推測されるためである。不規則な心拍(ほとんどの心房細動)では、おそらくはエネルギーが1つの周波数に集中せず、平均心拍数に近いスペクトル/自己相関値がおそらくあまり集中しない。
例示的な音声特徴の周期性の判定の詳細
次に図14Bを参照し、図14Bは、本発明のいくつかの実施形態による、心臓活動のタイミングを、音声サンプルへの心臓活動の影響のタイミングに基づいて判定するための流れ図を提示している。
いくつかの実施形態においては、1412において、音声をサンプリングし、1414において、少なくとも1種類の音声特徴を抽出する。いくつかの実施形態においては、サンプリングされる被検者の心拍数を抽出するために音声サンプルが使用される。これに代えて、またはこれに加えて、心拍数は心拍数モニターによって測定される。いくつかの実施形態においては、1418において、心拍数の周波数を含む複数の周波数において、音声特徴の自己相関を計算する。自己相関は、オプションとして、心拍数の周波数の前後の所定の範囲において特徴付けられる。いくつかの実施形態においては、1420において、ピーク形状パラメータを識別してその値を求めることによって、特徴付けを行う。ピーク形状パラメータは、例えば、ピークの帯域幅および/またはピークの振幅とすることができる。いくつかの実施形態においては、1422において、このパラメータ値をしきい値と比較し、1430において健康な状態と判定する、または1432において病的な状態と判定する。
音声特徴の声門パルス分析の例
声門パルス分析は、潜在的に他の発話器官(例えば、口、舌、唇、および/または口腔/鼻腔)の影響なしに声門組織(glottal cord)の動きに起因するパルスを計算するための手法である。
次に図14Cを参照し、図14Cは、本発明のいくつかの実施形態による、声門波の単純化された図である。
図14Cは、咽頭および声門の断面1441,1442,1443,1444,1445の図1440を示している。
さらに図14Cは、X軸1452に沿った時刻tの関数としての、Y軸1451上の空気流値を示している線1453を示したグラフ1450を含む。
咽頭および声門の断面1441,1442,1443,1444,1445の図1440は、声門のさまざまな状態を示しており、グラフ1450は、上の状態に対応する空気流値を示している。
いくつかの例として、図14Cは以下を示している:
閉じた声門に対応する、線1453上の第1の位置1454;
開きつつある声門に対応する、線1453上の第2の位置1455;
開いている声門に対応する、線1453上の第3の位置1456;
閉じつつある声門に対応する、線1453上の第4の位置1457。この位置における声門は、位置1454の前に閉じつつある声門について線1453が示しているより速い速度で閉じつつある;
閉じた声門に対応する、線1453上の第5の位置1458。
声門パルスは、オプションとして発話信号から抽出される。
いくつかの実施形態においては、発話信号からの声門パルスの計算が、オプションとして、心拍数の状態を判定するために使用される。第1段階は、オプションとして声門パルスを取得することである。
いくつかの実施形態においては、声門パルスは、オプションとして、上に挙げた非特許文献2に記載されているように計算される。
いくつかの実施形態においては、声門パルス信号から以下のパラメータの1つまたは複数が計算される:
声門パルスの立ち上がり時間(10%から90%までの増大時間);
声門パルスの立ち下がり時間(90%から10%までの減少時間);
声門の開期間/閉期間;
周期(声門パルス信号のピーク間の距離);
声門パルス信号のピークの高さおよび/または幅;
声門パルス信号のいくつかの期間のスペクトル。
いくつかの実施形態においては、オプションとしてパラメータの統計値が比較され、オプションとして心拍数の変動性の判定が行われる。
いくつかの実施形態においては、上に挙げたパラメータの1つまたは複数が、本明細書に記載されている処理手法における「音声特徴」として使用される。
声門信号を使用する潜在的な利点は、心拍に関連しない発声器官(舌および/または口の動きなど)の「自然な」変化が潜在的に考慮されずに、より正確な推定を得られる可能性があることである。
音声特徴のスペクトル分析の例
次に図15A〜図15Dを参照し、これらの図は、本発明のいくつかの実施形態による、音声特徴のスペクトル特性を使用しての心拍数の病態の確率の決定を提示しており、図15Aおよび図15Cは、健康なパターン(振幅が大きく幅が小さいピークを特徴とする)を示しており、図15Bおよび図15Dは心房細動のパターン(振幅が小さく幅が広いピークを特徴とする)を示している。赤い円は、心拍数のスペクトルピーク(これは前に説明した方法において計算される)を示している。
心拍は発話を変調すると推測されるため、異なる鼓動のリズムは、音声特徴のスペクトルパターンにおける異なるパターンを形成すると予測される。スペクトルピークの帯域幅は、心臓のパラメータの周期性の程度に一致すると予測される。例えば、心房細動のパルスは、極めて不規則であり、スペクトル領域においてさまざまなピークを形成し、したがって、より広い帯域幅を有する。ピークの帯域幅は、心房細動および他の心拍障害において一般的な非周期的な変化を反映して、比較的大きい。これと比較して、規則的なパルス(すなわち周期的なパルス)は、発話の一定の変調をもたらすと予測され、一般にスペクトル領域において、おそらくは正確に心拍数における1つの主ピークを生成する。ピークは、周期的な変化(例:洞性心拍)を反映して狭い可能性が高い。
図15A〜図15Dに示した例は、MFCCパラメータの一次導関数を使用して計算されている。導関数演算は、「自然な」(音声学的な)発話情報および内容の大部分を除去するため、有用である可能性がある。なお、この方法では、スペクトル分析に代えて、またはスペクトル分析に加えて、自己相関係数を使用できることに留意されたい。
例示的な総合的な不整脈の確率の統合
いくつかの実施形態においては、例えば図3のブロック362,364および図4Aのブロック460〜466に示したように計算される、心拍における不規則性の確率は、(i)音声特徴の分布、(ii)音声特徴の周期性、(iii)パルス間隔データ、の少なくとも1つに基づく。
いくつかの心疾患は、一般に高い心拍数に現れる。いくつかの実施形態においては、高い心拍数とは、70BPMよりも高い、または90BPMよりも高い、または100BPMよりも高い、または120BPMよりも高い、として定義される。いくつかの実施形態においては、これらの病態の場合、低く安定したBPMが検出される(例:1つの周波数付近に集中した、スペクトル領域における高いエネルギー)ときには、これらの特定の病態の低い確率を推定することができる。
心房細動の心拍数の合計変動(TV)の値と、正常な心拍数のTV値は異なる値を有することが、実験によって判明した。結果として、(例えば図11Bのブロック1122−1130および1122−1132に例示した)心房細動の検出のしきい値は、短い一連の心拍に基づいて得られる。
いくつかの実施形態においては、合計変動が所定のしきい値を超える場合、心房細動が検出される。オプションとして、特定の陽性の推定(例:心臓の病態の高い確率)の場合、例えば利用者に通知を送る、および/または、世話をする人に知らせることによって、さらなる健康診断を推奨する。
いくつかの実施形態においては、オプションとして、それより低い特定の推定(例:心臓の病態の中程度の確率)の場合、追加の音声検査を開始する。いくつかの実施形態においては、さらなる検査のため、被検者にいくつかの所定の発話信号を発音するように求める。オプションとして、より多くの情報を取得するため、事前に選択される発話音(例えば有声音/ah/の3〜6秒の長い繰り返し)を使用する。
いくつかの実施形態においては、心臓の病態の低い確率を示す被検者の場合、オプションとして以降の検査におけるさらなる分析用に、または健康な訓練モデルのデータベースに付加するために、被検者のデータが格納される。
いくつかの実施形態においては、病的な状態を有する確率が確定した時点で、被検者に、検出の感度を高める可能性のあるさらなる診断法を伝える。例えば被検者に、病院での健康診断を受けるように伝えることができる、および/または、補足的な家庭用アプリケーション(光電式容積脈波記録法(PPG)および/または携帯型心電図モニター(これらは例えばスマートフォンにおいて使用することができる)など)を使用するように伝えることができる。いくつかの実施形態においては、ある状態が識別された時点で、補足的な家庭用アプリケーションの1つを適用する(したがって正確な診断の可能性を高める)ように被検者に通知する。
いくつかの実施形態においては、補足的なアプリケーションは、手動で操作される。オプションとして、補足的なアプリケーションは、所定の使用計画(例えば、1日に1回、1日に2回、1日に3回など)に従って、オプションとして、状態が発症する確率に従って、操作される。例えば、状態が発症する確率が高い場合、補足的なアプリケーションをより多くの回数操作することが望ましい。これに代えて、またはこれに加えて、病的な状態が推定された時点でただちに、補足的なアプリケーションが操作される。
例示的な治療のモニタリング
次に図16を参照し、図16は、本発明のいくつかの実施形態による、本明細書に記載されているシステムおよび方法によって提供される可能な治療およびモニタリングの時系列を示している。
いくつかの実施形態においては、人の大きな集団または1人の人にスクリーニング1602が提供される。いくつかの実施形態においては、十分な所定の確率において心臓の状態が判定された後、治療が行われる。これに代えて、またはこれに加えて、十分な所定の確率において心臓の状態が判定された後、第2の診断検査、または確認検査(例えば心電図モニタリングおよび/または光電式容積脈波記録法(PPG)および/または所定の発声を含む第2の音声サンプルなど)が行われる。オプションとして、治療は、薬物治療1630(一般には、ある期間にわたる)を含む。これに代えて、またはこれに加えて、治療は、処置型治療(procedural treatment)1640(一般には1回の治療として提供される)を含む。
いくつかの実施形態においては、被検者が治療を開始することになった時点で、1604において、治療を開始する前に心臓の状態のモニタリングが提供される。オプションとして、状態の重症度がモニタリングされ、そのようなモニタリングの後に治療が変わることがある。これに代えて、またはこれに加えて、1606において、治療中に、オプションとして治療の効果を監視するために、モニタリングが提供される。これに代えて、またはこれに加えて、1608において、治療後に、オプションとして状態の再発を識別するために、モニタリングが提供される。
いくつかの実施形態においては、モニタリングのスケジュールは、被検者の診断された状態に基づく。例えば、毎日数時間にわたる心房細動を有する、心房細動の重症例では、1日に1回の被検者のサンプリングで十分でありうる。これに対して、被検者が心房細動の軽症例と診断された場合、検出を達成するためには、より高い頻度でのサンプリングが必要となりうる。
全般
本明細書で使用する「約」は、±25%を指す。
用語「含む(comprises)」、「含む(comprising)」、「含む(includes)」、「含む(including)」、「有する(having)」およびその活用形は、「限定されるものではないが、含む(including but not limited to)」を意味する。
「からなる」という用語は、「含み、限定される」ことを意味する。
「から実質的になる」という用語は、組成物、方法または構造が追加の成分、工程および/または部分を含み得ることを意味する。但しこれは、追加の成分、工程および/または部分が、請求項に記載の組成物、方法または構造の基本的かつ新規な特性を実質的に変更しない場合に限られる。
本明細書において、単数形を表す「a」、「an」および「the」は、文脈が明らかに他を示さない限り、複数をも対象とする。
本願全体を通して、本発明のさまざまな実施形態は、範囲形式にて示され得る。範囲形式での記載は、単に利便性および簡潔さのためであり、本発明の範囲の柔軟性を欠く制限ではないことを理解されたい。したがって、範囲の記載は、可能な下位の範囲の全部、およびその範囲内の個々の数値を特異的に開示していると考えるべきである。例えば、1〜6といった範囲の記載は、1〜3、1〜4、1〜5、2〜4、2〜6、3〜6等の部分範囲のみならず、その範囲内の個々の数値、例えば1、2、3、4、5および6も具体的に開示するものとする。これは、範囲の大きさに関わらず適用される。
本明細書において数値範囲を示す場合、それは常に示す範囲内の任意の引用数(分数または整数)を含むことを意図する。第1の指示数と第2の指示数「との間の範囲」という表現と、第1の指示数「から」第2の指示数「までの範囲」という表現は、本明細書で代替可能に使用され、第1の指示数および第2の指示数と、それらの間の分数および整数の全部を含むことを意図する。
明確さのために別個の実施形態に関連して記載した本発明の所定の特徴はまた、1つの実施形態において、これら特徴を組み合わせて提供され得ることを理解されたい。逆に、簡潔さのために1つの実施形態に関連して記載した本発明の複数の特徴はまた、別々に、または任意の好適な部分的な組合せ、または適当な他の記載された実施形態に対しても提供され得る。さまざまな実施形態に関連して記載される所定の特徴は、その要素なしでは特定の実施形態が動作不能でない限り、その実施形態の必須要件であると捉えてはならない。
上述したように、本明細書に記載され、特許請求の範囲に請求される本発明のさまざまな実施形態および態様は、以下の実施例によって計算により支持されるものである。
音声サンプルを使用して心臓の状態を判定する実施例
次に以下の実施例を参照し、これらの実施例は、上の説明と併せて、本発明を制限することなく本発明のいくつかの実施形態を説明する。
いくつかの実施形態においては、人の声をサンプリングする。いくつかの実施形態においては、この音声サンプルを分析して、所望の音声セグメントを抽出する。例えば、沈黙期間を取り除く、および/または、有声セグメントのみを維持することができる。オプションとして、特定の種類の母音のみ(例えば、/ah/母音のみ、または/eh/母音のみ、または/oh/母音のみ、または/uh/母音のみ、または/eeh/母音のみ)を維持する。いくつかの実施形態においては、維持された音声セグメントを連結し、結果として、時系列に従うのではなく連続的なデータとなりうる。これに代えて、維持された音声セグメントは、時間の経過におけるその順序を維持し、セグメントのタイミングの情報が維持される。
いくつかの実施形態においては、有声セグメントを得るためにフィルタリングされ、かつ連結された音声セグメントから、音声特徴(ピッチなど)を抽出する。いくつかの実施形態においては、ピッチ値の変動のうち、発話の発声の変化である自然な変動と、声帯および声道(vocal cavities)の自然な変動に起因する変化である自然な変動、を除去する。いくつかの実施形態においては、心臓の鼓動に関連する変化を検出するときのより高い感度を達成するために、オプションとして自然な変動をフィルタリングする。いくつかの実施形態においては、自然な変動が除去された後、調整されたピッチを有する音声セグメントを連結する。オプションとして、連続する音声セグメントの融合点を滑らかにする。
いくつかの実施形態においては、連結されて平滑化されたピッチのデータを分析して、正規化された標準偏差(N−STD)を導く。いくつかの実施形態においては、N−STDの値をしきい値と比較し、しきい値よりも大きい場合、サンプリングされた被検者を、病的な心臓の状態を有すると判定し、しきい値よりも小さい場合、サンプリングされた被検者を、健康な心臓の状態を有すると判定する。
いくつかの実施形態においては、同じ音声サンプルに対して第2の分析を行う。オプションとして、音声セグメントを抽出する。いくつかの実施形態においては、維持される各音声セグメントにおいてRパルスを識別する。オプションとして、削除される音声セグメントに連続するRパルスの少なくとも一部を識別することによって、Rパルスを外挿する。いくつかの実施形態においては、連続するRパルスを特定することによって、RR間隔を計算する。例えば、同じ音声セグメントにおいて2個以上のRパルスを特定することによって、および/または、無視することのできる短いギャップを有する相異なる音声セグメントにおいてRパルスを特定することによって、および/または、外挿されたパルスに連続するRパルスを識別することによる。
いくつかの実施形態においては、RR間隔を、基準(例えば、病的な心臓の状態(心房細動など)の特徴であることが既知であるRR間隔を有する基準)と比較する。これに代えて、またはこれに加えて、基準は、同じサンプリングされた被検者の健康なRR間隔のシーケンスを含む。これに代えて、またはこれに加えて、基準は、異なる健康な被検者および/または病的な被検者のサンプルを含む。
いくつかの実施形態においては、RR間隔のシーケンスが基準に一致する確率を、しきい値と比較する。例えば、RR間隔の確率が、病的なシーケンスと比較したときにしきい値よりも大きい場合、および/または、健康なシーケンスと比較したときにしきい値よりも小さい場合、病的な状態が判定される。これに代えて、またはこれに加えて、RR間隔の確率が、病的なシーケンスと比較したときにしきい値よりも小さい場合、および/または、健康なシーケンスと比較したときにしきい値よりも大きい場合、健康な状態が判定される。
いくつかの実施形態においては、音声サンプルに対して第3の分析を行う。なお、分析を行う順序は変えることができ、各分析は、他の2つの分析とは独立して、または組み合わせて、または単独で、行うことができることに留意されたい。
いくつかの実施形態においては、音声サンプルを分析して音声特徴を抽出する。いくつかの実施形態においては、オプションとして音声サンプル自体から心拍数を抽出することによって、心拍数を求める。いくつかの実施形態においては、心拍数の周波数における音声特徴の自己相関および/またはスペクトルを計算する。なお、発声領域に流れ込む血液、および発声領域から流れ出す血液は、おそらくは心拍に関連付けられる。音声特徴の変動性の少なくとも一部は、この血液の流れ、および/または心室拍動、および/または心房拍動によって影響されると推測される。したがって、健康な周期的な心拍数が存在する場合、その心拍数における自己相関分析および/またはスペクトル分析では、発声領域の血液の影響が、心拍数における高い周期性であることを示すピーク形状が得られると推測される。これに対して、不整脈が存在する場合、心拍数における自己相関では、不鮮明なピークが得られ、これは血液の影響がさほど周期的ではないことを示す。
いくつかの実施形態においては、ピーク形状のパラメータをしきい値と比較する。ピーク形状のパラメータは、例えば、ピークの帯域幅、および/または高さ、および/またはピークの合計面積、を含むことができる。いくつかの実施形態においては、ピーク形状のパラメータをしきい値と比較して、健康な心臓の状態または病的な心臓の状態を判定する。
いくつかの実施形態においては、上の分析に基づいて、健康な心臓の状態および/または病的な心臓の状態の、重み付けられた確率を計算する。
いくつかの実施形態においては、音声パラメータの変化によって、慢性的な状態が検出される可能性がある。いくつかの場合には、心房細動(AF)は、左心房の拡大をもたらす(これは病的な心房細動のケースの大部分において起こる)。拡大は反回神経に強く影響し、声の一定の変化をもたらす。変化は、ピッチ信号のパラメータに現れる可能性があり、分析して検出することができる。
これにより、たとえ心臓の鼓動が正常な回数である場合にも、慢性状態の心房細動患者を検出することが可能になる。
心拍数の抽出の実施例
次に図17を参照し、図17は、本発明のいくつかの実施形態による、音声サンプルからの心拍数の抽出の実施例を示している。心臓の鼓動と相互に関連する音声特徴は、心臓の鼓動の周波数においてピーク値を有すると推測される。例えば、図17は、74BPMを有する被検者の、/ah/音の発話サンプルの分析を例示している。分析用に選択される音声特徴はdMFCC(MFCCベクトルの一次導関数の絶対値)であり、高エネルギー(ピーク)が0.84Hzにあり、これは74bpmである。
各フレームから音声特徴を導いた後、いくつかの実施形態では、時間の経過に伴う音声特徴のシーケンスにおいて、少なくとも1種類の音声特徴の周期的なパターンを識別する。周期的なパターンの識別は、例えば、スペクトル分析および/または自己相関分析を使用して行うことができる。いくつかの実施形態においては、識別された周期的なパターンから、拍/分(BPM)単位の心拍数(オプションとして最大値)を推定する。
ここまでに記載されており「特許請求の範囲」に請求されている本発明のさまざまな実施形態および態様は、以下の実施例における実験および計算によって裏付けられる。
実施例
ここで、上記の記載と共に本発明を限定することなく説明する以下の実施例を参照する。
イスラエルの先端医療センターにおいて、不整脈状態にある不整脈患者と、正常な心拍数状態にある不整脈患者に対して、IRB承認の臨床研究を実施した。
58人の心房細動患者のうち、26人が、電気的除細動を受け、(a)心房細動の発症中、および(b)電気的除細動から2時間後の正常な心拍数状態時に、2回記録を取った。電気的除細動とは、異常に速い心拍数または他の心臓不整脈を、電気または薬物を使用して正常なリズムに変える医療処置である。次の表は、現時点までに集められた、心電図/音声の記録されたペアの数をまとめたものである。
次に図18Aを参照し、図18Aは、本発明のいくつかの実施形態による、発話者に依存しない検出結果を示しているグラフである。
図18Aは、心房細動状態を有する58人の患者と、正常な心臓のリズム(洞律動)を有する23人の患者の記録を、心房細動または正常な心臓のリズムを決定するさまざまなしきい値において、本発明の例示的な実施形態によって分析した実験のグラフ1801を示している。
グラフ1801は、しきい値の定性値に対応するX軸1802と、患者の記録のうち患者の状態が正しく分析される部分(0〜1の範囲内)に対応するY軸1803とを有する。
図18Aは、真陽性(心房細動状態を有する)の心臓状態分類の第1の線1804と、真陰性(洞律動)の心臓状態分類の第2の線1805を示している。
さらに図18Aは、同じ特定のしきい値によって、以下に具体的に説明する結果がもたらされる2つの例示的な点、すなわち、音声分析に基づいて心房細動の92%の真陽性の識別を示す第1の点1806と、音声分析に基づいて心房細動の70%の真陰性の識別(すなわち正常な洞律動としての識別)を示す第2の点1807、を示している。
図18Aは、発話者に依存しない結果(すなわち多数の発話者に基づいて訓練されており、既知ではない患者の心臓の状態を検出するために使用されるシステムの結果)を示している。示した結果は、人の声に基づいて心臓の状態を推定するのに成功していると考えられる。
次に図18Bを参照し、図18Bは、本発明のいくつかの実施形態による、発話者に依存する検出結果を示しているグラフである。
図18Bは、心房細動状態下および正常な洞律動状態下で記録された、心房細動状態を有する32人の患者の記録を、心房細動または正常な心臓のリズムを決定するさまざまなしきい値において、本発明の例示的な実施形態によって分析した実験のグラフ1811を示している。
グラフ1811は、しきい値の定性値に対応するX軸1812と、患者の記録のうち患者の状態が正しく分析される部分に対応するY軸1813とを有する。
図18Bは、真陽性(心房細動状態を有する)の心臓状態分類の第1の線1814と、真陰性(洞律動)の心臓状態分類の第2の線1815を示している。
さらに図18Bは、同じ特定のしきい値によって、以下に具体的に説明する結果がもたらされる2つの例示的な点、すなわち、音声分析に基づいて心房細動の92%の真陰性(洞律動)の識別を示す第1の点1816と、音声分析に基づいて心房細動の77%の真陽性の識別(すなわち心房細動リズムとしての識別)を示す第2の点1817、を示している。
図18Bは、発話者に依存する結果(すなわち、1人の発話者の、特定の既知の心臓の状態(健康または心房細動)において取得された1つまたは複数の音声記録によって訓練されており、同じ発話者の心臓の状態を検出するために使用されるシステムの結果)を示している。示した結果は、人の声に基づいて心臓の状態を推定するのに成功していると考えられる。
比較ベンチマーク
次に、本発明のいくつかの実施形態と比較して、低頻度で(一週間に1回など)使用される単一時点心電図(ECG)装置(または発作時記録計(event recorder))が心房細動の発症を捕捉するのにかかる時間長を推測する。下の表は、心房細動の異なる負荷および検査頻度のシナリオにおいてシミュレーションを実行したときの計算の結果をまとめている。
非自発的な発話の少なくとも2つのサンプルにおいて心房細動の音声バイオマーカーが検出されたときに、心房細動の検出を登録するように、シミュレーターを設定した。このような設定においては、本発明の実施形態では、94%の検出感度(真陽性)および92%の検出特異度(洞律動の真陰性検出)となった。
下の表に示したように、1日あたり6回の10分間の発症の心房細動負荷に基づくと、シミュレーションによると、心電図に基づく週1回のモニタリングでは163日以内に心房細動が検出されるのに対して、本発明の実施形態では8日以内に心房細動が検出されることが示された。
本発明をその特定の実施形態との関連で説明したが、多数の代替、修正および変種が当業者には明らかであろう。したがって、そのような代替、修正および変種の全ては、添付の特許請求の範囲の趣旨および広い範囲内に含まれることを意図するものである。
本明細書で言及した全ての刊行物、特許および特許出願は、個々の刊行物、特許および特許出願のそれぞれについて具体的かつ個別の参照により本明細書に組み込む場合と同程度に、それらの全体が参照により本明細書に組み込まれる。加えて、本願におけるいかなる参考文献の引用または特定は、このような参考文献が本発明の先行技術として使用できることの容認として解釈されるべきではない。また、各節の表題が使用される範囲において、必ずしも限定として解釈されるべきではない。

Claims (50)

  1. 被検者の音声サンプルを分析して不整脈の心臓の状態を判定する方法であって、
    前記音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、
    前記少なくとも1種類の音声特徴に対する心臓の状態の影響を検出するステップと、
    前記影響に基づいて不整脈の心臓の状態を判定するステップと、
    を含む、方法。
  2. 前記少なくとも1種類の音声特徴に対する心臓の状態の影響を検出する前記ステップが、
    血流、
    心室拍動、および、
    心房拍動、
    からなる群から選択される、音声に影響を及ぼす少なくとも1つの原因、によって前記少なくとも1種類の音声特徴に対してもたらされる心臓の状態の影響、を検出するステップ、を含む
    請求項1に記載の方法。
  3. 影響を検出する前記ステップが、音声に影響を及ぼす前記原因のタイミング、音声に影響を及ぼす前記原因の周期性、および、音声に影響を及ぼす前記原因の大きさまたは大きさの変化、のうちの少なくとも1つの影響を識別するステップ、を含む、請求項2に記載の方法。
  4. 不整脈の心臓の状態を判定する前記ステップが、複数の前記識別された影響を統合するステップ、を含む、請求項1に記載の方法。
  5. 前記音声サンプルを分類して有声セグメントを識別するステップ、をさらに含む、請求項1に記載の方法。
  6. 少なくともいくつかのセグメントが削除され、かつ残っているセグメントの端部が滑らかにされるように、前記有声セグメントを連結するステップ、をさらに含む、請求項5に記載の方法。
  7. 前記音声サンプルから削除されるセグメントにおける、音声に影響を及ぼす前記原因に関連するデータ、を外挿するステップ、をさらに含む、請求項2に記載の方法。
  8. 前記検出される影響が、心拍のタイミングを含む、請求項1に記載の方法。
  9. 影響を検出する前記ステップが、心拍の3回の連続する発生を識別するステップ、を含む、請求項8に記載の方法。
  10. 不整脈の心臓の状態を判定する前記ステップが、心拍の前記連続する発生の間の時間間隔を計算するステップと、前記時間間隔を、基準の心臓状態から得られる基準時間間隔と照合するステップと、を含む、請求項9に記載の方法。
  11. 前記判定するステップが、
    前記一致する確率を求めるステップと、
    前記確率をしきい値と比較して前記不整脈の心臓の状態を判定するステップと、
    をさらに含む、
    請求項10に記載の方法。
  12. 前記基準の心臓状態が、健康または不整脈である、請求項11に記載の方法。
  13. 心拍の前記3回の発生が、同じ有声セグメントにおいて識別されない、請求項9に記載の方法。
  14. 影響を検出する前記ステップが、心拍の2回の連続する発生を識別するステップ、を含む、請求項1に記載の方法。
  15. 前記検出される影響が、心拍の大きさの影響、または心拍の大きさの変化の影響を含む、請求項1に記載の方法。
  16. 影響を検出する前記ステップが、前記少なくとも1種類の音声特徴の複数の値の分布を計算するステップ、を含む、請求項15に記載の方法。
  17. 不整脈の心臓の状態を前記影響に基づいて判定する前記ステップが、前記分布の特徴パラメータをしきい値と比較するステップ、を含む、請求項16に記載の方法。
  18. 前記特徴パラメータが、前記分布の形状を含む、請求項17に記載の方法。
  19. 前記値が、前記形状の幅を含む、請求項18に記載の方法。
  20. 前記検出される影響が、心拍の周期性の影響を含む、請求項1に記載の方法。
  21. 前記被検者の心拍数を推定するステップ、をさらに含む、請求項20に記載の方法。
  22. 不整脈の心臓の状態を判定する前記ステップが、前記心拍数の周波数の前後の所定の範囲における前記周期性を特徴付けるステップ、を含み、
    前記特徴付けるステップが、前記所定の範囲におけるピークの帯域幅を計算するステップ、を含み、
    前記不整脈の心臓の状態を判定する前記ステップが、前記帯域幅をしきい値と比較するステップ、を含む、
    請求項21に記載の方法。
  23. 不整脈の心臓の状態の前記判定を確認するステップ、をさらに含む、請求項1に記載の方法。
  24. 前記確認するステップが、所定の発声を含む第2の音声サンプルを取得するステップ、を含む、請求項23に記載の方法。
  25. 前記確認するステップが、前記被検者に対する心電図検査および光電式容積脈波記録法検査の少なくとも一方を含む、請求項23に記載の方法。
  26. 前記不整脈の心臓の状態が、心房細動を含む、請求項1に記載の方法。
  27. 前記音声サンプルが、自発的な発話である、請求項1に記載の方法。
  28. 前記音声特徴が、ピッチを含む、請求項1に記載の方法。
  29. 前記音声特徴を抽出する前記ステップが、前記音声サンプルの第1のセグメントと、前記音声サンプルの第2のセグメントとの間のクロスコヒーレンスを実行するステップ、を含む、請求項1に記載の方法。
  30. 前記音声特徴を抽出する前記ステップが、
    ウェーブレット解析、
    メル周波数ケプストラム係数(MFCC)分析、
    声門パルス分析、および、
    線形予測符号化(LPC)分析、
    からなる群から選択される、発話信号の分析、を実行するステップ、を含む、
    請求項1に記載の方法。
  31. 被検者によって提供される音声サンプルにおいて不整脈の心臓の状態を判定するシステムであって、
    前記音声サンプルのデジタル音声サンプルを取得する音声入力部と、
    前記デジタル音声サンプルから少なくとも1種類の音声特徴を抽出する音声特徴抽出器と、
    前記少なくとも1種類の音声特徴に対する心臓活動の影響を識別する音声特徴プロセッサと、
    前記影響に基づいて不整脈の心臓の状態を判定する心臓状態分類器と、
    を備えている、システム。
  32. 前記音声入力部が、携帯電話、情報端末、およびカーマルチメディアシステム、の少なくとも1つの一部を形成している、請求項31に記載のシステム。
  33. 前記音声特徴抽出器、前記音声特徴プロセッサ、および前記心臓状態分類器、の少なくとも1つが、サーバーに位置している、請求項31に記載のシステム。
  34. 前記サーバーが、電話交換機と連携されており、前記交換機からデータを取得する、請求項33に記載のシステム。
  35. 前記音声入力部が、所定のスケジュールに従って前記デジタル音声サンプルを取得するように構成されている、請求項31に記載のシステム。
  36. 固定記憶装置をさらに備えており、前記記憶装置が、不整脈の心臓の状態または健康な心臓の状態に関連付けられる複数の音声サンプルから導かれる基準音声特徴、を記憶している、請求項31に記載のシステム。
  37. 前記心臓状態分類器が、前記基準音声特徴を特徴付ける訓練段階に基づいて、前記不整脈の心臓の状態を判定する、請求項36に記載のシステム。
  38. 前記固定記憶装置が、前記被検者から以前に集められた少なくとも1つの音声サンプルを記憶している、請求項36に記載のシステム。
  39. 前記心臓状態分類器が、前記以前に集められた音声サンプルと前記デジタル音声サンプルとの間の変化に基づいて、前記不整脈の心臓の状態を判定する、請求項38に記載のシステム。
  40. 被検者によって提供される音声サンプルにおいて不整脈の心臓の状態を判定するシステムであって、
    前記音声サンプルのデジタル音声サンプルを取得する音声入力部と、
    前記デジタル音声サンプルから少なくとも1種類の音声特徴を抽出する音声特徴抽出器と、
    前記少なくとも1種類の音声特徴に対する心臓の状態の影響を識別する音声特徴プロセッサと、
    前記影響に基づいて前記不整脈の心臓の状態を判定する心臓状態分類器と、
    を備えている、システム。
  41. 被検者の音声サンプルを分析して心臓の状態を判定する方法であって、
    前記音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、
    前記少なくとも1種類の音声特徴に対する血流の影響を検出するステップであって、前記影響が、前記血流のタイミング、前記血流の周期性、および、前記血流の大きさまたは大きさの変化、のうちの少なくとも1つである、ステップと、
    前記影響に基づいて心臓の状態を判定するステップと、
    を含む、方法。
  42. 前記判定される心臓の状態が、異常な心拍数を含む、請求項41に記載の方法。
  43. 前記異常な心拍数が、心室頻拍を含む、請求項42に記載の方法。
  44. 前記判定される心臓の状態が、異所性拍動および心室性期外収縮の少なくとも一方を含む、請求項41に記載の方法。
  45. 被検者の音声サンプルを分析して心臓の挙動を再現する方法であって、
    前記音声サンプルから少なくとも1種類の音声特徴を抽出するステップと、
    前記少なくとも1種類の音声特徴に対する血流の影響を検出するステップと、
    前記検出された影響から、前記心臓の挙動の1つまたは複数のパラメータを再現するステップと、
    を含む、方法。
  46. 前記心臓の挙動が、心細動の発生を含む、請求項45に記載の方法。
  47. 所定の回数よりも多くの心細動の発生を識別するときに、不整脈の心臓の状態の存在を判定するステップ、を含む、請求項46に記載の方法。
  48. 所定の回数よりも少ない心細動の発生を識別するときに、不整脈の心臓の状態の存在を排除するステップ、を含む、請求項46に記載の方法。
  49. 心臓の挙動の前記1つまたは複数のパラメータが、不整脈以外の心臓の状態を示す、請求項45に記載の方法。
  50. 前記1つまたは複数のパラメータが、パルス波の形状を含む、請求項45に記載の方法。
JP2019565085A 2017-02-12 2018-02-12 心疾患を対象とする言葉による定期的なスクリーニング Active JP7353592B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762457914P 2017-02-12 2017-02-12
US62/457,914 2017-02-12
PCT/IL2018/050162 WO2018146690A1 (en) 2017-02-12 2018-02-12 Verbal periodic screening for heart disease

Publications (3)

Publication Number Publication Date
JP2020507437A true JP2020507437A (ja) 2020-03-12
JP2020507437A5 JP2020507437A5 (ja) 2021-03-25
JP7353592B2 JP7353592B2 (ja) 2023-10-02

Family

ID=63107935

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019565085A Active JP7353592B2 (ja) 2017-02-12 2018-02-12 心疾患を対象とする言葉による定期的なスクリーニング

Country Status (7)

Country Link
US (2) US11398243B2 (ja)
EP (1) EP3580754A4 (ja)
JP (1) JP7353592B2 (ja)
KR (1) KR20190113968A (ja)
CN (1) CN110494916A (ja)
IL (1) IL268664B2 (ja)
WO (1) WO2018146690A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7246664B1 (ja) * 2022-06-03 2023-03-28 Pst株式会社 情報処理装置、情報処理方法、情報処理システム、及び情報処理プログラム

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7353592B2 (ja) 2017-02-12 2023-10-02 カーディオコル リミテッド 心疾患を対象とする言葉による定期的なスクリーニング
CN108806720B (zh) * 2017-05-05 2019-12-06 京东方科技集团股份有限公司 话筒、数据处理器、监测系统及监测方法
WO2018220143A1 (en) 2017-05-31 2018-12-06 Foundry Innovation And Research 1, Ltd Implantable ultrasonic vascular sensor
US10643639B2 (en) * 2017-06-21 2020-05-05 Ajit Arun Zadgaonkar System and method for determining cardiac parameters and physiological conditions by analysing speech samples
GB201719734D0 (en) * 2017-10-30 2018-01-10 Cirrus Logic Int Semiconductor Ltd Speaker identification
WO2020044332A1 (en) * 2018-08-26 2020-03-05 Beyond Verbal Communication Ltd System and method for measurement of vocal biomarkers of vitality and biological aging
EP3618061B1 (en) * 2018-08-30 2022-04-27 Tata Consultancy Services Limited Method and system for improving recognition of disordered speech
US11380351B2 (en) * 2018-09-20 2022-07-05 Samsung Electronics Co., Ltd. System and method for pulmonary condition monitoring and analysis
US11311201B2 (en) 2018-11-02 2022-04-26 Samsung Electronics Co., Ltd. Feature selection for cardiac arrhythmia classification and screening
JP2022534541A (ja) * 2019-05-30 2022-08-01 インシュァランス サーヴィシィズ オフィス,インコーポレイテッド 音声属性の機械学習のためのシステム及び方法
US11721358B2 (en) 2019-06-17 2023-08-08 Stichting Imec Nederland System and method for calculating cardiovascular heartbeat information from an electronic audio signal
CN114025675A (zh) * 2019-06-20 2022-02-08 索尼集团公司 信息处理装置、信息处理方法和程序
US11545132B2 (en) * 2019-08-28 2023-01-03 International Business Machines Corporation Speech characterization using a synthesized reference audio signal
CN110974190A (zh) * 2019-11-27 2020-04-10 南京信息工程大学 基于微多普勒特征的心动状况无源感知方法
CN113040778B (zh) * 2019-12-26 2022-07-29 华为技术有限公司 诊断报告生成方法、装置、终端设备及可读存储介质
EP4117510A4 (en) * 2020-03-09 2024-04-24 Cardiokol Ltd. SYSTEMS AND METHODS FOR ESTIMATION OF CARDIAC ARTHROMIA
US11557288B2 (en) * 2020-04-10 2023-01-17 International Business Machines Corporation Hindrance speech portion detection using time stamps
US20220115126A1 (en) * 2020-10-08 2022-04-14 Mastercard International Incorporated System and method for implementing a virtual caregiver
WO2023281515A1 (en) * 2021-07-07 2023-01-12 Cardiokol Ltd Device and system for detecting sounds from a subject's body
CN113488070B (zh) * 2021-09-08 2021-11-16 中国科学院自动化研究所 篡改音频的检测方法、装置、电子设备及存储介质
US20230248321A1 (en) * 2022-02-10 2023-08-10 Gn Hearing A/S Hearing system with cardiac arrest detection
WO2023170632A1 (en) * 2022-03-09 2023-09-14 Foundry Innovation & Research 1, Ltd. Heart failure diagnostic tools and methods using signal trace analysis

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0566774A (ja) * 1991-09-06 1993-03-19 Casio Comput Co Ltd 音声データ生成装置および音声合成装置
JPH05329118A (ja) * 1992-05-31 1993-12-14 Shimadzu Corp 生体データ収集装置
JPH06205847A (ja) * 1992-12-01 1994-07-26 Siemens Ag 植え込み可能な心臓事象検出システム
JPH07284482A (ja) * 1994-04-19 1995-10-31 Isuzu Motors Ltd 心拍変動波形解析方法及び装置
JP2000287943A (ja) * 1999-04-02 2000-10-17 Akira Akimoto 生体の活動状態検知装置
JP2009301125A (ja) * 2008-06-10 2009-12-24 Hitachi Ltd 会議音声録音システム
JP2016043041A (ja) * 2014-08-22 2016-04-04 セイコーエプソン株式会社 生体情報検出装置及び生体情報検出方法

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4156423A (en) * 1977-11-14 1979-05-29 Ernest H. Friedman Coronary atherosclerosis diagnostic method
US4377158A (en) 1979-05-02 1983-03-22 Ernest H. Friedman Method and monitor for voice fluency
JP3093113B2 (ja) 1994-09-21 2000-10-03 日本アイ・ビー・エム株式会社 音声合成方法及びシステム
US7917366B1 (en) 2000-03-24 2011-03-29 Exaudios Technologies System and method for determining a personal SHG profile by voice analysis
DE10022586A1 (de) * 2000-05-09 2001-11-22 Siemens Ag Verfahren zum Erzeugen einer Sprachdatenbank für einen Zielwortschatz zum Trainieren eines Spracherkennungssystems
SE0004221L (sv) * 2000-11-17 2002-04-02 Forskarpatent I Syd Ab Metod och anordning för talanalys
US20030149423A1 (en) * 2002-02-04 2003-08-07 Fischell Robert E. Methods for the detection and treatment of cardiac events
WO2006059325A1 (en) 2004-11-30 2006-06-08 Oded Sarel Method and system of indicating a condition of an individual
US7398213B1 (en) 2005-05-17 2008-07-08 Exaudios Technologies Method and system for diagnosing pathological phenomenon using a voice signal
EP1969589A1 (en) 2005-12-22 2008-09-17 Exaudios Technologies Ltd. System for indicating emotional attitudes through intonation analysis and methods thereof
US7539532B2 (en) * 2006-05-12 2009-05-26 Bao Tran Cuffless blood pressure monitoring appliance
US8784311B2 (en) * 2010-10-05 2014-07-22 University Of Florida Research Foundation, Incorporated Systems and methods of screening for medical states using speech and other vocal behaviors
US9055861B2 (en) 2011-02-28 2015-06-16 Samsung Electronics Co., Ltd. Apparatus and method of diagnosing health by using voice
US9070357B1 (en) * 2011-05-11 2015-06-30 Brian K. Buchheit Using speech analysis to assess a speaker's physiological health
ES2364401B2 (es) 2011-06-27 2011-12-23 Universidad Politécnica de Madrid Método y sistema para la estimación de parámetros fisiológicos de la fonación.
US8755871B2 (en) 2011-11-30 2014-06-17 Covidien Lp Systems and methods for detecting arrhythmia from a physiological signal
CA2883445A1 (en) 2012-09-05 2014-03-13 Countingapp Medical Ltd. System and method for measuring lung capacity and stamina
US9892155B2 (en) 2012-09-06 2018-02-13 Beyond Verbal Communication Ltd System and method for selection of data according to measurement of physiological parameters
CN105263401A (zh) 2013-04-04 2016-01-20 健资国际私人有限公司 用于检测心搏不规律的方法和系统
US9536540B2 (en) 2013-07-19 2017-01-03 Knowles Electronics, Llc Speech signal separation and synthesis based on auditory scene analysis and speech modeling
US10204642B2 (en) * 2013-08-06 2019-02-12 Beyond Verbal Communication Ltd Emotional survey according to voice categorization
US20180233164A1 (en) 2014-09-01 2018-08-16 Beyond Verbal Communication Ltd Social networking and matching communication platform and methods thereof
US11638550B2 (en) * 2015-07-07 2023-05-02 Stryker Corporation Systems and methods for stroke detection
US10127929B2 (en) * 2015-08-19 2018-11-13 Massachusetts Institute Of Technology Assessing disorders through speech and a computational model
CN105147252A (zh) * 2015-08-24 2015-12-16 四川长虹电器股份有限公司 心脏疾病识别及评估方法
WO2017060828A1 (en) * 2015-10-08 2017-04-13 Cordio Medical Ltd. Assessment of a pulmonary condition by speech analysis
US20180303413A1 (en) 2015-10-20 2018-10-25 Healthymize Ltd System and method for monitoring and determining a medical condition of a user
US20180358021A1 (en) * 2015-12-23 2018-12-13 Intel Corporation Biometric information for dialog system
CN110249388A (zh) * 2017-02-03 2019-09-17 皇家飞利浦有限公司 用于检测心房颤动的方法和系统
JP7353592B2 (ja) 2017-02-12 2023-10-02 カーディオコル リミテッド 心疾患を対象とする言葉による定期的なスクリーニング

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0566774A (ja) * 1991-09-06 1993-03-19 Casio Comput Co Ltd 音声データ生成装置および音声合成装置
JPH05329118A (ja) * 1992-05-31 1993-12-14 Shimadzu Corp 生体データ収集装置
JPH06205847A (ja) * 1992-12-01 1994-07-26 Siemens Ag 植え込み可能な心臓事象検出システム
JPH07284482A (ja) * 1994-04-19 1995-10-31 Isuzu Motors Ltd 心拍変動波形解析方法及び装置
JP2000287943A (ja) * 1999-04-02 2000-10-17 Akira Akimoto 生体の活動状態検知装置
JP2009301125A (ja) * 2008-06-10 2009-12-24 Hitachi Ltd 会議音声録音システム
JP2016043041A (ja) * 2014-08-22 2016-04-04 セイコーエプソン株式会社 生体情報検出装置及び生体情報検出方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
KAUR, J., ET AL.: "Extraction of Heart Rate Parameters Using Speech Analysis", INTERNATIONAL JOURNAL OF SCIENCE AND RESEARCH, vol. 3, no. 10, JPN7022000496, October 2014 (2014-10-01), pages 1374 - 1376, XP055747518, ISSN: 0004931673 *
MESLEH, A., ET AL.: "Heart Rate Extraction from Vowel Speech Signals", JOURNAL OF COMPUTER SCIENCE AND TECHNOLOGY, vol. 27, no. 6, JPN6022004524, November 2012 (2012-11-01), pages 1243 - 1451, ISSN: 0004931672 *
SCHULLER, B., ET AL.: "AUTOMATIC RECOGNITION OF PHYSIOLOGICAL PARAMETERS IN THE HUMAN VOICE:HEART RATE AND SKIN CONDUCTANCE", 2013 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH AND SIGNAL PROCESSING, JPN6022004522, 26 May 2013 (2013-05-26), pages 7219 - 7223, XP032509252, ISSN: 0004931671, DOI: 10.1109/ICASSP.2013.6639064 *
SKOPIN, D., ET AL., HEARTBEAT FEATURE EXTRACTION FROM VOWEL SPEECH SIGNAL USING 2D SPECTRUM REPRESENTATION, JPN6022004523, 2009, ISSN: 0004931670 *
TSIARTAS, A., ET AL.: "Prediction of Heart Rate Changes from Speech Features During Interaction with a Misbehaving Dialog S", PROC. INTERSPEECH 2015, JPN6022004521, 2015, pages 3715 - 3719, ISSN: 0004931674 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7246664B1 (ja) * 2022-06-03 2023-03-28 Pst株式会社 情報処理装置、情報処理方法、情報処理システム、及び情報処理プログラム
WO2023233667A1 (ja) * 2022-06-03 2023-12-07 Pst株式会社 情報処理装置、情報処理方法、情報処理システム、及び情報処理プログラム

Also Published As

Publication number Publication date
KR20190113968A (ko) 2019-10-08
JP7353592B2 (ja) 2023-10-02
EP3580754A4 (en) 2020-12-16
WO2018146690A1 (en) 2018-08-16
US11398243B2 (en) 2022-07-26
IL268664B2 (en) 2023-06-01
US20220375491A1 (en) 2022-11-24
CN110494916A (zh) 2019-11-22
EP3580754A1 (en) 2019-12-18
US20190362740A1 (en) 2019-11-28
IL268664A (en) 2019-10-31

Similar Documents

Publication Publication Date Title
JP7353592B2 (ja) 心疾患を対象とする言葉による定期的なスクリーニング
US10796805B2 (en) Assessment of a pulmonary condition by speech analysis
Benba et al. Voiceprints analysis using MFCC and SVM for detecting patients with Parkinson's disease
Krishna et al. Speech synthesis using EEG
Nallanthighal et al. Deep sensing of breathing signal during conversational speech
US11344225B2 (en) Determining apnea-hypopnia index AHI from speech
Kapoor et al. Parkinson’s disease diagnosis using Mel-frequency cepstral coefficients and vector quantization
JP6268628B1 (ja) 認知機能評価装置、認知機能評価システム、認知機能評価方法及びプログラム
US20150154980A1 (en) Cepstral separation difference
Holi Automatic detection of neurological disordered voices using mel cepstral coefficients and neural networks
WO2017135127A1 (ja) 生体音響抽出装置、生体音響解析装置、生体音響抽出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
Rao et al. Automatic prediction of spirometry readings from cough and wheeze for monitoring of asthma severity
Usman et al. Heart rate detection and classification from speech spectral features using machine learning
Karan et al. Detection of Parkinson disease using variational mode decomposition of speech signal
Nathan et al. Extraction of voice parameters from continuous running speech for pulmonary disease monitoring
US20210045656A1 (en) Methods and systems for pulmonary condition assessment
Sengupta et al. Optimization of cepstral features for robust lung sound classification
Bhattacharjee et al. Exploring the role of fricatives in classifying healthy subjects and patients with Amyotrophic Lateral Sclerosis and Parkinson’s Disease
Liu et al. Classifying respiratory sounds using electronic stethoscope
JP2023517175A (ja) 音声録音と体内からの音の聴音を使用した医学的状態の診断
Rao et al. Automatic classification of healthy subjects and patients with essential vocal tremor using probabilistic source-filter model based noise robust pitch estimation
Arora et al. A fusion framework based on cepstral domain features from phonocardiogram to predict heart health status
Krishna et al. Voice Activity Detection in presence of background noise using EEG
US20230309839A1 (en) Systems and methods for estimating cardiac arrythmia
Rybakovas et al. Inverse filtering of speech signal for detection of vocal fold paralysis after thyroidectomy

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7426

Effective date: 20191225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20191226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220208

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220506

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221129

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230815

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230905

R150 Certificate of patent or registration of utility model

Ref document number: 7353592

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150