JP5781926B2 - 音声分類器とマイクロホンを用いる音響患者モニタリング - Google Patents

音声分類器とマイクロホンを用いる音響患者モニタリング Download PDF

Info

Publication number
JP5781926B2
JP5781926B2 JP2011514153A JP2011514153A JP5781926B2 JP 5781926 B2 JP5781926 B2 JP 5781926B2 JP 2011514153 A JP2011514153 A JP 2011514153A JP 2011514153 A JP2011514153 A JP 2011514153A JP 5781926 B2 JP5781926 B2 JP 5781926B2
Authority
JP
Japan
Prior art keywords
acoustic event
acoustic
event signal
patient
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011514153A
Other languages
English (en)
Other versions
JP2011524769A (ja
Inventor
エム アールトス,ロナルト
エム アールトス,ロナルト
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NXP BV
Original Assignee
NXP BV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NXP BV filed Critical NXP BV
Publication of JP2011524769A publication Critical patent/JP2011524769A/ja
Application granted granted Critical
Publication of JP5781926B2 publication Critical patent/JP5781926B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0438Sensor means for detecting
    • G08B21/0461Sensor means for detecting integrated or attached to an item closely associated with the person but not worn by the person, e.g. chair, walking stick, bed sensor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B7/00Instruments for auscultation
    • A61B7/003Detecting lung or respiration noise
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/04Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons
    • G08B21/0407Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis
    • G08B21/043Alarms for ensuring the safety of persons responsive to non-activity, e.g. of elderly persons based on behaviour analysis detecting an emergency event, e.g. a fall
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4806Sleep evaluation

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Business, Economics & Management (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Gerontology & Geriatric Medicine (AREA)
  • Emergency Management (AREA)
  • General Physics & Mathematics (AREA)
  • Epidemiology (AREA)
  • General Business, Economics & Management (AREA)
  • Primary Health Care (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pulmonology (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Psychiatry (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Description

本発明は患者モニタシステムに応用することができる。しかし、言うまでもなく、以下に説明する技術は、他のモニタリングシステム、他の患者治療シナリオ、他のデータ収集技術などにも応用することができる。
バイタルサインを検出し、関連情報を表示するため、多くの患者がモニタされている。病院の重症管理室では、かかるモニタリングにより、患者に付き添っていなくても患者の継続的監視ができるため、患者に対する看護が改善される。リモートモニタリングシステムにより、長いあいだ病院にいなければならない一部の患者は、アシステッドリビングや在宅介護環境に移ることができる。モニタディスプレイはコンピュータモニタに似ており、外見上は同様の技術を用いる。一般的に、モニタの検出エレメントを患者に物理的に接触させ、脈拍、SpCh、血圧などを測定する。また、心電図(ECG)や脳波(EEG)モニタなどの一部のモニタでは、患者と電気的な接触をする。
しかし、場合によっては、患者は即座の処置は必要としないが、後で処置が必要であることを知らせ、または重大なイベントを予知するサインをモニタリングする。かかるサインは、例えば、咳、いびき、さけび、衝撃音などの電気物理モニタにより得られる信号とは異なる。後の2つはてんかん発作の際によく見られるものである。衝撃音は、誰かが、(例えば、発作の際に)ベッドの周辺の家具やベッドそのものをたたいたり、(患者がベッドから落ちたり、トイレの帰りにころんだりして)床などにぶつかった時に生じる。
現在の患者モニタリング手段は電気物理信号のみを用い、そのため、患者が処置を必要とすることを示す、咳、いびき、さけび、衝撃音などのサインを見落としてしまう。信頼できる方法で電気物理信号を測定するシステムは、通常は目障りであり、長期間使用するには適しておらず、不快であり、または患者に対してフレンドリーではない。
本出願は、上記の問題などを解消する、患者をモニタリングし可聴な患者状態情報を収集する、新しくて、改良されたシステムと方法を提供する。
一態様では、患者モニタシステムは、患者が発した音響イベントを検出し、音響イベントを記述する情報を含む信号を生成する1つ以上のマイクロホンと、音響イベント信号にタイムスタンプを押すプロセッサと、各音響イベント信号を複数の音響イベントクラスの1つに分類する分類器とを有する。
他の一態様では、患者のモニタリング方法は、患者が発した音響イベントを検出する段階と、音響イベントに関する情報を含む音響イベント信号にタイムスタンプを押す段階と、特定したシグネチャーの関数として、音響イベントを複数の音響イベントクラスの1つに分類する段階と、分類した音響イベントを、タイムスタンプとともに格納する段階とを有する。
他の一態様では、患者のモニタリング装置は、患者が発した音響イベントを検出する手段と、音響イベントに関する情報を含む音響イベント信号にタイムスタンプを押す手段と、音響イベント信号をフィルタして、音響イベント信号に関連するシグネチャーを特定する手段とを有する。この装置は、さらに、音響イベント信号をデジタル化する手段と、特定したシグネチャーの関数として、音響イベントを、複数の音響イベントクラスの1つに分類する手段とを有する。また、この装置は、分類した音響イベントをタイムスタンプとともに格納する手段と、分類した音響イベントを、それぞれのタイムスタンプとともに、レビューと再生のために表示する手段とを有する。
1つの利点は、医学的に関連のある情報を追加的に収集することができることである。
他の利点は、後でレビューするために音響イベント情報を格納することである。
本イノベーションのさらなる利点は、以下の詳細な説明を読んで理解すれば当業者には明らかになるであろう。
本発明は、様々なコンポーネントとその構成、及び様々なステップとその構成の形を取る。図面は様々な態様を例示することのみを目的とし、本発明を限定するものと解してはならない。
ヘルスケアプロバイダ(例えば、看護師、医師など)によるリアルタイムの、またはその後のレビューのために、患者周辺における音響イベントを検出する患者モニタシステム(PMS)を示す。 レビューのために音響イベント情報をユーザに示すユーザインタフェースを示す。 1つ以上の態様で、本システムを利用する病院環境を示す。
図1は、ヘルスケアプロバイダ(例えば、看護師、医師など)によるリアルタイムの、またはその後のレビューのための、患者11の周辺における音響イベントを検出する、患者モニタシステム(PMS)10を示す。システムは、1つ以上のマイクロホン14を有するアダプティブマイクロホンアレイ12により、患者が発した音声を、控えめかつ患者フレンドリーに検出する。一実施形態では、マイクロホンアレイ12は、各音響イベントの発生源を三角法で測る少なくとも2つのマイクロホンを有するストリップ(例えば、リニア)アレイである。例えば、ストリップアレイは、長さが20cmと40cmの間である。他の一実施形態では、マイクロホンアレイはN個のマイクロホンを有する。ここで、Nは2より大きい整数である。他の一実施形態では、1つのマイクロホンを用いてもよい。
マイクロホン14、アダプティブ(または指向的)マイクロホンアレイ12などは、患者のエリアに向かっている。患者の部屋の外のノイズ、他の患者のノイズ、往来などの外部からの音声は抑制する。一実施形態では、アレイには、好ましくないノイズ(例えば、患者モニタリングエリアのまたはその近くの周辺ノイズ、モニタリングエリアにあるテレビやラジオなどの、患者が発したものではない音響イベント)をキャンセルするアクティブノイズキャンセレーション(ANC)法を利用する、ANCコンポーネント15を含む。アダプティブマイクロホンアレイは、音声通信に用いられるような従来の方法を用いて構成されている。マイクロホンアレイは、患者の部屋中のどこに配置して患者が発した音響イベントを検出してもよい。例えば、アレイは、患者が横になったり寝たりする患者ベッド16の上に取り付けまたは配置してもよい。あるいは、患者の環境に複数の部屋があり、複数のアレイを設けることができる他の一実施形態ではアレイは、天井に取り付けても、壁や天井に埋め込んでも、患者のベッドに取り付けても、患者が持ち歩いてもよい。
咳、いびき、さけび、衝撃音などの音響イベントをマイクロホンにより検出し、介護者が後でレビューしたり、リアルタイムでモニタしたりできる。モニタリングシステムは、病院で患者をモニタするのに使用できるし、家庭でも使用できる。一実施形態では、モニタリングシステムにより、患者の睡眠行動を知り、例えば、患者がいびきをかくか、どのくらい大きく、どのくらいの頻度で患者はいびきをかくかなど(例えば、睡眠時無呼吸症候群などの睡眠障害の診断)調べることができる。他のアプリケーションには、子供や年配者などのモニタリングがある。
マイクロホンアレイ12が検出した音響イベントに関する信号は、メモリ18が記憶し、プロセッサ20が受け取り分析する。プロセッサは、1つ以上のフィルタ22を有する。音響イベント信号はそのフィルタを通して送られ、イベントシグネチャーが検出される。フィルタした信号を、次にデジタイザ24によりデジタル化する。デジタイザは、アナログ・デジタル(A/D)変換器などである。次に、1つ以上の分類器26が、フィルタし、デジタル化した信号を分類して、信号を構成する音響イベント(例えば、咳、うめき声、くしゃみ、いびきなど)を特定する。また、分類器は、分類した音響イベントをさらに分類する、音響イベントのサブクラスを含めることができる。例えば、咳として分類されたイベントは、例えば、ゼーゼーいう咳、喀痰を伴う咳、ガラガラいう咳、空咳などとしてさらに分類できる。
一実施形態では、フィルタ22はバンドパスフィルタであり、プロセッサはゼロ交差、コーナー周波数などのイベントシグネチャーを分析し、異なる音響イベント(例えば、いびき、あくび、咳、大声、衝撃音など)からなる信号パターンを特定する。デジタル化した信号情報は次に分類器により処理される。分類器はメモリ18中のルックアップテーブル28にアクセスし、検出した音響イベントをそれぞれの音響シグネチャーからなるグループに入れる(bin)。分類は、一列のバンドパスフィルタ、平均ゼロ交差時間測定回路、音高モニタ、エネルギーまたは振幅モニタなどを用いて、音楽分類やその他の音声と同様に行う。分類器は、医学的に重要な音声を認識し、通常の背景ノイズを破棄するように予めトレーニングしてもよい。分類器は、追加的なティーチングセッションで微調整して、各患者に適合するようにしてもよい。例えば、分類器は、音響イベントの所望のクラスができるように音楽分類器を修正して、つくってもよい。すなわち、音楽分類器は、歌のレコーディングの特徴やシグネチャーの関数として、歌を異なるクラスやジャンルに分類するものであるが、この音楽分類器を、記述した音響イベントと一致する異なる特徴を分析して、検出した音響イベントをいろいろな音響イベントクラスに分類するように、修正する。
他の一実施形態では、分類器を各患者個人に対してトレーニングする。例えば、看護師その他のヘルスケア技術者は、患者をモニタして、音響イベントが発生したら、その音響イベントがある具体的なイベントクラス(咳、いびき、呼吸、うがい呼吸、叫び声や悲鳴、発話、うめき声、ゴツンという音、げっぷ、鼓腸などを含むが限定はされない)に属することを特定できる。分類器をトレーニングすると、技術者がいなくても患者をモニタすることができる。
他の一実施形態では、患者を所定期間(例えば、夜間)にわたってモニタし、後で技術者がレコーディングをレビューして、異なる音声がそれぞれの音響イベントのクラスに属すると特定する。
さらに他の一実施形態では、ユニバーサル分類器をある範囲の音響イベント音声でトレーニングして、患者ごとのトレーニングはせずに、複数の患者に対して使用する。一変形例では、ユニバーサル分類器を、特定の患者にカスタマイズするようにトレーニングすることもできる。
また、プロセッサ20は、信号を検出すると、その信号にタイムスタンプし、ユーザインタフェース30上に、検出した音響イベントの時間順または組織立てた表示を出力する。例えば、音声を表示するクラスごとにグループ分けして、または、各タイプのノイズのカウントあるいは単位時間あたりのカウントを表示することもできる、などである。特定した音声を中央モニタリング局に送信して、テキストとして保管し、病院データベースに保管し、などができる。次に、ヘルスケアプロバイダが、治療、診断、治療計画などのために、その出力をレビューする。一実施形態では、音声の識別子をテキストとして表示し、ヘルスケアプロバイダは音声を聞くオプションを与えられる。
患者にとって医療的に緊急であると見なせる音声により、介護者、医療関係者、親などへの警報がトリガーされ得る。例えば、悲鳴や叫び声(またはその連続)は、アラームをトリガーするアラームイベントとして指定することができる。追加的、または代替的に、衝撃音の後、所定時間の間に音響イベントが無ければ、アラームをトリガーして、看護師に、患者がベッドから落ちてけがをした可能性があると知らせる。他の実施例では、1つ以上の衝撃音の検出は、患者が発作を起こしていることを示し、アラームをトリガーしてもよい。
他の一実施形態では、分類器をもっとパワフルにするために、分類器への追加的入力を用いて、ベッドまたは患者に接続した加速度計、ベッドの周りの圧力マット、他の患者パラメータまたはバイタルサインモニタリング装置からの信号、カメラなどから取得した信号などを用いることができる。例えば、加速度計が発生する情報を用いて音響イベントを裏付けたり、音響イベントが実際に患者により発せられたことを確認したりできる。
言うまでもなく、ここに記載した様々な機能のどれか、またはすべてを実行する機械実行可能命令を、メモリ18が格納し、プロセッサ20が実行してもよい。
図2は、音響イベント情報をレビューのためにユーザに提示するユーザインタフェース30を示す。ユーザインタフェース30は、ディスプレイ40を含む複数の音響イベント42が、タイムスタンプと分類の後に、テキストとして記述され、ユーザに提示されている。一実施形態では、スライダバー44が設けられ、これによりユーザは、垂直に、また任意的に水平にスクロールして、音響イベントのリストを見ることができる。ユーザは、各音響イベントの隣の選択可能アイコン46をクリックするか、選択して、音響イベントをフィルタしてデジタル化したものを聞くことができる。
追加的、または代替的に、ナビゲーション矢印48をユーザインタフェース上に設け、ユーザを時間順になった音響イベント中をナビゲートする。次にユーザは、セグメント再生ボタンまたはアイコン50を選択、クリック、押下などして、音響イベントを聞く。
一実施例では、表示したセグメント、音響イベントの時間順リスト42は、個々にタイムスタンプされたイベントを含む。例えば、「いびき」や「咳」と分類されたイベント、及び「叫び声」、「ゴツンという音」、「うがい呼吸」イベントなどを示した。一実施形態では、同様の連続的音響イベントをグループ化して、ユーザへのプレゼンテーションを改善する。例えば、システムが、23:27:45から23:30:52までの間に、いびきと分類される音響イベントを検出し、その時間中に他のタイプの音響イベントが分類されなければ、その複数の音響イベントは一セットとしてグループ化され、連続したイベントの期間にわたるいびきの期間として表示される。ユーザは、その音響イベントのグループのアイコン46を選択して、その期間全体を聞き、または音響イベントのグループのテキストによる記述を選択して、グループ内の個別のイベントを見て、任意的に個々のイベントを聞くことができる。
他の一実施形態では、ユーザが、音響イベント分類の曖昧性を解決することができる。例えば、ある音響イベントが23:55:47に発生し、いびきと咳の両方として分類されたとする。ユーザは、再生アイコン46またはセグメント再生アイコン50を選択して、そのイベントに関連する音声をレビューでき、(例えば、ディスプレイ40で「いびき」または「咳」を選択することにより)ユーザが正しいと思う方の音響イベントを示すことができる。他の一実施形態では、あいまい性はプロセッサにより自動的に解決される。
追加的、または代替的に、分類した音響イベントをクラスによりグループ化し、レビューのためにディスプレイに出力する。例えば、すべての咳イベントをいっしょに提示でき、ユーザは個々のイベント、すなわちアイコン46または50をクリックして、咳の実際のレコーディングをレビューできる。個々のイベントにタイムスタンプして、レビューする人に時間的順序関係を決定させることができる。
図3は、1つ以上の態様で、1つ以上のPMS10が使用される病院環境を示す。複数の患者モニタシステム10がネットワークバス60に結合している。PMSとバスとの間の接続は有線でも無線でもよい。例えば、1つ以上のPMSが送信器(図示せず)を含み、それが音響イベント情報を、バスに結合したトランシーバ62に伝送する。例えば、無線PMSは、ブルートゥース(登録商標)、Zigbee(登録商標)、WiFi(登録商標)、赤外線(IR)、その他の好適な無線通信プロトコルを用いて、トランシーバと通信できる。
各PMSからの音響イベント情報は、中央メモリ64に格納される。中央プロセッサ66は、ワークステーション68のユーザによる要求に応じて、中央メモリにアクセスして、ある患者またはPMSの音響イベント情報を読み出す。ワークステーションは、ユーザインタフェース30を有する。これは、前出の図面のユーザインタフェースと同様または同一のものであってもよい。一実施形態では、各PMS10において、検出した音響イベントをフィルタし、デジタル化し、分類し、タイムスタンプを押し、グループ化してもよく、各患者の音響イベント記録は、各PMSにあるメモリに加え、中央メモリ64に格納される。
他の一実施形態では、フィルタリング、デジタル化、分類、タイムスタンプ、グループ化などのステップのうち1つ以上が中央プロセッサ66により実行される。例えば、中央プロセッサは、PMS10の機能を実行するのに必要などの、及びすべての回路(例えば、フィルタ、デジタイザ、分類器など)を含み得る。この実施形態では、(例えば、送信器を有する)マイクロホンアレイのみを患者の部屋に配置すればよく、検出した音響イベントを表す信号は処理のために中央メモリとプロセッサプロセッサに送信される。
他の一実施形態では、PMS10及び/または中央プロセッサ66は、緊急事態を示す一連の音響イベントなどのアラート状態を検出する。例えば、叫び声とゴツンという音よりなる一連の検出した音響イベントは患者がベッドから落ちたことを示し、ワークステーションのアラーム70をトリガーして、他のヘルスケアプロバイダの看護師に検出したPMSがモニタしている患者をすぐに見る必要があることを警告する。アラームをトリガーする音響イベントは、後でレビューするために、(例えば、PMSでローカルに、及び/または中央メモリで集中的に)ログを取られる。
他の一実施形態では、患者を治療したり診断したりする時に参照するため、各患者の音響イベントファイルを、例えば病院のデータベースなど、中央メモリに格納する。
実施形態を参照して本発明を説明した。前述の詳細な説明を読んで理解すれば、修正と変更に想到することができる。本発明は、添付した請求項とその均等の範囲内に入るこのような修正及び変更はすべて含むものと解釈しなければならない。

Claims (9)

  1. 患者が発した音響イベントを検出し、前記音響イベントを記述する情報を含む信号を発生する1つ以上のマイクロホンと、
    前記音響イベント信号にタイムスタンプするプロセッサと、
    前記音響イベント信号に関連する音響イベントシグネチャーを検出する、バンドパスフィルタを含む1つ以上のフィルタと、
    各音響イベント信号を複数の音響イベントクラスのうちの1つに分類する分類器と
    を有し、
    前記音響イベントシグネチャーは前記音響イベント信号の平均ゼロ交差時間、周波数、1つ以上のコーナー周波数、及び音高のうち少なくとも1つを含み、
    1つ以上の分類した音響イベントのタイムスタンプとテキストによる記述をユーザに提示するグラフィカルディスプレイを有するユーザインタフェースをさらに含み、
    前記ディスプレイは、さらに、
    前記1つ以上の表示した分類した音響イベント中をナビゲーションする手段と、
    前記音響イベントの録音されたオーディオファイルを選択及び再生する手段と
    を含む、
    患者モニタシステム。
  2. 患者が発したものでない音響イベント音声を抑制するアクティブノイズキャンセレーションコンポーネントをさらに有する、請求項1に記載のシステム。
  3. 前記音響イベントクラスは、咳、いびき、大声、うめき声、衝撃音、くしゃみ、げっぷ、言葉のうち少なくとも1つを含む、患者が発した音声のクラスを含む、請求項1または2に記載のシステム。
  4. 前記音響イベント信号をデジタル化するデジタイザをさらに有する、請求項1ないし3いずれか一項に記載のシステム。
  5. 記録した音響イベントオーディオファイル、タイムスタンプ、音響イベント信号、フィルタした音響イベント信号、デジタル化した音響イベント信号、または分類した音響イベント信号のうち1つ以上を記憶するメモリをさらに有する、請求項1ないし4いずれか一項に記載のシステム。
  6. 前記メモリは、前記プロセッサにより実行される、コンピュータ実行可能命令を格納し、
    前記音響イベント信号を受信し、
    前記受信した音響イベント信号にタイムスタンプし、
    前記音響イベントのオーディオレコーディングを格納し、
    前記音響イベント信号をフィルタして、前記音響イベント信号に関連するシグネチャーを特定し、
    前記音響イベント信号をデジタル化し、
    前記特定したシグネチャーの関数として、前記音響イベント信号を複数の音響イベントクラスの1つに分類し、
    分類した音響イベントを、それぞれのタイムスタンプとともに格納し、
    前記分類した音響イベントを、それぞれのタイムスタンプとともに、レビューと再生のために表示する命令を含む、請求項に記載のシステム。
  7. 患者のモニタリング方法であって、
    前記患者が発した音響イベントを検出する段階と、
    前記音響イベントに関する情報を含む音響イベント信号にタイムスタンプする段階と、
    前記音響イベント信号をフィルタする一列のバンドパスフィルタを使って前記音響イベント信号をフィルタして、前記音響イベント信号と関連するシグネチャーを特定する段階と、
    前記特定したシグネチャーの関数として、前記音響イベントを、複数の音響イベントクラスの1つに分類する段階と、
    分類した音響イベントを、前記タイムスタンプとともに格納する段階とを含み、
    前記音響イベント信号と関連するシグネチャーを特定する段階は、前記音響イベント信号のコーナー周波数、音高、周波数、ゼロ交差時間のうち1つ以上を特定する段階を含み、
    前記分類した音響イベントを、それぞれのタイムスタンプとともに、レビューと再生のために表示する段階と、
    ユーザによる再生のために、読み出し可能な音響イベントのオーディオレコーディングを格納する段階と、
    選択されたとき、前記オーディオレコーディングの前記ユーザへの再生をトリガーする選択可能なアイコンを前記ユーザに表示する段階と
    をさらに含む、
    方法。
  8. 前記音響イベント信号をデジタル化する段階をさらに含む、請求項に記載の方法。
  9. 前記音響イベントを検出するとき、アクティブノイズキャンセレーションを用いて、周辺の音声を抑制する段階をさらに含む、請求項に記載の方法。
JP2011514153A 2008-06-17 2009-05-29 音声分類器とマイクロホンを用いる音響患者モニタリング Active JP5781926B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US7305008P 2008-06-17 2008-06-17
US61/073,050 2008-06-17
PCT/IB2009/052287 WO2009153681A1 (en) 2008-06-17 2009-05-29 Acoustical patient monitoring using a sound classifier and a microphone

Publications (2)

Publication Number Publication Date
JP2011524769A JP2011524769A (ja) 2011-09-08
JP5781926B2 true JP5781926B2 (ja) 2015-09-24

Family

ID=41055278

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011514153A Active JP5781926B2 (ja) 2008-06-17 2009-05-29 音声分類器とマイクロホンを用いる音響患者モニタリング

Country Status (5)

Country Link
US (1) US10269228B2 (ja)
EP (1) EP2299910B1 (ja)
JP (1) JP5781926B2 (ja)
CN (1) CN102088911B (ja)
WO (1) WO2009153681A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021243332A1 (en) * 2020-05-29 2021-12-02 Lifeq B.V. System and method for detecting coughs from sensor data

Families Citing this family (88)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101894551B (zh) * 2010-07-02 2012-05-09 华南理工大学 一种咳嗽自动识别装置
US8784311B2 (en) * 2010-10-05 2014-07-22 University Of Florida Research Foundation, Incorporated Systems and methods of screening for medical states using speech and other vocal behaviors
US8617082B2 (en) 2011-05-19 2013-12-31 Medtronic, Inc. Heart sounds-based pacing optimization
US20120296387A1 (en) 2011-05-19 2012-11-22 Xusheng Zhang Phrenic nerve stimulation detection using heart sounds
US8777874B2 (en) * 2011-05-24 2014-07-15 Medtronic, Inc. Acoustic based cough detection
WO2012164482A1 (en) * 2011-05-30 2012-12-06 Koninklijke Philips Electronics N.V. Apparatus and method for the detection of the body position while sleeping
WO2012162740A1 (en) * 2011-05-31 2012-12-06 Sonomedical Pty Ltd Electronic monitoring system for the production of data packages for analytic and diagnostic purposes
US20130127620A1 (en) 2011-06-20 2013-05-23 Cerner Innovation, Inc. Management of patient fall risk
US9489820B1 (en) * 2011-07-12 2016-11-08 Cerner Innovation, Inc. Method for determining whether an individual leaves a prescribed virtual perimeter
US10546481B2 (en) * 2011-07-12 2020-01-28 Cerner Innovation, Inc. Method for determining whether an individual leaves a prescribed virtual perimeter
US9129506B1 (en) * 2011-07-12 2015-09-08 CERNER INNOVATION, INC. a Delaware Corporation Method and process for determining whether an individual suffers a fall requiring assistance
US9159215B1 (en) * 2011-07-12 2015-10-13 Cerner Innovation, Inc. Method for determining whether an individual leaves a prescribed virtual perimeter
US9741227B1 (en) * 2011-07-12 2017-08-22 Cerner Innovation, Inc. Method and process for determining whether an individual suffers a fall requiring assistance
IN2014CN02551A (ja) * 2011-10-17 2015-08-07 Koninkl Philips Nv
IN2014CN02549A (ja) * 2011-10-17 2015-07-31 Koninkl Philips Nv
US20140003614A1 (en) * 2011-12-12 2014-01-02 Alex Levitov Neonatal incubator
CN103169474B (zh) * 2011-12-20 2016-05-18 博伊雷尔有限责任公司 移动式监测、分析和治疗辅助仪器
US8743200B2 (en) * 2012-01-16 2014-06-03 Hipass Design Llc Activity monitor
US8886311B2 (en) 2012-01-27 2014-11-11 Medtronic, Inc. Techniques for mitigating motion artifacts from implantable physiological sensors
EP2636371B1 (en) * 2012-03-09 2016-10-19 Sony Mobile Communications AB Activity classification
CN110353685B (zh) * 2012-03-29 2022-03-04 昆士兰大学 用于处理患者声音的方法与装置
JP5960518B2 (ja) * 2012-06-04 2016-08-02 鉄男 菊池 健康管理装置
US10446003B2 (en) 2012-10-16 2019-10-15 Huntleigh Technology Limited System and methods for monitoring and entrapment prevention for a person disposed in a bed
CN104853671B (zh) * 2012-12-17 2019-04-30 皇家飞利浦有限公司 使用非干扰性音频分析生成信息的睡眠呼吸暂停诊断系统
US20140260667A1 (en) * 2013-03-13 2014-09-18 Amphenol Corporation Systems and methods for acoustic detection using flow sensors
US20140276227A1 (en) * 2013-03-14 2014-09-18 Aliphcom Sleep management implementing a wearable data-capable device for snoring-related conditions and other sleep disturbances
CN103300960A (zh) * 2013-05-29 2013-09-18 范军 一种共振发声止鼾枕头
KR102195897B1 (ko) * 2013-06-05 2020-12-28 삼성전자주식회사 음향 사건 검출 장치, 그 동작 방법 및 그 동작 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터 판독 가능 기록 매체
WO2015006694A1 (en) * 2013-07-12 2015-01-15 University Of Iowa Research Foundation Augmentative and alternative communication
JP6431072B2 (ja) * 2013-09-09 2018-11-28 ブレイン センティネル インコーポレイテッドBrain Sentinel,Inc. オーディオ特徴を含む発作を検出する装置およびその作動方法
WO2015062896A1 (en) 2013-11-01 2015-05-07 Koninklijke Philips N.V. Apparatus and method for acoustic alarm detection and validation
US10096223B1 (en) 2013-12-18 2018-10-09 Cerner Innovication, Inc. Method and process for determining whether an individual suffers a fall requiring assistance
EP2892037B1 (en) * 2014-01-03 2017-05-03 Alcatel Lucent Server providing a quieter open space work environment
US10078956B1 (en) 2014-01-17 2018-09-18 Cerner Innovation, Inc. Method and system for determining whether an individual takes appropriate measures to prevent the spread of healthcare-associated infections
US9729833B1 (en) 2014-01-17 2017-08-08 Cerner Innovation, Inc. Method and system for determining whether an individual takes appropriate measures to prevent the spread of healthcare-associated infections along with centralized monitoring
US10225522B1 (en) 2014-01-17 2019-03-05 Cerner Innovation, Inc. Method and system for determining whether an individual takes appropriate measures to prevent the spread of healthcare-associated infections
US10656906B2 (en) * 2014-09-23 2020-05-19 Levaughn Denton Multi-frequency sensing method and apparatus using mobile-based clusters
US11150868B2 (en) 2014-09-23 2021-10-19 Zophonos Inc. Multi-frequency sensing method and apparatus using mobile-clusters
US11068234B2 (en) 2014-09-23 2021-07-20 Zophonos Inc. Methods for collecting and managing public music performance royalties and royalty payouts
CN105596007B (zh) * 2014-11-24 2019-07-26 张湘民 鼾声体位微型记录仪
US10090068B2 (en) 2014-12-23 2018-10-02 Cerner Innovation, Inc. Method and system for determining whether a monitored individual's hand(s) have entered a virtual safety zone
US10524722B2 (en) 2014-12-26 2020-01-07 Cerner Innovation, Inc. Method and system for determining whether a caregiver takes appropriate measures to prevent patient bedsores
US20160224839A1 (en) * 2015-02-04 2016-08-04 Caduceus Wireless, Inc. System to determine events in a space
US10091463B1 (en) 2015-02-16 2018-10-02 Cerner Innovation, Inc. Method for determining whether an individual enters a prescribed virtual zone using 3D blob detection
JP6535186B2 (ja) * 2015-03-05 2019-06-26 旭化成株式会社 呼吸状態判定装置、機器の作動方法、およびプログラム
GB2538043B (en) * 2015-03-09 2017-12-13 Buddi Ltd Activity monitor
US9814817B2 (en) * 2015-03-27 2017-11-14 Fresenius Medical Care Holdings, Inc. Adjusting sound on a medical device
CN104766093B (zh) * 2015-04-01 2018-02-16 中国科学院上海微系统与信息技术研究所 一种基于麦克风阵列的声目标分类方法
US10342478B2 (en) 2015-05-07 2019-07-09 Cerner Innovation, Inc. Method and system for determining whether a caretaker takes appropriate measures to prevent patient bedsores
US9892611B1 (en) 2015-06-01 2018-02-13 Cerner Innovation, Inc. Method for determining whether an individual enters a prescribed virtual zone using skeletal tracking and 3D blob detection
US9899035B2 (en) * 2015-11-04 2018-02-20 Ioannis Kakadiaris Systems for and methods of intelligent acoustic monitoring
US10568525B1 (en) 2015-12-14 2020-02-25 Fitbit, Inc. Multi-wavelength pulse oximetry
US10825464B2 (en) 2015-12-16 2020-11-03 Dolby Laboratories Licensing Corporation Suppression of breath in audio signals
US10417385B2 (en) * 2015-12-31 2019-09-17 Cerner Innovation, Inc. Methods and systems for audio call detection
US10878220B2 (en) 2015-12-31 2020-12-29 Cerner Innovation, Inc. Methods and systems for assigning locations to devices
US10706706B2 (en) * 2016-01-27 2020-07-07 Caduceus Wireless, Inc. System to determine events in a space
EP3223253A1 (en) * 2016-03-23 2017-09-27 Thomson Licensing Multi-stage audio activity tracker based on acoustic scene recognition
CN105962894B (zh) * 2016-04-25 2018-10-23 东北大学 一种基于鼾声的睡眠打鼾时头部姿态实时识别装置及方法
EP3264734B1 (en) * 2016-06-30 2022-03-02 Nokia Technologies Oy Controlling audio signal parameters
US10475530B2 (en) * 2016-11-10 2019-11-12 Sonde Health, Inc. System and method for activation and deactivation of cued health assessment
EP3562402B1 (en) * 2016-12-28 2021-07-14 Koninklijke Philips N.V. Method of characterizing sleep disordered breathing
CN106847262A (zh) * 2016-12-28 2017-06-13 华中农业大学 一种猪呼吸道疾病自动识别报警方法
US10147184B2 (en) 2016-12-30 2018-12-04 Cerner Innovation, Inc. Seizure detection
WO2018141013A2 (en) 2017-02-01 2018-08-09 ResApp Health Limited Methods and apparatus for cough detection in background noise environments
US9928712B1 (en) 2017-05-05 2018-03-27 Frederick Huntington Firth Clark System and method for remotely monitoring a medical device
CN107595259B (zh) * 2017-09-19 2021-06-08 广东小天才科技有限公司 一种报警方法、装置、穿戴设备及存储介质
FI20175862A1 (fi) 2017-09-28 2019-03-29 Kipuwex Oy Järjestelmä äänilähteen määrittämiseksi
KR20190053055A (ko) 2017-11-09 2019-05-17 삼성전자주식회사 음원 취득 장치를 이용한 설비 고장 위치 판단 방법 및 이를 수행하는 설비 고장 위치 판단 시스템
EP3709881A1 (en) 2017-11-17 2020-09-23 Koninklijke Philips N.V. Cough detection in a respiratory support system
EP4275664A3 (en) * 2017-12-28 2024-04-03 Sleep Number Corporation Bed having snore detection feature
US10643446B2 (en) 2017-12-28 2020-05-05 Cerner Innovation, Inc. Utilizing artificial intelligence to detect objects or patient safety events in a patient room
US10482321B2 (en) 2017-12-29 2019-11-19 Cerner Innovation, Inc. Methods and systems for identifying the crossing of a virtual barrier
JP6847875B2 (ja) * 2018-01-24 2021-03-24 インテル コーポレイション ウェアラブルコンピュータ装置
US10580288B2 (en) * 2018-06-12 2020-03-03 Blackberry Limited Alert fault detection system and method
US11298101B2 (en) 2018-08-31 2022-04-12 The Trustees Of Dartmouth College Device embedded in, or attached to, a pillow configured for in-bed monitoring of respiration
JP2022001967A (ja) * 2018-09-11 2022-01-06 ソニーグループ株式会社 音響イベント認識装置
US10922936B2 (en) 2018-11-06 2021-02-16 Cerner Innovation, Inc. Methods and systems for detecting prohibited objects
JP7233682B2 (ja) * 2018-11-12 2023-03-07 エア・ウォーター・バイオデザイン株式会社 処理装置、処理方法、システム、およびプログラム
US10706329B2 (en) 2018-11-13 2020-07-07 CurieAI, Inc. Methods for explainability of deep-learning models
CA3084189C (en) * 2019-05-23 2021-03-23 Zophonos Inc. Multi-frequency sensing method and apparatus using mobile-clusters
CN111012306B (zh) * 2019-11-19 2022-08-16 南京理工大学 基于双神经网络的睡眠呼吸声检测方法及系统
EP4076177A4 (en) * 2019-12-16 2023-12-20 Pfizer Inc. METHOD AND DEVICE FOR AUTOMATIC COUGH DETECTION
US20210196194A1 (en) * 2019-12-25 2021-07-01 Koninklijke Philips N.V. Unobtrusive symptoms monitoring for allergic asthma patients
GB2588848B (en) * 2020-09-22 2021-11-17 Myqol Ltd Assisted living monitor and monitoring system
DE102021105311A1 (de) * 2021-03-05 2022-09-08 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren und Vorrichtung zur Müdigkeitserkennung
GB2615891A (en) * 2022-01-14 2023-08-23 Mayborn Uk Ltd Monitor
NL2031603B1 (en) * 2022-04-15 2023-11-06 Enerjoy Ltd Method and system for processing sound data, cloud server and sound collection device
EP4350701A1 (en) 2022-10-07 2024-04-10 SIVA Health AG Classifying individuals suffering from chronic cough

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5213108A (en) * 1988-02-04 1993-05-25 Blood Line Technology, Inc. Visual display stethoscope
GB2240392A (en) 1990-01-17 1991-07-31 Rory Joseph Donnelly Acoustic monitor for vital functions
US5797852A (en) 1993-02-04 1998-08-25 Local Silence, Inc. Sleep apnea screening and/or detecting apparatus and method
US6056703A (en) * 1996-04-03 2000-05-02 Rush Presbyterian-St Luke's Medical Center Method and apparatus for characterizing gastrointestinal sounds
US6168568B1 (en) * 1996-10-04 2001-01-02 Karmel Medical Acoustic Technologies Ltd. Phonopneumograph system
US20020013538A1 (en) * 1997-09-30 2002-01-31 David Teller Method and apparatus for health signs monitoring
US6201476B1 (en) * 1998-05-06 2001-03-13 Csem-Centre Suisse D'electronique Et De Microtechnique S.A. Device for monitoring the activity of a person and/or detecting a fall, in particular with a view to providing help in the event of an incident hazardous to life or limb
US6171258B1 (en) 1998-10-08 2001-01-09 Sleep Solutions, Inc. Multi-channel self-contained apparatus and method for diagnosis of sleep disorders
US6063043A (en) * 1998-11-05 2000-05-16 Old Dominion University Research Foundation Acoustic vesicoureteral reflux diagnostic system
US6416471B1 (en) 1999-04-15 2002-07-09 Nexan Limited Portable remote patient telemonitoring system
AU7111400A (en) 1999-09-02 2001-03-26 University Of Virginia Patent Foundation System and method for the diagnosis of respiratory disorders
AU7845900A (en) * 1999-09-29 2001-04-30 Siemens Corporate Research, Inc. Multi-modal cardiac diagnostic decision support system and method
JP2003038460A (ja) * 2001-08-03 2003-02-12 Mitsubishi Pharma Corp 咳嗽音検出装置、咳嗽音検出方法、咳嗽音検出プログラム及び情報記憶媒体
JP4151839B2 (ja) * 2003-03-05 2008-09-17 新倉計量器株式会社 痰詰り検出装置
US7077810B2 (en) 2004-02-05 2006-07-18 Earlysense Ltd. Techniques for prediction and monitoring of respiration-manifested clinical episodes
US7314451B2 (en) 2005-04-25 2008-01-01 Earlysense Ltd. Techniques for prediction and monitoring of clinical episodes
US7319457B2 (en) * 2004-02-12 2008-01-15 Sentelic Corporation Method of scrolling window screen by means of controlling electronic device
DE102004033907A1 (de) 2004-07-14 2006-02-09 Richter, Udo G., Dr. Vorrichtung zur Schlafüberwachung
US7173525B2 (en) 2004-07-23 2007-02-06 Innovalarm Corporation Enhanced fire, safety, security and health monitoring and alarm response method, system and device
US7170404B2 (en) 2004-07-23 2007-01-30 Innovalarm Corporation Acoustic alert communication system with enhanced signal to noise capabilities
US7914468B2 (en) * 2004-09-22 2011-03-29 Svip 4 Llc Systems and methods for monitoring and modifying behavior
US7717110B2 (en) * 2004-10-01 2010-05-18 Ric Investments, Llc Method and apparatus for treating Cheyne-Stokes respiration
US20060212273A1 (en) * 2005-03-04 2006-09-21 Individual Monitoring Systems.Inc. Real-time snoring assessment apparatus and method
WO2006110630A2 (en) * 2005-04-07 2006-10-19 Safety Dynamics, Inc. Real time acoustic event location and classification system with camera display
WO2006133548A1 (en) * 2005-06-13 2006-12-21 Braebon Medical Corporation Sleep disorder monitoring and diagnostic system
CN100514445C (zh) 2005-09-13 2009-07-15 南京大学 虚拟声屏障
DE102005053109A1 (de) 2005-11-04 2007-05-10 Koehler, Ullrich, Prof. Dr. Körpergeräusch-Feststellung
US7806833B2 (en) * 2006-04-27 2010-10-05 Hd Medical Group Limited Systems and methods for analysis and display of heart sounds
US20080114266A1 (en) * 2006-10-27 2008-05-15 Albert Shen Inner-Body Sound Monitor and Storage
US20080120784A1 (en) 2006-11-28 2008-05-29 General Electric Company Smart bed system and apparatus
ATE535194T1 (de) * 2006-12-11 2011-12-15 Deepbreeze Ltd Verfahren und system zur analyse von körpergeräuschen
US20080243007A1 (en) * 2007-03-28 2008-10-02 Cardiac Pacemakers, Inc. Pulmonary Artery Pressure Signals And Methods of Using
US20080243016A1 (en) * 2007-03-28 2008-10-02 Cardiac Pacemakers, Inc. Pulmonary Artery Pressure Signals And Methods of Using
US8352629B2 (en) * 2009-03-26 2013-01-08 25-Seven Systems, Inc. Media stream capture, modification, and forwarding
US8758262B2 (en) * 2009-11-25 2014-06-24 University Of Rochester Respiratory disease monitoring system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021243332A1 (en) * 2020-05-29 2021-12-02 Lifeq B.V. System and method for detecting coughs from sensor data

Also Published As

Publication number Publication date
WO2009153681A1 (en) 2009-12-23
JP2011524769A (ja) 2011-09-08
EP2299910A1 (en) 2011-03-30
EP2299910B1 (en) 2016-08-03
US10269228B2 (en) 2019-04-23
CN102088911B (zh) 2014-10-29
CN102088911A (zh) 2011-06-08
US20110087079A1 (en) 2011-04-14

Similar Documents

Publication Publication Date Title
JP5781926B2 (ja) 音声分類器とマイクロホンを用いる音響患者モニタリング
JP6158815B2 (ja) 医療環境における音分析に基づくメディカルフィードバックシステム
US9659149B2 (en) Medical monitoring system based on sound analysis in a medical environment
Ren et al. Fine-grained sleep monitoring: Hearing your breathing with smartphones
CN110051380B (zh) 对人体状态进行连续实时监测的系统和方法
JP5991388B2 (ja) 安否監視装置
US20180177432A1 (en) Apparatus and method for detection of breathing abnormalities
JP2006095263A (ja) 医療機器監視装置
WO2015063834A1 (ja) 信号処理装置及び方法、並びにコンピュータプログラム及び記録媒体
AU2019268409B2 (en) Method and apparatus for determining potential onset of an acute medical condition
KR20170082951A (ko) 환자 객담을 확인할 수 있는 환자 감시 장치
EP1389063B1 (en) Electronic monitoring system
TWM446374U (zh) 咳嗽記錄裝置
Ariani et al. The development of cyber-physical system in health care industry
Dutta et al. Reliable, real-time, low cost cardiac health monitoring system for affordable patient care
AU2002308400B2 (en) Electronic monitoring system
Kochan Pediatric Respiratory Analysis
AU2002308400A1 (en) Electronic monitoring system
JP2016122420A (ja) 介護管理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131008

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20131227

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150623

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150716

R150 Certificate of patent or registration of utility model

Ref document number: 5781926

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250