WO2019216320A1 - 機械学習装置、解析装置、機械学習方法および解析方法 - Google Patents

機械学習装置、解析装置、機械学習方法および解析方法 Download PDF

Info

Publication number
WO2019216320A1
WO2019216320A1 PCT/JP2019/018287 JP2019018287W WO2019216320A1 WO 2019216320 A1 WO2019216320 A1 WO 2019216320A1 JP 2019018287 W JP2019018287 W JP 2019018287W WO 2019216320 A1 WO2019216320 A1 WO 2019216320A1
Authority
WO
WIPO (PCT)
Prior art keywords
sound
acoustic data
unit
machine learning
segment
Prior art date
Application number
PCT/JP2019/018287
Other languages
English (en)
French (fr)
Inventor
崇宏 榎本
裕樹 合嶋
竜之介 佐藤
正武 芥川
Original Assignee
国立大学法人徳島大学
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 国立大学法人徳島大学 filed Critical 国立大学法人徳島大学
Priority to JP2020518303A priority Critical patent/JP7197922B2/ja
Publication of WO2019216320A1 publication Critical patent/WO2019216320A1/ja

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B10/00Other methods or instruments for diagnosis, e.g. instruments for taking a cell sample, for biopsy, for vaccination diagnosis; Sex determination; Ovulation-period determination; Throat striking implements
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B7/00Instruments for auscultation
    • A61B7/02Stethoscopes
    • A61B7/04Electric stethoscopes
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/15Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being formant information
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/18Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/24Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being the cepstrum

Definitions

  • the present invention relates to a technique for automatically extracting or classifying a biological sound from acoustic data in an environment where a signal-to-noise ratio is deteriorated.
  • gastrointestinal motility is a major problem in QOL and daily eating habits.
  • Functional gastrointestinal disorders (FGIDs: Functional gastrointestinal disorders) that cause stomach sag and pain due to disturbances in the gastrointestinal motor function due to stress and the like are an example.
  • Such diagnosis of intestinal diseases is performed by evaluating gastrointestinal motility.
  • X-ray examination and endoscopy are performed as a means of measuring gastrointestinal motility, but the burden on the patient's mind and body and money is large, and large-scale examination equipment is required. Not suitable for.
  • Non-patent Document 1 discloses a method of automatically extracting BS from recording data acquired by an electronic stethoscope and evaluating the intestinal motility function.
  • Non-Patent Document 3 discloses that intestinal motility can be evaluated based on BS even when acquired using a non-contact microphone, as in the case of using an electronic stethoscope.
  • Non-Patent Document 3 it took a lot of time to perform careful labeling work in order to manually extract the BS from the recording data acquired by the non-contact microphone.
  • Microphone-based sensors eg, electronic stethoscopes and microphones
  • BS recorded with a non-contact microphone has a lower sound pressure than BS obtained directly from the body surface with an electronic stethoscope.
  • the sound other than the BS is louder than the recording of the electronic stethoscope and may be mixed. Therefore, in order to save the labor and time-consuming BS labeling work, it is necessary to construct a BS extraction system that is robust against noise.
  • the present invention has been made to solve the above problems, and an object of the present invention is to accurately extract or classify a biological sound from noisy acoustic data.
  • the present inventors have found that the above problem can be solved by using a prediction algorithm that is machine-learned with noise-resistant feature amounts, and have completed the present invention.
  • the present invention includes the following aspects.
  • Item 1 A machine learning device that learns a prediction algorithm for predicting whether biological sound is included in acoustic data, An acoustic data acquisition unit for acquiring acoustic data obtained from the subject by the sound collector; A body sound determination unit that determines whether or not the body sound is included in the acoustic data according to a user operation; A feature quantity extraction unit for extracting feature quantities in the acoustic data; A learning unit that learns the prediction algorithm based on the determination result of the biological sound determination unit and the feature amount; With The feature amount includes PNCC, MFCC, ⁇ PNCC, ⁇ PNCC, ⁇ MFCC, ⁇ MFCC, BSF, formant related features, pitch related features, LPC coefficient, spectral flatness, logarithmic energy, sound interval.
  • a machine learning device including at least one of an index based on a duration, a ZCR, and an entropy, and a statistic thereof.
  • Item 2. Item 2. The machine learning device according to Item 1, wherein the biological sound is intestinal peristaltic sound.
  • Item 3. Item 3.
  • Item 4. Item 4. The machine learning device according to any one of Items 1 to 3, wherein the feature amount includes at least one of BSF and a statistic thereof.
  • Item 6. Item 6.
  • the machine learning device according to any one of Items 1 to 5, wherein the learning unit includes an artificial neural network (ANN).
  • Item 7. Item 7. The machine learning device according to any one of Items 1 to 6, wherein the sound collecting device is a non-contact microphone.
  • Item 8. A segment detection unit for detecting a plurality of segments from the acoustic data acquired by the acoustic data acquisition unit; The biological sound determination unit determines whether or not the biological sound is included in each segment according to a user operation, The feature amount extraction unit extracts a feature amount in each segment, Item 8. The machine learning device according to any one of Items 1 to 7, wherein the learning unit learns the prediction algorithm based on the feature amount in each segment and a determination result by the biological sound determination unit.
  • Item 9. Item 9.
  • the machine learning device wherein the segment detection unit detects a segment having an SNR of a predetermined value or more.
  • the acoustic data further includes a classification determination unit that determines the type of the biological sound according to a user operation, Item 10.
  • the machine learning device according to any one of Items 1 to 9, wherein the learning unit further learns the prediction algorithm based on the type of the body sound.
  • Item 11 An analysis device that analyzes acoustic data obtained from a subject by a sound collector, An analysis apparatus comprising a biological sound prediction unit that predicts whether the acoustic data includes a biological sound in accordance with a prediction algorithm learned by the machine learning device according to any one of Items 1 to 10.
  • a body sound segment extraction unit that extracts a segment including the body sound from the acoustic data based on a prediction result of the body sound prediction unit;
  • a first state evaluation unit that evaluates the state of the subject based on the segments extracted by the biological sound segment extraction unit; Item 12.
  • the biological sound is intestinal peristaltic sound;
  • the prediction algorithm is a prediction algorithm learned by the machine learning device according to Item 8, Item 14.
  • Item 15. Item 15.
  • the biological sound is intestinal peristaltic sound; Item 16.
  • a machine learning method for learning a prediction algorithm for predicting whether sound data includes a body sound An acoustic data acquisition step of acquiring acoustic data obtained from the subject by the sound collector; A biological sound determination step of determining whether or not the biological sound is included in the acoustic data according to a user operation; A feature amount extracting step for extracting a feature amount in the acoustic data; A learning step of learning the prediction algorithm based on the determination result of the biological sound determination step and the feature amount; With The feature amount includes PNCC, MFCC, ⁇ PNCC, ⁇ PNCC, ⁇ MFCC, ⁇ MFCC, BSF, formant related features, pitch related features, LPC coefficient, spectral flatness, logarithmic energy, sound interval.
  • a machine learning method including at least one of an index based on the duration, ZCR, and entropy of the data, and their statistics.
  • Item 18. An analysis method for analyzing acoustic data obtained from a subject by a sound collector, An analysis method comprising a prediction step of predicting whether the acoustic data includes a biological sound according to a prediction algorithm learned by the machine learning method according to Item 17.
  • Item 19. A body sound segment extraction step for extracting a segment containing the body sound from the acoustic data based on a prediction result of the prediction step; A state evaluation step of evaluating the state of the subject based on the segments extracted by the biological sound segment extraction step; Item 19.
  • FIG. 1 is a block diagram illustrating a schematic configuration of a diagnosis support system according to an embodiment of the present invention. It is a block diagram which shows the function of the machine learning apparatus which concerns on one Embodiment of this invention. It is a flowchart which shows the whole procedure of the machine learning method which concerns on one Embodiment of this invention. It is a block diagram which shows the function of the analyzer which concerns on one Embodiment of this invention. It is a flowchart which shows the whole procedure of the analysis method which concerns on one Embodiment of this invention. It is a block diagram which shows the function of the machine learning apparatus which concerns on the modification of this invention. It is a block diagram which shows the function of the analyzer which concerns on the modification of this invention.
  • FIG. 1 is a block diagram illustrating a schematic configuration of a diagnosis support system 100 according to the present embodiment.
  • the diagnosis support system 100 includes a machine learning device 1 and an analysis device 2.
  • the machine learning device 1 learns a prediction algorithm that predicts whether biological sound is included in the acoustic data.
  • the analysis device 2 has a function of predicting whether biological sound is included in the acoustic data obtained from the subject according to the prediction algorithm learned by the machine learning device 1, and further evaluating the state of the subject. ing.
  • the machine learning device 1 and the analysis device 2 may be realized by separate devices, or the machine learning device 1 and the analysis device 2 may be configured by one device.
  • FIG. 2 is a block diagram illustrating functions of the machine learning device 1 according to the present embodiment.
  • the machine learning device 1 can be configured by, for example, a general-purpose personal computer, and includes a CPU (not shown), a main storage device (not shown), an auxiliary storage device 11 and the like as a hardware configuration.
  • the CPU reads various programs stored in the auxiliary storage device 11 to the main storage device and executes them to execute various arithmetic processes.
  • the auxiliary storage device 11 can be composed of, for example, a hard disk drive (HDD) or a solid state drive (SSD).
  • the auxiliary storage device 11 may be built in the machine learning device 1 or may be provided as an external storage device separate from the machine learning device 1.
  • the machine learning device 1 is connected to an input device 3 and a sound collecting device 4.
  • the input device 3 includes, for example, a keyboard, a touch panel, a mouse, and the like, and receives an input operation from a user.
  • the sound collection device 4 is configured by a non-contact microphone in this embodiment. By bringing the sound collecting device 4 close to the subject 5, the sound collecting device 4 records a biological sound emitted from the subject 5 and transmits acoustic data to the machine learning device 1.
  • the acoustic data may be transmitted to the machine learning device 1 by wire or wirelessly, or may be input to the machine learning device 1 via a recording medium such as an SD card.
  • the sound collecting device 4 is not limited to a non-contact microphone, and may be an electronic stethoscope. Alternatively, the sound collection device 4 may be configured by combining a non-contact microphone and an electronic stethoscope. Conventionally, a technique for using a plurality of stethoscopes in the abdomen has been developed. By mounting a non-contact microphone on the stethoscope, a single channel stethoscope can be used and a BS can be used even under noise. It is expected that intestinal motility can be evaluated.
  • the machine learning device 1 has a function of learning a prediction algorithm for predicting whether biological sound is included in acoustic data.
  • the machine learning device 1 includes a teacher data creation unit 12 and a learning unit 13 as functional blocks.
  • the biological sound is not particularly limited as long as it is a sound caused by human biological activity, but in this embodiment, the intestinal peristaltic sound is targeted.
  • the teacher data creation unit 12 is a functional block that creates the teacher data D1 based on the acoustic data from the sound collecting device 4, and includes the acoustic data acquisition unit 121, the segment detection unit 122, the biological sound determination unit 123, and the feature amount extraction. Part 124 and the like.
  • the acoustic data acquisition unit 121 acquires acoustic data obtained from the subject 5 by the sound collecting device 4.
  • the posture of the subject 5 is not particularly limited, but is in the supine position in the present embodiment.
  • the segment detection unit 122 detects a plurality of segments from the acoustic data acquired by the acoustic data acquisition unit 121.
  • the segment detection criterion is not particularly limited, in this embodiment, the segment detection unit 122 detects a segment having an SNR (Signal to Noise Ratio) of a predetermined value or more by using an STE (Short term energy) method.
  • the SNR in this embodiment is defined as follows.
  • P S is the signal power
  • P N is a power of the noise.
  • PN is calculated from a 1-second interval determined to be silence by performing a viewing test.
  • the recorded data is divided into segment candidate sub-segment size: 256 and shift size: 64, and energy can be calculated for each sub-segment by the STE method.
  • SNR Signal to Noise Ratio
  • SNR Signal to Noise Ratio
  • One or more are segments, and consecutive sub-segments are handled as segments.
  • the biological sound determination unit 123 determines whether or not a biological sound is included in the acoustic data according to a user operation.
  • the user listens to the reproduction sound of each segment, determines whether each segment contains the intestinal peristaltic sound (BS), which is a biological sound, and inputs the determination result via the input device 3.
  • the body sound determination unit 123 determines whether or not BS is included in each segment.
  • the biological sound determination unit 123 defines a section in which the BS is determined to be included by the user as a BS episode, and if there is a BS episode within the range of each segment, the segment is determined.
  • the BS segment is assumed to be a non-BS segment if it does not exist.
  • BS acquired using a non-contact microphone generally has a low sound, and SN of acoustic data deteriorates.
  • SN of acoustic data deteriorates.
  • human auditory evaluation the presence or absence of BS can be identified with an accuracy of almost 100%.
  • the feature amount extraction unit 124 extracts feature amounts in the acoustic data.
  • the feature amount is PNCC (power normalized cepstral coefficients), but the present invention is not limited to this.
  • the feature quantity for example, MFCC (mel-frequency cepstral coefficients), ⁇ PNCC, ⁇ PNCC, ⁇ MFCC, ⁇ MFCC, BSF, formant-related features, pitch-related features, LPC coefficients, spectral flatness, Indexes based on entropy such as logarithmic energy, duration of a sound interval, ZCR, and approximate entropy, and their statistics (mean, standard deviation, etc.) can be used.
  • PNCC power normalized cepstral coefficients
  • MFCC is also called a feature amount representing vocal tract characteristics, particularly in the field of speech recognition, and has been generally used. Although this MFCC has been applied to the detection of biological sounds associated with vocal tract characteristics, according to the present inventors' investigation, the relationship with the vocal tract characteristics is associative until the time of filing of the present application. It was not used to detect bowel sounds.
  • the MFCC is calculated by performing discrete cosine transform on the output of the triangular filter bank arranged at equal intervals on a logarithmic axis called a mel scale that simply simulates the human auditory system.
  • PNCC is a feature that was developed to improve the robustness of speech recognition systems in noisy environments.
  • the sampling rate of the recording data is low (for example, the recording data of a stethoscope)
  • the detection performance of PNCC is deteriorated compared to the MFCC depending on the sound and spectrum characteristics of the sound data to be detected.
  • PNCC is an improvement of the process of calculating MFCC so that it is closer to the human physiological aspect.
  • PNCC differs from MFCC mainly in the following three points.
  • a gamma tone filter bank based on the equivalent rectangular bandwidth is used to simulate the function of the cochlea.
  • the second is the use of bias subtraction based on the arithmetic mean and geometric mean ratio (AM-to-GM ratio) of mid-time processed speech that is not used in the MFCC calculation process. is there.
  • the third point is to replace the logarithmic nonlinearity used in MFCC with a power nonlinearity.
  • BSF bowel sound feature
  • BSF1 to BSF5 are new feature quantities found by the present inventors.
  • power after squared gammatone integration processing, peak power normalization processing, and power bias subtraction processing based on transfer functions of a 24-channel gammatone-shaped bank Power-law nonlinearity for U (i, l)
  • the applied power is expressed as follows.
  • GV (i, l) U (i, l) 1/15
  • i is a frame and l is a channel index.
  • BSF1 Power: A new BS feature value obtained based on GV (i, l).
  • ⁇ i takes the sum of squares of values obtained by subtracting the average value of GV (i, l) from power: GV (i, l).
  • the central moment of GV (i, l) can be used for each frame.
  • GV (i, l) can also be scaled from 0 to 1.
  • BSF2 A new BS feature value obtained based on the PNCC and the power spectrum.
  • one of the BSF2s is ⁇ i .
  • ⁇ i is obtained by dividing the average value of the S-dimensional PNCC by the average value of the power spectrum for each frame.
  • c i (s) is the s-dimensional PNCC in the i-th frame.
  • Pi (f) represents the power spectrum in the i-th frame.
  • BSF3 A new BS feature value obtained based on PNCC.
  • one of the BSFs 3 is ⁇ i .
  • ⁇ i is a dispersion value of the S-dimensional PNCC for each frame.
  • c i bar is the average of PNCC in the i-th frame.
  • BSF4 This is also a new BS feature value obtained based on PNCC.
  • one of the BSFs 4 is ⁇ i .
  • ⁇ i is the sum of squares of S-dimensional PNCC for each frame. This feature amount is almost equivalent to BSF3.
  • BSF3 or BSF4 should be selected.
  • BSF5 BS segment length obtained by manual labeling or automatic extraction: T.
  • BSF1, BSF2, BSF3, and BSF4 can be calculated even when the power bias subtraction process is omitted or when the filter bank is changed to a mel filter bank or the like.
  • BSF3 is expected as a feature quantity that replaces STE.
  • the feature amount extraction unit 124 extracts the PNCC in each segment detected by the segment detection unit 122, but the feature amount is not limited to this. Then, the teacher data creation unit 12 creates the teacher data D1 by associating the determination result of the biological sound determination unit 123 with the PNCC extracted by the feature amount extraction unit 124 for each segment.
  • the teacher data D1 is stored in the auxiliary storage device 11, for example.
  • the learning unit 13 is a functional block that learns the prediction algorithm D2 based on the teacher data D1.
  • the learning unit 13 is configured by an artificial neural network (ANN).
  • the structure of the ANN is a hierarchical neural network composed of at least three layers: an input layer, an intermediate layer, and an output layer.
  • the learned prediction algorithm D2 is stored in the auxiliary storage device 11, for example.
  • the learning unit 13 is not limited to ANN, but is a linear discriminant function, Gaussian Mixture Model (GMM), Support Vector Machine (SVM), Probabilistic neural network (PNN), Radial bias function network (RBFN), Convolutional neural network (CNN) ), A learning machine such as DeepNN or DeepSVM can be used.
  • GMM Gaussian Mixture Model
  • SVM Support Vector Machine
  • PNN Probabilistic neural network
  • RBFN Radial bias function network
  • CNN Convolutional neural network
  • a learning machine such as DeepNN or DeepSVM can be used.
  • FIG. 3 is a flowchart showing an overall procedure of the machine learning method according to the present embodiment.
  • step S1 the acoustic data acquisition unit 121 acquires the acoustic data obtained from the subject 5 by the sound collecting device 4 (acoustic data acquisition step).
  • step S2 the segment detection unit 122 detects a plurality of segments having an SNR of a predetermined value or more from the acoustic data.
  • step S3 the body sound determination unit 122 determines whether or not a body sound (intestinal peristalsis sound in this embodiment) is included in each segment according to a user operation (body sound determination step).
  • step S4 feature quantities in each segment are extracted (feature quantity extraction step).
  • the feature amount preferably includes PNCC.
  • Teacher data D1 is created by associating the determination result in step S3 with the PNCC extracted in step S4 for each segment. Note that the order of steps S3 and S4 is not particularly limited.
  • steps S1 to S4 are repeated while changing the subject 5 until the teacher data D1 is sufficiently accumulated (YES in step S5).
  • step S6 the learning unit 13 learns the prediction algorithm D2 based on the teacher data D1.
  • FIG. 4 is a block diagram illustrating functions of the analysis apparatus 2 according to the present embodiment.
  • the analysis device 2 can be configured by a general-purpose personal computer, for example. That is, the analysis device 2 includes a CPU (not shown), a main storage device (not shown), an auxiliary storage device 51, and the like as a hardware configuration. In the analysis device 2, the CPU reads out various programs stored in the auxiliary storage device 51 to the main storage device and executes them, thereby executing various arithmetic processes.
  • the auxiliary storage device 51 can be composed of, for example, a hard disk drive (HDD) or a solid state drive (SSD), and stores a learned prediction algorithm D2.
  • the auxiliary storage device 51 may be built in the analysis device 2 or may be provided as an external storage device that is separate from the analysis device 2.
  • the sound collecting device 4 and the display device 6 are connected to the analyzing device 2.
  • the sound collector 4 can have the same configuration as the sound collector 4 shown in FIG.
  • the display device 6 can be constituted by a liquid crystal display, for example.
  • the analysis device 2 predicts whether a body sound is included in the acoustic data obtained from the subject according to the prediction algorithm learned by the machine learning device 1 described above, and further evaluates the state of the subject 7 have.
  • the analysis device 2 includes, as functional blocks, an acoustic data acquisition unit 22, a segment detection unit 23, a feature amount extraction unit 24, a biological sound prediction unit 25, a biological sound segment extraction unit 26, and a state evaluation unit. (First state evaluation unit) 27 is provided. Note that at least a part of the functions of the analysis device 2 may be mounted on the sound collection device 4.
  • the acoustic data acquisition unit 22, the segment detection unit 23, and the feature amount extraction unit 24 have the same functions as the acoustic data acquisition unit 121, the segment detection unit 122, and the feature amount extraction unit 124 of the machine learning device 1 illustrated in FIG. is doing. That is, the acoustic data acquisition unit 22 acquires the acoustic data obtained from the target person 7 by the sound collecting device 4, and the segment detection unit 23 extracts a plurality of segments from the acoustic data acquired by the acoustic data acquisition unit 22.
  • the feature amount extraction unit 24 detects the feature amount in the acoustic data.
  • the feature quantity used by the feature quantity extraction unit 24 is the same as the feature quantity used in the feature quantity extraction unit 124 of the machine learning device 1.
  • the biological sound predicting unit 25 predicts whether biological sound is included in the acoustic data according to the prediction algorithm D2.
  • the body sound predicting unit 25 includes, for each segment detected by the segment detecting unit 23, based on the feature amount extracted by the feature amount extracting unit 24, the intestinal peristaltic sound (BS) is included in the segment. Predict whether or not More specifically, the biological sound prediction unit 25 outputs a prediction score of 0 to 1 indicating the possibility of including BS for each segment as a prediction result.
  • the body sound segment extraction unit 26 extracts a segment containing the body sound from the acoustic data based on the prediction result of the body sound prediction unit 25.
  • the segment detecting unit 23 extracts the segment greater than the expected score is the optimal threshold value T h, as the segment (BS segment) that contains the BS.
  • the optimum threshold value Th is set as follows. First, the receiver operating characteristic (ROC) analysis is performed based on the prediction score of the biological sound predicting unit 25, whereby sensitivity (Sensitivity), specificity (Specificity), and accuracy (Accuracy) at the cutoff point are analyzed. ) Can be obtained as follows.
  • sensitivity Sensitivity
  • Specificity Specificity
  • Acuracy accuracy
  • TP, TN, FP, and FN are as follows.
  • the state evaluation unit 27 evaluates the state of the subject 7 based on the segments extracted by the body sound segment extraction unit 26. In the present embodiment, the state evaluation unit 27 evaluates intestinal motility as the state. The evaluation result of the state evaluation unit 27 is displayed on the display device 6, for example.
  • FIG. 5 is a flowchart showing an overall procedure of the analysis method according to the present embodiment.
  • step S11 the acoustic data acquisition unit 22 acquires the acoustic data obtained from the target person 7 by the sound collecting device 4 (acoustic data acquisition step).
  • step S12 the segment detection unit 23 detects a plurality of segments having an SNR of a predetermined value or more from the acoustic data.
  • step S13 the feature amount extraction unit 24 extracts feature amounts in each segment.
  • the feature amount here is the same as the feature amount used in step S4 of the machine learning method described above.
  • step S14 the body sound prediction unit 25 predicts whether the body sound is included in the acoustic data according to the prediction algorithm D2 (prediction step).
  • the biological sound predicting unit 25 predicts whether or not the segment extracted by the feature amount extracting unit 24 includes intestinal peristaltic sound (BS).
  • step S17 If there is another segment that has not been predicted whether BS is included (YES in step S17), the process returns to step S13, and the processes up to S16 are repeated.
  • step S18 the state evaluation unit 27 evaluates the state of the target person 7 based on the extracted segment (state evaluation step).
  • the state evaluation unit 27 evaluates the intestinal motility of the subject 7 based on the BS segment. For example, as described below, the number of BS segments per minute, the BS length, the BS segment energy, and the BS segment spacing can be used to evaluate bowel motility. Further, the concept of physical assessment can be applied to the detected BS segment.
  • the analysis apparatus 2 uses the learned prediction algorithm D2 to predict whether or not a biological sound is included in the acoustic data.
  • the prediction algorithm D2 is obtained by machine learning in the machine learning device 1, and the prediction accuracy of the analysis device 2 can be improved by performing machine learning using a sufficient amount of teacher data D1. It becomes.
  • the feature values of the acoustic data used for prediction are PNCC, MFCC, ⁇ PNCC, ⁇ PNCC, ⁇ MFCC, ⁇ MFCC, features related to formants, features related to pitch, LPC coefficients, Indices based on entropy such as spectral flatness, logarithmic energy, duration of sound interval, ZCR and approximate entropy, and / or their statistics are included. Since these feature quantities are excellent in noise resistance, whether or not biological sound is included in the acoustic data even if the acoustic data obtained by the sound collector 4 includes a lot of noise. Can be predicted with high accuracy. Therefore, it becomes possible to automatically extract a segment containing a body sound from the acoustic data, and the state evaluation of the target person 7 can be easily performed.
  • FIG. 6 is a block diagram showing functions of the machine learning device 1 ′ according to this modification.
  • the machine learning device 1 ′ has a configuration in which the teacher data creation unit 12 is replaced with a teacher data creation unit 12 ′ in the machine learning device 1 shown in FIG.
  • the configuration further includes a classification determination unit 125.
  • the classification determination unit 125 is a functional block that determines the type of the body sound according to the user's operation when the body data is included in the acoustic data.
  • the classification determination unit 125 applies the BS segment determined by the biological sound determination unit 123 to include the intestinal peristaltic sound (BS) according to the user's operation via the input device 3.
  • the type of BS is determined.
  • the types of BS can be classified according to onomatopoeia such as “goo”, “curcule”, and “poco”.
  • the category and number for classifying the BS are not particularly limited.
  • intestinal peristaltic sounds can be classified into normal, enhanced, attenuated, and disappeared, and enhanced intestinal sounds are heard during inflammation such as infectious gastroenteritis, diarrhea, and ileus calming down.
  • the teacher data creation unit 12 ′ creates the teacher data D1 ′ by associating the determination result of the body sound determination unit 123 and the classification of the classification determination unit 125 with the PNCC extracted by the feature amount extraction unit 124 for each segment. To do.
  • the learning unit 13 learns the prediction algorithm D2 'based on the teacher data D1'.
  • FIG. 7 is a block diagram showing functions of the analysis apparatus 2 'according to the present modification.
  • the analysis device 2 ′ has a configuration further including a classification prediction unit 28 and a state evaluation unit (second state evaluation unit) 29 in the analysis device 2 shown in FIG. 4.
  • the classification prediction unit 28 is a functional block that predicts the type of the biological sound according to the prediction algorithm D2 'when it is predicted that the biological data is included in the acoustic data.
  • the body sound predicting unit 25 predicts the type of the BS, which is predicted to include the BS, based on the feature amount such as PNCC extracted by the feature amount extracting unit 24. This makes it possible to automatically determine the type of BS.
  • the state evaluation unit 29 evaluates the state of the subject person 7 based on the type of body sound predicted by the classification prediction unit 28. In the present embodiment, the state evaluation unit 29 evaluates the presence or absence of bowel disease as the state. The evaluation result of the state evaluation unit 29 is displayed on the display device 6, for example.
  • the biological sound can be classified into the above-described sounds.
  • the body sound can be classified into two classes, but the body sound can be classified into multiple classes by using a plurality of output layer units.
  • this modification can also be used for intestinal sound classification after detecting a segment having an SNR of a predetermined value or more using the STE method.
  • the reduction, disappearance, and enhancement of those sounds can be calculated from the acoustic feature amount of the intestinal peristaltic sound, and the association with the disease can be evaluated.
  • the feature amount used for predicting whether or not a biological sound is included in the acoustic data and for predicting the type of the biological sound is not limited to a feature amount robust to noise.
  • all feature quantities can be used for predicting the classification of biological sounds.
  • segments are extracted from acoustic data obtained from a subject, and determination of whether or not a body sound is included and feature amount extraction are performed for each segment.
  • segment extraction is essential. is not.
  • the body sound is an intestinal peristaltic sound (BS)
  • the body sound is not particularly limited as long as it is a body sound caused by body activity. Examples of such body sounds include heartbeat sounds, swallowing sounds, breathing sounds (snoring), speech sounds (how to talk), and walking sounds.
  • Example 1 In the first embodiment, a prediction algorithm is learned using each of MFCC and PNCC as feature amounts, and whether or not the intestinal peristaltic sound (BS) is included in the acoustic data by using the learned prediction algorithm includes BS. It was verified whether the acoustic data can be predicted.
  • BS intestinal peristaltic sound
  • STT carbonated water load test
  • the subjects were allowed to take carbonated water after fasting for 12 hours or longer, and performed STT at rest for 10 minutes before taking carbonated water and at rest for 15 minutes after taking carbonated water.
  • Recording was performed using a non-contact microphone (RODE NT55), an electronic stethoscope (Cardionics E-Scope 2), and a multitrack recorder (ZOOM R16) as a sound collector.
  • the acoustic data was acquired with a sampling frequency of 44100 Hz and a digital resolution of 16 bits.
  • the subject was in the supine position, the electronic stethoscope was placed 9 cm to the right from the navel, and the non-contact microphone was placed 20 cm above the navel.
  • a segment having an SNR of a predetermined value or more was detected (step S2 in FIG. 3).
  • Intestinal peristaltic sound (BS) is generally reported to have a main frequency component between 100 Hz and 500 Hz. Therefore, downsampling processing to 4000 Hz for acoustic data, and a third-order Butterworth bandpass filter Processing (cut-off frequency: 100 Hz to 1500 Hz) was performed.
  • this third-order Butterworth bandpass filter processing is performed on the acoustic data as preprocessing in the following.
  • the segment was divided into segments of width: 256 samples and shift width: 64 samples, the power was calculated for each window width by the STE method, and a segment having an SNR of a predetermined value or more was detected.
  • step S3 in FIG. 3 body sound determination as to whether BS is included in each segment was performed by human auditory evaluation.
  • the BS included in the recording data of the non-contact microphone is also included in the recording data of the electronic stethoscope. Therefore, in the body sound determination, both recorded data are carefully watched on the voice reproduction software, and the BS is identified by the ear. The resulting episodes of 20 ms or longer were labeled as BS segments.
  • each segment two feature amounts of MFCC and PNCC were extracted (step S4 in FIG. 3).
  • each of MFCC and PNCC was calculated based on a 24-channel gamma tone filter in consideration of the frequency band.
  • the segment was divided into frame size: 200 and shift size: 100, and calculation was performed for each frame. Therefore, averaged 13-dimensional MFCC and 13-dimensional PNCC were used as feature values in each segment.
  • the BS segment and the non-BS segment and the feature amount of each segment were obtained from the acoustic data for 20 persons. Of these segments, 3/4 was used as teacher data, and the remaining 1/4 was used as evaluation data.
  • an artificial neural network having 13, 25 and 1 units in the input layer, the intermediate layer and the output layer was used.
  • the output function of the intermediate layer unit was a hyperbolic tangent function, and the transfer function of the output layer unit was a linear function.
  • 1 is given if the segment to be learned is a BS segment, 0 is given if it is a non-BS segment, and ANN is learned by the error back propagation method based on the Levenberg-Marquardt method to create a prediction algorithm.
  • an elastic back propagation method or the like can be used in addition to the error back propagation method.
  • softmax can be used as the output function of the units of the intermediate layer and the output layer.
  • the learning and evaluation of the prediction algorithm were performed a plurality of times by (1) randomly giving the initial value of the coupling weight and (2) randomly giving the learning data and the evaluation data. Thereby, the average value of the prediction accuracy of the prediction algorithm was calculated.
  • the above-mentioned two acoustic features were extracted from a plurality of segments automatically extracted using a prediction algorithm through leave-one-out cross-validation. And the difference of these acoustic feature-values before and after a test subject ingested carbonated water was evaluated using the Wilcoxon sign rank sum test.
  • the predetermined value (reference value) of the SNR which is a reference for detecting a segment from acoustic data in the STE method, affects the prediction accuracy and intestinal motility evaluation of the prediction algorithm.
  • the predetermined value of SNR was changed to 0, 0.5, 1, 2 dB.
  • Table 1 shows the numbers and lengths of BS segments and Non-BS segments obtained for each reference value.
  • the number of Non-BS segments increases with the decrease in the reference value both before and after ingesting carbonated water, but the number of BS segments before ingesting carbonated water is bounded by a certain reference value. It was found that the number of BS segments after intake of carbonated water tended to decrease as the reference value decreased. In addition, it can be confirmed that both the BS segment and the Non-BS segment increase as the reference value decreases. In addition, the number and length of BS segments and the number of Non-BS segments are greater after ingestion than before ingesting carbonated water, and the length of Non-BS segments is greater after ingestion than before ingesting carbonated water. Is smaller.
  • FIG. 8 is a graph showing the prediction accuracy (Acc) when the feature values are MFCC and PNCC for each reference value of SNR, (a) is a graph before intake of carbonated water, and (b) is intake of carbonated water. It is a later graph. From FIG. 8, it was found that the accuracy when using PNCC is higher than the accuracy when using MFCC in all reference values of SNR. In particular, when the SNR reference value is 0 dB, the standard deviation of PNCC before ingesting carbonated water is smaller than the standard deviation of MFCC, and the average value of PNCC is sufficiently higher than the average value of MFCC. In general, since many BSs with low sound pressure are generated before intake of carbonated water compared to after intake, PNCC is particularly effective as a feature quantity for predicting whether BS is included. I understood that.
  • Example 2 the prediction algorithm is learned in the same manner as in the first embodiment using the PNCC proved to be particularly effective in the first embodiment as the feature amount, and the intestinal peristaltic sound (BS) is included in the acoustic data obtained by the learned prediction algorithm. It was verified whether it is possible to predict whether or not the intestinal motility can be evaluated based on the extracted acoustic data.
  • BS intestinal peristaltic sound
  • Example 4 In evaluating the prediction accuracy of whether BS is included in the acoustic data, evaluation was performed by random sampling in Example 1, but in this example, evaluation by leave-one-out cross-validation was performed. Specifically, the leave one out cross-validation was repeated 50 times for every 20 subjects, and the average value of the classification accuracy with the highest accuracy for each subject was calculated. The results are shown in Table 4.
  • the subject's intestinal motility was evaluated based on the BS segment extracted by the prediction algorithm. Specifically, from the BS segment, as an index for evaluating intestinal motility, the number of occurrences of BS per minute, SNR, the length of BS, and the occurrence interval of BS are detected, and before and after intake of carbonated water The difference in intestinal motility was captured.
  • the number of occurrences of BS per minute and SNR are shown in Table 5, and the length of BS and the occurrence interval of BS are shown in Table 6.
  • the prediction algorithm according to the present invention is useful for the evaluation and monitoring of intestinal diseases and the like, which are considered to have enhanced intestinal motility compared to healthy subjects.
  • Example 3 In this embodiment, a prediction algorithm is learned using PNCC as a feature quantity, prediction of whether the intestinal peristaltic sound (BS) is included in the acoustic data based on the learned prediction algorithm, and intestinal movement based on the extracted acoustic data It was confirmed whether sex evaluation, in particular, irritable bowel syndrome (IBS) could be identified.
  • PNCC intestinal peristaltic sound
  • BS segments containing intestinal peristalsis (BS) were investigated.
  • a non-contact microphone RODE NT55
  • an electronic stethoscope Cardionics E-Scope2 (48 people), an audio interface (ZOOM R16 (34 people), R24 (14 people)
  • the acoustic data was recorded simultaneously at a sampling frequency of 44100 Hz and a digital resolution of 16 bits, and the subject's position during the experiment was supine, with an electronic stethoscope placed 9 cm to the right of the umbilicus.
  • a non-contact microphone was placed 20 cm above the navel, and the acoustic data was subjected to downsampling to 4000 Hz in consideration of the frequency characteristics of generally known intestinal peristaltic sounds (BS). .
  • the BS was detected with reference to the bandwidth of the ARMA spectrum peak obtained from the recording data of the electronic stethoscope.
  • the extracted BS segments are classified into IBS group and non-IBS group, and two indices, the number of BS occurrences per minute and the BS occurrence interval, are detected from the BS as an index for identifying IBS / non-IBS.
  • the average value of each index for every 5 minutes in 25 minutes when STT was implemented was calculated. Then, whether there is a significant difference in each index between the IBS group and the non-IBS group was verified by Wilcoxon's sign rank sum test.
  • FIGS. 9A and 9B show time transitions of the two indexes calculated in the preliminary verification. 0 to 10 minutes are before ingesting carbonated water, and 10 to 25 minutes are after ingesting carbonated water. From FIG. 9, there is a tendency that there is a significant difference between the IBS group and the non-IBS group in the number of BS occurrences per minute and the BS occurrence interval in the interval of 20-25 minutes (10-15 minutes after carbonated water intake) was confirmed. In addition, when the number of BS occurrences per minute estimated using an ARMA-based approach is calculated for the recording data of an electronic stethoscope, there is a significant difference between the IBS group and the non-IBS group. I could't. This result highlights the remarkable utility of non-contact microphone recording that can acquire characteristic BSs among the BSs included in electronic stethoscope recordings.
  • acoustic data recorded using the same audio interface (R16) was picked from the subjects in the pre-verification, and BS segments were extracted from the acoustic data by a prediction algorithm. And based on the extracted BS segment, it was identified whether a test subject is IBS, and the precision was verified.
  • the prediction algorithm was created by machine learning by ANN using PNCC as a feature quantity. The number of units in the input layer, intermediate layer, and output layer of the ANN was 8 to 28, 40, and 1, respectively.
  • the SNR reference value is set to 0 dB.
  • the same STT as the prior verification was performed, and the acoustic data was obtained from the subject by the same method as the prior verification.
  • the acoustic data, and the acquired acoustic data uses the STE method for the data divided by sub-segment: 256 and overlap: 128, detects a segment with an SNR of 0 dB or more, and uses a prediction algorithm We examined whether BS segments could be extracted.
  • each segment is divided into a frame size of 200 and an overlap of 100, and a 20-dimensional PNCC and a 20-dimensional MFCC are calculated for each frame. Thereafter, the average value of the 20-dimensional MFCC in each segment, the average value of the 20-dimensional PNCC and the standard deviation of the 20-dimensional PNCC, the feature amount of this embodiment: each standard deviation of the BSF1, BSF2, BSF3 and BSF4, each average The value was calculated.
  • the number of units in the input layer, intermediate layer, and output layer of the ANN is as described above (8 to 28, 40, and 1 respectively), and the extraction performance was evaluated by leave-one-out cross-validation. The evaluation results are shown in Table 7.
  • the number of BS occurrences per minute and the interval between BS occurrences in the interval of 20 to 25 minutes (10 to 15 minutes after carbonated water intake) of STT is significant between the IBS group and the non-IBS group. The tendency that there is a difference was confirmed.
  • the BS segment extracted by the prediction algorithm that combines the standard deviation of PNCC and the statistics (average value and standard deviation) of BSF1, BSF2, BSF3, and BSF4
  • the number of BS segments per minute in the interval of 20-25 minutes of STT (10-15 minutes after carbonated water intake) was estimated. The results are shown in Table 8.
  • BS segments can be extracted with an average sensitivity of 88.6% after using carbonated water by using a prediction algorithm. Based on the extracted BS segments, the number of BS segments per minute in the 10 to 15 minute interval after intake of carbonated water for each of IBS and non-IBS was calculated. Significant differences were observed. From the above, it was found that IBS and non-IBS can be distinguished even with BS segments extracted using a prediction algorithm, as with manually extracted BS segments. Even when only the statistics (average value and standard deviation) of BSF1, BSF2, BSF3, and BSF4 are used, there is a significant difference between IBS and non-IBS based on the number of BS segments per minute ( Note that P ⁇ 0.05).
  • BS is acquired synchronously in the sensor which can record a stethoscope and a non-contact microphone simultaneously.
  • the BS segment is detected from the recording data of the non-contact microphone in a noisy situation than the current environment, the BS is detected from the non-contact microphone recording by referring to the estimated BS from the recording data of the stethoscope. Performance can be improved.
  • Example 4 In this example, using a non-contact microphone, manual labeling was performed from (i) recorded data for 5 minutes after ingesting carbonated water and (ii) recorded data for 5 minutes after ingesting coffee.
  • the BS was extracted by the above, and the types of BS were classified into the following five patterns P1 to P5.
  • P1 An extremely short BS of about 50 ms or less (for example, a sound like a bubble bursting).
  • P2 BS such as rugby logo or gurgyrugul which occurs with the movement of liquid, and generally no great change is seen on spectrogram.
  • P3 Sounds like Gul, Goro, Guru, Gu, similar to P2, and tend to have a shorter BS length than P2.
  • P4 Sounds like goo, guo, ku, and a spectrum structure similar to the snoring sound of simple snoring is seen.
  • P5 A sound similar to P4 is a pattern in which the sound changes relatively with time, for example, a pattern that shifts to a high frequency with time, and the shape of the spectrogram clearly changes with time.
  • FIG. 10 shows (a) the occurrence frequency of a BS pattern after intake of carbonated water, and (b) the occurrence frequency of a BS pattern after intake of coffee. From this figure, the difference in the occurrence frequency of the BS pattern was confirmed between the two groups. After coffee ingestion, it was confirmed that BS pattern P1 was clearly more common than after ingestion of carbonated water. On the contrary, it was confirmed that the occurrence frequency of the patterns P2 and P4 increased especially after the carbonated water intake. These results clearly seem to express differences in the state of the intestine due to differences in the components of drinking water. This suggests that the presence or absence of intestinal disease can be evaluated based on the BS pattern.
  • Example 5 In this example, using a non-contact microphone, manual labeling was performed from (i) recorded data for 5 minutes after ingesting carbonated water and (ii) recorded data for 5 minutes after ingesting coffee.
  • the BS patterns were automatically classified from the database created by extracting the BS by the above method. Note that the above-described pattern P1 is a short sound of about 50 ms or less, and can be sufficiently identified only by information on the length of the BS segment, and thus is excluded in this embodiment. Since it is known that BS is generated when air or contents (liquid or the like) moves in the intestine when the intestine performs a peristaltic movement, in this embodiment, patterns P2 and P3 are made liquid-dominant BS.
  • a teacher signal PA1: (0, 1) is given as a pattern.
  • the patterns P4 and P5 are grouped as air-dominated BS patterns, and a teacher signal PA2: (1, 0) is given.
  • Feature 1 BSF5
  • Feature quantity 2 (feature quantity in this embodiment): BSF1, BSF2, BSF3, BSF4 statistics (average value and standard deviation)
  • Feature amount 3 Feature amount 2 + BSF5
  • ANNs having 1 to 9, 30 and 2 units in the input layer, intermediate layer and output layer were used.
  • the ANN was learned by the scaling conjugate gradient method algorithm, the output function of the intermediate layer unit was a hyperbolic tangent function, and the transfer function of the output layer unit was a linear function.
  • feature value 1 the feature value of this embodiment: BSF1, BSF2, BSF3, BSF4 statistics (mean value and standard deviation) are used (feature value 2), the classification performance is It was confirmed that it did not change. However, when these feature amounts are combined (feature amount 3), it is suggested that exceptional classification performance can be obtained.
  • the BSF which is the feature amount of the present embodiment contributes not only to the BS detection but also to the BS classification.
  • these ideas are considered to be useful not only for recording data of a non-contact microphone but also for recording data of a stethoscope.
  • Example 6 In this embodiment, conventionally, have been used in BS detects (i) the feature quantity described later extracted from an approach based on ARMA: ⁇ k, (ii) the feature amount of this Example: BSF1, BSF2, BSF3, BSF4 and 20-dimensional PNCC were used to learn the prediction algorithm, and comparison of the performance of extraction of intestinal peristaltic sounds (BS) using the learned prediction algorithm was performed.
  • the acoustic data was acquired using an electronic stethoscope in a noisy environment.
  • the intestinal sound detection method based on ARMA developed by the present inventors in 2013 needed to obtain a detection result for each sub-segment.
  • the present invention is applied to sub-segments in order to perform performance comparison with the present invention. Note that the sub-segment length used here is equivalent to the frame length.
  • a carbonated water load test was conducted on 10 male subjects who agreed to the study content.
  • the contents of the STT are the same as in Example 1.
  • the subjects were (i) fasted for 12 hours or more on the previous day, (ii) immediately after taking carbonated water, (iii) within 1 hour after eating, (iv) immediately after taking coffee.
  • an electronic stethoscope (E-Scope 2 manufactured by Cardionics) was used as a sound collector in the morning of the day, under the following conditions A to E with different noise levels for each subject. Recorded for 1 minute.
  • step S3 in FIG. 3 the body sound determination as to whether BS is included in the sub-segment was performed in the same manner as in Example 1 by human auditory evaluation.
  • feature values were extracted from each sub-segment using an ARMA based approach. Specifically, the following processing was performed.
  • the acoustic data was divided by sub-segment length: M and overlap: S.
  • the divided signal can be expressed as follows.
  • a and b are ARMA coefficients
  • w k (n) is white noise
  • p and q are ARMA orders.
  • the Prony method is a method for designing an ARMA coefficient based on an impulse response (length l) obtained by an AR (m) model. This power spectrum is generated by filtering the noise variance ⁇ w with a filter including the pole a and the root b. Furthermore, before calculating the power spectrum, zero padding of D samples of ARMA coefficients was performed to improve the estimation of the spectrum amplitude.
  • acoustic data was filtered using a 100th-order FIR high-pass filter having a cutoff frequency: 80 Hz.
  • this cutoff frequency is a frequency at which the normalized gain of the filter is ⁇ 6 dB.
  • the filtered signal was divided by sub-segment length: M and overlap: S.
  • the divided signal can be expressed as follows.
  • N is the total number of sub-segments
  • s (n) is a filtered signal.
  • the feature quantity extracted from the ARMA based approach is ⁇ k (Equation 6).
  • feature quantities: BSF1, BSF2 and BSF3, and 20-dimensional PNCC were used.
  • Table 10 shows the results when (i) ⁇ k is used as the feature amount, and (ii) feature amounts of the invention: BSF1, BSF2, BSF3, and 20-dimensional PNCC.
  • the PNCC is used for the sub-segment, the mel filter bank is used as the filter bank, and the power bias subtracushion process of the PNCC is not performed.
  • the feature amount of the present embodiment is used for the sub-segment. Even in the case of such recording data of a stethoscope, further performance improvement is expected by segmenting and extracting BSF1, BSF2, BSF3, and 20-dimensional PNCC statistics.

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Signal Processing (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

雑音の多い音響データから生体音を精度よく抽出する。 音響データに生体音が含まれているかを予測する予測アルゴリズム(D2)を学習する機械学習装置(1)であって、集音装置(4)によって被験者から得られた音響データを取得する音響データ取得部(121)と、前記音響データに前記生体音が含まれるか否かをユーザの操作に応じて判定する生体音判定部(123)と、前記音響データにおける特徴量を抽出する特徴量抽出部(124)と、前記生体音判定部(123)の判定結果および前記特徴量に基づいて、前記予測アルゴリズムを学習する学習部(13)と、を備え、前記特徴量は、PNCC、MFCC、△PNCC、△△PNCC、△MFCC、△△MFCC、BSF、フォルマントに関連する特徴、ピッチに関連する特徴、LPC係数、スペクトルフラットネス、対数エネルギ、有音区間の持続時間、ZCR、およびエントロピーに基づく指標、ならびに、それらの統計量の少なくともいずれかを含む、機械学習装置(1)。

Description

機械学習装置、解析装置、機械学習方法および解析方法
 本発明は、信号対雑音比が劣化する環境下において、音響データから生体音を自動抽出または分類する技術に関する。
 胃腸の運動機能の低下及び消失はQOLや日々の食生活に大きく関わる問題である。ストレスなどが原因で胃腸の運動機能に障害が起こることで、胃もたれや痛みを感じる機能性消化管障害(FGIDs:Functional gastrointestinal disorders)はその一例と言える。
 このような腸疾患の診断は、胃腸の運動性を評価することで行われる。現在、胃腸の運動性を測る手段としてX線検査や内視鏡検査が行われているが、患者への心身面や金銭面の負担が大きく、大掛かりな検査機器が必要であり、繰り返しの観察には適していない。
 近年、腸の運動機能を評価するために、腸蠕動音(BS:Bowel sound)から得られた音響特徴量が用いられている。腸蠕動音は、消化管の蠕動運動によってガスや内容物が消化管内を移動することで発生する音である(非特許文献1)。腸蠕動音は、電子聴診器を体表面に取り付けることにより、簡単に録音することができる。例えば非特許文献2には、電子聴診器により獲得された録音データからBSを自動抽出して、腸運動機能を評価する方法が開示されている。
 静音下では、BSの信号対雑音比が劣化するが、電子聴診器を使用しなくとも、離れたところでBSを認識することができる。このことから、最近の本発明者らによる研究では、電子聴診器を用いた場合と同様に、非接触マイクロフォンを用いて獲得した場合も、BSをもとに腸の運動性を評価できることが示されている(非特許文献3)。
G. P. Zaloga, "Blind bedside placement of enteric feeding tubes", Techniques in Gastrointestinal Endoscopy, 2001, 3(1), p. 9-15 Takahiro Emoto, et al. "ARMA-based spectral bandwidth for evaluation of bowel motility by the analysis of bowel sounds.", Physiological measurement 34.8 (2013): 925. Takahiro Emoto et. al, "Evaluation of human bowel motility using non-contact microphones", Biomedical Physics & Engineering Express, 2016, 2(4), 045012.
 しかしながら、非特許文献3の研究では、非接触マイクロフォンで獲得した録音データからBSを手動で抽出するために、多くの時間を費やして慎重なラベリング作業を行う必要があった。マイクロフォンに基づくセンサ(例えば、電子聴診器やマイクロフォン)は、環境雑音の影響を受けやすい。非接触マイクロフォンで録音されたBSは体表面から直接電子聴診器で得られるBSよりも音圧が低下する。さらに、電子聴診器の録音に比べ、BS以外の音がより大きく、混入されるおそれがある。よって、多くの手間や時間を要するBSのラベリング作業を省くためには、雑音に頑健なBS抽出システムを構築する必要がある。
 本発明は、上記問題を解決するためになされたものであって、雑音の多い音響データから生体音を精度よく抽出または分類することを課題とする。
 本発明者らは、雑音に頑健な特徴量によって機械学習された予測アルゴリズムを用いることにより前記課題が解決できることを見出し、本発明を完成するに至った。
 本発明は、次の態様を含む。
項1.
 音響データに生体音が含まれているかを予測する予測アルゴリズムを学習する機械学習装置であって、
 集音装置によって被験者から得られた音響データを取得する音響データ取得部と、
 前記音響データに前記生体音が含まれるか否かをユーザの操作に応じて判定する生体音判定部と、
 前記音響データにおける特徴量を抽出する特徴量抽出部と、
 前記生体音判定部の判定結果および前記特徴量に基づいて、前記予測アルゴリズムを学習する学習部と、
を備え、
 前記特徴量は、PNCC、MFCC、△PNCC、△△PNCC、△MFCC、△△MFCC、BSF、フォルマントに関連する特徴、ピッチに関連する特徴、LPC係数、スペクトルフラットネス、対数エネルギ、有音区間の持続時間、ZCR、およびエントロピーに基づく指標、ならびに、それらの統計量の少なくともいずれかを含む、機械学習装置。
項2.
 前記生体音は腸蠕動音である、項1に記載の機械学習装置。
項3.
 前記特徴量はPNCCを含む、項1または2に記載の機械学習装置。
項4.
 前記特徴量はBSFおよびその統計量の少なくともいずれかを含む、項1~3のいずれかに記載の機械学習装置。
項5.
 前記特徴量は、BSF1の平均および標準偏差、BSF2の平均および標準偏差、BSF3の平均および標準偏差、BSF4の平均および標準偏差、並びに、BSF5を含む、項4に記載の機械学習装置。
項6.
 前記学習部は、人工ニューラルネットワーク(ANN)で構成される、項1~5のいずれかに記載の機械学習装置。
項7.
 前記集音装置は非接触マイクロフォンである、項1~6のいずれかに記載の機械学習装置。
項8.
 前記音響データ取得部によって取得された前記音響データから、複数のセグメントを検出するセグメント検出部をさらに備え、
 前記生体音判定部は、各セグメントに前記生体音が含まれるか否かをユーザの操作に応じて判定し、
 前記特徴量抽出部は、各セグメントにおける特徴量を抽出し、
 前記学習部は、各セグメントにおける前記特徴量および前記生体音判定部による判定結果に基づいて、前記予測アルゴリズムを学習する、項1~7のいずれかに記載の機械学習装置。
項9.
 前記セグメント検出部は、SNRが所定値以上のセグメントを検出する、項8に記載の機械学習装置。
項10.
 前記音響データに前記生体音が含まれる場合、前記生体音の種類をユーザの操作に応じて判定する分類判定部をさらに備え、
 前記学習部は、さらに前記生体音の種類に基づいて、前記予測アルゴリズムを学習する、項1~9のいずれかに記載の機械学習装置。
項11.
 集音装置によって対象者から得られた音響データを解析する解析装置であって、
 項1~10のいずれかに記載の機械学習装置によって学習された予測アルゴリズムに従って、前記音響データに生体音が含まれているかを予測する生体音予測部を備えた、解析装置。
項12.
 前記生体音予測部の予測結果に基づいて、前記音響データから前記生体音が含まれているセグメントを抽出する生体音セグメント抽出部と、
 前記生体音セグメント抽出部によって抽出された前記セグメントに基づいて、前記対象者の状態を評価する第1状態評価部と、
をさらに備えた、項11に記載の解析装置。
項13.
 前記生体音は腸蠕動音であり、
 前記第1状態評価部は、前記状態として腸運動性を評価する、項12に記載の解析装置。
項14.
 前記予測アルゴリズムは、項8に記載の機械学習装置によって学習された予測アルゴリズムであり、
 前記音響データに生体音が含まれていると予測された場合に、前記予測アルゴリズムに従って、前記生体音の種類を予測する分類予測部をさらに備えた、項11~13のいずれかに記載の解析装置。
項15.
 前記分類予測部によって予測された前記生体音の種類に基づいて、前記対象者の状態を評価する第2状態評価部をさらに備えた、項14に記載の解析装置。
項16.
 前記生体音は腸蠕動音であり、
 前記第2状態評価部は、前記状態として腸疾患の有無を評価する、項15に記載の解析装置。
項17.
 音響データに生体音が含まれているかを予測する予測アルゴリズムを学習する機械学習方法であって、
 集音装置によって被験者から得られた音響データを取得する音響データ取得ステップと、
 前記音響データに前記生体音が含まれるか否かをユーザの操作に応じて判定する生体音判定ステップと、
 前記音響データにおける特徴量を抽出する特徴量抽出ステップと、
 前記生体音判定ステップの判定結果および前記特徴量に基づいて、前記予測アルゴリズムを学習する学習ステップと、
を備え、
 前記特徴量は、PNCC、MFCC、△PNCC、△△PNCC、△MFCC、△△MFCC、BSF、フォルマントに関連する特徴、ピッチに関連する特徴、LPC係数、スペクトルフラットネス、対数エネルギ、有音区間の持続時間、ZCR、およびエントロピーに基づく指標、ならびに、それらの統計量の少なくともいずれかを含む、機械学習方法。
項18.
 集音装置によって対象者から得られた音響データを解析する解析方法であって、
 項17に記載の機械学習方法によって学習された予測アルゴリズムに従って、前記音響データに生体音が含まれているかを予測する予測ステップを備えた、解析方法。
項19.
 前記予測ステップの予測結果に基づいて、前記音響データから前記生体音が含まれているセグメントを抽出する生体音セグメント抽出ステップと、
 前記生体音セグメント抽出ステップによって抽出された前記セグメントに基づいて、前記対象者の状態を評価する状態評価ステップと、
をさらに備えた、項18に記載の解析方法。
 本発明によれば、雑音の多い音響データから生体音を精度よく抽出または分類することができる。
本発明の一実施形態に係る診断支援システムの概略構成を示すブロック図である。 本発明の一実施形態に係る機械学習装置の機能を示すブロック図である。 本発明の一実施形態に係る機械学習方法の全体的な手順を示すフローチャートである。 本発明の一実施形態に係る解析装置の機能を示すブロック図である。 本発明の一実施形態に係る解析方法の全体的な手順を示すフローチャートである。 本発明の変形例に係る機械学習装置の機能を示すブロック図である。 本発明の変形例に係る解析装置の機能を示すブロック図である。 特徴量がMFCCおよびPNCCである場合の予測精度(Acc)をSNRの基準値毎に示したグラフであり、(a)は炭酸水摂取前のグラフ、(b)は炭酸水摂取後のグラフである。 (a)および(b)は、事前検証において算出された4つの指標の時間推移を示している。 乳酸菌飲料負荷試験時における1分間あたりのBS発生数の推移を示している。
 以下、本発明の実施形態について添付図面を参照して説明する。なお、本発明は、下記の実施形態に限定されるものではない。
 (全体構成)
 図1は、本実施形態に係る診断支援システム100の概略構成を示すブロック図である。診断支援システム100は、機械学習装置1および解析装置2を備えている。機械学習装置1は、音響データに生体音が含まれているかを予測する予測アルゴリズムを学習する。解析装置2は、機械学習装置1によって学習された予測アルゴリズムに従って、対象者から得られた音響データに生体音が含まれているかを予測し、さらに、対象者の状態を評価する機能を有している。機械学習装置1と解析装置2とは、別個の装置で実現してもよいし、機械学習装置1と解析装置2とを一つの装置で構成してもよい。
 以下、機械学習装置1および解析装置2の構成例について説明する。
 (機械学習装置)
 図2は、本実施形態に係る機械学習装置1の機能を示すブロック図である。機械学習装置1は、例えば汎用のパーソナルコンピュータで構成することができ、ハードウェア構成として、CPU(図示せず)、主記憶装置(図示せず)、補助記憶装置11などを備えている。機械学習装置1では、CPUが補助記憶装置11に記憶された各種プログラムを主記憶装置に読み出して実行することにより、各種演算処理を実行する。補助記憶装置11は、例えばハードディスクドライブ(HDD)やソリッドステートドライブ(SSD)で構成することができる。補助記憶装置11は、機械学習装置1に内蔵されてもよいし、機械学習装置1とは別体の外部記憶装置として設けてもよい。
 機械学習装置1には、入力装置3および集音装置4が接続されている。入力装置3は、例えばキーボード、タッチパネル、マウス等で構成され、ユーザからの入力操作を受け付ける。
 集音装置4は、本実施形態では、非接触マイクロフォンで構成される。集音装置4を被験者5に近付けることにより、集音装置4は被験者5から発せられる生体音を録音し、音響データを機械学習装置1に送信する。
 なお、音響データは、有線または無線で機械学習装置1に送信してもよいし、SDカード等の記録媒体を介して機械学習装置1に入力してもよい。また、集音装置4は、非接触マイクロフォンに限らず、電子聴診器であってもよい。あるいは、非接触マイクロフォンと電子聴診器とを組み合わせて集音装置4を構成してもよい。従来より、腹部に複数の聴診器を使用する技術が開発されてきたが、聴診器に非接触マイクロフォンを搭載することにより、シングルチャネル聴診器を用いるだけで、雑音下であってもBSを基に腸の運動性を評価することができると期待される。
 機械学習装置1は、音響データに生体音が含まれているかを予測する予測アルゴリズムを学習する機能を有している。この機能を実現するために、機械学習装置1は、機能ブロックとして、教師データ作成部12および学習部13を備えている。生体音は、人間の生体活動に起因する音であれば特に限定されないが、本実施形態では、腸蠕動音を対象としている。
 教師データ作成部12は、集音装置4からの音響データに基づいて、教師データD1を作成する機能ブロックであり、音響データ取得部121、セグメント検出部122、生体音判定部123および特徴量抽出部124およびを備えている。
 音響データ取得部121は、集音装置4によって被験者5から得られた音響データを取得する。被験者5の体勢は特に限定されないが、本実施形態では仰臥位である。
 セグメント検出部122は、音響データ取得部121によって取得された音響データから、複数のセグメントを検出する。セグメントの検出基準は特に限定されないが、本実施形態では、セグメント検出部122は、STE(Short term energy)法を用いて、SNR(Signal to Noise Ratio)が所定値以上のセグメントを検出する。
 本実施形態におけるSNRは次のように定義される。
Figure JPOXMLDOC01-appb-M000001
ここで、Pは信号のパワー、Pは雑音のパワーである。Pは、視聴試験を行うことにより、サイレンスであると判断された1秒の区間から算出している。録音データは、セグメントの候補となるサブセグメントサイズ:256、シフトサイズ:64で分割され、STE法によって、サブセグメント毎に、エネルギを計算することができる。SNR(Signal to Noise Ratio)が所定値以上を1として、所定値以下を0とする。1以上はセグメントであり、連続して続くサブセグメントはセグメントとして取り扱う。
 生体音判定部123は、音響データに生体音が含まれるか否かをユーザの操作に応じて判定する。本実施形態では、ユーザが各セグメントの再生音を聴き、各セグメントに生体音である腸蠕動音(BS)が含まれているかを判定し、入力装置3を介して判定結果を入力する。これに応じて、生体音判定部123は、各セグメントにBS含まれるか否かを判定する。具体的には、生体音判定部123は、ユーザによってBSが含まれていると判定された区間をBSエピソードと定義し、各セグメントの範囲内にBSエピソードが存在していれば、当該セグメントをBSセグメントとし、存在していなければnon-BSセグメントとする。
 なお、非接触マイクロフォンを用いて獲得されるBSは一般的に音が小さく、音響データのSNは劣化する。しかし、人間による聴覚評価では、ほぼ100%の精度でBSの有無を識別することができる。
 特徴量抽出部124は、音響データにおける特徴量を抽出する。本実施形態では、特徴量は、PNCC(power normalized cepstral coefficients)であるが、本発明はこれに限定されない。特徴量として、例えば、MFCC(mel-frequency cepstral coefficients)、△PNCC、△△PNCC、△MFCC、△△MFCC、BSF、フォルマントに関連する特徴、ピッチに関連する特徴、LPC係数、スペクトルフラットネス、対数エネルギ、有音区間の持続時間、ZCR、および近似エントロピーなどのエントロピーに基づく指標、ならびに、それらの統計量(平均、標準偏差など)を用いることができる。なお、PNCCの詳細については、Kim, Chanwoo, and Richard M. Stern. "Power-normalized cepstral coefficients (PNCC) for robust speech recognition." Acoustics, Speech and Signal Processing (ICASSP), 2012 IEEE International Conference on. IEEE, 2012.を参照されたい。
 MFCCは、特に音声認識の分野において、声道特性を表す特徴量とも言われ、一般的に使用されてきた。このMFCCは、声道特性を連想するような生体音の検出に対しても適用されてきたが、本発明者らの調査によれば、本願出願時点まで、声道特性との関係性を連想できない、腸音の検出には利用されなかった。MFCCは、ヒトの聴覚系を簡易的に模擬したメルスケールと呼ばれる対数軸上に等間隔に配置された三角フィルタバンクの出力に対し離散コサイン変換を行うことにより算出される。
 PNCCは、雑音環境下での音声認識システムの頑健性を改善するために開発された特徴量である。しかしながら、PNCCは、録音データのサンプリングレートが低い場合(例えば、聴診器の録音データのような場合)、検出対象とするサウンドデータの音響やスペクトルの特性によっては、MFCCより検出性能が劣化する場合があるとの報告がある。PNCCは、ヒトの生理的な側面により近くなるようにMFCCを算出する過程を改善したものである。PNCCはMFCCに比べ、主に、以下の3つの点が異なっている。
 1つ目は、MFCCで使用される三角フィルタバンクの代わりに蝸牛の働きを模擬するために等価長方形帯域幅に基づくガンマトーンフィルタバンクを使用している点である。2つ目は、MFCCの算出過程には使用されていない、中時間処理された音声の算術平均及び幾何平均の比(AM-to-GM ratio)に基づいたバイアスサブトラクションを使用している点である。3つ目は、MFCCで使用される対数非線形性をべき乗非線形性に置き換える点である。これらにより、雑音に頑健な音声処理が可能となると言われている。
 BSF(bowel sound feature):BSF1~BSF5は、本発明者らが見出した新たな特徴量である。PNCC特徴抽出の構造において、transfer functions of a 24-channel gammatone-shaped bankに基づく squared gammatone integration 処理、peak power normalization 処理、パワーバイアスサブトラクション処理後のパワー:U(i,l)にPower-law nonlinearityを適用したパワーは次のように表現される。
 GV(i,l)=U(i,l)1/15
ここでiはフレーム、lはチャネルインデックスである。
 BSF1:パワー:GV(i,l)に基づいて得られる、新たなBS特徴量である。BSF1の算出方法はいくつか存在するが、本明細書では、その1つをαとする。αは、パワー:GV(i,l)から、GV(i,l)の平均値を差し引いた値の二乗和をとる。
Figure JPOXMLDOC01-appb-M000002
α以外のBSF1として、例えば、フレームごとに、GV(i,l)の中心モーメントを使用することができる。GV(i,l)は、0から1にスケーリングすることもできる。
 BSF2:PNCCとパワースペクトルに基づいて得られる、新たなBS特徴量である。本明細書では、BSF2の1つをβとする。βは、フレームごとに、S次元のPNCCの平均値をパワースペクトルの平均値で割って得られる。
Figure JPOXMLDOC01-appb-M000003
ここで、c(s)は、i番目のフレームにおけるs次元目のPNCCである。Pi(f)は、i番目のフレームにおけるパワースペクトルを表している。
 BSF3:PNCCに基づいて得られる、新たなBS特徴量である。本明細書では、BSF3の1つをγとする。γは、フレームごとに、S次元のPNCCの分散値を求めたものである。
Figure JPOXMLDOC01-appb-M000004
ここで、cバーは、i番目のフレームにおけるPNCCの平均値である。
 BSF4:これもPNCCに基づいて得られる、新たなBS特徴量である。本明細書では、BSF4の1つをζとする。ζは、フレームごとに、S次元のPNCCの二乗和を求めたものである。
Figure JPOXMLDOC01-appb-M000005
この特徴量は、BSF3とほぼ等価であり。状況に応じて、BSF3か、BSF4、どちらかが選択されるべきである。
 BSF5:マニュアルラベリング、もしくは、自動抽出により獲得されたBSセグメント長:Tである。
 BSF1、BSF2、BSF3、BSF4は、パワーバイアスサブトラクション処理を省いた場合、フィルタバンクをメルフィルタバンク等に変えた場合においても計算することができる。特に、BSF3はSTEに代わる特徴量として期待される。
 本実施形態において、特徴量抽出部124は、セグメント検出部122が検出した各セグメントにおけるPNCCを抽出するが、特徴量はこれに限定されない。そして、教師データ作成部12は、生体音判定部123の判定結果と特徴量抽出部124によって抽出されたPNCCとを、セグメントごとに対応付けることにより、教師データD1を作成する。教師データD1は、例えば補助記憶装置11に保存される。
 学習部13は、教師データD1に基づいて、予測アルゴリズムD2を学習する機能ブロックである。本実施形態では、学習部13は、人工ニューラルネットワーク(ANN)で構成される。ANNの構造は、入力層、中間層、出力層の少なくとも三層からなる階層型ニューラルネットワークである。学習済みの予測アルゴリズムD2は、例えば補助記憶装置11に保存される。
 なお、学習部13はANNに限定されず、線形識別関数、Gaussian Mixture Model (GMM)、Support Vector Machine(SVM)、Probabilistic neural network(PNN)、Radial bias function network(RBFN)、Convolutional neural network(CNN)、DeepNN、DeepSVMなどの学習機械を用いて構築することも可能である。
 (機械学習方法)
 本実施形態に係る機械学習方法は、図2に示す機械学習装置1を用いて実施される。図3は、本実施形態に係る機械学習方法の全体的な手順を示すフローチャートである。
 ステップS1では、音響データ取得部121が、集音装置4によって被験者5から得られた音響データを取得する(音響データ取得ステップ)。
 ステップS2では、セグメント検出部122が、SNRが所定値以上のセグメントを音響データから複数検出する。
 ステップS3では、生体音判定部122が、各セグメントに生体音(本実施形態では、腸蠕動音)が含まれるか否かをユーザの操作に応じて判定する(生体音判定ステップ)。
 ステップS4では、各セグメントにおける特徴量を抽出する(特徴量抽出ステップ)。特徴量はPNCCを含むことが好ましい。ステップS3の判定結果とステップS4において抽出されたPNCCとを、セグメントごとに対応付けることにより、教師データD1が作成され。なお、ステップS3およびS4の順序は特に限定されない。
 その後、教師データD1が十分に蓄積されるまで(ステップS5においてYES)、被験者5を代えながらステップS1~S4が繰り返される。
 ステップS6では、学習部13が教師データD1に基づいて、予測アルゴリズムD2を学習する。
 (解析装置)
 以下では、学習済みの予測アルゴリズムD2を用いて、音響データに生体音が含まれているかの予測等を行う形態について説明する。
 図4は、本実施形態に係る解析装置2の機能を示すブロック図である。解析装置2は、図2に示す機械学習装置1と同様に、例えば汎用のパーソナルコンピュータで構成することができる。すなわち、解析装置2は、ハードウェア構成として、CPU(図示せず)、主記憶装置(図示せず)、補助記憶装置51などを備えている。解析装置2では、CPUが補助記憶装置51に記憶された各種プログラムを主記憶装置に読み出して実行することにより、各種演算処理を実行する。補助記憶装置51は、例えばハードディスクドライブ(HDD)やソリッドステートドライブ(SSD)で構成することができ、学習済みの予測アルゴリズムD2が記憶されている。また、補助記憶装置51は、解析装置2に内蔵されてもよいし、解析装置2とは別体の外部記憶装置として設けてもよい。
 解析装置2には、集音装置4および表示装置6が接続されている。集音装置4は、図2に示す集音装置4と同一の構成とすることができる。表示装置6は、例えば液晶ディスプレイで構成することができる。
 解析装置2は、上述の機械学習装置1によって学習された予測アルゴリズムに従って、対象者から得られた音響データに生体音が含まれているかを予測し、さらに、対象者7の状態を評価する機能を有している。この機能を実現するために、解析装置2は、機能ブロックとして、音響データ取得部22、セグメント検出部23、特徴量抽出部24、生体音予測部25、生体音セグメント抽出部26および状態評価部(第1状態評価部)27を備えている。なお、解析装置2の機能の少なくとも一部を、集音装置4に搭載してもよい。
 音響データ取得部22、セグメント検出部23および特徴量抽出部24は、図2に示す機械学習装置1の音響データ取得部121、セグメント検出部122および特徴量抽出部124とそれぞれ同一の機能を有している。すなわち、音響データ取得部22は、集音装置4によって対象者7から得られた音響データを取得し、セグメント検出部23は、音響データ取得部22によって取得された音響データから、複数のセグメントを検出し、特徴量抽出部24は、音響データにおける特徴量を抽出する。特徴量抽出部24が用いる特徴量は、機械学習装置1の特徴量抽出部124において用いられた特徴量と同一である。
 生体音予測部25は、予測アルゴリズムD2に従って、音響データに生体音が含まれているかを予測する。本実施形態では、生体音予測部25は、セグメント検出部23によって検出された各セグメントについて、特徴量抽出部24によって抽出された特徴量に基づき、当該セグメントに腸蠕動音(BS)が含まれているかを予測する。より具体的には、生体音予測部25は、各セグメントについて、BSが含まれている可能性を示す0~1の予測スコアを予測結果として出力する。
 生体音セグメント抽出部26は、生体音予測部25の予測結果に基づいて、音響データから生体音が含まれているセグメントを抽出する。本実施形態では、セグメント検出部23によって検出されたセグメントの中から、予測スコアが最適閾値Tよりも大きいセグメントを、BSが含まれているセグメント(BSセグメント)として抽出する。
 最適閾値Tは、次のように設定する。まず、生体音予測部25の予測スコアをもとに、受信者動作特性(ROC : Receiver Operating Characteristic)解析を行うことにより、カットオフポイントにおける感度(Sensitivity)、特異度(Specificity)、精度(Accuracy)を次のように求めることができる。
Figure JPOXMLDOC01-appb-M000006
ここで、TP、TN、FP、FNの定義は以下の通りである。
True Positive(TP):BSセグメントを自動抽出した数
True Negative(TN):non-BSセグメントを自動抽出しなかった数
False Negative(FN):BSセグメントを自動抽出しなかった数
False Positive(FP):non-BSセグメントを自動抽出した数
 ROC曲線において、感度:1、特異度:1の位置からのユーグリッド距離が最短となる点を基に、最適閾値Tが決定される。本実施形態では、例えばT=0.55に設定することができる。
 状態評価部27は、生体音セグメント抽出部26によって抽出されたセグメントに基づいて、対象者7の状態を評価する。本実施形態では、状態評価部27は、前記状態として腸運動性を評価する。状態評価部27の評価結果は、例えば表示装置6に表示される。
 (解析方法)
 本実施形態に係る解析方法は、図4に示す解析装置2を用いて実施される。図5は、本実施形態に係る解析方法の全体的な手順を示すフローチャートである。
 ステップS11では、音響データ取得部22が、集音装置4によって対象者7から得られた音響データを取得する(音響データ取得ステップ)。
 ステップS12では、セグメント検出部23が、SNRが所定値以上のセグメントを音響データから複数検出する。
 ステップS13では、特徴量抽出部24が各セグメントにおける特徴量を抽出する。ここでの特徴量は、上述の機械学習方法のステップS4において用いられた特徴量と同一である。
 ステップS14では、生体音予測部25が、予測アルゴリズムD2に従って、音響データに生体音が含まれているかを予測する(予測ステップ)。本実施形態では、生体音予測部25は、特徴量抽出部24が抽出したセグメントに腸蠕動音(BS)が含まれているかを予測する。
Figure JPOXMLDOC01-appb-I000007
 BSが含まれているかの予測が行われていない他のセグメントがある場合(ステップS17においてYES)、ステップS13に戻り、S16までの処理を繰り返す。
 一方、他のセグメントがない場合(ステップS17においてNO)、ステップS18において、状態評価部27が、抽出されたセグメントに基づいて、対象者7の状態を評価する(状態評価ステップ)。本実施形態では、状態評価部27が、BSセグメントに基づいて、対象者7の腸運動性を評価する。例えば、以下に記載してあるように、腸運動性の評価には、1分あたりのBSセグメント数、BS長、BSセグメントのエネルギ、BSセグメント間隔が使用できる。また、検出したBSセグメントに対してフィジカルアセスメントの概念を適用することができる。
 以上により、解析装置2は、学習済みの予測アルゴリズムD2を用いて、音響データに生体音が含まれているかの予測等を行う。ここで、予測アルゴリズムD2は、機械学習装置1における機械学習によって得られたものであり、十分な量の教師データD1を用いて機械学習させることで、解析装置2の予測精度を高めることが可能となる。特に、本実施形態では、予測に用いる音響データの特徴量が、PNCC、MFCC、△PNCC、△△PNCC、△MFCC、△△MFCC、フォルマントに関連する特徴、ピッチに関連する特徴、LPC係数、スペクトルフラットネス、対数エネルギ、有音区間の持続時間、ZCR、および近似エントロピーなどのエントロピーに基づく指標、ならびに、それらの統計量の少なくともいずれかを含んでいる。これらの特徴量は、雑音耐性に優れているので、集音装置4によって得られた音響データに雑音が多く含まれている場合であっても、音響データに生体音が含まれているか否かを高精度に予測することができる。よって、音響データから生体音が含まれているセグメントを自動的に抽出することが可能となり、対象者7の状態評価を簡便に行うことができる。
 [変形例]
 本変形例では、生体音の有無に加え、生体音の種類を予測する構成について説明する。本変形例において、上記実施形態におけるものと同じ機能を有する部材については、同じ符号を付し、その説明を省略する。
 図6は、本変形例に係る機械学習装置1’の機能を示すブロック図である。機械学習装置1’は、図2に示す機械学習装置1において、教師データ作成部12を教師データ作成部12’に置き換えた構成であり、教師データ作成部12’は、教師データ作成部12において、分類判定部125をさらに備えた構成である。
 分類判定部125は、音響データに生体音が含まれる場合、前記生体音の種類をユーザの操作に応じて判定する機能ブロックである。本変形例では、分類判定部125は、生体音判定部123によって腸蠕動音(BS)が含まれていると判定されたBSセグメントについて、入力装置3を介したユーザの操作に応じて、当該BSの種類を判定する。BSの種類は、例えば「グー」、「キュルキュル」、「ポコ」などの擬音に応じて分類することができる。なお、BSを分類するカテゴリーや数は、特に限定されない。
 フィジカルアセスメントの技術では、一般の聴診で(正常な)腸音として聴取される「グルグル・ゴロゴロという音」、短いポコ音、持続するギュー音や、腸音の亢進時に聴取される「グルグルと突進するような音」に分類することが出来る。打診時には、腸管ガスの貯留に関連する「ポンポンという音」、便秘(便がある部位)や膀胱内の尿の貯留に関連する「濁音」に分類することができると言われている。更に、腸蠕動音は、正常、亢進、減弱、消失に分類することができ、腸音の亢進は、感染性胃腸炎などの炎症や下痢、イレウスの沈静化時に聴取される。腸音の減弱は、手術による腹膜の炎症、便秘時に聴取される。腸音の消失は、イレウス時に聴取されると言われる。そのほかに、腹部の血管雑音の聴取は腹部動脈の狭窄病変が疑われると言われる。
 教師データ作成部12’は、生体音判定部123の判定結果および分類判定部125の分類と特徴量抽出部124によって抽出されたPNCCとを、セグメントごとに対応付けることにより、教師データD1’を作成する。学習部13は、教師データD1’に基づいて、予測アルゴリズムD2’を学習する。
 図7は、本変形例に係る解析装置2’の機能を示すブロック図である。解析装置2’は、図4に示す解析装置2において、分類予測部28および状態評価部(第2状態評価部)29をさらに備えた構成である。
 分類予測部28は、音響データに生体音が含まれていると予測された場合に、予測アルゴリズムD2’に従って、前記生体音の種類を予測する機能ブロックである。本変形例では、生体音予測部25によって、BSが含まれていると予測されたセグメントについて、当該BSの種類を特徴量抽出部24が抽出したPNCC等の特徴量に基づいて予測する。これにより、BSの種類を自動判別することが可能となる。
 状態評価部29は、分類予測部28によって予測された生体音の種類に基づいて、対象者7の状態を評価する。本実施形態では、状態評価部29は、前記状態として腸疾患の有無を評価する。状態評価部29の評価結果は、例えば表示装置6に表示される。
 このように、本変形例では、生体音を上述した音に分類することができる。また、ANNの出力層のユニットが1つの場合、生体音を2クラスに分類できるが、出力層のユニットを複数とすることにより、生体音を多クラスに分類できる。
 なお、本変形例は、STE法を用いてSNRが所定値以上のセグメントを検出した後の腸音分類にも使用することができる。上記カテゴリーに生体音を分類することにより、それらの音の減少、消失、亢進を腸蠕動音の音響特徴量より計算して、疾患との関連を評価できる。
 また、本変形例では、音響データに生体音が含まれているか否かの予測、および、生体音の種類の予測のために用いられる特徴量は、雑音に頑健な特徴量に限定されない。例えば、騒音の少ない環境下で、集音装置4として電子聴診器を用いた場合は、生体音の分類予測のためにあらゆる特徴量を用いることができる。
 [付記事項]
 本発明は上記実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、実施形態に開示された技術的手段を適宜組み合わせて得られる形態も本発明の技術的範囲に含まれる。
 例えば、上記実施形態では、被験者から得られた音響データからセグメントを抽出し、各セグメントに対して、生体音が含まれているかの判定および特徴量抽出を行っていたが、セグメントの抽出は必須ではない。
 また、上記実施形態では、生体音が腸蠕動音(BS)である場合について説明したが、生体活動に起因する生体音であれば特に限定されない。そのような生体音としては、心拍音、嚥下音、呼吸音(いびき)、発話音(しゃべり方)、歩行音などが挙げられる。
 以下、本発明の実施例について説明するが、本発明は下記実施例に限定されない。
 [実施例1]
 実施例1では、特徴量としてMFCCおよびPNCCをそれぞれ用いて予測アルゴリズムを学習し、学習済みの予測アルゴリズムによって、音響データに腸蠕動音(BS)が含まれているかを予測し、BSが含まれている音響データの予測が可能であるかを検証した。
 具体的には、研究内容に同意を得られた男性被験者20名(age:22.9±3.4、BMI:22.7±3.8)に対して炭酸水負荷試験(STT)を行った。被験者には12時間以上の絶食後に炭酸水を摂取してもらい、炭酸水摂取前の10分間の安静時、炭酸水摂取後15分間の安静時にSTTを行った。集音装置として、非接触マイクロフォン(RODE社製 NT55)、電子聴診器(Cardionics社製 E-Scope2)、マルチトラックレコーダ(ZOOM社製 R16)を用いて録音を行った。音響データは、サンプリング周波数44100Hz、ディジタル分解能16bitで獲得された。試験中、被験者は仰臥位の状態であり、電子聴診器を臍から右に9cmの位置に配置し、非接触マイクロフォンを臍から上方に20cmの位置に配置した。
 非接触マイクロフォンから取得された音響データを機械学習装置に取り込んだ後、SNRが所定値以上のセグメントを検出した(図3のステップS2)。腸蠕動音(BS)は一般的に100Hzから500Hzの間に主要周波数成分が存在すると報告されているため、音響データに対して、4000Hzへのダウンサンプリング処理、さらに、3次バターワース・バンドパスフィルタ処理(カットオフ周波数:100Hz~1500Hz)を行なった。(以下全ての実施例において、前処理として、音響データに対して、この3次のバターワース・バンドパスフィルタ処理が行われていることに注意されたい。)解析のために、音響データは、窓幅:256サンプル、シフト幅:64サンプルでセグメントに分割し、STE法により、窓幅毎にパワーを計算し、SNRが所定値以上のセグメントを検出した。
 続いて、各セグメントにBSが含まれているかの生体音判定(図3のステップS3)を人間の聴覚評価によって行った。非接触マイクロフォンの録音データに含まれるBSは、電子聴診器の録音データにおいても含まれているため、生体音判定では、音声再生ソフトウェア上で、両録音データを注意深く視聴し、耳でBSを識別できた20ms以上のエピソードをBSセグメントとしてラベリングを行なった。
 また、各セグメントにおいて、MFCCおよびPNCCの2つの特徴量を抽出した(図3のステップS4)。本実施例では、MFCCおよびPNCCのそれぞれについて、周波数帯を考慮し24チャネルのガンマトーンフィルタをもとに計算した。MFCCおよびPNCCは、セグメントを、フレームサイズ:200、シフトサイズ:100で分割して、フレーム毎に計算が行われた。そのため、各セグメントにおいて、平均化した13次元のMFCCおよび13次元のPNCCを特徴量として使用した。
 以上により、20名分の音響データから、BSセグメントおよびnon-BSセグメント、および、各セグメントの特徴量を取得した。そして、これらのセグメントのうち、3/4を教師データとして用い、残りの1/4を評価用データとして用いた。
 予測アルゴリズムの学習では、入力層、中間層および出力層のユニット数がそれぞれ13、25および1の人工ニューラルネットワーク(ANN)を用いた。中間層ユニットの出力関数は双曲線正接関数であり、出力層ユニットの伝達関数は線形関数であった。教師信号として、学習対象のセグメントがBSセグメントであれば1、non-BSセグメントであれば0を与え、Levenberg-Marquardt法に基づく誤差逆伝搬法によりANNを学習させ、予測アルゴリズムを作成した。なお、学習アルゴリズムには、誤差逆伝搬法の他、弾性逆伝搬法等が使用可能である。中間層、出力層のユニットの出力関数には例えば、softmax等が使用可能である。
 予測アルゴリズムの学習及び評価は、(1)結合荷重の初期値をランダムに、(2)学習データおよび評価用データをランダムに与えて複数回試行した。これにより、予測アルゴリズムの予測精度の平均値を計算した。
 1人の被験者の音響データから腸運動性を評価するために、leave one out交差検証を通して、予測アルゴリズムを用いて自動抽出された複数のセグメントから上述の2つの音響特徴量を抽出した。そして、被験者が炭酸水を摂取する前後のこれらの音響特徴量の違いを、ウィルコクソンの符号順位和検定を用いて評価した。
 本実施例では、STE法において音響データからセグメントを検出するための基準となるSNRの所定値(基準値)が、予測アルゴリズムの予測精度および腸運動性の評価にどのような影響を与えるのかを調査するために、SNRの所定値を0、0.5、1、2dBと変化させた。基準値ごとに得られたBSセグメントおよびNon-BSセグメントの、数および長さを表1に示す。
Figure JPOXMLDOC01-appb-T000008
 表1より、炭酸水摂取前と摂取後の両者ともに、Non-BSセグメントの数は基準値の低下に伴って増加するが、炭酸水摂取前のBSセグメントの数は一定の基準値を境に減少する傾向にあり、炭酸水摂取後のBSセグメントの数は基準値の低下に伴って低下する傾向にあることが分かった。また、BSセグメントおよびNon-BSセグメントとも、基準値の低下に伴い、大きくなっていることが確認できる。また、BSセグメントの数および長さ、ならびに、Non-BSセグメントの数は、炭酸水摂取前よりも摂取後のほうが大きく、Non-BSセグメントの長さは、炭酸水摂取前よりも摂取後のほうが小さい。
Figure JPOXMLDOC01-appb-I000009
Figure JPOXMLDOC01-appb-T000010
Figure JPOXMLDOC01-appb-T000011
 表2によれば、特徴量がMFCCの場合、炭酸水摂取前では、基準値の減少とともに、精度が劣化することが分かった。一方で炭酸水摂取後では、基準値の減少とともに精度が概ね高くなることが分かった。表3によれば、特徴量がPNCCの場合、炭酸水摂取前後のいずれにおいても、基準値の減少とともに、精度が高くなり、基準値が0dBの場合、最も高い精度が得られることが分かった。
 図8は、特徴量がMFCCおよびPNCCである場合の予測精度(Acc)をSNRの基準値毎に示したグラフであり、(a)は炭酸水摂取前のグラフ、(b)は炭酸水摂取後のグラフである。図8から、SNRの全ての基準値において、PNCCを用いた場合の精度のほうが、MFCCを用いた場合の精度より高いことが分かった。特に、SNRの基準値が0dBの場合、炭酸水摂取前におけるPNCCの標準偏差はMFCCの標準偏差と比べ小さくなり、PNCCの平均値はMFCCの平均値に比べ、十分高くなることが分かった。一般に炭酸水摂取前では、摂取後と比較して、音圧の低いBSが多く発生していることから、BSが含まれているかの予測を行うための特徴量は、PNCCが特に有効であることが分かった。
 [実施例2]
 本実施例では、実施例1において特に有効と判明したPNCCを特徴量として用いて、実施例1と同様に予測アルゴリズムを学習し、学習済み予測アルゴリズムによる音響データに腸蠕動音(BS)が含まれているかの予測、および、抽出した音響データに基づく腸運動性の評価が可能であるかを検証した。
 音響データにBSが含まれているかの予測精度を評価するにあたって、実施例1では、ランダムサンプリングによる評価を行ったが、本実施例では、leave one out 交差検証による評価を行った。具体的には、20名の被験者ごとにleave one out 交差検証を50回繰り返し、被験者ごとに最も精度が高くなった分類精度の平均値を計算した。その結果を表4に示す。
Figure JPOXMLDOC01-appb-T000012
 さらに、予測アルゴリズムによって抽出したBSセグメントに基づいて、被験者の腸運動性の評価を行った。具体的には、BSセグメントから、腸運動性を評価するための指標として、一分間あたりのBSの発生数、SNR、BSの長さ、およびBSの発生間隔を検出し、炭酸水摂取前後における腸運動性の違いを捉えた。一分間あたりのBSの発生数、およびSNRを表5に示し、BSの長さ、およびBSの発生間隔を表6に示す。
Figure JPOXMLDOC01-appb-T000013
Figure JPOXMLDOC01-appb-T000014
 表5および表6より、SNRの基準値を0dBまで低下させても、炭酸水摂取前後における腸運動性の違いを捉えることができることが分かった。この結果は、BSセグメントの抽出精度に関係していることに注意されたい。以上のことから、SNRの基準値が0dBまで変化する場合であれば、一分間あたりのBSの発生数(一分間あたりのBSセグメントの数)、SNR、BSの発生間隔は、基準値の変化に影響を受けない指標であると示唆された。
 なお、被験者が炭酸水を摂取すると、腸管の運動性が強く亢進することが知られている。よって、本発明に係る予測アルゴリズムは、健常者に比べ腸運動性が強く亢進していると考えられる腸疾患等の評価、モニタリングに有用であることが示唆された。
 [実施例3]
 本実施例では、PNCCを特徴量として用いて予測アルゴリズムを学習し、学習済み予測アルゴリズムによる音響データに腸蠕動音(BS)が含まれているかの予測、および、抽出した音響データに基づく腸運動性の評価、特に、過敏性腸症候群(IBS)の識別が可能であるかを確認した。
 まず、事前検証として、IBSおよび非IBSの48名の被験者から取得した音響データから腸蠕動音(BS)が含まれているBSセグメントを手動で抽出し、BSセグメントを解析することにより、IBSおよび非IBSを識別するための指標を調査した。
 具体的には、研究内容に同意が得られた男性被験者48名(IBS:23名(年齢:22.2±1.43、BMI:22.1±3.39)、非IBS:25名(年齢:22.7±3.32、BMI:21.6±3.69))に対して炭酸水負荷試験(STT)を行った。被験者は、RomeIII診断基準をもとに、IBSか非IBSかに分類された。STTの内容は、実施例1と同様であり、被験者には前日の12時間以上の絶食後に炭酸水を摂取してもらい、当日の午前中において、炭酸水摂取前の10分間の安静時、炭酸水摂取後15分間の安静時にSTTを行った。ただし、実験当日に腹痛や腹部不快感を訴えた被験者は除いた。集音装置として、非接触マイクロフォン(RODE社製 NT55)、電子聴診器(Cardionics社製 E-Scope2(48名)、オーディオインターフェイス(ZOOM社製 R16(34名)、R24(14名))を用いて録音を行った。音響データは、サンプリング周波数:44100Hz、ディジタル分解能:16bitで同時に記録された。実験中の被験者の体位は仰臥位であり、電子聴診器を臍から右9cmの位置に配置し、非接触マイクロフォンを臍から上方に20cmの位置に配置した。音響データは、一般的に知られている腸蠕動音(BS)の周波数特性を考慮して、4000Hzへのダウンサンプリング処理を行った。
 非接触マイクロフォンの音響データから手動でBSセグメントを抽出する作業では、電子聴診器の録音データから得られたARMAスペクトルピークの帯域幅を参考にして、BSの検出を行なった。これにより、BSが発生している時間が分かるため、それを参考にして、音声再生ソフトウェア上で、両録音データを視聴して、聴感評価を行なった。抽出されたBSセグメントをIBS群と非IBS群に分類し、IBS/非IBSを識別するための指標として、一分間あたりのBSの発生数、およびBSの発生間隔の2つの指標をBSから検出し、STTを実施した25分間における5分毎の各指標の平均値を算出した。そして、IBS群と非IBS群との間で、各指標に有意な差があるかをウィルコクソンの符号順位和検定によって検証した。
 図9(a)および(b)は、事前検証において算出された2つの指標の時間推移を示している。0~10分は炭酸水摂取前であり、10~25分は炭酸水摂取後である。図9から、20~25分(炭酸水摂取後10~15分)の区間における一分間あたりのBS発生数およびBS発生間隔において、IBS群と非IBS群との間で有意差があるという傾向が確認された。なお、電子聴診器の録音データに対して、ARMAに基づくアプローチを用いて推定した、一分間あたりのBS発生数を計算した場合では、IBS群と非IBS群との間で有意な違いが見られなかった。この結果は、電子聴診器録音に含まれるBSの中でも、特徴的なBSを獲得できる非接触マイクロフォン録音の顕著な有用性を強調する。
 続いて、本実施例では、事前検証における被験者の中から同一のオーディオインターフェース(R16)を用いて録音された音響データをピックし、予測アルゴリズムによって、音響データからBSセグメントを抽出した。そして、抽出したBSセグメントに基づき、被験者がIBSであるか否かを識別し、その精度を検証した。予測アルゴリズムは、PNCCを特徴量として用いたANNによる機械学習によって作成した。ANNの入力層、中間層および出力層のユニット数は、それぞれ8~28、40、1であった。また、教師データの作成におけるSTE法によるセグメント検出では、SNRの基準値を0dBとした。
 具体的には、研究内容に同意が得られた男性被験者34名(IBS:18名(年齢:23.1±3.84、BMI:21.9±4.07)、非IBS:16名(年齢:22.3±1.69、BMI:23.1±3.61))に対して、事前検証と同様のSTTを行い、事前検証と同様の方法によって、被験者から音響データを取得した。まず、音響データは、そして、取得した音響データは、サブセグメント:256、オーバーラップ:128で分割されたデータに対してSTE法を使用し、SNRが0dB以上のセグメントを検出し、予測アルゴリズムによってBSセグメントを抽出出来るか検討を行った。本実施例では、各セグメントは、フレームサイズ:200、オーバーラップ:100で分割され、フレーム毎に20次元のPNCC、20次元のMFCCが計算された。その後、各セグメントにおける20次元のMFCCの平均値、20次元のPNCCの平均値と20次元のPNCCの標準偏差、本実施例の特徴量:BSF1、BSF2、BSF3およびBSF4の各標準偏差、各平均値を計算した。また、ANNの入力層、中間層および出力層のユニット数は上述した通り(それぞれ8~28、40、1)であり、抽出性能の評価は、leave one out 交差検証によって行った。その評価結果を表7に示す。
Figure JPOXMLDOC01-appb-T000015
 このように、拡大されたサウンドデータベース(20名から34名)を使用することにより、PNCCの平均値(20次元)を使用する場合、およびMFCCの平均値(20次元)を使用する場合よりも格段に高いBS検出性能が得られることが明らかになった。このことから、本実施例のようにサンプリングレートが低い場合でも、BSの検出においては、MFCCよりPNCCが有効であることが確認された。また、本実施例の特徴量:BSF1、BSF2、BSF3およびBSF4の統計量(トータル:8次元)の特徴量を使用するだけで、PNCCの平均値(20次元)を使用する場合よりも高いBS検出性能を得ることができることが確認された。これは、明らかに、これら4つの特徴量がBS検出に有効であることを示していると考えられる。さらに、PNCCの統計量(標準偏差)とBSF1、BSF2、BSF3およびBSF4の統計量を組み合わせることにより、性能が改善されることが明らかとなった。
 事前検証では、例として、STTの20~25分(炭酸水摂取後10~15分)の区間における一分間あたりのBS発生数およびBS発生間隔において、IBS群と非IBS群との間で有意差があるという傾向が確認された。これに対し、PNCCの標準偏差とBSF1、BSF2、BSF3、BSF4の統計量(平均値と標準偏差)とを組み合わせた予測アルゴリズムによって抽出されたBSセグメントについても同様の傾向があるか確認するため、STTの20~25分(炭酸水摂取後10~15分)の区間における一分間あたりのBSセグメント数を推定した。その結果を表8に示す。
Figure JPOXMLDOC01-appb-T000016
 表7および表8に示す結果から、予測アルゴリズムを用いることにより、炭酸水摂取後、平均88.6%の感度でBSセグメントを抽出できることが分かった。そして、抽出されたBSセグメントに基づき、IBSおよび非IBSそれぞれの炭酸水摂取後10~15分の区間における、一分間あたりのBSセグメント数を計算した結果、IBS群と非IBS群との間に有意な差が認められた。以上のことから、手動で抽出したBSセグメントと同様に、予測アルゴリズムを用いて抽出したBSセグメントであっても、IBSと非IBSとの識別が可能であることが分かった。なお、BSF1、BSF2、BSF3、BSF4の統計量(平均値と標準偏差)のみを用いた場合でも、一分間あたりのBSセグメント数を基にして、IBSと非IBSとの間に有意な違い(P<0.05)が見られたことに注意されたい。
 なお、聴診器と非接触マイクロフォンを同時録音できるセンサでは、BSは同期して獲得される。今回の環境より雑音の多い状況下において、非接触マイクロフォンの録音データからBSセグメントを検出する場合、聴診器の録音データから、推定されたBSを参照することにより、非接触マイクロフォン録音からBSを検出する性能を改良することができる。
 [実施例4]
 本実施例では、非接触マイクロフォンを用いて、5名の被験者から録音された、(i)炭酸水摂取後の5分間の録音データ、(ii)コーヒー摂取後の5分間の録音データからマニュアルラベリングによりBSを抽出し、BSの種類について、次の5つのパターンP1~P5に分類を行った。
P1:約50ms程度以下の極めて短いBS(例、気泡が破裂したような音)。
P2:液体の移動に伴い発生するような、ゴロゴロゴロ、ギュルギュルギュルのようなBSであり、一般的に、スペクトログラム上、大きな変化が見られない。
P3:ギュル、ゴロ、グル、グゥのような音であり、P2に類似しており、P2より、BS長が短い傾向にある。
P4:グー、ギュー、クーのような音であり、単純いびき症のいびき音に類似したスペクトル構造が見られる。
P5:P4に類似した音が時間と共に比較的大きく変化するパターンであり、例えば、時間と共に高周波へシフトするパターンが挙げられ、スペクトログラムの形状が時間とともに明らかに変化するパターンである。
 なお、具体的な分類方法については、Dimoulas, C., Kalliris, G., Papanikolaou, G., Petridis, V., & Kalampakas, A. (2008). Bowel-sound pattern analysis using wavelets and neural networks with application to long-term, unsupervised, gastrointestinal motility monitoring. Expert Systems with Applications, 34(1), 26-41.を参照されたい。
 図10に、(a)炭酸水摂取後のBSパターンの発生頻度、(b)コーヒー摂取後のBSパターンの発生頻度を示す。この図から、両群間において、BSパターンの発生頻度の違いが確認された。コーヒー摂取後では、炭酸水摂取後に比べ、BSのパターンP1が明らかに多く見られることが確認された。逆に、炭酸水摂取後では、特に、パターンP2、P4の発生頻度が増加していることが確認された。これらの結果は明らかに、飲料水の成分の違いによる腸管内の状態の違いを表現していると思われる。これにより、BSパターンに基づいて、腸疾患の有無の評価が可能であることが示唆される。
 [実施例5]
 本実施例では、非接触マイクロフォンを用いて、5名の被験者から録音された、(i)炭酸水摂取後の5分間の録音データ、(ii)コーヒー摂取後の5分間の録音データからマニュアルラベリングによりBSを抽出して作成されたデータベースからBSパターンの自動分類を行った。なお、上述したパターンP1は50ms程度以下の短い音であり、BSセグメントの長さの情報だけで十分識別可能であるため、本実施例では除外されている。腸管が蠕動運動を行う際、空気や内容物(液体等)が腸管内を移動するときにBSが発生することが知られているため、本実施例では、パターンP2、P3を液体優位なBSパターンとしてまとめ、教師信号PA1:(0、1)を与えている。同様にパターンP4、P5を空気優位なBSパターンとしてまとめ、教師信号PA2:(1、0)を与えている。
 これらのBSパターンの自動分類には、下記の特徴量1~3を使用した。
特徴量1:BSF5
特徴量2(本実施例の特徴量):BSF1、BSF2、BSF3、BSF4の統計量(平均値と標準偏差)
特徴量3:特徴量2+BSF5
 自動分類アルゴリズムの学習では、入力層、中間層および出力層のユニット数がそれぞれ1~9、30および2のANNを用いた。スケーリング共役勾配法アルゴリズムによりANNを学習し、中間層ユニットの出力関数は双曲線正接関数であり、出力層ユニットの伝達関数は線形関数であった。データベースは、学習用データ:評価用データ=3:2に分割して、平均2乗誤差を基に分類アルゴリズムの性能評価を行った。その結果を表9に示す。表9には、300回の試行の後、最小の平均二乗誤差が代表値として表現されている。
Figure JPOXMLDOC01-appb-T000017
 BSF5を使用した場合(特徴量1)、本実施例の特徴量:BSF1、BSF2、BSF3、BSF4の統計量(平均値と標準偏差)を使用した場合(特徴量2)とでは、分類性能は変わらないことが確認された。しかしながら、これらの特徴量を組み合わせた場合(特徴量3)、格段の分類性能が得られることが示唆された。
 以上のことから、本実施例の特徴量であるBSFは、BS検出だけではなく、BS分類においても大きな貢献を果たすと考えられる。勿論、これらの考え方は、非接触マイクロフォンの録音データだけではなく、聴診器の録音データにも役に立つと考えられる。
 [実施例6]
 本実施例では、従来から、BS検出に使用されてきた(i)ARMAに基づくアプローチから抽出された後述の特徴量:ψ、(ii)本実施例の特徴量:BSF1、BSF2、BSF3、BSF4、および20次元のPNCCを用いて予測アルゴリズムを学習し、学習済み予測アルゴリズムによる腸蠕動音(BS)の抽出性能の比較検討を行った。また、音響データは、ノイズの多い環境下で電子聴診器を用いて取得した。2013年に本発明者らが開発したARMAに基づく腸音検出法は、サブセグメント毎に検出結果を得る必要があった。ここでは、本発明との性能比較を行うために、サブセグメントに対して本発明が適用された。なお、ここで使用するサブセグメント長は、フレーム長と等価である。
 本実施例では、研究内容に同意が得られた男性被験者10名に対して炭酸水負荷試験(STT)を行った。STTの内容は、実施例1と同様であり、被験者には(i)前日の12時間以上の絶食後、(ii)炭酸水摂取直後、(iii)食後1時間以内、(iv)コーヒー摂取直後に安静状態になってもらい、当日の午前中において、集音装置として、電子聴診器(Cardionics社製 E-Scope2)を用い、被験者ごとに騒音レベルの異なる下記のA~Eの環境下で、1分間録音を行った。(すなわち、1人の被験者からは、4つの状態(iからiv)×5つの録音環境(AからE)=20パターンの録音データが獲得される。)
A:静音下(騒音レベル:約32dB)
B:音読(約56dB)
C:足音(約51dB)
D:テレビ(約55dB)
E:扇風機稼働(約52dB)
なお、これらの騒音レベルは、被験者から、およそ1m程度離れた位置にある騒音計を使用して計測を行った。また、騒音源も被験者からおよそ1m程度離れた位置に配置したことに注意されたい。
 続いて、サブセグメントにBSが含まれているかの生体音判定(図3のステップS3)を人間の聴覚評価によって実施例1と同様に行った。
 また、各サブセグメントにおいて、ARMAに基づくアプローチを用いて特徴量を抽出した。具体的には、以下の処理を行った。
 まず、音響データは、サブセグメント長:M、オーバーラップ:Sで分割した。分割された信号は、次のように、表現することができる。
Figure JPOXMLDOC01-appb-M000018
 さらに、分割された信号に対し、最小二乗回帰分析を用いて線形トレンドを除去した。その後、以下の式のように、自己回帰移動平均(ARMA)モデルを用いて、信号をモデリングした。
Figure JPOXMLDOC01-appb-M000019
ここで、a、bはARMAの係数であり、w(n)は白色雑音であり、p、qはARMAの次数である。
 Prony法によりARMAモデルの係数が算出された後に、ARMAモデルのパワースペクトルを計算した。Prony法は、AR(m)モデルにより得られた、インパルス応答(長さl)をもとにしてARMA係数を設計する方法である。このパワースペクトルは極a、根bを含んだフィルタで雑音分散σをフィルタリングすることにより生成される。さらに、パワースペクトルを計算する前には、スペクトルの振幅推定の向上のため、ARMA係数のDサンプルのゼロパディングを行なった。
Figure JPOXMLDOC01-appb-M000020
 [数9]のパワースペクトルからピークピッキングを行うことにより、ピーク周波数での3dB帯域幅を求めた。
Figure JPOXMLDOC01-appb-M000021
 BW3dbは、ARMAのスペクトルピークにおける3dB帯域幅である。スペクトルに複数のピークが観測された場合は、最も狭い3dB帯域幅が用いられる。BW3dbが計算できない場合は、BW3db=0とされる。ψkは3次のメディアンフィルタにより平滑化されて使用される。
 また、カットオフ周波数:80Hzを持つ、100次のFIRハイパスフィルタを使用して、音響データをフィルタリングした。ただし、このカットオフ周波数は、フィルタの正規化ゲインが-6dBとなる周波数である。そして、フィルタリングされた信号を、サブセグメント長:M、オーバーラップ:Sで分割した。分割された信号は、次のように、表現することができる。
Figure JPOXMLDOC01-appb-M000022
ここで、Nはトータルサブセグメント数であり、s(n)はフィルタ処理された信号である。
 ARMAに基づくアプローチから抽出される特徴量は、ψ(数6)である。特徴量:ψの算出には、M=256、S=128、p=5、q=5、D=1024、m=30、l=4000の各パラメータを使用した。このアプローチとの性能を比較するために、特徴量:BSF1とBSF2およびBSF3、ならびに、20次元のPNCCが使用された。
 予測アルゴリズムの学習では、入力層および出力層のユニット数がそれぞれ(i:ψの場合)1、(ii:本実施例の特徴量の場合)24および1であり、中間層のユニット数(H)が40のANNを用いた。教師信号として、学習対象のサブセグメントがBSサブセグメントであれば1、non-BSサブセグメントであれば0を与え、スケーリング共役勾配法アルゴリズムによりANNを学習させ、予測アルゴリズムを作成した。
 予測アルゴリズムの予測精度の評価では、leave one out 交差検証を用い、感度、特異度、PPVを計算した。特徴量として、(i)ψを用いた場合と、(ii)発明の特徴量:BSF1,BSF2、BSF3、および20次元のPNCCの場合の結果を表10に示す。ここで、サブセグメンントに対してPNCCを使用するため、フィルタバンクには、メルフィルタバンクを使用し、PNCCのパワーバイアスサブトラクッション処理は実施しなかった。
Figure JPOXMLDOC01-appb-T000023
 この結果から、音響データが雑音の多い環境下で取得された場合であれば、予想通り、ARMAに基づくアプローチのBS検出性能が劣化することが確認された。一方で、特徴量として本実施例の特徴量:BSF1、BSF2、BSF3、および20次元のPNCCを用いて学習された予測アルゴリズムを用いることにより、ARMAに基づくアプローチより遥かに高い検出性能が得られることが確認された。また、10人の被験者の200パターンの録音データからマニュアルラベリングにより抽出された、各録音データに対するBSサブセグメント数と本実施例の予測アルゴリズムより推定された各録音データに対するBSサブセグメント数との相関係数を求めた結果、R=0.9272という高い相関が確認された。ここでは、ARMAに基づくアプローチを使用した場合とBS検出性能を比較するために、サブセグメントに対して本実施例の特徴量が使用された。このような聴診器の録音データの場合でも、セグメント分割して、BSF1、BSF2、BSF3、および20次元のPNCCの統計量を抽出することにより、更なる性能向上が期待される。
 なお、本技術は、SNRが低下するような環境下でも、BSを検出することを目指して、開発されてきた。上述の各実施例は、極めて小さな音のBSも検出対象としていたことに注意されたい。
1   機械学習装置
1’  機械学習装置
2   解析装置
2’  解析装置
3   入力装置
4   集音装置
6   表示装置
7   対象者
11  補助記憶装置
12  教師データ作成部
12’ 教師データ作成部
13  学習部
22  音響データ取得部
23  セグメント検出部
24  特徴量抽出部
25  生体音予測部
26  生体音セグメント抽出部
27  状態評価部(第1状態評価部)
28  分類予測部
29  状態評価部(第2状態評価部)
51  補助記憶装置
100 診断支援システム
121 音響データ取得部
122 セグメント検出部
122 生体音判定部
123 生体音判定部
124 特徴量抽出部
125 分類判定部
D1  教師データ
D1’ 教師データ
D2  予測アルゴリズム
D2’ 予測アルゴリズム

Claims (19)

  1.  音響データに生体音が含まれているかを予測する予測アルゴリズムを学習する機械学習装置であって、
     集音装置によって被験者から得られた音響データを取得する音響データ取得部と、
     前記音響データに前記生体音が含まれるか否かをユーザの操作に応じて判定する生体音判定部と、
     前記音響データにおける特徴量を抽出する特徴量抽出部と、
     前記生体音判定部の判定結果および前記特徴量に基づいて、前記予測アルゴリズムを学習する学習部と、
    を備え、
     前記特徴量は、PNCC、MFCC、△PNCC、△△PNCC、△MFCC、△△MFCC、BSF、フォルマントに関連する特徴、ピッチに関連する特徴、LPC係数、スペクトルフラットネス、対数エネルギ、有音区間の持続時間、ZCR、およびエントロピーに基づく指標、ならびに、それらの統計量の少なくともいずれかを含む、機械学習装置。
  2.  前記生体音は腸蠕動音である、請求項1に記載の機械学習装置。
  3.  前記特徴量はPNCCを含む、請求項1または2に記載の機械学習装置。
  4.  前記特徴量はBSFおよびその統計量の少なくともいずれかを含む、請求項1~3のいずれかに記載の機械学習装置。
  5.  前記特徴量は、BSF1の平均および標準偏差、BSF2の平均および標準偏差、BSF3の平均および標準偏差、BSF4の平均および標準偏差、並びに、BSF5を含む、請求項4に記載の機械学習装置。
  6.  前記学習部は、人工ニューラルネットワーク(ANN)で構成される、請求項1~5のいずれかに記載の機械学習装置。
  7.  前記集音装置は非接触マイクロフォンである、請求項1~6のいずれかに記載の機械学習装置。
  8.  前記音響データ取得部によって取得された前記音響データから、複数のセグメントを検出するセグメント検出部をさらに備え、
     前記生体音判定部は、各セグメントに前記生体音が含まれるか否かをユーザの操作に応じて判定し、
     前記特徴量抽出部は、各セグメントにおける特徴量を抽出し、
     前記学習部は、各セグメントにおける前記特徴量および前記生体音判定部による判定結果に基づいて、前記予測アルゴリズムを学習する、請求項1~7のいずれかに記載の機械学習装置。
  9.  前記セグメント検出部は、SNRが所定値以上のセグメントを検出する、請求項8に記載の機械学習装置。
  10.  前記音響データに前記生体音が含まれる場合、前記生体音の種類をユーザの操作に応じて判定する分類判定部をさらに備え、
     前記学習部は、さらに前記生体音の種類に基づいて、前記予測アルゴリズムを学習する、請求項1~9のいずれかに記載の機械学習装置。
  11.  集音装置によって対象者から得られた音響データを解析する解析装置であって、
     請求項1~10のいずれかに記載の機械学習装置によって学習された予測アルゴリズムに従って、前記音響データに生体音が含まれているかを予測する生体音予測部を備えた、解析装置。
  12.  前記生体音予測部の予測結果に基づいて、前記音響データから前記生体音が含まれているセグメントを抽出する生体音セグメント抽出部と、
     前記生体音セグメント抽出部によって抽出された前記セグメントに基づいて、前記対象者の状態を評価する第1状態評価部と、
    をさらに備えた、請求項11に記載の解析装置。
  13.  前記生体音は腸蠕動音であり、
     前記第1状態評価部は、前記状態として腸運動性を評価する、請求項12に記載の解析装置。
  14.  前記予測アルゴリズムは、請求項8に記載の機械学習装置によって学習された予測アルゴリズムであり、
     前記音響データに生体音が含まれていると予測された場合に、前記予測アルゴリズムに従って、前記生体音の種類を予測する分類予測部をさらに備えた、請求項11~13のいずれかに記載の解析装置。
  15.  前記分類予測部によって予測された前記生体音の種類に基づいて、前記対象者の状態を評価する第2状態評価部をさらに備えた、請求項14に記載の解析装置。
  16.  前記生体音は腸蠕動音であり、
     前記第2状態評価部は、前記状態として腸疾患の有無を評価する、請求項15に記載の解析装置。
  17.  音響データに生体音が含まれているかを予測する予測アルゴリズムを学習する機械学習方法であって、
     集音装置によって被験者から得られた音響データを取得する音響データ取得ステップと、
     前記音響データに前記生体音が含まれるか否かをユーザの操作に応じて判定する生体音判定ステップと、
     前記音響データにおける特徴量を抽出する特徴量抽出ステップと、
     前記生体音判定ステップの判定結果および前記特徴量に基づいて、前記予測アルゴリズムを学習する学習ステップと、
    を備え、
     前記特徴量は、PNCC、MFCC、△PNCC、△△PNCC、△MFCC、△△MFCC、BSF、フォルマントに関連する特徴、ピッチに関連する特徴、LPC係数、スペクトルフラットネス、対数エネルギ、有音区間の持続時間、ZCR、およびエントロピーに基づく指標、ならびに、それらの統計量の少なくともいずれかを含む、機械学習方法。
  18.  集音装置によって対象者から得られた音響データを解析する解析方法であって、
     請求項17に記載の機械学習方法によって学習された予測アルゴリズムに従って、前記音響データに生体音が含まれているかを予測する予測ステップを備えた、解析方法。
  19.  前記予測ステップの予測結果に基づいて、前記音響データから前記生体音が含まれているセグメントを抽出する生体音セグメント抽出ステップと、
     前記生体音セグメント抽出ステップによって抽出された前記セグメントに基づいて、前記対象者の状態を評価する状態評価ステップと、
    をさらに備えた、請求項18に記載の解析方法。
PCT/JP2019/018287 2018-05-08 2019-05-07 機械学習装置、解析装置、機械学習方法および解析方法 WO2019216320A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020518303A JP7197922B2 (ja) 2018-05-08 2019-05-07 機械学習装置、解析装置、機械学習方法および解析方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018-089850 2018-05-08
JP2018089850 2018-05-08

Publications (1)

Publication Number Publication Date
WO2019216320A1 true WO2019216320A1 (ja) 2019-11-14

Family

ID=68468296

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/018287 WO2019216320A1 (ja) 2018-05-08 2019-05-07 機械学習装置、解析装置、機械学習方法および解析方法

Country Status (2)

Country Link
JP (1) JP7197922B2 (ja)
WO (1) WO2019216320A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111227819A (zh) * 2020-02-21 2020-06-05 孙磊 多维通道传感器的胎心检测传感器矩阵的信号处理方法
CN113796889A (zh) * 2021-08-30 2021-12-17 西安交通大学 一种基于深度学习的辅助电子听诊器信号判别方法
CN114515137A (zh) * 2020-11-19 2022-05-20 纬创资通股份有限公司 生理病征识别方法及生理病征感测系统
WO2022124190A1 (ja) 2020-12-07 2022-06-16 サントリーホールディングス株式会社 情報処理装置、情報処理方法、及び記録媒体
WO2023238419A1 (ja) * 2022-06-07 2023-12-14 サントリーホールディングス株式会社 携帯情報端末、情報処理システム、携帯情報端末の制御方法及びプログラム
WO2023238420A1 (ja) * 2022-06-07 2023-12-14 サントリーホールディングス株式会社 録音装置、情報処理システム、録音方法及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015514456A (ja) * 2012-03-29 2015-05-21 ザ ユニバーシティ オブ クィーンズランド 患者音を処理するための方法および装置
WO2017135127A1 (ja) * 2016-02-01 2017-08-10 国立大学法人徳島大学 生体音響抽出装置、生体音響解析装置、生体音響抽出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
US20170301347A1 (en) * 2016-04-13 2017-10-19 Malaspina Labs (Barbados), Inc. Phonotactic-Based Speech Recognition & Re-synthesis

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015514456A (ja) * 2012-03-29 2015-05-21 ザ ユニバーシティ オブ クィーンズランド 患者音を処理するための方法および装置
WO2017135127A1 (ja) * 2016-02-01 2017-08-10 国立大学法人徳島大学 生体音響抽出装置、生体音響解析装置、生体音響抽出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
US20170301347A1 (en) * 2016-04-13 2017-10-19 Malaspina Labs (Barbados), Inc. Phonotactic-Based Speech Recognition & Re-synthesis

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SATO, R. ET AL.: "Automatic Bowel Motility Evaluation Technique for Noncontact Sound Recordings", APPLIED SCIENCES, vol. 8, no. 999, 19 June 2018 (2018-06-19), pages 1 - 9, XP055651526 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111227819A (zh) * 2020-02-21 2020-06-05 孙磊 多维通道传感器的胎心检测传感器矩阵的信号处理方法
CN111227819B (zh) * 2020-02-21 2021-05-07 孙磊 多维通道传感器的胎心检测传感器矩阵的信号处理方法
CN114515137A (zh) * 2020-11-19 2022-05-20 纬创资通股份有限公司 生理病征识别方法及生理病征感测系统
CN114515137B (zh) * 2020-11-19 2024-04-19 纬创资通股份有限公司 肠胃病征识别方法及肠胃病征感测系统
WO2022124190A1 (ja) 2020-12-07 2022-06-16 サントリーホールディングス株式会社 情報処理装置、情報処理方法、及び記録媒体
EP4257052A4 (en) * 2020-12-07 2024-10-09 Suntory Holdings Ltd INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD AND RECORDING MEDIUM
CN113796889A (zh) * 2021-08-30 2021-12-17 西安交通大学 一种基于深度学习的辅助电子听诊器信号判别方法
WO2023238419A1 (ja) * 2022-06-07 2023-12-14 サントリーホールディングス株式会社 携帯情報端末、情報処理システム、携帯情報端末の制御方法及びプログラム
WO2023238420A1 (ja) * 2022-06-07 2023-12-14 サントリーホールディングス株式会社 録音装置、情報処理システム、録音方法及びプログラム

Also Published As

Publication number Publication date
JPWO2019216320A1 (ja) 2021-06-17
JP7197922B2 (ja) 2022-12-28

Similar Documents

Publication Publication Date Title
JP7197922B2 (ja) 機械学習装置、解析装置、機械学習方法および解析方法
Abeyratne et al. Pitch jump probability measures for the analysis of snoring sounds in apnea
CN108670200B (zh) 一种基于深度学习的睡眠鼾声分类检测方法及系统
Amrulloh et al. Automatic cough segmentation from non-contact sound recordings in pediatric wards
Azarbarzin et al. Automatic and unsupervised snore sound extraction from respiratory sound signals
JP6435257B2 (ja) 患者音を処理するための方法および装置
Matos et al. Detection of cough signals in continuous audio recordings using hidden Markov models
US20200093423A1 (en) Estimation of sleep quality parameters from whole night audio analysis
Arsenali et al. Recurrent neural network for classification of snoring and non-snoring sound events
Emoto et al. Detection of sleep breathing sound based on artificial neural network analysis
JP6908243B2 (ja) 生体音響抽出装置、生体音響解析装置、生体音響抽出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
Datta et al. Automated lung sound analysis for detecting pulmonary abnormalities
Nabi et al. Identification of asthma severity levels through wheeze sound characterization and classification using integrated power features
JP2021517005A (ja) 胃腸状態の可能性を示すための方法およびシステム
Markandeya et al. Smart phone based snoring sound analysis to identify upper airway obstructions
Kim et al. Non-invasive way to diagnose dysphagia by training deep learning model with voice spectrograms
Luo et al. Design of embedded real-time system for snoring and OSA detection based on machine learning
Porieva et al. Investigation of lung sounds features for detection of bronchitis and COPD using machine learning methods
JP2021074238A (ja) 測定装置及びプログラム
Saudi et al. Computer aided recognition of vocal folds disorders by means of RASTA-PLP
Sofwan et al. Normal and murmur heart sound classification using linear predictive coding and k-Nearest neighbor methods
Dafna et al. Automatic detection of snoring events using Gaussian mixture models
Hariharan et al. Identification of vocal fold pathology based on mel frequency band energy coefficients and singular value decomposition
Roquemen-Echeverri et al. An AI-powered tool for automatic heart sound quality assessment and segmentation
Patel et al. Multi Feature fusion for COPD Classification using Deep learning algorithms

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19799777

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020518303

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19799777

Country of ref document: EP

Kind code of ref document: A1