JP2021521704A - 遠隔会議システム、遠隔会議のための方法、およびコンピュータ・プログラム - Google Patents
遠隔会議システム、遠隔会議のための方法、およびコンピュータ・プログラム Download PDFInfo
- Publication number
- JP2021521704A JP2021521704A JP2020556246A JP2020556246A JP2021521704A JP 2021521704 A JP2021521704 A JP 2021521704A JP 2020556246 A JP2020556246 A JP 2020556246A JP 2020556246 A JP2020556246 A JP 2020556246A JP 2021521704 A JP2021521704 A JP 2021521704A
- Authority
- JP
- Japan
- Prior art keywords
- terminal
- video signal
- signs
- disease
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 28
- 238000004590 computer program Methods 0.000 title claims description 9
- 208000024891 symptom Diseases 0.000 claims abstract description 54
- 230000005236 sound signal Effects 0.000 claims abstract description 31
- 230000033001 locomotion Effects 0.000 claims description 22
- 230000000306 recurrent effect Effects 0.000 claims description 19
- 238000013528 artificial neural network Methods 0.000 claims description 18
- 238000004458 analytical method Methods 0.000 claims description 13
- 238000000605 extraction Methods 0.000 claims description 13
- 238000013518 transcription Methods 0.000 claims description 13
- 230000035897 transcription Effects 0.000 claims description 13
- 238000003058 natural language processing Methods 0.000 claims description 8
- 230000004886 head movement Effects 0.000 claims description 7
- 238000012546 transfer Methods 0.000 claims description 3
- 201000010099 disease Diseases 0.000 claims 17
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims 17
- 238000010586 diagram Methods 0.000 description 15
- 230000036541 health Effects 0.000 description 15
- 230000001815 facial effect Effects 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 230000014509 gene expression Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 6
- 230000002996 emotional effect Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000008451 emotion Effects 0.000 description 2
- 230000008921 facial expression Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 230000005195 poor health Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 206010011878 Deafness Diseases 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 210000001097 facial muscle Anatomy 0.000 description 1
- 230000036449 good health Effects 0.000 description 1
- 230000005802 health problem Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000037081 physical activity Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/165—Evaluating the state of mind, e.g. depression, anxiety
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0002—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
- A61B5/0015—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by features of the telemetry system
- A61B5/0022—Monitoring a patient using a global network, e.g. telephone networks, internet
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0059—Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
- A61B5/0077—Devices for viewing the surface of the body, e.g. camera, magnifying lens
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1116—Determining posture transitions
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/743—Displaying an image simultaneously with additional graphical information, e.g. symbols, charts, function plots
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
- G06V40/176—Dynamic expression
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification techniques
- G10L17/22—Interactive procedures; Man-machine interfaces
- G10L17/24—Interactive procedures; Man-machine interfaces the user being prompted to utter a password or a predefined phrase
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/66—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for extracting parameters related to health condition
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
- G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
- G16H40/67—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H80/00—ICT specially adapted for facilitating communication between medical practitioners or patients, e.g. for collaborative diagnosis, therapy or health monitoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/40—Support for services or applications
- H04L65/403—Arrangements for multi-party communication, e.g. for conferences
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/80—Responding to QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
- A61B2576/02—Medical imaging apparatus involving image processing or analysis specially adapted for a particular organ or body part
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/1032—Determining colour for diagnostic purposes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1113—Local tracking of patients, e.g. in a hospital or private home
- A61B5/1114—Tracking parts of the body
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1123—Discriminating type of movement, e.g. walking or running
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1126—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique
- A61B5/1128—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb using a particular sensing technique using image analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4803—Speech analysis specially adapted for diagnostic purposes
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Pathology (AREA)
- Multimedia (AREA)
- Veterinary Medicine (AREA)
- Biophysics (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- Epidemiology (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Acoustics & Sound (AREA)
- Computational Linguistics (AREA)
- Primary Health Care (AREA)
- Theoretical Computer Science (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Dentistry (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Social Psychology (AREA)
- Developmental Disabilities (AREA)
- Evolutionary Computation (AREA)
- Educational Technology (AREA)
- Hospice & Palliative Care (AREA)
- Psychology (AREA)
Abstract
Description
Claims (20)
- 遠隔会議システムであって、
音声信号および高品質映像信号を取得し、取得した前記高品質映像信号を前記高品質映像信号のビット・レートより低いビット・レートの低品質映像信号に変換するように構成されるカメラおよびマイクロフォンを含む、第1の端末と、
前記第1の端末および第2の端末と通信し、また、前記低品質映像信号および前記音声信号を前記第1の端末からリアルタイムで受信し、前記低品質映像信号および前記音声信号を前記第2の端末に送信するように構成される、遠隔会議サーバと、
前記第1の端末および前記遠隔会議サーバと通信し、また、前記高品質映像信号および前記音声信号を前記第1の端末から非同期で受信し、前記高品質映像信号および前記音声信号を分析して1つまたは複数の病気の兆候を検出し、前記1つまたは複数の病気の兆候を検出すると診断警報を生成し、前記診断警報を前記第2の端末上の表示用に前記遠隔会議サーバに送信するように構成される、症状認識サーバと、
を備える、遠隔会議システム。 - 前記症状認識サーバが、マルチモーダル・リカレント・ニューラル・ネットワークを用いて前記高品質映像信号および前記音声信号から前記病気の兆候を検出するように構成される、請求項1に記載のシステム。
- 前記症状認識サーバが、
前記高品質映像信号から顔を検出することと、
検出された前記顔から動作ユニットを抽出することと、
検出された前記顔から目印を検出することと、
検出された前記目印を追跡することと、
追跡された前記目印を用いて意味素性抽出を実行することと、
前記マルチモーダル・リカレント・ニューラル・ネットワークを用いて、検出された前記顔、抽出された前記動作ユニット、追跡された前記目印、および抽出された前記意味素性から前記病気の兆候を検出することと、
によって、前記高品質映像信号から前記病気の兆候を検出するように構成される、請求項2に記載のシステム。 - 前記症状認識サーバが、
前記高品質映像信号から身体姿勢を検出することと、
前記高品質映像信号から頭部運動を追跡することと、
前記マルチモーダル・リカレント・ニューラル・ネットワークを用いて、検出された前記身体姿勢および追跡された前記頭部運動から前記病気の兆候を検出することと、
によって、前記高品質映像信号から前記病気の兆候を検出するように構成される、請求項2に記載のシステム。 - 前記症状認識サーバが、
前記音声信号から音色特徴を検出することと、
前記音声信号を転写して音声転写を生成することと、
前記音声転写に対して自然言語処理を実行することと、
前記音声転写に対して意味解析を実行することと、
前記音声転写に対して言語構造抽出を実行することと、
前記リカレント・ニューラル・ネットワークを用いて、検出された前記音色特徴、前記音声転写、前記自然言語処理の結果、前記意味解析の結果、および前記言語構造抽出の結果から前記病気の兆候を検出することと、
によって、前記音声信号から前記病気の兆候を検出するように構成される、請求項2に記載のシステム。 - 前記第1の端末が、前記高品質信号の分解能を低下させること、前記高品質信号のフレームレートを低下させること、または前記高品質信号を圧縮することによって、前記高品質映像信号をより低いビット・レートの低品質映像信号に変換するように構成される、請求項1に記載のシステム。
- 前記症状認識サーバが、前記第1の端末の一部であるか、または前記第1の端末に局所的に接続される、請求項1に記載のシステム。
- 前記遠隔会議サーバが、インターネットまたは別のワイド・エリア・ネットワークを経て前記第1の端末および前記第2の端末と通信する、請求項1に記載のシステム。
- 前記第2の端末が、遠隔会議の一部として前記低品質映像信号を表示するように構成され、前記遠隔会議サーバが、前記第2の端末の前記表示上に前記診断警報をオーバレイするように構成される、請求項1に記載のシステム。
- 前記遠隔会議サーバが、文字警報の形態で、前記第2の端末の前記表示上に前記診断警報をオーバレイするように構成される、請求項9に記載のシステム。
- 前記遠隔会議サーバが、前記病気の兆候の基となる顔または身体の一部をハイライトし、または強調するグラフィック要素の形態で、前記第2の端末の前記表示上に前記診断警報をオーバレイするように構成される、請求項9に記載のシステム。
- 前記遠隔会議サーバが、前記音声信号の文字音声転写上の注釈、ハイライト、または他のマーキングの形態で、前記第2の端末の前記表示上に前記診断警報をオーバレイするように構成される、請求項9に記載のシステム。
- 前記遠隔会議サーバが、前記病気の兆候の基となる前記高品質映像信号の一部の再生を含むピクチャ・イン・ピクチャ要素の形態で、前記第2の端末の前記表示上に前記診断警報をオーバレイするように構成される、請求項9に記載のシステム。
- 遠隔会議のための方法であって、
音声信号および映像信号を第1の端末から取得することと、
前記第1の端末および第2の端末と通信する遠隔会議サーバに、前記映像信号および前記音声信号を送信することと、
前記第1の端末および前記遠隔会議サーバと通信する症状認識サーバに、前記映像信号および前記音声信号を送信することと、
マルチモーダル・リカレント・ニューラル・ネットワークを用いて前記映像信号および前記音声信号から病気の兆候を検出することと、
検出された前記病気の兆候についての診断警報を生成することと、
前記診断警報で前記映像信号に注釈を付けることと、
前記第2の端末上に注釈付きの前記映像信号を表示することと、
を含む、方法。 - 前記映像信号から前記病気の兆候を検出することが、
前記映像信号から顔を検出することと、
検出された前記顔から動作ユニットを抽出することと、
検出された前記顔から目印を検出することと、
検出された前記目印を追跡することと、
追跡された前記目印を用いて意味素性抽出を実行することと、
前記マルチモーダル・リカレント・ニューラル・ネットワークを用いて、検出された前記顔、抽出された前記動作ユニット、追跡された前記目印、および抽出された前記意味素性から前記病気の兆候を検出することと、
を含む、請求項14に記載の方法。 - 前記映像信号から前記病気の兆候を検出することが、
前記映像信号から身体姿勢を検出することと、
前記映像信号から頭部運動を追跡することと、
前記マルチモーダル・リカレント・ニューラル・ネットワークを用いて、検出された前記身体姿勢および追跡された前記頭部運動から前記病気の兆候を検出することと、
を含む、請求項14に記載の方法。 - 前記音声信号から前記病気の兆候を検出することが、
前記音声信号から音色特徴を検出することと、
前記音声信号を転写して音声転写を生成することと、
前記音声転写に対して自然言語処理を実行することと、
前記音声転写に対して意味解析を実行することと、
前記音声転写に対して言語構造抽出を実行することと、
前記リカレント・ニューラル・ネットワークを用いて、検出された前記音色特徴、前記音声転写、前記自然言語処理の結果、前記意味解析の結果、および前記言語構造抽出の結果から前記病気の兆候を検出することと、
を含む、請求項14に記載の方法。 - 前記映像信号を前記症状認識サーバに送信する前に、前記映像信号のビット・レートが低下される、請求項14に記載の方法。
- 前記映像信号から前記病気の兆候を検出する前に、前記映像信号がアップサンプリングされる、請求項14に記載の方法。
- コンピュータ・プログラムであって、前記コンピュータ・プログラムがコンピュータ・システム上で実行されるときに、請求項14ないし19のいずれかに記載の方法の全てのステップを実行する命令を含む、コンピュータ・プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/964,542 | 2018-04-27 | ||
US15/964,542 US20190328300A1 (en) | 2018-04-27 | 2018-04-27 | Real-time annotation of symptoms in telemedicine |
PCT/IB2019/052910 WO2019207392A1 (en) | 2018-04-27 | 2019-04-09 | Real-time annotation of symptoms in telemedicine |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021521704A true JP2021521704A (ja) | 2021-08-26 |
JP7292782B2 JP7292782B2 (ja) | 2023-06-19 |
Family
ID=68290811
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020556246A Active JP7292782B2 (ja) | 2018-04-27 | 2019-04-09 | 遠隔会議システム、遠隔会議のための方法、およびコンピュータ・プログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20190328300A1 (ja) |
JP (1) | JP7292782B2 (ja) |
CN (1) | CN111989031A (ja) |
DE (1) | DE112019002205T5 (ja) |
WO (1) | WO2019207392A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10977921B2 (en) * | 2018-11-27 | 2021-04-13 | International Business Machines Corporation | Cognitive analysis of biosensor data |
CN111134686A (zh) * | 2019-12-19 | 2020-05-12 | 南京酷派软件技术有限公司 | 一种人体病症确定方法、装置、存储介质及终端 |
US11417330B2 (en) * | 2020-02-21 | 2022-08-16 | BetterUp, Inc. | Determining conversation analysis indicators for a multiparty conversation |
US20220093220A1 (en) * | 2020-09-18 | 2022-03-24 | Seth Feuerstein | System and method for patient assessment using disparate data sources and data-informed clinician guidance via a shared patient/clinician user interface |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015062119A (ja) * | 2013-09-22 | 2015-04-02 | 株式会社リコー | 医療関係者用モバイル情報ゲートウェイ |
JP2015530886A (ja) * | 2012-06-27 | 2015-10-29 | バウチャー、ライアン | 医療診断情報を取得するための装置、方法、およびシステム、ならびに遠隔医療サービスの提供 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160302666A1 (en) * | 2010-07-30 | 2016-10-20 | Fawzi Shaya | System, method and apparatus for performing real-time virtual medical examinations |
US9516079B2 (en) * | 2012-07-16 | 2016-12-06 | Ricoh Company, Ltd. | Media stream modification based on channel limitations |
CN106126912A (zh) * | 2016-06-22 | 2016-11-16 | 扬州立兴科技发展合伙企业(有限合伙) | 一种远程音视频会诊系统 |
CN109792402B (zh) * | 2016-07-08 | 2020-03-06 | 艾赛普公司 | 自动响应用户的请求 |
CN107358055A (zh) * | 2017-07-21 | 2017-11-17 | 湖州师范学院 | 智能辅助诊断系统 |
CN107610768A (zh) * | 2017-10-10 | 2018-01-19 | 朗昇科技(苏州)有限公司 | 一种用于远程医疗诊断的采集终端及远程医疗诊断系统 |
-
2018
- 2018-04-27 US US15/964,542 patent/US20190328300A1/en active Pending
-
2019
- 2019-04-09 JP JP2020556246A patent/JP7292782B2/ja active Active
- 2019-04-09 CN CN201980026809.2A patent/CN111989031A/zh active Pending
- 2019-04-09 WO PCT/IB2019/052910 patent/WO2019207392A1/en active Application Filing
- 2019-04-09 DE DE112019002205.9T patent/DE112019002205T5/de active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015530886A (ja) * | 2012-06-27 | 2015-10-29 | バウチャー、ライアン | 医療診断情報を取得するための装置、方法、およびシステム、ならびに遠隔医療サービスの提供 |
JP2015062119A (ja) * | 2013-09-22 | 2015-04-02 | 株式会社リコー | 医療関係者用モバイル情報ゲートウェイ |
Also Published As
Publication number | Publication date |
---|---|
WO2019207392A1 (en) | 2019-10-31 |
JP7292782B2 (ja) | 2023-06-19 |
US20190328300A1 (en) | 2019-10-31 |
CN111989031A (zh) | 2020-11-24 |
DE112019002205T5 (de) | 2021-02-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7292782B2 (ja) | 遠隔会議システム、遠隔会議のための方法、およびコンピュータ・プログラム | |
US10176366B1 (en) | Video relay service, communication system, and related methods for performing artificial intelligence sign language translation services in a video relay service environment | |
Kim et al. | A comparison of online automatic speech recognition systems and the nonverbal responses to unintelligible speech | |
JP7400100B2 (ja) | 音声映像ストリームからのプライバシーに配慮した会議室でのトランスクリプション | |
US20180077095A1 (en) | Augmentation of Communications with Emotional Data | |
JP4604173B2 (ja) | 遠隔会議・教育システム | |
KR102098734B1 (ko) | 대화 상대의 외형을 반영한 수어 영상 제공 방법, 장치 및 단말 | |
US10834456B2 (en) | Intelligent masking of non-verbal cues during a video communication | |
CA3175428A1 (en) | Multimodal analysis combining monitoring modalities to elicit cognitive states and perform screening for mental disorders | |
US20220327309A1 (en) | METHODS, SYSTEMS, and MACHINE-READABLE MEDIA FOR TRANSLATING SIGN LANGUAGE CONTENT INTO WORD CONTENT and VICE VERSA | |
US11860925B2 (en) | Human centered computing based digital persona generation | |
CN111489819A (zh) | 检测认知和语言障碍的方法、服务器和计算机可读介质 | |
JP7439564B2 (ja) | 非テキスト入力による感覚媒体間の関連付けを学習するためのシステム、プログラム及び方法 | |
US20210271864A1 (en) | Applying multi-channel communication metrics and semantic analysis to human interaction data extraction | |
EP3624136A1 (en) | Invoking chatbot in a communication session | |
Rastgoo et al. | A survey on recent advances in Sign Language Production | |
JP6843409B1 (ja) | 学習方法、コンテンツ再生装置、及びコンテンツ再生システム | |
US20190332899A1 (en) | Analysis of image media corresponding to a communication session | |
KR20220034396A (ko) | 얼굴 영상 생성 장치, 방법 및 컴퓨터 프로그램 | |
JP2021179689A (ja) | 翻訳プログラム、翻訳装置、翻訳方法、及びウェアラブル端末 | |
US20190332657A1 (en) | Automated linking of media data | |
WO2023208090A1 (en) | Method and system for personal identifiable information removal and data processing of human multimedia | |
US20240029474A1 (en) | Person evaluation information generation method | |
US20230360557A1 (en) | Artificial intelligence-based video and audio assessment | |
JP2022143650A (ja) | 情報処理装置、非言語情報変換システム、情報処理方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201029 |
|
RD12 | Notification of acceptance of power of sub attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7432 Effective date: 20201013 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210830 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20220502 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220930 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221101 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230523 |
|
RD14 | Notification of resignation of power of sub attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7434 Effective date: 20230523 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230605 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7292782 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |