JP6912998B2 - データ分析装置、データ分析方法、およびデータ分析プログラム - Google Patents
データ分析装置、データ分析方法、およびデータ分析プログラム Download PDFInfo
- Publication number
- JP6912998B2 JP6912998B2 JP2017206069A JP2017206069A JP6912998B2 JP 6912998 B2 JP6912998 B2 JP 6912998B2 JP 2017206069 A JP2017206069 A JP 2017206069A JP 2017206069 A JP2017206069 A JP 2017206069A JP 6912998 B2 JP6912998 B2 JP 6912998B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- unit
- output
- layer
- learning parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Image Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
AI(Artificial Intelligence)は、線形分離不可能問題を解く能力を持つが、AIが、どうしてそのような判断をしたかが不明である。特に、deep learningなどの機械学習手法は、予測精度は高いが説明能力が低い。たとえば、ある患者に対して「風邪をひきやすい」という診断結果をAIが出力した場合、医師は、AIがなぜそのような結果を得たかを答えることができない。もし、AIがその原因まで判断できれば、医師は、患者に対して適切な治療をおこなうことがきる。
図2は、データ分析システムのシステム構成例を示すブロック図である。図2では、サーバ−クライアント型のデータ分析システム2を例に挙げて説明するが、スタンドアロン型でもよい。(A)は、データ分析システム2のハードウェア構成例を示すブロック図であり、(B)は、データ分析システム2の機能的構成例を示すブロック図である。(A)および(B)において同一構成には同一符号を付す。
図3は、実施例1にかかる第1ニューラルネットワークの構造例を示す説明図である。第1ニューラルネットワーク300は、データユニット群DUと、レポーティングユニット群RUと、ハーモナイジングユニット群HUと、リアロケーションユニットRAUと、ユニファイユニットUUと、デシジョンユニットDCUと、インポータンスユニットIUと、を有する。
図4は、データ分析装置220の機能的構成例を示すブロック図である。データ分析装置220は、入力層301と、中間層302と、出力層303と、変換部401と、再配置部402と、予測データ算出部403と、重要度算出部404と、設定部405と、統合部406と、縮約部407と、選択部408と、を有する。これらは、学習部261および予測部262の内部構成例である。なお、選択部408は、後述する実施例2の構成要素であるため、実施例2後述する。
図5は、実施例1にかかるデータ分析装置220によるデータ分析処理手順例を示すフローチャートである。図5のうち、ステップS501〜S502が学習部261による学習処理であり、ステップS503〜S507が予測部262による予測処理である。まず、データ分析装置220は、訓練データ集合264を読み込む(ステップS501)。
図6は、実施例2にかかる第2ニューラルネットワークの構造例を示す説明図である。第2ニューラルネットワーク600は、データユニット群DUと、レポーティングユニット群RUと、セレクションユニットSUと、ハーモナイジングユニット群HUaと、リアロケーションユニットRAUaと、ユニファイユニットUUaと、デシジョンユニットDCUaと、インポータンスユニットIUaと、を有する。
つぎに、実施例2にかかるデータ分析装置220の機能的構成例について図4を用いて説明する。実施例1と同一構成については、説明を省略する。実施例2では、あらたに選択部408が追加されている。選択部408は、特徴量ベクトルxnと重要度ベクトルsn lとに基づいて、特徴量ベクトルxnを構成する要素ごとの重要度ベクトルsavを算出し、重要度ベクトルsavに基づいて、特徴量ベクトルxnから一部の要素を選択して特徴量ベクトルznを生成する。選択部408は、上述したセレクションユニットSUである。
図7は、実施例2にかかるデータ分析装置220によるデータ分析処理手順例を示すフローチャートである。図7のうち、ステップS701〜S702が学習部261による学習処理であり、ステップS703〜S707が予測部262による予測処理である。まず、データ分析装置220は、訓練データ集合264および特徴量の重要度を読み込む(ステップS701)。
Used in Belsley, Kuh & Welsch, 'Regression diagnostics ...', Wiley,1980. N.B. Various transformations are used in the table on pages 244-261.
200 クライアント端末
220 データ分析装置
252 テストデータ集合
253 予測結果
261 学習部
262 予測部
264 訓練データ集合
265 学習パラメータ
300 第1ニューラルネットワーク
301 入力層
302 中間層
303 出力層
401 変換部
402 再配置部
403 予測データ算出部
404 重要度算出部
405 設定部
406 統合部
407 縮約部
408 選択部
600 第2ニューラルネットワーク
AU アテンションユニット
DCU デシジョンユニット
DU データユニット群
HU ハーモナイジングユニット群
RAU リアロケーションユニット
RU リポーティングユニット群
Claims (6)
- 入力層と、出力層と、前記入力層と前記出力層との間において前段の層からのデータと第1学習パラメータとを第1活性化関数に与えて計算して後段の層に計算結果を出力する2層以上の中間層と、により構成される第1ニューラルネットワークを用いたデータ分析装置であって、
前記各中間層からの出力データと第2学習パラメータとに基づいて、前記各出力データを同一サイズの次元数に変換させて、変換後の各出力データを出力する変換部と、
前記変換部からの変換後の出力データと、前記入力層に与えられた第1特徴量空間の第1入力データと、に基づいて、前記第1特徴量空間の第1入力データを第2特徴量空間に再配置する再配置部と、
前記変換後の各出力データと第3学習パラメータとに基づいて、前記各中間層における前記第1入力データの第1重要度を算出する重要度算出部と、
前記再配置部による再配置結果と前記第3学習パラメータとに基づいて、前記第1特徴量空間の第1入力データに対する予測データを算出する予測データ算出部と、
を有することを特徴とするデータ分析装置。 - 請求項1に記載のデータ分析装置であって、
前記第1特徴量空間の第1入力データと前記予測データに対する正解データとを含む訓練データが与えられた場合に、前記予測データと前記正解データとを用いて、前記第1学習パラメータ、前記第2学習パラメータ、および前記第3学習パラメータを調整する学習部と、
を有することを特徴とするデータ分析装置。 - 請求項1に記載のデータ分析装置であって、
前記各中間層からの出力データと第4学習パラメータとに基づいて、前記各中間層の重みを設定する設定部と
前記再配置結果と、前記設定部によって設定された重みと、を統合する統合部と、を有し、
前記予測データ算出部は、前記統合部による統合結果と前記第3学習パラメータとに基づいて、前記予測データを算出し、
前記重要度算出部は、前記設定部によって設定された重みと、前記変換後の各出力データと、前記第3学習パラメータと、に基づいて、前記第1重要度を算出する、
ことを特徴とするデータ分析装置。 - 請求項3に記載のデータ分析装置であって、
前記各中間層からの出力データと第5学習パラメータとに基づいて、前記各出力データの次元数を縮約させて、縮約後の各出力データを出力する縮約部を有し、
前記設定部は、前記縮約部からの縮約後の各出力データと前記第4学習パラメータとに基づいて、前記各中間層の重みを設定する、
ことを特徴とするデータ分析装置。 - 入力層と、出力層と、前記入力層と前記出力層との間において前段の層からのデータと第1学習パラメータとを第1活性化関数に与えて計算して後段の層に計算結果を出力する2層以上の中間層と、により構成される第1ニューラルネットワークを用いたデータ分析装置によるデータ分析方法であって、
前記データ分析装置は、
前記各中間層からの出力データと第2学習パラメータとに基づいて、前記各出力データを同一サイズの次元数に変換させて、変換後の各出力データを出力する変換処理と、
前記変換処理からの変換後の出力データと、前記入力層に与えられた第1特徴量空間の第1入力データと、に基づいて、前記第1特徴量空間の第1入力データを第2特徴量空間に再配置する再配置処理と、
前記変換後の各出力データと第3学習パラメータとに基づいて、前記各中間層における前記第1入力データの第1重要度を算出する重要度算出処理と、
前記再配置処理による再配置結果と前記第3学習パラメータとに基づいて、前記第1特徴量空間の第1入力データに対する予測データを算出する予測データ算出処理と、
を実行することを特徴とするデータ分析方法。 - 入力層と、出力層と、前記入力層と前記出力層との間において前段の層からのデータと第1学習パラメータとを第1活性化関数に与えて計算して後段の層に計算結果を出力する2層以上の中間層と、により構成される第1ニューラルネットワークを用いたデータ分析をプロセッサに実行させるためのデータ分析プログラムであって、
前記プロセッサに、
前記各中間層からの出力データと第2学習パラメータとに基づいて、前記各出力データを同一サイズの次元数に変換させて、変換後の各出力データを出力する変換処理と、
前記変換処理からの変換後の出力データと、前記入力層に与えられた第1特徴量空間の第1入力データと、に基づいて、前記第1特徴量空間の第1入力データを第2特徴量空間に再配置する再配置処理と、
前記変換後の各出力データと第3学習パラメータとに基づいて、前記各中間層における前記第1入力データの第1重要度を算出する重要度算出処理と、
前記再配置処理による再配置結果と前記第3学習パラメータとに基づいて、前記第1特徴量空間の第1入力データに対する予測データを算出する予測データ算出処理と、
を実行させることを特徴とするデータ分析プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017206069A JP6912998B2 (ja) | 2017-10-25 | 2017-10-25 | データ分析装置、データ分析方法、およびデータ分析プログラム |
US16/117,260 US11526722B2 (en) | 2017-10-25 | 2018-08-30 | Data analysis apparatus, data analysis method, and data analysis program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017206069A JP6912998B2 (ja) | 2017-10-25 | 2017-10-25 | データ分析装置、データ分析方法、およびデータ分析プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019079305A JP2019079305A (ja) | 2019-05-23 |
JP6912998B2 true JP6912998B2 (ja) | 2021-08-04 |
Family
ID=66169343
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017206069A Active JP6912998B2 (ja) | 2017-10-25 | 2017-10-25 | データ分析装置、データ分析方法、およびデータ分析プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11526722B2 (ja) |
JP (1) | JP6912998B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6954070B2 (ja) * | 2017-12-08 | 2021-10-27 | 富士通株式会社 | 判別プログラム、判別方法および判別装置 |
EP3860710A2 (en) | 2018-10-05 | 2021-08-11 | Medtronic, Inc. | Multi-tier prediction of cardiac tachyarrythmia |
US11583687B2 (en) | 2019-05-06 | 2023-02-21 | Medtronic, Inc. | Selection of probability thresholds for generating cardiac arrhythmia notifications |
US11776691B2 (en) * | 2019-05-06 | 2023-10-03 | Medtronic, Inc. | Machine learning based depolarization identification and arrhythmia localization visualization |
US11723577B2 (en) | 2019-05-06 | 2023-08-15 | Medtronic, Inc. | Visualization of arrhythmia detection by machine learning |
US20200352466A1 (en) | 2019-05-06 | 2020-11-12 | Medtronic, Inc. | Arrythmia detection with feature delineation and machine learning |
US11694804B2 (en) | 2019-05-06 | 2023-07-04 | Medtronic, Inc. | Reduced power machine learning system for arrhythmia detection |
JP7202973B2 (ja) * | 2019-05-29 | 2023-01-12 | 株式会社日立製作所 | データ分析装置、データ分析方法、およびデータ分析プログラム |
US11675876B2 (en) * | 2020-10-28 | 2023-06-13 | International Business Machines Corporation | Training robust machine learning models |
US20220188639A1 (en) * | 2020-12-14 | 2022-06-16 | International Business Machines Corporation | Semi-supervised learning of training gradients via task generation |
CN114758032B (zh) | 2022-06-15 | 2022-09-16 | 之江实验室 | 基于时空注意力模型的多相期ct图像分类系统及构建方法 |
CN118113994B (zh) * | 2024-02-04 | 2024-08-27 | 浙江伟卓科技有限责任公司 | 海洋信息获取方法、装置、设备及介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8417481B2 (en) * | 2008-09-11 | 2013-04-09 | Diane J. Cook | Systems and methods for adaptive smart environment automation |
US9852370B2 (en) * | 2014-10-30 | 2017-12-26 | International Business Machines Corporation | Mapping graphs onto core-based neuromorphic architectures |
US9792492B2 (en) * | 2015-07-07 | 2017-10-17 | Xerox Corporation | Extracting gradient features from neural networks |
JP6798183B2 (ja) * | 2016-08-04 | 2020-12-09 | 株式会社リコー | 画像解析装置、画像解析方法およびプログラム |
US10140544B1 (en) * | 2018-04-02 | 2018-11-27 | 12 Sigma Technologies | Enhanced convolutional neural network for image segmentation |
-
2017
- 2017-10-25 JP JP2017206069A patent/JP6912998B2/ja active Active
-
2018
- 2018-08-30 US US16/117,260 patent/US11526722B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US11526722B2 (en) | 2022-12-13 |
JP2019079305A (ja) | 2019-05-23 |
US20190122097A1 (en) | 2019-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6912998B2 (ja) | データ分析装置、データ分析方法、およびデータ分析プログラム | |
JP6832783B2 (ja) | データ分析装置、データ分析方法、およびデータ分析プログラム | |
US10127477B2 (en) | Distributed event prediction and machine learning object recognition system | |
JP7202973B2 (ja) | データ分析装置、データ分析方法、およびデータ分析プログラム | |
EP3223183B1 (en) | Case-based reasoning in the cloud using deep learning | |
Nethery et al. | Estimating population average causal effects in the presence of non-overlap: The effect of natural gas compressor station exposure on cancer mortality | |
Avci | A new expert system for diagnosis of lung cancer: GDA—LS_SVM | |
Huang et al. | FaNet: fast assessment network for the novel coronavirus (COVID-19) pneumonia based on 3D CT imaging and clinical symptoms | |
WO2023025956A1 (en) | Method and system for deconvolution of bulk rna-sequencing data | |
Ma | Variable selection with copula entropy | |
Soriano et al. | Mammogram classification schemes by using convolutional neural networks | |
Wang et al. | Patient admission prediction using a pruned fuzzy min–max neural network with rule extraction | |
Gugulothu et al. | An early prediction and classification of lung nodule diagnosis on CT images based on hybrid deep learning techniques | |
JP2021125136A (ja) | 最適化装置及び最適化方法 | |
JP7059151B2 (ja) | 時系列データ分析装置、時系列データ分析方法、および時系列データ分析プログラム | |
US6401082B1 (en) | Autoassociative-heteroassociative neural network | |
CN113313699B (zh) | 基于弱监督学习的x光胸部疾病分类及定位方法、电子设备 | |
Ukwuoma et al. | Dual_Pachi: attention-based dual path framework with intermediate second order-pooling for Covid-19 detection from chest X-ray images | |
CN117273157A (zh) | 量子核方法、分类方法、数据编码方法及相关系统、装置 | |
Henderson et al. | Analyzing chest X-ray to detect the evidence of lung abnormality due to infectious disease | |
Louati et al. | Design and compression study for convolutional neural networks based on evolutionary optimization for thoracic X-Ray image classification | |
Nayan et al. | Coronavirus disease situation analysis and prediction using machine learning: a study on Bangladeshi population | |
CN114224354B (zh) | 心律失常分类方法、装置及可读存储介质 | |
Hodapp | Unsupervised learning for computational phenotyping | |
Patil et al. | An experimental approach toward type 2 diabetes diagnosis using cultural algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200218 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210203 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210409 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210629 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210709 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6912998 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |