JP7328799B2 - ストレージシステムおよび記憶制御方法 - Google Patents
ストレージシステムおよび記憶制御方法 Download PDFInfo
- Publication number
- JP7328799B2 JP7328799B2 JP2019109585A JP2019109585A JP7328799B2 JP 7328799 B2 JP7328799 B2 JP 7328799B2 JP 2019109585 A JP2019109585 A JP 2019109585A JP 2019109585 A JP2019109585 A JP 2019109585A JP 7328799 B2 JP7328799 B2 JP 7328799B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- statistics
- statistic
- compression
- types
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
- H03M7/3068—Precoding preceding compression, e.g. Burrows-Wheeler transformation
- H03M7/3079—Context modeling
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
- H03M7/3059—Digital compression and data reduction techniques where the original information is represented by a subset or similar information, e.g. lossy compression
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
- G06F18/2193—Validation; Performance evaluation; Active pattern learning techniques based on specific statistical tests
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
- H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Evolutionary Biology (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Algebra (AREA)
- Operations Research (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Testing And Monitoring For Control Systems (AREA)
- Recording Measured Values (AREA)
- Debugging And Monitoring (AREA)
Description
・1つ以上のI/O(Input/Output)インタフェースデバイス。I/O(Input/Output)インタフェースデバイスは、I/Oデバイスと遠隔の表示用計算機とのうちの少なくとも1つに対するインタフェースデバイスである。表示用計算機に対するI/Oインタフェースデバイスは、通信インタフェースデバイスでよい。少なくとも1つのI/Oデバイスは、ユーザインタフェースデバイス、例えば、キーボードおよびポインティングデバイスのような入力デバイスと、表示デバイスのような出力デバイスとのうちのいずれでもよい。
・1つ以上の通信インタフェースデバイス。1つ以上の通信インタフェースデバイスは、1つ以上の同種の通信インタフェースデバイス(例えば1つ以上のNIC(Network Interface Card))であってもよいし二つ以上の異種の通信インタフェースデバイス(例えばNICとHBA(Host Bus Adapter))であってもよい。
・「統計量種類」の列203には、“平均”や“分散”などの、統計量の種類が入力される(以下、この段落において、「対象種類」)。
・「センサ」の列203には、対象種類に属する統計量の計算対象とするセンサのIDが入力される。
・「サンプル数」の列203には、対象種類に属する統計量の計算に用いる値のサンプル数が入力される。
・「計算頻度」の列203には、対象種類に属する統計量を計算する時間間隔が入力される。
Claims (9)
- 記憶装置に接続されたインタフェース装置と、
時系列データの非可逆圧縮を機械学習ベースの圧縮伸長器を用いて行い、当該非可逆圧縮がされた時系列データである圧縮後データを前記記憶装置に格納するプロセッサと
を有し、
前記圧縮伸長器への入力は、圧縮前の時系列データである元データであり、当該時系列データについての前記圧縮伸長器からの出力は、当該時系列データの圧縮後データが伸長されたデータである伸長データであり、
機械学習が行われた後の圧縮伸長器を用いて前記時系列データの圧縮が行われ、当該時系列データの圧縮後データが前記記憶装置に格納され、
前記圧縮伸長器の機械学習は、当該圧縮伸長器に設定された目的関数を基に行われるようになっており、
前記プロセッサが、
前記元データに関し、1種類以上の統計量の各々について、1つ以上のパラメタを基に統計量値を計算し、
当該元データに対応した前記伸長データに関し、前記1種類以上の統計量の各々について、前記1つ以上のパラメタを基に統計量値を計算し、
前記元データに関し前記1種類以上の統計量の各々について計算された統計量値と、前記伸長データに関し前記1種類以上の統計量の各々について計算された統計量値との差に関する1種類以上の値を、前記圧縮伸長器の目的関数に設定する、
ストレージシステム。 - 前記目的関数は、ロス関数である、
請求項1に記載のストレージシステム。 - 前記1種類以上の統計量は、平均と分散のうちの少なくとも1つを含み、
前記1種類以上の統計量のうちの少なくとも1種類の統計量について、前記1つ以上のパラメタは、サンプル数および計算頻度を含む、
請求項1に記載のストレージシステム。 - 前記プロセッサが、1種類以上の統計量の各々について当該統計量の計算に必要な1つ以上のパラメタの入力を受け付けるインタフェースである第1のインタフェースを提供する
請求項1に記載のストレージシステム。 - 前記プロセッサが、前記1種類以上の統計量の各々について前記第1のインタフェースを介して入力された1つ以上のパラメタを含む情報を管理する、
請求項4に記載のストレージシステム。 - 前記プロセッサが、
前記元データに関し、前記1種類以上の統計量の各々について、前記第1のインタフェースを介して入力された1つ以上のパラメタを基に統計量値を計算し、
前記機械学習後の圧縮伸長器の圧縮後データに対応した伸長データに関し、前記1種類以上の統計量の各々について、前記第1のインタフェースを介して入力された1つ以上のパラメタを基に統計量値を計算し、
前記元データに関し前記1種類以上の統計量の各々について計算された統計量値と前記伸長データに関し前記1種類以上の統計量の各々について計算された統計量値との差に従う統計量品質を表示したインタフェースである第2のインタフェースを提供する、
請求項4に記載のストレージシステム。 - 前記統計量品質は、前記元データに関し前記1種類以上の統計量の各々について計算された統計量値と、前記伸長データに関し前記1種類以上の統計量の各々について計算された統計量値との差に関する1種類以上の値である、
請求項6に記載のストレージシステム。 - 前記統計量の種類は、前記第1のインタフェースを介して指定された種類である、
請求項4に記載のストレージシステム。 - データを圧縮して記憶装置に格納するストレージシステムの記憶制御方法であって、
非可逆圧縮に使用され機械学習ベースの圧縮伸長器に入力される時系列データである元データに関し、1種類以上の統計量の各々について、1つ以上のパラメタを基に統計量値を計算し、
前記圧縮伸長器の機械学習は、当該圧縮伸長器に設定された目的関数を基に行われるようになっており、
前記圧縮伸長器から出力され前記元データに対応した伸長データに関し、前記1種類以上の統計量の各々について、前記1つ以上のパラメタを基に統計量値を計算し、
前記元データに関し前記1種類以上の統計量の各々について計算された統計量値と、前記伸長データに関し前記1種類以上の統計量の各々について計算された統計量値との差に関する1種類以上の値を、前記圧縮伸長器の目的関数に設定する、
記憶制御方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019109585A JP7328799B2 (ja) | 2019-06-12 | 2019-06-12 | ストレージシステムおよび記憶制御方法 |
CN202010160384.9A CN112087234A (zh) | 2019-06-12 | 2020-03-10 | 存储系统和存储控制方法 |
EP20163179.3A EP3751743A1 (en) | 2019-06-12 | 2020-03-13 | Storage system and storage control method |
US16/822,982 US11580196B2 (en) | 2019-06-12 | 2020-03-18 | Storage system and storage control method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019109585A JP7328799B2 (ja) | 2019-06-12 | 2019-06-12 | ストレージシステムおよび記憶制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020201185A JP2020201185A (ja) | 2020-12-17 |
JP7328799B2 true JP7328799B2 (ja) | 2023-08-17 |
Family
ID=69845845
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019109585A Active JP7328799B2 (ja) | 2019-06-12 | 2019-06-12 | ストレージシステムおよび記憶制御方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11580196B2 (ja) |
EP (1) | EP3751743A1 (ja) |
JP (1) | JP7328799B2 (ja) |
CN (1) | CN112087234A (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114077609B (zh) * | 2022-01-19 | 2022-04-22 | 北京四维纵横数据技术有限公司 | 数据存储及检索方法,装置,计算机可读存储介质及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007323401A (ja) | 2006-06-01 | 2007-12-13 | Kagawa Univ | データ処理装置,データ復元装置,データ処理方法及びデータ復元方法 |
JP2017161973A (ja) | 2016-03-07 | 2017-09-14 | 三菱電機インフォメーションネットワーク株式会社 | データ格納装置及びデータ格納プログラム |
JP2018061091A (ja) | 2016-10-03 | 2018-04-12 | 株式会社Preferred Networks | データ圧縮装置、データ再現装置、データ圧縮方法、データ再現方法及びデータ転送方法 |
JP2018206016A (ja) | 2017-06-02 | 2018-12-27 | 株式会社日立製作所 | 機械学習システム及び機械学習方法 |
JP2019040423A (ja) | 2017-08-25 | 2019-03-14 | 日本電信電話株式会社 | 検知装置、検知方法および検知プログラム |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5423325A (en) * | 1993-03-12 | 1995-06-13 | Hewlett-Packard Corporation | Methods for enhancement of HRV and late potentials measurements |
US6011868A (en) * | 1997-04-04 | 2000-01-04 | Hewlett-Packard Company | Bitstream quality analyzer |
US6529927B1 (en) | 2000-03-31 | 2003-03-04 | The Regents Of The University Of California | Logarithmic compression methods for spectral data |
CN100586182C (zh) * | 2005-03-30 | 2010-01-27 | 日本电气株式会社 | 图像处理、压缩、解压缩、传输、发送、接收装置和方法以及显示装置 |
JP4757038B2 (ja) | 2006-01-25 | 2011-08-24 | 株式会社日立製作所 | ストレージシステム及び記憶制御装置 |
US8306039B2 (en) * | 2008-12-15 | 2012-11-06 | Ciena Corporation | Methods and systems for automatic transport path selection for multi-homed entities in stream control transmission protocol |
JP7017861B2 (ja) * | 2017-03-23 | 2022-02-09 | 株式会社日立製作所 | 異常検知システムおよび異常検知方法 |
US20190081637A1 (en) * | 2017-09-08 | 2019-03-14 | Nvidia Corporation | Data inspection for compression/decompression configuration and data type determination |
US10679129B2 (en) * | 2017-09-28 | 2020-06-09 | D5Ai Llc | Stochastic categorical autoencoder network |
JP6826021B2 (ja) * | 2017-11-20 | 2021-02-03 | 株式会社日立製作所 | ストレージシステム |
US11717686B2 (en) * | 2017-12-04 | 2023-08-08 | Neuroenhancement Lab, LLC | Method and apparatus for neuroenhancement to facilitate learning and performance |
US20190228110A1 (en) * | 2018-01-19 | 2019-07-25 | General Electric Company | System and method for abstracting characteristics of cyber-physical systems |
US11902369B2 (en) * | 2018-02-09 | 2024-02-13 | Preferred Networks, Inc. | Autoencoder, data processing system, data processing method and non-transitory computer readable medium |
WO2019183584A1 (en) * | 2018-03-23 | 2019-09-26 | Memorial Sloan Kettering Cancer Center | Deep encoder-decoder models for reconstructing biomedical images |
CN112105902B (zh) * | 2018-04-11 | 2022-07-22 | 杜比实验室特许公司 | 基于机器学习的用于音频编码和解码的基于感知的损失函数 |
US11915144B2 (en) * | 2018-10-02 | 2024-02-27 | Nokia Technologies Oy | Apparatus, a method and a computer program for running a neural network |
US11037278B2 (en) * | 2019-01-23 | 2021-06-15 | Inception Institute of Artificial Intelligence, Ltd. | Systems and methods for transforming raw sensor data captured in low-light conditions to well-exposed images using neural network architectures |
-
2019
- 2019-06-12 JP JP2019109585A patent/JP7328799B2/ja active Active
-
2020
- 2020-03-10 CN CN202010160384.9A patent/CN112087234A/zh active Pending
- 2020-03-13 EP EP20163179.3A patent/EP3751743A1/en not_active Withdrawn
- 2020-03-18 US US16/822,982 patent/US11580196B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007323401A (ja) | 2006-06-01 | 2007-12-13 | Kagawa Univ | データ処理装置,データ復元装置,データ処理方法及びデータ復元方法 |
JP2017161973A (ja) | 2016-03-07 | 2017-09-14 | 三菱電機インフォメーションネットワーク株式会社 | データ格納装置及びデータ格納プログラム |
JP2018061091A (ja) | 2016-10-03 | 2018-04-12 | 株式会社Preferred Networks | データ圧縮装置、データ再現装置、データ圧縮方法、データ再現方法及びデータ転送方法 |
JP2018206016A (ja) | 2017-06-02 | 2018-12-27 | 株式会社日立製作所 | 機械学習システム及び機械学習方法 |
JP2019040423A (ja) | 2017-08-25 | 2019-03-14 | 日本電信電話株式会社 | 検知装置、検知方法および検知プログラム |
Non-Patent Citations (1)
Title |
---|
Caglar Aytekin, Francesco Cricri, Antti Hallapuro, Jani Lainema, Emre Aksu, Miska Hannuksela,A Compression Objective and a Cycle Loss for Neural Image Compression,Electrical Engineering and Systems Science,米国,2019年05月24日,p.1-5,https://doi.org/10.48550/arXiv.1905.10371 |
Also Published As
Publication number | Publication date |
---|---|
US20200394256A1 (en) | 2020-12-17 |
US11580196B2 (en) | 2023-02-14 |
EP3751743A1 (en) | 2020-12-16 |
CN112087234A (zh) | 2020-12-15 |
JP2020201185A (ja) | 2020-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106960219B (zh) | 图片识别方法及装置、计算机设备及计算机可读介质 | |
CN107844837B (zh) | 针对机器学习算法进行算法参数调优的方法及系统 | |
JP7110240B2 (ja) | ニューラルネットワーク分類 | |
US11604584B2 (en) | Storage system | |
US12050797B2 (en) | Storage system and storage cost optimization method | |
CN111026915A (zh) | 视频分类方法、视频分类装置、存储介质与电子设备 | |
CN110879854A (zh) | 使用超集树数据结构搜索数据 | |
CN110879807A (zh) | 用于快速地并且有效地访问数据的文件格式 | |
US11775806B2 (en) | Method of compressing neural network model and electronic apparatus for performing the same | |
US20150012644A1 (en) | Performance measurement method, storage medium, and performance measurement device | |
US20240273121A1 (en) | Database data compression method and storage device | |
US10334011B2 (en) | Efficient sorting for a stream processing engine | |
WO2023020456A1 (zh) | 网络模型的量化方法、装置、设备和存储介质 | |
JP7328799B2 (ja) | ストレージシステムおよび記憶制御方法 | |
CN110874346A (zh) | 浮点值的压缩方案 | |
Duvignau et al. | Piecewise linear approximation in data streaming: Algorithmic implementations and experimental analysis | |
WO2021177394A1 (ja) | データ処理システムおよびデータ圧縮方法 | |
JP6772737B2 (ja) | 情報処理装置、情報処理方法、および情報処理プログラム | |
JP6346378B2 (ja) | データの管理装置及びデータの管理方法 | |
CN112035159B (zh) | 一种稽核模型的配置方法、装置、设备及存储介质 | |
CN112085218A (zh) | 特征衍生方法、装置、电子设备以及计算机可读介质 | |
CN108664368B (zh) | 处理器性能指标评估方法及设备 | |
KR102413753B1 (ko) | 정보 처리 장치, 정보 처리 방법 및 기록 매체에 저장된 정보 처리 프로그램 | |
CN112612415B (zh) | 一种数据处理方法、装置、电子设备及存储介质 | |
JP7461330B2 (ja) | データ圧縮処理システム及びデータ圧縮処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220308 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230105 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230221 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20230414 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230428 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230613 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230719 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230801 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230804 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7328799 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |