RU184681U1 - Устройство хранения данных - Google Patents

Устройство хранения данных Download PDF

Info

Publication number
RU184681U1
RU184681U1 RU2018114139U RU2018114139U RU184681U1 RU 184681 U1 RU184681 U1 RU 184681U1 RU 2018114139 U RU2018114139 U RU 2018114139U RU 2018114139 U RU2018114139 U RU 2018114139U RU 184681 U1 RU184681 U1 RU 184681U1
Authority
RU
Russia
Prior art keywords
input
output
controller
cpu
data
Prior art date
Application number
RU2018114139U
Other languages
English (en)
Inventor
Владимир Алексеевич Людвиг
Андрей Александрович Васькин
Original Assignee
Общество с ограниченной ответственностью "БУЛАТ"
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Общество с ограниченной ответственностью "БУЛАТ" filed Critical Общество с ограниченной ответственностью "БУЛАТ"
Priority to RU2018114139U priority Critical patent/RU184681U1/ru
Application granted granted Critical
Publication of RU184681U1 publication Critical patent/RU184681U1/ru

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

Полезная модель относится к области систем хранения данных и, в частности, к области многопротокольных устройств хранения данных, поддерживающих файловые и блочные протоколы доступа и может быть использована для увеличения объема записи и надежного хранения.
1. Устройство хранения данных, содержащее контроллер, N твердотельных дисков (HDD), соединенные входами/выходами с контроллером, отличающееся тем, что в него дополнительно введены кластер 1U серверов в составе сетевого адаптера с поддержкой компрессии, центрального процессора (CPU), первый вход/выход которого соединен со вторым входом/выходом сетевого адаптера с поддержкой компрессии, третий вход/выход соединен с первым входом/выходом контроллера, программируемая логическая интегральная схема FPGA, первый вход/выход которой соединен со вторым входом/выходом центрального процессора, графическое процессорное устройство GPU, первый вход/выход которого соединен с четвертым вход/выходом центрального процессора; коммутатор, второй вход/выход которого соединен со вторым входом/выходом контроллера, третий вход/выход - с первым входом/выходом сетевого адаптера с поддержкой компрессии, а первый вход/выход является входом/выходом всего устройства.
2. Устройство по п. 1, отличающееся тем, что все ее элементы выполнены с использованием цифровых технологий.

Description

Полезная модель относится к области систем хранения данных и, в частности, к области многопротокольных устройств хранения данных, поддерживающих файловые и блочные протоколы доступа и может быть использована для увеличения объема записи и надежного хранения.
Известно многопротокольное устройство хранения данных, реализующее интегрированную поддержку файловых и блочных протоколов доступа (патент РФ №2302034). Система хранения данных представляет собой компьютер с функционирующей на нем службой хранения информации, в основе которой лежит организация информации на перезаписываемых постоянных запоминающих устройствах, например, блоках памяти, лентах или дисках. Система хранения данных, как правило, устанавливается в среде сети хранения данных (storage area network, SAN) или среде накопителя, подключенного к сети (network attached storage, NAS). Система хранения данных (СХД), используемая в среде NAS, может быть реализована в виде файлового сервера, имеющего операционную систему, которая, в свою очередь, поддерживает файловую систему, посредством которой осуществляется логическая организация информации в виде иерархической структуры каталогов и файлов (например, на дисках). Каждый "дисковый" файл может представлять собой набор структур данных, например, блоков на диске, сконфигурированных для целей хранения информации, например, собственно данных файла. В свою очередь, каталог может представлять собой файл специального формата, в котором хранится информация о других файлах и каталогах.
Известна также система внешнего хранения данных (патент №2383952).
В общем случае СХД состоит из жестких дисков (HDD), контроллера ввода/вывода и объединяющей системы. Диски, как правило, поддерживают "горячую замену", то есть их можно подключать и отключать "на лету", без выключения накопителя. Это дает возможность заменить вышедший из строя винчестер без каких-либо неприятностей для пользователя. Основной и резервный блоки питания накопителя имеют повышенную надежность и также допускают "горячую замену".
Схема типичной дисковой системы хранения данных с одним контроллером представлена на рис. 1 в http://ko.com.ua/sistemy_hraneniya_dannyh_nachalnogo_urovnya_14866?site=mobile и взята за прототип.
Контроллер дисковой системы хранения данных является ее центром. Он отвечает за ввод/вывод данных внутри системы и на внешние каналы, а также за организацию хранения и доступа к информации. Для связи с внешним миром контроллеры накопителей обычно используют интерфейсы SCSI, Fibre Channel или же Ethernet. В зависимости от предназначения системы контроллеры могут реализовывать различную логику работы и применять различные протоколы обмена данными. Они предоставляют для систем пользователей данные на блочном уровне, как винчестеры, или же файловые сервисы по протоколам NFS, CIFS, а также Network File System, Common Internet File System подобно файловым. Такой контроллер обычно поддерживает стандартные уровни RAID для увеличения быстродействия системы и обеспечения отказоустойчивости.
Наиболее близким техническим решением является устройство, описанное в http://ko.com.ua/sistemy_hraneniya_dannyh_nachalnogo_urovnya_14866?site=mobile - прототип.
Данная система хранения данных содержит контроллер, N HDD, соединенные входами/выходами с контроллером.
Цель полезной модели - обеспечение аппаратной компрессии данных для экономии пространства в хранилище и увеличения пропускной способности.
Поставленная цель достигается тем, что в систему хранения данных, содержащую контроллер, N HDD, соединенные входами/выходами с контроллером, дополнительно введены кластер 1U серверов в составе сетевого адаптера с поддержкой компрессии, центрального процессора (CPU), первый вход/выход которого соединен со вторым входом/выходом сетевого адаптера с поддержкой компрессии, третий вход/выход соединен с первым входом/выходом контроллера, программируемая логическая интегральная схема FPGA, первый вход/выход которой соединен со вторым входом/выходом центрального процессора, графическое процессорное устройство GPU, первый вход/выход которого соединен с четвертым вход/выход центрального процессора; коммутатор, второй вход/выход которого соединен со вторым входом/выходом контроллера, третий вход/выход - с первым входом/выходом сетевого адаптера с поддержкой компрессии, а первый вход/выход является входом/выходом всего устройства.
Сравнение с прототипом показывает, что заявляемое устройство отличается наличием новых блоков и их связями между ними. Таким образом, заявляемое устройство соответствует критерию «новизна».
Сравнение заявляемого решения с другими техническими решениями показывает, что перечисленные элементы, используемые в блоках, являются известными, однако их введение в указанной связи с остальными элементами приводит к решению новой задаче экономии пространства в хранилище за счет аппаратной компрессии входящих данных. Это подтверждает соответствие технического решения критерию «существенные отличия».
На фиг. 1 показана общая блок-схема предлагаемого устройства, содержащее N жестких дисков (HDD) 1, контроллер 2, кластер 1U серверов 3 в составе сетевого адаптера с поддержкой компрессии 3-4, центрального процессора (CPU) 3-1, программируемой логической интегральной схемы FPGA 3-2 и графического процессорного устройства 3-3; коммутатор 4.
На фиг. 2 показана общая схема взаимодействия CPU 3-1 с FPGA 3-2 и GPU 3-3, осуществляющих повышение производительности 1U серверов и распараллеливание каналов с компрессией данных.
Устройство работает следующим образом.
1U серверы с 3 могут быть сконфигурированы для работы по модели предоставления информации "клиент-сервер", что позволяет многим клиентским системам (клиентам) получать доступ к совместно используемым ресурсам, например, файлам, хранящимся в файловой системе. Совместное использование файлов - характерная черта системы NAS (Network attached Storage), поскольку эта возможность обуславливается семантическим уровнем доступа к файлам и файловым системам, присущим таким системам. Средства хранения информации в системе NAS, как правило, устанавливаются в компьютерной сети, включающей в себя множество территориально распределенных взаимосвязанных каналов связи, таких как Ethernet, которые позволяют удаленным клиентам обращаться к информации (файлам) на файловом сервере. Как правило, клиенты взаимодействуют с файловой системой путем обмена дискретными кадрами или пакетами данных по предварительно определенным протоколам, например, TCP/IP (Transmission Control Protocol/Internet Protocol, протокол управления передачей/протокол Интернета).
В клиент-серверной модели клиент может включать в себя приложение, функционирующее на компьютере и "соединяющееся" с файловым сервером по компьютерной сети, например, по каналу связи типа "точка-точка", совместно используемой локальной сети, глобальной сети или виртуальной частной сети, развернутой на основе сети общего пользования, например, Интернета. В системах NAS, как правило, используются файловые протоколы доступа; это означает, что каждый клиент может запросить услуги файлового сервера путем посылки по сети сообщений для файлового сервера с использованием протокола файловой системы (в форме пакетов), при этом сообщения идентифицируют один или более файлов, к которым запрашивается доступ, без учета конкретного их местоположения, например, блоков, в которых данные хранятся на диске. Поддержка множества протоколов файловых систем, таких как протоколы CIFS (Common Internet File System, общий протокол доступа к Интернет-файлам), NFS (Network File System, сетевая файловая система) и DAFS (Direct Access File System, файловая система с прямым доступом), позволяет расширить функции файлового сервера для работы с сетевыми клиентами. SAN (Storage Area Network) предназначены для передачи массивных блоков данных в СХД, в то время как NAS обеспечивают доступ к данным на уровне файлов. Комбинацией SAN+NAS можно получить высокую степень интеграции данных, высокопроизводительный доступ и совместный доступ к файлам. Такие системы получили название unified storage - «унифицированные системы хранения».
Используемые в устройствах хранения данных жесткие диски можно подразделить на два основных типа: HDD (Hard Disk Drive) и SSD (Solid State Drive, - так называемый «твердотельный диск»). То есть, и тот и другой диск - жесткие.
Использование аппаратной компрессии в системе хранения данных позволяет достичь:
- повышения эффективности хранения;
- снижения нагрузки на центральном процессоре;
- увеличение пропускной способности;
- снижения нагрузки на SAN, LAN;
- уменьшения количества операций ввода-вывода;
- увеличения срока службы накопителей.
Компрессия (сжатие данных), используемая в предлагаемом устройстве для обеспечения экономии пространства в хранилище - алгоритмическое преобразование данных, производимое с целью уменьшения занимаемого ими объема. Применяется для более рационального использования устройств хранения и передачи данных. Обратная процедура называется восстановлением данных (распаковкой, декомпрессией).
Сжатие основано на устранении избыточности, содержащейся в исходных данных. Простейшим примером избыточности является повторение в тексте фрагментов (например, слов естественного или машинного языка). Подобная избыточность обычно устраняется заменой повторяющейся последовательности ссылкой на уже закодированный фрагмент с указанием его длины. Другой вид избыточности связан с тем, что некоторые значения в сжимаемых данных встречаются чаще других. Сокращение объема данных достигается за счет замены часто встречающихся данных короткими кодовыми словами, а редких - длинными (энтропийное кодирование).
Сжатие без потерь позволяет полностью восстановить исходное сообщение, так как не уменьшает в нем количество информации, несмотря на уменьшение длины.
В предлагаемом устройстве для сжатия информации используется программируемая логическая интегральная схема (ПЛИС) FPGA 3-2, обладающая высокой эффективностью и позволяющая реализовывать различные типы цифровых устройств. FPGA все чаще используются в системах обработки изображений и видеосигналов, главным образом из-за повышенных требований к производительности и степени интеграции для подобных приложений. Использование FPGA позволяет быстро реализовывать требуемые задачи, благодаря наличию встроенных IP-блоков, корректировать схему без замены аппаратной платформы, обеспечивает широкие возможности для распараллеливания вычислений и скоростной коммуникации.
Распараллеливание FPGA и дальнейшая компрессия данных позволяет существенно сократить время обработки входящей информации, необходимое для сжатия данных без потерь обработки в FPGA в параллельной конфигурации, позволяя обеспечить передачу данных в соответствующие моменты времени на основе прогнозов завершения каждого вычисления. Лаборатория Fujitsu внедрила технологию аппаратной компрессии данных на серверах с FPGA [1], подтвердив примерно в тридцать раз ускорение обработки данных по сравнению с производительностью обработки в CPU 3-1.
Данная реализация устройства сжатия в FPGA способна работать на частотах до 250 МГц с потоками данных до 4 Гбит/с.
Таким образом, предлагаемое устройство хранения данных с использованием программируемой логической интегральной схемы FPGA в составе сервера позволяет обеспечить экономию пространства в хранилище.
Ввиду того, что при работе с большими потоками, а особенно одновременных операциях чтения и записи данных, мощности FPGA и CPU будет недостаточно, для обеспечения высокой производительности предлагается использовать GPU для аппаратного ускорения процессов компрессии и декомпрессии данных. Современные GPU ускорители имеют тысячи ядер, которые предназначены для параллельных вычислений, в то время как CPU выполняют последовательные операции (см. сравнение GPU и CPU фиг.3, 4). В результате устройство хранения данных с FPGA и GPU ускорителем сможет уже справляться с потоками данных до 300 ГБ/с.
Литература
1. http://www.fujitsu.com/global/about/resources/news/press-releases/2017/1211-01.html

Claims (2)

1. Устройство хранения данных, содержащее контроллер, N твердотельных дисков (HDD), соединенные входами/выходами с контроллером, отличающееся тем, что в него дополнительно введены кластер 1U серверов в составе сетевого адаптера с поддержкой компрессии, центрального процессора (CPU), первый вход/выход которого соединен со вторым входом/выходом сетевого адаптера с поддержкой компрессии, третий вход/выход соединен с первым входом/выходом контроллера, программируемая логическая интегральная схема FPGA, первый вход/выход которой соединен со вторым входом/выходом центрального процессора, графическое процессорное устройство GPU, первый вход/выход которого соединен с четвертым вход/выходом центрального процессора; коммутатор, второй вход/выход которого соединен со вторым входом/выходом контроллера, третий вход/выход - с первым входом/выходом сетевого адаптера с поддержкой компрессии, а первый вход/выход является входом/выходом всего устройства.
2. Устройство по п. 1, отличающееся тем, что все ее элементы выполнены с использованием цифровых технологий.
RU2018114139U 2018-04-18 2018-04-18 Устройство хранения данных RU184681U1 (ru)

Priority Applications (1)

Application Number Priority Date Filing Date Title
RU2018114139U RU184681U1 (ru) 2018-04-18 2018-04-18 Устройство хранения данных

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2018114139U RU184681U1 (ru) 2018-04-18 2018-04-18 Устройство хранения данных

Publications (1)

Publication Number Publication Date
RU184681U1 true RU184681U1 (ru) 2018-11-02

Family

ID=64103903

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2018114139U RU184681U1 (ru) 2018-04-18 2018-04-18 Устройство хранения данных

Country Status (1)

Country Link
RU (1) RU184681U1 (ru)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU193492U1 (ru) * 2019-06-13 2019-10-30 Общество с ограниченной ответственностью "БУЛАТ" Устройство хранения данных
RU2790533C1 (ru) * 2022-09-15 2023-02-22 Акционерное общество Научно-производственный центр "Электронные вычислительно-информационные системы" (АО НПЦ "ЭЛВИС") Устройство обработки и хранения данных

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2302034C9 (ru) * 2002-08-09 2007-09-27 Нетуорк Эпплиэнс, Инк. Многопротокольное устройство хранения данных, реализующее интегрированную поддержку файловых и блочных протоколов доступа
CN101572552A (zh) * 2009-06-11 2009-11-04 哈尔滨工业大学 基于内容可寻址存储器的高速无损数据压缩系统
US8250264B2 (en) * 2009-07-17 2012-08-21 Hon Hai Precision Industry Co., Ltd. Storage and method for performing data backup using the storage

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2302034C9 (ru) * 2002-08-09 2007-09-27 Нетуорк Эпплиэнс, Инк. Многопротокольное устройство хранения данных, реализующее интегрированную поддержку файловых и блочных протоколов доступа
CN101572552A (zh) * 2009-06-11 2009-11-04 哈尔滨工业大学 基于内容可寻址存储器的高速无损数据压缩系统
US8250264B2 (en) * 2009-07-17 2012-08-21 Hon Hai Precision Industry Co., Ltd. Storage and method for performing data backup using the storage

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
B. ZHAO et al. "Streaming sorting network based BWT acceleration on FPGA for lossless compression", *
B. ZHAO et al. "Streaming sorting network based BWT acceleration on FPGA for lossless compression", ICFPT 2017, опубл. 05.02.2018 *
на 8 страницах [найдено 26.06.2018], размещено в Интернет по адресу URL:https://ieeexplore.ieee.org/document/8280119/. *
на 8 страницах [найдено 26.06.2018], размещено в Интернет по адресу URL:https://ieeexplore.ieee.org/document/8280152/. W. LI et al. "SMEFF: A scalable memory extension fabric for FPGA", *
на 8 страницах [найдено 26.06.2018], размещено в Интернет по адресу URL:https://ieeexplore.ieee.org/document/8280152/. W. LI et al. "SMEFF: A scalable memory extension fabric for FPGA", ICFPT 2017, опубл. 05.02.2018 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU193492U1 (ru) * 2019-06-13 2019-10-30 Общество с ограниченной ответственностью "БУЛАТ" Устройство хранения данных
RU2790533C1 (ru) * 2022-09-15 2023-02-22 Акционерное общество Научно-производственный центр "Электронные вычислительно-информационные системы" (АО НПЦ "ЭЛВИС") Устройство обработки и хранения данных

Similar Documents

Publication Publication Date Title
CN107948334B (zh) 基于分布式存储系统的数据处理方法
US8606763B2 (en) Method and system for compression of files for storage and operation on compressed files
US10235064B1 (en) Optimized data replication using special NVME protocol and running in a friendly zone of storage array
US8145838B1 (en) Processing and distributing write logs of nodes of a cluster storage system
RU2581551C2 (ru) Способ оптимизации хранения и передачи данных
US9477682B1 (en) Parallel compression of data chunks of a shared data object using a log-structured file system
US8347003B2 (en) Systems and methods for compression of data for block mode access storage
US20150106470A1 (en) A caching device and method thereof for integration with a cloud storage system
US8793416B2 (en) Method and system for transformation of logical data objects for storage
US20110078467A1 (en) Reducing energy consumption in a computing cluster
US20060190643A1 (en) Method and system for compression of data for block mode access storage
WO2012056493A1 (en) File management method and computer system
WO2007049109A2 (en) Method and system for compression of logical data objects for storage
US10509582B2 (en) System and method for data storage, transfer, synchronization, and security
RU182176U1 (ru) Устройство хранения данных
RU184681U1 (ru) Устройство хранения данных
CN113535068A (zh) 数据读取方法和系统
US10394846B2 (en) Heterogeneous compression in replicated storage
US20210019066A1 (en) Method and system for data reduction in a storage infrastructure to support a high-ration thin-provisioned service
KR100751075B1 (ko) Nas 상에서 병렬 전송 기술을 이용한 원격 미러링시스템
KR20140060962A (ko) 네트워크 분산 파일 시스템에서 유휴 리소스를 이용한 다중 서비스 제공 시스템 및 방법
CN117827775A (zh) 数据压缩方法、装置、计算设备及存储系统
Kandula et al. Software Data Strategies for Network Optimization supporting AI workloads