RU184681U1 - Устройство хранения данных - Google Patents
Устройство хранения данных Download PDFInfo
- Publication number
- RU184681U1 RU184681U1 RU2018114139U RU2018114139U RU184681U1 RU 184681 U1 RU184681 U1 RU 184681U1 RU 2018114139 U RU2018114139 U RU 2018114139U RU 2018114139 U RU2018114139 U RU 2018114139U RU 184681 U1 RU184681 U1 RU 184681U1
- Authority
- RU
- Russia
- Prior art keywords
- input
- output
- controller
- cpu
- data
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Полезная модель относится к области систем хранения данных и, в частности, к области многопротокольных устройств хранения данных, поддерживающих файловые и блочные протоколы доступа и может быть использована для увеличения объема записи и надежного хранения.
1. Устройство хранения данных, содержащее контроллер, N твердотельных дисков (HDD), соединенные входами/выходами с контроллером, отличающееся тем, что в него дополнительно введены кластер 1U серверов в составе сетевого адаптера с поддержкой компрессии, центрального процессора (CPU), первый вход/выход которого соединен со вторым входом/выходом сетевого адаптера с поддержкой компрессии, третий вход/выход соединен с первым входом/выходом контроллера, программируемая логическая интегральная схема FPGA, первый вход/выход которой соединен со вторым входом/выходом центрального процессора, графическое процессорное устройство GPU, первый вход/выход которого соединен с четвертым вход/выходом центрального процессора; коммутатор, второй вход/выход которого соединен со вторым входом/выходом контроллера, третий вход/выход - с первым входом/выходом сетевого адаптера с поддержкой компрессии, а первый вход/выход является входом/выходом всего устройства.
2. Устройство по п. 1, отличающееся тем, что все ее элементы выполнены с использованием цифровых технологий.
Description
Полезная модель относится к области систем хранения данных и, в частности, к области многопротокольных устройств хранения данных, поддерживающих файловые и блочные протоколы доступа и может быть использована для увеличения объема записи и надежного хранения.
Известно многопротокольное устройство хранения данных, реализующее интегрированную поддержку файловых и блочных протоколов доступа (патент РФ №2302034). Система хранения данных представляет собой компьютер с функционирующей на нем службой хранения информации, в основе которой лежит организация информации на перезаписываемых постоянных запоминающих устройствах, например, блоках памяти, лентах или дисках. Система хранения данных, как правило, устанавливается в среде сети хранения данных (storage area network, SAN) или среде накопителя, подключенного к сети (network attached storage, NAS). Система хранения данных (СХД), используемая в среде NAS, может быть реализована в виде файлового сервера, имеющего операционную систему, которая, в свою очередь, поддерживает файловую систему, посредством которой осуществляется логическая организация информации в виде иерархической структуры каталогов и файлов (например, на дисках). Каждый "дисковый" файл может представлять собой набор структур данных, например, блоков на диске, сконфигурированных для целей хранения информации, например, собственно данных файла. В свою очередь, каталог может представлять собой файл специального формата, в котором хранится информация о других файлах и каталогах.
Известна также система внешнего хранения данных (патент №2383952).
В общем случае СХД состоит из жестких дисков (HDD), контроллера ввода/вывода и объединяющей системы. Диски, как правило, поддерживают "горячую замену", то есть их можно подключать и отключать "на лету", без выключения накопителя. Это дает возможность заменить вышедший из строя винчестер без каких-либо неприятностей для пользователя. Основной и резервный блоки питания накопителя имеют повышенную надежность и также допускают "горячую замену".
Схема типичной дисковой системы хранения данных с одним контроллером представлена на рис. 1 в http://ko.com.ua/sistemy_hraneniya_dannyh_nachalnogo_urovnya_14866?site=mobile и взята за прототип.
Контроллер дисковой системы хранения данных является ее центром. Он отвечает за ввод/вывод данных внутри системы и на внешние каналы, а также за организацию хранения и доступа к информации. Для связи с внешним миром контроллеры накопителей обычно используют интерфейсы SCSI, Fibre Channel или же Ethernet. В зависимости от предназначения системы контроллеры могут реализовывать различную логику работы и применять различные протоколы обмена данными. Они предоставляют для систем пользователей данные на блочном уровне, как винчестеры, или же файловые сервисы по протоколам NFS, CIFS, а также Network File System, Common Internet File System подобно файловым. Такой контроллер обычно поддерживает стандартные уровни RAID для увеличения быстродействия системы и обеспечения отказоустойчивости.
Наиболее близким техническим решением является устройство, описанное в http://ko.com.ua/sistemy_hraneniya_dannyh_nachalnogo_urovnya_14866?site=mobile - прототип.
Данная система хранения данных содержит контроллер, N HDD, соединенные входами/выходами с контроллером.
Цель полезной модели - обеспечение аппаратной компрессии данных для экономии пространства в хранилище и увеличения пропускной способности.
Поставленная цель достигается тем, что в систему хранения данных, содержащую контроллер, N HDD, соединенные входами/выходами с контроллером, дополнительно введены кластер 1U серверов в составе сетевого адаптера с поддержкой компрессии, центрального процессора (CPU), первый вход/выход которого соединен со вторым входом/выходом сетевого адаптера с поддержкой компрессии, третий вход/выход соединен с первым входом/выходом контроллера, программируемая логическая интегральная схема FPGA, первый вход/выход которой соединен со вторым входом/выходом центрального процессора, графическое процессорное устройство GPU, первый вход/выход которого соединен с четвертым вход/выход центрального процессора; коммутатор, второй вход/выход которого соединен со вторым входом/выходом контроллера, третий вход/выход - с первым входом/выходом сетевого адаптера с поддержкой компрессии, а первый вход/выход является входом/выходом всего устройства.
Сравнение с прототипом показывает, что заявляемое устройство отличается наличием новых блоков и их связями между ними. Таким образом, заявляемое устройство соответствует критерию «новизна».
Сравнение заявляемого решения с другими техническими решениями показывает, что перечисленные элементы, используемые в блоках, являются известными, однако их введение в указанной связи с остальными элементами приводит к решению новой задаче экономии пространства в хранилище за счет аппаратной компрессии входящих данных. Это подтверждает соответствие технического решения критерию «существенные отличия».
На фиг. 1 показана общая блок-схема предлагаемого устройства, содержащее N жестких дисков (HDD) 1, контроллер 2, кластер 1U серверов 3 в составе сетевого адаптера с поддержкой компрессии 3-4, центрального процессора (CPU) 3-1, программируемой логической интегральной схемы FPGA 3-2 и графического процессорного устройства 3-3; коммутатор 4.
На фиг. 2 показана общая схема взаимодействия CPU 3-1 с FPGA 3-2 и GPU 3-3, осуществляющих повышение производительности 1U серверов и распараллеливание каналов с компрессией данных.
Устройство работает следующим образом.
1U серверы с 3 могут быть сконфигурированы для работы по модели предоставления информации "клиент-сервер", что позволяет многим клиентским системам (клиентам) получать доступ к совместно используемым ресурсам, например, файлам, хранящимся в файловой системе. Совместное использование файлов - характерная черта системы NAS (Network attached Storage), поскольку эта возможность обуславливается семантическим уровнем доступа к файлам и файловым системам, присущим таким системам. Средства хранения информации в системе NAS, как правило, устанавливаются в компьютерной сети, включающей в себя множество территориально распределенных взаимосвязанных каналов связи, таких как Ethernet, которые позволяют удаленным клиентам обращаться к информации (файлам) на файловом сервере. Как правило, клиенты взаимодействуют с файловой системой путем обмена дискретными кадрами или пакетами данных по предварительно определенным протоколам, например, TCP/IP (Transmission Control Protocol/Internet Protocol, протокол управления передачей/протокол Интернета).
В клиент-серверной модели клиент может включать в себя приложение, функционирующее на компьютере и "соединяющееся" с файловым сервером по компьютерной сети, например, по каналу связи типа "точка-точка", совместно используемой локальной сети, глобальной сети или виртуальной частной сети, развернутой на основе сети общего пользования, например, Интернета. В системах NAS, как правило, используются файловые протоколы доступа; это означает, что каждый клиент может запросить услуги файлового сервера путем посылки по сети сообщений для файлового сервера с использованием протокола файловой системы (в форме пакетов), при этом сообщения идентифицируют один или более файлов, к которым запрашивается доступ, без учета конкретного их местоположения, например, блоков, в которых данные хранятся на диске. Поддержка множества протоколов файловых систем, таких как протоколы CIFS (Common Internet File System, общий протокол доступа к Интернет-файлам), NFS (Network File System, сетевая файловая система) и DAFS (Direct Access File System, файловая система с прямым доступом), позволяет расширить функции файлового сервера для работы с сетевыми клиентами. SAN (Storage Area Network) предназначены для передачи массивных блоков данных в СХД, в то время как NAS обеспечивают доступ к данным на уровне файлов. Комбинацией SAN+NAS можно получить высокую степень интеграции данных, высокопроизводительный доступ и совместный доступ к файлам. Такие системы получили название unified storage - «унифицированные системы хранения».
Используемые в устройствах хранения данных жесткие диски можно подразделить на два основных типа: HDD (Hard Disk Drive) и SSD (Solid State Drive, - так называемый «твердотельный диск»). То есть, и тот и другой диск - жесткие.
Использование аппаратной компрессии в системе хранения данных позволяет достичь:
- повышения эффективности хранения;
- снижения нагрузки на центральном процессоре;
- увеличение пропускной способности;
- снижения нагрузки на SAN, LAN;
- уменьшения количества операций ввода-вывода;
- увеличения срока службы накопителей.
Компрессия (сжатие данных), используемая в предлагаемом устройстве для обеспечения экономии пространства в хранилище - алгоритмическое преобразование данных, производимое с целью уменьшения занимаемого ими объема. Применяется для более рационального использования устройств хранения и передачи данных. Обратная процедура называется восстановлением данных (распаковкой, декомпрессией).
Сжатие основано на устранении избыточности, содержащейся в исходных данных. Простейшим примером избыточности является повторение в тексте фрагментов (например, слов естественного или машинного языка). Подобная избыточность обычно устраняется заменой повторяющейся последовательности ссылкой на уже закодированный фрагмент с указанием его длины. Другой вид избыточности связан с тем, что некоторые значения в сжимаемых данных встречаются чаще других. Сокращение объема данных достигается за счет замены часто встречающихся данных короткими кодовыми словами, а редких - длинными (энтропийное кодирование).
Сжатие без потерь позволяет полностью восстановить исходное сообщение, так как не уменьшает в нем количество информации, несмотря на уменьшение длины.
В предлагаемом устройстве для сжатия информации используется программируемая логическая интегральная схема (ПЛИС) FPGA 3-2, обладающая высокой эффективностью и позволяющая реализовывать различные типы цифровых устройств. FPGA все чаще используются в системах обработки изображений и видеосигналов, главным образом из-за повышенных требований к производительности и степени интеграции для подобных приложений. Использование FPGA позволяет быстро реализовывать требуемые задачи, благодаря наличию встроенных IP-блоков, корректировать схему без замены аппаратной платформы, обеспечивает широкие возможности для распараллеливания вычислений и скоростной коммуникации.
Распараллеливание FPGA и дальнейшая компрессия данных позволяет существенно сократить время обработки входящей информации, необходимое для сжатия данных без потерь обработки в FPGA в параллельной конфигурации, позволяя обеспечить передачу данных в соответствующие моменты времени на основе прогнозов завершения каждого вычисления. Лаборатория Fujitsu внедрила технологию аппаратной компрессии данных на серверах с FPGA [1], подтвердив примерно в тридцать раз ускорение обработки данных по сравнению с производительностью обработки в CPU 3-1.
Данная реализация устройства сжатия в FPGA способна работать на частотах до 250 МГц с потоками данных до 4 Гбит/с.
Таким образом, предлагаемое устройство хранения данных с использованием программируемой логической интегральной схемы FPGA в составе сервера позволяет обеспечить экономию пространства в хранилище.
Ввиду того, что при работе с большими потоками, а особенно одновременных операциях чтения и записи данных, мощности FPGA и CPU будет недостаточно, для обеспечения высокой производительности предлагается использовать GPU для аппаратного ускорения процессов компрессии и декомпрессии данных. Современные GPU ускорители имеют тысячи ядер, которые предназначены для параллельных вычислений, в то время как CPU выполняют последовательные операции (см. сравнение GPU и CPU фиг.3, 4). В результате устройство хранения данных с FPGA и GPU ускорителем сможет уже справляться с потоками данных до 300 ГБ/с.
Литература
1. http://www.fujitsu.com/global/about/resources/news/press-releases/2017/1211-01.html
Claims (2)
1. Устройство хранения данных, содержащее контроллер, N твердотельных дисков (HDD), соединенные входами/выходами с контроллером, отличающееся тем, что в него дополнительно введены кластер 1U серверов в составе сетевого адаптера с поддержкой компрессии, центрального процессора (CPU), первый вход/выход которого соединен со вторым входом/выходом сетевого адаптера с поддержкой компрессии, третий вход/выход соединен с первым входом/выходом контроллера, программируемая логическая интегральная схема FPGA, первый вход/выход которой соединен со вторым входом/выходом центрального процессора, графическое процессорное устройство GPU, первый вход/выход которого соединен с четвертым вход/выходом центрального процессора; коммутатор, второй вход/выход которого соединен со вторым входом/выходом контроллера, третий вход/выход - с первым входом/выходом сетевого адаптера с поддержкой компрессии, а первый вход/выход является входом/выходом всего устройства.
2. Устройство по п. 1, отличающееся тем, что все ее элементы выполнены с использованием цифровых технологий.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2018114139U RU184681U1 (ru) | 2018-04-18 | 2018-04-18 | Устройство хранения данных |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU2018114139U RU184681U1 (ru) | 2018-04-18 | 2018-04-18 | Устройство хранения данных |
Publications (1)
Publication Number | Publication Date |
---|---|
RU184681U1 true RU184681U1 (ru) | 2018-11-02 |
Family
ID=64103903
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
RU2018114139U RU184681U1 (ru) | 2018-04-18 | 2018-04-18 | Устройство хранения данных |
Country Status (1)
Country | Link |
---|---|
RU (1) | RU184681U1 (ru) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU193492U1 (ru) * | 2019-06-13 | 2019-10-30 | Общество с ограниченной ответственностью "БУЛАТ" | Устройство хранения данных |
RU2790533C1 (ru) * | 2022-09-15 | 2023-02-22 | Акционерное общество Научно-производственный центр "Электронные вычислительно-информационные системы" (АО НПЦ "ЭЛВИС") | Устройство обработки и хранения данных |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2302034C9 (ru) * | 2002-08-09 | 2007-09-27 | Нетуорк Эпплиэнс, Инк. | Многопротокольное устройство хранения данных, реализующее интегрированную поддержку файловых и блочных протоколов доступа |
CN101572552A (zh) * | 2009-06-11 | 2009-11-04 | 哈尔滨工业大学 | 基于内容可寻址存储器的高速无损数据压缩系统 |
US8250264B2 (en) * | 2009-07-17 | 2012-08-21 | Hon Hai Precision Industry Co., Ltd. | Storage and method for performing data backup using the storage |
-
2018
- 2018-04-18 RU RU2018114139U patent/RU184681U1/ru active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2302034C9 (ru) * | 2002-08-09 | 2007-09-27 | Нетуорк Эпплиэнс, Инк. | Многопротокольное устройство хранения данных, реализующее интегрированную поддержку файловых и блочных протоколов доступа |
CN101572552A (zh) * | 2009-06-11 | 2009-11-04 | 哈尔滨工业大学 | 基于内容可寻址存储器的高速无损数据压缩系统 |
US8250264B2 (en) * | 2009-07-17 | 2012-08-21 | Hon Hai Precision Industry Co., Ltd. | Storage and method for performing data backup using the storage |
Non-Patent Citations (5)
Title |
---|
B. ZHAO et al. "Streaming sorting network based BWT acceleration on FPGA for lossless compression", * |
B. ZHAO et al. "Streaming sorting network based BWT acceleration on FPGA for lossless compression", ICFPT 2017, опубл. 05.02.2018 * |
на 8 страницах [найдено 26.06.2018], размещено в Интернет по адресу URL:https://ieeexplore.ieee.org/document/8280119/. * |
на 8 страницах [найдено 26.06.2018], размещено в Интернет по адресу URL:https://ieeexplore.ieee.org/document/8280152/. W. LI et al. "SMEFF: A scalable memory extension fabric for FPGA", * |
на 8 страницах [найдено 26.06.2018], размещено в Интернет по адресу URL:https://ieeexplore.ieee.org/document/8280152/. W. LI et al. "SMEFF: A scalable memory extension fabric for FPGA", ICFPT 2017, опубл. 05.02.2018 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU193492U1 (ru) * | 2019-06-13 | 2019-10-30 | Общество с ограниченной ответственностью "БУЛАТ" | Устройство хранения данных |
RU2790533C1 (ru) * | 2022-09-15 | 2023-02-22 | Акционерное общество Научно-производственный центр "Электронные вычислительно-информационные системы" (АО НПЦ "ЭЛВИС") | Устройство обработки и хранения данных |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107948334B (zh) | 基于分布式存储系统的数据处理方法 | |
US8606763B2 (en) | Method and system for compression of files for storage and operation on compressed files | |
US10235064B1 (en) | Optimized data replication using special NVME protocol and running in a friendly zone of storage array | |
US8145838B1 (en) | Processing and distributing write logs of nodes of a cluster storage system | |
RU2581551C2 (ru) | Способ оптимизации хранения и передачи данных | |
US9477682B1 (en) | Parallel compression of data chunks of a shared data object using a log-structured file system | |
US8347003B2 (en) | Systems and methods for compression of data for block mode access storage | |
US20150106470A1 (en) | A caching device and method thereof for integration with a cloud storage system | |
US8793416B2 (en) | Method and system for transformation of logical data objects for storage | |
US20110078467A1 (en) | Reducing energy consumption in a computing cluster | |
US20060190643A1 (en) | Method and system for compression of data for block mode access storage | |
WO2012056493A1 (en) | File management method and computer system | |
WO2007049109A2 (en) | Method and system for compression of logical data objects for storage | |
US10509582B2 (en) | System and method for data storage, transfer, synchronization, and security | |
RU182176U1 (ru) | Устройство хранения данных | |
RU184681U1 (ru) | Устройство хранения данных | |
CN113535068A (zh) | 数据读取方法和系统 | |
US10394846B2 (en) | Heterogeneous compression in replicated storage | |
US20210019066A1 (en) | Method and system for data reduction in a storage infrastructure to support a high-ration thin-provisioned service | |
KR100751075B1 (ko) | Nas 상에서 병렬 전송 기술을 이용한 원격 미러링시스템 | |
KR20140060962A (ko) | 네트워크 분산 파일 시스템에서 유휴 리소스를 이용한 다중 서비스 제공 시스템 및 방법 | |
CN117827775A (zh) | 数据压缩方法、装置、计算设备及存储系统 | |
Kandula et al. | Software Data Strategies for Network Optimization supporting AI workloads |