KR20210158558A - Edge computing system using ai block-type module architecture - Google Patents
Edge computing system using ai block-type module architecture Download PDFInfo
- Publication number
- KR20210158558A KR20210158558A KR1020200077016A KR20200077016A KR20210158558A KR 20210158558 A KR20210158558 A KR 20210158558A KR 1020200077016 A KR1020200077016 A KR 1020200077016A KR 20200077016 A KR20200077016 A KR 20200077016A KR 20210158558 A KR20210158558 A KR 20210158558A
- Authority
- KR
- South Korea
- Prior art keywords
- block
- node
- artificial intelligence
- edge computing
- computing system
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G06N3/0454—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
Description
본 발명은 다양한 머신 러닝 알고리즘을 탑재한 블록형 모듈 아키텍처를 포함하되, 블록형 모듈 간의 자유로운 추가 및 삭제가 가능하도록 확장 가능하고, 블록 간에 제한 없는 조합이 가능하며, 다양한 머신 러닝 알고리즘들을 상황에 맞게 유기적으로 연동되도록 블록 모듈을 설계함으로써, 다양한 엣지 컴퓨팅 장치들을 조합한 응용화가 용이하고, 정규화된 메타 데이터에 기반을 둔 프로토콜을 이용하여 블록형 모듈 간의 빠른 통신을 수행할 수 있으며, 블록형 모듈 간에 단방향 또는 양방향 통신을 지원할 수 있는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템에 관한 것이다.The present invention includes a block-type module architecture equipped with various machine learning algorithms, but is expandable to allow free addition and deletion between block-type modules, unlimited combinations between blocks are possible, and various machine learning algorithms can be tailored to the situation By designing the block module to be organically interlocked, it is easy to apply a combination of various edge computing devices, and it is possible to perform fast communication between block-type modules using a protocol based on normalized metadata, and between block-type modules. It relates to an edge computing system using an artificial intelligence block-type module architecture that can support one-way or two-way communication.
잘 알려진 바와 같이, 최근 엣지 컴퓨팅 환경에서의 머신 러닝 기술이 학계와 산업계에서 많은 관심을 받고 있으며, 이에 다양한 엣지 컴퓨팅 기반의 머신 러닝 응용프로그램이 개발되고 있다.As is well known, machine learning technology in an edge computing environment has recently received a lot of attention from academia and industry, and various edge computing based machine learning applications are being developed.
이러한 엣지 컴퓨팅은 수집된 데이터를 이용하여 네트워크의 엣지에서 프로세싱을 수행하여 IoT(internet of things) 서비스를 제공하는데, 특히 모바일 엣지 컴퓨팅은 클라우드 컴퓨팅 서비스를 모바일 사용자에게 제공하며, 엣지 컴퓨팅 환경에서의 머신 러닝 기술은 예측이 필요한 입력에 대하여 대응 가능한 모델을 만들기 위하여 많은 양의 데이터를 활용하는 것이다.Such edge computing provides Internet of things (IoT) services by performing processing at the edge of a network using collected data. In particular, mobile edge computing provides cloud computing services to mobile users, and machines in edge computing environments. Learning technology utilizes a large amount of data to create a model that can respond to an input that requires prediction.
한편, 빅 데이터의 증가로 인해 대용량 데이터 세트와 수십억 개의 매개변수로 복잡한 모델을 학습하기 위한 머신 러닝 시스템에 대한 새로운 요구가 발생하고 있는데, 데이터의 양이 증가하고 모델의 복잡도가 증가함에 따라 하나의 머신 러닝 장치로는 정확한 머신 러닝 응용프로그램을 개발하기 어려운 문제가 있으며, 이러한 문제를 해결하기 위해 분산형 머신 러닝 기술이 개발되었고, 이는 하나의 장치에서 학습이 느리거나 불가능한 모델을 다수의 서버를 활용하여 가능하게 할 수 있다.Meanwhile, the increase in big data is generating new demands for machine learning systems for training complex models with large data sets and billions of parameters. There is a problem in that it is difficult to develop accurate machine learning applications with machine learning devices, and to solve this problem, a distributed machine learning technology has been developed, which utilizes multiple servers to run models that are slow or impossible to learn on one device. to make it possible
또한, 엣지 컴퓨팅에서의 머신 러닝은 클라우드 컴퓨팅 환경에서와 다른데, 클라우드 컴퓨팅에서의 클라우드는 저장 장치나 관리 센터로서 전체 시스템에 대한 중앙 제어를 수행하지만, 엣지 컴퓨팅에서의 엣지 서버들은 근처의 IoT 장치들의 서비스 요구들에 적절하게 반응할 수 있으며, 엣지 컴퓨팅 환경에서의 분산형 머신 러닝 기술은 IoT 장치들의 복잡한 모델의 학습을 가능하게 한다.In addition, machine learning in edge computing is different from that in cloud computing environments, where the cloud in cloud computing performs central control over the entire system as a storage device or management center, but edge servers in edge computing are It can respond appropriately to service demands, and distributed machine learning technology in edge computing environments enables the learning of complex models of IoT devices.
그리고, 다양한 종류의 IoT 장치들이 많은 양의 데이터와 학습된 모델을 이용하여 머신 러닝을 수행하기 위한 기법으로 엣지 컴퓨팅의 엣지 노드와 같이 머신 러닝 블록을 생성하는 접근법들이 제안되고 있는데, 이와 같은 접근법들은 머신 러닝 프레임워크를 통해 실시간 애드혹 블록을 생성하여 송수신이 가능한 학습 블록을 생성하거나, 혹은 모델링 단계에서 다양한 고수준의 기술을 사용하는 재사용이 가능한 소프트웨어 모듈을 생성한다.In addition, various types of IoT devices are proposed as a technique for performing machine learning using a large amount of data and a trained model, and approaches for generating machine learning blocks, such as edge nodes of edge computing, are proposed. A real-time ad-hoc block is created through a machine learning framework to create a learning block that can be transmitted and received, or a reusable software module that uses various high-level technologies in the modeling stage.
하지만, 종래의 접근법들은 모바일 환경에서의 IoT 장치와 연동된 엣지 노드의 유기적인 활용 방안에 문제점이 있는데, 엣지 네트워크에 새로운 엣지 노드를 추가하거나 삭제하는 등의 확장이 어렵고, 엣지 노드들 간에 자유로운 통신이 가능한 유기적인 연동이 미흡하며, 엣지 노드에 다양한 종류의 머신 러닝 알고리즘들을 탑재하여 조합하는 다양성이 부족한 문제점들이 있다.However, conventional approaches have problems in organic utilization of edge nodes linked with IoT devices in a mobile environment. This possible organic linkage is insufficient, and there are problems that the edge node is not equipped with various types of machine learning algorithms and the diversity of combining them is insufficient.
이에 따라, 분산형 엣지 컴퓨팅 환경에서 다양한 머신 러닝 알고리즘들을 IoT 장치들과 연동하여 머신 러닝을 수행할 수 있는 아키텍처의 연구 개발이 요구되고 있으며, 이러한 아키텍처를 이용한 엣지 컴퓨팅 시스템에 대한 연구 개발이 필요한 실정이다.Accordingly, research and development of an architecture that can perform machine learning by linking various machine learning algorithms with IoT devices in a distributed edge computing environment is required, and research and development of an edge computing system using this architecture is required. to be.
본 발명은 다양한 머신 러닝 알고리즘을 탑재한 블록형 모듈 아키텍처를 포함하되, 블록형 모듈 간의 자유로운 추가 및 삭제가 가능하도록 확장 가능하고, 블록 간에 제한 없는 조합이 가능하며, 다양한 머신 러닝 알고리즘들을 상황에 맞게 유기적으로 연동되도록 블록 모듈을 설계함으로써, 다양한 엣지 컴퓨팅 장치들을 조합한 응용화가 용이하고, 정규화된 메타 데이터에 기반을 둔 프로토콜을 이용하여 블록형 모듈 간의 빠른 통신을 수행할 수 있으며, 블록형 모듈 간에 단방향 또는 양방향 통신을 지원할 수 있는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템을 제공하고자 한다.The present invention includes a block-type module architecture equipped with various machine learning algorithms, but is expandable to allow free addition and deletion between block-type modules, unlimited combinations between blocks are possible, and various machine learning algorithms can be adapted to the situation By designing the block module to be organically interlocked, it is easy to apply a combination of various edge computing devices, and it is possible to perform fast communication between block-type modules using a protocol based on normalized metadata, and between block-type modules. It is intended to provide an edge computing system using an AI block-type module architecture that can support unidirectional or bidirectional communication.
또한, 본 발명은 블록화 모듈의 엣지 처리 노드인 중앙 노드 블록에서 데이터 노드 블록과의 통신을 통해 유선이나 무선으로 연결된 학습 데이터를 활용하여 모델을 학습시키고, 학습된 모델을 이용하여 프로세싱에 연동되는 응용 서비스를 처리할 경우 인공지능 노드 블록으로부터 제공되는 해당 인공지능 알고리즘으로 연결된 엣지 컴퓨터나 복수의 IoT 장치를 구동시킴으로써, 분산형 엣지 컴퓨팅 환경에서 다양한 머신 러닝 알고리즘들을 IoT 장치들과 연동하여 머신 러닝을 수행할 수 있는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템을 제공하고자 한다.In addition, the present invention trains a model by using learning data connected by wire or wirelessly through communication with a data node block in the central node block, which is an edge processing node of the blocking module, and is an application linked to processing using the learned model. When processing a service, by operating an edge computer or multiple IoT devices connected with the corresponding AI algorithm provided from the AI node block, machine learning is performed by linking various machine learning algorithms with IoT devices in a distributed edge computing environment. We want to provide an edge computing system using an AI block-type module architecture that can do this.
본 발명의 실시예들의 목적은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The purpose of the embodiments of the present invention is not limited to the above-mentioned purpose, and other objects not mentioned will be clearly understood by those of ordinary skill in the art to which the present invention belongs from the following description. .
본 발명의 실시예에 따르면, 블록화 모듈의 엣지 처리 노드로 프로세싱과 응용 서비스를 포함하며, 유선이나 무선으로 연결된 학습 데이터를 활용하여 모델을 학습시키고, 학습된 상기 모델을 이용하여 상기 응용 서비스에 대응하는 인공지능 알고리즘으로 연결된 엣지 컴퓨터나 복수의 IoT 장치를 구동시키는 중앙 노드 블록(central node block)과, 다양한 머신 러닝 알고리즘들을 모듈화하여 블록형태로 구성한 복수의 인공지능 알고리즘 노드를 포함하며, 상기 중앙 노드 블록에 상기 인공지능 알고리즘을 제공하는 알고리즘 노드 블록(algorithm node block)과, 상기 학습 데이터와 학습된 상기 모델을 유선으로 연결된 하드웨어 노드나 무선으로 연결된 복수의 인공지능 서버에 분산 저장하고, 상기 학습 데이터를 이용하여 상기 모델을 실시간 학습시키며, 상기 학습 데이터와 학습된 상기 모델을 상기 중앙 노드 블록에 제공하는 데이터 노드 블록(data node block)과, 상기 엣지 컴퓨터를 포함하며, 상기 프로세싱에 연동된 상기 응용 서비스에 따라 동작되는 엣지 노드 블록(edge node block)과, 상기 복수의 IoT 장치를 포함하며, 상기 프로세싱에 연동된 상기 응용 서비스에 따라 동작되는 리프 노드 블록(leaf node block)을 포함하는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.According to an embodiment of the present invention, the edge processing node of the block module includes processing and application services, uses wired or wirelessly connected learning data to train a model, and uses the learned model to respond to the application service A central node block that drives an edge computer or a plurality of IoT devices connected with an artificial intelligence algorithm that An algorithm node block that provides the artificial intelligence algorithm to the block, and the learning data and the learned model are distributed and stored in a hardware node connected by wire or a plurality of artificial intelligence servers connected wirelessly, and the learning data a data node block that trains the model in real time using An artificial intelligence block including an edge node block operated according to a service and a leaf node block including the plurality of IoT devices and operated according to the application service linked to the processing An edge computing system using a modular architecture may be provided.
또한, 본 발명의 실시예에 따르면, 상기 엣지 컴퓨팅 시스템은, 상기 에지 노드 블록이 다른 프로세싱과 다른 응용 서비스를 포함하는 다른 중앙 노드 블록의 역할을 담당하는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.In addition, according to an embodiment of the present invention, the edge computing system is an edge computing system using an artificial intelligence block-type module architecture in which the edge node block serves as another central node block including other processing and other application services. can be provided.
또한, 본 발명의 실시예에 따르면, 상기 엣지 컴퓨팅 시스템은, 메타데이터 쿼리 프로토콜을 정의하여 사용하되, 상기 메타데이터 쿼리 프로토콜은 정규화된 메타데이터를 통해 네트워크 통신 프로토콜을 이용하여 노드 블록 상호 간에 통신하는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.In addition, according to an embodiment of the present invention, the edge computing system defines and uses a metadata query protocol, wherein the metadata query protocol communicates between node blocks using a network communication protocol through normalized metadata. An edge computing system using an artificial intelligence block-type module architecture may be provided.
또한, 본 발명의 실시예에 따르면, 상기 정규화된 메타데이터는, 시맨틱 정보를 나타내는 5W1H(Who, What, Where, When, Why, How)의 컨텍스트 형식에 따라 제공되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.In addition, according to an embodiment of the present invention, the normalized metadata is provided according to the context format of 5W1H (Who, What, Where, When, Why, How) representing semantic information using an artificial intelligence block-type module architecture. An edge computing system may be provided.
또한, 본 발명의 실시예에 따르면, 상기 정규화된 메타데이터는, MQTT(message queuing Telemetry transport), HTTP(hypertext transfer protocol) 및 시리얼 통신 중 적어도 어느 하나의 네트워크 프로토콜 통신을 이용하여 쿼리 형태로 노드 블록 상호 간에 전송되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.In addition, according to an embodiment of the present invention, the normalized metadata is a node block in the form of a query using at least one network protocol communication of message queuing telemetry transport (MQTT), hypertext transfer protocol (HTTP), and serial communication. An edge computing system using an artificial intelligence block-type module architecture that is transmitted to each other can be provided.
또한, 본 발명의 실시예에 따르면, 상기 엣지 컴퓨팅 시스템은, 단방향 통신 및 양방향 통신으로 노드 블록 상호 간에 연동되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.In addition, according to an embodiment of the present invention, the edge computing system may be provided with an edge computing system using an artificial intelligence block-type module architecture that interworks between node blocks through one-way communication and two-way communication.
또한, 본 발명의 실시예에 따르면, 상기 단방향 통신은, 입력 노드 및 출력 노드에서 사용되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.In addition, according to an embodiment of the present invention, the one-way communication may be provided with an edge computing system using an artificial intelligence block-type module architecture used in an input node and an output node.
또한, 본 발명의 실시예에 따르면, 상기 양방향 통신은, 프로세싱 노드 및 데이터 노드에서 사용되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.In addition, according to an embodiment of the present invention, the bidirectional communication may be provided with an edge computing system using an artificial intelligence block-type module architecture used in a processing node and a data node.
또한, 본 발명의 실시예에 따르면, 상기 엣지 컴퓨팅 시스템은, 유선 시리얼 통신 또는 무선 블록 통신을 통해 노드 블록 상호 간에 연동되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템이 제공될 수 있다.In addition, according to an embodiment of the present invention, the edge computing system may provide an edge computing system using an artificial intelligence block-type module architecture that interworks between node blocks through wired serial communication or wireless block communication.
본 발명은 다양한 머신 러닝 알고리즘을 탑재한 블록형 모듈 아키텍처를 포함하되, 블록형 모듈 간의 자유로운 추가 및 삭제가 가능하도록 확장 가능하고, 블록 간에 제한 없는 조합이 가능하며, 다양한 머신 러닝 알고리즘들을 상황에 맞게 유기적으로 연동되도록 블록 모듈을 설계함으로써, 다양한 엣지 컴퓨팅 장치들을 조합한 응용화가 용이하고, 정규화된 메타 데이터에 기반을 둔 프로토콜을 이용하여 블록형 모듈 간의 빠른 통신을 수행할 수 있으며, 블록형 모듈 간에 단방향 또는 양방향 통신을 지원할 수 있다.The present invention includes a block-type module architecture equipped with various machine learning algorithms, but is expandable to allow free addition and deletion between block-type modules, unlimited combinations between blocks are possible, and various machine learning algorithms can be adapted to the situation By designing the block module to be organically interlocked, it is easy to apply a combination of various edge computing devices, and it is possible to perform fast communication between block-type modules using a protocol based on normalized metadata, and between block-type modules. It can support one-way or two-way communication.
또한, 본 발명은 블록화 모듈의 엣지 처리 노드인 중앙 노드 블록에서 데이터 노드 블록과의 통신을 통해 유선이나 무선으로 연결된 학습 데이터를 활용하여 모델을 학습시키고, 학습된 모델을 이용하여 프로세싱에 연동되는 응용 서비스를 처리할 경우 인공지능 노드 블록으로부터 제공되는 해당 인공지능 알고리즘으로 연결된 엣지 컴퓨터나 복수의 IoT 장치를 구동시킴으로써, 분산형 엣지 컴퓨팅 환경에서 다양한 머신 러닝 알고리즘들을 IoT 장치들과 연동하여 머신 러닝을 수행할 수 있다.In addition, the present invention trains a model by using learning data connected by wire or wirelessly through communication with a data node block in the central node block, which is an edge processing node of the blocking module, and is an application linked to processing using the learned model. When processing a service, by operating an edge computer or multiple IoT devices connected with the corresponding AI algorithm provided from the AI node block, machine learning is performed by linking various machine learning algorithms with IoT devices in a distributed edge computing environment. can do.
도 1은 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템의 블록구성도이고,
도 2 내지 도 7은 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템을 설명하기 위한 도면이며,
도 8 내지 도 10은 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템의 모듈화 비교 분석 및 구현예를 설명하기 위한 도면이고,
도 11 내지 도 14는 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템에서 유선 직렬 통신과 무선 블록 통신을 설명하기 위한 도면이다.1 is a block diagram of an edge computing system using an artificial intelligence block-type module architecture according to an embodiment of the present invention;
2 to 7 are diagrams for explaining an edge computing system using an artificial intelligence block-type module architecture according to an embodiment of the present invention,
8 to 10 are diagrams for explaining a modular comparison analysis and implementation example of an edge computing system using an artificial intelligence block-type module architecture according to an embodiment of the present invention;
11 to 14 are diagrams for explaining wired serial communication and wireless block communication in an edge computing system using an artificial intelligence block-type module architecture according to an embodiment of the present invention.
본 발명의 실시예들에 대한 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.Advantages and features of embodiments of the present invention, and methods of achieving them, will become apparent with reference to the embodiments described below in detail in conjunction with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various different forms, and only these embodiments allow the disclosure of the present invention to be complete, and common knowledge in the art to which the present invention pertains It is provided to fully inform those who have the scope of the invention, and the present invention is only defined by the scope of the claims. Like reference numerals refer to like elements throughout.
본 발명의 실시예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명의 실시예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. In describing the embodiments of the present invention, if it is determined that a detailed description of a well-known function or configuration may unnecessarily obscure the gist of the present invention, the detailed description thereof will be omitted. In addition, the terms to be described later are terms defined in consideration of functions in an embodiment of the present invention, which may vary according to intentions or customs of users and operators. Therefore, the definition should be made based on the content throughout this specification.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세히 설명하기로 한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템의 블록구성도이고, 도 2 내지 도 7은 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템을 설명하기 위한 도면이다.1 is a block diagram of an edge computing system using an artificial intelligence block-type module architecture according to an embodiment of the present invention, and FIGS. 2 to 7 are edge computing using an artificial intelligence block-type module architecture according to an embodiment of the present invention. It is a diagram for explaining the system.
도 1 내지 도 7을 참조하면, 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템은 중앙 노드 블록(central node block, 110), 알고리즘 노드 블록(algorithm node block, 120), 데이터 노드 블록(data node block, 130), 엣지 노드 블록(edge node block, 140), 리프 노드 블록(leaf node block, 150) 등을 포함할 수 있다.1 to 7, an edge computing system using an artificial intelligence block-type module architecture according to an embodiment of the present invention is a central node block (central node block, 110), an algorithm node block (algorithm node block, 120), It may include a data node block 130 , an edge node block 140 , a leaf node block 150 , and the like.
중앙 노드 블록(110)은 블록화 모듈의 엣지 처리 노드로 프로세싱과 응용 서비스를 포함하며, 유선이나 무선으로 연결된 학습 데이터를 활용하여 모델을 학습시키고, 학습된 모델을 이용하여 응용 서비스에 대응하는 인공지능 알고리즘으로 연결된 엣지 컴퓨터나 복수의 IoT 장치를 구동시킬 수 있다.The central node block 110 is an edge processing node of the blocking module, which includes processing and application services, uses wired or wirelessly connected learning data to train a model, and uses the learned model to artificial intelligence corresponding to application services. It can drive an edge computer or multiple IoT devices connected by an algorithm.
알고리즘 노드 블록(120)은 다양한 머신 러닝 알고리즘들을 모듈화하여 블록형태로 구성한 복수의 인공지능 알고리즘 노드를 포함하며, 중앙 노드 블록(110)에 인공지능 알고리즘을 제공할 수 있다.The algorithm node block 120 includes a plurality of artificial intelligence algorithm nodes configured in a block form by modularizing various machine learning algorithms, and may provide an artificial intelligence algorithm to the central node block 110 .
데이터 노드 블록(130)은 학습 데이터와 학습된 모델을 유선으로 연결된 하드웨어 노드나 무선으로 연결된 복수의 인공지능 서버에 분산 저장하고, 학습 데이터를 이용하여 모델을 실시간 학습시키며, 학습 데이터와 학습된 모델을 중앙 노드 블록(110)에 제공할 수 있다.The data node block 130 distributes and stores the training data and the learned model in a hardware node connected by wire or a plurality of artificial intelligence servers connected wirelessly, uses the training data to train the model in real time, and the training data and the learned model may be provided to the central node block 110 .
엣지 노드 블록(140)은 엣지 컴퓨터를 포함하며, 프로세싱에 연동된 응용 서비스에 따라 동작될 수 있다.The edge node block 140 includes an edge computer and may be operated according to an application service linked to processing.
리프 노드 블록(150)은 복수의 IoT 장치를 포함하며, 프로세싱에 연동된 응용 서비스에 따라 동작될 수 있다.The leaf node block 150 includes a plurality of IoT devices and may be operated according to an application service linked to processing.
예를 들면, 도 2에는 본 발명의 실시예에 따른 블록형 모듈 아키텍처인 인공지능 블록 아키텍처(AI-Block Architecture)의 설계 다이어그램을 예시하고 있는데, 설계된 아키텍처는 응용 서비스와 연동되는 프로세싱 유닛(예를 들면, 본 발명의 중앙 노드 블록(110)), N개의 AI 알고리즘(예를 들면, 본 발명의 알고리즘 노드 블록(120)), AI 서버와 학습 데이터와 학습된 모델(예를 들면, 본 발명의 데이터 노드 블록(130)), 엣지 컴퓨터(예를 들면, 본 발명의 엣지 노드 블록(140)), 그리고 IoT 장치들(예를 들면, 본 발명의 리프 노드 블록(150))로 구성될 수 있다.For example, FIG. 2 illustrates a design diagram of an artificial intelligence block architecture (AI-Block Architecture) that is a block-type module architecture according to an embodiment of the present invention, and the designed architecture is a processing unit (eg, For example, the central node block 110 of the present invention), N AI algorithms (eg, the algorithm node block 120 of the present invention), an AI server, training data, and a trained model (eg, of the present invention) data node block 130), an edge computer (eg, edge node block 140 of the present invention), and IoT devices (eg, leaf node block 150 of the present invention) .
여기에서, 프로세싱 유닛은 유선이나 무선으로 연결된 학습 데이터를 활용하여 모델을 학습시키고, 학습된 모델을 이용하여 해당 AI 알고리즘으로 연결된 엣지 컴퓨터나 IoT 장치들을 구동시킬 수 있다.Here, the processing unit may learn a model by using wired or wirelessly connected learning data, and use the learned model to drive edge computers or IoT devices connected with a corresponding AI algorithm.
그리고, 학습 데이터나 학습된 모델들은 유선으로 연결된 하드웨어 노드나 무선으로 연결된 AI 서버에 저장되며 학습 데이터를 이용하여 모델을 실시간 학습시킬 수 있으며, 엣지 컴퓨터나 IoT 장치들은 프로세싱에 연동된 응용 서비스의 특징에 따라서 동작될 수 있다.In addition, the training data or the learned models are stored in a hardware node connected by wire or an AI server connected wirelessly, and the model can be trained in real time using the learning data. can be operated according to
예를 들면, 자동차 종류를 인식하는 응용 서비스에서는 외부 카메라가 IoT 장치가 되며, 이미지 인식 딥러닝 알고리즘이 연동되어 사용될 수 있고, 엣지 컴퓨터로 사용될 경우에는 딥러닝 알고리즘과 카메라, 프로세싱, 네트워킹 기능을 모두 엣지 컴퓨터에 포함하여 자동차 종류 인식 응용 서비스에 연결될 수 있다.For example, in an application service that recognizes a vehicle type, an external camera becomes an IoT device, and an image recognition deep learning algorithm can be used in conjunction. It can be included in the edge computer and connected to the vehicle type recognition application service.
아울러, 본 발명의 실시예에 따른 인공지능 블록 아키텍처(AI-Block Architecture)는 중앙 노드(Central node), 알고리즘 노드(Algorithms node), 데이터 노드(Data node), 엣지 노드(Edge node), 리프 노드(Leaf node) 등으로 구성할 수 있는데, 도 3을 참조하여 각 노드에 대해 설명하면, 중앙 노드(Central node)는 블록화 모듈의 엣지 처리 노드로서, 프로세싱과 응용 서비스를 포함할 수 있다.In addition, the AI-Block Architecture according to an embodiment of the present invention is a central node, an algorithm node, a data node, an edge node, and a leaf node. (Leaf node), etc., when each node is described with reference to FIG. 3, the central node is an edge processing node of the blocking module, and may include processing and application services.
또한, 알고리즘 노드(Algorithm node)는 다양한 머신러닝 알고리즘들을 모듈화하여 블록형태로 구성한 것인데, 예를 들어 나이브 베이즈(naive bayes), 의사결정 나무(decision tree), SVM(support vector machine), kNN(k-nearest neighborhood), 랜덤 포레스트(Random forest), K 평균(K-means), 가우시안 혼합(Gaussian mixture) 등의 알고리즘들을 사용할 수 있다.In addition, an algorithm node is a modularized block of various machine learning algorithms, for example, naive bayes, decision trees, support vector machines (SVMs), kNNs (kNNs). Algorithms such as k-nearest neighborhood), random forest, K-means, and Gaussian mixture can be used.
여기에서, 나이브 베이즈는 사전확률 정보와 관측을 통해 측정한 우도와의 곱을 통해 사후 확률을 계산하는 분류 기법이고, 의사결정 나무는 일련의 결정 과정을 통해 표본들을 분류하며 현재의 결정이 다음 의사결정을 돕는 분류 기법이며, SVM은 입력된 벡터값을 고차원 변수 공간에 대입하여 고차원 변수 공간에서의 최적의 초평면을 획득하는 분류 기법이고, kNN은 두가지 다른 입력 벡터 간의 대략적인 거리를 계산하여 어느 범주에 속하는지 판단하는 단일 분류 기법이며, 랜덤 포레스트는 훈련 과정에서 구성한 다수의 결정 트리로부터 분류 또는 회귀 분석을 출력하는 분류 기법이고, K 평균은 주어진 데이터를 K개의 클러스터로 묶어 각 클러스터와 거리 차이의 분산을 최소화하는 분류 기법이며, 가우시안 혼합은 현실에 존재하는 복잡한 형태의 확률 분포를 N개의 가우시안 분포를 혼합하여 표현하는 분류 기법이다.Here, the naive Bayes method is a classification technique that calculates the posterior probability through the product of the prior probability information and the likelihood measured through observation, and the decision tree classifies the samples through a series of decision processes, and the current decision It is a classification technique that helps decision making. SVM is a classification technique that obtains an optimal hyperplane in a high-dimensional variable space by substituting an input vector value into a high-dimensional variable space. kNN calculates the approximate distance between two different input vectors to determine which category It is a single classification technique that determines whether It is a classification technique that minimizes variance, and Gaussian mixing is a classification technique that expresses a probability distribution of a complex shape existing in reality by mixing N Gaussian distributions.
그리고, 데이터 노드(Data node)는 학습 데이터와 학습된 모델을 저장하는 역할을 하며, 유선으로 연결된 하드웨어 노느나 무선으로 연결된 AI 서버에 분산 저장될 수 있고, 다수의 AI 서버는 학습 관련 데이터뿐만 아니라 응용서비스의 데이터베이스로써의 역할도 함께 수행할 수 있다.In addition, the data node serves to store the training data and the trained model, and can be distributed and stored in a wired hardware node or a wirelessly connected AI server. It can also play a role as a database of application services.
또한, 엣지 노드(Edge node)는 엣지 컴퓨팅을 위한 엣지 장치로서 동작하거나 또는 다른 프로세싱과 다른 응용 서비스를 포함하는 중앙 노드(Central node)로도 동작할 수 있는데, 분산 머신 러닝 환경에서 다수의 중앙 노드(Central node)들이 엣지 노드(Edge node)로서 역할을 하며 상호 네트워크 통신을 수행할 수 있다.In addition, an edge node may operate as an edge device for edge computing or as a central node including other processing and other application services. In a distributed machine learning environment, a plurality of central nodes ( Central nodes) act as edge nodes and may perform mutual network communication.
상술한 바와 같이 엣지 컴퓨팅 시스템은 엣지 노드 블록(140)이 다른 프로세싱과 다른 응용 서비스를 포함하는 다른 중앙 노드 블록의 역할을 담당할 수 있다.As described above, in the edge computing system, the edge node block 140 may serve as another central node block including other processing and other application services.
한편, 리프 노드(Leaf node)는 가장 말단에 배치되는 IoT 장치이거나, 센싱 장치, 디스플레이 등의 입출력 형태로 연결될 수 있으며, 예를 들어 도 4에는 인공지능 블록(AI Block)의 유선 하드웨어 연결의 개념을 보여주는 다이어그램을 예시하고 있다.On the other hand, a leaf node may be an IoT device disposed at the very end or may be connected in the form of input/output such as a sensing device or a display. For example, in FIG. 4 , the concept of wired hardware connection of an AI block A diagram showing the
상술한 바와 같이 본 발명의 실시예에 따른 블록형 모듈 아키텍처는 블록형 모듈인 노드들 간의 자유로운 추가 및 삭제가 가능하며, 노드들 간의 유무선 연결 구조가 느슨한 결합 구조로 되어있어 제한 없는 조합이 가능할 뿐만 아니라, N개의 AI 알고리즘 노드들을 이용하여 다양한 머신 러닝 알고리즘들을 상황에 맞게 유기적으로 연동시킬 수 있으며, N개의 엣지 노드(Edge node)들은 다양한 엣지 컴퓨팅 장치들을 조합한 응용 서비스를 쉽게 제공할 수 있도록 한다.As described above, in the block-type module architecture according to an embodiment of the present invention, free addition and deletion between nodes that are block-type modules are possible, and since the wired/wireless connection structure between the nodes is a loosely coupled structure, unrestricted combinations are possible. Rather, by using N AI algorithm nodes, various machine learning algorithms can be organically linked according to the situation, and N edge nodes can easily provide application services combining various edge computing devices. .
한편, 엣지 컴퓨팅 시스템은 메타데이터 쿼리 프로토콜을 정의하여 사용하되, 메타데이터 쿼리 프로토콜은 정규화된 메타데이터를 통해 네트워크 통신 프로토콜을 이용하여 노드 블록 상호 간에 통신할 수 있는데, 정규화된 메타데이터는 시맨틱 정보를 나타내는 5W1H(Who, What, Where, When, Why, How)의 컨텍스트 형식에 따라 제공될 수 있고, 정규화된 메타데이터는, MQTT(message queuing Telemetry transport), HTTP(hypertext transfer protocol) 및 시리얼 통신 중 적어도 어느 하나의 네트워크 프로토콜 통신을 이용하여 쿼리 형태로 노드 블록 상호 간에 전송될 수 있다.On the other hand, the edge computing system defines and uses a metadata query protocol, but the metadata query protocol can communicate between node blocks using a network communication protocol through normalized metadata. It may be provided according to the context format of 5W1H (Who, What, Where, When, Why, How), and the normalized metadata is at least among message queuing telemetry transport (MQTT), hypertext transfer protocol (HTTP) and serial communication. It can be transmitted between node blocks in the form of a query using any one network protocol communication.
예를 들면, 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처는 메타데이터 쿼리 프로토콜을 정의하여 사용할 수 있는데, 메타데이터 쿼리 프로토콜은 정규화된 메타데이터를 통해서 네트워크 통신 프로토콜을 이용하여 블록형 모듈 간의 빠른 통신을 수행할 수 있고, 정규화된 메타데이터는 시맨틱 정보를 나타내는 5W1H(Who, What, Where, When, Why, How)의 컨텍스트 형식을 따라 제공될 수 있다.For example, the artificial intelligence block-type module architecture according to an embodiment of the present invention can be used by defining a metadata query protocol, which uses a network communication protocol through normalized metadata between block-type modules. Fast communication may be performed, and normalized metadata may be provided according to the context format of 5W1H (Who, What, Where, When, Why, How) indicating semantic information.
여기에서, 5W1H의 정규화된 메타데이터는 MQTT, HTTP, 시리얼 통신의 네트워크 프로토콜 통신으로 쿼리 형태로 블록 모듈 간 전송될 수 있는데, 이와 같은 메타데이터 쿼리 프로토콜은 블록형 모듈 아키텍처에서 블록형 모듈 간의 자유로운 조합이 가능하여 제한 없는 확장성을 지원할 수 있다.Here, the normalized metadata of 5W1H can be transmitted between block modules in the form of a query through the network protocol communication of MQTT, HTTP, and serial communication. This is possible to support unlimited scalability.
또한, 인공지능 블록(AI-Block) 설계 기법은 도 4에 도시한 바와 같이 머신 러닝을 위한 모듈화 구조로 하드웨어 블록(block)형태 혹은 브릭(brick)형태로 설계되어 비접촉식(무선) 통신 및 접촉식(유선) 통신을 수행할 수 있는데, 비접촉식 블록 연동의 경우에는 MQTT나 HTTP를 통한 메타데이터 쿼리 프로토콜로 데이터를 송수신할 수 있고, 접촉식 블록 연동의 경우에는 직접적인 블록 맞춤으로 시리얼 통신 데이터를 송수신할 수 있다.In addition, the artificial intelligence block (AI-Block) design technique is a modular structure for machine learning as shown in FIG. 4, and is designed in the form of a hardware block or brick, so that contactless (wireless) communication and contact type (Wired) communication can be performed. In the case of contactless block interworking, data can be transmitted and received by metadata query protocol through MQTT or HTTP, and in case of contact block interworking, serial communication data can be transmitted and received by direct block alignment. can
한편, 엣지 컴퓨팅 시스템은 단방향 통신 및 양방향 통신으로 노드 블록 상호 간에 연동될 수 있는데, 단방향 통신은 입력 노드 및 출력 노드에서 사용될 수 있고, 양방향 통신은 프로세싱 노드 및 데이터 노드에서 사용될 수 있다.On the other hand, the edge computing system may be interlocked between node blocks through one-way communication and two-way communication, where one-way communication may be used in an input node and an output node, and two-way communication may be used in a processing node and a data node.
예를 들면, 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처는 단방향 혹은 양방향 통신으로 다양한 블록 모듈들을 상황에 맞게 유기적으로 연동할 수 있는데, 도 5에는 인공지능 블록(AI-Block) 아키텍처의 상황에 따른 통신 방향을 나타내고 있다.For example, the artificial intelligence block-type module architecture according to an embodiment of the present invention can organically link various block modules according to the situation through one-way or two-way communication. It shows the communication direction according to the situation.
여기에서, 단방향 통신은 입력 노드(예를 들면, 센싱, 머신 러닝 알고리즘 등)와 출력 노드(예를 들면, 디스플레이 등)에 사용될 수 있으며, 양방향 통신은 프로세싱 노드(예를 들면, 퓨전, 추론 등)와 데이터 노드(예를 들면, 학습, 모델링 등)에 사용될 수 있다.Here, one-way communication may be used for an input node (eg, sensing, machine learning algorithm, etc.) and an output node (eg, display, etc.), and two-way communication may be used with a processing node (eg, fusion, inference, etc.) ) and data nodes (eg, learning, modeling, etc.).
예를 들어 도 6 및 도 7에는 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처의 통신 방식에 대한 예시를 나타내는데, 도 6에 도시한 바와 같이 직접적인 통신방식으로 물체인식과 음성인식의 머신러닝 결과 데이터를 직접적으로 디스플레이인 전자종이(e-Paper) 시스템에 전송할 수 있고, 도 7에 도시한 바와 같이 융합 통신방식으로 물체인식과 음성인식의 인식 데이터를 프로세싱 노드가 융합(fusion)하여 머신러닝을 수행한 후에 그 결과 데이터를 디스플레이인 전자종이 시스템에 전송할 수 있다. 이와 같이, 본 발명의 실시예에 따른 인공지능 블록(AI-Block) 아키텍처는 주어진 응용 상황에 따라 블록형 모듈들을 연동함으로써 유기적인 통신을 수행할 수 있다.For example, FIGS. 6 and 7 show an example of a communication method of an artificial intelligence block-type module architecture according to an embodiment of the present invention. As shown in FIG. 6, machine learning of object recognition and voice recognition is a direct communication method. The result data can be directly transmitted to the display, e-Paper system, and as shown in FIG. 7 , the processing node fusions the recognition data of object recognition and voice recognition in a convergence communication method for machine learning. After performing , the result data can be transmitted to the display e-paper system. As such, the artificial intelligence block (AI-Block) architecture according to an embodiment of the present invention can perform organic communication by interworking block-type modules according to a given application situation.
따라서, 본 발명은 다양한 머신 러닝 알고리즘을 탑재한 블록형 모듈 아키텍처를 포함하되, 블록형 모듈 간의 자유로운 추가 및 삭제가 가능하도록 확장 가능하고, 블록 간에 제한 없는 조합이 가능하며, 다양한 머신 러닝 알고리즘들을 상황에 맞게 유기적으로 연동되도록 블록 모듈을 설계함으로써, 다양한 엣지 컴퓨팅 장치들을 조합한 응용화가 용이하고, 정규화된 메타 데이터에 기반을 둔 프로토콜을 이용하여 블록형 모듈 간의 빠른 통신을 수행할 수 있으며, 블록형 모듈 간에 단방향 또는 양방향 통신을 지원할 수 있다.Therefore, the present invention includes a block-type module architecture equipped with various machine learning algorithms, and is expandable to allow free addition and deletion between block-type modules, unlimited combinations between blocks are possible, and various machine learning algorithms can be used in situations By designing the block module to be organically interlocked according to the One-way or two-way communication between modules can be supported.
또한, 본 발명은 블록화 모듈의 엣지 처리 노드인 중앙 노드 블록에서 데이터 노드 블록과의 통신을 통해 유선이나 무선으로 연결된 학습 데이터를 활용하여 모델을 학습시키고, 학습된 모델을 이용하여 프로세싱에 연동되는 응용 서비스를 처리할 경우 인공지능 노드 블록으로부터 제공되는 해당 인공지능 알고리즘으로 연결된 엣지 컴퓨터나 복수의 IoT 장치를 구동시킴으로써, 분산형 엣지 컴퓨팅 환경에서 다양한 머신 러닝 알고리즘들을 IoT 장치들과 연동하여 머신 러닝을 수행할 수 있다.In addition, the present invention trains a model by using learning data connected by wire or wirelessly through communication with a data node block in the central node block, which is an edge processing node of the blocking module, and is an application linked to processing using the learned model. When processing a service, by operating an edge computer or multiple IoT devices connected with the corresponding AI algorithm provided from the AI node block, machine learning is performed by linking various machine learning algorithms with IoT devices in a distributed edge computing environment. can do.
한편, 도 8 내지 도 10은 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템의 모듈화 비교 분석 및 구현예를 설명하기 위한 도면이다.Meanwhile, FIGS. 8 to 10 are diagrams for explaining a modular comparison analysis and implementation example of an edge computing system using an artificial intelligence block-type module architecture according to an embodiment of the present invention.
도 8 내지 도 10을 참조하면, 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처의 블록형 모듈화 구조를 관련된 연구를 기반으로 도 8에 도시한 바와 같이 비교 분석하였다.8 to 10 , the block-type modular structure of the artificial intelligence block-type module architecture according to an embodiment of the present invention was compared and analyzed as shown in FIG. 8 based on related studies.
여기에서, 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처의 특징들을 기반으로 분석하였는데, 그 분석 결과, 기존 연구들 중 일부는 대용량의 데이터를 활용하여 구조적 확장성을 가능하게 하고, 개별적인 통신 방법으로 머신 러닝 알고리즘들을 연동하고 있지만, 기존 연구들은 머신러닝 알고리즘 및 학습 데이터들을 모듈화하여 블록 형태의 개별 분산 구조로 구성하지 않는다.Here, an analysis was made based on the characteristics of the AI block-type module architecture according to an embodiment of the present invention. As a result of the analysis, some of the existing studies enable structural scalability by utilizing large-capacity data, and individual communication Although machine learning algorithms are linked as a method, existing studies do not form individual distributed structures in block form by modularizing machine learning algorithms and learning data.
특히, 정규화된 메타데이터 프로토콜을 정의하지 않기 때문에 개별 분산된 머신 러닝 블록 간의 정규화된 통신 방법이 미흡한 문제점이 있고, 본 발명의 실시예에 따른 인공지능 블록(AI-Block) 아키텍처는 분산형 엣지 컴퓨팅 환경에서 머신 러닝 알고리즘 및 관련된 학습 데이터들의 모듈화된 블록 구조로 설계되었으며, 모듈 간 5W1H의 형태로 정규화된 메타데이터 쿼리를 정의하여 HTTP나 MQTT 등의 통신 프로토콜로 상황에 맞는 단방향 혹은 양방향 통신을 지원할 수 있다.In particular, since the normalized metadata protocol is not defined, there is a problem that the normalized communication method between individual distributed machine learning blocks is insufficient, and the artificial intelligence block (AI-Block) architecture according to the embodiment of the present invention is distributed edge computing. It is designed as a modular block structure of machine learning algorithms and related learning data in the environment, and can support one-way or two-way communication according to the situation with communication protocols such as HTTP or MQTT by defining a normalized metadata query in the form of 5W1H between modules. have.
아울러, 본 발명의 실시예에 따른 인공지능 블록(AI-Block) 아키텍처의 효과를 입증하기 위하여 도 9에 도시한 바와 같이 엣지 컴퓨팅 시스템을 구현하였는데, 머신 러닝 개발과 관련된 기존의 소프트웨어 아키텍처로는 Tensor Flow, MXNet, Caffe2 등이 있고, 엣지 컴퓨팅을 위한 머신 러닝 하드웨어 아키텍처로는 인텔 모비디우스, 엔비디아 젯슨 보드, 구글 코럴보드 등이 있다.In addition, in order to prove the effect of the artificial intelligence block (AI-Block) architecture according to the embodiment of the present invention, an edge computing system was implemented as shown in FIG. 9. As a conventional software architecture related to machine learning development, Tensor Flow, MXNet, Caffe2, etc., and machine learning hardware architectures for edge computing include Intel Movidius, Nvidia Jetson Board, and Google Coral Board.
기존의 머신 러닝 소프트웨어 아키텍처들은 블록형 모듈화 구조와는 다르나, 기존의 머신 러닝 하드웨어 아키텍처들은 엣지 노드의 블록 모듈로 활용이 가능하기 때문에, 기존의 머신러닝 하드웨어 아키텍처 중 하나인 구글 코럴보드를 활용하여 도 9에 도시한 바와 같은 응용 시스템을 개발하였고, 도 10에는 개발된 응용 시스템에 사용된 하드웨어를 나타내고 있다.Existing machine learning software architectures are different from block-type modular structures, but existing machine learning hardware architectures can be used as block modules of edge nodes. An application system as shown in Fig. 9 was developed, and Fig. 10 shows hardware used in the developed application system.
상술한 바와 같이 개발된 시스템은 블록 모듈 간 연동을 나타내기 위하여 구현한 것으로 비전 엣지 노드(Edge node)의 테스트 영상인식 결과, 음성 엣지 노드(Edge node)의 테스트 음성인식 결과, 코럴보드 엣지 노드(Edge node)의 테스트 영상인식 결과를 라즈베리파이 중앙 노드(Central node)에서 프로세싱하여 파피루스(Papirus) 리프 노드(Leaf node)에 단순 출력한 것을 나타낸다.The system developed as described above is implemented to indicate interlocking between block modules. The test image recognition result of the vision edge node, the test voice recognition result of the voice edge node, and the coral board edge node ( It indicates that the test image recognition result of the edge node) is processed in the Raspberry Pi central node and simply outputted to the papyrus leaf node.
그리고, 카메라 영상 리프 노드(Leaf node)의 영상을 입력으로 받아서 라즈베리파이 중앙 노드(Central node)에서 출력 확인하였고, 개발된 시스템은 단순 테스트 데이터들을 송수신하는 예제로써 제안된 아키텍처의 블록 모듈화 가능성을 확인할 수 있었다.Then, the camera image received the image of the leaf node as an input, and the output was checked at the Raspberry Pi central node. could
상술한 바와 같이 본 발명에서는 분산형 머신 러닝을 위한 블록형 모듈화 아키텍처 설계 기법을 제안하였고, 제안된 아키텍처는 다양한 머신 러닝 알고리즘을 탑재한 블록형 모듈 구조로써 블록형 모듈 간의 자유로운 확장이 가능하고, 다양한 머신 러닝 알고리즘들을 상황에 맞게 유기적으로 연동될 수 있으며, 제안된 아키텍처는 정의된 메타데이터 쿼리 프로토콜을 이용하여 자유로운 데이터 통신을 수행할 수 있고, 주변 응용 상황에 적합한 통신 방법을 설계하여 다양한 엣지 컴퓨팅 장치들을 조합한 응용 서비스를 용이하게 구현할 수 있으며, 블록형 모듈 간의 연동을 확인하기 위하여 하드웨어 기반의 모듈화 응용 시스템을 구현할 수 있었다.As described above, in the present invention, a block-type modular architecture design technique for distributed machine learning is proposed, and the proposed architecture is a block-type module structure equipped with various machine learning algorithms, allowing free expansion between block-type modules, and Machine learning algorithms can be organically linked according to the situation, and the proposed architecture can perform free data communication using the defined metadata query protocol, and various edge computing devices are designed by designing a communication method suitable for the surrounding application situation. It is possible to easily implement application services that combine these, and to implement a hardware-based modular application system to check the interworking between block-type modules.
한편, 도 11 내지 도 14는 본 발명의 실시예에 따른 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템에서 유선 직렬 통신과 무선 블록 통신을 설명하기 위한 도면이다.Meanwhile, FIGS. 11 to 14 are diagrams for explaining wired serial communication and wireless block communication in an edge computing system using an artificial intelligence block-type module architecture according to an embodiment of the present invention.
도 11 내지 도 14를 참조하면, 본 발명에서는 머신 러닝 알고리즘 모듈이 있는 다중 AI 블록을 구성하는데, 여러 블록이 결합되어 고급 머신 러닝 서비스를 제공할 수 있고, 각 AI 블록은 알고리즘, 처리, 훈련 데이터/테스트 데이터, 훈련된 모델, 데이터베이스 등을 포함할 수 있으며, 처리 블록은 머신 러닝 응용 프로그램의 알고리즘, 교육 데이터 및 모델과 연결될 수 있고, 모델링 단계에서 필요에 따라 여러 머신 러닝 알고리즘을 적용 할 수 있다. 여기에서, 실제 머신 러닝 알고리즘은 kNN, SVM, 랜덤 포레스트, 가우시안 나이브 베이즈(Gaussian naive bayesian) 및 신경망, 딥러닝과 같은 지도/비지도 학습을 포함할 수 있다.11 to 14 , in the present invention, a multi-AI block with a machine learning algorithm module is configured, and several blocks can be combined to provide advanced machine learning services, and each AI block includes algorithms, processing, and training data. It can contain test data, trained models, databases, etc., processing blocks can be linked with algorithms, training data and models of machine learning applications, and multiple machine learning algorithms can be applied as needed in the modeling phase . Here, actual machine learning algorithms may include supervised/unsupervised learning such as kNN, SVM, random forest, Gaussian naive bayesian and neural networks, and deep learning.
상술한 바와 같은 본 발명의 실시예에 따른 머신 러닝을 위한 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템은 유선 직렬 통신(즉, 유선 시리얼 통신) 또는 무선 블록 통신을 통해 노드 블록 상호 간에 연동될 수 있다.The edge computing system using the artificial intelligence block-type module architecture for machine learning according to the embodiment of the present invention as described above can be interlocked between node blocks through wired serial communication (ie, wired serial communication) or wireless block communication. have.
예를 들면, 유선 시리얼 통신의 경우 유선 직렬 통신 기법을 제공할 수 있는데, 이는 모듈화 블록을 위한 접촉 통신으로 도 11에 도시한 바와 같이 각 유선 블록에 대해 브릭 모양을 설계할 수 있다.For example, in the case of wired serial communication, a wired serial communication technique may be provided, which is a contact communication for a modular block, and a brick shape may be designed for each wired block as shown in FIG. 11 .
여기에서, 논리적 모듈의 경우 물리적으로 라즈베리 파이를 벽돌 모양의 블록에 배치할 수 있고, 이러한 임베디드 라즈베리 파이는 각 모듈 엔터티의 역할이 될 수 있으며, 각 벽돌 모양의 블록에는 4개의 커넥터, 4개의 푸시 버튼 및 1개의 라즈베리 파이가 구비될 수 있다.Here, for logical modules, you can physically place a Raspberry Pi in brick-like blocks, these embedded Raspberry Pis can be the role of each module entity, each brick-like block has 4 connectors, 4 pushes A button and one Raspberry Pi may be provided.
그리고, 유연한 연결을 위한 직렬 포트인 4개의 커넥터는 머신 러닝 데이터를 다른 블록과 통신할 수 있고, 4개의 푸시 버튼은 직렬 연결을 트리거할 수 있는데, 예를 들어, 푸시 버튼이 On이면 직렬 COM 포트가 열리고 그 반대도 마찬가지이다.And, 4 connectors, serial port for flexible connection, can communicate machine learning data with other blocks, 4 push button can trigger serial connection, for example, when the push button is On, serial COM port is opened and vice versa.
또한, 도 12에는 유선 직렬 통신 블록의 예를 나타내는데, 예를 들어, SW3이 On이면 처리 블록은 COM3 포트를 통해 Node1 블록을 연결할 수 있고, SW4가 On이면 처리 블록은 COM4 포트를 통해 Node2 블록을 연결할 수 있다.12 shows an example of a wired serial communication block. For example, when SW3 is On, the processing block can connect the Node1 block through the COM3 port, and when SW4 is On, the processing block connects the Node2 block through the COM4 port. can be connected
한편, 본 발명의 실시예에서는 무선 블록 통신의 경우 모듈화 블록을 위한 비접촉식 통신인 무선 블록 통신 기법을 제공할 수 있는데, 도 13에 도시한 바와 같이 각 무선 블록에 과일 모양을 설계할 수 있고, 무선 블록은 과일 모양의 블록과 접시 모양의 블록으로 구성될 수 있다.On the other hand, in the embodiment of the present invention, in the case of wireless block communication, a wireless block communication technique that is a contactless communication for a modular block can be provided. As shown in FIG. 13, a fruit shape can be designed for each wireless block, Blocks can consist of fruit-shaped blocks and plate-shaped blocks.
여기에서, 과일 모양 블록에는 머신 러닝 모듈 엔터티를 구성하는 라즈베리 PI와 MQTT 연결을 트리거하는 On-Off 푸시 버튼이 구비될 수 있고, 판형 블록은 각 과일 모양 블록의 무게를 측정하여 과일 모양 블록의 연결을 감지하는 로드셀이 있는 처리 블록이며, 각 과일 모양 블록의 무게는 동일하며 판 모양 블록은 새 블록이 연결되어 있는지 또는 기존 블록이 해제되었는지를 알 수 있다.Here, the fruit-shaped block may be equipped with an on-off push button that triggers an MQTT connection with the Raspberry PI constituting the machine learning module entity, and the plate-shaped block measures the weight of each fruit-shaped block to connect the fruit-shaped blocks It is a processing block with load cells that detect the
예를 들어, 판 모양 블록의 가중치가 증가하고 마지막으로 접촉한 블록의 On-Off 푸시 버튼이 On이면 판 모양 블록은 MQTT 데이터의 토픽 메시지를 사용하여 MQTT 그룹화를 연결할 수 있고, 상황이 상반되는 경우 판형 블록은 Off-state 블록의 연결을 해제할 수 있다. 여기에서, 무게가 0이면 판형 블록이 모두 해제될 수 있으며, 도 14에는 MQTT 그룹화 상태의 변경을 설명하는 무선 블록 통신 기법을 예시하고 있다.For example, if the weight of a plate block is increased and the On-Off push button of the last touched block is On, the plate block can link MQTT groupings using topic messages from MQTT data, and the situation is opposite. The planar block can disconnect the off-state block. Here, if the weight is 0, all of the plate-shaped blocks can be released, and FIG. 14 exemplifies a radio block communication technique for explaining the change of the MQTT grouping state.
상술한 바와 같이 본 발명에서는 머신 러닝 알고리즘을 갖춘 블록형 모듈을 생성하는 방법을 제안하고 있는데, 블록 모듈화를 위한 유선 직렬 통신 방법과 무선 블록 통신 방법을 설계할 수 있고, 모바일 엣지 컴퓨팅 응용 프로그램은 수집된 데이터로 머신 러닝 모델을 훈련시킨 다음 지능 서비스를 생성할 수 있다.As described above, the present invention proposes a method for creating a block-type module with a machine learning algorithm. Wired serial communication method and wireless block communication method for block modularization can be designed, and mobile edge computing applications are collected You can train a machine learning model with the collected data and then create an intelligent service.
그러나, 모바일 엣지 컴퓨팅에서 기존의 방법은 모듈화된 알고리즘 사이의 연동 방법 및 통신 방법을 갖지 않기 때문에, 보다 유연한 서비스를 제공하려면 네트워크에서 AI 알고리즘을 분할하고 결합하는 방법을 고려해야 하며, 이에 따라 유무선 모듈화 알고리즘을 위한 머신 러닝 블록을 구축할 수 있으며, 제안된 접근법은 다양한 엣지 컴퓨팅 장치에서 쉽고 간단한 데이터 통신을 수행할 수 있다.However, in mobile edge computing, since the existing method does not have an interworking method and communication method between modular algorithms, in order to provide a more flexible service, a method of segmenting and combining AI algorithms in the network should be considered. It is possible to build a machine learning block for
이상의 설명에서는 본 발명의 다양한 실시예들을 제시하여 설명하였으나 본 발명이 반드시 이에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자라면 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변형 및 변경이 가능함을 쉽게 알 수 있을 것이다.In the above description, various embodiments of the present invention have been presented and described, but the present invention is not necessarily limited thereto. It will be readily appreciated that branch substitutions, transformations and alterations are possible.
110 : 중앙 노드 블록(central node block)
120 : 알고리즘 노드 블록(algorithm node block)
130 : 데이터 노드 블록(data node block)
140 : 엣지 노드 블록(edge node block)
150 : 리프 노드 블록(leaf node block)110: central node block (central node block)
120: algorithm node block (algorithm node block)
130: data node block (data node block)
140: edge node block (edge node block)
150: leaf node block (leaf node block)
Claims (9)
다양한 머신 러닝 알고리즘들을 모듈화하여 블록형태로 구성한 복수의 인공지능 알고리즘 노드를 포함하며, 상기 중앙 노드 블록에 상기 인공지능 알고리즘을 제공하는 알고리즘 노드 블록(algorithm node block)과,
상기 학습 데이터와 학습된 상기 모델을 유선으로 연결된 하드웨어 노드나 무선으로 연결된 복수의 인공지능 서버에 분산 저장하고, 상기 학습 데이터를 이용하여 상기 모델을 실시간 학습시키며, 상기 학습 데이터와 학습된 상기 모델을 상기 중앙 노드 블록에 제공하는 데이터 노드 블록(data node block)과,
상기 엣지 컴퓨터를 포함하며, 상기 프로세싱에 연동된 상기 응용 서비스에 따라 동작되는 엣지 노드 블록(edge node block)과,
상기 복수의 IoT 장치를 포함하며, 상기 프로세싱에 연동된 상기 응용 서비스에 따라 동작되는 리프 노드 블록(leaf node block)
을 포함하는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.
Edge processing node of the block module that includes processing and application services, uses wired or wirelessly connected learning data to train a model, and uses the learned model to connect an edge computer with an artificial intelligence algorithm corresponding to the application service or a central node block that drives a plurality of IoT devices; and
An algorithm node block comprising a plurality of artificial intelligence algorithm nodes configured in a block form by modularizing various machine learning algorithms, and providing the artificial intelligence algorithm to the central node block;
The training data and the learned model are distributed and stored in a hardware node connected by wire or a plurality of artificial intelligence servers connected wirelessly, the model is learned in real time using the training data, and the training data and the learned model are stored in a distributed manner. a data node block provided to the central node block;
An edge node block including the edge computer and operated according to the application service linked to the processing;
A leaf node block including the plurality of IoT devices and operated according to the application service linked to the processing
Edge computing system using artificial intelligence block-type module architecture including
상기 엣지 컴퓨팅 시스템은, 상기 엣지 노드 블록이 다른 프로세싱과 다른 응용 서비스를 포함하는 다른 중앙 노드 블록의 역할을 담당하는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.
The method of claim 1,
The edge computing system is an edge computing system using an artificial intelligence block-type module architecture in which the edge node block serves as another central node block including other processing and other application services.
상기 엣지 컴퓨팅 시스템은, 메타데이터 쿼리 프로토콜을 정의하여 사용하되, 상기 메타데이터 쿼리 프로토콜은 정규화된 메타데이터를 통해 네트워크 통신 프로토콜을 이용하여 노드 블록 상호 간에 통신하는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.
3. The method of claim 2,
The edge computing system defines and uses a metadata query protocol, wherein the metadata query protocol uses a network communication protocol through normalized metadata. Edge computing using an artificial intelligence block-type module architecture that communicates between node blocks. system.
상기 정규화된 메타데이터는, 시맨틱 정보를 나타내는 5W1H(Who, What, Where, When, Why, How)의 컨텍스트 형식에 따라 제공되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.
4. The method of claim 3,
The normalized metadata is an edge computing system using an artificial intelligence block-type module architecture provided according to the context format of 5W1H (Who, What, Where, When, Why, How) representing semantic information.
상기 정규화된 메타데이터는, MQTT(message queuing Telemetry transport), HTTP(hypertext transfer protocol) 및 시리얼 통신 중 적어도 어는 하나의 네트워크 프로토콜 통신을 이용하여 쿼리 형태로 노드 블록 상호 간에 전송되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.
5. The method of claim 4,
The normalized metadata is transmitted between node blocks in the form of a query using at least one network protocol communication of MQTT (message queuing telemetry transport), HTTP (hypertext transfer protocol), and serial communication. Artificial intelligence block-type module architecture edge computing system using
상기 엣지 컴퓨팅 시스템은, 단방향 통신 및 양방향 통신으로 노드 블록 상호 간에 연동되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.
6. The method according to any one of claims 1 to 5,
The edge computing system is an edge computing system using an artificial intelligence block-type module architecture that interworks between node blocks through one-way communication and two-way communication.
상기 단방향 통신은, 입력 노드 및 출력 노드에서 사용되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.
7. The method of claim 6,
The one-way communication is an edge computing system using an artificial intelligence block-type module architecture used in an input node and an output node.
상기 양방향 통신은, 프로세싱 노드 및 데이터 노드에서 사용되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.
8. The method of claim 7,
The bidirectional communication is an edge computing system using an artificial intelligence block-type module architecture used in a processing node and a data node.
상기 엣지 컴퓨팅 시스템은, 유선 시리얼 통신 또는 무선 블록 통신을 통해 노드 블록 상호 간에 연동되는 인공지능 블록형 모듈 아키텍처를 이용한 엣지 컴퓨팅 시스템.9. The method of claim 8,
The edge computing system is an edge computing system using an artificial intelligence block-type module architecture that interworks between node blocks through wired serial communication or wireless block communication.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200077016A KR102467996B1 (en) | 2020-06-24 | 2020-06-24 | Edge computing system using ai block-type module architecture |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200077016A KR102467996B1 (en) | 2020-06-24 | 2020-06-24 | Edge computing system using ai block-type module architecture |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20210158558A true KR20210158558A (en) | 2021-12-31 |
KR102467996B1 KR102467996B1 (en) | 2022-11-16 |
Family
ID=79177632
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020200077016A KR102467996B1 (en) | 2020-06-24 | 2020-06-24 | Edge computing system using ai block-type module architecture |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102467996B1 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114710517A (en) * | 2022-02-21 | 2022-07-05 | 交控科技股份有限公司 | Internet of things data model management system |
WO2024001861A1 (en) * | 2022-06-29 | 2024-01-04 | 华为技术有限公司 | Model training method, apparatus and system, and related device |
KR20240011321A (en) * | 2022-07-19 | 2024-01-26 | 대구대학교 산학협력단 | Coding device for machine learning that can be touched |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102042690B1 (en) | 2018-05-30 | 2019-11-27 | (주)유비벨록스모바일 | Edge-cloud system for auto controlling of IOT devices |
-
2020
- 2020-06-24 KR KR1020200077016A patent/KR102467996B1/en active IP Right Grant
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102042690B1 (en) | 2018-05-30 | 2019-11-27 | (주)유비벨록스모바일 | Edge-cloud system for auto controlling of IOT devices |
Non-Patent Citations (2)
Title |
---|
RENJIE GU et al., Distributed Machine Learning on Mobile Devices: A Survey, arXiv:1909.08329v1, 1-28pages (2019. 9. 18.)* * |
Seong-Hyeon Min et al., 5W1H based resource management model for the expansion of oneM2Mstandard Data Filter rules, Journal of The Korea Society of Computer and Information Vol. 21 No. 9, 85-90pages (* * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114710517A (en) * | 2022-02-21 | 2022-07-05 | 交控科技股份有限公司 | Internet of things data model management system |
WO2024001861A1 (en) * | 2022-06-29 | 2024-01-04 | 华为技术有限公司 | Model training method, apparatus and system, and related device |
KR20240011321A (en) * | 2022-07-19 | 2024-01-26 | 대구대학교 산학협력단 | Coding device for machine learning that can be touched |
Also Published As
Publication number | Publication date |
---|---|
KR102467996B1 (en) | 2022-11-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Jan et al. | Artificial intelligence for industry 4.0: Systematic review of applications, challenges, and opportunities | |
Vermesan et al. | Internet of robotic things intelligent connectivity and platforms | |
KR102467996B1 (en) | Edge computing system using ai block-type module architecture | |
Lan et al. | What is semantic communication? A view on conveying meaning in the era of machine intelligence | |
CN114637262B (en) | Decision control method and system of intelligent factory digital twin information based on 5G drive | |
Sudharsan et al. | Edge2train: A framework to train machine learning models (svms) on resource-constrained iot edge devices | |
Levi et al. | Symbiotic multi-robot organisms: reliability, adaptability, evolution | |
Tsai et al. | Future internet of things: open issues and challenges | |
Curry | Real-time linked dataspaces: Enabling data ecosystems for intelligent systems | |
Ahmetoglu et al. | Deepsym: Deep symbol generation and rule learning for planning from unsupervised robot interaction | |
Alatabani et al. | Deep learning approaches for IoV applications and services | |
US20230385696A1 (en) | Virtual intelligence and optimization through multi-source, real-time, and context-aware real-world data | |
Şahinel et al. | Human modeling and interaction in cyber-physical systems: a reference framework | |
Keerthika et al. | Algorithms of Intelligence: Exploring the World of Machine Learning | |
Rosero-Montalvo et al. | Intelligence in embedded systems: overview and applications | |
Saad et al. | Artificial general intelligence (AGI)-native wireless systems: A journey beyond 6G | |
Abdel-Basset et al. | Deep Learning Techniques for IoT Security and Privacy | |
Shang et al. | [Retracted] Human‐Computer Interaction of Networked Vehicles Based on Big Data and Hybrid Intelligent Algorithm | |
Hu et al. | An overview: Attention mechanisms in multi-agent reinforcement learning | |
Lu et al. | Trajectory learning and reproduction for tracked robot based on Bagging-GMM/HSMM | |
Ren et al. | On-device Online Learning and Semantic Management of TinyML Systems | |
Fu | [Retracted] A Research on the Realization Algorithm of Internet of Things Function for Smart Education | |
Fowdur et al. | Enabling technologies and applications of 5G/6G-Powered Intelligent Connectivity | |
Mulimani et al. | Edge computing in healthcare systems | |
Yitmen et al. | Enabling Technologies for Cognitive Digital Twins Towards Construction 4.0 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |