KR102403379B1 - 다중 gpu간 데이터 공유 방법 - Google Patents

Abstract

다중 GPU간 데이터 공유 방법에서, 임의의 디바이스에서 자료 송신 수요가 발생하고 나머지 모든 디바이스가 수신해야 하는 상황에서 기존에는 이러한 형태의 자료 수급 수요가 발생되지 않도록 알고리즘을 구성하나, 나머지 디바이스의 수효에 해당하는 회수의 자료 전송을 수행하는 방법으로 프로그래밍 한다.

Description

다중 GPU간 데이터 공유 방법{DATA SHARING METHOD BETWEEN MULTI-GPUS}

본 발명은 다수의 피시아이익스프레스 기반의 지피유가 장착된 컴퓨터에서 다중의 지피유간 데이터를 공유하는 방법으로 상세하게는 다수의 지피유가 장착된 컴퓨터에서 지피유를 포함한 모든 디바이스들이 피시아이익스프레스 구조로 연결되어 있고 피시아이익스프레스 구조는 일대일 통신만 지원되는데, 이더넷의 유용한 일대다 통신의 모사기능을 최적의 성능으로 구현하여 각 디바이스 간에 데이터를 유통하는데 효율적인 다중 GPU간 데이터 공유 방법에 관한 것이다.

피시아이익스프레스 버스는 일반적인 병렬접속 개념의 버스 시스템이 아니라 전형적인 버스 구조인 피시아이버스를 고속의 직렬접속을 단독 또는 다수 병합된 형태로 재구성한 이더넷과 같은 형태인 일대일 직렬접속 시스템이다. 전형적인 버스시스템에서는 버스에 접속된 모든 디바이스가 한 디바이스에서는 발신하고 모든 디바이스는 수신하는 형태로 구성되어 있다. 수신을 하는 해당 디바이스는 디바이스 지정자 혹은 디바이스 지정자가 해당 디바이스를 지정하는 경우 수신정보를 수용하는 형태로 운영되는데 피시아이익스프레스 버스의 경우는 일반적인 직렬통신의 방법인 접속된 대응 디바이스에 정보를 일대일로 송신하는 방식으로 구성되어있다. 이더넷의 경우는 접속을 중계하는 스위치가 다중수신이 가능하도록 하는 기능이 구현되어 있어 접속된 모든 디바이스가 동시에 특정 디바이스에서 발송된 정보를 수신할 수 있으나 피시아이익스프레스 버스는 이러한 다중수신 기능이 구비되어 있지 아니하다. 그러한 이유로 계산처리를 해야 하는 지피유는 분산처리연산 과정에서 흔히 요구되는 다중수신의 기능이 없어 정보 수신의 지연에 따른 시스템 전체의 성능이 저하되는 현상이 나타난다.

피시아이익스프레스 버스에서는 다중수신의 기능이 없어 브로드캐스팅 방법으로 자료를 전달하여야 하는 요구에 대한 대응 방법이 없다. 이로서 심각한 성능 저하의 현상이 나타나 한 대의 컴퓨터에 다수의 지피유를 장착하는 방식이 배척되고 있다.

또한 일반적으로 디바이스 간에 자료를 전송할 때 자료의 전송을 준비하는 단계로 이해할 수 있는 초기지연(Latency)의 문제가 있는데 피시아이익스프레스 버스의 경우 전송속도가 매우 높은데 비하여 초기지연이 상대적으로 길어 성능을 저하하는 요소가 된다.

이에 본 발명은 상기 문제를 해결하기 위한 다중 GPU간 데이터 공유 방법에 관한 것이다.

한 대의 컴퓨터에 많은 지피유를 장착할수록 성능 대비 비용의 효율이 높아지는데, 피시아이익스프레스 버스로 다수의 지피유가 장착된 컴퓨터에서 각각의 지피유에 분산처리연산을 해야 하는 프로그램의 경우, 동시에 다수의 지피유에서 참조해야 할 자료가 있는 경우, 자료의 전달 기전이 부적절할 경우에는 정보 수신 지연에 따른 시스템 전체 성능에 상당한 저하가 발생한다. 또한 자료의 전달 방법에 따라 피시아이익스프레스 버스의 성능을 최대로 활용할 수 있는 반면, 제 성능을 나타내지 않을 수도 있다.

본 발명은, 각 지피유 간의 데이터를 유통하기 위한 유사 다중수신 기능의 방법론과 이에서 요구될 수 있는 최적의 변수 구조 방법론을 제공한다. 초기지연이 상대적으로 긴 피시아이익스프레스 버스에서 변수 구조 방법론은 변수 단일화 과정으로 매크로함수를 사용하여 각 단일 변수들을 하나의 배열 변수로, 다양한 배열 변수를 하나의 배열 변수로 단일화하는 과정을 포함한다.

본 발명은 또한 다수의 지피유 간의 다중 수신 기능을 실행하기 위해 순차적인 자료 전달방식을 적용하여 최소의 자료전달 횟수로 모든 디바이스가 자료를 전달받게 하는 알고리즘적 방법을 고안한다.

다중수신 기능이 구현된 이더넷과 같은 일반적인 직렬통신에 비해서는 다소 많은 시간이 소요되나 피시아이익스프레스 통신에서 일대일로 다수의 디바이스에 자료를 발송하는 기존의 방법에 비해서는 50~90 퍼센트 개선된 성능을 구현 할 수 있다.

도 1은 한 개의 상위 디바이스와 다수의 하위 디바이스가 있는 구조로 일반적인 구조이다.
도 2는 하나의 스위치를 구성하여 한 개의 디바이스가 나머지 하위 디바이스에 정보를 전달하는 개선된 구조이다.
도 3은 다중분기 스위치를 구성하여 다수의 디바이스를 장착할 수 있게 한 개선된 최신의 구조이다.
도 4는 피시아이익스프레스 버스의 초기 지연을 최소화하여 자료를 전송하는 흐름도이다.

임의의 디바이스에서 자료 송신 수요가 발생하고 나머지 모든 디바이스가 수신해야 하는 상황에서 기존에는 이러한 형태의 자료 수급 수요가 발생되지 않도록 알고리즘을 구성하나, 자료를 송신하는 디바이스를 제외한 나머지 디바이스의 수효에 해당하는 회수의 자료 전송을 수행하는 방법으로 프로그래밍 한다.

초기 지연이 상대적으로 긴 피시아이익스프레스 버스에서 빈번한 자료 전송은 초기 지연을 자주 발생시키고 이는 성능 저하의 요인이 된다. 자료 전송을 위해 여러 개의 단일 혹은 배열 변수들을 매크로 함수를 사용하여 하나의 배열 변수로 재구성하고 송신부에서는 자료 압축 단계를 거쳐 전송 성능을 극대화한다. 수신부에서는 자료 압축 해제 단계를 거쳐 수신한 자료를 활용하는 방법으로 피시아이익스프레스 버스에서의 성능을 최대로 높인다.

Claims (3)

1. 한 개의 상위 디바이스와 다수의 하위 디바이스가 있는 구조에서 데이터를 공유함에 있어,
   상위 디바이스에서 하위 디바이스로 자료를 전송하는 경우, 첫 단계에서는 상위 디바이스인 시피유에서 하위 디바이스 중 첫 번째인 지피유로 자료를 전송하고,
   제 2 단계에서는 시피유에서 2번 지피유로, 1번 지피유는 3번 지피유로 자료를 전송하고,
   제 3 단계에서는 시피유에서 4번 지피유로, 1번 지피유는 5번 지피유로, 2번 지피유는 6번 지피유로, 3번 지피유는 7번 지피유로 자료를 전송하고,
   제 4 단계에서는 시피유에서 8번 지피유로, 1번 지피유는 9번 지피유로, 2번 지피유는 10번 지피유로, 3번 지피유는 11번 지피유로, 4번 지피유는 12번 지피유로, 5번 지피유는 13번 지피유로, 6번 지피유는 14번 지피유로, 7번 지피유는 15번 지피유로 자료를 전송하고,
   제 5 단계에서는 시피유에서 16번 지피유로 자료를 전송하고,
   하위 디바이스끼리의 자료를 전송하는 경우에는 한 개의 하위 디바이스가 나머지 하위 디바이스에 자료를 전송하기 위해, 첫 단계에서는 하위 디바이스 중 첫 번째인 지피유에서 두 번째 지피유로 자료를 전송하고,
   제 2 단계에서는 1번 지피유에서 3번 지피유로, 2번 지피유는 4번 지피유로 자료를 전송하고,
   제 3 단계에서는 1번 지피유에서 5번 지피유로, 2번 지피유는 6번 지피유로, 3번 지피유에서 7번 지피유로, 4번 지피유는 8번 지피유로 자료를 전송하고,
   제 4 단계에서는 1번 지피유에서 9번 지피유로, 2번 지피유는 10번 지피유로, 3번 지피유에서 11번 지피유로, 4번 지피유는 12번 지피유로, 5번 지피유에서 13번 지피유로, 6번 지피유는 14번 지피유로, 7번 지피유에서 15번 지피유로, 8번 지피유는 16번 지피유로 자료를 전송하는 것을 특징으로 하는, 다중 GPU간 데이터 공유 방법.
2. 병목 구간이 존재하는 다수의 스위치로 구성된 피시아이익스프레스 시스템에서 각 지피유 간의 데이터를 공유함에 있어, 첫 단계에서는 상위 디바이스인 시피유에서 하위 디바이스 중 첫 번째인 지피유로 자료를 전송하고,
   제 2 단계에서는 시피유에서 9번 지피유로, 1번 지피유는 5번 지피유로 자료를 전송하고,
   제 3 단계에서는 시피유에서 13번 지피유로, 하위 디바이스 중 같은 스위치 내에 존재하는 지피유끼리 1번 지피유는 2번 지피유로, 5번 지피유는 6번 지피유로, 9번 지피유는 10번 지피유로 자료를 전송하고,
   제 4 단계에서는 시피유에서 15번 지피유로, 하위 디바이스 중 같은 스위치 내에 존재하는 지피유끼리 1번 지피유는 3번 지피유로, 2번 지피유는 4번 지피유로, 5번 지피유는 7번 지피유로, 6번 지피유는 8번 지피유로, 9번 지피유는 11번 지피유로, 10번 지피유는 12번 지피유로, 13번 지피유는 14번 지피유로 자료를 전송하고,
   제 5 단계에서는 시피유에서 16번 지피유로 자료를 전송하는 것을 특징으로 하는, 다중 GPU간 데이터 공유 방법.
3. 제 2항에 있어서,
   자료를 송신하기 전과 수신한 후에,
   매크로 함수를 이용한 자료 구조화, 배열변수 단일화 단계와 자료의 압축과 압축 해제 단계를 포함하는 것을 특징으로 하는 다중 GPU간 데이터 공유 방법.

Images