KR20130041540A - 코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치 - Google Patents

코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치 Download PDF

Info

Publication number
KR20130041540A
KR20130041540A KR1020110105855A KR20110105855A KR20130041540A KR 20130041540 A KR20130041540 A KR 20130041540A KR 1020110105855 A KR1020110105855 A KR 1020110105855A KR 20110105855 A KR20110105855 A KR 20110105855A KR 20130041540 A KR20130041540 A KR 20130041540A
Authority
KR
South Korea
Prior art keywords
coroutine
thread
rpc
pool
idle
Prior art date
Application number
KR1020110105855A
Other languages
English (en)
Other versions
KR101357975B1 (ko
Inventor
이창현
김준현
Original Assignee
엔에이치엔(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엔에이치엔(주) filed Critical 엔에이치엔(주)
Priority to KR1020110105855A priority Critical patent/KR101357975B1/ko
Publication of KR20130041540A publication Critical patent/KR20130041540A/ko
Application granted granted Critical
Publication of KR101357975B1 publication Critical patent/KR101357975B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003—Arrangements for executing specific machine instructions
    • G06F9/30076—Arrangements for executing specific machine instructions to perform miscellaneous control operations, e.g. NOP
    • G06F9/3009—Thread control instructions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/22—Microcontrol or microprogram arrangements
    • G06F9/26—Address formation of the next micro-instruction ; Microprogram storage or retrieval arrangements
    • G06F9/262—Arrangements for next microinstruction selection
    • G06F9/268—Microinstruction selection not based on processing results, e.g. interrupt, patch, first cycle store, diagnostic programs

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하기 위한 방법 및 장치가 제공된다. 원격 프로시저 호출을 처리하기 위해 쓰레드가 사용될 경우, 입력/출력 작업에 의해 쓰레드가 차단될 수 있다. 쓰레드는 메뉴얼하게 컨텍스트 스위칭을 제어하는 코루틴을 사용함으로써 쓰레드 차단을 최소화할 수 있다. 쓰레드 풀 내에 있는 다중 쓰레드들은 재개된 코루틴 작업들을 동시에 처리할 수 있으며, 코루틴 풀을 사용함으로써 코루틴의 생성 및 파괴에 의해 발생하는 부하를 감소시킬 수 있다.

Description

코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치{METHOD AND APPARATUS FOR PROVIDING REMOTE PROCEDURE CALL SERVICE USING COROUTINE}
아래의 실시예들은 코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치에 관한 것이다.
코루틴을 이용하여 원격 프로시저 호출을 처리하는 과정에서 발생하는 쓰레드의 차단을 제거하는 방법 및 장치가 개시된다.
원격 프로시저 호출(Remote Procedure Call; RPC)는 로컬(local) 컴퓨터에서 동작하는 프로그램이, 물리적으로 떨어져있는 원격(remote) 컴퓨터의 프로시저를 마치 로컬 프로시저를 사용하듯이 쉽게 호출할 수 있게하는 기술이다.
RCP 서비스는, RPC 프로시저를 호출하는 RPC 클라이언트(또는, 호출자(caller)) 및 RPC 프로시저를 제공하는 RPC 서버(server)로 구성될 수 있다.
RPC는 1) 메시지에 기반한 클라이언트-서버 간의 통신에 비해 사용하기가 쉽고, 2) 많은 사람들에게 익숙한 함수 형태로 기능들을 구성할 수 있다는 장점들을 가지며, 이러한 장점들로 인해 다양한 네트워크 서비스에서 활용되고 있다.
특히, RPC는, 외부로부터 전달된 요청(즉, 호출)에 대한 처리 및 상기 요청에 대한 응답(예컨대, 특정한 값 또는 객체의 반환)과 같은 처리 로직(logic)을 하나의 함수 단위로 작성할 수 있게하는 코드 연속성(code continuation)을 제공한다. 이러한 코드 연속성은 단순한 코드를 작성할 수 있게하며, 높은 코드 가독성을 제공하고, 유지 보수에 있어서의 편이성을 보장한다.
쓰레드(thread)는 컴퓨터가 작업(task)을 수행하기 위해 사용하는 실행 단위(lines of execution)들 중 하나이다. 한정된 개수의 쓰레드들을 차단(blocking) 없이 효율적으로 사용함으로써 서비스의 동시처리능력(concurrency)를 극대화시키는 것은 대용량 처리에 있어서의 핵심 기술들 중 하나로 볼 수 있다.
멀티쓰레드 시스템의 동시처리능력을 증가시키기 위한 일 예들이 한국공개특허 제10-2003-0056656호(공개일 2003년 7월 4일), 제10-2008-0005523호(공개일 2008년 1월 14일) 등에서 개시되었다.
본 명세서는, 쓰레드 코루틴을 사용하여 쓰레드 차단을 방지함으로써 RPC 서비스의 동시처리능력을 향상시키는 방법 및 상기의 방법을 사용하는 RPC 서버를 개시한다.
본 발명의 일 실시예는 코루틴을 사용하여 쓰레드의 차단을 최소화 함으로써 적은 개수의 쓰레드들을 사용하여 다수의 RPC 요청을 처리하는 방법 및 장치를 제공할 수 있다.
본 발명의 일 실시예는 코루린들을 풀로 관리하고, 코루틴들을 재활용함으로써 동적인 코루틴의 생성 및 파괴에 의해 발생하는 부하를 감소시키는 방법 및 장치를 제공할 수 있다.
본 발명의 일 측에 따르면, 제1 쓰레드가 코루틴을 시작하는 단계, 상기 코루틴이 등록된 원격 프로시저 호출(Remote Procedure Call; RPC) 로직을 실행하는 단계, 상기 코루틴의 코드 중 일드(yield)를 호출하는 지점이 실행됨에 따라 상기 제1 쓰레드가 상기 코루틴의 실행을 중지하는 단계, 제2 쓰레드가 상기 코루틴을 재개하는 단계 - 상기 제2 쓰레드는 상기 일드를 호출하는 지점의 바로 다음 지점을 실행함으로써 상기 코루틴을 재개함 - 를 포함하는, RPC 서비스 제공 방법이 제공된다.
상기 RPC 서비스 제공 방법은, 상기 제1 쓰레드가 코루틴 풀 내의 하나 이상의 유휴 코루틴들 중 상기 코루틴을 선택하는 단계 및 상기 코루틴이 종료한 후 상기 제2 쓰레드가 상기 코루틴을 유휴 코루틴으로서 상기 코루틴 풀에 삽입하는 단계를 더 포함할 수 있다.
상기 RPC 서비스 제공 방법은, RPC 쓰레드 풀 큐에 코루틴 시작 명령을 전달하는 단계, 상기 RPC 쓰레드 풀 내의 하나 이상의 유휴 쓰레드들 중 제1 쓰레드를 선택하는 단계 및 상기 RPC 쓰레드 풀 내의 하나 이상의 유휴 쓰레드들 중 제2 쓰레드를 선택하는 단계를 더 포함할 수 있다.
상기 RPC 서비스 제공 방법은, 상기 제1 쓰레드가 상기 코루틴의 실행을 중지한 후 상기 RPC 쓰레드 풀의 큐 내에 쌓인 작업을 꺼내는 단계 및 상기 제1 쓰레드가 상기 작업을 실행하는 단계를 더 포함할 수 있다.
상기 RPC 쓰레드 풀 큐는 입력 및 출력 작업에 대한 비동기적 처리를 제공할 수 있다.
본 발명의 다른 일 측에 따르면, 적어도 하나의 중앙 처리 장치(Central Processing Unit; CPU)를 포함하고, 상기 CPU는 제1 쓰레드, 제2 쓰레드 및 상기 코루틴를 실행하며, 상기 제1 쓰레드는 상기 코루틴을 시작하고, 상기 코루틴은 등록된 원격 프로시저 호출(Remote Procedure Call; RPC) 로직을 실행하고, 상기 제1 쓰레드는 상기 코루틴의 코드 중 일드(yield)를 호출하는 지점이 실행됨에 따라 상기 코루틴의 실행을 중지하고, 상기 제2 쓰레드는 상기 일드를 호출하는 지점의 바로 다음 지점을 실행함으로써 상기 코루틴을 재개하는, RPC 서버가 제공된다.
상기 CPU는 코루틴 풀을 관리할 수 있고, 상기 제1 쓰레드는 상기 코루틴 풀 내의 하나 이상의 유휴 코루틴들 중 상기 코루틴을 선택할 수 있고, 상기 제2 쓰레드는 상기 코루틴이 종료한 후 상기 코루틴을 유휴 코루틴으로서 상기 코루틴 풀에 삽입할 수 있다.
상기 CPU는 RPC 쓰레드 풀 큐를 관리할 수 있고, 상기 제1 쓰레드는 상기 RPC 쓰레드 풀 내의 하나 이상의 유휴 쓰레드들 중에서 선택될 수 있고, 상기 제2 쓰레드는 상기 RPC 쓰레드 풀 내의 하나 이상의 유휴 쓰레드들 중에서 선택될 수 있다.
상기 제1 쓰레드는 상기 코루틴의 실행을 중지한 후 상기 RPC 쓰레드 풀의 큐 내에 쌓인 작업을 꺼낼 수 있고, 상기 제1 쓰레드는 상기 작업을 실행할 수 있다.
상기 제2 쓰레드는 복수 개일 수 있고, 상기 복수 개의 제2 쓰레드들은 상기 적어도 하나의 CPU에 의해 동시에 처리될 수 있다.
코루틴을 사용하여 쓰레드의 차단을 최소화 함으로써 적은 개수의 쓰레드들을 사용하여 다수의 RPC 요청들을 처리하는 방법 및 장치가 제공된다.
적은 개수의 쓰레드들을 사용하여 컨텍스트 스위칭 횟수를 감소시킴으로써 RPC 요청을 빠르게 처리할 수 있는 방법 및 장치가 제공된다.
코루린들을 풀로 관리하고, 코루틴들을 재활용함으로써 동적인 코루틴의 생성 및 파괴에 의해 발행하는 부하를 감소시키는 방법 및 장치가 제공된다.
고난이도의 프로그래밍 기술인 코루틴을 RPC 함수 내에 내제시킴으로써 상기의 코루틴을 개발자들이 사용하기 쉬운 형태로 제공하는 방법 및 장치가 제공된다.
도 1은 RPC를 사용한 서비스 제공을 설명한다.
도 2는 RPC 처리에 있어서의 쓰레드의 차단 및 상기의 차단으로 인한 서비스의 동시처리능력의 감소를 설명한다.
도 3은 본 발명의 일 예에 따른 코루틴을 설명한다.
도 4는 본 발명의 일 실시예에 따른 RPC 서비스의 제공을 위해 RPC 서버가 제공하는 객체들를 설명한다.
도 5는 본 발명의 일 실시예에 따른 RPC 서비스 제공 방법을 설명한다.
이하에서, 본 발명의 일 실시예를, 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
하기의 실시예에서, RPC 프로시저는 막대사탕 모양으로 표기될 수 있다. RPC 프로시저의 호출은 RPC 프로시저를 나타내는 막대사탕의 둥근 머리에 화살표를 긋는 것으로서 표기될 수 있다.
도 1은 RPC를 사용한 서비스 제공을 설명한다.
도 1에서, RPC 호출자(100)는 인증 서비스를 제공받기 위해 원격에 있는 인증 RPC를 호출한다. 호출된 인증 RPC를 제공하는 RPC 서버(110)는 백-앤드(back-end)에 위치한 인증 서비스(120)에게 인증 요청을 전달한다.
인증 서비스(120)는 상기의 인증 요청에 대하여 인증 결과 응답을 RPC 서버(110)로 전송하고, RPC 서버(110)는 전송된 인증 결과 응답에 따라 인증 RPC 호출에 대한 결과인 인증 RPC 반환(return)을 RPC 호출자(100)에게 전달한다. 즉, RPC 서버(110)는 인증 요청에 대한 응답을 다시 인증 RPC를 호출한 RPC 호출자(100)에게 전달하는 릴레이(relay) 역할을 수행한다.
하기에서, 도 2를 참조하여 RPC 호출 시 발생할 수 있는 쓰레드 차단의 문제를 설명한다.
도 2는 RPC 처리에 있어서의 쓰레드의 차단 및 상기의 차단으로 인한 서비스의 동시처리능력의 감소를 설명한다.
RPC를 처리하는 과정 중 또 다른 서비스에게 특정한 요청을 하고, 상기의 요청에 대한 응답을 수신해야 하는 상황이 발생할 수 있다. 이러한 상황에서, 상기의 RPC를 처리하는 쓰레드는 상기의 서비스로부터의 응답을 대기하는 동안 차단(block)될 수 있으며, 이러한 차단에 의해 서비스의 동시처리능력이 감소될 수 있다.
예컨대, 1) 인증 서비스(120)에서 발생한 문제 또는 2) RPC 서버(110) 및 인증 서비스(120) 간의 네트워크에서 발생한 문제로 인해, 인증 요청에 대한 응답이 지연되는 상황이 발생한다면, RPC 서버(110)의 인증 RPC 처리 쓰레드는 상기의 응답이 올 때까지 실행을 멈춘 채 대기해야만 한다.
한 쓰레드가 차단된다는 것은 그만큼 다른 요청들을 처리할 수 있는 가용 쓰레드의 개수가 감소한다는 것을 의미한다. 가용 쓰레드의 개수의 감소는 RPC 서버(110)의 동시처리능력의 저하라는 결과를 가져올 수 있다.
도 3은 본 발명의 일 예에 따른 코루틴을 설명한다.
RPC 서버(110)는 적어도 하나의 중앙 처리 장치(Central Processing Unit; CPU)(310)를 포함할 수 있다. 중앙 처리 장치(CPU)는 적어도 하나의 쓰레드(320) 중 자신에게 스케쥴(schedule)된 쓰레드(320)를 실행할 수 있다. 쓰레드(320)는 커널 쓰레드일 수 있으며, 커널 스케쥴링(kernel scheduling)에 의해 각 CPU(310)에게 쓰레드(320)가 할당될 수 있다.
각 쓰레드(320)는 적어도 하나의 코루틴(330) 중 하나의 코루틴(330)을 실행할 수 있다.
코루틴은 실행 단위 중 하나이다. 코루틴의 특징 중 하나는 자신의 스택(stack), 지역 변수(local variable) 및 명령 포인터(pointer)를 가질 수 있다는 것이다. 이러한 특징에 있어서 쓰레드 및 코루틴은 상호 유사하다.
반면, 일반적으로 쓰레드가 선점형(preemptive)인 것에 비해, 코루틴은 비-선점형(non-preemptive)이다. 즉, 특정한 코루틴이 CPU의 타임 슬라이스(time slice)를 할당 받아, 상기의 코루틴의 실행 루틴이 실행되면, 상기의 코루틴이 명시적으로 양보하거나 상기의 코루틴의 실행이 완료될 때까지는 다른 실행 루틴이 CPU 타임을 사용할 수 없다. 즉, 컨텍스트 스위칭(context switching)이 발생하지 않는다.
상기의 비-선점형 특징에 기인하여, 개발자는 쓰레드와는 달리 코루틴의 스케쥴링(scheduling)을 코루틴이 실행하는 코드 상에서 명시적으로 정의할 수 있다. 즉, 메뉴얼 스케쥴링(manual scheduling)에 의해 각 쓰레드(320)에게 코루틴이 할당될 수 있다. RPC 서버(110)는 메뉴얼 스케쥴링이 가능한 코루틴 풀 레이어(layer)를 구비할 수 있으며, 코루틴 풀 레이어(layer)는 쓰레드(310) 및 코루틴(320) 간에 관계에 있어서 N:M 모델을 제공할 수 있다.
코루틴에 대한 명령(instruction)은 일드(yield), 일드 브레이크(yield break) 및 재개(resume)를 포함할 수 있다.
1) 일드 명령은 코루틴이 자신의 퀀텀을 모두 사용하지 않은 채 자신의 실행을 중지(suspend)시키는 명령이다.
2) 일드 브레이크 명령은 코루틴이 자신의 실행을 완전히 종료시키는 명령이다.
3) 재개 명령은 중지된 코루틴의 실행을 다시 시작시키는 명령이다.
개발자는 코루틴을 상황에 따라 메뉴얼하게 일드 또는 재개함으로써 RPC 처리 효율을 극대화할 수 있다.
코루틴은 상술된 특징들에 기인하여, 비-중단(non-blocking) 및 코드 연속성(code continuation)을 제공할 수 있다.
함수 단위로 처리 로직이 작성되는 RPC의 특성에 의해, 특정한 상황에서 쓰레드 차단의 문제가 발생할 수 있다. 하기의 실시예에서 코루틴을 사용함으로써 상기의 문제를 해결하는 방법이 제시된다.
도 4는 본 발명의 일 실시예에 따른 RPC 서비스의 제공을 위해 RPC 서버가 제공하는 객체들를 설명한다.
CPU(310)는 입력 및/또는 출력(Input/Output; I/O) 쓰레드 풀(410), RPC 쓰레드 풀 큐(420), RPC 쓰레드 풀(430) 및 코루틴 풀(440)을 관리한다.
I/O 쓰레드 풀(410)는 I/O 이벤트를 처리하는 적어도 하나의 I/O 쓰레드를 관리한다. 여기서, I/O 이벤트는 네트워크를 통해 입력/출력되는 네트워크 I/O 이벤트일 수 있다.
RPC 쓰레드 풀 큐(420)는 RPC 작업(task)들에 대한 큐 삽입(enqueue) 및 큐 삭제(dequeue) 연산을 제공한다. RPC 쓰레드 풀 큐(420)는 I/O 작업에 대한 비동기적 처리를 제공하는 입력/출력 경쟁 포트(Input/Output Completion Port; IOCP) 큐일 수 있다. IOCP는 비동기적 I/O 작업을 지원하면서 적은 개수의 쓰레드들로 최대한의 요청을 처리하기 위해 제공되는 방법일 수 있다.
RPC 쓰레드 풀 큐(430)는 RPC 작업들을 처리하는 적어도 하나의 RPC 쓰레드를 관리한다.
코루틴 풀(440)은 적어도 하나의 코루틴을 관리한다. 코루틴은 RPC 서비스를 제공하기 위한 RPC 스텁(stub) 코루틴일 수 있다. 코루틴 풀(440)은 RPC 스텁 코루틴 풀일 수 있다.
CPU(310)는 I/O 쓰레드, RPC 쓰레드 및 코루틴을 실행할 수 있다. 상기의 실행은 CPU(310)가 I/O 쓰레드의 코드, RPC 쓰레드의 코드 및 코루틴의 코드를 실행하는 것을 의미할 수 있다. CPU(310)가 복수 개인 경우, 복수 개의 CPU들 각각은 자신에게 할당된 I/O 쓰레드, RPC 쓰레드 또는 코루틴을 병렬로 실행할 수 있다.
도 5는 본 발명의 일 실시예에 따른 RPC 서비스 제공 방법을 설명한다.
하기에서 설명될 제1 쓰레드 및 제2 쓰레드는 도 3을 참조하여 전술된 쓰레드(320)일 수 있다. 또한, 코루틴은 도 3을 참조하여 전술된 코루틴(330)일 수 있다.
단계(510)에서, 제1 I/O 이벤트가 발생한다. 제1 I/O 이벤트는 RPC 호출에 의해 발생한 이벤트일 수 있다. 예컨대, 도 1을 참조하여 전술된 RPC 호출자(100)가 RPC 서버(110)가 제공하는 인증 RPC를 호출함에 따라 제1 I/O 이벤트가 발생할 수 있다.
단계(520)에서, 제1 I/O 이벤트를 처리하는 제1 I/O 쓰레드에 의해 RPC 쓰레드 풀 큐(420)에 코루틴 시작(start) 명령이 전달된다.
단계(530)에서, RPC 쓰레드 풀(420) 내의 하나 이상의 유휴 쓰레드들 중 제1 쓰레드가 선택된다.
단계(540)에서, 제1 쓰레드는 코루틴 시작 명령을 실행한다. 즉, 제1 쓰레드는 코루틴을 시작한다.
단계(540)은 하기의 단계들(542, 544 및 546)을 포함할 수 있다.
단계들(542 및 554)에서, 제1 쓰레드는 코루틴 풀(440) 내의 하나 이상의 유휴 코루틴들 중 하나의 코루틴을 선택한다.
단계(542)에서, 제1 쓰레드는 코루틴 풀(440)로부터 하나 이상의 유휴 코루틴들 중 하나의 코루틴을 큐 삭제(dequeue)한다. 단계(544)에서, 상기의 큐 삭제에 의해 코루틴이 반환된다.
단계(544)에서, 제1 쓰레드에 의해 코루틴이 시작한다. 즉, 코루틴이 등록된 RPC 로직을 실행한다.
단계(546)에서, 코루틴이 양보한다. 즉, 코루틴의 코드 중 일드를 호출하는 지점이 실행됨에 따라 제1 쓰레드는 코루틴의 실행을 중지한다. 일드를 호출하는 지점이 실행되기 전, 코루틴은 I/O 작업을 비동기적으로 요청할 수 있다.
또한, 단계(546)가 수행된 후, 1) 제1 쓰레드가 코루틴의 실행을 중지한 후 RPC 쓰레드 풀 큐(420) 내에 쌓인 작업들 중 하나의 작업을 선택하는 단계 및 2) 상기 제1 쓰레드가 상기 선택된 작업을 실행하는 단계가 수행될 수 있다.
단계(560)에서, 제2 I/O 이벤트가 발생한다. 제2 I/O 이벤트는 코루틴이 비동기적으로 요청한 I/O 작업이 완료됨에 따라 발생한 이벤트일 수 있다. 즉, 제2 I/O 이벤트는 코루틴의 재개를 위한 조건이 충족되었음을 알리는 이벤트일 수 있다. 예컨대, 비동기적으로 요청한 I/O 작업은 도 1을 참조하여 전술된 인증 서비스(120)로의 인증 요청일 수 있다. 또한, 제2 I/O 이벤트는 인증 서비스(120)로부터 인증 요청의 응답을 RPC 서버(110)가 수신함에 따라 발생한 이벤트일 수 있다.
단계(570)에서, 제2 I/O 이벤트를 처리하는 제2 I/O 쓰레드에 의해 RPC 쓰레드 풀 큐(420)에 코루틴 재개 명령이 전달된다.
단계(580)에서, RPC 쓰레드 풀(420) 내의 하나 이상의 유휴 쓰레드들 중 제2 쓰레드가 선택된다. 상기의 제2 쓰레드는 단계(530)의 제1 쓰레드와 동일한 쓰레드일 수 있다. 이 경우, 단계(580)은 생략될 수 있다.
단계(590)에서, 제2 쓰레드는 코루틴 재개 명령을 실행한다. 단계(590)는 하기의 단계들(592 및 594)를 포함할 수 있다.
단계(592)에서, 제2 쓰레드에 의해 코루틴이 재개된다. 즉, 제2 쓰레드는 코루틴을 재개한다. 제2 쓰레드는 코루틴의 코드 중 단계(546)에서 일드를 호출하는 지점의 바로 다음 지점을 실행함으로써 코루틴을 재개한다.
단계(594)에서, 코루틴이 종료한다. 예컨대, 코루틴의 코드 중 일드 브레이크를 호출하는 지점 실행됨에 따라 제2 쓰레드는 코루틴의 실행을 종료한다. 코루틴이 종료한 후 제2 쓰레드는 코루틴을 유휴 코루틴으로서 코루틴 풀(440)에 큐 삽입(enqueue)한다. 코루틴은 코루틴 풀(440)에 큐 삽입됨으로써 이후 다른 RPC의 처리에 재활용될 수 있다.
상기의 단계들(510 내지 594)은 복수 개의 CPU(310)들 각각에 의해 병렬로 실행될 수 있다. 예컨대, 재개된 코루틴 작업들은 복수 개의 CPU(310)들에 의해 다중 쓰레드들(즉, 복수 개의 제2 쓰레드들)에 의해 동시에(또는, 병렬로) 처리될 수 있다. 또한, CPU(310)가 복수 개의 코어(core)들을 가진 경우, 상기의 단계들(510 내지 594)은 복수 개의 코어들 각각에 의해 병렬로 실행될 수 있다.
앞서 도 1 내지 도 4를 참조하여 설명된 본 발명의 일 실시예에 따른 기술적 내용들이 본 실시예에도 그대로 적용될 수 있다. 따라서 보다 상세한 설명은 이하 생략하기로 한다.
도 1 내지 도 5를 참조하여 설명된 코루틴을 이용한 메뉴얼 스케쥴링 방법은 RPC 뿐만 아니라, 다른 동시에 발생하는(concurrent) I/O 처리에서도 적용될 수 있다. 예컨대, 쓰레드 풀 기반의 프로액터(proactor) 패턴(pattern)이 단일 쓰레드만 존재하는 코루틴 풀의 형태로 설계될 경우, 쓰레드 차단이 감소될 수 있으며, 적은 개수의 쓰레드들을 사용함으로써 획득되는 컨텍스트 스위칭 횟수의 감소에 의하여 시스템의 성능이 향상될 수 있다.
본 발명의 일 실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
그러므로, 본 발명의 범위는 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.
100: RPC 호출자
110: RPC 서버
120: 인증 서비스
310: 중앙 처리 장치
320: 쓰레드
330: 코루틴
410: I/O 쓰레드 풀
420: RPC 쓰레드 풀 큐
430: RPC 쓰레드 풀
440: 코루틴 풀

Claims (12)

  1. 제1 쓰레드가 코루틴을 시작하는 단계;
    상기 코루틴이 등록된 원격 프로시저 호출(Remote Procedure Call; RPC) 로직을 실행하는 단계;
    상기 코루틴의 코드 중 일드(yield)를 호출하는 지점이 실행됨에 따라 상기 제1 쓰레드가 상기 코루틴의 실행을 중지하는 단계; 및
    제2 쓰레드가 상기 코루틴을 재개하는 단계 - 상기 제2 쓰레드는 상기 일드를 호출하는 지점의 바로 다음 지점을 실행함으로써 상기 코루틴을 재개함 -
    를 포함하는, RPC 서비스 제공 방법.
  2. 제1항에 있어서,
    상기 제1 쓰레드가 코루틴 풀 내의 하나 이상의 유휴 코루틴들 중 상기 코루틴을 선택하는 단계; 및
    상기 코루틴이 종료한 후 상기 제2 쓰레드가 상기 코루틴을 유휴 코루틴으로서 상기 코루틴 풀에 삽입하는 단계
    를 더 포함하는, RPC 서비스 제공 방법.
  3. 제1항에 있어서,
    RPC 쓰레드 풀 큐에 코루틴 시작 명령을 전달하는 단계;
    상기 RPC 쓰레드 풀 내의 하나 이상의 유휴 쓰레드들 중 제1 쓰레드를 선택하는 단계; 및
    상기 RPC 쓰레드 풀 내의 하나 이상의 유휴 쓰레드들 중 제2 쓰레드를 선택하는 단계;
    를 더 포함하는, RPC 서비스 제공 방법.
  4. 제3항에 있어서,
    상기 제1 쓰레드가 상기 코루틴의 실행을 중지한 후 상기 RPC 쓰레드 풀의 큐 내에 쌓인 작업을 꺼내는 단계; 및
    상기 제1 쓰레드가 상기 작업을 실행하는 단계
    를 더 포함하는, RPC 서비스 제공 방법.
  5. 제3항에 있어서,
    상기 RPC 쓰레드 풀 큐는 입력 및 출력 작업에 대한 비동기적 처리를 제공하는, RPC 서비스 제공 방법.
  6. 제1항 내지 제5항 중 어느 한 항의 방법을 수행하는 프로그램을 수록한 컴퓨터 판독 가능 기록 매체.
  7. 적어도 하나의 중앙 처리 장치(Central Processing Unit; CPU)
    를 포함하고,
    상기 CPU는 제1 쓰레드, 제2 쓰레드 및 상기 코루틴를 실행하며,
    상기 제1 쓰레드는 상기 코루틴을 시작하고, 상기 코루틴은 등록된 원격 프로시저 호출(Remote Procedure Call; RPC) 로직을 실행하고, 상기 제1 쓰레드는 상기 코루틴의 코드 중 일드(yield)를 호출하는 지점이 실행됨에 따라 상기 코루틴의 실행을 중지하고, 상기 제2 쓰레드는 상기 일드를 호출하는 지점의 바로 다음 지점을 실행함으로써 상기 코루틴을 재개하는, RPC 서버.
  8. 제7항에 있어서,
    상기 CPU는 코루틴 풀을 관리하고,
    상기 제1 쓰레드는 상기 코루틴 풀 내의 하나 이상의 유휴 코루틴들 중 상기 코루틴을 선택하고, 상기 제2 쓰레드는 상기 코루틴이 종료한 후 상기 코루틴을 유휴 코루틴으로서 상기 코루틴 풀에 삽입하는, RPC 서버.
  9. 제7항에 있어서,
    상기 CPU는 RPC 쓰레드 풀 큐를 관리하고,
    상기 제1 쓰레드는 상기 RPC 쓰레드 풀 내의 하나 이상의 유휴 쓰레드들 중에서 선택되고, 상기 제2 쓰레드는 상기 RPC 쓰레드 풀 내의 하나 이상의 유휴 쓰레드들 중에서 선택되는, RPC 서버.
  10. 제9항에 있어서,
    상기 제1 쓰레드는 상기 코루틴의 실행을 중지한 후 상기 RPC 쓰레드 풀의 큐 내에 쌓인 작업을 꺼내고, 상기 제1 쓰레드는 상기 작업을 실행하는, RPC 서버.
  11. 제9항에 있어서,
    상기 RPC 쓰레드 풀 큐는 입력 및 출력 작업에 대한 비동기적 처리를 제공하는, RPC 서버.
  12. 제7항에 있어서,
    상기 제2 쓰레드는 복수 개이며,
    상기 복수 개의 제2 쓰레드들은 상기 적어도 하나의 CPU에 의해 동시에 처리되는, RPC 서버.
KR1020110105855A 2011-10-17 2011-10-17 코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치 KR101357975B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020110105855A KR101357975B1 (ko) 2011-10-17 2011-10-17 코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110105855A KR101357975B1 (ko) 2011-10-17 2011-10-17 코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20130041540A true KR20130041540A (ko) 2013-04-25
KR101357975B1 KR101357975B1 (ko) 2014-02-03

Family

ID=48440675

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110105855A KR101357975B1 (ko) 2011-10-17 2011-10-17 코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치

Country Status (1)

Country Link
KR (1) KR101357975B1 (ko)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160080487A (ko) 2014-12-29 2016-07-08 서강대학교산학협력단 디바이스간 원격 프로시저 호출 방법
CN106980546A (zh) * 2016-01-18 2017-07-25 阿里巴巴集团控股有限公司 一种任务异步执行方法、装置及系统
CN108958951A (zh) * 2018-06-08 2018-12-07 武汉斗鱼网络科技有限公司 一种优化方法、计算机设备和存储介质
CN109257411A (zh) * 2018-07-31 2019-01-22 平安科技（深圳）有限公司 一种业务处理方法、调用管理系统和计算机设备
CN110445669A (zh) * 2019-06-26 2019-11-12 苏州浪潮智能科技有限公司 一种基于协程的服务器的监控方法、设备及可读介质
KR102051302B1 (ko) * 2018-06-22 2019-12-03 주식회사 티맥스 소프트 서비스 처리 방법
CN113608843A (zh) * 2021-07-08 2021-11-05 广东开放大学（广东理工职业学院） 协程实现方法和系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU3300499A (en) * 1998-02-26 1999-09-15 Sun Microsystems, Inc. Method and apparatus for the suspension and continuation of remote processes
US6421701B1 (en) * 1999-01-29 2002-07-16 International Business Machines Corporation Method and system for replication support in a remote method invocation system

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160080487A (ko) 2014-12-29 2016-07-08 서강대학교산학협력단 디바이스간 원격 프로시저 호출 방법
CN106980546A (zh) * 2016-01-18 2017-07-25 阿里巴巴集团控股有限公司 一种任务异步执行方法、装置及系统
CN106980546B (zh) * 2016-01-18 2021-08-27 阿里巴巴集团控股有限公司 一种任务异步执行方法、装置及系统
CN108958951A (zh) * 2018-06-08 2018-12-07 武汉斗鱼网络科技有限公司 一种优化方法、计算机设备和存储介质
CN108958951B (zh) * 2018-06-08 2021-05-28 武汉斗鱼网络科技有限公司 一种优化方法、计算机设备和存储介质
KR102051302B1 (ko) * 2018-06-22 2019-12-03 주식회사 티맥스 소프트 서비스 처리 방법
CN109257411A (zh) * 2018-07-31 2019-01-22 平安科技（深圳）有限公司 一种业务处理方法、调用管理系统和计算机设备
CN110445669A (zh) * 2019-06-26 2019-11-12 苏州浪潮智能科技有限公司 一种基于协程的服务器的监控方法、设备及可读介质
CN113608843A (zh) * 2021-07-08 2021-11-05 广东开放大学（广东理工职业学院） 协程实现方法和系统
CN113608843B (zh) * 2021-07-08 2023-08-25 广东开放大学（广东理工职业学院） 协程实现方法和系统

Also Published As

Publication number Publication date
KR101357975B1 (ko) 2014-02-03

Similar Documents

Publication Publication Date Title
KR101357975B1 (ko) 코루틴을 이용하여 원격 프로시저 호출 서비스를 제공하는 방법 및 장치
CN108595282A (zh) 一种高并发消息队列的实现方法
US9448864B2 (en) Method and apparatus for processing message between processors
CN102541659B (zh) 一种服务器业务请求处理方法和装置
CN100578459C (zh) 线程调度方法及其装置
US7793299B2 (en) System and method for scheduling tasks for execution
JP2561801B2 (ja) プロセス・スケジューリングの管理方法およびシステム
CN103365718A (zh) 一种线程调度方法、线程调度装置及多核处理器系统
CN109660569B (zh) 一种多任务并发执行方法、存储介质、设备及系统
US20120284720A1 (en) Hardware assisted scheduling in computer system
CN110795254A (zh) 一种基于php处理高并发io的方法
CN103064657A (zh) 单个处理器上实现多应用并行处理的方法及装置
WO2013091219A1 (zh) 并发任务的处理方法及装置
JP2007148746A (ja) ヘテロマルチプロセッサシステムおよびそのｏｓ構成方法
KR20150114444A (ko) 실시간 운영 체제에서 스택 메모리 관리를 제공하는 방법 및 시스템
CN107346263A (zh) 任务执行方法、存储介质以及计算机设备
CN111651865B (zh) 一种并行离散事件的事件集中发射式仿真执行方法及系统
CN111651864A (zh) 一种事件集中发射式多异构时间队列优化仿真执行方法及系统
JP2012073690A (ja) ジョブスケジューリングプログラム，方法，および装置
EP1693743A2 (en) System, method and medium for using and/or providing operating system information to acquire a hybrid user/operating system lock
CN111400015A (zh) 一种任务调度方法及装置
CN101266556A (zh) 一种多任务调度系统
US20080313652A1 (en) Notifying user mode scheduler of blocking events
CN101349975B (zh) 一种在嵌入式操作系统上实现中断底半部机制的方法及装置
JP2008225641A (ja) コンピュータシステム、割り込み制御方法及びプログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
N231 Notification of change of applicant
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20161227

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20181226

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20200102

Year of fee payment: 7