KR102299135B1 - 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치 - Google Patents

딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치 Download PDF

Info

Publication number
KR102299135B1
KR102299135B1 KR1020190085323A KR20190085323A KR102299135B1 KR 102299135 B1 KR102299135 B1 KR 102299135B1 KR 1020190085323 A KR1020190085323 A KR 1020190085323A KR 20190085323 A KR20190085323 A KR 20190085323A KR 102299135 B1 KR102299135 B1 KR 102299135B1
Authority
KR
South Korea
Prior art keywords
value
situation
information
determination
model
Prior art date
Application number
KR1020190085323A
Other languages
English (en)
Other versions
KR20210008752A (ko
Inventor
김지성
김세호
박정훈
Original Assignee
엔에이치엔 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엔에이치엔 주식회사 filed Critical 엔에이치엔 주식회사
Priority to KR1020190085323A priority Critical patent/KR102299135B1/ko
Publication of KR20210008752A publication Critical patent/KR20210008752A/ko
Application granted granted Critical
Publication of KR102299135B1 publication Critical patent/KR102299135B1/ko

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/80Special adaptations for executing a specific game genre or game mode
    • A63F13/822Strategy games; Role-playing games
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/45Controlling the progress of the video game
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F3/00Board games; Raffle games
    • A63F3/02Chess; Similar board games
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 복수의 기보, 선결 착수점, 이동확률 값 및 가치값을 수신하는 통신부; 형세 판단 모델 및 헛수 판단부를 저장하는 저장부; 및 상기 형세 판단 모델을 독출하여 상기 형세 판단 모델의 학습을 수행하고 상기 학습된 형세 판단 모델을 이용하여 상기 선결 착수점이 적용된 바둑판의 형세를 판단하며, 상기 판단된 형세를 기반으로 상기 선결 착수점에 대한 헛수 여부를 판단한 정보인 헛수 판단정보를 생성하는 프로세서;를 포함하고, 상기 형세 판단 모델은, 입력된 바둑판 상태에서 입력 특징을 추출하는 입력 특징 추출부; 및 상기 추출된 입력 특징을 기초하여 상기 입력된 바둑판 상태의 교차점에 대한 형세값을 생성하는 형세 판단 신경망;을 포함하고, 상기 헛수 판단부는, 상기 선결 착수점과 상기 형세값들을 합하여 형세판단 값을 생성하고, 상기 형세판단 값, 상기 이동확률 값 및 상기 가치값 중 적어도 하나를 기반으로 상기 헛수 판단정보를 생성하는 형세판단 모델 서버이다.

Description

딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치{METHOD AND DEVICE THAT PROVIDING DEEP-RUNNING-BASED BADUK GAME SERVICE}
본 발명은 딥러닝을 기초로 바둑 게임 서비스를 제공하는 방법 및 장치에 관한 것이다. 보다 상세하게는, 딥러닝 신경망을 기반으로 바둑 형세를 판단하고 바둑룰의 차이에 의한 헛수를 회피하는 바둑 게임 서비스 제공 방법 및 장치에 관한 것이다.
스마트폰, 태블릿 PC, PDA(Personal Digital Assistant), 노트북 등과 같은 사용자 단말의 이용이 대중화되고 정보 처리 기술이 발달함에 따라 사용자 단말을 이용하여 보드 게임의 일종인 바둑을 할 수 있게 되었고 나아가 사람이 아닌 프로그램된 인공지능 컴퓨터와 바둑 대국을 할 수 있게 되었다.
바둑은 다른 보드게임인 체스나 장기와 비교하였을 때 경우의 수가 많아서 인공지능 컴퓨터가 사람 수준으로 대국을 하는데 한계가 있었고 인공지능 컴퓨터의 기력을 높이기 위한 연구가 활발하게 진행되고 있는 추세이다. 최근 개발자들은 인공지능 컴퓨터에 몬테 카를로 트리 서치(Monte Carlo Tree Search; MCTS) 알고리즘과 딥러닝 기술을 적용하여 인공지능 컴퓨터의 기력을 프로기사들의 수준 이상으로 올렸다.
다만, 바둑은 대국 시의 계가(計家)법에 따라 다양한 룰(rule)이 존재하다는 특이점이 있다. 자세히, 바둑의 계가법은 크게 중국룰(대만룰)과 한국룰(일본룰)로 나뉜다. 보다 상세히, 먼저 한국룰은 공배를 인정하여 공배에 해당하는 위치의 바둑돌은 집으로 계가되지 않는다. 반면 중국룰에는 공배라는 개념이 없으며 공배의 위치에 바둑돌을 착수하면 한 집의 가치를 지닌다. 그러므로 중국룰에서는, 끝까지 공배의 위치를 메꾼 후 이를 반영하여 계가하게 된다. 또한, 한국룰은 내 집의 내 바둑돌은 점수로 인정되지 않는 반면에 중국룰은 내 집의 내 바둑돌은 점수로 인정되어 계가 시 반영된다. 또한, 한국룰은 사석(따낸 돌)으로 상대 집을 메우며 계가하는 반면 중국룰에서 사석은 계가에 영향을 미치지 않는다. 또한, 한국룰은 계가 점수가 정수로 산출되기 때문에 무승부를 없애기 위해 덤에 반 집을 사용한다. 그러나 중국룰은 지분점으로 인하여 늘 반 집 계산으로 계가 점수가 산출된다. 또한, 한국룰은 종국 후 서로 상대방의 집을 비교하여 계가하나 중국룰은 어느 쪽에서 계가하여도 결과가 같기 때문에 한 쪽에서만 계가하여 승부를 판단한다.
일반적으로 바둑 AI 프로그램은, 중국룰을 기반으로 학습되는 추세이다. 그러나, 위와 같이 중국룰과 한국룰은 계가법에 상당한 차이가 있으므로 중국룰로 학습된 바둑 AI 프로그램에 한국룰을 적용하여 플레이 시, 헛수가 발생될 수 있는 문제가 있다. 예를 들어, 중국룰로 학습된 바둑 AI 프로그램은 한국룰에서 헛수에 해당하는 자기 집을 메우는 수, 상대 집을 메우는 수 또는 1선에 두는 수 등과 같은 수를 두려는 경향이 있다. 그러므로 이러한 문제를 해결하기 위한 기술의 도입이 필요한 실정이다.
특허문헌 1: 공개특허공보 제10-2015-0129265호
본 발명은 전술한 문제점을 해결하기 위하여 안출된 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치에 관한 것이다. 보다 상세하게는, 딥러닝 신경망을 기반으로 바둑 형세를 판단하고 바둑룰의 차이에 의한 헛수를 회피하는 바둑 게임 서비스 제공 방법 및 장치를 제안하고자 한다.
자세히, 본 발명은 바둑 규칙에 따른 집, 사석, 돌, 공배, 빅의 예측을 기반으로 바둑의 형세를 판단해 바둑룰 차이에 따른 헛수를 예측하고 이에 대한 착수를 방지하는 딥러닝 기반의 바둑 게임 서비스 제공 방법 및 장치를 그 목적으로 한다.
또한, 본 발명은 딥러닝에 기반한 바둑의 형세 판단을 통해 헛수가 감지된 경우 이에 적합한 대응수를 도출하여 유의미한 착수를 구현하는 바둑 게임 서비스 제공 방법 및 장치를 제공하고자 한다.
다만, 본 발명 및 본 발명의 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 복수의 기보, 선결 착수점, 이동확률 값 및 가치값을 수신하는 통신부; 형세 판단 모델 및 헛수 판단부를 저장하는 저장부; 및 상기 형세 판단 모델을 독출하여 상기 형세 판단 모델의 학습을 수행하고 상기 학습된 형세 판단 모델을 이용하여 상기 선결 착수점이 적용된 바둑판의 형세를 판단하며, 상기 판단된 형세를 기반으로 상기 선결 착수점에 대한 헛수 여부를 판단한 정보인 헛수 판단정보를 생성하는 프로세서;를 포함하고, 상기 형세 판단 모델은,입력된 바둑판 상태에서 입력 특징을 추출하는 입력 특징 추출부; 및 상기 추출된 입력 특징을 기초하여 상기 입력된 바둑판 상태의 교차점에 대한 형세값을 생성하는 형세 판단 신경망;을 포함하고, 상기 헛수 판단부는, 상기 선결 착수점과 상기 형세값들을 합하여 형세판단 값을 생성하고, 상기 형세판단 값, 상기 이동확률 값 및 상기 가치값 중 적어도 하나를 기반으로 상기 헛수 판단정보를 생성한다.
이때, 상기 헛수 판단부는, 상기 형세판단 값이 형세판단 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 형세판단 값이 상기 형세판단 임계치 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 이동확률 값이 이동확률 임계치를 초과하면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 이동확률 값이 상기 이동확률 임계치 초과하지 않으면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 가치값이 가치 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 가치값이 상기 가치 임계치 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성한다.
한편, 본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 복수의 기보를 수신하는 통신부; 착수 모델을 저장하는 저장부; 및 상기 착수 모델을 독출하여 상기 착수 모델의 학습을 수행하고 상기 학습된 착수 모델을 이용하여 바둑판 상태에 기반한 선결 착수점을 생성하며, 생성된 상기 선결 착수점에 대한 이동확률 값 및 가치값 중 적어도 하나를 도출하는 프로세서를 포함하고, 상기 착수 모델은, 몬테 카를로 트리 서치(Monte Carlo Tree Search; MCTS)를 기반으로 상기 선결 착수점을 제공하는 탐색부; 와, 상기 탐색부를 가이드하는 착수 신경망; 및 헛수 판단정보를 입력 데이터로 획득하는 착수 결정부;를 포함하고, 상기 착수 결정부는, 상기 헛수 판단정보를 기반으로, 상기 탐색부가 후행 선결 착수점을 도출하게 하거나, 상기 선결 착수점에 대한 착수를 수행 또는 패스(pass)하도록 결정한다.
이때, 상기 통신부는, 공배 정보를 포함한 형세 판단 정보를 획득하고, 상기 탐색부는, 상기 착수 결정부의 요청에 따른 상기 후행 선결 착수점을 도출할 수 없다면, 상기 공배 정보에 기반하여 공배의 위치로 상기 후행 선결 착수점을 결정한다.
또한, 본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 통신부, 형세 판단 모델 및 헛수 판단부가 저장된 저장부, 상기 형세 판단 모델 및 상기 헛수 판단부를 구동하는 프로세서를 포함하는 형세판단 모델 서버에 의해 바둑판 상태의 형세를 판단하여 바둑룰 차이에 따른 헛수를 회피하는 딥러닝 기반의 바둑 게임 서비스 방법에 있어서, 상기 통신부가 착수 모델 서버로부터 선결 착수점, 이동확률 값 및 가치값 중 적어도 하나의 정보를 포함하는 선결 착수정보를 획득하는 단계; 상기 형세 판단 모델이 상기 선결 착수점이 적용된 바둑판 상태의 형세를 판단하는 단계; 상기 형세 판단 모델이 상기 판단된 형세를 기반으로 형세판단 값을 생성하는 단계; 및 상기 헛수 판단부가 상기 형세판단 값, 이동확률 값 및 가치값 중 적어도 하나를 기반으로 헛수 판단정보를 생성하는 단계를 포함하고, 상기 헛수 판단정보는, 상기 선결 착수점이 적용된 바둑판 상태에 대한 형세 판단을 기반으로 상기 선결 착수점이 헛수인지 여부를 판단한 정보이다.
이때, 상기 판단된 형세를 기반으로 형세판단 값을 생성하는 단계는, 상기 판단된 형세를 기초로 상기 바둑판의 모든 교차점에 대한 형세값을 획득하고, 상기 획득된 형세값을 기초로 상기 형세판단 값을 생성하는 단계를 포함한다.
또한, 상기 헛수 판단부는, 상기 형세판단 값이 형세판단 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 형세판단 값이 상기 형세판단 임계치를 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 이동확률 값이 이동확률 임계치를 초과하면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 이동확률 값이 상기 이동확률 임계치를 초과하지 않으면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 가치값이 가치 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 가치값이 상기 가치 임계치를 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성한다.
또한, 상기 형세 판단 모델이 상기 바둑판 상태에 대한 공배유무를 판단하는 단계를 더 포함하고, 상기 공배유무를 판단하는 단계는, 상기 판단된 공배유무에 기초하여 공배의 유무 및 위치 정보를 포함하는 공배 정보를 생성하여 상기 착수 모델 서버로 송신하는 단계를 포함한다.
또한, 상기 공배 정보를 생성하여 상기 착수 모델 서버로 송신하는 단계는, 상기 공배 정보를 기반으로 상기 착수 모델 서버가 후행 선결 착수점에 대한 도출을 제어하게 하는 단계를 포함한다.
한편, 본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 통신부, 착수 결정부를 포함하는 착수 모델이 저장된 저장부, 상기 착수 모델을 구동하는 프로세서를 포함하는 착수 모델 서버에서 헛수 판단정보에 기초하여 착수 여부를 결정함으로써 바둑룰 차이에 따른 헛수를 회피하는 딥러닝 기반의 바둑 게임 서비스 방법에 있어서, 상기 착수 모델의 탐색부가 선결 착수정보를 생성하는 단계; 상기 통신부가 상기 선결 착수정보를 형세판단 모델 서버로 송신하는 단계; 상기 통신부가 상기 형세판단 모델 서버로부터 상기 선결 착수정보에 기반한 헛수 판단정보를 획득하는 단계; 및 상기 착수 결정부가 상기 헛수 판단정보를 기반으로 상기 착수 모델 서버가 상기 선결 착수정보가 포함하는 선결 착수점에 대한 착수를 수행 또는 패스(pass)하거나, 상기 착수 모델을 이용하여 후행 선결 착수점을 도출하도록 제어하는 단계를 포함한다.
본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 바둑 규칙에 따른 집, 사석, 돌, 공배, 빅을 정확히 구분하여 바둑의 형세를 예측함으로써 바둑룰 차이에 따른 헛수를 정확하게 판단할 수 있다.
또한, 본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 바둑룰 차이에 따른 헛수를 판단하고 이에 대한 착수를 방지함으로써, 다른 바둑룰을 적용한 바둑 대국의 수행 시의 착수 기력을 향상시킬 수 있다.
또한, 본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 바둑룰 차이에 따른 헛수를 방지하고 이에 대한 대응수를 도출하여 유의미한 착수를 구현함으로써, 다른 바둑룰의 기준에 보다 부합하는 경기 진행을 도모할 수 있다.
다만, 본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 명확하게 이해될 수 있다.
도 1은 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 시스템에 대한 예시도이다.
도 2는 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스에서 인공지능 컴퓨터의 착수를 위한 착수 모델 서버의 착수 모델 구조를 설명하기 위한 도면이다.
도 3은 착수 모델의 정책에 따른 착수점에 대한 이동 확률 분포를 설명하기 위한 도면이다.
도 4는 착수 모델의 착수점에 대한 가치값과 방문 횟수를 설명하기 위한 도면이다.
도 5는 착수 모델이 탐색부의 파이프 라인에 따라 착수하는 과정을 설명하기 위한 도면이다.
도 6은 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스의 형세 판단 기능을 제공하는 화면을 보여 주는 예시도이다.
도 7은 본 발명의 형세판단 모델 서버의 형세 판단 모델 구조를 설명하기 위한 도면이다.
도 8은 본 발명의 형세 판단 모델의 복수의 블록으로 이루어진 신경망 구조 중 하나의 블록을 설명하기 위한 도면이다.
도 9는 본 발명의 형세 판단 모델을 학습하기 위해 사용되는 정답 레이블을 생성하기 위한 제1 및 제2 전처리 단계를 설명하기 위한 도면이다.
도 10은 본 발명의 형세 판단 모델을 학습하기 위해 사용되는 정답 레이블을 생성하기 위한 제1 및 제2 전처리 단계를 설명하기 위한 도면이다.
도 11은 본 발명의 형세 판단 모델을 학습하기 위해 사용되는 정답 레이블을 생성하기 위한 제3 전처리 단계를 설명하기 위한 도면이다.
도 12는 본 발명의 형세 판단 모델의 형세 판단 결과를 설명하기 위한 도면이다.
도 13은 본 발명의 형세 판단 모델의 형세 판단 결과와 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 결과를 비교한 모습이다.
도 14는 본 발명의 형세 판단 모델의 형세 판단 결과와 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 결과를 비교한 모습이다.
도 15는 본 발명의 형세 판단 모델의 형세 판단 결과와 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 결과를 비교한 모습이다.
도 16은 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 시스템에 신호 흐름에 대한 예시도이다.
도 17은 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법 중 형세 판단 방법이다.
도 18은 도 17의 형세 판단 방법 중 정답 레이블을 생성하기 위한 트레이닝 데이터의 전처리 방법이다.
도 19는 본 발명의 형세판단 모델 서버의 헛수 판단부 구조를 설명하기 위한 도면이다.
도 20은 본 발명의 실시예에 따른 딥러닝 신경망에 기초하여 바둑 형세를 판단해 바둑룰 차이에 따른 헛수를 판단하고 회피하는 방법을 설명하기 위한 흐름도이다.
도 21은 본 발명의 실시예에 따른 헛수 판단정보를 생성하고 이를 기반으로 헛수에 대한 착수를 회피하는 방법을 설명하기 위한 흐름도이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다. 이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 또한, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. 또한, 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 두께는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
도 1은 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 시스템에 대한 예시도이다.
도 1을 참조하면, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 시스템은, 단말기(100), 바둑서버(200), 착수 모델 서버(300), 형세판단 모델 서버(400) 및 네트워크(500)를 포함할 수 있다.
도 1의 각 구성요소는, 네트워크(500)를 통해 연결될 수 있다. 단말기(100), 바둑서버(200), 착수 모델 서버(300) 및 형세판단 모델 서버(400) 등과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 이러한 네트워크의 일 예에는 3GPP(3rd Generation Partnership Project) 네트워크, LTE(Long Term Evolution) 네트워크, WIMAX(World Interoperability for Microwave Access) 네트워크, 인터넷(Internet), LAN(Local Area Network), Wireless LAN(Wireless Local Area Network), WAN(Wide Area Network), PAN(Personal Area Network), 블루투스(Bluetooth) 네트워크, 위성 방송 네트워크, 아날로그 방송 네트워크, DMB(Digital Multimedia Broadcasting) 네트워크 등이 포함되나 이에 한정되지는 않는다.
- 단말기
먼저, 단말기(100)는, 바둑 게임 서비스를 제공받고자 하는 유저의 단말기이다. 또한, 단말기(100)는 다양한 작업을 수행하는 애플리케이션들을 실행하기 위한 유저가 사용하는 하나 이상의 컴퓨터 또는 다른 전자 장치이다. 예컨대, 컴퓨터, 랩탑 컴퓨터, 스마트 폰, 모바일 전화기, PDA, 태블릿 PC, 혹은 바둑서버(200)와 통신하도록 동작 가능한 임의의 다른 디바이스를 포함한다. 다만 이에 한정되는 것은 아니고 단말기(100)는 다양한 머신들 상에서 실행되고, 다수의 메모리 내에 저장된 명령어들을 해석하여 실행하는 프로세싱 로직을 포함하고, 외부 입력/출력 디바이스 상에 그래픽 사용자 인터페이스(GUI)를 위한 그래픽 정보를 디스플레이하는 프로세스들과 같이 다양한 기타 요소들을 포함할 수 있다. 아울러 단말기(100)는 입력 장치(예를 들면 마우스, 키보드, 터치 감지 표면 등) 및 출력 장치(예를 들면 디스플레이장치, 모니터, 스크린 등)에 접속될 수 있다. 단말기(100)에 의해 실행되는 애플리케이션들은 게임 어플리케이션, 웹 브라우저, 웹 브라우저에서 동작하는 웹 애플리케이션, 워드 프로세서들, 미디어 플레이어들, 스프레드시트들, 이미지 프로세서들, 보안 소프트웨어 또는 그 밖의 것을 포함할 수 있다.
또한, 단말기(100)는 명령들을 저장하는 적어도 하나의 메모리(101), 적어도 하나의 프로세서(102) 및 통신부(103)를 포함할 수 있다.
단말기(100)의 메모리(101)는 단말기(100)에서 구동되는 다수의 응용 프로그램(application program) 또는 애플리케이션(application), 단말기(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 명령들은 프로세서(102)로 하여금 동작들을 수행하게 하기 위해 프로세서(102)에 의해 실행 가능하고, 동작들은 바둑 게임 실행 요청신호를 전송, 게임 데이터 송수신, 착수 정보 송수신, 형세 판단 요청신호를 전송, 형세 판단 결과 수신 및 각종 정보를 수신하는 동작들을 포함할 수 있다. 또한, 메모리(101)는 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있고, 메모리(130)는 인터넷(internet)상에서 상기 메모리(101)의 저장 기능을 수행하는 웹 스토리지(web storage)일 수도 있다.
단말기(100)의 프로세서(102)는 전반적인 동작을 제어하여 바둑 게임 서비스를 제공받기 위한 데이터 처리를 수행할 수 있다. 단말기(100)에서 바둑 게임 어플리케이션이 실행되면, 단말기(100)에서 바둑 게임 환경이 구성된다. 그리고 바둑 게임 어플리케이션은 네트워크(500)를 통해 바둑 서버(200)와 바둑 게임 데이터를 교환하여 단말기(100) 상에서 바둑 게임 서비스가 실행되도록 한다. 이러한 프로세서(102)는 ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 임의의 형태의 프로세서일 수 있다.
단말기(100)의 통신부(103)는, 하기 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등), WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access)에 따라 구축된 네트워크망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신할 수 있다.
- 바둑서버
바둑서버(200)가 제공하는 바둑 게임 서비스는 바둑서버(200)가 제공하는 가상의 컴퓨터 유저와 실제 유저가 함께 게임에 참여하는 형태로 구성될 수 있다. 이는 유저측 단말기(100) 상에서 구현되는 바둑 게임 환경에서 하나의 실제 유저와 하나의 컴퓨터 유저가 함께 게임을 플레이 한다. 다른 측면에서, 바둑서버(200)가 제공하는 바둑 게임 서비스는 복수의 유저측 디바이스가 참여하여 바둑 게임이 플레이되는 형태로 구성될 수도 있다.
바둑서버(200)는 명령들을 저장하는 적어도 하나의 메모리(201), 적어도 하나의 프로세서(202) 및 통신부(203)를 포함할 수 있다.
바둑서버(200)의 메모리(201)는 바둑서버(200)에서 구동되는 다수의 응용 프로그램(application program) 또는 애플리케이션(application), 바둑서버(200)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 명령들은 프로세서(202)로 하여금 동작들을 수행하게 하기 위해 프로세서(202)에 의해 실행 가능하고, 동작들은 게임 실행 요청 신호 수신, 게임 데이터 송수신, 착수 정보 송수신, 형세 판단 요청 신호 송수신, 형세 판단 결과 송수신 및 각종 전송 동작을 포함할 수 있다. 또한, 메모리(201)는 바둑서버(200)에서 대국을 하였던 복수의 기보 또는 기존에 공개된 복수의 기보를 저장할 수 있다. 복수의 기보 각각은 대국 시작의 첫 착수 정보인 제1 착수부터 대국이 종료되는 최종 착수까지의 정보를 모두 포함할 수 있다. 즉, 복수의 기보는 착수에 관한 히스토리 정보를 포함할 수 있다. 바둑서버(200)는 형세판단 모델 서버(400)의 트레이닝을 위하여 저장된 복수의 기보를 형세판단 모델 서버(400)에 제공할 수 있게 한다. 또한, 메모리(201)는 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있고, 메모리(201)는 인터넷(internet)상에서 상기 메모리(201)의 저장 기능을 수행하는 웹 스토리지(web storage)일 수도 있다.
바둑서버(200)의 프로세서(202)는 전반적인 동작을 제어하여 바둑 게임 서비스를 제공하기 위한 데이터 처리를 수행할 수 있다. 이러한 프로세서(202)는 ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 임의의 형태의 프로세서일 수 있다.
바둑서버(200)는 통신부(203)를 통해 네트워크(500)를 경유하여 단말기(100), 착수 모델 서버(300) 및 형세판단 모델 서버(400)와 통신을 수행할 수 있다.
- 착수 모델 서버
착수 모델 서버(300)는, 별도의 클라우드 서버나 컴퓨팅 장치를 포함할 수 있다. 또한, 착수 모델 서버(300)는 단말기(100)의 프로세서 또는 바둑서버(200)의 데이터 처리부에 설치된 신경망 시스템일 수 있지만, 이하에서 착수 모델 서버(300)는, 단말기(100) 또는 바둑 서버(200)와 별도의 장치로 설명한다.
착수 모델 서버(300)는 명령들을 저장하는 적어도 하나의 메모리(301), 적어도 하나의 프로세서(302) 및 통신부(303)를 포함할 수 있다.
착수 모델 서버(300)는 바둑 규칙에 따라 스스로 학습하여 딥러닝 모델인 착수 모델을 구축하고 단말기(100)의 유저와 대국을 할 수 있는 인공지능 컴퓨터로써 자신의 턴에서 대국에서 이길 수 있도록 바둑돌의 착수를 수행할 수 있다. 착수 모델 서버(300)가 착수 모델로 트레이닝하는 자세한 설명은 도 2 내지 도 5의 착수 모델에 관한 설명을 따른다.
착수 모델 서버(300)의 메모리(301)는 착수 모델 서버(300)에서 구동되는 다수의 응용 프로그램(application program) 또는 애플리케이션(application), 착수 모델 서버(300)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 명령들은 프로세서(302)로 하여금 동작들을 수행하게 하기 위해 프로세서(302)에 의해 실행 가능하고, 동작들은 착수 모델 학습(트레이닝) 동작, 착수 정보 송수신 및 각종 전송 동작을 포함할 수 있다. 또한, 메모리(301)는 딥러닝 모델인 착수 모델을 저장 할 수 있다. 또한, 메모리(301)는 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있고, 메모리(301)는 인터넷(internet)상에서 상기 메모리(301)의 저장 기능을 수행하는 웹 스토리지(web storage)일 수도 있다.
착수 모델 서버(300)의 프로세서(302)는 메모리(302)에 저장된 착수 모델을 독출하여, 구축된 신경망 시스템에 따라서 하기 기술하는 착수 모델 학습 및 바둑알 착수를 수행하게 된다. 실시예에서, 착수 모델 서버(300)의 프로세서(302)는 특정 바둑판 상태(S)에서 최선의 수라고 판단되는 특정 착수점을 예측하여 도출할 수 있다. 또한, 프로세서(302)는 도출된 특정 착수점에 대한 이동확률 값(p) 및/또는 가치값을 도출할 수 있고, 도출된 특정 착수점, 이동확률 값(p) 및/또는 가치값을 형세판단 모델 서버(400)로 송신할 수 있다. 또한, 착수 모델 서버(300)의 프로세서(302)는 예측된 특정 착수점에 대한 착수 수행 여부를 결정할 수 있다. 또한, 프로세서(302)는 특정 착수점에 대한 착수가 수행되지 않을 경우, 특정 바둑판 상태(S)에 적합한 대응수를 예측해 도출할 수 있으며 해당 대응수를 기반으로 하는 헛수 판단을 위한 일련의 동작을 반복적으로 수행할 수 있다. 한편, 실시예에 따라서 프로세서(302)는, 전체 유닛들을 제어하는 메인 프로세서와, 착수 모델에 따라 신경망 구동시 필요한 대용량의 연산을 처리하는 복수의 그래픽 프로세서(Graphics Processing Unit, GPU)를 포함하도록 구성될 수 있다.
착수 모델 서버(300)는 통신부(303)를 통해 네트워크(500)를 경유하여 바둑 서버(200)와 통신을 수행할 수 있다.
- 형세판단 모델 서버
형세판단 모델 서버(400)는, 별도의 클라우드 서버나 컴퓨팅 장치를 포함할 수 있다. 또한, 형세판단 모델 서버(400)는 단말기(100)의 프로세서 또는 바둑서버(200)의 데이터 처리부에 설치된 신경망 시스템일 수 있지만, 이하에서 형세판단 모델 서버(400)는, 단말기(100) 또는 바둑 서버(200)와 별도의 장치로 설명한다.
형세판단 모델 서버(400)는 명령들을 저장하는 적어도 하나의 메모리(401), 적어도 하나의 프로세서(402) 및 통신부(403)를 포함할 수 있다.
형세판단 모델 서버(400)는 통신부(403)를 통하여 바둑서버(200)로부터 트레이닝 데이터 셋을 수신할 수 있다. 트레이닝 데이터 셋은 복수의 기보와 해당 복수의 기보에 대한 형세 판단 정보일 수 있다. 형세판단 모델 서버(400)는 수신한 트레이닝 데이터 셋을 이용하여 바둑알이 놓인 바둑판의 상태에 대한 형세를 판단할 수 있도록 지도학습하여 딥러닝 모델인 형세 판단 모델을 구축하고 단말기(100) 유저의 형세 판단 요청에 따라 형세 판단을 수행할 수 있다. 형세판단 모델 서버(400)가 형세 판단 모델로 트레이닝하는 자세한 설명은 도 6 내지 도 18의 형세 판단 모델에 관한 설명을 따른다.
형세판단 모델 서버(400)의 메모리(401)는 형세판단 모델 서버(400)에서 구동되는 다수의 응용 프로그램(application program) 또는 애플리케이션(application), 형세판단 모델 서버(400)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 명령들은 프로세서(402)로 하여금 동작들을 수행하게 하기 위해 프로세서(402)에 의해 실행 가능하고, 동작들은 형세 판단 모델 학습(트레이닝) 동작, 형세 판단 수행, 형세 판단 결과 송신, 복수의 기보 정보 수신 및 각종 전송 동작을 포함할 수 있다. 또한, 도 19를 참조하면 실시예에서 메모리(401)는, 딥러닝 모델인 형세 판단 모델(400a)과 딥러닝 신경망을 기반으로 바둑 형세를 판단하고 바둑룰의 차이에 의한 헛수를 회피하는 일련의 동작을 구현하기 위한 헛수 판단부(400b)를 저장 할 수 있다. 또한, 메모리(401)는 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있고, 메모리(401)는 인터넷(internet)상에서 상기 메모리(301)의 저장 기능을 수행하는 웹 스토리지(web storage)일 수도 있다.
형세판단 모델 서버(400)의 프로세서(402)는 메모리(402)에 저장된 형세 판단 모델(400a)을 독출하여, 구축된 신경망 시스템에 따라서 하기 기술하는 형세 판단 모델(400a) 학습 및 대국 중 바둑판의 형세 판단을 수행하게 된다. 그리고 형세판단 모델 서버(400)의 프로세서(402)는 딥러닝을 기반으로 현재 바둑판 상태(S)의 형세를 판단하여 바둑룰 차이에 따른 헛수를 판별하고 이에 대한 착수를 방지할 수 있다. 자세히, 실시예로 형세판단 모델 서버(400)의 프로세서(402)는 착수 모델 서버(300)로부터 도출된 특정 착수점이 반영된 특정 바둑판 상태(S)에 대한 형세 판단을 수행하여, 해당 특정 착수점이 헛수인지 여부를 판단할 수 있다. 또한 프로세서(402)는 헛수인지 여부를 판단한 정보를 착수 모델 서버(300)로 송신하여 착수 수행 여부를 결정하게 할 수 있다.
한편, 실시예에 따라서 프로세서(402)는, 전체 유닛들을 제어하는 메인 프로세서와, 형세 판단 모델(400a)에 따라 신경망 구동시 필요한 대용량의 연산을 처리하는 복수의 그래픽 프로세서(Graphics Processing Unit, GPU)를 포함하도록 구성될 수 있다.
또한, 형세판단 모델 서버(400)는 통신부(403)를 통해 네트워크(500)를 경유하여 바둑 서버(200)와 통신을 수행할 수 있다.
- 착수 모델
도 2는 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스에서 인공지능 컴퓨터의 착수를 위한 착수 모델 서버(300)의 착수 모델 구조를 설명하기 위한 도면이고, 도 3은 착수 모델의 정책에 따른 착수점에 대한 이동 확률 분포를 설명하기 위한 도면이고, 도 4는 착수 모델의 착수점에 대한 가치값과 방문 횟수를 설명하기 위한 도면이고, 도 5는 착수 모델이 탐색부의 파이프 라인에 따라 착수하는 과정을 설명하기 위한 도면이다.
도 2를 참조하면, 본 발명의 실시예에 따른 착수 모델은 착수 모델 서버(300)의 딥러닝 모델로서 탐색부(310), 셀프 플레이부(320), 착수 신경망(330) 및 착수 결정부(340)를 포함할 수 있다.
착수 모델은 탐색부(310), 셀프 플레이부(320), 착수 신경망(330) 및 착수 결정부(340)를 이용하여 대국에서 이길 수 있도록 착수 하는 모델로 학습될 수 있다. 또한, 착수 모델은 특정 바둑룰로 학습되어 있으나 타 바둑룰을 적용한 바둑 대국을 수행할 경우 특정 바둑룰과 타 바둑룰의 차이에 따른 헛수를 회피할 수 있다.
보다 구체적으로, 탐색부(310)는 착수 신경망(330)의 가이드에 따라 몬테 카를로 트리 서치(Monte Carlo Tree Search; MCTS) 동작을 수행 할 수 있다. MCTS는 모종의 의사 결정을 위한 체험적 탐색 알고리즘이다. 즉, 탐색부(310)는 착수 신경망(330)이 제공하는 이동확률 값(p) 및/또는 가치값(v)에 기초하여 MCTS를 수행할 수 있다. 일 예로, 착수 신경망(330)에 의해 가이드된 탐색부(310)는 MCTS를 수행하여 착수점들에 대한 확률분포값인 탐색 확률값(
Figure 112019072366996-pat00001
)을 출력 할 수 있다. 셀프 플레이부(320)는 탐색 확률값(
Figure 112019072366996-pat00002
)에 따라 스스로 바둑 대국을 할 수 있다. 셀프 플레이부(320)는 게임의 승패가 결정되는 시점까지 스스로 바둑 대국을 진행하고, 자가 대국이 종료되면 바둑판 상태(S), 탐색 확률값(
Figure 112019072366996-pat00003
), 자가 플레이 가치값(z)을 착수 신경망(330)에 제공할 수 있다. 바둑판 상태(S)는 착수점들에 바둑돌이 놓여진 상태이다. 자가 플레이 가치값(z)은 바둑판 상태(S)에서 자가 대국을 하였을 때 승률 값이다. 착수 신경망(330)은 이동확률 값(p)과 가치값(v)을 출력할 수 있다. 이동확률 값(p)은 바둑판 상태(S)에 따라 착수점들에 대해 어느 착수점에 착수하는 것이 게임을 이길 수 있는 좋은 수인지 수치로 나타낸 확률분포값이다. 가치값(v)은 해당 착수점에 착수시 승률을 나타낸다. 예를 들어, 이동확률 값(p)이 높은 착수점이 좋은 수일 수 있다. 착수 신경망(330)은 이동확률 값(p)이 탐색 확률값(
Figure 112019072366996-pat00004
)과 동일해지도록 트레이닝되고, 가치값(v)이 자가 플레이 가치값(z)과 동일해지도록 트레이닝될 수 있다. 이후 트레이닝된 착수 신경망(330)은 탐색부(310)를 가이드하고, 탐색부(310)는 이전 탐색 확률값(
Figure 112019072366996-pat00005
)보다 더 좋은 수를 찾도록 MCTS를 진행하여 새로운 탐색 확률값(
Figure 112019072366996-pat00006
)을 출력하게 한다. 셀프 플레이부(320)는 새로운 탐색 확률값(
Figure 112019072366996-pat00007
)에 기초하여 바둑판 상태(S)에 따른 새로운 자가 플레이 가치값(z)을 출력하고 바둑판 상태(S), 새로운 탐색 확률값(
Figure 112019072366996-pat00008
), 새로운 자가 플레이 가치값(z)을 착수 신경망(330)에 제공할 수 있다. 착수 신경망(330)은 이동확률 값(p)과 가치값(v)이 새로운 탐색 확률값(
Figure 112019072366996-pat00009
)과 새로운 자가 플레이 가치값(z)으로 출력되도록 다시 트레이닝될 수 있다. 즉, 착수 모델은 이러한 과정을 반복하여 착수 신경망(330)이 대국에서 이기기 위한 더 좋은 착수점을 찾도록 트레이닝 될 수 있다. 일 예로, 착수 모델은 착수 손실(l)을 이용할 수 있다. 착수 손실(l)은 수학식 1과 같다.
(수학식 1)
Figure 112019072366996-pat00010
Figure 112019072366996-pat00011
는 신경망의 파라미터이고, c는 매우 작은 상수이다.
수학식 1의 착수 손실(l)에서 z와 v가 같아 지도록 하는 것은 평균 제곱 손실(mean square loss) 텀에 해당되고,
Figure 112019072366996-pat00012
와 p가 같아 지도록 하는 것은 크로스 엔트로피 손실(cross entropy loss) 텀에 해당되고,
Figure 112019072366996-pat00013
에 c를 곱하는 것은 정규화 텀으로 오버핏을 방지하기 위한 것이다.
예를 들어, 도 3을 참조하면 트레이닝된 착수 모델은 착수점들에 이동확률 값(p)을 도 3과 같이 확률분포값으로 나타낼 수 있다. 도 4를 참조하면 트레이닝 된 착수 모델의 가치값(v)은 도 4의 하나의 참수점에서 위에 표시된 값으로 나타낼 수 있다. 착수 신경망(330)은 신경망 구조로 구성될 수 있다. 일 예로, 착수 신경망(330)은 한 개의 컨볼루션(convolution) 블록과 19개의 레지듀얼(residual) 블록으로 구성될 수 있다. 컨볼루션 블록은 3X3 컨볼루션 레이어가 여러개 중첩된 형태일 있다. 하나의 레지듀얼 블록은 3X3 컨볼루션 레이어가 여러개 중첩되고 스킵 커넥션을 포함한 형태일 수 있다. 스킵 커넥션은 소정의 레이어의 입력이 해당 레이어의 출력값과 합하여서 출력되어 다른 레이어에 입력되는 구조이다. 또한, 착수 신경망(330)의 입력은 흑 플레이어의 최근 8 수에 대한 돌의 위치 정보과 백 플레이어의 최근 8 수에 대한 돌의 위치 정보와 현재 플레이어가 흑인지 백인지에 대한 차례 정보를 포함한 19*19*17의 RGB 이미지가 입력될 수 있다.
도 5를 참조하면, 학습된 착수 모델은 자신의 차례에서 착수 신경망(330)과 탐색부(310)를 이용하여 착수 할 수 있다. 착수 모델은 선택 과정(a)을 통하여 현재 제1 바둑판 상태(S1)에서 MCTS를 통해 탐색하지 않은 가지인 제2 바둑판 상태(S1-2)에서 활동 함수(Q)와 신뢰값(U)이 높은 착수점을 선택한다. 활동 함수(Q)는 해당 가지를 지날 때마다 산출된 가치값(v)들의 평균값이다. 신뢰값(U)은 해당 가지를 지나는 방문 횟수(N)에 비례한다. 착수 모델은 확장과 평가 과정(b)을 통하여 선택된 착수점에서의 제3 바둑판 상태(S1-2-1)로 확장하고 이동확률 값(p)을 산출 할 수 있다. 착수 모델은 백업 과정(c)을 통하여 확장된 제3 바둑판 상태(S1-2-1)의 가치값(v)을 산출하고 지나온 가지들의 활동 함수(Q), 방문 횟수(N), 이동확률 값(p)을 저장할 수 있다. 착수 모델은 선택(a), 확장 및 평가(b), 백업(c) 과정을 반복하고 각 착수점에 대한 방문 횟수(N)를 이용하여 확률 분포를 만들어서 탐색 확률값(
Figure 112019072366996-pat00014
)을 출력할 수 있다. 착수 모델은 착수점들 중 가장 높은 탐색 확률값(
Figure 112019072366996-pat00015
)을 선택할 수 있고, 선택된 탐색 확률값(
Figure 112019072366996-pat00016
)을 가지는 착수점을 해당 바둑판 상태(S)에서의 최선의 수로 판단할 수 있다. 이때, 착수 모델은 탐색 확률값(
Figure 112019072366996-pat00017
)을 기반으로 최선의 수라고 판단된 착수점을 선결(先決) 착수점으로 설정할 수 있다. 즉, 본 발명의 실시예에서 선결 착수점이란 특정 바둑판 상태(S)에 대하여 착수 모델에 의해 예측된 최선의 착수점일 수 있다. 또한, 착수 모델은 최선의 수로 결정된 선결 착수점에 기반하여 해당 선결 착수점과 관련된 정보(예컨대, 바둑판 상에서의 위치 정보 등)를 포함하는 선결 착수점 정보를 생성할 수 있다.
또한, 착수 모델은 예측된 선결 착수점에 대한 이동확률 값(p) 및/또는 가치값(v)을 획득할 수 있다. 자세히, 착수 모델은 선결 착수점을 도출한 시점에 해당 선결 착수점과 매칭되는 이동확률 값(p) 정보 및/또는 가치값(v) 정보를 생성할 수 있다. 이때, 착수 모델 서버(300)는 생성된 선결 착수점, 이동확룰 값 및/또는 가치값(v) 정보를 형세판단 모델 서버(400)로 송신할 수 있다.
한편, 착수 모델은 본 발명의 실시예에 따라서 바둑룰에 따른 헛수를 회피하는 바둑 게임 서비스를 제공하기 위하여, 착수 결정부(340)를 포함할 수 있다. 자세히 착수 결정부(340)는 형세판단 모델 서버(400)로부터 수신되는 헛수 판단정보를 기반으로 특정 선결 착수점에 대한 착수 또는 패스(pass) 동작의 수행 여부를 결정할 수 있다. 이때 헛수 판단정보는 형세판단 모델 서버(400)에서 특정 선결 착수점을 적용한 바둑판 상태(S)의 형세 판단을 기반으로 해당 특정 선결 착수점이 헛수인지 여부를 판단한 정보일 수 있다.
계속해서, 착수 결정부(340)는 형세판단 모델 서버(400)로부터 수신되는 헛수 판단정보에 기반하여 다음 선결 착수점인 후행 선결 착수점 즉, 대응수를 도출하게 할 수도 있다. 다시 말하면, 착수 결정부(340)는 수신되는 헛수 판단정보에 따라서 착수 모델 서버(300)가 선결 착수점에 대한 착수를 수행 또는 패스하거나, 해당 선결 착수점 다음으로 최고의 수라고 판단되는 후행 선결 착수점(대응수)을 도출하도록 탐색부(310)를 제어할 수 있다. 여기서 착수 모델이 후행 선결 착수점을 도출하는 경우, 도출된 후행 선결 착수점은 형세판단 모델 서버(400)로 송신될 수 있고 이에 기반한 헛수 판단정보가 생성되는 동작이 반복될 수 있다.
보다 자세한 설명은 이하에서 기술되는 딥러닝을 기반으로 바둑룰 차이에 따른 헛수를 회피하는 방법의 상세한 설명에서 후술하기로 한다. 또한, 본 실시예에서는 착수 결정부(340)가 착수 모델 서버(300)에 포함되어 동작하는 것으로 설명하나, 다른 실시예에서는 착수 결정부(340)가 바둑서버(200) 또는 형세판단 모델 서버(400)에 포함되거나 별도의 장치로 구현되는 등 다양한 실시예 또한 가능하다.
- 형세 판단 모델
도 6은 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스의 형세 판단 기능을 제공하는 화면을 보여 주는 예시도이고, 도 7은 본 발명의 형세판단 모델 서버(400)의 형세 판단 모델(400a) 구조를 설명하기 위한 도면이고, 도 8은 본 발명의 형세 판단 모델(400a)의 복수의 블록으로 이루어진 신경망 구조 중 하나의 블록을 설명하기 위한 도면이다.
도 6을 참조하면, 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스는 현재 바둑판 상태(S)의 형세 판단을 할 수 있다. 일 예로, 도 6과 같이 유저가 단말기(100)의 화면에서 바둑 대국 중 형세 판단 메뉴(A)를 클릭하여 형세 판단을 요청하면 딥러닝 기반의 바둑 게임 서비스가 팝업 창에 형세 판단 결과를 제공할 수 있다. 형세 판단은 바둑 대국 중에 상대방과 나의 집을 계산하여 누가 몇점으로 이기고 있는지 판단하는 것이다. 즉, 형세 판단은 대국 도중 집수효와 세력, 좋고 나쁜 사정 등을 상대방과 비교하여 판단하고 향후의 태도를 적절히 결정하게 하는 것이다. 예를 들어, 유저는 형세가 나에게 유리하다는 판단이 서면 더 이상 무리하지 말고 현재의 유리한 상황을 그대로 유지한 채 대국을 종료하는 방향으로 전략을 세울 것이고, 만약 불리하다는 판단이면 게임 국면을 새롭게 전환할 수 있도록 여러가지 전략을 모색할 수 있다. 형세 판단의 기준은 바둑돌이 바둑판에 배치된 상태에 따른 집, 사석, 돌, 공배, 빅이 된다. 돌은 바둑판에 놓여진 돌이고 한국 규칙에서는 점수가 아니다. 집은 한 가지 색의 바둑돌로 둘러쌓인 빈 점으로 구성된 영역으로 한국 규칙에서는 점수이다. 공배와 빅은 바둑이 끝났을 때 흑집도 백집도 아닌 영역으로 한국 규칙에서는 점수가 아니다. 판위사석은 바둑판 위에 놓여진 돌 중에서 어떻게 두어도 잡힐 수밖에 없어 죽게 된 돌로 한국 규칙에서는 상대방의 집을 메우는데 사용하므로 점수이다. 빅은 바둑이 끝났을 때, 흑집도 백집도 아닌 영역을 말한다.  따라서, 형세 판단은 바둑돌이 놓인 바둑판 상태(S)에서 집, 사석, 돌, 공배, 빅을 정확히 구분 또는 예측해야 정확한 판단이 될 수 있다. 이 때, 집, 사석, 돌, 공배, 빅을 정확히 구분하는 것은 집, 사석, 돌, 공배, 빅이 완전히 이루어진 상태를 구분하는 것이고, 집, 사석, 돌, 공배, 빅을 정확히 예측하는 것은 집, 사석, 돌, 공배, 빅이 될 가능성이 높은 상태를 예측하는 것일 수 있다.
도 7을 참조하면, 본 발명의 실시예에 따른 형세 판단 모델(400a)은 형세판단 모델 서버(400)의 딥러닝 모델로써 형세 판단 신경망(410), 입력 특징 추출부(420) 및 정답 레이블 생성부(430)를 포함할 수 있다.
또한, 본 발명의 실시예에 따른 형세 판단 모델(400a)은 딥러닝 신경망을 기반으로 바둑 형세를 판단하고 바둑룰의 차이에 의한 헛수를 회피하는 프로세스를 동작하기 위하여 착수효용 판단부(440)와 연동될 수 있다. 이에 대한 자세한 설명은 후술하기로 한다.
형세 판단 모델(400a)은 형세 판단 신경망(410)을 이용하여 현재 바둑판 상태(S)의 형세를 판단할 수 있도록 지도 학습(supervised learning)할 수 있다. 보다 구체적으로, 형세 판단 모델(400a) 바둑판 상태(S)에 관한 트레이닝 데이터 셋을 생성하고 생성된 트레이닝 데이터 셋을 이용하여 형세 판단 신경망(410)이 현재 바둑판 상태(S)에 따른 형세를 판단할 수 있도록 학습시킬 수 있다. 형세판단 모델 서버(400)는 바둑서버(200)로부터 복수의 기보를 수신할 수 있다. 복수의 기보의 각 기보는 착수 순서에 따른 각각의 바둑판 상태(S)를 포함할 수 있다.
입력 특징 추출부(420)는 복수의 기보의 바둑판 상태(S)에서 입력 특징(IF)을 추출하여 형세 판단 신경망(410)에 트레이닝을 위한 입력 데이터로 제공할 수 있다. 바둑판 상태(S)의 입력 특징(IF)은 흑 플레이어의 최근 8 수에 대한 돌의 위치 정보과 백 플레이어의 최근 8 수에 대한 돌의 위치 정보와 현재 플레이어가 흑인지 백인지에 대한 차례 정보를 포함한 19*19*18의 RGB 이미지일 수 있다. 일 예로, 입력 특징 추출부(420)는 신경망 구조로 되어 있을 수 있으며 일종의 인코더를 포함할 수 있다.
정답 레이블 생성부(430)는 현재 바둑판 상태(S)로 전처리 과정을 거쳐 정답 레이블(ground truth)을 생성하고 정답 레이블을 형세 판단 신경망(410)에 트레이닝을 위한 타겟 데이터(
Figure 112019072366996-pat00018
)로 제공할 수 있다. 정답 레이블 생성부(430)의 정답 레이블 생성은 후술하는 도 9 내지 도 11의 설명을 따른다. 일 예로, 정답 레이블 생성부(430)는 신경망 구조의 롤아웃 또는 인코더를 포함할 수 있다.
형세 판단 모델(400a)은 입력 특징(IF)을 입력 데이터로 하고 정답 레이블을 타겟 데이터(
Figure 112019072366996-pat00019
)로 한 트레이닝 데이터 셋을 이용하여 형세 판단 신경망(410)에서 생성된 출력 데이터(o)가 타겟 데이터(
Figure 112019072366996-pat00020
)와 동일해지도록 형세 판단 신경망(420)을 충분히 학습할 수 있다. 일 예로, 형세 판단 모델(400a)은 형세 판단 손실(
Figure 112019072366996-pat00021
)을 이용할 수 있다. 형세 판단 손실(
Figure 112019072366996-pat00022
)은 평균 제곱 에러(mean square error)를 이용할 수 있다. 예를 들어, 형세 판단 손실(
Figure 112019072366996-pat00023
)은 수학식 2와 같다.
(수학식 2)
Figure 112019072366996-pat00024
B는 바둑판의 전체 교차점 수이다. 바둑판은 가로 19줄 및 세로 19줄이 서로 교차하여 361개의 교차점이 배치된다. 이에 제한되는 것은 아니고 바둑판이 가로 9줄 및 세로 9줄일 경우 81개의 교차점이 배치될 수 있다.
Figure 112019072366996-pat00025
는 현재 바둑판 상태(S)에서 정답 레이블에 따른 소정의 교차점(i)에 대한 형세값이다. 형세값에 대한 설명은 후술하는 도 11의 설명에 따른다.
Figure 112019072366996-pat00026
는 현재 바둑판 상태(S)에서 소정의 교차점(i)을 형세 판단 신경망(410)에 입력하였을 때에 출력되는 출력 데이터이다. 형세 판단 모델(400a)은 형세 판단 손실(
Figure 112019072366996-pat00027
)이 최소화되도록 경사 하강법(gradient-descent)과 역전파(backpropagation)을 이용하여 형세 판단 신경망(410) 내의 가중치와 바이어스 값들을 조절하여 형세 판단 신경망(410)를 학습시킬 수 있다.
형세 판단 신경망(410)은 신경망 구조로 구성될 수 있다. 일 예로, 형세 판단 신경망(420)은 19개의 레지듀얼(residual) 블록으로 구성될 수 있다. 도 8을 참조하면, 하나의 레지듀얼 블록은 256개의 3X3 컨볼루션 레이어, 일괄 정규화(batch normalization) 레이어, Relu 활성화 함수 레이어, 256개의 3X3 컨볼루션 레이어, 일괄 정규화(batch normalization) 레이어, 스킵 커넥션, Relu 활성화 함수 레이어 순으로 배치될 수 있다. 일괄 정규화(batch normalization) 레이어는 학습하는 도중에 이전 레이어의 파라미터 변화로 인해 현재 레이어의 입력의 분포가 바뀌는 현상인 공변량 변화(covariate shift)를 방지하기 위한 것이다. 스킵 커넥션은 블록 층이 두꺼워지더라도 신경망의 성능이 감소하는 것을 방지하고 블록 층을 더욱 두껍게 하여 전체 신경망 성능을 높일 수 있게 한다. 스킵 커넥션은 레지듀얼 블록의 최초 입력 데이터가 두 번째 일괄 정규화(batch normalization) 레이어의 출력과 합하여 두번째 Relu 활성화 함수 레이어에 입력되는 형태일 수 있다.
도 9 및 도 10은 본 발명의 형세 판단 모델(400a)을 학습하기 위해 사용되는 정답 레이블을 생성하기 위한 제1 및 제2 전처리 단계를 설명하기 위한 도면이고, 도 11은 본 발명의 형세 판단 모델(400a)을 학습하기 위해 사용되는 정답 레이블을 생성하기 위한 제3 전처리 단계를 설명하기 위한 도면이다.
정답 레이블 생성부(430)는 형세 판단 신경망(410)이 정확한 형세 판단을 할 수 있도록 학습하는데 이용되는 정답 레이블을 생성할 수 있다.
보다 구체적으로, 정답 레이블 생성부(430)는 입력 데이터에 기초가 되는 바둑판 상태(S)를 입력으로 받고, 현재 바둑판 상태(S)에서 끝내기를 하는 제1 전처리를 수행하여 제1 전처리 상태(P1)를 생성할 수 있다. 제1 전처리인 끝내기는 집 계산을 하기 전에 집의 경계가 명확해지도록 소정의 착수를 하여 게임을 마무리하는 과정이다. 일 예로, 도 9를 참조하면 정답 레이블 생성부(430)는 도 9의 (a)의 현재 바둑판 상태(S)에서 끝내기를 하여 도 9의 (b)의 제1 전처리 상태(P1)를 생성할 수 있다.
정답 레이블 생성부(430)는 제1 전처리 상태(P1)에서 집 경계 내에 배치되며 집 구분에 불필요한 돌을 제거하는 제2 전처리를 수행하여 제2 전처리 상태(P2)를 생성할 수 있다. 예를 들어, 집 경계 내에 배치되며 집 구분에 불필요한 돌은 사석일 수 있다. 사석은 집안에 상대방 돌이 배치되어 어떻게 두어도 잡힐수 밖에 없어 죽게 된 돌임을 앞서 설명하였다. 또한, 집 경계 내에 배치되며 집 구분에 불필요한 돌은 집안에 배치된 자신의 돌일 수 있다. 일 예로, 도 9를 참조하면 정답 레이블 생성부(430)는 도 9의 (b)의 제1 전처리 상태(P1)에서 집 구분에 불필요한 돌을 제거하여 도 9의 (c)의 제2 전처리 상태(P2)를 생성할 수 있다.
다른 예로, 도 10을 참조하면, 정답 레이블 생성부(430)는 도 10의 (a)의 현재 바둑판 상태(S)에서 제1 전처리인 끝내기를 위하여 도 10의 (b)와 같이 빨간색 x에 착수할 수 있다. 정답 레이블 생성부(430)는 도 10의 (b)에서 파란색 x로 표시된 사석을 제거하기 위하여 녹색 x에 착수하여 사석을 제거하고 사석 제거를 위해 사용된 녹색 x에 착수한 돌도 제거하여 제2 전처리를 수행할 수 있다.
정답 레이블 생성부(430)는 제2 전처리 상태(P2)에서 각 교차점을 -1 부터 +1까지 표시된 형세값(g, 단 g는 정수)으로 변경하는 제3 전처리를 수행할 수 있다. 즉, 제3 전처리는 정답 레이블 생성부(430)가 이미지 특징인 제2 전처리 상태(P2)를 수치 특징인 제3 전처리 상태(P3)로 변경하는 것이다. 일 예로, 제2 전처리 상태(P2)에서 교차점에 내 돌이 배치되면 0, 내 집 영역이면 +1, 상대 돌이 배치되면 0, 상대 집 영역이면 -1로 대응할 수 있다. 이 경우, 형세 판단 신경망(410)은 형세 판단시 집, 돌, 사석을 구분할 수 있도록 학습될 수 있다. 다른 예로, 제2 전처리 상태(P2)에서 교차점에 내 돌이 배치되면 0, 내 집 영역이면 +1, 상대 돌이 배치되면 0, 상대 집 영역이면 -1, 빅 또는 공배이면 0으로 대응할 수 있다. 다른 예의 경우 형세 판단 신경망(410)은 형세 판단시 빅 또는 공배를 구분할 수 있도록 학습될 수 있다. 예를 들어, 도 11을 참조하면, 정답 레이블 생성부(430)는 도 11의 (a)의 제2 전처리 상태(P2)를 도 11의 (b)의 제3 전처리 상태(P3)로 특징을 변경할 수 있다.
제3 전처리 상태(P3)는 바둑판 상태(S)에서의 형세 판단의 정답 레이블이 되고 형세 판단 신경망(410)의 학습 시 타겟 데이터(
Figure 112019072366996-pat00028
)로 이용될 수 있다.
도 12는 본 발명의 형세 판단 모델(400a)의 형세 판단 결과를 설명하기 위한 도면이다.
학습된 형세 판단 모델(400a)은 바둑판 상태(S)가 입력되면 바둑판의 모든 교차점에 대한 형세값을 제공할 수 있다. 즉, 바둑판 교차점의 361개 지점에 대해 형세값인 -1 내지 +1의 정수 값을 제공할 수 있다.
도 12를 참조하면, 형세판단 모델 서버(400)는 형세 판단 모델(400a)이 제공한 형세값, 소정의 임계값, 돌의 유무를 이용하여 형세를 판단할 수 있다. 일 예로, 형세판단 모델 서버(400)는 돌이 없는 곳이며, 형세 값이 제1 임계값을 넘으면 내 집이 될 가능성이 높은 곳으로 판단하고, +1에 가까운 값이면 내 집 영역으로 판단할 수 있다. 형세판단 모델 서버(400)는 내 집일 가능성이 높을수록 점점 커지는 내 돌과 같은 색의 네모 형태로 표시할 수 있다. 형세판단 모델 서버(400)는 돌이 없는 곳이며, 형세 값이 제2 임계값 이하이면 상대 집이 될 가능성이 높은 곳으로 판단하고, -1에 가까운 값이면 내집 영역으로 판단할 수 있다. 형세판단 모델 서버(400)는 상대 집일 가능성이 높을수록 점점 커지는 상대 돌과 같은 색의 네모 형태로 표시할 수 있다. 형세판단 모델 서버(400)는 돌이 없는 곳이며, 형세 값이 제3 임계값 범위 이내 또는 0에 가까운 값이면 공배 또는 빅으로 판단할 수 있다. 형세판단 모델 서버(400)는 공배 또는 빅으로 판단하면 X로 표시할 수 있다. 형세판단 모델 서버(400)는 돌이 있는 곳이며, 형세 값이 제3 임계값 범위 이내 또는 0에 가까운 값이면 내 돌 또는 상대 돌로 판단할 수 있다. 형세판단 모델 서버(400)는 공배 또는 빅으로 판단하면 아무런 표시를 안할 수 있다. 형세판단 모델 서버(400)는 돌이 있는 곳이며, 형세 값이 제1 임계값을 넘으면 상대 돌의 사석이 될 가능성이 높은 곳으로 판단하고, +1에 가까운 값이면 상대 돌의 사석으로 판단할 수 있다. 형세판단 모델 서버(400)는 상대 돌의 사석일 가능성이 높을수록 점점 커지는 내 돌과 같은 색의 네모 형태로 표시할 수 있다. 형세판단 모델 서버(400)는 돌이 있는 곳이며, 형세 값이 제2 임계값 이하이면 내 돌의 사석이 될 가능성이 높은 곳으로 판단하고, -1에 가까운 값이면 상대 돌의 사석으로 판단할 수 있다. 형세판단 모델 서버(400)는 상대 돌의 사석일 가능성이 높을수록 점점 커지는 상대 돌과 같은 색의 네모 형태로 표시할 수 있다.
또한, 형세판단 모델 서버(400)(300)는 각 교차점에서 판단한 형세 판단 기준을 이용하여 현재 바둑판 상태(S)에서의 계가 결과를 표시할 수 있다.
따라서, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 그 장치는 딥러닝 신경망을 이용하여 바둑 형세를 판단할 수 있다. 또한, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 장치는 바둑 규칙에 따른 집, 사석, 돌, 공배, 빅을 정확히 구분하여 바둑의 형세를 정확히 판단할 수 있다. 또한, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 장치는 바둑 규칙에 따른 집, 사석, 돌, 공배, 빅을 예측하여 바둑의 형세를 정확히 판단할 수 있다. 또한, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 장치는 바둑 대국 중 신속하게 형세를 판단할 수 있다.
한편, 형세판단 모델 서버(400)는 바둑룰 차이에 따라서 헛수를 판단하기 위한 일련의 동작을 수행하기 위하여 형세 판단 모델(400a)로부터 제1 내지 3 전처리 과정을 통해 도출된 형세값을 기반으로 형세판단 값을 생성할 수 있다. 여기서, 형세판단 값은 형세 판단 모델(400a)을 통해 예측된 최종 형세의 유리/불리한 정도를 단일 수치로 환산하여 생성된 값일 수 있다. 자세히, 형세판단 모델 서버(400)는 형세 판단 모델(400a)에 의하여 선결 착수점이 적용된 바둑판의 모든 교차점에 대해 형세 판단을 수행하여 형세값을 도출할 수 있다. 그리고 형세판단 모델 서버(400)는 도출된 형세값 및 소정의 임계값에 기초하여 형세판단 값을 생성할 수 있다. 예를 들어, 형세판단 모델 서버(400)는 모든 교차점에 대한 형세값의 총합과 소정의 제1 임계값에 기반하여, 형세값이 제1 임계값을 초과한 경우 이에 매칭된 소정의 단일 수치로 형세판단 값 설정할 수 있고, 형세값이 제1 임계값 이하인 경우 이에 매칭된 소정의 단일 수치로 형세판단 값을 설정할 수 있다. 이때, 실시예에 따라서 형세판단 값은 값이 클수록 유리한 형세를 나타내고 값이 작을수록 불리한 형세를 나타낼 수 있다.
도 13은 본 발명의 형세 판단 모델(400a)의 형세 판단 결과와 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 결과를 비교한 모습이고, 도 14는 본 발명의 형세 판단 모델(400a)의 형세 판단 결과와 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 결과를 비교한 모습이고, 도 15는 본 발명의 형세 판단 모델(400a)의 형세 판단 결과와 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 결과를 비교한 모습이다.
도 13을 참조하면, 본 발명의 형세 판단 모델(400a)은 도 13의 (a)의 B영역과 같이 교차점 마다 집, 돌, 사석을 구분하여 형세를 판단한다. 그러나 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 모델(400a)은 도 13의 (b)에서 도 13의 (a)와 대응 되는 영역의 교차점에 대하여 집, 돌, 사석을 구분하지 못한다.
마찬가지로 도 14를 참조하면, 본 발명의 형세 판단 모델(400a)은 도 14의 (a)의 C영역과 같이 교차점 마다 집, 돌, 사석을 구분하여 형세를 판단한다. 그러나 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 모델(400a)은 도 14의 (b)에서 도 13의 (a)와 대응 되는 영역의 교차점에 대하여 집, 돌, 사석을 구분하지 못한다.
도 15을 참조하면, 본 발명의 형세 판단 모델(400a)은 도 15의 (a)의 D영역과 같이 백집을 제대로 인식한다. 그러나 종래 기술에 따른 딥러닝 모델에 의한 형세 판단 모델(400a)은 도 15의 (b)에서 도 15의 (a)와 대응 되는 영역에서 백집을 구분하지 못한다.
도 16은 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 시스템에 신호 흐름에 대한 예시도이다.
도 16을 참조하면, 착수 모델 서버(300)는 인공지능 컴퓨터로써 자신의 턴에서 대국에서 이길 수 있도록 바둑돌의 착수를 수행할 수 있도록 바둑 규칙에 따라 스스로 학습하여 딥러닝 모델인 착수 모델을 트레이닝 할 수 있다(s11). 바둑서버(22)는 복수의 기보를 형세판단 모델 서버(400)에게 송신할 수 있다. 형세판단 모델 서버(400)는 트레이닝 데이터 셋을 생성할 수 있다. 먼저, 형세판단 모델 서버(400)는 복수의 기보의 바둑판 상태(S)에서 입력 특징을 추출할 수 있다(S13). 형세판단 모델 서버(400)는 입력 특징을 추출한 바둑판 상태(S)를 이용하여 정답 레이블을 생성할 수 있다(S14). 형세판단 모델 서버(400)은 입력 특징을 입력 데이터로 하고 정답 레이블을 타겟 데이터로 한 트레이닝 데이터 셋을 이용하여 형세 판단 모델(400a)을 트레이닝 할 수 있다(S15). 단말기(100)는 바둑서버(200)에 인공지능 컴퓨터를 상대로 또는 다른 유저 단말기를 상대로 바둑 게임을 요청할 수 있다(S16). 바둑서버(200)는 단말기(100)가 인공지능 컴퓨터를 상대로 바둑 게임을 요청하면 착수 모델 서버(300)에 착수를 요청할 수 있다(S17). 바둑서버(200)는 바둑 게임을 진행하며 단말기(100)와 착수 모델 서버(300)가 자신의 턴에 착수를 수행할 수 있다(S18 내지 S20). 대국 중 단말기(100)는 바둑서버(200)에 형세 판단을 요청할 수 있다(S21). 바둑서버(200)는 형세판단 모델 서버(400)에게 현재 바둑판 상태(S)에 대한 형세 판단을 요청할 수 있다(S22). 형세판단 모델 서버(400)는 현재 바둑판 상태(S)의 입력 특징을 추출하고, 딥러닝 모델인 형세 판단 모델(400a)이 입력 특징을 이용하여 형세값을 생성하고, 바둑판 상태(S)와 형세값을 이용하여 형세 판단을 수행할 수 있다(S23). 형세판단 모델 서버(400)는 형세 판단 결과를 바둑서버(200)에 제공할 수 있다(S24). 바둑서버(200)는 단말기(100)에 형세 판단 결과를 제공할 수 있다(S25).
도 17은 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법 중 형세 판단 방법이고, 도 18은 도 17의 형세 판단 방법 중 정답 레이블을 생성하기 위한 트레이닝 데이터의 전처리 방법이다.
도 17을 참조하면, 본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 형세판단 모델 서버(400)가 바둑서버로부터 복수의 기보를 수신하는 단계(S100)를 포함할 수 있다.
본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 형세판단 모델 서버(400)의 형세 판단 모델(400a) 중 입력 특징 추출부가 복수의 기보의 바둑판 상태(S)에서 입력 특징을 추출하는 단계(S200)를 포함할 수 있다. 입력 특징을 추출하는 방법은 도 7의 설명을 따른다.
본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 형세 판단 모델(400a) 중 정답 레이블 생성부가 입력 특징을 추출한 바둑판 상태(S)에 기초하여 정답 레이블을 생성하는 단계(S300)를 포함할 수 있다. 일 예로, 도 18을 참조하면, 정답 레이블 생성 단계(S300)는 정답 레이블 생성부가 현재 바둑판 상태(S)에서 끝내기 하는 제1 전처리하는 단계(S301)를 포함할 수 있다. 제1 전처리하는 단계(S301)는 도 9 내지 도 10의 설명을 따른다. 정답 레이블 생성 단계(S300)는 정답 레이블 생성부가 제1 전처리된 바둑판 상태(S)에서 불필요한 돌을 제거하는 제2 전처리하는 단계(S302)를 포함할 수 있다. 제2 전처리하는 단계(S302)는 도 9 내지 도 10의 설명을 따른다. 정답 레이블 생성 단계(S300)는 정답 레이블 생성부가 제2 전처리된 바둑판 상태(S)의 각 교차점을 형세값으로 변경하는 제3 전처리하는 단계(S303)를 포함할 수 있다. 제3 전처리하는 단계(S303)는 도 11의 설명을 따른다. 정답 레이블 생성 단계(S300)는 제3 전처리 상태를 정답 레이블로 하여 형세 판단 신경망에 타겟 데이터로 제공하는 단계(S303)를 포함할 수 있다. 타겟 데이터를 제공하는 단계(S301)는 도 7 및 도 11의 설명을 따른다.
본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 트레이닝 데이터 셋을 이용하여 형세 판단 모델(400a)의 형세 판단 신경망을 트레이닝하는 단계(S400)을 포함할 수 있다. 형세 판단 신경망을 트레이닝(학습)하는 방법은 도 7의 설명을 따른다.
본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 형세 판단 신경망의 트레이닝이 완료되어 형세 판단 모델(400a)을 구축하는 단계(S500)를 포함한다. 일 예로, 형세 판단 신경망의 트레이닝의 완료는 도 7의 형세 판단 손실이 소정의 값 이하가 된 경우일 수 있다.
본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 단말기의 형세 판단 요청에 의해 현재 바둑판 상태(S)가 형세 판단 모델(400a)에 입력되는 단계(S600)를 포함할 수 있다.
본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 형세 판단 모델(400a)이 입력된 현재 바둑판 상태(S)의 형세 판단을 수행하는 단계(S700)를 포함할 수 있다. 형세 판단을 수행하는 단계(S700)는 도 12에서 설명한 형세 판단 모델(400a)이 현재 바둑판 상태(S)의 형세값을 생성하는 설명을 따를 수 있다.
본 발명의 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 형세판단 모델 서버(400)가 형세 판단 결과를 출력하는 단계(S800)를 포함할 수 있다. 형세 판단 결과를 출력하는 단계(S800)는 도 12에서 설명한 형세판단 모델 서버(400)가 형세값, 바둑판의 상태, 소정의 임계값을 이용하여 형세 판단 결과를 제공하는 설명을 따를 수 있다.
따라서, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 딥러닝 신경망을 이용하여 바둑 형세를 판단할 수 있다. 또한, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 바둑 규칙에 따른 집, 사석, 돌, 공배, 빅을 정확히 구분하여 바둑의 형세를 정확히 판단할 수 있다. 또한, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 바둑 규칙에 따른 집, 사석, 돌, 공배, 빅을 예측하여 바둑의 형세를 정확히 판단할 수 있다. 또한, 실시예에 따른 딥러닝 기반의 바둑 게임 서비스 방법은 바둑 대국 중 신속하게 형세를 판단할 수 있다.
- 헛수 판단부
본 발명의 실시예에 따른 헛수 판단부(400b)는, 형세판단 모델 서버(400)가 포함하는 일 구성요소로서, 형세 판단 모델(400a)과 연동하여 형세 판단 모델(400a)을 통해 획득되는 바둑판 상태(S)의 형세값을 기반으로 바둑룰 차이에 따른 헛수를 방지할 수 있다. 여기서 헛수 판단은 착수 모델에 의해 예측된 최선의 수인 선결 착수점이 바둑룰의 차이를 고려하였을 때 헛수로 판별되는지를 판단하는 것이다. 예컨대, 헛수는 중국룰로 학습된 착수 모델을 기반으로 한국룰을 적용한 바둑 대국을 진행할 경우, 자기 집을 메우는 수, 상대 집을 메우는 수 또는 1선에 두는 수 등일 수 있다.
자세히, 헛수 판단부(400b)은 위와 같은 헛수 판단을 통하여 착수 모델 서버(300)로부터 획득되는 선결 착수점의 헛수 여부를 판단한 정보를 생성할 수 있고, 생성된 정보를 착수 모델 서버(300)로 제공하여 착수 모델 서버(300)가 최선의 착수를 수행하게 할 수 있다. 예를 들어, 착수 모델 서버(300)는 헛수 판단부(400b)의 특정 선결 착수점에 대한 헛수 판단을 통해 해당 특정 선결 착수점이 헛수라고 판단된 경우, 해당 특정 선결 착수점에 대한 착수를 회피할 수 있다. 반대로, 착수 모델 서버(300)는 해당 특정 선결 착수점이 헛수가 아닌 유의미한 수라고 판단된 경우 해당 특정 선결 착수점에 대한 착수를 수행할 수 있다.
보다 상세히, 먼저 형세 판단 모델(400a)은 착수 모델 서버(300)로부터 선결 착수점 정보를 입력 데이터로 획득할 수 있다. 즉, 착수 모델 서버(300)에서 신경망과 MCTS를 기반으로 도출된 착수점 정보를 수신할 수 있다. 또한, 형세 판단 모델(400a)은 입력 데이터로 수신된 선결 착수점 정보에 기초하여 형세값을 도출할 수 있고, 도출된 형세값에 기반하여 형세판단 값을 생성할 수 있다. 그리고 헛수 판단부(400b)는 도출된 형세판단 값, 이동확률 값(p) 및/또는 가치값(v)에 기초하여 바둑룰의 차이에 따른 헛수를 판단하여 헛수 판단정보를 생성할 수 있다.
자세히, 형세 판단 모델(400a)은 형세 판단의 결과로 도출된 형세값에 기반하여, 예측된 최종 형세의 유리/불리한 정도를 단일 수치로 환산한 값인 형세판단 값을 생성할 수 있다. 또한, 헛수 판단부(400b)은 형세 판단 모델(400a)로부터 생성된 형세판단 값과, 착수 모델 서버(300)로부터 선결 착수점을 도출한 시점의 선결 착수점에 대한 이동확률 값(p) 및/또는 가치값(v)을 입력 데이터로 수신할 수 있다. 그리고 헛수 판단부(400b)은 형세판단 값, 이동확률 값(p) 및/또는 가치값(v)과 소정의 임계치를 기반으로 각각의 값에 대한 임계치 초과여부를 판단할 수 있다. 이에 대한 자세한 설명은 후술하기로 한다. 또한, 각각의 값에 대한 임계치 초과여부를 판단한 헛수 판단부(400b)은 판단된 임계치 초과여부를 기반으로 해당 선결 착수점에 대한 헛수 판단정보를 생성하여 착수 모델 서버(300)로 제공할 수 있다.
도 19는 본 발명의 형세판단 모델 서버(400)의 헛수 판단부(400b) 구조를 설명하기 위한 도면이다. 도 19를 참조하면 위와 같은 헛수 판단을 위한 일련의 동작을 수행하기 위하여 형세판단 모델 서버(400)는, 위에서 기술한 형세 판단 모델(400a)과 헛수 판단부(440)를 포함할 수 있고, 형세 판단 모델(400a)과 헛수 판단부(440)를 상호 연동하여 동작하게 할 수 있다. 실시예에서, 헛수 판단부(400b)는 형세판단 값, 이동확률 값(p) 및/또는 가치값(v)을 소정의 임계치와 비교하여 각각의 값에 대한 임계치 초과여부를 판단할 수 있다. 즉, 형세판단 모델 서버(400)의 헛수 판단부(400b)는 본 발명의 실시예에 따라서 형세 판단 모델(400a)과 연동하여 바둑판 상태(S)의 형세를 판단해 헛수를 회피하는 프로세스를 구현하기 위한 일 구성요소일 수 있다. 이에 대한 자세한 설명은 이하의 딥러닝을 기반으로 바둑룰 차이에 따른 헛수를 회피하는 방법의 상세한 설명에서 후술하기로 한다. 또한, 본 실시예에서는 헛수 판단부(400b)가 형세판단 모델 서버(400)에 포함된다고 설명하나 다른 실시예에서는 헛수 판단부(400b)가 바둑서버(200) 및/또는 착수 모델 서버(300)에 포함되거나 별도의 장치로 구현되는 등 다양한 실시예가 가능할 것이다.
- 딥러닝을 기반으로 바둑룰 차이에 따른 헛수를 회피하는 방법
이하, 도면을 참조하여 딥러닝 신경망에 기초해 바둑 형세를 판단하고 바둑룰 차이에 따른 헛수를 방지하는 바둑 게임 서비스 제공방법에 대해 상세히 설명하고자 한다.
도 20은 본 발명의 실시예에 따른 딥러닝 신경망에 기초하여 바둑 형세를 판단해 바둑룰 차이에 따른 헛수를 판단하고 회피하는 방법을 설명하기 위한 흐름도이고, 도 21은 본 발명의 실시예에 따른 헛수 판단정보를 생성하고 이를 기반으로 헛수에 대한 착수를 회피하는 방법을 설명하기 위한 흐름도이다.
도 20 및 21을 참조하면, 먼저 착수 모델 서버(300)는 선결 착수정보를 생성하는 단계(S101)를 포함할 수 있다. 여기서, 선결 착수정보는 선결 착수점 정보, 해당 선결 착수점에 대한 이동확률 값(p) 및/또는 가치값(v) 중 적어도 하나 이상을 포함하는 정보일 수 있다. 자세히, 착수 모델 서버(300)는 착수 모델로부터 특정 바둑판 상태(S)에 대하여 결정된 최선의 수에 대한 정보인 선결 착수점 정보를 획득할 수 있다. 또한, 착수 모델 서버(300)는 착수 모델로부터 선결 착수점을 도출한 시점의 해당 선결 착수점에 대한 이동확률 값(p) 및/또는 가치값(v)을 획득할 수 있다. 그리고 착수 모델 서버(300)는 획득된 선결 착수점 정보, 이동확률 값(p) 및/또는 가치값(v) 중 적어도 하나 이상을 포함하는 선결 착수정보를 생성할 수 있다. 이후 선결 착수정보를 생성한 착수 모델 서버(300)는 생성된 선결 착수정보를 형세판단 모델 서버(400)로 송신할 수 있다.
다시 말하면, 형세판단 모델 서버(400)는 착수 모델 서버(300)로부터 생성된 선결 착수정보를 획득하는 단계(S103)를 포함할 수 있다. 자세히, 형세판단 모델 서버(400)는 착수 모델 서버(300)에서 예측된 최선의 수인 선결 착수점 정보를 입력 데이터로 수신할 수 있고, 해당 선결 착수점을 도출한 시점의 해당 선결 착수점에 대한 이동확률 값(p) 및/또는 가치값(v) 중 적어도 하나를 입력 데이터로 수신할 수 있다.
계속해서, 선결 착수정보를 획득한 형세판단 모델 서버(400)는 획득된 선결 착수정보를 기반으로 형세 판단을 수행하여 형세판단 값 정보를 생성하는 단계(S105)를 포함할 수 있다. 여기서, 형세판단 값은 형세판단 모델을 통해 예측된 최종 형세의 유리/불리한 정도를 단일 수치로 환산하여 생성된 값일 수 있다. 자세히, 형세판단 모델 서버(400)는 형세 판단 모델(400a)을 통해 획득된 선결 착수점이 적용된 바둑판의 모든 교차점에 대해 형세 판단을 수행하여 형세값을 도출할 수 있다. 이때, 형세 판단의 기준은 집, 사석, 돌 공배, 빅 등이 될 수 있다. 그리고 형세판단 모델 서버(400)는 도출된 형세값 및 소정의 임계값에 기초하여 형세판단 값을 생성할 수 있다. 예컨대, 형세판단 모델 서버(400)는 모든 교차점에 대한 형세값의 총합과 소정의 제1 임계값에 기반하여, 형세값이 제1 임계값을 초과한 경우 이에 매칭되는 소정의 단일 수치로 형세판단 값을 산출할 수 있고, 형세값이 제1 임계값 이하인 경우 이에 매칭되는 소정의 단일 수치로 형세판단 값을 산출할 수 있다. 그리고 이와 같이 형세판단 값을 산출한 형세판단 모델 서버(400)는, 산출된 형세판단 값에 기초하여 선결 착수점에 적용된 바둑판 상태(S)에 대한 유리/불리 정도를 나타내는 형세판단 값 정보를 생성할 수 있다.
다음으로, 형세판단 모델 서버(400)는 획득된 선결 착수정보에 기반하여 헛수 판단정보를 생성해 송신하는 단계(S107)를 포함할 수 있다. 자세히, 형세판단 모델 서버(400)는 헛수 판단부(400b)를 통하여, 착수 모델 서버(300)로부터 획득된 선결 착수점 정보를 기반으로 생성한 형세판단 값, 착수 모델 서버(300)로부터 수신된 이동확률 값(p) 및/또는 가치값(v) 중 적어도 하나를 기반으로, 착수 모델 서버(300)로부터 수신된 선결 착수점이 헛수인지 여부를 판단한 헛수 판단정보를 생성할 수 있다. 보다 상세히, 형세판단 모델 서버(400)는 형세판단 값, 이동확률 값(p) 및/또는 가치값(v) 중 적어도 하나의 각 파라미터에 대한 임계값 초과여부를 파악하여, 중국룰로 학습된 착수 모델을 이용하여 한국룰을 적용한 바둑 대국을 진행할 경우의 헛수를 판단할 수 있다.
도 21을 더 참조하면, 먼저 형세판단 모델 서버(400)는 생성된 형세판단 값 정보에 대한 임계값 초과여부를 판단하는 단계(S201)를 포함할 수 있다. 자세히, 형세판단 모델 서버(400)는 선결 착수점 정보를 기반으로 생성된 형세판단 값이, 형세판단 값을 기반으로 임계치 초과여부를 판단하기 위한 소정의 임계치인 형세판단 임계치를 초과한 경우, 해당 선결 착수점을 헛수로 판단하여 착수 부적합 정보를 포함하는 헛수 판단정보를 생성할 수 있다. 이와 같이 헛수를 판단하는 근거는 일반적으로 중국룰에 기초하여 판단된 바둑판 형세의 유/불리를 나타내는 형세판단 값이 일정 수준 이상인 경우 즉, 일정 수준 이상으로 유리한 경우 이는 내 집을 메우는 수 또는 상대 집을 메우는 수일 가능성이 높다는 것이다. 이러한 경우의 수는 한국룰을 적용한 바둑 대국 시에 계가 점수가 감산되는 헛수일 가능성이 있으므로, 형세판단 모델 서버(400)는 형세판단 값이 형세판단 임계치를 초과한 경우에 해당 선결 착수점을 헛수로 판단할 수 있다.
반면, 형세판단 값이 형세판단 임계치 이하인 경우 형세판단 모델 서버(400)는 이동확률 값(p) 정보에 대한 임계값 초과여부를 판단하는 단계(S203)를 포함할 수 있다. 자세히, 형세판단 모델 서버(400)는 착수 모델 서버(300)로부터 획득된 이동확률 값(p)이, 이동확률 값(p)을 기반으로 임계치 초과여부를 판단하기 위한 소정의 임계치인 이동확률 임계치 이하인 경우, 해당 선결 착수점을 헛수로 판단하여 착수 부적합 정보를 포함하는 헛수 판단정보를 생성할 수 있다. 이와 같이 헛수를 판단하는 근거는 일반적으로 착수 모델에 의하여 정책 네트워크(Policy Network)를 통해 산출되는 이동확률 값(p)(Prior Probability)은 학습용 기보에 의존하는데, 이 값이 낮다는 것은 잘 두지 않는 수를 의미하기에 헛수일 가능성이 높다는 것이다. 그러므로 형세판단 모델 서버(400)는 이동확률 값(p)이 이동확률 임계치 이하인 경우에 해당 선결 착수점을 헛수로 판단할 수 있다.
한편, 형세판단 모델 서버(400)는 이동확률 값(p)이 이동확률 임계치를 초과하는 경우 가치값(v) 정보에 대한 임계값 초과여부를 판단하는 단계(S205)를 포함할 수 있다. 자세히, 형세판단 모델 서버(400)는 착수 모델 서버(300)로부터 획득된 가치값(v)이, 가치값(v)을 기반으로 임계치 초과여부를 판단하기 위한 소정의 임계치인 가치 임계치를 초과한 경우, 해당 선결 착수점을 헛수로 판단하여 착수 부적합 정보를 포함하는 헛수 판단정보를 생성할 수 있다. 이와 같이 헛수를 판단하는 근거는 일반적으로 이상의 두 가지 조건 즉, 형세판단 값이 형세판단 임계치 이하이며 이동확률 값(p)이 이동확률 임계치를 초과하는 조건을 만족할 때, 중국룰에 기초해 판단된 가치값(v)(즉, 예측 승률)이 일정 수준 이상인 경우 이는 내 집을 메우는 수일 가능성이 높다는 것이다. 자세히, 이는 중국룰에서 내 집을 메우는 수가 계가 시 점수에 영향을 주지 않는 것으로부터 기인할 수 있다. 즉, 중국룰에 기반하였을 때 가치값(v)이 일정 수준 이하인 경우(예측 승률이 낮은 경우)에는 내 집을 메우는 수를 둘 가능성이 낮으나, 가치값(v)이 일정 수준 이상인 경우(예측 승률이 높은 경우)에는 내 집을 메우는 수를 둘 가능성이 높다. 이때, 내 집을 메우는 수는 한국룰을 적용한 바둑 대국 시에 계가 점수가 감산되는 헛수일 가능성이 있으므로, 형세판단 모델 서버(400)는 가치값(v)이 가치 임계치를 초과한 경우에 해당 선결 착수점을 헛수로 판단할 수 있다.
계속해서, 형세판단 모델 서버(400)는 가치값(v)이 가치 임계치 이하인 경우, 해당 선결 착수점을 헛수가 아닌 수 즉, 유의미한 수로 판단하는 헛수 판단정보를 생성할 수 있다. 즉, 형세판단 모델 서버(400)는 형세판단 값이 형세판단 임계치 이하이고, 이동확률 값(p)이 이동확률 임계치 이상이며, 가치값(v)이 가치 임계치 이하일 경우 해당 선결 착수점을 헛수가 아니라고 판단할 수 있고, 이를 기반으로 해당 선결 착수점에 대한 착수가 적합함을 나타내는 착수 적합 정보를 포함하여 헛수 판단정보를 생성할 수 있다. 그리고 형세판단 모델 서버(400)는, 생성된 헛수 판단정보를 착수 모델 서버(300)로 송신할 수 있다. 자세히, 형세판단 모델 서버(400)는 선결 착수점을 헛수라고 판단한 정보 또는 선결 착수점을 유의미한 수라고 판단한 정보 중 어느 하나를 포함하는 헛수 판단정보를 생성하여 착수 모델 서버(300)로 송신할 수 있다.
이후, 헛수 판단정보를 수신한 착수 모델 서버(300)는 형세판단 모델 서버(400)로부터 수신된 헛수 판단정보를 기반으로 선결 착수점에 대한 착수 여부를 결정하는 단계(S109)를 포함할 수 있다. 자세히, 착수 모델 서버(300)는 착수 결정부(340)를 통하여, 수신된 헛수 판단정보가 착수 적합 정보를 포함하는 경우 해당 선결 착수점에 대한 착수가 적합하다고 판단하고 착수를 수행할 수 있다. (S111, S207) 즉, 착수 모델 서버(300)는 착수 모델을 통해 예측된 선결 착수점에 대하여 형세판단 모델 서버(400)가 해당 선결 착수점의 착수가 적합하다고 판단한 경우에 해당 선결 착수점에 대한 착수를 수행할 수 있다.
한편, 착수 모델 서버(300)는 수신된 헛수 판단정보가 착수 부적합 정보를 포함하는 경우, 후행 선결 착수점의 존재 여부를 파악하는 단계(S113, S209)를 포함할 수 있다. 여기서, 후행 선결 착수점 즉, 대응수는 이전에 예측된 선결 착수점 다음으로 최고의 수라고 판단된 착수점일 수 있다. 즉, 착수 모델 서버(300)는 착수 모델의 신경망 및 MCTS를 통하여 최고의 수라고 예측된 선결 착수점에 대해 헛수 판단이 이루어진 이후, 해당 선결 착수점이 헛수라고 판단된 경우에는 다시 착수 모델의 신경망 및 MCTS를 통해 선결 착수점 도출 동작을 반복할 수 있고, 이전의 예측된 선결 착수점 다음으로 최고의 수라고 판단되는 후행 선결 착수점이 존재하는지 판단할 수 있다.
이때, 착수 모델 서버(300)는 후행 선결 착수점이 존재한다고 판단된 경우, 해당 후행 선결 착수점에 대한 선결 착수정보를 획득(S101)할 수 있고, 획득된 선결 착수정보를 형세판단 모델 서버(400)로 송신하여 헛수 판단정보 생성 동작을 반복적으로 수행하게 할 수 있다.
반면, 착수 모델 서버(300)는 후행 선결 착수점이 존재하지 않는다고 판단된 경우, 후행 선결 착수점이 존재하지 않는다는 판단을 포함하는 후행 선결 착수점 판단정보를 형세판단 모델 서버(400)로 송신할 수 있다. 이때, 위와 같은 후행 선결 착수점 판단정보를 수신한 형세판단 모델 서버(400)는, 바둑판 상태(S)에 대한 공배 존재 여부를 판단하여 공배 정보를 생성해 송신하는 단계(S115)를 포함할 수 있다. 자세히, 형세판단 모델 서버(400)는 형세 판단 모델(400a)에 의한 형세 판단을 통하여 바둑판 상에 공배가 존재하는지 여부를 판단할 수 있다. 그리고 형세판단 모델 서버(400)는, 판단된 공배 존재 여부를 기반으로 공배의 유무 및/또는 위치를 나타내는 공배 정보를 생성할 수 있고, 생성된 공배 정보를 착수 모델 서버(300)로 송신할 수 있다.
다음으로, 공배 정보를 획득한 착수 모델 서버(300)는 수신된 공배 정보에 기초하여 공배 존재 여부를 파악하는 단계(S117, S211)를 포함할 수 있다. 자세히, 착수 모델 서버(300)는 착수 결정부를 통해 수신된 공배 정보를 기반으로 바둑판 상태(S)의 공배유무를 파악할 수 있다. 이때, 착수 모델 서버(300)는 공배가 존재한다고 파악된 경우 해당 바둑판 상태(S)로부터 도출된 공배의 위치 중 어느 하나를 후행 선결 착수점으로 결정할 수 있다. 그리고 착수 모델 서버(300)는, 결정된 후행 선결 착수점에 대한 선결 착수정보를 획득(S101)할 수 있고 획득된 선결 착수정보를 형세판단 모델 서버(400)로 송신하여 헛수 판단정보 생성 동작을 반복적으로 수행하게 할 수 있다.
반면, 착수 모델 서버(300)는 수신된 공배 정보를 기반으로 바둑판 상태(S)에 공배가 미존재한다고 파악된 경우, 바둑판 상태(S)에 대한 착수 동작을 패스(pass)하는 단계(S119, S213)를 포함할 수 있다. 즉, 착수 모델 서버(300)는 선결 착수점이 헛수로 판단되고, 후행 선결 착수점이 존재하지 않으며, 바둑판 상에 공배 또한 존재하지 않을 경우 착수를 패스하여 해당 바둑판 상태(S)에 대한 더 이상의 착수 동작을 미수행할 수 있다. 또한, 착수 모델 서버(300)는 착수 동작에 대한 패스를 통해 바둑 대국의 진행을 종료할 수도 있다.
이상, 본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 바둑 규칙에 따른 집, 사석, 돌, 공배, 빅을 정확히 구분하여 바둑의 형세를 예측함으로써 바둑룰 차이에 따른 헛수를 정확하게 판단할 수 있다.
또한, 본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 바둑룰 차이에 따른 헛수를 판단하고 이에 대한 착수를 방지함으로써, 다른 바둑룰을 적용한 바둑 대국의 수행 시의 착수 기력을 향상시킬 수 있다.
또한, 본 발명의 실시예에 따른 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치는, 바둑룰 차이에 따른 헛수를 방지하고 이에 대한 대응수를 도출하여 유의미한 착수를 구현함으로써, 다른 바둑룰의 기준에 보다 부합하는 경기 진행을 도모할 수 있다.
또한, 이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, “필수적인”, “중요하게” 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.
또한 설명한 본 발명의 상세한 설명에서는 본 발명의 바람직한 실시 예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자 또는 해당 기술분야에 통상의 지식을 갖는 자라면 후술할 특허청구범위에 기재된 본 발명의 사상 및 기술 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다. 따라서, 본 발명의 기술적 범위는 명세서의 상세한 설명에 기재된 내용으로 한정되는 것이 아니라 특허청구범위에 의해 정하여져야만 할 것이다.
100 단말기
200 바둑서버
300 착수 모델 서버
310 탐색부
320 셀프 플레이부
330 착수 신경망
340 착수 결정부
400 형세판단 모델 서버
400a 형세 판단 모델
410 형세 판단 신경망
420 입력 특징 추출부
430 정답 레이블 생성부
400b 헛수 판단부

Claims (10)

  1. 복수의 기보, 선결 착수점, 이동확률 값 및 가치값을 수신하는 통신부;
    형세 판단 모델 및 헛수 판단부를 저장하는 저장부; 및
    상기 형세 판단 모델을 독출하여 상기 형세 판단 모델의 학습을 수행하고 상기 학습된 형세 판단 모델을 이용하여 상기 선결 착수점이 적용된 바둑판의 형세를 판단하며, 상기 판단된 형세를 기반으로 상기 선결 착수점에 대한 헛수 여부를 판단한 정보인 헛수 판단정보를 생성하는 프로세서;를 포함하고,
    상기 형세 판단 모델은,
    입력된 바둑판 상태에서 입력 특징을 추출하는 입력 특징 추출부; 및
    상기 추출된 입력 특징을 기초하여 상기 입력된 바둑판 상태의 교차점에 대한 형세값을 생성하는 형세 판단 신경망;을 포함하고,
    상기 헛수 판단부는,
    상기 선결 착수점과 상기 형세값들을 합하여 형세판단 값을 생성하고,
    상기 형세판단 값, 상기 이동확률 값 및 상기 가치값 중 적어도 하나를 기반으로 상기 헛수 판단정보를 생성하고,
    상기 헛수 판단부는,
    상기 형세판단 값이 형세판단 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 형세판단 값이 상기 형세판단 임계치 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 이동확률 값이 이동확률 임계치를 초과하면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 이동확률 값이 상기 이동확률 임계치 초과하지 않으면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 가치값이 가치 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 가치값이 상기 가치 임계치 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하는
    형세판단 모델 서버.
  2. 삭제
  3. 복수의 기보를 수신하는 통신부;
    착수 모델을 저장하는 저장부; 및
    상기 착수 모델을 독출하여 상기 착수 모델의 학습을 수행하고 상기 학습된 착수 모델을 이용하여 바둑판 상태에 기반한 선결 착수점을 생성하며, 생성된 상기 선결 착수점에 대한 이동확률 값 및 가치값 중 적어도 하나를 도출하는 프로세서를 포함하고,
    상기 착수 모델은,
    몬테 카를로 트리 서치(Monte Carlo Tree Search; MCTS)를 기반으로 상기 선결 착수점을 제공하는 탐색부; 와, 상기 탐색부를 가이드하는 착수 신경망; 및 헛수 판단정보를 입력 데이터로 획득하는 착수 결정부;를 포함하고,
    상기 착수 결정부는,
    상기 헛수 판단정보를 기반으로, 상기 탐색부가 후행 선결 착수점을 도출하게 하거나, 상기 선결 착수점에 대한 착수를 수행 또는 패스(pass)하도록 결정하고,
    상기 프로세서는, 상기 선결 착수점과 바둑판 상태의 교차점에 대한 형세값을 기초로 생성된 형세판단 값을 획득하고, 상기 형세판단 값, 상기 이동확률 값 및 상기 가치값 중 적어도 하나를 기반으로 상기 헛수 판단정보를 생성하고, 상기 형세판단 값이 형세판단 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 형세판단 값이 상기 형세판단 임계치 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 이동확률 값이 이동확률 임계치를 초과하면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 이동확률 값이 상기 이동확률 임계치 초과하지 않으면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 가치값이 가치 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고, 상기 가치값이 상기 가치 임계치 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하는
    착수 모델 서버.
  4. 제 3 항에 있어서,
    상기 통신부는, 공배 정보를 포함한 형세 판단 정보를 획득하고,
    상기 탐색부는, 상기 착수 결정부의 요청에 따른 상기 후행 선결 착수점을 도출할 수 없다면, 상기 공배 정보에 기반하여 공배의 위치로 상기 후행 선결 착수점을 결정하는
    착수 모델 서버.
  5. 통신부, 형세 판단 모델 및 헛수 판단부가 저장된 저장부, 상기 형세 판단 모델 및 상기 헛수 판단부를 구동하는 프로세서를 포함하는 형세판단 모델 서버에 의해 바둑판 상태의 형세를 판단하여 바둑룰 차이에 따른 헛수를 회피하는 딥러닝 기반의 바둑 게임 서비스 방법에 있어서,
    상기 통신부가 착수 모델 서버로부터 선결 착수점, 이동확률 값 및 가치값 중 적어도 하나의 정보를 포함하는 선결 착수정보를 획득하는 단계;
    상기 형세 판단 모델이 상기 선결 착수점이 적용된 바둑판 상태의 형세를 판단하는 단계;
    상기 형세 판단 모델이 상기 판단된 형세를 기반으로 형세판단 값을 생성하는 단계; 및
    상기 헛수 판단부가 상기 형세판단 값, 이동확률 값 및 가치값 중 적어도 하나를 기반으로 헛수 판단정보를 생성하는 단계를 포함하고,
    상기 헛수 판단정보는,
    상기 선결 착수점이 적용된 바둑판 상태에 대한 형세 판단을 기반으로 상기 선결 착수점이 헛수인지 여부를 판단한 정보이고,
    상기 판단된 형세를 기반으로 형세판단 값을 생성하는 단계는,
    상기 판단된 형세를 기초로 상기 바둑판의 모든 교차점에 대한 형세값을 획득하고, 상기 획득된 형세값을 기초로 상기 형세판단 값을 생성하는 단계를 포함하고,
    상기 헛수 판단부는,
    상기 형세판단 값이 형세판단 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고,
    상기 형세판단 값이 상기 형세판단 임계치를 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고,
    상기 이동확률 값이 이동확률 임계치를 초과하면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하고,
    상기 이동확률 값이 상기 이동확률 임계치를 초과하지 않으면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고,
    상기 가치값이 가치 임계치를 초과하면 착수 부적합 정보를 포함하는 상기 헛수 판단정보를 생성하고,
    상기 가치값이 상기 가치 임계치를 초과하지 않으면 착수 적합 정보를 포함하는 상기 헛수 판단정보를 생성하는
    딥러닝을 기초로 바둑 게임 서비스를 제공하는 방법.
  6. 삭제
  7. 삭제
  8. 제 5 항에 있어서,
    상기 형세 판단 모델이 상기 바둑판 상태에 대한 공배유무를 판단하는 단계를 더 포함하고,
    상기 공배유무를 판단하는 단계는,
    상기 판단된 공배유무에 기초하여 공배의 유무 및 위치 정보를 포함하는 공배 정보를 생성하여 상기 착수 모델 서버로 송신하는 단계를 포함하는
    딥러닝을 기초로 바둑 게임 서비스를 제공하는 방법.
  9. 제 8 항에 있어서,
    상기 공배 정보를 생성하여 상기 착수 모델 서버로 송신하는 단계는,
    상기 공배 정보를 기반으로 상기 착수 모델 서버가 후행 선결 착수점에 대한 도출을 제어하게 하는 단계를 포함하는
    딥러닝을 기초로 바둑 게임 서비스를 제공하는 방법.
  10. 삭제
KR1020190085323A 2019-07-15 2019-07-15 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치 KR102299135B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190085323A KR102299135B1 (ko) 2019-07-15 2019-07-15 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190085323A KR102299135B1 (ko) 2019-07-15 2019-07-15 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20210008752A KR20210008752A (ko) 2021-01-25
KR102299135B1 true KR102299135B1 (ko) 2021-09-07

Family

ID=74238077

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190085323A KR102299135B1 (ko) 2019-07-15 2019-07-15 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치

Country Status (1)

Country Link
KR (1) KR102299135B1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102591226B1 (ko) * 2021-05-26 2023-10-19 엔에이치엔클라우드 주식회사 딥러닝 기반 바둑 게임 서비스의 긴 축 방지 방법 및 그 장치
KR102595656B1 (ko) * 2021-05-26 2023-10-30 엔에이치엔클라우드 주식회사 딥러닝 기반의 장기 게임 서비스 방법 및 그 장치

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090120054A (ko) * 2008-05-19 2009-11-24 (주)에이아이바둑 인공지능 프로그램 바둑의 대국 디스플레이 방법
KR20150129265A (ko) 2014-05-09 2015-11-19 숭실대학교산학협력단 바둑 대국을 위한 인공지능 서비스 제공 방법 및 서버

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"AlphaGo의 인공지능 알고리즘 분석", 추형석 외 2명, SPRi 소프트웨어정책연구소, SPRi Issue Report 제2016-002호 ver.1.0(2016.03.03.)*
"세기의 대결, 알파고의 역습", 인터넷 cyberoro 뉴스 기사(2016.03.08.)*

Also Published As

Publication number Publication date
KR20210008752A (ko) 2021-01-25

Similar Documents

Publication Publication Date Title
KR102316930B1 (ko) 딥러닝 기반의 바둑 게임 서비스 방법 및 그 장치
KR102299140B1 (ko) 딥러닝을 기반으로 하는 바둑 게임 서비스 방법 및 그 장치
KR102523888B1 (ko) 가상 환경에서 가상 객체를 스케줄링하기 위한 방법, 장치 및 디바이스
US20240135251A1 (en) Artificial intelligence controller that procedurally tailors itself to an application
US11157316B1 (en) Determining action selection policies of an execution device
JP7399277B2 (ja) 情報処理方法、装置、コンピュータプログラム及び電子装置
KR102299135B1 (ko) 딥러닝에 기초하여 바둑 게임 서비스를 제공하는 방법 및 장치
KR102299138B1 (ko) 딥러닝 기반의 바둑 게임 서비스 방법 및 그 장치
CN110327624B (zh) 一种基于课程强化学习的游戏跟随方法和系统
KR102286010B1 (ko) 딥러닝 기반의 바둑 게임 서비스 방법 및 그 장치
CN114494718A (zh) 一种图像分类方法、装置、存储介质及终端
CN113561986A (zh) 自动驾驶汽车决策方法及装置
KR102299141B1 (ko) 딥러닝 기반의 바둑 게임 서비스 제공 방법 및 장치
CN111282272B (zh) 信息处理方法、计算机可读介质及电子设备
US11738271B2 (en) Method and apparatus for predicting game difficulty by using deep-learning based game play server
CN111701246A (zh) 一种游戏ai的决策配置方法和装置
KR102292046B1 (ko) 딥러닝 기반의 바둑 게임 서비스 방법 및 그 장치
CN111753855B (zh) 一种数据处理方法、装置、设备及介质
KR102595656B1 (ko) 딥러닝 기반의 장기 게임 서비스 방법 및 그 장치
KR102537471B1 (ko) 딥러닝 기반의 바둑 게임 서비스 연산시간 관리 방법 및 그 장치
KR102572342B1 (ko) 딥러닝 기반의 바둑 게임 서비스 시뮬레이션 횟수 관리 방법 및 그 장치
KR102591226B1 (ko) 딥러닝 기반 바둑 게임 서비스의 긴 축 방지 방법 및 그 장치
KR102628188B1 (ko) 딥러닝 기반 불완전 정보 게임 서비스 제공 방법 및 그 장치
KR102595660B1 (ko) 딥러닝 기반 불완전 정보 게임 서비스 제공 방법 및 그 장치
CN116776751B (zh) 一种智能决策算法模型设计开发辅助系统

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant