KR102585365B1 - 볼륨메트릭 3d 모델 복원 품질향상을 위한 드론 촬영 제어 방법 - Google Patents

볼륨메트릭 3d 모델 복원 품질향상을 위한 드론 촬영 제어 방법 Download PDF

Info

Publication number
KR102585365B1
KR102585365B1 KR1020210142422A KR20210142422A KR102585365B1 KR 102585365 B1 KR102585365 B1 KR 102585365B1 KR 1020210142422 A KR1020210142422 A KR 1020210142422A KR 20210142422 A KR20210142422 A KR 20210142422A KR 102585365 B1 KR102585365 B1 KR 102585365B1
Authority
KR
South Korea
Prior art keywords
image
drone
electronic device
feature points
vector information
Prior art date
Application number
KR1020210142422A
Other languages
English (en)
Other versions
KR20230058788A (ko
Inventor
소요환
우상혁
김선호
방성식
김소영
이윤석
Original Assignee
한남대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한남대학교 산학협력단 filed Critical 한남대학교 산학협력단
Priority to KR1020210142422A priority Critical patent/KR102585365B1/ko
Publication of KR20230058788A publication Critical patent/KR20230058788A/ko
Application granted granted Critical
Publication of KR102585365B1 publication Critical patent/KR102585365B1/ko

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/17Terrestrial scenes taken from planes or by drones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Remote Sensing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Automation & Control Theory (AREA)
  • Image Processing (AREA)

Abstract

본 발명의 실시예에 따른 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법은 전자장치가 드론으로부터 서로 연속된 제1 이미지 및 제2 이미지를 전송받는 단계; 전자장치가 상기 제1 이미지 및 상기 제2 이미지에 대한 세그멘테이션(segmentation)을 수행하는 단계; 전자장치가 세그멘테이션의 수행결과에 따라 상기 제1 이미지 및 상기 제2 이미지에 대한 특징점을 도출하는 단계; 전자장치가 상기 제1 이미지의 특징점과 상기 제2 이미지의 특징점 사이의 벡터 정보를 도출하는 단계; 및 전자장치가 상기 벡터 정보에 따라 상기 드론의 비행을 제어하는 제어신호를 상기 드론으로 전송하는 단계를 포함한다.

Description

볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법{METHOD FOR CONTROLLING SHOOTING IMAGE OF DRONE FOR IMPROVING QUALITY OF RESTORING VOLUME METRY 3D MODEL}
본 발명은 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법에 관한 것이다.
건물과 같은 대형 오브젝트의 형상 복원을 위해 포토메트리 스테레오(photometry stereo) 기법이 많이 사용된다.
포토메트리 스테레오 기법은 촬영 범위가 넓기 때문에 대부분 드론을 이용한 쵤영을 한다.
포토메트리 스테레오의 최종 복원 결과물의 품질을 향상시키려면 여러가지 주의사항을 숙지하고 촬영해야 한다.
등록특허 10-1625634 (공고일 : 2016년05월31일)
본 발명의 실시예에 따른 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법은 포토메트리 스테레오의 최종 복원 결과물의 품질을 향상시키기 위한 드론 제어 방법을 제공하기 위한 것이다.
본 출원의 과제는 이상에서 언급한 과제로 제한되지 않으며, 언급되지 않는 또 다른 과제는 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일측면에 따르면, 전자장치가 드론으로부터 서로 연속된 제1 이미지 및 제2 이미지를 전송받는 단계; 전자장치가 상기 제1 이미지 및 상기 제2 이미지에 대한 세그멘테이션(segmentation)을 수행하는 단계; 전자장치가 세그멘테이션의 수행결과에 따라 상기 제1 이미지 및 상기 제2 이미지에 대한 특징점을 도출하는 단계; 전자장치가 상기 제1 이미지의 특징점과 상기 제2 이미지의 특징점 사이의 벡터 정보를 도출하는 단계; 및 전자장치가 상기 벡터 정보에 따라 상기 드론의 비행을 제어하는 제어신호를 상기 드론으로 전송하는 단계를 포함하는 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법이 제공된다.
상기 전자장치는 상기 드론과 피사체와의 거리가 설정 범위 이내가 되도록 하는 상기 제어신호를 상기 드론으로 전송할 수 있다.
상기 전자장치는 상기 제1 이미지 및 상기 제2 이미지 중 하나의 영역에 대한 상기 제1 이미지 및 상기 제2 이미지의 중복 영역의 비율이 기준값보다 클 경우 상기 세그멘테이션을 수행할 수 있다.
상기 전자장치는 상기 복수의 벡터 정보들에 대한 평균 정보를 도출하고, 상기 벡터 정보들 중 상기 평균 정보와의 편차가 기준값을 이내인 벡터 정보에 따라 상기 제어신호를 도출할 수 있다.
상기 전자장치는 상기 제2 이미지의 특징점들 중 상기 제1 이미지의 특징점과 기준 거리 이내의 특징점으로 상기 벡터 정보를 도출할 수 있다.
본 발명의 실시예에 따른 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법은 특징점을 통한 벡터 정보를 이용하는 드론 제어 방법을 제공할 수 있다.
본 출원의 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급되지 않는 또 다른 효과는 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법을 구현하기 위한 시스템 일례이다.
도 2는 도 1의 전자장치의 구성 일례를 나타낸다.
도 3은 드론 구성의 일례를 나타낸다.
도 4는 본 발명의 실시예에 따른 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법을 나타낸다.
도 5는 제1 이미지 및 제2 이미지에 대한 세그멘테이션의 일례를 나타낸다.
도 6은 제1 이미지 및 제2 이미지에서의 특징점의 일례를 나타낸다.
도 7 및 도 10은 특징점을 통한 벡터 정보의 도출 일례를 나타낸다.
도 8은 포토메트리 스테레오 기법을 통한 최종 복원 결과물의 품질 향상을 위한 조건의 일례를 나타낸다.
도 9는 포토메트리 스테레오 기법으로 도출된 최종 복원 결과물의 일례를 나타낸다.
이하 본 발명의 실시예에 대하여 첨부한 도면을 참조하여 상세하게 설명하기로 한다. 다만, 첨부된 도면은 본 발명의 내용을 보다 쉽게 개시하기 위하여 설명되는 것일 뿐, 본 발명의 범위가 첨부된 도면의 범위로 한정되는 것이 아님은 이 기술분야의 통상의 지식을 가진 자라면 용이하게 알 수 있을 것이다.
또한, 본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
도 1은 본 발명의 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법(이하, 드론 촬영 제어 방법)을 구현하기 위한 시스템 일례이다. 도 2는 도 1의 전자장치(101)의 구성 일례를 나타낸다.
본 개시의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 전자 장치는 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버(server), 또는 웨어러블 장치(wearable device)(예: 스마트 안경, 머리 착용형 장치(head-mounted-device(HMD)), 또는 스마트 와치(smart watch))중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 또는 사물 인터넷 장치(internet of things) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 개시의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
도 2에 도시된 바와 같이, 전자 장치(101)는 프로세서(120), 메모리(130), 버스(110), 입출력 인터페이스(150), 디스플레이(160), 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)는, 상기 구성요소들 중 적어도 하나를 생략하거나 다른 구성 요소를 추가적으로 구비할 수 있다.
버스(110)는, 예를 들면, 상기 구성요소들을 서로 연결하고, 상기 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, MCU(Micro Controller Unit), CPU(Central Processing Unit), AP(Application Processor), CP(Communication Processor), GPU(Graphic Processing Unit), 및 DPU(Data Processing Unit) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)은, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 예를 들어, 휘발성 메모리는 RAM을 포함할 수 있으며, 비휘발성 메모리는 ROM, HDD, ODD, SDD, 및 플래쉬 메모리 중 적어도 하나를 포함할 수 있으나 이에 한정되는 것은 아니다.
메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다.
프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(application programming interface(API))(145), 및/또는 어플리케이션 프로그램(또는 “어플리케이션”)(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(operating system(OS))라 불릴 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)로부터 수신된 작업 요청들과 관련하여, 예를 들면, 어플리케이션 프로그램(147) 중 적어도 하나의 어플리케이션에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 배정하는 등의 방법을 이용하여 작업 요청에 대한 제어(예: 스케쥴링 또는 로드 밸런싱)을 수행할 수 있다.
API(145)는, 예를 들면, 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 화상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
도면에는 도시되어 있지 않으나 프로그램(140)은, 예를 들면, 펌웨어(firmware)를 포함할 수도 있다. 펌웨어는 기계어 처리, 데이터 전송, 리스트 처리, 부동 소수점 연산, 채널 제어 등을 수행할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(150)는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다. 예를 들어, 입출력 인터페이스(150)는 시리얼 포트, 패러렐 포트, PS/2, ADB, SCSI, USB, HDMI, DVI-I, 썬더볼트일 수 있으나 이에 한정되는 것은 아니다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 드론(300), 외부 전자 장치(104), 또는 네트워크) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 통신할 수 있다.
무선 통신은, 예를 들면, 블루투스 통신 프로토콜, NFC 통신 프로토콜, 지그비 통신 프로토콜, 와이파이 통신 프로토콜, 셀룰러 통신 프로토콜 중 적어도 하나를 사용할 수 있으나 이에 한정되는 것은 아니다. 셀룰러 통신 프로토콜은, 예를 들면, LTE, LTE-A, CDMA, WCDMA, UMTS, WiBro, 또는 GSM, IMT-2020 등 중 적어도 하나를 사용할 수 있으나 이에 한정되는 것은 아니다.
유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard(232)), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있으나 이에 한정되는 것은 아니다.
네트워크(162)는 LAN, WAN, 인터넷, 인트라넷, 전화망(telephone network) 및 블록체인 중 적어도 하나를 포함할 수 있으나 이에 한정되는 것은 아니다.
도 3은 드론(300) 구성의 일례를 나타낸다. 도 3에 도시된 바와 같이, 드론(300)은 입력부(310), 통신부(320), 구동부(330), 메모리(340), 전원부(350), 카메라(360) 및 프로세서(370)를 포함할 수 있다.
입력부(310)는 사용자의 입력을 감지할 수 있다. 예를 들어, 입력부(310)는 사용자 제스쳐를 감지하는 제스쳐 입력부 (예를 들어 (optical [0044] sensor) 등), 터치를 감지하는 터치 입력부(예를 들어, 터치 센서(touch sensor), 터치키(touch key), 푸시키(mechanical key) 등), 사용자 단말기, 음성 입력을 감지하는 마이크로폰(microphone) 및 원격 리모콘, 이동 단말기 중 적어도 하나 이상을 포함하여, 사용자 입력을 감지할 수 있다.
통신부(320)는, 카메라(360)가 촬영한 영상을 전자장치(101)로 송신할 수 있다. 또한, 통신부(320)는, 전자장치(101)로부터 전송된 제어신호를 수신할 수 있다.
프로세서(370)는 제어신호에 따라 구동부(330)를 제어하여, 드론(300)의 비행을 제어할 수 있다. 이와 같은 프로세서(370)는 CPU, AP, 및 마이크로 컨트롤러 중 적어도 하나를 포함할 수 있으나 이에 한정되는 것은 아니다.
통신부(320)는, 전자장치(101)와 무선(wireless) 방식으로 데이터를 교환할 수 있다. 무선 데이터 통신 방식으로는 블루투스(Bluetooth), WiFi, 2세대 내지 5세대의 이동통신 등 다양한 데이터 통신 방식이 가능할 수 있다.
구동부(330)는 프로펠러와 같은 추진수단에 동력을 공급하고 추진수단의 추진 방향을 제어하여 드론(300)의 이동방향 및 이동속도를 제어할 수 있다.
메모리(340)는 프로세서(370)의 처리 또는 제어를 위한 프로그램 등 드론(300) 전반의 동작을 위한 다양한 데이터, 이미지 데이터, 프로그램, 로직 및 명령어를 저장할 수 있다.
전원부(350)는, 프로세서(370)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 이러한 전원부(350)는, 드론(300) 내부의 배터리일 수 있다.
이와 같은 드론(300)의 구성은 일례일 뿐 본 발명이 이와 같은 드론(300)의 구성에 한정되는 것은 아니다.
도 4는 본 발명의 실시예에 따른 드론(300) 촬영 제어 방법을 나타낸다. 도 4에 도시된 바와 같이, 본 발명의 실시예에 따른 드론(300) 촬영 제어 방법은 전자장치(101)가 드론(300)으로부터 서로 연속된 제1 이미지 및 제2 이미지를 전송받는 단계(S310)를 포함한다.
예를 들어, 드론(300)의 카메라는 1초당 복수개 프레임의 이미지를 생성할 수 있으며, 제1 이미지가 n 번째 프레임에 해당되고 제2 이미지는 n+1번째 프레임에 해당될 수 있다.
본 발명의 실시예에 따른 드론 촬영 제어 방법은, 전자장치(101)가 제1 이미지 및 제2 이미지에 대한 세그멘테이션(segmentation)을 수행하는 단계(S320)를 포함한다.
세그멘테이션은 속성별로 이미지의 영역을 분할하는 것을 의미할 수 있다. 또는, 세그멘테이션은 이미지의 각 픽셀 별로 속성값을 할당하는 과정일 수 있다. 예를 들어, 상기 속성은 물체의 종류가 될 수 있다. 이 경우 이미지 세그멘테이션은 이미지에 포함된 물체를 픽셀 별로 분할하는 것을 의미할 수 있다. 또는, 세그멘테이션은 특정 픽셀이 어떤 물체에 대응되는 픽셀인지 나타내는 것을 의미할 수 있다.
도 5는 제1 이미지 및 제2 이미지에 대한 세그멘테이션의 일례를 나타낸다. 도 5에 도시된 바와 같이, 전자장치(101)는 드론(300)에 의하여 생성된 연속된 제1 이미지 및 제2 이미지에 대하여 세그멘테이션을 수행할 수 있다. 이를 통하여 제1 이미지 및 제2 이미지에 포함된 다양한 피사체의 경계가 추출될 수 있다.
본 발명의 실시예에 따른 드론 촬영 제어 방법은, 전자장치(101)가 세그멘테이션의 수행결과에 따라 제1 이미지 및 제2 이미지에 대한 특징점을 도출하는 단계(S330)를 포함한다.
예를 들어, 도 6에 도시된 바와 같이, 전자장치(101)는 제1 이미지 및 제2 이미지의 피사체들의 경계 지점이나 계조값이 급격하게 바뀌는 지점을 특징점으로 추출할 수 있다.
본 발명은 이와 같은 특징점의 추출 방법에 한정되는 것은 아니며 세그멘테이션을 통한 다양한 특징점 추출 방법을 사용할 수 있다.
본 발명의 실시예에 따른 드론 촬영 제어 방법은, 전자장치(101)가 제1 이미지의 특징점과 제2 이미지의 특징점 사이의 벡터(vector) 정보를 도출하는 단계(S340)를 포함한다.
예를 들어, 도 7에 도시된 바와 같이, 전자장치(101)는 제1 이미지의 특징점과 제2 이미지의 특징점을 통하여 벡터를 도출할 수 있으며, 이를 통하여 벡터의 방향 성분에 대한 정보와 벡터의 크기 성분에 대한 정보를 포함하는 벡터 정보를 도출할 수 있다.
도 7의 벡터 정보 추출은 일례일뿐 본 발명이 도 7에 한정되는 것은 아니다.
본 발명의 실시예에 따른 드론 촬영 제어 방법은, 전자장치(101)가 벡터 정보에 따라 드론(300)의 비행을 제어하는 제어신호를 드론(300)으로 전송하는 단계(S350)를 포함한다.
본 발명은 이와 같은 제1 이미지와 제2 이미지를 이용하여 포토메트리 스테레오 영상을 합성할 수 있다. 포토메트리 스테레오 영상(photometric stereo image)은 2D 이미지를 통하여 도출된 3D 이미지일 수 있다.
건축물과 같이 대형 피사체에 대한 입체 영상 합성의 경우 드론(300)을 통하여 2D 이미지가 촬영될 수 있다. 이를 위하여 포토메트리 스테레오 기법이 많이 사용되며, 촬영 범위가 넓기 때문에 대부분 드론(300)을 이용한 쵤영이 이루어진다.
포토메트리 스테레오의 최종 복원 결과물의 품질을 향상시키려면 다수의 사진을 찍어야 하기 때문에 균일한 거리에서 균일한 간격으로 피사체 둘레를 촬영하는 것이 중요하다.
예를 들어, 도 8에 도시된 바와 같이, 드론(300)은 피사체와 일정 거리를 유지하면서 다수의 이미지를 촬영함으로써 최종 복원 결과물의 품질을 향상시킬 수 있다.
또한 하나의 이미지와 다음에 촬영된 이미지는 서로 충분한 중복 영역이 있어야 최종 복원 결과물의 품질을 향상시킬 수 있다. 이를 위하여 드론(300)은 피사체를 촬영하는 간격이 과도하게 커서는 안된다.
본 발명은, 전자장치(101)가 벡터 정보를 분석함으로써 드론(300)이 피사체와 일정 거리를 유지하고 드론(300)의 공간적 촬영 간격을 유지하기 위한 제어신호를 생성할 수 있다.
즉, 전자장치(101)는 앞서 설명된 벡터 정보를 분석함으로써 드론(300)의 직선 이동 방향, 드론(300)의 직선 이동 거리, 드론(300)의 회전 방향, 및 드론(300)의 회전량을 도출할 수 있다.
이를 통하여 전자장치(101)는 드론(300)과 피사체와의 거리가 설정 범위 이내가 되도록 하는 제어신호를 드론(300)으로 전송할 수 있다. 또한 전자장치(101)는 제1 이미지 및 제2 이미지 중 하나의 영역에 대한 제1 이미지 및 제2 이미지의 중복 영역의 비율이 기준값보다 클 경우 세그멘테이션을 수행할 수 있다.
만약 제1 이미지와 제2 이미지가 이와 같은 조건을 만족한다면 전자장치(101)는 제1 이미지와 제2 이미지에 대한 캡쳐(capture)를 수행하여 메모리에 저장하고, 캡쳐된 제1 이미지와 제2 이미지를 이용하여 포토메트리 스테레오 기법으로 피사체에 대한 3D 이미지(예를 들어, 도 9 참조)를 도출할 수 있다.
한편, 도 10에 도시된 바와 같이, 특징점 A의 벡터의 경우, 다른 벡터에 비하여 방향 성분이 크게 다름을 알 수 있다. 드론(300)은 한쪽 방향으로 이동하면서 사진을 촬영할 수 있으므로 제1 이미지 및 제2 이미지를 통한 벡터 정보의 편차는 일정 수준 이내일 수 있다.
본 발명의 경우, 전자장치(101)는 복수의 벡터 정보들에 대한 평균 정보를 도출하고, 벡터 정보들 중 평균 정보와의 편차가 기준값을 이내인 벡터 정보에 따라 제어신호를 도출할 수 있다.
이를 통하여 도 10의 특징점 A의 벡터를 제외하여 나머지 특징점들의 벡터 정보를 이용하여 제어신호가 도출될 수 있다.
또한 도 11에 도시된 바와 같이, 특징점 B의 경우, 다른 특징점들에 비하여 제1 이미지의 특징점과 제2 이미지의 특징점이 과도하게 벌어져 있다. 드론(300)을 한쪽 방향으로 이동하면서 사진을 촬영하므로 제1 이미지의 특징점과 제2 이미지의 특징점 사이의 거리는 일정 범위일 수 있다.
이에 따라 전자장치(101)는 제2 이미지의 특징점들 중 제1 이미지의 특징점과 기준 거리 이내의 특징점으로 벡터 정보를 도출할 수 있다. 이를 통하여 도 11의 특징점 B를 제외하고 나머지 특징점들을 통하여 제어신호를 도출할 수 있다.
이상과 같이 본 발명에 따른 실시예를 살펴보았으며, 앞서 설명된 실시예 이외에도 본 발명이 그 취지나 범주에서 벗어남이 없이 다른 특정 형태로 구체화 될 수 있다는 사실은 해당 기술에 통상의 지식을 가진 이들에게는 자명한 것이다. 그러므로, 상술된 실시예는 제한적인 것이 아니라 예시적인 것으로 여겨져야 하고, 이에 따라 본 발명은 상술한 설명에 한정되지 않고 첨부된 청구항의 범주 및 그 동등 범위 내에서 변경될 수도 있다.
전자장치(101)
드론(300)

Claims (5)

  1. 전자장치가 드론으로부터 서로 연속된 제1 이미지 및 제2 이미지를 전송받는 단계;
    전자장치가 상기 제1 이미지 및 상기 제2 이미지에 대한 세그멘테이션(segmentation)을 수행하는 단계;
    전자장치가 세그멘테이션의 수행결과에 따라 상기 제1 이미지 및 상기 제2 이미지에 대한 특징점을 도출하는 단계;
    전자장치가 상기 제1 이미지의 특징점과 상기 제2 이미지의 특징점 사이의 벡터 정보를 도출하는 단계; 및
    전자장치가 상기 벡터 정보에 따라 상기 드론의 비행을 제어하는 제어신호를 상기 드론으로 전송하는 단계를 포함하고,
    상기 전자장치는
    상기 드론을 한쪽 방향으로 이동하면서 상기 제1 이미지 및 상기 제2 이미지를 촬영하며,
    상기 제2 이미지의 특징점들 중 상기 제1 이미지의 특징점과 기준 거리 이내의 특징점으로 상기 벡터 정보를 도출하며,
    상기 도출된 벡터 정보를 통하여 상기 드론과 피사체와의 거리가 설정 범위 이내가 되도록 하는 상기 제어신호를 생성하여 상기 드론으로 전송하는 것을 특징으로 하는 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법.
  2. 삭제
  3. 제1항에 있어서,
    상기 전자장치는
    상기 제1 이미지 및 상기 제2 이미지 중 하나의 영역에 대한 상기 제1 이미지 및 상기 제2 이미지의 중복 영역의 비율이 기준값보다 클 경우 상기 세그멘테이션을 수행하는 것을 특징으로 하는 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법.
  4. 제1항에 있어서,
    상기 전자장치는
    상기 제1 이미지의 특징점과 상기 제2 이미지의 특징점 사이의 벡터 정보를 복수 개 도출하고,
    상기 복수의 벡터 정보들에 대한 평균 정보를 도출하고,
    상기 벡터 정보들 중 상기 평균 정보와의 편차가 기준값을 이내인 벡터 정보에 따라 상기 제어신호를 도출하는 것을 특징으로 하는 볼륨메트릭 3D 모델 복원 품질향상을 위한 드론 촬영 제어 방법.
  5. 삭제
KR1020210142422A 2021-10-25 2021-10-25 볼륨메트릭 3d 모델 복원 품질향상을 위한 드론 촬영 제어 방법 KR102585365B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210142422A KR102585365B1 (ko) 2021-10-25 2021-10-25 볼륨메트릭 3d 모델 복원 품질향상을 위한 드론 촬영 제어 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210142422A KR102585365B1 (ko) 2021-10-25 2021-10-25 볼륨메트릭 3d 모델 복원 품질향상을 위한 드론 촬영 제어 방법

Publications (2)

Publication Number Publication Date
KR20230058788A KR20230058788A (ko) 2023-05-03
KR102585365B1 true KR102585365B1 (ko) 2023-10-06

Family

ID=86380821

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210142422A KR102585365B1 (ko) 2021-10-25 2021-10-25 볼륨메트릭 3d 모델 복원 품질향상을 위한 드론 촬영 제어 방법

Country Status (1)

Country Link
KR (1) KR102585365B1 (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014185947A (ja) * 2013-03-25 2014-10-02 Geo Technical Laboratory Co Ltd 3次元復元のための画像撮影方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101625634B1 (ko) 2016-02-23 2016-05-31 공간정보기술 주식회사 드론의 스테레오 카메라가 촬영한 이미지를 이용한 3차원 모델링 시스템
KR102340125B1 (ko) * 2019-10-31 2021-12-16 한국항공대학교산학협력단 드론 정지 비행을 위한 영상 기반 특징점 추적 장치 및 그 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014185947A (ja) * 2013-03-25 2014-10-02 Geo Technical Laboratory Co Ltd 3次元復元のための画像撮影方法

Also Published As

Publication number Publication date
KR20230058788A (ko) 2023-05-03

Similar Documents

Publication Publication Date Title
US20210209825A1 (en) Body pose estimation
US20150348493A1 (en) Method of controlling display and electronic device for providing the same
EP2732376B1 (en) Systems and methods for accessing an interaction state between multiple devices
EP3207458B1 (en) Input signal emulation
KR20210121182A (ko) 증강 현실 시스템
KR102655540B1 (ko) 효율적인 병렬 광학 흐름 알고리즘 및 gpu 구현
US11713970B2 (en) Positioning method, electronic device and computer readable storage medium
CN108475221B (zh) 用于提供多任务处理视图的方法和装置
US11036989B1 (en) Skeletal tracking using previous frames
US10776943B2 (en) System and method for 3D association of detected objects
US11398205B2 (en) Reducing latency in augmented reality (AR) displays
KR102337209B1 (ko) 주변 상황 정보를 통지하기 위한 방법, 전자 장치 및 저장 매체
EP3628096A1 (en) System and method for dynamic transparent scaling of content display
CN106462369B (zh) 用于管理多个实例的方法、系统和介质
KR102585365B1 (ko) 볼륨메트릭 3d 모델 복원 품질향상을 위한 드론 촬영 제어 방법
US20200036883A1 (en) Electronic device and image processing method thereof
US11328491B2 (en) Computerized system and method for an extended reality (XR) progressive visualization interface
RU2608883C2 (ru) Способ и электронное устройство для обработки изображения
US11367249B2 (en) Tool for viewing 3D objects in 3D models
CN113467737A (zh) 传输画面数据的方法、装置、设备及存储介质
US11961184B2 (en) System and method for scene reconstruction with plane and surface reconstruction
US20230400975A1 (en) Thermal management of an electronic device
CN116149535A (zh) 交互控制方法、装置、头戴显示设备及介质
CN117215688A (zh) 控制方法、装置、电子设备及介质
KR20240039996A (ko) 홍보 컨텐츠 제공 방법 및 이의 기록매체

Legal Events

Date Code Title Description
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)