KR101259147B1 - Augmented reality mobile application showing past and future images by the location-based information - Google Patents

Augmented reality mobile application showing past and future images by the location-based information Download PDF

Info

Publication number
KR101259147B1
KR101259147B1 KR1020100134720A KR20100134720A KR101259147B1 KR 101259147 B1 KR101259147 B1 KR 101259147B1 KR 1020100134720 A KR1020100134720 A KR 1020100134720A KR 20100134720 A KR20100134720 A KR 20100134720A KR 101259147 B1 KR101259147 B1 KR 101259147B1
Authority
KR
South Korea
Prior art keywords
unit
service
providing
future
past
Prior art date
Application number
KR1020100134720A
Other languages
Korean (ko)
Other versions
KR20120072820A (en
Inventor
오창규
김형환
Original Assignee
경남대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경남대학교 산학협력단 filed Critical 경남대학교 산학협력단
Priority to KR1020100134720A priority Critical patent/KR101259147B1/en
Publication of KR20120072820A publication Critical patent/KR20120072820A/en
Application granted granted Critical
Publication of KR101259147B1 publication Critical patent/KR101259147B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • G06F16/7854Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using shape
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/20Education
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/20Services signaling; Auxiliary data signalling, i.e. transmitting data via a non-traffic channel
    • H04W4/21Services signaling; Auxiliary data signalling, i.e. transmitting data via a non-traffic channel for social networking applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Tourism & Hospitality (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Library & Information Science (AREA)
  • Strategic Management (AREA)
  • Primary Health Care (AREA)
  • Human Resources & Organizations (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Economics (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Educational Technology (AREA)
  • Educational Administration (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Databases & Information Systems (AREA)
  • Computer Graphics (AREA)
  • Human Computer Interaction (AREA)
  • Data Mining & Analysis (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

본 발명은 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치에 관한 것으로, 모바일 애플리케이션의 사용 위치를 확인하는 사용위치 확인부(10)와; 모바일 애플리케이션 사용자에게 선택된 서비스를 제공하는 서비스별 실행부(20) 및; 상기 서비스별 실행부(20)에 해당 데이터를 제공하는 단위 시점별 서비스 데이터 베이스(30)로 구성되어 기존에 구축되어 있는 국가기록 영상, 역사정보 통합시스템, 한국사DB, 건축예정 건축물의 청사진DB 등을 활용하여 사용자의 현재 위치정보와 결합함으로써 과거의 이미지 및 동영상과 미래의 완성된 건물 혹은 지역의 모습을 보여주고, 현재 사용자가 지정한 장소에 대해 미래를 위한 추억거리로 간직할 수 있도록 만들어 주며, 사용하기 용이한 사용자 인터페이스 환경을 제공하고 있는 앱을 관광 분야 및 역사 교육과 결합시킴으로써 유용성을 향상시켜 서비스 시장 규모를 확대할 수 있을 뿐만 아니라 앱 사용자의 현재 위치정보를 토대로 기존에 구축되어 있는 관련 DB를 결합하여 증강현실 형태로 과거 및 미래의 모습을 보여줌으로써 다수의 사용자를 확보하여 킬러 앱으로서 성공적인 비즈니스 모델 구축을 가능하게 하고, 관광 산업에서 현장감 있는 관광정보를 제공할 수 있으면서도 현실적인 역사 교육 병행할 수 있으며, 건물 투자자들에 대한 마케팅 효과를 증대시킬 수 있는 각별한 장점이 있는 유용한 발명이다.The present invention relates to an augmented reality mobile application device showing a past and future image based on the location information, the use location confirmation unit 10 for confirming the use location of the mobile application; A service-specific execution unit 20 for providing a selected service to a mobile application user; It is composed of a service database 30 for each point of time for providing the corresponding data to the service execution unit 20, the existing national record image, historical information integration system, Korean history DB, blueprint DB, etc. By combining with the user's current location information, it shows the image of the past and the appearance of the completed building or area of the future, and makes it possible to keep the place specified by the current user as a memory for the future, By combining an app that provides an easy-to-use user interface experience with tourism and history education, the service market can be expanded by improving its usability and related DB that is already built based on the current location information of the app user. Multiple uses by combining the past and the future in the form of augmented reality It is possible to build a successful business model as a killer app, to provide realistic tourism information while providing realistic tourism information in the tourism industry, and to increase marketing effects for building investors. It is a useful invention.

Figure R1020100134720
Figure R1020100134720

Description

위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치{Augmented reality mobile application showing past and future images by the location-based information}Augmented reality mobile application showing past and future images by the location-based information}

본 발명은 모바일 애플리케이션 장치에 관한 것으로서, 더욱 상세하게는 앱 사용자의 현재 위치 정보를 토대로 기존에 구축되어 있는 관련 데이터베이스를 결합하여 증강현실의 형태로 과거 및 미래의 모습을 보여주는 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치에 관한 것이다.The present invention relates to a mobile application device, and more particularly, to the past based on location information showing the past and the future in the form of augmented reality by combining a related database that is built on the basis of the current location information of the app user. And it relates to an augmented reality mobile application device showing a future image.

최근 국내 스마트폰 사용자 수는 급증하고 있으며, 모바일 애플리케이션의 수와 종류 또한 양적 질적으로 매우 큰 성장을 거듭하고 있다. 국내외에서 개발된 기존의 모바일 애플리케이션은 크게 교육, 어학, 생활, 게임, 위치 등으로 분류되어 각기 다른 목적과 특성이 있다. 그 중에서 위치정보 애플리케이션의 경우 증강 현실(augmented reality)을 기반으로 서비스가 제공되고 있는데, 이때 제공되는 서비스의 관건은 실시간으로 최신의 정보를 얼마나 효과적으로 빨리 제공하는가에 달려있다.Recently, the number of smartphone users in Korea is increasing rapidly, and the number and types of mobile applications are also growing quantitatively. Existing mobile applications developed at home and abroad are classified into education, language, life, games, and location, and have different purposes and characteristics. Among them, in case of location information application, a service is provided based on augmented reality, and the key to the provided service depends on how quickly and effectively providing the latest information in real time.

그에 따라 기업, 공공기관, 개인 등 특정한 목적을 갖고 다양한 모바일 애플리케이션이 사용자들에게 편의를 제공하기 위해 개발되었으며 현재 개발 중에 있다. 하지만, 기존에 구현된 모바일 애플리케이션들은 단순 흥미 위주, 단일 교육목적, 혹은 실시간 위주의 정보 제공에 머무르고 있다.Accordingly, a variety of mobile applications have been developed for the purpose of providing convenience to users, including companies, public institutions, and individuals, and are currently under development. However, existing mobile applications are simply focused on providing interesting, single educational, or real-time information.

예를 들어, 교육 및 어학 관련 애플리케이션은 저장된 데이터베이스를 기반으로 콘텐츠를 제공하고 있다. 또한 생활 및 기존의 위치 관련 애플리케이션들은 GPS를 이용한 위치 탐색 및 안내를 제공하는데 머무르고 있다. 이는 기존의 애플리케이션들이 제한된 상황에서 기능을 제공하고 있는 것으로 볼 수 있다.For example, educational and language-related applications provide content based on stored databases. Life and existing location-related applications also remain locating and guiding with GPS. This can be seen that existing applications provide functionality in limited circumstances.

또한 유비쿼터스 환경에서 관광 및 역사 정보 제공과 관련된 애플리케이션들이 일부 출시되고는 있으나, 증강현실을 기반으로 효과적인 관광 및 역사교육을 병행할 수 있는 모바일 애플리케이션은 존재하고 있지 않다.In addition, some applications related to providing tourism and historical information in the ubiquitous environment have been released, but there are no mobile applications that can effectively combine tourism and history education based on augmented reality.

본 발명은 상기한 실정을 감안하여 과거 및 미래의 영상을 증강현실로 투사하고자 발명한 것으로서, 그 목적은 기존에 구축되어 있는 국가기록 영상, 역사정보 통합시스템, 한국사DB, 건축예정 건축물의 청사진DB 등을 활용하여 사용자의 현재 위치정보와 결합함으로써 과거의 이미지 및 동영상과 미래의 완성된 건물 혹은 지역의 모습을 보여주고, 현재 사용자가 지정한 장소에 대해 미래를 위한 추억거리로 간직할 수 있도록 만들어 주는 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치를 제공함에 있다.The present invention was invented to project the past and future images in augmented reality in view of the above situation, the purpose of which is the existing national record image, historical information integrated system, Korean history DB, blueprint DB of the planned building By combining with the user's current location information, such as the past image and video of the past and the appearance of the completed building or area of the future, to make the current user specified place as a memory for the future. It is to provide an augmented reality mobile application device showing the past and future images based on the location information.

본 발명의 다른 목적은 사용하기 용이한 사용자 인터페이스 환경을 제공하고 있는 앱을 관광 분야 및 역사 교육과 결합시킴으로써 유용성을 향상시켜 서비스 시장 규모를 확대할 수 있는 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션을 제공하는 데 있다.Another object of the present invention is to show the past and future images based on location information that can expand the service market by improving the usability by combining the app that provides an easy-to-use user interface environment with tourism and history education. It is to provide augmented reality mobile applications.

본 발명의 또 다른 목적은 앱 사용자의 현재 위치정보를 토대로 기존에 구축되어 있는 관련 DB를 결합하여 증강현실 형태로 과거 및 미래의 모습을 보여줌으로써 다수의 사용자를 확보하여 킬러 앱으로서 성공적인 비즈니스 모델 구축을 가능하게 하고, 관광 산업에서 현장감 있는 관광정보를 제공할 수 있으면서도 현실적인 역사 교육 병행할 수 있으며, 건물 투자자들에 대한 마케팅 효과를 증대시킬 수 있는 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션장치를 제공하는 데 있다.Another object of the present invention is to build a successful business model as a killer app by securing a large number of users by showing the past and future appearance in the form of augmented reality by combining the relevant DB that is already built on the basis of the current location information of the app user Augmented reality showing past and future images based on location information that enables real time, and provides realistic tourism information while providing tourism information in the tourism industry, while also providing realistic historical education. It is to provide a mobile application device.

상기한 목적을 달성하기 위한 본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치는 모바일 애플리케이션의 사용 위치를 확인하는 사용위치 확인부(10)와; 모바일 애플리케이션 사용자에게 선택된 서비스를 제공하는 서비스별 실행부(20) 및; 상기 서비스별 실행부(20)에 해당 데이터를 제공하는 단위 시점별 서비스 데이터 베이스(30)로 구성된 것을 특징으로 한다.Augmented reality mobile application device showing a past and future image based on the present invention location information for achieving the above object comprises a use location confirmation unit 10 for confirming the use location of the mobile application; A service-specific execution unit 20 for providing a selected service to a mobile application user; Characterized in that the service database 30 for each unit of time providing the data to the execution unit 20 for each service.

본 발명은 기존에 구축되어 있는 국가기록 영상, 역사정보 통합시스템, 한국사DB, 건축예정 건축물의 청사진DB 등을 활용하여 사용자의 현재 위치정보와 결합함으로써 과거의 이미지 및 동영상과 미래의 완성된 건물 혹은 지역의 모습을 보여주고, 현재 사용자가 지정한 장소에 대해 미래를 위한 추억거리로 간직할 수 있도록 만들어 주며, 사용하기 용이한 사용자 인터페이스 환경을 제공하고 있는 앱을 관광 분야 및 역사 교육과 결합시킴으로써 유용성을 향상시켜 서비스 시장 규모를 확대할 수 있을 뿐만 아니라 앱 사용자의 현재 위치정보를 토대로 기존에 구축되어 있는 관련 DB를 결합하여 증강현실 형태로 과거 및 미래의 모습을 보여줌으로써 다수의 사용자를 확보하여 킬러 앱으로서 성공적인 비즈니스 모델 구축을 가능하게 하고, 관광 산업에서 현장감 있는 관광정보를 제공할 수 있으면서도 현실적인 역사 교육 병행할 수 있으며, 건물 투자자들에 대한 마케팅 효과를 증대시킬 수 있는 각별한 장점이 있다.The present invention utilizes the existing national record image, historical information integration system, Korean history DB, blueprint DB of the building to be built, etc. by combining with the current location information of the user and the completed building of the future or By combining apps with tourism and history education, apps that showcase the region, make it a place to keep memories of the places you specify, as memories for the future, and provide an easy-to-use user interface experience In addition to expanding the service market, the killer app can be secured by acquiring a large number of users by showing the past and future in augmented reality form by combining related DBs that have been built based on the current location information of the app users. To build a successful business model, While it can provide realistic tourism information, it can be combined with realistic history education, and has a particular advantage to increase the marketing effect for building investors.

도 1은 본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치의 블록 구성도,
도 2는 본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치의 제공 서비스별 순서도,
도 3은 본 발명에 따른 애플리케이션 실행 화면,
도 4는 본 발명에 따른 로그인 실행 화면,
도 5는 본 발명에 따른 메인 화면에 접속을 시도하는 화면,
도 6은 본 발명에 따른 환경설정 오류 알림 창 출력 화면,
도 7은 본 발명에 따른 애플리케이션의 메인 화면,
도 8은 본 발명에 따른 구동 화면,
도 9는 본 발명에 따른 시점 변환 화면,
도 10은 본 발명에 따른 위치 검색 구현 화면,
도 11은 본 발명에 따른 시점 구현 화면,
도 12는 본 발명에 따른 영상 변환 화면,
도 13은 본 발명에 따른 동영상 변환 화면,
도 14는 본 발명에 따른 역사속으로(과거시점) 구동 화면,
도 15a 및 도 15b는 본 발명에 따른 미래 시점 변환 화면이다.
1 is a block diagram of an augmented reality mobile application device showing a past and future image based on the present invention location information,
2 is a flow chart for each service provided by the augmented reality mobile application device showing a past and future image based on the present invention location information,
3 is an application execution screen according to the present invention;
4 is a login execution screen according to the present invention;
5 is a screen for attempting to access the main screen according to the present invention;
6 is a screen for outputting configuration error notification window according to the present invention;
7 is a main screen of an application according to the present invention;
8 is a driving screen according to the present invention;
9 is a viewpoint conversion screen according to the present invention;
10 is a location search implementation screen according to the present invention;
11 is a viewpoint implementation screen according to the present invention;
12 is an image conversion screen according to the present invention;
13 is a video conversion screen according to the present invention,
14 is a driving screen into history (past time) according to the present invention,
15A and 15B illustrate a future viewpoint conversion screen according to the present invention.

이하, 첨부 도면을 참조하여 본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션의 바람직한 실시예를 상세하게 설명한다.Hereinafter, with reference to the accompanying drawings will be described in detail a preferred embodiment of the augmented reality mobile application showing the past and future images based on the present invention location information.

도 1은 본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치의 블록 구성도, 도 2는 본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치의 제공 서비스별 순서도, 도 3은 본 발명에 따른 애플리케이션 실행 화면, 도 4는 본 발명에 따른 로그인 실행 화면, 도 5는 본 발명에 따른 메인 화면에 접속을 시도하는 화면, 도 6은 본 발명에 따른 환경설정 오류 알림 창 출력 화면, 도 7은 본 발명에 따른 애플리케이션 장치의 메인 화면, 도 8은 본 발명에 따른 구동 화면, 도 9는 본 발명에 따른 시점 변환 화면, 도 10은 본 발명에 따른 위치 검색 구현 화면, 도 11은 본 발명에 따른 시점 구현 화면, 도 12는 본 발명에 따른 영상 변환 화면, 도 13은 본 발명에 따른 동영상 변환 화면, 도 14는 본 발명에 따른 역사속으로(과거시점) 구동 화면, 도 15a 및 도 15b는 본 발명에 따른 미래 시점 변환 화면으로서, 본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션은 모바일 애플리케이션의 사용 위치를 확인하는 사용위치 확인부(10)와; 모바일 애플리케이션 사용자에게 선택된 서비스를 제공하는 서비스별 실행부(20) 및; 상기 서비스별 실행부(20)에 해당 데이터를 제공하는 단위 시점별 서비스 데이터 베이스(30)로 구성되어 있다.1 is a block diagram of augmented reality mobile application device showing a past and future image based on the present invention location information, Figure 2 is a service providing augmented reality mobile application device showing a past and future image based on the present invention location information 3 is an application execution screen according to the present invention, FIG. 4 is a login execution screen according to the present invention, FIG. 5 is a screen for attempting to access the main screen according to the present invention, and FIG. 6 is an environment setting according to the present invention. Error notification window output screen, Figure 7 is the main screen of the application device according to the present invention, Figure 8 is a drive screen according to the present invention, Figure 9 is a viewpoint conversion screen according to the present invention, Figure 10 is a location search implementation according to the present invention Screen, FIG. 11 is a viewpoint implementation screen according to the present invention, FIG. 12 is a video conversion screen according to the present invention, FIG. 13 is a video conversion screen according to the present invention, 14 is a driving screen into the history (past view) according to the present invention, Figures 15a and 15b is a future viewpoint conversion screen according to the present invention, augmented reality mobile application showing the past and future images based on the present invention location information A use position checking unit 10 for checking a use position of the mobile application; A service-specific execution unit 20 for providing a selected service to a mobile application user; It is composed of a service database 30 for each unit of time providing the data to the execution unit 20 for each service.

상기 사용위치 확인부(10)는 사용자가 로그인하는 자동 로그인부(11)와; 사용자의 아이디(ID)와 패스워드(PW)를 확인하는 ID/PW 확인부(12)와; GPS를 확인 및 Wi 또는 3G를 확인하는 네트워크 설정 확인부(13)와; 위도 및 경도의 주소값을 매칭하여 위치를 검색하는 위치 검색부(14) 및; 위치 허용을 확인하는 위치 확인부(15)로 구성되어 있다.The use position checking unit 10 and the automatic login unit 11 for the user to log in; ID / PW confirmation unit 12 for checking the user ID (ID) and password (PW); A network setting checking unit 13 for checking GPS and checking Wi or 3G; A location search unit 14 for searching a location by matching latitude and longitude address values; It is comprised by the positioning part 15 which confirms a position acceptance.

상기 서비스별 실행부(20)는 서비스 제공 가능 지역을 알려주는 서비스 제공 가능 지역 알림부(21)와; 주 메뉴를 제공하는 주 메뉴 제공부(22)와; 상세한 메뉴를 제공하는 상세 메뉴 제공부(23)와; 상기 상세 메뉴 제공부(23)에서 선택된 상세 메뉴에 따라 해당 추론 엔진을 작동시키는 추론 엔진 작동부(24, 24')와; 상기 단위 시점별 서비스 데이터 베이스(30)로부터 해당 데이터를 불러오는 관련 데이터 베이스 연동부(25)와; 상기 추론 엔진 작동부(24, 24')와 상기 관련 데이터 베이스 연동부(25)의 작동에 따라 해당 기능을 실행하는 해당 기능 실행부(26)와; 상기 해당 기능 실행부(26)에서 실행되는 기능을 출력하는 해당 기능별 출력부(27) 및; 상기 해당 기능별 출력부(27)의 출력을 저장하는 출력 결과 저장부(28)로 구성되어 있다.The service execution unit 20 may include a service providing area notification unit 21 informing of a service providing area; A main menu providing unit 22 for providing a main menu; A detailed menu providing unit 23 for providing a detailed menu; An inference engine operating unit (24, 24 ') for operating the inference engine in accordance with the detailed menu selected by the detailed menu providing unit (23); An associated database linking unit (25) for importing corresponding data from the service database (30) for each unit of time; A function execution unit 26 for executing a function according to the operation of the inference engine operation unit 24, 24 ′ and the associated database linkage unit 25; A function-specific output unit 27 for outputting a function executed by the function execution unit 26; It is composed of an output result storage unit 28 for storing the output of the function-specific output unit 27.

또한, 상기 단위 시점별 서비스 데이터 베이스(30)는 과거 시점의 데이터 베이스(31)와; 현재 시점의 데이터 베이스(32) 및; 미래 시점의 데이터 베이스(33)로 구성되어 있다.In addition, the service database 30 for each unit of time includes a database 31 of a past time; A database 32 at the present time; It consists of the database 33 of a future viewpoint.

다음에는 상기한 바와 같이 구성된 본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치를 도 2의 제공 서비스별 순서도를 참조하여 그 작용을 상세하게 설명한다.Next, the operation of the augmented reality mobile application device showing the past and the future image based on the location information of the present invention configured as described above will be described in detail with reference to the flowchart for each service provided in FIG. 2.

본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션의 메뉴 및 기능은 도 1 및 도 2에 도시한 바와 같이 크게 "역사 속으로", "추억 만들기", "미래 속으로"로 구성되어 있다. "역사 속으로"는 과거 시점으로의 변환 기능으로서 현재 사용자가 위치한 장소에서 과거 건물이나 거리의 모습과 역사적인 사건이 존재하는 동영상을 증강현실의 형태로 볼 수 있다. "추억 만들기"는 현재 시점을 제공하는 기능으로서 현재 사용자가 지정한 지역 및 장소 등에 대해 사용자 자신이 미래를 위한 추억거리로 저장하여 향후 출력이 가능하도록 만들어 주는 기능이다. "미래 속으로"는 미래 시점으로의 변환 기능으로서 사용자가 위치한 장소에서 일정거리에 있는 건축 중인 건물 혹은 도시를 해당 건축 DB에 있는 청사진을 이용하여 완성된 모습을 미리 볼 수 있는 기능을 제공한다.Menus and functions of the augmented reality mobile application showing the past and future images based on the location information of the present invention as shown in Figures 1 and 2 largely "in history," "making memories", "into the future" Consists of. "Into History" is a function of converting to the past point of view, which can be seen in the form of augmented reality in the form of the historical buildings and streets and historical buildings and streets at the current user's location. "Create Memories" is a function that provides the current point of time, the user can save the memory for the future for the region and place specified by the user as the future for future output. "Into the Future" is a transformation to the future, providing the ability to preview the completed building or city at a certain distance from the user's location using the blueprints in the building database.

본 발명 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치의 실행은 먼저 S1단계에서 애플리케이션이 실행되면 도 3에 나타낸 모바일 애플리케이션 실행화면으로 되고, S2단계의 업데이트는 자동으로 실행되어 서버 데이터베이스의 업데이트(update) 관련 정보와 패치를 동시에 진행. 이 때, 패치를 할 경우에는 별도의 알림 문구를 출력하게 되며, S3단계와 S4단계의 도 4에 나타낸 로그인화면에서 사용자가 로그인하여 ID와 패스워드(PW)를 확인한다. 그러면, S5, S6단계의 도 5에 나타낸 바와 같이 메인 화면에 접속을 시도하여 접속 후 사용자의 위치를 검색을 종료 한다.Execution of the augmented reality mobile application device showing the past and future images based on the location information of the present invention is the mobile application execution screen shown in Figure 3 when the application is first executed in step S1, the update of step S2 is automatically executed server Simultaneously update and update the database. At this time, if the patch is to output a separate notification text, the user login in the login screen shown in Figure 4 of step S3 and S4 to confirm the ID and password (PW). Then, as shown in FIG. 5 in steps S5 and S6, an attempt is made to access the main screen, and the search for the location of the user is terminated after the connection.

만일 상기 S5, S6단계에서 네트워크 연결과 GPS 설정에 이상이 있으면, 도 6에 나타낸 바와 같은 환경설정 오류 알림 창을 출력한다.If there is an error in network connection and GPS setting in steps S5 and S6, an environment setting error notification window as shown in FIG. 6 is output.

이어서 S7단계의 도 7에 나타낸 애플리케이션 메인화면에서 "역사 속으로", "추억 만들기", "미래 속으로" 메뉴 중 필요로 하는 메뉴를 선택하면, 선택된 메뉴를 실행하게 된다.
Subsequently, when the menu required from the "in history", "make memories", "into the future" menus is selected on the application main screen shown in FIG. 7 of step S7, the selected menu is executed.

역사속으로Into history (과거시점)(In the past)

역사속으로는 Show Photo(DB활용 : 역사정보통합시스템, 한국사데이터베이스)와 Show Movie(DB활용 : 국가기록영상, 역사정보통합시스템) 두가지를 실행할 수 있으며, 도 8에 나타낸 구동화면에서 해당 메뉴를 선택하여 실행하게 된다.In history, you can run Show Photo (DB: Historical Information Integrated System, Korean History Database) and Show Movie (DB: National Recorded Video, Historical Information Integrated System). Will be selected and executed.

Show Photo는 길거리나 특정 건물을 화면으로 비추면 해당 시점과 지점의 과거 모습(사진)이 보이게 된다. 과거의 모습은 단위 시점별 서비스 데이터 베이스(30)에 있는 역사정보통합시스템 및 한국사데이터베이스(31)에 저장되어 있는 70년대 이전의 흑백 사진으로 데이터베이스가 증가 할수록 다양한 연도의 특정 시점에 대한 모습을 선택하여 볼 수 있다.Show Photo shows a street or a specific building on the screen to show the past (photo) of the time and point. The past is a black and white photograph from the 70's before the 70's, which is stored in the historical information integration system in the service database 30 and the Korean history database 31 per unit time point. Can be seen.

그리고 Show Movie는 길거리나 특정 건물(유적, 문화재, 건물 등)을 비추면 해당 시점과 지점의 과거 영상이 보이게 된다. 과거의 영상은 단위 시점별 서비스 데이터 베이스(30)에 있는 국가기록영상 및 역사정보통합시스템 데이터 베이스(31)에 저장되어 있는 당시의 역사적인 사건의 동영상이며, 특정 문화재는 그 문화재에 대한 상세 영상 설명을 볼 수 있다. 서버에 등록된 문화재의 위치와 본인의 현 위치를 이용하여 특정 거리 미만 일 때 영상 다운로드의 알림을 전송한다.
And Show Movie shows the past image of the time and point when the street or a specific building (ruins, cultural assets, buildings, etc.) is illuminated. The past video is a video of historical events of the time stored in the national record video and historical information integration system database 31 in the service database 30 for each point in time, and specific cultural properties are detailed video descriptions of the cultural property. Can be seen. Using the location of the cultural property registered on the server and your current location is sent a notification of the video download when less than a certain distance.

추억 만들기(현재 시점)Create memories (current time)

추억 만들기는 Capture Movie와 Show Movie 두가지를 실행할 수 있으며, 도 8에 나타낸 구동화면에서 해당 메뉴를 선택하여 실행하게 된다.Creating memories can be performed by Capture Movie and Show Movie. The menu can be selected by selecting the corresponding menu from the driving screen shown in FIG.

Capture Movie는 현재 사용자가 간직하고 싶은 지역 및 사건 등을 사진 혹은 동영상으로 촬영하여 메인 서버에 저장하여 영구보관 하도록 한다. 해당 기능은 향후 미래를 위한 추억을 만들어가는 기능으로 구현 되어있다.Capture Movie captures the area and events that user wants to keep as a photo or video and saves it in the main server for permanent storage. This function is implemented as a function to create memories for the future.

Show Movie는 시간이 지난 후 잊고 있었던 추억을 해당 장소에서 다시 볼 수 있도록 제작 되었으며, 사진이나 동영상을 보는 기능은 "역사 속으로"의 Show Photo나 Show Movie 기능과 동일한 방법으로 구현된다.
Show Movie is designed to allow you to see the memories you have forgotten in time and place again. The ability to view photos and videos is implemented in the same way as the Show Photo and Show Movie features of "Into History."

미래 속으로 (미래 시점)Into the future (future point)

Show Photo(DB활용 : 특정 지역 혹은 건물의 청사진(개발계획도))를 실행하는 것으로, 도 8에 나타낸 구동화면에서 해당 메뉴를 선택하여 실행하게 된다.By executing Show Photo (DB utilization: blueprint (development plan) of a specific area or building), the menu is selected from the operation screen shown in FIG.

Show Photo는 사용자가 위치한 장소로부터 일정 거리에 있는 건축 중인 건물 혹은 도시를 해당 건축 데이터베이스(33)에 저장된 청사진을 이용하여 완성된 모습을 미리 볼 수 있는 기능을 제공한다. 이때, 건축 데이터베이스에 있는 청사진을 조작하여 3D사진으로 변환하여 보다 현실감 있는 영상을 경험할 수 있다.Show Photo provides a function of previewing a completed building or city at a distance from a user's location by using a blueprint stored in the architectural database 33. At this time, by manipulating the blueprints in the architectural database can be converted to 3D pictures to experience a more realistic image.

상기 도 8의 구동화면에서 [LIVE]는 시점 변환이 가능한 사진 혹은 영상이 있는 지역일 경우 해당 영상을 구동하는 것이고, [CHANGE]는 과거 현재 미래로의 시점을 변환하는 것이며, [SAVE]는 서버에서 임시로 다운받은 자료를 휴대폰에 저장하는 것이고, [MENU]는 위치 표시 여부 등 환경설정을 하는 것이다.In the driving screen of FIG. 8, [LIVE] is to drive a corresponding image when the view or image where the viewpoint can be converted is located, [CHANGE] is to convert a viewpoint to the past, present, and future, and [SAVE] is a server. It is to save the temporarily downloaded data in the mobile phone, and [MENU] is to set the environment such as location display.

또한 도 8의 구동화면에서 [CHANGE] 부분에 밝은 빛으로 과거의 이미지 자료를 볼 수 있는 위치임을 사용자가 인식하게 된다.In addition, the user recognizes that the image data of the past can be viewed with bright light in the [CHANGE] portion of the driving screen of FIG. 8.

그리고 도 9에 나타낸 시점 변환 화면에서 상단 좌측의 컬러 화면은 시점 변환 전의 실제 화면을 축소시켜 보여주는 것이다.In the viewpoint conversion screen illustrated in FIG. 9, the color screen on the upper left side shows a reduced view of the actual screen before the viewpoint conversion.

도 10은 위치 검색을 구현하는 화면으로서, 시점 변환 자료가 있는 곳의 지정 위치와 본인의 현 위치를 계산하여 특정 사정거리에 서로 들어왔을 때 화면 하단 부위의 [CHANGE]에 알림이 들어오는 것으로서, Service로 구동되는 것이 아닌 사용자가 App을 실행시켰을 때 작동되는 것이다.FIG. 10 is a screen for implementing a location search, in which a notification is received at [CHANGE] of the lower part of the screen when the specified location and the current location of the user who have the viewpoint conversion data are entered to each other within a specific range of distance. It is not operated when the user runs the app.

도 11은 시점 구현 화면으로서, 서버에서 다운 받게 되는 사진은 사용하는 휴대폰의 사이즈에 조절되는 것이 아닌 기존의 휴대폰 보다 사이즈가 큰 사이즈로 구동 된다. 즉, 구동되는 카메라 기능 위에 사진이 오버레이 되어 출력된다.FIG. 11 is a view of a viewpoint implementation, in which a photo downloaded from a server is driven to a size larger than that of a conventional mobile phone, not adjusted to the size of a mobile phone. In other words, the picture is overlaid and output on the driven camera function.

도 12는 영상 변환 화면으로서, 상기 도 11의 시점 구현 화면에서 카메라의 각도를 조절함으로써 해당 기능이 구동된다.FIG. 12 is an image conversion screen, and a corresponding function is driven by adjusting an angle of a camera in the viewpoint implementation screen of FIG. 11.

도 13은 동영상 변환 화면으로서, 영상 재생은 일반적으로 제공되는 서버에 접속 후 스트리밍 방식의 동영상 재생이 아니라 해당 서버 홈페이지에 직접 접속하여 해당 서버에서 영상이 재생되도록 함으로써 사용자의 로딩 시간을 획기적으로 줄일 수 있게 된다.13 is a video conversion screen, the video playback is not a streaming video playback after connecting to the server provided in general, it is possible to significantly reduce the loading time of the user by directly connecting to the server homepage to play the video from the server. Will be.

도 14는 역사속으로(과거시점) 구동화면으로서, 서버에서 다운 받는 사진은 임시로 열려진 사진들이기에 이들을 스마트 폰으로 직접 다운 받을 수 있도록 설정할 수 있어 애플리케이션 실행 시 로딩 시간을 크게 줄여줄 수 있다.14 is a driving screen into the history (past time), since the pictures downloaded from the server are temporarily opened and can be set to download them directly to the smartphone, thereby greatly reducing the loading time when the application is executed.

도 15a 및도 15b는 미래 시점 변환 화면으로서, 하단의 메뉴선택 구간 중에 [CHANGE] 부분에 밝은 빛이 들어옴으로써 사용자는 해당 지역에서 미래의 정보를 볼 수 있는 위치에 존재해 있음을 알 수 있고, 사용자가 해당 지역에서 특정 건물이 미래에 건축 완료되었을 때의 화면을 증강 현실 형태로 볼 수 있다. 이때, 좌 상단의 작은 화면은 현재의 실시간 화면을 나타낸다.15A and 15B are screens for converting the future view, and a bright light comes into the [CHANGE] portion of the menu selection section at the bottom, so that the user exists at a position where the future information can be viewed in the corresponding area. The user can view the screen in augmented reality form when a specific building in the area is completed in the future. At this time, the small screen on the upper left shows the current real-time screen.

지금까지 본 발명을 바람직한 실시예로서 설명하였으나, 본 발명은 이에 한정되지 않고 발명의 요지를 이탈하지 않는 범위 내에서 다양하게 변형하여 실시할 수 있음은 물론이다.While the present invention has been described as a preferred embodiment, the present invention is not limited thereto, and various modifications can be made without departing from the gist of the invention.

10 : 사용위치 확인부 11 : 자동 로그인부
12 : ID/PW 확인부 13 : 네트워크 설정 확인부
14 : 위치 검색부 15 : 위치 확인부
20 : 서비스별 실행부 21 : 서비스 제공 가능 지역 알림부
22 : 주 메뉴 제공부 23 : 상세 메뉴 제공부
24, 24' : 추론 엔진 작동부 25 : 관련 데이터 베이스 연동부
26 : 해당 기능 실행부 27 : 해당 기능별 출력부
28 : 출력 결과 저장부 30 : 단위 시점별 서비스 데이터 베이스
31 : 과거 시점의 데이터 베이스 32 : 현재 시점의 데이터 베이스
33 : 미래 시점의 데이터 베이스
10: use location check unit 11: automatic login unit
12: ID / PW check unit 13: network setting check unit
14: location search unit 15: location check unit
20: execution unit for each service 21: service provision area notification unit
22: main menu provider 23: detailed menu provider
24, 24 ': inference engine operation unit 25: related database interlocking unit
26: function execution unit 27: output unit for each function
28: output result storage unit 30: service database for each unit time
31: Database of past time 32: Database of current time
33: database of the future

Claims (4)

모바일 애플리케이션의 사용 위치를 확인하는 사용위치 확인부(10)와; 모바일 애플리케이션 사용자에게 선택된 서비스를 제공하는 서비스별 실행부(20) 및; 상기 서비스별 실행부(20)에 해당 데이터를 제공하는 단위 시점별 서비스 데이터 베이스(30)로 구성된 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치에 있어서;
상기 사용위치 확인부(10)는 사용자가 로그인하는 자동 로그인부(11)와; 사용자의 아이디(ID)와 패스워드(PW)를 확인하는 ID/PW 확인부(12)와; GPS를 확인 및 Wi 또는 3G를 확인하는 네트워크 설정 확인부(13)와; 위도 및 경도의 주소값을 매칭하여 위치를 검색하는 위치 검색부(14) 및; 위치 허용을 확인하는 위치 확인부(15)로 구성되어 있고;
상기 서비스별 실행부(20)는 서비스 제공 가능 지역을 알려주는 서비스 제공 가능 지역 알림부(21)와; 주 메뉴를 제공하는 주 메뉴 제공부(22)와; 상세한 메뉴를 제공하는 상세 메뉴 제공부(23)와; 상기 상세 메뉴 제공부(23)에서 선택된 상세 메뉴에 따라 해당 추론 엔진을 작동시키는 추론 엔진 작동부(24, 24')와; 상기 단위 시점별 서비스 데이터 베이스(30)로부터 해당 데이터를 불러오는 관련 데이터 베이스 연동부(25)와; 상기 추론 엔진 작동부(24, 24')와 상기 관련 데이터 베이스 연동부(25)의 작동에 따라 해당 기능을 실행하는 해당 기능 실행부(26)와; 상기 해당 기능 실행부(26)에서 실행되는 기능을 출력하는 해당 기능별 출력부(27) 및; 상기 해당 기능별 출력부(27)의 출력을 저장하는 출력 결과 저장부(28)로 구성되어 있으며;
상기 단위 시점별 서비스 데이터 베이스(30)는 과거 시점의 데이터 베이스(31)와; 현재 시점의 데이터 베이스(32) 및; 미래 시점의 데이터 베이스(33)로 구성되어 있는 것을 특징으로 하는 위치정보에 기반하여 과거 및 미래 영상을 보여주는 증강현실 모바일 애플리케이션 장치.
A use position checking unit 10 for checking a use position of the mobile application; A service-specific execution unit 20 for providing a selected service to a mobile application user; In the augmented reality mobile application device for showing the past and future images based on the location information consisting of the service database for each point of time providing the data to the execution unit 20 for each service;
The use position checking unit 10 and the automatic login unit 11 for the user to log in; ID / PW confirmation unit 12 for checking the user ID (ID) and password (PW); A network setting checking unit 13 for checking GPS and checking Wi or 3G; A location search unit 14 for searching a location by matching latitude and longitude address values; It consists of a positioning unit 15 for confirming the position permission;
The service execution unit 20 may include a service providing area notification unit 21 informing of a service providing area; A main menu providing unit 22 for providing a main menu; A detailed menu providing unit 23 for providing a detailed menu; An inference engine operating unit (24, 24 ') for operating the inference engine in accordance with the detailed menu selected by the detailed menu providing unit (23); An associated database linking unit (25) for importing corresponding data from the service database (30) for each unit of time; A function execution unit 26 for executing a function according to the operation of the inference engine operation unit 24, 24 ′ and the associated database linkage unit 25; A function-specific output unit 27 for outputting a function executed by the function execution unit 26; An output result storage unit 28 for storing the output of the function-specific output unit 27;
The unit time point service database 30 includes a database 31 of a past time point; A database 32 at the present time; Augmented reality mobile application device showing the past and future images based on the location information, characterized in that the database of the future view 33.
삭제delete 삭제delete 삭제delete
KR1020100134720A 2010-12-24 2010-12-24 Augmented reality mobile application showing past and future images by the location-based information KR101259147B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100134720A KR101259147B1 (en) 2010-12-24 2010-12-24 Augmented reality mobile application showing past and future images by the location-based information

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100134720A KR101259147B1 (en) 2010-12-24 2010-12-24 Augmented reality mobile application showing past and future images by the location-based information

Publications (2)

Publication Number Publication Date
KR20120072820A KR20120072820A (en) 2012-07-04
KR101259147B1 true KR101259147B1 (en) 2013-05-07

Family

ID=46707440

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100134720A KR101259147B1 (en) 2010-12-24 2010-12-24 Augmented reality mobile application showing past and future images by the location-based information

Country Status (1)

Country Link
KR (1) KR101259147B1 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150062418A (en) 2013-11-29 2015-06-08 (주) 유라시아디지털문화유산연구소 System for displaying virtual image matched with real street figure
KR20160052028A (en) 2014-10-31 2016-05-12 뉴21커뮤니티(주) Method for providing local festival using location based service in mobile phone
KR101874345B1 (en) * 2017-02-08 2018-07-06 (주) 문화상상연구소 Method for displaying royal tomb using an augmented reality
KR20230046380A (en) 2021-09-29 2023-04-06 주식회사 파트너컴퍼니 Method for providing marketing service using Augmented Reality

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101412515B1 (en) * 2013-09-25 2014-07-09 김별하 Augmented reality system of construction project for public information transmission and operating method thereof

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150062418A (en) 2013-11-29 2015-06-08 (주) 유라시아디지털문화유산연구소 System for displaying virtual image matched with real street figure
KR20160052028A (en) 2014-10-31 2016-05-12 뉴21커뮤니티(주) Method for providing local festival using location based service in mobile phone
KR101874345B1 (en) * 2017-02-08 2018-07-06 (주) 문화상상연구소 Method for displaying royal tomb using an augmented reality
KR20230046380A (en) 2021-09-29 2023-04-06 주식회사 파트너컴퍼니 Method for providing marketing service using Augmented Reality

Also Published As

Publication number Publication date
KR20120072820A (en) 2012-07-04

Similar Documents

Publication Publication Date Title
CN101910936B (en) Guided photography based on image capturing device rendered user recommendations
JP5647141B2 (en) System and method for initiating actions and providing feedback by specifying objects of interest
JP5371224B2 (en) Map display method, map display system, and map display program
US20110184980A1 (en) Apparatus and method for providing image
US20120062766A1 (en) Apparatus and method for managing image data
KR101259147B1 (en) Augmented reality mobile application showing past and future images by the location-based information
JP6223534B2 (en) Imaging device, imaging method, and imaging control program
CN110019599A (en) Obtain method, system, device and the electronic equipment of point of interest POI information
KR101123370B1 (en) service method and apparatus for object-based contents for portable device
CN111680238B (en) Information sharing method, device and storage medium
CN106095881A (en) Method, system and the mobile terminal of a kind of display photos corresponding information
JP2021520163A (en) Shooting method and terminal device
KR102086780B1 (en) Method, apparatus and computer program for generating cartoon data
JP5082005B2 (en) Imaging data processing device
JP5047592B2 (en) Sentence publishing device with image, program, and method
KR20120004615A (en) Image providing system for mobile linked with social network service and the method, and computer readable medium storing program excuting the method
NAVROTSKA Virtual museum: recreate the reality
CN111246118B (en) Display method, device and equipment of AR element and storage medium
JP5586763B2 (en) Map search server and map search method
WO2023021759A1 (en) Information processing device and information processing method
JP5372219B2 (en) Camera with image transmission function and image transmission method
KR20180075720A (en) Album production service system and method for servicing using the same
CN115550543A (en) Photographing method and device
JP2024017310A (en) Program, information processing apparatus, and information processing method
JP5657753B2 (en) Camera with image transmission function, display control method, and image transmission method

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160513

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20170403

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20190123

Year of fee payment: 6

R401 Registration of restoration
FPAY Annual fee payment

Payment date: 20190904

Year of fee payment: 7