KR20200117447A - Apparatus and method for providing interior film design service using virtual reality - Google Patents

Apparatus and method for providing interior film design service using virtual reality Download PDF

Info

Publication number
KR20200117447A
KR20200117447A KR1020190039568A KR20190039568A KR20200117447A KR 20200117447 A KR20200117447 A KR 20200117447A KR 1020190039568 A KR1020190039568 A KR 1020190039568A KR 20190039568 A KR20190039568 A KR 20190039568A KR 20200117447 A KR20200117447 A KR 20200117447A
Authority
KR
South Korea
Prior art keywords
interior
virtual
film
design service
viewpoint
Prior art date
Application number
KR1020190039568A
Other languages
Korean (ko)
Inventor
황권홍
Original Assignee
황권홍
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 황권홍 filed Critical 황권홍
Priority to KR1020190039568A priority Critical patent/KR20200117447A/en
Publication of KR20200117447A publication Critical patent/KR20200117447A/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/08Construction
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0641Shopping interfaces
    • G06Q30/0643Graphical representation of items or shoppers

Landscapes

  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • Economics (AREA)
  • Accounting & Taxation (AREA)
  • Marketing (AREA)
  • Theoretical Computer Science (AREA)
  • Strategic Management (AREA)
  • Engineering & Computer Science (AREA)
  • General Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Tourism & Hospitality (AREA)
  • Primary Health Care (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Development Economics (AREA)
  • Optics & Photonics (AREA)
  • Processing Or Creating Images (AREA)

Abstract

The present invention relates to an interior film design service providing apparatus and a method thereof and, more specifically, to an apparatus for providing an interior film design service using a virtual reality technology and a method thereof. In addition, according to the present invention, the interior film design service providing method using a head mounted display comprises the steps of: displaying a virtual interior space through a user interface provided on the head mounted display; detecting a rotation angle of the head or face of a user wearing the head mounted display, and setting a viewpoint corresponding to the gaze of the user on the virtual interior space; providing an interior film design service for the virtual interior space based on the movement of the viewpoint; and providing the interior film design service for the virtual interior space based on the movement of the viewpoint.

Description

가상 현실을 이용한 인테리어 필름 디자인 서비스 제공 방법 및 장치{APPARATUS AND METHOD FOR PROVIDING INTERIOR FILM DESIGN SERVICE USING VIRTUAL REALITY}Method and device for providing interior film design service using virtual reality {APPARATUS AND METHOD FOR PROVIDING INTERIOR FILM DESIGN SERVICE USING VIRTUAL REALITY}

아래의 실시예들은 인테리어 필름 디자인 서비스 제공 장치 및 그 방법에 관한 기술로서, 보다 구체적으로 가상 현실 기술을 이용하여 인테리어 필름 디자인 서비스를 제공하는 장치 및 그 방법에 관한 것이다.The following embodiments relate to an apparatus and method for providing an interior film design service, and more specifically, to an apparatus and method for providing an interior film design service using virtual reality technology.

일반적으로 인테리어 자재(필름, 시트지 포함)은 실내 장식을 목적으로 건물의 내부 바닥재, 가구 마감재, 벽지 등과 같이 다양한 용도로 사용되는 것으로, 가격이 비교적 저렴하고 가공이 쉬울 뿐만 아니라, 스티커와 같이 배면에 접착제가 있어 설치가 용이하다. In general, interior materials (including film and sheet paper) are used for various purposes such as interior flooring of buildings, furniture finishing materials, and wallpaper for the purpose of interior decoration, and are relatively inexpensive and easy to process. Easy to install with adhesive.

또한 다양한 모양 및 형상으로 이루어진 다양한 디자인의 제품이 출시됨에 따라 실내의 넓은 면적에 부착되어 실내 인테리어를 구성하는데 있어서 공간 연출을 보다 더 아늑하고, 우아하게 하면서 장식 효과도 발휘될 수 있도록 제공한다.In addition, as products of various designs composed of various shapes and shapes are released, they are attached to a large area of the room to make the space presentation more cozy and elegant in composing the interior of the room, while also providing a decorative effect.

이러한 인테리어 자재 중 인테리어 필름은 그 사용 용도에 따라 일정한 두께와 폭을 가지고, 그 표면에는 소정의 디자인(무늬)이 도안된 상태에서 소정의 길이로 롤(roll)에 감긴 형태로 제작된다. 이렇게 제작된 인테리어 필름은 시공자 또는 일반 소비자에게 제품을 홍보하거나 설명하기 위해 각각 일정한 크기로 절단하여 견본용 인테리어 필름을 제작한 후 견본용 인테리어 필름을 표지에 부착시켜 인테리어 필름 견본 첩을 별도로 제작하여 사용하거나, 일정 크기로 제작된 견본용 인테리어 필름을 통신망을 통해 소비자에게 제공하는 방식을 취하고 있다.Among these interior materials, the interior film has a certain thickness and width according to its intended use, and is manufactured in a form wound on a roll with a predetermined length in a state in which a predetermined design (pattern) is designed on its surface. In order to promote or explain the product to contractors or general consumers, the interior film produced in this way is cut into a certain size to produce a sample interior film, and then the interior film sample book is separately produced by attaching the interior film for the sample to the cover. Or, it is taking a method of providing a sample interior film produced in a certain size to consumers through a communication network.

이와 같은 인테리어 필름을 해당 가구의 마감재로 사용된 실시예를 가상 현실을 이용하여 제공한다면 좋을 것이다.It would be good if an embodiment in which such an interior film was used as a finishing material for the furniture was provided using virtual reality.

공개번호 10-2017-0024933호Publication No. 10-2017-0024933 공개번호 10-2002-0000704호Publication No. 10-2002-0000704

일실시예들은 헤드 마운트 디스플레이(head mounted display)를 이용함으로써, 사용자의 조작 편의성 및 사용자가 실제 느끼는 현실감을 향상시키는 인테리어 필름 디자인 서비스 제공 장치 및 방법을 제안한다.One embodiment proposes an apparatus and method for providing an interior film design service that improves the user's operation convenience and the user's real sense of reality by using a head mounted display.

구체적으로, 일실시예들은 헤드 마운트 디스플레이를 기반으로 가상 현실 기술을 적용함으로써, 사용자의 시선을 이용하여 가상 인테리어 공간에 대한 인테리어 필름 디자인 서비스를 제공하는 장치 및 방법을 제안한다.Specifically, one embodiment proposes an apparatus and method for providing an interior film design service for a virtual interior space using a user's gaze by applying a virtual reality technology based on a head mounted display.

일실시예에 따르면, 헤드 마운트 디스플레이(head mounted display)를 이용하는 인테리어 필름 디자인 서비스 제공 방법은 상기 헤드 마운트 디스플레이에 제공되는 사용자 인터페이스를 통하여 가상 인테리어 공간을 디스플레이 하는 단계; 상기 헤드 마운트 디스플레이가 착용되는 사용자의 머리 또는 얼굴의 회전 각도를 검출하여 상기 가상 인테리어 공간 상에서 상기 사용자의 시선에 대응하는 시점(viewpoint)을 설정하는 단계; 상기 시점의 움직임에 기초하여 상기 가상 인테리어 공간에 대한 인테리어 디자인 서비스를 제공하는 단계; 및 상기 시점의 움직임에 기초하여 상기 가상 인테리어 공간에 대한 인테리어 필름 디자인 서비스를 제공하는 단계를 포함한다.According to an embodiment, a method for providing an interior film design service using a head mounted display includes: displaying a virtual interior space through a user interface provided on the head mounted display; Setting a viewpoint corresponding to the user's gaze on the virtual interior space by detecting a rotation angle of the user's head or face on which the head mounted display is worn; Providing an interior design service for the virtual interior space based on the movement of the viewpoint; And providing an interior film design service for the virtual interior space based on the movement of the viewpoint.

또한, 본 발명은 헤드 마운트 디스플레이에서 이용되는 인테리어 필름 디자인 서비스 제공 장치에 있어서, 상기 헤드 마운트 디스플레이에 제공되는 사용자 인터페이스를 통하여 가상 인테리어 공간을 디스플레이하는 디스플레이부; 상기 헤드 마운트 디스플레이가 착용되는 사용자의 머리 또는 얼굴의 회전 각도를 검출하여 상기 가상 인테리어 공간 상에서 상기 사용자의 시선에 대응하는 시점(viewpoint)을 설정하는 설정부; 및 상기 시점의 움직임에 기초하여 상기 가상 인테리어 공간에 대한 인테리어 디자인 서비스와 인테리어 필름 디자인 서비스를 제공하는 제공부를 포함한다.In addition, the present invention provides an interior film design service providing apparatus used in a head mounted display, comprising: a display unit for displaying a virtual interior space through a user interface provided on the head mounted display; A setting unit configured to set a viewpoint corresponding to the user's gaze on the virtual interior space by detecting a rotation angle of a user's head or face on which the head mounted display is worn; And a providing unit that provides an interior design service and an interior film design service for the virtual interior space based on the movement of the viewpoint.

일실시예들은 헤드 마운트 디스플레이(head mounted display)를 이용함으로써, 사용자의 조작 편의성 및 사용자가 실제 느끼는 현실감을 향상시키는 인테리어 필름 디자인 서비스 제공 장치 및 방법을 제안할 수 있다,Embodiments may propose an apparatus and method for providing an interior film design service that improves the user's operation convenience and the real sense of reality felt by the user by using a head mounted display.

구체적으로, 일실시예들은 헤드 마운트 디스플레이를 기반으로 가상 현실 기술을 적용함으로써, 사용자의 시선을 이용하여 가상 인테리어 공간에 대한 인테리어 필름 디자인 서비스를 제공하는 장치 및 방법을 제안할 수 있다Specifically, one embodiment may propose an apparatus and method for providing an interior film design service for a virtual interior space using a user's gaze by applying a virtual reality technology based on a head mounted display.

도 1은 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치가 탑재되는 헤드 마운트 디스플레이를 나타낸 도면이다.
도 2는 일실시예에 따른 가상 인테리어 공간이 디스플레이되는 사용자 인터페이스를 나타낸 도면이다.
도 3a 내지 3e는 일실시예에 따른 가상 인테리어 공간에 대한 인테리어 필름 디자인 서비스가 제공되는 사용자 인터페이스를 나타낸 도면이다.
도 4는 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템을 나타낸다.
도 5는 본 발명의 실시예에 따른 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템에 사용되는 패턴화 모듈의 블록 구성을 예시한 도면이다.
도 6은 일실시예에 따른 인테리어 필름 디자인 서비스 제공 방법을 나타낸 플로우 차트이다.
도 7은 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치를 나타낸 블록도이다.
1 is a diagram illustrating a head mounted display on which an apparatus for providing an interior film design service is mounted according to an exemplary embodiment.
2 is a diagram illustrating a user interface in which a virtual interior space is displayed according to an exemplary embodiment.
3A to 3E are diagrams illustrating a user interface for providing an interior film design service for a virtual interior space according to an exemplary embodiment.
4 shows a deep learning system using image patterning based on a convolutional neural network.
5 is a diagram illustrating a block configuration of a patterning module used in a deep learning system using image patterning based on a convolutional neural network according to an embodiment of the present invention.
6 is a flow chart showing a method of providing an interior film design service according to an embodiment.
7 is a block diagram showing an apparatus for providing an interior film design service according to an embodiment.

이하, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 또한, 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. However, the present invention is not limited or limited by the embodiments. In addition, the same reference numerals shown in each drawing denote the same member.

또한, 본 명세서에서 사용되는 용어(terminology)들은 본 발명의 바람직한 실시예를 적절히 표현하기 위해 사용된 용어들로서, 이는 사용자, 운용자의 의도 또는 본 발명이 속하는 분야의 관례 등에 따라 달라질 수 있다.In addition, terms used in the present specification are terms used to properly express preferred embodiments of the present invention, which may vary depending on the intention of users or operators, or customs in the field to which the present invention belongs.

따라서, 본 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.Accordingly, definitions of these terms should be made based on the contents throughout the present specification.

도 1은 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치가 탑재되는 헤드 마운트 디스플레이를 나타낸 도면이다.1 is a diagram illustrating a head mounted display on which an apparatus for providing an interior film design service is mounted according to an exemplary embodiment.

도 1을 참조하면, 일실시예에 다른 인테리어 필름 디자인 서비스 제공 장치(110)는 헤드 마운트 디스플레이(100) 내부 또는 외부에 탑재되거나, 헤드 마운트 디스플레이(100)와 연결되어, 헤드 마운트 디스플레이(100)가 착용되는 사용자에게 인테리어 필름 디자인 서비스를 제공한다. 이하, 인테리어 필름 디자인 서비스 제공 장치(110)가 헤드 마운트 디스플레이(100) 내부에 탑재되는 경우로 설명한다.Referring to FIG. 1, an apparatus for providing an interior film design service 110 according to an embodiment is mounted inside or outside the head mounted display 100, or connected to the head mounted display 100, so that the head mounted display 100 Provides interior film design service to users who are worn. Hereinafter, a case where the interior film design service providing device 110 is mounted inside the head mounted display 100 will be described.

헤드 마운트 디스플레이(100)는 사용자의 좌안 및 우안 각각에 대응하도록 배치되는 렌즈(120) 및 디스플레이 패널(130)과 렌즈(120) 및 디스플레이 패널(130)을 고정시키는 마운트(140)를 포함할 수 있다. The head mounted display 100 may include a lens 120 and a display panel 130 disposed to correspond to each of the user's left and right eyes, and a mount 140 for fixing the lens 120 and the display panel 130. have.

그러나 이에 제한되거나 한정되지 않고, 헤드 마운트 디스플레이(100)는 사용자에게 가상 현실 영상을 제공하는 다양한 구조로 형성될 수 있다.However, the present invention is not limited or limited thereto, and the head mounted display 100 may be formed in various structures that provide a virtual reality image to a user.

인테리어 필름 디자인 서비스 제공 장치(110)는 헤드 마운트 디스플레이(100)에 제공되는 사용자 인터페이스를 통하여 인테리어 필름 디자인 서비스를 제공한다. 이하, 사용자 인터페이스는 헤드 마운트 디스플레이(100)에 포함되는 렌즈(120) 및 디스플레이 패널(130)을 통하여 가상 현실 영상의 형태로 제공될 수 있다. 이에 대한 상세한 설명은 아래에서 기재하기로 한다.The interior film design service providing device 110 provides interior film design services through a user interface provided to the head mounted display 100. Hereinafter, the user interface may be provided in the form of a virtual reality image through the lens 120 and the display panel 130 included in the head mounted display 100. A detailed description of this will be described below.

따라서, 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치(110)는 헤드 마운트 디스플레이(100)에 제공되는 사용자 인터페이스를 이용하여 인테리어 필름 디자인 서비스를 제공함으로써, 사용자의 조작 편의성 및 사용자가 실제 느끼는 현실감을 향상시킬 수 있다.Therefore, the interior film design service providing apparatus 110 according to an embodiment provides an interior film design service using a user interface provided on the head mounted display 100, thereby providing the user's operational convenience and the user's actual sense of reality. Can be improved.

도 2는 일실시예에 따른 가상 인테리어 공간이 디스플레이되는 사용자 인터페이스를 나타낸 도면이다.2 is a diagram illustrating a user interface in which a virtual interior space is displayed according to an exemplary embodiment.

도 2를 참조하면, 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치는 헤드 마운트 디스플레이에 제공되는 사용자 인터페이스(200)를 통하여 가상 인테리어 공간(210)을 디스플레이한다. 이하, 사용자 인터페이스(200)는 헤드 마운트 디스플레이에 포함되는 렌즈 및 디스플레이 패널을 통하여 가상 현실 영상의 형태로 제공될 수 있으며, 헤드 마운트 디스플레이의 구조에 따라 사용자의 좌안 및 우안 각각에 제공될 수도 있다.Referring to FIG. 2, an apparatus for providing an interior film design service according to an embodiment displays a virtual interior space 210 through a user interface 200 provided on a head mounted display. Hereinafter, the user interface 200 may be provided in the form of a virtual reality image through a lens and a display panel included in the head mounted display, and may be provided to each of the user's left and right eyes according to the structure of the head mounted display.

여기서, 가상 인테리어 공간(210)은 후술되는 인테리어 필름 디자인 서비스의 대상이 되는 공간으로서, 사용자의 머리 또는 얼굴의 움직임에 따라, 실제 인테리어 공간에서 사용자가 보는 것과 같이 현실감 있는 가상 현실 영상으로 제공될 수 있다. 예를 들어, 인테리어 필름 디자인 서비스 제공 장치는 헤드 마운트 디스플레이의 헤드 트래킹 기능을 이용하여 사용자의 머리 또는 얼굴의 회전 각도를 검출함으로써, 사용자의 시선을 예측하고, 예측된 사용자의 시선을 기초로 현실감 있는 가상 인테리어 공간(210)을 사용자 인터페이스(200)를 통하여 사용자에게 제공할 수 있다.Here, the virtual interior space 210 is a space that is a target of an interior film design service to be described later, and may be provided as a realistic virtual reality image as seen by the user in an actual interior space according to the movement of the user's head or face. have. For example, the interior film design service providing device predicts the user's gaze by detecting the rotation angle of the user's head or face using the head tracking function of the head mounted display, and provides a realistic sense of the user's gaze based on the predicted gaze. The virtual interior space 210 may be provided to a user through the user interface 200.

따라서, 인테리어 필름 디자인 서비스 제공 장치는 가상 인테리어 공간(210) 상에서 상술한 바와 같이 예측되는 사용자의 시선에 대응하는 시점(viewpoint)을 설정함으로써, 시점의 움직임(이 때, 시점은 사용자의 머리 또는 얼굴의 움직임에 따라 적응적으로 움직일 수 있음)에 기초하여 가상 인테리어 공간(210)에 대한 인테리어 필름 디자인 서비스를 제공한다. 여기서, 시점의 움직임은 시점이 가상 인테리어 공간(210)의 특정 영역 또는 가상 인테리어 공간(210)에 배치되는 가상 인테리어 객체에서 미리 설정된 시간 동안 머무는 제스처 또는 시점이 가상 인테리어 공간에서 이동하는 제스처를 포함할 수 있다. 그러나 이에 제한되거나 한정되지 않고 시점의 움직임으로는 다양한 제스처 또는 제스처가 반복되어 형성되는 특정 패턴이 이용될 수도 있다. 이에 대한 상세한 설명은 도 3a 내지 3c 및 4a 내지 4d를 참조하여 기재하기로 한다.Accordingly, the interior film design service providing apparatus sets a viewpoint corresponding to the predicted user's gaze on the virtual interior space 210 as described above, so that the movement of the viewpoint (in this case, the viewpoint is the user's head or face). It provides an interior film design service for the virtual interior space 210 on the basis of (can adaptively move according to the movement of). Here, the movement of the viewpoint includes a gesture in which the viewpoint stays for a predetermined time in a specific area of the virtual interior space 210 or a virtual interior object disposed in the virtual interior space 210 or a gesture in which the viewpoint moves in the virtual interior space. I can. However, the present invention is not limited or limited thereto, and various gestures or a specific pattern formed by repeating gestures may be used as the motion of the viewpoint. A detailed description thereof will be described with reference to FIGS. 3A to 3C and 4A to 4D.

또한, 인테리어 필름 디자인 서비스 제공 장치는 가상 인테리어 공간(210)에 시점에 대응하는 객체(211)를 디스플레이함으로써, 사용자가 시점을 인지하도록 할 수 있다. 이하, 시점에 대응하는 객체(211)는 시점을 나타내기 때문에, 시점에 대응하는 객체(211)의 도면 부호로 시점을 기재한다.In addition, the apparatus for providing an interior film design service may display an object 211 corresponding to a viewpoint in the virtual interior space 210 so that a user may recognize the viewpoint. Hereinafter, since the object 211 corresponding to the viewpoint represents a viewpoint, the viewpoint is described with reference numerals of the object 211 corresponding to the viewpoint.

도 3a 내지 3e는 일실시예에 따른 가상 인테리어 공간에 대한 인테리어 필름 디자인 서비스가 제공되는 사용자 인터페이스를 나타낸 도면이다.3A to 3E are diagrams illustrating a user interface for providing an interior film design service for a virtual interior space according to an exemplary embodiment.

도 3a 내지 3c를 참조하면, 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스(300)상에 디스플레이되는 가상 인테리어 공간(310)에서 시점(311)의 움직임에 기초하여 가상 인테리어 객체를 배치시키고 이동시킴으로써, 인테리어 디자인 서비스를 제공할 수 있다.3A to 3C, the apparatus for providing an interior film design service according to an embodiment arranges a virtual interior object based on the movement of the viewpoint 311 in the virtual interior space 310 displayed on the user interface 300. By ordering and moving, interior design services can be provided.

구체적으로, 도 3a를 참조하면, 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스(300)를 통하여 객체 선택 인벤토리(320)를 디스플레이할 수 있다. 여기서, 객체 선택 인벤토리(320)는 실제 인테리어 소품들(예컨대, 소파, 의자, 탁자, 액자, 장롱 또는 책장 등의 인테리어 가구 및 제품)이 가상 현실에 최적화되도록 모델링된(가상 현실 영상을 제공하는 헤드 마운드 디스플레이에 적합하게 데이터화된) 복수의 가상 인테리어 객체들이 저장되어 미리 구축될 수 있다.Specifically, referring to FIG. 3A, the apparatus for providing an interior film design service may display an object selection inventory 320 through the user interface 300. Here, the object selection inventory 320 is modeled so that actual interior accessories (e.g., interior furniture and products such as sofas, chairs, tables, frames, cabinets, or bookshelves) are optimized for virtual reality (a head that provides a virtual reality image). A plurality of virtual interior objects (data data suitable for the mound display) may be stored and constructed in advance.

예를 들어, 인테리어 필름 디자인 서비스 제공 장치는 시점(311)의 움직임(312)이 미리 설정된 객체 선택 인벤토리 호출 패턴과 일치하는 경우, 사용자 인터페이스(300) 상에 객체 선택 인벤토리(320)를 디스플레이할 수 있다.For example, the interior film design service providing apparatus may display the object selection inventory 320 on the user interface 300 when the movement 312 of the viewpoint 311 matches a preset object selection inventory calling pattern. have.

더 구체적인 예를 들면, 미리 설정된 객체 선택 인벤토리 호출 패턴이 미리 설정된 시간(예컨대, 2초) 동안 좌우로 움직이는 패턴인 경우, 시점(311)의 움직임(312)이 미리 설정된 시간 동안 좌우로 움직이는 패턴과 일치하게 되면, 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스(300) 상에 객체 선택 인벤토리(320)를 디스플레이할 수 있다.For a more specific example, when the preset object selection inventory call pattern is a pattern that moves left and right for a preset time (eg, 2 seconds), the movement 312 of the viewpoint 311 is a pattern that moves left and right for a preset time. If matched, the interior film design service providing apparatus may display the object selection inventory 320 on the user interface 300.

또한, 도 3b를 참조하면, 인테리어 필름 디자인 서비스 제공 장치는 객체 선택 인벤토리(320) 상에서 시점(311)의 움직임(313, 314)에 기초하여 가상 인테리어 객체(321)를 선택할 수 있다.In addition, referring to FIG. 3B, the apparatus for providing an interior film design service may select a virtual interior object 321 based on movements 313 and 314 of the viewpoint 311 on the object selection inventory 320.

예를 들어, 시점(311)의 움직임(313)이 객체 선택 인벤토리(320) 상에서 이동하는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 시점(311)이 커서가 움직이듯이 객체 선택 인벤토리(320) 상에 디스플레이된 복수의 가상 인테리어 객체들을 지나가도록 할 수 있다. 또한, 시점(311)의 움직임(314)이 객체 선택 인벤토리(320)상에 디스플레이된 복수의 가상 인테리어 객체들 중 가상 인테리어 객체(321)에서 미리 설정된 시간(예컨대, 2초) 동안 머무는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 가상 인테리어 객체(321)를 선택할 수 있다. 그러나 이에 제한되거나 한정되지 않고, 가상 인테리어 객체(321)가 선택되는 과정에서 고려되는 시점(311)의 움직임(313, 314)으로는 다양한 제스처가 이용될 수 있으며, 위에서 상술한 미리 설정된 특정 패턴이 이용될 수도 있다.For example, when the movement 313 of the viewpoint 311 is a gesture that moves on the object selection inventory 320, the interior film design service providing apparatus may move the viewpoint 311 on the object selection inventory 320 as if the cursor moves. A plurality of virtual interior objects displayed in may be passed. In addition, when the movement 314 of the viewpoint 311 is a gesture of staying for a preset time (eg, 2 seconds) in the virtual interior object 321 among a plurality of virtual interior objects displayed on the object selection inventory 320 , The interior film design service providing device may select a virtual interior object 321. However, the present invention is not limited or limited thereto, and various gestures may be used as the movements 313 and 314 of the viewpoint 311 considered in the process of selecting the virtual interior object 321, and the predetermined specific pattern described above is It can also be used.

이와 같이 가상 인테리어 객체(321)가 선택되면, 인테리어 필름 디자인 서비스 제공 장치는 도 3c와 같이 가상 인테리어 객체(321)를 가상 인테리어 공간(310)에 배치할 수 있다. 도면에는 도시하지 않았지만, 인테리어 필름 디자인 서비스 제공 장치는 선택된 가상 인테리어 객체(321)에 대해 사용자로 하여금 확인하도록 하는 과정을 추가적으로 수행함으로써(마찬가지로, 시점(311)의 움직임을 기반으로 하는 확인 과정), 가상 인테리어 객체(321)가 배치되는 과정에 대한 신뢰도를 향상시킬 수 있다.When the virtual interior object 321 is selected as described above, the interior film design service providing apparatus may arrange the virtual interior object 321 in the virtual interior space 310 as shown in FIG. 3C. Although not shown in the drawings, the interior film design service providing apparatus additionally performs a process of allowing the user to confirm the selected virtual interior object 321 (similarly, a confirmation process based on the movement of the viewpoint 311), It is possible to improve reliability in a process in which the virtual interior object 321 is arranged.

또한, 도 3c를 참조하면, 인테리어 필름 디자인 서비스 제공 장치는 시점(311)의 움직임(315, 316, 317)에 기초하여 가상 인테리어 객체(321)를 이동시킬 수 있다.In addition, referring to FIG. 3C, the apparatus for providing an interior film design service may move the virtual interior object 321 based on movements 315, 316, and 317 of the viewpoint 311.

예를 들어, 시점(311)의 움직임(315)이 가상 인테리어 공간(310)에 배치된 가상 인테리어 객체(321)에서 미리 설정된 시간(예컨대, 2초) 동안 머무는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 가상 인테리어 객체(321)를 선택할 수 있고, 뒤이어 발생되는 시점(311)의 움직임(316)이 가상 인테리어 공간(310) 상에서 이동하는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 선택된 가상 인테리어 객체(321)를 시점(311)의 이동에 따라 이동시킬 수 있다. 그 후, 시점(311)의 움직임(317)이 가상 인테리어 공간(310)의 특정 영역에서 미리 설정된 시간 동안 머무는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 특정 영역으로 이동시킨 가상 인테리어 객체(321)를 특정 영역에 고정시킬 수 있다. 마찬가지로, 가상 인테리어 객체(321)가 이동되는 과정에서 고려되는 시점(311)의 움직임(315, 316, 317)으로는 다양한 제스처가 이용될 수 있으며, 위에서 상술한 미리 설정된 특정 패턴이 이용될 수도 있다.For example, when the movement 315 of the viewpoint 311 is a gesture of staying for a preset time (eg, 2 seconds) in the virtual interior object 321 arranged in the virtual interior space 310, interior film design service is provided. The device may select the virtual interior object 321, and when the subsequent movement 316 of the viewpoint 311 is a gesture of moving on the virtual interior space 310, the interior film design service providing device is the selected virtual interior object The 321 may be moved according to the movement of the viewpoint 311. Thereafter, when the movement 317 of the viewpoint 311 is a gesture of staying for a preset time in a specific area of the virtual interior space 310, the interior film design service providing device is the virtual interior object 321 that has been moved to the specific area. Can be fixed to a specific area. Likewise, various gestures may be used as the movements 315, 316, and 317 of the viewpoint 311 considered in the process of moving the virtual interior object 321, and the predetermined specific pattern described above may be used. .

도면에는 도시되지 않았지만, 인테리어 필름 디자인 제공 장치는 가상 인테리어 공간(310)에 배치되는 가상 인테리어 객체(321)를 시점(311)의 움직임에 따라 제거할 수도 있다. 이러한 경우, 인테리어 필름 디자인 제공 장치는 위에서 상술한 바와 같이 시점(311)의 움직임에 따라 가상 인테리어 객체(321)를 선택한 후, 사용자 인터페이스(300) 상의 특정 영역(예컨대, PC에서의 휴지통과 같은 영역)으로 이동시킴으로써, 가상 인테리어 공간(310)에 배치되는 가상 인테리어 객체(321)를 제거할 수도 있다.Although not shown in the drawing, the interior film design providing apparatus may remove the virtual interior object 321 disposed in the virtual interior space 310 according to the movement of the viewpoint 311. In this case, the interior film design providing apparatus selects the virtual interior object 321 according to the movement of the viewpoint 311 as described above, and then selects a specific area on the user interface 300 (eg, an area such as a trash bin in a PC). ), the virtual interior object 321 disposed in the virtual interior space 310 may be removed.

이와 같이, 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스(300)에서 시점(311)의 움직임을 기초로 가상 인테리어 공간(310)에 가상 인테리어 객체(321)를 배치, 제거 또는 이동시킴으로써, 사용자의 조작 편의성 및 사용자가 실제 느끼는 현실감을 향상시킬 수 있다.As described above, the apparatus for providing interior film design service according to an exemplary embodiment arranges, removes or moves the virtual interior object 321 in the virtual interior space 310 based on the movement of the viewpoint 311 in the user interface 300. , It is possible to improve the user's operation convenience and the real feeling that the user actually feels.

또한, 인테리어 필름 디자인 제공 장치는 가상 인테리어 공간(310)에 가상 인테리어 객체(321)를 배치 또는 제거할 뿐만 아니라, 가상 인테리어 공간(310)의 특정 영역 또는 가상 인테리어 공간(310)에 배치되는 가상 인테리어객체(321)를 변경할 수 있다.In addition, the apparatus for providing interior film design not only arranges or removes the virtual interior object 321 in the virtual interior space 310, but also provides a virtual interior disposed in a specific area of the virtual interior space 310 or the virtual interior space 310. The object 321 can be changed.

한편, 도 3d 내지 3e를 참조하면, 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스(300)상에 디스플레이되는 가상 인테리어 공간(310)에서 시점(311)의 움직임에 기초하여 가상 인테리어 필름 객체를 배치시키고 이동시킴으로써, 인테리어 필름 디자인 서비스를 제공할 수 있다.Meanwhile, referring to FIGS. 3D to 3E, an apparatus for providing an interior film design service according to an exemplary embodiment provides a virtual interior film based on the movement of the viewpoint 311 in the virtual interior space 310 displayed on the user interface 300. By placing and moving objects, interior film design services can be provided.

구체적으로, 도 3d를 참조하면, 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스(300)를 통하여 필름 객체 선택 인벤토리(320')를 디스플레이할 수 있다. 여기서, 필름 객체 선택 인벤토리(320')는 인테리어 소품들(예컨대, 소파, 의자, 탁자, 액자, 장롱 또는 책장 등의 인테리어 가구 및 제품)에 부착되는 인테리어 필름이 가상 현실에 최적화되도록 모델링된(가상 현실 영상을 제공하는 헤드 마운드 디스플레이에 적합하게 데이터화된) 복수의 가상 인테리어 필름 객체들이 저장되어 미리 구축될 수 있다.Specifically, referring to FIG. 3D, the apparatus for providing an interior film design service may display a film object selection inventory 320 ′ through the user interface 300. Here, the film object selection inventory 320 ′ is modeled so that the interior film attached to interior accessories (eg, interior furniture and products such as sofas, chairs, tables, frames, cabinets, or bookshelves) is optimized for virtual reality (virtual A plurality of virtual interior film objects (data data suitable for a head mounted display providing a real image) may be stored and constructed in advance.

예를 들어, 인테리어 필름 디자인 서비스 제공 장치는 시점(311)의 움직임(312)이 미리 설정된 필름 객체 선택 인벤토리 호출 패턴과 일치하는 경우, 사용자 인터페이스(300) 상에 필름 객체 선택 인벤토리(320')를 디스플레이할 수 있다.For example, when the motion 312 of the viewpoint 311 coincides with a preset film object selection inventory calling pattern, the interior film design service providing apparatus displays the film object selection inventory 320 ′ on the user interface 300. Can be displayed.

더 구체적인 예를 들면, 미리 설정된 필름 객체 선택 인벤토리 호출 패턴이 미리 설정된 시간(예컨대, 2초) 동안 좌우로 움직이는 패턴인 경우, 시점(311)의 움직임(312)이 미리 설정된 시간 동안 좌우로 움직이는 패턴과 일치하게 되면, 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스(300) 상에 필름 객체 선택 인벤토리(320')를 디스플레이할 수 있다.For a more specific example, when the preset film object selection inventory call pattern is a pattern that moves left and right for a preset time (eg, 2 seconds), the movement 312 of the viewpoint 311 is a pattern that moves left and right for a preset time. If matched with, the interior film design service providing apparatus may display a film object selection inventory 320 ′ on the user interface 300.

또한, 도 3e를 참조하면, 인테리어 필름 디자인 서비스 제공 장치는 필름 객체 선택 인벤토리(320') 상에서 시점(311)의 움직임(313, 314)에 기초하여 가상 인테리어 필름 객체(321')를 선택할 수 있다.In addition, referring to FIG. 3E, the apparatus for providing an interior film design service may select a virtual interior film object 321 ′ based on movements 313 and 314 of the viewpoint 311 on the film object selection inventory 320 ′. .

예를 들어, 시점(311)의 움직임(313)이 필름 객체 선택 인벤토리(320') 상에서 이동하는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 시점(311)이 커서가 움직이듯이 필름 객체 선택 인벤토리(320') 상에 디스플레이된 복수의 가상 인테리어 필름 객체들을 지나가도록 할 수 있다. 또한, 시점(311)의 움직임(314)이 필름 객체 선택 인벤토리(320')상에 디스플레이된 복수의 가상 인테리어 필름 객체들 중 가상 인테리어 필름 객체(321')에서 미리 설정된 시간(예컨대, 2초) 동안 머무는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 가상 인테리어 필름 객체(321')를 선택할 수 있다. 그러나 이에 제한되거나 한정되지 않고, 가상 인테리어 필름 객체(321')가 선택되는 과정에서 고려되는 시점(311)의 움직임(313, 314)으로는 다양한 제스처가 이용될 수 있으며, 위에서 상술한 미리 설정된 특정 패턴이 이용될 수도 있다.For example, when the motion 313 of the viewpoint 311 is a gesture moving on the film object selection inventory 320', the interior film design service providing device may have a film object selection inventory as the viewpoint 311 moves a cursor. 320') may pass through a plurality of virtual interior film objects. In addition, the motion 314 of the viewpoint 311 is a preset time (eg, 2 seconds) in the virtual interior film object 321 ′ among a plurality of virtual interior film objects displayed on the film object selection inventory 320 ′. In the case of a staying gesture, the interior film design service providing device may select the virtual interior film object 321'. However, the present invention is not limited or limited thereto, and various gestures may be used as the movements 313 and 314 of the viewpoint 311 considered in the process of selecting the virtual interior film object 321 ′. Patterns may also be used.

이와 같이 가상 인테리어 필름 객체(321')가 선택되면, 인테리어 필름 디자인 서비스 제공 장치는 가상 인테리어 필름 객체(321')를 가상 인테리어 공간(310)의 해당 인테리어 소품에 부착할 수 있다. When the virtual interior film object 321 ′ is selected as described above, the interior film design service providing apparatus may attach the virtual interior film object 321 ′ to the corresponding interior prop of the virtual interior space 310.

도면에는 도시하지 않았지만, 인테리어 필름 디자인 서비스 제공 장치는 선택된 가상 인테리어 필름 객체(321')에 대해 유사 패턴들로 이루어진 유사 필름 객체 선택 인벤토리를 제공하여 사용자로 하여금 도 3d와 도 3e에 도시된 과정과 유사하게 유사 필름 객체 선택 인벤토리에서 가상 인테리어 유사 필름 객체를 선택하도록 할 수 있다.Although not shown in the drawings, the interior film design service providing apparatus provides a similar film object selection inventory consisting of similar patterns for the selected virtual interior film object 321 ′, allowing the user to follow the processes shown in FIGS. 3D and 3E. Similarly, a virtual interior-like film object can be selected from the similar film object selection inventory.

여기에서, 인테리어 필름 디자인 서비스 제공 장치는 가상 인테리어 필름 객체에 대한 유사 패턴들은 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템으로 구현할 수 있으며 상세한 설명은 도 4를 참조하여 상세히 설명한다.Here, the interior film design service providing apparatus may implement similar patterns for virtual interior film objects as a deep learning system using image patterning based on a convolutional neural network, and a detailed description will be described with reference to FIG. 4.

이와 같은 인테리어 필름 디자인 제공 장치는 가상 인테리어 공간(310)의 인테리어 소품에 부착되는 가상 인테리어 필름 객체(321')를 시점(311)의 움직임에 따라 제거할 수도 있다. 이러한 경우, 인테리어 필름 디자인 제공 장치는 위에서 상술한 바와 같이 시점(311)의 움직임에 따라 가상 인테리어 필름 객체(321')를 선택한 후, 사용자 인터페이스(300) 상의 특정 영역(예컨대, PC에서의 휴지통과 같은 영역)으로 이동시킴으로써, 가상 인테리어 공간(310)에 배치되는 가상 인테리어 필름 객체(321')를 제거할 수도 있다.The apparatus for providing interior film design as described above may remove the virtual interior film object 321 ′ attached to the interior props of the virtual interior space 310 according to the movement of the viewpoint 311. In this case, the interior film design providing apparatus selects the virtual interior film object 321 ′ according to the movement of the viewpoint 311 as described above, and then selects a specific area on the user interface 300 (eg, the trash bin in the PC). The virtual interior film object 321' disposed in the virtual interior space 310 may be removed by moving to the same area).

이와 같이, 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스(300)에서 시점(311)의 움직임을 기초로 가상 인테리어 공간(310)에 가상 인테리어 필름 객체(321')를 배치, 제거 또는 이동시킴으로써, 사용자의 조작 편의성 및 사용자가 실제 느끼는 현실감을 향상시킬 수 있다.As described above, the apparatus for providing an interior film design service according to an embodiment arranges or removes the virtual interior film object 321 ′ in the virtual interior space 310 based on the movement of the viewpoint 311 in the user interface 300. By moving, it is possible to improve the user's operation convenience and the real feeling that the user actually feels.

또한, 인테리어 필름 디자인 제공 장치는 가상 인테리어 공간(310)에 가상 인테리어 필름 객체(321')를 배치 또는 제거할 뿐만 아니라, 가상 인테리어 공간(310)의 특정 영역 또는 가상 인테리어 공간(310)에 배치되는 가상 인테리어 필름 객체(321')를 변경할 수 있다.In addition, the interior film design providing apparatus not only arranges or removes the virtual interior film object 321 ′ in the virtual interior space 310, but also arranges in a specific area of the virtual interior space 310 or the virtual interior space 310. The virtual interior film object 321' may be changed.

도 4는 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템을 나타낸다.4 shows a deep learning system using image patterning based on a convolutional neural network.

도 4에 나타낸 바와 같이, 본 발명의 실시예에 따른 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템은, 다수의 인테리어 필름 영상을 입력하는 영상 입력부(412); 영상 입력부(412)로부터 받은 다수의 인테리어 필름 영상을 패턴화된 다수의 패턴 영상으로 생성하는 패턴화 모듈(414); 영상 입력부(412)로부터 받은 다수의 인테리어 필름 영상과 패턴화 모듈(414)로부터 수신 받은 패턴 영상을 학습시키는 컨볼루션 신경망(CNN: Convolutional Neural Network)을 기반으로 하는 CNN 학습부(416); 상기 CNN 학습부(416)로부터 학습정보와 상기 영상 입력부(412)로부터 받은 다수의 인테리어 필름 영상을 전달받는 CNN 실행부(430); 및 상기 CNN 실행부(430)로부터 영상 정보를 받아 영상 정보의 다수의 인테리어 필름 객체를 유사한 패턴별로 분류하는 최종 분류부(440)를 포함하여 구성된다.As shown in FIG. 4, a deep learning system using image patterning based on a convolutional neural network according to an embodiment of the present invention includes: an image input unit 412 for inputting a plurality of interior film images; A patterning module 414 for generating a plurality of interior film images received from the image input unit 412 into a plurality of patterned pattern images; A CNN learning unit 416 based on a convolutional neural network (CNN) for learning a plurality of interior film images received from the image input unit 412 and pattern images received from the patterning module 414; A CNN execution unit 430 receiving learning information from the CNN learning unit 416 and a plurality of interior film images received from the image input unit 412; And a final classification unit 440 that receives image information from the CNN execution unit 430 and classifies a plurality of interior film objects of the image information according to similar patterns.

보다 구체적으로, 도 4에 나타낸 바와 같이, 본 발명의 실시예에 따른 딥러닝 시스템에서 영상 입력부(412) 및 패턴화 모듈(414)을 통해 얻은 입력정보들은 CNN의 구조의 입력부에 해당하고, CNN 학습부(416) 및 CNN 실행부(430)는 패턴 영상 및 가중치 정보를 출력하는 출력부에 해당한다.More specifically, as shown in FIG. 4, input information obtained through the image input unit 412 and the patterning module 414 in the deep learning system according to the embodiment of the present invention corresponds to the input unit of the structure of the CNN, and the CNN The learning unit 416 and the CNN execution unit 430 correspond to an output unit that outputs pattern images and weight information.

즉, 입력 정보마다 입력 정보에 학습을 통해 얻은 가중치를 적용한 값과, 입력 정보들의 관계를 패턴화한 패턴 정보에 패턴 가중치를 적용한 값을 얻고 이를 합한다. 그리고 입력의 수만큼 존재하는 합한 값들을 최종적으로 합해 출력 정보를 얻는다.That is, for each input information, a value obtained by applying a weight obtained through learning to the input information and a value obtained by applying a pattern weight to the pattern information in which the relationship between the input information is patterned are obtained and added. Then, the summed values that exist as many as the number of inputs are finally summed to obtain output information.

여기서, 딥러닝(Deep Learning) 기술은, 컴퓨터가 사람처럼 생각하고 배울 수 있도록 하는 인공지능(AI) 기술로서, 인공신경망 이론을 기반으로 복잡한 비선형 문제를 기계가 스스로 학습해결 할 수 있도록 한다. Here, deep learning technology is an artificial intelligence (AI) technology that enables computers to think and learn like humans, and enables machines to learn and solve complex nonlinear problems by themselves based on artificial neural network theory.

딥러닝은 인간의 두뇌가 수많은 데이터 속에서 패턴을 발견한 뒤 사물을 구분하는 정보처리 방식을 모방해 컴퓨터가 사물을 분별하도록 기계를 학습시키는 기술이다.Deep learning is a technology in which the human brain learns a machine to discern objects by imitating the information processing method that distinguishes objects after discovering patterns in numerous data.

딥러닝 기술을 적용하면 사람이 모든 판단 기준을 정해주지 않아도 컴퓨터가 스스로 인지·추론·판단할 수 있게 되고, 음성·이미지 인식과 사진 분석 등에 광범위하게 활용하는 것이 가능하다.When deep learning technology is applied, computers can recognize, infer, and judge by themselves even if a person does not set all judgment criteria, and it can be widely used for voice, image recognition, and photo analysis.

즉, 딥러닝(deep learning)은 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화(abstractions, 다량의 데이터나 복잡한 자료들 속에서 핵심적인 내용 또는 기능을 요약하는 작업)를 시도하는 기계학습(machine learning) 알고리즘의 집합으로 정의되며, 큰 틀에서 사람의 사고방식을 컴퓨터에게 가르치는 기계학습의 한 분야라고 이야기할 수 있다.In other words, deep learning is a machine learning that attempts high-level abstractions (summarizing key contents or functions in a large amount of data or complex data) through a combination of several nonlinear transformation methods. learning) is defined as a set of algorithms, and can be said to be a branch of machine learning that teaches computers how people think in a large framework.

어떠한 데이터가 있을 때 이를 컴퓨터가 알아들을 수 있는 형태(예를 들어 이미지의 경우는 픽셀정보를 열벡터로 표현하는 등)로 표현(representation)하고 이를 학습에 적용하기 위해 많은 연구(어떻게 하면 더 좋은 표현 기법을 만들고 또 어떻게 이것들을 학습할 모델을 만들지에 대한)가 진행되고 있으며, 이러한 노력의 결과로 deep neural networks, convolutional deep neural networks, deep belief networks와 같은 다양한 딥러닝 기법들이 컴퓨터 비젼, 음성인식, 자연어처리, 음성/신호처리 등의 분야에 적용되어 최첨단의 결과들을 보여주고 있다.When there is any data, it is represented in a form that can be understood by a computer (for example, in the case of an image, pixel information is expressed as a column vector, etc.), and a lot of research (how to express better) to apply it to learning. And how to create a model to learn them), and as a result of this effort, various deep learning techniques such as deep neural networks, convolutional deep neural networks, and deep belief networks are being used in computer vision, speech recognition, It is applied to fields such as natural language processing and voice/signal processing, and shows cutting-edge results.

특히, 컴퓨터 비전의 주요 분야인 영상 인식 및 사물 인식 분야에서의 딥러닝 기술의 중요성이 대두 되고 있는데, 자동 음성인식 분야의 자동 음성 번역 및 이해 분야로의 확장과 마찬가지로, 이미지 분류 분야는 자동 영상 캡션닝(captioning)이라는 더욱 도전적인 분야로 확장되고 있다. 자동 영상 캡셔닝은 딥러닝을 핵심 기반 기술로 사용하는 분야로서, 적용 사례로는 360°카메라 화면을 이해할 수 있도록 딥러닝을 통해 학습된 자동차 탑재용 컴퓨터 등이 있다.In particular, the importance of deep learning technology in the field of image recognition and object recognition, which is a major field of computer vision, is emerging. Like the automatic speech translation and expansion of the automatic speech recognition field, the image classification field is automatic image captioning. It is expanding into a more challenging field called captioning. Automated image captioning is a field that uses deep learning as a core technology, and examples of application include a car-mounted computer that is learned through deep learning to understand a 360° camera screen.

그리고, 컨볼루션 신경망(convolutional neural networks, CNN)은 2차원 영상을 처리에 특화되어 인식문제에 주로 사용되어 왔고, 기본적인 핵심 특징으로, 첫 번째는 국소 수용 면(local receptive field)을 두어 영상 일부를 표현하는 특징(feature) 추출에 중점 두었고, 두 번째는 이러한 특징을 나타내는 가중치들을 영상 전 영역에서 공유할 수 있게 하였다는 점에서 막대한 수의 매개변수를 줄이고 영상 위치에 상관없이 특징을 공유할 수 있게 되는 장점이 있다.In addition, convolutional neural networks (CNNs) are specialized in processing 2D images and have been mainly used for recognition problems.The first is a basic key feature, and the first is a local receptive field to capture part of the image. The emphasis was placed on extracting features to represent, and second, in that weights representing these features can be shared across the entire image area, a huge number of parameters can be reduced and features can be shared regardless of the location of the image. It has the advantage of being.

세 번째 특징은 하나의 계층을 쌓고 노드 수를 줄여 상위 계층을 만드는 과정은 반복하면 상위 계층으로 갈수록 일반화가 이루어지게 된다. 최근 딥러닝이 많은 관심을 받게 되면서, convolutional RBM (restricted Boltzmann machine)을 계층화한 convolutional deep beliefnetworks, deep CNN)과 같이 CNN을 deep 구조화 하는 연구들이 진행되어 왔으며 영상 내 객체 인식 및 분류 문제에서 뛰어난 성능을 보이고 있다.The third characteristic is that as the process of creating an upper layer by stacking one layer and reducing the number of nodes is repeated, the generalization becomes more advanced toward the higher layer. As deep learning has recently received a lot of attention, studies on deep structuring CNNs such as convolutional deep belief networks (deep CNN) layered with convolutional RBM (restricted Boltzmann machine) have been conducted, and have excellent performance in object recognition and classification in images Is showing.

이와 같이, 본 발명의 실시예는 다양한 환경적인 문제로 인한 학습 정보의 질이 떨어지는 문제점을 해결하기 위해, 입력 영상을 각각의 환경에 강인한 패턴 영상으로 분류하고 조합한 후 학습시킴으로써, 다양한 환경문제(흔들림, 조도, 노이즈, 인식률 저하 등)에 취약한 영상 학습 정보의 질을 높일 수 있을 뿐만 아니라, 컨볼루션 신경망(CNN)의 각 레이어 층에서 특징을 추출하는 과정에서 발생할 수 있는 오류를 보정할 수 있고, 레이어 층마다 다른 패턴을 적용할 수 있다는 점에서 보다 양질의 학습정보를 획득할 수 있는 컨볼루션 신경망(CNN) 기반 영상 패턴화를 이용한 딥러닝 시스템을 제공한다.As described above, in order to solve the problem of poor quality of learning information due to various environmental problems, an embodiment of the present invention classifies and combines input images into pattern images that are robust to each environment, and then learns them. In addition to improving the quality of image learning information, which is vulnerable to shaking, illuminance, noise, reduction in recognition rate, etc., errors that may occur in the process of extracting features from each layer of a convolutional neural network (CNN) can be corrected. , In that different patterns can be applied for each layer, a deep learning system using image patterning based on a convolutional neural network (CNN) that can acquire higher quality learning information is provided.

그리고, 도 4에서 예시한 영상 입력부(412)는, 카메라와 연결되어 직접적인 다수의 인테리어 필름 영상을 수신하거나, 무선 네트워크 또는 인터넷 네트워크로부터 수신 받아 입력 가능한 장치로서, 카메라를 통해 촬영된 영상을 직접적으로 수신하여 입력하거나 무선 네트워크 또는 인터넷 네트워크를 통해 모바일 기기 또는 PC 등을 통해 영상을 수신받는 것도 가능하다. 이와 같은 다양한 루트를 통해 영상을 입력 받음으로써, 다양한 환경 및 대량의 영상 데이터가 빅데이터로서의 기능을 수행하여 본 발명의 실시예에 따른 학습장치를 통해 보다 정확하고 높은 수준의 영상 학습 데이트를 획득할 수 있게 된다.In addition, the image input unit 412 illustrated in FIG. 4 is a device that is connected to a camera and directly receives a plurality of interior film images, or receives and inputs from a wireless network or an Internet network, and directly receives an image photographed through the camera. It is also possible to receive and input or receive an image through a mobile device or a PC through a wireless network or an Internet network. By receiving images through such various routes, various environments and a large amount of image data perform a function as big data, so that more accurate and high-level image learning data can be obtained through the learning device according to the embodiment of the present invention. You will be able to.

도 5는 본 발명의 실시예에 따른 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템에 사용되는 패턴화 모듈(414)의 블록 구성을 예시한 도면이다.5 is a diagram illustrating a block configuration of a patterning module 414 used in a deep learning system using image patterning based on a convolutional neural network according to an embodiment of the present invention.

도 5에 나타낸 바와 같이, 패턴화 모듈(414)은, 영상 입력부(412)로부터 수신된 인테리어 필름 영상을 다수개의 패턴 영상으로 분류하는 패턴 분류부(414a); 및 패턴 분류부(414a)로부터 적어도 하나 이상의 패턴 영상을 수신 받고 조합하여 조합 영상을 생성하는 패턴 조합부(414b)를 포함하여 구성되는 것이 바람직하다.As shown in FIG. 5, the patterning module 414 includes: a pattern classification unit 414a for classifying the interior film image received from the image input unit 412 into a plurality of pattern images; And a pattern combination unit 414b that receives and combines at least one pattern image from the pattern classification unit 414a to generate a combined image.

그리고, 본 발명의 실시예에 적용되는 패턴화 모듈(414)에 의해 입력 영상이 패턴화되어 분류된 패턴 영상은, 국소 이진 패턴 (Local Binary Pattern) 영상, 국소 삼진 패턴(Local Ternary Pattern) 영상, 로컬 미분 패턴(Local Derivative Pattern) 영상 및 로컬 테트라 패턴(Local Tetra Pattern) 영상 등과 같은 영상 패턴 처리 기법을 이용하여 특정 환경 조건에 대응되어 강인한 패턴 영상을 획득할 수 있다.In addition, the pattern image classified by patterning the input image by the patterning module 414 applied to the embodiment of the present invention is a local binary pattern image, a local ternary pattern image, A robust pattern image may be obtained in response to a specific environmental condition by using an image pattern processing technique such as a local derivative pattern image and a local tetra pattern image.

한편, 위에서는 인테리어 필름 디자인 서비스 제공 장치가 선택된 가상 인테리어 필름 객체(321')에 대해 유사 패턴들로 이루어진 유사 필름 객체 선택 인벤토리를 제공하여 사용자로 하여금 도 3d와 도 3e에 도시된 과정과 유사하게 유사 필름 객체 선택 인벤토리에서 가상 인테리어 유사 필름 객체를 선택하도록 하였으나, 이와 달리 선택된 가상 인테리어 필름 객체와 유사 패턴들로 이루어지는 유사 필름 객체 선택 인벤토리에서 제공되는 유사 인테리어 필름들을 순차적으로 인테리어 소품에 부착시킨 후에 각각의 유사 인테리어 필름에 대한 시점(411)의 움직임에 기초하여, 가상 인테리어 필름 객체를 변경하는 인테리어 필름 디자인 서비스를 제공할 수 있다.Meanwhile, in the above, the interior film design service providing device provides a similar film object selection inventory consisting of similar patterns for the selected virtual interior film object 321 ′, allowing the user to be similar to the process shown in FIGS. 3D and 3E. Similar film object selection The virtual interior-like film object was selected from the inventory, but unlike the selected virtual interior film object and similar film object selection consisting of similar patterns, the similar interior films provided in the inventory were sequentially attached to the interior props, respectively. An interior film design service for changing a virtual interior film object may be provided based on the movement of the viewpoint 411 on the similar interior film of.

예를 들어, 시점(411)의 움직임(412)이 가상 인테리어 공간(410)에서 이동하는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 시점(411)이 커서가 움직이듯이 가상 인테리어 공간(410) 상을 돌아다니도록 할 수 있다.For example, when the movement 412 of the viewpoint 411 is a gesture of moving in the virtual interior space 410, the interior film design service providing device may move the viewpoint 411 on the virtual interior space 410 as if the cursor moves. You can make it go around.

또한, 시점(411)의 움직임(413)이 가상 인테리어 공간(410)에 미리 배치된 가상 인테리어 객체(420)에 부착된 유사 인테리어 필름에 미리 설정된 시간(예컨대, 2초) 이상 머무는 제스처인 경우, 인테리어 필름 디자인 서비스 제공 장치는 가장 오랜 시간 머무는 유사 인테리어 필름을 선택할 수 있다. In addition, when the movement 413 of the viewpoint 411 is a gesture of staying for longer than a preset time (eg, 2 seconds) on a similar interior film attached to the virtual interior object 420 previously arranged in the virtual interior space 410, The interior film design service providing device may select a similar interior film that stays the longest.

도 6은 일실시예에 따른 인테리어 필름 디자인 서비스 제공 방법을 나타낸 플로우 차트이다.6 is a flow chart showing a method of providing an interior film design service according to an embodiment.

도 6을 참조하면, 인테리어 필름 디자인 서비스 제공 방법은 헤드 마운트 디스플레이에 탑재되거나, 헤드 마운트 디스플레이와 연결되어 헤드 마운트 디스플레이를 이용하는 인테리어 필름 디자인 서비스 제공 장치에 의해 수행된다.Referring to FIG. 6, a method of providing an interior film design service is performed by an interior film design service providing device mounted on a head mounted display or connected to a head mounted display and using a head mounted display.

인테리어 필름 디자인 서비스 제공 장치는 헤드 마운트 디스플레이에 제공되는 사용자 인터페이스를 통하여 가상 인테리어 공간을 디스플레이한다(510).The interior film design service providing apparatus displays a virtual interior space through a user interface provided on the head mounted display (510).

그 다음, 인테리어 필름 디자인 서비스 제공 장치는 헤드 마운트 디스플레이가 착용되는 사용자의 머리 또는 얼굴의 회전 각도를 검출하여 가상 인테리어 공간 상에서 사용자의 시선에 대응하는 시점(viewpoint)을 설정한다(520).Then, the interior film design service providing apparatus detects a rotation angle of the user's head or face on which the head mounted display is worn, and sets a viewpoint corresponding to the user's gaze on the virtual interior space (520).

520 단계에서, 인테리어 필름 디자인 서비스 제공 장치는 가상 인테리어 공간에 시점에 대응하는 객체를 디스플레이 할 수도 있다.In step 520, the apparatus for providing an interior film design service may display an object corresponding to a viewpoint in the virtual interior space.

그 후, 인테리어 필름 디자인 서비스 제공 장치는 시점의 움직임에 기초하여 가상 인테리어 공간에 대한 인테리어 디자인 서비스를 제공한다(530).After that, the interior film design service providing apparatus provides an interior design service for a virtual interior space based on the movement of the viewpoint (530).

이 때, 시점의 움직임은 시점이 가상 인테리어 공간의 특정 영역 또는 가상 인테리어 공간에 배치되는 가상 인테리어 객체에서 미리 설정된 시간 동안 머무는 제스처 또는 시점이 가상 인테리어 공간에서 이동하는 제스처를 포함할 수 있다.In this case, the movement of the viewpoint may include a gesture in which the viewpoint stays for a predetermined time in a specific area of the virtual interior space or a virtual interior object disposed in the virtual interior space, or a gesture in which the viewpoint moves in the virtual interior space.

예를 들어, 530 단계에서, 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스를 통하여 복수의 가상 인테리어 객체들이 저장된 객체 선택 인벤토리를 디스플레이한 후, 객체 선택 인벤토리 상에서 시점의 움직임에 기초하여 가상 인테리어 객체를 선택함으로써, 가상 인테리어 공간에 가상 인테리어 객체를 배치할 수 있다. 여기서, 객체 선택 인벤토리는 실제 인테리어 소품들이 가상 현실에 최적화되도록 모델링된 복수의 가상 인테리어 객체들이 저장되어 미리 구축될 수 있다.For example, in step 530, the apparatus for providing an interior film design service displays an object selection inventory in which a plurality of virtual interior objects are stored through a user interface, and then selects a virtual interior object based on the movement of a viewpoint on the object selection inventory. , Virtual interior objects can be placed in the virtual interior space. Here, the object selection inventory may be built in advance by storing a plurality of virtual interior objects modeled so that actual interior props are optimized for virtual reality.

이 때, 인테리어 필름 디자인 서비스 제공 장치는 시점의 움직임이 미리 설정된 객체 선택 인벤토리 호출 패턴과 일치하는 경우, 사용자 인터페이스 상에 객체 선택 인벤토리를 디스플레이할 수 있다.In this case, the apparatus for providing an interior film design service may display the object selection inventory on the user interface when the movement of the viewpoint coincides with a preset object selection inventory calling pattern.

또한, 인테리어 필름 디자인 서비스 제공 장치는 시점의 움직임에 기초하여 가상 인테리어 객체를 이동시킬 수 있다.In addition, the interior film design service providing apparatus may move the virtual interior object based on the movement of the viewpoint.

한편, 540 단계에서 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치는 사용자 인터페이스상에 디스플레이되는 가상 인테리어 공간에서 시점의 움직임에 기초하여 가상 인테리어 필름 객체를 배치시키고 이동시킴으로써, 인테리어 필름 디자인 서비스를 제공할 수 있다.Meanwhile, in step 540, the interior film design service providing apparatus according to an embodiment arranges and moves a virtual interior film object based on the movement of a viewpoint in the virtual interior space displayed on the user interface, thereby providing interior film design service. I can.

도 6은 일실시예에 따른 인테리어 필름 디자인 서비스 제공 장치를 나타낸 블록도이다.6 is a block diagram showing an apparatus for providing an interior film design service according to an embodiment.

도 6을 참조하면, 인테리어 필름 디자인 서비스 제공 장치는 디스플레이부(610), 설정부(620) 및 제공부(630)를 포함한다.Referring to FIG. 6, an apparatus for providing an interior film design service includes a display unit 610, a setting unit 620, and a providing unit 630.

디스플레이부(610)는 헤드 마운트 디스플레이에 제공되는 사용자 인터페이스를 통하여 가상 인테리어 공간을 디스플레이한다.The display unit 610 displays a virtual interior space through a user interface provided on the head mounted display.

설정부(620)는 헤드 마운트 디스플레이가 착용되는 사용자의 머리 또는 얼굴의 회전 각도를 검출하여 가상 인테리어 공간 상에서 사용자의 시선에 대응하는 시점(viewpoint)을 설정한다. 또한, 설정부(620)는 가상 인테리어 공간에 시점에 대응하는 객체를 디스플레이할 수도 있다.The setting unit 620 sets a viewpoint corresponding to the user's gaze in the virtual interior space by detecting the rotation angle of the user's head or face on which the head mounted display is worn. In addition, the setting unit 620 may display an object corresponding to a viewpoint in the virtual interior space.

제공부(630)는 시점의 움직임에 기초하여 가상 인테리어 공간에 대한 인테리어 디자인 서비스를 제공한다.The provider 630 provides an interior design service for a virtual interior space based on the movement of the viewpoint.

이 때, 시점의 움직임은 시점이 가상 인테리어 공간의 특정 영역 또는 가상 인테리어 공간에 배치되는 가상 인테리어 객체에서 미리 설정된 시간 동안 머무는 제스처 또는 시점이 가상 인테리어 공간에서 이동하는 제스처를 포함할 수 있다.In this case, the movement of the viewpoint may include a gesture in which the viewpoint stays for a predetermined time in a specific area of the virtual interior space or a virtual interior object disposed in the virtual interior space, or a gesture in which the viewpoint moves in the virtual interior space.

예를 들어, 제공부(630)는 사용자 인터페이스를 통하여 복수의 가상 인테리어 객체들이 저장된 객체 선택 인벤토리를 디스플레이하고, 객체 선택 인벤토리 상에서 시점의 움직임에 기초하여 가상 인테리어 객체를 선택하며, 가상 인테리어 공간에 가상 인테리어 객체를 배치할 수 있다. 여기서, 객체 선택 인벤토리는 실제 인테리어 소품들이 가상 현실에 최적화되도록 모델링된 복수의 가상 인테리어 객체들이 저장되어 미리 구축될 수 있다.For example, the providing unit 630 displays an object selection inventory in which a plurality of virtual interior objects are stored through a user interface, selects a virtual interior object based on the movement of a viewpoint on the object selection inventory, Interior objects can be placed. Here, the object selection inventory may be built in advance by storing a plurality of virtual interior objects modeled so that actual interior accessories are optimized for virtual reality.

이 때, 제공부(630)는 시점의 움직임이 미리 설정된 객체 선택 인벤토리 호출 패턴과 일치하는 경우, 사용자 인터페이스 상에 객체 선택 인벤토리를 디스플레이할 수 있다.In this case, the providing unit 630 may display the object selection inventory on the user interface when the movement of the viewpoint matches a preset object selection inventory calling pattern.

또한, 제공부(630)는 시점의 움직임에 기초하여 가상 인테리어 객체를 이동시킬 수 있다.Also, the providing unit 630 may move the virtual interior object based on the movement of the viewpoint.

다른 예를 들면, 제공부(630)는 사용자 인터페이스상에 디스플레이되는 가상 인테리어 공간에서 시점의 움직임에 기초하여 가상 인테리어 필름 객체를 배치시키고 이동시킴으로써, 인테리어 필름 디자인 서비스를 제공할 수 있다.For another example, the providing unit 630 may provide an interior film design service by arranging and moving a virtual interior film object based on a movement of a viewpoint in a virtual interior space displayed on a user interface.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The apparatus described above may be implemented as a hardware component, a software component, and/or a combination of a hardware component and a software component. For example, the devices and components described in the embodiments include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable array (FPA), It may be implemented using one or more general purpose computers or special purpose computers, such as a programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications executed on the operating system. In addition, the processing device may access, store, manipulate, process, and generate data in response to the execution of software. For the convenience of understanding, although it is sometimes described that one processing device is used, one of ordinary skill in the art, the processing device is a plurality of processing elements and/or a plurality of types of processing elements. It can be seen that it may include. For example, the processing device may include a plurality of processors or one processor and one controller. In addition, other processing configurations are possible, such as a parallel processor.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of these, configuring the processing unit to behave as desired or processed independently or collectively. You can command the device. Software and/or data may be interpreted by a processing device or to provide instructions or data to a processing device, of any type of machine, component, physical device, virtual equipment, computer storage medium or device. , Or may be permanently or temporarily embodyed in a transmitted signal wave. The software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored on one or more computer-readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like alone or in combination. The program instructions recorded on the medium may be specially designed and configured for the embodiment, or may be known and usable to those skilled in computer software. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic media such as floptical disks. -A hardware device specially configured to store and execute program instructions such as magneto-optical media, and ROM, RAM, flash memory, and the like. Examples of the program instructions include not only machine language codes such as those produced by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like. The hardware device described above may be configured to operate as one or more software modules to perform the operation of the embodiment, and vice versa.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described by the limited embodiments and drawings, various modifications and variations are possible from the above description by those of ordinary skill in the art. For example, the described techniques are performed in a different order from the described method, and/or components such as a system, structure, device, circuit, etc. described are combined or combined in a form different from the described method, or other components Alternatively, even if substituted or substituted by an equivalent, an appropriate result can be achieved.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and claims and equivalents fall within the scope of the claims to be described later.

100 : 헤드 마운트 디스플레이 200 : 사용자 인터페이스100: head mounted display 200: user interface

Claims (15)

헤드 마운트 디스플레이(head mounted display)를 이용하는 인테리어 필름 디자인 서비스 제공 방법에 있어서,
상기 헤드 마운트 디스플레이에 제공되는 사용자 인터페이스를 통하여 가상 인테리어 공간을 디스플레이하는 단계;
상기 헤드 마운트 디스플레이가 착용되는 사용자의 머리 또는 얼굴의 회전 각도를 검출하여 상기 가상 인테리어 공간 상에서 상기 사용자의 시선에 대응하는 시점(viewpoint)을 설정하는 단계;
상기 시점의 움직임에 기초하여 상기 가상 인테리어 공간에 대한 인테리어 필름 디자인 서비스를 제공하는 단계; 및
상기 시점의 움직임에 기초하여 상기 가상 인테리어 공간에 대한 인테리어 필름 디자인 서비스를 제공하는 단계를 포함하는 인테리어 필름 디자인 서비스 제공 방법.
In the method of providing an interior film design service using a head mounted display,
Displaying a virtual interior space through a user interface provided on the head mounted display;
Setting a viewpoint corresponding to the user's gaze on the virtual interior space by detecting a rotation angle of the user's head or face on which the head mounted display is worn;
Providing an interior film design service for the virtual interior space based on the movement of the viewpoint; And
An interior film design service providing method comprising the step of providing an interior film design service for the virtual interior space based on the motion of the viewpoint.
제1항에 있어서,
상기 가상 인테리어 공간에 대한 인테리어 디자인 서비스를 제공하는 단계는
상기 사용자 인터페이스를 통하여 복수의 가상 인테리어 객체들이 저장된 객체 선택 인벤토리를 디스플레이하는 단계;
상기 객체 선택 인벤토리 상에서 상기 시점의 움직임에 기초하여 가상 인테리어 객체를 선택하는 단계; 및
상기 가상 인테리어 공간에 상기 가상 인테리어 객체를 배치하는 단계를 포함하는 인테리어 필름 디자인 서비스 제공 방법.
The method of claim 1,
Providing an interior design service for the virtual interior space
Displaying an object selection inventory in which a plurality of virtual interior objects are stored through the user interface;
Selecting a virtual interior object based on the motion of the viewpoint on the object selection inventory; And
An interior film design service providing method comprising the step of arranging the virtual interior object in the virtual interior space.
제2항에 있어서,
상기 시점의 움직임에 기초하여 상기 가상 인테리어 객체를 이동시키는 단계를 더 포함하는 인테리어 필름 디자인 서비스 제공 방법.
The method of claim 2,
An interior film design service providing method further comprising moving the virtual interior object based on the motion of the viewpoint.
제2항에 있어서,
상기 사용자 인터페이스를 통하여 복수의 가상 인테리어 객체들이 저장된 객체 선택 인벤토리를 디스플레이하는 단계는
상기 시점의 움직임이 미리 설정된 객체 선택 인벤토리 호출 패턴과 일치하는 경우, 상기 사용자 인터페이스 상에 상기 객체 선택 인벤토리를 디스플레이하는 단계를 포함하는 인테리어 필름 디자인 서비스 제공 방법.
The method of claim 2,
Displaying an object selection inventory in which a plurality of virtual interior objects are stored through the user interface
And displaying the object selection inventory on the user interface when the motion of the viewpoint coincides with a preset object selection inventory calling pattern.
제2항에 있어서,
상기 객체 선택 인벤토리는 실제 인테리어 소품들이 가상 현실에 최적화되도록 모델링된 상기 복수의 가상 인테리어 객체들이 저장되어 미리 구축되는, 인테리어 필름 디자인 서비스 제공 방법.
The method of claim 2,
In the object selection inventory, the plurality of virtual interior objects modeled so that actual interior props are optimized for virtual reality are stored and built in advance.
제1항에 있어서,
상기 가상 인테리어 공간에 상기 시점에 대응하는 객체를 디스플레이하는 단계를 더 포함하는 인테리어 필름 디자인 서비스 제공 방법.
The method of claim 1,
An interior film design service providing method further comprising displaying an object corresponding to the viewpoint in the virtual interior space.
제1항에 있어서,
상기 가상 인테리어 공간에 대한 인테리어 필름 디자인 서비스를 제공하는 단계는
상기 사용자 인터페이스를 통하여 복수의 가상 인테리어 필름 객체들이 저장된 필름 객체 선택 인벤토리를 디스플레이하는 단계;
상기 필름 객체 선택 인벤토리 상에서 상기 시점의 움직임에 기초하여 가상 인테리어 필름 객체를 선택하는 단계; 및
상기 가상 인테리어 공간에 상기 가상 인테리어 필름 객체를 배치하는 단계를 포함하는 인테리어 필름 디자인 서비스 제공 방법.
The method of claim 1,
Providing an interior film design service for the virtual interior space
Displaying a film object selection inventory in which a plurality of virtual interior film objects are stored through the user interface;
Selecting a virtual interior film object based on the motion of the viewpoint on the film object selection inventory; And
An interior film design service providing method comprising the step of disposing the virtual interior film object in the virtual interior space.
제7항에 있어서,
상기 필름 객체 선택 인벤토리 상에서 상기 시점의 움직임에 기초하여 가상 인테리어 필름 객체를 선택하는 단계 이후에, 선택된 가상 인테리어 필름 객체에 대해 유사 패턴들로 이루어진 유사 필름 객체 선택 인벤토리를 제공하여 사용자로 하여금 유사 필름 객체 선택 인벤토리에서 가상 인테리어 유사 필름 객체를 선택하도록 하는 단계를 더 포함하는 인테리어 필름 디자인 서비스 제공 방법.
The method of claim 7,
After the step of selecting a virtual interior film object based on the motion of the viewpoint on the film object selection inventory, a similar film object selection inventory consisting of similar patterns is provided for the selected virtual interior film object to allow the user to An interior film design service providing method further comprising the step of selecting a virtual interior-like film object from the selection inventory.
제7항에 있어서,
상기 필름 객체 선택 인벤토리 상에서 상기 시점의 움직임에 기초하여 가상 인테리어 필름 객체를 선택하는 단계 이후에,
선택된 가상 인테리어 필름 객체와 유사 패턴들로 이루어지는 유사 필름 객체 선택 인벤토리에서 제공되는 유사 인테리어 필름들을 순차적으로 인테리어 소품에 부착시킨 후에 각각의 유사 인테리어 필름에 대한 시점의 움직임에 기초하여, 가상 인테리어 유사 필름 객체를 변경하는 단계를 더 포함하는 인테리어 필름 디자인 서비스 제공 방법.
The method of claim 7,
After the step of selecting a virtual interior film object based on the motion of the viewpoint on the film object selection inventory,
Selecting the selected virtual interior film object and similar film object consisting of similar patterns After attaching the similar interior films provided in the inventory to interior props in sequence, based on the movement of the viewpoint for each similar interior film, a virtual interior similar film object Interior film design service providing method further comprising the step of changing.
제8항 또는 제9항에 있어서,
상기 가상 인테리어 필름 객체에 대한 유사 패턴들은 컨볼루션 신경망 기반의 영상 패턴화를 이용한 딥러닝 시스템으로 구현하는 인테리어 필름 디자인 서비스 제공 방법.
The method according to claim 8 or 9,
A method for providing interior film design services in which similar patterns for the virtual interior film object are implemented by a deep learning system using image patterning based on a convolutional neural network.
헤드 마운트 디스플레이에서 이용되는 인테리어 필름 디자인 서비스 제공 장치에 있어서,
상기 헤드 마운트 디스플레이에 제공되는 사용자 인터페이스를 통하여 가상 인테리어 공간을 디스플레이하는 디스플레이부;
상기 헤드 마운트 디스플레이가 착용되는 사용자의 머리 또는 얼굴의 회전 각도를 검출하여 상기 가상 인테리어 공간 상에서 상기 사용자의 시선에 대응하는 시점(viewpoint)을 설정하는 설정부; 및
상기 시점의 움직임에 기초하여 상기 가상 인테리어 공간에 대한 인테리어 디자인 서비스와 인테리어 필름 디자인 서비스를 제공하는 제공부를 포함하는 인테리어 필름 디자인 서비스 제공 장치.
In the interior film design service providing device used in the head mounted display,
A display unit for displaying a virtual interior space through a user interface provided on the head mounted display;
A setting unit configured to set a viewpoint corresponding to the user's gaze on the virtual interior space by detecting a rotation angle of a user's head or face on which the head mounted display is worn; And
An interior film design service providing device comprising a providing unit that provides an interior design service and an interior film design service for the virtual interior space based on the motion of the viewpoint.
제11항에 있어서,
상기 제공부는
상기 사용자 인터페이스를 통하여 복수의 가상 인테리어 객체들이 저장된 객체 선택 인벤토리를 디스플레이하고, 상기 객체 선택 인벤토리 상에서 상기 시점의 움직임에 기초하여 가상 인테리어 객체를 선택하며, 상기 가상 인테리어 공간에 상기 가상 인테리어 객체를 배치하는, 인테리어 필름 디자인 서비스 제공 장치.
The method of claim 11,
The provision unit
Displaying an object selection inventory in which a plurality of virtual interior objects are stored through the user interface, selecting a virtual interior object based on the movement of the viewpoint on the object selection inventory, and placing the virtual interior object in the virtual interior space , Interior film design service provider.
제11항에 있어서,
상기 제공부는
상기 사용자 인터페이스를 통하여 복수의 가상 인테리어 필름 객체들이 저장된 필름 객체 선택 인벤토리를 디스플레이하고, 상기 필름 객체 선택 인벤토리 상에서 상기 시점의 움직임에 기초하여 가상 인테리어 필름 객체를 선택하며, 상기 가상 인테리어 공간의 인테리어 소품에 상기 가상 인테리어 필름 객체를 부착시키는, 인테리어 필름 디자인 서비스 제공 장치.
The method of claim 11,
The provision unit
Display a film object selection inventory in which a plurality of virtual interior film objects are stored through the user interface, select a virtual interior film object based on the movement of the viewpoint on the film object selection inventory, and select an interior accessory of the virtual interior space. An interior film design service providing device for attaching the virtual interior film object.
제13항에 있어서,
상기 제공부는
선택된 가상 인테리어 필름 객체에 대해 유사 패턴들로 이루어진 유사 필름 객체 선택 인벤토리를 제공하여 사용자로 하여금 유사 필름 객체 선택 인벤토리에서 가상 인테리어 유사 필름 객체를 선택하도록 하는 인테리어 필름 디자인 서비스 제공 장치.
The method of claim 13,
The provision unit
An interior film design service providing device that allows a user to select a virtual interior-like film object from the similar film object selection inventory by providing a similar film object selection inventory consisting of similar patterns for the selected virtual interior film object.
제13항에 있어서,
상기 제공부는
선택된 가상 인테리어 필름 객체와 유사 패턴들로 이루어지는 유사 필름 객체 선택 인벤토리에서 제공되는 유사 인테리어 필름들을 순차적으로 인테리어 소품에 부착시킨 후에 각각의 유사 인테리어 필름에 대한 시점의 움직임에 기초하여, 가상 인테리어 유사 필름 객체를 변경하는 인테리어 필름 디자인 서비스 제공 장치.
The method of claim 13,
The provision unit
Selecting the selected virtual interior film object and similar film object consisting of similar patterns After attaching the similar interior films provided in the inventory to interior props in sequence, based on the movement of the viewpoint for each similar interior film, a virtual interior similar film object Interior film design service providing device to change.
KR1020190039568A 2019-04-04 2019-04-04 Apparatus and method for providing interior film design service using virtual reality KR20200117447A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190039568A KR20200117447A (en) 2019-04-04 2019-04-04 Apparatus and method for providing interior film design service using virtual reality

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190039568A KR20200117447A (en) 2019-04-04 2019-04-04 Apparatus and method for providing interior film design service using virtual reality

Publications (1)

Publication Number Publication Date
KR20200117447A true KR20200117447A (en) 2020-10-14

Family

ID=72847134

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190039568A KR20200117447A (en) 2019-04-04 2019-04-04 Apparatus and method for providing interior film design service using virtual reality

Country Status (1)

Country Link
KR (1) KR20200117447A (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020000704A (en) 2000-06-28 2002-01-05 명창배 An internet order-sale method and the shopping mall system for furniture
KR20170024933A (en) 2015-08-26 2017-03-08 한양대학교 에리카산학협력단 Apparatus and method for providing interior design service using virtual reality

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020000704A (en) 2000-06-28 2002-01-05 명창배 An internet order-sale method and the shopping mall system for furniture
KR20170024933A (en) 2015-08-26 2017-03-08 한양대학교 에리카산학협력단 Apparatus and method for providing interior design service using virtual reality

Similar Documents

Publication Publication Date Title
CN110148102B (en) Image synthesis method, advertisement material synthesis method and device
JP6359538B2 (en) System and method for recognizing images with multi-mode feedback
CN108062526A (en) A kind of estimation method of human posture and mobile terminal
CN106341522A (en) Mobile Terminal And Method For Controlling The Same
CN105980971A (en) Multitasking and Full Screen Menu Contexts
CN104284064A (en) Method and apparatus for previewing a dual-shot image
CN108876732A (en) Face U.S. face method and device
CN106488090A (en) Mobile terminal and its control method
WO2016106997A1 (en) Screen capture method and device, and mobile terminal
CN107783702A (en) Control method, the device and system of display data
CN109919829A (en) Image Style Transfer method, apparatus and computer readable storage medium
US10939044B1 (en) Automatically setting zoom level for image capture
CN110188865B (en) Information processing method and device, electronic equipment and storage medium
US10848895B2 (en) Contextual center-of-gravity for audio output in collaborative environments
CN107295272A (en) The method and terminal of a kind of image procossing
CN110517339A (en) A kind of animating image driving method and device based on artificial intelligence
JP2024501558A (en) Display control methods, devices, electronic devices and media
KR101740806B1 (en) Apparatus and method for providing interior design service using virtual reality
US11430158B2 (en) Intelligent real-time multiple-user augmented reality content management and data analytics system
CN114638939A (en) Model generation method, model generation device, electronic device, and readable storage medium
US20150177944A1 (en) Capturing objects in editable format using gestures
CN117789306A (en) Image processing method, device and storage medium
CN109582134A (en) The method, apparatus and display equipment that information is shown
CN107864333A (en) Image processing method, device, terminal and storage medium
CN107527334A (en) Human face light moving method and device

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E601 Decision to refuse application