WO2015178613A1 - Method for displaying intelligent screen through pattern recognition - Google Patents

Method for displaying intelligent screen through pattern recognition Download PDF

Info

Publication number
WO2015178613A1
WO2015178613A1 PCT/KR2015/004731 KR2015004731W WO2015178613A1 WO 2015178613 A1 WO2015178613 A1 WO 2015178613A1 KR 2015004731 W KR2015004731 W KR 2015004731W WO 2015178613 A1 WO2015178613 A1 WO 2015178613A1
Authority
WO
WIPO (PCT)
Prior art keywords
screen
pattern
user
recognized
pupil
Prior art date
Application number
PCT/KR2015/004731
Other languages
French (fr)
Korean (ko)
Inventor
이동형
Original Assignee
이동형
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 이동형 filed Critical 이동형
Publication of WO2015178613A1 publication Critical patent/WO2015178613A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements

Definitions

  • the present invention relates to an intelligent screen display method through pattern recognition of a digital input / output terminal (eg, tablet PC, smartphone).
  • a digital input / output terminal eg, tablet PC, smartphone.
  • Paper documents can be controlled by adjusting the distance directly. However, even if you adjust it yourself, you can think that it is a lot of trouble. Especially when surfing documents and webs on smartphones and smart devices, you should always set them on each screen. In order to solve this problem, it is necessary to develop a method and a device that can automatically adjust the size of the screen to be individually adjusted to the screen focus by personal recognition through facial recognition.
  • Patent 2010-292193 is a screen magnification process after distance measurement for a general user instead of a user, and may cause a problem in that the screen may not be displayed with an optimal fit according to the user's situation such as the size of a face.
  • the conventional page automatic page turning technology of digital content has an inconvenience of using the user's nerves slightly depending on the page turning situation due to the automatic scrolling function and the user's head and the device's tilting function.
  • Patent 10-2007-0060885 describes a method of providing an input interface using various recognition technologies, but this is applicable only to the input part and excludes the flow pattern and the security pattern part using the same, thereby making it a security pattern processing technology through eye flow recognition. I think you can.
  • Patent 2005-238184 is a technology that can provide images according to the viewing angle rather than a certain image according to the position where the user sees. There is a problem in providing images. Kiosk system that can be adjusted automatically using the camera of the application No. 10-2013-0037380 is described as a method of adjusting the physical position by the object and face recognition using the camera and various input sensors. Since it shows the shape of physical equipment, it is greatly affected by the increase in size and the surrounding environment.
  • the present invention has been developed to solve the above problems, since the beginning of presbyopia since the mid-40s, many people have seen a small screen and letters are hard to see. And the company's PCs are mainly using laptops or smart devices. At this time, the social workload is high and the work must be done correctly.
  • security patterns are used to solve problems such as recognition errors through party photos in smartphones and facial recognition systems.
  • an object of the present invention is to provide an intelligent screen display method through pattern recognition, which enables the automatic change of the size of the displayed screen and pattern security services by recognizing the image size and the flow of eye movement.
  • the image sensor After measuring the distance by recognizing the size of the face image through the image sensor (camera), it measures the ratio with the existing face image and intelligently displays the screen size that matches the ratio.
  • the flow of the eye can be identified to identify the page turning or security pattern processing. This can be applied to the field of facial recognition. If we add security pattern service to face recognition and process patterns with eyes, we can compensate for the shortcomings in face recognition field.
  • the function of displaying the screen according to the situation after checking the user's location, distance, and direction by image size recognition allows the user to view the screen as the optimal visual environment by multiplexing the screen such as concave or convex.
  • the control step of the user face through the pattern recognition for the image information input from the image sensor, the recognized user face image and Recognizing the separation distance for each user by measuring a ratio with an existing set user face image; finding a screen magnification of the user in a database, specifying a screen magnification, and reading according to the specified screen magnification and the recognized separation distance; and adjusting the screen size of the object to be displayed on the screen display unit.
  • the controller recognizes the pupil flow in the user face image using the pattern recognition, and the controller automatically turns the page after the recognized pupil flow arrives at the bottom of the reading object. Characterized in that further comprises.
  • the control unit may cause the security pattern to be displayed on a screen display unit when the security pattern setting display condition is met, recognizing a pupil flow pattern with respect to the security pattern, and the recognized pupil flow pattern and a preset pupil flow pattern.
  • the method further comprises unlocking the same, and defaulting when the recognized pupil flow pattern is different from the preset pupil flow pattern.
  • control unit is a user face recognition step through the pattern recognition for the image information input from the image sensor, the distance between the recognized user face image and the existing set user face image by measuring the face image size and the separation distance And recognizing a direction (or an angle) and adjusting screen refraction, enlargement, and reduction of a reading object according to the recognized separation distance and direction (or angle). It is done.
  • the present invention can prevent discomfort and vision deterioration by adjusting the size of the screen by using the intelligent screen automatic adjustment function and devices of smart devices and various display devices.
  • defects such as facial and iris pattern recognition can be compensated for through eye flow recognition of security patterns. It is expected to improve the work processing of digital documents by solving visual problems and improve the work processing of citizens by introducing automatic screen adjustment devices such as kiosk systems.
  • FIG. 1 is a diagram illustrating a configuration of an apparatus to which an intelligent screen display method is applied through pattern recognition according to the present invention.
  • FIGS. 2A to 2D illustrate various examples of an intelligent screen display method through pattern recognition according to the present invention.
  • FIG. 1 is a diagram illustrating a configuration of an apparatus to which an intelligent screen display method through pattern recognition according to the present invention is applied.
  • the device recognizes the size of a face image through an image sensor (camera) and measures distance with an existing face image, thereby intelligently displaying a screen size that matches the ratio. It is in a ship.
  • image sensor camera
  • the flow of the eye can be identified to identify the page turning or security pattern processing.
  • the function of displaying the screen according to the situation after checking the user's location, distance, and direction by image size recognition allows the user to view the screen as the optimal visual environment by multiplexing the screen such as concave or convex.
  • the apparatus eg, a smartphone
  • the apparatus includes an image sensor (eg, a camera) 101, a controller 102, a screen display 104, and a database 103.
  • the controller 102 measures a user's face recognition through pattern recognition on image information input from the image sensor 101, and measures a ratio between the recognized user's face image and an existing set user's face image, thereby separating user distances. Recognizes the screen magnification, finds the user's screen magnification in the database 103, specifies the screen magnification, and adjusts the screen size of the reading object according to the specified screen magnification and the recognized separation distance. To be displayed. The controller 102 recognizes the pupil flow in the user face image using the pattern recognition, and the controller 102 automatically displays a page after the recognized pupil flow arrives at the bottom of the reading object. Pass it over.
  • the controller 102 causes the security pattern to be displayed on the screen display unit 104 when the security pattern setting display condition is met, recognizes the pupil flow pattern with respect to the security pattern, and then recognizes the pupil flow pattern with the recognized pupil flow pattern. If the predetermined pupil flow pattern is the same, the lock is released, and if the recognized pupil flow pattern is different from the preset pupil flow pattern, it defaults.
  • the controller 102 may determine a user face recognition through pattern recognition on the image information input from the image sensor 101, a ratio between the recognized user face image and an existing set user face image, and a face image size. By measuring, the distance and direction (or angle) are recognized and the screen refraction, magnification and reduction of the reading object are adjusted according to the recognized distance and direction (or angle).
  • FIGS. 2A to 2D are diagrams illustrating various examples of an intelligent screen display method through pattern recognition according to the present invention.
  • FIG. 2A Customerized optimization surface technology according to user distance
  • a digital input / output terminal receives image information from an image sensor (eg, a camera).
  • an image sensor eg, a camera
  • the user can then find the user's screen magnification in the database, specify the screen magnification, and adjust the screen size of the reading object according to the specified screen magnification and the recognized separation distance (e.g., In this case, the specified screen magnification is adjusted by a set value according to the recognized separation distance so as to be displayed on the screen display unit.
  • the specified screen magnification is adjusted by a set value according to the recognized separation distance so as to be displayed on the screen display unit.
  • a digital input / output terminal receives image information from an image sensor (eg, a camera).
  • an image sensor eg, a camera
  • the recognized pupil flow automatically turns the page after arriving at the bottom of the leading object.
  • the present invention allows the security pattern to be displayed on the screen display unit when the digital input / output terminal corresponds to the security pattern setting display condition.
  • the lock After recognizing the pupil flow pattern with respect to the security pattern, the lock is released when the recognized pupil flow pattern and the preset pupil flow pattern are the same, and the default when the recognized pupil flow pattern is different from the preset pupil flow pattern. Let's do it.
  • FIG. 2D (Technology for Supporting Screen Multiplexing through Face Recognition)
  • the digital input / output terminal first performs user face recognition through pattern recognition on image information input from an image sensor, and then the ratio and face image size of the recognized user face image and the existing user face image are determined. By measuring, the distance and direction (or angle) are recognized and the screen refraction, magnification and reduction of the reading object are adjusted according to the recognized distance and direction (or angle).
  • a screen magnification of a corresponding user can be found in a database, a screen magnification can be specified, and a screen size of a reading object is adjusted according to the specified screen magnification and the recognized separation distance and direction (eg, a screen). If the magnification is designated, the designated screen magnification is adjusted by a set value according to the recognized separation distance and direction so as to be displayed on the screen display unit.
  • the present invention can be used for an intelligent screen display method through pattern recognition of a digital input / output terminal (eg, tablet PC, smartphone).
  • a digital input / output terminal eg, tablet PC, smartphone.

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

The present invention relates to a method for displaying an intelligent screen through pattern recognition by a control unit of a terminal having an image sensor and a screen display unit, the method comprising the steps of: recognizing, by the control unit, a user's face through pattern recognition for image information which has been input from the image sensor; recognizing a separation distance of each user by measuring a ratio between the recognized face image of the user and an existing configuration face image of the user; and discovering a screen magnification of the corresponding user in a database and designating the discovered screen magnification, and displaying a reading object on the screen display unit by adjusting a screen size of the reading object according to the designated screen magnification and the recognized separation distance. Thus, by using an intelligent screen auto adjustment function and apparatus of a smart device and various display devices, the present invention can eliminate the inconvenience of adjusting the size of a screen and prevent vision loss.

Description

패턴 인식을 통한 지능형 화면 표시 방법Intelligent screen display method through pattern recognition
본 발명은 디지털 입출력단말기(예: 테블릿피씨, 스마트폰)의 패턴 인식을 통한 지능형 화면 표시 방법에 관한 것이다.The present invention relates to an intelligent screen display method through pattern recognition of a digital input / output terminal (eg, tablet PC, smartphone).
혹시 업무를 보다가 화면에 표시되는 폰트가 적게 설정되어 확대해 본 경험이 있습니까? 아님 스마트 폰에서 웹 서핑 혹은 e-book을 보다가 잘 안 보여 확대한 경험을 갖고 있습니까? 만약 읽는 분이 40대 후반이라면 자기도 모르는 시작된 노안 때문에 작은 글씨가 보이지 않아 허탈해 본 경험이 있을 것이다. Have you ever zoomed in because you have fewer fonts displayed on the screen while you work? Or do you have a magnified experience of not surfing the web or viewing e-books on your smartphone? If you're in your late 40's, you may have lost a little print because of the presbyopia that you don't know.
종이로 된 문서들은 거리를 직접 조절하여 보면 된다. 그러나 편리함을 도모하자고 만든 디지털화된 문서에서도 직접 조절하여 보면 많이 귀찮다는 생각할 것이다. 특히 스마트 폰 및 스마트 기기에서 문서 및 웹 서핑을 할 때는 화면마다 항상 설정을 해주어야 한다. 이런 문제점을 해결하기 위해 디스플레이되는 화면의 크기를 안면 인식을 통해 개인별 맞춤형으로 화면 초점에 맞게 자동으로 조절할 수 있는 방법 및 장치의 개발이 필요하다고 본다. Paper documents can be controlled by adjusting the distance directly. However, even if you adjust it yourself, you can think that it is a lot of trouble. Especially when surfing documents and webs on smartphones and smart devices, you should always set them on each screen. In order to solve this problem, it is necessary to develop a method and a device that can automatically adjust the size of the screen to be individually adjusted to the screen focus by personal recognition through facial recognition.
기존의 방법은 페이지 또는 화면을 일일이 개인에게 맞게 손으로 직접 조절한 후 사용하고 있다. 그리고 특허 2010-292193은 사용자별이 아닌 일반적인 사용자를 대상으로 거리 측정 후 화면 배율 처리하는 것으로 얼굴의 크기 등 사용자의 상황에 따라 최적의 맞춤으로 화면을 표시하지 못하는 문제점이 발생할 수 있다. 그리고 기존의 디지털 컨텐츠의 페이지 자동 넘김 기술은 자동 스크롤 기능과 사용자의 머리 및 기기의 기울기를 이용하여 넘기는 기능으로 사용자가 페이지 넘기는 상황에 따라 신경을 약간씩 사용하는 불편함이 있다. 그리고 특허 10-2007-0060885는 다양한 인식 기술을 이용한 입력 인터페이스 제공 방법을 기술하고 있지만 이는 입력 부분에만 해당되고 이를 이용한 흐름 패턴 및 보안패턴 부분은 제외되어 있어 눈동자 흐름 인식을 통한 보안 패턴 처리 기술로 만들 수 있다고 본다. 마지막으로 특허 2005-238184는 사용자가 보는 위치에 따라 일정 영상이 아닌 보는 각도에 따라 영상을 제공할 수 있는 기술로 즉 다양한 위치에서 창문을 밖을 보면 위치에 따라 보는 영상이라 다르게 나타나는 기술로 최적의 영상을 제공하는 데는 문제점 있다. 출원번호-10-2013-0037380의 카메라를 이용한 자동높이조절이 가능한 키오스크 시스템 등은 카메라 및 다양한 입력 센서를 사용하여 물체 및 안면 인식으로 물리적인 위치를 조절하는 방법으로 서술하고 있다. 이는 물리적인 장비의 형태를 보이고 있기 때문에 크기의 비대화와 주변 환경에 많은 영향을 받아 실효성이 많이 떨어진다.Existing methods are used after manually adjusting the page or screen by hand to suit the individual. In addition, Patent 2010-292193 is a screen magnification process after distance measurement for a general user instead of a user, and may cause a problem in that the screen may not be displayed with an optimal fit according to the user's situation such as the size of a face. In addition, the conventional page automatic page turning technology of digital content has an inconvenience of using the user's nerves slightly depending on the page turning situation due to the automatic scrolling function and the user's head and the device's tilting function. Patent 10-2007-0060885 describes a method of providing an input interface using various recognition technologies, but this is applicable only to the input part and excludes the flow pattern and the security pattern part using the same, thereby making it a security pattern processing technology through eye flow recognition. I think you can. Lastly, Patent 2005-238184 is a technology that can provide images according to the viewing angle rather than a certain image according to the position where the user sees. There is a problem in providing images. Kiosk system that can be adjusted automatically using the camera of the application No. 10-2013-0037380 is described as a method of adjusting the physical position by the object and face recognition using the camera and various input sensors. Since it shows the shape of physical equipment, it is greatly affected by the increase in size and the surrounding environment.
본 발명은 상기한 문제점을 해결하기 위해 개발된 것으로, 40대 중반 이후 노안의 시작으로 작은 화면 및 글씨가 보기 힘들어하는 분들을 많이 보았다. 그리고 회사에서 주로 사용하는 PC는 노트북 또는 스마트 기기를 사용하고 있는데 이 시기에는 사회적으로 업무량이 많고 정확하게 일처리를 하여야 하는데 시각적인 문제 때문에 업무 효율이 떨어지는 경우를 종종 보았다. The present invention has been developed to solve the above problems, since the beginning of presbyopia since the mid-40s, many people have seen a small screen and letters are hard to see. And the company's PCs are mainly using laptops or smart devices. At this time, the social workload is high and the work must be done correctly.
또한 두 번째로 요즘 스마트 폰 및 스마트 기기의 사용 증가에 따른 화면 확대 기능의 불편함을 대부분의 사용자가 느끼고 있다. Secondly, most users feel the inconvenience of screen magnification due to the increase in the use of smart phones and smart devices.
세 번째로 무인 안내 데스크 및 키오스크 시스템의 기계적인 자동화에 따른 장비 크기의 대형화 및 개인별 맞춤에 따른 예비 시간의 증대가 발생하는 것을 보았다. Third, we saw the increase of spare time due to the increase in size of equipment and the personalization by mechanical automation of unmanned information desk and kiosk system.
마지막으로 스마트 폰 및 얼굴 인식 시스템에서의 당사자 사진을 통한 인식 오류 등의 문제점을 해결하는 방법으로 보안 패턴을 사용하고 있다. Finally, security patterns are used to solve problems such as recognition errors through party photos in smartphones and facial recognition systems.
이는 사용자가 패턴을 사용할 때 외부로 노출 이 발생하는 결점이 있다. This has the drawback of exposing outside when the user uses the pattern.
이를 해결하기 위해서 이미지 크기 및 눈동자 움직임의 흐름을 인식하여 표시되어지는 화면 자체의 크기의 자동 변화와 패턴 보안 서비스를 제공할 수 있도록 하는 패턴 인식을 통한 지능형 화면 표시 방법을 제공하는데 그 목적이 있다.In order to solve this problem, an object of the present invention is to provide an intelligent screen display method through pattern recognition, which enables the automatic change of the size of the displayed screen and pattern security services by recognizing the image size and the flow of eye movement.
이러한 목적을 달성하기 위한 본 발명에 따른 패턴 인식을 통한 지능형 화면 표시 방법은,Intelligent screen display method through the pattern recognition according to the present invention for achieving the above object,
이미지 센서(카메라)를 통한 안면 이미지의 크기를 인식하여 거리 측정을 한 후 기존의 안면 이미지와의 비율을 측정하여 비율에 맞는 화면의 크기로 지능적으로 나타나게 함에 있다. 그리고 이미지 처리를 통한 눈동자 인식을 한 후 눈동자의 흐름을 파악하여 페이지 넘기기 또는 보안 패턴 처리를 눈동자로 확인할 수 있도록 한다. 이는 안면 인식 분야에 응용할 수 있다고 본다. 안면 인식에 보안 패턴 서비스를 추가로 만들어 눈동자로 패턴을 처리한다면 안면 인식 분야의 결점을 보완할 수 있다고 생각된다. 마지막으로 이미지 크기 인식으로 사용자의 위치 즉 거리 및 방향을 확인한 후 그 상황에 맞추어 화면을 디스플레이하는 기능으로 화면을 오목 또는 볼록 등의 화면 다중화로 사용자에게 최적의 시각 환경으로 볼 수 있도록 한다.After measuring the distance by recognizing the size of the face image through the image sensor (camera), it measures the ratio with the existing face image and intelligently displays the screen size that matches the ratio. In addition, after eye recognition through image processing, the flow of the eye can be identified to identify the page turning or security pattern processing. This can be applied to the field of facial recognition. If we add security pattern service to face recognition and process patterns with eyes, we can compensate for the shortcomings in face recognition field. Finally, the function of displaying the screen according to the situation after checking the user's location, distance, and direction by image size recognition, allows the user to view the screen as the optimal visual environment by multiplexing the screen such as concave or convex.
구체적으로, 이미지 센서와 화면 표시부를 구비한 단말기의 제어부의 화면 표시 방법에 있어서, 상기 제어부가 상기 이미지 센서로부터 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식 단계, 상기 인식된 사용자 안면 이미지와 기존의 설정 사용자 안면 이미지와의 비율을 측정하여 사용자별 이격 거리를 인식하는 단계 및, 해당 사용자의 화면 배율을 데이터베이스에서 찾아 화면 배율을 지정하고, 상기 지정된 화면 배율과 상기 인식된 이격 거리에 따라 리딩(reading) 객체의 화면 크기를 조절하여 화면 표시부에 표시되도록 하는 단계를 포함하여 이루어진 것을 특징으로 한다. Specifically, in the screen display method of the control unit of the terminal having an image sensor and the screen display unit, the control step of the user face through the pattern recognition for the image information input from the image sensor, the recognized user face image and Recognizing the separation distance for each user by measuring a ratio with an existing set user face image; finding a screen magnification of the user in a database, specifying a screen magnification, and reading according to the specified screen magnification and the recognized separation distance; and adjusting the screen size of the object to be displayed on the screen display unit.
바람직하게, 상기 제어부는 상기 패턴 인식을 이용하여 상기 사용자 안면 이미지 내의 눈동자 흐름을 인식하는 단계 및, 상기 제어부는 상기 인식된 눈동자 흐름이 상기 리딩 객체의 가장 밑부분 도착 후 페이지를 자동으로 넘기는 단계를 더 포함하여 이루어진 것을 특징으로 한다. Preferably, the controller recognizes the pupil flow in the user face image using the pattern recognition, and the controller automatically turns the page after the recognized pupil flow arrives at the bottom of the reading object. Characterized in that further comprises.
그리고, 상기 제어부는 보안 패턴 설정 표시 조건에 해당되는 경우 보안 패턴이 화면 표시부에 표시되도록 하는 단계, 상기 보안 패턴에 대한 눈동자 흐름 패턴을 인식하는 단계, 상기 인식된 눈동자 흐름 패턴과 미리 설정된 눈동자 흐름 패턴이 동일한 경우 잠금 해제시키고, 상기 인식된 눈동자 흐름 패턴과 미리 설정된 눈동자 흐름 패턴이 상이한 경우 디폴트시키는 단계를 더 포함하여 이루어진 것을 특징으로 한다. The control unit may cause the security pattern to be displayed on a screen display unit when the security pattern setting display condition is met, recognizing a pupil flow pattern with respect to the security pattern, and the recognized pupil flow pattern and a preset pupil flow pattern. In this case, the method further comprises unlocking the same, and defaulting when the recognized pupil flow pattern is different from the preset pupil flow pattern.
바람직하게, 상기 제어부는 상기 이미지 센서로부터 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식 단계, 상기 인식된 사용자 안면 이미지와 기존의 설정 사용자 안면 이미지와의 비율 및 안면 이미지 크기를 측정하여 이격 거리 및 방향(또는, 각도)를 인식하는 단계 및, 상기 인식된 이격 거리 및 방향(또는, 각도)에 따라 리딩(reading) 객체의 화면 굴절 및 확대, 축소를 조절하는 단계를 더 포함하여 이루어진 것을 특징으로 한다.Preferably, the control unit is a user face recognition step through the pattern recognition for the image information input from the image sensor, the distance between the recognized user face image and the existing set user face image by measuring the face image size and the separation distance And recognizing a direction (or an angle) and adjusting screen refraction, enlargement, and reduction of a reading object according to the recognized separation distance and direction (or angle). It is done.
본 발명은 스마트 기기 및 다양한 디스플레이 기기의 지능형 화면 자동 조절 기능 및 장치를 사용함으로써 화면의 크기를 조절하는 불편함 및 시력 저하를 예방할 수 있다. The present invention can prevent discomfort and vision deterioration by adjusting the size of the screen by using the intelligent screen automatic adjustment function and devices of smart devices and various display devices.
그리고 보안 패턴의 눈동자 흐름 인식을 통하여 안면 및 홍채 패턴 인식 등의 결점 부분을 보완할 수 있다. 시각적인 문제 해결에 따른 디지털 문서의 업무 처리 능력 향상과 키오스크 시스템과 같은 화면 자동 조절 장치 도입에 따른 대민 업무 처리 향상이 기대된다.In addition, defects such as facial and iris pattern recognition can be compensated for through eye flow recognition of security patterns. It is expected to improve the work processing of digital documents by solving visual problems and improve the work processing of citizens by introducing automatic screen adjustment devices such as kiosk systems.
도 1은 본 발명에 따른 패턴 인식을 통한 지능형 화면 표시 방법이 적용된 장치의 구성을 도시한 도면1 is a diagram illustrating a configuration of an apparatus to which an intelligent screen display method is applied through pattern recognition according to the present invention.
도 2a 내지 도 2d는 본 발명에 따른 패턴 인식을 통한 지능형 화면 표시 방법의 다양한 예를 도시한 도면2A to 2D illustrate various examples of an intelligent screen display method through pattern recognition according to the present invention.
**도면의 주요 부분에 대한 부호의 설명**** Description of the symbols for the main parts of the drawings **
101 : 카메라 102 : 제어부101: camera 102: control unit
103 : 데이터베이스 104 : 화면 표시부103: database 104: screen display
도 1은 본 발명에 따른 패턴 인식을 통한 지능형 화면 표시 방법이 적용된 장치의 구성을 도시한 도면이다.1 is a diagram illustrating a configuration of an apparatus to which an intelligent screen display method through pattern recognition according to the present invention is applied.
도 1에 도시된 바와 같이, 본 장치는 이미지 센서(카메라)를 통한 안면 이미지의 크기를 인식하여 거리 측정을 한 후 기존의 안면 이미지와의 비율을 측정하여 비율에 맞는 화면의 크기로 지능적으로 나타나게 함에 있다. As shown in FIG. 1, the device recognizes the size of a face image through an image sensor (camera) and measures distance with an existing face image, thereby intelligently displaying a screen size that matches the ratio. It is in a ship.
그리고 이미지 처리를 통한 눈동자 인식을 한 후 눈동자의 흐름을 파악하여 페이지 넘기기 또는 보안 패턴 처리를 눈동자로 확인할 수 있도록 한다. In addition, after eye recognition through image processing, the flow of the eye can be identified to identify the page turning or security pattern processing.
이는 안면 인식 분야에 응용할 수 있다고 본다. This can be applied to the field of facial recognition.
안면 인식에 보안 패턴 서비스를 추가로 만들어 눈동자로 패턴을 처리한다면 안면 인식 분야의 결점을 보완할 수 있다고 생각된다. If we add security pattern service to face recognition and process patterns with eyes, we can compensate for the shortcomings in face recognition field.
마지막으로 이미지 크기 인식으로 사용자의 위치 즉 거리 및 방향을 확인한 후 그 상황에 맞추어 화면을 디스플레이하는 기능으로 화면을 오목 또는 볼록 등의 화면 다중화로 사용자에게 최적의 시각 환경으로 볼 수 있도록 한다.Finally, the function of displaying the screen according to the situation after checking the user's location, distance, and direction by image size recognition, allows the user to view the screen as the optimal visual environment by multiplexing the screen such as concave or convex.
구체적으로, 본 장치(예: 스마트 폰)는 이미지 센서(예: 카메라)(101), 제어부(102), 화면 표시부(104), 데이터베이스(103)를 포함하여 이루어진 구조이다.In detail, the apparatus (eg, a smartphone) includes an image sensor (eg, a camera) 101, a controller 102, a screen display 104, and a database 103.
여기서, 제어부(102)는 이미지 센서(101)로부터 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식, 상기 인식된 사용자 안면 이미지와 기존의 설정 사용자 안면 이미지와의 비율을 측정하여 사용자별 이격 거리를 인식하고, 해당 사용자의 화면 배율을 데이터베이스(103)에서 찾아 화면 배율을 지정하고, 상기 지정된 화면 배율과 상기 인식된 이격 거리에 따라 리딩(reading) 객체의 화면 크기를 조절하여 화면 표시부(104)에 표시되도록 한다. 그리고, 상기 제어부(102)는 상기 패턴 인식을 이용하여 상기 사용자 안면 이미지 내의 눈동자 흐름을 인식하고, 상기 제어부(102)는 상기 인식된 눈동자 흐름이 상기 리딩 객체의 가장 밑부분 도착 후 페이지를 자동으로 넘긴다. 그리고, 상기 제어부(102)는 보안 패턴 설정 표시 조건에 해당되는 경우 보안 패턴이 화면 표시부(104)에 표시되도록 하고, 상기 보안 패턴에 대한 눈동자 흐름 패턴을 인식한 후, 상기 인식된 눈동자 흐름 패턴과 미리 설정된 눈동자 흐름 패턴이 동일한 경우 잠금 해제시키고, 상기 인식된 눈동자 흐름 패턴과 미리 설정된 눈동자 흐름 패턴이 상이한 경우 디폴트시킨다. 또한, 상기 제어부(102)는 상기 이미지 센서(101)로부터 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식, 상기 인식된 사용자 안면 이미지와 기존의 설정 사용자 안면 이미지와의 비율 및 안면 이미지 크기를 측정하여 이격 거리 및 방향(또는, 각도)를 인식하고, 상기 인식된 이격 거리 및 방향(또는, 각도)에 따라 리딩(reading) 객체의 화면 굴절 및 확대, 축소를 조절한다.Here, the controller 102 measures a user's face recognition through pattern recognition on image information input from the image sensor 101, and measures a ratio between the recognized user's face image and an existing set user's face image, thereby separating user distances. Recognizes the screen magnification, finds the user's screen magnification in the database 103, specifies the screen magnification, and adjusts the screen size of the reading object according to the specified screen magnification and the recognized separation distance. To be displayed. The controller 102 recognizes the pupil flow in the user face image using the pattern recognition, and the controller 102 automatically displays a page after the recognized pupil flow arrives at the bottom of the reading object. Pass it over. The controller 102 causes the security pattern to be displayed on the screen display unit 104 when the security pattern setting display condition is met, recognizes the pupil flow pattern with respect to the security pattern, and then recognizes the pupil flow pattern with the recognized pupil flow pattern. If the predetermined pupil flow pattern is the same, the lock is released, and if the recognized pupil flow pattern is different from the preset pupil flow pattern, it defaults. In addition, the controller 102 may determine a user face recognition through pattern recognition on the image information input from the image sensor 101, a ratio between the recognized user face image and an existing set user face image, and a face image size. By measuring, the distance and direction (or angle) are recognized and the screen refraction, magnification and reduction of the reading object are adjusted according to the recognized distance and direction (or angle).
도 2a 내지 도 2d는 본 발명에 따른 패턴 인식을 통한 지능형 화면 표시 방법의 다양한 예를 도시한 도면이다.2A to 2D are diagrams illustrating various examples of an intelligent screen display method through pattern recognition according to the present invention.
1. 도 2a(사용자별 거리에 따른 맞춤형 최적화면 기술)1. FIG. 2A (Customized optimization surface technology according to user distance)
본 발명은 먼저, 디지털 입출력단말기(예: 테블릿피씨, 스마트폰)가 이미지 센서(예: 카메라)로부터 영상 정보를 입력받는다.In the present invention, first, a digital input / output terminal (eg, a tablet PC, a smartphone) receives image information from an image sensor (eg, a camera).
그런 다음, 상기 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식을 수행한 후, 상기 인식된 사용자 안면 이미지와 기존의 설정 사용자 안면 이미지와의 비율을 측정하여 사용자별 이격 거리를 인식한다.Then, after performing the user face recognition through the pattern recognition for the input image information, by measuring the ratio of the recognized user face image and the existing set user face image to recognize the separation distance for each user.
그런 다음, 해당 사용자의 화면 배율을 데이터베이스에서 찾아 화면 배율을 지정하고, 상기 지정된 화면 배율과 상기 인식된 이격 거리에 따라 리딩(reading) 객체의 화면 크기를 조절하여(예를 들어, 화면 배율이 지정된 경우, 지정된 화면 배율을 인식된 이격 거리에 따라 설정 값만큼 조절하여) 화면 표시부에 표시되도록 한다.The user can then find the user's screen magnification in the database, specify the screen magnification, and adjust the screen size of the reading object according to the specified screen magnification and the recognized separation distance (e.g., In this case, the specified screen magnification is adjusted by a set value according to the recognized separation distance so as to be displayed on the screen display unit.
2. 도 2b(눈동자 흐름 인식을 통한 페이지 자동 넘김 기술)2. Fig. 2b (automatic page turning technology through pupil flow recognition)
본 발명은 먼저, 디지털 입출력단말기가 이미지 센서(예: 카메라)로부터 영상 정보를 입력받는다.In the present invention, first, a digital input / output terminal receives image information from an image sensor (eg, a camera).
그런 다음, 상기 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식을 수행한 후 상기 패턴 인식을 이용하여 사용자 안면 이미지 내의 눈동자 흐름을 인식한다.Then, after performing the user's face recognition through the pattern recognition on the input image information, using the pattern recognition to recognize the eye flow in the user's face image.
그리고, 상기 인식된 눈동자 흐름이 상기 리딩 객체의 가장 밑부분 도착 후 페이지를 자동으로 넘긴다.The recognized pupil flow automatically turns the page after arriving at the bottom of the leading object.
3. 도 2c(눈동자 흐름 인식을 통한 보안 패턴 처리 기술)3. Figure 2c (security pattern processing technology through pupil flow recognition)
본 발명은 먼저, 디지털 입출력단말기가 보안 패턴 설정 표시 조건에 해당되는 경우 보안 패턴이 화면 표시부에 표시되도록 한다.First, the present invention allows the security pattern to be displayed on the screen display unit when the digital input / output terminal corresponds to the security pattern setting display condition.
그리고, 상기 보안 패턴에 대한 눈동자 흐름 패턴을 인식한 후, 상기 인식된 눈동자 흐름 패턴과 미리 설정된 눈동자 흐름 패턴이 동일한 경우 잠금 해제시키고, 상기 인식된 눈동자 흐름 패턴과 미리 설정된 눈동자 흐름 패턴이 상이한 경우 디폴트시킨다.After recognizing the pupil flow pattern with respect to the security pattern, the lock is released when the recognized pupil flow pattern and the preset pupil flow pattern are the same, and the default when the recognized pupil flow pattern is different from the preset pupil flow pattern. Let's do it.
4. 도 2d(안면 인식을 통한 화면 다중화 지원 기술)4. FIG. 2D (Technology for Supporting Screen Multiplexing through Face Recognition)
본 발명은 먼저, 디지털 입출력단말기가 이미지 센서로부터 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식을 수행 후, 상기 인식된 사용자 안면 이미지와 기존의 설정 사용자 안면 이미지와의 비율 및 안면 이미지 크기를 측정하여 이격 거리 및 방향(또는, 각도)를 인식하고, 상기 인식된 이격 거리 및 방향(또는, 각도)에 따라 리딩(reading) 객체의 화면 굴절 및 확대, 축소를 조절한다.According to an embodiment of the present invention, the digital input / output terminal first performs user face recognition through pattern recognition on image information input from an image sensor, and then the ratio and face image size of the recognized user face image and the existing user face image are determined. By measuring, the distance and direction (or angle) are recognized and the screen refraction, magnification and reduction of the reading object are adjusted according to the recognized distance and direction (or angle).
예를 들어, 해당 사용자의 화면 배율을 데이터베이스에서 찾아 화면 배율을 지정하고, 상기 지정된 화면 배율과 상기 인식된 이격 거리 및 방향에 따라 리딩(reading) 객체의 화면 크기를 조절하여(예를 들어, 화면 배율이 지정된 경우, 지정된 화면 배율을 인식된 이격 거리 및 방향에 따라 설정 값만큼 조절하여) 화면 표시부에 표시되도록 한다.For example, a screen magnification of a corresponding user can be found in a database, a screen magnification can be specified, and a screen size of a reading object is adjusted according to the specified screen magnification and the recognized separation distance and direction (eg, a screen). If the magnification is designated, the designated screen magnification is adjusted by a set value according to the recognized separation distance and direction so as to be displayed on the screen display unit.
본 발명은 디지털 입출력단말기(예: 테블릿피씨, 스마트폰)의 패턴 인식을 통한 지능형 화면 표시 방법에 이용 가능하다.The present invention can be used for an intelligent screen display method through pattern recognition of a digital input / output terminal (eg, tablet PC, smartphone).

Claims (4)

  1. 이미지 센서와 화면 표시부를 구비한 단말기의 제어부의 화면 표시 방법에 있어서,In the screen display method of the control unit of the terminal having an image sensor and the screen display unit,
    상기 제어부가 상기 이미지 센서로부터 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식 단계;A step of recognizing a user's face through pattern recognition of the image information input from the image sensor by the controller;
    상기 인식된 사용자 안면 이미지와 기존의 설정 사용자 안면 이미지와의 비율을 측정하여 사용자별 이격 거리를 인식하는 단계; 및Recognizing a separation distance for each user by measuring a ratio between the recognized user face image and an existing set user face image; And
    해당 사용자의 화면 배율을 데이터베이스에서 찾아 화면 배율을 지정하고, 상기 지정된 화면 배율과 상기 인식된 이격 거리에 따라 리딩(reading) 객체의 화면 크기를 조절하여 화면 표시부에 표시되도록 하는 단계를 포함하여 이루어진 패턴인식을 통한 지능형 화면 표시 방법.A pattern formed by finding a screen magnification of a corresponding user in a database, specifying a screen magnification, and adjusting a screen size of a reading object according to the specified screen magnification and the recognized separation distance to be displayed on a screen display unit. How to display intelligent screen by recognition.
  2. 제 1 항에 있어서,The method of claim 1,
    상기 제어부는 상기 패턴 인식을 이용하여 상기 사용자 안면 이미지 내의 눈동자 흐름을 인식하는 단계; 및The control unit recognizing a pupil flow in the user face image using the pattern recognition; And
    상기 제어부는 상기 인식된 눈동자 흐름이 상기 리딩 객체의 가장 밑부분 도착 후 페이지를 자동으로 넘기는 단계를 더 포함하여 이루어진 것을 특징으로 하는 패턴인식을 통한 지능형 화면 표시 방법.The controller may further include automatically turning a page after the recognized pupil flow arrives at the bottom of the reading object.
  3. 제 1 항에 있어서,The method of claim 1,
    상기 제어부는The control unit
    보안 패턴 설정 표시 조건에 해당되는 경우 보안 패턴이 화면 표시부에 표시되도록 하는 단계;If the security pattern setting display condition is met, displaying the security pattern on the screen display unit;
    상기 보안 패턴에 대한 눈동자 흐름 패턴을 인식하는 단계;Recognizing a pupil flow pattern for the security pattern;
    상기 인식된 눈동자 흐름 패턴과 미리 설정된 눈동자 흐름 패턴이 동일한 경우 잠금 해제시키고, 상기 인식된 눈동자 흐름 패턴과 미리 설정된 눈동자 흐름 패턴이 상이한 경우 디폴트시키는 단계를 더 포함하여 이루어진 것을 특징으로 하는 패턴인식을 통한 지능형 화면 표시 방법.Unlocking when the recognized pupil flow pattern and the preset pupil flow pattern are the same, and defaulting when the recognized pupil flow pattern and the preset pupil flow pattern are different. Intelligent screen display method.
  4. 제 1 항에 있어서,The method of claim 1,
    상기 제어부는The control unit
    상기 이미지 센서로부터 입력된 영상정보에 대한 패턴 인식을 통한 사용자 안면 인식 단계;A user face recognition step of recognizing a pattern on image information input from the image sensor;
    상기 인식된 사용자 안면 이미지와 기존의 설정 사용자 안면 이미지와의 비율 및 안면 이미지 크기를 측정하여 이격 거리 및 방향(또는, 각도)를 인식하는 단계; 및Recognizing a separation distance and a direction (or an angle) by measuring a ratio between the recognized user face image and an existing set user face image and a face image size; And
    상기 인식된 이격 거리 및 방향(또는, 각도)에 따라 리딩(reading) 객체의 화면 굴절 및 확대, 축소를 조절하는 단계를 더 포함하여 이루어진 것을 특징으로 하는 패턴인식을 통한 지능형 화면 표시 방법.And adjusting the screen refraction, enlargement, and reduction of the reading object according to the recognized separation distance and direction (or angle).
PCT/KR2015/004731 2014-05-21 2015-05-12 Method for displaying intelligent screen through pattern recognition WO2015178613A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2014-0060911 2014-05-21
KR1020140060911A KR101576630B1 (en) 2014-05-21 2014-05-21 Method for displaying intelligent using pattern recognition

Publications (1)

Publication Number Publication Date
WO2015178613A1 true WO2015178613A1 (en) 2015-11-26

Family

ID=54554230

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2015/004731 WO2015178613A1 (en) 2014-05-21 2015-05-12 Method for displaying intelligent screen through pattern recognition

Country Status (2)

Country Link
KR (1) KR101576630B1 (en)
WO (1) WO2015178613A1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108322644A (en) * 2018-01-18 2018-07-24 努比亚技术有限公司 A kind of image processing method, mobile terminal and computer readable storage medium
CN113052065A (en) * 2021-03-23 2021-06-29 苏州银翼智能科技有限公司 Display screen angle adjusting method and device, storage medium and electronic device

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110070087A (en) * 2009-12-18 2011-06-24 삼성전자주식회사 Apparatus and method for controlling size of display data in portable terminal
KR20120076147A (en) * 2010-12-29 2012-07-09 주식회사 케이티 Mobile terminal and method for controlling screen display thereof
KR20130014275A (en) * 2011-07-29 2013-02-07 엘지이노텍 주식회사 Method for controlling display screen and display apparatus thereof
KR20140051480A (en) * 2012-10-04 2014-05-02 삼성전자주식회사 Apparatus and method for display

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110070087A (en) * 2009-12-18 2011-06-24 삼성전자주식회사 Apparatus and method for controlling size of display data in portable terminal
KR20120076147A (en) * 2010-12-29 2012-07-09 주식회사 케이티 Mobile terminal and method for controlling screen display thereof
KR20130014275A (en) * 2011-07-29 2013-02-07 엘지이노텍 주식회사 Method for controlling display screen and display apparatus thereof
KR20140051480A (en) * 2012-10-04 2014-05-02 삼성전자주식회사 Apparatus and method for display

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108322644A (en) * 2018-01-18 2018-07-24 努比亚技术有限公司 A kind of image processing method, mobile terminal and computer readable storage medium
CN113052065A (en) * 2021-03-23 2021-06-29 苏州银翼智能科技有限公司 Display screen angle adjusting method and device, storage medium and electronic device

Also Published As

Publication number Publication date
KR20150134070A (en) 2015-12-01
KR101576630B1 (en) 2015-12-10

Similar Documents

Publication Publication Date Title
CN111665905B (en) Glasses type head-mounted display device and method thereof
US8908021B2 (en) Systems and methods for automatic control of a continuous action
US9992451B2 (en) Information processing device, control method, and system
EP2802966B1 (en) Device and method for controlling rotation of displayed image
US10032437B2 (en) Information processing apparatus and control method
US20190107724A1 (en) Computer display device mounted on eyeglasses
CN109684980B (en) Automatic scoring method and device
WO2018214751A1 (en) Eye-protection display device and method
US9336779B1 (en) Dynamic image-based voice entry of unlock sequence
WO2016200102A1 (en) Method and device for changing focal point of camera
CN112633306A (en) Method and device for generating confrontation image
WO2020036821A1 (en) Identification method and apparatus and computer-readable storage medium
US20180213190A1 (en) Systems and methods for customizing a personalized user interface using face recognition
WO2017057965A1 (en) Device and method for controlling mobile terminal
WO2018008888A1 (en) Electronic device and screen display method thereof
WO2015178613A1 (en) Method for displaying intelligent screen through pattern recognition
US20200073110A1 (en) Surgical loupe
WO2014091659A1 (en) Method and imaging apparatus for capturing an information code
WO2014088125A1 (en) Image photographing device and method for same
JP2022000795A (en) Information management device
WO2016011787A1 (en) Method and apparatus for automatically adjusting electronic document page
CN103543835A (en) LCD (liquid crystal display) display angle adjusting method, device and system
US9350912B2 (en) Portable device, information processing method, and program
US10818086B2 (en) Augmented reality content characteristic adjustment
WO2018174532A1 (en) Method for reducing alignment error between user terminal and lenticular lens in order to allow glassless stereoscopic image viewing, and user terminal for performing same

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15796786

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 15796786

Country of ref document: EP

Kind code of ref document: A1