KR102186103B1 - 상황인지 기반의 화면 스크롤 방법, 저장 매체 및 단말 - Google Patents

상황인지 기반의 화면 스크롤 방법, 저장 매체 및 단말 Download PDF

Info

Publication number
KR102186103B1
KR102186103B1 KR1020130070924A KR20130070924A KR102186103B1 KR 102186103 B1 KR102186103 B1 KR 102186103B1 KR 1020130070924 A KR1020130070924 A KR 1020130070924A KR 20130070924 A KR20130070924 A KR 20130070924A KR 102186103 B1 KR102186103 B1 KR 102186103B1
Authority
KR
South Korea
Prior art keywords
screen
scroll
terminal
image
controller
Prior art date
Application number
KR1020130070924A
Other languages
English (en)
Other versions
KR20140105352A (ko
Inventor
홍현수
김홍일
손주영
정우진
홍태화
손병준
오윤제
정선태
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to US14/180,947 priority Critical patent/US9842571B2/en
Priority to AU2014200924A priority patent/AU2014200924B2/en
Priority to CN201410060335.2A priority patent/CN104007908B/zh
Priority to EP14156194.4A priority patent/EP2770416B1/en
Publication of KR20140105352A publication Critical patent/KR20140105352A/ko
Application granted granted Critical
Publication of KR102186103B1 publication Critical patent/KR102186103B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012—Head tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485—Scrolling or panning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Abstract

본 발명에 따른 상황인지 기반의 화면 스크롤 방법은, 단말의 주변 상황에 대한 정보를 검출하는 단계와; 주변 상황에 근거하여 화면 스크롤 모드를 설정하는 단계와; 상기 설정된 화면 스크롤 모드에 따른 이벤트 발생을 검출하는 단계와; 발생된 이벤트에 따라 화면 스크롤을 실행하는 단계를 포함한다.

Description

상황인지 기반의 화면 스크롤 방법, 저장 매체 및 단말{CONTEXT AWARENESS BASED SCREEN SCROLL METHOD, MACHINE-READABLE STORAGE MEDIUM AND TERMINAL}
본 발명은 단말에 관한 것으로서, 특히 단말의 화면 스크롤을 제어하는 방법에 관한 것이다.
사용자에 의해 직접 제어되는 전자 기기는 적어도 하나의 디스플레이 장치를 구비하며, 사용자는 디스플레이 장치를 통해 해당 전자 기기의 각종 동작 상태나 어플리케이션 동작을 지켜 보면서 입력 장치를 통해 전자 기기를 제어할 수 있다. 특히, 휴대폰 등과 같이, 사용자에 의해 소지 가능하도록 제조되는 휴대용 단말은 그 제한된 크기로 인하여 상하좌우 이동을 조작받기 위한 사방향 버튼 등을 구비하지 않고, 사용자의 스크린 터치 입력이 가능한 입력 장치(즉, 터치스크린(190))를 구비하여 사용자 인터페이스를 제공하는 방식이 널리 제공되고 있다.
특히, 휴대 단말을 예로 들어 설명할 경우에, SMS 수발신 항목, 주소록 등을 비롯하여, 다수의 관련 항목들을 다수의 바 형태, 다수의 박스 형태, 또는 다수의 아이콘 형태로 디스플레이하는 리스트 뷰 상태에서는 화면 스크롤 방식으로 리스트 항목의 이동을 제공한다. 이때 터치스크린(190)을 통해 사용자 인터페이스를 제공하는 방식에서는, 리스트 항목의 이동을 조작하기 위해서는 드래그(drag, 사용자의 손가락 또는 스타일러스 펜이 터치스크린(190)의 한 지점을 터치한 상태에서 다른 지점으로 이동하여 정지 후 터치를 떼는 동작)를 하거나 플릭(flick, 사용자의 손가락 또는 스타일러스 펜이 터치스크린(190)의 한 지점을 터치한 상태에서 어느 한쪽 방향으로 빠르게 이동하면서 터치를 떼는 동작)을 하여 원하는 지점까지 이동을 할 수 있었다. 드래그 입력이 있을 경우에는 이에 대응하는 방향 및 이동 상태에 따라 리스트 뷰 상태에서 화면 스크롤 동작을 수행하며, 플릭 입력이 있을 경우에는, 이에 대응하는 속도 및 방향으로 화면 스크롤을 빠르게 수행하다가 점차 화면 스크롤의 속도를 줄여서 멈추는 동작을 수행한다.
그런데, 이 경우 리스트 항목이 많을 경우 연속적으로 여러 번의 드래그 혹은 플릭 동작을 하여야 원하는 리스트 항목에 도달할 수 있어서, 사용자로 하여금 불편함을 초래하며, 천천히 목록들을 확인하고 싶을 때에도 그에 상응하는 속도로 손가락을 터치한 상태에서 천천히 움직이는 등의 동작이 필요하다. 특히, 휴대용 단말과 같이 디스플레이 크기가 크지 않은 기기의 경우, 터치 입력부를 디스플레이 화면과 동시에 사용하여야 하기 때문에 손가락으로 인해 화면을 자주 가리는 문제가 존재하였다.
본 발명의 특정 실시 예들의 목적은 종래기술과 관련된 문제점들 및/또는 단점들 중의 적어도 하나를 적어도 부분적으로 해결, 경감 또는 제거하는 것이다.
본 발명의 일 목적은 사용자가 간단한 조작으로 더욱 편리하게 화면을 스크롤할 수 있는 방법을 제공함에 있다.
본 발명의 다른 목적은 비전 스크롤 모드나 모션 스크롤 모드에서 의도치 않은 스크롤 오류를 방지하는 방법을 제공함에 있다.
본 발명의 일 측면에 따른 상황인지 기반의 화면 스크롤 방법은, 단말의 주변 상황에 대한 정보를 검출하는 단계와; 주변 상황에 근거하여 화면 스크롤 모드를 설정하는 단계와; 상기 설정된 화면 스크롤 모드에 따른 이벤트 발생을 검출하는 단계와; 발생된 이벤트에 따라 화면 스크롤을 실행하는 단계를 포함한다.
본 발명의 다른 측면에 따른 상황인지 기반의 화면 스크롤을 제공하는 단말은, 화면을 제공하는 디스플레이 유닛과; 상기 단말의 주변 상황에 대한 정보를 검출하고, 주변 상황에 근거하여 화면 스크롤 모드를 설정하고, 상기 설정된 화면 스크롤 모드에 따른 이벤트 발생을 검출하고, 발생된 이벤트에 따라 화면 스크롤을 수행하는 제어부를 포함한다.
본 발명의 또 다른 측면에 따른 상황인지 기반의 화면 스크롤을 제공하는 단말은, 화면을 제공하는 디스플레이 유닛과; 촬영된 이미지를 출력하는 카메라 모듈과; 상기 촬영된 이미지에서 얼굴이 검출되는지의 여부를 판단하고, 상기 촬영된 이미지에서 얼굴이 검출된 경우에, 상기 단말의 기울임을 검출하고, 상기 단말의 기울임 방향에 근거한 화면 스크롤을 수행하는 제어부를 포함한다.
본 발명에 따르면, 주변 상황에 적합한 스크롤 모드를 제공하고, 피사체, 단말의 움직임에 근거하여 화면 스크롤을 수행함으로써, 사용자가 간단한 조작으로 더욱 편리하게 화면을 스크롤할 수 있다는 이점이 있다.
또한 본 발명에 따르면, 등록된 피사체가 검출된 경우에만 비전 스크롤 모드나 모션 스크롤 모드을 수행함으로써 의도치 않은 스크롤 오류를 방지할 수 있다는 이점이 있다.
도 1은 본 발명의 바람직한 실시 예에 따른 휴대 단말을 나타내는 개략적인 블록도,
도 2는 본 발명의 실시 예에 따른 휴대 단말의 전면 사시도를 나타낸 도면,
도 3은 본 발명의 실시 예에 따른 휴대 단말의 후면 사시도를 나타낸 도면,
도 4는 본 발명의 바람직한 실시 예에 따른 상황인지 기반의 화면 스크롤 방법을 나타내는 흐름도,
도 5는 본 발명의 제1 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면,
도 6은 본 발명의 제2 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면,
도 7은 본 발명의 제3 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면,
도 8은 본 발명의 제4 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면,
도 9는 본 발명의 제5 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면,
도 10은 본 발명의 제6 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면,
도 11 내지 도 13은 화면 스크롤을 설명하기 위한 도면들,
도 14는 본 발명의 제1 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도,
도 15는 제1 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 도면,
도 16은 이벤트의 종류에 따른 눈의 위치 변화를 설명하기 위한 도면,
도 17은 본 발명의 제2 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도,
도 18은 본 발명의 제1 예에 따른 모션 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도,
도 19 및 20은 휴대 단말의 전방 및 후방 기울임을 설명하기 위한 도면들,
도 21 및 22는 휴대 단말의 좌측방 및 우측방 기울임을 설명하기 위한 도면들,
도 23은 본 발명의 제2 예에 따른 모션 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도,
도 24는 본 발명의 제3 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도,
도 25는 본 발명의 제3 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 도면,
도 26은 관심 영역 확인 단계의 세부 단계들을 나타내는 흐름도,
도 27 내지 도 29는 관심 영역 확인 단계의 세부 단계들을 설명하기 위한 도면들,
도 30은 관심 영역 추적 및 관심 영역의 상태 변화를 확인하는 단계들의 세부 단계들을 나타내는 흐름도,
도 31 및 도 32는 관심 영역의 상태 변화를 설명하기 위한 도면들,
도 33은 동일한 방향으로 상태 변화에 대한 다운 임계값의 동적 할당을 설명하기 위한 도면,
도 34는 다른 방향으로 상태 변화에 대한 다운 임계값의 동적 할당을 설명하기 위한 도면.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시 예를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하여 상세하게 설명한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
본 발명에서 단말은 터치 스크린을 구비하는 임의의 장치일 수 있으며, 단말은 휴대 단말, 이동 단말, 통신 단말, 휴대용 통신 단말, 휴대용 이동 단말 등으로 칭할 수 있다.
예를 들어, 단말은 스마트폰, 휴대폰, 게임기, TV, 디스플레이 장치, 차량용 헤드 유닛, 노트북 컴퓨터, 랩탑 컴퓨터, 태블릿(Tablet) 컴퓨터, PMP(Personal Media Player), PDA(Personal Digital Assistants) 등일 수 있다. 단말은 무선 통신 기능을 갖는 포켓 사이즈의 휴대용 통신 단말로서 구현될 수 있다. 또한, 단말은 플렉서블 장치 또는 플렉서블 디스플레이 장치일 수 있다.
이러한 단말의 대표적인 구성은 휴대폰에 대한 것이며, 이러한 단말의 대표적인 구성에서 일부 구성 소자는 필요에 따라 생략되거나 변경될 수 있다.
도 1은 본 발명의 바람직한 실시 예에 따른 휴대 단말을 나타내는 개략적인 블록도이다.
도 1을 참조하면, 휴대 단말(100)은 통신 모듈(120), 커넥터(165), 및 이어폰 연결잭(167) 중 적어도 하나를 이용하여 외부 전자 장치(도시되지 아니함)와 연결될 수 있다. 이러한, 전자 장치는 상기 휴대 단말(100)에 탈착되어 유선으로 연결 가능한 이어폰(Earphone), 외부 스피커(External speaker), USB(Universal Serial Bus) 메모리, 충전기, 크래들/도크(Cradle/Dock), DMB 안테나, 모바일 결제 관련 장치, 건강 관리 장치(혈당계 등), 게임기, 자동차 네비게이션 장치 등 다양한 장치들 중의 하나를 포함할 수 있다. 또한, 전자 장치는 무선으로 연결 가능한 블루투스 통신 장치, NFC(Near Field Communication) 장치, 와이파이 다이렉트(WiFi Direct) 통신 장치, 무선 액세스 포인트(AP, Access Point)를 포함할 수 있다. 그리고, 휴대 단말(100)은 유선 또는 무선을 이용하여 다른 휴대 단말 또는 전자 장치, 예를 들어, 휴대폰, 스마트폰, 태블릿 PC, 데스크탑 PC 및 서버 중의 하나와 연결될 수 있다.
도 1을 참조하면, 휴대 단말(100)은 적어도 하나의 터치 스크린(190) 및 적어도 하나의 터치 스크린 컨트롤러(195)를 포함한다. 또한, 휴대 단말(100)은 제어부(110), 통신 모듈(120), 멀티미디어 모듈(140), 카메라 모듈(150), 입/출력 모듈(160), 센서 모듈(170), 저장부(115) 및 전원 공급부(180)를 포함한다.
통신 모듈(120)은 이동통신 모듈(121), 서브 통신 모듈(130) 및 방송통신 모듈(141)을 포함한다.
서브 통신 모듈(130)은 무선랜 모듈(131) 및 근거리 통신 모듈(132) 중 적어도 하나를 포함하고, 멀티미디어 모듈(140)은 오디오 재생 모듈(142) 및 동영상재생 모듈(143) 중 적어도 하나를 포함한다. 카메라 모듈(150)은 제1 카메라(151) 및 제2 카메라(152) 중 적어도 하나를 포함한다. 또한, 본 발명의 휴대 단말(100)의 카메라 모듈(150)은 휴대 단말(100)의 주 용도에 따라 제1 및/또는 제2 카메라(151, 152)의 줌 인/줌 아웃을 위한 경통부(155), 상기 경통부(155)의 줌 인/줌 아웃을 위해 경통부(155)의 움직임을 제어하는 모터부(154), 촬영을 위해 광원을 제공하는 플래시(153) 중 적어도 하나를 포함할 수 있다. 그리고, 입/출력 모듈(160)은 버튼(161), 마이크(162), 스피커(163), 진동 소자(164), 커넥터(165) 및 키패드(166) 중 적어도 하나를 포함한다.
제어부(110)는 CPU(111), 휴대 단말(100)의 제어를 위한 제어 프로그램이 저장된 롬(ROM, 112) 및 휴대 단말(100)의 외부로부터 입력되는 신호 또는 데이터를 기억하거나, 휴대 단말(100)에서 수행되는 작업을 위한 기억 영역으로 사용되는 램(RAM, 113)을 포함할 수 있다. CPU(111)는 싱글 코어, 듀얼 코어, 트리플 코어 또는 쿼드 코어를 포함할 수 있다. CPU(111), 롬(112) 및 램(113)은 내부 버스(bus)를 통해 상호 연결될 수 있다.
또한, 제어부(110)는 통신 모듈(120), 멀티미디어 모듈(140), 카메라 모듈(150), 입/출력 모듈(160), 센서 모듈(170), 저장부(115), 전원 공급부(180), 터치 스크린(190) 및 터치 스크린 컨트롤러(195)를 제어할 수 있다.
제어부(110)는 터치 스크린(190) 상에 복수의 객체 또는 아이템이 표시된 상태에서 입력 유닛(168), 사용자의 손가락 등의 터치 가능한 사용자 입력 수단이 어느 하나의 객체를 터치하거나, 그에 접근하거나, 그에 근접하게 위치함에 따른 사용자 입력을 감지하고, 사용자 입력이 발생한 터치 스크린(190) 상의 위치에 대응하는 객체를 식별한다. 터치 스크린(190)을 통한 사용자 입력은 객체를 직접 터치하는 직접 터치 입력과, 미리 설정된 인식 거리 이내로 객체에 접근하지만 객체를 직접 터치하지 않는 간접 터치 입력인 호버링 입력 중의 하나를 포함한다. 예를 들어, 입력 유닛(168)을 터치 스크린(190)에 가까이 위치시키면, 입력 유닛(168)의 연직 하방에 위치하는 객체가 선택될 수 있다. 본 발명에서 사용자 입력은, 터치 스크린(190)을 통한 사용자 입력 외에, 카메라 모듈(150)을 통한 제스처 입력, 버튼(161) 또는 키패드(166)를 통한 스위치/버튼 입력, 마이크(162)를 통한 음성 입력 등을 포함한다.
객체 또는 아이템(또는 기능 아이템)은 휴대 단말(100)의 터치 스크린(190) 상에 표시되거나, 표시될 수 있는 것으로서, 예를 들어, 애플리케이션, 메뉴, 문서, 위젯, 사진, 동영상, 이메일, SMS 메시지 및 MMS 메시지 중 적어도 하나를 나타내며, 사용자 입력 수단에 의해 선택, 실행, 삭제, 취소, 저장 및 변경될 수 있다. 이러한 아이템은 버튼, 아이콘(또는 단축 아이콘), 썸네일 이미지 또는 휴대 단말에서 적어도 하나의 객체를 저장하고 있는 폴더를 포괄하는 의미로도 사용될 수 있다. 또한, 이러한 아이템은 이미지, 텍스트 등의 형태로 표시될 수 있다.
단축 아이콘은 각각의 애플리케이션 또는 휴대 단말(100)에서 기본적으로 제공되는 통화, 연락처, 메뉴 등의 빠른 실행을 위해 휴대 단말(100)의 터치 스크린(190) 상에 표시되는 이미지로서, 이를 실행하기 위한 명령 또는 선택이 입력되면 해당 애플리케이션을 실행한다.
또한, 제어부(110)는 입력 유닛(168)이 터치 스크린(190)에 접근하거나, 그에 근접하게 위치함에 따른 호버링(Hovering) 이벤트와 같은 사용자 입력 이벤트를 감지할 수 있다.
제어부(110)는 미리 설정된 아이템에 대해, 또는 미리 설정된 방식에 따라 사용자 입력 이벤트가 발생되면, 사용자 입력 이벤트에 대응하는 미리 설정된 프로그램 동작을 수행한다.
제어부(110)는 제어 신호를 입력 유닛(168) 또는 진동 소자(164)로 출력할 수 있다. 이러한 제어 신호는 진동 패턴에 대한 정보를 포함할 수 있으며, 입력 유닛(168) 또는 진동 소자(164)는 이러한 진동 패턴에 따른 진동을 생성한다. 이러한 진동 패턴에 대한 정보는 진동 패턴 자체, 진동 패턴의 식별자 등을 나타낼 수 있다. 또는, 이러한 제어 신호는 단순히 진동 생성의 요청만을 포함할 수도 있다.
휴대 단말(100)은 성능에 따라 이동 통신 모듈(121), 무선랜 모듈(131), 및 근거리 통신 모듈(132) 중 적어도 하나를 포함할 수 있다.
이동 통신 모듈(121)은 제어부(110)의 제어에 따라 적어도 하나-하나 또는 복수-의 안테나(도시되지 아니함)를 이용하여 이동 통신을 통해 휴대 단말(100)이 외부 전자 장치와 연결되도록 할 수 있다. 이동 통신 모듈(121)은 휴대 단말(100)에 입력되는 전화번호를 가지는 휴대폰(도시되지 아니함), 스마트폰(도시되지 아니함), 태블릿 PC 또는 다른 전자 장치(도시되지 아니함)와 음성 통화, 화상 통화, 문자메시지(SMS) 또는 멀티미디어 메시지(MMS)를 위한 무선 신호를 송/수신한다.
서브 통신 모듈(130)은 무선랜 모듈(131)과 근거리 통신 모듈(132) 중 적어도 하나를 포함할 수 있다. 예를 들어, 무선랜 모듈(131)만 포함하거나, 근거리 통신 모듈(132)만 포함하거나 또는 무선랜 모듈(131)과 근거리 통신 모듈(132)을 모두 포함할 수 있다.
무선랜 모듈(131)은 제어부(110)의 제어에 따라 무선 액세스 포인트(AP, access point)(도시되지 아니함)가 설치된 장소에서 인터넷에 연결될 수 있다. 무선랜 모듈(131)은 미국전기전자학회(IEEE)의 무선랜 규격(IEEE802.11x)을 지원한다. 근거리 통신 모듈(132)은 제어부(110)의 제어에 따라 휴대 단말(100)과 외부 전자 장치 사이에 무선으로 근거리 통신을 할 수 있다. 근거리 통신 방식은 블루투스(bluetooth), 적외선 통신(IrDA, infrared data association), 와이파이 다이렉트(WiFi-Direct) 통신, NFC(Near Field Communication) 등이 포함될 수 있다.
이러한, 서브 통신 모듈(130)을 통해서 제어부(110)는 햅틱 패턴에 따른 제어 신호를 입력 유닛(168)으로 전송할 수 있다.
방송 통신 모듈(141)은 제어부(110)의 제어에 따라 방송통신 안테나(도시되지 아니함)를 통해 방송국에서부터 송출되는 방송 신호(예, TV방송 신호, 라디오방송 신호 또는 데이터방송 신호) 및 방송부가 정보(예, EPS(Electric Program Guide) 또는 ESG(Electric Service Guide))를 수신할 수 있다.
멀티미디어 모듈(140)은 오디오 재생 모듈(142) 또는 동영상 재생 모듈(143)을 포함할 수 있다. 오디오 재생 모듈(142)은 제어부(110)의 제어에 따라 저장부(115)에 저장되거나 또는 수신되는 디지털 오디오 파일(예, 파일 확장자가 mp3, wma, ogg 또는 wav인 파일)을 재생할 수 있다. 동영상 재생 모듈(143)은 제어부(110)의 제어에 따라 저장되거나 또는 수신되는 디지털 동영상 파일(예, 파일 확장자가 mpeg, mpg, mp4, avi, mov, 또는 mkv인 파일)을 재생할 수 있다.
멀티미디어 모듈(140)은 제어부(110)에 통합될 수 있다.
카메라 모듈(150)은 제어부(110)의 제어에 따라 정지 이미지 또는 동영상을 촬영하는 제1 카메라(151) 및 제2 카메라(152) 중 적어도 하나를 포함할 수 있다. 또한, 카메라 모듈(150)은 피사체를 촬영하기 위해 줌 인/줌 아웃을 수행하는 경통부(155), 상기 경통부(155)의 움직임을 제어하는 모터부(154), 피사체를 촬영하기 위해 필요한 보조 광원을 제공하는 플래시(153) 중 적어도 하나를 포함할 수 있다. 제1 카메라(151)는 상기 휴대 단말(100) 전면에 배치되고, 제2 카메라(152)는 상기 휴대 단말(100)의 후면에 배치될 수 있다.
제1 및 제2 카메라(151, 152)는 각각 렌즈계, 이미지 센서 등을 포함할 수 있다. 제1 및 제2 카메라(151, 152)는 각각 렌즈계를 통해 입력되는(또는 촬영되는) 광신호를 전기적인 이미지 신호(또는 디지털 이미지)로 변환하여 제어부(110)로 출력하고, 사용자는 이러한 제1 및 제2 카메라(151, 152)를 통해 동영상 또는 정지 이미지를 촬영할 수 있다.
입/출력 모듈(160)은 적어도 하나의 버튼(161), 적어도 하나의 마이크(162), 적어도 하나의 스피커(163), 적어도 하나의 진동 소자(164), 커넥터(165), 키패드(166), 이어폰 연결잭(167) 및 입력 유닛(168) 중 적어도 하나를 포함할 수 있다. 그리고, 이러한 입/출력 모듈(160)은 이에 국한되지 않으며, 마우스, 트랙볼, 조이스틱 또는 커서 방향 키들과 같은 커서 컨트롤(cursor control)이 터치 스크린(190) 상의 커서의 움직임을 제어하기 위해 제공될 수 있다.
버튼(161)은 상기 휴대 단말(100)의 하우징(또는 케이스)의 전면, 측면 또는 후면에 형성될 수 있으며, 전원/잠금 버튼, 볼륨 버튼, 메뉴 버튼, 홈 버튼, 돌아가기 버튼(back button) 및 검색 버튼 중 적어도 하나를 포함할 수 있다.
마이크(162)는 제어부(110)의 제어에 따라 음성(voice) 또는 소리를 입력 받아 전기적인 신호를 생성한다.
스피커(163)는 제어부(110)의 제어에 따라 다양한 신호 또는 데이터(예를 들어, 무선 데이터, 방송 데이터, 디지털 오디오 데이터, 디지털 동영상 데이터 등)에 대응되는 소리를 휴대 단말(100)의 외부로 출력할 수 있다. 스피커(163)는 휴대 단말(100)이 수행하는 기능에 대응되는 소리(예를 들어, 전화 통화에 대응되는 버튼 조작음, 통화 연결음, 상대방 사용자의 음성 등)를 출력할 수 있다. 스피커(163)는 상기 휴대 단말(100)의 하우징의 적절한 위치 또는 위치들에 하나 또는 복수로 형성될 수 있다.
진동 소자(164)는 제어부(110)의 제어에 따라 전기적 신호를 기계적 진동으로 변환할 수 있다. 예를 들어, 진동 모드에 있는 휴대 단말(100)은 다른 장치(도시되지 아니함)로부터 음성 또는 화상 통화가 수신되는 경우, 진동 소자(164)가 동작한다. 진동 소자(164)는 상기 휴대 단말(100)의 하우징 내에 하나 또는 복수로 형성될 수 있다. 진동 소자(164)는 터치 스크린(190)을 통한 사용자 입력에 대응하여 동작할 수 있다.
커넥터(165)는 상기 휴대 단말(100)과 외부 전자 장치 또는 전원 소스(도시되지 아니함)를 연결하기 위한 인터페이스로 이용될 수 있다. 제어부(110)는 커넥터(165)에 연결된 유선 케이블을 통해 휴대 단말(100)의 저장부(115)에 저장된 데이터를 외부 전자 장치로 전송하거나 외부 전자 장치로부터 데이터를 수신할 수 있다. 휴대 단말(100)은 커넥터(165)에 연결된 유선 케이블을 통해 전원 소스로부터 전력을 수신하거나, 전원 소스를 이용하여 배터리(도시되지 아니함)를 충전할 수 있다.
키패드(166)는 휴대 단말(100)의 제어를 위해 사용자로부터 키 입력을 수신할 수 있다. 키패드(166)는 휴대 단말(100)에 형성되는 물리적인 키패드(도시되지 아니함) 또는 터치 스크린(190)에 표시되는 가상의 키패드(도시되지 아니함)를 포함한다. 휴대 단말(100)에 형성되는 물리적인 키패드는 휴대 단말(100)의 성능 또는 구조에 따라 제외될 수 있다.
이어폰(도시되지 아니함)은 이어폰 연결잭(Earphone Connecting Jack, 167)에 삽입되어 상기 휴대 단말(100)에 연결될 수 있다.
입력 유닛(168)은 휴대 단말(100) 내부에 삽입되어 보관될 수 있으며, 사용시에는 상기 휴대 단말(100)로부터 인출 또는 분리될 수 있다. 이러한, 입력 유닛(168)이 삽입되는 휴대 단말(100) 내부의 일 영역에는 상기 입력 유닛(168)의 장착 및 탈착에 대응하여 동작하는 탈/부착 인식 스위치(169)가 구비되어 있고, 탈/부착 인식 스위치(169)는 상기 입력 유닛(168)의 장착 및 분리에 대응하는 신호를 제어부(110)로 출력할 수 있다. 탈/부착 인식 스위치(169)는 상기 입력 유닛(168)의 장착시 직·간접적으로 접촉되도록 구성될 수 있다. 이에 따라, 탈/부착 인식 스위치(169)는 상기 입력 유닛(168)과의 접촉 여부에 기초하여, 상기 입력 유닛(168)의 장착 또는 분리에 대응하는 신호(즉, 입력 유닛(168)의 장착 또는 분리를 통지하는 신호)를 생성하여 제어부(110)로 출력한다.
센서 모듈(170)은 휴대 단말(100)의 상태를 검출하는 적어도 하나의 센서를 포함한다. 예를 들어, 센서 모듈(170)은 사용자의 휴대 단말(100)에 대한 접근 여부를 검출하는 근접 센서, 휴대 단말(100) 주변의 빛의 양을 검출하는 조도 센서, 휴대 단말(100)의 회전 운동을 검출하는 자이로스코프, 휴대 단말(100)의 가속 운동을 검출하는 가속도계, 휴대 단말(100)의 동작(예를 들어, 휴대 단말(100)의 회전, 휴대 단말(100)의 가속 또는 진동)을 검출하는 모션 센서, 지구 자기장을 이용해 휴대 단말(100)의 방위(point of the compass)를 검출하는 지자기 센서(Geo-magnetic Sensor), 중력의 작용 방향을 검출하는 중력 센서(Gravity Sensor), 대기의 압력을 측정하여 고도를 검출하는 고도계(Altimeter), GPS 모듈(157) 등의 적어도 하나의 센서를 포함할 수 있다.
또한, 센서 모듈(170)은 제1 및 제2 거리/생체 센서를 포함한다.
제1 거리/생체 센서는 휴대 단말의 전면에 배치되며, 제1 거리/생체 센서는 제1 적외선 광원과 제1 적외선 카메라를 포함한다. 제1 적외선 광원은 적외선을 출력하고, 제1 적외선 카메라는 피사체로부터 반사된 적외선을 검출한다. 예를 들어, 제1 적외선 광원은 행렬 구조의 LED 어레이로 구성될 수 있다.
예를 들어, 제1 적외선 카메라는 적외선을 통과시키고 적외선 이외의 파장 대역을 차단하는 필터와, 필터를 통과한 적외선을 포커싱하는 렌즈계와, 렌즈계에 의해 형성된 광학 이미지를 전기적인 이미지 신호로 변환하여 출력하는 이미지 센서를 포함할 수 있다. 예를 들어, 이미지 센서는 행렬 구조의 PD 어레이로 구성될 수 있다.
제2 거리/생체 센서는 휴대 단말의 후면에 배치되며, 제2 거리/생체 센서는 제1 거리/생체 센서와 동일한 구성을 가지며, 제2 적외선 광원과 제2 적외선 카메라를 포함한다.
GPS 모듈(157)은 지구 궤도상에 있는 복수의 GPS 위성(도시되지 아니함)으로부터 전파를 수신하고, GPS 위성으로부터 휴대 단말(100)까지의 전파 도달 시간(Time of Arrival)을 이용하여 휴대 단말(100)의 위치를 산출할 수 있다.
저장부(115)는 제어부(110)의 제어에 따라 통신 모듈(120), 멀티미디어 모듈(140), 카메라 모듈(150), 입/출력 모듈(160), 센서 모듈(170) 또는 터치 스크린(190)의 동작에 따라 입/출력되는 신호 또는 데이터를 저장할 수 있다. 저장부(115)는 휴대 단말(100) 또는 제어부(110)의 제어를 위한 제어 프로그램 및 애플리케이션들을 저장할 수 있다.
“저장부”라는 용어는 저장부(115), 제어부(110) 내 롬(112), 램(113) 또는 휴대 단말(100)에 장착되는 메모리 카드(예를 들어, SD 카드, 메모리 스틱) 등의 임의의 데이터 저장 장치를 지칭하는 용어로 사용된다. 저장부(115)는 비휘발성 메모리, 휘발성 메모리, 하드 디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SSD)를 포함할 수도 있다.
또한, 저장부(115)는 네비게이션, 화상 통화, 게임, 사용자에게 시간을 기반으로 하는 알람 애플리케이션 등과 같은 다양한 기능들의 애플리케이션들과 이와 관련된 그래픽 사용자 인터페이스(graphical user interface: GUI)를 제공하기 위한 이미지들, 사용자 정보, 문서, 터치 입력을 처리하는 방법과 관련된 데이터베이스들 또는 데이터, 휴대 단말(100)을 구동하는데 필요한 배경 이미지들(메뉴 화면, 대기 화면 등) 또는 운영 프로그램들, 카메라 모듈(150)에 의해 촬영된 이미지들 등을 저장할 수 있다.
또한, 저장부(115)는 본 발명에 따른 상황인지 기반의 화면 스크롤 방법을 실행하기 위한 프로그램 및 관련 데이터를 저장할 수 있다.
저장부(115)는 기계(예를 들어, 컴퓨터)로 읽을 수 있는 매체이며, 기계로 읽을 수 있는 매체라는 용어는 기계가 특정 기능을 수행할 수 있도록 상기 기계로 데이터를 제공하는 매체로 정의될 수 있다. 저장부(115)는 비휘발성 매체(non-volatile media) 및 휘발성 매체를 포함할 수 있다. 이러한 모든 매체는 상기 매체에 의해 전달되는 명령들이 상기 명령들을 상기 기계로 읽어 들이는 물리적 기구에 의해 검출될 수 있도록 유형의 것이어야 한다.
상기 기계로 읽을 수 있는 매체는, 이에 한정되지 않지만, 플로피 디스크(floppy disk), 플렉서블 디스크(flexible disk), 하드 디스크, 자기 테이프, 시디롬(compact disc read-only memory: CD-ROM), 광학 디스크, 펀치 카드(punch card), 페이퍼 테이프(paper tape), 램, 피롬(Programmable Read-Only Memory: PROM), 이피롬(Erasable PROM: EPROM) 및 플래시-이피롬(FLASH-EPROM) 중의 적어도 하나를 포함한다.
전원 공급부(180)는 제어부(110)의 제어에 따라 휴대 단말(100)의 하우징에 배치되는 하나 또는 복수의 배터리에 전력을 공급할 수 있다. 하나 또는 복수의 배터리는 휴대 단말(100)에 전력을 공급한다. 또한, 전원 공급부(180)는 커넥터(165)와 연결된 유선 케이블을 통해 외부의 전원 소스로부터 입력되는 전원을 휴대 단말(100)로 공급할 수 있다. 또한, 전원 공급부(180)는 무선 충전 기술을 통해 외부의 전원 소스로부터 무선으로 입력되는 전원을 휴대 단말(100)로 공급할 수도 있다.
그리고, 휴대 단말(100)은 사용자에게 다양한 서비스(예, 통화, 데이터 전송, 방송, 사진촬영)에 대응되는 사용자 그래픽 인터페이스를 제공하는 적어도 하나의 터치 스크린(190)을 포함할 수 있다.
터치 스크린(190)은 사용자 그래픽 인터페이스에 입력되는 적어도 하나의 사용자 입력에 대응되는 아날로그 신호를 터치 스크린 컨트롤러(195)로 출력할 수 있다.
터치 스크린(190)은 사용자의 신체(예를 들어, 엄지를 포함하는 손가락) 또는 입력 유닛(168)(예를 들어, 스타일러스 펜, 전자 펜)을 통해 적어도 하나의 사용자 입력을 수신할 수 있다.
터치 스크린(190)은 하나의 터치의 연속적인 움직임(즉, 드래그 입력)을 수신할 수도 있다. 터치 스크린(190)은 입력되는 터치의 연속적인 움직임에 대응되는 아날로그 신호를 터치 스크린 컨트롤러(195)로 출력할 수 있다.
본 발명에서 터치는 터치 스크린(190)과 손가락 또는 입력 유닛(168)과의 접촉에 한정되지 않고, 비접촉(예를 들어, 터치 스크린(190)과의 직접 접촉 없이 사용자 입력 수단을 검출할 수 있는 인식 거리(예를 들어, 1cm) 이내에 사용자 입력 수단이 위치하는 경우)을 포함할 수 있다. 터치 스크린(190)에서 사용자 입력 수단을 인식할 수 있는 거리 또는 간격은 휴대 단말(100)의 성능 또는 구조에 따라 변경될 수 있으며, 특히 터치 스크린(190)은 사용자 입력 수단과의 접촉에 의한 직접 터치 이벤트와, 간접 터치 이벤트(즉, 호버링 이벤트)를 구분하여 검출 가능하도록, 상기 직접 터치 이벤트와 호버링 이벤트에 의해 검출되는 값(예컨대, 아날로그 값으로 전압 값 또는 전류 값을 포함)이 다르게 출력될 수 있도록 구성될 수 있다.
이러한, 터치 스크린(190)은 예를 들어, 저항막(resistive) 방식, 정전용량(capacitive) 방식, 적외선(infrared) 방식, 초음파(acoustic wave) 방식, 또는 이들의 조합으로 구현될 수 있다.
또한, 터치 스크린(190)은 수동형 제1 사용자 입력 수단(손가락 등의 신체 일부 등)에 의한 입력(즉, 핑거 입력)과 능동형 제2 사용자 입력 수단인 입력 유닛(168)에 의한 입력(즉, 펜 입력)을 구분하여 검출할 수 있도록, 핑거 입력과 펜 입력을 각각 감지할 수 있는 적어도 두 개의 터치 스크린 패널을 포함할 수도 있다. 사용자 입력 수단에 있어서, 수동형과 능동형의 구분은 전자파, 전자기파 등의 에너지를 생성 또는 유도하여 출력할 수 있는지의 여부에 따라 구분된다. 상기 적어도 두 개의 터치 스크린 패널은 서로 다른 출력 값을 터치 스크린 컨트롤러(195)에 제공하고, 터치 스크린 컨트롤러(195)는 상기 적어도 두 개의 터치 스크린 패널에서 입력되는 값들을 서로 다르게 인식하여, 터치 스크린(190)으로부터의 입력이 손가락에 의한 입력인지, 입력 유닛(168)에 의한 입력인지를 구분할 수도 있다. 예를 들어, 터치 스크린(190)은 정전용량(capacitive) 방식의 터치 스크린 패널과 EMR(Electromagnetic resonance) 방식의 터치 스크린 패널이 조합된 구조를 가질 수 있다. 또한, 전술한 바와 같이, 상기 터치 스크린(190)은 메뉴 버튼(161b), 뒤로 가기 버튼(161c) 등과 같은 터치 키들을 포함하도록 구성될 수 있으므로, 본 발명에서 말하는 핑거 입력 또는 터치 스크린(190) 상에서의 핑거 입력은 이러한 터치 키 상에서의 터치 입력을 포함한다.
터치 스크린 컨트롤러(195)는 터치 스크린(190)으로부터 입력된 아날로그 신호를 디지털 신호로 변환하여 제어부(110)로 전송한다. 제어부(110)는 터치 스크린 컨트롤러(195)로부터 수신한 디지털 신호를 이용하여 터치 스크린(190)을 제어할 수 있다. 예를 들어, 제어부(110)는 직접 터치 이벤트 또는 호버링 이벤트에 응답하여 터치 스크린(190)에 표시된 단축 아이콘(도시되지 아니함) 또는 객체가 선택 또는 실행되도록 할 수 있다. 또한, 터치 스크린 컨트롤러(195)는 제어부(110)에 통합될 수도 있다.
터치 스크린 컨트롤러(195)는 터치 스크린(190)을 통해 출력되는 값(예컨대, 전류값 등)을 검출하여 사용자 입력 위치뿐만 아니라 호버링 간격 또는 거리를 확인할 수 있고, 확인된 거리 값을 디지털 신호(예컨대, Z좌표)로 변환하여 제어부(110)로 제공할 수도 있다. 또한, 터치 스크린 컨트롤러(195)는 터치 스크린(190)을 통해 출력되는 값(예컨대, 전류값 등)을 검출하여 사용자 입력 수단이 터치 스크린(190)을 누르는 압력을 검출할 수 있고, 확인된 압력 값을 디지털 신호로 변환하여 제어부(110)로 제공할 수도 있다.
도 2는 본 발명의 실시 예에 따른 휴대 단말의 전면 사시도를 나타낸 도면이고, 도 3은 본 발명의 실시 예에 따른 휴대 단말의 후면 사시도를 나타낸 도면이다.
도 2 및 도 3을 참조하면, 휴대 단말(100)의 전면(101) 중앙에는 터치 스크린(190)이 배치된다. 터치 스크린(190)은 휴대 단말(100)의 전면(101)의 대부분을 차지하도록 크게 형성될 수 있다. 도 2에서는, 상기 터치 스크린(190)에 메인 홈 화면이 표시된 예를 나타낸다. 메인 홈 화면은 휴대 단말(100)의 전원을 켰을 때 터치 스크린(190) 상에 표시되는 첫 화면이다. 또한, 휴대 단말(100)이 여러 페이지의 서로 다른 홈 화면들을 가질 경우, 메인 홈 화면은 상기 여러 페이지의 홈 화면들 중 첫 번째 홈 화면일 수 있다. 홈 화면에는 자주 사용되는 애플리케이션들을 실행하기 위한 단축 아이콘들(191-1, 191-2, 191-3), 메인 메뉴 전환키(191-4), 시간, 날씨 등이 표시될 수 있다. 사용자가 메인 메뉴 전환키(191-4)를 선택하면, 상기 터치 스크린(190)에 메뉴 화면이 표시된다. 또한, 상기 터치 스크린(190)의 상단에는 배터리 충전 상태, 수신 신호의 세기, 현재 시각과 같은 휴대 단말(100)의 상태를 표시하는 상태 바(Status Bar, 192)가 형성될 수도 있다. 화면은 터치 스크린(190)의 표면 또는 그 표면에 보여지는 이미지에 해당한다.
상기 터치 스크린(190)의 아래에는 홈 버튼(161a), 메뉴 버튼(161b), 뒤로 가기 버튼(161c) 등과 같은 터치 키들, 기계식 버튼들 또는 이들의 조합이 형성될 수 있다. 또한, 이러한 터치 키들은 상기 터치 스크린(190)의 일부로 구성될 수 있다.
홈 버튼(161a)은 터치 스크린(190)에 메인 홈 화면(main Home screen)을 표시한다. 예를 들어, 터치 스크린(190)에 상기 메인 홈 화면과 다른 홈 화면(any Home screen) 또는 메뉴 화면이 표시된 상태에서, 상기 홈 버튼(161a)이 선택되면, 터치 스크린(190)에 메인 홈 화면이 표시될 수 있다. 또한, 터치 스크린(190) 상에서 애플리케이션들이 실행되는 도중 홈 버튼(161a)이 선택되면, 상기 터치 스크린(190) 상에는 도 2에 도시된 메인 홈 화면이 디스플레이될 수 있다. 또한 홈 버튼(161a)은 상기 터치 스크린(190) 상에 최근에(recently) 사용된 애플리케이션들을 표시하도록 하거나, 태스크 매니저(Task Manager)를 표시하기 위하여 사용될 수도 있다.
메뉴 버튼(161b)은 터치 스크린(190) 상에 표시될 수 있는 연결 메뉴를 제공한다. 상기 연결 메뉴에는 위젯 추가 메뉴, 배경화면 변경 메뉴, 검색 메뉴, 편집 메뉴, 환경 설정 메뉴 등이 포함될 수 있다.
뒤로 가기 버튼(161c)은 현재 실행되고 있는 화면의 바로 이전에 실행되었던 화면을 표시하거나, 가장 최근에 사용된 애플리케이션을 종료시키는 경우에 사용될 수 있다.
휴대 단말(100)의 전면(101)의 상측에는 제1 카메라(151), 조도 센서(170a), 근접 센서(170b) 및 제1 거리/생체 센서가 배치될 수 있다. 휴대 단말(100)의 후면(103)에는 제2 카메라(152), 플래시(flash, 153), 스피커(163) 및 제2 거리/생체 센서가 배치될 수 있다.
휴대 단말(100)의 측면(102)에는 예를 들어 전원/잠금 버튼(161d), 볼륨 증가 버튼(161f) 및 볼륨 감소 버튼(161g)을 갖는 볼륨 버튼(161e), 방송 수신을 위한 지상파 DMB 안테나(141a), 하나 또는 복수의 마이크들(162) 등이 배치될 수 있다. 상기 DMB 안테나(141a)는 휴대 단말(100)에 고정되거나, 착탈 가능하게 형성될 수도 있다.
또한, 휴대 단말(100)의 하단 측면에는 커넥터(165)가 형성된다. 커넥터(165)에는 다수의 전극들이 형성되어 있으며 외부 장치와 유선으로 연결될 수 있다. 휴대 단말(100)의 상단 측면에는 이어폰 연결잭(167)이 형성될 수 있다. 이어폰 연결잭(167)에는 이어폰이 삽입될 수 있다.
또한, 휴대 단말(100)의 하단 측면에는 입력 유닛(168)이 장착될 수 있다. 입력 유닛(168)은 휴대 단말(100) 내부에 삽입되어 보관될 수 있으며, 사용시에는 상기 휴대 단말(100)로부터 인출 및 분리될 수 있다.
제어부(110)는 휴대 단말(100)의 전반적인 동작을 제어하며, 제어부(110)는 휴대 단말(100) 내 다른 구성 소자들을 제어하여 상황인지 기반의 화면 스크롤 방법을 수행한다.
도 4는 본 발명의 바람직한 실시 예에 따른 상황인지 기반의 화면 스크롤 방법을 나타내는 흐름도이다.
상황인지 기반의 화면 스크롤 방법은 S110~S170 단계를 포함한다.
S110 단계는 애플리케이션 실행 단계로서, 예를 들어, 사용자는 터치 스크린(190)의 화면에 표시된 다양한 아이콘들 중에서 자신이 원하는 아이콘을 터치함으로써, 상기 아이콘에 맵핑된 애플리케이션을 실행할 수 있다.
제어부(110)는 입/출력 모듈(160), 터치 스크린(190), 카메라 모듈(150) 또는 통신 모듈(120)을 통해 사용자 입력을 수신한다. 사용자는 입/출력 모듈(160) 또는 터치 스크린(190)을 통해 버튼(161), 아이콘 또는 메뉴 항목을 선택하거나, 마이크(162)를 통해 음성 명령을 입력하거나, 카메라 모듈(150)을 통해 제스쳐 또는 모션 입력을 수행하거나, 통신 모듈(120)을 통해 무선으로 특정 명령을 입력할 수 있다. 이러한 명령은 애플리케이션 실행 명령일 수 있으며, 이러한 애플리케이션은 임의의 애플리케이션일 수 있으며, 예를 들어, 음성 인식 애플리케이션, 스케줄 관리 애플리케이션, 문서 작성 애플리케이션, 뮤직 애플리케이션, 인터넷 애플리케이션, 지도 애플리케이션, 카메라 애플리케이션, 이메일 애플리케이션, 사진 애플리케이션, 이미지 편집 애플리케이션, 검색 애플리케이션, 파일 탐색 애플리케이션, 비디오 애플리케이션, 게임 애플리케이션, SNS 애플리케이션, 전화 애플리케이션, 메시지 애플리케이션 등일 수 있다. 제스쳐 또는 모션 입력은, 예를 들어, 사용자가 손 또는 손가락으로 카메라 모듈(260)을 향해 원형, 삼각형, 사각형 등의 미리 설정된 패턴의 궤적을 그리는 경우를 말한다. 본 예에서는, 사용자 입력에 따라 애플리케이션을 실행하는 것으로 예시하고 있으나, 이러한 애플리케이션은 메시지 수신, 콜 수신, 알람 이벤트 발생 등과 같은 이벤트의 발생에 따라 자동으로 실행될 수도 있다.
S120 단계는 주변 상황 인지 단계로서, 제어부(110)는 카메라 모듈(150), 센서 모듈(170) 및/또는 입출력 모듈(160)을 통해 사용자의 주변 상황을 인지 또는 검출한다.
이러한 주변 상황의 검출 결과는 이후의 스크롤 모드를 설정하는데 사용되며, 본 예에서는 선택 가능한 스크롤 모드들로서 비전 스크롤 모드 및 모션 스크롤 모드를 예시한다. 비전 스크롤 모드는 카메라 모듈(150)에 의해 촬영된 피사체의 움직임을 통해 화면을 스크롤하는 모드이며, 모션 스크롤 모드는 휴대 단말(100)의 움직임을 통해 화면을 스크롤하는 모드이다. 이외에, 본 발명에 적용 가능한 스크롤 모드로서 음성 스크롤 모드를 고려할 수 있으며, 음성 스크롤 모드는 마이크(162)에 의해 검출된 사용자의 음성을 통해 화면을 스크롤하는 모드이다.
예를 들어, 제어부(110)는 커넥터(165)를 통한 독(dock)과 같은 주변 장치의 물리적 연결을 감지할 수 있다. 이러한 독은 휴대 단말(100)의 충전, 고정, PC 연결 등을 위해 사용된다.
또한, 제어부(110)는 카메라 모듈(150) 또는 센서 모듈(170)을 통해 주변 조도를 감지할 수 있다.
또한, 제어부(110)는 제1 카메라(151) 또는 조도 센서(170a)를 통해 전방 조도를 감지할 수 있고, 제2 카메라(152)를 통해 후방 조도를 감지할 수 있다.
S130 단계는 스크롤 모드 설정 단계로서, 제어부(110)는 주변 상황의 인지 결과에 근거하여 스크롤 모드를 설정한다.
제어부(110)는 휴대 단말(100)의 고정 여부를 판단하고, 휴대 단말(100)이 고정된 경우에 비전 스크롤 모드를 설정하고, 휴대 단말(100)이 고정되지 않은 경우에 모션 스크롤 모드를 설정할 수 있다.
휴대 단말(100)이 독에 연결 또는 장착되거나, 테이블, 바닥 등의 표면 위에 방치된 경우(즉, 휴대하지 않은 상태로 고정된 경우)에, 제어부(110)는 비전 스크롤 모드를 설정할 수 있다. 이러한 방치는 휴대 단말(100)을 주변 장치와 연결되지도 휴대하지도 않은 상태를 말한다. 예를 들어, 제어부(110)는 커넥터(165)를 통한 독(dock) 연결을 감지한 경우, 미리 설정된 임계 시간 동안 센서 모듈(170)을 통해 휴대 단말(100)의 움직임이 감지되지 않는 경우, 전방 조도 및 후방 조도의 차이가 미리 설정된 임계 값 이상인 경우, 또는 이들의 조합에 있어서 비전 스크롤 모드를 설정할 수 있다.
또는, 제어부(110)는 주변 조도를 검출하고, 주변 조도가 미리 설정된 임계 값 이상인 경우에 비전 스크롤 모드를 설정하고, 주변 조도가 미리 설정된 임계 값 미만인 경우에 모션 스크롤 모드를 설정할 수 있다. 즉, 휴대 단말(100)의 주변이 어두운 경우에, 제어부(110)는 모션 스크롤 모드를 설정할 수 있다.
또는, 제어부(110)는, 휴대 단말(100)의 고정 여부를 판단하고, 휴대 단말(100)이 고정된 경우에 비전 스크롤 모드를 설정하고, 휴대 단말(100)이 고정되지 않은 경우에 주변 조도를 검출할 수 있다. 제어부(110)는, 주변 조도가 미리 설정된 임계 값 이상인 경우에 비전 스크롤 모드를 설정하고, 주변 조도가 미리 설정된 임계 값 미만인 경우에 모션 스크롤 모드를 설정할 수 있다.
또는, 제어부(110)는, 주변 조도를 검출하고, 주변 조도가 미리 설정된 임계 값 이상인 경우에 비전 스크롤 모드를 설정하고, 주변 조도가 미리 설정된 임계 값 미만인 경우에 휴대 단말(100)의 고정 여부를 판단할 수 있다. 제어부(110)는, 휴대 단말(100)이 고정된 경우에 음성 스크롤 모드를 설정하고, 휴대 단말(100)이 고정되지 않은 경우에 모션 스크롤 모드를 설정할 수 있다.
또는, 제어부(110)는, 휴대 단말(100)의 고정 여부 및 조도 조건 만족 여부를 함께 결정하고, 고정/조도 조건 만족인 경우에 비전 스크롤 모드를 설정하고, 고정/조도 조건 불만족인 경우에 음성 스크롤 모드를 설정하고, 비고정/조도 조건 만족인 경우에 비전 스크롤 모드를 설정하고, 비고정/조도 조건 불만족인 경우에 모션 스크롤 모드를 설정할 수 있다.
S140 단계는 이벤트 발생 여부를 확인하는 단계로서, 제어부(110)는 해당 스크롤 모드에 설정된 이벤트가 발생하는지의 여부를 판단한다. 비전 스크롤 모드의 이벤트는 카메라 모듈(150)에 의해 촬영된 이미지에서 눈, 얼굴, 손 등과 같은 피사체의 움직임을 검출할 때 발생하고, 모션 스크롤 모드의 이벤트는 휴대 단말(110)이 초기 위치 또는 초기 각 위치에서 미리 설정된 각도 이상으로 기울어진 경우에 발생한다. 음성 스크롤 모드의 이벤트는 “우로”, “좌로”, “위로”, “아래로”, “스크롤 업”, “스크롤 다운”, “스크롤 라이트”, “스크롤 레프트” 등의 음성 명령을 마이크(162)를 통해 수신하는 경우에 발생한다.
바람직하게는, 제어부(110)는 다중 이벤트의 발생에 따라 화면을 스크롤한다. 즉, 제어부(110)는 촬영된 이미지에서 미리 설정된 피사체가 검출되는 것을 전제로, 피사체의 움직임이 검출되거나, 휴대 단말의 움직임이 감지된 경우에 화면 스크롤을 수행한다.
S150 단계는 화면 스크롤 단계로서, 제어부(110)는 해당 이벤트에 대응하는 방향으로 화면을 스크롤한다.
S160 단계는 타이머 만료 확인 단계로서, 제어부(110)는 주기적으로(즉, 타이머가 만료될 때마다) 주변 상황을 인지하여 스크롤 모드를 업데이트할 수 있다. 타이머는 S130 단계에서 스크롤 모드가 설정된 시점부터 카운트될 수 있고, 타이머 만료 후 다시 초기 값(예를 들어, 1분)으로 초기화된다.
S170 단계는 애플리케이션 종료 확인 단계로서, 제어부(110)는 애플리케이션이 종료되는지의 여부를 확인한다. 제어부(110)는 애플리케이션이 종료되는 경우에 본 방법을 종료하고, 애플리케이션이 종료되지 않는 경우에 S140 단계를 수행한다.
도 5는 본 발명의 제1 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면이다. 본 예에 따른 스크롤 모드 설정 단계는 도 4에 도시된 S130 단계를 대체할 수 있다.
S210 단계는 휴대 단말(100)의 고정 여부를 확인하는 단계로서, 제어부(110)는 커넥터(165), 카메라 모듈(170), 센서 모듈(170) 또는 이들의 조합을 통해 휴대 단말(100)의 고정 여부를 판단한다.
S220 단계는 비전 스크롤 모드로 설정하는 단계로서, 제어부(110)는 휴대 단말(100)이 고정된 경우에 비전 스크롤 모드를 설정한다.
S230 단계는 모션 스크롤 모드로 설정하는 단계로서, 제어부(110)는 휴대 단말(100)이 고정되지 않은 경우에 비전 스크롤 모드를 설정한다.
도 6은 본 발명의 제2 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면이다. 본 예에 따른 스크롤 모드 설정 단계는 도 4에 도시된 S130 단계를 대체할 수 있다.
S310 단계는 조도 조건 만족 여부를 확인하는 단계로서, 제어부(110)는 카메라 모듈(150) 또는 센서 모듈(170)에 의해 검출된 주변 조도를 미리 설정된 임계 값과 비교한다. 이러한 임계 값은 주변 조도의 변화에 따른 피사체 인식 성공률에 근거하여 결정될 수 있으며, 예를 들어, 피사체 인식 성공률이 70%가 되는 주변 조도 값을 임계 값으로 설정할 수 있다.
S320 단계는 비전 스크롤 모드로 설정하는 단계로서, 제어부(110)는 주변 조도가 미리 설정된 임계 값 이상인 경우에 비전 스크롤 모드를 설정한다.
S330 단계는 모션 스크롤 모드로 설정하는 단계로서, 제어부(110)는 주변 조도가 미리 설정된 임계 값 미만인 경우에 모션 스크롤 모드를 설정한다.
도 7은 본 발명의 제3 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면이다. 본 예에 따른 스크롤 모드 설정 단계는 도 4에 도시된 S130 단계를 대체할 수 있다.
S410 단계는 휴대 단말(100)의 고정 여부를 확인하는 단계로서, 제어부(110)는 커넥터(165), 카메라 모듈(170), 센서 모듈(170) 또는 이들의 조합을 통해 휴대 단말(100)의 고정 여부를 판단한다.
S420 단계는 조도 조건 만족 여부를 확인하는 단계로서, 휴대 단말(100)이 고정되지 않은 경우에, 제어부(110)는 카메라 모듈(170) 또는 센서 모듈(170)에 의해 검출된 주변 조도를 미리 설정된 임계 값과 비교한다.
S430 단계는 모션 스크롤 모드로 설정하는 단계로서, 제어부(110)는 휴대 단말(100)이 고정되어 있지 않고 주변 조도가 미리 설정된 임계 값 미만인 경우에 모션 스크롤 모드를 설정한다.
S440 단계는 비전 스크롤 모드로 설정하는 단계로서, 제어부(110)는 휴대 단말(100)이 고정된 경우에 비전 스크롤 모드를 설정한다.
도 8은 본 발명의 제4 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면이다. 본 예에 따른 스크롤 모드 설정 단계는 도 4에 도시된 S130 단계를 대체할 수 있다.
S510 단계는 조도 조건 만족 여부를 확인하는 단계로서, 제어부(110)는 카메라 모듈(170) 또는 센서 모듈(170)에 의해 검출된 주변 조도를 미리 설정된 임계 값과 비교한다.
S520 단계는 휴대 단말(100)의 고정 여부를 확인하는 단계로서, 주변 조도가 미리 설정된 임계 값 미만인 경우에, 제어부(110)는 커넥터(165), 카메라 모듈(170), 센서 모듈(170) 또는 이들의 조합을 통해 휴대 단말(100)의 고정 여부를 판단한다.
S530 단계는 비전 스크롤 모드로 설정하는 단계로서, 주변 조도가 미리 설정된 임계 값 이상인 경우에, 제어부(110)는 비전 스크롤 모드를 설정한다.
S540 단계는 모션 스크롤 모드로 설정하는 단계로서, 주변 조도가 미리 설정된 임계 값 미만이고 휴대 단말(100)이 고정되어 있지 않은 경우에, 제어부(110)는 모션 스크롤 모드를 설정한다.
S550 단계는 음성 스크롤 모드로 설정하는 단계로서, 주변 조도가 미리 설정된 임계 값 미만이고 휴대 단말(100)이 고정된 경우에, 제어부(110)는 음성 스크롤 모드를 설정한다.
도 9는 본 발명의 제5 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면이다. 본 예에 따른 스크롤 모드 설정 단계는 도 4에 도시된 S130 단계를 대체할 수 있다.
S610 단계는 고정 여부 및 조도 조건 만족 여부를 확인하는 단계로서, 제어부(110)는 커넥터(165), 카메라 모듈(170), 센서 모듈(170) 또는 이들의 조합을 통해 휴대 단말(100)의 고정 여부를 판단하고, 또한 제어부(110)는 카메라 모듈(170) 또는 센서 모듈(170)에 의해 검출된 주변 조도를 미리 설정된 임계 값과 비교한다.
S620 단계는 비전 스크롤 모드로 설정하는 단계로서, 휴대 단말(100)의 고정 여부와 상관 없이 주변 조도가 미리 설정된 임계 값 이상인 경우에, 제어부(110)는 비전 스크롤 모드를 설정한다.
S630 단계는 모션 스크롤 모드로 설정하는 단계로서, 휴대 단말(100)이 고정되어 있지 않고 주변 조도가 미리 설정된 임계 값 미만인 경우에, 제어부(110)는 모션 스크롤 모드를 설정한다.
S640 단계는 음성 스크롤 모드로 설정하는 단계로서, 휴대 단말(100)이 고정되어 있고 주변 조도가 미리 설정된 임계 값 미만인 경우에, 제어부(110)는 음성 스크롤 모드를 설정한다.
도 10은 본 발명의 제6 예에 따른 스크롤 모드 설정 방법을 설명하기 위한 도면이다. 본 예에 따른 스크롤 모드 설정 단계는 도 4에 도시된 S130 단계를 대체할 수 있다.
S710 단계는 휴대 단말(100)의 독 연결 여부를 확인하는 단계로서, 제어부(110)는 커넥터(165)를 통해 휴대 단말(100)의 독 연결 여부를 판단한다.
S720 단계는 휴대 단말(100)의 방치 여부를 확인하는 단계로서, 휴대 단말(100)이 독과 연결되지 않은 경우에, 제어부(110)는 미리 설정된 임계 시간 동안 센서 모듈(170)을 통해 휴대 단말(100)의 움직임이 감지되지 않는 경우, 전방 조도 및 후방 조도의 차이가 미리 설정된 임계 값 이상인 경우 등에 있어서 휴대 단말(100)이 테이블, 바닥 등의 표면 위에 방치된 것으로 판단한다.
S730 단계는 조도 조건 만족 여부를 확인하는 단계로서, 휴대 단말(100)이 독과 연결되지 않고 방치되어 있지 않은 경우에, 제어부(110)는 카메라 모듈(150) 또는 센서 모듈(170)에 의해 검출된 주변 조도를 미리 설정된 임계 값과 비교한다.
S740 단계는 비전 스크롤 모드로 설정하는 단계로서, 휴대 단말(100)이 독과 연결된 경우, 휴대 단말(100)이 방치된 경우 또는 조도 조건을 만족하는 경우에, 제어부(110)는 비전 스크롤 모드를 설정한다.
S750 단계는 모션 스크롤 모드로 설정하는 단계로서, 휴대 단말(100)이 독과 연결되지 않은 상태로 방치되고 조도 조건을 만족하지 않는 경우에, 제어부(110)는 모션 스크롤 모드를 설정한다.
본 발명의 화면 스크롤은 현재 보고 있는 화면의 상단 부분이 아래로 이동하는 스크롤 업, 현재 보고 있는 화면의 하단 부분이 위로 이동하는 스크롤 다운, 현재 보고 있는 화면의 좌측 부분이 오른쪽으로 이동하는 스크롤 레프트, 현재 보고 있는 화면의 우측 부분이 왼쪽으로 이동하는 스크롤 라이트로 분류된다.
이러한 화면 스크롤은 이미지, 웹 페이지, 메뉴, 리스트 등과 같이 한 화면에 그 전체의 일부가 표시되는 객체, 또는 복수의 페이들로 구성되는 홈 화면, 이미지 갤러리 내에 있는 복수의 이미지들 등과 같이 연속성을 갖는 객체들에 대하여 적용된다.
도 11 내지 도 13은 화면 스크롤을 설명하기 위한 도면들이다.
도 11은 사용자가 전화번호부 애플리케이션을 실행한 경우에, 터치스크린(190)에 복수의 연락처들을 갖는 컨택 리스트(210)가 표시되는 것을 예시한다.
도 11의 (b)를 참고하면, 전화 번호부와 같은 컨택 리스트(210)의 일부(즉, A5, B1~B4, C1)가 터치스크린(190)에 표시되고 있다.
도 11의 (a)에 도시된 바와 같이, 사용자가 스크롤 업을 하면, 컨택 리스트(210)의 상측 부분(즉, 화면 상단의 A5)가 터치스크린(190)의 하단으로 이동하면서, 보이지 않았던 연락처들 A1~A4가 터치스크린(190)에 표시된다.
도 11의 (c)에 도시된 바와 같이, 사용자가 스크롤 다운을 하면, 컨택 리스트(210)의 하측 부분(즉, 화면 하단의 C1)이 터치스크린(190)의 상단으로 이동하면서, 보이지 않았던 연락처들 C2~C5가 터치스크린(190)에 표시된다.
도 12는 사용자가 인터넷 애플리케이션을 실행한 경우에, 터치스크린(190)에 웹페이지가 표시되는 것을 예시한다.
도 12의 (b)를 참고하면, 웹 페이지의 중간 부분(220)이 터치스크린(190)에 표시되고 있다.
도 12의 (a)에 도시된 바와 같이, 사용자가 스크롤 레프트를 하면, 화면의 좌측 부분이 화면 우측단으로 이동하면서, 보이지 않았던 웹페이지의 좌측 부분(222)이 터치스크린(190)에 표시된다.
도 12의 (c)에 도시된 바와 같이, 사용자가 스크롤 라이트를 하면, 화면의 우측 부분이 화면 좌측단으로 이동하면서, 보이지 않았던 웹페이지의 우측 부분(224)이 터치스크린(190)에 표시된다.
도 13은 사용자가 사진 애플리케이션을 실행하고, 새를 촬영한 사진을 선택한 경우에, 화면에 새를 촬영한 사진이 표시되는 것을 예시한다.
도 13의 (b)를 참고하면, 사진(230)의 중간 부분이 터치스크린(190)에 표시되고 있다.
도 13의 (a)에 도시된 바와 같이, 사용자가 스크롤 레프트를 하면, 화면의 좌측 부분이 화면 우측단으로 이동하면서, 보이지 않았던 사진(230)의 좌측 부분이 터치스크린(190)에 표시된다.
도 13의 (c)에 도시된 바와 같이, 사용자가 스크롤 라이트를 하면, 화면의 우측 부분이 화면 좌측단으로 이동하면서, 보이지 않았던 사진(230)의 우측 부분이 터치스크린(190)에 표시된다.
도 14는 본 발명의 제1 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도이고, 도 15는 제1 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 도면이다.
비전 스크롤 모드에서의 화면 스크롤 방법은 S810~S850 단계를 포함한다.
S810 단계는 이미지 수신 단계로서, 제어부(110)는 카메라 모듈(150)로부터 실시간 이미지를 수신한다. 본 방법은 순차로 입력되는 실시간 이미지 또는 실시간 이미지 프레임들에 대해 적용된다.
S820 단계는 등록된 피사체의 검출 확인 단계로서, 제어부(110)는 이미지에서 휴대 단말(100)에 미리 등록된 피사체가 검출되는지의 여부를 판단한다. 이러한 피사체의 등록은 피사체를 검출하기 위한 정보를 저장부에 저장함으로써 이루어진다. 또한, 이러한 등록된 피사체는 얼굴, 손, 눈, 코 등이거나 이들의 조합일 수 있다. 바람직하게는, 의도하지 않은 화면 스크롤을 방지하기 위하여, 적어도 사용자 신체의 일부가 카메라 모듈에 의해 촬영되는 동안에 화면 스크롤이 이루어지도록 한다. 이러한 피사체를 검출하기 위한 정보는 피사체 이미지, 피사체 이미지의 특징점(또는 특징 이미지, 특징 패턴 등으로 지칭할 수도 있음) 정보, 얼굴 학습 데이터 등을 포함할 수 있다. 이러한 특징점은 에지, 코너, 이미지 패턴, 외곽선 등일 수 있다.
예를 들어, 제어부(110)는 이미지에 얼굴이 포함되어 있는지 여부를 판단한다. 얼굴 검출은 통상의 얼굴 검출 방법을 이용하여 수행되며, 얼굴의 윤곽선, 얼굴 피부의 색상 및/또는 질감, 템플리트 등을 이용한 얼굴 검출 기술이 이용될 수 있다. 예를 들어, 제어부(110)는 등록된 피사체 이미지의 특징점들과 입력 이미지에서 검출된 특징점들의 매칭 과정을 수행함으로써, 등록된 피사체와 매칭되는 이미지 영역(즉, 검출된 피사체)을 검출할 수 있다. 또는, 제어부(110)는 다수의 얼굴 이미지를 통해 얼굴 학습을 수행하고, 축적된 얼굴 학습 데이터를 이용하여 입력된 이미지로부터 얼굴을 검출할 수 있다.
도 15의 (a)는 검출된 얼굴의 예를 나타낸다.
또는, 제어부(110)는 이미지에 손, 눈 또는 코가 포함되어 있는지 여부를 판단할 수도 있다.
예를 들어, 제어부(110)는 눈 및/또는 코를 검출한다. 이러한 눈 및/또는 코의 검출은 전술한 특징점 매칭, 얼굴 학습 데이터 등을 이용하여 이루어질 수 있다. 또한, 제어부(110)는 눈 및/또는 코의 위치 정보를 검출한다.
도 15의 (b)는 검출된 눈(310)의 예를 나타낸다. 제어부(110)는 좌측 및 우측 눈의 좌표들(320, 330)을 검출한다. 눈의 좌표는 동공의 중심점에 대한 X, Y축 좌표일 수 있다. 또한, 코의 좌표는 코끝의 X, Y축 좌표일 수 있다.
제어부(110)는 등록된 피사체가 검출된 경우에 S830 단계를 수행하고, 등록된 피사체가 검출되지 않는 경우에 S810 및 S820 단계를 반복한다.
S830 단계는 피사체를 트랙킹(즉, 추적)하는 단계로서, 제어부(110)는 연속 촬영된 이미지들에서 검출된 피사체의 움직임, 즉 위치 변화를 추적한다. 예를 들어, 제어부(110)는 연속 촬영된 이미지들에서 검출된 피사체의 2차원 위치 변화를 추적하거나, 포즈(즉, 3차원 위치 및 방위)를 추적할 수 있다.
예를 들어, 제어부(110)는 연속 촬영된 이미지들에서 눈의 위치 변화를 누적하여 추적할 수 있다.
S840 단계는 이벤트 발생 여부를 확인하는 단계로서, 제어부(110)는 비전 스크롤 모드에 설정된 이벤트가 발생하는지의 여부를 판단한다. 제어부(110)는 트랙킹된 피사체의 누적 위치 변화량이 미리 설정된 임계 값을 초과하는지의 여부를 판단할 수 있다. 또는, 제어부(110)는 트랙킹된 피사체의 이동 속도가 미리 설정된 임계 값을 초과하는지의 여부를 판단할 수 있다.
예를 들어, 제어부(110)는 피사체의 이동 방향을 판단하고, 이동 방향에 따른 누적 위치 변화량이 이동 방향에 따른 미리 설정된 임계 값을 초과하는 경우에, “스크롤 업”, “스크롤 다운”, “스크롤 라이트” 및 “스크롤 레프트” 중의 해당 이벤트가 발생한 것으로 결정한다.
도 16은 이벤트의 종류에 따른 눈의 위치 변화를 설명하기 위한 도면이다.
410은 초기 눈 위치를 나타내고, 420은 스크롤 업 이벤트에 대응하는 변화된 눈 위치를 나타내고, 430은 스크롤 다운 이벤트에 대응하는 변화된 눈 위치를 나타내고, 440은 스크롤 레프트 이벤트에 대응하는 변화된 눈 위치를 나타내고, 450은 스크롤 라이트 이벤트에 대응하는 변화된 눈 위치를 나타낸다.
S840 단계에서 이벤트가 발생한 경우에 S850 단계를 수행하고, 이벤트가 발생하지 않은 경우에 S830 단계를 계속 수행한다.
S850 단계 화면 스크롤 단계로서, 제어부(110)는 해당 이벤트에 대응하는 방향으로 화면을 스크롤한다.
도 17은 본 발명의 제2 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도이다. 본 제2 예는 등록된 피사체가 얼굴인 경우를 예시한다.
비전 스크롤 모드에서의 화면 스크롤 방법은 S910~S955 단계를 포함한다.
S910 단계는 이미지 수신 단계로서, 제어부(110)는 카메라 모듈(150)로부터 실시간 이미지를 수신한다. 본 방법은 순차로 입력 또는 독취되는 실시간 이미지 또는 실시간 이미지 프레임들에 대해 적용된다.
S915 단계는 얼굴 추적 모드인지의 여부를 확인하는 단계로서, 제어부(110)는 이전 이미지 프레임에 대하여 얼굴이 검출되었을 경우 얼굴 추적 모드로 판단한다. 제어부(110)는 얼굴 추적 모드가 아닌 경우에 S920 단계를 수행하고, 얼굴 추적 모드인 경우에 S935 단계를 수행한다. 즉, S915 단계는 얼굴 추적을 위한 얼굴 검출이 먼저 선행되어 있는지의 여부를 판단하는 단계이다.
S920 단계는 얼굴 검출 단계로서, 제어부(110)는 현재의 이미지 프레임에서 얼굴을 검출한다.
S925 단계는 화면 떨림 판단 단계로서, 제어부(110)는 얼굴이 검출된 이미지 프레임 이후의 N 개의 이미지 프레임들에서 얼굴의 떨림이 발생하는지의 여부를 판단한다. 즉, S925 단계는 이후의 얼굴 추적을 위해 화면 상태가 안정적인지의 여부를 판단하는 단계이다. 제어부(110)는 화면 떨림이 있는 경우 S910 단계로 복귀하고, 화면 떨림이 없는 경우 S930 단계를 수행한다.
S930 단계는 초기화 단계로서, 제어부(110)는 화면 떨림이 없는 경우 얼굴이 검출된 이미지 프레임을 기준으로 이후의 이미지 프레임들에 대하여 얼굴 추적을 수행한다. 제어부(110)는 얼굴이 검출된 이미지 프레임과 상기 이미지 프레임에서 검출된 얼굴에 대한 정보(추적 대상이 되는 특징점, 특징점의 위치 등)를 저장부에 저장한다.
S935 단계는 얼굴 추적 단계로서, 제어부(110)는 연속 촬영된 이미지 프레임들에서 얼굴의 움직임, 즉 위치 변화를 추적한다.
S940 단계는 얼굴 추적의 성공 여부를 확인하는 단계로서, 제어부(110)는 얼굴 추적이 성공하였는지의 여부를 판단한다. 얼굴 추적이 실패한 경우는, 이미지 프레임에서 얼굴을 검출하지 못하는 경우 등을 말한다.
제어부(110)는 얼굴 추적이 성공한 경우 S945 단계를 수행하고, 얼굴 추적이 실패한 경우 S920 단계를 수행한다.
S945 단계는 이벤트 발생 여부를 확인하는 단계로서, 제어부(110)는 얼굴 위치의 누적 변화량 FA를 임계 값과 비교한다. 본 예에서는, 스크롤 업 이벤트에 대한 제1 임계 값 TH_up과 스크롤 다운 이벤트에 대한 제2 임계 값 TH_down만을 고려하는 것으로 예시한다. 이때, FA는 S920 단계에서 검출된 얼굴의 기준 위치에서 얼굴의 상측 이동을 +의 값으로 나타내고, 얼굴의 하측 이동을 -의 값으로 나타낸다. 따라서, TH_up은 +의 값을 갖고, TH_down은 -의 값을 가질 수 있다.
제어부(110)는 FA > TH_up인 경우에 S950 단계를 수행하고, FA < TH_down인 경우에 S955 단계를 수행한다.
제어부(110)는 S950 단계에서 화면을 스크롤 업하고, S955 단계에서 화면을 스크롤 다운한다.
도 18은 본 발명의 제1 예에 따른 모션 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도이다.
모션 스크롤 모드에서의 화면 스크롤 방법은 S1010~S1070 단계를 포함한다.
S1010 단계는 이미지 수신 단계로서, 제어부(110)는 카메라 모듈(150)로부터 실시간 이미지를 수신한다. 본 방법은 순차로 입력 또는 독취되는 실시간 이미지 또는 실시간 이미지 프레임들에 대해 적용된다.
S1020 단계는 등록된 피사체의 검출 확인 단계로서, 제어부(110)는 이미지에서 휴대 단말(100)에 미리 등록된 피사체가 검출되는지의 여부를 판단한다. 이러한 등록된 피사체는 얼굴, 손, 눈, 코 등이거나 이들의 조합일 수 있다.
제어부(110)는 등록된 피사체가 검출된 경우에 S1030 단계를 수행하고, 등록된 피사체가 검출되지 않는 경우에 S1010 및 S1020 단계를 반복한다.
S1030 단계는 휴대 단말(100)의 움직임을 트랙킹하는 단계로서, 제어부(110)는 휴대 단말(100)의 위치 변화, 기울기 변화, 포즈 변화 등을 검출한다.
예를 들어, 제어부(110)는 얼굴이 검출된 이미지 프레임에서의 휴대 단말(100)의 포즈를 기준으로 하여, 전방 기울임, 후방 기울임, 좌측방 기울임, 우측방 기울임을 트랙킹할 수 있다.
S1040 단계는 이벤트 발생 여부를 확인하는 단계로서, 제어부(110)는 비전 스크롤 모드에 설정된 이벤트가 발생하는지의 여부를 판단한다. 제어부(110)는 트랙킹된 휴대 단말(100)의 누적 위치 변화량 또는 누적 각도 변화량이 미리 설정된 임계 값을 초과하는지의 여부를 판단할 수 있다. 또는, 제어부(110)는 트랙킹된 휴대 단말(100)의 이동 또는 기울임 속도가 미리 설정된 임계 값을 초과하는지의 여부를 판단할 수 있다.
예를 들어, 제어부(110)는 휴대 단말(100)의 기울임 방향을 판단하고, 기울임 방향에 따른 누적 각도 변화량이 기울임 방향에 따른 미리 설정된 임계 값을 초과하는 경우에, “스크롤 업”, “스크롤 다운”, “스크롤 라이트” 및 “스크롤 레프트” 중의 해당 이벤트가 발생한 것으로 결정한다.
도 19 및 20은 휴대 단말(100)의 전방 및 후방 기울임을 설명하기 위한 도면들이다. 도 20은 휴대 단말(100)의 측면을 바라본 모습을 나타낸다.
제어부(110)는, 휴대 단말(100)의 초기 위치 To를 기준으로 하여, 전방 및 후방의 일정 각도 범위를 정지 구간 O로 설정하고, 정지 구간 O를 초과하여 전방으로 더 기울어진 각도 범위를 A 구간으로 설정하고, A 구간을 초과하여 전방으로 더 기울어진 각도 범위를 B 구간으로 설정한다.
또한, 제어부(110)는, 정지 구간 O를 초과하여 후방으로 더 기울어진 각도 범위를 C 구간으로 설정하고, C 구간을 초과하여 전방으로 더 기울어진 각도 범위를 D 구간으로 설정한다.
예를 들어, 제어부(110)는 정지 구간 O에서는 스크롤을 수행하지 않으며, A 구간에서는 속도 Va의 스크롤 업을 수행하고, B 구간에서는 속도 Vb(>Va)의 스크롤 업을 수행하고, C 구간에서는 속도 Vc의 스크롤 다운을 수행하고, D 구간에서는 속도 Vd(>Vc)의 스크롤 다운을 수행할 수 있다.
또는, 제어부(110)는 휴대 단말(100)의 기울임 속도에 따라 스크롤 속도를 결정할 수도 있다. 예를 들어, 휴대 단말(100)의 기울임 속도에 비례하도록 스크롤 속도를 증가시킬 수 있다. 또는, 휴대 단말(100)의 기울임 속도를 다수의 속도 구간으로 분류하고, 각 속도 구간에 해당 스크롤 속도를 할당하며, 휴대 단말(100)의 기울임 속도가 증가할수록 스크롤 속도도 불연속적으로 증가하도록 제어할 수도 있다. 예를 들어, 제어부(110)는 정지 구간 O에서는 스크롤을 수행하지 않으며, A 및 B 구간에서는 휴대 단말(100)의 기울임 속도에 비례하는 속도로 스크롤 업을 수행하고, C 및 D 구간에서는 휴대 단말(100)의 기울임 속도에 비례하는 속도로 스크롤 다운을 수행할 수도 있다.
도 21 및 22는 휴대 단말(100)의 좌측방 및 우측방 기울임을 설명하기 위한 도면들이다. 휴대 단말(100)의 측방 기울임은 휴대 단말(100)의 길이 방향 중심축을 기준으로 시계 방향 또는 반시계 방향으로 중심축의 이동 없이 회전하는 경우와, 휴대 단말(100)의 길이 방향 중심축을 기준으로 좌측 또는 우측으로 중심축의 이동과 함께 기울어지는 경우로 분류할 수 있다.
도 21은 휴대 단말(100)의 길이 방향 중심축을 기준으로 시계 방향 또는 반시계 방향으로 중심축의 이동 없이 회전하는 경우를 나타낸다.
제어부(110)는, 휴대 단말(100)의 초기 위치 To를 기준으로 하여, 시계 및 반시계 방향의 일정 각도 범위를 정지 구간 O로 설정하고, 정지 구간 O를 초과하여 시계 방향으로 더 기울어진 각도 범위를 A 구간으로 설정하고, A 구간을 초과하여 시계 방향으로 더 기울어진 각도 범위를 B 구간으로 설정한다.
또한, 제어부(110)는, 정지 구간 O를 초과하여 반시계 방향으로 더 기울어진 각도 범위를 C 구간으로 설정하고, C 구간을 초과하여 반시계 방향으로 더 기울어진 각도 범위를 D 구간으로 설정한다.
예를 들어, 제어부(110)는 정지 구간 O에서는 스크롤을 수행하지 않으며, A 구간에서는 속도 Va의 스크롤 레프트를 수행하고, B 구간에서는 속도 Vb(>Va)의 스크롤 레프트를 수행하고, C 구간에서는 속도 Vc의 스크롤 라이트를 수행하고, D 구간에서는 속도 Vd(>Vc)의 스크롤 라이트를 수행할 수 있다.
전술한 경우와 마찬가지로, 제어부(110)는 휴대 단말(100)의 기울임 속도에 따라 스크롤 속도를 결정할 수도 있다.
도 22는 휴대 단말(100)의 길이 방향 중심축을 기준으로 좌측 또는 우측으로 중심축의 이동과 함께 기울어지는 경우를 나타낸다.
제어부(110)는, 휴대 단말(100)의 초기 위치 To를 기준으로 하여, 좌측방 및 우측방의 일정 각도 범위를 정지 구간 O로 설정하고, 정지 구간 O를 초과하여 좌측 방향으로 더 기울어진 각도 범위를 A 구간으로 설정하고, A 구간을 초과하여 좌측 방향으로 더 기울어진 각도 범위를 B 구간으로 설정한다.
또한, 제어부(110)는, 정지 구간 O를 초과하여 우측 방향으로 더 기울어진 각도 범위를 C 구간으로 설정하고, C 구간을 초과하여 우측 방향으로 더 기울어진 각도 범위를 D 구간으로 설정한다.
예를 들어, 제어부(110)는 정지 구간 O에서는 스크롤을 수행하지 않으며, A 구간에서는 속도 Va의 스크롤 레프트를 수행하고, B 구간에서는 속도 Vb(>Va)의 스크롤 레프트를 수행하고, C 구간에서는 속도 Vc의 스크롤 라이트를 수행하고, D 구간에서는 속도 Vd(>Vc)의 스크롤 라이트를 수행할 수 있다.
전술한 경우와 마찬가지로, 제어부(110)는 휴대 단말(100)의 기울임 속도에 따라 스크롤 속도를 결정할 수도 있다.
S1050 단계 화면 스크롤 단계로서, 제어부(110)는 해당 이벤트에 대응하는 방향으로 화면을 스크롤한다.
S1060 단계는 정지 조건의 발생 여부를 확인하는 단계로서, 예를 들어, 제어부(110)는 터치스크린(190)에 일부 표시되는 전체 화면의 끝단(즉, 상단, 하단, 좌측단 또는 우측단)이 표시된 경우, 휴대 단말(100)이 위치 변화되기 이전의 초기 위치 또는 초기 각 위치의 방향으로 이동 또는 기울어진 경우, 휴대 단말(100)이 이벤트 발생시의 기울임 방향의 반대 방향으로 기울어진 경우, 또는 현재 이미지에서 등록된 피사체가 검출되지 않는 경우에 화면 스크롤을 중지한다. 이러한 화면 스크롤의 중지를 위해, 제어부(110)는 전술한 바와 같은 정지 조건이 발생하는지의 여부를 판단한다. 제어부(110)는 정지 조건이 발생한 경우에 S1070 단계를 수행하고, 정지 조건이 발생하지 않은 경우에 화면 스크롤을 계속 수행한다.
S1070 단계는 스크롤 정지 단계로서, 제어부(110)는 화면 스크롤을 정지한다.
도 23은 본 발명의 제2 예에 따른 모션 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도이다. 본 제2 예는 스크롤 업 및 스크롤 다운만을 고려하는 경우를 예시한다.
S1110 단계는 얼굴 검출 단계로서, 제어부(110)는 카메라 모듈(150)로부터 수신한 실시간 이미지에서 얼굴을 검출한다. 실시간 이미지에서 얼굴이 검출되지 않는 경우에는 이후의 단계들을 수행하지 않는다.
S1115 단계는 정지 구간 판단 단계로서, 제어부(110)는 얼굴이 검출된 시점에서의 휴대 단말(100)의 위치를 기준으로 전방 및 후방의 일정 각도 범위를 정지 구간으로 설정한다.
S1120 단계는 단말 기울임 체크 단계로서, 제어부(110)는 센서 모듈(170)을 이용하여 휴대 단말(100)의 전방 또는 후방 기울임을 체크한다.
S1125 단계는 단말 기울임 각도 판단 단계로서, 제어부(110)는 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어지는지의 여부를 판단한다. 이러한 임계 각도는 도 20에 도시된 정지 구간 O와 A 구간 또는 B 구간을 구분하는 각도에 해당한다. 제어부(110)는 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어진 경우에 S1130 단계를 수행하고, 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어지지 않은 경우에 S1120 단계를 반복한다.
S1130 단계는 단말 기울임 방향 판단 단계로서, 제어부(110)는 휴대 단말(100)의 기울임 방향을 판단한다. 제어부(110)는 기울임 방향이 전방인 경우에 S1135 단계를 수행하고, 기울임 방향이 전방이 아닌 경우(즉, 후방 기울임인 경우)에 S1160 단계를 수행한다.
S1135 단계에서 제어부(110)는 화면을 스크롤 업한다.
S1140 단계는 단말 기울임 체크 단계로서, 제어부(110)는 센서 모듈을 이용하여 휴대 단말(100)이 화면 스크롤 업 이전의 기울임 방향의 반대 방향으로 기울어지는지의 여부를 체크한다.
S1145 단계는 단말 기울임 각도 판단 단계로서, 제어부(110)는 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어지는지의 여부를 판단한다. 이러한 임계 각도는 적어도 화면 스크롤 업 이전의 기울임 위치에서 정지 구간 O로 복귀할 수 있는 각도이거나, S1125 단계의 임계 각도와 동일할 수 있다. 제어부(110)는 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어진 경우에 S1150 단계를 수행하고, 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어지지 않은 경우에 S1140 단계를 반복한다.
S1150 단계는 단말 기울임 방향 판단 단계로서, 제어부(110)는 휴대 단말(100)의 기울임 방향을 판단한다. 제어부(110)는 기울임 방향이 후방인 경우에 S1155 단계를 수행하고, 기울임 방향이 전방이 아닌 경우(즉, 전방 기울임인 경우)에 S1140 단계를 수행한다.
S1155 단계에서 제어부(110)는 화면의 스크롤 업을 중지한다.
S1160 단계에서 제어부(110)는 화면을 스크롤 다운한다.
S1165 단계는 단말 기울임 체크 단계로서, 제어부(110)는 센서 모듈을 이용하여 휴대 단말(100)이 화면 스크롤 업 이전의 기울임 방향의 반대 방향으로 기울어지는지의 여부를 체크한다.
S1170 단계는 단말 기울임 각도 판단 단계로서, 제어부(110)는 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어지는지의 여부를 판단한다. 이러한 임계 각도는 적어도 화면 스크롤 다운 이전의 기울임 위치에서 정지 구간 O로 복귀할 수 있는 각도이거나, S1125 단계의 임계 각도와 동일할 수 있다. 제어부(110)는 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어진 경우에 S1175 단계를 수행하고, 휴대 단말(100)이 미리 설정된 임계 각도 이상으로 기울어지지 않은 경우에 S1165 단계를 반복한다.
S1175 단계는 단말 기울임 방향 판단 단계로서, 제어부(110)는 휴대 단말(100)의 기울임 방향을 판단한다. 제어부(110)는 기울임 방향이 전방인 경우에 S1155 단계를 수행하고, 기울임 방향이 전방이 아닌 경우(즉, 후방 기울임인 경우)에 S1165 단계를 수행한다.
도 24는 본 발명의 제3 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 흐름도이다.
본 방법은 실시간 이미지 또는 실시간 이미지 프레임들에 대해 적용된다.
S1210 단계는 이미지 수신 단계로서, 제어부(110)는 카메라 모듈(150)로부터 실시간 이미지를 수신한다. 또는, 카메라 모듈(150)에 의해 촬영된 실시간 이미지가 저장부에 먼저 저장되는 경우에, 제어부(110)는 저장부(175)로부터 실시간 이미지를 수신할 수도 있다.
도 25는 본 발명의 제3 예에 따른 비전 스크롤 모드에서의 화면 스크롤 방법을 설명하기 위한 도면이다.
도 25의 (a)는 비전 스크롤 모드가 아닌 경우에 카메라 모듈(150)에 의해 촬영된 이미지를 처리하는 과정을 나타낸다. 도 1에 도시된 휴대 단말(100)은 이미지 신호 프로세서(image signal processor: ISP, 156)를 더 포함할 수 있다.
이미지 신호 프로세서(156)는 카메라 모듈(150)에 의해 촬영된 실시간 이미지를 수신하며, 이미지 신호 프로세서(156)는 이미지를 터치 스크린(190)의 화면 특성(크기, 화질, 해상도 등) 또는 다른 디스플레이 유닛의 화면 특성에 맞도록 처리(즉, 고화질 이미지로 변환)하고, 고화질 이미지를 터치 스크린(190)으로 출력한다.
터치 스크린(190)은 이미지 신호 프로세서(156)로부터 수신한 고화질 이미지를 화면에 표시한다.
제어부(110)는 이러한 이미지 처리가 수행될 수 있도록 카메라 모듈(150) 및/또는 이미지 신호 프로세서(156)를 제어한다.
도 25의 (b)는 비전 스크롤 모드에서 카메라 모듈(150)에 의해 촬영된 이미지를 처리하는 과정을 나타낸다.
제어부(110)는 카메라 모듈(150)이 이미지 신호 프로세서(156)로 실시간 이미지를 출력하지 않도록 제어하거나, 이미지 신호 프로세서가 카메라 모듈(150)로부터 수신한 실시간 이미지를 처리하지 않도록 제어한다. 제어부(110)는 카메라 모듈(150), 이미지 신호 프로세서(156) 또는 저장부(175)로부터 ISP 처리되지 않은 이미지를 수신한다.
또한, 제어부(110)는 카메라 모듈(150)이 비전 스크롤 모드가 아닌 경우에 화면 표시용의 고해상도의 이미지를 출력하고, 비전 스크롤 모드에서 저해상도의 이미지를 출력하도록 제어할 수도 있다. 예를 들어, 제어부(110)의 제어에 따라, 카메라 모듈(150)은 비전 스크롤 모드가 아닌 경우에 풀 화소 이미지를 출력하고, 비전 스크롤 모드에서 다운 샘플링된 이미지(즉, 이미지를 구성하는 화소 수가 풀 화소 이미지의 것보다 적음)를 출력할 수 있다.
또한, 제어부(110)는 카메라 모듈(150)이 비전 스크롤 모드가 아닌 경우에 화면 표시용의 풀 컬러 이미지를 출력하고, 비전 스크롤 모드에서 단색 또는 그레이 스케일의 이미지를 출력하도록 제어할 수도 있다.
제어부(110)는 고전력을 요구하는 일반적인 고화질 이미지를 이용하지 않고 전력 소모를 최소화할 수 있는 ISP 처리되지 않은 이미지를 이용하여, 화면 스크롤 방법을 수행한다. 예를 들어, 제어부(110)는 비전 스크롤 모드에서 다운 샘플링되고 ISP 처리되지 않은 저해상도 그레이 이미지를 이용할 수 있다.
휴대 단말(100)의 소모하는 전력의 상당 부분은 이미지 신호 프로세서(156)에 의한 것이므로, 화면 스크롤을 위해 카메라 모듈(150)을 지속적으로 켜 놓으면서 전력 소모를 최소화하기 위하여, 제어부(110)는 ISP 처리되지 않은 이미지를 이용한다.
한편, 제어부(110)는 ISP 처리된 이미지를 이용하여 화면 스크롤 방법을 수행할 수도 있다.
S1220 단계는 이미지 보정 단계로서, 제어부(110)는 ISP 처리되지 않은 이미지를 보정한다. 이미지 보정은 주위 조명 변화에 강인하게 하기 위한 조명 보정, 노이즈의 영향을 최소화하기 위한 노이즈 리덕션 단계 및 노이즈 감소에 의해서 블러링된 이미지의 디테일 향상(또는 선명도 보정) 중의 적어도 하나를 포함할 수 있다.
제어부(110)는 적어도 하나의 이전 이미지들(또는 타겟 이미지 이전에 촬영된 이미지들)을 분석하여 현재 이미지(또는 타겟 이미지)를 보정할 수 있다. 제어부(110)는 이전 이미지와 현재 이미지의 차이를 판단하고, 이러한 차이가 미리 설정된 임계값보다 작은 경우에 이전 이미지에 근거하여 현재 이미지를 보정하고, 이러한 차이가 미리 설정된 임계값 이상인 경우에 이전 이미지에 근거하지 않고 현재 이미지를 보정할 수 있다. 예를 들어, 제어부(110)는 이미지들의 차이가 작은 경우에 이전 이미지에 대해 분석된 노이즈 정보에 따라 현재 이미지의 노이즈를 제거하고, 이미지들의 차이가 큰 경우에 이전 이미지에 대해 분석된 노이즈 정보를 이용하지 않고 현재 이미지의 노이즈를 분석 및 제거할 수 있다. 예를 들어, 5개의 이미지들에 대해서 보정을 하는 경우에, 제어부(110)는 이미지들의 차이가 작다는 조건하에서, 1번째 이미지에 대해 분석된 노이즈 정보에 따라 2~5번째 이미지들을 보정할 수 있으므로, 각 이미지마다 노이즈 분석을 수행하는 경우에 비하여, 이미지 보정 시간을 줄일 수 있다. 또는, 제어부(110)는 5번째 이미지를 1~4번째 이미지들의 분석 정보를 이용하여 보정함으로써, 보정 정확도를 높일 수 있게 된다. 또는, n개의 이미지들 단위로 노이즈를 보정하는 경우에, 제어부(110)는 1~n번째 이미지들에 대한 노이즈 분석 정보를 이용하여 n번째 이미지의 노이즈를 보정하고, 2~(n+1)번째 이미지들에 대한 노이즈 분석 정보를 이용하여 (n+1)번째 이미지의 노이즈를 보정할 수 있다. 또한, (n+2)번째 이미지와 (n+1)번째 이미지의 차이가 큰 경우에, 제어부(110)는 이전 이미지들에 근거하지 않고 (n+2)번째 이미지에 대해 노이즈 분석 및 보정을 수행하고, (n+2)~ (n+3)번째 이미지에 대한 노이즈 분석 정보를 이용하여 (n+3)번째 이미지의 노이즈를 보정할 수 있다.
본 S1220 단계는 생략될 수도 있다.
S1230 단계는 관심영역 확인 단계로서, 제어부(110)는 이미지에서 관심 영역이 검출되는지의 여부를 확인한다.
도 26은 관심 영역 확인 단계의 세부 단계들을 나타내는 흐름도이다.
S1310 단계는 얼굴 검출을 확인하는 단계로서, 제어부(110)는 이미지에서 얼굴이 검출되는지의 여부를 판단한다.
얼굴 검출은 통상의 얼굴 검출 방법을 이용하여 수행되며, 얼굴의 윤곽선, 얼굴 피부의 색상 및/또는 질감, 템플리트 등을 이용한 얼굴 검출 기술이 이용될 수 있다. 예를 들어, 제어부(110)는 등록된 피사체 이미지의 특징점들과 입력 이미지에서 검출된 특징점들의 매칭 과정을 수행함으로써, 등록된 피사체와 매칭되는 이미지 영역(즉, 검출된 피사체)을 검출할 수 있다. 또는, 제어부(110)는 다수의 얼굴 이미지를 통해 얼굴 학습을 수행하고, 축적된 얼굴 학습 데이터를 이용하여 입력된 이미지로부터 얼굴을 검출할 수 있다.
S1320 단계는 얼굴 고정을 확인하는 단계로서, 제어부(110)는 이미지에서 얼굴이 움직이고 있는지의 여부를 판단한다. 이미지에서 얼굴이 검출되더라도, 제어부(110)는 사용자가 화면 스크롤을 하려는 의도를 갖고 있는지 알 수 없기 때문에, 화면 스크롤 방법의 초기화를 위하여 제어부는 얼굴의 고정 여부를 판단한다.
도 27 내지 도 29는 관심 영역 확인 단계의 세부 단계들을 설명하기 위한 도면들이다.
도 27의 (a)를 참조하면, 사용자의 얼굴(610)이 보는 방향에서 우측에서 좌측으로 이동(620)하고 있다.
제어부(110)는 얼굴(610)이 고정된 경우에 S1340 단계를 수행하고, 얼굴이 고정되지 않은 경우에 S1330 단계를 수행한다.
S1330 단계는 제1 안내 정보를 출력하는 단계로서, 제어부(110)는 사용자에게 얼굴을 고정할 것을 알리는 안내 정보를 출력할 수 있다. 이러한 안내 정보는 이미지, 텍스트 등의 시각적 안내 정보 표시, 안내 음성의 출력 등일 수 있다.
도 27의 (a)를 참고하면, 제어부(110)는 "얼굴을 고정하세요.", "화면 스크롤을 위해 얼굴을 고정하세요." 등의 안내 정보(630)를 터치 스크린에 표시할 수 있다.
S1340 단계는 얼굴 위치를 확인하는 단계로서, 제어부(110)는 미리 설정된 최적 영역 내에 얼굴이 위치하는지의 여부를 판단한다.
제어부(110)는 제1 카메라(151)의 화각 및/또는 위치, 휴대 단말(100)의 방향 등을 고려하여 터치 스크린(190)에 최적 영역을 설정한다.
제어부(110)는 이러한 최적 영역 내에 얼굴이 위치하는지의 여부를 판단한다.
도 27의 (b)를 참고하면, 최적 영역(650)은 그 중심(642)이 터치 스크린(190)의 중심(640)에서 제1 카메라(151)로부터 먼 방향으로 이격되도록 설정된다. 제1 카메라(151)가 휴대 단말(100)의 우측 상단부에 위치하므로, 최적 영역(650)의 중심(642)은 터치 스크린(190)의 중심(640)으로부터 좌측 하단 방향으로 이격되어 있다. 만약 제1 카메라(151)가 휴대 단말(100)의 좌측 상단부에 위치하면, 최적 영역(650)의 중심(642)은 터치 스크린(190)의 중심으로부터 우측 하단 방향으로 이격되도록 설정된다.
제어부(110)는 얼굴(610)이 최적 영역(650) 내에 위치한 경우에 S1360 단계를 수행하고, 얼굴(610)이 최적 영역(650) 내에 위치하지 않은 경우에 S1350 단계를 수행한다.
S1350 단계는 제2 안내 정보를 출력하는 단계로서, 제어부(110)는 얼굴이 최적 영역 내에 위치하지 않은 경우에, 얼굴이 최적 영역 내에 위치할 수 있도록 사용자에게 이동할 것을 알리는 안내 정보를 출력할 수 있다. 이러한 안내 정보는 이미지, 텍스트 등의 시각적 안내 정보 표시, 안내 음성의 출력 등일 수 있다. 본 S1340, S1350 단계는 생략될 수도 있다.
도 28의 (a)를 참조하면, 사용자의 얼굴(610)은 최적 영역(650)에서 벗어나 있다.
도 28의 (a)를 참고하면, 제어부(110)는 "좌측으로 이동하세요." 등의 텍스트 안내 정보(660) 또는 음성 안내 정보, 화살표 등의 이미지 안내 정보(665) 등을 터치 스크린(190)에 표시할 수 있다.
도 28의 (b)를 참조하면, 최적 영역(652)은 휴대 단말(100)의 회전과 함께 회전하도록 설정된다. 휴대 단말(100)의 임의의 방향에 대하여, 최적 영역(652)은 그 중심이 터치 스크린의 중심에서 제1 카메라(151)로부터 먼 방향으로 이격되도록 설정되나, 휴대 단말(100)의 방향에 따라 최적 영역(652)의 크기는 다르게 설정될 수도 있다.
S1360 단계는 관심 영역을 검출하는 단계로서, 제어부(110)는 이미지 내 얼굴에서 관심 영역을 검출한다.
도 29를 참조하면, 제어부(110)는 얼굴(610)에서 코를 포함하는 관심 영역을 검출한다. 즉, 관심 영역(670)은 코를 둘러싸고, 그 중심 좌표는 코에 위치한다.
얼굴에서 상/하/좌/우 움직임의 변화를 가장 잘 표현할 수 있는 코를 중심으로한 관심 영역을 설정함으로써, 관심 영역 추적의 정확도 및 처리 속도를 증가시킬 수 있다.
휴대 단말(100)과 같이, 카메라 모듈(150)의 위치가 휴대 단말(100)의 상단부에 위치하면서 사용자가 휴대 단말(100)을 비스듬하게 기울여 사용하는 경우에, 얼굴 전체 영역이 카메라 모듈(150)의 화각에 포함되지 않을 수 있다.
또한, 이러한 사용 환경에서 얼굴을 상하로 움직일 경우 눈/코/입 주위의 변화 정도가 다르기 때문에, 눈/코/입 정보가 모두 포함된 관심 영역을 사용할 경우 추정 결과의 정확도가 떨어지는 경우가 발생한다. 또한, 관심 영역이 커지기 때문에 제한된 연산 능력을 가지고 있는 휴대 단말(100)에서는 추적에 소요되는 처리 시간이 오래 걸리는 문제가 발생할 수 있다. 따라서, 전체 얼굴 중에서 얼굴의 움직임을 가장 잘 반영할 수 있으며 이동 변화가 크게 나타나는 코를 포함하는 영역을 관심영역으로 설정한다.
S1240 단계는 관심 영역을 추적하는 단계로서, 제어부(110)는 연속 촬영된 이미지들에서 관심 영역의 위치 변화를 추적한다. 제어부(110)는 연속 촬영된 이미지들에서 코의 위치 변화를 누적하여 추적할 수 있다.
S1250 단계는 관심 영역의 상태 변화를 확인하는 단계로서, 제어부(110)는 관심 영역의 위치 변화로부터 관심 영역의 상태가 변화하는지의 여부를 판단한다. 제어부(110)는 관심 영역의 누적 위치 변화량이 미리 설정된 임계 값을 초과하는지의 여부를 판단할 수 있다.
예를 들어, 제어부(110)는 관심 영역의 이동 방향을 판단하고, 이동 방향에 따른 누적 위치 변화량이 이동 방향에 따른 미리 설정된 임계 값 이상 또는 초과인 경우에, 업 상태, 다운 상태, 레프트 상태, 라이트 상태 및 정지 상태 중의 해당 상태로 변화된 것으로 판단한다. 업 상태, 다운 상태, 레프트 상태, 라이트 상태 및 정지 상태는 스크롤 업(또는 업 스크롤) 이벤트, 스크롤 다운(또는 다운 스크롤) 이벤트, 스크롤 라이트(또는 라이트 스크롤) 이벤트, 스크롤 레프트(또는 레프트 스크롤) 이벤트 및 정지 이벤트에 대응한다.
또한, 관심 영역의 상태 변화는 이벤트의 발생에 대응한다.
관심 영역의 상태 변화(또는 이벤트의 종류)에 따른 코의 위치 변화는 눈의 위치 변화를 설명하는 도 16으로부터 알 수 있다.
S1250 단계에서 관심 영역의 상태 변화가 발생한 경우에 S1260 단계를 수행하고, 관심 영역의 상태 변화가 발생하지 않은 경우에 S1240 단계를 계속 수행한다.
S1260 단계는 화면 스크롤 단계로서, 제어부(110)는 해당 상태 변화에 대응하는 방향으로 화면을 스크롤한다.
제어부(110)는 관심 영역의 추적 정보를 지속적으로 업데이트하며, 업데이트된 정보를 분석하여 화면 스크롤을 제어하기 위한 관심 영역의 업/다운/레프트/라이트/정지 상태를 판단하고, 판단된 상태에 따른 화면 스크롤을 수행한다. 이하, 코를 포함한 관심 영역을 추적하여 업/다운 /정지 상태를 판단하는 경우를 예시하며, 이와 유사하게, 코를 포함한 관심 영역의 레프트/라이트 이동 변화를 분석하여 레프트/라이트/정지 상태를 판단할 수 있다.
도 30은 관심 영역 추적 및 관심 영역의 상태 변화를 확인하는 단계들의 세부 단계들을 나타내는 흐름도이다.
초기에 관심 영역은 정지 상태에 있는 것으로 가정한다.
S1410 단계는 위치 변화량 Dy를 산출하는 단계로서, 제어부(110)는 이전 관심 영역과 현재 관심 영역의 위치 변화량 Dy를 산출한다. 즉, 제어부(110)는 현재 이미지 및 이전 이미지에서 관심 영역의 위치 변화량을 산출한다.
관심 영역의 움직임 속도가 매우 느릴 경우에는 두 관심 영역들 간의 움직임이 너무 작아서 위치 변화량이 픽셀 단위 이하일 수도 있다. 따라서, 이러한 경우에는 관심 영역의 정확한 움직임 추적이 불가능하다. 이러한 상황에서는 관심 영역의 움직임을 추적함에 있어서 성능 열화와 같은 문제가 생길 수도 있다.
제어부(110)는 주기 n을 설정하고, 주기 n동안 연속된 두 관심 영역들 간의 관심 영역의 위치 변화량을 누적 합산한다. 예를 들어, 1번째 관심 영역 및 2번째 관심 영역 간의 위치 변화량, 2번째 관심 영역 및 3번째 관심 영역 간의 위치 변화량 등이 누적 합산된다. 이렇게 누적 합산한 값이 미리 설정된 임계값 TH_n 이하일 경우에, 현재 관심 영역(즉, 2n번째 관심 영역)과 이전 n번째 관심 영역간의 움직임 차이를 추가로 산출하여 위치 변화량 Dy에 합산하거나 대체할 수 있다. 이렇게 함으로써 이동이 느린 얼굴에 대한 추적을 정확하게 할 수 있다. 즉 특정 주기 동안 이웃 프레임들 마다의 위치 차이가 크지 않은 경우에, t-n번째 이미지와 t(=2n)번째 이미지에서 코를 포함하는 관심 영역의 위치 변화량 Dy는 아래와 같이 산출될 수 있다.
Dy = P(t-n)-P(t)
P(t-n)은 t-n프레임에서 관심 영역의 중심 좌표, P(t)은 t프레임에서 관심 영역의 중심좌표이다. 여기서 위치 변화량 Dy는 중심 좌표의 변화량으로 표현되었으나, 관심 영역 내 임의의 위치(또는 픽셀)에 대한 변화량으로 일반화하여 표현될 수도 있다.
S1420 단계는 누적 위치 변화량 Ay를 업데이트 또는 산출하는 단계로서, 제어부(110)는 주기 n마다 계산된 위치 변화량 Dy를 합산하여 누적 위치 변화량 Ay를 업데이트한다. 즉, 제어부(110)는 관심 영역의 이전 상태로부터 현재까지의 누적 위치 변화량 Ay를 산출한다. 이전 상태는 업 상태, 다운 상태, 레프트 상태 또는 라이트 상태일 수 있다.
위치 변화량 Dy는 양 또는 음의 부호를 가질 수 있으며, 예를 들어, 업 이동의 경우에 위치 변화량 Dy는 양의 값이고, 다운 이동의 경우에 위치 변화량 Dy는 음의 값일 수 있다.
S1430 단계는 정지 상태의 여부를 확인하는 단계로서, 제어부(110)는 관심 영역의 상태가 정지 상태인지의 여부를 확인한다.
저장부(175)는 이전 상태 정보를 저장하고 있으며, 이전 상태 정보는 업 상태, 다운 상태와 같은 관심 영역의 이전 상태 정보와 이전 상태에서의 누적 위치 변화량 Ay를 포함한다.
예를 들어, 제어부(110)는 이전 상태가 업 상태일 때 현재의 누적 위치 변화량 Ay가 미리 설정된 임계값 TH_Stop만큼 감소하면 정지 상태인 것으로 판단한다. 또한, 제어부(110)는 이전 상태가 다운 상태일 때 현재의 누적 위치 변화량 Ay가 미리 설정된 임계값 TH_Stop만큼 증가하면 정지 상태인 것으로 판단한다.
정지 임계값 TH_Stop은 업 상태를 판단하기 위한 업 상태 임계값 TH_Aup과 다운 상태를 판단하기 위한 다운 상태 임계값 TH_Adown보다 작거나 같은 값으로 설정될 수 있다.
도 31 및 도 32는 관심 영역의 상태 변화를 설명하기 위한 도면들이다. 도 31에서 가로축은 시간을 나타내고, 세로축은 수직 위치를 나타낸다. 정지 임계값 TH_Stop, 다운 임계값 TH_Adown, 업 임계값 TH_Aup이 각각 5, -10, 10으로 설정된 것으로 가정한다. 이때, 단위는 mm, 픽셀 등 임의의 단위일 수 있다.
도 31의 (a)를 참조하면, 제어부(110)는 관심 영역이 초기 위치에서 하측으로 10만큼 이동한 경우(710)에 다운 상태로 판단한다. 이후, 제어부(110)는 관심 영역이 다운 위치에서 상측으로 5만큼 이동한 경우(712)에 정지 상태로 판단한다.
도 31의 (b)를 참조하면, 제어부(110)는 관심 영역이 초기 위치에서 상측으로 10만큼 이동한 경우(720)에 업 상태로 판단한다. 이후, 제어부(110)는 관심 영역이 업 위치에서 하측으로 5만큼 이동한 경우(722)에 정지 상태로 판단한다.
제어부(110)는 정지 상태인 경우에 S1440 단계를 수행하고, 정지 상태가 아닌 경우에 S1450 단계를 수행한다.
S1440 단계는 정지 시간 확인 단계로서, 제어부(110)는 정지 상태의 지속 시간(즉, 정지 시간)을 확인하고, 정지 시간 St가 임계값 TH_S에 도달할 때까지 정지 상태를 유지한다. 이러한 정지 시간 St는 이미지 프레임의 수로 대체될 수도 있다. 예를 들어, 이미지 프레임 레이트가 초당 10 프레임인 경우에, 임계값은 3~5 프레임으로 설정될 수도 있다.
도 11을 참조하면, 예를 들어 사용자가 컨택 리스트(210) 등과 같은 컨텐츠의 내용을 도 11의 (a) 또는 (c)와 같이 스크롤한 후 도 11의 (b)와 같이 정지시킨 상태에서 컨택 리스트(210)의 내용을 읽기 위하여 얼굴을 움직일 때 스크롤이 되지 않아야 하지만 스크롤을 동작시키는 행위와 컨텐츠의 내용을 읽고 있는 행위를 구분하는 것은 어려운 일이다.
따라서, 이러한 두 가지 행위를 구분하여 스크롤이 정교하게 동작할 수 있도록 업/다운/레프트/라이트/정지 상태를 판단하는데 있어서 임계값만 사용하는 것이 아니라 미리 설정된 시간 또는 미리 설정된 수의 프레임들 동안 정지 상태를 유지할 수 있다.
또한, 후술하는 바와 같이, 업/다운/레프트/라이트 상태로 판단되는 조건이 미리 설정된 시간 또는 미리 설정된 수의 프레임들 동안 유지되는 경우에 최종적으로 업/다운/레프트/라이트 상태로 판단할 수도 있다.
도 32를 참조하면, 미리 설정된 시간 동안 정지 상태를 유지하는 경우에 있어서, 제어부(110)는 다운 상태(710)에서 정지 상태(712)로 변한 이후에 누적 위치 변화량 Ay를 계속 산출하지만, 정지 위치로부터 누적 위치 변화량 Ay가 업 임계값 TH_Aup인 10을 초과하더라도(714) 상태 변경을 하지 않는다. 즉, 제어부(110)는 정지 시간 St가 임계값 TH_S 이상이 될때까지 누적 위치 변화량 Ay가 임계값 TH_Aup 이상인지의 여부, 즉 상태 변경 여부를 판단하지 않고, 계속 정지 상태를 유지한다.
제어부(110)는 정지 시간 St가 임계값 TH_S에 도달한 경우에 S1450 단계를 수행하고, 정지 시간 St가 임계값 TH_S에 도달하지 못한 경우에 S1440 단계를 반복한다.
S1450 단계는 상태 변화 확인 단계로서, 제어부(110)는 관심 영역의 상태가 어느 조건을 만족하는지에 따라서 업 상태, 다운 상태 또는 정지 상태로 판단한다. 상기 St와 임계값 TH_S는 시간 단위뿐만 아니라 카메라가 일정 시간 동안 처리할 수 있는 프레임의 수로 정의할 수도 있다.
S1450 단계에서, 제어부(110)는 관심 영역의 상태가 제1 조건을 만족하는 경우에 관심 영역의 상태를 업 상태로 판단한다.
제1 조건은 Ay≥TH_Aup, FC_up≥TH_Fup일 수 있다. 프레임 카운트 FC_up은 누적 위치 변화량 Ay가 업 상태 임계값 TH_Aup 이상이고, 위치 변화량 Dy가 0 또는 미리 설정된 수치 범위 이내일 때 카운트된다.
S1470 단계에서, 제어부(110)는 관심 영역의 상태가 제2 조건을 만족하는 경우에 관심 영역의 상태를 다운 상태로 판단한다.
제2 조건은 Ay≤TH_Adown, FC_down≥TH_Fdown일 수 있다. 프레임 카운트 FC_down은 누적 위치 변화량 Ay가 TH_Aup 이하이고, 위치 변화량 Dy가 0보다 작거나 미리 설정된 수치 범위 이내일 때 카운트된다.
정지 시간이나 프레임 카운트를 이용함으로써, 예를 들어, 다운 상태에서 스크롤되는 상황에서 얼굴을 위로 올려 정지 상태로 변경하고, 컨텐츠의 내용을 읽기 위하여 화면의 상단 또는 화면의 하단을 바라보는 얼굴의 움직임에 의해서 의도하지 않은 스크롤이 발생하는 상황을 해결할 수 있다.
S1480 단계에서, 제어부(110)는 관심 영역의 상태가 제3 조건을 만족하는 경우에 관심 영역의 상태를 정지 상태로 판단한다. 제3 조건은 제1 및 제2 조건을 제외한 나머지 조건일 수 있다. 즉, 제어부(110)는 관심 영역의 상태가 제1 및 제2 조건을 모두 만족하지 않는 경우에 관심 영역의 상태를 정지 상태로 판단한다.
한편, 정지 임계값 TH_S 동안 정지 상태가 유지되도록 할 경우 항상 정지 상태에서는 일정 시간 동안 멈춰 있어야 하기 때문에, 업 스크롤과 다운 스크롤의 상태 변화가 자연스럽게 동작하지 못하는 경우가 발생한다. 이러한 문제를 해결하기 위하여 업 상태와 다운 상태가 부드럽게 스위칭(즉, 전환)될 수 있도록 누적 위치 변화량 Ay가 TH_Aup보다 큰 제2 업 상태 임계값 TH_Aup2 이상이거나, TH_Adown보다 작은 제2 다운 상태 임계값 TH_Adown2 이하일 때, 정지 시간 조건을 해제할 수 있다.
이러한 경우에 제1 조건은 Ay≥TH_Aup2, FC_up≥TH_Fup가 되고, 제2 조건은 Ay≤TH_Adown2, FC_down≥TH_Fdown가 될 수 있다.
제어부(110)는 정지 상태에서 업/다운 상태로의 변화를 판단하기 위하여 이전 상태 정보를 활용할 수 있다. 이전 상태 정보를 활용한 정지 상태에서 업/다운 상태로의 변화를 판단하기 위해서는 업 상태 → 정지 상태 → 업 상태, 다운 상태 → 정지 상태 → 다운 상태, 업 상태 → 정지 상태 → 다운 상태, 다운 상태 → 정지 상태 → 업 상태의 네 가지 경우를 고려할 수 있다.
제어부(110)는 업/다운 상태를 나타내는 이전 상태와 이전 상태의 누적 위치 변화량 Ay를 기준으로 현재의 상태를 판단하기 위한 임계값(TH_Aup, TH_Adown)을 동적으로 변환하여 사용할 수 있다.
동일한 방향으로 상태 변화(업 상태 → 정지 상태 → 업 상태, 다운 상태 → 정지 상태 → 다운 상태)가 이루어 지는 경우 얼굴의 움직임이 적기 때문에 관심 영역의 위치 변화량 Dy의 오차가 크게 발생하지 않는다. 따라서 동일한 방향의 상태 변화에서, 제어부(110)는 고정된 임계값을 사용할 수도 있고, 이전 상태의 누적 위치 변화량 Ay가 미리 하나 이상의 구간으로 나누어진 기준 구간 중에 어느 구간에 속하는지에 따라 현재 상태의 임계치(TH_Aup, TH_Adown)를 동적으로 할당할 수도 있다.
도 33은 동일한 방향으로의 상태 변화에 대한 다운 임계값의 동적 할당을 설명하기 위한 도면이다.
정지 임계값 TH_Stop, 초기 다운 임계값 TH_Adown은 각각 5, -10으로 설정된 것으로 가정한다.
도 33의 (a)를 참조하면, 제어부(110)는 관심 영역이 초기 위치에서 하측으로 10만큼 이동한 경우(810)에 다운 상태로 판단한다. 이후, 제어부(110)는 관심 영역이 다운 위치에서 상측으로 5를 초과하여 10만큼 이동한 경우(812)에 정지 상태로 판단한다. 이러한 경우, 제어부(110)는 다운 임계값 TH_Adown을 그대로 유지한다. 이후, 제어부(110)는 관심 영역이 정지 위치에서 하측으로 10만큼 이동한 경우(814)에 다운 상태로 판단한다.
도 33의 (b)를 참조하면, 제어부(110)는 관심 영역이 초기 위치에서 하측으로 10 이상 이동한 경우(820)에 다운 상태로 판단한다. 그러나 실제 다운 상태 판단 시점에 누적 이동 변화량은 하측으로 15만큼 이동이 있었다. 이런 경우에 다운 상태를 결정하는 임계값 TH_Adown을 기존의 -10보다 그 절대값이 작은 값 -5로 변경한다. 제어부(110)는 관심 영역이 다운 위치에서 상측으로 5를 초과하여 10만큼 이동(822)하여 정지 상태로 판단한 이후, 변화된 임계값 -5를 반영하여 관심 영역이 그만큼 아래로 이동하면, 즉, 하측으로 5만큼만 이동하면 다운 상태로 결정한다.. 즉, 제어부(110)는 이전 상태의 누적 위치 변화량의 절대값이 미리 설정된 임계값의 절대값보다 큰 경우에, 다음 업/다운 상태를 판단하기 위한 누적 위치 변화량의 임계값을 감소시킨다.
즉, 제어부(110)는 이전 상태의 누적 위치 변화량 Ay가 복수 분할된 구간들(예를 들어, 0~-10 및 -10~-15) 중 어느 구간에 속하는지에 따라 업/다운 임계값을 동적으로 변경한다.
이전 상태에서와 다른 방향으로 상태 변화가 이루어지는 경우는 얼굴의 움직임이 크기 때문에 관심 영역의 누적 위치 변화량 Dy의 오차가 크게 발생하여 고정된 임계값(TH_Aup, TH_Adown)을 사용할 경우 업/다운 상태를 판단할 때 일관되게 판단하기 힘든 상황이 발생한다. 예를 들면 고정된 임계값을 사용하여 업/다운 상태에 따라 화면을 스크롤링할 경우, 화면의 중앙을 바라보고 있을 때가 화면 정지 상태였다가 스크롤링을 지속적으로 수행하다 보면 기준 점이 이동하여 어느 순간에는 화면의 상단 또는 하단을 바라보고 있어야만 화면이 정지하는 상황이 발생한다. 따라서 기준점의 이동을 최소화 하기 위하여 이전 상태와 이전 상태의 누적 위치 변화량 Ay를 기준으로 현재의 업/다운 상태를 결정하는데 사용되는 임계값을 동적으로 변화시킬 수 있다.
도 34는 다른 방향으로의 상태 변화에 대한 다운 임계값의 동적 할당을 설명하기 위한 도면이다.
정지 임계값 TH_Stop, 초기 다운 임계값 TH_Adown은 각각 5, -10으로 설정된 것으로 가정한다.
제어부(110)는 관심 영역이 초기 위치에서 하측으로 10을 초과하여 20만큼 이동한 경우(830)에 다운 상태로 판단한다. 이후, 제어부(110)는 관심 영역이 다운 위치에서 상측으로 5를 초과하여 10만큼 이동한 경우(832)에 정지 상태로 판단한다. 이러한 경우, 제어부(110)는 업 임계값 TH_Aup을 10에서 20으로 변경한다. 즉, 제어부(110)는 이전 상태의 누적 위치 변화량의 절대값이 미리 설정된 임계값의 절대값보다 큰 경우에, 현재 상태에 대한 누적 위치 변화량의 임계값을 증가시킨다. 제어부(110)는 관심 영역이 정지 위치에서 상측으로 10을 초과하여 20만큼 이동한 경우(834)에 업 상태로 판단한다.
즉, 제어부(110)는 이전 상태의 누적 위치 변화량 Ay가 다수의 영역으로 나누어진 구간들 중 어느 구간에 속하는지에 따라 업/다운 임계값을 동적으로 변경한다.
전술한 예들에서, 화면을 표시하는 디스플레이 유닛의 대표적인 예로 터치 스크린을 예시하고 있으나, 터치 스크린 대신에 터치 감지 기능이 없는 액정표시장치(Liquid Crystal Display: LCD), 유기발광다이오드(Organic Light Emitting Diodes: OLED), LED 등과 같은 통상의 디스플레이 유닛을 사용할 수도 있다.
또한, 전술한 예들에서는, 여러 스크롤 모드들 중에서 하나를 선택하는 것을 예시하였으나, 본 발명에 따른 상황인지 기반의 화면 스크롤 방법은, 도 18 또는 도 23을 참고하여 설명한 바와 같이, 얼굴과 같은 등록된 피사체의 인식을 전제로(즉, 얼굴이 검출되는 상황을 인지하여) 모션 스크롤 모드를 바로 수행하는 경우 등을 포함한다.
전술한 예들에서는, 업/다운/레프트/라이트/정지 상태의 판단에 따라 스크롤을 제어하는 경우를 설명하였으나, 본 발명은 실행되는 프로그램에 따른 임의의 화면 또는 그래픽 사용자 인터페이스(GUI) 제어 방법에 적용될 수 있다. 예를 들면, 본 발명은 카메라 촬영 모드에서 업/다운/레프트/라이트/정지 상태에 따라 줌 인/아웃 명령을 수행하도록 적용될 수 있으며, 이미지 뷰어의 경우 줌 인/아웃, 좌/우 회전 명령을 수행하도록 적용될 수 있다. 또 다른 예로서, 본 발명은 비디오/오디오 플레이에 대해서 포워드/리워드, 볼륨 업/다운 명령을 수행하도록 적용될 수 있다. 또 다른 예로서, 본 발명은 카메라 촬영시 포커스를 맞추는 위치를 선택하기 위해서 화면에 포커스 위치를 알려 주는 아이콘을 상/하/좌/우로 이동시킬 수 있도록 적용될 수 있다.
본 발명의 실시 예들은 하드웨어, 소프트웨어 또는 하드웨어 및 소프트웨어의 조합의 형태로 실현 가능하다는 것을 알 수 있을 것이다. 이러한 임의의 소프트웨어는 예를 들어, 삭제 가능 또는 재기록 가능 여부와 상관없이, ROM 등의 저장 장치와 같은 휘발성 또는 비휘발성 저장 장치, 또는 예를 들어, RAM, 메모리 칩, 장치 또는 집적 회로와 같은 메모리, 또는 예를 들어 CD, DVD, 자기 디스크 또는 자기 테이프 등과 같은 광학 또는 자기적으로 기록 가능함과 동시에 기계(예를 들어, 컴퓨터)로 읽을 수 있는 저장 매체에 저장될 수 있다. 휴대 단말 내에 포함될 수 있는 저장부는 본 발명의 실시 예들을 구현하는 지시들을 포함하는 프로그램 또는 프로그램들을 저장하기에 적합한 기계로 읽을 수 있는 저장 매체의 한 예임을 알 수 있을 것이다. 따라서, 본 발명은 본 명세서의 임의의 청구항에 기재된 장치 또는 방법을 구현하기 위한 코드를 포함하는 프로그램 및 이러한 프로그램을 저장하는 기계로 읽을 수 있는 저장 매체를 포함한다. 또한, 이러한 프로그램은 유선 또는 무선 연결을 통해 전달되는 통신 신호와 같은 임의의 매체를 통해 전자적으로 이송될 수 있고, 본 발명은 이와 균등한 것을 적절하게 포함한다.
또한, 상기 휴대 단말은 유선 또는 무선으로 연결되는 프로그램 제공 장치로부터 상기 프로그램을 수신하여 저장할 수 있다. 상기 프로그램 제공 장치는 상기 휴대 단말이 기설정된 상황인지 기반의 화면 스크롤 방법을 수행하도록 하는 지시들을 포함하는 프로그램, 상황인지 기반의 화면 스크롤 방법에 필요한 정보 등을 저장하기 위한 메모리와, 상기 휴대 단말과의 유선 또는 무선 통신을 수행하기 위한 통신부와, 상기 휴대 단말의 요청 또는 자동으로 해당 프로그램을 상기 휴대 단말로 전송하는 제어부를 포함할 수 있다.
상술한 본 발명의 설명에서는 구체적인 실시 예에 관해 설명하였으나, 여러 가지 변형이 본 발명의 범위에서 벗어나지 않고 실시할 수 있다. 따라서 본 발명의 범위는 설명된 실시 예에 의하여 정할 것이 아니고 특허청구범위와 특허청구범위의 균등한 것에 의해 정해져야 한다.
100: 단말, 110: 제어부, 120: 통신 모듈, 130: 서브 통신 모듈, 140: 멀티미디어 모듈, 150: 카메라 모듈, 157: GPS 모듈, 160: 입/출력 모듈, 168: 입력 유닛, 170; 센서 모듈, 175: 저장부, 180: 전원 공급부, 190: 터치스크린, 195: 터치스크린 컨트롤러

Claims (36)

  1. 상황인지 기반의 화면 스크롤 방법에 있어서,
    단말의 주변 조도를 포함하는 주변 상황에 대한 정보를 검출하는 단계와;
    상기 단말의 모션 센서를 통하여 상기 단말의 움직임이 감지되는지 여부를 판단하는 단계와;
    상기 단말의 상기 주변 조도를 포함하는 상기 주변 상황 및 상기 단말의 움직임이 감지되는지 여부에 기반하여 화면 스크롤 모드를 설정하는 단계와;
    상기 설정된 화면 스크롤 모드에 따른 이벤트 발생을 검출하는 단계와;
    상기 발생된 이벤트에 따라 화면 스크롤을 실행하는 단계를 포함함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  2. 제1항에 있어서, 상기 화면 스크롤 모드는,
    카메라 모듈을 이용한 비전 스크롤 모드, 센서 모듈을 이용한 모션 스크롤 모드 및 입/출력 모듈을 이용한 음성 스크롤 모드 중의 하나임을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  3. 제1항에 있어서, 상기 화면 스크롤 모드는,
    스크롤 업, 스크롤 다운, 스크롤 라이트 및 스크롤 레프트 중의 하나임을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  4. 제1항에 있어서, 주변 상황에 대한 정보를 검출하는 단계는,
    상기 단말의 상기 주변 조도가 임계 값 이상인지의 여부를 판단하는 단계를 포함함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  5. 삭제
  6. 제2항에 있어서, 상기 단말의 움직임이 감지되지 않는 경우에 상기 비전 스크롤 모드를 설정하고,
    상기 단말의 움직임이 감지되는 경우에 상기 모션 스크롤 모드를 설정함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  7. 제2항에 있어서, 상기 단말의 주변 조도가 임계 값 이상인 경우에 상기 비전 스크롤 모드를 설정하고,
    상기 단말의 주변 조도가 임계 값 미만인 경우에 상기 모션 스크롤 모드를 설정함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  8. 제2항에 있어서, 상기 단말의 움직임이 감지되지 않고 주변 조도가 임계 값 이상인 경우에 상기 비전 스크롤 모드를 설정하고,
    상기 단말의 주변 조도가 임계 값 미만인 경우에 상기 모션 스크롤 모드를 설정함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  9. 제1항에 있어서, 상기 이벤트 발생을 검출하는 단계는,
    카메라 모듈에 의해 촬영된 이미지에 미리 등록된 피사체가 검출되는지의 여부를 판단하는 단계와;
    연속 촬영된 이미지들에서 상기 검출된 피사체의 위치 변화량이 미리 설정된 임계 값을 초과하는지의 여부를 판단하는 단계를 포함함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  10. 제9항에 있어서,
    상기 등록된 피사체는 얼굴임을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  11. 제1항에 있어서, 상기 이벤트 발생을 검출하는 단계는,
    카메라 모듈에 의해 촬영된 이미지에 미리 등록된 피사체가 검출되는지의 여부를 판단하는 단계와;
    상기 단말의 위치 변화량 또는 각도 변화량이 미리 설정된 임계 값을 초과하는지의 여부를 판단하는 단계를 포함함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  12. 제11항에 있어서,
    상기 단말이 위치 변화되기 이전의 초기 위치 또는 초기 각 위치의 방향으로 이동 또는 기울어진 경우에 화면 스크롤을 중지하는 단계를 더 포함함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  13. 제1항에 있어서, 상기 이벤트 발생을 검출하는 단계는,
    이미지 내 얼굴을 검출하는 단계와;
    상기 검출된 얼굴에서 코를 포함하는 관심 영역을 검출하는 단계와;
    상기 관심 영역의 움직임 방향에 따른 상기 관심 영역의 이동 상태를 검출하는 단계를 포함하고,
    상기 관심 영역의 이동 상태에 따라 화면 스크롤을 실행함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  14. 제13항에 있어서,
    상기 이미지는 ISP(image signal processor)에 의해 처리되지 않은 이미지임을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  15. 제14항에 있어서,
    상기 이미지는 다운 샘플링된 단색 또는 그레이 스케일 이미지임을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  16. 제13항에 있어서,
    상기 이미지 내 얼굴이 화면의 미리 설정된 영역 내에 위치하는지의 여부를 판단하는 단계와;
    상기 이미지 내 얼굴이 화면의 상기 미리 설정된 영역 내에 위치하지 않는 경우에 안내 정보를 출력하는 단계를 더 포함함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  17. 제16항에 있어서,
    상기 미리 설정된 영역의 중심은 화면 중심으로부터 카메라로부터 먼 방향으로 이격되어 있음을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  18. 제13항에 있어서,
    상기 관심 영역이 정지 상태인 경우에 미리 설정된 시간 또는 미리 설정된 이미지 프레임 수 동안 상기 정지 상태를 유지함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  19. 제13항에 있어서,
    상기 관심 영역이 이동한 후 미리 설정된 시간 또는 미리 설정된 이미지 프레임 수 동안 정지하고 있는 경우에 상기 관심 영역의 이동 상태를 판단함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  20. 제13항에 있어서,
    미리 설정된 시간 또는 미리 설정된 이미지 프레임 수 동안 상기 관심 영역의 정지 상태를 유지한 이후, 상기 관심 영역이 이동하여 미리 설정된 시간 또는 미리 설정된 이미지 프레임 수 동안 정지하고 있는 경우에 상기 관심 영역의 이동 상태를 판단함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  21. 제13항에 있어서,
    상기 관심 영역의 현재 이동 상태를 판단하기 위한 임계값은 이전 이동 상태에서의 상기 관심 영역의 위치 변화량에 따라 동적으로 변경됨을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  22. 제21항에 있어서,
    미리 설정된 위치 변화량 구간들 중 상기 이전 이동 상태에서의 상기 관심 영역의 위치 변화량이 속하는 구간에 따라 상기 관심 영역의 현재 이동 상태를 판단하기 위한 임계값을 결정함을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  23. 제21항에 있어서,
    상기 현재 이동 상태와 상기 이전 이동 상태는 서로 반대 방향임을 특징으로 하는 상황인지 기반의 화면 스크롤 방법.
  24. 제1항 내지 제4항과 제6항 내지 제23항 중 어느 한 항에 따른 상황인지 기반의 화면 스크롤 방법을 실행하기 위한 프로그램을 기록한 기계로 읽을 수 있는 저장 매체.
  25. 삭제
  26. 상황인지 기반의 화면 스크롤을 제공하는 단말에 있어서,
    모션 센서를 포함하는 센서 모듈과;
    화면을 제공하는 디스플레이 유닛과;
    상기 단말의 주변 조도를 포함하는 주변 상황에 대한 정보를 검출하고, 상기 모션 센서를 통하여 상기 단말의 움직임이 감지되는지 여부를 판단하고, 상기 단말의 상기 주변 조도를 포함하는 상기 주변 상황 및 상기 단말의 움직임이 감지되는지 여부에 기반하여 화면 스크롤 모드를 설정하고, 상기 설정된 화면 스크롤 모드에 따른 이벤트 발생을 검출하고, 상기 발생된 이벤트에 따라 화면 스크롤을 수행하는 제어부를 포함함을 특징으로 하는 상황인지 기반의 화면 스크롤을 제공하는 단말.
  27. 제26항에 있어서,
    촬영된 이미지를 출력하는 카메라 모듈을 더 포함하고,
    상기 제어부는 상기 촬영된 이미지에 등록된 피사체가 검출된 경우에만 화면 스크롤을 수행함을 특징으로 하는 상황인지 기반의 화면 스크롤을 제공하는 단말.
  28. 제27항에 있어서,
    상기 제어부는 상기 카메라 모듈에 의해 연속 촬영된 이미지들에서 상기 검출된 피사체의 위치 변화량이 미리 설정된 임계 값을 초과하는지의 여부를 판단함을 특징으로 하는 상황인지 기반의 화면 스크롤을 제공하는 단말.
  29. 제27항에 있어서,
    상기 제어부는 상기 센서 모듈을 통하여 상기 단말의 위치 또는 각도 변화를 검출하고,
    상기 제어부는 상기 단말의 위치 변화량 또는 각도 변화량이 미리 설정된 임계 값을 초과하는지의 여부를 판단함을 특징으로 하는 상황인지 기반의 화면 스크롤을 제공하는 단말.
  30. 제27항에 있어서,
    상기 등록된 피사체는 얼굴임을 특징으로 하는 상황인지 기반의 화면 스크롤을 제공하는 단말.
  31. 제29항에 있어서,
    사용자의 음성을 검출하는 입/출력 모듈을 더 포함하고,
    상기 화면 스크롤 모드는,
    상기 카메라 모듈을 이용한 비전 스크롤 모드, 상기 센서 모듈을 이용한 모션 스크롤 모드 및 상기 입/출력 모듈을 이용한 음성 스크롤 모드 중의 하나임을 특징으로 하는 상황인지 기반의 화면 스크롤을 제공하는 단말.
  32. 삭제
  33. 삭제
  34. 삭제
  35. 삭제
  36. 삭제
KR1020130070924A 2013-02-22 2013-06-20 상황인지 기반의 화면 스크롤 방법, 저장 매체 및 단말 KR102186103B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US14/180,947 US9842571B2 (en) 2013-02-22 2014-02-14 Context awareness-based screen scroll method, machine-readable storage medium and terminal therefor
AU2014200924A AU2014200924B2 (en) 2013-02-22 2014-02-21 Context awareness-based screen scroll method, machine-readable storage medium and terminal therefor
CN201410060335.2A CN104007908B (zh) 2013-02-22 2014-02-21 基于情境感知的屏幕滚动方法及其终端
EP14156194.4A EP2770416B1 (en) 2013-02-22 2014-02-21 Context awareness-based screen scroll method, machine-readable storage medium and terminal therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20130019486 2013-02-22
KR1020130019486 2013-02-22

Publications (2)

Publication Number Publication Date
KR20140105352A KR20140105352A (ko) 2014-09-01
KR102186103B1 true KR102186103B1 (ko) 2020-12-03

Family

ID=51754377

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130070924A KR102186103B1 (ko) 2013-02-22 2013-06-20 상황인지 기반의 화면 스크롤 방법, 저장 매체 및 단말

Country Status (1)

Country Link
KR (1) KR102186103B1 (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102157224B1 (ko) * 2014-11-03 2020-09-17 삼성전자주식회사 사용자 단말 장치, 제어 방법 및 컨텐츠 제공 시스템
KR102308968B1 (ko) 2015-03-02 2021-10-05 김성일 화면을 제어하는 방법, 저장 매체 및 이동 단말
KR102516590B1 (ko) * 2016-01-29 2023-04-03 삼성전자주식회사 전자 장치 및 전자 장치에서 디스플레이의 변형에 따라 기능을 실행하기 위한 방법

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030210255A1 (en) 2002-03-26 2003-11-13 Sony Corporation Image display processing apparatus, image display processing method, and computer program
JP2005275935A (ja) 2004-03-25 2005-10-06 Omron Corp 端末装置
US20060001647A1 (en) * 2004-04-21 2006-01-05 David Carroll Hand-held display device and method of controlling displayed content
US20090271734A1 (en) 2008-04-25 2009-10-29 Hung-Young Hsu Display method and device thereof
US20120256967A1 (en) 2011-04-08 2012-10-11 Baldwin Leo B Gaze-based content display
US20120302288A1 (en) 2011-05-23 2012-11-29 Joe Born Cellular Telephone Docking Interface

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030210255A1 (en) 2002-03-26 2003-11-13 Sony Corporation Image display processing apparatus, image display processing method, and computer program
JP2005275935A (ja) 2004-03-25 2005-10-06 Omron Corp 端末装置
US20060001647A1 (en) * 2004-04-21 2006-01-05 David Carroll Hand-held display device and method of controlling displayed content
US20090271734A1 (en) 2008-04-25 2009-10-29 Hung-Young Hsu Display method and device thereof
US20120256967A1 (en) 2011-04-08 2012-10-11 Baldwin Leo B Gaze-based content display
US20120302288A1 (en) 2011-05-23 2012-11-29 Joe Born Cellular Telephone Docking Interface

Also Published As

Publication number Publication date
KR20140105352A (ko) 2014-09-01

Similar Documents

Publication Publication Date Title
EP2770416B1 (en) Context awareness-based screen scroll method, machine-readable storage medium and terminal therefor
US10401964B2 (en) Mobile terminal and method for controlling haptic feedback
KR102146244B1 (ko) 휴대 단말에 대한 동작 관련 입력에 따라 복수개의 객체들의 표시를 제어하는 방법 및 이를 위한 휴대 단말
US9582168B2 (en) Apparatus, method and computer readable recording medium for displaying thumbnail image of panoramic photo
KR102020636B1 (ko) 카메라에 기반한 전자 장치의 제어 방법, 저장 매체 및 전자 장치
US9977497B2 (en) Method for providing haptic effect set by a user in a portable terminal, machine-readable storage medium, and portable terminal
KR102129374B1 (ko) 사용자 인터페이스 제공 방법 및 기계로 읽을 수 있는 저장 매체 및 휴대 단말
KR102028952B1 (ko) 휴대 단말에 의해 촬영된 이미지들을 합성하는 방법, 기계로 읽을 수 있는 저장 매체 및 휴대 단말
EP2811420A2 (en) Method for quickly executing application on lock screen in mobile device, and mobile device therefor
EP3104265B1 (en) Portable device and method of changing screen of portable device
US20160004416A1 (en) Mobile terminal for controlling icons displayed on touch screen and method therefor
KR102156729B1 (ko) 전자 장치의 화면 배율을 조정하는 방법, 전자 장치 저장 매체 및 전자 장치
US12015732B2 (en) Device, method, and graphical user interface for updating a background for home and wake screen user interfaces
US9658762B2 (en) Mobile terminal and method for controlling display of object on touch screen
EP2824905B1 (en) Group recording method, machine-readable storage medium, and electronic device
KR20140111497A (ko) 터치 스크린의 화면에 표시된 아이템을 삭제하는 방법, 저장 매체 및 휴대 단말
KR20140104806A (ko) 복수의 카메라를 구비한 휴대 단말에서 유효한 영상들을 합성하기 위한 방법 및 이를 위한 휴대 단말
US10331340B2 (en) Device and method for receiving character input through the same
KR102118091B1 (ko) 오브젝트에 대한 사전 실행 기능을 가지는 모바일 장치 및 그 제어방법
KR102186103B1 (ko) 상황인지 기반의 화면 스크롤 방법, 저장 매체 및 단말
KR20150008963A (ko) 스크린을 제어하는 휴대 단말 및 방법
KR20140092106A (ko) 터치 스크린 상의 사용자 입력을 처리하는 방법 및 단말과 저장 매체
WO2024103348A1 (en) Electronic device, method of controlling electronic device, and computer readable storage medium
US20150062365A1 (en) Method for capturing image and electronic device thereof
KR20150012544A (ko) 전자 장치의 방향 기능 입력 장치, 방법 및 컴퓨터 판독 가능한 기록 매체

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right