KR101600085B1 - 이동 단말기 및 이미지 정보 인식 방법 - Google Patents

Abstract

본 발명의 이동 단말기를 이용한 이미지 정보 인식 방법은, 이미지를 촬영하는 단계; 촬영된 이미지에서 텍스트를 추출하는 단계; 추출된 텍스트를 음성 또는 시인이 용이한 이미지로 변환하는 단계; 및 상기 변환된 정보를 사용자에게 출력하는 단계를 포함한다.

이동 단말기, 정보 인식, 카메라 모듈, 패턴 분석

Description

이동 단말기 및 이미지 정보 인식 방법{MOBILE TERMINAL AND RECOGNITION METHOD OF IMAGE INFORMATION}

본 발명은 이동 단말기에 관한 것으로, 특히, 카메라 모듈을 이용하여 텍스트를 독출하는 이미지 정보 인식 서비스를 제공하는 이동 단말기에 관한 것이다.

이동통신 단말기의 기능이 점점 다양화 되면서 이동통신 단말기는 단순한 전화통화를 위한 장치에서 각종 데이터 통신을 이용한 멀티미디어 장치로 변화하고 있다. 이러한 기능들을 제공하기 위해서 이동통신 단말기는 정밀하고 성능이 좋은 표시부와 방대한 메모리는 물론이고 고성능 연산기를 구비하고 있으며, 멀티미디어 영상을 획득하기 위한 카메라까지 내장되고 있다.

현재 제공되는 카메라 기능은 100만대 화소급이 일반화 된지 오래이고, 전용 디지털 카메라와 거의 동일한 화소급의 카메라를 장착한 제품이 출시되고 있다. 이러한 해상도의 향상 외에도 카메라의 성능을 개선하기위한 디지털 줌 기능이 이미 내장되어 있으며, 현재 개발중인 제품에는 8배의 디지털 줌과 8배의 광학 줌을 채 택한 것도 있어, 실제 육안보다 훨씬 뛰어난 시야를 확보할 수도 있다.

상기와 같은 카메라 기능의 급속한 발전에 힘입어 카메라를 이용한 다양한 응용 기능이 속속 추가되고 있는데, 사진을 찍어 이를 특수 처리하거나 2차원 바코드를 판독하도록 하는 등의 기능이 이미 구현되어 있다.

한편, 최근 사회는 점점 고령화사회로 가고 있다. 이는 의학의 발달 및 생활수준과 환경의 발전으로 인해 평균수명이 높아짐에 따라 발생하는 사회적 현상이다. 따라서 젊은 층을 겨냥한 최신 기능만을 담은 휴대폰뿐이 아니라 노인들에게 사용의 편리를 제공하고자 하는 실버폰과 같은 휴대폰이 등장하고 있다.

최근의 휴대폰 카메라를 사용하여 촬영된 이미지를 통한 기능으로는 명함인식, 영어인식, 얼굴인식 등 촬영된 이미지에서 텍스트 지정하면 이를 사전과 직접 연결하여 정보를 제공해주는 서비스가 상용화되어 있다. 하지만 이는 젊은층을 겨냥한 기능으로서 실질적으로 노인들에게는 많은 도움을 주지 못한다. 노인층을 위해 제안된 기술로는, 노안으로 시력이 좋지 않은 노인층을 위해, 접사 모드로 책 등을 촬영하여 확대된 이미지로 제공하는 이동 단말기를 이용한 일종의 돋보기 기능이 제안되어 있을 뿐이다.

그런데, 노인들은 시력이 좋지 않을 뿐만 아니라, 급격한 사회/문화적 변화에 따라 도래한 다양한 표현들을 이해하는데 어려움을 겪는다. 예컨대, 카페나 의류 매장 등의 상호는 영어 뿐만 아니라 프랑스어, 이탈리아어 등 다양한 방식으로 발음되며, 상점의 간판에는 다양하게 꾸밈이 된 서체로 상호들이 표기되는데, 이것 들을 노인들은 이해하기 어려웠다.

상기 문제점을 해결하기 위한 본 발명의 목적은, 사용자가 카메라를 이용한 정보 획득이 용이한 이동 단말기 또는 이미지 정보 인식 방법을 제공하는데 있다.

본 발명의 다른 목적은, 사용자가 다양한 텍스트 표현을 이해할 수 있도록 하는 이동 단말기 또는 이미지 정보 인식 방법을 제공하는데 있다.

본 발명의 또 다른 목적은, 시력 장애 노인을 위한 시력적 보조 수단으로서의 기능을 수행하는 이동 단말기를 제공하는데 있다.

본 발명의 다른 목적은 외국업체에 대한 지식이 부족한 노인들에게 외국업체에 대한 정보 제공 기능을 수행하는 이동 단말기를 제공하는데 있다.

상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른 이동 단말기를 이용한 이미지 정보 인식 방법은, 이미지를 촬영하는 단계; 촬영된 이미지에서 텍스트를 추출하는 단계; 추출된 텍스트를 음성 또는 시인이 용이한 이미지로 변환하는 단계; 및 상기 변환된 정보를 사용자에게 출력하는 단계를 포함한다.

상기 목적을 달성하기 위한 본 발명의 다른 실시예에 따른 이동 단말기는, 이미지를 촬영하기 위한 카메라 모듈; 이미지를 출력하기 위한 디스플레이부; 오디오를 출력하기 위한 음향 출력 모듈; 및 상기 카메라 모듈이 촬영한 이미지에서 텍스트를 추출하고, 추출된 텍스트를 음성 또는 시인이 용이한 이미지로 변환하여, 사용자에게 출력하는 제어부를 포함한다.

상기 구성에 따른 본 발명의 이동 단말기 또는 이를 이용한 이미지 정보 인식 방법을 실시하면, 사용자가 카메라를 이용하여 용이하게 이미지 정보를 획득할 수 있는 이점이 있다.

또는, 본 발명의 이동 단말기 또는 이를 이용한 이미지 정보 인식 방법은, 사용자가 다양한 텍스트 표현을 이해할 수 있게 하는 이점이 있다.

또는, 본 발명의 이동 단말기는, 시력 장애 노인을 위한 시력적 보조 수단으로서의 기능을 수행하는 이점이 있다.

또는, 본 발명의 이동 단말기는, 외국업체에 대한 지식이 부족한 노인들에게 외국업체에 대한 정보를 제공하는 이점이 있다.

이하, 본 발명과 관련된 이동 단말기에 대하여 도면을 참조하여 보다 상세하게 설명한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도(block diagram)이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있 다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치(dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여 부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바 디의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

도 1을 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근 접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호 를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성 태양에 따라 2개 이 상이 구비될 수 있다.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller, 180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

이하, 도 1의 구성요소들 중 본 발명의 사상의 구현에 관련된 것들을 설명하겠다.

도 1의 제어부(180)는, 본 발명의 사상에 따른 이미지 정보 인식 방법을 수행한다. 즉, 상기 제어부(180)는, 상기 카메라 모듈(121)이 촬영한 이미지에서 텍스트를 추출하고, 추출된 텍스트를 음성 및/또는 시인이 용이한 이미지로 변환하여, 디스플레이부(151) 및/또는 음향 출력 모듈(152)을 통해 사용자에게 출력할 수 있다. 또한, 상기 음향 출력 모듈(152)을 통한 출력을 위해, 상기 제어부(180)는 TTS(Text-to-Speech) 변환을 수행할 수 있다. 또한, 상기 시인이 용이한 이미지로 출력하기 위해, 상기 제어부(180)는, 상기 추출된 텍스트를 미리 설정된 폰트의 텍스트 이미지로 변환하여 상기 디스플레이부에 출력할 수 있다.

또한, 상기 제어부(180)는, 상기 사용자 입력부(130)가 상기 추출된 텍스트에 대한 상세 정보 요청을 접수하면, 상기 무선 인터넷 모듈(113) 등을 통해 외부 서버에 접속하여, 상기 추출된 텍스트에 대한 상세 정보를 획득하고, 상기 획득한 상세 정보를 상기 디스플레이부(151)에 출력할 수 있다. 또는, 상기 제어부(180)는 메모리(180)에 구비된 DB로부터 상기 상세 정보를 검색할 수 있다.

또한, 상기 제어부(180)는, 상기 촬영된 이미지에서 텍스트가 존재하는 적어도 2개의 영역들을 구분하여 디스플레이하고, 상기 사용자 입력부(130)의 입력에 따라 상기 구분된 영역들 중 하나를 선택하고, 선택된 영역에 포함된 텍스트를 추출할 수 있다.

도 2는 본 발명의 일 실시예에 따른 이동 단말기를 이용한 이미지 정보 인식 방법을 도시한다.

도시한 정보 인식 방법은, 이미지를 촬영하는 단계(S120); 촬영된 이미지에서 텍스트를 추출하는 단계(S140); 추출된 텍스트를 음성 또는 시인이 용이한 이미지로 변환하는 단계(S150); 상기 변환된 정보를 사용자에게 출력하는 단계(S160); 사용자로부터 상기 추출된 텍스트에 대한 상세 정보 요청을 접수하는 단계(S170); 상기 추출된 텍스트에 대한 상세 정보를 획득하는 단계(S180); 및 상기 획득한 상세 정보를 사용자에게 출력하는 단계(S190)를 포함할 수 있다.

상기 S120 단계는 이동 단말기에 구비된 카메라 모듈을 이용하여 수행될 수 있다. 본 발명의 설명에서 사용되는 용어 '촬영'은 카메라 모듈의 셔터를 작동시켜 정지 영상 또는 동영상을 얻는 행위 뿐만 아니라, 정지 영상 촬영을 위한 프리뷰 화면의 출력을 포함하는 개념임을 밝혀둔다.

여기서, 상기 추출된 텍스트에 대한 상세 정보를 획득하는 단계(S180)는, 상기 이동 단말기의 무선 통신망을 통해 외부 서버에 접속하여 상기 추출된 텍스트에 대한 상세 정보를 요청하는 단계; 및 상기 외부 서버로부터 전송받은 상세 정보를 출력하는 단계를 포함할 수 있다. 상기 상세 정보로는, 예컨대, 상호명의 경우 해당 업체에 대한 설명이 될 수 있으며, 상표면의 경우 해당 제품에 대한 설명이 될 수 있다.

상기 추출된 텍스트를 변환하는 단계에서는, 텍스트를 음성으로 TTS(Text-to-Speech) 변환하거나, 노인들도 인식이 용이한 평범한 폰트(미리 설정할 수 있다)의 텍스트 이미지로 변환할 수 있다.

상기 S140 단계는, 상기 촬영된 이미지에서 텍스트가 존재하는 영역을 확정하는 단계; 및 상기 확정된 영역에 포함된 텍스트를 추출하는 단계를 포함할 수 있다.

그런데, 촬영된 이미지에는 텍스트 뿐만 아니라, 텍스트와 무관한 이미지들도 포함될 수 있으며, 2개 이상의 텍스트들이 서로 떨어진 영역에 포함될 수 있다. 이러한 경우에, 상기 촬영된 이미지에서 텍스트가 존재하는 영역을 확정하는 구체적인 방법으로서, 예컨대 다음 2가지 방안들 중 하나를 적용할 수 있다.

첫째 방안에서는, 상기 촬영된 이미지에서 사용자가 지적한 지점의 한 문자에 대한 텍스트를 추출하는 단계; 상기 추출된 한 문자에 대한 텍스트를 사용자에게 출력하고, 연관된 단어 추출 여부를 문의하는 단계; 및 상기 촬영된 이미지 중 상기 지적된 지점 근방 영역에 포함된 단어의 텍스트를 추출하는 단계를 수행한다.

특히, 노인 사용자의 경우 사용자가 지적 행위를 하나의 문자에 대하여 해석하는 것이 오해석의 가능성을 낮출 수 있기 때문에, 상기와 같이 먼저 한 문자에 대한 텍스트를 추출한다. 상기 한 문자에 대한 텍스트를 추출하는데에는, 영상처리분야의 다양한 공지된 패턴 인식 알고리즘들 중 하나를 적용할 수 있다.

다른 구현에서는, 상기 연관된 단어 추출 여부를 문의하는 단계는 생략될 수 있다. 이는 한 글자 보다는 단어를 검색하려는 빈도가 더 높은 것을 감안한 것이다. 상기 지적된 지점 근방 영역에 포함된 단어의 텍스트를 추출하는데에는, 영상처리분야의 다양한 공지된 패턴 인식 알고리즘들 중 하나를 적용할 수 있다.

둘째 방안에서는, 상기 촬영된 이미지에서 텍스트가 존재하는 적어도 2개의 영역들을 구분하는 단계; 및 사용자로부터 상기 구분된 영역들 중 하나를 선택받는 단계를 수행한다.

둘째 방안은 특히, 넓은 면적의 터치 스크린형 디스플레이부를 구비한 이동 단말기에서 유용하다.

상기 텍스트가 존재하는 적어도 2개의 영역들을 구분하는 단계는, 이동 단말기가 영상처리분야의 다양한 공지된 패턴 인식 알고리즘들 중 하나를 이용하여, 텍스트가 존재하는 영역들을 판단하고, 판단된 영역을 구분하여 디스플레이한다. 예컨대, 상기 영역들의 테두리를 점선으로 표시할 수 있다. 상기 사용자로부터 상기 구분된 영역들 중 하나를 선택받는 단계는, 상기 구분된 텍스트가 존재하는 영역들 중 하나에 대한 터치 동작(터치스크린을 이용함)이나, 네비게이션 키를 이용한 커서의 이동 및 확인 키 입력 동작으로 수행될 수 있다.

다른 구현의 상기 S140 단계에서는, 상기 텍스트가 존재하는 영역(또는 이들 중 선택된 영역)의 이미지와 근사한 이미지를, 별도의 이미지 DB에 저장된 이미지들 중에서 검색하여, 검색된 이미지에 기재된 텍스트를 획득하는 방식으로, 텍스트를 추출할 수 있다. 이는 장식이 매우 심한 상표 등의 경우, 일반적인 문자인식 알 고리즘으로 텍스트 추출이 불가능한 바, 직접 이미지를 비교하는 방식으로 텍스트를 추출하기 위한 것이다. 이 경우, 상기 텍스트가 존재하는 영역에 대하여 우선 일반적인 문자인식 알고리즘으로 텍스트 추출을 시도해 보고, 텍스트가 추출되지 않으면, 이미지 DB와의 비교를 수행할 수 있다. 또한, 상기 이미지 DB는 별도의 외부 서버에 구비되거나, 이동 단말기 내 메모리에 구비될 수 있다.

도 3a 내지 3f는 상기 첫째 방안에 따라 이동 단말기를 이용한 이미지 정보 인식 과정을 도시한 디스플레이 화면들이다.

도 3a의 이동 단말기는 하나의 상점을 촬영하여 디스플레이 하고 있으며, 사용자가 터치 스크린을 이용하여, 촬영된 이미지에서 하나의 문자 영역(도면에서는 '츠')을 터치하고 있다. 다음 이동 단말기는 터치한 지점의 한 글자를 인식하고, 인식한 결과인 한 글자를 도 3b와 같이 디스플레이하면서, 음성으로 출력한다.

상기 이동 단말기는, 도 3b의 동작과 연속으로, 도 3a에서 터치한 지점 근방 영역과 연관된 단어를 관찰할 것인지에 대한 문의를 도 3c와 같이 디스플레이한다. 이후, 사용자가 연관된 단어의 관찰을 지시하면, 상기 이동 단말기는, 도 3a의 촬영된 이미지에서 사용자가 터치한 지점 근방을 이미지 패턴 분석하여 획득한 단어를 도 3d와 같이 디스플레이하고, 음성으로 출력한다.

상기 이동 단말기는, 도 3d의 동작과 연속으로, 상기 획득한 단어에 대한 상세 정보가 존재하는지를 알아보고, 상기 획득한 단어에 대한 상세 정보를 관찰할 것인지에 대한 문의를 도 3e와 같이 디스플레이한다. 이후, 사용자가 상세 정보의 관찰을 지시하면, 상기 이동 단말기는, 상기 획득한 단어에 대한 상세 정보를 획득하여, 도 3f와 같이 디스플레이한다. 이때, 상세 정보 내용 중 텍스트 내용을 TTS 변환하여 음성으로 출력할 수 있다.

상기 상세 정보를 획득하는 것은, 이동 단말기의 내부 메모리에 저장된 DB로부터 획득하거나, 무선 통신망을 통해 외부의 서버에 문의하여 획득할 수 있다.

도 4a 내지 4d는 상기 둘째 방안에 따라 에 따라 이동 단말기를 이용한 이미지 정보 인식 과정을 도시한 디스플레이 화면들이다.

도 4a의 이동 단말기는 2개의 상점을 촬영하여 디스플레이하고 있으며, 이후, 도 4b에서 이동 단말기는 상기 도 4a에서 촬영된 이미지 중에서 텍스트가 존재하는 영역들을 인식하고, 텍스트가 존재하는 영역들의 경계를 점선으로 표시하여 사용자에게 알려준다. 이후, 사용자가 점선으로 표시된 2 영영들 중 하나를 터치하면, 터치된 영역을 텍스트를 추출할 영역으로 선택하고, 도 4c에 도시한 바와 같이, 선택된 영역을 확대하여 디스플레이한다.

다음, 터치된 영역에 대하여 텍스트틀 추출하는데, 우선 일반적인 문자인식 알고리즘으로 텍스트 추출을 시도해 보고, 텍스트가 추출되지 않으면, 이미지 DB와의 비교를 수행할 수 있다.

이후, 선택된 영역에 포함된 텍스트를 도 4d와 같이 시인이 용이한 폰트의 텍스트로 변환하여 디스플레이한다. 그런데, 도 4d의 경우, 텍스트의 알파벳 표기 뿐만 아니라 한글로 기재된 발음 및 단어의 종류를 함께 디스플레이하였다. 이는 노인층은 외국어의 발음이 익숙치 않기 때문에 이를 한글로 표시한 것이다. 특히, 외국 상표의 경우, 프랑스어, 이탈리아어 발음 규칙에 따르는 경우가 있는데, 이러한 상황에서도 도 4d와 같은 표시는 유용하다.

이후, 도 3e 및 3f와 유사한 과정을 통해, 추출한 텍스트 단어에 대한 상세 정보를 디스플레이할 수 있다.

상기한 실시예는 그 설명을 위한 것이며, 그 제한을 위한 것이 아님을 주의하여야 한다. 또한, 본 발명의 기술분야의 통상의 전문가라면 본 발명의 기술사상의 범위에서 다양한 실시예가 가능함을 이해할 수 있을 것이다.

도 1은 본 발명의 일 실시예와 관련된 이동 단말기의 블록 구성도.

도 2는 본 발명의 일 실시예와 관련된 이동 단말기의 이미지 정보 인식 방법을 도시한 흐름도.

도 3a 내지 3f는 본 발명의 일 실시예에 따라 이동 단말기를 이용한 이미지 정보 인식 과정을 도시한 디스플레이 화면들.

도 4a 내지 4d는 본 발명의 다른 실시예에 따라 이동 단말기를 이용한 이미지 정보 인식 과정을 도시한 디스플레이 화면들.

Claims (12)

1. 이미지를 촬영하는 단계;

   촬영된 이미지에서 텍스트를 추출하는 단계;

   추출된 텍스트를 음성 또는 시인이 용이한 이미지로 변환하는 단계; 및

   상기 변환된 정보를 사용자에게 출력하는 단계

   를 포함하고,

   상기 촬영된 이미지에서 텍스트를 추출하는 단계는,

   문자인식 알고리즘으로 상기 텍스트의 추출이 불가능한 경우, 별도의 이미지DB에 저장된 복수의 이미지들 중에서 상기 촬영된 이미지와 근사한 이미지를 검색하는 단계; 및

   상기 검색된 근사한 이미지와 상기 촬영된 이미지를 직접 비교하여 상기 텍스트를 추출하는 단계를 포함하는 이동 단말기를 이용한 이미지 정보 인식 방법.
2. 제 1 항에 있어서,

   사용자로부터 상기 추출된 텍스트에 대한 상세 정보 요청을 접수하는 단계;

   상기 추출된 텍스트에 대한 상세 정보를 획득하는 단계; 및

   상기 획득한 상세 정보를 사용자에게 출력하는 단계

   를 더 포함하는 이동 단말기를 이용한 이미지 정보 인식 방법.
3. 제 2 항에 있어서,

   상기 추출된 텍스트에 대한 상세 정보를 획득하는 단계는,

   상기 이동 단말기의 무선 통신망을 통해 외부 서버에 접속하여 상기 추출된 텍스트에 대한 상세 정보를 요청하는 단계; 및

   상기 외부 서버로부터 전송받은 상세 정보를 획득하는 단계

   를 포함하는 이동 단말기를 이용한 이미지 정보 인식 방법.
4. 제 1 항에 있어서,

   상기 촬영된 이미지에서 텍스트를 추출하는 단계는,

   상기 촬영된 이미지에서 텍스트가 존재하는 영역을 확정하는 단계; 및

   상기 확정된 영역에 포함된 텍스트를 추출하는 단계

   를 포함하는 이동 단말기를 이용한 이미지 정보 인식 방법.
5. 제 4 항에 있어서,

   상기 텍스트가 존재하는 영역을 확정하는 단계는,

   상기 촬영된 이미지에서 텍스트가 존재하는 적어도 2개의 영역들을 구분하는 단계; 및

   사용자로부터 상기 구분된 영역들 중 하나를 선택받는 단계

   를 포함하는 이동 단말기를 이용한 이미지 정보 인식 방법.
6. 제 1 항에 있어서,

   상기 촬영된 이미지에서 텍스트를 추출하는 단계는,

   상기 촬영된 이미지에서 사용자가 지적한 지점의 한 문자에 대한 텍스트를 추출하는 단계;

   상기 추출된 한 문자에 대한 텍스트를 사용자에게 출력하고, 연관된 단어 추출 여부를 문의하는 단계; 및

   상기 촬영된 이미지 중 상기 지점 근방 영역에 포함된 단어의 텍스트를 추출하는 단계

   를 포함하는 이동 단말기를 이용한 이미지 정보 인식 방법.
7. 제 1 항에 있어서,

   상기 추출된 텍스트를 음성 또는 시인이 용이한 이미지로 변환하는 단계는,

   미리 설정된 폰트의 텍스트 이미지로 변환하는 단계를 포함하는 이미지 정보 인식 방법.
8. 이미지를 촬영하기 위한 카메라 모듈;

   이미지를 출력하기 위한 디스플레이부;

   오디오를 출력하기 위한 음향 출력 모듈; 및

   상기 카메라 모듈이 촬영한 이미지에서 텍스트를 추출하고, 추출된 텍스트를 음성 또는 시인이 용이한 이미지로 변환하여, 사용자에게 출력하는 제어부

   를 포함하고,

   상기 제어부는,

   문자인식 알고리즘으로 상기 텍스트의 추출이 불가능한 경우, 별도의 이미지DB에 저장된 복수의 이미지들 중에서 상기 촬영된 이미지와 근사한 이미지를 검색하고, 상기 검색된 근사한 이미지와 상기 촬영된 이미지를 직접 비교하여 상기 텍스트를 추출하는 이동 단말기.
9. 제 8 항에 있어서,

   사용자의 지시를 접수하기 위한 사용자 입력부; 및

   외부 서버와 무선 데이터 통신을 수행하기 위한 무선 데이터 통신 모듈을 더 포함하고,

   상기 제어부는,

   상기 사용자 입력부가 상기 추출된 텍스트에 대한 상세 정보 요청을 접수하면, 상기 외부 서버에 접속하여 상기 추출된 텍스트에 대한 상세 정보를 획득하고, 상기 획득한 상세 정보를 상기 디스플레이부에 출력하는 이동 단말기.
10. 제 8 항에 있어서,

    사용자의 지시를 접수하기 위한 사용자 입력부를 더 포함하고,

    상기 제어부는,

    상기 촬영된 이미지에서 텍스트가 존재하는 적어도 2개의 영역들을 구분하여 출력하고,

    상기 사용자 입력부의 입력에 따라 상기 구분된 영역들 중 하나를 선택하고, 선택된 영역에 포함된 텍스트를 추출하는 이동 단말기.
11. 제 8 항에 있어서,

    사용자의 지시를 접수하기 위한 사용자 입력부; 및

    외부 서버와 무선 데이터 통신을 수행하기 위한 무선 데이터 통신 모듈을 더 포함하고,

    상기 제어부는,

    상기 촬영된 이미지의 전부 또는 일부를 상기 외부 서버에 전송하고, 상기 외부 서버로부터 전송한 이미지에 해당하는 텍스트를 전송받는 이동 단말기.
12. 제 8 항에 있어서,

    상기 제어부는,

    상기 추출된 텍스트를 미리 설정된 폰트의 텍스트 이미지로 변환하여 상기 디스플레이부에 출력하는 이동 단말기.

Images