CN100433050C - 移动通信系统、移动终端和固定站设备,字符识别设备、方法和程序 - Google Patents

移动通信系统、移动终端和固定站设备,字符识别设备、方法和程序 Download PDF

Info

Publication number
CN100433050C
CN100433050C CNB2004800422741A CN200480042274A CN100433050C CN 100433050 C CN100433050 C CN 100433050C CN B2004800422741 A CNB2004800422741 A CN B2004800422741A CN 200480042274 A CN200480042274 A CN 200480042274A CN 100433050 C CN100433050 C CN 100433050C
Authority
CN
China
Prior art keywords
information
location dependent
dependent information
location
mobile terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CNB2004800422741A
Other languages
English (en)
Other versions
CN1926559A (zh
Inventor
高桥胜彦
西胁大辅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of CN1926559A publication Critical patent/CN1926559A/zh
Application granted granted Critical
Publication of CN100433050C publication Critical patent/CN100433050C/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/63Scene text, e.g. street names
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Telephonic Communication Services (AREA)
  • Telephone Function (AREA)
  • Navigation (AREA)
  • Character Discrimination (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Traffic Control Systems (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

利用字典或地图数据库能有效率地提取可能包含在移动摄像机拍摄的情景图像中的字。位置信息采集装置101对装置的当前位置进行测量以获得位置信息。方向信息采集装置102对装置的方向进行检测以获得方向信息。字符串识别装置104基于当前位置信息和方向信息确定情景图像的拍摄范围。字符串识别装置104从地图数据库103中提取与拍摄范围内的位置有关的信息,例如商店名、大楼名和地名。然后字符串识别装置104利用字词资料例如所提取的商店名、大楼名和地名进行识别。

Description

移动通信系统、移动终端和固定站设备,字符识别设备、方法和程序
技术领域
本发明涉及对图像中所含字符进行识别的字符识别设备,移动通信系统,移动终端设备,固定站设备,字符识别方法,字符识别程序,移动终端设备的信息通信程序和固定站设备的信息提取程序,特别是涉及能读取移动摄像机所拍摄的情景图像中的字符信息例如地名、道路名、商店名、大楼名、广告语句和在道路标志、商店的标志牌和海报中描述的人名的,对图像中所含字符进行识别的字符识别设备,移动通信系统,移动终端设备,固定站设备,字符识别方法,字符识别程序,信息通信程序和信息提取程序。
背景技术
已知有一些识别摄像机和/或数码相机所拍摄的情景图像中的字符信息的字符识别设备。在这些字符识别设备中,字符识别处理广泛使用涉及识别目标的字符串的字资料(字信息)以获得高的识别精度,即使有光线变化和字符畸变存在。
例如,专利文件1(日本专利No.3360030(原文第4至6页、图1至4))描述一种字符识别设备,其从情景图像中提取标志牌主办人的字符信息。专利文件1中所描述的字符识别设备从图像中读取标志牌主办人的姓名和电话号码。字符识别设备对字符串和电话簿数据库等等所含的字中相符合的字符数目,进行计数以计算识别的得分。此后,字符识别设备采用得到最高识别记分的那个标志牌主办人信息作为最终识别结果。
专利文件2(日本专利公报No.2003-178067(原文第14和15页、图20))描述一种对便携式终端所拍摄的图像进行字符识别的便携式终端型的图像处理系统。在专利文件2描述的便携式终端型的图像处理系统中,从全球定位系统(GPS)或诸如此类所获得的位置信息与一个字典有关系。因此,便携式终端型的图像处理系统的服务器利用与装置(便携式终端)当前位置的信息有关的字典进行字符识别。例如,当用户在餐厅时,服务器选择并使用一个专用字典,其包含很可能在餐厅中使用的字资料,例如区域特色菜单的字资料。
在文件1所描述的字符识别设备或专利文件2所描述的便携式终端型的图像处理系统中,如果使用的是许多不需要的字资料段,那么很可能由于增加类似的字或诸如此类,而使识别速度降低并且识别精度也降低。因此,就不能充分实现字符识别的加速和精度的提高。
另外,根据专利文件1所描述的字符识别设备,通过与电话簿数据库或诸如此类中所包含的字的对比,识别精度有所改善。但是,因为需要检查包含在电话簿数据库或诸如此类中的大量字资料,所以在字符识别处理中也许不能充分实现速度和精度的提高。
进一步说,根据专利文件2所描述的便携式终端型的图像处理系统,利用装置的当前位置信息,在字符识别中使用只包括很可能包含在输入图像中的字的专用字典,因此,能在某种程度上提高速度,并且字符识别精度也能提高。
但是,对于情景图像(输入图像),因为摄像机拍摄的是距离摄像机约几米或几十米位置的情景,所以,如果只基于来自GPS的位置信息选择字典,字符识别就要使用与以当前位置为圆心、半径为几十米的圆的范围相当的全部字资料(专用字典)。因此,可能包含在移动摄像机所拍摄的情景图像中的字,不能十分有效率地从字典或地图数据库中提取,所以还是存在字符识别加速和精度提高的余地。
此外,根据专利文件2所描述的便携式终端型的图像处理系统,直接与位置信息关联的字资料被用来进行字符识别。但是,不直接与位置信息关联的其他种类的字信息则不能被利用于字符识别。
发明内容
因此本发明的一个目的是提供字符识别设备,移动通信系统,移动终端设备,固定站设备,字符识别方法,字符识别程序,信息通信程序和信息提取程序,能通过使用字典或地图数据库,有效率地提取很可能包含在移动摄像机所拍摄的情景图像中的字,本发明还有一个目的是提供字符识别设备,移动通信系统,移动终端设备,固定站设备,字符识别方法,字符识别程序,信息通信程序程序和信息提取程序,能使用一种不直接与位置信息关联的字信息进行字符识别。
根据本发明的字符识别设备包括:摄像装置,其用于拍摄图像;位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;位置相关信息存储装置,其用于存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;位置相关信息提取装置,其用于根据拍摄位置信息和拍摄方向信息,确定摄像装置所拍摄的目标的范围,并从位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息;和字符识别装置,其用于利用由位置相关信息提取装置提取的位置相关信息,识别包含在摄像装置所拍摄的图像中的字符或字符串。关于这一点,位置相关信息是字信息,例如运输网信息、地名信息、大楼信息和存储在地图数据库103中的商店信息。
另外,字符识别设备包括:非位置相关信息存储装置,其用于在其中存储非位置相关信息,它是与位置信息无关的字;和非位置相关信息提取装置,其用于根据由位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息,其中,字符识别设备利用由位置相关信息提取装置提取的位置相关信息,和由非位置相关信息提取装置提取的非位置相关信息,识别包含在图像中的字符或字符串。在这种结构中,因为与从位置相关信息存储装置中提取的字有关的非地理上的非位置相关信息能被读出用于字符识别,所以对不能直接与位置信息关联的例如人名、项目名或数据的字符串或诸如此类的识别精度能提高。
另外,也可以这样:非位置相关信息存储装置存储一组与位置信息无关的字并且包括至少一个相当于位置相关信息的字,作为非位置相关信息;和非位置相关信息提取装置利用由位置相关信息提取装置提取的位置相关信息作为关键字,从非位置相关信息存储装置中提取非位置相关信息。在这种结构中,包含在非位置相关信息中的字能容易地提取出来用于字符识别处理。
另外,根据本发明的移动通信系统可以是移动终端设备和固定站设备通过无线传输路径彼此通信的移动通信系统,其中,移动终端设备包括:摄像装置,其用于拍摄图像;位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;和移动终端侧信息发送装置,其用于通过通信网络向固定站设备发送拍摄位置信息、拍摄方向信息和摄像装置所拍摄的图像;固定站设备包括:位置相关信息存储装置,其用于存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;位置相关信息提取装置,其用于基于从移动终端侧信息发送装置接收到的拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围,并从位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息;字符识别装置,其用于利用由位置相关信息提取装置提取的位置相关信息,识别包含在从移动终端侧信息发送装置接收到的图像中的字符或字符串;和固定站侧信息发送装置,其用于通过通信网络向移动终端设备发送由字符识别装置识别的字符或字符串的信息。在这种结构中,因为移动终端设备不要求包括位置相关信息存储装置和字符识别装置,所以移动终端设备的结构能简化。
另外,也可以这样,固定站设备包括:非位置相关信息存储装置,其用于存储非位置相关信息,它是与位置信息无关的字;和非位置相关信息提取装置,其用于根据由位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息,其中,字符识别装置利用由位置相关信息提取装置提取的位置相关信息,和由非位置相关信息提取装置提取的非位置相关信息,识别包含在图像中的字符或字符串。在这种结构中,移动终端设备的结构能简化,并且对不直接与位置信息关联的字符串或诸如此类的字符识别精度能提高。
另外,移动终端设备可包括:移动终端侧信息接收装置,其用于通过信息网络从固定站侧信息发送装置接收由字符识别装置识别的字符或字符串的信息;和输出装置,其用于输出字符或字符串。在这种结构中,字符识别的结果信息能通过在显示模块上显示信息和/或产生语音提供给移动终端用户。关于这一点,输出字符或字符串信息的方法是在显示模块上显示字符或字符串的信息,或者向语音输出模块输出信息。
另外,移动通信系统可以是移动终端设备和固定站设备通过无线传输路径彼此通信的移动通信系统,其中,移动终端设备包括:摄像装置,其用于拍摄图像;位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的位置信息;方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;移动终端侧信息发送装置,其用于通过通信网络向固定站设备发送拍摄位置信息和拍摄方向信息;和字符识别装置,其用于识别包含在摄像装置所拍摄的图像中的字符或字符串;固定站设备包括:固定站侧位置相关信息存储装置,其用于存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;固定站侧位置相关信息提取装置,其用于根据从移动终端侧信息发送装置接收到的拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围,并从固定站侧位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息;非位置相关信息存储装置,其用于存储非位置相关信息,它是与位置信息无关的字;非位置相关信息提取装置,其用于根据由固定站侧位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息;和固定站侧信息发送装置,其用于通过通信网络,向移动终端设备发送由非位置相关信息提取装置提取的非位置相关信息,其中,字符识别装置利用从固定站侧信息发送装置接收到的非位置相关信息,识别包含在图像中的字符或字符串。在这种结构中,因为非位置相关信息的检索处理在固定站中执行,所以移动终端设备的处理负担能减轻,并且移动终端设备不要求具有高的计算性能。此外,因为存储非位置相关信息的数据库统一由固定站方面控制,所以容易维护,能改善维护性能。
另外,移动终端设备可包括:移动终端侧位置相关信息存储装置,其用于在其中存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;和移动终端侧位置相关信息提取装置,其用于基于拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围,并从移动终端侧位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息,其中,字符识别装置利用从固定站侧信息发送装置接收到的非位置相关信息,和由移动终端侧位置相关信息提取装置提取的位置相关信息,识别包含在图像中的字符或字符串。在这种结构中,由于只发送非位置相关信息,从固定站设备向移动终端设备发送的数据量能减少。
另外,也可以这样:固定站侧信息发送装置通过通信网络向移动终端设备发送由固定站侧非位置相关信息提取装置提取的非位置相关信息,和位置相关信息提取装置提取的位置相关信息;和字符识别装置利用从固定站侧信息发送装置接收到的非位置相关信息和位置相关信息,识别包含在图像中的字符或字符串。在这种结构中,与只发送非位置相关信息的情况相比,移动终端设备的处理负担能进一步减轻,并且移动终端设备不要求具有高的计算性能。
另外,也可以这样:非位置相关信息存储装置存储非位置相关信息,它是一组与位置信息无关的字并且包括至少一个相当于位置相关信息的字;和非位置相关信息提取装置利用由固定站侧位置相关信息提取装置提取的位置相关信息作为关键字,从非位置相关信息存储装置中提取非位置相关信息。在这种结构中,包含在非位置相关信息中的字能容易地提取出来用于字符识别处理。
根据本发明的移动终端设备是与执行字符识别处理以识别包含在图像中的字符或字符串的固定站设备通信的移动终端设备,其特征在于包括:摄像装置,其用于拍摄图像;位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;移动终端侧信息发送装置,其用于通过通信网络向固定站设备发送拍摄位置信息、拍摄方向信息和拍摄装置所拍摄的图像;和移动终端侧信息接收装置,其用于从固定站设备接收由固定站设备利用拍摄位置信息和拍摄方向信息对图像进行字符识别处理所获得的字符或字符串信息。根据这种结构,因为移动终端设备不需要包括位置相关信息存储装置和字符识别装置,所以移动终端设备的结构能简化。
根据本发明的固定站设备是与移动终端设备通信的固定站设备,它包括:固定站侧信息接收装置,其用于从移动终端设备接收移动终端设备所拍摄的图像、指示图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;位置相关信息存储装置,其用于存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;位置相关信息提取装置,其用于根据从移动终端设备接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备所拍摄的目标范围,并从位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息;字符识别装置,其用于利用由位置相关信息提取装置提取的位置相关信息,识别包含在从移动终端设备接收到的图像中的字符或字符串;和固定站侧信息发送装置,其用于通过通信网络向移动终端设备发送由字符识别装置识别的字符或字符串。在这种结构中,因为移动终端设备不需要包括位置相关信息存储装置的字符识别装置,所以移动终端设备的结构能简化。
另外,固定站设备可包括:非位置相关信息存储装置,其用于存储非位置相关信息,它是与位置信息无关的字;和非位置相关信息提取装置,其用于根据由位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息,其中,字符识别装置利用由位置相关信息提取装置提取的位置相关信息,和由非位置相关信息提取装置提取的非位置相关信息,识别包含在图像中的字符或字符串。在这种结构中,移动终端设备的结构能简化,并且对不直接与位置信息有关的字符串或诸如此类的字符识别精度能提高。
另外,移动终端设备可以是与固定站设备进行信息通信,并执行字符识别处理以识别包含在图像中的字符或字符串的移动终端设备,包括:摄像装置,其用于拍摄图像;位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;移动终端侧信息发送装置,其用于通过通信网络向固定站设备发送拍摄位置信息和拍摄方向信息;移动终端侧信息接收装置,其用于从固定站设备接收非位置相关信息,它是与指示各个地点位置的各个位置信息无关的字,并且是由固定站设备利用拍摄位置信息和拍摄方向信息确定的;和字符识别装置,其用于利用由移动终端侧信息接收装置接收的非位置相关信息,识别包含在摄像装置所拍摄的图像中的字符或字符串。在这种结构中,因为非位置相关信息的检索处理在固定站中执行,所以移动终端设备不需要具有高的计算性能。此外,存储非位置相关信息的数据库统一由固定站方面控制,所以容易维护并能改善维护性能。
另外,移动终端设备可以包括:移动终端设备侧位置相关信息存储装置,其用于存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;和移动终端侧位置相关信息提取装置,其用于根据拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围,并从移动终端设备侧位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息,其中,字符识别装置利用由移动终端侧信息接收装置接收到的非位置相关信息,和由移动终端侧位置相关信息提取装置提取的位置相关信息,识别包含在图像中的字符或字符串。在这种结构中,由于只发送非位置相关信息,从固定站设备向移动终端设备发送的数据量能减少。
另外,与对包含在图像中的字符或字符串执行字符识别处理的移动终端设备进行信息通信的固定站设备包括:固定站侧信息接收装置,其用于从移动终端设备接收指示移动终端设备所拍摄图像的图像拍摄位置的位置信息和指示图像拍摄方向的拍摄方向信息;固定站侧位置相关信息存储装置,其用于存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;固定站侧位置相关信息提取装置,其用于基于由固定站侧信息接收装置接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备所拍摄的目标的范围,并从固定站侧位置相关信息存储装置中提取与包含在范围内的位置有关的位置相关信息;非位置相关信息存储装置,其用于存储非位置相关信息,它是与位置信息无关的字;非位置相关信息提取装置,其用于根据由固定站侧位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息;和固定站侧信息发送装置,其用于通过通信网络向移动终端设备发送由非位置相关信息提取装置提取的非位置相关信息。根据这种结构,因为非位置相关信息的检索处理在固定站中执行,所以移动终端设备的处理负担能减轻,并且移动终端设备不需要具有高的计算性能。此外,因为存储非位置相关信息的数据库按照统一标准的方式由固定站方面控制,所以容易维护,并能改善维护性能。
另外,固定站侧信息发送装置可发送由固定站侧非位置相关信息提取装置提取的非位置相关信息,和位置相关信息提取装置提取的位置相关信息。根据这种结构,与只发送非位置相关信息的情况相比,移动终端设备的处理负担能进一步减轻,并且移动终端设备装置不需要具有高的计算性能。
根据本发明的一种字符识别方法,其特征在于:摄像装置拍摄图像;位置测量装置测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;方向检测装置检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;位置相关信息提取装置基于拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围;位置相关信息提取装置从存储有位置相关信息的位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;字符识别装置利用由位置相关信息提取装置提取的位置相关信息,识别包含在摄像装置所拍摄的图像中的字符或字符串。
另外,在字符识别方法中,非位置相关信息提取装置可根据由位置相关信息提取装置提取的位置相关信息,从存储有非位置相关信息的非位置相关信息存储装置中提取非位置相关信息,它是与位置信息无关的字,和字符识别装置利用由位置相关信息提取装置提取的位置相关信息,和由非位置相关信息提取装置提取的非位置相关信息,识别包含在图像中的字符或字符串。在这种结构中,因为与从位置相关信息存储装置中提取的字有关的非地理上的非位置相关信息能被读出用于字符识别,所以对不能直接与位置信息关联的例如人名、项目名或数据的字符串或诸如此类的字符识别精度能提高。
另外,字符识别方法可以是识别包含在图像中的字符或字符串的字符识别方法,其应用于移动终端设备和固定站设备通过无线传输路径彼此通信的移动通信系统中,其中:移动终端设备拍摄图像;移动终端设备测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;移动终端设备检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;和移动终端设备通过通信网络,向固定站设备发送拍摄位置信息、拍摄方向信息和摄像装置所拍摄的图像;固定站设备基于从移动终端设备接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备的拍摄目标的范围;固定站设备从存储有位置相关信息的位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;固定站设备利用提取的位置相关信息,识别包含在从移动终端设备接收到的图像中的字符或字符串;和固定站设备通过通信网络向移动终端设备发送字符或字符串的信息。在这种结构中,因为移动终端设备不需要包括位置相关信息存储装置和字符识别装置,所以移动终端设备的结构能简化。
另外,在字符识别方法中,移动终端设备可通过通信网络从固定站设备接收由固定站设备识别的字符或字符串的信息;和移动终端设备输出字符或字符串的信息。在这种结构中,字符识别的结果信息能通过在显示模块上显示信息和/或产生语音提供给移动终端设备的用户。
字符识别方法可以是识别包含在图像中的字符或字符串的字符识别方法,其应用于移动终端设备和固定站设备通过无线传输路径彼此通信的移动通信系统中,其中:移动终端设备拍摄图像;移动终端设备测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;移动终端设备检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;移动终端设备通过通信网络向固定站设备发送拍摄位置信息和拍摄方向信息;固定站设备基于从移动终端设备接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备的拍摄目标的范围;固定站设备从存储有位置相关信息的固定站侧位置相关信息存储装置中,提取与包含在图像中的位置有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;固定站设备根据从固定站侧位置相关信息存储装置中提取的位置相关信息,从存储非位置相关信息的非位置相关信息存储装置中提取非位置相关信息,它是与位置信息无关的字;固定站设备通过无线传输网络向移动终端设备发送所提取的非位置相关信息;和移动站设备利用从固定站设备接收到的非位置相关信息,识别包含在移动终端设备所拍摄的图像中的字符或字符串。在这种结构中,因为非位置相关信息的检索处理在固定站中执行,所以移动终端设备的处理负担减轻,并且移动终端设备不需要具有高的计算性能。此外,因为存储非位置相关信息的数据库按统一标准方式由固定站方面控制,所以容易维护并且能改善维护性能。
根据本发明的字符识别程序使计算机执行下列处理:基于指示图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息,确定所拍摄的目标的范围;从存储有位置相关信息的位置相关信息存储装置中,提取与包括在范围内的位置有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;和利用所提取的位置相关信息,对包含在图像中的字符或字符串进行字符识别。
另外,字符识别程序可以使计算机执行下列处理:根据从位置相关信息存储装置中提取的位置相关信息,从存储有非位置相关信息的非位置相关信息存储装置中提取非位置相关信息,它是与位置信息无关的字;和利用从位置相关信息存储装置中提取的位置相关信息,和从非位置相关信息存储装置中提取的非位置相关信息,对包含在图像中的字符或字符串进行字符识别。在这种结构中,因为与从位置相关信息存储装置中提取的字有关的非地理上的非位置相关信息被读出用于字符识别,所以对不能直接与位置信息关联的例如人名、项目名或数据的字符串或诸如此类的字符识别精度能提高。
根据本发明的信息通信程序是装在移动终端设备中的、用于与执行识别包含在图像中的字符或字符串的字符识别处理的固定站设备进行信息通信的信息通信程序,其使计算机执行下列处理:通过无线传输网络向固定站设备发送指示图像拍摄位置的拍摄位置信息、指示图像拍摄方向的拍摄方向信息和图像;和从固定站设备接收由固定站设备利用拍摄位置信息和拍摄方向信息对图像进行字符识别处理所得到的字符或字符串的信息。根据这种结构,因为移动终端设备不需要包括位置相关信息存储装置和字符识别装置,所以移动终端设备的结构能简化。
字符识别程序也可以是装在固定站设备中的、用于与移动终端设备进行信息通信的字符识别程序,其使计算机执行下列处理:从移动终端设备接收移动终端设备所拍摄的图像、指示图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;根据从移动终端设备接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备所拍摄的目标的范围;从存储有位置相关信息的位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;利用所提取的位置相关信息,识别包含在从移动终端设备接收到的图像中的字符或字符串;和通过通信网络向移动终端设备发送字符或字符串的信息。根据这种结构,因为移动终端设备不需要包括位置相关信息存储装置和字符识别装置,所以移动终端设备的结构能简化。
另外,字符识别程序可以是装在移动终端设备中的、用于与固定站设备进行信息通信并执行识别包含在图像中的字符或字符串的字符识别处理的字符识别程序,其使计算机执行下列处理:通过通信网络向固定站设备发送指示图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;从固定站设备接收非位置相关信息,它是与指示各个地点位置的各个位置信息无关的字,并且是由固定站设备利用拍摄位置信息和拍摄方向信息确定的;和利用从固定站设备接收到的非位置相关信息,识别包含在移动终端设备所拍摄的图像中的字符或字符串。根据这种结构,因为非位置相关信息的检索处理在固定站中执行,所以移动终端设备的处理负担减轻,并且移动终端设备不需要具有高的计算性能。此外,因为存储非位置相关信息的数据库按统一标准方式由固定站方面控制,所以容易维护,并能改善维护性能。
根据本发明的信息提取程序是装在固定站设备中的、用于与执行识别包含在图像中字符或字符串的字符识别处理的移动终端设备进行信息通信的信息提取程序,其使计算机执行下列处理:从移动终端设备接收指示移动终端设备所拍摄的图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;根据从移动终端设备接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备所拍摄的目标的范围;从存储位置相关信息的固定站侧位置相关信息存储装置中,提取与包含在范围中的位置有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;根据从固定站侧位置相关信息存储装置中提取的位置相关信息,从存储非位置相关信息的非位置相关信息存储装置中提取非位置相关信息,它是与位置信息无关的字;和通过通信网络向移动终端设备发送所提取的非位置相关信息。在这种结构中,因为非位置相关信息的检索处理在固定站中执行,所以移动终端设备的处理负担减轻,并且移动终端设备不需要具有高的计算性能。此外,因为存储非位置相关信息的数据库统一由固定站方面控制,所以容易维护,并能改善维护性能。
根据本发明,通过利用拍摄位置信息和拍摄方向信息两者,只有以高概率可能包含在情景图像中的字被从位置相关信息存储装置(例如字典和地图数据库)中提取,所以与只利用位置信息来限制字资料的情况相比,能有效地限制用于字符识别的字资料,因此,能实现字符串识别的加速和识别精度的提高。从而,利用字典或地图数据库能有效率地提取可能包含在移动摄像机所拍摄的情景图像中的字。
附图说明
图1是根据本发明的字符识别设备的结构示例方框图。
图2是由字符识别设备执行的字符识别处理示例流程图。
图3是字符识别设备确定的特定范围示例说明图。
图4是关于道路的运输网信息示例说明图。
图5是地名信息示例说明图。
图6是大楼信息示例说明图。
图7是商店信息示例说明图。
图8是在地图上重迭显示某一时点字符识别设备的当前位置、当前方向和拍摄范围的说明图。
图9是字符识别设备结构的另一示例方框图。
图10是由字符识别设备执行的字符识别处理的另一示例流程图。
图11是汽车的车装摄像机拍摄的百货公司的悬式屏幕示例说明图。
图12是移动通信系统的结构示例方框图,其中移动终端设备与固定的办公室内设备通过无线传输路径彼此通信。
图13是移动终端设备300a采集位置信息、方向信息和情景图像数据的信息采集处理示例流程图。
图14是固定站内设备300b执行的字符识别处理示例流程图。
图15是移动通信系统结构的另一示例方框图,其中移动终端设备与固定的办公室内设备通过无线传输路径彼此通信。
图16是由移动终端设备400a执行的字符识别处理示例流程图。
图17是由固定站内设备400b为提取文档信息所执行的文档信息提取处理示例流程图。
具体实施方式
实施方式1
下面将参考附图描述本发明的第一实施方式。图1是根据本发明的字符识别设备的结构示例方框图。如图1所示,字符识别设备包括位置信息采集装置101、方向信息采集装置102、地图数据库103、字符串识别装置104和图像输入装置106。
图像输入装置106例如用移动摄像机实现。图像输入装置106拍摄情景图像(输入图像)并将图像数据传送给字符串识别装置104。
位置信息采集装置101例如用GPS接收机实现。装置101对装置(例如图像输入装置106)的位置进行测量以获得位置信息(纬度和经度),并且将所得信息传送给字符串识别装置104。也就是说,位置信息采集装置101输出指示情景拍摄位置的拍摄位置信息。
方向信息采集装置102例如用陀螺仪实现。方向信息采集装置102对设备(例如图像输入装置106)的方向进行测量以获得装置的方向信息(方向信息例如东、西、南或北),并将所得信息传给字符串识别装置104。也就是说,装置102输出指示情景图像拍摄方向的拍摄方向信息。
地图数据库103例如用存储装置的磁盘设备(未示)实现。地图数据库103在其中存储关于运输网例如道路和铁路的运输网信息,指示地名和区域位置的地名信息,大楼信息例如大楼名称、结构和地址,以及指示商店名称、电话号码和地址的商店信息。此外,地图数据库103存储与位置信息(例如纬度和经度信息)相关的字信息,例如交通网信息、地点信息、大楼信息和商店信息。
字符串识别装置104例如用按照后面将要描述的字符识别程序操作的计算机(未示)实现。装置104根据字符识别设备的当前位置信息和方向信息,识别情景图像所拍摄的地点的范围(拍摄范围)。由字符串识别设备确定的情景图像拍摄的地点范围在下文中简述为特定范围。
字符串识别装置104从地图数据库中提取与特定范围位置有关的信息例如商店名称、大楼名称和地名。另外,装置104也利用情景图像中拍摄的陆地名称、道路交叉口以及通过运输网和铁路网相连的车站的信息,进行字符识别。顺便说说,在本实施方式中,字符串识别装置104用于字符识别的字信息例如地名和大楼名称被描述为字资料。
摄像装置用图像输入装置106实现。位置测量装置用位置信息采集装置101实现。方向检测装置用方向信息采集装置102实现。位置相关信息存储装置用地图数据库103实现。位置相关信息提取装置和字符识别装置用字符串识别装置104实现。
还有,在本实施方式中,实现字符串识别装置104的计算机的存储设备(未示)已存储用以执行字符识别处理的多种程序。例如计算机的存储设备存储有字符识别程序,其使计算机执行下列处理:根据指示图像拍摄位置的拍摄位置信息的指示图像拍摄方向的拍摄方向信息,确定拍摄目标的范围;从其中存有位置相关信息项的位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息,它们是与指示各个地点位置的各个位置信息有关的字;和利用所提取的位置相关信息对包含在图像中的字符或字符串进行字符识别。
下面将描述操作,图2是字符识别设备执行的字符识别处理的示例流程图。图像输入装置106拍摄情景图像,将图像数据传送给字符串识别装置104(步骤S10)。位置信息采集装置101对设备的位置进行测量,采集当前位置信息并将信息输出至字符串识别装104(步骤S11)。方向信息采集装102对设备的方向进行检测,采集方向信息并将信息传送至字符串识别装置104(步骤S12)。
字符串识别装置104基于当前位置信息和方向信息,参考地图数据库103限制识别处理中所要使用的字,并从地图数据库103中提取字资料。因此,字资料例如地名和大楼名被提取。此后,装置104利用所提取的字资料从情景图像中读取字符串,由此进行字符识别(步骤S13)。
当完成字符识别时,字符串识别装置104确定处理结束的指示是否被用户等等输入。例如,在字符识别完成以后,装置104在显示模块(未示)或诸如此类上显示字符识别结果,并显示字符识别处理的结束/继续指示输入屏幕。用户从输入模块(未示)或诸如此类输入处理结束的指示,终止字符识别处理。顺便说说,装置104也可通过用语音向输出模块(未示)或诸如此类输出信息的方法提供字符识别结果信息,而不是显示信息。
如果确定处理结束指示被输入,则字符识别设备终止字符识别处理。如果不确定处理结束指示被输入,则字符识别设备再次返回至步骤S10重复执行步骤S10至S14的处理。
如上所述,根据本实施方式,字符识别设备基于由位置信息采集装置101和方向信息采集装置102采集的位置信息和方向信息,从地图数据库103中提取字资料。此后,字符识别设备利用信息例如与情景图像中的区域有关的区域名、大楼名、商店名、商店地址和商店电话号码,以及信息例如通过运输网与有关区域相连的区域地名,进行字符识别处理。
通过利用位置信息和方向信息两者,只有很可能会包含在情景图像中字资料例如地名、道路名、大楼名和商店名被从地图数据库103中提取,因此与仅利用位置信息提取字资料的情况相比,用于资料识别的字资料能有效地被限制。所以在字符串识别中,识别速度和识别精度都能提高。
图3是字符识别设备确定的特定范围的示例说明图。图3(a)是根据本发明的字符识别设备确定的特定范围的示例说明图。图3(b)是常规字符识别设备(例如,专利文件2所描述的系统服务器)确定的特定范围的示例说明图。情景图像中的范围通常是平面的扇形区。当只基于位置信息例如GPS信息从地图数据库提取字资料时,进行字符识别必须要利用有关其中心为设备当前位置的这个圆内的所有的字,如图3(b)所示。
根据本实施方式,如图3(a)所示,除了利用位置信息以外还利用方向信息,就能只提取关系到情景图像中被拍摄的扇形区的字资料。因此利用方向信息,字符识别能够不使用涉及情景图像范围以外区域的信息,因此,与只利用位置信息的常规情况相比,能有效地对字加以限制。所以与只利用位置信息的常规情况相比,能加快识别速度和提高识别精度。
此外,借助存储在地图数据库103中的运输网信息,图3(a)所示扇形区以外地点的地名例如以方向指示描述的邻近区域的地名,也能用于字符识别处理。
下面将描述本实施方式的一个具体示例。示例所描述的情况是,字符识别设备包括:作为位置信息采集装置101的GPS接收机,作为方向信息采集装置102的陀螺仪,作为地图数据库103的磁盘设备,作为字符串识别装置104的计算机和作为图像输入装置106的移动摄像机。
摄像机拍摄情景图像,将图像数据输出至计算机。GPS接收机根据接收到的GPS信号对设备的当前位置进行测量,采集纬度和经度(位置信息),并向计算机传送该信息。
陀螺仪检测设备(本示例为摄像机)的方向以采集方向信息,并向计算机传送该信息。例如,假定用数值表示方向信息的方向,北、东、南和西表示为“0”、“90”、“180”、“270”。这样,如果装置面向西南,陀螺仪就输出数值“255”作为方向信息。在这方面,方向信息表现方法不限于这个示例的方法,也可使用能唯一确定方向的任何其他表现方法。
由磁盘设备实现的地图数据库103,存储有运输网信息、地名信息、大楼信息和商店信息。图4至7是运输网信息、地名信息、大楼信息和商店信息的说明图。
图4是关于道路的运输网信息的示例说明图。如图4所示,地图数据库103存储有例如道路交叉口名601、交叉路口地址(地址602和纬度/经度603)、相邻的交叉路口名/方向604等信息,作为关于道路运输网信息。并且,地图数据库103可存储有例如连接交叉路口的道路名等信息,作为运输网信息。
图5是地名信息的示例说明图。图5(a)是地图数据库103存储作为地名信息的地名表706的示例说明图。图5(b)是地图数据库103存储作为地名信息的两维地图707的示例说明图。如图5(b)所示,地图数据库103存储标注为(C1至C3)的区域703至705的两维地图707作为地名信息。另外,地图数据库103存储地名表706,指示地名701和地图标注值702之间的对应关系,如图5(a)所示。还有,当两维地图707的x和y座标值与纬度/经度相联系时,能从纬度/经度信息知道当前的位置名称。
图6是大楼信息的示例说明图,例如,地图数据库103存储有关各种不同的大楼属性的信息,如大楼名801、地址802、纬度/经度803和每一大楼高度804,作为大楼信息。
图7是商店信息的示例说明图。例如,地图数据库103存储商店名901、地址902、大楼名/楼层903和电话号码904等信息,作为商店信息。
下面将描述当在识别中将要使用的当前位置信息和方向信息从GPS接收机和陀螺仪分别输入至计算机时,提取商店名、大楼名和地名的方法。
首先,参考附图描述提取地名的方法。图8是在地图上显示某一时点字符识别设备的当前位置、当前方向和拍摄范围的说明图。在这个示例中描述的情况是,当前位置是点1001,当前方向是“面向北”和情景图像视角是90°,和拍摄范围是阴影区1002。如果商店标志牌包含在情景图像中,则阴影区1002的地址名将非常可能存在于商店的标志牌中。在这种情况下,字符识别设备参照存储在地图数据库103中的地名信息,提取与阴影区1002相应的区域的地名。
例如,当点1001是图5(b)的点708,阴影范围1002是图5(b)的阴影范围709时,字符识别设备根据图5(b)所示的两维地图707确定情景图像中所拍摄的范围是标注值为“C2”的范围。字符识别设备也根据图5(a)所示的地名表706提取与标注值“C2”相应的“KINZA2-CHOME”的地名。也就是说,首先提取地名的字例如“KINZA 2-cheme”或“KINZA”作为将要用于字符识别的字。
以外,邻近的地名可能在交通标志上。因此,如果汽车在交叉路口左拐弯、经交叉路口直行或在交叉路口右拐弯,则字符识别设备参照图4所示运输网信息提取区域的地名。例如,如果假定东经“a2”/北纬“b2”的点包含在某一时间点拍摄情景图像的范围中,则字符识别设备根据图4所示的运输网信息确定“KINZA2-CHOME交叉路口”包含在拍摄的范围内。据此,字符识别设备根据图4所示的运输网信息提取附近的“KINZA1-CHOME”和“KINZA 3-CHOME”的交叉路口名,其后显示交叉路口的地址和交叉路口的地名。
下面将参考附图描述大楼名、商店名和商店电话号码的方法。大楼名和商店名可能在商店标志牌或诸如此类上描述。因此,字符识别设备根据图6所示的大楼信息的纬度/经度803,提取在阴影区1002的纬度/经度中所包含的大楼信息。也就是说,字符识别设备根据纬度/经度803提取大楼名801和大楼地址802。另外,该设备将所提取的大楼名801与图7所示的商店信息进行比较,提取大楼中的商店名901和电话号码904的信息。
字符串识别装置(在本示例中为计算机)104利用上述方法中所提取的字资料例如地名和商店名对输入的情景图像进行字符识别。字符串识别装置104采用例如一般用于邮址识别的动态规划法或Hidden MarkovModel(HMM)(隐式马尔可夫模型)法作为使用字资料的字符识别算法,进行字符识别。
例如,利用动态规划法或HMM法,字符串识别装置104假定输入图像中所包含的各种不同的图形的每一个作为一个字符,然后识别每一图形的字符。其次,字符串识别装置104用多种方法将所识别的各个图形的字符组合起来,并将所组合的字符串与字资料进行比较,从而进行字级的字符识别。
如果不使用字资料,则不能正确地识别字,除非对每一字符正确地进行识别。但是,通过使用字资料,能校正每一字符的轻微识别错误,因此能提高字符识别精度。
下面将参考附图描述本发明的优点。在本发明中,如图8所示,能不使用字资料例如属于拍摄范围即阴影区1002以外的区域的地名、大楼名和商店名而实现字符识别处理。例如,如图8所示,大楼1008相当靠近当前位置1001,但在拍摄的相反方向,因此,字符识别设备能在进行字符识别处理时假定大楼中的关于大楼1008的大楼名、商店名、商店地址、电话号码或诸如此类的字资料不是处理的目标。
如上所述,根据本发明,与只根据位置信息提取字资料的常规情况相比,能限制处理所要求的字资料。因为字资料的数量减少,所以字符识别处理能以较高的速度进行,因此本发明能加速识别处理。
顺便说说,在具体示例的描述中,图像输入装置106是移动摄像机。但是,图像输入装置106可以是任何其他的摄像装置。例如,图像输入装置106可以是包含摄像机的便携式电话或个人数字助理(PDA),电话或PDA是用户携带的。另外,图像输入装置106可以是数字摄像机或者固定在汽车上的车装摄像机。此外,由图像输入装置106拍摄的图像可以是静止图像或者运动图像。
实施方式2
下面将参考附图描述本发明的第二实施方式。图9是字符识别设备结构的另一示例方框图。如图9所示,设备包括位置信息采集装置201、方向信息采集装置202、地图数据库203、字符串识别装置204、文档数据库205和图像输入装置206。
在本实施方式中,字符识别设备包括除第一实施方式中所示的组成部件以外,还包括文档数据库205。在本实施方式中,设备与第一实施方式的不同在于,设备进行字符识别处理除了利用地图数据库203以外,还利用存储在文档数据库的信息中包含的字。关于这一点,位置信息采集装置201、方向信息采集装置202、地图数据库203和图像输入装置206的功能和实施方法类似于第一实施方式的位置信息采集装置101、方向信息采集装置102、地图数据库103和图像输入装置106。
文档数据库205用存储设备例如磁盘设备(未示)或诸如此类实现。文档数据库205中存储有不直接与位置信息关联的文本信息如纬度/经度。例如文档数据库205存储一组文本信息项例如“Painter A’s privateexhibition is held at a special events hall of 8th floor of department store Bfrom 3rd to 6th October(画家A个人画展于10月3-6日在百货公司B第8层专用活动大厅举行)”和“A good seller of bakery C is a cream bun(糕饼店的畅销食品是奶油小面包)”。存储在文档数据库205中的文本信息,下文将称作文档信息(非位置相关信息)。
如后面将要描述的,本实施方式的字符识别设备也利用包含在文档信息中的字资料进行字符识别。例如,设备也利用字资料如包含在文档信息“Painter A’s private exhibition is held at a special events hall of the 8thfloor of department store B from 3rd to 6th October(画家A个人画展于10月3-6日在百货公司B第8层专用活动大厅举行)”中的“3rd October(10月3日)”和“Painter A(画家A)”,进行字符识别。
字符串识别装置204例如通过计算机(未示)或诸如此类按照字符识别程序操作,而得以实现。字符串识别装置204根据设备的当前位置信息和方向信息,确定情景图像中拍摄的地点的范围。字符串识别装置204从地图数据库203中提取与特定范围中的场所有关联的信息例如商店名、大楼名和地名。
此外,字符串识别装置204不仅利用从地图数据库203提取的字资料进行字符识别,而且也从文档数据库205中提取与从地图数据库203中提取的字资料有关的文档信息。字符串识别装置204也利用除了地图数据库203提取的字资料以外的文档信息进行字符识别处理。
通过从文档数据库205提取相关的文档信息和利用这个信息作为字资料,能利用所提取的文档信息进行字符串识别处理。如果所提取的文档信息不是字的格式,那么字符串识别装置204就进行综合分析,将文档信息划分为字单元,然后就能在字符串识别处理中利用这种信息。
非位置相关信息存储装置用文档数据库205实现。非位置相关信息提取装置用字符串识别装置204实现。
此外,在本实施方式中,实现字符串识别装置204的计算机的存储设备(未示)已存储执行字符识别处理的多种程序。例如,计算机的存储设备中存储有字符识别程序,其使计算机执行下列处理:根据指示图像拍摄位置的拍摄位置信息和指示图像拍摄方向的方向信息,确定拍摄的目标的范围;从存储有位置相关信息的位置相关信息存储装置中提取与包含在范围内的有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;根据从位置相关信息存储装置中所提取的位置相关信息,从存储有非位置相关信息的非位置相关信息存储装置中提取非位置相关信息,它是与位置信息无关的字;和利用从位置相关信息存储装置中提取的位置相关信息,和从非位置相关信息存储装置中提取的非位置相关信息,对包含在图像中的字符或字符串进行识别。
下面将描述操作,图10是由字符识别设备执行的字符识别处理的另一示例流程图。在图10中,从步骤S20至步骤S22的处理类似于第一实施方式中所示的从步骤S10至步骤S12的处理。
字符串识别装置204根据当前位置信息和方向信息参考地图数据库203以从地图数据库203中提取字资料(步骤S23)。字符串识别装置204利用提取的字资料作为关键字对整个文档数据库205进行搜索,以从文档数据库205中提取文档信息(步骤S24)。此后,利用从地图数据库203中提取的字资料和从文档数据库205中提取的文档信息,字符串识别装置204从情景图像中读取字符信息,从而进行字符识别(步骤S25)。
当字符识别完成时,字符串识别装置204确定是否有处理结束的指示由用户等等输入(步骤S26)。如果确定有处理结束的指示输入,那么字符识别装置就终止字符识别处理。如果不确定有处理结束的指示输入,字符识别装置就再次返回步骤S20,重复执行从步骤S20至步骤S26的处理。
关于这一点,字符串识别装置204可以例如在显示模块(未示)上显示字符识别的结果信息,从而向用户提供信息。字符串识别装置204也可以例如向语音输出模块(未示)传送字符识别结果信息,从而向用户提供信息。
如上所述,根据本实施方式,字符识别设备根据位置信息和方向信息,从文档数据库205中提取相关的文档信息,该相关的文档信息不直接与位置信息关联,而是与从地图数据库203中提取的字资料关联。然后,字符识别设备利用相关的文档信息进行字符识别。因此,设备能从文档数据库205提取与从地图数据库203提取的字相关的非地理文档信息,并将该文档信息用于字符识别,因此,能提高对不能直接与位置信息关联的字符串例如人名、项目名或日期的识别精度。
下面将描述本实施方式的具体示例。在这种情况下,将描述的示例的情况是,字符识别设备包括:作为位置信息采集装置201的GPS接收机;作为方向信息采集装置202的陀螺仪;作为地图数据库203的地图磁盘设备;作为文档数据库205的文档磁盘设备;作为字符串识别装置204的计算机;和作为图像输入装置206的车装摄像机,摄像机被安装在汽车中。
GPS接收机和陀螺仪类似于第一实施方式中所示的具体示例。另外,地图磁盘设备类似于第一实施方式中所示的具体示例的磁盘设备。
汽车上的摄像机拍摄一幅情景,并将图像数据输出到计算机。文档磁盘设备已存储多种文档信息。关于这一点,文档信息可以是以文档格式或者以描述格式(例如一组字的数据)描述的数据,其中关键字在网络轮廓中彼此相关。
计算机根据从GPS接收机和陀螺仪输入的当前位置信息和方向信息,参照地图和文档的磁盘设备,从情景图像中读取字符。顺便说说,计算机从地图磁盘设备中提取将要用于字符识别的字资料的方法,类似于第一实施方式中所示的具体示例的方法。
下面将参考附图描述从文档磁盘中提取将要用于字符识别的字资料的方法。图11是经过商店区的汽车上安装的摄像机拍摄到的百货公司的悬式屏幕示例说明图。如图11所示,这个示例的悬式屏幕上描述的是真正的名词例如“画家A”。在这种情况下,因为字“画家A”是不直接涉及位置信息例如纬度/经度的信息,所以计算机(字符串识别装置204)不能从地图磁盘设备(地图数据库203)中提取关于“画家A”的字资料。
在这个示例中,计算机基于存储在地图磁盘设备(地图数据库203)中的字资料和位置信息/方向信息,从地图磁盘设备中提取被拍摄在情景图像的“百货公司B”。然后,计算机用“百货公司B”作为关键字(检索关键字),从存储在文档磁盘设备中的文档信息中检索相关的文档。
例如,当文档磁盘设备已存储“画家A个人画展于10月3-6日在百货公司B第8层专用活动大厅举行”的文档信息时,计算机从文档信息中提取字资料例如“10月3日”、“画家A”、“个人展”、“第8层”、和“专用活动大厅”。然后,计算机利用所提取的字资料进行字符识别。这样,计算机就能利用字资料“画家A”进行字符识别。
也就是说,在这个具体的示例中,文档磁盘设备已存储一组与位置信息无关的字词作为文档信息,至少包含一个字词(本示例中为“百货公司B)”的这一组字词相当于在地图磁盘设备中存储的字资料。计算机利用从地图磁盘设备中提取的字资料(本示例中为“百货公司B)”作为关键字,从文档磁盘设备中提取一组字词例如“画家A”,包括“百货公司B”。
顺便说说,在这个示例中,已描述的一种情况是,存储在文档磁盘设备中的文档信息以文档格式描述,并且从经由关键字检索得到的文档信息中提取字资料。但是,文档信息不限于用本示例所示的文档格式。例如存储在文档磁盘设备中的文档信息可以是描述为一组字资料例如“10月3日”、“10月6日”、“画家A”、“个人展”、“百货公司B”、“第8层”和“专用活动大厅”的数据。
另外,如果存储在文档磁盘设备中的文档信息是有限定时间周期的广告信息和新闻项目,也能根据需要更新文档信息。例如,字符识别设备的用户可利用软件更新文档数据库来更新存储在文档磁盘设备中的文档信息。再例如,能以通过英特网接收文本信息的方法更新文档信息。
实施方式3
下面将参考附图描述本发明的第三实施方式。图12是移动通信系统的结构示例方框图,其中移动终端设备与固定站设备通过无线传输路径彼此通信。如图12所示,移动通信系统包括安装在可移动的移动站内的移动终端设备300a(例如安装在汽车上的汽车导航终端装置)和安装在固定站内的固定站内设备300b。此外,移动终端设备300a包括位置信息采集装置301、方向信息采集装置302、图像输入装置303和信息发送装置304。还有,固定站内设备300b包括信息接收装置305、地图数据库306和字符串识别装置307。
下面将描述移动终端设备300a的功能。图像输入装置303用摄像机或诸如此类实现。图像输入装置303向信息发送装置304输出情景图像数据。
位置信息采集装置301用GPS接收机或诸如此类实现。当拍摄情景时,位置信息采集装置301测量图像输入装置303的位置,从而获得纬度/经度(位置信息)。然后,位置信息采集装置301将所得到的位置信息传送至信息发送装置304。
方向信息采集装置302用陀螺仪或诸如此类实现。当拍摄情景时,方向信息采集装置302检测图像输入装置303的方向(东、西、南、北),从而获得方向信息。然后方向信息采集装置302向信息发送装置304输出所得到的方向信息。
信息发送装置304用根据信息接收程序(后面将要描述的)操作移动终端设备300a的网络接口模块(未示)的计算机(未示)实现,以及诸如此类。关于这一点,信息接收程序被存储在设备300a的存储设备(未示)中。信息发送装置304通过无线通信网络,向固定站内设备300b的信息接收装置305发送从位置信息采集装置301、方向信息采集装置302和图像输入装置303输入的信息(位置信息、方向信息和图像数据)。
在本实施方式中,移动终端设备300a的存储设备已存储与固定站内设备300b进行信息通信的多种程序。例如,设备300a的存储设备已存储有信息通信程序,使计算机执行下列处理:通过无线传输网络向固定站设备发送指示图像拍摄位置的拍摄位置信息、指示图像拍摄方向的方向信息和如此拍摄的图像;和从固定站设备接收由固定站设备利用拍摄位置信息和拍摄方向信息对图像进行字符识别处理所获得的字符或字符串的信息。
下面将描述固定站内设备(固定站设备)300b的功能。信息接收装置305用根据字符识别程序操作固定站内设备300b的网络接口模块(未示)的计算机(未示)实现,以及诸如此类。关于这一点,字符识别程序存储在设备300b的存储设备(未示)中。信息接收装置305通过无线通信网络接收从信息发送装置304发送来的信息(位置信息、方向信息和图像数据)。并且信息接收装置305将所接收的信息传送至字符串识别装置307。
地图数据库306用存储设备例如磁盘设备(未示)实现。地图数据库306存储有指示运输网的位置的运输网信息,指示地名和所在区域范围的地名信息,指示大楼名、大楼结构和大楼位置的大楼信息以及指示商店名、商店电话号码和商店地址的商店信息。
字符串识别装置307用根据字符识别程序操作的计算机(未示)或诸如此类实现。装置307根据由信息接收装置305接收的位置信息和方向信息,从地图数据库306提取可能包含在情景图像中的字资料。然后装置307利用所提取的字资料,读取存在于从信息接收装置305输入的情景图像中的字符信息,由此进行字符识别。
在实施方式中,固定站设备300b的存储设备已存储进行字符识别的多种程序。例如,设备300b的存储设备存储有字符识别程序,使计算机进行下列处理:从移动终端设备接收由移动终端设备拍摄的图像、指示图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;根据从移动终端设备接收到的拍摄位置信息和方向信息,确定移动终端设备所拍摄的目标的范围;从存储有位置相关信息的位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;利用所提取的位置相关信息,识别包含在从移动终端设备接收到的图像中的字符或字符串;和经过通信网络向移动终端设备发送如此识别的字符或字符串的信息。
此外,在本实施方式中,摄像装置用图像输入装置303实现。位置测量装置用位置信息采集装置301实现。方向检测装置用方向信息采集装置302实现。移动终端侧信息发送装置用信息发送装置304实现。位置相关信息存储装置用地图数据库306实现。位置相关信息提取装置和字符识别装置用字符串识别装置307实现。移动站侧信息发送装置用计算机和固定站内设备300b的网络接口模块实现。移动站侧信息接收装置用计算机和移动终端设备300a的网络接口模块实现。输出装置用移动终端设备的计算机、显示模块(未示)和语音输出模块(未示)来实现。
下面将描述操作。图13是信息采集处理的示例流程图,那里,移动终端设备300a采集位置信息、方向信息和情景图像数据。图14是由固定站内设备300b执行的信息识别处理的示例流程图。
首先描述移动终端设备300a的操作。图像输入装置303拍摄情景,输出图像数据(步骤S31)。位置信息采集装置301测量图像输入装置303的位置由此采集位置信息(步骤S32)。方向信息采集装置302检测图像输入装置303的方向由此采集方向信息(步骤S33)。信息发送装置304通过无线通信网络,向固定站内设备300b发送从图像输入装置303、位置信息采集装置301和方向信息采集装置302来的图像数据、位置信息和方向信息(步骤S34)。
当固定站内设备300b执行字符识别处理(后面将描述)并发送字符识别的结果信息时,移动终端设备300a通过无线通信网络从固定站内设备300b接收字符识别的结果信息(步骤S35)。字符识别的结果信息由移动终端设备300a方面的移动站的用户等等使用。例如,设备300a在显示模块上显示所接收到的字符识别的结果信息,从而将信息提供给用户。再例如,移动终端设备300a可将所接收到的字符识别结果信息传送给语音输出模块,从而将信息提供给用户。
当接收到字符识别结果信息时,移动终端设备300a确定是否有处理结束的指示由用户等等输入(步骤S36)。如果确定有处理结束的指示输入,设备300a就终止信息采集处理。如果不确定有处理结束的指示输入,则设备300a再次返回步骤S31的处理,重复执行从步骤S31至S36的处理。
下面描述固定站内设备300b的操作。信息接收装置305通过无线通信网络,从移动终端设备300a的信息发送装置304接收情景图像数据、位置信息和方向信息(步骤S41)。字符串识别装置307根据接收到的位置信息和接收到的方向信息,从地图数据库306中提取可能包含在情景图像中的字资料。然后,字符串识别装置307利用所提取的字资料识别情景图像中的字符(步骤S42)。
当字符识别完成时,固定站内设备300b通过无线通信网络向移动终端设备300a发送字符识别的结果信息(步骤S43)。
当发送字符识别结果信息时,固定站内设备300b确定固定站的负责人等等是否输入处理结束的指示(步骤S44)。如果确定有处理结束的指示输入,设备300b就终止字符识别处理。如果不确定有处理结束的指示输入,设备300b就再次返回到步骤S41的处理,重复执行从步骤S41至步骤S44的处理。
如上所述,根据本实施方式,因为移动终端设备300a不需要包括地图数据库和字符识别装置,所以移动终端设备能简化。
顺便说说,在本实施方式中,固定站内设备300b可进一步包括文档数据库。在这种情况下,设备300b的字符串识别装置307可利用从地图数据库306提取的字作为检索关键字,从文档数据库中提取文档信息。装置307可利用文档信息进行字符串识别。通过这一操作,能提高对不直接与位置信息有关的字符串的字符识别精度。
实施方式4
下面将参考附图描述本发明的第四实施方式。图15是移动通信系统结构的另一示例方框图,其中移动终端设备的固定站内设备通过无线传输路径彼此通信。如图15所示,移动通信系统包括安装在可移动的移动站内的移动终端设备400a(例如装在汽车上的汽车导航终端设备)和安装在固定站内的固定站内设备400b。此外,设备400a包括位置信息采集装置401、方向信息采集装置402、图像输入装置403、位置和方向信息发送装置404、文档信息接收装置405、字符串识别装置406和移动终端侧地图数据库407。还有,固定站内设备400b包括位置和方向信息接收装置408、文档数据库检索装置409、固定站侧地图数据库410、文档数据库411和文档信息发送装置412。
下面将描述移动终端设备400a的操作。图像输入装置403用移动摄像机或诸如此类实现。装置403向字符串识别装置406输出情景图像数据。
位置信息采集装置401用GPS接收机或诸如此类实现。当拍摄情景时装置401测量图像输入装置403的位置,由此获得纬度/经度(位置信息)。然后,装置401将所得到的位置信息传送至位置和方向信息发送装置404。
方向信息采集装置402用陀螺仪或诸如此类实现。当拍摄情景时装置402检测图像输入装置403的方向(东、西、南、北),由此获得方向信息。然后装置402向位置和方向信息发送装置404输出所得到的方向信息。
位置和方向信息发送装置404用根据字符识别程序操作移动终端设备400a的网络接口模块(未示)的计算机(未示)实现,以及诸如此类。关于这一点,字符识别程序存储在设备400a的存储设备(未示)中。位置和方向信息发送装置404通过无线通信网络,向固定站内设备400b的位置和方向信息接收装置408发送从位置信息采集装置401和方向信息采集装置402输入的信息(位置信息和方向信息)。
文档信息接收装置405用根据字符识别程序操作移动终端设备400a的网络接口模块的计算机实现,以及诸如此类。文档信息接收装置405通过无线通信网络从固定站内设备400b接收文档信息,以向字符串识别装置406输出该信息。
字符串识别装置406用根据字符识别程序进行操作的计算机实现。字符串识别装置406除了利用从移动终端侧地图数据库407提取的字资料以外,还利用从固定站内设备400b接收的文档信息进行字符识别处理。
关于这一点,移动终端侧地图数据库407功能和实现的方法几乎与第二实施方式中所示的地图数据库203相同。
在本实施方式中,移动终端设备400a的存储设备已存储执行字符识别处理的多种程序。例如,设备400a的存储设备存储有字符识别程序使计算机执行下列处理:通过通信网络向固定站设备发送指示图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;从固定站设备接收非位置相关信息,它是与指示各个地点位置的各个位置信息无关的字,并且是由固定站设备利用拍摄位置信息和拍摄方向信息确定的;和利用从固定站设备接收到的非位置相关信息,识别包含在移动终端设备所拍摄的图像中的字符或字符串。
下面将描述固定站内设备(固定站设备)400b的功能。位置和方向信息接收装置408用根据信息提取程序(后面将描述)操作固定站内设备400b的网络接口模块(未示)的计算机(未示)实现,以及诸如此类。关于这一点,信息提取程序存储在设备400b的存储设备(未示)中。位置和方向信息接收装置408通过无线通信网络,接收从位置和方向信息发送装置404发送来的信息(位置信息和方向信息)。位置和方向信息接收装置408将接收到的信息传送至文档数据库检索装置409。
固定站侧地图数据库410和文档数据库411的功能和实现方法几乎分别与第二实施方式中所示的地图数据库203和文档数据库205相同。
文档数据库检索装置409用根据信息提取程序进行操作的计算机(未示)或诸如此类实现。装置409根据由位置和方向信息接收装置408接收到的位置信息和方向信息,对整个固定站侧地图数据库410进行检索,并从数据库410中提取字资料。另外,装置409利用所提取的字资料作为检索关键字,对整个文档数据库411进行检索以提取相关文档。然后,文档数据库检索装置409向文档信息发送装置412输出所提取的文档信息。
在本实施方式中,固定站设备400b的存储设备已存储进行信息提取处理的多种程序。例如,设备400b的存储设备存储有信息提取程序,使计算机执行下列处理:从移动站设备接收指示移动站设备所拍摄的图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;根据从移动站设备接收到的拍摄位置信息和拍摄方向信息,确定移动站设备所拍摄的目标的范围;从存储有位置相关信息的固定站侧位置相关信息存储装置中,提取与包含在范围内的位置有关的位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;根据从固定站侧位置相关信息存储装置所提取的位置相关信息,从存储有非位置相关信息的非位置相关信息存储装置中,提取非位置相关信息,它是与位置信息无关的字;和通过通信网络向移动站设备发送所提取的非位置相关信息。
此外,在本实施方式中,用图像输入装置403实现摄像装置。用位置信息采集装置401实现位置测量装置。用方向信息采集装置402实现方向检测装置。用位置和方向信息发送装置404实现移动终端所各信息发送装置。用字符串识别装置406实现移动终端侧的字符识别装置和位置相关信息提取装置。用固定站侧地图数据库410实现固定站侧位置相关信息存储装置。用文档数据库检索装置409实现固定站侧位置相关信息提取装置和非位置相关信息提取装置。用文档数据库411实现非位置相关信息存储装置。用文档信息发送装置412实现固定站侧信息发送装置。用移动终端侧地图数据库407实现移动站侧位置相关信息存储装置。
下面将描述操作。图16是由移动终端设备400a执行字符识别处理的处理进程示例图。此外,图17是由固定站内设备400b执行提取文档信息的文档信息提取处理的处理进程示例图。
首先,将描述移动终端设备400a的操作。位置信息采集装置401测量图像输入装置403的位置由此采集位置信息(步骤S52)。方向信息采集装置402检测图像输入装置403的方向由此采集方向信息(步骤S53)。位置和方向信息发送装置404通过无线通信网络向固定站内设备400b发送从位置信息采集装置401和方向信息采集装置402来的位置信息和方向信息(步骤S54)。
当固定站内设备400b执行后面将描述的文档信息提取处理和发送文档信息时,文档信息接收装置405通过无线通信网络从固定站内设备400b接收文档信息(步骤S55)。
关于这一点,在步骤S54已发送位置信息和方向信息后,移动终端设备400a进入等待状态,逗留在这里不执行下一步骤S56的处理,直至从固定站内设备400b接收到文档信息。在这种情况下,移动终端设备400a在等待处理的同时也可不利用从固定站内设备400b来的文档信息而执行能事先执行的处理。例如,即使在接收到文档信息以前,移动终端设备400a也可通过假定各个方向上的背景图像中的一个字符的范围进行字符识别。
当接收到文档信息时,字符串识别装置406基于位置信息和方向信息以及从固定站内设备400b接收到的文档信息,利用从移动终端侧地图数据库407提取的字资料,对从图像输入装置403来的图像中的字符串进行识别(步骤S56)。关于这一点,根据位置信息和方向信息从移动终端侧地图数据库407提取字资料例如大楼名和商店名的方法,类似于第一实施方式中所示的方法。
当字符识别完成时,移动终端设备400a确定是否有处理结束的指示由用户等等输入(步骤S57)。如果确定有处理结束的指示输入,移动终端设备400a就终止字符识别处理。如果不确定有处理结束的指示输入,移动终端设备400a就再次返回到步骤S51的处理,重复执行从步骤S51至步骤S57的处理。
字符识别结果信息由移动终端设备400a侧的移动站用户等等使用。例如,移动终端设备400a可在显示模块(未示)显示结果信息,从而向用户提供信息。另外,移动终端设备400a可向语音输出模块(未示)或诸如此类输出结果信息,从而向用户提供信息。
下面将描述固定站内设备400b的操作。在步骤S54位置和方向信息接收装置408通过无线通信网络,接收从移动终端设备400a的位置和方向信息发送装置404发送来的位置信息和方向信息(步骤S61)。然后,装置408向文档数据库检索装置409输出接收到的位置和方向信息。
文档数据库检索装置409根据接收以的位置和方向信息参照固定站侧地图数据库410,从数据库410中提取字资料。文档数据库检索装置409利用所提取的字资料作为检索关键字对整个文档数据库411进行检索,从文档数据库411中提取有关的文档信息(步骤S62)。然后,装置409向文档信息发送装置412输出所提取的文档信息。
文档信息发送装置412通过无线通信网络向移动终端设备400a发送文档信息(步骤S63)。在文档发送以后,固定站内设备400b确定是否有处理结束的指示由固定站的负责人等等输入(步骤S64)。如果确定有处理结束的指示输入,固定站内设备400b就终止字符识别处理。如果不确定有处理结束的指示输入,固定站内设备400b就再次返回步骤S61的处理,重复执行从步骤S61至步骤S64的处理。
如上所述,根据本实施方式,固定站内设备400b包括文档数据库411,以便在设备400b方面执行文档信息检索处理。文档数据库的检索时间根据文档数据库的大小有显著的变化。另外,与其他的处理相比文档数据库检索处理花费长的处理时间。根据本实施方式,因为文档数据库检索处理是在固定站中进行,所以移动终端设备400a的处理负担减轻,与第二实施方式相比,移动终端设备400a需要的计算性能等于或稍差于第二实施方式。另外,因为文档数据库以统一方式由固定站方面控制,所以容易维护并且能改善维护性能。
顺便说说,当固定站内设备400b向移动终端设备400a发送信息时,也可以考虑这样一种结构,其中从固定站侧地图数据库410提取的字资料也连同字符信息一起发送。在本实施方式中,有限制地进行文档信息的传输,因此能减少从固定站内设备400b向移动终端设备400a发送的数据量。
进一步说,在本实施方式中,已描述的一种情况是固定站内设备400b只发送文档信息。但是,设备400b除发送文档信息以外,也可将从固定站侧地图数据库410提取的字资料发送至移动终端设备400a。在这种情况下,设备400a也可以不包括移动终端侧地图数据库407,只利用从固定站内设备400b接收到的信息进行字符识别。在整个操作中,移动终端设备400a的处理负担与只发送文档信息的情况相比,能进一步减轻,因此对设备400a来说不需要高的计算性能。
根据本发明的字符识别设备能应用于包含终端设备例如车装汽车导航终端设备和便携式电话的系统。例如,当装置应用于包含汽车导航设备或诸如此类的系统时,已检测到指示目的地的标志牌的消息能被通知给驾驶员。另外,当至目的地的路程被引导给驾驶员时,能通过指示道路引导标志等等提供道路引导信息。还有,在汽车行驶时,与驾驶员的兴趣相配的环境信息或诸如此类也能提供给驾驶员。例如,利用从字符识别设备来的字符识别结果,能向驾驶员提供信息,例如“看到了目标面条商店的标志牌”,“在下一个立有引导标志(至Ginza)的交叉路口左拐弯”,“你所喜爱的画家展正在右前方的一家百货公司举行”。

Claims (22)

1.一种字符识别设备,其特征在于包括:
摄像装置,其用于拍摄图像;
位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;
方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;
位置相关信息存储装置,其用于存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;
位置相关信息提取装置,其用于基于拍摄位置信息和拍摄方向信息,确定摄像装置所拍摄的目标的范围,并从位置相关信息存储装置中提取与包含在所述范围内的位置有关的位置相关信息;和
字符识别装置,其用于利用由所述位置相关信息提取装置提取的位置相关信息,识别包含在摄像装置所拍摄的图像中的字符或字符串。
2.根据权利要求1所述的字符识别设备,其特征在于包括:
非位置相关信息存储装置,其用于在其中存储非位置相关信息,它是与位置信息无关的字;和
非位置相关信息提取装置,其用于根据由位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息,其中,
字符识别装置利用由位置相关信息提取装置提取的位置相关信息,和由非位置相关信息提取装置提取的非位置相关信息,识别包含在图像中的字符或字符串。
3.根据权利要求2所述的字符识别设备,其特征在于:
非位置相关信息存储装置存储一组与位置信息无关的字并且包括至少一个相当于位置相关信息的字,作为非位置相关信息;和
非位置相关信息提取装置利用由位置相关信息提取装置提取的位置相关信息作为关键字,从非位置相关信息存储装置中提取非位置相关信息。
4.一种移动通信系统,其中移动终端设备和固定站设备通过无线传输路径彼此通信,其特征在于:
移动终端设备包括:
摄像装置,其用于拍摄图像;
位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;
方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;和
在移动终端侧的信息发送装置,其用于通过通信网络向固定站设备发送拍摄位置信息、拍摄方向信息和摄像装置所拍摄的图像;和
固定站设备包括:
位置相关信息存储装置,其用于在其中存储位置相关信息,位置相关信息是与指示各个地点位置的各个位置信息有关的字;
位置相关信息提取装置,其用于基于从移动终端侧的信息发送装置接收到的拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围,并从位置相关信息存储装置中提取与包含在所述范围内的位置有关的位置相关信息;
字符识别装置,其用于利用由位置相关信息提取装置提取的位置相关信息,识别包含在从移动终端侧的信息发送装置接收到的图像中的字符或字符串;和
固定站侧的信息发送装置,其用于通过通信网络向移动终端设备发送由字符识别装置识别的字符或字符串的信息。
5.根据权利要求4所述的移动通信系统,其特征在于固定站设备包括:
非位置相关信息存储装置,其用于在其中存储非位置相关信息,它是与位置信息无关的字;和
非位置相关信息提取装置,其用于根据由位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息,其中,
字符识别装置利用由位置相关信息提取装置提取的位置相关信息,和由非位置相关信息提取装置提取的非位置相关信息,识别包含在图像中的字符或字符串。
6.根据权利要求4或5所述的移动通信系统,其特征在于包括:
移动终端侧信息接收装置,其用于通过通信网络从固定站侧信息发送装置接收由字符识别装置识别的字符或字符串的信息;和
输出装置,其用于输出字符或字符串的信息。
7.一种移动通信系统,其中移动终端设备和固定站设备通过无线传输路径彼此通信,其特征在于:
移动终端设备包括:
摄像装置,其用于拍摄图像;
位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;
方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;
移动终端侧信息发送装置,其用于通过通信网络向固定站设备发送拍摄位置信息和拍摄方向信息;和
字符识别装置,其用于识别包含在摄像装置所拍摄的图像中的字符或字符串;和
固定站设备包括:
固定站侧位置相关信息存储装置,其用于在其中存储位置相关信息,它是与指示各个地点位置的各个位置信息有关的字;
固定站侧位置相关信息提取装置,其用于基于从移动终端侧信息发送装置接收到的拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围,并从固定站侧位置相关信息存储装置中提取与包含在所述范围内的位置有关的位置相关信息;
非位置相关信息存储装置,其用于在其中存储非位置相关信息,非位置相关信息是与位置信息无关的字;
非位置相关信息提取装置,其用于根据由固定站侧位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息;和
固定站侧信息发送装置,其用于通过通信网络向移动终端设备发送由非位置相关信息提取装置提取的非位置相关信息,其中,
字符识别装置利用从固定站侧信息发送装置接收到的非位置相关信息,识别包含在图像中的字符或字符串。
8.根据权利要求7所述的移动通信系统,其特征在于:
移动终端设备包括:
移动终端侧位置相关信息存储装置,其用于存储位置相关信息,位置相关信息是与指示各个地点位置的各个位置信息有关的字;和
移动终端侧位置相关信息提取装置,其用于基于拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围,并从移动终端侧位置相关信息存储装置中提取与包含在所述范围内的位置有关的位置相关信息,其中,
字符识别装置利用从固定站侧信息发送装置接收到的非位置相关信息,和由移动终端侧位置相关信息提取装置提取的位置相关信息,识别包含在图像中的字符或字符串。
9.根据权利要求7的移动通信系统,其特征在于:
固定站侧信息发送装置通过通信网络向移动终端设备发送由固定站侧非位置相关信息提取装置提取的非位置相关信息,和位置相关信息提取装置提取的位置相关信息;和
字符识别装置利用从固定站侧信息发送装置接收到的非位置相关信息和位置相关信息,识别包含在图像中的字符或字符串。
10.根据权利要求7至9中的一项所述的移动通信系统,其特征在于:
非位置相关信息存储装置存储非位置相关信息,非位置相关信息是一组与位置信息无关的字并且包括至少一个相当于位置相关信息的字;和
非位置相关信息提取装置利用由固定站侧位置相关信息提取装置提取的位置相关信息作为关键字,从非位置相关信息存储装置中提取非位置相关信息。
11.一种移动终端设备,其与执行字符识别处理以识别包含在图像中的字符或字符串的固定站设备进行信息通信,其特征在于包括:
摄像装置,其用于拍摄图像;
位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;
方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;
移动终端侧信息发送装置,其用于通过通信网络向固定站设备发送拍摄位置信息、拍摄方向信息和摄像装置所拍摄的图像;和
移动终端侧信息接收装置,其用于从固定站设备接收由固定站设备利用拍摄位置信息和拍摄方向信息对图像进行字符识别处理所获得的字符或字符串的信息。
12.一种固定站设备,其与移动终端设备进行信息通信,其特征在于包括:
固定站侧信息接收装置,其用于从移动终端设备接收移动终端设备所拍摄的图像、指示图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;
位置相关信息存储装置,其用于存储位置相关信息,位置相关信息是与指示各个地点位置的位置信息有关的字;
位置相关信息提取装置,其用于基于从移动终端设备接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备所拍摄的目标范围,并从位置相关信息存储装置中提取与包含在所述范围中的位置有关的位置相关信息;
字符识别装置,其用于利用由位置相关信息提取装置提取的位置相关信息,识别包含在从移动终端设备接收到的图像中的字符或字符串;和
固定站侧信息发送装置,其用于通过通信网络向移动终端设备发送由字符识别装置识别的字符或字符串。
13.根据权利要求12所述的固定站设备,其特征在于包括:
非位置相关信息存储装置,其用于存储非位置相关信息,非位置相关信息是与位置信息无关的字;和
非位置相关信息提取装置,其用于根据由位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息,其中,
字符识别装置利用由位置相关信息提取装置提取的位置相关信息,和由非位置相关信息提取装置提取的非位置相关信息,识别包含在图像中的字符或字符串。
14.一种移动终端设备,其与固定站设备进行信息通信并对包含在图像中的字符或字符串进行字符识别处理,其特征在于包括:
摄像装置,其用于拍摄图像;
位置测量装置,其用于测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;
方向检测装置,其用于检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;
移动终端侧信息发送装置,其用于通过通信网络向固定站设备发送拍摄位置信息和拍摄方向信息;
移动终端侧信息接收装置,其用于从固定站设备接收非位置相关信息,非位置相关信息是与指示各个地点位置的各个位置信息无关的字并且是由固定站设备利用拍摄位置信息和拍摄方向信息确定的;和
字符识别装置,其用于利用由移动终端侧信息接收装置接收到的非位置相关信息,识别包含在摄像装置所拍摄的图像中的字符或字符串。
15.根据权利要求14所述的移动终端设备,其特征在于包括:
移动终端侧位置相关信息存储装置,其用于存储位置相关信息,存储位置相关信息是与指示各个地点位置的各个位置信息有关的字;和
移动终端侧位置相关信息提取装置,其用于基于拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围,并从移动终端侧位置相关信息存储装置中提取与包含在所述范围内的位置有关的位置相关信息,其中,
字符识别装置利用由移动终端侧信息接收装置接收到的非位置相关信息,和由移动终端侧位置相关信息提取装置提取的位置相关信息,识别包含在图像中的字符或字符串。
16.一种固定站设备,其与执行字符识别处理以识别包含在图像中的字符或字符串的移动终端设备进行信息通信,其特征在于包括:
固定站侧信息接收装置,其用于从移动终端设备接收指示移动终端设备所拍摄的图像拍摄位置的拍摄位置信息和指示图像拍摄方向的拍摄方向信息;
固定站侧位置相关信息存储装置,其用于在其中存储位置相关信息,位置相关信息是与指示各个地点位置的各个位置信息有关的字;
固定站侧位置相关信息提取装置,其用于基于由固定站侧信息接收装置接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备所拍摄的目标的范围,并从固定站侧位置相关信息存储装置中提取与包含在所述范围内的位置有关的位置相关信息;
非位置相关信息存储装置,其用于存储非位置相关信息,非位置相关信息是与位置信息无关的字;
非位置相关信息提取装置,其用于根据由固定站侧位置相关信息提取装置提取的位置相关信息,从非位置相关信息存储装置中提取非位置相关信息;和
固定站侧信息发送装置,其用于通过通信网络向移动终端设备发送由非位置相关信息提取装置提取的非位置相关信息。
17.根据权利要求16所述的固定站设备,其特征在于:固定站侧信息发送装置发送由非位置相关信息提取装置提取的非位置相关信息,和由固定站侧位置相关信息提取装置提取的位置相关信息。
18.一种字符识别方法,其特征在于包括:
摄像装置拍摄图像;
位置测量装置测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;
方向检测装置检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;
位置相关信息提取装置基于拍摄位置信息和拍摄方向信息,确定摄像装置的拍摄目标的范围;
位置相关信息提取装置从存储位置相关信息的位置相关信息存储装置中提取与包括在所述范围内的位置有关的位置相关信息,位置相关信息是与指示各个地点位置的各个位置信息有关的字;和
字符识别装置利用由位置相关信息提取装置提取的位置相关信息,识别包含在摄像装置所拍摄的图像中的字符或字符串。
19.根据权利要求18所述的字符识别方法,其特征在于进一步包括;
非位置相关信息提取装置根据由位置相关信息提取装置提取的位置相关信息,从在其中存储非位置相关信息的非位置相关信息存储装置中提取非位置相关信息,非位置相关信息是与位置信息无关的字;和
字符识别装置利用由位置相关信息提取装置提取的位置相关信息,和由非位置相关信息提取装置提取的非位置相关信息,识别包含在图像中的字符或字符串。
20.一种识别包含在图像中的字符或字符串的字符识别方法,其应用在其中移动终端设备和固定站设备通过无线传输路径彼此通信的移动通信系统中,其特征在于包括:
移动终端设备拍摄图像;
移动终端设备测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;
移动终端设备检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;
移动终端设备通过通信网络向固定站设备发送拍摄位置信息、拍摄方向信息和摄像装置所拍摄的图像;
固定站设备基于从移动终端设备接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备的拍摄目标的范围;
固定站设备从存储位置相关信息的位置相关信息存储装置中,提取与包含在所述范围内的位置有关的位置相关信息,位置相关信息是与指示各个地点位置的各个位置信息有关的字;
固定站设备利用提取的位置相关信息,识别包含在从移动终端设备接收到的图像中的字符或字符串;和
固定站设备通过通信网络向移动终端设备发送字符或字符串的信息。
21.根据权利要求20所述的字符识别方法,其特征在于进一步包括:
移动终端设备通过通信网络从固定站设备接收由固定站设备识别的字符或字符串;和
移动终端设备输出字符或字符串的信息。
22.一种识别包含在图像中的字符或字符串的字符识别方法,其应用在其中移动终端设备和固定站设备通过无线传输路径彼此通信的移动通信系统中,其特征在于包括:
移动终端设备拍摄图像;
移动终端设备测量图像的拍摄位置以获得指示拍摄位置的拍摄位置信息;
移动终端设备检测图像的拍摄方向以获得指示拍摄方向的拍摄方向信息;
移动终端设备通过通信网络向固定站设备发送拍摄位置信息和拍摄方向信息;
固定站设备基于从移动终端设备接收到的拍摄位置信息和拍摄方向信息,确定移动终端设备的拍摄目标的范围;
固定站设备从存储位置相关信息的固定站侧位置相关信息存储装置中,提取与包含在所述范围内的位置有关的位置相关信息,位置相关信息是与指示各个地点位置的各个位置信息有关的字;
固定站设备根据从固定站侧位置相关信息存储装置中提取的位置相关信息,从存储非位置相关信息的非位置相关信息存储装置中提取非位置相关信息,非位置相关信息是与位置信息无关的字;
固定站设备通过无线传输网络向移动终端设备发送所提取的非位置相关信息;和
移动站设备利用从固定站设备接收到的非位置相关信息,识别包含在移动终端设备所拍摄的图像中的字符或字符串。
CNB2004800422741A 2004-01-08 2004-12-03 移动通信系统、移动终端和固定站设备,字符识别设备、方法和程序 Active CN100433050C (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004002848 2004-01-08
JP002848/2004 2004-01-08

Publications (2)

Publication Number Publication Date
CN1926559A CN1926559A (zh) 2007-03-07
CN100433050C true CN100433050C (zh) 2008-11-12

Family

ID=34747061

Family Applications (1)

Application Number Title Priority Date Filing Date
CNB2004800422741A Active CN100433050C (zh) 2004-01-08 2004-12-03 移动通信系统、移动终端和固定站设备,字符识别设备、方法和程序

Country Status (5)

Country Link
US (2) US7916948B2 (zh)
EP (1) EP1703445A4 (zh)
JP (1) JP4591353B2 (zh)
CN (1) CN100433050C (zh)
WO (1) WO2005066882A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108427947A (zh) * 2018-03-16 2018-08-21 联想(北京)有限公司 一种图像识别方法及电子设备

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4707536B2 (ja) * 2005-10-31 2011-06-22 アイシン・エィ・ダブリュ株式会社 道路ペイント認識システム、道路ペイント認識方法及び道路ペイントデータベースの作成方法
JP4755556B2 (ja) * 2006-09-04 2011-08-24 クラリオン株式会社 車載装置
KR100775123B1 (ko) 2006-09-15 2007-11-08 삼성전자주식회사 영상 객체 인덱싱 방법 및 이를 이용한 영상 객체 인덱싱시스템
JP4746568B2 (ja) * 2007-01-16 2011-08-10 ヤフー株式会社 情報提供装置、情報提供方法、及びプログラム
IL184179A0 (en) * 2007-06-24 2008-03-20 Rdc Rafael Dev Corp Ltd A method and apparatus for connecting a cellular telephone user to the internet
US8208024B2 (en) * 2007-11-30 2012-06-26 Target Brands, Inc. Communication and surveillance system
TWI403156B (zh) 2008-08-08 2013-07-21 尼康股份有限公司 Carrying information machines, photographic devices, and information acquisition systems
US20100157848A1 (en) * 2008-12-22 2010-06-24 Qualcomm Incorporated Method and apparatus for providing and utilizing local maps and annotations in location determination
US8938211B2 (en) 2008-12-22 2015-01-20 Qualcomm Incorporated Providing and utilizing maps in location determination based on RSSI and RTT data
US8938355B2 (en) * 2009-03-13 2015-01-20 Qualcomm Incorporated Human assisted techniques for providing local maps and location-specific annotated data
US9129163B2 (en) * 2009-06-24 2015-09-08 Here Global B.V. Detecting common geographic features in images based on invariant components
US8953838B2 (en) * 2009-06-24 2015-02-10 Here Global B.V. Detecting ground geographic features in images based on invariant components
US8761435B2 (en) * 2009-06-24 2014-06-24 Navteq B.V. Detecting geographic features in images based on invariant components
KR101662595B1 (ko) 2009-11-03 2016-10-06 삼성전자주식회사 사용자 단말 장치, 경로 안내 시스템 및 그 경로 안내 방법
JP4759638B2 (ja) * 2009-12-25 2011-08-31 株式会社スクウェア・エニックス リアルタイムなカメラ辞書
US8805078B2 (en) 2010-02-08 2014-08-12 Tomtom Germany Gmbh & Co. Kg Methods for digital mapping and associated apparatus
WO2011118428A1 (ja) * 2010-03-26 2011-09-29 日本電気株式会社 要求獲得システム、要求獲得方法、及び要求獲得用プログラム
US9064020B2 (en) * 2010-04-28 2015-06-23 Rakuten, Inc. Information providing device, information providing processing program, recording medium having information providing processing program recorded thereon, and information providing method
CN102062609B (zh) * 2010-06-23 2012-11-14 武汉奋进电力技术有限公司 一种智能物品取放导航系统及导航方法
JP5647919B2 (ja) 2011-03-07 2015-01-07 株式会社Nttドコモ 文字認識装置、文字認識方法、文字認識システム、および文字認識プログラム
US9082035B2 (en) 2011-08-29 2015-07-14 Qualcomm Incorporated Camera OCR with context information
JP5845764B2 (ja) * 2011-09-21 2016-01-20 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
US8965971B2 (en) * 2011-12-30 2015-02-24 Verisign, Inc. Image, audio, and metadata inputs for name suggestion
US9063936B2 (en) 2011-12-30 2015-06-23 Verisign, Inc. Image, audio, and metadata inputs for keyword resource navigation links
US9080882B2 (en) 2012-03-02 2015-07-14 Qualcomm Incorporated Visual OCR for positioning
US20140019126A1 (en) * 2012-07-13 2014-01-16 International Business Machines Corporation Speech-to-text recognition of non-dictionary words using location data
CN103050025B (zh) * 2012-12-20 2015-09-09 广东欧珀移动通信有限公司 一种移动终端的学习方法及其学习系统
JP2015219821A (ja) * 2014-05-20 2015-12-07 ソニー株式会社 情報処理装置、管理装置、情報処理方法、およびプログラム
CN104318399A (zh) * 2014-11-10 2015-01-28 深圳市网家缘科技有限公司 一种基于地理位置的招聘信息街拍分享方法及系统
CN105136135B (zh) * 2015-09-01 2017-10-13 上海青橙实业有限公司 信息获取方法及移动终端
CN106845470B (zh) * 2017-02-20 2020-12-11 百度在线网络技术(北京)有限公司 地图数据采集方法和装置
CN106886593A (zh) * 2017-02-21 2017-06-23 百度在线网络技术(北京)有限公司 信息处理方法、装置和服务器
CN107677289B (zh) * 2017-09-30 2020-04-28 百度在线网络技术(北京)有限公司 信息处理方法、装置以及机动车
CN108038427B (zh) * 2017-11-29 2020-06-23 维沃移动通信有限公司 一种文字识别方法及移动终端

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001336941A (ja) * 2000-05-25 2001-12-07 Sony Corp カーナビゲーション装置
JP2003178067A (ja) * 2001-12-10 2003-06-27 Mitsubishi Electric Corp 携帯端末型画像処理システム、携帯端末およびサーバ

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5978520A (en) * 1995-07-31 1999-11-02 Hitachi, Ltd. Method of recognizing image data and apparatus therefor
JPH09114851A (ja) * 1995-10-20 1997-05-02 Fuji Xerox Co Ltd 情報管理装置
US6104833A (en) * 1996-01-09 2000-08-15 Fujitsu Limited Pattern recognizing apparatus and method
US5844505A (en) * 1997-04-01 1998-12-01 Sony Corporation Automobile navigation system
JPH1114384A (ja) * 1997-06-24 1999-01-22 Mitsubishi Electric Corp ナビゲーションシステム、ナビゲーションシステム用地点情報コード作成装置、および情報提供システムとその印刷媒体
US8432414B2 (en) * 1997-09-05 2013-04-30 Ecole Polytechnique Federale De Lausanne Automated annotation of a view
JP3092576B2 (ja) * 1998-01-22 2000-09-25 日本電気株式会社 文字認識装置
GB9809679D0 (en) * 1998-05-06 1998-07-01 Xerox Corp Portable text capturing method and device therefor
JP2000047579A (ja) 1998-07-30 2000-02-18 Nippon Telegr & Teleph Corp <Ntt> 地図データベース更新装置
JP3360030B2 (ja) * 1998-08-06 2002-12-24 日本電信電話株式会社 文字認識装置および文字認識方法および文字認識方法をプログラムの形で記録した記録媒体
JP2002213971A (ja) * 2001-01-17 2002-07-31 Alpine Electronics Inc ナビゲーション装置
US7031875B2 (en) * 2001-01-24 2006-04-18 Geo Vector Corporation Pointing systems for addressing objects
JP4271878B2 (ja) * 2001-03-22 2009-06-03 株式会社日立製作所 映像中の文字検索方法及び装置並びに文字検索処理プログラム
US20030202683A1 (en) * 2002-04-30 2003-10-30 Yue Ma Vehicle navigation system that automatically translates roadside signs and objects
US7346156B1 (en) * 2004-01-29 2008-03-18 Stanacard Llc Methods and apparatuses for placing a telephone call

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001336941A (ja) * 2000-05-25 2001-12-07 Sony Corp カーナビゲーション装置
JP2003178067A (ja) * 2001-12-10 2003-06-27 Mitsubishi Electric Corp 携帯端末型画像処理システム、携帯端末およびサーバ

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108427947A (zh) * 2018-03-16 2018-08-21 联想(北京)有限公司 一种图像识别方法及电子设备

Also Published As

Publication number Publication date
JPWO2005066882A1 (ja) 2007-12-20
US8135218B2 (en) 2012-03-13
US20070189612A1 (en) 2007-08-16
WO2005066882A1 (ja) 2005-07-21
US7916948B2 (en) 2011-03-29
EP1703445A4 (en) 2011-07-27
JP4591353B2 (ja) 2010-12-01
CN1926559A (zh) 2007-03-07
EP1703445A1 (en) 2006-09-20
US20110081084A1 (en) 2011-04-07

Similar Documents

Publication Publication Date Title
CN100433050C (zh) 移动通信系统、移动终端和固定站设备,字符识别设备、方法和程序
CN105517679B (zh) 用户地理位置的确定
US7088389B2 (en) System for displaying information in specific region
CN103827634B (zh) 用于室内定位的徽标检测
KR101082487B1 (ko) 객체 인식시스템 및 이를 이용하는 객체 인식 방법
CN102542905B (zh) 图像处理装置和图像处理方法
CN103262125A (zh) 用于注解兴趣点信息的方法和装置
CN102341672A (zh) 用于提供本地地图和因位置而异的注释数据的人工辅助技术
US20070123270A1 (en) Mobile device product locator
CN102840864A (zh) 一种通过二维码实现定位导航的方法和装置
CN102937452A (zh) 一种基于图像信息码的导航方法、装置和系统
CN111664848B (zh) 一种多模态室内定位导航方法及系统
CN111339976B (zh) 室内定位方法、装置、终端及存储介质
CN101754363A (zh) 一种识别位置的系统、方法及装置
KR20190043405A (ko) 관광지도의 이미지를 인식하는 어플리케이션을 이용한 관광정보 제공 시스템 및 방법
KR20190029412A (ko) 네트워크를 통한 오프라인 매장 정보 제공 방법 및 이에 사용되는 관리 서버
JP2001134595A (ja) 地理情報システム
JP2002197103A (ja) 情報提供方法およびそのシステム
JP2006064443A (ja) ナビゲーション装置
Han et al. Human assisted positioning using textual signs
CN114080600A (zh) 地图表现数据处理装置、信息处理方法、以及程序
JP6790213B2 (ja) 情報提供装置、情報取得装置、情報提供方法、情報取得方法、及びプログラム
US20210207972A1 (en) Architecture recognition method and identification system
JP4426925B2 (ja) 案内センタサーバ及び案内方法
CN108981724A (zh) 信息处理设备和信息处理方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant