CN103810468A - 商品识别装置及商品识别方法 - Google Patents

商品识别装置及商品识别方法 Download PDF

Info

Publication number
CN103810468A
CN103810468A CN201310533195.1A CN201310533195A CN103810468A CN 103810468 A CN103810468 A CN 103810468A CN 201310533195 A CN201310533195 A CN 201310533195A CN 103810468 A CN103810468 A CN 103810468A
Authority
CN
China
Prior art keywords
commodity
distance
identifying object
characteristic quantity
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310533195.1A
Other languages
English (en)
Other versions
CN103810468B (zh
Inventor
宫越秀彦
菅泽広志
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Publication of CN103810468A publication Critical patent/CN103810468A/zh
Application granted granted Critical
Publication of CN103810468B publication Critical patent/CN103810468B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Cash Registers Or Receiving Machines (AREA)

Abstract

本发明公开一种商品识别装置及商品识别方法,其能够防止因摄影距离而导致识别率降低的情况发生,商品识别装置包括:特征量抽取部、距离测量部、文件选择部、相似度计算部及候选输出部。特征量抽取部从通过摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量。距离测量部测量从摄像部到通过该摄像部已摄影的商品的距离。文件选择部从距离分类识别词库文件中选择与通过距离测量部测量出的距离相当的识别词库文件。相似度计算部将通过特征量抽取部抽取出的外观特征量与通过文件选择部选择出的识别词库文件的特征量数据进行核对,并对应每个识别对象商品计算出相似度,所述相似度是表示外观特征量与特征量数据相似到哪种程度的数据。候选输出部基于通过相似度计算部计算出的相似度,将识别对象商品作为识别商品候选进行输出。

Description

商品识别装置及商品识别方法
本申请主张申请日为2012年11月5日、申请号为JP2012-243645的日本申请为优先权,并引用上述申请的内容。
技术领域
本发明涉及一种从通过摄像部摄影的图像数据中识别商品的商品识别装置及商品识别方法。
背景技术
有这样一种技术,从通过摄像部摄影了作为对象的物品(目标物)的图像数据中抽取所述物品的外观特征量,并与识别词库文件所登记的基准图像的特征量数据进行核对,计算出相似度,并根据该相似度识别所述物品的种类等。识别这样的图像中包含的物品的技术被称为一般物体识别(generic object recognition:一般物体识别)。关于该一般物体识别的技术在下列的文献中各种识别技术被说明。
柳井啓司,“一般物体認識の現状と今後”,情報処理学会論文誌,Vol.48,No.SIG16[平成22年8月10日検索],イ  ン  タ  ー  ネ  ッ  ト  <URL:http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf>(柳井启司,“一般物体识别的现状与未来”,信息处理学会论文志,Vol.48,No.SIG16“平成22年8月10日检索”,互联网<URL:http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf>)
此外,通过对应每个目标物(目的物)对图像进行区域分割,进行一般物体识别的技术在下列的文献中被说明。
Jamie Shottonら,“Semantic Texton Forests forImage Categorization and Segmentation”,[平成22年8月10日検索],インターネット<URL:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf>(Jamie Shottonら(杰米肖顿等人),“Semantic Texton Forests for Image Categorization andSegmentation:”,“平成22年8月10日检索”,互联网<URL:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf>)。
近年来,提案有诸如在小卖店的结账系统(POS系统)中,向顾客所购买的商品,尤其象蔬菜、水果等那样未附有条形码的商品的识别装置应用上述的一般物体识别的技术。在这种情况下,虽然操作员(店员或顾客)朝向摄像部对准(举起照亮)识别对象的商品,但是在对准了时,从摄像部到商品的距离未必为一定。其另一方面,摄像部的像素数由于是固定的,所以摄影图像的分辨率会因从摄像部到商品的距离而不同。因此,有这样的一种担心,在比较了从摄影图像抽取的商品的外观特征量和基准图像的特征量数据时,因为摄影图像和基准图像的分辨率不同所以相似度变低,识别率降低。
发明内容
鉴于上述问题,本发明的目的在于提供一种商品识别装置及商品识别方法,其能够防止因从摄像部到商品的距离的变化而导致识别率降低的情况发生。
本发明第一方面涉及的商品识别装置包括:特征量抽取部、距离测量部、文件选择部、相似度计算部及候选输出部。特征量抽取部从通过摄影商品的摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量。距离测量部测量从摄像部到通过该摄像部已摄影的商品的距离。文件选择部从距离分类识别词库文件中选择与通过距离测量部测量出的距离相当的识别词库文件,所述距离分类识别词库文件按照摄影了识别对象商品时的摄影距离保存表示从用所述摄影距离摄影了识别对象商品的图像中获得的所述识别对象商品的表面信息的特征量数据。相似度计算部将通过特征量抽取部抽取出的外观特征量与通过文件选择部选择出的识别词库文件的特征量数据进行核对,并对应每个识别对象商品计算出相似度,所述相似度是表示外观特征量与特征量数据相似到哪种程度的数据。候选输出部基于通过相似度计算部计算出的相似度,将识别对象商品作为识别商品候选进行输出。
本发明第二方面涉及的商品识别装置包括:特征量抽取部,从通过摄影商品的摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量;相似度计算部,将通过所述特征量抽取部抽取出的外观特征量与距离分类识别词库文件的特征量数据进行核对,并对应每个识别对象商品计算出相似度,其中,所述距离分类识别词库文件按在摄影了所述识别对象商品时的摄影距离保存表示从用所述摄影距离摄影了所述识别对象商品的基准图像中获得的所述识别对象商品的表面信息的特征量数据,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;以及候选输出部,基于通过该相似度计算部计算出的所述相似度,将所述识别对象商品作为识别商品候选进行输出。
本发明第三方面涉及的商品识别方法包括:特征量抽取步骤,从通过摄影商品的摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量;文件选择步骤,从距离分类识别词库文件中选择与通过距离测量部测量出的从所述摄像部到通过该摄像部已摄影的商品的距离相当的识别词库文件,所述距离分类识别词库文件按摄影了识别对象商品时的摄影距离保存表示从用所述摄影距离摄影了所述识别对象商品的基准图像中获得的所述识别对象商品的表面信息的特征量数据;相似度计算步骤,将通过所述特征量抽取步骤抽取出的外观特征量与通过所述文件选择步骤选择出的所述识别词库文件的所述特征量数据进行核对,并对应每个所述识别对象商品计算出相似度,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;以及候选输出步骤,基于通过该相似度计算步骤计算出的所述相似度,将所述识别对象商品作为识别商品候选进行输出。
本发明第四方面涉及的商品识别方法包括:特征量抽取步骤,从通过摄影商品的摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量;相似度计算步骤,将通过所述特征量抽取步骤抽取出的外观特征量与距离分类识别词库文件的特征量数据进行核对,并对应每个识别对象商品计算出相似度,其中,所述距离分类识别词库文件按在摄影了所述识别对象商品时的摄影距离保存表示从用所述摄影距离摄影了所述识别对象商品的基准图像中获得的所述识别对象商品的表面信息的特征量数据,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;以及候选输出步骤,基于通过该相似度计算步骤计算出的所述相似度,将所述识别对象商品作为识别商品候选进行输出。
附图说明
下面,参照附图对本发明所涉及的商品识别装置及商品识别方法进行说明。当结合附图考虑时,通过参照下面的详细描述,能够更完整更好地理解本发明以及容易得知其中许多伴随的优点,但此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定,其中:
图1是作为一实施例的店铺结账系统的外观图;
图2是表示该店铺结账系统的扫描装置和POS终端的硬件构成的框图;
图3是表示在第一实施例中识别词库文件所保存的商品分类词库数据的构造的示意图;
图4是表示判定表的数据构造的示意图;
图5是表示向扫描装置的读取窗对准了商品时的状态和此时所摄影的帧图像的一例的示意图;
图6是表示向扫描装置的读取窗对准了商品时的状态和此时所摄影的帧图像的一例的示意图;
图7是表示在第一实施例中扫描装置所具有的作为商品识别装置的功能的框图;
图8是表示在第一实施例中扫描装置的CPU按照商品识别程序执行的信息处理次序的要部的流程图;
图9是具体地表示图8中的识别处理的次序的流程图;
图10是表示在摄影距离为短距离时触摸面板所显示的画面的一例图;
图11是表示在摄影距离为中距离时触摸面板所显示的画面的一例图;
图12是表示在摄影距离为长距离时触摸面板所显示的画面的一例图;
图13是表示在第二实施例中的识别词库文件的构成的示意图;
图14是表示在第二实施例中识别词库文件所保存的商品分类词库数据的构造的示意图;
图15是表示在第二实施例中扫描装置所具有的作为商品识别装置的功能的框图;
图16是表示在第一实施例中扫描装置的CPU按照商品识别程序执行的信息处理次序的要部的流程图;
图17是具体地表示图8中的识别处理的次序的前半部的流程图;以及
图18是具体地表示图8中的识别处理的次序的后半部的流程图。
附图标记说明
1            扫描装置             2           POS终端
12           触摸面板             14          摄像部
15           距离传感器           30、41      短距离词库文件
32           中距离词库文件       33、42      长距离词库文件
71、81       特征量抽取部         72          距离测量部
73           文件选择部             74、82      相似度计算部
75、83       候选输出部             76          第一确定部
77           第二确定部             84          确定部
85           警告部
具体实施方式
下面,参照附图,对商品识别装置的实施例进行说明。另外,本实施例是使构筑将蔬菜、水果等作为商品进行处理的小卖店的店铺结账系统的扫描装置1,具有作为商品识别装置的功能的情况。
第一实施例
图1是店铺结账系统的外观图。该系统包括作为对顾客购买的商品进行登记的登记部的扫描装置1、以及作为对顾客的货款支付进行处理的结算部的POS(Point Of Sales:销售点)终端2。扫描装置1被安装在结账台3上。POS终端2通过拉出装置5设置在收银台4上。扫描装置1和POS终端2通过通信电缆300(参照图2)电气连接。
扫描装置1具有键盘11、触摸面板12及顾客用显示器13。这些显示、操作装置(键盘11、触摸面板12及顾客用显示器13)被安装在构成扫描装置1的主体的薄的矩形形状的外壳1A上。
外壳1A内置有摄像部14。此外,在外壳1A的正表面上形成有矩形形状的读取窗1B。摄像部14具有作为区域图像传感器的CCD(Charge Coupled Device:电荷耦合器件)摄影元件及其驱动电路、用于使摄影区域的图像在CCD摄影元件上成像的摄影透镜。摄影区域就是指从读取窗1B透过摄影透镜在CCD摄影元件的区域上成像的帧图像的区域。摄像部14输出透过摄影透镜在CCD摄影元件上已成像的摄影区域的图像。另外,摄像部14也可以是CMOS(Complementary Metal Oxide Semiconductor:互补金属氧化物半导体)图像传感器。
在所述读取窗1B的附近设有作为后述的距离测量部72的距离传感器15。距离传感器15用作从所述摄像部14到通过该摄像部14已摄影的商品的距离计量。作为这样的距离传感器15可适用有组合红外线LED和光电晶体管的、或者使用超声波、激光的等公知的距离传感器。
POS终端2具有键盘21、操作员用显示器22、顾客用显示器23及票据打印机24,作为结算所需要的设备。
结账台3沿其里侧的顾客通道呈细长形状。收银台4在相对于沿结账台3进行移动的顾客的移动方向下游侧的结账台3的端部跟前侧,与结账台3大致垂直地被放置。而且,该结账台3的跟前侧和收银台4的跟前侧成为负责结账的店员所谓的收银员的空间。
在结账台3的大致中央位置上扫描装置1的外壳1A以键盘11、触摸面板12及读取窗1B分别朝向跟前侧的收银员侧的方式被竖直设置。扫描装置1的顾客用显示器13面向顾客通道侧安装在外壳1A上。
隔着结账台3的扫描装置1的顾客移动方向上游侧的负荷接受面成为用于放置装入有购物顾客购入的未登记的商品M的购物筐6的空间。另一方面,下游侧的负荷接受面成为用于放置购物筐7的空间,该购物筐7用于装入已通过扫描装置1登记的商品M。
图2是表示扫描装置1和POS终端2的硬件构成的框图。扫描装置1具有扫描部101、以及操作、输出部102。扫描部101安装有作为控制部主体的CPU(Central Processing Unit:中央处理器)111。而且,在该CPU111上通过地址总线、数据总线等的总线112连接有ROM(Read Only Memory:只读存储器)113和RAM(RandomAccess Memory:随机存取存储器)114。ROM113存储有后述的商品识别程序等通过CPU111执行的程序。
此外,总线112通过输入输出电路(未图示)连接有所述摄像部14和距离传感器15。此外,总线112通过连接接口115及连接接口116被延长,并在该总线112上连接有所述键盘11、触摸面板12及顾客用显示器13。触摸面板12具有面板型显示器12a、重叠配置在该显示器12a的画面上的触摸面板传感器12b。此外,语音合成部16也与总线112连接。语音合成部16按照通过总线112输入的命令向扬声器17输出语音信号。扬声器17将语音信号转换成语音并进行输出。
所述连接接口116与所述键盘11、触摸面板12、顾客用显示器13及语音合成部16构成所述操作、输出部102。构成操作、输出部102的各部不仅受扫描部101的CPU111的控制,而且还受后述的POS终端2的CPU201的控制。
POS终端2也安装有作为控制部主体的CPU201。而且,在该CPU201上通过总线202连接有ROM203、RAM204、辅助存储部205、通信接口206及连接接口207。此外,所述键盘21、操作员用显示器22、顾客用显示器23、打印机24及拉出装置5的各部也分别通过输入输出电路(未图示)与总线202连接。
通信接口206通过LAN(Local Area Network:局域网)等的网络,与负责店铺中枢的店铺服务器(未图示)连接。通过该连接,POS终端2可与店铺服务器进行数据的发送接收。
连接接口207通过通信电缆300与扫描装置1的两个连接接口115、116连接。通过该连接,POS终端2从扫描装置1的扫描部101接收信息。此外,POS终端2在与构成扫描装置1的操作、输出部102的键盘11、触摸面板12、顾客用显示器13以及语音合成部16之间发送接收数据信号。另一方面,扫描装置1通过该连接向POS终端2的辅助存储部205所保存的数据文件进行访问。
辅助存储部205诸如是HDD(Hard Disk Drive:硬盘驱动器)装置或SSD(Solid State Drive:固态驱动器)装置,其除保存各种程序外,还保存识别词库文件30等的数据文件。在识别词库文件30中有短距离词库文件31、中距离词库文件32及长距离词库文件33三种文件。
图3是表示识别词库文件30所保存的商品分类词库数据的构造的示意图。如图3所示,商品分类词库数据包括对识别对象商品进行识别的商品ID及商品名、适当距离标志F0以及特征量数据。对适当距离标志F0后面将进行描述。特征量数据是从摄影了通过所对应的商品ID识别的商品的基准图像中,抽取作为该商品的表面信息(外观形状、色彩、图案、凹凸状况等)的外观上的特征量,并以参数表示该外观特征量的数据,对于一个识别对象商品,保存有从各个方向观察该商品时的特征量数据0~n。另外,特征量数据的数(n+1)并不固定。此外,特征量数据的数(n+1)因识别对象商品而不同。此外,商品名也可以不一定包含在商品分类词库数据中。
短距离词库文件31保存有包含从基准图像中获得的特征量数据的商品分类词库数据,所述基准图像是在摄影距离为小于预先设定的第一距离D1(cm)时的基准图像,所谓摄影距离是在为了获得基准图像而摄影了识别对象商品时的摄像部(摄像头)和商品的距离。中距离词库文件32保存有包含从基准图像中获得的特征量数据的商品分类词库数据,所述基准图像是在摄影距离为大于等于所述第一距离D1,且小于与该第一距离D1相比长的第二距离D2(cm)时的图像。长距离词库文件33保存有包含从在摄影距离为大于等于所述第二距离D2时的基准图像中获得的特征量数据的商品分类词库数据。
在本实施例中,各识别对象商品的商品分类词库数据被分别保存在短距离词库文件31、中距离词库文件32及长距离词库文件33中。就是说,对应每个识别对象商品事先准备用小于第一距离D1的摄影距离已摄影的第一基准图像、用大于等于第一距离D1且小于第二距离D2的摄影距离已摄影的第二基准图像以及用大于等于第二距离D2的摄影距离已摄影的第三基准图像,并从各基准图像中分别取得特征量数据从而编制商品分类词库数据,并将各个商品分类词库数据登记在符合的摄影距离不同的识别词库文件31~33中。
在这里,对摄影距离和识别率的关系进行说明。
图5及图6是表示向扫描装置1的读取窗1B对准了商品(苹果)M时的状态和此时所摄影的帧图像G1、G2的一例的示意图。图5示出摄影距离短的情况(距离=d1),图6示出摄影距离长的情况(距离=d2:d2>d1)。
如果对图5的帧图像G1和图6的帧图像G2进行比较,则很明显,在从读取窗1B到商品M的距离近时,也就是摄影距离短时商品M相对于帧图像G1的尺寸被较大地映出,在距离远时,也就是摄影距离长时商品M相对于帧图像G2的尺寸被较小地映出。其结果,当将帧图像G1和帧图像G2以同一尺寸的单元划分成格子状时,则映出商品M的单元数与在摄影距离长时相比在短时多。就是说,在摄影距离短时帧图像G1所映出的商品M的分辨率变高,在摄影距离长时分辨率变低。
在一般物体识别的技术中,有这样的倾向,通过摄像部14已摄影的图像的分辨率和基准图像的分辨率越近似识别率越变高。也就是,如图5所示,在从读取窗1B到商品M的距离近时,如果使用短距离词库文件31或中距离词库文件32所保存的特征量数据,则识别率高,而如果是长距离词库文件33所保存的特征量数据则识别率就变低。相反,如图6所示,在从读取窗1B到商品M的距离远时,如果使用长距离词库文件33或中距离词库文件32所保存的特征量数据则识别率高,而如果是短距离词库文件31所保存的特征量数据则识别率就变低。
其另一方面,商品因种类而大小不同。例如,即使是相同的柑橘类,也存在有从象“蜜桔”那样小的到象“植物朱栾”那样大的。当在为尺寸小的识别对象商品时,为了获得长距离词库文件33用的特征量数据而用大于等于第二距离D2的摄影距离摄影识别对象商品时,则基准图像的分辨率显著变低。因此,不能获得可靠度高的特征量数据。相反,当在为尺寸大的识别对象商品时,为了获得短距离词库文件31用的特征量数据而用小于第一距离D1的摄影距离摄影识别对象商品时,则商品图像就会超出图幅帧。因此,还是不能获得可靠性高的特征量数据。所谓的特征量数据的可靠性低就是对于识别结果的可靠性也变低。也就是,在识别商品时,根据其商品的尺寸存在有适当的摄影距离。
在本实施例中,对应每个识别对象商品,将包含从用适当的摄影距离已摄影的基准图像中生成的特征量数据的商品分类词库数据的适当距离标志F0设为“1”,将包含从用不是适当的摄影距离已摄影的基准图像中生成的特征量数据的商品分类词库数据的适当距离标志F0设为“0”。
图7是表示作为商品识别装置的功能的框图。在本实施例中,扫描装置1具有该功能。就是说,扫描装置1具有作为识别向摄像部14的摄像区域对准了的商品M并直到确定作为销售商品的功能的特征量抽取部71、距离测量部72、文件选择部73、相似度计算部74、候选输出部75、第一确定部76及第二确定部77。
特征量抽取部71从通过摄像部14已摄影的图像中抽取所述图像所包含的商品M的外观特征量。距离测量部(距离传感器15)72测量从摄像部14到通过该摄像部14已摄影的商品M的距离。文件选择部73从摄影距离不同的识别词库文件(短距离词库文件31、中距离词库文件32、长距离词库文件33)中,选择与通过距离测量部72测量出的距离相当的识别词库文件3X(X=1、2或3)。
文件选择部73使用图4所示的数据构造的判定表40。判定表40是将短距离词库文件31、中距离词库文件32及长距离词库文件33分别与进行识别的词库文件名相关,设定了所述词库文件所登记的商品分类词库数据所涉及的摄影距离d的范围的表,诸如被存储到RAM114中。就是说,与短距离词库文件31的词库文件名相关,设定有小于第一距离D1的范围,与中距离词库文件32的词库文件名相关,设定有大于等于第一距离D1且小于第二距离D2的范围,与长距离词库文件33的词库文件名相关,设定有大于等于第二距离D2的范围。文件选择部73选择用包含有通过距离测量部72测量出的距离d的范围的词库文件名指定的识别词库文件3X。
相似度计算部74将通过特征量抽取部71抽取出的外观特征量与通过文件选择部73选择出的识别词库文件3X的特征量数据进行核对,并对应每个识别对象商品计算出表示外观特征量与特征量数据相似到哪种程度的相似度。候选输出部75基于通过相似度计算部74计算出的相似度将识别对象商品作为识别商品候选可选择地显示输出给触摸面板12。
第一确定部76将从触摸面板12所显示出的识别商品候选中选择出的识别对象商品确定作为通过摄像部14已摄影的商品M。第二确定部77当通过候选输出部75作为识别商品候选被输出的识别对象商品的最大相似度为大于等于预先设定的确定值,且该最大相似度根据从用适当的摄影距离已摄影的基准图像中获得的特征量数据被计算出时,将具有该最大相似度的识别对象商品确定作为已通过摄像部14摄影的商品。
各部71~77是通过扫描装置1的CPU111按照商品识别程序进行动作来实现的。当商品识别程序起动时,则扫描装置1的CPU111以图8的流程图所示的次序来控制各部。
首先,CPU111将后述的商品确定标志F1复位为“0”(ST1)。商品确定标志F1已被存储在RAM114中。此外,CPU111向摄像部14输出摄像导通信号(ST2)。通过该摄像导通信号,摄像部14开始摄像区域的摄像。通过摄像部14已摄影的摄像区域的帧图像被依次保存在RAM114中。此外,步骤ST1和步骤ST2的处理次序也可以相反。
输出了摄像导通信号的CPU111采集RAM114所保存的帧图像(ST3)。而且,CPU111确认在该帧图像中是否摄影有商品(ST4)。具体地说,CPU111从将帧图像二值化的图像中抽取轮廓线等。而且,CPU111对帧图像所映出的物体的轮廓抽取进行尝试。当物品的轮廓被抽取时,则CPU111将该轮廓内的图像视为商品。
当在帧图像中未摄影有商品时(ST4的否),CPU111从RAM114中采集下一帧图像(ST3)。而且,CPU111确认在该帧图像中是否摄影有商品(ST4)。
当在帧图像中摄影有商品M时(ST4的是),CPU111使距离传感器15动作,测量从摄像部14到商品M的摄影距离d(ST5:距离测量部74)。如果摄影距离d被测量出,则CPU111参照判定表40取得与包含有所述摄影距离d的距离范围相关的词库文件名,并选择用该词库文件名指定的识别词库文件3X(X=1、2、或3)(ST6:文件选择部73)。此外,CPU111从由帧图像中抽取出的轮廓内的图像中抽取商品M的形状、表面的色彩、图案、凹凸状况等的外观特征量(ST7:特征量抽取部71)。此外,步骤ST5、ST6和步骤ST7的处理次序也可以相反。
这样,当选择与摄影距离d相当的识别词库文件3X,而且取得商品M的外观特征量时,则CPU111起动识别处理(ST8)。
图9是表示识别处理的次序的流程图。首先,CPU111访问通过连接接口115连接的POS终端2的辅助存储部205,并检索已选择出的识别词库文件3X(ST21)。而且,CPU111从识别词库文件3X中读入一商品的数据记录(商品ID、商品名、适当距离标志F0、特征量数据0~n)(ST22)。
如果读入了数据记录,则CPU111对应每个所述记录的特征量数据0~n,计算出表示在步骤ST7的处理中抽取出的商品的外观特征量与所述特征量数据0~n相似到哪种程度的相似度。而且,CPU111将对应每个特征量数据0~n计算出的相似度的最大值确定作为通过所述记录的商品ID指定的商品和检测出的商品M的相似度(ST23:相似度计算部74)。另外,被确定的相似度也可以不是对应每个特征量数据0~n计算出的相似度的最大值,而是对应每个特征量数据0~n计算出的相似度的合计值或平均值等。
CPU111确认在步骤ST23的处理中已确定的相似度是否超过预先设定的候选阈值Lmin(ST24)。当相似度未超过候选阈值Lmin时(ST24的否),CPU111前进到步骤ST26的处理。
当相似度超过了候选阈值Lmin时(ST24的是),CPU111将所述记录的商品ID及适当距离标志F0、相似度作为登记商品候选(识别商品候选)的数据存储到RAM114中(ST25)。而后,CPU111前进到步骤ST26的处理。
在步骤ST26中,CPU111确认在识别词库文件3X中是否存在有未处理的数据记录。当存在时(ST26的是),CPU111返回到步骤ST22的处理。就是说,CPU111从识别词库文件3X中读入未处理的数据记录,并执行上述步骤ST23~ST25的处理。
当在识别词库文件3X中未存在有未处理的数据记录时,就是说,如果结束了识别词库文件30的检索(ST26的否),则CPU111确认登记商品候选的数据是否被存储到RAM114中(ST27)。当未存储有登记商品候选的数据时(ST27的否),结束此次的识别处理。
当存储有登记商品候选的数据时(ST27的是),CPU111确认RAM114所存储的登记商品候选的数据的最大相似度是否超过预先设定的确定阈值Lmax(Lmax>Lmin)(ST28)。当最大相似度未超过确定阈值Lmax时(ST28的是),CPU111从RAM114所存储的登记商品候选的数据中按照相似度从大到小顺序选择最大K(K>2)品种的商品。而且,CPU111将已选择的最大K品种的商品作为登记商品候选的商品列表显示在显示器12a上(ST30:候选输出部75)。而且,CPU111确认是否从所述商品列表中选择了任意一个商品(ST31)。例如,当宣告了键盘11的再检索键未被输入选择的情况时(ST33的否),结束此次的识别处理。
另一方面,当通过触摸面板12或键盘11的操作输入从登记商品候选的商品列表中选择了任意一个商品时(ST31的是),CPU111从RAM114中取得所述已选择的商品的商品ID(ST32)。而且,CPU111将该已取得的商品ID确定作为销售商品的商品ID,并通过通信电缆330发送给POS终端2(ST:第一确定部76)。此外,CPU111将商品确定标志F1置位为“1”(ST34)。以上,结束此次的识别处理。
此外,当在步骤ST28中登记商品候选的数据的最大相似度超过确定阈值Lmax时(ST28的是),CPU111调查该登记商品候选的数据所包含的适当距离标志F0(ST29)。当适当距离标志F0处于被复位为“0”时(ST29的否),由于最大相似度是根据通过用不是适当的摄影距离已摄影的基准图像生成的特征量数据被计算出的相似度,所以前进到所述步骤ST30的处理。就是说,CPU111将从登记商品候选的数据中按照相似度从大到小的顺序选择出的最大K品种的商品作为登记商品候选的商品列表显示在显示器12a上。以后,CPU111执行所述步骤ST31~ST34的处理。
针对于此,当适当距离标志F0处于被置位为“1”时(ST29的是),CPU111前进到步骤ST33的处理。就是说,CPU111从RAM114中取得具有最大相似度的商品的商品ID。而且,CPU111将该已取得的商品ID确定作为销售商品的商品ID,并通过通信电缆330发送给POS终端2(ST33:第二确定部77)。此外,CPU111将商品确定标志F1置位为“1”(ST34)。此外,步骤ST33和步骤ST34的处理次序也可以相反。以上,结束此次的识别处理。
当识别处理结束时,则CPU111确认商品确定标志F1是否已被置位为“1”(ST9)。当商品确定标志F1未被置位为“1”时(ST9的否),CPU111返回到步骤ST3。就是说,CPU111采集RAM114所保存的其他帧图像(ST3)。而且,CPU111再次执行所述步骤ST4以后的处理。
当商品确定标志F1已被置位为“1”时(ST9的是),CPU111向摄像部14输出摄像截止信号(ST10)。通过该摄像截止信号,摄像部14停止摄像。以上,结束商品识别程序。
图10是在向读取窗1B对准了的商品M和摄像部14的距离d与第二距离D2相比远时,触摸面板12所显示的画面120的一例图。画面120被划分成图像显示区域121和商品候选区域122。而且,图像显示区域121显示有在步骤ST3的处理中采集到的帧图像。此外,在商品候选区域122中可选择地显示有采用通过步骤ST6的处理选择出的长距离词库文件33的特征量数据,并通过步骤ST9的识别处理获得的K品种(图10中为6品种)的商品,作为登记商品候选。
在长距离词库文件33中保存有包含从在摄影距离为大于等于第二距离D2时的基准图像中获得的特征量数据的商品分类词库数据。因此,由于通过摄像部14已摄影的商品M的图像与基准图像分辨率相似,所以识别率变高。
图11是在向读取窗1B对准了的商品M和摄像部14的距离d与第一距离D1相比远且与第二距离D2相比近时,触摸面板12所显示的画面120的一例图。画面120被划分成图像显示区域121和商品候选区域122。而且,图像显示区域121显示有在步骤ST3的处理中采集到的帧图像。此外,在商品候选区域122中可选择地显示有采用通过步骤ST6的处理选择出的中距离词库文件32的特征量数据并通过步骤ST9的识别处理获得K品种(图11中为6品种)的商品,作为登记商品候选。
在中距离词库文件32中保存有包含从在摄影距离为大于等于所述第一距离D1且小于与该第一距离D1相比长的第二距离D2(cm)时的基准图像中获得的特征量数据的商品分类词库数据。因此,由于通过摄像部14已摄影的商品M的图像与基准图像分辨率相似,所以识别率变高。
图12是在向读取窗1B对准了的商品M和摄像部14的距离d与第一距离D1相比较近时,触摸面板12所显示的画面120的一例图。画面120被划分成图像显示区域121和商品候选区域122。而且,图像显示区域121显示有在步骤ST3的处理中采集到的帧图像。此外,在商品候选区域122中可选择地显示有采用通过步骤ST6的处理选择出的短距离词库文件31的特征量数据并通过步骤ST9的识别处理获得K品种(图12中为6品种)的商品,作为登记商品候选。
在短距离词库文件31中保存有包含从在摄影距离为小于第一距离D1(cm)时的基准图像中获得的特征量数据的商品分类词库数据。因此,由于通过摄像部14已摄影的商品M的图像与基准图像分辨率相似,所以识别率变高。
当在登记商品候选中包含有符合商品M时,用户触摸该商品M等进行选择。通过这样做,符合商品M被确定作为销售商品,并在POS终端2中被销售登记。
此外,在显示有登记商品候选之前,在扫描装置1中判定有登记商品候选的最大相似度是否超过确定阈值Lmax。而且,当最大相似度超过确定阈值Lmax时,检验具有该最大相似度的登记商品候选的数据的适当距离标志F0。在这里,当适当距离标志F0处于被置位为“1”时,通过具有该最大相似度的登记商品候选的商品ID指定的商品被自动地确定作为销售商品,并在POS终端2中被销售登记。
例如,商品“蜜桔”的尺寸小。因此,短距离词库文件31所登记的识别对象商品“蜜桔”的商品分类词库数据的适当距离标志F0处于被置位为意味着可靠性高的“1”。在这种情况下,当用户将商品“蜜桔”向摄像部14与第一距离D1相比较近地对准时,则在扫描装置1中选择有短距离词库文件31。而且,计算出从摄影图像中获得的商品“蜜桔”的外观特征量和短距离词库文件31所登记的识别对象商品“蜜桔”的特征量数据的相似度。在这里,当该相似度为最大相似度且超过确定阈值Lmax时,商品“蜜桔”自动地在POS终端2中被销售登记。因此,用户无需从登记商品候选中选择符合的商品M,就能够将符合商品确定作为销售商品。
根据这样的本实施例,由于根据从向读取窗1B对准了的商品到摄像部14的摄影距离d转换要使用的识别词库文件31、32、33来进行商品识别,所以扫描装置1不论摄影距离d如何都能以高的识别率识别商品。
第二实施例
接着,参照图13~图18对第二实施例进行说明。另外,本实施例也是与第一实施例同样地使扫描装置1具有作为商品识别装置的功能的情况。因此,店铺结账系统的外观图、表示扫描装置1和POS终端2的硬件构成的框图由于与第一实施例通用,所以对通用部分附加相同符号并省略详细的说明。
图13是表示在第二实施例中使用的识别词库文件40的示意图。如图13所示,在第二实施例中作为识别词库文件40采用短距离词库文件41和长距离词库文件42的两种。在短距离词库文件41中保存有包含从在摄影距离为小于预先设定的阈值距离Dx(cm)时的基准图像中获得的特征量数据的商品分类词库数据。在长距离词库文件42中保存有包含从在摄影距离为大于等于所述阈值距离Dx时的基准图像中获得的特征量数据的商品分类词库数据。
图14是表示各识别词库文件41、42所保存的商品分类词库数据的构造的示意图。如图14所示,商品分类词库数据包含对识别对象商品进行识别的商品ID及商品名、多个特征量数据0~n。
正如第一实施例所说明的那样,识别对象商品根据尺寸(大小)有适当的摄影距离。例如,象蜜桔那样尺寸比较小的商品将与阈值距离Dx相比短的摄影距离作为适当距离。与此对应,象植物朱栾那样尺寸比较大的商品将与阈值距离Dx相比较长的摄影距离作为适当距离。
在本实施例中,关于适当的摄影距离小于阈值距离Dx的识别对象商品,将包含从用小于阈值距离Dx的摄影距离所摄影的基本图像中获得的特征量数据的商品分类词库数据保存在短距离词库文件41中。在长距离词库文件42中不保存与所述识别对象商品有关的商品分类词库数据。相反,关于适当的摄影距离大于等于阈值距离Dx的识别对象商品,将包含从用大于等于阈值距离Dx的摄影距离所摄影的基本图像中获得的特征量数据的商品分类词库数据保存在长距离词库文件42中。在短距离词库文件41中不保存与所述识别对象商品有关的商品分类词库数据。
图15是表示作为商品识别装置的功能的框图。在本实施例中,也是扫描装置1具有该功能。就是说,扫描装置1具有作为识别向摄像部14的摄像区域对准了的商品M并直到确定作为销售商品的功能的特征量抽取部81、相似度计算部82、候选输出部83、确定部84及警告部85。
特征量抽取部81从通过摄像部14已摄影的图像中抽取该图像所包含的商品的外观特征量。相似度计算部82将通过特征量抽取部81抽取出的外观特征量与距离分类识别词库文件40(短距离词库文件41和长距离词库文件42两个)的特征量数据进行核对,并对应每个识别对象商品计算出表示外观特征量与特征量数据相似到哪种程度的相似度。候选输出部83按照通过相似度计算部82计算出的相似度从大到小的顺序将识别对象商品作为识别商品候选可选择地显示输出给触摸面板12。警告部85当从识别商品候选中未选择有通过摄像部14已摄影的商品M时,则进行警告,以使改变通过摄像部14已摄影的商品和摄像部14之间的间隔。
各部81~85是通过扫描装置1的CPU111按照商品识别程序进行动作来实现的。当商品识别程序起动时,则扫描装置1的CPU111以图16的流程图所示的次序来控制各部。
在图16中,步骤ST31~ST34与第一实施例的步骤ST1~ST4的处理相同。就是说,CPU111将商品确定标志F1复位为“0”(ST31),并向摄像部14输出摄像导通信号(ST32)。而且,CPU111采集帧图像(ST33),并确认在该帧图像中是否摄影有商品(ST34)。
当在帧图像中未摄影有商品时(ST34的否),CPU111从RAM114中采集下一帧图像(ST33)。而且,CPU111确认在该帧图像中是否摄影有商品(ST34)。
当在帧图像中摄影有商品M时(ST34的是),CPU111从由帧图像中抽取出的轮廓内的图像中,抽取商品M的形状、表面的色彩、图案、凹凸状况等的外观特征量(ST35:特征量抽取部81)。在抽取了外观特征量后,CPU111起动识别处理(ST36)。
图17及图18是表示识别处理的次序的流程图。首先,CPU111访问通过连接接口115连接的POS终端2的辅助存储部205,并检索短距离词库文件41(ST41)。而且,CPU111从短距离词库文件41中读入一商品的数据记录(商品ID、商品名、特征量数据0~n)(ST42)。
如果读入了数据记录,则CPU111对应每个所述记录的特征量数据0~n,计算出表示在步骤ST35的处理中抽取出的商品的外观特征量与所述特征量数据0~n相似到哪种程度的相似度。而且,CPU111将对应每个特征量数据0~n计算出的相似度的最大值确定作为通过所述记录的商品ID指定的商品和检测出的商品M的相似度(ST43:相似度计算部82)。另外,被确定的相似度也可以不是对应每个特征量数据0~n计算出的相似度的最大值,而是对应每个特征量数据0~n计算出的相似度的合计值或平均值等。
CPU111确认在步骤ST43的处理中已确定的相似度是否超过预先设定的候选阈值Lmin(ST44)。当相似度未超过候选阈值Lmin时(ST44的否),CPU111前进到步骤ST46的处理。
当相似度超过候选阈值Lmin时(ST44的是),CPU111将所述记录的商品ID和相似度作为登记商品候选(识别商品候选)的数据存储到RAM114中(ST45)。而后,CPU111前进到步骤ST46的处理。
在步骤ST46中,CPU111确认在短距离词库文件41中是否存在有未处理的数据记录。当存在时(ST46的是),CPU111返回到步骤ST42的处理。就是说,CPU111从短距离词库文件41中读入未处理的数据记录,并执行所述步骤ST43~ST45的处理。
当在短距离词库文件41中未存在有未处理的数据记录时,就是说,如果结束了短距离词库文件41的检索(ST46的否),则CPU111检索长距离词库文件42(ST47)。以后,CPU111执行与针对短距离词库文件41已执行的步骤ST42~ST46相同的处理,作为步骤ST48~ST52的处理。
而且,如果结束了长距离词库文件42的检索(ST52的否),则CPU111确认登记商品候选的数据是否已被存储到RAM114中(ST53)。当未存储有登记商品候选的数据时(ST53的否),结束此次的识别处理。
当存储有登记商品候选的数据时(ST53的是),CPU111确认RAM114所存储的登记商品候选的数据的最大相似度是否超过预先设定的确定阈值Lmax(Lmax>Lmin)(ST54)。当最大相似度未超过确定阈值Lmax时(ST54的否),CPU111从RAM114所存储的登记商品候选的数据中按照相似度从大到小的顺序选择最大K(K>2)品种的商品。而且,CPU111将已选择的最大K品种的商品作为登记商品候选的商品列表显示在显示器12a上(ST55:候选输出部83)。而且,CPU111确认从所述商品列表中是否选择有任意一个商品(ST56)。例如,当宣告了有键盘11的再检索键未被输入选择的情况时(ST56的否),CPU111诸如象“请改变摄影距离”那样从扬声器17中发音指示使摄影距离变更的语音引导(ST57:警告部85)。
针对于此,当通过触摸面板12或键盘11的操作输入,从登记商品候选的商品列表中选择了任意一个商品时(ST56的是),CPU111从RAM114中取得该已选择的商品的商品ID(ST58)。而且,CPU111将该已取得的商品ID确定作为销售商品的商品ID,并通过通信电缆330发送给POS终端2(ST59:确定部84)。此外,CPU111将商品确定标志F1置位为“1”(ST60)。
此外,当在步骤ST54中登记商品候选的数据的最大相似度超过确定阈值Lmax时(ST54的是),CPU111前进到步骤ST59的处理。就是说,CPU111从RAM114中取得具有最大相似度的商品的商品ID。而且,CPU111将该已取得的商品ID确定作为销售商品的商品ID,并通过通信电缆330发送给POS终端2(ST59)。此外,CPU111将商品确定标志F1置位为“1”(ST60)。此外,步骤ST59和步骤ST60的处理次序也可以相反。
以上,结束此次的识别处理。
当识别处理结束时,CPU111确定商品确定标志F1是否已被置位为“1”(ST37)。当商品确定标志F1未被置位为“1”时(ST37的否),CPU111返回到步骤ST33。就是说,CPU111采集RAM114所保存的其他帧图像(ST33)。而且,CPU111再次执行所述步骤ST34之后的处理。
当商品确定标志F1已被置位为“1”时(ST37的是),CPU111向摄像部14输出摄像截止信号(ST38)。通过该摄像截止信号,摄像部14停止摄像。以上,结束商品识别程序。
在这样的本实施例中,在短距离词库文件41中保存有适当的摄影距离小于阈值距离Dx的识别对象商品的商品分类词库数据,在长距离词库文件42中保存有适当的摄影距离大于等于阈值距离Dx的识别对象商品的商品分类词库数据。而且,当向读取窗1B对准商品M时,则不论该商品M和摄像部14的摄影距离如何,都在扫描装置1中计算出短距离词库文件41和长距离词库文件42两方所登记的商品分类词库数据的特征量数据和从摄影图像中抽取出的商品图像的外观特征量的相似度。
因此,在将因为尺寸小而适当的摄影距离小于阈值距离Dx的商品位于读取窗1B的附近,就是说以摄影距离小于阈值距离Dx的位置对准了时,商品以较高的识别率被识别。不过,在将该商品离开大于等于阈值距离Dx而向读取窗1B对准了时,识别率变低。这时,由于诸如能发出象“请改变摄影距离”那样的警告,所以用户就会将商品靠近读取窗1B。其结果,所述商品以较高的识别率被识别。
另一方面,当将因尺寸大而适当的摄影距离大于等于阈值距离Dx的商品离开读取窗1B大于等于阈值距离Dx的距离而对准了时,商品以较高的识别被识别。不过,在将该商品在读取窗1B的附近,就是说在摄影距离小于阈值距离Dx的位置对准了时,识别率变低。由于在这样情况下也能发出同样的警告,所以用户就会将商品远离读取窗1B。其结果,商品以较高的识别率被识别。
即使在这样的第二实施例中,扫描装置1也能够以较高的识别率识别商品。
另外,本发明并不限定于上述实施例。
例如,在第二实施例中,虽然在识别处理中先检索短距离词库文件41(ST41~ST46),此后,检索长距离词库文件42(ST47~ST52),但是也可以先检索长距离词库文件42(ST47~ST52),此后,检索短距离词库文件41(ST41~ST46)。
此外,虽然在第一实施例中将识别词库文件30设为短距离词库文件31、中距离词库文件32及长距离词库文件33三种,在第二实施例中设为短距离词库文件41和长距离词库文件42两种,但是距离分类识别词库文件的数量并不限定于此。通过设为大于等于四种能进一步提高识别率。
此外,虽然上述实施例的扫描装置1具有了作为商品识别装置的所有功能,但是也可以扫描装置1和POS终端2分散具有作为商品识别装置的功能。或者,也可以将扫描装置1装配到POS终端2中而一体地构成,从而该一体构成的装置具有作为商品识别装置的功能。此外,也可以为使店铺服务器等的外部装置存储实现发明功能的商品识别程序的全部或一部分的构成。此外,在本实施例中,虽然对固定式扫码器进行了说明,但是也可以是可移动的便携式扫码器。
另外,上述各实施例是在装置内部的作为程序存储部的ROM中预先存储有实现发明功能的商品识别程序的例子。不过,并不限定于此,也可以将同样的程序从网络下载到装置中。或者,也可以将存储介质所记录的同样程序安装到装置中。存储介质只要是象CD-ROM、存储卡等那样能存储程序且装置可读取的,则其形态不限。此外,通过安装或下载程序获得的功能也可以与装置内部的OS(操作系统)等协作来实现该功能。此外,也可以将本实施例的程序安装到具有通信功能的移动电话或所谓的PDA那样的便携信息终端来实现该功能。
另外,虽然对本发明的几个实施例进行了说明,但是这些实施例是作为例子提出的,并不意图限定发明的范围。这些新颖的实施例可以用其他各种形式来实施,只要在不脱离发明的要旨的范围内可以进行各种省略、替换、变更。这些实施例及其变形均被包含在发明的范围或要旨中,而且,包含在权利要求的范围所记载的发明和其均等的范围内。

Claims (10)

1.一种商品识别装置,其特征在于,包括:
特征量抽取部,从通过摄影商品的摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量;
距离测量部,测量从所述摄像部到通过该摄像部已摄影的商品的距离;
文件选择部,从距离分类识别词库文件中选择与通过所述距离测量部测量出的距离相当的识别词库文件,其中,所述距离分类识别词库文件按照摄影了识别对象商品时的摄影距离保存表示从用所述摄影距离摄影了所述识别对象商品的基准图像中获得的所述识别对象商品的表面信息的特征量数据;
相似度计算部,将通过所述特征量抽取部抽取出的外观特征量与通过所述文件选择部选择出的所述识别词库文件的所述特征量数据进行核对,并对应每个所述识别对象商品计算出相似度,其中,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;以及
候选输出部,基于通过该相似度计算部计算出的所述相似度,将所述识别对象商品作为识别商品候选进行输出。
2.根据权利要求1所述的商品识别装置,其特征在于,
所述候选输出部是能够选择地显示输出识别商品候选的识别对象商品的部,
其中,所述商品识别装置还包括:第一确定部,将从所述识别商品候选中选择出的识别对象商品确定作为通过所述摄像部已摄影的商品。
3.根据权利要求1或2所述的商品识别装置,其特征在于,
所述距离分类识别词库文件还存储用于识别对应每个所述识别对象商品的特征量数据是否为从用适当的摄影距离已摄影的基准图像中获得的信息,
其中,所述商品识别装置还包括:第二确定部,当通过所述候选输出部作为识别商品候选被输出的识别对象商品的最大相似度为大于等于预先设定的确定值,且该最大相似度根据从用所述适当的摄影距离摄影的基准图像中获得的特征量数据被计算出时,将具有该最大相似度的识别对象商品确定作为通过所述摄像部已摄影的商品。
4.根据权利要求1至3中任一项所述的商品识别装置,其特征在于,还包括:
辅助存储部,存储有具有短距离词库文件、中距离词库文件和长距离词库文件的所述距离分类识别词库文件。
5.一种商品识别装置,其特征在于,包括:
特征量抽取部,从通过摄影商品的摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量;
相似度计算部,将通过所述特征量抽取部抽取出的外观特征量与距离分类识别词库文件的特征量数据进行核对,并对应每个识别对象商品计算出相似度,其中,所述距离分类识别词库文件按在摄影了所述识别对象商品时的摄影距离保存表示从用所述摄影距离摄影了所述识别对象商品的基准图像中获得的所述识别对象商品的表面信息的特征量数据,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;以及
候选输出部,基于通过该相似度计算部计算出的所述相似度,将所述识别对象商品作为识别商品候选进行输出。
6.根据权利要求5所述的商品识别装置,其特征在于,
所述候选输出部是能够选择地显示输出识别商品候选的识别对象商品的部,
其中,所述商品识别装置还包括:警告部,当从所述识别商品候选中未选择有通过所述摄像部已摄影的商品时,则进行警告,以使改变通过所述摄像部已摄影的商品和所述摄像部之间的间隔。
7.根据权利要求5所述的商品识别装置,其特征在于,
所述候选输出部是能够选择地显示输出识别商品候选的识别对象商品的部,
其中,所述商品识别装置还包括:确定部,将从通过所述相似度计算部计算出的相似度大于预先设定的候选阈值的所述识别商品候选中选择出的识别对象商品确定作为通过所述摄像部已摄影的商品。
8.根据权利要求5至7中任一项所述的商品识别装置,其特征在于,还包括:
辅助存储部,存储有具有短距离词库文件和长距离词库文件的所述距离分类识别词库文件。
9.一种商品识别方法,包括以下步骤:
特征量抽取步骤,从通过摄影商品的摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量;
文件选择步骤,从距离分类识别词库文件中选择与通过距离测量部测量出的从所述摄像部到通过该摄像部已摄影的商品的距离相当的识别词库文件,所述距离分类识别词库文件按摄影了识别对象商品时的摄影距离保存表示从用所述摄影距离摄影了所述识别对象商品的基准图像中获得的所述识别对象商品的表面信息的特征量数据;
相似度计算步骤,将通过所述特征量抽取步骤抽取出的外观特征量与通过所述文件选择步骤选择出的所述识别词库文件的所述特征量数据进行核对,并对应每个所述识别对象商品计算出相似度,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;以及
候选输出步骤,基于通过该相似度计算步骤计算出的所述相似度,将所述识别对象商品作为识别商品候选进行输出。
10.一种商品识别方法,其特征在于,包括:
特征量抽取步骤,从通过摄影商品的摄像部已摄影的图像中抽取该图像所包含的商品的外观特征量;
相似度计算步骤,将通过所述特征量抽取步骤抽取出的外观特征量与距离分类识别词库文件的特征量数据进行核对,并对应每个识别对象商品计算出相似度,其中,所述距离分类识别词库文件按在摄影了所述识别对象商品时的摄影距离保存表示从用所述摄影距离摄影了所述识别对象商品的基准图像中获得的所述识别对象商品的表面信息的特征量数据,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;以及
候选输出步骤,基于通过该相似度计算步骤计算出的所述相似度,将所述识别对象商品作为识别商品候选进行输出。
CN201310533195.1A 2012-11-05 2013-10-31 商品识别装置及商品识别方法 Expired - Fee Related CN103810468B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-243645 2012-11-05
JP2012243645A JP5707375B2 (ja) 2012-11-05 2012-11-05 商品認識装置及び商品認識プログラム

Publications (2)

Publication Number Publication Date
CN103810468A true CN103810468A (zh) 2014-05-21
CN103810468B CN103810468B (zh) 2017-10-24

Family

ID=50622425

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310533195.1A Expired - Fee Related CN103810468B (zh) 2012-11-05 2013-10-31 商品识别装置及商品识别方法

Country Status (3)

Country Link
US (1) US20140126773A1 (zh)
JP (1) JP5707375B2 (zh)
CN (1) CN103810468B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107533782A (zh) * 2015-03-31 2018-01-02 日本电气株式会社 商品登记装置、控制方法和程序
CN107665556A (zh) * 2014-01-21 2018-02-06 东芝泰格有限公司 图像信息处理装置及其控制方法
CN108475339A (zh) * 2015-11-13 2018-08-31 北京市商汤科技开发有限公司 用于对图像中的对象分类的方法和系统
CN108491873A (zh) * 2018-03-19 2018-09-04 广州建翎电子技术有限公司 一种基于数据分析的商品分类方法
CN110610577A (zh) * 2018-06-15 2019-12-24 腾讯科技(深圳)有限公司 信息自助处理方法、装置、系统、存储介质及电子装置
CN111587450A (zh) * 2017-12-21 2020-08-25 提立特有限公司 零售结账终端新鲜农产品标识系统
CN112272838A (zh) * 2018-06-07 2021-01-26 株式会社资生堂 商品确定装置、程序和学习方法
CN113111800A (zh) * 2021-04-19 2021-07-13 北京每日优鲜电子商务有限公司 无人货柜商品上架判断方法、设备和存储介质

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5553866B2 (ja) * 2012-07-23 2014-07-16 東芝テック株式会社 商品認識装置及び認識辞書追加プログラム
JP5826800B2 (ja) * 2013-07-17 2015-12-02 東芝テック株式会社 認識辞書評価装置及び認識辞書評価プログラム
JPWO2015145977A1 (ja) * 2014-03-27 2017-04-13 日本電気株式会社 情報処理装置、画像処理方法とプログラム、ならびに、pos端末装置
JP6239460B2 (ja) * 2014-07-28 2017-11-29 東芝テック株式会社 情報処理装置及びプログラム
JP6263483B2 (ja) * 2015-01-26 2018-01-17 東芝テック株式会社 物品認識装置、販売データ処理装置および制御プログラム
JP6322603B2 (ja) * 2015-06-23 2018-05-09 東芝テック株式会社 画像処理装置および画像処理プログラムと、陳列状況判定装置
US20170193290A1 (en) * 2016-01-06 2017-07-06 Toshiba Tec Kabushiki Kaisha Commodity registration apparatus and commodity registration method
JP6209716B1 (ja) * 2016-06-02 2017-10-11 サインポスト株式会社 情報処理システム、情報処理方法、及びプログラム
JP7197971B2 (ja) * 2017-08-31 2022-12-28 キヤノン株式会社 情報処理装置、情報処理装置の制御方法及びプログラム
US20190073880A1 (en) * 2017-09-06 2019-03-07 Toshiba Tec Kabushiki Kaisha Article recognition apparatus, article recognition method, and non-transitory readable storage medium
JP2021018470A (ja) * 2019-07-17 2021-02-15 東芝テック株式会社 物品特定装置及びプログラム
CN110600016B (zh) * 2019-09-20 2022-02-25 北京市律典通科技有限公司 卷宗推送方法和装置
JP7144082B2 (ja) * 2021-01-20 2022-09-29 Necプラットフォームズ株式会社 商品認識装置、システム、方法及びプログラム
WO2022249885A1 (ja) * 2021-05-28 2022-12-01 パナソニックIpマネジメント株式会社 識別装置、及び、識別方法
US11928662B2 (en) * 2021-09-30 2024-03-12 Toshiba Global Commerce Solutions Holdings Corporation End user training for computer vision system
CN117999587A (zh) * 2021-10-01 2024-05-07 索尼半导体解决方案公司 识别处理设备、识别处理方法和识别处理系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030039380A1 (en) * 2001-08-24 2003-02-27 Hiroshi Sukegawa Person recognition apparatus
JP2007072665A (ja) * 2005-09-06 2007-03-22 Fujitsu Ten Ltd 物体判別装置、物体判別方法および物体判別プログラム
CN101226591A (zh) * 2008-01-31 2008-07-23 上海交通大学 基于手机摄像头结合人脸识别技术的身份识别方法
CN102063616A (zh) * 2010-12-30 2011-05-18 上海电机学院 一种基于图像特征匹配的商品自动识别系统及方法
CN102193962A (zh) * 2010-03-15 2011-09-21 欧姆龙株式会社 对照装置、数字图像处理系统、以及对照装置的控制方法
CN102332137A (zh) * 2011-09-23 2012-01-25 纽海信息技术(上海)有限公司 商品匹配方法及系统
CN102376136A (zh) * 2010-08-23 2012-03-14 东芝泰格有限公司 店铺系统及商品销售数据处理方法
CN102722889A (zh) * 2012-05-31 2012-10-10 信帧科技(北京)有限公司 一种图像背景获取方法和装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2879130B2 (ja) * 1994-04-14 1999-04-05 株式会社エヌ・ティ・ティ・データ 物品識別システム及び方法
JPH08138028A (ja) * 1994-11-11 1996-05-31 Tec Corp 物品認識装置
US6201885B1 (en) * 1998-09-11 2001-03-13 Bunge Foods Corporation Method for bakery product measurement
JP2005149370A (ja) * 2003-11-19 2005-06-09 Matsushita Electric Ind Co Ltd 画像撮影装置、個人認証装置及び画像撮影方法
US20050286767A1 (en) * 2004-06-23 2005-12-29 Hager Gregory D System and method for 3D object recognition using range and intensity
JP2012247968A (ja) * 2011-05-27 2012-12-13 Toshiba Tec Corp 情報処理装置、情報処理方法及び制御プログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030039380A1 (en) * 2001-08-24 2003-02-27 Hiroshi Sukegawa Person recognition apparatus
JP2007072665A (ja) * 2005-09-06 2007-03-22 Fujitsu Ten Ltd 物体判別装置、物体判別方法および物体判別プログラム
CN101226591A (zh) * 2008-01-31 2008-07-23 上海交通大学 基于手机摄像头结合人脸识别技术的身份识别方法
CN102193962A (zh) * 2010-03-15 2011-09-21 欧姆龙株式会社 对照装置、数字图像处理系统、以及对照装置的控制方法
CN102376136A (zh) * 2010-08-23 2012-03-14 东芝泰格有限公司 店铺系统及商品销售数据处理方法
CN102063616A (zh) * 2010-12-30 2011-05-18 上海电机学院 一种基于图像特征匹配的商品自动识别系统及方法
CN102332137A (zh) * 2011-09-23 2012-01-25 纽海信息技术(上海)有限公司 商品匹配方法及系统
CN102722889A (zh) * 2012-05-31 2012-10-10 信帧科技(北京)有限公司 一种图像背景获取方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
李珺 等: ""一种快速实用的车牌字符识别方法"", 《微计算机信息》 *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107665556A (zh) * 2014-01-21 2018-02-06 东芝泰格有限公司 图像信息处理装置及其控制方法
CN107533782A (zh) * 2015-03-31 2018-01-02 日本电气株式会社 商品登记装置、控制方法和程序
US10490032B2 (en) 2015-03-31 2019-11-26 Nec Corporation Product registration apparatus for determining a correct product, control method, and program
CN108475339A (zh) * 2015-11-13 2018-08-31 北京市商汤科技开发有限公司 用于对图像中的对象分类的方法和系统
CN108475339B (zh) * 2015-11-13 2022-08-02 北京市商汤科技开发有限公司 用于对图像中的对象分类的方法和系统
CN111587450A (zh) * 2017-12-21 2020-08-25 提立特有限公司 零售结账终端新鲜农产品标识系统
CN108491873A (zh) * 2018-03-19 2018-09-04 广州建翎电子技术有限公司 一种基于数据分析的商品分类方法
CN108491873B (zh) * 2018-03-19 2019-05-14 广州蓝深科技有限公司 一种基于数据分析的商品分类方法
CN112272838A (zh) * 2018-06-07 2021-01-26 株式会社资生堂 商品确定装置、程序和学习方法
CN110610577A (zh) * 2018-06-15 2019-12-24 腾讯科技(深圳)有限公司 信息自助处理方法、装置、系统、存储介质及电子装置
CN113111800A (zh) * 2021-04-19 2021-07-13 北京每日优鲜电子商务有限公司 无人货柜商品上架判断方法、设备和存储介质

Also Published As

Publication number Publication date
JP2014092975A (ja) 2014-05-19
CN103810468B (zh) 2017-10-24
US20140126773A1 (en) 2014-05-08
JP5707375B2 (ja) 2015-04-30

Similar Documents

Publication Publication Date Title
CN103810468A (zh) 商品识别装置及商品识别方法
CN103810798B (zh) 商品识别装置及商品识别方法
US20140023241A1 (en) Dictionary registration apparatus and method for adding feature amount data to recognition dictionary
US9042660B2 (en) Information processing apparatus and information processing method
US20170116491A1 (en) Commodity recognition apparatus and commodity recognition method
US9036870B2 (en) Commodity recognition apparatus and commodity recognition method
US9990619B2 (en) Holding manner learning apparatus, holding manner learning system and holding manner learning method
CN103455788A (zh) 商品识别装置及商品识别方法
CN106373298B (zh) 信息处理装置及其控制方法
US20140177912A1 (en) Commodity reading apparatus, commodity sales data processing apparatus and commodity reading method
US20160300247A1 (en) Sales data processing apparatus, server and method for acquiring attribute information
US10482447B2 (en) Recognition system, information processing apparatus, and information processing method
CN103310559A (zh) 信息处理装置及其控制方法
US20150026017A1 (en) Information processing apparatus and information processing method
US20130208122A1 (en) Commodity reading apparatus and commodity reading method
US20130182122A1 (en) Information processing apparatus and method
CN104299334B (zh) 信息处理装置及其控制方法
US20170344851A1 (en) Information processing apparatus and method for ensuring selection operation
EP2980729A1 (en) Information processing apparatus and method for recognizing object by the same
JP5658720B2 (ja) 情報処理装置及びプログラム
EP2985741A1 (en) Information processing apparatus and information processing method
US20140222602A1 (en) Information processing apparatus and method for detecting stain on iamge capturing surface thereof
JP2014052811A (ja) 情報処理装置及びプログラム
US20170083891A1 (en) Information processing apparatus and information processing method

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20171024

Termination date: 20181031

CF01 Termination of patent right due to non-payment of annual fee