CN103810798A - 商品识别装置及商品识别方法 - Google Patents

商品识别装置及商品识别方法 Download PDF

Info

Publication number
CN103810798A
CN103810798A CN201310532819.8A CN201310532819A CN103810798A CN 103810798 A CN103810798 A CN 103810798A CN 201310532819 A CN201310532819 A CN 201310532819A CN 103810798 A CN103810798 A CN 103810798A
Authority
CN
China
Prior art keywords
commodity
candidate
recognition
distance
similarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310532819.8A
Other languages
English (en)
Other versions
CN103810798B (zh
Inventor
宫越秀彦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Publication of CN103810798A publication Critical patent/CN103810798A/zh
Application granted granted Critical
Publication of CN103810798B publication Critical patent/CN103810798B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/68Food, e.g. fruit or vegetables

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种商品识别装置及商品识别方法,该装置包括:特征量抽取部,从通过摄影商品的摄像部已摄影的图像中抽取图像所包含的商品的外观特征量;相似度计算部,将通过特征量抽取部抽取出的外观特征量与对应每个识别对象商品保存有表示商品的表面信息的特征量数据的识别词库文件的特征量数据进行核对,并对应每个识别对象商品计算出相似度,相似度是表示外观特征量与特征量数据相似到哪种程度的数据;候选输出部,按照通过相似度计算部计算出的相似度从大到小的顺序将识别对象商品作为识别商品候选进行输出;距离测量部,测量从摄像部到通过该摄像部已摄影的商品的距离;可变部,根据通过距离测量部测量的距离,变更通过候选输出部输出的识别商品候选数。

Description

商品识别装置及商品识别方法
本申请主张申请日为2012年11月5日、申请号为JP2012-243485的日本申请为优先权,并引用上述申请的内容。
技术领域
本发明涉及一种从通过摄像部摄像的图像数据中识别商品的商品识别装置及用于使计算机具有作为所述商品识别装置的功能的商品识别方法。
背景技术
有这样一种技术,从通过摄像部摄像了作为对象的物品(目的物)的图像数据中抽取所述物品的外观特征量,并与识别词库文件所登记的基准图像的特征量数据进行核对,计算出相似度,并根据该相似度识别所述物品的种类等。识别这样的图像中包含的物品的技术被称为一般物体识别(generic object recognition:一般物体识别)。关于该一般物体识别的技术在下列的文献中各种识别技术被说明。
柳井啓司,“一般物体認識の現状と今後”,情報処理学会論文誌,Vol.48,No.SIG16[平成22年8月10日検索],インターネット<URL:http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf>(柳井启司,“一般物体识别的现状与未来”,信息处理学会论文志,Vol.48,No.SIG16“平成22年8月10日检索”,互联网<URL:http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf>)
此外,通过对应每个目的物对图像进行区域分割,进行一般物体识别的技术在下列的文献中被说明。
Jamie Shottonら,“Semantic Texton Forests forImage Categorization and Segmentation”,[平成22年8月10日検索],インターネット<URL:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf>(Jamie Shottonら(杰米肖顿等人),“Semantic Texton Forests for Image Categorization andSegmentation:”,“平成22年8月10日检索”,互联网<URL:http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=rep1&type=pdf>)。
近年来,提案有诸如在小卖店的结账系统(POS系统)中,向顾客所购买的商品,尤其象蔬菜、水果等那样未附有条形码的商品的识别装置应用上述的一般物体识别的技术。在这种情况下,虽然操作员(店员或顾客)朝向摄像部对准了识别对象的商品,但是在对准了时,从摄像部到商品的距离未必为一定。另一方面,摄像部的像素数由于是固定的,所以摄影图像的分辨率会因从摄像部到商品的距离而不同。因此,有这样的一种担心,在比较了从摄像图像抽取的商品的外观特征量和基准图像的特征量数据时,因为摄像图像和基准图像的分辨率不同所以相似度变低,识别率降低。
发明内容
鉴于上述问题,本发明的目的在于提供一种商品识别装置及商品识别方法,其能够极力抑制因从摄像部到商品的距离的变化而导致识别率降低的影响。
本发明第一方面涉及的商品识别装置,包括:特征量抽取部、相似度计算部、候选输出部、距离测量部以及可变部。特征量抽取部从通过摄影商品的摄像部已摄影的图像中抽取所述图像所包含的商品的外观特征量。相似度计算部将通过特征量抽取部抽取出的外观特征量与对应每个识别对象商品保存有表示该商品的表面信息的特征量数据的识别词库文件的特征量数据进行核对,并对应每个识别对象商品计算出相似度,所述相似度是表示外观特征量与特征量数据相似到哪种程度的数据。候选输出部按照通过相似度计算部计算出的相似度从大到小的顺序将识别对象商品作为识别商品候选进行输出。距离测量部测量从摄像部到通过该摄像部已摄影的商品的距离。可变部根据通过距离测量部测量出的距离,变更通过候选输出部输出的识别商品候选数。
本发明第二方面涉及的商品识别方法,包括以下步骤:特征量抽取步骤,从通过摄影商品的摄像部已摄影的图像中抽取所述图像所包含的商品的外观特征量;相似度计算步骤,将通过该特征量抽取步骤抽取出的外观特征量与对应每个识别对象商品保存有表示该商品的表面信息的特征量数据的识别词库文件的所述特征量数据进行核对,并对应每个所述识别对象商品计算出相似度,其中,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;候选输出步骤,按照通过该相似度计算步骤计算出的所述相似度从大到小的顺序将所述识别对象商品作为识别商品候选进行输出;以及可变步骤,根据从所述摄像部到通过所述摄像部已摄影的商品的距离,变更通过所述候选输出步骤输出的识别商品候选数。
附图说明
下面,参照附图对本发明所涉及的商品识别装置及商品识别方法进行说明。当结合附图考虑时,通过参照下面的详细描述,能够更完整更好地理解本发明以及容易得知其中许多伴随的优点,但此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定,其中:
图1是作为一实施例的店铺结账系统的外观图;
图2是表示该店铺结账系统的扫描装置和POS终端的硬件构成的框图;
图3是表示识别词库文件所保存的商品分类词库数据的构造的示意图;
图4是表示适当距离文件所保存的适当距离数据的构成的示意图;
图5是表示在向扫描装置的读取窗对准了商品时的状态和此时所摄影的帧图像的一例的示意图;
图6是表示在向扫描装置的读取窗对准了商品时的状态和此时所摄影的帧图像的一例的示意图;
图7是表示扫描装置所具有的作为商品识别装置的功能的框图;
图8是表示扫描装置的CPU按照商品识别程序执行的信息处理次序的要部的流程图;
图9是具体地示出距离警告处理的次序的流程图;
图10是具体地示出识别处理的次序的流程图;
图11是表示在商品和摄像部的距离远时触摸面板所显示的画面的一例图;
图12是表示在商品和摄像部的距离近时触摸面板所显示的画面的一例图;以及
图13是表示在商品和摄像部的距离恰当时触摸面板所显示的画面的一例图。
附图标记说明
1         扫描装置           2       POS终端
12        触摸面板           14       摄像部
15        距离传感器         30       识别词库文件
40        适当距离文件       71       特征量抽取部
72        相似度计算部       73       候选输出部
74        距离测量部         75       距离判定部
76        警告部             77       可变部
78        第一确定部         79       第二确定部
具体实施方式
下面,参照附图,对商品识别装置的实施例进行说明。另外,本实施例是使构筑将蔬菜、水果等作为商品进行处理的小卖店的店铺结账系统的扫描装置1,具有作为商品识别装置的功能的情况。
图1是店铺结账系统的外观图。该系统包括作为对顾客购买的商品进行登记的登记部的扫描装置1、以及作为对顾客的货款支付进行处理的结算部的POS(Point Of Sales:销售点)终端2。扫描装置1被安装在结账台3上。POS终端2通过拉出装置5设置在收银台4上。扫描装置1和POS终端2通过通信电缆300(参照图2)电气连接。
扫描装置1具有键盘11、触摸面板12及顾客用显示器13。这些显示、操作装置(键盘11、触摸面板12及顾客用显示器13)被安装在构成扫描装置1的本体的薄的矩形形状的外壳1A上。
外壳1A内置有摄像部14。此外,在外壳1A的正表面上形成有矩形形状的读取窗1B。摄像部14具有作为区域图像传感器的CCD(Charge Coupled Device:电荷耦合器件)摄像元件及其驱动电路、用于使摄像区域的图像在CCD摄像元件上成像的摄像透镜。摄像区域就是指从读取窗1B透过摄像透镜在CCD摄像元件的区域上成像的帧图像的区域。摄像部14输出透过摄像透镜在CCD摄像元件上已成像的摄像区域的图像。另外,摄像部14也可以是CMOS(Complementary Metal Oxide Semiconductor:互补金属氧化物半导体)图像传感器。
在所述读取窗1B的附近设有作为后述的距离测量部74的距离传感器15。距离传感器15用作从所述摄像部14到通过该摄像部14摄影的商品的距离计量。作为这样的距离传感器15可适用有组合红外线LED和光电晶体管的、或者使用超声波、激光的等公知的距离传感器。
POS终端2具有键盘21、操作员用显示器22、顾客用显示器23及票据打印机24,作为结算所需要的设备。
结账台3沿其里侧的顾客通道呈细长形状。收银台4在相对于沿结账台3进行移动的顾客的移动方向下游侧的结账台3的端部跟前侧,与结账台3大致垂直地被放置。而且,该结账台3的跟前侧和收银台4的跟前侧成为负责结账的店员所谓的收银员的空间。
在结账台3的大致中央上扫描装置1的外壳1A以键盘11、触摸面板12及读取窗1B分别朝向跟前侧的收银员侧的方式被竖直设置。扫描装置1的顾客用显示器13面向顾客通道侧安装在外壳1A上。
隔着结账台3的扫描装置1的顾客移动方向上游侧的负荷接受面成为用于放置装入有购物顾客购入的未登记的商品M的购物筐6的空间。另一方面,下游侧的负荷接受面成为用于放置购物筐7的空间,该购物筐7用于装入通过扫描装置1已登记的商品M。
图2是表示扫描装置1和POS终端2的硬件构成的框图。扫描装置1具有扫描部101、以及操作、输出部102。扫描部101安装有作为控制部本体的CPU(Central Processing Unit:中央处理器)111。而且,在该CPU111上通过地址总线、数据总线等的总线112连接有ROM(Read Only Memory:只读存储器)113和RAM(RandomAccess Memory:随机存取存储器)114。ROM113存储有后述的商品识别程序等通过CPU111执行的程序。
此外,总线112通过输入输出电路(未图示)连接有所述摄像部14和距离传感器15。此外,总线112通过连接接口115及连接接口116被延长,并在该总线112上连接有所述键盘11、触摸面板12及顾客用显示器13。触摸面板12具有面板型显示器12a、重叠配置在该显示器12a的画面上的触摸面板传感器12b。此外,语音合成部16也与总线112连接。语音合成部16按照通过总线112输入的命令向扬声器17输出语音信号。扬声器17将语音信号转换成语音并进行输出。
所述连接接口116与所述键盘11、触摸面板12、顾客用显示器13及语音合成部16构成所述操作、输出部102。构成操作、输出部102的各部不仅受扫描部101的CPU111的控制,而且也受后述的POS终端2的CPU201的控制。
POS终端2也安装有作为控制部本体的CPU201。而且,在该CPU201上通过总线202连接有ROM203、RAM204、辅助存储部205、通信接口206及连接接口207。此外,所述键盘21、操作员用显示器22、顾客用显示器23、打印机24及拉出装置5的各部也分别通过输入输出电路(未图示)与总线202连接。
通信接口206通过LAN(Local Area Network:局域网)等的网络,与负责店铺中枢的店铺服务器(未图示)连接。通过该连接,POS终端2可与店铺服务器进行数据的发送接收。
连接接口207通过通信电缆300与扫描装置1的两个连接接口115、116连接。通过该连接,POS终端2从扫描装置1的扫描部101接收信息。此外,POS终端2在与构成扫描装置1的操作、输出部102的键盘11、触摸面板12、顾客用显示器13以及语音合成部16之间发送接收数据信号。另一方面,扫描装置1通过该连接向POS终端2的辅助存储部205所保存的数据文件进行访问。
辅助存储部205诸如是HDD(Hard Disk Drive:硬盘驱动器)装置或SSD(Solid State Drive:固态驱动器)装置,其除保存各种程序外,还保存识别词库文件30、适当距离文件40等的数据文件。
图3是表示识别词库文件30所保存的商品分类词库数据的构造的示意图。如图3所示,识别词库文件30对应每个作为识别对象的商品与识别所述商品的商品ID及商品名关联保存有多个特征量数据。特征量数据是从摄影了通过所对应的商品ID识别的商品的基准图像中,抽取作为该商品的表面信息(外观形状、色彩、图案、凹凸状况等)的外观上的特征量,并以参数表示该外观特征量的数据,对于一个商品,分别保存有从各个方向观察该商品时的特征量数据0~n。另外,对于一个商品的特征量数据的数(n+1)并不固定。此外,特征量数据的数(n+1)因商品而不同。此外,商品名也可以不一定包含在商品分类词库数据中。
图4是表示适当距离文件40所保存的适当距离数据的构造的示意图。如图4所示,适当距离文件40保存有适当距离最小值Dmin、与所述最小值Dmin相比大的适当距离最大值Dmax(Dmin<Dmax)。通过摄像部14摄影的商品和摄像部14的距离有适当范围。该适当范围的最小值是适当距离最小值Dmin,最大值是适当距离最大值Dmax。在这里,对适当范围进行说明。
图5及图6是表示在向扫描装置1的读取窗1B对准了商品(リンゴ(苹果))M时的状态和此时所摄影的帧图像G1、G2的一例的示意图。图5示出从读取窗1B到商品M的距离近的情况(距离=d1),图6示出从读取窗1B到商品M的距离远的情况(距离=d2:d2>d1)。
如果对图5的帧图像G1和图6的帧图像G2进行比较,则很明显,在从读取窗1B到商品M的距离近时商品M相对于帧图像G1的尺寸被较大地映出,在距离远时,商品M相对于帧图像G2的尺寸被较小地映出。其结果,当将帧图像G1和帧图像G2以同一尺寸的单元划分成格子状时,则映出商品M的单元数与在从读取窗1B到商品M的距离远时相比在近时多。就是说,在从读取窗1B到商品M的距离近时映出到帧图像G1上的商品M的分辨率变高,在距离远时分辨率变低。
另一方面,所述识别词库文件30所保存的商品分类词库数据的各特征量数据是将在将距离摄像部只离开大致一定距离D的商品通过所述摄像部摄影了时的帧图像作为基准图像,并将该基准图像格子状地进行细分化,而且,对应每个格子内的图像,抽取作为商品的表面信息(外观形状、色彩、图案、凹凸状况等)的外观上的特征量,并通过将该外观特征量进行参数化从而生成有各特征量数据。因此,在一般物体识别的技术中,有这样的倾向,通过摄像部摄影的图像的分辨率和基准图像的分辨率越近似识别率越变高。
在本实施例中,以在摄影基准图像时的摄像单元和商品的距离D为基准,将获得有大于等于规定的识别率的从+α1到-α2的范围视为适当范围。也就是说,适当范围的最大值Dmax变为“D+α1”,最小值Dmin变为“D-α1”。
图7是表示作为商品识别装置的功能的框图。在本实施例中,扫描装置1具有该功能。就是说,扫描装置1具有作为识别向摄像部14的摄像区域对准了的商品M并直到确定作为销售商品的功能的特征量抽取部71、相似度计算部72、候选输出部73、距离测量部74、距离判定部75、警告部76、可变部77、第一确定部78及第二确定部79。
特征量抽取部71从通过摄像部14摄影的图像中抽取该图像所包含的商品M的外观特征量。相似度计算部72将通过特征量抽取部71抽取出的外观特征量与识别词库文件30的特征量数据进行核对,并对应每个作为识别对象的商品计算出表示外观特征量与特征量数据相似到哪种程度的相似度。候选输出部73按照通过相似度计算部72计算出的相似度从大到小的顺序,将识别对象商品作为识别商品候选可选择地显示输出在触摸面板12上。
距离测量部(距离传感器15)74测量从摄像部14到通过该摄像部14摄影的商品M的距离d。距离判定部75参照适当距离文件40所保存的适当距离数据(Dmax、Dmin),判定通过距离测量部74测量的距离d是否为适当值。具体地说,只要距离d为从适当距离最小值Dmin到适当距离最大值Dmax的范围内,则判定为是适当值,如果为范围外,则判定为不是适当值。
警告部76在通过距离判定部75判定出距离d不是适当值时,发出警告。例如,使警告距离d不是适当值的图像显示在触摸面板12上。或者,使警告距离d不是适当值的语音引导从扬声器17中发音。
可变部77根据通过距离测量部74测量出的距离d来变更通过候选输出部73输出的识别商品候选的数。具体地说,在通过距离判定部75判定出距离d为适当值时,与在判定出为不是适当值相比,使识别商品候选的数变少。例如,将在判定出为不是适当值时的候选数视为“6”,将在判定出是适当值时的候选数视为“3”。
第一确定部78将从作为识别商品候选被显示输出在触摸面板12上的商品中选择出的商品确定作为通过摄像部14摄影了的商品、即销售商品。第二确定部79当通过距离判定部75判定距离d为适当值,且通过候选输出部73作为识别商品候选被输出的商品的最大相似度为大于等于预先设定的确定阈值时,则将具有该最大相似度的商品确定作为通过摄像部14摄影了的商品、即销售商品。
各部71~79通过扫描装置1的CPU111按照商品识别程序进行动作来实现。当商品识别程序起动时,则扫描装置1的CPU111以图8的流程图所示的次序控制各部。首先,CPU111将后述的初次标志F0和适当标志F1复位为“0”(ST1)。初次标志F0及适当标志F1被存储到RAM114中。此外,CPU111向摄像部14输出摄像导通信号(ST2)。通过该摄像导通信号,摄像部14开始摄像区域的摄像。通过摄像部14摄像的摄像区域的帧图像被依次保存到RAM114中。此外,步骤ST1和步骤ST2的处理次序也可以相反。
输出了摄像导通信号的CPU111采集RAM114所保存的帧图像(ST3)。而且,CPU111确认在该帧图像上是否摄影有商品(ST4)。具体地说,CPU111从将帧图像二值化的图像中抽取轮廓线等。而且,CPU111对帧图像所映出的物体的轮廓抽取进行尝试。当物体的轮廓被抽取时,则CPU111将该轮廓内的图像视为商品。
当在帧图像中未被摄影有商品时(ST4的否),CPU111从RAM104中采集下一帧图像(ST3)。而且,CPU111确认在该帧图像中是否摄影有商品(ST4)。
当在帧图像中摄影有商品M时(ST4的是),CPU111从其轮廓内的图像中抽取商品M的形状、表面的色彩、图案、凹凸状况等的外观特征量(ST5:特征量抽取部71)。此外,CPU111使距离传感器15动作,测量从摄像部14到商品M的距离d(ST6:距离测量部74)。此外,步骤ST5和步骤ST6的处理顺序也可以相反。
当取得商品M的外观特征量和从摄像部14到商品M的距离d时,则CPU111起动距离警告处理(ST7)。此外,CPU111起动识别处理(ST8)。而且,CPU111待机到距离警告处理和识别处理均结束。
图9是表示距离警告处理的次序的图。首先,CPU111确认初次标志F0是否被复位为“0”。在第一次的距离警告处理时初次标志F0被复位为“0”。这时(ST21的是),CPU111访问通过连接接口115连接的POS终端2的辅助存储部205,并检索适当距离文件40(ST22)。而且,CPU111从适当距离文件40中读取适当距离最大值Mmax和适当距离最小值Mmin(ST23)。当初次标志F0已经被置为“1”时(ST21的否),由于是第二次以后的距离警告处理,所以CPU111不执行步骤ST22、ST23的处理。
接着,CPU111确认通过距离传感器15测量出的距离d是否超过适当距离最大值Mmax(ST24:距离判定部75)。当距离d超出适当距离最大值Mmax时(ST24的是),CPU111使显示器12a显示表示距离不适当的标识诸如“NG”。此外,CPU111使语音合成部16动作,并语音输出警告距离太远的引导、诸如“请将商品靠近”(ST25:警告部76)。此外,CPU111将适当标志F1复位为“0”(ST8)。
针对于此,当距离d未超过适当距离最大值Mmax时(ST24的否),CPU111确认所述距离d是否与适当距离最小值Mmin相比短(ST26:距离判定部75)。当距离d与适当距离最小值Mmin相比短时(ST26的是),CPU111使显示器12a显示表示距离不适当的标识、诸如“NG”。此外,CPU111使语音合成部16动作,并语音输出警告距离太近的引导、诸如“请将商品远离”(ST27:警告部76)。此外,CPU111将适当标志F1复位为“0”(ST28)。
此外,步骤ST24和步骤ST26的处理次序也可以相反。就是说,CPU111也可以先确认距离d是否与适当距离最小值Mmin相比短,并当距离d与适当距离最小值Mmin相比短时,执行步骤ST27的处理,当距离d为大于等于适当距离最小值Mmin时,确认距离d是否超过适当距离最大值Mmax,当距离d超过适当距离最大值Mmax时,执行步骤ST25的处理。
此外,将适当标志F1复位为“0”的定时并不限定于在步骤ST25或步骤ST27的处理后,也可以是在处理前。
另一方面,当距离d未超过适当距离最大值Mmax(ST24的否),且与适当距离最小值Mmin相比长时(ST26的否),距离d为适当。这时,CPU111使显示器12a显示表示距离d为适当的标识、诸如“OK”(ST29)。此外,CPU111将适当标志F1置位为“1”(ST30)。此外,步骤ST29和步骤ST30的处理次序也可以相反。
这样,如果在步骤ST28或步骤ST30中对适当标志F1进行了置位或复位,则CPU111将初次标志F0置位为“1”(ST31)。以上,结束此次的距离警告处理。另外,置位初次标志F0的定时不限定于此。也可以在步骤ST24的处理之前。
图10是表示识别处理的次序的流程图。首先,CPU111访问通过连接接口115连接的POS终端2的辅助存储部205,检索识别词库文件30(ST41)。而且,CPU111从识别词库文件30读取一商品的数据记录(商品ID、商品名、特征量数据0~n)(ST42)。
如果读入了数据记录,则CPU111对应每个所述记录的特征量数据0~n,计算出表示在步骤ST5的处理中抽取出的商品的外观特征量与所述特征量数据0~n相似到哪种程度的相似度。而且,CPU111将对应每个各特征量数据0~n计算出的相似度的最大值确定作为通过所述记录的商品ID指定的商品和已检测出的商品M的相似度(ST43:相似度计算部72)。另外,被确定的相似度也可以不是对应每个各特征量数据0~n计算出的相似度的最大值,而是对应每个各特征量数据0~n计算出的相似度的合计值或平均值等。
CPU111确认在步骤ST43的处理中确定出的相似度是否超过预先设定的候选阈值Lmin(ST44)。当相似度未超过候选阈值Lmin时(ST44的否),CPU111前进到步骤ST46的处理。
当相似度超过了候选阈值Lmin时(ST44的是),CPU111将所述记录的商品ID和相似度作为登记商品候选(识别商品候选)的数据存储到RAM114中(ST45)。而后,CPU111前进到步骤ST46的处理。
在步骤ST46中,CPU111确认在识别词库文件30中是否存在有未处理的数据记录。当存在有时(ST46的是),CPU111返回到步骤ST42的处理。就是说,CPU111从识别词库文件30中读取未处理的数据记录,并执行上述步骤ST43~ST45的处理。
当在识别词库文件30中未存在有未处理的数据记录时,就是说,如果结束了识别词库文件30的检索(ST46的否),则CPU111确认登记商品候选的数据是否已被存储到RAM114中(ST47)。当未存储有登记商品候选的数据时(ST47的否),CPU111前进到步骤ST53的处理。
当未存储有登记商品候选的数据时(ST47的是),CPU111确认适当标志F1是否已被置位为“1”(ST48)。当适当标志F1未被置位为“1”时(ST48的否),CPU111从RAM114所存储的登记商品候选的数据中按照相似度从大到小的顺序选择最大的P(P>2)品种的商品(可变部77)。而且,CPU111将已选择的最大P品种的商品作为登记商品候选的商品列表显示在显示器12a(ST49:候选输出部73)。
当适当标志F1已被置位为“1”时(ST48的是),CPU111确认RAM114所存储的登记商品候选的数据的最大相似度是否超过预先设定的确定阈值Lmax(Lmax>Lmin)(ST50)。当最大相似度未超过确定阈值Lmax时(ST50的是),CPU111从RAM114所存储的登记商品候选的数据中按照相似度从大到小的顺序选择最大Q(Q>1且Q<P)品种的商品(可变部77)。而且,CPU111将已选择的最大Q品种的商品作为登记商品候选的商品列表显示在显示器12a上(ST51:候选输出部73)。
如果在步骤ST49或ST51中使显示器12a显示登记商品候选的商品列表,则CPU111确认是否从所述商品列表中选择了任一商品(ST52)。例如,当宣告有键盘11的再检索键未被输入选择时(ST52的否),CPU111前进到步骤ST53的处理。
在步骤ST53中,CPU111将商品确定标志F2视为“0”。以上,CPU111结束此次的识别处理。
另一方面,当通过触摸面板12或键盘11的操作输入,从登记商品候选的商品列表中选择了任意一个商品时(ST52的是),CPU111从RAM114中取得所述已选择的商品的商品ID(ST54)。而且,CPU111将所述已取得的商品ID确定作为销售商品的商品ID,并通过电缆330发送给POS终端2(ST55:第一确定部78)。此外,CPU111将商品确定标志F2置位为“1”(ST56)。以上,CPU111结束此次的识别处理。
此外,当在步骤ST50中登记商品候选的数据的最大相似度超过确定阈值Lmax时(ST50的是),CPU111从RAM114中取得具有该最大相似度的商品的商品ID。而且,CPU111将所述已取得的商品ID确定作为销售商品的商品ID,并通过通信电缆330发送给POS终端2(ST55:第二确定部79)。此外,CPU111将商品确定标志F2置位为“1”(ST56)。此外,步骤ST54和步骤ST55的处理次序也可以相反。以上,CPU111结束此次的识别处理。
如果距离警告处理和识别处理均处理结束了(ST9的是),则CPU111确认商品确定标志F2是否已被置位为“1”(ST10)。当商品确定标志F2未被置位为“1”时(ST10的否),CPU111返回到步骤ST3。就是说,CPU111采集RAM114所保存的其他帧图像(ST3)。而且,CPU111再次执行上述步骤ST4以后的处理。
当商品确定标志F2已被置位为“1”时(ST10的是),CPU111向摄像部14输出摄像截至信号(ST11)。根据该摄像截至信号,摄像部14停止摄像。以上,商品识别程序结束。
图11是在向读取窗1B对准了的商品M和摄像部14的距离d与适当距离文件40所设定的适当距离最大值Dmax相比远时,触摸面板所显示的画面120的一例图。画面120被划分成图像显示区域121和商品候选区域122。而且,图像显示区域121显示有在步骤ST3的处理中采集到的帧图像。此外,商品候选区域122通过步骤ST47的处理可选择地显示有P品种(图11中为6品种)的商品,作为登记商品候选。而且,图像显示区域121通过步骤ST25的处理显示有表示距离不适当的标识“NG”。
图12是在向读取窗1B对准了的商品M和摄像部14的距离d与适当距离文件40所设定的适当距离最小值Dmin相比近时,触摸面板所显示的画面120的一例图。画面120被划分成图像显示区域121和商品候选区域122。而且,图像显示区域121显示有在步骤ST3的处理中采集到的帧图像。此外,商品候选区域122通过步骤ST47的处理可选择地显示有P品种(图12中为6品种)的商品,作为登记商品候选。而且,图像显示区域121通过步骤ST25的处理显示有表示距离不适当的标识“NG”。
图13是在向读取窗1B对准了的商品M和摄像部14的距离d在适当距离文件40所设定的适当距离最小值Dmin和适当距离最大值Dmax之间时、即在适当范围时,触摸面板所显示的画面120的一例图。画面120被划分为图像显示区域121和商品候选区域122。而且,图像显示区域121显示有在步骤ST3的处理中采集到的帧图像。此外,商品候选区域122通过步骤ST49的处理,可选择地显示有与P相比少的Q品种(图13中为3品种)的商品,作为登记商品候选。而且,图像显示区域121通过步骤ST29的处理显示表示距离为适当的标识“OK”。
如图11或图12所示,在商品M和摄像部14的距离d在适当范围外时,作为登记商品候选按照相似度从高到低的顺序可选择地显示有比较多的商品(在图11或图12中为6品种)。因此,在登记商品候选中包含有符合商品M的可能性高。当在登记商品候选中包含有符合商品M时,用户对该商品进行触摸等来选择。通过这样做,符合商品M被确定作为销售商品,并在POS终端2中被销售登记。
当在登记商品候选中未包含有符合商品M时,用户能够根据画面120所显示的标识“NG”识别商品M和摄像部14的距离d不恰当。因而,用户将商品M靠近或远离读取窗1B。而且,当商品M和摄像部14的距离d进入到适当范围内时,则如图13所示,作为登记商品候选被显示的商品的数变少。但是,由于商品M和摄像部14的距离d是在适当范围内,所以识别率高。因此,在登记商品候选中包含有符合商品M的可能性高。此外,当商品M和摄像部14的距离d进入适当范围内时,则由于在画面120上显示有标识“OK”,所以用户能够容易得知距离d是在适当范围内。当在登记商品候选中包含有符合商品M时,用户对该商品进行触摸等来选择。通过这样做,符合商品M被确定作为销售商品,并在POS终端2中被销售登记。这时,登记商品候选的数由于与距离d在适当范围之外时进行比较少,所以容易检索符合商品M。
此外,当商品M和摄像部14的距离d进入到适当范围内时,则登记商品候选的最大相似度是否超过确定阈值Lmax被判定。而且,当最大相似度超过确定阈值Lmax时,具有该最大相似度的商品自动地被确定作为销售商品,并在POS终端2中被销售登记。如上所述,由于商品M和摄像部14的距离在适当范围内,识别率高,所以在这个时候可以说具有大于等于确定阈值Lmax的最大相似度的商品毫无疑问是向读取窗1B对准了的商品M。因此,无需用户从登记商品候选中选择符合的商品M,就能够将符合商品确定作为销售商品。
另外,本发明并不限定于上述实施例。
例如,在上述实施例中,距离判定部75判定通过距离测量部74测量出的距离d是否为适当值,并以在是适当值时和在不是适当值时,可变部77可变了作为登记商品候选进行显示的商品数。关于这点,诸如事先准备与以0cm~10cm、10cm~20cm、20cm~30cm的方式阶段地设定的距离范围相关设定了作为登记商品候选进行显示的商品数的表。而且,也可以为距离判定部75检索通过距离测量部74测量出的距离d被包含在哪个距离范围内,可变部77将与符合的距离范围相关的数的商品作为登记商品候选的构成。
此外,虽然上述实施例的扫描装置1具有了作为商品识别装置的所有功能,但是也可以扫描装置1和POS终端2分散具有作为商品识别装置的功能。或者,也可以将扫描装置1装配到POS终端2中而一体地构成,从而该一体构成的装置具有作为商品识别装置的功能。此外,也可以为使店铺服务器等的外部装置存储实现发明功能的商品识别程序的全部或一部分的构成。此外,在本实施例中,虽然对固定式扫码器进行了说明,但是也可以是可移动的便携式扫码器。
另外,上述实施例是在装置内部的作为程序存储部的ROM中预先存储有实现发明功能的商品识别程序的例子。不过,并不限定于此,也可以将同样的程序从网络下载到装置中。或者,也可以将存储介质所记录的同样程序安装到装置中。存储介质只要是象CD-ROM、存储卡等那样能存储程序且装置可读取的,则其形态不限。此外,通过安装或下载程序获得的功能也可以与装置内部的OS(操作系统)等协作来实现该功能。此外,也可以将本实施例的程序安装到具有通信功能的移动电话或所谓的PDA那样的便携信息终端来实现该功能。
另外,虽然对本发明的几个实施例进行了说明,但是这些实施例是作为例子提出的,并不意图限定发明的范围。这些新颖的实施例可以用其他各种形式来实施,只要在不脱离发明的要旨的范围内可以进行各种省略、替换、变更。这些实施例及其变形均被包含在发明的范围或要旨中,而且,包含在权利要求的范围所记载的发明和其均等的范围内。

Claims (10)

1.一种商品识别装置,其特征在于,包括:
特征量抽取部,从通过摄影商品的摄像部已摄影的图像中抽取所述图像所包含的商品的外观特征量;
相似度计算部,将通过该特征量抽取部抽取出的外观特征量与对应每个识别对象商品保存有表示该商品的表面信息的特征量数据的识别词库文件的所述特征量数据进行核对,并对应每个所述识别对象商品计算出相似度,其中,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;
候选输出部,按照通过该相似度计算部计算出的所述相似度从大到小的顺序将所述识别对象商品作为识别商品候选进行输出;
距离测量部,测量从所述摄像部到通过该摄像部已摄影的商品的距离;以及
可变部,根据通过该距离测量部测量的距离,变更通过所述候选输出部输出的识别商品候选数。
2.根据权利要求1所述的商品识别装置,其特征在于,
所述候选输出部是能够选择地显示输出识别商品候选的识别对象商品的部,
其中,所述商品识别装置还包括:第一确定部,将从所述识别商品候选中选择出的识别对象商品确定作为通过所述摄影部已摄影的商品。
3.根据权利要求1或2所述的商品识别装置,其特征在于,还包括:
距离判定部,判定通过所述距离测量部测量的距离是否为适当值,
其中,所述可变部在所述距离为适当值时与在不是适当值时相比,使识别商品候选数变少。
4.根据权利要求3所述的商品识别装置,其特征在于,还包括:
第二确定部,在通过所述距离判定部判定所述距离为适当值,且通过所述候选输出部作为识别商品候选被输出的识别对象商品的最大相似度为大于等于预先设定的确定值时,将具有该最大相似度的识别对象商品确定作为通过所述摄像部已摄影的商品。
5.根据权利要求3或4所述的商品识别装置,其特征在于,还包括:
警告部,当通过所述距离判定部判定所述距离不是适当值时发出警告。
6.一种商品识别方法,包括以下步骤:
特征量抽取步骤,从通过摄影商品的摄像部已摄影的图像中抽取所述图像所包含的商品的外观特征量;
相似度计算步骤,将通过该特征量抽取步骤抽取出的外观特征量与对应每个识别对象商品保存有表示该商品的表面信息的特征量数据的识别词库文件的所述特征量数据进行核对,并对应每个所述识别对象商品计算出相似度,其中,所述相似度是表示所述外观特征量与所述特征量数据相似到哪种程度的数据;
候选输出步骤,按照通过该相似度计算步骤计算出的所述相似度从大到小的顺序将所述识别对象商品作为识别商品候选进行输出;以及
可变步骤,根据从所述摄像部到通过所述摄像部已摄影的商品的距离,变更通过所述候选输出步骤输出的识别商品候选数。
7.根据权利要求6所述的商品识别方法,其特征在于,
所述候选输出步骤是能够选择地显示输出识别商品候选的识别对象商品的步骤,
其中,所述商品识别方法还包括以下步骤:第一确定步骤,将从所述识别商品候选中选择出的识别对象商品确定作为通过所述摄影部已摄影的商品。
8.根据权利要求6或7所述的商品识别方法,其特征在于,还包括以下步骤:
距离判定步骤,判定通过所述距离测量步骤测量的距离是否为适当值,
其中,在所述可变步骤中,在所述距离为适当值时与在不是适当值时相比,使识别商品候选数变少。
9.根据权利要求8所述的商品识别方法,其特征在于,还包括以下步骤:
第二确定步骤,在通过所述距离判定步骤判定所述距离为适当值,且通过所述候选输出步骤作为识别商品候选被输出的识别对象商品的最大相似度为大于等于预先设定的确定值时,将具有该最大相似度的识别对象商品确定作为通过所述摄像部已摄影的商品。
10.根据权利要求8或9所述的商品识别方法,其特征在于,还包括以下步骤:
警告步骤,当通过所述距离判定步骤判定所述距离不是适当值时发出警告。
CN201310532819.8A 2012-11-05 2013-10-31 商品识别装置及商品识别方法 Expired - Fee Related CN103810798B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012243485A JP5747014B2 (ja) 2012-11-05 2012-11-05 商品認識装置及び商品認識プログラム
JP2012-243485 2012-11-05

Publications (2)

Publication Number Publication Date
CN103810798A true CN103810798A (zh) 2014-05-21
CN103810798B CN103810798B (zh) 2017-04-12

Family

ID=50622424

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310532819.8A Expired - Fee Related CN103810798B (zh) 2012-11-05 2013-10-31 商品识别装置及商品识别方法

Country Status (3)

Country Link
US (1) US9235764B2 (zh)
JP (1) JP5747014B2 (zh)
CN (1) CN103810798B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107852438A (zh) * 2015-07-30 2018-03-27 Lg电子株式会社 移动终端及其控制方法
US11093800B2 (en) 2018-04-26 2021-08-17 Boe Technology Group Co., Ltd. Method and device for identifying object and computer readable storage medium

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5826800B2 (ja) * 2013-07-17 2015-12-02 東芝テック株式会社 認識辞書評価装置及び認識辞書評価プログラム
JP6239460B2 (ja) * 2014-07-28 2017-11-29 東芝テック株式会社 情報処理装置及びプログラム
JP6336351B2 (ja) * 2014-08-08 2018-06-06 東芝テック株式会社 情報処理装置及びプログラム
JP6428240B2 (ja) * 2014-12-17 2018-11-28 カシオ計算機株式会社 商品登録装置、商品認識方法、およびプログラム
JP6209716B1 (ja) * 2016-06-02 2017-10-11 サインポスト株式会社 情報処理システム、情報処理方法、及びプログラム
JP7085393B2 (ja) * 2018-04-12 2022-06-16 東芝テック株式会社 読取装置およびプログラム
US11017641B2 (en) * 2018-12-21 2021-05-25 Sbot Technologies Inc. Visual recognition and sensor fusion weight detection system and method

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0612514A (ja) * 1992-05-11 1994-01-21 Olympus Optical Co Ltd バーコードの解読方法及び装置
JP2005318546A (ja) * 2004-03-29 2005-11-10 Fuji Photo Film Co Ltd 画像認識システム、画像認識方法、及び画像認識プログラム
CN101400001A (zh) * 2008-11-03 2009-04-01 清华大学 一种视频帧深度图的生成方法及系统
JP2010198137A (ja) * 2009-02-23 2010-09-09 Nec Infrontia Corp 定置スキャナ、pos端末、決済商品選別方法、決済商品選別プログラムおよびプログラム記録媒体
CN102024049A (zh) * 2010-12-08 2011-04-20 中国科学院自动化研究所 一种用于电子商务平台上的图像检索方法
CN102063616A (zh) * 2010-12-30 2011-05-18 上海电机学院 一种基于图像特征匹配的商品自动识别系统及方法
CN102208035A (zh) * 2010-03-31 2011-10-05 爱信艾达株式会社 图像处理系统及位置测量系统
CN102376136A (zh) * 2010-08-23 2012-03-14 东芝泰格有限公司 店铺系统及商品销售数据处理方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6650761B1 (en) * 1999-05-19 2003-11-18 Digimarc Corporation Watermarked business cards and methods
US6529855B1 (en) 1999-07-28 2003-03-04 Ncr Corporation Produce recognition system and method
US7246087B1 (en) * 2000-01-10 2007-07-17 General Electric Company Method and apparatus for product selection assistance
JP2001216571A (ja) * 2000-02-03 2001-08-10 Glory Ltd 料金精算方法および装置
JP2001229382A (ja) * 2000-02-17 2001-08-24 Nippon Telegr & Teleph Corp <Ntt> 情報蓄積装置,情報検索装置および情報蓄積方法,情報検索方法並びにこれらの方法を記録した記録媒体
TWI278782B (en) * 2001-08-24 2007-04-11 Toshiba Corp Personal recognition apparatus
JP2004234228A (ja) * 2003-01-29 2004-08-19 Seiko Epson Corp 画像検索装置、画像検索装置におけるキーワード付与方法、及びプログラム
US20080133592A1 (en) * 2006-11-30 2008-06-05 James Peters Bird identification system
US20100092093A1 (en) * 2007-02-13 2010-04-15 Olympus Corporation Feature matching method
JP5012247B2 (ja) * 2007-06-21 2012-08-29 ソニー株式会社 認証装置、入場管理装置、入退場管理装置、入場管理システム、入退場管理システム、認証処理方法およびプログラム
JP4565015B2 (ja) * 2008-05-15 2010-10-20 シャープ株式会社 画像処理装置、画像形成装置、画像処理システム、画像処理プログラムおよびその記録媒体
US8150813B2 (en) * 2008-12-18 2012-04-03 International Business Machines Corporation Using relationships in candidate discovery
JP5245971B2 (ja) * 2009-03-26 2013-07-24 富士通株式会社 生体情報処理装置および方法
WO2011078174A1 (ja) * 2009-12-24 2011-06-30 株式会社ニコン 検索支援システム、検索支援方法及び検索支援プログラム
US20110191327A1 (en) * 2010-01-31 2011-08-04 Advanced Research Llc Method for Human Ranking of Search Results
JP5551236B2 (ja) * 2010-03-03 2014-07-16 パナソニック株式会社 道路状況管理システム及び道路状況管理方法
US20120099756A1 (en) * 2010-10-20 2012-04-26 Faiz Feisal Sherman Product Identification
JP5149950B2 (ja) * 2010-10-28 2013-02-20 東芝テック株式会社 商品情報読取装置及びプログラム
JP5799586B2 (ja) * 2011-05-27 2015-10-28 富士通株式会社 生体認証装置、生体認証方法及び生体認証用コンピュータプログラム
JP5485954B2 (ja) * 2011-09-06 2014-05-07 東芝テック株式会社 店舗システム及びプログラム
US9424480B2 (en) * 2012-04-20 2016-08-23 Datalogic ADC, Inc. Object identification using optical code reading and object recognition

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0612514A (ja) * 1992-05-11 1994-01-21 Olympus Optical Co Ltd バーコードの解読方法及び装置
JP2005318546A (ja) * 2004-03-29 2005-11-10 Fuji Photo Film Co Ltd 画像認識システム、画像認識方法、及び画像認識プログラム
CN101400001A (zh) * 2008-11-03 2009-04-01 清华大学 一种视频帧深度图的生成方法及系统
JP2010198137A (ja) * 2009-02-23 2010-09-09 Nec Infrontia Corp 定置スキャナ、pos端末、決済商品選別方法、決済商品選別プログラムおよびプログラム記録媒体
CN102208035A (zh) * 2010-03-31 2011-10-05 爱信艾达株式会社 图像处理系统及位置测量系统
CN102376136A (zh) * 2010-08-23 2012-03-14 东芝泰格有限公司 店铺系统及商品销售数据处理方法
CN102024049A (zh) * 2010-12-08 2011-04-20 中国科学院自动化研究所 一种用于电子商务平台上的图像检索方法
CN102063616A (zh) * 2010-12-30 2011-05-18 上海电机学院 一种基于图像特征匹配的商品自动识别系统及方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107852438A (zh) * 2015-07-30 2018-03-27 Lg电子株式会社 移动终端及其控制方法
US11093800B2 (en) 2018-04-26 2021-08-17 Boe Technology Group Co., Ltd. Method and device for identifying object and computer readable storage medium

Also Published As

Publication number Publication date
JP5747014B2 (ja) 2015-07-08
US9235764B2 (en) 2016-01-12
JP2014092960A (ja) 2014-05-19
US20140126772A1 (en) 2014-05-08
CN103810798B (zh) 2017-04-12

Similar Documents

Publication Publication Date Title
CN103810468A (zh) 商品识别装置及商品识别方法
CN103810798A (zh) 商品识别装置及商品识别方法
EP3046050B1 (en) Information processing apparatus, pos system and information processing method
CN103577515A (zh) 商品识别装置及识别词库追加方法
US20170116491A1 (en) Commodity recognition apparatus and commodity recognition method
JP5668042B2 (ja) 商品読取装置、商品販売データ処理装置および商品読取プログラム
CN104766416A (zh) 信息处理装置及其控制方法、店铺系统
CN103455788A (zh) 商品识别装置及商品识别方法
CN106373298B (zh) 信息处理装置及其控制方法
CN103116949A (zh) 信息处理装置及信息处理方法
US10482447B2 (en) Recognition system, information processing apparatus, and information processing method
JP2014049014A (ja) 商品認識装置及び商品認識プログラム
US20150026017A1 (en) Information processing apparatus and information processing method
US20130208122A1 (en) Commodity reading apparatus and commodity reading method
EP2980729A1 (en) Information processing apparatus and method for recognizing object by the same
US20170344851A1 (en) Information processing apparatus and method for ensuring selection operation
EP2985741A1 (en) Information processing apparatus and information processing method
US20140222602A1 (en) Information processing apparatus and method for detecting stain on iamge capturing surface thereof
CN104657704A (zh) 商品识别装置及商品识别方法
JP2016062548A (ja) 商品登録装置、商品登録方法、および商品登録プログラム
JP2018142358A (ja) 情報処理装置及びプログラム
US20170083891A1 (en) Information processing apparatus and information processing method
US20180174126A1 (en) Object recognition apparatus and method

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170412

CF01 Termination of patent right due to non-payment of annual fee