CN108921645A - 一种商品购买判定方法、装置和用户终端 - Google Patents

一种商品购买判定方法、装置和用户终端 Download PDF

Info

Publication number
CN108921645A
CN108921645A CN201810582232.0A CN201810582232A CN108921645A CN 108921645 A CN108921645 A CN 108921645A CN 201810582232 A CN201810582232 A CN 201810582232A CN 108921645 A CN108921645 A CN 108921645A
Authority
CN
China
Prior art keywords
user
shopping
commodity
image
commodity purchasing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810582232.0A
Other languages
English (en)
Other versions
CN108921645B (zh
Inventor
黄鼎隆
马修·罗伯特·斯科特
马咪娜
王海涵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Yuepu Investment Center LP
Original Assignee
Shenzhen Malong Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Malong Technologies Co Ltd filed Critical Shenzhen Malong Technologies Co Ltd
Priority to CN201810582232.0A priority Critical patent/CN108921645B/zh
Publication of CN108921645A publication Critical patent/CN108921645A/zh
Priority to PCT/CN2019/070034 priority patent/WO2019233098A1/zh
Application granted granted Critical
Publication of CN108921645B publication Critical patent/CN108921645B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0641Shopping interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107Static hand or arm
    • G06V40/113Recognition of static hand signs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明提供了一种商品购买判定方法、装置和用户终端,其中所述方法包括:接收由用户购物手势触发红外信号所返回的购物启动指令;根据购物启动指令开始进行图像采集,并在接收到购物终止指令时停止对用户购物手势的图像采集,得到带有时间戳的连拍图像;对带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据,并根据商品购物数据对商品进行结算。本发明实现了在开放式的购物环境中,通过图像识别技术,对于用户的购物行为的判断,以及对于所购物品的品种和数量的智能识别,实现了对于用户的商品购买的行为和所购商品的识别和判断,降低了人力成本,大大缩短了结算时间,结算效率高,购物过程简单,提高了用户体验。

Description

一种商品购买判定方法、装置和用户终端
技术领域
本发明涉及图像识别技术领域,更具体地说,涉及一种商品购买判定方法、装置和用户终端。
背景技术
物质流通是人类社会的最基本要素。零售行业或直接面向消费者销售的开放式的相关行业(以下简称为零售行业或零售企业)作为当前物质流通的重要手段,需要雇佣大量的收银人员来实现商品的买卖工作,收银人员对消费者所购物品一件一件进行统计,统计完成后,与消费者共同完成支付。
而自动售货柜,则解决了零售行业的人工统计和人工结算的缺陷,是一种面向消费者的无人售货、自动结算的售卖方式。可通过用户的选择,统计出用户所选择的商品的品种种类和总价值,以供用户进行结算,完成支付过程。但目前的自动售货柜只能进行根据用户的选择,自动出货自动结算,并不能在开放的零售购物环境中实现对于用户的购物的行为和所取得的进行准确的识别,从而实现结算。
总之,目前现有的开放式的购物环境中,只能通过人工对于消费者所购得的商品进行逐件的检查、统计和总价计算,耗费大量人力成本,结算时间长效率低,购物过程繁琐、麻烦,用户体验差。
发明内容
有鉴于此,本发明提供一种商品购买判定方法、装置和用户终端以解决现有技术的不足。
为解决上述问题,本发明提供一种商品购买判定方法,包括:
接收由用户购物手势触发红外信号所返回的购物启动指令;
根据所述购物启动指令,基于时间戳,对所述用户购物手势开始进行图像采集,并在接收到用户离开手势触发的红外信号所返回的购物终止指令时停止对所述用户购物手势的图像采集,得到在接收到所述购物启动指令和所述购物终止指令的时间之间的带有时间戳的连拍图像;
基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据,并根据所述商品购物数据对商品进行结算;所述商品购物数据包括用户取出的商品品种、取出时间和与所述商品品种对应的商品数量。
优选地,所述“基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据”包括:
将所述带有时间戳的连拍图像按照所述时间戳顺序转换为连续的若干帧的手势图像;
基于神经网络学习,对每一帧的所述手势图像进行图像识别,以确定所述用户的所述商品购物数据。
优选地,所述“基于神经网络学习,对每一帧的所述手势图像进行图像识别,以确定所述用户的所述商品购物数据”,包括:
基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,得到目标手势特征轨迹数据;
对所述目标手势特征轨迹数据进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种;
对所述目标手势特征轨迹数据中所述用户取出的商品品种进行统计,生成商品购物数据。
优选地,所述“基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,得到目标手势特征轨迹数据”包括:
基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,确定所述手势特征的特征区域框,并根据所述特征区域框截取包括所述手势特征的最小截图;
将每一帧所述手势图像的所述最小截图依据时间戳的顺序合成为特征运动轨迹,并基于所述特征运动轨迹和与其对应的时间戳生成目标手势特征轨迹数据。
优选地,所述“对所述目标手势特征轨迹数据进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种”包括:
提取所述目标手势特征轨迹数据中的用户购物初始状态的特征图像,并将所述特征图像作为初始特征模板;
将所述目标手势特征轨迹数据中的每一帧所述最小截图与所述初始特征模板进行比对,确定每一帧所述最小截图中的包含有所述商品的物品关键帧;
对每个所述物品关键帧进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种。
优选地,所述“对每个所述物品关键帧进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种”,包括:
将所述物品关键帧转换为灰度图像,以及R、G、B三色通道图像;
基于预设商品特征库,将所述预设商品特征库中的预设商品特征图像分别与所述灰度图像、所述R、G、B三色通道图像进行匹配,获得对应的识别结果;
根据每个识别结果的所占预设权重,计算得到所述物品关键帧对应的关键帧识别结果,并根据所述关键帧识别结果确定所述目标手势特征轨迹数据中出现的所述用户取出的商品品种。
此外,为解决上述问题,本发明还提供一种商品购买判定装置,包括:接收模块、采集模块和识别模块;
所述接收模块,用于接收由用户购物手势触发红外信号所返回的购物启动指令;
所述采集模块,用于根据所述购物启动指令,基于时间戳,对所述用户购物手势开始进行图像采集,并在接收到用户离开手势触发的红外信号所返回的购物终止指令时停止对所述用户购物手势的图像采集,得到在接收到所述购物启动指令和所述购物终止指令的时间之间的带有时间戳的连拍图像;
所述识别模块,用于基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据,并根据所述商品购物数据对商品进行结算;所述商品购物数据包括用户取出的商品品种、取出时间和与所述商品品种对应的商品数量。
此外,为解决上述问题,本发明还提供一种用户终端,包括存储器以及处理器,所述存储器用于存储商品购买判定程序,所述处理器运行所述商品购买判定程序以使所述用户终端执行如上述所述商品购买判定方法。
此外,为解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有商品购买判定程序,所述商品购买判定程序被处理器执行时实现如上述所述商品购买判定方法。
本发明提供的一种商品购买判定方法、装置和用户终端。其中,本发明所提供的方法通过购物手势触发红外信号,进而获得购物启动指令,并且,在用户离开手势触发的红外信号返回购物终止指令,在接收到购物启动指令和购物终止指令之间的时间段进行对用户购物手势的图像采集,并对该连拍图像进行识别,以最终确定用户的购买行为和所购买的物品的品种、数量,购物时间等信息,从而进行结算。通过本发明所提供的商品购买判定方法,实现了在开放式的购物环境中,通过图像识别技术,对于用户的购物行为的判断,以及对于所购物品的品种和数量的智能识别,实现了对于用户的商品购买的行为和所购商品的识别和判断,降低了人力成本,大大缩短了结算时间,结算效率高,购物过程简单,提高了用户体验。
附图说明
图1为本发明商品购买判定方法实施例方案涉及的硬件运行环境的结构示意图;
图2为本发明商品购买判定方法第一实施例的流程示意图;
图3为本发明商品购买判定方法第二实施例的流程示意图;
图4为本发明商品购买判定方法第三实施例的流程示意图;
图5为本发明商品购买判定方法第四实施例的流程示意图;
图6为本发明商品购买判定方法第五实施例的流程示意图;
图7为本发明商品购买判定方法第六实施例的流程示意图;
图8为本发明商品购买判定装置的功能模块示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
下面详细描述本发明的实施例,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
如图1所示,图1是本发明实施例方案涉及的终端的硬件运行环境的结构示意图。
本发明实施例终端可以是的设于自动货柜机中的PC,也可以是智能手机、平板电脑、电子书阅读器、MP3播放器、MP4播放器、便携计算机等可移动式终端设备。此外,也可以为自动货柜机本身所带有的计算机硬件装置。
如图1所示,该终端可以包括:处理器1001,例如CPU,网络接口1004,用户接口1003,存储器1005,通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏、输入单元比如键盘、遥控器,可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是稳定的存储器,例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。
此外,终端包括图像采集设备,具体可以为摄像头,相机等。
此外,终端还包括红外传感设备,用以对用户的购物行为进行判断。
可选地,终端还可以包括RF(Radio Frequency,射频)电路,传感器、音频电路、WiFi模块等等。此外,移动终端还可配置陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
本领域技术人员可以理解,图1中示出的终端并不构成对终端的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
如图1所示,作为一种计算机可读存储介质的存储器1005中可以包括操作系统、数据接口控制程序、网络连接程序以及商品购买判定程序。
本发明提供的一种商品购买判定方法、装置和用户终端。其中,所述方法实现了在开放式的购物环境中,通过图像识别技术,对于用户的购物行为的判断,以及对于所购物品的品种和数量的智能识别,实现了对于用户的商品购买的行为和所购商品的识别和判断,降低了人力成本,大大缩短了结算时间,结算效率高,购物过程简单,提高了用户体验。
实施例1:
参照图2,本发明第一实施例提供一种商品购买判定方法,包括:
步骤S10000,接收由用户购物手势触发红外信号所返回的购物启动指令;
上述,本实施例所提供的商品购买判定方法,可以适用于开放式的购物环境,例如商场、超市等场所,即无人值守,用户可进行自由拿取货物。在本实施例中,可以为开放式的自动售货机,用户开始购物后,自动售货机的柜门打开,用户进行对内部的货物直接拿取,而自动售货机通过图像采集设备对用户的购物行为、所购物品进行识别和统计,实现对于用户的所购商品的最终结算。
上述,用户购物手势,为用户对目标商品的拿取的动作,该动作可以包括两个过程,即可以为选择抓取或放置过程和货品取回或递出过程,通过这两个过程,实现对于目标商品的拿取。上述过程,可以为用户空手向目标商品移动,抓取货物,并且将目标商品取回。此外,上述过程也可以针对于用户手持商品向目标位置递出,放置于目标位置,并且空手退出的过程。
上述,红外信号,为本实施例中的红外传感设备所发出的红外线信号,通过在特定位置设置红外传感设备,布置红外线信号,以便于用户在出现购物手势时,触发相应的红外传感器所发出的红外线信号,并返回一购物启动指令。
上述,购物启动指令,可以依据相应的红外传感设备所对应的位置,启动有针对性的指令,即在不同的区域设置不同的红外传感设备,对于用户在不同区域进行抓取商品时,触发的不同区域的红外信号,返回相应区域所对应的购物启动指令。例如,开放式的自动售货机存在有上中下3层购物空间,用户在去拿取下层的商品时,触发下层的红外传感设备的红外信号,对应的返回一个与下层空间相对应的购物启动指令。
步骤S20000,根据所述购物启动指令,基于时间戳,对所述用户购物手势开始进行图像采集,并在接收到用户离开手势触发的红外信号所返回的购物终止指令时停止对所述用户购物手势的图像采集,得到在接收到所述购物启动指令和所述购物终止指令的时间之间的带有时间戳的连拍图像;
上述,图像采集的设备,可以为摄像机、相机等具有图像拍摄功能的装置。
图像采集可以为在不同的购物区域设置不同的图像采集设备,并且根据不同区域对应的购物启动指令,开启不同区域的图像采集设备,以便于对相应的购物行为进行采集和识别。例如,开放式的自动售货机存在有上中下3层购物空间,用户在去拿取下层的商品时,触发下层的红外传感设备的红外信号,对应的返回一个与下层空间相对应的购物启动指令,此时,设于下层空间的相应位置的多个不同角度的摄像头开始工作,开始对于用户的购物行为进行图像采集。
上述,时间戳,为图像采集设备所采集图像对应的时间标签,所采集图像的每一帧对应一个时间戳,按照时间戳的顺序,所采集到的带有时间戳的连拍图像形成用户手势的运动轨迹。
上述,连拍图像,即为在用户购物的过程中,持续不断的追踪用户手势,连续拍摄用户购物的手势图像,判断整个过程中用户拿起、放下的商品品种,即通过所连续拍摄得到的图像对用户所购商品的品种进行识别,并对所取出的商品进行结算。
上述,连拍图像,可以为图像视频数据,即为视频图像。此外,也可以为可记录购物完整过程的用户购物手势的动态图像。
步骤S30000,基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据,并根据所述商品购物数据对商品进行结算;所述商品购物数据包括用户取出的商品品种、取出时间和与所述商品品种对应的商品数量。
上述,需要说明的是,神经网络学习,即为人工神经网络(Artificial NeuralNetwork,即ANN),是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。
通过神经网络学习,使系统获得对图像中的购物手势以及与购物手势对应的商品的识别的能力。通过神经网络学习,识别用户的带有时间戳的连拍图像进行图像识别,从而得到用户的购物手势所取得的商品的品种、数量和时间,以便于最终对用户所抓取的商品进行最终结算。
本实施例所提供的方法通过购物手势触发红外信号,进而获得购物启动指令,并且,在用户离开手势触发的红外信号返回购物终止指令,在接收到购物启动指令和购物终止指令之间的时间段进行对用户购物手势的图像采集,并对该连拍图像进行识别,以最终确定用户的购买行为和所购买的物品的品种、数量,购物时间等信息,从而进行结算。通过本发明所提供的商品购买判定方法,实现了在开放式的购物环境中,通过图像识别技术,对于用户的购物行为的判断,以及对于所购物品的品种和数量的智能识别,实现了对于用户的商品购买的行为和所购商品的识别和判断,降低了人力成本,大大缩短了结算时间,结算效率高,购物过程简单,提高了用户体验。
实施例2:
参照图3,本发明第二实施例提供一种商品购买判定方法,基于上述图2所示的第一实施例,所述步骤S30000“基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据”包括:
步骤S31000,将所述带有时间戳的连拍图像按照所述时间戳顺序转换为连续的若干帧的手势图像;
上述,在本实施例中连拍图像可以为动态图像视频数据,将该连拍图像转换为若干帧的手势图像,上述若干帧,可以依据具体图像识别能力进行设置,例如10帧。
所连拍图像转换的手势图像的帧数,可以根据用户购物手势的速度进行设置,用户购物手势速度快,则帧数多;速度慢,则帧数少。此外,也可以为固定数值,例如,在本实施例中,可以设置对用户每次的购物手势的图像转换的若干帧为10-15帧。
在某种实施方式中,由于对于用户的每个购物手势均需要进行连续拍摄,在用户的购物过程中,需要拍摄并保存有大量的购物手势的图片,在一定程度占用存储空间、系统资源,甚至在与云端进行数据交互时会占用大量网络资源,影响网络带宽速度,严重的会导致一定程度上的拖慢整个网络的情况。所以,在本实施中,可以在得到在接收到所述购物启动指令和所述购物终止指令的时间之间的带有时间戳的连拍图像后,并且在进行图片识别前,对所获取到的带有时间戳的连拍图像进行预处理,具体可以为如下步骤:
在所述步骤S31000之后,还可以包括:
对每一帧的所述手势图像进行亮度、对比度、色彩饱和度的优化处理;
对亮度、对比度、色彩饱和度的优化处理后的所述手势图像进行图像截取,以得到包含有用户购物手势和商品的所述手势图像;
对图像截取后的所述手势图像进行分辨率统一化调整,以得到与图像识别相适应且统一大小的所述手势图像。
上述,在进行图像处理的步骤中,对所采集到的所述手势图像进行图像优化处理,首先进行图像亮度、对比度、色彩饱和度处理,即为在保证图像质量的情况下,以达到对图像的所占内存或容量进行相应降低的效果。
上述,对于手势图像进行截取,去除掉其中的除了购物手势及商品所占区域以外的多余部分,只截取每一帧连拍图像中的包含有购物手势及商品的所占区域的最小图像。
上述,调整连拍图像的分辨率,以便于手势图像适应于图像识别的最小分辨率,且将所有截取后的图像进行大小统一,从而达到统一化并且降低图像所占内存或容量的效果。
步骤S32000,基于神经网络学习,对每一帧的所述手势图像进行图像识别,以确定所述用户的所述商品购物数据。
上述,对于其中的每一帧的手势图像进行图像识别,从而确定用户的商品购物数据,以确定用户购物过程中取出了什么,取出了多少数量等等信息。通过对于连拍图像的单帧手势图像的识别,从而可以更加准确地对于用户的购物手势进行定位并进行进一步的判断。
实施例3:
参照图4,本发明第三实施例提供一种商品购买判定方法,基于上述图3所示的第二实施例,所述步骤S32000“基于神经网络学习,对每一帧的所述手势图像进行图像识别,以确定所述用户的所述商品购物数据”,包括:
步骤S32100,基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,得到目标手势特征轨迹数据;
上述,手势特征即为在图像中,包含有用户的购物手势的特征信息,包括用户的手的图像特征和用户手抓取的商品的图像特征,其中,手的图像特征可以为抓取手势特征,手心位置特征,手指形状特征等等,商品的图像特征可以包括商品的外形、大小等等信息。
上述,手势图像中包含有手势特征轨迹数据,通过神经网络学习,可对图像中的所包含的手势特征进行定位,从而判断出手势图像中是否有用户的手势存在并且,用户的手中是否抓取商品。
步骤S32200,对所述目标手势特征轨迹数据进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种;
步骤S32300,对所述目标手势特征轨迹数据中所述用户取出的商品品种进行统计,生成商品购物数据。
上述,在进行图像识别时,对于每一帧的手势图像中的手势特征进行定位,从而找到手势图像中的手势特征,从而得到目标手势特征轨迹数据。并且,对目标手势特征轨迹数据进行识别,通过图像识别,得到目标手势特征轨迹数据中的用户所取出的商品对应的商品品种,并进行统计以生成商品购物数据。
实施例4:
参照图5,本发明第四实施例提供一种商品购买判定方法,基于上述图4所示的第三实施例,所述步骤S32100“基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,得到目标手势特征轨迹数据”包括:
步骤S32110,基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,确定所述手势特征的特征区域框,并根据所述特征区域框截取包括所述手势特征的最小截图;
步骤S32120,将每一帧所述手势图像的所述最小截图依据时间戳的顺序合成为特征运动轨迹,并基于所述特征运动轨迹和与其对应的时间戳生成目标手势特征轨迹数据。
上述,特征区域框为进行图像识别时,所定位出的手势特征为原点或区域中心的且包括用户的手势的特征区域的框,并进行根据特征区域框所进行的截图。其中,特征区域框,即为包括所述手势特征的最小截图。
上述特征区域框的形状可以为长方形、正方形或其他任意形状。
上述,将用户进行购物时的每一帧所述手势图像的所述最小截图合成为特征运动轨迹,并且,根据该特征运动轨迹和时间戳,生成带有时间戳的目标手势特征轨迹数据。通过进行图像截取,得到了包含有手势特征的最小截图,从而将所有帧对应的最小截图合成为特征运动轨迹,大大减少了图像再传输识别过程中的图像所占用的系统资源,最小截图中包含有所需要进行识别的必要的手势特征信息,并且删除了不相关的图像信息,减少了图像所占用存储空间的容量,可在一定程度上提高图像识别的效率。
实施例5:
参照图6,本发明第五实施例提供一种商品购买判定方法,基于上述图5所示的第四实施例,所述步骤S32200“对所述目标手势特征轨迹数据进行识别,以确定所述目标手势特征轨迹数据中出现的所述用户取出的商品品种”包括:
步骤S32210,提取所述目标手势特征轨迹数据中的用户购物初始状态的特征图像,并将所述特征图像作为初始特征模板;
上述,用户购物初始状态,即为用户的手势为空手,进行对商品抓取时的状态,其中,用户的手势中并没有商品,且并没有接触商品。
将用户购物初始状态作为基准特征的初始特征模板,进行进一步对用户手中是否有商品进行判断。
步骤S32220,将所述目标手势特征轨迹数据中的每一帧所述最小截图与所述初始特征模板进行比对,确定每一帧所述最小截图中的包含有所述商品的物品关键帧;
步骤S32230,对每个所述物品关键帧进行识别,以确定所述目标手势特征轨迹数据中出现的所述用户取出的商品品种。
上述,在本实施例中,通过将所有帧的最小截图与初始特征模板进行比对,以找出其中包含有商品的物品关键帧,即为找出其中用户的手中抓有商品的图片帧。通过与初始状态对应的初始特征模板进行比对,从而找出用户手中抓有商品的物品关键帧,该步骤为对于用户是否拿取到商品进行判断,以便于进一步对所拿取的商品进行识别。此外,通过与初始状态对应的初始特征模板进行比对,实现了对用户的自己的手势图像进行比对,肤色、手势、动作的相似,提高了对于用户购物行为判断的准确性。
实施例6:
参照图7,本发明第五实施例提供一种商品购买判定方法,基于上述图6所示的第五实施例,所述步骤S32230“对每个所述物品关键帧进行识别,以确定所述目标手势特征轨迹数据中出现的所述用户取出的商品品种”,包括:
步骤S32231,将所述物品关键帧转换为灰度图像,以及R、G、B三色通道图像;
上述,需要说明的是,灰度数字图像是每个像素只有一个采样颜色的图像。这类图像通常显示为从最暗黑色到最亮的白色的灰度,尽管理论上这个采样可以任何颜色的不同深浅,甚至可以是不同亮度上的不同颜色。灰度图像与黑白图像不同,在计算机图像领域中黑白图像只有黑白两种颜色,灰度图像在黑色与白色之间还有许多级的颜色深度。
上述,RGB色彩模式是工业界的一种颜色标准,是通过对红(R)、绿(G)、蓝(B)三个颜色通道的变化以及它们相互之间的叠加来得到各式各样的颜色的,RGB即是代表红、绿、蓝三个通道的颜色。
将物品关键帧转换为灰度图像、R通道图像、G通道图像、B通道图像。
步骤S32232,基于预设商品特征库,将所述预设商品特征库中的预设商品特征图像分别与所述灰度图像、所述R、G、B三色通道图像进行匹配,获得对应的识别结果;
上述,预设商品特征库,即为保存有所有在售商品的多角度和特征的预设商品特征图像的数据库,其中,可以包括不同角度的商品图像、商品不同部位的图像,以及还可以包括商品的形状、色彩、大小尺寸信息等等数据信息。
上述,将灰度图像、R通道图像、G通道图像、B通道图像分别与预设商品特征库中的预设商品特征图像进行匹配,以获得对应的识别结果。
步骤S32233,根据每个识别结果的所占预设权重,计算得到所述物品关键帧对应的关键帧识别结果,并根据所述关键帧识别结果确定所述目标手势特征轨迹数据中出现的所述用户取出的商品品种。
上述,预设权重,可以为对于灰度图像、R通道图像、G通道图像、B通道图像进行分别匹配和比对,所获得的识别结果的所占重要性的计算权重。例如,灰度图像权重为40%,R通道图像、G通道图像、B通道图像均为20%。
通过计算得到每一关键帧的预设权重,计算得到物品关键帧对应的关键帧识别结果。
上述,关键帧识别结果,也可以为相似性,即与所述预设商品特征库中的预设商品特征图像进行分别比对,所得到的相似性,并通过预设权重进行计算,从而得到物品关键帧对应的关键帧识别结果。
此外,本发明还提供一种商品购买判定装置,包括:接收模块10、采集模块20和识别模块30;
所述接收模块10,用于接收由用户购物手势触发红外信号所返回的购物启动指令;
所述采集模块20,用于根据所述购物启动指令,基于时间戳,对所述用户购物手势开始进行图像采集,并在接收到用户离开手势触发的红外信号所返回的购物终止指令时停止对所述用户购物手势的图像采集,得到在接收到所述购物启动指令和所述购物终止指令的时间之间的带有时间戳的连拍图像;
所述识别模块30,用于基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据,并根据所述商品购物数据对商品进行结算;所述商品购物数据包括用户取出的商品品种、取出时间和与所述商品品种对应的商品数量。
此外,本发明还提供一种用户终端,包括存储器以及处理器,所述存储器用于存储商品购买判定程序,所述处理器运行所述商品购买判定程序以使所述用户终端执行如上述所述商品购买判定方法。
此外,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有商品购买判定程序,所述商品购买判定程序被处理器执行时实现如上述所述商品购买判定方法。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (9)

1.一种商品购买判定方法,其特征在于,包括:
接收由用户购物手势触发红外信号所返回的购物启动指令;
根据所述购物启动指令,基于时间戳,对所述用户购物手势开始进行图像采集,并在接收到用户离开手势触发的红外信号所返回的购物终止指令时停止对所述用户购物手势的图像采集,得到在接收到所述购物启动指令和所述购物终止指令的时间之间的带有时间戳的连拍图像;
基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据,并根据所述商品购物数据对商品进行结算;所述商品购物数据包括用户取出的商品品种、取出时间和与所述商品品种对应的商品数量。
2.如权利要求1所述商品购买判定方法,其特征在于,所述“基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据”包括:
将所述带有时间戳的连拍图像按照所述时间戳顺序转换为连续的若干帧的手势图像;
基于神经网络学习,对每一帧的所述手势图像进行图像识别,以确定所述用户的所述商品购物数据。
3.如权利要求2所述商品购买判定方法,其特征在于,所述“基于神经网络学习,对每一帧的所述手势图像进行图像识别,以确定所述用户的所述商品购物数据”,包括:
基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,得到目标手势特征轨迹数据;
对所述目标手势特征轨迹数据进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种;
对所述目标手势特征轨迹数据中所述用户取出的商品品种进行统计,生成商品购物数据。
4.如权利要求3所述商品购买判定方法,其特征在于,所述“基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,得到目标手势特征轨迹数据”包括:
基于神经网络学习,对每一帧的所述手势图像中的手势进行手势特征定位,确定所述手势特征的特征区域框,并根据所述特征区域框截取包括所述手势特征的最小截图;
将每一帧所述手势图像的所述最小截图依据时间戳的顺序合成为特征运动轨迹,并基于所述特征运动轨迹和与其对应的时间戳生成目标手势特征轨迹数据。
5.如权利要求4所述商品购买判定方法,其特征在于,所述“对所述目标手势特征轨迹数据进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种”包括:
提取所述目标手势特征轨迹数据中的用户购物初始状态的特征图像,并将所述特征图像作为初始特征模板;
将所述目标手势特征轨迹数据中的每一帧所述最小截图与所述初始特征模板进行比对,确定每一帧所述最小截图中的包含有所述商品的物品关键帧;
对每个所述物品关键帧进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种。
6.如权利要求5所述商品购买判定方法,其特征在于,所述“对每个所述物品关键帧进行识别,以确定所述目标手势特征轨迹数据中所述用户取出的商品品种”,包括:
将所述物品关键帧转换为灰度图像,以及R、G、B三色通道图像;
基于预设商品特征库,将所述预设商品特征库中的预设商品特征图像分别与所述灰度图像、所述R、G、B三色通道图像进行匹配,获得对应的识别结果;
根据每个识别结果的所占预设权重,计算得到所述物品关键帧对应的关键帧识别结果,并根据所述关键帧识别结果确定所述目标手势特征轨迹数据中出现的所述用户取出的商品品种。
7.一种商品购买判定装置,其特征在于,包括:接收模块、采集模块和识别模块;
所述接收模块,用于接收由用户购物手势触发红外信号所返回的购物启动指令;
所述采集模块,用于根据所述购物启动指令,基于时间戳,对所述用户购物手势开始进行图像采集,并在接收到用户离开手势触发的红外信号所返回的购物终止指令时停止对所述用户购物手势的图像采集,得到在接收到所述购物启动指令和所述购物终止指令的时间之间的带有时间戳的连拍图像;
所述识别模块,用于基于神经网络学习,对所述带有时间戳的连拍图像进行图像识别,以确定用户的商品购物数据,并根据所述商品购物数据对商品进行结算;所述商品购物数据包括用户取出的商品品种、取出时间和与所述商品品种对应的商品数量。
8.一种用户终端,其特征在于,包括存储器以及处理器,所述存储器用于存储商品购买判定程序,所述处理器运行所述商品购买判定程序以使所述用户终端执行如权利要求1-6中任一项所述商品购买判定方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有商品购买判定程序,所述商品购买判定程序被处理器执行时实现如权利要求1-6中任一项所述商品购买判定方法。
CN201810582232.0A 2018-06-07 2018-06-07 一种商品购买判定方法、装置和用户终端 Expired - Fee Related CN108921645B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201810582232.0A CN108921645B (zh) 2018-06-07 2018-06-07 一种商品购买判定方法、装置和用户终端
PCT/CN2019/070034 WO2019233098A1 (zh) 2018-06-07 2019-01-02 一种商品购买判定方法、装置和用户终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810582232.0A CN108921645B (zh) 2018-06-07 2018-06-07 一种商品购买判定方法、装置和用户终端

Publications (2)

Publication Number Publication Date
CN108921645A true CN108921645A (zh) 2018-11-30
CN108921645B CN108921645B (zh) 2021-07-13

Family

ID=64419066

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810582232.0A Expired - Fee Related CN108921645B (zh) 2018-06-07 2018-06-07 一种商品购买判定方法、装置和用户终端

Country Status (2)

Country Link
CN (1) CN108921645B (zh)
WO (1) WO2019233098A1 (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109979130A (zh) * 2019-03-29 2019-07-05 厦门益东智能科技有限公司 一种商品自动识别和结算售货柜、方法以及系统
CN110276305A (zh) * 2019-06-25 2019-09-24 广州众聚智能科技有限公司 一种动态商品识别方法
WO2019233098A1 (zh) * 2018-06-07 2019-12-12 深圳码隆科技有限公司 一种商品购买判定方法、装置和用户终端
CN110781752A (zh) * 2019-09-27 2020-02-11 上海数烨数据科技有限公司 一种动态视觉智能柜多品类场景下的物体识别方法
CN111382650A (zh) * 2018-12-28 2020-07-07 阿里巴巴集团控股有限公司 商品购物处理系统、方法、装置及电子设备
CN111415461A (zh) * 2019-01-08 2020-07-14 虹软科技股份有限公司 物品识别方法及系统、电子设备
CN111931740A (zh) * 2020-09-29 2020-11-13 创新奇智(南京)科技有限公司 商品销量识别方法及装置、电子设备、存储介质
CN112016398A (zh) * 2020-07-29 2020-12-01 华为技术有限公司 手持物体识别方法及装置
CN112149577A (zh) * 2020-09-24 2020-12-29 信雅达系统工程股份有限公司 基于神经网络图像识别的智能结算系统
CN112486934A (zh) * 2020-08-21 2021-03-12 海信视像科技股份有限公司 一种文件同步方法及显示设备
CN113194252A (zh) * 2021-04-28 2021-07-30 深圳市乐科智控科技有限公司 一种动态识别智能柜的数据流量消耗优化方法及其系统

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111540447B (zh) * 2020-04-20 2023-10-03 深圳市华智信息科技有限公司 智能库存数据更新方法、电子装置及计算机可读存储介质
CN112735030B (zh) * 2020-12-28 2022-08-19 深兰人工智能(深圳)有限公司 售货柜的视觉识别方法、装置、电子设备和可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105593847A (zh) * 2013-06-05 2016-05-18 弗瑞莎伯公司 用于智能购物的方法和设备
CN106952402A (zh) * 2017-03-22 2017-07-14 帮团成都电子商务有限责任公司 一种数据处理方法及装置
CN107134053A (zh) * 2017-04-19 2017-09-05 石道松 智能售货门店
CN107507339A (zh) * 2017-08-11 2017-12-22 深兰科技(上海)有限公司 智能冰柜
CN107610379A (zh) * 2017-09-11 2018-01-19 江苏弘冠智能科技有限公司 一种购物识别方法及购物车识别装置
CN107871111A (zh) * 2016-09-28 2018-04-03 苏宁云商集团股份有限公司 一种行为分析方法及系统

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10365721B2 (en) * 2014-05-06 2019-07-30 Symbol Technologies, Llc Apparatus and method for performing a variable data capture process
CN107944859A (zh) * 2017-11-15 2018-04-20 深圳码隆科技有限公司 一种基于图像识别技术的无人售货方法和设备
CN108921645B (zh) * 2018-06-07 2021-07-13 深圳码隆科技有限公司 一种商品购买判定方法、装置和用户终端

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105593847A (zh) * 2013-06-05 2016-05-18 弗瑞莎伯公司 用于智能购物的方法和设备
CN107871111A (zh) * 2016-09-28 2018-04-03 苏宁云商集团股份有限公司 一种行为分析方法及系统
CN106952402A (zh) * 2017-03-22 2017-07-14 帮团成都电子商务有限责任公司 一种数据处理方法及装置
CN107134053A (zh) * 2017-04-19 2017-09-05 石道松 智能售货门店
CN107507339A (zh) * 2017-08-11 2017-12-22 深兰科技(上海)有限公司 智能冰柜
CN107610379A (zh) * 2017-09-11 2018-01-19 江苏弘冠智能科技有限公司 一种购物识别方法及购物车识别装置

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019233098A1 (zh) * 2018-06-07 2019-12-12 深圳码隆科技有限公司 一种商品购买判定方法、装置和用户终端
CN111382650B (zh) * 2018-12-28 2023-05-02 阿里巴巴集团控股有限公司 商品购物处理系统、方法、装置及电子设备
CN111382650A (zh) * 2018-12-28 2020-07-07 阿里巴巴集团控股有限公司 商品购物处理系统、方法、装置及电子设备
JP2021513690A (ja) * 2019-01-08 2021-05-27 アークソフト コーポレイション リミテッドArcSoft Corporation Limited 物品識別方法及びシステム、電子機器
US11335092B2 (en) 2019-01-08 2022-05-17 Arcsoft Corporation Limited Item identification method, system and electronic device
CN111415461A (zh) * 2019-01-08 2020-07-14 虹软科技股份有限公司 物品识别方法及系统、电子设备
CN109979130A (zh) * 2019-03-29 2019-07-05 厦门益东智能科技有限公司 一种商品自动识别和结算售货柜、方法以及系统
CN110276305B (zh) * 2019-06-25 2021-06-15 广州众聚智能科技有限公司 一种动态商品识别方法
CN110276305A (zh) * 2019-06-25 2019-09-24 广州众聚智能科技有限公司 一种动态商品识别方法
CN110781752A (zh) * 2019-09-27 2020-02-11 上海数烨数据科技有限公司 一种动态视觉智能柜多品类场景下的物体识别方法
CN112016398A (zh) * 2020-07-29 2020-12-01 华为技术有限公司 手持物体识别方法及装置
CN112486934A (zh) * 2020-08-21 2021-03-12 海信视像科技股份有限公司 一种文件同步方法及显示设备
CN112486934B (zh) * 2020-08-21 2023-06-09 海信视像科技股份有限公司 一种文件同步方法及显示设备
CN112149577A (zh) * 2020-09-24 2020-12-29 信雅达系统工程股份有限公司 基于神经网络图像识别的智能结算系统
CN111931740B (zh) * 2020-09-29 2021-01-26 创新奇智(南京)科技有限公司 商品销量识别方法及装置、电子设备、存储介质
CN111931740A (zh) * 2020-09-29 2020-11-13 创新奇智(南京)科技有限公司 商品销量识别方法及装置、电子设备、存储介质
CN113194252A (zh) * 2021-04-28 2021-07-30 深圳市乐科智控科技有限公司 一种动态识别智能柜的数据流量消耗优化方法及其系统

Also Published As

Publication number Publication date
WO2019233098A1 (zh) 2019-12-12
CN108921645B (zh) 2021-07-13

Similar Documents

Publication Publication Date Title
CN108921645A (zh) 一种商品购买判定方法、装置和用户终端
CN108921048A (zh) 一种购物结算方法、装置和用户终端
CN109166007A (zh) 一种基于自动售货机的商品推荐方法及其装置
CN108922026A (zh) 一种自动售货机的补货管理方法、装置和用户终端
CN104954736B (zh) 滞留状况分析装置、滞留状况分析系统及分析方法
CN206179117U (zh) 智能展示系统
RU2739542C1 (ru) Система автоматической регистрации для торговой точки
US10185965B2 (en) Stay duration measurement method and system for measuring moving objects in a surveillance area
US10628695B2 (en) Fast item identification for checkout counter
CN109979130A (zh) 一种商品自动识别和结算售货柜、方法以及系统
CN108694779A (zh) 一种开放式自动售货机中商品的退货方法及其装置
CN106776619A (zh) 用于确定目标对象的属性信息的方法和装置
CN109002782A (zh) 一种基于自动售货机的商品购买方法、装置和用户终端
CN108960132B (zh) 一种开放式自动售货机中商品的购买方法及其装置
US11250570B2 (en) Display rack image processing device, image processing method, and recording medium
CN109241883B (zh) 一种基于自动售货机的退货控制方法及其装置
CN112598486B (zh) 基于大数据与智能物联网的市场营销精准筛选推送系统
CN109243112A (zh) 一种开放式环境购物控制方法和装置
CN108446943A (zh) 售货柜商品推荐方法、装置、计算机设备和存储介质
CN108985861A (zh) 一种基于开放式购物环境的购物结算控制方法和装置
Sarwar et al. Smart shopping carts based on mobile computing and deep learning cloud services
US20180293598A1 (en) Personal behavior analysis device, personal behavior analysis system, and personal behavior analysis method
CN109166000A (zh) 一种智能货柜及创建订单的方法
JP7088281B2 (ja) 商品分析システム、商品分析方法および商品分析プログラム
CN109191196A (zh) 一种基于用户特征的商品推荐方法、装置和用户终端

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
PP01 Preservation of patent right
PP01 Preservation of patent right

Effective date of registration: 20211123

Granted publication date: 20210713

PD01 Discharge of preservation of patent

Date of cancellation: 20220415

Granted publication date: 20210713

PD01 Discharge of preservation of patent
TR01 Transfer of patent right

Effective date of registration: 20220706

Address after: Room 368, 302, 211 Fute North Road, China (Shanghai) pilot Free Trade Zone, Pudong New Area, Shanghai

Patentee after: Shanghai Yuepu Investment Center (L.P.)

Address before: 518000 B, 5 / F, building 2, international creative port, industrial east street, Yantian District, Shenzhen City, Guangdong Province

Patentee before: SHENZHEN MALONG TECHNOLOGY Co.,Ltd.

TR01 Transfer of patent right
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20210713

CF01 Termination of patent right due to non-payment of annual fee