CN114514566B - 图像处理方法及装置、电子设备和存储介质 - Google Patents
图像处理方法及装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN114514566B CN114514566B CN202080003721.1A CN202080003721A CN114514566B CN 114514566 B CN114514566 B CN 114514566B CN 202080003721 A CN202080003721 A CN 202080003721A CN 114514566 B CN114514566 B CN 114514566B
- Authority
- CN
- China
- Prior art keywords
- image
- game
- target object
- determining
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003860 storage Methods 0.000 title claims abstract description 31
- 238000003672 processing method Methods 0.000 title claims abstract description 29
- 238000001514 detection method Methods 0.000 claims abstract description 140
- 238000000034 method Methods 0.000 claims abstract description 78
- 238000012545 processing Methods 0.000 claims description 40
- 230000004044 response Effects 0.000 claims description 38
- 239000011159 matrix material Substances 0.000 claims description 28
- 230000001360 synchronised effect Effects 0.000 claims description 21
- 230000000007 visual effect Effects 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 12
- 238000005070 sampling Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 23
- 238000010586 diagram Methods 0.000 description 19
- 241000220225 Malus Species 0.000 description 15
- 238000013528 artificial neural network Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 11
- 230000002093 peripheral effect Effects 0.000 description 10
- 230000008859 change Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 9
- 238000000605 extraction Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 235000021016 apples Nutrition 0.000 description 3
- 238000003491 array Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010223 real-time analysis Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000033764 rhythmic process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3202—Hardware aspects of a gaming system, e.g. components, construction, architecture thereof
- G07F17/3204—Player-machine interfaces
- G07F17/3209—Input means, e.g. buttons, touch screen
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/44—Event detection
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3241—Security aspects of a gaming system, e.g. detecting cheating, device integrity, surveillance
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F3/00—Board games; Raffle games
- A63F3/00643—Electric board games; Electric features of board games
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3202—Hardware aspects of a gaming system, e.g. components, construction, architecture thereof
- G07F17/3204—Player-machine interfaces
- G07F17/3206—Player sensing means, e.g. presence detection, biometrics
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3202—Hardware aspects of a gaming system, e.g. components, construction, architecture thereof
- G07F17/3216—Construction aspects of a gaming system, e.g. housing, seats, ergonomic aspects
- G07F17/322—Casino tables, e.g. tables having integrated screens, chip detection means
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3225—Data transfer within a gaming system, e.g. data sent between gaming machines and users
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3225—Data transfer within a gaming system, e.g. data sent between gaming machines and users
- G07F17/3232—Data transfer within a gaming system, e.g. data sent between gaming machines and users wherein the operator is informed
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3225—Data transfer within a gaming system, e.g. data sent between gaming machines and users
- G07F17/3232—Data transfer within a gaming system, e.g. data sent between gaming machines and users wherein the operator is informed
- G07F17/3234—Data transfer within a gaming system, e.g. data sent between gaming machines and users wherein the operator is informed about the performance of a gaming system, e.g. revenue, diagnosis of the gaming system
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3244—Payment aspects of a gaming system, e.g. payment schemes, setting payout ratio, bonus or consolation prizes
- G07F17/3248—Payment aspects of a gaming system, e.g. payment schemes, setting payout ratio, bonus or consolation prizes involving non-monetary media of fixed value, e.g. casino chips of fixed value
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F17/00—Coin-freed apparatus for hiring articles; Coin-freed facilities or services
- G07F17/32—Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
- G07F17/3286—Type of games
- G07F17/3293—Card games, e.g. poker, canasta, black jack
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Security & Cryptography (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
本公开涉及一种图像处理方法以及装置、电子设备和存储介质,所述方法包括:获取游戏桌面的视频流;检测所述视频流中包括的多帧图像中的目标对象;基于所述目标对象,确定当前的游戏阶段;根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果。
Description
本公开要求在2020年8月1日提交新加坡专利局、申请号为10202007349R、申请名称为“IMAGE PROCESSING METHOD AND APPARATUS,ELECTRONIC DEVICE,AND STORAGEMEDIUM”的新加坡专利申请的优先权,其全部内容通过引用结合在本公开中。
技术领域
本公开涉及计算机视觉技术领域,尤其涉及一种图像处理方法及装置、电子设备和存储介质。
背景技术
随着人们生活水平的提高,桌面游戏越来越受到广大用户的喜欢。桌面游戏是一个非常古老的行业,相比于现在流行的在线桌面游戏,现实场景中面对面的桌面类游戏吸引力更大。比如象棋、围棋等,面对面的桌上游戏更注重对多种思维方式的锻炼,可以不依赖电子设备,一些爱好者还会针对桌面游戏过程进行拍摄,以反复观看学习技巧。
发明内容
本公开提出了一种图像处理技术方案。
根据本公开的第一方面,提供了一种图像处理方法,包括:获取游戏桌面的视频流;检测所述视频流中包括的多帧图像中的目标对象;基于所述目标对象,确定当前的游戏阶段;根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果。
在一些可能的实施方式中,所述视频流包括在所述游戏桌面的多个视角同步采集的视频流,所述检测所述视频流中包括的多帧图像中的目标对象,包括:对第一视角下采集的第一图像进行目标检测,确定所述第一图像中的目标对象;对第二视角下同步采集的第二图像进行目标检测,确定所述第二图像中的目标对象;基于所述第一图像中目标对象的外观信息和周围信息,以及所述第二图像中目标对象的外观信息和周围信息确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系;其中,一个目标对象的外观信息根据该目标对象所在图像中、该目标对象的检测框内的像素确定,一个目标对象的周围信息根据该目标对象所在图像中、该目标对象的检测框周围设定范围内的像素确定。
在一些可能的实施方式中,基于所述第一图像中目标对象的外观信息和周围信息,以及所述第二图像中目标对象的外观信息和周围信息确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系,包括:基于所述第一图像中目标对象的外观信息和所述第二图像中目标对象的外观信息确定第一特征距离;一个第一特征距离表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的相似程度;基于所述第一图像中目标对象的周围信息和所述第二图像中目标对象的周围信息确定第二特征距离;一个第二特征距离表征所述第一图像中的一个目标对象的周围信息与所述第二图像中的一个目标对象之间的周围信息的相似程度;针对所述第一图像中的一个目标对象与所述第二图像中的一个目标对象,根据两个目标对象的第一特征距离和第二特征距离,确定所述两个目标对象之间的特征距离;基于确定的特征距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系。
在一些可能的实施方式中,根据两个目标对象的第一特征距离和第二特征距离,确定所述两个目标对象之间的特征距离,包括:对所述两个目标对象的第一特征距离和第二特征距离加权求和,获得所述两个目标对象之间的特征距离;其中,所述两个目标对象的相似程度越高,在进行加权求和时所述两个目标对象的第二特征距离的权重系数越大。
在一些可能的实施方式中,所述方法还包括:确定所述第一图像中目标对象与所述第二图像中目标对象之间的几何距离;基于确定的特征距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系,包括:针对所述第一图像中的一个目标对象和所述第二图像中的一个目标对象,根据两个目标对象之间的特征距离和几何距离确定所述两个目标对象之间的距离;根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系。
在一些可能的实施方式中,根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系,包括:根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离形成距离矩阵;其中,所述距离矩阵中的一个元素的值表示所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的距离;根据所述距离矩阵确定所述第一图像和所述第二图像之间的邻接矩阵;所述邻接矩阵中的元素的值表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间关联或者不关联。
在一些可能的实施方式中,基于所述目标对象确定当前的游戏阶段,包括:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点;将确定的时间点作为一个游戏阶段的起始时间点。
在一些可能的实施方式中,所述视频流包括在所述游戏桌面的多个视角同步采集的视频流,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:确定一个视角的视频流中检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像;在其他视角同步采集的视频流中,确定出与所述第一帧图像同步采集的同步图像;响应于在所述同步图像的前N帧图像中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定在所述同步图像的前N帧图像中最早检测到所述游戏桌面的特定区域中具有特定的目标对象的图像对应的时间点。
在一些可能的实施方式中,所述方法还包括:响应于在所述同步图像的前N帧图像中未检测到所述游戏桌面的特定区域中具有特定的目标对象,确定所述第一帧图像对应的时间点。
在一些可能的实施方式中,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏参与区域中具有游戏币,确定检测到所述游戏桌面的游戏参与区域中具有游戏币的连续多帧图像中的第一帧图像对应的时间点;将确定的时间点作为一个游戏阶段的起始时间点,包括:将确定的时间点作为第一游戏阶段的起始时间点。
在一些可能的实施方式中,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏进行区域中具有游戏卡牌,确定检测到所述游戏桌面的游戏进行区域中具有游戏卡牌的连续多帧图像中的第一帧图像对应的时间点;将确定的时间点作为一个游戏阶段的起始时间点,包括:将确定的时间点作为第一游戏阶段的结束时间点以及第二游戏阶段的起始时间点。
在一些可能的实施方式中,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏进行区域中的游戏卡牌的数量或者点数之和的达到预设条件,确定检测到所述游戏桌面的游戏进行区域中的游戏卡牌的数量或者点数之和的达到预设条件的连续多帧图像中的第一帧图像对应的时间点;将确定的时间点作为一个游戏阶段的起始时间点,包括:将确定的时间点作为第二游戏阶段的结束时间点以及第三游戏阶段的起始时间点。
在一些可能的实施方式中,当前的游戏阶段为第一游戏阶段,所述目标对象包人物对象和物体对象,根据所述目标对象以及确定的当前的游戏阶段,确定游戏检测结果,包括:确定游戏币和游戏者的对应关系;根据确定的对应关系以及第一游戏阶段的规则,确定多个游戏者的游戏参与结果,所述游戏参与结果包括游戏者参与游戏的游戏币的总价值以及参与游戏的游戏币所在的游戏参与区域中的子区域。
在一些可能的实施方式中,当前的游戏阶段为第二游戏阶段,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:在以下任一种情况出现时,发出提示信息:检测到所述游戏桌面中的游戏参与区域的游戏参与结果发生变化;检测到所述游戏桌面中的游戏进行区域的游戏卡牌的类别、位置或者出现的顺序与预设规则不同。
在一些可能的实施方式中,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:在第二游戏阶段的结束时间点,根据所述游戏桌面中的游戏进行区域的游戏卡牌的位置和点数,确定输赢结果。
在一些可能的实施方式中,当前的游戏阶段为第三游戏阶段,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:根据第二游戏阶段结束时确定的输赢结果、多个游戏者在第一游戏阶段结束时的游戏参与结果以及赔付规则,确定多个游戏者的赔付结果。
在一些可能的实施方式中,所述方法还包括:确定操作人员执行的赔付结果;比对多个游戏者的赔付结果以及所述操作人员执行的赔付结果,确定赔付结果执行是否正确;在赔付结果执行的不正确时,发出告警信息。
根据本公开的第二方面,提供了一种图像处理装置,包括:获取模块,用于获取游戏桌面的视频流;检测模块,用于检测所述视频流中包括的多帧图像中的目标对象;游戏阶段确定模块,用于基于所述目标对象,确定当前的游戏阶段;结果确定模块,用于根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果。
根据本公开的第三方面,提供了一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以执行第一方面中任意一项所述的方法。
根据本公开的第四方面,一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现第一方面中任意一项所述的方法。
根据本公开的第五方面,一种计算机程序,包括计算机可读代码,其特征在于,当所述计算机可读代码在电子设备中运行时,所述电子设备中的处理器执行用于实现第一方面中任意一项所述的方法。
在本公开实施例中,可以获取关于游戏桌面的视频流,通过对对视频流进行目标检测处理,检测出视频流的多个图像中的目标对象,并基于检测出的目标对象,确定当前游戏所处的游戏阶段,并进一步利用检测出的目标对象以及确定出的游戏阶段,执行游戏桌面的检测,具有方便、快捷且精确的特点,并且由于可以自动的执行游戏过程的检测,可以方便的实现规模化和产业化的运营,并提高运营效率,减少运营过程中的失误。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,而非限制本公开。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,这些附图示出了符合本公开的实施例,并与说明书一起用于说明本公开的技术方案。
图1示出根据本公开实施例的一种图像处理方法的流程图;
图2示出根据本公开实施例的一种图像处理方法的应用场景示意图;
图3示出根据本公开实施例中的一种图像处理方法中步骤S20的流程图;
图4示出根据本公开实施例的一种图像处理方法中步骤S23的流程图;
图5示出根据本公开实施例的图像处理方法中的特征距离的确定示意图;
图6示出根据本公开实施例的图像处理方法步骤S23的另一流程图;
图7示出根据本公开实施例的一种图像处理方法中步骤S30的流程图;
图8示出根据本公开实施例的一种图像处理方法中对第一阶段执行检测的流程图;
图9示出根据本公开实施例中的一种图像处理方法中检测第三阶段的流程图;
图10示出根据本公开实施例的一种图像处理装置的框图;
图11示出根据本公开实施例的一种电子设备的框图;
图12示出根据本公开实施例的另一种电子设备的框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合,例如,包括A、B、C中的至少一种,可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。
另外,为了更好地说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
本公开实施例提供的图像处理方法的执行主体可以是图像处理装置,例如,图像处理方法可以由终端设备或服务器或其它处理设备执行,其中,终端设备可以为用户设备(User Equipment,UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant,PDA)、手持设备、计算设备、车载设备、可穿戴设备等。服务器可以包括本地服务器或者云端服务器。在一些可能的实现方式中,该图像处理方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。本公开可以应用于视频、图像的检测、识别等场景,例如,可以用于视频流的不同阶段进行识别和检测,本公开不对具体的应用场景进行限制。
图1示出根据本公开实施例的一种图像处理方法的流程图,如图1所示,所述图像处理方法包括:
S10:获取针对游戏桌面的视频流;
在一些可能的实施方式中,可以在游戏桌面的周围设置至少一个图像采集设备(如,相机或者摄像头),用于采集游戏桌面的视频流。本公开实施例可以直接接收图像采集设备实时采集的视频流,也可以通过与图像采集设备连接的其他电子设备通信,接收采集的视频流,本公开对此不作具体限定。在得到视频流的情况下,既可以得到视频流中的多帧图像。
为了更为全面的采集游戏桌面的多个角度的图像(视频流),以及提高检测精度,本公开实施例可以采用至少两个不同视角下的图像采集设备采集游戏桌面的图像。其中,至少两个视角可以包括俯视视角(第一视角)和侧视角(第二视角),即至少可以利用侧视角和俯视视角两个视角下的图像采集设备采集游戏桌面的图像(视频流)。其中俯视视角的图像采集设备可以游戏桌面的中央区域的上方,侧视角可以分别位于游戏桌面的两侧,也就是位于俯视视角下的图像采集设备的两侧,例如可以包括左侧视角和右侧视角,两个侧视角的图像采集设备可以相对设置,以全面的采集游戏桌面的图像。通过上述至少两个视角下的图像采集设备采集的图像可以得到游戏桌面中的全面的信息。下述实施例中将第一视角下采集的视频流对应的图像称为第一图像,第二视角下采集的视频流对应的图像称为第二图像,进而区分不同视角下的图像。在其他实施例中,如果包括更多其他视角,也可以进一步称为第三图像、第四图像等进行区分,本公开对此不作具体限定。
也就是说,本实施例中,可通过第一图像采集设备采集第一图像,通过第二图像采集设备采集第二图像。在一些实施例中,第一图像采集设备和第二图像采集设备可针对同一场景、但处于不同的位置进行图像采集,从而分别获得第一图像和第二图像。相应的,第一图像和第二图像可以是针对同一场景但对应于不同视角的图像。示例性的,第一图像和第二图像中可具有相同的对象,但对象在第一图像中的位置和在第二图像中的位置可能不同。例如,第一图像和第二图像中具有相同的背景以及三个苹果,但三个苹果在第一图像中的位置以及在第二图像中的位置不同。
S20:检测出所述视频流中包括的多帧图像中的目标对象;
在一些可能的实施方式中,在游戏过程中,第一图像和第二图像中可具有相同的目标对象或至少部分不同的目标对象,目标对象在第一图像中的位置和在第二图像中的位置不同。例如,游戏桌面上可以包括至少一种物体对象,例如可以包括游戏币、纸牌,或者也可以包括游戏货币,在采集游戏桌面的图像时,图像中可以包括上述物体对象,还可以包括桌面周围的人物对象,人物对象可以包括操作人员(如荷官)以及游戏玩家。基于此,本公开实施例可以在获得的图像中检测出所需要的目标对象,该目标对象可以包括人物对象和物体对象,物体对象可以包括游戏币(兑换物)、游戏纸牌中的至少一种,人物对象可以包括人体、人脸、人手中的至少一种。
在一些可能的实施方式中,可以对至少一个采集的图像执行相同类型的目标对象的目标检测处理,即检测出全部图像中的全部类型的目标对象,得到每个图像中的全部类型的目标对象所在的位置信息。例如,本公开实施例中可以检测获得的图像中的人体、人脸、人手、游戏币(兑换物)、游戏纸牌等,得到在图像中关于多个目标对象的检测结果,该检测结果可以包括目标对象的标识、是否存在相应的目标对象、检测出的目标对象的位置、检测出的目标对象的置信度。
在另一些可能的实施方式中,还可以对不同视角下的图像执行不同类型的目标对象的目标检测处理。例如,对于侧视角下采集的图像,检测的目标对象的类型可以包括人物对象和物体对象,对于俯视视角下采集的图像,检测的目标对象的类型可以包括物体对象,例如游戏币和游戏纸牌等。通过上述方式可以分别得到不同图像中相应的目标对象的检测结果。基于此,一方面可以减少资源的浪费,另一方面可以加快运行效率。
在一些可能的实施方式中,本公开实施例执行目标对象的检测过程可以通过目标检测神经网络实现,该神经网络可以为经过训练能够检测出输入图像中的目标对象。本公开实施例中的目标检测神经网络可以为卷积神经网络,例如可以包括区域候选网络(Region Proposal Network,RPN)或者快速区域卷积神经网络(Faster RegionConvolutional Neural Network),但不作为本公开的具体限定。
本公开实施例在得到不同视角下的图像的目标对象的情况下,还可以利用不同视角下的图像中目标对象的外观信息和周围信息,确定不同视角下的目标对象的关联关系。可以基于第一视角下获得的第一图像中目标对象的外观信息和周围信息,以及第二视角下获得的第二图像中目标对象的外观信息和周围信息确定所述第一图像中多个目标对象与所述第二图像中多个目标对象之间的关联关系;其中,一个目标对象的外观信息根据该目标对象所在图像中、该目标对象的检测框内的像素确定,一个目标对象的周围信息根据该目标对象所在图像中、该目标对象的检测框周围设定范围内的像素确定。
S30:基于所述目标对象,确定当前的游戏阶段;
在一些可能的实施方式中,根据图像中目标对象的检测结果,可以确定当前游戏所处的游戏阶段。例如本公开实施例可以检测游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点;将确定的时间点作为一个游戏阶段的起始时间点。本公开实施例可以根据检测结果把整个游戏过程划分为第一游戏阶段、第二游戏阶段和第三游戏阶段。其中,第一游戏阶段为游戏玩家在将游戏币放置到游戏桌面的游戏参与区域的阶段,用以表示该游戏玩家参与本轮游戏的游戏币值,第二游戏阶段为荷官发游戏卡牌的阶段(发牌阶段),第三游戏阶段为计算多个游戏玩家的输赢情况以及执行赔付的过程(赔付阶段)。对于不同的游戏,可以包括不同的游戏阶段,本公开对此不作具体限定。
在一些可能的实施方式中,可以根据预设时间内相邻时间帧的图像中检测到的游戏币的位置变化以及检测到的人手的位置变化,确定是否为第一游戏阶段,以及可以根据游戏卡牌在图像中的位置变化确定是否位于第二游戏阶段,以及根据游戏卡牌的数量和点数之和,确定是否处于第三游戏阶段。
S40:根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果。
在一些可能的实施方式中,针对一个或多个游戏阶段,可以对相应游戏阶段对应的图像中的目标对象进行检测,从而可以确定多个阶段是否存在违规情况、对游戏玩家的输赢情况进行统计、对荷官的赔付操作进行验证等,实现游戏过程的全面检测。
在本公开实施例中,可以获取关于游戏桌面的图像形成的视频流,通过对视频流中的图像进行目标检测处理,检测出多个图像中的目标对象,并基于检测出的目标对象,确定当前游戏所处的游戏阶段,并进一步利用检测出的目标对象以及确定出的游戏阶段,执行游戏桌面的检测,具有方便、快捷且精确的特点,并且由于可以自动的执行游戏过程的检测,可以方便的实现规模化和产业化的运营。
下面结合附图对本公开实施例进行详细说明,其中,图2示出根据本公开实施例的一种图像处理方法的应用场景示意图。其中,在游戏桌面的上方可以设置至少一个视角的图像采集设备,用于采集游戏桌面的图像。如图2所示,本公开实施例在游戏桌面的上方设置左侧视角、右侧视角以及俯视视角下的三个图像采集设备,分别用于采集游戏桌面在对应视角下的图像,从而全面的采集游戏桌面的图像信息。在得到多视角下获得的图像的情况下,可以进一步对获得的图像执行目标检测处理,检测出图像中的目标对象。
图3示出根据本公开实施例中的一种图像处理方法中步骤S20的流程图,其中,所述检测所述视频流中包括的多帧图像中的目标对象,包括:
S21:对第一视角下采集的第一图像进行目标检测,确定所述第一图像中的目标对象;
S22:对第二视角下同步采集的第二图像进行目标检测,确定所述第二图像中的目标对象;
S23:基于所述第一图像中目标对象的外观信息和周围信息,以及所述第二图像中目标对象的外观信息和周围信息确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系;其中,一个目标对象的外观信息根据该目标对象所在图像中、该目标对象的检测框内的像素确定,一个目标对象的周围信息根据该目标对象所在图像中、该目标对象的检测框周围设定范围内的像素确定。
如上述实施例所述,本公开实施例可以针对多个视角下的图像执行相同的目标检测处理,检测图像中全部类型的目标对象,得到针对每个图像的一个或多个目标对象的检测结果。或者也可以针对不同视角下的图像执行与该视角对应的目标对象的目标检测处理,检测出图像中与图像视角对应的目标对象的检测结果。例如,本公开实施例可以对所述游戏桌面的第一视角下采集的第一图像执行目标检测处理,检测出所述第一图像中的第一目标对象,第一目标对象包括人物对象和物体对象,如人物对象可以包括人手、人脸和人体,物体对象可以包括游戏币和游戏货币。另外还可以对所述游戏桌面的第二视角下采集下的第二图像执行目标检测处理,检测出所述第二图像中的第二目标对象,第二目标对象包括物体对象,该物体对象可以包括游戏币和兑换物。
在一些可能的实施方式中,可以利用至少一个目标检测神经网络执行上述目标检测处理,例如,可以利用一个目标检测神经网络检测图像中的全部类型的目标对象,或者也可以配置多个目标检测神经网络,一个目标检测神经网络可以执行至少一个类型的目标对象的目标检测处理,例如可以包括第一目标检测神经网络和第二目标检测神经网络,第一目标检测神经网络可以用于检测图像中的人物对象,第二目标检测神经网络可以用于检测图像中的物体对象。在本公开的其他实施方式中,也可以进一步细分的目标检测神经网络,例如用于检测人体、人手和人脸至少一种的目标检测神经网络、用于检测游戏币和游戏货币中至少一种的目标检测神经网络,本公开对此不作具体限定。
通过上述目标检测处理,可以得到至少一个图像中对应的目标对象的检测结果,该检测结果可以表示成(label,x1,x2,y1,y2,score),其中,label表示目标对象的类别标识,如人手、人体、人脸、游戏币、纸牌等目标对象分别对应有相应的类别标识,用以区分不同的目标对象。(x1,y1)和(x2,y2)分别表示检测到的目标对象在图像中的检测框的位置区域,score表示该位置区域为label对应的目标对象的置信度(概率值)。在其他实施例中,也可以通过其他方式表示目标对象的检测结果,本公开对此不作具体限定。基于上述,可以得到至少一个图像中的目标对象。
可选地,目标对象的周围信息包括图像中目标对象的周围像素,或者目标对象的周围像素提取出的特征。由于针对同一场景、采用不同视角采集不同的图像,同一目标对象在两个图像中的周围信息也是有些许差异的。基于此,在对第一图像和第二图像中的目标对象的关联关系进行确定的过程中,依据两个图像中的目标对象的周围信息确定关联关系。其中,具有关联关系的两个目标对象表征同一目标对象。示例性的,第一图像和第二图像是针对同一场景、按照不同视角采集的图像;场景中具有苹果1、苹果2和苹果3三个苹果;则第一图像和第二图像中均包括苹果1、苹果2和苹果3,相应的,第一图像中的苹果1和第二图像中的苹果1相关联(即二者是同一物体),第一图像中的苹果2和第二图像中的苹果2相关联,第一图像中的苹果3和第二图像中的苹果3相关联。
在本公开实施例中,在游戏桌面的一个视角下采集到的图像中检测的目标对象中可以包括人物对象的人脸、人手和人体,由于在游戏桌面附近的人可能为多个,因此需要对多个图像中的人脸、人手以及人体进行匹配关联,得到相同人物对象的人脸、人体和人手。其中,对图像执行目标检测处理的检测结果中,可以包括图像中的人脸、人体和人手的检测结果,即可以包括人脸、人体和人手所在的位置区域的检测框,也就得到了图像中人脸、人体和人手的检测框对应的图像区域,本公开实施例可以根据人脸检测框和人体检测框对应的面积交并比(IOU)确定该人脸检测框和人体检测框是否为同一人物对象,以及可以根据人手检测框和人体检测框对应的面积交并比确定该人手检测框和人体检测框是否为同一人物对象。其中,可以在面积交并比大于面积交并比阈值的情况下,确定两个检测框对应于相同的人物对象。
或者通过人脸检测框、人体检测框和人手检测框之间的距离来确定是否属于同一人物对象,或者通过人体检测框中肘部关键点与手部关键点之间的连线和人手检测框中人手关键点之间的连线的夹角来确定相应的人脸、人体和人手是否属于同一人物对象。
通过上述方式可以确定相同人物对象的人体、人手和人脸的检测框。进而可以为相同人物对象的人体、人脸和人手分配相同的人物标识,用于区分不同人物对象。
本实施例中,对象的外观信息可包括对象的所在区域内的像素信息。在一些实施例中,可通过检测框标注目标对象的所在区域,检测框内的像素信息可作为外观信息。在一些实施例中,可将包含有目标对象的图像通过目标检测网络进行处理,得到包括对应于目标对象的检测框的第一图像和第二图像,将第一图像和第二图像中的目标对象的检测框内的像素信息作为目标对象的外观信息。
本实施例中,确定了第一图像和第二图像中的目标对象的检测框后,可基于目标对象的检测框确定目标对象的周围信息。
在本公开的一些可选实施例中,确定目标对象的周围信息,可包括:对目标对象的检测框所在区域进行放大,确定放大后的特定区域;所述特定区域大于所述检测框所在区域,且所述特定区域包含所述检测框所在区域;将所述特定区域之内且所述检测框之外的像素信息确定为目标对象的周围信息。
本实施例中,可针对目标对象的检测框所在区域,按照预设比例进行扩大,例如,针对检测框所在区域的四边,分别扩大对应边长的20%,得到所述特定区域;将所述特定区域内且检测框外的区域对应的像素信息作为一个对象的周围像素信息。
本实施例中,可对第一图像中的目标对象的周围信息和外观信息进行特征提取,以及对第二图像中的目标对象的周围信息和外观信息进行特征提取,将第一图像中的一个目标对象与第二图像中的一个目标对象的周围信息的特征和外观信息的特征进行匹配,确定第一图像中的一个目标对象与第二图像中的一个目标对象的相似程度,基于该相似程度确定两个目标对象之间的关联关系。
图4示出根据本公开实施例的一种图像处理方法中步骤S23的流程图,其中所述基于所述第一图像中目标对象的外观信息和周围信息,以及所述第二图像中目标对象的外观信息和周围信息确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系,包括:
S231:基于所述第一图像中目标对象的外观信息和所述第二图像中目标对象的外观信息确定第一特征距离;一个第一特征距离表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的相似程度;
S232:基于所述第一图像中目标对象的周围信息和所述第二图像中目标对象的周围信息确定第二特征距离;一个第二特征距离表征所述第一图像中的一个目标对象的周围信息与所述第二图像中的一个目标对象之间的周围信息的相似程度;
S233:针对所述第一图像中的一个目标对象与所述第二图像中的一个目标对象,根据两个目标对象的第一特征距离和第二特征距离,确定所述两个目标对象之间的特征距离;
S234:基于确定的特征距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系。
本实施例中,可通过特征提取网络分别对第一图像和第二图像中的目标对象的外观信息和周围信息进行特征提取,针对外观信息的特征提取,可分别获得第一图像中的目标对象的第一外观特征以及第二图像中的目标对象的第二外观特征;针对周围信息的特征提取,可分别获得第一图像中的目标对象对应的第一周围特征以及第二图像中的对象的第二周围特征。示例性的,特征提取网络可包括一个或多个卷积层,通过一个或多个卷积层可对第一图像和第二图像中的目标对象的检测框内的像素信息进行卷积处理,得到第一图像中的目标对象对应的第一外观特征和第二图像中的目标对象对应的第二外观特征,通过一个或多个卷积层可对第一图像和第二图像中的目标对象的周围信息对应的像素信息进行卷积处理,得到第一图像中的目标对象对应的第一周围特征和第二图像中的目标对象对应的第二周围特征。
本实施例中,若将第一图像中的目标对象记为第一对象,将第二图像中的目标对象记为第二对象,可基于第一图像中的第一对象的第一外观特征和第二图像中的第二对象的第二外观特征,确定第一特征距离;所述第一特征距离表征所述第一对象和所述第二对象之间的相似程度;所述第一特征距离越大,可表明第一对象和第二对象之间的相似程度越低;相应的,所述第一特征距离越小,可表明第一对象和第二对象之间的相似程度越高。另外,基于第一对象对应的第一周围特征和第二对象对应的第二周围特征,确定第二特征距离,所述第二特征距离表征所述第一对象的周围信息和所述第二对象对应的周围信息之间的相似程度;第二特征距离越大,可表明所述第一对象的周围信息和所述第二对象的周围信息之间的相似程度越低;相应的,第二特征距离越小,可表明所述第一对象的周围信息和所述第二对象的周围信息之间的相似程度越高。进一步可基于所述第一特征距离和所述第二特征距离得到第一对象和第二对象之间的特征距离,基于所述特征距离确定所述第一对象和所述第二对象的关联关系。
在一些可选实施例中,可基于第一外观特征和第二外观特征计算L2距离,将L2距离作为第一特征距离;相应的,可基于第一周围特征和第二周围特征计算L2距离,将L2距离作为第二特征距离。
示例性的,L2距离满足:
以上述L2距离为第一特征距离为例,则I1和I2分别表示第一外观特征和第二外观特征,P表示第一外观特征和第二外观特征的维度;d2(I1,I2)表示第一外观特征和第二外观特征之间的L2距离。相应的,在上述L2距离为第二特征距离时类似,I1和I2分别表示第一周围特征和第二周围特征,P表示第一周围特征和第二周围特征的维度;d2(I1,I2)表示第一周围特征和第二周围特征之间的L2距离。
在一些可选实施例中,所述根据两个目标对象的第一特征距离和第二特征距离,确定所述两个目标对象之间的特征距离,包括:对所述两个目标对象的第一特征距离和第二特征距离加权求和,获得所述两个目标对象之间的特征距离;其中,所述两个目标对象的相似程度越高,在进行加权求和时所述两个目标对象的第二特征距离的权重系数越大。
本实施例中,可对第一特征距离和第二特征距离进行加权求和处理,得到第一对象和第二对象之间的特征距离。其中,特征距离越大,可表明第一对象和第二对象的关联性越小;相应的,特征距离越小,可表明第一对象和第二对象的关联性越大。在一些可选实施例中,若特征距离大于第一预设阈值,可确定第一对象和第二对象不关联;若特征距离小于第二预设阈值,可确定第一对象和第二对象关联;其中,第二预设阈值小于第一预设阈值;第一预设阈值和第二预设阈值的取值可根据多次的实验或测试确定。
本实施例中,所述两个目标对象的相似程度越高,在进行加权求和时所述两个目标对象的第二特征距离的权重系数越大,可以理解,在两个目标对象越相似的情况下,在目标对象之间的关联匹配过程中,越需要参考目标对象的周围信息之间的第二特征距离。
在一些可选实施例中,可基于第一外观特征和所述第二外观特征之间的相似程度的不同预先配置多个权重系数,按照当前第一外观特征和所述第二外观特征之间的相似程度从配置的多个权重系数选择一个权重系数作为两个对象的第二特征距离的权重系数。
在另一些可选实施例中,上述特征距离满足:
其中,dab表示特征距离;λ为权重系数;表示第一外观特征/>和第二外观特征/>之间的第一特征距离(例如L2距离);/>表示第一周围特征/>和第二周围特征/>之间的第二特征距离(例如L2距离);SC表示余弦相似度,即通过计算第一外观特征/>和第二外观特征/>之间的余弦相似度得到权重系数λ。
图5示出根据本公开实施例的图像处理方法中的特征距离的确定示意图;上述过程例如可参照图5所示,以两个图像分别记为图像a(View a)和图像b(View b)为例;图像a中包括一个目标对象(记为第一对象)的检测框和周围信息对应的区域(记为第一特定区域),图像b中包括一个目标对象(记为第二对象)的检测框和周围信息对应的区域(记为第二特定区域),分别从图像a和图像b中分割出目标对象的检测框的像素信息,以及第一特定区域的像素信息。实际应用中,针对周围信息对应区域的获得,可从图像a或图像b中分割出检测框所在区域放大后的区域,再通过与检测框的尺寸一致的掩膜、覆盖在分割出的区域内的检测框对应的区域范围内,从而得到上述第一特定区域和第二特定区域的像素信息。
进一步可分别通过两个特征提取器对上述检测框内的像素信息和特定区域(包括第一特定区域和第二特定区域)的像素信息进行特征提取。例如可通过外观特征提取器(Appearance Feature Extractor)对图像a和图像b对应的检测框内的像素信息和特定区域(包括第一特定区域和第二特定区域)的像素信息进行特征提取,获得第一对象对应的第一外观特征和第二对象对应的第二外观特征/>通过周围特征提取器(SurroundingFeature Extractor)对图像a的第一特定区域和图像b的第二特定区域的像素信息进行特征提取,获得第一周围特征/>和第二周围特征/>再计算第一外观特征/>和第二外观特征/>之间的余弦相似度得到权重系数λ。计算第一外观特征/>和第二外观特征/>之间的L2距离,得到第一对象和第二对象之间的特征距离dapp;计算第一周围特征/>和第二周围特征/>之间的L2距离,得到第一周围特征和第二周围特征之间的特征距离dsur。最后利用上述公式(2)得到第一对象和第二对象之间的特征距离。
采用本公开实施例的技术方案,将不同图像中的目标对象的周围信息作为不同图像的目标对象之间关联匹配的依据,实现了两个图像中具有外观相似或相同的物体的关联匹配,提升了关联匹配的精度。
本公开实施例还提供了另外一种目标对象的关联方法,图6示出根据本公开实施例的图像处理方法步骤S23的另一流程图;如图6所示,所述方法包括:
S2301:基于所述第一图像中目标对象的外观信息和所述第二图像中目标对象的外观信息确定第一特征距离;一个第一特征距离表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的相似程度;
S2302:基于所述第一图像中目标对象的周围信息和所述第二图像中目标对象的周围信息确定第二特征距离;一个第二特征距离表征所述第一图像中的一个目标对象的周围信息与所述第二图像中的一个目标对象之间的周围信息的相似程度;
S2303:针对所述第一图像中的一个目标对象与所述第二图像中的一个目标对象,根据两个目标对象的第一特征距离和第二特征距离,确定所述两个目标对象之间的特征距离;
S2304:确定所述第一图像中目标对象与所述第二图像中目标对象之间的几何距离;
S2305:针对所述第一图像中的一个目标对象和所述第二图像中的一个目标对象,根据两个目标对象之间的特征距离和几何距离确定所述两个目标对象之间的距离;
S2306:根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系。
本实施例中的S2301至S2303具体可参照前述实施例中的描述,这里不再赘述。
在本公开的一些可选实施例中,所述确定所述第一图像中目标对象与所述第二图像中目标对象之间的几何距离,包括:获得采集所述第一图像的第一图像采集设备的第一位置、和采集所述第二图像的第二图像采集设备的第二位置,以及获得所述第一图像采集设备的第一内部参数,获得所述第二图像采集设备的第二内部参数;确定所述第一图像中的一个对象的中心点在所述第一图像中的第三位置;基于所述第一位置、所述第二位置、所述第三位置、所述第一内部参数和所述第二内部参数确定所述第二图像中的极线;所述极线表征在所述第一对象的中心点与其在所述第一图像的成像平面上的像点的连线投影至所述第二图像中的直线;确定所述第二图像中的一个对象与所述极线之间的垂直像素距离;根据确定的垂直像素距离确定所述第一图像中目标对象与所述第二图像中目标对象之间的几何距离。
为了使两个图像中、具有外观相同或相似的目标对象且周围信息也相似的场景下的目标对象关联匹配,本实施例中采用上述对极几何的方式进行约束,从而实现上述场景下的目标对象关联匹配,提升关联匹配的准确率。
本实施例中,第一图像和第二图像是在不同视角下采集的图像,假设第一图像对应于第一视角,第二图像对应于第二视角。针对第一图像中的第一对象,其中第一对象为第一图像中的任一目标对象,将第一对象的中心点投影至第一图像采集设备的成像平面的P点,则连接中心点和P点的形成一直线,该直线为第一图像对应的第一视角下的直线。将该直线投影至第二图像中,得到第二图像对应的第二视角下的极线。
实际应用中,可分别通过第一图像采集设备的第一位置和第二图像采集设备的第二位置确定第一图像采集设备和第二图像采集设备之间的相对位置关系;基于所述相对位置关系、所述第一图像采集设备的第一内部参数和所述第二图像采集设备的第二内部参数可确定转换关系;可基于第一对象的中心点在第一图像中的第三位置确定该中心点与第三位置的连线在第一图像中的坐标;基于上述转换关系对该中心点与第三位置的连线在第一图像中的坐标进行转换,得到第二图像中的极线的坐标。
可以理解,若第一图像的第一对象和第二图像中的第二对象关联,也就是说,第一对象和第二对象为同一对象,则在确定第二图像中的极线后,在第二图像中的多个目标对象中第二对象到极线的垂直像素距离最小,甚至为0。上述的垂直像素距离也就是第一图像和第二图像中的两个目标对象之间的几何距离。
因此,通过确定第二图像中的多个目标对象与所述极线之间的垂直像素距离,来判断第二图像中的哪一个目标对象与第一图像中的第一对象相关联。
在本公开的一些可选实施例中,所述根据两个目标对象之间的特征距离和几何距离确定所述两个目标对象之间的距离,包括:对所述两个目标对象之间的特征距离和所述几何距离加权求和,获得所述两个目标对象之间的距离。
本实施例中,针对一对第一对象和第二对象之间的距离,对特征距离和几何距离进行加权求和处理得到。加权求和处理采用的权重系数可采用固定的预设数值,本实施例中对权重系数的取值不做限定。
在本公开的一些可选实施例中,所述根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系,包括:根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离形成距离矩阵;其中,所述距离矩阵中的一个元素的值表示所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的距离;根据所述距离矩阵确定所述第一图像和所述第二图像之间的邻接矩阵;所述邻接矩阵中的元素的值表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间关联或者不关联。
本实施例中,针对一对第一对象和第二对象对应获得一个距离,则第一图像中的M个目标对象和第二图像中的N个目标对象之间,可具有M×N个距离,相应可形成M×N的距离矩阵。假设图像1和图像2中具有三个对象,则可形成3×3的距离矩阵;针对距离矩阵按照预设算法进行处理,获得邻接矩阵,邻接矩阵中数值为1的一对目标对象关联,邻接矩阵中数值为0的一对目标对象不关联。示例性的,可对距离矩阵按照匈牙利算法(Kuhn-Munkres)(简称KM算法)得到邻接矩阵。
另外,本公开实施例中,目标对象可以包括人物对象和物体对象,不同物体对象可以具有不同的物体标识,物体标识可以包括颜色、花纹、大小、价值中的至少一种,例如,物体对象的外边缘可以具有花纹、颜色等标识,同时识别花纹和颜色等特征可以确定物体对象对应的价值,或者物体对象的表面还可以具有价值等信息,通过识别该特征也可以得到物体对象的价值。本公开实施例中在检测出图像中的物体对象的情况下,可以进一步识别物体对象的物体标识,从而确定物体对象的价值。
另外,本公开实施例中,在确定不同视角下的图像中目标对象的关联结果的情况下,可以为相同的目标对象分配相同的对象标识,不同的目标对象分配不同的对象标识,以此为不同视角中采集的图像中目标对象建立关联关系,即不同视角中采集的图像中具有相同对象标识的目标对象为同一目标对象。通过上述配置,可以建立获得的至少一个图像中相同的目标对象之间的关联,为相同的目标对象分配相同的对象标识,为不同的目标对象分配不同的对象标识,实现不同图像之间的目标对象的关联。
在一些可能的实施方式中,由于在游戏过程中目标对象可能被遮挡,目标对象随着时间变换,其位置可能会不断变化,由于遮挡可能会导致某一帧或者某几帧检测不到,本公开实施例可以根据相邻时间帧的图像中目标对象的跟踪结果,对遗漏的目标对象进行修正,纠正错误的检测框,补上漏掉的检测框。也就是说,在步骤S21或者S22之后可以进一步执行检测框的纠正操作。其中,该检测框的纠正操作可以包括:
响应于在第k帧图像中未检出第一目标对象或者第k帧图像中的第一目标对象被其余目标对象遮盖的情况,并且在所述第k帧图像的前n帧图像中的至少一个图像检测出所述第一目标对象和/或在所述第k帧图像的后n帧图像中至少一个图像中检测出所述第一目标对象,根据检测出的所述第一目标对象预测所述第k帧图像中的所述第一目标对象的位置,其中k为大于或者等于1的整数,n为大于或者等于1的整数。
具体的,本公开实施例可以根据第k帧之前的时间帧获得的图像中检测到的第一目标对象,以及在第k帧之后的时间帧获得的图像中检测到的第一目标对象,纠正在第k帧中未检测到第一目标对象的结果,确定第k帧图像中的第一目标对象。其中第一目标对象为图像中任意的检测到的一个目标对象。为了提高纠正检测框的精度,本公开实施例中n值应该小于设定值,例如设定值可以为3或者5,但本公开对此不作具体限定。
在一个示例中,本公开实施例可以基于第k帧图像之前的n帧图像中分别检测出的第一目标对象的位置,和/或第k帧图像之后的n帧图像中检测出的第一目标对象的位置,执行线性拟合处理,得到第k帧图像的第一目标对象的位置,即在第k帧图像中的第一目标对象的检测框对应的图像区域。
通过上述配置,本公开实施例可以在未检测到目标对象或者目标对象被遮盖的情况下,纠正或者补全相应的目标对象的检测框的位置,提高目标对象的跟踪效果以及检测精度。
在得到图像中目标对象以及配置相应的对象标识的情况下,可以进一步基于图像中的目标对象,确定游戏过程的游戏阶段。图7示出根据本公开实施例的一种图像处理方法中步骤S30的流程图,其中,所述基于所述目标对象,确定当前的游戏阶段,包括:
S31:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点;
S32:将确定的时间点作为一个游戏阶段的起始时间点。
本公开实施例中,在视频流中的至少一帧图像中检测到特定的目标对象的情况下,可以确定检测到特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,为一个游戏阶段的起始时间点,从而在一个游戏阶段的起始时间点切换游戏进展的阶段。通过上述过程,可以基于对视频流中的特定目标对象的检测自动切换游戏进展的阶段,确保游戏节奏,节省硬件成本,节省游戏时间,提高效率。
本公开实施例可以确定一个视角的视频流中检测到所述特定的目标对象的连续多帧图像中的第一帧图像;在其他视角同步采集的视频流中,确定出与所述第一帧图像同步采集的同步图像;响应于在所述同步图像的前N帧图像中的至少一帧图像中检测到所述特定的目标对象,确定所述同步图像的前N帧图像中最早检测到所述特定的目标对象的图像对应的时间点,为一个游戏阶段的起始时间点。
需要说明的是,由于游戏可以进行多局,视频流中可以包括至少一局采集到的多个视角的视频流,为了将不同局游戏区分开,可以确定连续采集到特定的目标对象的多帧图像为一局游戏中的图像,因此,可以分别获取多个视角的视频流中检测到特定的目标对象的连续多帧图像中的第一帧图像。
如果多个视角包括侧视角和俯视视角,侧视角包括游戏桌面的左侧视角和/或游戏桌面的右侧视角,那么可以在多个视角的视频流中,例如,在游戏桌面的左侧视角、游戏桌面的右侧视角、俯视视角的视频流中,分别确定检测到特定的目标对象的连续多帧图像中第一帧图像,假设某一局中第一个视角(如左侧视角)检测到特定的目标对象的连续多帧图像中的第一帧图像为图像a。
例如,当前的一个视角为左侧视角,其他视角可以为一个或多个,假设其他视角包括游戏桌面的右侧视角和/或游戏桌面的俯视视角,可以在其他视角同步采集的视频流中,确定出与游戏桌面的左侧视角对应的第一帧图像,即图像a同步采集的同步图像。相应地,同步图像的数目也可以为一个或多个。
在本公开实施例中,在一局的游戏中,多个视角同步采集的视频流都可能检测到特定的目标对象,为了确保在切换游戏进展的阶段时,将不同局的游戏区分开,降低将上一局游戏中检测到特定的目标对象的时间点作为本局游戏中切换游戏进展的阶段的时间点的概率,可以限定N的取值范围。例如,可以根据一局游戏的平均时长、多个游戏进展阶段的平均时长以及图像的采样频率来确定N,以确保同步图像之前的N帧图像处于同一局游戏中。N可以是大于等于1且小于等于30。
上述只是举例说明N的取值范围,N的取值可以限定在同一局游戏中,并根据游戏时间限定,本公开对此不作限定。
假设游戏桌面的左侧视角的第一帧图像为图像a,图像a在俯视视角中的同步采集的同步图像为图像b,但是在图像b的前N帧图像中的至少一帧图像中也可以检测到特定的目标对象,那么可以认为游戏桌面的左侧视角中在采集到图像a之前的一段时间内,特定的目标对象被遮挡,导致确定出来的在这一局游戏中从游戏桌面的左侧视角采集到的图像中判断出的目标对象的最早的出现时间点不正确,此时可以在俯视视角采集到的图像中的图像b的前N帧图像中最早检测到特定的目标对象的图像对应的时间点,切换游戏阶段。
如果获取到的是三个或者三个以上的视角采集到的视频流,那么可以在多个视角中找出第一帧图像的同步图像。如果在确定至少两个视角的同步图像的前N帧图像中的至少一帧图像中都可以检测到特定的目标对象,确定至少两个视角中的同步图像的前N帧图像中最早检测到特定的目标对象的图像对应的多个时间点,在多个时间点中找出最早的时间点,在最早的时间点切换游戏进展的阶段,从而能够在一局游戏中特定的目标对象最早出现的时间点切换游戏进展阶段。因此,根据多视角采集的视频流来判断游戏进展阶段要比单一视角采集的视频流来判断游戏阶段更加准确。
在本公开实施例中,如果在不同视角分别对应的同步图像的前N帧图像中均未检测到特定的目标对象,那么说明在本局游戏中,特定的目标对象首次出现在游戏桌面的特定区域的时间点就是第一帧图像对应的时间点,因此可以将第一帧图像对应的时间点作为一个游戏阶段的起始时间点。
在一些可选的实施例中,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏参与区域中具有游戏币,确定检测到所述游戏桌面的游戏参与区域中具有游戏币的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第一游戏阶段的起始时间点。
其中,游戏参与区域可以为下注区域,也就是说在检测到游戏桌面的下注区域中具有游戏币的连续多帧图像中的第一帧图像对应的时间点,确定第一游戏阶段(下注阶段)开始。
在一些可选的实施例中,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏进行区域中具有游戏卡牌,确定检测到所述游戏桌面的游戏进行区域中具有游戏卡牌的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第一游戏阶段的结束时间点以及第二游戏阶段的起始时间点。
也就是说,确定在游戏桌面的游戏进行区域中检测到游戏卡牌的连续多帧图像中的第一帧图像对应的时间点,为第一游戏阶段(下注阶段)的结束时间点以及第二游戏阶段(发牌阶段)的起始时间点,可以在此时间点将游戏阶段从第一游戏阶段切换到第二游戏阶段。
在本公开实施例中,如果在视频流中连续多帧图像检测到游戏桌面的游戏进行区域中存在游戏卡牌,则说明当前局游戏已经处于第二游戏阶段,因此,可以将在游戏桌面的游戏进行区域中检测到游戏卡牌的连续多帧图像中的第一帧图像对应的时间点,作为游戏阶段从第一游戏阶段切换到第二游戏阶段的时间点。
在一些可选实施例中,在从第一游戏阶段切换到第二游戏阶段后,在检测到所述游戏桌面中的游戏参与区域的游戏参与结果发生变化,例如,检测到游戏桌面中的下注区域中参与下注的游戏币发生变化,则发出提示信息,以保证游戏公平。该提示信息可以是语音提示信息。
在本公开实施例中,在每一局游戏中,从第一游戏阶段切换到第二游戏阶段后,如果在第二游戏阶段的图像中检测到游戏桌面中的下注区域中参与下注的游戏币发生变化,例如某个游戏玩家新增加了下注的游戏币,则可以确定发生变化的下注的游戏币为无效游戏币。在本公开实施例中,如果某个玩家增加了自己的下注的游戏币,可以根据游戏规则,确定该游戏玩家在进入第二游戏阶段后新增加的下注的游戏币为无效游戏币,或者确定该游戏玩家的所有下注的游戏币均属于无效游戏币,本公开对此不作限定。
在一些可选的实施例中,在第二游戏阶段中,在检测到所述游戏桌面中的游戏进行区域的游戏卡牌的类别、位置或者出现的顺序与预设规则不同时,发出提示信息,从而提醒游戏发牌员发牌有误,该提示信息也可以是语音提示信息。
在一些可选的实施例中,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏进行区域中的游戏卡牌的数量或者点数之和的达到预设条件,确定检测到所述游戏桌面的游戏进行区域中的游戏卡牌的数量或者点数之和的达到预设条件的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第二游戏阶段的结束时间点以及第三游戏阶段的起始时间点。
在具体实施时,可以在第二游戏阶段,检测游戏桌面的游戏进行区域中的游戏卡牌的数量和游戏卡牌的点数,在检测到数量(例如有6张游戏卡牌)或者点数之和符合发牌结束的规则的连续多帧图像中的第一帧图像对应的时间点,确定第二游戏阶段(发牌阶段)结束,第三游戏阶段(赔付阶段)开始。
在确定了多个游戏阶段的开始时间点和结束时间点之后,可以自动切换游戏阶段,节省人力成本,提高游戏效率。
在一些可选的实施例中,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:
在第二游戏阶段的结束时间点,根据所述游戏桌面中的游戏进行区域的游戏卡牌的位置和点数,确定输赢结果。
在一些可选的实施例中,在第三游戏阶段,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:
根据第二游戏阶段结束时确定的输赢结果、多个游戏者在第一游戏阶段结束时的游戏参与结果以及赔付规则,确定多个游戏者的赔付结果;从而减少游戏发牌员的工作,减少人为计算产生的疏忽或者错误。
在一些可选的实施例中,在第一游戏阶段中,可以对游戏者(即游戏玩家)参与游戏的游戏币进行记录,图8示出根据本公开实施例的一种图像处理方法中对第一游戏阶段执行检测的流程图,其中,所述根据所述图像中检测出的所述目标对象以及确定的所述游戏阶段,得到游戏检测结果,包括:
S41:确定游戏币和游戏者的对应关系;
S42:根据确定的对应关系以及第一游戏阶段的规则,确定多个游戏者的游戏参与结果,所述游戏参与结果包括游戏者参与游戏的游戏币的总价值以及参与游戏的游戏币所在的游戏参与区域中的子区域。
本公开实施例中,确定游戏币(兑换物)和游戏者的对应关系,可以包括:根据多游戏者的位置以及多个游戏参与区域的位置,确定与游戏参与区域相关联的游戏者,该步骤可以包括:在一个游戏者的位置与一个游戏参与区域之间的距离小于或等于关联距离阈值的情况下,确定该游戏者与该游戏参与区域相关联。
本公开实施例中,在识别出游戏币的情况下可以获取游戏币的物体标识,不同物体对象可以具有不同的物体标识,物体标识可以包括颜色、花纹、大小、码值中的至少一种,通过侧视图采集的图像,可以方便的检测出在游戏桌面中的物体对象的物体标识。另外,本公开实施例可以根据第一游戏阶段的图像确定在游戏参与区域中的物体对象的物体标识是否与当前放置的游戏参与区域的位置信息相匹配,如物体标识与位置信息不匹配可以执行报警操作。其中报警操作可以包括语音提示、向预设的电子设备发送物体标识与位置信息不匹配的提示信息,从而方便的对第一游戏阶段的物体对象进行检测。
另外,本公开实施例中,游戏参与区域可以包括多个子区域,每个子区域可以用于放置参与游戏的游戏币,本公开实施例还可以对第一游戏阶段中游戏参与区域中多个子区域的游戏币的总价值进行统计。
第二游戏阶段可以为向游戏玩家分发游戏卡牌的阶段,其中每个游戏卡牌上可以具有相应的数值符号和花色,同样该数值符号和花色可以为游戏卡牌的物体标识。另外,本公开实施例可以根据游戏卡牌的位置与人物对象(游戏玩家或者游戏发牌员)的人手位置之间的面积交并比确定游戏卡牌对应的人物对象,从而可以得到人物对象对应的游戏卡牌。在此基础上可以根据识别的人物对象的游戏卡牌的数值符号和花色,从而在第二游戏阶段结束时得到输赢结果。其中,不同的桌面游戏,可以具有不同的游戏输赢判定规则,本公开实施例对此不作具体限定。
在一些可能的实施方式中,在第三游戏阶段可以对操作人员(如游戏发牌员)的赔付操作进行检测,判断操作人员执行的赔付结果与确定的赔付结果是否一致,其中赔付结果可以根据第二游戏阶段结束时确定的输赢结果、多个游戏者在第一游戏阶段结束时的游戏参与结果以及赔付规则确定;从而减少作弊行为。
其中,图9示出根据本公开实施例中的一种图像处理方法中检测第三游戏阶段的流程图。所述根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:
S401:确定操作人员执行的赔付结果;
在一些可能的实施方式中,可以检测操作人员从至少一个游戏玩家对应的游戏参与区域中取出的游戏币的总价值,以及向游戏玩家赔付的游戏币的价值,将上述检测结果作为操作人员执行的赔付结果。
S402:比对输赢结果中游戏者的赔付结果和操作人员执行的所述赔付结果,确定操作人员的赔付结果是否正确;
在一些可能的实施方式中,可以将检测到的操作人员执行的赔付结果与确定的赔付结果进行比对,确定执行的赔付结果和确定的赔付结果是否一致。如果不一致,则认为赔付结果执行的不正确。
S403:在赔付结果执行的不正确时,发出告警信息。
在执行的赔付结果与确定的赔付结果一致的情况下,可以确定赔付结果执行正确,在执行的赔付结果与确定的赔付结果不一致的情况下,例如执行的赔付中的游戏币多于确定的赔付结果中的游戏币时可以生成报警信息,提示操作人员。同样的,报警信息可以为语音提示或者显示输出,但本公开对此不作具体限定。
下面举例说明本公开实施例的过程,其中,如图2所示,在游戏桌面的上方可以架设多个摄像头,对桌面的游戏进行实时分析,根据识别结果把整个游戏过程划分为第一游戏阶段、第二游戏阶段和第三游戏阶段。在第一游戏阶段,每一位游戏玩家(人物对象)在将游戏币放置在游戏参与区域后可以马上识别出每一片游戏币,并判断该游戏玩家的游戏币是否可以放置在该游戏参与区域,在第一游戏阶段结束时可以立即统计出每一位游戏玩家在放置在游戏参与区域的游戏币的总价值;在第二游戏阶段,系统可以自动监督是否有人违规改变游戏桌面中的游戏参与区域中的游戏币的情况,比如收回自己的游戏币,或者增加游戏币等情况,在第二游戏阶段结束的时候可以根据游戏桌面中的游戏进行区域中的游戏卡牌的计算出每个游戏玩家的输赢情况,即每一位游戏玩家谁输谁赢以及相应的赔付结果;在第三游戏阶段,根据计算的赔付结果对执行的赔付结果进行核对。
下面对图像采集设备的设置方案详细解释:本公开实施例需要捕捉桌面上细微的变化,比如游戏币的面额(价值)的识别,因此可以布置三个相机(或摄像头)。其中操作人员左侧相机称作left view(左侧视角),拍摄桌面左半部分;操作人员右侧相机称作rightview(右侧视角)拍摄桌面右半部分;操作人员头顶的相机称为bird view(俯视视角),以俯视的形式拍摄整个桌面。其中,Left view可以负责对左半部分的人脸,游戏币,人体,人手检测和识别,Right view可以负责对右半部分的人脸,游戏币,人体,人手检测和识别,Birdview可以负责对游戏货币,纸牌的检测和识别,并统筹整个桌面的情况。
在检测过程中,本公开实施例可以执行如下操作:
步骤1:通过对三个相机视频流进行解码,取到三个相机的视频帧,输入本公开实施例的操作主体中。
步骤2:本公开实施例中的系统可以对left view和right view两路视频中的人脸,人手,人体和游戏币进行检测;对bird view中的游戏币,人手,纸牌和货币进行检测;
步骤3:对步骤2中检测出的每一类对象进行跟踪,所谓跟踪就是把某一个物体在先后的视频帧中串联起来,赋予一个唯一的编号标识;
步骤4:由于物体随着时间变换,其位置会不断变化,有些时候的检测框不够准确,有些时候由于遮挡导致某一帧或者某几帧检测不到,可以对检测结果进行修正,纠正那些错误的检测框,补上漏掉的检测框;
步骤5:根据检测框,在输入视频帧上裁出该物体的小图,在left view和rightview中对人脸提取特征,对游戏币进行识别,在bird view中游戏纸牌的纸牌符号进行识别。
步骤6:由于left view相机,right view相机分别负责桌面左右两个区域的场景,实际情况中,可能有玩家处在中间区域,左右两个相机都可以拍摄到,会对同一个人的情况进行重复计算,因此需要进行融合,去掉重复的识别。
步骤7:桌面物体映射,bird view相机是对桌面全局的统筹,可以拍到桌面上所有的游戏纸牌,货币和游戏币。Left view相机和right view相机可以拍到部分桌面,因此需要把Left view相机和right view相机拍摄到的游戏币映射到bird view相机拍摄到的图像中;
步骤8:本公开实施例还可以获得游戏玩家在游戏桌面的游戏参与区域放置的游戏币情况,在这一步综合步骤1-步骤6中的检测,跟踪,识别结果进行管理,把游戏桌面的游戏参与区域的游戏币对应给游戏桌前的某一个游戏玩家;
步骤9:步骤1-步骤8是对视频流中一帧的处理全流程,通过对视频流中的每一帧进行处理,判别游戏目前处于哪个游戏阶段,如果处于第一游戏阶段就判别各个游戏玩家的游戏参与情况,如果处于第二阶段就自动监督发牌情况并计算各个游戏玩家的输赢结果以及赔付结果,以及防止有人改动桌面环境;如果处于第三阶段则自动核对赔付是否正确。
在本公开实施例中,可以获取关于游戏桌面的图像,通过对图像进行目标检测处理,检测出多个图像中的目标对象,并基于检测出的目标对象,确定当前游戏所处的游戏阶段,并进一步利用检测出的目标对象以及确定出的游戏阶段,执行游戏桌面的检测,具有方便、快捷且精确的特点,并且由于可以自动的执行游戏过程的检测,可以方便的实现规模化和产业化的运营。
另外相较于目前人力的方式,可以大大提升效率,减少工作人员的参与程度,降低对专业人员的需求,辅助其规模化运营,还可以减少错误的发生,通过不同视角的图像采集设备采集图像能准确的识别桌面物体,尤其是物体对象的价值,又能兼顾参与的人和桌面其他物体。
本领域技术人员可以理解,在具体实施方式的上述方法中,各步骤的撰写顺序并不意味着严格的执行顺序而对实施过程构成任何限定,各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。
可以理解,本公开提及的上述各个方法实施例,在不违背原理逻辑的情况下,均可以彼此相互结合形成结合后的实施例,限于篇幅,本公开不再赘述。
此外,本公开还提供了图像处理装置、电子设备、计算机可读存储介质、程序,上述均可用来实现本公开提供的任一种图像处理方法,相应技术方案和描述和参见方法部分的相应记载,不再赘述。
图10示出根据本公开实施例的图像处理装置的框图,如图10所示,所述图像处理装置包括:
获取模块10,用于获取游戏桌面的视频流;
检测模块20,用于检测所述视频流中包括的多帧图像中的目标对象;
游戏阶段确定模块30,用于基于所述目标对象,确定当前的游戏阶段;
结果确定模块40,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果。
在一些可能的实施方式中,所述视频流包括在所述游戏桌面的多个视角同步采集的视频流,所述检测模块还用于:对第一视角下采集的第一图像进行目标检测,确定所述第一图像中的目标对象;对第二视角下同步采集的第二图像进行目标检测,确定所述第二图像中的目标对象;基于所述第一图像中目标对象的外观信息和周围信息,以及所述第二图像中目标对象的外观信息和周围信息确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系;其中,一个目标对象的外观信息根据该目标对象所在图像中、该目标对象的检测框内的像素确定,一个目标对象的周围信息根据该目标对象所在图像中、该目标对象的检测框周围设定范围内的像素确定。
在一些可能的实施方式中,所述检测模块还用于基于所述第一图像中目标对象的外观信息和所述第二图像中目标对象的外观信息确定第一特征距离;一个第一特征距离表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的相似程度;基于所述第一图像中目标对象的周围信息和所述第二图像中目标对象的周围信息确定第二特征距离;一个第二特征距离表征所述第一图像中的一个目标对象的周围信息与所述第二图像中的一个目标对象之间的周围信息的相似程度;针对所述第一图像中的一个目标对象与所述第二图像中的一个目标对象,根据两个目标对象的第一特征距离和第二特征距离,确定所述两个目标对象之间的特征距离;
基于确定的特征距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系。
在一些可能的实施方式中,所述检测模块还用于对所述两个目标对象的第一特征距离和第二特征距离加权求和,获得所述两个目标对象之间的特征距离;其中,所述两个目标对象的相似程度越高,在进行加权求和时所述两个目标对象的第二特征距离的权重系数越大。
在一些可能的实施方式中,所述检测模块还用于确定所述第一图像中目标对象与所述第二图像中目标对象之间的几何距离;针对所述第一图像中的一个目标对象和所述第二图像中的一个目标对象,根据两个目标对象之间的特征距离和几何距离确定所述两个目标对象之间的距离;根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系。
在一些可能的实施方式中,所述检测模块还用于:根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离形成距离矩阵;其中,所述距离矩阵中的一个元素的值表示所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的距离;根据所述距离矩阵确定所述第一图像和所述第二图像之间的邻接矩阵;所述邻接矩阵中的元素的值表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间关联或者不关联。
在一些可能的实施方式中,游戏阶段确定模块还用于:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点;将确定的时间点作为一个游戏阶段的起始时间点。
所述视频流包括在所述游戏桌面的多个视角同步采集的视频流,在一些可能的实施方式中,游戏阶段确定模块还用于:确定一个视角的视频流中检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像;在其他视角同步采集的视频流中,确定出与所述第一帧图像同步采集的同步图像;响应于在所述同步图像的前N帧图像中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定在所述同步图像的前N帧图像中最早检测到所述游戏桌面的特定区域中具有特定的目标对象的图像对应的时间点。
在一些可能的实施方式中,游戏阶段确定模块还用于:响应于在所述同步图像的前N帧图像中未检测到所述游戏桌面的特定区域中具有特定的目标对象,确定所述第一帧图像对应的时间点。
在一些可能的实施方式中,游戏阶段确定模块还用于:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏参与区域中具有游戏币,确定检测到所述游戏桌面的游戏参与区域中具有游戏币的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第一游戏阶段的起始时间点。
在一些可能的实施方式中,游戏阶段确定模块还用于:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏进行区域中具有游戏卡牌,确定检测到所述游戏桌面的游戏进行区域中具有游戏卡牌的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第一游戏阶段的结束时间点以及第二游戏阶段的起始时间点。
在一些可能的实施方式中,游戏阶段确定模块还用于:响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏进行区域中的游戏卡牌的数量或者点数之和的达到预设条件,确定检测到所述游戏桌面的游戏进行区域中的游戏卡牌的数量或者点数之和的达到预设条件的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第二游戏阶段的结束时间点以及第三游戏阶段的起始时间点。
在一些可能的实施方式中,当前的游戏阶段为下注阶段,所述目标对象包括人物对象和物体对象,所述结果确定模块还用于:确定游戏币和游戏者的对应关系;根据确定的对应关系以及第一游戏阶段的规则,确定多个游戏者的游戏参与结果,所述游戏参与结果包括游戏者参与游戏的游戏币的总价值以及参与游戏的游戏币所在的游戏参与区域中的子区域。
在一些可能的实施方式中,当前的游戏阶段为发牌阶段,所述结果确定模块还用于:在以下任一种情况出现时,发出提示信息:
检测到所述游戏桌面中的游戏参与区域的游戏参与结果发生变化;
检测到所述游戏桌面中的游戏进行区域的游戏卡牌的类别、位置或者出现的顺序与预设规则不同。
所述结果确定模块还用于:在第二游戏阶段的结束时间点,根据所述游戏桌面中的游戏进行区域的游戏卡牌的位置和点数,确定输赢结果。
当前的游戏阶段为第三游戏阶段,所述结果确定模块还用于:根据第二游戏阶段结束时确定的输赢结果、多个游戏者在第一游戏阶段结束时的游戏参与结果以及赔付规则,确定多个游戏者的赔付结果。
所述结果确定模块还用于:确定操作人员执行的赔付结果;比对多个游戏者的赔付结果以及所述操作人员执行的赔付结果,确定赔付结果执行是否正确;在赔付结果执行的不正确时,发出告警信息。
本公开实施例还提出一种计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是非易失性计算机可读存储介质或易失性计算机可读存储介质。
本公开实施例还提出一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为执行上述方法。
本公开实施例还提出一种计算机程序,包括计算机可读代码,当所述计算机可读代码在电子设备中运行时,所述电子设备中的处理器执行上述方法。
电子设备可以被提供为终端、服务器或其它形态的设备。
在不违背逻辑的情况下,本申请不同实施例之间可以相互结合,不同实施例描述有所侧重,未侧重描述的部分可参见其他实施例的记载。
在一些实施例中,本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法,其具体实现可以参照上文方法实施例的描述,为了简洁,这里不再赘述。
图11示出根据本公开实施例的一种电子设备的框图。例如,电子设备800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等终端。
参照图11,电子设备800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制电子设备800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在电子设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为电子设备800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当电子设备800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为电子设备800提供各个方面的状态评估。例如,传感器组件814可以检测到电子设备800的打开/关闭状态,组件的相对定位,例如所述组件为电子设备800的显示器和小键盘,传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变,用户与电子设备800接触的存在或不存在,电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质或易失性计算机可读存储介质,例如包括计算机程序指令的存储器804,上述计算机程序指令可由电子设备800的处理器820执行以完成上述方法。
图12示出根据本公开实施例的另一种电子设备1900的框图。例如,电子设备1900可以被提供为一服务器。参照图12,电子设备1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述方法。
电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理,一个有线或无线网络接口1950被配置为将电子设备1900连接到网络,和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作系统,例如微软服务器操作系统(Windows ServerTM),苹果公司推出的基于图形用户界面操作系统(Mac OSXTM),多用户多进程的计算机操作系统(UnixTM),自由和开放源代码的类Unix操作系统(LinuxTM),开放源代码的类Unix操作系统(FreeBSDTM)或类似。
在示例性实施例中,还提供了一种非易失性计算机可读存储介质或易失性计算机可读存储介质,例如包括计算机程序指令的存储器1932,上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (18)
1.一种图像处理方法,其特征在于,包括:
获取游戏桌面的视频流;
检测所述视频流中包括的多帧图像中的目标对象;
基于所述目标对象,确定当前的游戏阶段;
根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果;
基于所述目标对象确定当前的游戏阶段,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点;
所述视频流包括在所述游戏桌面的多个视角同步采集的视频流,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
确定一个视角的视频流中检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像;
在其他视角同步采集的视频流中,确定出与所述第一帧图像同步采集的同步图像;
响应于在所述同步图像的前N帧图像中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定在所述同步图像的前N帧图像中最早检测到所述游戏桌面的特定区域中具有特定的目标对象的图像对应的时间点;
其中,所述N由一局游戏的平均时长、多个游戏进展阶段的平均时长以及图像的采样频率来确定,所述N的取值限定在同一局游戏中。
2.根据权利要求1所述的方法,其特征在于,所述视频流包括在所述游戏桌面的多个视角同步采集的视频流,所述检测所述视频流中包括的多帧图像中的目标对象,包括:
对第一视角下采集的第一图像进行目标检测,确定所述第一图像中的目标对象;
对第二视角下同步采集的第二图像进行目标检测,确定所述第二图像中的目标对象;
基于所述第一图像中目标对象的外观信息和周围信息,以及所述第二图像中目标对象的外观信息和周围信息确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系;其中,一个目标对象的外观信息根据该目标对象所在图像中、该目标对象的检测框内的像素确定,一个目标对象的周围信息根据该目标对象所在图像中、该目标对象的检测框周围设定范围内的像素确定。
3.根据权利要求2所述的方法,其特征在于,基于所述第一图像中目标对象的外观信息和周围信息,以及所述第二图像中目标对象的外观信息和周围信息确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系,包括:
基于所述第一图像中目标对象的外观信息和所述第二图像中目标对象的外观信息确定第一特征距离;一个第一特征距离表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的相似程度;
基于所述第一图像中目标对象的周围信息和所述第二图像中目标对象的周围信息确定第二特征距离;一个第二特征距离表征所述第一图像中的一个目标对象的周围信息与所述第二图像中的一个目标对象之间的周围信息的相似程度;
针对所述第一图像中的一个目标对象与所述第二图像中的一个目标对象,根据两个目标对象的第一特征距离和第二特征距离,确定所述两个目标对象之间的特征距离;
基于确定的特征距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系。
4.根据权利要求3所述的方法,其特征在于,根据两个目标对象的第一特征距离和第二特征距离,确定所述两个目标对象之间的特征距离,包括:
对所述两个目标对象的第一特征距离和第二特征距离加权求和,获得所述两个目标对象之间的特征距离;其中,所述两个目标对象的相似程度越高,在进行加权求和时所述两个目标对象的第二特征距离的权重系数越大。
5.根据权利要求3或4所述的方法,其特征在于,所述方法还包括:
确定所述第一图像中目标对象与所述第二图像中目标对象之间的几何距离;
基于确定的特征距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系,包括:
针对所述第一图像中的一个目标对象和所述第二图像中的一个目标对象,根据两个目标对象之间的特征距离和几何距离确定所述两个目标对象之间的距离;
根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系。
6.根据权利要求5所述的方法,其特征在于,根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离,确定所述第一图像中目标对象与所述第二图像中目标对象之间的关联关系,包括:
根据所述第一图像中的目标对象与所述第二图像中的目标对象之间的距离形成距离矩阵;其中,所述距离矩阵中的一个元素的值表示所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间的距离;
根据所述距离矩阵确定所述第一图像和所述第二图像之间的邻接矩阵;所述邻接矩阵中的元素的值表征所述第一图像中的一个目标对象与所述第二图像中的一个目标对象之间关联或者不关联。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于在所述同步图像的前N帧图像中未检测到所述游戏桌面的特定区域中具有特定的目标对象,确定所述第一帧图像对应的时间点。
8.根据权利要求1或7所述的方法,其特征在于,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏参与区域中具有游戏币,确定检测到所述游戏桌面的游戏参与区域中具有游戏币的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第一游戏阶段的起始时间点。
9.根据权利要求1或7所述的方法,其特征在于,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏进行区域中具有游戏卡牌,确定检测到所述游戏桌面的游戏进行区域中具有游戏卡牌的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第一游戏阶段的结束时间点以及第二游戏阶段的起始时间点。
10.根据权利要求1或7所述的方法,其特征在于,响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点,包括:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的游戏进行区域中的游戏卡牌的数量或者点数之和的达到预设条件,确定检测到所述游戏桌面的游戏进行区域中的游戏卡牌的数量或者点数之和的达到预设条件的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点,包括:
将确定的时间点作为第二游戏阶段的结束时间点以及第三游戏阶段的起始时间点。
11.根据权利要求1所述的方法,其特征在于,当前的游戏阶段为第一游戏阶段,所述目标对象包人物对象和物体对象,根据所述目标对象以及确定的当前的游戏阶段,确定游戏检测结果,包括:
确定游戏币和游戏者的对应关系;
根据确定的对应关系以及第一游戏阶段的规则,确定多个游戏者的游戏参与结果,所述游戏参与结果包括游戏者参与游戏的游戏币的总价值以及参与游戏的游戏币所在的游戏参与区域中的子区域。
12.根据权利要求1所述的方法,其特征在于,当前的游戏阶段为第二游戏阶段,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:
在以下任一种情况出现时,发出提示信息:
检测到所述游戏桌面中的游戏参与区域的游戏参与结果发生变化;
检测到所述游戏桌面中的游戏进行区域的游戏卡牌的类别、位置或者出现的顺序与预设规则不同。
13.根据权利要求1所述的方法,其特征在于,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:
在第二游戏阶段的结束时间点,根据所述游戏桌面中的游戏进行区域的游戏卡牌的位置和点数,确定输赢结果。
14.根据权利要求1所述的方法,其特征在于,当前的游戏阶段为第三游戏阶段,根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果,包括:
根据第二游戏阶段结束时确定的输赢结果、多个游戏者在第一游戏阶段结束时的游戏参与结果以及赔付规则,确定多个游戏者的赔付结果。
15.根据权利要求14所述的方法,其特征在于,所述方法还包括:
确定操作人员执行的赔付结果;
比对多个游戏者的赔付结果以及所述操作人员执行的赔付结果,确定赔付结果执行是否正确;
在赔付结果执行的不正确时,发出告警信息。
16.一种图像处理装置,其特征在于,包括:
获取模块,用于获取游戏桌面的视频流;
检测模块,用于检测所述视频流中包括的多帧图像中的目标对象;
游戏阶段确定模块,用于基于所述目标对象,确定当前的游戏阶段;
结果确定模块,用于根据所述目标对象以及确定的所述游戏阶段,确定游戏检测结果;
游戏阶段确定模块还用于:
响应于在所述视频流中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像对应的时间点;
将确定的时间点作为一个游戏阶段的起始时间点;
所述视频流包括在所述游戏桌面的多个视角同步采集的视频流,游戏阶段确定模块还用于:
确定一个视角的视频流中检测到所述游戏桌面的特定区域中具有特定的目标对象的连续多帧图像中的第一帧图像;
在其他视角同步采集的视频流中,确定出与所述第一帧图像同步采集的同步图像;
响应于在所述同步图像的前N帧图像中的至少一帧图像中检测到所述游戏桌面的特定区域中具有特定的目标对象,确定在所述同步图像的前N帧图像中最早检测到所述游戏桌面的特定区域中具有特定的目标对象的图像对应的时间点;
其中,所述N由一局游戏的平均时长、多个游戏进展阶段的平均时长以及图像的采样频率来确定,所述N的取值限定在同一局游戏中。
17.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为调用所述存储器存储的指令,以执行权利要求1-15中任意一项所述的方法。
18.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1-15中任意一项所述的方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
SG10202007349R | 2020-08-01 | ||
SG10202007349R | 2020-08-01 | ||
PCT/IB2020/060202 WO2022029477A1 (en) | 2020-08-01 | 2020-10-30 | Image processing method and apparatus, electronic device, and storage medium |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114514566A CN114514566A (zh) | 2022-05-17 |
CN114514566B true CN114514566B (zh) | 2023-09-22 |
Family
ID=76599606
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080003721.1A Active CN114514566B (zh) | 2020-08-01 | 2020-10-30 | 图像处理方法及装置、电子设备和存储介质 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11417173B2 (zh) |
JP (1) | JP7416782B2 (zh) |
KR (1) | KR102547438B1 (zh) |
CN (1) | CN114514566B (zh) |
AU (1) | AU2020309094B2 (zh) |
PH (1) | PH12020552288A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2023504323A (ja) * | 2021-06-18 | 2023-02-03 | センスタイム インターナショナル プライベート リミテッド | 警告方法、装置、機器並びにコンピュータ記憶媒体 |
AU2021240273A1 (en) * | 2021-09-02 | 2023-03-16 | Sensetime International Pte. Ltd. | Methods, apparatuses, and systems for processing game images |
KR102477839B1 (ko) * | 2022-03-15 | 2022-12-15 | 주식회사 파프리카데이터랩 | 데이터 내 검출된 객체의 특성을 이용한 데이터 유효성 검사 방법 및 장치 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009061614A1 (en) * | 2007-11-09 | 2009-05-14 | Igt | Transparent card display |
CN102413884A (zh) * | 2009-03-02 | 2012-04-11 | Igt公司 | 利用玩游戏事件和视频的游戏验证 |
CN104899894A (zh) * | 2014-03-05 | 2015-09-09 | 南京理工大学 | 一种采用多台摄像机进行运动目标跟踪的方法 |
AU2016210614A1 (en) * | 2015-08-03 | 2017-02-23 | Angel Playing Cards Co., Ltd. | Fraud detection system in casino |
CN109040664A (zh) * | 2018-06-01 | 2018-12-18 | 深圳市商汤科技有限公司 | 视频流处理方法及装置、电子设备和存储介质 |
CN110168607A (zh) * | 2016-05-16 | 2019-08-23 | 森森网络集团有限公司 | 用于自动桌面游戏活动识别的系统和方法 |
CN110478888A (zh) * | 2018-05-14 | 2019-11-22 | 天使游戏纸牌股份有限公司 | 桌面游戏的管理系统以及游戏管理系统 |
CN110807392A (zh) * | 2019-10-25 | 2020-02-18 | 浙江大华技术股份有限公司 | 编码控制方法以及相关装置 |
CN111054080A (zh) * | 2019-12-06 | 2020-04-24 | 腾讯科技(深圳)有限公司 | 智能检测透视外挂方法、装置、设备及其存储介质 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7901285B2 (en) * | 2004-05-07 | 2011-03-08 | Image Fidelity, LLC | Automated game monitoring |
US8016665B2 (en) * | 2005-05-03 | 2011-09-13 | Tangam Technologies Inc. | Table game tracking |
US9292996B2 (en) * | 2006-12-19 | 2016-03-22 | Igt | Distributed side wagering methods and systems |
US8442265B1 (en) | 2011-10-19 | 2013-05-14 | Facebook Inc. | Image selection from captured video sequence based on social components |
KR20160032432A (ko) * | 2014-09-16 | 2016-03-24 | 삼성에스디에스 주식회사 | 동일 객체 검출 방법 및 장치 |
CN112569572A (zh) | 2014-10-16 | 2021-03-30 | Arb实验室公司 | 用于监视游戏活动的系统、方法和设备 |
US11074780B2 (en) | 2015-08-03 | 2021-07-27 | Angel Playing Cards Co., Ltd. | Management system of substitute currency for gaming |
JP2017056166A (ja) | 2015-09-14 | 2017-03-23 | エンゼルプレイングカード株式会社 | 遊技場における異常検知システム |
DE102016108969A1 (de) | 2016-05-13 | 2017-11-16 | Dallmeier Electronic Gmbh & Co. Kg | System und Verfahren zur Erfassung und Analyse von Videodaten betreffend den Spielverlauf auf einem Glückspieltisch in Kasinos |
US10061984B2 (en) * | 2016-10-24 | 2018-08-28 | Accenture Global Solutions Limited | Processing an image to identify a metric associated with the image and/or to determine a value for the metric |
EP3639513A4 (en) | 2017-06-14 | 2020-12-30 | Arb Labs Inc. | SYSTEMS, PROCEDURES AND DEVICES FOR MONITORING GAME TABLES |
US11049362B2 (en) * | 2017-09-21 | 2021-06-29 | Angel Playing Cards Co., Ltd. | Fraudulence monitoring system of table game and fraudulence monitoring program of table game |
JP6852704B2 (ja) | 2018-03-22 | 2021-03-31 | オムロン株式会社 | 制御装置、記録媒体管理装置、システム、制御方法、及びプログラム |
-
2020
- 2020-10-30 CN CN202080003721.1A patent/CN114514566B/zh active Active
- 2020-10-30 JP JP2021523503A patent/JP7416782B2/ja active Active
- 2020-10-30 AU AU2020309094A patent/AU2020309094B2/en active Active
- 2020-10-30 KR KR1020217019242A patent/KR102547438B1/ko active IP Right Grant
- 2020-12-29 PH PH12020552288A patent/PH12020552288A1/en unknown
- 2020-12-31 US US17/139,390 patent/US11417173B2/en active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009061614A1 (en) * | 2007-11-09 | 2009-05-14 | Igt | Transparent card display |
CN102413884A (zh) * | 2009-03-02 | 2012-04-11 | Igt公司 | 利用玩游戏事件和视频的游戏验证 |
CN104899894A (zh) * | 2014-03-05 | 2015-09-09 | 南京理工大学 | 一种采用多台摄像机进行运动目标跟踪的方法 |
AU2016210614A1 (en) * | 2015-08-03 | 2017-02-23 | Angel Playing Cards Co., Ltd. | Fraud detection system in casino |
CN110168607A (zh) * | 2016-05-16 | 2019-08-23 | 森森网络集团有限公司 | 用于自动桌面游戏活动识别的系统和方法 |
CN110478888A (zh) * | 2018-05-14 | 2019-11-22 | 天使游戏纸牌股份有限公司 | 桌面游戏的管理系统以及游戏管理系统 |
CN109040664A (zh) * | 2018-06-01 | 2018-12-18 | 深圳市商汤科技有限公司 | 视频流处理方法及装置、电子设备和存储介质 |
CN110807392A (zh) * | 2019-10-25 | 2020-02-18 | 浙江大华技术股份有限公司 | 编码控制方法以及相关装置 |
CN111054080A (zh) * | 2019-12-06 | 2020-04-24 | 腾讯科技(深圳)有限公司 | 智能检测透视外挂方法、装置、设备及其存储介质 |
Non-Patent Citations (1)
Title |
---|
Messy Table:Instance Association in Multiple Camera Views;Zhongang Cai;《https://arxiv.org/abs/2007.14878》;20200729;正文第1-13页 * |
Also Published As
Publication number | Publication date |
---|---|
US20220036693A1 (en) | 2022-02-03 |
KR102547438B1 (ko) | 2023-06-23 |
KR20220018468A (ko) | 2022-02-15 |
AU2020309094B2 (en) | 2022-08-25 |
AU2020309094A1 (en) | 2022-02-17 |
JP2022548804A (ja) | 2022-11-22 |
JP7416782B2 (ja) | 2024-01-17 |
US11417173B2 (en) | 2022-08-16 |
CN114514566A (zh) | 2022-05-17 |
PH12020552288A1 (en) | 2021-06-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113228124B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN114514566B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN109872297A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN108764069A (zh) | 活体检测方法及装置 | |
US11321575B2 (en) | Method, apparatus and system for liveness detection, electronic device, and storage medium | |
CN110674719A (zh) | 目标对象匹配方法及装置、电子设备和存储介质 | |
CN110188236A (zh) | 一种音乐的推荐方法、装置及系统 | |
CN110636315B (zh) | 一种多人虚拟直播方法、装置、电子设备及存储介质 | |
CN109614613A (zh) | 图像的描述语句定位方法及装置、电子设备和存储介质 | |
CN106557759B (zh) | 一种标志牌信息获取方法及装置 | |
US20210201478A1 (en) | Image processing methods, electronic devices, and storage media | |
CN107692997A (zh) | 心率检测方法及装置 | |
CN107766820A (zh) | 图像分类方法及装置 | |
CN108932090A (zh) | 终端控制方法、装置和存储介质 | |
CN107341509A (zh) | 卷积神经网络的训练方法及装置 | |
CN109685041A (zh) | 图像分析方法及装置、电子设备和存储介质 | |
CN109145878B (zh) | 图像提取方法及装置 | |
CN109598191A (zh) | 行人重识别残差网络训练方法及装置 | |
CN109740557B (zh) | 对象检测方法及装置、电子设备和存储介质 | |
CN111062401A (zh) | 堆叠物体的识别方法及装置、电子设备和存储介质 | |
CN114697696B (zh) | 数据的处理方法及装置、电子设备、计算机可读存储介质 | |
CN110038303A (zh) | Ai对象匹配方法、系统及电子设备和存储介质 | |
CN112232424A (zh) | 身份识别方法及装置、电子设备和存储介质 | |
WO2022029477A1 (en) | Image processing method and apparatus, electronic device, and storage medium | |
CN112927033A (zh) | 数据处理方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |