CN111694567A - 一种数据处理方法及装置、存储介质 - Google Patents

一种数据处理方法及装置、存储介质 Download PDF

Info

Publication number
CN111694567A
CN111694567A CN201910188965.0A CN201910188965A CN111694567A CN 111694567 A CN111694567 A CN 111694567A CN 201910188965 A CN201910188965 A CN 201910188965A CN 111694567 A CN111694567 A CN 111694567A
Authority
CN
China
Prior art keywords
area
mark
image
interface
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910188965.0A
Other languages
English (en)
Other versions
CN111694567B (zh
Inventor
崔海洋
潘宗涛
王德鑫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Haiyi Tongzhan Information Technology Co Ltd
Original Assignee
Beijing Haiyi Tongzhan Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Haiyi Tongzhan Information Technology Co Ltd filed Critical Beijing Haiyi Tongzhan Information Technology Co Ltd
Priority to CN201910188965.0A priority Critical patent/CN111694567B/zh
Publication of CN111694567A publication Critical patent/CN111694567A/zh
Application granted granted Critical
Publication of CN111694567B publication Critical patent/CN111694567B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/30Creation or generation of source code
    • G06F8/38Creation or generation of source code for implementing user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Color Image Communication Systems (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

本发明实施例公开了一种数据处理方法及装置、存储介质,该方法包括:获取应用程序的界面标记图像,所述界面标记图像包括至少一个被标记的区域;利用预设标记检测模型,对所述界面标记图像进行标记识别,得到所述至少一个被标记的区域中每个区域的标记信息;所述预设标记检测模型表征界面标记图像和标记信息的对应关系,所述标记信息表征所述每个区域对应的标记特征;根据预设标记信息和区域类型的对应关系,以及所述标记信息,得到所述每个区域对应的区域类型;根据所述界面标记图像、所述标记信息、所述区域类型和预设程序库,得到所述应用程序的界面显示程序;所述预设程序库表征区域类型对应的区域程序。

Description

一种数据处理方法及装置、存储介质
技术领域
本发明涉及程序开发技术,尤其涉及一种数据处理方法及装置、存储介质。
背景技术
在现有安卓应用开发中,由开发人员根据安卓应用程序的页面设计图,手工编写代码以生成安卓应用程序的布局文件,然而,手工编写代码的效率低、人员成本高,并且,由于开发人员的编码能力的不稳定性,代码的可读性和可移植性得不到保证,进而,无法快速生成具有良好的可读性和较高的可移植性的布局文件。
发明内容
本发明的主要目的在于提出一种数据处理方法及装置、存储介质,提高了界面显示数据的可读性和可移植性。
本发明的技术方案是这样实现的:
本发明实施例提供了一种数据处理方法,所述方法包括:
获取应用程序的界面标记图像,所述界面标记图像包括至少一个被标记的区域;
利用预设标记检测模型,对所述界面标记图像进行标记识别,得到所述至少一个被标记的区域中每个区域的标记信息;所述预设标记检测模型表征界面标记图像和标记信息的对应关系,所述标记信息表征所述每个区域对应的标记特征;
根据预设标记信息和区域类型的对应关系,以及所述标记信息,得到所述每个区域对应的区域类型;
根据所述界面标记图像、所述标记信息、所述区域类型和预设程序库,得到所述应用程序的界面显示程序;所述预设程序库表征区域类型对应的区域程序。
上述方案中,所述至少一个被标记的区域为至少一个被有颜色的标记框所标记的区域;所述标记信息包括标记位置和标记颜色。
上述方案中,所述预设标记检测模型包括标记框检测模型和颜色检测模型;
所述利用预设标记检测模型,对所述界面标记图像进行标记识别,得到所述至少一个被标记的区域中每个区域的标记信息,包括:
利用所述标记框检测模型,对所述界面标记图像进行位置检测,得到所述标记位置;
根据所述标记位置、所述界面标记图像和所述颜色检测模型,得到所述标记颜色。
上述方案中,所述区域类型为布局类型或控件类型,所述预设标记信息和区域类型的对应关系包括:预设第一标记颜色和控件类型的第一对应关系、以及预设第二标记颜色和布局类型的第二对应关系;
所述根据预设标记信息和区域类型的对应关系、以及所述标记信息,得到所述每个区域对应的区域类型,包括:
当一个区域的标记颜色与所述第一对应关系中的第一标记颜色匹配时,根据所述标记颜色和所述第一对应关系,得到所述一个区域对应的控件类型;所述一个区域属于所述至少一个被标记的区域;
当所述一个区域的标记颜色与所述第二对应关系中的第二标记颜色匹配时,根据所述标记颜色和所述第二对应关系,得到所述一个区域对应的布局类型;进而得到所述每个区域对应的区域类型。
上述方案中,所述根据所述界面标记图像、所述标记信息、所述区域类型和预设程序库,得到所述应用程序的界面显示程序,包括:
根据所述标记位置、所述区域类型和所述预设程序库,得到所述每个区域的初始界面区域程序;
根据所述区域类型、所述标记位置和所述界面标记图像,得到所述每个区域的区域内容;
根据所述初始界面区域程序和所述区域内容,得到所述每个区域的界面区域程序;
当所述至少一个被标记的区域包括至少两个被标记的区域时,根据所述标记位置,得到所述至少两个被标记的区域对应的包含关系;
根据所述包含关系,对所述界面区域程序进行组合,得到所述界面显示程序。
上述方案中,所述区域类型为布局类型或控件类型,所述控件类型包括文本控件和图像控件;
所述根据所述区域类型、所述标记位置和所述界面标记图像,得到所述每个区域的区域内容,包括:
当所述至少一个被标记的区域中一个区域对应的区域类型是所述文本控件时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行文字识别,得到所述一个区域内的区域文字,将所述区域文字作为所述一个区域的区域内容;
当所述一个区域对应的区域类型是所述图像控件时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行图像提取,得到所述一个区域内的区域图像,将所述区域图像作为所述一个区域的区域内容;
当所述一个区域对应的区域类型是所述布局类型时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行背景识别,得到所述一个区域内的区域背景,将所述区域背景作为所述一个区域的区域内容;进而得到所述每个区域的区域内容。
上述方案中,所述标记位置包括所述每个区域对应的标记框的定位点坐标;
所述根据所述标记位置,得到所述至少两个被标记的区域对应的包含关系,包括:
根据所述至少两个被标记的区域中每两个区域的定位点坐标,确定所述每两个区域对应的子包含关系,进而得到所述包含关系。
上述方案中,所述标记框为方框,所述定位点坐标包括所述每个区域对应的方框的左上角坐标和右下角坐标,或者,所述定位点坐标包括所述每个区域对应的方框的左下角坐标和右上角坐标。
上述方案中,所述标记框为圆框,所述定位点坐标包括所述每个区域对应的圆框的圆心坐标和半径。
上述方案中,所述标记框检测模型包括网格坐标检测模型和置信度计算模型,所述网络坐标检测模型表征子单位网格和预测坐标的对应关系,所述置信度计算模型表征预测坐标和置信度的对应关系;
所述利用所述标记框检测模型,对所述界面标记图像进行位置检测,得到所述标记位置,包括:
对所述界面标记图像进行网格划分,得到所述界面标记图像对应的至少一个单位网格;
将所述至少一个单位网格和所述每个区域进行匹配,得到所述每个区域对应的子单位网格;所述子单位网格属于所述至少一个单位网格;
利用所述子单位网格、所述网格坐标检测模型和所述置信度计算模型,对所述每个区域进行位置检测,得到所述标记位置。
上述方案中,所述标记框为预设宽度的标记框;
所述根据所述标记位置、所述界面标记图像和所述颜色检测模型,得到所述标记颜色,包括:
从所述界面标记图像中提取所述标记位置对应的图像,得到所述每个区域的标记区域图像;
利用所述颜色检测模型,对所述标记区域图像中符合所述预设宽度的目标区域进行颜色识别,得到所述标记颜色。
本发明实施例提供了一种数据处理装置,所述装置包括:图像获取单元、标记识别单元、类型确定单元和程序生成单元;其中,
所述图像获取单元,用于获取应用程序的界面标记图像,所述界面标记图像包括至少一个被标记的区域;
所述标记识别单元,用于利用预设标记检测模型,对所述界面标记图像进行标记识别,得到所述至少一个被标记的区域中每个区域的标记信息;所述预设标记检测模型表征界面标记图像和标记信息的对应关系,所述标记信息表征所述每个区域对应的标记特征;
所述类型确定单元,用于根据预设标记信息和区域类型的对应关系,以及所述标记信息,得到所述每个区域对应的区域类型;
所述程序生成单元,用于根据所述界面标记图像、所述标记信息、所述区域类型和预设程序库,得到所述应用程序的界面显示程序;所述预设程序库表征区域类型对应的区域程序。
上述方案中,所述至少一个被标记的区域为至少一个被有颜色的标记框所标记的区域;所述标记信息包括标记位置和标记颜色。
上述方案中,所述预设标记检测模型包括标记框检测模型和颜色检测模型;
所述标记识别单元,具体用于利用所述标记框检测模型,对所述界面标记图像进行位置检测,得到所述标记位置;以及根据所述标记位置、所述界面标记图像和所述颜色检测模型,得到所述标记颜色。
上述方案中,所述区域类型为布局类型或控件类型,所述预设标记信息和区域类型的对应关系包括:预设第一标记颜色和控件类型的第一对应关系、以及预设第二标记颜色和布局类型的第二对应关系;
所述类型确定单元,具体用于当一个区域的标记颜色与所述第一对应关系中的第一标记颜色匹配时,根据所述标记颜色和所述第一对应关系,得到所述一个区域对应的控件类型;所述一个区域属于所述至少一个被标记的区域;以及当所述一个区域的标记颜色与所述第二对应关系中的第二标记颜色匹配时,根据所述标记颜色和所述第二对应关系,得到所述一个区域对应的布局类型;进而得到所述每个区域对应的区域类型。
上述方案中,所述程序生成单元,具体用于根据所述标记位置、所述区域类型和所述预设程序库,得到所述每个区域的初始界面区域程序;及根据所述区域类型、所述标记位置和所述界面标记图像,得到所述每个区域的区域内容;及根据所述初始界面区域程序和所述区域内容,得到所述每个区域的界面区域程序;及当所述至少一个被标记的区域包括至少两个被标记的区域时,根据所述标记位置,得到所述至少两个被标记的区域对应的包含关系;以及根据所述包含关系,对所述界面区域程序进行组合,得到所述界面显示程序。
上述方案中,所述区域类型为布局类型或控件类型,所述控件类型包括文本控件和图像控件;
所述程序生成单元,具体用于当所述至少一个被标记的区域中一个区域对应的区域类型是所述文本控件时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行文字识别,得到所述一个区域内的区域文字,将所述区域文字作为所述一个区域的区域内容;及当所述一个区域对应的区域类型是所述图像控件时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行图像提取,得到所述一个区域内的区域图像,将所述区域图像作为所述一个区域的区域内容;以及当所述一个区域对应的区域类型是所述布局类型时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行背景识别,得到所述一个区域内的区域背景,将所述区域背景作为所述一个区域的区域内容;进而得到所述每个区域的区域内容。
上述方案中,所述标记位置包括所述每个区域对应的标记框的定位点坐标;
所述程序生成单元,具体用于根据所述至少两个被标记的区域中每两个区域的定位点坐标,确定所述每两个区域对应的子包含关系,进而得到所述包含关系。
上述方案中,所述标记框为方框,所述定位点坐标包括所述每个区域对应的方框的左上角坐标和右下角坐标,或者,所述定位点坐标包括所述每个区域对应的方框的左下角坐标和右上角坐标。
上述方案中,所述标记框为圆框,所述定位点坐标包括所述每个区域对应的圆框的圆心坐标和半径。
上述方案中,所述标记框检测模型包括网格坐标检测模型和置信度计算模型,所述网络坐标检测模型表征子单位网格和预测坐标的对应关系,所述置信度计算模型表征预测坐标和置信度的对应关系;
所述标记识别单元,具体用于对所述界面标记图像进行网格划分,得到所述界面标记图像对应的至少一个单位网格;及将所述至少一个单位网格和所述每个区域进行匹配,得到所述每个区域对应的子单位网格;所述子单位网格属于所述至少一个单位网格;以及利用所述子单位网格、所述网格坐标检测模型和所述置信度计算模型,对所述每个区域进行位置检测,得到所述标记位置。
上述方案中,所述标记框为预设宽度的标记框;
所述标记识别单元,具体用于从所述界面标记图像中提取所述标记位置对应的图像,得到所述每个区域的标记区域图像;以及利用所述颜色检测模型,对所述标记区域图像中符合所述预设宽度的目标区域进行颜色识别,得到所述标记颜色。
本发明实施例还提供了一种数据处理装置,所述装置包括:处理器、存储器和通信总线,所述存储器通过所述通信总线与所述处理器进行通信,所述存储器存储所述处理器可执行的一个或者多个数据处理程序,当所述一个或者多个数据处理程序被执行时,通过所述处理器执行上述任一项数据处理方法的步骤。
本发明实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有数据处理程序,当所述数据处理程序被处理器执行时,实现所述处理器执行上述任一项数据处理方法的步骤。
本发明实施例提供一种数据处理方法及装置、存储介质,采用上述技术实现方案,基于应用程序的界面标记图像、预设标记信息和区域类型的对应关系,得到每个区域对应的区域类型,再根据界面标记图像、标记信息、区域类型和预设程序库,得到应用程序的界面显示程序,其中,由于预设程序库表征区域类型对应的区域程序,根据每个区域的区域类型,就能够从预设程序库中调用到应用程序中每个区域的界面区域程序,只要设置可读性好和可移植性高的预设程序库,就能够提高应用程序的界面显示程序的可读性和可移植性。
附图说明
图1为本发明实施例提供的一种数据处理系统的结构示意图;
图2为本发明实施例提供的一种数据处理方法的流程图;
图3为本发明实施例提供的一种基于深度学习的目标检测算法的性能对比图;
图4为本发明实施例提供的一种HSV(Hue,Saturation,Value)颜色模型的示意图;
图5为本发明实施例提供的一种应用程序的界面设计图像的示意图;
图6为本发明实施例提供的一种应用程序的界面标记图像的示意图;
图7为本发明实施例提供的一种数据处理装置的结构示意图一;
图8为本发明实施例提供的一种数据处理装置的结构示意图二。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
下面参见图1,其为实现本发明各个实施例的一种数据处理系统的示意图,该系统1可以包括:显示模块11、输入模块12、数据处理装置13;数据处理装置13获取应用程序的界面设计图像(例如,页面设计图像),并发送至显示模块11,在显示模块11上显示应用程序的界面设计图像;当显示模块11上显示应用程序的界面设计图像时,从输入模块12接收针对该界面设计图像的标记指令;数据处理装置13根据标记指令生成应用程序的界面标记图像(例如,页面标记图像),还可以发送至显示模块11,在显示模块11上显示该界面标记图像;
或者,数据处理装置13直接获取应用程序的界面标记图像。
示例性地,在显示模块11上显示应用程序的界面设计图像、以及预设标记信息和区域类型的对应关系,用户可以根据该对应关系,通过输入模块12对界面设计图像中的每个区域执行标记操作,输入模块12接收标记操作对应的标记指令,区域包括页面的布局和页面的控件。
本领域技术人员可以理解,图1中示出的数据处理系统的结构并不构成对数据处理系统的限定,数据处理系统可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
需要说明的是,本发明实施例可以基于图1所示的数据处理装置所实现,下面基于图1进行数据处理具体实施例的说明。
实施例一
本发明实施例提供一种数据处理方法,如图2所示,该方法包括:
S201:获取应用程序的界面标记图像,界面标记图像包括至少一个被标记的区域;
数据处理装置获取界面标记图像,界面标记图像为对应用程序的界面设计图像标记后生成的,界面设计图像包括至少一个区域;利用界面标记图像来获取应用程序的界面显示程序(界面显示代码),该界面显示程序为应用程序的界面设计图像的显示程序。
示例性地,应用程序包括安卓系统的应用程序,区域包括布局和控件;其中,控件作为安卓系统的应用程序的最小设计单位,一个布局可以包括至少一个控件,也可以包括至少一个其他布局,每个其他布局可以包括至少一个控件。
在一些实施例中,在获取应用程序的界面标记图像之前,获取应用程序的界面设计图像、以及预设标记信息和区域类型的对应关系,并显示;接收针对界面设计图像的标记指令;根据标记指令和界面设计图像,生成界面标记图像;其中,标记指令为生成预设标记信息和区域类型的对应关系中的标记信息的指令。
数据处理装置显示预设标记信息和区域类型的对应关系,以提示用户采用与至少一个区域中每个区域的区域类型匹配的标记信息,对每个区域进行标记,生成至少一个被标记的区域。
示例性地,用户为应用程序的界面设计图像中每种区域类型设置对应的标记信息,生成预设标记信息和区域类型的对应关系;其中,对于安卓系统的应用程序时,区域类型包括布局类型和控件类型,布局类型包括线性布局LinearLayout、表格布局TableLayout、相对布局RelativeLayout、层布局FrameLayout、绝对布局AbsoluteLayout和网格布局GridLayout等,控件类型包括文本控件TextView、图像控件ImageView、视频控件ImageView、输入框控件EditText、按钮控件Button、复选框控件CheckBox、单选按钮控件RadioButton和日期控件DatePicker等。
需要说明的是,文本控件用于显示文字的控件;图像控件为用于显示图像的控件;输入框控件用于接收输入信息,输入框控件的输入方式可调整,例如,设置软键盘的输入方式;按钮控件用于显示按钮键,还可附带显示图片;复选框控件用于提供可同时选中多个的多个按钮选项;单选按钮控件用于提供只能选中一项的一组单选按钮选项;日期控件用于显示日期。
示例性地,标记信息包括标记颜色,预设标记信息和区域类型的对应关系包括:预设第一标记颜色和控件类型的第一对应关系、以及预设第二标记颜色和布局类型的第二对应关系,预设第一标记颜色和控件类型的第一对应关系包括每种控件类型和每个第一标记颜色的一一对应关系,预设第二标记颜色和布局类型的第二对应关系包括每种布局类型和每个第二标记颜色的一一对应关系;其中,第一标记颜色与第二标记颜色不同。
S202:利用预设标记检测模型,对界面标记图像进行标记识别,得到至少一个被标记的区域中每个区域的标记信息;预设标记检测模型表征界面标记图像和标记信息的对应关系,标记信息表征每个区域对应的标记特征;
数据处理装置将界面标记图像作为预设标记检测模型的输入,利用预设标记检测模型对界面标记图像进行标记识别,得到每个区域的标记信息。
在一些实施例中,至少一个被标记的区域为至少一个被有颜色的标记框所标记的区域;每个区域的标记信息包括标记位置和标记颜色。
示例性地,有颜色的标记框包括有颜色的方框和有颜色的圆框等。
在一些实施例中,预设标记检测模型包括标记框检测模型和颜色检测模型;数据处理装置利用标记框检测模型,对界面标记图像进行位置检测,得到标记位置;根据标记位置、界面标记图像和颜色检测模型,得到每个区域的标记颜色。
数据处理装置对至少一个被有颜色的标记框所标记的区域,向预设标记检测模型输入界面标记图像,预设标记检测模型输出每个区域的标记位置和标记颜色,标记位置可以为每个区域对应的标记框的定位点坐标。
在一些实施例中,标记框检测模型包括网格坐标检测模型和置信度计算模型,网络坐标检测模型表征子单位网格和预测坐标的对应关系,置信度计算模型表征预测坐标和置信度的对应关系;数据处理装置对界面标记图像进行网格划分,得到界面标记图像对应的至少一个单位网格;将至少一个单位网格和每个区域进行匹配,得到每个区域对应的子单位网格;子单位网格属于至少一个单位网格;利用子单位网格、网格坐标检测模型和置信度计算模型,对每个区域进行位置检测,得到标记位置。
数据处理装置将每个区域的中心位置所属的一个单位网格确定为子单位网格;利用网格坐标检测模型,计算子单位网格对应的至少一个预测坐标;再利用置信度计算模型,计算至少一个预测坐标中每个预测坐标的置信度;根据每个预测坐标的置信度,从至少一个预测坐标中确定出目标坐标;根据目标坐标得到每个区域的标记位置。
在一些实施例中,标记框为预设宽度的标记框;从界面标记图像中提取标记位置对应的图像,得到每个区域的标记区域图像;利用颜色检测模型,对标记区域图像中符合预设宽度的目标区域进行颜色识别,得到标记颜色。
数据处理装置根据标记位置,从界面标记图像中提取出每个区域的标记位置对应的标记区域图像;利用颜色检测模型,对标记区域图像中的目标区域进行颜色识别,得到标记颜色。
S203:根据预设标记信息和区域类型的对应关系、以及标记信息,得到每个区域对应的区域类型;
数据处理装置在预设标记信息和区域类型的对应关系中,确定与每个区域的标记信息匹配的区域类型,匹配出的区域类型就是每个区域对应的区域类型。
在一些实施例中,预设标记信息和区域类型的对应关系包括:预设第一标记颜色和区域类型的第一对应关系、以及预设第二标记颜色和布局类型的第二对应关系;当一个区域的标记颜色与第一对应关系中的第一标记颜色匹配时,数据处理装置根据标记颜色和第一对应关系,得到一个区域对应的控件类型;一个区域属于至少一个被标记的区域;当标记颜色与第二对应关系中的第二标记颜色匹配时,数据处理装置根据标记颜色和第二对应关系,得到一个区域对应的布局类型;进而得到每个区域对应的区域类型。
数据处理装置将一个区域的标记颜色与第一标记颜色进行比较,当一个区域的标记颜色与第一标记颜色中的一个第一标记颜色匹配时,从第一对应关系中确定这一个第一标记颜色对应的控件类型,即一个区域对应的控件类型;当一个区域的标记颜色与第一标记颜色不匹配时,将一个区域的标记颜色与第二标记颜色进行比较,当一个区域的标记颜色与第二标记颜色中的一个第二标记颜色匹配时,从第二对应关系中确定这一个第二标记颜色对应的布局类型,即一个区域对应的布局类型。
S204:根据界面标记图像、标记信息、区域类型和预设程序库,得到应用程序的界面显示程序;预设程序库为区域类型对应的区域程序。
数据处理装置获取预设程序库,并结合界面标记图像、标记信息和区域类型,得到每个区域的界面区域程序(界面区域代码),进而得到由至少一个被标记的区域的界面区域程序组成的界面显示程序(界面显示代码)。
在一些实施例中,数据处理装置根据标记位置、区域类型和预设程序库,得到每个区域的初始界面区域程序;根据区域类型、标记位置和界面标记图像,得到每个区域的区域内容;根据初始界面区域程序和区域内容,得到每个区域的界面区域程序;当至少一个被标记的区域包括至少两个被标记的区域时,根据标记位置,得到至少两个被标记的区域对应的包含关系;根据包含关系,对界面区域程序进行组合,得到界面显示程序。
数据处理装置从预设程序库中调用每个区域的区域类型对应的预设区域程序,用每个区域的标记坐标修改预设区域程序,得到初始界面区域程序;用每个区域的区域内容修改初始界面区域程序,生成每个区域的界面区域程序;对至少两个被标记的区域中每两个区域的标记位置进行比较,确定每两个区域的子包含关系,进而得到至少两个被标记的区域对应的包含关系;根据包含关系,对至少两个被标记的区域的界面区域程序进行嵌套组合和/或排列组合,生成界面显示程序。
可以理解的是,由于预设程序库表征区域类型对应的区域程序,根据每个区域的区域类型,就能够从预设程序库中调用到应用程序中每个区域的界面区域程序,减少了应用程序的界面显示程序的开发时间,而且预设程序库可以被重复使用,减少了应用程序的界面显示程序的开发成本。
示例性地,预设区域程序包括标记位置对应的第一填写位置和区域内容的第二填写位置,在获得标记坐标和预设区域程序之后,利用标记坐标修改第一填写位置处的代码,利用区域内容修改第二填写位置处的代码,得到初始界面区域程序。
示例性地,预设区域程序和初始界面区域程序还可以包括区域内容对应的第三填写位置,利用获得的每个区域的区域内容,修改初始界面区域程序中的第三填写位置出的代码,得到界面区域程序。
示例性地,当至少一个被标记的区域只包括一个被标记的区域时,将界面区域程序作为界面显示程序。
示例性地,至少一个被标记的区域中两个区域可以为布局和控件,当对应的子包含关系为控件属于布局时,数据处理装置根据该子包含关系,将该控件的界面区域程序嵌套在该布局的界面区域程序之后,该布局对应的布局类型代码之前;当该布局和该控件不存在子层级关系时,将该控件的界面区域程序和该布局的界面区域程序以任意顺序排列;其中,以对应的布局类型为LinearLayout的布局为例,该布局的布局类型代码可以为</LinearLayout>。
示例性地,界面显示程序包括可扩展标记语音(xml,eXtensible MarkupLanguage)格式的文件。
在一些实施例中,区域类型为布局类型或控件类型,控件类型包括文本控件和图像控件;当至少一个被标记的区域中一个区域对应的区域类型是文本控件时,数据处理装置对界面标记图像中一个区域的标记位置对应的图像进行文字识别,得到一个区域内的区域文字,将区域文字作为一个区域的区域内容;当一个区域对应的区域类型是图像控件时,对界面标记图像中一个区域的标记位置对应的图像进行图像提取,得到一个区域内的区域图像,将区域图像作为一个区域的区域内容;当一个区域对应的区域类型是布局类型时,对界面标记图像中一个区域的标记位置对应的图像进行背景识别,得到一个区域内的区域背景,将区域背景作为一个区域的区域内容;进而得到每个区域的区域内容。
数据处理装置得到每个区域的区域类型之后,以至少一个被标记的区域中的一个区域为例,当该区域的区域类型为文本控件时,通过文字识别得到该区域的区域内容;当该区域的区域类型为图像控件时,通过图像提取得到该区域的区域内容;当该区域的区域类型为布局类型时,通过背景识别得到该区域的区域内容;当该区域的区域类型不是文本控件、图像控件和布局类型时,或者,当文字识别失败、图像提取识别或背景识别失败时,从预设区域内容库中确定该区域的区域类型对应的预设区域内容,将预设区域内容作为该区域的区域内容;其中,预设区域内容库表征每种区域类型对应的预设区域内容。
示例性地,当该区域的区域类型为文本控件时,数据处理装置根据该区域的标记位置,对界面标记图像进行图像裁剪,保留界面标记图像中该区域的标记位置对应的图像,得到该区域的标记位置对应的区域图像;采用光学字符识别(OCR,Optical CharacterRecognition)算法,对区域图像进行文字识别,得到该区域的区域内容。
示例性地,数据处理装置根据OCR算法建立文字识别模型;再利用文字识别模型对区域图像进行文字识别,得到识别结果;或者,再利用文字识别模型对区域图像进行文字识别,得到模型识别结果,还采用后处理算法对模型识别结果进行优化,得到识别结果。
示例性地,在利用文字识别模型对区域图像进行文字识别之前,获取文字识别模型包括:(1)生成模拟数据:创建随机文字,通过字体引擎生成文字的文字图像,将文字图像与背景图像融合,得到文字对应的融合图像,其中,随机改变文字图像中的字体和大小、以及背景图像,生成大量的融合图像,将大量的融合图像作为模拟数据;(2)使用模拟数据训练卷积循环神经网络(CRNN,Convolutional Recurrent Neural Network)模型,得到一个预训练模型,CRNN模型由卷积神经网络(CNN,Convolutional Neural Network)、长短期记忆网络(LSTM,Long Short-Term Memory)和连接时序分类(CTC,connectionist temporalclassification)组成;(3)将具有真实性的融合图像作为调整数据,设置预训练模型的特征提取层参数保持不变,利用调整数据对预训练模型的学习率进行减小训练,将训练后的模型作为文字识别模型。
示例性地,当该区域的区域类型为图像控件时,数据处理装置根据该区域的标记位置,对界面标记图像进行图像裁剪,保留界面标记图像中该区域的标记位置对应的图像,得到该区域的标记位置对应的区域图像;将该区域图像作为该区域的区域内容。
示例性地,当该区域的区域类型为布局类型时,数据处理装置根据该区域的标记位置,对界面标记图像进行图像裁剪,保留界面标记图像中该区域的标记位置对应的图像,得到该区域的标记位置对应的区域图像;再将该区域图像作为该区域的区域背景,或者,再对该区域图像进行颜色识别,得到区域颜色,将区域颜色作为该区域的区域背景。
在一些实施例中,标记位置包括每个区域对应的标记框的定位点坐标;数据处理装置根据至少两个被标记的区域中每两个区域的定位点坐标,确定每两个区域对应的子包含关系,进而得到至少两个被标记的区域对应的包含关系。
数据处理装置在至少两个被标记的区域中依次取出两个区域,对每两个区域的定位点坐标进行大小比较,根据比较结果确定每两个区域对应的子包含关系,进而得到至少一个被标记的区域对应的包含关系。
在一些实施例中,标记框为方框,定位点坐标包括每个区域对应的方框的左上角坐标和右下角坐标,或者,定位点坐标包括每个区域对应的方框的左下角坐标和右上角坐标。
在一些实施例中,标记框为圆框,定位点坐标包括每个区域对应的圆框的圆心坐标和半径。
数据处理装置利用预设标记检测模块中的标记框检测模型,对界面标记图像进行标记框检测,得到至少两个被标记的区域中每个区域的定位点坐标;其中,标记框检测模型中设置了界面标记图像对应的坐标参考信息,坐标参考信息包括坐标原点、X坐标轴、X坐标轴正方向、Y坐标轴和Y坐标轴正方向;定位点坐标是以该坐标参考信息为参考确定出的坐标。
示例性地,数据处理装置可以在标记框检测模型中,设置以界面标记图像的左上角为坐标原点、以界面标记图像的上边框为X坐标轴、以向右的水平线为X坐标轴正方向、以界面标记图像的左边框为Y坐标轴、以及以向上的垂直线为Y坐标轴正方向,得到每个区域的左上角坐标和右下角坐标;其中,左上角坐标为(X1,Y1),X1为方框左上角和界面标记图像的左边框之间的距离,Y1为方框左上角和界面标记图像的上边框之间的距离;右下角坐标为(X2,Y2),X2为方框右下角和界面标记图像的左边框之间的距离,Y2为方框右下角和界面标记图像的上边框之间的距离;圆心坐标为(X3,Y3),X3为圆框的圆心和界面标记图像的左边框之间的距离,Y3为圆框的圆心和界面标记图像的上边框之间的距离。
示例性地,每两个区域包括一个区域和另一个区域,当一个区域的左上角坐标不大另一个区域的左上角坐标、且一个区域的右下角坐标不小于另一个区域的右下角坐标时,数据处理装置确定另一个区域属于一个区域,生成每两个区域的子包含关系,否则,确定一个区域和另一个区域不存在包含关系,不能生成子包含关系。
需要说明的是,在得到应用程序的界面显示程序之后,开发者还可以根据实际需求,对界面显示程序中任意一个区域的界面区域程序进行修改,得到更新后的界面显示程序;例如,可以修改布局的界面区域程序中布局类型,可以修改布局或控件的界面区域程序中的区域内容;用户需要在终端上打开应用程序时,先下载应用程序的安装包,该安装包包括应用程序的界面显示程序,当运行该应用程序时,终端基于该界面显示程序显示应用程序的界面设计图像;其中,在显示界面设计图像时,界面设计图像中控件的位置取决于控件所属布局的布局类型等。
需要说明的是,在步骤S202之前,该数据处理方法还包括:
S205:获取预设标记检测模型;
数据处理装置获取预设标记检测模型,用于对界面标记图像进行标记信息识别;其中,预设标记检测模型表征界面标记图像和标记信息的对应关系。
在一些实施例中,在利用预设标记检测模型,对界面标记图像进行标记识别,得到至少一个被标记的区域中每个区域的标记信息之前,数据处理装置获取历史应用程序的历史界面标记图像(历史页面标记图像);历史界面标记图像为符合预设标记信息和区域类型的对应关系的图像;历史界面标记图像包括至少一个被标记的历史区域;获取至少一个被标记的历史区域中每个历史区域的历史标记信息;利用历史界面标记图像和历史标记信息,对预设初始标记检测模型进行训练,直至训练后的预设初始标记检测模型的准确率不小于预设准确率阈值;将训练后的预设初始标记检测模型,作为预设标记检测模型。
数据处理装置获取至少一个历史应用程序的至少一个历史界面标记图像、以及至少一个被标记的历史区域中每个历史区域的历史标记信息,至少一个历史界面标记图像中每个历史界面标记图像包括至少一个被标记的历史区域;根据机器学习算法,建立预设初始标记检测模型;将历史界面标记图像作为输入数据,将对应的历史标记信息作为训练输出数据,利用输入数据和输入数据对预设初始标记检测模型进行训练,并计算训练后的预设初始标记检测模型的准确率;根据准确率和预设准确率阈值,调整训练后的预设初始标记检测模型的参数,直至准确率不小于预设准确率阈值。
在一些实施例中,历史标记信息包括历史标记位置和历史标记颜色;预设初始标记检测模型包括初始标记框检测模型和初始颜色检测模型;在利用历史界面标记图像和历史标记信息,对预设初始标记检测模型进行训练之前,采用基于深度学习的目标检测算法,建立初始标记框检测模型;初始标记框检测模型的第一输入为历史界面标记图像,初始标记框检测模型的第一输出为历史标记位置;采用颜色识别算法,建立初始颜色检测模型;初始颜色检测模型的第二输入为历史界面标记图像和历史标记位置,初始颜色检测模型的第二输出为历史标记颜色。
数据处理装置采用基于深度学习的目标检测算法建立初始标记框检测模型,采用颜色识别算法建立初始颜色检测模型;预设标记检测模型包括标记框检测模型和颜色检测模型,数据处理装置利用历史界面标记图像和历史标记位置,对初始标记框检测模型进行训练,直至训练后的初始标记框检测模型的准确率不小于预设准确率阈值;将训练后的初始标记框检测模型作为标记框检测模型;利用历史界面标记图像、历史标记位置和历史标记颜色,对初始颜色检测模型进行训练,直至训练后的初始颜色检测模型的准确率不小于预设准确率阈值;将训练后的初始颜色检测模型,作为颜色检测模型。
示例性地,至少一个被标记的历史区域为至少一个被有颜色的标记框所标记的历史区域,对应地,机器学习算法包括颜色识别算法和基于深度学习的目标检测算法,根据基于深度学习的目标检测算法建立初始标记框检测模型,根据颜色识别算法建立初始颜色检测模型,标记信息包括标记位置和标记颜色,初始标记框检测模型表征界面标记图像和标记位置的对应关系,初始颜色检测模型表征第二输入和第二输出的对应关系,第二输入包括界面标记图像和标记位置,第二输出包括标记颜色。
在一些实施例中,基于深度学习的目标检测算法包括YOLO(Your Olny LookOnce)算法、SSD(Single Shot Multibox Detector)算法、DSSD(Deconvolutional SingleShot Detector)算法、R-FCN(Region-based Fully Convolution Network)算法、FPN FRCN(feature pyramid networks Fast Region-CNN)算法、RetinaNet算法等。
示例性地,以YOLO算法为例,YOLO算法的目标检测流程包括:(1)将输入的界面标记图像划分为s*s个单元格;其中,如果一个标记框的中心落在某个单元格上,那么这个单元格负责预测这个标记框的坐标;(2)每个单元格预测B组包围框(boundingbox)数据,将每组包围框数据作为预测坐标,并为每个预测坐标预测一个置信度;其中,每个预测坐标为(a1,b1,w,h),a1为标记框左上角和格子的左边框之间的距离,b1为标记框左上角和格子的上边框之间的距离,h为标记框高度,w为标记框宽度;置信度使用Pr(Object)*IOUtruthpred计算,Pr(Object)表示是否有标记框落在网格里,Pr(Object)∈{0,1},IOUtruthpred表示预测的框和实际的框之间的重叠度(IOU,Intersection over Union)值;(3)每个单元格需要预测C个条件概率值,C等于区域类型的总个数;(4)根据每个单元格预测的B个置信度和C个条件概率值,从B个预测坐标中选择一个作为该标记框的目标坐标,再将目标坐标中的a1值加上宽度w,得到该标记框的右下角横坐标a2,将目标坐标中的b1值加上宽度h,得到该标记框的右下角纵坐标b2;(5)再以输入的界面标记图像的左上角为坐标原点、以界面标记图像的上边框为X坐标轴、以向右的水平线为X坐标轴正方向、以界面标记图像的左边框为Y坐标轴、以及以向上的垂直线为Y坐标轴正方向,对a1、b1、a2和b2进行归一化处理,得到该标记框的定位点坐标,即标记框的标记位置。
示例性地,s、B、C为正整数,s可以取值为7,B可以取值为2。
需要说明的是,YOLO算法包括YOLO v3算法,YOLO v3算法是速度和精度最均衡的目标检测网络,YOLO v3算法使用logistic分类器代替Softmax分类器,分类损失采用二元交叉熵损失(binary cross-entropy loss),使得对于目标存在重叠的类别标签的情况,也能够保证检测并保证检测的准确率;其次,YOLO v3采用上采样(Upsample)和融合做法,融合了3个尺度(13*13、26*26和52*52),在多个尺度的融合特征图上分别独立做检测,最终对于小目标的检测效果提升明显,并且,虽然在YOLO v3中每个网格预测2个边界框,看起来比YOLO v2中每个网格预测5个边界框要少,但因为YOLO v3采用了多个尺度的特征融合,所以边界框的数量要比之前多很多。
示例性地,分别采用第一SSD算法、第一DSSD算法、R-FCN算法、第二SSD算法、第二DSSD算法、FPN FRCN算法、第一RetinaNet算法、第二Retin aNet算法、第三RetinaNet算法、第一YOLO v3算法、第二YOLO v3算法、第三YOLO v3算法,对同一个检测对象进行目标检测,获取每个目标检测算法的平均精度均值(Mean Average Precision,mAP)和运行时间t,t的单位为毫秒,目标检测算法的mAP和t如图3所示,第一SSD算法对应点A、第一DSSD算法对应点B、R-FCN算法对应点C、第二SSD算法对应点D、第二DSSD算法对应点E、FPN FRCN算法对应点F、第一RetinaNet算法对应点G、第二Retin aNet算法对应点H、第三RetinaNet算法对应点I、第一YOLO v3算法对应点J、第二YOLO v3算法对应点K、第三YOLO v3算法对应点L;其中,第一、第二和第三仅仅用于表示同一个算法采用不同的参数值;目标检测算法的mAP和t如下表1所示:
表1
目标检测算法 mAP t
第一SSD算法 45.4 61
第一DSSD算法 46.1 85
R-FCN算法 51.9 85
第二SSD算法 50.4 125
第二DSSD算法 53.3 156
FPN FRCN算法 59.1 172
第一RetinaNet算法 50.9 73
第二RetinaNet算法 53.1 90
第三RetinaNet算法 57.5 198
第一YOLO v3算法 51.5 22
第二YOLO v3算法 55.3 29
第三YOLO v3算法 57.9 51
从图3或表1的数据可以看出,YOLO v3算法的平均精度均值较高,且运行时间都较短,也就是说,YOLO v3算法相较于其他目标检测算法,速度和精度是最均衡的,因此,可以根据YOLO v3算法建立初始标记框检测模型。
示例性地,颜色识别算法包括基于HSV颜色模型的颜色识别算法;基于HSV颜色模型的颜色识别算法的处理流程包括:获取界面标记图像和标记框的标记位置;根据标记位置,从界面标记图像中提取出每个区域的标记位置对应的区域图像;将区域图像转换为HSV颜色模型下的图像,获取转换后的区域图像的RGB(Red,Green,Blue)值;根据RGB值,确定区域图像的颜色,即每个区域的标记颜色。
示例性地,如图4所示,HSV颜色模型对应于圆柱坐标系中的一个圆锥形子集,圆锥顶面对应于V=1,其包含RGB模型中的R=1,G=1,B=1三个面,其所代表的颜色较亮;色调H由绕V轴的旋转角给定,红色对应于角度0°,绿色对应于角度120°,蓝色对应于角度240°,在HSV颜色模型中,每一种颜色和它的补色相差180°,其中,红色的补色是青色,绿色的补色是品红,蓝色的补色是黄色;饱和度S取值从0到1,所以圆锥顶面的半径为1。HSV颜色模型所代表的颜色域是国际照明委员会(CIE,Commission Internationale de L'Eclairage)色度图的一个子集,这个模型中饱和度为百分之百的颜色,其纯度一般小于百分之百;在圆锥的顶点(即原点)对应V=0、以及H和S无定义,代表黑色;圆锥的顶面中心点对应S=0、V=1,、以及H无定义,代表白色,从顶面中心点到原点代表亮度渐暗的灰色,即具有不同灰度的灰色。顶面中心点到原点连线上的点对应S=0、H无定义,可以说,HSV模型中的V轴对应于RGB颜色空间中的主对角线。在圆锥顶面的圆周上的点对应V=1和S=1,表示颜色是纯色。
示例性地,一种数据处理方法可以包括:
A1:数据处理装置获取应用程序的界面标记图像;界面标记图像包括至少一个被有颜色的方框所标记的区域,方框为预设宽度的方框;
数据处理装置获取预设标记信息和区域类型的对应关系;显示安卓系统的应用程序的界面设计图像和该对应关系;接收用户发出的基于该对应关系的标记指令,根据标记指令和界面设计图像,生成界面标记图像;其中,该对应关系可以包括:视频控件和C1颜色的对应关系、线性布局和C2颜色的对应关系、图像控件和C3颜色的对应关系、以及文本控件和C4颜色的对应关系等,C1颜色、C2颜色、C3颜色和C4颜色是完全不同的颜色。
示例性地,如图5所示,安卓系统的应用程序的界面设计图像4包括7个区域,7个区域包括区域41、区域42、区域43、区域44、区域45、区域46和区域47;如图6所示,基于该界面设计图像4生成的界面标记图像40,界面标记图像40为符合预设标记信息和区域类型的对应关系的图像,其中,区域41被C1颜色的方框41-1所标记,区域42被C2颜色的方框42-2所标记,区域43被C3颜色的方框43-3所标记,区域44被C4颜色的方框44-4所标记,区域45被C3颜色的方框45-3所标记,区域46被C4颜色的方框46-4所标记,区域47被C4颜色的方框47-4所标记。
需要说明的是,图6中的方框41-1、方框42-2、方框43-3、方框44-4、方框45-3、方框46-4和方框47-4,采用不同类型的线条仅用于表示方框的颜色的不同,采用同一个类型的线条表示方框的颜色相同;其中,C1颜色的方框41-1采用的线条表示为:
Figure BDA0001993768570000221
C2颜色的方框42-2采用的线条表示为
Figure BDA0001993768570000222
C3颜色的方框43-3和方框45-3采用的线条表示为:
Figure BDA0001993768570000223
C4颜色的方框44-4、方框46-4和方框47-4采用的线条表示为:
Figure BDA0001993768570000224
在实际应用中,不同颜色的方框的线条可以为相同的实线或虚线。
示例性,标记信息除了包括标记颜色,即采用不同的颜色表征不同的区别类型,标记信息中的标记颜色还可以变为标记线条或其他标记等,当标记信息中的标记颜色改变为标记线条或其他标记,预设标记信息和区域类型的对应关系、以及颜色检测模型相应地发生变化。
示例性地,以标记信息中的标记颜色变为标记线条为例,当标记信息中的标记颜色变为标记线条时,预设标记信息和区域类型的对应关系为预设标记线条和区域类型的对应关系,预设标记线条和区域类型的对应关系表征每种标记线条和每种布局类型的一一对应关系;颜色检测模型变为线条检测模型,线条检测模型表征界面标记图像和标记线条的对应关系。
示例性地,当至少一个被标记的区域为至少一个被不同的线条所标记的区域时,预设标记检测模型包括标记框检测模型和线条检测模型;数据处理装置利用标记框检测模型,对界面标记图像进行位置检测,得到标记位置;根据标记位置、界面标记图像和线条检测模型,得到每个区域的标记线条;进而根据每个区域的标记线条,从预设标记线条和区域类型的对应关系中,确定每个区域对应的区域类型。
A2:数据处理装置利用预设标记检测模型对界面标记图像进行标记识别,得到每个区域的标记信息;标记信息包括标记位置和标记颜色;
示例性地,利用预设标记检测模型对界面标记图像40进步标记识别,得到区域41的标记位置41-Z和C1颜色、区域42的标记位置42-Z和C2颜色、区域43的标记位置43-Z和C3颜色、区域44的标记位置44-Z和C4颜色、区域45的标记位置45-Z和C3颜色、区域46的标记位置46-Z和C4颜色。
示例性地,数据处理装置可以在预设标记检测模型中设置坐标参考信息,根据坐标参考信息得到每个区域的左上角坐标,根据第二坐标参考信息得到每个区域的右下角坐标;以区域43为例,区域43的标记位置43-Z包括方框43-3的左上角坐标(x1,y1)和右上角坐标(x2,y2);其中,x1为方框43-3的左上角和界面标记图像的左边框之间的距离,y1为方框43-3的左上角和界面标记图像的上边框之间的距离;右下角坐标为(x2,y2),x2为方框43-3的右下角和界面标记图像的左边框之间的距离,y2为方框43-3的右下角和界面标记图像的上边框之间的距离。
A3:数据处理装置根据标记颜色与预设标记信息和区域类型的对应关系,得到每个区域对应的区域类型;
示例性地,数据处理装置根据该对应关系和区域41的C1颜色,得到区域41对应的区域类型为视频控件;根据该对应关系和区域42的C2颜色,得到区域42对应的区域类型为线性布局;根据该对应关系和区域43的C3颜色,得到区域43对应的区域类型为图像控件;根据该对应关系和区域44的C4颜色,得到区域44对应的区域类型为文本控件;根据该对应关系和区域45的C3颜色,得到区域45对应的区域类型为图像控件;根据该对应关系和区域46的C4颜色,得到区域46对应的区域类型为文本控件。
A4:数据处理装置根据预设程序库、每个区域的标记坐标和每个区域对应的区域类型,得到每个区域的初始界面区域程序。
示例性地,以区域43为例,根据区域43对应的区域类型为图像控件,从预设程序库中,得到区域43的预设区域程序;再用区域43对应的方框43-3的左上角坐标(x1,y1)和右上角坐标(x2,y2),修改预设区域程序中对应的第一填写位置处的代码,得到区域43的初始界面区域程序,如下所示:
Figure BDA0001993768570000241
其中,ImageView表示区域43为图像控件,android:layout_gravity=”center”表示区域43在所属布局中居中,android:id=”@+id/back”表示为区域43分配专属的标识号码id,android:layout_marginLeft=”x1dp”表示x1,android:layout_marginTop=”y1dp”表示y1,android:layout_marginRight=”x2dp”表示x2,android:layout_marginBottom=”y2dp”表示y2。
A5:数据处理装置根据区域类型、标记位置和界面标记图像,得到每个区域的区域内容;根据初始界面区域程序和区域内容,得到每个区域的界面区域程序;当至少一个被标记的区域包括至少两个被标记的区域时,根据标记位置,得到至少两个被标记的区域对应的包含关系;根据包含关系,对界面区域程序进行组合,得到界面显示程序。
示例性地,区域44的区域内容为日期,区域46的区域内容为文字。
可以理解的是,数据处理装置基于应用程序的界面标记图像、预设标记信息和区域类型的对应关系,得到每个区域对应的区域类型,再根据界面标记图像、标记信息、区域类型和预设程序库,得到应用程序的界面显示程序,其中,由于预设程序库表征区域类型对应的区域程序,根据每个区域的区域类型,就能够从预设程序库中调用到应用程序中每个区域的界面区域程序,减少了应用程序的界面显示程序的开发时间,并且,只要设置可读性好和可移植性高的预设程序库,就能够提高应用程序的界面显示程序的可读性和可移植性,而且预设程序库可以被重复使用,减少了应用程序的界面显示程序的开发成本。
实施例二
基于本发明实施例一的同一发明构思,进行进一步的说明。
本发明实施例提供一种数据处理装置2,如图7所示,该装置2:图像获取单元20、标记识别单元21、类型确定单元22和程序生成单元23;其中,
图像获取单元20,用于获取应用程序的界面标记图像,界面标记图像包括至少一个被标记的区域;
标记识别单元21,用于利用预设标记检测模型,对界面标记图像进行标记识别,得到至少一个被标记的区域中每个区域的标记信息;预设标记检测模型表征界面标记图像和标记信息的对应关系,标记信息表征每个区域对应的标记特征;
类型确定单元22,用于根据预设标记信息和区域类型的对应关系,以及标记信息,得到每个区域对应的区域类型;
程序生成单元23,用于根据界面标记图像、标记信息、区域类型和预设程序库,得到应用程序的界面显示程序;预设程序库表征区域类型对应的区域程序。
在一些实施例中,至少一个被标记的区域为至少一个被有颜色的标记框所标记的区域;标记信息包括标记位置和标记颜色。
在一些实施例中,预设标记检测模型包括标记框检测模型和颜色检测模型;
标记识别单元21,具体用于利用标记框检测模型,对界面标记图像进行位置检测,得到标记位置;以及根据标记位置、界面标记图像和颜色检测模型,得到标记颜色。
在一些实施例中,区域类型为布局类型或控件类型,预设标记信息和区域类型的对应关系包括:预设第一标记颜色和控件类型的第一对应关系、以及预设第二标记颜色和布局类型的第二对应关系;
类型确定单元22,具体用于当一个区域的标记颜色与第一对应关系中的第一标记颜色匹配时,根据标记颜色和第一对应关系,得到一个区域对应的控件类型;一个区域属于至少一个被标记的区域;以及当一个区域的标记颜色与第二对应关系中的第二标记颜色匹配时,根据标记颜色和第二对应关系,得到一个区域对应的布局类型;进而得到每个区域对应的区域类型。
在一些实施例中,程序生成单元23,具体用于根据标记位置、区域类型和预设程序库,得到每个区域的初始界面区域程序;及根据区域类型、标记位置和界面标记图像,得到每个区域的区域内容;及根据初始界面区域程序和区域内容,得到每个区域的界面区域程序;及当至少一个被标记的区域包括至少两个被标记的区域时,根据标记位置,得到至少两个被标记的区域对应的包含关系;以及根据包含关系,对界面区域程序进行组合,得到界面显示程序。
在一些实施例中,区域类型为布局类型或控件类型,控件类型包括文本控件和图像控件;
程序生成单元23,具体用于当至少一个被标记的区域中一个区域对应的区域类型是文本控件时,对界面标记图像中一个区域的标记位置对应的图像进行文字识别,得到一个区域内的区域文字,将区域文字作为一个区域的区域内容;及当一个区域对应的区域类型是图像控件时,对界面标记图像中一个区域的标记位置对应的图像进行图像提取,得到一个区域内的区域图像,将区域图像作为一个区域的区域内容;以及当一个区域对应的区域类型是布局类型时,对界面标记图像中一个区域的标记位置对应的图像进行背景识别,得到一个区域内的区域背景,将区域背景作为一个区域的区域内容;进而得到每个区域的区域内容。
在一些实施例中,标记位置包括每个区域对应的标记框的定位点坐标;
程序生成单元23,具体用于根据至少两个被标记的区域中每两个区域的定位点坐标,确定每两个区域对应的子包含关系,进而得到包含关系。
在一些实施例中,标记框为方框,定位点坐标包括每个区域对应的方框的左上角坐标和右下角坐标,或者,定位点坐标包括每个区域对应的方框的左下角坐标和右上角坐标。
在一些实施例中,标记框为圆框,定位点坐标包括每个区域对应的圆框的圆心坐标和半径。
在一些实施例中,标记框检测模型包括网格坐标检测模型和置信度计算模型,网络坐标检测模型表征子单位网格和预测坐标的对应关系,置信度计算模型表征预测坐标和置信度的对应关系;
标记识别单元21,具体用于对界面标记图像进行网格划分,得到界面标记图像对应的至少一个单位网格;及将至少一个单位网格和每个区域进行匹配,得到每个区域对应的子单位网格;子单位网格属于至少一个单位网格;以及利用子单位网格、网格坐标检测模型和置信度计算模型,对每个区域进行位置检测,得到标记位置。
在一些实施例中,标记框为预设宽度的标记框;
标记识别单元21,具体用于从界面标记图像中提取标记位置对应的图像,得到每个区域的标记区域图像;以及利用颜色检测模型,对标记区域图像中符合预设宽度的目标区域进行颜色识别,得到标记颜色。
需要说明的是,在实际应用中,上述图像获取单元20、标记识别单元21、类型确定单元22和程序生成单元23,可由位于数据处理装置2上的处理器24实现,具体为CPU(Central Processing Unit,中央处理器)、MPU(Microprocessor Unit,微处理器)、DSP(Digital Signal Processing,数字信号处理器)或现场可编程门阵列(FPGA,FieldProgrammable Gate Array)等实现。
本发明实施例还提供了一种数据处理装置2,如图8所示,该装置2包括:处理器24、存储器25和通信总线26,存储器25通过通信总线26与处理器24进行通信,存储器25存储处理器24可执行的一个或者多个数据处理程序,当一个或者多个数据处理程序被执行时,通过处理器24执行如前述实施例所述的任意一种数据处理方法。
在实际应用中,存储器25可以是易失性第一存储器(volatile memory),例如随机存取第一存储器(Random-Access Memory,RAM);或者非易失性第一存储器(non-volatilememory),例如只读第一存储器(Read-Only Memory,ROM),快闪第一存储器(flashmemory),硬盘(Hard Disk Drive,HDD)或固态硬盘(Solid-State Drive,SSD);或者上述种类的第一存储器的组合,并向处理器24提供程序和数据。
本发明实施例提供了一种计算机可读存储介质,计算机可读存储介质存储有数据处理程序,当所述数据处理程序被处理器24执行时,实现所述处理器24执行前述实施例所述的任意一种数据处理方法。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。

Claims (24)

1.一种数据处理方法,其特征在于,所述方法包括:
获取应用程序的界面标记图像,所述界面标记图像包括至少一个被标记的区域;
利用预设标记检测模型,对所述界面标记图像进行标记识别,得到所述至少一个被标记的区域中每个区域的标记信息;所述预设标记检测模型表征界面标记图像和标记信息的对应关系,所述标记信息表征所述每个区域对应的标记特征;
根据预设标记信息和区域类型的对应关系,以及所述标记信息,得到所述每个区域对应的区域类型;
根据所述界面标记图像、所述标记信息、所述区域类型和预设程序库,得到所述应用程序的界面显示程序;所述预设程序库表征区域类型对应的区域程序。
2.根据权利要求1所述的方法,其特征在于,所述至少一个被标记的区域为至少一个被有颜色的标记框所标记的区域;所述标记信息包括标记位置和标记颜色。
3.根据权利要求2所述的方法,其特征在于,所述预设标记检测模型包括标记框检测模型和颜色检测模型;
所述利用预设标记检测模型,对所述界面标记图像进行标记识别,得到所述至少一个被标记的区域中每个区域的标记信息,包括:
利用所述标记框检测模型,对所述界面标记图像进行位置检测,得到所述标记位置;
根据所述标记位置、所述界面标记图像和所述颜色检测模型,得到所述标记颜色。
4.根据权利要求2所述的方法,其特征在于,所述区域类型为布局类型或控件类型,所述预设标记信息和区域类型的对应关系包括:预设第一标记颜色和控件类型的第一对应关系、以及预设第二标记颜色和布局类型的第二对应关系;
所述根据预设标记信息和区域类型的对应关系、以及所述标记信息,得到所述每个区域对应的区域类型,包括:
当一个区域的标记颜色与所述第一对应关系中的第一标记颜色匹配时,根据所述标记颜色和所述第一对应关系,得到所述一个区域对应的控件类型;所述一个区域属于所述至少一个被标记的区域;
当所述一个区域的标记颜色与所述第二对应关系中的第二标记颜色匹配时,根据所述标记颜色和所述第二对应关系,得到所述一个区域对应的布局类型;进而得到所述每个区域对应的区域类型。
5.根据权利要求2所述的方法,其特征在于,所述根据所述界面标记图像、所述标记信息、所述区域类型和预设程序库,得到所述应用程序的界面显示程序,包括:
根据所述标记位置、所述区域类型和所述预设程序库,得到所述每个区域的初始界面区域程序;
根据所述区域类型、所述标记位置和所述界面标记图像,得到所述每个区域的区域内容;
根据所述初始界面区域程序和所述区域内容,得到所述每个区域的界面区域程序;
当所述至少一个被标记的区域包括至少两个被标记的区域时,根据所述标记位置,得到所述至少两个被标记的区域对应的包含关系;
根据所述包含关系,对所述界面区域程序进行组合,得到所述界面显示程序。
6.根据权利要求5所述的方法,其特征在于,所述区域类型为布局类型或控件类型,所述控件类型包括文本控件和图像控件;
所述根据所述区域类型、所述标记位置和所述界面标记图像,得到所述每个区域的区域内容,包括:
当所述至少一个被标记的区域中一个区域对应的区域类型是所述文本控件时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行文字识别,得到所述一个区域内的区域文字,将所述区域文字作为所述一个区域的区域内容;
当所述一个区域对应的区域类型是所述图像控件时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行图像提取,得到所述一个区域内的区域图像,将所述区域图像作为所述一个区域的区域内容;
当所述一个区域对应的区域类型是所述布局类型时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行背景识别,得到所述一个区域内的区域背景,将所述区域背景作为所述一个区域的区域内容;进而得到所述每个区域的区域内容。
7.根据权利要求5所述的方法,其特征在于,所述标记位置包括所述每个区域对应的标记框的定位点坐标;
所述根据所述标记位置,得到所述至少两个被标记的区域对应的包含关系,包括:
根据所述至少两个被标记的区域中每两个区域的定位点坐标,确定所述每两个区域对应的子包含关系,进而得到所述包含关系。
8.根据权利要求7所述的方法,其特征在于,所述标记框为方框,所述定位点坐标包括所述每个区域对应的方框的左上角坐标和右下角坐标,或者,所述定位点坐标包括所述每个区域对应的方框的左下角坐标和右上角坐标。
9.根据权利要求7所述的方法,其特征在于,所述标记框为圆框,所述定位点坐标包括所述每个区域对应的圆框的圆心坐标和半径。
10.根据权利要求3所述的方法,其特征在于,所述标记框检测模型包括网格坐标检测模型和置信度计算模型,所述网络坐标检测模型表征子单位网格和预测坐标的对应关系,所述置信度计算模型表征预测坐标和置信度的对应关系;
所述利用所述标记框检测模型,对所述界面标记图像进行位置检测,得到所述标记位置,包括:
对所述界面标记图像进行网格划分,得到所述界面标记图像对应的至少一个单位网格;
将所述至少一个单位网格和所述每个区域进行匹配,得到所述每个区域对应的子单位网格;所述子单位网格属于所述至少一个单位网格;
利用所述子单位网格、所述网格坐标检测模型和所述置信度计算模型,对所述每个区域进行位置检测,得到所述标记位置。
11.根据权利要求3所述的方法,其特征在于,所述标记框为预设宽度的标记框;
所述根据所述标记位置、所述界面标记图像和所述颜色检测模型,得到所述标记颜色,包括:
从所述界面标记图像中提取所述标记位置对应的图像,得到所述每个区域的标记区域图像;
利用所述颜色检测模型,对所述标记区域图像中符合所述预设宽度的目标区域进行颜色识别,得到所述标记颜色。
12.一种数据处理装置,其特征在于,所述装置包括:图像获取单元、标记识别单元、类型确定单元和程序生成单元;其中,
所述图像获取单元,用于获取应用程序的界面标记图像,所述界面标记图像包括至少一个被标记的区域;
所述标记识别单元,用于利用预设标记检测模型,对所述界面标记图像进行标记识别,得到所述至少一个被标记的区域中每个区域的标记信息;所述预设标记检测模型表征界面标记图像和标记信息的对应关系,所述标记信息表征所述每个区域对应的标记特征;
所述类型确定单元,用于根据预设标记信息和区域类型的对应关系,以及所述标记信息,得到所述每个区域对应的区域类型;
所述程序生成单元,用于根据所述界面标记图像、所述标记信息、所述区域类型和预设程序库,得到所述应用程序的界面显示程序;所述预设程序库表征区域类型对应的区域程序。
13.根据权利要求12所述的装置,其特征在于,所述至少一个被标记的区域为至少一个被有颜色的标记框所标记的区域;所述标记信息包括标记位置和标记颜色。
14.根据权利要求13所述的装置,其特征在于,所述预设标记检测模型包括标记框检测模型和颜色检测模型;
所述标记识别单元,具体用于利用所述标记框检测模型,对所述界面标记图像进行位置检测,得到所述标记位置;以及根据所述标记位置、所述界面标记图像和所述颜色检测模型,得到所述标记颜色。
15.根据权利要求13所述的装置,其特征在于,所述区域类型为布局类型或控件类型,所述预设标记信息和区域类型的对应关系包括:预设第一标记颜色和控件类型的第一对应关系、以及预设第二标记颜色和布局类型的第二对应关系;
所述类型确定单元,具体用于当一个区域的标记颜色与所述第一对应关系中的第一标记颜色匹配时,根据所述标记颜色和所述第一对应关系,得到所述一个区域对应的控件类型;所述一个区域属于所述至少一个被标记的区域;以及当所述一个区域的标记颜色与所述第二对应关系中的第二标记颜色匹配时,根据所述标记颜色和所述第二对应关系,得到所述一个区域对应的布局类型;进而得到所述每个区域对应的区域类型。
16.根据权利要求13所述的装置,其特征在于,所述程序生成单元,具体用于根据所述标记位置、所述区域类型和所述预设程序库,得到所述每个区域的初始界面区域程序;及根据所述区域类型、所述标记位置和所述界面标记图像,得到所述每个区域的区域内容;及根据所述初始界面区域程序和所述区域内容,得到所述每个区域的界面区域程序;及当所述至少一个被标记的区域包括至少两个被标记的区域时,根据所述标记位置,得到所述至少两个被标记的区域对应的包含关系;以及根据所述包含关系,对所述界面区域程序进行组合,得到所述界面显示程序。
17.根据权利要求16所述的装置,其特征在于,所述区域类型为布局类型或控件类型,所述控件类型包括文本控件和图像控件;
所述程序生成单元,具体用于当所述至少一个被标记的区域中一个区域对应的区域类型是所述文本控件时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行文字识别,得到所述一个区域内的区域文字,将所述区域文字作为所述一个区域的区域内容;及当所述一个区域对应的区域类型是所述图像控件时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行图像提取,得到所述一个区域内的区域图像,将所述区域图像作为所述一个区域的区域内容;以及当所述一个区域对应的区域类型是所述布局类型时,对所述界面标记图像中所述一个区域的标记位置对应的图像进行背景识别,得到所述一个区域内的区域背景,将所述区域背景作为所述一个区域的区域内容;进而得到所述每个区域的区域内容。
18.根据权利要求16所述的装置,其特征在于,所述标记位置包括所述每个区域对应的标记框的定位点坐标;
所述程序生成单元,具体用于根据所述至少两个被标记的区域中每两个区域的定位点坐标,确定所述每两个区域对应的子包含关系,进而得到所述包含关系。
19.根据权利要求18所述的装置,其特征在于,所述标记框为方框,所述定位点坐标包括所述每个区域对应的方框的左上角坐标和右下角坐标,或者,所述定位点坐标包括所述每个区域对应的方框的左下角坐标和右上角坐标。
20.根据权利要求18所述的装置,其特征在于,所述标记框为圆框,所述定位点坐标包括所述每个区域对应的圆框的圆心坐标和半径。
21.根据权利要求14所述的装置,其特征在于,所述标记框检测模型包括网格坐标检测模型和置信度计算模型,所述网络坐标检测模型表征子单位网格和预测坐标的对应关系,所述置信度计算模型表征预测坐标和置信度的对应关系;
所述标记识别单元,具体用于对所述界面标记图像进行网格划分,得到所述界面标记图像对应的至少一个单位网格;及将所述至少一个单位网格和所述每个区域进行匹配,得到所述每个区域对应的子单位网格;所述子单位网格属于所述至少一个单位网格;以及利用所述子单位网格、所述网格坐标检测模型和所述置信度计算模型,对所述每个区域进行位置检测,得到所述标记位置。
22.根据权利要求14所述的装置,其特征在于,所述标记框为预设宽度的标记框;
所述标记识别单元,具体用于从所述界面标记图像中提取所述标记位置对应的图像,得到所述每个区域的标记区域图像;以及利用所述颜色检测模型,对所述标记区域图像中符合所述预设宽度的目标区域进行颜色识别,得到所述标记颜色。
23.一种数据处理装置,其特征在于,所述装置包括:处理器、存储器和通信总线,所述存储器通过所述通信总线与所述处理器进行通信,所述存储器存储所述处理器可执行的一个或者多个数据处理程序,当所述一个或者多个数据处理程序被执行时,通过所述处理器执行权利要求1至11任一项所述方法的步骤。
24.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有数据处理程序,当所述数据处理程序被处理器执行时,实现所述处理器执行权利要求1至11任一项所述方法的步骤。
CN201910188965.0A 2019-03-13 2019-03-13 一种数据处理方法及装置、存储介质 Active CN111694567B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910188965.0A CN111694567B (zh) 2019-03-13 2019-03-13 一种数据处理方法及装置、存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910188965.0A CN111694567B (zh) 2019-03-13 2019-03-13 一种数据处理方法及装置、存储介质

Publications (2)

Publication Number Publication Date
CN111694567A true CN111694567A (zh) 2020-09-22
CN111694567B CN111694567B (zh) 2024-10-18

Family

ID=72474867

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910188965.0A Active CN111694567B (zh) 2019-03-13 2019-03-13 一种数据处理方法及装置、存储介质

Country Status (1)

Country Link
CN (1) CN111694567B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114218141A (zh) * 2021-04-30 2022-03-22 无锡江南计算技术研究所 一种针对深度学习半精度算子数据访存对界处理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105930261A (zh) * 2016-01-16 2016-09-07 平安科技(深圳)有限公司 测试方法及测试终端
CN108008878A (zh) * 2017-12-04 2018-05-08 北京麒麟合盛网络技术有限公司 应用图标设置方法、装置及移动终端
CN108304243A (zh) * 2018-02-06 2018-07-20 中国平安人寿保险股份有限公司 界面生成方法、装置、计算机设备和存储介质
CN109117228A (zh) * 2018-08-01 2019-01-01 浙江口碑网络技术有限公司 图形界面的生成方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105930261A (zh) * 2016-01-16 2016-09-07 平安科技(深圳)有限公司 测试方法及测试终端
CN108008878A (zh) * 2017-12-04 2018-05-08 北京麒麟合盛网络技术有限公司 应用图标设置方法、装置及移动终端
CN108304243A (zh) * 2018-02-06 2018-07-20 中国平安人寿保险股份有限公司 界面生成方法、装置、计算机设备和存储介质
CN109117228A (zh) * 2018-08-01 2019-01-01 浙江口碑网络技术有限公司 图形界面的生成方法及装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114218141A (zh) * 2021-04-30 2022-03-22 无锡江南计算技术研究所 一种针对深度学习半精度算子数据访存对界处理方法
CN114218141B (zh) * 2021-04-30 2024-02-02 无锡江南计算技术研究所 一种针对深度学习半精度算子数据访存对界处理方法

Also Published As

Publication number Publication date
CN111694567B (zh) 2024-10-18

Similar Documents

Publication Publication Date Title
US10803359B2 (en) Image recognition method, apparatus, server, and storage medium
CN102831568B (zh) 一种生成验证码图片的方法和装置
CN112926565B (zh) 图片文本的识别方法、系统、设备和存储介质
WO2019099428A1 (en) Instance segmentation
CN111178355B (zh) 印章识别方法、装置和存储介质
CN105009146A (zh) 提供机器可读数据矩阵代码的图像掩码
KR102472821B1 (ko) 혼합 조판 문자를 인식하는 방법, 기기, 칩 회로 및 컴퓨터 프로그램 제품
CN109815948B (zh) 一种复杂场景下的试卷分割算法
US11741685B2 (en) Commodity identification device, non-transitory computer-readable storage medium, and learning method
CN105426944A (zh) 方形点阵防伪标签组、以及对其进行识读的方法与系统
CN113989484A (zh) 古籍的文字识别方法、装置、计算机设备及存储介质
CN103946865A (zh) 用于有助于检测图像内的文本的方法和装置
CN111694567B (zh) 一种数据处理方法及装置、存储介质
CN113808004B (zh) 图像变换装置、图像变换方法以及图像变换用计算机程序
CN105247543A (zh) 光学编码
US20160358039A1 (en) Apparatus and method for detecting object
CN113807315B (zh) 一种构建待识别对象识别模型的方法、装置、设备及介质
US12118808B2 (en) Image generation method, computing device, and storage medium
US20220092448A1 (en) Method and system for providing annotation information for target data through hint-based machine learning model
CN101365043B (zh) 点阵级像素点校色方法及装置
CN113095147A (zh) 皮肤区域检测方法、系统、图像处理终端和存储介质
CN113052176A (zh) 一种字符识别模型训练方法、装置及系统
CN112884740A (zh) 一种图像检测方法、装置、电子设备及存储介质
CN118397634B (zh) 一种地面电站数字孪生建模标记方法、系统、设备及介质
US20220301327A1 (en) Information processing device, information processing method, and non-transitory computer readable storage medium

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 100176 601, 6th floor, building 2, No. 18, Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing

Applicant after: Jingdong Technology Information Technology Co.,Ltd.

Address before: 100176 601, 6th floor, building 2, No. 18, Kechuang 11th Street, Daxing Economic and Technological Development Zone, Beijing

Applicant before: BEIJING HAIYI TONGZHAN INFORMATION TECHNOLOGY Co.,Ltd.

SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant