CN107615251B - 信息处理装置、信息处理方法及存储介质 - Google Patents

信息处理装置、信息处理方法及存储介质 Download PDF

Info

Publication number
CN107615251B
CN107615251B CN201680032178.1A CN201680032178A CN107615251B CN 107615251 B CN107615251 B CN 107615251B CN 201680032178 A CN201680032178 A CN 201680032178A CN 107615251 B CN107615251 B CN 107615251B
Authority
CN
China
Prior art keywords
image
solution
target
determination
program
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680032178.1A
Other languages
English (en)
Other versions
CN107615251A (zh
Inventor
柏村拓哉
石川真也
坂井麻里惠
横山甲
下田修
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NS Solutions Corp
Original Assignee
NS Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NS Solutions Corp filed Critical NS Solutions Corp
Publication of CN107615251A publication Critical patent/CN107615251A/zh
Application granted granted Critical
Publication of CN107615251B publication Critical patent/CN107615251B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00002Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for
    • H04N1/00005Diagnosis, testing or measuring; Detecting, analysing or monitoring not otherwise provided for relating to image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/412Layout analysis of documents structured with printed lines or input boxes, e.g. business forms or tables
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/414Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40Document-oriented image-based pattern recognition
    • G06V30/41Analysis of document content
    • G06V30/418Document matching, e.g. of document images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00567Handling of original or reproduction media, e.g. cutting, separating, stacking
    • H04N1/0066Aligning or positioning related to handling

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • General Engineering & Computer Science (AREA)
  • Debugging And Monitoring (AREA)

Abstract

具有:第一获取单元,其获取对应于成为测试对象的对象程序的执行而显示在显示单元中的第一图像;对象图像提取单元,其基于确定包含于第一图像并与正解图像对应的局部图像的第一确定信息,从第一图像将局部图像作为对象图像提取;判定单元,其判定对象图像与正解图像是否一致;以及显示处理单元,其显示判定单元的判定结果。

Description

信息处理装置、信息处理方法及存储介质
技术领域
本发明涉及信息处理装置、信息处理方法及存储介质。
背景技术
近年,随着GUI的充实,计算机程序的执行结果通过图像进行输出的技术为人们所知。另外,至今,在进行计算机的系统开发等时,进行用于确认系统是否正常工作的测试。执行测试存在下述问题:用于测试的准备、测试实施、结果确认等对测试管理者造成负担。因此,在近年,通过图像比较来进行简易测试。专利文献1中公开了一种通过图像比较来验证计算机程序的执行结果的技术。专利文献1的技术中,从通过执行计算机程序而生成的两个图像分别将指定的掩膜区域除外后进行图像比较,显示比较结果。
现有技术文献
专利文献
专利文献1:日本特开2009-134406号公报
发明内容
发明要解决的课题
但是,也可以假设有下述情况:通过测试对象程序而显示的图像中的局部图像与通过正解程序而显示的图像中的局部图像一致,但是其显示位置不同。在这种情况下,有时希望将局部图像视为一致,判定为程序在正常工作。
本发明鉴于这种问题,目的在于适当地执行对包括涉及图像描绘的描述的程序的验证。
用于解决课题的手段
因此,本发明是一种信息处理装置,具有:第一获取单元,其获取对应于成为测试对象的对象程序的执行而显示在显示单元中的第一图像;对象图像提取单元,其基于确定包含于所述第一图像并与正解图像对应的局部图像的第一确定信息,从所述第一图像将所述局部图像作为对象图像提取;判定单元,其判定所述对象图像与所述正解图像是否一致;以及显示处理单元,其显示所述判定单元的判定结果。
发明效果
根据本发明,能适当地执行对包括涉及图像描绘的描述的程序的验证。
附图说明
图1是表示测试装置的硬件构成的图。
图2是表示验证处理的流程图。
图3是正解程序及对象程序的执行所涉及处理的说明图。
图4是表示测试结果的显示例的图。
图5是表示测试结果的其他显示例的图。
图6A是表示采用边缘检测情况下的测试结果的显示例的图。
图6B是表示采用边缘检测情况下的测试结果的显示例的图。
图7是判定条件的说明图。
图8A是判定条件的说明图。
图8B是判定条件的说明图。
图9是判定条件的说明图。
图10A是判定条件的说明图。
图10B是判定条件的说明图。
图11是判定条件的说明图。
图12是表示第二实施方式涉及的验证处理的流程图。
图13是表示第三实施方式涉及的验证处理的流程图。
图14是表示正解局部图像群和对象局部图像群的一例的图。
具体实施方式
以下,基于附图说明本发明的实施方式。
本实施方式涉及的测试装置100是对测试对象程序是否正常工作进行测试(验证)的装置。以下,将测试对象程序称为对象程序。测试装置100分别执行针对对象程序预先准备的正解程序及对象程序,对由各程序得到的图像进行比较。此时,不是对由各程序得到的图像整体进行比较,而是以局部图像单位进行图像比较。而且,在例如以版本升级后的程序为对象程序的情况下,测试装置100能将版本升级前的程序用作正解程序。而且,作为本实施方式涉及测试装置100测试对象的对象程序和与其对应的正解程序包括显示图像的处理。
图1是表示作为信息处理装置的测试装置100的硬件构成的图。测试装置100具有CPU101、ROM102、RAM103、HDD104、显示部105、输入部106。CPU101读出ROM102中存储的控制程序来执行各种处理。RAM103用作CPU101的主存储器、临时存储区域。HDD104存储图像数据、各种程序等各种信息。显示部105显示各种信息。输入部106具有键盘、鼠标,受理用户进行的各种操作。而且,后述的测试装置100的功能、处理通过由CPU101读出ROM102或者HDD104中存储的程序并执行该程序来实现。
图2是表示测试装置100进行的验证处理的流程图。此处,验证处理是通过由测试装置100的计算机执行验证程序而实现的处理。S200中,CPU101开始执行对象程序及正解程序。而且,CPU101在例如经由输入部106从用户受理了开始指示的情况下开始执行对象程序及正解程序。
对象程序及正解程序包括涉及图像描绘的描述,涉及该描述的描绘命令的执行通过浏览器应用(以下,简称为浏览器)来进行。即,CPU101通过执行对象程序来利用浏览器在显示部105显示图像。同样,CPU101通过执行正解程序来利用浏览器在显示部105显示图像。以下,将通过执行对象程序而描绘、显示的图像称作对象整体图像。另外,将通过执行正解程序而描绘、显示的图像称作正解整体图像。而且,对象程序及正解程序的执行时机并不受限制,可以先执行某一方,也可同时执行。
图3是正解程序及对象程序的执行所涉及的处理的说明图。正解程序300被执行后,浏览器解释正解程序300中的HTML文本310,向OS(操作系统)发送描绘命令。对此,OS描绘HTML文本310所对应的图像,即正解整体图像320。图3的例子中,正解整体图像320包括局部图像321、322、323。此处,局部图像321、322、323是对应于HTML文本310中与图像ID“001”、“002”、“003”对应的描述311、312、313而描绘的图像。
同样,对象程序330被执行后,浏览器解释对象程序330中的HTML文本340,向OS(操作系统)发送描绘命令。对此,OS描绘HTML文本340所对应的图像,即对象整体图像350。图3的例子中,对象整体图像350包括局部图像351、352、353。此处,局部图像351、352、353是对应于HTML文本340中与图像ID“001”、“002”、“003”对应的描述341、342、343描绘的图像。
进一步,在本实施方式中,在验证程序中预先定义有正解整体图像及对象整体图像中成为验证对象、即比较对象的局部图像。本实施方式中,在验证程序中定义有图像ID,作为用于确定验证对象的局部图像的信息、即确定信息。这意味着,根据与图像ID对应的描述所描绘的局部图像被设定为验证对象。例如,如图3所示,在验证程序中定义了图像ID“001”、“003”的情况下,正解整体图像中的局部图像321、323及对象整体图像中的局部图像351、353分别成为验证对象的局部图像。而且,以下将正解整体图像中的验证对象的局部图像称作正解局部图像,将对象整体图像中的验证对象的局部图像称作对象局部图像。
进一步,由同一图像ID确定的正解局部图像和对象局部图像成为比较对象、即两图像是否一致的判定对象的组。即,图3的例子中,正解局部图像321和对象局部图像351成为一组,正解局部图像323和对象局部图像353成为一组。而且,正解局部图像及对象局部图像的图像单位不限定为实施方式。例如,可以以局部图像321和局部图像322合为一体而得到的图像作为一个正解局部图像而在验证程序中进行定义。
本实施方式中,以下述情况为例进行说明:在正解程序及对象程序中,正解局部图像和应与该正解局部图像等同的对象局部图像被分配了同一图像ID。但是,还存在下述情况,需要通过比较对应了不同图像ID的正解局部图像和对象局部图像来进行验证。该情况下,对象程序的制作者或验证者等在验证程序中作为正解局部图像及对象局部图像而定义不同图像ID即可。另外,本实施方式中,对象局部图像及正解局部图像为成为比较对象的图像,分别为对象图像及正解图像的一例。另外,图像ID是识别图像的识别符的一例。
返回图2,CPU101在S200的处理之后使处理进入S201。S201中,CPU101将显示部105中显示的正解整体图像的截屏及对象整体图像的截屏分别作为正解整体图像及对象整体图像来获取。
接着,S202中,CPU101从正解整体图像将通过验证程序中定义的图像ID而确定的局部图像作为正解局部图像来提取(正解图像提取处理)。同样地,CPU101从对象整体图像将通过验证程序中定义的图像ID而确定的局部图像作为对象局部图像来提取(对象图像提取处理)。
以下,详细叙述从正解整体图像提取正解局部图像的处理。针对浏览器,CPU101指定图像ID来查询正解局部图像的位置及大小。对此,浏览器再次执行正解程序的描绘命令,确定基于与指定的图像ID对应的HTML文本的描述所描绘的区域的位置及大小。另外,此处确定的位置及大小的坐标系与S201中获取的截屏上的位置及大小的坐标系一致。另外,浏览器确定长方形或者正方形区域作为正解局部图像区域。然后,作为表示所确定的位置及大小的信息,浏览器向CPU101返回表示正解局部图像区域的左上顶点和纵向及横向长度的信息。CPU101基于从浏览器接受的位置及大小,从S201中获取的正解整体图像提取正解局部图像。
例如,图3的例子中,针对浏览器,CPU101进行指定了图像ID“001”、“003”的查询,浏览器确定根据图像ID“001”、“003”对应的正解程序的描述311、313所描绘的局部图像321、323的区域,来确定各局部图像321、323的区域的位置及大小,并将其返回CPU101。然后,CPU101从正解整体图像320提取局部图像321、323。
此外,表示正解局部图像区域的位置及大小的信息不限定于实施方式。作为其他例子,局部图像信息可以为表示对顶点(2点)的位置的信息。另外,浏览器作为描绘了正解局部图像的区域而确定的区域的形状不限定于实施方式。作为其他例子,浏览器可以确定圆形、三角形区域作为正解局部图像区域。浏览器在确定了圆形区域的情况下,作为表示其位置及大小的信息,可向CPU101返回表示圆的中心位置和半径的信息。另外,浏览器在确定了三角形区域的情况下,作为表示其位置及大小的信息,可向CPU101返回表示3点的位置的信息。
以上,说明了S202中从正解整体图像提取正解局部图像的处理,从对象整体图像提取对象局部图像的处理与从正解整体图像提取正解局部图像的处理相同。
这样,CPU101以验证程序中所定义的图像ID为检索关键词,将根据正解程序的HTML文本的描述中与图像ID对应的描述所描绘的局部图像(区域)作为正解局部图像提取。同样地,CPU101以验证程序中所定义的图像ID为检索关键词,将根据对象程序的HTML文本的描述中与图像ID对应的描述所描绘的局部图像(区域)作为对象局部图像提取。因此,即使在对象整体图像中对象局部图像的位置与正解整体图像中正解局部图像的位置不同的情况下,测试装置100也能准确提取彼此对应的局部图像。
返回图2,S202的处理之后,在S203中,CPU101选择一组S202中提取的、与同一图像ID对应的对象局部图像和正解局部图像。图3的例子中,例如,正解局部图像321与对象局部图像351作为一组被选择。接着,S204中,CPU101比较S203中选择的对象局部图像与正解局部图像,判定两图像是否一致。然后,在两图像一致的情况下(S204中为是),CPU101使处理进入S206。在两图像不一致的情况下(S204中为否),CPU101使处理进入S205。
CPU101对两图像相对应的每个像素的像素值分别进行比较,基于比较结果判定两图像是否一致。在比较每个像素的像素值时如果像素值的差未达到阈值,则CPU101判定为两像素一致,在相对应的全部像素的像素值一致的情况下判定为两图像一致。还存在即使像素值产生某种程度差也可以视为一致的情况。这种情况下,可以将阈值设定为较大值。这样,用于判定两图像一致的基准能对应于用户所要求的结果而自由设定。
另外,作为其他例子,CPU101可以在判定为两像素一致的像素数为阈值以上的情况下判定为两图像一致。另外,作为其他例子,CPU101可以在比较像素值之前进行正解局部图像及对象局部图像的去噪。
S205中,CPU101对对象局部图像中与正解局部图像不一致的不一致部分实施强调处理。同样地,CPU101对正解局部图像中与所对应的对象局部图像不一致的不一致部分实施强调处理。本实施方式中,CPU101重叠显示包围不一致部分的强调框。其中,强调处理可以为下述处理:为了使用户能容易确定不一致部分,而变更为与其他部分可区分的显示形态。具体处理不限定于实施方式。作为强调显示的其他例子可列举变更不一致部分的显示色的处理。
接着,S206中,CPU101针对S202中提取的对象局部图像与正解局部图像的全部组确认S204、S205的处理是否已经完成。在全部组的处理已经完成的情况下(S206中为是),CPU101使处理进入S207。在存在未处理的组的情况下(S206中为否),CPU101使处理进入S203。该情况下,S203中,CPU101选择未处理的组,继续进行后续处理。
S207中,CPU101将判定结果作为测试结果进行显示(显示处理)。本实施方式中,在检测到不一致部分的情况下,CPU101显示强调处理后的对象整体图像及正解整体图像作为测试结果。另外,在未检测到不一致部分的情况下,CPU101显示未进行强调处理的对象整体图像及正解整体图像作为测试结果。而且,CPU101在S207中能显示用户可识别对象局部图像中不一致部分的图像即可,例如,可仅显示对象局部图像和正解局部图像。另外,作为其他例子,CPU101可以仅显示对象局部图像,或者仅显示表示不一致部分的对象局部图像。另外,作为其他例子,可以在显示对象整体图像及正解整体图像的同时,显示对象局部图像及正解局部图像双方。
图4是表示测试结果的显示例的图。显示部105中显示表示测试结果的测试结果画面400。在测试结果画面400的左侧显示有正解整体图像410,在测试结果画面400的右侧显示有对象整体图像420。图4的例子中,检测到了三处不一致部分,在各个不一致部分重叠显示有强调框。正解整体图像410中的强调框411和对象整体图像420的强调框421相对于所对应的不一致部分重叠。强调框411、421所对应的区域中,两图像间</button>的字体不同。正解整体图像410中还显示有强调框412、413,对象整体图像420中显示有与强调框412、413分别对应的强调框422、423。在与强调框412、422对应的区域,“内容内的按钮”的位置不同。另外,不同点还在于,与强调框412对应的区域中的“内容外的按钮”不存在于强调框422所对应的区域中。另外,强调框413、423所对应的区域中,在强调框413所对应的区域中显示有“在此处”,而在强调框423所对应的区域中显示有“此处此”,这一点上两图像不同。这样,由于显示强调框,因此用户能容易地确定不一致部分。
图5是表示测试结果的其他显示例的图。显示部105中显示表示测试结果的测试结果画面500。测试结果画面500上重叠显示有能对应于用户操作而左右移动的移动条501。而且,在移动条501的右侧显示对象整体图像520,在移动条501的左侧显示正解整体图像510。图5的显示例中,通过移动移动条501,不移动视线就能确认正解整体图像510与对象整体图像520的不一致内容。而且,测试结果画面500中,对不一致部分也重叠显示有强调框。
如上,本实施方式涉及的测试装置100能以局部图像单位进行从对象程序得到的对象图像与正解图像的比较。因此,即使在正解整体图像中正解局部图像的位置与对象整体图像中对象局部图像的位置不同,而正解局部图像与对象局部图像一致的情况下,也能判定为两图像一致。根据不同测试情形,还存在只要相对应的正解局部图像与对象局部图像的图像彼此一致,即使位置存在偏差,也希望判定为图像一致的情况。本实施方式中,在这样的情形下,不论位置如何,都能通过对图像彼此进行比较来进行一致不一致的判定。
作为本实施方式涉及的测试装置100的第一变更例,在S204中,CPU101可以取代比较像素值,而是进行从正解局部图像及对象局部图像分别检测到的边缘的比较。具体地,CPU101在对象局部图像及正解局部图像分别进行边缘检测,得到两个边缘图像。此处,边缘图像是指,表示从图像检测到的边缘的图像。然后,CPU101比较两个边缘图像,可以在两图像一致的情况下,判定为对象局部图像与正解局部图像一致。
图6A、图6B是表示采用了边缘检测的情况下的测试结果的显示例的图。如图6A、图6B所示,重叠显示两个边缘图像。由此,在两个边缘图像中,边缘一致的部分显示为一个边缘图像,边缘不一致的部分显示各自的边缘图像。因此,用户能容易地确定不一致部分。并且,CPU101可以使一致部分的边缘的显示色为黑色,使不一致部分中正解整体图像的边缘的显示色为蓝色,使不一致部分中对象整体图像的边缘的显示色为红色。由此,能更加明确表示出一致部分和不一致部分。
作为第三变更例,在验证程序中,作为验证对象的正解局部图像及对象局部图像的确定信息,可取代图像ID而定义在HTML文本的构造中的位置。此处,HTLM文本是构造化文档的一例。该情况下,CPU101指定在HTML文本的构造中的位置来查询正解局部图像及对象局部图像的位置及大小。对此,浏览器确认基于所指定的位置的描述而描绘的区域的位置及大小。然后,浏览器可向CPU101返回表示所确定的位置及大小的信息。对象局部图像也同样。
作为第四变更例,CPU101可以不在每次执行对象程序时执行对应的正解程序。例如,在正解程序已经被执行,获取了正解整体图像,提取了正解局部图像的情况下,CPU101可以在验证处理中仅执行对象程序,进行对象整体图像的获取、对象局部图像的提取。
作为第五变更例,与对象局部图像相比较的图像不限定于局部图像。例如,在通过执行对象程序来验证能够显示特定图像的情况下,可比较预先准备的特定图像和从对象整体图像提取的对象局部图像。即,该情况下,特定图像(整体图像)成为正解图像。
(第二实施方式)
接着说明第二实施方式涉及的测试装置100。第二实施方式涉及的测试装置100在比较对象局部图像与正解局部图像时具有用于判定两图像一致的多个判定条件,能针对每个对象局部图像根据不同判定条件判定两图像的一致不一致。以下,说明第二实施方式涉及的测试装置100不同于第一实施方式涉及的测试装置100之处。
首先,说明第二实施方式涉及的测试装置100能适用的判定条件。本实施方式涉及的测试装置100能将以下所示的判定条件分配给对象局部图像。
第一个判定条件为,如第一实施方式中说明的那样,在成组的对象局部图像与正解局部图像整体上一致的情况下,判定为两图像一致。此外,如第一实施方式中说明的那样,测试装置100还能设定用于判定为一致的条件(例如,判定为一致的像素值的差的阈值等)不同的判定条件。
第二个判定条件为,在对象整体图像中,在一个对象局部图像进行滚动显示的情况下,对通过滚动显示实现的对象局部图像整体与正解局部图像进行比较,判定两图像是否一致。图7是第二个判定条件的说明图。这样,在对象局部图像不能从一个对象整体图像得到的情况下,CPU101从显示有对象局部图像“c”的一部分、即“c1”的对象整体图像700提取“c1”部分。另外,CPU101从显示有对象局部图像“c”的“c1”以外的部分、即“c2”的对象整体图像710提取“c2”部分。然后,CPU101通过将提取的部分结合来得到对象局部图像“c”。
此外,在正解整体图像中,在一个正解局部图像进行滚动显示的情况下,测试装置100还能设定对通过滚动显示实现的正解图像整体与对象局部图像进行比较的判定条件。另外,在正解整体图像及对象整体图像进行滚动显示的情况下,测试装置100还能设定对通过滚动显示实现的正解局部图像的整体与对象局部图像的整体进行比较的判定条件。
第三个判定条件为,在对象局部图像的一部分与正解局部图像一致的情况下,判定为两图像一致。第三个判定条件之一为,在对象局部图像中除下侧区域之外的区域与所对应的正解局部图像一致的情况下,判定为两图像一致。图8A及图8B是该判定条件的说明图。这样,对象局部图像“d”随着其他局部图像e在纵向放大而放大。该情况下,对象局部图像“d”被描绘在区域820,其下方的区域821成为余白。该情况下,CPU101对正解局部图像“D”与对象局部图像“d”的各像素从上向下依次比较,在与正解局部图像“D”的全部像素的比较结束的时间点,判定两图像是否一致。由此,即使为在下侧产生了大小未知的余白的情况,也能通过比较对象局部图像“d”与正解局部图像“D”来判定两图像是否一致。
此外,在对象局部图像的上部、右侧、左侧产生余白的情况下,不论这些余白的大小如何,测试装置100都能设定判定两图像是否一致的判定条件。
另外,相反地存在以下情况,在正解局部图像中包括余白,而在所对应的对象局部图像中,余白消失。对应于这种情况,在正解局部图像的上部、右侧、左侧产生余白的情况下,不论这些余白的大小如何,CPU101都能设定判定两图像是否一致的判定条件。
第四个判定条件为,在两个对象局部图像间余白的大小变化的情况下,在除去余白后将两个对象局部图像与所对应的正解局部图像进行比较,来判定是否一致。图9是第四个判定条件的说明图。随着正解整体图像900中的正解局部图像“F”与“G”间的余白在对象整体图像910中从正解局部图像“H”放大为对象局部图像“h”,正解局部图像“F”与“G”间的余白901放大为余白911。该情况下,测试装置100也在除去余白(修整)后比较正解局部图像“F”和“G”的图像与对象局部图像“f”和“g”的图像。由此,能进行忽略余白的一致判定。
第五个判定条件为,即使正解局部图像与对象局部图像的一部分区域不一致也判定为两图像一致。图10A及图10B是第五个判定条件的说明图。在正解局部图像1000的区域“J”和与其对应的对象局部图像的1010的区域“j”中,在每次执行程序时显示不同信息,例如登录日期和时间等。该情况下,CPU101将这些区域“J”和区域“j”作为掩膜区域,在掩膜区域以外的正解局部图像“I”与对象局部图像“i”一致的情况下,判定为两图像一致。而且,与对象局部图像等同样地,使掩膜区域在程序中与图像ID对应。因此,CPU101通过向浏览器进行查询能够确定掩膜区域。此外,作为其他例子,CPU101可以在使掩膜区域“J”、“j”的像素都为黑色像素等相同像素后进行包括掩膜区域的正解局部图像“I”与对象局部图像“i”的一致判定。
第六个判定条件为,在掩膜区域的大小变化的情况下,在除去掩膜区域后,对对象局部图像与正解局部图像进行比较。图11是第六个判定条件的说明图。正解整体图像1100的正解局部图像“K”的掩膜区域“L”所对应的对象整体图像1110的掩膜区域“l”随着局部图像“m”向纵向放大而放大。该情况下,测试装置100比较从正解局部图像“K”除去掩膜区域“L”的部分与从对象局部图像“k”除去掩膜区域“l”的部分。由此,能进行忽略掩膜区域的一致判定。测试装置100如上述那样对于掩膜区域也以图像ID为关键词确定其区域,因此像这样在掩膜区域的大小发生了变化的情况下,也能准确确定大小变化后的掩膜区域。
本实施方式涉及的测试装置100中,针对对象局部图像,能以对象整体图像单位设定上述判定条件中的一个判定条件。另外,测试装置100能针对对象整体图像所包含的多个对象局部图像分别设定不同判定条件。而且,在执行验证处理之前,假设对各对象局部图像已经设定完成了判定条件。另外,对各对象局部图像设定判定条件例如如下进行,对应于用户操作,由CPU101对应于图像ID将判定条件记录在例如ROM102中来进行。另外,作为其他例子,可以在验证程序中对应于作为验证对象的确定信息的图像ID定义有判定条件。
图12是表示第二实施方式涉及的测试装置100进行的验证处理的流程图。而且,对与第一实施方式涉及的验证处理(图2)的各处理相同的处理附加同一编号。S203中,在选择局部图像的组之后,CPU101使处理进入S1200。然后,在S1200中,CPU101确定针对所选择的对象局部图像而设定的判定条件。之后,CPU101使处理进入S204。然后,在S204中,CPU101根据S1200中确定的判定条件,判定两图像是否一致。而且,第二实施方式涉及的测试装置100的这之外的构成及处理与第一实施方式涉及的测试装置100的构成及处理相同。如上,第二实施方式涉及的CPU101根据不同判定条件分别判定多个对象局部图像是否与正解局部图像一致。
(第三实施方式)
接着,说明第三实施方式涉及的测试装置100。第三实施方式涉及的测试装置100中执行的验证程序中,作为验证对象的确定信息定义有类别。而且,CPU101提取正解局部图像群,该正解局部图像群包括根据对象程序的HTML文本的描述中与验证程序中定义的类别对应的描述所描绘的多个正解局部图像。同样地,CPU101提取对象局部图像群,该对象局部图像群包括根据对象程序的THML文本的描述中与验证程序中定义的类别对应的描述所描绘的多个对象局部图像。此处,类别是属性的一例。以下,说明第三实施方式涉及的测试装置100不同于其他实施方式涉及的测试装置100之处。
图13是表示第三实施方式涉及的测试装置100进行的验证处理的流程图。此外,对与第一实施方式涉及的验证处理(图2)的各处理相同的处理附加同一编号。在S201的处理之后,CPU101使处理进入S1300。在S1300中,CPU101从正解整体图像提取通过预定类别所确定的局部图像作为正解局部图像。CPU101另外从对象整体图像提取由与提取正解局部图像时参照的类别为同一类别所确定的局部图像作为对象局部图像。
接着,S1301中,CPU101通过比较S1300中提取的各对象局部图像与S1300中提取的正解局部图像,来确定与各对象局部图像成对的正解局部图像。CPU101确认S1300中提取的全部对象局部图像是否与正解局部图像成对。CPU101通过检索全部正解局部图像,来检测与各对象局部图像成对的正解局部图像。
例如,如图14所示,从正解整体图像1400提取包括正解局部图像“N”、“O”、“P”的正解局部图像群,从对象整体图像1410提取包括对象局部图像“n”、“p”、“o”的对象局部图像群。该情况下,CPU101首先检索与对象局部图像“p”成对的正解局部图像。即,CPU101选择三个正解局部图像中的一个局部图像。例如,在选择了正解局部图像“N”的情况下,CPU101比较对象局部图像“p”与正解局部图像“N”。在两图像不一致的情况下,CPU101选择正解局部图像“O”,在两图像再次不一致的情况下,选择正解局部图像“P”。然后,CPU101在对象局部图像“p”与正解局部图像“P”一致时判断两图像成对。通过同样的处理,CPU101检索与对象局部图像“o”、“n”成对的正解局部图像。
在S1300中提取的全部对象局部图像及正解局部图像成对的情况下(S1301中为是),CPU101使处理进入S1303。在存在不成对的对象局部图像及不成对的正解局部图像的至少一方的情况下(S1301中为否),CPU101使处理进入S1302。此处,不成对的情况,可列举对象局部图像与正解局部图像的一部分或者全部不一致的情况;和对象局部图像与正解局部图像的数量不一致,不存在对应的局部图像(对象局部图像或者正解局部图像)的情况。
S1302中,CPU101对不一致部分实施强调处理。例如,在对象局部图像与正解局部图像的一部分或者全部不一致的情况下,CPU101以不一致的部分或者图像整体为不一致部分,对该部分实施强调处理。另外,在对象局部图像与正解局部图像的数量不一致的情况下,CPU101以未发现成对的局部图像的局部图像(对象局部图像或者正解局部图像)为不一致部分,对该部分实施强调处理。而且,第三实施方式涉及的测试装置100的这之外的构成及处理与其他实施方式涉及的测试装置100的构成及处理相同。
此外,本实施方式中所说明的测试装置100可通过包括经由网络连接的多个装置的系统来实现。即,测试装置100对验证程序、正解程序及对象程序的执行可分别通过不同装置来执行。另外,程序的执行、图像显示、图像文件的保存可分别通过不同装置来进行。
以上,通过上述的各实施方式,能适当地执行对包括涉及图像描绘的描述的程序的验证。
以上,详细描述了本发明的优选实施方式,但是本发明不限定于该特定实施方式,在专利请求所记载的本发明主旨的范围内,能进行各种变形、变更。

Claims (11)

1.一种信息处理装置,其特征在于,具有:
第一获取单元,其获取对应于成为测试对象的对象程序的执行而显示在显示单元中的第一图像;
对象图像提取单元,其通过指定用于确定所述第一图像中与正解图像对应的局部图像即对象图像的第一确定信息,向浏览器查询所述显示单元中描绘有所述对象图像的位置和大小,并基于从所述浏览器获取的所述显示单元中实际描绘了所述对象图像的位置和大小,从所述第一图像提取所述对象图像;
判定单元,其判定所述对象图像与所述正解图像是否一致;以及
显示处理单元,其显示所述判定单元的判定结果。
2.根据权利要求1所述的信息处理装置,其特征在于,还具有:
第二获取单元,其获取对应于正解程序的执行而显示在所述显示单元中的第二图像;以及
正解图像提取单元,其通过指定用于确定所述第二图像的局部图像即所述正解图像的第二确定信息,向浏览器查询所述显示单元中描绘有所述正解图像的位置和大小,并基于从所述浏览器获取的实际描绘了所述对象图像的位置和大小,从所述第二图像提取所述正解图像。
3.根据权利要求2所述的信息处理装置,其特征在于,
所述第一确定信息是用于识别所述对象图像的第一图像识别符,
所述第二确定信息是用于识别所述正解图像的第二图像识别符。
4.根据权利要求2所述的信息处理装置,其特征在于,
所述第一确定信息是所述对象图像的属性,
所述第二确定信息是所述正解图像的属性。
5.根据权利要求2所述的信息处理装置,其特征在于,
所述第一确定信息是表示所述对象图像在所述对象程序中的构造化文档的位置的信息,
所述第二确定信息是所述正解图像在所述正解程序中的构造化文档的位置的信息。
6.根据权利要求1~5中任一项所述的信息处理装置,其特征在于,
所述判定单元基于所述对象图像与所述正解图像的各像素的比较结果,来判定所述对象图像与所述正解图像是否一致。
7.根据权利要求1~5中任一项所述的信息处理装置,其特征在于,
所述判定单元基于从所述对象图像检测到的边缘与从所述正解图像检测到的边缘的比较结果,来判定所述对象图像与所述正解图像是否一致。
8.根据权利要求1~5中任一项所述的信息处理装置,其特征在于,
在所述对象图像中除一部分之外的区域与所述正解图像中除一部分之外的区域一致的情况下,所述判定单元判定为所述对象图像与所述正解图像一致。
9.根据权利要求1~5中任一项所述的信息处理装置,其特征在于,所述判定单元根据针对多个对象图像分别预先设定的不同判定条件,来判定各对象图像与正解图像是否一致。
10.一种信息处理方法,其特征在于,包括:
第一获取步骤,获取对应于成为测试对象的对象程序的执行而显示在显示单元中的第一图像;
对象图像提取步骤,通过指定用于确定所述第一图像中与正解图像对应的局部图像即对象图像的第一确定信息,向浏览器查询所述显示单元中描绘有所述对象图像的位置和大小,并基于从所述浏览器获取的所述显示单元中实际描绘了所述对象图像的位置和大小,从所述第一图像提取所述对象图像;
判定步骤,判定所述对象图像与所述正解图像是否一致;以及
显示处理步骤,显示所述判定步骤中的判定结果。
11.一种存储介质,其为计算机可读取的存储介质,所述存储介质存储计算机程序,在所述计算机程序由计算机执行时,使计算机作为下述单元发挥功能,
第一获取单元,其获取对应于成为测试对象的对象程序的执行而显示在显示单元中的第一图像;
对象图像提取单元,其通过指定用于确定所述第一图像中与正解图像对应的局部图像即对象图像的第一确定信息,向浏览器查询所述显示单元中描绘有所述对象图像的位置和大小,并基于从所述浏览器获取的所述显示单元中实际描绘了所述对象图像的位置和大小,从所述第一图像提取所述对象图像;
判定单元,其判定所述对象图像与所述正解图像是否一致;以及
显示处理单元,其显示所述判定单元的判定结果。
CN201680032178.1A 2015-06-03 2016-05-31 信息处理装置、信息处理方法及存储介质 Active CN107615251B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015-113338 2015-06-03
JP2015113338A JP6491959B2 (ja) 2015-06-03 2015-06-03 情報処理装置、情報処理方法及びプログラム
PCT/JP2016/065978 WO2016194889A1 (ja) 2015-06-03 2016-05-31 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
CN107615251A CN107615251A (zh) 2018-01-19
CN107615251B true CN107615251B (zh) 2020-11-10

Family

ID=57440229

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680032178.1A Active CN107615251B (zh) 2015-06-03 2016-05-31 信息处理装置、信息处理方法及存储介质

Country Status (5)

Country Link
US (1) US10491756B2 (zh)
JP (1) JP6491959B2 (zh)
CN (1) CN107615251B (zh)
SG (1) SG11201709992UA (zh)
WO (1) WO2016194889A1 (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180068578A (ko) * 2016-12-14 2018-06-22 삼성전자주식회사 복수의 센서를 이용하여 객체를 인식하는 전자 기기 및 방법
JP6514244B2 (ja) * 2017-01-18 2019-05-15 日本電信電話株式会社 差異検出装置及びプログラム
JP6535038B2 (ja) * 2017-01-18 2019-06-26 日本電信電話株式会社 画面判定装置、画面判定方法及びプログラム
JP6718473B2 (ja) * 2017-12-05 2020-07-08 日本電信電話株式会社 画面差異抽出装置及びプログラム
US10909024B2 (en) * 2018-04-19 2021-02-02 Think Research Corporation System and method for testing electronic visual user interface outputs
CN108536605B (zh) * 2018-04-19 2021-08-10 广州慧通编程教育科技有限公司 自动测试绘图程序的方法、装置以及系统
JPWO2020202337A1 (ja) * 2019-03-29 2021-12-23 三菱電機株式会社 画像生成装置、テストシステム、画像生成方法及びプログラム
JP6656664B1 (ja) * 2019-05-15 2020-03-04 モリカトロン株式会社 表示誤り検出支援プログラム、表示誤り検出支援方法、および、表示誤り検出支援装置
JP6802320B2 (ja) * 2019-05-16 2020-12-16 メタウォーター株式会社 情報処理システム、情報処理装置、プログラム、及び情報処理方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1878231A (zh) * 2005-06-08 2006-12-13 三星电子株式会社 用于检测安全文件的装置和方法
JP2009134406A (ja) * 2007-11-29 2009-06-18 Nomura Research Institute Ltd コンピュータプログラムの実行結果を検証するためのテスト装置及び方法
CN103365967A (zh) * 2013-06-21 2013-10-23 百度在线网络技术(北京)有限公司 一种基于爬虫的自动化差异检测方法及装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6647139B1 (en) * 1999-02-18 2003-11-11 Matsushita Electric Industrial Co., Ltd. Method of object recognition, apparatus of the same and recording medium therefor
JP2000253337A (ja) * 1999-02-24 2000-09-14 Sony Corp 画面の制御方法および画面の制御装置および映像再生方法および映像再生装置および映像情報の記録方法および映像情報の記録装置およびコンピュータが読み取り可能な記録媒体
JP2001273168A (ja) * 2000-03-24 2001-10-05 Hitachi Information Systems Ltd ソフトウエア自動テストシステム
CN100461158C (zh) * 2001-11-09 2009-02-11 无锡永中科技有限公司 一种使用应用程序处理数据的方法
CN1669052B (zh) * 2002-07-10 2010-05-26 日本电气株式会社 使用三维物体模型的图像匹配系统以及图像匹配方法
CN102298778B (zh) * 2003-10-30 2015-06-17 日本电气株式会社 用于估计对象状态的估计系统、估计方法和估计程序
JP2005266954A (ja) * 2004-03-16 2005-09-29 Hitachi Software Eng Co Ltd 操作情報記録・再生装置
US20070140529A1 (en) * 2005-12-21 2007-06-21 Fujifilm Corporation Method and device for calculating motion vector between two images and program of calculating motion vector between two images
JP2009008807A (ja) * 2007-06-27 2009-01-15 Sharp Corp 画像比較装置、プログラム及び画像比較方法
US8059865B2 (en) 2007-11-09 2011-11-15 The Nielsen Company (Us), Llc Methods and apparatus to specify regions of interest in video frames
JP5324375B2 (ja) * 2009-09-29 2013-10-23 株式会社日立ソリューションズ キャプチャシステム
JP5975281B2 (ja) * 2012-09-06 2016-08-23 カシオ計算機株式会社 画像処理装置及びプログラム
US9152872B2 (en) 2012-11-12 2015-10-06 Accenture Global Services Limited User experience analysis system to analyze events in a computer desktop
US10127473B2 (en) * 2013-02-26 2018-11-13 Nec Corporation Diagnosis assisting system, diagnosis assisting method, and program thereof

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1878231A (zh) * 2005-06-08 2006-12-13 三星电子株式会社 用于检测安全文件的装置和方法
JP2009134406A (ja) * 2007-11-29 2009-06-18 Nomura Research Institute Ltd コンピュータプログラムの実行結果を検証するためのテスト装置及び方法
CN103365967A (zh) * 2013-06-21 2013-10-23 百度在线网络技术(北京)有限公司 一种基于爬虫的自动化差异检测方法及装置

Also Published As

Publication number Publication date
US10491756B2 (en) 2019-11-26
SG11201709992UA (en) 2017-12-28
JP2016224868A (ja) 2016-12-28
JP6491959B2 (ja) 2019-03-27
WO2016194889A1 (ja) 2016-12-08
CN107615251A (zh) 2018-01-19
US20180159988A1 (en) 2018-06-07

Similar Documents

Publication Publication Date Title
CN107615251B (zh) 信息处理装置、信息处理方法及存储介质
CN109325538B (zh) 目标检测方法、装置和计算机可读存储介质
KR101496317B1 (ko) 촬영이미지의 지상물 위치변경을 통해 영상이미지를 수정하는 영상처리방법
US10339657B2 (en) Character detection apparatus and method
KR101494826B1 (ko) Gps좌표 기반 영상의 부분오류 수정용 이미지영상 처리시스템
CN110427746A (zh) 滑块验证码验证方法、装置、存储介质和计算机设备
US20150262030A1 (en) Image processing device, image processing method, and image processing program
JP2014056486A (ja) 画像ネットワークシステム、画像表示端末および画像処理方法
KR20150107499A (ko) 오브젝트 인식 장치 및 그 제어 방법
JP2005234603A (ja) 地図情報更新方法及び地図更新装置
JP2016062263A (ja) 情報処理装置、画像変更方法及びプログラム
WO2021159736A1 (zh) 应用程序兼容性测试的方法、装置及计算机设备
CN110864876A (zh) 车载娱乐系统测试方法、装置、设备及存储介质
CN106910207B (zh) 用于识别图像局部区域的方法、装置及终端设备
JP2018160003A (ja) 画面差異検出装置及びプログラム
JP4775957B2 (ja) 顔検出装置
WO2017096670A1 (zh) 一种指纹安全保护方法与系统
JP2020071739A (ja) 画像処理装置
KR102335060B1 (ko) 증강 현실 제공 방법
KR101660596B1 (ko) 안면 형상 기울기 보정 방법 및 보정 시스템
JP6446945B2 (ja) 非互換検出装置、非互換検出方法、及びプログラム
KR102167071B1 (ko) 서술자 매칭쌍 분석 기술을 적용한 이미지 인식 시스템 및 방법
US20160188856A1 (en) Authentication device, authentication method, and non-transitory computer readable medium
JP6805903B2 (ja) 表示差異検出プログラム、装置、及び方法
US11734950B2 (en) Fingerprint matching apparatus, fingerprint matching method, and recording medium

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: Tokyo, Japan, Japan

Applicant after: Nippon Railway System Integration Co., Ltd.

Address before: Tokyo, Japan, Japan

Applicant before: Nippon Steel & Sumitomo Metal System Integration Co., Ltd.

GR01 Patent grant
GR01 Patent grant