CN103493092B - 图像显示方法、图像显示程序以及图像显示装置 - Google Patents
图像显示方法、图像显示程序以及图像显示装置 Download PDFInfo
- Publication number
- CN103493092B CN103493092B CN201180070334.0A CN201180070334A CN103493092B CN 103493092 B CN103493092 B CN 103493092B CN 201180070334 A CN201180070334 A CN 201180070334A CN 103493092 B CN103493092 B CN 103493092B
- Authority
- CN
- China
- Prior art keywords
- image
- group
- benchmark
- similarity
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/28—Determining representative reference patterns, e.g. by averaging or distorting; Generating dictionaries
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Processing Or Creating Images (AREA)
- Image Analysis (AREA)
Abstract
图像显示方法的特征在于,包含:根据比较基准从各自包含多个图像的多个组分别选择多个图像的步骤;在选择出的图像的个数相对少的组中对图像进行复制,使各组中的选择图像的个数相同的步骤;以及生成使相似度近的选择图像彼此在多组间一对一地建立关联并且并列地显示的显示画面数据的步骤,由计算机执行各步骤。
Description
技术领域
本申请公开内容一般而言涉及图像显示方法,更详细而言涉及用于图像比较的图像显示方法。
背景技术
对农场的管理和运用而言,农场巡视作业是很重要的。作为在该农场巡视作业时准确地记录土壤状态、作物生长发育状况等并在作业者之间共享信息的方法,利用对土壤、作物进行拍摄得到的照片(以下称为“巡视图像”)是有用的。根据巡视图像,能够把握作物的生长发育情况、把握病症的经过或严重程度、评价农药或作业的效果以及发现异常等。此外进而通过使用在不同场合或时间拍摄得到的巡视图像,能够进行在不同农场之间的状态比较、进行基于熟练者的农场对初学者的农场的评价、进行基于过去的成功或者失败事例对当前状态的评价等。通过像这样利用巡视图像,利用少数人就能够有效地管理大规模的农业经营。
为了上述那样的评价、比较,优选根据一致或者对应的比较基准,对不同属性的巡视图像进行比较。这里所谓属性,是指拍摄场合、拍摄者或者拍摄时间等。通过比较不同属性的巡视图像,能够在品种、种类以及耕作类型中任意之一不同的农场之间进行比较、在品种、种类以及耕作类型相同的熟练者的农场与初学者的农场之间进行比较、在品种、种类以及耕作类型相同的过去事例与当前状态之间进行比较等。此外所谓比较基准,是指例如从种植日起算的累计日数、从种植日起算的累计温度、从种植日起算的累计雨量、从种植日起算的累计日照时间等。例如,在刚种植后的作物与即将要收获前的作物之间比较巡视图像,通常也没有意义,而通过对从种植日起算的累计日数一致或者对应的巡视图像进行比较,能够得到重要的见解。
为了像这样比较巡视图像,优选以适当的形式显示巡视图像的显示系统。然而,例如当将分别在2个农场中拍摄得到的多个巡视图像并列配置而进行对比的情况下,即便根据某种比较基准(例如时间序列顺序)将图像排列显示,有比较意义的图像彼此未必相邻。即,即便根据某种比较基准单纯地配置图像,对用户来说,也未必是能够有效进行比较的配置。在这种情况下,用户自己进行通过目测从多个显示图像中选择有比较意义的图像彼此并进行比较这样的作业,从而无法提高效率。此外进而当在一方农场拍摄得到的个数与在另一方农场拍摄得到的个数不同的情况下,根据比较基准排列显示的比较对象的图像个数可能在农场间存在不同。在这种情况下,即便用户自己对巡视图像排序而使有比较意义的图像彼此相邻,图像彼此也无法一一对应,图像个数较多的一方的农场的巡视图像就被白白浪费。
另外在专利文献1中,根据图像的属性信息对图像进行分组(系列化),使多组图像时间同步并将其并列显示,并提供同步后的滚动操作性。在该技术中,在要同步的单位中的图像不是1张而是多张的情况下,没有考虑在组间比较哪个图像与哪个图像即可这一情况。
在专利文献2中,按照页顺序一列地配置关键文件的各页的缩略图像,并与关键文件的各页的缩略图像并列地配置比较对象文件的各页的缩略图像。进而,将关键文件的关键页与比较对象文件的各页进行比较,使比较对象文件的列在列方向上轮班(shift)配置,以使最相似的页接近关键页。此外,通过将相似度比规定阈值高的页彼此用线连结等,使文件之间的相似程度变得容易确认。在该技术中,仅使相似页相对于关键页(注目页)相邻而配置,针对其他页的缩略图像,没有使相似页相邻配置。
在专利文献3中,以从构成影像的多个图像提取出的注目图像为中心,将提取了规定个数的时间指标最接近的影像沿着第1轴按照时间指标的顺序而配置,将提取了规定个数的相似指标最接近的影像沿着第2轴按照相似指标的顺序而配置。由此,相对于注目图像时间连续的图像按照时间指标的顺序被配置在例如横轴上,与注目图像内容相似的图像按照相似度指标的顺序被配置在纵轴上。在该技术中,仅使相似图像相对于注目图像相邻而配置,而针对多个图像,没有使相似页相邻配置。
专利文献1:日本特开2009-282607号公报
专利文献2:日本特开2007-115193号公报
专利文献3:日本特开4359685号公报
发明内容
鉴于上述,期望一种在并列地配置并显示多个图像时,能够将有比较意义的图像彼此对应地显示的图像显示方法。
图像显示方法的特征在于,包含:根据比较基准从各自包含多个图像的多个组分别选择多个图像的步骤;在上述选择出的图像的个数相对少的组中对图像进行复制,使各组中的选择图像的个数相同的步骤;以及生成将相似度近的上述选择图像彼此在上述多组间一对一地建立关联且并列地显示的显示画面数据,利用计算机执行各个上述步骤。
图像显示程序的特征在于,包含:根据比较基准从各自包含多个图像的多个组分别选择多个图像的步骤;在上述选择出的图像的个数相对少的组中对图像进行复制,使各组中的选择图像的个数相同的步骤;以及生成将相似度近的上述选择图像彼此在上述多组间一对一地建立关联且并列地显示的显示画面数据,使计算机执行上述各步骤。
图像显示装置的特征在于,包含处理单元以及存放程序和图像数据的存储器,通过上述处理单元执行存放在上述存储器中的上述程序来执行各步骤,该各步骤包括:根据比较基准从各自包含多个图像的多个组分别选择多个图像;在上述选择出的图像的个数相对少的组中对图像进行复制,使各组中的选择图像的个数相同;生成将相似度近的上述选择图像彼此在上述多组间一对一地建立关联且并列地显示的显示画面数据。
根据本申请公开的至少1个实施例,在并列配置并显示多个图像时,能够将有比较意义的图像彼此对应地显示。
附图说明
图1是表示利用图像显示方法而显示的显示画面的一例的图。
图2是用于对根据相似度来选择待复制的图像的步骤进行说明的图。
图3是表示在根据图2的相似度来选择并复制待复制的图像时的图像显示的状况的图。
图4是表示通过执行图像显示方法来生成显示画面数据的图像显示装置的功能结构的一例的图。
图5A是用于说明识别器学习部学习特征参数的图。
图5B是用于说明图像分类部对图像进行分类的图。
图6是说明与图像的构图相关的特征量的图。
图7是表示用于提高2维矩阵的图像识别的精度的计算例的图。
图8是用于说明用于求出颜色直方图的前处理的图。
图9是用于说明颜色直方图的图。
图10A是表示显示控制处理部进行的相似度计算和显示画面控制的处理的流程的一例的流程图。
图10B是表示显示控制处理部进行的相似度计算和显示画面控制的处理的流程的一例的流程图。
图11是表示相似度计算的处理的流程的一例的流程图。
图12是表示在比较源图像组与比较目标图像组之间求出的相似度的一例的图。
图13是表示将分别属于比较目标图像组的图像中相似度最高的比较源图像设定为比较对的处理的图。
图14是用于说明对不包含在图像对中而剩余的比较源图像分配比较目标图像的处理的图。
图15是将分别对Ai+1和Ai+2的比较源图像分配的Bj+2和Bj+1的比较目标图像用粗线框包围而表示的图。
图16是表示与图12至图15所示的例子对应的画面显示的例子的图。
图17是表示作为针对图16所示的画面显示方式的比较例,按照拍摄日期时间的顺序共同配置了上段和下段的图像时的画面显示的图。
图18是表示在2组的全部图像之间计算相似度的例子的图。
图19是表示在预先计算的相似度中提取相对于从同步基准区间或者相似图像搜索区间选择出的图像的相似度的状况的图。
图20是表示执行图像显示方法的装置结构的图。
具体实施方式
下面,使用附图对本发明的实施例进行详细地说明。
图1是表示利用图像显示方法显示的显示画面的一例的图。图1所示的显示画面10根据比较基准从包含多个图像的第1组选择多个图像,通过对所选择的图像中至少1个图像进行复制,从而显示增加了个数的选择图像12。显示画面10还显示从包含多个图像的第2组根据比较基准选择出的选择图像11。第1组除了选择显示的图像以外还包含多个图像12A和12B。同样地,第2组除了选择显示的图像以外还包含多个图像11A和11B。在显示画面10中,针对这些多个图像12A和12B以及图像11A和11B,也可以如图1的例子那样显示使从斜方向观察到的多张图像框靠近且并排的图像,以表示其存在。
在该例中,第1组选择图像12包含6张图像12-1至12-6。第2组选择图像11同样地包含6张图像11-1至11-6。从左起第n个图像11-n与从左起第n个图像12-n为图像的相似度高的图像彼此,而成为适当的图像对,来作为相互比较的对象。这样在显示画面10中,使相似度高的选择图像彼此在多组间一对一地建立关联且并列地显示。在这个并不打算限定的例子中,所谓一对一地建立关联且并列地显示,意思是将图像11-n和图像12-n作为一对配置在同一水平位置,并且并列地显示在画面中的上列和下列。取而代之,例如也可以将一对图像配置在同一垂直位置,并且并列地显示在画面中的左列和右列。在图1所示的例子中,图像11-n与图像12-n作为一对而配置在同一水平位置,其结果,以彼此上下相邻的方式进行显示。
在图像是通过在农场中的巡视作业而拍摄得到的巡视图像的情况下,水平位置对应于作为比较基准的从种植日起算的累计日数、从种植日起算的累计温度、从种植日起算的累计雨量以及从种植日起算的累计日照时间等。这里所谓农业中的巡视作业,是指农作业者为了定期地确认农作物的生长发育状况或土壤的情况,或者早期发现发生害虫或杂草这样的风险而对管理的农场进行巡视的作业。此外,将为了记录在巡视作业时确认或发现到的事态而拍摄的照片称为“巡视图像”。在比较基准例如为累计日数的情况下,在第2组选择图像11中最左侧的图像11-1可以是在累计日数最少的(即时间上最早)日期时间拍摄得到的图像。此外最右侧的图像11-6可以是在累计日数最多的(即时间上最晚)日期时间拍摄得到的图像。第1组选择图像12被配置为,与选择图像11的各个图像相比相似度较近的图像对应而显示。其结果,选择图像12的显示顺序(水平位置)也可以成为与比较基准无关的随机的显示顺序。即,例如在比较基准为累计日数的情况下,在显示画面10上显示的选择图像12中,各图像的拍摄时间也可以不按照时间顺序排列。
在图1的例子中,根据比较基准从第1组选择出的原本的多个图像为图像12-1、12-4、12-5以及12-6这4张。其中,对图像12-1进行复制并作为图像12-2而显示(即显示2张相同的图像),对图像12-5进行复制并作为图像12-3而显示(即显示2张相同的图像)。其结果,选择图像12成为图像12-1至12-6这6张。与此相对,根据比较基准从第2组选择出的多个图像在最开始为图像11-1至11-6这6张。这样,在所选择的图像的个数相对少的组(第1组)中对图像进行复制,从而使各组中的选择图像的个数相同(在该例中为6张)。通过这样复制图像,能够使相同数量的图像一对一地关联且并列地显示。另外在最开始各组所选择的图像的个数相同的情况下,也可以不进行图像的复制,直接并列地显示。
以下为生成图1所示的显示画面10的显示画面数据的方法。首先,根据比较基准从各自分别包含多个图像的多个组分别选择多个图像。例如在比较基准为累计日数的情况下,首先将比较基准的基准点指定为例如累计日数90日等。接着,根据该基准点,例如可以将累计日数90日的前后7日的范围(即从累计日数83日起到累计日数97日为止)确定为比较基准的范围。或者例如,也可以将累计日数90日的后15日的范围(即从累计日数90日起到累计日数104日为止)确定为比较基准的范围。然后,从多个组(在该例中为第1组和第2组)中分别选择比较基准范围内的多个图像。即,例如在比较基准的范围是从累计日数83日到累计日数97日的情况下,从各组选择在从种植算起第83日到97日期间所拍摄的图像。另外在图1中,选择图像11中的图像13是对应于基准点的图像(例如是作为基准点的累计日数90日的拍摄图像)。
接着,在所选择的图像的个数相对少的组(在图1的例子中为第1组)中,通过复制图像,使各组中的选择图像的个数相同。即,在图1的例子中,通过对图像12-1和12-5进行复制而分别作为图像12-2和12-3,来使第1组和第2组中选择图像的个数相同,均为6张。
最后,生成将相似度高的选择图像彼此在多组间一对一地关联且并列地进行显示的显示画面数据。即,在图1的例子的情况下,生成将图像11-n与图像12-n作为一对配置在同一水平位置,并将其并列地显示在画面中的上列与下列的显示画面数据。
图1所示的显示画面10包含:同步滑动操作按键14、个别滑动操作按键15和16、同步基准区间设定菜单17、同步条件设定菜单18、以及缩小条件设定菜单19。同步滑动操作按键14使选择图像11与选择图像12同步,在比较基准轴上进行滑动。例如在比较基准为累计日数的情况下,点击同步滑动操作按键14的朝左的按键后,摄像日期时间比最开始作为选择图像11和12而显示的图像更早的图像被显示为选择图像11和12。在图1的例子中,在点击同步滑动操作按键14的朝左的按键之前,显示了从累计日数83日至累计日数97日的图像。对此,在点击1次后,可以使成为基准的图像13相对于图像11-4向左移动1个,而显示以图像11-3的累计日数为基准的±7日的图像。例如,在图像11-3的累计日数为88日的情况下,在图像11中变成显示累计日数从81日至95日的图像。如果在图像11-3与图像11-4的累计日数相同的情况下,则跳转到比基准图像13的累计日数小的最开始的图像(对应的图像中摄像日期时间最新的图像)为止(追溯)。另外,如果当与该跳转后的累计日数的±7日对应的图像与跳转前相比没有变化的情况下,则反复前述跳转,直到有变化为止。此外如果使点击了同步滑动操作按键14的朝左的按键的状态保持不变,则可以使显示为选择图像11和12的图像的摄像日期时间逐渐地变早。此外例如在比较基准为累计日数的情况下,如果点击同步滑动操作按键14的朝右的按键,可以将摄像日期时间相比于最初作为选择图像11和12而显示的图像较新的图像显示为选择图像11和12。
同步滑动操作按键14使选择图像11与选择图像12同步,即,使上下对应关系保持不变地滑动显示图像。在这种情况下,在每次显示对象的比较基准的范围改变时就逐次地执行从各组选择图像和复制动作。或者也可以预先在比显示范围更广的比较基准的范围内执行从各组选择图像、图像复制以及基于相似度的关联,再从图像彼此已经被关联的较广的比较基准的范围内的图像中选择并显示显示范围的图像。例如可以预先在30日的累计日数的范围内执行从各组选择图像、图像复制、以及基于相似度的关联,作为显示范围,选择并显示15日的累计日数的范围内的图像。在这种情况下,当显示图像滑动时,从图像彼此已经被关联的较广的比较基准的范围内的图像中选择并显示显示范围的图像时,可以使作为显示对象而选择的范围适当地移动。
个别滑动操作按键16仅使选择图像11在比较基准轴上进行滑动。例如在比较基准为累计日数的情况下,点击个别滑动操作按键16的朝左的按键后,摄像日期时间比最开始作为选择图像11而显示的图像更早的图像被显示为选择图像11。例如在点击个别滑动操作按键16的朝左的按键之前,显示了从累计日数83日到累计日数97日的图像,但是可以在1次点击后变更图像显示。这时,可以使成为基准的图像13相对于图像11-4向左移动1个,而显示以图像11-3的累计日数作为基准的±7日的图像。例如,在图像11-3的累计日数为88日的情况下,变成在图像11中显示累计日数从81日到95日的图像。如果在图像11-3与图像11-4的累计日数相同的情况下,则跳转到比基准图像13的累计日数小的最开始的图像(在对应的图像中摄像日期时间最新的图像)为止(追溯)。另外,如果当与该跳转后的累计日数的±7日对应的图像与跳转前相比没有变化的情况下,则反复前述的跳转,直到有变化为止。在点击个别滑动操作按键16的朝右的按键的情况下,可以将摄像日期时间比最开始作为选择图像11而显示的图像更新的图像显示为选择图像11。在点击个别滑动操作按键16的情况下,选择图像12不滑动。
个别滑动操作按键15仅使选择图像12在比较基准轴上进行滑动。而不使选择图像11滑动。例如在比较基准为累计日数的情况下,点击个别滑动操作按键15的朝左的按键后,将摄像日期时间比最开始作为选择图像12而显示的图像更早的图像显示为选择图像12。
由此,能够对比较基准范围彼此不同的选择图像11与选择图像12进行比较。例如能够对累计日数从70日到84日的选择图像11与累计日数从83日到97日的选择图像12进行比较。这种比较能够用于例如当一个农场的作物的生长发育较差时,与另一个农场的作物进行比较,来判断晚了几日左右。
同步基准区间设定菜单17用于设定同步基准区间(从各组选择图像的比较基准的范围)。通过点击同步基准区间设定菜单17,能够显示例如±1日、±2日、±3日、···±7日、···等选项作为下拉菜单,并能够选择所希望的选项。同步条件设定菜单18用于设定同步条件(比较基准)。通过点击同步条件设定菜单18,能够显示例如从种植日起算的累计日数、从种植日起算的累计温度、从种植日起算的累计雨量以及从种植日起算的累计日照时间等选项作为下拉菜单,并能够选择所希望的选项。缩小条件设定菜单19用于设定缩小条件。通过点击缩小条件设定菜单19,能够显示例如农场全景、土壤、作物等选项作为下拉菜单,并能够选择所希望的选项。通过这些菜单17至19进行各个设定,由此使用所选择的同步条件(比较基准),在所选择的同步基准区间显示所选择的缩小条件的图像。
显示画面10显示图像组的属性信息的标签20和21。根据这些标签,能够确认农场名、农场组、农场块、种植种类、种植品种、种植耕作类型、管理负责人等信息。此外,显示画面10还显示图像属性信息的工具提示22。根据该工具提示(tooltip)22,例如通过光标选择注目的图像,能够显示该注目图像的各种图像属性信息。这里作为图像属性信息,具有从种植起算的累计日数、累计温度、累计降雨量、累计日照时间、注释等。
图2是用于说明根据相似度选择要复制的图像的步骤的图。在图2中,B-3至B-5是根据比较基准而选择的图像的个数相对少的第1组n张(在该例中为3张)图像。此外A-7至A-10是根据比较基准而选择的图像的个数相对多的第2组m张(在该例中为4张)图像。个数相对多的一方图像被表示为比较源,个数相对少的一方图像被表示为比较目标。
在图2所示的矩阵表中,表示在第1组3张图像与第2组4张图像之间的图像对的相似度。例如,对应于图像B-3与图像A-7的栏所示的相似度0.98表示图像B-3与图像A-7之间的图像的相似度为0.98。此外例如,对应于图像B-4与图像A-9的栏所示的相似度0.54表示图像B-4与图像A-9之间的图像的相似度为0.54。2个图像之间的相似度越高,这2个图像彼此可以越相似(可以越类似)。这里相似度高表示2个图像是适合作为相互比较的对象的图像。
如图1所示,为了使第1组选择图像12的个数与第2组选择图像11的个数数量相同,根据图2所示的相似度选择要复制的图像并进行复制。具体而言,在图像个数相对少的第1组n张图像与图像个数相对多的第2组m(>n)张图像之间比较图像对的相似度,优先从相似度高的图像对选择图像不重复的n个图像对。在图2的例子的情况下,由于相似度最高的图像对是B-3和A-7,因此首先将该图像对选择为第1图像对。接着相似度高的图像对是B-5和A-8,由于该图像对与已选择的第1图像对的图像不重复,因此将B-5和A-8选择为第2图像对。接着相似度高的图像对是B-4和A-10,由于该图像对与已选择完毕的第1图像对和第2图像对的图像不重复,因此将B-4和A-10选择为第3图像对。通过这种方式,选择图像不重复的n(=3)个图像对。
为了方便说明,这里假设图像对B-3和A-9的相似度例如为0.81。此外图像对B-4和A-8的相似度例如为0.79。在这种情况下,第2图像对下一个相似度高的图像对是B-3和A-9。但是由于该图像对B-3和A-9与第1图像对和图像B-3重复,因此不被选择为第3图像对。其后相似度高的图像对是B-4和A-8。但是由于该图像对B-4和A-8与第2图像对和图像A-8重复,因此不被选择为第3图像对。再其后相似度高的图像对是B-4和A-10,由于该图像对与已选择完毕的第1图像对和第2图像对的图像不重复,因此将B-4和A-10选择为第3图像对。通过这种方式,选择图像不重复的n(=3)个图像对。
通过这种方式,选择了与图像个数相对少的第1组图像个数(在该例中为3张)相同个数的图像对(上述的第1图像对至第3图像对)。接着,对于在第2组m(=4)张图像中选择的n(=3)个图像对所没有包含的m-n(=1)个剩余图像,复制与m-n个剩余图像的相似度最高的第1组图像。对图2的例子而言,对于第1图像对至第3图像对所没有包含的1个剩余图像A-9,选择与该1个剩余图像A-9的相似度最高的第1组图像B-3选择并进行复制。
通过上述方式选择的n个图像对以及m-n个剩余图像与复制的图像组成的图像对总计m个图像对以图像彼此相邻的方式被并列地显示。对图2的例子而言,3个图像对B-3&A-7、B-5&A-8和B-4&A-10、以及1个剩余图像A-9与复制的图像B-3组成的图像对B-3&A-9总计4个图像对以图像彼此相邻的方式被并列地显示。
图3是表示在根据图2的相似度选择并复制要复制的图像时的图像显示状况的图。如图3所示,比较源的4张图像A-7至A-10例如按照拍摄日期时间顺序(例如在比较基准为累计日数的情况下的顺序)而显示,与此并列地,图像B-3、B-5、B-3以及B-4与4张图像A-7至A-10一对一对应地被显示。A-7与B-3的相似度是0.98,A-8与B-5的相似度是0.87,A-9与B-3的相似度是0.76,A-10与B-4的相似度是0.77。由于在1个同步单位区间(进行图像选择的比较基准的范围)中的第1组图像的个数是3张,第2组图像的个数是4张,因此在第1组中复制了图像B-3,并显示有总计4张第1组图像。
另外在上述的例子中,对并列地显示2组图像的情况进行了说明,但是组数也可以是3组以上。在这种情况下,可以将根据比较基准而选择的图像的个数最多的组用作基准,将相似度近的选择图像在基准组与其他各个组之间一对一地关联且并列地显示。即,可以按照比较基准的顺序显示基准组的图像,针对其他组图像,以与基准组图像一对一地关联的方式并列地显示。
此外例如将图像间的相似度在0到1之间进行归一化的情况下,可以将某个阈值(例如0.8)以上的图像作为显示对象,除此以外的图像不显示。在这种情况下,在不显示图像的位置,可以显示不良图像等,或者为空白。
图4是表示通过执行图像显示方法来生成显示画面数据的图像显示装置的功能结构的一例的图。图4所示的图像显示装置包含:图像分类处理部31、显示控制处理部32、图像存储部33、特征量存储部34、学习参数存储部35、分类结果存储部36、以及图像属性信息存储部37。另外在图4中,各框中表示的各功能块与其他功能块的边界基本上是表示功能边界,不一定对应于物理位置的分离、电信号的分离、控制逻辑的分离等。在为硬件的情况下,各功能块可以是与其他块物理地以某种程度分离的1个硬件组件,或者也可以表示与其他块物理地成为一体的硬件组件中的1个功能。在为软件的情况下,各功能块可以是与其他块逻辑地以某种程度分离的1个软件组件,或者也可以表示与其他块逻辑地成为一体的软件组件中的1个功能。
图像存储部33存储在农场的巡视作业时拍摄得到的巡视图像的图像数据。图像分类处理部31包含:图像特征提取部41、识别器学习部42以及图像分类部43。图像分类处理部31的图像特征提取部41根据存放在图像存储部33中的巡视图像的图像数据,求出图像的特征量。所求出的图像特征量被存放在特征量存储部34中。识别器学习部42根据存放在特征量存储部34中的图像特征量,生成用于按照每个观点对巡视图像进行分类的学习参数。所生成的学习参数被存放在学习参数存储部35中。图像分类部43根据存放在学习参数存储部35中的学习参数,将巡视图像的图像数据分类为多个不同的拍摄观点。作为拍摄观点,有农场全景、作物、土壤等。巡视图像数据的分类结果被存放在分类结果存储部36中。该分类结果例如可以是将图像数据的ID与该ID的图像数据所属的拍摄观点(分类)关联并存放的数据。另外学习参数是将预先按照每个观点分类的正解图像数据集用作学习数据而求出的,可以包含对图像特征量设定的阈值数据、特征空间的边界数据等,以使得能够进行适当的图像分类。
显示控制处理部32包含:相似度计算部44、显示控制部45以及用户接口部46。相似度计算部44根据存放在特征量存储部34中的图像特征量,计算存放在图像存储部33中的巡视图像的图像数据之间的相似度。显示控制部45根据由相似度计算部44求出的相似度、存放在分类结果存储部36中的分类结果、以及存放在图像属性信息存储部37中的巡视图像的属性信息等,生成显示巡视图像的显示画面数据。所生成的显示画面数据被提供给用户接口部46。图像显示装置可以是计算机,可以将生成的显示画面数据显示在本地显示器中。此外或者图像显示装置可以是服务器端计算机,可以将生成的显示画面数据经由因特网等网络发送给客户端计算机,使客户端计算机的显示器进行显示。
图5A和图5B是用于说明识别器学习部42学习学习参数和图像分类部43进行图像分类的图。在图5A和图5B中,按照每个拍摄观点表示有农场全景识别器51、土壤识别器52、以及作物识别器53。识别器51至53可以包含在图像分类部43中,对于这些识别器51至53,由识别器学习部42进行基于正解数据集的学习。
在图5A中,分别对应于农场全景识别器51、土壤识别器52、以及作物识别器53,将每个拍摄观点的农场全景的正解数据集54、土壤的正解数据集55、以及作物的正解数据集56作为正确例子。此外,将除此以外的识别器与正解数据集的组合作为错误例子。使用这些正确例子与错误例子的数据集来学习识别器51至53,由此生成学习参数,并通过图像分类部使用这样得到的学习参数。在图5B中,通过使用了学习参数的农场全景识别器51、土壤识别器52、以及作物识别器53,来输出对未知图像的分类结果。这时,可以将各识别器51至53如图5B所示那样串联地组合,也可以并列地组合。但是,在串联组合的情况下,例如按照识别能力(分类性能)从高到低的顺序组合各个识别器等。另一方面,在并列组合的情况下,采用按照各个识别器输出的分类结果的可信度高的一方的观点等。
在图5A中,在农场全景识别器51的情况下,提供农场全景的图像数据集作为正解数据集54。在农场全景识别器51中,进行对图像特征量的阈值设定、特征空间的区分等,以使得将正解数据集54分类为农场全景,将除此以外的图像分类为农场全景之外。在图5B中,学习结束后,如果将拍摄观点未知的图像数据输入到农场全景的识别器51中,则输入图像数据被分类为农场全景图像57与除此以外的图像。在该农场全景识别器51中,例如可以主要注目于与图像的构图相关的特征量来执行图像分类。
图6是说明与图像的构图相关的特征量的图。例如,作为与图像的构图相关的特征量,对图像61进行纵横分割,分为多个部分图像区域,并以表示为矩阵62的方式求出各部分图像区域中的亮度的平均值。当将图像61分割成纵横4×4时,亮度平均值矩阵62成为4×4的大小。一般地,在表示为图像61这种农场全景图像的情况下,天空所存在的图像上部的亮度高,地面所存在的图像下部的亮度较低。因此,当求出亮度平均值矩阵62后,与图像上部对应的矩阵要素的值高,与图像下部对应的矩阵要素的值低。为了识别农场全景图像,例如设定以下条件即可:在2维矩阵62的上半部分为规定阈值以上的矩阵要素的比例在规定比例以上,在下半部分为规定阈值以下的矩阵要素的比例在规定比例以上等。
图7是表示用于提高基于2维矩阵62的图像识别的精度的计算例的图。如图6那样,在求出了纵横分割了图像61的各部分图像区域中的亮度的平均值的情况下,如果图像的倾斜度或天空部分在图像中所占的比例等发生变动,则农场的水平线的位置变动,所求出的矩阵数据也大幅变动。因此如图7所示,考虑对注目部分图像区域的亮度平均值vx,加上将周边附近4个亮度平均值v1~v4乘以权重w而得到的值。另外在注目部分图像区域位于图像的边缘部分的情况下,使用周边附近3个亮度平均值,而不是周边附近4个,在注目部分图像区域位于图像的角落部分的情况下,使用周边附近2个亮度平均值即可,而不是周边附近4个。通过进行这种运算,能够吸收水平线位置的变动,并提高图像识别的精度。
返回图5A,在土壤识别器52的情况下,提供土壤图像的数据集作为正解数据集55。在土壤识别器52中,进行对图像特征量的阈值设定、特征空间的区分等,以使得将正解数据集55分类为土壤图像,将除此以外的图像分类为土壤之外。在图5B中,当学习结束后,如果将未知的图像数据(判定为农场全景之外的图像数据)输入土壤识别器52中,则输入图像数据被分类为土壤图像58和除此以外的图像。在该土壤识别器52中,例如可以主要注目于与图像颜色相关的特征量来执行图像分类。具体而言,例如可以根据由图像求出的颜色直方图,对图像分类。
图8是用于说明用于求出颜色直方图的前处理的图。图9是用于说明颜色直方图的图。如图8所示,首先通过对图像63使用高斯滤波器等低通滤波器来进行平滑化处理,生成减轻了细小噪音影响的图像64。接着,如图9所示,根据平滑化处理后的图像64的各像素的颜色数据,生成颜色直方图65。当此时生成颜色直方图时,注目于色相、彩度以及亮度这3个分量,例如将色相空间分割为10,将彩度空间分割为3,另外将亮度空间分割为5。由此,由这3个分量规定的空间被分割为总计150个部分。通过判断平滑化处理后的图像64的各像素的颜色数据属于这150个部分空间的哪个,并对属于各部分空间的像素数进行计数,来得到颜色直方图65。
在图5A中,根据作为土壤图像的正解数据集55而求出的颜色直方图65的分布成为属于150个部分空间中特定的1个或者多个相邻的部分空间的像素数的比例较大的分布。即,成为分布偏向特定的一部分的部分空间的颜色直方图65。这时由于土壤颜色占据了图像中的大部分。因此,例如对区分该特定的一部分的部分空间的边界数据进行设定,并确定分布偏向该边界数据表示的部分区间内的颜色直方图65,由此能够确定土壤图像。
在图5A中,在作物识别器53的情况下,提供作物图像的数据集作为正解数据集56。在作物识别器53,进行对图像特征量的阈值设定、特征空间的区分等,以使得将正解数据集56分类为作物图像,将除此以外的图像分类为作物之外。在图5B中,当学习结束后,如果将未知的图像数据(判定为农场全景之外且土壤之外的图像数据)输入作物识别器53,则输入图像数据被分类为作物图像59和除此以外的图像。在该作物识别器53中,例如可以主要注目于与图像的颜色相关的特征量来执行图像分类。具体而言,可以与上述土壤识别器52的情况相同地,例如根据由图像求出的颜色直方图对图像分类。
图10A和图10B是表示显示控制处理部32进行的相似度计算和显示画面控制的处理的流程的一例的流程图。首先在步骤S1中,使用检索条件,对比较对象的农场图像进行缩小检查。具体而言,将栽培年度、种植日期、作物种类等指定为检索条件,根据例如存放在图像属性信息存储部37的属性数据来确定满足该检索条件的农场图像。在步骤S2中,选择作为基准图像的日期。用户经由用户接口部46,输入指定基准图像的日期的数据。另外在该例中,在最开始起动图像显示装置的图像显示功能时,同步条件(比较基准)缺省被设定为累计日数。
在步骤S3,在初次起动时,将同步条件(比较基准)和同步基准区间(显示的比较基准的范围)设定为缺省值。例如,在将从种植日起算的累计日数用作同步条件的缺省的情况下,同步基准区间的缺省被设定为±7日的区间。由此,以在步骤S2中指定的基准图像为中心,属于该基准图像的累计日数的±7日的区间的图像作为显示对象而被显示。
另外在这种情况下,作为同步基准区间,可以根据在步骤S2中选择的基准图像的日期设定为长度不同的区间,而不如±7日那样设定固定长度的区间。
一般地,对作物而言,具有生长发育阶段,该阶段是将作物的生长发育过程中的规定时期分割或者分类为段的期间。例如,大致的作物生长发育阶段被分类成“播种期(种植期)”、“育苗期”、“成长期”、以及“收获期”等。但是,根据作物不同,“育苗期”可以没有,或者对“成长期”进行细分。考虑使用该生长发育阶段,作为使同步基准区间变化的单位。例如当基准图像的日期符合生长发育阶段的萌芽期时,由于作物的成长或者状态变化快,因此可以设定比较短的±7日的区间。此外例如当基准图像的日期对应于收获期时,由于作物的成长或者状态变化较慢,因此可以设定比较长的±14日的区间。
根据这样指定的基准图像的日期而设定不同区间的动作可以由图像显示装置(计算机)执行,而无需经过人手自动地设定区间。例如,可以将从种植日起算的累计日数、累计温度、累计雨量、累计日照时间等各个比较基准表示的整体范围分为2个或者2个以上的部分,预先形成对每个部分设定了合适的同步基准区间的数据,并预先登记。例如在上述例子的情况下,可以将从种植日起算的累计日数表示的整体范围分为萌芽期和收获期2个部分,预先形成对每个部分设定了合适的同步基准区间±7日和±14日的数据,并预先登记。当指定了基准图像的日期、基准图像的温度、基准图像的雨量、基准图像的日照时间等后,根据该指定值参照登记数据,由此能够选择与指定值对应的合适的同步基准区间。
在步骤S4中,根据设定的同步条件和同步基准区间,来确定同步基准区间内的图像组。即,在该例中,以符合指定的基准图像的日期的累计日数为中心,从显示对象的组分别选择属性中具有在±7日区间内的累计日数的全部图像。在步骤S5中,将同步基准区间内图像个数最多的图像组(个数最多的组的图像组)设定为比较源图像组。在步骤S6中,以基准图像的日期为中心,将基于同步条件的相似图像搜索区间内的非比较源图像组设定为比较目标图像组。即,将在步骤S5中设定的比较源图像组所属的组以外的其他组的图像设定为比较目标图像组。此时,比较目标图像组的图像是属于相似图像搜索区间的图像,该相似图像搜索区间可以与同步基准区间是同一区间,或者也可以是比同步基准区间更广的区间。
在步骤S7中,使用特征量存储部34(参照图4)的特征量,根据比较源图像组计算相对于比较目标图像组的相似度。另外存放在特征量存储部34中的特征量可以是为了上述图像分类而计算出的图像特征量,或者也可以是用于相似度计算而单独计算出的图像特征量。
图11是表示相似度计算的处理的流程的一例的流程图。在步骤S21中,从特征量存储部34取得比较源图像组和比较目标图像组的图像特征量。在步骤S22中,按照每个图像计算图像特征量的距离(例:欧几里得距离)。例如在使用图6所示的4×4的矩阵62的图像特征量的情况下,在比较源图像的矩阵62与比较目标图像的矩阵62之间,求出16个矩阵要素各自的差值,16个差值的平方和的平方根为欧几里得距离。接着在步骤S23中,基于距离计算相似度(例如欧几里得距离的倒数)。进而在步骤S24中,将计算出的相似度在例如0~1的范围进行归一化。
图12表示在比较源图像组与比较目标图像组之间求出的相似度的一例的图。在表71中,横向的各栏(列)表示包含图像ID为B1至Bm的m张图像的第1组,纵向的各栏(行)表示包含图像ID为A1至An的n张图像的第2组。在该例中,2010年4月15日被指定为基准图像的日期,其前后±7日的从4月8日到4月22日为同步基准区间T。由此,选择了在为基准的日期拍摄得到的图像72(图像ID=Ai+2)和在其前后拍摄得到的具有Ai、Ai+1、Ai+3、Ai+4、Ai+5的图像ID的各图像,作为包含6张图像的比较源图像组。此外在该例中,提取比较目标图像的相似图像搜索区间被设定为与同步基准区间相同的区间T,选择了具有Bj、Bj+1、Bj+2、Bj+3的图像ID的各图像,作为包含4张图像的比较目标图像组。另外实际中,首先最开始将第1组同步基准区间T内的图像个数与第2组同步基准区间T内的图像个数进行比较,将个数较多的第1组图像设定为比较源图像组。
进而如图12所示,在图像ID为Ai至Ai+5的各图像与图像ID为Bj至Bj+3的各图像之间,计算相似度。该相似度在0~1的范围进行了归一化。在表71中,在对应于图像ID为Ai至Ai+5的各图像的行与对应于图像ID为Bj至Bj+3的各图像的列交叉的栏中记载的相似度为对应于该行的图像与对应于该列的图像之间的相似度。例如,图像ID为Ai的图像与图像ID为Bj+1的图像之间的相似度为0.18。
返回图10A,在步骤S8中,将与属于比较目标图像组的每个图像相比相似度最高的比较源图像设定为比较对。另外在图像重复的情况下,可以在显示时进行复制,也可以如前述那样,从相似度高的图像对优先选择不重复的图像对。
图13是表示将属于比较目标图像组的每个图像的相似度最高的比较源图像设定为比较对的处理的图。图13所示的相似度的数值例与图12所示的相似度的数值例相同。在表的纵向的各栏(各行)中,表示比较目标图像组的各图像(图像ID=Bj至Bj+3),在表的横向的各栏(各列)中,按照比较源图像相对于各比较目标图像的相似度从高到低的顺序,记载有各比较源图像的图像ID。例如,对于图像ID是Bj+2的比较目标图像,按照该比较目标图像与比较源图像的相似度从高到低的顺序排列比较源图像的图像ID后,成为Ai、Ai+4、Ai+1、Ai+5、Ai+2、Ai+3。在各图像ID的下方,在括弧内表示了相似度的数值。在图13的例子中,选择相对于比较目标图像Bj至Bj+3相似度最高的比较源图像后,成为Ai+5、Ai+3、Ai、Ai+4。
返回图10B,在步骤S9中,在属于比较源图像组的图像中,对于未选择为比较对的图像,将相似度最高的比较目标图像选择为比较对。这时,在图像重复的情况下,在显示时对图像进行复制。如图13所示,当对图像个数较少一方的比较目标图像分别分配比较源图像来确定图像对后,图像个数较多一方的比较源图像中的一些没有被包含在图像对中而导致余留。在上述的步骤S9中,对于这样没有被包含在图像对中而余留的比较源图像,执行分配比较目标图像的处理。
图14是用于说明对于没有被包含在图像对中而余留的比较源图像分配比较目标图像的处理的图。在图14中,在表的纵向的各栏(各行)中,表示比较源图像组的各图像(图像ID=Ai至Ai+5),在表的横向的各栏(各列)中,按照比较目标图像相对于各比较源图像的相似度从高到低的顺序,记载有各比较目标图像的图像ID。表中,用粗线框包围的Bj+2、Bj+1、Bj+3、Bj是在上述的步骤S8中如图13所示那样选择出的图像对中的比较目标图像。
如该表所示,对Ai、Ai+3、Ai+4、Ai+5的各比较源图像分配了成为对的比较目标图像,但是对Ai+1和Ai+2的比较源图像没有分配比较目标图像。因此,在图14所示的表中,对Ai+1和Ai+2的比较源图像,分别分配相似度最高的比较目标图像,即,Bj+2和Bj+1的比较目标图像,作为对。
图15是用粗线框将对Ai+1和Ai+2的比较源图像分别分配的Bj+2和Bj+1的比较目标图像包围而表示的图。通过这种方式,对全部6张比较源图像分配了比较目标图像。另外在该例的情况下,对于Bj+2和Bj+1,由于图像重复,因此在画面显示时进行了拷贝。
返回图10B,在步骤S10中,将比较源图像组以同步条件的顺序排序,比较目标图像组将比较源图像组的排序顺序作为基准,用成为比较对的图像进行排序并缩放显示。这时,对重复的比较目标图像进行适当地复制并显示。
图16是表示对应于图12至图15所示的例子的画面显示的例子的图。在图16的下段,按照对应于同步条件(从种植日起算的累计日数)顺序的拍摄日期时间的顺序并排地显示有6张比较源图像Ai、Ai+1、Ai+2、Ai+3、Ai+4、Ai+5。这里图像81(图像ID=Ai+2)是在2010年4月15日拍摄的图像,并且是在成为基准的日期拍摄的图像。在图16的上段,按照Bj+2、Bj+2、Bj+1、Bj+1、Bj+3、Bj的顺序在画面中显示有6张比较目标图像。在用箭头关联并在画面上段与画面下段相邻的图像彼此是按照上述的步骤将相似度高的图像彼此成为对,并且是适合作为比较对象的图像彼此。这6组对的图像间的相似度分别为1.00、0.72、0.93、0.96、0.37、0.95。
另外画面上段的比较目标图像的排列顺序为基于相似度的遵照与比较源图像的对应关系的排列顺序。此外在画面上段的比较目标图像中,从原本作为图像数据而存在的4张图像Bj、Bj+1、Bj+2、Bj+3中,对Bj+1和Bj+2这2张进行复制,显示为总计6张图像。由此,能够以与6张比较源图像一对一对应的形式,将比较目标图像并排地显示在与比较源图像相邻的位置。
图17是表示作为对于图16所示的画面显示方式的比较例,在将上段和下段的图像一起以拍摄日期时间的顺序配置时的画面显示的图。在图17的下段,按照对应于比较基准(从种植日起算的累计日数)的拍摄日期时间的顺序并排地显示有6张比较源图像Ai、Ai+1、Ai+2、Ai+3、Ai+4、Ai+5。这里图像82(图像ID=Ai+2)是在2010年4月15日拍摄的图像,并且是在成为基准的日期拍摄的图像。在图17的上段,按照Bj、Bj+1、Bj+2、Bj+3的顺序,即按照拍摄日期时间的顺序在画面中显示有4张比较目标图像。在画面上段与画面下段之间由虚线的箭头关联的图像彼此是相似度高的图像彼此,并且是适合作为比较对象的图像彼此。从错综复杂的虚线箭头可知,观察到该画面显示的用户通过目测来确定合适的比较对象的图像彼此并进行比较,从而难于进行比较动作。此外即便使上段与下段的显示个数一致,也只能如图17所示那样显示临时图像,或者进行复制并显示排序顺序的最后图像Bj+3之类的处理。因此,不能复制并显示适合作为比较对象的图像。
返回图10B,在步骤S11中,判定是否进行同步滑动操作。即判定是否点击了例如图1所示的同步滑动操作按键14。在执行同步滑动操作的情况下,在步骤S12中,根据同步滑动操作按键14的左右键操作,使基准图像在对应的方向上移动1个。例如若是在图16所示的例子中,将基准图像81从图像Ai+2变更为Ai+1或者Ai+3。然后,处理返回图10A的步骤S4,并反复进行以后的处理。例如,向左点击1次后,可以是成为基准的图像从Ai+2向Ai+1移动1个来显示以Ai+1的累计日数为基准的前后图像。如果在图像Ai+2和图像Ai+1的累计日数相同的情况下,则跳转(追溯)至比基准图像Ai+2的累计日数小的最开始的图像(在相应的图像中摄像日期时间最新的图像)为止。另外,如果在该跳转后的累计日数前后的显示对象的图像与跳转前相比没有变化的情况下,则反复上述的跳转,直到有变化为止。
此外在图10B的步骤S13中,判定是否变更缩小条件。即判定是否从例如图1所示的缩小条件设定菜单19中选择了新的缩小条件。在选择了新的缩小条件的情况下,在步骤S14中,变更设定,以使得仅将符合指定的缩小条件的图像组作为显示对象。然后,处理返回图10A的步骤S4,反复以后的处理。
进而在图10B的步骤S15中,判定是否变更同步条件。即判定是否从例如图1所示的同步条件设定菜单18中选择了新的同步条件。在选择了新的同步条件的情况下,在步骤S16中,根据用户选择设定同步条件,并将同步基准区间设定成缺省值。例如,在将从种植日起算的累计温度用作缺省作为比较基准的情况下,同步基准区间的±50℃的区间被设定成缺省。由此,以步骤S2中指定的基准图像的日期的累计温度为中心,将在±50℃的区间中拍摄的图像作为显示对象而显示。
另外在这种情况下,作为同步基准区间,可以根据步骤S2中选择的基准日期时间来选择不同长度的区间,而不设定如±50℃那样固定长度的区间。如上所述,作为使同步基准区间变化的单位,考虑使用生长发育阶段。例如当基准图像的日期符合生长发育阶段的定植期时,可以设定比较短的±50℃的区间。此外例如当基准图像的日期符合收获期时,可以设定比较长的±100℃的区间。这种根据指定的基准图像的日期(或者累计温度)而设定不同区间的动作由图像显示装置(计算机)执行,不用经过人手就可以自动地设定区间。在步骤S16之后,处理返回图10A的步骤S4,反复以后的处理。
进而在图10B的步骤S17中,判定是否变更同步基准区间。即判定是否从例如图1所示的同步基准区间设定菜单17中选择了新的同步基准区间。在选择了新的同步基准区间的情况下,在步骤S18中,根据用户指定来设定同步基准区间。然后,处理返回图10A的步骤S4,反复以后的处理。
在图10A和10B所示的流程图中,对从同步基准区间或者相似图像搜索区间选择的图像计算相似度。对此,也可以预先在各组的全部图像之间计算相似度。
图18是表示在2组全部图像之间计算相似度的例子的图。在图18所示的表中,横向的各栏(列)表示包含图像ID为B1至Bm的m张图像的第1组,纵向的各栏(行)表示包含图像ID为A1至An的n张图像的第2组。在该例中,对于能够在第1组的m张图像与第2组的n张图像之间生成的全部对,计算了相似度。
图19是表示在预先计算的相似度中,提取对于从同步基准区间或者相似图像搜索区间选择出的图像的相似度的状态的图。在图19所示的例子中,2010年4月15日被指定为基准图像的日期,其前后±7日即从4月8日至4月22日为同步基准区间。由此,选择了包含在成为基准的日期拍摄的图像并且在其前后拍摄的第2组图像即具有Ai、Ai+1、Ai+2、Ai+3、Ai+4、Ai+5的图像ID的第2组图像。此外同样地,选择了具有包含在同步基准区间的Bj、Bj+1、Bj+2、Bj+3的图像ID的第1组图像。若将在这些图像ID为Ai至Ai+5的各图像与图像ID为Bj至Bj+3的各图像之间已经计算的相似度83在0~1的范围进行归一化,则能够得到与图12所示的相同的相似度的数据。例如在图10A和10B所示的流程图中,可以在步骤S1开始前,预先如图18所示那样对全部图像对计算相似度。然后,在步骤S7中代替计算相似度,从已经计算的相似度数据中提取符合部分的相似度数据,并根据需要对所提取的相似度数据进行归一化即可。
图20是表示执行图像显示方法的装置的结构的图。
如图20所示,通过例如个人计算机、工程工作站、服务器端计算机等计算机来实现执行图像显示方法的装置。图20的装置由计算机510、以及与计算机510连接的显示器装置520、通信装置523、输入装置组成。输入装置包含例如键盘521和鼠标522。计算机510包含:CPU511、RAM512、ROM513、硬盘等二次存储装置514、可拆卸介质存储装置515、以及接口516。
键盘521和鼠标522提供与用户的接口,并输出用于操作计算机510的各种指令、用户对请求数据的响应等。显示器装置520显示由计算机510处理的结果等,并且在操作计算机510时,为了能够与用户对话而进行各种数据显示。通信装置523用于进行与远程的通信,例如由调制解调器、网络接口等组成。
本发明的图像显示方法作为计算机510能够执行的计算机程序而被提供。该计算机程序被存储在存储介质M中,该存储介质M能够安装于可拆卸介质存储装置515,从存储介质M经由可拆卸介质存储装置515,加载于RAM512或者二次存储装置514。或者,该计算机程序被存储在处于远程的存储介质(未图示)中,从存储介质经由通信装置523和接口516,加载于RAM512或者二次存储装置514。
当经由键盘521和/或鼠标522存在来自用户的程序执行指示时,CPU511从存储介质M、远程存储介质、或者二次存储装置514中将程序加载至RAM512。CPU511将RAM512的空置存储空间作为工作区域而使用,并执行加载至RAM512的程序,适当地一边与用户对话一边进行处理。另外,ROM513中存放有用于控制计算机510的基本动作的控制程序。
计算机510通过执行上述计算机程序,如上述说明那样执行图像显示方法。计算机510可以将通过图像显示方法生成的显示画面数据显示在本地显示器装置520中。此外或者计算机510是对客户端计算机提供例如云服务的服务器端计算机。在这种情况下,计算机510可以将通过图像显示方法生成的显示画面数据,经由与通信装置523连接的因特网等网络,发送给客户端计算机。客户端计算机可以经由浏览器,在客户端计算机的显示器中显示所接收的显示画面数据。
另外在上述的实施例的说明中,针对以农场中的巡视照片为对象的图像显示方法进行了说明,但是本发明的图像显示方法的对象并不限定于巡视照片。公开的图像显示方法能够以例如背、胸部X线图像、CT图像、MRI图像等医用图像为对象,当在相似病症的患者之间比较图像或者比较同一患者的去年与今年的图像时而使用。这种情况下的用户为诊断医生、实习医生、研究者等。同步基准考虑从用药或实施手术起算的经过日数、累计的用药量等。对相似图像搜索区间而言,如果同步基准为从用药起算的经过日数,刚用药后由于希望比较微小的经过,因此可以较窄地设定区间,相反如果从用药起经过了时间由于没有较大的变化,则可以较宽地设定区间。缩小条件可以是图像类别(X线、CT、MRI、内视镜等)。
此外公开的图像显示方法能够在非法拷贝检测领域中当以动态图像为对象,将原本影像内的各场景的代表图像与怀疑是非法拷贝的影像内的各场面的代表图像进行比较,通过目测来判定是否是非法拷贝时而使用。这种情况下的用户为版权持有人、揭露非法的负责人等。同步基准考虑从开始影像起算的经过时间、各场面的优先度等。对相似图像搜索区间而言,例如在以优先度作为同步基准的情况下,对于优先度高的场景,由于希望广泛地找寻相似图像,因此可以较宽地设定区间,如果是优先度较低的场景,则可以较窄地设定区间。缩小条件可以是场景的属性(对话场景、音乐场景、人物场景等)。
以上,根据实施例对本发明进行了说明,但是本发明并不限定于上述实施例,能够在权利要求书所记载的范围内进行各种变形。
图中附图标记说明:
31…图像分类处理部;32…显示控制处理部;33…图像存储部;34…特征量存储部;35…学习参数存储部;36…分类结果存储部;37…图像属性信息存储部;41…图像特征提取部;42…识别器学习部;43…图像分类部;44…相似度计算部;45…显示控制部;46…用户接口部。
Claims (12)
1.一种图像显示方法,其特征在于,包含:
根据比较基准从各自包含多个图像的多个组分别选择多个图像的步骤;
在所述选择出的图像的个数相对少的组中对图像进行复制,使各组中的选择图像的个数相同的步骤;以及
在根据相似度将所述选择图像彼此在所述多个组间一对一地建立关联的状态下,生成并列显示所述多个组彼此的显示画面数据的步骤,
由计算机执行各个所述步骤,
从所述多个组中的至少2个组选择出的图像的个数不同。
2.根据权利要求1所述的图像显示方法,其特征在于,
还包含对所述多个组中的第一组所包含的1个图像与所述多个组中的第二组所包含的1个图像组成的图像对,求出所述相似度的步骤,
在将选择图像的个数设为数量相同的步骤中,根据所述相似度来选择并复制待复制的图像。
3.根据权利要求2所述的图像显示方法,其特征在于,
在所述复制的步骤中,在所述选择出的图像的个数相对少的第1组的n张图像与所述选择出的图像的个数相对多的第2组的m张图像之间,比较图像对的所述相似度,从所述相似度高的图像对中优先选择图像不重复的n个图像对,对所述第2组的所述m张图像中所述选择出的n个图像对不包含的m-n个剩余图像,复制与所述m-n个剩余图像的所述相似度最高的所述第1组的图像,其中,m>n。
4.根据权利要求3所述的图像显示方法,其特征在于,
在所述生成显示画面数据的步骤中,所述选择出的n个图像对以及所述m-n个剩余图像与所述复制后的图像组成的图像对总计m个图像对以成对的图像彼此相邻的方式并列地配置所述多个组彼此,并且将图像的显示顺序设为使所述第2组的所述m张图像依照所述比较基准的顺序。
5.根据权利要求1至4中任一项所述的图像显示方法,其特征在于,
还包含当指定了所述比较基准的基准点时根据所述基准点来确定所述比较基准的范围的步骤,
在所述选择多个图像的步骤中,从所述多个组分别选择进入所述比较基准的所述范围的多个图像。
6.根据权利要求5所述的图像显示方法,其特征在于,
在所述确定比较基准的范围的步骤中,在所述比较基准不同的情况下使所述比较基准的范围不同。
7.一种图像显示装置,其特征在于,
包含处理单元和存放程序以及图像数据的存储器,
通过所述处理单元执行存放在所述存储器中的所述程序来执行各步骤,该各步骤包含:
根据比较基准从各自包含多个图像的多个组分别选择多个图像;
在所述选择出的图像的个数相对少的组中对图像进行复制,使各组中的选择图像的个数相同;
在根据相似度将所述选择图像彼此在所述多个组间一对一地建立关联的状态下,生成并列显示所述多个组彼此的显示画面数据,
从所述多个组中的至少2个组选择出的图像的个数不同。
8.根据权利要求7所述的图像显示装置,其特征在于,
还包含对所述多个组中的第一组所包含的1个图像与所述多个组中的第二组所包含的1个图像组成图像对,求出所述相似度的步骤,
在将选择图像的个数设为数量相同的步骤中,根据所述相似度来选择并复制待复制的图像。
9.根据权利要求8所述的图像显示装置,其特征在于,
在所述复制的步骤中,在所述选择出的图像的个数相对少的第1组的n张图像与所述选择出的个数相对多的第2组的m张图像之间,比较图像对的所述相似度,从所述相似度高的图像对中优先选择图像不重复的n个图像对,对所述第2组的所述m张图像中所述选择出的n个的图像对不包含的m-n个剩余图像,复制与所述m-n个剩余图像的所述相似度最高的所述第1组的图像,其中,m>n。
10.根据权利要求9所述的图像显示装置,其特征在于,
在所述显示的步骤中,将所述选择出的n个图像对以及所述m-n个剩余图像与所述复制后的图像组成的图像对总计m个图像对以成对的图像彼此相邻的方式并列地配置所述多个组彼此,并且将图像的显示顺序设为使所述第2组的所述m张图像依照所述比较基准的顺序。
11.根据权利要求7至10中任意一项所述的图像显示装置,其特征在于,
还包含当指定了所述比较基准的基准点时根据所述基准点来确定所述比较基准的范围的步骤,
在所述选择多个图像的步骤中,从所述多个组分别选择进入所述比较基准的所述范围的多个图像。
12.根据权利要求11所述的图像显示装置,其特征在于,
在所述确定比较基准的范围的步骤中,在所述比较基准不同的情况下使所述比较基准的范围不同。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2011/072483 WO2013046414A1 (ja) | 2011-09-29 | 2011-09-29 | 画像表示方法、画像表示プログラム、及び画像表示装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103493092A CN103493092A (zh) | 2014-01-01 |
CN103493092B true CN103493092B (zh) | 2017-02-15 |
Family
ID=47994521
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180070334.0A Active CN103493092B (zh) | 2011-09-29 | 2011-09-29 | 图像显示方法、图像显示程序以及图像显示装置 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP5725193B2 (zh) |
CN (1) | CN103493092B (zh) |
WO (1) | WO2013046414A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019158555A (ja) * | 2018-03-13 | 2019-09-19 | 株式会社Screenホールディングス | 欠陥確認装置、欠陥確認方法およびプログラム |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1965299A (zh) * | 2004-06-09 | 2007-05-16 | 松下电器产业株式会社 | 复制控制信息决定装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090220135A1 (en) * | 2008-02-28 | 2009-09-03 | Keigo Nakamura | System, server, method and program for image transfer |
JP2009282606A (ja) * | 2008-05-20 | 2009-12-03 | Ricoh Co Ltd | 画像閲覧装置およびプログラム |
JP5599572B2 (ja) * | 2009-03-12 | 2014-10-01 | 富士フイルム株式会社 | 症例画像検索装置、方法およびプログラム |
-
2011
- 2011-09-29 WO PCT/JP2011/072483 patent/WO2013046414A1/ja active Application Filing
- 2011-09-29 CN CN201180070334.0A patent/CN103493092B/zh active Active
- 2011-09-29 JP JP2013535757A patent/JP5725193B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1965299A (zh) * | 2004-06-09 | 2007-05-16 | 松下电器产业株式会社 | 复制控制信息决定装置 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2013046414A1 (ja) | 2015-03-26 |
CN103493092A (zh) | 2014-01-01 |
JP5725193B2 (ja) | 2015-05-27 |
WO2013046414A1 (ja) | 2013-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Lu et al. | Generative adversarial networks (GANs) for image augmentation in agriculture: A systematic review | |
US20230033601A1 (en) | Dynamic self-learning medical image method and system | |
CN103200861B (zh) | 类似病例检索装置以及类似病例检索方法 | |
US20200320336A1 (en) | Control method and recording medium | |
US7130457B2 (en) | Systems and graphical user interface for analyzing body images | |
US8583664B2 (en) | Exposing metadata relationships through filter interplay | |
CN108399452A (zh) | 用于执行多重分析的神经网络的权重的分层学习 | |
CN102834839A (zh) | 检查信息显示装置及方法 | |
CN105593901A (zh) | 训练数据生成设备、方法和程序以及人群状态识别设备、方法和程序 | |
WO2010035380A1 (ja) | データ検索装置およびその制御方法、データ検索システム | |
JP2016006635A (ja) | 制御方法及びプログラム | |
JP2013106951A (ja) | ユーザからの明示的な学習により駆動されるスマートpacsワークフローシステムおよび方法 | |
Nasution et al. | Eggplant disease detection using yolo algorithm telegram notified | |
CN106250665A (zh) | 信息处理装置、信息处理方法及信息处理系统 | |
CN110097128A (zh) | 医学图像分类装置及系统 | |
Bruckner | Ml-o-scope: a diagnostic visualization system for deep machine learning pipelines | |
CN103493092B (zh) | 图像显示方法、图像显示程序以及图像显示装置 | |
US20150154356A1 (en) | Arrangements for viewing clinical images | |
CN116188855A (zh) | 多尺度的植物病害识别方法、设备、存储介质及装置 | |
JP5431088B2 (ja) | 情報検索装置、及び情報処理方法 | |
JP2006235971A (ja) | 画像参照装置及び画像分類検索方法 | |
Jimenez-Nixon et al. | Coral detection using artificial neural networks based on blurry images for reef protection in cayo blanco, honduras | |
CA3195528A1 (en) | Determining cereal grain crop yield based on cereal grain trait value(s) | |
JP6332443B2 (ja) | 圃場の作業スケジュール表示方法、作業スケジュール表示プログラムおよび作業スケジュール表示装置 | |
CN112635070A (zh) | 一种患者临床信息采集及展示方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |