发明内容
鉴于上述的课题,本发明的目的在于提供一种即使处理比较大的缩略图像时也不会引起图像质量劣化,可以高速显示缩略图像的图像数据处理装置、图像数据处理方法、以及可传送缩略图像的图像数据配送装置以及图像数据传送系统。
为了解决上述课题,本发明的图像数据处理装置,是将原图像分割成由多个像素构成的多个块、在各个块中根据以上述块的空间频率成份作为多个空间频率系数进行编码后的编码图像数据、生成按照给定缩小率缩小上述原图像后的缩小图像的作为编码数据的缩小编码图像数据的图像数据处理装置,包括:从上述多个块中依次抽出作为处理对象块的各块的块抽出装置;从上述处理对象块的上述多个空间频率系数中抽出直流成份系数的DC系数抽出装置;从上述多个块中将在上述处理对象块的水平方向、垂直方向、以及斜方向的任一方向上相邻的至少一个相邻块的直流成份系数抽出作为至少一个相邻直流成份系数的相邻DC系数抽出装置;对上述处理对象块的上述直流成份系数、和上述至少一个相邻直流成份系数进行比较、求出表示双方之间的相异程度的、以上述直流成份系数和上述至少一个相邻直流成份系数作为变量的、函数的值的DC系数比较装置;当上述函数的值比给定值大时、对上述处理对象块的上述多个空间频率系数、按照上述缩小率从包含上述直流成份系数的低频率的空间频率系数中保留比上述多个少的个数的空间频率系数、而将其它空间频率系数设定为零的系数集设定装置;和当上述函数的值小于上述给定值时、对上述处理对象块的上述多个空间频率系数、只保留上述直流成份系数、而将其它空间频率系数设定为零的DC系数设定装置。
依据这样的构成,本发明的图像数据处理装置,对于原图像的编码图像数据,在图像的灰度或者颜色变化比较平缓的上述函数的值比较小的区域,只利用该块的直流成份系数,而在图像的轮廓等边界区域的上述函数的值比较大的区域,只利用该块中与图像缩小率对应的个数的低频端的系数,这样可以生成缩小图像用的缩小编码图像数据。即,本发明的图像数据处理装置,基于图像的视觉特性,首先,对于块噪声等不太明显的图像灰度或者颜色变化平缓的区域,由于只利用直流成份系数,削减了有效系数的个数,实现了编码量的减少。进一步,本发明的图像数据处理装置,基于图像的视觉特性,对于因系数削减导致图像质量明显劣化的图像轮廓等边界领域,通过选择与图像缩小率对应的个数的低频端的系数,在抑制由于系数削减引起的图像质量劣化的同时,削减了有效系数的个数,达到了编码量的减少。这样,本发明的图像数据处理装置,由于根据图像缩小率、以及是否是图像边界领域而能够适当改变有效的空间频率系数的个数,在降低从编码量的减少到显示缩小图像的处理负担的同时,可以显示能抑制图像质量劣化的缩小图像。因此,通过利用由本发明的图像数据处理装置生成的缩小编码图像数据,即使处理比较大的缩小图像时,也不会引起图像质量的劣化,可以高速显示缩小图像。
优选上述至少一个相邻块,是一个相邻块;上述函数的值是上述直流成份系数和上述相邻直流成份系数之间的差分值的绝对值。
或者,优选上述至少一个相邻块,是多个相邻块;上述函数的值是包含在上述多个相邻块中的多个相邻直流成份系数的平均值、和上述处理对象块的上述直流成份系数之间的差分值的绝对值。
或者,优选上述至少一个相邻块,是多个相邻块;上述函数的值是对包含在上述多个相邻块中的多个相邻直流成份系数按照相邻方向通过加权平均计算求出的平均值、和上述直流成份系数之间的差分值的绝对值。
或者,优选上述至少一个相邻块,是多个相邻块;上述函数的值是包含在上述多个相邻块中的各相邻直流成份系数、和上述处理对象块的上述直流成份系数之间的各差分值的绝对值中最大的值。
或者,优选上述至少一个相邻块,是多个相邻块;上述函数的值是包含在上述多个相邻块中的各相邻直流成份系数、和上述处理对象块的上述直流成份系数之间的各差分值的绝对值之和。
再有,优选以系数集设定装置保存的比上述多个要少的上述空间频率系数的个数与上述多个空间频率系数的个数之间的比率作为系数削减率;上述系数集设定装置、将上述缩小率分割成多段、根据上述各段缩小率设定上述系数削减率、同时当上述函数的值比上述给定值大时、根据上述系数削减率保留比上述多个要少的个数的上述空间频率系数、而将上述其它空间频率系数设定成零。
更优选上述图像数据处理装置进一步包括:受理上述缩小率的输入的输入处理装置;对所生成的上述缩小编码图像数据解码的解码装置;缩小解码后的上述缩小编码图像数据的图像尺寸的图像尺寸缩小装置;在画面上显示缩小后的上述缩小编码图像数据的画面显示装置。
再有,优选上述编码图像数据是彩色编码图像数据;上述给定值按各个颜色成份分别给出。
再有,优选上述编码图像数据是彩色编码图像数据;上述系数集设定装置、按照每个颜色成份确定比上述多个要少的上述空间频率系数的个数。
进一步,优选上述编码图像数据是彩色编码图像数据;上述块抽出装置、只针对给定的颜色成份抽出上述处理对象块。
再有,优选上述编码图像数据是变长编码数据;上述系数集设定装置以及上述DC系数设定装置、通过在应保留的上述空间频率系数的所有之后添加表示块结束的符号、并且删除上述其它空间频率系数、而将上述其它空间频率系数设定成零。
本发明的图像数据处理方法,是将原图像分割成由多个像素构成的多个块、在各个块中根据以上述块的空间频率成份作为多个空间频率系数进行编码后的编码图像数据、生成按照给定缩小率缩小上述原图像后的缩小图像的作为编码数据的缩小编码图像数据的图像数据处理方法,包括从上述多个空间频率系数中抽出直流成份系数的第一步骤;从上述抽出了直流成份系数的块中将在水平方向、垂直方向、以及斜方向的任一方向上相邻的至少一个相邻块的直流成份系数抽出作为至少一个相邻直流成份系数的第二步骤;对上述直流成份系数、和上述至少一个相邻直流成份系数进行比较、求出表示双方之间的相异程度的、以上述直流成份系数和上述至少一个相邻直流成份系数作为变量的、函数的值的第三步骤;当上述函数的值比给定值大时、对上述多个空间频率系数、按照上述缩小率从包含上述直流成份系数的低频率的空间频率系数中保留比上述多个少的个数的空间频率系数、而将其它空间频率系数设定为零的第四步骤;和当上述函数的值小于上述给定值时、对上述多个空间频率系数、只保留上述直流成份系数、而将其它空间频率系数设定为零的第五步骤;通过对上述各块执行上述各步骤,生成以上述缩小率缩小上述原图像后的缩小图像的、作为编码数据的、上述缩小编码图像数据。
依据这样的构成,本发明的图像数据处理方法,对于原图像的编码图像数据,在图像的灰度或者颜色变化比较平缓的上述函数的值比较小的区域,只利用该块的直流成份系数,而在图像的轮廓等边界区域的上述函数的值比较大的区域,只利用该块中与图像缩小率对应的个数的低频端的系数,这样可以生成缩小图像用的缩小编码图像数据。即,本发明的图像数据处理方法,基于图像的视觉特性,首先,对于块噪声等不太明显的图像灰度或者颜色变化平缓的区域,由于只利用直流成份系数,削减了有效系数的个数,实现了编码量的减少。进一步,本发明的图像数据处理方法,基于图像的视觉特性,对于因系数削减导致图像质量明显劣化的图像轮廓等边界领域,通过选择与图像缩小率对应的个数的低频端的系数,在抑制由于系数削减引起的图像质量劣化的同时,削减了有效系数的个数,达到了编码量的减少。这样,本发明的图像数据处理方法,由于根据图像缩小率、以及是否是图像边界领域而能够适当改变有效的空间频率系数的个数,在实现编码量的减少的同时,可以生成能抑制图像质量劣化的缩小图像用的缩小编码图像数据。因此,通过利用由本发明的图像数据处理方法生成的缩小编码图像数据,即使处理比较大的缩小图像时,在降低到显示缩小图像的处理为止的负担的同时,还可以降低图像质量劣化状况。
优选上述至少一个相邻块,是一个相邻块;上述函数的值是上述直流成份系数和上述相邻直流成份系数之间的差分值的绝对值。
或者,优选上述至少一个相邻块,是多个相邻块;上述函数的值是包含在上述多个相邻块中的多个相邻直流成份系数的平均值、和上述直流成份系数之间的差分值的绝对值。
或者,优选上述至少一个相邻块,是多个相邻块;上述函数的值是对包含在上述多个相邻块中的多个相邻直流成份系数按照相邻方向通过加权平均计算求出的平均值、和上述直流成份系数之间的差分值的绝对值。
或者,优选上述至少一个相邻块,是多个相邻块;上述函数的值是包含在上述多个相邻块中的各相邻直流成份系数、和上述直流成份系数之间的各差分值的绝对值中最大的值。
或者,优选上述至少一个相邻块,是多个相邻块;上述函数的值是包含在上述多个相邻块中的各相邻直流成份系数、和上述直流成份系数之间的各差分值的绝对值之和。
再有,优选以上述第四步骤保存的比上述多个要少的上述空间频率系数的个数与上述多个空间频率系数的个数之间的比率作为系数削减率;上述第四步骤、将上述缩小率分割成多段、根据上述各段缩小率设定上述系数削减率、同时当上述函数的值比上述给定值大时、根据上述系数削减率保留比上述多个要少的个数的上述空间频率系数、而将上述其它空间频率系数设定成零。
更优选上述图像数据处理方法进一步包括:受理上述缩小率的输入的第六步骤;对所生成的上述缩小编码图像数据解码的第七步骤;将解码后的上述缩小编码图像数据的图像尺寸缩小的第八步骤;和在画面上显示缩小后的上述缩小编码图像数据的第九步骤。
再有,优选上述编码图像数据是彩色编码图像数据;上述给定值按各个颜色成份分别给出。
再有,优选上述编码图像数据是彩色编码图像数据;上述第四步骤、按照每个颜色成份确定比上述多个要少的上述空间频率系数的个数。
进一步,优选上述编码图像数据是彩色编码图像数据;上述图像数据处理方法、只针对给定的颜色成份对上述各块执行上述第一到第五步骤。
再有,优选上述编码图像数据是变长编码数据;上述第四步骤以及上述第五步骤、通过在应保留的上述空间频率系数的所有之后添加表示块结束的符号、并且删除上述其它空间频率系数、而将上述其它空间频率系数设定成零。
本发明的图像数据配送装置,是将原图像分割成由多个像素构成的多个块、在各个块中根据以上述块的空间频率成份作为多个空间频率系数进行编码后的编码图像数据、生成按照给定缩小率缩小上述原图像后的缩小图像的作为编码数据的缩小编码图像数据、经过网络传送上述缩小编码图像数据的图像数据配送装置,包括:存储多个上述编码图像数据的编码图像数据存储装置;从在上述编码图像数据存储装置中存储的上述多个编码图像数据中读取与一个图像对应的编码图像数据的编码图像数据读取装置;和权利要求1到12中任一项上述的图像数据处理装置;上述图像数据处理装置,根据由上述编码图像数据读取装置所读取的编码图像数据生成上述缩小编码图像数据;上述图像数据配送装置,进一步包括将由上述图像数据处理装置生成的上述缩小编码图像数据向上述网络传送的传送装置。
进一步,本发明的图像数据传送系统,是包括本发明的图像数据配送装置、通过上述网络可以将上述图像数据配送装置与自己连接的终端装置的图像数据传送系统,上述终端装置包括:接收由上述传送装置传送来的上述缩小编码图像数据的缩小编码图像数据接收装置;对所接收的上述缩小编码图像数据解码的解码装置;对解码后的上述缩小编码图像数据的图像尺寸缩小的图像尺寸缩小装置;和在画面上显示缩小后的上述缩小编码图像数据的画面显示装置。
依据这样的构成,本发明的图像数据配送装置以及图像数据传送系统,对于原图像的编码图像数据,在图像的灰度或者颜色变化比较平缓的上述函数的值比较小的区域,只利用该块的直流成份系数,而在图像的轮廓等边界区域的上述函数的值比较大的区域,只利用该块中与图像缩小率对应的个数的低频端的系数,这样可以生成缩小图像用的缩小编码图像数据并进行传送。即,本发明的图像数据配送装置以及图像数据传送系统,基于图像的视觉特性,首先,对于块噪声等不太明显的图像灰度或者颜色变化平缓的区域,由于只利用直流成份系数,削减了有效系数的个数,实现了编码量的减少。进一步,本发明的图像数据配送装置以及图像数据传送系统,基于图像的视觉特性,对于因系数削减导致图像质量明显劣化的图像轮廓等边界领域,通过选择与图像缩小率对应的个数的低频端的系数,在抑制由于系数削减引起的图像质量劣化的同时,削减了有效系数的个数,达到了编码量的减少。这样,本发明的图像数据配送装置以及图像数据传送系统,由于根据图像缩小率、以及是否是图像边界领域而能够适当改变有效的空间频率系数的个数,在降低从编码量的减少到显示缩小图像的处理负担的同时,可以传送能抑制图像质量劣化的缩小图像。因此,通过利用由本发明的图像数据配送装置以及图像数据传送系统生成的缩小编码图像数据,即使处理比较大的缩小图像时,也不会引起图像质量的劣化,可以高速传送缩小图像,在终端装置中,可以高速显示能抑制图像质量劣化的所希望缩小尺寸的缩小图像。
优选,在上述图像数据传送系统中,上述终端装置进一步包括:受理从在上述编码图像数据存储装置中存储的上述多个编码图像数据中指定与一个图像对应的编码图像数据的请求的图像请求输入装置;和将所受理的上述请求通过上述网络向上述图像数据配送装置传送的图像请求传送装置;上述图像数据配送装置进一步包括接收传送来的上述请求的图像请求接收装置;上述编码图像数据读取装置,从在上述编码图像数据存储装置中存储的上述多个编码图像数据中读取与上述请求对应的编码图像数据。
进一步优选,上述终端装置进一步包括:受理上述缩小率的输入的缩小率输入装置;和通过网络将所受理的上述缩小率向上述图像数据配送装置传送的缩小率传送装置;上述图像数据配送装置进一步包括接收传送来的上述缩小率的缩小率接收装置;上述图像数据处理装置,以所接收的上述缩小率作为上述给出的缩小率生成上述缩小编码图像数据。
如上所述,本图像数据处理装置,在生成缩略图像那样的缩小图像时,对于原图像的编码图像数据,在图像的灰度或者颜色变化比较平缓的区域,只利用该块的直流成份系数,而在图像的轮廓等边界区域的区域,只利用该块中与图像缩小率对应的个数的低频端的系数,生成缩小图像用的缩小编码图像数据。即,本图像数据处理装置,基于图像的视觉特性,由于根据图像缩小率、以及是否是图像边界领域而能够适当改变有效的空间频率系数的个数,即使处理比较大的缩小图像时,由于降低了编码量而可以减轻到显示缩小图像为止的处理负担,同时也可以抑制图像质量的劣化。这样,本图像数据处理装置,即使处理比较大的缩略图像时,也不会引起图像质量的劣化,可以高速显示缩小图像。
再有,本图像数据处理方法,在生成缩略图像那样的缩小图像时,对于原图像的编码图像数据,在图像的灰度或者颜色变化比较平缓的区域,只利用该块的直流成份系数,而在图像的轮廓等边界区域的区域,只利用该块中与图像缩小率对应的个数的低频端的系数,生成缩小图像用的缩小编码图像数据。即,本图像数据处理方法,基于图像的视觉特性,由于根据图像缩小率、以及是否是图像边界领域而能够适当改变有效的空间频率系数的个数,可以降低编码量,同时可以生成能一种图像质量劣化的缩小图像用的缩小编码图像数据。进一步,通过利用这样的缩小编码图像数据,即使处理比较大的缩小图像时,可以减轻到显示缩小图像为止的处理负担,可以减轻图像质量劣化的状况。
本图像数据配送装置以及本图像数据传送系统,在生成缩略图像那样的缩小图像时,对于原图像的编码图像数据,在图像的灰度或者颜色变化比较平缓的区域,只利用该块的直流成份系数,而在图像的轮廓等边界区域的区域,只利用该块中与图像缩小率对应的个数的低频端的系数,生成缩小图像用的缩小编码图像数据并传送。即,本图像数据配送装置以及本图像数据传送系统,基于图像的视觉特性,由于根据图像缩小率、以及是否是图像边界领域而能够适当改变有效的空间频率系数的个数,即使传送比较大的缩小图像时,由于降低了编码量而可以减轻传送负担,同时也可以抑制图像质量的劣化。这样,本图像数据配送装置以及本图像数据传送系统,即使处理比较大的缩略图像时,也不会引起图像质量的劣化,可以高速传送缩小图像。
因此,依据本发明,可以提供一种即使处理比较大的缩略图像时,也不会导致图像质量劣化,可以高速显示缩略图像的图像数据处理装置、图像数据处理方法,同时提供一种可以高速传送缩略图像的图像数据配送装置以及图像数据传送系统。
具体实施方式
以下参照附图说明本发明的实施方式。
(实施方式1)
图1表示本发明实施方式1中的图像数据处理装置的整体构成方框图。本图像数据处理装置1的特征:由储存根据JPEG方式等进行压缩编码的图像数据的储存装置,抽出用户指定的图像数据,进而按照用户指定的缩小率的图像尺寸显示该图像。
在图1中,输入装置18是指键盘或者遥控器等,根据用户对该输入装置18的操作,由用户输入各种指示。输入处理装置17,将用户输入的指示作为指示信息,通知用户指示判定装置16。用户指示判定装置(以下,称为判定装置)16,基于指示信息解析用户指示的内容。进一步,判定装置16,指令各部执行该解析结果对应的处理,通知为此的信息。例如,在用户发出显示缩小图像的指示时,判定装置16这时输出用户指定的图像文件名以及图像尺寸等信息。在图1中,由于要进行作为图像数据处理装置1的特征的缩小图像的处理,判定装置16构成为输出用于检索被指示的图像文件的图像识别信息,以及用于按指定的图像尺寸进行显示的图像尺寸信息。
编码图像文件储存装置(以下,称为储存装置)10,作为编码图像数据储存装置作用,例如,具有硬盘驱动器等那样的记录介质,将由JPEG方式进行压缩编码的图像数据(以下,称编码图像)作为图像文件,储存到该记录介质中。储存的图像文件,根据用户的操作,可以从因特网、CD-ROM(Compact Disc-ROM),DVD(Digital Video Disc),或者电子静止照相机中取得。这样,在储存装置10中,作为原图像的编码图像文件,储存了多个图像文件。编码图像数据读取装置(以下,称读取装置)11,从储存在储存装置10的多个图像文件中,读取对应于图像识别信息的图像文件。读取的图像文件,经过各项处理,由图像显示装置15,在作为显示装置作用的监视器19上显示。
这样,用户可以从在储存装置10内储存的多个图像文件中指定希望的图像文件,进行图像显示。而且,当用户从储存装置10存储的多个图像文件中检索希望的图像时,利用显示多个缩略图像的索引显示,能够容易寻找到希望的图像。进一步,图像数据处理装置1的特点是也可以指定缩略图像的显示尺寸。也就是说,图像数据处理装置1的特点是具有按照用户指定的缩小率的图像尺寸生成缩略图像的装置。
编码图像数据加工装置(以下,称为加工装置)12,是指将用读取装置11读取的图像文件,也就是对应于一个图像的编码图像数据,转换成缩略图像(即缩小图像)用的图像数据进行加工的装置。加工装置12,基于从判定装置16得到的图像尺寸信息,将编码图像数据变换成作为对应于该缩小尺寸的编码图像数据的缩小编码图像。
解码装置13,对于该缩小编码图像数据,解码该编码图像数据,恢复和原图像相同尺寸的解码图像数据。图像尺寸缩小装置(以下,称缩小装置)14,对于由解码装置13恢复的解码图像数据,对应于用户指定的图像尺寸间取像素,生成缩小图像数据。画面显示装置15,为了将缩小图像数据显示在监视器19的画面上,向监视器19输出缩小图像数据。
如上所述,本实施方式1的图像数据处理装置1,读出记录在储存装置10中的原图像的编码图像数据,由加工装置12生成对应于图像尺寸信息的缩小图像用的缩小编码图像数据,通过解码、缩小该缩小编码图像数据,将原图像的缩略图像显示在监视器19上。
图2表示在本实施方式中,作为本图像数据处理装置的特点的加工装置12的详细构成方框图。在图2中,编码图像数据缓存器(下称缓存器)120,临时保存由读取装置11读取的用户指定的编码图像数据。
微块抽出部(以下称MB抽出部)121,从缓存器120依次抽出与各微块对应的编码图像数据。图2表示MB抽出部121抽出第n微块MBn的情况。因为对于被抽出的微块MBn要进行以下的处理,抽出的微块MBn被称为处理对象块。另外,例如,当编码方式是JPEG方式时,没有编码的原图像数据,被分割成8×8像素的各块,对各块实施离散余弦变换,结果得到对应于各块的各空间频率成份的空间频率系数。另外,对于一个块,作为空间频率系数,从直流成份的系数的直流成份系数(以下称DC系数)到作为交流成份系数的AC系数,直到空间频率高的成份获得8×8个系数。该8×8个系数,由作为一个块的微块构成。编码图像数据,由这样的微块多个组合构成。由此,MB抽出部121,在编码图像数据是JPEG方式时,在处理第n个微块时,抽出微块MBn的8×8个系数。
系数集抽出部122,从包含在微块MBn的多个系数中,将与为缩小原图像的缩小率对应的个数的系数,作为缩小系数集进行抽出。该缩小系数集,比包含在微块MBn中的系数的个数少,从包含DC系数的低频系数中抽出。系数集抽出部122,如上所述把抽出的缩小系数集作为缩小系数集SMBn进行输出。
DC系数抽出部123,从包含在微块MBn中的多个系数中只抽出DC系数,输出作为直流成份系数的DC系数DCn。
相邻DC系数抽出部124,抽出与处理对象块的微块MBn相邻的微块的相邻直流成份系数(以下,称相邻DC系数)。这里,表示了作为在图像水平方向左右相邻的微块的相邻DC系数,抽出相邻DC系数DCn-1以及DCn-2的例子。另外,不只限于在水平方向相邻的微块,也可以利用在垂直方向或者在斜方向相邻的微块的相邻DC系数。
DC系数比较部125,输入从DC系数抽出部123得到的DC系数DCn、从相邻DC系数抽出部124得到的相邻DC系数DCn-1,以及DCn+1,对这些DC系数进行比较、判定。首先,DC系数比较部125,作为DC系数的比较,在处理对象块的DC系数DCn、和作为比较对像的相邻DC系数DCn-1以及DCn+1之间进行大小比较。另外,利用多个相邻微块时,作为一例,取各相邻DC系数的平均值,和作为平均DC系数的该项DC系数DCn之间进行比较。而且,例如,也可以按相邻方向改变加权值,将加权平均值作为平均DC系数。进一步,作为另一例,也可以对该项DC系数DCn和各相邻DC系数之间分别进行大小比较,将其差的差分值的绝对值最大的值作为比较结果。或者也可以将该项DC系数DCn和各相邻DC系数之差的差分值的绝对值之和作为比较结果。也可以只利用一个相邻微块。也可以将该项DC系数DCn和各相邻DC系数之差的差分值的绝对值作为比较结果。这样,DC系数比较部125,进行对象的DC系数DCn和相邻DC系数之间的大小比较,检测作为其比较结果的差分值。
作为加权平均值的一例,将在以处理对象的微块MBn为中心的5×5块内的微块MBn的周围配置的24块作为相邻块,也可以根据距微块MBn的距离进行加权。这时,距微块MBn的距离越远,加权可以设定越小。或者,也可以对于微块MBn的上下左右相邻的微块加权作为1,斜方向相邻的微块的加权作为
另外,根据每幅图像的特性,也可以增大特定方向的加权。例如,也可以按照在右下方向加重、而在左上方向减轻等进行加权。
DC系数比较部125,一般计算出表示DC系数DCn、和至少1个相邻DC系数(例如DCn-1和DCn+1)之间的相异程度的函数(例如、DCn、DCn-1以及DCn+1的函数)的值。上述各种差分值的绝对值,相当于该函数的值的具体例。
然后,DC系数比较部125,对检测出的差分值的绝对值和事先设定的判定值的大小进行比较。这时,该差分值比判定值大时,将作为检测出边界的边界检测结果,通知以下说明的选择部126。另外,该差分值的绝对值比判定值小时,作为没有检测出边界的边界检测结果,通知选择部126。这样,DC系数比较部125,通过将对象的DC系数DCn和相邻的DC成份进行比较,判定对象的微块MBn是否是轮廓线等图像的边界部分。也就是说,由于DC系数是表示一个微块的各像素值的平均值,来判断微块间的像素平均值差大的微块是图像的边界领域。这样,图像边界领域的判断结果,作为边界检测结果向选择部126通知。
选择部126,基于该边界检测结果,抽出从系数集抽出部122获得的缩小率系数集SMBn,或者从DC系数抽出部123获得的DC系数DCn。选择部126,作为检测出边界的边界检测结果被通知时,选择缩小系数集的SMBn。选择部126,作为没有检测出边界的边界检测结果被通知时,选择DC系数DCn。选择部126,将这样选择、抽出的系数向加工微块生产部(以下,称为加工MB生成部)127供给。
加工MB生成部127,在与微块MBn内的像素数相同个数的系数中,将上述抽出的缩小系数集SMBn、或者DC系数DCn,作为相当于该频率的系数进行设定,将对应于其它频率的系数全部设定为零,作为加工微块KMBn输出。
另外,如图2所示,系数集抽出部122,选择部126以及加工MB生成部127,作为本发明的系数集设定装置132作用。选择部126以及加工MB127,作为本发明的DC系数设定装置133作用。
关于以上构成的本实施方式1中的图像数据处理装置1的详细动作,以下按顺序进行说明。这里,将以作为本图像数据处理装置特点的编码图像数据加工装置12的功能为中心进行说明。
图3表示在由图2说明的加工装置12处理的微块,以及各系数的情况图。在图3中,编码图像数据300是在图2的缓存器120中临时储存的编码图像数据的一例。这里,作为原图像,表示了32×32像素的图像例。该图像是分割成8×8像素的微块,由4×4个微块构成。进一步,各微块,例如,由离散余弦变换后变换成8×8个的空间频率系数,作为64个的系数的集合,构成微块MB。而且,在各微块MB中,这些多个系数,由DC系数DC和与各频率相对应的多个AC系数[AC](以下,多个的系数用括号“[]”表示)构成。另外,在图3中,表示了作为处理对象的微块MB是第n个微块的微块MBn的情况。以下,以微块MBn为代表进行说明,但是同样的处理也对各微块进行。
这样,即使在显示如缩略图像那样的缩小图像时,图像数据处理装置1也将对应于原图像的编码图像数据300从储存装置10读取,临时储存到缓存器120中。
以下,为了显示用根据用户指令的缩小率进行缩小的图像,在加工装置12中,对编码图像数据300的各微块进行加工处理。MB抽出部121,从缓存器120中,依次抽出包含在各微块里的编码图像数据。图3的处理对象微块MBn301,是作为第n个微块的当前处理对象的微块。而且,在系数集抽出部122,为了生成对应于缩小图像的缩小系数集SMBn,设定了缩小区域。该缩小区域,根据显示图像的缩小率进行设定。这里,例如将图像面积作为1/K缩小图像时,表示了缩小区域也被设定为1/K的情况。更具体讲,如果想将图像缩小成纵横各一半的尺寸时,缩小区域也被设定为纵横各一半。这里,纵是指图像的垂直方向,横是指水平方向。对于图3,微块中含有8×8个系数,该缩小区域是将纵横一半的4×4个系数作为对象,DC系数方面依次将低空间频率系数作为对象。系数集抽出部122,抽出成为该缩小区域内的对象的系数,如图3所示,作为缩小系数集SMBn302输出。
另外,将缩小图像尺寸与原图像尺寸的比率作为缩小率,对于包含在微块中的多个的空间频率系数的个数,将选择的比该多个少的空间频率系数的空间频率系数个数的比率作为系数削减率时,如图4所示,也可以将缩小率分割成多段,根据各段缩小率设定系数削减率。另外,如图5所示,也可以进行非线形变换,例如,假定缩小率为1/4时,系数削减率也可以为25/64。这时,是将图像分成纵横一半尺寸的情况,如果在微块含有8×8个系数时,缩小区域以5×5个系数为对象。这样的变换,在想防止由于缩小而带来的图像质量劣化时有效。而且,相反,例如想将图像变为纵横一半尺寸时,对于含有8×8个系数的微块,缩小区域,也可以以3×3个系数为对象。这样的变换在比起图像质量来更重视处理速度等的时候有效。
回到图3,由DC系数抽出部123抽出的DC系数DCn,如上所述,由DC系数比较部125把与相邻DC系数大小比较的对象,作为检测出边界的边界检测结果,通知选择部126。进一步,选择部126,根据该边界检测结果,在由系数集抽出部122得到的缩小率组合SMBn和与DC系数抽出部123得到的DC系数DCn之间进行选择。进一步,由加工MB生成部127生成加工微块KMBn,该加工微块KMBn与微块MBn的系数有相同的个数,但是将缩小系数集SMBn或者DC系数DCn以外的系数,全部设置为零。图3所示加工微块KMBn303,是按以上方式生成的加工微块KMBn的一例。
如上所述,编码图像数加工装置12,不是对编码图像数据解码,而是将编码图像自身作为处理对象,生成缩小编码图像数据。因此,如果对MB抽出部121抽出的微块MBn的编码图像数据、和加工MB生成部127输出的加工微块KMBn的编码图像数据进行例示,则成为图6所示的比特列。也就是说,对于微块MBn的编码图像数据,继DC系数的比特列,从低频端依次排列AC系数的比特列。从加工MB生成部127输出的加工微块KMBn的编码图像数据,在微块KMBn的编码图像数据比特列中,把从先头起的某些部分作为有效留下,其余的全部舍弃。加工MB成部127,微块MBn的比特列,如果是变长编码(例如JPEG中的哈夫曼编码)后的码,在剩余比特列的尾部,插入一个表示微块比特列结束的符号EOB(End of Block,例如二进制的“1010”),删除剩余的比特列。EOB表示删除后的剩余比特列为零、即缩小系数集SMBn之外的系数或者DC系数DCn之外的系数均设定成零。加工MB生成部127,如果微块MBn的比特列是变长编码后的码,对于剩余的比特列是用变长表示全部为零。无论如何,加工微块KMBn的编码图像数据,与微块MBn的编码图像数据相比,压缩成了位数少的数据。因此,缩小编码图像数据,减轻了伴随传送的传送介质的负担,可以节减传送所需的时间。
由以上说明的处理,加工装置12,对应于图像的视觉特性,对于编码图像数据300,加工出达到削减数据量目的的缩小编码图像数据。从人的视觉特性出发,在缩小图像时,随着图像缩小率小到接近于0,图像的细小部分将无法识别。也可以说,随着图像缩小率逐渐变小,在微块的AC系数中,舍去了高频成份。利用上述视觉特性,系数集抽出部122,随着缩小率的变小,抽出的低频端的系数的个数将会变少。进一步,在图像中,在轮廓线那样的图像边界部位,作为空间频率成份的高频成份包含很多,相反,在图像的灰度或者颜色变化比较平缓的区域,空间频率成份,集中在低频端。也就是说,在图像的灰度或者颜色变化比较平缓的区域,在微块里即使只有DC成份,也可以说图像质量的劣化也比较少。
图7表示输入到加工装置12的编码图像数据的说明图。图8表示将图7的编码图像数据作为处理对象的结果,由加工装置12输出的被加工后的编码图像数据,也即是缩小编码图像数据的一例。图7表示,在原图像中轮廓线等的边界领域400,存在于图中对应的微块位置的情况。另外,边界领域400以外的微块是灰度或者颜色变化比较平缓的区域。进一步,各微块,也包括DC系数,设定了对应于用斜线区域表示的到高频成份的各个AC系数(用[AC]表示)。如图8所示,在图像的灰度或者颜色变化比较平缓的区域,对于DC系数以外的各个系数设定为零(用[0]表示)。另外,如轮廓线那样的图像边界部位,设定了对应于包含DC系数的缩小率的缩小系数集,缩小系数集以外全部设定为零。
以上,图像数据处理装置1,每当生成缩小图像,利用上述那样的图像的视觉特性,在图像的灰度或者颜色变化比较平缓的区域,只利用该微块的DC系数,而且在图像的轮廓等边界区域,利用对应于图像缩小率个数的低频端的系数。另外,图像数据处理装置1,对于不被利用的高频端的系数,作为无效系数全部设定为零(例如,如图6所示插入EOB,削除后面的比特列),作为加工微块输出,将这些加工微块由解码装置13进行解码。因此,由于图8所示的各个加工微块中不要系数都被设定为零,解码处理量被减少,可以达到显示缩小图像时的高速化。而且,图像数据处理装置1,由于可以根据图像的缩小率以及是否是图像的边界区域等适当改变有效系数的个数,能够在不降低图像质量的情况下显示缩略图像那样的缩小图像。另外,图像数据处理装置1,是由加工原图像的编码图像数据,生成缩小图像用的图像数据,不需要事先保存缩小图像用的图像数据的储存装置等。
图像数据处理装置1,可以只由不需要程序的硬件构成,也可以由计算机、和作为程序保存了图像数据处理装置1实现的处理的各步骤的存储器所构成。前一种情况,图1以及图2,意味着图像数据处理装置1的硬件构成图,后一种情况,至少在图1和图2描述的方框的一部分,意味着基于图像数据处理装置1的功能的构成图,也即功能图。图像数据处理装置1包含微机时,该微机,通过从存储器中读出并执行程序,执行由该程序规定的图像数据处理方法的各个步骤。上述程序,即可以由ROM(Read Only Memory)或者CD-ROM等记录介质供给,也可以通过网络等传送介质供给。
图9和图10表示,根据图像数据处理装置1执行处理的顺序,其流程的概略图。对于各处理的详细内容,由于已经进行了说明,在此不再重复说明。
如图9所示,处理开始时,首先,由用户输入向输入处理装置17指定应缩小编码的编码图像数据的请求、缩小率等信息(S1)。输入处理装置17,接收用户输入的各种指示。下一步,编码图像数据加工装置12,根据用户指示的编码图像数据,生成基于用户指示的缩小率的缩小编码图像(S2)。然后,解码装置13,将生成的缩小编码图像数据进行解码(S3)。然后,图像尺寸缩小装置14,缩小解码后的缩小编码图像数据的图像尺寸(S4)。最后,图像显示装置15,将缩小后的缩小编码图像数据在显示装置19的画面上显示(S5)。
步骤S2的处理顺序,由图10的流程图表示。步骤S2的处理开始时,例如MB抽出部121,将控制变量n复位成0(S11)。下一步,MB抽出部121,从在编码图像数据缓存器120中储存的编码图像数据中抽出微块MBn的编码图像数据(S12)。然后,DC抽出部123,抽出微块MBn的DC系数(S13)。与此前后或者同时,相邻DC系数抽出部124,抽出相邻块的DC系数(S14)。相邻DC系数抽出部124,例如通过从MB抽出部121获取控制变量n(参照图2),可以识别处理对象微块MBn,能够确定与此对应的相邻块。
然后,DC系数比较部125,计算出DC系数的差值(S15),将计算出的差分值的绝对值和判定值进行比较(S16)。差分值的绝对值比判定值大时(S16为NO),系数集设定装置132,从微块MBn的空间频率系数中保存根据缩小率选择的低频端的空间频率系数,将其它空间频率系数设定为零(S17)。另一方面,差分值的绝对值比判定值小时(S16为YES),DC系数设定装置133,只保存微块MBn的DC系数,将其它的空间频率系数设定为零(S18)。也就是说,系数集设定装置132以及DC系数设定装置133,生成加工微块KMBn。之后,系数集设定装置132以及DC系数设定装置133,输出加工微块KMBn(S19)。
然后,MB抽出部121,判定微块MBn是否是最终的微块(S20)。如果微块MBn是最终的微块(S20为YES),编码图像数据加工装置12结束处理,如果不是最终的微块(S20为NO),MB抽出部121增加控制变量n(S21)。步骤S21之后,编码图像数据加工装置12,返回步骤S12的处理。
编码图像数据加工装置12,在处理对象的编码图像数据是彩色编码图像数据时,编码图像数据加工装置12,如图11所示,对各微块MBn,例如每3种颜色成份,可以实行与图10步骤S12~S19同样的处理即可。在图11中,对与图10相同的处理,采用相同的标号。图11的处理步骤,对于各微块MBn,对于对应于3种颜色成份的控制变量k=0、1、2,反复执行步骤S32~S39的处理。即,在每个控制变量k的步骤S32~S41的一个循环中,执行步骤S32~S39的处理。步骤S32~S39的处理,对于微块MBn的第k色成份MBnk,和图10的步骤S12~S17进行相同的处理。例如,步骤S32的处理,与步骤S12相同,由MB抽出部121进行处理。而且,控制变量k,也可以与控制变量n相同,由MB抽出部121设定。
这里,在步骤S36的判定值,也可以对于每种颜色成份分别给出。而且,步骤S39的系数削减率,也可以对每种颜色成份分别给出。作为处理对象的编码图像数据,由Y(灰度)、U(色相)和V(色差)系表现时,对于Y成份,也可以将判定值设得比U成份和V成份低一些,削减率设得高一些(削减的比率减弱)。
另外,如图11作为步骤S50记载的那样,也可以根据对应于颜色成份的控制变量k,削减空间频率系数(S50为NO),或者不削减空间频率系数(S50为YES)。只有削减空间频率系数的时候,执行S33~S38的处理,而不削减的时候,微块MBn的第k色成份MBnk原封不动作为加工微块KMBn的第k色成份进行输出(S39)。为了微块MBn的第k色成份MBnk原封不动作为加工微块KMBn的第k色成份进行输出,对于控制变量k,也可以将步骤S36的判定值设定为负值,将步骤S37的系数削减率设定为1,进行步骤S33~S37的处理。对此,在图2的框图中,对于控制变量k,MB抽出部121,也可以将微块MBn作为加工微块KMBn进行输出,直接向加工MB生成部127输入。
(实施方式2)
图12表示本发明实施方式2的图像数据传送系统的整体构成方框图。本图像数据传送系统600,将由JPEG方式等压缩编码的图像数据(以下,称为编码图像数据),从作为图像数据配送装置的配送装置501到用户所在的终端装置502,经过因特网等网络503进行传送。进一步,其特点是,用户可以指定对配送装置501进行传送的图像的缩小尺寸,配送装置501,配送对应于用户指定的缩小尺寸的编码图像数据。
在图12中,与图1相同标号的构成要素具有相同的功能,省略对此的说明。
如图12所示,本实施方式2的图像数据传送系统600,通过因特网等网络503将配送装置501和对各个用户设置的多个终端装置连接而构成。在图12中,代表性地表示了多个终端装置中之一的终端装置502。
在图12中,提供图像等服务的提供者拥有的配送装置501,为了根据用户要求提供图像,将对应于各图像的编码图像数据储存在编码图像文件储存装置10中。配送装置501,进一步通过因特网等网络503,将根据用户要求的编码图像数据,向终端装置502配送。
终端装置502,根据用户的操作向配送装置501传送用户要求等信息,并且接收包含图像数据等各种信息。例如,从终端装置502向配送装置501发送图像的配送要求后,图像数据即被从配送装置501发送,终端装置502接收发送的图像数据,依次进行解码、重放。
这样,图像数据传送系统600,从配送装置501经由网络503向终端装置502传送的图像数据,终端装置502的用户选择所希望的图像进行视听。
进一步,本图像数据传送系统600的特点是,用户从终端装置502要求希望图像的缩小图像时,配送装置501,将该图像的缩小图像数据作为缩小编码图像数据进行发送。例如,用户想从多个图像中选择希望的图像时,用户首先需要对配送装置501提出发送如缩略图像那样的缩小图像的要求。进一步,用户,例如从显示包含多个缩略图像的索引图像中选择希望的图像。这样,用户可以用缩略图像事先选择希望的图像,提高了使用的方便性。
以下,说明由图像配送系统600进行处理的步骤。在图12中,将用户的各种指示输入到输入装置18。输入处理装置17,接收这些指示。由此,输入处理装置17包括:受理从储存在编码图像文件储存装置10的多个编码图像数据中指定与一个图像对应的编码图像数据的要求(例如通过指定图像文件名进行要求)的图像要求输入装置62、和受理缩小率的输入(例如,通过输入图像尺寸进行)的缩小率输入装置64。
用户从输入装置18输入缩小图像发送要求后,通过输入处理装置17,将用户指定的图像文件名、图像尺寸等信息向通信装置54通知。终端装置502的通信装置54,通过经由网络503向配送装置501传送表示用户的要求的请求信息,或者接收来自配送装置501的图像数据等,与配送装置501之间进行通信。为此,通信装置54,包含传送编码图像数据请求的图像请求传送装置63、传送缩小率的缩小率传送装置65,以及接收缩小编码图像数据的缩小编码图像数据接收装置61。
另外,配送装置501的通信装置53,通过网络503与终端装置502进行通信。也就是说,用户指定的图像文件名,以及图像尺寸等信息,通过通信装置54、网络503、通信装置53等,向配送装置501的用户指示判定装置(以下,称判定装置)16通知。因此,通信装置53,包含接收编码图像数据请求的图像请求接收装置71、接收缩小率的缩小率接收装置72,以及传送缩小编码图像数据的传送方法73。
判定装置16,输出根据用户指定的图像文件名检索图像文件的图像识别信息,以及为按用户指定的图像尺寸显示的图像尺寸信息。作为编码图像数据储存装置而动作的编码图像文件储存装置(以下,称储存装置)10,将由JPEG方式等压缩编码后的编码图像数据作为多个图像文件进行储存。编码图像数据读取装置(以下,称读取装置)11,从数个储存装置10储存的多个图像文件中,读取对应于图像识别信息的图像文件。读取的图像文件的编码图像数据,由编码图像数据加工装置(以下,称加工装置)12,向变换成对应于图像尺寸信息的缩小率的缩略图像,即缩小图像用的缩小编码图像数据那样进行加工。加工后的缩小图像用的图像数据,向作为传送装置73而动作的通信装置53供给,经过网络503向终端装置502传送。也就是说,被加工的缩小图像用的图像数据,如图8所示被加工,然后作为缩小编码图像数据进行发送。
在终端装置502中,接收由这样加工生成的缩小编码图像数据,该缩小编码图像数据通过作为缩小编码图像数据接收装置61而动作的通信装置54,由读入编码图像数据取得装置(以下,称取得装置)51,暂时储存。解码装置13,对缩小编码图像数据的编码数据进行解码,恢复到与原图像相同大小的解码图像数据。解码图像数据存储装置52,包含复原后的与原图像相同尺寸的解码图像数据。图像尺寸缩小装置(以下,称为缩小装置)14,对于由解码装置13解码的解码图像数据,对应于用户指定的缩小尺寸的缩小率,通过间取像素,生成缩小图像数据。画面显示装置15,为了在作为表示装置而动作的监视器19的画面上显示,而将缩小图像数据向监视器19输出。
图13以及图14表示在监视器19的画面上显示的缩小图像的例子。图13表示在监视器19的画面上将6个缩小图像作为缩略图像进行索引显示的一例。图14表示在监视器19的画面上将4个缩小图像作为缩略图像进行索引显示的一例。如上所述,在图像数据传送系统600中,用户可以将缩小图像的尺寸作为配送请求进行指定。这样,如图13和图14所示,可以在监视器的画面上显示不同大小的缩小图像,用户可以利用希望大小的缩略图像,选择希望的图像。
如上所述,对于从终端装置502发送的缩小图像的配送请求,配送装置501,将对应于该请求的缩小编码图像数据向终端装置502发送,终端装置502,将该缩小编码图像数据进行解码,作为缩略图像进行再生。这时,图像数据传送系统600的特征是,由如图2所示构成的加工装置12,将编码图像数据,加工成缩小图像进行发送。
也就是说,如在实施方式1说明的那样,由加工装置12,各加工微块如图8所示,对应图像的视觉特性,将不需要的系数设定为零。因此,编码量可以减少,降低网络503的传送负担,结果,可以实现通信速度的高速化。另外,图像数据传送系统600,由于可以根据图像的缩小率,以及是否是图像的边界区域等,适当地改变有效系数的个数,所以可以在不导致图像质量劣化的情况下传送缩略图像那样的缩小图像,在终端装置502中,可以显示图像质量很少劣化的缩略图像。由此,用户可以利用缩略图像,从因特网等存有的多个图像文件中,迅速检索出自己希望的图像。另外,因缩略图像太小难以判断的时候,用户指示比较大的图像尺寸,一边进行比较详细的确认,同时可选择自己希望的图像。而且,图像数据传送系统600,由于可以根据图像尺寸适当改变编码量,即使缩略图像的尺寸比较大,也可以在防止图像质量劣化的同时,降低编码量,防止传输速度降低。
进一步,在配送装置501中,将原图像作为编码后的编码图像数据进行保存,由于在发送该缩小图像时,只将编码图像数据进行加工传送即可,可以降低配送装置501的处理负担。例如,每当对原图像进行传送时,采用根据缩小率进行编码、传送方式时,需要对每次传送进行编码,这时在终端数增大时,该编码处理的负担将很重。而且,在利用将编码图像数据进行解码、缩小后再进行编码传送的方式时,也会带来解码、再编码处理负担加重的问题。对此,具有图像数据发送系统600的配送装置501,首先,由于一般将为了发送的图像数据作为编码图像数据进行保存,与非编码的图像数据相比,保存图像数据的存储容量可以比较小。另外,配送装置501,在发送缩小图像时,对于该编码图像数据,由于可以由加工装置12只进行简单的加工处理,可以降低生成缩小图像的处理负担,即使终端数比较大的时候也完全可以适应。
(其它应用例)
(1)本发明,可以应用于在手机、便携终端那样的画面较小的装置上显示图像的技术中。也就是说,不仅作为缩略图像,即使在比一般监视器画面要狭小的画面上显示图像时,可以对利用本发明的图像数据处理装置、图像数据处理方法、图像数据配送装置、以及图像数据传送系统所生成的缩小编码图像数据进行解码以及缩小,然后在画面上显示。
(2)本发明,也可以用于网络浏览器显示静止图像的技术中。而且,用户为了便于选择动态图像,将动态图像中的一帧(在帧中进行编码的帧)作为静止图像显示时,也可以利用由本发明的技术生成的缩小编码图像数据。
(3)本发明,还可以应用于图像编辑的情况。例如,在进行切取图像一部分的处理、变更图像尺寸的处理、图像的马赛克处理等时,在显示处理后的最终图像之前,为了在编辑途中临时显示图像,也可以利用由本发明的技术生成的缩小编码图像数据。在采用编辑工具编辑包含动态图像的多媒体要素(音频、动态图像、文字等)时,为了在编辑途中显示图像,同样也可以利用本发明的技术。
本发明,因为即使在处理比较大的缩略图像时,也不会导致图像质量劣化,可以高速显示缩略图像,在产业上非常有用。