CN102656605B - 图像处理装置、图像处理方法 - Google Patents
图像处理装置、图像处理方法 Download PDFInfo
- Publication number
- CN102656605B CN102656605B CN201080053867.3A CN201080053867A CN102656605B CN 102656605 B CN102656605 B CN 102656605B CN 201080053867 A CN201080053867 A CN 201080053867A CN 102656605 B CN102656605 B CN 102656605B
- Authority
- CN
- China
- Prior art keywords
- image
- polygon
- object images
- ellipse
- core candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 40
- 238000003672 processing method Methods 0.000 title claims abstract description 7
- 230000009466 transformation Effects 0.000 claims abstract description 154
- 238000013507 mapping Methods 0.000 claims abstract description 88
- 239000011159 matrix material Substances 0.000 claims abstract description 75
- 238000010586 diagram Methods 0.000 claims description 75
- 238000000034 method Methods 0.000 claims description 39
- 239000000284 extract Substances 0.000 claims description 18
- 238000000605 extraction Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 description 23
- 238000006243 chemical reaction Methods 0.000 description 8
- 230000011218 segmentation Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000005484 gravity Effects 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 235000021167 banquet Nutrition 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000007799 cork Substances 0.000 description 1
- 238000013501 data transformation Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
- H04N1/3877—Image rotation
- H04N1/3878—Skew detection or correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
提供一种图像处理装置、图像处理方法,其对没有直线部分的轮廓的对象图像进行变换。计算对图像处理的对象图像进行近似的椭圆(E1)(S20),决定对象图像的中心候选(OA)(S21),计算与椭圆和中心候选相关联的第一多边形(P1)(S22),计算从第一多边形映射变换为第二多边形(P1’)的映射变换矩阵(S23),该第二多边形(P1’)与以中心候选进行映射变换的点为中心的椭圆相关联,基于映射变换矩阵,对对象图像进行映射变换,从而取得变换图像(S24)。
Description
技术领域
本发明涉及对图像数据进行图像的变换的图像处理装置、图像处理方法的技术领域。
背景技术
近年来,数字摄像机变得小型化,且在便携终端中也附加了数字摄像机。用户在外出地等也能够轻松地通过附带摄像机的便携终端等,拍摄风景或在书籍或白板等中显示的内容。但是,虽然在外出地等能够轻松地拍摄,但在郊游中到了山等,发现了想要拍摄的对象的情况下,发生如下情况较多:摄影地点因立脚点而受到限制,或者因摄影者的坐席的位置而难以从正面拍摄黑板等,或者摄影角度因与照射摄影对象的光的角度的关系等而受到限制。
为了对在书籍或白板等中书写的字符等的摄影对象物的图像进行校正而取得恰如从正面拍摄的图像,例如在专利文献1中,公开了如下的图像处理装置:从作为摄影对象物而拍摄了白板的图像中,使用Roberts过滤器而取得轮廓,并从取得的轮廓中检测成为形成白板的图像的候选的直线,取得白板的四边形的形状,并根据四边形的顶点位置,求出表示白板的图像和实际的白板的关系的映射参数,从而对白板的图像进行映射变换。
现有技术文献
专利文献
专利文献1:(日本)特开2005-122320号公报
发明内容
发明要解决的课题
但是,在上述以往技术中,由于以书籍等的直线为线索,校正摄影对象,所以在对几乎没有直线部的花等的摄影对象进行拍摄的情况下,难以校正摄影对象,从而获得从正面拍摄的图像。
本发明是鉴于这样的问题而完成的,其课题的一例的目的在于,提供一种即使是没有直线部分的轮廓的对象图像,也能够变换为朝向期望的方向显示的图像的图像处理装置、图像处理方法、图像处理程序以及记录介质。
用于解决课题的手段
为了解决上述课题,技术方案1所记载的发明是一种图像处理装置,对对象图像进行图像处理,其特征在于,包括:椭圆计算部件,计算对所述对象图像进行近似的椭圆;中心候选决定部件,决定所述对象图像的中心候选;多边形计算部件,计算与所述椭圆和所述中心候选相关联的第一多边形;映射变换矩阵计算部件,计算用于将所述第一多边形映射变换为第二多边形的映射变换矩阵,该第二多边形与以所述中心候选进行映射变换的点为中心的椭圆相关联;以及变换图像取得部件,基于所述映射变换矩阵,对所述对象图像进行映射变换,从而取得变换图像。
技术方案2所记载的发明在技术方案1所记载的图像处理装置中,其特征在于,映射变换矩阵计算部件计算用于将所述第一多边形映射变换为第二多边形的映射变换矩阵,其中,以中心候选进行映射变换的点为中心的椭圆内接或者外接于该第二多边形。
技术方案3所记载的发明是一种图像处理装置,其特征在于,映射变换矩阵计算部件中的、以中心候选进行映射变换的点为中心的椭圆为圆形。
技术方案4所记载的发明在技术方案1至3的任一项所记载的图像处理装置中,其特征在于,所述多边形计算部件计算以通过所述中心候选的直线与所述椭圆的交点作为接点的所述第一多边形。
技术方案5所记载的发明在技术方案4所记载的图像处理装置中,其特征在于,所述多边形计算部件根据平行于所述椭圆的长轴的直线,求出通过所述中心候选的直线。
技术方案6所记载的发明在技术方案4所记载的图像处理装置中,其特征在于,所述多边形计算部件以平行于包围所述对象图像的图像框的其中一个边的直线与所述椭圆相接的点作为所述接点。
技术方案7所记载的发明在技术方案1至6的任一项所记载的图像处理装置中,其特征在于,所述多边形计算部件计算与所述椭圆和所述中心候选相关联的四边形,所述映射变换矩阵计算部件计算用于将所述四边形映射变换为正方形的映射变换矩阵,该正方形与以所述中心候选进行映射变换的点为中心的椭圆相关联。
技术方案8所记载的发明在技术方案1至7的任一项所记载的图像处理装置中,其特征在于,所述中心候选决定部件从所述对象图像中提取包括所述中心候选的中心候选图像,并根据对提取出的所述中心候选图像进行了椭圆近似的椭圆的长轴和短轴的交点,决定所述中心候选。
技术方案9所记载的发明在技术方案1至8的任一项所记载的图像处理装置中,其特征在于,所述对象图像为花图像,所述椭圆计算部件计算对所述花图像进行近似的所述椭圆,所述中心候选决定部件从所述花图像的花心部分决定所述花图像的所述中心候选。
技术方案10所记载的发明在技术方案1至9的任一项所记载的图像处理装置中,其特征在于,还包括:图像取得部件,取得包括所述对象图像的图像。
技术方案11所记载的发明在技术方案10所记载的图像处理装置中,其特征在于,还包括:对象图像提取部件,从所述取得的图像中提取所述对象图像。
技术方案12所记载的发明在技术方案1至11的任一项所记载的图像处理装置中,其特征在于,还包括:检索部件,基于所述变换图像,检索用于确定所述对象图像的信息。
技术方案13所记载的发明在技术方案12所记载的图像处理装置中,其特征在于,所述检索部件从所述变换图像中提取图像的特征量,并基于所述特征量,检索用于确定所述对象图像的信息。
技术方案14所记载的发明在技术方案1至13的任一项所记载的图像处理装置中,其特征在于,所述第二多边形为正多边形。
技术方案15所记载的发明在技术方案1至14的任一项所记载的图像处理装置中,其特征在于,还包括:存储部件,存储所述对象图像。
技术方案16所记载的发明是一种图像处理方法,对对象图像进行图像处理,其特征在于,包括:椭圆计算步骤,计算对所述对象图像进行近似的椭圆;中心候选决定步骤,决定所述图像处理之后的所述对象图像的中心候选;多边形计算步骤,计算与所述椭圆和所述中心候选相关联的第一多边形;映射变换矩阵计算步骤,计算用于将所述第一多边形映射变换为第二多边形的映射变换矩阵,该第二多边形与以所述中心候选进行映射变换的点为中心的椭圆相关联;以及变换图像取得步骤,基于所述映射变换矩阵,对所述对象图像进行映射变换,从而取得变换图像。
技术方案17所记载的发明的特征在于,使计算机作为如下部件起作用:椭圆计算部件,计算对图像处理的对象图像进行近似的椭圆;中心候选决定部件,决定所述图像处理之后的所述对象图像的中心候选;多边形计算部件,计算与所述椭圆和所述中心候选相关联的第一多边形;映射变换矩阵计算部件,计算用于将所述第一多边形映射变换为第二多边形的映射变换矩阵,该第二多边形与以所述中心候选进行映射变换的点为中心的椭圆相关联;以及变换图像取得部件,基于所述映射变换矩阵,对所述对象图像进行映射变换,从而取得变换图像。
技术方案18所记载的发明是一种记录了图像处理程序的计算机可读取的记录介质,其特征在于,该图像处理程序使计算机作为如下部件起作用:椭圆计算部件,计算对图像处理的对象图像进行近似的椭圆;中心候选决定部件,决定所述图像处理之后的所述对象图像的中心候选;多边形计算部件,计算与所述椭圆和所述中心候选相关联的第一多边形;映射变换矩阵计算部件,计算用于将所述第一多边形映射变换为第二多边形的映射变换矩阵,该第二多边形与以所述中心候选进行映射变换的点为中心的椭圆相关联;以及变换图像取得部件,基于所述映射变换矩阵,对所述对象图像进行映射变换,从而取得变换图像。
发明效果
根据本发明,通过存储进行图像处理的对象图像,计算对对象图像进行近似的椭圆,决定对象图像的中心候选,计算与椭圆和中心候选相关联的第一多边形,计算用于将第一多边形映射变换为第二多边形的映射变换矩阵,该第二多边形与以中心候选进行映射变换的点为中心的椭圆相关联,基于映射变换矩阵,对存储的对象图像进行映射变换,取得对象图像的变换图像,从而即使是没有直线部分的轮廓的对象图像,也能够变换为期望的方向的图像。
附图说明
图1是表示本发明的实施方式的图像检索系统的概要结构例的示意图。
图2是表示图1的便携终端的概要结构的一例的方框图。
图3是表示在从观察点拍摄了被摄体的情况下,被摄体在照片中映射的情况的概念图。
图4是表示图1的便携终端的图像处理的一例的流程图。
图5(A)是表示包括对象图像的图像的一例的示意图,(B)是表示从图像中提取出的对象图像的情况的示意图,(C)是表示从对象图像中提取出包括中心候选的中心候选图像的情况的示意图。
图6是表示进行了映射变换的对象图像的一例的示意图。
图7是表示图1的检索服务器中的检索处理的一例的流程图。
图8是表示图4的流程图中的向标准画面变换的子程序的一例的流程图。
图9(A)是表示图5的对象图像的轮廓和对对象图像进行近似的椭圆的一例的示意图,(B)是表示从对象图像中提取出的包括中心候选的中心候选图像以及对中心候选图像进行近似的椭圆的一例的示意图。
图10是表示图9(A)的椭圆和图9(B)的椭圆的关联的示意图。
图11是表示图5的对象图像和与椭圆相接的四边形的关联的示意图。
图12是表示从椭圆向圆形进行映射变换的情况的示意图,(A)是表示与椭圆相接的四边形的示意图,(B)是表示映射变换之后的情况的示意图。
图13(A)是表示用于说明映射变换矩阵的平面的示意图,(B)是表示用于说明二次曲线的映射变换的平面的示意图。
图14是表示图8的流程图中的四边形计算的子程序的一例的流程图。
图15是表示用于求出与椭圆相接的四边形的第一、第二变形例中的四边形计算的子程序的一例的流程图。
图16是表示用于求出与椭圆相接的四边形的第一变形例的示意图。
图17是表示用于求出与椭圆相接的四边形的第二变形例的示意图。
图18是用于求出与椭圆相接的四边形的第三变形例,(A)是表示与椭圆内接的四边形的一例的示意图,(B)是表示映射变换之后的情况的示意图。
图19是用于求出与椭圆相接的四边形的第四变形例,(A)是表示与椭圆相接的四边形的一例的示意图,(B)是表示映射变换之后的情况的示意图。
具体实施方式
以下,参照附图说明用于实施本发明的方式。
首先,基于附图说明本发明的实施方式的图像检索系统的概略结构和功能。
图1是表示本发明的实施方式的图像检索系统的概要结构例的示意图。图2是表示图1的便携终端的概要结构的一例的方框图。
如图1所示,图像处理装置的一例的图像检索系统1包括:如便携式无线电话机这样对摄影对象进行拍摄的便携终端10;以及基于来自便携终端10的图像数据而进行检索的图像检索服务器20。
如图2所示,作为图像处理装置的一例而起作用的便携终端10包括:对摄影对象进行拍摄的摄像部11;将拍摄到的图像等进行显示的显示部12;与无线基站进行发送接收的无线通信部13;输入数字或字符等的操作部14;将拍摄到的图像进行存储的存储部15;以及进行便携终端10的各种控制的控制部16,并且,这些部件通过总线17连接。
摄像部11具有由CMOS(互补金属氧化物半导体)图像传感器或者CCD(电荷耦合器件)图像传感器等构成的数字摄像机。
显示部12由液晶显示元件或者EL(电致发光)元件等构成。
无线通信部13通过移动体通信网2或因特网等的网络3与图像检索服务器20进行通信。
操作部14由各种键构成。用户通过操作部14,将在显示部12中显示的指示器移动或者将图像的部分选择并确定。
存储部15具有RAM(随机存取存储器)或ROM(只读存储器)或闪速存储器(flashmemory)这样的非易失性存储器等,下载用于图像处理的程序或者形成用于保持图像数据的存储器空间。
控制部16具有CPU(中央处理单元),作为计算机而执行图像处理的程序等。
接着,作为计算机起作用的图像检索服务器20包括:对图像检索服务器20整体进行控制或者进行图像处理的运算的控制部21;以及构筑了图像检索用的数据库的数据库22。
如图1所示,控制部21包括:执行计算机的程序的CPU21a;以及存储要执行的程序等的RAM或ROM或闪速存储器这样的非易失性存储器等的存储器21b等。
控制部21的CPU21a对于从便携终端10发送的检索请求而从数据库22中检索信息,或者进行用于从接收到的图像数据中检索信息的图像处理,或者进行数据库22的管理。
在存储器21b中,展开用于执行图像检索的程序,或者存储接收到的图像数据,或者暂时存储运算结果。
数据库22具有硬盘驱动器或硅盘等,存储与图像的特征量相关联的信息等。例如,在与花有关的数据库的情况下,在数据库22中,作为用于辨认花所需的特征量,与花的颜色、花瓣的数目、花整体的形状的信息、花瓣的断开处等的花瓣的信息等相关联地,存储了花的名称或学名等的与花有关的信息、花或叶子或果实等的与花有关的图像等。
便携终端10连接到移动体通信网2,图像检索服务器20连接到因特网等的网络3,移动体通信网2和网络3通过用于进行协议变换或记述内容的语言的变换等的网关等连接。
接着,基于附图说明本实施方式的原理的概略。
图3是表示在从观测点V1拍摄了被摄体的情况下,被摄体在照片中映射的情况的概念的概念图。
如图3所示,进行图像变形,使得从观测点V1斜着拍摄的花图像模拟地看起来像是正面。这里,假设被摄体的花通过椭圆E1近似化,且位于四边形P1’的平面上。
首先,从摄影图像中提取花整体和花心,为了简化方法,将各个轮廓线近似为椭圆。另外,对花整体进行了近似的椭圆相当于椭圆E1,其中心为点OB。此外,对花心进行了近似的椭圆的中心相当于点OA。
接着,为了获得看起来像是花的正面的标准图像(变换图像),进行映射变换。若例举照片,则映射变换相当于将三维空间的物体映入二维平面的胶片上。其逆向、即从二维到三维的映射一般是不可能,但也可以通过限定若干个条件而成为可能。在本实施方式的方法中,通过假设在三维空间内的某一平面(包括四边形P1的平面)上存在平面的花,从而进行了从二维平面到二维平面的映射变换。此外,为了简化方法,假设实际的花的形状能够近似为圆形E1’。在输入图像中切出的花近似化为椭圆E1,求出与该椭圆E1外接的四边形P1,将其设为变形对象区域。若将变形对象区域映射变换为作为正方形的四边形P1’,则椭圆E1映射到刚刚假设的圆形E1’。由此,通过进行映射变换,能够从以倾斜的角度拍摄到的花的照片,模拟地获得从正面拍摄的花的照片的标准图像。另外,关于方法的细节,与流程图一同在后面叙述。
这里,标准图像(变换图像)是被变换为以期望的方向显示的图像。标准图像(变换图像)例如是花以花心位于花整体的中心附近的角度显示的图像,只要是从容易确定花等的对象图像的角度看的图像即可。
接着,基于附图说明本实施方式的动作。
图4是表示图1的便携终端的图像处理的一例的流程图。图5(A)是表示包括对象图像的图像的一例的示意图,(B)是表示从图像中提取出的对象图像的情况的示意图,(C)是表示从对象图像中提取出包括中心候选的中心候选图像的情况的示意图。图6是表示进行了映射变换的对象图像的一例的示意图。
首先,如图4所示,便携终端10通过摄像部11取得摄影对象的图像(步骤S1)。具体地说,便携终端10的控制部16从摄像部11取得如图5(A)所示的包括对象图像(花的图像)的图像,并将该图像的图像数据存储在存储部15中。由此,便携终端10作为取得包括对象图像的图像的图像取得部件的一例而起作用,此外,作为存储进行图像处理的对象图像的存储部件的一例而起作用。这里,在图5(A)的图像中,没有从正面拍摄被摄体的花。
接着,便携终端10从取得的图像中提取对象图像(步骤S2)。具体地说,如图5(B)所示,控制部16求出花整体的轮廓,提取花的图像。另外,在图5(B)中,通过轮廓线来描画以花瓣来赋予特征的花整体,并将背景的部分调暗。这里,如图5(B)所示,用户也可以通过操作部14使用在显示部12中显示的指示器等而指定花的部分和背景的部分,基于其颜色的信息,控制部16提取对象图像。由此,便携终端10作为从取得的图像中提取对象图像的对象图像提取部件的一例起作用。
具体地说,例如,对象图像提取部件包括:接受部件,从用户接受在取得的图像中包含的花的部分(前景区域)上的至少一个前景像素以及在该取得的图像中包含的背景的部分(背景区域)上的至少一个背景像素的指定;分割颜色空间确定部件,将指定的前景像素和指定的背景像素分别作为基准像素,进行从三维的颜色空间被分割为多个的分割颜色空间中,作为基准分割颜色空间而确定各个基准像素所属的分割颜色空间的分割颜色空间确定处理;颜色距离计算部件,进行用于计算各个基准像素和与其相邻的相邻像素在颜色空间中的颜色的距离的颜色距离计算处理;是否属于判别部件,进行各个相邻像素是否属于各个基准分割颜色空间的是否属于判别处理;费用计算部件,根据对各个相邻像素计算出的颜色的距离和基于对各个相邻像素判别的是否属于基准分割颜色空间而进行的加权,进行用于计算关于各个相邻像素的费用的费用计算处理;以及确定部件,进行将计算出的费用最小的相邻像素确定作为前景像素或者背景像素的确定处理,也可以将确定的相邻像素作为基准像素,使计算机重复进行颜色距离计算处理、是否属于判别处理、费用计算处理以及确定处理,从而从取得的图像中提取前景区域,进行对象图像的提取。
接着,便携终端10从对象图像中提取中心候选图像(步骤S3)。具体地说,如图5(C)所示,控制部16提取位于花整体的轮廓的、中心候选图像的一例的花心部分的轮廓。这里,在图5(C)所示,用户也可以通过操作部14使用在显示部12中显示的指示器等而指定花瓣的部分和花心的部分,基于其颜色的信息,控制部16提取对象图像。由此,便携终端10作为从对象图像中提取包括中心候选的规定区域的图像即中心候选图像的中心候选决定部件的一例起作用。中心候选图像是例如包括中心候选且进深或者颜色信息等与周围不连续地不同的对象图像中的区域的图像。
接着,便携终端10将对象图像变换为标准图像(步骤S4)。具体地说,使用后述的映射变换的方法,控制部16将在存储部15中存储的对象图像如图6所示那样变换为如从正面拍摄了花似的标准图像。由此,便携终端10作为基于映射变换矩阵对在存储部件中存储的对象图像进行映射变换,从而取得标准图像的标准图像取得部件(变换图像取得部件)的一例起作用。另外,在这里,将包括对象图像的附近的图像数据变换为标准图像。
接着,便携终端10为了检索而将标准图像发送到图像检索服务器20(步骤S5)。具体地说,为了检索拍摄到的花是什么花,控制部16从无线通信部13通过移动体通信网2和网络3,将如图6所示的标准图像发送到图像检索服务器20。
接着,便携终端10从图像检索服务器20接收检索结果而显示(步骤S6)。具体地说,控制部16通过无线通信部13而从图像检索服务器20接收检索到的花的名称或花的信息,并显示在显示部12中。
接着,说明图像检索服务器20中的检索处理。
图7是表示图像检索服务器20中的检索处理的一例的流程图。
首先,如图7所示,图像检索服务器20从便携终端10接收标准图像(步骤S7)。具体地说,图像检索服务器20的控制部21从便携终端10通过移动体通信网2和网络3接收标准图像。
接着,图像检索服务器20从接收到的标准图像中提取特征量(步骤S8)。具体地说,控制部21在对象图像为花的图像的情况下,作为标准图像的特征量而提取花瓣的数目、花的颜色、花整体的形状的信息、花瓣的断开处等的花瓣信息等。
接着,图像检索服务器20基于提取出的标准图像的特征量,从数据库22检索用于确定标准图像的信息(步骤S9)。具体地说,控制部21基于花的标准图像的特征量,从数据库22检索相似的花,求出与相似度等的高位的花有关的信息或与花有关的图像。由此,图像检索服务器20作为基于标准图像而检索用于确定对象图像的信息的检索部件的一例起作用。此外,图像检索服务器20作为根据标准图像而提取图像的特征量,并基于特征量而检索用于确定对象图像的信息的检索部件的一例起作用。
接着,图像检索服务器20将检索高位结果发送到便携终端10(步骤S10)。具体地说,控制部21发送与花有关的信息或与花有关的图像。
由此,图像检索服务器20作为基于标准图像而检索用于确定对象图像的信息的检索部件的一例起作用。此外,图像检索服务器20作为从标准图像中提取图像的特征量,并基于特征量而检索用于确定对象图像的信息的检索部件的一例起作用。
另外,便携终端10也可以具有图像检索服务器20的数据库22这样的数据库,从标准图像中检索图像的信息。
接着,基于附图详细说明将步骤S4的对象图像变换为标准图像的子程序。
图8是表示图4的流程图中的向标准画面变换的子程序的一例的流程图。图9(A)是表示图5的对象图像的轮廓和对对象图像进行近似的椭圆的一例的示意图,(B)是表示从对象图像中提取出的包括中心候选的中心候选图像以及对中心候选图像进行近似的椭圆的一例的示意图。图10是表示图9(A)的椭圆和图9(B)的椭圆的关联的示意图。图11是表示图5的对象图像和与椭圆相接的四边形的关联的示意图。图12是表示从椭圆向圆形进行映射变换的情况的示意图,(A)是表示与椭圆相接的四边形的示意图,(B)是表示映射变换之后的情况的示意图。
首先,便携终端10进行对象图像和中心候选图像的椭圆近似(步骤S20)。具体地说,如图9(A)所示,控制部16通过最小二乘法,将在步骤S2中提取出的花整体的轮廓F1近似为椭圆E1,如图9(B)所示,通过最小二乘法,将在步骤S3中提取出的花心部分的轮廓F2近似为椭圆E2。由此,便携终端10作为计算对对象图像进行近似的椭圆的椭圆计算部件的一例起作用。关于椭圆近似在后面叙述。
接着,便携终端10决定中心候选(步骤S21)。具体地说,如图9(B)所示,控制部16根据对花心进行了近似的椭圆E2的长轴E2A和短轴E2B的交点,决定中心候选OA。该中心候选OA成为进深的信息。花整体的椭圆E1和花心的椭圆E2的关联成为如图10所示。由此,便携终端10作为决定对象图像的中心候选的中心候选决定部件的一例起作用。此外,便携终端10作为根据对提取出的中心候选图像进行了椭圆近似的椭圆的长轴和短轴的交点而决定中心候选的中心候选决定部件的一例起作用。此外,便携终端10作为对象图像为花图像且计算对花图像进行近似的椭圆的椭圆计算部件的一例起作用。此外,便携终端10作为对象图像为花图像且根据花图像的花心部分决定花图像的中心候选的中心候选决定部件的一例起作用。
接着,便携终端10求出与椭圆和中心候选相关联的四边形(步骤S22)。具体地说,如图11所示,控制部16根据花整体的椭圆E1和花心的椭圆E2的中心候选OA,作为与椭圆E1相接的第一多边形的一例而求出四边形P1。由此,便携终端10作为计算与椭圆和中心候选相关联的第一多边形的多边形计算部件的一例起作用。此外,便携终端10作为计算与椭圆和中心候选相关联的四边形的多边形计算部件的一例起作用。
接着,便携终端10基于作为第一多边形的一例的四边形和作为第二多边形的一例的正方形,计算映射变换矩阵(步骤S23)。具体地说,如图12(A)、(B)所示,控制部16基于作为第一多边形的四边形P1的顶点x1、x2、x3、x4和作为第二多边形的一例的正方形P1’的顶点x1’、x2’、x3’、x4’,计算映射变换矩阵。由此,便携终端10作为用于计算将第一多边形映射变换为第二多边形的映射变换矩阵的映射变换矩阵计算部件的一例起作用,其中,该第二多边形与以映射变换了中心候选的点为中心的椭圆相关联。此外,便携终端10作为用于计算将四边形映射变换为正方形的映射变换矩阵的映射变换矩阵计算部件起作用,其中,该正方形与以映射变换了中心候选的点为中心的椭圆相关联。第二多边形例如是正多边形。第二多边形的中心例如是作为正多边形的第二多边形的重心、内心或者外心。在本实施方式中,作为第二多边形而使用正方形。此外,在本实施方式中,作为第二多边形的正方形P1’与以映射变换了中心候选的点为中心的椭圆(在本实施方式中圆形)E1’外接。另外,椭圆的中心是椭圆的长轴和短轴的交点。椭圆包括长轴的长度和短轴的长度一致的圆形。关于映射变换矩阵在后面叙述。
接着,便携终端10基于映射变换矩阵,将对象图像变换为标准图像(步骤S24)。具体地说,控制部16基于用于从四边形P1(x1、x2、x3、x4)变换为正方形P1’(x1’、x2’、x3’、x4’)的映射变换矩阵,对在存储部中存储的对象图像的图像数据的各个像素进行变换。
接着,便携终端10判定是否需要修改标准图像(步骤S25)。具体地说,控制部16基于椭圆近似与花整体的轮廓的误差、标准图像的歪斜、标准图像的花心部分的歪斜等,判定是否需要修改标准图像。或者,在人看到标准图像需要修改的情况下,控制部16从操作部14接受输入,判定是否需要修改标准图像。然后,在需要修改的情况下(步骤S25:是),控制部16返回到步骤S20,调整椭圆形状或中心候选的位置。另一方面,在不需要修改的情况下(步骤S25:否),控制部16结束子程序。
这里,说明椭圆近似。另外,根据对椭圆进行了一般化的圆锥曲线(二次曲线)进行说明。
二次曲线能够使用系数A~F而通过以下的式表示。
Ax2+2Bxy+Cy2+2Dx+2Ey+F=0……(1)
尤其,在满足AC-B2>0时表示椭圆。此外,若使用矢量v、c进行置换,则能够改写为以下的式。
vTc=1……(2)
c=-1/F[A,2B,C,2D,2E]T……(3)
c=[x2,xy,y2,x,y]T……(4)
在平面上提供N(=5)个点列(xi,yi)(i=1……N)时,将它们进行近似的二次曲线能够使用捆绑了N个矢量v的矩阵V=[v1,……,vN]T,归结于以下的五元联立方程式。
Vc=1……(5)
在N>5时,由于成为超定系统(over-determinedsystem)的联立方程式且不能唯一地求得解,所以通过最小二乘法进行近似。为了将由提供的点列构成的Vc和右边的1的残差最小化,通过解以下的式(6),如式(7)所示那样获得近似解c~。
c~=(VTV)-1VT=V+1……(7)
V+被称为伪逆矩阵(pseudoinversematrix)。
接着,基于附图说明映射变换矩阵和二次曲线的映射变换。
在图13中,(A)是表示用于说明映射变换矩阵的平面的示意图,(B)是表示用于说明二次曲线的映射变换的平面的示意图。
如图13(A)所示,在空间取任意的2个平面,以原点作为观测点,考虑将平面π上的点x=(x,y)映射到平面π’上的点x’=(x’,y’)的情况。
若使用系数aij(i,j=1,2,3),则对应于同一点的坐标x和x’成立以下的式。
【数1】
该式是,每个方程式能够以任意常数通分且由独立的8个系数构成的方程式。因此,能够固定任意的1个系数,这里,设为a33=1。根据对应于同一点的4组坐标xk,xk’(k=1,2,3,4),能够唯一地求出8个系数aij。这意味着将由平面π上的xk构成的四边形的区域映射变换为由平面π’上的xk’构成的四边形的区域。将这些8个点的坐标代入式(8)求解,由其系数如下定义映射变换矩阵P。
【数2】
接着,说明二次曲线的映射变换。
在3个数字的组{X1,X2,X3}和{kX1,kX2,kX3}(k≠0)表示同一个坐标时,将其称为同次坐标。相当于在图13(B)中从平面σ上的xy坐标到平面σ’上的XY坐标的映射。点x和与其对应的同次坐标系的点X满足以下的关系。
X=[X1,X2,X3]T……(10)
x=[X1/X3,X2/X3]T……(11)
若利用同次坐标,则式(1)的二次曲线能够改写为以下的式。
AX1 2+2BX1X2+CX2 2+2DX1X3+2EX2X3+FX3 2=0……(12)
这里,通过A~F的系数,如下定义矩阵Q。
【数3】
通过该式和式(10),式(12)能够改写为以下的式。
XTQX=0……(14)
此外,在将映射变换矩阵的逆矩阵置换为P’=P-1时,从同次坐标系的点X到X’的映射变换和逆映射变换通过式(8)、(9)、(10)由以下的式表示。
X’=PX……(15)
X=P’X’……(16)
若对将式(16)代入到式(14)而获得的方程式X’T(P’TQP’)X’=0置换为Q’=P’TQP’,则获得与式(14)对称的方程式X’TQ’X’=0。在此时的置换中使用的式表示Q’为Q的映射变换。因此,二次曲线Q的P的映射变换和逆映射变换能够分别使用映射变换矩阵而由以下的式表示。
Q=PTQ’P……(17)
Q’=P’TQP’……(18)
因此,表示了二次曲线即使应用了映射变换也能够保持二次曲线的性质。
接着,基于附图详细说明四边形计算的子程序。
图14是表示图8的子程序中的四边形计算的子程序的一例的流程图。这里,在该子程序中,将映射变换的对象限定为二次曲线中的椭圆,考虑从根据椭圆E1求出的虚拟的四边形(变形对象区域)P1到圆形E1’内接的正方形P1’的映射变换。即,考虑从椭圆E1到圆形E1’的映射变换。
该子程序通过以下的方法求出变形对象区域的四边形P1。
如图14所示,首先,便携终端10决定通过中心候选的第一基准直线(步骤S30)。具体地说,如图12(A)所示,便携终端10的控制部16对一个椭圆E1和其内侧的点(中心候选)OA决定通过中心候选OA的任意的直线,例如与椭圆E1的长轴E1A平行的第一基准直线I0。由此,便携终端10作为根据与椭圆的长轴平行的直线求出通过中心候选的直线(第一基准直线I0)的多边形计算部件的一例起作用。
接着,便携终端10根据第一基准直线和椭圆的交点,计算第一接点和第二接点(步骤S31)。具体地说,控制部16根据第一基准直线I0和椭圆E1的交点,计算第一接点q1和第二接点q2。
接着,便携终端10计算以第一接点作为接点的第一接线和以第二接点作为接点的第二接线(步骤S32)。具体地说,控制部16计算在第一接点q1的椭圆E1的第一接线m1和在第二接点q2的椭圆E1的第二接线m2。
接着,便携终端10根据第一接线和第二接线的交点,计算第一消失点(步骤S33)。具体地说,控制部16根据第一接线m1和第二接线m2的交点,计算第一消失点q∞。这里,第一消失点q∞被称为极,基准直线I0被称为极线,处于若一个被决定则另一个也被决定的双对的关系。
接着,便携终端10计算通过第一消失点和中心候选的第二基准直线(步骤S34)。具体地说,控制部16作为一起通过第一消失点q∞和中心候选OA的极线,计算第二基准直线m0。
接着,便携终端10根据第二基准直线和椭圆的交点,计算第三和第四接点(步骤S35)。具体地说,控制部16根据第二基准直线m0和椭圆E1的交点,计算第三接点p1和第四接点p2。
接着,便携终端10计算以第三接点作为接点的第三接线和以第四接点作为接点的第四接线(步骤S36)。具体地说,控制部16计算在第三接点p1的椭圆E1的第三接线l1和在第四接点p2的椭圆E1的第四接线l2。
接着,便携终端10根据第三接线和第四接线的交点,计算第二消失点(步骤S37)。具体地说,控制部16根据第三接线l1和第四接线l2的交点,计算极的第二消失点p∞。
接着,便携终端10根据第一~第四接线的交点,计算四边形的顶点(步骤S38)。具体地说,控制部16根据第一接线m1和第四接线l2计算交点x1,根据第四接线l2和第二接线m2计算交点x2,根据第二接线m2和第三接线l1计算交点x3,根据第三接线l1和第一接线m1计算交点x4,并设为四边形P1的顶点。这里,由第一~第四接线包围的四边形P1为变形对象区域,且是以通过中心候选的直线和椭圆的交点作为接点的第一多边形的一例。由此,便携终端10作为计算以通过中心候选的直线和椭圆的交点作为接点的第一多边形的一例的四边形的多边形计算部件的一例起作用。
然后,控制部16在结束子程序之后,作为步骤S23,根据图12(A)所示的四边形P1的顶点x1~x4的坐标和图12(B)所示的正方形P1’的顶点x1’~x4’的坐标,计算映射变换矩阵P。然后,通过映射变换矩阵P,椭圆E1映射变换为标准图像的一例的圆形E1’,同时中心候选OA映射到圆形的中心OA’。
这里,若使用位于花的中央的花心的坐标,则能够适当地取中心候选OA。因此,根据从花整体近似的椭圆E1和从花心近似的椭圆的中心坐标(中心候选OA的坐标),求出变形对象区域的四边形P1,通过将其映射变换为正方形P1’,能够获得看起来像是正面的图像。
由此,根据本实施方式,便携终端10将进行图像处理的对象图像存储在存储部15中,计算将对象图像(例如,花的整体的轮廓F1)进行近似的椭圆E1,决定对象图像的中心候选OA,计算与椭圆和中心候选相关联的第一多边形(例如,四边形P1),计算用于将第一多边形映射变换为第二多边形(例如,正方形P1’)的映射变换矩阵P,该第二多边形与以中心候选进行映射变换的点为中心的椭圆相关联,基于映射变换矩阵,对存储在存储部15中的对象图像进行映射变换,取得对象图像的变换图像,从而即使是如花等那样没有直线部分的轮廓的对象图像,也能够变换为显示成期望的方向的图像。
此外,由于便携终端10能够将被摄体变换为如从正面拍摄的标准图像、即显示成期望的方向的图像,所以能够减轻用户不注意摄影的角度等的用户的负担。例如,以往在被摄体为花的情况下,为了对准花的方向和形状或为了自动地消除不需要的背景,用户将花放置在黑的背景之上或者从花的正前方拍摄到画面整体中。因此,在摄影时调整角度等用户的负担增加。此外,在山上在不能简单地拍摄的地点生长的花也比较多,在以往技术中,不能将已经拍摄到的照片在之后修改为显示成期望的方向的图像。但是,根据本实施方式,即使是没有直线部分的被摄体,也能够变换为像是从正面拍摄的图像。
此外,由于便携终端10在拍摄之后能够变换在图像中显示的方向,所以无需注意照明的反射就能够拍摄被摄体,能够提高用户的便利性。
此外,在野外当场检索拍摄到的物为何物的情况下,与关键字的检索不同,有时根据摄影对象的摄影角度而成为各种对象图像且难以检索。相对于此,根据本实施方式,在基于对象图像而检索与对象图像有关的信息的情况下,由于将对象图像变换为像是从正面拍摄的图像,并基于该变换图像进行检索,所以通过被标准化了的特征量容易检索,能够提高检索速度和检索的精度。
此外,根据本实施方式,能够仅对例如正面图像那样显示的方向被特定的图像相关联而构筑用于检索的数据库,不需要预先准备从被摄体的各种角度拍摄到的图像数据,所以容易构筑数据库,且能够简化。因此,还可以是便携终端10具有数据库,进行检索。
此外,在便携终端10作为多边形计算部件,计算与通过中心候选OA的直线l0、m0和椭圆E1的交点q1、q2、p1、p2相接的第一多边形(例如,四边形P1)的情况下,能够容易且唯一地求出与椭圆和中心候选相关联的第一多边形,所以能够根据第一多边形的顶点的坐标等而决定映射变换矩阵。
在便携终端10作为多边形计算部件,根据与椭圆的长轴E1A平行的直线求出通过中心候选OA的直线I0的情况下,求出歪斜少的标准图像,容易看到变换后的图像。此外,由于是歪斜少的标准图像,所以检索精度也提高。
此外,在便携终端10作为多边形计算部件,求出与椭圆E1和中心候选OA相关联的四边形P1,并作为映射变换矩阵计算部件而计算用于将四边形映射变换为与圆形E1’相关联的正方形P1’的映射变换矩阵的情况下,能够根据四边形P1的顶点等,容易计算用于求出映射变换矩阵的4个坐标,其中,圆形E1’以与中心候选OA对应的中心候选OA’作为中心。
此外,在便携终端10作为中心候选决定部件,从花的整体图像等的对象图像中提取包括中心候选(花心)的中心候选图像,并根据对提取出的中心候选图像进行了椭圆近似的椭圆E2的长轴E2A与短轴E2B的交点(点OA)决定中心候选的情况下,能够从中心候选客观地获得进深的信息,能够求出进一步接近从正面拍摄的图像的标准图像。
此外,在对象图像为花图像(花的轮廓F1),且便携终端10作为椭圆计算部件,计算对花图像进行近似的椭圆E1,作为中心候选决定部件,从花图像的花心(花心的轮廓F2)决定花图像的中心候选OA的情况下,即使是摄影地点和角度被限定的图像,也能够求出如从雌蕊侧看花的正面图像那样的花的标准图像。此外,便携终端10能够根据花的标准图像来确定花的种类等。
此外,在便携终端10作为取得包括对象图像的图像的图像取得部件的一例而具有摄像部11的情况下,能够在山等的外出地拍摄花等的对象图像,并当场获得花的正面图像等的显示成期望的方向的标准图像,容易确定花的种类等对象图像。
此外,在便携终端10具有如步骤S2那样从取得的图像中提取对象图像的对象图像提取部件的情况下,由于能够分离背景图像和对象图像、除去背景图像的影响,所以能够获得精度高的标准图像或者基于标准图像的检索精度提高。此外,若基于花的部分和背景的部分的颜色的信息而提取对象图像,则用户能够不注意对比度就拍摄对象图像,便携终端10能够减轻摄影时的用户的负担。
此外,在图像检索服务器20基于从便携终端10发送的标准图像而检索用于确定对象图像的信息的情况下,通过便携终端10接收检索结果,从而在山中也能够进行图像的信息检索,例如能够构筑从山中拍摄到的花的照片中简单地检索该花的信息的系统。此外,例如由于基于如从正面拍摄到的标准图像确定对象图像,所以能够根据被标准化了的特征量进行检索,能够提高检索速度和检索的精度或者简化数据库。
此外,在图像检索服务器20作为检索部件,从标准图像中提取图像的特征量,并基于特征量来检索用于确定对象图像的信息的情况下,能够提高检索的精度。
接着,基于附图说明求出变形对象区域的四边形的第一变形例。
图15是表示用于求出与椭圆相接的四边形的第一、第二变形例中的四边形计算的子程序的一例的流程图。图16是表示用于求出与椭圆相接的四边形的第一变形例的示意图。图17是表示用于求出与椭圆相接的四边形的第二变形例的示意图。
如图15所示,首先,便携终端10决定在图像框中水平地与椭圆相接的第一接点和第一接线(步骤S40)。具体地说,如图16所示,便携终端10的控制部16决定在图像框30的上边30a或者下边中水平地与椭圆E1相接的第一接点q2和第一接线m2。这里,图像框30是例如包围拍摄到的二维的图像整体的长方形的框。
接着,便携终端10计算通过第一接点和中心候选的第一基准直线(步骤S41)。具体地说,控制部16计算通过第一接点q2和中心候选OA的第一基准直线l0。
接着,便携终端10根据第一基准直线和椭圆,计算第二接点和第二接线(步骤S42)。具体地说,控制部16根据第一基准直线l0和椭圆E1的交点求出第二接点q1,计算在第二接点q1与椭圆E1相接的第二接线m1。
接着,便携终端10根据第一接线和第二接线的交点,计算第一消失点(步骤S43)。具体地说,控制部16根据第一接线m2和第二接线m1的交点,计算第一消失点q∞。另外,步骤S44~步骤S48与步骤S34~步骤S38相同,最终能够获得如图16所示的四边形P2。
由此,便携终端10作为计算以通过中心候选OA的直线与椭圆E1的交点作为接点q2的第一多边形的一例的四边形的多边形计算部件的一例起作用。此外,便携终端10作为将与包围对象图像的图像框30的其中一个边30a平行的直线m2和椭圆E1相交的点作为接点q2的多边形计算部件的一例起作用。
根据本变形例,通过从四边形P2到正方形P1’的映射变换,在对象图像进行了映射变换时,能够对对象图像获得圆周方向的图像旋转少的标准图像。因此,用户能够容易比较对象图像和变换之后所获得的标准图像,容易进行图像的编辑。
另外,如图17所示,也可以作为求出变形对象区域的四边形的第二变形例,在步骤S40中,决定在图像框30的上边30a或者下边中水平地与椭圆E1相接的第一接点q1和第一接线m1。最终,四边形P3的形状不同,但获得与第一变形例相同的效果。由此,便携终端10作为计算将通过中心候选OA的直线与椭圆E1的交点作为接点q1的第一多边形的一例的四边形的多边形计算部件的一例起作用。此外,便携终端10作为将与包围对象图像的图像框30的其中一个边30a平行的直线m1和椭圆E1相交的点作为接点q1的多边形计算部件的一例起作用。另外,基准直线l0、m0是通过中心候选OA的任意的直线且相互在中心候选OA交叉的直线即可,考虑各种变更。
接着,基于附图说明求出变形对象区域的四边形的第三变形例。
图18是用于求出与椭圆相接的四边形的第三变形例,(A)是表示与椭圆内接的四边形的一例的示意图,(B)是表示映射变换之后的情况的示意图。
如图18(A)所示,用于求出映射变换矩阵P的四边形成为以接点p1、q1、p2、q2作为顶点的四边形P4。该四边形P4与椭圆E1内接。此时,如图18(B)所示,用于求出映射变换矩阵P的第二多边形以接点p1’、q1’、p2’、q2’作为顶点,成为与圆形E1’内接的正方形P4’。此时,映射变换矩阵计算部件计算将四边形P4映射变换为正方形P4’的映射变换矩阵,该正方形P4’内接以映射变换了中心候选OA的点OA’作为中心的椭圆(本变形例中圆形E1’)。
在本变形例的情况下,在步骤S35之前或步骤S45之前,求出第一接点、第二接点、第三接点、第四接点,则计算出四边形P4的顶点。
由此,便携终端10作为计算与椭圆和中心候选相关联的第一多边形的多边形计算部件的一例起作用。此外,便携终端10作为计算将通过中心候选的直线和椭圆的交点作为接点的第一多边形的一例的四边形的多边形计算部件的一例起作用。
在本变形例的情况下,用于求出映射变换矩阵P的四边形P4的顶点作为第一接点、第二接点、第三接点、第四接点而容易求出。
接着,基于附图说明求出变形对象区域的四边形的第四变形例。
图19是用于求出与椭圆相接的四边形的第四变形例,(A)是表示与椭圆相接的四边形的一例的示意图,(B)是表示映射变换之后的情况的示意图。
如图19(A)所示,本变形例是中心候选OA位于椭圆E1的边缘的附近的情况。在本变形例的情况下,与椭圆E1外接的四边形成为四边形P5,与椭圆E1内接的四边形成为四边形P6。另外,第一基准直线l0和第二基准直线m0作为通过中心候选OA的任意的直线且相互在中心候选OA交叉的直线而求出。
在本变形例的情况下,在接点p1、q1、p2、q2与椭圆E1外接的四边形P5不包围椭圆E1。因此,在用于求出映射变换矩阵P的第二多边形中,与顶点x3对应的x3’的坐标成为(-∞,-∞),概念上,在图19(B)中,成为以虚线表示的第二多边形P5’。由此,即使在四边形P5不包围椭圆E1的情况下,也能够计算映射变换矩阵P。此时,映射变换矩阵计算部件计算将四边形P5映射变换为多边形P5’的映射变换矩阵,该多边形P5’与将映射变换了中心候选OA的点OA’作为中心的椭圆(本变形例中圆形E1’)相关联。
另一方面,在接点p1、q1、p2、q2与椭圆E1内接的四边形P6的情况下,如图19(B)所示,用于求出映射变换矩阵P的第二多边形以接点p1’、q1’、p2’、q2’作为顶点,成为与圆形E1’内接的正方形P6’。由此,在内接的四边形P6的情况下,即使在中心候选接近椭圆的边缘的情况下,直观上容易认定第二多边形。此时,映射变换矩阵计算部件计算将四边形P6映射变换为正方形P6’的映射变换矩阵,该正方形P6’外接将映射变换了中心候选OA的点OA’作为中心的椭圆(本变形例中圆形E1’)。
另外,作为多边形的一例,也可以是三角形或五边形。为了能够计算映射变换矩阵P,在变换前的对象图像中,与椭圆E1和中心候选OA相关联地决定至少4个点的坐标即可。在三角形的情况下,为了求出映射变换矩阵P,除了3个顶点之外,将某一个边上的点或三角形的内部的重心、内心、外心等的点作为第四坐标即可。此外,第二多边形是例如正三角形、正方形、长方形、正五边形等的等角的多边形或正多边形,是与映射变换后的圆形E1’相关联的图形,且能够计算出映射变换矩阵P即可。此外,第二多边形并不限定于正多边形。将映射变换了中心候选的点作为中心的、与第二多边形内接或者外接的椭圆并不限定于圆形。
此外,图像检索服务器20侧也可以作为图像处理装置,求出作为从对象图像变换为显示成期望的方向的变换图像的标准图像。例如,将包括便携终端10拍摄到的对象图像的图像数据作为检索请求图像,通过网络3而发送到图像检索服务器20侧。然后,图像检索服务器20侧的接收部作为图像取得部件起作用,在图像检索服务器20侧变换为标准图像,图像检索服务器20基于标准图像进行检索。然后,图像检索服务器20将检索结果发送到便携终端10。
此外,并不限定于如便携型无线电话机这样的便携终端10,也可以是将通过数字摄像机拍摄到的对象图像拿到安装了本实施方式的方法起作用的程序的个人计算机中,求出作为显示成期望的方向的变换图像的标准图像的方式。此外,图像检索系统1的图像检索服务器20的处理既可以在一台服务器中进行,也可以分散在多个服务器中。此外,也可以不具有检索服务器,例如仅求出标准图像,或者也可以利用获得的标准图像而进行与检索不同的处理。
此外,对象图像并不限定于花图像,例如也可以是其他的圆形形状的图像,也可以是盘子、杯子、CD、DVD、表的表盘、道路标识等。或者,对象图像并不限定于花图像,例如也可以是椭圆形且平面的物体。
此外,本发明并不限定于上述各个实施方式。上述各个实施方式是例示,具有与在本发明的权利要求书中记载的技术思想实质上相同的结构并起到相同的作用效果的内容都包含在本发明的技术范围中。
标号说明
10:便携终端
15:存储部
14:摄像部
16:控制部
20:图像检索服务器
21:控制部
21b:存储部
22:数据库
30:图像框
E1:椭圆
F1:花的轮廓
F2:花心的轮廓
OA:中心候选
P1:四边形(第一多边形)
P1’:正方形(第二多边形)
Claims (16)
1.一种图像处理装置,对于对拍摄对象从斜方向拍摄、并从取得的图像中提取的对象图像进行图像处理,其特征在于,包括:
椭圆计算部件,计算对所述对象图像的轮廓进行近似的椭圆;
中心候选决定部件,决定所述对象图像的中心候选;
多边形计算部件,计算与所述椭圆和所述中心候选相关联的第一多边形;
映射变换矩阵计算部件,计算用于将所述第一多边形映射变换为第二多边形的映射变换矩阵,该第二多边形与以所述中心候选进行映射变换的点为中心的椭圆相关联;以及
变换图像取得部件,基于所述映射变换矩阵,对所述对象图像进行映射变换,从而取得接近从正面拍摄的图像的变换图像。
2.如权利要求1所述的图像处理装置,其特征在于,
所述映射变换矩阵计算部件计算用于将所述第一多边形映射变换为第二多边形的映射变换矩阵,其中,以所述中心候选进行映射变换的点为中心的椭圆内接或者外接于该第二多边形。
3.如权利要求1或2所述的图像处理装置,其特征在于,
所述映射变换矩阵计算部件中的、以所述中心候选进行映射变换的点为中心的椭圆为圆形。
4.如权利要求1或2所述的图像处理装置,其特征在于,
所述多边形计算部件计算以通过所述中心候选的直线与所述椭圆的交点作为接点的所述第一多边形。
5.如权利要求4所述的图像处理装置,其特征在于,
所述多边形计算部件根据平行于所述椭圆的长轴的直线,求出通过所述中心候选的直线。
6.如权利要求4所述的图像处理装置,其特征在于,
所述多边形计算部件以平行于包围所述对象图像的图像框的其中一个边的直线与所述椭圆相接的点作为所述接点。
7.如权利要求1或2所述的图像处理装置,其特征在于,
所述多边形计算部件计算与所述椭圆和所述中心候选相关联的四边形,
所述映射变换矩阵计算部件计算用于将所述四边形映射变换为正方形的映射变换矩阵,该正方形与以所述中心候选进行映射变换的点为中心的椭圆相关联。
8.如权利要求1或2所述的图像处理装置,其特征在于,
所述中心候选决定部件从所述对象图像中提取包括所述中心候选的中心候选图像,并根据对提取出的所述中心候选图像进行了椭圆近似的椭圆的长轴和短轴的交点,决定所述中心候选。
9.如权利要求1或2所述的图像处理装置,其特征在于,
所述对象图像为花图像,
所述椭圆计算部件计算对所述花图像的轮廓进行近似的所述椭圆,
所述中心候选决定部件从所述花图像的花心部分决定所述花图像的所述中心候选。
10.如权利要求1或2所述的图像处理装置,其特征在于,还包括:
图像取得部件,取得包括所述对象图像的图像。
11.如权利要求10所述的图像处理装置,其特征在于,还包括:
对象图像提取部件,从所述取得的图像中提取所述对象图像。
12.如权利要求1或2所述的图像处理装置,其特征在于,还包括:
检索部件,基于所述变换图像,检索用于确定所述对象图像的信息。
13.如权利要求12所述的图像处理装置,其特征在于,
所述检索部件从所述变换图像中提取图像的特征量,并基于所述特征量,检索用于确定所述对象图像的信息。
14.如权利要求1或2所述的图像处理装置,其特征在于,
所述第二多边形为正多边形。
15.如权利要求1或2所述的图像处理装置,其特征在于,还包括:
存储部件,存储所述对象图像。
16.一种图像处理方法,对于对拍摄对象从斜方向拍摄、并从取得的图像中提取的对象图像进行图像处理,其特征在于,包括:
椭圆计算步骤,计算对所述对象图像轮廓进行近似的椭圆;
中心候选决定步骤,决定所述图像处理之后的所述对象图像的中心候选;
多边形计算步骤,计算与所述椭圆和所述中心候选相关联的第一多边形;
映射变换矩阵计算步骤,计算用于将所述第一多边形映射变换为第二多边形的映射变换矩阵,该第二多边形与以所述中心候选进行映射变换的点为中心的椭圆相关联;以及
变换图像取得步骤,对所述对象图像基于所述映射变换矩阵进行映射变换,从而取得接近从正面拍摄的图像的变换图像。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009-241233 | 2009-10-20 | ||
JP2009241233A JP5075182B2 (ja) | 2009-10-20 | 2009-10-20 | 画像処理装置、画像処理方法、および、画像処理プログラム |
PCT/JP2010/068281 WO2011049046A1 (ja) | 2009-10-20 | 2010-10-18 | 画像処理装置、画像処理方法、画像処理プログラム、および、記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102656605A CN102656605A (zh) | 2012-09-05 |
CN102656605B true CN102656605B (zh) | 2015-12-16 |
Family
ID=43900272
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201080053867.3A Active CN102656605B (zh) | 2009-10-20 | 2010-10-18 | 图像处理装置、图像处理方法 |
Country Status (9)
Country | Link |
---|---|
US (1) | US8660309B2 (zh) |
EP (1) | EP2477152B1 (zh) |
JP (1) | JP5075182B2 (zh) |
KR (1) | KR101379066B1 (zh) |
CN (1) | CN102656605B (zh) |
CA (1) | CA2776881C (zh) |
ES (1) | ES2694762T3 (zh) |
TW (1) | TWI434567B (zh) |
WO (1) | WO2011049046A1 (zh) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI476730B (zh) * | 2012-10-31 | 2015-03-11 | Vivotek Inc | 數位影像的反扭曲處理方法 |
CN106296578B (zh) * | 2015-05-29 | 2020-04-28 | 阿里巴巴集团控股有限公司 | 一种图像处理方法及装置 |
US11568627B2 (en) | 2015-11-18 | 2023-01-31 | Adobe Inc. | Utilizing interactive deep learning to select objects in digital visual media |
US10192129B2 (en) * | 2015-11-18 | 2019-01-29 | Adobe Systems Incorporated | Utilizing interactive deep learning to select objects in digital visual media |
CN107767326B (zh) * | 2017-09-28 | 2021-11-02 | 北京奇虎科技有限公司 | 图像中对象变换处理方法、装置及计算设备 |
CN108038880B (zh) * | 2017-12-20 | 2019-12-13 | 百度在线网络技术(北京)有限公司 | 用于处理图像的方法和装置 |
US10719937B2 (en) * | 2017-12-22 | 2020-07-21 | ABYY Production LLC | Automated detection and trimming of an ambiguous contour of a document in an image |
JP6730379B2 (ja) * | 2018-03-23 | 2020-07-29 | 株式会社東芝 | 読取システム、読取方法、プログラム、及び記憶媒体 |
CN110650239B (zh) * | 2018-06-26 | 2021-03-16 | 百度在线网络技术(北京)有限公司 | 图像处理方法、装置、计算机设备及存储介质 |
CN109003327B (zh) * | 2018-06-29 | 2022-09-30 | 平安科技(深圳)有限公司 | 图像处理方法、装置、计算机设备及存储介质 |
JP6818002B2 (ja) | 2018-12-12 | 2021-01-20 | 株式会社東芝 | 読取支援システム、移動体、読取支援方法、プログラム、及び記憶媒体 |
US11282208B2 (en) | 2018-12-24 | 2022-03-22 | Adobe Inc. | Identifying target objects using scale-diverse segmentation neural networks |
JP6763060B1 (ja) | 2019-05-27 | 2020-09-30 | 株式会社東芝 | 読取システム、移動体、読取方法、プログラム、及び記憶媒体 |
CN110659370B (zh) * | 2019-08-12 | 2024-04-02 | 深圳市华付信息技术有限公司 | 一种高效数据标注方法 |
CN113327863B (zh) * | 2020-02-28 | 2022-06-21 | 芯恩(青岛)集成电路有限公司 | 半导体工艺方法 |
CN113469872B (zh) * | 2020-03-31 | 2024-01-19 | 广东博智林机器人有限公司 | 一种区域显示方法、装置、设备及存储介质 |
US11335004B2 (en) | 2020-08-07 | 2022-05-17 | Adobe Inc. | Generating refined segmentation masks based on uncertain pixels |
JP2022036839A (ja) * | 2020-08-24 | 2022-03-08 | セイコーエプソン株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
US11676279B2 (en) | 2020-12-18 | 2023-06-13 | Adobe Inc. | Utilizing a segmentation neural network to process initial object segmentations and object user indicators within a digital image to generate improved object segmentations |
US11875510B2 (en) | 2021-03-12 | 2024-01-16 | Adobe Inc. | Generating refined segmentations masks via meticulous object segmentation |
WO2024089763A1 (ja) * | 2022-10-25 | 2024-05-02 | 日本電信電話株式会社 | 矩形領域推定装置、矩形領域推定方法及びプログラム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0668765B2 (ja) * | 1988-09-28 | 1994-08-31 | 工業技術院長 | 円の3次元計測方法 |
JP3918143B2 (ja) * | 2000-12-28 | 2007-05-23 | 独立行政法人科学技術振興機構 | 植物認識システム |
GB2397423B (en) * | 2001-09-17 | 2005-06-01 | Ca Minister Agriculture & Food | A method and apparatus for identifying and quantifying characteristics of seeds and other small objects |
JP4363151B2 (ja) | 2003-10-14 | 2009-11-11 | カシオ計算機株式会社 | 撮影装置、その画像処理方法及びプログラム |
JP4033198B2 (ja) * | 2004-02-27 | 2008-01-16 | カシオ計算機株式会社 | 画像処理装置、画像投影装置、画像処理方法及びプログラム |
JP4456029B2 (ja) * | 2005-03-29 | 2010-04-28 | 大日本印刷株式会社 | 回転体の三次元情報復元装置 |
EP1917639A4 (en) * | 2005-08-25 | 2017-11-08 | Ricoh Company, Ltd. | Image processing method and apparatus, digital camera, and recording medium recording image processing program |
JP4831314B2 (ja) * | 2006-01-26 | 2011-12-07 | 株式会社ニコン | 対象物認識システム |
JP4631760B2 (ja) * | 2006-03-17 | 2011-02-16 | カシオ計算機株式会社 | デジタルカメラ、画像処理方法及びプログラム |
JP2007251720A (ja) * | 2006-03-17 | 2007-09-27 | Nikon Corp | 対象物認識システム |
-
2009
- 2009-10-20 JP JP2009241233A patent/JP5075182B2/ja active Active
-
2010
- 2010-10-18 EP EP10824895.6A patent/EP2477152B1/en active Active
- 2010-10-18 KR KR1020127012887A patent/KR101379066B1/ko active IP Right Grant
- 2010-10-18 WO PCT/JP2010/068281 patent/WO2011049046A1/ja active Application Filing
- 2010-10-18 US US13/502,972 patent/US8660309B2/en active Active
- 2010-10-18 CA CA2776881A patent/CA2776881C/en active Active
- 2010-10-18 ES ES10824895.6T patent/ES2694762T3/es active Active
- 2010-10-18 CN CN201080053867.3A patent/CN102656605B/zh active Active
- 2010-10-20 TW TW099135750A patent/TWI434567B/zh active
Non-Patent Citations (2)
Title |
---|
A NOVEL APPROACH TO PLANAR CAMERA CALIBRATION;Ashutosh Morde, et al.;《Proceedinds of International Conference on Computer Vision Theory and Applications (VISAPP) 2006》;20060228;全文 * |
Object Recognition Using Local Affine Frames on maximally Stable Extremal Regions;STEPAN OBDRZALEK, et al.;《LECTURE NOTES IN COMPUTER SCIENCE, LNCS 4170》;20081001;全文 * |
Also Published As
Publication number | Publication date |
---|---|
EP2477152A1 (en) | 2012-07-18 |
EP2477152B1 (en) | 2018-10-17 |
TWI434567B (zh) | 2014-04-11 |
TW201143352A (en) | 2011-12-01 |
US20120201423A1 (en) | 2012-08-09 |
US8660309B2 (en) | 2014-02-25 |
ES2694762T3 (es) | 2018-12-27 |
WO2011049046A1 (ja) | 2011-04-28 |
KR20120083486A (ko) | 2012-07-25 |
KR101379066B1 (ko) | 2014-03-28 |
JP5075182B2 (ja) | 2012-11-14 |
CN102656605A (zh) | 2012-09-05 |
CA2776881C (en) | 2016-01-05 |
EP2477152A4 (en) | 2014-01-15 |
JP2011090374A (ja) | 2011-05-06 |
CA2776881A1 (en) | 2011-04-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102656605B (zh) | 图像处理装置、图像处理方法 | |
KR101885356B1 (ko) | 대상물의 위치 정보 측정 장치 그리고 그 제어 방법 | |
JP5582548B2 (ja) | 実環境視像における仮想情報の表示方法 | |
US10191635B1 (en) | System and method of generating a view for a point of interest | |
US20160019704A1 (en) | Method and apparatus for displaying point of interest | |
US10019821B2 (en) | Apparatus and method for constructing indoor map using cloud point | |
WO2010013373A9 (ja) | 電子地図上での写真表示方法及びシステム、並びにその電子地図 | |
CN106603901A (zh) | 用于场景匹配的方法和装置 | |
CN104102732B (zh) | 图像展现方法及装置 | |
US20150130833A1 (en) | Map superposition method and electronic device | |
CN114742703A (zh) | 双目立体全景图像的生成方法、装置、设备和存储介质 | |
JP5739239B2 (ja) | 撮影支援システム及び撮像装置 | |
CN113312435A (zh) | 高精度地图更新方法和设备 | |
KR101082545B1 (ko) | 영상 변환 기능을 구비한 이동통신 단말기 | |
US9852542B1 (en) | Methods and apparatus related to georeferenced pose of 3D models | |
CN114416764A (zh) | 地图更新方法、装置、设备及存储介质 | |
CN107343035A (zh) | 一种标识地理位置信息的图像获取方法及系统 | |
JP2012138759A (ja) | 撮像装置、撮像制御方法及びプログラム | |
Schepper et al. | Immersive Experience for Sustainable Tourism-The Potential of a Community-Based 3D Scanning Database App on the Example of South East Asia | |
CN115062172B (zh) | 一种基于位置的增强现实图像数据搜索方法及系统 | |
KR102329031B1 (ko) | 3D 모델링 가시화 시스템의 최대 Zoom 레벨을 결정 방법 | |
CN103185568A (zh) | 测距装置、测距方法及互动式显示系统 | |
US11570368B1 (en) | Method and apparatus for imaging on a double curved display | |
Yuan | Integration of focus and defocus analysis with color stereo for three-dimensional shape recovery | |
CN115375710A (zh) | 基于aim-aspp的树木因子自动提取方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CP01 | Change in the name or title of a patent holder | ||
CP01 | Change in the name or title of a patent holder |
Address after: Tokyo, Japan Patentee after: Lotte Group Co.,Ltd. Address before: Tokyo, Japan Patentee before: Rakuten, Inc. |