CN105550984B - 一种鱼眼图像校正和漫游显示的方法及装置 - Google Patents
一种鱼眼图像校正和漫游显示的方法及装置 Download PDFInfo
- Publication number
- CN105550984B CN105550984B CN201511019998.0A CN201511019998A CN105550984B CN 105550984 B CN105550984 B CN 105550984B CN 201511019998 A CN201511019998 A CN 201511019998A CN 105550984 B CN105550984 B CN 105550984B
- Authority
- CN
- China
- Prior art keywords
- coordinate
- pixel
- image
- sphere
- development
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 238000011161 development Methods 0.000 claims abstract description 203
- 241000251468 Actinopterygii Species 0.000 claims abstract description 186
- 238000012937 correction Methods 0.000 claims abstract description 54
- 230000000007 visual effect Effects 0.000 claims description 61
- 238000010606 normalization Methods 0.000 claims description 12
- 230000008859 change Effects 0.000 claims description 6
- 239000004576 sand Substances 0.000 claims description 6
- 230000009182 swimming Effects 0.000 claims 1
- 230000033228 biological regulation Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 239000011159 matrix material Substances 0.000 description 5
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
- G06T3/047—Fisheye or wide-angle transformations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/18—Image warping, e.g. rearranging pixels individually
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
本发明实施例公开了一种鱼眼图像校正和漫游显示的方法及装置,方法包括:确定待校正的鱼眼图像的拍摄角度;根据确定的所述拍摄角度,确定校正后的球面展开图像的高度和宽度;根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点坐标与所述鱼眼图像中每个像素点坐标之间的关系;根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。应用本发明实施例,根据确定的校正后的球面展开图像的拍摄角度,从而确定所述球面展开图像中每个像素点坐标与所述鱼眼图像中每个像素点坐标之间的关系,进而确定球面展开图像中每个像素点的像素值,提高了图像校正的准确性。
Description
技术领域
本发明涉及图像处理领域,特别是涉及一种鱼眼图像校正和漫游显示的方法及装置。
背景技术
鱼眼镜头是一种极端的广角镜头,它的视角力求达到或超出人眼所能看到的范围,视角一般可达到220度或230度。可用于制作基于现实场景的全景图象,广泛用于娱乐、房地产、博物馆、学校等机构的宣传及展示项目。
鱼眼图像即为鱼眼镜头拍摄的图像,通常具有严重的形变,如果要利用鱼眼图像,需要鱼眼图像进行图像校正,其消除其中的形变。
现有技术中,对鱼眼图像进行校正时,无论鱼眼图像是通过什么拍摄角度拍摄的,都采用统一的校正方式,并没有考虑不同拍摄角度对校正过程的影响,因此校正后得到图像并不能有效的消除形变,影响校正后图像的准确性。
发明内容
本发明实施例的目的在于提供一种鱼眼图像校正和漫游显示的方法及装置,可以在校正过程中有效的消除鱼眼图像中的形变,提高校正后图像的准确性。
为了达到上述目的,本发明实施例公开了一种鱼眼图像的校正方法,包括步骤:
确定待校正的鱼眼图像的拍摄角度;
根据确定的所述拍摄角度,确定校正后的球面展开图像的高度和宽度;
根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系;
根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。
可选的,所述确定校正后的球面展开图像的高度和宽度包括:
根据所述拍摄角度,确定该拍摄角度对应的角度拍摄方式;
根据设置的每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间,确定校正后的球面展开图像的高度和宽度。
可选的,所述每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间包括:
当角度拍摄方式为平视拍摄方式时,对应的球面展开图像的高度区间和宽度区间均为[rs,3rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量;
当角度拍摄方式为俯视拍摄方式或仰视拍摄方式时,对应的球面展开图像的高度区间为[0.5rs,1.5rs],宽度区间为[3rs,5rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量。
可选的,所述根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点坐标与所述鱼眼图像中每个像素点坐标之间的关系,包括:
根据校正后的球面展开图像的高度、宽度及所述拍摄角度,确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标;并
根据球面展开图像中每个像素点对应在三维球面坐标系中的坐标,确定所述每个像素点在三维球面坐标系中的坐标对应在鱼眼图像中的坐标。
可选的,所述根据校正后的球面展开图像的高度、宽度及所述拍摄角度,确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标,包括:
根据确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标,其中,(xd,yd)为球面展开图像中像素点的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别是不同角度拍摄方式下θ和的最大值,xoffset,yoffset是不同角度拍摄方式下鱼眼图像在完整球面展开图像中的偏移量。
可选的,所述根据球面展开图像中每个像素点对应在三维球面坐标系中的坐标,确定所述每个像素点在三维球面坐标系中的坐标对应在鱼眼图像中的坐标,包括:
将所述三维球面坐标系中每个像素点的坐标,转换到笛卡尔坐标系中;
根据所述每个像素点在所述笛卡尔坐标系中的坐标、等距离投影模型及确定的拍摄角度,确定所述每个像素点在笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标;
对投影到二维平面坐标系下的坐标进行去归一化处理,确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系。
可选的,所述根据所述每个像素点在所述笛卡尔坐标系中的坐标、等距离投影模型及确定的拍摄角度,确定所述每个像素点在笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标包括:
当所述拍摄角度对应的角度拍摄方式为平视拍摄方式时,
根据确定所述每个像素点在所述
笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所
述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的
坐标,
当所述拍摄角度对应的角度拍摄方式为仰视拍摄方式或俯视拍摄方式时,
根据确定所述每个像素点在所述
笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所
述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的
坐标,
可选的,所述对投影到二维平面坐标系下的坐标进行去归一化处理,确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系包括:
根据确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像
中对应坐标的关系,其中,(xs,ys)为鱼眼图像中每个像素点的坐标,ws和hs分为鱼眼图像的
像素列数和行数,rs是鱼眼图像中心到达边缘圆的半径中像素点数量,(xs′,ys′)是笛卡尔
坐标系中的坐标投影到二维平面坐标系下的坐标。
可选的,所述确定球面展开图像中每个像素点的像素值包括:
根据
Id(xd,yd)=(1-u)*(1-v)*Is(i,j)+(1-u)*v*Is(i,j+1)+u*(1-v)*Is(i+1,j)+u*v*Is(i+1,j+1),确定球面展开图像中每个像素点的像素值,其中,(i,j)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的整数部分,(u,v)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的小数部分,Is(xs,ys)为鱼眼图像中坐标为(m,n)的像素点的像素值,Id(xd,yd)为与鱼眼图像中像素点对应的球面展开图上像素点的像素值。
本发明实施例还公开了一种鱼眼图像校正方法的漫游显示方法,包括步骤:
确定待显示的漫游图像的视角、漫游姿态;
根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标;
根据确定的球面展开图像中每个像素点对应的像素值及漫游图像中每个像素点的坐标,确定漫游图像中每个像素点的像素值。
可选的,所述确定待显示的漫游图像的视角、漫游姿态包括:
根据终端设备的外接设备或传感器,确定漫游显示图像的视角和漫游姿态。
可选的,根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标,包括:
根据确定待显示的漫游图像中每个像素点在
笛卡尔坐标系中的坐标,其中,(xm,ym)是待显示的漫游图像中每个像素点的坐标,(x,y,z)
是待显示的漫游图像中每个像素点对应在笛卡尔坐标系中的坐标,(xm′,ym′)是中间量坐
标,wm和hm分别为待显示的漫游图像的宽度和高度,R是根据漫游姿态确定的旋转矩阵,fov
为漫游视角。
可选的,所述根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应的在球面展开图像中的坐标,包括:
根据将所述每个像素点在笛卡尔坐标系中的坐标转换到三维球面坐标系中,(x,y,z)是待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
根据确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标,其中,(r,θ,)是待显示的漫游图像中每个像素点在三维球面坐标系中的坐标,其中r=1,(xd,yd)为每个像素点对应在球面展开图像中的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别为球面展开图像对应的鱼眼图像的角度拍摄方式下的θ和的最大值,xoffset,yoffset是球面展开图像对应的鱼眼图像的角度拍摄方式下,鱼眼图像在完整球面展开图像中的偏移量。
为了达到上述目的,本发明实施例还公开了一种鱼眼图像的校正装置,包括:
拍摄角度确定模块,用于确定待校正的鱼眼图像的拍摄角度;
图像尺寸确定模块,用于根据所述待校正的鱼眼图像的拍摄角度,确定校正后的球面展开图像的高度和宽度;
坐标关系确定模块,用于根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系;
像素值确定模块,用于根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。
可选的,所述图像尺寸确定模块具体用于:
根据所述拍摄角度,确定该拍摄角度对应的角度拍摄方式;
根据设置的每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间,确定校正后的球面展开图像的高度和宽度。
可选的,所述图像尺寸确定模块具体用于:
当角度拍摄方式为平视拍摄方式时,对应的球面展开图像的高度区间和宽度区间均为[rs,3rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量;
当角度拍摄方式为俯视拍摄方式或仰视拍摄方式时,对应的球面展开图像的高度区间为[0.5rs,1.5rs],宽度区间为[3rs,5rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量。
可选的,所述坐标关系确定模块包括:
三维球面坐标确定子模块,用于根据校正后的球面展开图像的高度、宽度及所述拍摄角度,确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标;
鱼眼图像坐标确定子模块,用于根据球面展开图像中每个像素点对应在三维球面坐标系中的坐标,确定所述每个像素点在三维球面坐标系中的坐标对应在鱼眼图像中的坐标。
可选的,所述三维球面坐标确定子模块具体用于:
根据确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标,其中,(xd,yd)为球面展开图像中像素点的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别是不同角度拍摄方式下的θ和的最大值,xoffset,yoffset是不同角度拍摄方式下鱼眼图像在完整球面展开图像中的偏移量。
可选的,所述鱼眼图像坐标确定子模块具体用于:
将所述三维球面坐标系中每个像素点的坐标,转换到笛卡尔坐标系中;
根据所述每个像素点在所述笛卡尔坐标系中的坐标、等距离投影模型及确定的拍摄角度,确定所述每个像素点在笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标;
对投影到二维平面坐标系下的坐标进行去归一化处理,确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系。
可选的,所述鱼眼图像坐标确定子模块具体用于:
当所述拍摄角度对应的角度拍摄方式为平视拍摄方式时,
根据确定所述每个像素点在所述
笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所
述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的
坐标,
当所述拍摄角度对应的角度拍摄方式为仰视拍摄方式或俯视拍摄方式时,
根据确定所述每个像素点在所述
笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所
述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的
坐标,
可选的,所述鱼眼图像坐标确定子模块具体用于:
根据确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像
中对应坐标的关系,其中,(xs,ys)为鱼眼图像中每个像素点的坐标,ws和hs分为鱼眼图像的
像素列数和行数,rs是鱼眼图像中心到达边缘圆的半径中像素点数量,(xs′,ys′)是笛卡尔
坐标系中的坐标投影到二维平面坐标系下的坐标。
可选的,所述像素值确定模块具体用于:
根据Id(xd,yd)=(1-u)*(1-v)*Is(i,j)+(1-u)*v*Is(i,j+1)+u*(1-v)*Is(i+1,j)+u*v*Is(i+1,j+1),确定球面展开图像中每个像素点的像素值,其中,(i,j)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的整数部分,(u,v)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的小数部分,Is(xs,ys)为鱼眼图像中坐标为(m,n)的像素点的像素值,Id(xd,yd)为与鱼眼图像中像素点对应的球面展开图上像素点的像素值。
本发明实施例还公开了一种鱼眼图像校正装置的漫游显示装置,包括:
参数确定模块,用于确定待显示的漫游图像的视角、漫游姿态;
笛卡尔坐标确定模块,用于根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
球面图像坐标确定模块,用于根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标;
像素值确定模块,用于根据确定的球面展开图像中每个像素点对应的像素值及漫游图像中每个像素点的坐标,确定漫游图像中每个像素点的像素值。
可选的,所述参数确定模块具体用于:
根据终端设备的外接设备或传感器,确定漫游显示图像的视角和漫游姿态。
可选的,所述笛卡尔坐标确定模块具体用于:
根据确定待显示的漫游图像中每个像素点在
笛卡尔坐标系中的坐标,其中,(xm,ym)是待显示的漫游图像中每个像素点的坐标,(x,y,z)
是待显示的漫游图像中每个像素点对应在笛卡尔坐标系中的坐标,(xm′,ym′)是中间量坐
标,wm和hm分别为待显示的漫游图像的宽度和高度,R是根据漫游姿态确定的旋转矩阵,fov
为漫游视角。
可选的,所述球面图像坐标确定模块具体用于:
根据将所述每个像素点在笛卡尔坐标系中的坐标转换到三维球面坐标系中,其中,(x,y,z)是待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
根据确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标,其中,(r,θ,)是待显示的漫游图像中每个像素点在三维球面坐标系中的坐标,其中r=1,(xd,yd)为每个像素点对应在球面展开图像中的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别为球面展开图像对应的鱼眼图像的角度拍摄方式下的θ和的最大值,xoffset,yoffset是球面展开图像对应的鱼眼图像的角度拍摄方式下,鱼眼图像在完整球面展开图像中的偏移量。
由上述的技术方案可见,本发明实施例提供了一种鱼眼图像校正和漫游显示的方法及装置,该校正的方法中通过确定待校正的鱼眼图像的拍摄角度;根据确定的所述拍摄角度,确定校正后的球面展开图像的高度和宽度;根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系;根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。由于本发明实施例中,确定待校正的鱼眼图像的拍摄角度,从而确定所述球面展开图像中每个像素点坐标与所述鱼眼图像中每个像素点坐标之间的关系,进而确定球面展开图像中每个像素点的像素值,因此,提高了图像校正的准确性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1A为本发明实施例提供的一种鱼眼图像校正方法的流程示意图;
图1B为平视拍摄方式下的鱼眼图像;
图1C为对图1B中的鱼眼图像采用本发明实施例提供的一种鱼眼图像校正方法校正得到的球面展开图像;
图1D为仰视拍摄方式下的鱼眼图像;
图1E为对图1D中的鱼眼图像采用本发明实施例提供的一种鱼眼图像校正方法校正得到的球面展开图像;
图2为本发明实施例提供的一种鱼眼图像校正方法中拍摄角度与角度拍摄方式对应关系示意图;
图3A为本发明实施例提供的一种鱼眼图像校正方法的漫游显示方法的流程示意图;
图3B~3E为采用本发明实施例提供的一种鱼眼图像校正方法的漫游显示方法得到的与图1C中球面展开图像对应的不同视角下的漫游显示图像;
图3F~3I为采用本发明实施例提供的一种鱼眼图像校正方法的漫游显示方法得到的与图1E中球面展开图像对应的不同视角下的漫游显示图像;
图4为本发明实施例提供的一种鱼眼图像校正装置的结构示意图;
图5为本发明实施例提供的一种鱼眼图像校正装置的漫游显示装置的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面通过具体实施例,对发明进行详细说明。
图1A为本发明实施例发明提供的一种鱼眼图像校正方法的流程示意图,该方法应用于终端设备,包括如下步骤:
步骤S101:确定待校正的鱼眼图像的拍摄角度。
鱼眼图像的拍摄角度可以通过鱼眼镜头所在的全景设备获取,并输入到终端设备中,或者也可以是用户确定拍摄角度,并将该拍摄角度作为确定的待校正的鱼眼图像的拍摄角度。
通过鱼眼镜头所在的全景设备获取鱼眼图像的拍摄角度属于现有技术,在本发明实施例中对该过程不进行赘述。
步骤S102:根据确定的所述拍摄角度,确定校正后的球面展开图像的高度和宽度。
具体的,可以预先设置每种拍摄角度与校正后的球面展开图像的高度和宽度区间的对应关系,并将该对应关系保存在终端设备中,当终端设备确定了待校正的鱼眼图像的拍摄角度后,根据该对应关系,确定校正后的球面展开图像的高度和宽度。
步骤S103:根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系。
步骤S104:根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。
具体的,鱼眼图像中每个像素点的横纵坐标都是整数,相应的球面展开图像中每个像素点的横纵坐标也都是整数。在本发明实施例中确定了球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系,也就是说将球面展开图像中每个像素点的坐标用鱼眼图像中相应的像素点的坐标来表示。为了确定球面展开图像中每个像素点的颜色,需要根据上述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系,确定该球面展开图像中每个像素点在鱼眼图像中对应的像素点。针对每个已知的球面展开图像中的像素点的坐标,根据上述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系,可以确定与该像素点对应的鱼眼图像中的像素点的坐标。
但是根据上述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系,当已知球面展开图像中的像素点的坐标时,确定的与该像素点对应的鱼眼图像中的像素点的坐标往往不是整数,当该坐标不是整数时,不能在鱼眼图像中查找到相应的像素点。因此,在本发明实施例中,针对球面展开图像中的每个像素点,当根据上述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系,确定与该像素点对应的鱼眼图像中的像素点的坐标时,如果鱼眼图像中的像素点的坐标非整数,则将该非整数进行取整操作,将取整后的坐标对应的像素点的像素值,确定为球面展开图像中像素点的像素值。
具体的该取整操作,可以简单的去除小数部分的操作,例如得到的坐标为12.43和21.54,则经取整操作后分别为12和21,或者取整操作也可以是对坐标进行四舍五入操作,还以坐标为12.43和21.54为例,进行四舍五入操作后分别为12和22。当然在具体实施时,也可以选择其他的取整操作方式,只要能够保证得到该坐标对应的整数即可。
采用本发明实施例,当角度拍摄方式为平视拍摄方式时,确定的鱼眼图像如图1B所示,图1B中的鱼眼图像对应的球面展开图像如图1C所示;当角度拍摄方式为仰视拍摄方式时,确定的鱼眼图像如图1D所示,图1D中的鱼眼图像对应的球面展开图像如图1E所示
应用本发明实施例所提供的技术方案,根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系,进而确定球面展开图像中每个像素点的像素值,实现对不同拍摄角度下的鱼眼图像采用统一的校正方法进行校正,提高了图像校正的准确性。
在本发明的图1A所示实施方式的基础上,本发明的一个实施例中,所述确定校正后的球面展开图像的高度和宽度包括:
根据所述拍摄角度,确定该拍摄角度对应的角度拍摄方式;
根据设置的每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间,确定校正后的球面展开图像的高度和宽度。
在本发明实施例中每个拍摄角度对应相应的角度拍摄方式,角度拍摄方式主要包括平视拍摄方式、俯视拍摄方式和仰视拍摄方式。其中每种角度拍摄方式包括多个连续的拍摄角度。如图2所示,拍摄角度可能为0度至360度,以0度水平线为基准,按照逆时针方向定义每个拍摄角度,那么,平视拍摄方式包括的拍摄角度为0度到45度,135度到180度,180度到225度以及315度到360度,俯视拍摄方式包括的拍摄角度为225度到315度,仰视拍摄方式包括的拍摄角度为45度到135度。当然也可以是其他的角度范围,在本发明实施例中对此不再进行赘述。
采用本发明实施例,建立了每个拍摄角度与相应的角度拍摄方式的对应关系,并针对每种角度拍摄方式保存其对应的球面展开图像的高度区间和宽度区间,因此在终端设备中无需针对每个拍摄角度都保存相应的球面展开图像的高度和宽度,大大减少了终端设备的存储数据量,方便终端设备进行高度和宽度的查找,提高了终端设备的处理速度,及鱼眼图像的校正效率。
在本发明的图1A所示实施方式的基础上,每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间包括:在本发明实施例中保存有每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间,每种角度拍摄方式对应的高度区间和宽度区间可以完全不同,也可以有部分重叠。根据每个高度区间和宽度区间中保存的数据,在确定校正后的球面展开图像的高度和宽度时,可以在对应的高度和宽度区间中任意选择一个值作为校正后的球面展开图像的高度和宽度。
当然为了保证得到的球面展开图像的准确性,有效的消除图像失真,在本发明的另一个实施例中,所述每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间包括:
当角度拍摄方式为平视拍摄方式时,对应的球面展开图像的高度区间和宽度区间均为[rs,3rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量;
当角度拍摄方式为俯视拍摄方式或仰视拍摄方式时,对应的球面展开图像的高度区间为[0.5rs,1.5rs],宽度区间为[3rs,5rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量。
采用本发明的上述实施例可以有效的提高校正图像的质量,将图像形变程度降到最低。较佳地,当角度拍摄方式为平视拍摄方式时,确定对应的球面展开图像的高度和宽度均为2rs;当角度拍摄方式为俯视拍摄方式或仰视拍摄方式时,确定对应的球面展开图像的高度为rs,宽度为4rs,其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量。
在本发明的图1A所示实施方式的基础上,在本发明的一个实施例中,所述根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点坐标与所述鱼眼图像中每个像素点坐标之间的关系,包括:
根据校正后的球面展开图像的高度、宽度及所述拍摄角度,确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标;并根据球面展开图像中每个像素点对应在三维球面坐标系中的坐标,确定所述每个像素点在三维球面坐标系中的坐标对应在鱼眼图像中的坐标。
具体确定过程如下:
首先,根据校正后的球面展开图像的高度、宽度及所述拍摄角度,确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标。
根据确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标,其中,(xd,yd)为球面展开图像中像素点的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别是不同角度拍摄方式下θ和的最大值,xoffset,yoffset是不同角度拍摄方式下鱼眼图像在完整球面展开图像中的偏移量。其中,球面展开图中每个像素点的坐标的确定属于现有技术,在本发明实施例中对此不进行赘述。
具体的,xoffset,yoffset是不同角度拍摄方式下鱼眼图像在完整的360°球面展开图像中的偏移量,rangex,rangey及xoffset,yoffset的取值如下:
当角度拍摄方式为平视拍摄方式时,取xoffset=yoffset=0.5,rangex=rangey=π。
当角度拍摄方式为仰视拍摄方式时,取xoffset=0.5,yoffset=0,rangex=2π,
当角度拍摄方式为俯视拍摄方式时,取xoffset=0.5,yoffset=1,rangex=2π,
其次,根据将所述三维球面坐标系中每个像素点的坐标转换到笛卡尔坐标系中。
确定三维球面坐标系以及笛卡尔坐标系属于现有技术,在本发明实施例中对该过程不进行赘述。
再次,根据所述每个像素点在所述笛卡尔坐标系中的坐标、等距离投影模型及确定的拍摄角度,确定所述每个像素点在笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标。
当所述拍摄角度对应的角度拍摄方式为平视拍摄方式时,
根据确定所述每个像素点在所述
笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所
述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的
坐标,
所述笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标采用的等距离投影模型属于现有技术,在本发明实施例中对该过程不进行赘述。
当所述拍摄角度对应的角度拍摄方式为仰视拍摄方式或俯视拍摄方式时,
根据确定所述每个像素点在所述
笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所
述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的
坐标,
最后,对投影到二维平面坐标系下的坐标进行去归一化处理,确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系。
根据确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像
中对应坐标的关系,其中,(xs,ys)为鱼眼图像中每个像素点的坐标,ws和hs分为鱼眼图像的
像素列数和行数,rs是鱼眼图像中心到达边缘圆的半径中像素点数量,(xs′,ys′)是笛卡尔
坐标系中的坐标投影到二维平面坐标系下的坐标。确定鱼眼图像中每个像素点的坐标属于
现有技术,在本发明实施例中对该过程不进行赘述。
在本发明的图1A所示实施方式的基础上,本发明提供的另一个实施方式中,所述确定球面展开图像中每个像素点的像素值包括:
根据
Id(xd,yd)=(1-u)*(1-v)*Is(i,j)+(1-u)*v*Is(i,j+1)+u*(1-v)*Is(i+1,j)+u*v*Is(i+1,j+1),确定球面展开图像中每个像素点的像素值,其中,(i,j)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的整数部分,(u,v)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的小数部分,Is(xs,ys)为鱼眼图像中坐标为(m,n)的像素点的像素值,Id(xd,yd)为与鱼眼图像中像素点对应的球面展开图上像素点的像素值。
本实施方式采用插值算法来确定球面展开图像中每个像素点的像素值,其原因在于,如果直接将计算得到的非整数鱼眼图像中像素点坐标做取整操作,可能会出现连续两次取的是同一个整数坐标的像素点的像素值,或者连续两次取的是相邻的整数坐标像素点的像素值,这样可能就会漏掉一些像素点,导致校正后的图像不平滑,质量下降。因此,针对计算得到的鱼眼图像中像素点的坐标不是整数的情况,采用插值算法针对像素点坐标的整数部分与小数部分分别处理,可以准确的将鱼眼图像中每个像素点对应的像素值填充到球面展开图像中的对应的每个像素点中,从而使校正得到的球面展开图像更加平滑,图像质量较高。
应用本发明实施例所提供的技术方案,根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系,进而确定球面展开图像中每个像素点的像素值,实现对不同拍摄角度下的鱼眼图像采用统一的校正方法进行校正,提高了图像校正的准确性。
现有技术中,根据鱼眼图像校正后的球面展开图像进行漫游显示时,漫游姿势与实际姿势不符,即漫游显示的图像与真实方位不一致,导致漫游显示不能兼容360°的球面全景展开图,不适合头戴设备播放。因此,本发明实施例提供了一种鱼眼图像校正方法的漫游显示方法。
图3A为本发明实施例提供的一中鱼眼图像校正方法的漫游显示方法的流程示意图,该方法应用于终端设备,包括如下步骤:
步骤S301:确定待显示的漫游图像的视角、漫游姿态。
所述终端设备可以为电脑、移动或头戴设备。
步骤S302:根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标。
步骤S303:根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标;
步骤S304:根据确定的球面展开图像中每个像素点对应的像素值及漫游图像中每个像素点的坐标,确定漫游图像中每个像素点的像素值。
本发明实施例中,将漫游图像中每个像素点对应在球面展开图中每个像素点的像素值直接填充到漫游图像中每个像素点,这样可以有效保证球面展开图中每个像素点都可以在漫游显示时得到充分利用,使得漫游显示图像兼容360°的球面全景展开图像,支持头戴设备的播放。
在本发明的图3A所示实施方式的基础上,本发明提供的一个实施方式中,所述确定待显示的漫游图像的视角、漫游姿态包括:
根据终端设备的外接设备或传感器,确定漫游显示图像的视角和漫游姿态。
当终端设备是电脑时,根据电脑连接的鼠标或键盘,确定漫游显示图像的视角和漫游姿态;当终端设备是移动或头戴设备时,根据移动或头戴设备的传感器,确定漫游显示图像的视角和漫游姿态。
具体的,当终端设备是电脑时,可以通过向上、向下滚动鼠标的滚轮或者对键盘表示向上、向下方位的按键进行操作,来确定漫游显示图像的视角。漫游显示图像的视角变化具体表现为图像的放大或者缩小,当鼠标滚轮向上滚动或者按下键盘中向上的按键时,球面展开图像进行相应的放大,对应的漫游显示图像视角会变小;当鼠标滚轮向下滚动或者按下键盘中向下的按键时,球面展开图像进行相应的缩小,对应的漫游显示图像视角会变大。
本发明实施例中,在原始球面展开图像的基础上,使用鼠标滚轮或者键盘向上、向下方位按键对球面展开图像每进行一次操作,球面展开图像对应的漫游显示图像的视角会按照预设的角度值进行相应的变化,鼠标滚轮向上滚动一次或者按一次键盘中向上的按键时,漫游显示图像的视角会减小预设角度值,鼠标滚轮向下滚动一次或者按一次键盘中向下的按键时,漫游显示图像的视角会增大预设角度值,当对球面展开图像执行多次上述操作,漫游显示图像的视角达到预设最大阈值或者最小阈值后,对球面展开图像再执行上述操作,漫游显示图像的视角不再进行相应的变化。例如,设置原始球面展开图像对应的原始漫游显示图像的视角为60度,漫游显示图像的视角最大阈值为110度,最小阈值为10度,鼠标滚轮或者键盘方位键操作一次角度值变化5度,那么,对原始球面展开图像执行鼠标滚轮向上滚动一次或者按一次键盘中向上的按键时,当前漫游显示图像的视角变为55度,对当前球面展开图像重复执行鼠标滚轮向上滚动一次或者按一次键盘中向上的按键操作,则漫游显示图像的视角变为50度;同理,对原始球面展开图像执行鼠标滚轮向下滚动一次或者按一次键盘中向下的按键时,当前漫游显示图像的视角变为65度。当然,鼠标滚轮或者键盘方位键操作一次角度值的变化也可以设置成其他角度值,如10度或者15度,原始漫游显示图像的视角、预设最大或者最小阈值也可以为其他角度,这里不再进行赘述。
当终端设备是移动或者头戴设备时,一般根据移动或者头戴设备的型号确定,其对应漫游显示图像的视角也就确定,但也有些移动或者头戴设备具有视角可调功能,那么,用户在使用时,可以根据需要通过调节按钮对视角进行调节。具体的,可以通过顺时针或者逆时针旋转调节按钮来调节漫游显示图像的视角,调节按钮每调节一定的角度,漫游显示图像的视角会按照预设角度值进行相应的变化,顺时针旋转调节按钮一定的角度,漫游显示图像的视角增大预设角度值,逆时针旋转调节按钮一定的角度,漫游显示图像的视角减小预设角度值。当多次旋转调节按钮,漫游显示图像的视角达到预设的最大阈值或者最小阈值后,漫游显示图像的视角不再变化。例如,设置调节按钮每旋转15度漫游显示图像的视角变化5度,漫游显示图像的视角最大阈值为110度,最小阈值为10度,假设,设置原始球面展开图像对应的原始漫游显示图像的视角为60度。那么,顺时针旋转调节按钮15度,漫游显示图像的视角变为65度,在此基础上,再次顺时针旋转调节按钮15度,漫游显示图像的视角就变为70度;同理,在原始球面展开图像对应的原始漫游显示图像的基础上,逆时针旋转调节按钮15度,漫游显示图像的视角就变为55度。当然,漫游显示图像视角变化5度对应的调节按钮的旋转角度可以设置成其他值,如10度或者20度,调节按钮旋转15度对应的漫游显示图像视角的角度变化值也可以设置成其他值,如10度或者15度,漫游显示图像视角预设的最大或者最小阈值也可以为其他角度,这里不再进行赘述。
漫游姿态是指在由球面展开图像生成对应的漫游显示图像时,相对于球面展开图像的中心点视线的偏移方位与偏移角度,例如在球面展开图像的中心点,视线向左偏移30度或者向上偏移45度,偏移的方位可以是向上、向下、向左及向右,偏移角度可以为0度到360度范围内的每一个角度。当终端设备是电脑时,可以通过鼠标指针相对于球面展开图像中心点的偏移方位与角度确定漫游姿态,也可以通过键盘中表示方位的按键确定漫游姿态。当终端设备是移动或者头戴设备时,通过确定移动设备的移动方向和角度,或者头戴设备用户头部移动的方向和角度,确定对应的漫游姿态。
在本发明的图3A所示实施方式的基础上,本发明提供的一个实施方式中,所述根据视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标,包括:
根据确定待显示的漫游图像中每个像素点在
笛卡尔坐标系中的坐标,其中,(xm,ym)是待显示的漫游图像中每个像素点的坐标,(x,y,z)
是待显示的漫游图像中每个像素点对应在笛卡尔坐标系中的坐标,(xm′,ym′)是中间量坐
标,wm和hm分别为待显示的漫游图像的宽度和高度,R是根据漫游姿态确定的旋转矩阵,fov
为漫游视角。
根据漫游姿态确定旋转矩阵R的过程属于现有技术,本发明实施例中不再赘述。
在本发明的图3A所示实施方式的基础上,本发明提供的一个实施方式中,根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标,包括:
根据将所述每个像素点在笛卡尔坐标系中的坐标,转换到三维球面坐标系中,(x,y,z)是待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
根据确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标,其中,(r,θ,)是待显示的漫游图像中每个像素点在三维球面坐标系中的坐标,其中r=1,(xd,yd)为每个像素点对应在球面展开图像中的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别为球面展开图像对应的鱼眼图像的角度拍摄方式下的θ和的最大值,xoffset,yoffset是球面展开图像对应的鱼眼图像的角度拍摄方式下,鱼眼图像在完整球面展开图像中的偏移量。
具体的,xoffset,yoffset是不同角度拍摄方式下鱼眼图像在完整的360°球面展开图像中的偏移量,rangex,rangey及xoffset,yoffset的取值如下:
当角度拍摄方式为平视拍摄方式时,取xoffset=yoffset=0.5,rangex=rangey=π。
当角度拍摄方式为仰视拍摄方式时,取xoffset=0.5,yoffset=0,rangex=2π,
当角度拍摄方式为俯视拍摄方式时,取xoffset=0.5,yoffset=1,rangex=2π,
采用本发明实施例,与图1C中球面展开图像对应的不同视角下的漫游显示图像如图3B~3E所示;与图1E中球面展开图像对应的不同视角下的漫游显示图像如图3F~3I所示。
应用本发明实施例所提供的技术方案,根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标;根据确定的球面展开图像中每个像素点对应的像素值及漫游图像中每个像素点的坐标,确定漫游图像中每个像素点的像素值。使得漫游显示图像兼容360°的球面全景展开图像,支持头戴设备的播放。
图4为本发明实施例提供的一中鱼眼图像校正装置的结构示意图,与图1A相对应,包括拍摄角度确定模块41、图像尺寸确定模块42、坐标关系确定模块43、像素值确定模块44。
拍摄角度确定模块41,用于确定待校正的鱼眼图像的拍摄角度;
图像尺寸确定模块42,用于根据所述待校正的鱼眼图像的拍摄角度,确定校正后的球面展开图像的高度和宽度;
坐标关系确定模块43,用于根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系;
像素值确定模块44,用于根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。
所述图像尺寸确定模块42,具体用于:当角度拍摄方式为平视拍摄方式时,对应的球面展开图像的高度区间和宽度区间均为[rs,3rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量;
当角度拍摄方式为俯视拍摄方式或仰视拍摄方式时,对应的球面展开图像的高度区间为[0.5rs,1.5rs],宽度区间为[3rs,5rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量。
所述坐标关系确定模块43,包括:
三维球面坐标确定子模块431,具体用于根据确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标,其中,(xd,yd)为球面展开图像中像素点的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别是不同角度拍摄方式下的θ和的最大值,xoffset,yoffset是不同角度拍摄方式下鱼眼图像在完整球面展开图像中的偏移量。
鱼眼图像坐标确定子模块432,具体用于:将所述三维球面坐标系中每个像素点的坐标,转换到笛卡尔坐标系中;
当所述拍摄角度对应的角度拍摄方式为平视拍摄方式时,
根据确定所述每个像素点在所述
笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所
述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的
坐标,
当所述拍摄角度对应的角度拍摄方式为仰视拍摄方式或俯视拍摄方式时,
根据确定所述每个像素点在所述
笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所
述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的
坐标,
根据确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像
中对应坐标的关系,其中,(xs,ys)为鱼眼图像中每个像素点的坐标,ws和hs分为鱼眼图像的
像素列数和行数,rs是鱼眼图像中心到达边缘圆的半径中像素点数量,(xs′,ys′)是笛卡尔
坐标系中的坐标投影到二维平面坐标系下的坐标。
所述像素值确定模块44,具体用于:
根据
Id(xd,yd)=(1-u)*(1-v)*Is(i,j)+(1-u)*v*Is(i,j+1)+u*(1-v)*Is(i+1,j)+u*v*Is(i+1,j+1),确定球面展开图像中每个像素点的像素值,其中,(i,j)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的整数部分,(u,v)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的小数部分,Is(xs,ys)为鱼眼图像中坐标为(m,n)的像素点的像素值,Id(xd,yd)为与鱼眼图像中像素点对应的球面展开图上像素点的像素值。
图5为本发明实施例提供的一种鱼眼图像校正装置的漫游显示装置的结构示意图,与图3A相对应,包括参数确定模块51、笛卡尔坐标确定模块52、球面图像坐标确定模块53、像素值确定模块54。
其中,参数确定模块51,用于根据终端设备的外接设备或传感器,确定漫游显示图像的视角和漫游姿态。
笛卡尔坐标确定模块52,用于根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标。
所述笛卡尔坐标确定模块52,具体用于:
根据确定待显示的漫游图像中每个像素点在
笛卡尔坐标系中的坐标,其中,(xm,ym)是待显示的漫游图像中每个像素点的坐标,(x,y,z)
是待显示的漫游图像中每个像素点对应在笛卡尔坐标系中的坐标,(xm′,ym′)是中间量坐
标,wm和hm分别为待显示的漫游图像的宽度和高度,R是根据漫游姿态确定的旋转矩阵,fov
为漫游视角。
球面图像坐标确定模块53,用于根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标。
所述球面图像坐标确定模块53,具体用于:
根据将所述每个像素点在笛卡尔坐标系中的坐标转换到三维球面坐标系中,其中,(x,y,z)是待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
根据确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标,其中,(r,θ,)是待显示的漫游图像中每个像素点在三维球面坐标系中的坐标,其中(r=1),(xd,yd)为每个像素点对应在球面展开图像中的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别为球面展开图像对应的鱼眼图像的角度拍摄方式下的θ和的最大值,xoffset,yoffset是球面展开图像对应的鱼眼图像的角度拍摄方式下,鱼眼图像在完整球面展开图像中的偏移量。
像素值确定模块54,用于根据确定的球面展开图像中每个像素点对应的像素值及漫游图像中每个像素点的坐标,确定漫游图像中每个像素点的像素值。
本发明实施例提供一种鱼眼图像校正和漫游显示的方法及装置,通过确定待校正的鱼眼图像的拍摄角度;根据确定的所述拍摄角度,确定校正后的球面展开图像的高度和宽度;根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系;根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。由于本发明实施例中,根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点坐标与所述鱼眼图像中每个像素点坐标之间的关系,进而确定球面展开图像中每个像素点的像素值,因此,提高了图像校正的准确性。
对于系统/装置实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (26)
1.一种鱼眼图像的校正方法,其特征在于,应用于终端设备,所述方法包括:
确定待校正的鱼眼图像的拍摄角度;其中,所述拍摄角度对应一种角度拍摄方式,所述角度拍摄方式包括连续的拍摄角度;
根据确定的所述拍摄角度,确定校正后的球面展开图像的高度和宽度;
根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系;
根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。
2.根据权利要求1所述的方法,其特征在于,所述确定校正后的球面展开图像的高度和宽度包括:
根据所述拍摄角度,确定该拍摄角度对应的角度拍摄方式;
根据设置的每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间,确定校正后的球面展开图像的高度和宽度。
3.根据权利要求2所述的方法,其特征在于,所述每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间包括:
当角度拍摄方式为平视拍摄方式时,对应的球面展开图像的高度区间和宽度区间均为[rs,3rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量;
当角度拍摄方式为俯视拍摄方式或仰视拍摄方式时,对应的球面展开图像的高度区间为[0.5rs,1.5rs],宽度区间为[3rs,5rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量。
4.根据权利要求1所述的方法,其特征在于,所述根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点坐标与所述鱼眼图像中每个像素点坐标之间的关系,包括:
根据校正后的球面展开图像的高度、宽度及所述拍摄角度,确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标;并
根据球面展开图像中每个像素点对应在三维球面坐标系中的坐标,确定所述每个像素点在三维球面坐标系中的坐标对应在鱼眼图像中的坐标。
5.根据权利要求4所述的方法,其特征在于,所述根据校正后的球面展开图像的高度、宽度及所述拍摄角度,确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标,包括:
根据确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标,其中,(xd,yd)为球面展开图像中像素点的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别是不同角度拍摄方式下θ和的最大值,xoffset,yoffset是不同角度拍摄方式下鱼眼图像在完整球面展开图像中的偏移量。
6.根据权利要求4所述的方法,其特征在于,所述根据球面展开图像中每个像素点对应在三维球面坐标系中的坐标,确定所述每个像素点在三维球面坐标系中的坐标对应在鱼眼图像中的坐标,包括:
将所述三维球面坐标系中每个像素点的坐标,转换到笛卡尔坐标系中;
根据所述每个像素点在所述笛卡尔坐标系中的坐标、等距离投影模型及确定的拍摄角度,确定所述每个像素点在笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标;
对投影到二维平面坐标系下的坐标进行去归一化处理,确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系。
7.根据权利要求6所述的方法,其特征在于,所述根据所述每个像素点在所述笛卡尔坐标系中的坐标、等距离投影模型及确定的拍摄角度,确定所述每个像素点在笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标包括:
当所述拍摄角度对应的角度拍摄方式为平视拍摄方式时,
根据确定所述每个像素点在所述笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,
当所述拍摄角度对应的角度拍摄方式为仰视拍摄方式或俯视拍摄方式时,
根据确定所述每个像素点在所述笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,
8.根据权利要求6所述的方法,其特征在于,所述对投影到二维平面坐标系下的坐标进行去归一化处理,确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系包括:
根据确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系,其中,(xs,ys)为鱼眼图像中每个像素点的坐标,ws和hs分别为鱼眼图像的像素列数和行数,rs是鱼眼图像中心到达边缘圆的半径中像素点数量,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标。
9.根据权利要求1所述方法,其特征在于,所述确定球面展开图像中每个像素点的像素值包括:
根据
Id(xd,yd)=(1-u)*(1-v)*Is(i,j)+(1-u)*v*Is(i,j+1)+u*(1-v)*Is(i+1,j)+u*v*Is(i+1,j+1),确定球面展开图像中每个像素点的像素值,其中,(i,j)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的整数部分,(u,v)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的小数部分,Is(xs,ys)为鱼眼图像中坐标为(m,n)的像素点的像素值,Id(xd,yd)为与鱼眼图像中像素点对应的球面展开图上像素点的像素值。
10.一种基于权利要求1-9任一项所述鱼眼图像校正方法的漫游显示方法,其特征在于,所述方法包括:
确定待显示的漫游图像的视角、漫游姿态;
根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标;
根据确定的球面展开图像中每个像素点对应的像素值及漫游图像中每个像素点的坐标,确定漫游图像中每个像素点的像素值。
11.根据权利要求10所述的方法,其特征在于,所述确定待显示的漫游图像的视角、漫游姿态包括:
根据终端设备的外接设备或传感器,确定漫游显示图像的视角和漫游姿态。
12.根据权利要求10所述的方法,其特征在于,根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标,包括:
根据确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标,其中,(xm,ym)是待显示的漫游图像中每个像素点的坐标,(x,y,z)是待显示的漫游图像中每个像素点对应在笛卡尔坐标系中的坐标,(xm′,ym′)是中间量坐标,wm和hm分别为待显示的漫游图像的宽度和高度,R是根据漫游姿态确定的旋转矩阵,fov为漫游视角。
13.根据权利要求10所述的方法,其特征在于,所述根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应的在球面展开图像中的坐标,包括:
根据将所述每个像素点在笛卡尔坐标系中的坐标转换到三维球面坐标系中,(x,y,z)是待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
根据确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标,其中,是待显示的漫游图像中每个像素点在三维球面坐标系中的坐标,其中r=1,(xd,yd)为每个像素点对应在球面展开图像中的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别为球面展开图像对应的鱼眼图像的角度拍摄方式下的θ和的最大值,xoffset,yoffset是球面展开图像对应的鱼眼图像的角度拍摄方式下,鱼眼图像在完整球面展开图像中的偏移量。
14.一种鱼眼图像的校正装置,其特征在于,所述装置包括:
拍摄角度确定模块,用于确定待校正的鱼眼图像的拍摄角度;其中,所述拍摄角度对应一种角度拍摄方式,所述角度拍摄方式包括连续的拍摄角度;
图像尺寸确定模块,用于根据所述待校正的鱼眼图像的拍摄角度,确定校正后的球面展开图像的高度和宽度;
坐标关系确定模块,用于根据确定的校正后的球面展开图像的高度、宽度及所述拍摄角度,确定所述球面展开图像中每个像素点的坐标与所述鱼眼图像中每个像素点坐标之间的关系;
像素值确定模块,用于根据所述关系及鱼眼图像中相应像素点的像素值,确定球面展开图像中每个像素点的像素值。
15.根据权利要求14所述的装置,其特征在于,所述图像尺寸确定模块具体用于:
根据所述拍摄角度,确定该拍摄角度对应的角度拍摄方式;
根据设置的每种角度拍摄方式对应的球面展开图像的高度区间和宽度区间,确定校正后的球面展开图像的高度和宽度。
16.根据权利要求15所述的装置,其特征在于,所述图像尺寸确定模块具体用于:
当角度拍摄方式为平视拍摄方式时,对应的球面展开图像的高度区间和宽度区间均为[rs,3rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量;
当角度拍摄方式为俯视拍摄方式或仰视拍摄方式时,对应的球面展开图像的高度区间为[0.5rs,1.5rs],宽度区间为[3rs,5rs],其中,rs为鱼眼图像中心到达边缘圆的半径中像素点数量。
17.根据权利要求14所述的装置,其特征在于,所述坐标关系确定模块包括:
三维球面坐标确定子模块,用于根据校正后的球面展开图像的高度、宽度及所述拍摄角度,确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标;
鱼眼图像坐标确定子模块,用于根据球面展开图像中每个像素点对应在三维球面坐标系中的坐标,确定所述每个像素点在三维球面坐标系中的坐标对应在鱼眼图像中的坐标。
18.根据权利要求17所述的装置,其特征在于,所述三维球面坐标确定子模块具体用于:
根据确定球面展开图像中每个像素点对应在三维球面坐标系中的坐标,其中,(xd,yd)为球面展开图像中像素点的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别是不同角度拍摄方式下的θ和的最大值,xoffset,yoffset是不同角度拍摄方式下鱼眼图像在完整球面展开图像中的偏移量。
19.根据权利要求17所述的装置,其特征在于,所述鱼眼图像坐标确定子模块具体用于:
将所述三维球面坐标系中每个像素点的坐标,转换到笛卡尔坐标系中;
根据所述每个像素点在所述笛卡尔坐标系中的坐标、等距离投影模型及确定的拍摄角度,确定所述每个像素点在笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标;
对投影到二维平面坐标系下的坐标进行去归一化处理,确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系。
20.根据权利要求19所述的装置,其特征在于,所述鱼眼图像坐标确定子模块具体用于:
当所述拍摄角度对应的角度拍摄方式为平视拍摄方式时,
根据确定所述每个像素点在所述笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,
当所述拍摄角度对应的角度拍摄方式为仰视拍摄方式或俯视拍摄方式时,
根据确定所述每个像素点在所述笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,其中,(x,y,z)是每个像素点在所述笛卡尔坐标系中的坐标,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标,
21.根据权利要求19所述的装置,其特征在于,所述鱼眼图像坐标确定子模块具体用于:
根据确定去归一化后二维平面坐标系下的对应坐标与鱼眼图像中对应坐标的关系,其中,(xs,ys)为鱼眼图像中每个像素点的坐标,ws和hs分别为鱼眼图像的像素列数和行数,rs是鱼眼图像中心到达边缘圆的半径中像素点数量,(xs′,ys′)是笛卡尔坐标系中的坐标投影到二维平面坐标系下的坐标。
22.根据权利要求14所述的装置,其特征在于,所述像素值确定模块具体用于:
根据
Id(xd,yd)=(1-u)*(1-v)*Is(i,j)+(1-u)*v*Is(i,j+1)+u*(1-v)*Is(i+1,j)+u*v*Is(i+1,j+1),确定球面展开图像中每个像素点的像素值,其中,(i,j)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的整数部分,(u,v)为鱼眼图像中坐标为(m,n)的像素点的横纵坐标的小数部分,Is(xs,ys)为鱼眼图像中坐标为(m,n)的像素点的像素值,Id(xd,yd)为与鱼眼图像中像素点对应的球面展开图上像素点的像素值。
23.一种基于权利要求14-22任一项所述鱼眼图像校正装置的漫游显示装置,其特征在于,所述装置包括:
参数确定模块,用于确定待显示的漫游图像的视角、漫游姿态;
笛卡尔坐标确定模块,用于根据所述视角、漫游姿态,确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
球面图像坐标确定模块,用于根据所述每个像素点在笛卡尔坐标系中的坐标,确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标;
像素值确定模块,用于根据确定的球面展开图像中每个像素点对应的像素值及漫游图像中每个像素点的坐标,确定漫游图像中每个像素点的像素值。
24.根据权利要求23所述的装置,其特征在于,所述参数确定模块具体用于:
根据终端设备的外接设备或传感器,确定漫游显示图像的视角和漫游姿态。
25.根据权利要求23所述的装置,其特征在于,所述笛卡尔坐标确定模块具体用于:
根据确定待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标,其中,(xm,ym)是待显示的漫游图像中每个像素点的坐标,(x,y,z)是待显示的漫游图像中每个像素点对应在笛卡尔坐标系中的坐标,(xm′,ym′)是中间量坐标,wm和hm分别为待显示的漫游图像的宽度和高度,R是根据漫游姿态确定的旋转矩阵,fov为漫游视角。
26.根据权利要求23所述的装置,其特征在于,所述球面图像坐标确定模块具体用于:
根据将所述每个像素点在笛卡尔坐标系中的坐标转换到三维球面坐标系中,其中,(x,y,z)是待显示的漫游图像中每个像素点在笛卡尔坐标系中的坐标;
根据确定待显示的漫游图像中每个像素点对应在球面展开图像中的坐标,其中,是待显示的漫游图像中每个像素点在三维球面坐标系中的坐标,其中r=1,(xd,yd)为每个像素点对应在球面展开图像中的坐标,wd和hd分别为球面展开图像的宽度和高度,rangex,rangey分别为球面展开图像对应的鱼眼图像的角度拍摄方式下的θ和的最大值,xoffset,yoffset是球面展开图像对应的鱼眼图像的角度拍摄方式下,鱼眼图像在完整球面展开图像中的偏移量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201511019998.0A CN105550984B (zh) | 2015-12-30 | 2015-12-30 | 一种鱼眼图像校正和漫游显示的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201511019998.0A CN105550984B (zh) | 2015-12-30 | 2015-12-30 | 一种鱼眼图像校正和漫游显示的方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105550984A CN105550984A (zh) | 2016-05-04 |
CN105550984B true CN105550984B (zh) | 2019-04-12 |
Family
ID=55830160
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201511019998.0A Active CN105550984B (zh) | 2015-12-30 | 2015-12-30 | 一种鱼眼图像校正和漫游显示的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105550984B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106600546B (zh) * | 2016-11-14 | 2020-12-22 | 深圳市Tcl高新技术开发有限公司 | 一种超广角摄像头畸变校正方法及系统 |
CN108122191B (zh) * | 2016-11-29 | 2021-07-06 | 成都美若梦景科技有限公司 | 鱼眼图像拼接成全景图像和全景视频的方法及装置 |
CN106780310B (zh) * | 2016-12-20 | 2020-11-24 | 北京奇艺世纪科技有限公司 | 一种投影图构建方法及装置 |
CN106910173B (zh) * | 2017-02-27 | 2019-05-24 | 武汉大学 | 基于鱼眼图像校正实现鱼眼视频小窗口实时漫游的方法 |
CN107169926A (zh) * | 2017-04-26 | 2017-09-15 | 腾讯科技(深圳)有限公司 | 图像处理方法和装置 |
US11245849B2 (en) | 2017-05-18 | 2022-02-08 | Sony Corporation | Information processing apparatus and information processing method |
CN107820012A (zh) * | 2017-11-21 | 2018-03-20 | 暴风集团股份有限公司 | 一种鱼眼图像处理方法、装置、服务器及系统 |
CN107808367B (zh) * | 2017-11-29 | 2020-10-16 | 天津聚飞创新科技有限公司 | 鱼眼图像校正方法、装置、无人机及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103839227A (zh) * | 2012-11-23 | 2014-06-04 | 富士通株式会社 | 鱼眼图像校正方法和装置 |
CN104539893A (zh) * | 2014-12-23 | 2015-04-22 | 福建星网视易信息系统有限公司 | 实现虚拟云台监控效果的方法、装置及系统 |
CN104639832A (zh) * | 2015-01-23 | 2015-05-20 | 广东欧珀移动通信有限公司 | 一种全景拍照方法及终端 |
-
2015
- 2015-12-30 CN CN201511019998.0A patent/CN105550984B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103839227A (zh) * | 2012-11-23 | 2014-06-04 | 富士通株式会社 | 鱼眼图像校正方法和装置 |
CN104539893A (zh) * | 2014-12-23 | 2015-04-22 | 福建星网视易信息系统有限公司 | 实现虚拟云台监控效果的方法、装置及系统 |
CN104639832A (zh) * | 2015-01-23 | 2015-05-20 | 广东欧珀移动通信有限公司 | 一种全景拍照方法及终端 |
Also Published As
Publication number | Publication date |
---|---|
CN105550984A (zh) | 2016-05-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105550984B (zh) | 一种鱼眼图像校正和漫游显示的方法及装置 | |
US11631155B2 (en) | Equatorial stitching of hemispherical images in a spherical image capture system | |
CN113382168B (zh) | 用于存储成像数据的重叠区以产生优化拼接图像的设备及方法 | |
CN106797460B (zh) | 三维视频的重建 | |
US20180063513A1 (en) | Stitching frames into a panoramic frame | |
JP5558973B2 (ja) | 画像補正装置、補正画像生成方法、補正テーブル生成装置、補正テーブル生成方法、補正テーブル生成プログラムおよび補正画像生成プログラム | |
CN104246795B (zh) | 用于超广角透镜图像的自适应透视修正的方法和系统 | |
EP2477152B1 (en) | Image processing device, image processing method, image processing program, and recording medium | |
CN104574289B (zh) | 一种基于椭球面模型的鱼眼图像畸变校正算法 | |
US10681272B2 (en) | Device for providing realistic media image | |
US20160028950A1 (en) | Panoramic Video from Unstructured Camera Arrays with Globally Consistent Parallax Removal | |
CN107665483B (zh) | 免定标便捷的单目镜头鱼眼图像畸变矫正方法 | |
US9838614B1 (en) | Multi-camera image data generation | |
CN107431796A (zh) | 全景虚拟现实内容的全方位立体式捕捉和渲染 | |
CN103905761A (zh) | 图像处理系统和图像处理方法 | |
CN101783011A (zh) | 一种鱼眼镜头的畸变校正方法 | |
US20160078590A1 (en) | Coordinate computation device and method, and an image processing device and method | |
US20180322685A1 (en) | Methods of compressing a texture image and image data processing system and methods of generating a 360 degree panoramic video thereof | |
CN104363438B (zh) | 全景立体影像制作方法 | |
CN105741233B (zh) | 一种视频图像球面拼接方法及系统 | |
CN103650475A (zh) | 图像转换装置、摄像机、图像转换方法以及记录有程序的记录介质 | |
JP2023519466A (ja) | 点群モデルの構築方法、装置、電子機器、記憶媒体及びプログラム | |
US20230014865A1 (en) | Method and apparatus for creating and displaying visual media on a device | |
CN107197135A (zh) | 一种视频生成方法、播放方法及视频生成装置、播放装置 | |
CN106384367B (zh) | 一种全景相机的自动稳定视角的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |