CN110727966B - 图像处理方法和装置、存储介质、电子设备 - Google Patents
图像处理方法和装置、存储介质、电子设备 Download PDFInfo
- Publication number
- CN110727966B CN110727966B CN201810779407.7A CN201810779407A CN110727966B CN 110727966 B CN110727966 B CN 110727966B CN 201810779407 A CN201810779407 A CN 201810779407A CN 110727966 B CN110727966 B CN 110727966B
- Authority
- CN
- China
- Prior art keywords
- ree
- tee
- result
- camera calibration
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/70—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
- G06F21/71—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure computing or processing of information
- G06F21/74—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure computing or processing of information operating in dual or compartmented mode, i.e. at least one secure mode
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/2105—Dual mode as a secondary aspect
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
Abstract
本申请涉及一种图像处理方法和装置、电子设备、存储介质,应用于电子设备,电子设备支持富执行环境REE和可信任执行环境TEE。从REE中获取相机标定结果;通过REE和TEE之间的数据通道将所获取的相机标定结果传输至TEE中;在TEE中对相机标定结果进行解析,得到解析结果;将解析结果通过REE和TEE之间的数据通道传输至REE中,在REE中根据解析结果对拍摄的图像进行处理。对相机标定结果进行解析的整个过程都是在TEE中进行的,即都是在安全的环境中进行的,避免了数据在解析过程中被篡改和盗取的风险。
Description
技术领域
本申请涉及计算机技术领域,特别是涉及一种图像处理方法和装置、存储介质、电子设备。
背景技术
传统的智能终端都提供的是一个普通执行环境即富执行环境(Rich ExecutionEnvironment,REE),可以用来运行各种广泛的、通用的操作系统。但是通过这样一个执行环境带来极大的灵活性以及功能性的同时,智能终端也开始面对各种各样大量范围的安全威胁。在越来越强调网络安全的时代,如何提高信息处理过程中的安全性,已经成为一个亟待解决的问题。
发明内容
本申请实施例提供一种图像处理方法和装置、存储介质、电子设备,可以提高图像处理过程中的信息安全。
一种图像处理方法,应用于电子设备,所述电子设备支持富执行环境REE和可信任执行环境TEE,所述方法包括:
从所述REE中获取相机标定结果;
通过所述REE和TEE之间的数据通道将所获取的所述相机标定结果传输至所述TEE中;
在所述TEE中对所述相机标定结果进行解析,得到解析结果;
将所述解析结果通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述解析结果对拍摄的图像进行处理。
一种图像处理装置,所述装置包括:
相机标定结果获取模块,用于从所述REE中获取相机标定结果;
传输模块,用于通过所述REE和TEE之间的数据通道将所获取的所述相机标定结果传输至所述TEE中;
解析模块,用于在所述TEE中对所述相机标定结果进行解析,得到解析结果;
图像处理模块,用于将所述解析结果通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述解析结果对拍摄的图像进行处理。
一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的图像处理方法的步骤。
一种电子设备,包括存储器和处理器,所述存储器上存储有能在处理器上运行的计算机程序,处理器执行计算机程序时执行如上所述的图像处理方法的步骤。
上述图像处理方法和装置、存储介质、电子设备,应用于电子设备,电子设备支持富执行环境REE和可信任执行环境TEE。从REE中获取相机标定结果;通过REE和TEE之间的数据通道将所获取的相机标定结果传输至TEE中;在TEE中对相机标定结果进行解析,得到解析结果;将解析结果通过REE和TEE之间的数据通道传输至REE中,在REE中根据解析结果对拍摄的图像进行处理。对相机标定结果进行解析的整个过程都是在TEE中进行的,即都是在安全的环境中进行的,避免了数据在解析过程中被篡改和盗取的风险。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一个实施例中电子设备的内部结构图;
图2为一个实施例中图像处理方法的流程图;
图3为在REE环境中进行相机标定结果的解析和传输、在TEE环境中进行相机标定结果的解析和传输的示意图;
图4为另一个实施例中图像处理方法的流程图;
图5为再一个实施例中图像处理方法的流程图;
图6为一个实施例中图像处理装置的结构示意图;
图7为另一个实施例中图像处理装置的结构示意图;
图8为再一个实施例中图像处理装置的结构示意图;
图9为一个实施例中图像处理电路的示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
图1为一个实施例中电子设备的内部结构示意图。如图1所示,该电子设备包括通过系统总线连接的处理器、存储器和网络接口。其中,该处理器用于提供计算和控制能力,支撑整个电子设备的运行。存储器用于存储数据、程序等,存储器上存储至少一个计算机程序,该计算机程序可被处理器执行,以实现本申请实施例中提供的适用于电子设备的场景识别方法。存储器可包括磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等非易失性存储介质,或随机存储记忆体(Random-Access-Memory,RAM)等。例如,在一个实施例中,存储器包括非易失性存储介质及内存储器。非易失性存储介质存储有操作系统和计算机程序。该计算机程序可被处理器所执行,以用于实现以下各个实施例所提供的一种图像处理方法。内存储器为非易失性存储介质中的操作系统计算机程序提供高速缓存的运行环境。网络接口可以是以太网卡或无线网卡等,用于与外部的电子设备进行通信。该电子设备可以是手机、平板电脑或者个人数字助理或穿戴式设备等。
在一个实施例中,如图2所示,提供了一种图像处理方法,应用于电子设备,电子设备支持富执行环境REE和可信任执行环境TEE,以该方法应用于图1中的电子设备为例进行说明,包括:
步骤220,从REE中获取相机标定结果。
富执行环境REE全称为Rich Execution Environment,一般手机软件,电脑PC上的软件会运行在这个环境中,但是REE中经常存在信息泄露的问题。而这个时候也就出现了一个新的概念,可信执行环境(Trusted Execution Environment,,TEE),它是与富执行环境共存的,专用于给设备提供一块安全区域用于执行可信任的代码。为了达到真正的安全,TEE执行环境必须保证在TEE自身中执行的所有代码都必须是高可靠性的。TEE具备以下特性:
一、受硬件机制保护:TEE隔离于REE、REE只能通过特定的入口与TEE通信;二、高性能:TEE运行时使用CPU的全部性能(独占);三、快速通信机制:TEE可以访问REE的内存、REE无法访问受硬件保护的TEE内存;四、TEE中可以同时运行多个Trusted Application(TA)。因此,基于TEE的以上特性,TEE如果在移动支付、指纹识别、人脸解锁等领域进行使用,将大大提高信息的安全性。
相机标定(Camera calibration)简单来说是从世界坐标系换到图像坐标系的过程,也就是求最终的投影矩阵的过程。相机标定中涉及到的基本的坐标系包括:世界坐标系(world coordinate system)、相机坐标系(camera coordinate system)及图像坐标系(image coordinate system),其中图像坐标系包括图像物理坐标系和图像像素坐标系。
相机标定的目标就是为了获得相机的内参数、相机的外参数及畸变系数。即相机标定结果包括相机的内参数、相机的外参数及畸变系数。对电子设备的相机进行相机标定之后,就得到了相机标定结果。相机标定结果一般存储在电子设备中的硬件中,以备获取使用。在REE中获取到相机标定结果。
步骤240,通过REE和TEE之间的数据通道将所获取的相机标定结果传输至TEE中。
REE和TEE这两个环境之间存在特定的数据通道,可以使得满足条件的数据可以在REE和TEE这两个环境之间进行传输。通过REE和TEE之间的数据通道将所获取的相机标定结果传输至TEE中。以便后续在TEE中对相机标定结果进行解析,使得解析的全过程及解析过程中产生的所有数据信息都是运行在TEE环境中,保证了数据的安全性,降低数据被攻击的风险。
步骤260,在TEE中对相机标定结果进行解析,得到解析结果。
在TEE环境中对相机标定结果进行解析,得到畸变校正信息和双目标定信息,即旋转和平移信息。
步骤280,将解析结果通过REE和TEE之间的数据通道传输至REE中,在REE中根据解析结果对拍摄的图像进行处理。
将解析之后获取的畸变校正信息和双目标定信息,通过REE和TEE之间的数据通道传输至REE中。需要使用到解析结果的应用,应用可以包括人脸解锁、3D美颜等需要使用解析结果进一步对图像进行处理的应用。当然,还可以包括一些使用到解析结果的硬件,例如3D相机处理器(3D camera Processor)。因为解析结果是在TEE环境中进行解析之后获得,且通过REE和TEE之间的数据通道传输至REE中,在REE环境中由人脸解锁、3D美颜等应用或3D相机处理器等硬件获取使用,所以全程保证了输入至这些应用和硬件中的解析结果的数据的准确性和安全性。
本申请实施例中,电子设备支持富执行环境REE和可信任执行环境TEE。从REE中获取相机标定结果;通过REE和TEE之间的数据通道将所获取的相机标定结果传输至TEE中;在TEE中对相机标定结果进行解析,得到解析结果;将解析结果通过REE和TEE之间的数据通道传输至REE中,在REE中根据解析结果对拍摄的图像进行处理。对相机标定结果进行解析的整个过程都是在TEE中进行的,即都是在安全的环境中进行的,避免了数据在解析过程中被篡改和盗取的风险。
在一个实施例中,在TEE中对相机标定结果进行解析,得到解析结果,包括:
在TEE中对相机标定结果进行解析,得到畸变校正信息和双目标定信息。
具体地,相机的成像过程实质上是坐标系的转换。首先空间中的点由“世界坐标系”转换到“相机坐标系”,然后再将其投影到成像平面(图像物理坐标系) ,最后再将成像平面上的数据转换到图像像素坐标系。但是由于电子设备中相机的透镜制造精度以及组装工艺的偏差会引入畸变,导致原始图像的失真。镜头的畸变分为径向畸变和切向畸变两类。畸变矫正,首先应该知道相机的畸变系数,然后对原始图像做与畸变相反的变换,就可以消除畸变。畸变系数在前述进行相机标定时已经获得。
双目标定即双目摄像头标定,双目摄像头标定不仅要得出每个摄像头的内部参数,还需要通过标定来测量两个摄像头之间的相对位置(即右摄像头相对于左摄像头的平移向量 t和旋转矩阵R)。在TEE中对相机标定结果进行解析,得到畸变校正信息和双目标定信息。
如图3(a)所示,为传统方法在REE环境中获取相机标定结果,并对相机标定结果进行解析,再将解析结果传输至特定应用或硬件中进行后续的图像处理。
如图3(b)所示,为本实施例中所提供的方法,从REE中获取相机标定结果,通过REE和TEE之间的数据通道将所获取的相机标定结果传输至TEE中。在TEE中对相机标定结果进行解析,得到解析结果,将解析结果通过REE和TEE之间的数据通道传输至REE中,特定应用或硬件在REE中根据解析结果对拍摄的图像进行处理。
本申请实施例中,相机标定结果包含了相机的内参数、相机的外参数及畸变系数。后续需要对拍摄所得的原始图像进行图像处理的时候,需要使用首先对相机标定结果进行解析。传统的解析过程是直接在REE环境中进行的,REE环境中的安全性不高,因此,在本申请实施例中将对相机标定结果进行解析的过程放置在TEE环境中进行执行,因为TEE环境中的安全系数较REE环境的安全系数高,因此,就在一定程度上保证了对相机标定结果进行解析过程的安全性,避免相机标定结果在解析过程中出现错误,以至于影响到后续对原始图像进行处理。
在一个实施例中,将解析结果通过REE和TEE之间的数据通道传输至REE中,在REE中根据解析结果对图像进行处理,包括:
将畸变校正信息和双目标定信息通过REE和TEE之间的数据通道传输至REE中,在REE中根据畸变校正信息和双目标定信息对拍摄的图像进行重建和美化。
具体地,在TEE环境中对相机标定结果进行解析得到了畸变校正信息和双目标定信息之后,可以将畸变校正信息和双目标定信息通过REE和TEE之间的数据通道传输至REE中。需要使用到畸变校正信息和双目标定信息的应用可以直接在REE环境中进行使用,例如人脸解锁、3D美颜、3D人脸支付认证等应用就可以直接使用畸变校正信息和双目标定信息进一步对图像进行处理。例如,人脸解锁、3D美颜、3D人脸支付认证等应用就可以对拍摄的原始图像进行重建和美化。
本申请实施例中,对相机标定结果进行解析的整个过程都是在TEE中进行的,即都是在安全的环境中进行的,避免了数据在解析过程中被篡改和盗取的风险。然后将相机标定结果从TEE中传输至REE中以供第三方应用及硬件设备进行使用,提高了相机标定结果使用及输出过程中的安全性。
在一个实施例中,将解析结果通过REE和TEE之间的数据通道传输至REE中,在REE中根据解析结果对图像进行处理,还包括:
将畸变校正信息和双目标定信息通过REE和TEE之间的数据通道传输至REE中,在REE中根据畸变校正信息和双目标定信息对拍摄的图像进行校正深度信息。
本申请实施例中,对拍摄的原始图像根据畸变校正信息和双目标定信息进行校正之后,再对校正之后的图像进行计算深度信息。从而对直接根据原始图像所计算出的深度信息进行了校正,得到了更为准确的深度信息。
在一个实施例中,如图4所示,在从REE中获取相机标定结果之前,包括:
步骤420,在TEE中对相机进行标定,得到相机标定结果;
步骤440,将相机标定结果存储在安全区域。
具体地,对相机进行标定,得到相机标定结果的过程也是在TEE环境进行实现的。从REE中获取相机在不同角度下拍摄标定板所得的图像,通过REE和TEE之间的数据通道将获取的图像传输至TEE中。在TEE中根据获取的图像进行相机标定,得到相机标定结果,将相机标定结果通过REE和TEE之间的数据通道输出至REE中,并存储在安全区域。安全区域可以是Persist分区,其中persist分区一般用于保存FRP(factory reset protcect)功能用到帐号、密码等受保护的信息,可以避免在恢复出厂设置后被清空。当然,安全区域也可以是其他存储空间。
本实施例中,相机标定过程中的原始数据、中间数据及标定结果都运行在REE环境中,且相机标定结果是存放在了Persist分区这种即使电子设备被刷机的情况下也不会情况的存储空间中。所以可以在用户日常频繁使用人脸解锁、3D美颜、3D人脸支付认证等安全性要求较高的类似应用、以及电子设备在被刷机的情况下,确保对相机进行标定的过程及对相机标定结果进行解析以及后续再计算过程中的信息安全,避免可能受到攻击而导致数据被篡改和盗取。
在一个实施例中,在TEE中对相机标定结果进行解析,得到解析结果之后,包括:
获取拍摄的图像;
在TEE中根据解析结果对拍摄的图像进行处理,得到处理结果;
将处理结果通过REE和TEE之间的数据通道传输至REE中。
本实施例中,获取拍摄的原始图像,在TEE中根据解析结果对拍摄的原始图像进行处理,得到处理结果,将处理结果通过REE和TEE之间的数据通道传输至REE中。将根据解析结果对拍摄的原始图像进行处理,得到处理结果的过程也运行在TEE环境中,更进一步提高了数据的安全性。例如,对于人脸解锁这样的应用,获取拍摄的人脸的原始图像之后,对相机标定结果进行解析,再根据解析所得的畸变校正信息和双目标定信息对原始图像进行重建及校正的过程,都是在TEE环境中执行的。最后,只需要输出人脸解锁的结果即可,例如,解锁成功还是解锁失败。
在一个实施例中,还提供一种控制方法,如图5所示,应用于电子设备,电子设备支持富执行环境REE和安全芯片,方法包括:
步骤520,从REE中获取相机标定结果。
步骤540,通过REE和安全芯片之间的数据通道将所获取的相机标定结果传输至安全芯片中。
SE(Secure Element)为安全芯片,是一台微型计算机,通过安全芯片和芯片操作系统(COS)实现数据安全存储、加解密运算等功能。REE和SE之间存在特定的数据通道,可以使得满足条件的数据可以在REE和SE之间进行传输。通过REE和SE之间的数据通道将所获取的相机标定结果传输至SE中。以便后续在SE中对相机标定结果进行解析,使得解析的全过程及解析过程中产生的所有数据信息都是运行在TEE环境中,保证了数据的安全性,降低数据被攻击的风险。
步骤560,在安全芯片中对相机标定结果进行解析,得到解析结果。
在SE中对相机标定结果进行解析,得到畸变校正信息和双目标定信息,即旋转和平移信息。
步骤580,将解析结果通过REE和安全芯片之间的数据通道传输至REE中,在REE中根据解析结果对拍摄的图像进行处理。
将解析之后获取的畸变校正信息和双目标定信息,通过REE和SE之间的数据通道传输至REE中。需要使用到解析结果的应用,应用可以包括人脸解锁、3D美颜等需要使用解析结果进一步对图像进行处理的应用。当然,还可以包括一些使用到解析结果的硬件,例如3D相机处理器(3D camera Processor)。因为解析结果是在SE中进行解析之后获得,且通过REE和SE之间的数据通道传输至REE中,在REE环境中由人脸解锁、3D美颜等应用或3D相机处理器等硬件获取使用,所以全程保证了输入至这些应用和硬件中的解析结果的数据的准确性和安全性。
本申请实施例中,SE作为硬件,其的安全性是显然要高于TEE,当然比REE的安全性更高,所以对相机标定结果进行解析的整个过程都是在SE中进行,即都是在安全的环境中进行的,避免了数据在解析过程中被篡改和盗取的风险。
在一个实施例中,如图6所示,提供了一种图像处理装置600包括:相机标定结果获取模块620、传输模块640、解析模块660及图像处理模块680。其中,
相机标定结果获取模块620,用于从REE中获取相机标定结果;
传输模块640,用于通过REE和TEE之间的数据通道将所获取的相机标定结果传输至TEE中;
解析模块660,用于在TEE中对相机标定结果进行解析,得到解析结果;
图像处理模块680,用于将解析结果通过REE和TEE之间的数据通道传输至REE中,在REE中根据解析结果对拍摄的图像进行处理。
在一个实施例中,解析模块660,还用于在TEE中对相机标定结果进行解析,得到畸变校正信息和双目标定信息。
在一个实施例中,图像处理模块680,还用于将畸变校正信息和双目标定信息通过REE和TEE之间的数据通道传输至REE中,在REE中根据畸变校正信息和双目标定信息对拍摄的图像进行重建和美化。
在一个实施例中,图像处理模块680,还用于将畸变校正信息和双目标定信息通过REE和TEE之间的数据通道传输至REE中,在REE中根据畸变校正信息和双目标定信息对拍摄的图像进行校正深度信息。
在一个实施例中,如图7所示,提供了一种图像处理装置600还包括:
相机标定模块610,用于在TEE中对相机进行标定,得到相机标定结果;将相机标定结果存储在安全区域。
在一个实施例中,图像处理模块780,还用于获取拍摄的图像;在TEE中根据解析结果对拍摄的图像进行处理,得到处理结果;将处理结果通过REE和TEE之间的数据通道传输至REE中。
在一个实施例中,如图8所示,还提供了一种图像处理装置800,包括:相机标定结果获取模块820、传输模块840、解析模块860及图像处理模块880。其中,
相机标定结果获取模块820,用于从REE中获取相机标定结果;
传输模块840,用于通过REE和安全芯片之间的数据通道将所获取的相机标定结果传输至安全芯片中;
解析模块860,用于在安全芯片中对相机标定结果进行解析,得到解析结果;
图像处理模块880,用于将解析结果通过REE和安全芯片之间的数据通道传输至REE中,在REE中根据解析结果对拍摄的图像进行处理。
上述图像处理装置中各个模块的划分仅用于举例说明,在其他实施例中,可将图像处理装置按照需要划分为不同的模块,以完成上述图像处理装置的全部或部分功能。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现上述各实施例所提供的图像处理方法的步骤。
在一个实施例中,提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述各实施例所提供的图像处理方法的步骤。
本申请实施例还提供了一种计算机程序产品,当其在计算机上运行时,使得计算机执行上述各实施例所提供的图像处理方法的步骤。
本申请实施例还提供一种电子设备。该电子设备可以为包括手机、平板电脑、PDA(Personal Digital Assistant,个人数字助理)、POS(Point of Sales,销售终端)、车载电脑、穿戴式设备等任意终端设备,以电子设备为手机为例:上述电子设备中包括图像处理电路,图像处理电路可以利用硬件和/或软件组件实现,可包括定义ISP(Image SignalProcessing,图像信号处理)管线的各种处理单元。图9为一个实施例中图像处理电路的示意图。如图9所示,为便于说明,仅示出与本申请实施例相关的图像处理技术的各个方面。
如图9所示,图像处理电路包括第一ISP处理器930、第二ISP处理器940和控制逻辑器950。第一摄像头910包括一个或多个第一透镜912和第一图像传感器914。第一图像传感器914可包括色彩滤镜阵列(如Bayer滤镜),第一图像传感器914可获取用第一图像传感器914的每个成像像素捕捉的光强度和波长信息,并提供可由第一ISP处理器930处理的一组图像数据。第二摄像头920包括一个或多个第二透镜922和第二图像传感器924。第二图像传感器924可包括色彩滤镜阵列(如Bayer滤镜),第二图像传感器924可获取用第二图像传感器924的每个成像像素捕捉的光强度和波长信息,并提供可由第二ISP处理器940处理的一组图像数据。
第一摄像头910采集的第一图像传输给第一ISP处理器930进行处理,第一ISP处理器930处理第一图像后,可将第一图像的统计数据(如图像的亮度、图像的反差值、图像的颜色等)发送给控制逻辑器950,控制逻辑器950可根据统计数据确定第一摄像头910的控制参数,从而第一摄像头99可根据控制参数进行自动对焦、自动曝光等操作。第一图像经过第一ISP处理器930进行处理后可存储至图像存储器960中,第一ISP处理器930也可以读取图像存储器960中存储的图像以对进行处理。另外,第一图像经过ISP处理器930进行处理后可直接发送至显示器970进行显示,显示器970也可以读取图像存储器960中的图像以进行显示。
其中,第一ISP处理器930按多种格式逐个像素地处理图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,第一ISP处理器930可对图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度计算精度进行。
图像存储器960可为存储器装置的一部分、存储设备、或电子设备内的独立的专用存储器,并可包括DMA(Direct Memory Access,直接直接存储器存取)特征。
当接收到来自第一图像传感器914接口时,第一ISP处理器930可进行一个或多个图像处理操作,如时域滤波。处理后的图像数据可发送给图像存储器960,以便在被显示之前进行另外的处理。第一ISP处理器930从图像存储器960接收处理数据,并对处理数据进行RGB和YCbCr颜色空间中的图像数据处理。第一ISP处理器930处理后的图像数据可输出给显示器970,以供用户观看和/或由图形引擎或GPU(Graphics Processing Unit,图形处理器)进一步处理。此外,第一ISP处理器930的输出还可发送给图像存储器960,且显示器970可从图像存储器960读取图像数据。在一个实施例中,图像存储器960可被配置为实现一个或多个帧缓冲器。
第一ISP处理器930确定的统计数据可发送给控制逻辑器950。例如,统计数据可包括自动曝光、自动白平衡、自动聚焦、闪烁检测、黑电平补偿、第一透镜912阴影校正等第一图像传感器914统计信息。控制逻辑器950可包括执行一个或多个例程(如固件)的处理器和/或微控制器,一个或多个例程可根据接收的统计数据,确定第一摄像头910的控制参数及第一ISP处理器930的控制参数。例如,第一摄像头910的控制参数可包括增益、曝光控制的积分时间、防抖参数、闪光控制参数、第一透镜912控制参数(例如聚焦或变焦用焦距)、或这些参数的组合等。ISP控制参数可包括用于自动白平衡和颜色调整(例如,在RGB处理期间)的增益水平和色彩校正矩阵,以及第一透镜912阴影校正参数。
同样地,第二摄像头920采集的第二图像传输给第二ISP处理器940进行处理,第二ISP处理器940处理第一图像后,可将第二图像的统计数据(如图像的亮度、图像的反差值、图像的颜色等)发送给控制逻辑器950,控制逻辑器950可根据统计数据确定第二摄像头920的控制参数,从而第二摄像头920可根据控制参数进行自动对焦、自动曝光等操作。第二图像经过第二ISP处理器940进行处理后可存储至图像存储器960中,第二ISP处理器940也可以读取图像存储器960中存储的图像以对进行处理。另外,第二图像经过ISP处理器940进行处理后可直接发送至显示器970进行显示,显示器970也可以读取图像存储器960中的图像以进行显示。第二摄像头920和第二ISP处理器940也可以实现如第一摄像头910和第一ISP处理器930所描述的处理过程。
以下为运用图9中图像处理技术实现图像处理方法的步骤。
本申请所使用的对存储器、存储、数据库或其它介质的任何引用可包括非易失性和/或易失性存储器。合适的非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM),它用作外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态 RAM (SRAM)、动态 RAM (DRAM)、同步 DRAM (SDRAM)、双数据率 SDRAM (DDR SDRAM)、增强型 SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。
Claims (10)
1.一种图像处理方法,其特征在于,应用于电子设备,所述电子设备支持富执行环境REE和可信任执行环境TEE,所述方法包括:
从所述REE中获取相机标定结果;
通过所述REE和TEE之间的数据通道将所获取的所述相机标定结果传输至所述TEE中;
在所述TEE中对所述相机标定结果进行解析,得到解析结果;所述解析结果包括畸变校正信息和双目标定信息;
将所述解析结果通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述解析结果对拍摄的图像进行处理。
2.根据权利要求1所述的方法,其特征在于,将所述解析结果通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述解析结果对图像进行处理,包括:
将所述畸变校正信息和双目标定信息通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述畸变校正信息和双目标定信息对拍摄的图像进行重建和美化。
3.根据权利要求1所述的方法,其特征在于,将所述解析结果通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述解析结果对图像进行处理,还包括:
将所述畸变校正信息和双目标定信息通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述畸变校正信息和双目标定信息对拍摄的图像进行校正,对校正之后的图像计算深度信息。
4.根据权利要求1所述的方法,其特征在于,在从所述REE中获取相机标定结果之前,包括:
在所述TEE中对相机进行标定,得到相机标定结果;
将所述相机标定结果通过REE和TEE之间的数据通道输出至所述REE中,并存储在安全区域。
5.根据权利要求1所述的方法,其特征在于,所述在所述TEE中对所述相机标定结果进行解析,得到解析结果之后,包括:
获取拍摄的图像;
在所述TEE中根据所述解析结果对拍摄的图像进行处理,得到处理结果;
将所述处理结果通过所述REE和TEE之间的数据通道传输至所述REE中。
6.一种控制方法,其特征在于,应用于电子设备,所述电子设备支持富执行环境REE和安全芯片,所述方法包括:
从所述REE中获取相机标定结果;
通过所述REE和安全芯片之间的数据通道将所获取的所述相机标定结果传输至所述安全芯片中;
在所述安全芯片中对所述相机标定结果进行解析,得到解析结果;所述解析结果包括畸变校正信息和双目标定信息;
将所述解析结果通过所述REE和安全芯片之间的数据通道传输至所述REE中,在所述REE中根据所述解析结果对拍摄的图像进行处理。
7.一种图像处理装置,其特征在于,所述装置包括:
相机标定结果获取模块,用于从REE中获取相机标定结果;
传输模块,用于通过所述REE和TEE之间的数据通道将所获取的所述相机标定结果传输至所述TEE中;
解析模块,用于在所述TEE中对所述相机标定结果进行解析,得到解析结果;所述解析结果包括畸变校正信息和双目标定信息;
图像处理模块,用于将所述解析结果通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述解析结果对拍摄的图像进行处理。
8.根据权利要求7所述的装置,其特征在于,所述图像处理模块,还用于将所述畸变校正信息和双目标定信息通过所述REE和TEE之间的数据通道传输至所述REE中,在所述REE中根据所述畸变校正信息和双目标定信息对拍摄的图像进行重建和美化。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的图像处理方法的步骤。
10.一种电子设备,包括存储器和处理器,所述存储器上存储有能在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的图像处理方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810779407.7A CN110727966B (zh) | 2018-07-16 | 2018-07-16 | 图像处理方法和装置、存储介质、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810779407.7A CN110727966B (zh) | 2018-07-16 | 2018-07-16 | 图像处理方法和装置、存储介质、电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110727966A CN110727966A (zh) | 2020-01-24 |
CN110727966B true CN110727966B (zh) | 2021-11-16 |
Family
ID=69217381
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810779407.7A Active CN110727966B (zh) | 2018-07-16 | 2018-07-16 | 图像处理方法和装置、存储介质、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110727966B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021196057A1 (en) * | 2020-04-01 | 2021-10-07 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Optical lens, imaging device, electrical device, method of manufacturing the same |
CN116382896B (zh) * | 2023-02-27 | 2023-12-19 | 荣耀终端有限公司 | 图像处理算法的调用方法、终端设备、介质及产品 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101821776A (zh) * | 2007-10-15 | 2010-09-01 | 索尼公司 | 登记装置、认证装置、登记方法和认证方法 |
CN107123147A (zh) * | 2017-03-31 | 2017-09-01 | 深圳市奇脉电子技术有限公司 | 双目摄像机的标定方法、装置及双目摄像机系统 |
CN107832670A (zh) * | 2017-10-11 | 2018-03-23 | 广东欧珀移动通信有限公司 | 人脸识别方法及相关产品 |
CN107924436A (zh) * | 2015-08-17 | 2018-04-17 | 高通股份有限公司 | 使用生物识别技术的电子装置接入控制 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2808645B1 (en) * | 2012-01-23 | 2019-02-20 | Nec Corporation | Camera calibration device, camera calibration method, and camera calibration program |
US9369867B2 (en) * | 2012-06-29 | 2016-06-14 | Intel Corporation | Mobile platform software update with secure authentication |
KR101628493B1 (ko) * | 2014-10-10 | 2016-06-21 | 현대자동차주식회사 | 안경 착용자의 시선 추적 장치 및 그 방법 |
JP6121063B1 (ja) * | 2014-11-04 | 2017-04-26 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | カメラ較正方法、デバイス及びシステム |
CN104834845A (zh) * | 2015-05-12 | 2015-08-12 | 武汉上博科技有限公司 | 一种可信工业相机的实现方法 |
CN105488679B (zh) * | 2015-11-23 | 2019-12-03 | 北京小米支付技术有限公司 | 基于生物识别技术的移动支付设备、方法和装置 |
CN106815868B (zh) * | 2015-11-30 | 2019-07-16 | 深圳佑驾创新科技有限公司 | 摄像头实时标定方法、系统和装置 |
CN106548077B (zh) * | 2016-10-19 | 2019-03-15 | 沈阳微可信科技有限公司 | 通信系统和电子设备 |
CN107730559B (zh) * | 2017-09-30 | 2020-05-08 | 东风商用车有限公司 | 一种基于图像处理的车载摄像头的标定方法 |
-
2018
- 2018-07-16 CN CN201810779407.7A patent/CN110727966B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101821776A (zh) * | 2007-10-15 | 2010-09-01 | 索尼公司 | 登记装置、认证装置、登记方法和认证方法 |
CN107924436A (zh) * | 2015-08-17 | 2018-04-17 | 高通股份有限公司 | 使用生物识别技术的电子装置接入控制 |
CN107123147A (zh) * | 2017-03-31 | 2017-09-01 | 深圳市奇脉电子技术有限公司 | 双目摄像机的标定方法、装置及双目摄像机系统 |
CN107832670A (zh) * | 2017-10-11 | 2018-03-23 | 广东欧珀移动通信有限公司 | 人脸识别方法及相关产品 |
Also Published As
Publication number | Publication date |
---|---|
CN110727966A (zh) | 2020-01-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109767467B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
KR101858646B1 (ko) | 영상 융합 장치 및 방법 | |
CN109712192B (zh) | 摄像模组标定方法、装置、电子设备及计算机可读存储介质 | |
CN110869976A (zh) | 一种图像处理方法、设备、无人机、系统及存储介质 | |
CN109685853B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
CN108804658B (zh) | 图像处理方法和装置、存储介质、电子设备 | |
CN108924426B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN108769665B (zh) | 数据传输方法、装置、电子设备和计算机可读存储介质 | |
CN109584312B (zh) | 摄像头标定方法、装置、电子设备和计算机可读存储介质 | |
CN107948617B (zh) | 图像处理方法、装置、计算机可读存储介质和计算机设备 | |
CN111246100B (zh) | 防抖参数的标定方法、装置和电子设备 | |
CN109559352B (zh) | 摄像头标定方法、装置、电子设备和计算机可读存储介质 | |
CN107704798B (zh) | 图像虚化方法、装置、计算机可读存储介质和计算机设备 | |
CN109559353B (zh) | 摄像模组标定方法、装置、电子设备及计算机可读存储介质 | |
CN109040745B (zh) | 摄像头自校准方法和装置、电子设备、计算机存储介质 | |
CN111277699B (zh) | 闪光灯色温校准方法、装置、电子设备和可读存储介质 | |
CN109683698B (zh) | 支付验证方法、装置、电子设备和计算机可读存储介质 | |
CN110727966B (zh) | 图像处理方法和装置、存储介质、电子设备 | |
CN109598764A (zh) | 摄像头标定方法和装置、电子设备、计算机可读存储介质 | |
CN110956679A (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN107465880B (zh) | 对焦方法、装置、终端和计算机可读存储介质 | |
US11218650B2 (en) | Image processing method, electronic device, and computer-readable storage medium | |
CN110830709A (zh) | 图像处理方法和装置、终端设备、计算机可读存储介质 | |
CN109697737B (zh) | 摄像头标定方法、装置、电子设备和计算机可读存储介质 | |
CN109584311B (zh) | 摄像头标定方法、装置、电子设备和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |