CN114727082B - 图像处理装置、图像信号处理器、图像处理方法和介质 - Google Patents
图像处理装置、图像信号处理器、图像处理方法和介质 Download PDFInfo
- Publication number
- CN114727082B CN114727082B CN202210234348.1A CN202210234348A CN114727082B CN 114727082 B CN114727082 B CN 114727082B CN 202210234348 A CN202210234348 A CN 202210234348A CN 114727082 B CN114727082 B CN 114727082B
- Authority
- CN
- China
- Prior art keywords
- image processing
- image data
- functional module
- processing algorithm
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 377
- 238000003672 processing method Methods 0.000 title claims abstract description 21
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 288
- 238000004891 communication Methods 0.000 claims abstract description 29
- 230000015654 memory Effects 0.000 claims description 89
- 230000006870 function Effects 0.000 claims description 82
- 238000000034 method Methods 0.000 claims description 65
- 230000008569 process Effects 0.000 claims description 36
- 238000004590 computer program Methods 0.000 claims description 19
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000013473 artificial intelligence Methods 0.000 claims description 7
- 238000012937 correction Methods 0.000 description 37
- 238000010586 diagram Methods 0.000 description 16
- 238000006243 chemical reaction Methods 0.000 description 6
- 230000005291 magnetic effect Effects 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000003707 image sharpening Methods 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 238000003705 background correction Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001680 brushing effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
Abstract
本申请实施例提供一种图像处理装置、图像信号处理器、图像处理方法和介质。在本申请实施例中,图像处理装置包括图像信号处理器ISP、AI处理器和存储模块,并通过通信总线实现图像信号处理器、AI处理器和存储模块之间的相互连接,并扩展图像信号处理器中功能模块的总线接口,使得功能模块输出的图像数据可以保存在存储模块中,并由AI处理器从存储模块中读取图像数据并替代不可用功能模块执行图像处理任务。在AI处理器利用提供与ISP处理相关的图像处理算法的前提下,可以灵活组合ISP提供的图像处理算法和AI处理器提供的与ISP处理相关的图像处理算法,以满足不同应用场景对ISP性能要求,同时也拓展了ISP的应用范围,使得ISP具有普适性。
Description
技术领域
本申请涉及人工智能技术领域,尤其涉及一种图像处理装置、图像信号处理器、图像处理方法和介质。
背景技术
图像信号处理器(Image Signal Processor,ISP)能够提供一系列的图像处理处理算法对图像传感器(Image Sensor)输出的原始图像数据进行处理,处理后的图像数据提供给后端继续处理。实际应用中,图像信号处理器提供的图像处理算法例如包括但不限于:黑电平补偿(black level compensation)、镜头矫正(lens shading correction)、坏像素矫正(bad pixel correction)、颜色插值(demosaic)、拜尔域(Bayer)噪声去除、白平衡矫正、色彩矫正(color correction)、伽玛校正(Gamma Correction)和颜色空间转换。经过上述一系列的像处理处理算法,图像数据的格式可能会从RAW域变换至RGB域,以及从RGB域变换至YUV域,RGB域图像数据或YUV域图像数据均可以提供给后端继续处理。
实际应用中,不同的应用场景对图像质量的要求不同,导致对ISP性能要求不同。有的应用场景要求对ISP在黑电平补偿、镜头矫正等方面的性能要求高,有的应用场景对ISP在白平衡矫正、色彩矫正、伽玛校正等方面的性能要求高,有的应用场景对ISP在颜色空间转换方面的性能要求高。然而,现有的ISP提供的图像信号处理算法基本硬化,只能对图像信号处理算法的参数进行微调,难以满足不同应用场景对不同ISP性能要求。
发明内容
本申请的多个方面提供一种图像处理装置、图像信号处理器、图像处理方法和介质,用以满足不同应用场景对不同ISP性能要求。
本申请实施例提供一种图像处理装置,包括:图像信号处理器ISP、人工智能AI处理器和存储模块;ISP、AI处理器和存储模块通过通信总线相互连接;ISP包括多个依次连接的功能模块,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法;其中,每个功能模块具有总线接口,并通过总线接口与通信总线连接,用于在其处于可用状态,且其下一个功能模块处于不可用状态的情况下,向存储模块写入其执行第一类图像处理算法中关联的图像处理算法产生的第一图像数据;AI处理器,用于从存储模块中读取第一图像数据,采用与处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对第一图像数据进行处理,得到第二图像数据,并将第二图像数据写入存储模块,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
本申请实施例提供还一种图像信号处理器,包括:多个依次连接的功能模块,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法;其中,每个功能模块具有总线接口,并通过总线接口与通信总线连接,用于在其处于可用状态,且其下一个功能模块处于不可用状态的情况下,向与通信总线连接的存储模块写入其执行第一类图像处理算法中关联的图像处理算法产生的第一图像数据;或者,在其处于可用状态,且其上一个功能模块处于不可用状态时,从存储模块中读取第二图像数据并继续对第二图像数据进行处理;其中,第二图像数据是与通信总线连接的其它处理模块对第一图像数据进行处理得到并写入存储模块中的。
本申请实施例提供还一种图像处理方法,适用于AI处理器,AI处理器通过通信总线与存储模块和ISP连接,该方法包括:从存储模块中读取第一图像数据,第一图像数据是由ISP中处于可用状态目标功能模块执行第一类图像处理算法中关联的图像处理算法产生并在其下一个功能模块处于不可用状态的情况下写入存储模块中的;采用与处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对第一图像数据进行处理,得到第二图像数据;将第二图像数据写入存储模块,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
本申请实施例提供还一种图像处理方法,包括:在图像信号处理器ISP中处于可用状态的任一功能模块的下一个功能模块处于不可用状态的情况下,获取处于可用状态的功能模块执行第一类图像处理算法中的图像处理算法产生的第一图像数据并进行保存;获取保存的第一图像数据,并采用与处于不可用状态的功能模块适配的第二类图像处理算法中的图像处理算法对第一图像数据进行处理,得到第二图像数据;将第二图像数据进行保存,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
本申请实施例提供还一种计算机设备,包括:存储器和处理器;存储器,用于存储计算机程序;处理器耦合至存储器,用于执行计算机程序以用于执行上述图像处理方法。
本申请实施例提供还一种存储有计算机程序的计算机存储介质,当计算机程序被处理器执行时,致使处理器能够实现上述图像处理方法。
在本申请实施例中,图像处理装置包括图像信号处理器ISP、AI处理器和存储模块,并通过通信总线实现图像信号处理器、AI处理器和存储模块之间的相互连接,并扩展图像信号处理器中功能模块的总线接口,使得功能模块输出的图像数据可以保存在存储模块中,并由AI处理器从存储模块中读取图像数据并替代不可用功能模块执行图像处理任务。在AI处理器利用提供与ISP处理相关的图像处理算法的前提下,可以灵活组合ISP提供的图像处理算法和AI处理器提供的与ISP处理相关的图像处理算法,以满足不同应用场景对ISP性能要求,同时也拓展了ISP的应用范围,使得ISP具有普适性。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本申请实施例提供的一种图像处理装置的结构示意图;
图2为本申请实施例提供的另一种图像处理装置的结构示意图;
图3为本申请实施例提供的一种图像信号处理器的结构示意图;
图4为本申请实施例提供的一种图像处理方法的流程图;
图5为本申请实施例提供的另一种图像处理方法的流程图;
图6为本申请实施例提供的另一种图像处理装置的结构示意图;
图7为本申请实施例提供的一种计算机设备的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在视频会议、视频通话、刷脸、IPC等各种需要视频感知输入的应用场景中,用户对视频采集画面的质量要求越来越高。但是,传统的ISP提供的图像信号处理算法基本硬化,只能对图像信号处理算法的参数进行微调,无法满足用户对视频采集画面的质量要求越来越高的需求。针对现有的ISP难以满足不同应用场景对不同ISP性能要求的技术问题,本申请实施例提供一种图像处理装置、图像信号处理器、图像处理方法和介质。在本申请实施例中,图像处理装置包括图像信号处理器ISP、AI处理器和存储模块,并通过通信总线实现图像信号处理器、AI处理器和存储模块之间的相互连接,并扩展图像信号处理器中功能模块的总线接口,使得功能模块输出的图像数据可以保存在存储模块中,并由AI处理器从存储模块中读取图像数据并替代不可用功能模块执行图像处理任务。在AI处理器利用提供与ISP处理相关的图像处理算法的前提下,可以灵活组合ISP提供的图像处理算法和AI处理器提供的与ISP处理相关的图像处理算法,以满足不同应用场景对ISP性能要求,同时也拓展了ISP的应用范围,使得ISP具有普适性。
以下结合附图,详细说明本申请各实施例提供的技术方案。
图1为本申请实施例提供的一种图像处理装置100的结构示意图。参见图1,该图像处理装置100包括:图像信号处理器ISP20、人工智能AI处理器10和存储模块30;ISP20、AI处理器10和存储模块30通过通信总线40相互连接;ISP20包括多个依次连接的功能模块201,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法。其中,每个功能模块具有总线接口202,并通过总线接口202与通信总线40连接,用于在其处于可用状态,且其下一个功能模块处于不可用状态的情况下,向存储模块30写入其执行第一类图像处理算法中关联的图像处理算法产生的第一图像数据;AI处理器10,用于从存储模块30中读取第一图像数据,采用与处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对第一图像数据进行处理,得到第二图像数据,并将第二图像数据写入存储模块30,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
在本实施例中,通信总线40例如包括但不限于:AXI(Advanced eXtensibleInterface)总线、Local bus总线(又称为CPU总线)。其中,AXI总线是一种面向高性能、高带宽、低延迟的片内总线。
在本实施例中,存储模块30例如包括但不限于:静态随机存取存储器(StaticRandom-Access Memory,SRAM)、动态随机存取存储器(Dynamic Random Access Memory,DRAM)。其中,动态随机存取存储器可以包括同步动态随机存取存储器(SynchronousDynamic Random Access Memory,SDRAM)、以及双倍速率同步动态随机存储器(DoubleData Rate Synchronous Dynamic Random Access Memory,DDR SDRAM)。进一步可选的,按照与图像处理装置100中其他部件的相对位置关系划分,存储模块30还可以包括片内存储器和片外存储器。片内存储器是指和图像信号处理器ISP20、人工智能AI处理器10等集中在一起的存储模块30,片外存储器是指和图像信号处理器ISP20、人工智能AI处理器10等没有集中在一起的存储模块30。进一步可选的,可以根据图像处理装置100所处网络支持的带宽数据灵活选择片内存储器和片外存储器作为可用存储器,并通过可用存储器来存储图像处理过程中产生的图像数据。具体而言,在带宽数据符合不符合带宽充足条件时,设置片内存储器为可用存储器,在带宽数据符合带宽充足条件时,设置片外存储器为可用存储器。其中,带宽充足条件例如为带宽大于预设的带宽阈值或者,带宽在预设的带宽范围内。应理解,在带宽充足的情况下,选择片外存储器进行数据存储,可以保证有充足的存储空间来存储图像数据。在带宽不足的情况下,选择片内存储器进行数据存储,可以实现在图像性能得到保证的同时减少带宽消耗。
在本实施例中,ISP20包括多个依次连接的功能模块,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法。在本实施例中,出于便于区分和理解的考虑,将ISP提供的多种图像处理算法称作为第一类图像处理算法。
值得注意的是,整个ISP流程可以是依次连接的多个功能模块按序执行各自关联的图像处理算法。当然,也可以按照实际应用需求,设置各个功能模块的执行顺序,按照设置的执行顺序控制各个功能模块执行各自关联的图像处理算法,本申请实施例对此不做限制。
如图1所示,ISP20包括依次连接的功能模块1、功能模块2、功能模块3……功能模块n,n为正整数。值得注意的是,任一功能模块所执行的第一类图像处理算法中关联的图像处理算法可以是包括一个基础图像处理算法,也可以包括多个基础图像处理算法。其中,基础图像处理算法是仅仅实现一种特定功能的图像处理算法。基础图像处理算法例如包括但不限于:黑电平补偿(black level compensation)、镜头矫正(lens shadingcorrection)、坏像素矫正(bad pixel correction)、颜色插值(demosaic)、拜尔域(Bayer)噪声去除、白平衡矫正、色彩矫正(color correction)、伽玛校正(Gamma Correction)和颜色空间转换。
在本实施例中,对ISP20中功能模块执行的第一类图像处理算法中关联的图像处理算法所包括的基础图像处理算法数量不做限制。例如,有的功能模块执行的第一类图像处理算法中关联的图像处理算法包括一种基础图像处理算法。又例如,有的功能模块执行的第一类图像处理算法中关联的图像处理算法包括多种基础图像处理算法。
作为一种示例,ISP20的多个功能模块例如包括但不限于以下功能模块:执行黑电平补偿算法的功能模块、执行镜头矫正算法的功能模块、执行坏像素矫正算法的功能模块、执行颜色插值算法的功能模块、执行拜尔域噪声去除算法的功能模块、执行白平衡矫正算法的功能模块、执行色彩矫正算法的功能模块、执行伽玛校正算法的功能模块和执行颜色空间转换算法的功能模块。
作为另一种示例,ISP20的多个功能模块例如包括但不限于以下功能模块:RAW模块、RGB模块和YUV模块。RAW模块提供的图像处理算法可以将原始图像数据转化为RAW格式的图像数据,RGB模块提供的图像处理算法可以将RAW格式的图像数据转化为RGB格式的图像数据;YUV模块提供的图像处理算法可以将RGB格式的图像数据转化为YUV格式的图像数据。值得注意的是,RAW模块提供的图像处理算法、RGB模块提供的图像处理算法以及YUV模块提供的图像处理算法是按照ISP20流程从图像格式的角度将上述举例的基础图像处理算法进行划分的,RAW算法、RGB算法和YUV算法中可以包括一种或多种上述举例的基础图像处理算法。
作为另一种示例,ISP20的多个功能模块例如包括但不限于以下功能模块:图像降噪模块、图像锐化模块、色彩增强模块和亮度增强模块。值得注意的是,图像降噪模块提供的图像降噪算法、图像锐化模块提供的图像锐化算法以及色彩增强模块提供的色彩增强算法、亮度增强模块提供的亮度增强算法是按照ISP20流程将上述举例的基础图像处理算法进行划分的,涉及的算法可以包括一种或多种上述举例的基础图像处理算法。
在本实施例中,AI处理器10是运行有AI引擎的具有AI能力的处理器,能够调用AI算法进行数据处理,AI算法例如包括但不限于:人脸识别算法、姿态识别算法、目标检测算法和目标跟踪算法。示例性的,AI处理器10例如包括但不限于:DSP(Digital SignalProcessing,数字信号处理器)、NPU(Neural-network Processing Unit,嵌入式神经网络处理器)、CPU(central processing unit,中央处理器)和GPU(Graphic Processing Unit,图形处理器)。
实际应用中,在图像处理装置100集成多个AI处理器10的情况下,可以从多个AI处理器10任选一个参与ISP性能处理任务。进一步可选的,可以根据多个AI处理器10的运行信息和/或算力,从多个AI处理器10中选择符合运行条件和/或算力条件的AI处理器10参与ISP性能处理任务。值得注意的是,满足运行条件的AI处理器10是运行状态相对良好的AI处理器10,其有能力较好地参与ISP20性能处理任务。同样的,满足算力条件的AI处理器10同样具有能力较好地参与ISP性能处理任务。
在本实施例中,运行信息可以表征AI处理器10的繁忙程度,运行信息例如包括但不限于:运行时长、用户空间占用AI处理器10的百分比、内核空间占用AI处理器10的百分比、平均负载等等。运行条件根据实际需求设置,例如运行条件设置为以下一种或多种:运行时长小于预设运行时长、用户空间占用AI处理器10的百分比小于预设的第一百分比、内核空间占用AI处理器10的百分比小于预设的第二百分比和平均负载小于预设的负载阈值。同样,算力条件根据实际需求设置,例如算力条件设置为选择算力最高的AI处理器10或者选择算力大于预设的算力阈值的AI处理器10。
在本实施例中,AI处理器10除了提供AI算法,还提供与ISP处理相关的多种图像处理算法,以实现其有能力参与到ISP性能处理任务,在本实施例中,出于便于理解和区分的考虑,将AI处理器提供的与ISP处理相关的多种图像处理算法称作为第二类图像处理算法。值得注意的是,在AI处理器10利用提供与ISP20处理相关的图像处理算法的前提下,可以灵活组合ISP20提供的图像处理算法和AI处理器10提供的与ISP20处理相关的图像处理算法,以满足不同应用场景对ISP性能要求,同时也拓展了ISP的应用范围,使得ISP具有普适性。
值得注意的是,AI处理器10提供的第二类图像处理算法中的图像处理算法是用来替代ISP20的功能模块提供的第一类图像处理算法中的图像处理算法的。应理解,功能模块自身提供的第一类图像处理算法中图像处理算法与AI处理器10替代该功能模块提供的与该功能模块匹配的第二类图像处理算法中图像处理算法是同一类算法,两种的算法性能可以相同,也可以不同。例如,功能模块1提供黑电平补偿算法,AI处理器10也提供黑电平补偿算法。在算法性能方面,相对于功能模块1提供的黑电平补偿算法,AI处理器10提供的可以是性能增强的、性能相同的或者性能较差的黑电平补偿算法。
进一步可选的,为了应对日益变化的应用需求和提高图像处理装置100的普适性,AI处理器10还可以根据更新请求,对与各功能模块适配的第二类图像处理算法中的图像处理算法进行版本更新。实际应用中,开发人员或者运维人员可以根据图像处理装置100的上线运行状态和应用需求灵活配置AI处理器10中的第二类图像处理算法中的图像处理算法,并在有版本更新需求时,向AI处理器10下发更新请求,以触发AI处理器10执行版本更新操作。
在本实施例中,根据ISP20中功能模块状态确定是否由AI处理器10替代功能模块执行图像处理。具体的,功能模块状态划分为可用状态和不可用状态。若功能模块处于可用状态,则可以利用该功能模块提供的第一类图像处理算法中关联的图像处理算法处理图像数据,若功能模块处于不可用状态,则可以利用AI处理器10替代该功能模块,由AI处理器10使用与该功能模块对应的第二类图像处理算法中关联的图像处理算法处理图像数据。值得注意的是,导致功能模块处于不可用状态的因素,可能是应用场景的应用需求导致该功能模块被禁止使用,也可能是功能模块自身发生故障该功能模块无法使用,但并不以此为限。
在本实施例中,扩展任一功能模块的总线接口202,其中,总线接口202例如包括但不限于AXI接口。任一功能模块通过扩展出的总线接口202与通信总线40连接,并在功能模块的下一个功能模块处于不可用状态的情况下,向存储模块30写入其执行第一类图像处理算法中关联的图像处理算法产生的第一图像数据。写入至存储模块30中的第一图像数据由AI处理器10替代处于不可用状态的功能模块进行继续处理。具体而言,AI处理器10从存储模块30中读取第一图像数据,采用与处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对第一图像数据进行处理,得到第二图像数据,并将第二图像数据写入存储模块30,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
值得注意的是,AI处理器10在替代ISP20中某个功能模块执行对应的第二类图像处理算法中关联的图像处理算法后,根据该功能模块是否存在下一个功能模块,以及下一个功能模块是否可用,决策是否需要继续替代下一个功能模块执行第二类图像处理算法中关联的图像处理算法。若ISP20中连续多个功能模块处于不可用状态,则AI处理器10替代连续多个不可用状态的功能模块执行相应的第二类图像处理算法中多个不同的图像处理算法。若ISP20在连续多个不可用状态的功能模块之后还有剩余的可用状态的功能模块,则AI处理器10仍然将经过第二类图像处理算法中多个不同的图像处理算法处理的第二图像数据写入至存储模块30中,以供剩余的可用状态的功能模块读取并继续对第二图像数据进行处理。
例如,功能模块1执行黑电平补偿算法,功能模块2执行镜头矫正算法,功能模块3执行坏像素矫正算法……功能模块n执行颜色空间转换算法。若功能模块2处于不可用状态,则功能模块1将经过黑电平补偿算法处理后的图像数据存储至存储模块30中,AI处理器10从存储模块30中获取经过黑电平补偿算法处理后的图像数据并调用增强的镜头矫正算法,并将经过增强的镜头矫正算法处理的图像数据存储至存储模块30中,以供功能模块3从存储模块30中获取经过增强的镜头矫正算法处理的图像数据并对其执行坏像素矫正算法。若位于功能模块3后面的下一个功能模块处于可用状态则继续利用下一个功能模块执行图像处理;若位于功能模块3后面的下一个功能模块处于不可用状态,则利用AI处理器10替代位于功能模块3后面的下一个功能模块继续进行图像处理。依此类推,直至完成整个ISP流程。
又例如,功能模块1执行黑电平补偿算法,功能模块2执行镜头矫正算法,功能模块3执行坏像素矫正算法……功能模块n执行颜色空间转换算法。若功能模块2和功能模块3处于不可用状态,则功能模块1将经过黑电平补偿算法处理后的图像数据存储至存储模块30中,AI处理器10从存储模块30中获取经过黑电平补偿算法处理后的图像数据并依次调用增强的镜头矫正算法和增强的坏像素矫正算法以替代功能模块2和功能模块3继续进行图像处理。若位于功能模块3后面的下一个功能模块处于可用状态,则AI处理器10将依次经过镜头矫正算法和坏像素矫正算法处理的图像数据存储至存储模块30中,以供功能模块3后面的下一个功能模块读取存储模块30中的图像数据继续进行处理。若位于功能模块3后面的下一个功能模块处于不可用状态,则利用AI处理器10替代位于功能模块3后面的下一个功能模块继续进行图像处理。依此类推,直至完成整个ISP流程。
实际应用中,ISP20中的多个功能模块中任一功能模块都有可能会出现不可用状态。可选的,若多个功能模块中的最后一个功能模块出现不可用状态,则AI处理器10在替代最后一个功能模块执行对应的第二类图像处理算法中关联的图像处理算法之后,整个ISP流程结束,此时,AI处理器10可以将替代最后一个功能模块执行第二类图像处理算法中关联的图像处理算法得到的第二图像数据作为ISP20的最终处理结果,调用AI算法继续对最终处理结果进行后续处理。例如,调用人脸识别算法或姿态识别算法等对ISP20的最终处理结果进行后续处理。当然,AI处理器10也可以将ISP20的最终处理结果发送至存储模块30中进行保存,以供在对ISP20的最终处理结果有需求时,随时可以从存储模块30获取到ISP20的最终处理结果。
可选的,若多个功能模块中的首个功能模块出现不可用状态,则AI处理器10从存储模块30中读取图像传感器200采集到的原始图像数据,并采用与首个功能模块适配的第二类图像处理算法中关联的图像处理算法对原始图像数据进行处理,得到第三图像数据,并将第三图像数据写入存储模块30,以供首个功能模块的下一个处于可用状态的功能模块读取并继续对第三图像数据进行处理。
在本实施例中,图像传感器200可以是任意的具有图像采集功能的摄像头。例如,按照传感器的结构特性分类,图像传感器200可以是面阵相机或线阵相机。又例如,按照画面分辨率分类,图像传感器200可以是标清相机或高清相机。又例如,按照信号类型分类,图像传感器200可以是模拟摄像机或数字摄像机。又例如,按照摄像头的个数分类,图像传感器200可以是单目摄像头或双目摄像头。
在本实施例中,图像传感器200采集的原始图像数据可以传输至与其连接的ISP20中的首个功能模块,也可以经过通信总线40传输至存储模块30中,以供AI处理器10从存储模块30中读取原始图像数据。应理解,若首个功能模块的下一个功能模块处于可用状态,则AI处理器10将执行与首个功能模块适配的第二类图像处理算法中关联的图像处理算法对原始图像数据处理得到的第三图像数据写入存储模块30,以供首个功能模块的下一个功能模块按照ISP流程进行处理。若首个功能模块的下一个功能模块处于不可用状态,则AI处理器10将继续替代首个功能模块的下一个功能模块进行图像处理。
本申请实施例提供的图像处理装置100,包括图像信号处理器ISP20、AI处理器10和存储模块30,并通过通信总线40实现图像信号处理器、AI处理器10和存储模块30之间的相互连接,并扩展图像信号处理器中功能模块的总线接口202,使得功能模块输出的图像数据可以保存在存储模块30中,并由AI处理器10从存储模块30中读取图像数据并替代不可用功能模块执行图像处理任务。在AI处理器10利用提供与ISP20处理相关的图像处理算法的前提下,可以灵活组合ISP20提供的图像处理算法和AI处理器10提供的与ISP处理相关的图像处理算法,以满足不同应用场景对ISP性能要求,同时也拓展了ISP的应用范围,使得ISP具有普适性。
图2为本申请实施例提供的另一种图像处理装置100的结构示意图。在图1所示的图像处理装置100的基础上,该图像处理装置100还可以包括主控制器50,该主控制器50可以分别与ISP20和AI处理器10连接。该主控制器50包括但不限于:微控制单元(Microcontroller Unit,MCU)、中央处理器(Central Process Unit,CPU)、数字处理器01(Digital Signal Processor,DSP)。
具体而言,该图像处理装置100,包括:图像信号处理器ISP20、人工智能AI处理器10、存储模块30和主控制器50;ISP20、AI处理器10和存储模块30通过通信总线40相互连接,主控制器50分别与ISP20和AI处理器10连接;ISP20包括多个依次连接的功能模块,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法;
其中,每个功能模块具有总线接口202,并通过总线接口202与通信总线40连接,用于在其处于可用状态,且其下一个功能模块处于不可用状态的情况下,在主控制器50的控制下向存储模块30写入其执行第一类图像处理算法中关联的图像处理算法产生的第一图像数据;
AI处理器10,用于在主控制器50的控制下从存储模块30中读取第一图像数据,采用与处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对第一图像数据进行处理,得到第二图像数据,并将第二图像数据写入存储模块30,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
实际应用中,主控制器50可以控制ISP20中哪些功能模块处于可用状态还是不状态,在任一可用功能模块的下一个功能模块处于不可用状态时,控制该可用功能模块将经过第一类图像处理算法中关联的图像处理算法处理得到的第一图像数据传输至存储模块30中进行保存,以及向AI处理器10发送通知,以通知AI处理器10从存储模块30读取第一图像数据,并替代该可用功能模块的下一个功能模块对第一图像数据执行对应的第二类图像处理算法中关联的图像处理算法。若不可用功能模块的下一个功能模块是可用功能模块,则主控制器50通知AI处理器10将第二图像数据写入存储模块30,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
进一步可选的,主控制器50还用于向ISP20中的目标功能模块发送禁用指令,以使目标功能模块处于不可用状态,目标功能模块是ISP20中的任一功能模块。值得注意是,主控制器50通过发送禁用指令控制功能模块处于不可用状态,可以较好地适应不同应用场景对不同ISP性能要求。
进一步可选的,主控制器50还用于向ISP中处于不可用状态的功能模块发送启用指令,以使处于不可用状态的功能模块转化成处于可用状态的功能模块。值得注意是,主控制器50通过发送启用指令控制功能模块处于可用状态,可以较好地适应不同应用场景对不同ISP性能要求。进一步可选的,在存储模块30包括:片内存储器和片外存储器的情况下,主控制器50,用于获取装置所处网络支持的带宽数据,在带宽数据符合不符合带宽充足条件时,设置片内存储器为可用存储器,在带宽数据符合带宽充足条件时,设置片外存储器为可用存储器;其中,第一图像数据是被写入可用存储器中的。
进一步可选的,主控制器50,还用于根据多个AI处理器10的运行信息和/或算力,通知符合运行条件和/或算力条件的AI处理器10执行从存储模块30中读取第一图像数据及后续操作。
在本实施例中,在图像处理装置100中增设主控制器50,可以更好地管控ISP20和AI处理器10。
本申请实施例提供的图像处理装置100,包括图像信号处理器ISP20、AI处理器10、存储模块30和主控制器50,在图像处理装置100中增设主控制器50,可以更好地管控ISP20和AI处理器10,并通过通信总线40实现图像信号处理器、AI处理器10和存储模块30之间的相互连接,并扩展图像信号处理器中功能模块的总线接口202,使得功能模块输出的图像数据可以保存在存储模块30中,并由AI处理器10从存储模块30中读取图像数据并替代不可用功能模块执行图像处理任务。在AI处理器10利用提供与ISP处理相关的图像处理算法的前提下,可以灵活组合ISP20提供的图像处理算法和AI处理器10提供的与ISP处理相关的图像处理算法,以满足不同应用场景对ISP性能要求,同时也拓展了ISP的应用范围,使得ISP具有普适性。
图3为本申请实施例提供的一种图像信号处理器的结构示意图。参见图3,该图像信号处理器可以包括:多个依次连接的功能模块201,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法;其中,每个功能模块具有总线接口202,并通过总线接口202与通信总线40连接,用于在其处于可用状态,且其下一个功能模块处于不可用状态的情况下,向与通信总线40连接的存储模块30写入其执行第一类图像处理算法产生的第一图像数据;或者,在其处于可用状态,且其上一个功能模块处于不可用状态时,从存储模块30中读取第二图像数据并继续对第二图像数据进行处理;其中,第二图像数据是与通信总线40连接的其它处理模块对第一图像数据进行处理得到并写入存储模块30中的。
值得注意的是,其它处理模块例如包括但不限于:DSP(Digital SignalProcessing,数字信号处理器)、NPU(Neural-network Processing Unit,嵌入式神经网络处理器)、CPU(central processing unit,中央处理器)和GPU(Graphic Processing Unit,图形处理器)。其它处理模块提供与ISP处理相关的多种图像处理算法,以实现其有能力参与到ISP性能处理任务。其它处理模块提供的图像处理算法是用来替代ISP20的功能模块提供的图像处理算法的。应理解,功能模块自身提供的图像处理算法与其它处理模块替代该功能模块提供的与该功能模块匹配的图像处理算法是同一类算法,两种的算法性能可以相同,也可以不同。例如,功能模块1提供黑电平补偿算法,其它处理模块也提供黑电平补偿算法。在算法性能方面,相对于功能模块1提供的黑电平补偿算法,其它处理模块提供的可以是性能增强的、性能相同的或者性能较差的黑电平补偿算法。进一步可选的,任一功能模块,用于根据与图像信号处理器连接的主控制器50发送的禁用指令,从可用状态转变为不可用状态;或者,根据主控制器发送的启用指令,从不可用状态转变为可用状态。
本申请实施例提供的图像信号处理器,具体可参见上述实施例关于图像信号处理器的描述,此处不再赘述。
图4为本申请实施例提供的一种图像处理方法的流程图。适用于AI处理器10,AI处理器10通过通信总线40与存储模块30和ISP20连接,参见图4,该方法可以包括以下步骤:
401、从存储模块30中读取第一图像数据,第一图像数据是由ISP20中处于可用状态的目标功能模块执行第一类图像处理算法中关联的图像处理算法产生并在其下一个功能模块处于不可用状态的情况下写入存储模块30中的。
402、采用与处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对第一图像数据进行处理,得到第二图像数据。
403、将第二图像数据写入存储模块30,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
进一步可选的,上述方法还包括:在处于不可用状态的功能模块是最后一个功能模块的情况下,将第二图像数据作为ISP20的最终处理结果,调用AI算法继续对最终处理结果进行后续处理。
进一步可选的,上述方法还包括:在首个功能模块处于不可用状态的情况下,从存储模块30中读取图像传感器200采集到的原始图像数据,并采用与首个功能模块适配的第二类图像处理算法中关联的图像处理算法对原始图像数据进行处理,得到第三图像数据,并将第三图像数据写入存储模块30,以供首个功能模块的下一个处于可用状态的功能模块读取并继续对第三图像数据进行处理。
进一步可选的,上述方法还包括:根据更新请求,对与各功能模块适配的第二类图像处理算法中的图像处理算法进行版本更新。
本申请实施例提供的图像处理方法,具体可参见上述实施例关于AI处理器10的描述,此处不再赘述。
图5为本申请实施例提供的另一种图像处理方法的流程图。参见图5,该方法可以包括以下步骤:
501、在图像信号处理器ISP中处于可用状态的任一功能模块的下一个功能模块处于不可用状态的情况下,获取处于可用状态的功能模块执行第一类图像处理算法中的图像处理算法产生的第一图像数据并进行保存。
502、获取保存的第一图像数据,并采用与处于不可用状态的功能模块适配的第二类图像处理算法中的图像处理算法对第一图像数据进行处理,得到第二图像数据。
503、将第二图像数据进行保存,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
进一步可选的,上述方法还包括:向ISP中的目标功能模块发送禁用指令,以使目标功能模块处于不可用状态,目标功能模块是ISP中的任一功能模块;或者,向ISP中处于不可用状态的功能模块发送启用指令,以使处于不可用状态的功能模块转化成处于可用状态的功能模块。
进一步可选的,上述方法还包括:在处于不可用状态的功能模块是最后一个功能模块的情况下,将第二图像数据作为ISP的最终处理结果,调用AI算法继续对最终处理结果进行后续处理。
进一步可选的,在处于不可用状态的功能模块是最后一个功能模块的情况下,将第二图像数据作为ISP的最终处理结果,调用AI算法继续对最终处理结果进行后续处理。
进一步可选的,上述方法还包括:在首个功能模块处于不可用状态的情况下,获取保存的由图像传感器采集到的原始图像数据,并采用与首个功能模块适配的第二类图像处理算法中关联的图像处理算法对原始图像数据进行处理,得到第三图像数据,并保存第三图像数据,以供首个功能模块的下一个处于可用状态的功能模块读取并继续对第三图像数据进行处理。
进一步可选的,上述方法还包括:获取使用的网络支持的带宽数据,在带宽数据符合不符合带宽充足条件时,设置片内存储器为可用存储器,在带宽数据符合带宽充足条件时,设置片外存储器为可用存储器;其中,可用存储器用于保存第一图像数据。
进一步可选的,上述方法还包括:根据多个AI处理器的运行信息和/或算力,通知符合运行条件和/或算力条件的AI处理器执行获取保存的第一图像数据及后续操作。
进一步可选的,上述方法还包括:对与各功能模块适配的第二类图像处理算法中的图像处理算法进行版本更新。
本申请实施例提供的图像处理方法,具体可参见上述实施例关于图像处理装置的描述,此处不再赘述。需要说明的是,上述实施例所提供方法的各步骤的执行主体均可以是同一设备,或者,该方法也由不同设备作为执行主体。比如,步骤401至步骤403的执行主体可以为设备A;又比如,步骤401和402的执行主体可以为设备A,步骤403的执行主体可以为设备B;等等。
另外,在上述实施例及附图中的描述的一些流程中,包含了按照特定顺序出现的多个操作,但是应该清楚了解,这些操作可以不按照其在本文中出现的顺序来执行或并行执行,操作的序号如401、402等,仅仅是用于区分开各个不同的操作,序号本身不代表任何的执行顺序。另外,这些流程可以包括更多或更少的操作,并且这些操作可以按顺序执行或并行执行。需要说明的是,本文中的“第一”、“第二”等描述,是用于区分不同的消息、设备、模块等,不代表先后顺序,也不限定“第一”和“第二”是不同的类型。
图6为本申请实施例提供的另一种图像处理装置的结构示意图。如图6所示,该装置包括获取模块61和处理模块62。
获取模块61,用于在图像信号处理器ISP中处于可用状态的任一功能模块的下一个功能模块处于不可用状态的情况下,获取处于可用状态的功能模块执行第一类图像处理算法中的图像处理算法产生的第一图像数据并进行保存。
处理模块62,用于获取保存的第一图像数据,并采用与处于不可用状态的功能模块适配的第二类图像处理算法中的图像处理算法对第一图像数据进行处理,得到第二图像数据;将第二图像数据进行保存,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
进一步可选的,处理模块62,还用于向ISP中的目标功能模块发送禁用指令,以使目标功能模块处于不可用状态,目标功能模块是ISP中的任一功能模块;或者,向ISP中处于不可用状态的功能模块发送启用指令,以使处于不可用状态的功能模块转化成处于可用状态的功能模块。
进一步可选的,处理模块62,还用于在处于不可用状态的功能模块是最后一个功能模块的情况下,将第二图像数据作为ISP的最终处理结果,调用AI算法继续对最终处理结果进行后续处理。
进一步可选的,处理模块62,还用于在处于不可用状态的功能模块是最后一个功能模块的情况下,将第二图像数据作为ISP的最终处理结果,调用AI算法继续对最终处理结果进行后续处理。
进一步可选的,处理模块62,还用于在首个功能模块处于不可用状态的情况下,获取保存的由图像传感器采集到的原始图像数据,并采用与首个功能模块适配的第二类图像处理算法中关联的图像处理算法对原始图像数据进行处理,得到第三图像数据,并保存第三图像数据,以供首个功能模块的下一个处于可用状态的功能模块读取并继续对第三图像数据进行处理。
进一步可选的,处理模块62,还用于获取使用的网络支持的带宽数据,在带宽数据符合不符合带宽充足条件时,设置片内存储器为可用存储器,在带宽数据符合带宽充足条件时,设置片外存储器为可用存储器;其中,可用存储器用于保存第一图像数据。
进一步可选的,处理模块62,还用于根据多个AI处理器的运行信息和/或算力,通知符合运行条件和/或算力条件的AI处理器执行获取保存的第一图像数据及后续操作。
进一步可选的,处理模块62,还用于对与各功能模块适配的第二类图像处理算法中的图像处理算法进行版本更新。
本申请实施例提供的图像处理方法,具体可参见上述实施例关于图像处理装置的描述,此处不再赘述。
图6的图像处理装置可以执行5所示实施例的图像处理方法,其实现原理和技术效果不再赘述。对于上述实施例中的图像处理装置其中各个模块、单元执行操作的具体方式已经在前述图像处理装置的实施例中进行了详细描述,此处将不做详细阐述说明。
图7为本申请实施例提供的一种计算机设备的结构示意图。如图7所示,该计算机设备包括:存储器71和处理器72;
存储器71,用于存储计算机程序,并可被配置为存储其它各种数据以支持在计算平台上的操作。这些数据的示例包括用于在计算平台上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。
存储器71可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
处理器72,与存储器71耦合,用于执行存储器71中的计算机程序,以用于:在图像信号处理器ISP中处于可用状态的任一功能模块的下一个功能模块处于不可用状态的情况下,获取处于可用状态的功能模块执行第一类图像处理算法中的图像处理算法产生的第一图像数据并进行保存;获取保存的第一图像数据,并采用与处于不可用状态的功能模块适配的第二类图像处理算法中的图像处理算法对第一图像数据进行处理,得到第二图像数据;将第二图像数据进行保存,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。或者,
处理器72,与存储器71耦合,用于执行存储器71中的计算机程序,以用于:从存储模块中读取第一图像数据,第一图像数据是由ISP中处于可用状态目标功能模块执行第一类图像处理算法中关联的图像处理算法产生并在其下一个功能模块处于不可用状态的情况下写入存储模块中的;采用与处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对第一图像数据进行处理,得到第二图像数据;将第二图像数据写入存储模块,以供下一个处于可用状态的功能模块读取并继续对第二图像数据进行处理,得到新的第一图像数据。
进一步,如图7所示,该计算机设备还包括:通信组件73、显示器74、电源组件75、音频组件76等其它组件。图7中仅示意性给出部分组件,并不意味着计算机设备只包括图7所示组件。另外,图7中虚线框内的组件为可选组件,而非必选组件,具体可视排产设备的产品形态而定。本实施例的计算机设备可以实现为台式电脑、笔记本电脑、智能手机或IOT设备等终端设备,也可以是常规服务器、云服务器或服务器阵列等服务端设备。若本实施例的计算机设备实现为台式电脑、笔记本电脑、智能手机等终端设备,可以包含图7中虚线框内的组件;若本实施例的计算机设备实现为常规服务器、云服务器或服务器阵列等服务端设备,则可以不包含图7中虚线框内的组件。
关于处理器执行各步骤的详细实施过程可参见前述方法实施例或装置实施例中的相关描述,在此不再赘述。
相应地,本申请实施例还提供一种存储有计算机程序的计算机存储介质,当计算机程序被处理器执行时,致使处理器能够实现上述图像处理方法中的步骤。
相应地,本申请实施例还提供一种计算机程序产品,包括计算机程序/指令,当计算机程序/指令被处理器执行时,致使处理器能够实现上述图像处理方法中的步骤。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例如包括,但不限于内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (16)
1.一种图像处理装置,其特征在于,包括:图像信号处理器ISP、人工智能AI处理器和存储模块;所述ISP、所述AI处理器和所述存储模块通过通信总线相互连接;所述ISP包括多个依次连接的功能模块,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法,所述AI处理器提供第二类图像处理算法,所述第二类图像处理算法包括与ISP处理相关的多种图像处理算法;
其中,每个功能模块具有总线接口,并通过所述总线接口与所述通信总线连接,用于在其处于可用状态,且其下一个功能模块处于不可用状态的情况下,向所述存储模块写入其执行第一类图像处理算法中关联的图像处理算法产生的第一图像数据;其中,实现所述下一个功能模块处于不可用状态的方式包括:根据应用场景的应用需求控制所述下一个功能模块禁止使用;
所述AI处理器,用于从所述存储模块中读取所述第一图像数据,采用与所述处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对所述第一图像数据进行处理,得到第二图像数据,其中,所述AI处理器采用的第二类图像处理算法中的图像处理算法用于替代所述ISP中对应的功能模块允许执行的第一类图像处理算法中的图像处理算法,并将所述第二图像数据写入所述存储模块,以供下一个处于可用状态的功能模块读取并继续对所述第二图像数据进行处理,得到新的第一图像数据。
2.根据权利要求1所述的装置,其特征在于,还包括:
主控制器,与所述ISP连接,用于向所述ISP中的目标功能模块发送禁用指令,以使所述目标功能模块处于不可用状态,所述目标功能模块是所述ISP中的任一功能模块;
或者,所述主控制器,还用于向所述ISP中处于不可用状态的功能模块发送启用指令,以使处于不可用状态的功能模块转化成处于可用状态的功能模块。
3.根据权利要求1所述的装置,其特征在于,所述AI处理器还用于:
在所述处于不可用状态的功能模块是最后一个功能模块的情况下,将所述第二图像数据作为所述ISP的最终处理结果,调用AI算法继续对所述最终处理结果进行后续处理。
4.根据权利要求1所述的装置,其特征在于,所述AI处理器还用于:
在首个功能模块处于不可用状态的情况下,从所述存储模块中读取图像传感器采集到的原始图像数据,并采用与所述首个功能模块适配的第二类图像处理算法中关联的图像处理算法对所述原始图像数据进行处理,得到第三图像数据,并将所述第三图像数据写入所述存储模块,以供所述首个功能模块的下一个处于可用状态的功能模块读取并继续对所述第三图像数据进行处理。
5.根据权利要求2所述的装置,其特征在于,所述存储模块包括:片内存储器和片外存储器;
所述主控制器,还用于获取所述装置所处网络支持的带宽数据,在所述带宽数据符合不符合带宽充足条件时,设置所述片内存储器为可用存储器,在所述带宽数据符合带宽充足条件时,设置所述片外存储器为可用存储器;其中,所述第一图像数据是被写入所述可用存储器中的。
6.根据权利要求2所述的装置,其特征在于,所述AI处理器的数量为多个;
所述主控制器,还用于根据多个AI处理器的运行信息和/或算力,通知符合运行条件和/或算力条件的AI处理器执行从所述存储模块中读取所述第一图像数据及后续操作。
7.根据权利要求1至6任一项所述的装置,其特征在于,
所述AI处理器,还用于根据更新请求,对与各功能模块适配的第二类图像处理算法中的图像处理算法进行版本更新。
8.一种图像信号处理器,其特征在于,包括:多个依次连接的功能模块,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法;
其中,每个功能模块具有总线接口,并通过所述总线接口与通信总线连接,用于在其处于可用状态,且其下一个功能模块处于不可用状态的情况下,向与所述通信总线连接的存储模块写入其执行第一类图像处理算法中关联的图像处理算法产生的第一图像数据,其中,实现所述下一个功能模块处于不可用状态的方式包括:根据应用场景的应用需求控制所述下一个功能模块禁止使用,以使AI处理器从所述存储模块中读取所述第一图像数据,采用与所述处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对所述第一图像数据进行处理,得到第二图像数据,其中,所述AI处理器采用的第二类图像处理算法中的图像处理算法用于替代图像信号处理器中对应的功能模块允许执行的第一类图像处理算法中的图像处理算法,并将所述第二图像数据写入所述存储模块,以供下一个处于可用状态的功能模块读取并继续对所述第二图像数据进行处理,得到新的第一图像数据;或者,在其处于可用状态,且其上一个功能模块处于不可用状态时,从所述存储模块中读取第二图像数据并继续对所述第二图像数据进行处理;
其中,所述第二图像数据是与所述通信总线连接的其它处理模块对所述第一图像数据进行处理得到并写入所述存储模块中的。
9.根据权利要求8所述的图像信号处理器,其特征在于,
任一功能模块,用于根据与所述图像信号处理器连接的主控制器发送的禁用指令,从可用状态转变为不可用状态;或者,根据所述主控制器发送的启用指令,从不可用状态转变为可用状态。
10.一种图像处理方法,其特征在于,适用于AI处理器,所述AI处理器通过通信总线与存储模块和ISP连接,所述AI处理器提供第二类图像处理算法,所述第二类图像处理算法包括与ISP处理相关的多种图像处理算法,所述ISP包括多个依次连接的功能模块,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法,所述方法包括:
从所述存储模块中读取第一图像数据,所述第一图像数据是由所述ISP中处于可用状态的目标功能模块执行第一类图像处理算法中关联的图像处理算法产生并在其下一个功能模块处于不可用状态的情况下写入所述存储模块中的,其中,实现所述下一个功能模块处于不可用状态的方式包括:根据应用场景的应用需求控制所述下一个功能模块禁止使用;
采用与所述处于不可用状态的功能模块适配的第二类图像处理算法中关联的图像处理算法对所述第一图像数据进行处理,得到第二图像数据,其中,所述AI处理器采用的第二类图像处理算法中的图像处理算法用于替代所述ISP中对应的功能模块允许执行的第一类图像处理算法中的图像处理算法;
将所述第二图像数据写入所述存储模块,以供下一个处于可用状态的功能模块读取并继续对所述第二图像数据进行处理,得到新的第一图像数据。
11.根据权利要求10所述的方法,其特征在于,还包括:
在所述处于不可用状态的功能模块是最后一个功能模块的情况下,将所述第二图像数据作为所述ISP的最终处理结果,调用AI算法继续对所述最终处理结果进行后续处理。
12.根据权利要求11所述的方法,其特征在于,还包括:
在首个功能模块处于不可用状态的情况下,从所述存储模块中读取图像传感器采集到的原始图像数据,并采用与所述首个功能模块适配的第二类图像处理算法中关联的图像处理算法对所述原始图像数据进行处理,得到第三图像数据,并将所述第三图像数据写入所述存储模块,以供所述首个功能模块的下一个处于可用状态的功能模块读取并继续对所述第三图像数据进行处理。
13.根据权利要求10至12任一项所述的方法,其特征在于,还包括:
根据更新请求,对与各功能模块适配的第二类图像处理算法中的图像处理算法进行版本更新。
14.一种图像处理方法,其特征在于,包括:
在图像信号处理器ISP中处于可用状态的任一功能模块的下一个功能模块处于不可用状态的情况下,获取处于可用状态的功能模块执行第一类图像处理算法中的图像处理算法产生的第一图像数据并进行保存;其中,所述ISP包括多个依次连接的功能模块,每个功能模块执行第一类图像处理算法中的一种图像处理算法,不同功能模块执行不同的图像处理算法,实现所述下一个功能模块处于不可用状态的方式包括:根据应用场景的应用需求控制所述下一个功能模块禁止使用;
通过AI处理器获取保存的第一图像数据,并采用与所述处于不可用状态的功能模块适配的第二类图像处理算法中的图像处理算法对所述第一图像数据进行处理,得到第二图像数据,所述第二类图像处理算法包括与ISP处理相关的多种图像处理算法,采用的第二类图像处理算法中的图像处理算法用于替代所述ISP中对应的功能模块允许执行的第一类图像处理算法中的图像处理算法;
通过AI处理器将所述第二图像数据进行保存,以供下一个处于可用状态的功能模块读取并继续对所述第二图像数据进行处理,得到新的第一图像数据。
15.一种计算机设备,其特征在于,包括:包括:存储器和处理器;所述存储器,用于存储计算机程序;所述处理器耦合至所述存储器,用于执行所述计算机程序以用于执行权利要求10-14任一项所述方法中的步骤。
16.一种存储有计算机程序的计算机存储介质,其特征在于,当所述计算机程序被处理器执行时,致使所述处理器能够实现权利要求10至14任一项所述方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210234348.1A CN114727082B (zh) | 2022-03-10 | 2022-03-10 | 图像处理装置、图像信号处理器、图像处理方法和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210234348.1A CN114727082B (zh) | 2022-03-10 | 2022-03-10 | 图像处理装置、图像信号处理器、图像处理方法和介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114727082A CN114727082A (zh) | 2022-07-08 |
CN114727082B true CN114727082B (zh) | 2024-01-30 |
Family
ID=82237043
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210234348.1A Active CN114727082B (zh) | 2022-03-10 | 2022-03-10 | 图像处理装置、图像信号处理器、图像处理方法和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114727082B (zh) |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9219870B1 (en) * | 2014-07-31 | 2015-12-22 | Apple Inc. | Sensor data rescaler for image signal processing |
CN206610357U (zh) * | 2017-03-23 | 2017-11-03 | 成都零一智慧科技有限公司 | 一种基于动态图像识别的人工智能系统 |
CN110648273A (zh) * | 2019-09-27 | 2020-01-03 | 中国科学院长春光学精密机械与物理研究所 | 实时图像处理装置 |
CN111741211A (zh) * | 2019-03-25 | 2020-10-02 | 华为技术有限公司 | 图像显示方法和设备 |
CN111953848A (zh) * | 2020-08-19 | 2020-11-17 | Oppo广东移动通信有限公司 | 通过情景感知实现应用功能的系统、方法及相关装置 |
CN112800969A (zh) * | 2021-01-29 | 2021-05-14 | 新疆爱华盈通信息技术有限公司 | 图像质量调节方法和系统、ai处理方法、门禁系统 |
CN112995656A (zh) * | 2021-03-04 | 2021-06-18 | 黑芝麻智能科技(上海)有限公司 | 用于图像处理电路的异常检测方法及系统 |
CN113206927A (zh) * | 2021-05-14 | 2021-08-03 | 合肥芯福传感器技术有限公司 | 图像信号处理器和图像传感处理系统 |
CN113228094A (zh) * | 2018-12-21 | 2021-08-06 | 华为技术有限公司 | 图像处理器 |
KR20210099456A (ko) * | 2020-02-04 | 2021-08-12 | 엘지전자 주식회사 | 특정 기능을 강화하여 이미지 데이터를 생성하는 이미지 프로세서, 인공 지능 장치 및 그 방법 |
CN113452982A (zh) * | 2020-03-24 | 2021-09-28 | 合肥君正科技有限公司 | 一种提高道路监控摄像机中白平衡校正效果的方法 |
WO2021227504A1 (zh) * | 2020-05-13 | 2021-11-18 | 奥比中光科技集团股份有限公司 | 一种深度计算系统、方法及计算机可读存储介质 |
WO2021238522A1 (zh) * | 2020-05-29 | 2021-12-02 | Oppo广东移动通信有限公司 | 多媒体处理芯片、电子设备和图像处理方法 |
CN113744119A (zh) * | 2020-05-29 | 2021-12-03 | Oppo广东移动通信有限公司 | 多媒体处理芯片和电子设备 |
CN113744117A (zh) * | 2020-05-29 | 2021-12-03 | Oppo广东移动通信有限公司 | 多媒体处理芯片、电子设备及动态图像处理方法 |
WO2022041220A1 (zh) * | 2020-08-31 | 2022-03-03 | 华为技术有限公司 | 电子装置和电子装置的响应操作方法 |
WO2022056729A1 (zh) * | 2020-09-16 | 2022-03-24 | 华为技术有限公司 | 电子装置和电子装置的图像处理方法 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101103624B1 (ko) * | 2010-05-18 | 2012-01-09 | 엠텍비젼 주식회사 | 이미지 처리 장치, 이미지 신호 처리 칩 및 isp 체인 구성 방법 |
WO2015088212A1 (en) * | 2013-12-09 | 2015-06-18 | Samsung Electronics Co., Ltd. | Digital photographing apparatus capable of reconfiguring image signal processor and method of controlling the same |
US11042770B2 (en) * | 2017-10-09 | 2021-06-22 | EagleSens Systems Corporation | Artificial intelligence based image data processing method and image sensor |
US10755425B2 (en) * | 2018-02-05 | 2020-08-25 | Intel Corporation | Automatic tuning of image signal processors using reference images in image processing environments |
US10762755B2 (en) * | 2018-06-04 | 2020-09-01 | Apple Inc. | Data-secure sensor system |
US11093168B2 (en) * | 2018-09-04 | 2021-08-17 | Apical Limited | Processing of neural networks on electronic devices |
CN110072051B (zh) * | 2019-04-09 | 2021-09-03 | Oppo广东移动通信有限公司 | 基于多帧图像的图像处理方法和装置 |
CN110062160B (zh) * | 2019-04-09 | 2021-07-02 | Oppo广东移动通信有限公司 | 图像处理方法和装置 |
KR20210058404A (ko) * | 2019-11-14 | 2021-05-24 | 엘지전자 주식회사 | 이미지 처리방법 및 처리장치 |
US20220036542A1 (en) * | 2020-07-28 | 2022-02-03 | International Business Machines Corporation | Deep learning models using locally and globally annotated training images |
-
2022
- 2022-03-10 CN CN202210234348.1A patent/CN114727082B/zh active Active
Patent Citations (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9219870B1 (en) * | 2014-07-31 | 2015-12-22 | Apple Inc. | Sensor data rescaler for image signal processing |
CN206610357U (zh) * | 2017-03-23 | 2017-11-03 | 成都零一智慧科技有限公司 | 一种基于动态图像识别的人工智能系统 |
CN113228094A (zh) * | 2018-12-21 | 2021-08-06 | 华为技术有限公司 | 图像处理器 |
CN111741211A (zh) * | 2019-03-25 | 2020-10-02 | 华为技术有限公司 | 图像显示方法和设备 |
CN110648273A (zh) * | 2019-09-27 | 2020-01-03 | 中国科学院长春光学精密机械与物理研究所 | 实时图像处理装置 |
KR20210099456A (ko) * | 2020-02-04 | 2021-08-12 | 엘지전자 주식회사 | 특정 기능을 강화하여 이미지 데이터를 생성하는 이미지 프로세서, 인공 지능 장치 및 그 방법 |
CN113452982A (zh) * | 2020-03-24 | 2021-09-28 | 合肥君正科技有限公司 | 一种提高道路监控摄像机中白平衡校正效果的方法 |
WO2021227504A1 (zh) * | 2020-05-13 | 2021-11-18 | 奥比中光科技集团股份有限公司 | 一种深度计算系统、方法及计算机可读存储介质 |
WO2021238522A1 (zh) * | 2020-05-29 | 2021-12-02 | Oppo广东移动通信有限公司 | 多媒体处理芯片、电子设备和图像处理方法 |
CN113744120A (zh) * | 2020-05-29 | 2021-12-03 | Oppo广东移动通信有限公司 | 多媒体处理芯片、电子设备和图像处理方法 |
CN113744119A (zh) * | 2020-05-29 | 2021-12-03 | Oppo广东移动通信有限公司 | 多媒体处理芯片和电子设备 |
CN113744117A (zh) * | 2020-05-29 | 2021-12-03 | Oppo广东移动通信有限公司 | 多媒体处理芯片、电子设备及动态图像处理方法 |
CN111953848A (zh) * | 2020-08-19 | 2020-11-17 | Oppo广东移动通信有限公司 | 通过情景感知实现应用功能的系统、方法及相关装置 |
WO2022041220A1 (zh) * | 2020-08-31 | 2022-03-03 | 华为技术有限公司 | 电子装置和电子装置的响应操作方法 |
WO2022056729A1 (zh) * | 2020-09-16 | 2022-03-24 | 华为技术有限公司 | 电子装置和电子装置的图像处理方法 |
CN112800969A (zh) * | 2021-01-29 | 2021-05-14 | 新疆爱华盈通信息技术有限公司 | 图像质量调节方法和系统、ai处理方法、门禁系统 |
CN112995656A (zh) * | 2021-03-04 | 2021-06-18 | 黑芝麻智能科技(上海)有限公司 | 用于图像处理电路的异常检测方法及系统 |
CN113206927A (zh) * | 2021-05-14 | 2021-08-03 | 合肥芯福传感器技术有限公司 | 图像信号处理器和图像传感处理系统 |
Non-Patent Citations (1)
Title |
---|
基于移动互联网络的园区智能无人驾驶系统;白阳等;《中国电子科学研究院学报》;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN114727082A (zh) | 2022-07-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102149187B1 (ko) | 전자 장치와, 그의 제어 방법 | |
US10951822B2 (en) | Mobile device including multiple cameras | |
US20170099435A1 (en) | Image Generation Method Based On Dual Camera Module And Dual Camera Apparatus | |
CN112602088B (zh) | 提高弱光图像的质量的方法、系统和计算机可读介质 | |
US10469749B1 (en) | Temporal filter with criteria setting maximum amount of temporal blend | |
US11825094B2 (en) | System-on-chip having a merged frame rate converter and video codec and frame rate converting method thereof | |
CN110264473B (zh) | 基于多帧图像的图像处理方法、装置及电子设备 | |
JP2023538020A (ja) | オブジェクトカテゴリー分類に基づく画像処理 | |
CN113992850A (zh) | 基于isp的图像处理方法及装置、存储介质和摄像设备 | |
CN110706162A (zh) | 一种图像处理方法、装置及计算机存储介质 | |
US20220301278A1 (en) | Image processing method and apparatus, storage medium, and electronic device | |
CN114298295A (zh) | 芯片、加速卡以及电子设备、数据处理方法 | |
CN114727082B (zh) | 图像处理装置、图像信号处理器、图像处理方法和介质 | |
WO2022021025A1 (zh) | 图像增强方法及装置 | |
US9374526B2 (en) | Providing frame delay using a temporal filter | |
US10735754B2 (en) | Chromatic aberration modeling in image compression and enhancement | |
CN115471417A (zh) | 图像降噪处理方法、装置、设备、存储介质和程序产品 | |
CN116437222A (zh) | 图像处理方法与电子设备 | |
US10748305B2 (en) | Image capturing apparatus that can reduce amount of data that is to be recorded, method for controlling the image capturing apparatus, and storage medium | |
CN114677464A (zh) | 图像处理方法、图像处理装置、计算机设备及存储介质 | |
CN112163985B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN116934572B (zh) | 图像处理方法和设备 | |
CN116028383B (zh) | 缓存管理方法及电子设备 | |
CN115767287B (zh) | 图像处理方法与电子设备 | |
EP4401417A1 (en) | Image signal processing driving method, control module, processing module, and medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |