CN107431770B - 用于自适应线性亮度域视频流水线架构的方法、系统、设备和介质 - Google Patents

用于自适应线性亮度域视频流水线架构的方法、系统、设备和介质 Download PDF

Info

Publication number
CN107431770B
CN107431770B CN201680012198.2A CN201680012198A CN107431770B CN 107431770 B CN107431770 B CN 107431770B CN 201680012198 A CN201680012198 A CN 201680012198A CN 107431770 B CN107431770 B CN 107431770B
Authority
CN
China
Prior art keywords
image data
color
image
color space
input image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680012198.2A
Other languages
English (en)
Other versions
CN107431770A (zh
Inventor
N·达尔尚
G·迈克尔
G·沃伦诺夫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN107431770A publication Critical patent/CN107431770A/zh
Application granted granted Critical
Publication of CN107431770B publication Critical patent/CN107431770B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/02Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
    • G09G5/028Circuits for converting colour display signals into monochrome display signals
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/393Arrangements for updating the contents of the bit-mapped memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39Control of the bit-mapped memory
    • G09G5/395Arrangements specially adapted for transferring the contents of the bit-mapped memory to the screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/465Conversion of monochrome to colour
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • H04N19/426Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements using memory downsizing methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2300/00Aspects of the constitution of display devices
    • G09G2300/04Structural and physical details of display devices
    • G09G2300/0439Pixel structures
    • G09G2300/0452Details of colour pixel setup, e.g. pixel composed of a red, a blue and two green components
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0242Compensation of deficiencies in the appearance of colours
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0613The adjustment depending on the type of the information to be displayed
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0666Adjustment of display parameters for control of colour parameters, e.g. colour temperature
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2330/00Aspects of power supply; Aspects of display protection and defect management
    • G09G2330/02Details of power systems and of start or stop of display operation
    • G09G2330/021Power management, e.g. power saving
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/06Colour space transformation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2350/00Solving problems of bandwidth in display systems
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/08Power processing, i.e. workload management for processors involved in display operations, such as CPUs or GPUs
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/12Frame memory handling
    • G09G2360/127Updating a frame memory using a transfer of data from a source area to a destination area
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/18Use of a frame buffer in a display terminal, inclusive of the display panel

Abstract

讨论了涉及在用于图像或视频流水线架构的亮度色度分离的颜色空间中生成缩减的图像或图像帧数据的技术。这种技术可以包括基于在与输入图像数据相关联的照度指示符的基础上确定的自适应颜色系数来将所述输入图像数据转换到所述亮度色度分离的颜色空间,并且将缩减的经颜色转换的图像数据存储到所述图像或视频流水线的输入图像缓冲器中。

Description

用于自适应线性亮度域视频流水线架构的方法、系统、设备和 介质
优先权声明
本申请要求于2015年3月26日提交的题为“ADAPTIVE LINEAR LUMA DOMAIN VIDEOPIPELINE ARCHITECTURE(自适应线性亮度域视频流水线架构)”的美国专利申请序列号14/669,269的优先权,所述申请以其全文通过引用结合。
背景技术
对采集视频的设备而言,可能需要如每秒30、60或120帧的视频采集帧速率。这种帧速率视频采集可能需要设备提供高计算负荷并使用大量电力。此外,由设备执行的视频和图像处理中的许多可能需要比由设备的图像传感器捕获的图像更低分辨率的图像。在一些实施方式中,图像信号处理器(ISP)架构可以在图像处理流水线的早期以及在将图像数据存储在设备的主图像存储器(例如,动态随机存取存储器或DRAM)中之前提供缩减采集图像或视频帧。针对处理链或流水线的剩余部分,这种早期缩减可以节省存储器、存储器访问带宽以及不必要的计算负荷。
在一些示例中,来自设备的图像传感器的采集图像可以是拜耳模式(Bayerpattern)、类似红-绿-蓝(RGB)模式、红-绿-蓝-白(RGBW)模式等。可以然后对采集图像进行去马赛克以便生成缺失的颜色(例如,可以执行插值法等以便从来自图像传感器的不完整颜色样本中生成完整的颜色图像)、缩减、再打马赛克(例如,不时中断以便形成拜耳或类似模式图像)并且保存到主图像存储器中等等。这种处理可以提供较低分辨率(以及较低存储器使用率)图像以便经由图像处理流水线进行处理,节省了存储器使用率、存储器负荷、计算需求以及实施成本。然而,这种处理可以在分辨率、插值假象、混叠等方面显著影响采集图像或帧的图像质量(IQ)。
可能有利的是提供低计算复杂度、低存储器使用率以及维持更高图像质量的低功率图像处理。针对这些和其他考虑因素,需要本发明的改进。随着期望提供高质量视频变得更广泛,这种改进可能变得很关键。
附图说明
在附图中通过举例而非限制的方式展示了本文所描述的材料。为了图示的简明和清晰,图中所展示的元件不一定按比例绘制。例如,为清楚起见,某些元件的尺寸相对于其他元件可能被放大了。另外,在认为适当的情况下,在附图之间对参考标记加以重复以表示相应的或相似的元件。在附图中:
图1展示了用于生成缩减的图像数据的示例设备;
图2展示了用于从多个图像传感器处生成缩减的图像数据的示例设备;
图3展示了用于生成视频序列的缩减的图像数据的示例过程;
图4是流程图,展示了用于生成缩减的图像数据的示例过程;
图5是用于生成缩减的图像数据的示例系统的示意图;
图6是示例系统的示意图;并且
图7展示了全部根据本公开的至少一些实施方式安排的示例小形状因子设备。
具体实施方式
现在参照附图描述一个或多个实施例或实施方式。虽然对特定配置和安排进行了讨论,但应理解,这仅出于说明目的来进行。相关领域的技术人员将认识到,在不背离本描述的精神和范围的情况下可以采用其他配置和安排。对相关领域技术人员而言将明显的是,在此描述的技术和/或安排还可以在除了在此描述的系统和应用之外的各种各样的其他系统和应用中被采用。
虽然以下描述阐述可以在如例如片上系统(SoC)架构的架构中显现各实施方式,但在此描述的技术和/或安排的实施方式并不局限于具体的架构和/或计算系统并且出于类似目的可以由任何架构和/或计算系统实现。例如,使用例如多个集成电路(IC)芯片和/或封装、和/或各种计算设备和/或消费电子(CE)设备(例如多功能设备、平板计算机、智能电话等)的各种架构可实现本文描述的技术和/或安排。此外,虽然以下描述可以阐述许多特定的细节(如逻辑实现、系统组件的类型和内在关系、逻辑划分/集成选择等),但要求保护的主题可以在没有这些特定细节的情况下被实践。在其他实例中,可以不详细示出某些材料(如,例如,控制结构和完整的软件指令序列),以便不模糊在此公开的材料。
在此公开的材料可以在硬件、固件、软件、或其任意组合中实现。在此公开的材料还可以被实现为存储于机器可读介质上的指令,这些指令可以由一个或多个处理器来读取并执行。机器可读介质可以包括用于存储或传输具有由机器(例如,计算设备)可读的形式的信息的任何介质和/或机制。例如,机器可读介质可以包括只读存储器(ROM);随机存取存储器(RAM);磁盘存储介质;光存储介质;闪存设备;电、光、声或其他形式的传播信号(例如,载波、红外信号、数字信号等)等等。
说明书中提到“一种实施方式”、“实施方式”、“示例实施方式”等表明所描述的实施方式可以包括具体特征、结构、或特性,但每个实施例可能不一定包括所述具体特征、结构、或特性。此外,这些短语不一定指代同一实施方式。另外,当结合实施例描述具体特征、结构或特性时,应理解,结合无论在此是否明确地描述的其他实施方式来实施这种特征、结构或特性在本领域技术人员的认知范围内。
本文中描述了涉及视频流水线架构,并且更具体地,涉及基于使用自适应颜色转换系数进行的颜色转换在色度亮度分离的颜色空间中生成缩减的图像数据的方法、设备、装置、计算平台和制品。
如以上所描述的,在视频流水线架构(如图像信号处理器架构)中,采集图像或视频帧可以被从拜耳模式等中去马赛克、缩减、再打马赛克并且存储在主图像存储器(如输入缓冲器、输入图像缓冲器等)中。这种技术可以在分辨率、插值假象、混叠等方面不利地影响图像质量。本文中所讨论的技术可以提供在实施方式中节省计算资源、存储器事务以及芯片面积(并且因此成本)的视频流水线架构,同时还提供改进的图像质量。可以针对图像(例如,与静止图像相关联的图像数据)和/或视频图像和/或帧(例如,与视频序列的视频帧相关联的图像数据)提供这种技术。如本文中所使用的,术语图像数据或类似术语可以指示静止图像或视频帧的图像数据或与其相关联。
在一些实施例中,可以接收输入图像数据,如来自图像传感器的图像数据或来自图像传感器的已经经历预处理的图像数据。输入图像数据可以在颜色空间(如红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)等)中。例如,这种输入图像数据可以包括来自拜耳模式或类似模式的图像传感器的原始图像数据,所述原始图像数据已经去马赛克以便生成输入图像数据。可以确定与输入图像数据相关联的自适应颜色转换系数。例如,自适应颜色转换系数可以是基于输入图像数据的特性(如与输入图像数据相关联的照度指示符)自适应的。照度指示符可以是白平衡参数、场景类型参数等。基于自适应颜色转换系数,输入图像数据可以转换成亮度色度分离的颜色空间中的经颜色转换的图像数据。例如,如本文中所使用的,术语亮度色度分离的颜色空间可以包括其中亮度和色度部件基本上分离的任何颜色空间(如YUV颜色空间等)。
可以将亮度色度分离的颜色空间图像数据缩减并存储在主图像存储器(如输入图像缓冲器等)中。可以使用任何适合的一项或多项技术(如去噪、锐化、色度更改等)经由流水线(例如,图像或视频处理流水线)来处理所存储的亮度色度分离的颜色空间图像数据。此外,亮度色度分离的颜色空间中的这种经处理的图像数据可以随后被颜色转换到另一个颜色空间(如线性RGB颜色空间等)以便进行进一步处理(如颜色校正、伽马校正等)。例如,这种线性RGB颜色空间数据可以转换到标准颜色空间(如sRBG颜色空间等)。这种处理可以提供多项优点,如输入图像缓冲器中的图像数据的较低占用面积(节省存储器事务和存储器线)、改进的图像质量(例如,具有较少假象)等。此外,可以扩展这种流水线架构来适应多个图像传感器(例如,来自前置和后置设备相机等),从而使得可以仅复制图像传感器和可选的图像采集处理模块(例如,其他模块可以跨所述多个图像传感器共享)。
本文中所讨论的技术可以在没有再打马赛克操作的情况下向随后的图像或视频流水线操作提供亮度色度分离的颜色空间图像数据。这种技术可以在输入图像缓冲器(例如,DRAM)带宽方面以低成本提供高图像质量。例如,输入图像数据可以从与图像传感器相关联的线性RGB域(例如,3个通道)线性地转变到亮度色度分离的颜色域。例如,线性转变可以是基于输入图像数据的照度自适应的。此外,亮度色度分离的颜色空间图像数据的色度通道可以被缩减(例如,在水平和竖直轴两者中缩减2至4:2:0格式)并存储在图像缓冲器中以便进行进一步处理。
图1展示了根据本公开的至少一些实施方式安排的用于生成缩减的图像数据的示例设备100。如图1中所示出的,设备100可以包括图像传感器101、图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、输入图像缓冲器108、亮度色度分离的图像处理模块109、以及颜色转换模块110。此外,缩减模块105可以包括水平色度缩减模块106和竖直色度缩减模块107。设备100可以是任何适合的形状因子设备。例如,设备100可以是计算机、膝上型计算机、平板计算机、智能电话、平板手机、数码相机、显示设备、游戏设备、可穿戴设备(如智能手表、智能眼镜)等。例如,设备100可以实施图像或视频流水线,以便生成缩减的图像数据并提供如本文中所讨论的图像处理。
如所示出的,图像传感器101可以生成原始图像数据111。例如,如经由相机模块或光学器件等实施的图像传感器101可以暴露于场景,并且图像传感器101可以生成表示所述场景的原始图像数据111。图像传感器101可以包括任何适合的图像传感器。此外,原始图像数据111可以包括采用任何适合格式的图像数据。在一些示例中,原始图像数据111可以被表征为图像传感器数据、采集图像数据等。在一些示例中,原始图像数据111可以包括采用表示拜耳模式或其他类似模式的格式的图像数据。例如,图像传感器101可以具有覆盖传感器的滤色器阵列(CFA)。在一些示例中,CFA可以采用具有RGB方格中的晶格的标准拜耳模式,所述晶格具有2×2像素大小且G出现两次(例如,50%绿色,25%红色,25%蓝色)。在其他示例中,原始图像数据111可以在高达4×4像素的具有任何顺序的RGBC(例如,红色、绿色、蓝色以及任何颜色)的晶格中。例如,针对原始图像数据111的每个像素,原始图像数据111可以包括对应于与像素相关联的滤色器的像素值。例如,在一些实施方式(例如,RGB示例)中,针对每个像素位置,原始图像数据111可以包括红色、绿色或蓝色值,并且在一些实施方式(例如,RGBC示例)中,针对每个像素位置,原始图像数据111可以包括红色、绿色、蓝色或任何其他值。例如,原始图像数据111可以包括RGBC图像数据,其中,C可以指任何其他颜色(例如,白色(W)或亮度(Y)等)。在一些实施方式中,尽管本文中相对于RGB和RGBW颜色空间而讨论,但是原始图像数据111可以在任何适合的颜色空间中。图像传感器101可以向设备100的图像采集处理模块102和/或存储器(未示出)提供原始图像数据111。
图像采集处理模块102可以从图像传感器101或存储器处接收原始图像数据111,并且图像采集处理模块102可以生成输入图像数据112和/或照度指示符(ill.ind.)113。图像采集处理模块102可以使用任何适合的一项或多项技术生成输入图像数据112。例如,图像采集处理模块102可以执行去马赛克(例如,滤色器阵列重建)以便基于原始图像数据111生成完整的颜色图像。例如,针对原始图像数据111的每个像素位置,这种去马赛克可以确定3个颜色值(例如,3个颜色通道)。例如,假设具体像素位置是红色像素位置(例如,具有相关联的红色滤色器),则所述像素位置的3个颜色通道可以包括:在所述像素位置处感测到的相关联的红色值、接近或重建的绿色值、以及接近或重建的蓝色值。使用这种技术,针对每个像素位置,可以确定3个颜色值,以便生成完整的颜色图像。
此外,图像采集处理模块102可以执行与图像采集和/或图像预处理相关联的附加处理,如像素格式化、标准化、线性化、光学黑平衡或校正、阴影校正、像素缺陷校正(例如,校正失败和/或异常像素值)、白平衡校正、缩放等。此外,输入图像数据112可以包括在任何适合的颜色空间中的任何适合的图像数据。例如,输入图像数据112可以在RGB颜色空间或RGBW颜色空间等中。在一些示例中,输入图像数据112可以在线性RGB或线性RGBW颜色空间中。然而,如所讨论的,输入图像数据112可以在任何适合的颜色空间中。此外,输入图像数据112可以被表征为当将其输入到颜色转换模块103以便颜色转换到亮度色度分离的颜色空间时的输入图像数据。然而,在其他示例中,输入图像数据112可以被表征为图像数据、原始图像数据、经预处理的图像数据等。而且,输入图像数据112可以与视频序列的静止图像或图像帧相关联。例如,在一些实施方式中,输入图像数据112可以被表征为图像帧、帧、视频序列的帧等。图像采集处理模块102可以向设备100的颜色转换模块103和/或存储器提供输入图像数据112。
还如所示出的,图像采集处理模块102可以生成与输入图像数据112相关联的照度指示符113。照度指示符113可以包括表示输入图像数据112的照度的任何适合的指示符或数据等。在一些示例中,照度指示符113可以包括一个或多个白平衡参数。例如,(多个)白平衡参数可以包括用于执行相对于输入图像数据112的颜色平衡的(多个)参数或(多个)系数。在其他示例中,照度指示符113可以包括如指示场景的照度的场景类型参数的指示符(例如,值或参数)。这种场景类型参数可以包括或指示如明亮的、暗的、室内的、室外的、荧光的等场景类型。如所示出的,在一些示例中,图像采集处理模块102可以生成照度指示符113。图像采集处理模块102可以使用任何适合的一项或多项技术生成照度指示符113。在其他示例中,照度指示符113可以被接收为或者可以基于对设备100的输入(例如,经由基于场景环境选择图像采集模式的用户),或者照度指示符113可以经由设备100的另一个模块(如白平衡模块等)生成。图像采集处理模块102可以向设备100的控制器模块104和/或存储器提供照度指示符113。
控制器模块104可以接收照度指示符113,并且控制器模块104可以确定自适应颜色转换系数(ACCC)114。例如,可以基于照度指示符113确定自适应颜色转换系数114。控制器模块104可以使用任何适合的一项或多项技术确定自适应颜色转换系数114。例如,可以在训练阶段或校准阶段预先确定自适应颜色转换系数集,并将其提供给设备100的存储器。可以基于照度指示符113(例如,照度指示符113可以包括用于索引一个或多个查找表的一个或多个值)经由一个或多个查找表来访问这种自适应颜色转换系数集,并且可以基于这种访问和/或插值技术确定自适应颜色转换系数114。
例如,可以基于照度指示符113访问两个或更多个最靠近的(例如,基于照度指示符113和相关联的查找表索引)自适应颜色转换系数集,并且可以在基于两个或更多个最靠近的自适应颜色转换系数集的插值等的基础上确定自适应颜色转换系数114。在其他示例中,可以基于单独访问确定自适应颜色转换系数114,从而使得最靠近的自适应颜色转换系数集被用作自适应颜色转换系数114。此外,尽管相对于查找表技术进行讨论,但是可以使用任何适合的技术确定自适应颜色转换系数114。
自适应颜色转换系数114可以包括任何适合数量的系数。例如,如本文中所讨论的,输入图像数据112可以包括3或4个通道(例如,具有3个颜色通道的RGB颜色空间或者具有4个颜色通道的RGBW颜色空间)等。此外,亮度色度分离的图像数据115可以包括3个通道等(例如,亮度通道和两个色度通道)。在输入图像数据112具有3个通道并且亮度色度分离的图像数据115具有3个通道的示例中,自适应颜色转换系数114可以包括3×3矩阵中的9个系数。在输入图像数据112具有4个通道并且亮度色度分离的图像数据115具有3个通道的示例中,自适应颜色转换系数114可以包括4×3矩阵中的9个系数。例如,自适应颜色转换系数114可以包括N×M个系数,其中,N是输入图像数据112的颜色通道的数量,并且M是亮度色度分离的图像数据115的数量。
可以使用任何适合的一项或多项技术实施控制器模块104。例如,可以在硬件或软件或其组合中实施控制器模块104。在一些示例中,可以经由驱动器(如自适应颜色转换系数驱动器等)实施控制器模块104。此外,控制器模块104可以被表征为控制器、颜色转换控制器、驱动器、颜色转换驱动器等。控制器模块104可以向设备100的颜色转换模块103和/或存储器提供自适应颜色转换系数114。
颜色转换模块103可以从图像采集处理模块102或存储器处接收输入图像数据112,并且可以从控制器模块104或存储器处接收自适应颜色转换系数114。颜色转换模块103可以基于输入图像数据112和自适应颜色转换系数114生成亮度色度分离的图像数据115。例如,颜色转换模块103可以基于自适应颜色转换系数114对输入图像数据112执行线性转变。例如,由自适应颜色转换系数114提供的系数矩阵可以应用于与输入图像数据相关联的RGB或RGBW等图像信号,以便生成亮度色度分离的图像数据115。亮度色度分离的图像数据115可以包括任何适合的图像数据,如亮度通道和两个色度通道(例如,具有3个值的亮度色度分离的图像数据115的每个像素位置:一个针对亮度并且两个针对色度)。例如,可以经由训练或校准阶段限定和/或校准与亮度色度分离的图像数据115相关联的亮度色度颜色空间。在一些示例中,亮度色度颜色空间可以被表征为线性亮度域等。此外,亮度色度分离的颜色空间可以与可以用于将图像数据从亮度色度分离的颜色空间转换到标准颜色空间(如sRGB)的颜色转换参数或系数相关联,所述标准颜色空间可以提供给设备100以便基于共同颜色空间或域与其他设备进行通信。颜色转换模块103可以向设备100的缩减模块105和/或存储器提供亮度色度分离的图像数据115。
缩减模块105可以从设备100的缩减模块105或存储器处接收亮度色度分离的图像数据115,并且缩减模块105可以生成缩减的图像数据(DSI)116。缩减模块105可以使用任何适合的一项或多项技术生成缩减的图像数据116。例如,缩减模块105的水平色度缩减模块106可以在水平方向或轴线上缩减亮度色度分离的图像数据115的色度通道,并且缩减模块105的竖直色度缩减模块107可以在竖直方向或轴线上缩减亮度色度分离的图像数据115的色度通道。例如,水平色度缩减模块106和竖直色度缩减模块107中的一者或两者可以应用有限脉冲响应(FIR)滤波器并对亮度色度分离的图像数据115进行抽取。此外,在一些示例中,亮度色度分离的图像数据115的亮度通道可能不缩减。
如所示出的,在一些示例中,可以应用水平和竖直色度缩减两者,首先应用水平色度缩减。例如,亮度色度分离的图像数据115的色度通道可以在水平和竖直两个方向上缩减因子二,以便生成4:2:0格式的图像数据。然而,可以使用任何适合的一种或多种技术将亮度色度分离的图像数据115减小到任何适合的格式。在一些示例中,仅可以应用水平色度缩减,并且在其他示例中,仅可以应用竖直色度缩减。在其他示例中,可以在水平色度缩小之前应用竖直色度缩小。此外,在一些示例中,缩小因子可以在水平和竖直方向上不同。如所讨论的,在一些示例中,缩减的图像数据116可以是4:2:0格式。在其他示例中,缩减的图像数据116可以是4:2:2格式、4:2:1格式、4:1:1格式、4:0:0格式等中的任何格式。如所讨论的,缩减的图像数据116可以包括缩减的亮度色度分离的图像数据。如所示出的,缩减模块105可以向输入图像缓冲器108提供缩减的图像数据116。
输入图像缓冲器108可以存储缩减的图像数据116,并且可以使缩减的图像数据116可用于经由设备100实施的图像或视频流水线的其他部分。例如,缩减的图像数据116可以提供相比于输入图像数据112减小的存储器占用面积,以便进一步进行节省存储器线、存储器事务、芯片大小、电力等。此外,所讨论的处理技术可以提供在分辨率、插值假象、混叠等方面具有高图像质量(IQ)的缩减的图像数据116。
如所示出的,亮度色度分离的图像处理模块109可以检索缩减的图像数据116(例如,在亮度色度分离的颜色空间中的图像数据),并且亮度色度分离的图像处理模块109可以生成经处理的图像数据117。亮度色度分离的图像处理模块109可以基于缩减的图像数据116执行任何适合的图像处理。例如,亮度色度分离的图像处理模块109可以执行可以有利地对感知颜色空间中的图像数据执行的图像处理。例如,亮度色度分离的图像处理模块109可以执行去噪、锐化、色度更改(例如,色失真)等。经处理的图像数据117可以包括任何适合的图像数据,如与缩减的图像数据116(例如,缩减的亮度色度分离的图像数据)具有同一格式的图像数据。亮度色度分离的图像处理模块109可以向设备100的颜色转换模块110和/或存储器提供经处理的图像数据117。
颜色转换模块110可以接收经处理的图像数据117(例如,亮度色度分离的颜色空间中的图像数据),并且颜色转换模块110可以生成线性颜色空间图像(LCI)数据118。例如,颜色转换模块110可以将经处理的图像数据转换到颜色空间(如线性颜色空间)以便进行进一步处理。例如,线性颜色空间图像数据可以在RGB或RGBW颜色空间中等。此外,设备100可以进一步经由图像或视频流水线等使用任何适合的一种或多种技术处理线性颜色空间图像数据118。例如,设备100可以执行可以有利地对感知颜色空间中的图像数据执行的进一步处理。例如,这种处理可以包括颜色校正、伽马校正等。这种经处理的图像数据可以被设备100进一步处理和/或用于各种应用。例如,经处理的数据可以转换到标准颜色空间(如sRGB)以便传输至另一个设备(例如,经由视频编码或视频会议技术等)、经由设备100或外部显示设备显示等等。
如所讨论的,设备100可以实施图像和/或视频流水线。例如,模块102到110和/或附加模块中的一个或多个可以是图像处理流水线的一部分。在一些示例中,输入图像缓冲器108可以是流水线中的节点等,从而使得输入图像缓冲器108之前的处理可以被认为是前端图像处理。在一些示例中,可以对与整个图像相关联的图像数据执行前端处理。此外,输入图像缓冲器108之后的处理可以被认为是后端处理。在一些示例中,可以对与图像的切片(例如,在切片的基础上等)相关联的图像数据执行这种后端处理。
此外,如所展示的设备100可以包括单个相机以及相关联的图像传感器101。然而,如所讨论的,在其他示例中,设备可以包括多个相机以及相关联的图像传感器。在这种示例中,可以在所述多个相机当中共享所描述的图像处理流水线的部分,以便节省实施成本和复杂度。
图2展示了根据本公开的至少一些实施方式安排的用于从多个图像传感器处生成缩减的图像数据的示例设备。如图2中所示出的,设备200可以包括图像传感器101、图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、输入图像缓冲器108、亮度色度分离的图像处理模块109、以及颜色转换模块110。已经参照图1讨论了这种模块的操作,并且为了表达清晰的目的将不对其进行重复。还如图2中所示出的,设备200可以包括图像传感器201和图像采集处理模块202。设备200可以是如参照设备100或本文中的其他地方所讨论的任何设备,如计算机、膝上型计算机、平板计算机、智能电话、平板手机、数码相机、显示设备、游戏设备、可穿戴设备(如智能手表)等。
如所示出的,图像传感器201可以生成原始图像数据211。例如,可以可以经由第一相机模块(例如,前置相机)实施图像传感器101,并且可以经由设备200的第二相机模块(例如,后置相机)实施图像传感器201。图像传感器201可以包括任何适合的图像传感器,并且原始图像数据211可以包括任何适合格式(如参照原始图像数据111所讨论的图像数据)的图像数据。图像传感器201可以向设备200的图像采集处理模块202和/或存储器(未示出)提供原始图像数据211。
图像采集处理模块202可以从图像传感器201或存储器处接收原始图像数据211,并且图像采集处理模块202可以生成输入图像数据212和/或照度指示符(ill.ind.)213。图像采集处理模块202可以使用任何适合的一种或多种技术(如参照设备100所讨论的技术)来生成输入图像数据112和照度指示符213。例如,图像采集处理模块202可以执行去马赛克(例如,滤色器阵列重建)以便基于原始图像数据211生成完整的颜色图像和/或执行与图像采集和/或图像预处理相关联的附加处理,如像素格式化、标准化、线性化、光学黑平衡或校正、阴影校正、像素缺陷校正(例如,校正失败和/或异常像素值)、白平衡校正、缩放等。输入图像数据212可以包括在任何适合的颜色空间中的任何适合的图像数据,如参照输入图像数据112所讨论的图像数据。图像采集处理模块202可以向设备100的颜色转换模块103和/或存储器提供输入图像数据212。此外,照度指示符213可以包括表示输入图像数据212的照度的任何适合的指示符或数据等,如参照照度指示符113所讨论的指示符或参数等,包括例如(多个)白平衡参数、场景类型参数等。如所示出的,图像采集处理模块202可以向设备100的控制器模块104和/或存储器提供照度指示符213。
控制器模块104可以接收照度指示符213,并且控制器模块104可以基于如参照设备100所讨论的照度指示符213确定自适应颜色转换系数114。此外,颜色转换模块103可以接收输入图像数据212和自适应颜色转换系数114,并且颜色转换模块103可以生成如参照设备100所讨论的亮度色度分离的图像数据115。例如,取决于图像传感器101、201中的哪个图像传感器是活跃的,可以由图像采集处理模块102或图像采集处理模块202执行预处理,以便生成对控制器模块104的输入(例如,照度指示符113或照度指示符213)以及对颜色转换模块103的输入(例如,输入图像数据112或输入图像数据212)。基于这种输入,可以执行进一步处理(例如,确定自适应颜色转换系数114、生成亮度色度分离的图像数据115、缩减经缩减的图像数据116、存储到输入图像缓冲器108中以及任何随后处理)。
例如,设备200可以提供图像或视频流水线架构以便节省重复的模块实施方式。例如,对流水线中的控制器模块104、颜色转换模块103、缩减模块105、输入图像缓冲器108、亮度色度分离的图像处理模块109、颜色转换模块110以及任何随后的处理模块的重复。在所展示的示例中,可以重复图像采集处理模块102和图像采集处理模块202,因为那些模块可以分别与图像传感器101和图像传感器201紧密相关联。然而,在其他示例中,可以提供单个图像采集处理模块。例如,可以阐明图像采集处理模块202,并且在这种示例中可以将原始图像数据211从图像传感器201提供到图像采集处理模块102。
参照图1和图2讨论的图像或视频流水线架构可以提供关于输入图像缓冲器108的大量存储器节省连同高图像质量(IQ)。例如,所讨论的图像或视频流水线架构可以在将图像数据存储到输入图像缓冲器之前消除再打马赛克操作,并且可以提供感知颜色空间中的图像数据(例如,亮度色度分离的颜色空间)以便进行处理。这种架构可以提供维持高IQ以及存储器带宽的相对低使用率的图像处理技术,所述技术可以节省实施成本和功耗。
图3展示了根据本公开的至少一些实施方式安排的用于生成视频序列的缩减的图像数据的示例过程300。如图3所展示的,过程300可以包括一个或多个操作301到312。过程300可以由设备(例如,设备100、设备200或本文中所讨论的任何其他设备或系统)执行,或者过程300的部分可以由设备执行以便生成视频序列的缩减的图像数据。针对任何数量的图像、图像帧、视频序列、其部分等可以重复过程300或其部分。
如所示出的,过程300可以开始于开始操作301,在操作302处,“获取视频序列的图像帧”,在所述操作处可以获取视频序列的图像帧。可以使用任何适合的一种或多种技术获取图像帧。例如,可以经由图像传感器(如图像传感器101或图像传感器201等)获取图像帧或视频帧或帧等。图像帧可以包括如原始图像数据等具有任何适合格式的图像数据,如具有如本文中所讨论的拜耳模式或类似模式的图像数据。
处理可以在操作303处继续,“执行图像采集预处理”,在所述操作处可以对在操作302处获得的原始图像数据执行图像采集预处理。图像采集预处理可以包括任何适合的图像处理。例如,图像采集预处理可以包括去马赛克以便生成完整的颜色图像和/或与图像采集和/或图像预处理相关联的附加处理,如像素格式化、标准化、线性化、光学黑平衡或校正、阴影校正、像素缺陷校正(例如,校正失败和/或异常像素值)、白平衡校正、缩放等。例如,经由操作303生成的图像数据可以包括颜色空间(如RGB或RGBW等)中的完整的颜色图像数据。
处理可以在操作304处继续,“生成自适应颜色转换系数”,在所述操作处可以基于输入图像确定自适应颜色转换系数。可以使用任何适合的一种或多种技术确定自适应颜色转换系数。例如,可以基于与输入图像相关联的照度指示符确定自适应颜色转换系数。在一些示例中,可以基于照度指示符访问查找表(或多个查找表),所述照度指示符可以包括一个或多个参数等。一个或多个查找表可以由照度指示符索引,并且可以提供一个或多个最接近的自适应颜色转换系数或自适应颜色转换系数集。例如,最接近的自适应颜色转换系数或自适应颜色转换系数集可以是与最接近照度指示符的一个或多个查找表索引值相关联的系数。如果经由查找表访问提供单个自适应颜色转换系数集,则可以经由操作304提供那些自适应颜色转换系数。在经由查找表访问提供两个或更多个自适应颜色转换系数集的示例中,可以基于在插值技术等的基础上的两个或更多个自适应颜色转换系数集来确定经由操作304提供的自适应颜色转换系数。
处理可以在操作305处继续,“将图像帧颜色转换到线性亮度色度分离的颜色空间”,在所述操作处可以将图像帧转换到线性亮度色度分离的颜色空间。例如,可以基于在操作304处经由线性转换操作等生成的自适应颜色转换系数转换表示图像帧或与其相关联的图像数据。如所讨论的,亮度色度分离的颜色空间可以是将亮度通道与色度通道分离(例如,分离成单个亮度通道以及两个或更多个色度通道)的任何适合的颜色空间,并且可以在训练或校准阶段等中限定亮度色度分离的颜色空间。例如,亮度色度分离的颜色空间可以类似于或表征为YUV颜色空间等。经由操作305生成的图像数据可以包括任何适合的图像数据,如图像帧的每个像素位置的通道值(例如,3个通道)。
处理可以在操作306处继续,“缩减经颜色转换的图像帧”,在所述操作处可以缩减经颜色转换的图像帧。可以使用任何适合的一种或多种技术缩减经颜色转换的图像帧。在一些示例中,经颜色转换的图像帧的颜色通道可以在水平和竖直方向上缩减因子2,以便生成4:2:0格式的图像或图像数据。例如,水平和竖直缩减可以包括应用有限脉冲响应(FIR)滤波器并对经颜色转换的图像帧的颜色通道进行抽取操作。
处理可以在操作307处继续,“将缩减的经颜色转换的图像帧存储到输入图像缓冲器中”,在所述操作处可以将缩减的经颜色转换的图像帧或图像数据存储到输入图像缓冲器中。例如,缩减的经颜色转换的图像帧或图像数据可以提供减少的存储需求(在缩减后)以及高图像质量(IQ)。输入图像缓冲器可以被表征为主图像存储器、图像缓冲器等,并且输入图像缓冲器可以经由DRAM实施。例如,输入图像缓冲器可以提供缩减的经颜色转换的图像帧或图像数据,以便由图像或视频流水线的其他模块检索从而进行继续的图像处理。
处理可以在操作308处继续,“从输入图像缓冲器中检索缩减的经颜色转换的图像帧”,在所述操作处可以检索缩减的经颜色转换的图像帧或图像数据。例如,可以经由视频或图像流水线的任何模块检索缩减的经颜色转换的图像帧或图像数据以便进行进一步处理。例如,如本文中参照图1和图2以及操作309所讨论的,可以由亮度色度分离的图像处理模块等访问缩减的经颜色转换的图像帧或图像数据。然而,可以由任何适合的图像处理模块访问或检索缩减的经颜色转换的图像帧或图像数据以便进行任何适合的图像或视频处理,如目标检测或识别、计算机视觉、图像增强、图像编码、视频编码等。
处理可以在操作309处继续,“执行亮度色度分离的图像处理”,在所述操作处可以基于检索的缩减的经颜色转换的图像帧或图像数据来执行亮度色度分离的图像处理。这种图像处理可以包括任何适合的图像处理,并且具体地可以有利地在感知颜色域内执行的图像处理。例如,在操作309处执行的亮度色度分离的图像处理可以包括去噪、锐化、色度更改(例如,色失真)等。例如,可以经由操作309生成亮度色度分离的颜色空间中的经处理的图像帧或图像数据。
处理可以在操作310处继续,“颜色转换图像帧”,在所述操作处可以将亮度色度分离的颜色空间中的经处理的图像帧或图像数据颜色转换到颜色空间(如RGB颜色空间或RGBW颜色空间等)。例如,经处理的图像帧或图像数据可以从线性亮度色度分离的颜色空间转换到线性颜色空间(如线性RGB颜色空间或线性RGBW颜色空间等)。例如,可以经由可以有利地在线性颜色空间中执行的操作(如颜色校正、伽马校正等)来进一步处理转换到这种颜色空间(例如,线性颜色空间)的图像帧或图像数据。此外,可以将转换到这种线性颜色空间的图像帧或图像数据转换到标准颜色空间(如sRGB等)以便传输至另一个设备从而经由设备100或外部显示设备等进行显示。
处理可以在决策操作311处继续,“已经处理了视频序列的最后图像帧?”,在所述操作处可以做出对当前图像帧是否是视频序列的最后图像帧的判定。如果是,则过程300可以在结束操作312处结束。如果不是,则过程300可以在操作302处继续,在所述操作处可以获取视频序列的另一个(例如,随后的)图像帧,并且处理可以如本文中参照操作303到310所讨论的继续。
如所讨论的,过程300可以用于生成视频序列的缩减的图像数据。针对不同图像、图像帧、视频序列、其部分等可以重复过程300任意次数。此外,针对并行或部分并行的图像或图像帧可以串行执行过程300。
例如,如本文中所讨论的,针对图像或视频流水线架构,参照过程300所讨论的技术可以提供高图像质量和低存储器带宽实施方式。
图4是展示根据本公开的至少一些实施方式安排的用于生成缩减的图像数据的示例过程400的流程图。如图4中所展示的,过程400可以包括一个或多个操作401到403。过程400可以形成图像处理技术的至少一部分。通过非限制性示例,过程400可以形成由本文中所讨论的设备100或设备200执行的图像处理技术的至少一部分。此外,在此将参照图5的系统500描述过程400。
图5是根据本公开的至少一些实施方式安排的用于生成缩减的图像数据的示例系统500的示意图。如图5中所示出的,系统500可以包括一个或多个中央处理单元(CPU)501、图像处理单元502、以及存储器存储设备503。还如所示出的,图像处理单元502可以包括图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、亮度色度分离的图像处理模块109、以及颜色转换模块110。此外,存储器存储设备503可以包括输入图像缓冲器108。可以实施这种模块以便执行本文中所讨论的操作。在系统500的示例中,存储器存储设备503可以包括用于存储缩减的图像数据(如亮度色度分离的颜色空间中的缩减的图像数据)的输入图像缓冲器108,并且存储器存储设备503可以存储图像数据或其他相关联的数据,如原始图像数据、输入图像数据、亮度色度分离的颜色空间图像数据、缩减的图像数据、经处理的图像数据、线性颜色空间图像数据、照度指示符、自适应颜色转换系数或参数、查找表数据、自适应颜色转换系数集等。
如所示出的,在一些示例中,可以经由图像处理单元502实施图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、亮度色度分离的图像处理模块109、以及颜色转换模块110。在其他示例中,可以经由中央处理单元501或图形处理单元实施图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、亮度色度分离的图像处理模块109、以及颜色转换模块110中的一个或多个或部分。在又其他示例中,可以经由成像处理流水线或单元实施图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、亮度色度分离的图像处理模块109、以及颜色转换模块110中的一个或多个或部分。
图像处理单元502可以包括任意数量和类型的图形或图像处理单元,这些图形或图像处理单元可以提供如本文中所讨论的操作。在一些示例中,图像处理单元可以是图像信号处理器。这些操作可以经由软件或硬件或其组合来实施。例如,图像处理单元502可以包括专门用于操纵从存储器存储设备503处获得的图像数据的电路系统。如本文中所讨论的,中央处理单元501可以包括任意数量和类型的处理单元或模块,这些处理单元或模块可以为系统500提供控制以及其他高级别的功能和/或提供任何操作。存储器存储设备503可以是任意类型的存储器,如易失性存储器(例如,静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)等)或非易失性存储器(例如,闪存等)等等。在非限制性示例中,存储器存储设备503可以由缓存存储器实施。在实施例中,可以经由图像处理单元502的执行单元(EU)实施图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、亮度色度分离的图像处理模块109、以及颜色转换模块110中的一个或多个或部分。EU可以包括例如可编程逻辑或电路系统,如可以提供广泛的可编程逻辑功能阵列的一个或多个逻辑核。在实施例中,可以经由专用硬件(如固定功能电路系统等)实施图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、亮度色度分离的图像处理模块109、以及颜色转换模块110中的一个或多个或部分。固定功能电路系统可以包括专用逻辑或电路系统并且可以提供固定功能入口点的集合,所述集合可以映射到针对固定目的或功能的专用逻辑。在一些实施例中,可以经由专用集成电路(ASIC)实施图像采集处理模块102、颜色转换模块103、控制器模块104、缩减模块105、亮度色度分离的图像处理模块109、以及颜色转换模块110中的一个或多个或部分。ASIC可以包括被定制成用于执行本文中所讨论的操作的集成电路系统。
返回到对图4的讨论,过程400可以开始于操作401,“基于与输入图像数据相关联的照度指示符确定输入图像数据的自适应颜色转换系数”,在所述操作处可以基于与输入图像数据相关联的照度指示符确定与第一颜色空间中的输入图像数据相关联的自适应颜色转换系数。例如,第一颜色空间可以是如本文中所讨论的红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间。此外,照度指示符可以是白平衡参数、场景类型参数等。在一些示例中,基于与输入图像数据相关联的照度指示符确定自适应颜色转换系数可以包括基于照度指示符访问查找表。例如,如经由图像处理单元502实施的控制器模块104可以基于与输入图像数据相关联的照度指示符确定自适应颜色转换系数。
此外,在一些示例中,可以基于从图像传感器处接收采集图像数据并基于采集图像数据执行图像采集预处理以便生成输入图像数据来生成输入图像数据。例如,采集图像数据可以是来自图像传感器的原始图像数据等,并且图像采集预处理可以包括对采集图像数据进行去马赛克、基于采集图像数据执行像素缺陷校正、基于采集图像数据执行阴影校正等等以便生成完整的颜色图像数据(例如,输入图像数据)。例如,采集图像数据可以经由图像传感器101或图像传感器201等采集,并且可以由如经由图像处理单元502实施的图像采集处理模块102执行图像采集预处理。
处理可以在操作402处继续,“基于自适应颜色转换系数将输入图像数据转换成亮度色度分离的颜色空间中的经颜色转换的图像数据”,在所述操作处可以基于自适应颜色转换系数将输入图像数据转换成亮度色度分离的颜色空间中的经颜色转换的图像数据。例如,可以基于自适应颜色转换系数经由线性转换操作将输入图像数据转换成亮度色度分离的颜色空间中的经颜色转换的图像数据。亮度色度分离的颜色空间可以是将亮度通道与色度通道分离(例如,分离成单个亮度通道以及两个或更多个色度通道)的任何适合的颜色空间,并且可以在训练或校准阶段等中限定亮度色度分离的颜色空间。例如,如经由图像处理单元502实施的颜色转换模块103可以基于自适应颜色转换系数将输入图像数据转换成亮度色度分离的颜色空间中的经颜色转换的图像数据。
处理可以在操作403处继续,“将与经颜色转换的图像数据相关联的缩减的经颜色转换的图像数据存储到输入图像缓冲器中”,在所述操作处可以将与经颜色转换的图像数据相关联的缩减的经颜色转换的图像数据存储到输入图像缓冲器中。例如,可以经由如经由图像处理单元502实施的缩减模块105缩减经颜色转换的图像数据,以便生成缩减的经颜色转换的图像数据。例如,可以在水平方向和竖直方向之一或两者上缩减经颜色转换的图像数据的色度通道,以便生成缩减的经颜色转换的图像数据。此外,可以将缩减的经颜色转换的图像数据存储到输入图像缓冲器(如经由存储器存储设备503实施的输入图像缓冲器108)中。
这种过程可以在如本文中所讨论的亮度色度分离的颜色空间中生成高图像质量和低存储器占用面积的图像数据。可以访问这种图像数据以便进行进一步图像处理。例如,可以从输入图像缓冲器中检索缩减的经颜色转换的图像数据。可以基于缩减的经颜色转换的图像数据执行用于生成经处理的图像数据的去噪、锐化、色度更改中的一个或多个,以便生成经处理的图像数据。此外,可以将经处理的图像数据转换到线性颜色空间,如线性红-绿-蓝(RGB)颜色空间等。例如,如经由图像处理单元502实施的亮度色度分离的图像处理模块109可以从输入图像缓冲器中检索缩减的经颜色转换的图像数据,并且对缩减的经颜色转换的图像数据执行图像处理以便生成经处理的图像数据。此外,如经由图像处理单元502实施的颜色转换模块110可以将经处理的图像数据颜色转换到线性颜色空间。
而且,如所讨论的,在一些示例中,可以实施多个图像传感器和/或多个图像采集处理模块。例如,可以基于与第二输入图像数据相关联的第二照度指示符确定与第二输入图像数据相关联的第二自适应颜色转换系数。例如,图像数据可以来自第一图像传感器(例如,图像传感器101),并且第二输入图像数据可以来自第二图像传感器(例如,图像传感器201)。可以基于第二自适应颜色转换系数将第二输入图像数据转换成第二颜色空间(例如,亮度色度分离的颜色空间)中的第二经颜色转换的图像数据。例如,如经由图像处理单元502实施的颜色转换模块103可以将第二输入图像数据转换成第二经颜色转换的图像数据。例如,如经由图像处理单元502实施的图像采集处理模块102可以生成第二照度指示符,或者图像采集处理模块202可以经由图像处理单元502实施以便生成第二照度指示符。此外,可以将与第二经颜色转换的图像数据相关联的第二缩减的经颜色转换的图像数据存储到输入图像缓冲器(如经由存储器存储设备503实施的输入图像缓冲器108)中。
可以针对任意数量的输入图像或输入图像的部分串行地或者并行地重复过程400任意次数。过程400可以提供高质量缩减的经颜色转换的图像数据。例如,过程400可以提供高质量缩减的经颜色转换的图像数据,以便由视频和/或图像处理流水线的随后模块或阶段使用。
本文中所描述的系统的各种部件可以以软件、固件和/或硬件和/或任何其组合来实现。例如,设备100、设备200、系统500、系统600或设备700的各部件可以至少部分地由如可以在多功能设备或计算系统(如例如,膝上型计算机、平板计算机或智能电话)中找到的计算片上系统(SoC)的硬件来提供。本领域技术人员可以认识到,本文中所描述的系统可以包括尚未在相应附图中描绘的附加部件。例如,本文中所讨论的系统可以包括为了清楚起见尚未被描绘的附加部件,如扫描仪(例如,用于执行光学扫描以便生成经扫描的输入图像)、打印机(例如,用于将输出图像转换到纸或类似物理介质上)、图像预处理电路系统等。
虽然本文中所讨论的示例过程的实施方式可以包括按所展示的顺序进行示出的所有操作,但是本公开并不限于这个方面,并且在各个示例中,此处的示例过程的实施方式可以仅包括所示操作的子集、以与所展示的顺序不同的顺序执行的操作、或附加操作。
另外,本文中所讨论的操作中的任何一个或多个操作可以响应于由一个或多个计算机程序产品提供的指令而被进行。这种程序产品可以包括提供当由例如处理器执行时可以提供本文中所描述的功能的指令的承载信号的介质。计算机程序产品可以由一个或多个机器可读介质的任何形式提供。因此,例如,包括一个或多个图形处理单元或处理器核的处理器可以响应于由一个或多个机器可读介质传达给处理器的程序代码和/或指令或指令集而进行此处的示例过程的块中的一个或多个块。通常,机器可读介质可以以程序代码和/或指令或指令集的形式传达软件,这些程序编码和指令集可以使本文中所描述的设备和/或系统中的任意一者实施设备100、设备200、系统500、系统600或设备700的至少多个部分、或者如本文中所讨论的任何其他模块或部件。
如本文中所描述的任何实施方式中所使用的,术语“模块”指被配置成用于提供本文中所描述的功能的软件逻辑、固件逻辑、硬件逻辑和/或电路系统的任何组合。软件可以具体化为软件包、代码和/或指令集或指令,并且如本文中所描述的任何实施方式中所使用的,“硬件”可以例如单独地或以任何组合包括硬连线电路系统、可编程电路系统、状态机电路系统、固定功能电路系统、执行单元电路系统和/或存储由可编程电路系统执行的指令的固件。这些模块可以统一地或单独地具体化为形成例如,集成电路(IC)、片上系统(SoC)等较大系统的一部分的电路系统。
图6是根据本公开的至少一些实施方式安排的示例系统600的示意图。在各实施方式中,尽管系统600不限于此上下文,但系统600可以是计算系统。例如,系统600可合并到个人计算机(PC)、膝上型计算机、超级膝上型计算机、平板计算机、触控板、便携式计算机、手持计算机、掌上型计算机、个人数字助理(PDA)、蜂窝电话、组合蜂窝电话/PDA、电视机、智能设备(例如智能电话、智能平板计算机或智能电视机)、可穿戴设备(例如,智能手表或智能眼睛)、移动互联网设备(MID)、消息发送设备、数据通信设备、外围设备、扫描仪、打印机、多功能设备等中。
在各实施方式中,系统600包括耦合至显示器620的平台602。平台602可以从内容设备(如(多个)内容服务设备630或(多个)内容递送设备640或如图像传感器619等其他内容源)处接收内容。例如,平台602可以从图像传感器619或任何其他内容源处接收原始图像数据。包括一个或多个导航特征的导航控制器650可用于与例如平台602和/或显示器620交互。以下更详细地描述这些部件中的每一个部件。
在各实施方式中,平台602可以包括芯片组605、处理器610、存储器612、天线613、存储设备614、图形子系统615、应用616、图像信号处理器617和/或无线电618的任何组合。芯片组605可以提供处理器610、存储器612、存储设备614、图形子系统615、应用616、图像信号处理器617和/或无线电618之间的互通信。例如,芯片组605可以包括能够提供与存储设备614的互通信的存储适配器(未描绘)。
处理器610可以被实施为复杂指令集计算机(CISC)或精简指令集计算机(RISC)处理器、x86指令集兼容处理器、多核处理器、或任何其他微处理器或中央处理器单元(CPU)。在各实施方式中,处理器610可以是(多个)双核处理器、(多个)双核移动处理器等。
存储器612可以被实施为易失性存储设备,如但不限于随机存取存储器(RAM)、动态随机存取存储器(DRAM)、或静态RAM(SRAM)。
存储设备614可以被实施为非易失性存储设备,如但不限于磁盘驱动器、光盘驱动器、磁带驱动器、内部存储设备、附连存储设备、闪存、电池应急SDRAM(同步DRAM)、和/或可接入网络的存储设备。在各实施方式中,存储设备614可以包括用于当例如包括多个硬盘驱动器时增加对有价值的数字媒体的存储性能增强型保护的技术。
图像信号处理器617可以被实施为用于图像处理的专用数字信号处理器等。在一些示例中,可以基于单指令多数据或多指令多数据架构等实施图像信号处理器617。在一些示例中,图像信号处理器617可以被表征为媒体处理器。如本文中所讨论的,可以基于片上系统架构和/或基于多核架构实施图像信号处理器617。
图形子系统615可以执行对图像(如静止图像或视频)的处理用于显示。例如,图形子系统615可以是图形处理单元(GPU)、视觉处理单元(VPU)或图像处理单元。在一些示例中,图像子系统615可以执行如本文中所讨论的经扫描的图像绘制。可以使用模拟或数字接口将图形子系统615和显示器620通信地耦合。例如,所述接口可以是高清晰度多媒体接口、显示端口、无线HDMI和/或符合无线HD的技术中的任何接口。图形子系统615可以集成到处理器610或芯片组605中。在一些实施方式中,图形子系统615可以是通信地耦合至芯片组605的独立设备。
本文中所描述的图形和/或视频处理技术可以用各种硬件架构实施。例如,图形和/或视频功能可以集成到芯片组中。替代性地,可以使用分立图形和/或图像处理器和/或专用集成电路。如又另一种实施方式,图形和/或视频功能可以由通用处理器(包括多核处理器)来提供。在进一步实施例中,所述功能可以在消费电子设备中实施。
无线电618可以包括能够使用各种适合的无线通信技术发射并接收信号的一个或多个无线电。这种技术可以涉及跨一个或多个无线网络的通信。示例无线网络包括(但不限于)无线局域网(WLAN)、无线个域网(WPAN)、无线城域网(WMAN)、蜂窝网和卫星网。在跨这种网络进行通信时,无线电618可以根据任何版本中的一个或多个可适用标准进行操作。
在各实施方式中,显示器620可以包括任何平面板监测器或显示器。显示器620可包括例如计算机显示屏、触摸屏显示器、视频监视器、电视机型设备、和/或电视机。显示器620可以是数字的和/或模拟的。在各实施方式中,显示器620可以是全息显示器。而且,显示器620可以是可以接收视觉投影的透明表面。这种投影可以传达各种形式的信息、图像和/或物体。例如,这样的投影可以是移动增强现实(MAR)应用的视觉覆盖。在一个或多个软件应用616的控制下,平台602可以在显示器620上显示用户界面622。
在各实施方式中,(多个)内容服务设备630可以由任何国家的、国际的和/或独立的服务托管,并且因此例如经由互联网可接入平台602。(多个)内容服务设备630可以耦合至平台602和/或显示器620。平台602和/或(多个)内容服务设备630可以耦合至网络660以将媒体信息传送至网络660并且从所述网络传送(例如,发送和/或接收)。(多个)内容递送设备640也可以耦合至平台602和/或显示器620。
在各实施方式中,(多个)内容服务设备630可以包括有线电视盒、个人计算机、网络、电话、能够递送数字信息和/或内容的支持互联网的设备或电器、以及能够在内容提供方与平台602和/或显示器620之间经由网络660或直接地单向或双向传达内容的任何其他类似设备。应理解的是,内容可以经由网络660单向地和/或双向地来往于系统600中的任何一个部件与内容提供方之间进行通信。内容的示例可以包括任何媒体信息,包括例如视频、音乐、医疗和游戏信息等。
(多个)内容服务设备630可以接收如包括媒体信息、数字信息和/或其他内容的有线电视节目的内容。内容提供方的示例可以包括任何有线或卫星电视或无线电或互联网内容提供方。所提供的示例不旨在以任何方式限制根据本公开的实施方式。
图像传感器619可以包括可以基于场景提供原始图像数据的任何适合的图像传感器。例如,图像传感器619可以包括基于半导体电荷耦合设备(CCD)的传感器、基于互补金属氧化物半导体(CMOS)的传感器、基于N型金属氧化物半导体(NMOS)的传感器等。例如,图像传感器619可以包括可以检测场景的信息以便生成原始图像数据的任何设备。如所讨论的,在一些示例中,系统600可以包括多个图像传感器,所述图像传感器可以是相同或不同的。在一些示例中,图像传感器619可以提供图像采集处理,或者与图像传感器619相关联的逻辑(未示出)可以提供这种图像采集处理。在其他示例中,本文中所讨论的图像采集处理可以经由平台602执行。
在各实施方式中,平台602可以从具有一个或多个导航特征的导航控制器650处接收控制信号。例如,导航控制器650的导航特征可以用于与用户界面622进行交互。在各实施例中,导航控制器650可以是定位设备,所述定位设备可以是允许用户输入空间(例如,连续的和多维的)数据到计算机的计算机硬件部件(特别是人机接口设备)。如图形用户界面(GUI)、和电视机以及监视器等许多系统允许用户使用物理姿势来控制计算机或电视机并向计算机或电视机提供数据。
通过在显示器上显示的指针、光标、聚焦环或其他视觉指示符的移动可以使导航控制器650的导航特征的移动在显示器(例如,显示器620)上重复。例如,在软件应用616的控制下,位于导航控制器650上的导航特征可以映射到显示在用户界面622上的虚拟导航特征。在各实施例中,导航控制器650可以不是独立部件但可以集成在平台602和/或显示器620内。然而本公开并不限于在本文中所示出或所描述的元件或上下文中。
在各实施方式中,驱动器(未示出)可以包括使用户能够通过例如在初始引导后启动的按钮的触摸立刻打开和关闭类似电视机的平台602的技术。即使当平台被“关闭”时,程序逻辑也可以允许平台602将内容流传输到媒体适配器或其他(多个)内容服务设备630或(多个)内容递送设备640。此外,芯片组605可以包括支持例如5.1环绕声音频和/或高清7.1环绕声音频的硬件和/或软件。驱动器可以包括用于集成图形平台的图形驱动器。在各实施例中,图形驱动器可以包括外围部件互连(PCI)快速图形卡。
在各实施方式中,系统600中示出的部件中的任何一个或多个部件可以是集成的。例如,平台602和(多个)内容服务设备630可以是集成的,或者平台602和(多个)内容递送设备640可以是集成的,或者平台602、(多个)内容服务设备630和(多个)内容递送设备640可以例如是集成的。在各实施例中,平台602和显示器620可以是集成的单元。例如,显示器620和(多个)内容服务设备630可以是集成的,或者显示器620和(多个)内容递送设备640可以是集成的。这些示例并不意在限制本公开。
在各实施例中,系统600可以被实施为无线系统、有线系统、或二者的组合。当实施为无线系统时,系统600可以包括适合于通过无线共享介质(如一个或多个天线、发送器、接收器、收发器、放大器、过滤器、控制逻辑等)通信的部件和接口。无线共享介质的示例可以包括无线光谱部分,如RF光谱等。当被实施为有线系统时,系统600可以包括适用于通过有线通信介质(如输入/输出(I/O)适配器、将I/O适配器与相应有线通信介质连接的物理连接器、网络接口卡(NIC)、光盘控制器、视频控制器、音频控制器等)进行通信的部件和接口。有线通信介质的示例可以包括导线、线缆、金属引线、印刷电路板(PCB)、背板、交换光纤、半导体材料、双绞线、同轴线缆、光纤等。
平台602可以建立一个或多个逻辑或物理信道以传送信息。所述信息可以包括媒体信息和控制信息。媒体信息可以指表示针对用户的内容的任意数据。内容的示例可以包括例如,来自语音对话、视频会议、流媒体视频、电子邮件(“电子邮件(email)”)消息、语音邮件消息、字母数字符号、图形、图像、视频、文字等的数据。来自语音对话的数据可以是例如:语音信息、静默时间段、背景噪音、舒适噪音、声调等。控制信息可以指表示针对自动化系统的命令、指令或控制字的任何数据。例如,控制信息可以用于通过系统路由媒体信息、或者指示节点以预定方式处理所述媒体信息。然而,各实施例并不限于图6中所示出或描述的元素或上下文。
如上所述,系统600可以用变化的物理风格或形状因子来体现。图7展示了根据本公开的至少一些实施方式安排的示例小形状因子设备700。在一些示例中,系统600可以经由设备700实施。在一些示例中,设备100、设备200、系统500或系统600或其部分可以经由设备700实施。例如,在各实施例中,设备700可以被实施为具有无线能力的移动计算设备。例如,移动计算设备可以指具有处理系统和移动电源或电源(如一个或多个电池)的任何设备。
移动计算设备的示例可以包括个人计算机(PC)、膝上型计算机、超级膝上型计算机、平板计算机、触控板、便携式计算机、手持计算机、掌上型计算机、个人数字助理(PDA)、蜂窝电话、组合蜂窝电话/PDA、智能设备(例如智能电话、智能平板计算机或智能移动电视机)、移动互联网设备(MID)、消息发送设备、数据通信设备、相机等。
移动计算设备的示例也可包括布置成由人佩戴的计算机,例如手腕计算机、手指计算机、戒指计算机、眼镜计算机、皮带夹计算机、臂带计算机、鞋计算机、衣服计算机、以及其他可佩戴的计算机。在各实施例中,例如移动计算设备可以被实施为能够执行计算机应用、以及语音通信和/或数据通信的智能电话。虽然通过示例的方式,可以使用被实施为智能电话的移动计算设备描述一些实施例,但是可以认识到,也可以使用其他无线移动计算设备来实施其他实施例。实施例并不局限于此上下文中。
如图7中所示出的,设备700可以包括具有前面701和背面702的壳体。设备700包括显示器704、输入/输出(I/O)设备706、和集成天线708。设备700还可以包括导航特征712。I/O设备706可包括用于将信息输入到移动计算设备中的任何适合的I/O设备。I/O设备706的示例可以包括字母数字键盘、数字小键盘、触摸板、输入建、按钮、开关、麦克风、扬声器、话音识别设备和软件等。信息还可以借助于麦克风(未示出)被输入设备700中或者可以由话音识别设备数字化。如所示出的,设备700可以包括集成到设备700的背面702(或其他地方)的相机705(例如,包括镜头、光圈和成像传感器)和闪存710以及集成到设备700的前面701的相机715。相机705和闪存710和/或相机715可以是相机模块的部件,所述相机模块用于引起将图像数据处理成例如输出到显示器704和/或经由天线708与设备700远程通信的流媒体视频。例如,相机705可以包括图像传感器101,并且相机715可以包括图像传感器102。
可以使用硬件元件、软件元件、或两者的组合来实施各实施例。硬件元件的示例可以包括:处理器、微处理器、电路、电路元件(例如,晶体管、电阻器、电容器、电感器等等)、集成电路、专用集成电路(ASIC)、可编程逻辑器件(PLD)、数字信号处理器(DSP)、现场可编程门阵列(FPGA)、逻辑门、寄存器、半导体器件、芯片、微芯片、芯片组等等。软件的示例可以包括:软件部件、程序、应用、计算机程序、应用程序、系统程序、机器程序、操作系统软件、中间件、固件、软件模块、例程、子例程、函数、方法、过程、软件接口、应用程序接口(API)、指令集、计算代码、计算机代码、代码段、计算机代码段、字、值、符号、或其任意组合。判定是否使用硬件元件和/或软件元件来实现实施例可以根据任意数量的因子而变化,如预期的计算速率、功率电平、耐热性、处理周期预算、输入数据速率、输出数据速率、存储器资源、数据总线速度以及其他设计或性能约束。
可以由机器可读介质上所存储的表示性指令实施至少一个实施例的一个或多个方面,所述指令表示处理器内的各种逻辑,当被机器读取时所述指令使所述机器制作用于执行本文中所描述的技术的逻辑。此类表示(称为“IP核”)可以被存储在有形的机器可读介质上并提供给各顾客或制造设施以加载至实际制作所述逻辑或处理器的制作机器中。
虽然已经参照各实施方式描述了在此阐述的某些特征,但并不打算在限制性意义上解释本说明书。因此,本公开涉及的对本领域技术人员而言明显的对本文中所描述的实施方式以及其他实施方式的各种修改被视为是在本公开的精神和范围内。
在一个或多个第一实施例中,一种用于生成缩减的图像数据的方法,所述方法包括:基于与第一颜色空间中的输入图像数据相关联的照度指示符确定与所述输入图像数据相关联的自适应颜色转换系数;基于所述自适应颜色转换系数将所述输入图像数据转换成第二颜色空间中的经颜色转换的图像数据,其中,所述第二颜色空间是亮度色度分离的颜色空间;以及将与所述经颜色转换的图像数据相关联的缩减的经颜色转换的图像数据存储到输入图像缓冲器中。
进一步针对所述第一实施例,将所述输入图像数据转换成所述经颜色转换的图像数据包括线性转换操作。
进一步针对所述第一实施例,确定所述自适应颜色转换系数包括基于所述照度指示符访问查找表。
进一步针对所述第一实施例,所述方法进一步包括:从图像传感器接收采集图像数据;以及基于所述采集图像数据执行图像采集预处理,以便生成所述输入图像数据。
进一步针对所述第一实施例,所述方法进一步包括:从图像传感器接收采集图像数据;以及基于所述采集图像数据执行图像采集预处理,以便生成所述输入图像数据,并且所述图像采集预处理包括以下各项中的至少一项:对所述采集图像数据进行去马赛克、基于所述采集图像数据执行像素缺陷校正、或者基于所述采集图像数据执行阴影校正。
进一步针对所述第一实施例,所述方法进一步包括:从图像传感器接收采集图像数据;以及基于所述采集图像数据执行图像采集预处理,以便生成所述输入图像数据,并且/或者其中,所述图像采集预处理包括以下各项中的至少一项:对所述采集图像数据进行去马赛克、基于所述采集图像数据执行像素缺陷校正、或者基于所述采集图像数据执行阴影校正。
进一步针对所述第一实施例,所述方法进一步包括:缩减所述经颜色转换的图像数据以便生成所述缩减的经颜色转换的图像数据,其中,所述缩减包括对所述经颜色转换的图像数据的颜色通道进行的水平缩减或竖直缩减中的至少一项。
进一步针对所述第一实施例,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者。
进一步针对所述第一实施例,所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
进一步针对所述第一实施例,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者,并且/或者所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
进一步针对所述第一实施例,所述方法进一步包括:从所述输入图像缓冲器检索所述缩减的经颜色转换的图像数据;基于所述缩减的经颜色转换的图像数据执行去噪、锐化或色度更改中的至少一项,以便生成经处理的图像数据;以及将所述经处理的图像数据转换到线性红-绿-蓝(RGB)颜色空间。
进一步针对所述第一实施例,所述方法进一步包括:基于与第二输入图像数据相关联的第二照度指示符确定与所述第二输入图像数据相关联的第二自适应颜色转换系数,其中,所述图像数据来自第一图像传感器,并且所述第二输入图像数据来自第二图像传感器;基于所述第二自适应颜色转换系数将所述第二输入图像数据转换成所述第二颜色空间中的第二经颜色转换的图像数据;以及将与所述第二经颜色转换的图像数据相关联的第二缩减的经颜色转换的图像数据存储到所述输入图像缓冲器中。
在一个或多个第二实施例中,一种用于提供视频流水线的系统,所述系统包括:控制器,所述控制器用于基于与第一颜色空间中的输入图像数据相关联的照度指示符确定与所述输入图像数据相关联的自适应颜色转换系数;颜色转换模块,所述颜色转换模块用于基于所述自适应颜色转换系数将所述输入图像数据转换成第二颜色空间中的经颜色转换的图像数据,其中,所述第二颜色空间是亮度色度分离的颜色空间;以及输入图像缓冲器,所述输入图像缓冲器用于存储与所述经颜色转换的图像数据相关联的缩减的经颜色转换的图像数据。
进一步针对所述第二实施例,用于将所述输入图像数据转换成所述经颜色转换的图像数据包括用于执行线性转换操作的所述颜色转换模块。
进一步针对所述第二实施例,用于确定所述自适应颜色转换系数的所述控制器包括用于基于所述照度指示符访问查找表的所述控制器。
进一步针对所述第二实施例,所述系统进一步包括:图像传感器,所述图像传感器用于采集与图像场景相关联的图像数据;以及图像采集预处理模块,所述图像采集预处理模块用于:对所述采集图像数据进行去马赛克、基于所述采集图像数据执行像素缺陷校正、或者基于所述采集图像数据图像执行阴影校正,以便生成所述输入图像数据。
进一步针对所述第二实施例,所述系统进一步包括:缩减模块,所述缩减模块用于生成所述缩减的经颜色转换的图像数据,其中,所述缩减模块用于执行对所述经颜色转换的图像数据的颜色通道的水平缩减或竖直缩减中的至少一项。
进一步针对所述第二实施例,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者。
进一步针对所述第二实施例,所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
进一步针对所述第二实施例,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者,并且所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
进一步针对所述第二实施例,所述系统进一步包括:亮度色度分离的图像处理模块,所述亮度色度分离的图像处理模块用于从所述输入图像缓冲器接收所述缩减的经颜色转换的图像数据,并且用于对所述缩减的经颜色转换的图像数据进行去噪、锐化或色度更改,以便生成经处理的图像数据。
进一步针对所述第二实施例,所述系统进一步包括:第二颜色转换模块,所述第二颜色转换模块用于将所述经处理的图像数据转换到线性红-绿-蓝(RGB)颜色空间。
进一步针对所述第二实施例,所述系统进一步包括:第一图像传感器,所述第一图像传感器用于采集与图像场景相关联的第一图像数据;第一采集的图像预处理模块,所述第一采集的图像预处理模块用于生成所述输入图像数据;第二图像传感器,所述第二图像传感器用于采集与第二图像场景相关联的第二图像数据;以及第二采集的图像预处理模块,所述第二采集的图像预处理模块用于生成第二输入图像数据;并且,所述颜色转换模块用于基于第二自适应颜色转换系数将所述第二输入图像数据转换成所述第二颜色空间中的第二经颜色转换的图像数据,并且所述输入图像缓冲器用于存储与所述第二经颜色转换的图像数据相关联的第二缩减的经颜色转换的图像数据。
在一个或多个第三实施例中,一种用于提供视频流水线的系统,所述系统包括:用于基于与第一颜色空间中的输入图像数据相关联的照度指示符确定与所述输入图像数据相关联的自适应颜色转换系数的装置;用于基于所述自适应颜色转换系数将所述输入图像数据转换成第二颜色空间中的经颜色转换的图像数据的装置,其中,所述第二颜色空间是亮度色度分离的颜色空间;以及用于将与所述经颜色转换的图像数据相关联的缩减的经颜色转换的图像数据存储到输入图像缓冲器中的装置。
进一步针对所述第三实施例,用于将所述输入图像数据转换成所述经颜色转换的图像数据的所述装置包括用于执行线性转换操作的装置。
进一步针对所述第三实施例,用于确定所述自适应颜色转换系数的所述装置包括用于基于所述照度指示符访问查找表的装置。
进一步针对所述第三实施例,所述系统进一步包括:图像传感器,所述图像传感器用于采集与图像场景相关联的图像数据;以及用于基于所述采集图像数据执行图像采集预处理以便生成所述输入图像数据的装置。
进一步针对所述第三实施例,所述系统进一步包括:图像传感器,所述图像传感器用于采集与图像场景相关联的图像数据;以及用于基于所述采集图像数据执行图像采集预处理以便生成所述输入图像数据的装置,并且用于图像采集预处理的所述装置包括以下各项中的至少一项:用于对所述采集图像数据进行去马赛克的装置、用于基于所述采集图像数据执行像素缺陷校正的装置、或者用于基于所述采集图像数据执行阴影校正的装置。
进一步针对所述第三实施例,所述系统进一步包括:用于缩减所述经颜色转换的图像数据以便生成所述缩减的经颜色转换的图像数据的装置,其中,用于缩减的所述装置包括用于对所述经颜色转换的图像数据的颜色通道执行水平缩减的装置或执行竖直缩减的装置中的至少一者。
进一步针对所述第三实施例,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者。
进一步针对所述第三实施例,所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
进一步针对所述第三实施例,所述系统进一步包括:用于从所述输入图像缓冲器检索所述缩减的经颜色转换的图像数据的装置;用于基于所述缩减的经颜色转换的图像数据执行去噪、锐化或色度更改中的至少一项以便生成经处理的图像数据的装置;以及用于将所述经处理的图像数据转换到线性红-绿-蓝(RGB)颜色空间的装置。
进一步针对所述第三实施例,所述系统进一步包括:用于基于与第二输入图像数据相关联的第二照度指示符确定与所述第二输入图像数据相关联的第二自适应颜色转换系数的装置,其中,所述图像数据来自第一图像传感器,并且所述第二输入图像数据来自第二图像传感器;用于基于所述第二自适应颜色转换系数将所述第二输入图像数据转换成所述第二颜色空间中的第二经颜色转换的图像数据的装置;以及用于将与所述第二经颜色转换的图像数据相关联的第二缩减的经颜色转换的图像数据存储到所述输入图像缓冲器中的装置。
在一个或多个第四实施例中,至少一种机器可读介质,包括多条指令,所述指令响应于在设备上被执行而使所述设备通过以下各项生成缩减的图像数据:基于与第一颜色空间中的输入图像数据相关联的照度指示符确定与所述输入图像数据相关联的自适应颜色转换系数;基于所述自适应颜色转换系数将所述输入图像数据转换成第二颜色空间中的经颜色转换的图像数据,其中,所述第二颜色空间是亮度色度分离的颜色空间;以及将与所述经颜色转换的图像数据相关联的缩减的经颜色转换的图像数据存储到输入图像缓冲器中。
进一步针对所述第四实施例,将所述输入图像数据转换成所述经颜色转换的图像数据包括线性转换操作,并且生成所述自适应颜色转换系数包括基于所述照度指示符访问查找表。
进一步针对所述第四实施例,所述机器可读介质进一步包括指令,所述指令响应于在所述设备上被执行而使所述设备通过以下各项生成缩减的图像数据:从图像传感器接收采集图像数据;以及基于所述采集图像数据执行图像采集预处理,以便生成所述输入图像数据。
进一步针对所述第四实施例,所述机器可读介质进一步包括指令,所述指令响应于在所述设备上被执行而使所述设备通过以下各项生成缩减的图像数据:缩减所述经颜色转换的图像数据以便生成所述缩减的经颜色转换的图像数据,其中,所述缩减包括对所述经颜色转换的图像数据的颜色通道进行的水平缩减或竖直缩减中的至少一项。
进一步针对所述第四实施例,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者,并且所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
进一步针对所述第四实施例,所述机器可读指令进一步包括指令,所述指令响应于在所述设备上被执行而使所述设备通过以下各项生成缩减的图像数据:从所述输入图像缓冲器检索所述缩减的经颜色转换的图像数据;基于所述缩减的经颜色转换的图像数据执行去噪、锐化或色度更改中的至少一项,以便生成经处理的图像数据;以及将所述经处理的图像数据转换到线性红-绿-蓝(RGB)颜色空间。
在一个或多个第五实施例中,至少一种机器可读介质可以包括多条指令,所述指令响应于在计算设备上被执行而使所述计算设备执行根据以上实施例中的任一项所述的方法。
在一个或多个第六实施例中,一种装置可以包括:用于执行根据以上实施例中的任一项所述的方法的装置。
将认识到,这些实施例并不限于如此描述的这些实施例,而是可以在不背离所附权利要求书的范围的情况下通过修改和变更来实践。例如,以上实施例可以包括特征的特定组合。然而,以上实施例并不限于这个方面,并且在各实施方式中,以上实施例可以包括仅采取这类特征的子集、采取这类特征的不同顺序、采取这类特征的不同组合、和/或采取除了明确例举的那些特征之外的附加特征。因此,实施例的范围应当参考所附权利要求书、连同这样的权利要求书有权获得的等效物的全部范围来确定。

Claims (21)

1.一种用于生成缩减的图像数据的方法,所述方法包括:
基于与第一颜色空间中的输入图像数据相关联的照度指示符确定与所述输入图像数据相关联的自适应颜色转换系数;
基于所述自适应颜色转换系数将所述输入图像数据转换成第二颜色空间中的经颜色转换的图像数据,其中,所述第二颜色空间是亮度色度分离的颜色空间;
缩减所述经颜色转换的图像数据以便生成所述缩减的经颜色转换的图像数据,其中,所述缩减包括:对所述经颜色转换的图像数据的颜色通道进行的水平缩减或竖直缩减中的至少一项;以及
将与所述经颜色转换的图像数据相关联的缩减的经颜色转换的图像数据存储到输入图像缓冲器中。
2.如权利要求1所述的方法,其中,将所述输入图像数据转换成所述经颜色转换的图像数据包括线性转换操作。
3.如权利要求1所述的方法,其中,确定所述自适应颜色转换系数包括:基于所述照度指示符访问查找表。
4.如权利要求1所述的方法,进一步包括:
从图像传感器接收采集的图像数据;以及
基于所述采集的图像数据执行图像采集预处理,以便生成所述输入图像数据。
5.如权利要求4所述的方法,其中,所述图像采集预处理包括以下各项中的至少一项:对所述采集的图像数据进行去马赛克;基于所述采集的图像数据执行像素缺陷校正;或者基于所述采集的图像数据执行阴影校正。
6.如权利要求1所述的方法,其中,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者。
7.如权利要求1所述的方法,其中,所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
8.如权利要求1所述的方法,进一步包括:
从所述输入图像缓冲器检索所述缩减的经颜色转换的图像数据;
基于所述缩减的经颜色转换的图像数据执行去噪、锐化或色度更改中的至少一项,以便生成经处理的图像数据;以及
将所述经处理的图像数据转换到线性红-绿-蓝(RGB)颜色空间。
9.如权利要求1所述的方法,进一步包括:
基于与第二输入图像数据相关联的第二照度指示符确定与所述第二输入图像数据相关联的第二自适应颜色转换系数,其中,所述图像数据来自第一图像传感器,并且所述第二输入图像数据来自第二图像传感器;
基于所述第二自适应颜色转换系数将所述第二输入图像数据转换成所述第二颜色空间中的第二经颜色转换的图像数据;以及
将与所述第二经颜色转换的图像数据相关联的第二缩减的经颜色转换的图像数据存储到所述输入图像缓冲器中。
10.一种用于提供视频流水线的系统,所述系统包括:
控制器,所述控制器用于:基于与第一颜色空间中的输入图像数据相关联的照度指示符确定与所述输入图像数据相关联的自适应颜色转换系数;
颜色转换模块,所述颜色转换模块用于:基于所述自适应颜色转换系数将所述输入图像数据转换成第二颜色空间中的经颜色转换的图像数据,其中,所述第二颜色空间是亮度色度分离的颜色空间;
缩减模块,所述缩减模块用于:生成所述缩减的经颜色转换的图像数据,其中,所述缩减模块用于:执行对所述经颜色转换的图像数据的颜色通道的水平缩减或竖直缩减中的至少一项;以及
输入图像缓冲器,所述输入图像缓冲器用于:存储与所述经颜色转换的图像数据相关联的缩减的经颜色转换的图像数据。
11.如权利要求10所述的系统,其中,所述颜色转换模块用于将所述输入图像数据转换成所述经颜色转换的图像数据包括:所述颜色转换模块用于线性转换操作。
12.如权利要求10所述的系统,其中,所述控制器用于确定所述自适应颜色转换系数包括:所述控制器用于基于所述照度指示符访问查找表。
13.如权利要求10所述的系统,进一步包括:
图像传感器,所述图像传感器用于:采集与图像场景相关联的图像数据;以及
图像采集预处理模块,所述图像采集预处理模块用于执行以下操作来生成所述输入图像数据:对所采集的图像数据进行去马赛克;基于所采集的图像数据执行像素缺陷校正;或者基于所采集的图像数据图像执行阴影校正。
14.如权利要求10所述的系统,其中,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者。
15.如权利要求10所述的系统,其中,所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
16.如权利要求10所述的系统,其中,所述第一颜色空间包括红-绿-蓝(RGB)颜色空间或红-绿-蓝-白(RGBW)颜色空间中的至少一者,并且所述照度指示符包括白平衡参数或场景类型参数中的至少一者。
17.如权利要求10所述的系统,进一步包括:
亮度色度分离的图像处理模块,所述亮度色度分离的图像处理模块用于从所述输入图像缓冲器接收所述缩减的经颜色转换的图像数据,并且用于对所述缩减的经颜色转换的图像数据进行去噪、锐化或色度更改,以便生成经处理的图像数据。
18.如权利要求17所述的系统,进一步包括:
第二颜色转换模块,所述第二颜色转换模块用于将所述经处理的图像数据转换到线性红-绿-蓝(RGB)颜色空间。
19.如权利要求10所述的系统,进一步包括:
第一图像传感器,所述第一图像传感器用于采集与图像场景相关联的第一图像数据;
第一采集的图像预处理模块,所述第一采集的图像预处理模块用于生成所述输入图像数据;
第二图像传感器,所述第二图像传感器用于采集与第二图像场景相关联的第二图像数据;以及
第二采集的图像预处理模块,所述第二采集的图像预处理模块用于生成第二输入图像数据;
其中,所述颜色转换模块用于:基于第二自适应颜色转换系数将所述第二输入图像数据转换成所述第二颜色空间中的第二经颜色转换的图像数据,并且所述输入图像缓冲器用于:存储与所述第二经颜色转换的图像数据相关联的第二缩减的经颜色转换的图像数据。
20.至少一种机器可读介质,包括:
多条指令,所述多条指令响应于在设备上被执行而使所述设备执行如权利要求1-9中任一项所述的方法。
21.一种设备,包括:
用于执行如权利要求1-9中任一项所述的方法的装置。
CN201680012198.2A 2015-03-26 2016-02-17 用于自适应线性亮度域视频流水线架构的方法、系统、设备和介质 Active CN107431770B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/669,269 2015-03-26
US14/669,269 US9697796B2 (en) 2015-03-26 2015-03-26 Adaptive linear luma domain video pipeline architecture
PCT/US2016/018288 WO2016153638A1 (en) 2015-03-26 2016-02-17 Adaptive linear luma domain video pipeline architecture

Publications (2)

Publication Number Publication Date
CN107431770A CN107431770A (zh) 2017-12-01
CN107431770B true CN107431770B (zh) 2021-01-19

Family

ID=56974244

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680012198.2A Active CN107431770B (zh) 2015-03-26 2016-02-17 用于自适应线性亮度域视频流水线架构的方法、系统、设备和介质

Country Status (4)

Country Link
US (1) US9697796B2 (zh)
CN (1) CN107431770B (zh)
TW (1) TWI593275B (zh)
WO (1) WO2016153638A1 (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3465085B1 (en) 2016-06-06 2021-12-29 SZ DJI Osmo Technology Co., Ltd. Carrier-assisted tracking
US10638055B2 (en) * 2018-01-15 2020-04-28 Qualcomm Incorporated Aperture simulation
US11227435B2 (en) 2018-08-13 2022-01-18 Magic Leap, Inc. Cross reality system
CN109313608B (zh) * 2018-09-19 2023-05-02 深圳市汇顶科技股份有限公司 图像校验系数的读取方法、闪存控制器、系统及存储介质
JP2022512600A (ja) 2018-10-05 2022-02-07 マジック リープ, インコーポレイテッド 任意の場所における場所特有の仮想コンテンツのレンダリング
US11503310B2 (en) * 2018-10-31 2022-11-15 Ati Technologies Ulc Method and apparatus for an HDR hardware processor inline to hardware encoder and decoder
KR20200086429A (ko) 2019-01-09 2020-07-17 삼성전자주식회사 이미지 처리 프로세서, 이미지 처리 시스템 및 이미지 처리 프로세서의 동작 방법
US10990840B2 (en) * 2019-03-15 2021-04-27 Scenera, Inc. Configuring data pipelines with image understanding
WO2021076757A1 (en) * 2019-10-15 2021-04-22 Magic Leap, Inc. Cross reality system supporting multiple device types
EP4073763A4 (en) 2019-12-09 2023-12-27 Magic Leap, Inc. CROSS-REALLY SYSTEM WITH SIMPLIFIED PROGRAMMING OF VIRTUAL CONTENT
US11562525B2 (en) 2020-02-13 2023-01-24 Magic Leap, Inc. Cross reality system with map processing using multi-resolution frame descriptors
WO2022072261A1 (en) * 2020-09-30 2022-04-07 Snap Inc. Low power camera pipeline for computer vision mode in augmented reality eyewear
CN112203064B (zh) * 2020-09-30 2023-03-28 普联技术有限公司 一种不同照度颜色映射关系的构建方法及装置
CN115767287B (zh) * 2021-09-03 2023-10-27 荣耀终端有限公司 图像处理方法与电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1832583A (zh) * 2005-02-18 2006-09-13 三星电子株式会社 具有自动白平衡控制的设备、介质和方法
CN102404582A (zh) * 2010-09-01 2012-04-04 苹果公司 用于自动白平衡处理的灵活的颜色空间选择
CN102547301A (zh) * 2010-09-30 2012-07-04 苹果公司 使用图像信号处理器处理图像数据的系统和方法
CN103081468A (zh) * 2010-09-03 2013-05-01 杜比实验室特许公司 用于视频编码和处理的光照补偿和转变的方法及系统
CN103931169A (zh) * 2011-10-17 2014-07-16 刘世昌 一种通用的色域映射及色彩管理方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7158668B2 (en) * 2003-08-01 2007-01-02 Microsoft Corporation Image processing using linear light values and other image processing improvements
KR100648310B1 (ko) * 2004-09-24 2006-11-23 삼성전자주식회사 영상의 휘도 정보를 이용한 색변환장치 및 이를 구비하는디스플레이 장치
US9025867B2 (en) * 2012-05-31 2015-05-05 Apple Inc. Systems and methods for YCC image processing
US9332239B2 (en) * 2012-05-31 2016-05-03 Apple Inc. Systems and methods for RGB image processing

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1832583A (zh) * 2005-02-18 2006-09-13 三星电子株式会社 具有自动白平衡控制的设备、介质和方法
CN102404582A (zh) * 2010-09-01 2012-04-04 苹果公司 用于自动白平衡处理的灵活的颜色空间选择
CN103081468A (zh) * 2010-09-03 2013-05-01 杜比实验室特许公司 用于视频编码和处理的光照补偿和转变的方法及系统
CN102547301A (zh) * 2010-09-30 2012-07-04 苹果公司 使用图像信号处理器处理图像数据的系统和方法
CN103931169A (zh) * 2011-10-17 2014-07-16 刘世昌 一种通用的色域映射及色彩管理方法

Also Published As

Publication number Publication date
CN107431770A (zh) 2017-12-01
TWI593275B (zh) 2017-07-21
WO2016153638A1 (en) 2016-09-29
TW201703526A (zh) 2017-01-16
US20160284314A1 (en) 2016-09-29
US9697796B2 (en) 2017-07-04

Similar Documents

Publication Publication Date Title
CN107431770B (zh) 用于自适应线性亮度域视频流水线架构的方法、系统、设备和介质
CN108352059B (zh) 从高动态范围视频生成标准动态范围视频的方法和装置
US10885384B2 (en) Local tone mapping to reduce bit depth of input images to high-level computer vision tasks
US9582853B1 (en) Method and system of demosaicing bayer-type image data for image processing
CN109660782B (zh) 减少立体深度传感器成像中的纹理化ir图案
CN108885785B (zh) 用于时间噪声减少的运动自适应流处理
WO2018000126A1 (en) Method and system of multi-dynamic range multi-layer video blending with alpha channel sideband for video playback
US20200327702A1 (en) Video codec assisted real-time video enhancement using deep learning
US9659354B2 (en) Color matching for imaging systems
EP3195588A1 (en) Real time skin smoothing image enhancement filter
US11017511B2 (en) Method and system of haze reduction for image processing
US10924682B2 (en) Self-adaptive color based haze removal for video
US10127887B2 (en) Acceleration of color conversion
US9633416B1 (en) Adaptive control for denoise filtering
US20220358754A1 (en) Deep learning based distributed machine vision camera system
WO2022261849A1 (en) Method and system of automatic content-dependent image processing algorithm selection
US10484640B2 (en) Low power video composition using a stream out buffer
EP2939180A1 (en) Content aware video resizing
US20240129496A1 (en) Method and system of video coding with handling of illegal block partitions

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant