CN108076253A - 一种智能电子设备和图像处理单元、装置、方法 - Google Patents

一种智能电子设备和图像处理单元、装置、方法 Download PDF

Info

Publication number
CN108076253A
CN108076253A CN201611015062.5A CN201611015062A CN108076253A CN 108076253 A CN108076253 A CN 108076253A CN 201611015062 A CN201611015062 A CN 201611015062A CN 108076253 A CN108076253 A CN 108076253A
Authority
CN
China
Prior art keywords
unit
image
plug
processing unit
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201611015062.5A
Other languages
English (en)
Other versions
CN108076253B (zh
Inventor
张圣钦
简欢
韩江
赖永乐
林峥源
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuzhou Rockchip Electronics Co Ltd
Original Assignee
Fuzhou Rockchip Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuzhou Rockchip Electronics Co Ltd filed Critical Fuzhou Rockchip Electronics Co Ltd
Priority to CN201611015062.5A priority Critical patent/CN108076253B/zh
Priority to US15/716,472 priority patent/US10735646B2/en
Publication of CN108076253A publication Critical patent/CN108076253A/zh
Priority to US16/916,132 priority patent/US11323614B2/en
Application granted granted Critical
Publication of CN108076253B publication Critical patent/CN108076253B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种智能电子设备、图像处理单元、图像处理装置以及和图像处理方法,应用处理单元可以先将图像处理插件或控制插件发送至图像处理单元,图像处理单元通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据线接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。由于图像采集单元生成的第一图像是在图像处理单元进行优化处理,生成的第二图像在通过第一数据线传输至应用处理单元,有效减轻了应用处理单元在进行图像处理时的负担,提升了图像处理效率,提高了系统性能。

Description

一种智能电子设备和图像处理单元、装置、方法
技术领域
本发明涉及图像采集处理领域,特别涉及一种智能电子设备和图像处理单元、装置、方法。
背景技术
目前,智能电子设备通过配置有摄像头,摄像头在采集图像数据后,通常由AP(application process)来完成对图像的进一步处理,如HDR处理、WDR处理、图像降噪处理等。由于图像采集控制以及对采集的图像进一步优化处理都需要通过AP来完成,加重了AP负担,影响系统在图像处理时的效率,导致图像处理效率低下、系统性能下降等问题。
发明内容
为此,需要提供一种图像处理的技术方案,用以解决现有的智能设备在对图像进行处理时,由于图像采集控制以及对采集的图像进一步优化处理都需要通过AP来完成,导致图像处理效率低下、系统性能下降等问题。
发明人提供了一种智能电子设备,所述设备包括图像采集单元、图像处理单元和应用处理单元;
图像处理单元通过第一控制线和第一数据线与应用处理单元相连;
图像处理单元通过第二数据线与图像采集单元相连;
图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据线接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。
进一步地,所述图像处理单元包括数字信号处理器和缓存模块;
所述缓存模块用于存储接收到的图像处理插件;
所述数字信号处理器用于运行存储于缓存模块的图像处理插件。
进一步地,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。
进一步地,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。
进一步地,所述图像处理单元还通过第二控制线与图像采集单元连接,所述图像处理单元用于根据第一控制指令生成第二控制指令,所述第一控制指令和第二控制指令用于控制图像采集单元。
进一步地,所述“图像处理单元用于根据第一控制指令生成第二控制指令”包括:
图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。
进一步地,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。
进一步地,所述应用处理单元包括主控模块和数据存储模块;所述数据存储模块用于存储发送到图像处理单元的图像处理插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第三控制指令;
图像处理单元根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
进一步地,所述应用处理单元包括主控模块和插件存储模块,所述插件存储模块用于存储应用处理插件;
所述主控模块用于接收图像采集单元采集的第一图像,采用插件存储模块中的应用处理插件来处理第一图像并生成第二图像。
进一步地,所述第一数据线包括插件线和第一图像数据线;
图像处理单元通过插件线接收从应用处理单元发出的图像处理插件;
图像处理单元通过第一图像数据线将第二图像传输至应用处理单元。
发明人还提供了一种图像处理单元,包括第一控制接口,第一数据接口和第二数据接口;
第一控制接口和第一数据接口用于与一个应用处理单元沟通;
第二数据接口用于与一个图像采集单元沟通;
所述图像处理单元用于通过第一数据接口接收从应用处理单元发出的图像处理插件,并通过第一控制接口接收从应用处理单元发出的第一控制指令,并通过第二数据接口接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据接口发送到应用处理单元。
进一步地,所述图像处理单元包括数字信号处理器和缓存模块;
所述缓存模块用于存储接收到的图像处理插件;
所述数字信号处理器用于运行存储于缓存模块的图像处理插件。
进一步地,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。
进一步地,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。
进一步地,所述图像处理单元还包括第二控制接口,所述第二控制接口用于与一个图像采集单元沟通;所述图像处理单元用于根据第一控制指令生成第二控制指令,并通过第二控制接口发送第二控制指令来控制图像采集单元。
进一步地,所述“图像处理单元用于根据第一控制指令生成第二控制指令”包括:
图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。
进一步地,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。
进一步地,所述图像处理单元通过第一控制接口接收从应用处理单元发出的第三控制指令,并根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
进一步地,所述第一数据接口包括插件接口第一图像数据接口;所述图像处理单元通过插件接口接收从应用处理单元发出的图像处理插件,并通过第一图像数据接口将第二图像传输至应用处理单元。
发明人还提供了一种图像处理装置,所述装置包括图像处理单元和应用处理单元;所述图像处理单元包括第二数据接口;
图像处理单元通过第一控制线和第一数据线与应用处理单元相连;
图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据接口接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。
进一步地,所述图像处理单元包括数字信号处理器和缓存模块;
所述缓存模块用于存储接收到的图像处理插件;
所述数字信号处理器用于运行存储于缓存模块的图像处理插件。
进一步地,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。
进一步地,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。
进一步地,所述图像处理单元还包括第二控制接口,所述第二控制接口用于与一个图像采集单元沟通;所述图像处理单元用于根据第一控制指令生成第二控制指令,并通过第二控制接口发送第二控制指令来控制图像采集单元。
进一步地,所述“图像处理单元用于根据第一控制指令生成第二控制指令”包括:
图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。
进一步地,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。
进一步地,所述应用处理单元包括主控模块和数据存储模块;所述数据存储模块用于存储发送到图像处理单元的图像处理插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第三控制指令;
图像处理单元根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
进一步地,所述应用处理单元包括主控模块和插件存储模块,所述插件存储模块用于存储应用处理插件;
所述主控模块用于接收图像采集单元采集的第一图像,采用插件存储模块中的应用处理插件来处理第一图像并生成第二图像。
进一步地,所述第一数据线包括插件线和第一图像数据线;
图像处理单元通过插件线接收从应用处理单元发出的图像处理插件;
图像处理单元通过第一图像数据线将第二图像传输至应用处理单元。
发明人提供了一种图像处理方法,所述方法应用于智能电子设备,所述设备包括图像采集单元、图像处理单元和应用处理单元;
图像处理单元通过第一控制线和第一数据线与应用处理单元相连;
图像处理单元通过第二数据线与图像采集单元相连;
所述方法包括以下步骤:
图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据线接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。
进一步地,所述图像处理单元包括数字信号处理器和缓存模块;所述方法包括步骤:
缓存模块存储接收到的图像处理插件;
数字信号处理器运行存储于缓存模块的图像处理插件。
进一步地,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。
进一步地,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。
进一步地,所述图像处理单元还通过第二控制线与图像采集单元连接,所述方法包括步骤:
图像处理单元根据第一控制指令生成第二控制指令,所述第一控制指令和第二控制指令用于控制图像采集单元。
进一步地,所述“图像处理单元根据第一控制指令生成第二控制指令”包括:
图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。
进一步地,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。
进一步地,所述应用处理单元包括主控模块和数据存储模块;所述数据存储模块用于存储发送到图像处理单元的图像处理插件;所述方法包括步骤:
图像处理单元通过第一控制线接收从应用处理单元发出的第三控制指令,并根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
进一步地,所述应用处理单元包括主控模块和插件存储模块,所述插件存储模块用于存储应用处理插件;所述方法包括:
主控模块接收图像采集单元采集的第一图像,采用插件存储模块中的应用处理插件来处理第一图像并生成第二图像。
进一步地,所述第一数据线包括插件线和第一图像数据线;所述方法包括:
图像处理单元通过插件线接收从应用处理单元发出的图像处理插件;
图像处理单元通过第一图像数据线将第二图像传输至应用处理单元。
上述技术方案所述的智能电子设备、图像处理单元、图像处理装置以及和图像处理方法,应用处理单元可以先将图像处理插件发送至图像处理单元,通过控制图像处理单元来处理图像采集单元所传输的第一图像,图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件,并通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据线接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。由于图像采集单元生成的第一图像是在图像处理单元进行优化处理,生成的第二图像在通过第一数据线传输至应用处理单元,有效减轻了应用处理单元在进行图像处理时的负担,提升了图像处理效率,提高了系统性能。
附图说明
图1为本发明一实施方式涉及的智能电子设备的示意图;
图2-A为本发明另一实施方式涉及的智能电子设备的示意图;
图2-B为本发明另一实施方式涉及的智能电子设备的示意图;
图3为本发明一实施方式涉及的图像处理单元的示意图;
图4为本发明一实施方式涉及的图像处理装置的示意图;
图5为本发明一实施方式涉及的图像处理方法的流程图;
附图标记说明:
110、智能电子设备;
120、图像采集单元;
130、图像处理单元;131、数字信号处理器;133、缓存模块;
140、应用处理单元;141、主控模块;143、数据存储模块;145、插件存储模块;
160、图像处理装置;
151、第二控制线;152、第一控制线;153、第二数据线;154、第一数据线;155、插件线;
221、第二图像处理插件;223、第一图像处理插件;231、第一图像处理插件;233、应用处理插件;
241、第一运行操作;243、第二运行操作;245、第三运行操作;
321、第一控制接口;322、第一数据接口;323、第一控制接口;324、第二数据接口。
具体实施方式
为详细说明技术方案的技术内容、构造特征、所实现目的及效果,以下结合具体实施例并配合附图详予说明。
图1为本发明涉及的智能电子设备的实施例示意图。所述智能电子设备110可为智能手机、平板电脑、游戏机等任何具有拍照或摄像功能的电子设备。智能电子设备110可包括图像采集单元120、图像处理单元130、和应用处理单元140等各种硬件模块和电子元件。其中,图像采集单元120为具有采集图像/视频功能的电子元件,如照相头或摄像头。图像采集单元120可以接收外部控制指令,并根据外部控制指令来收集或设置图像采集参数,调整内部光学元件,并获取图像/视频。另外,图像采集单元120可以根据外部控制指令生成并输出相关的数据。
在一些实施例中,图像处理单元130为能够控制图像采集单元120,并处理控制指令和图像/视频数据的电子元件。具体来说,图像处理单元130有指令处理功能和数据处理功能。“指令处理功能”指处理用于控制图像采集单元120的控制指令,或者生成能够控制图像采集单元120的控制指令的能力;而“数据处理功能”指处理图像采集单元120生成的数据,或者生成与图像采集单元120生成的数据相关的数据的能力。应用处理单元140为能够控制图像采集单元120以及图像处理单元130的电子元件。应用处理单元140可为应用处理器(Application Processor,简称AP)、中央处理器(Central Processing Unit,简称CPU)、或者系统芯片(System on Chip,简称SoC)。在以下描述中,图像采集单元120简称为摄像头120,应用处理单元140简称为AP 140。
在一些实施例中,所述图像处理单130包括数字信号处理器131和缓存模块133。所述数字信号处理器131可为任何有数字信息处理功能的硬件模块,比如Digital SignalProcessor(简称DSP)。所述缓存模块133是为图像处理单元130提供各种数据存储的硬件存储模块(比如flash、RAM、ROM、Cache等)。所述AP 140包括主控模块141、数据存储模块143、和插件存储模块145,所述主控模块141可为任何具有计算处理能力的硬件模块(比如CPU、DSP等)。在一些实施例中,所述数据存储模块143是为AP 140提供各种数据存储的功能的硬件存储模块。所述插件存储模块145是用于存储各种插件的硬件存储模块。所述数据存储模块143与插件存储模块145可以用同一块或者多块硬件存储模块来实现。换句话说,数据存储模块143与插件存储模块145可以存在于同一存储模块中,或者存在于分开的存储模块中。为了便于区别,缓存模块133可称为“第一存储模块”;数据存储模块143可称为“第二存储模块”;插件存储模块145可称为“第三存储模块”。
在一些实施例中,图像处理单元130通过第一控制线152和第一数据线154与AP140相连;图像处理单元130通过第二控制线151和第二数据线153与摄像头120相连;AP140还可通过插件线155与图像处理单元130相连。“控制线”、“数据线”、或“插件线”为用于传送电子信息的电子连线。“控制线”指用于传送一个或多个用于控制摄像头120的控制指令的电子连线;“数据线”指用于传送一组或多组与摄像头120相关的数据的电子连线;而“插件线”指用于传送一组或多组插件的电子连线。
根据不同的需求,电子连线可以设计为单向或双向传输。在单向传输时,电子连线的一端连接一个处理单元的“发送接口”,另一端连接另外一个处理单元的“接收接口”。电子信息从一个处理单元的发送接口传送到电子连线的一端,再通过电子连线传送到与其另一端相连的另一个电子单元的接收接口。在双向传输时,根据电子信息的传送方向,与电子连线接收电子信息的一端相连的可视为发送接口,与电子连线发送电子信息的一端相连的可视为接收接口。在另外一些实施例中,多根电子连线可以组成一个控制线、数据线、或插件线,多根控制线、数据线、和插件线也可以共用同一根电子连线,一根电子连线也可以在一个时间段用作控制线,在另外一个时间段用作数据线或者插件线。附图中的数据线、控制线、或插件线用箭头来标识其信息传输的方向。
在一些实施例中,AP 140有一个用于发送各种控制指令的“指令发送接口”,和一个用于接收各种数据的“数据接收接口”。而摄像头120有一个用于接收各种控制指令“指令接收接口”,和一个用于发送各种数据的“数据发送接口”。因此,AP 140可以用一根控制线与一根数据线与摄像头120直接相连。这样,在没有图像处理单元130的参与下,AP 140经其指令发送接口发出的控制指令,可以通过该根控制线直接传送到摄像头120的指令接收接口,而摄像头120采集的图像信息数据也可以经其数据发送接口,通过该根数据线直接传输回AP 140的数据接收接口。
在一些实施例中,图像处理单元130可设置在摄像头120和AP 140之间,用于对AP140发出的控制指令和摄像头120采集的数据作出传递和优化的处理。具体来说,图像处理单元130有一个用于接收控制指令的“指令接收接口”,一个用于发送控制指令的“指令发送接口”,一个用于接收数据的“数据接收接口”,和一个用于发送数据的“数据发送接口”。第一控制线152连接AP 140的指令发送接口和图像处理单元130的指令接收接口;第二控制线151连接图像处理单元130的指令发送接口和摄像头120的指令接收接口;第二数据线153连接摄像头120的数据发送接口和图像处理单元130的数据接收接口;第一数据线154连接图像处理单元130的数据发送接口和AP 140的数据接收接口。
在一些实施例中,由AP 140生成的或发送出的控制指令,可称为“第一控制指令”,包括用于控制摄像头120的指令以及相关的各种采集参数,也包括用于控制图像处理单元130的指令以及相关的各种信息。从图像处理单元130发出的控制指令可以视为“第二控制指令”,包括用于控制摄像头120的指令以及相关的各种采集参数。换句话说,第二控制指令可以是根据第一控制指令生成的。第二控制指令也可以包括部分或者全部第一控制指令,包括根据第一控制指令而生成的指令,包括与第一控制指令无关的指令,或者上述几种指令的各种组合。比如,图像处理单元130可以对第一控制指令进行重复、拷贝、添加、修改、替换、删除等各种操作而生成第二控制指令,也可以不根据第一控制指令而单独生成第二控制指令。
在一些实施例中,由摄像头120生成的或发送出的数据,可称为“第一数据”,包括其采集的图像以及与这些图像相关的各种采集参数。而从图像处理单元130发出的“第二数据”,则包括与摄像头120提供的第一数据相关的数据,也可以包括图像处理单元130自我生成的数据。换句话说,第二数据可以是根据第一数据而生成的。比如,图像处理单元130可以对第一数据进行重复、添加、修改、替换、删除等操作而生成第二数据。第二数据也可以与第一数据无关,即图像处理单元130不根据第一数据,而独立自我生成第二数据。在一些实施例中,第一数据包括一帧或多帧的图像(“第一图像”),图像处理单元130对这些图像进行优化处理后,生成的第二数据也为一帧或者多帧的图像(“第二图像”)。图像处理单元130对第一图像进行的优化包括:平移、旋转、合并、分割、去噪声等操作。优选的,第一图像和第二图像为同一格式。
在一些实施例中,图像处理单元130通过第一控制线152接收从AP 140发出的第一控制指令,根据第一控制指令生成第二控制指令,再通过第二控制线151将第二控制指令发送给摄像头120,该第一控制指令或第二控制指令可用于控制摄像头120。比如,第一控制指令或第二控制指令可以用于调节摄像头120的光圈大小、快门时间和增益、曝光参数、ISO设置、白平衡,可以用于调节摄像头120所要采集的图像的大小、帧率,也可以用于控制摄像头120采集图像。之后,摄像头120根据接收到的第一控制指令或者第二控制指令,操控其内部摄像结构并产生第一数据(包括,摄像头120的各种参数、采集的图像以及图像参数),并将第一数据通过第二数据线153传送给图像处理单元130。图像处理单元130根据第一数据生成第二数据后,再通过第一数据线154将第二数据发送给AP 140。AP 140从第一数据线154收到的第二数据,可作为对从第一控制线152发出的第一控制指令的直接回复。
在一些实施例中,图像处理单元130的指令处理功能和数据处理功能是通过AP140提供的,通过数字信号处理器131执行/运行的一个或多个插件来实现的。所述“插件”指可存储在缓存模块133或插件存储模块145中,以软件或者硬件形式存在的指令、代码、或程序。比如,相较于用AP140接收并处理第二数据而言,图像处理单元130可以通过运行“图像处理插件”来处理从摄像头120接收的第一数据,再将生成的第二数据发送至AP140。这样的做法有效减轻了AP140在进行数据处理时负担,提高了图像处理效率,优化了系统性能。在另一些实施例中,插件可以设计为图像处理单元130中的一个或者多个硬件模块,来实现相似的功能。
在一些实施例中,AP 140有一个用于发送一个或多个插件的“插件发送接口”;而图像处理单元130有一个用于接收一个或者多个插件“插件接收接口”。AP140与图像处理单元130通过一根插件线155相连。这样,AP 140经其插件发送接口发出的插件,可以通过该根插件线155,直接传送到图像处理单元130的插件接收接口。之后,AP140可以通过第一控制线152传送与插件相关的第三控制指令给图像处理单元130,来对插件进行各种操作。与插件相关的“第三控制指令”包括以下指令中的一项或多项:接收插件、初始化插件、运行插件等。根据接收到的“接收插件”的第三控制指令,图像处理单元130可以通过插件线155从AP140来接收相关的插件。根据接收到的“初始化插件”的第三控制指令,图像处理单元130可以将自己和接收到的插件初始化。根据接收到的“运行插件”的第三控制指令,图像处理单元130运行插件。
在一些实施例中,各种插件可以预先存储在AP 140的插件存储模块145中,再通过一个“插件上载操作”,传送给图像处理单元130并存储在其缓存模块133。比如,智能电子设备110在启动时,可以发送一个启动指令给AP 140。AP 140在接收到该启动指令后,开始实施该插件上载操作。在插件上载操作中,AP 140先通过第一控制线152发送一个“接收插件”的第三控制指令给图像处理单元130.。之后,AP140通过一根插件线155,将插件存储模块145中的一个或多个插件传送给图像处理单元130,并由其存储在自己的缓存模块133中以便调用。当图像处理单元130或者智能电子设备110断电后,存储与缓存模块133中的各种插件可以被清除。相较于将插件固化于图像处理单元130中的智能电子设备110而言,上述即时传送插件的方案可以有效减少图像处理单元130的硬件面积,节约硬件成本。另外,在智能电子设备110的正常运行中,AP 140可以实施上述插件上载操作,来随时替换或者更改插件。
在一些实施例中,根据从AP140接收到一个“初始化插件”的第三控制指令,数字信号处理器131从缓存模块133中提取出这些插件,并根据这些插件对图像处理单元130进行初始化操作。在另外一些实施例中,数字信号处理器131不需要根据“初始化插件”的第三控制指令,而自行进行初始化操作。之后,根据从AP140接收到一个“运行插件”的第三控制指令,数字信号处理器131从缓存模块133中提取出相关插件,通过对插件的运行/执行,来实现插件所包含的逻辑和功能。
在一些实施例中,AP140传送给图像处理单元130的插件包括:摄像头控制插件、图像处理插件、应用处理插件等。“摄像头控制插件”是一个具有对摄像头120实施控制功能的插件程序。“图像处理插件”是一个具有对摄像头120采集的图像实施优化处理功能的插件程序。而“应用处理插件”是一个可提供图像处理单元130本身功能的插件程序。图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。在另外一些实施例中,图像处理插件还包括自动曝光插件、自动白平衡插件和自动对焦插件等。
在一些实施例中,数字信号处理器131通过运行摄像头控制插件,来生成摄像头120采集图像时所需的采集参数,并将这些采集参数以第二控制指令的形式传送给摄像头120。数字信号处理器131通过运行图像处理插件,来根据摄像头120采集的图像生成优化图像,并将优化图像以第二数据的形式传送给AP 140。采用数字信号处理器131来运行图像处理插件,可以有效加快对第一图像的处理速度,提升图像处理效率。数字信号处理器131还可以通过运行应用处理插件,来实现图像处理单元130本身需要的各种功能。因此,图像处理单元130根据第一控制指令生成第二控制指令,包括图像处理单元130采用摄像头控制插件来处理第一控制指令并生成第二控制指令。该第二控制指令可以对摄像头120进行控制,比如调节其采集参数等。相似地,图像处理单元130根据第一数据生成第二数据,包括图像处理单元130采用图像处理插件对第一数据进行优化处理并生成第二数据。
在一些实施例中,摄像头控制插件、图像处理插件、和应用处理插件可以由图像采集单元130或AP 140来运行。就是说,不但图像处理单元130的数字信号处理器131可以运行这些插件,AP 140的主控模块141同样也可以运行这些插件。在一些特定的情况下,像图像处理单元130发生损坏或者满载运行时,AP 140可以通过运行这些插件,来代替图像处理单元130的一些功能并减轻其负担。比如说,AP 140通过自己的主控模块141运行摄像头控制插件来处理第一控制指令并生成第二控制指令。之后,AP 140将第二控制指令传送给图像处理单元130,并指挥图像处理单元130对第二控制指令不作任何处理直接传输给摄像头120。相似地,AP 140要求图像处理单元130对从摄像头120获取的第一数据不经处理而直接传送给AP 140。AP 140再通过自己的主控模块141运行图像处理插件,处理第一数据并生成第二数据,并利用自己的数据存储模块143来存储第二数据。
在一些实施例中,AP140的插件存储模块145包括应用处理插件233,用于实现AP140自己的一些应用处理功能。比如,图像处理单元130可以通过第一数据线155传送一些与摄像头120相关的统计信息,AP140可以采用插件存储模块145中的应用处理插件233来处理这些统计信息。具体来说,AP140可以采用其主控模块141来运行应用处理插件233,用于从接收到的第二图像中获取统计信息,包括第二图像的锐利度、整体灰度水平、色彩空间位置等。
图2-A为本发明涉及的智能电子设备的架构的插件上载操作的一些实施例。图2-A中的模块和电子线路,与图1中同样命名或标号的模块和电子线路相对应。在图2-A中,AP140包括主控模块141、数据存储模块143、和插件存储模块145;图像处理单元130包括数字信号处理器131和缓存模块133。图像处理单元130通过第一控制线152和第一数据线154与AP 140相连;图像处理单元130通过第二控制线151和第二数据线153与摄像头120相连。AP140还通过一根插件线155与图像处理单元130相连。
如图2-A所示,在AP140的插件存储模块145中,存储着第一图像处理插件231和应用处理插件233。在图像处理单元130的缓存模块133中,存储着第二图像处理插件221。在一些实施例中,AP140可以通过实施一个插件上载操作来将图像处理插件传送给图像处理单元130。具体来说,AP140通过第一控制线211发送一个“接收插件”的第三控制指令至图像处理单元130。之后,AP140将原来存储于插件存储模块145中的第一图像处理插件231,通过插件线155发送至图像处理单元130。图像处理单元130根据之前收到的接收插件第三控制指令,通过插件线155接收插件231,并将接收到的第一图像处理插件231存储于缓存模块133中,即图2-A中的第一图像处理插件223(插件231和插件223可视为第一插件)。相似的,缓存模块133中已经存在的第二图像处理插件221(可视为第二插件),也为通过插件线155接收并存储在缓存模块133的插件。在传送结束后,AP140可以将第一图像处理插件231从其插件存储模块145中清除,只剩应用处理插件233(可视为第三插件)在插件存储模块145中。
在一些实施例中,AP140可以在初始化的过程中完成上述的插件上载操作,也可以在正常运行时接收到一个启动指令后,实施上述的插件上载操作。所述启动指令可以是启动摄像头120的指令,也可以是启动图像处理单元130的指令等。比如,AP140在初始化的过程中上载应用处理插件,用于提供图像处理单元130内部运行所需的逻辑功能。当智能电子设备要调用摄像头120时,就可以传送一个启动指令给AP140,让AP140动态地上载摄像头控制插件到图像处理单元130,用于提供图像处理单元130操控摄像头120所需的逻辑功能,或者上载图像处理插件,用于提供图像处理单元130处理第一数据生成第二数据的逻辑功能。
图2-B为本发明涉及的智能电子设备的架构的插件运行操作的一些实施例。图2-B中的模块和电子线路,与图1中同样命名或标号的模块和电子线路相对应。在图2-B中,AP140包括主控模块141、数据存储模块143、和插件存储模块145;图像处理单元130包括数字信号处理器131和缓存模块133。图像处理单元130通过第一控制线152和第一数据线154与AP 140相连;图像处理单元130通过第二控制线151和第二数据线153与摄像头120相连。AP140还通过一根插件线155与图像处理单元130相连。
在图2-B中,图像处理单元130可以运用其DSP131来运行在缓存模块133中的第二图像处理插件221。AP140可以运用其主控模块141来运行在插件存储模块145中的应用处理插件233。另外,图像处理单元130和AP140可以共同运行在缓存模块133中的第一图像处理插件223。图像处理单元130通过第二数据线153接收到摄像头120采集的第一图像后,其数字信号处理器131可以执行第一运行操作241,来运行缓存模块133中的第二图像处理插件221。在执行第一运行操作241时,数字信号处理器131自行从缓存模块133中读取第二图像处理插件221,并通过运行第二图像处理插件221中的指令、代码、和程序,来对第一图像优化处理并生成第二图像。
在一些实施例中,AP140可以执行第二运行操作243,通过控制图像处理单元130来运行在缓存模块133中的第一图像处理插件223。在执行第二运行操作243时,AP140可以先通过第一控制线211发送一个“运行插件”的第三控制指令至图像处理单元130。该第三控制指令指明采用第一图像处理插件223来处理第一图像。根据该第三控制指令,数字信号处理器131自行从缓存模块133中读取第一图像处理插件223,并通过运行第一图像处理插件223中的指令、代码、和程序,来处理第一图像。在另外一些实施例中,缓存模块133中储存有多个第一图像处理插件223(比如,调整曝光度图像处理插件,调整聚焦图像处理插件,调整对比度图像处理插件等)。AP140可以发送一个“运行插件”的第三控制指令至图像处理单元130,要求图像处理单元130选择其中的一个或者多个第一图像处理插件223,来优化处理第一图像。数字信号处理器131根据该第三控制指令,从缓存模块133中读取相应的第一图像处理插件223,并通过运行这些第一图像处理插件223来处理第一图像。具体来说,数字信号处理器131可以依次运行这些第一图像处理插件223,来对第一图像进行多轮的处理。
在一些实施例中,AP140的主控模块141也可以通过执行第三运行操作245,运行在自身的插件存储模块145中的应用处理插件233,来完成对所接收到的第二图像的处理。比如,图像处理单元130将优化处理第一图像而生成的第二图像,通过第一数据线154传送到AP140。在执行第三运行操作245时,AP140自行从插件存储模块145中读取应用处理插件233,并用其主控模块141来运行应用处理插件233中的指令、代码、和程序,并处理第二图像。
在一些实施例中,AP140可以设计一个同时运用图像处理单元130和AP140的“图像处理流程”。比如,该图像处理流程包括利用第二图像处理插件221来进行色彩优化处理,利用第一图像处理插件223来进行降噪处理,和利用应用处理插件233来进行剪辑处理。在这种情况下,图像处理单元130可以先用其DSP131来运行第二图像处理插件221,对第一图像进行色彩优化处理。之后,图像处理单元130可以通过第一数据线154传送一个处理结果给AP140。根据接收到的处理结果,AP140可以发送一个“运行插件”的第三控制指令至图像处理单元130,要求图像处理单元130选择第一图像处理插件223,来对已经被色彩优化后的第一图像进行进一步的处理。数字信号处理器131根据该第三控制指令,运行第一图像处理插件223对第一图像进行降噪处理,然后将降噪后的生成的第二图像通过第一数据线154传送给AP140。最后,AP140通过其主控模块141运行应用处理插件233,来完成对所接收到的第二图像的剪辑处理。
图3为本发明另一实施方式涉及的图像处理单元的示意图。所示图像处理单元130包括第一控制接口321,第一数据接口322和第二数据接口324。第一控制接口321和第一数据接口322用于与一个应用处理单元沟通;第二数据接口324用于与一个图像采集单元沟通。所述图像处理单元130用于通过第一数据接口322接收从应用处理单元发出的图像处理插件,并通过第一控制接口321接收从应用处理单元发出的第一控制指令,并通过第二数据接口324接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据接口322发送到应用处理单元。
在本实施方式中,所述图像处理单元130包括数字信号处理器131和缓存模块133。所述缓存模块133用于存储接收到的图像处理插件;所述数字信号处理器131用于运行存储于缓存模块的图像处理插件。当图像处理单元接收到应用处理单元发送的图像处理插件后,会将所接收的图像处理插件缓存于缓存模块中;当图像处理单元接收图像采集单元发送的第一图像后,数字信号处理器将运行存储于缓存模块的图像处理插件,对第一图像进行优化生成第二图像,并将生成的第二图像通过第一数据线发送至应用处理单元。采用数字信号处理器来运行图像处理插件,可以有效加快对第一图像的处理速度,提升图像处理效率。
在本实施方式中,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。所述“接收图像处理插件”为使图像处理单元接收图像处理插件的指令,所述“初始化图像处理插件”为使图像处理单元初始化图像处理插件的指令,所述“运行图像处理插件”为使图像处理单元运行图像处理插件的指令。应用处理单元可以依次发送接收图像处理插件、初始化图像处理插件、运行图像处理插件至图像处理单元,让图像处理单元接收、初始化、运行图像插件,完成对第一图像的优化。
在本实施方式中,所述图像处理单元还包括第二控制接口323,所述第二控制接口323用于与一个图像采集单元沟通;所述图像处理单元用于根据第一控制指令生成第二控制指令,并通过第二控制接口发送第二控制指令来控制图像采集单元。所述“图像处理单元用于根据第一控制指令生成第二控制指令”包括:图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。图像处理单元除了可以通过接收应用处理单元发送的图像处理插件,对第一图像进行优化处理之外,还可以通过接收应用处理单元发送的控制插件,来实现对图像采集单元的控制,如调节图像采集单元的采集参数等。图像采集单元通过接收第一控制指令生成第二控制指令来对图像采集单元进行控制,对于图像采集而言,可以进一步减轻应用处理单元的负担,提高图像采集效率。
在本实施方式中,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。所述“接收控制插件”为使图像处理单元接收控制插件的指令,所述“初始化控制插件”为使图像处理单元初始化控制插件的指令,所述“运行控制插件”为使图像处理单元运行控制插件的指令。应用处理单元可以依次发送接收控制插件、初始化控制插件、运行控制插件至图像处理单元,让图像处理单元接收、初始化、运行控制,完成对图像采集单元的控制,图像采集单元将按照第二控制指令所包括的采集参数进行采集图像。
在本实施方式中,所述图像处理单元通过第一控制接口接收从应用处理单元发出的第三控制指令,并根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
第一数据接口作为传输数据的接口,可以为一个,也可以包括多个子接口。在本实施方式中,所述第一数据接口包括插件接口第一图像数据接口;所述图像处理单元通过插件接口接收从应用处理单元发出的图像处理插件,并通过第一图像数据接口将第二图像传输至应用处理单元。这样,插件接口只负责接收应用处理单元传输的图像处理插件,第一图像数据接口用来传输第二图像至应用处理单元,两者相互独立,有效提高数据传输的效率。
如图4所示,发明人提供了一种图像处理装置160,所述装置包括图像处理单元130和应用处理单元140;所述图像处理单元130包括第二数据接口323;图像处理单元130通过第一控制线152和第一数据线154与应用处理单元140相连。图像处理单元130通过第一数据线154接收从应用处理单元130发出的图像处理插件或控制插件;图像处理单元130通过第一控制线152接收从应用处理单元140发出的第一控制指令,并通过第二数据接口324接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线154传输到应用处理单元。
在本实施方式中,所述图像处理单元130包括数字信号处理器131和缓存模块133。所述缓存模块133用于存储接收到的图像处理插件;所述数字信号处理器131用于运行存储于缓存模块的图像处理插件。当图像处理单元130接收到应用处理单元140发送的图像处理插件后,会将所接收的图像处理插件缓存于缓存模块133中;当图像处理单元130接收图像采集单元发送的第一图像后,数字信号处理器131将运行存储于缓存模块133的图像处理插件,对第一图像进行优化生成第二图像,并将生成的第二图像通过第一数据线154发送至应用处理单元140。采用数字信号处理器131来运行图像处理插件,可以有效加快对第一图像的处理速度,提升图像处理效率。
在本实施方式中,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。所述“接收图像处理插件”为使图像处理单元接收图像处理插件的指令,所述“初始化图像处理插件”为使图像处理单元初始化图像处理插件的指令,所述“运行图像处理插件”为使图像处理单元运行图像处理插件的指令。应用处理单元可以依次发送接收图像处理插件、初始化图像处理插件、运行图像处理插件至图像处理单元,让图像处理单元接收、初始化、运行图像插件,完成对第一图像的优化。
在本实施方式中,所述图像处理单元130还包括第二控制接口323,所述第二控制接口323用于与一个图像采集单元沟通;所述图像处理单元130用于根据第一控制指令生成第二控制指令,并通过第二控制接口发送第二控制指令来控制图像采集单元。所述“图像处理单元用于根据第一控制指令生成第二控制指令”包括:图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。图像处理单元除了可以通过接收应用处理单元发送的图像处理插件,对第一图像进行优化处理之外,还可以通过接收应用处理单元发送的控制插件,来实现对图像采集单元的控制,如调节图像采集单元的采集参数等。图像采集单元通过接收第一控制指令生成第二控制指令来对图像采集单元进行控制,对于图像采集而言,可以进一步减轻应用处理单元的负担,提高图像采集效率。
在本实施方式中,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。所述“接收控制插件”为使图像处理单元接收控制插件的指令,所述“初始化控制插件”为使图像处理单元初始化控制插件的指令,所述“运行控制插件”为使图像处理单元运行控制插件的指令。应用处理单元可以依次发送接收控制插件、初始化控制插件、运行控制插件至图像处理单元,让图像处理单元接收、初始化、运行控制,完成对图像采集单元的控制,图像采集单元将按照第二控制指令所包括的采集参数进行采集图像。
在本实施方式中,所述AP140包括主控模块141和第二数据数据存储模块143;所述第二数据数据存储模块143用于存储发送到图像处理单元的图像处理插件。图像处理单元通过第一控制线接收从应用处理单元发出的第三控制指令;图像处理单元根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
在本实施方式中,所述应用处理单元包括主控模块141和插件存储模块145,所述插件存储模块145用于存储应用处理插件。所述主控模块141用于接收图像采集单元采集的第一图像,采用插件存储模块145中的应用处理插件来处理第一图像并生成第二图像。应用处理单元的处理器可以通过运行应用处理插件直接对图像采集单元所采集的第一图像进行优化处理。这样,即使当图像处理单元发生损坏,无法对图像采集单元的第一图像进行优化生成第二图像时,应用处理单元也可以通过运行应用处理插件来对图像采集单元所采集的第一图像进行优化生成第二图像,保证图像处理的正常进行,有效提高了系统的安全性。
第一数据线作为传输数据的线路,可以为一个,也可以包括多个。在本实施方式中,所述第一数据线包括插件线和第一图像数据线,图像处理单元通过插件线接收从应用处理单元发出的图像处理插件,图像处理单元通过第一图像数据线将第二图像传输至应用处理单元。这样,插件线只负责接收应用处理单元传输的图像处理插件,第一图像数据线用来传输第二图像至应用处理单元,两者相互独立,有利于提高数据传输的效率。
如图5所示,发明人还提供了一种图像处理方法,所述方法应用于智能电子设备,所述智能电子设备包括图像采集单元、图像处理单元和应用处理单元。图像采集单元为具有图像采集功能的电子元件,如摄像头;图像处理单元为具有对图像采集单元进行控制的电子元件,如包含有数字信号处理器的芯片等;应用处理单元为具体对图像采集单元以及图像处理单元进行控制的电子元件,如AP。图像处理单元通过第一控制线和第一数据线与应用处理单元相连;图像处理单元通过第二数据线与图像采集单元相连。所述方法包括以下步骤:
首先进入步骤S501图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件,而后进入步骤S502图像处理单元通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据线接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。在本实施方式中,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。相较于原有应用处理单元直接接收并处理图像采集单元发送的第一图像架构而言,本发明中图像处理单元可以通过运行图像处理插件来处理从图像采集单元接收的第一图像,并将生成的第二图像发送至应用处理单元,有效减轻了应用处理单元在进行图像处理时负担,提高了图像处理效率,优化了系统性能。
在本实施方式中,所述图像处理单元包括数字信号处理器和缓存模块133。所述方法包括:缓存模块存储接收到的图像处理插件;数字信号处理器运行存储于缓存模块的图像处理插件。当图像处理单元接收到应用处理单元发送的图像处理插件后,会将所接收的图像处理插件缓存于缓存模块中;当图像处理单元接收图像采集单元发送的第一图像后,数字信号处理器将运行存储于缓存模块的图像处理插件,对第一图像进行优化生成第二图像,并将生成的第二图像通过第一数据线发送至应用处理单元。采用数字信号处理器来运行图像处理插件,可以有效加快对第一图像的处理速度,提升图像处理效率。
在本实施方式中,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。所述“接收图像处理插件”为使图像处理单元接收图像处理插件的指令,所述“初始化图像处理插件”为使图像处理单元初始化图像处理插件的指令,所述“运行图像处理插件”为使图像处理单元运行图像处理插件的指令。应用处理单元可以依次发送接收图像处理插件、初始化图像处理插件、运行图像处理插件至图像处理单元,让图像处理单元接收、初始化、运行图像插件,完成对第一图像的优化。
在本实施方式中,所述图像处理单元还通过第二控制线与图像采集单元连接,所述方法包括:图像处理单元根据第一控制指令生成第二控制指令,所述第一控制指令和第二控制指令用于控制图像采集单元。所述“图像处理单元根据第一控制指令生成第二控制指令”包括:图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。图像处理单元除了可以通过接收应用处理单元发送的图像处理插件,对第一图像进行优化处理之外,还可以通过接收应用处理单元发送的控制插件,来实现对图像采集单元的控制,如调节图像采集单元的采集参数等。图像采集单元通过接收第一控制指令生成第二控制指令来对图像采集单元进行控制,对于图像采集而言,可以进一步减轻应用处理单元的负担,提高图像采集效率。
在本实施方式中,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。所述“接收控制插件”为使图像处理单元接收控制插件的指令,所述“初始化控制插件”为使图像处理单元初始化控制插件的指令,所述“运行控制插件”为使图像处理单元运行控制插件的指令。应用处理单元可以依次发送接收控制插件、初始化控制插件、运行控制插件至图像处理单元,让图像处理单元接收、初始化、运行控制,完成对图像采集单元的控制,图像采集单元将按照第二控制指令所包括的采集参数进行采集图像。
在本实施方式中,所述应用处理单元包括主控模块和插件存储模块,所述插件存储模块用于存储应用处理插件。所述方法包括:主控模块接收图像采集单元采集的第一图像,采用插件存储模块中的应用处理插件来处理第一图像并生成第二图像。应用处理单元的主控模块可以通过运行应用处理插件直接对图像采集单元所采集的第一图像进行优化处理。这样,即使当图像处理单元发生损坏,无法对图像采集单元的第一图像进行优化生成第二图像时,应用处理单元也可以通过运行应用处理插件来对图像采集单元所采集的第一图像进行优化生成第二图像,保证图像处理的正常进行,有效提高了系统的安全性。
上述技术方案所述的智能电子设备、图像处理单元、图像处理装置以及和图像处理方法,应用处理单元可以先将图像处理插件发送至图像处理单元,通过控制图像处理单元来处理图像采集单元所传输的第一图像,图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件,并通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据线接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。由于图像采集单元生成的第一图像是在图像处理单元进行优化处理,生成的第二图像在通过第一数据线传输至应用处理单元,有效减轻了应用处理单元在进行图像处理时的负担,提升了图像处理效率,提高了系统性能。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括……”或“包含……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的要素。此外,在本文中,“大于”、“小于”、“超过”等理解为不包括本数;“以上”、“以下”、“以内”等理解为包括本数。
本领域内的技术人员应明白,上述各实施例可提供为方法、装置、或计算机程序产品。这些实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。上述各实施例涉及的方法中的全部或部分步骤可以通过程序来指令相关的硬件来完成,所述的程序可以存储于计算机设备可读取的存储介质中,用于执行上述各实施例方法所述的全部或部分步骤。所述计算机设备,包括但不限于:个人计算机、服务器、通用计算机、专用计算机、网络设备、嵌入式设备、可编程设备、智能移动终端、智能家居设备、穿戴式智能设备、车载智能设备等;所述的存储介质,包括但不限于:RAM、ROM、磁碟、磁带、光盘、闪存、U盘、移动硬盘、存储卡、记忆棒、网络服务器存储、网络云存储等。
上述各实施例是参照根据实施例所述的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到计算机设备的处理器以产生一个机器,使得通过计算机设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机设备以特定方式工作的计算机设备可读存储器中,使得存储在该计算机设备可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机设备上,使得在计算机设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已经对上述各实施例进行了描述,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改,所以以上所述仅为本发明的实施例,并非因此限制本发明的专利保护范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围之内。

Claims (43)

1.一种智能电子设备,其特征在于,所述设备包括图像采集单元、图像处理单元和应用处理单元;
图像处理单元通过第一控制线和第一数据线与应用处理单元相连;
图像处理单元通过第二数据线与图像采集单元相连;
图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据线接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。
2.如权利要求1所述的智能电子设备,其特征在于,所述图像处理单元包括数字信号处理器和缓存模块;
所述缓存模块用于存储接收到的图像处理插件;
所述数字信号处理器用于运行存储于缓存模块的图像处理插件。
3.如权利要求1所述的智能电子设备,其特征在于,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。
4.如权利要求1所述的智能电子设备,其特征在于,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。
5.如权利要求1所述的智能电子设备,其特征在于,所述图像处理单元还通过第二控制线与图像采集单元连接,所述图像处理单元用于根据第一控制指令生成第二控制指令,所述第一控制指令和第二控制指令用于控制图像采集单元。
6.如权利要求5所述的智能电子设备,其特征在于,所述“图像处理单元用于根据第一控制指令生成第二控制指令”包括:
图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。
7.如权利要求6所述的智能电子设备,其特征在于,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。
8.如权利要求1所述的智能电子设备,其特征在于,所述应用处理单元包括主控模块和数据存储模块;所述数据存储模块用于存储发送到图像处理单元的图像处理插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第三控制指令;
图像处理单元根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
9.如权利要求1所述的智能电子设备,其特征在于,所述应用处理单元包括主控模块和插件存储模块,所述插件存储模块用于存储应用处理插件;
所述主控模块用于接收图像采集单元采集的第一图像,采用插件存储模块中的应用处理插件来处理第一图像并生成第二图像。
10.如权利要求1所述的智能电子设备,其特征在于,所述第一数据线包括插件线和第一图像数据线;
图像处理单元通过插件线接收从应用处理单元发出的图像处理插件;
图像处理单元通过第一图像数据线将第二图像传输至应用处理单元。
11.一种图像处理单元,其特征在于,包括第一控制接口,第一数据接口和第二数据接口;
第一控制接口和第一数据接口用于与一个应用处理单元沟通;
第二数据接口用于与一个图像采集单元沟通;
所述图像处理单元用于通过第一数据接口接收从应用处理单元发出的图像处理插件,并通过第一控制接口接收从应用处理单元发出的第一控制指令,并通过第二数据接口接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据接口发送到应用处理单元。
12.如权利要求11所述的图像处理单元,其特征在于,所述图像处理单元包括数字信号处理器和缓存模块;
所述缓存模块用于存储接收到的图像处理插件;
所述数字信号处理器用于运行存储于缓存模块的图像处理插件。
13.如权利要求11所述的图像处理单元,其特征在于,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。
14.如权利要求11所述的图像处理单元,其特征在于,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。
15.如权利要求11所述的图像处理单元,其特征在于,所述图像处理单元还包括第二控制接口,所述第二控制接口用于与一个图像采集单元沟通;所述图像处理单元用于根据第一控制指令生成第二控制指令,并通过第二控制接口发送第二控制指令来控制图像采集单元。
16.如权利要求15所述的图像处理单元,其特征在于,所述“图像处理单元用于根据第一控制指令生成第二控制指令”包括:
图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。
17.如权利要求16所述的图像处理单元,其特征在于,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。
18.如权利要求11所述的图像处理单元,其特征在于,所述图像处理单元通过第一控制接口接收从应用处理单元发出的第三控制指令,并根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
19.如权利要求11所述的图像处理单元,其特征在于,所述第一数据接口包括插件接口第一图像数据接口;所述图像处理单元通过插件接口接收从应用处理单元发出的图像处理插件,并通过第一图像数据接口将第二图像传输至应用处理单元。
20.一种图像处理装置,其特征在于,所述装置包括图像处理单元和应用处理单元;所述图像处理单元包括第二数据接口;
图像处理单元通过第一控制线和第一数据线与应用处理单元相连;
图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据接口接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。
21.如权利要求20所述的图像处理装置,其特征在于,所述图像处理单元包括数字信号处理器和缓存模块;
所述缓存模块用于存储接收到的图像处理插件;
所述数字信号处理器用于运行存储于缓存模块的图像处理插件。
22.如权利要求20所述的图像处理装置,其特征在于,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。
23.如权利要求20所述的图像处理装置,其特征在于,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。
24.如权利要求20所述的图像处理装置,其特征在于,所述图像处理单元还包括第二控制接口,所述第二控制接口用于与一个图像采集单元沟通;所述图像处理单元用于根据第一控制指令生成第二控制指令,并通过第二控制接口发送第二控制指令来控制图像采集单元。
25.如权利要求24所述的图像处理装置,其特征在于,所述“图像处理单元用于根据第一控制指令生成第二控制指令”包括:
图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。
26.如权利要求25所述的图像处理装置,其特征在于,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。
27.如权利要求20所述的图像处理装置,其特征在于,所述应用处理单元包括主控模块和数据存储模块;所述数据存储模块用于存储发送到图像处理单元的图像处理插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第三控制指令;
图像处理单元根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
28.如权利要求20所述的图像处理装置,其特征在于,所述应用处理单元包括主控模块和插件存储模块,所述插件存储模块用于存储应用处理插件;
所述主控模块用于接收图像采集单元采集的第一图像,采用插件存储模块中的应用处理插件来处理第一图像并生成第二图像。
29.如权利要求20所述的图像处理装置,其特征在于,所述第一数据线包括插件线和第一图像数据线;
图像处理单元通过插件线接收从应用处理单元发出的图像处理插件;
图像处理单元通过第一图像数据线将第二图像传输至应用处理单元。
30.一种图像处理方法,其特征在于,所述方法应用于智能电子设备,所述设备包括图像采集单元、图像处理单元和应用处理单元;
图像处理单元通过第一控制线和第一数据线与应用处理单元相连;
图像处理单元通过第二数据线与图像采集单元相连;
所述方法包括以下步骤:
图像处理单元通过第一数据线接收从应用处理单元发出的图像处理插件或控制插件;
图像处理单元通过第一控制线接收从应用处理单元发出的第一控制指令,并通过第二数据线接收图像采集单元生成的第一图像,采用图像处理插件来处理第一图像并生成第二图像,并将该第二图像通过第一数据线传输到应用处理单元。
31.如权利要求30所述的图像处理方法,其特征在于,所述图像处理单元包括数字信号处理器和缓存模块;所述方法包括步骤:
缓存模块存储接收到的图像处理插件;
数字信号处理器运行存储于缓存模块的图像处理插件。
32.如权利要求30所述的图像处理方法,其特征在于,所述第一控制指令包括以下指令中的一项或多项:接收图像处理插件、初始化图像处理插件、运行图像处理插件。
33.如权利要求30所述的图像处理方法,其特征在于,所述图像处理插件包括WDR处理插件、HDR处理插件、Anti-shaking处理插件、或3DNR处理插件。
34.如权利要求30所述的图像处理方法,其特征在于,所述图像处理单元还通过第二控制线与图像采集单元连接,所述方法包括步骤:
图像处理单元根据第一控制指令生成第二控制指令,所述第一控制指令和第二控制指令用于控制图像采集单元。
35.如权利要求34所述的图像处理方法,其特征在于,所述“图像处理单元根据第一控制指令生成第二控制指令”包括:
图像处理单元采用控制插件来处理第一控制指令并生成第二控制指令。
36.如权利要求35所述的图像处理方法,其特征在于,所述第一控制指令包括以下指令中的一项或多项:接收控制插件、初始化控制插件、运行控制插件。
37.如权利要求30所述的图像处理方法,其特征在于,所述应用处理单元包括主控模块和数据存储模块;所述数据存储模块用于存储发送到图像处理单元的图像处理插件;所述方法包括步骤:
图像处理单元通过第一控制线接收从应用处理单元发出的第三控制指令,并根据第三控制指令来采用图像处理插件处理第一图像并生成第二图像。
38.如权利要求30所述的图像处理方法,其特征在于,所述应用处理单元包括主控模块和插件存储模块,所述插件存储模块用于存储应用处理插件;所述方法包括:
主控模块接收图像采集单元采集的第一图像,采用插件存储模块中的应用处理插件来处理第一图像并生成第二图像。
39.如权利要求30所述的图像处理方法,其特征在于,所述第一数据线包括插件线和第一图像数据线;所述方法包括:
图像处理单元通过插件线接收从应用处理单元发出的图像处理插件;
图像处理单元通过第一图像数据线将第二图像传输至应用处理单元。
40.如权利要求1所述的图像处理方法,其特征在于,所述图像处理插件包括自动曝光插件、自动白平衡插件和自动对焦插件。
41.如权利要求40所述的图像处理方法,其特征在于,所述图像处理单元包括数字信号处理器和缓存模块;
所述缓存模块用于存储接收到的自动曝光插件、自动白平衡插件和自动对焦插件;
所述数字信号处理器用于运行存储于缓存模块的自动曝光插件、自动白平衡插件和自动对焦插件。
42.如权利要求1所述的图像处理方法,其特征在于,所述应用处理单元包括主控模块和插件存储模块,所述插件存储模块用于存储应用处理插件;
所述主控模块用于接收图像处理单元传输的统计信息,采用插件存储模块中的应用处理插件来处理统计信息,或者用于接收图像处理单元传输的第二图像,获取第二图像的统计信息,并采用插件存储模块中的应用处理插件来处理统计信息。
43.如权利要求42所述的图像处理方法,其特征在于,所述统计信息包括第二图像的锐利度、整体灰度水平、色彩空间位置。
CN201611015062.5A 2016-09-26 2016-11-18 一种智能电子设备和图像处理单元、装置、方法 Active CN108076253B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201611015062.5A CN108076253B (zh) 2016-11-18 2016-11-18 一种智能电子设备和图像处理单元、装置、方法
US15/716,472 US10735646B2 (en) 2016-09-26 2017-09-26 Image-processing microprocessor for supporting an application processor
US16/916,132 US11323614B2 (en) 2016-09-26 2020-06-30 Image-processing microprocessor with plug-in from an application processor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611015062.5A CN108076253B (zh) 2016-11-18 2016-11-18 一种智能电子设备和图像处理单元、装置、方法

Publications (2)

Publication Number Publication Date
CN108076253A true CN108076253A (zh) 2018-05-25
CN108076253B CN108076253B (zh) 2020-08-21

Family

ID=62160064

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611015062.5A Active CN108076253B (zh) 2016-09-26 2016-11-18 一种智能电子设备和图像处理单元、装置、方法

Country Status (1)

Country Link
CN (1) CN108076253B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111182223A (zh) * 2020-01-14 2020-05-19 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN111669482A (zh) * 2019-03-07 2020-09-15 福州瑞芯微电子股份有限公司 一种图像处理方法、系统、介质、芯片及结构光电子设备

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060219964A1 (en) * 2005-04-01 2006-10-05 Fuji Photo Film Co., Ltd. Recording sheet usage count evaluation method and apparatus, and medical image processing apparatus
CN101631193A (zh) * 2008-07-17 2010-01-20 索尼株式会社 图像处理设备、图像处理方法和程序
CN102761734A (zh) * 2012-07-05 2012-10-31 北京众博达石油科技有限公司 一种485远程通信图像采集传输监控终端及其图像处理方法
CN103945280A (zh) * 2013-01-23 2014-07-23 富士施乐株式会社 插件分发系统、图像处理装置和插件分发控制方法
US20140211244A1 (en) * 2013-01-25 2014-07-31 Fuji Xerox Co., Ltd. Plug-in distribution system, image processing apparatus, plug-in distribution control method
US20140247199A1 (en) * 2011-03-21 2014-09-04 HJ Laboratories, LLC Providing augmented reality based on third party information
CN104050525A (zh) * 2013-03-15 2014-09-17 株式会社理光 信息处理设备和处理执行方法
CN104092940A (zh) * 2014-07-08 2014-10-08 杭州普维光电技术有限公司 一种特殊相机图像处理的控制方法
CN204316622U (zh) * 2015-01-06 2015-05-06 上海青橙实业有限公司 图像处理装置及用户终端
US20150237223A1 (en) * 2014-02-20 2015-08-20 Google Inc. Methods and Systems for Communicating Sensor Data on a Mobile Device
JP2015156540A (ja) * 2014-02-20 2015-08-27 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060219964A1 (en) * 2005-04-01 2006-10-05 Fuji Photo Film Co., Ltd. Recording sheet usage count evaluation method and apparatus, and medical image processing apparatus
CN101631193A (zh) * 2008-07-17 2010-01-20 索尼株式会社 图像处理设备、图像处理方法和程序
US20140247199A1 (en) * 2011-03-21 2014-09-04 HJ Laboratories, LLC Providing augmented reality based on third party information
CN102761734A (zh) * 2012-07-05 2012-10-31 北京众博达石油科技有限公司 一种485远程通信图像采集传输监控终端及其图像处理方法
CN103945280A (zh) * 2013-01-23 2014-07-23 富士施乐株式会社 插件分发系统、图像处理装置和插件分发控制方法
US20140211244A1 (en) * 2013-01-25 2014-07-31 Fuji Xerox Co., Ltd. Plug-in distribution system, image processing apparatus, plug-in distribution control method
CN104050525A (zh) * 2013-03-15 2014-09-17 株式会社理光 信息处理设备和处理执行方法
US20150237223A1 (en) * 2014-02-20 2015-08-20 Google Inc. Methods and Systems for Communicating Sensor Data on a Mobile Device
JP2015156540A (ja) * 2014-02-20 2015-08-27 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
CN104092940A (zh) * 2014-07-08 2014-10-08 杭州普维光电技术有限公司 一种特殊相机图像处理的控制方法
CN204316622U (zh) * 2015-01-06 2015-05-06 上海青橙实业有限公司 图像处理装置及用户终端

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111669482A (zh) * 2019-03-07 2020-09-15 福州瑞芯微电子股份有限公司 一种图像处理方法、系统、介质、芯片及结构光电子设备
CN111182223A (zh) * 2020-01-14 2020-05-19 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质及电子设备

Also Published As

Publication number Publication date
CN108076253B (zh) 2020-08-21

Similar Documents

Publication Publication Date Title
CN111311532B (zh) 图像处理方法及装置、电子设备、存储介质
CN109993824B (zh) 图像处理方法、智能终端及具有存储功能的装置
CN107529098A (zh) 实时视频摘要
CN108776917B (zh) 一种虚拟三维空间的同步处理方法及装置
CN112562019A (zh) 图像色彩调整方法及装置、计算机可读介质和电子设备
CN108880983B (zh) 一种虚拟三维空间的语音实时处理方法及装置
CN106777905A (zh) 远程医疗多影像中心服务系统及其终端获取数据的方法
CN112381707B (zh) 图像生成方法、装置、设备以及存储介质
CN108765084B (zh) 一种虚拟三维空间的同步处理方法及装置
CN108924440A (zh) 贴纸显示方法、装置、终端及计算机可读存储介质
CN110166759B (zh) 图像的处理方法和装置、存储介质、电子装置
CN108495043A (zh) 图像数据处理方法及相关装置
CN107302666A (zh) 拍照方法、移动终端及计算机可读存储介质
CN108076253A (zh) 一种智能电子设备和图像处理单元、装置、方法
CN109151575B (zh) 多媒体数据处理方法及装置、计算机可读存储介质
CN117479000A (zh) 录像方法和相关装置
CN109155061A (zh) 图像融合的方法、装置与无人机
CN104184791A (zh) 图像效果提取
CN107872558A (zh) 一种智能电子设备、图像处理单元、图像采集装置和图像采集方法
CN109510943A (zh) 用于拍摄图像的方法和装置
CN108259767A (zh) 图像处理方法、装置、存储介质及电子设备
CN112489144A (zh) 图像处理方法、图像处理装置、终端设备及存储介质
CN111383289A (zh) 图像处理方法、装置、终端设备及计算机可读存储介质
CN108495038A (zh) 图像处理方法、装置、存储介质及电子设备
CN109377460A (zh) 一种图像处理方法、图像处理装置及终端设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 350003 building, No. 89, software Avenue, Gulou District, Fujian, Fuzhou 18, China

Applicant after: Ruixin Microelectronics Co., Ltd

Address before: 350003 building, No. 89, software Avenue, Gulou District, Fujian, Fuzhou 18, China

Applicant before: Fuzhou Rockchips Electronics Co.,Ltd.

CB02 Change of applicant information
GR01 Patent grant
GR01 Patent grant