CN106612393B - 一种图像处理方法和装置、以及移动终端 - Google Patents

一种图像处理方法和装置、以及移动终端 Download PDF

Info

Publication number
CN106612393B
CN106612393B CN201510690792.4A CN201510690792A CN106612393B CN 106612393 B CN106612393 B CN 106612393B CN 201510690792 A CN201510690792 A CN 201510690792A CN 106612393 B CN106612393 B CN 106612393B
Authority
CN
China
Prior art keywords
image
depth
original image
depth information
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510690792.4A
Other languages
English (en)
Other versions
CN106612393A (zh
Inventor
张登康
黄德文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nubia Technology Co Ltd
Original Assignee
Nubia Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nubia Technology Co Ltd filed Critical Nubia Technology Co Ltd
Priority to CN201510690792.4A priority Critical patent/CN106612393B/zh
Priority to PCT/CN2016/103062 priority patent/WO2017067523A1/zh
Publication of CN106612393A publication Critical patent/CN106612393A/zh
Application granted granted Critical
Publication of CN106612393B publication Critical patent/CN106612393B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Telephone Function (AREA)

Abstract

本发明公开了一种图像处理方法和装置、以及移动终端,该图像处理装置包括:拍照单元,用于通过多个目镜执行拍照过程;获取单元,用于获取拍照的原始图像,以及原始图像对应的深度信息;确定单元,用于根据预设的深度修正匹配关系,确定所述深度信息对应的修正信息;修正单元,用于根据所述修正信息,对原始图像进行处理,并获取对应的输出图像。通过本发明的方案,用户使用双目镜头拍摄时或拍摄后,该装置可根据深度信息对图像进行优化处理,通过前后冷暖色调的处理可以使图像的前景主体物更突出,使得背景退得更远,利用双目镜头拍摄的优势,可以创造更加精准的前后景分离调整冷暖,达到用户期望的效果,提高用户体验。

Description

一种图像处理方法和装置、以及移动终端
技术领域
本发明涉及移动终端技术领域,尤指一种图像处理方法和装置、以及移动终端。
背景技术
目前手机的拍照功能得到了广泛的应用,拍照逐渐成为目前智能手机最重要的属性之一,也成为大多数用户每天都要使用的功能,生活中可以随时使用手机的拍照功能捕捉生活的各个有趣瞬间,每天我们都会用手机拍摄很多的照片。随着照功能的广泛的应用,用户也希望手机的拍照功能具有更好的效果,目前有各种美图软件可以对手机相机拍摄的图片进行修饰处理,使得图片的效果更好。然而手机拍照功能受到硬件的限制,不能很好地记录深度信息,就算通过图片美图软件的后期处理,也不能弥补照片的深度信息的缺少造成的拍摄效果的局限性,限制了手机拍照性能的进一步的提高。
目前,需要改善手机的相机配件以及对应的各种设置,从而用手机拍出效果更好的照片,给用户提供新的图像处理方式和更好的用户体验。
发明内容
为了解决上述问题,本发明提出了一种图像处理方法和装置、以及移动终端,能够给用户提供一种新的图像处理方式和更好的用户体验。
为了达到上述目的,本发明提出了一种图像处理装置,所述图像处理装置包括:
拍照单元,用于通过多个目镜执行拍照过程;
获取单元,用于获取拍照的原始图像,以及原始图像对应的深度信息;确定单元,用于根据预设的深度修正匹配关系,确定所述深度信息对应的修正信息;
修正单元,用于根据所述修正信息,对原始图像进行处理,并获取对应的输出图像。
优选地,所述目镜包括第一目镜和第二目镜;
所述拍照单元通过第一目镜获取第一图像,通过第二目镜获取第二图像;
所述获取单元包括:
原始图像获取模块,用于根据所述第一图像和所述第二图像,获取对应的原始图像;
深度信息获取模块,用于获取原始图像中各个像素点对应的深度信息。
优选地,所述原始图像获取模块包括:
对齐子模块,用于根据第一图像和第二图像,获取第一图像对应的第一校正图像和第二图像对应的第二校正图像;其中,第一校正图像和第二校正图像为在X方向已经对齐的图像;
原始图像获取子模块,用于将第一校正图像和第二校正图像的公共部分作为原始图像。
优选地,所述深度信息获取模块包括:
视察图获取子模块,用于利用所述第一校正图像和第二校正图像,通过立体匹配算法获取所述原始图像对应的视察图;
深度信息获取子模块,用于根据所述视察图获取对应的深度信息。
优选地,所述修正信息为色温调节值;所述深度信息为深度值;
所述确定单元包括修正匹配关系设置模块,所述修正匹配关系设置模块用于对深度修正匹配关系进行设置,其中;
将所述深度修正匹配关系设置为:
K=a1*S;或,
K=f(S)+b1;
其中,S为深度值,K为色温调节值,f(S)为深度修正匹配关系对应的变换函数,a1和b1为预设的参数。
优选地,还包括滑块处理单元,所述滑块处理单元用于获取滑块调节值;以及,根据所述滑块调节值,对获取的深度信息对应的修正信息的范围进行调整,并根据调整后的修正信息对原始图像进行处理。
为了达到上述目的,本发明还提出了一种移动终端,所述移动终端包括上述任一种图像处理装置。
为了达到上述目的,本发明还提出了一种图像处理方法,所述方法包括:
通过多个目镜执行拍照过程;
获取拍照的原始图像,以及原始图像对应的深度信息;
根据预设的深度修正匹配关系,获取所述深度信息对应的修正信息;
根据所述修正信息,对原始图像进行处理,并获取对应的输出图像。
优选地,所述目镜包括第一目镜和第二目镜;其中,通过第一目镜获取第一图像,通过第二目镜获取第二图像;
所述获取拍照的原始图像,以及原始图像对应的深度信息包括:
根据所述第一图像和所述第二图像,获取对应的原始图像;
获取原始图像中各个像素点对应的深度信息。
优选地,所述根据所述第一图像和所述第二图像,获取对应的原始图像包括:
根据第一图像和第二图像,获取第一图像对应的第一校正图像和第二图像对应的第二校正图像;其中,第一校正图像和第二校正图像为在X方向已经对齐的图像;
将第一校正图像和第二校正图像的公共部分做为原始图像。
优选地,所述获取原始图像中各个像素点对应的深度信息包括:
利用所述第一校正图像和第二校正图像,通过立体匹配算法获取所述原始图像对应的视察图;
根据所述视察图获取对应的深度信息。
优选地,所述修正信息为色温调节值;所述深度信息为深度值;
在所述根据预设的深度修正匹配关系,获取所述深度信息对应的修正信息之前,还包括:
对深度修正匹配关系进行设置;其中
将所述深度修正匹配关系设置为:
K=a1*S+b1;或,
K=f(S);
其中,S为深度值,K为色温调节值,f(S)为深度修正匹配关系对应的变换函数,a1和b1为预设的参数。
优选地,还包括:
获取滑块调节值;
根据所述滑块调节值,对获取的深度信息对应的修正信息的范围进行调整,并根据调整后的修正信息对原始图像进行处理。
与现有技术相比,本发明提供的技术方案包括:图像处理装置包括:拍照单元,用于通过多个目镜执行拍照过程;获取单元,用于获取拍照的原始图像,以及原始图像对应的深度信息;确定单元,用于根据预设的深度修正匹配关系,确定所述深度信息对应的修正信息;修正单元,用于根据所述修正信息,对原始图像进行处理,并获取对应的输出图像。通过本发明的方案,用户使用双目镜头拍摄时或拍摄后,可以获取深度信息,并根据深度信息对图像进行优化处理,例如,通过前后冷暖色调的处理可以使图像的前景主体物更突出,使得背景退得更远,利用双目镜头拍摄的优势,可以创造更加精准的前后景分离调整冷暖,达到用户期望的效果,提高用户体验。
附图说明
下面对本发明实施例中的附图进行说明,实施例中的附图是用于对本发明的进一步理解,与说明书一起用于解释本发明,并不构成对本发明保护范围的限制。
图1为实现本发明各个实施例的移动终端的硬件结构示意图;
图2为如图1所示的移动终端的无线通信系统示意图;
图3为本发明实施例提出的一种图像处理装置的结构示意图;
图4为第一目镜F1和第二目镜F2的设置示意图;
图5为本发明实施例提供的图像处理方法的流程示意图。
具体实施方式
为了便于本领域技术人员的理解,下面结合附图对本发明作进一步的描述,并不能用来限制本发明的保护范围。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的各种方式可以相互组合。
应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
现在将参考附图描述实现本发明各个实施例的移动终端。在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身并没有特定的意义。因此,"模块"与"部件"可以混合地使用。
移动终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。下面,假设终端是移动终端。然而,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。
图1为实现本发明各个实施例的移动终端的硬件结构示意。
移动终端100可以包括无线通信单元110、A/V(音频/视频)输入单元120、用户输入单元130、感测单元140、输出单元150、存储器160、接口单元170、控制器180和电源单元190等等。图1示出了具有各种组件的移动终端,但是应理解的是,并不要求实施所有示出的组件。可以替代地实施更多或更少的组件。将在下面详细描述移动终端的元件。
无线通信单元110通常包括一个或多个组件,其允许移动终端100与无线通信系统或网络之间的无线电通信。例如,无线通信单元可以包括广播接收模块111、移动通信模块112、无线互联网模块113、短程通信模块114和位置信息模块115中的至少一个。
广播接收模块111经由广播信道从外部广播管理服务器接收广播信号和/或广播相关信息。广播信道可以包括卫星信道和/或地面信道。广播管理服务器可以是生成并发送广播信号和/或广播相关信息的服务器或者接收之前生成的广播信号和/或广播相关信息并且将其发送给终端的服务器。广播信号可以包括TV广播信号、无线电广播信号、数据广播信号等等。而且,广播信号可以进一步包括与TV或无线电广播信号组合的广播信号。广播相关信息也可以经由移动通信网络提供,并且在该情况下,广播相关信息可以由移动通信模块112来接收。广播信号可以以各种形式存在,例如,其可以以数字多媒体广播(DMB)的电子节目指南(EPG)、数字视频广播手持(DVB-H)的电子服务指南(ESG)等等的形式而存在。广播接收模块111可以通过使用各种类型的广播系统接收信号广播。特别地,广播接收模块111可以通过使用诸如多媒体广播-地面(DMB-T)、数字多媒体广播-卫星(DMB-S)、数字视频广播-手持(DVB-H),前向链路媒体(MediaFLO@)的数据广播系统、地面数字广播综合服务(ISDB-T)等等的数字广播系统接收数字广播。广播接收模块111可以被构造为适合提供广播信号的各种广播系统以及上述数字广播系统。经由广播接收模块111接收的广播信号和/或广播相关信息可以存储在存储器160(或者其它类型的存储介质)中。
移动通信模块112将无线电信号发送到基站(例如,接入点、节点B等等)、外部终端以及服务器中的至少一个和/或从其接收无线电信号。这样的无线电信号可以包括语音通话信号、视频通话信号、或者根据文本和/或多媒体消息发送和/或接收的各种类型的数据。
无线互联网模块113支持移动终端的无线互联网接入。该模块可以内部或外部地耦接到终端。该模块所涉及的无线互联网接入技术可以包括WLAN(无线LAN)(Wi-Fi)、Wibro(无线宽带)、Wimax(全球微波互联接入)、HSDPA(高速下行链路分组接入)等等。
短程通信模块114是用于支持短程通信的模块。短程通信技术的一些示例包括蓝牙TM、射频识别(RFID)、红外数据协会(IrDA)、超宽带(UWB)、紫蜂TM等等。
位置信息模块115是用于检查或获取移动终端的位置信息的模块。位置信息模块的典型示例是GPS(全球定位系统)。根据当前的技术,GPS模块115计算来自三个或更多卫星的距离信息和准确的时间信息并且对于计算的信息应用三角测量法,从而根据经度、纬度和高度准确地计算三维当前位置信息。当前,用于计算位置和时间信息的方法使用三颗卫星并且通过使用另外的一颗卫星校正计算出的位置和时间信息的误差。此外,GPS模块115能够通过实时地连续计算当前位置信息来计算速度信息。
A/V输入单元120用于接收音频或视频信号。A/V输入单元120可以包括相机121和麦克风1220,相机121对在视频捕获模式或图像捕获模式中由图像捕获装置获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元151上。经相机121处理后的图像帧可以存储在存储器160(或其它存储介质)中或者经由无线通信单元110进行发送,可以根据移动终端的构造提供两个或更多相机1210。麦克风122可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由移动通信模块112发送到移动通信基站的格式输出。麦克风122可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
用户输入单元130可以根据用户输入的命令生成键输入数据以控制移动终端的各种操作。用户输入单元130允许用户输入各种类型的信息,并且可以包括键盘、锅仔片、触摸板(例如,检测由于被接触而导致的电阻、压力、电容等等的变化的触敏组件)、滚轮、摇杆等等。特别地,当触摸板以层的形式叠加在显示单元151上时,可以形成触摸屏。
感测单元140检测移动终端100的当前状态,(例如,移动终端100的打开或关闭状态)、移动终端100的位置、用户对于移动终端100的接触(即,触摸输入)的有无、移动终端100的取向、移动终端100的加速或减速移动和方向等等,并且生成用于控制移动终端100的操作的命令或信号。例如,当移动终端100实施为滑动型移动电话时,感测单元140可以感测该滑动型电话是打开还是关闭。另外,感测单元140能够检测电源单元190是否提供电力或者接口单元170是否与外部装置耦接。感测单元140可以包括接近传感器1410将在下面结合触摸屏来对此进行描述。
接口单元170用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。识别模块可以是存储用于验证用户使用移动终端100的各种信息并且可以包括用户识别模块(UIM)、客户识别模块(SIM)、通用客户识别模块(USIM)等等。另外,具有识别模块的装置(下面称为"识别装置")可以采取智能卡的形式,因此,识别装置可以经由端口或其它连接装置与移动终端100连接。接口单元170可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端和外部装置之间传输数据。
另外,当移动终端100与外部底座连接时,接口单元170可以用作允许通过其将电力从底座提供到移动终端100的路径或者可以用作允许从底座输入的各种命令信号通过其传输到移动终端的路径。从底座输入的各种命令信号或电力可以用作用于识别移动终端是否准确地安装在底座上的信号。输出单元150被构造为以视觉、音频和/或触觉方式提供输出信号(例如,音频信号、视频信号、警报信号、振动信号等等)。输出单元150可以包括显示单元151、音频输出模块152、警报单元153等等。
显示单元151可以显示在移动终端100中处理的信息。例如,当移动终端100处于电话通话模式时,显示单元151可以显示与通话或其它通信(例如,文本消息收发、多媒体文件下载等等)相关的用户界面(UI)或图形用户界面(GUI)。当移动终端100处于视频通话模式或者图像捕获模式时,显示单元151可以显示捕获的图像和/或接收的图像、示出视频或图像以及相关功能的UI或GUI等等。
同时,当显示单元151和触摸板以层的形式彼此叠加以形成触摸屏时,显示单元151可以用作输入装置和输出装置。显示单元151可以包括液晶显示器(LCD)、薄膜晶体管LCD(TFT-LCD)、有机发光二极管(OLED)显示器、柔性显示器、三维(3D)显示器等等中的至少一种。这些显示器中的一些可以被构造为透明状以允许用户从外部观看,这可以称为透明显示器,典型的透明显示器可以例如为TOLED(透明有机发光二极管)显示器等等。根据特定想要的实施方式,移动终端100可以包括两个或更多显示单元(或其它显示装置),例如,移动终端可以包括外部显示单元(未示出)和内部显示单元(未示出)。触摸屏可用于检测触摸输入压力以及触摸输入位置和触摸输入面积。
音频输出模块152可以在移动终端处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将无线通信单元110接收的或者在存储器160中存储的音频数据转换音频信号并且输出为声音。而且,音频输出模块152可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出模块152可以包括扬声器、蜂鸣器等等。
警报单元153可以提供输出以将事件的发生通知给移动终端100。典型的事件可以包括呼叫接收、消息接收、键信号输入、触摸输入等等。除了音频或视频输出之外,警报单元153可以以不同的方式提供输出以通知事件的发生。例如,警报单元153可以以振动的形式提供输出,当接收到呼叫、消息或一些其它进入通信(incomingcommunication)时,警报单元153可以提供触觉输出(即,振动)以将其通知给用户。通过提供这样的触觉输出,即使在用户的移动电话处于用户的口袋中时,用户也能够识别出各种事件的发生。警报单元153也可以经由显示单元151或音频输出模块152提供通知事件的发生的输出。
存储器160可以存储由控制器180执行的处理和控制操作的软件程序等等,或者可以暂时地存储己经输出或将要输出的数据(例如,电话簿、消息、静态图像、视频等等)。而且,存储器160可以存储关于当触摸施加到触摸屏时输出的各种方式的振动和音频信号的数据。
存储器160可以包括至少一种类型的存储介质,所述存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等等。而且,移动终端100可以与通过网络连接执行存储器160的存储功能的网络存储装置协作。
控制器180通常控制移动终端的总体操作。例如,控制器180执行与语音通话、数据通信、视频通话等等相关的控制和处理。另外,控制器180可以包括用于再现(或回放)多媒体数据的多媒体模块1810,多媒体模块1810可以构造在控制器180内,或者可以构造为与控制器180分离。控制器180可以执行模式识别处理,以将在触摸屏上执行的手写输入或者图片绘制输入识别为字符或图像。
电源单元190在控制器180的控制下接收外部电力或内部电力并且提供操作各元件和组件所需的适当的电力。
这里描述的各种实施方式可以以使用例如计算机软件、硬件或其任何组合的计算机可读介质来实施。对于硬件实施,这里描述的实施方式可以通过使用特定用途集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理装置(DSPD)、可编程逻辑装置(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、被设计为执行这里描述的功能的电子单元中的至少一种来实施,在一些情况下,这样的实施方式可以在控制器180中实施。对于软件实施,诸如过程或功能的实施方式可以与允许执行至少一种功能或操作的单独的软件模块来实施。软件代码可以由以任何适当的编程语言编写的软件应用程序(或程序)来实施,软件代码可以存储在存储器160中并且由控制器180执行。
至此,己经按照其功能描述了移动终端。下面,为了简要起见,将描述诸如折叠型、直板型、摆动型、滑动型移动终端等等的各种类型的移动终端中的滑动型移动终端作为示例。因此,本发明能够应用于任何类型的移动终端,并且不限于滑动型移动终端。
如图1中所示的移动终端100可以被构造为利用经由帧或分组发送数据的诸如有线和无线通信系统以及基于卫星的通信系统来操作。
现在将参考图2描述其中根据本发明的移动终端能够操作的通信系统。
这样的通信系统可以使用不同的空中接口和/或物理层。例如,由通信系统使用的空中接口包括例如频分多址(FDMA)、时分多址(TDMA)、码分多址(CDMA)和通用移动通信系统(UMTS)(特别地,长期演进(LTE))、全球移动通信系统(GSM)等等。作为非限制性示例,下面的描述涉及CDMA通信系统,但是这样的教导同样适用于其它类型的系统。
参考图2,CDMA无线通信系统可以包括多个移动终端100、多个基站(BS)270、基站控制器(BSC)275和移动交换中心(MSC)280。MSC280被构造为与公共电话交换网络(PSTN)290形成接口。MSC280还被构造为与可以经由回程线路耦接到基站270的BSC275形成接口。回程线路可以根据若干己知的接口中的任一种来构造,所述接口包括例如E1/T1、ATM,IP、PPP、帧中继、HDSL、ADSL或xDSL。将理解的是,如图2中所示的系统可以包括多个BSC2750。
每个BS270可以服务一个或多个分区(或区域),由多向天线或指向特定方向的天线覆盖的每个分区放射状地远离BS270。或者,每个分区可以由用于分集接收的两个或更多天线覆盖。每个BS270可以被构造为支持多个频率分配,并且每个频率分配具有特定频谱(例如,1.25MHz,5MHz等等)。
分区与频率分配的交叉可以被称为CDMA信道。BS270也可以被称为基站收发器子系统(BTS)或者其它等效术语。在这样的情况下,术语"基站"可以用于笼统地表示单个BSC275和至少一个BS270。基站也可以被称为"蜂窝站"。或者,特定BS270的各分区可以被称为多个蜂窝站。
如图2中所示,广播发射器(BT)295将广播信号发送给在系统内操作的移动终端100。如图1中所示的广播接收模块111被设置在移动终端100处以接收由BT295发送的广播信号。在图2中,示出了几个全球定位系统(GPS)卫星300。卫星300帮助定位多个移动终端100中的至少一个。
在图2中,描绘了多个卫星300,但是理解的是,可以利用任何数目的卫星获得有用的定位信息。如图1中所示的GPS模块115通常被构造为与卫星300配合以获得想要的定位信息。替代GPS跟踪技术或者在GPS跟踪技术之外,可以使用可以跟踪移动终端的位置的其它技术。另外,至少一个GPS卫星300可以选择性地或者额外地处理卫星DMB传输。
作为无线通信系统的一个典型操作,BS270接收来自各种移动终端100的反向链路信号。移动终端100通常参与通话、消息收发和其它类型的通信。特定基站270接收的每个反向链路信号被在特定BS270内进行处理。获得的数据被转发给相关的BSC275。BSC提供通话资源分配和包括BS270之间的软切换过程的协调的移动管理功能。BSC275还将接收到的数据路由到MSC280,其提供用于与PSTN290形成接口的额外的路由服务。类似地,PSTN290与MSC280形成接口,MSC与BSC275形成接口,并且BSC275相应地控制BS270以将正向链路信号发送到移动终端100。
基于上述移动终端硬件结构以及通信系统,提出本发明方法各个实施例。
如图3所示,本发明实施例提出一种图像处理装置,触摸键设置装置设置在移动终端上,该图像处理装置包括:
拍照单元10,用于通过多个目镜执行拍照过程;
获取单元20,用于获取拍照的原始图像,以及原始图像对应的深度信息;
确定单元30,用于根据预设的深度修正匹配关系,获取所述深度信息对应的修正信息;
修正单元40,用于根据所述修正信息,对原始图像进行处理,并获取对应的输出图像。
本发明实施例中,所述目镜包括第一目镜和第二目镜;如图4所示,为第一目镜F1和第二目镜F2的设置示意图。第一目镜F1和第二目镜F2之间的距离需要进过合适的设定,双目镜头的距离太近的话,不能有效的计算出的物体的深度信息,但能提高图像质量;太远的话,得到的物体深度信息有限,同时影响手机结构的设置。
所述拍照单元通过第一目镜获取第一图像,通过第二目镜获取第二图像;
所述获取单元20包括:
原始图像获取模块21,用于根据所述第一图像和所述第二图像,获取对应的原始图像;
深度信息获取模块22,用于获取原始图像中各个像素点对应的深度信息。
本发明实施例中,所述原始图像获取模块21包括:
对齐子模块211,用于根据第一图像和第二图像,获取第一图像对应的第一校正图像和第二图像对应的第二校正图像;其中,第一校正图像和第二校正图像为在X方向已经对齐的图像。
原始图像获取子模块212,用于将第一校正图像和第二校正图像的公共部分做为原始图像。
其中,第一图像和第二图像分别为IL和IR,第一校正图像和第二校正图像分别为IL-adj和IR-adj,利用立体校正算法校正,得到图像内容只有x方向平移的第一校正图像IL-adj和第二校正图像IR-adj
其中,x方向指第一目镜和第二目镜的中心的连线所在的方向。
第一校正图像IL-adj和第二校正图像IR-adj,可以得到原始图像D原始。其中,第一校正图像和第二校正图像的公共部分为原始图像D原始
下面举一个简单的例子,第一图像IL为1024*800的图像,第二图像IR为1024*800的图像,第一校正图像IL-adj和第二校正图像IR-adj同样为1024*800的图像,由于第一目镜和第二目镜在x轴上位置的差异,第一校正图像IL-adj和第二校正图像IR-adj对应于x轴上具有对应差异的不同位置的图像,通常这个差异较小,因此在生成原始图像之后,原始图像的尺寸会变小,例如,原始图像D原始为1000*800的图像,同时,原始图像D原始对应的视察图D同样为1000*800的图像数据。
本发明实施例中,所述深度信息获取模块包括:
视察图获取子模块,用于利用所述第一校正图像和第二校正图像,通过立体匹配算法获取所述原始图像对应的视察图;
深度信息获取子模块,用于根据所述视察图获取对应的深度信息。
利用立体匹配算法,可以获取原始图像D原始对应的视察图D。
视察图D是一个二维数据,视察图D中像素点与原始图像D原始中的像素点一一对应。
由D中任意像素点的视差D[i,j],使用以下公式计算出景深图Z中对应的像素点的景深Z[i,j],逐一计算各个像素点对应的Z[i,j],从而得出原始图像D原始对应的景深图Z。
Figure BDA0000827745630000141
从上述公式中可以推出:
Figure BDA0000827745630000142
其中f是立体成像装置中两个数码摄像头像平面到主平面的距离,即小孔成像模型的焦距(这里以两个摄像头参数一样为例进行说明),B是左右镜头之间的中心距离,D是原始图像对应的视察图。xl和xr分别为左右摄像头的横坐标位置。
景深图Z中记录了原始图像D原始中每个像素点对应的深度值。
其中,根据第一图像和第二图像获取原始图像,以及获取原始图像对应的视察图可以通过现有技术中的算法完成。
本发明实施例中,所述修正信息为色温调节值;所述深度信息为深度值。
用户使用双目镜头拍摄时或拍摄后,可以对图像进行优化的处理,而前后冷暖色调的处理可以使图像的前景主体物更突出,使得背景退得更远,利用双目镜头拍摄的优势,可以创造更加精准的前后景分离调整冷暖,达到用户期望的效果,提高用户体验。
增加色温值,使得更加偏暖色调,减小色温值,使得更加偏冷色调,通过深度信息,可以区分前景图像和后景图像,并针对前景图像和后景图像作出不同的处理,例如,一般来说,前景为拍摄的主题图像,后景为拍摄的背景图像,为了使图像的前景主体物更突出,可以设置为增加前景图像的色温值,并减小后景图像色温值,从而达到前后景分离的效果。
所述确定单元包括修正匹配关系设置模块,所述修正匹配关系设置模块用于对深度修正匹配关系进行设置,其中;
将所述深度修正匹配关系设置为:
K=a1*S+b1;或,
K=f(S);
其中,S为深度值,K为色温调节值,f(S)为深度修正匹配关系对应的变换函数。其中a1和b1为预设的参数。
为了达到前后景分离的效果,需要将a1设置为正值,同样,f(S)设置为增函数,这样,使得前景边变暖,后景变冷,随着景深的加大,色温调节为偏冷的程度更大。
下面结合表格,给出一组深度值S和色温调节值K的对应关系的示例。
深度值S 色温调节值K
0.1 -50k
0.3 0k
0.5 50k
0.7 100K
表1一组深度值S和色温调节值K的对应关系
如表1所示,随着深度值S越来越来,色温调节值K逐渐从正值变为负值,并且随着深度值S的进一步增加,色温调节值K负值的绝对值也越来越大。
上述映射表的表格可帮助说明深度值S和色温调节值K的对应关系。
该映射表可提前存储在系统中,在图像处理过称中时根据深度值直接查找该映射表即可完成对冷暖色调贴图的一一映射过程。
下面结合一个具体的示例进行说明。
色温的取值范围可以设置为1000K~8000K,即范围可由1000K对应的暖色调,直至色温为8000K的冷色调。
该映射表还存储有色温或者色调与RGB颜色之间的对应关系,以色温的范围可由1000K对应的暖色调,直至色温为8000K的冷色调为例,色温或者色调与RGB颜色之间的对应关系可以设置为:
1000K对应RGB 0xff3300
1100K对应RGB 0xff3800
1200K对应RGB 0xff5200
1300K对应RGB 0xff5d00
………
7900K对应RGB 0xe7eaff
8000K对应RGB 0xe5e9ff
以上举例仅为说明,也可由其他方式计算出RGB值,得到映射表中常用的色温或者色调与RGB颜色之间的对应关系。
此外,除了通过上述表格内容来存储深度值S和色温调节值K的对应关系,在实际处理过程中,也可以存储K=a1*S+b1;或K=f(S)之类的深度值S和色温调节值K的对应关系。
只要设置并存储了深度值S和色温调节值K的函数对应关系,那么通过原始图像中各个像素点对应的深度值便可以计算得出各个像素点对应的色温调节值K,并获取原始图像对应的冷暖渐变贴图,冷暖渐变贴图中存储有原始图像中各个像素点对应的色温调节值K。
确定单元在生成上述冷暖渐变贴图之后,修正单元针对原始图像各像素点和冷暖贴图对应的贴图图像信息,合成/处理该像素点的图像数据,生成对应的合成效果图像数据D处理
对具体合成过程给一个例子。例如,一个像素点D原始[i,j]对应的深度信息值是S[i,j],根据S[i,j]从上述表格找出对应的色温调节值K[i,j],然后根据K[i,j]对D原始[i,j]进行调节,得到对应的处理后的像素点D处理[i,j]。
本发明实施例中,还包括滑块处理单元,所述滑块处理单元用于获取滑块调节值;以及,根据所述滑块调节值,对获取的深度信息对应的修正信息的范围进行调整,并根据调整后的修正信息对原始图像进行处理。
下面给出一个具体的示例,
滑块值H的取值为1~100,将滑块值H转换,将H对应转换为1/100.0到100/100.0。也就是说,滑块的起始位置为1/100.0,结束位置为100/100.0。
根据下面公式可以计算滑块调节后的开始色温T1和结束色温T2;
T=H*(Tend-Tbegin)+Tbegin
假设整个滑块范围为1/100.0到100/100.0,分别对应着1000K到8000K的色温,则默认开始色温Tbegin和默认结束色温Tend分别为:
Tbegin=1000K;
Tend=8000K
H的取值为滑块调节的输入值,范围为1/100.0到100/100.0。
实例一、
假设用户滑动滑块,起始位置为0.2,结束位置为0.88,
那么此时分别对应的
起始色温值T1为:
0.2*(Tend-Tbegin)+Tbegin
结束色温值T2为:
0.88*(Tend-Tbegin)+Tbegin
其中
Tbegin为默认开始色温1000K
Tend为默认结束色温8000K
也就是说,根据滑块值H将默认的色温方式按照以上由1000K到8000K调节到(0.2*(Tend-Tbegin)+Tbegin)K到(0.88*(Tend-Tbegin)+Tbegin
根据该调节后的色温值的取值范围,将对应调整深度值S和色温调节值K的对应关系,从而进一步调整冷暖渐变贴图的大小,从而改变图像调节的效果。
本发明实施例中,均以色温调节的方式进行说明,在设置映射表的过程中,也可根据色调信息执行对图像的前后景的冷暖调节。
基于与上述实施例相同或相似的构思,本发明实施例还提供一种移动终端,所述移动终端包括本发明实施例提供的任一种图像处理装置。
基于与上述实施例相同或相似的构思,本发明实施例还提供一种图像处理方法,参见图5,为本发明实施例提供的图像处理方法的流程示意图,如图5所示,所述图像处理方法包括:
步骤100,通过多个目镜执行拍照过程;
步骤200,获取拍照的原始图像,以及原始图像对应的深度信息;
步骤400,根据预设的深度修正匹配关系,获取所述深度信息对应的修正信息;
步骤500,根据所述修正信息,对原始图像进行处理,并获取对应的输出图像。
本发明实施例中,所述目镜包括第一目镜和第二目镜;其中,通过第一目镜获取第一图像,通过第二目镜获取第二图像;
步骤200中,所述获取拍照的原始图像,以及原始图像对应的深度信息包括:
步骤210,根据所述第一图像和所述第二图像,获取对应的原始图像;
步骤220,获取原始图像中各个像素点对应的深度信息。
本发明实施例中,步骤210中,所述根据所述第一图像和所述第二图像,获取对应的原始图像包括:
步骤211,根据第一图像和第二图像,获取第一图像对应的第一校正图像和第二图像对应的第二校正图像;其中,第一校正图像和第二校正图像为在X方向已经对齐的图像;
步骤212,将第一校正图像和第二校正图像的公共部分做为原始图像。
本发明实施例中,步骤220中,所述获取原始图像中各个像素点对应的深度信息包括:
步骤221,利用所述第一校正图像和第二校正图像,通过立体匹配算法获取所述原始图像对应的视察图;
步骤222,根据所述视察图获取对应的深度信息。
本发明实施例中,所述修正信息为色温调节值;所述深度信息为深度值;
在步骤400之前,还包括:
步骤300,对深度修正匹配关系进行设置。
需要说明,步骤300和步骤200以及步骤100之间没有前后顺序关系。
其中,可以将所述深度修正匹配关系设置为:
K=a1*S+b1;或,
K=f(S);
其中,S为深度值,K为色温调节值,f(S)为深度修正匹配关系对应的变换函数,a1和b1为预设的参数。
本发明实施例中,还包括:
获取滑块调节值;
根据所述滑块调节值,对获取的深度信息对应的修正信息的范围进行调整,并根据调整后的修正信息对原始图像进行处理。
滑块值H的取值可以设置1/100.0到100/100.0,也就是说,滑块的起始位置为1/100.0,结束位置为100/100.0。
假设默认的色温范围为1000K到8000K,则滑块范围1/100.0到100/100.0分别对应着1000K到8000K的色温,默认开始色温Tbegin和默认结束色温Tend分别为:
Tbegin=1000K;
Tend=8000K。
根据下面公式可以计算滑块调节后的开始色温T1和结束色温T2;
T=H*(Tend-Tbegin)+Tbegin
假设用户滑动滑块,将滑块的起始位置设置为0.2,结束位置设置为0.88,
那么对应的起始色温值T1为:
0.2*(Tend-Tbegin)+Tbegin
结束色温值T2为:
0.88*(Tend-Tbegin)+Tbegin
根据该调节后的色温值的取值范围,将对应调整深度值S和色温调节值K的对应关系,其中,K的取值范围在滑块调节之前为1000K~8000K,在调节后为T1~T2,从而进一步调整冷暖渐变贴图的大小,从而改变图像调节的效果。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (11)

1.一种图像处理装置,其特征在于,所述图像处理装置包括:
拍照单元,用于通过多个目镜执行拍照过程;
获取单元,用于获取拍照的原始图像,以及原始图像对应的深度信息;确定单元,用于根据预设的深度修正匹配关系,确定所述深度信息对应的修正信息;
修正单元,用于根据所述修正信息,对原始图像进行处理,并获取对应的输出图像;
所述修正信息为色温调节值,所述深度信息为深度值;
所述确定单元包括修正匹配关系设置模块,所述修正匹配关系设置模块用于对深度修正匹配关系进行设置,其中;
将所述深度修正匹配关系设置为:
K=a1*S;或,
K=f(S)+b1;
其中,S为深度值,K为色温调节值,f(S)为深度修正匹配关系对应的变换函数,a1和b1为预设的参数;a1设置为正值,f(S)设置为增函数。
2.根据权利要求1所述的图像处理装置,其特征在于,所述目镜包括第一目镜和第二目镜;
所述拍照单元通过第一目镜获取第一图像,通过第二目镜获取第二图像;
所述获取单元包括:
原始图像获取模块,用于根据所述第一图像和所述第二图像,获取对应的原始图像;
深度信息获取模块,用于获取原始图像中各个像素点对应的深度信息。
3.根据权利要求2所述的图像处理装置,其特征在于,所述原始图像获取模块包括:
对齐子模块,用于根据第一图像和第二图像,获取第一图像对应的第一校正图像和第二图像对应的第二校正图像;其中,第一校正图像和第二校正图像为在X方向已经对齐的图像;
原始图像获取子模块,用于将第一校正图像和第二校正图像的公共部分作为原始图像。
4.根据权利要求3所述的图像处理装置,其特征在于,所述深度信息获取模块包括:
视察图获取子模块,用于利用所述第一校正图像和第二校正图像,通过立体匹配算法获取所述原始图像对应的视察图;
深度信息获取子模块,用于根据所述视察图获取对应的深度信息。
5.根据权利要求1所述的图像处理装置,其特征在于,还包括滑块处理单元,所述滑块处理单元用于获取滑块调节值;以及,根据所述滑块调节值,对获取的深度信息对应的修正信息的范围进行调整,并根据调整后的修正信息对原始图像进行处理。
6.一种移动终端,其特征在于,所述移动终端包括如权利要求1-5中任一项所述的图像处理装置。
7.一种图像处理方法,其特征在于,所述方法包括:
通过多个目镜执行拍照过程;
获取拍照的原始图像,以及原始图像对应的深度信息;
根据预设的深度修正匹配关系,获取所述深度信息对应的修正信息;
根据所述修正信息,对原始图像进行处理,并获取对应的输出图像;
述修正信息为色温调节值,所述深度信息为深度值;
在所述根据预设的深度修正匹配关系,获取所述深度信息对应的修正信息之前,还包括:
对深度修正匹配关系进行设置;其中
将所述深度修正匹配关系设置为:
K=a1*S+b1;或,
K=f(S);
其中,S为深度值,K为色温调节值,f(S)为深度修正匹配关系对应的变换函数,a1和b1为预设的参数;a1设置为正值,f(S)设置为增函数。
8.根据权利要求7所述的图像处理方法,其特征在于,所述目镜包括第一目镜和第二目镜;其中,通过第一目镜获取第一图像,通过第二目镜获取第二图像;
所述获取拍照的原始图像,以及原始图像对应的深度信息包括:
根据所述第一图像和所述第二图像,获取对应的原始图像;
获取原始图像中各个像素点对应的深度信息。
9.根据权利要求8所述的图像处理方法,其特征在于,所述根据所述第一图像和所述第二图像,获取对应的原始图像包括:
根据第一图像和第二图像,获取第一图像对应的第一校正图像和第二图像对应的第二校正图像;其中,第一校正图像和第二校正图像为在X方向已经对齐的图像;
将第一校正图像和第二校正图像的公共部分做为原始图像。
10.根据权利要求9所述的图像处理方法,其特征在于,所述获取原始图像中各个像素点对应的深度信息包括:
利用所述第一校正图像和第二校正图像,通过立体匹配算法获取所述原始图像对应的视察图;
根据所述视察图获取对应的深度信息。
11.根据权利要求7所述的图像处理方法,其特征在于,还包括:
获取滑块调节值;
根据所述滑块调节值,对获取的深度信息对应的修正信息的范围进行调整,并根据调整后的修正信息对原始图像进行处理。
CN201510690792.4A 2015-10-22 2015-10-22 一种图像处理方法和装置、以及移动终端 Active CN106612393B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201510690792.4A CN106612393B (zh) 2015-10-22 2015-10-22 一种图像处理方法和装置、以及移动终端
PCT/CN2016/103062 WO2017067523A1 (zh) 2015-10-22 2016-10-24 图像处理方法、装置及移动终端

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510690792.4A CN106612393B (zh) 2015-10-22 2015-10-22 一种图像处理方法和装置、以及移动终端

Publications (2)

Publication Number Publication Date
CN106612393A CN106612393A (zh) 2017-05-03
CN106612393B true CN106612393B (zh) 2019-10-15

Family

ID=58556662

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510690792.4A Active CN106612393B (zh) 2015-10-22 2015-10-22 一种图像处理方法和装置、以及移动终端

Country Status (2)

Country Link
CN (1) CN106612393B (zh)
WO (1) WO2017067523A1 (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107222734A (zh) * 2017-06-30 2017-09-29 联想(北京)有限公司 一种图像采集装置及电子设备
CN107613224A (zh) * 2017-09-11 2018-01-19 广东欧珀移动通信有限公司 图像处理方法和装置、电子装置和计算机可读存储介质
CN107707834B (zh) * 2017-09-11 2020-07-17 Oppo广东移动通信有限公司 图像处理方法和装置、电子装置和计算机可读存储介质
WO2019047985A1 (zh) 2017-09-11 2019-03-14 Oppo广东移动通信有限公司 图像处理方法和装置、电子装置和计算机可读存储介质
CN107948516A (zh) * 2017-11-30 2018-04-20 维沃移动通信有限公司 一种图像处理方法、装置及移动终端
CN109785226B (zh) * 2018-12-28 2023-11-17 维沃移动通信有限公司 一种图像处理方法、装置及终端设备
CN109697957B (zh) * 2019-01-07 2020-11-03 京东方科技集团股份有限公司 图像像素校正方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008172523A (ja) * 2007-01-11 2008-07-24 Fujifilm Corp 多焦点カメラ装置及びそれに用いられる制御方法並びにプログラム
CN102148933A (zh) * 2010-02-04 2011-08-10 佳能株式会社 图像处理设备
CN104506768A (zh) * 2014-11-28 2015-04-08 广东欧珀移动通信有限公司 图像选择方法、装置及终端
CN104639926A (zh) * 2013-11-11 2015-05-20 聚晶半导体股份有限公司 根据深度信息处理图像的方法及装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101305694B1 (ko) * 2011-10-20 2013-09-09 엘지이노텍 주식회사 목표물을 검출하기 위한 영상 처리 방법, 장치, 사용자 인터페이스를 위한 방법 및 장치
CN102523464A (zh) * 2011-12-12 2012-06-27 上海大学 一种双目立体视频的深度图像估计方法
KR101901184B1 (ko) * 2012-09-20 2018-09-21 삼성전자주식회사 깊이 영상을 사용한 컬러 영상 처리 장치 및 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008172523A (ja) * 2007-01-11 2008-07-24 Fujifilm Corp 多焦点カメラ装置及びそれに用いられる制御方法並びにプログラム
CN102148933A (zh) * 2010-02-04 2011-08-10 佳能株式会社 图像处理设备
CN104639926A (zh) * 2013-11-11 2015-05-20 聚晶半导体股份有限公司 根据深度信息处理图像的方法及装置
CN104506768A (zh) * 2014-11-28 2015-04-08 广东欧珀移动通信有限公司 图像选择方法、装置及终端

Also Published As

Publication number Publication date
CN106612393A (zh) 2017-05-03
WO2017067523A1 (zh) 2017-04-27

Similar Documents

Publication Publication Date Title
CN106612393B (zh) 一种图像处理方法和装置、以及移动终端
CN106502693B (zh) 一种图像显示方法和装置
CN104954689B (zh) 一种利用双摄像头获得照片的方法及拍摄装置
CN106791472B (zh) 一种曝光方法及终端
CN105404484B (zh) 终端分屏装置及方法
CN105120135B (zh) 一种双目摄像头
CN105227865B (zh) 一种图像处理方法及终端
CN105100642B (zh) 图像处理方法和装置
CN105227837A (zh) 一种图像合成方法和装置
CN106534619A (zh) 一种调整对焦区域的方法、装置和终端
CN105911694B (zh) 一种虚拟现实设备及其移动终端
CN106888349A (zh) 一种拍摄方法及装置
CN106534590B (zh) 一种照片处理方法、装置及终端
CN105897564A (zh) 一种照片分享装置和方法
CN108668071A (zh) 一种拍摄方法、装置、系统及一种移动终端
CN105959551A (zh) 一种拍摄装置及方法、移动终端
CN106131274B (zh) 移动终端控制装置及方法
CN106534552B (zh) 移动终端及其拍照方法
CN106909681A (zh) 一种信息处理方法及其装置
CN104917965A (zh) 拍摄方法及装置
CN108965727A (zh) 一种图像采集方法、终端及计算机可读存储介质
CN105407275B (zh) 照片合成装置及方法
CN106911881A (zh) 一种基于双摄像头的动态照片拍摄装置、方法和终端
CN105959520B (zh) 一种照片拍摄装置及方法
CN104702882B (zh) 基于volte的视频通话装置和方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant