CN106548185B - 一种前景区域确定方法和装置 - Google Patents

一种前景区域确定方法和装置 Download PDF

Info

Publication number
CN106548185B
CN106548185B CN201611049251.4A CN201611049251A CN106548185B CN 106548185 B CN106548185 B CN 106548185B CN 201611049251 A CN201611049251 A CN 201611049251A CN 106548185 B CN106548185 B CN 106548185B
Authority
CN
China
Prior art keywords
area
prospect
region
range probability
foreground
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201611049251.4A
Other languages
English (en)
Other versions
CN106548185A (zh
Inventor
马宇驰
王磊
朱康康
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics China R&D Center
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics China R&D Center
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics China R&D Center, Samsung Electronics Co Ltd filed Critical Samsung Electronics China R&D Center
Priority to CN201611049251.4A priority Critical patent/CN106548185B/zh
Publication of CN106548185A publication Critical patent/CN106548185A/zh
Application granted granted Critical
Publication of CN106548185B publication Critical patent/CN106548185B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Abstract

本发明公开了一种前景区域确定方法和装置。包括:对图片文件执行特征识别以确定前景范围可能区域;在所述前景范围可能区域内执行连通区域识别以确定最大连通区域;确定包含特征点的特征线,并将所述最大连通区域中与所述特征点的像素颜色一致的区域确定为前景区域。本发明实施方式无需多张图片,利用单张图片即可确定前景区域。而且,本发明实施方式可以在识别人脸或可识别物体的基础上自动进行背景模糊处理,达到突出前景,模仿单反照相机的效果。另外,本发明实施方式可以由用户指定需要清晰化的前景区域,应用更灵活。

Description

一种前景区域确定方法和装置
技术领域
本发明涉及图像处理技术领域,更具体的说,涉及一种前景区域确定方法和装置。
背景技术
通常而言,前景是指画面中位于主体之前以靠近摄像机镜头的景物或人物,表现一定的空间关系或人物关系。前景可能是陪体,但一般说来,前景往往是整个环境的组成部分。背景位于主体之后,远离摄像机的景物,通常是环境的重要组成部分。
目前,针对移动设备中图形的前景区域确定技术是基于连续多张图片或一段视频进行的。通过区分每一帧或每一张图片的运动物体得到前景轮廓区域。而且,在非移动设备上通常使用人为干预,圈定轮廓区域的方式来进行单张图片的前景区域确定。
现有基于移动设备或计算机的前景区域确定方法具有下列缺点:
(1).按照传统方式进行前景背景分离的算法中,需要多张图片或者一段视频才能执行识别。当图片源帧数不足时,无法针对前景进行有效分析。
(2).传统静态图片的前景识别需要用户较多的干预,用户必须进行轮廓的分割或轮廓的描绘,从而得到一个大概的区域,在用户指定的或采样到的区域内,才可以进行二次算法识别分离前景。
发明内容
本发明提出一种前景区域确定方法和装置,无需多张图片即可确定前景区域。
本发明实施方式的技术方案如下:
一种前景区域确定方法,包括:
对图片文件执行特征识别以确定前景范围可能区域;
在所述前景范围可能区域内执行连通区域识别以确定最大连通区域;
确定包含特征点的特征线,并将所述最大连通区域中与所述特征点的像素颜色一致的区域确定为前景区域。
在一个实施方式中,该方法还包括:
在所述图片文件中针对所述前景区域执行反向选择以确定背景区域;
对所述背景区域执行模糊处理;
合并模糊处理的背景区域和所述前景区域。
在一个实施方式中,所述对图片文件执行特征识别以确定前景范围可能区域包括:
对图片文件执行人脸特征识别以确定人脸区域,基于预定的人体比例放大倍数放大所述人脸区域以确定所述前景范围可能区域;或
对图片文件执行物体特征识别以确定物体区域,基于预定的物体比例放大倍数放大所述物体区域以确定所述前景范围可能区域。
在一个实施方式中,该方法还包括:
移动所述前景范围可能区域以将人脸区域或物体区域在横轴方向上布置在所述前景范围可能区域的中央;其中:
simpleFG_X=faceX–(simpleFG_W-faceW)/2;
simpleFG_Y=faceY–faceH/2;
人脸区域或物体区域的宽度为faceW,人脸区域或物体区域的高度为faceH;人脸区域或物体区域的左上点坐标为(faceX,faceY),前景范围可能区域的左上点坐标为(simpleFG_X,simpleFG_Y),前景范围可能区域的宽度为simpleFG_W,前景范围可能区域的高度为simpleFG_H。
在一个实施方式中,所述确定包含特征点的特征线包括:
在位于人脸区域或物体区域下部的前景范围可能区域中生成纵向特征线,在位于人脸区域或物体区域下部的前景范围可能区域中生成与所述纵向特征线相交的多个横向特征线,所述横向特征线之间具有预定的间距;
接收用户在所述前景范围可能区域中的画线操作,基于所述画线操作生成所述特征线。
在一个实施方式中,所述对背景区域执行模糊处理包括:
对所述背景区域执行高斯模糊处理;和/或
对所述背景区域执行平均模糊处理。
在一个实施方式中,所述对图片文件执行特征识别以确定前景范围可能区域包括:
对图片文件执行特征识别,以识别出多个候选的前景范围可能区域;
基于用户的选择操作,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域;或,基于预定的自动选择策略,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域。
一种前景区域确定装置,包括:
特征识别模块,用于对图片文件执行特征识别以确定前景范围可能区域;
连通区域识别模块,用于在所述前景范围可能区域内执行连通区域识别以确定最大连通区域;
前景区域确定模块,用于确定包含特征点的特征线,并将所述最大连通区域中与所述特征点的像素颜色一致的区域确定为前景区域。
在一个实施方式中,还包括:
模糊处理模块,用于在所述图片文件中针对所述前景区域执行反向选择以确定背景区域,对所述背景区域执行模糊处理,合并模糊处理的背景区域和所述前景区域。
在一个实施方式中,特征识别模块,用于对图片文件执行人脸特征识别以确定人脸区域,基于预定的人体比例放大倍数放大所述人脸区域以确定所述前景范围可能区域;或
对图片文件执行物体特征识别以确定物体区域,基于预定的物体比例放大倍数放大所述物体区域以确定所述前景范围可能区域。
在一个实施方式中,还包括:
移动模块,用于移动所述前景范围可能区域以将人脸区域或物体区域在横轴方向上布置在所述前景范围可能区域的中央;其中:
simpleFG_X=faceX–(simpleFG_W-faceW)/2;
simpleFG_Y=faceY–faceH/2;
人脸区域或物体区域的宽度为faceW,人脸区域或物体区域的高度为faceH;人脸区域或物体区域的左上点坐标为(faceX,faceY),前景范围可能区域的左上点坐标为(simpleFG_X,simpleFG_Y)。
在一个实施方式中,前景区域确定模块,用于在位于人脸区域或物体区域下部的前景范围可能区域中生成纵向特征线,在位于人脸区域或物体区域下部的前景范围可能区域中生成与所述纵向特征线相交的多个横向特征线,所述横向特征线之间具有预定的间距;
用于接收用户在所述前景范围可能区域中的画线操作,基于所述画线操作生成所述特征线。
在一个实施方式中,模糊处理模块,用于对所述背景区域执行高斯模糊处理;和/或,对所述背景区域执行平均模糊处理。
在一个实施方式中,特征识别模块,用于对图片文件执行特征识别,以识别出多个候选的前景范围可能区域;基于用户的选择操作,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域;或,基于预定的自动选择策略,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域。
从上述技术方案可以看出,本发明实施方式包括:对图片文件执行特征识别以确定前景范围可能区域;在前景范围可能区域内执行连通区域识别以确定最大连通区域;确定包含特征点的特征线,并将最大连通区域中与特征点的像素颜色一致的区域确定为前景区域。本发明实施方式无需多张图片,利用单张图片即可确定前景区域。
而且,本发明实施方式可以在识别人脸或可识别物体的基础上自动进行背景模糊处理,达到突出前景,模仿单反照相机的效果。
另外,本发明实施方式可以由用户指定需要清晰化的前景区域,应用更灵活。
附图说明
图1是根据本发明的前景区域确定方法流程图;
图2是根据本发明实施方式的图片文件的示意图;
图3是根据本发明实施方式,基于人脸区域确定前景范围可能区域的示意图;
图4是根据本发明实施方式,在最大连通区域中生成特征线的示意图;
图5是根据本发明实施方式,针对背景区域执行模糊处理的示意图;
图6是根据本发明实施方式,合成背景区域和前景区域的示意图;
图7是根据本发明实施方式,包含多个人脸区域的图片文件的示意图;
图8是根据本发明实施方式,识别出多个候选的前景范围可能区域的示意图;
图9是根据本发明实施方式,从多个候选的前景范围可能区域中确定出一个前景范围可能区域的图像处理示意图;
图10是根据本发明实施方式分离前景区域的图像处理方法流程图;
图11是根据本发明前景区域确定装置的结构图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面结合附图对本发明作进一步的详细描述。
为了描述上的简洁和直观,下文通过描述若干代表性的实施方式来对本发明的方案进行阐述。实施方式中大量的细节仅用于帮助理解本发明的方案。但是很明显,本发明的技术方案实现时可以不局限于这些细节。为了避免不必要地模糊了本发明的方案,一些实施方式没有进行细致地描述,而是仅给出了框架。下文中,“包括”是指“包括但不限于”,“根据……”是指“至少根据……,但不限于仅根据……”。由于汉语的语言习惯,下文中没有特别指出一个成分的数量时,意味着该成分可以是一个也可以是多个,或可理解为至少一个。
在本发明实施方式中,可以在移动设备等终端上使用基于人脸或可识别物体的前景后景分离方法进行图像的对象分离,在拍摄或预存的画面中寻找人脸或可识别物体的区域,并根据人体比例或物体比例进行总体轮廓的预判,然后基于最大连通区域的轮廓识别和自动像素采集相结合的方法识别前景区域,同时对未选择区域执行模糊处理,以得到突出指定前景的效果。
另外,在本发明实施方式中,如果画面中存在多个前景区域,用户还可以选择保留全部前景区域或指定保留某一前景区域。
图1是根据本发明的前景区域确定方法流程图。
如图1所示,该方法包括:
步骤101:对图片文件执行特征识别以确定前景范围可能区域。
在一个实施方式中,当图片文件包含人脸信息时,可以对图片文件执行人脸特征识别以确定人脸区域,然后基于预定的人体比例放大倍数放大人脸区域,并将放大后形成的区域确定为前景范围可能区域。
比如,假定针对图片文件识别出的人脸区域为矩形,该矩形的宽度为faceW,高度为faceH。而且,人体比例放大倍数为放大四倍宽度和放大五倍高度。那么,前景范围可能区域为人脸区域的放大矩形区域,该放大矩形区域的宽度为4x faceW,高度为5x faceH。该前景范围可能区域可以视为整个人体的显示区域。
在一个实施方式中,当图片文件包含物体时,可以对图片文件执行物体特征识别以确定物体区域,然后基于预定的物体比例放大倍数放大物体区域,并将放大后形成的区域确定为前景范围可能区域。
比如,假定图片文件中包含的物体为电脑显示器。针对图片文件识别出的电脑显示器区域为矩形,该矩形的宽度为ScreenW,高度为ScreenH。而且,包含电脑显示器的电脑桌组件的比例放大倍数为放大三倍宽度和放大两倍高度。那么,前景范围可能区域为电脑显示器的放大矩形区域,该放大矩形区域的宽度为3x ScreenW,高度为2xScreenH。该前景范围可能区域可以视为整个电脑桌组件的显示区域。
在一个实施方式中,当图片文件包含物体时,也可以不基于物体比例放大倍数确定前景范围可能区域,而是利用其他显著性特征确定前景范围可能区域。
以上示范性描述了人体比例放大倍数和物体比例放大倍数的示范性数值以及确定前景范围可能区域的具体实例,本领域技术人员可以意识到,这种描述和举例仅是示范性的,并不用于限定本发明实施方式的保护范围。
步骤102:在前景范围可能区域内执行连通区域识别以确定最大连通区域。
在这里,可以利用特征检测算法在前景范围可能区域内检测连通区域,或者使用灰度化后的二值图像在前景范围可能区域内检测连通区域。
比如,在灰度化后的二值图像的方式中,首先对前景范围可能区域内图像进行切割后以获取图像数据,然后针对图像数据执行二值化处理,每个像素点为0-255的灰度值,再利用图论中的近似或相同灰度的连通轨迹进行区域搜索,得到每一个连通区域的集合,并依次进行编号,并从中确定出最大连通区域。在二值化图像的区域连通方式中,通常精度较低但是速度快。
步骤103:确定包含特征点的特征线,并将最大连通区域中与特征点的像素颜色一致的区域确定为前景区域。
在步骤103中,结合像素点采集和最大连通区域进行前景和背景的像素区分。在连通区域判断的基础上,加上特征点的判断以识别前景区域。特征线的设定可分为人为或自动。
自动划定特征线适用于自拍时前景人物占画面较大比例时的识别方法。在自动划定特征线的方式中,可以在位于人脸区域或物体区域下部的前景范围可能区域中生成纵向特征线,在位于人脸区域或物体区域下部的前景范围可能区域中生成与纵向特征线相交的多个横向特征线,各个横向特征线之间具有预定的间距。特征线(包括横向特征线和纵向特征线)内的像素可以视为前景物体的像素。将特征线内所有的像素点(特征点)作为依据,最大连通区域内像素颜色与采样点的像素颜色不匹配的区域被确定为背景区域,最大连通区域内像素颜色与采样点的像素颜色匹配的区域被确定为前景区域,从而准确地识别前景区域和背景区域。
在后置摄像头拍摄时,用户可以干预生成特征线或自动设定特征线。当前景识别不够理想时,可以人为干预生成特征线。在用户干预生成特征线的方式中,用户在图片的最大连通区域内部任意画至少两条采样线。在最大连通区域内画出至少两条特征线。将特征线内所有的像素点(特征点)作为依据,最大连通区域内像素颜色与采样点的像素颜色不匹配的区域被确定为背景区域,最大连通区域内像素颜色与采样点的像素颜色匹配的区域被确定为前景区域,从而准确地识别前景区域和背景区域。
然后,可以对背景区域执行模糊处理。具体包括:对背景区域执行高斯模糊处理;和/或,对背景区域执行平均模糊处理。
在一个实施方式中,该方法还包括:
移动前景范围可能区域以将人脸区域或物体区域在横轴方向上布置在前景范围可能区域的中央;其中:
simpleFG_X=faceX–(simpleFG_W-faceW)/2;
simpleFG_Y=faceY–faceH/2;
人脸区域或物体区域的宽度为faceW,人脸区域或物体区域的高度为faceH;人脸区域或物体区域的左上点坐标为(faceX,faceY),前景范围可能区域的左上点坐标为(simpleFG_X,simpleFG_Y),前景范围可能区域的宽度为simpleFG_W,前景范围可能区域的高度为simpleFG_H。
在一个实施方式中,步骤101中对图片文件执行特征识别,可能识别出多个候选的前景范围可能区域。此时,可以基于用户的选择操作,从多个候选的前景范围可能区域中确定前景范围可能区域;或,基于预定的自动选择策略,从多个候选的前景范围可能区域中确定前景范围可能区域。
下面结合具体的实例图形,对本发明实施方式进行举例说明。
图2是根据本发明实施方式的图片文件的示意图。
如图2所示,该图片文件包含人物以及作为背景环境的植物。人物位于图片文件的右边,植物位于图片文件的左边。针对该单张图片,期望能够快速进行人物之外区域背景虚化,使得拍照效果更加接近于光学大光圈镜头所呈现的成像效果。
基于本发明实施方式,首先使用人脸识别算法对图2中的人脸进行识别。当人脸被识别后,形成一个矩形区域并正确覆盖图片中的人脸。假定根据人脸识别出的矩形宽度为faceW,高度为faceH。结合正常人体比例,取前景范围可能区域为宽度为4x faceW,高度为5x faceH的矩形区域。
图3是根据本发明实施方式,基于人脸区域确定前景范围可能区域的示意图。如图3的外框所示,即为前景范围可能区域。如图3的内框所示,即为识别出的人脸区域。
然后,对前景范围可能区域进行位移,使得人脸区域在X轴位于前景范围可能区域的中央。设人脸区域的左上点坐标为(faceX,faceY),前景范围可能区域的左上点坐标记为(simpleFG_X,simpleFG_Y),简单前景轮廓的宽和高分别记为simpleFG_W和simpleFG_H。那么:
simpleFG_X=faceX–(simpleFG_W-faceW)/2;
simpleFG_Y=faceY–faceH/2。
在确定前景范围可能区域后,对前景范围可能区域内的连通区域进行识别。具体可以使用特征检测算法检测连通区域或者使用灰度化后的二值图像检测连通区域。然后,结合像素点采集方法进行前景和背景的像素区分。也就是说,在连通区域判断的基础上,加上特征点的判断以识别前景区域。
特征线的设定可分为人为或自动。自动划定特征线适用于自拍时,前景人物占画面较大比例时的识别方法。人为设定特征线适用于后置摄像头拍摄的情形中。
当自动划定特征线时,可以在人脸区域以下的最大连通区域中自动画出纵向特征线并在横向自动画出固定间距的多条横向采样线。采样线内的像素可以视为前景物体的像素。将特征线内所有的像素点(特征点)作为依据,最大连通区域内像素颜色与采样点的像素颜色不匹配的区域被确定为背景区域,最大连通区域内像素颜色与采样点的像素颜色匹配的区域被确定为前景区域,从而准确地识别前景区域和背景区域。
在后置摄像头拍摄时,可以进行用户干预采样线设定或自动采样线设定。用户干预采样线设定是用户在最大连通区域内部任意画至少两条采样线。将特征线内所有的像素点(特征点)作为依据,最大连通区域内像素颜色与采样点的像素颜色不匹配的区域被确定为背景区域,最大连通区域内像素颜色与采样点的像素颜色匹配的区域被确定为前景区域,从而准确地识别前景区域和背景区域。
图4是根据本发明实施方式,在最大连通区域中生成特征线的示意图。当前景识别不够理想的时候,可以进行用人为干预生成特征线,在最大连通区域内画出至少两条采样线,此时将采样线内所有的像素点作为依据,在框定区域内不属于此采样点的连通区域一概认为是背景,符合采样线内的所有像素点的连通区域认为是前景。
在执行了前景识别之后,可以将确定的前景区域标记为前景区域1,而图片中所有非前景区域1的区域均视为背景区域。背景区域属于重要性较低区域,可以对背景区域进行模糊化处理。为了让模糊的效果更加真实,本发明实施方式优选采用高斯模糊算法。为了提高处理模糊的速度,避免不必要的干扰,可以将前景区域1全部做透明化处理,即将该区域的图像元数据中的alpha通道设置为0,图像数据为全透明。然后,在整个图片范围内应用高斯模糊算法。高斯模糊的半径根据图片的尺寸而定,半径越大,则模糊程度越高,相应地处理速度越慢。优选地,针对已经提取的前景区域,对边缘区域需要进行一定的模糊处理,从而避免出现最后合成图片边缘拼接生硬不协调的问题。图5是根据本发明实施方式,针对背景区域执行模糊处理的示意图。
将取得的前景区域1和已经经过高斯模糊的背景区域进行数据拷贝合成后,可以得到前景突出且背景模糊的最终效果,即前景和背景分离。图6是根据本发明实施方式,合成背景区域和前景区域的示意图。
可以将上述处理过程作为一次完整的单个前景与背景分离流程。当图像中经过人脸或可识别物体识别后出现多个人脸或可识别物体时,可能识别出多个前景区域。此时,用户可以选择保留其中任何一个或多个前景区域作为清晰区域。
图7是根据本发明实施方式,包含多个人脸区域的图片文件的示意图;图8是根据本发明实施方式,识别出多个候选的前景范围可能区域的示意图;图9是根据本发明实施方式,从多个候选的前景范围可能区域中确定出一个前景范围可能区域的图像处理示意图。
在图7-图9中描述了只保留一个前景区域作为清晰区域的情形。实际上,如果图片中能够识别的人脸或可识别物体过多,鉴于移动设备性能的考量,本发明实施方式优选限制人脸或可识别物体区域面积的前五名为可处理的区域。
可以在各种智能设备上应用本发明的前景区域确定方法。这些智能设备可以包括但是不局限于:功能手机、智能手机、掌上电脑、平板电脑或个人数字助理(PDA),等等。
以上虽然详细罗列了智能设备的具体实例,本领域人员可以意识到,这些罗列仅是阐述目的,并不用于限定本发明实施方式的保护范围。
而且,智能设备可以适用于任意的智能设备操作系统,具体可以采用的操作系统包括但是不局限于:安卓(Andorid)、Palm OS、Symbian(塞班)、Windows mobile、Linux、Android(安卓)、iPhone(苹果)OS、Black Berry(黑莓)OS 6.0、Windows Phone系列,等等。
优选地,智能设备具体可以采用安卓操作系统,而且终端可以采用到Andorid的各个版本之中,包括但是不局限于:阿童木(Android Beta)、发条机器人(Android 1.0)、纸杯蛋糕(Android 1.5)、甜甜圈(Android 1.6)、松饼(Android 2.0/2.1),冻酸奶(Android2.2)、姜饼(Android 2.3)、蜂巢(Android 3.0)、冰激凌三明治(Android 4.0)、果冻豆(Jelly Bean,Android 4.1)等版本。
以上详细罗列了Android平台的具体版本,本领域技术人员可以意识到,本发明实施方式并不局限于上述罗列版本,而还可以适用于其他基于Android软件架构的任意版本之中。
下面结合具体流程描述本发明实施方式的一个示范性的实施过程。
图10是根据本发明实施方式分离前景区域的图像处理方法流程图。该方法应用于移动设备。该移动设备具有后置或前置摄像头装置,而且具有人脸或其他特征识别功能,并具有用户接口(UI)和可触摸屏幕。
如图10所示,该方法包括:
步骤1001:当移动设备开启后,打开照相机应用,启动实时预览之后,将摄像头对准被摄人物(一个或多个),并拍摄单张图片。然后,使用人脸或可识别物体识别算法,对拍照图片中的人脸或可识别物体进行识别,并依次保存所有人脸或可识别物体的位置和大小。比如,依次记为face1,face2…faceN。出于平衡移动设备性能的考虑,可以仅保存人脸或可识别物体区域面积较大的前五个,即按照face.W*face.H进行降序排序,并将已保存的5张面部信息(包括每张人脸或可识别物体的位置坐标X和Y、宽度和高度)保存为队列待使用。然后,进入步骤1002。
步骤1002:在已获取的人脸或可识别物体队列中依次取出人脸或可识别物体信息,每次处理一张人脸或可识别物体信息。假定该人脸或可识别物体为face1,该人脸或可识别物体宽度为face1_W,高度为face1_H,位置为相对于图片左上点原点的坐标(face1_X,face1_Y)。然后,进入步骤1003。
步骤1003:对于face1,设定前景范围可能区域。比如,当face1为人脸时,前景范围可能区域记为simpleFG。根据正常成年男性的身高头部等比例,设定:
simpleFG_W=4x faceW,
simpleFG_H=5x faceH
simpleFG_X=faceX–(simpleFG_W-faceW)/2.
simpleFG_Y=faceY–faceH/2。
前景范围可能区域是基于人脸或可识别物体矩形区域绘制的,并在人脸或可识别物体矩形区域基础上扩增。前景范围可能区域不能超过图片边界,遇到图片边界时进行截断。前景范围可能区域的面积为可调参数,区域面积越大,检测的精度越大,运算的时间越长。反之,前景范围可能区域的面积越小,容易造成一定程度的前景丢失,比如前景人像非直立站立,或肢体有其他动作都会降低检测的精确度,不过相应的处理的时间大大降低。然后,进入步骤1004。
步骤1004:对simpleFG区域内实行连通区域识别。根据对识别精度和速度的要求不同,这里可以分别采用两种不同的方法进行连通区域识别。
方法1:将当前simpleFG区域的图像提取出来,将区域内图像进行二值化处理。具体地:计算simpleFG区域内像素R,G,B的平均值K,扫描图像的每个像素值。如果像素值大于K,则像素值设为255(白色),如果像素值小于等于K,则像素值设为0(黑色)。二值化后的区域只有黑色和白色,较为容易进行连通区域的识别。在像素内扫描图像矩阵,像素值为0的像素为可用像素,与其相邻的所有黑色色块为临接像素,当扫描到连续的黑色像素大于50个后,可视为该区域为连通区域,已经被识别的连通区域全部被标记为按照自然数增长的序号,反之小于50个像素的连通区域标记为-1。已经标记过-1或自然数(非0)的像素区域将不参与下一次扫描。扫描到一个区域后,将该区域的所有坐标进行入队处理,保存留用。识别到的所有连通区域按照自然数进行编号。
该方法能够快速地识别图像中反差较大的色块为基础的连通区域,优点是速度快,如果当前图像范围小,像素低则建议使用这种二值化的方法。但是,当区域内像素的灰度值接近,较为模糊的情况下,该方法的识别率较低,不建议采用该方法。
方法2:首先,对前景范围可能区域内,特征线周围的随机点作为前景点集合,前景范围可能区域外的随机点作为背景点集合,构建混合高斯模型。然后,根据图像的像素和像素的邻域关系,构建无向图G,对前景范围可能区域内的图像选取其中一条特征线,根据选取的特征线随机选择周围的点作为前景种子点,对矩形区域外的区域进行选取作为背景集合,利用能量函数E(L)=aR(L)+B(L)计算无向图的权值,通过最大流最小割算法计算出无向图对应的最小割,从而得到一次前景区域,结合矩形区域内的连通图,根据得到的前景区域更新高斯模型,标记前景区域生长的像素点,迭代选取不同的特征线进行更新模型,实现对前景和背景的分离。
当识别了一个前景区域后,可以获得所有连通区域的信息,将这些确认为前景的区域组合起来就是当前简单区域内的前景区域,将此已识别的前景区域保存在队列中,留待下一步处理,进入步骤1005。
步骤1005:经过连通区域识别得到一个前景区域后,用户可根据当前前景区域选择是否进行下一步操作,即如果通过步骤1004得到的前景区域能够准确描述前景人物或物体的轮廓,则可跳过此步骤1005;若经过步骤1004得到的前景区域对前景人物或物体的描述不准确,有冗余或瑕疵,则用户可选进行更精确的前景区域识别。在步骤1004识别的前景连通区域基础上,用户应当在该区域内进行采样线绘制,即用若干条用户绘制的线段覆盖主要前景区域的像素,记录通过线段覆盖的像素值,将其归为准确前景区域像素值。在得到的simpleFG区域内,与绘制线段像素RGB色度接近或吻合的区域将被保留,超过阈值的区域将被剔除。此处,阈值即采样线段获取的RGB色彩的正负取值区间,阈值应当为一常数。用户每绘制一条线段,本方法都将进行一次区域筛选,然后实时将筛选后区域呈现给用户,由用户主动判断当前已筛选区域是否满足要求。将此方法迭代,当用户完成若干条线段覆盖前景区域像素色彩后或者用户主动停止绘制线段后,该迭代结束,精确前景识别方法完毕。经过步骤1005筛选的区域应该比步骤1004已识别的联通区域更小,理想情况下,步骤1005能够准确识别前景区域人物或物体。
如果在原始图片中,经过步骤1002筛选出的人脸或可识别物体信息队列中,还有人脸或可识别物体信息没有处理完毕,在步骤1005中将继续处理余下的人脸或可识别物体信息。当原始图片出现了多张人脸或可识别物体信息的时候,需要保留至少一个前景区域作为清晰区域。用户在移动设备的触摸屏上点选前景人物,由于根据步骤1002已得到前景人物的简单区域范围,此处只需要判断用户点击的坐标是否位于某个可处理的前景区域内,如果存在,则进入步骤1008,如果不存在,则不作出任何反应。当用户点选了任意一个前景区域后,该区域就将进入步骤1008的处理流程,并标记为已选择;如果用户再次点击该区域,则不作出任何反应。
步骤1005可以简化需要处理的前景区域的计算量,用于在图片中可能存在多个前景区域,如果每一个都进行处理则会非常耗时,计算简单前景区域则非常简单,用户此时选择其中任意一个前景区域则可以大大减少不必要的计算量,增加效率。
步骤1006:根据步骤1005中用户点选的前景区域,分别识别选定前景区域中的人物,将每个区域内已经识别的人体前景区域进行保存,进入已识别人体前景区域队列。系统中应当有一个机制保证用户能够结束选择前景区域动作,可以为一个选项按钮或一个超时等待,当该条件触发,前景区域选择完毕,进入步骤1007。当原始图片有且只有一个人脸或可识别物体信息,则自动进入步骤1007。如果用户未选择任何前景区域,并且满足了超时条件,则选择面积最大的一个前景区域作为指定前景区域,进入步骤1007。
步骤1007:当获取到所有的前景区域之后,为了突出前景区域,对背景区域进行高斯模糊。此处定义背景区域为所选所有前景区域外的剩余区域
根据高斯函数,得到像素的权重矩阵,将需要进行高斯模糊的区域内的像素全部乘以对应的权重矩阵值,就能得到最终的模糊图像。选取的半径越大,高斯模糊的程度越高,相应的运算时间就更长。然后,进入步骤1008。
步骤1008:将步骤1006和步骤1007分别得到的模糊背景和清晰的前景区域进行像素拷贝得到最终图像。
可见,基于本发明实施方式,提出了一种尤其适用于在移动设备上基于单张图片分离前景背景的方法和应用。本发明实施方式具有以下优点:
(1.)传统前景识别方案需要至少多张图片,本发明实施方式只需要一张包含人脸或可识别物体的静态图片即可完成准确的前景分离。
(2).在识别人脸或可识别物体的基础上自动进行背景模糊处理,达到突出前景,模仿单反照相机的效果。
(3).在多个人物同时出现的情况下,本发明实施方式可以由用户指定需要清晰化的前景区域,应用更灵活。
基于上述描述,本发明实施方式还提出了一种确定前景区域的装置。
图11是根据本发明前景区域确定装置的结构图。
如图11所示,前景区域确定装置1100包括:
特征识别模块1101,用于对图片文件执行特征识别以确定前景范围可能区域;
连通区域识别模块1102,用于在所述前景范围可能区域内执行连通区域识别以确定最大连通区域;
前景区域确定模块1103,用于确定包含特征点的特征线,并将所述最大连通区域中与所述特征点的像素颜色一致的区域确定为前景区域。
在一个实施方式中,还包括:
模糊处理模块1105,用于在所述图片文件中针对所述前景区域执行反向选择以确定背景区域,对所述背景区域执行模糊处理,合并模糊处理的背景区域和所述前景区域。
在一个实施方式中,特征识别模块1101,用于对图片文件执行人脸特征识别以确定人脸区域,基于预定的人体比例放大倍数放大所述人脸区域以确定所述前景范围可能区域;或,用于对图片文件执行物体特征识别以确定物体区域,基于预定的物体比例放大倍数放大所述物体区域以确定所述前景范围可能区域。
在一个实施方式中,还包括:
移动模块1104,用于移动所述前景范围可能区域以将人脸区域或物体区域在横轴方向上布置在所述前景范围可能区域的中央;其中:
simpleFG_X=faceX–(simpleFG_W-faceW)/2;
simpleFG_Y=faceY–faceH/2;
人脸区域或物体区域的宽度为faceW,人脸区域或物体区域的高度为faceH;人脸区域或物体区域的左上点坐标为(faceX,faceY),前景范围可能区域的左上点坐标为(simpleFG_X,simpleFG_Y)。
在一个实施方式中,前景区域确定模块1103,用于在位于人脸区域或物体区域下部的前景范围可能区域中生成纵向特征线,在位于人脸区域或物体区域下部的前景范围可能区域中生成与所述纵向特征线相交的多个横向特征线,所述横向特征线之间具有预定的间距;
用于接收用户在所述前景范围可能区域中的画线操作,基于所述画线操作生成所述特征线。
在一个实施方式中,模糊处理模块1105,用于对所述背景区域执行高斯模糊处理;和/或
对所述背景区域执行平均模糊处理。
在一个实施方式中,特征识别模块1101,用于对图片文件执行特征识别,以识别出多个候选的前景范围可能区域;基于用户的选择操作,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域;或,基于预定的自动选择策略,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域。
综上所述,本发明实施方式包括:对图片文件执行特征识别以确定前景范围可能区域;在前景范围可能区域内执行连通区域识别以确定最大连通区域;确定包含特征点的特征线,并将最大连通区域中与特征点的像素颜色一致的区域确定为前景区域。本发明实施方式无需多张图片,利用单张图片即可确定前景区域。
而且,本发明实施方式可以在识别人脸或可识别物体的基础上自动进行背景模糊处理,达到突出前景,模仿单反照相机的效果。
另外,本发明实施方式可以由用户指定需要清晰化的前景区域,应用更灵活。
以上所述,仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种前景区域确定方法,其特征在于,包括:
对图片文件执行特征识别以确定前景范围可能区域;
在所述前景范围可能区域内执行连通区域识别以确定最大连通区域;
确定包含特征点的特征线,并将所述最大连通区域中与所述特征点的像素颜色一致的区域确定为前景区域;
所述对图片文件执行特征识别以确定前景范围可能区域包括:
对图片文件执行人脸特征识别以确定人脸区域,基于预定的人体比例放大倍数放大所述人脸区域以确定所述前景范围可能区域;或
对图片文件执行物体特征识别以确定物体区域,基于预定的物体比例放大倍数放大所述物体区域以确定所述前景范围可能区域;该方法还包括:
移动所述前景范围可能区域以将人脸区域或物体区域在横轴方向上布置在所述前景范围可能区域的中央;其中:
simpleFG_X=faceX–(simpleFG_W-faceW)/2;
simpleFG_Y=faceY–faceH/2;
人脸区域或物体区域的宽度为faceW,人脸区域或物体区域的高度为faceH;人脸区域或物体区域的左上点坐标为(faceX,faceY),前景范围可能区域的左上点坐标为(simpleFG_X,simpleFG_Y),前景范围可能区域的宽度为simpleFG_W,前景范围可能区域的高度为simpleFG_H。
2.根据权利要求1所述的前景区域确定方法,其特征在于,该方法还包括:
在所述图片文件中针对所述前景区域执行反向选择以确定背景区域;
对所述背景区域执行模糊处理;
合并模糊处理的背景区域和所述前景区域。
3.根据权利要求1所述的前景区域确定方法,其特征在于,所述确定包含特征点的特征线包括:
在位于人脸区域或物体区域下部的前景范围可能区域中生成纵向特征线,在位于人脸区域或物体区域下部的前景范围可能区域中生成与所述纵向特征线相交的多个横向特征线,所述横向特征线之间具有预定的间距;
接收用户在所述前景范围可能区域中的画线操作,基于所述画线操作生成所述特征线。
4.根据权利要求1所述的前景区域确定方法,其特征在于,所述对背景区域执行模糊处理包括:
对所述背景区域执行高斯模糊处理;和/或
对所述背景区域执行平均模糊处理。
5.根据权利要求1所述的前景区域确定方法,其特征在于,所述对图片文件执行特征识别以确定前景范围可能区域包括:
对图片文件执行特征识别,以识别出多个候选的前景范围可能区域;
基于用户的选择操作,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域;或,基于预定的自动选择策略,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域。
6.一种前景区域确定装置,其特征在于,包括:
特征识别模块,用于对图片文件执行特征识别以确定前景范围可能区域;
连通区域识别模块,用于在所述前景范围可能区域内执行连通区域识别以确定最大连通区域;
前景区域确定模块,用于确定包含特征点的特征线,并将所述最大连通区域中与所述特征点的像素颜色一致的区域确定为前景区域;
所述对图片文件执行特征识别以确定前景范围可能区域包括:
对图片文件执行人脸特征识别以确定人脸区域,基于预定的人体比例放大倍数放大所述人脸区域以确定所述前景范围可能区域;或
对图片文件执行物体特征识别以确定物体区域,基于预定的物体比例放大倍数放大所述物体区域以确定所述前景范围可能区域;
还包括:
移动模块,用于移动所述前景范围可能区域以将人脸区域或物体区域在横轴方向上布置在所述前景范围可能区域的中央;其中:
simpleFG_X=faceX–(simpleFG_W-faceW)/2;
simpleFG_Y=faceY–faceH/2;
人脸区域或物体区域的宽度为faceW,人脸区域或物体区域的高度为faceH;人脸区域或物体区域的左上点坐标为(faceX,faceY),前景范围可能区域的左上点坐标为(simpleFG_X,simpleFG_Y)。
7.根据权利要求6所述的前景区域确定装置,其特征在于,还包括:
模糊处理模块,用于在所述图片文件中针对所述前景区域执行反向选择以确定背景区域,对所述背景区域执行模糊处理,合并模糊处理的背景区域和所述前景区域。
8.根据权利要求6所述的前景区域确定装置,其特征在于,
前景区域确定模块,用于在位于人脸区域或物体区域下部的前景范围可能区域中生成纵向特征线,在位于人脸区域或物体区域下部的前景范围可能区域中生成与所述纵向特征线相交的多个横向特征线,所述横向特征线之间具有预定的间距;
用于接收用户在所述前景范围可能区域中的画线操作,基于所述画线操作生成所述特征线。
9.根据权利要求6所述的前景区域确定装置,其特征在于,
模糊处理模块,用于对所述背景区域执行高斯模糊处理;和/或
对所述背景区域执行平均模糊处理。
10.根据权利要求6所述的前景区域确定装置,其特征在于,
特征识别模块,用于对图片文件执行特征识别,以识别出多个候选的前景范围可能区域;基于用户的选择操作,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域;或,基于预定的自动选择策略,从所述多个候选的前景范围可能区域中确定所述前景范围可能区域。
CN201611049251.4A 2016-11-25 2016-11-25 一种前景区域确定方法和装置 Active CN106548185B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611049251.4A CN106548185B (zh) 2016-11-25 2016-11-25 一种前景区域确定方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611049251.4A CN106548185B (zh) 2016-11-25 2016-11-25 一种前景区域确定方法和装置

Publications (2)

Publication Number Publication Date
CN106548185A CN106548185A (zh) 2017-03-29
CN106548185B true CN106548185B (zh) 2019-05-24

Family

ID=58395749

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611049251.4A Active CN106548185B (zh) 2016-11-25 2016-11-25 一种前景区域确定方法和装置

Country Status (1)

Country Link
CN (1) CN106548185B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107133967B (zh) * 2017-05-05 2019-06-28 杭州远舟医疗科技有限公司 提取目标图像的方法及装置
CN107704798B (zh) * 2017-08-09 2020-06-12 Oppo广东移动通信有限公司 图像虚化方法、装置、计算机可读存储介质和计算机设备
CN107563979B (zh) * 2017-08-31 2020-03-27 Oppo广东移动通信有限公司 图像处理方法、装置、计算机可读存储介质和计算机设备
CN107678655B (zh) * 2017-10-11 2021-12-07 上海展扬通信技术有限公司 一种图像要素提取方法及图像要素提取系统
CN107886074B (zh) * 2017-11-13 2020-05-19 苏州科达科技股份有限公司 一种人脸检测方法以及人脸检测系统
CN107920202B (zh) * 2017-11-15 2020-02-21 阿里巴巴集团控股有限公司 基于增强现实的视频处理方法、装置及电子设备
CN108093181B (zh) * 2018-01-16 2021-03-30 奇酷互联网络科技(深圳)有限公司 图片拍摄方法、装置、可读存储介质及移动终端
CN108495030A (zh) * 2018-03-16 2018-09-04 维沃移动通信有限公司 一种图像处理方法及移动终端
CN108564528A (zh) * 2018-04-17 2018-09-21 福州大学 一种基于显著性检测的肖像照片自动背景虚化方法
CN108647680B (zh) * 2018-04-28 2021-11-12 北京盒子鱼教育科技有限公司 图像定位框检测方法和装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102592268A (zh) * 2012-01-06 2012-07-18 清华大学深圳研究生院 一种分割前景图像的方法
CN102750535A (zh) * 2012-04-01 2012-10-24 北京京东世纪贸易有限公司 自动提取图像前景的方法和系统
CN103679764A (zh) * 2012-08-31 2014-03-26 西门子公司 一种图像生成方法及装置
CN105005980A (zh) * 2015-07-21 2015-10-28 深圳Tcl数字技术有限公司 图像处理方法及装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2006201210A1 (en) * 2006-03-23 2007-10-11 Canon Information Systems Research Australia Pty Ltd Motion characterisation
US8175379B2 (en) * 2008-08-22 2012-05-08 Adobe Systems Incorporated Automatic video image segmentation

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102592268A (zh) * 2012-01-06 2012-07-18 清华大学深圳研究生院 一种分割前景图像的方法
CN102750535A (zh) * 2012-04-01 2012-10-24 北京京东世纪贸易有限公司 自动提取图像前景的方法和系统
CN103679764A (zh) * 2012-08-31 2014-03-26 西门子公司 一种图像生成方法及装置
CN105005980A (zh) * 2015-07-21 2015-10-28 深圳Tcl数字技术有限公司 图像处理方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"基于模糊估计融合显著性检测的自动抠图算法";裴晓康 等;《计算机应用研究》;20121031;第1-2节

Also Published As

Publication number Publication date
CN106548185A (zh) 2017-03-29

Similar Documents

Publication Publication Date Title
CN106548185B (zh) 一种前景区域确定方法和装置
US9153031B2 (en) Modifying video regions using mobile device input
Biswas et al. Gesture recognition using microsoft kinect®
US9792676B2 (en) System for background subtraction with 3D camera
JP4898800B2 (ja) イメージセグメンテーション
CN110751655B (zh) 一种基于语义分割和显著性分析的自动抠图方法
US9042662B2 (en) Method and system for segmenting an image
KR101303877B1 (ko) 얼굴 검출과 피부 영역 검출을 적용하여 피부의 선호색변환을 수행하는 방법 및 장치
TW201123081A (en) Method and system for picture segmentation and method for image matting of a picture
JP2018045693A (ja) 動画像背景除去方法及び動画像背景除去システム
EP2276234A1 (en) Image processing device, camera, image processing method, and program
CN104508680A (zh) 改善之视讯追踪
WO2022110969A1 (zh) 无监督图像分割方法、电子设备和存储介质
JP6157165B2 (ja) 視線検出装置及び撮像装置
CN101339661A (zh) 一种基于手持设备运动检测的实时人机交互方法和系统
JP2010239440A (ja) 画像合成装置及びプログラム
CN101930606A (zh) 一种图像边缘检测的景深扩展方法
CN109064525A (zh) 一种图片格式转换方法、装置、设备和存储介质
WO2023197780A1 (zh) 图像处理方法、装置、电子设备及存储介质
JP2009205283A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
CN112839167B (zh) 图像处理方法、装置、电子设备及计算机可读介质
US20080199073A1 (en) Red eye detection in digital images
TW200527319A (en) Chin detecting method, chin detecting system and chin detecting program for a chin of a human face
JP2016152467A (ja) 追尾装置、追尾方法及び追尾プログラム
JP6776532B2 (ja) 画像処理装置、撮像装置、電子機器及び画像処理プログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant