CN105531741A - 摄像图像的主要脸部图像决定装置和其控制方法及其控制程序 - Google Patents

摄像图像的主要脸部图像决定装置和其控制方法及其控制程序 Download PDF

Info

Publication number
CN105531741A
CN105531741A CN201480049922.XA CN201480049922A CN105531741A CN 105531741 A CN105531741 A CN 105531741A CN 201480049922 A CN201480049922 A CN 201480049922A CN 105531741 A CN105531741 A CN 105531741A
Authority
CN
China
Prior art keywords
face image
photographed images
main face
main
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201480049922.XA
Other languages
English (en)
Inventor
胡学斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of CN105531741A publication Critical patent/CN105531741A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/30Scenes; Scene-specific elements in albums, collections or shared content, e.g. social network photos or video
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174Facial expression recognition
    • G06V40/176Dynamic expression

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Television Signal Processing For Recording (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

本发明所提供一种能够将参加特定活动的人物决定为许多摄像图像中的主要人物的摄像图像的主要图像决定装置和其控制方法、及该控制程序和存放该控制程序的记录介质。许多摄像图像(P1)等按活动被分组,得到摄像组(G1)等。按摄像组(G1)等进行摄像图像的脸部检测,得到脸部图像(F1)等,并得到多个脸部图像组(FG1)等。在脸部图像组(FG1)等各脸部图像组中得到主要脸部图像(RF1)等。能够将仅参加特定活动的人物的脸部图像决定为主要脸部图像,并能够生成将该主要脸部图像的人物作为主人公的电子相册。

Description

摄像图像的主要脸部图像决定装置和其控制方法及其控制程序
技术领域
本发明涉及一种摄像图像的主要脸部图像决定装置和其控制方法及其控制程序。
背景技术
在摄像图像中包括主要人物以外的其他人的脸部,或者存在各种脸部的朝向、脸部表情、照明等环境的差异,因此只通过脸部识别则不易决定主要人物。难以稳定地决定主要人物。
当由许多摄像图像生成电子相册时,由于不了解包括于摄像图像中的人物,因此有时用户确定人物(专利文献1)。制作出包括较多的特定人物的电子相册。当从许多摄像图像自动抽取利用于电子相册中的摄像图像时,多数情况下认为所拍摄的摄像图像较多的人物为主要人物,因此以包括较多的该人物的摄像图像的方式生成电子相册。
以往技术文献
专利文献
专利文献1:USP8,379,939
发明内容
发明要解决的技术课题
然而,若将许多摄像图像中所拍摄的人物作为主要人物,则无法将在某一活动中被摄像的机会较多的人物作为主要人物。
本发明的目的在于能够将在某一活动中被摄像的机会较多的人物决定为主要人物。
用于解决技术课题的手段
本发明的特征在于具备:脸部图像分组机构,将从许多摄像图像得到的许多脸部图像按活动进行分组,从而生成多个脸部图像组;及主要脸部图像决定机构,将包括于通过脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的1个或多个主要脸部图像,按脸部图像组决定为许多摄像图像的主要人物的脸部图像。
本发明也提供适合于摄像图像的主要脸部图像决定装置的控制方法。即,该方法中脸部图像分组机构将从许多摄像图像得到的许多脸部图像按活动进行分组,从而生成多个脸部图像组,主要脸部图像决定机构将包括于通过脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的1个或多个主要脸部图像,按脸部图像组决定为许多摄像图像的主要人物的脸部图像。
本发明也提供对摄像图像的主要脸部图像决定装置的计算机进行控制的程序、以及存放该程序的记录介质。
还可以具备脸部图像组混合机构,该脸部图像组混合机构将包括于通过脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的数量少于一定数量的脸部图像组汇总到1个脸部图像组。该情况下,主要脸部图像决定机构按脸部图像组来决定包括于在脸部图像组混合机构中被汇总的脸部图像组、及通过脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的主要脸部图像。
并且,脸部图像组混合机构例如将包括于通过脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的数量少于一定数量的脸部图像组,以包含一定数量以上的脸部图像的方式汇总到1个图像组。
还可以具备第1主要脸部图像判定机构,该第1主要脸部图像判定机构通过主要脸部图像决定机构来判定在按脸部图像组决定的主要脸部图像中的一个主要脸部图像和其他主要脸部图像是否表示同一个人物。
优选还具备:第2主要脸部图像判定机构,通过主要脸部图像决定机构而判定在按脸部图像组决定的主要脸部图像中的一个主要脸部图像和其他主要脸部图像是否表示同一个人物,或者表示非同一个人物;及副脸部图像判定机构,当通过第2主要脸部图像判定机构无法判定一个主要脸部图像和其他主要脸部图像是否表示同一个人物或者表示非同一个人物中的任一种时,判定包括于拍摄有一个主要脸部图像的摄像图像中的脸部图像和包括于拍摄有其他主要脸部图像的摄像图像中的脸部图像是否为同一个人物。该情况下,通过由副脸部图像判定机构来判定包括于拍摄有一个主要脸部图像的摄像图像中的脸部图像和包括于拍摄有其他主要脸部图像的摄像图像中的脸部图像为同一个人物,从而第2主要脸部图像判定机构判定一个主要脸部图像和其他主要脸部图像表示同一个人物。
例如,由副脸部图像判定机构判定包括于拍摄有一个主要脸部图像的摄像图像中的脸部图像和包括于拍摄有其他主要脸部图像的摄像图像中的脸部图像为同一个人物的次数成为规定次数以上,从而,第2主要脸部图像判定机构决定一个主要脸部图像和其他主要脸部图像表示同一个人物。
脸部图像分组机构也可以具备将许多摄像图像按活动进行分组的摄像图像分组机构。该情况下,例如,从通过摄像图像分组机构按活动进行分组的许多摄像图像,检测脸部图像并按活动生成多个脸部图像组。
脸部图像分组机构还可以具备从许多摄像图像的各摄像图像检测脸部图像的脸部图像检测机构。该情况下,将通过脸部图像检测机构检测到的许多脸部图像按活动进行分组,从而生成多个脸部图像组。
可以将摄像时间接近的摄像图像作为在同一个活动中得到的摄像图像,将摄像时间的间隔较长的摄像图像作为在不同的活动中得到的摄像图像,并将许多摄像图像按活动进行分组。
并且,还可以具备期间调节机构,该期间调节机构对被看作不同的活动的摄像时间的间隔较长的期间进行调节。
还可以具备生成电子相册的电子相册生成机构,该电子相册在通过由主要脸部图像决定机构决定的主要脸部图像而被确定的主要人物中,至少包括一个主要人物的摄像图像比其他摄像图像多。
还可以具备:显示控制机构,将显示装置控制成在显示画面显示通过主要脸部图像决定机构而决定的主要脸部图像;及主要脸部图像指定机构,在通过根据显示控制机构的控制而显示于显示装置的显示画面上的主要脸部图像中,指定至少一个主要脸部图像。该情况下,电子相册生成机构以包括通过由主要脸部图像指定机构指定的一个主要脸部图像而被确定的主要人物的摄像脸部图像比未包括上述主要人物的摄像图像多的方式,利用上述许多摄像图像生成电子相册。
显示控制机构将显示装置控制成例如在通过主要脸部图像决定机构而决定的主要脸部图像中,关于通过同一个人物脸部图像决定机构而决定为表示同一个人物的主要脸部图像,将1个主要脸部图像显示于显示画面。
发明效果
根据本发明,生成从许多摄像图像得到的许多脸部图像按活动被分组的多个脸部图像组。包括于所生成的多个脸部图像组的各脸部图像组中的脸部图像的1个或者多个主要脸部图像按脸部图像组决定为许多摄像图像的主要人物的脸部图像。由于由按活动得到的摄像图像来决定按活动的主要脸部图像(主要人物),因此能够将参加特定活动的人物决定为许多摄像图像中的主要人物。
附图说明
图1是表示电子相册生成装置的电气结构的框图。
图2是表示电子相册生成装置的处理顺序的流程图。
图3是表示电子相册生成装置的处理顺序的流程图。
图4是表示电子相册生成装置的处理顺序的流程图。
图5是表示得到主要脸部图像的状态。
图6是表示主要脸部图像与包括主要脸部图像的人物的摄像图像之间的关系。
图7是表示主要脸部图像与包括主要脸部图像的人物的摄像图像之间的关系。
图8是显示画面的一例。
图9是显示画面的一例。
图10是表示同一个人物的主要脸部图像检测处理顺序的流程图。
图11是摄像图像的一例。
图12是摄像图像的一例。
具体实施方式
图1是表示电子相册生成装置1的电气结构的框图。
通过CPU2来总括电子相册生成装置1(摄像图像的主要脸部图像决定装置)的整体动作。
在电子相册生成装置1中设置有显示装置5。该显示装置5的显示画面上形成有用于由用户对电子相册生成装置1赋予指令的触控面板6。在电子相册生成装置1中也设置有存储卡读卡器4。存放有表示许多摄像图像的图像文件的存储卡3装载于存储卡读卡器4,那些图像文件通过存储卡读卡器4而被读取。
在电子相册生成装置1中也包括CD-ROM(光盘只读存储器)驱动器8。存放有后述动作控制程序的光盘7装载于CD-ROM驱动器8,程序被读取。被读取的程序通过硬盘驱动器11被写入到硬盘12。在电子相册生成装置1中也包括通信装置13。也可以从该通信装置13下载后述动作程序。
并且,在电子相册生成装置1中也包括如键盘那样的输入装置及存储器10。
电子相册生成装置1配置于超市、便利店的店面等,但是也可以安装于用户所具有的动作控制程序的个人计算机中,从而能够将该个人计算机作为电子相册生成装置1而利用。
图2至图4是表示在电子相册生成装置1中生成电子相册的处理顺序的流程图。
通过用户,存放有表示许多摄像图像的图像文件的存储卡3装载于存储卡读卡器4。于是,存放于存储卡3中的图像文件通过存储卡读卡器4而被读取(图2的步骤21)。被读取的图像文件通过CPU2暂时存储于存储器10中。
通过被读取的图像文件而表示的许多摄像图像通过CPU2按活动被分类,生成多个摄像图像组(图2的步骤22)(摄像图像分组机构)。
参考图5,许多摄像图像P1等按时间顺序排列。在图5中随着从左侧至右侧而时间经过。在开学典礼、运动会等活动中,那些开学典礼、运动会当天拍摄很多图像。没有活动的那一天的摄像张数较少。因此,若按时间顺序排列许多摄像图像P1,则产生摄像图像的组块。如此摄像时间接近的摄像图像的组块被看作是在同一个活动中得到的摄像图像,成为与一个活动对应的一个摄像图像组。摄像时间的间隔较长的摄像图像被设为在不同的活动中得到的摄像图像,许多摄像图像按活动被分组。在图5所示的例子中,许多图像分类成摄像图像组G1至G6。在摄像图像组G1中包括摄像图像P1至Pn,在摄像图像组G2中包括摄像图像P11至P1n,在摄像图像组G3中包括摄像图像P21至P2n,在摄像图像组G4中包括摄像图像P31至P3n,在摄像图像组G5中包括摄像图像P41至P4n,在摄像图像G6中包括摄像图像P51至P5n。
若生成摄像图像组,则按摄像图像组从包括于摄像图像组中的摄像图像通过CPU2进行脸部检测,并通过CPU2生成脸部图像组(图2的步骤23)(脸部图像分组机构)。
参考图5,对包括于摄像图像组G1中的摄像图像P1等进行脸部检测,得到脸部图像F1至Fn,并生成脸部图像组FG1。对包括于摄像图像组G2中的摄像图像P11等进行脸部检测,得到脸部图像F11至F1n,并生成脸部图像组FG2。对包括于摄像图像组G3中的摄像图像P21等进行脸部检测,得到脸部图像F21至F2n,并生成脸部图像组FG3。对包括于摄像图像组G4中的摄像图像P31等进行脸部检测,得到脸部图像F31至F3n,并生成脸部图像组FG3。对包括于摄像图像组G5中的摄像图像P41等进行脸部检测,得到脸部图像F41至F4n,并生成脸部图像组FG5。对包括于摄像图像组G6中的摄像图像P51等进行脸部检测,得到脸部图像F51至F5n,并生成脸部图像组F66。
由许多摄像图像生成多个摄像组G1等,之后生成多个脸部图像组FG1等。然而,也可以从许多摄像图像检测脸部图像,并将检测到的许多脸部图像按活动分为脸部图像组。该情况下,在表示检测到的脸部图像的文件标题中存放有摄像图像的摄像日期和时间,利用该摄像日期和时间,许多脸部图像按活动分为脸部图像组。
在该实施例中,从包括于所生成的各脸部图像组中的脸部图像中决定主要脸部图像。然而,当包括于脸部图像组中的脸部图像的数量较少时(包括于摄像图像组中的摄像图像的数量较少时),有时所决定的主要脸部图像为电子相册的用户的其他人,而不是重要人物。因此,在该实施例中,通过CPU2来确认是否存在包括于脸部图像组中的脸部的数量少于一定数量的脸部图像组(图2的步骤24),当存在少于一定数量的脸部图像组时(图2的步骤24中为YES),以包括于脸部图像组中的脸部的数量成为一定数量以上的方式,通过CPU2汇总为脸部图像组(图2的步骤25)(脸部图像组混合机构)。可以考虑被汇总的脸部图像组以所包括的脸部图像的数量少的顺序构成,也可以未必一定是这种顺序。
参考图5,包括于脸部图像组FG5中的脸部图像F41等的数量少于一定数量,且包括于脸部图像组FG6中的脸部图像F51等的数量也少于一定数量。于是,这些脸部图像组FG5和FG6被汇总,被设为新的脸部图像组FG5。在新的脸部图像组FG5中,除了包括于被汇总之前的脸部图像组FG5中的脸部图像F41等以外,还包括包含于脸部图像组FG6中的脸部图像F51等。若包括于新的脸部图像组FG5中的脸部图像的数量仍少于一定数量,则进一步汇总为其他脸部图像组。
接着,按脸部图像组,通过CPU2来决定主要脸部图像(主要人物的脸部图像)(图2的步骤26)(主要脸部图像决定机构)。主要脸部图像为在包括于各脸部图像组中的脸部图像中,表示认为是同一个人的脸部的脸部图像的数量最多。尤其,并非只是脸部图像的数量,在规定大小以上的脸部图像中,可以将表示认为是同一个人的脸部的脸部图像的数量最多的设为主要脸部图像。主要脸部图像并非是一个,也可以是多个。参考图5,脸部图像组FG1、FG2、FG3、FG4及FG5的各主要脸部图像为RF1、RF2、RF3、RF4及RF5。
若主要脸部图像按脸部图像组而被决定,则从通过从存储卡3读取的图像文件而表示的许多摄像图像中,可以发现包括主要脸部图像的人物的摄像图像(图4的步骤27)。不仅从包括主要脸部图像的摄像图像组,而且从包括于其他摄像图像组中的摄像图像中,也可以发现包括主要脸部图像的人物的摄像图像。在图5中,不仅可以从摄像图像组G1,而且也可以从包括于其他摄像图像组G2至G6中的摄像图像中发现包括主要脸部图像RF1的人物的摄像图像。关于其他主要脸部图像RF2至RF5也相同。
图6是表示包括主要脸部图像的人物的摄像图像的图表。
对应于如上所述决定的主要脸部图像,存放有包括其主要脸部图像的人物的摄像图像(确定的文件名)。例如,包括主要脸部图像RF1的人物的摄像图像为P1、P2、P4、P6、P8、P9、P12、P13等,也可以从得到主要脸部图像RF1的摄像图像组G1以外的摄像图像组发现。关于其他主要脸部图像RF2至RF5也相同。
若在许多摄像图像中也发现包括主要脸部图像的人物的摄像图像,则主要脸部图像彼此通过CPU2而被比较,若存在表示同一个人物的多个主要脸部图像,则其主要脸部图像被发现(图3的步骤28)(第1主要脸部图像判定机构)。若存在表示同一个人物的多个主要脸部图像(图3的步骤29中为YES),则包括其多个主要脸部图像的人物的摄像图像被汇总(图3的步骤30)。例如,通过主要脸部图像RF1表示的人物和通过主要脸部图像RF3表示的人物设为相同的人物。包括主要脸部图像RF1的人物的摄像图像如上所述为P1、P2、P4、P6、P8、P9、P12、P13等。并且,包括主要脸部图像RF3的人物的摄像图像为P2、P4、P7……P21……P32、P33等。使这些摄像图像匹配,匹配的摄像图像成为包括通过主要脸部图像RF1(也可以为RF3)表示的人物的摄像图像(参考图7)。
若将通过主要脸部图像RF1表示的人物和通过主要脸部图像RF3表示的人物作为并非同一个人物而处理,则在利用包括通过主要脸部图像RF1而确定的人物的摄像图像来制作将通过主要脸部图像RF1表示的人物作为主人公的电子相册时,利用包括通过图6所示的主要脸部图像RF1而确定的人物的摄像图像P1、P2、P4、P6、P8、P9、P12、P13等,因此导致无法利用不包括于包含通过主要脸部图像RF1而确定的人物的摄像图像中,但包括通过主要脸部图像RF3确定的人物的摄像图像(例如摄像图像P7等)。在该实施例中,在多个主要脸部图像中,当存在表示同一个人物的主要脸部图像时,包括通过那些主要脸部图像表示的人物的摄像图像被汇总。因此,能够利用如下摄像图像来制作电子相册,该摄像图像为表示同一个人物的摄像图像,虽然不包括于包含通过一个主要脸部图像而确定的人物的摄像图像中,但包括于包含通过其他主要脸部图像确定的人物的摄像图像中。
如上所述,在通过图6所示的主要脸部图像RF1而确定的人物和通过主要脸部图像RF3而确定的人物为同一个人物的情况下,如图7所示,各摄像图像被汇总(在包括主要脸部图像RF1的人物的摄像图像中追加摄像图像P7)。
接着,在显示装置5的显示画面上一览显示主要脸部图像(图3的步骤31)。
图8是主要脸部图像一览图像的一例。
在显示装置5的显示画面的左侧,显示有如上所述而得到的主要脸部图像RF1、RF2、RF4及RF5。如图7所示,在这些主要脸部图像RF1、RF2、RF4及RF5的右侧,显示有表示包括主要脸部图像的人物的摄像图像显示区域60、63、66及69。在摄像图像显示区域60、63、66及69的上部形成有滚动条61、64、67及70。通过这些滚动条61、64、67或70被左右操作,未显示于摄像图像显示区域60、63、66及69的摄像图像在摄像图像显示区域60、63、66及69显示。
在显示画面50的右侧显示有附有“决定主人公”的文字的主人公决定按钮81、附有“修正主人公”的文字的主人公修正按钮82、附有“整合主人公”的文字的主人公整合按钮83、附有“决定相册用图像”的文字的相册用图像决定按钮84、附有“修正相册用图像”的文字的相册用图像修正按钮85及附有“制作相册”的文字的相册制作按钮86。
在从显示于显示画面50的主要脸部图像中决定成为电子相册的主人公的主要被摄物时,通过用户而触碰主人公决定按钮81。在将主要脸部图像RF1的人物要作为主人公的情况下,触碰主要脸部图像RF1(图9中用阴影线来表示被触碰)(主要脸部图像指定机构)。主人公并不限定于一个人,也可以为几个人。在主人公为几个人的情况下,通过用户而触碰多个主要脸部图像。然后,通过触碰主人公决定按钮81,生成包括被触碰的主要脸部图像RF1的人物的摄像图像的比例较多的电子相册。在修正进行触碰的主要脸部图像时利用主人公修正按钮82。如图9所示,在触碰主要脸部图像RF1之后,将其他主要脸部图像RF2、RF3或RF4的人物要作为主人公时,在触碰主要脸部图像RF1之后,通过用户而触碰主人公修正按钮82。于是,设为主人公的主要脸部图像RF1被删除。
在显示于显示画面50的主要脸部图像RF1、RF2、RF4及RF5中包括表示同一个人物的主要脸部图像时利用主人公整合按钮83。例如,若设为主要脸部图像RF1与RF2为表示同一个人物的主要脸部图像,则通过用户而触碰主要脸部图像RF1和RF2,之后,通过用户而触碰主人公整合按钮83。于是,如参考图6和图7进行的说明,包括主要脸部图像RF1的人物的摄像图像和包括主要脸部图像RF2的人物的摄像图像被汇总的显示于显示画面50上的主要脸部图像一览的结构也重新构成为包括主要脸部图像RF1的人物的摄像图像和包括主要脸部图像RF2的人物的摄像图像被汇总的主要脸部图像。
要将位于主要脸部图像RF1等的右侧的显示于摄像图像显示区域60等的摄像图像用作相册用图像时,通过用户而触碰相册用图像决定按钮。通过用户触碰显示于摄像图像显示区域60等的摄像图像,之后,若触碰相册用图像决定按钮84,则通过用户而被触碰的摄像图像利用于电子相册。若决定主人公,则以包括其主人公的摄像图像较多的方式自动地制作出电子相册,因此未必需要由用户来选择摄像图像,但通过设为用户能够选择摄像图像,用户能够指定要加入到电子相册中的摄像图像。如图9所示,摄像图像P2、P6、P33、P53等被触碰(用阴影线来表示被触碰的状态),之后,若通过用户而触碰相册图像决定按钮84,则被触碰的摄像图像P2、P6、P33、P53等包括于电子相册中。
如上所述,在修正为了包括于电子相册而通过用户而被触碰的摄像图像时利用相册用图像修正按钮85。被触碰的摄像图像再次被触碰,之后,通过用户而触碰相册图像修正按钮85,从而以包括于电子相册的方式指定的摄像图像的指定被解除。
在将所指定的主要脸部图像的人物作为主人公而自动地制作电子相册时,通过用户触碰相册制作按钮86。例如,在主要脸部图像RF1被触碰的状态下,若触碰相册制作按钮86,则以包括主要脸部图像RF1的人物的摄像图像的比例超过一半(优选为7成以上)的方式选择摄像图像而生成电子相册。
如上所述,若从主要脸部图像中决定主人公(图4的步骤34),则该主人公被存储到存储器10。并且,若通过用户从显示于摄像图像显示区域60等的摄像图像中决定所希望的摄像图像(图4的步骤36中为YES),则所决定的摄像图像作为输入于电子相册的摄像图像而存储到存储器10(图4的步骤37)。若按压相册制作按钮86,且对电子相册制作装置1赋予相册制作指令(图4步骤38中为YES),则以如上所述决定的主人公的摄像图像的比例较多的方式自动地制作出电子相册(图4的步骤39)。
图10至图12表示变形例。
图10是表示发现表示同一个人物的主要脸部图像的处理顺序(图3的步骤28的处理顺序)的流程图。
在主要脸部图像为儿童的情况下(未必限定于儿童),即使在按脸部图像组决定的多个主要脸部图像中存在表示同一个人物的主要脸部图像,有时也无法了解是否表示同一个人物。在这种情况下,当与主要脸部图像的人物一起拍摄的人物为相同的人物时,看作是该主要脸部图像人物为同一个人物。
首先,通过CPU2来进行判断,即一个主要脸部图像和其他主要脸部图像是否为同一个人物,还是非同一个人物(步骤91)。若很明确为同一个人物,则决定由这些主要脸部图像表示的人物为同一个人物(步骤97)。并且,若很明确为并非是同一个人物(非同一个人物),则决定由这些主要脸部图像表示的人物并非是同一个人物(步骤99)(第2主要脸部图像判定机构)。在无法(不能)判断一个主要脸部图像和其他主要脸部图像是否为同一个人物时,进行下一个处理。
首先,从相同的摄像图像组中,通过CPU2来发现存在与一个主要脸部图像一起拍摄的人物的摄像图像(步骤92)。例如,如图11所示,在包括于摄像图像组G1中的摄像图像P1中,人物S2被设为主要脸部图像的人物。在摄像图像P1中存在与人物S2一起拍摄的人物S1及S3,因此摄像图像P1被发现。同样地,在摄像图像P2中存在与主要脸部图像的人物S2一起拍摄的人物S3,因此摄像图像P2被发现。
接着,从相同的摄像图像组中发现存在与其他主要脸部图像一起拍摄的人物的摄像图像(步骤93)。如图12所示,在包括于摄像图像组G2中的摄像图像P11中,人物S4被设为主要脸部图像的人物。在摄像图像P11中,由于存在与人物S4一起拍摄的人物S5及S6,因此摄像图像P11被发现。同样地,在摄像图像P12中,存在与主要脸部图像的人物S4一起拍摄的人物S5,因此摄像图像P12被发现。
接着,判断与一个主要脸部图像的人物一起拍摄的人物的脸部图像和与其他主要脸部图像的人物一起拍摄的人物的脸部图像是否为同一个人物(步骤94)(副脸部图像判定机构)。例如,若判断为包括于图11所示的摄像图像P1中的人物S1及S3中的至少一人的脸部图像和包括于图12所示的摄像图像P11(也可以为其他摄像图像P12)中的人物S4及S5中的至少一人的脸部图像为同一个人物,则在步骤94的判断中成为同一个人物(步骤94中为YES)。于是,同一个判定次数被增量(步骤95)。
若同一个人物的判定次数并非是预先规定的规定次数(步骤96中为NO),则确认存在与一个主要脸部图像的人物或者其他主要脸部图像的人物一起拍摄的人物的摄像图像是否从摄像组被消除(步骤98)。若被消除,则决定一个主要脸部图像的人物和其他主要脸部图像的人物并非是同一个人物(步骤99)。若存在与一个主要脸部图像的人物或者其他主要脸部图像的人物一起拍摄的人物的摄像图像残留于摄像组(步骤98中为NO),则再次重复进行自步骤94起的处理。例如,判断在图11所示的摄像图像P2中与主要脸部图像的人物S2一起拍摄的人物S3、及在图12所示的摄像图像P12中与主要脸部图像的人物S4一起拍摄的人物S5是否为同一个人物(步骤94)。若为同一个人物,则同一判定次数被增量(步骤95)。
若判定为同一个人物的次数成为规定次数以上(步骤96),则决定一个主要脸部图像的人物和其他主要脸部图像的人物为同一个人物(步骤97)。尤其,也可以将判定为同一个人物的次数设为非规定次数,而是仅通过一次判定来决定一个主要脸部图像的人物和其他主要脸部图像的人物为同一个人物。
在上述实施例中,如图8等所示,主要脸部图像RF1等显示于显示画面50,并从所显示的主要脸部图像RF1等中通过用户选择电子相册的主人公,但也可以不显示主要脸部图像RF1等,而是从主要脸部图像RF1等中自动地决定电子相册的主人公。该情况下,例如,在主要脸部图像的人物中,可以考虑将所拍摄的摄像张数最多的人物作为主人公,但也可以通过其他方法来决定主人公。
如图5所示,许多摄像图像根据摄像时间被分为摄像图像组,但也可以从电子相册生成装置1的输入装置9赋予对被看作是不同的活动的摄像时间间隔较长的期间进行调节的指令。以从输入装置9赋予的期间以上的间隔较长的摄像图像组块被设为一个摄像图像组。由于儿童的成长较快,因此,即使由摄像图像组决定的主要脸部图像为相同的儿童,有时也会判定为不同的人物,因此使摄像时间间隔不长的摄像图像包括于一个摄像图像组。因此,要将儿童作作为主人公时,以摄像组的间隔较短的方式通过输入装置9来调节期间。
符号说明
1-电子相册生成装置(摄像图像的主要脸部图像决定装置),2-CPU(脸部图像分组机构、主要脸部图像决定机构、脸部图像组混合机构、第1主要脸部图像判定机构、第2主要脸部图像判定机构、副脸部图像判定机构、摄像图像分组机构、显示控制机构、电子相册生成机构),6-触控面板(主要脸部图像指定机构),7-CD-ROM(存放程序的记录介质)。

Claims (16)

1.一种摄像图像的主要脸部图像决定装置,其具备:
脸部图像分组机构,将从许多摄像图像得到的许多脸部图像按活动进行分组,从而生成多个脸部图像组;及
主要脸部图像决定机构,将包括于通过上述脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的1个或多个主要脸部图像,按脸部图像组决定为许多摄像图像的主要人物的脸部图像。
2.根据权利要求1所述的摄像图像的主要脸部图像决定装置,其还具备:
脸部图像组混合机构,将包括于通过上述脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的数量少于一定数量的脸部图像组汇总到1个脸部图像组,
上述主要脸部图像决定机构将包括于在上述脸部图像组混合机构中被汇总的脸部图像组、及通过上述脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的主要脸部图像,按脸部图像组决定为许多摄像图像的主要人物的脸部图像。
3.根据权利要求2所述的摄像图像的主要脸部图像决定装置,其中,
上述脸部图像组混合机构将包括于通过上述脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的数量少于一定数量的脸部图像组,汇总为1个脸部图像组以包括一定数量以上的脸部图像。
4.根据权利要求1至3中任一项所述的摄像图像的主要脸部图像决定装置,其还具备:
第1主要脸部图像判定机构,判定通过上述主要脸部图像决定机构按脸部图像组决定的主要脸部图像中的一个主要脸部图像和其他主要脸部图像是否表示同一个人物。
5.根据权利要求1至3中任一项所述的摄像图像的主要脸部图像决定装置,其还具备:
第2主要脸部图像判定机构,判定通过上述主要脸部图像决定机构按脸部图像组决定的主要脸部图像中的一个主要脸部图像和其他主要脸部图像是表示同一个人物还是表示非同一个人物;及
副脸部图像判定机构,当通过上述第2主要脸部图像判定机构无法判定一个主要脸部图像和其他主要脸部图像是表示同一个人物还是表示非同一个人物中的任一种时,判定包括于拍摄有一个主要脸部图像的摄像图像中的脸部图像和包括于拍摄有其他主要脸部图像的摄像图像中的脸部图像是否为同一个人物,
通过由上述副脸部图像判定机构判定出包括于拍摄有一个主要脸部图像的摄像图像中的脸部图像和包括于拍摄有其他主要脸部图像的摄像图像中的脸部图像为同一个人物,从而上述第2主要脸部图像判定机构判定出一个主要脸部图像和其他主要脸部图像表示同一个人物。
6.根据权利要求5所述的摄像图像的主要脸部图像决定装置,其中,
通过由上述副脸部图像判定机构判定出包括于拍摄有一个主要脸部图像的摄像图像中的脸部图像和包括于拍摄有其他主要脸部图像的摄像图像中的脸部图像为同一个人物的次数成为规定次数以上,从而上述第2主要脸部图像判定机构决定出一个主要脸部图像和其他主要脸部图像表示同一个人物。
7.根据权利要求1至6中任一项所述的摄像图像的主要脸部图像决定装置,其中,
上述脸部图像分组机构具备将许多摄像图像按活动进行分组的摄像图像分组机构,
上述脸部图像分组机构从通过上述摄像图像分组机构按活动进行分组的许多摄像图像之中检测脸部图像,并按活动生成多个脸部图像组。
8.根据权利要求1至6中任一项所述的摄像图像的主要脸部图像决定装置,其中,
上述脸部图像分组机构还具备从许多摄像图像的各摄像图像之中检测脸部图像的脸部图像检测机构,
上述脸部图像分组机构将通过上述脸部图像检测机构检测到的许多脸部图像按活动进行分组,从而生成多个脸部图像组。
9.根据权利要求7或8所述的摄像图像的主要脸部图像决定装置,其中,
将摄像时间接近的摄像图像作为在同一个活动中得到的摄像图像,将摄像时间间隔开的摄像图像作为在不同的活动中得到的摄像图像,并将许多摄像图像按活动进行分组。
10.根据权利要求9所述的摄像图像的主要脸部图像决定装置,其还具备:
期间调节机构,对被看作不同的活动的摄像时间间隔开的期间进行调节。
11.根据权利要求1至10中任一项所述的摄像图像的主要脸部图像决定装置,其还具备:
生成电子相册的电子相册生成机构,该电子相册在通过由上述主要脸部图像决定机构决定的主要脸部图像而被确定的主要人物中,至少包括一个主要人物的摄像图像比其他摄像图像多。
12.根据权利要求11所述的摄像图像的主要脸部图像决定装置,其还具备:
显示控制机构,控制显示装置,使得在显示画面显示通过上述主要脸部图像决定机构而决定的主要脸部图像;及
主要脸部图像指定机构,在通过根据上述显示控制机构的控制而显示于显示装置的显示画面上的主要脸部图像中,指定至少一个主要脸部图像,
上述电子相册生成机构利用上述许多摄像图像而生成电子相册,使得包括通过由上述主要脸部图像指定机构指定的一个主要脸部图像而被确定的主要人物的摄像脸部图像比未包括上述主要人物的摄像图像多。
13.根据权利要求12所述的摄像图像的主要脸部图像决定装置,其中,
上述显示控制机构控制显示装置,使得在通过上述主要脸部图像决定机构而决定的主要脸部图像中,关于通过上述同一个人物脸部图像决定机构而决定为表示同一个人物的主要脸部图像,将1个主要脸部图像显示于显示画面。
14.一种摄像图像的主要脸部图像决定装置的控制方法,其中,
脸部图像分组机构将从许多摄像图像得到的许多脸部图像按活动进行分组,从而生成多个脸部图像组,
主要脸部图像决定机构将包括于通过上述脸部图像分组机构而生成的多个脸部图像组的各脸部图像组中的脸部图像的1个或多个主要脸部图像,按脸部图像组决定为许多摄像图像的主要人物的脸部图像。
15.一种程序,其为对摄像图像的主要脸部图像决定装置的计算机进行控制的计算机可读取的程序,控制摄像图像的主要脸部图像决定装置的计算机,使得:
将从许多摄像图像得到的许多脸部图像按活动进行分组,从而生成多个脸部图像组,
将包括于所生成的多个脸部图像组的各脸部图像组中的脸部图像的1个或多个主要脸部图像,按脸部图像组决定为许多摄像图像的主要人物的脸部图像。
16.一种记录介质,其存放权利要求15所述的程序。
CN201480049922.XA 2013-09-26 2014-07-03 摄像图像的主要脸部图像决定装置和其控制方法及其控制程序 Pending CN105531741A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013199212A JP6018029B2 (ja) 2013-09-26 2013-09-26 撮像画像の主要顔画像決定装置ならびにその制御方法およびその制御プログラム
JP2013-199212 2013-09-26
PCT/JP2014/067736 WO2015045543A1 (ja) 2013-09-26 2014-07-03 撮像画像の主要顔画像決定装置ならびにその制御方法およびその制御プログラム

Publications (1)

Publication Number Publication Date
CN105531741A true CN105531741A (zh) 2016-04-27

Family

ID=52742701

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480049922.XA Pending CN105531741A (zh) 2013-09-26 2014-07-03 摄像图像的主要脸部图像决定装置和其控制方法及其控制程序

Country Status (5)

Country Link
US (1) US9832439B2 (zh)
EP (1) EP3051491A4 (zh)
JP (1) JP6018029B2 (zh)
CN (1) CN105531741A (zh)
WO (1) WO2015045543A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108021669A (zh) * 2017-12-05 2018-05-11 广东欧珀移动通信有限公司 图像分类方法和装置、电子设备、计算机可读存储介质
CN108076268A (zh) * 2016-11-15 2018-05-25 谷歌有限责任公司 基于对象距离信息提供自动对焦能力的设备、系统和方法
CN108108415A (zh) * 2017-12-13 2018-06-01 广东欧珀移动通信有限公司 图像处理方法、装置、存储介质和电子设备
CN108549648A (zh) * 2018-02-26 2018-09-18 努比亚技术有限公司 人物图片处理方法、终端及计算机可读存储介质

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021262183A1 (en) 2020-06-25 2021-12-30 Google Llc Automatic generation of people groups and image-based creations

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101657815A (zh) * 2007-04-13 2010-02-24 日本电气株式会社 照片分组设备、照片分组方法以及照片分组程序
CN102323936A (zh) * 2011-08-31 2012-01-18 宇龙计算机通信科技(深圳)有限公司 对照片进行自动分类的方法及装置
CN102687146A (zh) * 2009-10-27 2012-09-19 苹果公司 用于生成和标记照片集合中的事件的方法和系统

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001167110A (ja) * 1999-12-08 2001-06-22 Matsushita Electric Ind Co Ltd 画像検索方法及びその装置
US7564994B1 (en) * 2004-01-22 2009-07-21 Fotonation Vision Limited Classification system for consumer digital images using automatic workflow and face detection and recognition
JP4547214B2 (ja) * 2004-09-10 2010-09-22 富士フイルム株式会社 電子アルバム表示システム、電子アルバム表示方法、及びプログラム
US7783135B2 (en) * 2005-05-09 2010-08-24 Like.Com System and method for providing objectified image renderings using recognition information from images
JP2007060563A (ja) 2005-08-26 2007-03-08 Fujifilm Holdings Corp 画像処理装置、画像処理方法及び画像処理プログラム
JP2007199923A (ja) 2006-01-25 2007-08-09 Fujifilm Corp 画像分類装置および方法並びにプログラム
JP4725377B2 (ja) * 2006-03-15 2011-07-13 オムロン株式会社 顔画像登録装置、顔画像登録方法、顔画像登録プログラム、および記録媒体
US8699857B2 (en) * 2007-12-06 2014-04-15 Olympus Imaging Corp. Reproducer, digital camera, slide show reproduction method, program, image display apparatus, image display method, image reproduction method, and image display program
JP4856105B2 (ja) * 2008-01-31 2012-01-18 株式会社東芝 電子機器および表示処理方法
JP2009201041A (ja) * 2008-02-25 2009-09-03 Oki Electric Ind Co Ltd コンテンツ検索装置およびその表示方法
AU2008264197B2 (en) * 2008-12-24 2012-09-13 Canon Kabushiki Kaisha Image selection method
US8379939B1 (en) 2009-09-08 2013-02-19 Adobe Systems Incorporated Efficient and scalable face recognition in photo albums
JP4768846B2 (ja) * 2009-11-06 2011-09-07 株式会社東芝 電子機器及び画像表示方法
JP4709929B2 (ja) * 2010-01-28 2011-06-29 株式会社東芝 電子機器および表示制御方法
JP5739428B2 (ja) * 2010-08-04 2015-06-24 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 画像分類装置、方法、プログラム、プログラムを記録する記録媒体及び集積回路
JP2012075020A (ja) 2010-09-29 2012-04-12 Nec Personal Computers Ltd 画像処理装置、撮像装置、顔画像認識方法及びプログラム
JP2012114559A (ja) * 2010-11-22 2012-06-14 Jvc Kenwood Corp 映像処理装置、映像処理方法及び映像処理プログラム
JP5870742B2 (ja) * 2012-02-20 2016-03-01 ソニー株式会社 情報処理装置、システムおよび情報処理方法
US8891883B2 (en) * 2012-05-15 2014-11-18 Google Inc. Summarizing a photo album in a social network system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101657815A (zh) * 2007-04-13 2010-02-24 日本电气株式会社 照片分组设备、照片分组方法以及照片分组程序
CN102687146A (zh) * 2009-10-27 2012-09-19 苹果公司 用于生成和标记照片集合中的事件的方法和系统
CN102323936A (zh) * 2011-08-31 2012-01-18 宇龙计算机通信科技(深圳)有限公司 对照片进行自动分类的方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
TONG ZHANG等: "Face based image navigation and search", 《PROCEEDINGS OF THE 17TH ACM INTERNATIONAL CONFERENCE ON MULTIMEDIA》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108076268A (zh) * 2016-11-15 2018-05-25 谷歌有限责任公司 基于对象距离信息提供自动对焦能力的设备、系统和方法
CN108076268B (zh) * 2016-11-15 2020-04-10 谷歌有限责任公司 用于自动对焦的方法及相关的成像设备和存储介质
CN108021669A (zh) * 2017-12-05 2018-05-11 广东欧珀移动通信有限公司 图像分类方法和装置、电子设备、计算机可读存储介质
CN108108415A (zh) * 2017-12-13 2018-06-01 广东欧珀移动通信有限公司 图像处理方法、装置、存储介质和电子设备
WO2019114508A1 (zh) * 2017-12-13 2019-06-20 Oppo广东移动通信有限公司 图像处理方法、装置、计算机可读存储介质和电子设备
CN108108415B (zh) * 2017-12-13 2020-07-21 Oppo广东移动通信有限公司 图像处理方法、装置、存储介质和电子设备
CN108549648A (zh) * 2018-02-26 2018-09-18 努比亚技术有限公司 人物图片处理方法、终端及计算机可读存储介质

Also Published As

Publication number Publication date
EP3051491A4 (en) 2016-11-16
JP2015064811A (ja) 2015-04-09
US20160203366A1 (en) 2016-07-14
US9832439B2 (en) 2017-11-28
JP6018029B2 (ja) 2016-11-02
EP3051491A1 (en) 2016-08-03
WO2015045543A1 (ja) 2015-04-02

Similar Documents

Publication Publication Date Title
CN105531741A (zh) 摄像图像的主要脸部图像决定装置和其控制方法及其控制程序
CN108028054B (zh) 对自动生成的音频/视频展示的音频和视频分量进行同步
CN102770874B (zh) 用户图像集中的自适应事件时间线
US9996537B2 (en) Systems and methods for automatic narrative creation
Henley et al. The patchworks code editor: Toward faster navigation with less code arranging and fewer navigation mistakes
CN105074771B (zh) 图像检索装置及其动作控制方法、以及图像检索服务器
US20200279422A1 (en) Apparatus, method and medium
US11068133B2 (en) Electronic album apparatus and method of controlling operation of same
EP0818729A2 (en) Information processing unit
TWI435268B (zh) 電腦執行用於產生與事件有關圖形表示之方法與系統
CN110958493A (zh) 一种弹幕调整方法、装置、电子设备和存储介质
CN108780654A (zh) 生成用于视频的移动缩略图
RU2004119836A (ru) Система и способ фильтрации и организации элементов на основе общих свойств
CN101889282A (zh) 代表图像显示装置及代表图像选择方法
JP5216591B2 (ja) 画像を閲覧することを可能にする方法及び装置
Walber et al. Smart photo selection: Interpret gaze as personal interest
CN104239527B (zh) 一种筛选图片的方法、装置及终端
JP2024079797A (ja) 画像候補決定装置,画像候補決定方法,ならびに画像候補決定装置を制御するプログラムおよびそのプログラムを格納した記録媒体
JP2009301119A (ja) 画像表示装置
Chen Exploratory browsing: enhancing the browsing experience with media collections
JP2010128754A (ja) 情報処理装置、表示制御方法、及びプログラム
CN1867892B (zh) 用户接口软件设计系统
CN108920536A (zh) 一种数据呈现方法、电子设备和可读存储介质
WO2014156560A1 (ja) 電子アルバム不足画像検索装置およびその動作制御方法
KR101545386B1 (ko) 포토앨범 제작 방법 및 시스템

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20160427