CN101755303B - 采用语义分类器的自动题材创建 - Google Patents

采用语义分类器的自动题材创建 Download PDF

Info

Publication number
CN101755303B
CN101755303B CN200880018884.6A CN200880018884A CN101755303B CN 101755303 B CN101755303 B CN 101755303B CN 200880018884 A CN200880018884 A CN 200880018884A CN 101755303 B CN101755303 B CN 101755303B
Authority
CN
China
Prior art keywords
resource
subject matter
user
image
product
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN200880018884.6A
Other languages
English (en)
Other versions
CN101755303A (zh
Inventor
C·D·纽厄尔
M·D·伍德
K·M·科斯特洛
R·B·佩特克
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mau new gate Venture Capital Co., Ltd.
Original Assignee
Eastman Kodak Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US11/758,358 external-priority patent/US20080306995A1/en
Application filed by Eastman Kodak Co filed Critical Eastman Kodak Co
Publication of CN101755303A publication Critical patent/CN101755303A/zh
Application granted granted Critical
Publication of CN101755303B publication Critical patent/CN101755303B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/435Filtering based on additional data, e.g. user or group profiles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/438Presentation of query results
    • G06F16/4387Presentation of query results by the use of playlists
    • G06F16/4393Multimedia presentations, e.g. slide shows, multimedia albums
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/48Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • G11B27/32Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier
    • G11B27/322Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording on separate auxiliary tracks of the same or an auxiliary record carrier used signal is digitally coded

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Library & Information Science (AREA)
  • Television Signal Processing For Recording (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Processing Or Creating Images (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

一种用于基于存储在数据库中的媒体资源自动地创建图像产品的方法和系统。分析大量存储的数字媒体文件以确定其与事件的语义关系并根据要求和语义规则分类以生成图像产品。将规则组应用于资源以便找到可以包括在题材产品中的一个或多个资源。包括最佳地满足图像产品的要求和规则的资源。

Description

采用语义分类器的自动题材创建
技术领域
本发明关于多媒体制作方法、系统、软件和产品发行媒体。特别是,本发明基于用户的存储的媒体文件自动生成单媒体或多媒体呈现,从而为需要最低的用户工作量的用户自动生成定制题材(story)。
背景技术
观看以在文中被称为“题材”的单媒体或多媒体主题呈现的形式、或者以硬拷贝主题相册的形式的图像要比浏览很多随机的硬拷贝印刷品或者看采用幻灯片投影仪、计算机或电视按顺序呈现的静止图像的随机序列更吸引人,此点是人们广泛认可的。向所述呈现有选择地添加例如适合图像内容的声迹的其他元素,在图像之间插入有趣的过渡,添加视频或者包括渐变和渐隐、图像拼贴、背景和边框以及色化处理的各种视频样式特效使所述呈现对于观看者来说有趣得多,而且能够极大地增强所呈现的图像的情感内容。家庭中的能够适应包括DVD、视频CD播放器、家庭媒体服务器和高清晰度数字显示器的多媒体的基于电视的新观看平台的激增也增加了对这类题材或呈现的需求。
对于普通摄影消费者而言,目前,静止图像的多媒体呈现或相册的创建还不是很容易或很方便。数字图像资源的选择和布局可能是一个非常重要而又很耗时的过程。即使可以得到以数字形式的图像,消费者也必须具有带有诸如Macromedia DirectorTM或Adobe PremierTM的多媒体制作软件工具的设施,以创建此类呈现。这些软件工具尽管非常灵活,但是其目标更多地面向专业的呈现创建者,这些软件工具具有多个功能选项并且需要大量的时间和经验来提高使用这些功能获益所需的技能。最近,诸如Shockwave.comTM提供的PHotojamTM的基于模板的多媒体呈现应用、或者诸如Apple的i-MovieTM的基于PC的“movie making(电影制作)”应用已经变得可用了。尽管这些应用能够为消费者简化多媒体呈现的创建,但是它们对于很多题材制作选项的自动化没有帮助。当前的应用经常要求用户选择呈现主题并选择诸如图片、视频和音乐之类的、用来自动生成图像产品的资源。此外,这些应用也不能提供诸如针对特殊的场合、节日、周年纪念日或者针对所选定的其他事件或日期来自动生成图像产品的方法。
因而,仍然需要一种自动制作系统,在所述系统中,缺乏经验的用户能够接收自动生成的单媒体或多媒体题材,并且通过各种渠道获得具有适用于各种类型的呈现装置的各种格式的呈现副本。
发明内容
作为对这些和其他需求的回应,并且根据本发明的一个优选实施例,提供了一种用于自动生成用户所提供的一组数字媒体文件的定制题材、图像产品或在数字存储设备上的呈现的方法,其包括步骤:对所述数字媒体文件进行分析,以获得包括元数据的语义信息,以及结合所选的呈现格式并在用户可以观看的介质上组织所述数字图像资源,所述格式是根据所述语义和元数据信息被自动选择的或者是由用户或由计算机系统预选的。
本发明的另一优选实施例是用于从资源(静止图像、视频、音乐、公开内容)的收集中、利用应用于所述收集的指定模板规则来进行自动题材创建的方法、软件和程序化计算机系统。所述模板规则依赖于与所述资源相关的元数据、个人简档和/或从用户获取的用户偏好数据。元数据可以采取EXIF数据、来自图像理解和分类算法的索引值、GPS数据和/或个人简档/偏好的形式。这些规则或其子集在被自动应用于系统内的收集时,将生成用于通过多媒体输出引擎呈递的题材。可以在各种存储媒体上将题材递送给用户,所述存储媒体诸如CD、DVD、磁盘和便携式闪速存储媒体。可以经由蜂窝网络、由卫星提供商、或者通过本地有线区域网来传输所述题材。用户可以在诸如PDA和蜂窝电话之类的各种手持显示设备上接收并观看所述题材。可以在家中接收所述题材,并将其显示在计算机、电视上,或者将其通过影院型投影系统加以显示。
本发明的另一优选实施例包括用于自动创建图像产品的方法,其包括获得与诸如生日、节日、周年纪念日或其他场合之类的事件相关的多个数字媒体文件的步骤。基于对数字媒体文件的分析以及基于所述分析自动确定输出产品的格式、并且然后根据所述输出图像产品的要求选择所述数字媒体文件中的哪些将被包括,来完成对事件的分类。
本发明的另一优选实施例包括程序存储设备,其存储用于在计算机系统上运行的计算机程序。所述程序能够利用存在于所述计算机系统中的多个数字媒体文件来自动生成图像产品。所述程序被设计为首先检测图像产品触发,所述触发可以是日历日期、用户对图像产品的请求或者向计算机系统上载多个数字媒体文件(诸如图像、声音文件、视频等)。如果所述触发是例如日历事件,那么所述程序对多个与事件相关的数字媒体文件进行定位,或者如果所述触发是媒体文件的上载,那么所述程序将判断所述媒体文件是否满足输出产品格式类型。所述程序基于分析与数字媒体文件相关的元数据来自动地将所述多个数字媒体文件进行分类,并基于所述分类步骤自动选择那些满足输出产品格式类型的文件。基于诸如图像值索引的各种量度中的一种或多种对所选择的媒体文件进行排列,以及以与事件相关的适当的图像产品格式来包括一些或全部经排列的文件。
本发明所设想的其他实施例包括计算机可读媒体和程序存储设备,其有形地体现或承载可以由机器或处理器读取的指令程序,从而使所述机器或计算机处理器运行存储在其上的指令或数据结构。此类计算机可读媒体可以是通用计算机或专用计算机能够访问的任何可用媒体。例如,此类计算机可读媒体可以包括物理计算机可读媒体诸如RAM、ROM、EEPROM、CD-ROM或其他光盘存储器、磁盘存储器或其他磁存储设备。能够用来承载或存储能够由通用或专用计算机访问的软件程序的任何其他媒体都被认为落在本发明的范围内。
在结合下述说明和附图考虑时,本发明的这些以及其他方面和目的将得到更好的认识和理解。但是,应当理解,下述说明尽管指示本发明的优选实施例及其诸多具体细节,但是下述说明是从举例说明的意义上而不是限定的意义上给出的。在不背离本发明的精神的情况下,可以在本发明的范围内进行许多变更和修改,并且本发明包括所有此类修改。
附图说明
图1示出了利用本发明的计算机系统的一些方面;
图2示出了本发明实施例可能用来生成产品资源(product asset)之间的语义关系的示例性元数据元素;
图3示出了用于输入与人相关的元数据的用户界面的实施例;
图4示出了用于输入与图像相关的元数据的用户界面的实施例;
图5示出了本发明的一个实施例所利用的示例性语义网络;
图6示出了本发明的实施例所利用的第二示例性语义网络;
图7示出了用于实现本发明的一个实施例的一部分的程序逻辑;
图8是示出了生成图像产品的方法的流程图;
图9是示出了生成图像产品的第二方法的流程图;
图10示出了图像产品的示例性用户编辑的版本;
图11示出了用于发送图像产品已完成的通知以及用于发送图像产品本身的通信方案;以及
图12示出了规则以及使其工作所需的相关元数据和/或算法。
具体实施方式
概述:
关于图1,其示出了在合作实施中互相作用以实现本发明的若干基本计算机系统组件。该图的顶部116表示用户接口组件的实施例,该用户接口组件包括资源上载器101、题材观看器102和题材通知器103。资源上载器101用于上载媒体资源,例如,静止图片、照片、音频、视频、图像、图形、音乐等。例如,可以将数字资源表示为各种类型和格式的文件,诸如JPEG、GIF、MPEG。可以从诸如数字照相机、蜂窝电话、多功能手持设备、扫描仪、记录装置等资源捕获装置上载数字媒体资源。可以将这些装置手动地连接至计算机以进行上载,或者这些装置可以通过无线协议与计算机通信,或者所述装置可以在资源捕获过程中保持附着于计算机,因为很多计算机可以配备扩音器和照相机等。也可以从诸如因特网的网络下载资源并将其存储在计算机上。
题材观看器102可以用于在耦合到计算机系统的监视器或其他显示装置上观看图像产品或其他媒体资源,且题材观看器102可以包括用于编辑媒体资源的能力。许多计算机实现的图像编辑应用在本领域中众所周知,在此不再对其做进一步的说明。尽管将其称为题材观看器,但是在题材观看器中也可以包括数字音频资源的音频回放,其中,所述回放可以与观看图像资源同时进行,也可以与其分开进行。
题材观看器可以利用到网络的计算机系统连接(诸如因特网连接)来向另一计算机系统发送或从另一计算机系统接收所完成的多媒体题材。还可以利用网络连接来通过蜂窝网络向诸如有多媒体能力的蜂窝电话或PDA之类的手持设备发送所完成的题材或其他媒体资源收集,或者发送至打印机以打印题材。本发明的区别性特征之一是选择算法,其自动选择媒体资源并对其排序。
题材通知器103用于自动通知用户系统已经生成了图像产品。题材通知器可以通过网络向另一计算机发送通知,利用到RSS源(RSS feed)的计算机系统连接以发送已经生成了题材的通知,或者通过蜂窝网络向诸如蜂窝电话或PDA之类的手持设备发送通知。在后一种情况下,可以在计算机系统上实现SMS(短消息系统)协议。还可以将计算机系统编程为经由显示屏消息或者通过音频信号通知用户。用户还可以访问题材通知器以使用任何上述手段将通知转发到另一设备。
尽管图1示出了适于实现本发明的计算机系统组件的类型的示例(其基于客户-服务器范例),但是读者应当认识到,在不对本发明做出根本性改变的情况下可以用其他方式构造所述系统组件。特别是,所示出的系统组件可以全部存在于同一主机系统上,或者它们可以像在分布式计算机系统中那样以多种方式跨越不同主机之间的大或小的计算机网络进行分布。例如,题材通知器、资源上载器、资源存储器等可以每个均存在于通过LAN或WAN耦合的一个或多个单独的主机系统上。此外,这些主机系统中的每一个可以由一个或多个服务提供商操作,每一提供商提供专门的服务并收费。文中描述的功能可以存在于诸如家庭媒体服务器的设备上,所述设备本身可能与诸如Kodak GalleryTM的一种或多种在线服务通信。
图1的底部117示出了所述计算机系统的后端组件。在优选实施例中,后端系统组件117经由中间数据库113在它们之间传递信息。可以通过划分、复制等以各种方式配置该数据库。所述数据库可以归不同的人所有,或者只能通过用户帐户口令访问。可以通过公共信息站提供访问。本领域技术人员应当认识到,也可以使用包括系统总线、网络分组(因特网和蜂窝网络)、消息传递和发布-订阅的其他通信范例。此外,后端组件117可以被多个用户共享,用于因特网连接的设备的基于web的服务典型地就是这种情况。在该优选实施例中,资源存储器112和数据库113将包含来自多个用户的资源和信息。通常,所述资源存储器将包含资源,且所述数据库将包含元数据。
参考前端用户界面,用户通过激活资源上载器101来将选定的资源引入系统数据库内。然后,此组件与资源输入104组件通信。资源输入用于将资源的副本存储到资源存储器112内,并告知系统管理器107上载已完成。资源输入组件可以位于计算机系统上,或者其可以位于本地地或通过网络连接至计算机的服务器上。在一个优选实施例中,资源输入和系统管理器之间的通信是通过数据库113发生的,但是,可以将每一后端组件实现为直接与系统管理器107通信。为了便于举例说明,图1没有示出系统管理器107和各种其他后端系统组件之间的连接线,但是,组件104-106、108-110、112-113和115全部耦合至系统管理器。系统管理器107通过语义索引器实用程序(Indexer Utility)110发起语义索引过程,由此从上载的资源的元数据提取或导出各种语义信息,并将其存储在数据库113中。例如,这些语义索引算法可以包括用于将图像资源中所描绘的场景分类成一个或多个场景类型(即海滩、室内、户外等)的场景分类器、用于确定图像中脸的存在的脸部检测和采用面部特征识别图像中的人的脸部识别。将所导出的信息作为元数据与相应的图像资源存储在一起。人物识别是采用面部特征和/或诸如衣物识别的其他上下文信息对人的识别。索引器110还包括事件分割算法,其自动地将未经组织的资源集合分类、分割、并群集为单独的事件和子事件。
语义索引器110包括元数据提取机构,其用于提取已经包含在数字资源内的元数据,例如,如上文所解释的由数字照相机嵌入的元数据,并将其存储在数据库内。此类元数据的其他示例包括捕获日期和时间,此外还有如文中描述的很多其他示例。所述索引器还可以包括复杂算法,该算法对所存储的资源加以分析,以生成更为复杂的元数据。本发明的优选实施例对组织媒体资源的集合的各种语义索引器的操作进行排序,因为一些索引器可能依赖于其他索引器的输出来进行其操作。该次序将由系统管理器107来管理,或者可以通过用于严格排序方案的表格查找对该次序进行排序,或者可以将该次序存储到依存树(dependency tree)或者其他适当的数据结构中。将所有生成的元数据记录到数据库113内,并适当地使之与其相应的媒体资源相关联。在优选实施例中,可以将任何元数据存储到三元组存储库(triplestore)115内、该三元组存储库115即为一种类型的被优化以存储大量的非结构化数据的数据库。
在最后一个语义索引器完成时,或者在至少足够数量的预选索引器完成时,系统管理器107将激活题材建议器106,以判断是否应当创建一个或多个适当的题材,如果经判断应当创建,那么其将使得生成图像产品或题材。接着,题材建议器将激活推断引擎111,以评估规则库114内存储的各种规则,从而判断当前的媒体资源的收集能否满足其中存储的任何题材规则。这被称为用于题材生成的基于事件的触发。其他类型的可编程触发可能包括监控用户实施的资源的上载。例如,如果用户上载了一定数量的资源,如果推断引擎判断足够数量的题材规则已被满足,那么题材建议器将开始对所述资源进行分析,以生成可能的题材。推断引擎的一个优选实施例是具有规则库114的Prolog推断引擎,所述规则库被表示为一组Prolog子句,所述子句被组织成多组存储在XML文件内的经命名的规则,并根据请求由Prolog引擎进行评估。Prolog是如下文详细说明的那样使用的一种说明性逻辑编程语言。
当题材建议器在诸如周年纪念日、节日、生日或其他事件之类的基于日期的触发的基础上搜索题材以创建时,题材建议器106请求推断引擎111评估Prolog子句suggestStoryByEvent,以寻找若干自由变量的有效绑定,所述自由变量包括但不必然限于用户、题材类型、预期接收者和产品类型。如果(例如,由Prolog推断引擎)识别出一组有效的变量绑定,那么题材建议器则将从智能资源选择器109获得与所建议的题材相配的适当的资源组,然后请求产品生成器108创建所希望的产品表示,所述产品表示可以包括相册或者在杯子(mug)或T恤上渲染图像。产品生成器将创建表示图像产品的适当格式的一个或多个文件,如果图像产品要求这样,那么所述文件可以包括通过网络发送给产品制造商的指令。产品生成器可以将所得到的(多个)文件存储到资源存储器112内,从而使得能够将所得到的产品视为用户的收集中的另一资源。如果只有少量的满足题材规则的资源,那么可以决定制作包含单个图像或少数图像的杯子或其他产品。在已经生成了图像产品时,产品生成器将通知系统管理器107,在此点上,系统管理器警告题材通知器服务105,其又使得题材通知器103通知用户已经创建了新的产品或者产品预览。除了先前所述的通知方法之外,所述通知可以采取显示器上的弹出视窗的形式,该视窗包含指示图像产品已经被创建并准备好用于观看的文本和图形信息。然后,用户可以采用题材观看器102观看所述产品。可以将所述题材观看器实现为诸如Internet Explorer的浏览器或者诸如Windows Media Player的视频回放设备。在优选实施例中,用户具有向题材观看器请求如果合适则将产品发送至打印机以获得产品的诸如装订相册之类的硬拷贝再现的选择。用户还可以请求例如制作并交付杯子。此类实现需要可呈现给用户的定购屏,以提供履行提供商的可以包括提供商网站的直接链接的联系信息,并且获得用户的交付请求信息。为了显示产品,题材观看器向资源存储器112发出请求并由其获得必要的资源。
系统管理器还可以基于周期性地(例如,每晚、每月或者某其他周期)运行题材建议器,以判断是否能够由存储在计算机系统上的数字媒体文件创建日历事件驱动题材。可以可选地基于用户所选择的时间视窗由即将发生的事件对其进行驱动。读者应当认识到,替代性的体系结构也可以产生在根本上相同的行为。例如,可以将题材建议器106和智能资源选择器109组件结合到单个组件中,或者题材建议器可以直接调用智能资源选择器,以确定适当的资源组可用于特定的题材。在为特定用户建议和创建题材的过程中,题材建议器和智能资源选择器可以仅考虑该用户所拥有的资源和元数据,或者它们可以考虑该用户已经访问的系统中的所有资源,包括其他系统用户可以与该用户共享的资源。图1示出了下述数据库,该数据库用于将数据库113中的元数据的至少某子集存储到被称为三元组存储库115的独立类型的数据库内,但是也可以采用其他类型的数据库或其组合,包括关系数据库。可以从第三方源获得一些元数据,该功能将由可访问诸如因特网的外部网络的外部数据存取器118来执行。还可以基于用户使用模式由个人日历条目或者通过监控用户在与其他人的基于web的交互中的参与来采集这些类型的数据。
元数据:
元数据包含与媒体资源一起存储并与之相关的数据。一般而言,通过举例而非通过限制的方式,存在三种元数据来源:捕获设备元数据,例如由数字照相机提供的时间、日期和位置;用户提供的元数据,例如,经由捕获设备用户界面或者图像编辑应用界面;以及导出元数据,例如,通过脸部识别或者场景分类应用导出的。导出元数据还包括由任何类型的现有元数据推知的元数据。可以在将捕获图像数据的文件存储到计算机上时生成元数据。例如,元数据可以由捕获设备自动生成,也可以由用户在捕获图像时手动输入到存储器内。其也可以在用户不知道的情况下由图像识别软件的程序化操作自动生成。此类软件可以能够基于对现有的元数据信息进行外推来生成很多级别的元数据。例如,给定在所存储的图像媒体收集中所描绘的已知家庭成员的足够的现有元数据,可以推断出家族树。
参考图2,其示出了本发明的系统可以采用的示例性元数据元素的列表。静物照片(still)和视频的时间事件群集201、202是通过将未经组织的媒体资源组自动排序、分割和群集成单独的时间事件和子事件来生成的,如共同转让的2003年8月12日授权的题为“A Method For AutomaticallyClassifying Images Into Events”的美国专利No.6606411和共同转让的2002年2月26日授权的题为“A Method For Automatically Comparing Content OfImages For Classification Into Events”的美国专利No.6351556中所详细说明的那样。基于内容的图像检索(CBIR)203从数据库中检索与示例(或查询)图像类似的图像,如共同转让的2002年11月12日授权的题为“MethodAnd Computer Program Product For Subjective Image ContentSimilarity-Based Retrieval”的美国专利No.6480840中所详细说明的那样。可以基于很多不同的量度(例如颜色、纹理或者诸如脸部的其他可识别内容方面的相似性)来判断图像是相似的。可以将此原理扩展至图像的部分或感兴趣的区域(ROI)。所述查询可以是整个图像,或者是图像的部分(ROI)。可以将所检索到的图像作为整个图像进行匹配,或者可以对每个图像进行搜索以得到与所述查询类似的相应区域。在本发明的上下文中,可以采用CBIR自动选择与某些其他自动选择的资源类似的资源。例如,情人节主题可能需要找到以红色为主的图像,而秋色用于万圣节主题。场景分类器将场景识别或者分类成一个或多个场景类型(例如,海滩、室内等),或者一个或多个活动(例如,跑步等)。在204处列出了示例性的场景分类类型,下述文献中描述了它们的操作的细节,所述文献为:题为“Method For Automatic Determination Of Main Subjects In PhotographicImages”的美国专利No.6282317;题为“Image Processing Method ForDetecting Human Figures In A Digital Image Assets”的美国专利No.6697502;题为“Method For Detecting Sky In Images”的美国专利No.6504951;题为“Method For Semantic Scene Classification Using CameraMetadata And Content-Based Cues”的美国专利公开No.US2005/0105776;题为“Method Of Using Temporal Context For Image Classification”的美国专利公开No.US2005/0105775;以及题为“Method For Detecting Objects InDigital Image Assets”的美国专利公开No.2004/003746。采用脸部检测器205在图像收集中寻找尽可能多的脸,并且该脸部检测器205在下述文献中加以描述,所述文献为:2006年9月19日授权的题为“Method For LocatingFaces In Digital Color Images”的美国专利No.7110575;2005年9月6日授权的题为“Face Detecting Camera And Method”的美国专利No.6940545;2003年3月12日提交的题为“Method And System For Face Detection InDigital Image Assets”的美国专利公开No.2004/0179719。脸部识别206是基于面部特征对以人或者与人相关的标志作为示例的脸部的识别或分类,如下述文献所述,所述文献为2006年11月14日提交的题为“User InterfaceFor Face Recognition”的序列号为11/559544的美国专利申请;2006年1月27日提交的题为“Finding Images With Multiple People Or Objects”的序列号为11/342053的美国专利申请;以及2005年10月31日提交的题为“Determining A Particular Person From A Collection”的序列号为11/263156的美国专利申请。在此将本段中列出的现有技术参考文献全文引入以供参考。
脸部群集使用由检测和特征提取算法生成的数据以聚合看起来相似的脸部。如下面详细解释的那样,可以基于数值的置信值触发此选择。如2004年11月17日提交的题为“Variance-Based Event Clustering”的美国专利公开No.US2006/0126944中所述的基于位置的数据207可以包括蜂窝塔位置、GPS坐标和网络路由器位置。捕获设备可以包括,或可以不包括用图像或视频文件归档的元数据;但是,这些通常被捕获图像、视频或声音的记录装置作为元数据与图像存储到一起。在与其他属性一起用于媒体群集时,基于位置的元数据可能是非常强大的。例如,U.S.Geological Survey的Boardon Geographical Names保持Geographic Names Information System,其提供了将纬度和经度坐标映射到普遍认识的特征名称和类型的手段,所述类型包括诸如教堂、公园或学校的类型。项目208举例说明将检测到的事件识别或划分成诸如生日、婚礼等的语义类别,如在2005年7月11日提交的题为“Identifying Collection Images With Special Events”的美国专利公开No.US2007/0008321中所述。可以使被分类为事件的媒体资源由于每个时间单位的相同的位置、背景或活动而如此相关,并且所述媒体资源旨在与用户或用户群的主观意图相关。在每一事件内,还可以将媒体资源群集到被称为子事件的分别的相关内容组中。事件中的媒体与相同的背景或活动相关,而子事件中的媒体则具有事件中的相似内容。图像值索引(IVI)209被定义为单个用户可能与特定的资源相关联的重要性(显著性、吸引性、有用性或效用)的程度的度量(而且其可以是用户作为元数据输入的被存储的评价),在美国专利公开No.2007/0263092(E.Fedorovskaya等)和2006年4月13日提交的题为“Camera User Input Based Image Value Index”的序列号为11/403583的美国专利申请中对此给出了详细说明。自动IVI算法可以利用诸如清晰度、光照和其他质量指标的图像特征。与照相机相关的元数据(曝光、事件、日期)、图像理解(皮肤或脸部检测以及皮肤/脸部区域的尺寸)或行为度量(观看时间、放大率、编辑、打印或共享)也可以用于计算任何特定媒体资源的IVI。在此将本段中列出的现有技术参考文献全文引入以供参考。
视频关键帧提取210是提取关键帧和/或突出的镜头、场景或事件以及相关的音频从而提供视频序列的摘要或最显著部分的过程,在美国专利公开No.2007/0183497(J.Luo等)中对此给出了详细说明。EXIF数据211(用于数字静物照相机的可交换图像文件格式:EXIF Version 2.2,JEITACP-3451,Japan Electronics and Information Technology IndustriesAssociation,April 2002)是由记录设备生成的数据,并且该EXIF数据211与捕获的媒体文件一起存储。例如,数字照相机可能包括诸如f制光圈、速度和闪光信息之类的与图像相关的各种照相机设置。这些照相机生成的数据还可以包括指示与捕获图像的地点相关的地理位置的GPS数据。所有的元数据,不管其是由用户输入的,由记录装置提供的,还是由计算机系统推断的,均可以被程序化计算机系统用于基于能够从现有的元数据确定的推断来生成附加的元数据。在此将本段中列出的现有技术参考文献全文引入以供参考。
参考图3,其示出了用于输入与叫“Peter Jones”的人相关的简档元数据的示例性计算机系统用户界面(UI)。可以针对收集中的任何媒体资源实现此用户元数据输入模式。在此UI中可以由用户(例如)通过键盘输入的信息字段包括该人的个人信息,例如,地址、城市、州、国家、电话、电子邮件地址和其他记录。所述记录可能包括诸如昵称、职业、身体特征之类的关键字或计算机系统将用来与“Peter Jones”这个人相关联的任何其他输入数据。个人信息还可以包括个人兴趣、爱好以及共同参与的活动的列表。为了使系统能够更好地解释此类兴趣,用户界面可以包含可能的选择的组,以允许用户从分等级地构造的兴趣和活动本体论(ontology)中选择多类兴趣和爱好。可以针对本发明专门开发此类本体论,可替代地,公共可用的本体论可被用于或适合于该目的。例如,由英国政府出版的“Integrated Public Sector Vocabulary”尤其包括了包含运动、宗教信仰、爱好和其他闲暇活动的分级和结构化列表。可以对计算机系统编程,以允许用户按照自由形式的方式输入此类兴趣,其中,使计算机系统能够识别某些关键字并将这些关键字映射至相应的本体论术语(term)。
此用户简档(profile)还包括关于与“Peter Jones”相关的人(例如家人和朋友)的信息,其还将被程序与被简介的人(profiled person)相关联。对与人相关的用户输入信息的描述不应仅局限于图3中所示的示例。与人相关联的相关信息还可以包括关于下述内容的信息,所述内容为例如,过去和现在的朋友、同事、家人和其他与该人相关联的人;居住地点和所游览过的地点;以及包括车辆、衣物、乐器等的财产和宠物及家畜。每一条此类关于该人的相关信息或元数据又可以具有相关联的元数据,例如:姓名、生日、获取日期、使用信息和其他代表图片。
对于家庭关系而言,系统不要求用户输入所有的家庭关系,例如,不需要说Jane是Ann的女儿,Jane是Mary的孙女,Jane是Bill的侄女等。而是,系统只要求输入配偶和父母/子女的规范关系;系统能够自动推断出所有其他家庭关系。可以类似地推断出关于婚姻的关系,例如,婆母。例如,系统可以为用户提供指定因离婚而终止此类关系的方式。
参考图4,其示出了用于输入与(例如)存储在图1的计算机系统数据库113上的图像相关的元数据的示例性用户界面。此UI中的信息字段包括与所述图像或者所述图像中描绘的人、地点、动物或事物相关联的那些信息,并且还可以包括关于所述图像中出现的其他人、地点、事物、动物等的信息。这些字段包括日期信息、用于描述与所述图像相关的事件的事件字段以及由用户输入的用于促进对所述图像的以搜索为目的的语义推断的关键字。在编译与图像相关的各类元数据的过程中,用于描述与图像相关的位置的位置字段和资源细节字段也会有所助益。所述信息字段还可能包括与图像中描绘的任何东西都不相关的数据。更确切地说,该信息可以包括情境(contextual)信息。例如,如果所述图像包括来自英式足球赛的场景,那么信息字段可能陈述这场比赛输了,或者其可以包括关于那天谁对该队执教的信息,或者其可以包括关于天气的信息(其可以由程序生成的元数据利用可以连同诸如GPS位置以及时间和日期之类的EXIF数据一起在线得到的信息来自动获得)或者关于赛前或赛后事件的信息,以及由用户输入的由程序化计算机系统与所存储的图像相关联的其他种类不受限制的数据。可以在关键字字段内添加关键字以促进对图像的搜索。可以实现脸部识别工具以通过自动识别图像中所描绘的人来辅助生成元数据,该人的信息已经基于在数据库内存储的另一图像中出现的那些人而被存储了。例如,如果能够基于可用于一组人的家庭关系元数据来推断关系链,那么系统就有可能自动生成家族树。
可以从诸如天气或日历服务的第三方源获得某些元数据,如由外部数据存取器118所执行的那样。例如,其可以被用于构建题材,从而了解在给定地点的给定天的天气如何。可以将与记录在EXIF文件中的GPS信息结合的日期和时间信息作为输入提供给提供历史天气信息的外部网页服务。位置信息与日期信息一起可以识别事件或者可能的特殊兴趣。可替换地,可以将此类信息提供给描述事件的服务,使系统能够知道例如在特定的日期在体育场发生了什么。
一般算法:
本发明的优选实施例包括自动检查用户的媒体数据库中是否存在题材所需的成分的算法。可以使用任何可编程事件来触发对媒体数据库的针对题材创建的可能性的评估。一个或多个媒体文件的上载能够启动对自动题材创建的检查。周期性日历日期或临近的周年纪念日或节日能够触发对媒体资源的检查以用于题材产品。可以基于围绕日历日期的时间段期间用户活动的频率和类型来推断特定日历日期的重要性。还可以根据分析他的或她的媒体资源或者通过跟踪特定类型的资源被访问的经常程度的频率来推断用户偏好的活动。可以对用户的媒体资源以及与那些资源的用户交互进行分析所采取的方式实质上不受限制。文中描述的实施例并非旨在使本发明局限于任何特定的实施例。
至于诸如节日之类的再现日期,可以用Prolog计算机语言来表达优选实施例中的、用于为特定用户建议母亲节题材的示例性算法。其具有如下英语等价物:
R-1.给定目标日期Date,如果:
R-1.1.目标日期Date是已知的再现节日Holiday
R-1.2.Holiday是母亲节
R-1.3.系统用户User是接收者Recipient的配偶
R-1.4.接收者Recipient是母亲
那么向用户User建议为接收者Recipient设计的题材类型“母亲节相册”和产品“母亲节多媒体相册”。
上述规则描绘了用于判断是否应当为特定用户创建特定题材产品的高级规则。在此点应当注意的是,本领域技术人员将认识到数量几乎不受限制的能够被编程以实现本发明的规则。如果满足上述规则,那么将母亲节题材类型用于题材创建中的下一步骤。
题材类型定义用于挑选用来制作特定题材产品的资源的一组规则。智能资源选择器109执行题材建议器106所请求的规则组,从而为正被创建的题材产品确定适当的资源组。在优选实施例中,用Prolog表达组成规则组的规则,所述Prolog使用了下述Prolog版本,在该Prolog版本中,按照被称为S-expression的括入括号的前缀形式编写子句。图7包含针对母亲节相册的规则的子集;可以用英语按照下述方式表达更为完整的规则组:
R-2.选择满足以下约束的资源:
R-2.1.从至多两张最好的只有母亲的图片开始,其被示为规则701。
R-2.2.接下来是至多三张母亲与所有孩子的最好的图片(无丈夫),其被示为规则702。
R-2.3.接下来是来自于任一年的母亲单独与每个孩子的最好的图片,其被示为规则703。
R-2.4.来自于任一年的母亲与她的母亲的最好的图片(未示出)。
R.2.5.来自于去年的母亲与家人(孩子和丈夫)的最好的图片(未示出)。
R-2.6.最后是被示为规则704的至多两段视频剪辑,其中,所述视频属于被分类为类型“家庭时刻”的事件,并且所述视频长度小于60秒。
可以根据包括各种图像值索引(IVI)度量的各种程序化度量或其组合来定义“最好”。可以将这些标准扩展至除节日以外的其他类型的日期。上述规则只是示例性的;Prolog语言使得能够定义任意的约束组。在优选实施例中,使用附加的Prolog子句来定义最佳的确切定义。
图6示出了语义网络数据库,其包含与上述示例性规则组相关的数据的示例性部分。在一个优选实施例中,使用资源描述框架(RDF)数据模型将数据表示为语义网络。在RDF内,将每一“事实”表示为“主谓宾”形式的语句。将主语和宾语示为节点,且将谓语示为连接所述节点的带标记的链接。由识别某些实体或概念的通用资源标识符(URI)表示主语和谓语。可以由通用资源标识符或者由字面值来表示宾语。为了易于说明,这里使用实体的名称而不是所分配的通用资源标识符。例如,由“主语”节点601、带标记的“谓语”链接602和“宾语”节点603的组合来表示事实“Ann是Alex的配偶”。将包括与资源相关的元数据、用户简档信息和辅助数据的整个数据组存储到三元组存储库内,该三元组存储库是一种被优化用于存储主谓宾形式的未以其他方式结构化的事实的数据库。读者应当认识到,可以有效地采用其他数据模型和存储机构实现本发明,而且本发明不限于文中描述的示例性实施例。
题材建议器106请求智能资源选择器计算与规则组“母亲节相册”匹配的资源组。接着,智能资源选择器109请求推断引擎111执行规则库114中存储的相关规则,确定哪些资源满足由规则指定的约束。继续前面的示例,假定规则组2为图7中以其固有的Prolog形式部分地示出的规则组“母亲节相册”,并且假定包括图6中所示的子集的数据组,那么智能资源选择器将返回满足指定的约束的图片和视频组。作为特定的示例,在图7中作为框704中的代码示出的规则2.6引用了如所述规则的定义部分中第一行中所示的无约束变量?movie和?date。可以通过将?movie与和资源V1(605)相关的URI联系起来,并且将?date与对应于被捕获的资源V1的日期的字面值联系起来以满足此规则。由于V1属于被分类为具有类型“家庭时刻”(610,611)的事件E3(节点612和链接613),并且视频长度小于60秒(606,607),所以此联系(binding)满足规则。
所满足的规则组将指定多个资源,如果所述资源存在的话。有可能资源存储器将不包含满足规则组的资源。在这种情况下,如果必须生成题材产品,那么可以对默认选择算法进行编程以选择可用资源。规则组可以要求所述规则组或者其组成规则与最小数目的资源匹配;如果不存在足够的资源,则不创建题材产品。规则组还可以指定产品生成器必须遵守的关于资源的进一步约束。例如,规则组可以指定资源在最终产品中必须遵循的顺序和/或将怎样对所述资源分组。本发明的范围包括所有此类实施例。
本发明的另一优选实施例具有事件驱动题材类型的形式。此题材类型是基于事件而被触发的。例如,向计算机系统上载资源可以是一个触发事件。在一个实施例中,系统在接收到一组资源时将试图把那些资源分类为属于一个或多个事件类型。系统将此事件分类与有关用户的附加信息结合起来,以推荐特定的题材类型。一般而言,程序化计算机系统包括下述用于生成此事件类型的题材产品的例程:
--兴趣和活动本体论。
--产品目录本体论,其使特定的产品类型与特定的兴趣或活动相关联。
--由兴趣和活动本体论关联人的兴趣或活动的能力。
所述兴趣和活动本体论定义了可能的活动、兴趣和爱好的可扩展列表。例如,本体论的子集可以包括以下类别:
(1)运动活动
1.a)室内运动
1.a.1)团体性运动
1.b)户外运动
1.b.1)团体性运动
1.b.1.a)棒球
1.b.1.b)英式足球
1.b.1.c)足球
(2)社交集会
2.a)聚会
2.a.1)婚礼聚会
2.a.2)生日聚会
2.a.3)......
2.b)庄重场合
可以对完整的本体论类别进行缩放以容纳任意量的信息。计算机系统在上载一组资源(例如来自于数字照相机的一系列照片)时,尝试首先使用事件分类器将那些资源分组成事件,此点如上文所述,并且然后根据兴趣和活动本体论对所述事件分类。在一个优选实施例中,程序化计算机系统对属于下述示例性高级事件类型208之一的资源进行分类:
--户外运动
--聚会
--家庭时刻
--假期
选择这些事件类型是因为能够使用元数据分析来将图像分类成这四个类别。可以根据前述活动和兴趣本体论将这些类别映射至一个或多个类。例如,将事件类型户外运动映射至本体论中的项1.b户外运动。
类似地,产品目录包含一组可能的产品类型,连同那些产品可能被关联的活动/兴趣:
--棒球相册(配合棒球)
--英式足球相册(配合英式足球)
--棒球DVD(配合棒球)
本发明的优选实施例能够使用此数据实现下述广义规则:
R-3.对于特写特定人的给定事件而言,如果该人具有与特定产品匹配的特定兴趣,而且该兴趣是与该事件相关联的高级分类的实例,则给该人该产品。
假定上述情况,系统可以基于一组数字媒体资源的上载来建议主题题材。例如,假设父亲上载了来自于他的女儿Jane的最近的小型联赛的一组图片,并且系统了解下述信息:
--Jane喜欢棒球,此点已知是因为用户明确地告知了系统这一点,或者因为系统能够推断此信息。
--棒球产品与棒球活动相关联,此点已知是因为产品的制造者或销售者已经联合了该元数据作为产品描述的一部分。
--棒球是一种类型的户外运动,户外运动是一种类型的运动,此点是根据系统已被明确告知的活动和兴趣的本体论(诸如在前述兴趣和活动本体论中)而已知的。
在一个优选实施例中,用于基于自动选择与一组图片相关联的主题来挑选题材的特定算法如下:
R.4对于包括给定事件Event的一组资源而言,如果满足下述条件,则为用户User建议产品Product:
R-4.1.用户拥有事件Event
R-4.2.Event具有分类EventType
R-4.3.Event包含特写Person(人)的(多个)图片
R-4.4.User是Person的父母
R-4.5.Person喜欢活动ActivityType
R-4.6产品与活动ActivityType相配
R-4.7.活动是EventType的子类
此规则连同很多其他此类规则一起被存储在规则储存库114内,并且在由题材建议器106请求时由推断引擎111来执行此规则。
参考图5,其示出了语义网络数据库,该数据库包含与上述示例相关联的数据的示例性部分。主语和宾语被示为节点,而谓语被示为连接所述节点的带有标记的链接。例如,由“主语”节点503、带标记的“谓语”链接504和“宾语”节点506的组合来表示事实“Jane喜欢棒球”。将包括与资源相关联的元数据、用户简档信息和辅助数据的整个数据组存储在三元组存储库内。读者将认识到,可以有效地采用其他数据模型和存储机构来实现本发明,并且本发明不限于文中描述的示例性实施例。
图1的前述推断引擎111关于如下的图5中所示的数据组来执行规则4。推断引擎为用户User和产品Product搜索一组变量联系,从而使得由规则4所定义的约束成立。规则4由若干子子句(sub-clause)4.1到4.7构成,所述子子句又引用了中间变量EventType、Person和ActivityType,该中间变量也必须同时被与有效值联系起来,从而使整个规则为真。
如链接514所示,Event E1 513由用户Alex 501所有,因而Alex满足规则子句4.1。Event E1包含图片P1518到Pn。此外,如节点513和510以及“classifiedAs”链接512所示,Event E1具有活动类型户外运动。因此,通过将变量EventType与户外运动联系起来而满足了规则子句4.2。
如果在组成事件的一组图片中描绘了特定的人,那么认为所述图片特写了该人。对其意味着一组图片特写一人的更复杂的定义可以被定义为要求在那些图片中主要描绘该人,例如,其出现在大多数图片中等。使用简单的定义(即:如果某人出现在属于某事件的图片内,则所述事件特写该人),根据518、515和503所表示的语句,通过将变量Person与Jane联系起来而满足了规则子句4.3。在501、502和503所表示的语句的支持下,通过将User与Alex联系起来而满足了子句4.4,即,Alex是Jane的父亲。在503、504和506所表示的语句的支持下,通过将ActivityType与类别棒球联系起来而满足了子句4.5,即,Jane喜欢棒球。假定将Activitytype与棒球联系起来,则使用519、520和506,通过将Product与棒球相册联系起来而满足了子句4.6。假定棒球是户外运动的子类(506、505、507),则Activity与棒球以及EventType与户外运动的变量联系将满足子句4.7,并且因而,根据此示例,假定User与Alex以及Product与棒球相册的变量联系,则整个规则4就得以满足了。更确切地说,所述变量与表示Alex和棒球相册产品的相应通用资源标识符联系起来。
如前所述,优选实施例使用Prolog推断引擎来搜索对规则的解(solution),其中,使用Prolog子句表示所述规则,但是也可以使用其他的用于描述约束的机制。
参考图12,其示出了意图示出规则和相关元数据和/或使其工作所需的算法的一些示例的表格。可以在给定规则组中以各种组合使用这些规则,以促进自动题材生成。这些规则只是对可以在系统内表达的任意复杂的以及不受限制的规则类型的举例说明。
题材创建:
参考图8,其示出了显示用于生成图像产品的方法的一个优选实施例的流程图。在步骤800,程序开始。在步骤801,程序检查是否存在例如被资源上载器101上载到计算机系统中的文件夹或数据库的新图像。如果是,那么系统将在804通过生成将与所述资源一起被存储的元数据来对新上载的资源编索引。所述元数据包括场景和事件分类、人物识别,此外还有如本文已经描述的系统生成的其他元数据。如果否,那么系统检查是否存在任何用于生成题材产品的时间触发802,例如,节日、生日或者其他日历时间或日期。如果不存在,那么系统检查是否存在其他程序化触发803,例如,基于用户活动或者由用户选择的其他时间段的触发。如果存在有效触发或者如果用户已经上载了资源,那么所述系统开始检查所生成的元数据和与图像一起被包含的元数据,例如,所述元数据可能是被捕获装置与图像一起存储的元数据。所述系统在步骤805判断新上载的资源或以前存储的资源是否满足题材规则。如果不满足,那么程序返回检查新上载的资源和触发。如果满足了包括主题和产品的题材规则,那么在步骤806选择满足所述主题和规则的资源并创建产品。读者应当认识到,可以将选择主题、产品和资源的步骤结合到单个步骤中,或者按照各种其他组合来执行所述步骤。在步骤806,基于所选择的资源创建图像产品,并在步骤807通知用户产品可用于观看了。
参考图9,其示出了显示用于生成图像产品的方法的另一优选实施例的流程图。所述方法开始于900。在步骤901,可以自动选择题材的主题902,或者可以由用户手动选择题材的主题906。一个主题示例是母亲节。所选择的主题为选择多个资源以用于创建图像产品定义了一组规则。在主题选择之后,在步骤903处,可以自动选择产品类型909,或者手动选择907。在产品类型选择之后,在步骤904处,可以从资源数据库中自动选择资源905,或者手动预选择908。在资源选择之后,在步骤910处,通过如文中描述的程序化步骤自动创建图像产品(或产品表示),并在步骤911将其呈现给用户以供批准。基于所选择的资源,产品可以包括(例如)硬拷贝相册、幻灯片放映、DVD、拼贴画、多媒体呈现、屏幕保护程序、杯子、T恤、贺卡、日历等。由于产品表示可能影响资源选择规则并且反之亦然,所以可以可选地颠倒资源选择和创建产品表示的步骤。以母亲节的题材主题为例,产品表示可能是硬拷贝相册。相同的资源选择规则可能适用于其他图像产品形式,例如,被选择以制作硬拷贝相册的图像可能恰恰还可以用来制作DVD。
本发明的另一优选实施例包括为用户提供用于编辑被呈现给用户供他或她批准的图像产品的编辑能力的选项。参考图10,其示出了系统生成的产品页面,该页面显示了由系统选择的边框包围的照片。还示出了该产品页面的另一版本,其显示了由用户使用(例如)通常可用于安装在个人计算机上的图像编辑应用程序编辑的再现。如图10中所示,用户重新布置了所述照片,选择了不同的边框图案,并且选择了将被以放大格式显示的照片中的不同的一个。
文中描述的方法、系统、软件和产品发行媒体示出了本发明的实施例,其中,计算机程序自动创建合成图像产品。本发明的能力的一部分在于,其允许自动资源选择,由此计算机系统以智能的方式选择图像子集,从而使得,例如,无需将收集中的所有图片都包含在图像产品中。可以由所希望的输出产品来确定所选择的资源的数量。作为另一个示例,如果选择以每幻灯片四秒的变换速度来呈现两分钟的多媒体,则其将需要三十个图像。可以将此约束指定为程序化规则组的一部分。
计算机系统可以基于标识重要日期的日历条目生成图像产品。所述日期可以是对于个人而言重要的,例如,周年纪念日或生日,或者其可以是诸如母亲节或新年之类的节日。可以由用户将这些日历日期的数据输入到系统当中,或者可以由程序化计算机系统推断所述数据。所述系统推断对于用户重要的日期的一种方法是跟踪捕获图像或将图像上载至系统时的日期以及那些图像的类别。如果在每年或根据某些其他基础在同一时间捕获或上载特定类型的图像,那么系统就能够推断出重要的日期。
参考图11,其示出了通过网络连接耦合的前述组件题材通知器服务105和资源服务器119,所述网络连接可以包括因特网接入或本地网络,其中的任一个可以经由标准电缆或电话线接入来被访问并且还可以包括例如在蜂窝和Wi-Fi网络中常见的无线网络接入。所述题材通知器服务和资源服务器能够通过网络连接与各种网络服务交互,以告知用户已经创建了题材,并使用户能够观看所述题材。诸如机顶盒1102、蜂窝电话或PDA 1103、家庭媒体服务器1104、打印机1105和PC1106之类的每个所示设备类型可以包括题材通知器103(未示出)和题材观看器102(未示出)。例如,用户可以具有运行于连接至显示器1101的机顶盒1102上的题材通知器。用户可以直接在显示器上观看题材。可替换地,用户可以经由在蜂窝电话1103上运行的题材通知器来接收通知,并且然后直接在有多媒体能力的蜂窝电话和/或诸如具有附加显示器1107的PC 1106之类的更大格式的设备上观看题材。

Claims (2)

1.一种用于自动制作题材产品的方法,其包括使用计算机系统来执行以下步骤:
自动将多个先前已编索引的数字图像资源分组成事件;
根据兴趣和活动本体论按事件类型将每个分组分类;
标识在所述分组中描绘的重要人物;
基于用户简档和所标识的重要人物来标识每个分组的适当的子类;
根据所确定的、每个分组的子类来标识适当的产品类型;
基于所选择的产品类型自动制作题材产品,其中所述产品包含自动从所述数字图像资源的分组中选择的资源;以及
通知用户所述题材产品已被生成。
2.根据权利要求1所述的方法,其中基于分等级地构造的兴趣和活动本体论来确定所述适当的子类。
CN200880018884.6A 2007-06-05 2008-06-03 采用语义分类器的自动题材创建 Expired - Fee Related CN101755303B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US11/758,358 2007-06-05
US11/758,358 US20080306995A1 (en) 2007-06-05 2007-06-05 Automatic story creation using semantic classifiers for images and associated meta data
US11/935,737 2007-11-06
US11/935,737 US8934717B2 (en) 2007-06-05 2007-11-06 Automatic story creation using semantic classifiers for digital assets and associated metadata
PCT/US2008/007017 WO2008156558A1 (en) 2007-06-05 2008-06-03 Automatic story creation using semantic classifiers

Publications (2)

Publication Number Publication Date
CN101755303A CN101755303A (zh) 2010-06-23
CN101755303B true CN101755303B (zh) 2015-07-15

Family

ID=39768578

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200880018884.6A Expired - Fee Related CN101755303B (zh) 2007-06-05 2008-06-03 采用语义分类器的自动题材创建

Country Status (5)

Country Link
US (1) US8934717B2 (zh)
EP (1) EP2150955A1 (zh)
JP (2) JP2010534420A (zh)
CN (1) CN101755303B (zh)
WO (1) WO2008156558A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11887630B2 (en) 2020-09-04 2024-01-30 Beijing Bytedance Network Technology Co., Ltd. Multimedia data processing method, multimedia data generation method, and related device

Families Citing this family (166)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8106856B2 (en) 2006-09-06 2012-01-31 Apple Inc. Portable electronic device for photo management
JP4795212B2 (ja) * 2006-12-05 2011-10-19 キヤノン株式会社 録画装置、端末装置及び処理方法
US9142253B2 (en) 2006-12-22 2015-09-22 Apple Inc. Associating keywords to media
US8276098B2 (en) 2006-12-22 2012-09-25 Apple Inc. Interactive image thumbnails
US8446454B2 (en) * 2007-05-21 2013-05-21 Polycom, Inc. Dynamic adaption of a continuous presence videoconferencing layout based on video content
US20090003712A1 (en) * 2007-06-28 2009-01-01 Microsoft Corporation Video Collage Presentation
US9268849B2 (en) * 2007-09-07 2016-02-23 Alexander Siedlecki Apparatus and methods for web marketing tools for digital archives—web portal advertising arts
TW200941270A (en) * 2008-03-18 2009-10-01 Compal Communications Inc Method for controlling operation of a digital picture frame and digital picture frame thereof
US20090238538A1 (en) * 2008-03-20 2009-09-24 Fink Franklin E System and method for automated compilation and editing of personalized videos including archived historical content and personal content
US8718383B2 (en) * 2008-08-06 2014-05-06 Obschestvo s ogranischennoi otvetstvennostiu “KUZNETCH” Image and website filter using image comparison
US8467402B2 (en) * 2008-09-10 2013-06-18 Miselu, Inc. Digital audio communication system
US9240214B2 (en) * 2008-12-04 2016-01-19 Nokia Technologies Oy Multiplexed data sharing
US20100153851A1 (en) * 2008-12-12 2010-06-17 Microsoft Corporation Rendering rss subscriptions on a calendar
US20100174729A1 (en) * 2009-01-06 2010-07-08 Hee Sook Shin System and method of recollection using the search of records of the past
US20100226582A1 (en) * 2009-03-03 2010-09-09 Jiebo Luo Assigning labels to images in a collection
US8161063B2 (en) 2009-09-11 2012-04-17 Eastman Kodak Company Multimedia object retrieval from natural language queries
KR101715971B1 (ko) 2009-10-20 2017-03-13 야후! 인크. 키워드 및 스트링 입력에 기초한 애니메이트된 미디어를 어셈블링하는 방법 및 시스템
JP5697139B2 (ja) * 2009-11-25 2015-04-08 Kddi株式会社 2次コンテンツ提供システムおよび方法
KR20110064540A (ko) * 2009-12-08 2011-06-15 한국전자통신연구원 건물 텍스처 생성 장치 및 방법
US20110196888A1 (en) * 2010-02-10 2011-08-11 Apple Inc. Correlating Digital Media with Complementary Content
US8374923B2 (en) * 2010-03-09 2013-02-12 Jeffery L. Carter Web service for generating portable multimedia presentations
US8611678B2 (en) * 2010-03-25 2013-12-17 Apple Inc. Grouping digital media items based on shared features
US9176748B2 (en) * 2010-03-25 2015-11-03 Apple Inc. Creating presentations using digital media content
US8988456B2 (en) 2010-03-25 2015-03-24 Apple Inc. Generating digital media presentation layouts dynamically based on image features
US9053032B2 (en) 2010-05-05 2015-06-09 Microsoft Technology Licensing, Llc Fast and low-RAM-footprint indexing for data deduplication
US11989659B2 (en) 2010-05-13 2024-05-21 Salesforce, Inc. Method and apparatus for triggering the automatic generation of narratives
US8355903B1 (en) 2010-05-13 2013-01-15 Northwestern University System and method for using data and angles to automatically generate a narrative story
US9208147B1 (en) 2011-01-07 2015-12-08 Narrative Science Inc. Method and apparatus for triggering the automatic generation of narratives
US8639715B1 (en) * 2010-05-14 2014-01-28 A9.Com, Inc. Auctionable rich media search suggestions
JP5686673B2 (ja) 2010-07-22 2015-03-18 富士フイルム株式会社 画像処理装置、画像処理方法およびプログラム
US8726161B2 (en) * 2010-10-19 2014-05-13 Apple Inc. Visual presentation composition
US8584015B2 (en) 2010-10-19 2013-11-12 Apple Inc. Presenting media content items using geographical data
US20120151350A1 (en) * 2010-12-11 2012-06-14 Microsoft Corporation Synthesis of a Linear Narrative from Search Content
US9208472B2 (en) 2010-12-11 2015-12-08 Microsoft Technology Licensing, Llc Addition of plan-generation models and expertise by crowd contributors
US20120166920A1 (en) * 2010-12-22 2012-06-28 Canon Kabushiki Kaisha Creation of customized multimedia experiences based on future occasions
US9110936B2 (en) 2010-12-28 2015-08-18 Microsoft Technology Licensing, Llc Using index partitioning and reconciliation for data deduplication
US10185477B1 (en) 2013-03-15 2019-01-22 Narrative Science Inc. Method and system for configuring automatic generation of narratives from data
US9720899B1 (en) 2011-01-07 2017-08-01 Narrative Science, Inc. Automatic generation of narratives from data using communication goals and narrative analytics
US10657201B1 (en) 2011-01-07 2020-05-19 Narrative Science Inc. Configurable and portable system for generating narratives
JP5730090B2 (ja) * 2011-03-23 2015-06-03 キヤノン株式会社 表示制御装置、表示制御方法、およびプログラム
US9271035B2 (en) 2011-04-12 2016-02-23 Microsoft Technology Licensing, Llc Detecting key roles and their relationships from video
WO2013005266A1 (ja) * 2011-07-05 2013-01-10 パナソニック株式会社 プレゼンテーションコンテンツ生成装置、プレゼンテーションコンテンツ生成方法、プレゼンテーションコンテンツ生成プログラム、及び集積回路
US20120294514A1 (en) * 2011-05-19 2012-11-22 Xerox Corporation Techniques to enable automated workflows for the creation of user-customized photobooks
US9336240B2 (en) 2011-07-15 2016-05-10 Apple Inc. Geo-tagging digital images
US8792684B2 (en) 2011-08-11 2014-07-29 At&T Intellectual Property I, L.P. Method and apparatus for automated analysis and identification of a person in image and video content
US20130050745A1 (en) * 2011-08-31 2013-02-28 Ronald Steven Cok Automated photo-product specification method
US20130050746A1 (en) * 2011-08-31 2013-02-28 Ronald Steven Cok Automated photo-product specification method
US8831360B2 (en) * 2011-10-21 2014-09-09 Intellectual Ventures Fund 83 Llc Making image-based product from digital image collection
US8761523B2 (en) 2011-11-21 2014-06-24 Intellectual Ventures Fund 83 Llc Group method for making event-related media collection
US8707152B2 (en) 2012-01-17 2014-04-22 Apple Inc. Presenting images from slow image-event stream
US9336442B2 (en) 2012-01-18 2016-05-10 Intellectual Ventures Fund 83 Llc Selecting images using relationship weights
US9756395B1 (en) * 2012-03-19 2017-09-05 Google Inc. Content rating and control
US9244924B2 (en) * 2012-04-23 2016-01-26 Sri International Classification, search, and retrieval of complex video events
US20140328570A1 (en) * 2013-01-09 2014-11-06 Sri International Identifying, describing, and sharing salient events in images and videos
US8917943B2 (en) 2012-05-11 2014-12-23 Intellectual Ventures Fund 83 Llc Determining image-based product from digital image collection
US9201947B2 (en) 2012-09-20 2015-12-01 Htc Corporation Methods and systems for media file management
US20140136186A1 (en) * 2012-11-15 2014-05-15 Consorzio Nazionale Interuniversitario Per Le Telecomunicazioni Method and system for generating an alternative audible, visual and/or textual data based upon an original audible, visual and/or textual data
US9031953B2 (en) * 2012-11-19 2015-05-12 Realnetworks, Inc. Method and system to curate media collections
US10331724B2 (en) * 2012-12-19 2019-06-25 Oath Inc. Method and system for storytelling on a computing device via multiple sources
JP5883815B2 (ja) * 2013-03-11 2016-03-15 富士フイルム株式会社 電子アルバム装置およびその動作制御方法
US9250779B2 (en) 2013-03-15 2016-02-02 Intel Corporation System and method for content creation
US9696874B2 (en) 2013-05-14 2017-07-04 Google Inc. Providing media to a user based on a triggering event
WO2014192004A1 (en) * 2013-05-30 2014-12-04 Balagopalan Parvati A method and a system of playing picture and video in one playing format {ri an interactive media player
US20150006545A1 (en) * 2013-06-27 2015-01-01 Kodak Alaris Inc. System for ranking and selecting events in media collections
US11086905B1 (en) * 2013-07-15 2021-08-10 Twitter, Inc. Method and system for presenting stories
WO2015017865A1 (en) 2013-08-02 2015-02-05 Shoto, Inc. Discovery and sharing of photos between devices
CN103514289A (zh) * 2013-10-08 2014-01-15 北京百度网讯科技有限公司 一种兴趣本体库构建方法及装置
US10467279B2 (en) * 2013-12-02 2019-11-05 Gopro, Inc. Selecting digital content for inclusion in media presentations
EP3103117A1 (en) * 2014-02-07 2016-12-14 Qualcomm Technologies, Inc. Live scene recognition allowing scene dependent image modification before image recording or display
WO2015168734A1 (en) * 2014-05-05 2015-11-12 Keptme Limited Systems and methods for storing and retrieving information and story telling
US20150331930A1 (en) * 2014-05-16 2015-11-19 Here Global B.V. Method and apparatus for classification of media based on metadata
US10452713B2 (en) * 2014-09-30 2019-10-22 Apple Inc. Video analysis techniques for improved editing, navigation, and summarization
US10747823B1 (en) 2014-10-22 2020-08-18 Narrative Science Inc. Interactive and conversational data exploration
US11238090B1 (en) 2015-11-02 2022-02-01 Narrative Science Inc. Applied artificial intelligence technology for using narrative analytics to automatically generate narratives from visualization data
US11922344B2 (en) 2014-10-22 2024-03-05 Narrative Science Llc Automatic generation of narratives from data using communication goals and narrative analytics
US11288328B2 (en) 2014-10-22 2022-03-29 Narrative Science Inc. Interactive and conversational data exploration
US10318575B2 (en) * 2014-11-14 2019-06-11 Zorroa Corporation Systems and methods of building and using an image catalog
US11250630B2 (en) 2014-11-18 2022-02-15 Hallmark Cards, Incorporated Immersive story creation
US10528223B2 (en) 2014-12-19 2020-01-07 Smugmug, Inc. Photo narrative essay application
US10817520B1 (en) * 2015-02-25 2020-10-27 EMC IP Holding Company LLC Methods, systems, and computer readable mediums for sharing user activity data
US10121056B2 (en) 2015-03-02 2018-11-06 International Business Machines Corporation Ensuring a desired distribution of content in a multimedia document for different demographic groups utilizing demographic information
US9507996B2 (en) 2015-03-02 2016-11-29 International Business Machines Corporation Ensuring a desired distribution of images in a multimedia document utilizing facial signatures
US10003716B2 (en) * 2015-03-24 2018-06-19 Sony Corporation Generation of a digest video
US20160294890A1 (en) 2015-03-31 2016-10-06 Facebook, Inc. Multi-user media presentation system
US10102216B2 (en) * 2015-04-21 2018-10-16 Google Llc System for associating related digital assets
CN105138963A (zh) * 2015-07-31 2015-12-09 小米科技有限责任公司 图片场景判定方法、装置以及服务器
US9715714B2 (en) 2015-08-17 2017-07-25 Adobe Systems Incorporated Content creation and licensing control
US11048779B2 (en) 2015-08-17 2021-06-29 Adobe Inc. Content creation, fingerprints, and watermarks
US10366433B2 (en) 2015-08-17 2019-07-30 Adobe Inc. Methods and systems for usage based content search results
US10878021B2 (en) 2015-08-17 2020-12-29 Adobe Inc. Content search and geographical considerations
US10592548B2 (en) 2015-08-17 2020-03-17 Adobe Inc. Image search persona techniques and systems
US10475098B2 (en) 2015-08-17 2019-11-12 Adobe Inc. Content creation suggestions using keywords, similarity, and social networks
US11232268B1 (en) 2015-11-02 2022-01-25 Narrative Science Inc. Applied artificial intelligence technology for using narrative analytics to automatically generate narratives from line charts
US11222184B1 (en) 2015-11-02 2022-01-11 Narrative Science Inc. Applied artificial intelligence technology for using narrative analytics to automatically generate narratives from bar charts
US11170038B1 (en) 2015-11-02 2021-11-09 Narrative Science Inc. Applied artificial intelligence technology for using narrative analytics to automatically generate narratives from multiple visualizations
US10140271B2 (en) * 2015-12-16 2018-11-27 Telltale, Incorporated Dynamic adaptation of a narrative across different types of digital media
KR101898765B1 (ko) * 2015-12-27 2018-09-13 전자부품연구원 콘텐츠 인식 기술 기반 콘텐츠 자동 생성 방법 및 시스템
US10225511B1 (en) 2015-12-30 2019-03-05 Google Llc Low power framework for controlling image sensor mode in a mobile image capture device
US10732809B2 (en) 2015-12-30 2020-08-04 Google Llc Systems and methods for selective retention and editing of images captured by mobile image capture device
US11741522B2 (en) 2015-12-31 2023-08-29 Kodak Alaris, Inc. Method for image product recommendation
US20170194032A1 (en) * 2016-01-04 2017-07-06 Andrew WALWORTH Process for automated video production
CN109478192B (zh) * 2016-06-02 2023-08-29 柯达阿拉里斯股份有限公司 用于提供一种或多种定制的以媒体为中心的产品的方法
AU2017100670C4 (en) 2016-06-12 2019-11-21 Apple Inc. User interfaces for retrieving contextually relevant media content
DK201670608A1 (en) 2016-06-12 2018-01-02 Apple Inc User interfaces for retrieving contextually relevant media content
US10460196B2 (en) * 2016-08-09 2019-10-29 Adobe Inc. Salient video frame establishment
US10467257B2 (en) 2016-08-09 2019-11-05 Zorroa Corporation Hierarchical search folders for a document repository
US10311112B2 (en) 2016-08-09 2019-06-04 Zorroa Corporation Linearized search of visual media
US11144838B1 (en) 2016-08-31 2021-10-12 Narrative Science Inc. Applied artificial intelligence technology for evaluating drivers of data presented in visualizations
US10664514B2 (en) 2016-09-06 2020-05-26 Zorroa Corporation Media search processing using partial schemas
US10083162B2 (en) * 2016-11-28 2018-09-25 Microsoft Technology Licensing, Llc Constructing a narrative based on a collection of images
KR102202372B1 (ko) 2017-01-17 2021-01-13 한국전자통신연구원 영상 컨텐츠를 재사용하여 사용자 인터랙션을 인지할 수 있는 인터랙티브 미디어 제작 시스템 및 그 운용방법
US11094212B2 (en) 2017-01-18 2021-08-17 Microsoft Technology Licensing, Llc Sharing signal segments of physical graph
US10482900B2 (en) 2017-01-18 2019-11-19 Microsoft Technology Licensing, Llc Organization of signal segments supporting sensed features
US10606814B2 (en) 2017-01-18 2020-03-31 Microsoft Technology Licensing, Llc Computer-aided tracking of physical entities
US10437884B2 (en) 2017-01-18 2019-10-08 Microsoft Technology Licensing, Llc Navigation of computer-navigable physical feature graph
US10637814B2 (en) 2017-01-18 2020-04-28 Microsoft Technology Licensing, Llc Communication routing based on physical status
US10679669B2 (en) 2017-01-18 2020-06-09 Microsoft Technology Licensing, Llc Automatic narration of signal segment
US10635981B2 (en) 2017-01-18 2020-04-28 Microsoft Technology Licensing, Llc Automated movement orchestration
CN110249387B (zh) 2017-02-06 2021-06-08 柯达阿拉里斯股份有限公司 用于创建伴随视觉影像的音频轨的方法
US11068661B1 (en) 2017-02-17 2021-07-20 Narrative Science Inc. Applied artificial intelligence technology for narrative generation based on smart attributes
US11568148B1 (en) 2017-02-17 2023-01-31 Narrative Science Inc. Applied artificial intelligence technology for narrative generation based on explanation communication goals
US11954445B2 (en) 2017-02-17 2024-04-09 Narrative Science Llc Applied artificial intelligence technology for narrative generation based on explanation communication goals
US10755053B1 (en) 2017-02-17 2020-08-25 Narrative Science Inc. Applied artificial intelligence technology for story outline formation using composable communication goals to support natural language generation (NLG)
US10943069B1 (en) 2017-02-17 2021-03-09 Narrative Science Inc. Applied artificial intelligence technology for narrative generation based on a conditional outcome framework
US10699079B1 (en) 2017-02-17 2020-06-30 Narrative Science Inc. Applied artificial intelligence technology for narrative generation based on analysis communication goals
CN110521213B (zh) * 2017-03-23 2022-02-18 韩国斯诺有限公司 故事影像制作方法及系统
US11599263B2 (en) * 2017-05-18 2023-03-07 Sony Group Corporation Information processing device, method, and program for generating a proxy image from a proxy file representing a moving image
US10299013B2 (en) * 2017-08-01 2019-05-21 Disney Enterprises, Inc. Media content annotation
US10719545B2 (en) * 2017-09-22 2020-07-21 Swarna Ananthan Methods and systems for facilitating storytelling using visual media
US20190108097A1 (en) * 2017-10-06 2019-04-11 Johnathan Wen Jing Zhuang Systems and methods for backing up files
US11042709B1 (en) 2018-01-02 2021-06-22 Narrative Science Inc. Context saliency-based deictic parser for natural language processing
US11023689B1 (en) 2018-01-17 2021-06-01 Narrative Science Inc. Applied artificial intelligence technology for narrative generation using an invocable analysis service with analysis libraries
US11182556B1 (en) 2018-02-19 2021-11-23 Narrative Science Inc. Applied artificial intelligence technology for building a knowledge base using natural language processing
US11295783B2 (en) 2018-04-05 2022-04-05 Tvu Networks Corporation Methods, apparatus, and systems for AI-assisted or automatic video production
DK180171B1 (en) 2018-05-07 2020-07-14 Apple Inc USER INTERFACES FOR SHARING CONTEXTUALLY RELEVANT MEDIA CONTENT
US20190340529A1 (en) * 2018-05-07 2019-11-07 Apple Inc. Automatic Digital Asset Sharing Suggestions
US11086935B2 (en) 2018-05-07 2021-08-10 Apple Inc. Smart updates from historical database changes
US10706236B1 (en) 2018-06-28 2020-07-07 Narrative Science Inc. Applied artificial intelligence technology for using natural language processing and concept expression templates to train a natural language generation system
CN109035398B (zh) * 2018-07-17 2022-05-31 成都爱为贝思科技有限公司 一种基于语义描述的融合地质构造建模方法
US10846343B2 (en) 2018-09-11 2020-11-24 Apple Inc. Techniques for disambiguating clustered location identifiers
US10956490B2 (en) * 2018-12-31 2021-03-23 Audiobyte Llc Audio and visual asset matching platform
US11086931B2 (en) 2018-12-31 2021-08-10 Audiobyte Llc Audio and visual asset matching platform including a master digital asset
US11170044B2 (en) 2019-01-02 2021-11-09 International Business Machines Corporation Personalized video and memories creation based on enriched images
US11341330B1 (en) 2019-01-28 2022-05-24 Narrative Science Inc. Applied artificial intelligence technology for adaptive natural language understanding with term discovery
CN109886318B (zh) * 2019-01-29 2021-04-30 北京明略软件系统有限公司 一种信息处理方法、装置及计算机可读存储介质
US10853983B2 (en) 2019-04-22 2020-12-01 Adobe Inc. Suggestions to enrich digital artwork
DK201970535A1 (en) 2019-05-06 2020-12-21 Apple Inc Media browsing user interface with intelligently selected representative media items
US11604818B2 (en) 2019-05-06 2023-03-14 Apple Inc. Behavioral curation of media assets
WO2020242590A1 (en) * 2019-05-31 2020-12-03 Picpocket-Labs, Inc. Systems and methods for creating and modifying event-centric media content
WO2020248124A1 (en) 2019-06-11 2020-12-17 WeMovie Technologies Production-as-service systems for making movies, tv shows and multimedia contents
JP7155074B2 (ja) 2019-07-03 2022-10-18 富士フイルム株式会社 情報提案システム、情報提案方法、プログラムおよび記録媒体
WO2021022499A1 (en) 2019-08-07 2021-02-11 WeMovie Technologies Adaptive marketing in cloud-based content production
WO2021068105A1 (en) 2019-10-08 2021-04-15 WeMovie Technologies Pre-production systems for making movies, tv shows and multimedia contents
US11122335B2 (en) * 2019-11-22 2021-09-14 TCL Research America Inc. Wishing television
WO2021225608A1 (en) 2020-05-08 2021-11-11 WeMovie Technologies Fully automated post-production editing for movies, tv shows and multimedia contents
US11570378B2 (en) * 2020-07-21 2023-01-31 Gopro, Inc. Methods and apparatus for metadata-based processing of media content
CN111931008B (zh) * 2020-08-10 2021-04-30 张峻豪 一种视觉传达设计信息管理系统
US11070888B1 (en) 2020-08-27 2021-07-20 WeMovie Technologies Content structure aware multimedia streaming service for movies, TV shows and multimedia contents
DE102020124144A1 (de) * 2020-09-16 2022-03-17 Benito Campos Verfahren zum Erzeugen einer grafischen Zusammenfassung, ein Computerprogramm und ein System
US11812121B2 (en) 2020-10-28 2023-11-07 WeMovie Technologies Automated post-production editing for user-generated multimedia contents
US11166086B1 (en) 2020-10-28 2021-11-02 WeMovie Technologies Automated post-production editing for user-generated multimedia contents
US12087047B2 (en) 2021-06-23 2024-09-10 Celebr8 Life Machine learning model and neural network to predict data anomalies and content enrichment of digital images for use in video generation
KR102582445B1 (ko) * 2021-07-20 2023-09-25 임욱빈 인터랙티브 자연어 처리 기반의 동영상 생성 방법
US11330154B1 (en) 2021-07-23 2022-05-10 WeMovie Technologies Automated coordination in multimedia content production
US11321639B1 (en) 2021-12-13 2022-05-03 WeMovie Technologies Automated evaluation of acting performance using cloud services
WO2024030391A1 (en) * 2022-07-31 2024-02-08 Infanity, Inc. Infrastructure for digital asset management

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001077776A2 (en) * 2000-04-07 2001-10-18 Visible World, Inc. System and method for personalized message creation and delivery
CN1519757A (zh) * 2003-01-29 2004-08-11 ������������ʽ���� 图像检索装置、图像检索装置的关键词赋予方法及程序
WO2006065223A1 (en) * 2004-12-13 2006-06-22 Muvee Technologies Pte Ltd A method of automatically editing media recordings

Family Cites Families (100)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5634021A (en) * 1991-08-15 1997-05-27 Borland International, Inc. System and methods for generation of design images based on user design inputs
US6345274B1 (en) * 1998-06-29 2002-02-05 Eastman Kodak Company Method and computer program product for subjective image content similarity-based retrieval
US6606411B1 (en) * 1998-09-30 2003-08-12 Eastman Kodak Company Method for automatically classifying images into events
US6230312B1 (en) * 1998-10-02 2001-05-08 Microsoft Corporation Automatic detection of per-unit location constraints
US6351556B1 (en) * 1998-11-20 2002-02-26 Eastman Kodak Company Method for automatically comparing content of images for classification into events
DE69915566T2 (de) * 1998-11-25 2005-04-07 Eastman Kodak Co. Zusammenstellung und Änderung von Fotocollagen durch Bilderkennung
US6389181B2 (en) * 1998-11-25 2002-05-14 Eastman Kodak Company Photocollage generation and modification using image recognition
US6492998B1 (en) * 1998-12-05 2002-12-10 Lg Electronics Inc. Contents-based video story browsing system
US6396963B2 (en) * 1998-12-29 2002-05-28 Eastman Kodak Company Photocollage generation and modification
US6282317B1 (en) * 1998-12-31 2001-08-28 Eastman Kodak Company Method for automatic determination of main subjects in photographic images
US7062454B1 (en) * 1999-05-06 2006-06-13 Jarbridge, Inc. Previewing system and method
US6636648B2 (en) * 1999-07-02 2003-10-21 Eastman Kodak Company Albuming method with automatic page layout
US6504951B1 (en) * 1999-11-29 2003-01-07 Eastman Kodak Company Method for detecting sky in images
US7333967B1 (en) * 1999-12-23 2008-02-19 International Business Machines Corporation Method and system for automatic computation creativity and specifically for story generation
US7085995B2 (en) * 2000-01-26 2006-08-01 Sony Corporation Information processing apparatus and processing method and program storage medium
US6587839B1 (en) * 2000-02-04 2003-07-01 Eastman Kodak Company Method and system for notifying a consumer that the photofinishing order is ready and for controlling inventory of photofinishing orders in a business
US6771801B1 (en) * 2000-02-11 2004-08-03 Sony Corporation Adaptable pre-designed photographic storyboard
US6766363B1 (en) * 2000-02-28 2004-07-20 Barpoint.Com, Inc. System and method of linking items in audio, visual, and printed media to related information stored on an electronic network using a mobile device
US6940545B1 (en) * 2000-02-28 2005-09-06 Eastman Kodak Company Face detecting camera and method
JP2003530030A (ja) * 2000-03-31 2003-10-07 ユナイテッド ビデオ プロパティーズ, インコーポレイテッド ホーム監視供給を有するパーソナルビデオ記録システム
US20010032151A1 (en) * 2000-04-18 2001-10-18 Glenn Paul Internet presentation system
EP1182503A1 (en) * 2000-08-17 2002-02-27 Eastman Kodak Company A kit for use in organizing images
JP2002083148A (ja) * 2000-09-06 2002-03-22 Seiko Epson Corp 閲覧情報作成システム及びディジタルコンテンツ配信システム
US6629104B1 (en) * 2000-11-22 2003-09-30 Eastman Kodak Company Method for adding personalized metadata to a collection of digital images
US6697502B2 (en) * 2000-12-14 2004-02-24 Eastman Kodak Company Image processing method for detecting human figures in a digital image
US7272788B2 (en) * 2000-12-29 2007-09-18 Fotomedia Technologies, Llc Client-server system for merging of metadata with images
US20020161635A1 (en) * 2001-04-26 2002-10-31 Familyclubusa, Inc. System for advertisement production and distribution
US8556712B2 (en) * 2001-05-17 2013-10-15 Koninklijke Philips N.V. System for presenting interactive content
US7133862B2 (en) * 2001-08-13 2006-11-07 Xerox Corporation System with user directed enrichment and import/export control
JP3708854B2 (ja) * 2001-09-04 2005-10-19 株式会社東芝 メディア作品制作支援装置及びプログラム
US7970240B1 (en) * 2001-12-17 2011-06-28 Google Inc. Method and apparatus for archiving and visualizing digital images
US7035467B2 (en) * 2002-01-09 2006-04-25 Eastman Kodak Company Method and system for processing images for themed imaging services
US20030160824A1 (en) * 2002-02-28 2003-08-28 Eastman Kodak Company Organizing and producing a display of images, labels and custom artwork on a receiver
US7342604B2 (en) * 2002-03-15 2008-03-11 Fujifilm Corporation Picture filing device, digital camera and frame-picture managing method
US20040008180A1 (en) * 2002-05-31 2004-01-15 Appling Thomas C. Method and apparatus for effecting a presentation
JP4218264B2 (ja) 2002-06-25 2009-02-04 ソニー株式会社 コンテンツ作成システム、コンテンツ企画作成プログラム、プログラム記録媒体、撮像装置、撮像方法、撮像プログラム
JP4036051B2 (ja) * 2002-07-30 2008-01-23 オムロン株式会社 顔照合装置および顔照合方法
US7110575B2 (en) * 2002-08-02 2006-09-19 Eastman Kodak Company Method for locating faces in digital color images
US7426532B2 (en) * 2002-08-27 2008-09-16 Intel Corporation Network of disparate processor-based devices to exchange and display media files
US7092966B2 (en) * 2002-09-13 2006-08-15 Eastman Kodak Company Method software program for creating an image product having predefined criteria
JP4228641B2 (ja) * 2002-09-20 2009-02-25 セイコーエプソン株式会社 出力対象画像データ選択
JP4213447B2 (ja) * 2002-09-27 2009-01-21 富士フイルム株式会社 アルバム作成方法および装置並びにプログラム
US7233684B2 (en) * 2002-11-25 2007-06-19 Eastman Kodak Company Imaging method and system using affective information
US7362919B2 (en) * 2002-12-12 2008-04-22 Eastman Kodak Company Method for generating customized photo album pages and prints based on people and gender profiles
US20040153445A1 (en) * 2003-02-04 2004-08-05 Horvitz Eric J. Systems and methods for constructing and using models of memorability in computing and communications applications
US7461094B2 (en) * 2003-02-27 2008-12-02 Qurio Holdings, Inc. Photosharing server filters for automatic storage and sharing of digital files
US7508961B2 (en) * 2003-03-12 2009-03-24 Eastman Kodak Company Method and system for face detection in digital images
CA2519613A1 (en) * 2003-03-19 2004-10-07 Howard E. Farran Publishing system and method
US7702542B2 (en) * 2003-03-28 2010-04-20 Lions & Bears Llc Electronic cards systems and methods
US20060098941A1 (en) * 2003-04-04 2006-05-11 Sony Corporation 7-35 Kitashinagawa Video editor and editing method, recording medium, and program
US6865297B2 (en) * 2003-04-15 2005-03-08 Eastman Kodak Company Method for automatically classifying images into events in a multimedia authoring application
US20050116027A1 (en) * 2003-06-12 2005-06-02 First Data Corp. Personalized presentation instrument production systems and methods
US7286723B2 (en) * 2003-06-27 2007-10-23 Hewlett-Packard Development Company, L.P. System and method for organizing images
JP2005063302A (ja) * 2003-08-19 2005-03-10 Ntt Data Corp 電子アルバム作成支援装置およびその方法ならびにコンピュータプログラム
US20050063613A1 (en) * 2003-09-24 2005-03-24 Kevin Casey Network based system and method to process images
JP4189811B2 (ja) * 2003-09-30 2008-12-03 日本電気株式会社 画像検出装置、画像検出方法及び画像検出用プログラム
US7352952B2 (en) * 2003-10-16 2008-04-01 Magix Ag System and method for improved video editing
US7555165B2 (en) * 2003-11-13 2009-06-30 Eastman Kodak Company Method for semantic scene classification using camera metadata and content-based cues
US7680340B2 (en) * 2003-11-13 2010-03-16 Eastman Kodak Company Method of using temporal context for image classification
JP4315345B2 (ja) * 2003-11-27 2009-08-19 富士フイルム株式会社 画像編集装置および方法並びにプログラム
US7610207B2 (en) * 2003-12-10 2009-10-27 Zerotouchdigital Method for processing a digital image to satisfy a fulfillment request
US20050149991A1 (en) * 2004-01-06 2005-07-07 Hallberg Bryan S. Method and apparatus for finding applications and relating icons loaded on a television
US20050206751A1 (en) * 2004-03-19 2005-09-22 East Kodak Company Digital video system for assembling video sequences
US20050216283A1 (en) * 2004-03-25 2005-09-29 Squilla John R Method for automatically associating an image with related content on an image product
JP4343027B2 (ja) * 2004-05-25 2009-10-14 富士フイルム株式会社 スライドショー作成装置および方法ならびにプログラム
US7827498B2 (en) * 2004-08-03 2010-11-02 Visan Industries Method and system for dynamic interactive display of digital images
US7487072B2 (en) * 2004-08-04 2009-02-03 International Business Machines Corporation Method and system for querying multimedia data where adjusting the conversion of the current portion of the multimedia data signal based on the comparing at least one set of confidence values to the threshold
JP2006048465A (ja) * 2004-08-06 2006-02-16 Ricoh Co Ltd コンテンツ生成システム、プログラム及び記録媒体
KR100774178B1 (ko) * 2004-09-14 2007-11-07 엘지전자 주식회사 전자앨범 기능을 갖는 디스플레이 장치 및 그 제어방법
US20060061804A1 (en) * 2004-09-23 2006-03-23 Eastman Kodak Company Modular digital photofinishing system
US7848566B2 (en) * 2004-10-22 2010-12-07 Carnegie Mellon University Object recognizer and detector for two-dimensional images using bayesian network based classifier
US7650164B2 (en) * 2004-11-02 2010-01-19 Broadcom Corporation Method and system for exchanging data between a mobile phone and a PC
US7653249B2 (en) * 2004-11-17 2010-01-26 Eastman Kodak Company Variance-based event clustering for automatically classifying images
JP4882228B2 (ja) * 2004-12-15 2012-02-22 株式会社ニコン 画像再生装置および画像再生システム
US7797328B2 (en) * 2004-12-21 2010-09-14 Thomas Lane Styles System and method of searching for story-based media
EP1844411A2 (en) * 2005-01-28 2007-10-17 Koninklijke Philips Electronics N.V. Dynamic photo collage
US10210159B2 (en) * 2005-04-21 2019-02-19 Oath Inc. Media object metadata association and ranking
US8570586B2 (en) * 2005-05-02 2013-10-29 Digimarc Corporation Active images through digital watermarking
US20060251382A1 (en) * 2005-05-09 2006-11-09 Microsoft Corporation System and method for automatic video editing using object recognition
US7809192B2 (en) * 2005-05-09 2010-10-05 Like.Com System and method for recognizing objects from images and identifying relevancy amongst images and information
US20060253783A1 (en) * 2005-05-09 2006-11-09 Microsoft Corporation Story template structures associated with story enhancing content and rules
US20060271486A1 (en) * 2005-05-12 2006-11-30 Damian Cross Digital publication system and apparatus
US20070008321A1 (en) * 2005-07-11 2007-01-11 Eastman Kodak Company Identifying collection images with special events
US20070061759A1 (en) * 2005-08-05 2007-03-15 Realnetworks, Inc., System and method for chronologically presenting data
US8201073B2 (en) * 2005-08-15 2012-06-12 Disney Enterprises, Inc. System and method for automating the creation of customized multimedia content
JP4841926B2 (ja) * 2005-10-18 2011-12-21 富士フイルム株式会社 アルバム作成装置、アルバム作成方法、およびアルバム作成プログラム
US20070098303A1 (en) * 2005-10-31 2007-05-03 Eastman Kodak Company Determining a particular person from a collection
US8196032B2 (en) * 2005-11-01 2012-06-05 Microsoft Corporation Template-based multimedia authoring and sharing
US7711145B2 (en) * 2006-01-27 2010-05-04 Eastman Kodak Company Finding images with multiple people or objects
US7889794B2 (en) * 2006-02-03 2011-02-15 Eastman Kodak Company Extracting key frame candidates from video clip
US20070238082A1 (en) * 2006-04-11 2007-10-11 Elizabeth Ingrassia E-card method and system
US8135684B2 (en) * 2006-04-13 2012-03-13 Eastman Kodak Company Value index from incomplete data
US8330830B2 (en) * 2006-04-13 2012-12-11 Eastman Kodak Company Camera user input based image value index
US7467222B2 (en) * 2006-05-12 2008-12-16 Shutterfly, Inc. Image ranking for imaging products and services
US7945848B2 (en) * 2006-06-21 2011-05-17 Microsoft Corporation Dynamically modifying a theme-based media presentation
US20080034374A1 (en) * 2006-08-04 2008-02-07 Nokia Corporation Name tagging of music files
US8315463B2 (en) * 2006-11-14 2012-11-20 Eastman Kodak Company User interface for face recognition
US8166407B2 (en) * 2007-01-25 2012-04-24 Social Concepts, Inc. Apparatus for increasing social interaction over an electronic network
US20090029771A1 (en) * 2007-07-25 2009-01-29 Mega Brands International, S.A.R.L. Interactive story builder
US8401334B2 (en) * 2008-12-19 2013-03-19 Disney Enterprises, Inc. Method, system and apparatus for media customization

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2001077776A2 (en) * 2000-04-07 2001-10-18 Visible World, Inc. System and method for personalized message creation and delivery
CN1519757A (zh) * 2003-01-29 2004-08-11 ������������ʽ���� 图像检索装置、图像检索装置的关键词赋予方法及程序
WO2006065223A1 (en) * 2004-12-13 2006-06-22 Muvee Technologies Pte Ltd A method of automatically editing media recordings

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11887630B2 (en) 2020-09-04 2024-01-30 Beijing Bytedance Network Technology Co., Ltd. Multimedia data processing method, multimedia data generation method, and related device

Also Published As

Publication number Publication date
US20080304808A1 (en) 2008-12-11
US8934717B2 (en) 2015-01-13
JP2010534420A (ja) 2010-11-04
WO2008156558A1 (en) 2008-12-24
JP2014081957A (ja) 2014-05-08
JP5710804B2 (ja) 2015-04-30
EP2150955A1 (en) 2010-02-10
CN101755303A (zh) 2010-06-23

Similar Documents

Publication Publication Date Title
CN101755303B (zh) 采用语义分类器的自动题材创建
US20080306995A1 (en) Automatic story creation using semantic classifiers for images and associated meta data
US11170042B1 (en) Method and apparatus for managing digital files
US8873851B2 (en) System for presenting high-interest-level images
US8897485B2 (en) Determining an interest level for an image
US9081798B1 (en) Cloud-based photo management
US8732161B2 (en) Event based organization and access of digital photos
US9014510B2 (en) Method for presenting high-interest-level images
US9014509B2 (en) Modifying digital images to increase interest level
US20100121852A1 (en) Apparatus and method of albuming content
US20150363409A1 (en) Method for creating view-based representations from multimedia collections
CN101568969B (zh) 故事共享自动化
US20140002644A1 (en) System for modifying images to increase interestingness
WO2012073421A1 (ja) 画像分類装置、画像分類方法、プログラム、記録媒体、集積回路、モデル作成装置
CN111368141B (zh) 视频标签的扩展方法、装置、计算机设备和存储介质
CN107704519A (zh) 基于云计算技术的用户端相册管理系统及其交互方法
Adams et al. Extraction of social context and application to personal multimedia exploration
Wood Exploiting semantics for personalized story creation
US20170208358A1 (en) Device for and method of tv streaming and downloading for personal photos and videos presentation on tv that seamlessly integrates with mobile application and cloud media server
WO2019041303A1 (zh) 基于云计算技术的用户端相册管理系统及其交互方法
Wood et al. Event-enabled intelligent asset selection and grouping for photobook creation
Evans Teaching computers to watch television: Content-based image retrieval for content analysis
Ceroni Methods for managing, validating and retrieving event-related information in evolving contexts
Das et al. Collaborative content synchronization through an event-based framework
Paniagua Laconich Event-centric management of personal photos

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: GAOZHI 83 FOUNDATION LLC

Free format text: FORMER OWNER: EASTMAN KODAK COMPANY (US) 343 STATE STREET, ROCHESTER, NEW YORK

Effective date: 20130401

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20130401

Address after: Nevada, USA

Applicant after: Gaozhi 83 Foundation Co.,Ltd.

Address before: American New York

Applicant before: Eastman Kodak Co.

C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20180521

Address after: Texas, USA

Patentee after: Mau new gate Venture Capital Co., Ltd.

Address before: Nevada, USA

Patentee before: Gaozhi 83 Foundation Co.,Ltd.

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150715

Termination date: 20190603