CN105988369A - 一种内容驱动的智能家居控制方法 - Google Patents

一种内容驱动的智能家居控制方法 Download PDF

Info

Publication number
CN105988369A
CN105988369A CN201510080011.XA CN201510080011A CN105988369A CN 105988369 A CN105988369 A CN 105988369A CN 201510080011 A CN201510080011 A CN 201510080011A CN 105988369 A CN105988369 A CN 105988369A
Authority
CN
China
Prior art keywords
marked
video
tag
mpu
control method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201510080011.XA
Other languages
English (en)
Other versions
CN105988369B (zh
Inventor
徐异凌
张文军
孙军
管云峰
张小云
柳宁
张良慧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Jiaotong University
Original Assignee
Shanghai Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to CN201510080011.XA priority Critical patent/CN105988369B/zh
Application filed by Shanghai Jiaotong University filed Critical Shanghai Jiaotong University
Priority to CA3004644A priority patent/CA3004644C/en
Priority to US15/550,789 priority patent/US10433029B2/en
Priority to KR1020177024204A priority patent/KR101988454B1/ko
Priority to JP2017541331A priority patent/JP6567064B2/ja
Priority to PCT/CN2016/073167 priority patent/WO2016127862A1/zh
Priority to KR1020197003889A priority patent/KR102378107B1/ko
Publication of CN105988369A publication Critical patent/CN105988369A/zh
Application granted granted Critical
Publication of CN105988369B publication Critical patent/CN105988369B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Abstract

本发明提供了一种以内容驱动的智能家居控制方法,所述方法通过基于视频中关键帧的图像主色调和/或场景情节特征对视频碎片进行标记,或者依据音频数据特征进行标记,添加相应的标签,每次播放这些多媒体内容时,标记的这些标签都会驱动智能家居设备工作。通过本发明的方法进行智能家居的驱动控制可以大大简化人为控制这一繁琐的过程,并且本发明使得控制系统更加灵活。

Description

一种内容驱动的智能家居控制方法
技术领域
本发明涉及智能家居技术领域,具体地,涉及一种内容驱动的智能家居控制方法。
背景技术
当人们看到各种视频感受各种音响时,会不自觉的把这些视觉听觉感受和其它器官的感受联系起来,这种现象称为联觉,属于一种异质异构多一同态对应现象。一般情况下,高音区的音符经常和明亮的视觉感受、积极或快乐的情态感受等联系在一起,低音区的音符经常和昏暗的视觉感受、消沉或哀伤的情态感受等联系在一起;舒缓的节奏容易让人感受到开阔的空间或较为平静的情绪,而急促的节奏则容易让人感到空间狭窄、情绪躁动等等。
随着智能家居的普及,越来越多的智能设备以不同的方式影响着我们的生活,例如西安大雁塔景区的“音乐喷泉”利用音乐的音调来控制喷泉的舞姿及高度,Philips公司推出的智能灯具产品hue可以根据不同的音乐或不同彩色的图片控制灯泡的颜色。但是这些智能家居的控制形式大多需要人为手动的添加控制程序,或者是简单的根据声音的响度或音调的高低来控制,这样做的局限性在于控制灵活性不够高,重复利用率不高,不够智能。再例如在某些晚会场合,音响师和灯光师需要根据每个表演节目的不同而做出相应的音响和灯光效果,由于表演节目过多或者节目经常变化导致音响师和灯光师的工作量剧增。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种内容驱动的智能家居控制方法,从而解决上述存在的问题,使得控制系统更加灵活。
为实现上述的目的,本发明采用的技术方案是:一种以内容驱动的智能家居控制方法,通过在多媒体内容中添加相应的标签,通过这些标签内容来驱动驱动智能家居控制系统,有利于自动控制智能家居系统。
具体的,所述方法通过基于视频中关键帧的图像主色调和/或场景情节特征对 视频碎片进行标记,或者依据音频数据特征进行标记,添加相应的标签,每次播放这些多媒体内容时,标记的这些标签都会驱动智能家居设备工作。
优选地,所述通过基于视频中关键帧的图像主色调对视频碎片进行标记,具体为:提取视频MPU中关键帧的主色调并对其进行标记,利用MPUBox中预留的reserved字段定义color_tag,对于不同的颜色可以用不一样的color_tag。
进一步的,通过视频MPU中关键主色调分析而对color_tag进行赋值,或者通过算法自动对MPU的主色调提取赋值。
进一步的,将MPUBox中的reserved的7bit用于color_tag,该bit位根据需要可扩展。
优选地,所述通过基于视频中场景情节特征对视频碎片进行标记,具体为:提取视频中某段场景的模式,进而对MPU进行标记,将MPUBox中的reserved字段定义为scene_tag。scene_tag可以通过人工定义的方式进行赋值,也可以通过不同算法,如图像视频识别技术自动进行赋值。
优选地,所述依据音频数据特征进行标记,具体为:提取音频MPU中的音调特征,进而对MPU进行标记,将MPUBox中的reserved字段定义为tone_tag。tone_tag可以通过人工定义的方式进行赋值,也可以通过不同算法,如声音识别技术自动进行赋值。
本发明在使用的多媒体内容中添加相应的标签,每次播放这些多媒体内容时这些标签都会驱动智能设备工作。例如对于某段电影视频节目,每个场景的情节可能发生变化,有时比较浪漫有时比较忧伤,对于每个镜头的主色调也可能出现变化,有时主色调为蓝色有时主色调为红色。本发明可以根据这些图像特征和视频场景特征为每段小的视频片段增加相应的标签。
与现有技术相比,本发明具有如下的有益效果:
本发明提供了一种以内容驱动的智能家居控制方法,可以通过多媒体内容自动的驱动智能家居控制系统,目前大多数需要人为评价多媒体内容之后再去手动的控制智能系统,通过本发明的内容驱动控制智能家居系统可以大大简化人为控制这一繁琐的过程,并且本发明使得控制系统更加灵活。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特 征、目的和优点将会变得更明显:
图1为本发明一实施例中利用MPU控制hue系统图。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进。这些都属于本发明的保护范围。
目前智能家居设备逐渐出现在每个人的家庭中,本发明以飞利浦(Philips)公司推出的一款被称为“世界上最聪明的LED灯泡”的产品——Philips hue为例,给出如何对视频和音频数据进行标记以驱动hue系统的方法。
1.飞利浦hue简介
飞利浦hue它表上面看起来和普通的灯泡一样,但是它可以通过桥接的方式连接到家里的路由器从而让用户可以对照明进行更为个性化的控制。飞利浦hue应用了LED照明技术和无线互联技术,在提供LED照明基础之上,让灯光在更多方面为人们的生活创造便利——通过手机定位功能,hue可以在回家或外出时,自动地开灯、关灯或是改变灯光颜色。通过设置定时提醒功能,hue可以让每天的生活更有规律:比如早上通过让屋里的灯光逐渐变亮,而晚上灯光会提醒人们入睡。飞利浦hue可以提供“深浅不同的白色色调,从暖色调到冷色调”,同时还有经过预编程设置好的超过1600万种颜色选择(红绿蓝组合),同时还提供了包括放松、阅读、集中以及活力在内的四种不同预设模式。为特定氛围创建特定灯光场景、远程控制和监视家中的灯光情况、设置计时器管理日常灯光需求、通过灯光助眠或叫醒家人,这一切飞利浦hue都能帮你完成。除此之外,用户甚至还可以使用设备中的某张照片作为调色板来进行取色,并设置程序在一天的特定时间内激活特定的颜色。
hue的功能可以不断被丰富,有网络平台向开发者们开放API接口和软件开发工具包SDK,新的应用方案不断诞生;而用户也可以通过该平台分享其个性化的灯光配方,已经有超过40个新的应用程序被开发出来。这些程序让hue与更多的设备和应用程序相联:有的能够用灯光的变化来显示心跳;有的能够让人们通过声音来控制灯光;有的还能和电视屏幕的变化同步。
本发明则通过多媒体内容自动的驱动智能家居控制系统,比如上述飞利浦hue。
本发明在使用的多媒体内容中添加相应的标签,每次播放这些多媒体内容时这些标签都会驱动智能设备工作。具体说明如下。
2.对媒体数据碎片进行标记
在异构网络传输协议Mpeg media transport(MMT)中对所有媒体数据以碎片化MPU格式进行封装,每个MPU时间长度大约为0.5秒,并且将多媒体音视频数据的视频video和音频audio分开封装。基于此媒体数据封装格式,本发明提出可以按照如下几种方法对MPU进行标记。
a)对视频MPU按照关键帧主色调标记
在Philips hue系统中,可以通过图片的颜色来控制灯泡颜色的改变,所以本发明可以提取视频MPU中关键帧的主色调并对其进行标记,利用MPUBox中预留的reserved字段7bit定义color_tag,对于不同的颜色可以用不一样的color_tag,如下表所示。
color_tag的取值,可以通过视频MPU中关键主色调分析而对color_tag进行赋值,MPUBox要加入所需新属性。或者通过算法自动对MPU的主色调提取赋值。目前本发明将reserved的7bit用于color_tag,将来如果需要更多bit位,可以增加扩展。
b)对视频MPU按照场景情节标记
在Philips hue系统中,可以根据生活中不同的氛围呈现不同的灯光模式,所以本发明可以提取视频中某段场景的模式,例如是否属于浪漫或者激烈等等模式,进而对MPU进行标记。仿照上表,可以将MPUBox中的reserved字段定义为scene_tag,可以采用不同的算法提取场景中的模式。
c)对音频MPU按照音调标记
在Philips hue系统中,可以利用音乐音调的高低控制灯光模式,所以本发明可以提取音频MPU中的音调特征,进而对MPU进行标记。仿照上表,可以将MPUBox中的reserved字段定义为tone_tag,可以采样各种不同的算法提取音频数据的音调。
由于在媒体内容中加载了相应的scene_tag,tong_tag,当媒体内容在正常播放时,设备读取到相应的新属性后,会将此属性信息传送给照明的控制设备接口中。此时,照明设备将根据接收到的属性信息,解析出控制照明系统的指令和参数。从而实现灯光随着媒体内容的播放而实时调节变化。
这里以MPUBox为例,说明如何加入新的属性,以实现媒体内容与灯光的结合呈现。但是实际应用中,新属性可以根据实际需要加在其它信令位置。本发明也是以照明为例,说明传统的多媒体与智能家居如何结合。应用于本发明的思路和方法,也可以扩展应用于其它智能家居,甚至智慧城市系统中。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变形或修改,这并不影响本发明的实质内容。

Claims (6)

1.一种以内容驱动的智能家居控制方法,其特征在于,所述方法通过基于视频中关键帧的图像主色调和/或场景情节特征对视频碎片进行标记,或者依据音频数据特征进行标记,添加相应的标签,每次播放这些多媒体内容时,标记的这些标签都会驱动智能家居设备工作。
2.根据权利要求1所述的以内容驱动的智能家居控制方法,其特征在于,所述通过基于视频中关键帧的图像主色调对视频碎片进行标记,具体为:提取视频MPU中关键帧的主色调并对其进行标记,利用MPUBox中预留的reserved字段定义color_tag,对于不同的颜色可以用不一样的color_tag。
3.根据权利要求2所述的以内容驱动的智能家居控制方法,其特征在于,通过视频MPU中关键主色调分析而对color_tag进行赋值,或者通过算法自动对MPU的主色调提取赋值。
4.根据权利要求2所述的以内容驱动的智能家居控制方法,其特征在于,将MPUBox中的reserved的7bit用于color_tag,该bit位根据需要可扩展。
5.根据权利要求1-4任一项所述的以内容驱动的智能家居控制方法,其特征在于,所述通过基于视频中场景情节特征对视频碎片进行标记,具体为:提取视频中某段场景的模式,进而对MPU进行标记,将MPUBox中的reserved字段定义为scene_tag。
6.根据权利要求1-4任一项所述的以内容驱动的智能家居控制方法,其特征在于,所述依据音频数据特征进行标记,具体为:提取音频MPU中的音调特征,进而对MPU进行标记,将MPUBox中的reserved字段定义为tone_tag。
CN201510080011.XA 2015-02-13 2015-02-13 一种内容驱动的智能家居控制方法 Active CN105988369B (zh)

Priority Applications (7)

Application Number Priority Date Filing Date Title
CN201510080011.XA CN105988369B (zh) 2015-02-13 2015-02-13 一种内容驱动的智能家居控制方法
US15/550,789 US10433029B2 (en) 2015-02-13 2016-02-02 Implemental method and application of personalized presentation of associated multimedia content
KR1020177024204A KR101988454B1 (ko) 2015-02-13 2016-02-02 멀티미디어 컨텐츠 개성화 프레젠테이션의 실현 방법 및 응용
JP2017541331A JP6567064B2 (ja) 2015-02-13 2016-02-02 関連マルチメディアコンテンツのカスタマイズ表示の実現方法およびその応用
CA3004644A CA3004644C (en) 2015-02-13 2016-02-02 Implementing method and application of personalized presentation of associated multimedia content
PCT/CN2016/073167 WO2016127862A1 (zh) 2015-02-13 2016-02-02 一种关联多媒体内容个性化呈现的实现方法及应用
KR1020197003889A KR102378107B1 (ko) 2015-02-13 2016-02-02 멀티미디어 컨텐츠 개성화 프레젠테이션의 실현 방법 및 응용

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510080011.XA CN105988369B (zh) 2015-02-13 2015-02-13 一种内容驱动的智能家居控制方法

Publications (2)

Publication Number Publication Date
CN105988369A true CN105988369A (zh) 2016-10-05
CN105988369B CN105988369B (zh) 2020-05-08

Family

ID=57042291

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510080011.XA Active CN105988369B (zh) 2015-02-13 2015-02-13 一种内容驱动的智能家居控制方法

Country Status (1)

Country Link
CN (1) CN105988369B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105700505A (zh) * 2016-03-22 2016-06-22 珠海格力电器股份有限公司 智能家居设备的控制方法及装置
CN107197327A (zh) * 2017-06-26 2017-09-22 广州天翌云信息科技有限公司 一种数字媒体制作方法
CN107526849A (zh) * 2017-09-30 2017-12-29 联想(北京)有限公司 一种数据处理方法、电子设备、数据处理装置及系统
CN110905262A (zh) * 2019-11-22 2020-03-24 杭州西湖喷泉设备成套有限公司 塔型机械智能表演装置
CN111491206A (zh) * 2020-04-17 2020-08-04 维沃移动通信有限公司 视频处理方法、视频处理装置及电子设备

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4218166C2 (de) * 1991-07-19 2002-10-24 Samsung Electronics Co Ltd Automatische Lautstärkeregelvorrichtung für eine akustische Einrichtung
US20040010804A1 (en) * 1996-09-04 2004-01-15 Hendricks John S. Apparatus for video access and control over computer network, including image correction
AU2006217569A1 (en) * 2005-02-23 2006-08-31 Craig Summers Automatic scene modeling for the 3D camera and 3D video
CN1977542A (zh) * 2004-06-30 2007-06-06 皇家飞利浦电子股份有限公司 利用感知规律提取主色以产生来自视频内容的环境光
CN101938871A (zh) * 2010-06-12 2011-01-05 北京中科卓视科技有限责任公司 一种基于视频的照明节能控制系统
US20110125789A1 (en) * 2008-07-16 2011-05-26 Sanghyun Joo Method and apparatus for representing sensory effects and computer readable recording medium storing sensory device command metadata
CN103676914A (zh) * 2013-12-27 2014-03-26 广西瀚特信息产业股份有限公司 一种智能家居控制方法及设备
CN103970892A (zh) * 2014-05-23 2014-08-06 无锡清华信息科学与技术国家实验室物联网技术中心 基于智能家居设备的多维度观影系统控制方法
CN103985387A (zh) * 2014-04-17 2014-08-13 苏州乐聚一堂电子科技有限公司 音频指令及智能控制方法
CN104093240A (zh) * 2014-06-30 2014-10-08 广东九联科技股份有限公司 一种智能调节环境灯光的系统
CN104093251A (zh) * 2014-07-08 2014-10-08 四川长虹电器股份有限公司 基于智能灯泡的景观灯应用方法
CN104199398A (zh) * 2014-08-13 2014-12-10 杨淦 一种智能家居系统和其控制方法
CN104318208A (zh) * 2014-10-08 2015-01-28 合肥工业大学 一种基于图分割和实例学习的视频场景检测方法

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4218166C2 (de) * 1991-07-19 2002-10-24 Samsung Electronics Co Ltd Automatische Lautstärkeregelvorrichtung für eine akustische Einrichtung
US20040010804A1 (en) * 1996-09-04 2004-01-15 Hendricks John S. Apparatus for video access and control over computer network, including image correction
CN1977542A (zh) * 2004-06-30 2007-06-06 皇家飞利浦电子股份有限公司 利用感知规律提取主色以产生来自视频内容的环境光
AU2006217569A1 (en) * 2005-02-23 2006-08-31 Craig Summers Automatic scene modeling for the 3D camera and 3D video
US20110125789A1 (en) * 2008-07-16 2011-05-26 Sanghyun Joo Method and apparatus for representing sensory effects and computer readable recording medium storing sensory device command metadata
CN101938871A (zh) * 2010-06-12 2011-01-05 北京中科卓视科技有限责任公司 一种基于视频的照明节能控制系统
CN103676914A (zh) * 2013-12-27 2014-03-26 广西瀚特信息产业股份有限公司 一种智能家居控制方法及设备
CN103985387A (zh) * 2014-04-17 2014-08-13 苏州乐聚一堂电子科技有限公司 音频指令及智能控制方法
CN103970892A (zh) * 2014-05-23 2014-08-06 无锡清华信息科学与技术国家实验室物联网技术中心 基于智能家居设备的多维度观影系统控制方法
CN104093240A (zh) * 2014-06-30 2014-10-08 广东九联科技股份有限公司 一种智能调节环境灯光的系统
CN104093251A (zh) * 2014-07-08 2014-10-08 四川长虹电器股份有限公司 基于智能灯泡的景观灯应用方法
CN104199398A (zh) * 2014-08-13 2014-12-10 杨淦 一种智能家居系统和其控制方法
CN104318208A (zh) * 2014-10-08 2015-01-28 合肥工业大学 一种基于图分割和实例学习的视频场景检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
YOUNGKWON LIM ET AL.: "New MPEG Transport Standard for Next Generation Hybrid Broadcasting System with IP", 《IEEE TRANSACTIONS ON BROADCASTING》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105700505A (zh) * 2016-03-22 2016-06-22 珠海格力电器股份有限公司 智能家居设备的控制方法及装置
CN107197327A (zh) * 2017-06-26 2017-09-22 广州天翌云信息科技有限公司 一种数字媒体制作方法
CN107526849A (zh) * 2017-09-30 2017-12-29 联想(北京)有限公司 一种数据处理方法、电子设备、数据处理装置及系统
CN110905262A (zh) * 2019-11-22 2020-03-24 杭州西湖喷泉设备成套有限公司 塔型机械智能表演装置
CN110905262B (zh) * 2019-11-22 2021-01-26 杭州西湖喷泉设备成套有限公司 塔型机械智能表演装置
CN111491206A (zh) * 2020-04-17 2020-08-04 维沃移动通信有限公司 视频处理方法、视频处理装置及电子设备

Also Published As

Publication number Publication date
CN105988369B (zh) 2020-05-08

Similar Documents

Publication Publication Date Title
CN105988369A (zh) 一种内容驱动的智能家居控制方法
US20190069375A1 (en) Use of embedded data within multimedia content to control lighting
CN109640465A (zh) 自动识别音乐的灯光控制方法、装置、设备及存储介质
CN109196956A (zh) 控制照明系统
CN104093240B (zh) 一种智能调节环境灯光的系统
CN106332392A (zh) 一种灯光显示效果控制系统
CN106912150B (zh) 自动依据用户的使用习惯照明的方法、系统
BRPI0710211A2 (pt) método e dispositivo para controlar um elemento de iluminação de ambiente, e, aplicativo embutido em um meio legìvel por computador configurado para controlar um elemento de iluminação de ambiente
US10798435B2 (en) Dynamic visual effect enhancing system for digital cinema and control method thereof
CN110326259A (zh) 联网家居设备的系统中的控制事件
US20150305117A1 (en) Method for creating ambience lighting effect based on data derived from stage performance
CN111869330A (zh) 基于一种或多种灯光设置渲染动态灯光场景
TWI672948B (zh) 影像製作系統及方法
CN209445137U (zh) 远程交互式智能台灯
CN107787082A (zh) 控制照明源的方法、对应系统及计算机程序产品
CN104066231A (zh) 一种音乐灯光装置
US10264656B2 (en) Method of controlling lighting sources, corresponding system and computer program product
US11419199B2 (en) Method and controller for selecting media content based on a lighting scene
CN104811830A (zh) 智能灯光影像特效系统
CN107316564A (zh) 一种智能相册照片显示方法
CN203734892U (zh) 一种音乐灯光装置
CN106911577A (zh) 一种多功能路由器
CN209762988U (zh) 一种新型音乐氛围灯具
CN208337936U (zh) 带语音控制的蓝牙遥控音响灯
CN106997770A (zh) 影音同步控制方法、影音同步控制系统及相关的电子装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant