JP2017515429A - 低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体 - Google Patents

低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体 Download PDF

Info

Publication number
JP2017515429A
JP2017515429A JP2016574884A JP2016574884A JP2017515429A JP 2017515429 A JP2017515429 A JP 2017515429A JP 2016574884 A JP2016574884 A JP 2016574884A JP 2016574884 A JP2016574884 A JP 2016574884A JP 2017515429 A JP2017515429 A JP 2017515429A
Authority
JP
Japan
Prior art keywords
related content
sound
sound wave
mobile receiver
providing method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016574884A
Other languages
English (en)
Other versions
JP6454741B2 (ja
Inventor
ヒョン キム,テ
ヒョン キム,テ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Soundlly Inc
Original Assignee
Soundlly Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Soundlly Inc filed Critical Soundlly Inc
Priority claimed from PCT/KR2015/000890 external-priority patent/WO2015137621A1/ko
Publication of JP2017515429A publication Critical patent/JP2017515429A/ja
Application granted granted Critical
Publication of JP6454741B2 publication Critical patent/JP6454741B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams
    • H04N21/4394Processing of audio elementary streams involving operations for analysing the audio stream, e.g. detecting features or characteristics in audio streams
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/018Audio watermarking, i.e. embedding inaudible data in the audio signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4126The peripheral being portable, e.g. PDAs or mobile phones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42203Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] sound input device, e.g. microphone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/443OS processes, e.g. booting an STB, implementing a Java virtual machine in an STB or power management in an STB
    • H04N21/4436Power management, e.g. shutting down unused components of the receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4722End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835Generation of protective data, e.g. certificates
    • H04N21/8352Generation of protective data, e.g. certificates involving content or source identification data, e.g. Unique Material Identifier [UMID]

Abstract

コンテンツ(「主コンテンツ」という)を再生するコンテンツ再生機器から出力される音響を感知するステップと、感知した前記音響をデジタルデータに変換するステップと、デジタルデータから音波IDを抽出するステップと、音波IDに対応する関連コンテンツを選択するステップと、関連コンテンツをモバイル受信機が映像及び/または音声で表示するステップとを含むことを特徴とする関連コンテンツ提供方法が提供される。

Description

本発明は、コンテンツに含まれた音響を低電力で受信して、関連コンテンツを提供する低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体に関する。
本発明は、地方中小企業庁の国家研究開発事業(主管機関:中小企業技術情報振興院、課題固有番号:S2145032、研究事業名:健康診断連係創業成長技術開発事業、研究課題名:スマートフォンで精密な室内位置把握をするための音波多重接続技術開発)により支援を受けたものである。
[この発明を支援した国家研究開発事業]
[課題固有番号]S2145032
[部署名]地方中小企業庁
[研究管理専門機関]中小企業技術情報振興院
[研究事業名]健康診断連係創業成長技術開発事業
[研究課題名]スマートフォンで精密な室内位置把握をするための音波多重接続技術開発
従来の商品広告は、新聞、ラジオ及びTV放送による直接的な広告だけでなく、映画、ドラマ、ラジオ放送などのコンテンツに登場する小品あるいは自然にコンテンツの一部として言及される商品に広告を出そうとする商品を適用して、間接的に商品を広告する技法(以下、商品間接広告あるいは間接広告と記す)などが広範囲に使用されている。特に、商品間接広告の場合は、視聴者及び聴取者に強い広告効果を提供するから、その比重がますます高まっている。しかしながら、従来の間接広告の場合、単純に画面に商品を露出したり音響で言及する水準に止まる。このために、視聴者あるいは聴取者は、商品に対する購買欲求が発生した場合にも、商品に対する関連情報と販売処を別に検索し、検索された情報に基づいて商品を購買しなければならないという問題点があり、このような問題点を解決するための技術が提案されている。例えば、韓国特許登録番号10-1310943号(2013.9.11)(放送コンテンツと関連したコンテンツ関連情報を提供するシステム及び方法)、韓国特許登録番号10-1313293号(2013.9.24)(放送コンテンツの付加情報提供システム及びその方法)、韓国特許登録番号10-0893671号(2009.4.9)(マルチメディアコンデンツのハッシュの生成及びマッチング)では、放送あるいは再生されるコンテンツの音響特徴を利用して、視聴者あるいは聴取者のモバイル受信機で視聴あるいは聴取しているコンテンツに含まれた商品間接広告に対する関連コンテンツを提供する方法を開示している。さらに他の一例を挙げると、韓国特許登録番号10-1363454号(2014.2.10)(TVから出力される音響信号に基づいたユーザお誂え向き広告提供システム、ユーザお誂え向き広告を提供する方法、及びMIMサービスプログラムを記録したコンピューターで読むことができる記録媒体)では、放送あるいは再生されるコンテンツに非可聴音波を挿入して、視聴者あるいは聴取者のモバイル受信機で視聴あるいは聴取しているコンテンツに含まれた商品間接広告に対する関連コンテンツを提供する方法を開示している。
しかしながら、上記の開示された技術では、視聴者あるいは聴取者がモバイル受信機を利用して積極的に関連コンテンツを要請しなければならないという問題点が依然として存在する。すなわち、コンテンツの再生時に関連コンテンツを受信するために、モバイル受信機のアプリケーションを実行するか、または関連コンテンツを提供するモバイル受信機のアプリケーションにコンテンツ認識を指示しなければならない。このように関連コンテンツを受信するにおいて、別の努力が必要なことは、受動的にコンテンツを楽しむ視聴者あるいは聴取者の行動パターンに反対になるか、別の努力をすることが視聴者あるいは聴取者の没入を妨害するから、提供される関連コンテンツの効用が低下するおそれがある。
一方、かかる問題は、モバイル受信機が音響特徴あるいは非可聴音波を持続的に抽出することによって解決できるが、これは制限されたバッテリーで動作するモバイル受信機に電力不足問題を引き起こす。
本発明の一実施の形態によれば、常時低電力で動作しながら視聴あるいは聴取中である主コンテンツに対する関連コンテンツを視聴者あるいは聴取者が積極的に探さなくても自動的に提供できる低電力関連コンテンツ提供システムが提供されることができる。
本発明の一実施の形態によれば、コンテンツ再生機器を介して放送あるいは再生される主コンテンツに含まれた音波IDを低電力で抽出して、視聴者あるいは聴取者であるユーザのモバイル受信機を介してユーザの特別の努力なしであるいはユーザの主コンテンツに対する没入を妨害しないながら、主コンテンツに含まれた間接広告商品に対する関連コンテンツを提供する低電力関連コンテンツ提供システムが提供されることができる。
本発明の一実施の形態によれば、常時低電力で動作しながら視聴あるいは聴取中である主コンテンツに対する関連コンテンツを視聴者あるいは聴取者が積極的に探さなくても自動的に提供できる低電力関連コンテンツ提供方法が必要である。
本発明の一実施の形態によれば、コンテンツ再生機器を介して放送あるいは再生される主コンテンツに含まれた音波IDを低電力で抽出して、視聴者あるいは聴取者であるユーザのモバイル受信機を介してユーザの特別の努力なしであるいはユーザの主コンテンツに対する没入を妨害しないながらコンテンツに含まれた間接広告商品に対する関連コンテンツを提供する方法が提供されることができる。
本発明の一実施の形態によれば、常時低電力で動作しながら視聴あるいは聴取中である主コンテンツの関連コンテンツを視聴者あるいは聴取者が積極的に探さなくても自動的に提供できる低電力関連コンテンツ提供方法をコンピューターで実行させるプログラムの記録された記録媒体が提供されることができる。
本発明の一実施の形態によれば、コンテンツ再生機器を介して放送あるいは再生される主コンテンツに含まれた音波IDを低電力で抽出して、視聴者あるいは聴取者であるユーザのモバイル受信機を介してユーザの特別の努力なしであるいはユーザの主コンテンツに対する没入を妨害しないながら、主コンテンツに含まれた間接広告商品に対する関連コンテンツを提供する方法をコンピューターで実行させるプログラムの記録された記録媒体が提供されることができる。
本発明の一実施の形態によれば、低電力関連コンテンツ提供システム、方法、またはプログラムを記録したコンピューターで読むことができる記録媒体が提供されることができる。
本発明の一実施の形態によれば、コンテンツ(「主コンテンツ」という)を再生するコンテンツ再生機器から出力される音響を感知するステップと、感知した前記音響をデジタルデータに変換するステップと、前記デジタルデータから音波IDを抽出するステップと、前記音波IDに対応する関連コンテンツを選択するステップと、前記関連コンテンツをモバイル受信機が映像及び/または音声で表示するステップとを含むことを特徴とする関連コンテンツ提供方法が提供されることができる。
本発明の一実施の形態によれば、メモリ及びプロセッサを含むモバイル受信機において、コンテンツ(「主コンテンツ」という)を再生するコンテンツ再生機器から出力される音響を感知するマイクと、前記マイクが感知した音響をデジタルデータに変換するADCと、前記デジタルデータから音波IDを抽出する音波ID抽出部と、前記音波IDに対応して選択された関連コンテンツを表示する表示部とを備えることを特徴とする関連コンテンツを提供できるモバイル受信機が提供される。
本発明の一実施の形態によれば、メモリ、プロセッサ、コンテンツ(「主コンテンツ」という)を再生するコンテンツ再生機器から出力される音響を感知するマイク、前記マイクが感知した音響をデジタルデータに変換するADCを含むコンピューターに関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体であって、前記関連コンテンツ提供方法は、前記デジタルデータから音波IDを抽出するステップと、前記音波IDに対応して選択された関連コンテンツを前記コンピューターが備えた表示部を介して表示するステップと、を含むことを特徴とする関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体が提供されることができる。
本発明の一つ以上の実施の形態によれば、コンテンツ再生機器を介して放送あるいは再生される主コンテンツに含まれた音波IDを低電力で抽出して、視聴者あるいは聴取者であるユーザのモバイル受信機を介してユーザの特別の努力なしであるいはユーザの主コンテンツに対する没入を妨害しないながら、主コンテンツに含まれた間接広告商品に対する関連コンテンツを提供できる。
本発明の一実施の形態にかかる関連コンテンツを音波IDを利用して提供する関連コンテンツ提供システムを説明するための図である。 モバイル受信機の一実施の形態を説明するための図である。 モバイル受信機の他の実施の形態を説明するための図である。 本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。 本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。 本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。 本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。 主コンテンツを説明するための図である。 音響認識モジュールが低電力で動作するために、決まった周期に従って活性化されることを説明するための図である。 音響認識モジュールが主コンテンツの放送及び再生時間途中、音波IDが抽出可能な時間に合せて活性化されることを説明するための図である。 音波IDを抽出する過程を介して、音波IDの存在が予め設定された確率以上と推定されるとき、音響認識モジュールの活性化周期を説明するための図である。 モバイル受信機内部の共有資源であるマイクを使用する他のアプリケーションが活性化されるイベントに応じて音響認識モジュールの周期が調整されることを説明するための図である。 モバイル受信機内部で共有資源であるマイクを使用する他のアプリケーションが実行されるイベントに応じて音響認識モジュールの周期が調整されることを説明するための図である。 音響認識モジュールが低電力で動作するために、モバイル受信機のイベントを通報される方法を説明するための図である。 音響認識モジュールが低電力で動作するために、モバイル受信機のイベントを通報される方法を説明するための図である。 音響認識モジュールが低電力で動作するために、モバイル受信機のイベントを通報される方法を説明するための図である。 本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
以上の本発明の目的、他の目的、特徴及び利点は、添付された図面と関連した以下の好ましい実施の形態により容易に理解されるはずである。しかしながら、本発明は、ここで説明される実施の形態に限定されずに他の形態により具体化されうる。むしろ、ここで紹介される実施の形態は、開示された内容が徹底かつ完全になるように、そして当業者に、本発明の思想を十分に伝達させるために提供されるものである。
また、本明細書において使用された用語は、実施の形態を説明するためのもので、本発明を制限しようとするものではない。本明細書において、単数形は、文句において特に言及しない限り、複数形も含む。明細書で使用される「含む(comprises)」及び/又は「含んでいる(comprising)」と言及された構成要素は、一つ以上の他の構成要素の存在又は追加を排除しない。
以下、図面を参照して本発明を詳細に説明する。以下の特定実施の形態を述べるにおいて、様々な特定の内容は、発明をさらに具体的に説明し理解に役立つために作成された。しかしながら、本発明を理解することができる程度のこの分野における知識を有した読者は、このような様々な特定の内容がなくても使用されうることを認知できる。ある場合には、発明を述べるにおいて周知で発明と大きく関連のない部分は、本発明を説明するにおいて特別の理由なしで混乱を引き起こすことを防止するために述べないことを予め言及しておく。
(1)用語の定義
-コンテンツ:映像、音響あるいは音響と映像とが複合した形態の構造的なデジタルデータであって、教育的、文化的、情報的、及び/または娯楽的価値を提供する情報を意味する。
-コンテンツ再生機器:コンテンツを再生する機器であって、例えばTV、ラジオ、デスクトップコンピューターまたはモバイル機器(例:ラップトップコンピューター、タブレットコンピューター、スマートフォン、ウェアラブルコンピューターなど)のように、音響を再生するためのスピーカーあるいは音響出力端子を含み、追加的に映像を表示するためのモニターあるいは映像出力端子を含むことができる。
-コンテンツ:i)主コンテンツまたは関連コンテンツを意味するか、またはii)主コンテンツと関連コンテンツともを通称する意味として使用される。
-主コンテンツ:コンテンツ再生機器を介して出力(放送あるいは再生)されるコンテンツである。
-関連コンテンツ:モバイル受信機を介して出力されるコンテンツであって、コンテンツ再生機器を介して出力される主コンテンツの内容あるいは内容を伝達するための背景知識と関連した音響、映像、文書、インターネットアドレスなどの情報及び/またはこれらを指すデジタル識別子値を意味する。例えば、関連コンテンツは、コンテンツ編成の制約あるいは諸般法規の制約などで主コンテンツに含まれ難いコンテンツ、視聴者あるいは聴取者の参加を誘導するコンテンツ、視聴者あるいは聴取者の注意を得難い間接広告に関するコンテンツ、または間接広告に出てくる商品に関する情報あるいは商品の購買に関するコンテンツでありうる。
-モバイル受信機:関連コンテンツを出力できる機器であって、主コンテンツに含まれた音響を分析することができるように、マイク及びADC(Analog-Digital Converter)を含み、主コンテンツの音響を分析して主コンテンツを把握するか、または主コンテンツの相対的時間位置を把握した後、主コンテンツの全てまたは主コンテンツに含まれた一部と関連している関連コンテンツを視覚あるいは聴覚で認知できる形態でコンテンツ視聴者あるいは聴取者に提供するモバイル機器である。このとき、視聴者あるいは聴取者は、モバイル受信機を所有した人でありうる。例えば、モバイル受信機は、ラップトップコンピューター、タブレットコンピューター、スマートフォン、またはウェアラブルコンピューターなどのようなモバイル機器でありうる。
-商品間接広告あるいは間接広告:主コンテンツの全てあるいは一部として含まれた商品、サービス、ブランドロゴ、タグラインなどのように広告として主コンテンツ映像の一部または音響の一部として出力される広告である。商品間接広告あるいは間接広告は、協賛広告(コンテンツの製作時に無料あるいは割引された価格で現物を提供して、コンテンツの一部として露出させる広告)を含む概念であって、関連コンテンツは、例えば商品間接広告または間接広告と関連したコンテンツである。
-間接広告商品:商品間接広告あるいは間接広告により主コンテンツの全てあるいは一部として出力される商品またはサービスであり、具体的な形態を有した商品だけでなく、サービス、ブランド、ロゴ、及びタグラインなどを含む意味として使用される。
-音波ID(Identifier):音波IDは、(1)主コンテンツの音響に人為的に挿入された非可聴音響が表すデジタルデータ(非可聴音波ID)であるか、または(2)主コンテンツの一部として含まれている音響から抽出することができる音響の特徴を表す縮約されたデジタルデータ(可聴指紋ID)である。人為的に挿入された非可聴音波IDは、心理音響(Psychoacoustics)を利用して人に聞こえない非可聴音波に変調された特徴を有する。音響の特徴を表す可聴指紋音波IDは人為的な挿入を必要としないが、主コンテンツに音響がある時においてのみ抽出することができる。2種類の音波IDは、全部(1)主コンテンツを識別するか、または(2)主コンテンツ内の相対的時間位置を識別するか、(3)主コンテンツ内の間接広告と関連した関連コンテンツを識別するか、または(4)主コンテンツ内の相対的時間位置での間接広告と関連した関連コンテンツを識別するのに使用されることができる。非可聴音波IDは、一連番号、有意味な単語あるいはインターネットリンクなどを含むことができる。可聴指紋音波IDは、SVD/EVD(Singular/Eigen Value Decomposition)、PCA(Principal Component Analysis)、最大ランドマーク感知(Peak Landmarks Detection)、零点交差回数(Zero-crossing counting)、MFCC(Mel Frequency Cepstral Coefficient)、PLPC(Perceptual Linear Prediction Coefficient)、LPC(Linear Prediction Coefficient)などの技術をハッシュ関数(Hash Function)として使用して抽出でき、抽出された値は、ハッシュキー(Hash Key)として使用されることができる。非可聴音波IDの記述(description)の便宜のために、非可聴音波IDは、デジタルデータが変調されたアナログ形態の非可聴音波と変調前のデジタルデータ、復調後のデジタルデータのうちの何れか一つを指すことができる。また、記述の便宜のために、音響の特徴を抽出して得る可聴指紋音波IDは、抽出された特徴デジタルデータ、これを抽出できる主コンテンツ音響の一部、モバイル受信機が感知した特徴デジタルデータを抽出できる主コンテンツ音響の一部、モバイル受信機が抽出した特徴デジタルデータのうちの何れか一つを指すことができる。
-音響認識モジュール:音波IDを感知し抽出するために使用される少なくとも一つの構成要素を通称する意味として使用され、例えばマイク、ADC、音波ID抽出部、及び関連コンテンツ提供アプリケーションのうちの何れか一つを通称できる。
(2)関連コンテンツ提供システム
図1は、本発明の一実施の形態にかかる関連コンテンツを音波IDを利用して提供するシステム(以下、関連コンテンツ提供システムという)を説明するための図である。
図1を参照すると、関連コンテンツ提供システムは、コンテンツ再生機器100から出力される主コンテンツの全てまたは一部と関連した関連コンテンツをモバイル受信機200を介して提供するシステムである。
モバイル受信機200は、例えば、主コンテンツとして出力される映像と音響のうち、少なくともいずれか一つと関連した広告を含む関連コンテンツを提供できる。一例として、モバイル受信機200は、主コンテンツから出力される映像で表示されたあるいは音響で言及された間接広告商品に対する関連コンテンツを提供できる。一実施の形態によれば、モバイル受信機200は、主コンテンツから出力される映像で表示されたあるいは音響で言及された間接広告商品が複数である場合、これらの各々と関連した関連コンテンツを提供できる。
本実施の形態にかかる関連コンテンツ提供システムは、コンテンツ再生機器100、モバイル受信機200、及びサーバ300を備えることができる。
コンテンツ再生機器100は、映像及び/または音響を出力できる。モバイル機器200は、コンテンツ再生機器100により出力される音響から音波IDを少なくとも一つ以上抽出できる。例えば、音波IDは、関連コンテンツデータベース(Database、DB)(音波IDと関連コンテンツとが互いに対応したDB)を介して関連コンテンツと対応していることができる。
例えば、音波IDは、主コンテンツを識別するか、主コンテンツ内の相対的時間位置を識別するか、主コンテンツ内の間接広告と関連した(対応した)関連コンテンツを識別するか、または主コンテンツ内の相対的時間位置での間接広告と関連した(対応した)関連コンテンツを識別するのに使用されることができる。
コンテンツ再生機器100は、例えば、TV、ラジオ、デスクトップコンピューター及びモバイル機器(例:ラップトップコンピューター、タブレットコンピューター、スマートフォン、ウェアラブルコンピューターなど)等、音響を再生するためのスピーカーあるいは音響出力端子を含み、追加的に映像を表示するためのモニターあるいは映像出力端子を含むことができる。
モバイル受信機200は、コンテンツ再生機器100から出力される主コンテンツの音響に含まれた音波IDを抽出でき、音波IDに対応する関連コンテンツを視覚あるいは聴覚で認知できる形態で主コンテンツ視聴者あるいは聴取者に提供するモバイル機器である。このとき、視聴者あるいは聴取者は、モバイル受信機を所有した人でありうる。例えば、モバイル受信機200は、ラップトップコンピューター、タブレットコンピューター、スマートフォン、ウェアラブルコンピューターなどのモバイル機器を含むことができる。また、モバイル受信機200は、音波ID受信のためのマイク(図示せず)とADC(図示せず)を含むことができる。
本実施の形態において、モバイル受信機200は、音波IDを抽出すると、サーバ300に音波IDを送信し、サーバ300から音波IDに対応した関連コンテンツを受信して、音響または映像で表示できる。例えば、モバイル受信機200は、お知らせメッセージ、映像、及び/または音声などの形態でユーザに音波IDに対応した関連コンテンツを表示できる。
本実施の形態において、モバイル受信機200は、ラップトップコンピューター、タブレットコンピューター、ウェアラブルコンピューター、スマートフォンなどのモバイル機器のように移動性を有した装置であって、音響を認識するためのマイク(図示せず)、サーバとの通信のための通信部(図示せず)、コンピュータープロセッサ(図示せず)、メモリ(図示せず)、及びプログラム(図示せず)を含むことができる。ここで、プログラムは、コンピュータープロセッサの制御下にメモリにローディングされて、諸動作(例えば、音波IDを認識し、認識した音波IDをサーバ300に送信し、サーバ300から受信した関連コンテンツをお知らせメッセージ、映像、及び/または音声などの形態で表現する動作)を行うことができる。
次に、音波IDがコンテンツにどのように含まれることができるかについて説明する。
主コンテンツに音波IDを挿入し抽出する技術は、以下のような特許出願文献に開示された技術を利用できる。
例えば、IDを音響に挿入する技術と、そして音響に挿入されたコンテンツIDを抽出する技術は、例えば、本発明者が2012年4月12日付で韓国特許庁に特許出願した特許出願番号10-2012-0038120号(音響システムを利用してモバイル端末機の位置を推定する位置推定方法、及び位置推定システムと、これに使用される音響システム)に開示された技術を利用できる。
他の例として、本発明者が2012年7月18日付で韓国特許庁に特許出願した特許出願番号10-2012-0078410号(近接性データ収集方法及びシステム)に開示された技術(音響信号中にIDを含め、音響信号に含まれたIDを認識して抽出する技術)を利用することも可能である。
さらに他の例として、本発明者が2012年5月18日付で韓国特許庁に特許出願した特許出願番号10-2012-0053286号(スピーカーの識別のためのシステム及びこれを利用した位置推定システム)に開示された技術(音響信号中にIDを含め、音響信号に含まれたIDを認識して抽出する技術)を利用することも可能である。
他の例として、本発明者が2012年7月18日付で韓国特許庁に特許出願した特許出願番号10-2012-0078446号(近接性情報を利用したユーザ間親密度算出方法及び装置)に開示された技術(音響信号中にIDを含め、音響信号に含まれたIDを認識して抽出する技術)を利用することも可能である。
さらに他の例として、本発明者が2013年9月6日付で韓国特許庁に特許出願した特許出願番号10-2013-0107604号(時変周波数基盤のシンボルを利用した音波送受信方法及びこれを利用した装置)に開示された技術(音響信号中にデジタル情報を含め、音響信号に含まれたデジタル情報を認識して抽出する技術)を利用することも可能である。
一方、上述の特許出願番号10-2012-0038120、10-2012-0078410、10-2012-0053286、10-2012-0078446、及び10-2013-0107604の各々の明細書に開示された技術は、全部本願明細書に結合されて、本願明細書の一部として取り扱われる。
主コンテンツに含まれた音響の特徴に該当する可聴指紋音波IDを抽出する技術は、以下のような特許出願文献に開示された技術を利用できる。
例えば、韓国特許登録番号10-1310943号(2013.9.11)(放送コンテンツと関連したコンテンツ関連情報を提供するシステム及び方法)、韓国特許登録番号10-1313293号(2013.9.24)(放送コンテンツの付加情報提供システム及びその方法)、韓国特許登録番号10-0893671号(2009.4.9)(マルチメディアコンデンツのハッシュの生成及びマッチング)に開示された技術を利用することが可能である。
一方、上述の韓国特許登録番号10-1310943、10-1313293、及び10-0893671の各々の明細書に開示された技術は、全部本願明細書に結合されて、本願明細書の一部として取り扱われる。
サーバ300は、モバイル受信機200から音波IDを受信することができ、音波ID別に関連コンテンツが対応した関連コンテンツDB(図示せず)を参照して音波IDに対応した関連コンテンツを選択し、選択した関連コンテンツをモバイル受信機200に送信する。
本実施の形態におけるサーバ200は、例えば、広告を格納及び管理する広告サーバであるか、または同じグループに属した友人に文字及び/またはマルチメディアデータを送信するMIM(Multimedia Instant Messenger)サービスサーバでありうる。
サーバ200がMIMサービスサーバにより具現化される場合、サーバ200は、MIMサービスサーバと相互作用するクライアントプログラムに、関連コンテンツを送信する。
(3)音波IDを抽出するモバイル受信機
図2は、モバイル受信機の一実施の形態を説明するための図である。
図2を参照すると、モバイル受信機200は、マイク201、ADC203、プロセッサ207、メモリ209、格納装置211、表示部213、通信部215を備えることができる。
一実施の形態によれば、マイク201は、コンテンツ再生機器100から出力される音響を感知できる。すなわち、受信される音響を電気的信号に変換できる。
一実施の形態によれば、ADC203は、マイク101で感知したアナログ音波信号である音響をデジタルデータに変換する。一実施の形態においてADC203は、マイクが感知した予め設定された周波数範囲あるいはハードウェアが許容する最大周波数範囲内の音波信号をデジタルデータに変換できる。
代案的な実施の形態によれば、ADC203は、音響が予め設定された所定の閾値(Threshold)以上の強度を有する時においてのみデジタルデータに変換することもできる。また、ADC203は、予め設定された周波数範囲内の音響が予め設定された所定閾値以上の強度を有する時においてのみデジタルデータに変換することもできる。
閾値は、例えば、信号対雑音比(SNR)のような相対的値または音響の強度のような絶対的値でありうる。
プロセッサ207は、コンピューター命令語を解析し実行する装置であって、一般的な汎用コンピューターの中央処理装置(CPU)でありえ、スマートフォンのようなモバイルデバイスの場合、例えばアプリケーションプロセッサ(AP)を意味でき、メモリ209にローディングされたプログラムを実行できる。
メモリ209は、ランダムアクセスメモリ(RAM)のような揮発性格納装置により具現化されることができ、モバイルデバイス200の駆動に必要なオペレーティング・システム(OS)、アプリケーション、データなどがメモリ209にローディング(load)されることができる。格納装置211は、データを格納する非揮発性格納装置であって、例えば、ハードディスクドライブ(HDD)、フラッシュメモリ、SD(Secure Digital)メモリカードなどの装置により具現化されることができる。
表示部213は、ユーザに音声、映像、及び/またはテキストでコンテンツを表示できる。例えば、表示部213は、ディスプレイ部と音響出力端子あるいはこれと接続したスピーカーのような装置により具現化されることができる。
通信部215を外部と通信をするための装置により具現化されることができる。例えば、通信部215は、サーバ100と通信できる。
一実施の形態によれば、メモリ209には、プロセッサ207の制御下に関連コンテンツ提供アプリケーション223がローディングされて動作できる。このような関連コンテンツ提供アプリケーション223は、マイク201とADC203を利用して音響を受信し、音響から音波IDを成功的に抽出した場合、抽出された音波IDを通信部215を介してサーバ300に送信する。
一実施の形態によれば、関連コンテンツ提供アプリケーション223は、追加的な機能として、ADC203により感知された音響が閾値以上の強度を有するかどうかを判断し、音響が予め設定された閾値以上の強度を有する時においてのみ音響から音波IDを抽出する機能を具備できる。
他の一実施の形態によれば、関連コンテンツ提供アプリケーション223は、追加的な機能として、ADC203により感知された音響が予め設定された周波数範囲内で閾値以上の強度を有するかどうかを判断し、音響が予め設定された周波数範囲内で予め設定された閾値以上の強度を有する時においてのみ感知された音響から音波ID抽出する機能を具備できる。
さらに他の実施の形態によれば、音波IDを感知及び抽出する動作は、関連コンテンツ提供アプリケーション223でない別のハードウェアにより具現化されることも可能である。すなわち、図2において点線で表示した、音波ID抽出部205は、ハードウェアにより具現化されたものであって、モバイル受信機200は、音波ID抽出部205をさらに備えるように構成されることができる。このような場合、音波ID抽出部205は、ADC203により変換されたデジタルデータから音波IDを抽出し、関連コンテンツ提供アプリケーション223は、音波ID抽出部205が抽出した音波IDを通信部215を介してサーバ300に送信する。
本発明の一実施の形態によれば、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、及び関連コンテンツ提供アプリケーション223のうち、少なくとも一つは非活性化されている途中で、スケジュールまたは予め決められたイベントが発生する場合に活性化されて、自身の動作を行うことができる。
一例として、マイク201とADC203とは、スケジュールまたは予め決められたイベントが発生する場合に活性化されて、自身の動作を行うことができる。このような例において、マイク201とADC203とは非活性化されている途中で、スケジュールまたは予め決められたイベントが発生する場合に活性化される構成要素である。
一例として、関連コンテンツ提供アプリケーション223がマイク201により感知された音響が予め設定された周波数範囲内で閾値以上の強度を有するかどうかを判断する機能を具備するように具現化された場合には、マイク201とADC203とが活性化される時、関連コンテンツ提供アプリケーション223も共に活性化されて諸動作を行う。
一例として、関連コンテンツ提供アプリケーション223が音波IDを抽出する機能を具備するように具現された場合には、マイク201とADC203が活性化される時に、関連コンテンツ提供アプリケーション223も共に活性化されて諸動作を行う。
一例として、音波ID抽出機能が音波ID抽出部205により行われる実施の形態においては、音波IDの抽出が成功した場合においてのみ、関連コンテンツ提供アプリケーション223が活性化されることができる。活性化された関連コンテンツ提供アプリケーション223は、抽出された音波IDをサーバ300に送信しサーバ300から音波IDに対応する関連コンテンツを受信して、表示部213を介して音声及び/または映像で表示できる。これとは異なり、活性化された関連コンテンツ提供アプリケーション223は、抽出された音波IDに対応する関連コンテンツを検索して選択し、表示部213を介して音声及び/または映像で表示できる。このような場合、メモリ209に関連コンテンツデータベースがローディングされていることができ、関連コンテンツ提供アプリケーション223は、関連コンテンツデータベースを検索して、音波IDに対応する関連コンテンツを選択できる。
一例として、マイク201は、非活性化されている途中でスケジュールまたはイベントが発生した場合に活性化され、仮にマイク201が音響を感知するようになると(例えば、予め設定された帯域に属した音響を感知した場合)に、他の構成要素(例えば、ADC203、関連コンテンツ提供アプリケーション223、音波ID抽出部205等)が同時または順次に活性化されることができる。
一例として、マイク201により音響が感知された場合に、感知された音響が予め設定された閾値以上の強度を有するかどうかを判断する構成要素(例えば、関連コンテンツ提供アプリケーション)が活性化されることができる。そして、感知された音響が予め設定された閾値以上の強度を有すると判断された場合に、音波IDを抽出する構成要素(例えば、音波ID抽出部)が活性化される。
スケジュールに対するより詳細な説明は、図4を参照して説明した実施の形態を参照してほしい。スケジュールに従って規則的な周期でまたは不規則的な周期で活性化される動作については、図9ないし図11を参照して説明した実施の形態を参照し、予め決められたイベントが発生する活性化される動作については、図12ないし図14を参照して説明した実施の形態を参照してほしい。
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、非活性化されている途中で、主コンテンツスケジュールを参照して作成されたスケジュールに従って一定の周期でまたは不規則的な周期で活性化されることができる。例えば、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、主コンテンツが再生される時間の間においてのみ予め設定された周期で活性化されることができる。これとは異なり、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、主コンテンツが再生される時間の間には、予め設定された周期で行われ、主コンテンツが再生されない時間の間には、上記の予め設定された周期よりさらに長い周期で行われることができる。
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、音波IDスケジュールを参照して作成されたスケジュールに従って、一定の周期でまたは不規則的な周期で活性化されることができる。例えば、音波IDを抽出できる時間において活性化されることができる。
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め設定された周期で行われてから、音波IDの抽出には失敗したが、音波IDが存在すると判断される場合には、上記の予め設定された周期よりさらに短い周期で活性化されることができる。以後、IDが抽出されると、本来の周期で行われることができる。
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、以下の式、
閾値>感知された音響の強度>(α×閾値)(式中、αは1より小さい)
を満たす場合には、上記の設定された周期より短い周期で行われることができる。すなわち、一実施の形態において、本発明の発明者は、感知された音響の強度が閾値よりは小さいが、閾値に近接する程の場合には、音波IDが存在する音響が存在する可能性があると判断し、上記の式を満たす場合には、本来の周期よりさらに短い周期で、上記の構成要素が活性化されるように構成した。
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め決められたイベントが発生すると、活性化されることができる。ここで、イベントは、例えば、特定アプリケーションが実行される場合、モバイル受信機200が有した表示部が活性化または非活性化される場合、またはモバイル受信機200が外部からプッシュメッセージを受信する場合を意味できる。
ここで、特定アプリケーションは、マイクを自分だけが専用で使用するアプリケーションでありうるが、これは例示に過ぎず、他のアプリケーションも該当することができる。
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、予め決められたイベントが発生すると、実行されないように構成されることができる。そして、予め決められたイベントが終了すると、本来の周期に従って活性化される。
一例として、マイク201、ADC203、音波ID抽出部205、表示部213、通信部215、関連コンテンツ提供アプリケーション223のうち、少なくとも一つの構成要素は、予め決められたイベントが発生すると、プロセッサ207は、イベント発生事実をモバイル受信機200が有したオペレーティング・システム(OS)(図示せず)(メモリ209にローディングされていることができる)に伝達し、オペレーティング・システムは、イベントの発生事実をモバイル受信機200で動作するアプリケーションに各々対応して備えられたフィルタ(図示せず)(メモリ209にローディングされていることができる)に各々伝達し、これらの各々のフィルタは、予め設定されたことに従ってイベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しない。これらの動作に対するさらに詳細な説明は、図14を参照して説明した実施の形態を参照してほしい。
図3は、モバイル受信機の他の実施の形態を説明するための図である。
図3に示すように、本モバイル受信機400は、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、プロセッサ407、メモリ409、格納装置411、表示部413、通信部415を含むことができる。
図3の実施の形態と図2の実施の形態とを比較すると、図2の音波ID抽出部205が低電力音響強度測定部402と音波パターン認識部404とに分離されて構成されたことが分かる。
一実施の形態によれば、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると、活性化されることができる。スケジュールは、一定の周期でまたは不規則的な周期で活性化されるように作成されたことでありうる。スケジュールに対するより詳細な説明は、図4を参照して説明した実施の形態を参照してほしい。スケジュールに従って一定の周期でまたは不規則的な周期で活性化される動作については、図9ないし図11を参照して説明した実施の形態を参照し、予め決められたイベントが発生する活性化される動作については、図12ないし図14を参照して説明した実施の形態を参照してほしい。
一例として、マイク401、低電力音響強度測定部402、及びADC403はスケジュールまたは予め決められたイベントが発生する場合に活性化されて自身の動作を行うことができる。このような例において、マイク401、低電力音響強度測定部402、及びADC403は非活性化されてから、スケジュールまたは予め決められたイベントが発生する場合に活性化される構成要素である。
一例として、マイク401、低電力音響強度測定部402、ADC403、及び音波パターン認識部404は、スケジュールまたは予め決められたイベントが発生する場合に活性化されて、自身の動作を行うことができる。
一例として、音波IDの抽出が成功した場合においてのみ、関連コンテンツ提供アプリケーション423が活性化されることができる。活性化された関連コンテンツ提供アプリケーション423は、抽出された音波IDをサーバ300に送信しサーバ300から音波IDに対応する関連コンテンツを受信して、表示部413を介して音声及び/または映像で表示できる。これとは異なり、活性化された関連コンテンツ提供アプリケーション423は、音波IDに対応する関連コンテンツを検索して選択し、表示部413を介して音声及び/または映像で表示できる。このような場合、メモリ409に関連コンテンツデータベースがローディングされていることができ、関連コンテンツ提供アプリケーション423は、関連コンテンツデータベースを検索して音波IDに対応する関連コンテンツを選択できる。
一例として、マイク401は、非活性化されている途中でスケジュールまたはイベントが発生した場合に活性化され、仮に、マイク401が音響を感知するようになると(例えば、予め設定された帯域に属した音響を感知した場合に)、他の構成要素(例えば、ADC403、関連コンテンツ提供アプリケーション423、低電力音響強度測定部402、または音波パターン認識部404が同時または順次に活性化されることができる。
一例として、マイク401により音響が感知された場合に、感知された音響が予め設定された閾値以上の強度を有するかどうかを判断する低電力音響強度測定部が活性化されることができる。そして、感知された音響が予め設定された閾値以上の強度を有すると判断された場合に、音波IDを抽出する音波パターン認識部404が活性化されることができる。
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は非活性化されている途中で、主コンテンツスケジュールを参照して作成されたスケジュールに従って、一定の周期でまたは不規則的な周期で活性化されることができる。例えば、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、主コンテンツが再生される時間の間においてのみ予め設定された周期で活性化されることができる。これとは異なり、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、主コンテンツが再生される時間の間には予め設定された周期で行われ、主コンテンツが再生されない時間の間には本来の周期よりさらに長い周期で行われることができる。
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、音波IDスケジュールを参照して作成されたスケジュールに従って、一定の周期でまたは不規則的な周期で活性化されることができる。例えば、音波IDを抽出できる時間に活性化されることができる。
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、音波IDの抽出には失敗したが、音波IDが存在すると判断される場合には、本来の周期よりさらに短い周期で活性化されることができる。以後、IDが抽出されると、本来の周期で行われることができる。
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、以下の式
閾値>感知された音響の強度>(α×閾値)(式中、αは1より小さい)
を満たす場合には、上記の設定された周期より短い周期で行われることができる。すなわち、一実施の形態において、本発明の発明者は、感知された音響の強度が閾値よりは小さいが、閾値に近接する程の場合には、音波IDが存在する音響が存在する可能性があると判断して、上記の式を満たす場合には、本来の周期よりさらに短い周期で、上記の構成要素が活性化されるように構成した。
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め決められたイベントが発生すると、活性化されることができる。ここで、イベントは、例えば、特定アプリケーションが実行される場合、モバイル受信機200が有した表示部が活性化または非活性化される場合、またはモバイル受信機200が外部からプッシュメッセージを受信する場合を意味できる。
ここで、特定アプリケーションは、マイクを自分だけが専用で使用するアプリケーションでありうるが、これは例示に過ぎず、他のアプリケーションも該当されることができる。
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め設定された周期で行われている途中で、予め決められたイベントが発生すると、実行されないように構成されることができる。そして、予め決められたイベントが終了すると、本来の周期に従って活性化される。
一例として、マイク401、低電力音響強度測定部402、ADC403、音波パターン認識部404、及び関連コンテンツ提供アプリケーション423のうち、少なくとも一つの構成要素は、予め決められたイベントが発生すると、プロセッサ407は、イベント発生事実をモバイル受信機400が有したオペレーティング・システム(OS)(図示せず)(メモリ409にローディングされていることができる)に伝達し、オペレーティング・システムは、イベントの発生事実をモバイル受信機400で動作するアプリケーションに各々対応して備えられたフィルタ(図示せず)(メモリ409にローディングされていることができる)に各々伝達し、これらの各々のフィルタは、予め設定されたことに応じて、イベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しない。これらの動作に対するより詳細な説明は、図14を参照して説明した実施の形態を参照してほしい。
一実施の形態によれば、低電力音響強度測定部402は、低い電力を消費するが、持続的に活性化されており、音波パターン認識部404は、低電力音響強度測定部402より相対的に電力をより消費するが、主に非活性化されており、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると(すなわち、間歇的に)活性化される。低電力音響強度測定部402は、音響の特定周波数範囲内の音響を感知でき、感知した音響の強度が予め設定された閾値以上の強度を有するかどうかを持続的に判断できる。
本実施の形態において、低電力音響強度測定部402は、マイク401を介して入力された音響が予め設定された周波数範囲内で予め設定された閾値以上の強度を有するかどうかを判断する。万が一、強度が閾値以上の強度を有する場合、低電力音響強度測定部402は、低電力動作のために非活性化されていたADC403と音波パターン認識部404とを活性化させることができる。このとき、活性化されたADC403は、音響をデジタルデータに変換して、活性化された音波パターン認識部404に伝達できる。
一実施の形態によれば、音波パターン認識部404は、ADC403からデジタルデータ形態の音響を受信し、受信した音響から音波IDが含まれていると、音波IDを抽出できる。このとき、プロセッサ407が低電力で動作するために非活性化されている場合、音波パターン認識部404は、プロセッサ407を活性化させる。本実施の形態において、音波パターン認識部404は、抽出した音波IDを関連コンテンツ提供アプリケーション423に提供する。
他の実施の形態によれば、音波パターン認識部404は、ADC403からデジタルデータ形態の音響を受信し、受信した音響と予め格納された少なくとも一つの音波IDとを比較して、ADC403から受信した音響から音波IDが抽出されることができるかどうかを判断した後に、音波IDが抽出されることができると判断されると、直接音波IDを抽出する。代案的な実施の形態によれば、音波パターン認識部404は、ADC403から受信した音響から音波IDが抽出されることができるかどうかを判断し、仮に、音波IDが抽出されることができると判断されると、ADC403から受信した音響を関連コンテンツ提供アプリケーション423に提供し、関連コンテンツ提供アプリケーション423は、音波IDを抽出できる。
一方、音波IDを感知及び抽出する動作を別のハードウェアにより具現化する技術は、以下のような特許出願文献に開示された技術を利用できる。
例えば、低電力で非可聴音響に変調された音波を抽出する技術は、例えば、本発明者が2013年11月20日付で韓国特許庁に特許出願した特許出願番号10-2013-0141504号(低電力音波受信方法及びこれを利用したモバイル機器)に開示された技術を利用できる。
一方、上述の特許出願番号10-2013-0141504の明細書に開示された技術は、全部本願明細書に結合されて、本願明細書の一部として取り扱われる。
一方、メモリ409には、プロセッサ407の制御下に動作するDMBアプリケーションまたは動画プレーヤーまたはこれを通じてコンテンツを再生するのに必須なコーデック(Codec)221がローディングされることができる。このようなDMBアプリケーションまたは動画プレーヤーまたはコーデック221は、格納装置411に格納されている途中で、ユーザの命令などによってメモリ409にローディングされて動作できる。また、図示していないが、サーバ300からメッセージが到着すると、メッセージ処理プログラム(図示せず)がメモリ409にローディングされて、前記メッセージを表示部413を介して表示できる。
一方、図3の実施の形態で説明しない構成要素は、図2の実施の形態において類似の図面番号が付与された構成要素の動作と同一または似ているので、図2の実施の形態の説明を参照してほしい。
(4)低電力音波ID抽出
本願明細書では、本発明の説明の目的のために、用語「音響認識モジュール」は、モバイル受信機が含むマイク、ADC、音波ID抽出部、関連コンテンツ提供アプリケーション、低電力音響強度測定部、及び音波パターン認識部のうち、少なくとも何れか一つの構成要素を意味し、これらの少なくとも一つの構成要素は、音波IDを感知または抽出するか、音波IDを感知または抽出する構成要素を活性化させる動作を行う。
本発明の一実施の形態によれば、音響認識モジュールは低電力で動作するために、スケジュールに従ってまたは予め決められたイベントが発生すると(すなわち、間歇的に)活性化され、活性化された時に音響を感知し音波IDを感知して抽出する動作を行う。このとき、活性化とは、音響認識モジュールが電力消費を最小化するために最小限の機能のみをしている状態で、音波IDの感知及び抽出が可能な状態になるために必要なハードウェアモジュールを実行するか、または必要なソフトウェアを実行するか、または必要な入力情報をオペレーティング・システムから要請する等の諸般活動を行うことができる状態のことを意味する。
低電力で動作するための間歇的活性化は、図9ないし図14に具体的な実施の形態として示されている。
低電力で動作するための間歇的に活性化されるということは、例えば、(イ)音響認識モジュールが10分周期で活性化されて動作することでありえ、これは図9に示されている。さらに他の例として、(ロ)音波IDを主コンテンツから抽出できる時間的特徴を活用するか、または抽出する音波IDを含む主コンテンツの放送時間を考慮して、音響認識モジュールが不規則的な周期で活性化されて動作することでありえ、これは図10に示されている。さらに他の例として、(ハ)先んじた周期の音波ID受信試みの結果を考慮して、音響認識モジュールが不規則的な周期で活性化されて動作することでありえ、これは図11に示されている。さらに他の例として、(二)モバイル受信機の内部で発行するイベントに応じて音響認識モジュールが不規則的な周期で活性化されて動作することでありえ、これは図12〜14に示されている。図14は、モバイル受信機の内部で発生するイベントがどのように音響認識モジュールに伝達されるかが示されている。
(イ)周期的活性化
図9は、音響認識モジュールが低電力で動作するために、決まった周期に従って活性化されることを説明するための図である。
図9のa)は、主コンテンツが出力される時間に対して音響認識モジュールが同じ時間に活性化されることを示した図である。図9のb)は、主コンテンツが出力される時間に対して音響認識モジュールが主コンテンツの後半部あるいは完了する時間に活性化されることを示した図である。図9のc)は、主コンテンツが出力される時間に対して音響認識モジュールが予め設定した一定の周期で複数回(例えば、2回)活性化されることを示した図である。
(ロ)コンテンツの放送時間及び音波ID抽出可能時間の経過による活性化
図10は、音響認識モジュールが主コンテンツの放送及び再生時間途中、音波IDが抽出可能な時間に合せて活性化されることを説明するための図である。
一実施の形態によれば、音響認識モジュールが周期的に活性化される場合、活性化周期は、コンテンツ再生機器100により出力される主コンテンツから抽出した音波IDの時間的位置と抽出可能な音波IDが連続する程度を考慮して決定されることができる。例えば、コンテンツ内の音波IDが2分間連続して繰り返し的に抽出されることができ、その以後2分は、抽出が難しい全体4分のパターンがコンテンツに連続的に繰り返されていることができる。このとき、音響認識モジュールは最大2分単位で音波IDが抽出できるかを把握すると、コンテンツから抽出可能な音波IDを速い時間内に抽出しながらも音波IDを抽出する試みを間歇的にできるので、音波ID抽出による電力消費を減らすことができる。
他の実施の形態によれば、コンテンツ再生機器100から出力されるコンテンツの放送日時及び時間を予め分かる場合には、そのコンテンツが放送される該当時間に音響認識モジュールがより短い周期で活性化されることができる。例えば、音響認識モジュールの周期が10分に設定されていると仮定しよう。このとき、TVの特定コンテンツが毎週土曜日午後6時に1時間放映され、コンテンツから音波IDを抽出できるならば、音響認識モジュールは、毎週土曜日午後6時から午後7時までは10分でない5分の周期で動作できる。または、音響認識モジュールは、持続的に非活性される途中で、毎週土曜日午後6時から午後7時まで1時間だけ活性化される周期で動作できる。
以下、上述の2通りの実施の形態を図10を参照して説明する。モバイル受信機200または400は、音波IDが抽出可能な時間、すなわち図10の音波ID1、ID2、ID3の再生時間を知っている。この時間は、モバイル受信機200または400の音響認識モジュールがサーバを介して受けたことでありうる。音波ID1の再生時間になると、音響認識モジュールは、音波ID1を抽出するために活性化される。このとき、音波ID1の抽出に失敗すると、音響認識モジュールは、モバイル受信機200または400のユーザが主コンテンツ1を視聴あるいは聴取していないと判断できる。万が一、音波ID1の抽出に成功すると、モバイル受信機200または400は、音波ID1に対応した関連コンテンツをサーバ300から受信して表示できる。同様に、音波ID2とID3の再生時間に合せて音響認識モジュールが活性化され、音波IDの抽出を実行した後に成功する場合、モバイル受信機200または400は、音波IDに対応した関連コンテンツをサーバ300から受信して表示できる。このような方法により、モバイル受信機200または400は、音響認識モジュールを音波ID抽出が可能であると予測される時間においてのみ不規則的な周期で活性化されて、低電力で音波ID抽出及び関連コンテンツ表示を行うことができる。
(ハ)以前音波ID抽出結果に応じる活性化
図11は、音波IDを抽出する過程を介して、音波IDの存在が予め設定された確率以上と推定されるとき、音響認識モジュールの活性化周期を説明するための図である。
図11を参照すると、モバイル受信機200または400は、本来の計画した周期に合せて音響認識モジュールが活性化される。このとき、音響認識モジュールは、音波IDが抽出可能であると判断したが(以下、「存在有無判断」という) 抽出には失敗できる。すなわち、例えば、抽出した音波IDが関連コンテンツDB上に存在する特定音波IDとのハミング距離が予め設定した値以下であるとき、音波IDが抽出には失敗したが、存在していると推定できる。または、音波ID自体に存在有無を把握し、抽出失敗も確認することができるCRC(Cyclic Redundant Check)情報が含まれて、これを活用して確認することができる。または、音波IDの存在有無を把握するために、SNR(Signal-to-Noise Ratio)を測定して、予め設定された閾値以上になるかどうかを確認して、音波IDが存在していると推定できる。以上の方法で音波IDの存在は確認したが、抽出に失敗したと判断する場合を仮定しよう。このとき、音響認識モジュールは、主コンテンツの音波IDを抽出できる時間帯を逃さないために、本来施行する周期である周期3以後に計画された音響認識モジュールの活性化を取り消し、周期3よりさらに短い周期である周期4を有して活性化され、周期4以後の周期は、本来の周期に合せて調整されることができる。したがって、音波ID抽出試みに応じる結果で周期を調節することによって、音波ID抽出確率は高くしながら、従来の活性化頻度はそのまま維持して、低電力で動作できる。
(ニ)モバイル受信機内部イベントに応じる活性化
一実施の形態によれば、モバイル受信機200または400の内部で発行するイベントに応じて、音響認識モジュールが不規則的な周期で活性化されて動作できる。これを図12及び図13を参照して説明する。
図12は、モバイル受信機200または400内部の共有資源であるマイク201または401を使用する他のアプリケーションが活性化されるイベントに応じて、音響認識モジュールの周期が調整されることを説明するための図である。
モバイル受信機200または400上において複数のアプリケーションが同時に動作できる。このとき、モバイル受信機200または400の一部であるマイク201または401は、複数のアプリケーションが共有する資源でFCFS(First-Come First-Served)方式、すなわちまず使用するアプリケーションが使用を中止するまで他のアプリケーションが使用できない方式で共有されることができる。そういう場合、間歇的に活性化される音響認識モジュールは、他のアプリケーションがマイク201または401を使用する試みをしたとき、マイク201または401の使用を失敗するようにすることができる。したがって、音響認識モジュールはマイク201または401を使用することができるアプリケーションが感知される場合、あるいはマイク201または401を使用しようとする試みが失敗する場合、該当アプリケーションが終了するまで活性化を先送りして、他のマイク201または401を使うアプリケーションの動作を妨害しないながらも、総活性化回数を減らすことができるから、低電力で動作できる。
例えば、図12のようにt1時間にモバイル受信機200または400のメモリ209または409には、音響認識モジュールに含まれるアプリケーション1がロードされていることができる。予め設定された周期5に従って音響認識モジュールが活性化される予定であったが、t2時間以前に音響認識モジュールがマイク201または401を使用する確率が高いアプリケーション2が実行された事実が通報されるか、t2時間に音響認識モジュールが音波ID抽出を実行する前に現在実行中であるアプリケーション情報をオペレーティング・システムから得て、アプリケーション2を感知できる(このとき、感知するか、または通報を受ける方法は、以後図14を参照して具体的に説明する)。アプリケーション2が実行中である場合、音響認識モジュールは、t2時間に予定された活性化を取り消し、次に活性化する周期をt2以後に新しく設定できる。新しく設定された周期は、t1から周期5の2倍になる時刻に音響認識モジュールを活性化させる周期でありうる。また、図12に示したように、新しく設定される周期は、アプリケーション2が終了することが通報されるt3時刻が音響認識モジュールが活性化される時間になることができるように調節された周期であって、アプリケーション2が通報する時刻に修正されることができる。
さらに他の具体的なアプリケーションを例に挙げると、カメラアプリケーションが活性化される時、このアプリケーションは動画撮影のために、音響認識モジュールの一部を独占的に使用していることができる。このとき、カメラアプリケーションが独占的に音響認識モジュールの一部を使用することができるように、音響認識モジュールは、周期的な活性化を中断し、後にカメラアプリケーションが終了する時に活性化されることができる。
図13は、モバイル受信機200または400の内部で共有資源であるマイク201または401を使用する他のアプリケーションが活性化されるイベントに応じて、音響認識モジュールの周期が調整されることを説明するための図である。
モバイル受信機200または400の音響認識モジュールは、t4時刻に活性化されて音波ID抽出を試みたと仮定しよう。以後、本来計画した周期は周期7であって、t6時刻に再度音響認識モジュールが活性化される予定でありうる。しかしながら、この場合、t5時刻にマイク201または401を使用するアプリケーション4が実行される事実をオペレーティング・システムが音響認識モジュールに通報できる(このとき、感知または通報を受ける方法は、以後図14を参照して具体的に説明する)。万が一、オペレーティング・システムがマイク201または401の使用を共有できるように提供する場合、アプリケーション4の実行通報を受けた音響認識モジュールは、マイク201または401、ADC203または403プロセッサ207または407等、アプリケーション4が使用し音波IDの抽出に必要なハードウェア及びソフトウェア資源を共有して使用することができる。一例として、オペレーティング・システムは、マイク201または401に入る音響がADC203または403を介してデジタルデータに変換されたデータをアプリケーション4だけでなく、音響認識モジュールにも同時に提供して、両側で音響に関するデータを受けることができる。このようなオペレーティング・システムの支援により、音響認識モジュールは、個別的に活性化されて音波ID抽出を試みることに比べて、モバイル受信機200または400の全体消費電力を鑑みると、より低い電力で音波ID抽出が可能である。また、このような活性化をした場合は、本来計画していたt6時刻に活性化される日程を取消すことによって、音響認識モジュールは低電力で動作できる。
具体的なアプリケーションを例に挙げると、電話通話アプリケーションが活性化されるとき、このアプリケーションは、基本的にマイク201または401とADC203または403を活用し、プロセッサ207または407を活性化させるので、同時に音響認識モジュールが活性化されながら低電力で音波ID抽出が可能である。さらに他の例を挙げると、動画プレーヤーまたはDMBアプリケーションあるいはコーデック221または421が動作すると、モバイル受信機200または400がコンテンツ再生機器の機能も果たすと推定できるので、関連コンテンツを提供するために、音響認識モジュールが活性化されることができる。
以上、図12と図13で音響認識モジュールが特定アプリケーションがマイク201または401を使用するかが推定できると説明したが、こういう推定は、各アプリケーションがオペレーティング・システムから許諾されたハードウェア使用パーミッション(Permission)情報を閲覧して確認することができる。このとき、実行中であるアプリケーションの目録もまた、オペレーティング・システムから要請して得ることができる。
以上、図12と図13を特定アプリケーションが実行または終了されるモバイル受信機の内部のイベントに応じて音響認識モジュールが不規則的な周期を有すると説明したが、イベントの種類はこれに限定されない。例えば、図12と図13は、特定アプリケーションが実行または終了することだけでなく、アプリケーションがバックグラウンドモードからフォアグラウンドモードに転換されるか、またはフォアグラウンドモードからバックグラウンドモードに転換されることでありうる。さらに他の例として、図12は、特定アプリケーションでないモバイル受信機200または400の内部構成要素のうち、一つまたは一部以上が活性化されるイベントでありえ、図13は、非活性化されるイベントでありうる。具体的には、表示部のディスプレイが活性化あるいは非活性化されるイベントでありうる。さらに他の例として、イベントは、モバイル受信機200または400がプッシュサーバからプッシュメッセージを受信することでありうる。
図14は、図12と図13に示したように、音響認識モジュールが低電力で動作するために、モバイル受信機200または400のイベントが通報される方法を説明するための図である。
図14aは、オペレーティング・システムが実行中であるアプリケーションに特定イベントが発生したことを知らせるとき、これが通報される方法を示したものである。図14bは、特定アプリケーションが音響認識モジュールに該当するアプリケーションにイベントが発生したことを通報する方法を示したものである。図14cは、低電力でメッセージをサーバから受け取るようにするプッシュサーバがメッセージを送ったことを音響認識モジュールが通報される方法を示したものである。
図14aを一例を挙げて説明する。
モバイル受信機200または400は、電話を受信する機能を含むことができる。この場合、電話がかかってくる場合、オペレーティング・システムは、電話受信をするアプリケーションを動作させ、電話がかかってくるイベントに他のアプリケーションが対応するようにするために、電話受信イベントを各アプリケーションのフィルタに伝達する。例えば、アプリケーション5が電話受信を処理するアプリケーションでありえ、アプリケーション6は、音楽を再生中であるアプリケーションでありうる。電話がかかってくる場合、オペレーティング・システムは、電話がかかってくるイベントをアプリケーションの各フィルタに伝達する。アプリケーション6は、電話がかかってくる場合、音楽再生を止めなければならないので、アプリケーション6のフィルタは、電話受信イベントを通過させるように設定されていることができる。アプリケーション5のフィルタは、電話がかかってくる場合、ユーザインタフェースを準備し、電話通話を可能なようにしなければならないので、電話受信イベントを通過させるように設定されていることができる。オペレーティング・システムにおいて、マイク201または401を介して入力されて、ADC203または403を介して入力されたデジタルデータを複数のアプリケーションに同時に伝達できると仮定しよう。この場合、音響認識モジュールは、音響デジタルデータを受信して、音波ID抽出を実行できる。したがって、音響認識モジュールのアプリケーションに該当するアプリケーションは、そのフィルタに電話受信イベントが通過されるように設定できる。要するに、オペレーティング・システムが送るイベントのうち、低電力で動作するのに必要なイベントは、フィルタを通過するように設定して、音響認識モジュールは、低電力で音波IDを抽出できる。
図14bを一例を挙げて説明する。
図12のアプリケーション2と図13のアプリケーション4は、各々アプリケーションの活性化とアプリケーションの終了を音響認識モジュールに通報すると、音響認識モジュールは、低電力で動作できる。図14bのアプリケーション7が図12のアプリケーション2あるいは図13のアプリケーション4であると仮定しよう。このとき、アプリケーション7は、オペレーティング・システムに他のアプリケーションに伝達するイベントを伝達できる。このイベントは、図12のアプリケーション2の活性化イベントあるいは図13のアプリケーション4の終了イベントでありうる。該当イベントは、オペレーティング・システムに伝達され、オペレーティング・システムは、イベントをすべてのアプリケーションのフィルタに伝達できる。このとき、音響認識モジュールに含まれたアプリケーションのフィルタが活性化あるいは終了イベントを通過するように設定されていることができる。このような方法により、音響認識モジュールは、特定アプリケーションの活性化あるいは終了の通報を受けることができる。さらに他の一例として、アプリケーションの活性化あるいは終了でない音響認識モジュールが使用しようとするハードウェアあるいはソフトウェアの使用あるいは使用終了をイベントとして受ける方法を使用することができる。
図14bをさらに他の一例を挙げて説明する。
図10の主コンテンツ1と主コンテンツ2の放送あるいは再生日程が予め知られていることができる。このとき、図14bのアプリケーション7は、音波ID抽出アップと同じアプリケーションでありうる。音波ID抽出アップは、主コンテンツ1と2の放送あるいは再生日程をサーバから伝達されて、該当時刻をオペレーティング・システムのアラーム(Alarm)として登録できる。登録されたアラームは、該当時間になると、登録されたイベントを各アプリケーションのフィルタに伝達する。アプリケーション5は、このアラームイベントと関係なしで機能するので、アプリケーション5のフィルタは、このイベントをアプリケーション5に伝達しない。しかしながら、音響認識モジュールに含まれたアプリケーションのフィルタ(図14bの音波ID抽出アップのフィルタ)は、アラームイベントを受けて音波ID抽出を始めることができる。同じ方法で主コンテンツ1と2の音波IDが終わる時刻をオペレーティング・システムのアラームとして登録して、音響認識モジュールに含まれたアプリケーションは、音波ID抽出を終了できる。
図14cを一例を挙げて説明する。
図14cは、モバイル受信機200または400がプッシュサーバからメッセージを受けて、オペレーティング・システムを介してアプリケーションに伝達される。プッシュメッセージを受けるアプリケーションをアプリケーション8と仮定しよう。具体的にアプリケーション8は、MIMサービスと仮定しよう。このとき、モバイル受信機200または400がサーバからプッシュメッセージを受けてオペレーティング・システムに伝達され、オペレーティング・システムは、アプリケーションフィルタにこれを伝達する。アプリケーション8のフィルタは、MIM機能を行うために、プッシュメッセージを通過するように設定されていることができる。アプリケーション9は、該当プッシュメッセージと関係なく動作するものであって、アプリケーション9のフィルタは、プッシュメッセージを通過しないように設定されていることができる。モバイル受信機200または400は、電力消費を減らながら動作するために、プッシュメッセージを受信するための最小限のハードウェア及びソフトウェアだけを活性化している途中で、プッシュメッセージを受信したことでありうる。この場合、オペレーティング・システムからプッシュメッセージを受信したMIMサービスは、該当プッシュメッセージに適した動作を取る。音響認識モジュールのアプリケーション部分のフィルタは、このようなプッシュメッセージを通過するように設定されていることができる。そういう場合、音響認識モジュールは、プッシュメッセージ処理のために、AP、ディスプレイなど、モバイル受信機200または400の複数の構成要素が活性化されるとき、音響認識モジュールを活性化して、モバイル受信機200または400の構成要素のうち、音響認識モジュールが必要なハードウェア及びソフトウェアをアプリケーション8と共有して使用することができる。こういうハードウェア及びソフトウェアの共有を介して音響認識モジュールは、モバイル受信機200または400の全体観点において低電力で動作できる。
(5)サーバに関連コンテンツDBをおく関連コンテンツ提供方法
図4は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
本実施の形態にかかる関連コンテンツ提供方法が図1のシステムに適用されると仮定し、図4の実施の形態を説明する。
本実施の形態にかかる関連コンテンツ提供方法は、コンテンツ再生機器100が主コンテンツを出力するステップ(S101)、モバイル受信機の音響認識モジュールが活性化されるステップ(S103)、音波IDを抽出するステップ(S105)、サーバ300がステップ(S105)にて抽出された音波IDを受信し、音波IDに対応する関連コンテンツを検索し選択するステップ(S107)、及びモバイル受信機200がステップS107にて選択された関連コンテンツを表示するステップ(S109)を含むことができる。
ステップ(S103)にて、音響認識モジュールは、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化される。スケジュールは、一定の周期で及び/または不規則的な周期で音響認識モジュールが活性化されるように作成されたことありうる。スケジュールは、例えば、主コンテンツスケジュール(主コンテンツが再生される時間を表すスケジュール)または音波IDスケジュール(音波IDを抽出できる時間を表すスケジュール)を参照して作成されたことでありうるが、これは例示的なものであって、主コンテンツスケジュールまたは音波IDスケジュールを必ず参照して作成されたものである必要はない。
一実施の形態によれば、スケジュールは、音響認識モジュールが一定の周期で活性化されるように作成されたものであるか、または不規則的な周期で活性化されるように作成されたものでありうる。スケジュールに従って音響認識モジュールが活性化された例は、図9ないし図11を参照して説明した実施の形態でありえ、これらの実施の形態のみに限定されるものではないことを当業者は容易に理解できるはずである。
イベントがあると、音響認識モジュールが活性化される例は、図12ないし図14を参照して説明した実施の形態でありうるが、これらの実施の形態に限定されるものではないことを当業者は容易に理解できるはずである。
音響認識モジュールの一部として関連コンテンツ提供アプリケーションが使用されている場合、モバイル受信機200のメモリ209で動作する関連コンテンツ提供アプリケーションは、抽出された音波IDをサーバ300に送信する。サーバ300は、受信した音波IDに対応する関連コンテンツを検索する(S107)。以後、サーバ300は、選択した関連コンテンツをモバイル受信機200に送信し、モバイル受信機200は、関連コンテンツをユーザに表示する(S109)。
(6)モバイル受信機に関連コンテンツDBをおく関連コンテンツ提供方法
図5は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
本実施の形態にかかる関連コンテンツ提供方法が図1のシステムに適用されると仮定し、図3の実施の形態との差異点を中心に図5の実施の形態を説明する。
本実施の形態にかかる関連コンテンツ提供方法は、コンテンツ再生機器100が主コンテンツを出力するステップ(S201)、モバイル受信機の音響認識モジュールが活性化されるステップ(S203)、音波IDを抽出するステップ(S207)、モバイル受信機がステップ(S205)にて抽出された音波IDに対応する関連コンテンツを検索し選択するステップ(S209)、及びモバイル受信機200がステップ(S209)にて選択された関連コンテンツを表示するステップ(S211)を含むことができる。
一方、本実施の形態にかかる関連コンテンツ提供方法は、サーバがモバイル受信機に関連コンテンツDBに対したアップデート用データを送信するステップ(S205)をさらに含むことができ、モバイル受信機は、サーバからアップデート用データを受信して、自身が格納する関連コンテンツDBをアップデートできる。
例えば、モバイル受信機のメモリ209で動作する関連コンテンツ提供アプリケーションは、サーバ300から受信した関連コンテンツDBを格納装置211に格納するか、または予め格納されたDBをアップデートする。例えば、メモリ209で動作する関連コンテンツ提供アプリケーションは、音波IDに対応する関連コンテンツDBを検索及び選択し(S209)、選択した関連コンテンツを表示部213を介して表示できる(S211)。
モバイル受信機の音響認識モジュールが活性化されるステップ(S203)は、図4を参照して説明した活性化ステップと同様に、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化されることができる。
一方、図5の実施の形態は、図4の実施の形態とは異なり、モバイル受信機200が直接音波IDに対応する関連コンテンツを選択する。このために、サーバ300がモバイル受信機200に関連コンテンツDBの一部あるいは全てを送信して、モバイル受信機200に予め格納された関連コンテンツの一部あるいは全てをアップデートできる。
サーバ300が関連コンテンツDBを送信する時期は、図5に表示された時点に限定されない。サーバ300がモバイル受信機200に予め格納された関連コンテンツDBをアップデートするために、関連コンテンツDBを送信する場合には、特定時期に限定されない。
(7)モバイル受信機がコンテンツ再生機器として機能する方法
図6は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
図1のシステムにおいてコンテンツ再生機器300でないモバイル受信機200が主コンテンツを出力し、モバイル受信機200が音響を認識するよう具現化されたと仮定する。このような図1のシステムに本実施の形態にかかるコンテンツ提供方法が適用されたと仮定し、図4の実施の形態との差異点を中心に図6の実施の形態を説明する。
本実施の形態にかかる関連コンテンツ提供方法は、モバイル受信機200が主コンテンツを出力するステップ(S301)、モバイル受信機の音響認識モジュールが活性化されるステップ(S305)、音波IDを抽出するステップ(S307)、サーバがステップ(S307)にて抽出された音波IDに対応する関連コンテンツを検索し選択するステップ(S309)、及びモバイル受信機200がステップ(S309)にて選択された関連コンテンツを表示するステップ(S311)を含むことができる。
モバイル受信機の音響認識モジュールが活性化されるステップ(S203)は、図4を参照して説明した活性化ステップと同様に、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化されることができる。
ステップS307は、例えば、次のような方法により具現化されることができる。
第1に、モバイル受信機200が備えた表示部213の一部であるスピーカー(図示せず)を介して出力される音響をマイク201が感知し、感知した音響から音響認識モジュールがIDを抽出する方法。
第2に、モバイル受信機200が備えた表示部213の一部であるスピーカー(図示せず)を介して出力される前のデジタルデータを内部のオペレーティング・システムから音響認識モジュールが受けて音波IDを抽出する方法。
第3に、モバイル受信機200に接続したヘッドセット(図示せず)のマイク201の入力端子が、ヘッドセット(図示せず)の小型音響出力端子に接続されて、ヘッドセット(図示せず)の小型スピーカーに伝達される電気的信号から音響認識モジュールがIDを抽出する方法。
音響認識モジュールは、ステップS307にて抽出した音波IDをサーバ300に送信する(S307)。サーバ300は、関連コンテンツDB(サーバ300が格納しているか、または別の格納装置(図示せず)に格納)を参照して、音波IDに対応する関連コンテンツを検索及び選択する(S309)。サーバ300は、選択結果をモバイル受信機200に送信し、モバイル受信機200は、送信された選択結果を表示する。
図7は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
図1のシステムにおいてコンテンツ再生機器100ではないモバイル受信機200が主コンテンツを出力し、モバイル受信機200が音響を認識するよう具現化されたと仮定し、このような図1のシステムに本実施の形態にかかる関連コンテンツ提供方法が適用されたと仮定し、図4の実施の形態との差異点を中心に図7の実施の形態を説明する。
本実施の形態にかかる関連コンテンツ提供方法は、コンテンツ再生機器100が主コンテンツを出力するステップ(S401)、モバイル受信機の音響認識モジュールが活性化されるステップ(S403)、音波IDを抽出するステップ(S407)、モバイル受信機がステップ(S407)にて抽出された音波IDに対応する関連コンテンツを検索し選択するステップ(S409)、及びモバイル受信機200がステップ(S409)にて選択された関連コンテンツを表示するステップ(S411)を含むことができる。
一方、本実施の形態にかかる関連コンテンツ提供方法は、サーバがモバイル受信機に関連コンテンツDBに対したアップデート用データを送信するステップ(S405)をさらに含むことができ、モバイル受信機は、サーバからアップデート用データを受信して、自身が格納する関連コンテンツDBをアップデートできる。
上述のS407ステップは、上述のステップ(S307)と同じ方法により具現化されることができる。
モバイル受信機の音響認識モジュールが活性化されるステップ(S403)は、図4を参照して説明した活性化ステップと同一に、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化されることができる。
図7の実施の形態は、図4の実施の形態とは異なり、モバイル受信機200が直接音波IDに対応する関連コンテンツを選択する。このために、サーバ300がモバイル受信機200に関連コンテンツDBの一部あるいは全てを送信して、モバイル受信機200に予め格納された関連コンテンツの一部あるいは全てをアップデートできる。
サーバ300が関連コンテンツDBを送信する時期は、図7に示した時点に限定されない。すなわち、サーバ300がモバイル受信機200に予め格納された関連コンテンツDBをアップデートするために、関連コンテンツDBを送信する場合には、サーバ300が関連コンテンツDBを送信する時期は、特定時期に限定されない。
(8)コンテンツから抽出可能な音波IDの位置
図8は、主コンテンツを説明するための図である。
図8のa)は、主コンテンツの一例を示すもので、これらのコンテンツは、各々映像と音響との組み合わせからなり、音波IDを主コンテンツ該当時刻に各々抽出できる。
例えば、図8のa)のような主コンテンツが図4の実施の形態において出力されると仮定し、その動作を説明する。
コンテンツ再生機器100は、時間が経つにつれて主コンテンツ(主コンテンツ1、2、3)を出力し、これらのコンテンツから各々音波IDを抽出できる。音波ID1は、主コンテンツ1が出力される時に音響から抽出できるものである。音波ID2は、主コンテンツ2が出力される時に音響から抽出できるものである。音波ID3は、主コンテンツ3が出力される時に音響から抽出できるものである。
モバイル受信機200は、各々の音波IDを順次に抽出し、これらの音波IDを各々サーバ300に送信し、音波IDに各々対応する関連コンテンツをサーバ300から受信して表示するようになる。
一方、モバイル受信機200は、音波IDの抽出をスケジュールに従うか、または予め決められたイベントが発生すると(すなわち、間歇的に)実施できる。これについては、上述の実施の形態と同一なので、詳細な説明は省略する。
図8のb)は、コンテンツ再生機器を介して出力される主コンテンツの他の例を示すものであって、これらの主コンテンツは、各々映像と音響との組み合わせからなっており、音響から音波IDを抽出できる。
図8のb)の場合、互いに異なる二つの音波IDを抽出できるコンテンツがあるという点において図8のa)と差がある。
例えば、図8のb)のような主コンテンツが図6の実施の形態において出力されると仮定し、その動作を説明する。
モバイル受信機200は、時間が経つにつれて主コンテンツ(主コンテンツ4、5、6)を出力し、これらの主コンテンツから各々音波IDを抽出できる。音波ID1は、主コンテンツ4が出力される時に音響から抽出されうるものである。音波ID2、ID3は、主コンテンツ5が出力される時に音響から抽出されることができるものである。音波ID4は、主コンテンツ6が出力される時に音響から抽出されうるものである。
モバイル受信機200は、各々の音波IDを順次に抽出し、これらのIDを各々サーバ300に送信し、音波IDに各々対応する関連コンテンツをサーバ300から受信して表示するようになる。
(9)関連コンテンツを没入妨害無しで出力する方法
本発明の一実施の形態によれば、関連コンテンツをモバイル受信機を介して表示する時間は、主コンテンツにおいて広告またはエンディングクレジットなどの主コンテンツで視聴者あるいは聴取者の没入を必要としない時刻でありうる。例えば、主コンテンツがドラマで関連コンテンツがドラマに出た間接広告商品情報であるとき、たとえ関連コンテンツを得ることができる音波IDがドラマの中間部に位置するとしても、モバイル受信機は、関連コンテンツをモバイル受信機に表示することをドラマが終了しエンディングクレジットが表示される時点に延期できる。
一方、図4ないし図7を参照して、上述の方法を構成する各ステップを実行させるためのプログラムを記録したコンピューターで読むことができる記録媒体が提供されることができる。
(10)関連コンテンツ提供方法
図15は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
本発明の一実施の形態にかかる関連コンテンツ提供方法が図1のシステムに適用されると仮定し、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明する。
図15を参照すると、本発明の一実施の形態にかかる関連コンテンツ提供方法は、コンテンツを再生するコンテンツ再生機器から出力される音響をモバイル受信機200が感知するステップ(S501)、感知した音響をデジタルデータにモバイル受信機200が変換するステップ(S503)、デジタルデータから音波IDをモバイル受信機200が抽出するステップ(S505)と、抽出した音波IDに対応する関連コンテンツを検索及び選択するステップ(S507)、及び選択した関連コンテンツをモバイル受信機200が映像及び/または音声で表示するステップ(S509)を含むことができる。
また、本発明の一実施の形態にかかる関連コンテンツ提供方法は、ステップ(S501)にて感知された音響が予め設定された閾値以上の強度を有するかどうかを判断するステップをさらに含み、本判断するステップは、ステップ(S501)とステップ(S505)との間に行われることができる。
一例として、本判断するステップは、ステップ(S501)とステップ(S503)との間に行われることができる。この場合、ステップ(S501)にて感知された音響をデジタルデータに変換するステップ(S503)は、ステップ(S501)にて感知された音響が予め設定された閾値以上の強度を有すると判断された場合に行われることができる。
また、本発明の一実施の形態にかかる関連コンテンツ提供方法は、関連コンテンツを選択するステップ(S507)をモバイル端末機200が行うように具現化されるか、またはサーバ300が行うように具現されることが可能である。関連コンテンツを検索及び選択するステップ(S507)をサーバ300が行うように具現化される場合には、本発明の一実施の形態にかかる関連コンテンツ提供方法は、モバイル受信機200がステップ(S505)にて抽出された音波IDをサーバ300に送信するステップと、サーバ300が選択した関連コンテンツをモバイル受信機200に送信するステップとをさらに含むことができ、ここで、音波IDをサーバ300に送信するステップは、ステップ(S505)以後に行われ、サーバ300が選択した関連コンテンツをモバイル受信機200に送信するステップは、ステップ(S507)とステップ(S509)との間に行われることができる。
また、本発明の一実施の形態にかかる関連コンテンツ提供方法は、ステップ(S501)にて感知された音響が予め設定された閾値以上の強度を有するかどうかを判断するステップ(説明の目的のために「S502」という)、及び前述のステップ(S501)を行う構成要素、ステップ(S502)を行う構成要素、ステップ(S503)を行う構成要素、ステップ(S505)を行う構成要素、ステップ(S507)を行う構成要素のうち、少なくともいずれか一つの構成要素を活性化させるステップ(説明の目的のために「S504」という)をさらに含むことができる。
一例として、活性化させるステップ(S504)は、ステップ(S501)を行う構成要素、ステップ(S502)を行う構成要素、及びステップ(S503)を行う構成要素を活性化させるステップでありうる。このような例において、ステップ(S501)を行う構成要素、ステップ(S502)を行う構成要素、及びステップ(S503)を行う構成要素は非活性化されてから、活性化される構成要素であり、ステップ(S505)を行う構成要素とステップ(S507)を行う構成要素は、既に活性化された状態でありうる。
一例として、活性化させるステップ(S504)は、ステップ(S501)を行う構成要素、ステップ(S502)を行う構成要素を活性化させるステップ、及びステップ(S502)の遂行結果が成功すると、ステップ(S503)を行う構成要素とステップ(S507)を行う構成要素を活性化させるステップを含むように構成されることができる。
一例として、活性化させるステップ(S504)は、ステップ(S501)を行う構成要素を活性化させるステップと、ステップ(S501)の遂行結界、音響を感知した場合(例えば、予め設定された帯域に属した音響を感知した場合)に、ステップ(S502)を行う構成要素とステップ(S503)を行う構成要素を活性化させるステップとを含むように構成されることができる。ここで、ステップ(S507)を行う構成要素とステップ(S509)を行う構成要素は、例えば、既に活性化されているか、またはステップ(S503)が成功すると、活性化されるか、またはステップ(S503)が活性化される時に共に活性化されるように構成されることができる。
一例として、活性化させるステップ(S504)は、ステップ(S501)の遂行結果、音響が感知された場合、ステップ(S502)を行う構成要素を活性化させるステップと、ステップ(S502)の遂行結果、ステップ(S501)にて感知された音響が予め設定された閾値以上の強度を有すると判断された場合に、ステップ(S503)を行う構成要素とステップ(S505)を行う構成要素を活性化させるステップとを含むように構成されることができる。ここで、ステップ(S505)の遂行結果、音波IDが抽出された場合に、ステップ(S507)を行う構成要素とステップ(S509)を行う構成要素は、同時または順次に活性化されることができる。
一例として、活性化させるステップ(S504)は、スケジュールに従って行われるか、または予め決められたイベントが発生すると行われることができる。スケジュールに対する詳細な説明は、図4を参照して説明した実施の形態を参照してほしい。例えば、活性化させるステップ(S504)は、図9ないし図11を参照して説明した実施の形態のように、スケジュールに従って行われるか、または図12ないし図14を参照して説明した実施の形態のように予め決められたイベントがある場合に、行われることができる。
一例として、活性化させるステップ(S504)は、主コンテンツスケジュールを参照して作成されたスケジュールに従って、一定の周期で及び/または不規則的な周期で行われることができる。例えば、活性化させるステップ(S504)は、主コンテンツが再生される時間の間においてのみ予め設定された周期で行われることができる。これとは異なり、活性化させるステップ(S504)は、主コンテンツが再生される時間の間には、予め設定された第1周期で行われ、主コンテンツが再生されない時間の間には、第1周期よりさらに長い第2周期で行われることができる。
一例として、活性化させるステップ(S504)は、音波IDスケジュールを参照して作成されたスケジュールに従って、一定の周期で及び/または不規則的な周期で行われることができる。例えば、活性化させるステップ(S504)は、音波IDを抽出できる時間に行われることができる。
一例として、活性化させるステップ(S504)は、予め設定された第3周期で行われている途中で、音波IDの抽出には失敗したが、音波IDが存在すると判断される場合には、第3周期よりさらに短い第4周期で活性化させるステップ(S504)が行われることができる。以後、IDが抽出されると、活性化させるステップ(S504)は、第3周期で行われることができる。
一例として、活性化させるステップ(S504)は、予め設定された第5周期で行われている途中で、ステップ(S502)の遂行結果、以下の式
閾値>感知された音響の強度>(α×閾値)(式中、αは1より小さい。)
を満たす場合には、第5周期より短い第6周期で行われることができる。すなわち、一実施の形態において、本発明の発明者は、感知された音響の強度が閾値よりは小さい、閾値に近接する程の場合には、音波IDが存在する音響が存在する可能性があると判断して、上記の式を満たす場合には、第5周期よりさらに短い第6周期で、活性化させるステップ(S504)が行われるようにしたことである。
一例として、活性化させるステップ(S504)は、予め決められたイベントが発生すると、実行されることができる。ここで、イベントは、例えば特定アプリケーションが実行される場合、モバイル受信機200が有した表示部が活性化または非活性化される場合、またはモバイル受信機200が外部からプッシュメッセージを受信する場合を意味できる。
ここで、特定アプリケーションは、マイクを自分だけ専用で使用するアプリケーションでありうるが、これは例示に過ぎず、他のアプリケーションも該当することができる。
一例として、活性化させるステップ(S504)は、予め設定された第7周期で行われている途中で、予め決められたイベントが発生すると、実行されないように構成されることができる。そして、予め決められたイベントが終了すると、活性化させるステップ(S504)は、予め設定された周期(例えば、第7周期)に従って再度行われる。
一例として、活性化させるステップ(S504)は、予め決められたイベントが発生すると、イベント発生事実がモバイル受信機200が有したオペレーティング・システム(OS)(図示せず)に伝達されるステップ、オペレーティング・システムがイベントの発生事実をモバイル受信機200で動作するアプリケーションに各々対応して備えられたフィルタに各々伝達するステップ、及び各々のフィルタは、予め設定されたことに応じてイベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しないステップを含むように構成されることができる。さらに詳細な説明は、図14を参照して説明した実施の形態を参照してほしい。
以上、図15を参照して説明した関連コンテンツ提供方法において、音響を感知するステップを行う構成要素は、例えばマイクでありえ、音響をデジタルデータに変換するステップを行う構成要素は、ADCでありえ、音波IDを抽出するステップを行う構成要素は、音波ID抽出部または関連コンテンツ提供アプリケーションでありえ、関連コンテンツを検索して選択するステップを行う構成要素は、モバイル受信機(例えば、関連コンテンツ提供アプリケーション)またはサーバでありえ、関連コンテンツを映像及び/または音声で表示するステップを行う構成要素は、表示部でありうる。
以上、図15を参照して説明した関連コンテンツ提供方法は、モバイル受信機がコンテンツ再生機器から出力される音響を感知すると説明したが、これは例示に過ぎず、図6または図7の実施の形態のようにモバイル受信機から出力される音響をモバイル受信機が感知する構成によっても具現化されることができる。
関連コンテンツ提供方法をモバイル受信機から出力される音響をモバイル受信機が受信する構成により具現化する場合は、モバイル受信機から出力される音響をモバイル受信機が感知するステップ、感知した音響をデジタルデータにモバイル受信機が変換するステップ、デジタルデータから音波IDをモバイル受信機が抽出するステップ、抽出した音波IDに対応する関連コンテンツを選択するステップ、及び選択した関連コンテンツをモバイル受信機が映像及び/または音声で表示するステップを含むように具現されることができる。また、本関連コンテンツ提供方法は、感知された音響が予め設定された閾値以上の強度を有するかどうかを判断するステップ、及び感知した音響をデジタルデータにモバイル受信機が変換するステップを行う構成要素、デジタルデータから音波IDをモバイル受信機が抽出するステップを行う構成要素、抽出した音波IDに対応する関連コンテンツを選択するステップを行う構成要素、選択した関連コンテンツをモバイル受信機が映像及び/または音声で表示するステップを行う構成要素のうち、少なくともいずれか一つの構成要素を活性化させるステップをさらに含むことができる。ここで、活性化させるステップに対する具体的な例は、前述の実施の形態を参照してほしい。
(11)関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体
上述の本発明の一実施の形態にかかる関連コンテンツ提供方法は、メモリ、プロセッサ、マイク、ADCを備えたモバイル受信機で実行されるプログラム(説明の目的のために、「関連コンテンツ提供方法を実行させるためのプログラム」という)により具現化されることができる。すなわち、メモリ、プロセッサ、マイク、ADCを備えたモバイル受信機は、コンピューターとしての機能を有し、したがって、関連コンテンツ提供方法は、そういうモバイル受信機で実行されるプログラムの形態により具現化されることができる。
本発明の一実施の形態にかかる関連コンテンツ提供方法を実行させるためのプログラムは、関連コンテンツ提供アプリケーションを含むことができる。
一実施の形態によれば、関連コンテンツ提供方法を実行させるためのプログラムは、プロセッサの制御下でメモリにローディングされた後に実行されることができる。
関連コンテンツ提供方法を実行させるためのプログラムは、例えば、図15を参照して説明した実施の形態のうち、いずれか一つの方法を実行することでありうる。
一例として、関連コンテンツ提供方法を実行させるためのプログラムは、図15を参照して説明した各ステップのうち、プログラムにより具現化されることができるステップをモバイル受信機に実行させることができる。
一例として、関連コンテンツ提供方法を実行させるためのプログラムは、ステップ(S502)、ステップ(S503)、ステップ(S504)、ステップ(S505)、ステップ(S507)、及び/またはステップ(S509)をモバイル受信機に実行させることができる。すなわち、ステップ(S502)、ステップ(503)、ステップ(S504)、ステップ(S505)、ステップ(S507)、及びステップ((S509)が全部プログラムにより具現化されるか、またはステップ(S502)、ステップ(S503)、ステップ(S504)、ステップ(S505)、ステップ(S507)、及びステップ(S509)のうち一部は、ハードウェアにより具現化し、その残りのステップがプログラムにより具現化されることができる。ステップ(S502)、ステップ(S503)、ステップ(S504)、ステップ(S505)、ステップ(S507)、及びステップ(S509)についての詳細な説明は、図15を参照して説明した実施の形態を参照してほしい。
以上、本発明は、限定された実施の形態と図面により説明されたが、本発明は、上記の実施の形態に限定されるものではなく、本発明が属する分野における通常の知識を有した者であれば、このような記載から多様な修正及び変形が可能である。
本発明の範囲は、説明された実施の形態に限定されてはならず、後述する特許請求の範囲だけでなく、この特許請求の範囲と均等なものによって定められねばならない。
100 コンテンツ再生機器
201、401 マイク
203、403 ADC
205 音波ID抽出部
207、407 プロセッサ
209、409 メモリ
211、411 格納装置
213、413 表示部
215、415 通信部
221、421 DMBアプリケーションまたは動画プレーヤーまたはコーデック
223、423 関連コンテンツ提供アプリケーション
200、400 モバイル受信機
300 サーバ
402 低電力音響強度測定部
404 音波パターン認識部
本発明は、コンテンツに含まれた音響を低電力で受信して、関連コンテンツを提供する低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体に関する
-音波ID(Identifier):音波IDは、(1)主コンテンツの音響に人為的に挿入された非可聴音響が表すデジタルデータ(非可聴音波ID)であるか、または(2)主コンテンツの一部として含まれている音響から抽出することができる音響の特徴を表す縮約されたデジタルデータ(可聴指紋(fingerprint)ID)である。人為的に挿入された非可聴音波IDは、心理音響(Psychoacoustics)を利用して人に聞こえない非可聴音波に変調された特徴を有する。音響の特徴を表す可聴指紋音波IDは人為的な挿入を必要としないが、主コンテンツに音響がある時においてのみ抽出することができる。2種類の音波IDは、全部(1)主コンテンツを識別するか、または(2)主コンテンツ内の相対的時間位置を識別するか、(3)主コンテンツ内の間接広告と関連した関連コンテンツを識別するか、または(4)主コンテンツ内の相対的時間位置での間接広告と関連した関連コンテンツを識別するのに使用されることができる。非可聴音波IDは、一連番号、有意味な単語あるいはインターネットリンクなどを含むことができる。可聴指紋音波IDは、SVD/EVD(Singular/Eigen Value Decomposition)、PCA(Principal Component Analysis)、最大ランドマーク感知(Peak Landmarks Detection)、零点交差回数(Zero-crossing counting)、MFCC(Mel Frequency Cepstral Coefficient)、PLPC(Perceptual Linear Prediction Coefficient)、LPC(Linear Prediction Coefficient)などの技術をハッシュ関数(Hash Function)として使用して抽出でき、抽出された値は、ハッシュキー(Hash Key)として使用されることができる。非可聴音波IDの記述(description)の便宜のために、非可聴音波IDは、デジタルデータが変調されたアナログ形態の非可聴音波と変調前のデジタルデータ、復調後のデジタルデータのうちの何れか一つを指すことができる。また、記述の便宜のために、音響の特徴を抽出して得る可聴指紋音波IDは、抽出された特徴デジタルデータ、これを抽出できる主コンテンツ音響の一部、モバイル受信機が感知した特徴デジタルデータを抽出できる主コンテンツ音響の一部、モバイル受信機が抽出した特徴デジタルデータのうちの何れか一つを指すことができる。
コンテンツ再生機器100は、映像及び/または音響を出力できる。モバイル受信機200は、コンテンツ再生機器100により出力される音響から音波IDを少なくとも一つ以上抽出できる。例えば、音波IDは、関連コンテンツデータベース(Database、DB)(音波IDと関連コンテンツとが互いに対応したDB)を介して関連コンテンツと対応していることができる。
例えば、音波IDを音響に挿入する技術と、そして音響に挿入された音波IDを抽出する技術は、例えば、本発明者が2012年4月12日付で韓国特許庁に特許出願した特許出願番号10-2012-0038120号(音響システムを利用してモバイル端末機の位置を推定する位置推定方法、及び位置推定システムと、これに使用される音響システム)に開示された技術を利用できる。
一実施の形態によれば、ADC203は、マイク201で感知したアナログ音波信号である音響をデジタルデータに変換する。一実施の形態においてADC203は、マイクが感知した予め設定された周波数範囲あるいはハードウェアが許容する最大周波数範囲内の音波信号をデジタルデータに変換できる。
一例として、予め決められたイベントが発生すると、プロセッサ207は、イベント発生事実をモバイル受信機200が有したオペレーティング・システム(OS)(図示せず)(メモリ209にローディングされていることができる)に伝達し、オペレーティング・システムは、イベントの発生事実をモバイル受信機200で動作するアプリケーションに各々対応して備えられたフィルタ(図示せず)(メモリ209にローディングされていることができる)に各々伝達し、これらの各々のフィルタは、予め設定されたことに従ってイベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しない。これらの動作に対するさらに詳細な説明は、図14を参照して説明した実施の形態を参照してほしい。
一例として、予め決められたイベントが発生すると、プロセッサ407は、イベント発生事実をモバイル受信機400が有したオペレーティング・システム(OS)(図示せず)(メモリ409にローディングされていることができる)に伝達し、オペレーティング・システムは、イベントの発生事実をモバイル受信機400で動作するアプリケーションに各々対応して備えられたフィルタ(図示せず)(メモリ409にローディングされていることができる)に各々伝達し、これらの各々のフィルタは、予め設定されたことに応じて、イベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しない。これらの動作に対するより詳細な説明は、図14を参照して説明した実施の形態を参照してほしい。
(ニ)モバイル受信機内部イベントに応じる活性化
一実施の形態によれば、モバイル受信機200または400の内部で発行するイベントに応じて、音響認識モジュールが不規則的な周期で活性化されて動作できる。これを図12及び図13を参照して説明する。
図12は、モバイル受信機200または400内部の共有資源であるマイク201または401を使用する他のアプリケーションが活性化されるイベントに応じて、音響認識モジュールの周期が調整されることを説明するための図である。
モバイル受信機200または400上において複数のアプリケーションが同時に動作できる。このとき、モバイル受信機200または400の一部であるマイク201または401は、複数のアプリケーションが共有する資源でFCFS(First-Come First-Served)方式、すなわちまず使用するアプリケーションが使用を中止するまで他のアプリケーションが使用できない方式で共有されることができる。そういう場合、間歇的に活性化される音響認識モジュールは、他のアプリケーションがマイク201または401を使用する試みをしたとき、マイク201または401を使用できないようにすることができるまた、音響認識モジュールマイク201または401を使用することができるアプリケーション感知する場合、あるいは、音響認識モジュールがマイク201または401を使用しようとする試みが失敗する場合、該当アプリケーションが終了するまで音響認識モジュールの活性化を先送りして、他のマイク201または401を使うアプリケーションの動作を妨害しないながらも、総活性化回数を減らすことができるから、低電力で動作できる。
以上、図12と図13を特定アプリケーションが実行または終了されるモバイル受信機の内部のイベントに応じて音響認識モジュールが不規則的な周期を有すると説明したが、イベントの種類はこれに限定されない。例えば、図12と図13は、特定アプリケーションが実行または終了することだけでなく、アプリケーションがバックグラウンドモードからフォアグラウンド(foreground)モードに転換されるか、またはフォアグラウンドモードからバックグラウンドモードに転換されることでありうる。さらに他の例として、図12は、特定アプリケーションでないモバイル受信機200または400の内部構成要素のうち、一つまたは一部以上が活性化されるイベントでありえ、図13は、非活性化されるイベントでありうる。具体的には、表示部のディスプレイが活性化あるいは非活性化されるイベントでありうる。さらに他の例として、イベントは、モバイル受信機200または400がプッシュサーバからプッシュメッセージを受信することでありうる。
(7)モバイル受信機がコンテンツ再生機器として機能する方法
図6は、本発明の一実施の形態にかかる関連コンテンツ提供方法を説明するための図である。
図1のシステムにおいてコンテンツ再生機器00でないモバイル受信機200が主コンテンツを出力し、モバイル受信機200が音響を認識するよう具現化されたと仮定する。このような図1のシステムに本実施の形態にかかるコンテンツ提供方法が適用されたと仮定し、図4の実施の形態との差異点を中心に図6の実施の形態を説明する。
モバイル受信機の音響認識モジュールが活性化されるステップ(S305)は、図4を参照して説明した活性化ステップと同様に、スケジュールに従って活性化されるか、または予め決められたイベントが発生すると活性化されることができる。

Claims (63)

  1. コンテンツ(「主コンテンツ」という)を再生するコンテンツ再生機器から出力される音響を感知するステップと、
    感知した前記音響をデジタルデータに変換するステップと、
    前記デジタルデータから音波IDを抽出するステップと、
    前記音波IDに対応する関連コンテンツを選択するステップと、
    前記関連コンテンツをモバイル受信機が映像及び/または音声で表示するステップと、を含むことを特徴とする関連コンテンツ提供方法。
  2. 感知した前記音響が予め設定された閾値以上の強度を有するかどうかを判断するステップをさらに含み、
    前記デジタルデータに変換するステップは、前記音響が予め設定された閾値以上の強度を有すると判断された場合においてのみ行われることを特徴とする請求項1に記載の関連コンテンツ提供方法。
  3. 前記音波IDは、
    前記コンテンツ再生機器から出力される音響に人為的に挿入された非可聴音響を表すデジタルデータ(「非可聴音波ID」という)または
    前記コンテンツ再生機器から出力される音響の一部として含まれている音響から抽出できる音響の特徴を表す縮約されたデジタルデータ(「可聴指紋ID」という)であることを特徴とする請求項1に記載の関連コンテンツ提供方法。
  4. 前記関連コンテンツは、
    主コンテンツの内容または内容を伝達するための背景知識と関連した音響、映像、文書、インターネットアドレスなどの情報及び/またはこれらを指すデジタル識別子値を意味することを特徴とする請求項3に記載の関連コンテンツ提供方法。
  5. 前記音波IDは、
    前記関連コンテンツを識別するのに使用され、そして
    1)前記主コンテンツを識別するか、2)前記主コンテンツ内の相対的時間位置を識別するか、または3)前記主コンテンツ内の前記相対的時間位置での広告と関連した関連コンテンツを識別するのに使用されることができることを特徴とする請求項4に記載の関連コンテンツ提供方法。
  6. 前記音波IDをサーバに送信するステップと、
    前記サーバが前記音波IDに対応する関連コンテンツを前記モバイル受信機に送信するステップと、をさらに含み、
    前記音波IDを抽出するステップと前記音波IDをサーバに送信するステップは、前記モバイル受信機が行い、
    前記関連コンテンツを選択するステップは、前記サーバが行うことを特徴とする請求項4に記載の関連コンテンツ提供方法。
  7. 前記コンテンツ再生機器とモバイル受信機は、同じ装置であることを特徴とする請求項4に記載の関連コンテンツ提供方法。
  8. 前記音響が予め設定された閾値以上の強度を有すると判断された場合、前記デジタルデータに変換するステップを行う構成要素と、前記音波IDを抽出するステップを行う構成要素が動作するよう活性化させるステップをさらに含むことを特徴とする請求項2に記載の関連コンテンツ提供方法。
  9. スケジュールに従ってまたは予め決められたイベントが発生すると、
    前記ステップを行う構成要素のうち、少なくともいずれか一つの構成要素を活性化させるステップをさらに含むことを特徴とする請求項1に記載の関連コンテンツ提供方法。
  10. 前記活性化させるステップによって活性化される構成要素は、
    前記コンテンツ再生機器から出力される音響を感知するステップを行う構成要素と、前記音響をデジタルデータに変換するステップを行う構成要素と、前記音波IDを抽出するステップを行う構成要素であることを特徴とする請求項9に記載の関連コンテンツ提供方法。
  11. 前記活性化させるステップは、第1周期で行われている途中で、感知された前記音響の強度(A)が以下の式
    閾値>感知された音響の強度>α×閾値、(式中、αは1より少ない)
    を満たす場合、前記第1周期よりさらに短い第2周期で行われることを特徴とする請求項9に記載の関連コンテンツ提供方法。
  12. 前記活性化させるステップは、周期的に行われ、ただし行う時期になった時に予め決められたイベントが発生すると、行われないことを特徴とする請求項9に記載の関連コンテンツ提供方法。
  13. 前記ステップを行う構成要素のうち、少なくともいずれか一つの構成要素を活性化させるステップと、
    前記主コンテンツが再生される時間を表す主コンテンツスケジュールを格納するステップと、をさらに含み、
    前記活性化させるステップは、前記主コンテンツスケジュールを参照して、前記主コンテンツが再生される時間に合うように行われることを特徴とする請求項1に記載の関連コンテンツ提供方法。
  14. 前記活性化させるステップは、前記主コンテンツが再生される時間の間においてのみ、予め設定された周期で行われることを特徴とする請求項13に記載の関連コンテンツ提供方法。
  15. 前記活性化させるステップは、前記主コンテンツが再生される時間の間には第1周期で行われ、前記主コンテンツが再生されない時間の間には前記第1周期より長い第2周期で行われることを特徴とする請求項13に記載の関連コンテンツ提供方法。
  16. 前記ステップを行う構成要素のうち、少なくともいずれか一つの構成要素を活性化させるステップと、
    前記音波IDを抽出できる時間を表す音波IDスケジュールを格納するステップと、をさらに含み、
    前記活性化させるステップは、前記音波IDスケジュールを参照して、前記音波IDを抽出できる時間に行われることを特徴とする請求項1に記載の関連コンテンツ提供方法。
  17. 前記活性化させるステップは、第1周期で行われている途中で、前記音波IDを抽出するステップの遂行結果、音波IDの抽出は失敗したが、音波IDが存在すると判断された場合、前記第1周期よりさらに短い第2周期で行われることを特徴とする請求項16に記載の関連コンテンツ提供方法。
  18. 前記イベントは、
    特定アプリケーションが実行されるか、
    前記モバイル受信機が備えた表示部が活性化または非活性化されるか、または
    前記モバイル受信機がプッシュメッセージを受信することを意味することを特徴とする請求項9に記載の関連コンテンツ提供方法。
  19. 前記予め決められたイベントは、
    マイクを自分だけ使用するアプリケーションが実行されることである請求項12に記載の関連コンテンツ提供方法。
  20. 前記イベントが発生すると、イベント発生事実がオペレーティング・システムに伝達されるステップと、
    前記オペレーティング・システムは、前記イベントの発生事実を、前記モバイル受信機で動作するアプリケーションに対応して備えられた各々のフィルタに伝達するステップと、
    各々のフィルタは、予め設定されたことに従って、前記イベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しないステップと、を含むことを特徴とする請求項9に記載の関連コンテンツ提供方法。
  21. 前記音響をデジタルデータに変換するステップを行う構成要素と前記音波IDを抽出するステップを行う構成要素は、前記コンテンツ再生機器から出力される音響を感知するステップを行う構成要素が予め設定された帯域に属した音響を感知した時、同時または順次に活性化されることを特徴とする請求項1に記載の関連コンテンツ提供方法。
  22. 前記音響が予め設定された閾値以上の強度を有するかどうかを判断するステップを行う構成要素は、前記コンテンツ再生機器から出力される音響を感知するステップを行う構成要素が予め設定された帯域に属した音響を感知した時に、活性化され、
    前記音響をデジタルデータに変換するステップを行う構成要素と前記音波IDを抽出するステップを行う構成要素は、前記音響が予め設定された閾値以上の強度を有すると判断された場合に、同時または順次に活性化されることを特徴とする請求項2に記載の関連コンテンツ提供方法。
  23. 前記関連コンテンツを選択するステップを行う構成要素と前記関連コンテンツをモバイル受信機が映像及び/または音声で表示するステップを行う構成要素は、前記デジタルデータから音波IDが抽出された場合に、同時または順次に活性化されることを特徴とする請求項21または請求項22に記載の関連コンテンツ提供方法。
  24. メモリ及びプロセッサを含むモバイル受信機であって、
    コンテンツ(「主コンテンツ」という)を再生するコンテンツ再生機器から出力される音響を感知するマイクと、
    前記マイクが感知した音響をデジタルデータに変換するADCと、
    前記デジタルデータから音波IDを抽出する音波ID抽出部と、
    前記音波IDに対応して選択された関連コンテンツを表示する表示部と、を備えることを特徴とする関連コンテンツを提供できるモバイル受信機。
  25. 前記マイクが感知した音響が予め設定された閾値以上の強度を有するかどうかを判断する低電力音響強度測定部をさらに備え、
    前記ADCは、前記音響が予め設定された閾値以上の強度を有すると判断された場合においてのみ、前記マイクが感知した音響をデジタルデータに変換することを特徴とする請求項24に記載の関連コンテンツを提供できるモバイル受信機。
  26. 前記音波ID抽出部が抽出した音波IDをサーバに送信し、前記サーバから前記音波IDに対応する関連コンテンツを受信する通信部をさらに備え、
    前記表示部は、前記通信部が受信した関連コンテンツを表示することを特徴とする請求項24に記載の関連コンテンツを提供できるモバイル受信機。
  27. 前記コンテンツ再生機器と前記モバイル受信機は、同じ装置であることを特徴とする請求項24記載のモバイル受信機。
  28. 前記低電力音響強度測定部は、前記マイクが感知した音響が予め設定された閾値以上の強度を有すると判断した場合、
    前記ADCと、前記音波ID抽出部が動作するよう活性化させることを特徴とする請求項25に記載の関連コンテンツを提供できるモバイル受信機。
  29. スケジュールに従ってまたは予め決められたイベントが発生すると、
    前記構成要素(マイク、ADC、音波ID抽出部、表示部)のうち、少なくともいずれか一つの構成要素が活性化されることを特徴とする請求項24に記載の関連コンテンツを提供できるモバイル受信機。
  30. 活性化される少なくとも一つの構成要素は、
    前記マイクと前記ADCと前記音波ID抽出部であることを特徴とする請求項28に記載の関連コンテンツを提供できるモバイル受信機。
  31. 前記構成要素のうち、少なくとも一つは、第1周期で活性化されている途中で、感知された前記音響の強度(A)が以下の式
    閾値>感知された音響の強度>α×閾値(式中、αは1より少ない)
    を満たす場合、前記第1周期よりさらに短い第2周期で活性化されることを特徴とする請求項28に記載のモバイル受信機。
  32. 前記構成要素のうち、少なくとも一つは、周期的に活性化され、ただし活性化時間になった時に予め決められたイベントが発生すると、活性化されないことを特徴とする請求項28に記載の関連コンテンツを提供できるモバイル受信機。
  33. 前記メモリは、前記主コンテンツが再生される時間を表す主コンテンツスケジュールを格納し、
    前記構成要素のうち、少なくとも一つは、前記主コンテンツスケジュールに従って活性化されることを特徴とする請求項24に記載の関連コンテンツを提供できるモバイル受信機。
  34. 前記構成要素のうち、少なくとも一つは、前記主コンテンツが再生される時間の間においてのみ予め設定された周期で行われることを特徴とする請求項33に記載の関連コンテンツを提供できるモバイル受信機。
  35. 前記構成要素のうち、少なくとも一つは、前記主コンテンツが再生される時間の間には、第1周期で行われ、前記主コンテンツが再生されない時間の間には、前記第1周期より短い第2周期で行われることを特徴とする請求項33に記載の関連コンテンツを提供できるモバイル受信機。
  36. 前記メモリは、音波IDを抽出できる時間を表す音波IDスケジュールを格納し、
    前記構成要素のうち、少なくとも一つは、前記音波IDスケジュールに従って、前記音波IDを抽出できる時間に活性化されることを特徴とする請求項24に記載の関連コンテンツを提供できるモバイル受信機。
  37. 前記構成要素のうち、少なくとも一つは、第1周期で活性化されている途中で、
    前記音波ID抽出部により音波IDの抽出は失敗したが、音波IDが存在すると判断された場合、前記第1周期より短い第2周期に従って活性化されることを特徴とする請求項36に記載のモバイル受信機。
  38. 前記イベントは、
    予め決められた特定アプリケーションが実行されるか、
    前記モバイル受信機が備えた表示部が活性化または非活性化されるか、または
    前記モバイル受信機がプッシュメッセージを受信することを意味することを特徴とする請求項28に記載の関連コンテンツを提供できるモバイル受信機。
  39. 前記予め決められたイベントは、
    マイクを自分だけ使用するアプリケーションが実行されることである、請求項32に記載の関連コンテンツを提供できるモバイル受信機。
  40. 前記プロセッサの制御下で前記メモリにローディングされて実行されるオペレーティング・システムと、フィルタと、をさらに含み、
    前記イベントが発生すると、イベント発生事実を前記オペレーティング・システムが受信し、前記オペレーティング・システムは、前記イベントの発生事実を、前記フィルタに伝達し、
    前記フィルタは、予め設定されたことに従って、前記イベントの発生事実を自分に対等な構成要素に伝達することを特徴とする請求項29に記載のモバイル受信機。
  41. 前記ADCと前記音波ID抽出部は、前記マイクが予め設定された帯域に属した音響を感知した時、同時または順次に活性化されることを特徴とする請求項24に記載の関連コンテンツを提供できるモバイル受信機。
  42. 前記低電力音響強度測定部は、前記マイクが予め設定された帯域に属した音響を感知した時に、活性化され、
    前記ADCと前記音波ID抽出部は、前記音響が予め設定された閾値以上の強度を有すると判断された場合に、同時または順次に活性化されることを特徴とする請求項25に記載の関連コンテンツを提供できるモバイル受信機。
  43. 前記関連コンテンツを映像及び/または音声で表示する表示部と、前記プロセッサの少なくとも一部機能(前記表示部を制御する機能を含む)は、前記デジタルデータから音波IDが抽出された場合に、同時または順次に活性化されることを特徴とする請求項41または42に記載の関連コンテンツを提供できるモバイル受信機。
  44. メモリ、プロセッサ、コンテンツ(「主コンテンツ」という)を再生するコンテンツ再生機器から出力される音響を感知するマイク、前記マイクが感知した音響をデジタルデータに変換するADCを含むコンピューターに関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体であって、
    前記関連コンテンツ提供方法は、
    前記デジタルデータから音波IDを抽出するステップと、
    前記音波IDに対応して選択された関連コンテンツを前記コンピューターが備えた表示部を介して表示するステップと、
    を含むことを特徴とする関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  45. 前記関連コンテンツ提供方法は、
    前記マイクが感知した音響が予め設定された閾値以上の強度を有するかどうかを判断するステップをさらに含むことを特徴とする請求項44に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  46. 前記関連コンテンツ提供方法は、
    前記音波IDを前記コンピューターが備えた通信部を介してサーバに送信し、前記サーバから前記音波IDに対応する関連コンテンツを受信するステップをさらに含むことを特徴とする請求項44に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  47. 前記コンテンツ再生機器と前記コンピューターは、同じ装置であることを特徴とする請求項44に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  48. 前記関連コンテンツ提供方法は、
    前記マイクが感知した音響が予め設定された閾値以上の強度を有すると判断された場合に、前記ADCを活性化させ、前記音波IDを抽出するステップを活性化させるステップをさらに含むことを特徴とする請求項45に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  49. 前記関連コンテンツ提供方法は、
    スケジュールに従ってまたは予め決められたイベントが発生すると、前記マイク、ADC、前記音波IDを抽出するステップ、及び前記表示するステップのうち、少なくともいずれか一つを活性化させるステップをさらに含むことを特徴とする請求項45に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  50. 前記活性化させるステップは
    前記マイク、前記ADC、及び前記音波IDを抽出するステップを活性化させることを特徴とする請求項49に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  51. 前記活性化させるステップは、第1周期で行われている途中で、感知された前記音響の強度(A)が以下の式
    閾値>感知された音響の強度>α×閾値(式中、αは1より少ない)
    を満たす場合、前記第1周期よりさらに短い第2周期で行われることを特徴とする請求項49に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  52. 前記活性化させるステップは、周期的に行われ、ただし行う時期になった時に予め決められたイベントが発生すると、行われないことを特徴とする請求項49に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  53. 前記関連コンテンツ提供方法は、
    前記マイク、ADC、前記音波IDを抽出するステップと、前記表示するステップのうち、少なくともいずれか一つを活性化させるステップと、
    前記主コンテンツが再生される時間を表す主コンテンツスケジュールを格納するステップと、をさらに含み、
    前記活性化させるステップは、前記主コンテンツスケジュールを参照して、前記主コンテンツが再生される時間に合うように行われることを特徴とする請求項44に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  54. 前記活性化させるステップは、前記主コンテンツが再生される時間の間においてのみ予め設定された周期で行われることを特徴とする請求項53に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  55. 前記活性化させるステップは、前記主コンテンツが再生される時間の間には第1周期で行われ、前記主コンテンツが再生されない時間の間には前記第1周期より長い第2周期で行われることを特徴とする請求項53に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  56. 前記関連コンテンツ提供方法は、
    前記マイク、ADC、前記音波IDを抽出するステップと、
    前記表示するステップのうち、少なくともいずれか一つを活性化させるステップと、
    前記音波IDを抽出できる時間を表す音波IDスケジュールを格納するステップと、をさらに含み、
    前記活性化させるステップは、前記音波IDスケジュールを参照して、前記音波IDを抽出できる時間に行われることを特徴とする請求項44に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  57. 前記活性化させるステップは、第1周期で行われている途中で、前記音波IDを抽出するステップの遂行結果、音波IDの抽出は失敗したが音波IDが存在すると判断された場合、前記第1周期よりさらに短い第2周期で行われることを特徴とする請求項56に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  58. 前記イベントは、
    特定アプリケーションが実行されるか、
    前記コンピューターが備えた表示部が活性化または非活性化されるか、または
    前記コンピューターがプッシュメッセージを受信することを意味することを特徴とする請求項49に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  59. 前記予め決められたイベントは、
    マイクを自分だけ使用するアプリケーションが実行されることである請求項52に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  60. 前記関連コンテンツ提供方法は、
    前記イベントが発生すると、イベント発生事実がオペレーティング・システムに伝達されるステップと、
    前記オペレーティング・システムは、前記イベントの発生事実を、前記コンピューターで動作するアプリケーションに対応して備えられた各々のフィルタに伝達するステップと、
    各々のフィルタは、予め設定されたことに従って、前記イベントの発生事実を自分に対応したアプリケーションに伝達するか、または伝達しないステップと
    をさらに含むことを特徴とする請求項49に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  61. 前記ADCと前記音波IDを抽出するステップを行う構成要素は、前記マイクが予め設定された帯域に属した音響を感知した時に、同時または順次に活性化されることを特徴とする請求項44に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  62. 前記音響が予め設定された閾値以上の強度を有するかどうかを判断するステップを行う構成要素は、前記マイクが予め設定された帯域に属した音響を感知した時に、活性化され、
    前記ADCと前記音波IDを抽出するステップを行う構成要素は、前記音響が予め設定された閾値以上の強度を有すると判断された場合に、同時または順次に活性化されることを特徴とする請求項45に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
  63. 前記関連コンテンツを映像及び/または音声で表示するステップを行う構成要素と前記プロセッサの少なくとも一部機能(前記表示するステップを行う構成要素を制御する機能を含む)は、前記デジタルデータから音波IDが抽出された場合に、同時または順次に活性化されることを特徴とする請求項61または62に記載の関連コンテンツ提供方法を実行させるためのプログラムを記録したコンピューターで読むことができる媒体。
JP2016574884A 2014-03-11 2015-01-28 低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体 Active JP6454741B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR10-2014-0028614 2014-03-11
KR20140028614 2014-03-11
KR10-2014-0059864 2014-05-19
KR1020140059864A KR20150106299A (ko) 2014-03-11 2014-05-19 저 전력 연관 콘텐츠 제공 시스템, 방법, 및 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체
PCT/KR2015/000890 WO2015137621A1 (ko) 2014-03-11 2015-01-28 저 전력 연관 콘텐츠 제공 시스템, 방법, 및 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체

Publications (2)

Publication Number Publication Date
JP2017515429A true JP2017515429A (ja) 2017-06-08
JP6454741B2 JP6454741B2 (ja) 2019-01-16

Family

ID=54245219

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016574884A Active JP6454741B2 (ja) 2014-03-11 2015-01-28 低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体

Country Status (5)

Country Link
US (1) US9794620B2 (ja)
EP (1) EP3118850A4 (ja)
JP (1) JP6454741B2 (ja)
KR (3) KR20150106299A (ja)
CN (1) CN106256131A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020077941A (ja) * 2018-11-06 2020-05-21 株式会社リコー 受信装置、プログラム、音波処理システム、及び音波処理方法
JP2021505099A (ja) * 2017-11-29 2021-02-15 モティヴ インテリジェンス インコーポレイテッドMOTIV INTELLIGENCE Inc. コンピューティングデバイスにおけるアプリケーションの音波の受信及び処理の方法
JP7363334B2 (ja) 2019-10-10 2023-10-18 株式会社リコー 実行装置、情報処理システム、情報処理方法、及びプログラム
JP7385533B2 (ja) 2020-06-17 2023-11-22 Toa株式会社 音響受信装置、プログラムおよび音響受信装置における音響信号受信方法

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016208789A1 (ko) * 2015-06-26 2016-12-29 삼성전자 주식회사 소리를 판별하는 방법 및 이를 위한 장치
KR101751924B1 (ko) * 2015-10-05 2017-06-30 주식회사 사운들리 Tv 시청자에게 모바일 광고를 리타게팅하는 방법 및 시스템
US20170256197A1 (en) * 2016-03-02 2017-09-07 Disney Enterprises Inc. Systems and Methods for Providing Input to a Computer-Mediated Reality Device Using a Viewing Device
JP6720132B2 (ja) * 2017-12-27 2020-07-08 任天堂株式会社 情報処理システム、情報処理方法、情報処理装置、および、情報処理プログラム
US10930278B2 (en) * 2018-04-09 2021-02-23 Google Llc Trigger sound detection in ambient audio to provide related functionality on a user interface

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07160518A (ja) * 1993-10-27 1995-06-23 Microsoft Corp オペレーティングシステムのシステム管理のためのイベントアーキテクチャ
JP2008009120A (ja) * 2006-06-29 2008-01-17 Mitsubishi Electric Corp リモートコントローラ並びに家電機器
JP2013005377A (ja) * 2011-06-21 2013-01-07 Yamaha Corp 携帯端末装置および情報提供システム
JP2013009347A (ja) * 2011-05-20 2013-01-10 Nippon Hoso Kyokai <Nhk> 放送通信連携受信装置
WO2013118711A1 (ja) * 2012-02-08 2013-08-15 エイディシーテクノロジー株式会社 情報端末及び情報提供サーバ
WO2013129587A1 (ja) * 2012-03-02 2013-09-06 ヤマハ株式会社 コンテンツ提供システム、コンテンツ提供方法、コンテンツ編集装置、コンテンツ解析システム、および、放送局id放音装置
JP2015088055A (ja) * 2013-10-31 2015-05-07 ヤマハ株式会社 通信装置、情報提供システム及びプログラム

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7712123B2 (en) * 2000-04-14 2010-05-04 Nippon Telegraph And Telephone Corporation Method, system, and apparatus for acquiring information concerning broadcast information
US20010055391A1 (en) * 2000-04-27 2001-12-27 Jacobs Paul E. System and method for extracting, decoding, and utilizing hidden data embedded in audio signals
US20020023142A1 (en) * 2000-08-21 2002-02-21 Michaelis A. John Methods and apparatus for retrieving a web site based on broadcast radio or television programming
CN1235408C (zh) 2001-02-12 2006-01-04 皇家菲利浦电子有限公司 生成和匹配多媒体内容的散列
US9344802B2 (en) * 2005-06-28 2016-05-17 Field System, Inc. Information providing system
JP4854533B2 (ja) 2007-01-30 2012-01-18 富士通株式会社 音響判定方法、音響判定装置及びコンピュータプログラム
US8370161B2 (en) * 2008-11-05 2013-02-05 Hewlett-Packard Development Company, L.P. Responding to a call to action contained in an audio signal
US20110066942A1 (en) * 2009-09-14 2011-03-17 Barton James M Multifunction Multimedia Device
KR101235292B1 (ko) 2010-10-13 2013-02-20 (주)이투오피에스 인적 자원 역량 평가 시스템 및 방법
KR101216643B1 (ko) 2010-11-17 2012-12-31 김청규 밑밥수납부가 구비된 낚시찌
KR20120064582A (ko) 2010-12-09 2012-06-19 한국전자통신연구원 멀티미디어 컨텐츠 검색 방법 및 장치
KR101313293B1 (ko) 2010-12-16 2013-09-30 주식회사 아이플래테아 방송콘텐츠의 부가정보 제공 시스템 및 그 방법
KR20120078410A (ko) 2010-12-31 2012-07-10 중소기업은행 기부금 통장 관리 시스템 및 그 관리 방법
KR101292092B1 (ko) 2010-12-31 2013-08-08 만도신소재 주식회사 내마모성이 향상된 친환경 가스켓용 수지조성물, 이를 이용한 드럼식 세탁기 도어 밀폐용 가스켓 및 상기 가스켓을 구비한 드럼식 세탁기
WO2012093642A1 (ja) * 2011-01-07 2012-07-12 ヤマハ株式会社 情報提供システム、携帯端末装置、サーバおよびプログラム
KR101768588B1 (ko) 2011-05-19 2017-08-17 엘지전자 주식회사 무선 충전에 따른 음향 출력 상태의 제어
WO2013021824A1 (ja) * 2011-08-05 2013-02-14 ソニー株式会社 受信装置、受信方法、プログラム、及び情報処理システム
KR101310943B1 (ko) 2011-09-26 2013-09-23 (주)엔써즈 방송 콘텐츠와 연관된 콘텐츠 연관 정보를 제공하는 시스템 및 방법
EP2487680B1 (en) * 2011-12-29 2014-03-05 Distribeo Audio watermark detection for delivering contextual content to a user
US9167520B2 (en) * 2012-03-20 2015-10-20 Qualcomm Incorporated Controlling applications in a mobile device based on environmental context
KR20130107604A (ko) 2012-03-22 2013-10-02 코웨이 주식회사 싸이클론 집진장치
JP2013232182A (ja) 2012-04-02 2013-11-14 Yamaha Corp コンテンツ配信システム、サーバ装置及び端末装置
KR101447100B1 (ko) * 2012-07-18 2014-10-06 주식회사 사운들리 근접성 데이터 수집 방법 및 시스템
KR101363454B1 (ko) * 2013-04-19 2014-02-17 주식회사 사운들리 Tv로부터 출력되는 음향 신호에 기초한 사용자 맞춤형 광고 제공 시스템, 사용자 맞춤형 광고를 제공하는 방법, 및 mim 서비스 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체
KR20140126237A (ko) * 2013-04-19 2014-10-30 주식회사 사운들리 저 전력 연관 콘텐츠 제공 시스템, 방법, 및 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07160518A (ja) * 1993-10-27 1995-06-23 Microsoft Corp オペレーティングシステムのシステム管理のためのイベントアーキテクチャ
JP2008009120A (ja) * 2006-06-29 2008-01-17 Mitsubishi Electric Corp リモートコントローラ並びに家電機器
JP2013009347A (ja) * 2011-05-20 2013-01-10 Nippon Hoso Kyokai <Nhk> 放送通信連携受信装置
JP2013005377A (ja) * 2011-06-21 2013-01-07 Yamaha Corp 携帯端末装置および情報提供システム
WO2013118711A1 (ja) * 2012-02-08 2013-08-15 エイディシーテクノロジー株式会社 情報端末及び情報提供サーバ
WO2013129587A1 (ja) * 2012-03-02 2013-09-06 ヤマハ株式会社 コンテンツ提供システム、コンテンツ提供方法、コンテンツ編集装置、コンテンツ解析システム、および、放送局id放音装置
JP2015088055A (ja) * 2013-10-31 2015-05-07 ヤマハ株式会社 通信装置、情報提供システム及びプログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021505099A (ja) * 2017-11-29 2021-02-15 モティヴ インテリジェンス インコーポレイテッドMOTIV INTELLIGENCE Inc. コンピューティングデバイスにおけるアプリケーションの音波の受信及び処理の方法
JP7015398B2 (ja) 2017-11-29 2022-02-02 モティヴ インテリジェンス インコーポレイテッド コンピューティングデバイスにおけるアプリケーションの音波の受信及び処理の方法
JP2020077941A (ja) * 2018-11-06 2020-05-21 株式会社リコー 受信装置、プログラム、音波処理システム、及び音波処理方法
JP7187994B2 (ja) 2018-11-06 2022-12-13 株式会社リコー 受信装置、プログラム、音波処理システム、及び音波処理方法
JP7363334B2 (ja) 2019-10-10 2023-10-18 株式会社リコー 実行装置、情報処理システム、情報処理方法、及びプログラム
JP7385533B2 (ja) 2020-06-17 2023-11-22 Toa株式会社 音響受信装置、プログラムおよび音響受信装置における音響信号受信方法

Also Published As

Publication number Publication date
KR20150106300A (ko) 2015-09-21
JP6454741B2 (ja) 2019-01-16
KR101902426B1 (ko) 2018-09-28
US9794620B2 (en) 2017-10-17
KR20150106301A (ko) 2015-09-21
KR20150106299A (ko) 2015-09-21
CN106256131A (zh) 2016-12-21
EP3118850A1 (en) 2017-01-18
EP3118850A4 (en) 2017-01-18
US20170019703A1 (en) 2017-01-19

Similar Documents

Publication Publication Date Title
JP6454741B2 (ja) 低電力関連コンテンツ提供システム、方法、及びプログラムを記録したコンピューターで読むことができる記録媒体
US8799054B2 (en) Network-based methods and systems for initiating a research panel of persons operating under a group agreement
US11362747B2 (en) Vehicle-based media system with audio ad and visual content synchronization feature
US8245253B2 (en) Displaying music information associated with a television program
KR20140126237A (ko) 저 전력 연관 콘텐츠 제공 시스템, 방법, 및 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체
JP2012216185A (ja) 情報処理装置、情報処理方法、及びプログラム
US8254308B1 (en) Method and system for acoustically triggering electronic coupon retrieval
JP7129913B2 (ja) 情報処理装置、情報処理方法およびプログラム
CN104049758A (zh) 一种信息处理的方法及电子设备
KR20130069479A (ko) 광고를 제공하는 광고 제공 장치 및 방법
US10911822B2 (en) Device-based detection of ambient media to be used by a server to selectively provide secondary content to the device
KR102056270B1 (ko) 저 전력 연관 콘텐츠 제공 방법
US9681171B2 (en) Providing second screen content based on a frequency code
JP2014157472A (ja) 情報表示装置及びシステム及び方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181127

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181217

R150 Certificate of patent or registration of utility model

Ref document number: 6454741

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250