JP2018198058A - 情報提供方法、電子機器、コンピュータプログラム及び記録媒体 - Google Patents

情報提供方法、電子機器、コンピュータプログラム及び記録媒体 Download PDF

Info

Publication number
JP2018198058A
JP2018198058A JP2018094709A JP2018094709A JP2018198058A JP 2018198058 A JP2018198058 A JP 2018198058A JP 2018094709 A JP2018094709 A JP 2018094709A JP 2018094709 A JP2018094709 A JP 2018094709A JP 2018198058 A JP2018198058 A JP 2018198058A
Authority
JP
Japan
Prior art keywords
information
output
voice
response
electronic device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018094709A
Other languages
English (en)
Other versions
JP6947687B2 (ja
Inventor
ミョンス シン
Myeongsoo Shin
ミョンス シン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Z Intermediate Global Corp
Naver Corp
Original Assignee
Line Corp
Naver Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Line Corp, Naver Corp filed Critical Line Corp
Publication of JP2018198058A publication Critical patent/JP2018198058A/ja
Application granted granted Critical
Publication of JP6947687B2 publication Critical patent/JP6947687B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/28Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803Home automation networks
    • H04L12/2816Controlling appliance services of a home automation network by calling their functionalities
    • H04L12/282Controlling appliance services of a home automation network by calling their functionalities based on user interaction within the home
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/02Methods for producing synthetic speech; Speech synthesisers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/28Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/2803Home automation networks
    • H04L12/2816Controlling appliance services of a home automation network by calling their functionalities
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/221Announcement of recognition results
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223Execution procedure of a spoken command
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S362/00Illumination
    • Y10S362/80Light emitting diode

Abstract

【課題】 音声要請に対応する情報伝達向上のための出力に関する技術を提供する。
【解決手段】 一実施形態として、音声基盤インタフェースを含む電子機器の情報提供方法は、音声基盤インタフェースでユーザからの音声要請を受信する段階、音声要請に対応する応答情報を取得する段階、音声基盤インタフェースに対応するメインメディアおよび電子機器と連動可能な他の電子機器が含むサブメディアを含む複数のメディアのうちの少なくとも1つのメディアから、応答情報を聴覚的出力形態である返答音声として出力する段階、および前記複数のメディアのうちで返答音声が出力されるメディアと同じであるか又は異なる少なくとも1つのメディアから、応答情報のうちの少なくとも一部を他の出力として提供する段階を含む。
【選択図】 図5

Description

以下の説明は、音声要請に対応する情報提供に関する技術であって、より詳細には、音声要請に対する応答情報を提供するときに情報伝達能力を向上させるための他の出力を提供する情報提供方法およびシステム、コンピュータと結合して情報提供方法をコンピュータに実行させるためにコンピュータで読み取り可能な記録媒体に格納されたコンピュータプログラムとその記録媒体に関する。
ホームネットワークサービスの人工知能スピーカのように音声に基づいて動作するインタフェースは、マイク(microphone)でユーザの音声要請を受信し、音声要請に対応する応答情報を提供するために返答音声を合成してスピーカから提供したり、応答情報が含むコンテンツのオーディオを出力したりする。
例えば、特許文献1(公開日2011年12月30日)は、ホームメディアデバイスおよびこれを利用したホームネットワークシステムと方法に関する技術であって、ホームネットワークサービスにおいて移動通信網の他にWi-Fiのような第2通信網を利用してホームネットワークサービスを提供することが可能であり、ホーム内の複数のマルチメディア機器を、ユーザのボタン操作なく音声命令に基づいてマルチコントロールすることができる技術について開示している。
このような従来技術では、音声要請に対する応答情報の提供時に返答音声だけが出力されるため、情報出力方式が一貫的かつ限定的であることから、情報伝達に限界がある。
韓国公開特許第10−2011−0139797号公報
人工知能スピーカのような電子機器が含む音声基盤インタフェースに対応するメインメディアだけではなく、電子機器と連動する他の電子機器が含むサブメディア(一例として、スマートフォン、IPTV、照明、スマート冷蔵庫などが含む出力手段)のような複数のメディアに関する情報を管理し、音声基盤インタフェースに受信される音声要請に対応する応答情報に基づいて、応答情報による返答音声と共に、複数のメディアのうちの少なくとも1つのメディアから返答音声を強調する他の出力を提供することができる情報提供方法および情報提供システム、コンピュータと結合してユーザ命令処理方法をコンピュータに実行させるためにコンピュータで読み取り可能な記録媒体に格納されたコンピュータプログラム及びその記録媒体等を提供する。
音声基盤インタフェースを含む電子機器の情報提供方法であって、前記音声基盤インタフェースでユーザからの音声要請を受信する段階、前記音声要請に対応する応答情報を取得する段階、前記音声基盤インタフェースに対応するメインメディアおよび前記電子機器と連動可能な他の電子機器が含むサブメディアを含む複数のメディアのうちの少なくとも1つのメディアから、前記応答情報を聴覚的出力形態である返答音声として出力する段階、および前記複数のメディアのうちで前記返答音声が出力されるメディアと同じであるか又は異なる少なくとも1つのメディアから、前記応答情報のうちの少なくとも一部を他の出力として提供する段階を含む、情報提供方法を提供する。
コンピュータと結合して前記情報提供方法をコンピュータに実行させるためにコンピュータで読み取り可能な記録媒体に格納された、コンピュータプログラムを提供する。
前記情報提供方法をコンピュータに実行させるためのプログラムが記録されていることを特徴とする、コンピュータで読み取り可能な記録媒体を提供する。
電子機器であって、音声基盤インタフェース、およびコンピュータで読み取り可能な命令を実行するように実現される少なくとも1つのプロセッサを含み、前記少なくとも1つのプロセッサは、前記音声基盤インタフェースでユーザからの音声要請を受信し、前記音声要請に対応する応答情報を取得し、前記音声基盤インタフェースに対応するメインメディアおよび前記電子機器と連動可能な他の電子機器が含むサブメディアを含む複数のメディアのうちの少なくとも1つのメディアから、前記応答情報を聴覚的出力形態である返答音声として出力し、前記複数のメディアのうちで前記返答音声が出力されるメディアと同じであるか又は異なる少なくとも1つのメディアから、前記応答情報のうちの少なくとも一部を他の出力として提供することを特徴とする、電子機器を提供する。
人工知能スピーカのような電子機器が含む音声基盤インタフェースに対応するメインメディアだけではなく、電子機器と連動する他の電子機器が含むサブメディア(一例として、スマートフォン、IPTV、照明、スマート冷蔵庫などが含む出力手段)のような複数のメディアに関する情報を管理し、音声基盤インタフェースに受信される音声要請に対応する応答情報に基づいて、応答情報による返答音声と共に、複数のメディアのうちの少なくとも1つのメディアから返答音声を強調する他の出力を提供することにより、適応的かつ拡張された情報出力方式によって音声要請に対応する応答情報の情報伝達能力を向上させることができる。
本発明の一実施形態における、音声基盤のインタフェースを活用したサービス環境の例を示した図である。 本発明の一実施形態における、音声基盤のインタフェースを活用したサービス環境の他の例を示した図である。 本発明の一実施形態における、クラウド人工知能プラットフォームの例を示した図である。 本発明の一実施形態における、電子機器およびサーバの内部構成を説明するためのブロック図である。 本発明の一実施形態における、情報提供方法の例を示したフローチャートである。 本発明の一実施形態における、音声要請に対する応答情報として、返答音声と同時に、情報伝達能力を向上させるための他の出力を共に提供する例を示した図である。 本発明の一実施形態における、メディアに関する情報の例を示した図である。 本発明の一実施形態における、メディアを決定する方法の例を示したフローチャートである。 本発明の一実施形態における、ユーザの位置によってメディアを決定する例を示した図である。
以下、実施形態について、添付の図面を参照しながら詳しく説明する。
本発明の実施形態に係る情報提供システムは、音声を基盤として動作するインタフェースを提供する電子機器によって実現されてよい。電子機器は、このような音声要請を直接に処理して応答情報を生成するか、インタフェースコネクトを介して連結する外部プラットフォームで認識および分析して音声要請を処理してよい。例えば、外部プラットフォームは、電子機器からユーザの音声要請を受信し、受信した音声要請を分析し、ユーザの意図に適したクエリまたは該当のクエリに対応する応答情報を生成するクラウド人工知能プラットフォームを含んでよい。このとき、電子機器は、音声要請に対応する応答情報を出力するための少なくとも1つのメディアを選択してよい。このようなメディアは、電子機器が含む音声基盤インタフェースに対応するメインメディア、および電子機器と連動して情報出力が可能な他の電子機器が含むサブメディアを含んでよい。一例として、サブメディアは、他の電子機器が含む出力手段(例えば、ディスプレイなど)や他の電子機器にインストールされた特定のアプリケーションに対応してよい。
より具体的に、電子機器は、応答情報に該当する返答音声を出力すると同時に、返答音声と同期化して返答音声を強調することのできる他の出力を共に提供してよい。このとき、返答音声と他の出力は、同じメディアから提供されてもよいし、互いに異なるメディアから提供されてもよい。例えば、「天気を教えて」というユーザの音声要請に対し、「PM2.5」に関する情報が応答情報として取得される場合が考えられる。このとき、「PM2.5」に対する返答音声は、電子機器が含む音声基盤インタフェースから聴覚的に出力されてよい。さらに、「PM2.5」に対する返答音声を強調するための他の出力は、電子機器と連動する他の電子機器のディスプレイから視覚的に出力されてもよい。これだけでなく、「PM2.5」に対する返答音声と関連する他の出力は、他の電子機器のオーディオアプリケーションと連動して関連BGM(background music)が出力されてもよい。このようなアプリケーションは、オーディオアプリケーションだけではなく、VR(virtual reality)関連アプリケーション、地図アプリケーション、検索アプリケーション、ゲームアプリケーション、メッセンジャーアプリケーション、ストアアプリケーションなどのような既存の多様なアプリケーションを含んでもよいことは、当業者であれば容易に理解することができるであろう。
本発明の実施形態に係る情報提供方法は、上述した電子機器によって実行されてよい。このとき、電子機器には、本発明の一実施形態に係るコンピュータプログラムがインストールおよび駆動されてよく、電子機器は、駆動するコンピュータプログラムの制御にしたがって本発明の一実施形態に係る情報提供方法を実行してよい。上述したコンピュータプログラムは、コンピュータによって実現される電子機器と結合し、情報提供方法をコンピュータに実行させるためにコンピュータで読み取り可能な記録媒体に格納されてよい。
図1は、本発明の一実施形態における、音声基盤のインタフェースを活用したサービス環境の例を示した図である。図1の実施形態では、スマートホーム(smart home)やホームネットワークサービスのように宅内の機器を連結して制御する技術において、音声基盤インタフェース(一例として、マイクとスピーカ)を含む電子機器100が、マイクに入力されたユーザ110の発話「電気を消して」121によって受信される音声要請を認識および分析し、「リビングの電気を消しましょうか?」122のような応答情報をスピーカから出力する例を示している。さらに、図1の実施形態では、応答情報に対応したユーザ110の発話「うん」123によって受信される音声要請を認識および分析し、電子機器100と内部ネットワークを介して連動する宅内照明機器130のライト電源を制御する例を示している。
ここで、宅内の機器は、上述した宅内照明機器130の他にも、IPTV、PC(Personal Computer)、周辺機器、エアコン、冷蔵庫、ロボット清掃機などのような家電製品はもちろんのこと、水道、電気、冷暖房機器などのようなエネルギー消費装置、ドアロックや監視カメラなどのような保安機器などのように、オンライン上で連結して制御されることのできる多様な機器を含んでよい。また、内部ネットワークは、イーサネット(登録商標(Ethernet))、HomePNA、IEEE 1394のような有線ネットワーク技術、ブルートゥース(登録商標(Bluetooth))、UWB(ultra Wide Band)、ジグビー(ZigBee)、Wireless 1394、Home RFのような無線ネットワーク技術などが活用されてよい。
電子機器100は、宅内の機器のうちの1つであってよい。例えば、電子機器100は、宅内に備えられた人工知能スピーカやロボット清掃機などのような機器のうちの1つであってよい。また、電子機器100は、スマートフォン(smart phone)、携帯電話、ノート型パンコン、デジタル放送用端末、PDA(Personal Digital Assistants)、PMP(Portable Multimedia Player)、タブレットPCなどのようなユーザ110のモバイル機器であってもよい。このように、電子機器100は、ユーザ110の音声要請を受信し、宅内の機器を制御するために宅内の機器と連結可能な機能を備える機器であれば、特に制限されることはない。また、実施形態によっては、上述したユーザ110のモバイル機器が宅内の機器として含まれてもよい。
応答情報は、図1の実施形態のように、基本的には音声基盤インタフェースに対応するメインメディア(一例として、スピーカ)から出力されてよいが、上述したように、本発明の実施形態では、応答情報が多様なメディアから出力されてよく、電子機器100は、音声要請および音声要請に対応する応答情報のうちの少なくとも1つに基づき、返答音声および返答音声と関連する他の出力のうちの少なくとも1つが提供されるメディアを決定してよい。例えば、図1は、IPTV140とユーザ110のモバイル機器150をさらに示している。この場合、返答音声と関連する他の出力は、IPTV140やモバイル機器150のディスプレイから視覚的(例えば、LEDの点灯あるいは点滅など)または触覚的(例えば、振動など)にユーザ110に出力されてもよい。このとき、電子機器100は、他の出力を提供するためのメディアを単純に決定するのではなく、情報の類型や情報出力の効率性などに応じて他の出力を提供するためのメディアを決定してよい。
図2は、本発明の一実施形態における、音声基盤のインタフェースを活用したサービス環境の他の例を示した図である。図2は、音声基盤インタフェースを含む電子機器100がユーザ110の発話「今日の天気」210を認識および分析し、外部ネットワークを介して外部サーバ220から今日の天気に関する情報を取得し、取得した情報を「今日の天気は・・・」のように音声で合成して出力する例を示している。例えば、外部ネットワークは、PAN(personal area network)、LAN(local area network)、CAN(campus area network)、MAN(metropolitan area network)、WAN(wide area network)、BBN(broadband network)、インターネットなどのようなネットワークのうちの1つ以上の任意のネットワークを含んでよい。
図2の実施形態でも、電子機器100は、宅内の機器のうちの1つであるか、ユーザ110のモバイル機器のうちの1つであってよく、ユーザ110の音声要請を受信して処理するための機能と、外部ネットワークを介して外部サーバ220と通信して外部サーバ220が提供するサービスやコンテンツをユーザ110に提供するための機能を備える機器であれば、特に制限されることはない。このように、本発明の実施形態に係る電子機器100は、音声基盤のインタフェースを利用してユーザ110の発話によって受信される音声要請を処理することのできる機器であれば、特に制限されることはない。例えば、電子機器100は、ユーザの音声要請を直接に認識および分析して音声要請を処理してもよいが、実施形態によっては、電子機器100と連係する外部のプラットフォーム(一例として、上述したクラウド人工知能プラットフォーム)で音声要請を処理してもよい。
このとき、電子機器100は、ユーザの音声要請に対応する応答情報を出力するためのメディアを、応答情報に基づいて自動で決定してよい。図2では、電子機器100が、「今日の天気は・・・」230のように応答情報を聴覚的に出力すると同時に、応答情報と関連する他の出力をIPTV140のディスプレイにも視覚的に共に出力する例を示している。このために、電子機器100は、応答情報の出力が可能な複数のメディアに関する情報を管理してよく、音声要請および/または応答情報に基づき、複数のメディアのうちから他の出力を提供するための少なくとも1つのメディアを選択し、応答情報と関連する他の出力を伝達してよい。
図3は、本発明の一実施形態における、クラウド人工知能プラットフォームの例を示した図である。図3は、電子機器310、クラウド人工知能プラットフォーム320、およびコンテンツ・サービス330を示している。
一例として、電子機器310は、宅内に備えられた機器を意味してよく、少なくとも上述したような電子機器100を含んでよい。このような電子機器310や電子機器310にインストールおよび駆動されるアプリケーション(以下、アプリ)は、インタフェースコネクト340を介してクラウド人工知能プラットフォーム320と連係してよい。ここで、インタフェースコネクト340は、電子機器310や電子機器310にインストールおよび駆動されるアプリの開発のためのSDK(Software Development Kit)および/または開発文書を開発者に提供してよい。また、インタフェースコネクト340は、電子機器310や電子機器310にインストールおよび駆動されるアプリが、クラウド人工知能プラットフォーム320が提供する機能を活用することのできるAPI(Application Program Interface)を提供してよい。具体的な例として、開発者が、インタフェースコネクト340が提供するSDK(Software Development Kit)および/または開発文書を利用して開発した機器やアプリは、インタフェースコネクト340が提供するAPIを利用してクラウド人工知能プラットフォーム320が提供する機能を活用することが可能になる。
ここで、クラウド人工知能プラットフォーム320は、音声基盤のサービスを提供するための機能を提供してよい。例えば、クラウド人工知能プラットフォーム320は、受信した音声を認識し、出力する音声を合成するための音声処理モジュール321、受信した映像や動画を分析して処理するためのビジョン処理モジュール322、受信した音声にしたがって適した音声を出力するために適切な対話を決定するための対話処理モジュール323、受信した音声に適した機能を推薦するための推薦モジュール324、人工知能がデータ学習に基づいて文章単位で言語を翻訳するように支援するニューラル機械翻訳(Neural Machine Translation:NMT)325などのように、音声基盤サービスを提供するための多様なモジュールを含んでよい。
例えば、図1および図2の実施形態において、電子機器100が、ユーザ110の音声要請を、インタフェースコネクト340で提供されるAPIを利用してクラウド人工知能プラットフォーム320に送信したとする。この場合、クラウド人工知能プラットフォーム320は、受信した音声要請を、上述したモジュール321〜325を活用して認識および分析してよく、受信した音声入力にしたがって適切な返答音声を合成して提供したり、適切な動作を推薦したりしてよい。
また、拡張キット350は、第3者コンテンツ開発者または会社が、クラウド人工知能プラットフォーム320を基盤として新たな音声基盤機能を実現することのできる開発キットを提供してよい。例えば、図2の実施形態において、電子機器100は、受信したユーザ110の音声要請を外部サーバ220に送信し、外部サーバ220は、拡張キット350で提供されるAPIに基づいてクラウド人工知能プラットフォーム320に音声入力を送信したとする。この場合、上述と同じように、クラウド人工知能プラットフォーム320は、受信した音声入力を認識および分析した後、適切な返答音声を合成して提供したり、音声入力によって処理されなければならない機能に関する推薦情報を外部サーバ220に提供したりしてよい。一例として、図2において、外部サーバ220は、音声要請「今日の天気」をクラウド人工知能プラットフォーム320に送信し、クラウド人工知能プラットフォーム320から、音声要請「今日の天気」の認識によって抽出されたキーワード「今日の」および「天気」を受信したとする。この場合、外部サーバ220は、キーワード「今日の」および「天気」に基づいて「今日の天気は・・・」のようなテキスト情報を生成し、クラウド人工知能プラットフォーム320に生成されたテキスト情報を再び送信してよい。このとき、クラウド人工知能プラットフォーム320は、テキスト情報を音声で合成して外部サーバ220に提供してよい。外部サーバ220は、合成された音声を電子機器100に送信してよく、電子機器100は、合成された音声「今日の天気は・・・」をスピーカから出力することにより、ユーザ110から受信された音声要請「今日の天気」が処理されてよい。
図4は、本発明の一実施形態における、電子機器およびサーバの内部構成を説明するためのブロック図である。図4の電子機器410は、上述した電子機器100に対応してよく、サーバ420は、上述した外部サーバ220やクラウド人工知能プラットフォーム320を実現する1つのコンピュータ装置に対応してよい。
電子機器410とサーバ420は、メモリ411、421、プロセッサ412、422、通信モジュール413、423、および入力/出力インタフェース414、424を含んでよい。メモリ411、421は、コンピュータで読み取り可能な記録媒体であって、RAM(random access memory)、ROM(read only memory)、およびディスクドライブのような永久大容量記憶装置(permanent mass storage device)を含んでよい。ここで、ROMとディスクドライブのような永久大容量記憶装置は、メモリ411、421とは区分される別の永久記憶装置として電子機器410やサーバ420に含まれてもよい。また、メモリ411、421には、オペレーティングシステムと、少なくとも1つのプログラムコード(一例として、電気機器410にインストールされ、特定サービスの提供のために電子機器410で駆動するアプリケーションなどのためのコード)が格納されてよい。このようなソフトウェア構成要素は、メモリ411、421とは別のコンピュータで読み取り可能な記録媒体からロードされてよい。このような別のコンピュータで読み取り可能な記録媒体は、フロッピー(登録商標)ドライブ、ディスク、テープ、DVD/CD−ROMドライブ、メモリカードなどのコンピュータで読み取り可能な記録媒体を含んでよい。他の実施形態において、ソフトウェア構成要素は、コンピュータで読み取り可能な記録媒体ではない通信ジュール413、423を通じてメモリ411、421にロードされてもよい。例えば、少なくとも1つのプログラムは、開発者またはアプリケーションのインストールファイルを配布するファイル配布システムがネットワーク430を介して提供するファイルによってインストールされるコンピュータプログラム(一例として、上述したアプリケーション)に基づいて電子機器410のメモリ411にロードされてよい。
プロセッサ412、422は、基本的な算術、ロジック、および入出力演算を実行することにより、コンピュータプログラムの命令を処理するように構成されてよい。命令は、メモリ411、421または通信モジュール413、423によって、プロセッサ412、422に提供されてよい。例えば、プロセッサ412、422は、メモリ411、421のような記録装置に格納されたプログラムコードにしたがって受信される命令を実行するように構成されてよい。
通信モジュール413、423は、ネットワーク430を介して電子機器410とサーバ420とが互いに通信するための機能を提供してもよいし、電子機器410および/またはサーバ420が他の電子機器または他のサーバと通信するための機能を提供してもよい。一例として、電子機器410のプロセッサ412がメモリ411のような記録装置に格納されたプログラムコードにしたがって生成した要求が、通信モジュール413の制御にしたがってネットワーク430を介してサーバ420に伝達されてよい。これとは逆に、サーバ420のプロセッサ422の制御にしたがって提供される制御信号や命令、コンテンツ、ファイルなどが、通信モジュール423とネットワーク430を経て電子機器410の通信モジュール413を通じて電子機器410に受信されてもよい。例えば、通信モジュール413を通じて受信したサーバ420の制御信号や命令、コンテンツ、ファイルなどは、プロセッサ412やメモリ411に伝達されてよく、コンテンツやファイルなどは、電子機器410がさらに含むことのできる格納媒体(上述した永久記憶装置)に格納されてよい。
入力/出力インタフェース414は、入力/出力装置415とのインタフェースのための手段であってよい。例えば、入力装置は、マイク、キーボード、またはマウスなどの装置を、出力装置は、ディスプレイ、スピーカのような装置を含んでよい。他の例として、入力/出力インタフェース414は、タッチスクリーンのように入力と出力のための機能が1つに統合された装置とのインタフェースのための手段であってもよい。入力/出力装置415は、電子機器410と1つの装置で構成されてもよい。また、サーバ420の入力/出力インタフェース424は、サーバ420と連結するか、サーバ420が含むことのできる入力または出力のための装置(図示せず)とのインタフェースのための手段であってもよい。
また、他の実施形態において、電子機器410およびサーバ420は、図4の構成要素よりも少ない又は多い構成要素を含んでもよい。しかし、従来技術の構成要素の全てが明確には図示されていない。例えば、電子機器410は、上述した入力/出力装置415のうちの少なくとも一部を含むように実現されてもよいし、トランシーバ、GPS(Global Positioning System)モジュール、カメラ、各種センサ、データベースなどのような他の構成要素をさらに含んでもよい。より具体的な例として、電子機器410がスマートフォンである場合、一般的にスマートフォンが含んでいる加速度センサやジャイロセンサ、カメラモジュール、物理的な各種ボタン、タッチパネルを利用したボタン、入力/出力ポート、振動のための振動器などのような多様な構成要素が電子機器410にさらに含まれるように実現されてよい。
本実施形態において、電子機器410は、ユーザの音声要請を受信するためのマイクおよび/または応答情報を聴覚的に出力するためのスピーカを入力/出力装置415として基本的に含んでよい。
図5は、本発明の一実施形態における、情報提供方法の例を示したフローチャートである。本発明の実施形態に係る情報提供方法は、上述した電子機器410のようなコンピュータ装置によって実行されてよい。このとき、電子機器410のプロセッサ412は、メモリ411が含むオペレーティングシステムのコードや、少なくとも1つのプログラムのコードによる制御命令(instruction)を実行するように実現されてよい。ここで、プロセッサ412は、電子機器410に格納されたコードが提供する制御命令にしたがって電子機器410が図5の情報提供方法に含まれる段階510〜550を実行するように電子機器410を制御してよい。
段階510で、電子機器410は、音声基盤インタフェースに対応するメインメディアおよび電子機器410と連動する他の電子機器が含むサブメディアを含む複数のメディアに関する情報を管理してよい。このとき、電子機器410は、電子機器と連動して視覚的、聴覚的、触覚的出力などが可能な複数の互いに異なる電子機器が含む、複数の互いに異なるメディアに関する情報を管理してよい。サブメディアは、一例として、他の電子機器のディスプレイやスピーカ、他の電子機器にインストールされたアプリケーションなどに対応してよい。一例として、電子機器410は、電子機器AのディスプレイやLED(発光ダイオード)、スピーカ、振動器、電子機器Aにインストールされたオーディオアプリケーション、VR関連アプリケーション、地図アプリケーション、検索アプリケーション、翻訳アプリケーション、ゲームアプリケーション、メッセンジャーアプリケーション、ストアアプリケーションなどのように、宅内電子機器のうちで情報出力が可能な電子機器に関する情報と該当の電子機器が含むアプリケーションをそれぞれのサブメディアとして設定して該当のサブメディアに関する情報を管理してよい。また、電子機器410は、電子機器410が含む音声基盤インタフェースに対応するメインメディアに関する情報も共に管理してよい。
段階520で、電子機器410は、音声基盤インタフェースでユーザからの音声要請を受信してよい。例えば、電子機器410は、電子機器410が含むマイクまたは電子機器410と連動するマイクのような音声入力装置で、ユーザの発話による音声要請を受信してよい。
段階530で、電子機器410は、音声要請に対応する応答情報を取得してよい。このとき、電子機器410は、音声要請を直接に認識および分析して音声要請に対応する応答情報を生成してもよいが、実施形態によっては、上述したクラウド人工知能プラットフォーム320のような外部プラットフォームを利用して応答情報を取得してもよい。例えば、電子機器410は、受信した音声要請を外部プラットフォームに送信してよい。このとき、外部プラットフォームは、受信した音声要請を認識および分析しながら適した応答情報を生成してよく、生成された応答情報を電子機器410に送信してよい。
応答情報とは、音声要請に対する返答であって、ユーザの意図を確認するための情報や、ユーザの意図に適した動作の処理を知らせるための情報、および/またはユーザの意図に基づいて検索された検索結果などのような多様な情報を含んでよい。例えば、「今日の天気」のようなユーザの音声要請に対する応答情報は、「今日は広い範囲でよく晴れますが、PM2.5の濃度は上昇するでしょう」のような検索結果に基づく情報を含んでよい。
段階540で、電子機器410は、複数のメディアのうちの少なくとも1つのメディアから、ユーザの音声要請に対する返答音声として応答情報を出力してよい。電子機器410は、少なくとも1つのメディアから応答情報が聴覚的に出力されるように、該当となるメディアに応答情報を伝達してよい。このとき、電子機器410は、複数のメディアのうちの少なくとも1つのメディアを利用してユーザの音声要請に対する応答情報を聴覚的出力形態である音声によって提供してよい。例えば、電子機器410は、ユーザの音声要請に対する返答音声をメインメディアから出力してよい。
段階550で、電子機器410は、複数のメディアのうちで返答音声が出力されるメディアと同じであるか異なる少なくとも1つのメディアを利用して返答音声を強調するための他の出力を提供してよい。言い換えれば、電子機器410は、ユーザの音声要請に対する応答情報として聴覚的出力である返答音声を出力すると同時に、応答情報の情報伝達能力を向上させるための他の出力を共に提供してよい。このとき、電子機器410は、返答音声出力と同期化して他の出力を提供することにより、応答情報の情報伝達能力をより一層強化することが可能となる。
返答音声を強調するための他の出力は、応答情報の少なくとも一部に関するものであり、返答音声と共に提供されてよい。他の出力として提供される応答情報の少なくとも一部は、音声要請に対して核心となる主要情報を含んでよく、返答音声のための返答テンプレートに変数となる情報、あるいは応答情報のうちで意味タグが付与された情報などが主要情報に該当してよい。応答情報に含まれた主要情報は、情報の種類に応じて等級情報、数値情報、方向情報などが含まれてよい。例えば、天気の場合には、晴れ、薄曇り、曇り、雨(または雪)などに区分される段階情報が存在し、PM2.5の場合は、濃度数値情報や、良好、普通、危険、大いに危険などに区分される段階情報が存在し、道案内の場合には、直進、左折、右折、Uターンなどの方向情報や、渋滞、遅滞、徐行、円滑などの通行速度情報などが存在してよい。電子機器410は、音声要請に対する応答情報を提供するときに、返答音声を出力すると同時に、応答情報に含まれた主要情報に対する他の出力を共に提供してよい。このとき、電子機器410は、返答音声を強調するための他の出力を提供するにあたり、応答情報に含まれる主要情報を他の出力に提供するようになるが、主要情報に該当する等級情報、数値情報、方向情報などに対応する大きさや類型などに応じて出力してよい。例えば、LEDで他の出力を提供する場合、等級情報、数値情報、方向情報などに応じて光の強度や類型、点滅パターンなどを変えてよい。
電子機器410は、音声要請に対する応答情報を音声で合成して出力するようになるが、このとき、音声要請に対して返答テンプレートが事前に定義されてよく、応答情報によって変数となる主要情報を返答テンプレートに合成させて出力してよい。例えば、音声要請「今日の天気」が受信された場合、事前に定められた返答テンプレート「今日の天気は・・・です。また、PM2.5の数値は・・・で、・・・水準です。」に、音声要請に対する応答情報に基づき、「今日の天気は“晴れ”です。また、PM2.5の数値は“112”で、“危険”水準です。」のように主要情報が合成されて音声で出力されてよい。このとき、電子機器410は、音声要請に対する応答情報を強調するために、応答情報のうちの少なくとも一部の情報、例えば主要情報を、他の出力から追加で提供してよい。上述した返答音声において、主要情報に該当する「晴れ」、「112」、「危険」のうちの少なくとも1つに対する他の出力を共に提供してよい。
図6は、音声基盤インタフェースを含む電子機器410がユーザ110の発話「今日の天気」210を認識および分析し、外部ネットワークを介して外部サーバから今日の天気に関する情報を取得し、取得した情報を音声で合成して出力する例を示している。電子機器410は、音声要請「今日の天気」210に対する応答情報として、電子機器410のスピーカから「今日の天気は晴れです。また、PM2.5の数値は112で、危険水準です。」のような返答音声を出力してよく、応答情報のうちの「危険」が音声で出力されるときに、該当の時点に同期化して電子機器410に含まれるLED401からオレンジ色の光を出力してよい。例えば、音声要請「今日の天気」210に対する応答情報を強調するためにLED401を利用する場合、応答情報に含まれるPM2.5の等級に応じ、PM2.5の濃度が良好であるときには青色の光を、普通のときには緑色の光を、危険のときにはオレンジ色の光を、大いに危険であるときには赤色の光を点灯させてよい。他の例としては、LED401が4つの領域に区分される場合、4つの領域うち、PM2.5の濃度が良好であるときには1つの領域、普通のときには2つの領域、危険のときには3つの領域、大いに危険であるときには4つの領域を点灯させる形態で他の出力を提供することも可能である。
他の例として、電子機器410は、返答音声を強調するための他の出力を提供するにあたり、応答情報に含まれた主要情報に該当する音声が出力されるときに、音声のトーン(tone)を追加で合成してよい。電子機器410は、応答情報による返答音声を出力するときに、意味タグが付与された部分の音声に対し、他の出力として追加のトーンを合成してよい。このとき、主要情報に該当する等級情報、数値情報、方向情報などに応じて他の出力として提供するためのトーンの高さや類型などを変えてよい。例えば、音声要請「今日の天気」210に対する応答情報を強調するために応答情報に含まれるPM2.5等級を音声で出力するとき、PM2.5の濃度が危険または大いに危険の場合には、予め定められた音声出力レベルよりも高いレベルのトーンが返答音声に適用されてよい。
また他の例として、電子機器410は、返答音声を強調するための他の出力として、応答情報に含まれた主要情報を視覚的出力によって提供してよい。言い換えれば、電子機器410は、返答要請に対する応答情報を音声で合成して出力するが、この過程において、応答情報のうちの主要情報だけを視覚的に追加で出力してよい。
また他の例として、電子機器410は、返答音声を強調するための他の出力として、応答情報に含まれた主要情報を触覚的出力によって提供してよい。例えば、電子機器410は、返答音声を出力する過程において、応答情報に含まれた主要情報に応じて振動を出力してよい。触覚的出力の1つ形態である振動は、主要情報に該当する等級情報、数値情報、方向情報などに応じてその強度やパターンなどを変えてよい。
また他の例として、電子機器410は、返答音声を出力する過程において、返答音声を強調するための他の出力として、応答情報に含まれた主要情報に応じてBGM、イメージ、動画のうちの少なくとも1つのマルチメディアコンテンツを出力してよい。このとき、主要情報に該当する等級情報、数値情報、方向情報などに応じて他の出力として提供されるマルチメディアコンテンツが決定されてよい。マルチメディアコンテンツには、等級情報、数値情報、方向情報などが事前に含まれてよく、これにより、応答情報に含まれた主要情報とマッチングするマルチメディアコンテンツが他の出力として提供されてよい。他の出力として提供されるイメージや動画の場合、HDM(head mounted display)などを利用したVRコンテンツなどで提供することも可能である。
したがって、電子機器410は、「天気」と関連する音声要請に対して取得された応答情報として返答音声を出力すると同時に、応答情報に含まれた主要情報、例えば、PM2.5の濃度に関する情報に対して他の出力を追加で提供することができる。このとき、返答音声の他にも、他の出力として、PM2.5濃度に対して視覚的出力(LED、ディスプレイなど)、聴覚的出力(トーンなど)、触覚的出力(振動など)などを追加で提供することもできる。さらに、音声要請「天気」に対する応答情報において、主要情報であるPM2.5濃度の等級に応じて応答情報を強調するための他の出力の大きさや類型などを変ることにより、音声要請に対する応答情報の情報伝達能力をより一層向上させることができる。
また、電子機器410は、音声要請に対する応答情報に道案内と関連する情報が含まれる場合、電子機器410または他の電子機器の地図アプリケーションと連動して応答情報を出力してよい。このとき、電子機器410は、応答情報に該当する返答音声を出力すると同時に、応答情報を強調するための他の出力として、応答情報に含まれた主要情報を視覚的出力、聴覚的出力、触覚的出力などによって追加で提供してよい。例えば、電子機器410は、応答情報に直進、左折、右折、Uターンなどの方向情報が含まれる場合、方向情報が音声で出力されるときに、これに合わせて触覚的出力として振動を出力してよい。他の例として、応答情報に渋滞、遅滞、徐行、円滑などの通行速度情報が含まれる場合、通行速度情報が音声で出力されるときに、これに合わせて該当の通行速度に応じたLED出力を提供してよい。例えば、LEDを利用する場合、通行速度情報が円滑であるときには青色光を、徐行であるときには緑色の光を、遅滞であるときにはオレンジ色の光を、大渋滞であるときには赤色の光を点灯させてよい。
ユーザの音声要請に対する応答情報として提供される返答音声を強調するための他の出力は、返答音声を出力するメディアと同じメディアあるいは返答音声を出力するメディアとは異なるメディアから、視覚的出力、聴覚的出力、触覚的出力のうちの少なくとも1つの形態で提供されてよい。このとき、他の出力は、応答情報に含まれた主要情報に対して提供されてよく、返答音声と同期化して主要情報が音声で出力される時点に合わせて提供されてよい。主要情報が等級情報、数値情報、方向情報などのように情報区分されている場合には、該当の情報に応じて大きさや類型などを区分して他の出力を提供してよい。
さらに、電子機器410は、音声要請および応答情報のうちの少なくとも1つに基づき、複数のメディアのうちから応答情報に対する他の出力を提供するための少なくとも1つのメディアを決定してよい。本発明の実施形態では、応答情報に対するメディアが単に予め設定されているものだけではなく、音声要請および/または応答情報に基づいて多様なメディアのうちから選択され、他の出力として提供されてよい。例えば、ユーザの発話によって認識される音声要請にしたがって応答情報を音声で合成して聴覚的に出力すると共に、音声要請の類型に応じて聴覚的出力のためのメディア、視覚的出力のためのメディア、視聴覚出力のためのメディア、または触覚的出力のためのメディアなどを選択し、選択されたメディアから他の出力を提供してよい。このようなメディアの選択は、音声要請および/または応答情報から把握される情報伝達の効率性に基づいてもよい。
このように、本発明の実施形態によると、ユーザの音声要請に対する応答情報として返答音声を出力すると同時に、応答情報を強調するための他の出力を共に提供することにより、ユーザの音声要請に対して積極的かつ直観的な応答を提供することができ、これによって応答情報に関する情報伝達能力を向上させることができる。また、本発明の実施形態によると、ユーザの音声要請に対する応答情報として返答音声とは異なる出力を追加で提供するにあたり、視覚的に伝達する方が効率的な情報である場合には視覚的出力が可能なメディアを、聴覚的に伝達する方が効率的な情報である場合には聴覚的出力が可能なメディアを選択するといったように適切なメディアを選択することにより、効果的に応答情報をユーザに提供することができる。
図7は、本発明の一実施形態における、メディアに関する情報の例を示した図である。図7の表700は、電子機器410と連動する電子機器の識別のための機器項目710、他の電子機器の宅内位置を識別するための位置項目720、他の電子機器が含むサブメディアを識別するための出力メディア項目730、サブメディアに関する情報を含む詳細項目740、およびサブメディアがどのような情報類型と連係するかを識別するための情報類型項目750を含む例を示している。電子機器410は、表700のように宅内で連動する他の電子機器に関する情報と共に、該当となる他の電子機器の出力メディアに関する情報を管理してよい。また、このような情報は、音声要請および/または応答情報の情報類型と予め連結されてよい。例えば、ユーザの音声要請や対応する応答情報が「視覚的出力」と関連する情報類型として分析される場合、電子機器410は、表700に基づき、電子機器Aのディスプレイ1を応答情報と関連する他の出力を提供するためのメディアとして決定してよい。この場合、電子機器410は、応答情報に該当する返答音声をメインメディアのスピーカから出力すると同時に、返答音声と同期化して電子機器Aのディスプレイ1から応答情報を強調するための他の出力を提供してよい。他の例として、ユーザの音声要請や対応する応答情報が「場所」と関連する情報類型として分析される場合、電子機器410は、表700に基づき、電子機器Aの地図アプリケーションを応答情報の出力のためのメディアとして決定してよい。この場合、電子機器410は、応答情報に該当する返答音声をメインメディアのスピーカから出力してよく、これと同時に、応答情報は電子機器Aに伝達されてよく、電子機器Aは、電子機器Aの地図アプリケーションから、応答情報に対応する地図サービスと共に、応答情報を強調するための他の出力をユーザに提供してよい。
図8は、本発明の一実施形態における、メディアを決定する方法の例を示したフローチャートである。図8の段階810および820は、図5の段階550に含まれて実行されてよい。
段階810で、電子機器410は、音声要請の類型および応答情報の類型のうちの少なくとも1つの情報類型を分析してよい。例えば、音声要請の類型は、音声要請の主題(一例として、天気、位置、場所、交通、検索、歌手、映画など)に基づいて分類されてよく、応答情報の類型は、応答情報が含むコンテンツの表現形式(一例として、テキスト、イメージ、動画、フラッシュ(flash)など)に基づいて分類されてよい。
段階820で、電子機器410は、分析された情報類型に応じ、複数のメディアのうちの少なくとも1つのメディアを他の出力のためのメディアとして選択してよい。例えば、「天気」に対する音声要請に対応してテキスト、イメージ、および座標(または住所)を含むウェプページが応答情報として取得された場合が考えられる。この場合、電子機器410は、テキストを音声で合成して出力するためのメインメディア、イメージを視覚的に出力するためのディスプレイに対応する第1サブメディア、および座標(または住所)を利用して地図サービスを提供するためのアプリケーションに対応する第2サブメディアという3つのメディアを選択し、3つのメディアそれぞれに取得された応答情報を伝達してよい。実施形態によっては、電子機器410は、応答情報をそれぞれのメディアで活用することのできる情報に加工してから伝達してよい。例えば、電子機器410は、応答情報として取得されたウェプページから座標(または住所)を抽出し、抽出された座標(または住所)を含む地図サービス要請を応答情報として地図アプリケーションに対応する第2サブメディアに送信してよい。
また、上述した例で説明したように、決定された少なくとも1つのメディアは、他の電子機器のディスプレイに対応するサブメディアを含んでよい。この場合、電子機器410は、段階550で、応答情報が含む視覚情報が他の電子機器のディスプレイから出力されるように、視覚情報を他の電子機器に送信してよい。例えば、電子機器410は、ウェプページの例において、ウェプページが含むイメージや動画を他の電子機器に送信してよい。または、電子機器410は、ウェプページ自体を他の電子機器に送信してもよい。
また、決定された少なくとも1つのメディアは、他の電子機器にインストールされたアプリケーションに対応するサブメディアを含んでよい。この場合、電子機器410は、段階550で、応答情報が、アプリケーションが提供するサービスと連係して他の電子機器から提供されるように、応答情報を他の電子機器またはアプリケーションを経てサービスを提供するサービスサーバに送信してもよい。
また、上述したように、応答情報を重複的または分散的に出力するために複数のメディアが選択されてもよい。例えば、電子機器410は、段階550で、応答情報が聴覚的に出力されるように音声基盤インタフェースに対応するメインメディアに応答情報を送信し、応答情報を強調するための他の出力のために、他の電子機器に対応する第1サブメディアおよび他の電子機器にインストールされたアプリケーションに対応する第2サブメディアのうちの1つのサブメディアに応答情報をさらに送信してもよい。上述したように、応答情報は、それぞれのメディアに適合するように加工されてから分散して提供されてもよい。図6の実施形態では、ユーザ110の音声要請「今日の天気」210に対する返答音声が電子機器410のスピーカから聴覚的情報に出力され、電子機器410のLED401から追加の視覚的情報がさらに出力される例について説明した。
一方、ユーザの位置と他の電子機器の位置関係に基づいて応答情報を強調するための他の出力の可能なメディアが決定されてもよい。
図9は、本発明の一実施形態における、ユーザの位置によってメディアを決定する例を示した図である。図2に示す例では、応答情報である視覚的情報を電子機器410から出力すると同時に、視覚的情報をIPTV140から出力する例について説明した。一方、図7を参照しながら説明したように、視覚的情報の出力が可能な多様な電子機器が存在することもある。図9では、視覚的情報の出力が可能なIPTV140とモバイル機器150のうち、ユーザ110からより近くに位置するモバイル機器150のメディアを選択する例を示している。
例えば、電子機器410は、複数のメディアに対応して電子機器410と連動する複数の互いに異なる電子機器の位置を管理してよい。図7の表700は、それぞれの電子機器の位置が管理される例について説明している。このとき、宅内の電子機器の位置は、多様な方式によって設定されてよい。例えば、このような位置は、ユーザ110や管理者によって電子機器410に入力および設定されてもよく、電子機器410が他の電子機器と通信するために送受信する信号の強度などのような周知の位置測位技術を活用して測定されてもよい。特に、モバイル機器150の場合には、その位置が位置測位を活用して動的に測定されるようになる。このとき、電子機器410は、ユーザ110の位置と複数の他の電子機器の位置に基づいて測定されるユーザ110と複数の他の電子機器との距離間をさらに利用して少なくとも1つのメディアを決定してよい。このとき、ユーザ110の位置は、ユーザ110の発話に基づいて測定されてよい。例えば、電子機器410は、音声基盤のインタフェースが含む複数のマイクに入力された音声入力の位相偏移(phase shift)に基づいて音声入力に関連する位置情報を生成し、生成された位置情報をユーザ110の位置として決定してもよい。複数のマイクに入力される同じ音信号の位相偏移を利用して音信号の発生位置を測定する技術は、ビームフォーミング(beam forming)技術のような周知技術の適用が可能であることは、当業者であれば容易に理解することができるであろう。この場合、電子機器410は、ユーザ110の位置と他の電子機器の位置に基づき、ユーザ110から最も近くに位置する他の電子機器に応答情報を伝達してよい。例えば、図9の実施形態では、応答情報を強調するための他の出力が可能なIPTV140とモバイル機器150のうち、ユーザ110から最も近い位置に存在するモバイル機器150に応答情報が伝達される様子を示している。
以上のように、本発明の実施形態によると、人工知能スピーカのような電子機器が含む音声基盤インタフェースに対応するメインメディアだけではなく、電子機器と連動する他の電子機器が含むサブメディア(一例として、スマートフォン、IPTV、照明、スマート冷蔵庫などが含む出力手段)のような複数のメディアに関する情報を管理し、音声基盤インタフェースに受信される音声要請に対応する応答情報に基づき、応答情報による返答音声と共に、複数のメディアのうちの少なくとも1つのメディアから返答音声を強調することのできる他の出力を提供することにより、適応的かつ拡張された情報出力方式によって音声要請に対応する応答情報の情報伝達能力を向上させることができる。
上述したシステムまたは装置は、ハードウェア構成要素、ソフトウェア構成要素、またはハードウェア構成要素とソフトウェア構成要素との組み合わせによって実現されてよい。例えば、実施形態で説明された装置および構成要素は、例えば、プロセッサ、コントローラ、ALU(arithmetic logic unit)、デジタル信号プロセッサ、マイクロコンピュータ、FPGA(field programmable gate array)、PLU(programmable logic unit)、マイクロプロセッサ、または命令を実行して応答することができる様々な装置のように、1つ以上の汎用コンピュータまたは特殊目的コンピュータを利用して実現されてよい。処理装置は、オペレーティングシステム(OS)および前記OS上で実行される1つ以上のソフトウェアアプリケーションを実行してよい。また、処理装置は、ソフトウェアの実行に応答し、データにアクセスし、データを格納、操作、処理、および生成してもよい。理解の便宜のために、1つの処理装置が使用されるとして説明される場合もあるが、当業者は、処理装置が複数個の処理要素および/または複数種類の処理要素を含んでもよいことが理解できるであろう。例えば、処理装置は、複数個のプロセッサまたは1つのプロセッサおよび1つのコントローラを含んでよい。また、並列プロセッサのような、他の処理構成も可能である。
ソフトウェアは、コンピュータプログラム、コード、命令、またはこれらのうちの1つ以上の組み合わせを含んでもよく、所望の動作をするように処理装置を構成したり、独立的または集合的に処理装置に命令したりしてもよい。ソフトウェアおよび/またはデータは、処理装置に基づいて解釈されたり、処理装置に命令またはデータを提供したりするために、いかなる種類の機械、コンポーネント、物理装置、仮想装置、コンピュータ格納媒体または装置に具現化されてよい。ソフトウェアは、ネットワークによって接続されたコンピュータシステム上に分散され、分散された状態で格納されても実行されてもよい。ソフトウェアおよびデータは、1つ以上のコンピュータで読み取り可能な記録媒体に格納されてよい。
実施形態に係る方法は、多様なコンピュータ手段によって実行可能なプログラム命令の形態で実現されてコンピュータで読み取り可能な媒体に記録されてよい。前記コンピュータで読み取り可能な媒体は、プログラム命令、データファイル、データ構造などを単独でまたは組み合わせて含んでよい。媒体は、コンピュータによって実行可能なプログラムを継続して格納するものであっても、実行またはダウンロードのために臨時で格納するものであってもよい。また、媒体は、単一または複数個のハードウェアが結合した形態の多様な記録手段または格納手段であってよいが、あるコンピュータシステムに直接接続する媒体に限定されてはならず、ネットワーク上に分散存在するものであってもよい。媒体の例としては、ハードディスク、フロッピー(登録商標)ディスク、および磁気テープのような磁気媒体、CD−ROM、DVDのような光媒体、フロプティカルディスク(floptical disk)のような光磁気媒体、およびROM、RAM、フラッシュメモリなどを含んでプログラム命令語が格納されるように構成されたものであってよい。また、他の媒体の例として、アプリケーションを流通するアプリストアやその他の多様なソフトウェアを供給ないし流通するサイト、サーバなどで管理する記録媒体ないし格納媒体が挙げられてもよい。プログラム命令の例には、コンパイラによって生成されるもののような機械語コードだけではなく、インタプリタなどを使用してコンピュータによって実行される高級言語コードを含む。
以上のように、実施形態を、限定された実施形態と図面に基づいて説明したが、当業者であれば、上述した記載から多様な修正および変形が可能であろう。例えば、説明された技術が、説明された方法とは異なる順序で実行されたり、かつ/あるいは、説明されたシステム、構造、装置、回路などの構成要素が、説明された方法とは異なる形態で結合されたりまたは組み合わされたり、他の構成要素または均等物によって対置されたり置換されたとしても、適切な結果を達成することができる。
したがって、異なる実施形態であっても、特許請求の範囲と均等なものであれば、添付される特許請求の範囲に属する。
100:電子機器
110:ユーザ
140:IPTV
150:モバイル機器
220:外部サーバ
410:LED

Claims (20)

  1. 音声基盤インタフェースを含む電子機器の情報提供方法であって、
    前記音声基盤インタフェースでユーザからの音声要請を受信する段階、
    前記音声要請に対応する応答情報を取得する段階、
    前記音声基盤インタフェースに対応するメインメディアおよび前記電子機器と連動可能な他の電子機器が含むサブメディアを含む複数のメディアのうちの少なくとも1つのメディアから、前記応答情報を聴覚的出力形態である返答音声として出力する段階、および
    前記複数のメディアのうちで前記返答音声が出力されるメディアと同じであるか又は異なる少なくとも1つのメディアから、前記応答情報のうちの少なくとも一部を他の出力として提供する段階
    を含む、情報提供方法。
  2. 前記他の出力として提供する段階は、
    視覚的出力形態、触覚的出力形態、聴覚的出力形態のうちの少なくとも1つによって前記他の出力を提供すること
    を特徴とする、請求項1に記載の情報提供方法。
  3. 前記他の出力として提供する段階は、
    前記応答情報において、前記返答音声のための応答テンプレートの変数に該当する情報または意味タグが付与された情報に対して前記他の出力を提供すること
    を特徴とする、請求項1に記載の情報提供方法。
  4. 前記他の出力として提供する段階は、
    前記応答情報に含まれた主要情報として、等級情報、数値情報、方向情報のうちの少なくとも1つを前記他の出力として提供すること
    を特徴とする、請求項1に記載の情報提供方法。
  5. 前記他の出力として提供する段階は、
    前記応答情報に含まれた等級情報、数値情報、方向情報のうちの少なくとも1つに応じて前記他の出力の大きさ、類型、パターンのうちの少なくとも1つを異なるように提供すること
    を特徴とする、請求項1に記載の情報提供方法。
  6. 前記他の出力として提供する段階は、
    前記返答音声が出力されるときに、前記応答情報に含まれた等級情報、数値情報、方向情報のうちの少なくとも1つに応じて前記他の出力としてLEDを点灯させること
    を特徴とする、請求項1に記載の情報提供方法。
  7. 前記他の出力として提供する段階は、
    前記返答音声が出力されるときに、前記応答情報に含まれた等級情報、数値情報、方向情報のうちの少なくとも1つに応じて前記他の出力として追加のトーンを合成すること
    を特徴とする、請求項1に記載の情報提供方法。
  8. 前記他の出力として提供する段階は、
    前記返答音声が出力されるときに、前記応答情報と関連するマルチメディアコンテンツを前記他の出力として提供すること
    を特徴とする、請求項1に記載の情報提供方法。
  9. 前記他の出力として提供する段階は、
    前記返答音声の出力と同期化して前記他の出力を提供すること
    を特徴とする、請求項1に記載の情報提供方法。
  10. 前記他の出力として提供する段階は、
    前記音声要請および前記応答情報のうちの少なくとも1つに基づき、前記複数のメディアのうちから前記他の出力のための少なくとも1つのメディアを決定する段階、および
    前記決定された少なくとも1つのメディアから前記他の出力が提供されるように、前記応答情報を前記決定された少なくとも1つのメディアに伝達する段階
    を含む、請求項1に記載の情報提供方法。
  11. 請求項1〜10のうちのいずれか一項に記載の情報提供方法をコンピュータに実行させるコンピュータプログラム。
  12. 請求項1〜10項のうちのいずれか一項に記載の情報提供方法をコンピュータに実行させるためのコンピュータプログラムが記録されていることを特徴とする、コンピュータで読み取り可能な記録媒体。
  13. 電子機器であって、
    音声基盤インタフェース、および
    コンピュータで読み取り可能な命令を実行するように実現される少なくとも1つのプロセッサ
    を含み、
    前記少なくとも1つのプロセッサは、
    前記音声基盤インタフェースでユーザからの音声要請を受信し、
    前記音声要請に対応する応答情報を取得し、
    前記音声基盤インタフェースに対応するメインメディアおよび前記電子機器と連動可能な他の電子機器が含むサブメディアを含む複数のメディアのうちの少なくとも1つのメディアから、前記応答情報を聴覚的出力形態である返答音声として出力し、
    前記複数のメディアのうちで前記返答音声が出力されるメディアと同じであるか又は異なる少なくとも1つのメディアから、前記応答情報のうちの少なくとも一部を他の出力として提供すること
    を特徴とする、電子機器。
  14. 前記少なくとも1つのプロセッサは、前記他の出力を提供するために、
    視覚的出力形態、触覚的出力形態、聴覚的出力形態のうちの少なくとも1つによって前記他の出力を提供すること
    を特徴とする、請求項13に記載の電子機器。
  15. 前記少なくとも1つのプロセッサは、前記他の出力を提供するために、
    前記応答情報において、前記返答音声のための応答テンプレートの変数に該当する情報または意味タグが付与された情報に対して前記他の出力を提供すること
    を特徴とする、請求項13に記載の電子機器。
  16. 前記少なくとも1つのプロセッサは、前記他の出力を提供するために、
    前記応答情報に含まれた主要情報として、等級情報、数値情報、方向情報のうちの少なくとも1つを前記他の出力として提供すること
    を特徴とする、請求項13に記載の電子機器。
  17. 前記少なくとも1つのプロセッサは、前記他の出力を提供するために、
    前記応答情報に含まれた等級情報、数値情報、方向情報のうちの少なくとも1つに応じて前記他の出力の大きさ、類型、パターンのうちの少なくとも1つを異なるように提供すること
    を特徴とする、請求項13に記載の電子機器。
  18. 前記少なくとも1つのプロセッサは、前記他の出力を提供するために、
    前記返答音声が出力されるときに、前記応答情報に含まれた等級情報、数値情報、方向情報のうちの少なくとも1つに応じて前記他の出力としてLEDを点灯させること
    を特徴とする、請求項13に記載の電子機器。
  19. 前記少なくとも1つのプロセッサは、前記他の出力を提供するために、
    前記返答音声が出力されるときに、前記応答情報に含まれた等級情報、数値情報、方向情報のうちの少なくとも1つに応じて前記他の出力として追加のトーン(tone)を合成すること
    を特徴とする、請求項13に記載の電子機器。
  20. 前記少なくとも1つのプロセッサは、前記他の出力を提供するために、
    前記返答音声が出力されるときに、前記応答情報と関連するマルチメディアコンテンツを前記他の出力として提供すること
    を特徴とする、請求項13に記載の電子機器。
JP2018094709A 2017-05-24 2018-05-16 情報提供方法、電子機器、コンピュータプログラム及び記録媒体 Active JP6947687B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2017-0063982 2017-05-24
KR1020170063982A KR101934954B1 (ko) 2017-05-24 2017-05-24 음성요청에 대응하는 정보 전달 향상을 위한 출력

Publications (2)

Publication Number Publication Date
JP2018198058A true JP2018198058A (ja) 2018-12-13
JP6947687B2 JP6947687B2 (ja) 2021-10-13

Family

ID=64396630

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018094709A Active JP6947687B2 (ja) 2017-05-24 2018-05-16 情報提供方法、電子機器、コンピュータプログラム及び記録媒体

Country Status (4)

Country Link
US (1) US11341966B2 (ja)
JP (1) JP6947687B2 (ja)
KR (1) KR101934954B1 (ja)
WO (1) WO2018216914A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11836217B2 (en) 2018-12-27 2023-12-05 Nec Corporation Information processing apparatus, information processing method, and program

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108600911B (zh) 2018-03-30 2021-05-18 联想(北京)有限公司 一种输出方法及电子设备
CN112313924A (zh) * 2018-05-07 2021-02-02 谷歌有限责任公司 提供用于控制各种连接设备的复合图形助理界面
WO2019229935A1 (ja) * 2018-05-31 2019-12-05 楽天株式会社 情報処理装置、情報処理方法、プログラム、記憶媒体
CN111665732A (zh) * 2020-06-11 2020-09-15 安吉县广播电视网络有限公司 一种智慧家居语音装置以及语音系统
CN113038217A (zh) * 2021-03-19 2021-06-25 海信电子科技(武汉)有限公司 一种显示设备、服务器及应答语生成方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013510350A (ja) * 2009-11-04 2013-03-21 イマージョン コーポレイション コマンドの触覚的確認のためのシステム及び方法
US20150382047A1 (en) * 2014-06-30 2015-12-31 Apple Inc. Intelligent automated assistant for tv user interactions
WO2016100139A1 (en) * 2014-12-19 2016-06-23 Amazon Technologies, Inc. Application focus in speech-based systems
WO2016157650A1 (ja) * 2015-03-31 2016-10-06 ソニー株式会社 情報処理装置、制御方法、およびプログラム
WO2016158792A1 (ja) * 2015-03-31 2016-10-06 ソニー株式会社 情報処理装置、制御方法、およびプログラム
JP2016181047A (ja) * 2015-03-23 2016-10-13 カシオ計算機株式会社 情報出力装置、情報出力方法及びプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6807529B2 (en) * 2002-02-27 2004-10-19 Motorola, Inc. System and method for concurrent multimodal communication
US7272564B2 (en) * 2002-03-22 2007-09-18 Motorola, Inc. Method and apparatus for multimodal communication with user control of delivery modality
JP4107093B2 (ja) * 2003-01-30 2008-06-25 株式会社日立製作所 対話型端末装置及び対話アプリケーション提供方法
WO2005033963A1 (en) * 2003-09-29 2005-04-14 Micro-News Network, Llc Information acquisition and distribution system
WO2005039076A1 (ja) * 2003-10-17 2005-04-28 Olympus Corporation 情報取得装置、情報提供装置、及び情報提供システム
JP4650247B2 (ja) * 2005-12-07 2011-03-16 株式会社デンソー カーナビゲーションシステム
JP4131978B2 (ja) * 2006-02-24 2008-08-13 本田技研工業株式会社 音声認識機器制御装置
JP2008256420A (ja) * 2007-04-02 2008-10-23 Toyota Motor Corp 車両用運転支援装置
KR101387928B1 (ko) 2010-06-24 2014-04-22 에스케이플래닛 주식회사 홈 미디어 디바이스 및 이를 이용한 홈 네트워크 시스템, 방법
US10133546B2 (en) 2013-03-14 2018-11-20 Amazon Technologies, Inc. Providing content on multiple devices
US20160365088A1 (en) * 2015-06-10 2016-12-15 Synapse.Ai Inc. Voice command response accuracy

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013510350A (ja) * 2009-11-04 2013-03-21 イマージョン コーポレイション コマンドの触覚的確認のためのシステム及び方法
US20150382047A1 (en) * 2014-06-30 2015-12-31 Apple Inc. Intelligent automated assistant for tv user interactions
WO2016100139A1 (en) * 2014-12-19 2016-06-23 Amazon Technologies, Inc. Application focus in speech-based systems
JP2016181047A (ja) * 2015-03-23 2016-10-13 カシオ計算機株式会社 情報出力装置、情報出力方法及びプログラム
WO2016157650A1 (ja) * 2015-03-31 2016-10-06 ソニー株式会社 情報処理装置、制御方法、およびプログラム
WO2016158792A1 (ja) * 2015-03-31 2016-10-06 ソニー株式会社 情報処理装置、制御方法、およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11836217B2 (en) 2018-12-27 2023-12-05 Nec Corporation Information processing apparatus, information processing method, and program
US11934483B2 (en) 2018-12-27 2024-03-19 Nec Corporation Information processing apparatus, information processing method, and program

Also Published As

Publication number Publication date
WO2018216914A1 (ko) 2018-11-29
US11341966B2 (en) 2022-05-24
KR20180128631A (ko) 2018-12-04
KR101934954B1 (ko) 2019-01-03
US20200098367A1 (en) 2020-03-26
JP6947687B2 (ja) 2021-10-13

Similar Documents

Publication Publication Date Title
JP6607999B2 (ja) 音声要請に対応する情報提供のためのメディア選択
JP6947687B2 (ja) 情報提供方法、電子機器、コンピュータプログラム及び記録媒体
JP6731894B2 (ja) デバイス制御方法及び電子機器
KR102095514B1 (ko) 디바이스 토폴로지에 기초한 음성 명령 프로세싱
US10984790B2 (en) Method of providing service based on location of sound source and speech recognition device therefor
KR101949497B1 (ko) 사용자 발화의 표현법을 파악하여 기기의 동작이나 컨텐츠 제공 범위를 조정하여 제공하는 사용자 명령 처리 방법 및 시스템
JP6752870B2 (ja) 複数のウェイクワードを利用して人工知能機器を制御する方法およびシステム
JP6567727B2 (ja) 受信した音声入力の入力音量に基づいて出力される音の出力音量を調節するユーザ命令処理方法およびシステム
JP6728319B2 (ja) 人工知能機器で複数のウェイクワードを利用したサービス提供方法およびそのシステム
US11004452B2 (en) Method and system for multimodal interaction with sound device connected to network
JP6681940B2 (ja) ユーザの位置及び空間に適した情報を能動的に提供する方法及び装置
KR20200049020A (ko) 음성 명령에 응답하여 컨텐츠를 표시하기 위한 방법 및 그 전자 장치
KR101989127B1 (ko) 번역 장치, 번역 방법 및 번역 컴퓨터 프로그램
JP2019091037A (ja) 人工知能機器の自動不良検出のための方法およびシステム
KR102255844B1 (ko) 사용자의 위치 및 공간에 알맞은 정보를 능동적으로 제공하는 방법 및 장치
US20230197075A1 (en) Method of identifying target device and electronic device therefor
KR20230094769A (ko) 목적 장치의 식별 방법 및 이를 위한 전자 장치
KR102396343B1 (ko) 전자 장치의 움직임과 관련된 상태의 변화에 기반하여 데이터를 전송하는 방법 및 장치
US20230169973A1 (en) Electronic device and method for providing list of suggested utterances
US20230154463A1 (en) Method of reorganizing quick command based on utterance and electronic device therefor
JP2020022158A (ja) 音源フィルタリングのための方法およびシステム
KR20240052579A (ko) 전자 장치 및 상기 전자 장치에서 위치 기반 컨텍스트를 이용하여 사용자의 발화를 처리하는 방법
JP2019095791A (ja) 雰囲気コントロールが可能な音源ミキシング方法およびシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180516

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190718

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200327

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200327

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200406

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200407

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20200626

C211 Notice of termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C211

Effective date: 20200630

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20201117

C22 Notice of designation (change) of administrative judge

Free format text: JAPANESE INTERMEDIATE CODE: C22

Effective date: 20210224

C13 Notice of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: C13

Effective date: 20210323

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20210414

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20210412

C302 Record of communication

Free format text: JAPANESE INTERMEDIATE CODE: C302

Effective date: 20210608

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210618

C23 Notice of termination of proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C23

Effective date: 20210713

C03 Trial/appeal decision taken

Free format text: JAPANESE INTERMEDIATE CODE: C03

Effective date: 20210831

C30A Notification sent

Free format text: JAPANESE INTERMEDIATE CODE: C3012

Effective date: 20210831

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210916

R150 Certificate of patent or registration of utility model

Ref document number: 6947687

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350