JPWO2019187581A1 - 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム - Google Patents

情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム Download PDF

Info

Publication number
JPWO2019187581A1
JPWO2019187581A1 JP2020509729A JP2020509729A JPWO2019187581A1 JP WO2019187581 A1 JPWO2019187581 A1 JP WO2019187581A1 JP 2020509729 A JP2020509729 A JP 2020509729A JP 2020509729 A JP2020509729 A JP 2020509729A JP WO2019187581 A1 JPWO2019187581 A1 JP WO2019187581A1
Authority
JP
Japan
Prior art keywords
information processing
command
instruction
processing device
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020509729A
Other languages
English (en)
Other versions
JP7279706B2 (ja
Inventor
匡伸 中村
匡伸 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2019187581A1 publication Critical patent/JPWO2019187581A1/ja
Priority to JP2023077214A priority Critical patent/JP2023104938A/ja
Application granted granted Critical
Publication of JP7279706B2 publication Critical patent/JP7279706B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/12Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63HTOYS, e.g. TOPS, DOLLS, HOOPS OR BUILDING BLOCKS
    • A63H11/00Self-movable toy figures
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0011Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot associated with a remote control arrangement
    • G05D1/0027Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot associated with a remote control arrangement involving a plurality of vehicles, e.g. fleet or convoy travelling
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/43
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/562Brokering proxy services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q9/00Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Automation & Control Theory (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computing Systems (AREA)
  • Manipulator (AREA)
  • Selective Calling Equipment (AREA)

Abstract

ユーザからの命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する制御部を有する情報処理装置である。図1

Description

本開示は、情報処理装置、情報処理システム、情報処理方法及び情報処理プログラムに関する。
現在、生活やビジネスにおいて各種情報処理装置が利用される機会は増加している。例えば、宅内においても複数台の各種情報処理装置が設置されるケースがある。また、情報処理装置としては、ユーザとコミュニケーションするスマートスピーカ、あるいは、コミュニケーションするとともに、自律走行(移動)も可能とするロボットも開発、製品化されている。このように複数台の情報処理装置が、宅内あるいはオフィス内で使用される中、特許文献1〜3には、情報処理装置間で連携を取って処理を実行することも検討されている。
特開2003−345435号公報 特開2017−52075号公報 特開2002−178233号公報
このような分野では、ロボットを含む各種情報処理装置とユーザとの間で円滑にコミュニケーションを図ることが望まれている。
本開示は、情報処理装置とユーザとの間で円滑なコミュニケーションを実現する情報処理装置、情報処理システム、情報処理方法及び情報処理プログラムを提供することを目的の一つとする。
本開示は、例えば、
ユーザからの命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する制御部を有する
情報処理装置である。
本開示は、例えば、
ユーザからの命令を受信し、命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する情報処理装置を有する
情報処理システムである。
本開示は、例えば、
ユーザからの命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する
情報処理方法である。
本開示は、例えば、
ユーザからの命令が他の情報処理装置を命令対象として指定している場合、命令代行処理をコンピュータに実行させる
情報処理プログラムである。
本開示の少なくとも一つの実施形態によれば、命令対象である情報処理装置とユーザとの間で円滑なコミュニケーションを行うことが可能となる。ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれの効果であっても良い。また、例示された効果により本開示の内容が限定して解釈されるものではない。
図1は、実施形態に係る情報処理システムの利用状況を説明するための図である。 図2は、実施形態に係る携帯端末の構成を示すブロック図である。 図3は、実施形態に係るロボットの構成を示すブロック図である。 図4は、実施形態に係る情報処理システムの利用状況を説明するための図である。 図5は、実施形態に係る携帯端末で実行される命令代行処理を示すフロー図である。 図6は、実施形態に係る携帯端末で実行される第1状態確認処理を示すフロー図である。 図7は、実施形態に係る携帯端末で実行される第2状態確認処理を示すフロー図である。 図8は、実施形態に係る情報処理システムの利用状況を説明するための図である。 図9は、実施形態に係る携帯端末で実行される命令先変更処理を示すフロー図である。 図10は、実施形態に係る情報処理システムの利用状況を説明するための図である。
以下、本開示の実施形態等について図面を参照しながら説明する。なお、説明は以下の順序で行う。
<1.第1の実施形態>
<2.第2の実施形態>
<3.変形例>
以下に説明する実施形態等は本開示の好適な具体例であり、本開示の内容がこれらの実施形態に限定されるものではない。
<1.第1の実施形態>
図1は、実施形態に係る情報処理システムの利用状況を説明するための図である。本実施形態では、宅内でユーザXは携帯端末1を所持しており、歩行(移動)可能なロボット2を使用している状況を想定している。宅内には、インターネット等の通信網Cに接続可能な通信設備が設けられている。通信設備としては、通信網Cに接続されるルータ3、ルータに接続されるアクセスポイント4が設けられている。携帯端末1、ロボット2は、アクセスポイント4と無線通信を行うことで、通信網Cに接続されている情報処理サーバ5等と通信を行うことが可能となっている。
図2は、実施形態に係る携帯端末1の構成を示すブロック図である。本実施形態の携帯端末1は、いわゆる、スマートフォン、タブレット等の情報処理装置である。携帯端末1では、後で説明する命令代行処理を実行することになるが、命令代行処理をする装置としては、携帯端末1に限られるものではなく、ロボット、スマートスピーカ(AIスピーカ)、テレビ等の各種情報処理装置を使用することが可能である。本実施形態の携帯端末1は、制御部11、操作部19、カメラ12、通信部14、GPS(Global Positioning System)受信部15、タッチパネル表示部16、スピーカ17、マイクロホン18を有して構成されている。
制御部11は、各種プログラムを実行可能なCPU(Central Processing Unit)、各種プログラム、データを記憶するROM、RAM等を有して構成され、携帯端末1を統括して制御する部位である。操作部19は、電源ボタン、音量ボタン等、ユーザからの操作を受け付ける部位である。カメラ12は、携帯端末1の前面、もしくは、後面、あるいはその両方に設けられ、ユーザの操作等に応じて静止画あるいは動画を取り込む部位である。
通信部14は、外部の各種装置と通信を行う部位であって、本実施形態では、アクセスポイント4と通信を行うため、Wifi規格を使用した形態としている。通信部14には、この他、Bluetooth(登録商標)、赤外線通信等による近距離通信手段の他、アクセスポイント4ではなく、携帯通信網を介して通信網Cに接続可能な携帯通信手段を使用してもよい。
GPS受信部15は、衛星からの信号を受信することで、携帯端末1の位置(緯度、経度)を判定可能な位置検出部である。携帯端末1における位置検出部としては、GPS受信部15の他、屋内での位置を検出する屋内測位、あるいは、周囲環境をマッピングデータとして記憶しておき、カメラ12による撮像によって、携帯端末1の位置を割り出すこととしてもよい。
タッチパネル表示部16は、液晶、有機EL等を使用した表示部と、感圧方式、静電容量方式等によるタッチパネルを重畳させたユーザインタフェイスであって、表示部に各種表示を行うことが可能である。また、表示部に表示される各種オブジェクトに対して、タッチ入力することで、ユーザからの各種入力を受け付けることが可能となっている。スピーカ17は、ユーザに対して音による通知を行うことが可能である。マイクロホン18は、携帯端末1の周囲音を取り込むことが可能である。
図3は、実施形態に係るロボット2の構成を示すブロック図である。本実施形態のロボット2は、ペット型(犬型)のロボット2であって、ユーザと各種コミュニケーションを図ることが可能なロボット2である。本実施形態では、ユーザXの命令対象として歩行(移動)可能なロボット2を例としているが、ロボット2に限られるものではなく、命令を受信可能な各種情報処理装置、例えば、移動しないロボット、スマートスピーカ(AIスピーカ)、テレビ等を使用することが可能である。
本実施形態において、ロボット2は、制御部21、操作部22、カメラ23、接触センサ24、通信部25、GPS受信部26、表示部27、スピーカ28、マイクロホン29、複数のアクチュエータ30a、30b・・・を有して構成されている。なお、ロボット2の形態は、あくまでも一例であって、各種形態を採用することが可能である。
制御部21は、各種プログラムを実行可能なCPU、各種プログラム、データを記憶するROM(Read-only Memory)、RAM(Random Access Memory)等を有して構成され、ロボット2を統括して制御する。操作部22は、電源ボタン等、ユーザからの操作を受け付ける部位である。カメラ23は、ロボット2の頭部等に設けられ、周囲の環境を撮影して取り込むセンサである。接触センサ24は、ロボット2の頭部、腹部、背部等に設けられ、ユーザによる接触を検出可能なセンサである。
通信部25は、外部の各種装置と通信を行う部位であって、本実施形態では、アクセスポイント4と通信を行うため、Wifi規格を使用した形態としている。通信部25には、携帯端末1と同様、Bluetooth(登録商標)、赤外線通信等による近距離通信手段の他、アクセスポイント4ではなく、携帯通信網を介して通信網Cに接続可能な携帯通信手段を使用することも可能である。
表示部27は、ロボット2の頭部において目の位置に設けられた液晶、あるいは、有機EL等による表示手段であって、表示内容を変化させることでロボット2の感情を表現することが可能である。表示部27としては、この他にも設けることが可能であって、例えば、LED(Light Emitting Diode)等を設けることで、ロボット2の各種状態(例えば、バッテリーの状態、通信状態等)を外部に通知可能としてもよい。スピーカ28は、ユーザに対して音による通知を行うことが可能であって、例えば、鳴き声等を放音することで、ロボット2の感情を表現することが可能である。マイクロホン18は、携帯端末1の周囲音を取り込むことが可能であり、例えば、ユーザが発声した命令を取り込んで、各種処理を実行することが可能である。
アクチュエータ30a、30bは、ロボット2の手足の関節、首、尾等に設けられ、制御部21の命令により駆動される。特に、手足の関節に設けられているアクチュエータを駆動することで、ロボット2は歩行(移動)することが可能となっている。
図1には、図2、図3で説明した携帯端末1、ロボット2を宅内で使用する環境が示されている。従来、宅内等においてロボット2を利用する場合、ユーザXは、ロボット2に対して音声による命令を行うことで、ロボット2とのコミュニケーションを取ることが可能である。しかしながら、ロボット2が電源オフとなっている状態、バッテリー切れ等による休止状態、あるいは、その所在が部屋Bであって、ユーザXの声を十分に受信できない状態等の場合、ユーザXが命令を行っても、ロボット2は、それに対して反応できない状況がある。
このような状況において、ユーザXは、何故、自分の命令に対してロボット2が反応しなかったのか分からない場合もあり、再度、命令を行う等、ユーザXとロボット2と間のインタラクションのロスが生じてしまう。本実施形態の情報処理システムは、このような状況の下、ロボット2等、ユーザがコミュニケーションを行うことが可能な各種情報処理装置と、ユーザ間のインタラクションのロスを抑制し、円滑なコミュニケーションすることを一つの目的としている。
そのため、本実施形態の情報処理システムでは、命令対象個体となるロボット2以外の別個体である携帯端末1において、ロボット2に対して行われた命令に対して命令代行処理を行うこととしている。以下に、この命令代行処理について、図1の状況を例として説明を行う。
図1において、母親であるユーザXは、部屋A(キッチン)で食事の準備をしているが、手が空かないため部屋B(リビング)の様子を見ることができない。食事の準備が終わりそうになったユーザXは、子どもを呼ぶために、部屋Aにいるロボット2に対して、子どもを呼ぶ命令を発声する。ここで、ロボット2には「ロボ」と名付けられていることとする。ユーザXの発声内容は「ロボ、子どもを呼んできて。」であり、命令対象を示す「ロボ」と、命令内容である「子どもを呼んできて。」を組み合わせることで、ロボット2に対する命令となっている。ユーザXにより命令は発声された際、ロボット2は、スリープ中であって、命令を受信することができない状況となっている。
このような状況下、ユーザXが携帯する携帯端末1では、命令代行処理が実行されており、ロボット2に対して発せられた命令に対して代行することが可能となっている。
図5は、実施形態に係る携帯端末1で実行される命令代行処理を示すフロー図である。なお、本説明では、携帯端末1、ロボット2を含む情報処理装置を単に「端末」と呼ぶことがある。本実施形態の命令代行処理は、携帯端末1において実行される処理であり、その実行中、マイクロホン18に入力される音声を解析し、命令を受信したか否かを判定する(S101)。本実施形態では、先に説明したように、命令対象と命令内容の組み合わせで命令が構成されているため、命令対象を明確に判定することが可能となっている。このような形態のみならず、命令対象が付されていない命令であってもよい。その場合、発声内容自体の解析、過去の会話内容の解析、あるいはカメラ23で撮影した周囲状況等、各種状況に基づいて、命令対象を判定することが考えられる。
受信した命令対象が限定されない場合(S102:No)、本実施形態では、スピーカ17から音声による通知等を行うことで、ユーザXに再発声を促す通知を行うこととしている(S103)。例えば、ロボット2が複数体存在する空間内において、命令対象が付されていない命令、あるいは命令対象に曖昧性が残る命令を発声した場合には、携帯端末1において「命令の対象が特定できません。命令対象を指定してください。」等のようにユーザXに音声、あるいは、表示にて通知することとしている。ここで、命令対象に曖昧性の残る命令コマンドとは、例えば、携帯端末1の半径Nメートルの範囲内において、命令対象となり得る端末の数が1体以外(0体もしくは2体以上)の環境下において、命令対象が付されずに発話された場合等のことをいう。具体的には,命令対象の個体が2体以上存在する空間内において、命令対象を明示的に発声しない「〜して」という命令等がこれに該当する。
一方、受信した命令中、命令対象が限定される場合(S102:Yes)、自端末(この場合、携帯端末1)に対する命令か、他端末に対する命令かが判定される(S104)。自端末への命令である場合(S104:No)には、携帯端末1において命令が実行される(S105)。一方、他端末に対する命令である場合(S104:Yes)、通信部14を使用して、他端末の状態を取得する(S106)。図1の場合、携帯端末1からロボット2の状況を取得する場合、両者がアクセスポイント4を介して無線通信することで、ロボット2の状況を直接、取得してもよいし、情報処理サーバ5にロボット2の状況をアップロードしておき、携帯端末1は、情報処理サーバ5にアクセスすることでロボット2の状況を間接的に取得することとしてもよい。あるいは、直接、取得できない場合、間接的に取得する等、両者を併用することとしてもよい。
他端末の状況を取得した後、他端末は命令を実行可能か否かが判定される(S107)。命令を実行可能な場合(S107:Yes)、命令は他端末によって処理されることになるため、命令代行処理の先頭に戻る。一方、他端末が命令を実行できない場合(S107:No)、他端末が携帯端末1の近傍にいるか否かが判定される(S108)。近傍にいるか否かの判断は、取得したロボット2の状況に含まれる位置情報と、携帯端末1のGPS受信部15で判定した位置情報を参照することで判定することが可能である。両方の位置情報が所定距離内にある場合には近傍にいると判定(S108:Yes)され、第1状態確認処理(S200)が実行される。一方、両方の位置情報が所定距離外にある場合には近傍にいないと判定(S108:No)され、第2状態確認処理(S300)が実行される。
図1の状況は、ユーザXにより、ロボット2に対する命令が発声された場合であるが、ロボット2は休止中であるため、ユーザXによる命令を実行できない(S107:No)と判定された場合である。また、携帯端末1とロボット2は近傍にいると判定された場合となっている。したがって、図1の状況では第1状態確認処理(S200)が実行されることになる。
図6は、実施形態に係る携帯端末で実行される第1状態確認処理(S200)を示すフロー図である。本実施形態では、S106で取得した他端末の状況を3つの状態、すなわち、(1)別の命令を実行している状態、(2)他端末を命令受理可能状態に移行するためにユーザXの介入が必要である状態、例として、休止、電源オフの状態、(3)他端末を命令受理可能状態に移行するためにユーザXの介入が不要である状態、例として、スリープの状態、に分類している。第1状態確認処理では、他端末の状態がこれら3つの状態中、何れの状態かを判定する(S201)。
(1)他端末が別の命令を実行している状態の場合(S201:別の命令を実行中)、まず、携帯端末1のスピーカ17からの音声、あるいは、携帯端末1のタッチパネル表示部16を使用して、現在、他端末で実行中の命令(別命令)を中止するか否かをユーザXに問う通知が行われる(S202)。
音声による返答、あるいは、タッチパネル表示部16に対する入力によって、ユーザXから別命令の実行を中断する旨の入力があった場合(S203:Yes)、他端末において別命令を中断させ、命令受理可能状態に移行させる(S204)。ここで、命令受理可能状態とは、他端末がユーザXの命令を受理でき,かつその命令を実行可能な状態になっていることを意味する。そして、携帯端末1で保持している命令、すなわち、S101で受信した命令を他端末に送信する(S205)。一方、別命令の実行が中断されない場合(S203:No)、ユーザXからの命令は棄却される(S206)。このように、本実施形態では、命令対象となる端末において、命令が実行不能、すなわち、別命令を中断して命令を実行する、あるいは、後で説明するように命令対象となる端末が休止、あるいは、電源オフの場合には、受信した命令を棄却することとしている。命令を棄却する場合、携帯端末1からユーザXに対して、命令が棄却された旨、命令が棄却された理由を通知することとしてもよい。
図1は、ロボット2は休止中の例を示しているが、ユーザXによる命令の発声時、ロボット2が別命令を実行している場合には、ユーザXに別命令の実行中断が問われる(S202)。そして、ユーザXから、中断する旨の入力があった場合(S203:Yes)には、既に発声された命令がロボット2に対して送信される(S205)。したがって、ユーザXは、同じ命令を再度繰り返して発声する必要が無く、ロボット2との円滑なコミュニケーションを図ることが可能となる。
(2)他端末を命令受理可能状態に移行するためにユーザXの介入が必要である状態、ここでは、他端末が休止、電源オフの状態の場合(S201:休止、電源オフ)、ユーザXの命令は棄却される(S206)。この場合、ユーザは他端末(図1の場合ではロボット2)に対して命令を発声したにもかかわらず、ロボット2から反応、あるいは、応答が得られないことから、携帯端末1において、ロボット2の状況をスピーカ17からの音声、あるいは、タッチパネル表示部16の表示によって、ユーザXに通知する通知処理を行うこととしてもよい。
(3)他端末を命令受理可能状態に移行するためにユーザXの介入が不要である状態、ここでは、他端末がスリープの状態の場合(S201:スリープ)、携帯端末1は、命令の対象としている他端末と通信することで、当該他端末を命令受理可能状態に移行させる(S207)。他端末を命令可能状態に移行させた後、携帯端末1で保持している命令、すなわち、S101で受信した命令を他端末に送信する(S208)。この場合、(1)他端末が別の命令を実行している状態と同様、ユーザXは、同じ命令を再度繰り返して発声する必要が無く、ロボット2との円滑なコミュニケーションを図ることが可能となる。
次に、第2状態確認処理(S300)、すなわち、他端末は携帯端末1の近傍にいない場合(S108:No)について説明する。図4は、実施形態に係る情報処理システムの利用状況を説明するための図である。図4の状況は、ユーザXと異なる部屋Bにロボット2がいる場合であって、他端末(ロボット2)は、携帯端末1の近傍にいない場合を示している。このような場合、ユーザXから発声された命令が、ロボット2で受信できない場合が考えられ、ユーザXの命令が無駄になってしまう、すなわち、ユーザXとロボット2との間のインタラクションのロスが生じることが考えられる。
第2状態確認処理(S300)は、第1状態確認処理(S200)の場合と同様、他端末の状況を3つの状態、すなわち、(1)別の命令を実行している状態、(2)他端末を命令受理可能状態に移行するためにユーザXの介入が必要である状態、例として、休止、電源オフの状態、(3)他端末を命令受理可能状態に移行するためにユーザXの介入が不要である状態、例として、スリープの状態、に分類している。第1状態確認処理では、他端末の状態がこれら3つの状態中、何れの状態かを判定する(S301)。
(1)他端末が別の命令を実行している状態の場合(S301:別の命令を実行中)、まず、携帯端末1のスピーカ17からの音声、あるいは、携帯端末1のタッチパネル表示部16を使用して、現在、他端末で実行中の命令(別命令)を中止するか否かをユーザXに問う通知を行う(S302)。
音声による返答、あるいは、タッチパネル表示部16に対する入力によって、ユーザXから別命令の実行を中断する旨の入力があった場合(S303:Yes)、他端末において別命令を中断させ、命令受理可能状態に移行させる(S304)。一方、別命令の実行が中断されない場合(S303:No)、ユーザからの命令は棄却される(S308)。
別命令の実行を中断する旨が入力された後、携帯端末1において、他端末は可動体、すなわち、ロボット2のように移動可能な端末か否かが判定される(S305)。この判定は、予め携帯端末1において他端末の情報を記憶しておく、あるいは、S106において他端末の状態を取得する際、併せて取得すること等が考えられる。可動体と判定された場合(S305:Yes)、他端末をユーザXの近傍、すなわち、携帯端末1の近傍に移動させる(S306)。図4の場合、ロボット2は部屋Bから、携帯端末1のある部屋Aに移動させることになる。移動完了後、携帯端末1で保持している命令、すなわち、S101で受信した命令を他端末に送信する(S307)。一方、他端末が可動体では無い場合(S305:No)、他端末を移動させることなく、S101で受信した命令を他端末に送信する(S307)。
このように、他端末が可動体の場合、他端末を携帯端末1の近傍、すなわち、ユーザXの近傍に移動させた後、ユーザXからの命令を他端末に実行させることで、ユーザXと他端末(図4の場合、ロボット2)との間のコミュニケーションを、近距離で適切に行わせることが可能となる。
(2)他端末が休止、電源オフの状態の場合(S301:休止、電源オフ)、ユーザの命令は棄却される(S308)。この場合、第1状態確認処理の場合と同様、携帯端末1において、ユーザXにロボット2の状況を通知する通知処理を行うこととしてもよい。
(3)他端末がスリープの状態の場合(S301:スリープ)、携帯端末1は、命令の対象となっている他端末と通信することで、当該他端末を命令受理可能状態に移行させる(S309)。その後、S305〜307と同様の処理であるS310〜312の処理を実行することで、他端末が可動体の場合(S310:Yes)には、他端末をユーザXの近傍に移動(S311)させた後、S101で受信した命令を他端末に送信する(S312)。一方、他端末が可動体で無い場合(S310:No)には、他端末を移動させることなく、S101で受信した命令を他端末に送信する(S312)。
以上、第1の実施形態に係る情報処理システムについて説明を行ったが、本実施形態の情報処理システムでは、命令対象となる情報処理装置(図1の場合、ロボット2)以外の情報処理装置(図1の場合、携帯端末1)において、命令代行処理を実行することで、ユーザと命令対象となる情報処理装置との間で、インタラクションロスを抑制し、円滑なコミュニケーションを実現することが可能となる。
<2.第2の実施形態>
図8は、実施形態に係る情報処理システムの利用状況を説明するための図である。第1の実施形態では、命令対象となるロボット2が1台の場合について説明を行った。今後、ロボット2が普及するに従い、1家庭で複数のロボット2を利用することが考えられる。第2の実施形態は、このような状況を鑑みた場合であって、複数のロボット2a、2bが宅内で利用される状況を示している。
図8の例では、部屋Aにいるロボット2aは命令受理可能状態にあり、部屋Bにいるロボット2bは休止中となっている。ここで、ロボット2aの名前を「ロボa」、ロボット2bの名前を「ロボb」とする。ユーザXは、ロボット2bに対し、例えば、第1の実施形態と同様、「ロボb、子どもを呼んできて。」と発声したとする。ロボット2bはユーザXから離れた部屋Bに位置しており、かつ、休止中であるため、ユーザXの命令を処理することができない。複数台のロボット2a、2bが存在する第2の実施形態では、ロボット2bに対する命令を、ロボット2bに代わってロボット2aが実行することが可能となっている。
図9は、実施形態に係る携帯端末で実行される命令先変更処理を示すフロー図である。命令先変更処理では、図6で説明した第1状態確認処理(S200)、あるいは、図7で説明した第2状態確認処理(S300)において、命令先となる他端末において命令実行が不能となったか否かを監視する(S351)。ここで、命令が実行不能となった場合とは、命令先となる端末において、如何様にも命令が処理できない場合であって、第1状態確認処理(S200)、第2状態確認処理(S300)において、ユーザの命令を棄却する場合に相当する。
例えば、第1状態確認処理(S200)において、別命令の実行を中断しないと指示された場合(S203:No)、他端末の状態が休止、あるいは電源オフの状態にある場合(S201:休止、電源オフ)、第2状態確認処理(S300)において、別命令の実行を中断しないと指示された場合(S303:No)、他端末の状態が休止、あるいは電源オフの状態にある場合(S301:休止、電源オフ)がこれに相当する。
このような命令先となっている端末(他端末)での命令実行が不能と判断された場合(S351:Yes)、命令を実行可能な別端末の存在が判定される(S356)。命令を実行可能な別端末が複数存在する場合、ユーザXの近傍、すなわち、携帯端末1に近い別端末が候補として選定される。別端末において実行する場合、ユーザXの命令と異なる端末で実行されることになるため、本実施形態では、ユーザに別端末の存在、並びに、別端末で命令を代行して実行してもよいかをユーザXに通知して、ユーザXに確認を取ることとしている(S358)。ユーザXから、別端末で命令を実行する指示が入力された場合(S359:Yes)、別端末にユーザの命令を送信し、別端末で命令を実行させる(S360)。一方、別端末で命令を実行しない指示が入力された場合(S359:No)、ユーザの命令は棄却される(S357)。
図8の例では、ユーザXは、ロボット2bに対し、「ロボb、子どもを呼んできて。」と発声したが、ロボット2bは休止中であるため、携帯端末1は、「ロボbは休止中です。ロボaに処理を代行させますか?」という内容をユーザXに対して通知する(S358)。ユーザXが、代行させる内容の指示を行った場合(S359:Yes)、携帯端末1は、ロボット2bに対する命令はロボット2aに送信される(S360)。一方、ユーザXが、代行させない内容の指示を行った場合(S359:No)、ロボット2bに対する命令は棄却される(S357)。
このように複数台のロボット2a、2bが存在する第2の実施形態では、ロボット2bに対する命令を、ロボット2bに代わってロボット2aが実行することが可能となっている。
<3.変形例>
以上、本開示の複数の実施形態について具体的に説明したが、本開示の内容は上述した実施形態に限定されるものではなく、本開示の技術的思想に基づく各種の変形が可能である。以下、変形例について説明する。
(複数台の情報処理装置が存在する場合)
図10は、実施形態に係る情報処理システムの利用状況を説明するための図である。第1の実施形態、第2の実施形態では、命令代行処理、命令先変更処理を実行する情報処理装置として、ユーザXが所持する携帯端末1を使用することとしていた。現在、家庭内において、ユーザとインタラクティブな対応が可能な情報処理装置は、携帯端末1aのみならず、テレビ1b、スピーカ1c(スマートスピーカ、AIスピーカ等と呼ばれることがある)が考えられる。このような情報処理装置では、ユーザXの発声により各種制御を行うことが可能である。情報処理装置が複数台、使用される環境下では、何れか1の情報処理装置において、命令代行処理、命令先変更処理を実行することが好ましい。
例えば、下記に示すような設定によって、命令代行処理、命令先変更処理を実行する1の情報処理装置を選択することが可能である。
(1)ユーザが予め設定しておく。ロボット2に対する命令代行処理、命令先変更処理を実行する情報処理装置をユーザ自身で設定しておくことで、命令代行処理、命令先変更処理を実行する1の情報処理装置を決定することが可能である。
(2)ウェラブルデバイスを優先する。ウェアラブルデバイスを優先する理由はユーザの口元に近いことが想定され、ユーザの発声を認識しやすいこと、そして、ユーザの会話を常時受け付け状態となっていることが多いことが想定されるためである。複数のウェアラブルデバイスが存在する場合、ウェアラブルデバイスの種別に応じて、よりユーザの口元に近いことが想定されるものを選択することが考えられる。
(3)ユーザに近い位置に位置する情報処理装置を優先する。情報処理装置に設けられるGPS受信部、カメラ、あるいは、赤外線センサ等、各種センサを使用して、情報処理装置とユーザとの間の距離を測定し、ユーザに最も近く位置する情報処理装置を選択することが考えられる。なお、マイクロホンを有する情報処理装置では、ユーザからの声をより大きく受信可能な情報処理装置を、ユーザに近く位置する情報処理装置として判断することも可能である。
(4)複数の情報処理装置間で通信を行い、1の情報処理装置を決定する。その際、上述する(1)〜(3)で説明した条件を考慮して決定することとしてもよい。
(5)情報処理サーバ5で、1の情報処理装置を決定する。情報処理サーバ5において、複数の情報処理装置に関する情報を取得し、命令代行処理、命令先変更処理を実行するのに適切な情報処理装置を決定することとしてもよい。
(ユーザが複数人いる場合)
例えば、図6で説明した第1状態確認処理(S200)において、ロボット2が別の命令を実行している場合、現在、他端末で実行中の命令(別命令)を中止するか否かをユーザXに問う通知が行われる(S202)。ユーザが複数人いる場合、別命令の依頼元であるユーザと、今回の命令の依頼元であるユーザが異なることが考えられる。そのため、S202の通知では、別命令の依頼元のユーザを併せて通知することが好ましい。その際、命令を受信する場合には、依頼元のユーザの命令発話を用いた話者認識、あるいは、依頼元のユーザの顔画像を用いた顔認識等,あるいはその両方を使用して、命令の依頼元となるユーザを認識して、命令に対応付けて記憶しておくことが好ましい。また、他のユーザによって命令が中断されることが好ましくない場合も考えられる。そのため、別命令の実行を中断する際には、依頼元のユーザに対して命令の実行中断可否を問い合わせることとしてもよい。
(音声以外による命令)
第1の実施形態、第2の実施形態では、ロボット2に対する命令として、音声による命令を使用して説明したが、音声による命令のみならず、例えば、リモートコントロール装置、ジェスチャ等を使用したユーザの操作によってロボット2に対する命令を発行することとしてもよい。
(命令先変更処理の変形例)
図9で説明した命令先変更処理では、命令先となっている端末での命令実行が不能な場合(S351)、命令を実行可能な別端末を探索し、別端末が存在する場合、別端末にユーザの命令を送信することとしていた。命令先変更処理では、このような形態に代え、命令先となっている端末が命令実行できる場合であっても、より早く命令が実行できる別端末が存在する場合、ユーザの命令を別端末に送信することとしてもよい。
図8の状況において、ロボット2a、ロボット2bは共に命令実行可能状態にあるとする。このような状況で、ユーザXが、ロボット2bに対し、「ロボb、今日の天気は?」と発声した場合、ロボット2bは、部屋Bから部屋Aに移動した後、命令を実行することになる。一方、部屋Aには、命令実行可能状態にあるロボット2aが存在している。ロボット2bが部屋Bから部屋Aに移動して命令を実行するよりも、ユーザXに近いロボット2aが命令を実行した方が早いことが考えられる。したがって、より早く命令が実行できる別端末にユーザXの命令を送信することで、ユーザXの命令を迅速に処理することが可能となる。この場合においても、ユーザXに別端末の存在、並びに、別端末で命令を代行して実行してもよいかをユーザXに通知して、ユーザXに確認を取ることが好ましい。また、代行して命令を実行する場合、携帯端末1にて最適なロボットを自動選択する形態の他、代行するロボットをユーザに選択させることとしてもよい。例えば、携帯端末1において、「ロボbを指定しましたが、近傍にロボaが居ます。どうしますか?」とユーザに確認を取り、どちらのロボット2a、2bに命令を実行させるか選択させることとしてもよい。
(曖昧性を有する命令の変形例)
図5で説明した命令代行処理において、命令対象が限定されない場合、ユーザに再発声を促すこととしている。この他、曖昧性を有する命令として、命令対象は特定されているものの、命令内容自体に曖昧性が残る場合がある。例えば、ユーザXが「ロボ、えーっと、あれ取って来て、あれ。」等のような発声を行った場合がこれに相当する。このような場合、命令対象は明らかとなっているため、図5で説明した命令代行処理において、携帯端末1が命令対象となっている端末の状態を取得する処理(S106)を実行しても問題は無い。ただし、携帯端末1によるユーザXへの通知は、ユーザXの発声終了時であることが望ましく、仮にユーザXの発声が終了しても、端末への命令自体に曖昧性が残っていた場合には、携帯端末1による端末への命令送信は行わないことが望ましい。なお、曖昧性の残る命令かどうかを判定するためには、例えば、信頼度スコアが顕著に低く、受理可能な命令セット外の命令が認識された、等の判定方法が考えられる。
本開示は、装置、方法、プログラム、システム等により実現することもできる。例えば、上述した実施形態で説明した機能を行うプログラムをダウンロード可能とし、実施形態で説明した機能を有しない装置が当該プログラムをダウンロードすることにより、当該装置において実施形態で説明した制御を行うことが可能となる。本開示は、このようなプログラムを配布するサーバにより実現することも可能である。また、各実施形態、変形例で説明した事項は、適宜組み合わせることが可能である。
本開示は、以下の構成も採ることができる。
(1)
ユーザからの命令を受信し、前記命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する制御部を有する
情報処理装置。
(2)
前記命令代行処理は、命令対象である前記情報処理装置の状態を取得し、当該情報処理装置で命令が実行できない状態となっている場合に実行される
(1)に記載の情報処理装置。
(3)
前記命令代行処理は、命令対象である前記情報処理装置を命令受理可能状態に移行させる
(1)または(2)に記載の情報処理装置。
(4)
前記命令代行処理は、命令対象である前記情報処理装置が命令受理可能状態に移行した後、ユーザから受信した前記命令を、命令対象である前記情報処理装置に送信する
(3)に記載の情報処理装置。
(5)
前記命令代行処理は、命令対象である前記情報処理装置が別命令を実行している際、別命令の実行中断をユーザに問い合わせる
(1)から(4)の何れか1に記載の情報処理装置。
(6)
前記命令代行処理は、別命令の実行中断がユーザから指示された場合、ユーザから受信した前記命令を、命令対象である前記情報処理装置に送信する
(5)に記載の情報処理装置。
(7)
前記命令代行処理は、命令対象である前記情報処理装置において前記命令が実行不能と判断された場合、ユーザから受信した前記命令を棄却する
(1)から(6)の何れか1に記載の情報処理装置。
(8)
前記命令代行処理は、命令対象である前記情報処理装置が可動体である場合、命令対象である前記情報処理装置を移動させる
(1)から(7)の何れか1に記載の情報処理装置。
(9)
前記命令代行処理は、自己の位置に近付くように、命令対象である前記情報処理装置を移動させる
(8)に記載の情報処理装置。
(10)
命令対象である前記情報処理装置以外に、ユーザから受信した命令を実行可能な情報処理装置がある場合、当該情報処理装置に命令を送信する
(1)から(9)の何れか1に記載の情報処理装置。
(11)
ユーザからの命令を受信し、前記命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する情報処理装置を有する
情報処理システム。
(12)
命令代行処理を実行可能な前記情報処理装置が複数存在する場合、何れか1の前記情報処理装置において命令代行処理が実行される
(11)に記載の情報処理システム。
(13)
ユーザからの命令を受信し、前記命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する
情報処理方法。
(14)
ユーザからの命令を受信し、前記命令が他の情報処理装置を命令対象として指定している場合、命令代行処理をコンピュータに実行させる
情報処理プログラム。
1:携帯端末(情報処理装置) 17:スピーカ
1a:携帯端末 18:マイクロホン
1b:テレビ 19:操作部
1c:スピーカ 21:制御部
2(2a、2b):ロボット 22:操作部
3:ルータ 23:カメラ
4:アクセスポイント 24:接触センサ
5:情報処理サーバ 25:通信部
11:制御部 26:GPS受信部
12:カメラ 27:表示部
14:通信部 28:スピーカ
15:GPS受信部 29:マイクロホン
16:タッチパネル表示部 30a、30b・・・:アクチュエータ

Claims (14)

  1. ユーザからの命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する制御部を有する
    情報処理装置。
  2. 前記命令代行処理は、命令対象である前記情報処理装置の状態を取得し、当該情報処理装置で命令が実行できない状態となっている場合に実行される
    請求項1に記載の情報処理装置。
  3. 前記命令代行処理は、命令対象である前記情報処理装置を命令受理可能状態に移行させる
    請求項1に記載の情報処理装置。
  4. 前記命令代行処理は、命令対象である前記情報処理装置が命令受理可能状態に移行した後、ユーザから受信した前記命令を、命令対象である前記情報処理装置に送信する
    請求項3に記載の情報処理装置。
  5. 前記命令代行処理は、命令対象である前記情報処理装置が別命令を実行している際、別命令の実行中断をユーザに問い合わせる
    請求項1に記載の情報処理装置。
  6. 前記命令代行処理は、別命令の実行中断がユーザから指示された場合、ユーザから受信した前記命令を、命令対象である前記情報処理装置に送信する
    請求項5に記載の情報処理装置。
  7. 前記命令代行処理は、命令対象である前記情報処理装置において前記命令が実行不能と判断された場合、ユーザから受信した前記命令を棄却する
    請求項1に記載の情報処理装置。
  8. 前記命令代行処理は、命令対象である前記情報処理装置が可動体である場合、命令対象である前記情報処理装置を移動させる
    請求項1に記載の情報処理装置。
  9. 前記命令代行処理は、自己の位置に近付くように、命令対象である前記情報処理装置を移動させる
    請求項8に記載の情報処理装置。
  10. 命令対象である前記情報処理装置以外に、ユーザから受信した命令を実行可能な情報処理装置がある場合、当該情報処理装置に命令を送信する
    請求項1に記載の情報処理装置。
  11. ユーザからの命令を受信し、前記命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する情報処理装置を有する
    情報処理システム。
  12. 命令代行処理を実行可能な前記情報処理装置が複数存在する場合、何れか1の前記情報処理装置において命令代行処理が実行される
    請求項11に記載の情報処理システム。
  13. ユーザからの命令が他の情報処理装置を命令対象として指定している場合、命令代行処理を実行する
    情報処理方法。
  14. ユーザからの命令が他の情報処理装置を命令対象として指定している場合、命令代行処理をコンピュータに実行させる
    情報処理プログラム。
JP2020509729A 2018-03-28 2019-01-28 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム Active JP7279706B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023077214A JP2023104938A (ja) 2018-03-28 2023-05-09 情報処理装置、情報処理方法及びプログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018061209 2018-03-28
JP2018061209 2018-03-28
PCT/JP2019/002706 WO2019187581A1 (ja) 2018-03-28 2019-01-28 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023077214A Division JP2023104938A (ja) 2018-03-28 2023-05-09 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2019187581A1 true JPWO2019187581A1 (ja) 2021-04-08
JP7279706B2 JP7279706B2 (ja) 2023-05-23

Family

ID=68061364

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020509729A Active JP7279706B2 (ja) 2018-03-28 2019-01-28 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム
JP2023077214A Pending JP2023104938A (ja) 2018-03-28 2023-05-09 情報処理装置、情報処理方法及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023077214A Pending JP2023104938A (ja) 2018-03-28 2023-05-09 情報処理装置、情報処理方法及びプログラム

Country Status (4)

Country Link
US (2) US11558482B2 (ja)
EP (1) EP3780644A4 (ja)
JP (2) JP7279706B2 (ja)
WO (1) WO2019187581A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005167637A (ja) * 2003-12-02 2005-06-23 Canon Inc 印刷システム、印刷制御方法および印刷システムの制御方法
JP2015201739A (ja) * 2014-04-08 2015-11-12 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 複数機器の音声操作システム、音声操作方法及び、プログラム
JP2017139962A (ja) * 2013-02-05 2017-08-10 三菱電機株式会社 家庭用電力制御システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4062880B2 (ja) 2000-12-15 2008-03-19 富士ゼロックス株式会社 工程編成装置
JP2003345435A (ja) 2002-05-24 2003-12-05 Mitsubishi Heavy Ind Ltd ロボットおよびロボットシステム
US7107442B2 (en) * 2003-08-20 2006-09-12 Apple Computer, Inc. Method and apparatus for implementing a sleep proxy for services on a network
US20070205910A1 (en) * 2006-02-22 2007-09-06 Parker-Hannifin Corporation Wireless motion control system
KR101553521B1 (ko) * 2008-12-11 2015-09-16 삼성전자 주식회사 지능형 로봇 및 그 제어방법
US8818556B2 (en) * 2011-01-13 2014-08-26 Microsoft Corporation Multi-state model for robot and user interaction
US9154312B2 (en) * 2011-07-20 2015-10-06 Qualcomm Incorporated Power save proxy in communication networks
KR101871430B1 (ko) * 2011-11-14 2018-06-26 한국전자통신연구원 소형 로봇의 다중 운용 방법 및 그 운용 시스템
JP2017052075A (ja) 2015-09-11 2017-03-16 シャープ株式会社 応答装置および調整装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005167637A (ja) * 2003-12-02 2005-06-23 Canon Inc 印刷システム、印刷制御方法および印刷システムの制御方法
JP2017139962A (ja) * 2013-02-05 2017-08-10 三菱電機株式会社 家庭用電力制御システム
JP2015201739A (ja) * 2014-04-08 2015-11-12 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 複数機器の音声操作システム、音声操作方法及び、プログラム

Also Published As

Publication number Publication date
JP7279706B2 (ja) 2023-05-23
US20230118228A1 (en) 2023-04-20
US11558482B2 (en) 2023-01-17
WO2019187581A1 (ja) 2019-10-03
US11949753B2 (en) 2024-04-02
EP3780644A1 (en) 2021-02-17
US20210006633A1 (en) 2021-01-07
JP2023104938A (ja) 2023-07-28
EP3780644A4 (en) 2021-03-24

Similar Documents

Publication Publication Date Title
US10015836B2 (en) Master device for using connection attribute of electronic accessories connections to facilitate locating an accessory
US10984790B2 (en) Method of providing service based on location of sound source and speech recognition device therefor
US20170032787A1 (en) Smart necklace with stereo vision and onboard processing
US11472038B2 (en) Multi-device robot control
KR102592769B1 (ko) 전자 장치 및 그의 동작 방법
US20210347386A1 (en) Information processing apparatus, information processing method, computer program, and package receipt support system
US20100128571A1 (en) Method for controlling morning call of mobile terminal and mobile terminal using the same
WO2018082227A1 (zh) 终端和宠物姿态检测方法和装置
US11749271B2 (en) Method for controlling external device based on voice and electronic device thereof
KR20200050235A (ko) 전자 장치 및 그의 지능형 인터랙션 방법
JP6619488B2 (ja) 人工知能機器における連続会話機能
KR20220115102A (ko) 애플리케이션 공유 방법, 제1 전자 기기 및 컴퓨터 판독 가능한 저장 매체
KR102629796B1 (ko) 음성 인식의 향상을 지원하는 전자 장치
US20210383806A1 (en) User input processing method and electronic device supporting same
JP7279706B2 (ja) 情報処理装置、情報処理システム、情報処理方法及び情報処理プログラム
US20210141349A1 (en) Interchangeable multimodal human interaction system
CN115691498A (zh) 语音交互方法、电子设备及介质
US20240069644A1 (en) System and method for enhancing functionality of electronic devices
JP2016019273A (ja) ネットワークシステム、サーバ、通信端末、音声出力方法、および音声出力プログラム
US11948579B2 (en) Electronic device performing operation based on user speech in multi device environment and operating method thereof
US11630551B1 (en) Smart keychain or accessory devices, systems, and methods
KR20240028225A (ko) 로봇 및 로봇의 제어 방법
EP3637274A1 (en) Information processing device, information processing method, and computer program
KR20200102295A (ko) 멀티 태스크 관리 방법 및 이를 위한 전자 장치
CN113383518A (zh) 信息设备、信息处理方法、信息处理程序、控制装置、控制方法和控制程序

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230424

R151 Written notification of patent or utility model registration

Ref document number: 7279706

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151