JP6645438B2 - 情報処理装置、情報処理方法およびコンピュータプログラム - Google Patents

情報処理装置、情報処理方法およびコンピュータプログラム Download PDF

Info

Publication number
JP6645438B2
JP6645438B2 JP2016556426A JP2016556426A JP6645438B2 JP 6645438 B2 JP6645438 B2 JP 6645438B2 JP 2016556426 A JP2016556426 A JP 2016556426A JP 2016556426 A JP2016556426 A JP 2016556426A JP 6645438 B2 JP6645438 B2 JP 6645438B2
Authority
JP
Japan
Prior art keywords
user
context information
information processing
information
iot device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016556426A
Other languages
English (en)
Other versions
JPWO2016067765A1 (ja
Inventor
茶谷 公之
公之 茶谷
明宏 庵
明宏 庵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2016067765A1 publication Critical patent/JPWO2016067765A1/ja
Application granted granted Critical
Publication of JP6645438B2 publication Critical patent/JP6645438B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/029Location-based management or tracking services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00Digital computers in general; Data processing equipment in general
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0803Configuration setting
    • H04L41/0813Configuration setting characterised by the conditions triggering a change of settings
    • H04L41/0816Configuration setting characterised by the conditions triggering a change of settings the condition being an adaptation, e.g. in response to network events
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/12Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/14Session management
    • H04L67/148Migration or transfer of sessions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/2866Architectures; Arrangements
    • H04L67/30Profiles
    • H04L67/306User profiles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/54Presence management, e.g. monitoring or registration for receipt of user log-on information, or the connection status of the users
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information

Description

本開示は、情報処理装置、情報処理方法およびコンピュータプログラムに関する。
情報処理技術や通信技術の発達に伴い、インターネットに接続することが出来る機器が、数だけではなく、その種類においても急激に増加している。そのような多くの機器を接続し、よりダイナミックで自律的な情報のやり取りを実現しようという、IoT(Internet Of Things)と呼ばれるコンセプトが注目を浴びつつある。特許文献1には、異なる無線アクセス技術を使用する複数のネットワークに渡って支援を提供する技術が提案されている。
特表2013−516912号公報
ユーザが、インターネットに繋がる機器を複数持つことは当たり前になってきており、ユーザがある機器に対する操作を行っていた状態で、ユーザが場所を移動して別の機器に対して操作を行おうとした場合に、それまで行っていた操作の内容を継続できると利便性が飛躍的に向上する。
そこで、本開示では、ユーザの行動を検出し、ユーザが操作する機器間でのデータ連携を先回りすることでユーザの利便性を飛躍的に向上させることが可能な、新規かつ改良された情報処理装置、情報処理方法およびコンピュータプログラムを提案する。
本開示によれば、情報処理装置であって、ユーザの前記情報処理装置からの離脱を検出し、他の装置に向けて、それまで前記ユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を送信するよう制御する制御部を備える、情報処理装置が提供される。
また本開示によれば、情報処理装置であって、ユーザの前記情報処理装置への近接を検出し、他の装置から、それまでユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を受信するよう制御する制御部を備える、情報処理装置が提供される。
また本開示によれば、ユーザの情報処理装置からの離脱を検出し、他の装置に向けて、それまで前記ユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を送信するよう制御することを含む、情報処理方法が提供される。
また本開示によれば、ユーザの情報処理装置からの離脱を検出し、他の装置に向けて、それまで前記ユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を送信するよう制御することをコンピュータに実行させる、コンピュータプログラムが提供される。
また本開示によれば、ユーザの情報処理装置への近接を検出し、他の装置から、それまでユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を受信するよう制御することを含む、情報処理方法が提供される。
また本開示によれば、ユーザの情報処理装置への近接を検出し、他の装置から、それまでユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を受信するよう制御することをコンピュータに実行させる、コンピュータプログラムが提供される。
以上説明したように本開示によれば、ユーザの行動を検出し、ユーザが操作する機器間でのデータ連携を先回りすることでユーザの利便性を飛躍的に向上させることが可能な、新規かつ改良された情報処理装置、情報処理方法およびコンピュータプログラムを提供することが出来る。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の一実施形態に係る情報処理システム1の全体構成例を示す説明図である。 情報処理装置100と情報処理装置200との動作の概要を示す説明図である。 動作例を示す流れ図である。 動作例を示す流れ図である。 動作例を示す流れ図である。 動作例を示す流れ図である。 動作例を示す流れ図である。 ハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.本開示の一実施形態
1.1.背景
1.2.構成例
1.3.動作例
2.ハードウェア構成例
3.まとめ
<1.本開示の一実施形態>
[1.1.背景]
本開示の実施形態について詳細に説明する前に、まず本開示の実施形態の背景について説明する。背景について説明した後に、本開示の実施形態について詳細に説明する。
上述したように、情報処理技術や通信技術の発達に伴い、インターネットに接続することが出来る機器の数および種類の増加が著しい。ユーザは、このようにインターネットに接続できる様々な機器を用いてインターネットに接続して、情報を取得したり、ある機器から別の機器へ指示を送ったりすることが出来るようになってきている。そして上述したように、多くの機器を接続し、よりダイナミックで自律的な情報のやり取りを実現しようという、IoT(Internet Of Things)というコンセプトが注目を浴びつつある。
なお、以下においては、インターネットに接続することが出来て情報の授受が可能な機器を「IoTデバイス」とも総称することがある。
ユーザは、複数のIoTデバイスを有し、操作するIoTデバイスを切り替えながら、IoTデバイスに対して指示を送ったり、IoTデバイスが取得したコンテンツなどを見聞きしたりすることが出来る。このユーザとIoTデバイスとの間の入出力の情報を以下では「コンテキスト情報」と称する。
ただ、操作するIoTデバイスを切り替えながら、IoTデバイスに対して指示を送る場合、各IoTデバイスが連携されておらず、それぞれ独立に動作していると、すなわちコンテキスト情報が連携されていないと、ユーザは、IoTデバイスを切り替えた際に、今まで操作していたIoTデバイスに対する処理を、また最初から行わなければならない。
一例を挙げて説明する。あるIoTデバイスが音声認識機能を有しており、ユーザがそのIoTデバイスに対して話しかけることでIoTデバイスへの命令を入力し、IoTデバイスが入力された命令に基づいて、所定の処理を実行して出力することが出来るとする。同一のIoTデバイスであれば、ユーザが「それ」や「さっきの」等の指示語を発話した場合、そのIoTデバイスは、ユーザが発した内容を解析し、それまでのユーザとのコンテキスト情報に基づいて、それらの指示語が具体的に何を指すのかを判断して、適切な処理を実行することが出来る。
しかし、ユーザが別のIoTデバイスに対話先を切り替えた場合に、切り替え前後のIoTデバイスが連携されていなければ、ユーザは、切り替え前のIoTデバイスへのコンテキストが、切り替え後のIoTデバイスに引き継がれていないので、ユーザは、それまでのコンテキスト情報を、切り替え後のIoTデバイスとの対話で利用することが出来ず、新たな対話をゼロから開始する必要がある。つまり、IoTデバイス間でのコンテキスト情報の引き継ぎが無ければ、切り替え後のIoTデバイスに対して、ユーザが「それ」や「さっきの」等の指示語を発話したとしても、そのIoTデバイスは、ユーザが発した内容を、音声認識機能を用いてテキスト変換し、「それ」や「さっきの」とユーザが言ったと認識することは出来るが、それらの指示語が具体的に何を指すのかは、切り替え前のIoTデバイスとのコンテキスト情報に基づかないと判断することが出来ないため、適切な処理を実行することが出来ない。
ユーザが使用する全てのIoTデバイスに、あるIoTデバイスに対するコンテキスト情報の内容を全て連携させれば、上述した点は解消する。しかし、あるIoTデバイスに対するコンテキスト情報を、ユーザが使用する全てのIoTデバイスに連携させるのは効率的ではない。このため、ユーザが次に操作するIoTデバイスに対してのみ、予めコンテキスト情報を連携させることで、ユーザが操作しないIoTデバイスは無駄にコンテキスト情報を保持せずに済む。
そこで本件開示者は、上述した点に鑑み、複数のIoTデバイスに対して効率的にコンテキスト情報が連携できる技術について鋭意検討を行った。その結果、本件開示者は、ユーザの行動を検出し、ユーザの行動に基づいて複数のIoTデバイスに対して効率的にコンテキスト情報が連携できる技術を考案するに至った。
以上、本開示の実施形態の背景について説明した。続いて、本開示の実施の形態について詳細に説明する。
[1.2.構成例]
まず、本開示の一実施形態に係る情報処理システムの全体構成例について説明する。図1は、本開示の一実施形態に係る情報処理システム1の全体構成例を示す説明図である。図1には、IoTデバイスである情報処理装置100、200の間でコンテキスト情報を連携させて、ユーザが情報処理装置100との間で行ってきた処理を情報処理装置200が引き継げるようにした、情報処理システム1の全体構成例が示されている。
図1に示したように、本開示の一実施形態に係る情報処理システム1は、情報処理装置100、200と、センサ300と、入出力デバイス400a、400bと、を含んで構成される。
情報処理装置100、200は、ユーザからの操作入力を受け付け、その操作入力に応じた各種情報処理を実行する。図1に示したように、本開示の一実施形態に係る情報処理システム1における情報処理装置100は、制御部110と、検出部120と、コンテキスト情報管理部130と、を含んで構成される。
制御部110は、情報処理装置100の動作を制御するブロックであり、例えばCPU、ROM、RAM等で構成され得る。本実施形態では、制御部110は、検出部120からの指示に基づいてコンテキスト情報管理部130に対して指示を送出したり、またコンテンツの出力先を入出力デバイス400a、400bの中から選択したりする処理を実行する。もちろん制御部110が実行する処理は係る例に限定されるものではない。
検出部120は、IoTデバイスである情報処理装置100を使用するユーザの状態を検出する。図1に示したように、検出部120は、認識部122を含んで構成される。
認識部122は、情報処理装置100を使用するユーザの状況をセンシングするセンサ300からセンシングデータを取得し、センサ300から取得したセンシングデータに基づいて情報処理装置100を使用するユーザの状態を検出する。センサ300については後述するが、センサ300を構成するセンサとして、例えばGPS(Global Positioning System)、GLONASS(Global Navigation Satellite System)、BDS(BeiDou Navigation Satellite System)等の現在位置を取得するセンサ、カメラ、深度情報付きカメラ、人感センサ、マイク等が含まれ得る。センサ300は、装置にかかる加速度や角速度、方位、照度、温度、気圧などを検出する。上記の各種センサは、例えばセンサを含む装置がユーザによって携帯または装着されている場合に、各種情報をユーザに関する情報、例えばユーザの運動や向きなどを示す情報として検出することができる。また、センサ300は、他にも、脈拍、発汗、脳波、触覚、嗅覚、味覚など、ユーザの生体情報を検出するセンサを含んでもよい。
認識部122は、センサ300から取得したセンシングデータに基づいて情報処理装置100を使用するユーザの状態を検出し、その検出結果に基づいて制御部110に所定の通知を行う。ここで、認識部122から制御部110への通知としては、例えば、ユーザが、ユーザの位置の移動によって情報処理装置100を使用しようとする可能性のあることである。そして制御部110は、認識部122からの通知に基づいて、コンテキスト情報管理部130に対してコンテキスト情報の取得を指示する。
コンテキスト情報管理部130は、コンテキスト情報を管理する。本実施形態では、コンテキスト情報管理部130は、IoTデバイスへの対話内容であるコンテキスト情報の内容を保持する。また本実施形態では、コンテキスト情報管理部130は、制御部110からの指示に基づいて、他のIoTデバイスからコンテキスト情報を取得する処理を実行する。なお、IoTデバイスへの対話内容には、音声、テキスト、画像、生体データその他のユーザからIoTデバイスへのあらゆる入力が含まれる。
コンテキスト情報に含まれる情報として、例えば操作しているユーザを特定する情報、ユーザが使用しているアプリケーション、またはユーザが閲覧しているコンテンツを特定する情報、上記アプリケーションの実行状態や、上記コンテンツの閲覧箇所などを特定する情報などが含まれ得る。もちろんコンテキスト情報に含まれる情報は係る例に限定されるものではない。
またコンテキスト情報管理部130は、ユーザを一意に識別する情報(例えばユーザIDのような情報)に紐付けてコンテキスト情報を保存する。コンテキスト情報管理部130が、ユーザを一意に識別する情報に紐付けてコンテキスト情報を保存することで、コンテキスト情報の保有元の特定や、コンテキスト情報の保有元に対応するコンテキスト情報の取得といった処理が可能になる。
表1は、コンテキスト情報管理部130が管理するコンテキスト情報の一例である。表1には、ユーザID単位でコンテキスト情報を管理する場合の、コンテキスト情報の例が示されている。
Figure 0006645438
なお図1には、情報処理装置200はコンテキスト情報管理部230しか示していないが、情報処理装置100と同様の構成を有し得る。
センサ300は、様々な状態をセンシングする。情報処理装置100は、センサ300によるセンシングで得られたセンシングデータを用いて、情報処理装置100を使用するユーザの状況を判断する。センサ300によるセンシングで得られたセンシングデータを用いて、情報処理装置100で判断するユーザの状況としては、例えばユーザの移動方向、移動速度、などが含まれ得る。
センサ300は、ユーザが情報処理装置100に近接することで、ユーザが次に情報処理装置100を使用する可能性が高くなることを検出するために設けられる。またセンサ300は、ユーザが情報処理装置100から離脱することで、ユーザが情報処理装置100を使用しなくなる可能性が高くなることを検出するために設けられる。
従って、センサ300は、対応する情報処理装置100が、ユーザの近接や離脱を判断できるような位置や向きに設置されることが望ましい。またセンサ300は、情報処理装置100の近傍に設けられることが望ましいが、ユーザの情報処理装置100への移動経路上に設けられるものであっても良い。
またセンサ300は、単に人の近接を検出するだけでなく、近接した人が誰であるのかを認識するために設けられ得る。従ってセンサ300には、上述したように、カメラやマイク等の、人を識別するための情報が取得できるデバイスが含まれていることが望ましい。従って、例えば人間の姿、人間の声、振動などの情報がセンサ300によるセンシングで得られれば、情報処理装置100は、そのセンシングデータを用いて、近接する人間を判別することが出来る。もちろん、IoTデバイスを使用するユーザが1人しかいなければ、センサ300には、単に人の近接を検出する機能のみを有していても良い。
このようにセンサ300が設けられていることで、情報処理装置100は、ユーザの近接を検知することができる。そして情報処理装置100は、センサ300からセンシングデータを取得することでユーザの近接を検知し、別のIoTデバイス(例えば情報処理装置200)からコンテキスト情報を取得し、ユーザとの対話を継続することができる。
図1では2つのIoTデバイスの情報処理装置100、200が示されている。例えば、ユーザが情報処理装置200に対して対話を行っており、そのユーザが情報処理装置100に向かってくることをセンサ300で検出すると、情報処理装置100は、情報処理装置200からコンテキスト情報の取得を行う。
本実施形態では、あるIoTデバイスの担当エリアと、別のIoTデバイスの担当エリアが接している、もしくは一部重なっている場合を「隣接」と表現し、接していない場合を「近接」と表現する。例えば、複数のIoTデバイスの担当エリアが重なり合った場所にユーザが存在すると、どちらのIoTデバイスが音声を拾うべきか、または、どちらのIoTデバイスが出力を担うべきかを考慮しなければならないケースを考慮するほうが望ましい。担当エリアが重なりあった場合、例えばカメラで撮像した画像を用いた画像認識や、マイクで集音した音声認識等によって、どのIoTデバイスが処理を実行するかを判断してもよい。例えば、画像認識や音声認識の結果、ユーザが正面を向いていると判断したIoTデバイスが処理を実行するようにしてもよい。
図2は、情報処理装置100と情報処理装置200との動作の概要を示す説明図である。例えばユーザが情報処理装置200に対する対話を行っており、そのユーザが移動しながら、情報処理装置100が置かれている場所へ移動しているとする。センサ300が、ユーザが接近してきたことを検出すると、センサ300は、ユーザの近接を情報処理装置100に通知する。
情報処理装置100は、センサ300からの通知を受け取ると、ユーザが近接していると判断し、情報処理装置200からコンテキスト情報の取得を行う。情報処理装置100は、情報処理装置200からコンテキスト情報を取得することで、ユーザが情報処理装置200に対して行ってきていた対話を引き継ぐことが可能になる。
なお以下の説明では、図2の例で示した情報処理装置200を「近接IoTデバイス」とも称し、情報処理装置100を「被近接IoTデバイス」とも称する。
ここで、情報処理装置100と情報処理装置200とが直接通信可能な範囲にある場合は、情報処理装置100は情報処理装置200からコンテキスト情報を直接取得することができる。一方、情報処理装置100と情報処理装置200とが直接通信可能な範囲にない場合は、情報処理装置100は、例えばクラウドサーバ10からコンテキスト情報を取得する。そのため、情報処理装置100、200は、いずれもコンテキスト情報をクラウドサーバ10に送信したり、クラウドサーバ10から受信したりする機能を有する。
本実施形態においては、近接IoTデバイスから被近接IoTデバイスへ、保持しているコンテキスト情報の全てを送信してもよいが、コンテキスト情報の全てを送信すると、コンテキスト情報の量によっては送信に時間が掛かり、被近接IoTデバイスでの対話処理の開始にコンテキスト情報の伝送が間に合わないおそれがある。従って、近接IoTデバイスから被近接IoTデバイスへ、保持しているコンテキスト情報の一部のみを送信してもよい。
近接IoTデバイスが送信する一部のコンテキスト情報としては、例えば、時間的に直近で生成されたコンテキスト情報、または、過去のコンテキスト情報及び現在のユーザのシチュエーションに基づいて最適と考えられるもののみのコンテキスト情報等がある。現在のユーザのシチュエーションとしては、時間、場所、一緒にいる人物等がある。現在のユーザのシチュエーションは、例えば、センサ300によって得られるセンシングデータから、近接IoTデバイスが判断する。
情報処理装置100と情報処理装置200とが直接通信可能な範囲にあるかどうかは、例えば情報処理装置200が無線通信に用いる電波の強度を検出することで判断してもよい。すなわち情報処理装置100は、情報処理装置200からの電波を全く検出しないか、または電波を検出してもその強度が所定値未満であるような場合に、情報処理装置200と直接通信可能な範囲に無いと判断してもよい。
なお、情報処理装置200が無線通信に用いる電波としては、例えばWi−FiやBluetooth(登録商標)などで用いられる周波数帯の電波が用いられうるが、特定の帯域や強度の電波に限定されるものではない。
情報処理装置100は、このように、情報処理装置200から直接、またはクラウドサーバ10を経由して、情報処理装置200が管理しているコンテキスト情報を取得することで、ユーザが情報処理装置200に対して行ってきた対話を引き継ぐことができる。
なお図1に示した構成例では、情報処理装置100とは別に、コンテンツを出力したり、ユーザからの入力を受け付けたりする入出力デバイス400a、400bが情報処理システム1に設けられている例を示したが、本開示は係る例に限定されるものではなく、情報処理装置100がコンテンツを出力したり、ユーザからの入力を受け付けたりする構成を備えていても良い。
ユーザからの音声や画像での入力が複数の入出力デバイス400a、400bで得られる場合は、情報処理装置100は、その入力の中で品質が最も良いものを採用する。また、出力先の候補として複数の入出力デバイス400a、400bが存在する場合は、情報処理装置100は、例えば全ての入出力デバイス400a、400bを出力先としてもよく、ユーザに出力先を指定してもらうようにしてもよい。
以上、図1を用いて本開示の一実施形態に係る情報処理システム1の全体構成例について説明した。続いて、本開示の一実施形態に係る情報処理システム1を構成する各装置の動作例について説明する。
まず、図3〜図5を用いて、本開示の一実施形態に係る情報処理システム1を構成する各装置の動作を概略的に説明する。
図3は、本開示の一実施形態に係る情報処理システム1の動作例であり、近接IoTデバイス(例えば図2の情報処理装置200)の動作例を示す流れ図である。以下、図3を用いて本開示の一実施形態に係る情報処理システム1における近接IoTデバイスの動作例について説明する。
近接IoTデバイスは、他のIoTデバイスからのコンテキスト情報の要求があったかどうかを判断し(ステップS101)、他のIoTデバイスからのコンテキスト情報の要求があれば(ステップS101、Yes)、近接IoTデバイスは、そのコンテキスト情報の要求を送信したIoTデバイスへコンテキスト情報を送信する(ステップS102)。
他のIoTデバイスからのコンテキスト情報の要求が無ければ(ステップS101、No)、近接IoTデバイスは、他のIoTデバイスからのコンテキスト情報の要求があるまで待機する。
以上、図3を用いて本開示の一実施形態に係る情報処理システム1における近接IoTデバイスの動作例について説明した。なお、近接IoTデバイスは、コンテキスト情報を他のIoTデバイスへ直接送信するのではなく、クラウドサーバ10に送信するようにしても良い。
図4は、本開示の一実施形態に係る情報処理システム1の動作例であり、被近接IoTデバイス(例えば図2の情報処理装置100)の動作例を示す流れ図である。以下、図4を用いて本開示の一実施形態に係る情報処理システム1における被近接IoTデバイスの動作例について説明する。
被近接IoTデバイスは、センサ300からセンシングデータを取得し(ステップS111)、センサ300から取得したセンシングデータによって、ユーザが接近してきているかどうかを判断する(ステップS112)。
ここで、被近接IoTデバイスによるユーザが接近してきているかどうかの判断方法には様々な方法があり、特定の方法に限定されるものではない。例えば、取得したセンシングデータにカメラで撮像した映像が含まれ、人間の顔が時間とともに大きくなるような映像であれば、カメラに向かって人間が向かってきていると判断することが可能である。また例えば、取得したセンシングデータにカメラで撮像した映像が含まれ、人間の後頭部が時間とともに小さくなるような映像であれば、カメラから人間が向かってきていると判断することが可能である。
また特定のユーザのみを検出対象とするならば、例えば、単に人間の顔が時間とともに大きくなるような映像であるだけでなく、検出した顔がその検出対象のユーザの顔であるかどうで、その検出対象のユーザが接近しているかどうかを判断することが可能である。
上記ステップS112の判断の結果、ユーザが接近していないと判断した場合は(ステップS112、No)、被近接IoTデバイスは上記ステップS111のセンシングデータの取得処理に戻る。
一方、上記ステップS112の判断の結果、ユーザが接近していると判断した場合は(ステップS112、Yes)、続いて被近接IoTデバイスは、コンテキスト情報の保有元を発見し(ステップS113)、当該保有元からコンテキスト情報を取得するとともに、そのコンテキスト情報に対する解釈を実行する(ステップS114)。
以上、図4を用いて本開示の一実施形態に係る情報処理システム1における被近接IoTデバイスの動作例について説明した。なお、被近接IoTデバイスは、コンテキスト情報を近接IoTデバイスから直接受信するのではなく、クラウドサーバ10から受信するようにしても良い。
図5は、本開示の一実施形態に係る情報処理システム1の動作例であり、被近接IoTデバイス(例えば図2の情報処理装置100)の動作例を示す流れ図である。図5に示したのは、ユーザが被近接IoTデバイスから離脱していく場合の動作例である。以下、図5を用いて本開示の一実施形態に係る情報処理システム1における近接IoTデバイスの動作例について説明する。
被近接IoTデバイスは、センサ300からセンシングデータを取得し(ステップS121)、センサ300から取得したセンシングデータによって、ユーザが被近接IoTデバイスから離脱しているかどうかを判断する(ステップS122)。
上記ステップS122の判断の結果、ユーザが離脱していないと判断した場合は(ステップS122、No)、被近接IoTデバイスは上記ステップS121のセンシングデータの取得処理に戻る。
一方、上記ステップS122の判断の結果、ユーザが離脱したと判断した場合は(ステップS122、Yes)、続いて被近接IoTデバイスは、コンテキスト情報をクラウドサーバ10に保存する(ステップS123)。
以上、図5を用いて本開示の一実施形態に係る情報処理システム1における被近接IoTデバイスの動作例について説明した。
本開示の一実施形態に係る情報処理システム1を構成する各装置は、このように、ユーザの近接または離脱によってコンテキスト情報を送り合ったり、コンテキスト情報をクラウドサーバ10に保存したりする。
続いて本開示の一実施形態に係る情報処理システム1を構成する被近接IoTデバイスの動作の詳細について説明する。まず、クラウドサーバ10を介してコンテキスト情報をやり取りする場合の被近接IoTデバイスの動作例について説明する。
図6は、本開示の一実施形態に係る情報処理システム1を構成する被近接IoTデバイスの動作例を示す流れ図である。図6に示したのは、クラウドサーバ10を介してコンテキスト情報をやり取りする場合の、被近接IoTデバイスの動作例である。以下、図6を用いて本開示の一実施形態に係る情報処理システム1を構成する被近接IoTデバイスの動作例について説明する。
被近接IoTデバイスは、センサ300からセンシングデータを取得し(ステップS131)、センサ300から取得したセンシングデータによって、ユーザが接近してきているかどうかを判断する(ステップS132)。
上記ステップS132の判断の結果、ユーザが接近していないと判断した場合は(ステップS132、No)、被近接IoTデバイスは上記ステップS131のセンシングデータの取得処理に戻る。
一方、上記ステップS132の判断の結果、ユーザが接近していると判断した場合は(ステップS132、Yes)、続いて被近接IoTデバイスは、コンテキスト情報の保有元を発見し(ステップS133)、当該保有元からコンテキスト情報を取得するとともに、そのコンテキスト情報に対する解釈を実行する(ステップS134)。この際、被近接IoTデバイスは、コンテキスト情報をクラウドサーバ10から受信する。
被近接IoTデバイスは、近接IoTデバイスから取得したコンテキスト情報を用いて、ユーザの要求を処理する(ステップS135)。
その後、被近接IoTデバイスは、センサ300からセンシングデータを取得し(ステップS136)、センサ300から取得したセンシングデータによって、ユーザが被近接IoTデバイスから離脱しているかどうかを判断する(ステップS137)。
上記ステップS137の判断の結果、ユーザが離脱していないと判断した場合は(ステップS137、No)、被近接IoTデバイスは上記ステップS135のユーザの要求処理に戻る。
一方、上記ステップS137の判断の結果、ユーザが離脱したと判断した場合は(ステップS137、Yes)、続いて被近接IoTデバイスは、コンテキスト情報をクラウドサーバ10に保存する(ステップS138)。
被近接IoTデバイスは、図6に示した一連の処理の実行前にはスリープ状態になっていてもよい。そして被近接IoTデバイスは、ユーザの近接を検出すると、スリープ状態を解除して、通常の動作を行なうモードに移行する。
以上、図6を用いて本開示の一実施形態に係る情報処理システム1を構成する被近接IoTデバイスの動作例について説明した。被近接IoTデバイスは、図6に示したような一連の動作を実行することで、近接IoTデバイスとの間で、クラウドサーバ10を介してコンテキスト情報をやり取りすることができる。そして被近接IoTデバイスは、図6に示したような一連の動作を実行することで、近接IoTデバイスとの間で、クラウドサーバ10を介してコンテキスト情報を取得して、ユーザがそれまで行ってきていた対話処理を引き継いで、対話処理を継続することが出来る。
続いて、クラウドサーバ10を介さずに直接コンテキスト情報をやり取りする場合の被近接IoTデバイスの動作例について説明する。
図7は、本開示の一実施形態に係る情報処理システム1を構成する被近接IoTデバイスの動作例を示す流れ図である。図7に示したのは、クラウドサーバ10を介さずに直接コンテキスト情報をやり取りする場合の、被近接IoTデバイスの動作例である。以下、図7を用いて本開示の一実施形態に係る情報処理システム1を構成する被近接IoTデバイスの動作例について説明する。
被近接IoTデバイスは、センサ300からセンシングデータを取得し(ステップS141)、センサ300から取得したセンシングデータによって、ユーザが接近してきているかどうかを判断する(ステップS142)。
上記ステップS142の判断の結果、ユーザが接近していないと判断した場合は(ステップS142、No)、被近接IoTデバイスは上記ステップS141のセンシングデータの取得処理に戻る。
一方、上記ステップS142の判断の結果、ユーザが接近していると判断した場合は(ステップS142、Yes)、続いて被近接IoTデバイスは、コンテキスト情報の保有元を発見し(ステップS143)、当該保有元からコンテキスト情報を取得するとともに、そのコンテキスト情報に対する解釈を実行する(ステップS144)。
被近接IoTデバイスは、近接IoTデバイスから取得したコンテキスト情報を用いて、ユーザの要求を処理する(ステップS145)。
その後、被近接IoTデバイスは、センサ300からセンシングデータを取得し(ステップS146)、センサ300から取得したセンシングデータによって、ユーザが被近接IoTデバイスから離脱しているかどうかを判断する(ステップS147)。
上記ステップS147の判断の結果、ユーザが離脱していないと判断した場合は(ステップS147、No)、被近接IoTデバイスは上記ステップS145のユーザの要求処理に戻る。
一方、上記ステップS147の判断の結果、ユーザが離脱したと判断した場合は(ステップS147、Yes)、続いて被近接IoTデバイスは、コンテキスト情報の要求が他のIoTデバイスからあったかどうかを判断する(ステップS148)。
上記ステップS148の判断の結果、他のIoTデバイスからのコンテキスト情報の要求があれば(ステップS148、Yes)、被近接IoTデバイスは、そのコンテキスト情報の要求を送信したIoTデバイスへコンテキスト情報を送信する(ステップS149)。
一方、他のIoTデバイスからのコンテキスト情報の要求が無ければ(ステップS148、No)、被近接IoTデバイスは、センシングデータをセンサ300から取得して(ステップS150)、センサ300から取得したセンシングデータによって、一度離脱したユーザが再接近してきているかどうかを判断する(ステップS151)。
上記ステップS151の判断の結果、ユーザが再接近していないと判断した場合は(ステップS151、No)、被近接IoTデバイスは上記ステップS148のコンテキスト情報の要求の有無の判断処理に戻る。一方、上記ステップS151の判断の結果、ユーザが再接近してきたと判断した場合は(ステップS151、Yes)、被近接IoTデバイスは上記ステップS145のユーザの要求処理に戻り、後続の処理を実行する。
なお、被近接IoTデバイスは、ユーザの離脱を検出すると、通常の動作を行なうモードから、スリープ状態に移行してもよい。
以上、図7を用いて本開示の一実施形態に係る情報処理システム1を構成する被近接IoTデバイスの動作例について説明した。被近接IoTデバイスは、図7に示したような一連の動作を実行することで、近接IoTデバイスとの間で、クラウドサーバ10を介さなくても、コンテキスト情報をやり取りすることができる。そして被近接IoTデバイスは、図7に示したような一連の動作を実行することで、近接IoTデバイスとの間で、クラウドサーバ10を介さずに直接コンテキスト情報を取得して、ユーザがそれまで行ってきていた対話処理を引き継いで、対話処理を継続することが出来る。
このように、本開示の一実施形態に係る情報処理システム1は、IoTデバイスがユーザの近接を検知し、そのユーザの近接に基づいて、別のIoTデバイスに対してコンテキスト情報を要求する処理を実行することで、別のIoTデバイスからコンテキスト情報を取得することが出来る。
なお、近接IoTデバイスは、コンテキスト情報の要求は確かにあったが、コンテキスト情報の要求元が不明な場合、またはコンテキスト情報の要求元が複数存在する場合は、コンテキスト情報の要求元として候補となりうる1または2以上のIoTデバイスに対し、コンテキスト情報をブロードキャスト送信しても良い。候補となりうるIoTデバイスの決定方法としては、例えば、現在の位置から隣接、または近接するIoTデバイスの情報を取得し、その隣接、または近接するIoTデバイスをコンテキスト情報の要求元の候補として決定する方法などがある。
ここで、IoTデバイスによるユーザとの対話処理について説明する。IoTデバイスは、ユーザが対話処理を希望している、または対話を開始したと判断するために、例えば常時マイク入力を監視し、特定のキーワードに反応して「対話の開始」を検知してもよい。例えばIoTデバイスは、所定のキーワードが発話されると、音声によるコマンドの受け付けを開始するようにしてもよい。
なおIoTデバイスは、例えばセンサ300によってユーザの近接や存在を検知して、マイク入力の監視を始めるようにしてもよい。
本実施形態では、センサ300でユーザの近接を検知し、被近接IoTデバイスが近接IoTデバイスからコンテキスト情報を取得するようにしているが、本開示は係る例に限定されない。例えば、センサ300で近接IoTデバイスを使用するユーザの動きを検出し、そのユーザの動きに基づいてユーザの移動方向を検出する。そしてユーザの移動方向に基づいて、ユーザが次に近づく被近接IoTデバイスを近接IoTデバイスが選び出してもよい。そして近接IoTデバイスは、ユーザが次に近づく被近接IoTデバイスを選び出した後に情報を送付する。
またセンサ300から取得したセンシングデータに応じて、次にユーザが近くに現れるであろうIoTデバイスが特定できるようなルールを、各IoTデバイスに登録するようにしてもよい。例えばあるセンサがA、Bの順に人の接近を感知したら、次に近づくIoTデバイスはこのIoTデバイスである、というように対応関係が定義されたルールを、各IoTデバイスに登録するようにしてもよい。
また機械学習などを通じて、センサ300が人を感知した順序とIoTデバイスとを対応付けるルールを徐々に各IoTデバイスに習得させるようにしてもよい。例えば、ある順序でセンサが人の接近を検知するパターンだと、このIoTデバイスがその後に使用される可能性が高い、というようなルールを各IoTデバイスに習得させるようにしてもよい。
またこの他にも、各IoTデバイスのIPアドレス等の識別情報と実際の位置とを対応付けてリスト化しておき、センサが反応したらそのセンサの場所に対応した特定のIoTデバイスにコンテキスト情報を渡すようにしてもよい。
もっとも単純な方法として、ユーザが次に近づく被近接IoTデバイスを特定しないようにしてもよい。すなわち、IoTデバイスの設置者が、隣接するIoTデバイスを全て指定しておく。そして近接IoTデバイスは、それら全てのIoTデバイスにコンテキストを転送してもよい。
本実施形態に係る情報処理システムは、以下の様な場合において特に有益である。
例えば、リビングに置かれたあるIoTデバイス(例えばパーソナルコンピュータ)でビデオを見ていたユーザが、別の部屋に移動し、その部屋のIoTデバイスに対して「さっきのビデオの続きを見せて」と発話する場合である。この場合、その部屋のIoTデバイスは、ユーザの移動により、リビングに置かれたIoTデバイスからコンテキスト情報を取得し、ユーザのログオン処理を要すること無く、またユーザの発話の発話によって、コンテキスト情報を参照して、同じビデオを続きから再生することが出来る。
また例えば、料理番組をIoTデバイス(例えばテレビ)で見ていて、そのIoTデバイスに対して「レシピをダウンロード」と言う場合である。この場合、当該IoTデバイスはそのレシピをダウンロードする。そしてユーザがキッチンへ移動すると、ユーザの移動により、キッチンに置かれているIoTデバイス(例えばタブレット型端末)は、レシピをダウンロードしたIoTデバイスからコンテキスト情報を取得する。ユーザがキッチンに置かれているIoTデバイスに「さっきのレシピを出して」と発話すると、そのキッチンに置かれているIoTデバイスは、ユーザのログオン処理を要すること無く、コンテキスト情報の参照により、別のIoTデバイスがダウンロードしたレシピを表示することが出来る。
また例えば、あるユーザIDと、当該ユーザIDに対応するユーザの近親者(例えば父親、母親、兄弟等)のユーザIDを特定し、これらのユーザIDに紐づくコンテキスト情報を抽出し、それまでIoTデバイスに対して近親者が話していたことに基づく対話の継続なども可能になる。例えば、あるユーザが「さっきお父さんはどこの辺りに旅行に行きたいとか言っていた?」とIoTデバイスに対して問いかけると、問いかけられたIoTデバイスは、「お父さん」のユーザIDを特定し、そのユーザIDに紐付くコンテキスト情報から、旅行に関する内容を抽出し、回答を作成することが可能になる。
上述したように、被近接IoTデバイスは、近接IoTデバイスからコンテキスト情報を直接、または間接的に取得することが出来る。ここで、被近接IoTデバイスに実際にはユーザが接近しなかった、または被近接IoTデバイスで何らかのトラブルが発生した等のケースを考慮し、近接IoTデバイスはコンテキスト情報をしばらく保存してもよい。またコンテキスト情報の消失を避ける必要性が極めて高いのであれば、近接IoTデバイスは家庭内のサーバや、クラウドサーバなどにコンテキスト情報を保管するようにしてもよい。
もちろん、被近接IoTデバイスは、近接IoTデバイスからコンテキスト情報を取得した後に、コンテキスト情報をしばらく保持してもよい。
近接IoTデバイスから被近接IoTデバイスへと渡されるコンテキスト情報は、全てのデータが伝送されても良いが、量が膨大で、伝送が間に合わない等の場合は、被近接IoTデバイスが実行する処理に必要な量のみを近接IoTデバイスから被近接IoTデバイスへ伝送してもよい。
またコンテキスト情報が膨大で伝送が間に合わない場合は、近接IoTデバイスは、被近接IoTデバイスで対話処理を継続するのに必要な情報から先に伝送し、残りは被近接IoTデバイスで対話処理が再開された後にバックグラウンドで伝送するようにしてもよい。
例えば、コンテキスト情報に閲覧中のビデオデータ自体が含まれるような場合、つまり、コンテンツファイルの実体が近接IoTデバイスにしか存在しないような場合は、近接IoTデバイスから被近接IoTデバイスへコンテンツをストリーミング送信するようにしてもよい。
また例えば、処理自体(対話処理、演算処理、知識処理その他の処理)の一部だけを他のIoTデバイスに委託するようにしてもよい。すなわち、処理の主要部分はサーバ(もしくはユーザの最寄の端末)で動き続けるが、周辺のIoTデバイスと連携することでユーザに追従するようにしてもよい。このような委託により、伝達すべきコンテキスト情報を一部だけに限定できるようになる。以後、この方式を「分散エージェント方式」とも称する。
「分散エージェント方式」の場合は、委託先となるIoTデバイスや委託処理の処理期限を設定し、コンテキスト情報や委託処理がどのIoTデバイスで行うべきかを適切に設定することが望ましい。
近接IoTデバイスから被近接IoTデバイスへのコンテキスト情報の伝送が間に合わない場合や、コンテキスト情報の伝送に失敗する場合も考えられ得る。すなわち、近接IoTデバイスから被近接IoTデバイスへのコンテキスト情報の伝送の途中で、ユーザが被近接IoTデバイスに対して対話処理を開始してしまった場合などである。
近接IoTデバイスから被近接IoTデバイスへのコンテキスト情報の伝送が間に合わない場合や、コンテキスト情報の伝送に失敗する場合は、近接IoTデバイスや被近接IoTデバイスは、例えば以下の処理を行う。
例えば、近接IoTデバイスや被近接IoTデバイスは、コンテキスト情報の転送が終わるまでユーザを待たせてもよい。また可能であれば、被近接IoTデバイスは、伝送が完了した、部分的なコンテキスト情報のみを用いて対話処理を再開しつつ、残りのコンテキスト情報の転送をバックグラウンドで行ってもよい。また被近接IoTデバイスは、近接IoTデバイスからのコンテキスト情報の引き継ぎを諦め、被近接IoTデバイスがあらためてユーザに問いかけてもよい。
IoTデバイスとユーザとの対話が所定時間断絶する場合もあり得る。IoTデバイスとユーザとの対話が所定時間断絶した場合は、IoTデバイスは、初期状態に、すなわちコンテキスト情報が無い状態に戻っても良い。IoTデバイスは、初期状態に戻る際に、それまでのコンテキスト情報自体は保管しておき、いつでも再開できるようにしておいてもよい。すなわち、IoTデバイスは、コンテキスト情報自体を保管しておくことで、例えばユーザとの間で、「先週、検討した旅行の件だけど」「そういえば宿の検索途中でしたね」というような対話処理の再開を行うことが可能になる。
ユーザは、IoTデバイスとの間で連続的な対話をしたくないと考える場合があり得る。ユーザがIoTデバイスとの間で連続的な対話をしたくないと考える場合を考慮し、IoTデバイスは、これまでの対話処理をリセットするための特定キーワードを規定してもよい。例えば、ユーザが上記の特定キーワードを再度発声すると、IoTデバイスは、ユーザとの対話処理を開始する前の状態に戻してもよい。また、ユーザが「ところで・・・」というような切り替え専用のキーワードを発声すると、IoTデバイスは、ユーザとの対話処理を開始する前の状態に戻してもよい。
このように対話処理をリセットした場合、IoTデバイスは、それまでのコンテキスト情報自体は保管しておき、いつでも再開できるようにしておいてもよい。
被近接IoTデバイスは、近接IoTデバイスからコンテキスト情報を取得する際に、最初に取得する時は時間的に新しいコンテキスト情報を取得し、ユーザが時間を指定する内容を指示したら過去データを取得するようにしてもよい。例えば被近接IoTデバイスは、最初に取得する時は時間的に新しいコンテキスト情報を取得したが、ユーザが「1週間前」等の時間を指定する内容を指示すると、その指定された1週間前のコンテキスト情報を近接IoTデバイスやクラウドサーバ10から取得するようにしても良い。
上述した一連の処理は、被近接IoTデバイスが近接IoTデバイスからコンテキスト情報を取得する場合について示したものであるが、逆に、近接IoTデバイスから被近接IoTデバイスへコンテキスト情報を、いわゆるプッシュ送信する場合についても同様に上述した一連の処理の適用が可能である。
すなわち、近接IoTデバイスは、センサ300からのセンシングデータを受信して、センシングデータからユーザの移動方向を推測することで、ユーザが次に操作すると考えられる被近接IoTデバイスを決定し、その被近接IoTデバイスに対してコンテキスト情報を送信するようにしても良い。仮にその被近接IoTデバイスが動作を停止していれば、近接IoTデバイスは、被近接IoTデバイスを起動させるためのコマンドを送信してから、コンテキスト情報を送信するようにしても良い。
また、近接IoTデバイスが被近接IoTデバイスからコンテキスト情報を受信した後、さらにユーザの移動を検知した場合は、そのユーザの移動方向に位置すると考えられる別のIoTデバイスへ、受信したコンテキスト情報を送信してもよい。近接IoTデバイスは、受信したコンテキスト情報を別のIoTデバイスへ送信すると、被近接IoTデバイスから受信したコンテキスト情報を消去してもよい。
<2.ハードウェア構成例>
次に、図8を参照して、本開示の一実施形態にかかる情報処理装置100のハードウェア構成について説明する。図8は、本開示の実施形態にかかる情報処理装置100のハードウェア構成例を示すブロック図である。上記の各アルゴリズムは、例えば、図8に示す情報処理装置のハードウェア構成を用いて実行することが可能である。つまり、当該各アルゴリズムの処理は、コンピュータプログラムを用いて図8に示すハードウェアを制御することにより実現される。なお、このハードウェアの形態は任意であり、例えば、パーソナルコンピュータ、携帯電話、PHS、PDA等の携帯情報端末、ゲーム機、接触式又は非接触式のICチップ、接触式又は非接触式のICカード、スピーカ、テレビ、モニタ、ウェアラブル機器、又は種々の情報家電がこれに含まれる。但し、上記のPHSは、Personal Handy−phone Systemの略である。また、上記のPDAは、Personal Digital Assistantの略である。
図8に示すように、このハードウェアは、主に、CPU902と、ROM904と、RAM906と、ホストバス908と、ブリッジ910と、を有する。さらに、このハードウェアは、外部バス912と、インターフェース914と、入力部916と、出力部918と、記憶部920と、ドライブ922と、接続ポート924と、通信部926と、を有する。但し、上記のCPUは、Central Processing Unitの略である。また、上記のROMは、Read Only Memoryの略である。そして、上記のRAMは、Random Access Memoryの略である。
CPU902は、例えば、演算処理装置又は制御装置として機能し、ROM904、RAM906、記憶部920、又はリムーバブル記録媒体928に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。ROM904は、CPU902に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM906には、例えば、CPU902に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
これらの構成要素は、例えば、高速なデータ伝送が可能なホストバス908を介して相互に接続される。一方、ホストバス908は、例えば、ブリッジ910を介して比較的データ伝送速度が低速な外部バス912に接続される。また、入力部916としては、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等が用いられる。さらに、入力部916としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。
出力部918としては、例えば、CRT、LCD、PDP、又はELD等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。但し、上記のCRTは、Cathode Ray Tubeの略である。また、上記のLCDは、Liquid Crystal Displayの略である。そして、上記のPDPは、Plasma DisplayPanelの略である。さらに、上記のELDは、Electro−Luminescence Displayの略である。
記憶部920は、各種のデータを格納するための装置である。記憶部920としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。但し、上記のHDDは、Hard Disk Driveの略である。
ドライブ922は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体928に記録された情報を読み出し、又はリムーバブル記録媒体928に情報を書き込む装置である。リムーバブル記録媒体928は、例えば、DVDメディア、Blu−rayメディア、HD DVDメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体928は、例えば、非接触型ICチップを搭載したICカード、又は電子機器等であってもよい。但し、上記のICは、Integrated Circuitの略である。
接続ポート924は、例えば、USBポート、IEEE1394ポート、SCSI、RS−232Cポート、又は光オーディオ端子等のような外部接続機器930を接続するためのポートである。外部接続機器930は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。但し、上記のUSBは、Universal Serial Busの略である。また、上記のSCSIは、Small Computer System Interfaceの略である。
通信部926は、ネットワーク932に接続するための通信デバイスであり、例えば、有線又は無線LAN、Bluetooth(登録商標)、又はWUSB用の通信カード、光通信用のルータ、ADSL用のルータ、又は接触又は非接触通信用のデバイス等である。また、通信部926に接続されるネットワーク932は、有線又は無線により接続されたネットワークにより構成され、例えば、インターネット、家庭内LAN、赤外線通信、可視光通信、放送、又は衛星通信等である。但し、上記のLANは、Local Area Networkの略である。また、上記のWUSBは、Wireless USBの略である。そして、上記のADSLは、Asymmetric Digital Subscriber Lineの略である。
以上、情報処理装置100のハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。かかる構成は、実施する時々の技術レベルに応じて適宜変更されうる。
<3.まとめ>
以上説明したように本開示の一実施形態によれば、ユーザの近接を検知し、そのユーザの近接に基づいて、ユーザと他の装置との間の処理内容であるコンテキスト情報を他の装置から取得する、情報処理装置100が提供される。
本開示の一実施形態に係る情報処理装置100は、ユーザの近接に基づいて、コンテキスト情報を他の装置から取得することで、他の装置とユーザとの間で行われていた処理(対話処理)を引き継ぐことが可能になる。
また本開示の一実施形態によれば、ユーザの近接を検知した他の装置からのコンテキスト情報の要求に基づいて、その他の装置にコンテキスト情報を提供する情報処理装置200が提供される。
本開示の一実施形態に係る情報処理装置200は、ユーザの近接を検知した他の装置からのコンテキスト情報の要求に基づいて、その他の装置にコンテキスト情報を提供することで、自装置とユーザとの間で行われていた処理(対話処理)を他の装置へ引き継ぐことが可能になる。
本明細書の各装置が実行する処理における各ステップは、必ずしもシーケンス図またはフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、各装置が実行する処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、各装置に内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上述した各装置の構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供されることが可能である。また、機能ブロック図で示したそれぞれの機能ブロックをハードウェアで構成することで、一連の処理をハードウェアで実現することもできる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
情報処理装置であって、
ユーザの前記情報処理装置からの離脱を検出し、他の装置に向けて、それまで前記ユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を送信するよう制御する制御部を備える、情報処理装置。
(2)
前記制御部は、前記コンテキスト情報を前記他の装置へ直接送信するよう制御する、前記(1)に記載の情報処理装置。
(3)
前記制御部は、前記コンテキスト情報を、サーバ装置を介して前記他の装置へ送信するよう制御する、前記(1)に記載の情報処理装置。
(4)
前記制御部は、ユーザの前記情報処理装置からの移動方向を検出する、前記(1)〜(3)のいずれかに記載の情報処理装置。
(5)
前記制御部は、ユーザIDを用いて前記コンテキスト情報の保有元を検出して、前記コンテキスト情報を抽出する、前記(1)〜(4)のいずれかに記載の情報処理装置。
(6)
前記制御部は、前記ユーザIDに基づく前記コンテキスト情報を抽出する、前記(5)に記載の情報処理装置。
(7)
前記制御部は、前記ユーザIDとは異なる他のユーザIDに基づく前記コンテキスト情報を抽出する、前記(5)に記載の情報処理装置。
(8)
前記制御部は、センシングデータに基づいてユーザの挙動を検知して該ユーザの移動方向を検出する、前記(1)〜(7)のいずれかに記載の情報処理装置。
(9)
前記制御部は、撮像装置で撮像された画像を用いてユーザの挙動を検知して該ユーザの移動方向を検出する、前記(8)に記載の情報処理装置。
(10)
前記制御部は、一部の時間帯で発生した前記コンテキスト情報を送信するよう制御する、前記(1)〜(9)のいずれかに記載の情報処理装置。
(11)
前記制御部は、装置と、該装置の位置とが対応付けられた情報を用いて前記コンテキスト情報の送信先を決定する、前記(1)〜(10)のいずれかに記載の情報処理装置。
(12)
前記制御部は、前記コンテキスト情報の送信先を一意に決定できない場合は、可能性のある装置に向けて前記コンテキスト情報をブロードキャスト送信する、前記(1)〜(10)のいずれかに記載の情報処理装置。
(13)
前記コンテキスト情報は、ユーザによる音声入力に基づいた情報である、前記(1)〜(12)のいずれかに記載の情報処理装置。
(14)
情報処理装置であって、
ユーザの前記情報処理装置への近接を検出し、他の装置から、それまでユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を受信するよう制御する制御部を備える、情報処理装置。
(15)
前記制御部は、前記コンテキスト情報を、前記ユーザがそれまでやり取りしていた他の装置から直接受信するよう制御する、前記(14)に記載の情報処理装置。
(16)
前記制御部は、前記コンテキスト情報を、サーバ装置を介して前記ユーザがそれまでやり取りしていた他の装置から受信するよう制御する、前記(14)または(15)に記載の情報処理装置。
(17)
前記制御部は、センシングデータに基づいてユーザの挙動を検知して該ユーザの移動方向を検出する、前記(14)〜(16)のいずれかに記載の情報処理装置。
(18)
前記制御部は、撮像装置で撮像された画像を用いてユーザの挙動を検知して該ユーザの移動方向を検出する、前記(17)に記載の情報処理装置。
(19)
前記制御部は、一部の時間帯で発生した前記コンテキスト情報を受信するよう制御する、前記(14)〜(18)のいずれかに記載の情報処理装置。
(20)
前記制御部は、装置と、該装置の位置とが対応付けられた情報を用いて前記コンテキスト情報の受信元を決定する、前記(14)〜(19)のいずれかに記載の情報処理装置。
(21)
前記制御部は、さらにユーザの移動を検出すると、検出した移動方向にある他の装置に向けて前記コンテキスト情報の少なくとも一部を送信するよう制御する、前記(14)〜(20)のいずれかに記載の情報処理装置。
(22)
前記制御部は、ユーザとの間のやりとりの前に、ユーザの移動を検出すると、受信した前記コンテキスト情報を消去するよう制御する、前記(21)に記載の情報処理装置。
(23)
前記コンテキスト情報は、ユーザによる音声入力に基づいた情報である、前記(14)〜(22)のいずれかに記載の情報処理装置。
(24)
ユーザの情報処理装置からの離脱を検出し、他の装置に向けて、それまで前記ユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を送信するよう制御することを含む、情報処理方法。
(25)
ユーザの情報処理装置からの離脱を検出し、他の装置に向けて、それまで前記ユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を送信するよう制御することをコンピュータに実行させる、コンピュータプログラム。
(26)
ユーザの情報処理装置への近接を検出し、他の装置から、それまでユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を受信するよう制御することを含む、情報処理方法。
(27)
ユーザの情報処理装置への近接を検出し、他の装置から、それまでユーザとの間でやり取りされていたコンテキスト情報の少なくとも一部を受信するよう制御することをコンピュータに実行させる、コンピュータプログラム。
100、200 情報処理装置
110 制御部
120 検出部
130 コンテキスト情報管理部
300 センサ
400a、400b 入出力デバイス

Claims (25)

  1. 情報処理装置であって、
    ユーザの前記情報処理装置からの離脱を検出し、他の装置に向けて、前記ユーザの操作に応じて入出力されたコンテキスト情報の少なくとも一部を送信するよう制御する制御部を備え
    前記制御部は、
    ユーザIDを用いて前記コンテキスト情報の保有元を検出して、前記コンテキスト情報を抽出するとともに、前記ユーザIDとは異なる他のユーザIDに基づく前記コンテキスト情報を抽出する、情報処理装置。
  2. 前記制御部は、前記コンテキスト情報を前記他の装置へ直接送信するよう制御する、請求項1に記載の情報処理装置。
  3. 前記制御部は、前記コンテキスト情報を、サーバ装置を介して前記他の装置へ送信するよう制御する、請求項1に記載の情報処理装置。
  4. 前記制御部は、ユーザの前記情報処理装置からの移動方向を検出する、請求項1に記載の情報処理装置。
  5. 前記制御部は、前記ユーザIDに基づく前記コンテキスト情報を抽出する、請求項に記載の情報処理装置。
  6. 前記制御部は、センシングデータに基づいてユーザの挙動を検知して該ユーザの移動方向を検出する、請求項1〜のいずれかに記載の情報処理装置。
  7. 前記制御部は、撮像装置で撮像された画像を用いてユーザの挙動を検知して該ユーザの移動方向を検出する、請求項に記載の情報処理装置。
  8. 前記制御部は、一部の時間帯で発生した前記コンテキスト情報を送信するよう制御する、請求項1〜のいずれかに記載の情報処理装置。
  9. 前記制御部は、装置と、該装置の位置とが対応付けられた情報を用いて前記コンテキスト情報の送信先を決定する、請求項1〜のいずれかに記載の情報処理装置。
  10. 前記制御部は、前記コンテキスト情報の送信先を一意に決定できない場合は、可能性のある装置に向けて前記コンテキスト情報をブロードキャスト送信する、請求項1〜のいずれかに記載の情報処理装置。
  11. 前記コンテキスト情報は、ユーザによる音声入力に基づいた情報である、請求項1〜1のいずれかに記載の情報処理装置。
  12. 情報処理装置であって、
    ユーザの前記情報処理装置への近接を検出し、他の装置から、前記ユーザの操作に応じて入出力されたコンテキスト情報の少なくとも一部を受信するよう制御する制御部を備え
    前記制御部は、
    ユーザIDを用いて前記コンテキスト情報の保有元を検出して、前記コンテキスト情報を抽出するとともに、前記ユーザIDとは異なる他のユーザIDに基づく前記コンテキスト情報を抽出する、情報処理装置。
  13. 前記制御部は、前記コンテキスト情報を、前記ユーザがそれまでやり取りしていた他の装置から直接受信するよう制御する、請求項1に記載の情報処理装置。
  14. 前記制御部は、前記コンテキスト情報を、サーバ装置を介して前記ユーザがそれまでやり取りしていた他の装置から受信するよう制御する、請求項1または1に記載の情報処理装置。
  15. 前記制御部は、センシングデータに基づいてユーザの挙動を検知して該ユーザの移動方向を検出する、請求項1〜1のいずれかに記載の情報処理装置。
  16. 前記制御部は、撮像装置で撮像された画像を用いてユーザの挙動を検知して該ユーザの移動方向を検出する、請求項1に記載の情報処理装置。
  17. 前記制御部は、一部の時間帯で発生した前記コンテキスト情報を受信するよう制御する、請求項1〜1のいずれかに記載の情報処理装置。
  18. 前記制御部は、装置と、該装置の位置とが対応付けられた情報を用いて前記コンテキスト情報の受信元を決定する、請求項1〜1のいずれかに記載の情報処理装置。
  19. 前記制御部は、さらにユーザの移動を検出すると、検出した移動方向にある他の装置に向けて前記コンテキスト情報の少なくとも一部を送信するよう制御する、請求項118のいずれかに記載の情報処理装置。
  20. 前記制御部は、ユーザとの間のやりとりの前に、ユーザの移動を検出すると、受信した前記コンテキスト情報を消去するよう制御する、請求項19に記載の情報処理装置。
  21. 前記コンテキスト情報は、ユーザによる音声入力に基づいた情報である、請求項1〜2のいずれかに記載の情報処理装置。
  22. ユーザの情報処理装置からの離脱を検出し、他の装置に向けて、前記ユーザの操作に応じて入出力されたコンテキスト情報の少なくとも一部を送信するよう制御することと、
    ユーザIDを用いて前記コンテキスト情報の保有元を検出して、前記コンテキスト情報を抽出するとともに、前記ユーザIDとは異なる他のユーザIDに基づく前記コンテキスト情報を抽出することと、を含む、情報処理方法。
  23. ユーザの情報処理装置からの離脱を検出し、他の装置に向けて、前記ユーザの操作に応じて入出力されたコンテキスト情報の少なくとも一部を送信するよう制御することと、
    ユーザIDを用いて前記コンテキスト情報の保有元を検出して、前記コンテキスト情報を抽出するとともに、前記ユーザIDとは異なる他のユーザIDに基づく前記コンテキスト情報を抽出することと、をコンピュータに実行させる、コンピュータプログラム。
  24. ユーザの情報処理装置への近接を検出し、他の装置から、前記ユーザの操作に応じて入出力されたコンテキスト情報の少なくとも一部を受信するよう制御することと、
    ユーザIDを用いて前記コンテキスト情報の保有元を検出して、前記コンテキスト情報を抽出するとともに、前記ユーザIDとは異なる他のユーザIDに基づく前記コンテキスト情報を抽出することと、を含む、情報処理方法。
  25. ユーザの情報処理装置への近接を検出し、他の装置から、前記ユーザの操作に応じて入出力されたコンテキスト情報の少なくとも一部を受信するよう制御することと、
    ユーザIDを用いて前記コンテキスト情報の保有元を検出して、前記コンテキスト情報を抽出するとともに、前記ユーザIDとは異なる他のユーザIDに基づく前記コンテキスト情報を抽出することと、をコンピュータに実行させる、コンピュータプログラム。
JP2016556426A 2014-10-27 2015-09-09 情報処理装置、情報処理方法およびコンピュータプログラム Expired - Fee Related JP6645438B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014218111 2014-10-27
JP2014218111 2014-10-27
PCT/JP2015/075629 WO2016067765A1 (ja) 2014-10-27 2015-09-09 情報処理装置、情報処理方法およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JPWO2016067765A1 JPWO2016067765A1 (ja) 2017-08-31
JP6645438B2 true JP6645438B2 (ja) 2020-02-14

Family

ID=55857111

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016556426A Expired - Fee Related JP6645438B2 (ja) 2014-10-27 2015-09-09 情報処理装置、情報処理方法およびコンピュータプログラム

Country Status (5)

Country Link
US (1) US9936355B2 (ja)
EP (1) EP3214555B1 (ja)
JP (1) JP6645438B2 (ja)
CN (1) CN106796570B (ja)
WO (1) WO2016067765A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017215639A (ja) * 2016-05-30 2017-12-07 シャープ株式会社 ネットワークシステム、音声出力方法、サーバおよび電気機器
US20190253519A1 (en) * 2016-06-23 2019-08-15 Koninklijke Philips N.V. Method, apparatus and machine readable medium for measuring user availability or receptiveness to notifications
US10009666B1 (en) 2017-05-16 2018-06-26 Google Llc Cross-device handoffs
JP2019040468A (ja) * 2017-08-25 2019-03-14 富士ゼロックス株式会社 情報処理装置及びプログラム
US10877781B2 (en) * 2018-07-25 2020-12-29 Sony Corporation Information processing apparatus and information processing method
US20210295836A1 (en) * 2018-07-31 2021-09-23 Sony Corporation Information processing apparatus, information processing method, and program
EP3848788A4 (en) 2018-09-07 2021-11-10 Sony Group Corporation TERMINAL DEVICE AS WELL AS THE MANUFACTURING PROCESS OF THE SAME, AND RECORDING MEDIA
JP7180330B2 (ja) * 2018-11-30 2022-11-30 株式会社リコー 情報処理システム、情報処理装置、および方法
US11568239B2 (en) * 2019-08-13 2023-01-31 Lg Electronics Inc. Artificial intelligence server and method for providing information to user
EP4359924A1 (en) * 2021-06-22 2024-05-01 Telefonaktiebolaget LM Ericsson (publ) Providing a communication service through i/o devices to a user

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003158664A (ja) 2001-11-21 2003-05-30 Matsushita Electric Ind Co Ltd カメラ制御装置
SE519854C2 (sv) * 2002-02-15 2003-04-15 Hotsip Ab Ett förfarande för att distribuera information
JP3698716B2 (ja) * 2003-02-25 2005-09-21 松下電器産業株式会社 アプリケーションプログラムの予測方法及び移動体端末
WO2004077291A1 (ja) * 2003-02-25 2004-09-10 Matsushita Electric Industrial Co., Ltd. アプリケーションプログラムの予測方法及び移動体端末
JP4817814B2 (ja) * 2004-11-19 2011-11-16 富士通株式会社 アプリケーション状態情報転送システム
JP2007074710A (ja) * 2005-08-12 2007-03-22 Mitsubishi Materials Corp オーディオ・ビジュアルデータ通信システム、オーディオ・ビジュアルデータ通信方法、オーディオ・ビジュアルデータ通信プログラム及びオーディオ・ビジュアルデータ通信システム用の鑑賞空間切替装置
US8269834B2 (en) * 2007-01-12 2012-09-18 International Business Machines Corporation Warning a user about adverse behaviors of others within an environment based on a 3D captured image stream
JP2010205111A (ja) * 2009-03-05 2010-09-16 Nippon Telegr & Teleph Corp <Ntt> コンテキスト再現システム、コンテキスト再現方法、第1端末装置、第2端末装置、コンテキスト取得装置、または蓄積装置、それらのプログラム
WO2011085073A1 (en) 2010-01-06 2011-07-14 Interdigital Patent Holdings, Inc. Method and apparatus for assisted/coordinated intra-home communications
US8880051B2 (en) * 2012-11-16 2014-11-04 Intel Corporation Automatic seamless context sharing across multiple devices
JP5356615B1 (ja) * 2013-02-01 2013-12-04 パナソニック株式会社 顧客行動分析装置、顧客行動分析システムおよび顧客行動分析方法

Also Published As

Publication number Publication date
WO2016067765A1 (ja) 2016-05-06
EP3214555B1 (en) 2019-12-25
EP3214555A1 (en) 2017-09-06
CN106796570A (zh) 2017-05-31
EP3214555A4 (en) 2018-05-16
US20170238144A1 (en) 2017-08-17
CN106796570B (zh) 2020-10-09
JPWO2016067765A1 (ja) 2017-08-31
US9936355B2 (en) 2018-04-03

Similar Documents

Publication Publication Date Title
JP6645438B2 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
US11212486B1 (en) Location based device grouping with voice control
US10623835B2 (en) Information processing apparatus, information processing method, and program
US20200349940A1 (en) Server for determining target device based on speech input of user and controlling target device, and operation method of the server
US11514917B2 (en) Method, device, and system of selectively using multiple voice data receiving devices for intelligent service
US20210043189A1 (en) Method and system for performing voice command
US10861449B2 (en) Information processing device and information processing method
CN113095799B (zh) 社交提醒
US9431021B1 (en) Device grouping for audio based interactivity
CN112740626B (zh) 用于通过使多个电子装置协同工作来提供通知的方法和设备
US20180233142A1 (en) Multi-user intelligent assistance
US11031008B2 (en) Terminal device and method for controlling thereof
US10623199B2 (en) Outputting audio based on user location
JP2017144521A (ja) 情報処理装置、情報処理方法、及びプログラム
WO2016160211A1 (en) Technologies for a seamless data streaming experience
KR20150086332A (ko) 디바이스 구성, 상호 작용 및 제어를 위한 통합된 프레임워크, 및 연관된 방법, 디바이스 및 시스템
US20210224066A1 (en) Information processing device and information processing method
JP7036561B2 (ja) 家電システム
JP2021096270A (ja) 情報処理装置および情報処理方法
JP2018101197A (ja) サーバ、情報処理方法、ネットワークシステム、および端末
WO2019183894A1 (zh) 一种设备间的数据迁移的方法和设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180730

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180730

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190910

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191223

R151 Written notification of patent or utility model registration

Ref document number: 6645438

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees