JP6228998B2 - 通信システム及びプログラム - Google Patents

通信システム及びプログラム Download PDF

Info

Publication number
JP6228998B2
JP6228998B2 JP2016048730A JP2016048730A JP6228998B2 JP 6228998 B2 JP6228998 B2 JP 6228998B2 JP 2016048730 A JP2016048730 A JP 2016048730A JP 2016048730 A JP2016048730 A JP 2016048730A JP 6228998 B2 JP6228998 B2 JP 6228998B2
Authority
JP
Japan
Prior art keywords
communication terminal
connection
unit
call
answer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016048730A
Other languages
English (en)
Other versions
JP2017163492A (ja
Inventor
信亮 熊井
信亮 熊井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SoftBank Corp
Original Assignee
SoftBank Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SoftBank Corp filed Critical SoftBank Corp
Priority to JP2016048730A priority Critical patent/JP6228998B2/ja
Publication of JP2017163492A publication Critical patent/JP2017163492A/ja
Application granted granted Critical
Publication of JP6228998B2 publication Critical patent/JP6228998B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Telephonic Communication Services (AREA)

Description

本発明は、通信システム及びプログラムに関する。
使用者が音声入力した質問に対して、回答を音声出力する音声対話サービスが知られていた(例えば、特許文献1参照)。
[先行技術文献]
[特許文献]
[特許文献1]特開2015−069103号公報
携帯電話を使用した通話中にも音声対話サービスを使用できることが望ましい。
本発明の第1の態様によれば、第1通信端末が備えるコンピュータを、第2通信端末からの通話要求を受信する通話要求受信部、通話要求受信部が通話要求を受信した場合に、第1通信端末と第2通信端末との接続を確立する第1接続確立部、第1接続確立部が接続を確立した場合に、情報提供システムとの接続を確立する第2接続確立部、第1接続確立部が確立した接続を介する通話中に、第2接続確立部が確立した接続を介して、第1通信端末が備えるマイクに入力された音声を情報提供システムに送信する音声送信部、第2接続確立部が確立した接続を介して、音声の内容に対して情報提供システムによって生成された回答を受信する回答受信部、及び回答受信部が受信した回答を出力させる回答出力制御部として機能させるためのプログラムが提供される。
上記プログラムは、上記コンピュータを、上記第1接続確立部が上記接続を確立した場合に、上記情報提供システムとの接続を確立するか否かを選択する確立選択部としてさらに機能させてよく、上記第2接続確立部は、上記確立選択部によって確立することが選択されている場合に、上記情報提供システムとの接続を確立してよい。
本発明の第2の態様によれば、第1通信端末が備えるコンピュータを、第2通信端末への通話要求を送信する通話要求送信部、通話要求送信部が送信した通話要求に対して第2通信端末が応答した場合に、第1通信端末と第2通信端末との接続を確立する第1接続確立部、通話要求送信部が通話要求を送信した場合、又は第1接続確立部が接続を確立した場合に、情報提供システムとの接続を確立する第2接続確立部、第1接続確立部が確立した接続を介する通話中に、第2接続確立部が確立した接続を介して、第1通信端末が備えるマイクに入力された音声を情報提供システムに送信する音声送信部、第2接続確立部が確立した接続を介して、音声の内容に対して情報提供システムによって生成された回答を受信する回答受信部、及び回答受信部が受信した回答を出力させる回答出力制御部として機能させるためのプログラムが提供される。
上記プログラムは、上記コンピュータを、上記通話要求送信部が上記通話要求を送信した場合、上記第1接続確立部が上記接続を確立した場合に、上記情報提供システムとの接続を確立するか否かを選択する確立選択部としてさらに機能させてよく、上記第2接続確立部は、上記確立選択部によって確立することが選択されている場合に、上記情報提供システムとの接続を確立してよい。
上記第2接続確立部は、電話網に接続された上記情報提供システムと上記第1通信端末との呼接続を確立してよい。上記第2接続確立部は、上記第1通信端末と、上記第2通信端末と、上記情報提供システムとのグループ通話接続を確立してよい。上記接続確立部は、インターネットに接続された上記情報提供システムと上記第1通信端末との通信接続を確立してよい。上記プログラムは、上記コンピュータを、上記情報提供システムに上記第2通信端末との接続を確立させるべく、上記情報提供システムに上記通信端末の情報を送信する端末情報送信部としてさらに機能させてよい。上記プログラムは、上記コンピュータを、上記回答受信部が受信した上記回答を上記第2通信端末に音声出力させるべく、上記回答を上記第2通信端末に送信する端末出力制御部としてさらに機能させてよい。上記情報提供システムは、上記第1通信端末にインストールされている情報提供アプリケーションであってよい。上記第1通信端末は、通話用の第1スピーカと、第2スピーカとを備えてよく、上記回答出力制御部は、上記回答を上記第1スピーカに音声出力させてよい。
本発明の第3の態様によれば、情報提供装置が備えるコンピュータを、第1通信端末と第2通信端末との間に確立された接続を介する通話中に、上記第1通信端末と上記情報提供装置との間に確立された接続を介して、上記第1通信端末が備えるマイクに入力された音声を受信する音声受信部、上記音声の内容に対する回答を生成する回答生成部、上記第1通信端末に上記回答を出力させること、及び上記第1通信端末から上記第2通信端末に上記回答を転送することを示す命令を生成する命令生成部、及び上記第1通信端末と上記情報提供装置との間に確立された上記接続を介して、上記第1通信端末に上記回答及び上記命令を送信する回答送信部として機能させるためのプログラムが提供される。
本発明の第4の態様によれば、情報提供装置が備えるコンピュータを、第1通信端末と第2通信端末との間に確立された接続を介する通話中に、上記第1通信端末と上記情報提供装置との間に確立された接続を介して、上記第1通信端末が備えるマイクに入力された音声を受信する音声受信部、上記音声の内容に対する回答を生成する回答生成部、上記第2通信端末と上記情報提供装置との間の接続を確立する接続確立部、及び上記第1通信端末と上記情報提供装置との間に確立された上記接続を介して上記第1通信端末に上記回答を送信し、上記第2通信端末と上記情報提供装置との間に確立された上記接続を介して上記第2通信端末に上記回答を送信する回答送信部として機能させるためのプログラムが提供される。
上記プログラムは、上記コンピュータを、上記第2通信端末と接続を確立するための情報を上記第1通信端末から受信する端末情報受信部としてさらに機能させてよく、上記接続確立部は、上記端末情報受信部が受信した情報を用いて上記第2通信端末と接続を確立してよい。上記プログラムは、上記コンピュータを、上記第1通信端末と呼接続を確立する呼接続確立部としてさらに機能させてよく、上記音声受信部は、上記呼接続確立部によって確立された上記呼接続を介して、上記第1通信端末が備えるマイクに入力された音声を上記第1通信端末から受信してよく、上記回答送信部は、上記呼接続確立部によって確立された上記呼接続を介して、上記音声の内容に対する上記回答を上記第1通信端末に送信してよい。
本発明の第5の態様によれば、通話中継装置及び情報提供装置を備える通信システムであって、上記通話中継装置は、第1通信端末と第2通信端末との間の通話を中継し、上記情報提供装置は、上記第1通信端末と上記第2通信端末との間の通話中に、上記第1通信端末と上記情報提供装置との間に確立された接続を介して、上記第1通信端末が備えるマイクに入力された音声を受信する音声受信部と、上記音声の内容に対する回答を生成する回答生成部と、上記第1通信端末に上記回答を出力させること、及び上記第1通信端末から上記通信端末に上記回答を転送することを示す命令を生成する命令生成部と、上記第1通信端末と上記情報提供装置との間に確立された上記接続を介して、上記第1通信端末に上記回答及び上記命令を送信する回答送信部とを有する、通信システムが提供される。
本発明の第6の態様によれば、通話中継装置及び情報提供装置を備える通信システムであって、上記通話中継装置は、第1通信端末と第2通信端末との間の通話を中継し、上記情報提供装置は、上記第1通信端末と上記第2通信端末との間に確立された接続を介する通話中に、上記第1通信端末と上記情報提供装置との間に確立された接続を介して、上記第1通信端末が備えるマイクに入力された音声を受信する音声受信部と、上記音声の内容に対する回答を生成する回答生成部と、上記第2通信端末と上記情報提供装置との間の接続を確立する接続確立部と、上記第1通信端末と上記情報提供装置との間に確立された上記接続を介して上記第1通信端末に上記回答を送信し、上記第2通信端末と上記情報提供装置との間に確立された上記接続を介して上記第2通信端末に上記回答を送信する回答送信部とを有する、通信システムが提供される。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
通信システム10の一例を概略的に示す。 通信システム10による処理の流れの一例を概略的に示す。 通信システム10による処理の流れの一例を概略的に示す。 通信システム10による処理の流れの一例を概略的に示す。 通信システム10による処理の流れの一例を概略的に示す。 携帯電話300の機能構成の一例を概略的に示す。 人工知能サーバ200の機能構成の一例を概略的に示す。 携帯電話300による着信時の表示例500を概略的に示す。 携帯電話300による発信用の表示例510を概略的に示す。 携帯電話300として機能するコンピュータ900のハードウエア構成の一例を概略的に示す。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
図1は、通信システム10の一例を概略的に示す。通信システム10は、ネットワーク20に接続された通話中継装置100及び人工知能サーバ200を備える。ネットワーク20は、電話網及びインターネットを含んでよい。
通話中継装置100は、携帯電話300と携帯電話400との間の通話を中継する。通話中継装置100は、例えば、交換機及びSIP(Session Initiation Protocol)サーバ等である。通話中継装置100は、携帯電話300と携帯電話400との通話を中継することができれば、他の装置であってもよい。例えば、通話中継装置100は、LINE(登録商標)、Skype(登録商標)、カカオトーク(登録商標)、Viber(登録商標)、及びTango等のアプリにおける通話サービスを提供するサーバであってもよい。
携帯電話300は、ユーザ30によって使用される。携帯電話300は、マイク302、スピーカ304、スピーカ306、及びディスプレイ308を備える。スピーカ304は、通話用のスピーカであってよい。スピーカ306は、スピーカ304よりも遠距離に音声を伝搬するためのスピーカであってよく、例えば、アプリ等による音声を出力するためのスピーカである。
携帯電話400は、ユーザ40によって使用される。携帯電話400は、マイク402、スピーカ404、スピーカ406、及びディスプレイ408を備える。スピーカ404は、通話用のスピーカであってよい。スピーカ406は、スピーカ404よりも遠距離に音声を伝搬するためのスピーカであってよく、例えば、アプリ等による音声を出力するためのスピーカである。
携帯電話300は、第1通信端末の一例であってよい。携帯電話400は、第2通信端末の一例であってよい。なお、ここでは、第1通信端末及び第2通信端末の一例として、携帯電話300及び携帯電話400を挙げて説明するが、これに限らない。第1通信端末及び第2通信端末は、何らかの通話接続を確立することができればどのような端末であってもよく、例えば、タブレット端末、PC(Personal Computer)、固定電話機、及びIP(Internet Protocol)電話機等である。
人工知能サーバ200は、携帯電話300から、マイク302に入力されたユーザ30の音声を受信して、音声の内容に対する各種情報を携帯電話300に提供する。人工知能サーバ200は、ユーザ30のスケジュール及び業務に関する情報等の任意の情報を携帯電話300に提供してよい。例えば、人工知能サーバ200は、ユーザ40と通話中のユーザ30が、人工知能サーバ200に対してスケジュールを確認する発声をした場合に、ユーザ30のスケジュールを携帯電話300に送信して、スピーカ304から出力させる。これにより、ユーザ30は、通話の最中に、隣の人に話しかけるような感覚で、各種情報を取得することができる。人工知能サーバ200は、情報提供システムの一例であってよい。
人工知能サーバ200は、音声認識機能及び意図汲取り機能等、問い合わせの内容を把握するための機能を備えてよい。人工知能サーバ200は、クラウド上の音声認識サービス及び意図汲取りサービス等と連携することによってこれらの機能を実現してもよい。人工知能サーバ200は、携帯電話300にインストールされている音声認識アプリ及び意図汲取りアプリと連携することによってこれらの機能を実現してもよい。
人工知能サーバ200は、スケジュール管理機能及び業務管理機能等、携帯電話300に提供する情報を管理する機能を備えてよい。人工知能サーバ200は、クラウド上のスケジュール管理サービス及び業務管理サービス等と連携することによってこれらの機能を実現してもよい。人工知能サーバ200は、携帯電話300にインストールされているスケジュール管理アプリ及び業務管理アプリ等と連携することによってこれらの機能を実現してもよい。
人工知能サーバ200は、音声合成機能及び携帯電話300の表示を制御する表示制御機能等、問い合わせに対する回答を携帯電話300に出力させるための機能を備えてよい。人工知能サーバ200は、クラウド上の音声合成サービス及び表示制御サービス等と連携することによってこれらの機能を実現してもよい。人工知能サーバ200は、携帯電話300にインストールされている音声合成アプリ及び表示制御アプリと連携することによってこれらの機能を実現してもよい。
図2は、通信システム10による処理の流れの一例を概略的に示す。ここでは、携帯電話300が携帯電話400からの通話要求を受信して携帯電話400との通話を確立する場合に、人工知能サーバ200によって提供されるサービス(アシストサービスと記載する場合がある。)を利用する流れの一例を示す。
ステップ(ステップをSと省略して記載する場合がある。)202では、携帯電話400が、携帯電話300に対する通話要求を通話中継装置100に送信する。S204では、通話中継装置100が、通話要求を携帯電話300に送信する。S206では、携帯電話300が通話要求に応答することによって、携帯電話300と携帯電話400との通話接続が確立する。
S208では、携帯電話300が、人工知能サーバ200との接続を確立する。携帯電話300は、人工知能サーバ200がインターネットに接続されている場合、インターネットを介して人工知能サーバ200に接続要求を送信することによって、人工知能サーバ200との接続を確立してよい。携帯電話300は、人工知能サーバ200が電話網に接続されている場合、人工知能サーバ200に対する通話要求を通話中継装置100に送信することによって、人工知能サーバ200との呼接続を確立してよい。
S210では、S206で確立された携帯電話300と携帯電話400との間の接続を介して、ユーザ30とユーザ40とが通話をする。携帯電話300は、通話中に、携帯電話300のマイク302に入力された音声を、S208で確立された接続を介して人工知能サーバ200に送信する。
携帯電話300は、例えば、通話中にマイク302に入力されたすべての音声を人工知能サーバ200に送信する。人工知能サーバ200は、携帯電話300から受信する音声の内容に人工知能サーバ200への問合せが含まれているかを確認する。例えば、人工知能サーバ200は、携帯電話300から受信する音声が予め定められた問合せ開始を示すキーワードと一致するかを判定し、一致すると判定した場合に、当該音声以降の音声を問合せとして取得する。具体例として、キーワードが「ねぇ、ワトソン」であり、携帯電話300から受信した音声が「ねぇ、ワトソン。明日の14時って予定空いてた?」だった場合、人工知能サーバ200は「明日の14時って予定空いてた」の部分を問合せとして取得する。
人工知能サーバ200は、携帯電話300から受信する音声とキーワードとの一致を、音響照合及び音声認識の少なくともいずれかによって実現してよい。例えば、人工知能サーバ200は、キーワードの音響データを格納しておき、当該音響データと、携帯電話300から受信する音声との一致度が予め定められた閾値より大きい場合に、一致したと判定する。また、例えば、人工知能サーバ200は、携帯電話300から受信した音声を音声認識してテキスト化し、当該テキストと、キーワードのテキストとの一致度が予め定められた閾値より大きい場合に、一致したと判定する。
また、例えば、人工知能サーバ200は、「ねぇ」の音響データを格納しておき、当該音響データと、携帯電話300から受信した音声との一致度が予め定められた閾値より大きい場合に、当該音声以降の音声を音声認識してテキスト化し、当該テキストと、「ワトソン」のテキストとの一致度が予め定められた閾値より大きい場合に、一致したと判定する。このように、人工知能サーバ200は、キーワードの一部の音響照合と、他の一部の音声認識とを組み合わせて、受信する音声とキーワードとの一致を判定してもよい。なお、キーワードとしては、任意の言葉が登録可能であってよい。
携帯電話300は、通話中にマイク302に入力された全ての音声ではなく、人工知能サーバ200への問合せの音声のみを人工知能サーバ200に送信してもよい。例えば、携帯電話300は、マイク302に入力された音声が予め定められた問合せ開始を示すキーワードと一致した場合、当該音声以降の音声を問合せとして取得して、人工知能サーバ200に送信する。携帯電話300は、上述の人工知能サーバ200と同様、マイク302に入力された音声とキーワードとの一致を、音響照合及び音声認識の少なくともいずれかによって実現してよい。
また、携帯電話300と人工知能サーバ200とが協働して、マイク302に入力される音声とキーワードとの一致を判定してもよい。例えば、携帯電話300は、「ねぇ」の音響データを格納しておき、当該音響データと、マイク302に入力される音声との一致度が予め定められた閾値より大きい場合に、当該音声以降の音声を人工知能サーバ200に送信する。人工知能サーバ200は、携帯電話300から受信した音声を音声認識してテキスト化し、当該テキストと、「ワトソン」のテキストとの一致度が予め定められた閾値より大きい場合に、一致したと判定する。
S212では、人工知能サーバ200が、ユーザ30からの問合せを取得する。S214では、人工知能サーバ200が、S212で取得した問合せに対する回答を生成して、当該回答を、S208で確立された接続を介して携帯電話300に送信する。人工知能サーバ200による問合せの取得及び回答の送信は、S210で確立した通話が終了するまで継続されてよい。
人工知能サーバ200は、問合せ開始を示すキーワードが入力されてから、問合せ終了を示すキーワードが入力されるまでの間に入力された音声を問合せとして取得して、当該問合せに対する回答を携帯電話300に送信してよい。問合せ終了を示すキーワードは、例えば、「OK、ありがとうワトソン」等の任意の言葉であってよい。なお、人工知能サーバ200は、問合せ開始を示すキーワードが入力されてから、一の問合せのみを取得して、回答を携帯電話300に送信してもよい。
上述のアシストサービスを利用するか否かが、着信時にユーザ30によって指示されてもよい。例えば、携帯電話300は、着信画面上に、アシストサービスを利用しつつ通話をするための応答ボタンと通常の応答ボタンとを表示して、前者の応答ボタンが選択された場合に、アシストサービスを利用する。また、アシストサービスを利用するか否かは、予め設定されていてもよい。例えば、ユーザ30は、携帯電話300の電話帳に登録されている登録者毎に、アシストサービスを利用するか否かを設定してよい。
図3は、通信システム10による処理の流れの一例を概略的に示す。ここでは、携帯電話300が携帯電話400に対する通話要求を送信して携帯電話400との通話を確立する場合に、アシストサービスを利用する流れの一例を示す。
S302では、携帯電話300が、携帯電話400に対する通話要求を通話中継装置100に送信する。S304では、通話中継装置100が、通話要求を携帯電話400に送信する。S306では、携帯電話400が通話要求に応答することによって、携帯電話300と携帯電話400との通話接続が確立する。
S308では、携帯電話300が、人工知能サーバ200との接続を確立する。携帯電話300は、人工知能サーバ200がインターネットに接続されている場合、インターネットを介して人工知能サーバ200に接続要求を送信することによって、人工知能サーバ200との接続を確立してよい。また、携帯電話300は、人工知能サーバ200が電話網に接続されている場合、人工知能サーバ200に対する通話要求を通話中継装置100に送信することによって、人工知能サーバ200との呼接続を確立してよい。S310からS316は、S210からS214と同一であってよい。
アシストサービスを利用するか否かが、発信時にユーザ30によって指示されてもよい。例えば、携帯電話300が、発信用の画面上に、アシストサービスを利用しつつ通話をするための通話ボタンと通常の通話ボタンとを表示して、前者の通話ボタンが選択された場合に、アシストサービスを利用する。アシストサービスを利用するか否かは、予め設定されていてもよい。例えば、ユーザ30は、携帯電話300の電話帳に登録されている登録者毎に、アシストサービスを利用するか否かを設定してよい。
図4は、通信システム10による処理の流れの一例を概略的に示す。ここでは、携帯電話300が携帯電話400からの通話要求を受信して携帯電話400との通話を確立する場合に、グループ通話によってアシストサービスを利用する流れの一例を示す。
S402では、携帯電話400が、携帯電話300に対する通話要求を通話中継装置100に送信する。S404では、通話中継装置100が、通話要求を携帯電話300に送信する。S406では、携帯電話300が通話要求に応答することによって、携帯電話300と携帯電話400との通話接続が確立する。
S408では、携帯電話300が、人工知能サーバ200に対する通話要求を通話中継装置100に送信する。S410では、通話中継装置100が、通話要求を人工知能サーバ200に送信する。S412では、人工知能サーバ200が通話要求に応答することによって、携帯電話300、携帯電話400、及び人工知能サーバ200のグループ通話が確立する。
人工知能サーバ200は、グループ通話中、携帯電話300から受信する音声の内容に人工知能サーバ200への問合せが含まれているかを確認する。例えば、人工知能サーバ200は、携帯電話300から受信する音声が予め定められた問合せ開始を示すキーワードと一致するかを判定し、一致すると判定した場合に、当該音声以降の音声を問合せとして取得する。人工知能サーバ200は、携帯電話300から受信する音声とキーワードとの一致を、音響照合及び音声認識の少なくともいずれかによって実現してよい。
S416では、人工知能サーバ200が、ユーザ30からの問合せを取得する。S418では、人工知能サーバ200が、S416で取得した問合せに対する回答を生成して、当該回答を、S414で確立されたグループ通話において出力する。人工知能サーバ200による問合せの取得及び回答の出力は、S414で確立した通話が終了するまで継続されてよい。
人工知能サーバ200は、問合せ開始を示すキーワードが入力されてから、問合せ終了を示すキーワードが入力されるまでの間に入力された音声を、問合せとして取得して、問合せに対する回答を出力してよい。人工知能サーバ200は、問合せ開始を示すキーワードが入力されてから、一の問合せのみを取得して、回答を出力してもよい。
上記実施形態において、通話中継装置100は、S418で人工知能サーバ200が出力した回答が、携帯電話300及び携帯電話400のうち、携帯電話300のみに送信されるように、携帯電話300と、携帯電話400と、人工知能サーバ200との間のグループ通話を確立してもよい。これにより、ユーザ30は、ユーザ40に伝わることなく、人工知能サーバ200からの回答を取得することができる。
図5は、通信システム10による処理の流れの一例を概略的に示す。ここでは、携帯電話300が携帯電話400に対する通話要求を送信して携帯電話400との通話を確立する場合に、グループ通話によってアシストサービスを利用する流れの一例を示す。
S502では、携帯電話300が、携帯電話300、携帯電話400、及び人工知能サーバ200によるグループ通話の通話要求を通話中継装置100に送信する。S504では、通話中継装置100が、通話要求を携帯電話400に送信する。S506では、通話中継装置100が、通話要求を人工知能サーバ200に送信する。S508では、携帯電話400及び人工知能サーバ200が通話要求に応答することによって、携帯電話300、携帯電話400、及び人工知能サーバ200のグループ通話が確立する。S510からS514は、S414からS418と同一であってよい。
図6は、携帯電話300の機能構成の一例を概略的に示す。携帯電話300は、通話要求受信部312、接続確立部314、接続確立部316、確立選択部318、通話要求送信部320、音声送信部322、回答受信部324、回答出力制御部326、端末出力制御部328、及び端末情報送信部330を備える。なお、携帯電話300がこれらのすべての構成を備えることは必須とは限らない。
通話要求受信部312は、他の通信端末からの通話要求を受信する。通話要求受信部312は、例えば、携帯電話400からの通話要求を通話中継装置100から受信する。
接続確立部314は、通話要求受信部312が通話要求を受信した場合に、ユーザ30の指示に従って、通話要求を送信した通信端末との接続を確立する。接続確立部314は、例えば、通話要求受信部312が携帯電話400からの通話要求を受信した場合に、ユーザ30の指示に従って、携帯電話400との接続を確立する。接続確立部314は、他の通信端末との呼接続を確立してよい。また、接続確立部314は、他の通信端末との、Skype(登録商標)及びLINE(登録商標)等のアプリにおける通話サービスの接続を確立してもよい。接続確立部314は、第1接続確立部の一例であってよい。
接続確立部316は、接続確立部314が他の通信端末との接続を確立した場合に、人工知能サーバ200との接続を確立する。接続確立部316は、例えば、接続確立部314が携帯電話400との接続を確立した場合に、人工知能サーバ200との接続を確立する。
接続確立部316は、インターネットに接続された人工知能サーバ200に対して接続要求を送信することによって、人工知能サーバ200との接続を確立してよい。また、接続確立部316は、電話網に接続された人工知能サーバ200に対する通話要求を通話中継装置100に送信することによって、人工知能サーバ200との呼接続を確立してよい。また、接続確立部316は、携帯電話400及び人工知能サーバ200とのグループ通話の通話要求を通話中継装置100に送信することによって、グループ通話接続を確立してよい。接続確立部316は、第2接続確立部の一例であってよい。
確立選択部318は、接続確立部314が接続を確立した場合に、人工知能サーバ200との接続を確立するか否かを選択する。確立選択部318は、例えば、携帯電話300の着信時に、アシストサービスを利用する通話応答が指示された場合に、人工知能サーバ200との接続を確立することを選択し、通常の通話応答が指示された場合に、人工知能サーバ200との接続を確立しないことを選択する。接続確立部316は、確立選択部318によって人工知能サーバ200との接続を確立することが選択されている場合に、人工知能サーバ200との接続を確立してよい。
通話要求送信部320は、他の通信端末への通話要求を送信する。通話要求送信部320は、例えば、携帯電話400への通話要求を通話中継装置100に送信する。
接続確立部314は、通話要求送信部320が送信した通話要求に対して、通話要求の送信先の通信端末が応答した場合に、当該通信端末と携帯電話300との接続を確立する。
接続確立部316は、通話要求送信部320が通話要求を送信した場合に、人工知能サーバ200との接続を確立する。接続確立部316は、通話要求送信部320が通話要求を送信したときではなく、通話要求送信部320が通話要求を送信した後、接続確立部314が接続を確立した場合に、人工知能サーバ200との接続を確立してもよい。
確立選択部318は、通話要求送信部320が通話要求を送信した場合、又は接続確立部314が接続を確立した場合に、人工知能サーバ200との接続を確立するか否かを選択する。接続確立部316は、確立選択部318によって人工知能サーバ200との接続を確立することが選択されている場合に、人工知能サーバ200との接続を確立してよい。
音声送信部322は、接続確立部314が確立した接続を介する通話中にマイク302に入力された音声を、接続確立部316が確立した接続を介して人工知能サーバ200に送信する。音声送信部322は、例えば、接続確立部314が確立した接続を介する通話中にマイク302に入力されたすべての音声を人工知能サーバ200に送信する。
音声送信部322は、接続確立部314が確立した接続を介する通話中にマイク302に入力された音声が、予め定められた問合せ開始を示すキーワードと一致すると判定した後の音声を人工知能サーバ200に送信するようにしてもよい。この場合、音声送信部322は、マイク302に入力された音声が、予め定められた問合せ終了を示すキーワードと一致すると判定するまで、人工知能サーバ200に対する音声の送信を継続してよい。また、音声送信部322は、マイク302に入力された音声が予め定められた問合せ開始を示すキーワードと一致すると判定した後、一の問合せのみを人工知能サーバ200に送信してもよい。
回答受信部324は、音声送信部322が送信した音声の内容に対して人工知能サーバ200によって生成された回答を、接続確立部316によって確立された接続を介して人工知能サーバ200から受信する。
回答出力制御部326は、回答受信部324が受信した回答を出力させる。回答出力制御部326は、回答受信部324が受信した回答を、スピーカ306ではなく、スピーカ304に出力させてよい。これにより、通話しながらアシストサービスを利用する感覚をユーザ30に与えることができる。スピーカ304は、第1スピーカの一例であってよい。スピーカ306は、第2スピーカの一例であってよい。
回答出力制御部326は、回答受信部324が受信した回答を音声以外の態様で出力させてもよい。例えば、回答出力制御部326は、回答受信部324が受信した回答を表すテキストをディスプレイ308に表示出力させてもよい。
端末出力制御部328は、回答受信部324が受信した回答を通話相手の通信端末である携帯電話400に音声出力させるべく、当該回答を携帯電話400に送信する。これにより、回答受信部324が受信した回答の内容を、通話相手のユーザ40にも伝えることができる。
端末出力制御部328は、回答受信部324が受信した回答のすべてを携帯電話400に送信してよい。また、端末出力制御部328は、回答受信部324が受信した回答のうち、ユーザ30によって指示された回答のみを携帯電話400に送信してもよい。例えば、端末出力制御部328は、「読み上げて」等の、回答を通話相手にも伝えることを指示する内容の音声がマイク302に入力された場合に、回答受信部324が受信した回答を携帯電話400に送信する。
端末情報送信部330は、人工知能サーバ200に、携帯電話400との接続を確立させるべく、人工知能サーバ200に携帯電話400の情報を送信する。端末情報送信部330は、例えば、携帯電話400の電話番号及びIPアドレス等を人工知能サーバ200に送信する。端末情報送信部330は、ユーザ30からの指示に従って、携帯電話400の情報を人工知能サーバ200に送信してよい。例えば、端末情報送信部330は、「読み上げて」等の、回答を通話相手にも伝えることを指示する内容の音声がマイク302に入力された場合に、携帯電話400の情報を人工知能サーバ200に送信する。
人工知能サーバ200は、端末情報送信部330から受信した携帯電話400の情報を用いて、携帯電話400と接続を確立してよい。そして、人工知能サーバ200は、携帯電話300から受信した音声の内容に対する回答を、接続確立部314によって確立された接続を介して携帯電話300に送信するとともに、携帯電話400との間に確立された接続を介して携帯電話400に送信する。これにより、回答受信部324が受信する回答の内容を、ユーザ40にも伝えることができる。
図7は、人工知能サーバ200の機能構成の一例を概略的に示す。人工知能サーバ200は、要求受信部202、接続確立部204、音声受信部206、回答生成部208、回答送信部210、命令生成部212、端末情報受信部214、及び接続確立部216を備える。なお、人工知能サーバ200がこれらのすべての構成を備えることは必須とは限らない。
要求受信部202は、通話要求を受信する。要求受信部202は、例えば、携帯電話300から通話要求を受信する。
接続確立部204は、要求受信部202が携帯電話300からの通話要求を受信した場合に、携帯電話300との接続を確立する。
音声受信部206は、接続確立部204によって確立された接続を介して、携帯電話300のマイク302に入力された音声を携帯電話300から受信する。音声受信部206は、音声送信部322によって送信された音声を受信してよい。
回答生成部208は、音声受信部206が受信した音声の内容に対する回答を生成する。回答生成部208は、音声認識機能、意図汲取り機能、スケジュール管理機能、業務管理機能、及び音声合成機能等を用いて、音声受信部206が受信した音声の内容に対する回答を生成してよい。
回答送信部210は、回答生成部208が生成した回答を送信する。回答送信部210は、接続確立部204によって確立された携帯電話300との接続を介して、回答生成部208が生成した回答を携帯電話300に送信してよい。
命令生成部212は、回答生成部208が生成した回答を携帯電話300に出力させること、及び携帯電話300から携帯電話400に回答を転送することを示す命令を生成する。回答送信部210は、命令生成部212によって命令が生成された場合、回答生成部208が生成した回答と、命令生成部212が生成した命令とを携帯電話300に送信してよい。携帯電話300が当該回答及び当該命令を受信した場合、当該命令に従って、回答出力制御部326が当該回答を出力させるとともに、端末出力制御部328が当該回答を携帯電話400に送信してよい。これにより、回答の内容をユーザ30及びユーザ40に伝えることができる。
端末情報受信部214は、端末情報送信部330によって送信された携帯電話400の情報を受信する。接続確立部216は、端末情報受信部214が携帯電話400の情報を受信した場合、携帯電話400との接続を確立する。回答送信部210は、回答生成部208によって生成された回答を、接続確立部204によって確立された接続を介して携帯電話300に送信するとともに、接続確立部216によって確立された接続を介して携帯電話400に送信してよい。これにより、回答の内容をユーザ30及びユーザ40に伝えることができる。
図8は、携帯電話300による着信時の表示例500を概略的に示す。携帯電話300は、通常の応答ボタン502及び拒否ボタン506に加えて、アシストサービスを利用しつつ通話をするための応答ボタン504を表示させてよい。携帯電話300は、応答ボタン504が選択された場合、人工知能サーバ200との接続を確立してよい。また、携帯電話300は、応答ボタン504が選択された場合、携帯電話300と、携帯電話400と、人工知能サーバ200とのグループ通話を確立してもよい。
図9は、携帯電話300による発信用の表示例510を概略的に示す。携帯電話300は、通常の通話ボタン512に加えて、アシストサービスを利用しつつ通話をするための通話ボタン514を表示させてよい。携帯電話300は、通話ボタン514が選択された場合、人工知能サーバ200との接続を確立してよい。また、携帯電話300は、通話ボタン514が選択された場合、携帯電話300と、携帯電話400と、人工知能サーバ200とのグループ通話を確立してもよい。
図10は、携帯電話300として機能するコンピュータ900のハードウエア構成の一例を示す。本実施形態に係るコンピュータ900は、SoC910、メインメモリ922、フラッシュメモリ924、アンテナ932、アンテナ934、ディスプレイ940、マイク942、スピーカ944、スピーカ946、カメラ948、USBポート952、及びカードスロット954を備える。
SoC910は、メインメモリ922及びフラッシュメモリ924に格納されたプログラムに基づいて動作し、各部の制御を行う。アンテナ932は、いわゆるセルラーアンテナである。アンテナ934は、いわゆるWiFi(登録商標)アンテナである。SoC910は、アンテナ932及びアンテナ934を用いて、各種通信機能を実現してよい。SoC910は、例えば、アンテナ932及びアンテナ934を用いてSoC910が使用するプログラムを受信して、フラッシュメモリ924に格納してよい。
SoC910は、ディスプレイ940を用いて各種表示機能を実現してよい。SoC910は、マイク942を用いて各種音声入力機能を実現してよい。スピーカ944は、通話用のスピーカであってよい。SoC910は、スピーカ944を用いて通話中の音声出力機能を実現してよい。スピーカ946は、スピーカ944よりも遠距離に音声を伝搬するためのスピーカであってよい。SoC910は、スピーカ946を用いて、例えば、アプリによる音声出力機能を実現してよい。SoC910は、カメラ948を用いて各種撮影機能を実現してよい。
USBポート952は、USB接続を実現する。カードスロット954は、SDカード等の各種カードとの接続を実現する。SoC910は、USBポート952に接続された機器又はメモリと、カードスロット954に接続されたカードとから、SoC910が使用するプログラムを受信して、フラッシュメモリ924に格納してよい。
コンピュータ900にインストールされ、コンピュータ900を携帯電話300として機能させるプログラムは、SoC910等に働きかけて、コンピュータ900を、携帯電話300の各部としてそれぞれ機能させてよい。これらのプログラムに記述された情報処理は、コンピュータ900に読込まれることにより、ソフトウエアと上述した各種のハードウエア資源とが協働した具体的手段である通話要求受信部312、接続確立部314、接続確立部316、確立選択部318、通話要求送信部320、音声送信部322、回答受信部324、回答出力制御部326、端末出力制御部328、及び端末情報送信部330として機能する。そして、これらの具体的手段によって、本実施形態におけるコンピュータ900の使用目的に応じた情報の演算又は加工を実現することにより、使用目的に応じた特有の携帯電話300が構築される。
以上の説明において、人工知能サーバ200の各部は、ハードウエアにより実現されてもよく、ソフトウエアにより実現されてもよい。又はドウエアとソフトウエアとの組み合わせにより実現されてもよい。また、プログラムが実行されることにより、コンピュータが、人工知能サーバ200として機能してもよい。プログラムは、コンピュータ読み取り可能な媒体又はネットワークに接続された記憶装置から、人工知能サーバ200の少なくとも一部を構成するコンピュータにインストールされてよい。
コンピュータにインストールされ、コンピュータを本実施形態に係る人工知能サーバ200として機能させるプログラムは、CPU等に働きかけて、コンピュータを、人工知能サーバ200の各部としてそれぞれ機能させる。これらのプログラムに記述された情報処理は、コンピュータに読込まれることにより、ソフトウエアと人工知能サーバ200のハードウエア資源とが協働した具体的手段として機能する。
上記実施形態では、情報提供システムの一例として人工知能サーバ200を挙げて説明したが、これに限らない。情報提供システムは、携帯電話300にインストールされている、人工知能アプリケーション等の情報提供アプリケーションであってもよい。接続確立部316は、接続確立部314によって携帯電話300と携帯電話400との接続が確立された場合等に、情報提供アプリケーションとの接続を確立してよい。情報提供アプリケーションは、上述の人工知能サーバ200と同様の機能を有してよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階どの各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 通信システム、20 ネットワーク、30 ユーザ、40 ユーザ、100 通話中継装置、200 人工知能サーバ、202 要求受信部、204 接続確立部、206 音声受信部、208 回答生成部、210 回答送信部、212 命令生成部、214 端末情報受信部、216 接続確立部、300 携帯電話、302 マイク、304 スピーカ、306 スピーカ、308 ディスプレイ、312 通話要求受信部、314 接続確立部、316 接続確立部、318 確立選択部、320 通話要求送信部、322 音声送信部、324 回答受信部、326 回答出力制御部、328 端末出力制御部、330 端末情報送信部、400 携帯電話、402 マイク、404 スピーカ、406 スピーカ、408 ディスプレイ、500 表示例、502 応答ボタン、504 応答ボタン、506 拒否ボタン、510 表示例、512 通話ボタン、514 通話ボタン、900 コンピュータ、910 SoC、922 メインメモリ、924 フラッシュメモリ、932 アンテナ、934 アンテナ、940 ディスプレイ、942 マイク、944 スピーカ、946 スピーカ、948 カメラ、952 USBポート、954 カードスロット

Claims (8)

  1. 第1通信端末が備えるコンピュータを、
    第2通信端末からの通話要求を受信する通話要求受信部、
    前記通話要求受信部が前記通話要求を受信した場合に、前記第1通信端末と前記第2通信端末との接続を確立する第1接続確立部、
    前記第1接続確立部が前記接続を確立した場合に、情報提供システムとの接続を確立する第2接続確立部、
    前記第1接続確立部が確立した接続を介する通話中に、前記第2接続確立部が確立した前記接続を介して、前記第1通信端末が備えるマイクに入力された音声を前記情報提供システムに送信する音声送信部、
    前記第2接続確立部が確立した前記接続を介して、前記音声の内容に対して前記情報提供システムによって生成された回答を受信する回答受信部、
    前記回答受信部が受信した前記回答を出力させる回答出力制御部、及び
    前記回答受信部が受信した前記回答を前記第2通信端末に音声出力させるべく、前記回答を前記第2通信端末に送信する端末出力制御部
    として機能させるためのプログラム。
  2. 前記コンピュータを、
    前記第1接続確立部が前記接続を確立した場合に、前記情報提供システムとの接続を確立するか否かを選択する確立選択部
    としてさらに機能させ、
    前記第2接続確立部は、前記確立選択部によって確立することが選択されている場合に、前記情報提供システムとの接続を確立する、請求項1に記載のプログラム。
  3. 第1通信端末が備えるコンピュータを、
    第2通信端末への通話要求を送信する通話要求送信部、
    前記通話要求送信部が送信した前記通話要求に対して前記第2通信端末が応答した場合に、前記第1通信端末と前記第2通信端末との接続を確立する第1接続確立部、
    前記通話要求送信部が前記通話要求を送信した場合、又は前記第1接続確立部が前記接続を確立した場合に、情報提供システムとの接続を確立する第2接続確立部、
    前記第1接続確立部が確立した接続を介する通話中に、前記第2接続確立部が確立した前記接続を介して、前記第1通信端末が備えるマイクに入力された音声を前記情報提供システムに送信する音声送信部、
    前記第2接続確立部が確立した前記接続を介して、前記音声の内容に対して前記情報提供システムによって生成された回答を受信する回答受信部、
    前記回答受信部が受信した前記回答を出力させる回答出力制御部、及び
    前記回答受信部が受信した前記回答を前記第2通信端末に音声出力させるべく、前記回答を前記第2通信端末に送信する端末出力制御部
    として機能させるためのプログラム。
  4. 前記コンピュータを、
    前記通話要求送信部が前記通話要求を送信した場合、前記第1接続確立部が前記接続を確立した場合に、前記情報提供システムとの接続を確立するか否かを選択する確立選択部
    としてさらに機能させ、
    前記第2接続確立部は、前記確立選択部によって確立することが選択されている場合に、前記情報提供システムとの接続を確立する、請求項3に記載のプログラム。
  5. 前記第1通信端末は、通話用の第1スピーカと、第2スピーカとを備え、
    前記回答出力制御部は、前記回答を前記第1スピーカに音声出力させる、請求項1からのいずれか一項に記載のプログラム。
  6. 情報提供装置が備えるコンピュータを、
    第1通信端末と第2通信端末との間に確立された接続を介する通話中に、前記第1通信端末と前記情報提供装置との間に確立された接続を介して、前記第1通信端末が備えるマイクに入力された音声を受信する音声受信部、
    前記音声の内容に対する回答を生成する回答生成部、
    前記第1通信端末に前記回答を出力させること、及び前記第1通信端末から前記第2通信端末に前記回答を転送することを示す命令を生成する命令生成部、及び
    前記第1通信端末と前記情報提供装置との間に確立された前記接続を介して、前記第1通信端末に前記回答及び前記命令を送信する回答送信部
    として機能させるためのプログラム。
  7. 前記コンピュータを、
    前記第1通信端末と呼接続を確立する呼接続確立部
    としてさらに機能させ、
    前記音声受信部は、前記呼接続確立部によって確立された前記呼接続を介して、前記第1通信端末が備えるマイクに入力された音声を前記第1通信端末から受信し、
    前記回答送信部は、前記呼接続確立部によって確立された前記呼接続を介して、前記音声の内容に対する前記回答を前記第1通信端末に送信する、請求項に記載のプログラム。
  8. 通話中継装置及び情報提供装置を備える通信システムであって、
    前記通話中継装置は、第1通信端末と第2通信端末との間の通話を中継し、
    前記情報提供装置は、
    前記第1通信端末と前記第2通信端末との間の通話中に、前記第1通信端末と前記情報提供装置との間に確立された接続を介して、前記第1通信端末が備えるマイクに入力された音声を受信する音声受信部と、
    前記音声の内容に対する回答を生成する回答生成部と、
    前記第1通信端末に前記回答を出力させること、及び前記第1通信端末から前記通信端末に前記回答を転送することを示す命令を生成する命令生成部と、
    前記第1通信端末と前記情報提供装置との間に確立された前記接続を介して、前記第1通信端末に前記回答及び前記命令を送信する回答送信部と
    を有する、通信システム。
JP2016048730A 2016-03-11 2016-03-11 通信システム及びプログラム Active JP6228998B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016048730A JP6228998B2 (ja) 2016-03-11 2016-03-11 通信システム及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016048730A JP6228998B2 (ja) 2016-03-11 2016-03-11 通信システム及びプログラム

Publications (2)

Publication Number Publication Date
JP2017163492A JP2017163492A (ja) 2017-09-14
JP6228998B2 true JP6228998B2 (ja) 2017-11-08

Family

ID=59857387

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016048730A Active JP6228998B2 (ja) 2016-03-11 2016-03-11 通信システム及びプログラム

Country Status (1)

Country Link
JP (1) JP6228998B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102035016B1 (ko) * 2018-03-06 2019-10-22 이윤수 통화중 개인비서 서비스 호출이 가능한 통신장치

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100690800B1 (ko) * 2005-06-10 2007-03-09 엘지전자 주식회사 음성인식을 이용한 음성 정보 저장 장치 및 방법
JP2010206717A (ja) * 2009-03-05 2010-09-16 Nec Corp 音声応答システム、音声応答装置および音声応答方法
JP2010258989A (ja) * 2009-04-28 2010-11-11 Seiko Precision Inc 携帯電話機および音声情報提供システム

Also Published As

Publication number Publication date
JP2017163492A (ja) 2017-09-14

Similar Documents

Publication Publication Date Title
CN107340988B (zh) 具有连续关键词识别的免提设备
US10134395B2 (en) In-call virtual assistants
CN106782551B (zh) 一种语音识别系统及方法
KR101203248B1 (ko) 네트워크 시스템, 통신 단말기, 통신 방법 및 통신 프로그램을 기록한 컴퓨터 판독가능 기록매체
CN111263962A (zh) 信息处理设备和信息处理方法
JP4266188B2 (ja) 通信システム及びこの通信システムで使用される通信端末装置、及び通信システムで使用される通信方法
JP6218568B2 (ja) 通信装置、通信システム、通信方法、および通信プログラム
JP2018093433A (ja) 通信システム、画像形成装置とその制御方法、及びプログラム
JP6228998B2 (ja) 通信システム及びプログラム
CN108810244B (zh) 语音对话系统以及信息处理装置
KR20150088532A (ko) 통화 중 서비스 제공 장치 및 이를 이용하는 방법
CN108806675B (zh) 语音输入输出装置、无线连接方法、语音对话系统
JP6021663B2 (ja) 音声呼の確立と同時に、相手方端末におけるコードを確認する方法及びシステム
CN102868837A (zh) 电话会议控制系统和电话会议控制方法
KR20190043576A (ko) 통신 장치
JP2015220594A (ja) 特定通話通知装置および特定通話通知方法
JP6396685B2 (ja) 呼制御装置、受信機及びそれらの制御方法
KR102290383B1 (ko) 착신전환 기반의 사용자 단말의 전화번호 유지 방법 및 시스템
JP2015231083A (ja) 音声合成通話システム、通信端末および音声合成通話方法
JP6659066B1 (ja) 音声通話システム、音声通話制御装置、音声通話プログラム、及び音声通話方法
JP2008092287A (ja) 会話内容伝達システム、会話内容伝達サーバ、会話内容伝達方法および会話内容伝達プログラム
JP2017130857A (ja) 通信方法,通信プログラムおよび通信装置
CN106453265B (zh) Ip呼叫的调度方法及调度系统、ippbx、服务器
KR101328923B1 (ko) 통신 단말기의 무선 통신 연결시 사용자 정보 제공 방법
JP2020161971A (ja) 通信代替装置、通信代替システム、通信代替方法、および通信代替プログラム

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171016

R150 Certificate of patent or registration of utility model

Ref document number: 6228998

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250