JP6972430B1 - 端末、入力表示方法および入力表示システム - Google Patents

端末、入力表示方法および入力表示システム Download PDF

Info

Publication number
JP6972430B1
JP6972430B1 JP2021514639A JP2021514639A JP6972430B1 JP 6972430 B1 JP6972430 B1 JP 6972430B1 JP 2021514639 A JP2021514639 A JP 2021514639A JP 2021514639 A JP2021514639 A JP 2021514639A JP 6972430 B1 JP6972430 B1 JP 6972430B1
Authority
JP
Japan
Prior art keywords
terminal
input
unit
display
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021514639A
Other languages
English (en)
Other versions
JPWO2022107282A1 (ja
Inventor
正人 平井
勉 松原
貴司 山内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP6972430B1 publication Critical patent/JP6972430B1/ja
Publication of JPWO2022107282A1 publication Critical patent/JPWO2022107282A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/026Details of the structure or mounting of specific components
    • H04M1/0266Details of the structure or mounting of specific components for a display module assembly
    • H04M1/0268Details of the structure or mounting of specific components for a display module assembly including a flexible display panel
    • H04M1/0269Details of the structure or mounting of specific components for a display module assembly including a flexible display panel mounted in a fixed curved configuration, e.g. display curved around the edges of the telephone housing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72436User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for text messaging, e.g. short messaging services [SMS] or e-mails
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/247Telephone sets including user guidance or feature selection means facilitating their use
    • H04M1/2477Telephone sets including user guidance or feature selection means facilitating their use for selecting a function from a menu display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/247Telephone sets including user guidance or feature selection means facilitating their use
    • H04M1/2478Telephone terminals specially adapted for non-voice services, e.g. email, internet access
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72466User interfaces specially adapted for cordless or mobile telephones with selection means, e.g. keys, having functions defined by the mode or the status of the device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/487Arrangements for providing information services, e.g. recorded voice services or time announcements
    • H04M3/4872Non-interactive information services
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/12Messaging; Mailboxes; Announcements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72469User interfaces specially adapted for cordless or mobile telephones for operating the device by selecting functions from two or more displayed items, e.g. menus or icons
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/14Delay circuits; Timers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/22Synchronisation circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2201/00Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/42Graphical user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

端末(2)は、複数の種類の入力モードから入力モードの選択を受け付ける入力モード選択部(3)と、入力モードを通信相手側の端末(2)に通知する通知部(5)と、入力モード選択部(3)によって選択が受け付けられた入力モードによる情報の入力を受け付ける入力受付部(4a,4b)と、通信相手側の端末(2)から通知された入力モードを取得するモード取得部(7)と、入力受付部(4a,4b)によって入力が受け付けられた情報をディスプレイ(10)の表示領域に表示するための表示情報を生成する表示制御部(8)とを備え、表示制御部(8)は、モード取得部(7)によって通信相手側の端末(2)から通知された入力モードが取得されると、取得した入力モードを表示領域に表示するための表示情報を生成し、生成した表示情報に従って通信相手側の端末(2)から通知された入力モードをディスプレイ(10)に表示させる。

Description

本開示は、端末、入力表示方法および入力表示システムに関する。
離れた2地点間で通信によりコミュニケーションを行う通信端末装置が知られている。例えば、特許文献1には、メッセージの編集または作成中の状態を伝達過程として相手の通信端末装置に報知しつつメッセージを作成して送信し、相手の通信端末装置で作成されたメッセージを受信して再生する通信端末装置が記載されている。
特許文献1に記載された通信端末装置において、メッセージの受け手は、メッセージの編集または作成中の状態を通じてメッセージの送り手を認識することができる。例えば、メッセージの受け手は、「メッセージを入力中です。」または「メッセージが削除されました。」といった、メッセージの送り手の状況を認識することができ、相手の状況に配慮したコミュニケーションを行うことができる。
特開2006−140748号公報
しかしながら、特許文献1に記載された通信端末装置においては、メッセージの受け手が、送り手がメッセージを入力していることを認識できるが、送り手がメッセージの入力を完了してメッセージを受信するまでにどの程度の待ち時間が掛かるのかを推測できないという課題があった。これは、端末間の通信によるコミュニケーションを臨場感に欠けるものとする。
本開示は上記課題を解決するものであり、通信相手側の端末における情報の入力時間を推測することができる、端末、入力表示方法および入力表示システムを得ることを目的とする。
本開示に係る端末は、音声の入力モードおよび文字の入力モードのうちから、入力モードの選択を受け付ける入力モード選択部と、入力モード選択部によって選択が受け付けられた入力モードを通信相手側の端末に通知する通知部と、入力モード選択部によって選択が受け付けられた入力モードによる情報の入力を受け付ける入力受付部と、通信相手側の端末から通知された入力モードを取得するモード取得部と、入力受付部によって入力が受け付けられた情報をディスプレイの表示領域に表示するための表示情報を生成する表示制御部とを備え、表示制御部は、モード取得部によって通信相手側の端末から通知された入力モードが取得されると、取得した入力モードを表示領域に表示するための表示情報を生成し、生成した表示情報に従って通信相手側の端末から通知された入力モードをディスプレイに表示させる。
本開示によれば、表示制御部が、通信相手側の端末から通知された入力モードを表示領域に表示するための表示情報を生成し、生成した表示情報に従ってディスプレイが通信相手側の端末から通知された入力モードを表示する。ユーザは、一般的な通信端末を使用した経験から、端末が備える複数の種類の入力モードのそれぞれについて情報の入力に必要な時間を大まかに把握している。このため、本開示に係る端末が、通信相手側の端末から通知された入力モードをディスプレイに表示することにより、通信相手側の端末における情報の入力時間を推測することができる。
実施の形態1に係る入力表示システムの構成を示すブロック図である。 実施の形態1に係る端末の構成を示すブロック図である。 実施の形態1に係る入力表示方法を示すフローチャートである。 音声入力を行う送信側の端末の画面と受信側の端末の画面とを示す説明図である。 キーボード入力を行う送信側の端末の画面と受信側の端末の画面とを示す説明図である。 キーボード入力を行う端末の画面と音声入力を行う端末の画面とを示す説明図である。 実施の形態1に係る端末の機能を実現するハードウェア構成を示すブロック図である。 実施の形態1に係る端末の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。 実施の形態2に係る端末の構成を示すブロック図である。 実施の形態2に係る入力表示方法を示すフローチャートである。 図形の描画を行う送信側の端末の画面と受信側の端末の画面とを示す説明図である。 画像選択操作を行う送信側の端末の画面と受信側の端末の画面とを示す説明図である。 カメラ撮影を行う送信側の端末の画面と受信側の端末の画面とを示す説明図である。 ツール選択と選択したツールを用いた図形の描画を行う送信側の端末の画面と受信側の端末の画面とを示す説明図である。
実施の形態1.
図1は、実施の形態1に係る入力表示システム1の構成を示すブロック図である。図1に示す入力表示システム1は、端末2間で通信によって互いのディスプレイに情報を表示するシステムである。入力表示システム1において、送信側の端末2が、受信側の端末2へ送信する情報(メッセージなど)を入力する場合に、情報の入力モードを示す情報を、受信側の端末2に送信する。端末2は、例えば、スマートフォン、タブレット端末またはPC(Personal Computer)である。受信側の端末2は、送信側の端末2から受信した入力モードをディスプレイに表示する。図1において、2台の端末2間で通信する場合を示したが、入力表示システム1は、3台以上の端末2で互いの表示情報を共有してもよい。
入力表示システム1において、端末2は、各種の入力モードのうち、一つの入力モードが選択されると、選択された入力モードを通信相手側の端末2に通知し、当該入力モードの情報入力を開始する。端末2は、通信相手側の端末2から入力モードが通知されると、通知された入力モードをディスプレイに表示する。スマートフォン、タブレット端末またはPCといった端末2で利用可能な入力モードとしては、例えば、音声入力モードおよびキーボード入力モードがある。音声入力モードは、音声認識によって音声に対応する文字列を入力するモードである。キーボード入力モードは、ソフトウェアのキーボードまたはハードウェアのキーボードを用いた文字列の入力を受け付けるモードである。
キーボード入力モードは、キーボードを用いて文字ごとに入力が行われる。一方、音声入力モードは、マイクに発声するだけである。すなわち、音声入力モードは、キーボード入力モードと比較して情報入力に必要な時間が短くて済む。スマートフォン、タブレット端末またはPCを使用する習慣があるユーザは、このような入力モードごとの情報入力に必要な時間の違いを、経験上把握している。そこで、端末2は、通信相手側の端末2から通知された入力モードを取得すると、取得した入力モードをディスプレイに表示するための表示情報を生成し、生成した表示情報に従って、通信相手側の端末から通知された入力モードをディスプレイに表示させる。これにより、ユーザは、例えば通信相手側の端末2で情報入力が完了するまでの時間を大まかに推測することができる。
図2は、実施の形態1に係る端末2の構成を示すブロック図である。図1に示した入力表示システム1が備える端末2は、ともに図2に示す構成要素を有している。端末2は、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、通信部6、モード取得部7、表示制御部8、文字列一時保存部9、ディスプレイ10、操作受付部11、文字管理データベース12(以下、文字管理DB12と記載する。)、文字管理部13、および軌跡判別部14を備える。
入力モード選択部3は、端末2で実行可能な複数の種類の入力モードから、入力モードの選択を受け付ける。例えば、入力モード選択部3は、選択操作(1)に基づいて、音声入力モードまたはキーボード入力モードのいずれかの選択を受け付ける。例えば、入力モード選択部3は、ポインティングデバイスを用いた選択操作を受け付け、音声入力部4aおよびキーボード入力部4bのうち、選択を受け付けた入力モードに対応する入力受付部を起動する。ポインティングデバイスとしては、例えば、タッチパネルを想定している。ただし、これは一例であり、ポインティングデバイスには、ジョイスティック、ポインティングスティック、タッチパッド、スタイラス、データグローブ、トラックボール、ペンタブレット、マウス、ライトペンまたはジョイパッドを用いることができる。
音声入力部4aは、音声認識により音声に対応する文字列の入力を受け付ける入力受付部である。例えば、音声入力部4aは、ユーザの音声を検出し、検出した音声を音声認識する。音声認識には、音声認識辞書データベース(以下、音声認識辞書DBと記載する。)が用いられる。音声認識辞書DBは、例えば、人間の発声の単位である音素の音響特徴が記述された音響モデルと、音声認識する言葉が記述された認識辞書とが登録されている。音声入力部4aは、入力した音声を認識する音声認識エンジンを有する。
音声入力部4aは、入力した音声を分析し、音声の音響特徴を算出して、音声認識辞書DBに登録されている認識辞書に記述された言葉の中から、算出した音響特徴に最も近い音響特徴を有する言葉を探索する。音声入力部4aは、探索した言葉を示す文字列を、音声の認識結果を示す文字列として表示制御部8に出力する。
なお、音声入力部4aは、音声認識エンジンおよび音声認識辞書DBの代わりに、データ送受信部を備えてもよい。データ送受信部は、インターネットなどの通信回線を介して図示せぬ音声認識サーバとの間でデータを送受信することが可能な通信機器であり、例えば、通信部6であってもよい。データ送受信部は、音声入力部4aによって検出された音声を示すデータを、音声認識サーバに送信する。音声認識サーバは、音声を認識する音声認識エンジンを備えており、データ送受信部から送信された音声を示すデータを受信すると、受信したデータが示す音声を認識し、音声の認識結果を示す文字列を、データ送受信部に送信する。データ送受信部は、音声認識サーバから受信した音声認識結果を示す文字列を、表示制御部8に出力する。
キーボード入力部4bは、ソフトウェアのキーボードまたはハードウェアのキーボードを用いた文字列の入力を受け付ける入力受付部である。例えば、ソフトウェアキーボードでは、ディスプレイ10に表示されたキーボードに対して、タッチパネルで文字の入力が受け付けられる。以下の説明では、キーボード入力部4bが、ソフトウェアキーボードを用いるものを想定する。
通知部5は、入力モード選択部3によって選択が受け付けられた入力モードを通信相手側の端末2に通知するものである。例えば、通知部5は、通信部6を介して通信接続することにより、通信相手側の端末2に対し入力モードを示す情報を通知する。通信部6は、通信相手側の端末2との間で通信を行う装置である。通信部6が行う通信の形態は、無線通信と有線通信のいずれであってもよい。
モード取得部7は、通信相手側の端末2から通知された入力モードを取得するものである。例えば、モード取得部7は、通信部6を介して通信接続することにより、通信相手側の端末2から入力モードを示す情報を受信する。モード取得部7によって取得される入力モードは、通信相手側の端末2が備える入力モード選択部3により選択が受け付けられた入力モードである。
表示制御部8は、音声入力部4aおよびキーボード入力部4bによって入力が受け付けられた情報(例えば、文字列)をディスプレイ10の表示領域に表示するための表示情報を生成する。文字列一時保存部9は、音声入力部4aまたはキーボード入力部4bにより入力が受け付けられた文字列を示すデータを、一時的に保存する。例えば、文字列を示すデータは、軌跡判別部14から曲線情報が出力されるまで文字列一時保存部9に保存される。ディスプレイ10は、表示制御部8によって生成された表示情報に従って情報を表示する。
操作受付部11は、ユーザの操作として線をなぞる操作(2)を受け付けて、受け付けた操作の内容を軌跡判別部14に出力する。例えば、操作受付部11は、ポインティングデバイスを用いた操作(2)を受け付ける。文字管理DB12は、文字種、文字サイズ、文字高および文字幅の対応関係を示す文字属性表情報が登録されたデータベースである。
文字管理部13には、ディスプレイ10に表示する文字の文字サイズが事前に設定されている。文字管理部13は、文字管理DB12に登録された文字属性表情報を参照して、事前に設定された文字サイズに対応する文字高を示す文字属性情報を、軌跡判別部14に出力し、事前に設定された文字サイズに対応する文字高および文字幅を示す文字属性情報を、表示制御部8に出力する。
軌跡判別部14は、操作受付部11によって受け付けられた操作によってディスプレイ10の表示領域上に入力された線の軌跡を判別する。例えば、軌跡判別部14は、ユーザの操作によって入力された線を構成する点群の時系列データを、ポインティングデバイスから取得する。軌跡判別部14は、ポインティングデバイスから取得した点群の時系列データに基づいて、ユーザの操作によって入力された線の軌跡を表す曲線の長さおよび形状を示す曲線情報を生成し、生成した曲線情報を表示制御部8に出力する。曲線には、直線または折れ曲がった線も含まれる。すなわち、軌跡判別部14によって判別される曲線には、ディスプレイ10の表示領域上の点群の時系列データを用いて算出可能な様々な形状の線が含まれる。
図3は、実施の形態1に係る入力表示方法を示すフローチャートである。
入力モード選択部3は、入力モードの選択を受け付ける(ステップST1)。続いて、通知部5は、通信部6を介して通信接続している通信相手側の端末2に対し、入力モード選択部3によって選択が受け付けられた入力モードを通知する(ステップST2)。音声入力モードの選択が受け付けられると、音声入力部4aが、音声入力モードによる情報の入力を受け付ける(ステップST3)。キーボード入力モードの選択が受け付けられた場合には、キーボード入力部4bが、キーボード入力モードによる情報の入力を受け付ける(ステップST3)。
音声入力部4aおよびキーボード入力部4bのうち、選択が受け付けられた入力モードに対応する入力受付部は、情報の入力が完了していなければ(ステップST4;NO)、情報の入力を継続する。情報の入力が完了すると(ステップST4;YES)、選択が受け付けられた入力モードに対応する入力受付部は、情報の入力の完了を示す情報を、入力モード選択部3に出力する。入力モード選択部3は、情報の入力の完了を示す情報を通知部5に出力する。通知部5は、通信部6を介して通信接続することにより、情報の入力の完了を示す情報を、通信相手側の端末2に通知する(ステップST5)。
続いて、表示制御部8は、音声入力部4aおよびキーボード入力部4bのうち、選択が受け付けられた入力モードに対応する入力受付部によって入力が受け付けられた情報を、ディスプレイ10に表示するための表示情報を生成する(ステップST6)。ディスプレイ10は、表示制御部8によって生成された表示情報に従って、音声入力部4aおよびキーボード入力部4bのうち、選択が受け付けられた入力モードに対応する入力受付部によって入力が受け付けられた情報を表示する(ステップST7)。
モード取得部7は、通信相手側の端末2から通知された入力モードを取得したか否かを確認する(ステップST8)。例えば、モード取得部7は、通信部6を介して通信接続することにより、入力モードを示す情報を、通信相手側の端末2から受信する。モード取得部7によって取得された入力モードを示す情報は、表示制御部8に出力される。
表示制御部8は、取得した入力モードをディスプレイ10に表示させるための表示情報を生成する(ステップST9)。ディスプレイ10は、表示制御部8によって生成された表示情報に従って、通信相手側の端末2から通知された入力モードを表示する(ステップST10)。ユーザは、ディスプレイ10に表示された入力モードを視認することで、通信相手側の端末2がどの入力モードで情報を入力しているのかを把握でき、把握した入力モードによる情報の入力時間を大まかに推測できる。
モード取得部7は、通信相手側の端末2において情報の入力が完了したか否かを確認する(ステップST11)。例えば、モード取得部7は、通信部6が通信相手側の端末2から情報の入力の完了を示す情報が受信すると(ステップST11;YES)、通信相手側の端末2において情報の入力が完了したことを表示制御部8に通知する。また、通信部6が通信相手側の端末2から情報の入力の完了を示す情報を受信しなければ(ステップST11;NO)、モード取得部7は、上記確認処理を繰り返す。
表示制御部8は、通信相手側の端末2において情報の入力が完了した場合、通信相手側の端末2から通知された入力モードを非表示にさせる表示情報を生成して、ディスプレイ10に出力する。ディスプレイ10は、表示制御部8によって生成された上記表示情報に従って、通信相手側の端末2から通知された入力モードの表示を画面から消去(非表示)する(ステップST12)。
図4は、音声入力を行う送信側の端末2の画面10Aと受信側の端末2の画面10Bとを示す説明図である。入力モード選択部3は、ディスプレイ10とタッチパネルを用いたユーザインタフェースとして実現される。図4に示す例では、表示制御部8が、音声入力モードに対応するボタン画像3aとキーボード入力モードに対応するボタン画像3bとを表示させるための表示情報を生成する。ディスプレイ10は、表示制御部8によって生成された表示情報に従ってボタン画像3aおよびボタン画像3bを表示する。
ユーザが、タッチパネルを用いてボタン画像3aまたはボタン画像3bを押下する操作を行うと、タッチパネルによって検出された操作情報は、入力モード選択部3に出力される。入力モード選択部3は、当該操作情報に基づいて、入力モードの選択を受け付ける。図4においてはボタン画像3aが押下されているので、入力モード選択部3は、音声入力モードの選択を受け付ける。通知部5は、通信部6を介して、選択が受け付けられた入力モード(音声入力モード)を受信側の端末2に通知する。受信側の端末2は、送信側の端末2から通知された音声入力モードを示す情報を、画面10Bに表示する。例えば、画面10Bには、「音声入力中です」といったテキスト情報が表示される。
送信側の端末2において、音声入力部4aは、ユーザによる「ABCD」という発声を音声認識し、音声認識結果である文字列Mを表示制御部8に出力する。これにより、音声入力が完了したので、通知部5は、通信部6を介して、受信側の端末2に音声入力の完了を通知する。続いて、表示制御部8は、軌跡判別部24から取得した曲線情報と音声入力部4aから取得した文字列Mとを用いて、曲線情報が示す曲線Cに沿って文字列Mを配置した表示情報を生成する。表示制御部8によって生成された表示情報は、ディスプレイ10に出力され、さらに通信部6を介して受信側の端末2に送信される。
ディスプレイ10は、図4に示すように、表示制御部8によって生成された表示情報に従って、画面10Aに文字列Mを表示する。受信側の端末2は、送信側の端末2から音声入力の完了が通知されると、画面10Bから入力モードの表示を消去する。この後、受信側の端末2は、送信側の端末2から受信した表示情報に従って、画面10Bに文字列Mを表示する。
図5は、キーボード入力を行う送信側の端末2の画面10Aと受信側の端末2の画面10Bとを示す説明図である。送信側の端末2において、図4に示すボタン画像3bが押下されると、入力モード選択部3は、キーボード入力モードの選択を受け付ける。通知部5は、通信部6を介して、選択が受け付けられたキーボード入力モードを、受信側の端末2に通知する。受信側の端末2は、送信側の端末2から通知された入力モード(キーボード入力モード)を示す情報を、画面10Bに表示する。例えば、画面10Bには、「キーボード入力中です」といったテキスト情報が表示される。
送信側の端末2において、キーボード入力部4bは、ソフトウェアのキーボード15を用いた文字入力を受け付け、入力を受け付けた「ABCD」の文字列Mを表示制御部8に出力する。続いて、通知部5は、通信部6を介して、キーボード入力の完了を受信側の端末2に通知する。表示制御部8は、軌跡判別部24から取得した曲線情報と、キーボード入力部4bから取得した文字列Mとを用いて、曲線情報が示す曲線Cに沿って文字列Mを配置した表示情報を生成する。表示制御部8によって生成された表示情報は、ディスプレイ10に出力され、さらに通信部6を介して受信側の端末2に送信される。
ディスプレイ10は、図5に示すように、表示制御部8によって生成された表示情報に従って、画面10Aに文字列Mを表示する。受信側の端末2は、送信側の端末2からキーボード入力の完了が通知されると、画面10Bから入力モードの表示(「キーボード入力中です」)を消去(非表示)する。この後、受信側の端末2は、送信側の端末2から受信した表示情報に従って、画面10Bに文字列Mを表示する。
図6は、キーボード入力を行う端末2の画面10Aと音声入力を行う端末2の画面10Bとを示す説明図である。画面10Aを有する端末2において、入力モード選択部3は、キーボード入力モードの選択を受け付ける。通知部5は、通信部6を介して、選択が受け付けられたキーボード入力モードを示す情報を、画面10Bを有する端末2に通知する。当該端末2は、通知された入力モード(キーボード入力モード)を示す情報を画面10Bに表示する。
画面10Bを有する端末2において、入力モード選択部3は、音声入力モードの選択を受け付ける。通知部5は、通信部6を介して、選択が受け付けられた音声入力モードを、画面10Aを有する端末2に通知する。当該端末2は、通知された入力モード(音声入力モード)を示す情報を、画面10Aに表示する。これにより、各端末2のユーザは、通信相手側の入力モードから大まかな入力時間を推測できる。これにより、端末2間の通信によるコミュニケーションの臨場感を高められる。
図7は、端末2の機能を実現するハードウェア構成を示すブロック図である。図7において、処理回路107は、入力インタフェース100を介して入力モード選択部3および操作受付部11へのデータを取得する。処理回路107は、出力インタフェース101を介してディスプレイ102に表示情報を出力する。ディスプレイ102は、図2に示したディスプレイ10である。処理回路107は、通信装置104が通信相手側の端末2との間で送受信するデータを、通信インタフェース103を介して入出力する。通信装置104は、図2に示した通信部6である。処理回路107は、入出力インタフェース105を介して記憶装置106との間でデータを入出力する。記憶装置106は、図2に示した文字管理DB12を記憶する。
図8は、端末2の機能を実現するソフトウェアを実行するハードウェア構成を示すブロック図である。図8において、プロセッサ108は、入力インタフェース100を介して入力モード選択部3および操作受付部11へのデータを取得する。プロセッサ108は、出力インタフェース101を介してディスプレイ102に表示情報を出力する。ディスプレイ102は、図2に示したディスプレイ10である。プロセッサ108は、通信装置104が通信相手側の端末2との間で送受信するデータを、通信インタフェース103を介して入出力する。通信装置104は、図2に示した通信部6である。プロセッサ108は、入出力インタフェース105を介して記憶装置106との間でデータを入出力する。記憶装置106は、図2に示した文字管理DB12を記憶する。
入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能は、処理回路によって実現される。すなわち、端末2は、図3に示したステップST1からステップST12までの各処理を実行する処理回路を備える。処理回路は、専用のハードウェアであってもよいし、メモリに記憶されたプログラムを実行するCPU(Central Processing Unit)であってもよい。
処理回路が図7に示す専用のハードウェアの処理回路107である場合、処理回路107は、例えば、単一回路、複合回路、プログラム化されたプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)、またはこれらを組み合わせたものが該当する。
端末2が備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能は、別々の処理回路で実現されてもよいし、これらの機能がまとめて1つの処理回路で実現されてもよい。
処理回路が図8に示すプロセッサ108である場合、端末2が備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能は、ソフトウェア、ファームウェアまたはソフトウェアとファームウェアの組み合わせによって実現される。なお、ソフトウェアまたはファームウェアは、プログラムとして記述されてメモリ109に記憶される。
プロセッサ108は、メモリ109に記憶されたプログラムを読み出して実行することにより、端末2が備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能を実現する。
例えば、端末2は、プロセッサ108によって実行されるとき、図3に示したフローチャートにおけるステップST1からステップST12の処理が結果的に実行されるプログラムを記憶するためのメモリ109を備える。
これらのプログラムは、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の手順または方法を、コンピュータに実行させる。
また、メモリ109は、コンピュータを、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14として機能させるためのプログラムが記憶されたコンピュータ可読記憶媒体であってもよい。
メモリ109は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically−EPROM)などの不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVDなどが該当する。
端末2が備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7、表示制御部8、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14の機能の一部は、専用ハードウェアによって実現され、残りの一部は、ソフトウェアまたはファームウェアによって実現されてもよい。
例えば、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、モード取得部7および表示制御部8は、専用のハードウェアである処理回路107によって機能が実現され、文字列一時保存部9、操作受付部11、文字管理部13および軌跡判別部14は、プロセッサ108がメモリ109に記憶されたプログラムを読み出し実行することにより機能が実現される。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせによって上記機能を実現することができる。
以上のように、実施の形態1に係る端末2において、表示制御部8が、通信相手側の端末2から通知された入力モードを表示領域に表示するための表示情報を生成し、生成した表示情報に従って、通信相手側の端末2から通知された入力モードをディスプレイ10に表示させる。ユーザは、複数の種類の入力モードのそれぞれについての大まかな入力時間を経験上把握している。このため、端末2が、通信相手側の端末2から通知された入力モードをディスプレイ10に表示することにより、ユーザは、例えば、通信相手側の端末2における情報の入力時間を推測できる。これにより、端末2間の通信によるコミュニケーションの臨場感を高められる。
実施の形態1に係る端末2において、表示制御部8は、ディスプレイ10の表示領域に入力された曲線に沿って、入力が受け付けられた文字列を表示するための表示情報を生成する。ディスプレイ10が、上記表示情報に従って、曲線に沿って配置された文字列を、画面上に表示する。これにより、ディスプレイ10の画面上でなぞり画いた曲線に沿って配置された文字列を表示することができる。
実施の形態2.
図9は、実施の形態2に係る端末2Aの構成を示すブロック図である。図9において、図2と同一の構成要素には、同一の符号を付して説明を省略する。図1に示した入力表示システム1が備える端末2は、ともに図9に示す構成要素を有した端末2Aであるものとする。端末2Aは、入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、通信部6、モード取得部7、表示制御部8、文字列一時保存部9、ディスプレイ10、操作受付部11、文字管理DB12、文字管理部13、軌跡判別部14、操作モード選択部17、図形描画部18a、画像選択部18b、撮影処理部18c、および各種処理部18dを備える。
操作モード選択部17は、端末2Aで実行可能な複数の種類の操作モードから操作モードの選択を受け付ける。例えば、操作モード選択部17は、選択操作(3)に基づいて、図形描画モード、画像選択モード、撮影モードおよび各種処理モードのいずれかの選択を受け付ける。例えば、操作モード選択部17は、ポインティングデバイスを用いた選択操作を受け付け、図形描画部18a、画像選択部18b、撮影処理部18cおよび各種処理部18dのうち、選択を受け付けた操作モードに対応する機能実行部を起動する。
機能実行部は、操作モード選択部17によって選択が受け付けられた操作モードに対応する機能を実行する。端末2Aが備える機能実行部としては、例えば、図形描画部18a、画像選択部18b、撮影処理部18cおよび各種処理部18dがある。図形描画部18aは、図形描画モードに対応した機能実行部であり、タッチパネルを用いた線のなぞり描き操作を受け付ける。例えば、図形描画部18aは、端末2Aが備えるプロセッサが、お絵描きアプリケーションプログラムを実行することにより実現される。
画像選択部18bは、画像選択モードに対応した機能実行部であり、メモリに記憶された複数の画像情報から、タッチパネルを用いた画像情報の選択を受け付ける。例えば、画像選択部18bは、メモリに記憶された複数の画像情報からディスプレイ10の画面上に選択候補を表示させ、選択候補の中からタッチパネルを用いた画像情報の選択を受け付ける。メモリは、端末2Aが備えてもよいし、端末2Aとの間で通信接続が可能な外部記憶装置であってもよい。
撮影処理部18cは、撮影モードに対応した機能実行部であり、端末2Aが備えるカメラで撮影を行う。例えば、撮影処理部18cは、タッチパネルを用いた操作入力を受け付けて、端末2Aが備えるカメラを制御することにより被写体を撮影する。撮影画像は、ディスプレイ10に表示させることができ、通信部6を用いて通信相手側の端末2Aに送信することもできる。撮影処理部18cは、静止画像の撮影と動画像の撮影が可能である。
各種処理部18dは、各種処理モードに対応した機能実行部であり、各種処理を行う。各種処理は、図形描画モード、画像選択モードおよび撮影モード以外の処理であり、例えば、音声入力またはキーボード入力された文字列を指定言語に翻訳する処理である。各種処理部18dは、タッチパネルを用いた言語指定操作および翻訳開始操作を受け付けて、文字列の翻訳を実行する。翻訳結果は、ディスプレイ10に表示させることができ、通信部6を用いて通信相手側の端末2Aに送信することもできる。
図10は、実施の形態2に係る入力表示方法を示すフローチャートである。
操作モード選択部17は、操作モードの選択を受け付ける(ステップST1a)。続いて、通知部5は、通信部6を介して通信接続している通信相手側の端末2Aに対し、操作モード選択部17によって選択が受け付けられた操作モードを通知する(ステップST2a)。例えば、図形描画モードの選択が受け付けられた場合、図形描画部18aが、図形描画を行う(ステップST3a)。画像選択モードの選択が受け付けられた場合、画像選択部18bが画像選択を行う(ステップST3a)。撮影モードの選択が受け付けられた場合は、撮影処理部18cがカメラ撮影を行う(ステップST3a)。各種処理モードの選択が受け付けられた場合、各種処理部18dが各種処理を行う(ステップST3a)。
図形描画部18a、画像選択部18b、撮影処理部18cおよび各種処理部18dのうち、操作モードの選択が受け付けられた機能実行部は、機能の実行が完了していなければ(ステップST4a;NO)、機能の実行を継続する。機能の実行が完了した場合(ステップST4a;YES)、操作モードの選択が受け付けられた機能実行部は、機能の実行の完了を示す情報を操作モード選択部17に出力する。操作モード選択部17は、機能の実行の完了を示す情報を通知部5に出力する。通知部5は、通信部6を介して通信接続することにより、機能の実行の完了を示す情報を通信相手側の端末2Aに通知する(ステップST5a)。
モード取得部7は、通信相手側の端末2Aで選択された操作モードを取得したか否かを確認する(ステップST6a)。例えば、モード取得部7は、通信部6を介して通信接続することにより、操作モードを示す情報を通信相手側の端末2Aから受信する。モード取得部7によって取得された操作モードを示す情報は、表示制御部8に出力される。
表示制御部8は、取得した操作モードをディスプレイ10に表示するための表示情報を生成する(ステップST7a)。ディスプレイ10は、表示制御部8によって生成された表示情報に従って、通信相手側の端末2Aから通知された操作モードを示す情報を表示する(ステップST8a)。ユーザは、ディスプレイ10に表示された操作モードを視認することによって、通信相手側の端末2Aにおいてどの操作モードの機能が実行されているのかを認識できる。
例えば、図形描画モードで描画された描画情報、画像選択モードで選択された画像情報および撮影モードで撮影された撮影画像情報は、通信相手へのメッセージに含めることにより、通信部6を用いて通信相手側の端末2Aに送信することができる。図形描画モードでは、タッチパネルを用いて線を描くことにより描画情報が生成される。一方、画像選択モードでは、選択候補から選択するだけで画像情報が得られ、撮影モードは、カメラで撮影するだけで撮影画像情報が得られる。すなわち、画像選択モードおよび撮影モードは、図形描画モードと比較して短時間で送信情報が得られる。スマートフォン、タブレット端末またはPCを使用する習慣があるユーザは、前述したような操作モードごとの情報取得に必要な時間の違いを経験上把握している。そこで、端末2Aは、通信相手側の端末2Aから通知された操作モードをディスプレイ10に表示させる。これにより、ユーザは、通信相手側の端末2Aにおける操作の完了時間を大まかに推測できる。
モード取得部7は、通信相手側の端末2Aで機能の実行が完了したか否かを確認する(ステップST9a)。例えば、モード取得部7は、通信部6によって通信相手側の端末2Aから機能の実行の完了を示す情報が受信されると(ステップST9a;YES)、通信相手側の端末2Aで機能の実行が完了したことを表示制御部8に通知する。また、通信部6によって通信相手側の端末2Aから機能の実行の完了を示す情報が受信されなければ(ステップST9a;NO)、モード取得部7は、上記確認処理を繰り返す。
表示制御部8は、通信相手側の端末2Aで機能の実行が完了した場合、通信相手側の端末2Aから通知された操作モードを非表示にする表示情報を生成し、ディスプレイ10に出力する。ディスプレイ10は、表示制御部8によって生成された表示情報に従って、通信相手側の端末2Aから通知された操作モードの表示を画面から消去(非表示)する(ステップST10a)。
なお、端末2Aが備える入力モード選択部3、音声入力部4a、キーボード入力部4b、通知部5、通信部6、モード取得部7、表示制御部8、操作受付部11、文字管理部13、軌跡判別部14、操作モード選択部17、図形描画部18a、画像選択部18b、撮影処理部18c、および各種処理部18dの機能は、処理回路により実現される。すなわち、端末2Aは、図10に示したステップST1aからステップST10aまでの処理を実行するための処理回路を備えている。処理回路は、図7に示した専用のハードウェアの処理回路107であってもよいし、図8に示したメモリ109に記憶されたプログラムを実行するプロセッサ108であってもよい。
図11は、図形の描画を行う送信側の端末2Aの画面10Aと受信側の端末2Aの画面10Bとを示す説明図である。操作モード選択部17は、ディスプレイ10とタッチパネルとを用いたユーザインタフェースとして実現される。例えば、表示制御部8が、操作モードごとに対応するボタン画像を表示させるための表示情報を生成する。ディスプレイ10は、表示制御部8によって生成された表示情報に従ってボタン画像を表示する。タッチパネルが、ボタン画像を押下する操作を検出すると、検出した操作情報を操作モード選択部17に出力する。操作モード選択部17は、当該操作情報に基づいて操作モードの選択を受け付ける。
操作モード選択部17が図形描画モードの選択を受け付けると、通知部5は、通信部6を介して、選択が受け付けられた図形描画モードを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aから通知された操作モード(図形描画モード)を画面10Bに表示する。例えば、画面10Bには「お絵描き入力中です」といったテキスト情報が表示される。送信側の端末2Aで描画された描画情報を含むメッセージは、通信部6を用いて受信側の端末2Aに送信される。受信側の端末2Aのユーザは、画面10Bに表示された操作モードを参照することによって、送信側の端末2Aにおける操作の完了時間を大まかに推測することができる。
図12は、画像選択操作を行う送信側の端末2Aの画面10Aと受信側の端末2Aの画面10Bとを示す説明図である。操作モード選択部17が画像選択モードの選択を受け付けると、通知部5は、通信部6を介して、選択が受け付けられた画像選択モードを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aから通知された操作モード(画像選択モード)を画面10Bに表示する。例えば、画面10Bには、「画像選択中です」といったテキスト情報が表示される。送信側の端末2Aにおいて選択された画像情報を含むメッセージは、通信部6を用いて受信側の端末2Aに送信される。受信側の端末2Aのユーザは、画面10Bに表示された操作モードを参照することによって、送信側の端末2Aにおける操作の完了時間を大まかに推測することができる。
図13は、カメラ撮影を行う送信側の端末2Aの画面10Aと受信側の端末2Aの画面10Bとを示す説明図である。操作モード選択部17が撮影モードの選択を受け付けると、通知部5は、通信部6を介して、選択が受け付けられた撮影モードを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aから通知された操作モード(撮影モード)を画面10Bに表示する。例えば、画面10Bには、「カメラ撮影中です」といったテキスト情報が表示される。送信側の端末2Aで選択された撮影画像情報を含むメッセージは、通信部6を用いて受信側の端末2Aに送信される。受信側の端末2Aのユーザは、画面10Bに表示された操作モードを参照することにより、送信側の端末2Aにおける操作の完了時間を大まかに推測することができる。
図14は、ツール選択と選択したツールを用いた図形の描画を行う送信側の端末2Aの画面10Aと受信側の端末2Aの画面10Bとを示す説明図である。図形描画操作には、描く線の太さ、線種および表示効果などの選択を受け付けるツール選択操作が含まれる。操作モード選択部17が図形描画モードの選択を受け付け、さらにツール選択操作モードの選択が受け付けられると、通知部5は、通信部6を介して、選択が受け付けられた操作モードを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aから通知された操作モード(ツール選択操作モード)を画面10Bに表示する。例えば、図14の上段に示すように、画面10Bには、「ツール選択中です」といったテキスト情報が表示される。
ツール選択操作は、例えば、画面10Aに表示されたツールボックス20を、タッチパネルを用いて操作することにより実行される。ツールボックス20は、描く線の太さ、線種および表示効果などが選択候補として表示される。ツール選択操作が完了して図形描画が開始されると、通知部5は、通信部6を介して、図形描画モードを受信側の端末2Aに通知する。受信側の端末2Aは、「ツール選択中です」といったテキスト情報を非表示とし、送信側の端末2Aから通知された図形描画モードを画面10Bに表示する。例えば、図14の中段に示すように、画面10Bには、「お絵描き入力中です」といったテキスト情報が表示される。
図14の下段に示すように、送信側の端末2Aの画面10Aで図形描画が完了すると、通知部5は、通信部6を介して図形描画が完了したことを受信側の端末2Aに通知する。受信側の端末2Aは、送信側の端末2Aで図形描画が完了したことが通知されると、画面10Bから、「お絵描き入力中です」というテキスト情報を非表示とする。これにより、受信側の端末2Aのユーザは、送信側の端末2Aでのメッセージの編集または作成が完了したことを推測できる。
また、表示制御部8は、通信相手側の端末2Aにおける情報の入力の完了が通知される前に、通信相手側の端末2Aから従前と異なる入力モードが通知された場合、または、通信相手側の端末2Aにおける操作の完了が通知される前に、通信相手側の端末2Aから入力モードが通知された場合に、新たに通知された入力モードを、ディスプレイ10の表示領域に表示するための表示情報を生成し、生成した表示情報に従って、新たに通知された入力モードをディスプレイ10に表示させる。これにより、端末2Aにおける入力モードの変化が逐次通知されるので、ユーザは、ディスプレイ10における入力モードの表示の変化によってメッセージ入力の待ち時間を推測することができる。
さらに、表示制御部8は、通信相手側の端末2Aにおける操作の完了が通知される前に、通信相手側の端末2Aから従前と異なる操作モードが通知された場合、または、通信相手側の端末2Aにおける情報の入力の完了が通知される前に、通信相手側の端末2Aから操作モードが通知された場合に、新たに通知された操作モードをディスプレイ10に表示するための表示情報を生成し、生成した表示情報に従って、新たに通知された操作モードをディスプレイ10に表示させる。これにより、端末2Aにおける操作モードの変化が逐次通知されるので、ユーザは、ディスプレイ10における操作モードの表示の変化によって操作完了までの待ち時間を推測することができる。
以上のように、実施の形態2に係る端末2Aにおいて、表示制御部8が、通信相手側の端末2Aから通知された操作モードを表示領域に表示するための表示情報を生成し、生成した表示情報に従って、ディスプレイ10が通信相手側の端末2Aから通知された操作モードを表示する。ユーザは、複数の種類の操作モードのそれぞれについての大まかな実行時間を経験上把握している。このため、端末2Aが、通信相手側の端末2Aから通知された操作モードをディスプレイ10に表示することにより、ユーザは、通信相手側の端末2Aにおける操作の完了時間を推測することができる。これにより、端末2間の通信によるコミュニケーションの臨場感を高められる。
なお、各実施の形態の組み合わせまたは実施の形態のそれぞれの任意の構成要素の変形もしくは実施の形態のそれぞれにおいて任意の構成要素の省略が可能である。
本開示に係る端末は、例えば、端末間で通信によりコミュニケーションを行うシステムに利用可能である。
1 入力表示システム、2,2A 端末、3 入力モード選択部、3a,3b ボタン画像、4a 音声入力部、4b キーボード入力部、5 通知部、6 通信部、7 モード取得部、8 表示制御部、9 文字列一時保存部、10 ディスプレイ、10A,10B 画面、11 操作受付部、12 文字管理データベース(DB)、13 文字管理部、14 軌跡判別部、15 キーボード、17 操作モード選択部、18a 図形描画部、18b 画像選択部、18c 撮影処理部、18d 各種処理部、20 ツールボックス、24 軌跡判別部、100 入力インタフェース、101 出力インタフェース、102 ディスプレイ、103 通信インタフェース、104 通信装置、105 入出力インタフェース、106 記憶装置、107 処理回路、108 プロセッサ、109 メモリ。

Claims (10)

  1. 音声の入力モードおよび文字の入力モードのうちから、入力モードの選択を受け付ける入力モード選択部と、
    前記入力モード選択部によって選択が受け付けられた入力モードを通信相手側の端末に通知する通知部と、
    前記入力モード選択部によって選択が受け付けられた入力モードによる情報の入力を受け付ける入力受付部と、
    前記通信相手側の端末から通知された入力モードを取得するモード取得部と、
    前記入力受付部によって入力が受け付けられた情報をディスプレイの表示領域に表示するための表示情報を生成する表示制御部と、
    を備え、
    前記表示制御部は、
    前記モード取得部によって前記通信相手側の端末から通知された入力モードが取得されると、取得した入力モードを前記表示領域に表示するための表示情報を生成し、生成した表示情報に従って前記通信相手側の端末から通知された入力モードを前記ディスプレイに表示させる
    ことを特徴とする端末。
  2. 前記表示制御部は、前記ディスプレイの表示領域に入力された曲線に沿って、前記入力受付部によって入力が受け付けられた文字列を表示するための表示情報を生成し、前記曲線に沿って配置された前記文字列を、生成した表示情報に従って前記ディスプレイに表示させる
    ことを特徴とする請求項1に記載の端末。
  3. 音声および文字の入力以外の操作でかつユーザが端末に対して行う複数の種類の操作をそれぞれ示す複数の操作モードのうちから、操作モードの選択を受け付ける操作モード選択部と、
    前記操作モード選択部によって選択が受け付けられた操作モードに対応する機能を実行する機能実行部と、
    を備え、
    前記通知部は、前記操作モード選択部によって選択が受け付けられた操作モードを前記通信相手側の端末に通知し、
    前記モード取得部は、前記通信相手側の端末から通知された操作モードを取得し、
    前記表示制御部は、前記モード取得部によって前記通信相手側の端末から通知された操作モードが取得されると、取得した操作モードを前記表示領域に表示するための表示情報を生成し、生成した表示情報に従って前記通信相手側の端末から通知された操作モードを前記ディスプレイに表示させる
    ことを特徴とする請求項1に記載の端末。
  4. 前記入力受付部は、音声認識により音声に対応する文字列の入力を受け付ける音声入力部、および、ソフトウェアのキーボードまたはハードウェアのキーボードを用いた文字列の入力を受け付けるキーボード入力部である
    ことを特徴とする請求項1に記載の端末。
  5. 前記操作モード選択部は、ユーザが端末の画面に図形の描画を行う操作モード、ユーザが端末を介して複数の画像情報から画像情報の選択を行う操作モード、および、ユーザが端末のカメラで撮影を行う操作モードのうちから、操作モードの選択を受け付け、
    前記機能実行部は、図形の描画を実行する図形描画部、複数の画像情報から前記画像情報を選択する画像選択部、および、カメラで撮影を行う撮影処理部である
    ことを特徴とする請求項3に記載の端末。
  6. 前記表示制御部は、前記通信相手側の端末における情報の入力の完了が通知された場合に、前記通信相手側の端末から通知された入力モードを非表示にするための表示情報を生成し、生成した表示情報に従って前記通信相手側の端末から通知された入力モードを、前記ディスプレイで非表示にする
    ことを特徴とする請求項1に記載の端末。
  7. 前記表示制御部は、前記通信相手側の端末における操作の完了が通知された場合に、前記通信相手側の端末から通知された操作モードを非表示にするための表示情報を生成し、生成した表示情報に従って前記通信相手側の端末から通知された操作モードを、前記ディスプレイで非表示にする
    ことを特徴とする請求項3に記載の端末。
  8. 前記表示制御部は、
    前記通信相手側の端末における情報の入力の完了が通知される前に、前記通信相手側の端末から従前と異なる入力モードが通知された場合、または、
    前記通信相手側の端末における操作の完了が通知される前に、前記通信相手側の端末から入力モードが通知された場合、
    新たに通知された入力モードを前記表示領域に表示するための表示情報を生成し、生成した表示情報に従って、新たに通知された入力モードを前記ディスプレイに表示させ、
    前記通信相手側の端末における操作の完了が通知される前に、前記通信相手側の端末から従前と異なる操作モードが通知された場合、または、
    前記通信相手側の端末における情報の入力の完了が通知される前に、前記通信相手側の端末から操作モードが通知された場合、
    新たに通知された操作モードを前記表示領域に表示するための表示情報を生成し、生成した表示情報に従って、新たに通知された操作モードを前記ディスプレイに表示させる
    ことを特徴とする請求項3に記載の端末。
  9. 入力モード選択部が、音声の入力モードおよび文字の入力モードのうちから、入力モードの選択を受け付けるステップと、
    通知部が、前記入力モード選択部によって選択が受け付けられた入力モードを通信相手側の端末に通知するステップと、
    入力受付部が、前記入力モード選択部によって選択が受け付けられた入力モードでの情報の入力を受け付けるステップと、
    モード取得部が、前記通信相手側の端末において選択された入力モードを取得するステップと、
    表示制御部が、前記入力受付部によって入力が受け付けられた情報をディスプレイの表示領域に表示するための表示情報を生成するステップと、
    を備え、
    前記表示制御部は、
    前記モード取得部によって前記通信相手側の端末から通知された入力モードが取得されると、取得した入力モードを前記表示領域に表示するための表示情報を生成し、生成した表示情報に従って前記通信相手側の端末から通知された入力モードを前記ディスプレイに表示させる
    ことを特徴とする入力表示方法。
  10. 端末間で通信により互いのディスプレイに情報を表示する入力表示システムであって、
    通信相手側の端末と通信する通信部と、
    音声の入力モードおよび文字の入力モードのうちから、入力モードの選択を受け付ける入力モード選択部と、
    前記入力モード選択部によって選択が受け付けられた入力モードを、前記通信部により前記通信相手側の端末に送信させて通知する通知部と、
    前記入力モード選択部によって選択が受け付けられた入力モードでの情報の入力を受け付ける入力受付部と、
    前記通信部によって前記通信相手側の端末から受信された入力モードを取得するモード取得部と、
    前記入力受付部によって入力が受け付けられた情報を前記ディスプレイの表示領域に表示するための表示情報を生成する表示制御部と、
    を備え、
    前記表示制御部は、
    前記モード取得部によって前記通信相手側の端末から通知された入力モードが取得されると、取得した入力モードを前記表示領域に表示するための表示情報を生成し、生成した表示情報に従って前記通信相手側の端末から通知された入力モードを前記ディスプレイに表示させる
    ことを特徴とする入力表示システム。
JP2021514639A 2020-11-19 2020-11-19 端末、入力表示方法および入力表示システム Active JP6972430B1 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/043230 WO2022107282A1 (ja) 2020-11-19 2020-11-19 端末、入力表示方法および入力表示システム

Publications (2)

Publication Number Publication Date
JP6972430B1 true JP6972430B1 (ja) 2021-11-24
JPWO2022107282A1 JPWO2022107282A1 (ja) 2022-05-27

Family

ID=78605653

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021514639A Active JP6972430B1 (ja) 2020-11-19 2020-11-19 端末、入力表示方法および入力表示システム

Country Status (6)

Country Link
US (1) US20230254392A1 (ja)
EP (1) EP4236271A4 (ja)
JP (1) JP6972430B1 (ja)
KR (1) KR102588052B1 (ja)
CN (1) CN116391352A (ja)
WO (1) WO2022107282A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016225869A (ja) * 2015-06-01 2016-12-28 株式会社リコー 情報処理装置、情報処理システム及びプログラム
JP2019161260A (ja) * 2018-03-07 2019-09-19 株式会社Nttドコモ 通信制御システム
JP2019179480A (ja) * 2018-03-30 2019-10-17 本田技研工業株式会社 会議システム、会議システム制御方法およびプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6519639B1 (en) * 1999-07-21 2003-02-11 Microsoft Corporation System and method for activity monitoring and reporting in a computer network
JP2003333561A (ja) * 2002-05-10 2003-11-21 Sumitomo Electric Ind Ltd モニタ画面表示方法、端末装置及びテレビ会議システム
JP2006140748A (ja) 2004-11-11 2006-06-01 Nippon Telegr & Teleph Corp <Ntt> 通信端末装置、コミュニケーション方法およびそのプログラム
US8006182B2 (en) * 2008-03-18 2011-08-23 International Business Machines Corporation Method and computer program product for implementing automatic avatar status indicators
JP2010118047A (ja) * 2008-10-16 2010-05-27 Sharp Corp 通信端末装置、通信方法、および通信プログラム
JP5278912B2 (ja) * 2009-12-15 2013-09-04 株式会社ワインスペース 通信装置、通信方法およびプログラム
CN104423562B (zh) * 2013-09-09 2019-04-26 联想(北京)有限公司 终端设备以及输入模式控制方法
US9658704B2 (en) * 2015-06-10 2017-05-23 Apple Inc. Devices and methods for manipulating user interfaces with a stylus
US9679497B2 (en) * 2015-10-09 2017-06-13 Microsoft Technology Licensing, Llc Proxies for speech generating devices
JP6292210B2 (ja) * 2015-11-16 2018-03-14 コニカミノルタ株式会社 画像形成システム、画像形成装置、およびプログラム
US20170180299A1 (en) * 2015-12-16 2017-06-22 Facebook, Inc. System and Method for Expanded Messaging Indicator
JP6727279B2 (ja) * 2018-12-04 2020-07-22 三菱電機株式会社 表示制御装置、入力表示システム、表示制御方法及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016225869A (ja) * 2015-06-01 2016-12-28 株式会社リコー 情報処理装置、情報処理システム及びプログラム
JP2019161260A (ja) * 2018-03-07 2019-09-19 株式会社Nttドコモ 通信制御システム
JP2019179480A (ja) * 2018-03-30 2019-10-17 本田技研工業株式会社 会議システム、会議システム制御方法およびプログラム

Also Published As

Publication number Publication date
KR102588052B1 (ko) 2023-10-11
KR20230070051A (ko) 2023-05-19
WO2022107282A1 (ja) 2022-05-27
EP4236271A4 (en) 2023-12-20
EP4236271A1 (en) 2023-08-30
CN116391352A (zh) 2023-07-04
JPWO2022107282A1 (ja) 2022-05-27
US20230254392A1 (en) 2023-08-10

Similar Documents

Publication Publication Date Title
US10486312B2 (en) Robot, robot control method, and robot system
CN107153496B (zh) 用于输入表情图标的方法和装置
TW201913300A (zh) 人機互動方法及系統
KR102193029B1 (ko) 디스플레이 장치 및 그의 화상 통화 수행 방법
JP6400445B2 (ja) 会話分析装置、会話分析システム、会話分析方法及び会話分析プログラム
JP5401386B2 (ja) 情報処理システム及び情報処理方法
US11972761B2 (en) Electronic device for sharing user-specific voice command and method for controlling same
CN104333688B (zh) 基于拍摄的图像生成表情符的设备和方法
CN111937376A (zh) 电子设备及其控制方法
JP7323098B2 (ja) 対話支援装置、対話支援システム、及び対話支援プログラム
JP2014146066A (ja) 文書データ生成装置、文書データ生成方法及びプログラム
WO2019190769A1 (en) Non-disruptive nui command
KR20190134975A (ko) 인공지능 시스템의 앱들 또는 스킬들의 리스트를 표시하는 증강 현실 장치 및 동작 방법
JP2022042423A (ja) 遠隔勤務支援システム及び遠隔勤務支援方法
WO2016206647A1 (zh) 用于控制机器装置产生动作的系统
CN107277368A (zh) 一种用于智能设备的拍摄方法及拍摄装置
JP6972430B1 (ja) 端末、入力表示方法および入力表示システム
JP6798258B2 (ja) 生成プログラム、生成装置、制御プログラム、制御方法、ロボット装置及び通話システム
JP6922178B2 (ja) 音声認識システム、情報処理装置、プログラム
CN116580707A (zh) 基于语音生成动作视频的方法和装置
JP2018045192A (ja) 音声対話装置および発話音量調整方法
KR20210037857A (ko) 관계 설정을 이용한 실감형 인공지능기반 음성 비서시스템
US11978252B2 (en) Communication system, display apparatus, and display control method
JP2020077272A (ja) 会話システムおよび会話プログラム
KR102178175B1 (ko) 사용자 단말 및 그 제어방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210316

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210316

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210401

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211102

R150 Certificate of patent or registration of utility model

Ref document number: 6972430

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150