JP2016181018A - 情報処理システムおよび情報処理方法 - Google Patents

情報処理システムおよび情報処理方法 Download PDF

Info

Publication number
JP2016181018A
JP2016181018A JP2015059565A JP2015059565A JP2016181018A JP 2016181018 A JP2016181018 A JP 2016181018A JP 2015059565 A JP2015059565 A JP 2015059565A JP 2015059565 A JP2015059565 A JP 2015059565A JP 2016181018 A JP2016181018 A JP 2016181018A
Authority
JP
Japan
Prior art keywords
mode
unit
phrase
information
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015059565A
Other languages
English (en)
Inventor
祐平 滝
Yuhei Taki
祐平 滝
真一 河野
Shinichi Kono
真一 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2015059565A priority Critical patent/JP2016181018A/ja
Priority to EP16768103.0A priority patent/EP3276484A4/en
Priority to PCT/JP2016/050905 priority patent/WO2016152200A1/ja
Priority to US15/558,265 priority patent/US10747499B2/en
Publication of JP2016181018A publication Critical patent/JP2016181018A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/10Office automation; Time management
    • G06Q10/109Time management, e.g. calendars, reminders, meetings or time accounting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • G10L2015/088Word spotting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols

Abstract

【課題】ユーザに対して情報入力をより柔軟に行わせることが可能な技術が提供されることが望まれる。【解決手段】情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、前記情報入力モードを前記文字単位入力モードから句単位入力モードに切り替えるモード制御部、を備える、情報処理システムが提供される。【選択図】図9

Description

本開示は、情報処理システムおよび情報処理方法に関する。
近年、情報入力のためにユーザに掛かる負荷を軽減するための様々な技術が開示されている。例えば、ユーザによって入力された文章を分割して所定の欄に挿入または修正する技術が開示されている(例えば、特許文献1参照。)。また、情報入力の形式としては、一文字単位で情報を入力する形式が普及している。
特開2012−53634号公報
しかし、常に一文字単位でユーザに情報入力を行わせる場合、ユーザに対して情報入力を柔軟に行わせることが困難である。そこで、ユーザに対して情報入力をより柔軟に行わせることが可能な技術が提供されることが望まれる。
本開示によれば、情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、前記情報入力モードを前記文字単位入力モードから句単位入力モードに切り替えるモード制御部、を備える、情報処理システムが提供される。
本開示によれば、プロセッサにより、情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、前記情報入力モードを前記文字単位入力モードから句単位入力モードに切り替えること、を含む、情報処理方法が提供される。
以上説明したように本開示によれば、ユーザに対して情報入力をより柔軟に行わせることが可能な技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
本開示の実施形態に係る情報処理システムの構成例を示す図である。 同実施形態に係る情報処理システムの機能構成例を示すブロック図である。 文字単位入力モードおよび句単位入力モードそれぞれにおいて表示される画面の例を示す図である。 句単位挿入モード、句単位上書きモードおよび句単位入れ替えモードそれぞれの間の情報入力モードの切り替えの例について説明するための図である。 カーソルの位置を移動させる手法の例を説明するための図である。 カーソルの位置を移動させる手法の例を説明するための図である。 カーソルの位置を移動させる手法の例を説明するための図である。 カーソルの位置を移動させる手法の例を説明するための図である。 句単位挿入モードと句単位上書きモードとが共存する場合について説明するための図である。 句単位上書きモードと句単位入れ替えモードとが共存する場合について説明するための図である。 句単位挿入モードと句単位上書きモードと句単位入れ替えモードとが共存する場合について説明するための図である。 文字単位入力モードにおいて入力された情報を句化しない場合を説明するための図である。 カーソルを音声によって移動させる例を説明するための図である。 カーソルを音声によって移動させる例を説明するための図である。 カーソルを音声によって移動させる例を説明するための図である。 カーソルを音声によって移動させる例を説明するための図である。 翻訳前に改善すべき部分をユーザに提示する例を示す図である。 情報処理システムのシステム構成の変形例を示す図である。 情報処理システムのシステム構成の変形例を示す図である。 情報処理システムのシステム構成の変形例を示す図である。 情報処理システムのシステム構成の変形例を示す図である。 情報処理システムのハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
1.本開示の実施形態
1.1.システム構成例
1.2.機能構成例
1.3.情報処理システムの機能詳細
1.4.システム構成の変形例
1.5.ハードウェア構成例
2.むすび
<1.本開示の実施形態>
[1.1.システム構成例]
まず、図面を参照しながら本開示の実施形態に係る情報処理システム10の構成例について説明する。図1は、本開示の実施形態に係る情報処理システム10の構成例を示す図である。図1に示したように、本開示の実施形態に係る情報処理システム10は、画像入力部110と、操作入力部115と、集音部120と、出力部130とを備える。情報処理システム10は、ユーザU(以下、単に「ユーザ」とも言う。)によって発せられた音声に対して音声認識処理を行うことが可能である。
図1に示した例では、情報処理システム10はタブレット端末であるが、情報処理システム10の形態は特に限定されない。例えば、情報処理システム10は、スマートフォンであってもよいし、携帯電話であってもよい。あるいは、後に説明するように、情報処理システム10は、ゲーム機などであってもよい。なお、以下の説明において、音声(voiceまたはspeech)と音(sound)とは区別して用いられる。
画像入力部110は、画像を入力する機能を有する。図1に示した例では、画像入力部110は、情報処理システム10に埋め込まれた2つのカメラを含んでいる。しかし、画像入力部110に含まれるカメラの数は1以上であれば特に限定されない。かかる場合、画像入力部110に含まれる1以上のカメラそれぞれが設けられる位置も特に限定されない。また、1以上のカメラには、単眼カメラが含まれてもよいし、ステレオカメラが含まれてもよい。
操作入力部115は、ユーザUの操作を入力する機能を有する。図1に示した例では、操作入力部115は、タッチパネルを含んでいる。タッチパネルが採用する方式は特に限定されず、静電容量方式であってもよいし、抵抗膜方式であってもよいし、赤外線方式であってもよいし、超音波方式であってもよい。また、操作入力部115はユーザUの操作を入力する機能を有していればタッチパネルでなくてもよく、例えば、カメラであってもよいし、ハードウェアボタンであってもよい。
出力部130は、画面を表示する機能を有する。図1に示した例では、出力部130は、操作入力部115に積層されており、操作入力部115と出力部130との間で対応する位置同士が重なり合っている。しかし、出力部130が設けられる位置は特に限定されない。また、典型的には、出力部130は、液晶ディスプレイや有機EL(Electro−Luminescence)ディスプレイなどであってよいが、画面を表示する機能を有すれば、他の形態のディスプレイであってもよい。
集音部120は、集音によって音情報を得る機能を有する。図1に示した例では、集音部120は、タブレット端末の上端に存在する3つのマイクロフォンとタブレット端末の下端に存在する3つのマイクロフォンとの合計6つのマイクロフォンを含んでいる。しかし、集音部120に含まれるマイクロフォンの数は1以上であれば特に限定されない。また、集音部120に含まれる1以上のマイクロフォンそれぞれが設けられる位置も特に限定されない。
ただし、集音部120が、複数のマイクロフォンを含んでいれば、複数のマイクロフォンそれぞれの集音によって得られた音情報に基づいて音の到来方向が推定され得る。また、集音部120が指向性を有するマイクロフォンを含んでいれば、指向性を有するマイクロフォンの集音によって得られた音情報に基づいて音の到来方向が推定され得る。
以上、本開示の実施形態に係る情報処理システム10の構成例について説明した。
[1.2.機能構成例]
続いて、本開示の実施形態に係る情報処理システム10の機能構成例について説明する。図2は、本開示の実施形態に係る情報処理システム10の機能構成例を示すブロック図である。図2に示したように、本開示の実施形態に係る情報処理システム10は、画像入力部110と、操作入力部115と、集音部120と、出力部130と、情報処理装置140(以下、「制御部140」とも言う。)と、を備える。
情報処理装置140は、情報処理システム10の各部の制御を実行する。例えば、情報処理装置140は、出力部130から出力する情報を生成する。また、例えば、情報処理装置140は、画像入力部110、操作入力部115および集音部120それぞれが入力した情報を、出力部130から出力する情報に反映させる。図2に示したように、情報処理装置140は、入力画像取得部141と、音情報取得部142と、操作検出部143と、モード制御部144と、認識制御部145と、音声認識部146と、出力制御部147とを備える。これらの各機能ブロックについての詳細は、後に説明する。
なお、情報処理装置140は、例えば、CPU(Central Processing Unit;中央演算処理装置)などで構成されていてもよい。情報処理装置140がCPUなどといった処理装置によって構成される場合、かかる処理装置は、電子回路によって構成され得る。
以上、本開示の実施形態に係る情報処理システム10の機能構成例について説明した。
[1.3.情報処理システムの機能詳細]
続いて、本開示の実施形態に係る情報処理システム10の機能詳細について説明する。本開示の実施形態においては、モード制御部144が、情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、情報入力モードを文字単位入力モードから句単位入力モードに切り替える。かかる構成によれば、第1のトリガが検出された場合に、情報入力モードが自動的に文字単位入力モードから句単位入力モードに切り替わるため、ユーザに対して情報入力をより柔軟に行わせることが可能となる。
ここで、第1のトリガは、特に限定されないが、例えば、所定の音声入力開始トリガを含んでよい。音声入力開始トリガは、特に限定されないが、例えば、ユーザによる所定の音声入力開始操作を含んでよい。音声入力開始操作も特に限定されないが、例えば、音声入力開始ボタンを押下する操作(例えば、出力部130によって表示されている音声入力開始操作オブジェクトを押下する操作、音声入力を開始するためのハードウェアボタンを押下する操作など)であってもよい。
あるいは、音声入力開始操作は、所定の音声入力開始コマンド(例えば、「音声」という発話など)を実行する操作であってもよい。あるいは、音声入力開始操作は、所定の音声入力開始ジェスチャ(例えば、手の振り上げ、手の振り下ろし、顔の動き(例えば、うなずき、左右に顔を傾ける動作など)など)であってもよい。あるいは、音声入力開始操作は、情報処理システム10に与えられる所定の音声入力開始動き(例えば、情報処理システム10の振り上げ、情報処理システム10の振り下げなど)であってもよい。
また、音声入力開始トリガは、音声らしさが閾値を上回る音情報が集音部120から取得されたことを含んでもよい。以下では、音声入力開始トリガが、音声入力開始操作であり、特に、出力部130に表示されている音声入力開始操作オブジェクトを押下する操作である場合を例として説明する。すなわち、操作検出部143によって、音声入力開始操作オブジェクトを押下する操作が検出されると、音声入力が開始される。
なお、音情報から音声らしさを評価する手法は特に限定されない。例えば、音情報から音声らしさを評価する手法として、特許文献(特開2010−38943号公報)に記載されている手法を採用することも可能である。また、例えば、音情報から音声らしさを評価する手法として、特許文献(特開2007−328228号公報)に記載されている手法を採用することも可能である。ここでは、音声らしさの評価が、モード制御部144によって行われる例を説明するが、音声らしさの評価は、図示しないサーバによって行われてもよい。
一方、モード制御部144は、情報入力モードとして句単位入力モードが実行されているときに所定の第2のトリガが検出された場合に、情報入力モードを句単位入力モードから文字単位入力モードに切り替える。かかる構成によれば、第2のトリガが検出された場合に、情報入力モードが自動的に句単位入力モードから文字単位入力モードに切り替わるため、ユーザに対して情報入力をさらに柔軟に行わせることが可能となる。
ここで、第2のトリガは、特に限定されないが、例えば、所定の音声入力終了トリガを含んでよい。音声入力終了トリガは、特に限定されないが、例えば、ユーザによる所定の音声入力終了操作を含んでもよい。音声入力終了操作も特に限定されないが、例えば、音声入力終了ボタンを押下する操作(例えば、出力部130によって表示されている音声入力終了操作オブジェクトを押下する操作、音声入力を終了するためのハードウェアボタンを押下する操作など)であってよい。
あるいは、音声入力終了操作は、所定の音声入力終了コマンド(例えば、「Qwerty」という発話など)を実行する操作であってもよい。あるいは、音声入力終了操作は、所定の音声入力終了ジェスチャ(例えば、音声入力開始ジェスチャの例として列挙したジェスチャのうち、音声入力開始ジェスチャと重複しないジェスチャなど)であってもよい。あるいは、音声入力終了操作は、情報処理システム10に与えられる所定の音声入力終了動き(例えば、音声入力開始動きの例として列挙した動きのうち、音声入力開始動きと重複しない動きなど)であってもよい。
あるいは、音声入力終了トリガは、音声認識処理の終了を含んでもよい。音声認識処理は、音声認識処理が開始されてから所定の時間が経過したときに終了してもよい。あるいは、音声認識処理は、音声認識処理が開始された後、集音部120から取得される音情報の音量が所定の閾値を下回る時間が所定の継続時間を超えたときに終了してもよい。以下では、音声入力終了トリガが音声認識処理の終了である場合を例として説明する。すなわち、音声認識処理が終了すると、音声入力が終了される。
句は1以上の単語によって構成され、ユーザが発話しやすい単位で区切られるのが好ましい。例えば、句は、文節を含んでもよく、句や文節を所定のルールで接続して得られるまとまりも含み得る。ここで、所定のルールは特に限定されないが、句読点の前後にある句は接続しないといったルールや、前置詞句は必ず前の句と接続するといったルール、名詞句と名詞句の後にくる動詞句とは接続するなどといったルールであってよい。また、雑音などの周辺環境に応じて句同士の接続が動的に変更されてもよい。
文字単位入力モードと句単位入力モードそれぞれにおける情報入力の形式は限定されない。しかし、文字単位での情報入力のように入力すべき情報が短ければ、ユーザによって発せられた音声に対する音声認識処理に失敗しやすく、ユーザも発話をしにくいと考えられる。そこで、出力制御部147は、情報入力モードとして文字単位入力モードが実行されているときに、操作入力部115から得られた入力情報を文字単位で出力部130に出力させる場合を想定する。以下では、かかる場合について主に説明する。
また、句単位での情報入力のように入力すべき情報が長ければ、ユーザによって発せられた音声に対する音声認識処理に成功しやすい一方、操作入力部115に対する操作も煩雑になりやすいと考えられる。そこで、認識制御部145は、情報入力モードとして句単位入力モードに含まれる所定の音声入力モードが実行されているときには、集音部120から取得される音情報に対する音声認識処理を音声認識部146に行わせるとよい。
そして、出力制御部147は、情報入力モードとして句単位入力モードに含まれる音声入力モードが実行されているときに、音声認識処理の結果を句単位で出力部130に出力させる場合を想定する。以下では、かかる場合について主に説明する。なお、音声入力モードは、音声入力を必要とするモードであれば特に限定されないが、後に説明する例では「句単位挿入モード」および「句単位上書きモード」に相当する。
図3は、文字単位入力モードおよび句単位入力モードそれぞれにおいて表示される画面の例を示す図である。図3に示すように、文字入力開始時において情報入力モードとして文字単位入力モードが実行される場合、出力制御部147は、文字単位入力画面G10−1を表示させる。文字単位入力画面G10−1には、音声入力を開始させるための音声入力開始操作オブジェクトG14、入力情報の表示欄である表示欄G11が含まれる。出力制御部147は、操作入力部115(例えば、文字単位入力画面G10−1におけるキーボード)から得られた入力情報を文字単位で表示欄G11に表示させる。
また、文字単位入力画面G10−1には、表示欄G11に表示されている情報を全部削除するための全削除操作オブジェクトG12、表示欄G11に表示されている情報を確定するための確定操作オブジェクトG13が含まれる。また、文字単位入力画面G10−1には、表示欄G11におけるカーソル位置を前方に戻すための前方移動操作オブジェクトG15、表示欄G11におけるカーソル位置を後方に進めるための後方移動操作オブジェクトG16、カーソル位置の文字または単語を削除するための削除操作オブジェクトG17が含まれる。
まず、文字単位入力画面G10−2に示すように、ユーザが所定の音声入力開始操作(例えば、音声入力開始操作オブジェクトG14を選択する操作)を操作入力部115に入力すると、音声入力開始操作が操作検出部143によって検出され、モード制御部144は、情報入力モードを文字単位入力モードから句単位入力モードに切り替え、出力制御部147は、句単位入力画面G10−3を表示させる。句単位入力モードでは、音声による情報入力が可能となるため、ユーザは集音部120に向かって発話を開始する。集音部120は、集音により音情報を得る。
集音中画面G10−4に示すように、集音部120の集音によって得られた音情報が音情報取得部142によって取得されると、出力制御部147は、所定のオブジェクト(以下、「表示オブジェクト」とも言う。)Muを表示させる。表示オブジェクトMuは、静止していてもよいし、画面G10−4に示したように動きを有していてもよい。例えば、表示オブジェクトMuが動きを有する場合、表示オブジェクトMuの移動方向Deは、ユーザによる発話音声の音源から集音部120への到来方向に応じて決まってよい。なお、ユーザによる発話音声の到来方向の推定手法も特に限定されない。
例えば、認識制御部145は、音声入力開始操作オブジェクトG14を選択する操作を行ったユーザの指方向(例えば、指の根元から指先への方向)に一致または類似する1の到来方向をユーザによる発話音声の到来方向として推定してもよい。類似範囲はあらかじめ定められていてよい。また、指方向は、入力画像取得部141によって取得された入力画像を解析することによって取得されてよい。あるいは、指方向は、操作検出部143によって検出される指の形状を解析することによって取得されてもよい。
あるいは、認識制御部145は、集音部120によって入力された音の到来方向をユーザによる発話音声の到来方向として推定してもよい。音の到来方向が複数あった場合には、複数の到来方向のうち最初に入力された音の到来方向をユーザによる発話音声の到来方向として推定してもよいし、複数の到来方向のうち音声入力開始操作オブジェクトG14を選択する操作を行ったユーザの指方向に一致または類似する1の到来方向をユーザによる発話音声の到来方向として推定してもよい。
あるいは、認識制御部145は、複数の到来方向のうち集音部120によって最も大きな音量で入力された音の到来方向をユーザによる発話音声の到来方向として推定してもよい。このようにしてユーザによる発話音声の到来方向が推定され得る。一方において、認識制御部145は、ユーザによる発話音声の到来方向以外の方向から集音部120によって入力された音をノイズとして取得してよい。
また、図3には、出力制御部147が、ユーザによる発話音声の到来方向(移動方向De)に表示オブジェクトMuを移動させる例が示されている。これによって、ユーザは自分の発話音声が集音部120によって集音されていることを直感的に把握することが可能となる。しかし、表示オブジェクトMuの動きは、かかる動きに限定されない。また、図3には、表示オブジェクトMuの移動先が、音声入力開始操作オブジェクトG14である例が示されている。しかし、表示オブジェクトMuの移動先は、かかる例に限定されない。
また、図3には、出力制御部147が、集音部120による集音に応じて次々と出現した円形状の表示オブジェクトMuを移動させる例が示されているが、表示オブジェクトMuの表示態様はかかる例に限定されない。例えば、出力制御部147は、音情報に応じた所定の情報(例えば、音情報の音声らしさ、音量など)に基づいて表示オブジェクトMuの各種パラメータを制御してよい。このときに用いられる音情報は、ユーザによる発話音声の到来方向からの音情報であるとよい。また、表示オブジェクトMuのパラメータは、表示オブジェクトMuの形状、透明度、色、サイズおよび動きのうち、少なくともいずれか一つを含んでもよい。
認識制御部145は、音情報取得部142によって取得された音情報に対する音声認識処理を音声認識部146に開始させる。音情報に対する音声認識処理を開始させるタイミングは限定されない。例えば、認識制御部145は、表示オブジェクトMuが音声入力開始操作オブジェクトG14に到達してから、表示オブジェクトMuに対応する音情報に対する音声認識処理を音声認識部146に開始させてよい。また、音声認識処理は、既に説明したようなタイミングで終了されてよい。
句単位入力モードとしては、様々なモードが想定され得る。例えば、句単位入力モードは、句単位挿入モード、句単位上書きモードおよび句単位入れ替えモードの少なくともいずれか一つを含んでもよい。以下では、句単位入力モードとして、句単位挿入モード、句単位上書きモードおよび句単位入れ替えモードが存在する場合を主に説明する。図4は、句単位挿入モード、句単位上書きモードおよび句単位入れ替えモードそれぞれの間の情報入力モードの切り替えの例について説明するための図である。
図4を参照すると、入力情報の表示欄である表示欄G11の例として、「文字単位入力モード」における表示欄G11−0が示されている。表示欄G11−0においては、入力情報が文字単位で表示されている。また、「句単位入力モード」の例として、「句単位挿入モード」における表示欄G11−1、「句単位上書きモード」における表示欄G11−2および「句単位入れ替えモード」における表示欄G11−3が示されている。表示欄G11−1〜G11−3においては、入力情報が句単位で表示されている。
ここで、「文字単位入力モード」においては、出力制御部147は、操作検出部143によって検出された情報を文字単位でカーソルFcの位置に挿入する。一方、「句単位挿入モード」は、カーソルFcが存在する句間位置に音声認識処理の結果を挿入するモードであってよい。「句単位上書きモード」は、カーソルFcが存在する位置の句を音声認識処理の結果で上書きするモードであってよい。また、「句単位入れ替えモード」は、カーソルFcが存在する位置の句を入れ替え候補Rpに入れ替えるモードであってよい。入れ替え候補Rpへの入れ替えは、入れ替え候補Rpの選択操作をトリガとして行われてよい。また、図4に示すように、カーソルFcが当てられている句は、反転表示されてよい。
カーソルFcの位置は、様々な操作によって移動させることが可能である。図5〜図8は、カーソルFcの位置を移動させる手法の例を説明するための図である。図5に示すように、出力制御部147は、句自体を選択する操作(例えば、句自体をタップする操作など)が検出された場合、カーソルFcをその句の上に移動させてよい。また、図6に示すように、出力制御部147は、句間位置を選択する操作(例えば、句間位置をタップする操作など)が検出された場合、カーソルFcをその句間位置に移動させてよい。
また、図7に示すように、出力制御部147は、前方移動操作オブジェクトG15を選択する操作(例えば、前方移動操作オブジェクトG15をタップする操作など)が検出された場合、カーソルFcを前方に移動させてよい。前方への移動は、隣接する前方への移動であってよい。例えば、カーソルFcは、句の上と句間位置とを交互に前方に移動してもよいし、句の上のみを前方に移動してもよいし、句間位置のみを前方に移動してもよい。これらの前方への移動の仕方は、後に説明するように複数のモード間の共存によって変わってもよい。
また、図8に示すように、出力制御部147は、後方移動操作オブジェクトG16を選択する操作(例えば、後方移動操作オブジェクトG16をタップする操作など)が検出された場合、カーソルFcを後方に移動させてよい。後方への移動先は、隣接する後方への移動であってよい。例えば、カーソルFcは、句の上と句間位置とを交互に後方に移動してもよいし、句の上のみを後方に移動してもよいし、句間位置のみを後方に移動してもよい。これらの後方への移動の仕方は、後に説明するように複数のモード間の共存によって変わってもよい。
図5〜図8に示した例では、句単位でカーソルFcを移動させる例を説明した。しかし、文字単位でカーソルFcを移動させることも可能である。例えば、出力制御部147は、文字と文字との間を選択する操作(例えば、文字と文字との間をタップする操作など)が検出された場合、カーソルFcをその位置に移動させてよい。また、出力制御部147は、前方移動操作オブジェクトG15を選択する操作が検出された場合、カーソルFcを文字単位で前方に移動させてよく、後方移動操作オブジェクトG16を選択する操作が検出された場合、カーソルFcを文字単位で後方に移動させてよい。
情報入力モード間の切り替えの例としては、様々な例が挙げられる。例えば、モード制御部144は、情報入力モードとして「文字単位入力モード」が実行されているときに、操作検出部143によって音声入力開始操作が検出されると、情報入力モードを「文字単位入力モード」から「句単位挿入モード」に切り替えてもよい。一方、モード制御部144は、情報入力モードとして「句単位挿入モード」が実行されているときに、音声認識処理が終了すると、情報入力モードを「句単位挿入モード」から「文字単位入力モード」に切り替えてもよい。
また、モード制御部144は、情報入力モードとして「句単位上書きモード」が実行されているときに、音声認識処理が終了すると、情報入力モードを「句単位上書きモード」から「文字単位入力モード」に切り替えてもよい。また、モード制御部144は、情報入力モードとして「句単位入れ替えモード」が実行されているときに、音声認識処理が終了すると、情報入力モードを「句単位入れ替えモード」から「文字単位入力モード」に切り替えてもよい。
また、モード制御部144は、情報入力モードとして「句単位挿入モード」が実行されているときに、音声認識部146によって音声認識処理の結果が取得された場合、情報入力モードを「句単位挿入モード」から「句単位入れ替えモード」に切り替えてもよい。同様に、モード制御部144は、情報入力モードとして「句単位上書きモード」が実行されているときに、音声認識部146によって音声認識処理の結果が取得された場合、情報入力モードを「句単位上書きモード」から「句単位入れ替えモード」に切り替えてもよい。
また、モード制御部144は、情報入力モードとして「句単位入れ替えモード」が実行されているときに、所定の上書き開始トリガが検出された場合に、情報入力モードを「句単位入れ替えモード」から「句単位上書きモード」に切り替えてもよい。上書き開始トリガは、音声入力終了トリガの例として列挙したトリガのうち、音声入力終了トリガと重複しないトリガなどであってもよい。
モード制御部144は、情報入力モードとして「句単位入れ替えモード」が実行されているときに、所定の挿入開始トリガが検出された場合に、情報入力モードを「句単位入れ替えモード」から「句単位挿入モード」に切り替えてもよい。挿入開始トリガは、上書き開始トリガの例として列挙したトリガのうち、上書き開始トリガと重複しないトリガなどであってもよい。
あるいは、「句単位入れ替えモード」においてカーソルFcの位置が句の上と句間位置とのいずれにも移動させることが可能である場合には、モード制御部144は、カーソルFcの位置が句の上と句間位置とのいずれであるかに応じて、「句単位上書きモード」情報入力モードをおよび「句単位挿入モード」のいずれに切り替えるかを決めればよい。そのときには、上書き開始トリガと挿入開始トリガとは別個に設けなくてよく、共通であってよい。
以上においては、「文字単位入力モード」「句単位挿入モード」「句単位上書きモード」および「句単位入れ替えモード」それぞれが独立して存在する場合について説明した。しかし、これらのモードは、一部が共存していてもよい。以下、これらのモードは、一部が共存している場合について説明する。まず、句単位挿入モードと句単位上書きモードとが共存する場合について説明する。図9は、句単位挿入モードと句単位上書きモードとが共存する場合について説明するための図である。
表示欄G11−4Xは、句の上にカーソルFcが存在するときの入力情報の表示欄である。また、表示欄G11−4Yは、句間位置にカーソルFcが存在するときの入力情報の表示欄である。句単位挿入モードおよび句単位上書きモードが実行されているときには(表示欄G11−4Xおよび表示欄G11−4Yでは)、出力制御部147は、カーソルFcを句の上と句間位置との間で交互に移動させることが可能である。
そして、モード制御部144は、カーソルFcが句間位置から句の上に移動された場合、情報入力モードを句単位挿入モード(表示欄G11−4Y)から句単位上書きモード(表示欄G11−4X)に切り替える。一方、モード制御部144は、カーソルFcが句の上から句間位置に移動された場合、情報入力モードを句単位上書きモード(表示欄G11−4X)から句単位挿入モード(表示欄G11−4Y)に切り替える。他のモード間の切り替えタイミングなどについては、既に説明した通りである。
以上に説明したように、句単位挿入モードと句単位上書きモードとが共存する場合においては、簡易なモード切り替えによって句単位の挿入と句単位の上書きとを行うことが可能である。したがって、句単位挿入モードと句単位上書きモードとが共存する場合においては、音声入力の自由度を向上させることが可能となる。
続いて、句単位上書きモードと句単位入れ替えモードとが共存する場合について説明する。図10は、句単位上書きモードと句単位入れ替えモードとが共存する場合について説明するための図である。表示欄G11−5Xは、句単位上書きモードと句単位入れ替えモードとが共存する場合における入力情報の表示欄である。句単位上書きモードおよび句単位入れ替えモードにおいては(表示欄G11−5Xでは)、モード制御部144は、カーソルFcが句の上に存在する状態において、集音部120から音情報が取得された場合、音情報に対する音声認識処理の結果によってカーソルFcの位置の句を上書きする。
一方、句単位上書きモードおよび句単位入れ替えモードにおいては(表示欄G11−5Xでは)、モード制御部144は、カーソルFcが句の上に存在する状態において、操作検出部143によって入れ替え候補Rpを選択する操作が検出された場合、選択された入れ替え候補RpとカーソルFcの位置の句とを入れ替える。他のモード間の切り替えタイミングなどについては、既に説明した通りである。
以上に説明したように、句単位上書きモードと句単位入れ替えモードとが共存する場合においては、入れ替え候補Rpの中にユーザの希望する候補が見当たらなかった場合であっても、情報入力モードの容易な切り替えを行って音声によって句を上書きすることが可能となる。したがって、句単位上書きモードと句単位入れ替えモードとが共存する場合においては、情報入力モードの切り替えの手間を軽減することが可能となる。
続いて、句単位挿入モードと句単位上書きモードと句単位入れ替えモードとが共存する場合について説明する。図11は、句単位挿入モードと句単位上書きモードと句単位入れ替えモードとが共存する場合について説明するための図である。表示欄G11−6Xは、句間位置にカーソルFcが存在するときの入力情報の表示欄である。表示欄G11−6Yは、句の上にカーソルFcが存在するときの入力情報の表示欄である。出力制御部147は、カーソルFcを句の上と句間位置との間で交互に移動させることが可能である。
そして、モード制御部144は、カーソルFcが句間位置から句の上に移動された場合、情報入力モードを句単位挿入モード(表示欄G11−6X)から句単位上書きモードおよび句単位入れ替えモード(表示欄G11−6Y)に切り替える。一方、モード制御部144は、カーソルFcが句の上から句間位置に移動された場合、情報入力モードを句単位上書きモードおよび句単位入れ替えモード(表示欄G11−6Y)から句単位挿入モード(表示欄G11−6X)に切り替える。
句単位上書きモードおよび句単位入れ替えモードにおいては(表示欄G11−6Yでは)、モード制御部144は、カーソルFcが句の上に存在する状態において、集音部120から音情報が取得された場合、音情報に対する音声認識処理の結果によってカーソルFcの位置の句を上書きする。
一方、句単位上書きモードおよび句単位入れ替えモードにおいては(表示欄G11−6Yでは)、モード制御部144は、カーソルFcが句の上に存在する状態において、操作検出部143によって入れ替え候補Rpを選択する操作が検出された場合、選択された入れ替え候補RpとカーソルFcの位置の句とを入れ替える。他のモード間の切り替えタイミングなどについては、既に説明した通りである。
以上に説明したように、句単位挿入モードと句単位上書きモードと句単位入れ替えモードとが共存する場合においては、情報入力モードの容易な切り替えを行って句を挿入したり、句を上書きしたり、句を入れ替えたりすることが可能性となる。したがって、句単位挿入モードと句単位上書きモードと句単位入れ替えモードとが共存する場合においては、情報入力モードの切り替えの手間をさらに軽減することが可能となる。
上記した例においては、情報入力モードが句単位入力モードであるか否かに関わらず、入力情報を句化することを想定したが、文字単位入力モードにおいて入力された情報は、句化しないようにしてもよい。図12は、文字単位入力モードにおいて入力された情報を句化しない場合を説明するための図である。表示欄G11−6Zは、文字単位入力モードから句単位挿入モードに切り替えられたときの入力情報の表示欄である。
表示欄G11−6Zには、文字単位入力モードにおいて入力された情報が表示されているが、句化はされていない。一方、表示欄G11−6Wに示すように、音声認識処理の結果が新たに入力情報として挿入されると、出力制御部147は、新たに入力された入力情報を句化する。なお、図12には、句単位挿入モードと句単位上書きモードと句単位入れ替えモードとが共存する例が示されているが、句単位挿入モードと句単位上書きモードと句単位入れ替えモードとの関係は特に限定されないため、例えば、図9〜図11を参照しながら説明したいずれの関係であってもよい。
以上に説明したように、句単位入力モードにおいて入力された情報を句化する一方、文字単位入力モードにおいて入力された情報を句化しないようにすることが可能である。これによって、句単位入力モードにおいて入力された情報(音声認識処理の結果)がどのように句化されたのかをユーザに容易に把握させることが可能となる。
上記においては、句単位入力モードにおいてカーソルFcをボタン操作によって移動させる例を説明した。しかし、カーソルFcは、音声によって移動させることも可能である。例えば、出力制御部147は、句間位置または句に対応する識別情報を配置し、音声認識処理の結果として識別情報が認識された場合に、識別情報に対応する句間位置または句にカーソルFcを移動させてもよい。このようにすれば、カーソルFcを簡易に移動させることが可能となる。
具体的な例について説明する。図13〜図16は、カーソルFcを音声によって移動させる例を説明するための図である。図13を参照すると、出力制御部147は、句間位置に対応する識別情報として「1」〜「6」を配置し、句に対応する識別情報として「A」〜「E」を配置している。このように、出力制御部147は、すべての句間位置および句に対応する識別情報を配置してもよい。
また、図14を参照すると、出力制御部147は、現在のカーソルFcの位置を基準として、一つ前方にある句と二つ前方にある句との間から、一つ後方にある句と二つ前方にある句との間までの範囲内の句間位置に対応する識別情報として「1」〜「4」を配置し、その範囲内の句に対応する識別情報として「A」〜「C」を配置している。このように、出力制御部147は、現在のカーソルFcの位置を基準として所定の範囲内の句間位置および句に対応する識別情報を配置してもよい。
また、図15を参照すると、出力制御部147は、句間位置および句のうち、現在のカーソルFcの位置を基準として、二つ前方にある句以前、および、二つ後方にある句以降の句間位置および句に対応する識別情報として「1」「2」「A」「B」を配置している。このように、出力制御部147は、現在のカーソルFcの位置を基準として所定の範囲外の句間位置および句に対応する識別情報を配置してもよい。
また、図16を参照すると、出力制御部147は、句読点の位置に対応する識別情報として「1」「2」を配置している。このように、出力制御部147は、文と文との区切り目(例えば、句読点の位置など)に対応する識別情報を配置してもよい。このようにして文と文との区切り目に識別情報が配置されれば、音声入力によっていずれかの文頭位置にカーソルFcを移動させ、文頭位置から句単位での情報入力をユーザに行わせることが可能となる。
以上において、文字単位入力モードおよび句単位入力モードでの情報入力について説明した。ここで、入力された情報は他の言語に翻訳されることもある。このとき、翻訳が正常になされるようにするため、入力された情報のうち、翻訳前に改善すべき部分があれば、その部分をユーザに提示してユーザに変更させるのがよい。図17は、翻訳前に改善すべき部分をユーザに提示する例を示す図である。
図17に示すように、表示欄G11−6Xに表示されている入力情報のうち、「do」は、より具体的な動詞に変更されたほうがよい。また、「that」は、より具体的な名称に変更されたほうがよい。そこで、図17に示すように、出力制御部147は、「do」および「that」に所定の表示オブジェクトLmを付するとよい。そうすれば、ユーザは、表示オブジェクトLmが付された部分を翻訳前に変更することが可能となる。
また、図17には、「do」および「that」それぞれに同一の表示オブジェクトLmを付する例を示したが、「do」および「that」に付される表示オブジェクトは異なっていてもよい。例えば、「do」に付される表示オブジェクトは、「動詞の具体表現」などであってもよく、「that」に付される表示オブジェクトは、「名詞の具体表現」などの文字列であってもよい。
なお、ここでは、具体的な動詞または名詞が用いることによって、翻訳前に改善を図る例を説明した。しかし、翻訳前に改善を図ることができる点は、かかる例に限定されない。例えば、翻訳前に改善を図ることができる点は、可能な限り漢字を用いること、同音異義語間での誤り、漢字の誤りなどを直すこと、略語を用いずに略す前の表現を用いること、1文の長さを短くすること、適切な助詞を用いることなどであってもよい。つまり、出力制御部147は、これらに反する部分をユーザに提示することが可能である。
なお、図17には、句単位挿入モードと句単位上書きモードと句単位入れ替えモードとが共存する場合が例として示されている。しかし、翻訳前に改善すべき部分をユーザに提示するときにおいて、句単位挿入モードと句単位上書きモードと句単位入れ替えモードとの関係は特に限定されないため、例えば、図9〜図11を参照しながら説明したいずれの関係であってもよい。
以上、本開示の実施形態に係る情報処理システム10の機能詳細について説明した。
[1.4.システム構成の変形例]
上記においては、情報処理システム10がタブレット端末である例について説明した。しかし、情報処理システム10のシステム構成は、かかる例に限定されない。図18〜図21は、情報処理システム10のシステム構成の変形例を示す図である。図18〜図21に示すように、出力部130は、テレビジョン装置であり、情報処理装置140は、ゲーム機であり、操作入力部115は、ゲーム機を操作するコントローラであってよい。
また、図18に示すように、集音部120および出力部130は、操作入力部115に接続されていてもよい。また、図19に示すように、画像入力部110および集音部120は、情報処理装置140に接続されていてもよい。また、図20に示すように、操作入力部115、集音部120および出力部130は、情報処理装置140に接続されたスマートフォンに備えられていてもよい。また、図21に示すように、集音部120は、テレビジョン装置に備えられていてもよい。
[1.5.ハードウェア構成例]
次に、図22を参照して、本開示の実施形態に係る情報処理システム10のハードウェア構成について説明する。図22は、本開示の実施形態に係る情報処理システム10のハードウェア構成例を示すブロック図である。
図22に示すように、情報処理システム10は、CPU(Central Processing unit)901、ROM(Read Only Memory)903、およびRAM(Random Access Memory)905を含む。また、情報処理システム10は、ホストバス907、ブリッジ909、外部バス911、インターフェース913、入力装置915、出力装置917、ストレージ装置919、ドライブ921、接続ポート923、通信装置925を含んでもよい。さらに、情報処理システム10は、必要に応じて、撮像装置933、およびセンサ935を含んでもよい。情報処理システム10は、CPU901に代えて、またはこれとともに、DSP(Digital Signal Processor)またはASIC(Application Specific Integrated Circuit)と呼ばれるような処理回路を有してもよい。
CPU901は、演算処理装置および制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体927に記録された各種プログラムに従って、情報処理システム10内の動作全般またはその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータなどを記憶する。RAM905は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータなどを一時的に記憶する。CPU901、ROM903、およびRAM905は、CPUバスなどの内部バスにより構成されるホストバス907により相互に接続されている。さらに、ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチおよびレバーなど、ユーザによって操作される装置である。入力装置915は、ユーザの音声を検出するマイクロフォンを含んでもよい。入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール装置であってもよいし、情報処理システム10の操作に対応した携帯電話などの外部接続機器929であってもよい。入力装置915は、ユーザが入力した情報に基づいて入力信号を生成してCPU901に出力する入力制御回路を含む。ユーザは、この入力装置915を操作することによって、情報処理システム10に対して各種のデータを入力したり処理動作を指示したりする。また、後述する撮像装置933も、ユーザの手の動き、ユーザの指などを撮像することによって、入力装置として機能し得る。このとき、手の動きや指の向きに応じてポインティング位置が決定されてよい。
出力装置917は、取得した情報をユーザに対して視覚的または聴覚的に通知することが可能な装置で構成される。出力装置917は、例えば、LCD(Liquid Crystal Display)、PDP(Plasma Display Panel)、有機EL(Electro−Luminescence)ディスプレイ、プロジェクタなどの表示装置、ホログラムの表示装置、スピーカおよびヘッドホンなどの音声出力装置、ならびにプリンタ装置などであり得る。出力装置917は、情報処理システム10の処理により得られた結果を、テキストまたは画像などの映像として出力したり、音声または音響などの音声として出力したりする。また、出力装置917は、周囲を明るくするためライトなどを含んでもよい。
ストレージ装置919は、情報処理システム10の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)などの磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイスなどにより構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ、および外部から取得した各種のデータなどを格納する。
ドライブ921は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブル記録媒体927のためのリーダライタであり、情報処理システム10に内蔵、あるいは外付けされる。ドライブ921は、装着されているリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されているリムーバブル記録媒体927に記録を書き込む。
接続ポート923は、機器を情報処理システム10に直接接続するためのポートである。接続ポート923は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポートなどであり得る。また、接続ポート923は、RS−232Cポート、光オーディオ端子、HDMI(登録商標)(High−Definition Multimedia Interface)ポートなどであってもよい。接続ポート923に外部接続機器929を接続することで、情報処理システム10と外部接続機器929との間で各種のデータが交換され得る。
通信装置925は、例えば、通信ネットワーク931に接続するための通信デバイスなどで構成された通信インターフェースである。通信装置925は、例えば、有線または無線LAN(Local Area Network)、Bluetooth(登録商標)、またはWUSB(Wireless USB)用の通信カードなどであり得る。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデムなどであってもよい。通信装置925は、例えば、インターネットや他の通信機器との間で、TCP/IPなどの所定のプロトコルを用いて信号などを送受信する。また、通信装置925に接続される通信ネットワーク931は、有線または無線によって接続されたネットワークであり、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信または衛星通信などである。
撮像装置933は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子、および撮像素子への被写体像の結像を制御するためのレンズなどの各種の部材を用いて実空間を撮像し、撮像画像を生成する装置である。撮像装置933は、静止画を撮像するものであってもよいし、また動画を撮像するものであってもよい。
センサ935は、例えば、加速度センサ、ジャイロセンサ、地磁気センサ、光センサ、音センサなどの各種のセンサである。センサ935は、例えば情報処理システム10の筐体の姿勢など、情報処理システム10自体の状態に関する情報や、情報処理システム10の周辺の明るさや騒音など、情報処理システム10の周辺環境に関する情報を取得する。また、センサ935は、GPS(Global Positioning System)信号を受信して装置の緯度、経度および高度を測定するGPSセンサを含んでもよい。
以上、情報処理システム10のハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。かかる構成は、実施する時々の技術レベルに応じて適宜変更され得る。
<2.むすび>
以上説明したように、本開示の実施形態によれば、情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、前記情報入力モードを前記文字単位入力モードから句単位入力モードに切り替えるモード制御部、を備える、情報処理システムが提供される。かかる構成によれば、ユーザに対して情報入力をより柔軟に行わせることが可能となる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記においては、出力部130による表示形態の変形例を説明したが、出力部130による表示形態は、上記した例に限定されない。例えば、出力部130は、ヘッドマウントディスプレイ以外のウェアラブル端末(例えば、時計、眼鏡など)に備わるディスプレイであってもよい。また、例えば、出力部130は、車載向けナビゲーションシステムに備わるディスプレイであってもよい。また、例えば、出力部130は、ヘルスケア分野において利用されるディスプレイであってもよい。
また、コンピュータに内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上記した情報処理装置140が有する機能と同等の機能を発揮させるためのプログラムも作成可能である。また、該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。
また、出力制御部147は、出力部130に表示内容を表示させるための表示制御情報を生成し、生成した表示制御情報を出力部130に出力することで、当該表示内容が出力部130に表示されるように出力部130を制御することが可能である。かかる表示制御情報の内容はシステム構成にあわせて適宜変更されてよい。
具体的な一例として、情報処理装置140を実現するためのプログラムは、ウェブアプリケーションであってもよい。かかる場合、表示制御情報は、HTML(HyperText Markup Language)、SGML(Standard Generalized Markup Language)、XML(Extensible Markup Language)などのマークアップ言語により実現されてもよい。
なお、上述した情報処理システム10の動作が実現されれば、各構成の位置は特に限定されない。具体的な一例として、画像入力部110、操作入力部115および集音部120と出力部130と情報処理装置140とは、ネットワークを介して接続された互いに異なる装置に設けられてもよい。この場合には、情報処理装置140が、例えば、ウェブサーバやクラウドサーバのようなサーバに相当し、画像入力部110、操作入力部115、集音部120および出力部130が当該サーバにネットワークを介して接続されたクライアントに相当し得る。
また、情報処理装置140が有するすべての構成要素が同一の装置に収まっていなくてもよい。例えば、入力画像取得部141と、音情報取得部142と、操作検出部143と、モード制御部144と、認識制御部145と、音声認識部146と、出力制御部147とのうち、一部は情報処理装置140とは異なる装置に存在していてもよい。例えば、音声認識部146は、入力画像取得部141と、音情報取得部142と、操作検出部143と、認識制御部145と、出力制御部147とを備える情報処理装置140とは異なるサーバに存在していてもよい。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、前記情報入力モードを前記文字単位入力モードから句単位入力モードに切り替えるモード制御部、
を備える、情報処理システム。
(2)
前記情報処理システムは、前記情報入力モードとして前記句単位入力モードに含まれる所定の音声入力モードが実行されているときには、集音部から取得される音情報に対する音声認識処理を音声認識部に行わせる認識制御部を備える、
前記(1)に記載の情報処理システム。
(3)
前記情報処理システムは、前記情報入力モードとして前記句単位入力モードに含まれる前記音声入力モードが実行されているときに、前記音声認識処理の結果を句単位で出力部に出力させる出力制御部を備える、
前記(2)に記載の情報処理システム。
(4)
前記出力制御部は、前記情報入力モードとして前記文字単位入力モードが実行されているときに、操作入力部から得られた入力情報を文字単位で前記出力部に出力させる、
前記(3)に記載の情報処理システム。
(5)
前記第1のトリガは、所定の音声入力開始トリガを含む、
前記(2)〜(4)のいずれか一項に記載の情報処理システム。
(6)
前記音声入力開始トリガは、ユーザによる所定の音声入力開始操作を含む、
前記(5)に記載の情報処理システム。
(7)
前記音声入力開始トリガは、音声らしさが閾値を上回る音情報が前記集音部から取得されたことを含む、
前記(5)または(6)に記載の情報処理システム。
(8)
前記モード制御部は、前記情報入力モードとして前記句単位入力モードが実行されているときに所定の第2のトリガが検出された場合に、前記情報入力モードを前記句単位入力モードから前記文字単位入力モードに切り替える、
前記(2)〜(7)のいずれか一項に記載の情報処理システム。
(9)
前記第2のトリガは、所定の音声入力終了トリガを含む、
前記(8)に記載の情報処理システム。
(10)
前記音声入力終了トリガは、ユーザによる所定の音声入力終了操作を含む、
前記(9)に記載の情報処理システム。
(11)
前記音声入力終了トリガは、前記音声認識処理の終了を含む、
前記(9)または(10)に記載の情報処理システム。
(12)
前記句単位入力モードは、カーソルが存在する句間位置に前記音声認識処理の結果を挿入する句単位挿入モード、前記カーソルが存在する位置の句を前記音声認識処理の結果で上書きする句単位上書きモードおよび前記カーソルが存在する位置の句を入れ替え候補に入れ替える句単位入れ替えモードの少なくともいずれか一つを含む、
前記(2)〜(11)のいずれか一項に記載の情報処理システム。
(13)
前記モード制御部は、前記カーソルが句の上に移動された場合、前記情報入力モードを前記句単位挿入モードから前記句単位上書きモードに切り替える、
前記(12)に記載の情報処理システム。
(14)
前記モード制御部は、前記カーソルが句間位置に移動された場合、前記情報入力モードを前記句単位上書きモードから前記句単位挿入モードに切り替える、
前記(12)または(13)に記載の情報処理システム。
(15)
前記モード制御部は、前記音声認識処理の結果が取得された場合、前記情報入力モードを前記句単位上書きモードから前記句単位入れ替えモードに切り替える、
前記(12)〜(14)のいずれか一項に記載の情報処理システム。
(16)
前記モード制御部は、所定の上書き開始トリガが検出された場合、前記情報入力モードを前記句単位入れ替えモードから前記句単位上書きモードに切り替える、
前記(12)〜(15)のいずれか一項に記載の情報処理システム。
(17)
前記モード制御部は、所定の挿入開始トリガが検出された場合、前記情報入力モードを前記句単位入れ替えモードから前記句単位挿入モードに切り替える、
前記(12)〜(16)のいずれか一項に記載の情報処理システム。
(18)
前記モード制御部は、前記音声認識処理の結果が取得された場合、前記情報入力モードを前記句単位挿入モードから前記句単位入れ替えモードに切り替える、
前記(12)〜(17)のいずれか一項に記載の情報処理システム。
(19)
前記出力制御部は、句間位置または句に対応する識別情報を配置し、前記音声認識処理の結果として前記識別情報が認識された場合に、前記識別情報に対応する前記句間位置または前記句にカーソルを移動させる、
前記(3)または(4)に記載の情報処理システム。
(20)
プロセッサにより、情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、前記情報入力モードを前記文字単位入力モードから句単位入力モードに切り替えること、
を含む、情報処理方法。
10 情報処理システム
110 画像入力部
115 操作入力部
120 集音部
130 出力部
140 制御部(情報処理装置)
141 入力画像取得部
142 音情報取得部
143 操作検出部
144 モード制御部
145 認識制御部
146 音声認識部
147 出力制御部

Claims (20)

  1. 情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、前記情報入力モードを前記文字単位入力モードから句単位入力モードに切り替えるモード制御部、
    を備える、情報処理システム。
  2. 前記情報処理システムは、前記情報入力モードとして前記句単位入力モードに含まれる所定の音声入力モードが実行されているときには、集音部から取得される音情報に対する音声認識処理を音声認識部に行わせる認識制御部を備える、
    請求項1に記載の情報処理システム。
  3. 前記情報処理システムは、前記情報入力モードとして前記句単位入力モードに含まれる前記音声入力モードが実行されているときに、前記音声認識処理の結果を句単位で出力部に出力させる出力制御部を備える、
    請求項2に記載の情報処理システム。
  4. 前記出力制御部は、前記情報入力モードとして前記文字単位入力モードが実行されているときに、操作入力部から得られた入力情報を文字単位で前記出力部に出力させる、
    請求項3に記載の情報処理システム。
  5. 前記第1のトリガは、所定の音声入力開始トリガを含む、
    請求項2に記載の情報処理システム。
  6. 前記音声入力開始トリガは、ユーザによる所定の音声入力開始操作を含む、
    請求項5に記載の情報処理システム。
  7. 前記音声入力開始トリガは、音声らしさが閾値を上回る音情報が前記集音部から取得されたことを含む、
    請求項5に記載の情報処理システム。
  8. 前記モード制御部は、前記情報入力モードとして前記句単位入力モードが実行されているときに所定の第2のトリガが検出された場合に、前記情報入力モードを前記句単位入力モードから前記文字単位入力モードに切り替える、
    請求項2に記載の情報処理システム。
  9. 前記第2のトリガは、所定の音声入力終了トリガを含む、
    請求項8に記載の情報処理システム。
  10. 前記音声入力終了トリガは、ユーザによる所定の音声入力終了操作を含む、
    請求項9に記載の情報処理システム。
  11. 前記音声入力終了トリガは、前記音声認識処理の終了を含む、
    請求項9に記載の情報処理システム。
  12. 前記句単位入力モードは、カーソルが存在する句間位置に前記音声認識処理の結果を挿入する句単位挿入モード、前記カーソルが存在する位置の句を前記音声認識処理の結果で上書きする句単位上書きモードおよび前記カーソルが存在する位置の句を入れ替え候補に入れ替える句単位入れ替えモードの少なくともいずれか一つを含む、
    請求項2に記載の情報処理システム。
  13. 前記モード制御部は、前記カーソルが句の上に移動された場合、前記情報入力モードを前記句単位挿入モードから前記句単位上書きモードに切り替える、
    請求項12に記載の情報処理システム。
  14. 前記モード制御部は、前記カーソルが句間位置に移動された場合、前記情報入力モードを前記句単位上書きモードから前記句単位挿入モードに切り替える、
    請求項12に記載の情報処理システム。
  15. 前記モード制御部は、前記音声認識処理の結果が取得された場合、前記情報入力モードを前記句単位上書きモードから前記句単位入れ替えモードに切り替える、
    請求項12に記載の情報処理システム。
  16. 前記モード制御部は、所定の上書き開始トリガが検出された場合、前記情報入力モードを前記句単位入れ替えモードから前記句単位上書きモードに切り替える、
    請求項12に記載の情報処理システム。
  17. 前記モード制御部は、所定の挿入開始トリガが検出された場合、前記情報入力モードを前記句単位入れ替えモードから前記句単位挿入モードに切り替える、
    請求項12に記載の情報処理システム。
  18. 前記モード制御部は、前記音声認識処理の結果が取得された場合、前記情報入力モードを前記句単位挿入モードから前記句単位入れ替えモードに切り替える、
    請求項12に記載の情報処理システム。
  19. 前記出力制御部は、句間位置または句に対応する識別情報を配置し、前記音声認識処理の結果として前記識別情報が認識された場合に、前記識別情報に対応する前記句間位置または前記句にカーソルを移動させる、
    請求項3に記載の情報処理システム。
  20. プロセッサにより、情報入力モードとして文字単位入力モードが実行されているときに所定の第1のトリガが検出された場合に、前記情報入力モードを前記文字単位入力モードから句単位入力モードに切り替えること、
    を含む、情報処理方法。

JP2015059565A 2015-03-23 2015-03-23 情報処理システムおよび情報処理方法 Pending JP2016181018A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2015059565A JP2016181018A (ja) 2015-03-23 2015-03-23 情報処理システムおよび情報処理方法
EP16768103.0A EP3276484A4 (en) 2015-03-23 2016-01-14 Information processing system and information processing method
PCT/JP2016/050905 WO2016152200A1 (ja) 2015-03-23 2016-01-14 情報処理システムおよび情報処理方法
US15/558,265 US10747499B2 (en) 2015-03-23 2016-01-14 Information processing system and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015059565A JP2016181018A (ja) 2015-03-23 2015-03-23 情報処理システムおよび情報処理方法

Publications (1)

Publication Number Publication Date
JP2016181018A true JP2016181018A (ja) 2016-10-13

Family

ID=56977434

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015059565A Pending JP2016181018A (ja) 2015-03-23 2015-03-23 情報処理システムおよび情報処理方法

Country Status (4)

Country Link
US (1) US10747499B2 (ja)
EP (1) EP3276484A4 (ja)
JP (1) JP2016181018A (ja)
WO (1) WO2016152200A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6113392B1 (ja) * 2016-10-26 2017-04-12 株式会社トヨタマップマスター 施設検索装置、施設検索方法、コンピュータプログラム及びコンピュータプログラムを記録した記録媒体
JP2018074366A (ja) * 2016-10-28 2018-05-10 京セラ株式会社 電子機器、制御方法およびプログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10468022B2 (en) * 2017-04-03 2019-11-05 Motorola Mobility Llc Multi mode voice assistant for the hearing disabled
US10861463B2 (en) * 2018-01-09 2020-12-08 Sennheiser Electronic Gmbh & Co. Kg Method for speech processing and speech processing device
JP7250547B2 (ja) * 2019-02-05 2023-04-03 本田技研工業株式会社 エージェントシステム、情報処理装置、情報処理方法、およびプログラム
EP4350692A1 (en) * 2021-05-31 2024-04-10 LG Electronics Inc. Display device and operation method thereof

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4914704A (en) * 1984-10-30 1990-04-03 International Business Machines Corporation Text editor for speech input
JP2000020092A (ja) * 1998-06-30 2000-01-21 Toshiba Corp ディクテーション装置及びディクテーションプログラムを記録した記録媒体
JP4528384B2 (ja) * 1999-07-08 2010-08-18 マイクロソフト コーポレーション 音声入力用グラフィカル・ユーザ・インターフェースのための表示装置
US6963834B2 (en) * 2001-05-29 2005-11-08 International Business Machines Corporation Method of speech recognition using empirically determined word candidates
US7003457B2 (en) * 2002-10-29 2006-02-21 Nokia Corporation Method and system for text editing in hand-held electronic device
JP4087400B2 (ja) 2005-09-15 2008-05-21 株式会社東芝 音声対話翻訳装置、音声対話翻訳方法および音声対話翻訳プログラム
US9318108B2 (en) * 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
JP5438909B2 (ja) * 2008-03-14 2014-03-12 ソニーモバイルコミュニケーションズ株式会社 文字入力装置、文字入力支援方法及び文字入力支援プログラム
US8494852B2 (en) * 2010-01-05 2013-07-23 Google Inc. Word-level correction of speech input
US8782556B2 (en) * 2010-02-12 2014-07-15 Microsoft Corporation User-centric soft keyboard predictive technologies
JP2014016402A (ja) * 2012-07-06 2014-01-30 Alpine Electronics Inc 音声入力装置
US8997013B2 (en) * 2013-05-31 2015-03-31 Google Inc. Multiple graphical keyboards for continuous gesture input
KR20150053339A (ko) * 2013-11-08 2015-05-18 삼성전자주식회사 전자 디바이스의 입력 처리 방법 및 장치

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6113392B1 (ja) * 2016-10-26 2017-04-12 株式会社トヨタマップマスター 施設検索装置、施設検索方法、コンピュータプログラム及びコンピュータプログラムを記録した記録媒体
WO2018078751A1 (ja) * 2016-10-26 2018-05-03 株式会社トヨタマップマスター 施設検索装置、施設検索方法、コンピュータプログラム及びコンピュータプログラムを記録した記録媒体
US10614065B2 (en) 2016-10-26 2020-04-07 Toyota Mapmaster Incorporated Controlling search execution time for voice input facility searching
JP2018074366A (ja) * 2016-10-28 2018-05-10 京セラ株式会社 電子機器、制御方法およびプログラム

Also Published As

Publication number Publication date
US10747499B2 (en) 2020-08-18
EP3276484A4 (en) 2018-12-12
EP3276484A1 (en) 2018-01-31
WO2016152200A1 (ja) 2016-09-29
US20180081622A1 (en) 2018-03-22

Similar Documents

Publication Publication Date Title
JP6635049B2 (ja) 情報処理装置、情報処理方法およびプログラム
WO2016152200A1 (ja) 情報処理システムおよび情報処理方法
WO2017130486A1 (ja) 情報処理装置、情報処理方法およびプログラム
US9437246B2 (en) Information processing device, information processing method and program
CN107430856B (zh) 信息处理系统和信息处理方法
JP2006107048A (ja) 視線対応制御装置および視線対応制御方法
US10540968B2 (en) Information processing device and method of information processing
WO2016103809A1 (ja) 情報処理装置、情報処理方法およびプログラム
JP6575518B2 (ja) 表示制御装置、表示制御方法およびプログラム
JP2016189121A (ja) 情報処理装置、情報処理方法およびプログラム
US10522140B2 (en) Information processing system and information processing method
JP2016109726A (ja) 情報処理装置、情報処理方法およびプログラム
JP2016156877A (ja) 情報処理装置、情報処理方法およびプログラム
JP6950708B2 (ja) 情報処理装置、情報処理方法、および情報処理システム
JP2017211430A (ja) 情報処理装置および情報処理方法
JP2016180778A (ja) 情報処理システムおよび情報処理方法
JP7468360B2 (ja) 情報処理装置および情報処理方法