JP6891879B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents
情報処理装置、情報処理方法、およびプログラム Download PDFInfo
- Publication number
- JP6891879B2 JP6891879B2 JP2018514113A JP2018514113A JP6891879B2 JP 6891879 B2 JP6891879 B2 JP 6891879B2 JP 2018514113 A JP2018514113 A JP 2018514113A JP 2018514113 A JP2018514113 A JP 2018514113A JP 6891879 B2 JP6891879 B2 JP 6891879B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- user
- reading
- voice
- displayed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 86
- 238000003672 processing method Methods 0.000 title claims description 6
- 239000002245 particle Substances 0.000 claims description 38
- 230000006870 function Effects 0.000 claims description 12
- 230000009471 action Effects 0.000 description 30
- 238000004891 communication Methods 0.000 description 22
- 230000006399 behavior Effects 0.000 description 18
- 238000012545 processing Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 238000000034 method Methods 0.000 description 11
- 230000007704 transition Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 7
- 230000000007 visual effect Effects 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000001351 cycling effect Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 210000003128 head Anatomy 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 239000012141 concentrate Substances 0.000 description 3
- 230000000875 corresponding effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000001151 other effect Effects 0.000 description 2
- OHVLMTFVQDZYHP-UHFFFAOYSA-N 1-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)-2-[4-[2-[[3-(trifluoromethoxy)phenyl]methylamino]pyrimidin-5-yl]piperazin-1-yl]ethanone Chemical compound N1N=NC=2CN(CCC=21)C(CN1CCN(CC1)C=1C=NC(=NC=1)NCC1=CC(=CC=C1)OC(F)(F)F)=O OHVLMTFVQDZYHP-UHFFFAOYSA-N 0.000 description 1
- WZFUQSJFWNHZHM-UHFFFAOYSA-N 2-[4-[2-(2,3-dihydro-1H-inden-2-ylamino)pyrimidin-5-yl]piperazin-1-yl]-1-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)ethanone Chemical compound C1C(CC2=CC=CC=C12)NC1=NC=C(C=N1)N1CCN(CC1)CC(=O)N1CC2=C(CC1)NN=N2 WZFUQSJFWNHZHM-UHFFFAOYSA-N 0.000 description 1
- IHCCLXNEEPMSIO-UHFFFAOYSA-N 2-[4-[2-(2,3-dihydro-1H-inden-2-ylamino)pyrimidin-5-yl]piperidin-1-yl]-1-(2,4,6,7-tetrahydrotriazolo[4,5-c]pyridin-5-yl)ethanone Chemical compound C1C(CC2=CC=CC=C12)NC1=NC=C(C=N1)C1CCN(CC1)CC(=O)N1CC2=C(CC1)NN=N2 IHCCLXNEEPMSIO-UHFFFAOYSA-N 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0483—Interaction with page-structured environments, e.g. book metaphor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L13/00—Speech synthesis; Text to speech systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Acoustics & Sound (AREA)
- User Interface Of Digital Computer (AREA)
Description
1.本開示の一実施形態による情報処理システムの概要
2.構成
2−1.情報処理装置1の構成
2−2.サーバ2の構成
3.動作処理
3−1.読み上げ処理
3−2.タイムラインUI生成処理
3−3.タイムラインUI表示処理
4.画面表示例
4−1.第1の実施例
4−2.第2の実施例
4−3.第3の実施例
4−4.第4の実施例
4−5.第5の実施例
4−6.その他
5.まとめ
まず、本開示の一実施形態による情報処理システムの概要について、図1を参照して説明する。図1は、本実施形態による情報処理システムの概要を説明する図である。
ここで、ウェアラブル装置を身に付けて、情報検索サービス、エンターテインメント情報、行動支援情報の提供サービス等を日常的に享受する際、視覚情報により提示されると日常生活の多くの「ながら」中の確認ができないという問題があった。例えば、歩きながら、自転車に乗りながら、家事をしながら等の視覚情報の確認は、視覚が一時的に奪われるため危険であった。
<2−1.情報処理装置1の構成>
続いて、本実施形態による情報処理装置1の構成について図2を参照して説明する。図2は、本実施形態による情報処理装置1の構成の一例を示すブロック図である。図2に示すように、情報処理装置1は、制御部10、通信部11、マイクロホン12、カメラ13、9軸センサ14、スピーカ15、位置測位部16、および記憶部17を有する。
制御部10は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置1内の動作全般を制御する。制御部10は、例えばCPU(Central Processing Unit)、マイクロプロセッサ等の電子回路によって実現される。また、制御部10は、使用するプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、及び適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)を含んでいてもよい。
通信部11は、有線/無線により他の装置との間でデータの送受信を行うための通信モジュールである。通信部11は、例えば有線LAN(Local Area Network)、無線LAN、Wi−Fi(Wireless Fidelity、登録商標)、赤外線通信、Bluetooth(登録商標)、近距離/非接触通信等の方式で、外部機器と直接、またはネットワークアクセスポイントを介して無線通信する。
マイクロホン12は、ユーザの音声や周囲の環境を収音し、音声データとして制御部10に出力する。
カメラ13は、撮像レンズ、絞り、ズームレンズ、及びフォーカスレンズ等により構成されるレンズ系、レンズ系に対してフォーカス動作やズーム動作を行わせる駆動系、レンズ系で得られる撮像光を光電変換して撮像信号を生成する固体撮像素子アレイ等を有する。固体撮像素子アレイは、例えばCCD(Charge Coupled Device)センサアレイや、CMOS(Complementary Metal Oxide Semiconductor)センサアレイにより実現されてもよい。例えば、カメラ13は、情報処理装置1(装着ユニット)がユーザに装着された状態で、ユーザの前方を撮像可能に設けられる。この場合、カメラ13は、ユーザの周囲の景色や、ユーザが見ている方向の景色を撮像することが可能となる。また、カメラ13は、情報処理装置1がユーザに装着された状態で、ユーザの顔を撮像可能に設けられてもよい。この場合、情報処理装置1は、撮像画像からユーザの視線方向や表情を特定することが可能となる。また、カメラ13は、デジタル信号とされた撮像画像のデータを制御部10へ出力する。
9軸センサ14は、3軸ジャイロセンサ(角速度(回転速度)の検出)、3軸加速度センサ(Gセンサとも称す。移動時の加速度の検出)、および3軸地磁気センサ(コンパス、絶対方向(方位)の検出)を含む。9軸センサ14は、情報処理装置1を装着したユーザの状態または周囲の状態をセンシングする機能を有する。なお9軸センサ14は、センサ部の一例であって、本実施形態はこれに限定されず、例えば速度センサまたは振動センサ等をさらに用いてもよいし、加速度センサ、ジャイロセンサ、および地磁気センサのうち少なくともいずれかを用いてもよい。また、センサ部は、情報処理装置1(装着ユニット)とは別の装置に設けられていてもよいし、複数の装置に分散して設けられていてもよい。例えば、加速度センサ、ジャイロセンサ、および地磁気センサが頭部に装着されたデバイス(例えばイヤホン)に設けられ、速度センサや振動センサがスマートフォンに設けられてもよい。9軸センサ14は、センシング結果を示す情報(センサ情報)を制御部10へ出力する。
スピーカ15は、制御部10の制御に従って、読み上げ制御部10bにより処理された音声信号を再生する。スピーカ15は、指向性を有していてもよい。
位置測位部16は、外部からの取得信号に基づいて情報処理装置1の現在位置を検知する機能を有する。具体的には、例えば位置測位部16は、GPS(Global Positioning
System)測位部により実現され、GPS衛星からの電波を受信して、情報処理装置1が存在している位置を検知し、検知した位置情報を制御部10に出力する。また、情報処理装置1は、GPSの他、例えばWi−Fi(登録商標)、Bluetooth(登録商標)、携帯電話・PHS・スマートフォン等との送受信、または近距離通信等により位置を検知するものであってもよい。
記憶部17は、上述した制御部10が各機能を実行するためのプログラムやパラメータを格納する。また、本実施形態による記憶部17は、サーバ2へ送信する読み上げ履歴を蓄積してもよい。
次に、本実施形態によるサーバ2の構成について図3を参照して説明する。図3は、本実施形態によるサーバ2の構成の一例を示すブロック図である。図3に示すように、サーバ2は、制御部20、通信部21、および記憶部22を有する。
制御部20は、演算処理装置および制御装置として機能し、各種プログラムに従ってサーバ2内の動作全般を制御する。制御部20は、例えばCPU、マイクロプロセッサ等の電子回路によって実現される。また、制御部20は、使用するプログラムや演算パラメータ等を記憶するROM、及び適宜変化するパラメータ等を一時記憶するRAMを含んでいてもよい。
通信部21は、有線/無線により他の装置との間でデータの送受信を行うための通信モジュールである。例えば通信部21は、ネットワーク4を介して情報処理装置1と接続し、読み上げ履歴を受信する。また、通信部21は、ネットワーク4を介して表示装置3と接続し、制御部20により生成されたタイムラインUIを送信する。
記憶部22は、上述した制御部20が各機能を実行するためのプログラムやパラメータを格納する。また、本実施形態による記憶部22は、情報処理装置1から送信された読み上げ履歴を蓄積する。ここで、図4を参照して読み上げ履歴のデータ例について説明する。
<3−1.読み上げ処理>
図5は、本実施形態の情報処理装置1による読み上げ処理を示すフローチャートである。図5に示すように、まず、情報処理装置1は、読み上げイベントが発生すると(ステップS100)、ユーザ状況認識部10cによりユーザ状況の認識を行う(ステップS103)。読み上げイベントは、予め設定された時間や、定期的、不定期的、または新着情報取得時等に発生する。例えば、1日のうち決まった時間に最新ニュースやイベント情報の読み上げイベントが発生するようにしてもよい。また、継続的にユーザ状況の認識を行い、認識結果が所定の条件を満たす場合に読み上げイベントを発生させるようにしてもよい。ユーザ状況の認識は、上述したように、マイクロホン12、カメラ13、9軸センサ14(加速度センサ、ジャイロセンサ、地磁気センサ等)、位置測位部16(GPS等)から取得した各種情報に基づいて行われ得る。例えばユーザ状況認識部10cは、ユーザの位置、行動のハイコンテキスト、ローコンテキスト等を認識する。
図6は、本実施形態のサーバ2によるタイムラインUI生成処理を示すフローチャートである。図6に示すように、まず、サーバ2は、タイムラインUIの取得要求を外部装置(ここでは、表示装置3を用いる)から受け付けると(ステップS120)、記憶部17に記憶された対象ユーザの読み上げ履歴を取得する(ステップS123)。
例えばタイムラインUI生成部20bは、読み上げ時のユーザの行動のハイコンテキストを示すアイコンや位置名称、時刻と共に、読み上げ情報を時系列に並べる。また、タイムラインUI生成部20bは、算出された粒度情報に応じて読み上げ情報をどの程度詳細に表示するかを制御する。例えば粒度「大」の場合はタイトルと本文全てを表示し、粒度「中」の場合はタイトルと本文の1文目までを表示し、粒度「小」の場合はタイトルのみ表示するようにしてもよい。図6に示す動作処理では、ユーザ負荷や嗜好判断結果、粒度情報に基づいてタイムラインUIを生成する場合の処理を説明しているが、本実施形態はこれに限定されない。例えば読み上げ済み情報を時系列で表示したり、読み上げ時に撮像した撮像画像を時系列で表示したりしてもよい。このような様々なタイムラインUIの具体例については後述する。
図7は、本実施形態の表示装置3によるタイムラインUI表示処理を示すフローチャートである。図7に示すように、まず、表示装置3は、タイムラインUIの取得要求をサーバ2に対して行う(ステップS150)。
続いて、本実施形態によるタイムラインUIの画面表示例について複数の実施例を用いて具体的に説明する。
図8は、本実施形態の第1の実施例による画面表示例を示す図である。まず、本実施例によるタイムラインUIでは、ユーザ行動(ハイコンテキスト)の切り替わり毎に、1つのタイムライン地図画像(タイムライン軌跡を示す地図画像)を含む表示欄が表示される。例えば図8に示す例では、表示画面30に、「6:50-7:30 On your way home」の表示欄と、「7:45-8:30
Outside」の表示欄が、時系列順に表示されている。図8に示す例では「帰宅中」と「外出」の2つの表示欄のみが表示されているが、画面をスクロールすることで他の行動時の表示欄が表示される。
図15を参照して、タイムライン軌跡を示す地図画像と共に音声情報のテキストを表示する場合の変形例について説明する。本変形例では、音声提示されたときの状況を再現することで、ユーザの情報検索を支援する。
続いて、図16を参照して第2の実施例による画面表示例について説明する。第2の実施例では、ユーザ行動毎に、その行動時に読み上げられた音声情報を表示する。この際、音声情報の表示粒度を、読み上げ時のユーザ操作に基づくユーザ嗜好に応じて変更することで、ユーザの情報検索を支援する。
Feedback操作と判断され、ニュース情報が粒度大で表示される。すなわち、例えば図16に示すように、7時10分にユーザが電車に乗っている際に読み上げられた3つ目のニュース情報に対して「More」の音声操作が行われた場合、タイトル460と本文全文461が表示される。
次に、図17を参照して第3の実施例による画面表示例について説明する。上述した第2の実施例では、情報読み上げに対するユーザ操作に基づくユーザ嗜好に応じて情報表示の粒度を変更していたが、本実施形態はこれに限定されず、例えば情報読み上げ時のユーザ行動に基づくユーザ負荷に応じて情報表示の粒度を変更してもよい。第3の実施例では、かかるユーザ負荷に応じた情報表示の粒度変更について説明する。
次に、図18を参照して第4の実施例による画面表示例について説明する。上述した第2、第3の実施例では、情報読み上げ時のユーザ操作に基づく嗜好判断結果や、情報読み上げ時のユーザ行動に基づくユーザ負荷に応じて、タイムラインUIにおける表示情報の粒度を変更する場合について説明したが、本実施形態はこれに限定されず、例えば嗜好判断結果やユーザ負荷に応じて、さらに表示情報のフォントサイズを変更してもよい。
続いて、図19を参照して第5の実施例による画面表示例について説明する。本実施例では、ユーザ行動のコンテキストに応じて読み上げ情報が中断、再開された場合に、タイムラインUIにおいて、これら中断、再開の情報も併せて表示することで、ユーザが読み上げ情報を聞いた際の状況を思い出し易くさせ、情報検索の支援を行うことができる。
以上、本実施形態によるタイムラインUIについて複数の実施例を用いて具体的に説明した。なお本実施形態によるタイムラインUIは上述した実施例に限定されず、さらに次のようなものであってもよい。
図20は、本実施形態による他のタイムラインUIを説明する図である。図20に示すように、画面49には、「Today's Timeline」として、今日一日に情報が読み上げられた地点における情景を写した撮像画像491、492、493(例えば情報処理装置1のカメラ13により情報読み上げ時に撮像した周辺の撮像画像、若しくは予め用意された各地点の撮像画像)が、時系列で表示されている。音声情報がどこに居る時に提示されたかという記憶は残りやすいため、ユーザは、聞き逃した情報等を後から確認する際に図20の画面49のような自身が見た景色を手掛かりにして容易に目的の情報を探すことが可能となる。また、画面49に表示される撮像画像上には、その場所で読み上げられた音声情報(読み上げ済み情報)のテキストや時間、情報の種類等が表示されていてもよい。
図21は、本実施形態による他のタイムラインUIを説明する図である。図21の左側に示すように、画面50には、「Today's Timeline」として、地図画像501にユーザ行動のライムライン軌跡(移動経路の軌跡)が表示されている。ユーザがタイムライン軌跡上の任意の地点をタップすると、当該地点で読み上げられた情報のテキスト(または画像)が読み上げ表示領域に表示される。画面50では、例えば、タップした地点で読み上げられた天気予報情報(項目502)が読み上げ表示領域(図21に示す例では地図画像501の下方)に表示される。
図22は、本実施形態による他のタイムラインUIを説明する図である。図22に示すように、画面52には、「Today's Timeline」として、今日一日のユーザ行動(ここでは、一例としてローコンテキスト)を示す項目521、522が時系列で表示され、各項目の下に、その行動時に読み上げられた音声情報のテキストが表示されている。
上述したように、本開示の実施形態による情報処理装置1では、読み上げられた音声情報を確認する際の利便性を向上させることを可能とする。具体的には、情報読み上げ時の日時、位置、行動、操作、または情景に基づいた検索を可能とするUIを提供することで、ユーザが聞き逃した情報や興味を持った情報等を後から探し易くさせることが可能となる。
(1)
取得された音声情報の読み上げ履歴に含まれる当該音声情報の読み上げ時におけるユーザ操作に基づいて判断された情報粒度で、前記音声情報のテキストを時系列順に表示する表示画面の情報を出力する出力制御部を備える、情報処理装置。
(2)
前記情報粒度は、情報量であって、タイトルのみ、タイトルと本文の一部、またはタイトルと本文全部のいずれかに制御される、前記(1)に記載の情報処理装置。
(3)
前記ユーザ操作は、スキップ指示、繰り返し指示、詳細再生指示、ブックマーク指示、または前に戻る指示を示す音声入力操作である、前記(2)に記載の情報処理装置。
(4)
前記出力制御部は、さらに前記ユーザ操作に基づいて推定されるユーザ嗜好に応じて、前記音声情報のフォントサイズが変更された表示画面の情報を出力する、前記(1)〜(3)のいずれか1項に記載の情報処理装置。
(5)
前記読み上げ履歴に含まれる音声情報の読み上げ時におけるユーザ行動に基づいて推定されるユーザ負荷に応じて、前記音声情報の情報粒度が制御される、前記(1)〜(4)のいずれか1項に記載の情報処理装置。
(6)
前記読み上げ履歴に含まれる音声情報の読み上げ時におけるユーザ行動の認識結果、読み上げ時の日時、場所、読み上げられた情報の種類の少なくともいずれかが前記表示画面にさらに含まれる、前記(1)〜(5)のいずれか1項に記載の情報処理装置。
(7)
前記表示画面で表示される読み上げ情報は、読み上げ済み情報のテキストよりも読み上げられていない部分のテキストが強調表示される、前記(1)〜(6)のいずれか1項に記載の情報処理装置。
(8)
前記読み上げ履歴に含まれる各音声情報の読み上げ時におけるユーザの位置履歴に基づく移動軌跡が前記表示画面に含まれる地図画像上に表示され、さらにユーザにより指定された前記移動軌跡の任意の地点付近で読み上げられた音声情報が表示される、前記(1)〜(7)のいずれか1項に記載の情報処理装置。
(9)
前記表示画面には、さらにユーザにより指定された前記移動軌跡の任意の地点付近の情景を写した撮像画像が表示される、前記(8)に記載の情報処理装置。
(10)
プロセッサが、
取得された音声情報の読み上げ履歴に含まれる当該音声情報の読み上げ時におけるユーザ操作に基づいて判断された情報粒度で、前記音声情報のテキストを時系列順に表示する表示画面の情報を出力することを含む、情報処理方法。
(11)
コンピュータを、
取得された音声情報の読み上げ履歴に含まれる当該音声情報の読み上げ時におけるユーザ操作に基づいて判断された情報粒度で、前記音声情報のテキストを時系列順に表示する表示画面の情報を出力する出力制御部として機能させる、プログラム。
10 制御部
10a 読み上げ情報取得部
10b 読み上げ制御部
10c ユーザ状況認識部
10d 操作認識部
10e 読み上げ履歴送信制御部
11 通信部
12 マイクロホン
13 カメラ
14 9軸センサ
15 スピーカ
16 位置測位部
17 記憶部
2 サーバ
20 制御部
20a 記憶制御部
20b タイムラインUI生成部
20c 送信制御部20c
21 通信部
22 記憶部
3 表示装置
4 ネットワーク
Claims (10)
- 取得された音声情報の読み上げ履歴に含まれる当該音声情報の読み上げ時におけるユーザ行動に基づいて推定されるユーザ負荷に応じて制御される情報粒度で、前記音声情報のテキストを時系列順に表示する表示画面の情報を出力する出力制御部を備える、情報処理装置。
- 前記情報粒度は、情報量であって、タイトルのみ、タイトルと本文の一部、またはタイトルと本文全部のいずれかに制御される、請求項1に記載の情報処理装置。
- 前記情報粒度は、前記音声情報の読み上げ時におけるユーザ操作に基づいて判断され、前記ユーザ操作は、スキップ指示、繰り返し指示、詳細再生指示、ブックマーク指示、または前に戻る指示を示す音声入力操作である、請求項2に記載の情報処理装置。
- 前記出力制御部は、さらに前記ユーザ操作に基づいて推定されるユーザ嗜好に応じて、前記音声情報のフォントサイズが変更された表示画面の情報を出力する、請求項3に記載の情報処理装置。
- 前記読み上げ履歴に含まれる音声情報の読み上げ時におけるユーザ行動の認識結果、読み上げ時の日時、場所、読み上げられた情報の種類の少なくともいずれかが前記表示画面にさらに含まれる、請求項1〜4のいずれか1項に記載の情報処理装置。
- 前記表示画面で表示される読み上げ情報は、読み上げ済み情報のテキストよりも読み上げられていない部分のテキストが強調表示される、請求項1〜5のいずれか1項に記載の情報処理装置。
- 前記読み上げ履歴に含まれる各音声情報の読み上げ時におけるユーザの位置履歴に基づく移動軌跡が前記表示画面に含まれる地図画像上に表示され、さらにユーザにより指定された前記移動軌跡の任意の地点付近で読み上げられた音声情報が表示される、請求項1〜6のいずれか1項に記載の情報処理装置。
- 前記表示画面には、さらにユーザにより指定された前記移動軌跡の任意の地点付近の情景を写した撮像画像が表示される、請求項7に記載の情報処理装置。
- プロセッサが、
取得された音声情報の読み上げ履歴に含まれる当該音声情報の読み上げ時におけるユーザ行動に基づいて推定されるユーザ負荷に応じて制御される情報粒度で、前記音声情報のテキストを時系列順に表示する表示画面の情報を出力することを含む、情報処理方法。 - コンピュータを、
取得された音声情報の読み上げ履歴に含まれる当該音声情報の読み上げ時におけるユーザ行動に基づいて推定されるユーザ負荷に応じて制御される情報粒度で、前記音声情報のテキストを時系列順に表示する表示画面の情報を出力する出力制御部として機能させる、プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016089227 | 2016-04-27 | ||
JP2016089227 | 2016-04-27 | ||
PCT/JP2017/002309 WO2017187678A1 (ja) | 2016-04-27 | 2017-01-24 | 情報処理装置、情報処理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017187678A1 JPWO2017187678A1 (ja) | 2019-02-28 |
JP6891879B2 true JP6891879B2 (ja) | 2021-06-18 |
Family
ID=60161278
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018514113A Active JP6891879B2 (ja) | 2016-04-27 | 2017-01-24 | 情報処理装置、情報処理方法、およびプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11074034B2 (ja) |
EP (1) | EP3451149A4 (ja) |
JP (1) | JP6891879B2 (ja) |
CN (1) | CN109074240B (ja) |
WO (1) | WO2017187678A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021114004A (ja) * | 2018-04-11 | 2021-08-05 | ソニーグループ株式会社 | 情報処理装置及び情報処理方法 |
US11363953B2 (en) * | 2018-09-13 | 2022-06-21 | International Business Machines Corporation | Methods and systems for managing medical anomalies |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001005634A (ja) * | 1999-06-24 | 2001-01-12 | Hitachi Ltd | 電子メール受信装置 |
US7020663B2 (en) * | 2001-05-30 | 2006-03-28 | George M. Hay | System and method for the delivery of electronic books |
JP2006023860A (ja) | 2004-07-06 | 2006-01-26 | Sharp Corp | 情報閲覧装置、情報閲覧プログラム、情報閲覧プログラム記録媒体及び情報閲覧システム |
JP4782174B2 (ja) * | 2008-07-18 | 2011-09-28 | シャープ株式会社 | コンテンツ表示装置、コンテンツ表示方法、プログラム、記録媒体、および、コンテンツ配信システム |
US20110137836A1 (en) * | 2008-09-19 | 2011-06-09 | Hiroyuki Kuriyama | Method and system for generating history of behavior |
EP2406767A4 (en) * | 2009-03-12 | 2016-03-16 | Google Inc | AUTOMATIC CONTENT SUPPLY ASSOCIATED WITH CAPTURED INFORMATION, TYPE INFORMATION CAPTURED IN REAL TIME |
JP2012063526A (ja) * | 2010-09-15 | 2012-03-29 | Ntt Docomo Inc | 端末装置、音声認識方法および音声認識プログラム |
US10672399B2 (en) * | 2011-06-03 | 2020-06-02 | Apple Inc. | Switching between text data and audio data based on a mapping |
JP5821307B2 (ja) | 2011-06-13 | 2015-11-24 | ソニー株式会社 | 情報処理装置、情報処理方法及びプログラム |
CN102324191B (zh) * | 2011-09-28 | 2015-01-07 | Tcl集团股份有限公司 | 一种有声读物逐字同步显示方法及系统 |
KR101309794B1 (ko) * | 2012-06-27 | 2013-09-23 | 삼성전자주식회사 | 디스플레이 장치, 디스플레이 장치의 제어 방법 및 대화형 시스템 |
CN103198726A (zh) * | 2013-04-23 | 2013-07-10 | 李华 | 英语学习设备 |
CN103365988A (zh) * | 2013-07-05 | 2013-10-23 | 百度在线网络技术(北京)有限公司 | 对移动终端的图片文字朗读的方法、装置和移动终端 |
GB2518002B (en) * | 2013-09-10 | 2017-03-29 | Jaguar Land Rover Ltd | Vehicle interface system |
US20150120648A1 (en) * | 2013-10-26 | 2015-04-30 | Zoom International S.R.O | Context-aware augmented media |
JP6302707B2 (ja) * | 2014-03-06 | 2018-03-28 | クラリオン株式会社 | 対話履歴管理装置、対話装置および対話履歴管理方法 |
US9794511B1 (en) * | 2014-08-06 | 2017-10-17 | Amazon Technologies, Inc. | Automatically staged video conversations |
CN107193841B (zh) * | 2016-03-15 | 2022-07-26 | 北京三星通信技术研究有限公司 | 媒体文件加速播放、传输及存储的方法和装置 |
-
2017
- 2017-01-24 EP EP17788968.0A patent/EP3451149A4/en not_active Withdrawn
- 2017-01-24 CN CN201780024799.XA patent/CN109074240B/zh not_active Expired - Fee Related
- 2017-01-24 JP JP2018514113A patent/JP6891879B2/ja active Active
- 2017-01-24 US US16/085,419 patent/US11074034B2/en active Active
- 2017-01-24 WO PCT/JP2017/002309 patent/WO2017187678A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
CN109074240B (zh) | 2021-11-23 |
JPWO2017187678A1 (ja) | 2019-02-28 |
EP3451149A1 (en) | 2019-03-06 |
US20190073183A1 (en) | 2019-03-07 |
WO2017187678A1 (ja) | 2017-11-02 |
CN109074240A (zh) | 2018-12-21 |
US11074034B2 (en) | 2021-07-27 |
EP3451149A4 (en) | 2019-04-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9860204B2 (en) | Variable notification alerts | |
CN108700982B (zh) | 信息处理设备、信息处理方法以及程序 | |
US20220159117A1 (en) | Server, client terminal, control method, and storage medium | |
JP6574937B2 (ja) | 通信システム、制御方法、および記憶媒体 | |
CN110019929B (zh) | 网页内容的处理方法、装置及计算机可读存储介质 | |
KR101969351B1 (ko) | 헤드 마운트 디스플레이 및 그 출력 제어 방법 | |
KR101606727B1 (ko) | 휴대 단말기 및 그 동작 방법 | |
CN109151044B (zh) | 信息推送方法、装置、电子设备及存储介质 | |
KR20140088461A (ko) | 착용식 비디오 장치 및 이를 구비하는 비디오 시스템 | |
JP2016184276A (ja) | 携帯端末、携帯端末の制御方法、および、携帯端末用プログラム | |
JP7167910B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
CN111596830A (zh) | 消息提醒方法及装置 | |
JP6481210B2 (ja) | 情報処理装置、制御方法、およびプログラム | |
KR20160133414A (ko) | 정보 처리 장치, 제어 방법 및 프로그램 | |
WO2017175432A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
WO2016002306A1 (ja) | 情報処理システム、情報処理端末、および情報処理方法 | |
JP6891879B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US20200135139A1 (en) | Display system, device, program, and method of controlling device | |
JP2012249164A (ja) | 電子カメラ、通信システム | |
JP6559096B2 (ja) | 情報出力システム及び情報出力方法 | |
KR20170025020A (ko) | 이동단말기 및 그 제어방법 | |
CN113961371A (zh) | 页面显示方法、装置、电子设备以及存储介质 | |
CN115022721A (zh) | 内容展示方法、装置、电子设备及存储介质 | |
JP2018066820A (ja) | 電子装置、情報提供システム及び情報出力方法 | |
KR20150041401A (ko) | 전자 기기 및 그 제어 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190208 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20190214 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190222 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190515 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20190522 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200110 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200110 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210326 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210427 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210510 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6891879 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |