JP2018032912A - 情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム - Google Patents

情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム Download PDF

Info

Publication number
JP2018032912A
JP2018032912A JP2016162229A JP2016162229A JP2018032912A JP 2018032912 A JP2018032912 A JP 2018032912A JP 2016162229 A JP2016162229 A JP 2016162229A JP 2016162229 A JP2016162229 A JP 2016162229A JP 2018032912 A JP2018032912 A JP 2018032912A
Authority
JP
Japan
Prior art keywords
time
information
unit
time point
conference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016162229A
Other languages
English (en)
Inventor
國枝 孝之
Takayuki Kunieda
孝之 國枝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016162229A priority Critical patent/JP2018032912A/ja
Priority to US15/682,665 priority patent/US10565246B2/en
Publication of JP2018032912A publication Critical patent/JP2018032912A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/438Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/48Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/489Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using time information

Abstract

【課題】時系列上の2点間の情報を容易に確認可能とする。【解決手段】取得部は、情報を第1の時系列に従い順次に取得する。第1の時系列に対して、第1の時点と、第1の時点よりも第1の時系列上で後の第2の時点とを設定する。取得部により取得された情報のうち、第1の時点と、第2の時点よりも時系列上で後の第3の時点との間に含まれる対象情報を、第2の時点から第3の時点までの間に、第1の時系列に対して単位時間が短い第2の時系列に従い提示する。【選択図】図38

Description

本発明は、情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システムに関する。
会議などの様子を音声や映像として収録すると共に、会議の進行と並行して入力されたテキストを、入力開始からの経過時間情報を付加して記録する議事録作成再生システムが知られている(例えば特許文献1:特開2008−172582号公報)。また、記録媒体に記録した音声や映像を、記録時の速度よりも高速に再生する技術が知られている。
ここで、上述したような議事録作成システムで例えば音声を収録している会議を想定し、この会議において、ある参加者が一時的に退席し、復帰時に、退席中の会議内容を、収録した音声にて確認する場合について考える。この場合、会議に復帰した参加者は、会議の時系列上において、少なくとも退席した時点から復帰した時点までの間に収録した音声を、議事の進行に間に合わせるように再生する必要がある。ところが、音声を単純に高速再生した場合、再生した音声を認識することが困難な場合があるという問題点があった。
本発明は、上記に鑑みてなされたもので、時系列上の2点間の情報を容易に確認可能とすることを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、情報を第1の時系列に従い順次に取得する取得部と、第1の時系列に対して、第1の時点と、第1の時点よりも第1の時系列上で後の第2の時点とを設定する設定部と、取得部により取得された情報のうち、第1の時点と、第2の時点よりも時系列上で後の第3の時点との間に含まれる対象情報を、第2の時点から第3の時点までの間に、第1の時系列に対して単位時間が短い第2の時系列に従い提示する提示部とを備える。
本発明によれば、時系列上の2点間の情報を容易に確認可能となるという効果を奏する。
図1は、実施形態に適用可能な情報処理システムの一例の構成を示すブロック図である。 図2は、実施形態に適用可能なサーバ装置の一例のハードウェア構成を示すブロック図である。 図3は、実施形態に適用可能な電子黒板の一例のハードウェア構成を示すブロック図である。 図4は、実施形態に適用可能な端末装置の一例のハードウェア構成を示すブロック図である。 図5は、実施形態に適用可能な端末装置の一例のハードウェア構成を示すブロック図である。 図6は、実施形態に適用可能な情報処理システムにおける各情報の流れについて概略的に説明するための図である。 図7は、実施形態に適用可能な時系列について概略的に示す図である。 図8は、図1に示したサーバ装置の機能を説明するための一例の機能ブロック図である。 図9は、実施形態に適用可能なプロジェクト選択画面の例を示す図である。 図10は、実施形態に係るプロジェクト管理部の機能を説明するための一例の機能ブロック図である。 図11は、実施形態に適用可能な端末装置の機能を説明するための一例の機能ブロック図を示す。 図12は、実施形態に適用可能な、会議の準備段階におけるサーバ装置の処理を示す一例のフローチャートである。 図13は、実施形態に適用可能な会議管理画面の例を示す図である。 図14は、実施形態に適用可能な議題設定画面の例を示す図である。 図15は、実施形態に適用可能な、各情報の入力などが完了した場合の会議管理画面の例を示す図である。 図16は、実施形態に適用可能な、電子黒板に表示される会議開始画面の例を示す図である。 図17は、実施形態に適用可能な、電子黒板における処理を概略的に示す一例のフローチャートである。 図18は、実施形態に適用可能な、会議の開始を通知するための会議開始通知画面の例を示す図である。 図19は、実施形態に適用可能な描画画面の例を示す図である。 図20−1は、実施形態に適用可能な、ファイルリストが表示された描画画面の例を示す図である。 図20−2は、実施形態に適用可能な、描画領域にファイルに基づく画像が表示された例を示す図である。 図21は、実施形態に適用可能な、描画による画像が資料データによる画像に重畳して表示された例を示す図である。 図22は、実施形態に適用可能な、描画領域内に予め定められた領域内に表示される画像を保存する例を示す図である。 図23は、実施形態に適用可能な留意事項マークおよび決定事項マークを設定するための処理を示す一例のフローチャートである。 図24は、実施形態に適用可能な留意事項入力画面の例を示す図である。 図25は、実施形態に適用可能な決定事項入力画面の例を示す図である。 図26は、実施形態に適用可能な、留意事項および決定事項に関するマーカ情報について概略的に示す図である。 図27は、実施形態に適用可能な、端末装置における会議閲覧画面の例を示す図である。 図28は、実施形態に適用可能な、端末装置における会議閲覧画面に、会議端末のカメラで撮影された映像を表示させた例を示す図である。 図29は、実施形態に適用可能な、描画領域表示モードの画面の例を示す図である。 図30は、実施形態に適用可能な、タイムライン表示画面の例を示す図である。 図31は、実施形態に適用可能な、議題表示画面の例を示す図である。 図32は、実施形態に適用可能な、アクションアイテムのより詳細な内容が表示された画面の例を示す図である。 図33は、実施形態に適用可能なマーカ処理について説明するための図である。 図34は、実施形態に適用可能なマーカ処理について説明するための図である。 図35は、実施形態に適用可能なマーカ処理について説明するための図である。 図36は、実施形態に適用可能なマーカ処理について説明するための図である。 図37は、実施形態に係る、会議閲覧画面に対してユーザの退席および復帰を示すマーカを設定するためのボタンを設けた例を示す図である。 図38は、実施形態に適用可能な、会議の進行を概略的に示す図である。 図39は、第1の実施形態に係る処理を概略的に説明するための図である。 図40は、第1の実施形態に適用可能な映像音声処理部の一例の構成を示すブロック図である。 図41は、第1の実施形態に係る音声データ再生処理を示す一例のフローチャートである。 図42は、第2の実施形態に係る再生処理を概略的に示す図である。 図43は、第2の実施形態の変形例について概略的に説明するための図である。 図44は、第2の実施形態およびその変形例に共通して適用可能な無音区間の検出方法の例を概略的に説明するための図である。 図45は、第2の実施形態およびその変形例に係る音声データ再生処理を示す一例のフローチャートである。 図46は、第3の実施形態に係る処理を概略的に説明するための図である。 図47は、第3の実施形態に適用可能なテキスト化部の一例の構成を示すブロック図である。 図48は、第3の実施形態に係るテキスト変換処理を示す一例のフローチャートである。 図49は、第3の実施形態に係る、音声データが変換されたテキスト情報が表示されるタイムライン表示画面の例を示す図である。 図50は、各実施形態に適用可能な、退席および復帰を示すマーカをそれぞれ含むマーカ一覧画面の例を示す図である。
以下に添付図面を参照して、情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システムの実施形態を詳細に説明する。
(実施形態に適用可能な構成)
図1は、実施形態に適用可能な情報処理システムの一例の構成を示す。図1において、情報処理システム1は、情報処理装置としてのサーバ装置10を含み、サーバ装置10は、LAN(Local Area Network)といったネットワーク12を介して、1以上の会議室2a、2b、…内の機器と接続される。
例えば会議室2aは、それぞれネットワーク12に接続される1以上の端末装置20aおよび20bと、電子黒板22と、センサI/F(インタフェース)23と、会議端末25とを含む。端末装置20aおよび20bは、デスクトップ型あるいはノート型のパーソナルコンピュータや、タブレット型コンピュータを適用できる。端末装置20aおよび20bは、有線または無線通信により、ネットワーク12に接続される。また、端末装置20aおよび20bは、それぞれマイクロホンを内蔵または接続可能とされ、マイクロホンで収音された音声を音声データとして処理可能とされているものとする。
詳細は後述するが、電子黒板22は、入力デバイスと表示デバイスとが一体的に構成された大型のタッチパネルと、CPU(Central Processing Unit)、メモリおよび通信I/Fとを備え、例えば会議室2aに固定的に設置される。電子黒板22は、ユーザのタッチパネルに対する描画動作に応じて、タッチパネルの表示デバイスによる表示が更新される。また、電子黒板22は、ネットワーク12を介して転送されたデータに応じた表示を行うことができ、また、表示デバイスによる表示画面の画像データを保存することができる。
センサI/F23は、1以上のセンサ241、242、…が接続される。各センサ241、242、…は、会議室2a内の環境情報を検知する。会議室2aの環境情報は、例えば、会議室2aに設置された室内灯が点灯しているか否か、ドアの開閉状態などを含む。センサI/F23は、各センサ241、242、…の出力に応じた各検知結果を、ネットワーク12を介してサーバ装置10に送信する。
会議端末25は、例えばスピーカ(SP)25aと、マイクロホン(MIC)25bと、動画撮影の可能なカメラ25cとを含む。会議端末25は、例えば会議室2aに固定的に設置され、マイクロホン25bで収音された音声による音声データと、カメラ25cに撮影された撮影画像データとをネットワーク12を介してサーバ装置10に送信する。また、会議端末25は、例えばサーバ装置10からネットワーク12を介して送信された音声データに基づく音声を、スピーカ25aにより再生する。
会議室2aにおいて、電子黒板22や各端末装置20a、20bは、例えば各端末装置20a、20bを使用する各ユーザが、それぞれの端末装置を操作可能なポジションにおいて電子黒板22の表示を確認可能な位置関係にあることが考えられる。また、会議端末25は、カメラ25cが少なくとも電子黒板22の表示を撮影可能とされ、スピーカ25aによる再生音が会議室2a内の各ユーザに聞き取り可能とされ、さらに、マイクロホン25bにより会議室2a内の各ユーザによる発言を収音可能となるように設置される。
会議室2bは、会議室2aと略同様の構成であるので、説明を省略する。なお、各会議室2a、2b、…は、含有される各機器がサーバ装置10と接続可能であれば、位置関係および形態などは限定されない。
情報処理システム1は、この会議室2aに含まれる各端末装置20aおよび20bと、電子黒板22と、センサI/F23および各センサ241、242、…と、会議端末25をさらに含む。同様に、情報処理システム1は、会議室2bに含まれる、会議室2aと同様の各構成をさらに含んでもよい。
情報処理システム1は、さらに、サーバ装置10に対してインターネットといった外部のネットワーク30を介して接続される1以上の端末装置20cおよび20dを含む。これら端末装置20cおよび20dは、例えば会議室2aを少なくとも直接観察できない、会議室2aに対して遠隔の場所において使用されるものとする。
また、この例では、端末装置20cがデスクトップ型コンピュータといった非モバイルデバイス、端末装置20dが多機能型携帯電話端末(スマートフォン)あるいはタブレット型コンピュータといったモバイルデバイスであるものとして示している。なお、ここでは、ノート型コンピュータも非モバイルデバイスに含めるものとし、端末装置20cは、ノート型コンピュータであってもよい。端末装置20cおよび20dは、それぞれマイクロホンおよびカメラを内蔵または接続可能とされ、マイクロホンで収音された音声、および、カメラで撮影された撮影映像を、それぞれ音声データおよび映像データとして処理可能とされているものとする。
図2は、実施形態に適用可能なサーバ装置10の一例のハードウェア構成を示す。図2において、サーバ装置10は、CPU1000と、ROM(Read Only Memory)1001と、RAM(Random Access Memory)1002と、ストレージ1003と、通信I/F1004とを含み、これら各部がバス1010により互いに通信可能に接続される。
ストレージ1003は、ハードディスクドライブや不揮発性半導体メモリにより構成され、CPU1000が動作するための各種プログラムやデータが格納される。また、ROM1001は、例えばサーバ装置10が起動、動作するために用いるプログラムやデータが予め記憶される。CPU1000は、ストレージ1003やROM1001に格納されるプログラムに従い、RAM1002をワークエリアとして用いて動作し、サーバ装置10の全体の動作を制御する。通信I/F1004は、CPU1000の指示に従い、ネットワーク12を介した通信を制御する。
図3は、実施形態に適用可能な電子黒板22の一例のハードウェア構成を示す。図3において、電子黒板22は、CPU2020と、ROM2021と、RAM2022と、ストレージ2023と、通信I/F2024と、グラフィクスI/F2025と、入力I/F2026とを含み、これら各部がバス2028により互いに通信可能に接続される。このように、電子黒板22は、CPU2020と、ROM2021およびRAM2022とを含み、コンピュータであると見做すことができる。
電子黒板22は、ディスプレイ2027aと、入力デバイス2027bとをさらに含む。ディスプレイ2027aおよび入力デバイス2027bは、一体的に形成されて、所謂タッチパネル2027を構成する。
ストレージ2023は、ハードディスクドライブや不揮発性半導体メモリにより構成され、CPU2020が動作するための各種プログラムやデータが格納される。また、ROM2021は、例えば電子黒板22が起動、動作するために用いるプログラムやデータが予め記憶される。CPU2020は、ストレージ2023やROM2021に格納されるプログラムに従い、RAM2022をワークエリアとして用いて動作し、電子黒板22の全体の動作を制御する。通信I/F2024は、CPU2020の指示に従い、ネットワーク12を介した通信を制御する。
グラフィクスI/F2025は、CPU2020によりプログラムに従い生成された表示制御信号を、ディスプレイ2027aが対応可能な表示信号に変換してディスプレイ2027aに供給する。ディスプレイ2027aは、表示デバイスとしての例えばLCD(Liquid Crystal Display)と、表示デバイスを表示信号に従い駆動する駆動回路とを含む。入力I/F2026は、入力デバイス2027bから、例えば入力デバイス2027bに対する接触操作に応じて出力された信号を、CPU2020が対応可能な制御信号に変換して、バス2028に出力する。
図4は、実施形態に適用可能な端末装置20cの一例のハードウェア構成を示す。なお、端末装置20aおよび20bは、端末装置20cと同等の構成であるものとし、ここでの説明を省略する。
図4において、端末装置20cは、CPU2000と、ROM2001と、RAM2002と、グラフィクスI/F2003と、ストレージ2004と、入力I/F2005と、音声I/F2006と、通信I/F2007と、映像I/F2008とを含み、これら各部がバス2010により互いに通信可能に接続される。
ストレージ2004は、ハードディスクドライブや不揮発性半導体メモリにより構成され、CPU2000が動作するための各種プログラムやデータが格納される。ストレージ2004に格納されるプログラムの例としては、端末装置20cの基本的な動作を制御するOS(Operating System)や、HTML(HyperText Markup Language)データに基づき表示や各種制御を行うブラウザアプリケーションプログラム(以下、ブラウザ)がある。また、ROM2001は、端末装置20cが起動、動作するために用いるプログラムやデータが予め記憶される。CPU2000は、ストレージ2004やROM2001に格納されるプログラムに従い、RAM2002をワークエリアとして用いて動作し、端末装置20cの全体の動作を制御する。
グラフィクスI/F2003は、CPU2000によりプログラムに従い生成された表示制御信号を、ディスプレイ2011が対応可能な表示信号に変換して、ディスプレイ2011に供給する。ディスプレイ2011は、例えば表示バイスとしてのLCDと、表示信号に従い表示デバイスを駆動する駆動回路とを含む。
入力I/F2005は、マウスなどのポインティングデバイスや、キーボードといった入力デバイス2012が接続される。入力I/F2005は、入力デバイス2012に対するユーザ操作に応じて入力デバイスから出力される信号を、CPU2000が対応可能な制御信号に変換してバス2010に出力する。これに限らず、入力I/F2005は、外部機器との間でデータの送受信を行う例えばUSB(Universal Serial Bus)といったデータI/Fを含んでいてもよい。
音声I/F2006は、例えばマイクロホン(MIC)2013から供給されるアナログ方式の音声信号を、ディジタル方式の音声データに変換して、バス2010に出力する。また、音声I/F2006は、バス2010を介して供給されたディジタル方式の音声データを、アナログ方式の音声信号に変換して、スピーカ(SP)2014に出力する。スピーカ2014は、音声I/F2006から出力され供給された音声信号に従い、音声を再生する。
通信I/F2007は、CPU2000の指示に従い、ネットワーク12を介した通信を制御する。
映像I/F2008は、被写体を撮影し撮影画像データを出力するカメラ2015が接続される。なお、カメラ2015は、動画撮影が可能であり、毎秒60フレームといったフレームレートで、動画撮影を行った撮影画像データを出力する。映像I/F2008は、カメラ2015から出力される撮影画像データをバス2010に対して出力する。
図5は、実施形態に適用可能な、タブレット型コンピュータまたはスマートフォンとしての端末装置20dの一例のハードウェア構成を示す。なお、図5において、上述した図4と共通する部分には同一の符号を付して、詳細な説明を省略する。
図5において、端末装置20dは、上述した端末装置20cの構成に対して、9軸センサ2016と、GNSS部2017とが追加されている。9軸センサ2016は、それぞれx,y,zの3軸にて検知を行うジャイロセンサ(角速度センサ)、加速度センサ、地磁気センサを含み、端末装置20d(9軸センサ2016)の姿勢の変化を示す姿勢情報を、バス2010に対して出力する。
GNSS部2017は、GNSS(Global Navigation Satellite System)に対応し、GNSSによる衛星からの電波を受信して、受信した電波に含まれる情報に基づき現在位置を示す位置情報を取得する。また、GNSS部2017は、位置情報と共に、現在の時刻を示す時間情報を取得することができる。GNSS部2017は、取得した位置情報および時間情報を、バス2010に対して出力する。
(実施形態に適用可能な情報処理システムにおける処理の概要)
次に、図6を用いて、実施形態に適用可能な情報処理システム1における各情報の流れについて、概略的に説明する。なお、図6において、上述した図1と共通する部分には同一の符号を付して、詳細な説明を省略する。
ここでは、会議室2aにおいて、電子黒板22を用いて会議を行う例について説明する。会議の主催者は、会議に参加する参加者を予め把握し、また、会議に用いる資料データを予めサーバ装置10に登録しておくものとする。また、会議には、主催者以外には、会議室2a内で端末装置20bを用いて会議に参加する者(直接参加者と呼ぶ)と、端末装置20cを用いてネットワーク30を介して会議に参加する者(遠隔参加者と呼ぶ)との2人が参加するものとする。
例えば会議の主催者は、会議で用いる資料のデータを、会議開始前に予めサーバ装置10に登録し、例えばストレージ1003に格納しておく。主催者は、サーバ装置10に格納した資料データを、会議開始前、あるいは、会議中に、サーバ装置10から取り出して電子黒板22に転送する(ステップS10)。電子黒板22は、サーバ装置10から転送された資料データを例えばストレージ2023に保存し、また、当該資料データに応じた画面をタッチパネル2027のディスプレイ2027aに表示させることができる。
例えば、電子黒板22に対する所定の操作に応じて会議が開始され、その旨がサーバ装置10に通知される。サーバ装置10は、会議の開始を示す通知を受け取ると、この会議に関する時系列を定義する。例えば、サーバ装置10は、会議の開始の通知を受け取った時間を基準として時系列を定義し、定義された時系列に従いこの会議の経過時間を管理する。サーバ装置10は、複数の会議室2aおよび2bからそれぞれ会議の開始の通知を受け取った場合には、それぞれの通知を受信した各時間を基準として、各会議室2aおよび2bにおける各会議について、それぞれ時系列を定義する。すなわち、サーバ装置10は、会議毎に異なる時系列で経過時間を管理する。
会議が開始されると、会議端末25は、マイクロホン25bおよびカメラ25cにより、会議の様子の撮影および収音を開始する。会議端末25は、撮影した映像データと、収音した音声データとをサーバ装置10に送信する(ステップS11)。また、会議が開始されると、センサI/F23は、各センサ241、242、…による検知結果をサーバ装置10に送信する(ステップS12)。
端末装置20bは、例えば内蔵されるマイクロホンで収音された音声に基づく音声データをサーバ装置10に送信する(ステップS13)。端末装置20bがカメラを内蔵している場合、端末装置20bは、さらに、カメラで撮影された撮影映像に基づく映像データをサーバ装置10に送信することができる。
サーバ装置10は、会議端末25から送信された音声データおよび映像データと、端末装置20bから送信された音声データとをそれぞれ受信する。サーバ装置10は、受信した映像データおよび音声データを、端末装置20cに送信する(ステップS14)。それと共に、サーバ装置10は、受信した音声データおよび映像データを例えばストレージ1003に、会議の時系列と関連付けて順次に保存する。
図7は、実施形態に適用可能な時系列について概略的に示す図である。サーバ装置10は、図7(d)に例示されるように、例えば電子黒板22からの会議の開始通知を受信した時間tstを基準として時系列を定義する。また、サーバ装置10は、図7(b)および図7(c)に例示されるように、会議端末25から送信された映像データ(映像)および音声データ(音声)に対して、時系列の各時間を関連付ける。この例では、映像データおよび音声データの先頭が時間tstに関連付けられている。以降、サーバ装置10は、映像データおよび音声データを、時系列上の時間の経過に応じて管理する。
ここで、サーバ装置10は、ステップS14で音声データを端末装置20cに送信するにあたり、受信した各音声データのうち何れの音声データを再生するかを選択する選択情報を端末装置20cに送信する。例えば、サーバ装置10は、受信した複数の音声データに対して互いに異なるチャネルを割り当てる。ここでは、サーバ装置10は、会議端末25から送信された音声データにチャネルch#1を、端末装置20bから送信された音声データにチャネルch#2を、それぞれ割り当てるものとする。
端末装置20cは、サーバ装置10から送信された、チャネルch#1およびch#2のうち何れのチャネルの音声データを再生させるかを選択するための選択情報に基づく選択画面を、ディスプレイ2011に表示させる。端末装置20cは、選択画面に応じたユーザ操作に従い、スピーカ2014から再生する音声データのチャネルを決定し、決定されたチャネルを示すチャネル選択情報をサーバ装置10に送信する。サーバ装置10は、会議端末25および端末装置20bから受信した各音声データから、端末装置20cから送信されたチャネル選択情報に示されるチャネルの音声データを選択して、端末装置20cに送信する。端末装置20cを使用するユーザ(遠隔参加者)は、複数の音声データから、会議の様子をより聞き取り易い音声データを選択することができる。
なお、サーバ装置10は、例えば、端末装置20cからの要求に応じて、資料データを端末装置20cに送信することができる。同様に、サーバ装置10は、端末装置20bからの要求に応じて、資料データを端末装置20bに送信することができる。
端末装置20cは、内蔵または接続されるマイクロホン2013で収音された音声に基づく音声データをサーバ装置10に送信する(ステップS15)。端末装置20cは、さらに、内蔵または接続されるカメラ2015で撮影を行っている場合には、撮影された撮影映像に基づく映像データをサーバ装置10に送信することもできる。
サーバ装置10は、端末装置20cから送信された音声データを受信して時系列に従った時間情報と関連付けてストレージ1003に順次に保存すると共に、受信した音声データを会議端末25に送信する(ステップS16)。会議端末25は、サーバ装置10から送信された、端末装置20cによる音声データを受信し、受信した音声データに基づく音声をスピーカ25aにより再生する。
電子黒板22は、ユーザ操作に応じて、タッチパネル2027に表示された情報(画面情報)を例えばストレージ2023に保存することができる。保存される画面情報は、タッチパネル2027のディスプレイ2027aに表示される、描画に応じた描画画像と、資料データによる資料画像とを含む。電子黒板22は、保存した画面情報を、サーバ装置10に送信する(ステップS17)。サーバ装置10は、電子黒板22から送信された画面情報を受信し、受信した画面情報を、時系列に従った時間情報と関連付けて例えばストレージ1003に保存する。
なお、電子黒板22は、ユーザ操作に応じて、ディスプレイ2027aに表示させる資料データや、ディスプレイ2027aに表示させる画面の全体を変更することができる。電子黒板22は、資料データや画面の変更の履歴を、サーバ装置10に送信することができる。上述した図7において、図7(a)は、資料データが、時系列上の時間t1、t2、t3、t4、t5、…において、それぞれ資料#1、#2、#3、#4、#5、…と変更される様子を示している。
電子黒板22は、例えば、資料#1が時間t1にてディスプレイ2027aに表示された場合に、資料#1を示す情報と、時間t1を示す情報とをサーバ装置10に送信する。サーバ装置10では、これら資料#1を示す情報と、時間t1を示す情報とを受信すると、資料#1を示す情報と、時間t1を示す情報とを関連付けて、例えばストレージ1003に保存する。
サーバ装置10は、時系列上の特定の時間を記憶することができる。例えば、端末装置20cは、あるタイミングでなされたマーカ付与のユーザ操作を受け付けると、サーバ装置10に対して、マーカ付与の操作を受け付けた時間を示す時間情報を含むマーカ付与の要求を送信する(ステップS18)。サーバ装置10は、この要求に応じて、要求に含まれる時間情報を含むマーカ情報を設定し、設定したマーカ情報を例えばストレージ1003に保存する。上述した図7(d)において、時間tMにマーカ情報に基づくマーカMが設定された様子が示されている。
サーバ装置10は、後(例えば図7(d)の時間tN)に、端末装置20cから、例えば付与したマーカに基づく再生要求を受け付けると、当該マーカに関連付けられた時間tMに対応する位置から、音声データおよび映像データを端末装置20cに送信する(ステップS19)。端末装置20cは、サーバ装置10から送信された音声データおよび映像データを受信して、再生する。端末装置20cを使用するユーザは、例えば自身がマーキングした時点から音声および映像を視聴することができる。端末装置20bにおいても同様に、マーカ付与の要求をサーバ装置10に送信し(ステップS20)、マーキングした時点からの音声および映像を視聴することができる。
(実施形態に係る情報処理システムを実現するための機能構成)
次に、実施形態に係る情報処理システム1を実現するための一例の機能構成について説明する。
図8は、図1に示したサーバ装置10の機能を説明するための一例の機能ブロック図である。図8において、サーバ装置10は、通信部100と、ユーザ管理部101と、選択部102と、記憶部103と、1以上のプロジェクト管理部104と、制御部105とを含む。通信部100、ユーザ管理部101、選択部102、記憶部103、各プロジェクト管理部104および制御部105は、CPU1000上で動作するプログラムにより実現される。これに限らず、通信部100、ユーザ管理部101、選択部102、記憶部103、各プロジェクト管理部104および制御部105のうち一部または全部を、互いに協働して動作するハードウェア回路により構成してもよい。
サーバ装置10において、制御部105は、サーバ装置10の全体の動作を制御する。通信部100は、ネットワーク12を介した通信を行う。通信部100は、ブラウザなどを実行する複数の端末装置20a、20b、20cおよび20dからのアクセスを受け付ける。そして、サーバ装置10は、複数の端末装置20a、20b、20cおよび20dのそれぞれに対して、その端末装置20a、20b、20cおよび20dが要求した情報を提供する。
ユーザ管理部101は、サーバ装置10にアクセス可能なユーザの情報を管理する。表1は、ユーザ管理部101がユーザ情報管理に用いるユーザ管理テーブルの例を示す。ユーザ管理テーブルは、例えばストレージ1003に保存される。
表1において、ユーザ管理テーブルは、「ユーザID」、「ユーザ名」、「パスワード」、「メールアドレス」、「接続先情報」の各項目を含む1以上のレコードを有する。
Figure 2018032912
項目「ユーザID」は、そのレコードが示すユーザを識別するための識別情報であるユーザIDが格納される。項目「ユーザ名」は、そのレコードのユーザのユーザ名が格納される。項目「パスワード」は、そのレコードのユーザがサーバ装置10にアクセスする際の認証に用いるパスワードが格納される。サーバ装置10は、例えばユーザIDとパスワードとの組み合わせを用いてユーザ認証を行う。項目「メールアドレス」は、そのレコードのユーザが持つ電子メールアドレスが格納される。項目「接続先情報」は、そのレコードのユーザが主に用いる端末装置の接続情報(例えばMACアドレス(Media Access Control address))が格納される。
サーバ装置10において、1以上のプロジェクト管理部104は、それぞれプロジェクトを管理する。プロジェクトは、複数のユーザを含むグループが形成され、サーバ装置10は、プロジェクト毎に、グループに含まれるユーザ間のコミュニケーションを実現させる。
なお、上述した会議室2a、2b、…で行われる会議は、会議室毎に1のプロジェクトのユーザをメンバとして実行されるものとする。これはこの例に限定されず、1の会議室において複数のプロジェクトのユーザが混在したメンバで会議を実行してもよいし、1のプロジェクトのユーザを複数の会議室における会議に分散してもよい。以下では、1のプロジェクトは、1の会議に対応するものとして説明を行う。
ここで、実施形態において、会議への参加方法として、以下の3種類の参加方法を定義する。
(1)直接参加
(2)遠隔参加
(3)準参加
(1)の直接参加は、例えば会議の主催者と同室におり、主催者と直接的に議論を行うことが可能な参加方法である。図1の例では、直接参加により参加する参加者(直接参加者と呼ぶ)は、会議室2a内で端末装置20bを使用するものとする。直接参加者は、会議に、会議の開始から終了までフルタイムで参加する参加形態を取ることを前提とする。
(2)の遠隔参加は、主催者とは異なる場所(部屋)におり、例えばネットワーク30を介して会議に参加する参加方法である。図1の例では、遠隔参加により参加する参加者(遠隔参加者と呼ぶ)は、ネットワーク30を介してサーバ装置10に接続される、端末装置20cおよび20dの何れかを使用するものとする。遠隔参加者は、会議に、会議の開始から終了までフルタイムで参加する参加形態を取ることを前提とするが、これに限らず、会議の開始から終了までの間の一部期間のみ、参加する参加形態であってもよい。
(3)の準参加は、会議の閲覧のみを行い、会議に対して発言などのアクションを起こさないことを前提とする参加方法である。図1の例では、準参加により参加する参加者(準参加者と呼ぶ)は、ネットワーク30を介してサーバ装置10に接続される、端末装置20cおよび20dの何れかを使用するものとする。準参加者は、会議に、会議の開始から終了までの間の任意の期間に参加するパート参加の参加形態を取ることを前提とするが、これに限らず、会議にフルタイムで参加する参加形態であってもよい。
説明は図8に戻り、選択部102は、プロジェクトを管理するためのプロジェクト管理テーブルを有する。選択部102は、ユーザ認証がされた例えば端末装置20aからアクセスされた場合、プロジェクト管理テーブルに基づき図9に示すようなプロジェクト選択画面400を端末装置20aに提供して、端末装置20aのディプレイ2011に表示させる。プロジェクト選択画面400は、管理している少なくとも1つのプロジェクトの中から1を端末装置20aに選択させるための画面である。
表2は、実施形態に適用可能なプロジェクト管理テーブルの例を示す。表2において、プロジェクト管理テーブルは、「プロジェクトID」、「メンバのユーザID」、「プロジェクト名」、「定例日時」の各項目を含む1以上のレコードを有する。
Figure 2018032912
項目「プロジェクトID」は、プロジェクトの識別情報が格納される。プロジェクトの識別情報は、プロジェクトの新規作成時にサーバ装置10が一意に生成する。項目「メンバのユーザID」は、プロジェクトに参加しているユーザのユーザIDが列挙される。ユーザIDは、表1に示したユーザ管理テーブルにおける項目「ユーザID」に格納される値が用いられる。項目「プロジェクト名」は、そのレコードのプロジェクトの名前が格納される。項目「プロジェクト名」に格納される値が、プロジェクト選択画面400に表示される。項目「定例日時」は、そのレコードのプロジェクトにおいて定例的に行われるイベント(会議など)の日時が格納される。
端末装置20aは、ユーザ(主催者)により何れかのプロジェクトが選択された場合、選択されたプロジェクトを示す選択情報をサーバ装置10に送信する。選択部102は、端末装置20aからの選択情報に応じて、その端末装置20aが参加するプロジェクトを選択する。選択部102は、端末装置20aからの選択情報に応じて選択されたプロジェクトに対応するプロジェクト管理部104を呼び出し、そのプロジェクト管理部104とその端末装置20aとの間の情報のやり取りを可能とする。
それぞれのプロジェクト管理部104は、対応するプロジェクトに参加するそれぞれの端末装置20a、20b、20cおよび20dからアクセスを受け付ける。また、それぞれのプロジェクト管理部104は、対応するプロジェクトに関する各種の情報処理を実行する。
記憶部103は、それぞれのプロジェクト管理部104が管理するデータを、プロジェクト毎に例えばストレージ1003に記憶させる。
図10は、実施形態に係るプロジェクト管理部104の機能を説明するための一例の機能ブロック図である。プロジェクト管理部104は、映像音声処理部1040と、会議情報管理部1042と、時間取得部1043と、画面提供部1044と、時間管理部1045と、受付部1046と、テキスト化部1047とを含む。
プロジェクト管理部104において、映像音声処理部1040は、サーバ装置10に受信された、当該プロジェクト管理部104が管理するプロジェクトに係る映像データおよび音声データに対する処理を行う。例えば映像音声処理部1040は、サーバ装置10における映像データおよび音声データの送受信処理、および、映像データおよび音声データのストレージ1003などに対する保存処理などを制御する。
図1を参照して音声データの例について説明すると、例えば、映像音声処理部1040は、会議端末25、および、端末装置20a〜20dから送信された音声データをそれぞれ受信し、ストレージ1003に順次に保存する。また、映像音声処理部1040は、受信した各音声データから、例えば端末装置20cおよび20dから送信されたチャネル選択情報に従いそれぞれ選択した音声データを、端末装置20cおよび20dにそれぞれ送信する。
映像データについては、映像音声処理部1040は、会議端末25から送信された映像データを受信し、ストレージ1003に保存する。また、映像音声処理部1040は、受信した映像データを、例えば端末装置20cおよび20dの要求に従い、端末装置20cおよび20dに送信する。
さらに、映像音声処理部1040は、例えばストレージ1003に保存される映像データおよび音声データを、時系列上で指定された位置(時間)から読み出して出力する。例えば、映像音声処理部1040は、ストレージ1003に保存される映像データおよび音声データを、上述したマーカ情報により指定した位置から出力することができる。
会議情報管理部1042は、当該プロジェクト管理部104に管理されるプロジェクトにおいて行われる会議の情報を管理する。表3は、会議情報管理部1042が会議の情報を管理するために用いる会議管理テーブルの例を示す。表3において、会議管理テーブルは、「プロジェクトID」、「会議ID」、「会議名」、「参加者」、「場所」、「日時」および「会議端末情報」の各項目を含む1以上のレコードを有する。
Figure 2018032912
項目「プロジェクトID」は、その会議が属するプロジェクトの識別情報が格納される。項目「プロジェクトID」に格納される値は、表2のプロジェクト管理テーブルにおける項目「プロジェクトID」の値が用いられる。項目「会議ID」は、その会議を識別する識別情報が格納される。会議の識別情報は、会議の新規作成時にサーバ装置10が一意に生成する。項目「会議名」は、その会議に設定された名前が格納される。項目「参加者」は、その会議に参加する参加者のユーザIDが格納される。ユーザIDは、表1に示したユーザ管理テーブルにおける項目「ユーザID」に格納される値が用いられる。また、ユーザIDは、項目「プロジェクトID」の値で識別されるプロジェクトに参加しているユーザのユーザIDから選択される。項目「場所」は、会議が行われる場所(部屋)を示す情報が格納される。項目「日時」は、会議が行われる日付および時間が格納される。項目「会議端末情報」は、その会議で用いられる会議端末25を識別する識別情報が格納される。
また、会議情報管理部1042は、会議ID毎に、会議で用いる資料データを管理する。さらに、会議情報管理部1042は、電子黒板22に描画された描画画像の管理も行う。会議情報管理部1042は、例えば電子黒板22に表示される資料データにオーバーラップして描画がなされた場合、描画画像と当該資料データとを関連付けて管理する。また、会議情報管理部1042は、例えば端末装置20aに対して、後述する会議管理画面を提供する。
時間取得部1043は、現在の日時および時刻を示す時間情報を取得する。
画面提供部1044は、各端末装置20a、20b、20cおよび20dの画面を提供する。例えば、画面提供部1044は、画面を表示させるための表示制御情報を、例えばHTMLに従い記述されたWebページとして所定のURL(Uniform Resource Locator)に示される場所に保存する。各端末装置20a、20b、20cおよび20dは、自身に搭載されるブラウザにより当該URLにアクセスすることで、画面提供部1044により提供される画面を表示することができる。なお、HTMLには、Webページにアクセスした機器の種類(デスクトップ型コンピュータ、タブレット型コンピュータ、スマートフォン、など)を判別するための仕組みを有し、アクセスした機器の種類に応じた画面を提供することが可能である。
画面提供部1044による各端末装置20a、20b、20cおよび20dへの画面の提供は、Webページを用いる方法に限定されない。例えば、各端末装置20a、20b、20cおよび20dに、この情報処理システム1に専用のアプリケーションプログラムを搭載させ、画面提供部1044は、各端末装置20a、20b、20cおよび20dに対して、この専用のアプリケーションプログラムによる画面表示を制御するための所定の表示制御情報を送信するようにしてもよい。
時間管理部1045は、当該プロジェクト管理部104に管理されるプロジェクトにおいて行われる会議における時系列を管理する。例えば、時間管理部1045は、時間取得部1043から取得した時間を、会議が開始された時間を基準とする時系列上の時間、すなわち、会議開始時からの経過時間として管理する。また、時間管理部1045は、当該会議において各端末装置20a〜20dにおいて設定されサーバ装置10に送信された各マーカ情報と、時系列上の時間(経過時間)とを関連付けて管理する。
さらに、時間管理部1045は、電子黒板22および各端末装置20a〜20dから送信された、電子黒板22および各端末装置20a〜20dにおける各アクション(電子黒板22上での資料データの表示、各端末装置20a〜20dからの反応、など)を示す情報を時系列上で蓄積的に記憶し、アクションのログを記録する。ログは、会議の識別情報(会議ID)と関連付けて例えばストレージ1003に保存される。
受付部1046は、各端末装置20a、20b、20cおよび20dから送信されたマーカ付与の要求や、センサI/F23から送信された検知結果などを受け付ける。テキスト化部1047は、映像音声処理部1040において取得された音声データを、既存の技術を用いて解析してテキスト化する。これに限らず、テキスト化部1047は、例えばネットワーク30を介して接続可能な外部のサービスを利用して、音声データのテキスト化を行ってもよい。
サーバ装置10における各機能を実現するための情報処理プログラムは、インストール可能な形式または実行可能な形式のファイルでCD(Compact Disk)、フレキシブルディスク(FD)、DVD(Digital Versatile Disk)などのコンピュータで読み取り可能な記録媒体に記録して提供される。これに限らず、当該情報処理プログラムを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、当該ネットワークを介してダウンロードさせることにより提供してもよい。また、当該情報処理プログラムをインターネットなどのネットワークを経由して提供または配布するように構成してもよい。
当該情報処理プログラムは、上述した各部(映像音声処理部1040、会議情報管理部1042、時間取得部1043、画面提供部1044、時間管理部1045、受付部1046およびテキスト化部1047)を含むモジュール構成となっている。実際のハードウェアとしては、CPU1000がストレージ1003などの記憶媒体から当該情報処理プログラムを読み出して実行することにより、上述した各部がRAM1002などの主記憶装置上にロードされ、映像音声処理部1040、会議情報管理部1042、時間取得部1043、画面提供部1044、時間管理部1045、受付部1046およびテキスト化部1047が主記憶装置上に生成されるようになっている。
図11は、実施形態に適用可能な端末装置20dの機能を説明するための一例の機能ブロック図を示す。端末装置20dは、通信部200と、制御部201と、入力受付部202と、表示制御部203と、音声処理部204と、映像処理部205と、運動検知部206と、マーカ処理部207とを含む。なお、端末装置20a、20bおよび20cは、図11に示す構成から運動検知部206を省いた構成となる。ここでは、端末装置20a、20b、20cおよび20dを、端末装置20dで代表させて説明を行う。
これら通信部200、制御部201、入力受付部202、表示制御部203、音声処理部204、映像処理部205、運動検知部206およびマーカ処理部207は、CPU2000上で動作するプログラムにより実現される。これに限らず、通信部200、制御部201、入力受付部202、表示制御部203、音声処理部204、映像処理部205、運動検知部206およびマーカ処理部207の一部または全部を、互いに協働して動作するハードウェア回路により構成してもよい。
通信部200は、通信I/F2007を制御して、ネットワーク12やネットワーク30を介した通信を行う。制御部201は、端末装置20dの全体の動作を制御する。入力受付部202は、入力I/F2005を制御して、入力デバイス2012に対してなされたユーザ操作による入力を受け付ける。表示制御部203は、表示制御情報に基づき表示制御信号を生成し、表示制御信号に従いグラフィクスI/F2003を制御してディスプレイ2011に所定の画面を表示させる。
音声処理部204は、音声データに対して所定の処理を施す。例えば、音声処理部204は、マイクロホン2013で収音されたアナログ方式の音声信号が音声I/F2006で変換されたディジタル方式の音声データに対して所定の処理を施して通信部200に渡す。通信部200は、音声処理部204から渡された音声データをサーバ装置10に送信する。また例えば、音声処理部204は、マイクロホン2013で収音された、例えばユーザの音声による音声信号に基づく音声データを既存の音声認識技術を用いて解析し、音声に含まれる特定ワードを抽出することができる。
映像処理部205は、映像データに対して所定の処理を施す。例えば、映像処理部205は、カメラ2015で撮影され映像I/F2008から出力された映像データに対して所定の処理を施して通信部200に渡す。通信部200は、映像処理部205から渡された映像データをサーバ装置10に送信する。また例えば、映像処理部205は、カメラ2015での撮影により得た、例えばユーザの映像を含む映像データを既存の映像解析技術を用いて解析し、映像に含まれるユーザの特定のポーズを抽出することができる。
運動検知部206は、9軸センサ2016の出力を解析して、端末装置20dの姿勢および姿勢の変化を検出する。マーカ処理部207は、入力受付部202に受け付けられた入力に応じてマーカ情報を作成する。
端末装置20dに含まれる各機能部のうち、制御部201を除く各部(通信部200、入力受付部202、表示制御部203、音声処理部204、映像処理部205、運動検知部206およびマーカ処理部207)は、例えばWebアプリケーションプログラムであって、端末装置20dがブラウザによりネットワーク30(端末装置20bの場合はネットワーク12)を介してサーバ装置10から取得したプログラムがCPU2000上で実行されることで構成される。
(実施形態に適用可能な処理の具体例)
次に、実施形態に適用可能な処理について、より具体的に説明する。以下では、図1を参照し、会議室2aにおいて電子黒板22を用いて会議を行うものとして説明を行う。会議の主催者は、端末装置20aを、直接参加者は、端末装置20bを、それぞれ用いるものとする。また、遠隔参加者および準参加者は、それぞれ端末装置20cおよび端末装置20dのうち何れを用いてもよいが、ここでは、遠隔参加者が端末装置20cを用い、準参加者が端末装置20dを用いるものとする。
図12は、実施形態に適用可能な、会議の準備段階におけるサーバ装置10の処理を示す一例のフローチャートである。例えば、会議の主催者は、端末装置20aを用いてサーバ装置10にアクセスする。ステップS100で、サーバ装置10は、端末装置20aからのアクセスを受け付ける。例えば、サーバ装置10は、ユーザ管理部101により、端末装置20aからのアクセスに応じて、端末装置20aに対して、ユーザIDおよびパスワードの入力領域を備えるログイン画面を提示する。サーバ装置10において、ユーザ管理部101は、端末装置20aから、このログイン画面に対して入力されたユーザIDおよびパスワードを受信すると、例えばユーザ管理テーブルを参照して認証処理を行い、認証が成功した場合に、端末装置20aからのアクセスを許可する。
ステップS100で端末装置20aのアクセスを許可すると、次のステップS101で、サーバ装置10は、プロジェクト管理テーブルに基づき図9に示したプロジェクト選択画面400を端末装置20aに提示する。例えば会議の主催者は、端末装置20aを操作して、プロジェクト選択画面400に対してプロジェクト選択入力を行い、会議を行うプロジェクトを指定する。端末装置20aは、プロジェクト選択入力の結果をサーバ装置10に送信する。
会議の主催者は、会議を行うためのプロジェクトを新規に作成してもよい。この場合、例えば、サーバ装置10において、選択部102は、端末装置20aからのプロジェクト新規作成要求に応じて、表2で示したプロジェクト管理テーブルにおける入力すべき各項目の入力領域を含むプロジェクト作成画面を端末装置20aに提示する。選択部102は、端末装置20aから、このプロジェクト作成画面に従い入力された各項目の情報に基づきプロジェクト管理テーブルにレコードを追加して、新規のプロジェクトを作成する。
次のステップS102で、サーバ装置10は、端末装置20aによりプロジェクト選択画面400に対してなされたプロジェクト選択入力を受け付け、入力結果を取得する。サーバ装置10は、取得したプロジェクト選択入力の結果に基づき、端末装置20aにより指定されたプロジェクトのプロジェクトIDを取得する。サーバ装置10は、ステップS102で取得されたプロジェクトIDに対応するプロジェクト管理部104を、複数のプロジェクト管理部104から特定する。
次のステップS103で、サーバ装置10は、ステップS102で特定されたプロジェクト管理部104の画面提供部1044により、端末装置20aに対して会議管理画面を提示する。
次のステップS104で、サーバ装置10において会議情報管理部1042は、会議管理画面に対する会議の書誌情報などの入力を受け付ける。ステップS104では、(a)会議に参加するメンバ(参加者)に関する情報の登録と、(b)会議の書誌情報の設定と、(c)会議に用いる資料データの登録とが行われる。会議の書誌情報は、例えば会議名、議題、会議の日時および場所などを含む。
図13は、実施形態に適用可能な、画面提供部1044が端末装置20aに対して提示する会議管理画面の例を示す。図13において、会議管理画面500は、プロジェクトに参加しているメンバの情報が表示されるメンバ表示領域501と、議題を設定するための議題設定領域502とを含む。
メンバ表示領域501は、プロジェクトに参加している各メンバのメンバ情報50101、50102、50103、…が一覧で表示される。メンバ表示領域501にプロジェクトに参加している全メンバの情報が表示しきれない場合は、例えば端末装置20aに対する所定の操作によりメンバ表示領域501をスクロール(この例では横方向にスクロール)させることで、表示されていないメンバの情報がメンバ表示領域501内に出現する。
例えばメンバ情報50101は、このメンバ情報50101に表示されるメンバを示すアイコン画像5011が表示されると共に、当該メンバの各属性情報が表示される表示領域5012〜5015を含む。表示領域5012は、当該メンバの名前が表示される。画面提供部1044は、例えばユーザ管理テーブルとプロジェクト管理テーブルとに基づき、プロジェクトに参加しているメンバの名前を取得する。
表示領域5013は、当該メンバの参加方法が表示される。参加種類は、例えば上述した参加者の種類のうち(1)〜(3)の直接参加、遠隔参加および準参加と、会議に参加しないことを示す不参加とを含む。図13の例では、メンバ情報50101および50104のメンバが直接参加(Participation)、メンバ情報50102のメンバが遠隔参加(Remote)、メンバ情報50103のメンバが準参加(Semi−Participation)、メンバ情報50105のメンバが不参加(Absent)となっている。
表示領域5014は、当該メンバの参加形態が表示される。図13の例では、メンバ情報50101、50102および50104のメンバがフルタイムの参加形態、メンバ情報50103のメンバが議題2および3のみ参加のパート参加形態となっている。
会議情報管理部1042は、各メンバの参加種類および参加形態を、例えば表4に示す参加方法テーブルを用いて管理する。表4において、参加方法テーブルは、それぞれユーザID、参加方法、参加形態に対応する「ユーザID」、「参加方法」、「参加形態」の各項目を含むレコードを、例えば会議の参加メンバ分、有する。参加方法テーブルは、例えば会議IDに関連付けられて、ストレージ1003に保存される。参加方法テーブルに格納される各情報は、例えば会議の主催者により予め登録される。
Figure 2018032912
表示領域5015は、当該メンバが会議のためにサーバ装置10に登録した資料データの一覧が表示される。図13の例では、各メンバ情報50101〜50105において表示領域5015の表示が「No File」とされ、資料データが登録されていないことが示されている。
なお、例えば会議の主催者は、端末装置20aに表示された会議管理画面500における表示領域5012〜5015に表示される情報を、端末装置20aから編集することができる。また、プロジェクトの各メンバは、各自の端末装置20b、20cおよび20dから会議管理画面500にアクセスして、自身の属性情報を編集することができる。表示領域5012〜5015に表示される情報は、例えば編集に応じてサーバ装置10に送信され、会議情報管理部1042により会議管理テーブルおよび参加方法テーブルの対応する項目に反映され、登録される。
図13において、議題設定領域502は、過去の会議における決定事項などを確認するための議題領域5020aと、会議に議題を追加するための議題領域5020bとを含む。図14は、議題領域5020bに対する操作に応じて端末装置20aに表示される、実施形態に適用可能な議題設定画面の例を示す。なお、ここでは、図14に示される議題設定画面510は、所定の権限(例えば会議の主催者)を持つユーザのユーザIDに応じて表示されるものとする。
図14において、議題設定画面510は、入力領域5101〜5104と、ボタン5105aおよび5105bとを含む。入力領域5101は、会議のタイトル(会議名)を入力するための領域である。入力領域5102は、会議の議題を入力するための領域である。
入力領域5103は、会議で用いる資料データをアップロードするための領域である。例えば、端末装置20aは、入力領域5103に設けられるボタン5103aに対する操作に応じて、端末装置20a内のファイルを選択するファイル選択画面を表示させる。端末装置20aは、ファイル選択画面に対するファイルの選択操作に応じて、入力領域5103に、アップロードを行うファイルの一覧を表示させる。
入力領域5104は、入力領域5104a、5104bおよび5104cを含む。入力領域5104aは、会議の日付を入力するための領域である。入力領域5104bは、会議の開始時間および終了時間を入力するための領域である。また、入力領域5104cは、会議の場所を入力するための領域である。これら入力領域5104a、5104bおよび5104cは、例えば別途に提供されるスケジューラのアプリケーションプログラムを参照して値を入力することが可能である。
ボタン5105aは、入力領域5101〜5104に入力された各情報を破棄するためのボタンである。ボタン5105bは、入力領域5101〜5104に入力された各情報を確定し、各情報をサーバ装置10に登録するためのボタンである。端末装置20aは、ボタン5105bが操作されると、入力領域5101〜5104に入力された各情報をサーバ装置10に送信する。また、端末装置20aは、入力領域5103に表示される各ファイルをサーバ装置10に送信する。
サーバ装置10において、会議情報管理部1042は、端末装置20aから受信した各情報のうち、入力領域5101に入力された会議のタイトルを、会議管理テーブルの項目「会議名」に、入力領域5104に入力された各情報を、会議管理テーブルの項目「日時」および「場所」に、それぞれ反映させて、書誌情報の登録を行う。また、会議情報管理部1042は、端末装置20aからアップロードされた各ファイルを、会議IDおよびユーザIDと関連付けて例えばストレージ1003に保存する。さらに、会議情報管理部1042は、端末装置20aから受信した、入力領域5102に入力された会議の議題を、会議IDと関連付けてストレージ1003などに所定に保存し、書誌情報に追加する。
なお、会議に参加する各メンバは、各自の端末装置20b、20cおよび20dから会議管理画面500にアクセスして、例えば入力領域5013および5014に表示される、自身の会議への参加方法および参加形態を編集することができる。また、各メンバは、各自の端末装置20b、20cおよび20dから会議管理画面500にアクセスして、入力領域5103に対して資料データのファイルをアップロードすることができる。アップロードされたファイルは、会議情報管理部1042により、会議IDおよびユーザIDと関連付けられて、ストレージ1003に保存される。
図15は、実施形態に適用可能な、上述のようにして各情報の入力やファイルのアップロードが完了した場合の会議管理画面500の例を示す。図15の例では、メンバ情報50102、50103および50104に、アップロードしたファイルの情報が表示されている。また、議題設定領域502において、新たに設定された議題の情報を含む議題領域5020cが追加されている。
説明は図12に戻り、会議情報管理部1042は、ステップS105で、会議管理画面500に従った各情報の登録が完了したか否かを判定する。完了していないと判定した場合(ステップS105、「No」)、処理がステップS104に戻される。一方、会議情報管理部1042は、情報の登録が完了したと判定した場合(ステップS105、「Yes」)、処理をステップS106に移行させる。会議情報管理部1042は、例えば、会議管理画面500に対する所定の操作に応じて、情報の登録が完了したと判定することが考えられる。
ステップS106で、サーバ装置10は、会議情報管理部1042により、会議管理画面500のメンバ表示領域501により登録された、会議に参加する各参加者に対して、会議の開催が通知される。各参加者に対する会議開催通知は、例えば、会議管理テーブルおよびユーザ管理テーブルに基づき、各参加者に対する電子メールの送信により行う。ここで、会議情報管理部1042は、各参加者に送信する会議開催通知メールに、画面提供部1044が各端末装置20b、20cおよび20dに対して会議画面を表示させるためのURLを付加して、当該通知メールを送信する。
次のステップS107で、会議情報管理部1042は、現在が、議題設定画面510において入力領域5104aおよび5104bに設定された会議開催日時であるか否かを判定する。現在が会議開催日時ではないと判定した場合(ステップS107、「No」)、会議情報管理部1042は、処理をステップS107に戻し、会議開催日時を待機する。
一方、会議情報管理部1042は、現在が会議開催日時であると判定した場合(ステップS107、「Yes」)、処理をステップS108に移行させる。ステップS108で、会議情報管理部1042は、電子黒板22に対して、会議開始画面を表示させるよう指示する。図16は、実施形態に適用可能な、電子黒板22に表示される会議開始画面の例を示す。図16において、会議開始画面520は、表示領域521および522と、ボタン523aおよび523bとを含む。
表示領域521は、開始される会議名5210と、会議の主催者を示す情報5211とを含む。この例では、情報5211は、会議の主催者のアイコン画像と、名前とを含んでいる。表示領域522は、会議の書誌情報が表示される。この例では、表示される書誌情報は、会議が開催される日時を示す情報と、会議の開催場所を示す情報とを含んでいる。
ボタン523aは、この会議の開始をキャンセルするためのボタンである。また、ボタン523bは、この会議の開始を指示するためのスタートボタンである。
図17は、実施形態に適用可能な、電子黒板22における処理を概略的に示す一例のフローチャートである。ステップS120で、電子黒板22において会議開始画面520のボタン523bが操作され、会議の開始が指示される。電子黒板22は、会議の開始指示をサーバ装置10に通知する。
サーバ装置10は、会議の開始時の通知に応じて、会議が開催される会議室2aと遠隔の場所にある、端末装置20cおよび20dに対して会議の開始を通知する。
図18は、実施形態に適用可能な、会議の開始を通知するための会議開始通知画面の例を示す。なお、以下では、端末装置20dがスマートフォンであって、画面を縦長の方向に保持して画面表示させているものとして説明する。勿論、画面を横長の方向に保持した場合や、端末装置20dがタブレット型コンピュータ、デスクトップ型コンピュータ、ノート型コンピュータであっても、同様の構成要素を用いて画面表示を行うことができる。
図18において、会議開始通知画面530は、表示領域531および532と、ボタン533aおよび533bとを含む。図18の例では、表示領域531は、会議の議題が表示され、表示領域532は、会議の書誌情報として、会議が開催される日時および場所を示す情報が表示されている。また、図18の例では、会議開始通知画面530は、会議の開始を通知するための表示5310および5311を含む。ボタン533aは、会議開始通知画面530を閉じるためのボタンであり、ボタン533bは、次の画面に遷移させるためのボタンである。
次のステップS121で、サーバ装置10は、電子黒板22から会議の開始指示が通知されると、音声および映像の記録、ならびに、ログの取得を開始する。
より具体的には、サーバ装置10は、例えば、会議開始指示の通知を受け付けた時間を会議開始時間とし、会議開始時間を基準とした時系列を、当該会議の会議IDに関連付けられる時系列として定義する。サーバ装置10は、会議端末25から受信した音声データおよび映像データを、会議IDおよび時系列上の時間と関連付けて、例えばストレージ1003に保存する。サーバ装置10は、同様に、各端末装置20b、20cおよび20dから音声データや映像データを受信している場合には、それらの音声データおよび映像データを、会議IDおよび時系列上の時間と関連付けて、ストレージ1003に保存する。
また、サーバ装置10は、音声データおよび映像データの、会議端末25や各端末装置20b、20cおよび20dへの送信も制御する。
さらに、サーバ装置10は、電子黒板22および各端末装置20a〜20dにおけるアクションを、電子黒板22および各端末装置20a〜20dから受信することができる。サーバ装置10は、電子黒板22および各端末装置20a〜20dからアクションを受信した場合に、受信したアクションを、会議IDおよび時系列上の時間と関連付けて、ストレージ1003に蓄積に保存して、アクションのログを記録する。
次のステップS122で、電子黒板22は、ディスプレイ2027aに描画画面を表示させ、タッチパネル2027に対する描画の受け付けを開始する。これにより、ユーザは、タッチパネル2027に対して自在に描画を行い、描画した画像をタッチパネル2027のディスプレイ2027aに表示させることが可能となる。
図19は、実施形態に適用可能な描画画面の例を示す。図19において、描画画面540は、表示領域5400と、メニュー領域5401と、描画領域5402とを含む。表示領域5400は、議題を切り替えるためのボタン5400aと、サーバ装置10にログインしているユーザを示すアイコン画像5400bとを含む。
メニュー領域5401は、ボタン5401a、5401bおよび5401cを含む。ボタン5401aは、サーバ装置10に予め登録される資料データファイルを指定するためのファイルリストを表示させるためのボタンである。ボタン5401bおよび5401cは、それぞれ、後述する留意事項マークおよび決定事項マークを設定するためのボタンである。
描画領域5402は、接触などによる描画が可能な領域である。描画領域5402は、ツールアイコン部5410と、画面切替部5411とを含む。ツールアイコン部5410は、電子黒板22の各機能を指定するための各アイコン画像が含まれる。例えば、ツールアイコン部5410は、描画に用いる各描画ツールを示すアイコン画像が含まれる。所望の描画ツールのアイコン画像をタッチした後に描画領域5402をタッチすることで、当該描画ツールによる効果を描画領域5402に反映させることができる。
また、ツールアイコン部5410は、描画領域5402内に表示される画像の拡大縮小、複製、貼り付け、保存、消去などを実行するための各機能ボタンが含まれる。拡大縮小の機能ボタンを指定すると、描画領域5402内の画像が拡大または縮小されて表示される。複製の機能ボタンを指定すると、描画領域5402内の画像が例えばRAM2022に一時的に記憶される。貼り付けの機能ボタンを指定すると、複製の機能ボタンの指定により記憶された画像が、描画領域5402に貼り付けられる。保存の機能ボタンを指定すると、描画領域5402内の画像が例えばストレージ2023に保存される。消去の機能ボタンを指定すると、描画領域5402内の画像が消去される。
画面切替部5411は、例えばツールアイコン部5410における保存の機能ボタンを指定して保存された画像のサムネイル画像が一覧表示される。電子黒板22は、画面切替部5411に表示されるサムネイル画像が指定されると、指定されたサムネイル画像に対応する画像をストレージ2023から読み出して、描画領域5402内に表示させることができる。
次のステップS123で、電子黒板22は、ステップS120で開始された会議が終了したか否かを判定する。電子黒板22は、例えば、タッチパネル2027に対する、予め定められた会議終了を指示する操作の有無に基づき、会議が終了したか否かを判定する。電子黒板22は、タッチパネル2027に対して会議終了を指示する操作があった場合、会議が終了したと判定し(ステップS123、「Yes」)、会議の終了をサーバ装置10に通知し、図17のフローチャートにおける一連の処理を終了させる。
サーバ装置10は、電子黒板22による会議終了の通知に応じて、例えば音声データおよび映像データの記録と、ログの記録とを終了させる。
電子黒板22は、会議が終了していないと判定した場合(ステップS123、「No」)、処理をステップS124に移行させる。ステップS124で、電子黒板22は、予め登録された資料データに対する操作の有無を判定する。電子黒板22は、資料データに対する操作があったと判定した場合(ステップS124、「有り」)、処理をステップS125に移行させる。電子黒板22は、ステップS125で、操作に応じた処理を実行し、処理をステップS123に戻す。
資料データに対する処理の1つとして、サーバ装置10に予め登録された資料データによる画像を、電子黒板22のディスプレイ2027aに表示させる処理がある。電子黒板22は、図19に示した描画画面540において、ボタン5401aに対する操作に応じて、サーバ装置10に予め登録される資料データファイルを指定するためのファイルリストを表示させる。
図20−1は、実施形態に適用可能な、ボタン5401aの操作に応じてファイルリスト5420が表示された例を示す。例えば、電子黒板22は、ボタン5401aが操作されると、サーバ装置10に対して、当該会議の会議IDに関連付けられて保存される資料データのファイルを要求する。サーバ装置10は、この要求に応じて、要求された各ファイルを、当該ファイルに関連付けられたユーザIDと共にストレージ1003から読み出して電子黒板22に送信する。
電子黒板22は、サーバ装置10から送信された各ファイルを受信すると、受信した各ファイルを、例えばストレージ2023に記憶し、各ファイルのファイル名を示す情報に基づきファイルリスト5420を表示させる。電子黒板22は、ファイルリスト5420に対する操作に応じて選択されたファイルをストレージ2023から読み出して、読み出したファイルに基づく画像を描画領域5402に表示させる。図20−2は描画領域5402にファイルに基づく画像600が表示された例を示す。
また、電子黒板22は、選択されたファイルに関連付けられたユーザIDに基づき、サーバ装置10に対して例えば当該ユーザIDに関連付けられたメールアドレスにより、当該ユーザIDに対応するユーザに対して、ファイルが選択され表示された旨を通知する。さらに、電子黒板22は、選択されたファイルを示す情報と、当該ファイルに関連付けられたユーザIDと、ファイルが選択された時系列上の時間とをサーバ装置10に送信する。サーバ装置10は、電子黒板22から受信したファイル情報、ユーザIDおよび時間とを関連付けて、ログとして記録する。
なお、電子黒板22は、ファイルに基づく画像600が表示されている場合であっても、ユーザ操作に応じた描画を受け付けることができる。図21は、実施形態に適用可能な、資料データによる画像600が表示されている描画領域5402に対して描画を行い、描画による画像601が資料データによる画像600に重畳して表示された例を示す。
説明は図17のフローチャートに戻り、上述したステップS124で、電子黒板22は、資料データに対する操作が無いと判定した場合(ステップS124、「無し」)、処理をステップS126に移行させる。ステップS126で、電子黒板22は、描画領域5402内の画像を保存するか否かを判定する。例えば、電子黒板22は、ツールアイコン部5410における保存の機能ボタンに対する操作の有無に応じて、描画領域5402内の画像を保存するか否かを判定することができる。これに限らず、電子黒板22は、例えば所定の時間間隔で描画領域5402内の画像を自動的に保存するようにしてもよい。
電子黒板22は、描画領域5402内の画像を保存すると判定した場合(ステップS126、「Yes」)、処理をステップS127に移行させる。ステップS127で、電子黒板22は、描画領域5402内の画像の保存処理を実行する。例えば、電子黒板22は、図22に例示されるように、描画領域5402内に予め定められた領域5420内に表示される画像を保存する。このとき、電子黒板22は、領域5420内に、資料データによる画像600が含まれる場合、当該画像600を表示させる資料データのファイルを示す情報を、保存対象の画像に関連付けることができる。
また、電子黒板22は、画像が保存されると、保存された画像を示す情報(例えばファイル情報)と、画像が保存された時系列上の時間と、画像の保存を示す情報とをサーバ装置10に送信する。サーバ装置10は、電子黒板22から受信したファイル情報と時間と画像の保存を示す情報とを関連付けて、ログとして記録する。
電子黒板22は、上述したステップS126で、描画領域5402内の画像を保存しないと判定した場合(ステップS126、「No」)、処理をステップS128に移行させる。ステップS128で、電子黒板22は、描画領域5402内の画像を消去するか否かを判定する。例えば、電子黒板22は、ツールアイコン部5410における消去の機能ボタンに対する操作の有無に応じて、描画領域5402内の画像を消去するか否かを判定することができる。電子黒板22は、描画領域5402内の画像を消去しないと判定した場合(ステップS128、「No」)、処理をステップS123に戻す。
一方、電子黒板22は、描画領域5402内の画像を消去すると判定した場合(ステップS128、「Yes」)、処理をステップS129に移行させる。ステップS129で、電子黒板22は、描画領域5402内の画像を全て消去し、処理をステップS123に戻す。このとき、電子黒板22は、画像を消去した時系列上の時間と、画像の消去を示す情報とをサーバ装置10に送信する。サーバ装置10は、電子黒板22から受信した時間と画像の消去を示す情報とを関連付けて、ログとして記録する。
上述したステップS123〜ステップS129の処理が、ステップS123で会議が終了したと判定されるまで繰り返し実行される。
(実施形態に適用可能な留意事項マークおよび決定事項マーク)
次に、上述した、メニュー領域5401におけるボタン5401bおよび5401cを操作した際の、留意事項マークおよび決定事項マークの設定について説明する。留意事項マークおよび決定事項マークは、会議中において音声などの情報を意図的に残したい場合に用いる。
図23は、実施形態に適用可能な留意事項マークおよび決定事項マークを設定するための処理を示す一例のフローチャートである。ステップS140で、電子黒板22は、留意事項または決定事項の入力が開始されたか否かを判定する。例えば、電子黒板22は、メニュー領域5401におけるボタン5401bおよび5401cの何れかに対する操作に応じて、留意事項または決定事項の入力の開始を判定する。
より具体的には、電子黒板22は、ボタン5401bまたは5401cに対する操作に応じて、留意事項または決定事項の詳細を入力するための入力画面を表示させる。
図24は、実施形態に適用可能な、ボタン5401bに対する操作に応じて表示される、留意事項を入力するための留意事項入力画面の例を示す。図24において、留意事項入力画面5405は、入力領域5406および5407と、録音開始ボタン5408とを含む。入力領域5406は、留意事項のオーナを入力するための領域であって、会議の各メンバから、オーナを選択するようになっている。入力領域5407は、留意事項の種類を入力するための領域であって、予め用意された複数の留意事項の種類から1を選択するようになっている。
録音ボタン5408は、録音の開始および終了をトグル操作により指示するためのボタンである。電子黒板22は、録音ボタン5408に対する操作に応じて時系列上の時間を取得し、留意事項入力の開始または終了を示すポイントを、取得した時間に関連付けて設定し、設定したポイントと、ポイントに関連付けられた時間とをサーバ装置10に送信する。例えば、電子黒板22は、この留意事項入力画面5405が表示されて1回目の録音ボタン5408の操作に応じて、留意事項入力の開始を示すポイントを設定し、2回目の録音ボタン5408の操作に応じて、留意事項入力の終了を示すポイントを設定する。
図25は、ボタン5401cに対する操作に応じて表示される、決定事項を入力するための決定事項入力画面の例を示す。図25において、決定事項入力画面5500は、入力領域5501と、ボタン5502および5503とを含む。この場合、電子黒板22は、ボタン5401cに対する操作に応じてこの決定事項入力画面5500を表示させると共に、時系列上の時間を取得し、決定事項入力の開始を示すポイントを取得した時間に関連付けて設定する。電子黒板22は、設定したポイントと、ポイントに関連付けられた時間とをサーバ装置10に送信する。
入力領域5501は、決定事項の内容をテキスト情報により入力するための領域である。ボタン5502は、決定事項入力操作をキャンセルするためのボタンである。電子黒板22は、ボタン5502に対する操作に応じて、例えば、入力領域5501に入力されたテキスト情報を破棄すると共に、サーバ装置10に対して、この決定事項入力画面5500の表示に伴い設定されたポイントの削除を依頼する。
ボタン5503は、入力領域5501に入力されたテキスト情報を確定させるためのボタンである。電子黒板22は、例えば、ボタン5503の操作に応じて、入力領域5501に入力されたテキスト情報をサーバ装置10に送信する。それと共に、電子黒板22は、時系列上の時間を取得し、決定事項入力の終了を示すポイントを取得した時間に関連付けて設定する。電子黒板22は、設定したポイントと、ポイントに関連付けられた時間とをサーバ装置10に送信する。
説明は図23のフローチャートに戻り、ステップS140で、電子黒板22は、留意事項または決定事項の入力が開始されていないと判定した場合(ステップS140、「No」)、処理をステップS140に戻し、ボタン5401bおよび5401cの何れかに対する操作を待機する。
一方、電子黒板22は、留意事項または決定事項の入力が開始されたと判定した場合(ステップS140、「Yes」)、処理をステップS141に移行させる。ステップS141で、電子黒板22は、ボタン5401bおよび5401cの何れかに対する操作に応じて、時系列上の時間を取得し、留意事項または決定事項の入力の開始を示すポイントを、取得した時間に関連付けて設定する。電子黒板22は、設定したポイントと、ポイントに関連付けられた時間とをサーバ装置10に送信する。
次のステップS142で、電子黒板22は、留意事項入力画面5405または決定事項入力画面5500における留意事項または決定事項の入力が終了したか否かを判定する。電子黒板22は、入力が終了していないと判定した場合(ステップS142、「No」)、処理をステップS142に戻す。一方、電子黒板22は、入力が終了したと判定した場合(ステップS142、「Yes」)、処理をステップS143に移行させる。
ステップS143で、電子黒板22は、時系列上の時間を取得し、留意事項または決定事項の入力の終了を示すポイントを、取得した時間に関連付けてサーバ装置10に送信する。次のステップS144で、電子黒板22は、留意事項入力画面5405または決定事項入力画面5500に入力された入力内容を、サーバ装置10に送信する。サーバ装置10は、電子黒板22から受信したこれら入力内容を、例えばそれぞれの開始を示すポイントに関連付けて保存する。
図26は、実施形態に適用可能な、留意事項および決定事項に関するマーカ情報について概略的に示す。図26(c)は、この会議の開始時間を基準とする時系列を示す。この例では、時系列上の時間tAIstおよびtAIedに、それぞれ留意事項入力の開始および終了を示す各ポイントが設定されている。また、時系列上の時間tDSstおよびtDSedに、それぞれ決定事項入力の開始および終了を示す各ポイントが設定されている。
実施形態では、例えば留意事項入力の開始および終了を示す各ポイントのうち、開始を示すポイントに対して、留意事項を示すマーカ情報(第5の種類の意味情報)を設定する。以下では、留意事項を示すマーカ情報を適宜「アクションアイテムA.I」と呼び、「A.I」として示す。
同様に、決定事項入力の開始および終了を示す各ポイントのうち、開始を示すポイントに対して、決定事項を示すマーカ情報(第5の種類の意味情報)を設定する。以下では、決定事項を示すマーカ情報を適宜「ディシジョンDS」と呼び、そのマーカを「DS」として示す。図26(d)は、留意事項の開始のポイントである時間tAIstにアクションアイテムA.Iによるマーカ「A.I」が設定され、決定事項の開始ポイントである時間tDSstにディシジョンDSによるマーカ「DS」が設定された様子を示している。
また、図26(a)の例では、留意事項入力画面5405の入力領域5406および5407に入力された入力情報であるA.I入力データ50は、アクションアイテムA.Iに関連付けられる。同様に、決定事項入力画面5500の入力領域5501に入力された入力情報であるDS入力データ51は、ディシジョンDSに関連付けられる。
なお、図26(b)に示されるように、音声データは、これらアクションアイテムA.IおよびディシジョンDSとは関わりなく、時系列に沿って記録される。例えば端末装置20dは、後述するタイムライン画面におけるアクションアイテムA.Iの指定に応じて、時間tAIstから時間tAIedの間の音声データを選択的に再生することができる。同様に、端末装置20dは、タイムライン画面におけるディシジョンDSの指定に応じて、時間tDSstから時間tDSedの間の音声データを選択的に再生することができる。
これに限らず、音声データにおいて、例えば時間tAIstから時間tAIedの間の音声データを複製して、アクションアイテムA.Iによる音声データを新規に作成してもよい。
(実施形態に適用可能な、端末装置に対する会議情報の提示例)
サーバ装置10は、会議室2aで開催されている会議の様子などを、会議室2aから遠隔した場所にある端末装置20cおよび20dに提示することができる。図27は、実施形態に適用可能な、例えばスマートフォンである端末装置20dにおける会議閲覧画面の例を示す。
図27の例では、会議閲覧画面700は、会議名表示部701と、チャネル選択部702と、会議情報表示部703と、トークボタン704と、機能指定部705と、画面切替部706とを含んでいる。なお、端末装置20dを画面が横長の方向に保持した場合や、端末装置20dがタブレット型コンピュータ、デスクトップ型コンピュータ、ノート型コンピュータであっても、会議閲覧画面700は、同様の構成要素を含んで画面表示を行うことができる。
画面切替部706は、画面の表示モードを切り替えるためのボタン7060、7061、7062および7063を含む。ボタン7060は、画面の表示モードを、議題に関する情報を表示する議題表示モードに切り替える。ボタン7061は、画面の表示モードを、チャットを行うためのチャット画面を表示するチャット表示モードに切り替える。例えば、端末装置20dは、ボタン7061に対する操作に応じて、サーバ装置10に対してチャットへの参加を要求し、要求に応じてチャットへの参加が許可されると、会議閲覧画面700内に、チャット画面を表示させる。
ボタン7062は、画面の表示モードを、当該会議における時系列上の時間経過を示すタイムラインを表示するタイムライン表示モードに切り替える。ボタン7063は、画面の表示モードを、会議の様子を中継する中継表示モードに切り替える。図27の例は、この中継表示モードの例である。
図27の例では、中継表示モードの会議閲覧画面700において、会議名表示部701は、現在閲覧している会議の会議名が表示される。チャネル選択部702は、端末装置20dにおいて再生する音声データのチャネルを指定するための操作部である。端末装置20dは、チャネル選択部702に対する操作に応じて、それぞれサーバ装置10から送信される、例えば会議端末25により収音された音声による音声データと、端末装置20bにより収音された音声による音声データとのうち、所望の音声データを選択して再生することができる。
会議情報表示部703は、会議室2aにおける会議の様子を表示または提示する。図27の例では、会議情報表示部703は、音声再生中を示すアイコン画像7030が表示され、チャネル選択部702で指定されたチャネルの音声データによる音声が再生されていることが示されている。
トークボタン704は、端末装置20dで収音した音声による音声データをサーバ装置10に送信させるためのボタンである。例えば、端末装置20dは、トークボタン704に対する操作に応じて、端末装置20dのマイクロホン2013で収音した音声による音声データをサーバ装置10に送信する。サーバ装置10は、端末装置20dから送信された音声データを受信すると、受信した音声データを例えばストレージ1003に保存すると共に、会議端末25に送信し再生させる。
機能指定部705は、ボタン7050、7051および7052を含む。ボタン7050は、操作された時間に応じたマーカを設定するためのボタンである。ボタン7051は、端末装置20dにおいてテキスト入力を行うためのボタンである。ボタン7051の操作に応じて入力されたテキスト情報は、サーバ装置10に送信されて保存されると共に、サーバ装置10から電子黒板22に送信され、電子黒板22において描画領域5402内の所定領域に表示される。
ボタン7052は、端末装置20dを使用しているユーザの、会議に対する反応を送信するためのボタンである。端末装置20dは、ボタン7052に対する操作に応じて、サブメニューとして各種の反応を示す各アイコン画像を表示させ、サブメニューに表示される各アイコン画像に応じた情報を、サーバ装置10に送信する。サーバ装置10は、この情報を時系列上の時間と関連付けて保存すると共に、電子黒板22に送信する。電子黒板22は、サーバ装置10から受信したこの情報に応じた例えばアイコン画像を、ディスプレイ2027aの所定位置に表示する。
なお、図27の例では、中継表示モードの会議閲覧画面700は、会議情報表示部703に音声再生中を示すアイコン画像7030が表示され、端末装置20dは、チャネル選択部702で指定された音声データによる音声を再生しているが、これはこの例に限定されない。例えば、図28に例示されるように、会議情報表示部703に、会議端末25のカメラ25cで撮影された映像データによる映像7032を表示させてもよい。
図29は、実施形態に適用可能な、図27の会議閲覧画面700においてボタン7060が操作され、会議閲覧画面700の表示モードが描画領域表示モードに切り替えられた例を示す。この場合、会議情報表示部703には、電子黒板22の描画領域5402内の画像が表示される。例えば、電子黒板22は、所定の時間間隔で描画領域5402内の画像をサーバ装置10に送信し、端末装置20dがその画像を取得して表示することが考えられる。
図30は、実施形態に適用可能な、タイムライン表示モードによるタイムライン表示画面の例を示す。上述したように、端末装置20dは、画面切替部706におけるボタン7062の操作に応じて、画面表示をタイムライン表示画面に切り替える。図30において、タイムライン表示画面710は、マーカボタン711(後述する)と、画像表示領域712と、タイムライン表示領域713と、画面切替部706とを含んでいる。
タイムライン表示領域713は、時系列に沿った時間経過を示すタイムライン7130が表示される。この例では、タイムライン7130は、画面の下から上に向けて時間が経過するように表示されている。これはこの例に限定されず、タイムライン713は、画面の上から下に向けて時間が経過するように表示してもよいし、画面の水平方向に時間の経過を表示してもよい。
また、図30の例では、タイムライン7130上に、マーカ7134、7135および7136が配置されている。マーカ7134および7135は、それぞれ上述したアクションアイテムA.IおよびディシジョンDSによるマーカ「A.I」および「DS」であり、電子黒板22上で指定されたマーカ情報に基づくマーカである。また、マーカ7136は、例えばユーザがこの端末装置20d上で指定したマーカ情報に基づくマーカである。各マーカ7134、7135および7136は、それぞれ、時系列上で指定された時間に対応するタイムライン7130上の位置に配置される。
タイムライン表示領域713において、時間指定線7131は、タイムライン7130上で現在指定されている時間を示している。時間指定線7131は、ユーザ操作に応じてタイムライン7130上を移動させ、指定する時間を変更することができる。また、図30の例では、時間指定線7131に指定された時間に対応する、電子黒板22の描画領域5402内の画像が、画像表示領域712に表示されている。また、テキスト表示領域7133は、例えば時間指定線7131で指定された時間に、アクションアイテムA.Iのマーカ7134や、ディシジョンDSのマーカ7135があった場合、アクションアイテムA.IやディシジョンDSに対して入力されたテキスト情報が表示される。
図30において、タイムライン表示領域713の中央部(タイムライン7130の右側)には、タイムライン7130上の各時間に対応する電子黒板22の描画領域5402内の各画像が、サムネイル画像71321、71322、71323として表示されている。これらサムネイル画像71321、71322、71323のうち所望のサムネイル画像を指定することで、指定されたサムネイル画像に対応する電子黒板22の描画領域5402内の画像を、画像表示領域712に表示させることができる。
図31は、実施形態に適用可能な、議題表示モードによる議題表示画面の例を示す。上述したように、端末装置20dは、画面切替部706におけるボタン7060の操作に応じて、画面表示を議題表示画面に切り替える。図31において、議題表示画面720は、表示領域721、722、723および724を含んでいる。
表示領域723および724は、それぞれ議題の詳細を表示するための領域である。図31の例では、表示領域724は、議題のみが表示され、右端に配置されるアイコンを指定することで領域が拡張され、議題の詳細が表示されるようになる。表示領域723は、領域が拡張された状態であって、議題の詳細として、この議題に応じて指定されたアクションアイテムA.Iの内容を示す情報7231と、ディシジョンDSの内容を示す情報7232とが表示されている。
表示領域721は、この例では、この端末装置20dを使用しているユーザが入力したアクションアイテムA.Iの内容の概略が表示されている。表示領域721内の所定の位置(例えば右下隅)を指定することで、図32に示されるように、当該アクションアイテムA.Iのより詳細な内容が表示される。図32において、アクションアイテム表示画面730は、表示領域731、732および733を含む。
表示領域731は、当該アクションアイテムA.Iが係る会議の議題が表示される。表示領域731は、当該アクションアイテムA.Iが指定された時系列上の時間における電子黒板22の描画領域5402内の画像7320が表示されると共に、音声データを再生させるための再生ボタン7321が配置される。再生ボタン7321は、サーバ装置10に記録される音声データを、当該アクションアイテムA.Iが指定された時系列上の時間(図26の例では時間tAIst)から再生させるためのボタンである。
また、ボタン7510は、再生ボタン7321の操作に応じて再生される音声データの再生速度を指定するボタンである。図32の例では、ボタン7510上に「×2」と表示され、音声データを、記録時の速度の2倍の速度で再生する2倍速再生が指定されていることが示されている。サーバ装置10は、このボタン7510に指定された再生速度に応じて、再生する音声データに対してサンプル単位の間引きおよび補間処理、あるいは、リサンプル処理などを施すことにより、記録された際の速度と異なる速度で音声データを再生することができる。
表示領域733は、当該アクションアイテムA.Iに関して、指定された時間と、内容とが表示される。
(実施形態に適用可能なマーカの処理)
次に、実施形態に適用可能なマーカ処理について説明する。先ず、基本的なマーカ処理について、図33〜図36を用いて説明する。図33に示す会議閲覧画面700において、例えばユーザ操作に応じたポインタ7070によりボタン7050を指定し、ポインタ7070を、矢印7071に示すように、画面の表示モードをタイムライン表示モードに切り替えるボタン7062に移動させることで(ドラッグ操作)、現在の時間に対応するマーカを設定することができる。端末装置20dは、設定されたマーカを示す情報を、例えば、当該時間を示す情報に関連付けてRAM2002に記憶する。
ユーザが指定したマーカに関連付けられる時間における情報を表示させる場合、図34に例示するように、先ずボタン7062を操作して表示モードをタイムライン表示モードに切り替える。その上で、矢印7072に示されるように、マーカボタン711を操作する。端末装置20dは、このマーカボタン711に対する操作に応じて、画面の表示を、図35に示されるマーカ一覧画面740に切り替える。
図35において、マーカ一覧画面740は、表示領域7400に、当該会議の時系列上で設定されたマーカが一覧表示される。図35の例では、各マーカが、設定された時刻を示す情報を用いて一覧表示されている。端末装置20dは、表示領域7400に表示されるマーカを示す情報の一覧に対してマーカを指定する操作がなされると、当該マーカのマーカ情報に関連付けられた時間を示す情報をサーバ装置10に送信し、当該時間に関連する情報をサーバ装置10に要求する。
サーバ装置10は、この要求に応じて、当該時間に対応する情報を、端末装置20dに送信する。サーバ装置10が端末装置20dに送信する情報としては、電子黒板22の描画領域5402内の画像、記録された音声データや映像データの、当該時間を再生開始ポイントとしたストリーム、当該時間に電子黒板22に提示されている資料データなどが考えられる。
また、端末装置20dは、このマーカ指定の操作に応じて、画面の表示を、指定されたマーカに対応してサーバ装置10から送信された情報を提示するための情報表示画面に切り替える。図36は、実施形態に適用可能な情報表示画面の例を示す。図36において、情報表示画面750は、表示領域751、752および753を含む。表示領域751は、マーカに対応する時間に、電子黒板22の描画領域5402に表示されていた画像が表示される。表示領域752は、当該マーカが設定された時間を示す情報が表示される。また、この例では、サーバ装置10は、音声データを例えば逐次的にテキスト情報に変換して保存する機能を備え、表示領域753には、このサーバ装置10により変換されたテキスト情報における、マーカに対応する時間を含む所定範囲のテキスト情報が表示されている。
また、図36の例においても、情報表示画面750は、図32で説明したアクションアイテム表示画面730と同様に、再生速度を指定するためのボタン7510が設けられている。表示領域753に音声データが変換されたテキスト情報が表示されるこの例では、例えば、ボタン7510の操作に応じて再生速度が変更された音声データにおけるテキスト情報の対応する部分のタイミングに応じて、表示領域753に表示されるテキスト情報が更新される。
(実施形態)
次に、実施形態について説明する。会議に参加する参加者は、直接参加、遠隔参加および準参加の何れの参加形態に関わらず、会議途中で一時的に退席することが有り得る。参加者は、会議途中で退席した場合、会議に復帰した際に、退席してから復帰するまでの議事を把握できることが好ましい。実施形態では、この、参加者が、自身が会議に一時的に参加していない間の情報を容易に取得可能とする。
サーバ装置10は、各端末装置20a〜20dからの要求に従い、参加者の退席および復帰を示すマーカ情報を設定する。図37は、図33で示した会議閲覧画面700に対して、ユーザの退席(AWY)および復帰(RTN)を示すマーカを設定するためのボタン7070aおよび7070bを設けた例を示す。
例えば、ボタン7070aおよび7070bは、マーカ設定のためのボタン7050を長押しすることで、ポインタ7070の両側に表示される拡張ポインタである。これに限らず、ボタン7070aおよび7070bをボタン画像として予め表示させておいてもよい。例えば、表示されたボタン7070aを指定して、指定位置を図中に矢印7071’に例示されるようにボタン7062に移動させることで、退席を示すマーカの情報が、操作された時間を示す情報に関連付けられてRAM2002に記憶される。例えば、ユーザは、会議から一時的に退席するような場合に、退席を示すボタン7070aを操作する。
復帰を示すボタン7070bについても、同様である。例えば、ユーザは、退席から復帰すると、ボタン7070bを操作する。これにより、復帰を示すマーカの情報が、操作された時間を示す情報に関連付けられてRAM2002に記憶される。このとき、端末装置20dは、退席を示すマーカ種類のマーカ情報と、復帰を示すマーカ種類のマーカ情報とを、1対のマーカ情報として互いに関連付けて記憶する。
ここで、端末装置20dは、ボタン7070bが操作され、復帰を示すマーカ情報が設定された場合に、この復帰を示すマーカ情報と対となる退席を示すマーカ情報をサーバ装置10に送信し、サーバ装置10に対して、退席時からの情報を要求することができる。
以下、端末装置20dから退席時からの情報を要求された場合のサーバ装置10における処理について説明する。
図38は、会議の進行を概略的に示す。図38において、左から右に向けて時間が進む時系列に沿って会議が進行しているものとする。サーバ装置10は、図38(a)に示されるように、会議の進行に応じて音声および映像を記録する。また、資料#1〜#7が、それぞれ時間t1〜t7において例えば電子黒板22に表示されたものとする。サーバ装置10は、これら各資料#1〜#7も、電子黒板22に表示された各時間t1〜t7に関連付けて、例えばログに記録する。
この例において、例えば端末装置20dを使用しているユーザが、時間tawy(第1の時点)で会議を一時的に退席し、時間trtn(第2の時点)に会議に復帰したものとする。この場合、ユーザは、時間tawyから時間trtnの間(図にて斜線を付して示す)は会議に参加していない。したがって、ユーザが復帰後に会議に円滑に参加するためには、時間tawyからの議事を何らかの方法で確認することが好ましい。
そのため、ユーザは、退席時に、端末装置20dにおいて、退席を示すボタン7070aの操作を行う。端末装置20dは、ボタン7070aの操作に応じて、退席した時間tawyを含むマーカ情報を作成し、RAM2002に記憶する。
ユーザは、例えば時間trtnに会議に復帰した際に、端末装置20dにおいて復帰を示すボタン7070bを操作する。端末装置20dは、ボタン7070bの操作に応じて、RAM2002に記憶される、退席した時間tawyを含むマーカ情報をサーバ装置10に送信し、時間tawyからの情報をサーバ装置10に要求する。
サーバ装置10は、端末装置20dから送信された退席を示すマーカ情報に基づき、記録された音声データおよび映像データを、当該音声データおよび映像データ上の、退席を示すマーカ情報に示される時間tawyから再生し、再生した音声データおよび映像データをストリームとして端末装置20dに送信する。また、サーバ装置10は、議事において例えば電子黒板22に表示させた資料データがある場合、その資料データも、表示時間と関連付けて端末装置20dに送信する。
端末装置20dは、サーバ装置10から受信した音声データによる音声をスピーカ2014から出力し、映像データによる映像を、ディスプレイ2011に対し、例えば会議閲覧画面700に表示させる。また、端末装置20dは、サーバ装置10から受信した資料データの表示も行うことができる。これにより、ユーザは、会議における、自身が一時的に退席してからの議事を確認することが可能である。
ところで、この場合、音声および映像を記録時と同一速度で再生すると、再生内容が現在の議事の進行に追い付かず、ユーザが会議の内容を把握することが困難となるおそれがある。そのため実施形態では、サーバ装置10は、図38(b)に示されるように、端末装置20dからの要求に従った、退席の時間tawyからの音声データおよび映像データを、記録時の速度よりも高速で再生させる。
より具体的には、サーバ装置10は、退席の時間を示すマーカ情報に基づき、ユーザの退席時間である時間tawyを起点とした音声データおよび映像データを、端末装置20dにおいて復帰を示すボタン7070bが操作され、当該マーカ情報が端末装置20dから送信された時間trtnから再生して端末装置20dに送信する。
このとき、サーバ装置10は、時間tawyからの音声データおよび映像データを、記録時の速度に対して高速の再生速度で再生して、端末装置20dに送信する。換言すれば、サーバ装置10は、記録時に第1の単位時間に記録される所定量の情報を、当該単位時間よりも短い第2の単位時間で再生する。
第1の単位時間に基づき第1の時系列が形成され、第2の単位時間に基づき第2の時系列が形成される。図38(b)の例では、第1の時系列上の各時間t3、t4、t5、t6は、第2の時系列上の各時間t3’、t4’、t5’、t6’にそれぞれ対応する。
第1の単位時間で記録された、すなわち第1の時系列に従い記録された時間tawyから時間trtnまでの情報を、第2の単位時間に基づき、すなわち第2の時系列に従い再生している間にも、第1の時系列に従った情報の記録は継続される。第1の時系列上の時間と、第2の時系列上の時間とが一致する時間tEDにおいて、音声データおよび映像データの再生が、第2の時系列に従った再生から第1の時系列に従った再生に切り替えられる。
このように、会議を記録した音声データおよび映像データの再生を制御することにより、第1の時間より前の第2の時間から記録中の音声データを、第1の時間から再生させた場合に、再生された音声データの再生位置を、記録中の音声データの記録位置に追い付かせることができる。したがって、ユーザは、会議を一時的に退席して復帰した際に、会議において自身が一時的に退席している部分の議事を確認でき、且つ、復帰後の議事に対応することが容易となる。
(第1の実施形態)
次に、第1の実施形態について説明する。第1の実施形態では、上述した、時間tawyからの音声データおよび映像データの再生を、記録時のレートに対してより高速のレートで行う。図39は、第1の実施形態に係る処理を概略的に説明するための図である。図39において、横軸は時間、縦軸は時間を関数とするデータS(t)を示す。ここでは、データS(t)が音声データであるものとして説明するが、データS(t)は、映像データであってもよい。時間tawyから時間trtnの間、ユーザが退席しており、ユーザは、その間のデータS(tawy)〜S(trtn)に対応する情報を確認していない。
図39において、直線800は、データS(t)が第1の時系列に沿って記録される様子を示す。直線801は、時間tawyから時間trtnの間に記録されたデータS(tawy)〜S(trtn)を、時間trtnから、第2の時系列に沿って再生する様子を示している。記録時のレートに対して、再生時のレートをn倍速(n>1)とすることで、直線801の傾きが直線800の傾きより大きくなり、直線800と直線801とが時間tcrs(第3の時点)で交差し、再生が記録に追い付く。
値nは、(n>1)を満たしていれば特に限定されないが、一般的に、記録された音声(会話など)を人が認識可能な上限の再生速度が、記録時の速度の1.3倍程度であるとされていることを鑑みると、値nは、例えば1.2乃至1.4程度の値とすると好ましい。
図40は、第1の実施形態に適用可能な、サーバ装置10における映像音声処理部1040の一例の構成を示す。なお、図40は、音声データに対する処理を行う構成の例を示している。映像音声処理部1040は、音声データ処理の構成として、バッファメモリ1140と、音声処理部1141とを含む。
音声処理部1141は、入力された音声データ(n倍速に対して1倍速とする)を、所定量毎にバッファメモリ1140に格納する。ここでは、入力される音声データは、サンプリング周波数が48kHzであるとする。音声処理部1141は、バッファメモリ1140に格納された音声データを、既存の手法を用いて、n倍速の値nに応じて(48/n)kHzのサンプリング周波数でリサンプリングする。音声処理部1141は、リサンプリングされた音声データの各サンプルを48kHzのサンプリング周波数に従いバッファメモリ1140から読み出して出力する。これにより、音声処理部1141に入力された1倍速の音声データが、n倍速の音声データに変換されて出力される。
なお、ここでは、音声データについて説明したが、これは、映像データについても同様に適用できる。映像データの場合、1倍速の映像データに対して値nに従い例えば既存の手法を用いてフレーム間引きを行い、n倍速の映像データを得ることができる。
図41は、第1の実施形態に係るサーバ装置10における音声データ再生処理を示す一例のフローチャートである。なお、以下では、n倍速における値nが予め定められているものとする。したがって、n倍速で再生される音声データが1倍速で記録される音声データに追い付く位置(上述の時間tcrs)は、予め求めることができる。
ステップS200で、サーバ装置10は、例えば端末装置20dに対するボタン7070bの操作に応じた、退席時からの音声データの再生指示を受け付ける。この再生指示は、サーバ装置10の会議IDが対応するプロジェクト管理部104における音声処理部1141に渡される。
なお、会議IDは、端末装置20dがボタン7070bの操作に応じてサーバ装置10に送信してもよいし、サーバ装置10が、再生指示を送信した端末装置20dの情報に基づき会議管理テーブルなどを参照して取得してもよい。
次のステップS201で、音声処理部1141は、サーバ装置10から、時間tawyからの音声データの再生指示を受け取ると、ストレージ1003に記録された、会議IDに関連付けられた音声データから所定長さの音声データを取得し、バッファメモリ1140に格納する。
次のステップS202で、音声処理部1141は、バッファメモリ1140に格納された音声データに対してリサンプリング処理を実行する。ここでは、説明のため、リサンプリング処理は、バッファメモリ1140に格納された音声データの先頭から順次実行するものとする。リサンプリング処理された音声データは、サーバ装置10から端末装置20dに送信され、端末装置20dにおいて再生される。
次のステップS203で、音声処理部1141は、音声データの再生位置が所定位置(時間tcrs)を超えたか否かを判定する。音声処理部1141は、超えていないと判定した場合(ステップS203、「No」)、処理をステップS204に移行させる。
ステップS204で、音声処理部1141は、バッファメモリ1140における、一定以上の未処理の音声データの有無を判定する。一定以上の未処理の音声データが有ると判定した場合(ステップS204、「Yes」)、音声処理部1141は、処理をステップS202に戻し、リサンプリング処理を続行する。一方、バッファメモリ1140に一定以上の未処理の音声データが無いと判定した場合(ステップS204、「No」)、処理をステップS201に戻す。
ステップS203で、音声データの再生位置が所定位置(時間tcrs)を超えたと判定した場合(ステップS203、「Yes」)、音声処理部1141は、処理をステップS205に移行させる。ステップS205で、音声処理部1141は、リサンプリング処理を中止し、通常再生、すなわちストレージ1003に記録される音声データを再生速度を変更せずに再生する。ステップS205で音声データの通常再生が開始されると、図41のフローチャートによる一連の処理が終了される。
(第2の実施形態)
次に、第2の実施形態について説明する。上述した第1の実施形態では、音声データの再生速度を、単純に記録時の速度に対して高速とすることで、音声データの高速再生を行っていた。これに対して、第2の実施形態では、音声データの無音部分を検出し、検出された無音部分をスキップさせて当該音声データを再生する。
図42は、第2の実施形態に係る再生処理を概略的に示す。図42(a)は、会議中に記録されストレージ1003に保存された音声データの例を示す。図42(a)において、音声801〜804が検出された以外の各区間は、所定レベル以上の音声が検出されない無音区間Mtであるものとする。
第2の実施形態では、図42(a)の音声データにおいて、各無音区間Mtをスキップして当該音声データを再生する。例えば、図42(a)の音声データにおいて、各無音区間Mtを削除して、図42(b)に示されるように、各音声801〜804を連続させる。サーバ装置10は、この各音声801〜804を連続させた音声データを、端末装置20dに送信する。なお、図42(a)および図42(b)の例では、音声804の記録中に当該音声804の再生が開始されているため、音声804の再生が終了してから、再生を通常再生に切り替えている。
無音区間Mtが削除されたことにより、音声データの長さが短くなり、第1の時間より前の第2の時間から記録中の音声データを、第1の時間から再生させた場合に、再生された音声データの再生位置を、記録中の音声データの記録位置に追い付かせることができる。したがって、ユーザは、会議を一時的に退席して復帰した際に、会議において自身が一時的に退席している部分の議事を確認でき、且つ、復帰後の議事に対応することが容易となる。
(第2の実施形態の変形例)
次に、第2の実施形態の変形例について説明する。第2の実施形態の変形例は、上述した第1の実施形態に係る高速再生を、第2の実施形態に適用させたものである。図43を用いて、第2の実施形態の変形例について、概略的に説明する。図43(a)は、上述の図42(a)と同一であるので説明を省略する。第2の実施形態の変形例では、無音区間Mtを削除すると共に、図43(b)に示されるように、各音声801〜803をそれぞれ例えばリサンプリング処理によりn倍速の再生速度の音声データ801’、802’、803’に変換する。
第2の実施形態の変形例では、音声データの無音区間を削除すると共に、音声801、802、803をn倍速の再生速度の音声データ801’、802’、803’に変換しているため、通常再生への切り替えを、より速いタイミングで実行することが可能である。図43(a)および図43(b)の例では、音声803’の再生の終了時に、記録中の音声データにおいて音声803’に対応する音声803の次の音声804の記録が行われ、記録中の音声データが再生中の音声データを追い越している。この、記録中の音声データが再生中の音声データを追い越したタイミングで再生が通常再生に切り替えられ、通常再生により、記録中の音声804が再生されている。
図44を用いて、第2の実施形態およびその変形例に共通して適用可能な無音区間Mtの検出方法の例について、概略的に説明する。なお、第2の実施形態およびその変形例では、音声データの処理に関し、図40を用いて説明した映像音声処理部1040の構成をそのまま適用可能であるので、ここでの詳細な説明を省略する。
音声処理部1141は、入力された音声データ(n倍速に対して1倍速とする)を、所定量毎にバッファメモリ1140に格納する。音声処理部1141は、バッファメモリ1140に格納した音声データ80に対してローパスフィルタ処理を施し、音声データ80のエンベロープ81を生成する。音声処理部1141は、生成されたエンベロープ81に対して、閾値thによる判定を行い、エンベロープ81のレベルが閾値thの範囲内の区間を無音区間Mtと判定する。
図45は、第2の実施形態およびその変形例に係るサーバ装置10における音声データ再生処理を示す一例のフローチャートである。ステップS220で、サーバ装置10は、例えば端末装置20dに対するボタン7070bの操作に応じた、退席時からの音声データの再生指示を受け付ける。この再生指示は、サーバ装置10の会議IDが対応するプロジェクト管理部104における音声処理部1141に渡される。
次のステップS221で、音声処理部1141は、サーバ装置10から、時間tawyからの音声データの再生指示を受け取ると、ストレージ1003に記録された、会議IDに関連付けられた音声データから所定長さの音声データを取得し、バッファメモリ1140に格納する。次のステップS222で、音声処理部1141は、バッファメモリ1140に格納された音声データに対してローパスフィルタ処理を施し、エンベロープ81を検出する。
次のステップS223で、音声処理部1141は、ステップS222で検出されたエンベロープ81に対して閾値thによる判定を行い、無音区間Mtの探索を行う。次のステップS224で、音声処理部1141は、音声データの再生位置が所定位置を超えたか否かを判定する。この場合には、例えば、図42および図43を用いて説明したように、記録中の音声データが、再生中の音声データを追い越したタイミングで、所定位置を超えたと判定することができる。音声処理部1141は、所定位置を超えていないと判定した場合(ステップS224、「No」)、処理をステップS225に移行させる。
ステップS225で、音声処理部1141は、バッファメモリ1140における、一定以上の未処理の音声データの有無を判定する。一定以上の未処理の音声データが有ると判定した場合(ステップS225、「Yes」)、音声処理部1141は、処理をステップS223に戻し、無音区間Mtの探索処理を続行する。一方、バッファメモリ1140に一定以上の未処理の音声データが無いと判定した場合(ステップS225、「No」)、処理をステップS226に移行させる。
ステップS226で、音声処理部1141は、ステップS223での無音区間Mtの探索結果に従い、バッファメモリ1140に格納された音声データを、無音区間Mtをスキップさせて出力する。そして、処理をステップS221に戻す。
ステップS224で、音声データの再生位置が所定位置を超えたと判定した場合(ステップS224、「Yes」)、音声処理部1141は、処理をステップS227に移行させる。ステップS227で、音声処理部1141は、ステップS226と同様に、ステップS223での無音区間Mtの探索結果に従い、バッファメモリ1140に格納された音声データを、無音区間Mtをスキップさせて出力する。そして、音声処理部1141は、音声データの再生を通常再生に切り替えて、図45のフローチャートによる一連の処理が終了される。
(第3の実施形態)
次に、第3の実施形態について説明する。第3の実施形態では、上述した、時間tawyからの音声データをテキスト情報に変換して出力する。図46は、第3の実施形態に係る処理を概略的に説明するための図である。図46において、各符号などが示す意味は、上述した図39と同様なので、ここでの説明を省略する。
時間tawyから時間trtnの間に記録された音声データS(tawy)〜S(trtn)のテキスト情報への変換が、時間trtnにおいて開始され、例えば時間t30に完了する(領域831)。次に、時間trtnから時間t30の間に記録された音声データS(trtn)〜S(tx)のテキスト情報への変換が時間t30において開始され、例えば時間t31に完了する(領域832)。
このように、記録された音声データをテキスト情報に変換し、その変換に要した時間に新たに記録された音声データを、さらに変換する、という処理を、テキスト情報への変換対象の音声データが、記録中の音声データに追い付くまで繰り返す。図46の例では、領域833においてテキスト情報への変換の対象となる音声データが、記録中の音声データに追い付いている(時間tcrs)。この場合、領域831、832および833の斜辺が、第2の時系列に対応すると考えることができる。
図47は、第3の実施形態に適用可能な、サーバ装置10におけるテキスト化部1047の一例の構成を示す。テキスト化部1047は、バッファメモリ1240と、テキスト変換部1241とを含む。
例えばストレージ1003から読み出された音声データがテキスト変換部1241に入力される。テキスト変換部1241は、入力された音声データをバッファメモリ1240に格納する。テキスト変換部1241は、バッファメモリ1240に格納された音声データを、既知の音声認識技術を用いてテキスト情報に変換する。例えば、テキスト変換部1241は、予め学習された音響モデルを用いて音声データに含まれる音声を認識し、認識された一連の音声の集合をワードとして特定する。ワードの特定には、例えば隠れマルコフモデルを用いることができる。テキスト変換部1241は、音声データが変換されたテキスト情報を出力する。
なお、テキスト変換部1241による、音声データのテキスト変換処理は、変換対象の音声データの再生速度に対して十分高速に実行可能であるものとする。
図48は、第3の実施形態に係るサーバ装置10におけるテキスト変換処理を示す一例のフローチャートである。ステップS240で、サーバ装置10は、例えば端末装置20dに対するボタン7070bの操作に応じた、退席時(時間tawy)からの音声データの再生指示を受け付ける。この再生指示は、サーバ装置10の会議IDが対応するプロジェクト管理部104におけるテキスト化部1047に渡される。
次のステップS241で、テキスト化部1047においてテキスト変換部1241は、サーバ装置10から、時間tawyから時間trtnの間に記録された音声データの再生指示を受け取ると、ストレージ1003に記録された、会議IDに関連付けられた音声データから当該期間の音声データを取得し、バッファメモリ1240に格納する。
次のステップS242で、テキスト変換部1241は、バッファメモリ1240から音声データを読み出して、読み出した音声データに対してテキスト変換処理を施す。テキスト変換部1241は、音声データが変換されたテキスト情報を出力する。サーバ装置10は、テキスト変換部1241から出力されたテキスト情報を、端末装置20dに送信する。
次のステップS243で、テキスト変換部1241は、テキスト変換された音声データが、記録中の音声データに追い付いたか否かを判定する。テキスト変換部1241は、追い付いていないと判定した場合(ステップS243、「No」)、処理をステップS244に移行させる。
ステップS244で、テキスト変換部1241は、ステップS242のテキスト変換処理中に記録が進んだ音声データをストレージ1003から取得し、バッファメモリ1240に格納する。テキスト変換部1241は、音声データのバッファメモリ1240への格納が完了すると、処理をステップS242に戻し、バッファメモリ1240に格納された音声データのテキスト変換処理を行う。
一方、ステップS243で、テキスト変換部1241は、テキスト変換された音声データが、記録中の音声データに追い付いた(時間tcrs)と判定した場合(ステップS243、「Yes」)、図48のフローチャートによる一連の処理を終了する。
図48のフローチャートによる処理が終了されると、サーバ装置10は、時間tcrsからの音声データを端末装置20dに送信する。これに限らず、サーバ装置10は、図48のフローチャートによる処理が終了された以降も、テキスト化部1047によるテキスト変換処理を継続させてもよい。
図49は、第3の実施形態に係る、例えば端末装置20dにおいて、音声データが変換されたテキスト情報が表示されるタイムライン表示画面710の例を示す。例えば、サーバ装置10は、図37の会議閲覧画面700において、ボタン7070bの操作に応じて、このタイムライン表示画面710を表示させる。
図49の例では、タイムライン表示領域713の右側の領域に、サーバ装置10のテキスト化部1047において音声データが変換されたテキスト情報71331、71332が表示される。また、タイムライン表示領域713において、ユーザが退席したことを示すマーカ7137が、図37の会議閲覧画面700においてユーザがボタン7070aを操作した時間に対応するタイムライン7130上の位置に配置される。
このように、第3の実施形態では、ユーザが退席した時点から記録された音声データを逐次的にテキスト情報に変換してユーザに提示している。そのため、ユーザは、会議を一時的に退席して復帰した際に、会議において自身が一時的に退席している部分の議事を確認でき、且つ、復帰後の議事に対応することが容易となる。
(第4の実施形態)
次に、第4の実施形態について説明する。第4の実施形態は、サーバ装置10は、ユーザが会議を一時的に退席している間に電子黒板22の描画領域5402に表示された画像や、電子黒板22により提示された資料データの画像を、当該ユーザが使用する、例えば端末装置20dに提示する。サーバ装置10は、端末装置20dに提示するこれらの画像を、当該ユーザによる特定のアクションに応じて切り替える。
例えば、ユーザにより、端末装置20dに表示された、図37に示した会議閲覧画面700におけるボタン7070bに対する操作に応じて、サーバ装置10は、ユーザの退席した時間tawyから復帰の時間trtnの間に電子黒板22の描画領域5402に表示された画像や、電子黒板22により提示された資料データの画像を端末装置20dに送信する。
端末装置20dは、図49を用いて説明したタイムライン表示画面710を表示させ、タイムライン表示画面710に対し、サーバ装置10から送信された各画像のサムネイル画像71321、71322および71323を、タイムライン表示領域713に表示させる。端末装置20dは、ユーザの各サムネイル画像71321、71322および71323に対する操作に応じて、指定されたサムネイル画像に対応する画像を、画像表示領域712に表示させる。
このように、ユーザは、端末装置20dに対する操作に応じて、自身が退席してから復帰するまでの間に電子黒板22の描画領域5402に表示された画像や、電子黒板22により提示された資料データの画像から所望の画像を選択して、画像表示領域712に表示させることができる。これにより、ユーザは、自身が退席中の会議の議事を、容易に把握することが可能になる。
(実施形態の他の例)
上述では、端末装置20dは、ユーザの退席や復帰の時間を、会議閲覧画面700上のボタン7070aおよび7070bに対する操作に応じてサーバ装置10に送信したが、これはこの例に限定されない。例えば、端末装置20dは、マイクロホン2013で収音したユーザの音声を音声処理部204により解析し、解析の結果、当該音声に予め定めたキーワードが含まれていると判定した場合に、退席や復帰の時間を検知してサーバ装置10に送信してもよい。同様に、端末装置20dは、カメラ2015で撮影して得た映像データを映像処理部205により解析し、解析の結果、当該映像に、ユーザの予め定めたポーズが含まれていると判定した場合に、退席や復帰の時間を検知してサーバ装置10に送信することもできる。
また、上述では、端末装置20dは、会議閲覧画面700において、ボタン7070bの操作に応じて、サーバ装置10に対して、退席時からの情報を要求しているが、これはこの例に限定されない。例えば、端末装置20dは、ボタン7070bの操作に応じて復帰の時間を示す時間情報を含むマーカ情報を生成し、このマーカ情報をRAM2002に記憶させてもよい。端末装置20dは、マーカの一覧を表示する操作がなされた場合に、図50に例示されるように、退席を示すマーカ7401と、復帰を示すマーカ7402とを含むマーカ一覧画面740を表示させることができる。この場合、端末装置20dは、例えば、マーカ7401および7402の何れかの操作に応じて、サーバ装置10に対して、退席時からの情報を要求することが考えられる。
さらに、上述では、時間tawyがユーザの会議からの一時退席の時間であり、時間trtnがユーザの会議への復帰の時間であるとしたが、これはこの例に限定されない。すなわち、時間tawyおよびtrtnは、前後関係さえ保たれていれば、サーバ装置10において記録済みの音声データおよび映像データの任意の2点であって構わない。
なお、上述の実施形態は、本発明の好適な実施の例ではあるがこれに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変形による実施が可能である。
1 情報処理システム
2a,2b 会議室
10 サーバ装置
20a,20b,20c,20d 端末装置
22 電子黒板
23 センサI/F
241,242,… センサ
25 会議端末
101 ユーザ管理部
102 選択部
104 プロジェクト管理部
500 会議管理画面
510 議題設定画面
520 会議開始画面
530 会議開始通知画面
540 描画画面
700 会議閲覧画面
710 タイムライン表示画面
720 議題表示画面
730 アクションアイテム表示画面
740 マーカ一覧画面
750 情報表示画面
1140,1240 バッファメモリ
1141 音声処理部
1241 テキスト変換部
特開2008−172582号公報

Claims (11)

  1. 情報を第1の時系列に従い順次に取得する取得部と、
    前記第1の時系列に対して、第1の時点と、該第1の時点よりも前記第1の時系列上で後の第2の時点とを設定する設定部と、
    前記取得部により取得された前記情報のうち、前記第1の時点と、前記第2の時点よりも前記時系列上で後の第3の時点との間に含まれる対象情報を、該第2の時点から該第3の時点までの間に、前記第1の時系列に対して単位時間が短い第2の時系列に従い提示する提示部と
    を備える情報処理装置。
  2. 前記設定部は、
    ユーザのアクションを受け付けた時間に応じて前記第1の時点および前記第2の時点を設定する
    請求項1に記載の情報処理装置。
  3. 前記第3の時点は、前記取得部に取得される最新の時間に対応する
    請求項1または請求項2に記載の情報処理装置。
  4. 前記取得部が取得する情報は、音声情報であって、
    前記音声情報に含まれる無音部分を検出する検出部をさらに備え、
    前記提示部は、
    前記検出部で検出された前記無音部分をスキップして該音声情報を提示する
    請求項1乃至請求項3の何れか1項に記載の情報処理装置。
  5. 取得部が取得する情報は、音声情報であって、
    前記音声情報をテキスト情報に変換する変換部をさらに備え、
    前記提示部は、
    前記変換部で前記音声情報が変換された前記テキスト情報を提示する
    請求項1乃至請求項3の何れか1項に記載の情報処理装置。
  6. 前記変換部は、
    前記第1の時系列上の区間において前記取得部に取得された前記音声情報を前記テキスト情報に変換し、
    直前の前記変換が行われた前記区間において前記取得部に取得された前記音声情報を、該変換が終了した時点から前記テキスト情報に変換する
    請求項5に記載の情報処理装置。
  7. 前記取得部が取得する前記情報は、画像情報であって、
    前記提示部は、
    前記第1の時系列上で前記第1の時点から前記第2の時点の間に前記取得部に取得された前記画像情報を、ユーザのアクションに応じて切り替える
    請求項1乃至請求項3の何れか1項に記載の情報処理装置。
  8. 前記提示部は、
    前記第1の時系列上の時間と、前記第2の時系列上の時間とが一致する時点で、前記対象情報を提示する時系列を前記第2の時系列から前記第1の時系列に切り替える
    請求項1乃至請求項7の何れか1項に記載の情報処理装置。
  9. 情報を第1の時系列に従い順次に取得する取得ステップと、
    前記第1の時系列に対して、第1の時点と、該第1の時点よりも前記第1の時系列上で後の第2の時点とを設定する設定ステップと、
    前記取得ステップにより取得された前記情報のうち、前記第1の時点と、前記第2の時点よりも前記時系列上で後の第3の時点との間に含まれる対象情報を、該第2の時点から該第3の時点までの間に、前記第1の時系列に対して単位時間が短い第2の時系列に従い提示する提示ステップと
    を有する情報処理方法。
  10. 情報を第1の時系列に従い順次に取得する取得ステップと、
    前記第1の時系列に対して、第1の時点と、該第1の時点よりも前記第1の時系列上で後の第2の時点とを設定する設定ステップと、
    前記取得ステップにより取得された前記情報のうち、前記第1の時点と、前記第2の時点よりも前記時系列上で後の第3の時点との間に含まれる対象情報を、該第2の時点から該第3の時点までの間に、前記第1の時系列に対して単位時間が短い第2の時系列に従い提示する提示ステップと
    をコンピュータに実行させるための情報処理プログラム。
  11. 端末装置と情報処理装置とを含む情報処理システムであって、
    前記端末装置は、
    ユーザのアクションに応じた入力がなされる入力部と、
    情報を再生する再生部と
    を備え、
    前記情報処理装置は、
    情報を第1の時系列に従い順次に取得する取得部と、
    前記入力部に入力された前記アクションに応じて、前記第1の時系列に対して、第1の時点と、該第1の時点よりも前記第1の時系列上で後の第2の時点とを設定する設定部と、
    前記取得部により取得された前記情報のうち、前記第1の時点と、前記第2の時点よりも前記時系列上で後の第3の時点との間に含まれる対象情報を、該第2の時点から該第3の時点までの間に、前記第1の時系列に対して単位時間が短い第2の時系列に従い前記端末装置に提示する提示部と
    を備える情報処理システム。
JP2016162229A 2016-08-22 2016-08-22 情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム Pending JP2018032912A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016162229A JP2018032912A (ja) 2016-08-22 2016-08-22 情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム
US15/682,665 US10565246B2 (en) 2016-08-22 2017-08-22 Information processing apparatus, information processing method, and information processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016162229A JP2018032912A (ja) 2016-08-22 2016-08-22 情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム

Publications (1)

Publication Number Publication Date
JP2018032912A true JP2018032912A (ja) 2018-03-01

Family

ID=61191808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016162229A Pending JP2018032912A (ja) 2016-08-22 2016-08-22 情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム

Country Status (2)

Country Link
US (1) US10565246B2 (ja)
JP (1) JP2018032912A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019167433A1 (ja) 2018-02-27 2019-09-06 住友電気工業株式会社 金属多孔体およびその製造方法、ならびに燃料電池
WO2021215540A1 (ja) * 2020-04-24 2021-10-28 合同会社EasyDialog 支援装置、会話制御装置及びプログラム
JP7347597B2 (ja) 2018-06-20 2023-09-20 カシオ計算機株式会社 動画編集装置、動画編集方法及びプログラム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10692533B2 (en) * 2015-10-07 2020-06-23 Google Llc Storyline experience
JP6642316B2 (ja) * 2016-07-15 2020-02-05 コニカミノルタ株式会社 情報処理システム、電子機器、情報処理装置、情報処理方法、電子機器処理方法、及びプログラム
EP3557440A1 (en) * 2018-04-20 2019-10-23 Ricoh Company, Ltd. Information processing apparatus, system, display control method, and carrier means
US10810553B2 (en) * 2019-03-17 2020-10-20 Microsoft Technology Licensing, Llc Live meeting information in a calendar view
US10796286B1 (en) * 2019-03-17 2020-10-06 Microsoft Technology Licensing, Llc Live meeting object in a calendar view
EP4141766A1 (en) * 2021-08-31 2023-03-01 Ricoh Company, Ltd. Information processing apparatus, meeting system, method and carrier means
CN114390241A (zh) * 2022-01-14 2022-04-22 西安万像电子科技有限公司 一种vr远程会议方法及装置

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020002562A1 (en) * 1995-11-03 2002-01-03 Thomas P. Moran Computer controlled display system using a graphical replay device to control playback of temporal data representing collaborative activities
US6771875B1 (en) 1998-09-03 2004-08-03 Ricoh Company Ltd. Recording medium with video index information recorded therein video information management method which uses the video index information recording medium with audio index information recorded therein audio information management method which uses the audio index information and a video retrieval system
US6622171B2 (en) * 1998-09-15 2003-09-16 Microsoft Corporation Multimedia timeline modification in networked client/server systems
US7299405B1 (en) * 2000-03-08 2007-11-20 Ricoh Company, Ltd. Method and system for information management to facilitate the exchange of ideas during a collaborative effort
GB2380599B (en) * 2000-12-22 2003-10-29 Kent Ridge Digital Labs System and method for media production
US7047201B2 (en) * 2001-05-04 2006-05-16 Ssi Corporation Real-time control of playback rates in presentations
JP2003345641A (ja) 2002-05-29 2003-12-05 Ricoh Co Ltd 記憶媒体及びプログラム
JP4326753B2 (ja) 2002-06-14 2009-09-09 株式会社リコー 映像情報インデキシング支援システム、プログラム及び記憶媒体
US7545758B2 (en) * 2002-12-11 2009-06-09 Siemens Communications, Inc. System and method for collaboration summarization playback
JP2004272662A (ja) 2003-03-10 2004-09-30 Ricoh Co Ltd コンテンツ管理装置、コンテンツ管理システム、コンテンツ管理方法、コンテンツ管理方法をコンピュータに実行させるプログラム、記録媒体、およびコンテンツデータ
JP2005277445A (ja) * 2004-03-22 2005-10-06 Fuji Xerox Co Ltd 会議映像処理装置、会議映像処理方法およびプログラム
US20060010366A1 (en) 2004-05-18 2006-01-12 Takako Hashimoto Multimedia content generator
US8799757B2 (en) * 2005-07-01 2014-08-05 Microsoft Corporation Synchronization aspects of interactive multimedia presentation management
JP4439462B2 (ja) * 2005-11-29 2010-03-24 株式会社東芝 情報提示方法、情報提示装置及び情報提示プログラム
US8214516B2 (en) * 2006-01-06 2012-07-03 Google Inc. Dynamic media serving infrastructure
JP2008084110A (ja) * 2006-09-28 2008-04-10 Toshiba Corp 情報表示装置、情報表示方法及び情報表示プログラム
JP2008172582A (ja) 2007-01-12 2008-07-24 Ricoh Co Ltd 議事録作成再生装置
US20140033073A1 (en) * 2008-10-01 2014-01-30 Nigel Pegg Time-shifted collaboration playback
US20100306018A1 (en) * 2009-05-27 2010-12-02 Microsoft Corporation Meeting State Recall
US20120047421A1 (en) * 2010-03-15 2012-02-23 Holman Enterprises, LLC System and method for creating and displaying a timeline presentation
US8797380B2 (en) * 2010-04-30 2014-08-05 Microsoft Corporation Accelerated instant replay for co-present and distributed meetings
JP5668412B2 (ja) 2010-10-29 2015-02-12 株式会社リコー 情報管理プログラム、情報管理装置、情報管理システム及び情報管理方法
JP5870661B2 (ja) 2011-12-06 2016-03-01 株式会社リコー 携帯端末、出力制御システム、出力制御プログラム、出力制御方法
US10504561B2 (en) * 2011-12-12 2019-12-10 Corel Corporation Media editing system and method with linked storyboard and timeline
US20130282804A1 (en) * 2012-04-19 2013-10-24 Nokia, Inc. Methods and apparatus for multi-device time alignment and insertion of media
JP6056219B2 (ja) 2012-06-29 2017-01-11 株式会社リコー 検索装置および検索方法、ならびに、プログラム
JP6064392B2 (ja) 2012-06-29 2017-01-25 株式会社リコー 検索装置、検索方法、検索プログラムおよび検索システム
JP6171319B2 (ja) * 2012-12-10 2017-08-02 株式会社リコー 情報処理装置、情報処理方法、情報処理システム及びプログラム
US9654521B2 (en) * 2013-03-14 2017-05-16 International Business Machines Corporation Analysis of multi-modal parallel communication timeboxes in electronic meeting for automated opportunity qualification and response
JP6252037B2 (ja) 2013-08-23 2017-12-27 株式会社リコー 情報共有システム、情報共有方法、接続装置および情報共有プログラム
JP5808788B2 (ja) * 2013-11-08 2015-11-10 シャープ株式会社 会議支援システム、サーバ、端末装置、会議支援方法、および会議支援プログラム

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019167433A1 (ja) 2018-02-27 2019-09-06 住友電気工業株式会社 金属多孔体およびその製造方法、ならびに燃料電池
JP7347597B2 (ja) 2018-06-20 2023-09-20 カシオ計算機株式会社 動画編集装置、動画編集方法及びプログラム
WO2021215540A1 (ja) * 2020-04-24 2021-10-28 合同会社EasyDialog 支援装置、会話制御装置及びプログラム

Also Published As

Publication number Publication date
US10565246B2 (en) 2020-02-18
US20180052837A1 (en) 2018-02-22

Similar Documents

Publication Publication Date Title
JP2018032912A (ja) 情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム
US8467402B2 (en) Digital audio communication system
Balabanović et al. Storytelling with digital photographs
CN1119763C (zh) 合作动态视频注释的设备和方法
JP6017583B2 (ja) 投射型映像表示装置
CN109683714A (zh) 多媒体资源管理方法、装置及存储介质
CN106134149A (zh) 通信事件历史
JP6840379B2 (ja) 情報処理システム、情報処理装置、情報処理方法及びプログラム
JP2008172582A (ja) 議事録作成再生装置
WO2007049405A1 (ja) 電子機器及びプログラム
JP2006148730A (ja) 会議システム及び会議情報提供方法
JP2004287201A (ja) 議事録作成装置及び方法、ならびに、コンピュータプログラム
JP6914154B2 (ja) 表示制御装置、表示制御方法及びプログラム
JP2018101368A (ja) 情報処理装置、情報処理方法、情報処理システムおよび情報処理プログラム
JP4536694B2 (ja) 利用者が提供する付加情報を演奏予約曲にリンクさせてカラオケ演奏時に出力する方法
JP2000099524A (ja) マルチメディア情報視聴装置
JP6827236B2 (ja) 情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム
JP2005278109A (ja) 会話サーバ
US20130204414A1 (en) Digital audio communication system
JP2008271334A (ja) 携帯端末装置、コンテンツ再生方法、及びコンテンツ再生プログラム
JP2018073237A (ja) 会議情報表示システム、会議情報表示方法および会議情報表示プログラム
JP2000098985A (ja) マルチメディア情報処理装置
WO2021225104A1 (ja) プログラム、表示方法、端末
JP2014007532A (ja) 携帯端末装置
JP6736116B1 (ja) レコーダおよび情報処理装置