JP7082224B1 - 情報処理装置、及び制御方法 - Google Patents

情報処理装置、及び制御方法 Download PDF

Info

Publication number
JP7082224B1
JP7082224B1 JP2021032466A JP2021032466A JP7082224B1 JP 7082224 B1 JP7082224 B1 JP 7082224B1 JP 2021032466 A JP2021032466 A JP 2021032466A JP 2021032466 A JP2021032466 A JP 2021032466A JP 7082224 B1 JP7082224 B1 JP 7082224B1
Authority
JP
Japan
Prior art keywords
unit
capture
information processing
captured
application
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021032466A
Other languages
English (en)
Other versions
JP2022133662A (ja
Inventor
耕太郎 牧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lenovo Singapore Pte Ltd
Original Assignee
Lenovo Singapore Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lenovo Singapore Pte Ltd filed Critical Lenovo Singapore Pte Ltd
Priority to JP2021032466A priority Critical patent/JP7082224B1/ja
Priority to US17/590,968 priority patent/US11675480B2/en
Application granted granted Critical
Publication of JP7082224B1 publication Critical patent/JP7082224B1/ja
Publication of JP2022133662A publication Critical patent/JP2022133662A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】オンラインによるビデオ会議の利便性を向上させること。【解決手段】情報処理装置は、ネットワークを介して他の情報処理装置から映像及び音声を送受信するアプリケーションを実行する情報処理装置であって、アプリケーションを用いて他の情報処理装置から受信した映像が表示される表示部の画面領域のうち映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイルとしてキャプチャするキャプチャ部と、アプリケーションの実行中にキャプチャ部による所定時間ごとのキャプチャを継続しながら、キャプチャ部によりキャプチャされた一連の静止画ファイルのうちの少なくとも一部の画像を前記表示部に表示させる表示制御部と、を備える。【選択図】図5

Description

本発明は、情報処理装置、及び制御方法に関する。
ネットワークを介してオンラインでビデオ会議を行うためのアプリケーションがある。このようなアプリケーションは、ビデオ会議に参加しているユーザがそれぞれ使用している情報処理装置からユーザの映像及び音声を送受信するだけでなく、同一の資料データをそれぞれの情報処理装置で閲覧できるように共有する機能を有しているものがある(例えば、特許文献1)。
特開2019-61594号公報
上述したようなアプリケーションでは、発表者が他の参加者へ資料を共有しながら説明する場面がある。しかしながら、発表者が資料のページを送りながら説明を行っているときに、参加者側としては、発表者が現在表示させている資料のページよりも前のページを見たい場合がある。例えば、発表者の話す速度が速く前のページの内容をもう少し確認したい、現在表示されているページと前のページとのつながりを確認したい、質問をする前にもう一度確認したいページがあるといった場合などがある。そのような場合、参加者は、自身の意思で確認したいページを閲覧することができないため不便であった。
本発明は上記した事情に鑑みてなされたもので、オンラインによるビデオ会議の利便性を向上させる情報処理装置、及び制御方法を提供することを目的の一つとする。
本発明は上記の課題を解決するためになされたものであり、本発明の第1態様に係る情報処理装置は、ネットワークを介して他の情報処理装置から映像及び音声を送受信するアプリケーションを実行する情報処理装置であって、前記アプリケーションを用いて他の情報処理装置から受信した映像が表示される表示部の画面領域のうち前記映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイルとしてキャプチャするキャプチャ部と、前記アプリケーションの実行中に前記キャプチャ部による前記所定時間ごとのキャプチャを継続しながら、前記キャプチャ部によりキャプチャされた一連の静止画ファイルのうちの少なくとも一部の画像を前記表示部に表示させる表示制御部と、を備える。
上記情報処理装置において、前記表示制御部は、前記キャプチャ部によりキャプチャされた一連の静止画ファイルのそれぞれをキャプチャ順に対応して選択可能なユーザインタフェースを前記表示部に表示させるとともに、当該ユーザインタフェースに対する操作に応じて選択された静止画ファイルの画像を前記表示部に表示させてもよい。
上記情報処理装置において、前記キャプチャ部は、前記表示部の全画面領域をキャプチャしてもよい。
上記情報処理装置において、前記キャプチャ部は、前記表示部の画面領域のうち前記映像が表示される前記アプリケーションのウィンドウ領域をキャプチャしてもよい。
上記情報処理装置は、前記キャプチャ部は、前記表示部の画面領域のうち指定された一部の領域をキャプチャしてもよい。
上記情報処理装置は、前記映像を画像解析することにより前記映像から特定領域を検出する領域検出部をさらに備え、前記キャプチャ部は、前記表示部の画面領域のうち前記領域検出部により検出された特定領域をキャプチャしてもよい。
上記情報処理装置は、前記キャプチャ部によりキャプチャされる度に、今回キャプチャされた静止画ファイルの画像を以前にキャプチャされた静止画ファイルの画像と比較して類似性を判定する類似性判定部をさらに備え、前記表示制御部は、前記類似性判定部により以前にキャプチャされた静止画ファイルの画像との類似度が所定の閾値以上であると判定された静止画ファイルの画像を、前記表示部に表示させる表示対象から除外してもよい。
上記情報処理装置は、前記キャプチャ部によりキャプチャされた一連の静止画ファイルの画像のそれぞれを、キャプチャ順にページごとに割付けた一つのデータファイルとして生成するファイル生成部、をさらに備えてもよい。
上記情報処理装置は、前記キャプチャ部によりキャプチャされる度に、今回キャプチャされた静止画ファイルの画像を以前にキャプチャされた静止画ファイルの画像と比較して類似性を判定する類似性判定部をさらに備え、前記ファイル生成部は、前記類似性判定部により以前にキャプチャされた静止画ファイルの画像との類似度が所定の閾値以上であると判定された静止画ファイルを前記一連の静止画ファイルから除いた残りの静止画ファイルの画像を、キャプチャ順にページごとに割付けた一つのデータファイルとして生成してもよい。
上記情報処理装置において、前記ファイル生成部は、前記アプリケーションの実行中に前記キャプチャ部による所定時間ごとのキャプチャを継続しながら、前記キャプチャ部によりキャプチャ済みの静止画ファイルの画像に基づいて前記一つのデータファイルを生成してもよい。
上記情報処理装置において、前記キャプチャ部は、前記アプリケーションがマイクロフォン又はスピーカを占有したことを検知した場合、前記キャプチャを開始してもよい。
上記情報処理装置において、前記キャプチャ部は、前記アプリケーションがマイクロフォン又はスピーカを開放したことを検知した場合、前記キャプチャを終了してもよい。
また、本発明の第2態様に係る、ネットワークを介して他の情報処理装置から映像及び音声を送受信するアプリケーションを実行する情報処理装置における制御方法は、キャプチャ部が、前記アプリケーションを用いて他の情報処理装置から受信した映像が表示される表示部の画面領域のうち前記映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイルとしてキャプチャするステップと、表示制御部が、前記アプリケーションの実行中に前記キャプチャ部による前記所定時間ごとのキャプチャを継続しながら、前記キャプチャ部によりキャプチャされた一連の静止画ファイルのうちの少なくとも一部の画像を前記表示部に表示させるステップと、を含む。
本発明の上記態様によれば、オンラインによるビデオ会議の利便性を向上させることができる。
第1の実施形態に係る情報処理装置の外観を示す斜視図。 第1の実施形態に係るレビューアプリの表示例を示す図。 第1の実施形態に係るレビューアプリによるキャプチャ画像とその表示の説明図。 第1の実施形態に係る情報処理装置のハードウェア構成の一例を示すブロック図。 第1の実施形態に係る情報処理装置の機能構成の一例を示すブロック図。 第1の実施形態に係るキャプチャ画像ファイルの一例を示す図。 第1の実施形態に係るレビュー処理の一例を示すフローチャート。 第1の実施形態に係るキャプチャ処理の一例を示すフローチャート。 第2の実施形態に係るコンテンツ領域の切り出しについての説明図。 第2の実施形態に係る切り出し後のキャプチャ画像の表示例を示す図。 第2の実施形態に係る情報処理装置の機能構成の一例を示すブロック図。 第2の実施形態に係るキャプチャ画像ファイルの一例を示す図。 第2の実施形態に係るキャプチャ処理の一例を示すフローチャート。 第2の実施形態に係るスライドファイル生成処理の一例を示すフローチャート。
以下、図面を参照しながら本発明の実施形態について詳しく説明する。
<第1の実施形態>
まず、本実施形態に係る情報処理装置の概要について説明する。
図1は、本実施形態に係る情報処理装置の外観を示す斜視図である。図示する情報処理装置10は、クラムシェル型のノートPC(Personal Computer)である。情報処理装置10は、第1筐体101、第2筐体102、及びヒンジ機構103を備えている。第1筐体101及び第2筐体102は、略四角形の板状(例えば、平板状)の筐体である。第1筐体101の側面の一つと第2筐体102の側面の一つとがヒンジ機構103を介して結合(連結)されており、ヒンジ機構103がなす回転軸の周りに第1筐体101と第2筐体102とが相対的に回動可能である。第1筐体101と第2筐体102との回転軸の周りの開き角θが略0°の状態が、第1筐体101と第2筐体102とが重なり合って閉じた状態(「閉状態」と称する)である。閉状態において第1筐体101と第2筐体102との互いに対面する側の面を、それぞれの「内面」と呼び、内面に対して反対側の面を「外面」と称する。開き角θとは、第1筐体101の内面と第2筐体102の内面とがなす角とも言うことができる。閉状態に対して第1筐体101と第2筐体102とが開いた状態のことを「開状態」と称する。開状態とは、開き角θが予め設定された閾値(例えば、10°)より大きくなるまで、第1筐体101と第2筐体102とが相対的に回動された状態である。
第1筐体101の内面には、表示部14が設けられている。表示部14は、情報処理装置10に実行される処理に基づく映像を表示する。また、第1筐体101の内面のうち表示部14の周縁の領域に、撮像部27(カメラ)及びマイク(マイクロフォン)241が設けられている。即ち、撮像部27及びマイク241は、情報処理装置10を使用するユーザと対面するような位置に設けられている。なお、マイク241は、右側用と左側用の2つのマイクに分かれて設けられてもよい。
また、第2筐体102の内面には、ユーザの操作を受け付ける入力デバイスとしてキーボード32及びスピーカ242が設けられている。なお、スピーカ242は、右側用と左側用の2つのスピーカに分かれて設けられてもよい。閉状態では、表示部14が視認できない状態、且つキーボード32への操作ができない状態となる。一方、開状態では、表示部14が視認可能な状態、且つキーボード32への操作が可能な状態(即ち、情報処理装置10を使用可能な状態)となる。
情報処理装置10は、各種のアプリケーションのプログラムを実行することができる。例えば、情報処理装置10は、撮像部27により撮像される映像やマイク241に入力される音声などを用いるアプリケーションのプログラムを実行する。一例として、複数のユーザのそれぞれが端末装置を用いて双方向に映像及び音声を通信するアプリケーションがあり、ビデオ会議などに使用される。このようなビデオ会議に使用できるアプリケーションのことを、以下では「ビデオ会議アプリ」と称する。情報処理装置10は、ビデオ会議アプリを実行することにより、ビデオ会議アプリを用いて他のユーザとビデオ会議を行う際の端末装置として利用することができる。
情報処理装置10を用いてユーザがビデオ会議アプリを使用する場合、撮像部27は、表示部14に対面するユーザ(ビデオ会議の参加者)などが含まれる映像を撮像する。また、マイク241には、当該ユーザが発する音声などが入力される。情報処理装置10は、ビデオ会議アプリの処理に基づいて撮像部27により撮像された映像及びマイク241に入力された音声を、ビデオ会議に参加する他のユーザの端末装置へネットワークを介して送信する。また、情報処理装置10は、他のユーザの端末装置から取映像及び音声を取得し、取得した映像を表示部14に表示するとともに、取得した音声をスピーカ242などから出力する。このように、ビデオ会議アプリを使用することにより、ビデオ会議に参加する各ユーザは、互いにユーザの映像を見ながら会話を行うことができる。
また、ビデオ会議アプリには、同一の資料データをそれぞれの端末装置で閲覧できるように共有する機能を有しているものがある。この機能を用いて、発表者が他の参加者へ資料を共有しながら説明する場面がある。しかしながら、発表者が資料のページを送りながら説明を行っているときに、参加者側としては、発表者が現在表示させている資料のページよりも前のページを見たい場合がある。
そこで、本実施形態に係る情報処理装置10は、ビデオ会議アプリを用いて他のユーザの端末装置から受信した映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイルとしてキャプチャする。そして、情報処理装置10は、ビデオ会議アプリの実行中に、上記所定時間ごとのキャプチャを継続しながら、キャプチャされた一連の静止画ファイルのうちの少なくとも一部の画像を表示させることが可能である。これにより、情報処理装置10は、ユーザが現在表示されている資料のページよりも前のページを見たいときには、キャプチャ済みの画像の中からユーザが任意に選択して表示することが可能である。以下、キャプチャ済みの画像のことを「キャプチャ画像」、キャプチャした静止画ファイルのことを「キャプチャ画像ファイル」と称する。
このビデオ会議アプリの映像をキャプチャする機能とキャプチャ画像を表示する機能とは、例えばビデオ会議アプリとは別のアプリケーション(以下、「レビューアプリ」と称する)を実行することにより実現される。これにより、レビューアプリは、対象とするアプリを限定することなく使用することができる。
図2及び図3を参照して、レビューアプリの概要を説明する。
図2は、本実施形態に係るレビューアプリの表示例を示す図である。表示画面G10は、情報処理装置10の表示部14の全画面領域を示している。表示画面G10には、ビデオ会議アプリのウィンドウWVが全画面表示されている。ビデオ会議アプリのウィンドウWVには、ビデオ会議に参加している他のユーザや、共有されている資料などを表示することができる。図示する例では、共有されている資料の現在のページが表示されている。また、表示画面G10には、レビューアプリのウィンドウWRがビデオ会議アプリのウィンドウWVに重畳して表示されている。レビューアプリのウィンドウWRには、ビデオ会議アプリのウィンドウWVに過去に表示されたキャプチャ画像が表示される。レビューアプリのウィンドウWRは、アクティブウィンドウであるがビデオ会議アプリのウィンドウWRよりも小さいサイズで表示されている。そのため、ユーザは、ビデオ会議アプリのウィンドウWRを見ながらビデオ会議をしている最中に、レビューアプリのウィンドウWRに任意のキャプチャ画像を表示させて確認することができる。
図3は、本実施形態に係るレビューアプリによるキャプチャ画像とその表示の説明図である。この図では、キャプチャ画像ファイルが保存されるフォルダ内のファイルが表示されるウィンドウWFと、図2に示すレビューアプリのウィンドウWRとを示している。上記フォルダには、所定時間ごと(例えば、10秒ごと)にキャプチャされたキャプチャ画像ファイルがキャプチャ順に保存される。各キャプチャ画像ファイルのファイル名は、例えば、各キャプチャ画像の時刻に基づいて生成される。フォルダは、レビューアプリによりキャプチャが開始されてから終了するまでの1回のキャプチャ期間ごとに作成されてもよい。
スライダSD1は、ユーザがレビューアプリのウィンドウWRに表示させるキャプチャ画像を選択するための操作UI(User Interface)として表示される。キャプチャ画像は、キャプチャ順にスライダSD1の左端から右端へ対応付けられている。スライダSD1を左に移動させるほど先にキャプチャされたキャプチャ画像が表示され、スライダSD1を右に移動させるほど後からキャプチャされたキャプチャ画像が表示される。スライダSD1を左端に移動させると最初にキャプチャされたキャプチャ画像が表示され、スライダSD1を右端に移動させるとその時点で最後にキャプチャされたキャプチャ画像が表示される。例えば、9枚のキャプチャ画像のファイルが保存されている場合、スライダSD1を左端に移動させると1枚目のキャプチャ画像が表示され、スライダSD1を中央に移動させると5枚目のキャプチャ画像が表示され、スライダSD1を右端に移動させると9枚目のキャプチャ画像が表示される。スライダSD1のスライダバーの長さが保存されているキャプチャ画像の枚数で均等割りされ、スライダSD1の位置に対応するキャプチャ画像が表示されることになる。時間が経過して10枚目のキャプチャ画像が保存されると、スライダSD1のスライダバーの長さが9枚で均等割りされていた状態から10枚での均等割りに変更され、スライダSD1を右端に移動させると10枚目のキャプチャ画像が表示される。時刻表示TSは、レビューアプリのウィンドウWRに現在表示されているキャプチャ画像の時刻情報が表示される。例えば、時刻表示TSには、現在表示されているキャプチャ画像がキャプチャされたときの時刻またはキャプチャ開始から経過時間のいずれか一方又は両方が表示される。
このように、情報処理装置10は、ビデオ会議で発表者が他の参加者へ資料を共有しながら説明しているときに、発表者が現在表示させている資料のページより任意の時間前に表示されていた資料のページを参加者が表示させて確認することができる。以下、本実施形態に係る情報処理装置10の構成について詳しく説明する。
[情報処理装置10のハードウェア構成]
まず、図4を参照して、情報処理装置10の主要なハードウェア構成について説明する。図4は、本実施形態に係る情報処理装置10のハードウェア構成の一例を示すブロック図である。
情報処理装置10は、CPU11と、メインメモリ12と、ビデオサブシステム13と、表示部14と、チップセット21と、BIOSメモリ22と、記憶部23と、オーディオシステム24と、通信部25と、USBコネクタ26と、撮像部27と、エンベデッドコントローラ31と、キーボード32と、電源回路33と、バッテリ34と、センサ35とを備える。
CPU11は、プログラム制御により種々の演算処理を実行し、情報処理装置10全体を制御している。例えば、CPU11は、OS(Operating System)やBIOSのプログラムに基づく処理を実行する。また、CPU11は、OS上で実行される各種ドライバ、各種サービス/ユーティリティ、アプリケーション等に基づく処理を実行する。
メインメモリ12は、CPU11の実行プログラムの読み込み領域として、又は、実行プログラムの処理データを書き込む作業領域として利用される書き込み可能メモリである。メインメモリ12は、例えば、複数個のDRAM(Dynamic Random Access Memory)チップで構成される。この実行プログラムには、OS、周辺機器類をハードウェア操作するための各種ドライバ、各種サービス/ユーティリティ、アプリケーションプログラム等が含まれる。
ビデオサブシステム13は、画像表示に関連する機能を実現するためのサブシステムであり、ビデオコントローラを含んでいる。このビデオコントローラは、CPU11からの描画命令を処理し、処理した描画情報をビデオメモリに書き込むとともに、ビデオメモリからこの描画情報を読み出して、表示部14に描画データ(表示データ)として出力する。
表示部14は、例えば、液晶ディスプレイや有機ELディスプレイであり、ビデオサブシステム13から出力された描画データ(表示データ)に基づく表示画面を表示する。
チップセット21は、USB(Universal Serial Bus)、シリアルATA(AT Attachment)、SPI(Serial Peripheral Interface)バス、PCI(Peripheral Component Interconnect)バス、PCI-Expressバス、及びLPC(Low Pin Count)バスなどのコントローラを備えており複数のデバイスが接続される。例えば、複数のデバイスとして、後述するBIOSメモリ22と、記憶部23と、オーディオシステム24と、通信部25と、USBコネクタ26と、エンベデッドコントローラ31とが含まれる。
BIOSメモリ22は、例えば、EEPROM(Electrically Erasable Programmable Read Only Memory)やフラッシュROMなどの電気的に書き換え可能な不揮発性メモリで構成される。BIOSメモリ22は、BIOS、及びエンベデッドコントローラ31などを制御するためのシステムファームウェアなどを記憶する。
記憶部23は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、などを含んで構成される。例えば、記憶部23は、OS、各種ドライバ、各種サービス/ユーティリティ、アプリケーションプログラム、及び各種データを記憶する。
オーディオシステム24は、マイク241及びスピーカ242が接続され、音データの記録、再生、出力を行う。例えば、マイク241及びスピーカ242は、情報処理装置10に内蔵されている。なお、マイク241及びスピーカ242は、Bluetooth(登録商標)などの近距離無線通信またはUSBなどを用いて情報処理装置10と接続される周辺機器であってもよい。
通信部25は、無線LAN(Local Area Network)または有線LANによりネットワークに接続して、データ通信を行う。通信部25は、例えば、ネットワークからのデータを受信した際に、データを受信したことを示すイベントトリガを発生する。また、通信部25は、Bluetooth(登録商標)などの近距離無線通信により周辺機器類と通信を行ってもよい。
USBコネクタ26は、USBを利用した周辺機器類を接続するためのコネクタである。
撮像部27は、不図示のレンズ及び撮像素子を含んで構成され、レンズを介して入力される被写体像を撮像して電気信号に変化した撮像データを出力する。例えば、撮像部27は、表示部14に対面する方向の所定の範囲(画角)を撮像し、撮像した撮像データを出力する。一例として、ユーザがビデオ会議アプリを使用している際に、表示部14に対面した位置に存在する当該ユーザを撮像した撮像データを出力する。
キーボード32は、ユーザの操作を受け付ける複数のキー(操作子の一例)が配列された入力デバイスである。キーボード32は、図1に示すように、第2筐体102の内面に設けられている。キーボード32は、ユーザの操作により入力された入力情報(例えば、キーボードに対して操作されたキーを示す操作信号)をエンベデッドコントローラ31へ出力する。
電源回路33は、例えば、DC/DCコンバータ、充放電ユニット、AC/DCアダプタなどを含んで構成されている。例えば、電源回路33は、ACアダプタ(不図示)などの外部電源又はバッテリ34から供給される直流電圧を、情報処理装置10を動作させるために必要な複数の電圧に変換する。また、電源回路33は、エンベデッドコントローラ31からの制御に基づいて、情報処理装置10の各部に電力を供給する。
バッテリ34は、例えば、リチウムバッテリであり、情報処理装置10に外部電源から電力供給されている場合に、電源回路33を介して充電され、情報処理装置10に外部電源から電力供給されていない場合に、電源回路33を介して、充電された電力を情報処理装置10の動作電力として出力する。
センサ35は、ホールセンサ、加速度センサ、または温度センサなどの各種センサを含んで構成されている。各種センサのそれぞれは、それぞれの検知対象に配置されており、検知信号を出力する。例えば、ホールセンサは、情報処理装置10が開状態であるか閉状態であるかを検出する際に用いられる。また、加速度センサは、情報処理装置10の向きや動き、または第1筐体101と第2筐体102との開き角θを検出するなどを検出する際に用いられる。また、温度センサは、情報処理装置10の内部温度を検出する際に用いられる。
エンベデッドコントローラ31は、情報処理装置10のシステムの状態に関わらず、各種デバイス(周辺装置やセンサ等)を監視して制御するワンチップマイコン(One-Chip Microcomputer)である。エンベデッドコントローラ31は、不図示のCPU、ROM、RAM、複数チャネルのA/D入力端子、D/A出力端子、タイマ、及びデジタル入出力端子を備える。エンベデッドコントローラ31のデジタル入出力端子には、例えば、キーボード32、電源回路33、及びセンサ35などが接続されている。エンベデッドコントローラ31は、キーボード32からの入力情報(操作信号)や、センサ35などからのセンサ信号を受け取る。また、エンベデッドコントローラ31は、電源回路33などの動作を制御する。
[情報処理装置10の機能構成]
次に、情報処理装置10が上述したビデオ会議アプリ及びレビューアプリを実行することにより実現される機能構成について説明する。
図5は、本実施形態に係る情報処理装置10の機能構成の一例を示すブロック図である。情報処理装置10は、CPU11が各種プログラムを実行することにより実現される機能構成として処理部110を備えている。処理部110は、ビデオ会議処理部111と、レビュー処理部121とを備えている。ビデオ会議処理部111は、ビデオ会議アプリを実行することにより実現される機能構成である。レビュー処理部121は、レビューアプリを実行することにより実現される機能構成である。ここでは、レビュー処理部121について詳しく説明する。レビュー処理部121は、キャプチャ部122と、表示制御部125とを備えている。
キャプチャ部122は、ビデオ会議処理部111により他の端末装置(情報処理装置)から受信した映像が表示される表示部14の画面領域のうち当該映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイルとしてキャプチャする。一例として、キャプチャ部122は、10秒ごとにキャプチャし、キャプチャしたキャプチャ画像ファイルを順次に記憶部23に保存する。
図6は、記憶部23に記憶されているキャプチャ画像ファイルの一例を示す図である。キャプチャ画像は、キャプチャされる度に静止画ファイルとして保存される。例えば、ファイル名は、キャプチャされた時刻に基づく名称が付与される。なお、ファイル名は、キャプチャ順に001、002、003、・・・などのように昇順にナンバリングされた名称としてもよい。ファイル形式は、ここではPNGを例としているが、これに限定されるものではなく、GIF、JPEG、BMP等のファイル形式を用いてもよい。また、各キャプチャ画像ファイルには、キャプチャされた時刻を示す時刻情報(タイムスタンプ)が含まれる。
キャプチャ部122がキャプチャする画面領域は、表示部14の全画面領域(デスクトップ画面の全領域)であってもよいし、ビデオ会議アプリのウィンドウ領域(図2及び図3に示すウィンドウWVの領域)であってもよい。また、キャプチャ部122がキャプチャする画面領域は、ユーザにより指定された画面領域であってもよい。例えば、キャプチャの開始前や途中で、ビデオ会議アプリの映像(資料)の少なくとも一部が含まれるように、キャプチャする領域のサイズ及び位置をユーザが設定できるようにしてもよい。
なお、キャプチャ部122がキャプチャする画面領域を、表示部14の全画面領域(デスクトップ画面の全領域)、ビデオ会議アプリのウィンドウ領域、或いはユーザにより指定された領域とするかは、予め設定されていてもよいし、キャプチャの開始前にユーザが設定または変更できるようにしてもよい。
ここで、デスクトップ画面の全領域がキャプチャする画面領域に設定された場合、レビューアプリ自身のウィンドウ領域(図2及び図3に示すウィンドウWRの領域)をキャプチャの対象外に設定することができる。また、ビデオ会議アプリのウィンドウ領域がキャプチャする画面領域に設定された場合には、ビデオ会議アプリのウィンドウが他のアプリケーションのウィンドウで隠れていても、ビデオ会議アプリのウィンドウ領域に表示されている映像をキャプチャすることができる。
また、表示部14の表示画面に表示される現在の操作位置を示すUI(マウスポインタ、マウスカーソルなど)をキャプチャの対象とするか否かを、ユーザが予め設定可能としてもよい。
また、キャプチャ部122は、例えばユーザの操作に応じてキャプチャを開始または終了する。一例として、図2及び図3に示すウィンドウWRに、キャプチャを開始または終了する操作UIが表示されてもよい。そして、この操作UIに対するユーザの操作に基づいて、キャプチャ部122は、キャプチャを開始または終了してもよい
また、キャプチャ部122は、ビデオ会議の開始または終了を自動で検知することにより、キャプチャを開始または終了してもよい。例えば、キャプチャ部122は、ビデオ会議アプリがマイク241又はスピーカ242を占有したことを検知した場合、キャプチャを開始してもよい。
ここで、ビデオ会議アプリがマイク241を占有した状態とは、ビデオ会議アプリがマイク241の使用を許可されている状態であり、より具体的には、OSによってビデオ会議アプリにマイク241の使用権(占有権)が与えられている状態である。例えば、マイク241を占有した状態とは、ビデオ会議アプリを用いたビデオ会議が行われているときに、ユーザによるミュート及びミュート解除の入力操作が行われることによって、ビデオ会議アプリ上でマイク241の機能がオフからオンに一時的に切り替えられた状態を意味するものではない。また、ビデオ会議アプリがスピーカ242を占有した状態とは、ビデオ会議アプリがスピーカ242の使用を許可されている状態であり、より具体的には、OSによってビデオ会議アプリにスピーカ242の使用権(占有権)が与えられている状態である。
また、キャプチャ部122は、ビデオ会議アプリが占有していたマイク241又はスピーカ242を開放したことを検知した場合、キャプチャを終了してもよい。
ここで、ビデオ会議アプリがマイク241を開放した状態とは、ビデオ会議アプリがマイク241の使用権を開放した状態であり、より具体的には、OSによってビデオ会議アプリに与えられていたマイク241の使用権が開放された状態である。例えば、マイク241を開放した状態とは、ビデオ会議アプリを用いたビデオ会議が行われているときに、ユーザによるミュート及びミュート解除の入力操作が行われることによって、ビデオ会議アプリ上でマイク241の機能がオンからオフに一時的に切り替えられた状態を意味するものではない。また、ビデオ会議アプリがスピーカ242を開放した状態とは、ビデオ会議アプリがスピーカ242の使用権を開放した状態であり、より具体的には、OSによってビデオ会議アプリに与えられていたスピーカ242の使用権が開放された状態である。
図5に戻り、表示制御部125は、ビデオ会議アプリの実行中にキャプチャ部122による上記所定時間ごとのキャプチャを継続しながら、キャプチャ部122によりキャプチャされた一連のキャプチャ画像ファイルの画像を表示部14に表示させる。具体的には、表示制御部125は、記憶部23に記憶されているキャプチャ画像ファイルを読み出す。そして、表示制御部125は、読み出したキャプチャ画像ファイルのキャプチャ画像を図2及び図3に示すレビューアプリのウィンドウWRに表示させる。
例えば、表示制御部125は、キャプチャ部122によりキャプチャされた一連のキャプチャ画像ファイルのそれぞれをキャプチャ順に対応して選択可能なスライダSD1を表示部14に表示させる。そして、表示制御部125は、当該スライダSD1に対するユーザの操作に応じて選択されたキャプチャ画像ファイルの画像を表示部14(ウィンドウWR)に表示させる(図3参照)。
[レビュー処理]
次に図7及び図8を参照して、情報処理装置10のレビュー処理部121が実行するレビュー処理の動作を説明する。
図7は、本実施形態に係るレビュー処理の一例を示すフローチャートである。図示するレビュー処理は、例えばレビューアプリの起動とともに開始される。
(ステップS101)レビュー処理部121は、キャプチャを開始するか否かを判定する。例えば、レビュー処理部121は、ユーザによりキャプチャを開始する操作が行われた場合、又はビデオ会議アプリがマイク241又はスピーカ242を占有したことを検知した場合、キャプチャ開始イベントが発生したと判定し(YES)、ステップS103の処理に進む。一方、レビュー処理部121は、キャプチャ開始イベントが発生していないと判定した場合(NO)、このステップS101の処理を継続する。
(ステップS103)レビュー処理部121は、所定時間ごと(例えば、10秒ごと)にキャプチャ処理を実行する。ここで図8を参照してキャプチャ処理について説明する。図8は、本実施形態に係るキャプチャ処理の一例を示すフローチャートである。
(ステップS131)レビュー処理部121は、表示部14の画面領域のうちキャプチャする画面領域の画像を取り込む。キャプチャする画面領域は、表示部14の全画面領域(デスクトップ画面の全領域)、ビデオ会議アプリのウィンドウ領域(図2及び図3に示すウィンドウWVの領域)、ユーザにより指定された画面領域のうちのいずれかである。いずれの画面領域とするかは、ユーザにより選択されてもよい。
(ステップS132)レビュー処理部121は、ステップS131において取り込んだ画像のファイル(キャプチャ画像ファイル)を記憶部23に保存する。そして、図7のステップS105の処理に進む。
(ステップS105)レビュー処理部121は、記憶部23に保存されたキャプチャ画像をレビュー対象に追加する。
(ステップS107)レビュー処理部121は、ユーザの操作によりキャプチャ画像を表示させるレビュー指示があったか否かを判定する。レビュー処理部121は、レビュー指示があったと判定した場合(YES)、ステップS109の処理へ進む。一方、レビュー処理部121は、レビュー指示がないと判定した場合(NO)、ステップS111の処理へ進む。
(ステップS109)レビュー処理部121は、ユーザの操作によりレビュー指示として選択されたキャプチャ画像を表示部14(図2及び図3に示すレビューアプリのウィンドウWR)に表示させる。レビュー指示としてユーザがキャプチャ画像を選択する操作は、例えば、図3に示すスライダSD1に対する操作である。
(ステップS111)レビュー処理部121は、キャプチャを終了するか否かを判定する。例えば、レビュー処理部121は、ユーザによりキャプチャを終了する操作が行われた場合、又はビデオ会議アプリがマイク241又はスピーカ242を開放したことを検知した場合、キャプチャ終了イベントが発生したと判定し(YES)、キャプチャ処理を継続しないで(キャプチャ処理を終了して)ステップS113の処理に進む。一方、レビュー処理部121は、キャプチャ終了イベントが発生していないと判定した場合(NO)、ステップS103に戻り、所定時間ごとのキャプチャ処理を継続する。
(ステップS113)レビュー処理部121は、ユーザによりレビューアプリを終了する操作が行われたか否かを判定する。レビュー処理部121は、ユーザによりレビューアプリを終了する操作が行われていないと判定した場合(NO)、ステップS107の処理に戻り、レビュー指示に応じてキャプチャ画像を表示させる。一方、レビュー処理部121は、ユーザによりレビューアプリを終了する操作が行われたと判定した場合(NO)、レビューアプリをクローズして、レビュー処理を終了する。
なお、レビュー処理部121は、ステップS111においてキャプチャ終了イベントが発生したと判定した場合(YES)、キャプチャ処理の終了とともに、レビューアプリを終了し、レビュー処理を終了してもよい。
以上説明したように、本実施形態に係る情報処理装置10は、ネットワークを介して他の端末装置(情報処理装置)から映像及び音声を送受信するビデオ会議アプリ(アプリケーションの一例)を実行する。情報処理装置10は、ビデオ会議アプリを用いて他の端末装置から受信した映像が表示される表示部14の画面領域のうち上記の映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイル(キャプチャ画像ファイル)としてキャプチャする。また、情報処理装置10は、ビデオ会議アプリの実行中に所定時間ごとのキャプチャを継続しながら、キャプチャした一連のキャプチャ画像ファイルのうちの少なくとも一部の画像を表示部14に表示させる。
これにより、情報処理装置10は、進行中の会議に参加しながら、会議資料をレビューできる。例えば、情報処理装置10は、オンラインによるビデオ会議の進行中に、他のユーザ(発表者)が会議で共有した資料をユーザ(参加者)が自身の意思で見返すことができるため、オンラインによるビデオ会議の利便性を向上させることができる。このとき、情報処理装置10は、自身に保存したキャプチャ画像を用いて自身の表示部14にのみレビュー表示するため、発表者や他の参加者に気を遣うことがなく、資料を見返すことができる。
例えば、情報処理装置10は、キャプチャした一連のキャプチャ画像ファイルのそれぞれをキャプチャ順に対応して選択可能なスライダSD1(ユーザインタフェースの一例)を表示部14に表示させるとともに、当該スライダSD1に対する操作に応じて選択されたキャプチャ画像ファイルの画像を表示部14に表示させる。
これにより、情報処理装置10は、他のユーザ(発表者)が会議で共有した資料のうちユーザ(参加者)が見返したいページを容易な操作で選択することができる。
一例として、情報処理装置10は、表示部14の全画面領域(デスクトップ画面の全領域)をキャプチャしてもよい。
これにより、情報処理装置10は、オンラインによるビデオ会議の進行中に、他のユーザ(発表者)が会議で共有した資料を、デスクトップ画面の全領域のキャプチャ画像を用いてユーザ(参加者)が見返すことができる。
なお、情報処理装置10は、デスクトップ画面の全領域がキャプチャする画面領域に設定された場合、レビューアプリ自身のウィンドウ領域(図2及び図3に示すウィンドウWRの領域)をキャプチャの対象外に設定することができる。これにより、情報処理装置10は、デスクトップ画面の全領域がキャプチャする画面領域に設定されていても、オンラインによるビデオ会議の進行中に、レビューアプリ自身のウィンドウ領域がキャプチャされてしまうことが無い。
また、別の例として、情報処理装置10は、表示部14の画面領域のうち、ビデオ会議アプリを用いて他の端末装置から受信した映像が表示されるビデオ会議アプリのウィンドウWVの領域をキャプチャしてもよい。
これにより、情報処理装置10は、オンラインによるビデオ会議の進行中に、他のユーザ(発表者)が会議で共有した資料を、ビデオ会議アプリのウィンドウ領域のキャプチャ画像を用いてユーザ(参加者)が見返すことができる。また、情報処理装置10は、ビデオ会議アプリのウィンドウWVが他のアプリケーションのウィンドウで隠れていても、ビデオ会議アプリのウィンドウ領域に表示されている映像をキャプチャすることができるため、ユーザ(参加者)が後から見返すことができる。
また、別の例として、情報処理装置10は、表示部14の画面領域のうち指定された一部の領域をキャプチャしてもよい。
これにより、情報処理装置10は、オンラインによるビデオ会議の進行中に、他のユーザ(発表者)が会議で共有した資料を、ユーザ(参加者)が指定した画面領域のキャプチャ画像を用いてユーザ(参加者)が見返すことができる。
また、情報処理装置10は、ビデオ会議アプリがマイク241又はスピーカ242を占有したことを検知した場合、キャプチャを開始してもよい。
これにより、情報処理装置10は、ユーザ(参加者)の操作を必要とすることなくビデオ会議アプリの映像を自動的にキャプチャするため、キャプチャのし忘れにより見返すことができないといったことを防止できる。
また、情報処理装置10は、ビデオ会議アプリがマイク241又はスピーカ242を開放したことを検知した場合、キャプチャを終了してもよい。
これにより、情報処理装置10は、ユーザ(参加者)の操作を必要とすることなくビデオ会議が終了すればキャプチャを自動的に終了するため、ビデオ会議の終了後に不要なキャプチャ画像を保存してしまうことを防止することができ、データ量を抑制することができる。
また、本実施形態に係る情報処理装置10における制御方法は、ビデオ会議アプリを用いて他の端末装置から受信した映像が表示される表示部14の画面領域のうち上記の映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイル(キャプチャ画像ファイル)としてキャプチャするステップと、ビデオ会議アプリの実行中に所定時間ごとのキャプチャを継続しながら、キャプチャした一連のキャプチャ画像ファイルのうちの少なくとも一部の画像を表示部14に表示させるステップと、を含む。
これにより、情報処理装置10は、進行中の会議に参加しながら、会議資料をレビューできる。例えば、情報処理装置10は、オンラインによるビデオ会議の進行中に、他のユーザ(発表者)が会議で共有した資料をユーザ(参加者)が自身の意思で見返すことができるため、オンラインによるビデオ会議の利便性を向上させることができる。このとき、情報処理装置10は、自身に保存したキャプチャ画像を用いて自身の表示部14にのみレビュー表示するため、発表者や他の参加者に気を遣うことがなく、資料を見返すことができる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。
本実施形態では、第1の実施形態で説明したビデオ会議アプリでキャプチャしたキャプチャ画像に基づいて資料のデータファイルを自動で生成する構成について説明する。具体的には、本実施形態に係るレビューアプリは、ビデオ会議アプリの映像から資料のコンテンツ領域を切り出してキャプチャを行い、類似のキャプチャ画像を除外した上で資料のファイルを生成する。コンテンツ領域とは、ビデオ会議アプリのウィンドウWVに表示される映像のうち資料のコンテンツ部分の領域のことをいう。
まず、コンテンツ領域の切り出しついて説明する。
図9は、本実施形態に係るコンテンツ領域の切り出しについての説明図である。この図は、図2に示すレビューアプリのウィンドウWRの部分を示している。ウィンドウWRの領域R1には、ビデオアプリのウィンドウWVの領域がキャプチャされたキャプチャ画像が表示されている。キャプチャ画像のうち資料のコンテンツ領域R2は、ウィンドウWRの領域R1よりも小さい領域である。そこで、本実施形態では、画像解析することによりビデオ会議アプリの映像からコンテンツ領域R2を切り出してキャプチャする。切り出したコンテンツ領域R2のキャプチャ画像が領域R1の全体に表示され、資料には必要のない部分がウィンドウWRに表示されないようになる。これにより、ビデオ会議アプリのウィンドウWVとレビューアプリのウィンドウWRとの両方をユーザが見る状態ではウィンドウWRの表示サイズが小さくなるものの、そのウィンドウWRのウィンドウ領域を有効に使え、資料を見やすくすることができる。
図10は、本実施形態に係る切り出し後のキャプチャ画像の表示例を示す図である。レビューアプリのウィンドウWRの領域R1には、ビデオアプリのウィンドウWVに表示されている映像から切り出された資料のコンテンツ領域のキャプチャ画像が表示されている。また、本実施形態では、コンテンツ領域のキャプチャ画像を画像解析することにより、既に保存されているキャプチャ画像と類似するキャプチャ画像はレビュー対象から除外する。すなわち、1つのページに対して1つのキャプチャ画像のみがレビュー対象となる。これにより、本実施形態では、資料の同一ページのキャプチャ画像が重複しないようにすることができ、1つのページに対して1つのキャプチャ画像のみを抽出してレビュー対象とすることができる。
また、図10に示すレビューアプリのウィンドウWRには、1つのページに対して1つのキャプチャ画像のみを抽出してレビュー対象とするモード(以下、「抽出レビューモード」と称する)を有効にするか否かのスイッチSWが表示されている。図示する例では、スイッチSWは、抽出レビューモードが有効(Enable)となっている。スライダSD2を左右に移動させることにより、同一ページのキャプチャ画像が重複せず、1ページずつ切り替わって表示される。また、スライダSD2のスライダバーの下には、抽出レビューモードでレビュー対象となるキャプチャ画像に対応する位置に印(目盛り)が表示されている。なお、スイッチSWで抽出レビューモードを無効(Disable)とした場合には、フォルダ内に保存されているすべてのキャプチャ画像がレビュー対象となる。
また、本実施形態では、1つのページに対して1つのキャプチャ画像のみを集めたデータファイルを生成することができる。
以下、本実施形態に係る情報処理装置の構成ついて詳しく説明する。本実施形態に係る情報処理装置の外観及びハードウェア構成は、図1及び図4に示す構成と同様であり、その説明を省略する。ここでは、第1の実施形態と異なる機能構成について説明する。
図11は、本実施形態に係る情報処理装置10Aの機能構成の一例を示すブロック図である。この図11において、図5に示す各部に対応する構成には同一の符号を付している。情報処理装置10Aは、CPU11が各種プログラムを実行することにより実現される機能構成として処理部110Aを備えている。処理部110Aは、ビデオ会議処理部111と、レビュー処理部121Aとを備えている。ビデオ会議処理部111は、ビデオ会議アプリを実行することにより実現される機能構成であり、図5に示すビデオ会議処理部111と同様の構成である。レビュー処理部121Aは、本実施形態に係るレビューアプリを実行することにより実現される機能構成である。レビュー処理部121Aは、キャプチャ部122Aと、領域検出部123Aと、類似性判定部124Aと、表示制御部125Aと、ファイル生成部126Aとを備えている。
キャプチャ部122Aは、ビデオ会議アプリの映像をキャプチャする際に、領域検出部123Aにより検出されたコンテンツ領域をキャプチャする。
領域検出部123Aは、画像解析を行うことによりビデオ会議アプリの映像から資料のコンテンツ領域を検出する。画像解析の方法としては、エッジ検出などの任意の方法を用いることができる。
類似性判定部124Aは、キャプチャ部122Aによりキャプチャされる度に、今回キャプチャされたキャプチャ画像を以前にキャプチャされたキャプチャ画像と比較して類似性を判定する。画像の類似性の判定には、画像のパターンマッチングなどの任意の判定方法を用いることができる。例えば、類似性判定部124Aは、今回キャプチャされたキャプチャ画像と以前にキャプチャされたキャプチャ画像との類似度を判定し、類似度が所定の閾値以上であると判定した場合、レビュー対象からの除外を示す除外フラグを今回キャプチャされたキャプチャ画像のファイル情報に付与する。
図12は、本実施形態に係る記憶部23に記憶されているキャプチャ画像ファイルの一例を示す図である。この図に示す例では、キャプチャ画像ファイルのファイル名、タイムスタンプ、及び除外フラグを示している。例えば、タイムスタンプは、キャプチャ画像ファイルのヘッダ情報に含まれている。除外フラグは、キャプチャ画像ファイルと関連図けられて記憶される。例えば、除外フラグは、デフォルトではレビュー対象から除外しないことを示す「0」が設定されている。類似性判定部124Aは、レビュー対象からの除外するキャプチャ画像ファイルにレビュー対象からの除外を示す除外フラグを付与する場合、除外フラグを「0」から「1」に変更する。
表示制御部125Aは、類似性判定部124Aにより以前にキャプチャされたキャプチャ画像との類似度が所定の閾値以上であると判定されたキャプチャ画像をレビュー対象(表示対象)から除外する。例えば、表示制御部125Aは、記憶部23に記憶されているキャプチャ画像ファイルのうち除外フラグが付与されていないファイルを読み出す。そして、表示制御部125Aは、読み出したキャプチャ画像ファイルのキャプチャ画像を図10に示すレビューアプリのウィンドウWRに表示させる。
ファイル生成部126Aは、キャプチャ部122Aによりキャプチャされた一連のキャプチャ画像のそれぞれを、キャプチャ順にページごとに割付けた一つのデータファイルとして生成する。例えば、ファイル生成部126Aは、類似性判定部124Aにより以前にキャプチャされたキャプチャ画像との類似度が所定の閾値以上であると判定されキャプチャ画像を除いた残りのキャプチャ画像を、キャプチャ順にページごとに割付けた一つのデータファイルとして生成する。具体的には、ファイル生成部126Aは、記憶部23に記憶されているキャプチャ画像ファイルのうち除外フラグが付与されていないファイルを読み出し、読み出したファイルのキャプチャ画像をキャプチャ順にページごとに割付けた一つのデータファイルとして生成する。このデータファイルは、資料をページ単位でスライド表示できるため、以下では「スライドファイル」とも称する。
また、ファイル生成部126Aは、ビデオ会議アプリの実行中にキャプチャ部122Aによる所定時間ごとのキャプチャを継続しながら、それまでにキャプチャ済みのキャプチャ画像に基づいてスライドファイルを生成することが可能である。なお、ファイル生成部126Aは、キャプチャの終了後に、フォルダ内に保存されているキャプチャ画像に基づいてスライドファイルを生成することも可能である。
次に、本実施形態に係るレビュー処理部121Aが実行するレビュー処理の動作を説明する。本実施形態に係るレビュー処理は、図7に示すレビュー処理と基本的には同様であるが、ステップS103のキャプチャ処理の詳細が異なる点と、ステップS105及びステップS107において除外フラグが付与されていないキャプチャ画像のみがレビュー対象となる点とが異なる。ここでは、ステップS103のキャプチャ処理の詳細について、図13を参照して詳しく説明する。
図13は、本実施形態に係るキャプチャ処理の一例を示すフローチャートである。
(ステップS231)レビュー処理部121Aは、画像解析を行うことによりビデオ会議アプリの映像から資料のコンテンツ領域を検出する。
(ステップS232)レビュー処理部121Aは、ステップS231において検出されたコンテンツ領域の画像を取り込む。
(ステップS233)レビュー処理部121Aは、ステップS232において取り込んだ画像(今回キャプチャされたキャプチャ画像)を記憶部23に保存されているキャプチャ画像(以前にキャプチャされキャプチャ画像)と比較する。例えば、レビュー処理部121Aは、ステップS232において取り込んだ画像を、記憶部23に保存されている除外フラグが付与されていないキャプチャ画像のうち最後にキャプチャされたキャプチャ画像と比較する。なお、レビュー処理部121Aは、ステップS232において取り込んだ画像を、記憶部23に保存されている除外フラグが付与されていないキャプチャ画像のすべてと比較してもよい。
(ステップS234)レビュー処理部121Aは、ステップS232の比較結果に基づいて、ステップS232において取り込んだ画像と以前にキャプチャされたキャプチャ画像との類似性を判定する。例えば、レビュー処理部121Aは、ステップS232において取り込んだ画像と以前にキャプチャされたキャプチャ画像との類似度が所定の閾値以上であるか否かを判定する。レビュー処理部121Aは、類似度が所定の閾値以上であると判定した場合(YES)、ステップS235の処理に進む。一方、レビュー処理部121Aは、類似度が所定の閾値未満であると判定した場合(NO)、ステップS235の処理を行わずにステップS236の処理に進む。
(ステップS235)レビュー処理部121Aは、ステップS232において取り込んだ画像に除外フラグを付与する。例えば、レビュー処理部121Aは、ステップS232において取り込んだキャプチャ画像ファイルの除外フラグを「1」に設定する。
(ステップS236)レビュー処理部121は、ステップS232において取り込んだ画像のファイル(キャプチャ画像ファイル)を記憶部23に保存する。そして、図7のステップS105の処理に進む。
次に、本実施形態に係るレビュー処理部121Aが実行するスライドファイル生成処理の動作を説明する。
図14は、本実施形態に係るスライドファイル生成処理の一例を示すフローチャートである。
(ステップS311)レビュー処理部121は、記憶部23に記憶されているキャプチャ画像ファイルを読み出す。例えば、レビュー処理部121は、記憶部23に記憶されているキャプチャ画像ファイルのうちレビュー対象のファイル(除外フラグが「0」のファイル)を読み出す。
(ステップS312)レビュー処理部121は、ステップS311において読み出したキャプチャ画像ファイルの画像をキャプチャ順にページごとに割付けた一つのデータファイルを生成する。
(ステップS313)レビュー処理部121は、ステップS31において生成したデータファイルを資料のスライドファイルとして記憶部23に保存する。
以上説明したように、本実施形態に係る情報処理装置10Aは、ビデオ会議アプリを用いて他の端末装置から受信した映像を画像解析することにより当該映像から資料のコンテンツ領域(特定領域の一例)を検出し、表示部14の画面領域のうち検出されたコンテンツ領域をキャプチャしてもよい。
これにより、情報処理装置10Aは、ビデオ会議アプリのウィンドウWVとレビューアプリのウィンドウWRとの両方をユーザが見る状態ではウィンドウWRの表示サイズが小さくなるものの、そのウィンドウWRのウィンドウ領域全体に資料を表示することができるため、小さいウィンドウ領域を有効に使え、資料を見やすくすることができる。よって、情報処理装置10Aは、オンラインによるビデオ会議の利便性を向上させることができる。
なお、情報処理装置10Aは、キャプチャするコンテンツ領域をユーザの操作により指定できるようにしてもよい。これにより、情報処理装置10Aは、資料の内容によって画像解析ではコンテンツ領域を正しく検出できない場合に、ユーザが手動でコンテンツ領域を設定できるため、利便性がよい。
また、情報処理装置10Aは、キャプチャする度に、今回キャプチャしたキャプチャ画像ファイルの画像を以前にキャプチャしたキャプチャ画像ファイルの画像と比較して類似性を判定する。そして、情報処理装置10Aは、以前にキャプチャしたキャプチャ画像ファイルの画像との類似度が所定の閾値以上であると判定したキャプチャ画像ファイルの画像を、表示部14に表示させるレビュー対象(表示対象)から除外する。
これにより、情報処理装置10Aは、同一ページのキャプチャ画像が重複せず、1つのページに対して1つのキャプチャ画像のみがレビュー対象となるため、資料を見返す際のページ送りを楽にすることができる。よって、情報処理装置10Aは、オンラインによるビデオ会議の利便性を向上させることができる。
また、情報処理装置10Aは、キャプチャした一連のキャプチャ画像ファイルの画像のそれぞれを、キャプチャ順にページごとに割付けた一つのスライドファイル(データファイルの一例)として生成する。
これにより、情報処理装置10Aは、ビデオ会議で使用された資料を発表者から入手しなくても、キャプチャ画像から資料のスライドファイルを生成することができるため、利便性がよい。
例えば、情報処理装置10Aは、以前にキャプチャしたキャプチャ画像ファイルの画像との類似度が所定の閾値以上であると判定したキャプチャ画像ファイルを一連のキャプチャ画像ファイルから除いた残りのキャプチャ画像ファイルの画像を、キャプチャ順にページごとに割付けた一つのスライドファイルとして生成する。
これにより、情報処理装置10Aは、キャプチャ画像から資料のスライドファイルを生成する際に、同一ページが重複しないようにページが切り替わったときの画像を集めてスライドファイルを生成することができるため、利便性がよい。
また、情報処理装置10Aは、ビデオ会議アプリの実行中に、所定時間ごとのキャプチャを継続しながら、キャプチャ済みのキャプチャ画像ファイルの画像に基づいて一つのスライドファイルとして生成する。
これにより、情報処理装置10Aは、ビデオ会議の途中でも、それまでに表示された資料のページまでのスライドファイルを生成することができるため、利便性がよい。
なお、本実施形態では、キャプチャ部122Aが、ビデオ会議アプリの映像をキャプチャする際に、領域検出部123Aにより検出されたコンテンツ領域をキャプチャする例を説明したが、これに限られるものではない。例えば、キャプチャ部122Aは、コンテンツ領域をキャプチャするのではなく、表示部14の全画面領域、ビデオ会議アプリのウィンドウ領域、またはユーザにより指定された画面領域をキャプチャし、キャプチャしたキャプチャ画像ファイルに、領域検出部123Aにより検出されたコンテンツ領域を示す情報(例えば、コンテンツ領域を示す矩形情報)を関連付けて記憶部23に記憶してもよい。そして、類似性判定部124Aは、キャプチャ部122Aにより今回キャプチャされたキャプチャ画像と以前にキャプチャされたキャプチャ画像とのそれぞれからコンテンツ領域を切り出して比較し、類似性を判定してもよい。また、表示制御部125Aは、読み出したキャプチャ画像ファイルのキャプチャ画像からコンテンツ領域を切り出して図10に示すレビューアプリのウィンドウWRに表示させてもよい。また、ファイル生成部126Aは、キャプチャ部122Aによりキャプチャされた一連のキャプチャ画像のそれぞれから切り出されたコンテンツ領域を、キャプチャ順にページごとに割付けた一つのスライドファイル(データファイル)として生成してもよい。
また、キャプチャ部122Aは、静止画のキャプチャに加えて動画をキャプチャしてもよい。例えば、キャプチャ部122Aは、静止画のキャプチャ開始からキャプチャ終了までの期間に対応する期間、静止画のキャプチャとともに、動画をキャプチャしてもよい。また、キャプチャ部122Aは、動画のキャプチャ終了後に、キャプチャした動画から静止画(動画のフレーム画像)をキャプチャしてもよい。そして、ファイル生成部126Aは、動画のキャプチャ終了後に、キャプチャ部122Aにより動画からキャプチャされた静止画のキャプチャ画像に基づいてスライドファイル(データファイル)を生成してもよい。
以上、図面を参照してこの発明の実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。例えば、上記の各実施形態で説明した構成は、任意に組み合わせてもよい。
なお、上記実施形態では、所定時間ごとにキャプチャする例として、10秒ごとにキャプチャする例を説明したがこれに限定されるものではない。例えば、1秒ごとや1分ごとなどにキャプチャする構成としてもよい。また、このキャプチャするタイミングは、予め設定されていてもよいし、ユーザが任意に設定できるようにしてもよい。
また、情報処理装置10(10A)は、表示部14の画面領域をキャプチャする。そのため、上記実施形態では、キャプチャの対象(レビューアプリの対象)となるアプリケーションとしてビデオ会議アプリを例として説明したが、ビデオ会議アプリの種類は何ら限定されるものではない。また、ビデオ会議用途のアプリケーションに限定されるものではなく、ネットワークを介して他の端末装置と映像を含む通信が可能なアプリケーションに上記実施形態を適用することができる。つまり、キャプチャ対象は、表示部14に表示されるものであれば、あらゆるアプリケーション及びコンテンツとすることができる。
また、上述した情報処理装置10(10A)は、内部にコンピュータシステムを有している。そして、上述した情報処理装置10(10A)のそれぞれが備える各構成の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述した情報処理装置10(10A)のそれぞれが備える各構成における処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、インターネットやWAN、LAN、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、CD-ROM等の非一過性の記録媒体であってもよい。
また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部又は外部に設けられた記録媒体も含まれる。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後に情報処理装置10が備える各構成で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
また、上述した実施形態における情報処理装置10(10A)が備える各機能の一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現してもよい。各機能は個別にプロセッサ化してもよいし、一部、又は全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
また、上述した実施形態では、情報処理装置10(10A)がノートPCである例を説明したが、デスクトップ型やタブレット型のPCであってもよいし、スマートフォンやゲーム機、或いはビデオ会議専用の電子機器などであってもよい。また、撮像部27は、情報処理装置10に内蔵されたものに限らず、USB(Universal Serial Bus)等で接続される周辺機器であってもよい。また、表示部14は、情報処理装置10に内蔵されたものに限らず、HDMI(登録商標)またはUSB等で接続される周辺機器であってもよい。
10,10A 情報処理装置、101 第1筐体、102 第2筐体、103 ヒンジ機構、11 CPU、12 メインメモリ、13 ビデオサブシステム、14 表示部、21 チップセット、22 BIOSメモリ、23 記憶部、24 オーディオシステム、25 通信部、26 USBコネクタ、27 撮像部、31 エンベデッドコントローラ、32 キーボード、33 電源回路、34 バッテリ、35 センサ、110,110A 処理部、111 ビデオ会議処理部、121,121A レビュー処理部、122,122A キャプチャ部、123A 領域検出部、124A 類似性判定部、125,125A 表示制御部

Claims (13)

  1. ネットワークを介して他の情報処理装置から映像及び音声を送受信するアプリケーションを実行する情報処理装置であって、
    前記アプリケーションを用いて他の情報処理装置から受信した映像が表示される表示部の画面領域のうち前記映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイルとしてキャプチャするキャプチャ部と、
    前記アプリケーションの実行中に前記キャプチャ部による前記所定時間ごとのキャプチャを継続しながら、前記キャプチャ部によりキャプチャされた一連の静止画ファイルのうちの少なくとも一部の画像を前記表示部に表示させる表示制御部と、
    を備える情報処理装置。
  2. 前記表示制御部は、
    前記キャプチャ部によりキャプチャされた一連の静止画ファイルのそれぞれをキャプチャ順に対応して選択可能なユーザインタフェースを前記表示部に表示させるとともに、当該ユーザインタフェースに対する操作に応じて選択された静止画ファイルの画像を前記表示部に表示させる、
    請求項1に記載の情報処理装置。
  3. 前記キャプチャ部は、
    前記表示部の全画面領域をキャプチャする、
    請求項1または請求項2に記載の情報処理装置。
  4. 前記キャプチャ部は、
    前記表示部の画面領域のうち前記映像が表示される前記アプリケーションのウィンドウ領域をキャプチャする、
    請求項1または請求項2に記載の情報処理装置。
  5. 前記キャプチャ部は、
    前記表示部の画面領域のうち指定された一部の領域をキャプチャする、
    請求項1または請求項2に記載の情報処理装置。
  6. 前記映像を画像解析することにより前記映像から特定領域を検出する領域検出部をさらに備え、
    前記キャプチャ部は、
    前記表示部の画面領域のうち前記領域検出部により検出された特定領域をキャプチャする、
    請求項1または請求項2に記載の情報処理装置。
  7. 前記キャプチャ部によりキャプチャされる度に、今回キャプチャされた静止画ファイルの画像を以前にキャプチャされた静止画ファイルの画像と比較して類似性を判定する類似性判定部をさらに備え、
    前記表示制御部は、
    前記類似性判定部により以前にキャプチャされた静止画ファイルの画像との類似度が所定の閾値以上であると判定された静止画ファイルの画像を、前記表示部に表示させる表示対象から除外する、
    請求項1から請求項6のいずれか一項に記載の情報処理装置。
  8. 前記キャプチャ部によりキャプチャされた一連の静止画ファイルの画像のそれぞれを、キャプチャ順にページごとに割付けた一つのデータファイルとして生成するファイル生成部、
    をさらに備える請求項1から請求項6のいずれか一項に記載の情報処理装置。
  9. 前記キャプチャ部によりキャプチャされる度に、今回キャプチャされた静止画ファイルの画像を以前にキャプチャされた静止画ファイルの画像と比較して類似性を判定する類似性判定部をさらに備え、
    前記ファイル生成部は、
    前記類似性判定部により以前にキャプチャされた静止画ファイルの画像との類似度が所定の閾値以上であると判定された静止画ファイルを前記一連の静止画ファイルから除いた残りの静止画ファイルの画像を、キャプチャ順にページごとに割付けた一つのデータファイルとして生成する、
    請求項8に記載の情報処理装置。
  10. 前記ファイル生成部は、
    前記アプリケーションの実行中に前記キャプチャ部による所定時間ごとのキャプチャを継続しながら、前記キャプチャ部によりキャプチャ済みの静止画ファイルの画像に基づいて前記一つのデータファイルを生成する、
    請求項8または請求項9に記載の情報処理装置。
  11. 前記キャプチャ部は、
    前記アプリケーションがマイクロフォン又はスピーカを占有したことを検知した場合、前記キャプチャを開始する、
    請求項1から請求項10のいずれか一項に記載の情報処理装置。
  12. 前記キャプチャ部は、
    前記アプリケーションがマイクロフォン又はスピーカを開放したことを検知した場合、前記キャプチャを終了する、
    請求項11に記載の情報処理装置。
  13. ネットワークを介して他の情報処理装置から映像及び音声を送受信するアプリケーションを実行する情報処理装置における制御方法であって、
    キャプチャ部が、前記アプリケーションを用いて他の情報処理装置から受信した映像が表示される表示部の画面領域のうち前記映像の少なくとも一部が含まれる画面領域を、所定時間ごとに静止画ファイルとしてキャプチャするステップと、
    表示制御部が、前記アプリケーションの実行中に前記キャプチャ部による前記所定時間ごとのキャプチャを継続しながら、前記キャプチャ部によりキャプチャされた一連の静止画ファイルのうちの少なくとも一部の画像を前記表示部に表示させるステップと、
    を含む制御方法。
JP2021032466A 2021-03-02 2021-03-02 情報処理装置、及び制御方法 Active JP7082224B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021032466A JP7082224B1 (ja) 2021-03-02 2021-03-02 情報処理装置、及び制御方法
US17/590,968 US11675480B2 (en) 2021-03-02 2022-02-02 Information processing apparatus and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021032466A JP7082224B1 (ja) 2021-03-02 2021-03-02 情報処理装置、及び制御方法

Publications (2)

Publication Number Publication Date
JP7082224B1 true JP7082224B1 (ja) 2022-06-07
JP2022133662A JP2022133662A (ja) 2022-09-14

Family

ID=81926044

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021032466A Active JP7082224B1 (ja) 2021-03-02 2021-03-02 情報処理装置、及び制御方法

Country Status (2)

Country Link
US (1) US11675480B2 (ja)
JP (1) JP7082224B1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006148730A (ja) * 2004-11-24 2006-06-08 Hitachi Omron Terminal Solutions Corp 会議システム及び会議情報提供方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8744420B2 (en) * 2010-04-07 2014-06-03 Apple Inc. Establishing a video conference during a phone call
US20110268263A1 (en) * 2010-04-30 2011-11-03 American Teleconferencing Services Ltd. Conferencing alerts
US20150033140A1 (en) * 2013-07-23 2015-01-29 Salesforce.Com, Inc. Providing active screen sharing links in an information networking environment
JP7046546B2 (ja) 2017-09-28 2022-04-04 株式会社野村総合研究所 会議支援システムおよび会議支援プログラム
KR102629139B1 (ko) * 2018-09-21 2024-01-26 삼성전자주식회사 멀티미디어 콘텐트를 캡쳐하는 전자 장치 및 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006148730A (ja) * 2004-11-24 2006-06-08 Hitachi Omron Terminal Solutions Corp 会議システム及び会議情報提供方法

Also Published As

Publication number Publication date
JP2022133662A (ja) 2022-09-14
US20220283677A1 (en) 2022-09-08
US11675480B2 (en) 2023-06-13

Similar Documents

Publication Publication Date Title
CN108965922B (zh) 视频封面生成方法、装置和存储介质
CN109327608B (zh) 歌曲分享的方法、终端、服务器和系统
CN109346111B (zh) 数据处理方法、装置、终端及存储介质
CN110533585B (zh) 一种图像换脸的方法、装置、系统、设备和存储介质
KR102090948B1 (ko) 대화 기록 장치 및 그 방법
US10386931B2 (en) Toggling between presentation and non-presentation of representations of input
CN105871696B (zh) 一种信息发送、接收方法及移动终端
CN115378900A (zh) 歌单共享方法、装置、终端及存储介质
CN114245218A (zh) 音视频播放方法、装置、计算机设备及存储介质
JP7082224B1 (ja) 情報処理装置、及び制御方法
CN110134902B (zh) 资料信息生成方法、装置及存储介质
CN111986700A (zh) 无接触式操作触发的方法、装置、设备及存储介质
US20190045006A1 (en) Electronic distribution system and apparatus that displays a screen synchronized with a screen of another apparatus
EP4044583A1 (en) Information processing apparatus and control method
JP6236771B2 (ja) 通信装置、方法およびプログラム
JP2016092435A (ja) 電子機器、映像共有方法及びプログラム
CN110267114B (zh) 视频文件的播放方法、装置、终端及存储介质
JP6392051B2 (ja) 電子機器、方法およびプログラム
JP6773145B2 (ja) 電子黒板、通信システム、通信制御方法、及びプログラム
CN114698409A (zh) 视频会议实现方法、装置、系统以及存储介质
JP7288491B2 (ja) 情報処理装置、及び制御方法
US20240223853A1 (en) Information processing apparatus and control method
CN110888710A (zh) 添加字幕的方法、装置、计算机设备以及存储介质
JP2020140427A (ja) 情報処理装置
JP2020137095A (ja) 会議システム、電子機器、及び接続方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220526

R150 Certificate of patent or registration of utility model

Ref document number: 7082224

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350