JP6809323B2 - 情報処理装置、情報処理システムおよび情報処理方法 - Google Patents

情報処理装置、情報処理システムおよび情報処理方法 Download PDF

Info

Publication number
JP6809323B2
JP6809323B2 JP2017055000A JP2017055000A JP6809323B2 JP 6809323 B2 JP6809323 B2 JP 6809323B2 JP 2017055000 A JP2017055000 A JP 2017055000A JP 2017055000 A JP2017055000 A JP 2017055000A JP 6809323 B2 JP6809323 B2 JP 6809323B2
Authority
JP
Japan
Prior art keywords
content
transfer
information
user
frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017055000A
Other languages
English (en)
Other versions
JP2018156599A (ja
Inventor
宏太 板倉
宏太 板倉
淳一 由良
淳一 由良
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2017055000A priority Critical patent/JP6809323B2/ja
Priority to PCT/JP2018/006033 priority patent/WO2018173596A1/ja
Priority to EP18770532.2A priority patent/EP3605344A4/en
Publication of JP2018156599A publication Critical patent/JP2018156599A/ja
Priority to US16/575,335 priority patent/US10866777B2/en
Application granted granted Critical
Publication of JP6809323B2 publication Critical patent/JP6809323B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1415Digital output to display device ; Cooperation and interconnection of the display device with other functional units with means for detecting differences between the image stored in the host and the images displayed on the displays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1438Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display using more than one graphics controller
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1446Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display display composed of modules, e.g. video walls
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Information Transfer Between Computers (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、情報処理装置、情報処理システムおよび情報処理方法に関する。
会議室の机や壁にコンテンツを投影し協調作業を支援する技術(部屋全体をまるごとデジタル化するUI技術)が提案されている(プレスリリース:http://pr.fujitsu.com/jp/news/2015/07/27.html)。図1は上記の技術の活用例を示しており、机の上には個人ワーク用ノートアプリのコンテンツC1やデジタル付箋紙のコンテンツC2が表示(投影)され、壁にはデジタルヒントカードのコンテンツC3や模造紙アプリのコンテンツC4が表示されている。デジタル付箋紙のコンテンツC2やデジタルヒントカードのコンテンツC3等は、ユーザの指によるスワイプ操作等により異なるディスプレイの画面間で移動可能であり、協調作業の過程において、関連するテーマの領域に配置されたり、要検討の領域に配置されたりする。
図2は上記の技術の概略構成例を示しており、例えば、2台の情報処理装置1A、1Bが会議室等のローカル環境内に設けられる場合について示している。各情報処理装置1A、1Bは、コンテンツ/配置情報11A、11Bと、ウインドウシステム12A、12Bと、ディスプレイ13A、13Bとを有しており、情報処理装置1A、1Bの画面の領域は、互いに接続関係が設定されている。図示の例では、ディスプレイ13Aによる画面の右端がディスプレイ13Bによる画面の左端と接続されている。各情報処理装置1A、1Bは、コンテンツ/配置情報11A、11Bを共有することで、自己の担当する画面内のコンテンツを描画し(両画面にコンテンツが跨る場合は情報処理装置1A、1Bの両方が担当)、繋がった画面の表示を実現している。
一方、複数のディスプレイが複数台並べられたパネルシステムにおいて、複数のディスプレイを跨る描画物の表示の遅延を防止するパネルシステムが開示されている(特許文献1を参照)。
特開2015−56172号公報
図1および図2はローカル環境内で複数のディスプレイによる画面が繋げられている場合について示していたが、遠隔地間の複数のディスプレイによる画面についても、ネットワークを介したコンテンツ/配置情報の共有により利用されることが想定される。図3は想定される利用シーンを示しており、互いに隔たった場所の会議室A、Bのそれぞれにおいて、壁に表示されたテレビ会議画面により相手方の会議室が確認可能とされる。また、それぞれの会議室の机の上の画面の端部が相手方の机の上の画面の端部と繋げられ、コンテンツの移動が可能となっている。
図4は上記の想定されるケースにおける概略構成例を示している。図4において、2台の情報処理装置1A、1Bはそれぞれ遠隔の会議室A、Bに設けられ、各情報処理装置1A、1Bは、コンテンツ/配置情報11A、11Bと、ウインドウシステム12A、12Bと、ディスプレイ13A、13Bとを有している。情報処理装置1Aのコンテンツ/配置情報11Aと情報処理装置1Bのコンテンツ/配置情報11Bは、インターネット等のネットワーク2を介して共有されるようになっている。
ここで、それぞれの会議室で発生する全てのコンテンツとその位置情報の共有のためには、処理や通信に時間がかかり、現実的ではない。また、コンテンツの位置が相手側に移ったときのみ情報が転送されるような手法も考えられるが、その場合は情報が転送されるまで表示が待たされることになり、操作性が低下してしまう。なお、遠隔地間に限らず、近距離であっても、通信環境が十分でない場合は、同様の問題が発生し得る。
そこで、一側面では、複数の装置の管理下にある複数の画面が一つの論理的な画面を構成する場合におけるコンテンツの移動の操作性を向上させることを目的とする。
一つの形態では、自装置の記憶部に保持された、表示可能コンテンツ情に含まれるコンテンツの表示を行う表示部と、自装置で表示されているコンテンツごとに、記憶部に保持されたコンテンツ配置情報とディスプレイ構成情報とを参照して、ユーザの顔または視線の動きの大きさ、転送先の画面を見る頻度、過去に転送操作を行った頻度のいずれかまたは組み合わせにより算出される転送傾向と、ユーザとコンテンツの距離、ユーザとコンテンツの向きの一致度、ユーザに見られている頻度のいずれかまたは組み合わせにより算出される転送傾向と、コンテンツの位置、コンテンツの内容、コンテンツに内容が入力される頻度のいずれかまたは組み合わせにより算出される転送傾向と、を用いて、自装置から、前記自装置とネットワークを介して前記表示可能コンテンツ情報を共有する他装置に転送される可能性を、判定する判定部と、前記判定部により転送される可能性があると判定された場合に、判定されたコンテンツと対応する表示可能コンテンツ情報を転送先の装置に転送する転送部と、を備える。

複数の装置の管理下にある複数の画面が一つの論理的な画面を構成する場合におけるコンテンツの移動の操作性を向上させることができる。
部屋全体をまるごとデジタル化するUI技術の活用例を示す図である。 UI技術の概略構成例を示す図である。 遠隔地間の画面の接続において想定される利用シーンを示す図である。 UI技術の概略構成例を示す図である。 一実施形態にかかるシステムの構成例を示す図である。 情報処理装置の機能構成例を示す図である。 コンテンツ情報のデータ構造例を示す図である。 コンテンツ内部状態情報のデータ構造例を示す図である。 コンテンツ入力履歴情報のデータ構造例を示す図である。 コンテンツ配置情報のデータ構造例を示す図である。 ディスプレイ構成情報のデータ構造例を示す図である。 機器物理配置構成情報のデータ構造例を示す図である。 転送状況情報のデータ構造例を示す図である。 転送履歴情報のデータ構造例を示す図である。 情報処理装置のハードウェア構成例を示す図である。 コンテンツ転送判定部の処理例を示すフローチャートである。 コンテンツ転送傾向計算の処理例を示すフローチャートである。 ユーザとコンテンツを用いたコンテンツ転送傾向計算の処理例を示すフローチャートである。 コンテンツを用いたコンテンツ転送傾向計算の処理例を示すフローチャートである。
以下、本発明の好適な実施形態が図面に沿って説明される。
<構成>
図5は一実施形態にかかるシステムの構成例を示す図である。図5において、互いに隔たった会議室等には、画面入出力(画面への操作入力と画面表示)の機能を有するとともにユーザを撮影する機能を有する情報処理装置1A、1Bと、テレビ会議装置3A、3Bとが設置されている。そして、情報処理装置1A、1Bとテレビ会議装置3A、3Bのそれぞれはインターネット等のネットワーク2を介して互いに通信可能に接続されている。なお、2台の情報処理装置1A、1Bについて図示されているが、3台以上の情報処理装置が接続されるものであってもよい。また、テレビ会議装置3A、3Bは、情報処理装置1A、1Bの一つの機能として情報処理装置1A、1Bに内蔵されるものでもよい。
図6は情報処理装置1(1A、1B)の機能構成例を示す図である。図6において、情報処理装置1は、コンテンツ情報101とコンテンツ実行部102とコンテンツ内部状態情報103とコンテンツ入力履歴情報104とを備えている。また、情報処理装置1は、座標管理部105とコンテンツ配置情報106とディスプレイ構成情報107と画面出力部108と画面入力部109とを備えている。
また、情報処理装置1は、共有情報送受信部112と機器物理配置構成情報113と映像入力部114とコンテンツ配置検出部115とユーザ物理位置・動作検出部116とコンテンツ類似度計算部117とを備えている。また、情報処理装置1は、コンテンツ転送判定部118と転送状況情報119と転送履歴情報120とを備えている。
コンテンツ情報101は、例えば、図7に示されるように、自装置において即座に表示が可能なコンテンツについての表示可能コンテンツ情報と、コンテンツ転送傾向を計算するための参照コンテンツ情報とを含んでいる。表示可能コンテンツ情報には、他装置から転送されてきたコンテンツの情報も含まれる。もともと自装置にあったコンテンツについては、他装置に転送されても表示可能コンテンツ情報に残されるものとする。参考コンテンツ情報は、コンテンツ転送傾向を計算するために用いられるものであり、自装置で保持していない他装置で保持されるコンテンツの情報の一部である。
表示可能コンテンツ情報は、「コンテンツID」「タグ、メタ情報」「コンテンツ実体保存位置」「画面UI」「動作スクリプト」等の項目を有している。「コンテンツID」は、コンテンツを識別する情報である。「タグ、メタ情報」は、コンテンツの特徴を端的に表す情報であり、コンテンツの種類等(例:「image/png」(png形式の画像))である。「コンテンツ実体保存位置」は、画像やテキスト等のコンテンツの実体が保存されているURI(Uniform Resource Identifier)やファイルパスである(例:「./contents/resouce1.jpg」)。「画面UI」は、コンテンツ自体が有するユーザインタフェースであり、html(HyperText Markup Language)やcss(Cascading Style Sheets)等により記述される。「動作スクリプト」は、「画面UI」の中で使用されるものであり、Javascript等により記述される。参考コンテンツ情報は、「コンテンツID」「タグ、メタ情報」等の項目を有しており、コンテンツの実体や画面UI等の情報は含まれていない。
図6に戻り、コンテンツ実行部102は、コンテンツ情報101に保持されている表示可能コンテンツ情報のうち表示対象となるコンテンツを実行し、コンテンツの画面の生成を行う機能を有している。コンテンツ実行部102は、例えば、ブラウザの機能を有しており、html等により記述された画面UI(図7)を実行することによりコンテンツの画面を生成する。また、コンテンツ実行部102は、コンテンツの実行によるコンテンツの状態をコンテンツ内部状態情報103に記録し、コンテンツに対するユーザによる入力履歴をコンテンツ入力履歴情報104に記録する。コンテンツ内部状態情報103は、図8に示されるように、「コンテンツID」「データ内容」等の項目を有している。「データ内容」は、例えば、key-value形式で記録される。なお、コンテンツ内部状態情報103はコンテンツ情報101の一部として保持されるようにしてもよい。
コンテンツ入力履歴情報104は、例えば、図9に示されるように、「日時」「ユーザID」「コンテンツID」「入力内容」等の項目を有している。「日時」は、入力操作が行われた日時の情報である。「ユーザID」は、入力操作を行ったユーザを識別する情報である。「コンテンツID」は、入力操作の対象となったコンテンツを識別する情報である。「入力内容」は、入力された内容あるいは概要の情報である。
図6に戻り、座標管理部105は、コンテンツ実行部102によって生成されたコンテンツの画面を表示するディスプレイ上の座標を、初期位置およびその後のユーザの移動操作に応じて管理し、コンテンツの座標をコンテンツ配置情報106に保持する機能を有している。この際、ディスプレイの境界を越える移動はディスプレイ構成情報107が参照されることで把握される。コンテンツ配置情報106は、例えば、図10に示されるように、ディスプレイごとに、「ウインドウID」「コンテンツID」「x」「y」「幅」「高さ」「回転量」等の項目を有している。「ウインドウID」は、コンテンツが表示されるウインドウを識別する情報である。「コンテンツID」は、ウインドウに表示されるコンテンツを識別する情報である。「x」「y」は、ウインドウの代表点(例えば、左上角点)のx座標、y座標である。「幅」は、ウインドウの幅方向のサイズである。「高さ」は、ウインドウの高さ方向のサイズである。「回転量」は、ウインドウに加えられた回転角度である。なお、図10において具体的に示された値は、図11(b)のようにウインドウが配置されている場合に対応している。
ディスプレイ構成情報107は、例えば、図11(a)に示されるように、「ディスプレイID」「幅」「高さ」「x」「y」等の項目を有している。「ディスプレイID」は、ディスプレイを識別する情報である。「幅」は、ディスプレイの幅方向のサイズである。「高さ」は、ディスプレイの高さ方向のサイズである。「x」「y」は、ディスプレイの代表点(例えば、左上角点)のx座標、y座標である。なお、1つの情報処理装置に複数のディスプレイが含まれることが許容される場合には、ディスプレイが属する情報処理装置を識別する「装置ID」が追加される。また、図11(a)において具体的に示された値は、図11(b)のようにディスプレイが配置されている場合に対応している。
図6に戻り、画面出力部108は、コンテンツ実行部102によって生成されたコンテンツを、座標管理部105により管理される座標等に表示する機能を有している。
画面入力部109は、ユーザによる画面への操作を入力する機能を有している。ユーザの操作は指やペンによる他、キーボードやマウス等によっても行われる。
共有情報送受信部112は、他の情報処理装置の共有情報送受信部との間でコンテンツの情報の送受信を行う機能を有している。転送する側となる場合、共有情報送受信部112はコンテンツ情報101とコンテンツ配置情報106から該当するコンテンツの情報を、転送先の情報処理装置に転送する。転送される側となる場合、共有情報送受信部112は受信したコンテンツの情報をコンテンツ情報101とコンテンツ配置情報106に保持する。
機器物理配置構成情報113は、例えば、図12(a)に示されるように、「機器ID」「位置」「向き」「他」等の項目を有している。「機器ID」は、ディスプレイやカメラ等の機器を識別する情報である。「位置」は、機器の代表点の物理的な3次元位置を示す情報である。「向き」は、機器の物理的な3次元上の向きを示す情報である。「他」は、機器の幅、高さ、回転等を示す情報である。なお、図12(a)において具体的に示された値は、図12(b)のようにディスプレイやカメラが配置されている場合に対応している。
図6に戻り、映像入力部114は、ユーザを撮影するカメラから映像を入力する機能を有している。
コンテンツ配置検出部115は、コンテンツ配置情報106、ディスプレイ構成情報107、機器物理配置構成情報113と、映像入力部114によるカメラ映像とから、コンテンツとユーザの距離、向き等のコンテンツの配置を検出する機能を有している。また、コンテンツ配置検出部115は、コンテンツ転送判定部118に対してコンテンツ配置情報106とディスプレイ構成情報107の情報も伝える。
ユーザ物理位置・動作検出部116は、機器物理配置構成情報113と映像入力部114による入力映像とから、人物全体や頭部のトラッキング技術等を用いて、カメラ映像からユーザの位置や視線方向を検出する機能を有している。
コンテンツ類似度計算部117は、自装置において表示対象となっているコンテンツと他の情報処理装置上のコンテンツ(当初から他装置にあるものと、自装置から転送済のもの)との類似度をコンテンツ情報101のタグ・メタ情報等を参照して計算する機能を有している。
コンテンツ転送判定部118は、自装置内で取得可能な各種の情報に基づき、コンテンツごとに自装置から他装置に転送される可能性を示すコンテンツ転送傾向を計算し、そのコンテンツ転送傾向に基づいて事前に転送すべきか否かを判定する機能を有している。また、コンテンツ転送判定部118は、ユーザの操作によって実際に移動されたコンテンツの情報を転送する機能も有している。コンテンツ転送判定部118は、転送すべきと判定した場合、共有情報送受信部112にコンテンツの転送を要求し、転送状況を転送状況情報119に記録し、転送履歴を転送履歴情報120に記録する。転送状況情報119には、例えば、図13に示されるように、ディスプレイごとに、コンテンツIDと他のディスプレイとの組み合わせに対して、未転送・転送済の転送状況が記録される。
転送履歴情報120は、図14に示されるように、「日時」「ユーザID」「コンテンツID」「転送先装置ID」等の項目を有している。「日時」は、転送が行われた日時を示す情報である。「ユーザID」は、転送の原因となったコンテンツ移動操作を行ったユーザを識別する情報である。「コンテンツID」は、転送されたコンテンツを識別する情報である。「転送先装置ID」は、転送先の情報処理装置を識別する情報である。
図6に戻り、コンテンツ転送判定部118は、例えば、次のような観点ごとの転送傾向を計算し、個々の転送傾向からコンテンツごとのコンテンツ転送傾向を計算し、所定の閾値を超える場合に転送すべきと判定する。
・ユーザとコンテンツによる転送傾向
・ユーザ動作による転送傾向
・顔や視線の動きの大きさ(大きく動くほど転送の準備がされていて転送傾向が高い)
・テレビ会議の相手方の画面を見る頻度(よく見るほど転送傾向が高い)
・過去に転送操作を行っている頻度(転送動作は特定のユーザに偏る)
・ユーザとコンテンツの相対関係による転送傾向
・ユーザとコンテンツの距離(ユーザに近いコンテンツほど転送されすい)
・ユーザとコンテンツの向きの一致度(向きが一致すると転送されやすい)
・ユーザに見られている頻度(見られているコンテンツは転送されやすい)
・コンテンツによる転送傾向
・コンテンツの位置による転送傾向
・コンテンツと画面接続辺との距離(接続辺に近いコンテンツは転送されやすい)
・コンテンツの内容による転送傾向
・転送されている他のコンテンツとの類似度(転送されているコンテンツに類似するものは転送されやすい)
・転送先の他のコンテンツとの類似度(転送先のコンテンツと類似するものは情報共有のため転送されやすい)
・内容が入力される頻度(入力される頻度が高いコンテンツは転送されやすい)
図15は情報処理装置1(1A、1B)のハードウェア構成例を示す図である。図15において、情報処理装置1は、バス1007を介して相互に接続されたCPU(Central Processing Unit)1001、ROM(Read Only Memory)1002、RAM(Random Access Memory)1003、HDD(Hard Disk Drive)/SSD(Solid State Drive)1004を備えている。また、情報処理装置1は、接続I/F(Interface)1005、通信I/F1006、接続I/F1005に接続されたディスプレイ1008、ポインティングデバイス1009およびカメラ1010を備えている。ディスプレイ1008、ポインティングデバイス1009、カメラ1010は、装置と一体型でもよいし外付型でもよい。また、ディスプレイ1008は複数でもよい。
CPU1001は、RAM1003をワークエリアとしてROM1002またはHDD/SSD1004等に格納されたプログラムを実行することで、情報処理装置1の動作を統括的に制御する。図6で説明された情報処理装置1の機能は、CPU1001において所定のプログラムが実行されることで実現される。プログラムは、記録媒体を経由して取得されるものでもよいし、ネットワークを経由して取得されるものでもよいし、ROM組込でもよい。
<動作>
図16はコンテンツ転送判定部118の処理例を示すフローチャートである。図16において、コンテンツ転送判定部118は、転送先の装置毎および表示中のコンテンツ毎に、以下のループ処理を行う(ステップS1〜S11)。
ループ処理において、コンテンツ転送判定部118は、コンテンツ転送傾向を計算する(ステップS2)。処理の詳細については後述する。
次いで、コンテンツ転送判定部118は、転送状況情報119を参照して、コンテンツの転送状況を取得する(ステップS3)。
そして、コンテンツ転送判定部118は、既にコンテンツが転送済であるか否か判断し(ステップS4)、転送済でないと判断した場合(ステップS4のNO)、コンテンツが転送先の領域に一部重なるか否か判断する(ステップS5)。
コンテンツ転送判定部118は、コンテンツが転送先の領域に一部重ならないと判断した場合(ステップS5のNO)、先に計算されているコンテンツ転送傾向が所定の転送閾値を上回るか否か判断する(ステップS6)。
そして、コンテンツ転送判定部118は、
・コンテンツが転送先の領域に一部重なると判断した場合(ステップS5のYES)
・コンテンツ転送傾向が所定の転送閾値を上回ると判断した場合(ステップS6のYES)
に、共有情報送受信部112により該当するコンテンツの情報を送信(転送)させる(ステップS7)。コンテンツが転送先の領域に一部重なると判断されて転送が行われた場合は、実際にコンテンツが装置(ディスプレイ)を超えて移動されつつあるため、コンテンツの情報を受信した転送先の装置は、転送されたコンテンツを即座に表示することになる。
また、コンテンツ転送判定部118は、既にコンテンツが転送済であると判断した場合(ステップS4のYES)、コンテンツ転送傾向が所定の削除閾値を下回るか否か判断する(ステップS8)。すなわち、実際には移動されていない時点で転送が行われたコンテンツについて、その後も転送の状態を維持すべきか否か判断する。
コンテンツ転送判定部118は、コンテンツ転送傾向が所定の削除閾値を下回ると判断した場合(ステップS8のYES)、共有情報送受信部112により転送先の装置にコンテンツ削除要求を送信させる(ステップS9)。コンテンツ削除要求を受信した装置は、該当するコンテンツの情報を削除する。
コンテンツ転送判定部118は、コンテンツの送信(ステップS7)の後またはコンテンツ削除要求の送信(ステップS9)の後、転送状況情報119を更新する(ステップS10)。
コンテンツ転送判定部118は、
・コンテンツ転送傾向が所定の転送閾値を上回わらないと判断した場合(ステップS6のNO)
・コンテンツ転送傾向が所定の削除閾値を下回らないと判断した場合(ステップS8のNO)
・転送状況情報119の更新(ステップS10)の後
に、次のループ処理の判断を行う(ステップS11)。すなわち、全ての転送先の装置および全ての表示中のコンテンツについて計算完了していない場合はループ処理を繰り返し、計算完了した場合は処理を終了する。
図17はコンテンツ転送傾向計算(図16のステップS2)の処理例を示すフローチャートである。図17において、コンテンツ転送判定部118は、ユーザとコンテンツを用いたコンテンツ転送傾向を計算する(ステップS21)。処理の詳細については後述する。
次いで、コンテンツ転送判定部118は、コンテンツを用いたコンテンツ転送傾向を計算する(ステップS22)。処理の詳細については後述する。
次いで、コンテンツ転送判定部118は、それぞれで計算したコンテンツ転送傾向を掛け合わせ(乗算して)、総合的なコンテンツ転送傾向とし(ステップS23)、処理を終了する。
なお、総合的なコンテンツ転送傾向は、掛け合わせ(乗算)られる場合だけではなく、足し合わせ(加算)られることで求められるようにしてもよい。また、値が規格化されるようにしてもよい。
図18はユーザとコンテンツを用いたコンテンツ転送傾向計算(図17のステップS21)の処理例を示すフローチャートである。なお、前述したユーザとコンテンツによる転送傾向のうちの一部の観点が用いられている。
図18において、コンテンツ転送判定部118は、コンテンツ配置検出部115から取得したコンテンツ配置情報と機器物理配置情報とを用いて、射影変換することで、コンテンツの物理位置を計算する(ステップS2101)。
次いで、コンテンツ転送判定部118は、ユーザ物理位置・動作検出部116からユーザの位置や視線方向を取得する(ステップS2102)。
次いで、コンテンツ転送判定部118は、全てのコンテンツのコンテンツ転送傾向を初期化する(ステップS2103)。
次いで、コンテンツ転送判定部118は、各ユーザについて、以下のループ処理を行う(ステップS2104〜S2111)。
ループ処理において、コンテンツ転送判定部118は、ユーザが何を見ているかをユーザの視線とディスプレイの交点から計算する(ステップS2105)。
次いで、コンテンツ転送判定部118は、ユーザの転送動作の傾向として、転送履歴情報120を参照し、そのユーザが一定期間内に転送動作(転送操作)をした回数を計算し、転送傾向とする(ステップS2106)。
次いで、コンテンツ転送判定部118は、ユーザの視線の動きの傾向として、そのユーザが一定時間内に転送先の画面(テレビ会議の相手方の画面)を見た回数を計算し、転送傾向とする(ステップS2107)。
次いで、コンテンツ転送判定部118は、コンテンツの位置による傾向として、コンテンツの物理位置とユーザの位置の距離を計算し、転送傾向とする(ステップS2108)。
次いで、コンテンツ転送判定部118は、コンテンツの向きによる傾向として、コンテンツの物理方向とユーザの向きの一致度を計算し、転送傾向とする(ステップS2109)。
次いで、コンテンツ転送判定部118は、コンテンツそれぞれについて、そのユーザの転送傾向とそのユーザに対するコンテンツの転送傾向を掛け合わせ、コンテンツのコンテンツ転送傾向候補とする(ステップS2110)。
次いで、コンテンツ転送判定部118は、全てのユーザに対しコンテンツ転送傾向候補の計算を行っていない場合は次の対象についてループ処理を繰り返し、計算を完了した場合はループ処理を終了する(ステップS2111)。
ループ処理が終了された場合、コンテンツ転送判定部118は、コンテンツそれぞれについて、ユーザのコンテンツ転送傾向候補のうち一番高いものをコンテンツのコンテンツ転送傾向とする(ステップS2112)。
なお、コンテンツ転送傾向候補は、掛け合わせ(乗算)られる場合だけではなく、足し合わせ(加算)られることで求められるようにしてもよい。また、値が規格化されるようにしてもよい。
図19はコンテンツを用いたコンテンツ転送傾向計算(図17のステップS22)の処理例を示すフローチャートである。なお、前述したコンテンツによる転送傾向のうちの一部の観点が用いられている。
図19において、コンテンツ転送判定部118は、各コンテンツについて、以下のループ処理を行う(ステップS221〜S226)。
ループ処理において、コンテンツ転送判定部118は、被操作による傾向として、一定時間内のコンテンツへの入力頻度を計算し、転送傾向とする(ステップS222)。
次いで、コンテンツ転送判定部118は、接触面距離による傾向として、ディスプレイの接続面との距離を計算し、転送傾向とする(ステップS223)。
次いで、コンテンツ転送判定部118は、転送先との類似度による傾向として、コンテンツ類似度計算部117から、既に転送済のコンテンツとの類似度を取得し、転送傾向とする(ステップS224)。
次いで、コンテンツ転送判定部118は、各方式により算出した転送傾向を掛け合わせ、コンテンツのコンテンツ転送傾向とする(ステップS225)。
なお、コンテンツ転送傾向は、掛け合わせ(乗算)られる場合だけではなく、足し合わせ(加算)られることで求められるようにしてもよい。また、値が規格化されるようにしてもよい。
次いで、コンテンツ転送判定部118は、全てのコンテンツに対しコンテンツ転送傾向の計算を行っていない場合は次の対象についてループ処理を繰り返し、計算を完了した場合はループ処理を終了し(ステップS226)、コンテンツを用いた転送傾向計算の処理を終了する。
<変形例>
図5および図6では対等な関係にある複数の情報処理装置1(1A、1B)が接続される場合について示されていたが、情報処理装置1の他にクラウド等の共通のサーバが設けられるものであってもよい。この場合、サーバにおいてコンテンツ転送傾向が計算され、転送の可能性があると判定されたコンテンツが予め転送先の情報処理装置に転送されることになる。
<総括>
以上説明したように、本実施形態によれば、複数の装置の管理下にある複数の画面が一つの論理的な画面を構成する場合におけるコンテンツの移動の操作性を向上させることができる。すなわち、ユーザに操作されてからコンテンツの転送が行われるだけではなく、転送される可能性が高いコンテンツが推定され、予め転送が行われることで、転送時の待ち時間が削減され、操作性が向上する。
以上、好適な実施の形態により説明した。ここでは特定の具体例を示して説明したが、特許請求の範囲に定義された広範な趣旨および範囲から逸脱することなく、これら具体例に様々な修正および変更を加えることができることは明らかである。すなわち、具体例の詳細および添付の図面により限定されるものと解釈してはならない。
以上の説明に関し、更に以下の項を開示する。
(付記1)
自装置の記憶部に保持されたコンテンツの情報に基づいてコンテンツの表示を行う表示部と、
自装置で表示されているコンテンツごとに、記憶部に保持された情報を参照して、自装置から他装置に転送される可能性を判定する判定部と、
前記判定部により転送される可能性があると判定された場合に、コンテンツの情報を転送先の装置に転送する転送部と、
を備えたことを特徴とする情報処理装置。
(付記2)
前記判定部は、ユーザ動作に基づく転送傾向と、ユーザとコンテンツの相対関係に基づく転送傾向と、コンテンツに基づく転送傾向とから、コンテンツごとに自装置から他装置に転送される可能性を判定する、
ことを特徴とする付記1に記載の情報処理装置。
(付記3)
前記ユーザ動作に基づく転送傾向は、ユーザの顔または視線の動きの大きさ、転送先の画面を見る頻度、過去に転送操作を行った頻度のいずれかまたは組み合わせにより算出され、
前記ユーザとコンテンツの相対関係に基づく転送傾向は、ユーザとコンテンツの距離、ユーザとコンテンツの向きの一致度、ユーザに見られている頻度のいずれかまたは組み合わせにより算出され、
前記コンテンツに基づく転送傾向は、コンテンツの位置、コンテンツの内容、コンテンツに内容が入力される頻度のいずれかまたは組み合わせにより算出される、
ことを特徴とする付記2に記載の情報処理装置。
(付記4)
前記転送部は、前記判定部により転送される可能性がなくなったと判定された転送済のコンテンツについて、コンテンツの情報の削除要請を送信する、
ことを特徴とする付記1に記載の情報処理装置。
(付記5)
自装置の記憶部に保持されたコンテンツの情報に基づいてコンテンツの表示を行う表示部と、
自装置で表示されているコンテンツごとに、記憶部に保持された情報を参照して、自装置から他装置に転送される可能性を判定する判定部と、
前記判定部により転送される可能性があると判定された場合に、コンテンツの情報を転送先の装置に転送する転送部と、
を備えたことを特徴とする情報処理システム。
(付記6)
前記判定部は、ユーザ動作に基づく転送傾向と、ユーザとコンテンツの相対関係に基づく転送傾向と、コンテンツに基づく転送傾向とから、コンテンツごとに自装置から他装置に転送される可能性を判定する、
ことを特徴とする付記5に記載の情報処理システム。
(付記7)
前記ユーザ動作に基づく転送傾向は、ユーザの顔または視線の動きの大きさ、転送先の画面を見る頻度、過去に転送操作を行った頻度のいずれかまたは組み合わせにより算出され、
前記ユーザとコンテンツの相対関係に基づく転送傾向は、ユーザとコンテンツの距離、ユーザとコンテンツの向きの一致度、ユーザに見られている頻度のいずれかまたは組み合わせにより算出され、
前記コンテンツに基づく転送傾向は、コンテンツの位置、コンテンツの内容、コンテンツに内容が入力される頻度のいずれかまたは組み合わせにより算出される、
ことを特徴とする付記6に記載の情報処理システム。
(付記8)
前記転送部は、前記判定部により転送される可能性がなくなったと判定された転送済のコンテンツについて、コンテンツの情報の削除要請を送信する、
ことを特徴とする付記5に記載の情報処理システム。
(付記9)
自装置の記憶部に保持されたコンテンツの情報に基づいてコンテンツの表示を行い、
自装置で表示されているコンテンツごとに、記憶部に保持された情報を参照して、自装置から他装置に転送される可能性を判定し、
前記判定する処理により転送される可能性があると判定された場合に、コンテンツの情報を転送先の装置に転送する、
処理をコンピュータが実行することを特徴とする情報処理方法。
(付記10)
前記判定する処理は、ユーザ動作に基づく転送傾向と、ユーザとコンテンツの相対関係に基づく転送傾向と、コンテンツに基づく転送傾向とから、コンテンツごとに自装置から他装置に転送される可能性を判定する、
ことを特徴とする付記9に記載の情報処理方法。
(付記11)
前記ユーザ動作に基づく転送傾向は、ユーザの顔または視線の動きの大きさ、転送先の画面を見る頻度、過去に転送操作を行った頻度のいずれかまたは組み合わせにより算出され、
前記ユーザとコンテンツの相対関係に基づく転送傾向は、ユーザとコンテンツの距離、ユーザとコンテンツの向きの一致度、ユーザに見られている頻度のいずれかまたは組み合わせにより算出され、
前記コンテンツに基づく転送傾向は、コンテンツの位置、コンテンツの内容、コンテンツに内容が入力される頻度のいずれかまたは組み合わせにより算出される、
ことを特徴とする付記10に記載の情報処理方法。
(付記12)
前記転送する処理は、前記判定部により転送される可能性がなくなったと判定された転送済のコンテンツについて、コンテンツの情報の削除要請を送信する、
ことを特徴とする付記9に記載の情報処理方法。
画面出力部108は「表示部」の一例である。コンテンツ転送判定部118は「判定部」の一例である。共有情報送受信部112は「転送部」の一例である。
1、1A、1B 情報処理装置
101 コンテンツ情報
102 コンテンツ実行部
103 コンテンツ内部状態情報
104 コンテンツ入力履歴情報
105 座標管理部
106 コンテンツ配置情報
107 ディスプレイ構成情報
108 画面出力部
109 画面入力部
112 共有情報送受信部
113 機器物理配置構成情報
114 映像入力部
115 コンテンツ配置検出部
116 ユーザ物理位置・動作検出部
117 コンテンツ類似度計算部
118 コンテンツ転送判定部
119 転送状況情報
120 転送履歴情報
2 ネットワーク
3、3A、3B テレビ会議装置

Claims (4)

  1. 自装置の記憶部に保持された、表示可能コンテンツ情に含まれるコンテンツの表示を行う表示部と、
    自装置で表示されているコンテンツごとに、記憶部に保持されたコンテンツ配置情報とディスプレイ構成情報とを参照して、ユーザの顔または視線の動きの大きさ、転送先の画面を見る頻度、過去に転送操作を行った頻度のいずれかまたは組み合わせにより算出される転送傾向と、ユーザとコンテンツの距離、ユーザとコンテンツの向きの一致度、ユーザに見られている頻度のいずれかまたは組み合わせにより算出される転送傾向と、コンテンツの位置、コンテンツの内容、コンテンツに内容が入力される頻度のいずれかまたは組み合わせにより算出される転送傾向と、を用いて、自装置から、前記自装置とネットワークを介して前記表示可能コンテンツ情報を共有する他装置に転送される可能性を、判定する判定部と、
    前記判定部により転送される可能性があると判定された場合に、判定されたコンテンツと対応する表示可能コンテンツ情報を転送先の装置に転送する転送部と、
    を備えたことを特徴とする情報処理装置。
  2. 前記転送部は、前記判定部により転送される可能性がなくなったと判定された転送済の表示可能コンテンツ情報について、削除要請を送信する、
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 自装置の記憶部に保持された、表示可能コンテンツ情に含まれるコンテンツの表示を行う表示部と、
    自装置で表示されているコンテンツごとに、記憶部に保持されたコンテンツ配置情報とディスプレイ構成情報とを参照して、ユーザの顔または視線の動きの大きさ、転送先の画面を見る頻度、過去に転送操作を行った頻度のいずれかまたは組み合わせにより算出される転送傾向と、ユーザとコンテンツの距離、ユーザとコンテンツの向きの一致度、ユーザに見られている頻度のいずれかまたは組み合わせにより算出される転送傾向と、コンテンツの位置、コンテンツの内容、コンテンツに内容が入力される頻度のいずれかまたは組み合わせにより算出される転送傾向と、を用いて、自装置から、前記自装置とネットワークを介して前記表示可能コンテンツ情報を共有する他装置に転送される可能性を、判定する判定部と、
    前記判定部により転送される可能性があると判定された場合に、判定されたコンテンツと対応する表示可能コンテンツ情報を転送先の装置に転送する転送部と、
    を備えたことを特徴とする情報処理システム。
  4. 自装置の記憶部に保持された、表示可能コンテンツ情に含まれるコンテンツの表示を行い、
    自装置で表示されているコンテンツごとに、記憶部に保持されたコンテンツ配置情報とディスプレイ構成情報とを参照して、ユーザの顔または視線の動きの大きさ、転送先の画面を見る頻度、過去に転送操作を行った頻度のいずれかまたは組み合わせにより算出される転送傾向と、ユーザとコンテンツの距離、ユーザとコンテンツの向きの一致度、ユーザに見られている頻度のいずれかまたは組み合わせにより算出される転送傾向と、コンテンツの位置、コンテンツの内容、コンテンツに内容が入力される頻度のいずれかまたは組み合わせにより算出される転送傾向と、を用いて、自装置から、前記自装置とネットワークを介して前記表示可能コンテンツ情報を共有する他装置に転送される可能性を判定し、
    前記判定する処理により転送される可能性があると判定された場合に、判定されたコンテンツと対応する表示可能コンテンツ情報を転送先の装置に転送する、
    処理をコンピュータが実行することを特徴とする情報処理方法。
JP2017055000A 2017-03-21 2017-03-21 情報処理装置、情報処理システムおよび情報処理方法 Active JP6809323B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017055000A JP6809323B2 (ja) 2017-03-21 2017-03-21 情報処理装置、情報処理システムおよび情報処理方法
PCT/JP2018/006033 WO2018173596A1 (ja) 2017-03-21 2018-02-20 情報処理装置、情報処理システムおよび情報処理方法
EP18770532.2A EP3605344A4 (en) 2017-03-21 2018-02-20 INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING SYSTEM AND INFORMATION PROCESSING METHOD
US16/575,335 US10866777B2 (en) 2017-03-21 2019-09-18 Information processing apparatus, information processing system and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017055000A JP6809323B2 (ja) 2017-03-21 2017-03-21 情報処理装置、情報処理システムおよび情報処理方法

Publications (2)

Publication Number Publication Date
JP2018156599A JP2018156599A (ja) 2018-10-04
JP6809323B2 true JP6809323B2 (ja) 2021-01-06

Family

ID=63586329

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017055000A Active JP6809323B2 (ja) 2017-03-21 2017-03-21 情報処理装置、情報処理システムおよび情報処理方法

Country Status (4)

Country Link
US (1) US10866777B2 (ja)
EP (1) EP3605344A4 (ja)
JP (1) JP6809323B2 (ja)
WO (1) WO2018173596A1 (ja)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8230359B2 (en) 2003-02-25 2012-07-24 Microsoft Corporation System and method that facilitates computer desktop use via scaling of displayed objects with shifts to the periphery
WO2009128148A1 (ja) 2008-04-16 2009-10-22 パイオニア株式会社 遠隔操作装置
JP5300438B2 (ja) 2008-11-21 2013-09-25 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP5923726B2 (ja) * 2012-07-25 2016-05-25 パナソニックIpマネジメント株式会社 表示制御装置、及び、表示制御システム
JP6221214B2 (ja) 2012-09-26 2017-11-01 富士通株式会社 システム、端末装置および画像処理方法
JP6255826B2 (ja) * 2013-09-13 2018-01-10 株式会社リコー システム、情報処理装置、画像表示方法、プログラム、記憶媒体
JP2016045291A (ja) * 2014-08-21 2016-04-04 株式会社リコー 画像表示システム、端末、画像表示装置及びプログラム
US9807341B2 (en) * 2016-02-19 2017-10-31 Microsoft Technology Licensing, Llc Communication event
JP6093895B2 (ja) * 2016-04-18 2017-03-08 シャープ株式会社 画像表示装置、データ転送方法、及びプログラム

Also Published As

Publication number Publication date
US20200012471A1 (en) 2020-01-09
WO2018173596A1 (ja) 2018-09-27
EP3605344A1 (en) 2020-02-05
JP2018156599A (ja) 2018-10-04
EP3605344A4 (en) 2020-02-05
US10866777B2 (en) 2020-12-15

Similar Documents

Publication Publication Date Title
JP6417408B2 (ja) 空間的イベントマップを備えた共同システム
JP6249419B2 (ja) ユーザー介入なくレイアウトに従った画像識別及び編成
US10120528B2 (en) Systems and methods for forming share bars including collections of content items
CN107831974B (zh) 信息分享方法、装置及存储介质
US10067730B2 (en) Systems and methods for enabling replay of internet co-browsing
JP2018524661A (ja) 共同システムにおける仮想作業空間ビューポート・フォロー・モード
JP2018525716A (ja) 共同システムにおいてオブジェクトをグループ化するためのオブジェクトグループ処理及び選択ジェスチャ
JP2011523737A (ja) 複数種類のコンピューティングデバイス間で複数の情報形態に対話する装置および方法
EP3203365A1 (en) Cross platform annotation syncing
US10776570B2 (en) Supporting digital ink in markup language documents
US20140237357A1 (en) Two-dimensional document navigation
US20160224184A1 (en) Registration of electronic displays
US10855481B2 (en) Live ink presence for real-time collaboration
US20170230433A1 (en) Cross Platform Asset Sharing
JP5907163B2 (ja) データ関連度判定装置、データ関連度判定方法、および、プログラム
JP6809323B2 (ja) 情報処理装置、情報処理システムおよび情報処理方法
US20160301736A1 (en) Systems and methods for providing remote access to an application
US20160210101A1 (en) Document display support device, terminal, document display method, and computer-readable storage medium for computer program
CN106775427B (zh) 用于收藏页面的方法和装置
JP2014149579A (ja) データ制御装置、データ共有システムおよびプログラム
US20140086550A1 (en) System, terminal device, and image capturing method
CN106796446B (zh) 工作空间元数据管理
US20180088771A1 (en) System and method for replaying a recorded pointer trajectory
TWI525530B (zh) 同步顯示操作資訊的方法、系統及裝置
CA3056598A1 (en) Systems and methods for enabling replay of internet co-browsing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200915

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201029

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201123

R150 Certificate of patent or registration of utility model

Ref document number: 6809323

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150