JP2016110178A - 情報処理装置、情報処理方法およびプログラム - Google Patents

情報処理装置、情報処理方法およびプログラム Download PDF

Info

Publication number
JP2016110178A
JP2016110178A JP2014243783A JP2014243783A JP2016110178A JP 2016110178 A JP2016110178 A JP 2016110178A JP 2014243783 A JP2014243783 A JP 2014243783A JP 2014243783 A JP2014243783 A JP 2014243783A JP 2016110178 A JP2016110178 A JP 2016110178A
Authority
JP
Japan
Prior art keywords
arrangement
devices
information processing
users
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014243783A
Other languages
English (en)
Inventor
昭彦 泉
Akihiko Izumi
昭彦 泉
佐藤 直之
Naoyuki Sato
直之 佐藤
邦在 鳥居
Kuniari Torii
邦在 鳥居
克也 兵頭
Katsuya Hyodo
克也 兵頭
彦辰 陳
Yanchen Chen
彦辰 陳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2014243783A priority Critical patent/JP2016110178A/ja
Priority to PCT/JP2015/080291 priority patent/WO2016088477A1/ja
Priority to US15/529,221 priority patent/US10359867B2/en
Publication of JP2016110178A publication Critical patent/JP2016110178A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • G06F3/1438Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display using more than one graphics controller
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces

Abstract

【課題】複数のユーザを考慮した上で複数の連携機器へのUI配置が制御されることが可能な技術が提供されることが望ましい。【解決手段】複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する配置制御部を備える、情報処理装置が提供される。【選択図】図1

Description

本開示は、情報処理装置、情報処理方法およびプログラムに関する。
近年、複数の連携機器が連携して動作するシステムが存在する。かかるシステムにおいて、複数の連携機器それぞれには、連携動作のためのUI(User Interface)部品が配置され、各連携機器は、自身に配置されたUI部品を表示させる。ここで、複数の機器それぞれの性能や位置関係に基づいて、複数の機器それぞれに配置すべきUI部品を決定する技術が開示されている(例えば、非特許文献1参照)。
Jishuo Yang, Daniel Wigdor著「Panelrama:Enabling Easy Specification of Cross−Device Web Applications」、CHI 2014、One of a CHInd,Tronto,ON,Canada
しかしながら、複数のユーザを考慮した上で複数の連携機器へのUI配置が制御されることが可能な技術が提供されることが望ましい。
本開示によれば、複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する配置制御部を備える、情報処理装置が提供される。
本開示によれば、複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御することを含む、情報処理方法が提供される。
本開示によれば、コンピュータを、複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する配置制御部を備える、情報処理装置として機能させるためのプログラムが提供される。
以上説明したように本開示によれば、複数のユーザを考慮した上で複数の連携機器へのUI配置が制御されることが可能である。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
動画再生アプリケーションの機能がUI部品単位で分割された場合を説明するための図である。 動画再生アプリケーションの機能がUI部品単位で分割された場合の他の例を説明するための図である。 本開示の実施形態に係る情報処理装置10の機能構成例を示す図である。 本開示の実施形態に係る機器連携に対応した「写真などのコンテンツを閲覧するアプリケーション」の例を説明するための図である。 本開示の実施形態に係る機器連携に対応した「写真などのコンテンツを閲覧するアプリケーション」の他の例を説明するための図である。 「写真などのコンテンツを閲覧するアプリケーション」でのannotationの例を示す図である。 HTMLタグ形式でのプログラムコードによって図6に示したannotationを記述した例である。 本開示の実施形態に係る機器連携に対応した「写真などのコンテンツを閲覧するアプリケーション」の他の例を説明するための図である。 annotationの他の例を示す図である。 UI部品の機器への配置を表すマトリクスを示す図である。 図10に示した配置マトリクスの中から一つのUI部品の列のみを抜き出したマトリクスを示す図である。 各UI部品をどの機器に割り当てるかを決める処理の流れを示す図である。 図12に示した処理から呼ばれる「スコア計算(配置マトリクス)」の処理の流れを示す図である。 図13に示した処理から呼ばれる「singleUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])」の処理の流れを示す図である。 図13に示した処理から呼ばれる「multiUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])」の処理の流れを示す図である。 機器とユーザとのペアの生成例を示す図である。 図13に示した処理から呼ばれる「mirrorUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])」の処理の流れを示す図である。 図13に示した処理から呼ばれる「mirrorUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])」の処理の流れを示す図である。 平均スコアの比較例を示す図である。 図12から呼ばれる「次の配置マトリクス取得(配置マトリクス)」を求める処理の流れを示す図である。 図20Aから呼ばれる「次の配置マトリクス取得サブ(配置マトリクス,UI部品番号)」を求める処理の流れを示す図である。 「写真などのコンテンツを閲覧するアプリケーション」におけるannotationの指定例を示す図である。 「TV電話のアプリケーション」におけるannotationの指定例を示す図である。 「絵本や紙芝居を読み聞かせるアプリケーション」におけるannotationの指定例を示す図である。 「絵などの共同制作/編集のアプリケーション」におけるannotationの指定例を示す図である。 「写真撮影(リモート撮影)のアプリケーション」におけるannotationの指定例を示す図である。 本開示の実施形態に係る情報処理装置のハードウェア構成例を示す図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットまたは数字を付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
1.情報処理システムの概要
2.情報処理システムの機能構成例
3.情報処理システムの機能詳細
4.情報処理システムのハードウェア構成例
5.むすび
<1.情報処理システムの概要>
まず、現在普及している機器連携について説明する。現在普及している機器連携の手法としては、インターネットによる動画再生などといったPush再生、リモートデスクトップやミラキャスト(スクリーンミラーリング)などを用いた画面転送、X−windowシステムなどを用いたウィンドウ転送などが挙げられる。しかし、画面の表示先機器などの指定または選択は、ユーザによって直接的に行われるのが一般的である。かかる場合、ユーザによる指定または選択は、表示先機器の機器名(ニックネームやホスト名)、型番、IPアドレスなどによって行われるのが一般的である。
ここで、現在普及しているような単純な機器連携においては、上記のようにユーザが機器名などを拠り所にしてどの機器にどの機能を割り当てるかを決定する手法が採用されるのが一般的である。しかし、今後、機器構成やユーザ構成(例えば、マルチユーザといったユーザ構成など)に応じた高度で柔軟な機器連携を普及させるに当たり、上記のような手法は不便であり、高度で柔軟な機器連携を実用化させる上で障害となり得る。
そこで、複数の機器の性能や位置関係を参考にして、どの機能をどの機器に配置するかを自動的に選択する技術が検討されている(例えば、上記非特許文献1参照)。しかし、かかる技術では、ユーザが複数である場合(またはユーザ数が不定の場合)への考慮が不十分であり、ユーザが複数である場合における機器連携には適用しにくい。以下に示す例は、ユーザが複数である場合における機器連携には適用しにくいアプリケーションの例である。
(写真などのコンテンツを閲覧するアプリケーション)
・閲覧者(ユーザ)が1人の場合もあるし、複数人の場合もある。
・一部のユーザが地理的に離れた場所でコンテンツの閲覧に参加する場合もある。
・機能の一部(アルバムの選択など)は、特定のユーザ(複数人も可)のみが操作できる。
(TV電話のアプリケーション)
・通話相手と1人で通話する場合もあるし、その場にいる何人かで通話する場合もある。
・通話相手の映像や音声は、参加者全員で視聴する。
・相手にしゃべるためのマイクロフォンやカメラ(受話器に相当)は、一つだけにする。
・音量調整などの操作は、参加者が誰でもできるようにする。
(絵本や紙芝居を読み聞かせるアプリケーション)
・参加者(閲覧者)の一部が遠隔地にいる場合もある。
・参加者全員に絵が見えるようにする。
・操作(ページ送りなど)は、主催者や協力者のみができるようにする。
(絵などの共同制作/編集のアプリケーション)
・カンバス(描画領域)は参加者全員がいじれるようにする。
・筆のペン先の選択は、参加者各自が手元の機器からできるようにする。
(写真撮影(リモート撮影)のアプリケーション)
・撮像するカメラは一つだけにする。
・操作(ズーム調整やシャッタなど)は、特定のユーザ(複数人も可)のみができる。
以上、ユーザが複数である場合における機器連携には適用しにくいアプリケーションの例を示した。本明細書においては、複数のユーザを考慮した上で複数の連携機器へのUI配置を制御することが可能な技術を主に提案する。なお、以下では、「写真などのコンテンツを閲覧するアプリケーション」を例に挙げて、複数のユーザも考慮したUI(以下、「UI部品」とも言う。)の連携機器への配置を実現する手法について説明する。
続いて、本開示の実施形態において想定する機器連携の概略について説明する。図1は、動画再生アプリケーションの機能がUI部品単位で分割された場合を説明するための図である。図1には、動画再生アプリケーションの機能がUI部品単位(再生された動作の出力を行うUI部品Pa91、再生動画の選択を行うUI部品Pa92および動画に関する情報を表示するUI部品Pa93)で分割された例が示されている。しかし、動画再生アプリケーションの機能の分割数は特に限定されない。また、アプリケーションの種類は動画再生アプリケーションに限定されない。
また、図1に示すように、UI部品間(UI部品Pa91とUI部品Pa92との間、UI部品Pa92とUI部品Pa93との間およびUI部品Pa93とUI部品Pa91との間)における通信によって動画再生アプリケーション全体の機能が実現される。図1に示した例では、動画再生アプリケーションの機能の全てが1台の機器90のみによって実現されており、1台の機器90には、全てのUI部品が配置されている。
図2は、動画再生アプリケーションの機能がUI部品単位で分割された場合の他の例を説明するための図である。図2には、図1に示した例と同様に、動画再生アプリケーションの機能がUI部品単位(UI部品Pa91、UI部品Pa92およびUI部品Pa93)で分割された例が示されている。図2に示した例においても、図1に示した例と同様に、UI部品間における通信によって動画再生アプリケーション全体の機能が実現される。
しかし、図2に示した例では、図1に示した例と異なり、動画再生アプリケーションの機能が複数の機器(機器E1〜E3)によって実現されており、機器E1にはUI部品Pa91が配置され、機器E2にはUI部品Pa92が配置され、機器E3にはUI部品Pa93が配置されている。なお、図2に示した例では、連携機器数およびUI部品数はともに3つであるが、連携機器数およびUI部品数は限定されない。
なお、本明細書においては、UI部品ごとに動画再生アプリケーションを分割する動作、各UI部品の配置を制御する動作を行う情報処理装置10が機器E1に組み込まれる場合を説明する。しかし、情報処理装置10は、複数の機器(機器E1〜E3)のいずれに組み込まれてもよいし、複数の機器(機器E1〜E3)以外の装置(サーバなど)に組み込まれてもよい。あるいは、情報処理装置10は、複数の機器(機器E1〜E3)のうちから適宜に選択された機器に組み込まれてもよい。
以上、本開示の実施形態に係る情報処理システムの概要について説明した。
<2.情報処理装置の機能構成例>
続いて、本開示の実施形態に係る情報処理装置10の機能構成例について説明する。図3は、本開示の実施形態に係る情報処理装置10の機能構成例を示す図である。図3に示すように、情報処理装置10は、制御部110、入力部120、センサ部130、記憶部140、通信部150および出力部160を備える。
制御部110は、記憶部140または他の記憶媒体に記憶されるプログラムを実行することにより制御部110が有する様々な機能を発揮する。図3に示すように、制御部110は、データ取得部111、認識部112、配置制御部113などの各機能ブロックを有する。これら各機能ブロックが有する機能の詳細については後に説明する。
なお、制御部110は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)、SoC(System on Chip)などのプロセッサにより構成されてよい。また、制御部110は、各種の演算処理を実行するための電子回路により構成されてよい。
入力部120は、ユーザからの操作を入力して制御部110に出力する。例えば、情報処理装置10がテレビジョン受像機などの機器に組み込まれる場合、入力部120はボタンなどであってよい。また、情報処理装置10がスマートフォンなどのモバイル端末に組み込まれる場合、入力部120はタッチパネルなどであってよい。なお、図3に示した例では、入力部120は情報処理装置10と一体化されているが、入力部120は、情報処理装置10と別体に構成されていてもよい。
センサ部130は、所定のセンサデータを検出して制御部110に出力する。本明細書においては、画像を撮像するカメラモジュールを含む場合を説明するが、センサ部130は他のセンサを含んでもよい。センサ部130によって検出されたセンサデータは、制御部110に出力される。なお、図3に示した例では、センサ部130は情報処理装置10と一体化されているが、センサ部130は、情報処理装置10と別体に構成されていてもよい。
記憶部140は、半導体メモリまたはハードディスクなどの記憶媒体を用いて、制御部110を動作させるためのプログラムを記憶する。また、例えば、記憶部140は、プログラムによって使用される各種のデータを記憶することもできる。なお、図3に示した例では、記憶部140は情報処理装置10と一体化されているが、記憶部140は情報処理装置10と別体に構成されていてもよい。
通信部150は、制御部110による制御に従って他の装置と通信を行う機能を有する。本明細書においては、通信部150が他の装置とネットワークを介して無線によって通信を行う場合を想定するが、通信部150は、他の装置とネットワークを介さずに直接的に通信を行ってもよい。また、通信部150は、他の装置と有線によって通信を行ってもよい。なお、図3に示した例では、通信部150は情報処理装置10と一体化されているが、通信部150は情報処理装置10と別体に構成されていてもよい。
出力部160は、制御部110による制御に従って、各種情報の出力を行う。出力部160は、LCD(Liquid Crystal Display)により実現されてもよいし、有機EL(Electro−luminescence)ディスプレイにより実現されてもよいし、プロジェクタにより実現されてもよいし、ホログラムディスプレイにより実現されてもよい。なお、図3に示した例では、出力部160は情報処理装置10と一体化されているが、出力部160は情報処理装置10と別体に構成されていてもよい。
以上、本開示の実施形態に係る情報処理装置10の機能構成例について説明した。
<3.情報処理システムの機能詳細>
続いて、情報処理システムの機能詳細について説明する。本開示の実施形態においては、配置制御部113が複数のユーザと複数の機器との位置関係および複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する。かかる構成により、複数のユーザを考慮した上での複数の連携機器へのUI配置が制御されることが可能となる。なお、配置制御部113によるUI配置は、具体的には、配置制御部113から通信部150を介して複数の連携機器に対してUI部品の配置を伝えることによって制御され得る。
ここで、複数のユーザと複数の機器との位置関係は、複数の機器の近くに存在するユーザを識別するための情報を機器ごとに示す情報を含んでよい。例えば、配置制御部113は、機器に対応するセンサ(機器の外部に接続されているセンサまたは機器に組み込まれているセンサ)による検出結果から1以上のユーザが認識された機器が存在した場合、その機器の近くに1以上のユーザが存在すると判断すればよい。
センサの種類は特に限定されないが、例えば、センサがカメラである場合には、データ取得部111がカメラによって撮像された画像を取得し、認識部112が画像から1以上のユーザの顔を認識した場合、カメラに対応する機器の近くに1以上のユーザが存在すると判断すればよい。ここでは、顔認識の技術を用いる場合を説明したが、顔認識の代わりに、音声認識、指紋認証などによって、センサに対応する機器の近くに1以上のユーザが存在することを判断すればよい。
また、配置制御部113は、複数のユーザと複数の機器との位置関係だけではなく、複数のユーザそれぞれの属性に基づいて、複数の連携機器へのUI配置を制御してよい。例えば、配置制御部113は、複数のユーザそれぞれの属性とUIごとに定義された属性条件とに基づいて、複数の連携機器へのUI配置を制御すればよい。このとき、配置制御部113は、複数の連携機器それぞれの近くに存在する1以上のユーザの属性が属性条件を満たすような各UIの配置先の連携機器の組み合わせを示す配置情報を決定し、配置情報に従ってUI配置を制御すればよい。
以下では、複数のユーザそれぞれの属性が、複数のユーザそれぞれに与えられた権限を含む例を主に説明するが、複数のユーザそれぞれの属性は、複数のユーザそれぞれに与えられた権限に限定されない。また、以下では、属性条件が、対象ユーザグループ(属性範囲)によって与えられる権限を有するという条件である例を説明するが、属性条件もかかる例に限定されない。
図4は、本開示の実施形態に係る機器連携に対応した「写真などのコンテンツを閲覧するアプリケーション」の例を説明するための図である。図4に示した地点A11においては、写真のオーナであるユーザU11がアプリケーションを使用している。アプリケーションは、UI部品Pa1「写真表示」、UI部品Pa2「基本操作」およびUI部品Pa3「拡張操作」を含んでいる。
・「写真表示」(UI部品Pa1)・・・閲覧対象の写真本体を大きく表示する。
・「基本操作」(UI部品Pa2)・・・「次の写真に進む」「前の写真に戻る」といった基本操作を入力する。
・「拡張操作」(UI部品Pa3)・・・ユーザの所有するアルバムを選択するなどといった特別な操作を入力する。
図4に示したように、地点A11においては、1台の機器E11が全てのUI部品(UI部品Pa1、UI部品Pa2およびUI部品Pa3)を表示している。しかし、地点A11における機器構成によっては、複数の機器にUI部品(UI部品Pa1、UI部品Pa2およびUI部品Pa3)が分散されてもよい。
次に、複数のユーザがこのアプリケーションでの写真閲覧に参加する場合について述べる。オーナも含めた複数のユーザは、同じ地点にいてもよいし、離れた地点にいてもよい。図4に示した例では、オーナU11を含む3人のユーザU11、U12、U13が写真閲覧をしており、オーナU11以外のユーザU12およびU13はオーナU11が存在する地点(地点A11)とは離れた地点(地点A12)に一緒に存在する場合を想定している。例えば、各UI部品の各機器への割り当てに際しては、以下のような方針が採用されてよい。
・「写真表示」(UI部品Pa1)・・・全ユーザから見える機器に配置される必要がある(全ユーザの近くに存在する機器に配置されるのがよい)。また、表示部分が大きい機器に配置されるのが望ましい。
・「基本操作」(UI部品Pa2)・・・全ユーザそれぞれの近くに存在する機器(全ユーザそれぞれの近くに存在する機器)にUI部品が配置されるのが望ましい。
・「拡張操作」(UI部品Pa3)・・・権限C1を有するユーザのみの手元に近い機器(権限C1を有するユーザそれぞれの近くに存在する機器)に配置されるのが望ましい。例えば、オーナやオーナが認めたユーザが権限C1を有するユーザであってよい。
上記のような割り当て方針に従うと、図4に示すように、地点A11においては、オーナU11の近くに、機器E11(例えば、スマートフォン)が1台あるだけなので、機器E11に全てのUI部品(UI部品Pa1、UI部品Pa2およびUI部品Pa3)を配置するのが望ましい。
一方、地点A12においては、「写真表示」(UI部品Pa1)を、2人のユーザ(ユーザU12およびU13)の近くにあって表示面積が大きい機器E12(例えば、テレビジョン受像機)に配置し、「基本操作」(UI部品Pa2)を、ユーザU12およびユーザU13がそれぞれ装着している(ユーザU12およびユーザU13がそれぞれの近くにある)機器E13およびE14(例えば、スマートウォッチ)に配置し、2人のユーザ(ユーザU12およびU13)が権限C1を有していないため、「拡張表示」(UI部品Pa3)をいずれの機器にも配置しないのが望ましい。
図5は、本開示の実施形態に係る機器連携に対応した「写真などのコンテンツを閲覧するアプリケーション」の他の例を説明するための図である。図5に示した例では、オーナを含む3人のユーザU21、U22、U23が写真閲覧をしており、オーナU21およびユーザU22はユーザU23が存在する地点(地点A22)とは離れた地点(地点A21)に一緒に存在する場合を想定している。
上記のような割り当て方針に従うと、図5に示すように、地点A21においては、「写真表示」(UI部品Pa1)を、オーナU21およびユーザU22の近くにあって表示面積が大きい機器E21(例えば、テレビジョン受像機)に配置し、「基本操作」(UI部品Pa2)を、ユーザU21およびユーザU22それぞれの近くにある機器E22(例えば、スマートフォン)およびE23(例えば、スマートウォッチ)に配置し、ユーザU22が権限C1を有していないため、「拡張表示」(UI部品Pa3)をユーザU21の近くにある機器E22にのみ配置するのが望ましい。
一方、地点A22においては、「写真表示」(UI部品Pa1)を、ユーザU23の近くにあって表示面積が大きい機器E24(例えば、テレビジョン受像機)に配置し、「基本操作」(UI部品Pa2)を、ユーザU23が装着している(ユーザU23の近くにある)機器E25(例えば、スマートウォッチ)に配置し、ユーザU23が権限C1を有していないため、「拡張表示」(UI部品Pa3)を配置しないのが望ましい。
UI部品をどの機器に配置するかを具体的に決めることは、以下のような条件によって左右され、アプリケーション作成時に全ての組み合わせを想定することは困難である。
・機器連携に参加する連携機器は何台で、それらはどんな機器か。
・参加するユーザがどこに何人いるか、特別な権限のあるユーザは誰か。
・ユーザと機器の位置関係
機器連携において、その時々の状況に合わせてUI部品を適切に配置できるようにするために、アプリケーション作成者は、各UI部品に対してannotation(配置のためのヒント情報)を指定し、アプリケーションはannotationに基づいてUI部品の配置を動的に決めるようにするとよい。annotationに基づいてUI部品の配置を決める機構は、色々なアプリケーションから汎用的に利用し得る。そのため、かかる機構は、フレームワークあるいはライブラリとして用意してアプリケーションに組み込むようにして、アプリケーション作成の生産性を上げるようにするとよい。
「写真などのコンテンツを閲覧するアプリケーション」でのannotationの例は、図6に示すようになる。図6の各行は、各UI部品とそれに対して指定されるannotationの値を表す。annotationの各項目の意味は、以下に示す通りである。
・「機器タイプ」・・・そのUI部品を配置するのにふさわしい機器のタイプ(「tv」、「tablet」など)を全部書く。複数の機器タイプを書くときの順番は、よりふさわしい(優先度の高い)機器タイプを前に書く。
・「重複方針」・・・そのUI部品を配置する際に、複数の機器にUI部品を重複して割り当てることを許容するか否かを示す。値としては、以下の3つのいずれかを指定する。
・「single」:UI部品を重複させない。
・「multi」:対象ユーザグループに属する各ユーザがそれぞれ使えるようにUI部品を重複させる。
・「mirror」:対象ユーザグループに属する各ユーザの近くにUI部品を重複させる(複数のユーザによるUI部品の共用可能)。
・「対象ユーザグループ」・・・機器への配置をする際に誰が使うかを考慮する場合に指定する(「multi」や「mirror」では必須)。値としては、以下に示す値のいずれかを指定する。
・「all」:アプリケーションを使用している全ユーザ
・「gpN」:権限Nを持っている全ユーザ(N=1,2,3,4,・・・)
配置制御部113は、複数のユーザと複数の機器との「位置関係」および異なる機器へのUI重複配置を許容するか否かをUI部品ごとに示す「重複方針」に基づいて、複数の連携機器へのUI配置を制御してよい。異なる機器へのUI重複配置を許容しない場合の例としては、上記「single」が挙げられる。
また、重複方針が、異なる機器へのUI重複配置を許容することを示す場合、ユーザ数とそのUI部品が割り当てられた機器数とが同一であり、かつ、複数の連携機器それぞれの近くにユーザが存在することを条件とするか否かをさらに示してよい。ユーザ数とそのUI部品が割り当てられた機器数とが同一であり、かつ、複数の連携機器それぞれの近くにユーザが存在することを条件とする場合の例としては、上記「multi」が挙げられる。
また、重複方針は、異なる機器へのUI重複配置を許容することを示す場合、複数のユーザそれぞれの近くにいずれかの連携機器が存在し、かつ、そのUI部品が割り当てられた連携機器それぞれの近くにいずれかのユーザが存在することを条件とするか否かをさらに示してよい。複数のユーザそれぞれの近くにいずれかの連携機器が存在し、かつ、そのUI部品が割り当てられた連携機器それぞれの近くにいずれかのユーザが存在することを条件とする場合の例としては、上記「mirror」が挙げられる。
図6に示した例では、UI部品を配置するのにふさわしい機器を「機器タイプ」によって指定している。また、図6に示した例では、「機器タイプ」の値として、「tv」、「phone」といったような機器カテゴリ名が用いられているが、機器の性能(表示画素数、表示領域面積など)を指定する方式が採用されても構わない。すなわち、機器タイプは、少なくとも機器カテゴリおよび機器性能のいずれか一方に関する情報を含んでよい。
図7は、HTML(HyperText Markup Language)タグ形式でのプログラムコードによって図6に示したannotationを記述した例である。図7に示した例において、data−dev−typeは、機器タイプを表し、data−duplicateは、重複方針を表し、data−user−groupは、対象ユーザグループを表している。
アプリケーションを使用しているユーザをどのように管理するかは、アプリケーションの実装次第ではある。一例として、オーナユーザがアプリケーションに参加させたいユーザに対して電子メールなどで招待メッセージを送信し、招待メッセージを受け取ったユーザがメッセージに記載された操作を介してアプリケーションにログインする方法などが挙げられる。ユーザに権限Nを与えたい時は、ユーザに与えたい権限Nに応じて招待メッセージを変えるようにすればよい。
図8は、本開示の実施形態に係る機器連携に対応した「写真などのコンテンツを閲覧するアプリケーション」の他の例を説明するための図である。図8に示した例では、図4に示した例と同様に、オーナを含む3人のユーザU21、U22、U23が写真閲覧をしており、ユーザU22およびユーザU23はオーナU21が存在する地点(地点A31)とは離れた地点(地点A32)に一緒に存在する場合を想定している。しかし、図8には、図9に示したannotationを用いた例を示している。
図9に示したannotationにおいては、対象ユーザグループに権限C2を有するユーザであるか否かも設定されている。すなわち、UI部品Pa2は、権限C2を有するユーザの近くに存在する機器に配置される。図9に示したannotationに従うと、図8に示すように、地点A31においては、オーナU31が権限C1および権限C2をともに有しているため、「写真表示」(UI部品Pa1)、「基本操作」(UI部品Pa2)および「拡張表示」(UI部品Pa3)を、オーナU31の近くにある機器E31(例えば、スマートフォン)に配置するのが望ましい。
一方、地点A32においては、「写真表示」(UI部品Pa1)を、2人のユーザ(ユーザU32およびU33)の近くにあって表示面積が大きい機器E32(例えば、テレビジョン受像機)に配置し、ユーザU33が権限C2を有しないため、「基本操作」(UI部品Pa2)を、ユーザU32のみが装着している(ユーザU32の近くにある)機器E33(例えば、スマートウォッチ)に配置し、2人のユーザ(ユーザU32およびU33)が権限C1を有していないため、「拡張表示」(UI部品Pa3)をいずれの機器にも配置しないのが望ましい。
続いて、図6や図7で例を示したようなannotationの指定を基に、各UI部品の配置先の機器を決める方法について説明する。図10は、UI部品の機器への配置を表すマトリクス(以下、「配置マトリクス」とも言う。)を示す図である。図10に示した配置マトリクスにおいて、「1」が設定されている欄は、配置マトリクスのその列のUI部品が、その行の機器に割り当てられていることを表す。また、図10に示した配置マトリクスにおいて、「1」が記入されていない空白の欄は、その列のUI部品がその行の機器に割り当てられていないことを表す(欄の値としては「0」であるが、マトリクスを視覚的に見やすくするため空欄として描いてある)。
図10に示された配置マトリクスは、UI部品[1]が、機器[1]〜機器[3]の全てに配置され、UI部品[2]が、機器[2]に配置され、UI部品[3]が、機器[1]に配置されることを示している。
図11は、図10に示した配置マトリクスの中から一つのUI部品の列のみを抜き出したマトリクス(以下、「配置サブマトリクス」とも言う。)を示す図である。図11に示された配置サブマトリクスは、UI部品[X]が、機器[3]に配置されることを示している。
図12は、各UI部品をどの機器に割り当てるかを決める処理の流れを示す図である。図12に示した処理の基本的な流れは、UI部品と配置先機器との全ての組み合わせについて、配置の適切さを反映したスコアを求め、スコアが最高となる配置マトリクスを返却するものである。なお、図12に示した処理では、説明を単純化するために全ての組み合わせをしらみつぶしに調べているが、人工知能分野での「縦型探索の枝刈り」のような手法を用いて、計算量を減らしても構わない。
具体的には、配置制御部113は、最高スコアに「0」を設定し(S11)、配置マトリクスの全ての欄を「0」(空白)にする(S12)。続いて、配置制御部113は、変数Sにスコア計算(配置マトリクス)の結果を設定する(S13)。ここで、「スコア計算(配置マトリクス)(S13)」は、図13に示した処理を呼び出すことによって行われる。続いて、配置制御部113は、変数Sが最高スコアを超えているか否かを判定する(S14)。
ここで、配置制御部113は、変数Sが最高スコアを超えていないと判定した場合(S14:No)、S17に動作を移行させる。一方、配置制御部113は、変数Sが最高スコアを超えていると判定した場合(S14:Yes)、最高スコアに変数Sを設定し(S15)、配置マトリクスを最高スコアの配置マトリクスに設定する(S16)。S17に動作が移行されると、配置制御部113は、「次の配置マトリクス取得(配置マトリクス)」によって取得した次の配置マトリクスを、配置マトリクスに設定する(S17)。
ここで、「次の配置マトリクス取得(配置マトリクス)(S18)」は、図20に示した処理を呼び出すことによって行われる。続いて、配置制御部113は、配置マトリクスの全ての欄が「0」であるか否かを判定し(S18)、配置マトリクスの全ての欄が「0」ではない場合には(S18:No)、動作をS13に移行させ、配置マトリクスの全ての欄が「0」である場合には(S18:Yes)、最高スコアの配置マトリクスを返却して動作を終了させる。
図13は、図12に示した処理から呼ばれる「スコア計算(配置マトリクス)」の処理の流れを示す図である。図13に示した処理の基本的な流れは、与えられた配置マトリクスに従って、各UI部品に対して重複方針に応じたスコアを求め、全てのUI部品について合計した値を全体のスコアとして返却するものである。具体的には、配置制御部113は、スコアに「0」を設定し(S21)、UI部品番号に「1」を設定する(S22)。続いて、配置制御部113は、UI部品[UI部品番号]のdata−duplicateが「multi」であるか否かを判定する(S23)。
配置制御部113は、UI部品[UI部品番号]のdata−duplicateが「multi」であると判定した場合(S23:Yes)、スコアにスコアとmultiUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])との加算結果を設定して(S24)、S28に動作を移行させる。ここで、「multiUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])」は、図15に示した処理を呼び出すことによって行われる。
一方、配置制御部113は、UI部品[UI部品番号]のdata−duplicateが「multi」ではないと判定した場合(S23:No)、UI部品[UI部品番号]のdata−duplicateが「mirror」であるか否かを判定する(S25)。配置制御部113は、UI部品[UI部品番号]のdata−duplicateが「mirror」であると判定した場合(S25:Yes)、スコアにスコアとmirrorUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])との加算結果を設定して(S26)、S28に動作を移行させる。ここで、mirrorUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])は、図17および図18に示した処理を呼び出すことによって行われる。
一方、配置制御部113は、UI部品[UI部品番号]のdata−duplicateが「mirror」ではないと判定した場合(S25:No)、スコアにスコアとsingleUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])との加算結果を設定して(S27)、S28に動作を移行させる。U28に動作が移行された場合、配置制御部113は、UI部品番号を1カウントアップして(S28)、UI部品番号がUI部品の個数を超えていない場合には(S29:No)、S23に動作を移行させるが、UI部品番号がUI部品の個数を超えた場合には(S29:Yes)、スコアを返却して動作を終了させる。
図14は、図13に示した処理から呼ばれる「singleUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])」の処理の流れを示す図である。重複方針が「single」のUI部品の場合、対象ユーザグループの指定は必須ではなく、対象ユーザグループが指定された場合のみ該当するユーザが誰か近くにいるかをチェックすればよい。以下において、スコアに設定される「−∞」は、絶対値が100に比べて十分大きい負の値(−10000など)であれば構わない。
まず、配置制御部113は、配置サブマトリクスの「1」の欄の個数が「1」であるか否かを判定する(S31)。配置制御部113は、配置サブマトリクスの「1」の欄の個数が「1」ではないと判定した場合(S31:No)、S32に動作を移行させる。一方、配置制御部113は、配置サブマトリクスの「1」の欄の個数が「1」であると判定した場合(S31:Yes)、そのUI部品に対象ユーザグループが指定されているか否かを判定する(S33)。
配置制御部113は、そのUI部品に対象ユーザグループが指定されていないと判定した場合には(S33:No)、S35に動作を移行させる。一方、配置制御部113は、そのUI部品に対象ユーザグループが指定されていると判定した場合には(S33:Yes)、配置サブマトリクスの「1」の欄の機器の近くに、対象ユーザグループに所属するユーザがいるか否かを判定する(S34)。
配置制御部113は、配置サブマトリクスの「1」の欄の機器の近くに、対象ユーザグループに所属するユーザがいないと判定した場合には(S34:No)、スコアに「−∞」を設定して(S32)、スコアを返却して動作を終了する。一方、配置制御部113は、配置サブマトリクスの「1」の欄の機器の近くに、対象ユーザグループに所属するユーザがいると判定した場合には(S34:Yes)、スコアにUI部品−機器マッチング(UI部品,配置サブマトリクスの「1」の欄の機器)を設定して(S35)、スコアを返却して動作を終了する。
なお、S35における「UI部品−機器マッチング」は、以下の計算によって算出される値である。
UI部品−機器マッチング=100×(N−(n−1))÷N
n:そのUI部品のannotation内で、その機器タイプが書かれている順番(1〜)
N:そのUI部品のannotation内で、機器タイプとして書かれている機器の総数(その機器に視線検出機能が付いていて、視線を検出した場合は「UI部品−機器マッチング」の値を所定の値(例えば、10%など)だけ増加させる。すなわち、配置制御部113は、対応するセンサによる検出結果からユーザの視線が検出された機器が存在した場合、その機器を有するペア(機器−UI部品)に対応する値(「UI部品−機器マッチング」の値)を高くするとよい。)。
図15は、図13に示した処理から呼ばれる「multiUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])」の処理の流れを示す図である。重複方針が「multi」であるため、そのUI部品が割り当てられている機器と、対象ユーザグループに属するユーザとが1対1に対応する必要がある。例えば、図16のようにして、機器とユーザとのペアを生成することが可能である。
そのため、配置制御部113は、そのUI部品が割り当てられている機器の台数と対象ユーザグループに属するユーザ数が一致していることを確認した上で、機器とユーザを1対1で対応付けた全ての組み合わせの中で、対応付けられた機器とユーザの距離が近いことを全てのペア(機器−ユーザ)が満たしている組み合わせがあれば(例えば、図16の下側の表のうち全てのペアが、機器とユーザの距離が近いことを満たしている行が存在すれば)、スコアを計算する。そのような組み合わせがなければ、配置制御部113は、スコアを−∞とすればよい。
まず、配置制御部113は、配置サブマトリクスの「1」の欄の個数とそのUI部品の対象ユーザグループに属するユーザ数が一致するか否かを判定する(S41)。配置制御部113は、配置サブマトリクスの「1」の欄の個数とそのUI部品の対象ユーザグループに属するユーザ数が一致しないと判定した場合(S41:No)、S48に動作を移行させる。
一方、配置制御部113は、配置サブマトリクスの「1」の欄の個数とそのUI部品の対象ユーザグループに属するユーザ数が一致すると判定した場合(S41:Yes)、配置サブマトリクスの「1」の欄の機器とそのUI部品の対象ユーザグループに属するユーザを1対1でペアにした全ての組み合わせを求め(S42)、組み合わせ番号に「1」を設定する(S43)。
続いて、配置制御部113は、組み合わせ[組み合わせ番号]での全ての<機器&ユーザ>のペアが、「機器の近くのユーザ」を満たしているか否かを判定する(S44)。配置制御部113は、組み合わせ[組み合わせ番号]での全ての<機器&ユーザ>のペアが、「機器の近くのユーザ」を満たしていると判定した場合には(S44:Yes)、スコアにUI部品−機器マッチングスコア(UI部品,機器)を配置サブマトリクスの「1」の欄の機器について求めた値の平均値を設定し(S45)、スコアを返却して動作を終了する。一方、配置制御部113は、組み合わせ[組み合わせ番号]において「機器の近くのユーザ」を満たしていない<機器&ユーザ>のペアが存在すると判定した場合には(S44:No)、組み合わせ番号を1カウントアップし(S46)、組み合わせ番号が組み合わせの総数を超えたか否かを判定する(S47)。
配置制御部113は、組み合わせ番号が組み合わせの総数を超えていないと判定した場合(S47:No)、S44に動作を移行させる。一方、組み合わせ番号が組み合わせの総数を超えたと判定した場合(S47:Yes)、S48に動作を移行させる。配置制御部113は、動作がS48に移行された場合、スコアに−∞を設定し(S48)、動作を終了する。なお、S45における「UI部品−機器マッチング」は、図14に示したS35における「UI部品−機器マッチング」と同様に算出され得る。重複方針が「multi」であるUI部品は、複数の機器に重複して配置され得るため、各々の機器について求めた「UI部品−機器マッチング」の平均値をスコアとして用いるのがよい。
図17および図18は、図13に示した処理から呼ばれる「mirrorUI部品のスコア計算(UI部品[UI部品番号],配置サブマトリクス[UI部品番号])」の処理の流れを示す図である。重複方針が「mirror」の場合、「multi」の場合と違って、UI部品を重複割り当てする機器の台数と、対象ユーザグループに属するユーザの人数とは一致している必要はない。しかし、対象ユーザの誰からも使われない機器や、当該UI部品が割り当てられた機器がどれも近くにないユーザが存在するのは不適切である。
そのため、配置制御部113は、「全ての対象ユーザの近くに、当該UI部品が割り当てられた機器がどれかあること」および「当該UI部品が割り当てられた全ての機器の近くに、対象ユーザが誰かいること」といった二つの条件を満たすか否かを判定し、かかる条件を満たさない場合はスコアに−∞を設定すればよい。
まず、配置制御部113は、変数Uに「1」を設定し(S51)、そのUI部品の対象ユーザグループに属するU番目のユーザの近くに、配置マトリクスの「1」の欄に該当する機器がどれか存在するか否かを判定する(S52)。配置制御部113は、そのUI部品の対象ユーザグループに属するU番目のユーザの近くに、配置マトリクスの「1」の欄に該当する機器がどれも存在しないと判定した場合(S52:No)、S53に動作を移行させる。
一方、配置制御部113は、そのUI部品の対象ユーザグループに属するU番目のユーザの近くに、配置マトリクスの「1」の欄に該当する機器がどれか存在すると判定した場合(S52:Yes)、変数Uを1カウントアップし(S54)、UがそのUI部品の対象ユーザグループに属するユーザの人数を超えたか否かを判定する(S55)。配置制御部113は、UがそのUI部品の対象ユーザグループに属するユーザの人数を超えていないと判定した場合には(S55:No)、S52に動作を移行させる。
一方、配置制御部113は、UがそのUI部品の対象ユーザグループに属するユーザの人数を超えたと判定した場合には(S55:Yes)、機器番号に「1」を設定して(S56)、配置サブマトリクス[機器番号]が「1」であるか否かを判定する(S57)。配置制御部113は、配置サブマトリクス[機器番号]が「1」ではないと判定した場合(S57:No)、S59に動作を移行させる。
一方、配置制御部113は、配置サブマトリクス[機器番号]が「1」であると判定した場合(S57:Yes)、配置サブマトリクスの機器[機器番号]の近くに、そのUI部品の対象ユーザグループに属するユーザが誰か存在するか否かを判定する(S58)。配置制御部113は、配置サブマトリクスの機器[機器番号]の近くに、そのUI部品の対象ユーザグループに属するユーザが誰も存在しない場合(S58:No)、スコアに「−∞」を設定し(S53)、スコアを返却して動作を終了する。
一方、配置制御部113は、配置サブマトリクスの機器[機器番号]の近くに、そのUI部品の対象ユーザグループに属するユーザが誰か存在する場合(S58:Yes)、機器番号を1カウントアップし(S59)、機器番号が機器の台数を超えたか否かを判定する(S60)。配置制御部113は、機器番号が機器の台数を超えていないと判定した場合には(S60:No)、S57に動作を移行させる。
一方、配置制御部113は、機器番号が機器の台数を超えたと判定した場合には(S60:Yes)、スコアにUI部品−機器マッチングスコア(UI部品,機器)を「1」の欄の機器について求めた値の平均値を設定し(S61)、スコアを返却して動作を終了する。
なお、S61における「UI部品−機器マッチング」は、図14に示したS35における「UI部品−機器マッチング」と同様に算出され得る。重複方針が「mirror」であるUI部品も、複数の機器に重複して配置され得るため、各々の機器について求めた「UI部品−機器マッチング」の平均値をスコアとして用いるのがよい。かかる平均値がスコアとして用いられることによって、UI部品を必要十分より多い台数の機器に割り当てるよりは、ふさわしい機器タイプの比較的上位にある機器に必要十分な台数だけ割り当てた方がスコアは良くなるはずである(図19を参照)。
このように、配置制御部113は、複数のユーザと複数の機器との「位置関係」が成立する場合において、機器タイプに関する条件を満たし、かつ、重複方針を満たすようなUIと配置先の連携機器とのペア群をそれぞれ含む複数の配置マトリクス(配置候補パターン)を生成し、複数の配置マトリクスそれぞれのスコアを算出し、スコアに基づいて複数の配置マトリクスから最終的な配置マトリクスを決定してよい。
このとき、配置制御部113は、配置マトリクスのスコアを、配置マトリクスの各ペアに対応する値を合計することにより算出すればよい。より具体的には、配置制御部113は、配置マトリクスのスコアを、配置マトリクスの各ペアについて配置先の連携機器の機器タイプまたは機器性能に対応付けられた値を合計することにより算出すればよい。例えば、上記したように、配置制御部113は、各配置マトリクスについてスコアをペアの数で除することによって平均スコアを算出し、平均スコアが最大となる配置マトリクスを最終的な配置マトリクスを決定するのがよい。
図20Aは、図12から呼ばれる「次の配置マトリクス取得(配置マトリクス)」を求める処理の流れを示す図である。配置マトリクスの全ての欄が「0」の状態(全てのUI部品がどの機器にも割り当てられていない)から開始して、図20Aの処理を1回呼び出すごとに配置マトリクスの欄の状態が1か所ずつ規則的に変化し、最終的には配置マトリクスの全ての欄が「1」の状態(全てのUI部品が全ての機器に重複して割り当てられている状態)になる。
具体的に、配置制御部113は、次の配置マトリクス取得サブ(配置マトリクス,1)を配置マトリクスに設定し(S71)、配置マトリクスを返却して動作を終了する。ここで、「次の配置マトリクス取得サブ(配置マトリクス,UI部品番号)」は、図20Bに示した処理を呼び出すことによって行われる。図20Bは、図20Aから呼ばれる「次の配置マトリクス取得サブ(配置マトリクス,UI部品番号)」を求める処理の流れを示す図である。
まず、配置制御部113は、機器番号に「1」を設定し(S81)、配置マトリクス[UI部品番号][機器番号]が「1」であるか否かを判定する(S82)。配置制御部113は、配置マトリクス[UI部品番号][機器番号]が「1」ではないと判定した場合(S82:No)、配置マトリクス[UI部品番号][機器番号]に「1」を設定し(S83)、配置マトリクスを返却して動作を終了する。一方、配置制御部113は、配置マトリクス[UI部品番号][機器番号]が「1」であると判定した場合(S82:Yes)、配置マトリクス[UI部品番号][機器番号]に「0」を設定し(S84)、機器番号を1カウントアップして(S85)、機器番号が機器の台数を超えたか否かを判定する(S86)。配置制御部113は、機器番号が機器の台数を超えていないと判定した場合(S86:No)、S82に動作を移行させる。
一方、配置制御部113は、機器番号が機器の台数を超えたと判定した場合(S86:Yes)、UI部品番号がUI部品の個数以上であるか否かを判定する(S87)。配置制御部113は、UI部品番号がUI部品の個数以上であると判定した場合には(S87:No)、次の配置マトリクス取得サブ(配置マトリクス,UI部品番号+1)を再帰的に呼び出し、その結果として得られた返却値を配置マトリクスに設定し(S88)、配置マトリクスを返却して動作を終了する。一方、配置制御部113は、UI部品番号がUI部品の個数未満であると判定した場合(S87:Yes)、配置マトリクスを返却して動作を終了する。
以上のようにして、図12および図12から呼ばれている各処理により、最高のスコアに対応する配置マトリクスが得られる。配置制御部113は、最高のスコアに対応する配置マトリクスに従って、アプリケーションを構成する各UI部品を連携に参加する各連携機器に割り当てることによって、複数ユーザも考慮したUI部品の機器への割り当てを行ってアプリケーションを動作させることができる。
上記したように、配置制御部113は、複数のユーザと複数の機器との「位置関係」が成立する場合において重複方針を満たすような各UIの配置先の連携機器の組み合わせを示す配置マトリクス(配置情報)を決定し、決定した配置マトリクスに従ってUI配置を制御してよい。このとき、上記のように、機器タイプを考慮してもよい。すなわち、配置制御部113は、複数のユーザと複数の機器との「位置関係」が成立する場合において、配置先の連携機器の種類をUIごとに示す機器タイプに属し、かつ、重複方針を満たすような配置情報を決定すればよい(請求項6)。
本明細書において提案した方式は、図4の例のような「写真などのコンテンツを閲覧するアプリケーション」に限らず、様々なアプリケーションに対して汎用的に利用できる。アプリケーションを構成する各UI部品に対して、annotationとして、機器タイプ、重複方針、対象ユーザグループを適切に設定しさえすればよい。
図21〜図25は、今まで説明した「写真などのコンテンツを閲覧するアプリケーション」と、先に例として挙げた「TV電話のアプリケーション」「絵本や紙芝居を読み聞かせるアプリケーション」「絵などの共同制作/編集のアプリケーション」および「写真撮影(リモート撮影)のアプリケーション」とのそれぞれにおけるannotationの指定例を示す図である。
以上、本開示の実施形態に係る情報処理システムの機能詳細について説明した。
<4.情報処理装置のハードウェア構成例>
続いて、本開示の実施形態に係る情報処理装置10のハードウェア構成例について説明する。図26は、本開示の実施形態に係る情報処理装置10のハードウェア構成例を示す図である。ただし、図26に示したハードウェア構成例は、情報処理装置10のハードウェア構成の一例を示したに過ぎない。したがって、情報処理装置10のハードウェア構成は、図26に示した例に限定されない。
図26に示したように、情報処理装置10は、CPU(Central Processing Unit)801と、ROM(Read Only Memory)802と、RAM(Random Access Memory)803と、センサ804と、入力装置808と、出力装置810と、ストレージ装置811と、ドライブ812と、撮像装置813と、通信装置815とを備える。
CPU801は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置10内の動作全般を制御する。また、CPU801は、マイクロプロセッサであってもよい。ROM802は、CPU801が使用するプログラムや演算パラメータなどを記憶する。RAM803は、CPU801の実行において使用するプログラムや、その実行において適宜変化するパラメータなどを一時記憶する。これらはCPUバスなどから構成されるホストバスにより相互に接続されている。
センサ804は、情報処理装置10の状態を検知するための状態検知センサなどの各種検知用センサとその周辺回路とを含む。センサ804としては、例として、測位センサ、傾きセンサ、加速度センサ、ジャイロセンサ、方位センサ、温度センサ、湿度センサ、照度センサなどを挙げることができる。センサ804による検知信号は、CPU801に送られる。これにより、CPU801は、情報処理装置10の状態(位置、傾き、加速度、角速度、方位、温度、湿度、照度など)を知ることができる。
入力装置808は、マウス、キーボード、タッチパネル、ボタン(電源ボタンなど)、マイクロフォン、スイッチ、ダイヤルおよびレバーなどユーザが情報を入力するための操作部と、ユーザによる入力に基づいて入力信号を生成し、CPU801に出力する入力制御回路などから構成されている。情報処理装置10のユーザは、該入力装置808を操作することにより、情報処理装置10に対して各種のデータを入力したり処理動作を指示したりすることができる。なお、これらの操作部が設けられる位置は特に限定されない。例えば、情報処理装置10の筐体側面に当該操作部が設けられてもよいし、ディスプレイが設けられる面と同一面上に設けられてもよい。
出力装置810は、例えば、LCD(Liquid Crystal Display)、OLED(Organic Light Emitting Diode)およびランプなどの表示装置を含んでよい。さらに、出力装置810は、スピーカおよびヘッドホンなどの音声出力装置を含んでもよい。例えば、表示装置は、撮像された画像や生成された画像などを表示する。一方、音声出力装置は、音声データなどを音声に変換して出力する。
ストレージ装置811は、情報処理装置10の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置811は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。このストレージ装置811は、CPU801が実行するプログラムや各種データを格納する。
ドライブ812は、記憶媒体用リーダライタであり、情報処理装置10に内蔵、あるいは外付けされる。ドライブ812は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブル記憶媒体に記録されている情報を読み出して、RAM803に出力する。また、ドライブ812は、リムーバブル記憶媒体に情報を書き込むこともできる。
撮像装置813は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子、および撮像素子への被写体像の結像を制御するためのレンズなどの各種の部材を用いて実空間を撮像し、撮像画像を生成する装置である。撮像装置813は、静止画を撮像するものであってもよいし、また動画を撮像するものであってもよい。
通信装置815は、ネットワークを介して(あるいは、直接的に)外部装置と通信する。通信装置815は、無線通信用のインタフェースであってもよく、例えば、通信アンテナ、RF(Radio Frequency)回路、ベースバンドプロセッサなどを含んでもよい。無線通信用のインタフェースの具体的な例としては、CDMA(Code Division Multiple
Access)、W−CDMA(Wideband Code Division Multiple Access)、LTE(Long Term Evolution)、Wi−fi(登録商標)(Wireless Fidelity)のような通信方式に対応したモデムなどの通信ユニットが挙げられる。
また、通信装置815は、有線通信用のインタフェースであってもよく、例えば、接続端子、伝送回路およびその他の通信処理用の回路を含んでもよい。また、CPU801と通信装置815とは1つのチップにより構成されてもよいし、別々のデバイスとして実現されてもよい。また、図26には図示していないが、情報処理装置10は、例えば、充電式電池のような電力源から供給される電力により駆動してもよく、当該電力源は、情報処理装置10に対して着脱可能に構成されていてもよい。
以上、本開示の実施形態に係る情報処理装置10のハードウェア構成例について説明した。例えば、出力部160および記憶部140は、出力装置810およびストレージ装置811によりそれぞれ実現され得る。また、制御部110は、CPU801により実現され得る。したがって、コンピュータを、制御部110を有する情報処理装置10として機能させるためのプログラムがストレージ装置811、ROM802またはRAM803に保持され、CPU801が当該プログラムを実行し得る。
なお、上述した情報処理装置10の動作が実現されれば、図3に示した各構成の位置は特に限定されない。具体的な一例として、入力部120、センサ部130および出力部160と、制御部110および記憶部140とが、ネットワークを介して接続された互いに異なる情報処理装置に設けられてもよい。この場合には、制御部110および記憶部140が設けられた情報処理装置が、例えば、ウェブサーバやクラウドサーバのようなサーバに相当し、入力部120、センサ部130および出力部160が当該サーバにネットワークを介して接続されたクライアントに相当し得る。
<5.むすび>
以上説明したように、本開示の実施形態によれば、複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する配置制御部を備える、情報処理装置が提供される。かかる構成によれば、複数のユーザを考慮した上で複数の連携機器へのUI配置が制御されることが可能となる。
本開示の実施形態によれば、複数ユーザ対応も含む高度で柔軟な機器連携を、ユーザに使いやすい形で提供できる。また、本開示の実施形態によれば、機器連携アプリケーションを複数人で使用する場合にも、各ユーザが不自由なく閲覧や操作を行える。さらに、本開示の実施形態によれば、機器連携アプリケーションを複数人で使用する場合に、権限のないユーザに越権行為をされることを防ぐことができる。
また、本開示の実施形態によれば、機器連携アプリケーションを使用するユーザの一部が遠隔の地点にいる場合にも対応できる。また、本開示の実施形態によれば、複数ユーザ対応も含む高度で柔軟な機器連携を行うアプリケーションを作成する上で、アプリケーション作成者にとっての負担が、機器単体専用のアプリケーションを作成する場合と比べてあまり大きくならずに済むという効果を奏する。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、例えば、情報処理装置10の動作は、必ずしもフローチャートに記載された順序に沿って時系列になされる必要はない。例えば、情報処理装置10の動作は、フローチャートに記載した順序と異なる順序でなされてもよいし、フローチャートに記載された動作の少なくとも一部が並列的になされてもよい。
また、コンピュータに内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上記した情報処理装置10が有する機能と同等の機能を発揮させるためのプログラムも作成可能である。また、該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する配置制御部を備える、
情報処理装置。
(2)
前記配置制御部は、前記位置関係および異なる機器へのUI重複配置を許容するか否かをUIごとに示す重複方針に基づいて、前記複数の連携機器へのUI配置を制御する、
前記(1)に記載の情報処理装置。
(3)
前記重複方針は、異なる機器へのUI重複配置を許容することを示す場合、ユーザ数とそのUI部品が割り当てられた機器数とが同一であり、かつ、前記複数の連携機器それぞれの近くにユーザが存在することを条件とするか否かをさらに示す、
前記(2)に記載の情報処理装置。
(4)
前記重複方針は、異なる機器へのUI重複配置を許容することを示す場合、前記複数のユーザそれぞれの近くにいずれかの連携機器が存在し、かつ、そのUI部品が割り当てられた連携機器それぞれの近くにいずれかのユーザが存在することを条件とするか否かをさらに示す、
前記(2)に記載の情報処理装置。
(5)
前記配置制御部は、前記位置関係が成立する場合において前記重複方針を満たすような各UIの配置先の連携機器の組み合わせを示す配置情報を決定し、前記配置情報に従ってUI配置を制御する、
前記(2)〜(4)のいずれか一項に記載の情報処理装置。
(6)
前記配置制御部は、前記位置関係が成立する場合において、配置先の連携機器の種類をUIごとに示す機器タイプに関する条件を満たし、かつ、前記重複方針を満たすような前記配置情報を決定する、
前記(5)に記載の情報処理装置。
(7)
前記機器タイプは、少なくとも機器カテゴリおよび機器性能のいずれか一方に関する情報を含む、
前記(6)に記載の情報処理装置。
(8)
前記配置制御部は、前記位置関係が成立する場合において、前記機器タイプに属し、かつ、前記重複方針を満たすようなUIと配置先の連携機器とのペア群をそれぞれ含む複数の配置候補パターンを生成し、前記複数の配置候補パターンそれぞれのスコアを算出し、前記スコアに基づいて複数の配置候補パターンから前記配置情報を決定する、
前記(6)または(7)に記載の情報処理装置。
(9)
前記配置制御部は、前記配置候補パターンのスコアを、前記配置候補パターンの各ペアに対応する値を合計することにより算出する、
前記(8)に記載の情報処理装置。
(10)
前記配置制御部は、前記配置候補パターンのスコアを、前記配置候補パターンの各ペアについて配置先の連携機器の機器タイプまたは機器性能に対応付けられた値を合計することにより算出する、
前記(9)に記載の情報処理装置。
(11)
前記配置制御部は、各配置候補パターンについて前記スコアをペアの数で除することによって平均スコアを算出し、前記平均スコアが最大となる配置候補パターンを前記配置情報として決定する、
前記(9)または(10)に記載の情報処理装置。
(12)
前記配置制御部は、対応するセンサによる検出結果からユーザの視線が検出された機器が存在した場合、前記機器を有するペアに対応する値を高くする、
前記(9)〜(11)のいずれか一項に記載の情報処理装置。
(13)
前記配置制御部は、前記複数のユーザそれぞれの属性に基づいて、前記複数の連携機器へのUI配置を制御する、
前記(1)〜(12)のいずれか一項に記載の情報処理装置。
(14)
前記複数のユーザそれぞれの属性は、少なくとも前記複数のユーザそれぞれに与えられた権限を含む、
前記(13)に記載の情報処理装置。
(15)
前記配置制御部は、前記複数のユーザそれぞれの属性とUIごとに定義された属性条件とに基づいて、前記複数の連携機器へのUI配置を制御する、
前記(13)または(14)に記載の情報処理装置。
(16)
前記配置制御部は、前記複数の連携機器それぞれの近くに存在する1以上のユーザの属性が前記属性条件を満たすような配置情報を決定する、
前記(15)に記載の情報処理装置。
(17)
前記配置制御部は、対応するセンサによる検出結果から1以上のユーザが認識された機器が存在した場合、前記機器の近くに前記1以上のユーザが存在すると判断する、
前記(16)に記載の情報処理装置。
(18)
前記位置関係は、前記複数の機器の近くに存在するユーザを識別するための情報を機器ごとに示す情報を含む、
前記(1)〜(17)のいずれか一項に記載の情報処理装置。
(19)
複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御することを含む、
情報処理方法。
(20)
コンピュータを、
複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する配置制御部を備える、
情報処理装置として機能させるためのプログラム。
10 情報処理装置
110 制御部
111 データ取得部
112 認識部
113 配置制御部
120 入力部
130 センサ部
140 記憶部
150 通信部
160 出力部
E11〜E13 機器
E21〜E25 機器
E31〜E33 機器
Pa1〜Pa3 UI部品
U11〜U13 ユーザ
U21〜U23 ユーザ
U31〜U33 ユーザ


Claims (20)

  1. 複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する配置制御部を備える、
    情報処理装置。
  2. 前記配置制御部は、前記位置関係および異なる機器へのUI重複配置を許容するか否かをUIごとに示す重複方針に基づいて、前記複数の連携機器へのUI配置を制御する、
    請求項1に記載の情報処理装置。
  3. 前記重複方針は、異なる機器へのUI重複配置を許容することを示す場合、ユーザ数とそのUI部品が割り当てられた機器数とが同一であり、かつ、前記複数の連携機器それぞれの近くにユーザが存在することを条件とするか否かをさらに示す、
    請求項2に記載の情報処理装置。
  4. 前記重複方針は、異なる機器へのUI重複配置を許容することを示す場合、前記複数のユーザそれぞれの近くにいずれかの連携機器が存在し、かつ、そのUI部品が割り当てられた連携機器それぞれの近くにいずれかのユーザが存在することを条件とするか否かをさらに示す、
    請求項2に記載の情報処理装置。
  5. 前記配置制御部は、前記位置関係が成立する場合において前記重複方針を満たすような各UIの配置先の連携機器の組み合わせを示す配置情報を決定し、前記配置情報に従ってUI配置を制御する、
    請求項2に記載の情報処理装置。
  6. 前記配置制御部は、前記位置関係が成立する場合において、配置先の連携機器の種類をUIごとに示す機器タイプに関する条件を満たし、かつ、前記重複方針を満たすような前記配置情報を決定する、
    請求項5に記載の情報処理装置。
  7. 前記機器タイプは、少なくとも機器カテゴリおよび機器性能のいずれか一方に関する情報を含む、
    請求項6に記載の情報処理装置。
  8. 前記配置制御部は、前記位置関係が成立する場合において、前記機器タイプに属し、かつ、前記重複方針を満たすようなUIと配置先の連携機器とのペア群をそれぞれ含む複数の配置候補パターンを生成し、前記複数の配置候補パターンそれぞれのスコアを算出し、前記スコアに基づいて複数の配置候補パターンから前記配置情報を決定する、
    請求項6に記載の情報処理装置。
  9. 前記配置制御部は、前記配置候補パターンのスコアを、前記配置候補パターンの各ペアに対応する値を合計することにより算出する、
    請求項8に記載の情報処理装置。
  10. 前記配置制御部は、前記配置候補パターンのスコアを、前記配置候補パターンの各ペアについて配置先の連携機器の機器タイプまたは機器性能に対応付けられた値を合計することにより算出する、
    請求項9に記載の情報処理装置。
  11. 前記配置制御部は、各配置候補パターンについて前記スコアをペアの数で除することによって平均スコアを算出し、前記平均スコアが最大となる配置候補パターンを前記配置情報として決定する、
    請求項9に記載の情報処理装置。
  12. 前記配置制御部は、対応するセンサによる検出結果からユーザの視線が検出された機器が存在した場合、前記機器を有するペアに対応する値を高くする、
    請求項9に記載の情報処理装置。
  13. 前記配置制御部は、前記複数のユーザそれぞれの属性に基づいて、前記複数の連携機器へのUI配置を制御する、
    請求項1に記載の情報処理装置。
  14. 前記複数のユーザそれぞれの属性は、少なくとも前記複数のユーザそれぞれに与えられた権限を含む、
    請求項13に記載の情報処理装置。
  15. 前記配置制御部は、前記複数のユーザそれぞれの属性とUIごとに定義された属性条件とに基づいて、前記複数の連携機器へのUI配置を制御する、
    請求項13に記載の情報処理装置。
  16. 前記配置制御部は、前記複数の連携機器それぞれの近くに存在する1以上のユーザの属性が前記属性条件を満たすような配置情報を決定する、
    請求項15に記載の情報処理装置。
  17. 前記配置制御部は、対応するセンサによる検出結果から1以上のユーザが認識された機器が存在した場合、前記機器の近くに前記1以上のユーザが存在すると判断する、
    請求項16に記載の情報処理装置。
  18. 前記位置関係は、前記複数の機器の近くに存在するユーザを識別するための情報を機器ごとに示す情報を含む、
    請求項1に記載の情報処理装置。
  19. 複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御することを含む、
    情報処理方法。
  20. コンピュータを、
    複数のユーザと複数の機器との位置関係および前記複数のユーザそれぞれの属性のうち少なくともいずれか一方に基づいて、前記複数の機器のうち連携動作を行う複数の連携機器へのUI配置を制御する配置制御部を備える、
    情報処理装置として機能させるためのプログラム。

JP2014243783A 2014-12-02 2014-12-02 情報処理装置、情報処理方法およびプログラム Pending JP2016110178A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014243783A JP2016110178A (ja) 2014-12-02 2014-12-02 情報処理装置、情報処理方法およびプログラム
PCT/JP2015/080291 WO2016088477A1 (ja) 2014-12-02 2015-10-27 情報処理装置、情報処理方法およびプログラム
US15/529,221 US10359867B2 (en) 2014-12-02 2015-10-27 Information processing apparatus and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014243783A JP2016110178A (ja) 2014-12-02 2014-12-02 情報処理装置、情報処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2016110178A true JP2016110178A (ja) 2016-06-20

Family

ID=56091433

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014243783A Pending JP2016110178A (ja) 2014-12-02 2014-12-02 情報処理装置、情報処理方法およびプログラム

Country Status (3)

Country Link
US (1) US10359867B2 (ja)
JP (1) JP2016110178A (ja)
WO (1) WO2016088477A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020158088A1 (ja) * 2019-02-01 2020-08-06 株式会社ワコム 描画システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110389736A (zh) * 2019-06-05 2019-10-29 华为技术有限公司 一种投屏显示方法及电子设备

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4230520B2 (ja) * 1997-10-07 2009-02-25 雅信 鯨田 Webページ視聴型の複数連携型表示システム
JP4422976B2 (ja) * 2003-04-11 2010-03-03 シャープ株式会社 情報処理装置、情報処理プログラム、及び記録媒体
JP4643484B2 (ja) 2006-03-29 2011-03-02 株式会社東芝 画面送信装置および画面表示方法
US8224284B2 (en) * 2008-01-04 2012-07-17 At&T Intellectual Property I, L.P. Emergency communication system and method
JP2009205543A (ja) 2008-02-28 2009-09-10 Dsti Holdings Co Ltd 情報管理サーバおよびコンピュータプログラム
KR101539461B1 (ko) * 2008-07-16 2015-07-30 삼성전자주식회사 멀티미디어 시스템에서 사용자 인터페이스 서비스를 제공하는 방법 및 장치
US8623697B2 (en) * 2008-12-31 2014-01-07 Micron Technology, Inc. Avoiding degradation of chalcogenide material during definition of multilayer stack structure
US20120011451A1 (en) * 2010-07-08 2012-01-12 International Business Machines Corporation Selective screen sharing
US20120215849A1 (en) * 2011-02-23 2012-08-23 Ankit Shekhawat Method and system for consuming virtual media
WO2013145518A1 (ja) * 2012-03-28 2013-10-03 ソニー株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP5846051B2 (ja) 2012-06-11 2016-01-20 コニカミノルタ株式会社 画像形成装置、画像形成装置の制御プログラム、および画像形成システム
JP6060537B2 (ja) * 2012-06-27 2017-01-18 コニカミノルタ株式会社 画像形成装置、画像形成装置の制御プログラム、および画像形成システム
KR101336622B1 (ko) * 2013-02-26 2013-12-16 에스케이플래닛 주식회사 오디오 데이터를 이용한 프레즌스 정보 제공 시스템, 이를 위한 장치 및 이를 위한 방법
JP6097679B2 (ja) * 2013-02-28 2017-03-15 エルジー アプラス コーポレーション 端末間機能共有方法及びその端末
CN104901815B (zh) * 2014-03-05 2018-07-31 华为技术有限公司 一种用户终端的分组方法、会议服务器、会议系统
KR102234273B1 (ko) * 2014-07-02 2021-04-02 삼성전자주식회사 반도체 메모리 장치
US9392368B2 (en) * 2014-08-25 2016-07-12 Comcast Cable Communications, Llc Dynamic positional audio

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020158088A1 (ja) * 2019-02-01 2020-08-06 株式会社ワコム 描画システム
US11520552B2 (en) 2019-02-01 2022-12-06 Wacom Co., Ltd. Drawing system
JP7393359B2 (ja) 2019-02-01 2023-12-06 株式会社ワコム 描画システム

Also Published As

Publication number Publication date
US10359867B2 (en) 2019-07-23
WO2016088477A1 (ja) 2016-06-09
US20170329417A1 (en) 2017-11-16

Similar Documents

Publication Publication Date Title
US10318028B2 (en) Control device and storage medium
US10671232B2 (en) Information processing apparatus, and part generating and using method
JP6075066B2 (ja) 画像管理システム、画像管理方法、及びプログラム
KR20190013308A (ko) 이동 단말기 및 그 제어 방법
WO2018120238A1 (zh) 用于处理文档的设备、方法和图形用户界面
TW201727582A (zh) 在行動裝置中到影像相關應用程式的進入點
JP2013162487A (ja) 画像表示装置及び撮像装置
KR20170029837A (ko) 이동 단말기 및 그 제어 방법
KR101598710B1 (ko) 이동단말기 및 그 제어방법
CN111273850B (zh) 终端控制方法、装置、计算机设备和存储介质
KR20180133743A (ko) 이동 단말기 및 그 제어 방법
CN105657254A (zh) 一种图像合成方法及装置
JP2019121857A (ja) 電子機器及びその制御方法
JP2019508784A (ja) マルチメディアファイル管理方法、電子デバイス、およびグラフィカルユーザインタフェース
US10185387B2 (en) Communication apparatus, communication method, and computer readable recording medium
KR102061867B1 (ko) 이미지 생성 장치 및 그 방법
JP2018504701A (ja) 画像処理方法及び装置
CN112417180B (zh) 生成影集视频的方法、装置、设备及介质
CN113556481B (zh) 视频特效的生成方法、装置、电子设备及存储介质
WO2016088477A1 (ja) 情報処理装置、情報処理方法およびプログラム
CN107705275B (zh) 一种拍照方法及移动终端
US11270407B2 (en) Electronic device, control method, and non-transitory computer readable medium
US20220215050A1 (en) Picture Search Method and Device
KR20200016085A (ko) 정보 노출 방지 영상 제공 장치 및 방법
US20210409611A1 (en) Imaging apparatus, image shooting processing method, and storage medium