JP6124005B2 - 表示制御装置、表示システム、表示制御プログラム、表示装置 - Google Patents

表示制御装置、表示システム、表示制御プログラム、表示装置 Download PDF

Info

Publication number
JP6124005B2
JP6124005B2 JP2013126872A JP2013126872A JP6124005B2 JP 6124005 B2 JP6124005 B2 JP 6124005B2 JP 2013126872 A JP2013126872 A JP 2013126872A JP 2013126872 A JP2013126872 A JP 2013126872A JP 6124005 B2 JP6124005 B2 JP 6124005B2
Authority
JP
Japan
Prior art keywords
display device
display
sight
line
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013126872A
Other languages
English (en)
Other versions
JP2015001664A (ja
Inventor
泰明 杉本
泰明 杉本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2013126872A priority Critical patent/JP6124005B2/ja
Publication of JP2015001664A publication Critical patent/JP2015001664A/ja
Application granted granted Critical
Publication of JP6124005B2 publication Critical patent/JP6124005B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、一の画面を2台の表示装置に分担して表示させる表示制御装置、表示システム、表示制御プログラム、表示装置に関する。
複数台の表示装置を並置し、一の画面を、これらに分担させて大きく表示する技術が種々提案されている(特許文献1、2、3参照)。
たとえば、画像表示部を備えた携帯端末を複数台並べて用い、複数の画像表示部を組み合わせて1つの大きな画面に見立てて拡大画像表示を行う表示システムがある(特許文献4参照)。
また、携帯端末でコンテンツを拡大等し、その一部(表示エリアに表示可能な範囲)のみを表示する場合に、卓上での携帯端末の移動を検出し、その移動方向および移動距離に合わせて、コンテンツ内の表示部分を移動させる技術がある(特許文献5参照)。
このほか、現在設定されている表示倍率および、表示位置に基づき表示画面上にオブジェクトが表示されている時に、ユーザの視線位置から表示画面までの視点距離が変動した場合や、視線位置が変動した場合に、オブジェクトが見かけ上、同一サイズ及び同一位置となるように、現在設定されている表示倍率および表示位置を調整する技術がある(たとえば、特許文献6参照)。
特開2002−006822号公報 特開2005−339144号公報 特開2007−164060号公報 特開2011−114352号公報 特開2010−204990号公報 特開2005−149175号公報
携帯端末などの手持ちされる表示装置を複数台並置して、一の画面をこれら複数台の表示装置に分担して表示させる場合、手で持っている複数台の表示装置を安定に位置合わせした状態に保持することは難しい。そのため、手振れが起きると、表示内容が位置ずれして見難くなってしまう。
この場合、いずれかの表示装置の表示内容を移動させて位置ズレを補正すればよいが、どちらの表示装置の表示内容を移動させるかの選択を誤ると、位置ズレを補正したことによって、却って画面が見難くなって操作性・視認性が低下してしまう。
本発明は、上記の問題を解決しようとするものであり、一の画面を分担表示している並置された表示装置の相対位置が変化した場合に、表示内容の位置ずれを、より適切な一方の表示装置を選択して位置補正することのできる表示制御装置、表示システム、表示制御プログラム、表示装置を提供することを目的としている。
かかる目的を達成するための本発明の要旨とするところは、次の各項の発明に存する。
[1]第1表示装置とこれに並置して使用される第2表示装置との相対位置を示す相対位置情報を取得する相対位置情報取得部と、
前記第1表示装置と前記第2表示装置を並置して使用する使用者の視線の検出情報を取得する視線検出情報取得部と、
前記相対位置情報に基づいて、一の画面に係る表示を、前記第1表示装置とこれに並置された前記第2表示装置とにそれらの表示内容が連続するように分担させて行わせる分担表示制御部と、
を有し、
前記分担表示制御部は、表示中に前記第1表示装置と前記第2表示装置の相対位置が変化した場合に、前記視線の検出情報に基づいて前記第1表示装置と前記第2表示装置の一方を位置補正の対象に選択し、該選択した表示装置の表示内容のみを、他方の表示装置の表示内容と連続するように位置補正する
ことを特徴とする表示制御装置。
上記[1]および下記[10]、[11]に係る発明では、表示中に第1表示装置と第2表示装置の相対位置が変化した場合に、これらの表示装置の使用者の視線の検出結果に基づいて、第1表示装置と第2表示装置の一方を位置補正の対象に選択し、その選択した表示装置の表示内容のみを、他方の表示装置の表示内容と連続するように位置補正する。たとえば、使用者が第1表示装置と第2表示装置のどちらを見ていたか、どのように視線を移動させて見ていたか、どの位置から見ていたかなどに基づいて、位置補正対象の表示装置を決定する。
[2]前記分担表示制御部は、前記視線の検出情報に基づいて、前記相対位置が変化する前に前記使用者が最後に見た表示装置を特定し、該特定した表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[1]に記載の表示制御装置。
上記[2]および下記[12]に係る発明では、使用者は、相対位置が変化する前に最後に見ていた表示装置を相対位置が変化した後も見ていると想定し、使用者が見ていない方の表示装置の表示内容を移動させて位置補正する。すなわち、手振れなどにより、意図せずに相対位置がずれた場合、使用者が見ている方の表示装置の表示内容を移動させると見難くなるので、使用者が見ていない方の表示装置の表示内容を移動させて位置補正する。
[3]前記分担表示制御部は、前記相対位置が変化する直前の所定時間における前記使用者の視線の動きから前記使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[1]に記載の表示制御装置。
上記[3]および下記[13]に係る発明では、相対位置が変化する直前における使用者の視線の動きから使用者が次に見る箇所を推定し、その推定した箇所を表示している表示装置と異なる方の表示装置の表示内容を移動させて位置ずれを補正する。使用者の視線が移動している状態で、手振れなどにより、意図せずに相対位置がずれた場合には、使用者が次に見ると推定される箇所を含む表示装置の表示内容を移動させると見難くなるので、使用者が次に見ると推定される箇所を含む表示装置と異なる方の表示装置の表示内容を移動させて位置補正する。
[4]前記分担表示制御部は、複数の使用者の視線が検出されている場合は、前記相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[1]に記載の表示制御装置。
上記[4]および下記[14]に係る発明では、並置した表示装置を複数の使用者が見ている場合には、相対位置が変化する前により多くの使用者が最後に見ていた表示装置と異なる方の表示装置の表示内容を移動させて位置補正する。
[5]前記分担表示制御部は、複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する前に前記メイン使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[1]に記載の表示制御装置。
上記[5]および下記[15]に係る発明では、並置した表示装置を複数の使用者が見ている場合には、表示装置に対する視線の位置に基づいてメイン使用者を特定し、相対位置が変化する前にメイン使用者が最後に見た表示装置と異なる方の表示装置の表示内容を移動させて位置補正する。たとえば、表示装置の表示面に対する視線の位置が成す角度が90度に最も近い使用者(表示装置を最も正面から見ている使用者)をメイン使用者に特定する、あるいは視線の位置から表示装置の表示面までの距離が最も短い使用者をメイン使用者に特定する。
[6]前記分担表示制御部は、複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する直前の所定時間における前記メイン使用者の視線の動きから前記メイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[1]に記載の表示制御装置。
上記[6]および下記[16]に係る発明では、並置した表示装置を複数の使用者が見ている場合には、表示装置に対する視線の位置に基づいてメイン使用者を特定し、メイン使用者の視線の動きからメイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置の表示内容を移動させて位置補正する。
[7]前記位置補正対象の選択基準として、
前記相対位置が変化する前に前記使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第1選択基準、
前記相対位置が変化する直前の所定時間における前記使用者の視線の動きから前記使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する第2選択基準、
前記視線検出部が複数の使用者の視線を検出している場合は、前記相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第3選択基準、
前記視線検出部が複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者に特定し、前記相対位置が変化する前に前記メイン使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第4選択基準、
前記視線検出部が複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する直前の所定時間における前記メイン使用者の視線の動きから前記メイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する第5選択基準、
のうちの少なくとも2以上を備え、
前記選択に使用する選択基準を切り替える選択基準切り替え部を有する
ことを特徴とする[1]に記載の表示制御装置。
上記[7]および下記[17]に係る発明では、位置補正対象の表示装置を選択するための選択基準を切り替えることができる。
[8]前記第1表示装置および第2表示装置はそれぞれ、使用者の視線を検出する視線検出部を備え、
前記視線検出情報取得部は、前記視線検出部の検出結果を示す検出情報を取得する
ことを特徴とする[1]乃至[7]のいずれか1つに記載の表示制御装置。
[9][1]乃至[8]のいずれか1項に記載の表示制御装置と、
前記第1表示装置と、
前記第2表示装置と、
を有する
ことを特徴とする表示システム。
[10]情報処理装置を、
第1表示装置とこれに並置される第2表示装置との相対位置を示す相対位置情報に基づいて、一の画面に係る表示を、前記第1表示装置とこれに並置された前記第2表示装置とにそれらの表示内容が連続するように分担させて行わせると共に、
前記第1表示装置と前記第2表示装置を並置して使用する使用者の視線の検出情報を取得し、
表示中に前記第1表示装置と前記第2表示装置の相対位置が変化した場合に、前記視線の検出情報に基づいて前記第1表示装置と前記第2表示装置の一方を位置補正の対象に選択し、該選択した表示装置の表示内容のみを、他方の表示装置の表示内容と連続するように位置補正するように機能させる
ことを特徴とする表示制御プログラム。
[11]他の表示装置と並置して使用される表示装置であって、
当該表示装置と前記他の表示装置との相対位置を検出する相対位置検出部と、
当該表示装置と前記他の表示装置とを並置して使用する使用者の視線を検出する視線検出部と、
前記相対位置検出部の検出結果に基づいて、一の画面に係る表示を、当該表示装置とこれに並置された前記他の表示装置とにそれらの表示内容が連続するように分担させて行わせる分担表示制御部と、
を有し、
前記分担表示制御部は、表示中に当該表示装置と前記他の表示装置の相対位置が変化した場合に、前記視線検出部の検出結果に基づいて当該表示装置と前記他の表示装置の一方を位置補正の対象に選択し、該選択した一方の表示内容のみを、他方の表示内容と連続するように位置補正する
ことを特徴とする表示装置。
[12]前記分担表示制御部は、前記視線検出部の検出結果に基づいて、前記相対位置が変化する前に前記使用者が最後に見た表示装置を特定し、該特定した表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[11]に記載の表示装置。
[13]前記分担表示制御部は、前記相対位置が変化する直前の所定時間における前記使用者の視線の動きから前記使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[11]に記載の表示装置。
[14]前記分担表示制御部は、複数の使用者の視線が検出されている場合は、前記相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[11]に記載の表示装置。
[15]前記分担表示制御部は、複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する前に前記メイン使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[11]に記載の表示装置。
[16]前記分担表示制御部は、複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する直前の所定時間における前記メイン使用者の視線の動きから前記メイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する
ことを特徴とする[11]に記載の表示装置。
[17]前記位置補正対象の選択基準として、
前記相対位置が変化する前に前記使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第1選択基準、
前記相対位置が変化する直前の所定時間における前記使用者の視線の動きから前記使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する第2選択基準、
前記視線検出部が複数の使用者の視線を検出している場合は、前記相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第3選択基準、
前記視線検出部が複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する前に前記メイン使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第4選択基準、
前記視線検出部が複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する直前の所定時間における前記メイン使用者の視線の動きから前記メイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する第5選択基準、
のうちの少なくとも2以上を備え、
前記選択に使用する選択基準を切り替える選択基準切り替え部を有する
ことを特徴とする[11]に記載の表示装置。
本発明に係る表示制御装置、表示システム、表示制御プログラム、表示装置によれば、一の画面を分担表示している並置された表示装置の相対位置が変化した場合に、表示内容の位置ずれを、より適切な一方の表示装置を選択して位置補正することができる。
本発明の実施の形態に係る表示制御装置の機能を備えたリモート操作パネルと、このリモート操作パネルと連携して表示を行う携帯端末の一例を示す図である。 リモート操作パネルの概略構成を示すブロック図である。 携帯端末の概略構成を示すブロック図である。 設定項目を選択する設定選択画面を連携表示機能を使用してリモート操作パネルと携帯端末に分担表示させた状態を示す図である。 図4の状態から携帯端末が下方に位置ズレした場合であって表示内容を位置補正する前の状態を示す図である。 図5のように位置ズレした場合に、リモート操作パネル側の表示内容を下方に移動させて位置補正した状態を示す図である。 図5のように位置ズレした場合に、携帯端末側の表示内容を上方に移動させて位置補正した状態を示す図である。 並置したリモート操作パネル10と携帯端末30の表示領域での視線の移動例を示す図である。 並置したリモート操作パネル10と携帯端末30の表示領域での視線の他の移動例を示す図である。 使用者の視線の位置と、表示装置の表示面に対して使用者の視線が成す角度を示す図である。 リモート操作パネルが行う連携表示中の位置補正に係る処理を示す流れ図である。 図11の続きを示す流れ図である。 第1選択基準選択処理(図12のステップS119)の詳細を示す流れ図である。 第2選択基準選択処理(図12のステップS120)の詳細を示す流れ図である。 次に見る位置の推定処理(図14のステップS141)の詳細を示す流れ図である。 第3選択基準選択処理(図12のステップS121)の詳細を示す流れ図である。 第4選択基準選択処理(図12のステップS122)の詳細を示す流れ図である。 第5選択基準選択処理(図12のステップS123)の詳細を示す流れ図である。 使用者の意図する移動に対する位置補正の例を示す図である。 変形例に対応した第1選択基準選択処理(図12のステップS119)を示す流れ図である。 変形例に対応した第2選択基準選択処理(図12のステップS120)を示す流れ図である。 変形例に対応した第3選択基準選択処理(図12のステップS121)を示す流れ図である。 変形例に対応した第4選択基準選択処理(図12のステップS122)を示す流れ図である。 変形例に対応した第5選択基準選択処理(図12のステップS123)を示す流れ図である。
以下、図面に基づき本発明の実施の形態を説明する。
図1は、本発明の実施の形態に係る表示制御装置の機能を備えたリモート操作パネル10と、このリモート操作パネル10と連携して表示を行う携帯端末30の一例を示している。リモート操作パネル10は、複合機5と無線通信可能であり、複合機5を離れた場所から操作するための操作パネルである。リモート操作パネル10は、たとえば、B5サイズほどの平板形状を成しており、本体表面のほぼ全域が表示面になっている。
複合機5は、原稿を光学的に読み取ってその複製画像を記録紙に印刷するコピージョブ、読み取った原稿の画像データをファイルにして保存したり外部端末へネットワークを通じて送信したりするスキャンジョブ、端末装置からネットワークを通じて受信した印刷データに係る画像を記録紙上に形成して印刷出力するプリントジョブなどの複数種類のジョブを実行する機能を備えた画像処理装置である。
携帯端末30は、文書や画像データの入力、作成、表示、編集、外部機器への出力などの機能を備えた携帯型の情報処理端末である。携帯端末30は、たとえば、B5サイズほどの平板形状を成しており、本体表面のほぼ全域が表示面になっている。
リモート操作パネル10は、複合機5に対するジョブの投入操作や各種の設定操作などをユーザから受け付ける機能を有する。また、一の画面(操作画面や設定画面など)を、リモート操作パネル10とその近傍に並置された携帯端末30とに、それぞれの表示内容が連続するように分担して表示させる連携表示機能を備えている。たとえば、宛先リストのうち、リモート操作パネル10に表示しきれない部分が並置された携帯端末30に表示される。
図2は、リモート操作パネル10の概略構成を示すブロック図である。リモート操作パネル10は、当該リモート操作パネル10の動作を統括制御するCPU(Central Processing Unit)11を有している。CPU11にはバスを通じてROM(Read Only Memory)12と、RAM(Random Access Memory)13と、不揮発メモリ14と、認証部15と、操作部16と、表示部17と、ネットワーク通信部18と、近接無線通信部19と、相対位置情報取得部21と、視線検出部22とが接続されている。
CPU11は、OS(Operating System)プログラムをベースとし、その上で、ミドルウェアやアプリケーションプログラムなどを実行する。また、CPU11は、当該リモート操作パネル10の表示部17への単独表示および並置された携帯端末30と連携して表示を行う連携表示機能に関する制御を行う制御部(分担表示制御部)としての機能を果たす。
ROM12には、各種のプログラムが格納されており、これらのプログラムに従ってCPU11が各種処理を実行することでリモート操作パネル10の機能が実現される。
RAM13は、CPU11がプログラムに基づいて処理を実行する際に各種のデータを一時的に格納したり、表示データを格納したりするためのワークメモリとして使用される。
不揮発メモリ14は、電源をオフにしても記憶内容が破壊されないメモリ(フラッシュメモリ)であり、各種設定情報の保存などに使用される。
認証部15は、当該リモート操作パネル10を使用するユーザを認証する。IDカード、指紋、ユーザIDとパスワードの照合などにより認証される。
表示部17は、液晶ディスプレイ(LCD…Liquid Crystal Display)などで構成され、各種の操作画面、設定画面、プレビュー画面などを表示する機能を果たす。操作部16は、スタートボタンなどの各種操作スイッチと、表示部17の表示面上に設けられたスクリーン状のタッチパネル16aを備えている。タッチパネル16aは、タッチペンや指などで押下された座標位置や、フリック操作やドラッグ操作、スクロールバーに対する操作を検出する。
ネットワーク通信部18は、LAN(Local Area Network)などのネットワークを通じて複合機5や他の外部装置との間でデータを通信する機能を果たす。
近接無線通信部19は、リモート操作パネル10の近傍に配置された携帯端末30と無線通信する機能を果たす。近接無線通信部19の通信可能距離は50cm程度で十分である。通信方式には各種の近距離無線通信方式を採用することができる。
相対位置情報取得部21は、リモート操作パネル10とこれに並置された携帯端末30との相対位置を示す情報を取得する。ここでは、リモート操作パネル10に設けられたセンサが、このセンサに対する携帯端末30の相対位置を検出する。たとえば、携帯端末30の周縁にスケールを印刷しておき、センサがこのスケールを読み取ることで、リモート操作パネル10に対する携帯端末30の相対位置を検出する。
より詳細には、並置された際にリモート操作パネル10に当接される携帯端末30の一辺に、その一辺における携帯端末30の表示部37(図3参照)の表示領域の一端からの距離を示すスケール(目盛り)を設け、この目盛りをリモート操作パネル10側のセンサで光学的に読み取ることで、携帯端末30の表示領域の相対位置が検出される。携帯端末30に上記センサを設け、リモート操作パネル10側のスケールを読み取るようにしてもよい。
なお、相対位置の検出方法は任意でよい。リモート操作パネル10と携帯端末30の双方にセンサを設けて、これらが共同して相対位置を検出するといった方法でもよい。
視線検出部22は、リモート操作パネル10の使用者の視線を検出する。視線の検出方法は任意でよい。たとえば、リモート操作パネル10の表面の上部中央にカメラを設け、このカメラが撮影した画像を解析し、顔の向きや目の中の瞳の位置などから使用者の視線を検出する。視線検出部22は、複数人の視線を同時に検出することができる。
図3は、携帯端末30の概略構成を示すブロック図である。携帯端末30は、当該携帯端末30の動作を統括制御するCPU31を有している。CPU31にはバスを通じてROM32と、RAM33と、不揮発メモリ34と、認証部35と、操作部36と、表示部37と、ネットワーク通信部38と、近接無線通信部39と、視線検出部40とが接続されている。
ROM32および不揮発メモリ34には、各種プログラムやデータが格納され、これらのプログラムに従ってCPU31が各種の処理を実行することで携帯端末30の各機能が実現される。RAM33はCPU31がプログラムを実行する際に各種のデータを一時的に格納するワークメモリや表示データを一時記憶するメモリとして使用される。
不揮発メモリ34は、電源がオフになっても記憶内容が保持されるメモリである。不揮発メモリ34には、文書や画像ファイル、各種の設定内容、ユーザ情報、端末情報(ネットワークアドレスなど)、アプリケーションプログラム、リモート操作パネル10からの指示に基づいて表示する機能を実行するためのプログラムなどが記憶される。
認証部35は、当該携帯端末30を使用するユーザを認証する。
表示部37は、液晶ディスプレイなどで構成される。
操作部36は、表示部37の表示面上の全面に設けられ、指やペンなどによってタッチされた位置を検出するタッチパネル36aで構成される。少数の操作スイッチを備えてもよい。タッチパネル36aの検知方式は、静電容量、アナログ/デジタル抵抗膜、赤外線、超音波、電磁誘導等、任意でよい。
ネットワーク通信部38は、無線通信によりネットワークと接続して各種の外部装置と通信する機能を果たす。近接無線通信部39は、近傍のリモート操作パネル10が備える近接無線通信部19などと無線通信する機能を果たす。通信可能距離、通信方式等はリモート操作パネル10の近接無線通信部19と同一である。
視線検出部40は、携帯端末30の使用者の視線を検出する。視線の検出方法は任意でよい。視線検出部40は、複数人の視線を同時に検出することができる。
なお、リモート操作パネル10の視線検出部22がリモート操作パネル10の使用者の視線とリモート操作パネル10に並置された携帯端末30の使用者の視線の双方を検出可能であれば、携帯端末30は視線検出部40を備える必要はなく、リモート操作パネル10の視線検出部22で双方の使用者の視線を検出すればよい。すなわち、リモート操作パネル10は、並置された携帯端末30とリモート操作パネル10との相対位置を相対位置情報取得部21で検出しているので、リモート操作パネル10の視線検出部22で検出した視線の方向に携帯端末30が存在すれば、その使用者が携帯端末30を見ていると認識することができる。
図4は、設定項目を選択する設定選択画面60を、連携表示機能を使用して、リモート操作パネル10の表示部17と携帯端末30の表示部37とに、それらの表示内容が連続するように分担して表示させた状態(連携表示とする)を示している。
携帯端末30とリモート操作パネル10はそれぞれ使用者に手持ちされ、横に並べて使用される。なお。リモート操作パネル10を複合機5に装着した場合には、使用者が手で持った携帯端末30を複合機5に装着されたリモート操作パネル10の横に並べて使用する。
設定選択画面60には、各種設定の選択釦が縦横のマトリクス状に配列されている。同図に示すように、リモート操作パネル10の右隣に携帯端末30を並置して連携表示した状態では、設定選択画面60の左側の一部分がリモート操作パネル10に表示され、その続きの右側部分が、リモート操作パネル10の表示内容と連続するように位置合わせして、携帯端末30の表示部37に表示される。同図の例では、第1行の中ほどにある設定Eの選択釦と、第2行の中ほどにある設定Nの選択釦が、リモート操作パネル10と携帯端末30との境界部分にあって両者に跨るように表示されている。
なお、一の画面のうち、連携表示機能によってリモート操作パネル10に表示される部分を第1表示画像61、携帯端末30に表示される部分を第2表示画像62と呼ぶものとする。
携帯端末30が、図4に示す位置から下方へ位置ズレした場合、リモート操作パネル10での第1表示画像61の表示位置および携帯端末30での第2表示画像62の表示位置がそのままならば、図5に示すように(図中の破線は、位置ズレ前の位置を示している)、第1表示画像61より第2表示画像62の表示が下に位置ズレして、連続性が崩れる。
そこで、上記のように相対位置が変化したとき、第1表示画像61と第2表示画像62のいずれか一方を移動させ、第1表示画像61と第2表示画像62の表示内容の連続性が確保されるように位置補正する。図6は、リモート操作パネル10側で第1表示画像61を下方に移動させて位置補正した状態を示している。図中、実線の太い矢印は表示装置の移動を示し、破線の太い矢印は表示内容の移動を示している。
位置補正において、リモート操作パネル10に表示されている第1表示画像61と携帯端末30に表示されている第2表示画像62のいずれを移動させるかの選択基準として、以下の5つがある。
(1)第1選択基準
相対位置が変化する前に使用者が最後に見た表示装置と異なる方の表示装置を、位置補正対象の表示装置に選択する。
図5のように、リモート操作パネル10と携帯端末30との相対位置が変化したとき、該変化の直前に使用者が携帯端末30側の表示内容を見ていたならば、図6に示すように、使用者の見ていない方の表示装置であるリモート操作パネル10の表示内容を移動させて、表示内容の連続性が確保されるように、位置補正する。
一方、相対位置が変化する直前に使用者がリモート操作パネル10側の表示内容を見ていたならば、図7に示すように、使用者の見ていない方の表示装置である携帯端末30の表示内容を移動させて、表示内容の連続性が確保されるように、位置補正する。
(2)第2選択基準
相対位置が変化する直前の所定時間における使用者の視線の動きから使用者が次に見る箇所を推定し、その推定した箇所を表示している表示装置と異なる方の表示装置を、位置補正対象の表示装置に選択する。
たとえば、図8では、視線が矢印Aのように移動しており、使用者の視線が設定釦Gにきたときに、リモート操作パネル10と携帯端末30の相対位置が変化したとする。この場合、使用者が次に見る箇所は、矢印Aの延長上にある設定釦Hと推定される。そこで、設定釦Hを表示している表示装置(携帯端末30)と異なる方の表示装置(リモート操作パネル10)を位置補正対象に選択する。
図9では、視線が矢印Bのようにジグザグに移動しており、使用者の視線が、2行面の右端の設定釦Rに至ったときに、リモート操作パネル10と携帯端末30との相対位置が変化したとする。この場合、使用者は視線を表示されている設定釦の1行目に沿って右へ移動させ、右端に至ると2行目の左端に移動させ、2行目に沿って右へ移動させるようにジグザグに移動させている。そして、相対位置が変化する直前には、2行目の右端に視線があるので、使用者が次に見る箇所は、3行目の左端の設定釦Jと推定される。そこで、設定釦Jを表示している表示装置(リモート操作パネル10)と異なる方の表示装置(携帯端末30)を位置補正対象に選択する。
(3)第3選択基準
複数の使用者の視線が検出されている場合は、相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、位置補正対象に選択する。
たとえば、並置されて連携表示を行っているリモート操作パネル10と携帯端末30を3人の使用者が見ている状態でリモート操作パネル10と携帯端末30との相対位置が変化した場合、その変化の直前に、2人の使用者がリモート操作パネル10を見ていたならば、携帯端末30を位置補正対象の表示装置に選択する。
(4)第4選択基準
複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、相対位置が変化する前にメイン使用者が最後に見た表示装置と異なる方の表示装置を、位置補正対象の表示装置に選択する。
たとえば、図10に示すように、表示装置の表示面を、使用者Aと使用者Bが見ているとする。図10の例では、表示装置の表示面に対して使用者Aの視線の位置が成す角度はほぼ90度であり、表示装置の表示面に対して使用者Bの視線の位置が成す角度はほぼ135度である。
この角度が90度に最も近い使用者ほど、表示装置を正面に近い位置から見ている使用者なので、上記の角度が90度に最も近い使用者をメイン使用者に特定する。そして、相対位置が変化する前にメイン使用者が最後に見た表示装置と異なる方の表示装置を、位置補正対象の表示装置に選択する。すなわち、メイン使用者を特定し、その特定したメイン使用者に対して第1選択基準を適用したものが第4選択基準である。
なお、メイン使用者の特定方法は、上記の角度に限定されず、たとえば、表示装置の表示面から視線の位置までの距離が最も短い使用者をメイン使用者としてもよいし、角度と距離にそれぞれ得点を付与し、その合計点が最も高い使用者をメイン使用者とするなど、角度と距離の双方を基準にメイン使用者を特定してもよい。
(5)第5選択基準
複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、相対位置が変化する直前の所定時間におけるメイン使用者の視線の動き(視線動向)からメイン使用者が次に見る箇所を推定し、その推定した箇所を表示している表示装置と異なる方の表示装置を、位置補正対象に選択する。
すなわち、第4選択基準の場合と同様にメイン使用者を特定し、その特定したメイン使用者に対して第2選択基準を適用したものが第5選択基準である。
リモート操作パネル10は、以上の5つの選択基準のうちのいずれの選択基準を使用するかの設定操作を予め所定の設定画面でユーザから受け付け、その設定された選択基準を示す選択基準情報を不揮発メモリ14に記憶する。
図11、図12は、連携表示中の位置補正に係る処理の流れを示している。この処理は、リモート操作パネル10のCPU11が携帯端末30と連携して行う。
リモート操作パネル10のCPU11は、設定選択画面60など表示対象の画面を初期状態として、リモート操作パネル10に単独表示する(ステップS101)。この状態で、携帯端末30と近接通信可能か否かを判断する(ステップS102)。作動中の携帯端末30がリモート操作パネル10に並置されると、近接通信可能な状態になる。
近接通信可能でなければ(ステップS102;No)、リモート操作パネル10での単独表示を継続する。
近接通信可能な場合は(ステップS102;Yes)、携帯端末30の表示能力を取得する(ステップS103)。ここでは、リモート操作パネル10から携帯端末30に表示能力要求を送信し、これを受信した携帯端末30が自端末の表示能力を示す情報をリモート操作パネル10に返信する。表示能力には、画面サイズ、解像度などがある。
次に、リモート操作パネル10のCPU11は、リモート操作パネル10と携帯端末30との相対位置を示す情報を相対位置情報取得部21により取得する(ステップS104)。前述したように、相対位置情報取得部21は、携帯端末30の側部に付されているスケールを読み取ることでリモート操作パネル10に対する携帯端末30の相対位置を認識する。
次に、リモート操作パネル10のCPU11は、リモート操作パネル10と携帯端末30とによる連携表示を開始させる(ステップS105)。具体的には、表示中の画面を携帯端末30の存在する方向に拡張した場合に携帯端末30に表示される第2表示画像62の表示データを作成し、これを携帯端末30に送信して携帯端末30の表示部37に表示させる。これにより図4等に例示したように、一の画面が、リモート操作パネル10と携帯端末30とに、それらの表示内容が連続するように分担して表示される。
その後は、周期的に、表示内容が連続するように位置補正を行う。詳細には以下のように動作する。まず、各使用者の視線および視線動向を検出し(ステップS106)、使用者毎に、検出した視線および視線動向を時間情報と共に、視線の履歴情報として記憶する(ステップS107)。連携表示の動作中は、携帯端末30においても使用者の視線および視線動向の検出が行われ、その検出結果が携帯端末30からリモート操作パネル10へ送信される。リモート操作パネル10は携帯端末30から受信した視線および視線動向の情報を時間情報と共に視線の履歴情報として記憶する。なお、携帯端末30で検出した視線動向に関する履歴情報は携帯端末30で記憶しておき、リモート操作パネル10からの要求に応じて、携帯端末30側の履歴情報をリモート操作パネル10へ送信するように構成されてもよい。
次に、リモート操作パネル10のCPU11は、位置補正の1周期に相当する時間を計測するブレ検知周期タイマを起動する(ステップS108)。
ブレ検知周期タイマがタイムアップしていなければ(ステップS109;No)、リモート操作パネル10と携帯端末30のいずれかで使用者から何らかの操作を受けたか否かを調べる(ステップS110)。使用者から操作を受けない場合は(ステップS110;No)、ステップS109へ戻り、何らかの操作を受けた場合は(ステップS110;Yes)、その操作内容に応じてリモート操作パネル10と携帯端末30の表示内容を更新して(ステップS111)、ステップS109へ戻る。
ブレ検知周期タイマがタイムアップすると(ステップS109;Yes)、リモート操作パネル10と携帯端末30との現時点での相対位置を示す情報を取得する(ステップS112)。リモート操作パネル10のCPU11は、前回取得した情報が示す相対位置と今回取得した情報が示す相対位置との比較により、相対位置が変化したか否かを判断する(ステップS113)。相対位置が変化していない場合は(ステップS113;No)、ステップS106に戻って動作を継続する。
相対位置が変化した場合は(ステップS113;Yes)、不揮発メモリ14から位置補正対象の表示装置の選択基準情報を取得する(ステップS114)。リモート操作パネル10のCPU11は、選択基準情報の示す選択基準が第1選択基準ならば(ステップS115;Yes)、前述した第1選択基準に従って位置補正対象の表示装置を決定する第1選択基準選択処理を行って(ステップS119)、ステップS106に移行する。
リモート操作パネル10のCPU11は、選択基準情報の示す選択基準が第2選択基準ならば(ステップS116;Yes)、前述した第2選択基準に従って位置補正対象の表示装置を決定する第2選択基準選択処理を行って(ステップS120)、ステップS106に移行する。
リモート操作パネル10のCPU11は、選択基準情報の示す選択基準が第3選択基準ならば(ステップS117;Yes)、前述した第3選択基準に従って位置補正対象の表示装置を決定する第3選択基準選択処理を行って(ステップS121)、ステップS106に移行する。
リモート操作パネル10のCPU11は、選択基準情報の示す選択基準が第4選択基準ならば(ステップS118;Yes)、前述した第4選択基準に従って位置補正対象の表示装置を決定する第4選択基準選択処理を行って(ステップS122)、ステップS106に移行する。
リモート操作パネル10のCPU11は、選択基準情報の示す選択基準が第5選択基準ならば(ステップS118;No)、前述した第5選択基準に従って位置補正対象の表示装置を決定する第5選択基準選択処理を行って(ステップS123)、ステップS106に移行する。
図13は、第1選択基準選択処理(図12のステップS119)の詳細を示している。リモート操作パネル10のCPU11は、相対位置が変化する直前のリモート操作パネル10での視線検出結果と、相対位置が変化する直前の携帯端末30での視線検出結果とを比較する(ステップS131)。リモート操作パネル10のCPU11は、この比較結果より、相対位置が変化する前に使用者が最後に見た表示装置を特定する(ステップS132)。なお、並置されているリモート操作パネル10と携帯端末30の使用者は一人とする。
そして、リモート操作パネル10のCPU11は、相対位置が変化する前に使用者が最後に見た表示装置以外の表示装置を位置補正対象の表示装置に決定する(ステップS133)。
次に、リモート操作パネル10のCPU11は、ステップS133で決定した表示装置が携帯端末30か否かを判断し(ステップS134)、携帯端末30ならば(ステップS134;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS135)、本処理を終了する(リターン)。具体的には、相対位置が変化した距離だけ相対位置が変化した方向と逆方向に携帯端末30の表示内容を移動させた表示データを作成し、該表示データを携帯端末30に送信して表示を更新させる。
ステップS133で決定した表示装置が携帯端末30でない場合は(ステップS134;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS136)、本処理を終了する(リターン)。具体的には、相対位置が変化した距離だけ相対位置が変化した方向と逆方向にリモート操作パネル10の表示内容を移動させた表示データを作成し、該表示データを表示部17に表示して表示部17の表示内容を更新する。
図14は、第2選択基準選択処理(図12のステップS120)の詳細を示している。リモート操作パネル10のCPU11は、次に見る位置の推定処理を行う(ステップS141)。図15は、次に見る位置の推定処理(ステップS141)の詳細を示している。まず、不揮発メモリ14に記憶されている視線動向の履歴情報を参照する(ステップS151)。
ここでは、リモート操作パネル10の視線検出部22で検出されたリモート操作パネル10の使用者の視線動向の履歴情報と、携帯端末30の視線検出部40で検出された携帯端末30の使用者の視線動向の履歴情報の双方を参照する。なお、リモート操作パネル10の視線検出部22がリモート操作パネル10の使用者と携帯端末30の使用者の双方の視線を検出可能であれば、リモート操作パネル10の視線検出部22で検出された視線動向の履歴情報のみを参照すれば足りる。また、ここでは、並置されているリモート操作パネル10と携帯端末30の使用者は一人とする。
視線動向の履歴情報から、相対位置が変化する前の所定時間(たとえば、2秒)内に使用者の視線が動いたか否かを判断する(ステップS152)。相対位置が変化する前の所定時間内に使用者の視線が動いていない場合は(ステップS152;No)、使用者が最後に見た位置を次に見る位置に推定して(ステップS154)、本処理を終了する(リターン)。
相対位置が変化する前の所定時間内に使用者の視線が動いていた場合は(ステップS152;Yes)、その視線の動きの履歴からその使用者が次に見る位置を推定して(ステップS153)、本処理を終了する(リターン)。具体的には、視線の動きの軌跡(直線、弧、ジグザグなどを含む)からその軌跡を延長した位置を、次に使用者が見る位置として推定する。
図14に戻って説明を続ける。リモート操作パネル10のCPU11は、ステップS141で推定した「次に見る位置」を含む表示装置を特定し(ステップS142)、この特定した表示装置以外の表示装置を位置補正対象の表示装置に決定する(ステップS143)。
次に、リモート操作パネル10のCPU11は、ステップS143で決定した表示装置が携帯端末30か否かを判断し(ステップS144)、携帯端末30ならば(ステップS144;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS145)、本処理を終了する(リターン)。
ステップS143で決定した表示装置が携帯端末30でない場合は(ステップS144;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS146)、本処理を終了する(リターン)。
図16は、第3選択基準選択処理(図12のステップS121)の詳細を示している。リモート操作パネル10のCPU11は、相対位置が変化する直前のリモート操作パネル10での視線検出結果と、相対位置が変化する直前の携帯端末30での視線検出結果とを比較する(ステップS161)。この比較結果より、リモート操作パネル10のCPU11は、相対位置が変化する前により多くの使用者が最後に見た表示装置を特定する(ステップS162)。なお、並置されているリモート操作パネル10と携帯端末30の使用者が一人の場合は、その一人の使用者が最後に見た表示装置を特定する。
そして、リモート操作パネル10のCPU11は、ステップS162で特定した表示装置(相対位置が変化する前により多くの使用者が最後に見た表示装置)以外の表示装置を、位置補正対象の表示装置に決定する(ステップS163)。
次に、リモート操作パネル10のCPU11は、ステップS163で決定した表示装置が携帯端末30か否かを判断し(ステップS164)、携帯端末30ならば(ステップS164;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS165)、本処理を終了する(リターン)。ステップS163で決定した表示装置が携帯端末30でない場合は(ステップS164;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS166)、本処理を終了する(リターン)。
図17は、第4選択基準選択処理(図12のステップS122)の詳細を示している。リモート操作パネル10のCPU11は、複数の使用者の視線が検出されるのを待ち(ステップS171;No)、複数の使用者の視線が検出されたら(ステップS171;Yes)、視線毎に、表示装置の表示面に対する視線の角度を算出する(ステップS172)。
次に、表示装置の表示面に対する視線の角度が90度に最も近い使用者を選択し、該使用者をメイン使用者に特定する(ステップS173)。なお、一人の使用者の視線のみが検出されている場合に(ステップS171;No)、その一人の使用者をメイン使用者に特定してステップS174へ移行するようにしてもよい。
次に、リモート操作パネル10のCPU11は、相対位置が変化する直前のリモート操作パネル10でのメイン使用者に関する視線検出結果と、相対位置が変化する直前のメイン使用者に関する携帯端末30での視線検出結果とを比較する(ステップS174)。この比較結果より、リモート操作パネル10のCPU11は、相対位置が変化する前にメイン使用者が最後に見た表示装置を特定する(ステップS175)。
そして、リモート操作パネル10のCPU11は、相対位置が変化する前にメイン使用者が最後に見た表示装置以外の表示装置を位置補正対象の表示装置に決定する(ステップS176)。
次に、リモート操作パネル10のCPU11は、ステップS176で決定した表示装置が携帯端末30か否かを判断し(ステップS177)、携帯端末30ならば(ステップS177;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS178)、本処理を終了する(リターン)。
ステップS176で決定した表示装置が携帯端末30でない場合は(ステップS177;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS179)、本処理を終了する(リターン)。
図18は、第5選択基準選択処理(図12のステップS123)の詳細を示している。リモート操作パネル10のCPU11は、複数の使用者の視線が検出されるのを待ち(ステップS181;No)、複数の使用者の視線が検出されたら(ステップS181;Yes)、視線毎に、表示装置の表示面に対する視線の角度を算出する(ステップS182)。
次に、表示装置の表示面に対する視線の角度が90度に最も近い使用者を選択し、該使用者をメイン使用者に特定する(ステップS183)。なお、一人の使用者の視線のみが検出されている場合に(ステップS181;No)、その一人の使用者をメイン使用者に特定してステップS184へ移行するようにしてもよい。
リモート操作パネル10のCPU11は、メイン使用者が次に見る位置の推定処理を行う(ステップS184)。この処理は、図15に示す処理を、メイン使用者を対象に行えばよい。
リモート操作パネル10のCPU11は、ステップS184で推定した「次に見る位置」を含む表示装置を特定し(ステップS185)、この特定した表示装置以外の表示装置を位置補正対象の表示装置に決定する(ステップS186)。
次に、リモート操作パネル10のCPU11は、ステップS186で決定した表示装置が携帯端末30か否かを判断し(ステップS187)、携帯端末30ならば(ステップS187;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS188)、本処理を終了する(リターン)。
ステップS186で決定した表示装置が携帯端末30でない場合は(ステップS187;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS189)、本処理を終了する(リターン)。
以上説明したように、本実施の形態では、並置されたリモート操作パネル10と携帯端末30とを使用して連携表示している間に、これらの相対位置が変化したとき、使用者の視線の状態(注視状態)に応じて、位置補正対象の表示装置を選択するので、手ぶれなどの意図しない位置ズレに対する表示内容の位置補正を、使用者に見やすく実施することができる。
次に、第1の実施の形態の変形例について説明する。
変形例では、リモート操作パネル10と携帯端末30の相対位置が変化したとき、該変化の直前に使用者が見ていた箇所の表示装置内での位置(上、下、中央、右、左など)を特定する。次に、その特定した位置と、相対位置が変化する直前に使用者が見ていた表示装置の、相対位置が変化したときの他方の表示装置に対する移動方向(上、下、右、左)とが一致するか否かを判断する。そして、一致する場合には、相対位置が変化する直前に使用者が見ていた表示装置を位置補正対象の表示装置に決定する。
図19は、山と雲を含む景色の画像をリモート操作パネル10と携帯端末30に連携表示した状態を示している。同図(a)は、相対位置が移動する直前の状態である。使用者の見ている箇所Gは、リモート操作パネル10の表示領域内の上部である。
同図(b)は、相対位置が変化した状態を示しており、リモート操作パネル10は携帯端末30に対して上方向に移動している。
この場合、相対位置が変化する直前に使用者の見ている箇所Gの表示領域内での位置(上部)と、使用者が見ていた表示装置(リモート操作パネル10)の他方の表示装置(携帯端末30)に対する移動方向(上方向)とが一致するので、同図(c)に示すように、使用者が見ていた表示装置(リモート操作パネル10)の表示内容を移動させて表示内容が連続するように位置補正する。
このように、相対位置が変化する直前に使用者が見ていた箇所の表示領域内での位置と、相対位置が変化する直前に使用者が見ていた表示装置の、相対位置が変化したときの他の表示装置に対する移動方向とが一致する場合は、相対位置が変化する直前に使用者が見ていた表示装置を使用者が意図的に移動させたと推定できる。
すなわち、使用者は、図19(a)の状態でリモート操作パネル10の表示領域の上部にある雲を見ていたが、それよりさらに上にある雲の状況を見たいために同図(b)に示すようにリモート操作パネル10を上方に移動させたと推定できる。すなわち、リモート操作パネル10の表示内容をスクロールさせるためにリモート操作パネル10を移動させたと判断できる。そこで、使用者の意図に沿うように、リモート操作パネル10の表示内容を移動(スクロール)させて位置補正する(同図(c))。
なお、相対位置が変化する直前に使用者が見ていた箇所の表示領域内での位置と、相対位置が変化する直前に使用者が見ていた表示装置の、相対位置が変化したときの他の表示装置に対する移動方向とが一致しない場合は、手振れにより、思わず、表示装置が移動したと判断できる。そのため、前述した第1選択基準から第5選択基準に従って位置補正対象の表示装置を決定する。
図20は、変形例に対応した第1選択基準選択処理(図12のステップS119)を示している。図13に示す第1選択基準選択処理と同一部分には同じステップ番号を付してある。
リモート操作パネル10のCPU11は、相対位置が変化する直前のリモート操作パネル10での視線検出結果と、相対位置が変化する直前の携帯端末30での視線検出結果とを比較する(ステップS131)。この比較結果より、リモート操作パネル10のCPU11は、相対位置が変化する前に使用者が最後に見た表示装置を特定する(ステップS132)。なお、並置されているリモート操作パネル10と携帯端末30の使用者は一人とする。
次に、リモート操作パネル10のCPU11は、特定した表示装置の他方の表示装置に対する移動方向と、使用者の見ていた箇所の表示領域内での位置(注視位置とする)とを比較する(ステップS201)。
上記の移動方向と注視位置とが一致しない場合は(ステップS202;No)、手ぶれにより位置ずれとみなし、相対位置が変化する前に使用者が最後に見た表示装置以外の表示装置を位置補正対象の表示装置に決定して(ステップS133)、ステップS134へ移行する。
一方、上記の移動方向と注視位置とが一致する場合は(ステップS202;Yes)、スクロールを意図した位置ズレとみなし、ステップS132で特定した表示装置を位置補正対象の表示装置に決定して(ステップS203)、ステップS134へ移行する。
ステップS134では、ステップS133もしくはステップS203で決定した表示装置が携帯端末30か否かを判断し、携帯端末30ならば(ステップS134;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS135)、本処理を終了する(リターン)。
ステップS133もしくはステップS203で決定した表示装置が携帯端末30でない場合は(ステップS134;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS136)、本処理を終了する(リターン)。
図21は、変形例に対応した第2選択基準選択処理(図12のステップS120)を示している。図14に示す第2選択基準選択処理と同一部分には同じステップ番号を付してある。
リモート操作パネル10のCPU11は、次に見る位置の推定処理を行う(ステップS141)。次に、ステップS141で推定した「次に見る位置」を含む表示装置を特定する(ステップS142)。
次に、リモート操作パネル10のCPU11は、ステップS142で特定した表示装置の他方の表示装置に対する移動方向と、使用者が次に見る箇所の表示領域内での位置(注視位置とする)とを比較する(ステップS201)。
上記の移動方向と注視位置とが一致しない場合は(ステップS202;No)、手ぶれによる位置ズレとみなし、ステップS142で特定した表示装置以外の表示装置を位置補正対象の表示装置に決定して(ステップS143)、ステップS144へ移行する。
一方、上記の移動方向と注視位置とが一致する場合は(ステップS202;Yes)、スクロールを意図した位置ズレとみなし、ステップS142で特定した表示装置を位置補正対象の表示装置に決定して(ステップS203)、ステップS144へ移行する。
ステップS144では、リモート操作パネル10のCPU11は、ステップS143もしくはステップS203で決定した表示装置が携帯端末30か否かを判断し(ステップS144)、携帯端末30ならば(ステップS144;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS145)、本処理を終了する(リターン)。
ステップS143もしくはステップS203で決定した表示装置が携帯端末30でない場合は(ステップS144;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS146)、本処理を終了する(リターン)。
図22は、変形例に対応した第3選択基準選択処理(図12のステップS121)を示している。図16に示す第3選択基準選択処理と同一部分には同じステップ番号を付してある。
リモート操作パネル10のCPU11は、相対位置が変化する直前のリモート操作パネル10での視線検出結果と、相対位置が変化する直前の携帯端末30での視線検出結果とを比較する(ステップS161)。この比較結果より、リモート操作パネル10のCPU11は、相対位置が変化する前により多くの使用者が最後に見た表示装置を特定する(ステップS162)。なお、並置されているリモート操作パネル10と携帯端末30の使用者が一人の場合は、その一人の使用者が最後に見た表示装置を特定する。
次に、リモート操作パネル10のCPU11は、ステップS162で特定した表示装置の他方の表示装置に対する移動方向と、相対位置が変化する前により多くの使用者の見ていた箇所の表示領域内での位置(注視位置とする)とを比較する(ステップS201)。
上記の移動方向と注視位置とが一致しない場合は(ステップS202;No)、意図しない手振れによる位置ズレとみなし、相対位置が変化する前により多くの使用者が最後に見た表示装置以外の表示装置を位置補正対象の表示装置に決定して(ステップS163)、ステップS164へ移行する。
一方、上記の移動方向と注視位置とが一致する場合は(ステップS202;Yes)、スクロールを意図した位置ずれとみなし、ステップS162で特定した表示装置を位置補正対象の表示装置に決定して(ステップS203)、ステップS164へ移行する。
ステップS164では、ステップS163もしくはステップS203で決定した表示装置が携帯端末30か否かを判断し、携帯端末30ならば(ステップS164;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS165)、本処理を終了する(リターン)。
ステップS163もしくはステップS203で決定した表示装置が携帯端末30でない場合は(ステップS164;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS166)、本処理を終了する(リターン)。
図23は、変形例に対応した第4選択基準選択処理(図12のステップS122)を示している。図17に示す第4選択基準選択処理と同一部分には同じステップ番号を付してある。
リモート操作パネル10のCPU11は、複数の使用者の視線が検出されるのを待ち(ステップS171;No)、複数の使用者の視線が検出されたら(ステップS171;Yes)、視線毎に、表示装置の表示面に対する視線の角度を算出する(ステップS172)。
次に、表示装置の表示面に対する視線の角度が90度に最も近い使用者を選択し、該使用者をメイン使用者に特定する(ステップS173)。なお、一人の使用者の視線のみが検出されている場合に(ステップS171;No)、その一人の使用者をメイン使用者に特定してステップS174へ移行してもよい。
次に、リモート操作パネル10のCPU11は、相対位置が変化する直前のリモート操作パネル10でのメイン使用者に関する視線検出結果と、相対位置が変化する直前のメイン使用者に関する携帯端末30での視線検出結果とを比較する(ステップS174)。この比較結果より、リモート操作パネル10のCPU11は、相対位置が変化する前にメイン使用者が最後に見た表示装置を特定する(ステップS175)。
次に、リモート操作パネル10のCPU11は、ステップS175で特定した表示装置の他方の表示装置に対する移動方向と、相対位置が変化する前にメイン使用者の見ていた箇所の表示領域内での位置(注視位置とする)とを比較する(ステップS201)。
上記の移動方向と注視位置とが一致しない場合は(ステップS202;No)、メイン使用者の意図しない手振れによる位置ズレとみなし、相対位置が変化する前にメイン使用者が最後に見た表示装置以外の表示装置を位置補正対象の表示装置に決定して(ステップS176)、ステップS177へ移行する。
一方、上記の移動方向と注視位置とが一致する場合は(ステップS202;Yes)、メイン使用者によるスクロールを意図した位置ズレとみなし、ステップS175で特定した表示装置を位置補正対象の表示装置に決定して(ステップS203)、ステップS177へ移行する。
次に、リモート操作パネル10のCPU11は、ステップS176もしくはステップS203で決定した表示装置が携帯端末30か否かを判断し(ステップS177)、携帯端末30ならば(ステップS177;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS178)、本処理を終了する(リターン)。
ステップS176もしくはステップS203で決定した表示装置が携帯端末30でない場合は(ステップS177;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS179)、本処理を終了する(リターン)。
図24は、変形例に対応した第5選択基準選択処理(図12のステップS123)を示している。図18に示す第5選択基準選択処理と同一部分には同じステップ番号を付してある。
リモート操作パネル10のCPU11は、複数の使用者の視線が検出されるのを待ち(ステップS181;No)、複数の使用者の視線が検出されたら(ステップS181;Yes)、視線毎に、表示装置の表示面に対する視線の角度を算出する(ステップS182)。
次に、表示装置の表示面に対する視線の角度が90度に最も近い使用者を選択し、該使用者をメイン使用者に特定する(ステップS183)。なお、一人の使用者の視線のみが検出されている場合に(ステップS181;No)、その一人の使用者をメイン使用者に特定してステップS184へ移行してもよい。
リモート操作パネル10のCPU11は、メイン使用者が次に見る位置の推定処理を行う(ステップS184)。この処理は、図15に示す処理を、メイン使用者を対象に行えばよい。
リモート操作パネル10のCPU11は、ステップS184で推定した「次に見る位置」を含む表示装置を特定する(ステップS185)。
次に、リモート操作パネル10のCPU11は、ステップS185で特定した表示装置の他方の表示装置に対する移動方向と、メイン使用者が次に見る箇所の表示領域内での位置(注視位置とする)とを比較する(ステップS201)。
上記の移動方向と注視位置とが一致しない場合は(ステップS202;No)、手振れによる位置ズレとみなし、ステップS185で特定した表示装置以外の表示装置を位置補正対象の表示装置に決定して(ステップS186)、ステップS187へ移行する。
一方、上記の移動方向と注視位置とが一致する場合は(ステップS202;Yes)、メイン使用者のスクロールを意図した位置ずれとみなし、ステップS185で特定した表示装置を位置補正対象の表示装置に決定して(ステップS203)、ステップS187へ移行する。
ステップS187では、リモート操作パネル10のCPU11は、ステップS186もしくはステップS203で決定した表示装置が携帯端末30か否かを判断し(ステップS187)、携帯端末30ならば(ステップS187;Yes)、表示内容が連続するように携帯端末30の表示内容を位置補正して(ステップS188)、本処理を終了する(リターン)。
ステップS186もしくはステップS203で決定した表示装置が携帯端末30でない場合は(ステップS187;No)、表示内容が連続するようにリモート操作パネル10の表示内容を位置補正して(ステップS189)、本処理を終了する(リターン)。
以上説明したように、本実施の形態の変形例では、相対位置が変化した際に、表示内容をスクロールさせるために使用者が意図的に表示装置を移動させたか否かを判断し、意図的に移動させた場合は、その意図に沿ってスクロールされるように位置補正対象の表示装置を選択する。すなわち、使用者の意図しない手振れ等による位置ズレか、スクロールさせるための使用者の意図した位置ズレかに応じて、位置補正対象の表示装置を選択して、表示のズレを補正するので、使用者にとって、見やすく適切に表示のズレを補正することができる。
以上、本発明の実施の形態を図面によって説明してきたが、具体的な構成は実施の形態に示したものに限られるものではなく、本発明の要旨を逸脱しない範囲における変更や追加があっても本発明に含まれる。
実施の形態では、意図しない位置ズレを基本にして第1から第5選択基準を設定したが、使用者の意図した位置ズレ、すなわち、画面のスクロールを意図した位置ずれに対応するように、位置補正対象を選択してもよい。具体的には、第1選択基準を「相対位置が変化する前に使用者が最後に見た表示装置を位置補正対象に選択する」とし、第2選択基準を「相対位置が変化する直前の所定時間における使用者の視線の動きから使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置を位置補正対象に選択する」とし、第3選択基準を「複数の使用者の視線を検出している場合は、相対位置が変化する前により多くの使用者が最後に見た表示装置を位置補正対象に選択する」とし、第4選択基準を「複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者に特定し、相対位置が変化する前にメイン使用者が最後に見た表示装置を位置補正対象に選択する」とし、第5選択基準を「複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、相対位置が変化する直前の所定時間におけるメイン使用者の視線の動きからメイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置を位置補正対象に選択する」としてもよい。
また、変形例では、相対位置が変化する直前に使用者が見ていた箇所の表示領域内での位置と、相対位置が変化する直前に使用者が見ていた表示装置の、相対位置が変化したときの他の表示装置に対する移動方向とが一致した場合に、当該相対位置の変化を使用者の意図した位置ズレと判断したが、判断方法はこれに限定されない。たとえば、相対位置が変化した際に、どちらの表示装置が移動したかを検出(絶対位置の変化を検出)し、相対位置が変化する直前に使用者が見ていた表示装置と移動した表示装置とが一致する場合は、使用者の意図した位置ズレであると判断してもよい。
また、相対位置が変化する直前に使用者が見ていた箇所の表示領域内での位置と、相対位置が変化する直前に使用者が見ていた表示装置の、相対位置が変化したときの他の表示装置に対する移動方向とが一致し、かつ、相対位置が変化する直前に使用者が見ていた表示装置と移動した表示装置とが一致する場合に、使用者の意図した位置ズレであると判断してもよい。
実施の形態では、リモート操作パネル10は、複合機5と別体に構成されたが、リモート操作パネル10に代えて複合機10が着脱不能に備える操作パネルとし、この操作パネルと携帯端末30とで連携表示を行うように構成されてもよい。なお、並置される表示装置の一方が複合機5のリモート操作パネル10や操作パネルである必要はなく、複数台の携帯端末30同士を連携させる構成でもよい。この場合、いずれか1台の携帯端末30がマスタ機となって連携表示や位置補正を制御すればよい。
また、外部のサーバなどを連携表示や位置補正に関する制御を行う表示制御装置とし、該サーバがリモート操作パネル10や携帯端末30などの並置された複数台の表示装置に対して表示データを送信し、連携表示および位置補正を行うといった構成でもよい。また本発明は、表示制御装置と並置される2台の表示装置とを含む表示システムとして構成されてもよい。
実施の形態では、周期的に位置補正したが、連携表示開始後は、常に位置補正する構成であってもよい。あるいは、相対位置を監視し、相対位置が、たとえば、所定の閾値以上変化した場合に位置補正するように構成されてもよい。
実施の形態では、設定選択画面60を連携表示する場合を例示したが、連携表示される画面の内容は任意でよい。
実施の形態では、リモート操作パネル10と携帯端末30が視線検出部22、40を有する構成を示したが、視線検出部は、リモート操作パネル10や携帯端末30と別体に設けられてもよい。たとえば、クリップなどで、視線検出部をリモート操作パネル10や携帯端末30に装着する構成でもかまわない。
5…複合機
10…リモート操作パネル
11…CPU
12…ROM
13…RAM
14…不揮発メモリ
15…認証部
16…操作部
16a…タッチパネル
17…表示部
18…ネットワーク通信部
19…近接無線通信部
21…相対位置情報取得部
22…視線検出部
30…携帯端末
31…CPU
32…ROM
33…RAM
34…不揮発メモリ
35…認証部
36…操作部
36a…タッチパネル
37…表示部
38…ネットワーク通信部
39…近接無線通信部
40…視線検出部
60…設定選択画面
61…第1表示画像
62…第2表示画像

Claims (17)

  1. 第1表示装置とこれに並置して使用される第2表示装置との相対位置を示す相対位置情報を取得する相対位置情報取得部と、
    前記第1表示装置と前記第2表示装置を並置して使用する使用者の視線の検出情報を取得する視線検出情報取得部と、
    前記相対位置情報に基づいて、一の画面に係る表示を、前記第1表示装置とこれに並置された前記第2表示装置とにそれらの表示内容が連続するように分担させて行わせる分担表示制御部と、
    を有し、
    前記分担表示制御部は、表示中に前記第1表示装置と前記第2表示装置の相対位置が変化した場合に、前記視線の検出情報に基づいて前記第1表示装置と前記第2表示装置の一方を位置補正の対象に選択し、該選択した表示装置の表示内容のみを、他方の表示装置の表示内容と連続するように位置補正する
    ことを特徴とする表示制御装置。
  2. 前記分担表示制御部は、前記視線の検出情報に基づいて、前記相対位置が変化する前に前記使用者が最後に見た表示装置を特定し、該特定した表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項1に記載の表示制御装置。
  3. 前記分担表示制御部は、前記相対位置が変化する直前の所定時間における前記使用者の視線の動きから前記使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項1に記載の表示制御装置。
  4. 前記分担表示制御部は、複数の使用者の視線が検出されている場合は、前記相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項1に記載の表示制御装置。
  5. 前記分担表示制御部は、複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する前に前記メイン使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項1に記載の表示制御装置。
  6. 前記分担表示制御部は、複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する直前の所定時間における前記メイン使用者の視線の動きから前記メイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項1に記載の表示制御装置。
  7. 前記位置補正対象の選択基準として、
    前記相対位置が変化する前に前記使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第1選択基準、
    前記相対位置が変化する直前の所定時間における前記使用者の視線の動きから前記使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する第2選択基準、
    前記視線検出部が複数の使用者の視線を検出している場合は、前記相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第3選択基準、
    前記視線検出部が複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者に特定し、前記相対位置が変化する前に前記メイン使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第4選択基準
    前記視線検出部が複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する直前の所定時間における前記メイン使用者の視線の動きから前記メイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する第5選択基準、
    のうちの少なくとも2以上を備え、
    前記選択に使用する選択基準を切り替える選択基準切り替え部を有する
    ことを特徴とする請求項1に記載の表示制御装置。
  8. 前記第1表示装置および第2表示装置はそれぞれ、使用者の視線を検出する視線検出部を備え、
    前記視線検出情報取得部は、前記視線検出部の検出結果を示す検出情報を取得する
    ことを特徴とする請求項1乃至7のいずれか1つに記載の表示制御装置。
  9. 請求項1乃至8のいずれか1項に記載の表示制御装置と、
    前記第1表示装置と、
    前記第2表示装置と、
    を有する
    ことを特徴とする表示システム。
  10. 情報処理装置を、
    第1表示装置とこれに並置される第2表示装置との相対位置を示す相対位置情報に基づいて、一の画面に係る表示を、前記第1表示装置とこれに並置された前記第2表示装置とにそれらの表示内容が連続するように分担させて行わせると共に、
    前記第1表示装置と前記第2表示装置を並置して使用する使用者の視線の検出情報を取得し、
    表示中に前記第1表示装置と前記第2表示装置の相対位置が変化した場合に、前記視線の検出情報に基づいて前記第1表示装置と前記第2表示装置の一方を位置補正の対象に選択し、該選択した表示装置の表示内容のみを、他方の表示装置の表示内容と連続するように位置補正するように機能させる
    ことを特徴とする表示制御プログラム。
  11. 他の表示装置と並置して使用される表示装置であって、
    当該表示装置と前記他の表示装置との相対位置を検出する相対位置検出部と、
    当該表示装置と前記他の表示装置とを並置して使用する使用者の視線を検出する視線検出部と、
    前記相対位置検出部の検出結果に基づいて、一の画面に係る表示を、当該表示装置とこれに並置された前記他の表示装置とにそれらの表示内容が連続するように分担させて行わせる分担表示制御部と、
    を有し、
    前記分担表示制御部は、表示中に当該表示装置と前記他の表示装置の相対位置が変化した場合に、前記視線検出部の検出結果に基づいて当該表示装置と前記他の表示装置の一方を位置補正の対象に選択し、該選択した一方の表示内容のみを、他方の表示内容と連続するように位置補正する
    ことを特徴とする表示装置。
  12. 前記分担表示制御部は、前記視線検出部の検出結果に基づいて、前記相対位置が変化する前に前記使用者が最後に見た表示装置を特定し、該特定した表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項11に記載の表示装置。
  13. 前記分担表示制御部は、前記相対位置が変化する直前の所定時間における前記使用者の視線の動きから前記使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項11に記載の表示装置。
  14. 前記分担表示制御部は、複数の使用者の視線が検出されている場合は、前記相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項11に記載の表示装置。
  15. 前記分担表示制御部は、複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する前に前記メイン使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項11に記載の表示装置。
  16. 前記分担表示制御部は、複数の使用者の視線が検出されている場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する直前の所定時間における前記メイン使用者の視線の動きから前記メイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する
    ことを特徴とする請求項11に記載の表示装置。
  17. 前記位置補正対象の選択基準として、
    前記相対位置が変化する前に前記使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第1選択基準、
    前記相対位置が変化する直前の所定時間における前記使用者の視線の動きから前記使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する第2選択基準、
    前記視線検出部が複数の使用者の視線を検出している場合は、前記相対位置が変化する前により多くの使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第3選択基準、
    前記視線検出部が複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する前に前記メイン使用者が最後に見た表示装置と異なる方の表示装置を、前記位置補正対象に選択する第4選択基準
    前記視線検出部が複数の使用者の視線を検出している場合は、表示装置に対する視線の位置に基づいてメイン使用者を特定し、前記相対位置が変化する直前の所定時間における前記メイン使用者の視線の動きから前記メイン使用者が次に見る箇所を推定し、該推定した箇所を表示している表示装置と異なる方の表示装置を、前記位置補正対象に選択する第5選択基準、
    のうちの少なくとも2以上を備え、
    前記選択に使用する選択基準を切り替える選択基準切り替え部を有する
    ことを特徴とする請求項11に記載の表示装置。
JP2013126872A 2013-06-17 2013-06-17 表示制御装置、表示システム、表示制御プログラム、表示装置 Active JP6124005B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013126872A JP6124005B2 (ja) 2013-06-17 2013-06-17 表示制御装置、表示システム、表示制御プログラム、表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013126872A JP6124005B2 (ja) 2013-06-17 2013-06-17 表示制御装置、表示システム、表示制御プログラム、表示装置

Publications (2)

Publication Number Publication Date
JP2015001664A JP2015001664A (ja) 2015-01-05
JP6124005B2 true JP6124005B2 (ja) 2017-05-10

Family

ID=52296207

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013126872A Active JP6124005B2 (ja) 2013-06-17 2013-06-17 表示制御装置、表示システム、表示制御プログラム、表示装置

Country Status (1)

Country Link
JP (1) JP6124005B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017038852A1 (ja) * 2015-09-03 2017-03-09 シャープ株式会社 制御装置、出力装置、および出力方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003337579A (ja) * 2002-05-21 2003-11-28 Sony Corp 画像表示装置、ディスプレイ装置、ナビゲーションシステム、画像表示方法
JP4921538B2 (ja) * 2009-11-24 2012-04-25 Necアクセステクニカ株式会社 携帯電子表示装置、携帯電子表示装置の制御方法、及び携帯電子表示装置の制御プログラム
JP5924518B2 (ja) * 2011-10-14 2016-05-25 コニカミノルタ株式会社 操作パネル

Also Published As

Publication number Publication date
JP2015001664A (ja) 2015-01-05

Similar Documents

Publication Publication Date Title
JP4683126B2 (ja) 入力装置
JP5929572B2 (ja) 操作表示装置およびプログラム
US10628035B2 (en) Image processing apparatus, method for controlling the same, and storage medium
JP6187454B2 (ja) 画像処理装置
JP5222967B2 (ja) 携帯端末
WO2016117340A1 (en) Image processing apparatus, image processing system, and image processing method
US9648181B2 (en) Touch panel device and image processing apparatus
US9025173B2 (en) Image display apparatus for display of a plurality of images
JP6124005B2 (ja) 表示制御装置、表示システム、表示制御プログラム、表示装置
CN105991868B (zh) 设备和方法
JP5558899B2 (ja) 情報処理装置、その処理方法及びプログラム
US9454233B2 (en) Non-transitory computer readable medium
JP6682951B2 (ja) プログラムおよび情報処理装置
JP6607083B2 (ja) プログラムおよび情報処理装置
JP2018152137A (ja) 情報処理装置、情報処理システム、情報処理プログラムおよび情報処理方法
JP6812639B2 (ja) 電子機器、電子機器の制御プログラム
JP6447179B2 (ja) 情報入力システムおよび入力装置
KR101595293B1 (ko) 깊이 센서 기반의 공간 터치 제어장치 및 방법
JP5892332B2 (ja) 表示制御装置表示システム表示制御プログラム
JP6367699B2 (ja) 情報処理装置、情報処理システム、情報処理プログラムおよび情報処理方法
US10528188B2 (en) Operation input device and operation input method
JP6343889B2 (ja) 表示制御装置、表示システム、表示プログラム、表示装置
JP7310152B2 (ja) 情報処理装置及びプログラム
JP2016139342A (ja) 装置連携による情報入力方法、情報処理装置、コンピュータプログラム
US9524055B2 (en) Display device detecting touch on display unit

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170321

R150 Certificate of patent or registration of utility model

Ref document number: 6124005

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150