JP2018156205A - 情報処理システム、情報処理方法、電子機器及び情報処理プログラム - Google Patents

情報処理システム、情報処理方法、電子機器及び情報処理プログラム Download PDF

Info

Publication number
JP2018156205A
JP2018156205A JP2017050573A JP2017050573A JP2018156205A JP 2018156205 A JP2018156205 A JP 2018156205A JP 2017050573 A JP2017050573 A JP 2017050573A JP 2017050573 A JP2017050573 A JP 2017050573A JP 2018156205 A JP2018156205 A JP 2018156205A
Authority
JP
Japan
Prior art keywords
information
unit
screen information
screen
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017050573A
Other languages
English (en)
Other versions
JP6870401B2 (ja
Inventor
恵利 細貝
Eri Hosogai
恵利 細貝
藤岡 進
Susumu Fujioka
進 藤岡
田中 浩行
Hiroyuki Tanaka
浩行 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2017050573A priority Critical patent/JP6870401B2/ja
Publication of JP2018156205A publication Critical patent/JP2018156205A/ja
Application granted granted Critical
Publication of JP6870401B2 publication Critical patent/JP6870401B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】複数の機器間で、より効率的で安全な表示情報の共有を図る。【解決手段】電子機器は、表示部に表示する画面情報を携帯端末に送信する際に、所定の入力操作を受け付け可能な状態に操作部を制御し、画面情報を表示しない状態に表示部を制御したうえで、画面情報を携帯端末に送信する。携帯端末は、電子機器から受信した画面情報を視認可能な形態で提供する。一例として、携帯端末は、眼鏡型端末となっており、電子機器から受信した画面情報に対応する光学像を形成してユーザの目に照射する。また、携帯端末は、電子機器から受信した画面情報に基づいて、レーザ光でユーザの目の網膜を走査することで、弱視者等の視覚障害者であっても、画面情報を視認可能とする。さらに、弱視者等の視覚障害者に対しては、画面情報のオブジェクトの数を削減したうえで表示サイズを大きくし、視認し易くする。【選択図】図1

Description

本発明は、情報処理システム、情報処理方法、電子機器及び情報処理プログラムに関する。
特許文献1(特開2001−282404号公報)に、装置の持つユーザインタフェース資源を複数の装置との間で共有可能とした情報処理システムが開示されている。この情報処理システムの場合、クライアントコンピュータは、他の装置から受信した他の装置のユーザインタフェース情報を、情報処理システムのLCDディスプレイに表示する。また、クライアントコンピュータは、タッチパネルを介して入力されたユーザインタフェース情報を他の装置へ転送する。これにより、各装置のユーザインタフェース資源を、複数の装置間で共有することができる。
ここで、例えばスマートフォン、タブレット、スマートグラス、腕時計型端末、ウェアラブルデバイス等の携帯型端末を用いて表示画面を備えた電子機器を操作することを考える。この場合、ユーザは、携帯型端末の表示画面を見ながら電子機器の操作を行うこととなるため、電子機器の表示画面に対する表示は無駄となり、省エネルギーの観点からも好ましいことではない。また、電子機器の表示画面に対しても表示を行うと、電子機器の表示画面を他人が見得る状態となるため、セキュリティ上も好ましいことではない。
本発明は、上述の課題に鑑みてなされたものであり、複数の機器間で、より効率的で安全に表示情報の共有を図ることができるような情報処理システム、情報処理方法、電子機器及び情報処理プログラムの提供を目的とする。
上述した課題を解決し、目的を達成するために、本発明は、電子機器と、電子機器との間で通信を行う携帯端末とを有する情報処理システムであって、電子機器は、画面情報を表示する表示部と、所定の入力操作を行うための操作部と、携帯端末に画面情報を送信する際に、入力操作を受け付け可能な状態に操作部を制御し、画面情報を表示しない状態に表示部を制御する制御部と、画面情報を携帯端末に送信する機器側通信部と、を備え、携帯端末は、電子機器と通信を行うことで、機器側通信部から送信された画面情報を受信する端末側通信部と、受信した画面情報を視認可能な形態で提供する画面情報提供部と、を備える。
本発明によれば、複数の機器間で、より効率的で安全に表示情報の共有を図ることができるという効果を奏する。
図1は、第1の実施の形態の情報処理システムのシステム構成を示す図である。 図2は、第1の実施の形態の情報処理システムのスマートグラスのブロック図である。 図3は、第1の実施の形態の情報処理システムのスマートグラスの外観を示す斜視図である。 図4は、スマートグラスの要部の構成を示す分解斜視図である。 図5は、スマートグラスのソフトウェア構成を説明するための機能ブロック図である。 図6は、第1の実施の形態のMFPのブロック図である。 図7は、MFPのソフトウェア構成を説明するための機能ブロック図である。 図8は、第1の実施の形態の情報処理システムにおけるスマートグラスの動作の流れを示すフローチャートである。 図9は、第1の実施の形態の情報処理システムにおけるMFPの動作の流れを示すフローチャートである。 図10は、第1の実施の形態の情報処理システムの変形例を説明するための図である。 図11は、第2の実施の形態の情報処理システムのスマートグラスのブロック図である。 図12は、第2の実施の形態の情報処理システムのスマートグラスの要部の分解斜視図である。 図13は、第2の実施の形態の情報処理システムのMFPのブロック図である。 図14は、第2の実施の形態の情報処理システムのMFPのソフトウェア構成を説明するための機能ブロック図である。 図15は、通常の操作画面の一例を示す図である。 図16は、視覚支援モード時における操作画面の一例を示す図である。 図17は、第3の実施の形態の情報処理システムのMFPのソフトウェア構成を説明するための機能ブロック図である。 図18は、第3の実施の形態の情報処理システムのMFPの動作の流れを示すフローチャートである。
以下、一例として複合機(MFP:Multifunction Peripheral)と眼鏡型端末との間で情報の共有を図る情報処理システムを説明する。なお、電子機器と携帯端末との間で情報の共有を図るシステムであれば、どのようなシステムでもよい。例えば、MFPの代わりにコピー装置又はスキャナ装置等の他の情報処理機器を用いてもよい。また、本発明の各実施の形態では、眼鏡型端末を携帯端末の一例として用いて説明するが、眼鏡型端末の代わりに、ゴーグル型端末、スマートフォン、腕時計型端末、タブレット型端末等の他の携帯端末を用いてもよい。
(第1の実施の形態)
(システム構成)
図1は、第1の実施の形態の情報処理システムのシステム構成図である。この図1に示すように、第1の実施の形態の情報処理システムは、少なくとも一つの眼鏡型携帯端末(以下、スマートグラスと言う)1と、少なくとも一つのMFP2と、無線LAN(Local Area Network)のアクセスポイント装置3とを有している。スマートグラス1は、携帯端末の一例である。MFP2は、電子機器の一例である。
一例ではあるが、スマートグラス1及びMFP2は、BLE(Bluetooth(登録商標) Low Energy)による直接通信、及び、無線LANのアクセスポイント装置3を介したLAN通信が可能となっている。スマートグラス1と無線LANのアクセスポイント装置3との間は、IEEE(Institute of Electrical and Electronics Engineers)802.11b等のWi−Fi(登録商標)規格に準拠した無線通信を行う。また、MFP2と無線LANのアクセスポイント装置3は、イーサネット(登録商標)に接続されており、IEEE802.3規格に準拠した通信プロトコルを使用した通信を行う。
(スマートグラスのハードウェア構成)
図2に、スマートグラス1のハードウェア構成を示すブロック図である。この図2に示すようにスマートグラス1は、操作部9.中央演算部(CPU)10、メインメモリ12、フラッシュメモリ13、第1の通信部14、第2の通信部16、表示制御部18及び表示部19を有している。表示制御部18及び表示部19は、画面情報提供部の一例となっている。
CPU10は、フラッシュメモリ13に記憶されたOS(Operating System)及び情報処理プログラムを実行し、所定の情報処理を行う。メインメモリ12としては、例えばDRAM(Dynamic Random Access Memory)が設けられている。メインメモリ12は、CPU10のワークエリアとして使用され、また、MFP2から受信する画面データを一時的に記憶する。フラッシュメモリ13は、電源オン時のシステム立ち上げ、スマートグラス1の機能を実現するための各種プログラム、及び各種情報処理に必要なデータを記憶する。
第1の通信部14は、BLE通信を行う通信部となっており、BLE規格に準拠した無線通信プロトコルに基づいて、アンテナ15を介してMFP2との間の無線通信を行う。第2の通信部16は、Wi−Fi(登録商標)通信を行う通信部となっており、例えばIEEE802.11b規格に準拠した無線通信プロトコルに基づいて、アンテナ17を介して無線LANのアクセスポイント装置3との間で無線通信を行う。第1の通信部14及び第2の通信部16は、端末側通信部の一例となっている。
表示制御部18は、文字及びグラフィックデータ等を、例えばLCD(Liquid Crystal Display)又は有機EL(Electro-Luminescence)等の表示部19に表示制御する。後述するが、表示部19上に形成された画面情報は光学像とされ、スマートグラス1の反射部(図3の符号34)に照射される。そして、光学像は、スマートグラス1の反射部を介して目の網膜に到達することで人間に認識される。
(外観構成)
図3に、スマートグラス1の外観構成を示す。この図3からわかるように、スマートグラス1は、眼鏡型を有しており、右目用及び左目用の各リム部30を有している。各リム部30には、それぞれレンズ部31が嵌め込まれている。また、各レンズ部31の略中央周辺部は、例えばハーフミラー又はホログラム等の反射部34となっている。また、各リム部30には、それぞれ右耳用及び左耳用の耳掛け部32が設けられている。各耳掛け部32には、後述する投影部33が設けられている。投影部33により形成された光学像は、反射部34により反射され人間の目に出射される。投影部33は、画面情報提供部の一例である。
(投影部の構成)
図4は、各耳掛け部32に設けられている投影部33の構成を示す図である。投影部33は、いわゆる透過型の投影部となっており、図4に示すようにLCD又は有機EL等の表示部44(上述の表示部19に相当)、バックライト42及び導光板43を有している。制御回路41は、バックライト42を点灯駆動すると共に、表示部44を表示制御する。バックライト42からの光は、導光板43を介して表示部44の裏面全体に照射される。これにより、表示部44に表示された画像に対応する光学像が、表示部44の表面から出射され、出射レンズ45を介してレンズ部31の反射部34に照射される。反射部34は、この照射光(光学像)を人間の目に向けて反射する。これにより、光学像が目の網膜に到達し、表示部44に表示された画像等が人間に認識される。
なお、この実施の形態の場合、投影部33として、透過型の投影部を設けることとしたが、投影部33として、反射型の投影部を設けてもよい。この場合、光源からの光を表示部44に照射し、これにより得られる反射光を、レンズ部31の反射部34を介して人間の目に向けて反射する構成となる。このような反射型とした場合でも、透過型と同様に、表示部44に表示された表示物を人間の目で視認することができる。
(スマートグラスのソフトウェア構成)
図5に、スマートグラス1のソフトウェア構成となる機能ブロック図を示す。図2に示したCPU10は、フラッシュメモリ13に記憶されている情報処理プログラムを実行することで、図5に示す各機能を実現する。具体的には、CPU10は、情報処理プログラムを実行することで、BLE通信を行う第1の通信制御部50、及び、表示部44(表示部19)に表示する表示データを取得する取得部51の各機能を実現する。また、CPU10は、情報処理プログラムを実行することで、Wi−Fi(登録商標)通信を行う第2の通信部52、及び、表示部44(表示部19)に対して画像等を表示する表示制御部53の各機能を実現する。
また、操作部9は、例えば耳掛け部32に設けられたハードウェアキーとなっており、ユーザは、操作部9を接触操作又は押し下げ操作することで、スマートグラス1に対する所望の画像の表示等を指示するようになっている。CPU10は、情報処理プログラムを実行することで、操作部9を介して行われたこのようなユーザの入力操作を処理する操作処理部54を実現する。また、CPU10は、情報処理プログラムを実行することで、スマートグラス1の機器種別及び表示画素数等の各種情報を、メインメモリ12又はフラッシュメモリ13に記憶制御する記憶制御部55を実現する。
なお、この例では、第1の通信制御部50〜記憶制御部55をソフトウェアで実現することとしたが、第1の通信制御部50〜記憶制御部55のうち、一部又は全部を、IC(Integrated Circuit)等のハードウェアで実現してもよい。
また、第1の通信制御部50〜記憶制御部55の各機能をCPU10に実現させる情報処理プログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)などのコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、CD−R、DVD(Digital Versatile Disk)、ブルーレイディスク(登録商標)、半導体メモリなどのコンピュータ装置で読み取り可能な記録媒体に記録して提供してもよい。また、情報処理プログラムは、インターネット等のネットワーク経由でインストールするかたちで提供してもよい。また、情報処理プログラムは、携帯端末内のROM等に予め組み込んで提供してもよい。
(MFPのハードウェア構成)
次に、図6は、MFP2のハードウェア構成を示すブロック図である。この図6に示すように、MFP2は、CPU60、メインメモリ61、フラッシュメモリ62、バスコントローラ64、PCI(Peripheral Component Interconnect)ブリッジ65、キャッシュメモリ66、スキャナ部70及びプリント部72を有している。また、MFP2は、ハードディスクドライブ74、有線LAN通信部75、LANインタフェース(LANI/F)76、第1の通信部77、第2の通信部87、ハードキー80、タッチパネル82、及び、RTC(Real Time Clock)83を有している。タッチパネル82は、表示部及び操作部の一例である。
CPU60は、フラッシュメモリ62に記憶されたOS及び情報処理プログラムを実行し、所定の情報処理を行う。メインメモリ61としては、例えばDRAMが設けられており、CPU60のワークエリア等で使用される。フラッシュメモリ62は、電源を切ってもデータが消去されない不揮発性メモリとなっており、電源オン時のシステム立ち上げ、及び、MFP2の機能を実現するための各種プログラムが記憶されている。また、フラッシュメモリ62には、プログラムの実行時に参照されるスイッチ及びパラメータ等のデータも記憶されている。
バスコントローラ64は、CPUバス84とバス86でのデータ転送を制御する。PCIブリッジ65は、キャッシュメモリ66を使用して、PCIバス85とCPU60との間のデータ転送を行う。例えばDRAMであるキャッシュメモリ66は、PCIブリッジ65により使用される。スキャナ部70は、例えば1次元配列されたLED(Light Emitting Diode)アレイを光源として、カラーCCDラインセンサにより紙面画像を読み取る。そして、カラーCCD(Charge Coupled Device)ラインセンサから出力されるR(赤)、G(緑)、B(青)の各アナログ画像信号をデジタル化した画像データを生成する。また、スキャナ部70は、RGBの各画像データに基づいて、色差成分(Cb,Cr)の画像データ及び輝度成分(Y)の画像データを生成し、例えばJPEG(Joint Photographic Experts Group)に準拠した圧縮(符号化)処理を施した画像データを生成する。
プリント部72は、シアン、マゼンタ、イエロー、ブラックのトナーを使用して、紙面にカラー画像又はモノクロ画像をプリントする。HDD74は、スキャナ70から入力された画像データ又はネットワーク(イーサネット(登録商標))を介して受信した画像データ等を記憶する。
有線LAN通信部75は、例えばIEEE802.3規格に準拠した通信プロトコルを実行し、イーサネット(登録商標)に接続された他の機器との通信を、LANI/F76を介して制御する。第1の通信部77は、BLE通信部となっており、BLE規格に準拠した無線通信プロトコルを実行して、アンテナ78を介して他の機器との無線通信を行う。第2の通信部87は、Wi−Fi(登録商標)通信部となっており、例えばIEEE802.11b規格に準拠した無線通信プロトコルを実行して、アンテナ88を介して他の機器との無線通信を行う。有線LAN通信部75、第1の通信部77及び第2の通信部87は、機器側通信部の一例である。
ハードキー80は、MFP2の操作部又は筐体等に物理的に設けられた入力ボタンである。一例ではあるが、タッチパネル82は、LCD表示部上に透明電極等で形成された透明電導膜を張り合わせた静電容量方式のタッチパネルとなっている。タッチパネル82には、CPU60により、MFP2の操作メニュー等が表示される。CPU60は、ユーザにより接触操作されたタッチパネル82上の座標位置に基づいて、ユーザの入力操作を特定し、対応する情報処理を行う。RTC83は、日付時計となっており、図示していないバッテリーによりバックアップされ、現在時刻を計時する。
(MFPのソフトウェア構成)
図7は、MFP2のソフトウェア構成を示す機能ブロック図である。MFP2のCPU60は、フラッシュメモリ62に記憶された情報処理プログラムを実行することで、第1の通信制御部90、入力処理部91、有線LAN通信制御部92、制御部の一例である表示制御部93、画面データ送信部94、画面データ生成部95、記憶制御部96、及び、第2の通信制御部97を実現する。
第1の通信制御部90は、BLE通信制御部となっており、図6に示す第1の通信部77のBLE通信を制御する。入力処理部91は、タッチパネル82の接触操作位置を検出する。有線LAN通信制御部92は、有線LAN通信部75における、IEEE802.3規格に準拠した通信プロトコルを実行、制御する。表示制御部93は、タッチパネル82に対して画面データを表示制御する。
画面データ送信部94は、タッチパネル82に表示する画面データを、HTTP(Hypertext Transfer Protocol)通信により、スマートグラス1に送信する。画面データ生成部95は、機器の状態及び操作手順に従ってタッチパネル82に表示するための画面データを生成する。また、画面データ生成部95は、画面データの送信先となるスマートグラス1の表示画素数に合わせて、送信する画面データのデータサイズを縮小処理する。
記憶制御部96は、メインメモリ61、フラッシュメモリ62又はHDD74等の記憶部に対して機器種別、各種設定情報等を記憶制御する。第2の通信制御部97は、例えばIEEE802.11b規格に準拠した無線通信プロトコルを実行して、Wi−Fi(登録商標)通信を行う第2の通信部87を通信制御する。
(システム動作)
次に、スマートグラス1を介してMFP2を操作する場合における実施の形態の情報処理システムのシステム動作を、スマートグラス1及びMFP2に分けて説明する。図8のフローチャートが、スマートグラス1の動作の流れを、図9のフローチャートが、MFP2の動作の流れを示している。
(スマートグラスの動作)
MFP2を操作する場合、ユーザは、スマートグラス1を装着してMFP2の前に移動する。そして、ユーザは、スマートグラス1と他の機器との連携動作を行うべく、BLE通信機能及びWi−Fi通信機能をオン状態とするように、図2に示す操作部9に設けられているスマートグラス1の通信ボタンをオン操作する。図8のフローチャートのステップS1では、図5に示す操作処理部54が、通信開始操作の有無(通信ボタンのオン操作の有無)を監視している。操作処理部54により、通信ボタンのオン操作が検出されると(ステップS1:Yes)、処理がステップS2に進む。なお、BLE通信機能及びWi−Fi通信機能を、常にオン状態としてもよい。この場合、スマートグラス1に設ける通信ボタンを不要とすることができる。
ステップS2では、図5に示す第1の通信制御部50が、図2に示す第1の通信部14を制御して、BLE通信機能をオン制御する。また、ステップS2では、図5に示す第2の通信制御部52が、図2に示す第2の通信部16を制御して、Wi−Fi通信機能をオン制御する。
スマートグラス1の第1の通信制御部50はオン制御されることで、BLE通信のマスター端末として動作し、MFP2から断続的に送信されている、MFP2の周囲の端末からBLE通信が可能な端末を探すためのアドバタイズメントパケットの受信待ちとなる。ステップS3では、スマートグラス1の第1の通信制御部50が、MFP2から送信されたアドバタイズメントパケットの受信待ちの状態となる。第1の通信制御部50により、MFP2から送信されたアドバタイズメントパケットが受信されると(ステップS3:Yes)、処理がステップS4に進む。
アドバタイズメントパケットには、アドバタイズメントパケットを送信している機器の種別を示す情報(発信元を示す情報:この場合は、MFP2を示す情報)が含まれている。第1の通信制御部50が、受信したアドバタイズメントパケットを解析することで、アドバタイズメントパケットを発信している機器がMFP2であることを認識する。そして、第1の通信制御部50は、ステップS4において、BLE通信によりスキャン要求パケットをMFP2に送信し、MFP2から返信されたスキャン応答パケットを受信する。ステップS5では、第1の通信制御部50が、MFP2から返信されたスキャン応答パケットの受信の有無を判別する。第1の通信制御部50が、MFP2からスキャン応答パケットを受信したと判別することで(ステップS5:Yes)、処理がステップS6に進む。
ステップS6では、第1の通信制御部50が、第1の通信であるBLE通信の接続要求信号(CONNECT_REQ PDU)をMFP2に送信して、MFP2とBLEで接続する。ステップS7では、第1の通信制御部50が、MFP2とGATT(General Attribute Profile)によるATT(Attribute)プロトコルを実行して、MFP2のIPアドレス情報、無線LANのアクセスポイント装置3のSSID(Service Set Identifier)、Wi−Fi通信回線を確立するためのセットアップ情報等のWi−Fi通信に必要な情報をMFP2から取得する。
図5に示す第2の通信制御部52は、BLE通信で取得されたMFP2のIPアドレス情報及びWi−Fi通信回線を確立するためのセットアップ情報に基づいて、MFP2との間にWi−Fi通信回線を確立する。Wi−Fi通信回線が確立されると、記憶制御部55は、ステップS8において、例えば図2に示すメインメモリ12等の記憶部に予め記憶されているスマートグラス1の表示部19の表示画素数を示す情報及び機器種別情報を読み出す。そして、ステップS8において、Wi−Fi通信を行う第2の通信制御部52が、記憶部から読み出された表示画素数を示す情報及び機器種別情報を、HTTP(Hyper Text Transfer Protocol)のPOSTリクエストを使用してMFP2に送信する。
次にステップS9では、スマートグラス1の取得部51が、第2の通信制御部52を介して、タッチパネル82に表示する画面データの取得要求メッセージを、HTTPのGETリクエストを使用してMFP2に送信する。
MFP2は、画面データの取得要求メッセージを受信すると、スマートグラス1の表示画素数に対応する大きさの画面データを生成し、生成した画面データを、HTTPの応答メッセージに添付してスマートグラス1へ送信する。この際、MFP2は、タッチパネル82には、画面データの表示は行わない。ただ、タッチパネル82に対する画面データの表示は行わないのであるが、タッチパネル82に画面データ(=スマートグラス1に送信した画面データ)を表示した場合における操作ボタン等の表示位置(座標位置)は認識している。また、タッチパネル82の接触操作検出機能は有効となっている。すなわち、ユーザは、後述するように、スマートグラス1に表示されたタッチパネル82の画面を見ながら、MFP2のタッチパネル82を操作することで、所望の動作をMFP2に指示するようになっている。
スマートグラス1は、図2に示す第2の通信部16を介して、MFP2から送信された画面データを受信する。図5に示す取得部51は、ステップS10において、MFP2から受信した応答メッセージに画面データが存在するか否かを判別する。取得部51により、MFP2から受信した応答メッセージに画面データが存在しないと判別された場合(ステップS10:No)、ステップS12に処理が進む。
これに対して、取得部51により、MFP2から受信した応答メッセージに画面データが存在すると判別された場合(ステップS10:Yes)、ステップS11に処理が進む。ステップS11では、図5に示す表示制御部53(図2に示す表示制御部18に相当)が、図4を用いて説明した透過型の投影部33の表示部44に、MFP2から送信された画面データを表示制御する。これにより、投影部33において、MFP2から送信された画面データに対応する光学像が形成される。画面データに対応する光学像が、スマートグラス1のレンズ部31に設けられた反射部34により反射されてユーザの目の網膜に到達する。これにより、表示部44に表示された画面データがユーザに認識される。
ユーザは、スマートグラス1に表示されるMFP2の画面を見ながら、MFP2のタッチパネル82を接触操作して、MFP2に対して所望の動作を指定する。上述のように、MFP2のタッチパネル82は、画面表示は行われないのであるが、ユーザの接触操作は検出可能な状態となっている。また、MFP2は、現在、スマートグラス1に表示されている画面を認識しており、この画面をタッチパネル82に表示した場合における操作ボタンのタッチパネル82上の座標位置等も認識している。このため、MFP2は、スマートグラス1に表示されるMFP2の画面を見ながら接触操作されるタッチパネル82上の座標位置に基づいて、ユーザにより操作されたボタン等を認識し、ユーザに指定された動作を行う。
次に、図5に示すスマートグラス1の取得部51は、ステップS12において、例えば1秒等の所定の時間をカウントし、所定時間が経過した際に(ステップS12:Yes)、ステップS9に処理を戻す。そして、ステップS9において、上述のようにHTTPのGETリクエストを使用して、第2の通信制御部52を介して、MFP2に画面データの取得要求メッセージを送信する。これにより、所定時間毎に画面データの取得要求メッセージがMFP2に送信される。
MFP2は、画面データの取得要求メッセージを受信すると、前回、スマートグラス1へ送信した画面データと現在の画面データとを比較して、差異がある場合に、現在の画面データをHTTPの応答メッセージを使用してスマートグラス1へ送信する。なお、前回及び現在の各画面データの間に差異が無い場合、MFP2は、画面データを含まないHTTPの応答メッセージをスマートグラス1へ送信する。
(MFPの動作)
以上は、スマートグラス1側を主体としたシステム動作の説明であったが、以下、MFP2を主体としたシステム動作の説明を行う。MFP2を主体としたシステム動作の流れを、図9のフローチャートに示す。まず、図9のフローチャートのステップS21では、MFP2の種別を示す情報を含むアドバタイズメントパケットを断続的に送信するように、図7に示すBLE通信を行う第1の通信制御部90が、図6に示す第1の通信部77を制御する。
スマートグラス1は、アドバタイズメントパケットを受信すると、BLE通信によりスキャン要求パケットをMFP2に送信する。ステップS22では、図7に示すMFP2の第1の通信制御部90が、スマートグラス1からスキャン要求パケットを受信したか否かを判別する。第1の通信制御部90により、スマートグラス1からスキャン要求パケットを受信したと判別された場合、第1の通信制御部90は、ステップS23において、スキャン応答パケットをスマートグラス1に送信する。
次に、ステップS24では、第1の通信制御部90が、スマートグラス1から第1の通信であるBLE通信の接続要求信号(CONNECT_REQ PDU)を受信する。続いて、第1の通信制御部90は、スマートグラス1とGATTによるATTプロトコルを実行して、例えばMFP2のIPアドレス情報、無線LANのアクセスポイント装置3のSSID(Service Set Identifier)、Wi−Fi通信回線を確立するためのセットアップ情報等のWi−Fi通信に必要な情報をスマートグラス1に送信する。
スマートグラス1は、BLE通信で取得されたMFP2のIPアドレス情報及びWi−Fi通信回線を確立するためのセットアップ情報に基づいて、MFP2との間にWi−Fi通信回線を確立する。そして、スマートグラス1は、Wi−Fi通信回線が確立されると、スマートグラス1の表示部19の表示画素数を示す情報及び機器種別情報を、HTTP(Hyper Text Transfer Protocol)のPOST(Power-On Self-Test)リクエストを使用してMFP2に送信する。スマートグラス1からWi−Fi通信回線を介して送信された表示画素数を示す情報及び機器種別情報は、図1に示すアクセスポイント装置3により受信され、イーサネット(登録商標)を介してMFP2に送信される。そして、MFP2の有線LAN通信制御部92により受信される。
ステップS25では、MFP2の有線LAN通信制御部92が、スマートグラス1から送信された表示画素数を示す情報を、イーサネット(登録商標)等のLAN経由で受信したか否かを判別する。有線LAN通信制御部92により、スマートグラス1から送信された表示画素数を示す情報を、イーサネット(登録商標)等のLAN経由で受信したと判別された場合、処理がステップS26に進む。
スマートグラス1は、表示画素数を示す情報を送信すると、MFP2のタッチパネル82に表示する画面データの取得要求メッセージを、HTTPのGETリクエストを使用してMFP2に送信する。ステップS26では、有線LAN通信制御部92が、スマートグラス1から画面データの取得要求メッセージを受信したか否かを判別する。スマートグラス1から画面データの取得要求メッセージを受信したことが判別されると(ステップS26:Yes)、ステップS27に処理が進む。
ステップS27では、画面データ生成部95が、前回、スマートグラス1へ送信した画面データと現在の画面データとを比較して、差異があるか否か(画像データの更新の有無)を判別する。前回及び現在の各画面データの間に差異が存在する場合(ステップS27:Yes)、ステップS28に処理が進む。ステップS28では、画面データ生成部95が、スマートグラス1から受信した、スマートグラス1側の表示画素数を示す情報に基づいて、スマートグラス1側の表示画素数が、MFP2側のタッチパネル82の表示画素数よりも少ないか否かを判別する。
スマートグラス1側の表示画素数が、MFP2側のタッチパネル82の表示画素数よりも少ない場合(ステップS28:Yes)、画面データ生成部95が、ステップS29において、スマートグラス1の表示画素数に合致した画素数となるように、画面データの画素数を間引き処理して縮小する。そして、ステップS30において、画面データ送信部94が、縮小した画面データを、HTTPの応答メッセージを使用してスマートグラス1へ送信する。なお、前回及び現在の各画面データの間に差異が無い場合、画面データ送信部94は、画面データを含まないHTTPの応答メッセージをスマートグラス1へ送信する。
(第1の実施の形態の効果)
以上の説明から明らかなように、第1の実施の形態の情報処理システムは、スマートグラス1を装着してMFP2を操作する場合、MFP2のタッチパネル82の接触操作検出機能を有効にした状態で、画面データは非表示とすると共に、タッチパネル82に表示する画面データをスマートグラス1に送信する。そして、スマートグラス1側で、MFP2のタッチパネル82に表示される画面データを表示する。ユーザは、スマートグラス1に表示された画面データを見ながらMFP2のタッチパネル82を操作する。
これにより、スマートグラス1にMFP2の画面データを送信している場合は、MFP2のタッチパネル82に対する画面データを非表示とすることができる。このため、スマートグラス1及びMFP2のタッチパネル82の両方に画面データが表示されることで、ユーザにとって画面データが二重に見え、タッチパネル82が操作し難くなる不都合を防止できる。また、スマートグラス1にMFP2の画面データを送信している場合は、MFP2のタッチパネル82に対する画面データを非表示とすることで、無駄な表示を防止でき、MFP2の節電を図ることができる。また、MFP2のタッチパネル82に対する画面データを非表示とすることができるため、MFP2の表示内容を他人から盗み見される不都合を防止でき、セキュリティの向上を図ることができる。
(第1の実施の形態の変形例)
上述の第1の実施の形態の説明では、スマートグラス1とMFP2は、無線LANのアクセスポイント装置3を介した通信を行うこととした。しかし、図10に示すようにMFP2にWi−Fi通信を行う第2の通信部87を設け(図6参照)、無線LANアクセスポイント3を使用せずに、直接的なWi−Fi通信により、スマートグラス1とMFP2が通信を行うようにしてもよい。
一例ではあるが、スマートグラス1及びMFP2間で直接的なWi−Fi通信を可能とする場合、Wi−Fiダイレクト通信を用いることができる。これにより、上述の第1の実施の形態と同様の効果を得ることができる。
(第2の実施の形態)
次に、第2の実施の形態の情報処理システムの説明をする。上述の第1の実施の形態におけるスマートグラス1の投影部33は、MFP2の画面データに対応する光学像を生成して、ユーザの目に照射する例であった。これに対して、第2の実施の形態の情報処理システムは、画面データに対応するレーザ光でユーザの網膜を走査することで、弱視者等の視力障害者でもMFP2にタッチパネル82に表示される画面データを視認可能とし、視力障害者に対する支援を可能とした例である。
なお、上述の第1の実施の形態と以下に説明する第2の実施の形態とでは、この点のみが異なる。このため、以下、両者の差異のみ説明を行い、重複した説明は省略する。
(第2の実施の形態のスマートグラスの構成)
図11に、第2の実施の形態の情報処理システムに設けられているスマートグラス1のブロック図を示す。上述の図2と図11を見比べてわかるように、第2の実施の形態の場合、スマートグラス1は、上述の表示制御部18及び表示部19を有する投影部33に代えて、レーザコントローラ110、レーザ光源111、及び、走査ミラー112を備えた投影部を有している。レーザコントローラ110、レーザ光源111、及び、走査ミラー112は、画面情報提供部の一例である。
図12は、第2の実施の形態のスマートグラス1に設けられている投影部の構成を示す斜視図である。この図12において、レーザコントローラ110は、MFP2から取得した画像データ(タッチパネル82に表示する画像データ)に基づいて、半導体レーザであるレーザ光源111を駆動制御する。レーザ光源111は、レーザコントローラ110の制御に応じて、弱視者等の網膜を走査するための微弱なレーザ光を出射する。
集光レンズ113は、レーザ光源111から出射された赤緑青(RGB)のレーザ光を集光して走査ミラー112に照射する。走査ミラー112は、MEMS(Micro Electro Mechanical Systems)ミラーとなっており、MFP2の画面データに対応する赤緑青(RGB)のレーザ光で弱視者等の網膜を走査するための走査光を生成する。走査ミラー112で生成された走査光は、レンズ部31の反射部34により反射され、弱視者等の目の網膜115で収束する。これにより、弱視者等の目の網膜115が、MFP2の画面データに対応するレーザ光で走査され、弱視者等が、いわゆる残像効果により、MFP2の画面データを視認することができる。
(第2の実施の形態のMFPの構成)
図13に、第2の実施の形態の情報処理システムに設けられているMFP2のハードウェア構成となるブロック図を示す。図6及び図13を見比べてわかるように、第2の実施の形態の情報処理システムの場合、MFP2は、第1の実施の形態の構成に加え、ICカード151に記憶されている情報の読み取り(及び書き込み)を行うリーダライタ150を有している。
また、図14に、第2の実施の形態の情報処理システムに設けられているMFP2のソフトウェア構成となる機能ブロック図を示す。図7及び図14を見比べてわかるように、第2の実施の形態の情報処理システムの場合、MFP2は、第1の実施の形態の構成に加え、ユーザ認証部160及びリーダライタ制御部161を有している。なお、ユーザ認証部160及びリーダライタ制御部161の各機能は、上述と同様に、MFP2のCPU60が、情報処理プログラムを実行することで実現される機能となっている。
(第2の実施の形態の動作)
図13に示すリーダライタ150は、例えば半径が10cm程度の磁界を常に発生しており、社員カードとなっているICカード151が近接操作されると、例えば13.56MHzの周波数帯を使用した通信を行うことで、ICカード151から社員識別情報(社員ID)を受信する。図14に示すリーダライタ制御部161は、ICカード151から社員IDを受信するようにリーダライタ150を制御する。
図13に示すメインメモリ61又はフラッシュメモリ62等の記憶部には、各社員の社員IDに対して、例えば氏名、性別、入社年月日、所属部署等の社員情報が関連付けられて記憶された認証データベース(認証DB)が記憶されている。また、弱視者等の視覚障害者であることを示す情報も、社員情報(ユーザ情報の一例)として社員IDに関連付けられて認証DBに記憶されている。
ICカード151から社員IDが読み出されると、図14に示すユーザ認証部160は、読み出された社員IDに基づいて認証DBを参照し、読み出された社員IDに対応するユーザが、認証DBに登録されている正規のユーザであるか否かを判別する。また、ユーザ認証部160は、認証DBを参照することで、読み出された社員IDに対応するユーザが、弱視者等の視覚障害者であるか否かを判別する。
ユーザ認証部160により、正規のユーザであることが認証され、かつ、弱視者等の視覚障害者であることが判別された場合、画面データ生成部95は、「視覚支援モード」に移行し、MFP2の操作画面を構成するボタンの数を削減し、かつ、ボタンを通常よりも大きく表示した画面データを生成する。なお、表示制御部93は、「視覚支援モード」に移行しない場合は、タッチパネル82に画面データを表示するが、「視覚支援モード」に移行した場合には、第1の実施の形態と同様にタッチパネル82に対して画面データを非表示とする。
図15は、通常の操作画面の一例を示す図である。これに対して、図16は、視覚支援モード時に生成される操作画面の一例を示す図である。通常、図15に示すように印刷部数、カラー、片面/両面印刷設定、集約、及び、用紙トレイの各設定項目を操作画面上に表示する表示形態となっている。また、通常、これらの設定項目と共に、設定されている印刷部数(1枚)、設定されている印刷カラー(白黒印刷)、片面/両面印刷設定(片面印刷)、集約処理(しない)、及び、用紙トレイの選択(自動選択)等の、現在の設定情報を、操作画面上に表示する表示形態となっている。
これに対して、「視覚支援モード」に移行すると、画面データ生成部95は、表示するボタンを、図16に示すように、例えば印刷部数(1枚)、印刷カラー(白黒のアイコン)、片面/両面印刷設定(片面)、及び、印刷開始ボタン(スタートボタン)の、計4つのボタンに削減すると共に、各ボタンを大きく表示する画面データを生成する。このような視覚支援モード時に生成される画面データで表示されるボタンは、使用頻度の高い機能のボタンが選択され表示される。なお、視覚支援モード時に生成される画面データで表示されるボタンは、ユーザが任意に選択可能としてもよい。
図14に示す画面データ送信部94及び有線LAN通信制御部92は、「視覚支援モード」で生成された画面データを、上述のように有線LAN通信部75を介してアクセスポイント装置3に送信する。これにより、画面データは、アクセスポイント装置3を介して、ユーザが装着しているスマートグラス1に無線送信される。
図11に示すスマートグラス1の第2の通信部16は、Wi−Fi通信によりアクセスポイント装置3から送信された、視覚支援が施された画面データを受信する。レーザコントローラ110は、MFP2から受信した視覚支援が施された画像データに基づいて、レーザ光源111を駆動制御する。レーザ光源111は、レーザコントローラ110の制御に応じて微弱なレーザ光を出射する。
集光レンズ113は、レーザ光源111から出射された赤緑青(RGB)のレーザ光を集光して走査ミラー112に照射する。MEMSミラーとなっている走査ミラー112は、MFP2の画面データに対応する赤緑青(RGB)のレーザ光でユーザの網膜を走査するための走査光を生成する。走査ミラー112で生成された走査光は、レンズ部31の反射部34により反射され、ユーザの目の網膜115で収束する。これにより、ユーザの目の網膜115が、MFP2の画面データに対応するレーザ光で走査され、弱視者等が、いわゆる残像効果により、MFP2の画面データを視認することができる。
図16が、弱視者等により視認されるMFP2の操作画面の一例である。上述のように、「視覚支援モード」においては、予め選択された設定項目の少数のボタン(画面情報のオブジェクトの一例)が、大きな表示面積で表示される。これにより、ユーザが弱視者等の視覚障害者であっても、MFP2の操作画面を視認することができ、MFP2のタッチパネル82を接触操作して、MFP2に対して所望の動作を指定することができる。
(第2の実施の形態の効果)
このような第2の実施の形態の情報処理システムは、MFP2の画面データに対応するレーザ光でユーザの網膜を走査する。これにより、弱視者等の視覚障害者であっても、MFP2の操作画面等を視認することができ、MFP2のタッチパネル82を接触操作して所望の動作を指定することができる。また、「視覚支援モード」においては、予め選択された設定項目の少数のボタンが、大きな表示面積で表示される。このため、弱視者等の視覚障害者であっても、MFP2の操作画面等を、より容易に視認可能とすることができる他、上述の第1の実施の形態と同様の効果を得ることができる。
(第2の実施の形態の変形例)
上述の第2の実施の形態の説明では、ICカード151から読み取った社員IDに基づいて認証DBを参照し、視覚障害者であることを識別した。しかし、弱視者等の視覚障害者用のスマートグラス1に対して、健常者用のスマートグラス1とは異なる機器種別情報(端末情報の一例)を付しておく。そして、スマートグラス1からMFP2に、視覚障害者用のスマートグラス1であることを示す機器種別を通知する。これにより、MFP2が視覚障害者用のスマートグラス1であることを認識して、「視覚支援モード」に移行してもよい。
(第3の実施の形態)
次に、第3の実施の形態の情報処理システムの説明をする。この第3の実施の形態の情報処理システムは、MFP2のタッチパネル82に表示しようとしている画面データが、セキュリティを有する画面データの場合に、タッチパネル82を非表示としてスマートグラス1にセキュリティを有する画面データを送信する例である。
なお、上述の各実施の形態と以下に説明する第3の実施の形態とでは、この点のみが異なる。このため、以下、両者の差異のみ説明を行い、重複した説明は省略する。
(第3の実施の形態のMFPの構成)
図17は、MFP2のCPU60が、情報処理プログラムを実行することで実現される各機能の機能ブロック図である。上述の図14と図17を見比べてわかるように、第3の実施の形態の場合、リーダライタ制御部161の代わりに、セキュリティ判断部180を有している。
図18は、第3の実施の形態の情報処理システムにおけるMFP2の動作の流れを示すフローチャートである。この図18のフローチャートのうち、ステップS21〜ステップS30の各処理は、図9のフローチャートのステップS21〜ステップS30と同じ動作となる。このため、図18のフローチャートのテップS21〜ステップS30の動作は、図9のフローチャートの説明を参照されたい。
図18のフローチャートで、図9のフローチャートに対して異なる処理は、ステップS41〜ステップS43の処理である。すなわち、前回、スマートグラス1へ送信した画面データと現在の画面データとを比較して差異がある場合、図17に示す画面データ生成部95が、ステップS27において、画面データが更新されていると判別し、処理がステップS41に進む。
ステップS41では、セキュリティ判断部180が、表示制御部93で表示しようとしている画面データにセキュリティ情報が含まれているか否かを判別する。具体的には、この第3の実施の形態の場合、各画面データには、それぞれ画面識別情報(画面ID)が付されている。また、図6に示すメインメモリ61又はフラッシュメモリ62等の記憶部には、セキュリティ情報を含む画面データの画面IDが記憶されたセキュリティIDデータベース(セキュリティIDDB)が設けられている。
セキュリティ判断部180は、表示制御部93で表示しようとしている画面データの画面IDと同じIDが、セキュリティIDDBに記憶されているか否かを判別し、この判別結果を表示制御部93に供給する。例えば、表示制御部93で表示しようとしている画面データが、ユーザ識別情報(ユーザID)及びパスワードの入力画面であり、セキュリティ情報を含む画面として、セキュリティIDDBに画面IDが記憶されているとする。この場合、セキュリティ判断部180は、ステップS41において、表示制御部93で表示しようとしている画面データは、セキュリティ情報を含む画面データであると判別し(ステップS41:Yes)、セキュリティ情報を含む画面データであることを示す判別結果を表示制御部93に送信する。
表示制御部93は、この判別結果を取得すると、ステップS42において、タッチパネル82の接触操作機能は有効とした状態でバックライトを消灯制御して、タッチパネル82を非表示状態とする。バックライトの消灯制御以外にも、セキュリティ情報を含む画面とは全く関連のない予め用意していた画面(例えば単に「入力中」と表示する画面や広告表示など)を重畳的に表示する制御などにより、セキュリティ情報を含む画面を非表示状態とする手段でもよい。そして、ユーザID及びパスワードの入力画面の画面データは、上述のステップS28及びステップS29で所定の画像処理が施され、ステップS30において、画面データ送信部94によりスマートグラス1に送信される。
これにより、ユーザが装着したスマートグラス1にユーザID及びパスワードの入力画面の画面データが表示される。ユーザは、スマートグラス1に表示される入力画面を見ながら、MFP2のタッチパネル82を接触操作して、ユーザID及びパスワードの入力を行う。この場合、第三者は、何の画像も表示されていないタッチパネル82に対して、スマートグラス1を装着して接触操作するユーザを見ることとなる。このため、ユーザは、第三者に入力画面を見られることなく、スマートグラス1に表示された入力画面に基づいて、MFP2のタッチパネルを操作して、ユーザID及びパスワードの入力を行うことができる。
一方、セキュリティ判断部180により画面データにセキュリティ情報が含まれていないと判別された場合(ステップS41:No)、表示制御部93は、ステップS43において、画面データをMFP2のタッチパネル82に表示する。この場合、画面データ送信部94は、セキュリティ情報が含まれていないと判別された画面データを、HTTPの応答メッセージに添付せずにスマートグラス1へ送信する。セキュリティ情報が含まれていない画面データをMFP2のタッチパネル82に表示しても、何ら問題はない。この場合、ユーザは、MFP2のタッチパネル82に表示される画面を見ながらタッチパネル82を接触操作して所望の動作をMFP2に指定する。
(第3の実施の形態の効果)
このような第3の実施の形態の情報処理システムは、MFP2のタッチパネル82に表示しようとしている画面データが、セキュリティを有する画面データの場合に、タッチパネル82を非表示としてスマートグラス1にセキュリティを有する画面データを送信する。ユーザは、スマートグラス1に表示される画面を見ながらMFP2のタッチパネル82を接触操作する。これにより、ユーザは、第三者に入力画面を見られることなく、スマートグラス1に表示された画面に基づいて、MFP2のタッチパネルを操作して、所望の入力操作を安全に行うことができる他、上述の各実施の形態と同様の効果を得ることができる。
最後に、上述の各実施の形態は、一例として提示したものであり、本発明の範囲を限定することは意図していない。この新規な実施の形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことも可能である。
例えば、表示部及び操作部を有していれば、MFP2の代わりに、どのような電子機器を用いてもよい。
また、上述のCPU10及びCPU60としては、ソフトウェアによって各機能を実行するようプログラムされたプロセッサ、及び、各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、IC(Integrated Circuit)又は回路モジュールなどのハードウェアを含むものとする。
また、上述の各実施の形態は、情報処理技術分野における通常の知識を有した技術者であれば、ASIC(Application Specific Integrated Circuits)や、従来の回路モジュールを接続して構成した装置によって実施することが可能である。
また、上述の各実施の形態に記載された各機能は、それぞれ、一又は複数の処理回路(Circuit)によって実現することが可能である。なお、ここで、本明細書における「処理回路」とは、ソフトウェアによって各機能を実行するようプログラムされたプロセッサ、各機能を実行するよう設計されたASIC及び回路モジュール等のハードウェアを含むものとする。
また、スマートグラス1は、例えば画像形成装置など電子機器たる外部装置に対して、上述の近距離無線通信(BLE通信)を介して通信可能な携帯通信端末として機能し、スマートフォン、タブレット端末、又はウェアラブルデバイス等のいわゆるスマート端末とも呼ばれるデバイスと同様である。スマートフォンとは、携帯電話としての通話機能のほか、カメラ装置による撮像機能、パーソナルコンピュータ装置のようなWeb情報表示機能など多機能を備える端末、タブレット端末とは、スマートフォンと同様に多機能端末として機能するタブレット型の端末というのが典型である。しかし、本明細書では、これらスマート端末の部類に数えられる眼鏡型の端末として、便宜上、スマートグラスと称するが、眼鏡のようにユーザの頭部に装着され得る形態のものが典型であり、ユーザゴーグルなど称呼は問わず、含みうるものとする。
このような実施の形態及び実施の形態の変形は、発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
1 スマートグラス
2 複合機(MFP)
3 無線LANのアクセスポイント装置
9 操作部
10 CPU
12 メインメモリ
13 フラッシュメモリ
14 第1の通信部(BLE通信部)
16 第2の通信部(Wi−Fi通信部)
18 表示制御部
19 表示部
30 リム部
31 レンズ部
32 耳掛け部
33 投影部
34 反射部
41 制御回路
42 バックライト
43 導光板
44 表示部
45 出射レンズ
50 第1の通信制御部
51 取得部
52 第2の通信制御部
53 表示制御部
54 操作処理部
55 記憶制御部
60 CPU
61 メインメモリ
62 フラッシュメモリ
66 キャッシュメモリ
70 スキャナ部
72 プリント部
74 ハードディスクドライブ(HDD)
75 有線LAN通信部
76 LANインタフェース(LANI/F)
77 第1の通信部
80 ハードキー
82 タッチパネル
87 第2の通信部
90 第1の通信制御部
91 入力処理部
92 有線LAN通信制御部
93 表示制御部
94 画面データ送信部
95 画面データ生成部
96 記憶制御部
97 第2の通信制御部
110 レーザコントローラ
111 レーザ光源
112 走査ミラー
113 集光レンズ
115 目の網膜
150 リーダライタ
151 ICカード
160 ユーザ認証部
161 リーダライタ制御部
180 セキュリティ判断部
特開2001−282404号公報

Claims (22)

  1. 電子機器と、前記電子機器との間で通信を行う携帯端末とを有する情報処理システムであって、
    前記電子機器は、
    画面情報を表示する表示部と、
    所定の入力操作を行うための操作部と、
    前記携帯端末に前記画面情報を送信する際に、前記入力操作を受け付け可能な状態に前記操作部を制御し、前記画面情報を表示しない状態に前記表示部を制御する制御部と、
    前記画面情報を前記携帯端末に送信する機器側通信部と、を備え、
    前記携帯端末は、
    前記電子機器と通信を行うことで、前記機器側通信部から送信された前記画面情報を受信する端末側通信部と、
    受信した前記画面情報を視認可能な形態で提供する画面情報提供部と、を備えること
    を特徴とする情報処理システム。
  2. 前記端末側通信部は、前記機器側通信部との間で第1の通信方式の通信を行うことで、前記機器側通信部から第2の通信方式の通信回線を確立するための回線確立情報を取得し、
    前記機器側通信部は、前記回線確立情報を用いて前記端末側通信部との間に確立された前記第2の通信方式の通信回線を用いて、アクセスポイント装置を介した有線通信、又は、アクセスポイント装置を介さずに直接的に行う無線通信により、前記画面情報を前記携帯端末に送信すること
    を特徴とする請求項1に記載の情報処理システム。
  3. 前記画面情報は、セキュリティの有無を示すセキュリティ情報を含み、
    前記電子機器は、前記携帯端末に送信する前記画面情報に含まれる前記セキュリティ情報が、セキュリティを有することを示す場合に、前記制御部が、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、前記機器側通信部が、セキュリティを有する前記画面情報を前記携帯端末に送信すること
    を特徴とする請求項1又は請求項2に記載の情報処理システム。
  4. 前記画面情報に含まれるセキュリティを有することを示すセキュリティ情報が、ユーザ識別情報又はパスワードの入力画面を含む前記画面情報であることを示すセキュリティ情報であった場合、前記電子機器は、前記制御部が、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、前記機器側通信部が、セキュリティを有する前記画面情報を前記携帯端末に送信することにより、前記表示部に前記画面情報を表示しない状態のまま、前記携帯端末において前記画面情報を表示すること
    を特徴とする請求項3に記載の情報処理システム。
  5. 前記電子機器は、
    ユーザ情報又は前記携帯端末の端末情報を取得する情報取得部を、さらに備え、
    前記制御部は、前記情報取得部により取得された前記ユーザ情報又は前記端末情報に応じて、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記機器側通信部は、前記画面情報を前記携帯端末に送信すること
    を特徴とする請求項1又は請求項2に記載の情報処理システム。
  6. 前記携帯端末は、前記電子機器から受信した前記画面情報に基づいて、反射方式又は透過方式で生成した光学像をユーザの目に照射することで、前記画面情報を視認させる眼鏡型端末であること
    を特徴とする請求項1から請求項5のうち、いずれか一項に記載の情報処理システム。
  7. 前記携帯端末は、前記電子機器から受信した前記画面情報に基づいて、所定のレーザ光でユーザの目の網膜を走査することで、前記画面情報を視認させる眼鏡型端末であること
    を特徴とする請求項1から請求項5のうち、いずれか一項に記載の情報処理システム。
  8. 前記携帯端末は、前記電子機器から受信した前記画面情報に基づいて、所定のレーザ光でユーザの目の網膜を走査することで、前記画面情報を視認させる眼鏡型端末であり、
    前記電子機器の制御部は、前記情報取得部で取得された前記ユーザ情報が視覚障害者であることを示し、又は、前記情報取得部で取得された前記端末情報が、視覚障害者により装着される前記眼鏡型端末であることを示す場合に、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、前記機器側通信部が、前記画面情報を前記携帯端末に送信すること
    を特徴とする請求項5に記載の情報処理システム。
  9. 前記電子機器の制御部は、前記情報取得部で取得された前記ユーザ情報が視覚障害者であることを示し、又は、前記情報取得部で取得された前記端末情報が、視覚障害者により装着される前記眼鏡型端末であることを示す場合、前記携帯端末に送信する前記画面情報として、一度に表示するオブジェクトの数を削減すると共に、表示するオブジェクトの表示サイズを拡大した前記画面情報を生成すること
    を特徴とする請求項8に記載の情報処理システム。
  10. 電子機器の制御部が、表示部に表示する画面情報を携帯端末に送信する際に、所定の入力操作を受け付け可能な状態に操作部を制御し、前記画面情報を表示しない状態に前記表示部を制御する制御ステップと、
    前記電子機器の機器側通信部が、前記画面情報を前記携帯端末に送信する送信ステップと、
    前記携帯端末の端末側通信部が、前記電子機器と通信を行うことで、前記機器側通信部から送信された前記画面情報を受信する受信ステップと、
    前記携帯端末の画面情報提供部が、前記受信ステップで受信した前記画面情報を視認可能な形態で提供する画面情報提供ステップと
    を有する情報処理方法。
  11. 画面情報を表示する表示部と、
    所定の入力操作を行うための操作部と、
    携帯端末に前記画面情報を送信する際に、前記入力操作を受け付け可能な状態に前記操作部を制御し、前記画面情報を表示しない状態に前記表示部を制御する制御部と、
    前記画面情報を前記携帯端末に送信する機器側通信部と
    を有する電子機器。
  12. 前記画面情報は、セキュリティの有無を示すセキュリティ情報を含み、
    前記制御部は、前記携帯端末に送信する前記画面情報に含まれる前記セキュリティ情報が、セキュリティを有することを示す場合に、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記機器側通信部は、セキュリティを有する前記画面情報を前記携帯端末に送信すること
    を特徴とする請求項11に記載の電子機器。
  13. 前記画面情報に含まれるセキュリティを有することを示すセキュリティ情報が、ユーザ識別情報又はパスワードの入力画面を含む前記画面情報であることを示すセキュリティ情報であった場合、前記制御部は、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記機器側通信部は、セキュリティを有する前記画面情報を前記携帯端末に送信することで、前記表示部に前記画面情報を表示しない状態のまま、前記携帯端末において前記画面情報を表示すること
    を特徴とする請求項12に記載の電子機器。
  14. ユーザ情報又は前記携帯端末の端末情報を取得する情報取得部を、さらに備え、
    前記制御部は、前記情報取得部により取得された前記ユーザ情報又は前記端末情報に応じて、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記機器側通信部は、前記画面情報を前記携帯端末に送信すること
    を特徴とする請求項11又は請求項12に記載の電子機器。
  15. 前記制御部は、前記情報取得部で取得された前記ユーザ情報が視覚障害者であることを示し、又は、前記情報取得部で取得された前記端末情報が、視覚障害者により使用される前記携帯端末であることを示す場合に、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記機器側通信部は、前記画面情報を前記携帯端末に送信すること
    を特徴とする請求項14に記載の電子機器。
  16. 前記制御部は、前記情報取得部で取得された前記ユーザ情報が視覚障害者であることを示し、又は、前記情報取得部で取得された前記端末情報が、視覚障害者により使用される前記携帯端末であることを示す場合、前記携帯端末に送信する前記画面情報として、一度に表示するオブジェクトの数を削減すると共に、表示するオブジェクトの表示サイズを拡大した前記画面情報を生成すること
    を特徴とする請求項15に記載の電子機器。
  17. 画面情報を表示する表示部と、所定の入力操作を行うための操作部と、前記画面情報を携帯端末に送信する機器側通信部とを有する電子機器のコンピュータを動作させるための情報処理プログラムであって、
    前記コンピュータを、
    前記携帯端末に前記画面情報を送信する際に、前記入力操作を受け付け可能な状態に前記操作部を制御し、前記画面情報を表示しない状態に前記表示部を制御する制御部と、
    前記画面情報を前記携帯端末に送信するように前記機器側通信部を制御する通信制御部として機能させること
    を特徴とする情報処理プログラム。
  18. 前記画面情報は、セキュリティの有無を示すセキュリティ情報を含み、
    前記制御部は、前記携帯端末に送信する前記画面情報に含まれる前記セキュリティ情報が、セキュリティを有することを示す場合に、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記通信制御部は、セキュリティを有する前記画面情報を前記携帯端末に送信するように前記機器側通信部を制御すること
    を特徴とする請求項17に記載の情報処理プログラム。
  19. 前記画面情報に含まれるセキュリティを有することを示すセキュリティ情報が、ユーザ識別情報又はパスワードの入力画面を含む前記画面情報であることを示すセキュリティ情報であった場合、前記制御部は、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記通信制御部は、セキュリティを有する前記画面情報を前記携帯端末に送信するように前記機器側通信部を制御することで、前記表示部に前記画面情報を表示しない状態のまま、前記携帯端末において前記画面情報を表示すること
    を特徴とする請求項18に記載の情報処理プログラム。
  20. 前記コンピュータを、
    ユーザ情報又は前記携帯端末の端末情報を取得する情報取得部として、さらに機能させ、
    前記制御部は、前記情報取得部により取得された前記ユーザ情報又は前記端末情報に応じて、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記通信制御部は、前記画面情報を前記携帯端末に送信するように前記機器側通信部を制御すること
    を特徴とする請求項17又は請求項18に記載の情報処理プログラム。
  21. 前記制御部は、前記情報取得部で取得された前記ユーザ情報が視覚障害者であることを示し、又は、前記情報取得部で取得された前記端末情報が、視覚障害者により使用される前記携帯端末であることを示す場合に、前記入力操作を受け付け可能な状態に前記操作部を制御すると共に、前記画面情報を表示しない状態に前記表示部を制御し、
    前記通信制御部は、前記画面情報を前記携帯端末に送信するように前記機器側通信部を制御すること
    を特徴とする請求項20に記載の情報処理プログラム。
  22. 前記制御部は、前記情報取得部で取得された前記ユーザ情報が視覚障害者であることを示し、又は、前記情報取得部で取得された前記端末情報が、視覚障害者により使用される前記携帯端末であることを示す場合、前記携帯端末に送信する前記画面情報として、一度に表示するオブジェクトの数を削減すると共に、表示するオブジェクトの表示サイズを拡大した前記画面情報を生成すること
    を特徴とする請求項21に記載の情報処理プログラム。
JP2017050573A 2017-03-15 2017-03-15 情報処理システム、情報処理方法、電子機器及び情報処理プログラム Active JP6870401B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017050573A JP6870401B2 (ja) 2017-03-15 2017-03-15 情報処理システム、情報処理方法、電子機器及び情報処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017050573A JP6870401B2 (ja) 2017-03-15 2017-03-15 情報処理システム、情報処理方法、電子機器及び情報処理プログラム

Publications (2)

Publication Number Publication Date
JP2018156205A true JP2018156205A (ja) 2018-10-04
JP6870401B2 JP6870401B2 (ja) 2021-05-12

Family

ID=63718086

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017050573A Active JP6870401B2 (ja) 2017-03-15 2017-03-15 情報処理システム、情報処理方法、電子機器及び情報処理プログラム

Country Status (1)

Country Link
JP (1) JP6870401B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020087190A (ja) * 2018-11-29 2020-06-04 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11356244B2 (en) * 2020-06-05 2022-06-07 Bank Of America Corporation Graphical user interface using continuous authentication and encryption for selective display of data

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009122551A (ja) * 2007-11-16 2009-06-04 Panasonic Electric Works Co Ltd 網膜投影ディスプレイ装置
JP2011186856A (ja) * 2010-03-09 2011-09-22 Nec Corp ヘッドマウントディスプレイを外部表示装置として使用する携帯端末
JP2012160096A (ja) * 2011-02-02 2012-08-23 Brother Ind Ltd 情報処理装置、情報処理プログラムおよび情報処理システム
WO2012132767A1 (ja) * 2011-03-31 2012-10-04 株式会社エヌ・ティ・ティ・ドコモ 携帯端末
JP2013110514A (ja) * 2011-11-18 2013-06-06 Konica Minolta Business Technologies Inc 操作入力システム
JP2016186433A (ja) * 2015-03-27 2016-10-27 ブラザー工業株式会社 通信機器とそのためのコンピュータプログラム
JP2017004354A (ja) * 2015-06-12 2017-01-05 富士通株式会社 表示制御方法、表示制御プログラム、情報処理端末、及びウェアラブルデバイス

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009122551A (ja) * 2007-11-16 2009-06-04 Panasonic Electric Works Co Ltd 網膜投影ディスプレイ装置
JP2011186856A (ja) * 2010-03-09 2011-09-22 Nec Corp ヘッドマウントディスプレイを外部表示装置として使用する携帯端末
JP2012160096A (ja) * 2011-02-02 2012-08-23 Brother Ind Ltd 情報処理装置、情報処理プログラムおよび情報処理システム
WO2012132767A1 (ja) * 2011-03-31 2012-10-04 株式会社エヌ・ティ・ティ・ドコモ 携帯端末
JP2013110514A (ja) * 2011-11-18 2013-06-06 Konica Minolta Business Technologies Inc 操作入力システム
JP2016186433A (ja) * 2015-03-27 2016-10-27 ブラザー工業株式会社 通信機器とそのためのコンピュータプログラム
JP2017004354A (ja) * 2015-06-12 2017-01-05 富士通株式会社 表示制御方法、表示制御プログラム、情報処理端末、及びウェアラブルデバイス

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020087190A (ja) * 2018-11-29 2020-06-04 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法
JP7138028B2 (ja) 2018-11-29 2022-09-15 株式会社日立製作所 表示制御システム、表示装置、及び表示制御方法

Also Published As

Publication number Publication date
JP6870401B2 (ja) 2021-05-12

Similar Documents

Publication Publication Date Title
US10341113B2 (en) Password management
JP5696908B2 (ja) 操作表示システム
US9857863B2 (en) Display apparatus, control method for display apparatus, and program that can switch an operation mode of a display apparatus from a normal operation mode to a battery replacement mode
EP3872658A1 (en) Face recognition method and electronic device
KR102180962B1 (ko) 표시 시스템, 표시 단말, 표시 방법 및 기록 매체
US11062015B2 (en) Authentication management method, information processing apparatus, wearable device, and computer program
US20160269578A1 (en) Head mounted display apparatus and method for connecting head mounted display apparatus to external device
KR20180068127A (ko) 이동단말기 및 그 제어방법
US20150130688A1 (en) Utilizing External Devices to Offload Text Entry on a Head Mountable Device
EP4270184A1 (en) Cross-device authentication method and electronic devices
US8994993B2 (en) Management system, management server, and recording medium
JP2013114123A (ja) 透過型表示装置、表示方法および表示プログラム
WO2014084193A1 (ja) 電子機器及び制御プログラム並びに表示制御方法
JP6870401B2 (ja) 情報処理システム、情報処理方法、電子機器及び情報処理プログラム
CN107025080A (zh) 文档处理系统和方法
JP2016167679A (ja) 画像処理装置、情報処理装置、及び画像処理システム
JP2017010185A (ja) 表示装置、表示装置の制御方法、及び、プログラム
US10324669B2 (en) Electronic apparatus providing voice assistance based on user information
WO2016095422A1 (zh) 眼镜、显示终端、图像显示处理系统及方法
WO2021227942A1 (zh) 一种分享信息的方法、电子设备和系统
JP6580090B2 (ja) 通信方法、通信装置、およびプログラム
WO2018189980A1 (ja) 光通信方法
US10102600B2 (en) Head mounted display device, control method for head mounted display device, and computer program
US9924057B2 (en) Image forming device that can be operated from a terminal device
JP7200554B2 (ja) 表示装置、表示システム、表示装置の制御方法および表示システムの制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210316

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210329

R151 Written notification of patent or utility model registration

Ref document number: 6870401

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151