以下に添付図面を参照して、ウェアラブル端末、プログラム、情報処理システム、情報処理システムの制御方法および相互接続システムの実施形態を詳細に説明する。
本実施形態において、制御対象機器(電子機器)とウェアラブル端末とは、相互に無線接続されて、ウェアラブル端末側から制御対象機器の操作、制御を可能とする。本実施形態において、ウェアラブル端末は、一例として、制御対象機器と無線接続を実現するための設定情報を取得するために、制御対象機器を撮影する撮影部を含む。撮影部は、制御対象機器側が提供する情報(供給情報)としての設定情報、一例としてマトリックス型の二次元コードを撮影する。このとき、ウェアラブル端末は、制御対象機器が提供する二次元コードを利用できる状態で撮影できるように、案内を実現するために撮影した制御対象機器に定められた特定部位の位置情報を取得部が取得する。そして、取得した位置情報に基づいて制御対象機器における特定部位、例えば二次元コードの表示位置に注目を促す案内情報を情報生成部が生成する。生成した案内情報はユーザが認識し易いように、重畳部が制御対象機器の像に重畳表示する。案内情報によって注目を促すことにより撮影部の位置を変化させて、良好な特定部位の撮影を実現し、その撮影によって得られた情報(例えば二次元コード)に基づく情報処理を制御部が実行することで、無線接続処理をスムーズに実現する。
図1は、本実施形態に係るウェアラブル端末と接続可能な制御対象機器(電子機器)の一例である画像処理装置10のハードウエア構成を説明する説明図である。なお、図1は、後述するウェアラブル端末との無線接続に関連する構成を主として示し、画像処理装置の他の機能に関する構成は、簡略化または省略している。
画像処理装置10は、例えば複写機、プリンター、イメージスキャナ、ファクシミリ等の機能を1つの筐体に収めたものであり、デジタル複合機と称される(MFP;MultiFunction Printer/Product/Peripheral)。画像処理装置10は、ネットワークI/F(インタフェース)や通信I/Fを介して印刷データや画像ファイルを受信可能である。そして、受け付けた印刷データや画像ファイルに対して所望の処理条件を設定して印刷出力処理を実行する。所望の処理条件は、当該画像処理装置10のパネル装置からの入力操作やネットワークI/Fや通信I/Fを介して接続された他の制御機器、例えばホストPC(コンピュータ)やモバイル端末等からの入力操作により設定可能である。
画像処理装置10は、コントローラ12、パネル装置14およびプリンタエンジン16を含んで構成される。
コントローラ12は、その動作時点に設定されている動作モードおよびネットワークI/Fを介して接続されたホストコンピュータ18や通信I/Fを介して接続された後述するウェアラブル端末からの印字制御データに従って印刷処理を実行する。画像処理装置10は、ホストコンピュータ(ホストPC)18やウェアラブル端末からの印字制御データを画像データ(ビットマップデータ)に変換(レンダリング)しプリンタエンジン16へ出力する。なお、コントローラ12は、さらに後述する各種モジュールで構成される。
パネル装置14は、画像処理装置10の状態を示す液晶パネル等を用いた表示部と、ユーザが画像処理装置10の動作モードやフォント等の切替えやパスワードの入力等を行うためのタッチパネル等を用いた入力部とから構成される。
プリンタエンジン16は、プロセスカートリッジを備える。プロセスカートリッジは、感光体を内蔵すると共に、帯電部、露光部、現像部、転写部、クリーニング部、除電部等を含む一体化部品であり、画像処理装置10に対し着脱可能となっている。プリンタエンジン16は、コントローラ12からの制御信号および画像データに従ってプロセスカートリッジの感光体上に静電潜像を生成してそれを現像する。さらに給紙部より転写紙を給紙して、現像した画像をこの転写紙に転写および定着することにより、転写紙上に画像を形成する。なお、プリンタエンジン16は、プロセスカートリッジではなく、トナーカートリッジを用いる構成とすることもできる。その場合、感光体、帯電部、露光部、現像部、転写部、クリーニング部、除電部等は、トナーカートリッジとは別の部品としてプリンタエンジン16が備える。
次に、画像処理装置10のコントローラ12に含まれる各種モジュールについて説明する。コントローラ12は、CPU20、ROM22、RAM24、NVRAM26、HDD28、通信I/F30、ネットワークI/F32、エンジンI/F34、パネルI/F36等を含む。
CPU20は、ROM22に格納された制御プログラムに従ってホストコンピュータ18やウェアラブル端末からの印刷データを処理する。
ROM22は、CPU20が、コントローラ12内で実行するデータの管理や周辺モジュールを統括的に制御するための制御プログラム(ソフトウエア)を格納する。
RAM24は、CPU20が制御プログラムにしたがって作成するページメモリやソフトウエアが動作するために必要なワークメモリ等として使用される。またRAM24は、ホストコンピュータ18やウェアラブル端末からの印刷データをページ単位に管理して一時記憶するバッファとして使用される。またRAM24は印字データから変換された画像データ(印字パターン)を記憶するビットマップメモリ(画像メモリ、展開メモリ)としても使用される。
NVRAM26は、電源を切っても保持したいデータ、例えば、印刷制御に用いられる、パネル装置14を介して設定された所定の設定値や所定の印刷条件情報等の情報を格納しておくための不揮発性RAMである。
HDD28は、不揮発性記憶手段としての磁気ディスク等のハードディスクであり、ホストコンピュータ18やウェアラブル端末等からの印刷データの蓄積や印字データから変換されたビットマップデータの蓄積に使用できる。またHDD28は、それらのデータの保存のため、または一時記憶のためのバッファやワーク用領域等として、様々な用途で使用される。また、HDD28は印字に使用されるさまざまな種類のフォントデータの格納に使用されてもよい。
通信I/F30は、ウェアラブル端末等の外部機器と無線通信(Wi−Fi通信)を行うためのインタフェースである。
ネットワークI/F32は、ホストコンピュータ18から画像処理装置10への印刷ジョブとして送られる印刷データ(印字制御データおよび印字データを含む)およびホストコンピュータ18から画像処理装置10へのステータス信号を送受信するためのインタフェースである。
エンジンI/F34は、コントローラ12からプリンタエンジン16への制御信号およびプリンタエンジン16からコントローラ12へのステータス信号のやりとりをするためのインタフェースである。
パネルI/F36は、パネル装置14を介してユーザが画像処理装置10の状態表示の切替えや動作モードおよびフォント等の切替え等を行えるように、コントローラ12がパネル装置14との間で信号のやりとりをするためのインタフェースである。
このように構成される画像処理装置10において、通信I/F30やネットワークI/F32を通してウェアラブル端末やホストコンピュータ18から送られてきた印刷データ(例えばPDLデータ)は、CPU20により印字データおよび印字制御データとその他に分けられる。そして、印字データおよび印字制御データはそれぞれ画像データ(ビットマップデータ)および画像処理装置10内部で使用される制御コードに変換されてHDD28またはRAM24に記憶される。その際、ホストコンピュータ18やウェアラブル端末からの印刷ジョブまたはデータが1ページ分を超えた時、コントローラ12は、まず印字データから生成した中間コードを画像データに変換する。それが終了すると、エンジンI/F34を通してプリンタエンジン16にプリントスタートの命令を出す。そして、この命令に応じてプリンタエンジン16が印刷を開始する。
図2は、一例としてメガネタイプのウェアラブル端末38の外観構成を説明する概略構成図である。メガネタイプのウェアラブル端末38は、一例として第1ユニット40と第2ユニット42を備える。第1ユニット40は、一例としてメガネフレーム38aの一部に配置され、当該ウェアラブル端末38の全体を制御するコントローラやバッテリ、マイク、スピーカ等が内蔵されている。また、第2ユニット42もまたメガネフレーム38aの一部に配置され、表示部やカメラ、スイッチ、各種センサ等が内蔵されている。ユーザは、ウェアラブル端末38をメガネをかけるが如く頭部に装着する。その結果、表示部に表示される画像がユーザの眼前に拡張現実を実現し、様々な情報を提供する。
図3は、ウェアラブル端末38のハードウエア構成を説明する説明図である。ウェアラブル端末38は、コントローラ44、表示部46、カメラ48、マイク50、スピーカ52、スイッチ54等を含んで構成されている。
コントローラ44は、ウェアラブル端末38の全体を制御し、例えばインターネットを介して情報の検索、取得およびその表示、写真やビデオの撮影、再生およびその保存、メールの送受信、電話等の機能を実現する。また、それらの機能の実現にあたり表示部46を介して適宜必要な情報をユーザの視界の一部に表示する。なお、コントローラ44は、さらに後述する各種モジュールで構成される。
表示部46は、図2に示すように、一例としてメガネフレーム38aの上部隅に配置され、インターネット等の通信手段を介して取得した情報やコントローラ44で生成した情報等を示す映像をレンズ38bに照射して表示する。また、別の例では、レンズ38b越しに表示部46の表示内容が視認できるようにしてもよい。また、レンズ38bを省略し表示部46のみの構成で表示内容が視認できるようにしてもよい。この場合、所定の距離から所定の大きさのディスプレイを見るような感覚をユーザに与えるように表示部46上に映像が表示される。
カメラ48(撮影部)は、図2に示すように、一例としてメガネフレーム38aの上部隅に配置される。そして、カメラ48の画角は、ウェアラブル端末38を頭部に装着したユーザの視野角と実質的に同じまたはカメラ48の画角の方がユーザの視野角より大きく設定されることが望ましい。つまり、カメラ48で撮影した映像とユーザが認識する風景とが実質的に同じになるように設定されている。なお、カメラ48で撮影した映像内の像の位置と実風景内の像の位置が一致するように、カメラ48の撮影角度の調整を行える機構を備えてもよい。なお、カメラ48の解像度は適宜選択可能であるが、撮影した写真データやビデオデータが印刷やビデオ再生に十分に活用できる品質を得るレベルとすることが望ましい。カメラ48の配置場所はメガネフレーム38aの中央部等他の部分でもよいし、複数のカメラを配置してステレオカメラとして機能させてもよい。
マイク50は、図2に示すように、メガネフレーム38aの一部に配置され、ユーザの発話による指示(コマンド)を集音したり、電話機能の実行時には会話の集音を行う。この他、周囲音の集音を行ってもよい。マイク50は、集音の目的によって特性が変化するようにしてもよい。特性の切り替えはユーザの発話コマンドによって切り替わるようにしてもよいし、発話内容に応じて自動的に切り替わるようにしてもよい。
スピーカ52は、図2に示すように、メガネフレーム38aにおいてユーザの耳に近い部分に配置され、ウェアラブル端末38の動作案内音の出力や通信手段を介して取得した音声の出力等を行う。スピーカ52は開放型のスピーカでもよいし、骨伝導型のスピーカでもよい。また、イヤホーンとしてユーザの耳に装着するようにしてもよい。
スイッチ54は、図2に示すように、メガネフレーム38aの一部に配置され、音声コマンド以外のコマンド入力を行う場合に利用する。スイッチ54は、操作音がマイク50で集音されにくいように、マイク50から離れた位置に配置されることが望ましい。スイッチ54は、押下タイプの他、スライドタイプやダイヤルタイプでもよい。また、圧力スイッチや近接スイッチでもよい。
次に、ウェアラブル端末38のコントローラ44に含まれる各種モジュールについて説明する。コントローラ44は、CPU56、ROM58、RAM60、EEPROM62、通信I/F64、入出力I/F66等を含む。
CPU56は、ROM58に格納された制御プログラムに従ってウェアラブル端末38の動作を制御したり、ウェアラブル端末38に無線接続された電子機器を制御するための処理を実行する。
ROM58は、CPU56が、コントローラ44内で実行するデータの管理や周辺モジュールを統括的に制御するための制御プログラム(ソフトウエア)を格納する。
RAM60は、CPU56が制御プログラムを動作させるために必要なワークメモリ等として使用される。またRAM60は、通信手段を介して取得した情報やカメラ48やマイク50を介して取得した情報を一時記憶するバッファとしても使用される。
EEPROM62は、電源を切っても保持したいデータ、例えば、ウェアラブル端末38の設定情報等を格納しておくための不揮発性ROMである。
通信I/F64は、画像処理装置10等の外部機器と無線通信(Wi−Fi通信)を行うためのインタフェースである。
入出力I/F66は、ウェアラブル端末38に備えられる各種機器、例えば表示部46、カメラ48、マイク50、スピーカ52、スイッチ54等との間で信号の送受信を行うインタフェースである。
図4は、画像処理装置10の一部の機能(二次元コードに関連する機能)を実現するためのソフトウエアブロック図である。図4に示される表示制御部68、二次元コード生成部70、通信制御部72、設定実行部74等は、CPU20がROM22に記憶された制御プログラムを読み出すことで実現する処理モジュールである。なお、図4に示された1つのブロックを複数のブロックによって実現してもよいし、図4に示された複数のブロックを1つのブロックとして実現してもよい。また、これらの一部または全部をハードウエアとして実現してもよい。
前述したように、本実施形態のウェアラブル端末38は、画像処理装置10の特定部位の撮影によって得られた情報に基づく情報処理を実行して、画像処理装置10とウェアラブル端末38との間で無線接続を実現する。そのため、画像処理装置10は、一例として二次元コードをパネル装置14上に表示する。表示制御部68は、二次元コード生成部70によって生成された二次元コード、またはROM22内の設定情報保存部76に保存された二次元コードをウェアラブル端末38で読み取れる状態でパネル装置14に出力する。
二次元コード生成部70は、例えば、設定情報保存部76に無線接続の設定情報のみが保存され、二次元コードが保存されていない場合や二次元コードの表示タイミングにより表示内容(設定情報の内容)が変化する場合に、二次元コードを生成する。二次元コード生成部70は、ユーザが操作する操作部78からの生成コマンドを受け付けると設定情報保存部76から無線接続の設定情報を読み出して二次元コードを生成する。二次元コードには、一例として図5に示すように、画像処理装置10に固有の「IPアドレス」、「SSID」、「パスワード」等が含まれる。なお、IPアドレスは静的IPアドレスでもよいし、動的IPアドレスでもよい。静的IPアドレスの場合、ウェアラブル端末38との間で一度接続設定をしてしまえば、以降はウェアラブル端末38で設定情報の取得の必要がなくなり、処理の簡略化ができる。一方、動的IPアドレスの場合、ウェアラブル端末38は、ユーザがウェアラブル端末38と画像処理装置10との接続を行うたびに、設定情報を提供する。例えば、オフィス等で同機種の画像処理装置10が複数台存在する場合は、ユーザが見ている画像処理装置10との接続がスムーズに実現できる。なお、操作部78は、パネル装置14上でタッチパネルの形態で構成されてもよい。
通信制御部72は、通信I/F30を介してウェアラブル端末38等の電子機器と無線通信を実現する。
設定実行部74は、ウェアラブル端末38等の電子機器との間での無線接続を実現する。
図6は、ウェアラブル端末38のソフトウエアブロック図である。図6に示される端末制御部80、映像受信部82、映像解析部84、表示制御部86、音声認識部88、音声出力部90、操作認識部92、通信制御部94、設定実行部96等は、CPU56がROM58に記憶された制御プログラムを読み出すことで実現する処理モジュールである。なお、図6に示された1つのブロックを複数のブロックによって実現してもよいし、図6に示された複数のブロックを1つのブロックとして実現してもよい。また、これらの一部または全部をハードウエアとして実現してもよい。
端末制御部80は、ウェアラブル端末38の全体を制御する。例えば、マイク50やスイッチ54を介して入力された指示コマンドに基づき、インターネット等の通信手段を利用して検索を行い必要な情報を取得したり、ROM58やEEPROM62等の記憶手段から情報を取得したり、カメラ48により映像情報を取得したりする。また、取得した各情報を表示部46に表示したり、それに伴う音声をスピーカ52から出力する制御等を行う。また、取得した情報をRAM60(図3参照)やEEPROM62等に保存する制御を行う。
映像受信部82は、カメラ48を制御して当該カメラ48で映像情報を取得する。カメラ48は、ウェアラブル端末38の周辺映像を撮影すると共に、その中に含まれる情報、例えば二次元コード等を撮影することで取得する。なお、取得した映像情報は、一時的にRAM60やEEPROM62に記憶する。また、映像解析部84は、取得した映像情報の映像解析を必要に応じて行う。例えば、取得した映像情報が二次元コードの場合、その二次元コードが含む情報の解析を行う。また、映像解析部84は、解析結果をRAM60やEEPROM62等に記憶する。
表示制御部86は、端末制御部80がインターネット等の通信手段やROM58、EEPROM62、カメラ48等を介して取得した画像情報や文字情報を表示部46に表示する。本実施形態の表示部46は、図2に示すように、レンズ38bを通した視界の一部に配置され、視界内の適切な位置に画像情報や文字情報が表示される。表示される画像情報や文字情報は、例えば、半透明の態様で表示されてユーザがレンズ38bを介して見ている像(現実風景)上に重畳される。その結果、ユーザが見ている像(現実風景)の視認性を損なうこと無く、取得した画像情報や文字情報をユーザに提供することができる。この場合、表示部46に表示される情報は、オリジナル情報を表示してもよいし、情報内容に応じて、予め定めた規則にしたがい優先度の高い情報を選択的に表示するようにしてもよい。また、適宜情報を加工して表示するようにしてもよい。
表示制御部86は、情報取得部98(取得部)、案内画像生成部100(情報生成部)、重畳部102を含む。本実施形態のウェアラブル端末38は、効率的な利用を実現するために各種案内情報を生成する。例えば、カメラ48によって周辺映像を撮影する際に、その画像の中に取得すべき情報が含まれている場合がある。しかし、その情報が必ずしも解析可能な状態で映り込んでいるとは限らない。例えば、二次元コードを解析しようとする場合、現状の撮影状態では、二次元コードの表示された位置が遠すぎて映像情報に二次元コードが存在するものの解析できない場合がある。そのような場合に、画像処理装置10における特定部位、例えば二次元コードが表示されている位置にユーザの注目を促すような案内情報を生成する。例えば「ここを見てください。」や「もう少しパネルに近づいてください。」等の案内情報を提供する。
そこで、表示制御部86は、まずカメラ48が現在撮影している(ユーザの視野に入っている)電子機器を特定する。つまり、情報取得部98は、カメラ48が現在撮影している電子機器の特徴的な部分と一致する特徴点を有する電子機器をROM58の特徴点情報保存部58aに保持された情報から読み出す。特徴点情報保存部58aには、例えば画像処理装置10を特定するための特徴点情報が機種ごとに保存されている。特徴点情報は画像処理装置10の画像情報に付加した態様で保存されていてもよい。
図7は、説明のために特徴点情報保存部58aに保持されている画像処理装置10の特徴点(左側)とカメラ48で撮影している画像処理装置10の特徴部分(右側)の比較状態を示している。特徴点は、輝度差が大きいエッジ部分などで定義される。そして、カメラ48で撮影した電子機器の輝度差が大きいエッジ部分を抽出し、輝度の変化を方向として表し、輝度差と方向が一致するものを同じ特徴点とする。そして、表示制御部86は、カメラ48で取得した画像情報の特徴点と比較して、一致する特徴点数が所定閾値以上になった場合に、画像処理装置10が存在すると判定する。特徴点情報保存部58aに、複数の角度や距離から撮影した画像処理装置の画像の情報を保持することで、画像処理装置10の検出精度を向上することができる。
また、特徴点情報保存部58aには、画像処理装置10における特定部位、例えば二次元コードが表示されているパネル装置14の相対的な位置情報が機種ごとに保持されている。情報取得部98は、特定した画像処理装置10におけるパネル装置14の相対位置を示す位置情報を特徴点情報保存部58aから取得する。そして、この位置情報に基づいて、カメラ48で撮影している画像処理装置10におけるパネル装置14の位置を特定する。図8は、説明のために特徴点情報保存部58aに保持されている画像処理装置10の特徴点としてのパネル装置14の位置(左側)に基づいて、カメラ48で撮影している画像処理装置10におけるパネル装置14の位置を特定している状態例を示している。このように、画像処理装置10の機種が特定できれば、カメラ48で撮影している画像処理装置10における特定部位、例えばパネル装置14の撮影画像上の位置が特定できる。なお、二次元コードは、パネル装置14上だけでなく、画像処理装置10の側面(ハウジング側壁)等にシール等で貼られている場合がある。その場合はそのシール(二次元コード)の位置を特徴点情報保存部58aで保存してもよい。
案内画像生成部100は、カメラ48で撮影している画像処理装置10における特定部位、例えばパネル装置14の撮影画像上の位置が特定できたら、その位置にユーザの注目を促すように案内情報を生成する。前述したように、ウェアラブル端末38を頭部に装着したユーザの視野角とカメラ48の画角が実質的に同じに設定されている。したがって、例えば図9に示すように、パネル装置14の位置をカメラ48の撮影画像の例えば左上隅を基準に、座標(M,N)として決めることができる。案内画像生成部100は、座標(M,N)を基準に案内情報である「ここを見てください」というメッセージ104と、パネル装置14の位置を強調する例えば強調枠106を生成する。そして、生成した案内情報(メッセージ104、強調枠106)を重畳部102がユーザが実際に見ている画像処理装置10の像のパネル装置14の位置に重畳表示する。ユーザが実際に見ている画像処理装置10の像に案内画像を重畳した状態を図10に示す。案内画像の表示態様は、例えば半透明として実風景(実像)の視認の妨げにならないようにすることが望ましい。このような、案内情報の表示を行うことによりウェアラブル端末38を装着したユーザは、メッセージ104や強調枠106により注意喚起され、強調枠106で囲まれた部分を注目する。つまり、案内情報は、強調枠106で囲まれた部分を視野の真ん中に持ってくるような移動をユーザに促したり、さらに近づくような移動を促したりする効果を実現する。なお、メッセージ104や強調枠106はユーザの注目を喚起するような態様で、かつユーザの視認負担にならない態様で表示することが望ましい。例えば赤色表示等の際だち表示や点滅表示等にしてもよい。また、案内画像生成部100は、強調枠106を撮影画像中の特定部位に示される情報の表示サイズ、例えば、パネル装置14の表示サイズや二次元コードの表示サイズに対応する表示サイズとしてもよい。例えば、撮影画像中のパネル装置14の表示サイズが小さい場合、すなわちパネル装置14から遠い場合には、強調枠106の表示サイズも小さくする。逆に撮影画像中のパネル装置14の表示サイズが十分に大きい場合、すなわちパネル装置14から近い場合には、強調枠106の表示サイズもそれに対応させて大きくする。このように強調枠106等の案内情報の表示サイズを変化させることにより、ユーザが実際に見ている画像処理装置10との距離感を認識させやすくすることができる。また、画像処理装置10の何処を見たらよいのかを理解させやすくすることができる。
音声認識部88は、マイク50から入力される音声情報を取得、認識して端末制御部80における制御を実行する。例えば音声コマンドや検索キーワードの入力、電話機能使用時の入力やテキスト作成時に文章入力を受け付ける。
音声出力部90は、インターネット等の通信手段を利用して取得した情報や、ROM58やEEPROM62等の記憶手段から取得した情報、カメラ48で取得した映像情報等に付随する音声をスピーカ52を介して出力して、ユーザに提供する。
操作認識部92は、表示部46に表示される選択コマンドの選択、決定等をスイッチ54の操作を介して受け付け、端末制御部80に操作に対応する処理を実行させる。
通信制御部94は、通信I/F64を介して画像処理装置10をはじめとする他の電子機器やインターネット、LAN等との無線接続を実現する。
設定実行部96は、画像処理装置10をはじめとする他の電子機器やインターネット、LAN等との無線接続の設定を実行する。なお、設定実行部96は、無線接続時の設定情報等をEEPROM62の設定情報保存部68aに保存し、再接続を行う場合に利用してもよい。
このように構成されるウェアラブル端末38と画像処理装置10との無線接続の手順を図11および図12のフローチャートを用いて説明する。一例として、ウェアラブル端末38を装着したユーザが、ウェアラブル端末38の記憶部やクラウド上等に保持されたデータを画像処理装置10で印刷処理を実行するにあたり、ウェアラブル端末38と画像処理装置10とを無線接続する例を説明する。
まず、ユーザは、マイク50やスイッチ54を用いてカメラ48によりユーザ周辺の風景の撮影を実行させて、映像受信部82による撮影画像の取り込みを行う(S100;撮影処理)。端末制御部80は、映像解析部84の撮影画像の解析結果に基づいて、撮影画像の中に画像処理装置10(MFP)が存在するか否か判定する(S102)。撮影画像に画像処理装置10が存在しない場合(S102のNo)、S100に戻り、映像受信部82は他の撮影画像の取得を行う。なお、この場合、音声出力部90は、画像処理装置10が確認できないことや他の方向の撮影を行う旨のメッセージをスピーカ52から出力してもよい。また、表示制御部86は、同様な内容のメッセージを表示部46に表示してもよい。
撮影画像に画像処理装置10が存在する場合(S102のYes)、通信制御部94は、その画像処理装置10との無線接続が接続済みか否か判定する(S104)。既に無線接続済みの場合(S104のYes)、端末制御部80は、一旦このフローを終了し、接続されている画像処理装置10を用いた印刷処理等を実行する。
S104において、撮影画像中の画像処理装置10とウェアラブル端末38との無線接続が未接続の場合(S104のNo)、端末制御部80は、表示制御部86により撮影画像中の画像処理装置10の機種特定を実行する(S106)。この場合、図7に示すように表示制御部86は、撮影画像中の画像処理装置10の特徴点と情報取得部98が特徴点情報保存部58aから取得する特徴点情報との比較により、機種特定を実行する。表示制御部86は撮影画像中の画像処理装置10の機種特定が完了したら、特定した画像処理装置10において接続情報を示す二次元コードが表示されたパネル装置14の位置を示す特定部位の位置情報を情報取得部98に取得させる(S108;取得処理)。表示制御部86は、特徴点情報保存部58aから取得したパネル装置14の位置情報に基づき、現在の解析対象の撮影画像にパネル装置14が存在するか否か判定する(S110)。例えば、ユーザが画像処理装置10の側面や背面を見ていた場合には、画像処理装置10の存在が確認できる場合でもパネル装置14が確認できない場合がある(S110のNo)。そのような場合は、S100に戻り、他の撮影画像の取り込みを行い、S100以降の処理を再度実行する。
S110において、表示制御部86が撮影画像中にパネル装置14が存在すると判定した場合(S110のYes)、表示制御部86は、案内画像生成部100に図9に示すような案内情報を生成させる(S112;情報生成処理)。さらに、表示制御部86は重畳部102を用いて、生成された案内情報をユーザの見ている画像処理装置10の像に重畳させる(S114;重畳処理)。この時点で映像解析部84が、撮影画像中で解析可能な二次元コードを取得できない場合(S116のNo)、S100に戻り、他の撮影画像を取り込み、S100以降の処理を再度実行する。また、映像解析部84が、撮影画像中に解析可能な二次元コードを取得できた場合(S116のYes)、端末制御部80は、取得した二次元コードに基づく無線接続処理を実行して(S118;情報処理)、このフローを一旦終了する。
図12には、端末制御部80が設定実行部96等に実行させる二次元コードに基づく無線接続処理の詳細が示されている。まず、端末制御部80は、映像解析部84に取得した二次元コードの解析を実行させる(S200)。この解析では、二次元コードに含まれる例えばIPアドレス、SSID、パスワード等が抽出される。端末制御部80は解析結果を表示制御部86を介して表示部46に表示させてユーザに提供する(S202)。このような設定情報を表示することにより、制御対象の画像処理装置10に関する多くの情報がユーザに提供可能となり、利用しようとする画像処理装置10の管理が容易になる。なお、この表示処理は省略してもよい。
続いて、端末制御部80は、表示制御部86を介して、解析結果に基づく処理を実行するか否かを問い合わせる確認情報を表示部46に表示させる(S204;確認処理)。例えば、「画像処理装置に接続しますか?」等の実行確認を行う(S206)。このような接続確認を行うことで、ユーザが接続しようとしている画像処理装置10以外の電子機器に対して誤って接続処理等を実施してしまうことが防止できる。また、解析した二次元コードの含む情報が無線接続の設定情報ではなく、他の制御を実行するための情報であった場合、その制御を実行するか否かを問い合わせてもよい。問い合わせ後、マイク50から入力されるボイスコマンドやスイッチ54から入力される操作コマンドにより、接続処理の実行指示を受け付けた場合(S206のYes)、設定実行部96はウェアラブル端末38と画像処理装置10との無線接続を実行する(S208)。また、S206において、ボイスコマンドや操作コマンドにより非実行指示が受け付けられた場合(S206のNo)、S208の処理をスキップしてこのフローを一旦終了する。
このように、制御対象機器(画像処理装置10)の特定部位に注目を促す案内情報を生成して、制御対象機器の像に重畳表示することにより、制御対象機器が提供する情報を利用できる状態で撮影できるようにカメラ48の位置を誘導することができる。その結果、制御対象機器から供給された情報に基づく情報処理をスムーズに実行することができる。
図13は、他の実施形態に係るウェアラブル端末38の処理を説明するフローチャートである。他の実施形態では、ユーザから画像処理装置10までの距離が遠すぎて、二次元コードの存在確認はできるものの内容が十分に解析できなかった場合や、画像処理装置10側で二次元コードが非表示状態になっていた場合の対応について説明している。
ユーザは、マイク50やスイッチ54を用いたコマンド入力によりカメラ48による撮影および映像受信部82による撮影画像の取り込みを行う(S100)。端末制御部80は、映像解析部84の解析結果に基づいて、撮影画像の中に画像処理装置10(MFP)が存在するか否か判定する(S102)。撮影画像に画像処理装置10が存在しない場合(S102のNo)、S100に戻り、映像受信部82は他の撮影画像の取得を行う。
撮影画像に画像処理装置10が存在する場合(S102のYes)、通信制御部94は、その画像処理装置10との無線接続が接続済みか否か判定する(S104)。そして、既に無線接続済みの場合(S104のYes)、端末制御部80は、一旦このフローを終了し、接続されている画像処理装置10を用いた印刷処理等を実行する。
S104において、撮影画像中の画像処理装置10とウェアラブル端末38との無線接続が未接続の場合(S104のNo)、端末制御部80は、表示制御部86により撮影画像中の画像処理装置10の機種特定を実行する(S106)。表示制御部86は撮影画像中の画像処理装置10の機種特定が完了したら、特定した画像処理装置10において接続情報を示す二次元コードが表示されたパネル装置14の位置を示す特定部位の位置情報を情報取得部98に取得させる(S108)。表示制御部86は、特徴点情報保存部58aから取得したパネル装置14の位置情報に基づき、現在の解析対象の撮影画像にパネル装置14が存在するか否か判定する(S110)。パネル装置14の存在が確認できない場合(S110のNo)、S100に戻り、他の撮影画像の取り込みを行い、S100以降の処理を再度実行する。
S110において、表示制御部86が撮影画像中にパネル装置14が存在すると判定した場合(S110のYes)、表示制御部86は、案内画像生成部100に案内情報を生成させる(S112)。さらに、表示制御部86は、重畳部102を介して生成された案内情報をユーザの見ている画像処理装置10の像に重畳させる(S114)。この時点で、映像解析部84が、撮影画像中に解析可能な二次元コードを取得できた場合(S116のYes)、端末制御部80は、取得した二次元コードに基づく無線接続処理を実行して(S118;情報処理)、このフローを一旦終了する。一方、S116において、映像解析部84が、撮影画像中で解析可能な二次元コードを取得できない場合(S116のNo)、映像解析部84は、撮影画像の解析を二次元コードの解析モードから二次元コードの探索モードに切り替える。そして、映像解析部84は、撮影画像中に二次元コード表示済みのパネル装置14が存在するか否か判定する(S300)。もし、撮影画像中に二次元コード表示済みのパネル装置14が発見できた場合(S300のYes)、案内画像生成部100は、ユーザに画像処理装置10(パネル装置14)に接近することを促す接近案内情報を生成する。例えば、パネル装置14に二次元コードが表示されているものの、ユーザからパネル装置14までの距離が遠すぎて二次元コードが小さく解析不能な場合に、パネル装置14に接近することを促す案内情報を生成する。そして、重畳部102を介して、生成した接近案内情報をユーザが見ている画像処理装置10の像に対応して重畳させて、表示部46に表示する(S302)。図14のイメージ図は、ユーザが見ている画像処理装置10の像に接近案内情報108として「もう少しパネルに近づいてください」というメッセージを重畳した状態を示している。接近案内情報108の表示によりユーザは、パネル装置14(画像処理装置10)への接近を促される。その結果、カメラ48により撮影される撮影画像中のパネル装置14が実質的に拡大され、二次元コードの認識および解析を容易に実行できるようになる。表示制御部86が接近案内情報108の表示を完了したら、S110に移行し(A)、S110以降の処理を再度実行し、二次元コードの再確認および必要に応じて二次元コードの再撮影が実行される。
S300において、撮影画像中に二次元コード表示済みのパネル装置14が存在しない場合がある(S300のNo)。例えば、画像処理装置10のパネル装置14において、二次元コードが通常時は非表示とされている場合が考えられる。また、パネル装置14以外にシール貼附等により表示されている場合がある。この場合、案内画像生成部100は、情報取得部98を介して特徴点情報保存部58aから二次元コードの表示態様に関する情報を取得する。例えば、パネル装置14に二次元コードが常時表示されているか否か、特定の操作を行ったときのみ表示されるか否か等の情報や、パネル装置14以外の部分に二次元コードが表示(貼附)されている等の情報を取得する。二次元コードが特定の操作を行ったときのみパネル装置14に表示される場合、案内画像生成部100は、その操作手順を示す二次元コード表示案内を案内情報として生成する。そして、重畳部102が二次元コード表示案内情報をユーザが見ている画像処理装置10の像に対応して重畳するように表示部46に表示する(S304)。二次元コード表示案内情報として、例えば、「(1)パネル装置のキー操作が必要です」と表示する。続いて、「(2)ファンクションキープッシュ操作」、「(3)二次元コード生成キープッシュ操作」、「(4)二次元コード表示キープッシュ操作」、「(5)ウェアラブル端末で二次元コードを目視」等と表示する。
図15は、画像処理装置10側のCPU20における二次元コードの生成処理を説明するフローチャートである。図4のソフトウエアブロック図と共に、生成処理の詳細を説明する。ユーザによる操作部78やパネル装置14等の操作で、二次元コードの表示コマンドを二次元コード生成部70が受け付けた場合(S400のYes)、二次元コード生成部70はROM22の設定情報保存部76に保存された設定情報を取得する(S402)。そして、二次元コード生成部70は、二次元コード(二次元コード画像)を生成する(S404)。表示制御部68は、生成した二次元コードをパネル装置14の所定の位置に表示して(S406)、このフローを一旦終了する。S400において、二次元コードの表示コマンドの入力がない場合(S400のNo)、表示コマンドの入力待ち状態となる。
なお、パネル装置14に表示する二次元コードは、例えば、所定時間表示した後に非表示とするようにしてもよい。このように通常時は接続情報を含む二次元コードを非表示とすることで、セキュリティ性の向上に寄与できる。また、画像処理装置10としての基本操作には関与しない二次元コードが通常時には表示されないので、パネル装置14の表示レイアウトの自由度向上に寄与できる。また、意匠性の向上にも寄与できる。なお、二次元コードが常時表示される態様の場合で、設定情報に含まれるIPアドレスが動的IPアドレスの場合、二次元コード生成部70は、所定の周期で対応する動的IPアドレスを含む二次元コードを作成するようにしてもよい。
図13に戻り、S304で二次元コード表示案内情報を表示部46に重畳して、ユーザに操作指示を行った後は、S110(A)に移行してパネル装置14に表示された二次元コードをウェアラブル端末38で取得するための処理を再度実行する。
なお、二次元コードがパネル装置14以外の位置に貼附等により表示されている場合、二次元コード生成部70で、その旨を示す二次元コードを生成して、ウェアラブル端末38に通知してもよい。また、S106で画像処理装置10の機種を特定した時点で、二次元コードの貼附位置を特徴点情報保存部58aから取得するようにしてもよい。このような場合、案内画像生成部100は、二次元コード表示案内として「側面に貼附された二次元コードを見てください」等の案内情報を生成する。そして、重畳部102により、その案内情報を他の案内情報と同様に表示部46に重畳表示して、二次元コードをウェアラブル端末38で取得するための処理を実行する。
このように、二次元コードの表示態様に応じた案内情報を生成し、表示部46に重畳表示することにより、二次元コードを解析可能な状態でスムーズに取得して、二次元コードが提供する情報に基づく処理が迅速に実行できる。
ところで、上述した実施形態において、ウェアラブル端末38のカメラ48で取得する情報の一例として二次元コードを示したが、他の形態の情報表示技術を用いてもよい。図16は、一例として、パネル装置14の表示画像14aに電子透かし110を埋め込んだ例である。電子透かし110は、一例として文字の特徴がある部分110a,110b等にビット情報を埋め込み、この情報を解析することで埋め込まれている情報を取得することができる。このように、パネル装置14の表示画像14aに電子透かし110を埋め込むことで、ウェアラブル端末38のカメラ48で二次元コードと同様に電子透かし110を読み取ることができる。その結果、二次元コードと同様の情報を容易にウェアラブル端末38側で取得できる。このような電子透かし110を用いることで、接続情報等を通常の表示画面に表示してもその表示レイアウトを崩すことがなく、設定情報等を認識されにくい態様で常時表示しておくことができる。また、電子透かし110は表示上認識されにくいので、二次元コードを利用する場合のように、表示/非表示の切り替えを行う処理を省略することができる。
また、上述した実施形態では、ウェアラブル端末の一例としてメガネタイプのウェアラブル端末38を示したが、他のタイプのウェアラブル端末にも本実施形態を適用できる。図17は、ウェアラブル端末の他の例として、腕時計タイプのウェアラブル端末112を示している。ウェアラブル端末112は、本体部114の表面に配置された表示部116と、本体部114の側面に配置されたカメラ118と、本体部114を支持すると共にユーザの腕に固定するバンド120等を含む。なお、本体部114には、図示を省略しているが、メガネタイプのウェアラブル端末38と同様に、マイク、スピーカ、スイッチ等が配置されている。また、スピーカの代わりにイヤホーン等を装着する接続ジャックが形成されていてもよい。また、本体部114の内部には、図3に示すコントローラ44と同様の構成が納められ、CPU56上では図6と同様な各種モジュールが構成されて同様に機能する。
ウェアラブル端末112の場合、画像処理装置10と無線接続しようとする場合には、接続しようとする画像処理装置10に向かってウェアラブル端末112のカメラ118を翳す。この場合、表示部116には、画像処理装置10の撮影画像が表示されると共に、ウェアラブル端末38と同様に、その撮影画像に基づいて画像処理装置10の特定、パネル装置14の相対位置の検出等を行う。そして、案内画像生成部100は、画像処理装置10のパネル装置14に表示された二次元コードや電子透かし110を読み取り可能な位置にカメラ118を移動させるように促す案内情報を生成する。案内情報の一例としては、図17に示すように矢印メッセージ122とすることができる。ウェアラブル端末112の場合、表示部116が小さく、ユーザは腕を動かしながらカメラ118の位置を調整するため、案内内容の理解が容易でシンプルな矢印等のマーク表示が望ましい。なお、音声出力による案内や文字表示による案内を併用してもよく、ユーザの注目を促すことができる。
上述の各説明において、モバイル機器の一例として示したウェアラブル端末は、メガネタイプや腕時計タイプで、当該ウェアラブル端末に表示部、カメラ、マイク、スピーカ、スイッチ等が一体的に搭載された例を示した。別の例として、構成の一部や全てが別体構成とされていてもよい。例えば、カメラのみを別体構成としてもよく、同様の効果を得ることができる。また、ウェアラブル端末としてコンタクトレンズタイプにも本実施形態の技術は適用可能である。この場合、上述の構成の一部は別構成となる場合があるが、同様な効果が得られる。
また、別の実施形態として、撮影部、取得部、情報生成部、重畳部、制御部とを含む情報処理システムを構成してもよい。この場合、撮影部は、制御対象機器を撮影する。取得部は、撮影した制御対象機器に定められた特定部位の位置情報を取得する。情報生成部は、位置情報に基づいて制御対象機器における特定部位に注目を促す案内情報を生成する。重畳部は、案内情報を制御対象機器の像に重畳表示する。制御部は、注目を促した特定部位の撮影によって得られた情報に基づく処理を実行する。このような構成の情報処理システムにおいても、上述したようにウェアラブル端末に実施形態の技術を適用した場合と同様の効果を得ることができる。
また、別の実施形態として、ウェアラブル端末と、当該ウェアラブル端末と無線接続可能な画像処理装置と、からなる相互接続システムを構成してもよい。この場合、ウェアラブル端末は、撮影部と、取得部と、情報生成部と、重畳部と、端末制御部とを含む。撮影部は、制御対象機器を撮影する。取得部は、撮影した制御対象機器に定められた特定部位の位置情報を取得する。情報生成部は、位置情報に基づいて制御対象機器における特定部位に注目を促す案内情報を生成する。重畳部は、案内情報を制御対象機器の像に重畳表示する。端末制御部は、注目を促した特定部位の撮影によって得られた情報に基づき画像処理装置に対し無線接続処理を実行する。一方、画像処理装置は、表示部と、本体制御部とを含む。表示部は、ウェアラブル端末と無線接続するための情報を特定部位に表示する。本体制御部は、情報に基づきウェアラブル端末に対する無線接続処理を実行する。このような構成の相互接続システムにおいても、上述したように実施形態と同様な効果を得ることができる。
また、上述した実施形態においては、ウェアラブル端末38,112の制御対象機器を画像処理装置10とする場合を示したが、制御対象機器は、適宜選択可能である。例えば、複写機、プリンター、イメージスキャナ、ファクシミリ等のいずれか一つの機能、またはそのうちの幾つかを組み合わせた機能を有する電子機器としてもよい。また、テレビや録画、録音装置等のオーディオ機器、家電機器、自動車、ロボット等を制御対象機器としてもよく、同様の効果を得ることができる。
また、上述した実施形態では、無線接続の一例として、Wi−Fi通信を示し、二次元コードに含まれる接続情報を提供、取得する場合を示したが、例えばブルートゥース(登録商標)のペアリング情報を接続情報として提供、取得してもよい。この場合も同様の効果を得ることができる。
また、上述した実施形態においては、一例としてウェアラブル端末38,112の画像処理装置10との無線接続を確立する際の設定情報を取得する場合を示したが、取得する情報は適宜選択可能である。制御対象機器の情報、例えば紙なし情報やトナー切れ情報等を二次元コード等に含ませて、接続前のウェアラブル端末に提供してもよい。この場合、接続機器の事前選択を行わせることが可能になり、制御対象機器の利用効率の向上に寄与できる。
上述の実施形態の画像処理装置10やウェアラブル端末38,112等で実行されるプログラムは、ROM等に予め組み込まれて提供される。別の実施形態としては、プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。この場合、画像処理装置10やウェアラブル端末38,112等にはそれぞれインタフェースを備えるようにすればよい。
さらに、上述の実施形態の画像処理装置10やウェアラブル端末38,112等で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、上述の実施形態の画像処理装置10やウェアラブル端末38,112等で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
上述の実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。この新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。この実施形態およびその変形は、発明の範囲および要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。