以下、本発明の実施形態を図面に基づいて説明する。
<1.第1実施形態>
<1−1.構成概要>
図1は、本発明に係る画像形成システム1を示す図である。図1に示すように、画像形成システム1は、画像形成装置10と携帯端末50とを備える。
画像形成装置10と携帯端末50とは、ネットワーク(通信ネットワーク)108を介して互いに接続される。ネットワーク108は、LAN(Local Area Network)およびインターネットなどによって構成される。また、ネットワーク108に対する接続態様は、有線接続であってもよく、或いは無線接続であってもよい。たとえば、画像形成装置10はネットワーク108に対して有線接続され、携帯端末50はネットワーク108に対して無線接続される。
画像形成システム1においては、画像形成装置10に対する各種の操作を携帯端末50を用いて行うことが可能である。すなわち、携帯端末50は、画像形成装置10を遠隔操作することが可能である。なお、この画像形成システム1は、画像形成装置10の遠隔操作を行う遠隔操作システムなどとも表現される。また、携帯端末50は、画像形成装置10の遠隔操作装置であるとも表現される。
<1−2.画像形成装置の構成>
図2は、画像形成装置10の機能ブロックを示す図である。ここでは、画像形成装置10として、MFP(マルチ・ファンクション・ペリフェラル(Multi-Functional Peripheral))を例示する。図2においては、MFP10の機能ブロックが示されている。
MFP10は、スキャン機能、コピー機能、ファクシミリ機能およびボックス格納機能などを備える装置(複合機とも称する)である。具体的には、MFP10は、図2の機能ブロック図に示すように、画像読取部2、印刷出力部3、通信部4、格納部5、操作部6およびコントローラ9等を備えており、これらの各部を複合的に動作させることによって、各種の機能を実現する。
画像読取部2は、MFP10の所定の位置に載置された原稿を光学的に読み取って(すなわちスキャンして)、当該原稿の画像データ(原稿画像ないしスキャン画像とも称する)を生成する処理部である。この画像読取部2は、スキャン部であるとも称される。
印刷出力部3は、印刷対象に関するデータに基づいて紙などの各種の媒体に画像を印刷出力する出力部である。
通信部4は、公衆回線等を介したファクシミリ通信を行うことが可能な処理部である。さらに、通信部4は、ネットワーク108を介したネットワーク通信を行うことも可能である。このネットワーク通信では、たとえば、TCP/IP(Transmission Control Protocol / Internet Protocol)等の各種のプロトコルが利用される。当該ネットワーク通信を利用することによって、MFP10は、所望の相手先(たとえば、携帯端末50)との間で各種のデータを授受することが可能である。通信部4は、各種データを送信する送信部4aと各種データを受信する受信部4bとを有する。
格納部5は、ハードディスクドライブ(HDD)等の記憶装置で構成される。格納部5は、各操作画面の画像データ等を記憶する。また、格納部5には、各ユーザ向けに複数のボックス(フォルダ)が設けられ、各ボックスには、電子文書データ(文書ファイル)等が保存される。
操作部6は、MFP10に対する操作入力を受け付ける操作入力部6aと、各種情報の表示出力を行う表示部6bとを備えている。
このMFP10においては、略板状の操作パネル部6c(図1参照)が設けられている。また、操作パネル部6cは、その正面側にタッチパネル25(図1参照)を有している。タッチパネル25は、操作入力部6aの一部としても機能するとともに、表示部6bの一部としても機能する。タッチパネル25は、液晶表示パネルに各種センサ等が埋め込まれて構成され、各種情報を表示するとともに操作者からの各種の操作入力を受け付けることが可能である。
たとえば、タッチパネル25においては、各種の操作画面(ログイン画面、メニュー画面等)(ボタン画像等を含む)が表示される。操作者は、タッチパネル25の操作画面内に仮想的に配置されるボタン(ボタン画像で表現されるボタン)を押下することによって、MFP10の各種動作内容を設定することなどが可能である。
なお、携帯端末50のタッチパネル75(図1参照)においては、MFP10のタッチパネル25に表示される操作画面と同様の画面が表示される。携帯端末50のタッチパネル75に表示された操作画面を用いることにより、MFP10のタッチパネル25に表示された操作画面を用いる操作と同様の操作が実現される。また、後述するように、一部の情報(たとえばセキュリティに関連する情報)を入力する操作画面は、携帯端末50の撮像部によって撮影された撮影画像等を利用して、携帯端末50のタッチパネル75に表示される。
コントローラ9は、MFP10に内蔵され、MFP10を統括的に制御する制御装置である。コントローラ9は、CPUおよび各種の半導体メモリ(RAMおよびROM)等を備えるコンピュータシステムとして構成される。コントローラ9は、CPUにおいて、ROM(例えば、EEPROM)内に格納されている所定のソフトウエアプログラム(以下、単にプログラムとも称する)を実行することによって、各種の処理部を実現する。なお、当該プログラム(詳細にはプログラムモジュール群)は、USBメモリなどの可搬性の記録媒体、あるいはネットワーク108等を介してMFP10にインストールされてもよい。
具体的には、図2に示すように、コントローラ9は、当該プログラムの実行により、通信制御部11と入力制御部12と表示制御部13と判定部14と画面生成部15と許可部16とを含む各種の処理部を実現する。
通信制御部11は、他の装置(携帯端末50等)との間の通信動作を通信部4等と協働して制御する処理部である。たとえば、携帯端末50に表示された操作画面500(図14参照)に対する操作者からの操作入力に関する情報である操作入力情報を携帯端末50から受信する。
入力制御部12は、操作入力部6a(タッチパネル25等)に対する操作入力動作を制御する制御部である。たとえば、入力制御部12は、タッチパネル25に表示された操作画面に対する操作入力を受け付ける動作を制御する。
表示制御部13は、表示部6b(タッチパネル25等)における表示動作を制御する処理部である。表示制御部13は、たとえば、MFP10を操作するための操作画面(遠隔操作画面)200(図9および図11等参照)をタッチパネル25に表示させる。
判定部14は、操作画面に関する画面遷移内容を判定して制御する制御部であり、画面遷移制御部とも称される。判定部14は、たとえば、携帯端末50から送信されてきた操作入力情報(操作入力位置の座標値および/または文字コード等)に基づいて、携帯端末50における操作入力の内容を判定し、当該操作入力の内容に基づく遷移先の画面等を判定する。
画面生成部15は、MFP10のタッチパネル25における操作画面を生成する処理を行う。たとえば、画面生成部15は、高セキュリティモード(後述)において、セキュリティに関連する情報を入力するための操作画面(2次元バーコード画像262等を含む)200(図11参照)を生成する。当該操作画面200は、携帯端末50によって撮影され、携帯端末50による撮影処理により生成された撮影画像500が携帯端末50での文字入力操作に利用される。
許可部16は、MFP10と携帯端末50との通信リンクの確立の許否を決定する処理部である。
<1−3.携帯端末の構成>
次に携帯端末(遠隔操作装置とも称する)50の構成について説明する。
携帯端末50は、他の装置との間でのネットワーク通信が可能な携帯式の情報入出力端末装置である。ここでは、携帯端末50として、スマートフォンを例示する。ただし、これに限定されず、携帯端末50は、タブレット型端末などであってもよい。
図3は、携帯端末50の概略構成を示す機能ブロック図である。
携帯端末50は、図3の機能ブロック図に示すように、撮像部52、通信部54、格納部55、操作部56、傾き検出部57およびコントローラ59等を備えており、これらの各部を複合的に動作させることによって、各種の機能を実現する。
撮像部52は、撮像素子(CCD撮像センサ等)を備えて構成され、被写体像を撮像する処理部である。撮像部52は、たとえば、MFP10のタッチパネル25に表示された操作画面200(図11)を撮像した撮影画像500(図14)を生成する。
通信部54は、ネットワーク108を介したネットワーク通信を行うことが可能である。このネットワーク通信では、たとえば、TCP/IP(Transmission Control Protocol / Internet Protocol)等の各種のプロトコルが利用される。当該ネットワーク通信を利用することによって、携帯端末50は、所望の相手先(MFP10等)との間で各種のデータを授受することが可能である。通信部54は、各種データを送信する送信部54aと各種データを受信する受信部54bとを有する。たとえば、送信部54aは、タッチパネル75に表示された操作画面500に対する操作入力の情報(入力文字の情報等)をMFP10に送信する。
格納部55は、不揮発性の半導体メモリ等の記憶装置で構成され、各種の情報を格納する。
操作部56は、携帯端末50に対する操作入力を受け付ける操作入力部56aと、各種情報の表示出力を行う表示部56bとを備えている。この携帯端末50においては、液晶表示パネルに各種センサ等が埋め込まれて構成されたタッチパネル75(図1参照)が設けられている。具体的には、図1に示すように、略板状の携帯端末50の正面側において、その周縁部(枠部)を除くほぼ全面にわたってタッチパネル75が設けられている。このタッチパネル75は、ユーザインターフェイス部として機能する。換言すれば、タッチパネル75は、操作入力部56aの一部としても機能するとともに、表示部56bの一部としても機能する。
傾き検出部57は、ジャイロセンサ等を備えて構成され、携帯端末50の傾き(特に、携帯端末50の向き(縦向きおよび横向き))を検出する。
タッチパネル75には、タッチパネル25の操作画面と同様の操作画面、あるいは、携帯端末50の撮像部52により撮像された撮影画像を用いた操作画面等が、遠隔操作画面(MFP10を遠隔操作するための画面)として表示される。また、タッチパネル75は、当該遠隔操作画面等に対するタッチジェスチャ操作(タッチ操作とも称する)を受け付ける。
図3のコントローラ59は、携帯端末50に内蔵され、携帯端末50を統括的に制御する制御装置である。コントローラ59は、CPUおよび各種の半導体メモリ(RAMおよびROM)等を備えるコンピュータシステムとして構成される。コントローラ59は、CPUにおいて、記憶部(半導体メモリ等)内に格納されている所定のソフトウエアプログラム(プログラム)を実行することによって、各種の処理部を実現する。なお、当該プログラム(詳細にはプログラムモジュール群)は、USBメモリなどの可搬性の記録媒体、あるいはネットワーク108等を介して携帯端末50にインストールされるようにしてもよい。
携帯端末50には、遠隔操作用のプログラムがインストールされている。当該プログラムは、MFP10を遠隔操作するアプリケーションソフトウエアプログラムであり、遠隔操作に関する諸機能等を実現する。
具体的には、コントローラ59は、当該プログラム等の実行により、通信制御部61と入力制御部62と表示制御部63とバーコード情報取得部64と位置決定部65とを含む各種の処理部を実現する。
通信制御部61は、通信部54等と協働して、MFP10等との通信動作を制御する処理部である。たとえば、通信制御部61は、操作入力情報(タッチパネル75に表示された操作画面に対する操作者からの操作入力に関する情報)をMFP10に送信する。
入力制御部62は、操作入力部56a(タッチパネル75等)に対する操作入力動作を制御する制御部である。たとえば、入力制御部62は、タッチパネル75に表示された遠隔操作画面(文字入力画面等)に対するタッチ操作入力(文字入力を含む)を受け付ける動作を制御する。
表示制御部63は、表示部56b(タッチパネル75等)における表示動作を制御する処理部である。表示制御部63は、たとえば、MFP10を遠隔操作するための操作画面(文字入力画面等)として、撮影画像500をタッチパネル75に表示する。
なお、入力制御部62および表示制御部63は、ユーザインターフェイス制御部とも総称される。
バーコード情報取得部64は、撮影画像500に含まれる2次元バーコード画像(バーコード画像あるいはコード画像とも称される)262を認識し、当該バーコード画像262に含まれる情報を抽出して取得する処理部である。バーコード情報取得部64は、たとえば、撮影画像500に含まれるバーコード画像262から、文字入力パーツの表示指令を抽出して取得する。また、バーコード情報取得部64は、バーコード画像262の撮影画像500における位置およびサイズに関する情報等をも撮影画像500から抽出して取得する。
位置決定部65は、タッチパネル25(操作画面200)に表示された各パーツ(文字入力パーツ表示枠261,文字入力欄231,232等)の撮影画像500における対応位置を特定し、撮影画像500における各パーツの表示位置等を決定する処理部である。位置決定部65は、バーコード画像262の撮影画像500における位置およびサイズに関する情報とバーコード画像262の操作画面200における位置およびサイズに関する情報とに基づく座標変換処理を行うことによって、各パーツの撮影画像における対応位置を特定する。
<1−4.動作モード>
MFP10は、セキュリティに関する動作モードとして、通常モードと高セキュリティモードとを含む複数のモードを有している。高セキュリティモードは、通常モードよりも高いセキュリティを確保するモードである。
通常モードにおいては、MFP10のタッチパネル25に操作画面が表示されるとともに、当該操作画面の画像データがMFP10から携帯端末50に送信され、携帯端末50のタッチパネル75に当該操作画面と同様の操作画面(遠隔操作画面)が表示される。タッチパネル75に表示された操作画面は、外観上、タッチパネル25に表示された操作画面と同様の画面である。そして、タッチパネル75の当該操作画面に対する押下操作(タッチ操作)が行われると、その操作位置(押下位置ないしタッチ位置とも称される)の位置情報(座標情報等)がMFP10に送信される。MFP10は、受信した位置情報に基づきユーザの操作指示を認識し、次に表示すべき操作画面を決定する。以後、同様の動作が繰り返し実行されることによって、携帯端末50によるMFP10の遠隔操作が実現される。
高セキュリティモードにおいては、複数の操作画面のうち一部の操作画面以外に関しては、上述の通常モードにおける動作と同様の動作が行われる。一方、一部の操作画面に関しては、上述の通常モードにおける動作とは異なる動作が実行される。具体的には、高セキュリティを要する一部の操作画面(たとえば認証情報の入力画面(ログイン画面)等)に関しては、通常モードでは表示されていた文字入力パーツ(キーボード等)はタッチパネル25に表示されない。当該一部の操作画面に関しては、当該文字入力パーツに代えてバーコード画像(詳細には2次元バーコード画像)262がタッチパネル25に表示される(図11参照)。このバーコード画像262には、文字入力パーツの表示指令がそのコード情報として埋め込まれている(包含されている)。携帯端末50は、その撮像部52によって当該操作画面200(詳細には、その全部または一部)を撮像した撮影画像500(図14参照)を生成する。そして、携帯端末50は、撮影画像500内のバーコード画像262に包含される表示指令を当該バーコード画像262から抽出する。さらに、携帯端末50は、抽出した当該表示指令に基づき、文字入力パーツ(ここではキーボード)273を撮影画像500に合成した画面を、文字入力画面としてタッチパネル75に表示する(図17参照)。携帯端末50のユーザは、タッチパネル75に表示された文字入力パーツ273を用いて、文字を入力する。携帯端末50は、ユーザからの文字入力を受け付けると、その文字入力内容(入力された文字に関する情報)をMFP10に対してネットワークを介して送信する。
以下では、このような動作(特に高セキュリティモードにおける動作)を中心に、画像形成システム1における動作について図4〜図8等を参照しながら更に詳細に説明する。
<1−5.動作>
図4は、MFP10の動作を示すフローチャートであり、図5〜図7は、携帯端末50の動作を示すフローチャートである。また、図8は、画像形成システム1における動作例を示すタイミングチャートである。なお、図5〜図8においては、高セキュリティモードにおける動作が示されている。
ここでは、上述の一部の操作画面200として「ログイン画面」を例示する。換言すれば、操作画面200に対する文字入力操作として、ログイン画面に対する文字入力操作が行われる場合を中心に説明する。
まず、ステップS11(図4)において、MFP10(画面生成部15等)は、ユーザからのログイン操作を受け付けるログイン画面(操作画面)200の画面情報(操作画面情報)を取得する。また、MFP10は、自身の動作モードが通常モードであるか高セキュリティモードであるかを判定する(ステップS12)。
MFP10の動作モードが通常モードである場合には、ステップS12からステップS20に進む。この場合には、たとえば、図9に示されるようなログイン画面200(201)が表示される。
このログイン画面201は、3つのボタン211,212,241と2つの文字入力欄231,232とソフトウエアキーボード251と文字入力パーツ表示枠261とを備えている。
文字入力欄231,232は、文字の入力欄である。詳細には、文字入力欄231は、ユーザIDの入力欄(換言すれば、ユーザIDに関する入力文字を表示する文字表示欄)であり、文字入力欄232は、パスワードの入力欄(換言すれば、パスワードに関する入力文字を表示する文字表示欄)である。タッチパネル25においては、文字入力パーツ表示枠261内に表示されたソフトウエアキーボード(文字入力パーツ)251を用いることによって、これらの文字入力欄(テキスト入力ボックスとも称される)231,232に対して文字を入力することが可能である。
また、ボタン211は、文字入力欄(ユーザID入力欄)231に対応して配置(近接配置)されている。当該ボタン211にはラベル文字「UserID」が付されており、当該ボタン211に隣接する文字入力欄231がユーザIDの入力欄であることが示されている。換言すれば、ボタン211は、文字入力欄(ユーザID入力欄)231に入力されるべき情報の種別名称「ユーザID」を示す(入力)情報名称表示欄である。
同様に、ボタン212は、文字入力欄(パスワード入力欄)232に対応して配置されている。当該ボタン212にはラベル文字「Password」が付されており、当該ボタン212に隣接する文字入力欄232がパスワードの入力欄であることが示されている。換言すれば、ボタン212は、文字入力欄(パスワード入力欄)232に入力されるべき情報の種別名称「パスワード」を示す(入力)情報名称表示欄である。
ボタン241は、キャンセルボタンである。当該ボタン241が押下されると、(ログイン情報入力状態ではなく)待機状態へと遷移する。なお、当該待機状態では、ログイン情報入力状態への遷移指示を受け付ける待機画面(不図示)がタッチパネル25に表示される。
ログイン画面201は、これらのパーツ211,212,241,231,232,251,261を合成することによって生成される。
通常モードにおいては、このログイン画面201を用いてユーザIDおよびパスワードの入力操作が行われる。具体的には、ログイン画面201は、MFP10から携帯端末50に送信され、携帯端末50は、上述のような動作(画面表示、操作入力受付、操作位置情報送信等)を行い、MFP10を遠隔操作する。あるいは、タッチパネル25に表示されたログイン画面201に対する直接的な操作が行われることによっても、ユーザIDおよびパスワードの入力操作が行われ得る。
一方、MFP10の動作モードが高セキュリティモードである場合には、ステップS12からステップS13以降へと進む。この場合には、たとえば、図11に示されるようなログイン画面200(202)がタッチパネル25に表示される。このログイン画面202は、3つのボタン211,212,241と2つの文字入力欄231,232と文字入力パーツ表示枠261と2次元バーコード画像262とを備えている。高セキュリティモードにおいては、このログイン画面202を用いてログイン操作(ユーザIDおよびパスワードの入力操作等)が行われる。また、高セキュリティモードにおいては、MFP10のタッチパネル25は、キャンセルボタン241に対する直接操作のみを受け付ける。それ以外の操作に関しては、MFP10は携帯端末50を用いた遠隔操作のみを受け付ける。
このログイン画面202(図11)は、ログイン画面201(図9)と比較すると判るように、ソフトウエアキーボード251に代えて、2次元バーコード画像(コード画像)262を有している。換言すれば、高セキュリティモードにおいては、通常モードでは表示されていたソフトウエアキーボード251はタッチパネル25に表示されず、当該ソフトウエアキーボード251に代えてバーコード画像262がタッチパネル25に表示される。バーコード画像262は、タッチパネル25内において、ソフトウエアキーボード251が配置されていた場所に表示される。
詳細には、まず、ステップS13(図4)において、バーコード画像(単にバーコードとも称する)262(図12)の生成処理が画面生成部15によって実行される。
具体的には、図10に示すように、このバーコード画像262には、複数のパーツ211,212,241,231,232,261,262について、「パーツ種類」、「位置」、「サイズ」および「その他」に関する情報がコード化されて埋め込まれる。図10は、バーコード画像262に埋め込まれる各種の情報を示す図である。
たとえば、図10の「項目」欄に示すように、各パーツの種類情報(「2次元バーコード」、「ユーザインターフェイス(文字入力パーツ)」、「ボタン」、「テキスト入力ボックス」等)がコード化されて埋め込まれる。
また、図10の「位置(X,Y)」欄に示すように、ログイン画面(操作画面)200における各パーツの位置(X方向の位置およびY方向の位置)(X,Y)に関する情報がコード化されて埋め込まれる。同様に、図10の「サイズ(X,Y)」欄には、ログイン画面200における各パーツのサイズ(X方向サイズW(幅)およびY方向サイズH(高さ))(W,H)に関する情報がコード化されて埋め込まれる。なお、各パーツの位置情報は、ログイン画面における当該各パーツの基準点(当該各パーツ領域の左上の点など)の位置情報(タッチパネル25の座標系で表現された位置情報)として付与されればよい。
たとえば、図10の項目「2次元バーコード」の欄に示されるように、「2次元バーコード」に関する情報として、バーコード画像262自身の位置(X1,Y1)およびサイズ(W1,H1)がコード化されてバーコード画像262に埋め込まれる。
また、図10の項目「ユーザインターフェイス」の欄に示されるように、「ユーザインターフェイス(文字入力パーツ)」に関する情報として、文字入力パーツ表示枠261の位置(X2,Y2)およびサイズ(W2,H2)がコード化されてバーコード画像262に埋め込まれる。なお、文字入力パーツ表示枠261は、文字入力パーツ273が表示される領域であることから、文字入力パーツ273の表示用領域であるとも表現される。
さらに、図10の項目「ボタン1」の欄に示されるように、「ボタン」に関する情報として、ボタン211の位置(X3,Y3)およびサイズ(W3,H3)がコード化されてバーコード画像262に埋め込まれる。同様に、ボタン212の位置(X4,Y4)およびサイズ(W4,H4)、ならびにボタン241の位置(X5,Y5)およびサイズ(W5,H5)も、コード化されてバーコード画像262に埋め込まれる。
また、図10の項目「テキスト入力ボックス」の欄に示されるように、「テキスト入力ボックス」に関する情報として、文字入力欄231の位置(X6,Y6)およびサイズ(W6,H6)がコード化されてバーコード画像262に埋め込まれる。同様に、文字入力欄231の位置(X7,Y7)およびサイズ(W7,H7)も、コード化されてバーコード画像262に埋め込まれる。
さらに、各パーツに関する「その他」の付加情報も必要に応じてコード化されて埋め込まれる。
たとえば、複数のボタン211,212,241の各ラベル情報(名称情報)(たとえば、「UserID」、「Password」、「Cancel」)がコード化されてバーコード画像262に埋め込まれる。また、複数の文字入力欄231,232の各最大文字数情報(各入力欄に表示(入力)可能な最大文字数)(たとえば「30」文字)に関する情報もコード化されてバーコード画像262に埋め込まれる。さらに、文字入力パーツ表示枠261に表示される「ユーザインターフェイス」の種類を指定する情報(指定情報)(たとえば、「キーボード」を指定する指定情報)が埋め込まれる。
また、MFP10のリンク先(携帯端末50)に関する確認用ID(識別情報)(たとえば「Abcde12」)も、コード化されてバーコード画像262に埋め込まれる。
次のステップS14(図4)においては、ログイン画面202を生成する処理が画面生成部15によって行われる。具体的には、ログイン画面201におけるソフトウエアキーボード251がバーコード画像262に差し替えられ、差し替え後の複数のパーツ211,212,241,231,232,262,261を合成することによってログイン画面202が生成される。
そして、ステップS15において、ステップS14にて生成されたログイン画面202がMFP10のタッチパネル25に表示される。このログイン画面202は、携帯端末50による(撮影画像500の)撮影対象画面として表示される。
さらに、ステップS16では、有効なリンク確立要求が受信されたか否かがMFP10(許可部16等)によって判定される。具体的には、正規の確認用ID(後述)を伴うリンク確立要求が当該携帯端末50から送信されてくると、有効なリンク確立要求が受信された旨が判定される。より詳細には、後述するように、撮影画像500内のバーコード画像262に埋め込まれていた確認用ID(図10の最下段参照)が携帯端末50によって認識されて抽出され(ステップS33(図5))、当該確認用IDを含むリンク確立要求が携帯端末50からMFP10に送信される(ステップS35(図5))。そして、当該確認用IDを含むリンク確立要求がMFP10にて受信されると、有効なリンク確立要求が受信された旨が判定される(ステップS16)。
MFP10は、確認用IDを伴うリンク確立要求を携帯端末50から受信する(ステップS16)と、当該携帯端末50から受信した確認用IDとバーコード画像262に埋め込んで発行していた確認用ID(図10参照)との同一性を確認する。当該同一性が確認されると、MFP10(送信部4a等)は、携帯端末50からのリンク確立要求を承認して携帯端末50とのリンク確立を許可するとともに、リンク確立許可(情報)を携帯端末50に返信する。携帯端末50は、リンク確立許可を受信し、MFP10と携帯端末50との間に通信リンクが確立される。
有効なリンク確立要求が受信された旨が判定されない場合には、ステップS16からステップS18に進み、タッチパネル25内のキャンセルボタン241が押下されたか否かが判定される。キャンセルボタン241が押下された旨がステップS18で判定されない場合には、再びステップS16に戻り、同様の動作が繰り返される。一方、タッチパネル25内のキャンセルボタン241が押下された旨がステップS18で判定されると、ステップS19に進む。ステップS19では、ログイン情報入力状態ではなく待機状態へと遷移し、ログイン情報入力状態への遷移指示を受け付ける待機画面(不図示)がタッチパネル25に表示され、図4の処理が終了する。その後、当該待機画面において、ログイン情報入力状態への遷移指示が受け付けられると、ステップS11の処理が再開される。
一方、有効なリンク確立要求が受信された旨が判定される場合には、ステップS17に進む。ステップS17においては、MFP10(許可部16等)は、当該携帯端末50とMFP10とのリンク(通信リンク)を許可する。後述するように、MFP10のタッチパネル25を撮影した撮影画像500内のバーコード画像262に埋め込まれている確認用IDを用いて端末特定処理を行うことによれば、MFP10の近傍にてMFP10との間でリンクを確立しようとしている携帯端末50を確実に特定することができる。
その後、MFP10は、携帯端末50とのリンクが許可されたことを条件として、携帯端末50から各種の情報を受け取る。たとえば、MFP10は、携帯端末50の文字入力画面においてユーザにより入力されたログイン情報(ログインIDおよびパスワードをそれぞれ示す文字コード群等)を携帯端末50から受信する。そして、MFP10(判定部14等)は、当該受信したログイン情報(認証情報)に基づき認証処理を行う。MFP10は、当該受信したログイン情報(認証情報)が正規のものであることを確認すると、さらに次の画面(ログイン後の操作画面)をタッチパネル25に表示するとともに、当該画面の画像データ(換言すれば、遠隔操作用画面の画像データ)を携帯端末50に送信する。以後、リンクが切断されるまで携帯端末50によるMFP10の遠隔操作が同様に行われる。
次に、図5〜図7等を参照して、携帯端末50側の処理を中心に説明する。
MFP10のタッチパネル25に高セキュリティモード用の操作画面200(202)(図11)が表示されている状態(図4のステップS15参照)において、ユーザは、タッチパネル25ではなく携帯端末50を用いて入力操作を行う。
具体的には、まず、ステップS31(図5)において、ユーザは、遠隔操作用のプログラムを実行中の携帯端末50を用いて、タッチパネル25を撮影する撮影処理を行う。詳細には、タッチパネル25に表示されているログイン画面202が、携帯端末50(撮像部52等)を用いてユーザにより撮影される(図13参照)。図13は、ユーザが携帯端末50を用いてMFP10のタッチパネル25を撮影し、MFPにリモートログインしようとしている様子を示す図である。また、図14は、携帯端末50により撮影された撮影画像500(501)を示す図である。図14においては、撮影対象物(タッチパネル25)のうちの一部が携帯端末50の撮影範囲に存在する状況が示されている。図14では、撮影対象物(タッチパネル25)のうち、携帯端末50の撮影範囲の外に存在する部分が破線で示されている。
次に、ステップS32において当該撮影画像500の中からバーコード画像262が抽出される。このとき、携帯端末50(バーコード情報取得部64および位置決定部65等)は、撮影画像500(501)内におけるバーコード画像262の位置およびサイズを、2次元バーコードの認識処理(撮影画像500に対する画像認識処理)により求める。
また、ステップS33において、携帯端末50(バーコード情報取得部64等)は、撮影画像500内のバーコード画像262に包含される情報(図10参照)を、撮影画像500内のバーコード画像262から抽出して取得する。2次元バーコードの認識処理(解析処理)によって、当該バーコード画像262に埋め込まれていた情報が抽出されて取得される。
たとえば、各パーツ211,212,241,231,232,261,262(図11も参照)の位置およびサイズに関する情報等(ラベル情報(名称情報)および最大文字数情報を含む)(図10)が抽出されて取得される。
特に、バーコード画像262に包含される表示指令(具体的には、「ユーザインターフェイス(文字入力パーツ)」に関する指定情報(「キーボード」)等)も当該バーコード画像262から抽出される。なお、ユーザインターフェイスの指定情報がバーコード画像262内に存在する場合には、当該指定情報で指定されたユーザインターフェイス(ここでは「キーボード」)を表示すべき旨の表示指令が付与されているとみなすものとする。
また、文字入力欄231,232の操作画面200における表示位置情報、およびボタン211,212,241の操作画面200における表示位置情報等も取得される。
つぎに、ステップS34においては、携帯端末50(位置決定部65等)は、撮影画像500(501)におけるバーコード画像262の位置およびサイズを、2次元バーコードの認識処理(撮影画像500に対する画像認識処理)(ステップS32)の結果に基づいて取得する。撮影画像500における各パーツの位置およびサイズに関する情報は、まず撮影画像500の座標系で表現された位置情報として取得される。そして、携帯端末50は、撮影画像500(501)内でのバーコード画像262の位置およびサイズに関する情報(ステップS33で取得された情報)を用いて、タッチパネル25における座標系(XY座標系)と撮影画像500の座標系(xy座標系)との間の座標変換処理を各種の位置に対して行う。なお、この座標変換処理結果は、後のステップS36,S56等にて用いられる。
ステップS34においては、バーコード画像262の操作画面200における位置およびサイズを示す情報(ここでは(X1,Y1,W1,H1))とバーコード画像262の撮影画像500内での位置およびサイズを示す情報(ここでは(x1,y1,w1,h1))とに基づき次のような座標変換処理が行われる。
ここでは、タッチパネル25において或る大きさ(W1,H1)を有するバーコード画像262(図11および図12も参照)が、撮影画像500(501)にて大きさ(w1,h1)を有する(図14および図15も参照)ことが、認識されるものとする。また、タッチパネル25においては位置P1(X1,Y1)に配置されているバーコード画像262(図12も参照)に関して、当該バーコード画像262の撮影画像500(501)における表示位置P11(x1,y1)(図15も参照)が認識されるものとする。
この場合、座標系相互間の各方向における変倍率(w1/W1,h1/H1)が変換係数(サイズ変換係数)として得られる。たとえば、(W1,H1)=(100,100)、且つ、(w1,h1)=(200,150)である場合には、(200/100,150/100)=(200%,150%)が各方向におけるサイズ変換係数として得られる。また、撮影画像500においては、縦方向が横方向に対して75%(=150/200=(h1/H1)/(w1/W1))に圧縮されていることも判る。これは、携帯端末50の撮像部52の光軸がタッチパネル25の法線に対して(平行ではなく)傾いていることに起因して、撮影画像500においてはタッチパネル25が縦方向に圧縮されて写っていることに対応する。
また、撮影画像500における各パーツの位置(x,y)は、タッチパネル25における各パーツの位置(X,Y)等を用いて、式(1)のように表現される。なお、式(1)は、バーコード画像262の両座標系における各基準位置P1,P11を各座標系の原点に移動させる平行移動と、上述のようなサイズ変換係数とを考慮することによって、導出される。
この式(1)を用いることによって、撮影画像501におけるバーコード画像262の位置(x1,y1)およびサイズ(w1,h1)の認識結果等に基づいて、他のパーツ261,211,212,241,231,232の撮影画像500における各位置(xi,yi)および各サイズ(wi,hi)(ただし、i=2,3,...)が算出される(図16参照)。換言すれば、式(1)に基づく座標変換処理を、各パーツ261,211,212,241,231,232の操作画面200における各位置(Xi,Yi)および各サイズ(Wi,Hi)に関して行うことによって、撮影画像500における各位置(xi,yi)および各サイズ(wi,hi)(ただし、i=2,3,...)が特定される。
図16は、バーコード画像262を用いて取得された各パーツの撮影画像500における位置情報等を示す図である。図16においては、各パーツの撮影画像500における位置およびサイズに関する情報が図10と対比して示されている。図16の最上段(「2次元バーコード」の欄)においては、バーコード画像262の撮影画像501における位置およびサイズに関する認識結果(x1,y1,w1,h1)がバーコード画像262の位置およびサイズに関する情報として示されている。一方、図16の「2次元バーコード」の欄よりも下の段においては、各パーツの撮影画像500(501)における位置およびサイズに関する算出結果((x2,y2,w2,h2),(x3,y3,w3,h3)等)が示されている。
たとえば、タッチパネル25において位置(X2,Y2)に配置されていた文字入力パーツ表示枠261は、撮影画像500においては、位置(x2,y2)に表示されていることが判る。すなわち、文字入力パーツ表示枠261の撮影画像500における位置(x2,y2)が算出される。同様に、文字入力パーツ表示枠261の撮影画像500におけるサイズ(w2,h2)も算出される。
また、タッチパネル25において位置(X6,Y6)に表示されていた文字入力欄231は、撮影画像500においては、位置(x6,y6)に表示されていることが判る。すなわち、文字入力欄231の撮影画像500における位置(x6,y6)が算出される。同様に、文字入力欄231の撮影画像500におけるサイズ(w6,h6)も算出される。
また、同様に、文字入力欄232の撮影画像500における位置およびサイズ(x7,y7,w7,h7)も算出される。さらに、他の要素261,211,212等の撮影画像における表示位置(x,y)およびサイズ(w,h)も、それぞれ、同様の座標変換処理によって取得される。
このように、撮影画像500において複数のパーツのうちバーコード画像262のみの位置およびサイズを認識することによって、その他の各パーツ261,211,212,241,231,232の位置およびサイズの情報を取得することが可能である。バーコード画像262以外の各パーツの位置およびサイズは、バーコード画像262にコード化されて包含されていた情報(各パーツの操作画面202における位置およびサイズを示す情報)(図10参照)に対して上述の座標変換処理を行うことによって算出(推測)される。換言すれば、バーコード画像262以外の各パーツの位置およびサイズは、当該各パーツに対する直接的な画像処理を経ることなく、取得される。
なお、この実施形態では、簡単化のため座標系間の回転要素については考慮していないが、回転要素についても考慮した上で座標系相互間の座標変換処理が行われるようにしてもよい。
また、ステップS35においては、MFP10と携帯端末50との間での通信リンクが確立される。具体的には、バーコード画像262から抽出された確認用ID(識別情報)を伴うリンク確立要求が携帯端末50からMFP10に送信される。
MFP10(通信制御部11および許可部16等)は、確認用IDを伴うリンク確立要求を携帯端末50から受信する(ステップS16)と、当該携帯端末50から受信した確認用IDとバーコード画像262に埋め込んで発行していた確認用ID(図10参照)との同一性を確認する。当該同一性が確認されると、MFP10(通信制御部11および許可部16等)は、携帯端末50からのリンク確立要求を承認して携帯端末50とのリンク確立を許可するとともに、リンク確立許可(情報)を携帯端末50に返信する。携帯端末50はMFP10からのリンク確立許可(情報)を受信し、MFP10と携帯端末50との間に通信リンクが確立される。
ここにおいて、MFP10(許可部16等)は、バーコード画像262に埋め込まれた確認用ID(MFP10により予め発行された確認用ID)と撮影画像500内のバーコード画像262から抽出された確認用ID(携帯端末50から送信されてきた確認用ID)との同一性が確認されることを条件として、携帯端末50との間で通信リンクを確立する。これによれば、バーコード画像262を撮影してMFP10にログインしようとしている携帯端末50(MFP10近傍に存在する携帯端末50)が確実に特定され得る。
特に、複数の携帯端末50がMFP10の通信圏(たとえば半径10m(メートル)以内の通信可能領域)内に存在する場合であっても、バーコード画像262を撮影してMFP10にログインしようとしている携帯端末50が、当該複数の携帯端末50の中から確実に特定され得る。
また、MFP10は、リモートログインを受け付けるごとに(あるいは所定時間ごとに)、異なる確認用IDを発行することが好ましい。これによれば、その時点でバーコード画像262を実際に撮影してMFP10にログインしようとしている携帯端末50を一層確実に特定することが可能である。
次のステップS36においては、元の撮影画像500(501)(図14参照)を部分的に変更した撮影画像500(502)(図17参照)がタッチパネル75に表示される。具体的には、図17に示すように、元の撮影画像500(501)に対して、文字入力パーツ273(ここではキーボード(詳細にはソフトウエアキーボード))、スナップショットボタン271およびキャンセルボタン272が重畳されて表示される。図17は、タッチパネル75に表示される画面を示す図である。
なお、撮影画像500に含まれる複数のパーツ211,212,231,232,261は、携帯端末50によって描画されて表示されるのではなく、撮影画像500(501)を利用してそのまま表示される。
詳細には、携帯端末50は、撮影画像500(501)内のバーコード画像262を画像処理により撮影画像500から削除し、当該バーコード画像262に代えてキーボード(文字入力パーツ)273を表示する。キーボード273は、携帯端末50の格納部55に(遠隔操作用プログラムのインストール時等において)予め格納されている。キーボード273は、バーコード画像262に埋め込まれていた表示指令(文字入力パーツとして「キーボード」を表示すべき旨の表示指令)に基づき、格納部55から抽出されて表示される。このキーボード273は、撮影画像500における文字入力パーツ表示枠261内の適宜の位置に表示される。なお、文字入力パーツ表示枠261は、文字入力パーツ(キーボード)273の表示対象領域であるとも表現される。
より詳細には、ステップS34での座標変換結果に基づき、その表示位置が決定された上で、指定された文字入力パーツ(ここでは「キーボード」(ソフトウエアキーボード))273が当該撮影画像500に重畳されて表示される(図17参照)。具体的には、文字入力パーツ表示枠261の撮影画像500における位置およびサイズに関する情報に基づいて、文字入力パーツ273の撮影画像500における表示位置等が決定される。より具体的には、撮影画像500において文字入力パーツ表示枠261が表示されている領域(換言すれば、撮影画像500の全領域と文字入力パーツ表示枠261の表示領域との積領域(AND領域))内に文字入力パーツ273が配置されるように、文字入力パーツ273の表示位置および表示サイズが決定される。より詳細には、当該文字入力パーツ273が当該AND領域において出来るだけ大きく表示されるように、その表示位置および表示サイズが決定される。そして、決定された表示位置および表示サイズに従って、文字入力パーツ273が配置される。
なお、撮影画像500における文字入力パーツ表示枠261の位置およびサイズに関する情報としては、ステップS34における座標変換処理によって取得された情報(具体的には、文字入力パーツ表示枠261の撮影画像500における位置およびサイズ(x2,y2,w2,h2))が利用される。上記のステップS34においては、バーコード画像262の撮影画像500における位置およびサイズに関する情報とバーコード画像262の操作画面200における位置およびサイズに関する情報とに基づく座標変換処理が行われている。そして、この座標変換処理によって、文字入力パーツ表示枠261(文字入力パーツ273の表示用領域)の操作画面200における位置およびサイズに基づき、文字入力パーツ表示枠261(文字入力パーツ273の表示用領域)の撮影画像500における位置およびサイズ(x2,y2,w2,h2)が特定されている。
ここでは、キーボード273として、図19〜図21に示すような3種類のキーボード273a,273b,273cが選択的に利用されるものとする。キーボード273a,273bは、それぞれ、主にアルファベット文字キーで構成されるキーボードを示す画像である。キーボード273bは、メモリキー282a〜282dを有する点で、キーボード273aと相違する。また、キーボード273cは、主に数字キーで構成されるキーボード(テンキー)を示す画像である。また、いずれのキーボード273a,273b,273cにおいても、それぞれ、切換キー281、タブキー283、バックスペースキー284、エンターキー285が設けられている。これら3種類のキーボード273a,273b,273cは、切換キー281の押下に応じて切り換えて表示される。なお、図18では、タッチパネル75においてキーボード273cが撮影画像500に合成されて表示(重畳表示)されている様子が示されている。
また、携帯端末50は、スナップショットボタン271およびキャンセルボタン272を撮影画像500(502)内の適宜の位置(図17および図18では右下寄りの位置)において撮影画像500に重畳して表示(合成表示)する。なお、このような撮影画像500(502)は、ユーザからの文字入力を受け付ける画面であることから、文字入力画面であるとも表現される。
このようにして、MFP10のタッチパネル75には、撮影画像501内のバーコード画像262に包含される表示指令に基づいて、文字入力パーツ273を撮影画像501に合成した文字入力画面502が表示される。
なお、静止画モード(後述)以外においては、このような撮影画像500(502)は、所定の更新時間間隔Δt(たとえば1秒)で更新されて表示される。
次のステップS41(図5)において、撮影画像500内のキャンセルボタン272が押下された旨が判定される場合には、ステップS44に進み、MFP10と携帯端末50との通信接続(通信リンク)が解除(切断)される。一方、それ以外の場合には、ステップS42に進む。
ステップS42においては、各種のキー入力処理等が行われる。また、このステップS42は、撮影画像の更新時間間隔Δt(たとえば1秒)ごとに繰り返し実行される。まず、ステップS51(図6)においてタイマがリセットされて計時動作が開始される。
ステップS52において、切換キー281の入力が受け付けられたと判定されると、キーボード種類の切換処理が行われる(ステップS53)。切換キー281が押下されるごとに、図19、図20、図21の各キーボードが順次に切り換えて表示される。具体的には、キーボード273a(図19)が表示されている状態において切換キー281が押下されると、キーボード273b(図20)が表示される。また、キーボード273bが表示されている状態において切換キー281が押下されると、キーボード273c(図21)が表示される。さらに、キーボード273cが表示されている状態において切換キー281が押下されると、キーボード273aが表示される。
また、タブキー283の入力が受け付けられたと判定される(ステップS54)と、文字入力欄(テキスト入力ボックス)の切換処理が行われる(ステップS55)。タブキー283が押下されるごとに、入力対象の文字入力欄が、複数の文字入力欄231,232の間で順次に切り換えられる。
また、バックスペースキー284の入力が受け付けられたと判定される(ステップS56,S61,S62(図7))と、入力対象の文字入力欄(テキスト入力ボックス)(231あるいは232)の後端の1文字が削除される(ステップS64)。
また、メモリキー282(282a〜282d)の入力が受け付けられたと判定される(ステップS63)と、押下されたメモリキーに対応付けられた文字列が、入力対象の文字入力欄に追加表示される(ステップS65)。たとえば、メモリキー282aが押下されると、当該メモリキー282aに登録された登録内容(「A12345」(ログインID))が入力対象の文字入力欄に追加表示される。メモリキー282を利用することによれば、登録された複数の文字を一度に入力することが可能であり、文字入力の手間を軽減することが可能である。また、ログインIDをメモリキー282に登録しておくことによれば、ログインIDの誤入力を防止することも可能である。
また、その他の文字キーの入力が受け付けられたと判定されると、押下された文字キーに対応する文字(すなわち入力された文字)が、入力対象の文字入力欄に追加表示される(ステップS66)。たとえば、文字「A」のキーが押下されると、文字「A」が入力対象の文字入力欄(231等)に追加表示される。また、文字「1」のキーが押下されると、文字「1」が入力対象の文字入力欄(231等)に追加表示される。このように、文字入力欄231,232は、文字入力パーツ273による入力文字の入力欄(表示欄)として機能する。
ここにおいて、入力された各文字の撮影画像500における表示位置等は、次のようにして決定される。具体的には、ステップS31〜S33にて取得された情報(詳細には、バーコード画像262に包含される、文字入力欄(231等)の表示位置情報)に関して上述のような座標変換処理(ステップS34および式(1)参照)を行うことによって、文字入力欄(231等)の撮影画像500における位置(対応位置)およびサイズが特定される。そして、携帯端末50のタッチパネル75は、文字入力欄(231等)の当該対応位置の情報等に基づいて、文字入力パーツ273による入力文字を、撮影画像500の文字入力欄(撮影画像500において被写体として存在する文字入力欄)(231等)に合成して表示(重畳表示)する。この際には、入力された各文字が当該文字入力欄(231等)内にて何文字目であるか等をも考慮して、当該各文字の表示位置等が決定される。これにより、たとえば、ユーザIDに関する入力文字列「A12345」が、文字入力欄231に表示される。
また、エンターキー285の入力が受け付けられたと判定される(ステップS57(図6))場合には、ステップS59に進む。ステップS59においては、全ての文字入力欄231,232に表示されている情報(換言すれば、携帯端末50にて受け付けられた入力情報(入力文字列を示す文字コード群等の文字入力内容))がMFP10に送信される(ステップS59)。たとえば、文字入力欄231に入力されているログインID(「A12345」)と文字入力欄232に入力されているパスワード(「9876」)とが携帯端末50からMFP10に送信される。この場合、ステップS43にてキー入力が完了した旨が判定され、ステップS50に進む。ステップS50においては、ログイン後の各種の操作画面を用いた遠隔操作処理が行われる。ステップS50での処理が終了した後、ステップS44において、MFP10と携帯端末50との通信接続(通信リンク)が解除(切断)される。
また、エンターキー285の入力が未だ受け付けられていないと判定される場合には、ステップS54に進む。
ステップS54において、前回の撮影時刻から時間間隔Δtが未だ経過していないと判定される場合には、再びステップS52に戻って、キー入力受付動作が継続される。
一方、ステップS54において、前回の撮影時刻から時間間隔Δtが経過した旨がタイマ計時結果に基づき判定される(ステップS58)場合には、ステップS42を終了し、ステップS43,S45を経て、ステップS31に復帰する。そして、ステップS31以降の処理が再び実行される。このようにして、所定の時間間隔Δtごとに撮影画像が更新される。なお、ステップS36においては、文字入力欄231,232への入力済み情報は引き続き重畳表示される。
このように、タッチパネル75においては、撮影画像が所定時間間隔Δtで更新され、タッチパネル75は、所定時間間隔Δtで更新される撮影画像を順次に表示する。端的に言えば、キーボードを重畳した当該撮影画像が動画的態様で表示される。
また、この実施形態では、キー入力受付中におけるスナップショットボタン271の押下に応じて、携帯端末50における表示モードとして、静止画モードと動画モードとを切り換えることが可能である。スナップショットボタン271が押下されるごとに、静止画モードおよび動画モードが交互に選択される。初期状態では、動画モードが選択されており、その後、スナップショットボタン271が押下されると、静止画モードに移行する。
ステップS45にて静止画モードへの移行指示が付与された旨が判定される場合(換言すれば、ユーザからの撮影画像更新中止指示が受け付けられる場合)には、撮影画像の更新を中止して、(ステップS31ではなく)ステップS46(次述)に進む。さらに、当該ステップS46の後にステップS41に進み、携帯端末50は、更新されずに引き続き静止画として表示される撮影画像(文字入力パーツ273が合成された撮影画像)502において、文字入力パーツ273による文字入力を受け付ける。換言すれば、静止画的態様で表示される撮影画像500(502)に文字入力パーツ273が合成して表示されるとともに、当該文字入力パーツ273によって文字入力が受け付けられる。
ステップS46では、携帯端末50における撮影画像500の表示の向きが必要に応じて変更される。具体的には、携帯端末50(表示制御部63等)は、更新中止指示の受付時点(換言すれば、最後の撮影画像500(静止画として表示されている撮影画像500)の撮影時点)での携帯端末50の向きと現時点での携帯端末50の向きとが異なる場合に、タッチパネル75における撮影画像500の表示の向きを変更する。本願においては、携帯端末50の「向き」は、「縦向き」(略矩形状のタッチパネル75の長辺が縦方向に伸びる向き)と「横向き」(略矩形状のタッチパネル75の長辺が横方向に伸びる向き)とのいずれかで表現されるものとする。
最後の撮影画像500の撮影時点での携帯端末50の向きは、当該撮影時点(換言すれば、更新中止指示の受付時点)において傾き検出部57(図3)によって検出されて格納部55に格納されている。また、現時点での携帯端末50の向きも傾き検出部57(図3)によって検出される。そして、たとえば、最後の撮影画像500の撮影時点での携帯端末50の向きが「縦」向き(上向き)であり且つ現時点での携帯端末50の向きが「横」(左向き)である場合には、携帯端末50は、撮影画像500(502)の向きを時計回りに90度回転させた状態で(撮影画像500が上向きになるように)当該撮影画像500(502)を表示する。これにより、撮影画像が静止画像として表示される際に、現時点での携帯端末50の向きに応じて撮影画像500の表示の向きを適切に変更することが可能である。
以上のような動作においては、文字入力パーツの表示指令をそのコード情報として有する2次元バーコード画像262がMFP10にて生成され、当該バーコード画像262を含む操作画面200がMFP10のタッチパネル25に表示される。そして、携帯端末50は、タッチパネル25の操作画面200を撮像した撮影画像500を生成し、撮影画像500内のバーコード画像262に包含される表示指令に基づいて、文字入力パーツ(キーボード)273を撮影画像500に合成してタッチパネル75にて表示(重畳表示)する。したがって、ユーザは、携帯端末50のタッチパネル75に表示された文字入力パーツ273を用いて文字入力を行うことが可能である。換言すれば、MFP10のタッチパネル25に表示された操作画面200を用いずに文字入力を行うことが可能である。そのため、文字入力処理における入力内容(文字入力内容)を他ユーザによって覗き見られる可能性を抑制することが可能である。特に、ユーザは、携帯端末50を当該ユーザの手元に引き寄せることが可能であるので、入力内容を他ユーザによって覗き見られる可能性をより確実に抑制することが可能である。また特に、静止画モード(より詳細には静止画像撮影後)においては、ユーザは、携帯端末50とMFP10との位置関係に配慮することなく、携帯端末50を更に近くにまで(たとえば当該ユーザの目の前にまで)引き寄せることが可能である。そのため、入力内容を他ユーザによって覗き見られる可能性をさらに抑制することが可能である。
また、(MFP10のタッチパネル25に表示された)操作画面200の撮影画像500を利用した文字入力画面が携帯端末50に表示されるので、文字入力画面を携帯端末50で表示するために操作画面200の画像データが携帯端末50に送信されることを要しない。したがって、画像データの送受信に伴う操作性の低下を回避することも可能である。
また、上述のような座標変換処理(ステップS34参照)を行うことによって、文字入力パーツ(キーボード)273の表示対象領域である文字入力パーツ表示枠261の位置およびサイズが特定され、文字入力パーツ273の表示位置および表示サイズが決定される。したがって、文字入力パーツ273が撮影画像500内の適切な位置に適切なサイズで表示され得る。
また、バーコード画像262は、文字入力欄231,232の操作画面200内における表示位置情報を有しており、携帯端末50の位置決定部65は、バーコード画像262に包含される当該表示位置情報に関する座標変換処理を行うことによって、文字入力欄231,232の撮影画像500における対応位置をそれぞれ特定する。そして、携帯端末50のタッチパネル75は、文字入力パーツ273を用いて入力される文字を、当該対応位置にそれぞれ表示する。したがって、文字入力パーツ273を用いて入力される文字が、撮影画像500にて被写体として表示されている文字入力欄231(,232)の位置に、適切に表示され得る。
特に、撮影画像500でのバーコード画像262の位置等の認識は他の要素の位置等の認識よりも容易であり、当該バーコード画像262の認識位置等を利用することによって、撮影画像500での各パーツの位置を比較的簡易に特定することが可能である。
また特に、式(1)に示すように縦横比等を考慮することによれば、タッチパネル25の傾きと携帯端末50の傾きとが同一でないこと(端的に言えば、タッチパネル25と携帯端末50とが平行でないこと)に起因する撮影画像における縦横比の歪みを考慮した上で、キーボード273の表示位置および文字入力欄231,232の表示位置等を良好に補正することが可能である。
また、MFP10の表示制御部13は、高セキュリティモードにおいて、通常モードでは表示されていたソフトウエアキーボード(文字入力パーツ)251を表示せず、当該ソフトウエアキーボード251に代えてバーコード画像262を表示する。これによれば、ソフトウエアキーボード251による文字入力が行われ得ないので、ソフトウエアキーボード251による入力内容を他ユーザによって覗き見られることを回避することが可能である。したがって、文字入力処理(ユーザ認証情報入力処理)における入力内容を他ユーザによって覗き見られる可能性をさらに抑制することが可能である。
また、携帯端末50のタッチパネル75は、高セキュリティモードにて撮像部52によって生成された撮影画像500内のバーコード画像262を当該撮影画像500から削除し、バーコード画像262に代えて文字入力パーツ273を表示するので、バーコード画像262によって文字入力パーツ273が見難くなることを防止することが可能である。
<2.変形例等>
以上、この発明の実施の形態について説明したが、この発明は上記説明した内容のものに限定されるものではない。
たとえば、上記実施形態においては、キーボード273が遠隔操作用プログラムのインストール時等に携帯端末50の格納部55に予め格納されている態様(換言すれば、キーボード273が遠隔操作用プログラムに内蔵されている態様)が例示されているが、本発明はこれに限定されない。携帯端末50において遠隔操作用プログラムとは別にインストールされているインプットメソッドエディタ(IME:Input Method Editor)(単にIMEとも称する)のキーボード等が上記のキーボード273として呼び出されて利用されても良い。
また、上記実施形態においては、文字入力パーツ273として主にキーボードが例示されているが、これに限定されず、手書き文字入力パッドなどが文字入力パーツ273として用いられてもよい。
また、上記実施形態においては、ステップS36において、キーボード273のみを撮影画像に重畳して表示する態様が例示されている。しかしながら、本発明はこれに限定されず、たとえば、ステップS36において、キーボード273に加えて、ボタン211,212のラベル文字をも撮影画像に重畳表示するようにしてもよい。
具体的には、上述のように、操作画面200は、情報名称表示欄(ボタン)211,212を有している。また、バーコード画像262は、これらのボタン211,212の名称情報(情報種別名称(「UserID」「Password」)の情報)および情報名称表示欄の表示位置情報((X3,Y3),(X4,Y4))をさらに有している。ステップS33においては、これらの表示位置情報等もバーコード画像262から抽出されて取得される。また、ステップS34において、携帯端末50の位置決定部65は、各情報名称表示欄211,212の操作画面200における表示位置情報(バーコード画像262から抽出された情報)に関して上述の座標変換処理(式(1)による座標変換結果)を行うことによって、各情報名称表示欄211,212の撮影画像500における対応位置をもそれぞれ特定する。
そして、ステップS36において、携帯端末50のタッチパネル75は、名称情報(バーコード画像262から抽出された情報)に関する文字列(名称)を、ステップS34にて特定された各対応位置に重畳表示(合成表示)する。
ここにおいて、重畳表示される各文字の撮影画像500における表示位置等は、次のようにして決定される。具体的には、ステップS31〜S33にて取得された情報(詳細には、バーコード画像262に包含される、情報名称表示欄(211等)の表示位置情報)に関して上述のような座標変換処理(ステップS34および式(1)参照)を行うことによって、情報名称表示欄(211等)の撮影画像500における位置(対応位置)およびサイズが特定される。そして、携帯端末50のタッチパネル75は、バーコード画像262から抽出された(情報名称表示欄の)名称情報に関する文字(文字列)を、情報名称表示欄(211等)の当該対応位置の情報等に基づいて、撮影画像500の情報名称表示欄(撮影画像500において被写体として存在する情報名称表示欄)(211等)に対して重畳して表示(合成表示)する。たとえば、文字入力欄231の情報種別名称を示す文字列「UserID」が、撮影画像500の情報名称表示欄211に重畳表示される。
これによれば、撮影画像500において名称情報に関する文字(文字列)が文字画像として描画されるので、当該文字(文字列)が鮮明に表示される。また、バーコード画像262の位置等の認識結果を利用した上述のような座標変換処理(ステップS34参照)に基づき、情報名称表示欄211,212の位置およびサイズが比較的容易に特定されるので、情報名称表示欄211,212が撮影画像500内の適切な位置に比較的容易に表示され得る。
なお、撮影画像500の情報名称表示欄(211等)に重畳表示される文字(換言すれば、文字を示す画像(文字画像))は、非透過背景を有する文字(文字画像)として表示されることが好ましい。これによれば、重畳表示される文字画像と撮影画像500に元来含まれている文字(被写体としての文字)との重複により文字が見難くなることを回避することが可能である。
また、情報名称表示欄(211等)に重畳表示される文字(文字列)としては、たとえば、バーコード画像262に埋め込まれていたラベル文字列(名称情報)(たとえば「UserID」)がそのまま用いられればよい。
あるいは、バーコード画像262に「情報名称表示欄の名称情報」として埋め込まれていた名称(文字列)(たとえば「UserID」)を別言語(例えば、ドイツ語、フランス語等)に翻訳した翻訳結果である変換後の名称が、撮影画像(文字入力画面)500における情報名称表示欄(211等)に重畳表示されるようにしてもよい。これによれば、様々な言語に応じた文字入力画面を、MFP10(タッチパネル25)での表示内容を変更することなく携帯端末50にて容易に表示することが可能である。
また、上記実施形態においては、高セキュリティを要する操作画面として、ログイン画面(認証情報の入力画面)を主に例示したがこれに限定されない。たとえば、住所録(アドレス情報)の登録画面(宛先登録画面等)および/またはファクシミリ送信の宛先情報の指定画面等が、高セキュリティを要する操作画面として用いられる場合に、上記の思想が適用されるようにしてもよい。
また、上記実施形態においては、バーコード画像262が撮影画像500から削除される態様が例示されているが、これに限定されず、バーコード画像262が撮影画像500から削除されずにそのまま表示されるようにしてもよい。ただし、キーボード273の表示対象領域にバーコード画像262が表示される場合には、キーボード273の視認性を確保する観点からは、バーコード画像262は撮影画像500から削除されることが好ましい。
また、上記実施形態においては、タッチパネル25の操作画面200において単一のバーコード画像が表示されているが、これに限定されず、タッチパネル25の操作画面200において複数のバーコード画像が表示されるようにしてもよい。
図22は、このような変形例を示す図である。図22に示す操作画面200(203)においては、文字入力パーツ表示枠261内に2つのバーコード画像262(262a,262b)が表示されている。各バーコード画像262a,262bには、バーコード画像ごとに異なるバーコード画像の位置(およびサイズ)の情報が、それぞれのコード情報(各バーコード画像のコード情報)として包含されている。
携帯端末50は、このような操作画面200を撮影した撮影画像500をタッチパネル75に表示する。
そして、たとえば図22における右側のバーコード画像262bを含むタッチパネル25(操作画面200)を携帯端末50が撮影し、その撮影画像(バーコード画像262bを含む撮影画像)500(503)が生成される。この場合、バーコード画像262bに含まれる当該バーコード画像262b自身の位置およびサイズに関する情報に基づき、上記実施形態と同様の座標変換処理等が実行される。そして、図23に示すように、文字入力パーツ(キーボード画像)273が、撮影画像500(504)の文字入力パーツ表示枠261の内部に収まるように表示される。その後、この文字入力パーツ273を利用して携帯端末50による文字入力操作が行われる。また、入力された文字列(たとえば、「A12345」)は、図23に示すように、撮影画像500における文字入力欄231の位置に重畳表示される。
あるいは、図22における左側のバーコード画像262aを含むタッチパネル25(操作画面200)を携帯端末50が撮影し、その撮影画像(バーコード画像262aを含む撮影画像)500が生成される。この場合、バーコード画像262aに含まれる当該バーコード画像262a自身の位置およびサイズに関する情報に基づき、上記実施形態と同様の座標変換処理等が実行され、文字入力パーツ(キーボード画像)273が、撮影画像500の文字入力パーツ表示枠261の内部に収まるように表示される。その後、この文字入力パーツ273を利用して携帯端末50による文字入力操作が行われる。
あるいは、図22における2つバーコード画像262a、262bの双方を含む撮影画像500が生成されてもよい。なお、この場合には、たとえば、2つのバーコード画像262a,262bをそれぞれ用いた2つの座標変換処理結果を平均化することによって、各位置の座標変換処理が行われればよい。具体的には、バーコード画像262aに埋め込まれた当該バーコード画像262a自身の位置およびサイズに関する情報に基づく座標変換処理結果と、バーコード画像262bに埋め込まれた当該バーコード画像262b自身の位置およびサイズに関する情報に基づく座標変換処理結果との平均化処理を行うことによって、各位置の座標変換処理が行われればよい。