以下、本発明の実施の形態について図面を参照して説明する。以下の説明では同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがってそれらについての詳細な説明は繰り返さない。
<第1の実施の形態>
図1は、本発明の実施の形態における会議システムの全体概要の一例を示す図である。図1を参照して、会議システム1は、それぞれがネットワーク2に接続された無線局3と、MFP(Multi Function Peripheral)100と、ヘッドマウントディスプレイ(以下、「HMD」という)200と、パーソナルコンピューター(以下「PC」という)300と、携帯情報装置400と、プロジェクター500と、エアータグサーバー600と、を含む。
MFP100は、画像処理装置として機能し、原稿を読み取るための原稿読取機能、画像データに基づいて紙などの記録媒体に画像を形成するための画像形成機能およびファクシミリデータを送受信するファクシミリ送受信機能を備えている。なお、第1の実施の形態においては画像処理装置の一例として、MFP100を例に説明するが、MFP100に代えて、画像を処理する機能を備えた装置であれば、例えば、PC300、エアータグサーバー600等であってもよい。
PC300は、一般的なコンピューターである。PC300は、MFP100を制御するためのプリンタドライバプログラムがインストールされている。
携帯情報装置400は、情報処理装置の一例である。携帯情報装置400は、PDA(Personal Digital Assistants)、スマートフォンなど、ユーザーに携帯して使用され、データを記憶する機能、無線LAN機能を備えている。また、携帯情報装置400は、PC300と同様に、MFP100を制御するためのプリンタドライバプログラムがインストールされており、携帯情報装置400に記憶されたデータの画像を、MFP100にプリントさせることができる。
HMD200は、メガネの形状をしており、ユーザーにより装着されて使用される。HMF200は、被写体を撮像する撮像機能、メガネのレンズ部分に画像を表示する表示機能、無線LAN機能を備えている。HMD200を装着するユーザーは、レンズを通して被写体を視認するとともに、レンズに表示された画像を視認することができる。
プロジェクター500は、表示装置として機能し、通信機能、画像表示機能を備えている。プロジェクター500は、ネットワーク2を介してMFP100により制御され、MFP100から受信される画像データの画像をスクリーンに投影する。なお、ここでは、表示装置の一例としてプロジェクター500を例に説明したが、画像を表示する機能を備えた装置であれば、液晶表示装置、有機ELDであってもよい。
ネットワーク2は、ローカルエリアネットワーク(LAN)であり、接続形態は有線または無線を問わない。またネットワーク2は、LANに限らず、公衆交換電話網(Public Switched Telephone Networks)を用いたネットワーク等であってもよい。さらに、ネットワーク2は、インターネットなどのワイドエリアネットワーク(WAN)に接続されている。
MFP100は、ネットワーク2を介して、無線局3、PC300、プロジェクター500およびエアータグサーバー600と、データの送受信が可能である。無線局3は、ネットワーク2の中継装置であり、無線LAN通信機能を備えたHMD200および携帯情報装置400と通信して、HMD200および携帯情報装置400をネットワーク2に接続する。このため、HMD200および携帯情報装置400各々は、無線局3およびネットワーク2を介してMFP100、PC300、エアータグサーバー600とデータの送受信が可能である。
図2は、本実施の形態におけるMFPの外観を示す斜視図である。図3は、本実施の形態におけるMFPのハードウェア構成の一例を示すブロック図である。図2および図3を参照して、MFP100は、メイン回路110と、原稿を読み取るための原稿読取部130と、原稿を原稿読取部130に搬送するための自動原稿搬送装置120と、原稿読取部130が原稿を読み取って出力する画像データに基づいて用紙等に画像を形成するための画像形成部140と、画像形成部140に用紙を供給するための給紙部150と、画像が形成された用紙を処理する後処理部155と、ユーザーインターフェースとしての操作パネル160とを含む。
後処理部155は、画像形成部140により画像が形成された1以上の用紙を並び替えて排紙するソート処理、パンチ穴加工するパンチ処理、ステープル針を打ち込むステープル処理を実行する。
メイン回路110は、CPU111と、通信インターフェース(I/F)部112と、ROM113と、RAM114と、大容量記憶装置としてのハードディスクドライブ(HDD)115と、ファクシミリ部116と、CD−ROM118が装着される外部記憶装置117と、を含む。CPU111は、自動原稿搬送装置120、原稿読取部130、画像形成部140、給紙部150および操作パネル160と接続され、MFP100の全体を制御する。
ROM113は、CPU111が実行するプログラム、またはそのプログラムを実行するために必要なデータを記憶する。RAM114は、CPU111がプログラムを実行する際の作業領域として用いられる。また、RAM114は、原稿読取部130から連続的に送られてくる読取データ(画像データ)を一時的に記憶する。
操作パネル160は、MFP100の上面に設けられ、表示部161と操作部163とを含む。表示部161は、液晶表示装置(LCD)、有機ELD(Electro−Luminescence Display)等の表示装置であり、ユーザーに対する指示メニューや取得した画像データに関する情報等を表示する。操作部163は、複数のキーからなるハードキー部167を備え、キーに対応するユーザーの操作による各種の指示、文字、数字などのデータの入力を受け付ける。操作部163は、表示部161上に設けられたタッチパネルを165さらに含む。
通信I/F部112は、MFP100をネットワーク2に接続するためのインターフェースである。CPU111は、通信I/F部112を介して、HMD200、PC300、携帯情報装置400、プロジェクター500およびエアータグサーバー600との間で通信し、データを送受信する。また、通信I/F部112は、ネットワーク2を介してインターネットに接続されたコンピューターと通信が可能である。
ファクシミリ部116は、公衆交換電話網(PSTN)に接続され、PSTNにファクシミリデータを送信する、またはPSTNからファクシミリデータを受信する。ファクシミリ部116は、受信したファクシミリデータを、HDD115に記憶する、または画像形成部140に出力する。画像形成部140は、ファクシミリ部116により受信されたファクシミリデータを用紙にプリントする。また、ファクシミリ部116は、HDD115に記憶されたデータをファクシミリデータに変換して、PSTNに接続されたファクシミリ装置に送信する。
外部記憶装置117は、CD−ROM(Compact Disk ROM)118が装着される。CPU111は、外部記憶装置117を介してCD−ROM118にアクセス可能である。CPU111は、外部記憶装置117に装着されたCD−ROM118に記録されたプログラムをRAM114にロードして実行する。なお、CPU111が実行するプログラムを記憶する媒体としては、CD−ROM118に限られず、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、ICカード、光カード、マスクROM、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)などの半導体メモリーであってもよい。
また、CPU111が実行するプログラムは、CD−ROM118に記録されたプログラムに限られず、HDD115に記憶されたプログラムをRAM114にロードして実行するようにしてもよい。この場合、ネットワーク2に接続された他のコンピューターが、MFP100のHDD115に記憶されたプログラムを書換える、または、新たなプログラムを追加して書き込むようにしてもよい。さらに、MFP100が、ネットワーク2に接続された他のコンピューターからプログラムをダウンロードして、そのプログラムをHDD115に記憶するようにしてもよい。ここでいうプログラムは、CPU111が直接実行可能なプログラムだけでなく、ソースプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含む。
会議システム1において、MFP100、HMD200、PC300、携帯情報装置400、エアータグサーバー600間で、データが送受信される。データを送受信するプロトコルは、受信側の装置において送信元を特定することができれば、任意のプロトコルを用いることが可能である。データを送受信するプロトコルは、例えばHTTP(HyperText Transfer Protocol)、FTP(File Transfer Protocol)およびSMPT(Simple Mail Transfer Protocol)、POP(Post Office Protocol)等が用いられる。
図4は、本実施の形態におけるHMDのハードウェア構成の一例を示すブロック図である。図4を参照して、本実施の形態におけるHMD200は、HMD200の全体を制御するためのCPU201と、カメラ202と、データを不揮発的に記憶するフラッシュメモリー203と、情報を表示する表示部204と、無線LANI/F205と、を含む。
カメラ202は、レンズおよび光電変換素子を備え、レンズで集光した光を光電変換素子に結像し、光電変換素子は受光した光を光電変換して画像データをCPU201に出力する。光電変換素子は、CMOS(Complementary Metal Oxide Semiconductor)センサー、CCD(Charge Coupled Device)センサー等である。
表示部204は、透明な部材からなる液晶表示装置(LCD)であり、HMD200のレンズ部分に埋め込まれている。
無線LANI/F205は、無線局3と通信し、HMD200をネットワーク2に接続するためのインターフェースである。フラッシュメモリー203に、MFP100のIP(Internet Protocol)アドレスを登録しておくことにより、HMD200は、MFP100と通信することができ、データの送受信が可能となる。なお、本実施の形態においては、HMD200が無線LANI/F205を用いて、MFP100と通信する場合を例に説明するが、他の通信方法を用いて通信するようにしてもよい。具体的には、HMD200およびMFP100が、例えばBluetooth(登録商標)等の近距離無線装置を搭載する場合には、HMD200が、MFP100と、1対1で通信するようにしてもよい。
フラッシュメモリー203は、CPU201が実行するプログラム、またはそのプログラムを実行するために必要なデータを記憶する。CPU201は、フラッシュメモリー203に記録されたプログラムを、CPU201が備えるRAMにロードして実行する。
図5は、本実施の形態における携帯情報装置のハードウェア構成の概要の一例を示すブロック図である。図5を参照して、携帯情報装置400は、携帯情報装置400の全体を制御するためのCPU401と、カメラ402と、データを不揮発的に記憶するフラッシュメモリー403と、通話部405と接続された無線通信部404と、情報を表示する表示部406と、ユーザーの操作を受け付ける操作部407と、無線LANI/F408と、位置検出部409と、方位検出部410と、外部記憶装置411と、を含む。
無線通信部404は、電話通信網に接続された携帯電話用基地局と無線通信する。無線通信部404は、携帯情報装置400を電話通信網に接続し、通話部405を用いた通話を可能とする。無線通信部404は、携帯電話用基地局から受信した無線信号を復調した音声信号を復号して通話部405に出力する。また、無線通信部404は、通話部405から入力される音声を符号化し、携帯電話用基地局に送信する。通話部405は、マイクおよびスピーカを備え、無線通信部404から入力される音声をスピーカから出力し、マイクから入力される音声を無線通信部404に出力する。さらに、無線通信部404は、CPU401により制御され、携帯情報装置400を電子メールサーバーに接続し、電子メールを送受信する。
カメラ402は、レンズおよび光電変換素子を備え、レンズで集光した光を光電変換素子に結像し、光電変換素子は受光した光を光電変換して画像データをCPU401に出力する。光電変換素子は、CMOS(Complementary Metal Oxide Semiconductor)センサー、CCD(Charge Coupled Device)センサー等である。
表示部406は、液晶表示装置(LCD)、有機ELD等の表示装置であり、ユーザーに対する指示メニューや取得した画像データに関する情報等を表示する。操作部407は、複数のキーを備え、キーに対応するユーザーの操作による各種の指示、文字、数字などのデータの入力を受け付ける。
無線LANI/F408は、無線局3と通信し、携帯情報装置400をネットワーク3に接続するためのインターフェースである。携帯情報装置400に、HMD200、エアータグサーバー600、MFP100、PC300それぞれのIP(Internet Protocol)アドレスを登録しておくことにより、携帯情報装置400は、HMD200、エアータグサーバー600、MFP100、PC300と通信することができ、データの送受信が可能となる。なお、本実施の形態においては、携帯情報装置400が無線LANI/F408を用いて、HMD200、エアータグサーバー600、MFP100、PC300と通信する場合を例に説明するが、他の通信方法を用いて通信するようにしてもよい。具体的には、携帯情報装置400、HMD200、エアータグサーバー600、MFP100、PC300が、例えばBluetooth(登録商標)等の近距離無線装置を搭載する場合には、携帯情報装置400が、HMD200、エアータグサーバー600、MFP100、PC300のいずれかと、1対1で通信するようにしてもよい。また、携帯情報装置400を、HMD200、エアータグサーバー600、MFP100、PC300のいずれかと、例えばUSB(Universal Serial Bus)ケーブル等の有線で接続するようにし、携帯情報装置400が、HMD200、エアータグサーバー600、MFP100、PC300のいずれかと、1対1で通信するようにしてもよい。
フラッシュメモリー403は、CPU401が実行するプログラム、またはそのプログラムを実行するために必要なデータを記憶する。CPU401は、フラッシュメモリー403に記録されたプログラムを、CPU401が備えるRAMにロードして実行する。
位置検出部409は、携帯情報装置400の現在位置を検出する。具体的には、位置検出部409は、全地球測位システム(Global Positioning System)受信機であり、複数のGPS衛星からの電波を受信することにより、現在位置を測定する。位置検出部409は、測定した現在位置を示す値、たとえば、緯度と経度とをCPU401に出力する。
方位検出部410は、携帯情報装置400のカメラ402が向く方向の方位を検出する。具体的には、方位検出部410は、地磁気を計測する地磁気センサーである。方位検出部410は、検出した方位をCPU401に出力する。方位検出部410は、カメラ402の撮像方向、換言すれば、カメラ402のレンズの光軸が向く方向を検出可能なように携帯情報装置400に設置される。なお、方位検出部410は、地磁気センサーに限らず、ジャイロセンサー等を用いるようにしてもよい。
外部記憶装置411は、携帯情報装置400に着脱自在であり、遠隔操作プログラムを記憶したCD−ROM411Aが装着可能である。CPU401は、外部記憶装置411を介してCD−ROM411Aにアクセス可能である。CPU401は、外部記憶装置411に装着されたCD−ROM411Aに記録された遠隔操作プログラムを、CPU401が備えるRAMにロードして実行することが可能である。
なお、CPU401が実行するプログラムとして、フラッシュメモリー403またはCD−EOM411Aに記録されたプログラムについて説明したが、ネットワーク2に接続された他のコンピューターが、フラッシュメモリー403に記憶されたプログラムを書換えたプログラム、または、追加して書き込んだ新たなプログラムであってもよい。さらに、携帯情報装置400が、ネットワーク2に接続された他のコンピューターからダウンロードしたプログラムでもよい。ここでいうプログラムは、CPU401が直接実行可能なプログラムだけでなく、ソースプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含む。
なお、CPU401が実行するプログラムを記憶する媒体としては、CD−ROM411Aに限られず、光ディスク(MO/MD/DVD)、ICカード、光カード、マスクROM、EPROM、EEPROMなどの半導体メモリーであってもよい。
図6は、本実施の形態におけるエアータグサーバーのハードウェア構成の一例を示すブロック図である。図6を参照して、エアータグサーバー600は、エアータグサーバー600の全体を制御するためのCPU601と、CPU601が実行するためのプログラムを記憶するROM602と、CPU601の作業領域として使用されるRAM603と、データを不揮発的に記憶するHDD604と、CPU601をネットワーク2に接続する通信部605と、情報を表示する表示部606と、ユーザーの操作の入力を受け付ける操作部607と、を含む。
図7は、第1の実施の形態におけるMFPが備えるCPUの機能の概要の一例を示すブロック図である。図7に示す機能は、第1の実施の形態におけるMFP100が備えるCPU111が、ROM113、HDD115、CD−ROM118に記憶されたプログラムを実行することにより、CPU111に形成される機能である。図7を参照して、CPU111は、発表用データ取得部51と、登録部53と、関連付部55と、プロジェクター500を制御する画像表示制御部57と、関連情報送信部59と、状態監視部61と、代替情報出力部63と、表示部161を制御する表示制御部65と、外部の装置により遠隔制御される遠隔制御部67と、を含む。
発表用データ取得部51は、ユーザーがPC300を用いて生成する発表用データを取得する。発表用データは、ユーザーが、PC300を用いて、PC300にアプリケーションプログラムを実行させ、PC300により生成されるアプリケーションデータである。発表用データは、少なくとも1ページを含む。また、発表用データは、AR(Augmented Reality)タグを含む。ARタグは、予め定められた画像であり、他の画像および他のARタグと区別することが可能な画像である。なお、ARタグを、QRコード(登録商標)(Quick Response Code)等の二次元バーコードとしてもよい。発表用データ取得部51は、通信I/F部112がPC300から発表用データを受信すると、受信された発表用データを取得する。PC300を操作するユーザーが、発表用データをMFP100のHDD115に記憶にさせる場合、発表用データ取得部51は、HDD115に記憶された発表用データの指定を受け付け、発表用データをHDD115から読み出すことにより、発表用データを取得する。発表用データ取得部51は、取得された発表用データを、関連付部55および画像表示制御部57に出力する。
登録部53は、ARタグと関連情報とを関連付けて登録する。関連情報は、ユーザーにより定められた情報であり、文字、図形または写真、またはそれらの組み合わせである。登録部53は、ARタグと関連情報とを含む関連情報レコードを、関連情報送信部59および代替情報出力部63に出力する。 登録部53は、ユーザーが、操作部163を操作して、ARタグと、関連情報とを入力すれば、入力されたARタグと、入力された関連情報とを含む関連情報レコードを生成し、生成された関連情報レコードをHDD115に記憶する。PC300から受信するなどして、予め準備されたARタグのうちからユーザーが指定すればよい。関連情報が文字の場合には、操作部163が備えるキーボードを用いて入力することができる。また、関連情報が図形または写真の場合には、別のコンピューターで作成した図形や、デジタルカメラで撮像して得られる写真や、インターネットに接続されたサーバーに記憶された図形または写真を、通信I/F部112を介してそれらが記録されたコンピューターからダウンロードするようにすればよい。
また、登録部53は、ユーザーがPC300に入力するARタグと関連情報とを含む関連情報レコードを、PC300から取得するようにしてもよい。さらに、ARタグと関連情報を含む関連情報レコードが記録されたCD−ROM116が外部記憶装置117に装着される場合、CD−ROM116から関連情報レコードを読み出すようにしてもよい。
関連付部55は、発表用データ取得部51から入力される発表用データ中でARタグが配置される位置の近傍に配置された領域の画像を関連画像としてARタグと関連付ける。関連付部55は、発表用データを解析することによって、発表用データ中のARタグを抽出する。さらに、関連付部55は、抽出されたARタグが発表データ中で配置される位置を特定し、その位置の近傍に配置された領域の画像を関連画像として抽出する。関連付部55は、ARタグと関連画像とを含む関連画像レコードを生成し、生成された関連画像レコードを代替情報出力部63に出力する。関連付部55は、発表用データから複数のARタグを抽出する場合、複数のARタグそれぞれについて、そのARタグに対応する関連画像を発表用データから抽出し、複数のARタグにそれぞれ対応する複数の関連画像レコードを代替情報出力部63に出力する。
画像表示制御部57は、プロジェクター500を制御して、発表用データ取得部51から入力される発表用データの画像を、ページごとにプロジェクター500に表示させる。画像表示制御部57は、ユーザーが入力する操作に従って、発表用データを特定し、プロジェクター500に発表用データの画像を表示させる。ユーザーがMFP100の操作部163を操作する場合、操作部163にユーザーにより入力された操作を受け付ける。また、ユーザーが、携帯情報装置400を操作して、MFP100を遠隔操作する場合、ユーザーが携帯情報装置400に入力する操作を、通信I/F部112が携帯情報装置400から受信する。画像表示制御部57は、プロジェクター500に表示させている発表用データと、その発表用データに含まれる複数ページのうち、プロジェクター500に表示させているページを識別するためのページ識別情報と、を代替情報出力部63に出力する。
図8は、発表用データの一例を示す図である。図8を参照して、発表用データ701は、2ページからなり、第1ページにARタグ703,705を含み、第2ページにARタグ707を含む。
図9は、関連情報テーブルの一例を示す図である。図9を参照して、関連情報テーブルは、ARタグごとに関連情報レコードを含む。関連情報レコードは、ARタグ識別情報の項目と、関連情報の項目と、を含む。ここでは、図8に示した発表用データ701に対応する関連情報テーブルを示す。発表用データ701は、3つのARタグ703,705,707を含むので、関連情報テーブルは3つの関連情報レコードを含む。ここでは、ARタグ703,705,707のARタグ識別情報を、それぞれ「AR1」、「AR2」、「AR3」としている。ARタグ識別情報の項目に「AR1」が設定された関連情報レコードは、関連情報の項目に「関連情報A」が設定されており、ARタグ識別情報「AR1」に対して、関連情報「関連情報A」が関連付けられている。ARタグ識別情報の項目に「AR2」が設定された関連情報レコードは、関連情報の項目に「関連情報B」が設定されており、ARタグ識別情報「AR2」に対して、関連情報「関連情報B」が関連付けられている。ARタグ識別情報の項目に「AR3」が設定された関連情報レコードは、関連情報の項目に「関連情報C」が設定されており、ARタグ識別情報「AR3」に対して、関連情報「関連情報C」が関連付けられている。
図10は、関連画像デーブルの一例を示す図である。図10を参照して、関連画像テーブルは、ARタグごとに関連画像レコードを含む。関連画像レコードは、ARタグ識別情報の項目と、関連画像の項目と、を含む。ここでは、図8に示した発表用データ701に対応する関連情報テーブルを示す。発表用データ701は、3つのARタグ703,705,707を含むので、関連画像テーブルは3つの関連情報レコードを含む。ここでは、ARタグ703,705,707のARタグ識別情報を、それぞれ「AR1」、「AR2」、「AR3」としている。ARタグ識別情報の項目に「AR1」が設定された関連情報レコードは、関連画像の項目に図8に示した発表用データにおいてARタグ703の右に配置される文字「あい」の画像が設定されており、ARタグ識別情報「AR1」に対して、文字「あい」の画像が関連画像として関連付けられている。ARタグ識別情報の項目に「AR2」が設定された関連情報レコードは、関連画像の項目に図8に示した発表用データにおいてARタグ705の右に配置される文字「いろ」の画像が設定されており、ARタグ識別情報「AR2」に対して、文字「いろ」の画像が関連情報として関連付けられている。ARタグ識別情報の項目に「AR3」が設定された関連情報レコードは、関連画像の項目に図8に示した発表用データにおいてARタグ707の右に配置されるグラフの一部の画像が設定されており、ARタグ識別情報「AR3」に対して、グラフの一部の画像が関連情報として関連付けられている。
図11は、プロジェクターによって投影される発表用データの画像の一例を示す図である。図11に示す画像711は、図8に示した発表用データの第1ページの画像が、プロジェクター500によって表示される場合を例に示している。図11を参照して、画像711は、発表用データ701の第1ページの画像を含む。
ここで、MHDの機能について説明する。図12は、第1の実施の形態におけるHMDが備えるCPUの機能の概要の一例を示すブロック図である。図12に示す機能は、第1の実施の形態におけるHMD200が備えるCPU201が、フラッシュメモリー203に記憶されたプログラムを実行することにより、CPU201に形成される機能である。図12を参照して、CPU201は、カメラ202を制御する撮像制御部251と、カメラ202により撮像された画像からARタグを抽出するARタグ抽出部253と、ARタグに関連付けられた関連情報を取得する関連情報取得部255と、関連情報を表示部204に表示する関連情報表示部257と、代替表示指示送信部259と、を含む。
撮像制御部251は、カメラ202を制御し、カメラ202が被写体を撮像して出力する画像データを取得する。カメラ202は、カメラ202の光軸がHMD200を装着するユーザーの視線方向となるように、HDM200の本体に設置される。
撮像制御部251は、カメラ202が出力する画像データをARタグ抽出部253に出力する。また、撮像制御部251は、カメラ202が故障などして画像データを出力しない状態となると、エラー信号を代替表示指示送信部259に出力する。
代替表示指示送信部259は、撮像制御部251からエラー信号が入力されると、MFP100に代替表示指示を送信する。フラッシュメモリー203に、MFP100のIPアドレスを記憶させておくことにより、無線LANI/F205を制御して、MFP100のIPアドレス宛に代替表示指示を送信する。なお、代替表示指示送信部259は、ユーザーによる指示が入力されることに応じて、MFP100に代替指示を送信するようにしてもよい。この場合には、撮像制御部251はエラー信号を出力する必要はない。
HMD200を装着するユーザーが、プロジェクター500が画像を投影するスクリーンを見る場合、カメラ202はスクリーンを被写体として撮像し、スクリーンにプロジェクター500によって投影された画像を撮像した画像データを出力する。上述したように、プロジェクター500は、発表用データの画像をスクリーンに投影するため、カメラ202が出力する画像データは、発表用データの画像に含まれるARタグの画像を含む。
ARタグ抽出部253は、撮像制御部251から入力される画像データを解析し、画像データからARタグを抽出する。画像データが複数のARタグを含む場合、複数のARタグの全てを抽出する。ARタグ抽出部253は、抽出されたARタグと、そのARタグの画像データ中の位置を示す位置情報とを、関連情報取得部255に出力する。
関連情報取得部255は、ARタグ抽出部253からARタグが入力されることに応じて、無線LANI/F205を制御して、関連情報の取得要求をMFP100に送信する。関連情報の取得要求は、ARタグ抽出部253から入力されるARタグを含む。後述するように、MFP100は、関連情報の取得要求を受信することに応じて、ARタグに関連付けられた関連情報を返信するので、関連情報取得部255は、無線LANI/F205が受信する関連情報を取得する。関連情報取得部255は、取得された関連情報と、関連情報の取得に用いたARタグに対応する位置情報とを関連情報表示部257に出力する。
関連情報表示部257は、関連情報取得部255から、関連情報と位置情報との組が入力されることに応じて、関連情報の画像を表示部204において位置情報で特定される位置に表示する。ARタグの位置およびサイズによって、そのARタグと関連付けられた関連情報を表示する位置およびサイズが定まる。関連情報取得部255から入力される位置情報は、ARタグの位置を示すので、ユーザーの視界中でARタグと重なる位置に関連情報の画像を表示する。ユーザーがHMD200のレンズを通して見る視界に置いて、レンズに表示された関連情報の画像はスクリーンに投影されたARタグよりも手前に配置される。また、関連情報の画像はARタグの画像がレンズに投影される位置に配置されるので、ユーザーは、ARタグの画像に代えて関連情報の画像を見ることになる。
図13は、HMDを装着するユーザーが視認する画像の一例を示す図である。図13では、HMD200を装着するユーザーが、図8に示したプロジェクター500によって発表用データの第1ページの画像が投影されたスクリーンを視認する画像を示している。図13を参照して、HMD200を装着するユーザーは、図8に示した画像711と異なる点は、ARタグ703に代えて、関連情報「関連情報A」の画像703Aを含み、ARタグ705に代えて、関連情報「関連情報B」の画像705Aを含む。関連情報Aは、図9に示した関連情報テーブルによって、ARタグ識別情報「AR1」に関連付けられ、関連情報Bは、図9に示した関連情報テーブルによって、ARタグ識別情報「AR1」に関連付けられる。
図7に戻って、関連情報送信部59は、登録部53から関連情報レコードが入力される。関連情報送信部59は、通信I/F部112がHMD200から関連情報の取得要求を受信すると、受信された取得要求に含まれるARタグと組になる関連情報を返信する。具体的には、登録部53から入力される関連情報レコードのうちから関連情報の取得要求に含まれるARタグを含む関連情報レコードを特定し、特定された関連情報レコードに含まれる関連情報を返信する。また、関連情報送信部59は、関連情報の取得要求を送信してきた装置、ここではHMD200を識別するための装置識別情報を状態監視部61に出力する。装置識別情報は、例えばネットワーク2で割り当てられたネットワークアドレスを用いることができる。
状態監視部61は、関連情報送信部59から装置識別情報が入力されることに応じて、当該装置識別情報で識別される装置、ここではHMD200の状態を監視する。状態監視部61は、通信I/F部112が関連情報送信部59から入力される装置識別情報で特定されるHMD200から代替表示指示を受信する場合、HMD200の状態としてカメラ202が故障した状態を検出する。なお、ここではHMD200が代替表示指示を送信する場合を例に説明したが、状態監視部61が所定時間間隔でHMD200に問い合わせることによりHMD200の状態を監視し、カメラ202が故障した状態を検出するようにしてもよい。状態監視部61は、HMD200の状態としてカメラ202が故障した状態を検出すると、代替表示指示を送信してきた装置、ここではHMD200の装置識別情報を含む出力指示を代替情報出力部63に出力する。
代替情報出力部63は、状態監視部61から出力指示が入力され、関連付部55から関連画像レコードが入力され、登録部53から関連情報レコードが入力され、画像表示制御部57から発表用データとページ識別情報とが入力される。代替情報出力部63は、状態監視部61から出力指示が入力されることに応じて、画像表示制御部57から入力される発表用データのうちからARタグを抽出し、抽出されたARタグに関連付けられた関連画像および関連情報を、携帯情報装置400に表示させる。携帯情報装置400は、HMD200と予め関連付けられた装置である。
代替情報出力部63は、ページ単位選択部71と、代替画面生成部73と、送信制御部75と、代替画面表示制御部77と、関連情報画像形成部79と、を含む。ページ単位選択部71は、状態監視部61から出力指示が入力されることに応じて、画像表示制御部57から入力される発表用データに含まれる複数ページのうち画像表示制御部57から入力されるページ識別情報で特定されるページを特定し、特定されたページに含まれる1以上のARタグを抽出する。換言すれば、ページ単位選択部71は、発表用データに含まれる1以上のARタグうちから、画像表示制御部57から入力されるページ識別情報で特定されるページに含まれる1以上のARタグを抽出する。画像表示制御部57から入力されるページ識別情報で特定されるページの画像は、画像表示制御部57によってプロジェクター500に表示させている画像である。このため、ページ単位選択部71は、発表用データに含まれる1以上のARタグのうち、プロジェクター500に表示されている画像に含まれるARタグを選択する。画像表示制御部57は、プロジェクター500に表示させるページを切り換えるごとに、ページ識別情報を出力するので、ページ単位選択部71は、画像表示制御部57によってプロジェクター500に表示されているページが変更されるごとに、変更後のページに含まれるARタグを選択する。
ページ単位選択部71は、選択されたARタグと組になる関連画像および関連情報を選択する。具体的には、ページ単位選択部71は、関連付部55から入力される関連画像レコードのうち、変更後のページに含まれるARタグを含む関連画像レコードを特定し、特定した関連画像レコードに含まれる関連画像を取得する。さらに、ページ単位選択部71は、登録部53から入力される関連情報レコードのうち、変更後のページに含まれるARタグを含む関連情報レコードを特定し、特定した関連情報レコードに含まれる関連情報を取得する。ページ単位選択部71は、発表用データのうちから複数のARタグを選択する場合、換言すれば、プロジェクター500に表示されている画像に複数のARタグが含まれる場合、プロジェクター500に表示されている画像に複数のARタグを選択するので、複数のARタグそれぞれについて、当該ARタグに対応する関連画像および関連情報を取得する。ページ単位選択部71は、1以上のARタグそれぞれに対応して取得された関連画像と関連情報との組を代替画面生成部73に出力する。
代替画面生成部73は、ページ単位選択部71から入力される関連画像と関連情報との組を含む代替画面を生成する。代替画面は、関連画像と関連情報とを所定の位置関係で配置した画面である。所定の位置関係は、限定するものではないが、関連画像と関連情報との間隔が所定の距離以内となる関係である。代替画面生成部73は、ページ単位選択部71から関連画像と関連情報との組が複数入力される場合、複数の組にそれぞれ含まれる関連画像と関連情報とを含む代替画面を生成する。代替画面生成部73は、生成された代替画面を、送信制御部75、代替画面表示制御部77および関連情報画像形成部79に出力する。
送信制御部75は、代替画面生成部73から代替画面が入力されることに応じて、状態監視部61から入力される装置識別情報で特定されるHMD200に予め対応付けられた携帯情報装置400に、代替画面を通信I/F部112を介して送信する。
関連情報画像形成部79は、代替画面生成部73から代替画面が入力されることに応じて、画像形成部140を制御して、代替画面の画像を用紙に形成させる。
代替画面表示制御部77は、代替画面生成部73から代替画面が入力されることに応じて、表示制御部65に、代替画面表示指示を出力する。代替画面表示指示は、代替画面生成部73から入力される代替画面を含み、代替画面を表示部161に表示させるコマンドである。
表示制御部65は、表示部161を制御して、表示部161に画像を表示させる。表示制御部65は、代替画面表示制御部77から代替画面表示指示が入力されることに応じて、代替画面表示指示に含まれる代替画面を表示部161に表示させる。表示制御部65は、後述する遠隔操作受信部83から操作画面が入力されることに応じて、操作画面を表示部161に表示させる。
遠隔制御部67は、通信I/F部112を介して接続された外部の装置によって遠隔制御される。ここでは、携帯情報装置400によって遠隔制御される場合を例に説明する。この場合、遠隔制御部67は、通信I/F部112を介して携帯情報装置400と通信可能な状態である。遠隔制御部は、遠隔操作画面送信部81と、遠隔操作受信部83と、を含む。
遠隔操作画面送信部81は、表示制御部65によって表示部161に表示されている操作画面の画像を、携帯情報装置400に送信する。これにより、携帯情報装置400では、表示部161に表示されている操作画面の画像と同じ画像が表示部406に表示する。したがって、表示制御部65によって表示部161に代替画面が表示されている状態においては、携帯情報装置400の表示部406には、代替画面の画像が表示される。
携帯情報装置400を操作するユーザーは、表示部406に表示された操作画面中のいずれかを指示すれば、指示された位置に対応する遠隔操作をMFP100に送信する。遠隔操作受信部83は、通信I/F部112を制御して、携帯情報装置400が送信する遠隔操作を受信する。遠隔操作は、処理を実行させるための実行指令と、別の操作画面を表示させる画面遷移コマンドを含む。遠隔操作受信部83は、画面遷移コマンドの遠隔操作を受信する場合、画面遷移コマンドにより特定される遷移後の操作画面を表示制御部65に出力する。
また、遠隔操作受信部83は、実行指令を示す遠隔操作を受信する場合、実行指令で特定される処理を実行する。遠隔制御部67が実行する処理は、自動原稿搬送装置120および原稿読取部130を制御して原稿の画像を読み取るスキャン処理、画像形成部140、給紙部150および後処理部155を制御して用紙に画像を形成する画像形成処理、HDD115またはCD−ROM118に記憶されたデータを読み出しまたは書き込みするデータ管理処理、ファクシミリ部116を制御してファクシミリデータを送受信するファクシミリ処理、通信I/F部112を制御してデータを送受信するデータ送受信処理、を含む。遠隔制御部67が実行する処理は、上記の2以上の処理を組み合わせた処理を含む。例えば、スキャン処理と画像形成処理を組み合わせたコピー処理、スキャン処理とデータ送信処理を組み合わせて原稿画像を読み取った画像データを送信するスキャンto送信処理、スキャン処理とデータ管理処理とを組み合わせて原稿画像を読み取った画像データをHDD115に記憶するスキャンtoBOX処理を含む。
図14は、第1の実施の形態における携帯情報装置が備えるCPUの機能の一例を示すブロック図である。図14に示す機能は、携帯情報装置400が備えるCPU401が、フラッシュメモリー403、CD−ROM413Aに記憶されたプログラムを実行することにより、CPU401に形成される機能である。図14を参照して、CPU401は、代替情報受信部451と、代替情報表示部453と、を含む。代替情報受信部451が、無線LANI/F408を制御し、MFP100が送信する代替画面を受信する。代替情報受信部451は、受信された代替画面を代替情報表示部453に出力する。代替情報表示部453は、代替情報受信部451から代替画面が入力されることに応じて、代替画面を表示部406に表示する。
図15は、携帯情報装置で表示される代替画面の一例を示す図である。図15では、図8に示したプロジェクター500によって発表用データの第1ページの画像がスクリーンに投影された状態で、携帯情報装置400で表示される代替画面を示す。図15を参照して、代替画面711Bは、図8に示したARタグ703に対応する関連情報「関連情報A」の画像703Aと、関連情報「関連情報B」の画像705Aを含む。さらに、関連情報「関連情報A」の画像703Aの右にARタグ703に対応する関連画像703Bが配置され、関連情報「関連情報B」の画像705Aの右にARタグ705に対応する関連画像705Bが配置される。
したがって、HMD200のカメラ202が故障等して関連情報を表示できない状態であっても、ユーザーは、携帯情報装置400に表示される代替画面を見て、関連情報を知ることができるとともに、代替画面において関連情報の右に配置された関連画像を見ることによって、スクリーンに投影された画像中のどの部分に対応する関連情報であるかを知ることができる。
図16は、第1の実施の形態における表示制御処理の流れの一例を示すフローチャートである。表示制御処理は、第1の実施の形態におけるMFP100が備えるCPU111が、ROM113、HDD115、CD−ROM118に記憶されたプログラムを実行することにより、CPU111により実行される処理である。図16を参照して、CPU111は、登録指示を受け付けたから否かを判断する(ステップS01)。ユーザーが、操作部163の登録指示が予め割り当てられたキーを指示する操作を受け付けると、登録指示を受け付ける。登録指示を受け付けたならば処理をステップS02に進めるが、そうでなければ処理をステップS05に進める。
ステップS02においては、ARタグの指定を受け付ける。予め準備された複数のARタグのうちからユーザーにより指定されたARタグを受け付ける。次のステップS03においては、関連情報を受け付ける。ユーザーが操作部163を用いて入力する関連情報を受け付ける。関連情報が文字の場合には、ユーザーが操作部163を用いて入力する関連情報を受け付ける。また、関連情報が図形または写真の場合には、別のコンピューターで作成した図形や、デジタルカメラで撮像して得られる写真や、インターネットに接続されたサーバーに記憶された図形または写真を、ユーザーが操作部163を用いて指定すれば、通信I/F部112を介してそれらが記録されたコンピューターからダウンロードする。
次のステップS04においては、関連情報レコードをHDD115に記憶し、処理をステップS05に進める。ステップS02において受け付けられたARタグと、ステップS03において受け付けられた関連情報とを含む関連情報レコードを生成し、生成された関連情報レコードをHDD115に記憶する。
ステップS05においては、発表用データを受信したか否かを判断する。発表用データは、ユーザーが、PC300を用いて、PC300にアプリケーションプログラムを実行させ、PC300により生成されるアプリケーションデータである。通信I/F部112を制御して、PC300から発表用データを受信する。PC300を操作するユーザーが、発表用データをMFP100のHDD115に記憶にさせるようにしてもよい。この場合には、次のステップS06を実行する必要は無い。
ステップS06においては、受信された発表用データをHDD115に記憶し、処理をステップS07に進める。ステップS07においては、ステップS05において受信された発表用データからARタグを抽出する。次のステップS08では、発表用データから関連画像を抽出する。関連画像は、発表用データ中でARタグが配置される位置の近傍に配置された領域の画像である。ステップS05において抽出されたARタグの近傍に配置される領域の画像を関連画像として抽出する。
次のステップS09においては、関連画像レコードをHDD115に記憶し、処理をステップS10に進める。ステップS07において抽出されたARタグと、ステップS08において抽出された関連画像とを含む関連画像レコードを生成し、生成された関連画像レコードをHDD115に記憶する。
ステップS10においては、発表用データの表示指示を受け付けたか否かを判断する。ユーザーが操作部163を操作する場合、ユーザーが操作部163を用いて発表用データを指定する操作を受け付ける。また、ユーザーが、携帯情報装置400を用いてMFP100を遠隔操作する場合、ユーザーが携帯情報装置400を用いて発表用データを指定する操作を、通信I/F部112で携帯情報装置400から受信する。発表用データの表示指示を受け付けたならば処理をステップS11に進めるが、そうでなければ処理をステップS13に進める。ステップS11においては、発表用データに含まれる1以上のページうちから、表示対象となるページを特定し、処理をステップS12に進める。発表用データの表示指示が受け付けられた段階においては、最初の第1ページを特定する。ステップS12においては、発表用データに含まれる1以上のページのうち、ステップS11において特定されたページの画像を、プロジェクター500に送信し、プロジェクターに当該ページの画像を表示させ、処理をステップS13に進める。
ステップS13においては、関連情報の取得要求を受信したか否かを判断する。ここでは、HMD200から関連情報の取得要求を受信する場合を例に説明する。通信I/F部112がHMD200から関連情報の取得要求を受信したか否かを判断する。関連情報の取得要求を受信したならば処理をステップS14に進めるが、そうでなければ処理をステップS17に進める。
ステップS14においては、受信された取得要求に含まれるARタグで、HDD115に記憶された関連情報レコードを検索する。次のステップS15においては、検索の結果、取得要求に含まれるARタグと同じARタグを含む関連情報レコードが抽出されたか否かを判断する。そのような関連情報レコードが抽出されたならば、処理をステップS16に進めるが、そうでなければステップS16をスキップして処理をステップS17に進める。ステップS16においては、ステップS15において抽出された関連情報レコードを、取得要求を送信してきたHMD200に通信I/F部112を介して返信し、処理をステップS17に進める。
ステップS17においては、代替表示指示を受信したか否かを判断する。ここでは、HMD200から代替表示指示を受信する場合を例に説明する。通信I/F部112がHMD200から代替表示指示を受信したか否かを判断する。代替表示指示を受信したならば処理をステップS18に進めるが、そうでなければ処理をステップS29に進める。
ステップS18においては、発表用データに含まれる1以上のページのうちプロジェクター500に表示されているページを特定する。次のステップS19においては、表示用データに含まれる1以上のページのうち、ステップS18において特定されたページからARタグを抽出する。そして、抽出されたARタグのうちから1つを処理対象として選択し(ステップS20)、処理をステップS21に進める。ステップS21においては、ステップS20において処理対象に選択されたARタグと関連付けられた関連情報レコードを抽出する。具体的には、処理対象に選択されたARタグを含む関連情報レコードを、HDD115に記憶された関連情報レコードのうちから抽出する。ステップS22においては、ステップS20において処理対象に選択されたARタグと関連付けられた関連画像を抽出する。具体的には、処理対象に選択されたARタグを含む関連画像レコードを、HDD115に記憶された関連画像レコードのうちから抽出する。
ステップS23においては、ステップS21において抽出された関連情報と、ステップS22において抽出された関連画像とを、代替画面に設定する。具体的には、関連情報と関連画像とを、代替画面に並べて配置する。なお、関連情報と関連画像とを関連付けて代替画面に配置すればよく、例えば、関連情報と関連画像とを線で結んでも良いし、関連情報と関連画像とを線で囲むようにしてもよい。
テップS24においては、処理対象に選択されていないARタグが存在するか否かを判断する。未処理のARタグが存在するならば、処理をステップS20に戻すが、そうでなければ処理をステップS25に進める。
ステップS25においては、表示設定により、処理を分岐させる。表示設定は、ユーザーにより設定される。例えば、MFP100に予め設定される場合であっても良いし、HMD200から代替表示指示等ともに受信されるようにしてもよい。表示設定が送信設定ならば処理をステップS26に進め、プリント設定ならば処理をステップS27に進め、遠隔表示設定ならば処理をステップS28に進める。
ステップS26においては、代替画面をHMD200に対して予め対応付けられた携帯情報装置400に送信し、処理をステップS29に進める。ステップS27においては、画像形成部140を制御して、代替画面の画像を用紙に形成させ、処理をステップS29に進める。ステップS28においては、代替画面を表示部161に表示し、処理をステップS29に進める。MFP100が携帯情報装置400によって遠隔制御されている場合は、代替画面が携帯情報装置400に送信されるので、携帯情報装置400に代替画面が表示される。
ステップS29においては、ページ切換指示を受け付けたか否かを判断する。ページ切換指示を受け付けたならば処理をステップS11に戻すが、そうでなければ処理を終了する。ステップS29においてページ切換指示が受け付けられた後に実行されるステップS11においては、表示用データに含まれる1以上のページのうち、ページ切換指示で特定されるページがプロジェクター500に表示される。
図17は、第1の実施の形態における関連情報表示制御処理の流れの一例を示すフローチャートである。関連情報表示制御処理は、第1の実施の形態におけるHMD200が備えるCPU201が、フラッシュメモリー203に記憶されたプログラムを実行することにより、CPU201により実行される処理である。図17を参照して、CPU201は、カメラ402を制御し、被写体を撮像させる(ステップS101)。次のステップS102においては、撮像に成功したか否かを判断する。カメラ402が故障する等の理由でカメラ402が画像データを出力しない場合に、撮像に失敗したと判断する。撮像に成功したならば処理をステップS103に進めるが、そうでなければ処理をステップS106に進める。ステップS106においては、代替表示指示をMFP100に、無線LANI/F205を介して送信し、処理をステップS107に進める。
ステップS103においては、カメラ402が出力する画像データからARタグを抽出する。ここでは、カメラ402の被写体は、プロジェクター500が画像を投影するスクリーンである。上述したように、プロジェクター500は、MFP100によって制御されて、発表用データに含まれる1以上のページのうちユーザーにより指定されたページの画像をスクリーンに投影する。したがって、カメラ402がスクリーンを撮像して出力する画像データは、発表用データに含まれる1以上のページのうちユーザーにより指定されたページの画像を含む。カメラ402が出力する画像データからARタグを抽出したならば処理をステップS104に進めるが、そうでなければ処理をステップS107に進める。
ステップS104においては、MFP100から関連情報を取得する。無線LANI/F205を制御して、ステップS103において抽出されたARタグを含む関連情報の取得要求をMFP100に送信する。MFP100は、関連情報の取得要求を受信することに応じて、ARタグに関連付けられた関連情報を返信するので、無線LANI/F205が受信する関連情報を取得する。
ステップS105においては、ステップS104において取得された関連情報を、ステップS103において抽出されたARタグに対応する位置に配置されるように、表示部204に表示し、処理をステップS107に進める。
ステップS107においては、電源がOFFに切り換えられたか否かを判断する。電源がOFFに切り換えられたならば処理を終了するが、そうでなければ処理をステップS101に戻す。
<第1の変形例>
第1の実施の形態においては、表示設定によって代替画面の出力先を変更するようにした。第1の変形例においては、表示設定がプリント設定の場合に、代替画面ではなく、発表用データに含まれるすべてのARタグに対応する、関連情報と関連画像の組の画像を、1枚の用紙に形成させるようにしたものである。
図18は、表示設定がプリント設定の場合に用紙に形成される画像の一例を示す図である。図18は、図8に示した発表用データに対応して、用紙に画像形成される関連情報と関連画像の組の画像を示している。図9に示した関連情報テーブルおよび図10に示した関連画像テーブルそれぞれにおいて、ARタグに関連付けられた関連情報と関連画像との組をそれぞれ配置した画像となっている。
したがって、HMD200のカメラ202が故障等して関連情報を表示できない状態であっても、ユーザーは、図18に示した画像を見て、発表用データの全てのページに関連する関連情報を知ることができるとともに、関連情報の右に配置された関連画像を見ることによって、スクリーンに投影された画像中のどの部分に対応する関連情報であるかを知ることができる。
<第2の変形例>
第1の実施の形態においては、表示設定によって代替画面の出力先を変更するようにした。第2の変形例においては、表示設定が送信設定の場合に、代替画面ではなく、発表用データに含まれるすべてのARタグに対応する、関連情報と関連画像の組を、携帯情報装置400に送信するようにしたものである。
この場合、携帯情報装置400は、ARタグ703に対応する関連情報と関連画像の組、ARタグ705に対応する関連情報と関連画像の組、ARタグ707に対応する関連情報と関連画像の組を受信する。携帯情報装置400は、ARタグ703,705,707にそれぞれ対応する関連情報と関連画像の組を、ARタグ703,705,707ごとに表示する。この場合、ユーザーは、携帯情報装置200において、予め定められたページ送り操作を用いて、関連情報と関連画像の組を閲覧することができる。
図19は、携帯情報装置における閲覧画面の一例を示す第1の図である。図19を参照して、閲覧画面は、ARタグ703に対応する関連情報「関連情報A」の画像703Aの右にARタグ703に対応する関連画像703Bが配置される。
図20は、携帯情報装置における閲覧画面の一例を示す第2の図である。図20に示す閲覧画面は、図19に示す閲覧画面が表示されている状態で、ユーザーがページ送り操作を携帯情報装置400に入力した場合に表示される画面である。図20を参照して、閲覧画面は、ARタグ705に対応する関連情報「関連情報B」の画像705Aの右にARタグ705に対応する関連画像705Bが配置される。
したがって、HMD200のカメラ202が故障等して関連情報を表示できない状態であっても、ユーザーは、図19および図20に示した画像を見て、発表用データに関連する関連情報を知ることができるとともに、関連情報の右に配置された関連画像を見ることによって、スクリーンに投影された画像中のどの部分に対応する関連情報であるかを知ることができる。
以上説明したように、第1の実施の形態におけるMFP100は、情報提供装置として機能し、発表用データ中でARタグが配置される位置の近傍に配置された領域の画像を関連画像としてARタグと関連付け、第1の外部装置からARタグを受信することに応じて、受信されたARタグと関連付けて登録された関連情報をHMD200に表示させるために、ARタグと関連情報との組を、HMD200に送信する。このため、HMD200が、プロジェクター500によりスクリーンに投影された発表用データの画像を撮像した画像中のARタグに関連付けて関連情報を表示すれば、発表用データに含まれるARタグに関連付けられた関連情報をHMD200を装着するユーザーに通知することができる。また、HMD200のカメラ202が故障する場合、発表用データに含まれるARタグにそれぞれ関連付けられた関連情報と関連画像との組を、HMD200と予め対応付けられた携帯情報装置400に送信し、表示させる。このため、携帯情報装置400で表示される関連情報と関連画像とを見るユーザーは、プロジェクター500によりスクリーンに投影された発表用データの画像に含まれる関連画像を特定できるとともに、関連画像に関連付けられた関連情報を知ることができる。HMD200を装着するユーザーは、携帯情報装置400を携帯していれば、HMD200が故障した場合でも、スクリーンに投影された発表用データの画像に含まれる関連画像を特定できるとともに、関連画像に関連付けられた関連情報を知ることができる。
また、MFP100は、発表用データが複数のARタグを含む場合、複数のARタグごとに、当該ARタグと関連付けられた関連情報と関連画像との組を、携帯情報装置400に送信し、携帯情報装置400は、MFP100から受信される複数の組それぞれを他の組と区別して、当該組に含まれる関連情報と関連画像とを表示する。このため、携帯情報装置400は、ARタグと関連付けられた関連情報と関連画像との組の複数それぞれを他の組と区別して表示するので、発表用データ中の複数のARタグごとに関連情報を、携帯情報装置400を携帯するユーザーに通知することができる。
また、MFP100は、携帯情報装置400によって遠隔制御されている間は、発表用データに含まれるARタグにそれぞれ関連付けられた関連情報と関連画像との組を含む代替画面を操作画面とするので、代替画面が携帯情報装置400に表示される。このため、HMD200を装着するユーザーは、HMD200が故障した場合に、自らが携帯する携帯情報装置400でMFP100を遠隔制御すれば、携帯情報装置400に表示される関連情報と関連画像とを見ることができる。
また、MFP100は、発表用データに含まれる複数ページのうち表示されているページに含まれるARタグと関連付けられた関連情報と関連画像との組を、携帯情報装置400に送信する。このため、表示されていないページに含まれるARタグと関連付けられた関連情報を、携帯情報装置400を携帯するユーザーに通信しないようにすることができる。
また、MFP100は、発表用データに含まれる複数のARタグそれぞれに関連付けられた関連情報と関連画像との画像を用紙に形成する。このため、用紙に形成された関連情報と関連画像とを見るユーザーは、プロジェクター500によりスクリーンに投影された発表用データの画像に含まれる関連画像を特定できるとともに、関連画像に関連付けられた関連情報を知ることができる。
<第2の実施の形態>
図21は、第2の実施の形態におけるMFPが備えるCPUの機能の概要の一例を示すブロック図である。図21に示す機能は、第2の実施の形態におけるMFP100が備えるCPU111が、ROM113、HDD115、CD−ROM118に記憶されたプログラムを実行することにより、CPU111に形成される機能である。図7に示した機能と同じ機能には同一の符号を付している。図12を参照して、CPU111Aは、エアータグ登録部51Aと、部分情報登録部53Aと、部分情報要求受信部59Aと、部分情報送信部61Aと、表示部161を制御する表示制御部65と、外部の装置により遠隔制御される遠隔制御部67と、を含む。
エアータグ登録部51Aは、MFP100に関連するエアータグ情報をエアータグサーバー600に登録する。エアータグ登録部51Aは、エアータグ情報をエアータグサーバー600に、通信I/F部112を介して送信する。エアータグ情報は、関連情報と、位置情報と、装置識別情報と、を含む。
関連情報は、MFP100の少なくとも一部に関連する情報である。例えば、関連情報は、MFP100が備える複数の部分それぞれの状態を示す状態情報を含む。状態情報は、例えば、自動原稿搬送装置120、原稿読取部130、画像形成部140、給紙部150、後処理部155それぞれの状態を示す情報を含む。例えば、画像形成部140の状態は、用紙が詰まった状態、トナー残量を含む。後処理部の状態は、用紙が詰まった状態、ビンの数を含む。また、関連情報は、状態情報に限定されるものではなく、任意の情報とすることができ、例えば、MFP100が備える種々のセンサーで関連情報を検出するようにすればよい。また、MFP100を操作するユーザーが、操作部163に関連情報を入力するようにしてもよい。
位置情報は、MFP100の地理上の位置を示す情報である。位置情報は、例えば、緯度と経度である。MFP100は、MFP100を操作するユーザー、例えば、MFP100を管理するユーザーが、MFP100が配置されている現在位置を示す位置情報を操作部163に入力すれば、入力された位置情報をHDD115に記憶する。なお、MFP100がGPS受信装置を備える場合には、GPS受信装置によって計測された位置から位置情報を特定するようにしてもよい。装置識別情報は、MFP100を識別するための情報であり、例えば、ネットワーク2においてMFP100に割り当てられたネットワークアドレスである。
エアータグ登録部51Aは、エアータグサーバー600に登録したエアータグ情報に含まれる関連情報と、MFP100が備える複数の部分のうち、その関連情報が関連する部分を識別するための部分識別情報とを、部分情報登録部53Aに出力する。
部分情報登録部53Aは、エアータグ登録部51Aから関連情報と部分識別情報とが入力され、入力された関連情報と、関連画像と、を含む部分情報を生成し、部分情報をHDD115に記憶する。関連画像は、関連情報と関連付けられた装置の少なくとも一部を示す画像である。関連画像は、部分識別情報で特定される部分の概観を撮像した画像とすることができる。部分情報登録部53Aは、関連情報に1以上の関連画像を関連付ける場合がある。関連画像は、MFP100の部分のうち、関連情報と関連付けられた部分の画像と、その部分と他の部分とを含む画像と、含む。関連画像は、MFP100の全体を撮像した画像であってもよい。例えば、関連情報が自動原稿搬送装置120と関連付けられている場合、関連画像は自動原稿搬送装置120の概観を撮像した画像、自動原稿搬送装置120および原稿読取部130の概観を撮像した画像、または、MFP100の全体を撮像した画像である。部分情報登録部53Aは、部分情報をHDD115に記憶する場合、記憶された部分情報を部分情報送信部61Aに出力する。
図22は、エアータグ情報の一例を示す図である。図22に示すエアータグ情報は、MFP100によってエアータグサーバー600に登録されるエアータグ情報を示す。図22を参照して、エアータグ情報は、装置識別情報の項目と、位置情報の項目と関連情報の項目と、を含む。ここでは、MFP100によって3つのエアータグ情報が登録された場合を例に示している。3つのエアータグ情報の全てにおいて、装置識別情報の項目にMF100の装置識別情報「MFP−A」が設定され、位置情報の項目にMF100の地理上の位置を示す位置情報「位置A」が設定される。第1番目のエアータグ情報は、関連情報の項目に「スキャン時異常音」が設定され、第2番目のエアータグ情報は、関連情報の項目に「現像器交換必要」が設定され、第3番目のエアータグ情報は、関連情報の項目に「カセット三段目はジャムする」が設定される。
図23は、部分情報の一例を示す図である。図23に示す部分情報は、MFP100により図22に示したエアータグ情報が登録される場合に、MFP100に記憶される部分情報を示している。図23を参照して、部分情報は、3つの部分情報レコードを含む。部分情報レコードは、関連情報の項目と、関連画像1の項目と、関連画像2の項目と、を含む。図23を参照して、関連情報「スキャン時異音」を関連情報に含む部分情報レコードは、関連画像1の項目に原稿読取部120の概観を撮像した画像が設定され、関連画像2の項目にMFP100の全体の概観を撮像した画像が設定される。関連情報「現像器交換必要」を関連情報に含む部分情報レコードは、関連画像1の項目に画像形成部140の概観を撮像した画像が設定され、関連画像2の項目にMFP100の全体の概観を撮像した画像が設定される。関連情報「カセット3段目はジャムする」を関連情報に含む部分情報レコードは、関連画像1の項目に給紙部150の概観を撮像した画像が設定され、関連画像2の項目にMFP100の全体の概観を撮像した画像が設定される。
図21に戻って、部分情報要求受信部59Aは、通信I/F部112を制御して、携帯情報装置400から部分情報要求を受信する。ここでの、携帯情報装置400は、エアータグサーバー600からエアータグ情報を受信した装置である。部分情報要求受信部59Aは、部分情報要求を送信してきた携帯情報装置400が、遠隔制御部67が遠隔制御されている装置と同一か否かを判断する。換言すれば、部分情報要求受信部59Aは、遠隔制御部67が部分情報要求を送信してきた携帯情報装置400によって遠隔制御されているか否かを判断する。部分情報要求受信部59Aは、遠隔制御部67から遠隔制御されている装置の装置識別情報を取得し、部分情報要求を送信してきた携帯情報装置400の装置識別情報と比較することによって、遠隔制御部67が部分情報要求を送信してきた携帯情報装置400によって遠隔制御されているか否かを判断する。部分情報要求受信部59Aは、遠隔制御部67が部分情報要求を送信してきた携帯情報装置400によって遠隔制御されているならば、遠隔表示指示を部分情報送信部61Aに出力し、遠隔制御部67が部分情報要求を送信してきた携帯情報装置400によって遠隔制御されていないならば携帯情報装置400の装置識別情報を含む送信指示を部分情報送信部61Aに出力する。
部分情報送信部61Aは、部分情報登録部53から部分情報が入力され、部分情報要求受信部59Aから遠隔表示指示または送信指示が入力される。部分情報送信部61Aは、関連画像選択部71Aと、代替画面生成部73Aと、送信制御部75Aと、代替画面表示制御部77Aと、を含む。
関連画像選択部71Aは、部分情報登録部53Aから入力される部分情報のうち関連画像が複数のものについて、複数の関連画像のうちから1つを選択する。関連画像選択部71Aは、部分情報要求受信部59Aから送信指示が入力される場合、送信指示に含まれる装置識別情報で特定される携帯情報装置400の表示能力に基づいて、関連画像を選択する。携帯情報装置400が備える表示部406の解像度に基づいて、関連画像を選択する。
関連画像選択部71Aは、部分情報要求受信部59Aから遠隔表示指示が入力される場合、遠隔制御部67が遠隔制御されている装置を特定し、特定した装置の表示能力に基づいて、関連画像を選択する。例えば、遠隔制御部67が携帯情報装置400によって遠隔制御されている場合、携帯情報装置400が備える表示部406の表示解像度に基づいて、関連画像を選択する。
関連画像選択部71Aは、関連画像が2つの場合、解像度が所定の値以上であれば、複数の関連画像のうちサイズの大きな関連画像を選択し、解像度が所定の値以下より小さければ、複数の関連画像のうちサイズの小さな関連画像を選択する。関連画像が3以上の場合、しきい値を複数設けて、解像度に対応するサイズの関連画像を選択する。関連画像選択部71Aは、1以上の部分情報それぞれについて、その部分情報に含まれる関連情報と、1以上の関連画像のうちから選択された1つの関連画像との組を、代替画面生成部73Aに出力する。
代替画面生成部73Aは、関連画像選択部71Aから入力される関連画像と関連情報との組を含む代替画面を生成する。代替画面は、関連画像と関連情報とを所定の位置関係で配置した画面である。所定の位置関係は、限定するものではないが、関連画像と関連情報との間隔が所定の距離以内となる関係である。代替画面生成部73Aは、関連画像選択部71Aから関連画像と関連情報との組が複数入力される場合、複数の組にそれぞれ含まれる関連画像と関連情報とを含む代替画面を生成する。代替画面生成部73Aは、生成された代替画面を、送信制御部75A、および代替画面表示制御部77Aに出力する。
送信制御部75Aは、部分情報要求受信部59Aから送信指示が入力される場合、代替画面生成部73Aから代替画面が入力されることに応じて、送信指示に含まれる装置識別情報で特定される携帯情報装置400に、代替画面を通信I/F部112を介して送信する。
代替画面表示制御部77Aは、部分情報要求受信部59Aから遠隔表示指示が入力される場合、代替画面生成部73Aから代替画面が入力されることに応じて、表示制御部65に、代替画面表示指示を出力する。代替画面表示指示は、代替画面生成部73Aから入力される代替画面を含み、代替画面を表示部161に表示させるコマンドである。
表示制御部65は、表示部161を制御して、表示部161に代替画面を表示させるので、代替画面が表示部161に表示されるとともに、遠隔操作画面送信部81によって、代替画面が携帯情報装置400の表示部406に表示される。
図24は、第2の実施の形態におけるサーバーが備えるCPUの機能の概要の一例を示すブロック図である。図24に示す機能は、エアータグサーバー600が備えるCPU601が、ROM602またはHDD604に記憶されたプログラムを実行することにより、CPU601に形成される機能である。図24を参照して、CPU601は、エアータグ情報受信部651と、エアータグ情報登録部653と、送信要求受信部655と、抽出部657と、エアータグ情報返信部659と、を含む。
エアータグ情報受信部651は、通信部605が外部から受信するエアータグ情報を受信し、受信されたエアータグ情報をエアータグ情報登録部653に出力する。ここでは、MFP100からエアータグ情報を受信する場合を例に説明する。エアータグ情報は、装置識別情報と、位置情報と、関連情報と、を含む。エアータグ情報登録部653は、エアータグ情報受信部651から入力されるエアータグ情報を、HDD604に記憶する。
送信要求受信部655は、通信部605を制御し、外部から送信される送信要求を受信する。本実施の形態においては、後述する携帯情報装置400が送信要求を送信する場合を例に説明する。この場合、送信要求受信部655は、携帯情報装置400から送信要求を受信する。送信要求の詳細は後述するが、送信要求を送信してきた装置、ここではHMD200の現在位置を示す位置情報を含む。送信要求受信部655は、受信された送信要求に含まれる位置情報を含む抽出指示を抽出部657に出力する。
抽出部657は、送信要求受信部655から抽出指示が入力されることに応じて、エアータグ情報登録部653によってHDD604に記憶されているエアータグ情報のうちから所定の条件を満たすエアータグ情報を抽出する。具体的には、HDD604に記憶されているエアータグ情報のうち、抽出指示に含まれる位置情報で特定される位置から所定の距離の範囲内の位置情報が設定されたエアータグ情報を抽出する。換言すれば、携帯情報装置400から所定の距離の範囲内に存在する装置が送信したエアータグ情報のみを抽出する。所定の距離は、任意に定めることができる。所定の距離は、携帯情報装置400を操作するユーザーが、手で装置に触れることができる距離とするのが好ましい。また、携帯情報装置400で、操作対象となる装置を撮像する場合に、その装置から少し後退する場合があるので、手で装置に触れることができる距離に、1または2歩後退した距離を加えた距離としてもよい。抽出部657は、抽出指示に含まれる位置情報で特定される位置から所定の距離の範囲内の位置情報が設定されたエアータグ情報が複数存在する場合には、それらのすべてを抽出する。抽出部657は、抽出された1以上のエアータグ情報をエアータグ情報返信部659に出力する。また、抽出部657は、エアータグ情報を抽出しない場合、エラー信号をエアータグ情報返信部659に出力する。
エアータグ情報返信部659は、抽出部657から1以上のエアータグ情報が入力される場合、抽出部657から入力される1以上のエアータグ情報を、送信要求を送信してきた装置、ここでは、携帯情報装置400に通信部605を介して送信する。また、エアータグ情報返信部659は、抽出部657からエラー信号が入力される場合、エラー信号を送信要求を送信してきた装置に通信部605を介して送信する。
図25は、第2の実施の形態における携帯情報装置が備えるCPUの機能の概要の一例を示すブロック図である。図25に示す機能は、第2の実施の形態における携帯情報装置400が備えるCPU401が、フラッシュメモリー403、またはCD−ROM411Aに記憶された遠隔制御プログラムを実行することにより、CPU401に形成される機能である。図25を参照して、CPU401は、カメラ402を制御する撮像制御部461と、エアータグ情報取得部463と、エアータグ情報表示部465と、部分情報取得部467と、部分情報表示部469と、遠隔操作部471と、を含む。
撮像制御部461は、カメラ402を制御して、カメラ402に被写体を撮像させる。ここでは、カメラ402の被写体は、遠隔操作の対象となるMFP100としている。撮像制御部461は、カメラ402が被写体を撮像して出力する画像データの画像を、表示部406に表示させるとともに、エアータグ情報取得部463に撮像したことを示す撮像信号を出力する。撮像制御部461は、カメラ402を起動し、カメラ402が出力する画像データの画像を表示部406に表示している間に、撮像信号を継続してエアータグ情報取得部463に出力する。
また、撮像制御部461は、カメラ402が故障などして画像データを出力しない状態となると、エラー信号を部分情報取得部467に出力する。
エアータグ情報取得部463は、エアータグサーバー600からエアータグ情報を取得する。具体的には、エアータグ情報取得部463は、撮像制御部461から撮像信号が入力されると、位置検出部409を制御し、位置検出部409に現在位置を測定させ、位置検出部409が出力する現在位置を示す位置情報を取得する。エアータグ情報取得部463は、取得された位置情報を含む送信要求を、無線LANI/F408を介して、エアータグサーバー600に送信する。携帯情報装置400のフラッシュメモリー403に、エアータグサーバー600のIPアドレスを予め記憶しておけばよい。上述したように、送信要求を受信するエアータグサーバー600は、1以上のエアータグ情報またはエラー信号を返信する。ここでは、図22に示したエアータグ情報を返信する。
エアータグ情報取得部463は、無線LANI/F408がエアータグサーバー600から1以上のエアータグ情報またはエラー信号を受信すると、1以上のエアータグ情報またはエラー信号を取得する。
また、エアータグ情報取得部463は、撮像制御部461から撮像信号が入力されると、方位検出部410を制御し、方位検出部410にカメラ402の撮像方向を検出させ、方位検出部410が出力する方位を取得する。エアータグ情報取得部463は、エアータグサーバー600から1以上のエアータグ情報を受信する場合、1以上のエアータグ情報のうちから方位情報で特定される方向に位置する位置情報を含む1以上のエアータグ情報を抽出する。エアータグ情報は、装置識別情報と、位置情報と、関連情報と、を含む。エアータグ情報取得部463は、抽出された1以上のエアータグ情報を、エアータグ情報表示部465に出力する。また、エアータグ情報取得部463は、取得されたエアータグ情報に含まれる装置識別情報を部分情報取得部467に出力する。エアータグ情報取得部463は、エアータグサーバー600からエラー信号を受信する場合、エラー信号をエアータグ情報表示部465に出力する。
エアータグ情報表示部465は、エアータグ情報取得部463から1以上のエアータグ情報が入力される場合、1以上のエアータグ情報それぞれに含まれる関連情報を、表示部406に表示する。上述したように、表示部406には撮像制御部461によってカメラ402がMFP100を被写体として撮像して出力する画像データの画像が表示されているので、エアータグ情報表示部465は、その画像に関連情報を重畳して表示する。これによって、表示部406には、カメラ402の被写体となるMFP100の画像と、MFP100の関連情報の画像とが、表示される。
遠隔操作部471は、無線LANI/F408を介して接続された装置を遠隔制御する。ここでは、MFP100を遠隔制御する場合を例に説明する。この場合、遠隔操作部471は、無線LANI/F408を介してMFP100と通信可能な状態である。
遠隔操作部471は、MFP100から送信される操作画面を受信し、受信された操作画面を表示部406に表示する。携帯情報装置400を操作するユーザーは、表示部406に表示された操作画面中のいずれかを指示すれば、指示された位置に対応する遠隔操作を、無線LANI/F408を介してMFP100に送信する。
部分情報取得部467は、エアータグ情報取得部463からエアータグ情報に含まれる装置識別情報が入力される。部分情報取得部467は、撮像制御部461からエラー信号が入力されることに応じて、エアータグ情報取得部463から入力される装置識別情報で特定される装置、ここでは、MFP100から部分情報を取得する。具体的には、部分情報取得部467は、部分情報要求をMFP100に無線LANI/F408を介して送信する。なお、部分情報取得部467は、ユーザーによる指示が入力されることに応じて、MFP100に部分情報取得要求を送信するようにしてもよい。この場合には、撮像制御部251はエラー信号を出力する必要はない。
遠隔操作部471は、MFP100を遠隔制御している状態では、MFP100が送信する代替画面を受信し、表示部406に表示させる。MFP100は、携帯情報装置400から部分情報要求を受信すると、携帯情報装置400によって遠隔制御されている場合に代替画面を送信するが、遠隔操作部471がMFP100を遠隔制御している場合には、遠隔操作部471が、無線LANI/F408を介してMFP100から代替画面を受信し、表示部406に表示する。換言すれば、カメラ402が故障しており、かつ、MFP100を遠隔操作している最中に、携帯情報装置400のユーザーがカメラ402の撮像範囲にMFP100が入るように携帯情報装置400を向ければ、代替画面が表示部406に表示される。
また、MFP100は、携帯情報装置400から部分情報要求を受信すると、携帯情報装置400によって遠隔制御されていないことを条件に、代替画面を返信するので、部分情報取得部467は、遠隔操作部471がMFP100を遠隔操作していないことを条件に、無線LANI/F408がMFP100から受信する代替画面を取得する。部分情報取得部467は、取得された代替画面を部分情報表示部469に出力する。部分情報表示部469は、部分情報取得部467から代替画面が入力されることに応じて、その代替画面を表示部406に表示させる。
このため、遠隔操作部471がMFP100を遠隔制御している場合、およびMFP100を遠隔制御していない場合の何れにおいても、カメラ402が故障した状態で、携帯情報装置400のユーザーがカメラ402の撮像範囲にMFP100が入るように携帯情報装置400を向ければ、代替画面が表示部406に表示される。代替画面は、関連情報と、MFP100の少なくとも一部の画像との組を含むので、MFP100の少なくとも一部の画像と関連付けて関連情報をユーザーに提示することができる。このため、カメラ402が故障している状態で、エアータグ情報に含まれる関連情報だけでなく、関連画像も併せて閲覧することができるので、関連情報がMFP100に関連する情報であるかをユーザーに提示することができる。
図26は、携帯情報装置でMFPを撮像する場合に表示される画像の一例を示す図である。ここでは、MFP100によって図22に示したエアータグ情報が登録されている場合に、携帯情報装置400でMFP100を撮像する場合に携帯情報装置400の表示部406に表示される画像801を示している。図26を参照して、画像801は、カメラ402がMFP100を撮像して出力する画像に重畳して、関連情報の画像803,805,807を含む。関連情報の画像803は、図22に示した第1番目のエアータグ情報の関連情報の項目に設定された「スキャン時異常」の文字列の画像である。関連情報の画像805は、図22に示したが第2番目のエアータグ情報の関連情報の項目に設定された「現像器交換必要」の文字列の画像である。関連情報の画像803は、図22に示した第3番目のエアータグ情報の関連情報の項目に設定された「カセット三段目はジャムする」の文字列の画像である。
図27は、携帯情報装置で表示される代替画面の一例を示す第1の図である。図27では、MFP100によって図22に示したエアータグ情報が登録されている場合に、携帯情報装置400のカメラ402が故障等で機能しない状態で、携帯情報装置400のカメラ402をMFP100に向けた場合に携帯情報装置400の表示部406に表示される代替画面851を示している。図27を参照して、代替画面851は、関連情報の画像803,805,807と、それらと関連付けられた関連画像809を含む。
したがって、携帯情報装置400のカメラ402が故障等して、MFP100を撮像した画像を表示できない状態であっても、ユーザーは、携帯情報装置400に表示される代替画面851を見て、関連情報の画像803,805,807から関連情報を知ることができるとともに、関連画像809から関連情報がMFP100に関連する情報であることを知ることができる。
図28は、携帯情報装置で表示される代替画面の一例を示す第2の図である。図28では、MFP100によって図22に示したエアータグ情報が登録されている場合に、携帯情報装置400のカメラ402が故障等で機能しない状態で、携帯情報装置400のカメラ402をMFP100に向けた場合に携帯情報装置400の表示部406に表示される代替画面851を示している。図28を参照して、代替画面861は、関連情報の画像803と、その左に配置された関連画像803Aを含む。関連画像803Aは、原稿読取部120の概観を撮像した画像であり、関連情報が原稿読取部120に関連する情報であることを、ユーザーに通知することができる。
したがって、携帯情報装置400のカメラ402が故障等して、MFP100を撮像した画像を表示できない状態であっても、ユーザーは、携帯情報装置400に表示される代替画面861を見て、関連情報の画像803から関連情報を知ることができるとともに、関連画像803Aから関連情報がMFP100の原稿読取装置120に関連する情報であることを知ることができる。
なお、ここでは、関連画像を、MFP100の全体または一部の概観を撮像した画像としたが、MFP100の全体または一部の概観を模した図柄であってもよい。
図29は、第2の実施の形態における表示制御処理の流れの一例を示すフローチャートである。第2の実施の形態における表示制御処理は、第2の実施の形態におけるMFP100が備えるCPU111が、ROM113、HDD115、CD−ROM118に記憶されたプログラムを実行することにより、CPU111により実行される処理である。図29を参照して、CPU111は、エアータグ情報の登録指示を受け付けたから否かを判断する(ステップS51)。ユーザーが、操作部163のエアータグ情報の登録指示が予め割り当てられたキーを指示する操作を受け付けると、エアータグ情報の登録指示を受け付ける。エアータグ情報の登録指示を受け付けたならば処理をステップS52に進めるが、そうでなければ処理をステップS59に進める。
ステップS52においては、関連情報を取得する。関連情報は、MFP100の少なくとも一部に関連する情報である。関連情報は、MFP100が備える複数の部分それぞれの状態を示す状態情報を含む。MFP100が備える複数の部分は、例えば、自動原稿搬送装置120、原稿読取部130、画像形成部140、給紙部150、後処理部155である。状態情報は、例えば、自動原稿搬送装置120、原稿読取部130、画像形成部140、給紙部150、後処理部155それぞれの状態を示す情報を含む。例えば、関連情報として、トナー残量を取得する場合、トナー残量は、画像形成部140に関連する情報である。
次のステップS53においては、関連部分を決定する。MFP100が備える複数の部分のうち、ステップS51において受け付けられた関連情報が関連する部分を決定する。例えば、ステップS52において受け付けられた関連情報が、トナー残量ならば、関連部分として画像形成部140を決定する。
次のステップS54においては、関連画像を取得する。ステップS53において決定された関連部分の画像を関連画像として取得する。MFP100が備える複数の部分である、自動原稿搬送装置120、原稿読取部130、画像形成部140、給紙部150、後処理部155それぞれの外観を撮像した画像をあらかじめ準備しておき、ステップS53において決定された関連部分に対応する画像を関連画像として取得する。また、関連画像は、関連情報に対して、複数であってもよい。
ステップS55においては、部分情報を生成する。部分情報は、ステップS52において取得された関連情報と、ステップS54において取得された関連画像とを含む。そして、生成された部分情報をHDD115に記憶し(ステップS56)、処理をステップS57に進める。
ステップS57においては、エアータグ情報を生成する。エアータグ情報は、関連情報と、位置情報と、装置識別情報と、を含む。ステップS52において取得された関連情報と、MFP100の地理上の位置を示す位置情報と、MFP100の装置識別情報であるネットワークアドレスと、を含む。
ステップS58においては、ステップS57において生成されたエアータグ情報を登録し、処理をステップS59に進める。MFP100に、エアータグサーバー600のネットワークアドレスを予め登録しておき、通信I/F部112を介して、エアータグ情報をエアータグサーバー600に送信する。
ステップS59においては、部分情報要求を受信したから否かを判断する。通信I/F部112が外部から部分情報要求を受信したか否かを判断する。部分情報要求を受信したならば処理をステップS61に進めるが、そうでなければ処理をステップS51に戻す。ここでは、エアータグサーバー600からエアータグ情報を受信した携帯情報装置400から部分情報要求を受信する場合を例に説明する。
ステップS61においては、代替画面を生成する。ステップS56においてHDD115に記憶された部分情報を読み出し、その部分情報に含まれる関連画像と関連情報との組を含む代替画面を生成する。代替画面は、関連画像と関連情報とを所定の位置関係で配置した画面である。所定の位置関係は、限定するものではないが、関連画像と関連情報との間隔が所定の距離以内となる関係である。HDD115に複数の部分情報が記録されている場合、複数の組に部分情報それぞれに含まれる関連画像と関連情報とを含む代替画面を生成する。
ステップS61においては、外部の遠隔操作装置により遠隔制御されているか否かを判断する。遠隔制御されているならば処理をステップS62に進めるが、そうでなければ処理をステップS63に進める。ステップS62においては、代替画面を表示部161に表示し、処理をステップS51に戻す。例えば、携帯情報装置400により遠隔制御されている場合には、表示部161に表示された画像と同じ画像が携帯情報装置400に表示される。このため、代替画面を表示部161に表示すれば、携帯情報装置400で代替画面が表示される。
ステップS63においては、代替画面を、部分情報要求を送信してきた装置、ここでは携帯情報装置400に、通信I/F部112を介して送信し、処理をステップS51に戻す。これにより、携帯情報装置400で代替画面が表示される。
図30は、第2の実施の形態におけるエアータグ情報管理処理の流れの一例を示すフローチャートである。第2の実施の形態におけるエアータグ情報管理処理は、サーバー600が備えるCPU601が、ROM602またはHDD604に記憶されたプログラムを実行することにより、CPU601により実行される処理である。
図30を参照して、CPU601は、エアータグ情報を受信したか否かを判断する(ステップS301)。通信部305がエアータグ情報を受信したならば処理をステップS302に進めるが、そうでなければ処理をステップS303に進める。エアータグ情報は、本実施の形態においては、情報処理装置として機能するMFP100から受信される。エアータグ情報は、装置識別情報と、位置情報と、処理情報と、を含む。また、エアータグ情報は、データ識別情報を含む場合がある。
ステップS302においては、ステップS301において受信されたエアータグ情報を登録し、処理をステップS303に進める。ステップS303においては、送信要求を受信したか否かを判断する。本実施の形態においては、通信部305が携帯情報装置200から送信要求を受信したか否かを判断する。送信要求は、送信要求を送信してきた携帯情報装置200の現在位置を示す位置情報を含む。送信要求を受信したならば処理をステップS304に進めるが、そうでなければ処理をステップS301に戻す。
ステップS304においては、送信要求を送信してきた携帯情報装置200の位置情報を取得する。ステップS303において受信された送信要求に含まれる位置情報を抽出する。そして、HDD304に記憶されているエアータグ情報のうちからステップS304において取得された位置情報で特定される位置から所定の距離の範囲内の位置情報が設定されたエアータグ情報を抽出する。換言すれば、携帯情報装置200から所定の距離の範囲内に存在する装置が送信したエアータグ情報のみを抽出する。
ステップS306においては、エアータグ情報を返信し、処理をステップS301に戻す。具体的には、ステップS305において抽出された1以上のエアータグ情報を、送信要求を送信してきた携帯情報装置200に通信部305を介して送信する。なお、ステップS305においてエアータグ情報が抽出されない場合には、エラー信号を送信要求を送信してきた携帯情報装置200に通信部305を介して送信する。
図31は、第2の実施の形態における関連情報表示制御処理の流れの一例を示すフローチャートである。第2の実施の形態における関連情報表示制御処理は、第2の実施の形態における携帯情報装置400が備えるCPU401が、フラッシュメモリー403、またはCD−ROM411Aに記憶された遠隔制御プログラムを実行することにより、CPU401により実行される処理である。図31を参照して、CPU401は、カメラ402を制御し、被写体を撮像させる(ステップS201)。次のステップS202においては、エアータグサーバー600からエアータグ情報を取得する。具体的には、携帯情報装置400の現在位置を測定し、測定された現在位置を示す位置情報を含む送信要求を、無線LANI/F408を介して、エアータグサーバー600に送信する。携帯情報装置400のフラッシュメモリー403に、エアータグサーバー600のIPアドレスを予め記憶しておけばよい。上述したように、送信要求を受信するエアータグサーバー600は、1以上のエアータグ情報またはエラー信号を返信する。
ステップS203においては、撮像に成功したか否かを判断する。カメラ402が故障する等の理由でカメラ402が画像データを出力しない場合に、撮像に失敗したと判断する。撮像に成功したならば処理をステップS204に進めるが、そうでなければ処理をステップS205に進める。
ステップS204においては、ステップS202において取得されたエアータグ情報に含まれる関連情報を、表示部406に表示し、処理をステップS210に進める。ステップS201においてカメラ402によりMFP100を被写体として撮像させることにより、表示部406にはカメラ402がMFP100を被写体として撮像して出力する画像データの画像が表示されているので、その画像に関連情報を重畳して表示する。これによって、表示部406には、カメラ402の被写体となるMFP100の画像と、MFP100の関連情報の画像とが、表示される。
一方、ステップS205においては、部分情報要求をMFP100に、無線LANI/F205を介して送信し、処理をステップS206に進める。ステップS202において取得されたエアータグ情報に含まれる装置識別情報によって、MFP100を特定する。 ステップS206においては、部分情報要求を送信したMFP100を遠隔制御中であるか否かを判断する。MFP100を遠隔制御中ならば処理をステップS207に進めるが、そうでなければ処理をステップS208に進める。上述したように、MFP100は、携帯情報装置400から部分情報要求を受信すると、代替画面を返信するので、無線LANI/F408がMFP100から代替画面を受信する。
ステップS207においては、表示部406に表示する画像を、遠隔操作のための画面に切り換え、処理をステップS210に進める。携帯情報装置400がMFP100を遠隔制御している場合には、MFP100を遠隔制御するプロセスが、無線LANI/F408がMFP100から受信する代替画面を表示部406に表示するからである。
ステップS208においては、無線LANI/F408を制御して、MFP100が送信する代替画面を受信する。次のステップS209においては、受信された代替画面を表示部406に表示し、処理をステップS210に進める。
ステップS210においては、電源がOFFに切り換えられたか否かを判断する。電源がOFFに切り換えられたならば処理を終了するが、そうでなければ処理をステップS201に戻す。
第2の実施の形態におけるMFP100は、情報提供装置として機能し、MFP100の少なくとも一部に対して関連付けられた関連情報と、MFP100の位置を示す位置情報と、MFP100を識別するための装置識別情報とを関連付けたエアータグ情報をエアータグサーバー600に登録し、関連情報と、当該関連情報と関連付けられたMFP100の少なくとも一部を示す関連画像と、を関連付けた部分情報を登録する。一方、携帯情報装置400は、MFP100をカメラ402の被写体とする場合、カメラ402が故障している場合には、携帯情報装置400が関連情報の送信要求をMFP100に送信する。MFP100は、関連情報の送信要求を携帯情報装置400から受信することに応じて、関連情報と関連画像との組を携帯情報装置400に送信する。このため、携帯情報装置400が関連情報と関連画像とを表示すれば、携帯情報装置400を携帯するユーザーに、関連情報を通知することができるとともに、その関連情報がMFP100のどの部分に関連する情報であるかを通知することができる。
また、MFP100は、関連情報に関連付けられた装置の部分を少なくとも含む複数の関連画像と関連情報を関連付けた部分情報を登録し、携帯情報装置400の表示能力に基づいて、関連情報に関連付けられた複数の関連画像のうちから1つの関連画像を選択する。このため、携帯情報装置400の表示能力に対応する関連画像を送信するので、携帯情報装置400で適切なサイズで関連画像を表示することができる。
また、MFP100は、携帯情報装置400によって遠隔制御されている間は、関連情報と関連画像とを含む代替画面を操作画面とするので、代替画面が携帯情報装置400で表示される。このため、携帯情報装置400を携帯するユーザーは、カメラ402が故障した場合に、携帯情報装置400でMFP100を遠隔制御すれば、携帯情報装置400に表示される代替画面を見ることができる。
なお、上述した実施の形態においては、情報提供装置の一例としてMFP100を例に説明したが、図16または図29に示した表示制御処理をMFP100に実行させる情報提供方法、またはその情報提供方法をMFP100が備えるCPU111に実行させる情報提供プログラムとして、発明を特定することができるのは言うまでもない。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。