以下、図面を参照して、本発明の実施形態を詳細に説明する。
図1は、本発明の投影システム100のシステム構成の一例を示す図である。本発明の投影システム100は、情報処理装置101、カメラ102、赤外線センサ103、プロジェクタ104、プリンタ107が設置されており、情報処理装置101、カメラ102、赤外線センサ103、プロジェクタ104、プリンタ107はUSB(Universal Serial Bus)やVGA端子等を介して相互にデータ通信可能に接続されている。図1に示す投影システム100を立体的に示したものが、図4である。このように、カメラ102、赤外線センサ103、プロジェクタ104を含むものを机上に設置する。なお、本実施形態では有線接続を前提として説明を行うが、無線接続でもよい。図1の各種端末の構成は一例であり、用途や目的に応じて様々な構成例がある。
投影システム100は、投影面106に投影された映像に対してユーザが所定の指示を行うことの可能なシステムである。例えば、投影面106に投影されたボタンをユーザがタッチすることで、所定の処理を実行したり、紙文書を投影面106に置くことで当該紙文書の画像データを生成し、生成した画像データを投影面106に投影したりできる。このようなシステムを用いることで、複数のユーザが投影面106に投影された1つの映像を見ることになるので、スムーズな情報共有を行うことができ、かつ当該投影された映像に対して複数のユーザが直接操作を行うことができる。タッチパネルを備えるタブレット端末でも同様の効果を得ることができるが、ディスプレイが小さいため複数のユーザで同時に閲覧しにくい問題がある。そこで、机のような投影面106に対して映像を投影し、この投影した映像を直接操作できるようにすることで、この問題点を解決している。以下、このシステムを構成する機器の説明を行う。
情報処理装置101は、パーソナルコンピュータやサーバのような装置である。情報処理装置101は、前述した通り、カメラ102、赤外線センサ103、プロジェクタ104と接続されており、これらの機器と情報のやり取りを行うことができる。情報処理装置101は、投影システム100を制御する装置であるので、情報処理装置101に記憶されている各種データの投影をプロジェクタ104に対して指示したり、カメラ102に対して撮影を指示することで画像データを得たり、赤外線センサ103から得た情報を解析したりすることができる。例えば、情報処理装置101は、赤外線センサ103から得た情報を基にカメラ102へ撮像指示を出し、カメラ102から得た画像データを情報処理装置101のRAM203に保存し、RAM203に保存された画像データをプロジェクタ104へ送信する。また、情報処理装置101は、赤外線センサ103から得たユーザの手や紙文書等といった現実の物体(以下、オブジェクト)の情報やオブジェクトの動作の情報などを基に、情報処理装置101は、プロジェクタ104から投影面106に投影する画像を拡大、縮小したり非表示にしたりなどの処理を行う。これらの処理を、情報処理装置101にインストールされた証跡記録アプリケーションによって動作させる。証跡記録アプリケーションは、前述した各種装置との情報の送受信や、ユーザからの指示受付等を行うためのアプリケーションである。この証跡記録アプリケーションを動作させることにより、本実施形態の一連の処理を実現する。
カメラ102(撮像装置)は、動画像や静止画像を撮像可能なデジタルカメラであり、情報処理装置101から撮像指示を受け、カメラ102の撮像範囲を撮像する。撮像で得られた画像データは、情報処理装置101へ送信される。
赤外線センサ103は、たとえば赤外光領域を撮影可能な赤外線センサであり、投影面106から赤外線が反射される情報を取得し、赤外線の電気信号(以下、赤外線情報)を情報処理装置101に送信する。情報処理装置101では、受信した情報に基づいて、オブジェクトの形や動き、位置などを特定する。本実施形態においては、赤外線センサを用いるものとするが、オブジェクトの形や動き、位置などを特定できるのであれば、センサの種類は特に問わない。
プロジェクタ104(投影装置)は、情報処理装置101から送られる各種データを投影する装置である。プロジェクタ104は、反射鏡105に向けて設置されており、情報処理装置101から投影の指示を受け付けると、反射鏡105に向けて投影し、反射鏡105の反射を経て、投影面106へ投影する。
プリンタ107は、情報処理装置101から送られる印刷ジョブに基づいて、印刷をする装置である。
図2は、本発明の実施形態における各種端末のハードウェア構成を示す図である。
CPU201は、システムバス204に接続される各デバイスやコントローラを統括的に制御する。
また、ROM202あるいは外部メモリ211には、CPU201の制御プログラムであるBIOS(Basic Input/OutputSystem)やオペレーティングシステムプログラム(以下、OS)や、各サーバ或いは各PCの実行する機能を実現するために必要な後述する各種プログラム等が記憶されている。RAM203は、CPU201の主メモリ、ワークエリア等として機能する。
CPU201は、処理の実行に際して必要なプログラム等をRAM203にロードして、プログラムを実行することで各種動作を実現するものである。
また、入力コントローラ(入力C)205は、キーボードや不図示のマウス等のポインティングデバイス等の入力デバイス209からの入力を制御する。また、カメラ102や赤外線センサ103とも接続されており、これらの装置から送信される画像データや赤外線情報の入力も制御する。
ビデオコントローラ(VC)206は、ディスプレイ210等の表示器への表示を制御する。表示器の種類はCRTや、液晶ディスプレイを想定するが、これに限らない。また、プロジェクタ104とも接続されており、プロジェクタ104に対する投影も制御する。
メモリコントローラ(MC)207は、ブートプログラム、ブラウザソフトウエア、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ等を記憶するハードディスク(HD)やフレキシブルディスク(FD)或いはPCMCIAカードスロットにアダプタを介して接続されるカード型メモリ等の外部メモリ211へのアクセスを制御する。
通信I/Fコントローラ(通信I/FC)208は、ネットワークを介して、外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いたインターネット通信等が可能である。通信I/FC208は、インターネット通信等により、プリンタ107とも接続されている。通信I/FC208を経由して、CPU201からプリンタ107に対して印刷指示がなされる。
尚、CPU201は、例えばRAM203内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、ディスプレイ210上での表示を可能としている。また、CPU201は、ディスプレイ210上の不図示のマウスカーソル等でのユーザ指示を可能とする。
本発明の情報処理装置101が後述する各種処理を実行するために用いられる各種プログラム等は外部メモリ211に記録されており、必要に応じてRAM203にロードされることによりCPU201によって実行されるものである。さらに、本発明に係わるプログラムが用いる定義ファイルや各種情報テーブルは外部メモリ211に格納されている。
次に、情報処理装置101のモジュール構成を示す機能構成図について、図3を用いて説明する。なお、図3の装置のモジュール構成は一例であり、用途や目的に応じて様々な構成例がある。
情報処理装置101は、前述した通り、証跡記録アプリケーションを備える。証跡記録アプリケーションは、入力受付部301、表示指示部302、画像保存部303、オブジェクト検知部304、撮影指示部305、OCR処理部306、操作判定部307、表示制御部308を備える。
入力受付部301は、赤外線センサ103から送信される赤外線情報を受け付ける。受け付けた赤外線情報はオブジェクト検知部304に送られる。また、カメラ102から送信される動画像や静止画像を画像データとして受け付ける。受け付けた画像データは画像保存部303に送られる。
表示指示部302は、情報処理装置101のRAM203や外部メモリ211に保存されたPDFデータや画像データなどを表示制御部308が制御した結果を、プロジェクタ104へ送信する。
画像保存部303は、入力受付部301から送られた画像データを、オブジェクト検知部304で検知された情報に基づいて、紙文書等のオブジェクトに相当する領域を切り取り、切り取った画像データをRAM203や外部メモリ211に保存する。また、画像保存部303は、保存した画像データを表示指示部302へ送信する。
オブジェクト検知部304は、入力受付部301で受け付けた赤外線情報などを基に投影面106の上にあるオブジェクトの種類を検知する。たとえば、投影面106の上にあるオブジェクトがユーザの指(指示物)なのか、紙文書なのかを検知する。また、オブジェクトの進入方向も検知できる。
撮影指示部305は、操作判定部307でユーザの撮影指示がなされたと判定された場合に、カメラ102に対して撮影指示を行う。また、ユーザの証跡を残す操作がなされたと操作判定部307で判定された場合にもカメラ102に対して撮影指示を行う。
OCR処理部306は、OCR(Optical Character Recognition)などの技術を用いて、情報処理装置101のRAM203や外部メモリ211に保存された画像データの文字領域を検出し、画像データの中のそれぞれの文字が何の文字なのかを特定する。
操作判定部307は、オブジェクト検知部304で検知されたオブジェクトの現実空間上の位置やジェスチャを判定する。また、現実空間上の位置やジェスチャに対応づけられた処理を判定する。たとえば、投影されている画像データに対する制御内容の判定や、投影面106に置かれたオブジェクトの撮影指示の判定等を行う。
表示制御部308は、操作判定部で判定された結果に応じて、投影面106に投影されている画像データの拡大/縮小、表示/非表示、移動などを実行する。たとえば、拡大/縮小したい画像データの上でのピンチイン/ピンチアウトのジェスチャを操作判定部307が判定した場合に、表示制御部308は画像データの拡大/縮小処理を行う。
画像変換部309は、撮影指示部305で撮影指示をし取得した画像データをTIFF形式に変換することができる。画像の変換形式はTIFF形式だけではなく、さまざまな形式に変換することができる。
次に、本発明の実施形態における情報処理装置101によって行われる一連の処理について、図5に示すフローチャートを用いて説明する。
ステップS501では、情報処理装置101のCPU201は、顧客に対して金融商品などの説明を行う人(以後、テラーと呼ぶ)からの指示に応じて、外部メモリ211に記憶された証跡記録アプリケーションを起動する。なお、証跡記録アプリケーションは、銀行の窓口などで行われる金融商品などの説明を想定し、それら一連の流れの証跡を記録するアプリケーションである。
ステップS502では、情報処理装置101のCPU201は、ディスプレイ210の画面上にテラーIDと顧客IDを入力させるID入力受付画面を表示させる。たとえば図6に示すID入力受付画面601のような画面である。ID入力受付画面601のテラーID入力欄602はテラーのIDが入力される欄である。顧客ID入力欄603は顧客のIDが入力される欄である。テラーIDは図7のテラーID管理テーブル700で管理しており、テラーIDとテラーの氏名などの情報が紐づけられている。テラーID管理テーブル700にはテラーID701とテラー氏名702があり、テラーID701はテラーを一意的に決めるためのIDであり、テラー氏名702は、テラーの氏名を表すものである。顧客IDは図8の顧客IDテーブル800で管理しており、顧客IDと顧客の氏名などの情報が紐づけられている。顧客IDテーブル800には顧客ID801と顧客氏名802があり、顧客ID801は顧客を一意的に決めるためのIDであり、顧客氏名802は顧客の氏名を表すものである。
ステップS503では、情報処理装置101のCPU201は、ステップS502において表示されたID入力受付画面601において、テラーと顧客のIDの入力を受け付ける。OKボタン604が押下されると次のステップS504へ移行する。キャンセルボタン605が押下されると証跡記録アプリケーションの起動を終了し、本一連の処理を終了する
ステップS504では、情報処理装置101のCPU201は、文書データや画像データをプロジェクタ104から投影面106に投影するために、テラーからの投影指示を受け付ける。具体的には、テラーから、投影する文書データや画像データの選択を受け付ける。たとえば金融商品を説明するためのPDFデータである。文書のファイル形式はPDF形式以外でも構わない。
ステップS505では、情報処理装置101のCPU201は、ステップS504で受け付けたテラーからの投影指示に応じて、プロジェクタ104に対してテラーから選択されたPDFデータを投影させる投影指示を行う。投影指示処理の詳細は、図9で後述する。
ステップS506では、情報処理装置101のCPU201は、赤外線センサ103から投影面106に対して照射され跳ね返ってくる赤外線の情報(以降、赤外線情報とする)を赤外線センサ103から受信する。投影面106から赤外線のはね返りがない部分を物体があると認識する。
ステップS507では、情報処理装置101のCPU201は、ステップS506で受信した赤外線情報を基にオブジェクトを検知したか否かを判定する(動作検知手段)。ここでいうオブジェクトは例えばユーザの指や紙文書などを指す。オブジェクトを検知した場合にはステップS508に処理を進める。オブジェクトを検知しなかった場合にはステップS512へ処理を進める。
ステップS508では、情報処理装置101のCPU201は、ステップS507で検知したオブジェクトが指なのか、紙文書なのかを特定する(オブジェクト特定手段)。より具体的には赤外線センサ103で受信した赤外線情報からオブジェクトの種類を特定する。たとえば、オブジェクトの形が球状のものから棒状のものが突き出ている形であることを認識した場合に突き出た部分を指であると特定する。また赤外線センサ103で受信した赤外線情報で判定したオブジェクトの形が、矩形であると認識した場合にはオブジェクトは紙文書であると特定する。
ステップS509では、情報処理装置101のCPU201は、ステップS508で判定したオブジェクトの種類によって、検知したオブジェクトが証跡を残すものであるかを判定する(オブジェクト判定手段)。たとえば、オブジェクトが指であると判定した場合は、証跡を残すものであると判定し、ステップS510のタッチ判定処理へ移行する。オブジェクトが紙文書であると判定した場合は、証跡を残さないものであると判定しステップS511の紙文書取り込み処理へ移行する。投影システム100を利用するユーザ(テラーまたは顧客)が投影面106に対してどのような操作を行ったのかを証跡として記録したいので、このような判定を行っている。
ステップS510では、情報処理装置101のCPU201は、投影された文書データまたは画像データ(以下、投影画像)に指がタッチしているかを判定し、タッチされていると判定された場合には、投影画像の上で指をタッチしている画像データを撮像することで証跡を残す。タッチ判定処理の詳細は後の図19で詳しく説明する。
ステップS511では、情報処理装置101のCPU201は、投影面106上に置かれた紙文書を撮像し、画像データとして取り込みを行う。より具体的には、顧客が持ってきた住民票や戸籍謄本など、金融商品の契約などで必要となる書類を撮像する。紙文書取り込み処理の詳細は後の図20で詳しく説明する。
ステップS512では、情報処理装置101のCPU201は、ユーザから投影の終了指示があったか否かを判定する。投影の終了指示をユーザから受け付けた場合には、投影を終了させる。投影の終了を受け付けたと判定されなかった場合には、ステップS506へ処理を戻す。
ステップS513では、情報処理装置101のCPU201は、ユーザからの指示に応じてアプリケーションの終了処理を行う。
次に、前述したステップS505における投影処理について、図9を用いて説明する。
ステップS901では、情報処理装置101のCPU201は、前述したステップS504においてテラーから投影の指示があったかどうかを判定し、指示がなければ投影処理を終了する。投影の指示を受け付けた場合は、ステップS902へ処理を進める。
ステップS902では、情報処理装置101のCPU201は、ステップS504でテラーから投影の指示のあった文書データまたは画像データ(ここでは、例えばPDFデータ)を取得し、RAM203に記憶する。PDFデータ(電子データ)を取得したあと、ステップS903へと処理を進める。
ステップS903では、情報処理装置101のCPU201は、RAM203に取得したPDFデータの投影指示をプロジェクタ104に対して行う。
ステップS904では、プロジェクタ104は、情報処理装置101から投影指示を受け取る。
ステップS905では、プロジェクタ104は、ステップS904で受け取った指示により、投影を指示されたPDFデータ(電子データ)を投影面106に投影する。ステップS905で投影された結果の投影面106の例が、図10である。テラー1001は、たとえば顧客に対して金融商品などの説明をする人物であり、証跡記録アプリケーションの起動や、顧客1002に対する商品説明などを行う。投影面106上の申込書1003には、概要説明部分1004と詳細説明部分1005と個人情報説明部分1006と署名欄1007がある。テラー1001は、顧客1002に対して申込書1003に関する商品説明を行う際に、概要説明部分1004と詳細説明部分1005と個人情報説明部分1006に対する説明を、指などを用いて行っていく。顧客1002は、テラー1001からの説明を受けたのち、署名欄1007に署名を記入する。回転ボタン1008は、テラーの指などが回転ボタン1008にタッチされた場合に投影されている文書データや画像データを180度回転させるときに使うものである。図10において回転ボタン1008が押下されると、投影面106上の申込書1003が180度回転することになる。つまり、顧客1002の方を向いている申込書1003が、テラー1001の方を向くことになる。回転ボタン1008は、物理的なボタンであっても、投影されたボタン画像であってもよい。以上で投影処理の説明を終わる。
次に、ステップS510におけるタッチ判定処理について、図11を用いて説明する。
ステップS1101では、情報処理装置101のCPU201は、投影面106に投影されている投影画像の基となる投影元文書の特定を行う。投影元文書は、前述したステップS504で選択された文書データまたは画像データであるので、これに基づいて特定する。ここでは、投影画像のファイル名や保存場所、更には投影している投影元文書のページ番号を特定する。特定を行ったら、ステップS1102へと処理を移行する。
ステップS1102では、情報処理装置101のCPU201は、ステップS1101で特定された投影画像に対応する撮像領域情報を取得する。撮像領域情報とは、投影画像に含まれる所定の領域ごとに存在する情報であり、図12に示す撮像領域情報テーブル1200に記憶された各レコードを指す。より具体的には、領域ID1201、名称1202、保存場所1203、page1204、撮像位置領域1205、属性1206のことを指す。
撮像領域情報テーブル1200は、情報処理装置101の外部メモリ211に記憶されたテーブルである。撮像領域情報テーブル1200は、領域ID1201、名称1202、保存場所1203、page1204、撮像位置領域1205、属性1206から構成される。領域ID1201ではそれぞれ証跡を保存する領域に番号などの領域ID番号を記載している。名称1202では、証跡を保存する領域の具体的な名称を記載している。保存場所1203は、投影するPDFデータを保存している場所を記載してある。page1204では、投影する書類のページ数を記載してある。撮像位置領域1205では、投影するPDFデータ上の証跡を保存する位置情報を記載してある。カンマで区切られた左側のXY座標は矩形の左上を示している。カンマで区切られた右側のXY座標は矩形の右下を示している。この2点からなる矩形を撮像する領域としている。なお、撮像する領域は本実施例では矩形としているが、円状であっても帯状であっても構わない。属性1206では、証跡を保存する領域の属性を記載してある。本実施例では説明、同意という属性があるが、それ以外であってもよい。
たとえば、図10の申込書1003の撮像領域情報を取得する場合には、ステップS1101で申込書1003のファイル名や保存場所や投影しているページ番号が特定される。特定されたこれらの情報と、保存場所1203とに基づいて、必要なレコードを特定し、これを取得する。申込書1003のファイル名が「A.pdf」、保存場所が「D:¥document¥data¥」、投影しているページ番号が「2」である場合には、図12に示す領域ID1201が「1」〜「4」に該当する。よって、この4つのレコードを撮像領域情報として取得する。
ステップS1103では、情報処理装置101のCPU201は、赤外線センサ103から送られてくる赤外線情報を受信する。
ステップS1104では、情報処理装置101のCPU201は、ステップS1103で受信した赤外線情報に基づいて、投影面106上におけるユーザの手の位置を解析する。
ユーザの手の位置の解析の方法は従来の技術を用いるものとし、赤外線センサ103が赤外線のはね返りを検知することができなかった形状を解析する。形状の解析により、ユーザの指がどの部分を指しているかを特定することが可能になる。
ステップS1105では、情報処理装置101のCPU201は、ステップS1104で解析したユーザの手の位置などを基に、解析した手が誰の手なのかを特定する(ユーザ特定手段)。より具体的には、手の入射方向や手の向きなどから特定する。たとえば図10では、回転ボタン1008がある方向から手が入ってきた場合はテラーの手であると特定し、そうでない場合は顧客の手であると特定する。誰の手なのかを特定する方法はこれに限らない。ユーザの手にユーザを識別できる情報を付与しておき、これをカメラ102で撮像し、撮像された画像データを解析して特定してもよい。
ステップS1106では、情報処理装置101のCPU201は、ステップS1102で取得した撮像領域情報に含まれる撮像位置領域1205を示す領域にユーザの手がタッチされたかどうかを判定する。ユーザの手が撮像位置領域1205にタッチされたと判定されれば、ステップS1107へ処理を移行する。ユーザの手が撮像位置領域1205にタッチされたと判定されなければ、タッチ判定処理を終了する。図13は、テラーが撮像位置領域1205である概要説明部分1004にタッチしている例の図である。テラーの手1301が概要説明部分1004の上をタッチしていれば、テラーが概要説明部分1004の説明を行っているということである。つまり、顧客に対して概要説明部分1004の説明を行ったということの証明のために、証跡を取る必要がある。そのため、ステップS1106では、このように撮像位置領域1205を示す領域がタッチされていれば、ステップS1107に処理を進める。
ステップS1107では、情報処理装置101のCPU201は、タッチされた撮像位置領域1205を示す領域の属性が、テラーから顧客に対する説明義務のある領域(以下、説明証跡領域)であるのか、顧客が契約等に同意の意思を示すための領域(以下、同意証跡領域)であるのかを判定する。タッチされた撮像位置領域1205に対応する、ステップS1102で取得した撮像領域情報の中の属性1206によって、タッチされた撮像位置領域1205の証跡の属性を特定し、特定した属性に応じて判定すればよい。撮像位置領域1205を示す領域が説明証跡領域であると判定した場合には、ステップS1108に処理を進める。撮像位置領域1205を示す領域が同意証跡領域であると判定した場合には、ステップS1110に処理を進める。このようにタッチされた部分の領域の属性を判定することにより、タッチされた領域が示す属性に応じて撮像の条件を変更することが可能となる。
たとえば図13の概要説明部分1004の領域ID1201「1」に対応する属性1206は「説明」となっているので、概要説明部分1004が説明証跡領域であると特定する。よって、ステップS1108へ処理を進める。
一方、たとえば図16は、顧客1002が署名欄1007に顧客の手1602でサインを行っている図である。投影システム100では、署名欄1007のような所定の領域を指でタッチしたまま移動させると、その軌跡を描画することができるようになっている。赤外線センサ103から送信された赤外線情報に基づいて、情報処理装置101のCPU201が、ユーザの指が署名欄1007のような所定の領域をタッチしていると判定すると、当該タッチが継続されている間、そのタッチの軌跡を線要素で表現する。このような仕組みを用いることで、投影面106に対してタッチすることにより、サインを行うことができるようになる。
このように、サインを行うべく、署名欄1007にタッチがなされると、顧客の手であるか、テラーの手であるかを判定するステップS1108と、投影画像の向きを判定するステップS1109は行わずに、即時、ステップS1110へ移行する。同意証跡領域の場合、テラーが顧客の代わりに同意のサインを行ってしまう場合がある。すなわち、顧客は同意の意思を示していないにも関わらず、テラーが代わりにサインしてしまう場合である。このような場合も証跡を保存するようにしておけば、テラーの不正な行為を抑止することができると共に、たとえ争いになったとしても、顧客を守ることができる。たとえば図17ではテラーが同意証跡領域である署名欄1007にサインをしていて、投影画像の向きはテラー向きである。また、図18の場合、同じくテラーがサインをしており、投影画像の向きは顧客向きである。このような場合であっても署名欄1007に手がタッチされているのであれば、署名欄1007は同意証跡領域であるので、ステップS1110へ移行する。
ステップS1108では、情報処理装置101のCPU201は、タッチされた手がテラーの手であるかどうかを判定する。ステップS1105で特定された手の人物がテラーであればステップS1109へ処理を進める。ステップS1105で特定された手の人物がテラーでなければタッチ判定処理を終了させる。たとえば、図14は、テラー1001が説明する説明証跡領域である概要説明部分1004を顧客1002がタッチしている図である。この場合には、テラー1001によるタッチではないので証跡の保存は行わずにタッチ判定処理を終了させる。説明証跡領域は、テラーが顧客に説明したということが担保できればよい。顧客が説明証跡領域をタッチした場合も証跡を保存するようにしてしまうと、外部メモリ211などの容量を圧迫してしまう。そのため、テラーからタッチされた場合のみ、証跡を取るようにしている。
ステップS1109では、情報処理装置101のCPU201は、投影画像が顧客の方を向いているのか、テラーの方を向いているのかを判定する。たとえば、テラーから選択された文書データまたは画像データが、顧客の方を向いて投影される場合、回転ボタン1008が押下されていれば、投影画像がテラーの方を向いていることがわかる。一方、回転ボタン1008が押下されていなければ、投影画像が顧客の方を向いていることがわかる。投影画像が顧客の方を向いていると判定された場合、ステップS1110へ処理を進める。投影画像が顧客の方を向いていると判定されなかった場合は、タッチ判定処理を終了させる。たとえば図15は、投影画像が顧客ではなく、テラーの方を向いている。この状態でテラーが説明を行ったとしても、顧客は投影画像を読むことができないため、正常に説明したとは言えない。そのため、この場合は証跡の保存は行わずに、タッチ判定処理を終了させる。このように、説明証跡領域の場合には、テラーが説明証跡領域をタッチしており、かつ投影画像が顧客の方に向いている場合に、証跡が保存される。テラーが正しい方法で説明していないと、証跡が残らないので、説明したか否かを示す証拠となりうる。
ステップS1110では、情報処理装置101のCPU201は、カメラ102にデジタルな撮像音の無い撮像指示を行う(撮像指示送信手段・撮像音制御手段)。本実施例では撮像音を無くすということは、撮像音の出力を無くすこととしているが、聞こえないような音量の撮像音であっても構わない。また、カメラに対して撮像音のない撮像を指示しているが、カメラが撮像音を出す(撮像音出力手段)必要はなく情報処理装置101につながるスピーカのようなものが撮像音を出していてもよい。
ステップS1111では、カメラ102は、情報処理装置101から送信された撮像音の無い撮像指示を受信する。
ステップS1112では、カメラ102は、受信した撮像指示に従って、撮像音を出さない撮像を行う。ここでいう撮像音はデジタルな撮像音である。撮像音を出さないというのは、撮像音を出す撮像と撮像音を出さない撮像を切り替える場合や、撮像音自体の音量を少なくする場合がある。撮像音を出さない方法は上記に限定されない。デジタルな撮像音を出さないことで、顧客がいかにも証跡を取られているということを認識することを避けることができる。
ステップS1113では、カメラ102は、情報処理装置に対し、撮像した画像データを送信する。
ステップS1114では、情報処理装置101のCPU201は、カメラから送信された画像データを受信する。
ステップS1115では、情報処理装置101のCPU201は、受信した画像データを、証跡ID、撮像された年月日(日時)、顧客IDやテラーID、領域ID、画像データをひとまとめにして証跡として顧客ごとに保存する。証跡として保存する例として図19の証跡保存テーブル1900がある。証跡ID欄1901では、証跡を一意に決めるためのID番号を格納する。年月日欄1902では、証跡を保存するために撮像がなされた年月日と時間を格納する。撮像されたユーザ欄1903では、ステップS1105で特定された、撮像されたユーザがテラーなのか顧客なのかという情報を格納する。撮像された顧客/テラーID欄1904では、ステップS503で入力されたテラーや顧客のIDを格納する。画像データ欄1905では、撮像した画像データを保存したフォルダの場所を示す情報を格納する。また、画像の保存形式については本実施例ではTIFF形式を採っているが、ほかの形式でも構わない。このようにテーブル形式で顧客ごとに管理することで証跡の検索もしやすく、顧客と紛争になった際の有用なリソースとなりうるものとなる。投影文書に指を指している画像データが残るため、証跡として担保することが可能なデータを蓄積することが可能になる。
次に、紙文書取り込み処理について図20を用いて説明を行う。
ステップS2001では、情報処理装置101のCPU201は、赤外線センサ103から送られる赤外線情報を受信する。
ステップS2002では、情報処理装置101のCPU201は、ステップS2001で受信した赤外線情報を解析し、紙文書の動きを解析する。
ステップS2003では、情報処理装置101のCPU201は、ステップS2002で解析した紙文書が撮像可能になったかを判定する。たとえばある一定の時間紙文書が動いていないと判定されたときに、撮像可能と判定する。撮像可能と判定された場合、ステップS2004の処理へと移行する。なお、撮像可能の判定は、ユーザからの撮像の指示を受け付けてもよい。
ステップS2004では、情報処理装置101のCPU201は、ステップS2003で紙文書が置かれて動きがある一定の時間なくなったと判定された時の、投影面106上に投影されている投影画像の位置や、状態を保存しておく処理を行う。たとえば図21で表示されている表示メニュー2003などがあり、これらの状態を保存しておく。保存処理が終わったらステップS2005へと処理を移す。
ステップS2005では、情報処理装置101のCPU201は、プロジェクタ104に対して投影しているものを消すよう、指示を行う。現在、投影面106上に投影しているものを投影しないように制御できればよい。これは、後述する処理で紙文書を取り込む際に、投影したものが写り込まないようにするためである。よって、置かれた紙文書の上に投影がされなければよく、それ以外の領域は何かしらの情報が投影されていてもよい。たとえば図21の表示メニュー2003の上に紙文書が置かれた場合、すべての投影を消してもよいし、紙文書と表示メニュー2003が重なる部分の投影だけ消してもよい。
ステップS2006では、プロジェクタ104は、情報処理装置101から指示された投影非表示指示を受信する。
ステップS2007では、プロジェクタ104は、受信した投影非表示指示に従って、現在投影されているものを消す。
ステップS2008では、情報処理装置101のCPU201は、デジタルな撮像音を伴う撮像の指示をカメラ102に対して行う(撮像音出力手段)。デジタルな撮像音を伴う撮像の指示は、元々音を出さないカメラに撮像音を出力させる指示でもよい。
ステップS2009ではカメラ102は、情報処理装置101から送信された撮像音を伴う撮像の指示を受信する。
ステップS2010では、カメラ102は、受信した指示によりデジタルな撮像音を伴う撮像を行う。撮像音を伴う撮像を行うことで、顧客の住民票や戸籍謄本などの書類を画像データとして取り込んでいることを明確に認識させることができる。
ステップS2011では、カメラ102は、撮像によって得られた画像データを情報処理装置101へ送信する。
ステップS2012では、情報処理装置101のCPU201は、カメラ102から送信された画像データを受信する。
ステップS2013では、情報処理装置101のCPU201は、受信した画像データを、紙文書の取り込みデータとして保存する。
ステップS2014では、情報処理装置101のCPU201は、ステップS2004で保存した状態を読み出し、投影を終了する前の状態に戻すため、読み出した投影状態をプロジェクタ104に投影させ、投影を再開させる。
ステップS2015では、プロジェクタ104は、情報処理装置101からの投影表示指示を受信する。
ステップS2016では、プロジェクタ104に、受信した投影表示指示に基づいて、ステップS2004で保存した状態を投影する。
以上説明したように、本実施形態によれば、証跡を取る際に撮像装置の撮像音を制御することが可能となる効果を奏する。
次に本願発明の第2の実施例を説明する。第1の実施例では、タッチされた領域の属性が同意証跡であった場合には、タッチされた手が顧客かテラーかの判定と、投影文書の向きの判定をせずに撮像指示を行っていた。第2の実施例では、同意証跡の場合でも上記の判定をすることにより、顧客が同意証跡の領域に確かにサインをしたという証跡を残すことを可能にする。これにより、例えばテラーが顧客に対してサインの説明を行う際などの無駄な証跡を残さずに適切な証跡のみを残すことを可能にする。
第2の実施例では、システム構成、ハードウェア構成、機能構成、画面例、テーブルは第1の実施例と同じであり、図9が図24、図11が図25にそれぞれ変形したものである。
第2の実施例の投影処理を図24のフローチャートで説明する。
ステップS2401では、情報処理装置101のCPU201は、ステップS504でテラーから投影の指示のあった文書データまたは画像データ(投影文書)(ここでは、例えばPDFデータ)を取得し、RAM203に記憶する。投影テーブル2300の投影文書2301にステップS504で選択を受け付けた投影文書のファイル名を格納する。図23に示す投影テーブル2300には投影文書2301と回転フラグ2302とが格納されている。投影文書2301はステップS504で選択を受け付けた投影文書のファイル名を格納する。回転フラグ2302は、投影文書の向きを示すフラグであり、回転フラグ2302が「0」の時は投影文書は顧客向きとし、「1」の時(フラグが立っている時)はテラー向きとして投影文書を投影するという指示を示している。ステップS2401でPDFデータを取得したあと、ステップS2402へと処理を進める。
ステップS2402では、情報処理装置101のCPU201は、投影テーブル2300の回転フラグ2302が「1」か否か(立っているか否か)を判定する。回転フラグ2302が「1」と判定された場合は投影文書を回転させるべく処理をステップS2303に進める。回転フラグ2302が「1」でないと判定された場合は処理をステップS2304に進める。
ステップS2403では、情報処理装置101のCPU201は、RAM203に記憶した投影文書2301の向きを180度回転させる処理を行う。これにより、テラーの向きだった投影文書が顧客の向きになり、顧客の向きだった投影文書がテラーの向きになる。
ステップS2404では、情報処理装置101のCPU201は、RAM203に記憶したPDFデータ(電子データ)の投影指示をプロジェクタ104に対して行う。
ステップS2405では、プロジェクタ104は、情報処理装置101から投影指示を受け取る。
ステップS2406では、プロジェクタ104は、ステップS2403で受け取った指示により、投影を指示されたPDFデータを投影面106に投影する。本処理の一連の流れにより投影された結果の投影面106の例が、図10である。図10の詳細な説明については、前述した通りである。以上で投影処理の説明を終わる。
次に、ステップS510におけるタッチ判定処理について、本願発明の第2の実施例を図26により説明する。
ステップS2501では、情報処理装置101のCPU201は、投影面106に投影されている投影画像の基となる投影文書の特定を行う。投影文書は、前述したステップS504で選択された文書データまたは画像データであるので、これに基づいて特定する。ここでは、投影画像のファイル名や保存場所、更には投影している投影元文書のページ番号を特定する。特定を行ったら、ステップS2502へと処理を移行する。
ステップS2502では、情報処理装置101のCPU201は、ステップS2501で特定された投影画像に対応する撮像領域情報を取得する。撮像領域情報とは、投影画像に含まれる所定の領域ごとに存在する情報であり、図12に示す撮像領域情報テーブル1200に記憶された各レコードを指す。より具体的には、領域ID1201、名称1202、保存場所1203、page1204、撮像位置領域1205、属性1206のことを指す。
撮像領域情報テーブル1200の詳細な説明については、前述した通りである。
たとえば、図10の申込書1003の撮像領域情報を取得する場合には、ステップS2501で申込書1003のファイル名や保存場所や投影しているページ番号を特定する。特定されたこれらの情報と、保存場所1203とに基づいて、必要なレコードを特定し、これを取得する。申込書1003のファイル名が「A.pdf」、保存場所が「D:¥document¥data¥」、投影しているページ番号が「2」である場合には、図12に示す領域ID1201が「1」〜「4」に該当する。よって、この4つのレコードを撮像領域情報として取得する。
ステップS2503では、情報処理装置101のCPU201は、ステップS506で受信した赤外線情報に基づいて、投影面106上におけるユーザの手の位置を解析する。ユーザの手の位置の解析の方法は従来の技術を用いるものとし、赤外線センサ103が赤外線のはね返りを検知することができなかった形状を解析する。形状の解析により、ユーザの指がどの部分を指しているかを特定することが可能になる。
ステップS2504では、情報処理装置101のCPU201は、ステップS2503で解析したユーザの手の位置などを基に、解析した手が誰の手なのかを特定する(ユーザ特定手段)。より具体的には、手の進入方向や手の向きなどから特定する。たとえば図10では、回転ボタン1008がある方向から手が入ってきた場合はテラーの手であると特定し、そうでない場合は顧客の手であると特定する。誰の手なのかを特定する方法はこれに限らない。ユーザの手にユーザを識別できる情報を付与しておき、これをカメラ102で撮像し、撮像された画像データを解析して特定してもよい。
ステップS2505では、情報処理装置101のCPU201は、ステップS2502で取得した撮像領域情報に含まれる撮像位置領域1205が示す領域にユーザの手がタッチされたかどうかを判定する(第1の判定手段)。ユーザの手が撮像位置領域1205にタッチされたと判定されれば、ステップS2506へ処理を移行する。ユーザの手が撮像位置領域1205にタッチされたと判定されなければ、ステップS2515に処理を進める。図13は、テラーが撮像位置領域1205である概要説明部分1004にタッチしている例の図である。テラーの手1301が概要説明部分1004の上をタッチしていれば、テラーが概要説明部分1004の説明を行っているということである。つまり、顧客に対して概要説明部分1004の説明を行ったということの証明のために、証跡を取る必要がある。そのため、ステップS2505では、このように撮像位置領域1205を示す領域がタッチされていれば、ステップS2506に処理を進める。撮像位置領域1205を示す領域がタッチされていないと判定されれば、回転ボタンの押下を判定すべくステップS2515に処理を進める。
ステップS2506では、情報処理装置101のCPU201は、タッチされた撮像位置領域1205を示す領域の属性が、テラーから顧客に対する説明義務のある領域(以下、説明証跡領域)であるのか、顧客が契約等に同意の意思を示すための領域(以下、同意証跡領域)であるのかを判定する(第2の判定手段)。タッチされた撮像位置領域1205に対応する、ステップS2502で取得した撮像領域情報の中の属性1206によって、タッチされた撮像位置領域1205の証跡の属性を特定し、特定した属性に応じて判定すればよい。撮像位置領域1205を示す領域が説明証跡領域であると判定した場合には、ステップS2507に処理を進める。撮像位置領域1205を示す領域が同意証跡領域であると判定した場合には、ステップS2517に処理を進める。このようにタッチされた部分の領域の属性を判定することにより、タッチされた領域が示す属性に応じて撮像の条件を変更することが可能となる。
たとえば図13の概要説明部分1004の領域ID1201「1」に対応する属性1206は「説明」となっているので、概要説明部分1004が説明証跡領域であると特定する。よって、ステップS2507へ処理を進める。
一方、たとえば図16は、顧客1002が署名欄1007に顧客の手1602でサインを行っている図である。投影システム100では、署名欄1007のような所定の領域を指でタッチしたまま移動させると、その軌跡を描画することができるようになっている。赤外線センサ103から送信された赤外線情報に基づいて、情報処理装置101のCPU201が、ユーザの指が署名欄1007のような所定の領域をタッチしていると判定すると、当該タッチが継続されている間、そのタッチの軌跡を線要素で表現する。このような仕組みを用いることで、投影面106に対してタッチすることにより、サインを行うことができるようになる。
第1の実施例では、署名欄1007にタッチがなされると、顧客の手であるか、テラーの手であるかを判定するステップと、投影画像の向きを判定するステップは行わずに、即時、ステップS1109へ移行する。図26に示す第2の実施例では、即時ステップS2509に移行せず、投影文書の向きと顧客の手であるか否かを判定する。これにより、顧客だけの証跡を残すことが可能になるので外部メモリ211などの記憶容量の節約になる。また、テラーが顧客に対してサインの方法を説明する際などに無駄な証跡を残すことがなくなるという効果もある。
ステップS2507〜2608、ステップS2517〜2618の判定は、図22に示す条件テーブル2200に基づいて判定を行う。条件テーブル2200には領域の属性2201、回転フラグ2202、特定した手2203、処理内容2204が格納されている。領域の属性2201はステップS2506で判定された領域の属性を示している。回転フラグ2202は、投影テーブル2300の回転フラグ2302のフラグを示している。特定した手2203はステップS2504で特定したテラーの手か顧客の手かを模式的に示している。処理内容2204は撮像をするか否かの処理の内容が記載されている。例えば、領域の属性2201が説明証跡領域であって、回転フラグ2202が0であって、特定した手2203がテラーであれば、処理内容2204は撮像する。
ステップS2507では、情報処理装置101のCPU201は、投影画像が顧客の方を向いているのか、テラーの方を向いているのかを判定する。たとえば、回転ボタン1008が押下され、ステップS2516で投影テーブル2300の回転フラグ2302にフラグが立っていれば、投影画像がテラーの方を向いていることがわかる。一方、回転フラグ2202にフラグが立っていなければ、投影画像が顧客の方を向いていることがわかる。回転フラグ2202にフラグが立っていると判定された場合、ステップS2508へ処理を進める。回転フラグ2202にフラグが立っていないと判定された場合は、投影文書はテラー向きであるのでタッチ判定処理を終了させる。たとえば図15は、投影画像が顧客ではなく、テラーの方を向いている。この状態でテラーが説明を行ったとしても、顧客は投影画像を読むことができないため、正常に説明したとは言えない。そのため、この場合は証跡の保存は行わずに、タッチ判定処理を終了させる。
ステップS2508では、情報処理装置101のCPU201は、タッチされた手がテラーの手であるかどうかを判定する。ステップS2504で特定された手の人物がテラーであればステップS2509へ処理を進める。ステップS2504で特定された手の人物がテラーでなければタッチ判定処理を終了させる。たとえば、図14は、テラー1001が説明する説明証跡領域である概要説明部分1004を顧客1002がタッチしている図である。この場合には、テラー1001によるタッチではないので証跡の保存は行わずにタッチ判定処理を終了させる。説明証跡領域は、テラーが顧客に説明したということが担保できればよい。顧客が説明証跡領域をタッチした場合も証跡を保存するようにしてしまうと、外部メモリ211などの容量を圧迫してしまう。そのため、テラーからタッチされた場合のみ、証跡を取るようにしている。このように、説明証跡領域の場合には、テラーが説明証跡領域をタッチしており、かつ投影画像が顧客の方に向いている場合に、証跡が保存される。テラーが正しい方法で説明していないと、証跡が残らないので、説明したか否かを示す証拠となる。
ステップS2509では、情報処理装置101のCPU201は、カメラ102にデジタルな撮像音の無い撮像指示を行う(撮像指示手段・撮像音出力手段)。本実施例では撮像音を無くすとしているが、聞こえないような音量の撮像音であっても構わない。また、カメラに対して撮像音のない撮像を指示しているが、カメラが撮像音を出す必要はなく情報処理装置101につながるスピーカのようなものが撮像音を出してもよい。
ステップS2510では、カメラ102は、情報処理装置101から送信された撮像音の無い撮像指示を受信する。
ステップS2511では、カメラ102は、受信した撮像指示に従って、撮像音を出さない撮像を行う。ここでいう撮像音はデジタルな撮像音である。撮像音を出さないというのは、撮像音を出す撮像と撮像音を出さない撮像を切り替える場合や、撮像音自体の音量を少なくする場合がある。撮像音を出さない方法は上記に限定されない。デジタルな撮像音を出さないことで、顧客がいかにも証跡を取られているということを認識することを避けることができる。
ステップS2512では、カメラ102は、情報処理装置に対し、撮像した画像データを送信する。
ステップS2513では、情報処理装置101のCPU201は、カメラから送信された画像データを受信する。
ステップS2514では、情報処理装置101のCPU201は、受信した画像データを、証跡ID、撮像された年月日、顧客IDやテラーID、領域ID、画像データをひとまとめにして証跡として顧客ごとに保存する(画像データ保存手段)。証跡として保存する例として図19の証跡保存テーブル1900がある。証跡保存テーブル1900の詳細な説明については、前述した通りである。このようにテーブル形式で顧客ごとに管理することで証跡の検索もしやすく、顧客と紛争になった際の有用なリソースとなりうるものとなる。実際に投影文書に指を指している画像データが残るため、証跡として担保することが可能なデータを蓄積することが可能になる。
ステップS2515では、情報処理装置101のCPU201は、投影面106上に配置された回転ボタン1008がタッチされたか否かを判定する。回転ボタン1008のタッチを受け付けることにより、ユーザからの投影文書の回転指示があったことと判断することができる。回転ボタン1008がタッチされたと判定した場合処理をステップS2516に進め、回転ボタン1008がタッチされないと判定した場合、処理を終了させる。
ステップS2516では、情報処理装置101のCPU201は、投影テーブル2300の回転フラグ2302を反転させる。例えば「0」から「1」、「1」から「0」という具合である。フラグを反転させたのち、処理をステップS2402に進める。
ステップS2517では、情報処理装置101のCPU201は、投影画像が顧客の方を向いているのか、テラーの方を向いているのかを判定する。たとえば、回転ボタン1008が押下され、ステップS2516で投影テーブル2300の回転フラグ2302にフラグが立っていれば、投影画像がテラーの方を向いていることがわかる。一方、回転フラグ2202にフラグが立っていなければ、投影画像が顧客の方を向いていることがわかる。回転フラグ2202にフラグが立っていると判定された場合、ステップS2509へ処理を進める。回転フラグ2202にフラグが立っていないと判定された場合は、投影文書はテラー向きであるのでタッチ判定処理を終了させる。
ステップS2518では、情報処理装置101のCPU201は、タッチされた手が顧客の手であるかどうかを判定する。ステップS2504で特定された手の人物が顧客であればステップS2509へ処理を進める。ステップS2504で特定された手の人物が顧客でなければタッチ判定処理を終了させる。ステップS2517、2518の判定を行うことによって、テラーが顧客に対してサインの説明を行う際などの無駄な証跡を残さずに適切な証跡のみを残すことを可能にする。
以上により同意証跡の場合でも上記の判定をすることにより、顧客が同意証跡の領域に確かにサインをしたという証跡を残すことを可能にする。例えばテラーが顧客に対してサインの説明を行う際などの無駄な証跡を残さずに適切な証跡のみを残すことを可能にする。
次に本願発明の第3の実施例を説明する。第1の実施例では、証跡を保存する際の撮像指示と紙文書の取り込みの際の撮像指示とで、撮像音の出力を制御する仕組みを説明した。第3の実施例では、証跡を保存する際の撮像指示と紙文書の取り込みの際の撮像指示とでそれぞれ撮像音の種類を切り替える。これにより、ユーザに対して撮像の意図を通知することが可能になるという効果がある。
第3の実施例では、システム構成、機能構成、画面例、テーブルは第1の実施例と同じであり、図9が図24、図11が図27、図20が図28にそれぞれ変形したものである。
第3の実施例のハードウェア構成について図26を用いて説明する。
図26は図2の構成に新たにサウンドコントローラ212とスピーカ213とが追加されたものであり、共通する項目の説明は省略する。
サウンドコントローラ212は、音声信号を処理するコントローラであり、スピーカ213による音声出力を制御する。
スピーカ213は、情報処理装置101とスピーカケーブルで接続され、サウンドコントローラ212から出力される信号を音声として出力する。
次に図27を用いて第3の実施例のタッチ判定処理を説明する。
ステップS2701では、情報処理装置101のCPU201は、投影面106に投影されている投影画像の基となる投影文書の特定を行う。投影文書は、前述したステップS504で選択された文書データまたは画像データであるので、これに基づいて特定する。ここでは、投影画像のファイル名や保存場所、更には投影している投影元文書のページ番号を特定する。特定を行ったら、ステップS2702へと処理を移行する。
ステップS2702では、情報処理装置101のCPU201は、ステップS2701で特定された投影画像に対応する撮像領域情報を取得する。撮像領域情報とは、投影画像に含まれる所定の領域ごとに存在する情報であり、図12に示す撮像領域情報テーブル1200に記憶された各レコードを指す。より具体的には、領域ID1201、名称1202、保存場所1203、page1204、撮像位置領域1205、属性1206のことを指す。
撮像領域情報テーブル1200は、情報処理装置101の外部メモリ211に記憶されたテーブルである。撮像領域情報テーブル1200の詳細な説明については、前述した通りである。
たとえば、図10の申込書1003の撮像領域情報を取得する場合には、ステップS2701で申込書1003のファイル名や保存場所や投影しているページ番号を特定する。特定されたこれらの情報と、保存場所1203とに基づいて、必要なレコードを特定し、これを取得する。申込書1003のファイル名が「A.pdf」、保存場所が「D:¥document¥data¥」、投影しているページ番号が「2」である場合には、図12に示す領域ID1201が「1」〜「4」に該当する。よって、この4つのレコードを撮像領域情報として取得する。
ステップS2703では、情報処理装置101のCPU201は、ステップS506で受信した赤外線情報に基づいて、投影面106上におけるユーザの手の位置を解析する。ユーザの手の位置の解析の方法は従来の技術を用いるものとし、赤外線センサ103が赤外線のはね返りを検知することができなかった形状を解析する。形状の解析により、ユーザの指がどの部分を指しているかを特定することが可能になる。
ステップS2704では、情報処理装置101のCPU201は、ステップS2703で解析したユーザの手の位置などを基に、解析した手が誰の手なのかを特定する(ユーザ特定手段)。より具体的には、手の進入方向や手の向きなどから特定する。たとえば図10では、回転ボタン1008がある方向から手が入ってきた場合はテラーの手であると特定し、そうでない場合は顧客の手であると特定する。誰の手なのかを特定する方法はこれに限らない。ユーザの手にユーザを識別できる情報を付与しておき、これをカメラ102で撮像し、撮像された画像データを解析して特定してもよい。
ステップS2705では、情報処理装置101のCPU201は、ステップS2702で取得した撮像領域情報に含まれる撮像位置領域1205が示す領域にユーザの手がタッチされたかどうかを判定する(第1の判定手段)。ユーザの手が撮像位置領域1205にタッチされたと判定されれば、ステップS2706へ処理を移行する。ユーザの手が撮像位置領域1205にタッチされたと判定されなければ、ステップS2720に処理を進める。図13は、テラーが撮像位置領域1205である概要説明部分1004にタッチしている例の図である。テラーの手1301が概要説明部分1004の上をタッチしていれば、テラーが概要説明部分1004の説明を行っているということである。つまり、顧客に対して概要説明部分1004の説明を行ったということの証明のために、証跡を取る必要がある。そのため、ステップS2705では、このように撮像位置領域1205を示す領域がタッチされていれば、ステップS2706に処理を進める。撮像位置領域1205を示す領域がタッチされていないと判定されれば、回転ボタンの押下を判定すべくステップS2720に処理を進める。
ステップS2706では、情報処理装置101のCPU201は、タッチされた撮像位置領域1205を示す領域の属性が、テラーから顧客に対する説明義務のある領域(以下、説明証跡領域)であるのか、顧客が契約等に同意の意思を示すための領域(以下、同意証跡領域)であるのかを判定する(第2の判定手段)。タッチされた撮像位置領域1205に対応する、ステップS2702で取得した撮像領域情報の中の属性1206によって、タッチされた撮像位置領域1205の証跡の属性を特定し、特定した属性に応じて判定すればよい。撮像位置領域1205を示す領域が説明証跡領域であると判定した(説明動作)場合には、ステップS2707に処理を進める。撮像位置領域1205を示す領域が同意証跡領域であると判定した(同意動作)場合には、ステップS2711に処理を進める。このようにタッチされた部分の領域の属性を判定することにより、タッチされた領域が示す属性に応じて撮像の条件を変更することが可能となる。
たとえば図13の概要説明部分1004の領域ID1201「1」に対応する属性1206は「説明」となっているので、概要説明部分1004が説明証跡領域であると特定する。よって、ステップS2707へ処理を進める。
一方、たとえば図16は、顧客1002が署名欄1007に顧客の手1602でサインを行っている図である。投影システム100では、署名欄1007のような所定の領域を指でタッチしたまま移動させると、その軌跡を描画することができるようになっている。赤外線センサ103から送信された赤外線情報に基づいて、情報処理装置101のCPU201が、ユーザの指が署名欄1007のような所定の領域をタッチしていると判定すると、当該タッチが継続されている間、そのタッチの軌跡を線要素で表現する。このような仕組みを用いることで、投影面106に対してタッチすることにより、サインを行うことができるようになる。
ステップS2707〜2608、ステップS2711〜2612の判定は、図22に示す条件テーブル2200に基づいて判定を行う。条件テーブル2200には領域の属性2201、回転フラグ2202、特定した手2203、処理内容2204が格納されている。領域の属性2201はステップS2706で判定された領域の属性を示している。回転フラグ2202は、投影テーブル2300の回転フラグ2302のフラグを示している。特定した手2203はステップS2704で特定したテラーの手か顧客の手かを模式的に示している。処理内容2204は撮像をするか否かの処理の内容が記載されている。例えば、領域の属性2201が説明証跡領域であって、回転フラグ2202が0であって、特定した手2203がテラーであれば、処理内容2204は撮像する。
ステップS2707では、情報処理装置101のCPU201は、投影画像が顧客の方を向いているのか、テラーの方を向いているのかを判定する。たとえば、回転ボタン1008が押下され、ステップS2716で投影テーブル2300の回転フラグ2302にフラグが立っていれば、投影画像がテラーの方を向いていることがわかる。一方、回転フラグ2202にフラグが立っていなければ、投影画像が顧客の方を向いていることがわかる。回転フラグ2202にフラグが立っていると判定された場合、ステップS2708へ処理を進める。回転フラグ2202にフラグが立っていないと判定された場合は、投影文書はテラー向きであるのでタッチ判定処理を終了させる。たとえば図15は、投影画像が顧客ではなく、テラーの方を向いている。この状態でテラーが説明を行ったとしても、顧客は投影画像を読むことができないため、正常に説明したとは言えない。そのため、この場合は証跡の保存は行わずに、タッチ判定処理を終了させる。
ステップS2708では、情報処理装置101のCPU201は、タッチされた手がテラーの手であるかどうかを判定する。ステップS2704で特定された手の人物がテラーであればステップS2709へ処理を進める。ステップS2704で特定された手の人物がテラーでなければタッチ判定処理を終了させる。たとえば、図14は、テラー1001が説明する説明証跡領域である概要説明部分1004を顧客1002がタッチしている図である。この場合には、テラー1001によるタッチではないので証跡の保存は行わずにタッチ判定処理を終了させる。説明証跡領域は、テラーが顧客に説明したということが担保できればよい。顧客が説明証跡領域をタッチした場合も証跡を保存するようにしてしまうと、外部メモリ211などの容量を圧迫してしまう。そのため、テラーからタッチされた場合のみ、証跡を取るようにしている。このように、説明証跡領域の場合には、テラーが説明証跡領域をタッチしており、かつ投影画像が顧客の方に向いている場合に、証跡が保存される。テラーが正しい方法で説明していないと、証跡が残らないので、説明したか否かを示す証拠となる。
ステップS2709では、情報処理装置101のCPU201は、カメラ102に撮像指示を行う(撮像指示手段)。
ステップS2710では、情報処理装置101のCPU201は、ステップS2706で説明証跡の領域であると判定されたので、説明領域の証跡を保存することを通知すべく説明領域の撮像音をスピーカ213から出力する(撮像音出力手段)。撮像音は図29にしめす撮像音データテーブル2900から判断する。撮像音データテーブル2900には撮像シーン2901、撮像音2902とが格納されており、撮像シーン2901は本実施例で撮像するシーンである、「紙文書取り込み(取り込みシーン)」「説明証跡領域(説明シーン)」「同意証跡領域(同意シーン)」とがある。それぞれに対して撮像音2902が割り当てられており、それぞれのシーンに応じて撮像音2902に保存されている音声データを出力する。例えば、ステップS2706で説明証跡のシーン(説明シーン)であると判定し当該シーンを特定しているのでこれに該当する「説明証跡領域」に対応する撮像音2902を「D:¥sound¥002.wav」と特定し、当該撮像音2902をスピーカ213から出力するよう制御する。
撮像音をスピーカ213から出力する際には、後述するステップS2716における撮像とタイミングが合うように出力されることが望ましい。そのため、ステップS2709で撮像指示をしてから後述するステップS2716で撮像がなされるまでの遅延時間をあらかじめ記憶、または従来技術で算出し、当該遅延時間の間、待機してから撮像音を出力するようにすればよい。
ステップS2711では、情報処理装置101のCPU201は、投影画像が顧客の方を向いているのか、テラーの方を向いているのかを判定する。たとえば、回転ボタン1008が押下され、ステップS2716で投影テーブル2300の回転フラグ2302にフラグが立っていれば、投影画像がテラーの方を向いていることがわかる。一方、回転フラグ2202にフラグが立っていなければ、投影画像が顧客の方を向いていることがわかる。回転フラグ2202にフラグが立っていないと判定された場合、ステップS2712へ処理を進める。回転フラグ2202にフラグが立っていると判定された場合は、投影文書はテラー向きであるのでタッチ判定処理を終了させる。
ステップS2712では、情報処理装置101のCPU201は、タッチされた手が顧客の手であるかどうかを判定する。ステップS2704で特定された手の人物が顧客であればステップS2713へ処理を進める。ステップS2704で特定された手の人物が顧客でなければタッチ判定処理を終了させる。
ステップS2713では、情報処理装置101のCPU201は、カメラ102に撮像指示を行う。
ステップS2714では、情報処理装置101のCPU201は、同意領域の証跡を保存することを通知すべく説明領域の撮像音を特定し、当該撮像音をスピーカ213から出力する(撮像音出力手段)。ステップS2710と同様に撮像音は図29にしめす撮像音データテーブル2900から判断する。撮像音をスピーカ213から出力する際には、後述するステップS2716における撮像とタイミングが合うように出力されることが望ましい。そのため、ステップS2713で撮像指示をしてから後述するステップS2716で撮像がなされるまでの遅延時間をあらかじめ記憶、または従来技術で算出し、当該遅延時間の間、待機してから撮像音を出力するようにすればよい。
ステップS2715では、カメラ102は、情報処理装置101から送信された撮像指示を受信する。
ステップS2716では、カメラ102は、受信した撮像指示に従って、撮像を行う。第3の実施例ではカメラ102は撮像音を出力しない。
ステップS2717では、カメラ102は、情報処理装置に対し、撮像した画像データを送信する。
ステップS2718では、情報処理装置101のCPU201は、カメラから送信された画像データを受信する。
ステップS2719では、情報処理装置101のCPU201は、受信した画像データを、証跡ID、撮像された年月日、顧客IDやテラーID、領域ID、画像データをひとまとめにして証跡として顧客ごとに保存する。証跡として保存する例として図19の証跡保存テーブル1900がある。証跡保存テーブル1900の詳細な説明については前述したとおりである。このようにテーブル形式で顧客ごとに管理することで証跡の検索もしやすく、顧客と紛争になった際の有用なリソースとなるものとなる。実際に投影文書に指を指している画像データが残るため、証跡として担保することが可能なデータを蓄積することが可能になる。
ステップS2720では、情報処理装置101のCPU201は、投影面106上に配置された回転ボタン1008がタッチされたか否かを判定する。回転ボタン1008のタッチを受け付けることにより、ユーザからの投影文書の回転指示があったことと判断することができる。回転ボタン1008がタッチされたと判定した場合処理をステップS2721に進め、回転ボタン1008がタッチされないと判定した場合、処理を終了させる。
ステップS2716では、情報処理装置101のCPU201は、投影テーブル2300の回転フラグ2302を反転させる。例えば「0」から「1」、「1」から「0」という具合である。フラグを反転させたのち、処理をステップS2402に進める。
次に、第3の実施例における紙文書取り込み処理について図28を用いて説明を行う。
ステップS2801では、情報処理装置101のCPU201は、ステップS506で受信した赤外線情報を解析し、紙文書の動きを解析する。
ステップS2802では、情報処理装置101のCPU201は、ステップS2801で解析した紙文書が撮像可能になったかを判定する。たとえばある一定の時間紙文書が動いていないと判定されたときに、撮像可能と判定する。撮像可能と判定された場合、ステップS2803の処理へと移行する。なお、撮像可能の判定は、ユーザからの撮像の指示を受け付けてもよい。例えば、スキャンボタンなどが投影面上に配置されており、当該スキャンボタンの押下を受け付けることで撮像可能と判定してもよい。
ステップS2803では、情報処理装置101のCPU201は、ステップS2802で紙文書が置かれ、動きがある一定の時間なくなったと判定された時の、投影面106上に投影されている投影画像の位置や、状態を保存しておく処理を行う。たとえば図21で表示されている表示メニュー2003などがあり、これらの状態を保存しておく。保存処理が終わったらステップS2804へと処理を移す。
ステップS2804では、情報処理装置101のCPU201は、プロジェクタ104に対して投影しているものを消すよう、指示を行う。現在、投影面106上に投影しているものを投影しないように制御できればよい。これは、後述する処理で紙文書を取り込む際に、投影したものが写り込まないようにするためである。よって、置かれた紙文書の上に投影がされなければよく、それ以外の領域は何かしらの情報が投影されていてもよい。たとえば図21の表示メニュー2003の上に紙文書が置かれた場合、すべての投影を消してもよいし、紙文書と表示メニュー2003が重なる部分の投影だけ消してもよい。
ステップS2805では、プロジェクタ104は、情報処理装置101から指示された投影非表示指示を受信する。
ステップS2806では、プロジェクタ104は、受信した投影非表示指示に従って、現在投影されている投影を消す。
ステップS2807では、情報処理装置101のCPU201は、撮像の指示をカメラ102に対して行う。
ステップS2808では、情報処理装置101のCPU201は、紙文書取り込みの撮像音を特定し、当該撮像音をスピーカ213により出力する(撮像音出力手段)。撮像音は図29にしめす撮像音データテーブル2900から特定する。ステップS509で紙文書取り込みと特定されているので図29に示す撮像音2902は、撮像シーン2901が「紙文書取り込み」の「D:¥sound¥001.wav」となる。また、前述したステップS2714と同様に、後述するステップS2810における撮像とタイミングを合わせて出力することが望ましい。そのため、ステップS2714で前述した通り、撮像が行われるタイミングまで待機し、待機後に撮像音を出力する。
ステップS2809ではカメラ102は、情報処理装置101から送信された撮像の指示を受信する。
ステップS2810では、カメラ102は、受信した指示によりデジタルな撮像音を伴う撮像を行う。撮像音を伴う撮像を行うことで、顧客の住民票や戸籍謄本などの書類を画像データとして取り込んでいることを明確に認識させることができる。
ステップS2811では、カメラ102は、撮像によって得られた画像データを情報処理装置101へ送信する。
ステップS2812では、情報処理装置101のCPU201は、カメラ102から送信された画像データを受信する。
ステップS2813では、情報処理装置101のCPU201は、受信した画像データを、紙文書の取り込みデータとして保存する。
ステップS2814では、情報処理装置101のCPU201は、ステップS2803で保存した状態を読み出し、投影を終了する前の状態に戻すため、読み出した投影状態をプロジェクタ104に投影させ、投影を再開させる。
ステップS2815では、プロジェクタ104は、情報処理装置101からの投影表示指示を受信する。
ステップS2816では、プロジェクタ104に、受信した投影表示指示に基づいて、ステップS2803で保存した状態を投影する。
以上、第3の実施例では、証跡を保存する際の撮像指示と紙文書の取り込みの際の撮像指示とでそれぞれ撮像音の種類を切り替えることでユーザに対して撮像の意図を通知することが可能になるという効果がある。
本発明は、例えば、システム、装置、方法、プログラム若しくは記憶媒体等としての実施形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、1つの機器からなる装置に適用してもよい。
なお、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラムを、システム或いは装置に直接、或いは遠隔から供給するものを含む。そして、そのシステム或いは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合も本発明に含まれる。
したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。
プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RWなどがある。また、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などもある。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する。そして、前記ホームページから本発明のコンピュータプログラムそのもの、若しくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。
また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、ダウンロードした鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。その他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現される。
なお、前述した実施形態は、本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。