JP4646734B2 - 携帯情報端末装置 - Google Patents

Description

本発明は、携帯情報端末装置に係り、更に詳しくは、撮影画像に基づいて認証処理を行う携帯情報端末装置の改良に関する。

携帯電話機などの携帯情報端末装置の中には、被写体を撮影して画像データを生成するカメラを備えているものがある。この種の携帯情報端末装置において、最近では、操作中にカメラによる顔画像の撮影を促し、撮影した顔画像から抽出される目、鼻、口及び輪郭の形や大きさなどの特徴情報を、携帯情報端末装置に備えられたメモリに登録特徴情報として予め記憶されているユーザの特徴情報と比較することにより、認証処理（いわゆる顔認証）を行うようになっているものがある。認証処理の結果、撮影画像から抽出された特徴情報とユーザの特徴情報との一致度が認識閾値を超えた場合にのみ、そのとき操作を行っている者が真のユーザであると判断し、その後の処理の実行を許可することにより、セキュリティの向上やプライバシーの保護を図ることができる（例えば、特許文献１参照）。

一方で、携帯情報端末装置の中には、電子メール機能等の各種機能を実行するためのアプリケーションプログラムの起動に際して、暗証番号の入力等により認証処理を行い、認証に成功した場合にのみアプリケーションプログラムを起動させることができるようになっているものがある。この種の携帯情報端末装置では、例えば、複数種類のアプリケーションプログラムごとに、それらのアプリケーションプログラムの起動に際して認証処理を行うか否かの設定（いわゆるＰＩＭ（Personal Information Manager）ロック設定）を行うことができるようになっており、ユーザが予め設定しているアプリケーションプログラムの起動時にのみ認証処理が行われる。
特開２０００−２７８６５８号公報

従来の携帯情報端末装置では、その携帯情報端末装置が盗まれた場合のように、ユーザ以外の他人が不正に使用しようとした場合に、ＰＩＭロック設定により認証処理を行うと設定されているアプリケーションプログラムについては、認証に成功することができず、そのアプリケーションプログラムを起動させることができない。しかし、ＰＩＭロック設定により認証処理を行わないと設定されているアプリケーションプログラムについては、ユーザ以外の者でも何ら制限なく起動させることができるという問題があった。

通常、認証処理の操作はユーザにとって煩わしいため、ユーザは、ＰＩＭロック設定が可能なアプリケーションプログラムのうち、特に他人に使用されたくない機能に対応するアプリケーションプログラムについてのみ認証処理を実行するよう設定する傾向にある。しかし、ＰＩＭロック設定が可能なアプリケーションプログラムにより実行される機能は、いずれも秘匿性の高い機能であり、ユーザが自己の操作性を考慮して認証処理を行わないと設定している機能であっても、通常は、ユーザにとって他人には使用されたくない機能である。

したがって、他人が携帯情報端末装置を不正に使用しようとした場合などには、ＰＩＭロック設定により認証処理を行わないと設定されているアプリケーションプログラムが起動され、対応する機能が他人に使用される可能性があり、ユーザのプライバシーやセキュリティの保護に欠けるという問題があった。

本発明は、上記の事情に鑑みてなされたものであり、ユーザのプライバシー又はセキュリティを効果的に保護することができる携帯情報端末装置を提供することを目的とする。

第１の本発明による携帯情報端末装置は、認証処理を行うための認証処理手段と、起動に際して上記認証処理を行うか否かをユーザ操作により設定変更可能なアプリケーションプログラムを記憶する設定可変プログラム記憶手段と、上記アプリケーションプログラムごとに、それらのアプリケーションプログラムの起動に際して上記認証処理を行うか否かの設定を行うための認証実行設定手段と、上記認証処理において認証に失敗した場合に、上記認証実行設定手段により上記認証処理を行わないと設定されているアプリケーションプログラムについて、上記認証処理を行うように設定を変更する認証設定変更手段とを備えて構成される。

このような構成によれば、認証処理を行うと設定されているアプリケーションプログラムの起動に際して認証に失敗した場合に、認証実行設定手段による設定を変更することができる。例えば、他人が携帯情報端末装置を不正に使用してアプリケーションプログラムを起動させようとしたときに、そのアプリケーションプログラムの起動時に行われた認証処理において認証に失敗した場合、認証実行設定手段により認証処理を行わないと設定されているアプリケーションプログラムについても認証処理を行うように設定を変更すれば、その他人は、認証実行設定手段により設定変更可能なすべてのアプリケーションプログラムを起動させることができなくなる。したがって、ユーザのプライバシー又はセキュリティを効果的に保護することができる。

また、認証処理を行うと設定されているアプリケーションプログラムの起動に際して認証に失敗した場合に、そのとき認証実行設定手段により既に認証処理を行うと設定されているアプリケーションプログラムのみならず、認証実行設定手段により認証処理を行わないと設定されているアプリケーションプログラムについても、認証処理を行うように設定を変更することができる。したがって、ユーザのプライバシー又はセキュリティを効果的に保護することができる。

第２の本発明による携帯情報端末装置は、起動に際して上記認証処理を行うか否かをユーザ操作により設定変更不可能なアプリケーションプログラムを記憶する設定不可変プログラム記憶手段を備え、上記認証設定変更手段は、上記認証処理において認証に失敗した場合に、上記設定不可変プログラム記憶手段に記憶されているアプリケーションプログラムについて、上記認証処理を行うように設定を変更する。

このような構成によれば、認証処理を行うと設定されているアプリケーションプログラムの起動に際して認証に失敗した場合に、認証実行設定手段により認証処理を行うか否かを設定変更不可能なアプリケーションプログラムについても、認証処理を行うように設定を変更することができる。したがって、ユーザのプライバシー又はセキュリティをさらに効果的に保護することができる。

この場合、設定可変プログラム記憶手段及び設定不可変プログラム記憶手段に記憶されているすべてのアプリケーションプログラムについて、認証処理を行うように設定を変更するような構成とすれば、例えば、他人が携帯情報端末装置を不正に使用してアプリケーションプログラムを起動させようとして認証に失敗した場合に、その後にいかなるアプリケーションプログラムも起動させることができないオールロック状態となり、ユーザのプライバシー又はセキュリティを最大限に保護することができる。

第３の本発明による携帯情報端末装置は、上記認証設定変更手段による変更前の設定内容を記憶しておくための認証設定内容記憶手段と、上記認証設定変更手段による設定変更後に行われた認証処理において認証に成功した場合に、上記認証設定内容記憶手段から変更前の設定内容を読み出して設定を復帰させる認証設定復帰手段とを備えて構成される。

このような構成によれば、真のユーザであるにもかかわらず認証に失敗し、設定が変更された場合であっても、その後に行われた認証処理において認証に成功すれば、変更前の設定を復帰させることができる。したがって、真のユーザであるにもかかわらず認証に失敗し、設定が変更された場合に、設定内容を復帰させるために再度設定操作を行う必要がないので、利便性が向上する。

第４の本発明による携帯情報端末装置は、被写体を撮影するための撮像手段と、顔画像から抽出された特徴情報を登録特徴情報として予め記憶しておく特徴情報記憶手段とを備え、上記認証処理手段は、上記登録特徴情報を用いて、上記撮像手段による撮影画像に基づく認証処理を行う。

このような構成によれば、撮影画像に基づく認証処理において認証に失敗した場合に、認証実行設定手段による設定を変更することができる。

第５の本発明による携帯情報端末装置は、上記撮像手段及び上記認証処理手段を制御して、上記認証処理において認証に失敗した場合に再度撮影を行い、その撮影画像に基づく認証処理を行うことにより、一連の認証処理を行う連続認証手段を備え、上記認証設定変更手段は、上記一連の認証処理において認証に失敗した場合に、上記認証実行設定手段による設定を変更する。

このような構成によれば、認証処理において認証に失敗した場合に、再度自動的に認証処理を行うことができる。したがって、真のユーザが操作を行う場合に、１回目の認証処理において認証に失敗した場合でも、その後にユーザが撮影操作を行うことなく、認証処理が再度行われる。すなわち、真のユーザであると判断されるまで繰り返し自動的に認証処理が行われるので、認証処理に要する手間を削減できるとともに、認証処理に要する時間を短縮できる。

また、一連の認証処理において認証に失敗した場合に設定が変更されるので、ユーザ本人が１回目の認証処理に失敗した時点で直ちに設定が変更されるのを防止できる。したがって、真のユーザであるにもかかわらず認証に失敗した場合に、直ちに設定が変更されることにより、ユーザが煩雑さを感じるのを防止できる。

本発明の携帯情報端末装置によれば、認証処理を行うと設定されているアプリケーションプログラムの起動に際して認証に失敗した場合に、認証実行設定手段による設定を変更することができる。認証処理を行うと設定されているアプリケーションプログラムの起動に際して認証に失敗した場合に、そのとき認証実行設定手段により既に認証処理を行うと設定されているアプリケーションプログラムのみならず、認証実行設定手段により認証処理を行わないと設定されているアプリケーションプログラムについても、認証処理を行うように設定を変更すれば、ユーザのプライバシー又はセキュリティを効果的に保護することができる。

また、認証処理を行うと設定されているアプリケーションプログラムの起動に際して認証に失敗した場合に、認証実行設定手段により認証処理を行うか否かを設定変更不可能なアプリケーションプログラムについても、認証処理を行うように設定を変更すれば、ユーザのプライバシー又はセキュリティをさらに効果的に保護することができる。

本発明の携帯情報端末装置によれば、真のユーザであるにもかかわらず認証に失敗し、設定が変更された場合であっても、その後に行われた認証処理において認証に成功すれば、変更前の設定を復帰させることができる。したがって、真のユーザであるにもかかわらず認証に失敗し、設定が変更された場合に、設定内容を復帰させるために再度設定操作を行う必要がないので、利便性が向上する。

実施の形態１．
図１は、本発明の実施の形態１による携帯情報端末装置の一例を示した外観図であり、携帯情報端末装置の一例として携帯電話機１が示されている。この携帯電話機１は、いわゆる折り畳み式の携帯電話機であり、表示筐体１００及び操作筐体２００がヒンジ部３００を介して連結され、表示筐体１００及び操作筐体２００の一面を対向させて折り畳むことができる。

表示筐体１００は、折り畳み時に内側となる筐体面にメイン表示部１０１、受話用レシーバ１０３及びサブカメラ１０５が配置され、外側となる筐体面にサブ表示部１０２及びメインカメラ１０４が配置されている。また、操作筐体２００は、折り畳み時に内側となる筐体面に多数の操作キー２０１及び送話用マイクロフォン２０３が配置されている。このような折り畳み式携帯電話機１は、コンパクトに折り畳んだ状態で携帯することができ、筐体を展開させれば、メイン表示部１０１の表示を見ながら、操作キー２０１を押下操作することができる。つまり、主な情報表示はメイン表示部１０１を用いて行われ、主な操作入力は操作キー２０１を用いて行われている。

この携帯電話機１は、メイン表示部１０１の表示を見ながらユーザが操作キー２０１の操作を行っているときに、サブカメラ１０５によりユーザの顔画像を撮影し、その顔画像から抽出される特徴情報に基づいて認証処理を行った結果、そのとき操作を行っている者が真のユーザであると判断した場合にのみ、その後の処理の実行を許可する機能（いわゆる顔認証機能）を有している。秘匿性の高い機能の実行に際して認証処理を行うことにより、セキュリティの向上やプライバシーの保護を図ることができる。

図２は、図１に示した携帯電話機１の内部構成の一例を示したブロック図である。制御部４００は、携帯電話機１の主要な動作を制御するプロセッサであって、撮像ユニット駆動制御部４０１、認証処理部４０２、連続認証部４０３、認証実行設定部４０４、認証設定変更部４０５及び認証設定復帰部４０６を備えている。制御部４００には、操作キー２０１からの操作信号が入力されるとともに、メモリ４１０、画像入出力部４３０、音声入出力部４４０及び通信部４５０が入出力可能に接続されている。

画像入出力部４３０には、メイン表示部１０１、サブ表示部１０２、メインカメラ１０４及びサブカメラ１０５が備えられている。メインカメラ１０４及びサブカメラ１０５は、それぞれ撮像ユニットとしてユニット化されており、これらの撮像ユニットには、ＣＣＤ(Charge-Coupled Device)又はＣＭＯＳ(Complementary Metal Oxide Semiconductor)イメージセンサなどの光電変換素子及び制御回路が備えられている。ここでは、撮像ユニットの電源投入後に、オフセットやゲインの調整などの初期化処理を行う必要がある光電変換素子が用いられている。

音声入出力部４４０には、受話用レシーバ１０３及び送話用マイクロフォン２０３が備えられている。通信部４５０は、図示しない基地局との間で電波の送受信を行うことにより、音声データや画像データなどの送受信を行う。

撮像ユニット駆動制御部４０１は、画像入出力部４３０に信号を送信することにより、メインカメラ１０４及びサブカメラ１０５の駆動を制御する。この実施の形態では、撮像ユニット駆動制御部４０１がサブカメラ１０５の駆動を制御することにより、メイン表示部１０１を見ながら操作キー２０１の操作を行っている者の顔画像をサブカメラ１０５で撮影し、その顔画像から抽出される特徴情報に基づいて認証処理を行うものとする。ただし、メインカメラ１０４により顔画像を撮影して認証処理を行うような構成であってもよい。

認証処理部４０２は、撮影画像から抽出された特徴情報を、メモリ４１０に予め記憶されているユーザの特徴情報（登録特徴情報）と比較することにより、そのとき操作を行っている者が真のユーザであるか否かを判断する。連続認証部４０３は、撮像ユニット駆動制御部４０１及び認証処理部４０２を制御することにより、認証に失敗した場合に再度撮影を行い、その撮影画像に基づく認証処理を行う。

認証実行設定部４０４は、認証処理を行うか否かの設定を行うためのものである。この認証実行設定部４０４における設定内容は、認証設定変更部４０５の処理により変更することができる。認証設定復帰部４０６は、認証設定変更部４０５の処理により変更された認証実行設定部４０４の設定内容を、変更前の設定内容に復帰させるための処理を行う。

本実施の形態の携帯電話機１は、２以上のアプリケーションプログラムを実行可能であり、各アプリケーションプログラムの実行に基づいて、対応する表示画面をメイン表示部１０１に表示させるなどの処理を行うことができる。これらのアプリケーションプログラムのうち予め定められた所定のアプリケーションプログラムについては、ユーザ操作により、その起動に際して認証処理部４０２が認証処理を行うか否かを設定（いわゆるＰＩＭ（Personal Information Manager）ロック設定）できるようになっている。

ＰＩＭロック設定可能なアプリケーションプログラム（以下、「ＰＩＭロックアプリケーション」と呼ぶ。）としては、電話帳機能、スケジュール機能、電子メール機能などの秘匿性の高い機能を実行するためのアプリケーションプログラムが設定されている。認証実行設定部４０４は、操作キー２０１によるユーザの設定操作に基づいて、各ＰＩＭロックアプリケーションの起動に際して認証処理を行うか否かを設定する。

メモリ４１０には、表示画面データ記憶部４１１、画像データ記憶部４１２、特徴情報記憶部４１３、エラー履歴情報記憶部４１４、ＰＩＭロックアプリケーション記憶部４１５、非ＰＩＭロックアプリケーション記憶部４１６及び認証設定記憶部４１７が割り当てられている。表示画面データ記憶部４１１には、メイン表示部１０１やサブ表示部１０２に表示させる画面のデータが記憶される。画像データ記憶部４１２には、メインカメラ１０４やサブカメラ１０５で撮影した画像データや、通信部４５０を介して外部から受信した画像データなどが記憶される。

特徴情報記憶部４１３には、認証処理に用いられる顔画像の特徴情報が記憶される。特徴情報記憶部４１３には、２以上の顔画像から抽出された特徴情報を顔画像ごとに所定最大数（例えば、７つ）まで登録特徴情報として記憶することができる。２以上の顔画像から抽出される登録特徴情報に基づいて顔認証を行うことにより、真のユーザが顔認証を行う場合に認証に成功する確率（本人受入率）を高めることができ、ユーザの表情や光が当たる角度などの微妙な違いによって認証に失敗するのを防止できる。ただし、顔認証に使用する登録特徴情報は、７つの顔画像から抽出されるような構成に限らず、例えば１つの顔画像から抽出される登録特徴情報に基づいて顔認証を行うような構成であってもよい。

ユーザの顔画像は、メインカメラ１０４又はサブカメラ１０５を用いてユーザにより予め撮影され、それらの画像データがメモリ４１０の画像データ記憶部４１２に記憶される。顔認証は、これらの画像データから抽出されてメモリ４１０の特徴情報記憶部４１３に記憶された登録特徴情報に基づいて行われるため、これらの画像データそのものは顔認証に際して必要とはならないが、メモリ４１０に記憶しておけば、ユーザがそれらの画像データを読み出して顔画像を確認することができるので、利便性が向上する。

エラー履歴情報記憶部４１４には、認証に失敗した場合に、その認証時の情報がエラー履歴情報として記憶される。ＰＩＭロックアプリケーション記憶部４１５には、予め定められたＰＩＭロックアプリケーションが記憶されている。非ＰＩＭロックアプリケーション記憶部４１６には、ＰＩＭロックアプリケーション以外のアプリケーションプログラム、すなわちＰＩＭロック設定不可能なアプリケーションプログラム（以下、「非ＰＩＭロックアプリケーション」と呼ぶ。）が記憶されている。認証設定記憶部４１７には、認証設定変更部４０５による変更前の設定内容を記憶しておくためのものであり、認証設定復帰部４０６は、この認証設定記憶部４１７から変更前の設定内容を読み出すことにより、認証実行設定部４０４の設定内容を復帰させることができる。

ただし、認証処理に用いられる顔画像の特徴情報や顔画像の画像データは、例えばＳＩＭ(Subscriber Identity Module)カードのような携帯電話機１に対して着脱可能な記憶媒体（図示せず）に記憶されるような構成であってもよい。

図３は、図２の撮像ユニット駆動制御部４０１の構成例を示したブロック図である。撮像ユニット駆動制御部４０１は、撮像ユニット起動部４０７、撮影制御部４０８及び撮像ユニット停止部４０９を備えている。撮像ユニット起動部４０７は、メインカメラ１０４及びサブカメラ１０５に制御信号を送信して、これらを起動させるためのものであり、ユーザの操作に基づいて撮像ユニット１０６（メインカメラ１０４又はサブカメラ１０５）に電源を投入する電源投入部４０７Ａと、初期化処理を実行する初期化処理部４０７Ｂとを備えている。

撮影制御部４０８は、初期化処理部４０７Ｂからの入力信号やユーザによる撮影操作に基づいて、メインカメラ１０４又はサブカメラ１０５の撮影動作を制御することにより、そのときのメインカメラ１０４又はサブカメラ１０５に対する被写体の静止画像データを生成する。撮像ユニット停止部４０９は、メインカメラ１０４又はサブカメラ１０５に供給する電力を停止させることにより、それらの撮像ユニット１０６の駆動を停止させる。

図４は、図２の認証処理部４０２の構成例を示したブロック図である。認証処理部４０２は、特徴抽出部４０２Ａ、一致度算出部４０２Ｂ及び一致度判定部４０２Ｃを備えている。認証処理が開始されると、特徴抽出部４０２Ａにより、サブカメラ１０５で撮影した顔画像から、目、鼻、口及び輪郭といった顔の各部分についての形や大きさなどの特徴情報が抽出される。

撮影画像が顔画像でない風景画像である場合や周囲が暗い場合などには、撮影画像から特徴情報を抽出することができず、認証に失敗することとなる。一方、撮影画像から特徴情報を抽出することに成功した場合には、一致度算出部４０２Ｂにより、その特徴情報がメモリ４１０の特徴情報記憶部４１３に記憶されている登録特徴情報と比較され、数値化された一致度が算出される。

一致度判定部４０２Ｃは、一致度算出部４０２Ｂにより算出された一致度を所定の閾値（認証閾値）と比較し、その比較結果を出力する。このとき、一致度が認証閾値を超えた場合には、真のユーザであると判断されて認証に成功し、一致度が認証閾値よりも小さい場合には、真のユーザであると判断されず認証に失敗する。ここで、一致度とは、比較されたすべての特徴情報のうち一致した特徴情報の占める割合（％）であって、認証閾値は、通常、９０％以上の所定値に設定されている。

図５は、顔認証に関する設定を行う際のメイン表示部１０１の表示例を示した図である。ユーザが、操作キー２０１を操作してセキュリティ設定画面を読み出し（図５（ａ）参照）、そのセキュリティ設定画面に表示された項目の中から「顔認証設定」の項目を選択操作すると、その携帯電話機１に予め割り当てられている端末暗証番号の入力を促す画面がメイン表示部１０１に表示される（図５（ｂ）参照）。この表示画面において、操作キー２０１に含まれるクリアキーを操作すると、メイン表示部１０１の表示は、図５（ａ）に示すセキュリティ設定画面に戻る。

端末暗証番号は、例えば４〜８桁の任意の文字列からなり、携帯電話機１の購入時に予め設定されているが、ユーザが操作キー２０１を操作することにより変更することも可能である。図５（ｂ）の端末暗証番号入力画面において、操作キー２０１の操作により入力された文字列が、予め設定されている端末暗証番号と一致しない場合には、その旨がメイン表示部１０１に表示される（図５（ｃ）参照）。また、端末暗証番号入力画面において入力された文字列が３桁以下である場合には、４〜８桁の文字列を入力すべき旨がメイン表示部１０１に表示される（図５（ｄ）参照）。

メイン表示部１０１に図５（ｃ）又は図５（ｄ）に示すような表示がされた後、所定時間が経過してタイムアウトとなるか、あるいは、操作キー２０１に含まれるいずれかのキーが操作されると、メイン表示部１０１の表示は、図５（ａ）に示すセキュリティ設定画面に戻る。

図５（ｂ）の端末暗証番号入力画面において入力された文字列が、予め設定されている端末暗証番号と一致する場合には、メイン表示部１０１の表示は、顔認証を行うモードのオン／オフを設定するための顔認証利用設定画面に切り替わる（図５（ｅ）参照）。この表示画面において、操作キー２０１に含まれるクリアキーを操作すると、メイン表示部１０１の表示は、図５（ｂ）に示す端末暗証番号入力画面に戻る。また、顔認証利用設定画面において、操作キー２０１の操作により顔認証がオフされると、メイン表示部１０１の表示は、図５（ａ）に示すセキュリティ設定画面に戻る。

図５（ｅ）の顔認証利用設定画面において、操作キー２０１の操作により顔認証がオンされると、メイン表示部１０１の表示は、顔認証に関する設定を行うための顔認証設定画面に切り替わる（図５（ｆ）参照）。図５（ｆ）の顔認証設定画面には、登録特徴情報の抽出元であるユーザを表す画像（顔認証用画像）にそれぞれ対応付けられた項目と、顔認証時の認証閾値の設定（セキュリティレベル設定）に対応付けられた項目と、エラー履歴に対応付けられた項目とが含まれる。

この表示画面において、顔認証用画像に対応付けられた項目を選択すると、顔認証用画像の上書登録や確認を行うための画面（顔認証用画像登録画面）が表示される。また、セキュリティレベル設定に対応付けられた項目を選択すると、顔認証時の認証閾値を設定するための画面（セキュリティレベル設定画面）が表示される。また、エラー履歴に対応付けられた項目を選択すると、エラー履歴を表示するための画面（エラー履歴画面）が表示される。

これらの各種設定等を行った後、操作キー２０１を操作して、顔認証設定を完了すると、メイン表示部１０１の表示は、図５（ｇ）又は図５（ｈ）に示すような表示に切り替わる。すなわち、少なくとも１つの顔認証用画像が登録されていれば、その顔認証用画像から抽出された特徴情報に基づいて顔認証を行う旨がメイン表示部１０１に表示され（図５（ｇ）参照）、この画面に含まれる確認キー１１１を選択すると、メイン表示部１０１の表示は、図５（ａ）に示すセキュリティ設定画面に戻る。一方、顔認証用画像が１つも登録されていない場合には、顔認証用画像の登録を行うべき旨がメイン表示部１０１に表示され（図５（ｈ）参照）、この画面に含まれる確認キー１１２を選択すると、メイン表示部１０１の表示は、図５（ｆ）に示す顔認証設定画面に戻る。

図６は、顔認証用画像登録画面の表示例を示した図である。図５（ｆ）の顔認証設定画面において、顔認証用画像に対応付けられたいずれかの項目を選択すると、メイン表示部１０１の表示は、図６（ａ）に示すように、その顔認証用画像に対応する顔認証用画像登録画面に切り替わる。顔認証用画像登録画面には、「上書登録」の項目及び「登録データ確認」の項目が含まれる。

図６（ａ）の顔認証用画像登録画面に表示された項目の中から「上書登録」の項目を選択操作すると、サブカメラ１０５が起動され、サブカメラ１０５による撮影が可能な状態になった後、サブカメラ１０５に対する被写体の画像がリアルタイムでメイン表示部１０１に表示される（図６（ｂ）参照）。このとき、メイン表示部１０１は、サブカメラ１０５のファインダとして機能し、メイン表示部１０１により構成されるファインダ画面には、メイン表示部１０１を見ながら操作を行っている者の顔が映し出されることとなる。

図６（ｂ）のファインダ画面において、ユーザが自分の顔の位置合わせなどを行った後、操作キー２０１に含まれる決定キーを操作することにより登録操作を行うと、制御部４００の特徴抽出部４０２Ａが、そのときサブカメラ１０５で撮影された画像から特徴情報を抽出する処理を行う。

この際、ユーザの顔の位置合わせが適当に行われていれば、目、鼻、口及び輪郭の形や大きさなどの特徴情報を抽出することができるが、位置合わせが適当に行われていない場合や、ユーザの顔がメイン表示部１０１に全く映し出されていない場合などには、特徴情報を抽出することができない。特徴情報を抽出することに成功した場合には、その特徴情報がメモリ４１０の特徴情報記憶部４１３に格納されるとともに、そのときの顔画像が顔認証用画像としてメモリ４１０の画像データ記憶部４１２に格納される。

特徴情報の抽出に成功した場合には、その顔画像に基づく特徴情報をメモリ４１０に格納（登録）した旨がメイン表示部１０１に表示される（図６（ｃ）参照）。この表示画面に含まれる確認キー１１３をユーザが選択すると、メイン表示部１０１の表示は、図５（ｆ）に示す顔認証設定画面に戻る。一方、特徴情報の抽出に失敗した場合には、その旨及び特徴情報の抽出に失敗した原因がメイン表示部１０１に表示され（図６（ｄ）参照）、この表示画面に含まれる確認キー１１４をユーザが選択すると、メイン表示部１０１の表示は、図５（ｂ）に示すファインダ画面に戻り、再びサブカメラ１０５で顔画像を撮影することが可能になる。

図６（ａ）の顔認証用画像登録画面に表示された項目の中から「登録データ確認」の項目を選択操作すると、メモリ４１０の画像データ記憶部４１２に記憶されている対応する顔認証用画像が読み出され、メイン表示部１０１に表示される（図６（ｅ）参照）。ユーザは、図６（ｅ）に示す顔認証用画像確認画面により、登録されている顔認証用画像を確認することができる。この表示画面において、操作キー２０１に含まれるクリアキーを操作すると、メイン表示部１０１の表示は、図６（ａ）に示す顔認証用画像登録画面に戻る。

図６（ｅ）の顔認証用画像確認画面において、ユーザが操作キー２０１を操作することにより、対応する顔認証用画像を削除する操作を行うと、メイン表示部１０１の表示は、その顔認証用画像を削除してよいか否かを確認する削除確認画面に切り替わる（図６（ｆ）参照）。この表示画面には、顔認証用画像を削除すべき旨を指示する「はい」のキー１１５と、顔認証用画像を削除しない旨を指示する「いいえ」のキー１１６とが含まれる。図６（ｆ）の削除確認画面において、操作キー２０１の操作により「いいえ」のキー１１６が選択された場合には、メイン表示部１０１の表示は、図６（ｅ）に示す顔認証用画像確認画面に戻る。

図６（ｆ）の削除確認画面において、操作キー２０１の操作により「はい」のキー１１５が選択されると、メモリ４１０の画像データ記憶部４１２及び特徴情報記憶部４１３から対応する顔認証用画像及び登録特徴情報を削除するための処理が開始されるとともに、削除中である旨がメイン表示部１０１に表示される（図６（ｇ）参照）。そして、顔認証用画像及び登録特徴情報を削除する処理が完了すると、その旨がメイン表示部１０１に表示され（図６（ｈ）参照）、所定時間が経過してタイムアウトとなるか、あるいは、操作キー２０１に含まれるいずれかのキーが操作されることに応答して、メイン表示部１０１の表示は、図５（ｆ）に示す顔認証設定画面に戻る。

図７は、セキュリティレベル設定画面の表示例を示した図である。図５（ｆ）の顔認証設定画面において、セキュリティレベル設定に対応付けられた項目を選択すると、メイン表示部１０１の表示は、図７に示すように、顔認証時の認証閾値の設定を行うためのセキュリティレベル設定画面に切り替わる。セキュリティレベルとしては、認証閾値が最も高い「レベル３」と、「レベル３」よりも認証閾値が低い「レベル２」と、「レベル２」よりも認証閾値が低い「レベル１」とが予め設定されており、セキュリティレベル設定画面において、いずれかのセキュリティレベルを選択することができる。

図８は、エラー履歴画面の表示例を示した図である。図５（ｆ）の顔認証設定画面において、エラー履歴に対応付けられた項目を選択すると、メイン表示部１０１の表示は、図８に示すように、エラー履歴を表示するためのエラー履歴画面に切り替わる。エラー履歴画面には、認証に失敗したときの日時を表す時間情報が、エラー履歴情報として所定回数分（例えば、９回分）だけリスト表示される。上記所定回数分のエラー履歴情報がメモリ４１０のエラー履歴情報記憶部４１４に記憶された状態で新たに認証に失敗した場合には、最も古いエラー履歴情報が削除され、新たなエラー履歴情報がメモリ４１０に格納されるとともに、その新たなエラー履歴情報がエラー履歴画面に表示されるよう更新される。

図９は、顔認証を行う際のメイン表示部１０１の表示例を示した図である。この例では、携帯電話機１の管理機能に含まれるシークレットモードのオン／オフを切り替える際に顔認証が行われる。シークレットモードがオン状態のときには、通常のデータだけでなく、シークレットデータとして予め登録しているデータが表示される状態となり、シークレットモードがオフ状態のときには、シークレットデータは表示されず、通常のデータだけが表示される状態となる。

図９（ａ）に示すような携帯電話機１の管理機能を設定するための管理機能画面において、その管理機能画面に表示された項目の中から「シークレットモード」の項目を選択操作すると、サブカメラ１０５が起動される。そして、サブカメラ１０５による撮影が可能な状態になった後、サブカメラ１０５に対する被写体の画像がリアルタイムでメイン表示部１０１に表示され（図９（ｂ）参照）、自動認証が開始される。このとき、サブカメラ１０５の初期化処理が終了して撮影可能な状態になった時点で、ユーザが撮影操作を行わなくても、認証用の顔画像が撮影され、更にこの撮影画像から特徴情報が抽出される。そして抽出された特徴情報がメモリ４１０の特徴情報記憶部４１３に予め記憶されているユーザの特徴情報と比較されることにより、認証処理が自動的に行われる。

この認証処理において、抽出された顔画像の特徴情報とメモリ４１０に記憶されているユーザの特徴情報との一致度が、セキュリティレベル設定画面において予め設定されている認証閾値を超えた場合には、その操作者が真のユーザであると判断される。この場合、メイン表示部１０１に表示されているユーザの顔画像に対して、いわゆるアクションフォーカスによる強調表示が行われることにより、認証に成功した旨が視覚的効果により報知される。

その後、認証に成功した旨のメッセージがメイン表示部１０１に表示され（図９（ｃ）参照）、所定時間経過後に、シークレットモードのオン／オフを切り替えるための画面に切り替わる（図９（ｄ）参照）。一方、特徴情報の一致度が認証閾値よりも小さく、認証に失敗した場合には、その時点でサブカメラ１０５により撮影される画像から再び特徴情報が自動的に抽出され、その特徴情報がメモリ４１０に記憶されているユーザの特徴情報と比較される。

このように本実施形態では、認証に失敗した場合、所定時間（例えば、３秒）が経過してタイムアウトとなるまで認証処理が繰り返し連続的に行われ、認証に成功した時点で認証処理が終了する。すなわち、認証に成功すること又はタイムアウトになることを終了条件として、終了条件が成立するまで一連の認証処理が行われる。

例えば、タイムアウトの時間を３秒に設定した場合には、認証処理が最大で７回程度行われる。すなわち、１回の認証処理に要する時間は０．４秒程度であり、１回目の認証処理で認証に成功すれば、サブカメラ１０５の初期化処理終了後にほとんど待ち時間なく次の処理に進むことができる。認証処理が繰り返し行われている間、メイン表示部１０１にはファインダ画面が表示され、サブカメラ１０５に対する被写体の画像がリアルタイムで表示される。

認証処理が繰り返し行われる際、複数回の認証処理が行われるたびに、それらの認証処理における特徴情報の比較結果として、特徴情報の一致度に応じた表示がメイン表示部１０１になされる。より具体的には、メイン表示部１０１に表示されているファインダ画面の枠１１７の色が、特徴情報の一致度に応じた色で表示される。これにより、認証処理時の特徴情報の一致度の比較結果が表示されるので、ユーザは、その表示に基づいて、その認証処理時に撮影された自己の顔画像が認識しやすい画像であったか否かを確認することができる。

ただし、このような構成に限らず、特徴情報の一致度が数値やグラフなどを用いてメイン表示部１０１にレベル表示されるような構成であってもよい。また、すべての認証処理について比較結果を表示するような構成に限らず、少なくとも１回の認証処理について比較結果を表示するものであればよい。

自動認証が開始されてから所定時間が経過してタイムアウトとなった場合には、認証に失敗した旨がメイン表示部１０１に表示される（図９（ｅ）参照）。この表示画面に含まれる再認証キー１１８をユーザが選択すると、メイン表示部１０１の表示は、図９（ｂ）に示すファインダ画面に戻り、再び自動認証が開始される。一方、図９（ｅ）においてメイン表示部１０１に表示された端末暗証番号入力キー１１９をユーザが選択すると、メイン表示部１０１の表示は、端末暗証番号の入力を促す端末暗証番号入力画面に切り替わる（図９（ｆ）参照）。

図９（ｆ）の端末暗証番号入力画面において入力された文字列が、予め設定されている端末暗証番号と一致する場合には、メイン表示部１０１の表示は、シークレットモードのオン／オフを切り替えるための画面に切り替わる（図９（ｄ）参照）。

一方、図９（ｆ）の端末暗証番号入力画面において、操作キー２０１の操作により入力された文字列が、予め設定されている端末暗証番号と一致しない場合には、その旨がメイン表示部１０１に表示される（図９（ｇ）参照）。また、端末暗証番号入力画面において入力された文字列が３桁以下である場合には、４〜８桁の文字列を入力すべき旨がメイン表示部１０１に表示される（図９（ｈ）参照）。そして、図９（ｇ）又は図９（ｈ）に示すような表示がされた後、所定時間が経過してタイムアウトとなるか、あるいは、操作キー２０１に含まれるいずれかのキーが操作されると、メイン表示部１０１の表示は、図９（ａ）に示す管理機能画面に戻る。

本実施の形態のように、認証処理において認証に失敗した場合に、再度自動的に認証処理を行うような構成によれば、真のユーザが操作を行う場合に、１回目の認証処理により真のユーザであると判断されなかった場合でも、その後にユーザが撮影操作を行うことなく、認証処理が再度行われる。すなわち、真のユーザであると判断されるまで繰り返し自動的に認証処理が行われるので、認証処理に要する手間を削減できるとともに、認証処理に要する時間を短縮できる。

図１０は、ＰＩＭロック設定画面の表示例を示した図である。ユーザは、操作キー２０１を操作することにより、図１０に示すようなＰＩＭロック設定を行うための表示画面（ＰＩＭロック設定画面）をメイン表示部１０１に表示させることができる。ＰＩＭロック設定画面には、電話帳機能、スケジュール機能、電子メール機能などの各ＰＩＭロックアプリケーションに対応する機能名がリスト表示される。

ユーザは、ＰＩＭロック設定画面において操作キー２０１を操作し、各機能名に対応付けられたチェック欄１２０に対して任意にチェックを行うことにより、すべてのＰＩＭロックアプリケーションのうちチェックされた機能に対応するＰＩＭロックアプリケーションの起動時にのみ認証処理を行うように設定（ロック設定）することができる。本実施の形態では、ロック設定されたＰＩＭロックアプリケーションの起動時には、図９において説明したような一連の認証処理からなる顔認証が行われるものとする。

図１１は、アプリケーション起動処理の一例を示したフローチャートである。ユーザが操作キー２０１を操作することによりアプリケーションプログラムの起動が指示されると（ステップＳ１０１）、そのアプリケーションプログラムがロック設定されたＰＩＭロックアプリケーションであるか否かが判定される（ステップＳ１０２）。

このとき、起動を指示されたアプリケーションプログラムがロック設定されたＰＩＭロックアプリケーションでなければ（ステップＳ１０２でＮｏ）、そのまま指示されたアプリケーションプログラムが起動される（ステップＳ１０９）。一方、起動を指示されたアプリケーションプログラムがロック設定されたＰＩＭロックアプリケーションであれば（ステップＳ１０２でＹｅｓ）、認証処理が行われる（ステップＳ１０３）。

認証処理において認証に失敗した場合には（ステップＳ１０４でＮｏ）、そのときのＰＩＭロック設定の設定内容が認証設定記憶部４１７に格納されるとともに（ステップＳ１０５）、認証設定変更部４０５が、すべてのＰＩＭロックアプリケーションをロック設定するように設定を行う（ステップＳ１０６）。

これにより、ロック設定されているＰＩＭロックアプリケーションの起動に際して認証に失敗した場合に、そのとき既にロック設定されているＰＩＭロックアプリケーションのみならず、ロック設定されていないＰＩＭロックアプリケーションについても、認証処理を行うように設定を変更することができる。

例えば、他人が携帯電話機１を不正に使用してＰＩＭロックアプリケーションを起動させようとしたときに、そのＰＩＭロックアプリケーションの起動時に行われた認証処理において認証に失敗した場合、ロック設定されていないＰＩＭロックアプリケーションについても認証処理を行うように設定が変更されるので、その他人は、すべてのＰＩＭロックアプリケーションを起動させることができなくなる。したがって、ユーザのプライバシー又はセキュリティを効果的に保護することができる。

本実施の形態では、一連の認証処理からなる顔認証において認証に失敗した場合にＰＩＭロック設定の設定内容が変更されるので、ユーザ本人が１回目の認証処理に失敗した時点で直ちに設定が変更されるのを防止できる。したがって、真のユーザであるにもかかわらず認証に失敗した場合に、直ちに設定が変更されることにより、ユーザが煩雑さを感じるのを防止できる。

一方、認証処理において認証に成功した場合（ステップＳ１０４でＹｅｓ）、その前に認証設定変更部４０５によりＰＩＭロック設定の設定内容が変更されているときには（ステップＳ１０７でＹｅｓ）、認証設定復帰部４０６が、認証設定記憶部４１７に記憶されているＰＩＭロック設定の変更前の設定内容を読み出して、ＰＩＭロック設定を変更前の設定内容に復帰させ（ステップＳ１０８）、その後にアプリケーションプログラムが起動される（ステップＳ１０９）。

これにより、真のユーザであるにもかかわらず認証に失敗し、ＰＩＭロック設定が変更された場合であっても、その後に行われた認証処理において認証に成功すれば、変更前のＰＩＭロック設定を復帰させることができる。したがって、真のユーザであるにもかかわらず認証に失敗し、ＰＩＭロック設定が変更された場合に、設定内容を復帰させるために再度設定操作を行う必要がないので、利便性が向上する。

実施の形態２．
実施の形態１では、ロック設定されているＰＩＭロックアプリケーションの起動に際して認証に失敗した場合に、ロック設定されていないＰＩＭロックアプリケーションについて、認証処理を行うように設定を変更するような構成について説明したが、実施の形態２では、認証設定変更部４０５が、ロック設定されていないＰＩＭロックアプリケーションだけでなく、非ＰＩＭロックアプリケーションについても認証処理を行うように設定を変更することにより、オールロックを行うようになっている。

図１２は、本発明の実施の形態２によるアプリケーション起動処理の一例を示したフローチャートである。ユーザが操作キー２０１を操作することによりアプリケーションプログラムの起動が指示されると（ステップＳ２０１）、そのときオールロックされているか否かが判定される（ステップＳ２０２）。このとき、オールロックされていない場合には（ステップＳ２０２でＮｏ）、そのアプリケーションプログラムがロック設定されたＰＩＭロックアプリケーションであるか否かが判定される（ステップＳ２０３）。

オールロックされている場合（ステップＳ２０２でＹｅｓ）、又は、起動を指示されたアプリケーションプログラムがロック設定されたＰＩＭロックアプリケーションである場合には（ステップＳ２０３でＹｅｓ）、認証処理が行われる（ステップＳ２０４）。一方、起動を指示されたアプリケーションプログラムがロック設定されたＰＩＭロックアプリケーションでなければ（ステップＳ２０３でＮｏ）、そのまま指示されたアプリケーションプログラムが起動される（ステップＳ２１０）。

認証処理において認証に失敗した場合には（ステップＳ２０５でＮｏ）、そのときのＰＩＭロック設定の設定内容が認証設定記憶部４１７に格納されるとともに（ステップＳ２０６）、認証設定変更部４０５が、ＰＩＭロックアプリケーション及び非ＰＩＭロックアプリケーションのすべてのアプリケーションプログラムについて認証処理を行うように設定を変更することにより、オールロックを行う（ステップＳ２０７）。

一方、認証処理において認証に成功した場合（ステップＳ２０５でＹｅｓ）、そのときオールロックされているときには（ステップＳ２０８でＹｅｓ）、認証設定復帰部４０６が、認証設定記憶部４１７に記憶されているオールロック前の設定内容を読み出して、ＰＩＭロック設定をオールロック前の設定内容に復帰させ（ステップＳ２０９）、その後にアプリケーションプログラムが起動される（ステップＳ２１０）。

本実施の形態では、他人が携帯電話機１を不正に使用してＰＩＭロックアプリケーションを起動させようとして認証に失敗した場合に、ＰＩＭロックアプリケーションだけでなく、非ＰＩＭロックアプリケーションも起動させることができなくなるので、ユーザのプライバシー又はセキュリティをさらに効果的に保護することができる。

特に、非ＰＩＭロックアプリケーション記憶部４１６に記憶されているすべての非ＰＩＭロックアプリケーションについて、認証処理を行うように設定が変更されるので、他人が携帯電話機１を不正に使用してＰＩＭロックアプリケーションを起動させようとして認証に失敗した場合に、その後にいかなるアプリケーションプログラムも起動させることができないオールロック状態となり、ユーザのプライバシー又はセキュリティを最大限に保護することができる。

なお、認証処理における顔画像の撮影時には、シャッター音を発生させないような構成であることが好ましい。このような構成により、電車の中などの周囲に人がいる環境で認証処理を行う場合に、シャッター音の発生により盗撮等の誤解を受けるのを防止できる。本実施の形態では、認証処理に際して撮影操作を行わないので、撮影操作を行うことにより盗撮等の誤解を受けるのを防止できる。

ただし、所定時間内に真のユーザであると判断されなかった場合、タイムアウトとなるような構成に限らず、認証に成功するまで繰り返し認証処理を行うような構成であってもよい。また、連続的に認証処理を行うような構成に限らず、サブカメラ１０５が起動されて撮影可能な状態になった後、１回だけ認証処理を行うような構成であってもよい。

顔認証は、ユーザの撮影操作なしで認証が開始される自動認証に限らず、ユーザの撮影操作に応じて撮影が行われ、その撮影画像に基づいて顔認証が行なわれるような構成であってもよい。

ＰＩＭロックアプリケーションは、電話帳機能、スケジュール機能、電子メール機能などを実行するためのアプリケーションプログラムに限らず、セキュリティ度やプライバシー度の高い他の機能に対応するアプリケーションプログラムであってもよい。

また、認証処理は、顔画像に基づいて行われる顔認証に限らず、ユーザを表す画像であれば、ユーザの指紋画像に基づいて行われるものなどであってもよい。この場合、指紋画像の特徴情報を抽出して比較することにより、認証処理を行うことができる。

本発明は、以上の実施の形態の内容に限定されるものではなく、請求項記載の範囲内において種々の変更が可能である。

本発明の実施の形態１による携帯情報端末装置の一例を示した外観図であり、携帯情報端末装置の一例として携帯電話機が示されている。 図１に示した携帯電話機の内部構成の一例を示したブロック図である。 図２の撮像ユニット駆動制御部の構成例を示したブロック図である。 図２の認証処理部の構成例を示したブロック図である。 顔認証に関する設定を行う際のメイン表示部の表示例を示した図である。 顔認証用画像登録画面の表示例を示した図である。 セキュリティレベル設定画面の表示例を示した図である。 エラー履歴画面の表示例を示した図である。 顔認証を行う際のメイン表示部の表示例を示した図である。 ＰＩＭロック設定画面の表示例を示した図である。 アプリケーション起動処理の一例を示したフローチャートである。 本発明の実施の形態２によるアプリケーション起動処理の一例を示したフローチャートである。

符号の説明

１ 携帯電話機
１０１ メイン表示部
１０２ サブ表示部
１０３ 受話用レシーバ
１０４ メインカメラ
１０５ サブカメラ
２０１ 操作キー
２０３ 送話用マイクロフォン
４００ 制御部
４０１ 撮像ユニット駆動制御部
４０２ 認証処理部
４０２Ａ 特徴抽出部
４０２Ｂ 一致度算出部
４０２Ｃ 一致度判定部
４０３ 連続認証部
４０４ 認証実行設定部
４０５ 認証設定変更部
４０６ 認証設定復帰部
４０７ 撮像ユニット起動部
４０７Ａ 電源投入部
４０７Ｂ 初期化処理部
４０８ 撮影制御部
４０９ 撮像ユニット停止部
４１０ メモリ
４１１ 表示画面データ記憶部
４１２ 画像データ記憶部
４１３ 特徴情報記憶部
４１４ エラー履歴情報記憶部
４１５ ＰＩＭロックアプリケーション記憶部
４１６ 非ＰＩＭロックアプリケーション記憶部
４１７ 認証設定記憶部
４５０ 通信部

Claims (5)

1. 認証処理を行うための認証処理手段と、
   起動に際して上記認証処理を行うか否かをユーザ操作により設定変更可能なアプリケーションプログラムを記憶する設定可変プログラム記憶手段と、
   上記アプリケーションプログラムごとに、それらのアプリケーションプログラムの起動に際して上記認証処理を行うか否かの設定を行うための認証実行設定手段と、
   上記認証処理において認証に失敗した場合に、上記認証実行設定手段により上記認証処理を行わないと設定されているアプリケーションプログラムについて、上記認証処理を行うように設定を変更する認証設定変更手段とを備えたことを特徴とする携帯情報端末装置。
2. 起動に際して上記認証処理を行うか否かをユーザ操作により設定変更不可能なアプリケーションプログラムを記憶する設定不可変プログラム記憶手段を備え、
   上記認証設定変更手段は、上記認証処理において認証に失敗した場合に、上記設定不可変プログラム記憶手段に記憶されているアプリケーションプログラムについて、上記認証処理を行うように設定を変更することを特徴とする請求項１に記載の携帯情報端末装置。
3. 上記認証設定変更手段による変更前の設定内容を記憶しておくための認証設定内容記憶手段と、
   上記認証設定変更手段による設定変更後に行われた認証処理において認証に成功した場合に、上記認証設定内容記憶手段から変更前の設定内容を読み出して設定を復帰させる認証設定復帰手段とを備えたことを特徴とする請求項１又は２に記載の携帯情報端末装置。
4. 被写体を撮影するための撮像手段と、
   顔画像から抽出された特徴情報を登録特徴情報として予め記憶しておく特徴情報記憶手段とを備え、
   上記認証処理手段は、上記登録特徴情報を用いて、上記撮像手段による撮影画像に基づく認証処理を行うことを特徴とする請求項１から３のいずれかに記載の携帯情報端末装置。
5. 上記撮像手段及び上記認証処理手段を制御して、上記認証処理において認証に失敗した場合に再度撮影を行い、その撮影画像に基づく認証処理を行うことにより、一連の認証処理を行う連続認証手段を備え、
   上記認証設定変更手段は、上記一連の認証処理において認証に失敗した場合に、上記認証実行設定手段による設定を変更することを特徴とする請求項４に記載の携帯情報端末装置。

Images