以下に、添付図面を参照して、本発明に係る顔照合装置及び顔照合方法について説明する。顔照合装置は、顔認証を受ける被認証者の顔画像又は該顔画像の特徴量である撮像顔データと、予め登録されている顔画像又は該顔画像の特徴量である登録顔データとを照合する顔照合処理を行う。顔照合処理によって、被認証者が、登録顔データが登録された本人であるか否かを判定する本人確認の処理を行うものである。
本実施形態では、顔照合装置によって、本人確認できた被認証者だけにゲートの通行を許可する顔認証ゲート装置を構成する場合を例に説明する。この顔認証ゲート装置は、顔認証装置(顔照合装置)と顔認証(顔照合)の結果に基づきゲートの通行を許可するゲート装置とから構成されている。空港における出入国審査、コンサートやスポーツ競技等が行われる会場への入場審査、美術館や博物館等の建物への入館審査等、様々な場所で、本人確認の対象者を審査してゲートの通行可否を判定するために顔認証ゲート装置を利用することができる。本実施形態では、空港の入国審査場を例に、顔認証ゲート装置の詳細を説明する。
なお、顔認証とは顔照合処理の結果にもとづいて本人確認を行うことであるが、顔照合処理で撮像顔データと登録顔データとの一致を確認することと、顔照合処理で一致した結果にもとづいて被認証者が本人であると確認して認証することとは、一連の処理においては大きな違いはない。違いは、撮像顔データと登録顔データとが一致した結果に、本人であるという意味づけがされている点にある。一連の処理においては、撮像顔データと登録顔データとの照合結果によって、本人に対する処理と本人以外に対する処理を切り替えてもよい。本実施形態においては、顔認証は顔照合を包含しており、例えば顔認証装置は顔照合装置を含む。
また、顔認証の対象となる被認証者は、顔照合の対象となる被照合者でもあり、顔認証を装置で行う場合は装置の操作者でもある。さらに、被認証者は、場面に応じた側面を持つ。例えば、入国審査や出国審査の場面では、被認証者は渡航者、入国者、帰国者でもある。コンサートやスポーツ競技など催事の場面では、被認証者は入場者や観客でもある。事業所の入場口では、従業員や訪問者が被認証者であり、ホテルのチェックインでは宿泊客が被認証者である。本実施形態では、渡航者に関する例を説明するが、装置からみると渡航者は被認証者、被照合者、操作者である。
まず、入国審査場で利用する顔認証ゲート装置の概要について説明する。顔認証ゲート装置(顔照合装置)は、IC旅券と呼ばれるパスポートに埋め込まれたICチップに登録されている名義人の顔画像等の情報を取得する。顔認証ゲート装置は、顔認証処理の技術を利用して、ICチップから取得した名義人の顔画像(登録顔データ)と、パスポートを所持する渡航者(被認証者)をカメラで撮像して取得した顔画像(撮像顔データ)とを照合する顔照合処理による本人確認を行う。顔認証ゲート装置は、本人確認の結果等に基づいて、渡航者に入国を許可してよいか否かを判定する。渡航者の入国を許可する場合、顔認証ゲート装置は、通常は閉鎖しているゲートを開放して、渡航者の通行を許可する。一方、入国を許可しない場合、審査官による審査を受けるよう渡航者に案内する。
次に、複数台の顔認証ゲート装置を設置する入国審査場のレイアウトと、該レイアウトで行われる入国審査について説明する。図1は、顔認証ゲート装置を設置した入国審査場を上から見た様子を示す模式図である。3つのカウンター600(600a〜600c)に、入国審査を担当する6人の審査官610(610a〜610f)が2人ずつ待機している。各カウンター600には管理端末30(30a〜30f)が2台ずつ配置されている。管理端末30は各審査官610に1台ずつ割り当てられている。図1に示す顔認証ゲート装置10、管理端末30に加えて、入国審査に関する情報を管理する管理サーバ20、顔認証ゲート装置10が備える監視カメラを利用して入国審査場を監視する監視端末40によって入国審査システム(顔照合システム)が構築されているが(図5参照)、詳細は後述する。
図1に示すように、入国審査場にパーティション700を配置して、渡航者620(620a〜620k)の流れを規制する。パーティションとして、例えば、ベルトを張って人の流れを規制するベルトポール型のパーティション、間仕切りとして利用するパネル型のパーティション等を利用する。渡航者620は、図1の下側から入国審査場の無人審査スペース又は有人審査スペースに進入する。そして、入国審査を受けた後、図1の上側へ進み、カウンター600の間から入国審査場を抜けて入国する。無人審査スペースとは、入国審査を担当する審査官610が居らず、顔認証ゲート装置10(10a〜10l)によって入国審査を行うスペースである。無人審査スペースには、コンシェルジュとして渡航者620を補助する複数の空港係員611が配置されている。有人審査スペースとは、カウンター600で、審査官610による入国審査を行うスペースである。
予め定められた所定年齢以上の渡航者620でなければ、顔認証ゲート装置10を利用して入国審査を受けることはできない。このため、年齢が条件を満たさない子供、該子供の同伴者等の渡航者620aは、図1右側にある有人審査スペースに進入して通路702を進み、審査官610eによる審査を受ける。通路702を進んだ渡航者620は、停止線710の手前(図面下側)に並ぶ。審査官610eは、停止線710で審査を待つ渡航者620を順にカウンター600cに呼んでパスポートの提示を求め、従来同様に入国審査を行う。審査を通過して入国を認められた渡航者620は、カウンター600cの左側から入国審査場を抜けて入国する。
入国審査場には、図1に破線で示す略正方形のブース701(701a〜701l)が複数設けられ、各ブース701に顔認証ゲート装置10が1台ずつ設置されている。顔認証ゲート装置10は、ゲート12を開閉するゲート装置11を含む。顔認証ゲート装置10は、顔認証処理による本人確認の結果に応じてゲート12の開閉を制御する。なお、図1では各列1つのブース701a、701gのみでゲート装置11及びゲート12の符号を示しているが、全ての顔認証ゲート装置10が、ゲート12を開閉するゲート装置11を含んでいる。また、図1は、略正方形のブース701を1列に6つずつ、2列で合計12のブース701を設けた例を示しているが、ブース701の数は特に限定されず、入国審査場の面積等に応じて決定される。
各列の顔認証ゲート装置10は、向きを揃えた状態で設置されている。図1に示すように、左側の列の顔認証ゲート装置10a〜10fは、ゲート12を左外側にして設置されている。右側の列の顔認証ゲート装置10g〜10lは、ゲート12を右外側にして設置されている。左右両方の列、全ての顔認証ゲート装置10で、カウンター600から遠い方にゲート12が設けられている。左側の顔認証ゲート装置10a〜10fの列と、右側の顔認証ゲート装置10g〜10lの列との間に、無人審査スペース内の通路703が形成されている。この通路703は、カウンター600b前の有人審査スペースの通路704と接続されている。
図1下部に示す渡航者620bは、パーティション700の間にある入口から無人審査スペースに進入する。通路703を進んだ渡航者620cは、渡航者620の居ないブース701に入る。ブース701に入った渡航者620dは、顔認証ゲート装置10を利用して入国審査を受ける。顔認証ゲート装置10による入国審査の詳細は後述する。
顔認証ゲート装置10による入国審査で入国を認められず、審査官610cによる確認が必要であると判定された渡航者620eは、ブース701gから出て通路703に戻る。渡航者620eは、通路703をカウンター600bの方へ進み、有人審査スペースの通路704に入って停止線710の手前に並ぶ。停止線710に並ぶ渡航者620fは、審査官610cに呼ばれるとカウンター600bへ進み、審査官610cにパスポートを提示する。審査官610cは、顔認証ゲート装置10で得られた情報、渡航者620gのパスポート等を確認しながら入国審査を行う。審査官610cによって入国を認められた渡航者620hは、カウンター600bの左側から入国審査場を抜けて入国する。
一方、顔認証ゲート装置10による入国審査で、渡航者620がパスポートの名義人本人であることが確認されて入国を認められると、ゲート装置11のゲート12が開く。入国を認められた渡航者620iは、ゲート12を通過して、ブース701a外側にある審査通過者用の通路705に出る。渡航者620iがブース701から通路705へ出た後、ゲート12は自動的に閉じる。
2列に並んだブース701の左右両外側には、各列の顔認証ゲート装置10とパーティション700とによって、審査通過者用の通路705が形成されている。顔認証ゲート装置10による入国審査で入国を認められた渡航者620は、この通路705を通って入国する。具体的には、左側の列のブース701a〜701fから左側の通路705へ出た渡航者620jは、カウンター600aとカウンター600bの間から入国審査場を抜けて入国する。右側の列のブース701g〜701lから右側の通路705へ出た渡航者620kは、カウンター600bとカウンター600cの間から入国審査場を抜けて入国する。入国を許可された渡航者620は、パスポートに入国スタンプを押すことを希望する場合、通路705に隣接するカウンター600a、600bで、審査官610b、610dに入国スタンプを押してもらう。
このように、入国審査システムを利用する入国審査場では、複数台の顔認証ゲート装置10によって無人審査スペースが形成される。無人審査スペースには、顔認証ゲート装置10による審査を受ける渡航者が入場する入口と、渡航者を有人審査スペースへと導く出口とを設けている。無人審査スペースでは、入口からの進入及び出口から有人審査スペースへの退出を除いて、渡航者が無人審査スペースの外へ出られないように、各顔認証ゲート装置10のゲート12によって渡航者の通行を制限している。顔認証ゲート装置10による入国審査を通過した渡航者620は、ゲート12を通り、審査通過者用の通路705を進んで入国することができる。顔認証ゲート装置10で入国を認められなかった渡航者620は、ゲート12を通過することができず、有人スペースへ移動して審査官610cによる審査を受ける。
次に、図2〜図4を参照しながら顔認証ゲート装置10について説明する。以下の説明では、顔認証ゲート装置10に正対して装置を利用する渡航者から見て右側を右、左側を左、渡航者に近い方を手前側、渡航者から遠い方を奥側とする。また、装置各部の説明では、渡航者が居る方を前面(正面)、これと反対側を背面とする。
図2は、操作表示部110に正対する方向から見た顔認証ゲート装置10の外観図である。図3は、顔認証ゲート装置10の外観を示す斜視図である。図4は、顔認証ゲート装置10のサイズを説明するための図である。図4(a)は顔認証ゲート装置10を上方から見た図を示している。図4(b)は、図1に示す無人審査スペースの通路703側から見た顔認証ゲート装置を示している。
図2は、3組のパネル12a〜12cから形成されるゲート12をゲート装置11の本体内部に収納した状態を示している。パネル12a〜12cをたたんでゲート装置11の本体内部に収納し、渡航者がゲート12を通過できる状態が、ゲート12が開いた状態である。一方、図3及び図4は、3組のパネル12a〜12cをゲート装置11の本体外側に展開した状態を示している。3組のパネル12a〜12cを展開して渡航者がゲート12を通過できない状態が、ゲート12が閉じた状態である。
図2に示すように、顔認証ゲート装置10は、ゲート装置11を含む本体部100と、本体部100から上方に延びる柱部200と、柱部200の上に設けられた表示灯部300とを含む。
本体部100は、ゲート装置11の他に、仕切パネル101、操作表示部110、第1顔認証カメラ71、第2顔認証カメラ72、顔認証ボタン111、通話部130、パスポート読取装置400、物置台140及び人感センサ120を含む。
仕切パネル101は、隣接するブース701との間を仕切るため、図3及び図4(a)に示すように略正方形のブース701の一辺側に設けられている。仕切パネル101の上部は半透明の樹脂によって形成されている。この半透明部は、上面から見た形状が、隣接するブース701との間を仕切る一辺から、ゲート装置11の上面まで続く略L字型形状となっている。仕切パネル101は、操作表示部110の上端を超える高さまで設けられている。
操作表示部110は、略六角柱形状の本体部筐体102の上面奥側に配置されている。操作表示部110はタッチパネル式の液晶表示装置から成り、渡航者へ操作案内等を表示する表示部として機能すると共に、渡航者の入力操作を受け付ける操作部としても機能する。操作表示部110は、渡航者が表示確認及び入力操作を行いやすいように、タッチパネル式の液晶画面を斜め上方に向けた傾斜状態で配置されている。
第1顔認証カメラ71及び第2顔認証カメラ72は、顔認証処理に利用する渡航者の顔画像を取得するために渡航者を撮像する機能を有する。第1顔認証カメラ71及び第2顔認証カメラ72により、渡航者の顔を撮像したカラーの可視光画像を取得することができる。第1顔認証カメラ71及び第2顔認証カメラは、表示内容の確認や入力操作を行う際に渡航者が注目する操作表示部110の近傍に配置されている。具体的には、第1顔認証カメラ71は操作表示部110の上側に配置され、第2顔認証カメラ72は操作表示部110の下側に配置されている。第1顔認証カメラ71及び第2顔認証カメラ72は、操作表示部110と同様に、撮像範囲を斜め上方に向けた傾斜状態で配置されている。これにより、注目対象である操作表示部110で表示確認及び入力操作を行う渡航者の顔を略正面から撮像することができる。
顔認証ボタン111は、渡航者による、本人確認処理開始を指示する入力操作を受け付ける操作部として機能する。顔認証ボタン111は、渡航者からすると本人確認処理の開始を指示しているように見えるが、後述する顔照合処理においては、本人確認処理の結果に基づいて処理を進めるためのトリガー(きっかけ)となるものである。顔認証ボタン111は、例えば静電容量式のタッチパネルから成り、第1顔認証カメラ71の下側に設けられている。顔認証ボタン111は、横方向に長い帯形状を有し、右利きの渡航者も左利きの渡航者も容易に操作することができる。
通話部130は、顔認証ゲート装置10を利用する渡航者と、カウンター600の審査官610との間で会話するために利用される。顔認証ゲート装置10の通話部130は、カウンター600に設けられた管理端末30の通話部31と接続されている(図5参照)。審査官610は、通話部31を利用して、渡航者に指示したり操作案内を行ったりすることができる。ただし、審査官610が渡航者と会話する方法は、管理端末30を利用する方法に限定されない。例えば、カウンター600に管理端末30とは別にインターホンを設置して、有線又は無線で顔認証ゲート装置10の通話部130と接続し、通話部31として利用する態様であってもよい。
パスポート読取装置400は、ICチップが埋め込まれているパスポートから情報を読み取る機能を有する。具体的には、パスポート券面にある文字情報(MRZ情報)や顔画像(パスポート写真)を読み取ると共に、ICチップに保存されている顔画像、国籍、氏名、生年月日、旅券番号等の情報を読み取る。パスポート読取装置400は、ICチップ等の記憶媒体から情報を取得する取得部として機能するが詳細は後述する。
物置台140は、小さな鞄等を置くために利用される。板形状を有する物置台140は、本体部筐体102の前面に沿って該前面から突出した状態で設けられている。本体部筐体102の前面、物置台140の下側の位置に、人感センサ120が設けられている。人感センサ120は、赤外線等を利用したセンサで、図3に破線で示すブース701の領域内に進入した渡航者を検知する機能を有する。
柱部200は中空構造を有し、図3に示すように、上部に配置された光源210を除く前面がハーフミラー(鏡面)になっている。ハーフミラーの裏側、柱部200の内部には、図2に示すように、第3顔認証カメラ73及び深度センサ511を含む第1不正検知部510と、第4顔認証カメラ74と、第1サーマルカメラ81及び第2サーマルカメラ82とが設けられている。光源210は、例えばLEDから成り、顔認証カメラ71〜74によって渡航者の顔を鮮明に撮像できるように渡航者を照らす照明として機能する。
鏡、樹脂やガラスの平滑面等、顔や姿が映り込む鏡面の前では、人は自分が映り込んだ鏡面に注目して、髪形や服装等を確認する傾向がある。鏡面を設置する狙いは、顔認証ゲート装置10の前に来たときに渡航者が自然に鏡面に注目するように誘導し、渡航者の正面顔画像を撮像することにある。このため、柱部200の前面を渡航者が注目する鏡面とし、その注目対象である鏡面部分の近傍に第3顔認証カメラ73及び第4顔認証カメラ74を配置している。
ここでいう鏡面部分の近傍とは、鏡面部分を含む周辺部分のことである。上述のように、鏡面部分であるハーフミラーの裏側に第3顔認証カメラ73及び第4顔認証カメラ74を配置するほか、鏡面部分の外側で鏡面部分に近い位置に配置してもよい。また、渡航者の身長差に対応できるように、第3顔認証カメラ73の高さと第4顔認証カメラ74の高さは異なっている。このように、映り込みを確認する渡航者の顔を捉えやすい位置に、渡航者の顔の位置が撮像範囲に含まれるようにカメラを配置することで、渡航者の顔画像を撮像しやすくなっている。
第1不正検知部510は、渡航者の静止画像及び動画像を取得すると共に、渡航者の骨格及び渡航者の動きを検知する機能を有する。第1不正検知部510は、第3顔認証カメラ73として機能する画像センサと、深度センサ511とを有する。第1不正検知部510は、画像センサを利用して、渡航者を撮像したカラーの可視光静止画像及び可視光動画像を取得する。深度センサ511は、赤外線スポット光を照射する照射部と、各スポット光の反射光を受光する赤外線カメラとを含む。第1不正検知部510は、深度センサ511を利用して、投光した赤外線が反射して戻ってくるまでの時間から対象物の位置、奥行き(深度)を認識する。画像センサ(第3顔認証カメラ73)及び深度センサ511を有する第1不正検知部510として、例えば、マイクロソフト社製のKinect(登録商標)を利用する。例えば、渡航者が、他人の顔を撮像した画像を利用して他人になりすまそうとする場合がある。顔認証ゲート装置10は、第1不正検知部510を利用して、顔部分に深度がないこと、すなわち顔に凹凸がないことに基づいて、この不正を検知する。
第1サーマルカメラ81及び第2サーマルカメラ82は、渡航者を撮像して温度を検知する機能を有する。例えば、渡航者が、他人の顔をかたどった仮面を付けて他人になりすまそうとする場合がある。仮面には、顔と同様の凹凸があるため、深度情報だけでは不正を検知できない可能性がある。このような場合に、顔認証ゲート装置10は、第1サーマルカメラ81及び第2サーマルカメラを利用して、顔部分の温度が異常であることに基づいて、この不正を検知する。
第3顔認証カメラ73及び第4顔認証カメラ74は、顔認証処理に利用する渡航者の顔画像を取得するために渡航者を撮像する機能を有する。第3顔認証カメラ73及び第4顔認証カメラ74により、渡航者の顔を撮像したカラーの可視光画像を取得することができる。
表示灯部300は、ブース番号表示部310と、係員呼出表示部320と、第1監視カメラ91及び深度センサ521を含む第2不正検知部520と、第2監視カメラ92とを含む。表示灯部300は、さらに、複数のランプを利用して顔認証ゲート装置10の状態を示す状態表示部330を背面側に有しているが(図4(a)、図15参照)、詳細は後述する。
図2に示すように、ブース番号表示部310と、係員呼出表示部320を構成する一部のランプとが、表示灯部300の前面に配置されている。第2不正検知部520は、表示灯部300の下面手前側に配置されている。第2監視カメラ92は、表示灯部300の右側面から右手前側に延びた腕部340の下面に配置されている。
ブース番号表示部310は、図1に示す複数のブース701それぞれを区別する識別番号を表示する機能を有する。識別番号は、各顔認証ゲート装置10を識別する識別番号としても利用される。図2に示す表示灯部300のうち、下面から腕部340上面までの部分は柱部200に固定されている。一方、ブース番号表示部310は回転可能に設けられている。顔認証ゲート装置10を設置する際の向きに応じて、渡航者から見やすい方向へブース番号表示部310を回転させることができる。
係員呼出表示部320は、図1に示すように無人審査スペースにコンシェルジュとして待機している空港係員611を呼び出すために利用される。係員呼出表示部320は、図3に示すように、表示灯部300の側面に設けられた水平方向に長い帯状ランプと、表示灯部300の前面に設けられた人型ランプとを含む。係員呼出表示部320の2つのランプは通常消灯しており、空港係員611を呼び出すときに点灯する。顔認証ゲート装置10は、入国審査を開始した渡航者が行う所定操作を検知する機能を有している。例えば、ある操作から次の操作を行うまでの時間が、予め設定された所定時間を超えた場合、これを検知した顔認証ゲート装置10は、渡航者の操作を補助する必要があると判定して係員呼出表示部320を点灯する。係員呼出表示部320が点灯すると、待機していた空港係員611が顔認証ゲート装置10に向かい、渡航者の操作を補助する。空港係員611が操作表示部110で所定操作を行うと、係員呼出表示部320は消灯する。
第2不正検知部520は、渡航者の静止画像及び動画像を取得すると共に、渡航者の骨格及び渡航者の動きを検知する機能を有する。第2不正検知部520は、第1監視カメラ91として機能する画像センサと、深度センサ521とを有する。第2不正検知部520は、表示灯部300の下面に、画像センサによる撮像範囲及び深度センサ521による深度検知範囲を斜め前方に向けた傾斜状態で配置されている。これにより、第2不正検知部520によって、ブース701内の渡航者の骨格及び動きを検知することができる。第2不正検知部520は、第1不正検知部510と同一の構成及び機能を有する。具体的には、画像センサを利用して、渡航者を撮像したカラーの可視光静止画像及び可視光動画像を取得すると共に、深度センサ521を利用して、渡航者の骨格及び動きを検知する。例えば、ゲート12が開いていないのに渡航者がゲート12を超えて移動する場合がある。また、例えば、1人の渡航者が入国を許可されてゲート12が開いた際に、この渡航者が、入国を許可されていない別の渡航者と一緒にゲート12を通過する場合がある。顔認証ゲート装置10は、第2不正検知部520を利用して、渡航者の動き、ゲート12を通過する人数等に基づいて、このような不正を検知する。
第2監視カメラ92は、ブース701内を撮像する機能を有する。第2監視カメラ92は入国審査場の監視に利用される。第2監視カメラ92は、腕部340の先端下面に、撮像範囲を斜め前方に向けた傾斜状態で配置されている。図4(a)に示すように、腕部340は、表示灯部300の前面と略平行に右方向に延びた後、角度を変えてゲート12と略平行な方向に延びている。第2監視カメラ92は、操作表示部110に正対する渡航者を右側の斜め上方から撮像する。
図4(a)に示すように、操作表示部110は、画面を、略正方形のブース701の対角線の一方と略平行な状態で配置されている。言い換えれば、操作表示部110は、上方から見て略正方形のブース701内の一角側に、ブース701の各辺に対して画面を斜めにした状態で配置されている。本体部筐体102の上面には、操作表示部110を操作する渡航者から見て手前側に、パスポート読取装置400が配置されている。
仕切パネル101は、図4(a)に示すようにブース701の左側に配置されている。顔認証ゲート装置10を図1に示すように並べて配置することで、図4(a)に示すブース701の右側には、隣接する顔認証ゲート装置10の仕切パネル101が配置されることになる。また、図4(a)上側にはゲート12が配置されている。ゲート12は、通常、渡航者が通過できないように閉じられている。渡航者は、図4(a)の左右及び上側の三方が塞がれたブース701に、図4(a)の下側から進入する。
図4(a)に示すように、本体部筐体102は、上方から見た形状が、縦横の寸法d1が約500mmの正方形の四隅のうち対向する一対の隅部を切り欠いた略六角形形状となっている。ブース701は、上方から見た形状が、縦横の寸法d2が約1250mmの正方形となっている。3組のパネル12a〜12cを収納するゲート装置11本体の幅d1は、顔認証ゲート装置10の本体部筐体102と同じく約500mmあり、3組のパネル12a〜12cを展開した際のゲート12の幅d3が約650mmとなっている。このため、ゲート12を閉じた状態では、ブース701に入った渡航者は、図4(a)の上側へ進むことはできない。顔認証ゲート装置10による入国審査で入国を許可されると、ゲート装置11がパネル12a〜12cを本体内部に収納してゲート12を開き、渡航者は図4(a)の上側へ進んでブース701から抜けることができる。
図4(b)に示す床面(斜線部)から、本体部筐体102の上面までの高さh1は約850mmある。一方、ゲート装置11の本体上面までの高さは約900mmあり、展開時の幅d3が約650mmのゲート12をたたんで本体内部に収納できるようになっている。床面から顔認証ゲート装置10上端までの高さh2は約2550mmあり、表示灯部300に表示される各種情報を、離れた場所から確認することができる。
顔認証ゲート装置10は、本体部100の操作表示部110近傍に配置された第1顔認証カメラ71及び第2顔認証カメラ72と、柱部200に配置された第3顔認証カメラ73及び第4顔認証カメラ74の合計4つのカメラを利用して、顔認証処理用の顔画像を取得する。床面から第1顔認証カメラ71までの高さc1が約1070mm、第2顔認証カメラ72までの高さc2が約1290mm、第3顔認証カメラ73までの高さc3が約1520mm、第4顔認証カメラ74までの高さc4が約1760mmとなっている。4つのカメラ71〜74をそれぞれ異なる高さに配置することにより、身長が低い渡航者の顔画像も撮像できるし、身長が高い渡航者の顔画像も撮像できる。また、車椅子を利用する渡航者の顔画像を撮像することも可能となっている。
図5は、顔認証ゲート装置10を含む入国審査システムの構成例を示すブロック図である。図5に示すように、入国審査システムは、顔認証ゲート装置10、管理サーバ20、管理端末30及び監視端末40を含んで構成される。顔認証ゲート装置10、管理サーバ20、管理端末30及び監視端末40は、LAN等のネットワーク50を介して相互に通信可能に接続されている。図5には、入国審査システムの最小構成として、顔認証ゲート装置10、管理サーバ20、管理端末30及び監視端末40を1台ずつ示しているが台数は特に限定されない。
顔認証ゲート装置10は、図2〜図4を参照しながら説明した各構成部に加えて、これら各部を制御する制御部13と、各種情報を保存するための記憶部14と、外部装置との間でデータ通信を行うための通信部15とを有している。例えば、制御部13、記憶部14及び通信部15を、コンピュータ装置によって構成する。
制御部13は、顔認証ゲート装置10を構成する各部を制御する。本実施形態に記載する顔認証ゲート装置10の機能及び動作は、制御部13による各部の制御によって実現される。制御部13は、顔認証カメラ71〜74によって渡航者を撮像して得た画像から顔を検出して顔部分の画像を切り出す顔検出処理部として、また、パスポート読取装置400によってパスポートのICチップから読み取った顔画像と、顔認証カメラ71〜74によって渡航者を撮像して得た顔画像とが一致するか否かを顔認証処理によって判定する顔認証処理部としても機能する。ただし、顔認証ゲート装置10が、制御部13とは別に、顔検出処理部や顔認証処理部を有する態様であってもよい。
記憶部14は、半導体メモリやハードディスク等の不揮発性メモリから成る。記憶部14は、制御部13の動作に必要なプログラムやデータ、顔認証ゲート装置10の動作に必要なデータ、顔認証ゲート装置10で得られた画像や情報等、各種データの保存に利用される。通信部15は、LAN等のネットワーク50を介して管理サーバ20、管理端末30及び監視端末40とデータを送受信する。
管理サーバ20は、例えばコンピュータ装置によって構成される。管理サーバ20は、顔認証ゲート装置10による入国審査に必要な情報、顔認証ゲート装置10でパスポートのICチップ及び券面から得られた情報、顔認証ゲート装置10で撮像した渡航者の画像等を保存して管理する機能を有する。
例えば、管理サーバ20は、全ての顔認証ゲート装置10で得られた渡航者の顔画像、国籍、氏名、生年月日、旅券番号、審査結果等の情報と、取得日時とを、審査履歴として管理している。
また、例えば、管理サーバ20は、入国審査時に審査官610による確認が必要な人物の顔画像、国籍、氏名、生年月日、旅券番号等の情報をブラックリストとして管理している。顔認証ゲート装置10が渡航者のパスポートから取得した情報や渡航者を撮像した画像の中に、ブラックリストに登録されている情報と一致するものがある場合、顔認証ゲート装置10は、ゲート12を開放せず、審査官610による審査を受けるよう渡航者を案内する。ブラックリストは、管理サーバ20で管理される態様に限定されず、例えば、ネットワーク50に接続された別のサーバ装置で管理される態様であってもよい。また、顔認証ゲート装置10で得られた情報と、ブラックリストに登録された情報とを照合する処理は、顔認証ゲート装置10が実行する態様であってもよいし、管理サーバ20が実行する態様であってもよい。
管理端末30は、例えばコンピュータ装置によって構成される。管理端末30は、顔認証ゲート装置10及び管理サーバ20から取得した各種情報を画面上に表示する機能を有する。管理端末30は、図1に示すようにカウンター600内に設置される。審査官610は、各人に1台ずつ割り当てられた管理端末30を利用して、複数台の顔認証ゲート装置10を管理する。また、審査官610は、管理端末30を利用して渡航者の入国審査を行う。
1台の管理端末30、すなわち1人の審査官610が、管理対象とする顔認証ゲート装置10は予め設定することができる。例えば、図1に示す左側の列を形成する6台の顔認証ゲート装置10a〜10fは、カウンター600aの審査官610bが利用する管理端末30bの管理対象として、予め設定されている。また、右側の列を形成する6台の顔認証ゲート装置10g〜10lは、カウンター600bの審査官610dが利用する管理端末30dの管理対象として、予め設定されている。
図6は、管理端末30に表示される画面例を示す図である。図1に示す審査官610bが利用する管理端末30bの画面上には、図6に示すように、管理対象とする6台全ての顔認証ゲート装置10a〜10fの情報が表示される。同様に、審査官610dが利用する管理端末30dの画面上には、審査官610dが管理する6台全ての顔認証ゲート装置10f〜10lの情報が表示される。
管理端末30は、各顔認証ゲート装置10から取得した情報を画面上に表示する。図6に示すように、1つの枠901内に、1台の顔認証ゲート装置10の情報が表示される。枠901内の上部には、審査情報として、審査状況、ステータス、旅券番号及び確認事項が表示される。
画面上の審査状況には、入国審査を行う際の複数工程のうち、どの工程にあるかを示す情報が表示される。顔認証ゲート装置10による入国審査は、ブース701へ進入した渡航者の検知、パスポートからの情報取得、ブラックリストとの照合、顔認証処理による本人確認、入国可否判定、判定結果に基づくゲート12の開放又は有人審査への案内という工程で行われる。これらの工程のうちどの工程にあるかを示す情報が、管理端末30の画面上に審査状況として表示される。
例えば、ブース701内に入った渡航者を人感センサ120によって検知すると、審査状況に「人感検知」と表示される。パスポート読取装置400によってパスポートのICチップ及び券面から情報取得を開始すると、審査状況に「P読取」と表示される。パスポートからの情報取得を終えて顔認証処理による本人確認を開始すると、審査状況に「顔認証」と表示される。本人確認の結果に基づいて入国を許可された渡航者のためにゲート12を開放する際には、審査状況に「ゲート開放」と表示される。
画面上の旅券番号には、パスポート読取装置400によって渡航者のパスポートから取得した旅券番号が表示される。パスポート読取装置400が旅券番号を取得すると、画面上の旅券番号の表示が「なし」から、取得した旅券番号の表示に更新される。
画面上のステータスには、処理状況を示す情報が表示される。例えば、ブース701内に入った渡航者を検知した後、パスポートからの情報取得を待っている間は「待機中」と表示される。また、例えば、顔認証処理による本人確認を開始して、顔認証カメラ71〜74で取得した渡航者の顔画像と、パスポートのICチップから取得した顔画像とを比較照合している間は「照合中」と表示される。
画面上の確認事項には、審査官610へ報知する情報が表示される。例えば、パスポートのICチップから取得した顔画像と、顔認証カメラ71〜74で取得した顔画像とが一致しなかった場合は「顔認証NG」と表示される。また、例えば、パスポートのICチップから取得した旅券番号等の情報がブラックリストに登録されている情報と一致した場合は「ブラックリスト」と表示される。
図6に示すように、審査情報の下に、パスポート読取装置400がパスポートのICチップから取得した顔画像が、IC顔画像として表示される。また、顔認証カメラ71〜74によって渡航者を撮像して取得した顔画像が、撮像顔画像として表示される。以下、パスポートのICチップから取得した顔画像を「IC顔画像」と記載し、顔認証カメラ71〜74によって渡航者を撮像して取得した顔画像を「撮像顔画像」と記載して区別する。
画面上の撮像顔画像の表示は、顔認証カメラ71〜74によって新たな顔画像を取得する度に、新たな顔画像に更新される。複数の顔認証カメラ71〜74によって複数の顔画像を取得できた場合には、得られた複数の顔画像の中から選択した1つの顔画像が表示される。例えば、予め複数の顔認証カメラ71〜74に優先度を設定すると、優先度に応じて選択された撮像顔画像が表示される。この他、複数の顔認証カメラ71〜74の中から予め1つを選択して、常に、選択した顔認証カメラによって撮像した画像を表示する設定とすることもできる。
図6に示すように、IC顔画像及び撮像顔画像の下に、パスポート読取装置400が渡航者のパスポートの内側券面を撮像した画像が、パスポート画像として表示される。また、その下に、監視カメラ91で渡航者を撮像した画像が、監視カメラ画像として表示される。監視カメラ画像の表示は、所定の時間間隔で新たに撮像された画像に更新される。なお、監視カメラ画像として、第1監視カメラ91によって取得した画像を利用する態様に限定されるものではなく、第2監視カメラ92によって取得した画像を利用する態様であってもよい。
通常、2人の審査官610は、それぞれ図6に示す画面表示を確認しながら、担当する6台の顔認証ゲート装置10を管理している。必要に応じて管理端末30で所定の操作を行うことにより、1人の審査官610が12台全ての顔認証ゲート装置10を管理することもできる。例えば、審査官610dの利用する管理端末30dが故障するなどした場合に、審査官610bは、管理端末30bを操作して、顔認証ゲート装置10g〜10lを管理する端末を管理端末30dから管理端末30bに変更する。この結果、それまで6台の顔認証ゲート装置10a〜10fの情報が表示されていた管理端末30bの画面表示が切り替わり、画面上に、12台の顔認証ゲート装置10a〜10lの情報が表示される。
図7は、管理対象とする顔認証ゲート装置10を変更した際に表示される画面例を示す図である。管理対象とする顔認証ゲート装置10の台数を6台から12台に変更する操作を行うと、図6に示すように6台分の情報を表示していた管理端末30bの画面が、図7に示すように左右2つの領域903、904に分割される。左側の領域903には、管理端末30bが管理していた6台の顔認証ゲート装置10a〜10fの情報が表示される。右側の領域904には、新たに管理端末30bの管理対象に加えられた6台の顔認証ゲート装置10g〜10lの情報が表示される。画面を2つの領域に分割したことにより、1台の顔認証ゲート装置10の情報を表示する枠902の幅が、図6に示す枠901の半分になる。管理端末30は、各情報の配置を変更すると共に、少なくとも一部の情報を縮小表示することにより、枠902内に、枠901内と同じ情報を表示する。
画面上に12台分の情報を表示した状態で、管理端末30bで所定操作を行うことにより、6台の顔認証ゲート装置10g〜10lを管理対象から外すこともできる。管理対象を元の6台に戻す操作を行うと、管理端末30bの画面上の表示が図7に示す表示態様から図6に示す表示態様に戻る。
別の管理端末30で管理していた顔認証ゲート装置10を新たに管理対象に加えたり再び管理対象から外したりする操作は、管理端末30が備えるキーボードの所定キーを押す一操作で容易に実行することができる。具体的には、例えば、1列分6台の顔認証ゲート装置10a〜10fを管理する管理端末30bで所定キーを押す度に、図6に示す画面表示と図7示す画面表示との間で表示が切り替わる。
管理対象とする顔認証ゲート装置10の切り替えは、同じ無人審査スペースを管理する複数の管理端末30の間で、各管理端末30が管理する顔認証ゲート装置10を対象として行われる。例えば、12台の顔認証ゲート装置10を4台ずつ3つのグループA〜Cに分けて、3台の管理端末30で各グループを管理しているとする。この場合、グループAの4台の顔認証ゲート装置10の情報を表示して管理する管理端末30で、所定キーを押す度に、画面上の表示が、グループA及びBの8台の情報表示、グループA及びCの8台の情報表示、グループA〜Cの12台の情報表示と画面表示が順に切り替わる。そして、再び所定キーを押すとグループAの4台の情報表示に戻るようになっている。なお、顔認証ゲート装置10を割り当てられていない管理端末30では、グループA、B及びCの中から1つのグループ、2つのグループ又は3つ全てのグループを選択して、選択したグループの情報を画面上に表示させることができる。
このように、審査官610は、管理端末30の画面表示を切り替えて、別の管理端末30が管理する顔認証ゲート装置10の状況を確認することができる。例えば、管理端末30が故障した場合や、管理端末30を担当する審査官610が離席する場合も、この管理端末30が管理する顔認証ゲート装置10を別の管理端末30の管理対象に加えて、全ての顔認証ゲート装置10の利用を継続することができる。
顔認証ゲート装置10で渡航者のパスポートから取得したIC顔画像と、顔認証カメラ71〜74によって渡航者を撮像して取得した撮像顔画像とが一致しなかった場合、管理端末30は、図6に示す画面の確認事項に「顔認証NG」と表示する。管理端末30は、確認事項の表示を点滅させたり所定の報知音を発したりするなどして、確認事項の発生を審査官610に報知する。報知を受けた審査官610は、管理端末30で所定の操作を行って、「顔認証NG」と表示されている顔認証ゲート装置10の情報を拡大表示することができる。
図8は、確認事項が発生した渡航者の情報を拡大表示した管理端末30の画面例を示す図である。拡大表示する際には、管理端末30の画面が左右2つの領域905、906に分割される。左側の領域905には、管理端末30が管理する全ての顔認証ゲート装置10の監視カメラ画像が表示される。管理端末30は、表示する情報の種類を限定することにより、領域905に全ての顔認証ゲート装置10の情報を表示する。
右側領域906の枠907内には、確認事項が発生した顔認証ゲート装置10の情報が拡大表示される。具体的には「顔認証NG」となった顔認証ゲート装置10の審査状況、ステータス、旅券番号、確認事項、IC顔画像、過去顔画像、撮像顔画像が表示される。また、管理端末30は、枠907内に、ゲート開放ボタン及び有人審査ボタンを表示する。なお、画面右側領域906の下部領域908に、もう1台分の顔認証ゲート装置10の情報を同時に拡大表示できるようになっている。
管理端末30は、図6に示す通常表示に比べて拡大した状態でIC顔画像及び撮像顔画像を画面上に表示する。また、管理端末30は、これらのIC顔画像及び撮像顔画像と並べて、同じ大きさで、過去顔画像を表示する。過去顔画像とは、過去に行われた入国審査、出国審査等で、本人確認した際に取得した渡航者の顔画像である。過去に取得した渡航者の顔画像は、該渡航者の旅券番号等と関連付けた状態で、管理サーバ20で管理されている。管理端末30は、確認事項が発生した顔認証ゲート装置10の情報を拡大表示する際に、旅券番号に基づいて管理サーバ20に情報を問い合わせる。そして、過去顔画像が記録されていれば、これを取得して画面上に表示する。
審査官610は、過去に本人確認した際の過去顔画像と撮像顔画像とを比較する。そして、顔認証ゲート装置10を利用中の渡航者はパスポート名義人本人であり、入国を許可してよいと判断した場合、審査官610は、図8に示す画面上のゲート開放ボタンを押す操作を行う。この操作を受けて、管理端末30は、ゲート12の開放を命令する命令信号を顔認証ゲート装置10へ送信する。命令信号を送信した後、管理端末30は、拡大表示を解除して図6に示す通常画面を表示する。命令信号を受けた顔認証ゲート装置10は、ゲート装置11を制御してゲート12を開放する。この結果、渡航者はゲート12を通過して入国することができる。
一方、入国を許可できないと判断した場合、審査官610は、図8に示す画面上の有人審査ボタンを押す操作を行う。この操作を受けて、管理端末30は、有人審査への案内を命令する命令信号を顔認証ゲート装置10へ送信する。命令信号を送信した後、管理端末30は、拡大表示を解除して図6に示す通常画面を表示する。命令信号を受けた顔認証ゲート装置10は、ゲート12を閉鎖したまま、カウンター600に進んで審査官610による審査を受けるよう指示する情報を操作表示部110の画面上に表示して渡航者を案内する。渡航者は、無人審査スペースを抜けてカウンター600に進み、審査官610による審査を受けることになる。
図8に示すように確認事項が発生した顔認証ゲート装置10の情報を拡大表示した後、画面上のゲート開放ボタン及び有人審査ボタンの操作が行われないまま所定時間が経過すると、管理端末30は、有人審査が必要であると判定する。有人審査を行うと判定した管理端末30は、拡大表示を解除して図6に示す通常画面を表示する。また、顔認証ゲート装置10は、「顔認証NG」等の確認事項が発生してから所定時間を経過しても管理端末30から命令信号を受信できない場合、有人審査が必要であると判定する。有人審査を行うと判定した顔認証ゲート装置10は、上述したように審査官610が居るカウンター600へ渡航者を案内する処理を実行する。
なお、顔認証ゲート装置10で確認事項が発生した場合でも、管理端末30が図8に示す拡大表示を行わず、審査官610による確認を求めない場合もある。具体的には、例えば、顔認証ゲート装置10がパスポートから取得した情報が、管理サーバ20で管理されるブラックリストの登録情報と一致した場合、拡大表示及び審査官610による確認は行われない。この場合、顔認証ゲート装置10は、管理端末30からの命令信号を待たずに有人審査が必要であると判定する。また、全ての確認事項について、管理端末30への確認事項発生の報知のみを行って、管理端末30からの命令信号を待たずに、顔認証ゲート装置10が判定処理を進める設定とすることもできる。
審査を担当する審査官610bの管理端末30bの画面上には、有人審査が必要であると判定された渡航者の情報が、判定された順に表示される。審査官610bは、管理端末30bの画面表示を確認しながら、有人審査対象と判定された渡航者を順に審査する。
図9は、有人審査を行う管理端末30bに表示される画面例を示す図である。図9に示すように、有人審査を行う管理端末30bの画面には、有人審査対象と判定された判定理由909と、顔認証ゲート装置10で取得した渡航者のIC顔画像及び撮像顔画像と、旅券番号に基づいて管理サーバ20から取得した過去顔画像と、パスポート画像と、管理サーバ20で管理されている関連情報とが表示される。管理サーバ20は、過去顔画像に加えて、過去の渡航情報、審査情報等を旅券番号と関連付けて管理している。管理端末30は、渡航者の旅券番号に基づいて管理サーバ20に情報を問い合わせ、渡航者に関する過去の情報があれば、これを関連情報として画面上に表示する。図9は、顔認証処理で不一致とされた場合の例を示しているが、例えばブラックリストの登録情報と一致するとして有人審査の対象となった場合は、画面上にブラックリストに登録されている情報が関連情報として表示される。
図9に示すIC顔画像、過去顔画像及び撮像顔画像の下に、各画像から切り出したIゾーン画像910が表示される。Iゾーン画像910は、顔画像から、目頭、鼻尖及び唇を含むI字型の領域を、Iゾーンとして切り出して拡大した画像である。目頭、鼻尖及び唇を含むIゾーンの特徴は化粧等によっても隠れにくく、化粧の違いで顔が違って見える場合でもIゾーン画像910を比較することにより同一人物であると判断できる可能性がある。このため、管理端末30は、有人審査を行う際、顔認証ゲート装置10及び管理サーバ20から取得した各顔画像からIゾーンを切り出して拡大したIゾーン画像910を生成して画面上に表示する。審査官610は、画面に表示された情報を確認しながら渡航者を審査する。審査官610は、管理端末30を操作して、顔認証ゲート装置10で得られた渡航者の撮像顔画像を選択して渡航者の旅券番号等の情報と共に管理サーバ20に送信することができる。管理サーバ20は、管理端末30から受信した撮像顔画像を過去顔画像として旅券番号等の情報と関連付けて管理する。
次に、監視端末40について説明する。図5に示す監視端末40は、例えばコンピュータ装置によって構成される。監視端末40は、入国審査場から離れた別の部屋に設置され、監視員が入国審査場を監視するために利用される。監視端末40は、ネットワーク50を介して、各顔認証ゲート装置10に設けられた第2監視カメラ92と接続されている。第2監視カメラ92は、通信部15を介さず、直接ネットワーク50に接続されている。
第2監視カメラ92は、顔認証ゲート装置10から独立して稼働する。監視端末40は、顔認証ゲート装置10の電源がオフにされた後も継続して稼働する第2監視カメラ92から、ブース701を含む領域を斜め上方から撮像した画像を取得して画面上に表示する。監視端末40の画面上には、第2監視カメラ92で撮像した画像に加えて、空港各所に設置された監視カメラの画像も表示される。
図10は、監視端末40に表示される画面例を示す図である。監視端末40の画面は、上側の拡大表示領域911と、下側の一覧表示領域912とに分割されている。一覧表示領域912には、全ての監視カメラで得られた画像が、各監視カメラに付与された識別番号順に一覧表示される。
拡大表示領域911は左右に並ぶ4つの領域に分割されている。所定条件を満たす監視カメラの画像、及び手動選択された監視カメラの画像が、拡大表示領域911に拡大表示される。具体的には、監視端末40は、監視カメラで得られた画像を解析して動体検知や人物検知の処理を実行し、所定の動作や所定の人物を検知した監視カメラの画像を拡大表示領域911に拡大表示する。また、監視端末40の画面表示を確認する監視員が、一覧表示領域912に表示されている監視カメラの画像を選択する操作を行うと、監視端末40は、選択された画像を拡大表示領域911に拡大表示する。
監視端末40は、拡大表示領域911に拡大表示された監視カメラ画像と、一覧表示領域912に一覧表示された監視カメラ画像との対応を容易に認識できるように両画像を表示する。具体的には、図10に示すように、識別番号No.3の監視カメラの画像を拡大表示領域911の左端の枠内に拡大表示した監視端末40は、それまでNo.3の監視カメラの画像を表示していた一覧表示領域912の枠内に、拡大表示領域911の4つの枠を模式的に示すアイコン等のグラフィック画像を表示する。そして、監視端末40は、グラフィック画像で示す4つの枠のうち拡大表示に利用した左端の1つの枠内を、他の3つの枠内と異なる色で表示する。
続いてNo.8の監視カメラの画像を拡大表示領域911に表示する場合、監視端末40は、拡大表示領域911の左から2つ目の枠に、この画像を拡大表示する。監視端末40は、拡大表示を開始すると同時に、それまでNo.8の監視カメラの画像を表示していた一覧表示領域912の枠内に、拡大表示領域911の4つの枠を示すグラフィック画像を表示する。そして、グラフィック画像で示す4つの枠のうち拡大表示に利用した左から2つ目の枠内を、他の3つの枠内と異なる色で表示する。
このように、監視端末40は、一覧表示領域912に一覧表示した複数の監視カメラ画像の中から1つを拡大表示領域911に拡大表示する際に、それまでこの画像を表示していた一覧表示領域912の枠内に、拡大表示領域911を模式的に示すグラフィック画像を表示する。そして、このグラフィック画像上で、一覧表示領域912に表示していた監視カメラ画像を、拡大表示領域911のどの位置に拡大表示しているかを示す。これにより、監視員は、拡大表示領域911に拡大表示された監視カメラ画像と、一覧表示領域912に一覧表示された監視カメラ画像との対応関係を容易に認識することができる。
次に、図11〜図14を参照しながらパスポート読取装置400について説明する。図5に示すように、パスポート読取装置400は、2つの位置検知センサ411、412と、画像取得部420と、IC情報取得部430とを含む。
図11は、パスポート読取装置400の構成を説明するための斜視図である。図11は、顔認証ゲート装置10の本体部筐体102の上部から柱部200の下部までの領域を模式的に示している。本体部筐体102の上面奥側に配置された操作表示部筐体104は、前面上部に傾斜面を有する。傾斜面には、上から順に、第1顔認証カメラ71、操作表示部110、第2顔認証カメラ72及び顔認証ボタン111が配置されている。
本体部筐体102の上面、操作表示部筐体104の手前に、寄棟型に組み合わせた3つの傾斜面401a、401b、401cによって、パスポート読取装置400を構成するパスポート載置台401(401a、401b、401c)が形成されている。
パスポート載置台401は、断面山型に組み合わせた2つの傾斜面401a、401bの奥側縁部を、操作表示部筐体104の前面に接した状態で形成されている。2つの位置検知センサ411、412は、操作表示部筐体104の前面下部に配置されている。
パスポート載置台401を形成する一方の傾斜面401aには、透明のガラス板421が嵌め込まれている。この傾斜面401aの下方、本体部筐体102内部に、画像取得部420が配置されている。画像取得部420は、開いた状態でパスポート載置台401に載置されたパスポートの内側券面を撮像する。他方の傾斜面401bは不透明樹脂から成る。この傾斜面401bの下方、本体部筐体102内部に、IC情報取得部430が配置されている。IC情報取得部430は、パスポート載置台401に載置されたパスポートに埋め込まれたICチップから情報を取得する。
図12は、パスポート載置台401の外観を示す図である。図12(a)〜(c)は、それぞれパスポート載置台401の上面図、正面図、側面図を示している。なお、図12〜図14では、操作表示部110に正対した方向から見た図を正面図としている。
図12(a)に示すように、断面山型に組み合わせた2つの傾斜面401a、401bの接合部には、曲面から成る頂面401dが形成されている。右側の傾斜面401aを形成するガラス板421は、頂面401dを超えて僅かに傾斜面401bまで達している。2つの傾斜面401a、401b及び頂面401dの手前側(図12(a)下側)縁部と、本体部筐体102上面とを滑らかに接続する形で、傾斜面401cが形成されている。2つの傾斜面401a、401b及び頂面401dの奥側(図12(a)上側)の縁部は、操作表示部筐体104の前面に接している。図12(b)に示す断面山型のパスポート載置台401の高さHは約30mm、幅Wは約290mmで、2つの傾斜面401a、401bの間の角度αは約160度となっている。図12(c)に示すパスポート載置台401の奥行Dは約170mmとなっている。
図12(a)及び(b)に示すように、位置検知センサ411、412は、それぞれ投光部411a、412aと、受光部411b、412bとの間で、水平方向に検知光を投受光する透過型センサである。
図13は、パスポート載置台401へのパスポートの載置方法を示す図である。図13(a)は上面図を示し、図13(b)は正面から見た断面模式図を示している。渡航者の画像、氏名、旅券番号等が記載されているパスポート800のページを開いて、図13(a)に示すように、パスポート載置台401の上に載置する。このとき、パスポート写真や旅券番号等を含むパスポート800内側の券面をガラス板421と対向させる向きでパスポート800を載置する。また、図13(b)に示すように、表紙と裏表紙を接続する背の部分が、山型断面を有するパスポート載置台401の頂上部(頂面401d)と重なるようにパスポート800を載置する。
表紙と裏表紙との間に複数ページを有する冊子型のパスポートは、表紙及び裏表紙を上にして開いた状態で机上に置くと、閉じられた状態に戻ろうとする閉じ癖によって、背の部分が浮かび上がることがある。パスポート載置台401は、山型の略三角形断面を形成する傾斜面401a、401bを含んで構成されている。これにより、図13(b)に示すようにパスポート800を載置して、手を離しても、内側の券面がガラス板421に接した状態を維持することができる。ガラス板421は、山型断面の頂面401dを超える領域まで達しており、画像取得部420は、パスポート写真や旅券番号等を含むパスポート800の券面の略全面を撮像することができる。パスポート読取装置400は、画像取得部420で取得した券面画像を利用して、パスポート券面の写真から渡航者の顔画像を取得すると共に、パスポート券面に印刷されている渡航者の国籍、氏名等の情報を文字認識して取得する。パスポートの券面画像又はパスポート券面から取得した顔画像は、操作表示部110の画面上に表示される。渡航者は、画面上の顔画像を見て、パスポートが自身のものであることを確認することができる。
パスポート800の内側券面のどの位置で文字認識を行うかについては、予め設定情報が準備されている。パスポート読取装置400は、この設定情報に基づいて、券面画像で文字認識処理を実行する。なお、設定情報については、顔認証ゲート装置10の記憶部14に保存する態様であってもよいし、パスポート読取装置400が記憶部を備え、この記憶部内に保存する態様であってもよい。
パスポート800の内側券面には、パスポート800に埋め込まれたICチップから情報を取得するためのキーとなる文字列が印刷されている。画像取得部420で取得した券面画像で文字認識処理を行ってキーとなる文字列を得た後、IC情報取得部430は、このキーを利用してICチップに登録されている顔画像、国籍等の情報を取得する。IC情報取得部430は、無線通信技術を利用してICチップに登録されている情報を読み取る非接触型のICリーダとして機能する。
図14は、パスポート読取装置400によるパスポートの検知方法を説明する模式図である。図14(a)は側面図を示し、図14(b)〜(d)は正面図を示している。図14(a)に示すように、位置検知センサ411は、検知光が、パスポート載置台401の頂上より僅か上方を通過するように配置されている。位置検知センサ411は、パスポート800の有無を検知する有無検知センサとして機能する。位置検知センサ412は、位置検知センサ411の上方に配置されている。位置検知センサ412は、閉じ癖によってパスポート載置台401から浮き上がったパスポート800を検知する浮き上がり検知センサとして機能する。
パスポート載置台401にパスポート800がないときは、図14(b)に示すように、有無検知用の位置検知センサ411及び浮き上がり検知用の位置検知センサ412の両方が透光状態となる。
パスポート載置台401にパスポート800が置かれると、図14(c)に示すように、有無検知用の位置検知センサ411の検知光がパスポート800によって遮られて遮光状態となる。このとき、パスポート800の内側券面がパスポート載置台401に接した状態であれば、浮き上がり検知用の位置検知センサ412は透光状態のままとなる。このように位置検知センサ411が透光状態かつ位置検知センサ412が遮光状態になると、パスポート読取装置400は、良好なパスポート800の券面画像を取得できると判定する。そして、パスポート読取装置400は、画像取得部420及びIC情報取得部430による情報取得の処理を開始する。
パスポート載置台401に置かれたパスポート800が閉じ癖によって浮き上がると、図14(d)に示すように、有無検知用の位置検知センサ411及び浮き上がり検知用の位置検知センサ412の両方が遮光状態となる。このように位置検知センサ411が遮光状態かつ位置検知センサ412が遮光状態になると、パスポート読取装置400は、浮き上がりにより、良好な券面画像を取得できないと判定する。この判定を受けて、顔認証ゲート装置10の制御部13は、パスポート800の券面をパスポート載置台401に接触させるよう渡航者に指示する情報を操作表示部110の画面上に表示する。渡航者がパスポート800を上から押さえて、図14(c)に示すように、浮き上がり検知用の位置検知センサ412が透光状態に変わると、これを認識したパスポート読取装置400は、画像取得部420によってパスポート800の内側券面を撮像すると共に、IC情報取得部430によってICチップから情報を取得する。
パスポート800の券面画像から渡航者の顔画像及び文字情報を取得すると共にICチップから情報を取得したパスポート読取装置400は、パスポート800の読取を完了したことを示す情報を制御部13に通知する。通知を受けた制御部13は、パスポート800からの情報取得に成功したことを示す情報を操作表示部110の画面上に表示する。この表示を受けて、渡航者はパスポート800を押さえていた手を離すことができる。
画像取得部420による券面画像の撮像、券面画像からの情報取得、IC情報取得部430によるICチップからの情報取得に係る処理は、パスポート読取装置400が行う態様であってもよいし、顔認証ゲート装置10の制御部13がパスポート読取装置400を利用して行う態様であってもよい。
このように、パスポート読取装置400は、パスポート800に閉じ癖がついている場合でも、パスポート800の券面を撮像した良好な画像を取得することができる。パスポート800の閉じ癖が強いためにパスポート800がパスポート載置台401から浮かび上がった場合、パスポート読取装置400は、位置検知センサ412によってこれを検知することができる。また、パスポート800の浮き上がりが押さえられると、パスポート読取装置400は、位置検知センサ412によってこれを検知して、パスポート800の券面を撮像する。これにより、パスポート800から情報を取得する処理を短時間で容易に進めることができる。
次に、図15及び図16を参照しながら表示灯部300について説明する。図15は、表示灯部300を背面側から見た外観を示す斜視図である。柱部200の上に設けられた表示灯部300は、ブース番号表示部310が設けられた上部と、係員呼出表示部320、状態表示部330及び腕部340が設けられた下部とに分かれている。下部は柱部200上端に固定されているのに対し、ブース番号表示部310は、下部に対して回転可能に設けられている。
図15に示すように、状態表示部330は、第1ランプ330a、第2ランプ330b、第3ランプ330c及び第4ランプ330dの複数のランプを含む。第1ランプ330a〜第4ランプ330dは例えばLED等から成り、各ランプが異なる色で発光する。第1ランプ330a〜第4ランプ330dは、表示灯部300の背面に沿って水平方向に長く設けられた帯形状を有する。これにより、図1に示すように顔認証ゲート装置10を設置した際に、複数の審査官610b〜610dが、状態表示部330の発光状態を確認できるようになっている。
制御部13は、図15に示す各ランプ330a〜330dの発光状態の組み合わせを変更することにより、複数の状態を審査官610に報知する。図16は、状態表示部330による状態表示の例を説明するための図である。図16に示すように、第1ランプ330a〜第4ランプ330d全てが消灯しているときは、顔認証ゲート装置10が渡航者の入国審査を行っていない待機状態であることを示している。第1ランプ330aが点滅しているときは、顔認証ゲート装置10のゲート12を不正に通行する不正通行が発生したことを示している。第2ランプ330bが点灯しているときは、顔認証ゲート装置10が渡航者のパスポートを確認中であることを示している。第3ランプ330cが点滅し、かつ、第4ランプ330dが点滅しているときは、渡航者の顔認証処理を実行中であることを示している。このように、制御部13は、状態表示部330の各ランプ330a〜330dの点灯状態を消灯、点灯、点滅の間で変更することにより状態を報知する。また、制御部13は、状態表示部330の複数のランプ330a〜330dの点灯状態の組み合わせを変更することにより状態を報知する。これにより、図16に示すように、様々な状態を報知することができる。審査官610は、状態表示部330による状態報知を確認して、適切な対応をとることができる。
次に、図17を参照しながら顔認証ゲート装置10による処理の流れを説明する。ここでは、審査官610による確認や判定等の処理は省略して、顔認証ゲート装置10が渡航者の入国可否を判定する処理を説明する。図17は、顔認証ゲート装置10による処理の流れを示すフローチャートである。顔認証ゲート装置10の制御部13は、人感センサ120を利用して、ブース701内への進入者を監視している(ステップS1;No)。ブース701内に進入した渡航者を検知すると(ステップS1;Yes)、制御部13は、顔認証による入国審査手続きの説明等を操作表示部110に表示すると共に、顔認証カメラ71〜74によって渡航者の顔画像を取得する処理を開始する(ステップS2)。
具体的には、制御部13は、操作表示部110に「パスポートを置いてください。」等の表示を行うと共に、顔認証カメラ71〜74を利用してブース701内を撮像し、渡航者を撮像した画像から顔を検出する。撮像した画像から顔が検出されれば、制御部13は、これを切り出して撮像顔画像(撮像顔データ)を作成して記憶部14に保存する。制御部13は、他の処理を実行している間も、これと並行して、顔認証カメラ71〜74で渡航者を撮像して撮像顔画像を作成し、記憶部14に保存する処理を継続して実行する。
なお、制御部13は、撮像顔画像を作成した後、この撮像顔画像から顔照合処理用の特徴量を抽出し、この特徴量(撮像顔データ)を記憶部14に保存してもよい。この場合、顔照合処理時に撮像顔画像から特徴量を抽出する処理が不要になる。以下では、顔照合処理に用いる撮像顔画像又は撮像顔画像の特徴量を、撮像顔データとする。顔照合処理のみを目的とする場合は、撮像顔画像又は撮像顔画像の特徴量のいずれか一方を記憶部14に保存すればよい。本実施形態では、審査結果の記録として撮像顔画像を残すため、撮像顔画像とその特徴量、又は撮像顔画像のみを、記憶部14に保存する。
顔認証カメラ71〜74は、表示の確認や入力操作を行う操作表示部110、渡航者の姿がハーフミラーに映り込む柱部200等、渡航者が注目する注目対象を含むその近傍に配置されている。また、各顔認証カメラ71〜74は、撮像範囲を渡航者の顔の方向へ向けて配置されている。これにより高い確率で渡航者の顔画像を取得することができる。
上述の渡航者が注目する注目対象を含む近傍とは、渡航者が注目対象に注目したときに、顔認証カメラ71〜74それぞれにおいて、渡航者の顔画像を取得できる位置のことをいう。渡航者の顔画像を取得できれば、設置位置は、注目対象と同一平面上には限定されない。一般に、真正面から撮影された登録顔データと顔照合を行う場合、取得できる渡航者の顔画像は、両目と鼻と口が含まれる正面顔画像が望ましい。さらには、上下左右30度以内から撮影された正面顔画像が望ましい。よって、各顔認証カメラ71〜74は、渡航者が注目対象に注目したときに渡航者の正面顔画像を取得できる位置に配置されるのが望ましい。さらには、渡航者が注目対象に注目したときの顔の向きと各顔認証カメラ71〜74の向きとが、30度以内になるように設置されるのが望ましい。
より詳細には、渡航者は表示の確認や操作を行う場合、渡航者の身長の高低に関わらず注目対象である操作表示部110(表示部)に注目して顔を向ける。このとき、操作表示部110側から見た渡航者の顔は正面顔である。よって、操作表示部110の近傍に設置した顔認証カメラ71〜72は渡航者の正面顔画像を撮像することができる。顔認証ゲート装置10では、操作表示部110の上下に顔認証カメラ71〜72を設置している。このため、渡航者の身長の高低や、操作表示部110内で渡航者が注目した部分の上下の差による顔の向きの上下に関わらず、顔認証カメラ71〜72の少なくとも一方で渡航者の正面顔画像を撮像できる。
また、渡航者は、容貌の確認を行う場合、柱部200のハーフミラーに正対して注目対象であるハーフミラー(鏡面)の自分の顔が映った部分に注目して顔を向ける。このとき、ハーフミラーの注目された部分から見た渡航者の顔は真正面顔である。渡航者の身長によってハーフミラーの注目される部分は異なるが、上述のように正面顔画像は真正面顔である必要はなく、上下方向の角度に許容範囲がある。よって、少なくともいずれか1台のカメラで許容範囲内の正面顔画像を撮像できる。顔認証ゲート装置10では、ハーフミラーの裏側に顔認証カメラ73〜74を上下に設置している。このため、渡航者の身長の高低に関わらず、顔認証カメラ73〜74の少なくとも一方で渡航者の正面顔画像が撮像できる。なお、柱部200のハーフミラーは平面鏡であるが、緩やかな凸面鏡として鏡面の範囲を小さくすることも可能である。
なお、注目対象として操作表示部110や、鏡面である柱部200のハーフミラーの例を挙げたが、渡航者が注目するものであれば、注目対象はこれらに限定されない。注目対象を複数備え、それぞれに顔認証カメラを設置すれば、被認証者の正面顔画像を撮像できる可能性が高くなる。例えば、任意の位置に設置した顔認証カメラの周辺で点滅表示を行うなど変化する表示をさせて注目対象とし、渡航者がこの変化する表示に注目するようにしてもよい。ただし、顔認証を含んだ一連の処理にかかる時間を短縮するには、一連の処理において渡航者が特に意識することなく自然に注目するものを注目対象として、その近傍に顔認証カメラ71〜74を設置するのが望ましい。
特に、顔認証を含んだ一連の処理において、後述するように、渡航者がパスポート載置台401にパスポートを置き、IC情報取得部430がパスポートに埋め込まれたICチップからIC顔画像を取得する前に、渡航者が特に意識することなく自然に注目するものを注目対象にするものが望ましい。例えば、上述の操作表示部110や鏡面である柱部200である。渡航者はまず操作表示部110の表示を確認したり、顔認証に先立って柱部200の鏡面で顔を確認したりするためである。また、パスポートを置く際に注目するパスポート載置台401も注目対象となり得る。
制御部13は、顔認証カメラ71〜74で渡航者の顔画像を撮像して、撮像顔データを記憶部14に保存する処理を継続して実行しながら、パスポート載置台401にパスポートが置かれたか否かを監視する(ステップS3;No)。位置検知センサ411によってパスポート載置台401にパスポートが置かれたことを検知すると(ステップS3;Yes)、制御部13は、パスポート載置台401に置かれたパスポートに異常がないか判定する(ステップS4)。パスポートの異常とは、パスポートから正常に情報を取得できない状態である。
具体的には、例えば、位置検知センサ412によってパスポートの浮き上がりを検知すると、制御部13は、パスポートに異常があると判定する(ステップS4;Yes)。この場合、制御部13は、パスポートをパスポート載置台401に密着させるよう渡航者に指示する情報を操作表示部110の画面上に表示する(ステップS5)。
パスポート読取装置400の画像取得部420でパスポート券面を撮像した券面画像から渡航者の画像(パスポート写真)を取得できない場合も、制御部13は、異常があると判定する(ステップS4;Yes)。また、予めパスポートの券面画像から取得するよう設定された、ICチップの情報取得に利用するキーや、渡航者の国籍、氏名等を含む文字情報(MRZ情報)を券面画像から取得できない場合も、制御部13は、異常があると判定する(ステップS4;Yes)。この場合、例えば、パスポートが誤った向きで置かれている可能性がある。このため、制御部13は、パスポートの向きに誤りがないか確認して、向きに誤りがあれば正しい向きで置き直すよう渡航者に指示する情報を操作表示部110の画面上に表示する(ステップS5)。
また、パスポートの券面画像から、渡航者の氏名等の文字情報を取得できない場合については、渡航者がパスポートに取り付けたパスポートカバーが原因である可能性もある。例えば、日本国発行のパスポートでは、文字情報が見開き2ページの端にあるため、パスコートカバーの内側が、文字情報を隠している場合がある。このため、制御部13は、パスポートの券面画像から文字情報を取得できない場合、パスポートにカバーを付けている場合はこれを外すよう渡航者に指示する情報を操作表示部110の画面上に表示する(ステップS5)。
パスポートの異常が解消されると(ステップS4;No)、制御部13は、パスポート読取装置400によって、パスポートから情報を取得する(ステップS6)。具体的には、画像取得部420によってパスポートの内側券面を撮像して券面画像を取得すると共に、券面画像の文字認識処理を行って渡航者の国籍、氏名、旅券番号、生年月日等の文字情報を取得する。また、文字認識処理によって券面画像から取得したキーを利用して、IC情報取得部430によって、パスポートに埋め込まれたICチップからIC顔画像、国籍、氏名、生年月日、旅券番号等の情報を取得する。制御部13は、パスポートの券面画像又はパスポート券面画像から取得したパスポート写真の画像を操作表示部110に表示する。この表示画面によって、渡航者はパスポートが自分ものであることを確認する。
制御部13は、パスポートのICチップから取得した情報と、パスポートの券面画像から取得した情報とに基づいて、渡航者が有人審査の対象であるか否かを判定する(ステップS7)。
具体的には、例えば、パスポートのICチップから取得した氏名及び旅券番号、パスポートの券面画像から取得した氏名及び旅券番号の中に、管理サーバ20で管理されるブラックリストの登録情報と一致するものがあれば、制御部13は、有人審査の対象であると判定する(ステップS7;Yes)。また、例えば、パスポートのICチップから取得したIC顔画像、国籍、氏名、生年月日等の情報が、パスポート券面画像の情報と一致しない場合は、パスポートが偽造されている可能性がある。このため、制御部13は、有人審査の対象であると判定する(ステップS7;Yes)。また、ステップS4及びS5を所定回数繰り返してもパスポートから得られない情報がある場合も、制御部13は、有人審査が必要であると判定する(ステップS7;Yes)。
有人審査の対象であると判定した制御部13は、カウンター600bに進んで審査官610cによる審査を受けるよう渡航者に指示する情報を、操作表示部110の画面上に表示して(ステップS8)、顔認証ゲート装置10による入国審査を終了する。これを受けて、渡航者は、カウンター600bで審査官610cによる有人審査を受けることになる。
パスポートから取得した情報に基づく判定で、有人審査の対象ではないと判定された渡航者については(ステップS7;No)、顔照合による本人確認の処理が行われる(ステップS9)。具体的には、制御部13は、パスポートから取得したIC顔画像を、IC顔画像を取得する前に作成して記憶部14に保存した複数の撮像顔データそれぞれと比較して、一致するか否かを判定する顔照合処理を実行する。
IC顔画像を取得してまず開始する顔照合処理は、IC顔画像の取得前に作成されて記憶部14に保存されている複数の撮像顔データの中に、IC顔画像と一致する画像があるか否かを確認する処理で、IC顔画像が複数の撮像顔データそれぞれと比較されることになる。具体的には、制御部13に含まれる顔照合処理部が、IC顔画像から特徴量を抽出し、このIC顔画像の特徴量と撮像顔データである撮像顔画像の特徴量とを比較して類似度を算出し、この類似度が所定の閾値より大きいとき、IC顔画像と撮像顔データが一致すると判定する。また、顔照合処理部は、撮像顔データが撮像顔画像の場合は、顔照合処理に先立って撮像顔画像の特徴量を抽出する。なお、図17では、便宜上、ステップS7の判定処理の後に、ステップS8として顔照合処理を示しているが、実際には、ステップS6でIC顔画像を取得してすぐに判定処理と並行して顔照合処理が開始される。
制御部13は、記憶部14から読み出した撮像顔データとIC顔画像とを対象として行った顔照合処理の結果に基づいて、渡航者がパスポートの名義人本人であるか否かを判定する(ステップS10)。IC顔画像が撮像顔データと一致しなかった場合、制御部13は、渡航者がパスポート名義人本人であると判定せず(ステップS10;No)、続いて、人感センサ120で渡航者を検知してから所定時間が経過しているか否かを判定する(ステップS11)。
所定時間が経過していなければ(ステップS11;No)、制御部13は、続いて、渡航者によって顔認証ボタン111を押す入力操作が行われたか否かを判定する(ステップS12)。顔認証ボタン111を押す入力操作がまだ行われていない場合(ステップS12;No)、制御部13は、ステップS9に戻って、記憶部14に保存されている別の撮像顔データとIC顔画像との間で顔照合処理を実行する。
こうして、制御部13は、記憶部14に保存されている撮像顔データを1つずつ順に読み出してIC顔画像と比較する顔照合処理を繰り返し実行する。顔認証カメラ71〜74で渡航者を撮像して撮像顔データを記憶部14に保存する処理は、他の処理を並行して、継続して行われている。記憶部14に保存されている撮像顔データとIC顔画像とを比較する顔照合処理は、IC顔画像が撮像顔データと一致していなければ、記憶部14に、IC顔画像と比較していない撮像顔データがある間、繰り返し実行される。
記憶部14に保存されている全ての撮像顔データとIC顔画像との間で顔照合処理を終えると、制御部13は、IC顔画像と、IC顔画像の取得後に顔認証カメラ71〜74で新たに得て作成した撮像顔画像との間で、顔照合処理を継続する。具体的には、顔認証カメラ71〜74で撮像顔画像が得られる度に、制御部13に含まれる顔照合処理部が、得られた撮像顔画像から特徴量を抽出し、既に抽出したIC顔画像の特徴量との間で顔照合処理を実行する。
顔照合処理を続けている間に、IC顔画像と一致する撮像顔データが得られると、制御部13は、渡航者がパスポートの名義人本人であると判定する(ステップS10;Yes)。続いて、制御部13は、本人確認開始を指示するために顔認証ボタン111を押す入力操作が渡航者によって行われたか否かを判定する(ステップS15)。
渡航者が既に顔認証ボタン111を押していた場合(ステップS15;Yes)、制御部13は、ゲート装置11を制御してゲート12を開放する(ステップS16)。制御部13は、入国を認めることを示す情報を操作表示部110の画面上に表示し、審査結果を渡航者に報知して(ステップS17)、処理を終了する。
一方、渡航者が、まだ顔認証ボタン111を押していない場合、制御部13は、顔認証ボタン111の監視を続ける(ステップS15;No)。そして、渡航者が、顔認証ボタン111を押す入力操作を行うと(ステップS15;Yes)、これを検知した制御部13は、上述したようにゲート12の開放(ステップS16)及び渡航者への報知(ステップS17)を行って、処理を終了する。
入国許可の報知を受けた渡航者は、開いたゲート12を通過して入国する。渡航者がゲート12を通過した後、制御部13はゲート12を閉じる。このように、制御部13は、顔照合処理により、渡航者がパスポートの名義人本人であるとの結果を得られた後、渡航者が顔認証ボタン111を押す入力操作を行うまでは、ゲート12の開放及び結果報知を行わない。
IC顔画像と一致する撮像顔データを得られないまま(ステップS10;No)、人感センサ120で渡航者を検知してから所定時間が経過すると(ステップS11;Yes)、制御部13は、有人審査が必要であると判定する。すなわち、制御部13は、タイムアウトとして顔照合処理を終了する。続いて、制御部13は、渡航者によって顔認証ボタン111を押す入力操作が行われたか否かを判定する(ステップS18)。
渡航者が既に顔認証ボタン111を押す入力操作を行っていた場合(ステップS18;Yes)、制御部13は、カウンター600bに進んで審査官610cによる審査を受けるよう渡航者に指示する情報を操作表示部110の画面上に表示して(ステップS19)、処理を終了する。一方、渡航者が、まだ顔認証ボタン111を押していない場合、制御部13は、顔認証ボタン111の監視を続ける(ステップS18;No)。そして、渡航者が、顔認証ボタン111を押す入力操作を行うと(ステップS18;Yes)、これを検知した制御部13は、上述したように、有人審査を指示する案内表示を行って(ステップS19)、処理を終了する。有人審査を指示された渡航者は、ブース701から出てカウンター600bに進み、審査官610cによる審査を受けることになる。
IC顔画像と一致する撮像顔データが得られず(ステップS10;No)、かつ、人感センサ120で渡航者を検知してから所定時間が経過するより前に(ステップS11;No)、渡航者が、顔認証ボタン111を押す入力操作を行った場合(ステップS12;Yes)、制御部13は、顔認証処理に適した良好な撮像顔データを取得するために、渡航者への案内を行う必要があるか否かを判定する(ステップS13)。案内が必要であると判定した場合(ステップS13;Yes)、制御部13は、操作表示部110の画面上に案内を表示する(ステップS14)。渡航者への案内は不要と判定した場合(ステップS13;No)、制御部13は、ステップS9に戻って処理を継続する。
例えば、先に行った顔照合処理で撮像顔データとIC顔画像とを比較した際に、口の部分のみで差違が大きく、同一人物であると判定できないとする結果が得られていた場合、渡航者がマスクをしている可能性がある。このため、制御部13は、渡航者への案内が必要であると判定して(ステップS13;Yes)、マスク等は外すよう指示する情報を操作表示部110の画面上に表示する(ステップS14)。
また、例えば、撮像顔データとIC顔画像との間で両目の部分のみで差違が大きく、同一人物であると判定できないとする結果が得られていた場合、渡航者がサングラス等をしている可能性がある。このため、制御部13は、渡航者への案内が必要であると判定して(ステップS13;Yes)、サングラス等は外すよう指示する情報を操作表示部110の画面上に表示する(ステップS14)。
このように、制御部13は、顔照合処理時に撮像顔データとIC顔画像との間で差違が大きい領域が顔の一部に集中していた場合に、渡航者への案内が必要であると判定する。そして、顔認証処理に適した撮像顔データを取得するために、渡航者への案内表示を実行する。これにより、例えば、帽子を被っていることが顔照合不一致の原因である可能性があれば帽子を脱ぐように指示したり、額にかかった前髪が顔照合不一致の原因である可能性があれば手で前髪を上げるよう指示したりすることもできる。
人感センサ120で渡航者を検知して開始した顔認証カメラ71〜74による撮像顔データの取得及び記憶部14への保存の処理は、顔照合処理による本人確認の結果を得た後も継続して行われる。撮像顔データを記憶部14に蓄積する処理は、所定タイミングで終了する。具体的には、例えば、渡航者に入国を許可してゲート12を開くタイミング(ステップS16)、又は渡航者に有人審査を指示するタイミング(ステップS8、S19)で、制御部13は、新たな撮像顔データを取得する処理を終了する。渡航者の入国審査を行う間に顔認証カメラ71〜74で取得した撮像顔データは全て記憶部14に保存されている。撮像顔データの取得を終了した制御部13は、記憶部14に保存されている撮像顔データの中から、IC顔画像との類似度を示すスコアが最も高い撮像顔データを選択する。選択された撮像顔データに関する撮像顔画像は、渡航者のパスポートから取得した氏名、旅券番号等の情報、審査結果、審査に要した時間等の情報と共に、顔認証ゲート装置10から管理サーバ20へ送信される。管理サーバ20は、顔認証ゲート装置10から受信した情報を、旅券番号と関連付けて、渡航者に関する情報として管理する。
このように、顔認証ゲート装置10は、ブース701に進入した渡航者を人感センサ120によって検知すると、4つの顔認証カメラ71〜74を利用して、渡航者の顔画像を取得して記憶部14に保存する処理を開始する。そして、この処理を、他の処理を行う間も継続して実行し、記憶部14に撮像顔データを蓄積する。パスポート読取装置400によってIC顔画像を取得すると、顔認証ゲート装置10は、記憶部14に保存されている複数の撮像顔データそれぞれとIC顔画像とを比較する顔照合処理を開始する。これにより、顔認証ボタン111の操作を受けてから顔画像を取得して顔照合処理を行う場合に比べて早期に処理結果を得ることができる。渡航者が、操作表示部110に表示される操作案内等を確認しながら操作を進めて、本人確認開始を指示するために顔認証ボタン111を押す入力操作を行うときには、既に顔照合処理による本人確認を終えている場合もある。この場合、渡航者が顔認証ボタン111を押す入力操作を行ってすぐにゲート12を開いて渡航者を通過させることができる。
顔認証ゲート装置10では、顔照合処理による本人確認結果を短時間で得られた場合に、ゲート12を開放して渡航者を通過させるタイミングを制御することも可能となっている。具体的には、例えば、人感センサ120で渡航者を検知してから15秒後に渡航者が顔認証ボタン111を押した際に、既に渡航者がパスポート名義人本人であることを確認済みである場合も、人感センサ120による検知から20秒が経過するまで待ってゲート12を開放するように設定することができる。なお、顔認証ボタン111を押した際に20秒を過ぎていれば、すぐにゲート12を開放する。
このように、顔認証ゲート装置10では、人感センサ120による検知からゲート12を開放するまでの最短時間を設定することができる。最短時間を設定すると、制御部13は、最短時間が経過するより前にゲート12を開放可能な状態になっても、最短時間が経過するまで待ってゲート12を開放する。最短時間の設定は管理端末30を操作して変更できるようになっている。例えば、審査官610は、入国審査場の混雑具合、入国後に手荷物を受け取る手荷物受取所の混雑具合等に応じて、管理端末30を操作して設定時間を変更する。これにより、入国審査を通過して手荷物を受け取って空港を出るまでの渡航者の流れを円滑にすることができる。
また、顔認証ボタン111を押す入力操作を省略する設定とすることもできる。具体的には、図17に示すステップS15の処理を省略し、渡航者がパスポート名義人本人であることを確認した後、続いてステップS16の処理を実行してゲート12を開放する。同様にステップS18の処理を省略し、人感センサ120で渡航者を検知してから本人確認を終える前に所定時間が経過した場合(ステップS11;Yes)、続いてステップS19の処理を実行して渡航者に有人審査を受けるよう案内する。渡航者への案内表示の要否を判定するステップS13の処理についても、同様にステップS12の処理を省略し、顔認証ボタン111の操作とは無関係に判定を実行する。
顔認証ボタン111を押す入力操作を省略すると、顔認証ゲート装置10の顔照合処理が終了したタイミングで、ゲート12の開放等の後続の処理が開始されるので、顔認証ゲート装置10を操作する渡航者が違和感を覚える場合がある。しかし、認証ボタン111を押す入力操作を待つ必要がないので、顔認証を含んだ一連の処理を最も短時間で行うことができる。一方、顔認証ボタン111を押す入力操作を設けると、渡航者が操作を行ったタイミングで後続の処理が開始されるので、渡航者が違和感を覚えることがなく、顔認証を含んだ一連の処理を短時間で行うことができる。
いずれの場合も、IC顔画像をパスポートのICチップから取得するより先に、注目対象近傍に設置した各顔認証カメラ71〜74を用いて渡航者の撮像顔データを取得するので、IC顔画像を取得した時点では顔照合に適した撮像顔データが既に取得されている。このため、IC顔画像の取得後、速やかにIC顔画像と撮像顔データとの顔照合処理を行い、撮像顔データが取得された渡航者がパスポート名義人本人か否かを判定できる。このため、顔認証を含んだ一連の処理を短時間で行うことができる。
ステップS13及びS14の処理に関し、渡航者への案内要否の判定は、顔照合処理の結果に基づいて行う。具体的には、撮像顔データとIC顔画像を照合する処理は、各顔画像上に多数のサンプル点を設定して、各サンプル点における特徴を比較することによって行う。各サンプル点における特徴の一致度は評価点で表され、一致度が高いほど評価点が高くなる。サンプル点を利用する顔照合処理の詳細は、例えば特許4187494号公報等に記載している。撮像顔データとIC顔画像とが一致するとの照合結果が得られず、評価点の低いサンプル点が局所的に集中している場合、制御部13は、渡航者への案内が必要であると判定する(ステップS13;Yes)。図18は、制御部13が、渡航者への案内が必要であると判定する例を説明するための例である。顔画像上に、図18に破線で示すように照合対象領域920が設定される。この照合対象領域920内に、多数のサンプル点が設定され、2つの顔画像を比較する照合処理が行われる。2つの顔画像が一致せず、評価点の低いサンプル点が、図18(a)に斜線領域で示したように、目から上の領域及び顔の両横外側に集中した場合、制御部13は、髪で顔が隠れていないか渡航者に確認を促す情報を操作表示部110の画面上に表示する。同様に、図18(b)に示すように評価点の低いサンプル点が目から上の領域に集中している場合、制御部13は、帽子で顔が隠れていないか確認を促す情報を表示する。図18(c)に示すように評価点の低いサンプル点が目の周辺領域に集中している場合、制御部13は、眼鏡をしていればこれを外すよう促す情報を表示する。図18(d)に示すように評価点の低いサンプル点が口の周辺領域に集中している場合、制御部13は、マスクやマフラー等の装着物をしていればこれを外すよう促す情報を表示する。
なお、渡航者に顔を露出するよう促す案内表示については、ステップS1で渡航者を検知した直後から処理を開始する設定とすることもできる。具体的には、制御部13は、人感センサ120で渡航者を検知した後、顔認証カメラ71〜74で取得した渡航者の撮像顔データを、予め準備した標準顔画像と比較する。標準顔画像とは、多数の顔画像に基づいて作成された平均的な顔画像である。標準顔画像と比較することによって、撮像顔データに、目、鼻、口等の特徴部が含まれているか否かを確認できるようになっている。渡航者の撮像顔データと標準顔画像との比較は、撮像顔データとIC顔画像とを照合する場合と同様に、多数のサンプル点を設定して各サンプル点における特徴を比較する。
ステップS6でパスポートから渡航者のIC顔画像を取得するより前に、標準顔画像を利用した顔照合処理を開始して、渡航者の撮像顔データから目、鼻、口等を検出できなかった場合、制御部13は、案内表示を実行する。具体的には、帽子、サングラス、マスク、マフラー等をしていればこれを外して顔を露出させるよう促す情報を、操作表示部110の画面上に表示する。渡航者を検知してすぐに標準顔画像との顔照合処理を開始して、本人確認に適した顔画像を撮像できない可能性があれば事前に案内表示を行うことで、本人確認にかかる処理時間を短縮することができる。
比較の結果、特に両目周辺において局所的に評価点の低いサンプル点が集中している場合、制御部13は、サングラスを装着していると判定する。また、特に口周辺、又は鼻と口周辺において、局所的に評価点の低いサンプル点が集中している場合、制御部13は、マスクを装着していると判定する。顔認証の障害となる様々な装着物のうち、サングラスとマスクが占める割合は大きく、顔照合処理に先立って早期に案内表示を行って外すように案内できれば、顔認証を含んだ一連の処理にかかる時間を短縮することができる。
一方で、目、鼻、口等の顔の主要部分が大きく隠れていない帽子やマフラー等の場合は、必ずしも顔照合処理に先立って案内表示を行って、装着物を外してもらう必要はない。装着物を外すように案内表示を行う人数が増えると、かえって顔認証を含んだ一連の処理にかかる時間が増加する場合があるためである。顔照合処理に先立って、装着物を外すように案内処理を行うのは、顔照合処理が失敗する可能性が高い装着物に限定されている。
なお、サングラスやマスクを装着しているか否かの判断は、上述の方法に限定されない。例えば、サングラスを装着した人の顔画像を集めてサングラス装着者の平均顔画像を予め作成しておく。このサングラス装着者の平均顔画像と撮像顔データとの類似度が所定の値より大きいときに、渡航者がサングラスを装着していると判断してもよい。マスクを装着しているか否かの判定も、マスクを装着した人の顔画像を集めてマスク装着者の平均顔画像を予め作成しておき、このマスク装着者の平均顔画像と撮像顔データとの類似度が所定の値より大きいときに、渡航者がマスクを装着していると判断してもよい。
顔認証ゲート装置10は、渡航者の入国審査を行う間、パスポート載置台401へのパスポート載置、パスポートの位置修正、パスポートの写真が自分であることの確認、顔認証カメラ71〜74による撮像等、各段階で渡航者に処理内容や操作方法等を案内する。このとき、顔認証ゲート装置10は、管理サーバ20で管理されている過去の入国審査のデータに基づいて渡航者の習熟度を判定し、習熟度に応じた態様で案内を実行する。
図19は、渡航者の習熟度に応じて案内方法を設定した設定例を示す図である。管理サーバ20は、渡航者が顔認証ゲート装置10を利用して入国した際に、所定操作に要した時間を旅券番号と関連付けて管理している。例えば、管理サーバ20は、ブース701に入ったことを人感センサ120によって検知してからゲート12を通過するまでに要した所要時間を、渡航者の旅券番号と関連付けて管理する。
顔認証ゲート装置10の制御部13は、パスポート読取装置400によってパスポートから旅券番号を取得すると、この旅券番号に基づいて、管理サーバ20で管理されている過去の所要時間を問い合わせる。所要時間の記録がない場合、又は所要時間が20秒以上であった場合、制御部13は、図19に示す設定に基づいて、渡航者への案内を初級モードで実行する。所要時間が11秒以上20秒未満であった場合、制御部13は、渡航者への案内を中級モードで実行する。所要時間が10秒未満であった場合、制御部13は、渡航者への案内を上級モードで実行する。
図19に示すように、操作表示部110の画面上に複数の案内表示を順に表示する際の画面の遷移速度は、上級モード、中級モード、初級モードの順に高速になっている。各モードの画面遷移速度は、1つの画面を表示する秒数によって設定できる。また、初級モード及び中級モードでは静止画像や動画像を多用したグラフィック表示で案内を表示して、上級モードでは文字による表示で案内を表示する。また、複数操作から成る所定処理の操作を案内する際に、初級モードでは一画面に1つの操作を表示して複数画面で案内し、中級モードでは一画面に複数の操作を表示して複数画面で操作を案内し、上級モードでは一画面に全ての操作を表示して一画面で操作を案内する。
このように、顔認証ゲート装置10では、操作案内を行う際に、複数画面を表示する際の画面の遷移速度、画面に表示する情報の表示態様、一画面に表示する情報量等を、顔認証ゲート装置10の操作に係る習熟度に応じて変更することができる。これにより、操作に慣れていない渡航者は、操作案内をゆっくりと順に確認しながら操作を進めることができる。一方、操作に慣れた渡航者は短時間のうちに操作案内を確認して迅速に操作を進めることができる。
顔認証ゲート装置10は、係員呼出表示部320のランプを点灯してコンシェルジュを呼び出す際の判定にも渡航者の習熟度を利用する。具体的には、初級モードの渡航者は、1つ1つの操作を進めるのに時間がかかるため、コンシェルジュによる補助が必要と判定するまでの判定時間を長く設定する。一方、上級モードの渡航者は短時間で操作を進めることができるため、コンシェルジュによる補助が必要と判定するまでの判定時間を、初級モードに比べて短く設定する。中級モードの渡航者については、コンシェルジュによる補助が必要と判定するまでの判定時間を初級モードの判定時間より短くかつ上級モードの判定時間より長い時間に設定する。
例えば、上級モードの渡航者であれば平均2秒以内に完了可能で、初級モードの渡航者は平均4秒で完了できる操作については、上級モードの判定時間を5秒、初級モードの判定時間を7秒に設定し、中級モードの判定時間を6秒に設定する。この操作を監視する際、制御部13は、初級モードの渡航者が7秒以内に操作を完了できない場合に、コンシェルジュによる補助が必要であると判定して係員呼出表示部320を点灯する。一方、上級モードの渡航者については5秒以内に操作を完了できない場合に、コンシェルジュによる補助が必要であると判定して係員呼出表示部320を点灯する。このように、渡航者の習熟度に応じてコンシェルジュによる補助が必要であると判定するまでの時間を変更することにより、適切なタイミングで各渡航者を補助することができる。コンシェルジュによる補助が必要であるか否かを判定するための判定時間は、操作の種類、操作内容等に応じて個別に設定できるようになっている。
顔認証ゲート装置10では、渡航者に操作内容を案内する際に、渡航者が操作表示部110の画面に表示した情報を確認したか否かを判定するようになっている。図20は、操作案内の流れを示すフローチャートである。各操作を案内する際に図20に示す処理が行われる。
制御部13は、まず、操作表示部110の画面上に操作内容を示す情報を表示する(ステップS21)。制御部13は、顔認証カメラ71〜74で撮像した渡航者の顔画像から、渡航者が操作表示部110の画面を確認したか否かを判定する(ステップS22)。制御部13は、渡航者の顔画像と、顔の向きを判定するために予め準備した標準顔画像と比較する。顔の角度を判定するための標準顔画像及び顔角度の判定方法は、例えば特許5628570号公報等に記載している方法のほか、他の方法でもよい。制御部13は、渡航者の顔の角度から、渡航者が操作表示部110の方を向いているか否か、すなわち渡航者が操作表示部110の画面を確認したか否かを判定する。
渡航者が画面上の情報を確認していないと判定した場合(ステップS22;No)、制御部13は、操作表示部110に操作内容を表示してから、予め設定された所定時間が経過したか否かを判定する(ステップS23)。
所定時間が経過するまでの間(ステップS23;No)、渡航者が画面上の情報を確認したか否かを確認する処理を継続する。所定時間が経過するまでの間に渡航者が画面上の情報を確認した場合(ステップS22;Yes)、次のステップへ進む。一方、所定時間を経過しても、渡航者が画面上の情報を確認しなかった場合(ステップS23;No)、制御部13は、音声による案内を実行する(ステップS24)。
具体的には、渡航者の顔の角度が、操作表示部110の画面を見ている顔の方向からずれた状態が続いた場合に、制御部13は、音声を出力する。制御部13は、例えば、画面の情報を確認するよう指示する音声を出力する。また、例えば、渡航者が行うべき操作内容を音声で出力する。なお、顔画像から検出できる顔の角度範囲は、操作表示部110の画面を見ている渡航者の顔の方向から、上下及び左右の両方で、所定範囲内に限られる。この所定範囲は、操作表示部110の場面の大きさを考慮し、顔の向きが画面の範囲内となる角度範囲、例えば±10°以内等と定める。制御部13は、顔の角度が予め設定された条件を満たす場合、又は顔の角度が検出できない場合に、渡航者が画面上の情報を確認していないと判定する(ステップS22;No)
渡航者が画面上の情報を確認した後、又は音声案内を行った後、制御部13は、操作支援情報の表示が必要であるか否かを判定する(ステップS25)。操作支援情報とは、操作内容を詳細に、より分かり易く渡航者に案内するための情報である。操作内容を表示してから、操作支援情報の表示を実行するまでの時間が操作毎に予め設定されている。この時間を超えるまでの間、制御部13は、操作支援情報の表示は不要であると判定する(ステップS25;No)。操作毎に設定された所定時間を超えると、制御部13は、操作支援情報の表示が必要であると判定し(ステップS25;Yes)、操作表示部110の画面上に操作支援情報を表示する(ステップS26)。
制御部13は、渡航者が操作を終了したか否かを判定する(ステップS27)。渡航者が操作を終了していない場合(ステップS27;No)、制御部13は、操作表示部110に操作内容を表示してから、予め設定された所定時間が経過したか否かを判定する(ステップS28)。操作内容を表示してから操作を終了するまでに要する時間が操作毎に予め設定されている。この時間を超えていなければ(ステップS28;No)、制御部13は、ステップS25に戻って処理を継続する。そして、渡航者が操作を終了しないまま、操作毎に設定された所定時間を超えると(ステップS28;Yes)、制御部13は、空港係員611による補助が必要であると判定する。続いて、制御部13は、係員呼出表示部320による空港係員611の呼出処理を実行して(ステップS29)、処理を終了する。無人審査スペースにコンシェルジュとして待機する空港係員611は、係員呼出表示部320の表示を確認すると、渡航者の補助を開始する。一方、操作毎に設定された所定時間が経過するまでの間に(ステップS28;No)、渡航者が操作を終了した場合(ステップS27;Yes)、制御部13は処理を終了する。
本実施形態では、図1に示すレイアウトで入国審査を行う場合を説明したが、複数の顔認証ゲート装置10を配置する際のレイアウトがこれに限定されるものではない。図21〜図24は、複数台の顔認証ゲート装置10を配置するレイアウトの例を示す図である。図21〜図24に示す各レイアウトでも、上述したように、顔認証ゲート装置10を利用して入国審査を行うことができる。
図21に示すレイアウトは、1つの入口から入国審査場に進入して、途中で、有人審査を受ける渡航者と、無人審査スペースに進む渡航者とが別れる例を示している。無人審査スペースには、複数台の顔認証ゲート装置10が2列に並べて配置されている。1列6台の顔認証ゲート装置10は、カウンター600から離れるほど2列の顔認証ゲート装置10の間の通路が狭くなるように配置されている。
左側の列の顔認証ゲート装置10で入国を許可された渡航者は、左外側へゲート12を通過する。右側の列の顔認証ゲート装置10で入国を許可された渡航者は、右外側へゲート12を通過する。入国を許可された渡航者は、それぞれ2列に配置された顔認証ゲート装置10の左右両外側へとゲート12を通過するが、途中で合流して同じカウンター600の側方を通過して入国する。顔認証ゲート装置10による入国審査で入国を許可されなかった渡航者は、無人審査スペースへ入ってきた通路を戻ってカウンター600で審査官610による審査を受ける。
このレイアウトの場合、右側のカウンター600で1人の審査官610が、無人審査スペースに進まずに有人審査を受ける渡航者を審査する。中央にあるカウンター600では、右側の1人の審査官610が、顔認証ゲート装置10による入国審査で入国を許可されなかった渡航者を審査する。中央のカウンター600左側の審査官610は、渡航者の審査は行わず、全ての顔認証ゲート装置10を管理する。
図22に示すレイアウトは、中央に無人審査スペースを設けて、無人審査スペースの左側に有人審査スペースを設け、さらに無人審査スペースの右側にも有人審査スペースを設けた例を示している。無人審査スペース、左側の有人審査スペース、右側の有人審査スペースのそれぞれに入口が1つずつ設けられている。
無人審査スペースには、複数台の顔認証ゲート装置10が2列に並べて配置されている。1列6台の顔認証ゲート装置10は、カウンター600に近付くほど2列の顔認証ゲート装置10の間の通路が狭くなるように配置されている。
左側の列の顔認証ゲート装置10で入国を許可された渡航者は、左外側へゲート12を通過する。右側の列の顔認証ゲート装置10で入国を許可された渡航者は、右外側へゲート12を通過する。無人審査スペースから右側にゲート12を通過した渡航者と、左側にゲート12を通過した渡航者は、それぞれ別の通路を通って、中央にあるカウンター600の両外側から入国する。顔認証ゲート装置10による入国審査で入国を許可されなかった渡航者は、2列に配置された顔認証ゲート装置10の間を中央にあるカウンター600に向かって進み、審査官610による審査を受ける。
このレイアウトの場合、右側のカウンター600内で左側の1人の審査官610が、右側の有人審査スペースで有人審査を受ける渡航者を審査する。また、左側のカウンター600内で右側の1人の審査官610が、左側の有人審査スペースで有人審査を受ける渡航者を審査する。中央のカウンター600では、2人の審査官610が、顔認証ゲート装置10による入国審査で入国を許可されなかった渡航者を審査する。また、中央のカウンター600の2人の審査官610は、1人1列ずつ顔認証ゲート装置10を管理する。
図23に示すレイアウトは、中央に無人審査スペースを設けて、無人審査スペースの左側に有人審査スペースを設け、さらに無人審査スペースの右側にも有人審査スペースを設けた例を示している。無人審査スペース、左側の有人審査スペース、右側の有人審査スペースのそれぞれに入口が1つずつ設けられている。
無人審査スペースには、複数台の顔認証ゲート装置10が2列に並べて配置されている。1列6台の顔認証ゲート装置10は、2列の顔認証ゲート装置10の間の通路が同じ幅となるように配置されている。
左側の列の顔認証ゲート装置10で入国を許可された渡航者は、左外側へゲート12を通過する。右側の列の顔認証ゲート装置10で入国を許可された渡航者は、右外側へゲート12を通過する。無人審査スペースから右側にゲート12を通過した渡航者と、左側にゲート12を通過した渡航者は、それぞれ別の通路を通って、中央にあるカウンター600の両外側から入国する。顔認証ゲート装置10で入国を許可されなかった渡航者は、2列に配置された顔認証ゲート装置10の間を中央にあるカウンター600に向かって進み、審査官610による審査を受ける。
このレイアウトの場合、右側のカウンター600内で左側の1人の審査官610が、右側の有人審査スペースで有人審査を受ける渡航者を審査する。また、左側のカウンター600内で右側の1人の審査官610が、左側の有人審査スペースで有人審査を受ける渡航者を審査する。中央のカウンター600では、右側の1人の審査官610が、顔認証ゲート装置10による入国審査で入国を許可されなかった渡航者を審査する。一方、中央のカウンター600の左側の審査官610は、全ての顔認証ゲート装置10を管理する。
図24に示すレイアウトは、2つの無人審査スペースと2つの有人審査スペースとを設けた例を示している。顔認証ゲート装置10による入国審査を通過した渡航者が通る通路を挟んで両側に1列ずつ、2列の顔認証ゲート装置10が配置されている。左側の列の顔認証ゲート装置10の左外側に無人審査スペースが設けられ、さらにその左外側に有人審査スペースが設けられている。また、右側の列の顔認証ゲート装置10の右外側に無人審査スペースが設けられ、さらにその右外側に有人審査スペースが設けられている。2つの有人審査スペース及び2つの無人審査スペースのそれぞれに1つずつ入口が設けられている。
1列6台の顔認証ゲート装置10は、2列の顔認証ゲート装置10の間の通路が同じ幅となるように配置されている。左側の無人審査スペースから右側にゲート12を通過した渡航者と、右側の無人審査スペースから左側にゲート12を通過した渡航者は、どちらも中央の通路を通って入国する。
左側の無人審査スペースで顔認証ゲート装置10による入国審査を受けて入国を許可されなかった渡航者は、左側の無人審査スペースをカウンター600に向かって進む。右側の無人審査スペースで顔認証ゲート装置10による入国審査を受けて入国を許可されなかった渡航者は、右側の無人審査スペースをカウンター600に向かって進む。左右2つの無人審査スペースには、それぞれカウンター600への通過を制限するゲート装置11が配置されている。
このレイアウトの場合、図24に示すように、右側のカウンター600内で左側の1人の審査官610が、右側の有人審査スペースで有人審査を受ける渡航者を審査する。また、左側のカウンター600内で右側の1人の審査官610が、左側の有人審査スペースで有人審査を受ける渡航者を審査する。
中央にあるカウンター600の2人の審査官610は、1人1列ずつ顔認証ゲート装置10を管理する。また、中央のカウンター600の2人の審査官610は、管理端末30を利用して、無人審査スペースからカウンター600への通過を制限するゲート装置11のゲート12を開閉することができる。左側の審査官610は、左側の無人審査スペースのゲート12を制御して、顔認証ゲート装置10による入国審査で入国を許可されなかった渡航者を1人ずつカウンター600へ通して審査する。同様に、右側の審査官610は、右側の無人審査スペースのゲート12の開閉を制御して、顔認証ゲート装置10による入国審査で入国を許可されなかった渡航者を1人ずつカウンター600へ通して審査する。
なお、本実施形態では、空港の入国審査を例に複数台の顔認証ゲート装置10を利用する例を説明したが、顔認証ゲート装置10の利用態様がこれに限定されるものではない。顔認証ゲート装置10を出国審査に利用することもできる。また、出入国審査に、顔認証ゲート装置10を1台だけ利用することも可能である。また、ゲート装置11によるゲート12の開閉は行わず、所定の担当者が、本人確認できた者だけが通過できるゲートの通行を、顔認証ゲート装置10による判定結果に基づいて制限する態様での利用も可能である。
本実施形態では、パスポート読取装置400によってパスポートのICチップから顔画像を取得する例を示したが、顔認証処理に利用する顔画像の取得態様がこれに限定されるものではない。例えば、顔認証ゲート装置10が、記憶媒体であるICチップから情報を読み取る読取装置として、パスポート読取装置400に代えてICチップリーダを備える態様であってもよい。また、パスポートのような冊子ではなく、ICチップを有する紙製や樹脂製のカードやチケット等の媒体から、ICチップに登録された顔画像を取得する態様であってもよい。例えば、本人の顔画像を記録した社員証や学生証などのIDカード、個人番号カード、運転免許証、所有者の顔画像を記録したICチケット等である。
例えば、パスポート読取装置400に代えてICチップリーダを備える顔認証ゲート装置10を、コンサートやスポーツ競技等が行われる会場への入場、美術館や博物館等の建物への入館等に利用する。予め入場や入館を許可した名義人に、該名義人の顔画像を記録したICチップを埋め込んだカードを許可証として発行しておいて、来場時や来館時に、該許可証を利用して顔認証ゲート装置10による審査を実行する。上述したように、ICチップリーダによって許可証のICチップから取得した顔画像と、顔認証カメラ71〜74で撮像した撮像顔データとの間で顔照合処理による本人確認を行うことができる。さらに、本人確認の結果に基づいてゲート12の開閉を制御すれば、許可証の名義人本人だけに入場や入館を許可することができる。
また、本実施形態では、ICチップに名義人の顔画像として予め登録されているIC顔画像を登録顔データとして、撮像顔データと登録顔データによる顔照合処理を行う態様を示した。ただし、ICチップに名義人の顔画像に係る特徴量を登録しておいて、該特徴量を登録顔データとして、顔照合処理を行う態様であっても構わない。この場合も、顔照合処理による本人確認を行って、上述した各処理を実現することができる。
また、本実施形態では、登録顔データを取得する取得部として、パスポート読取装置400又はICチップリーダを利用する態様を示した。ただし、名義人の顔画像又は該顔画像の特徴量である登録顔データを、サーバ等の外部装置に登録しておいて、取得部が、名義人のID番号等の識別情報を取得して、取得した識別情報に基づいて外部装置から該識別情報に関連付けられた登録顔データを取得する態様であっても構わない。この場合も、取得部が取得した登録顔データを利用して顔照合処理による本人確認を行って、上述した各処理を実現することができる。
上述したようにパスポート以外のICチップを有する紙製や樹脂製の媒体を利用して顔認証処理を行う場合については、名義人は必須ではなく、媒体の所有者を識別するID番号等の識別情報や、媒体固有の識別情報等を用いて、処理を進めることができる。さらに、登録顔データをサーバ等の外部装置に登録する場合、登録顔データと関連付けられた識別情報を取得することができれば、該識別情報をICチップに記録する態様に限定されず、磁気情報の読み取りや印刷された文字の文字認識等によって識別情報を得られれば、ICチップも必須ではない。この場合、取得部は、まず媒体に関する識別情報を読み取り、読み取った識別情報に関連付けられた登録顔データを外部装置より受信して、登録顔データを取得する。
また、本実施形態では、被認証者である渡航者が操作部から行う入力操作として顔認証ボタン111を押して、見かけ上は本人確認の開始指示としながら、顔照合処理においては本人確認の結果に基づいて行う処理のトリガーとする例を示したが、トリガーとする入力操作が、本人確認の開始指示に限定されるものではない。例えば、画面表示された取り決めを承諾するための入力操作、顔認証に関する媒体の所持者本人であることを宣言するための入力操作、画面表示された商品の購入を決定するための入力操作等をトリガーとすれば、被認証者に、顔認証を意識させずに上述した各処理を行うこともできる。
さらに、本実施形態では、顔認証を含んだ一連の処理を短時間で行うための最良の実施形態として、取得部による登録顔データの取得に先立って撮像顔データを作成し、登録顔データの取得後、速やかに顔照合処理を行う例を示したが、データの取得順序がこれに限定されるものではない。従来の顔照合装置と同様に、例えば、ICチップを搭載した媒体から登録顔データを読み出して取得したり、記憶部で記憶している登録顔データを読み出して取得したりした後に、顔画像を撮像して撮像顔データを作成し、顔照合処理を行う態様であってもよい。この順序で処理を行う場合でも、被認証者の入力操作をトリガーとして、上述したように、顔照合による本人確認の結果に基づいた違和感のない処理を行うことができる。
上述してきたように、本実施形態に係る顔認証ゲート装置10によれば、パスポート読取装置400でパスポートのICチップから取得した顔画像と、顔認証カメラ71〜74で渡航者を撮像した顔画像との間で顔照合処理を行い、渡航者がパスポートの名義人本人であることを確認できた場合にのみゲート装置11のゲート12を開いて渡航者の通行を許可することができる。
また、読取装置としてパスポート読取装置400に代えてICチップリーダを備える顔認証ゲート装置10によれば、予め顔画像を記録したICチップが埋め込まれた許可証を発行しておいて、来場者が所持する許可証からICチップリーダで取得した顔画像と、顔認証カメラ71〜74で撮像した来場者の顔画像との間で顔照合処理を行い、来場者が許可証の名義人本人であることを確認できた場合にのみゲート装置11のゲート12を開いて入場を許可することができる。
顔認証ゲート装置10によれば、顔認証を受ける渡航者、来場者等の被認証者を撮像して取得した顔画像又は該顔画像の特徴量である撮像顔データと、予め登録されている顔画像又は該顔画像の特徴量である登録顔データとを照合する顔照合処理を行って、被認証者が、登録顔データが登録された本人であることを短時間で正確に判定することができる。これにより、被認証者を審査して本人確認する審査担当者の負担を軽減することができる。また、審査の待ち時間を短縮することにより被認証者の負担も軽減することができる。