以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。なお、図面において、同一または類似の部分には同一の参照番号を付して、重複する説明を省く場合がある。
情報処理端末は、ディスプレイ、プロジェクタ、スクリーンなどの画像出力装置に各種の情報を表示させる。情報処理端末が画像出力装置に表示させた情報が、当該情報処理端末のユーザとは異なる第三者により閲覧されると、当該情報が外部に漏洩し得る。第三者による閲覧の態様は、目視に限定されない。第三者は、例えば、画像出力装置の近傍に配された撮像装置を用いて、情報処理端末が画像出力装置に表示させた情報を閲覧し得る。上記の撮像装置としては、監視カメラ、隠しカメラなどが例示される。第三者は、例えばネットワークを介して上記の撮像装置にアクセスすることにより、情報処理端末が画像出力装置に表示させた情報を閲覧し得る。
近年、画像出力装置からの情報漏洩を防止する様々な技術が開発されているが、発明者らは、画像出力装置を第三者による閲覧が比較的困難な場所に設置することができれば、情報漏洩のリスクが大幅に低減され得ると考えた。本実施形態によれば、例えば、画像出力装置の周辺の状態に応じて、第三者が画像出力装置に表示される情報を覗き見ることによる情報漏洩のリスクを評価することのできる情報漏洩抑制システムが提供される。
一実施形態によれば、情報漏洩抑制システムは、情報処理端末の安全性を評価する。より具体的には、情報漏洩抑制システムは、情報処理端末が生成した画像を出力する画像出力装置の設置予定場所又は設置場所(情報処理端末の設置位置と称される場合がある。)における情報セキュリティの程度(単に、安全性と称される場合がある)を評価する。これにより、情報処理端末のユーザは、当該情報処理端末の画像出力装置を安全な場所に設置した後、当該情報処理端末の利用を開始することができる。その結果、情報漏洩のリスクが大きく低減される。
他の実施形態によれば、情報漏洩抑制システムは、例えば、ユーザが情報処理端末を使用している期間中、当該情報処理端末の安全性を監視する。情報漏洩抑制システムは、当該情報処理端末の安全性を常時確認してもよく、定期的に又は任意のタイミングで当該情報処理端末の安全性を確認してもよい。これにより、例えば、時間の経過に伴う周辺環境の変化により、情報処理端末の安全性の程度が変動する場合であっても、情報漏洩のリスクが低減され得る。
情報処理端末の安全性は、例えば、上記の画像出力装置の位置に基づいて評価される。情報処理端末の安全性は、上記の画像出力装置の位置と、当該位置における当該画像出力装置の向き(情報処理端末の設置方向と称される場合がある。)とに基づいて評価されてもよい。なお、本願明細書において、情報処理端末を設置すると表記されている場合、技術的に矛盾が生じない範囲において、情報処理端末の画像出力装置を設置することを意味し得ることに留意されたい。
上記の画像出力装置としては、ディスプレイ、スクリーンなどの画像表示装置、プロジェクタなどの画像投影装置が例示される。スクリーンは、例えば、画像投影装置が出力した画像を反射することで当該画像を出力する。これにより、画像投影装置が出力した画像が、スクリーン上に表示される。
画像出力装置が出力する画像(出力画像と称される場合がある。)は、平面に表示されてもよく、湾曲面に表示されてもよく、球面又はその一部に表示されてもよい。出力画像は、二次元画像であってもよく、三次元画像であってもよい。
情報処理端末の設置方向は、例えば、画像出力装置の前後の軸まわりの回転(ロールと称される場合がある)、左右の軸まわりの回転(ピッチと称される場合がある)、及び、上下の軸まわりの回転(ヨーと称される場合がある)の少なくとも1つにより表される。画像出力装置の前後の軸は、画像出力装置を前後に通過する軸であってよい。画像出力装置の上下の軸は、画像出力装置を上下に通過する軸であってよい。画像出力装置の左右の軸は、画像出力装置を左右に通過する軸であってよい。上記の3つの軸は、互いに直交してよい。画像出力装置が曲面である場合、当該曲面に沿って延伸された空間曲線が軸として用いられてよい。
(物体の動き又は光の揺らぎに基づく安全性の評価)
一実施形態において、情報処理端末の設置位置の周辺における物体の動き又は光の揺らぎに基づいて、情報処理端末の安全性を評価することが考えられる。本実施形態においては、情報処理端末の設置位置の周辺を撮像して得られた動画の解析結果に基づいて、情報処理端末の安全性が評価される。
情報処理端末の設置位置の周辺に配された物体が動くと、当該動画を撮像した撮像装置が静止している場合であっても、当該動画を構成する複数のフレームの間で、当該物体に対応する画素の画素値が変動する。また、情報処理端末の設置位置の周辺に配された物体、及び、当該動画を撮像した撮像装置が静止している場合であっても、当該物体の表面で反射する光、当該物体を透過する光又は当該物体から発せられる光の揺らぎにより、当該動画を構成する複数のフレームの間で特定の画素の画素値が変動する。
例えば、光の強度の平均値が巨視的には一定であっても、微視的には、光の強度と、光の強度の平均値との間に小さなずれがある場合、光の揺らぎが検出される。光の揺らぎは、例えば、当該光の強度及び/又は色が、特定の平均に従いながらも、部分的にランダムに変動していることを示す。情報処理端末の設置位置の周辺で観察される光の揺らぎは、例えば、(i)光源と、当該光源からの光を反射又は透過する被写体との間に存在する又は存在した様々な他の物体の動きの程度、及び/又は、(ii)当該被写体と、撮像装置との間に配された他の物体の動きの程度を表す。上記の他の物体は、固体であってもよく、気体であってもよく、液体であってもよい。光の揺らぎは、(i)ある程度周期性の高い変化を含んでもよく、(ii)ランダムな動きに近いものを含んでもよい。
情報処理端末の安全性を評価する手法としては、情報処理端末の設置位置の周辺において、物体の動き又は光の揺らぎが検出される程度を評価することが例示される。上記の程度としては、検出された動き又は揺らぎの大きさの程度、動き又は揺らぎが検出される頻度などが例示される。
情報処理端末の設置位置の周辺において物体の動きが検出された場合、情報処理端末の設置位置の周辺に第三者が存在する可能性が高い。同様に、情報処理端末の設置位置の周辺において比較的大きな光の揺らぎが検出された場合、情報処理端末の設置位置の周辺に第三者が存在する可能性が高い。また、情報処理端末の設置位置の周辺における光の揺らぎのパターンが変化した場合、情報処理端末の設置位置の周辺に第三者が存在する可能性が高い。そのため、物体の動き又は光の揺らぎが検出される程度が小さいほど、情報処理端末の安全性の程度が大きい(つまり、第三者により出力画像が閲覧される可能性が小さい。)と評価され得る。
情報処理端末の設置位置の周辺において観察される光の揺らぎのパターンが、自然光の揺らぎのパターンに類似している場合、当該設置位置の近傍に屋外に通じる窓又は開口が存在する可能性、又は、当該設置位置が屋外である可能性が高い。一方、情報処理端末の設置位置の周辺において観察される光の揺らぎのパターンが、人工光の揺らぎのパターンに類似している場合、当該設置位置の近傍に屋外に通じる窓又は開口が存在する可能性、又は、当該設置位置が屋外である可能性が低い。そのため、自然光に類似する光の揺らぎが検出される程度が小さいほど、情報処理端末の安全性の程度が大きい(つまり、第三者により出力画像が閲覧される可能性が小さい。)と評価され得る。
また、情報処理端末の設置位置の周辺において観察される光の揺らぎのパターンが、情報処理端末が予め定められた種類の移動体に搭載されている場合における光の揺らぎのパターンに類似している場合、情報処理端末が当該移動体に搭載されている可能性が高い。予め定められた種類の移動体としては、車両、飛行体、船舶などが例示される。予め定められた種類の移動体は、電車、バス、旅客機、客船などの公共交通機関であってよい。そこで、検出された光の揺らぎが予め定められた第1パターンを有する場合、情報処理端末の安全性の程度が小さい(つまり、第三者により出力画像が閲覧される可能性が大きい。)と評価され得る。同様に、検出された光の揺らぎが予め定められた第2パターンを有する場合、情報処理端末の安全性の程度が大きい(つまり、第三者により出力画像が閲覧される可能性が小さい。)と評価され得る。光の揺らぎのパターンは、光の揺らぎが検出される程度の一例であってよい。
例えば、室内に入射した自然光が室内に配された物体の表面で反射し、情報処理端末の設置位置に配されたカメラが当該反射光を受光する場合を考える。この場合、上記のカメラが受光する光の揺らぎは、光源である太陽及び上記の物体の間並びに上記の物体及びカメラの間における、(i)樹木の枝葉の揺れ、(ii)水面の揺れ、(iii)空気中に浮遊する塵、水滴、水蒸気などの流れ、(iv)空気の屈折率の変動などの影響を受ける。そのため、光の揺らぎを周波数解析すると、当該揺らぎは比較的広い範囲の周波数を含む。例えば、光の揺らぎの周波数分布は、比較的ブロードな山状又は正規分布状の形状を有する。
同様に、室内に配された光源から射出された人工光が室内に配された物体の表面で反射し、情報処理端末の設置位置に配されたカメラが当該反射光を受光する場合を考える。この場合、光源が太陽である場合と比較して、光源及び上記の物体の間の距離が短い。その結果、光の揺らぎを周波数解析すると、当該揺らぎは比較的狭い範囲の周波数を含む、又は、特定の周波数成分を多く含む。例えば、光の揺らぎの周波数分布は、光源が太陽である場合と比較してシャープ山状又は正規分布状の形状を有する、又は、特定の周波数成分が突出した形状を有する。
発明者は、(i)自然光は、人工光源からの光と比較して、数Hz~数十Hz程度の周波数帯の光の揺らぎを多く含むこと、(ii)30フレーム/秒程度の撮像装置により撮像された動画像の解析により当該光の揺らぎを検出可能であること、及び、(iii)光の揺らぎのパターン(例えば、揺らぎの周波数分布のパターンである)に基づいて、当該光の観察場所で生じている事象を推定可能であることを見出した。また、発明者は、観察された光の揺らぎに基づいて、当該光の観察地点の安全性を評価することを想到した。
(遮蔽物の有無又は多寡に基づく安全性の評価)
他の実施形態において、情報処理端末の設置位置の周辺に配された構造物(遮蔽物と称される場合がある)の配置に基づいて、情報処理端末の安全性を評価することが考えられる。遮蔽物は、固体であってもよく、液体であってもよく、気体であってもよく、これらの組み合わせであってもよい。上記の安全性を評価する他の手法としては、上記の遮蔽物の配置を評価することが例示される。
例えば、遮蔽物によりディスプレイ、スクリーンなどへの第三者の視線が遮られる程度が大きいほど、情報処理端末の安全性の程度が大きいと評価される。情報処理端末の設置位置と、遮蔽物との距離が小さいほど、当該設置位置及び遮蔽物の間に第三者が入り込む可能性が小さくなる。そこで、情報処理端末の設置位置と、遮蔽物との距離が小さいほど、情報処理端末の安全性の程度が大きいと評価されてよい。同様に、上記の距離が大きいほど、情報処理端末の安全性の程度が小さいと評価されてもよい。
(周辺環境の状況に基づく安全性の評価)
さらに他の実施形態において、情報処理端末の設置位置の周辺の環境(周辺環境と称される場合がある。)の状況に基づいて、情報処理端末の安全性を評価することが考えられる。設置位置の周辺の環境には、設置位置の環境も含まれ得る。周辺環境の状況としては、周辺環境における、温度分布の状況、明るさの状況、気象の状況、空気の状況、人流又は人口の状況などが例示される。周辺環境の状況は、高度であってもよい。情報処理端末の安全性を評価する手法としては、周辺環境の状況を評価することが例示される。周辺環境は、表示領域の周辺の環境の一例であってよい。
(温度分布の状況)
周辺環境の温度は、例えば、赤外線カメラ、サーモカメラ、熱画像直視装置などを用いて測定され得る。情報処理端末の設置位置の温度と、情報処理端末の設置位置の周辺の温度とを比較することで、周辺環境の状況が評価され得る。上記の赤外線カメラは、中赤外線カメラ又は遠赤外線カメラであってよい。
例えば、人、人の用いる道具(例えば電子機器である)、自然光の当たる場所などは、周囲の環境と比較して高温になりやすい。上記の傾向は、室内において特に顕著である。そのため、特定の空間内において、当該空間内の他の部分と比較して温度が高い部分は、情報処理端末の安全性の程度が小さい(つまり、第三者により出力画像が閲覧される可能性が大きい。)と評価され得る。
例えば、室内に小型カメラが密かに設置されている場合、当該小型カメラの設置場所の温度が、当該設置場所の近傍の温度よりも高くなりうる。この場合、小型カメラの設置場所の近傍における情報処理端末の安全性が小さくなり得る。その結果、小型カメラによる情報漏洩のリスクが抑制され得る。
(明るさの状況)
明るさを評価するための指標としては、(i)現在時刻、現在時刻が属する時間帯、及び/又は、天候、(ii)照度などが例示される。現在時刻は、日付を示す情報を含んでもよく、日付を示す情報を含まなくてもよい。特定の時刻における屋外の明るさは、季節によって異なる場合がある。現在時刻が日付を示す情報を含む場合(現在日時と称される場合がある)、明るさがより正確に評価され得る。
例えば、(i)周辺環境の明るさの程度が大きいほど、又は、(ii)設置位置の周辺に設定された領域の面積に対する、照度が予め定められた基準よりも大きな領域の面積の割合が大きいほど、情報処理端末のユーザが周囲に存在する第三者の存在に気が付きやすくなる一方、第三者も情報処理端末が出力した情報を閲覧しやすくなる。そこで、上記の明るさの程度が大きいほど又は上記の割合が大きいほど、情報処理端末の安全性の程度が大きいと評価され得る。また、上記の明るさの程度が大きいほど又は上記の割合が大きいほど、情報処理端末の安全性の程度が小さいと評価され得る。
(気象の状況)
気象の状況としては、天候、気温、湿度、風速、気圧などが例示される。天候としては、天気の種類、日射量、降雨量、降雪量、霧の濃さなどが例示される。例えば、降雨量、降雪量、霧の濃さなどが大きいほど、視程が小さくなる。視程が小さいほど、情報処理端末の安全性の程度が大きい(つまり、第三者により出力画像が閲覧される可能性が小さい。)と評価され得る。
また、例えば、気温が予め定められた第1域値よりも小さい場合(例えば、非常に寒い場合)、又は、気温が予め定められた第2閾値よりも小さい場合(例えば、非常に暑い場合)、設置位置の周辺に第三者が存在する可能性が小さくなる。そこで、気温が予め定められた第1域値よりも小さい場合又は気温が予め定められた第2閾値よりも小さい場合、情報処理端末の安全性の程度が大きい(つまり、第三者により出力画像が閲覧される可能性が小さい。)と評価され得る。
例えば、風速が大きい場合には、ドローンを利用した覗き見の可能性が小さくなる。また、気圧が低い場合には、高度が高い可能性がある。高度が大きければ、周囲からの覗き見の可能性が小さくなる。そのため、風速、気圧、高度などに基づいて、情報処理端末の安全性の程度が評価され得る。
(空気の状況)
空気の状況としては、(i)空気の透明さの度合い、視程、又は、浮遊物質若しくは飛散物質の濃度、(ii)匂いの度合い又は臭気物質の濃度などが例示される。例えば、空気の透明さの度合いが小さいほど、又は、浮遊物質若しくは飛散物質の濃度が大きいほど、視程が小さくなる。視程が小さいほど、情報処理端末の安全性の程度が大きい(つまり、第三者により出力画像が閲覧される可能性が小さい。)と評価され得る。浮遊物質又は飛散物質は、固体であってもよく、液体であってもよく、気体であってもよい。浮遊物質又は飛散物質としては、水滴(例えば、霧又は雨である)、化学物質、アレルゲン、砂塵、PM2.5などが例示される。アレルゲンとしては、花粉が例示される。
また、例えば、周辺環境の臭気強度が大きいほど、設置位置の周辺に第三者が存在する可能性が小さくなる。そこで、匂いの度合い又は臭気物質の濃度が大きいほど、情報処理端末の安全性の程度が大きい(つまり、第三者により出力画像が閲覧される可能性が小さい。)と評価され得る。臭気物質は、固体であってもよく、液体であってもよく、気体であってもよい。
(人流の状況)
人流又は人口の状況としては、歩行者及び/又は車両の通行量又は流動量などが例示される。人流又は人口の状況は、歩行者の通行量又は流動量であってよい。歩行者及び/又は車両が少ないほど、情報処理端末の安全性の程度が大きい(つまり、第三者により出力画像が閲覧される可能性が小さい。)と評価され得る。
(物体検出結果に基づく安全性の評価)
さらに他の実施形態において、情報処理端末の設置位置及びその周辺における物体又は事象の検出結果に基づいて、情報処理端末の安全性を評価することが考えられる。情報処理端末の安全性は、検出された物体又は事象の種類及び/又は属性に基づいて評価されてもよい。物体又は事象の検出手法は、特に限定されるものではないが、画像解析、音声解析などが例示される。本手法は、情報処理端末の安全性が、設置位置又はその周辺の特徴ではなく、設置位置又はその周辺に配された物体の特徴に基づいて評価される点で、上述された他の実施形態に関連して説明された手法と相違する。
(画像解析の一例)
例えば、情報処理端末の設置位置又はその周辺(設置位置等と称される場合がある。)を撮像して得られた画像を解析することで、当該設置位置等に配された物体又は当該設置位置等で生じた事象を検出したり、当該検出された物体又は事象の種類及び/又は属性を判別したりすることができる。上記の画像中に特定の物体に固有の色値、及び/又は、特定の物体に固有の特徴が検出された場合、当該特定の物体が検出及び判別され得る。特定の物体としては、人の顔、TV、額縁、ARマーカー、窓、ドア、撮像装置、ドローンなどが例示される。物体は、固体であってもよく、液体であってもよく、気体であってもよく、これらの組み合わせであってもよい。本願明細書においては、空、暗闇、海、波、炎のように定まった形状を有しないものであっても、色又は屈折率を有するものであれば物体として取り扱われ得る。
上記の画像が遠赤外線カメラにより撮像された画像である場合、例えば、布、壁などの背後に存在する人間が検出され得る。そこで、例えば、人間、撮像装置、ドローンなど予め定められた第1の種類の物体が検出された場合、情報処理端末の安全性の程度が小さい(つまり、第三者により出力画像が閲覧される可能性が大きい。)と評価され得る。
一方、人間の顔が検出された場合であっても、検出された人間の顔がユーザの顔若しくは事前に登録された人間の顔である場合、情報漏洩のリスクは比較的小さい。人間の顔は、人間の特徴の一例であってよい。そこで、検出された物体の特徴と、予め安全性が確認された物体の特徴と比較するための処理が実行されてもよい。例えば、安全性が確認された物体の特徴は、例えば、予め作成されたホワイトリストに記録される。検出された物体の特徴と、予め安全性が確認された物体の特徴とが一致しない場合に、情報処理端末の安全性の程度が小さい(つまり、第三者により出力画像が閲覧される可能性が大きい。)と評価されてよい。
また、人間、撮像装置、ドローンなどが検出された場合であっても、それらの検出位置がTVの画面の内側又は額縁の内側である場合、情報漏洩のリスクは比較的小さい。そこで、画像中に予め定められた第2の種類の物体が検出された場合、当該画像中の当該物体が検出された領域に位置する他の物体が、情報処理端末の安全性の評価に与える影響を小さくするための処理が実行されてよい。例えば、上記の領域の内部と外部とで、安全性の評価に関連する重み及び/又は閾値を調整するための処理が実行される。
さらに、画像中にARマーカー、QRコード(登録商標)、バーコードなどの符号化コードが検出された場合、当該符号化コードにより示される情報に基づいて、情報処理端末の安全性を評価するための処理が実行されてよい。符号化コードにより示される情報としては、当該符号化コードが検出された場合には安全と評価してよいこと、当該符号化コードが検出された場合には安全でないと評価してよいこと、当該符号化コードが配された位置における情報漏洩のリスクが小さいこと、当該符号化コードが配された位置における情報漏洩のリスクが大きいことなどが例示される。
(音声解析の一例)
例えば、情報処理端末の設置位置等で録音された音声を解析することで、当該設置位置等に配された物体又は当該設置位置等で生じた事象を検出したり、当該検出された物体又は事象の種類及び/又は属性を判別したりすることができる。例えば、上記の音声から犬の咆哮、人間の足音などが検出及び判別された場合、設置位置等の近傍に人間が存在する可能性が高い。
そこで、特定の種類の音声が検出された場合、情報処理端末の安全性の程度が小さい(つまり、第三者により出力画像が閲覧される可能性が大きい。)と評価され得る。一方、人間の足音が検出された場合であっても、当該人間が設置位置等に近づいてきていると判定された場合と、当該人間が設置位置等から遠ざかっていると判定された場合とでは、情報漏洩のリスクが大きく異なる。そこで、音源の位置及び/又は当該位置の変動に基づいて、情報処理端末の安全性を評価するための処理が実行されてよい。例えば、音源の位置及び/又は当該位置の変動に基づいて、安全性の評価に関連する重み及び/又は閾値を調整するための処理が実行される。
(その他の評価手法)
情報処理端末の安全性を評価する手法は、上述された手法に限定されない。また、上述された2以上の手法の組み合わせにより、情報処理端末の安全性が評価されてもよい。情報漏洩抑制システム100は、上述された2以上の手法の組み合わせのそれぞれにより導出された評価を総合的に判断することで、情報処理端末の安全性に関する最終的な評価を決定してよい。例えば、情報漏洩抑制システム100は、複数の手法のそれぞれに対する重みと、各手法により導出された評価とに基づいて、情報処理端末の安全性に関する最終的な評価を決定する。情報漏洩抑制システム100は、1以上の条件分岐と、複数の手法とを組み合わせて、情報処理端末の安全性に関する最終的な評価を決定してもよい。これにより、情報処理端末の安全性を精度よく評価することができる。例えば、第三者がカメラ154の前にユーザ本人の写真を提示して、ユーザになりすますことを試みた場合であっても、情報漏洩抑制システム100が、赤外線画像の解析、物体の動き又は光の揺らぎの解析などの解析結果も考慮して、情報処理端末の安全性を総合的に判断することで、情報漏洩抑制システム100は、上記のなりすまし行為による情報の漏洩を防止することができる。
(情報漏洩抑制システム100)
本実施形態によれば、図1から図12を用いて、情報漏洩抑制システム100の詳細が説明される。また、図13から図20を用いて、物体の動き又は光の揺らぎが検出される程度を評価する手法の詳細が説明される。本明細書の記載に接した当業者であれば、技術的に矛盾しない範囲において、一の実施形態について説明された技術的事項が、他の実施形態にも適用され得ることを理解することができる。
(情報漏洩抑制システム100の概要)
図1は、情報漏洩抑制システム100のシステム構成の一例を概略的に示す。本実施形態において、情報漏洩抑制システム100は、ユーザ端末120の安全性を評価する。より具体的には、情報漏洩抑制システム100は、第三者がユーザ端末120の出力画像を閲覧することに対する安全性を評価する。ユーザ端末120の安全性は、特定の位置及び方向に設置されたユーザ端末120の安全性を表してもよく、ユーザ端末120の設置位置の安全性を表してもよく、ユーザ端末120の設置位置及び設置方向の安全性を表してもよい。ユーザ端末120の設置位置は、表示領域142の設置位置の一例であってよい。ユーザ端末120の設置方向は、表示領域142の設置方向の一例であってよい。
例えば、情報漏洩抑制システム100は、(i)ユーザ端末120の設置位置の周辺における物体の動き又は光の揺らぎが検出される程度を示す指標、(ii)ユーザ端末120の設置位置の周辺に存在する遮蔽物の配置状況を示す指標、(iii)ユーザ端末120の設置位置の周辺環境の状況を示す指標の少なくとも1つに基づいて、ユーザ端末120の安全性を評価する。情報漏洩抑制システム100は、上記の少なくとも1つの指標に代えて、又は、上記の少なくとも1つの指標に加えて、ユーザ端末120の設置位置の周辺において検出された物体の特徴又は種類に基づいて、ユーザ端末120の安全性を評価してよい。上記の物体の特徴としては、当該物体に固有の色値が例示される。例えば、黒い物体と、夜空とは、それぞれ異なる色値を有する。これにより、夜空の絵画と、窓越しの夜空とが区別され得る。
本実施形態において、情報漏洩抑制システム100は、ユーザ端末120の設置を支援する。本実施形態において、情報漏洩抑制システム100は、ユーザ端末120が使用されている間、ユーザ端末120の安全性を監視する。
本実施形態においては、ユーザ端末120が、上述された各種の情報処理を実行する場合を例として、情報漏洩抑制システム100の詳細が説明される。しかしながら、情報漏洩抑制システム100は、本実施形態に限定されない。他の実施形態において、ユーザ端末120は、他のコンピュータと通信可能に構成され、当該他のコンピュータと協働して上述された各種の情報処理を実行してよい。
(情報漏洩抑制システム100の各部の概要)
本実施形態において、情報漏洩抑制システム100は、ユーザ端末120を備える。本実施形態において、ユーザ端末120は、例えば、筐体130と、表示装置140と、環境センサ150と、入力装置160と、制御装置170とを有する。本実施形態において、表示装置140は、例えば、表示領域142を含む。本実施形態において、環境センサ150は、周辺データ生成装置152と、カメラ154と、照度センサ156とを含む。本実施形態において、表示領域142の設置位置が、ユーザ端末120の設置位置と称される場合がある。また、表示領域142の設置方向が、ユーザ端末120の設置方向と称される場合がある。
本実施形態において、ユーザ端末120は、ユーザに情報を出力する。ユーザ端末120は、画像により情報を出力してもよく、音声により情報を出力してもよい。ユーザ端末120は、ユーザからの情報の入力を受け付けてもよい。ユーザ端末120は、各種の情報処理を実行する。
本実施形態において、ユーザ端末120は、画像を出力する。ユーザ端末120が出力した画像は、表示領域142に表示される。表示領域142の視野角の範囲内に存在する人物(閲覧者と称される場合がある。)は、表示領域142に表示された画像を閲覧することができる。表示領域142の視野角の範囲内に撮像装置が配されている場合、当該撮像装置は、表示領域142に表示された画像を撮像することができる。撮像装置が撮像した画像データを取得した人物(閲覧者と称される場合がある。)は、表示領域142に表示された画像を閲覧することができる。
一実施形態において、上記の画像は、ユーザによるユーザ端末120の操作に伴って出力される。例えば、ユーザは、入力装置160を介して、ユーザ端末120の上で動作するBIOS、オペレーションシステム(OSと称される場合がある。)又はアプリケーションプログラム(これらの総称としてプログラムという用語が用いられる場合がある。)に対する指示を、ユーザ端末120に入力する。ユーザ端末120は、当該指示に応じた情報処理を実行し、当該情報処理の結果を示す画像を表示領域142に表示する。
他の実施形態において、上記の画像は、ユーザ端末120の安全性の程度が予め定められた基準に合致しない場合に出力される。このような場合、例えば、警告メッセージ、警告画面、ロック画面、一部の領域の情報が隠匿された画面などが、表示領域142に表示される。
ユーザ端末120としては、パーソナルコンピュータ、携帯端末などが例示される。携帯端末としては、携帯電話、スマートフォン、PDA、タブレット、ノートブック・コンピュータ又はラップトップ・コンピュータ、ウエアラブル・コンピュータなどが例示される。
本実施形態において、筐体130は、表示装置140、周辺データ生成装置152、入力装置160及び制御装置170を支持する。表示装置140、周辺データ生成装置152、入力装置160及び制御装置170のそれぞれは、その少なくとも一部が筐体130の内部に収容されてもよく、筐体130の外部に取り付けられてもよい。
本実施形態において、表示装置140は、画像を出力する。表示装置140は、制御装置170からの指示に従って画像を出力したり、画像の出力を停止したりしてよい。制御装置170からの指示に従って画像の明るさ又はコントラストを調整してもよい。表示装置140としては、ディスプレイ、プロジェクタなどが例示される。
本実施形態において、表示領域142には、表示装置140の出力する画像(出力画像と称される場合がある。)が表示される。本実施形態において、表示領域142は、筐体130に配される。これにより、周辺データ生成装置152の光軸の向きと、表示領域142の法線ベクトルの向きとが略一致する。
本実施形態において、環境センサ150は、表示領域142の周辺環境に関する各種の情報を取得する。環境センサ150は、上記の各種の情報を取得するための1以上のセンサを含んでよい。上記のセンサとしては、各種の画像を取得するセンサ、音声を取得するセンサ、明るさを検出するセンサ、温度を検出するセンサ、距離又は深度を検出するセンサなどが例示される。環境センサ150は、上記の1以上のセンサが取得した情報を制御装置170に出力してよい。
本実施形態において、周辺データ生成装置152は、表示領域142の周辺に配された1以上の物体(遮蔽物と称される場合がある。)に関する情報(周辺データと称される場合がある。)を生成する。周辺データ生成装置152は、生成された周辺データを制御装置170に出力する。表示領域142の周辺としては、表示領域142の視野角の範囲内の位置、表示領域142からの距離が予め定められた数値範囲である位置などが例示される。
例えば、周辺データ生成装置152は、表示領域142の周辺に配された1以上の遮蔽物と、表示領域142との相対位置を示す情報を生成する。各遮蔽物及び表示領域142の相対位置を示す情報としては、(i)表示領域142の代表点と、各遮蔽物の代表点との距離、(ii)表示領域142の代表点から各遮蔽物の代表点に向かう向き、(iii)表示領域142の代表点から各遮蔽物の代表点に向かう1以上のベクトルのそれぞれの大きさ及び向きなどが例示される。周辺データ生成装置152は、遮蔽物の位置、形状及び大きさの少なくとも1つを示す情報を生成してもよい。
遮蔽物は、寸法に関する条件を満足する物体であってよい。寸法に関する条件としては、幅、高さ及び奥行きの少なくとも1つの大きさが予め定められた値より大きいという条件が例示される。遮蔽物は、当該物体が閲覧者及び表示領域142の間に配された場合に、閲覧者の視線を遮ることができる程度の大きさを有する物体であってよい。遮蔽物は、光の透過を抑制する物体であることが好ましい。しかしながら、遮蔽物が光の透過を抑制する程度は特に限定されない。遮蔽物は、ガラスのように透明な物体、及び/又は、格子のように貫通孔が形成された物体を含んでもよい。遮蔽物は、静止した物体であってよもよく、予め定められた範囲内で移動可能に構成された物体であってもよい。遮蔽物としては、家具、装飾品、電化製品、床、天井、壁、柱、梁、ドア、窓などが例示される。
一実施形態において、周辺データ生成装置152は、上記の周辺データとして、表示領域142の周辺に配された1以上の物体を被写体とする画像のデータ(画像データと称される場合がある。)を生成する。遮蔽物を被写体とする画像としては、二次元画像、ステレオ画像などが例示される。他の実施形態において、周辺データ生成装置152は、上記の周辺データとして、表示領域142の周辺に配された1以上の遮蔽物の三次元点群データ又は距離データ(三次元データと称される場合がある)を生成する。
三次元データの測定精度は特に限定されない。また、三次元データは、遮蔽物の一部に関する情報が欠落していてもよく、遮蔽物の一部の情報が他の情報から類推された情報であってもよい。距離データは、相対距離を示す情報、距離的な順位指標を示す情報等が含んでもよい。
周辺データ生成装置152が三次元データを生成する場合、表示領域142の周辺の三次元仮想空間が構築され得る。これにより、遮蔽物により第三者の視線が遮蔽される度合いの算出手順が簡素化される。その結果、上述された遮蔽物の配置状況を示す指標を導出するための計算量が削減され得る。
なお、周辺データ生成装置152は、三次元データを生成しなくてもよい。この場合であっても、遮蔽物により第三者の視線が遮蔽される度合いは、周辺データ生成装置152が生成した画像データに基づき導出され得る。特に、周辺データ生成装置152及び表示領域142の位置座標が略同一であり、且つ、周辺データ生成装置152の光軸の方向と、及び表示領域142の法線ベクトルの方向とが略平行である場合には、遮蔽物により第三者の視線が遮蔽される度合いが精度よく導出される。
周辺データ生成装置152としては、(i)画像を撮像するセンサ、(ii)音波、超音波又は電磁波を利用して対象物との距離を測定するセンサなどが例示される。より具体的には、周辺データ生成装置152としては、イメージセンサ、カメラ、ステレオカメラ、LiDAR、単眼カメラ深度距離計測装置(単眼デプス推定装置と称される場合がある。)などが例示される。上記のカメラに、魚眼レンズ、超広角レンズなどの光学部材が取り付けられてもよい。これにより、カメラの画角が増加する。
周辺データ生成装置152の視野角(画角と称される場合がある。)は、表示領域142の視野角よりも大きくてよい。この場合、情報漏洩抑制システム100は、例えば、周辺データ生成装置152が生成した単一の画像データ又は単一の三次元データに基づいて、表示領域142が設置される方向(設置方向と称される場合がある。)の異なる複数の場合について、表示領域142の安全性を評価することができる。これにより、表示領域142の安全性が精度よく評価され得る。表示領域142の安全性としては、特定の位置及び方向に設置された表示領域142の安全性、表示領域142の設置位置の安全性、表示領域142の設置位置及び設置方向の安全性などが例示される。
表示領域142の設置方向は、上述された情報処理端末の向きの一例であってよい。表示領域142の設置方向は、表示領域142の法線ベクトルの向きにより表されてもよく、表示領域142の前後の軸、上下の軸、及び、左右の軸の少なくとも1つの軸の周りの回転により表されてもよい。
表示領域142が筐体130に収容される場合、表示領域142の設置位置は、ユーザ端末120の設置位置と略一致する。また、この場合、表示領域142の設置方向は、ユーザ端末120の設置方向と略一致する。
本実施形態において、カメラ154は、複数の静止画像(フレームと称される場合がある。)を含む動画のデータ(動画データと称される場合がある。)を生成する。例えば、カメラ154は、表示領域142の設置予定場所又は設置場所(上述されたとおり、単に、設置位置と表記される場合がある。)の周辺を撮像し、動画データを生成する。カメラ154は、生成された動画データを制御装置170に出力する。カメラ154は、二次元画像を撮像するためのイメージセンサであってもよく、赤外線画像(熱画像と称される場合がある)を撮像する赤外線カメラであってもよい。
本実施形態において、カメラ154は、筐体130に配される。本実施形態においては、表示領域142も筐体130に配されていることから、カメラ154が動画を撮像した位置(撮像位置と称される場合がある。)と、表示領域142又はユーザ端末120の設置位置とが略一致する。また、カメラ154の光軸の向きと、表示領域142の法線ベクトルの向きとが略一致する。そのため、カメラ154が動画を撮像した方向(撮像方向と称される場合がある。)と、表示領域142又はユーザ端末120の設置方向とが略一致する。
なお、周辺データ生成装置152が撮像素子を備える場合、ユーザ端末120はカメラ154を備えなくてもよい。この場合、上記の撮像素子が、本実施形態に係るカメラ154と同様の機能を有してよい。
本実施形態において、照度センサ156は、表示領域142の設置位置の周辺の照度を測定する。照度センサ156は、測定結果を示す情報を制御装置170に出力する。
本実施形態において、入力装置160は、ユーザ端末120のユーザからの入力を受け付ける。入力装置160は、ユーザが入力した情報を制御装置170に出力する。入力装置160としては、キーボード、ポインティングデバイス、タッチパネル、マイクなどが例示される。
本実施形態において、制御装置170は、ユーザ端末120を制御する。制御装置170は、ユーザ端末120における各種の情報処理を実行する。例えば、制御装置170は、周辺データ生成装置152が取得したデータに基づいて、ユーザ端末120の設置位置及び/又は設置方向の安全性を評価する。制御装置170は、周辺データ生成装置152が取得したデータを、複数のアプリケーションプログラムに入力してよい。例えば、制御装置170は、周辺データ生成装置152が取得したデータを、複数のアプリケーションプログラムに入力するための仮想カメラドライバを備える。制御装置170の詳細は後述される。
制御装置170により実行される情報処理方法は、例えば、画像出力装置の出力する出力画像が表示される表示領域の周辺の状態を示す周辺状態情報を取得する周辺状態取得を有する。上記の情報処理方法は、例えば、周辺状態取得段階において取得された周辺状態情報により示される表示領域の周辺の状態に基づいて、画像出力装置のユーザとは異なる第三者による出力画像の閲覧可能性の程度を導出する閲覧可能性導出段階を有する。
制御装置170により実行される情報処理方法は、画像処理方法であってよい。上記の画像処理方法は、例えば、複数のフレームを含む動画のデータを取得する動画取得段階を有する。上記の画像処理方法は、例えば、(a)動画の各フレームを予め定められた複数の領域に区分し、(b)複数の領域のそれぞれについて、各領域に含まれる画素の画素値に基づいて、複数のフレームの間における各領域の色及び/又は明るさの変動を示す指標である変動指標の値を導出する変動指標導出段階を有する。上記の画像処理方法において、複数の領域のそれぞれは、例えば、1以上の画素を含む。
情報漏洩抑制システム100は、情報処理装置の一例であってよい。ユーザ端末120は、情報処理装置又は画像出力装置の一例であってよい。表示装置140は、画像出力装置の一例であってよい。カメラ154は、撮像装置の一例であってよい。撮像装置は、周辺状態取得部の一例であってよい。撮像装置は、周辺状態情報を生成し、当該周辺状態情報を周辺状態取得部に出力する装置の一例であってもよい。照度センサ156は、環境情報取得部の一例であってよい。照度センサ156は、環境情報を生成し、当該環境情報を環境情報取得部に出力する装置の一例であってもよい。制御装置170は、情報処理装置、画像出力装置、撮像装置、環境情報取得部又は出力制御部の一例であってよい。
表示装置140が出力する画像は、出力画像の一例であってよい。ユーザ端末120の安全性の程度は、出力画像の閲覧可能性の程度の一例であってよい。表示領域142の安全性の程度は、出力画像の閲覧可能性の程度の一例であってよい。周辺データ生成装置152が生成する遮蔽物に関する情報は、周辺データの一例であってよい。画像データは、周辺データの一例であってよい。三次元データは、周辺データの一例であってよい。
(別実施形態の一例)
本実施形態においては、表示領域142が表示装置140の一部である場合を例として、情報漏洩抑制システム100の一例が説明された。しかしながら、情報漏洩抑制システム100は、本実施形態に限定されない。他の実施形態において、表示領域142は、表示装置140から物理的に離れた位置に配される。例えば、表示装置140がプロジェクタである場合、表示領域142としてスクリーンが用いられる。
図2は、表示領域142及び周辺データ生成装置152の視野角を概略的に示す。図2に関連して説明される実施形態においては、表示領域142の代表点240と、周辺データ生成装置152の代表点250とが略一致する場合を例として、表示領域142及び周辺データ生成装置152の視野角の関係が説明される。図1に関連して説明されたとおり、本実施形態においては、表示領域142が表示装置140の一部であり、表示装置140及び周辺データ生成装置152が同一の筐体130に収容される。そのため、図2に示されるとおり、表示領域142の法線ベクトル242の方向と、周辺データ生成装置152の光軸252の方向とが略一致する。
本実施形態において、表示領域142の視野角(視野角θD又は画角と称される場合がある。)は、法線ベクトル242及びベクトル244のなす角度θDRの絶対値と、法線ベクトル242及びベクトル246のなす角度θDLの絶対値との和として導出される。同様に、本実施形態において、周辺データ生成装置152の視野角(視野角θC又は画角と称される場合がある。)は、光軸252及びベクトル254のなす角度θCRの絶対値と、光軸252及びベクトル256のなす角度θCLの絶対値との和として導出される。
(別実施形態の一例)
本実施形態においては、表示領域142の視野角が、周辺データ生成装置152の視野角よりも小さい場合を例として、情報漏洩抑制システム100の一例が説明された。例えば、表示領域142の表面に、第三者からの覗き見を防止するためのフィルムが貼付されている場合、表示領域142の視野角は、周辺データ生成装置152の視野角よりも小さくなり得る。しかしながら、情報漏洩抑制システム100は、本実施形態に限定されない。他の実施形態において、表示領域142の視野角は、周辺データ生成装置152の視野角より大きくてよい。
図3は、ユーザ端末120の配置の一例を概略的に示す。本実施形態においては、ユーザ端末120が作業部屋300の内部の位置A、位置B又は位置Cに配される場合を例として、ユーザ端末120の配置の一例が説明される。
本実施形態において、作業部屋300は、壁312と、壁314と、壁316と、壁318と、床320とを備える。本実施形態において、作業部屋300の内部には、遮蔽物330が配される。壁316の表面には、マーカ342、マーカ344及びマーカ346が配される。壁318には、ガラス窓322が配される。
(位置Aにおける安全性)
図3に示されるとおり、ユーザ端末120のユーザ22が、表示領域142の法線ベクトル242が図中下向きとなるように、ユーザ端末120を位置Aに設置する場合、表示領域142に表示される画像を閲覧可能な空間は、ベクトル244、ベクトル246、壁314及び床320により囲まれた空間となる。この場合、ユーザ22とは異なる第三者32及び第三者34は、表示領域142に表示される画像を閲覧することができない。
そのため、第三者32及び第三者34が、ユーザ端末120の出力画像に含まれる情報を閲覧する正当な権限を有していない場合であっても、当該情報が漏洩する可能性は小さく、位置Aにおけるユーザ端末120の安全性は高いと評価され得る。このように、制御装置170は、例えば、ユーザ端末120の設置位置の周辺に配された遮蔽物の配置を評価することで、ユーザ端末120の安全性を評価することができる。
(位置Bにおける安全性)
ユーザ端末120のユーザ22が、表示領域142の法線ベクトル242が図中右向きとなるように、ユーザ端末120を位置Bに設置する場合、表示領域142に出力される画像を閲覧可能な空間は、ベクトル244、ベクトル246、壁316、遮蔽物330及び床320により囲まれた空間となる。この場合、第三者32は、表示領域142に表示される画像を閲覧することができる。一方、第三者34は、表示領域142に表示される画像を閲覧することができない。
本実施形態において、位置Bと、壁318との距離Lbは、位置Aと、壁314との距離Laよりも大きい。そのため、ユーザ端末120を位置Bに設置する場合には、ユーザ端末120を位置Aに設置する場合と比較して、上記の画像を閲覧可能な空間の大きさが大きくなり、第三者32が当該空間内に侵入する可能性も大きくなる(つまり、安全性は低下する)。
そのため、制御装置170は、上記の空間の内部における第三者の有無、上記の空間の内部への第三者の侵入の有無などを考慮して、位置Bにおけるユーザ端末120の安全性を評価することが好ましい。上述されたとおり、制御装置170は、例えば、ユーザ端末120の設置位置の周辺において物体の動き又は光の揺らぎが検出される程度を評価することができる。これにより、制御装置170は、ユーザ端末120の安全性を精度よく評価することができる。
加えて、本実施形態によれば、ユーザ22の背後に位置する壁318にガラス窓322が配されている。そのため、制御装置170は、ガラス窓322の外部に存在する第三者が出力画像を閲覧する可能性を考慮して、位置Bにおけるユーザ端末120の安全性を評価することが好ましい。
特に、ガラス窓322の外部が作業部屋300の内部よりも暗い場合には、ガラス窓322の外部が作業部屋300の内部よりも明るい場合と比較して、周辺データ生成装置152又はカメラ154が取得した情報に基づいてガラス窓322の外部に存在する第三者を検出することが難しい。そのため、上記の空間中にガラス窓322が存在する場合、及び/又は、ガラス窓322の外部が作業部屋300の内部よりも暗い場合には、位置Bにおけるユーザ端末120の安全性が低下する。
上述されたとおり、制御装置170は、例えば、ユーザ端末120の設置位置の周辺の明るさを評価することができる。制御装置170は、ガラス窓322の明るさを評価することで、ガラス窓322の外部の明るさを評価してよい。これにより、制御装置170は、ユーザ端末120の安全性を精度よく評価することができる。
(位置Cにおける安全性)
ユーザ端末120のユーザ22が、表示領域142の法線ベクトル242が図中右向きとなるように、ユーザ端末120を位置Cに設置する場合、表示領域142に出力される画像を閲覧可能な空間は、ベクトル244、ベクトル246、壁318及び床320により囲まれた空間となる。第三者32及び第三者34は、表示領域142に表示される画像を閲覧することができない
本実施形態によれば、ユーザ22の背後に位置する壁316にマーカ342、マーカ344及びマーカ346が配される。本実施形態において、マーカ342及びマーカ344は、上記の空間の内部に配される。一方。マーカ346は、上記の空間の外部に配される。ユーザ22がユーザ端末120を使用している期間中、制御装置170は、環境センサ150が取得したデータを解析して、マーカ342及びマーカ344を検出する。制御装置170がマーカ342及びマーカ344の少なくとも一方を検出することができなくなった場合、制御装置170は、例えば、何らかの原因によりユーザ端末120の安全性が低下したと判定する。上記の原因としては、ユーザ端末120と壁316との間に第三者が侵入したこと、ユーザ端末120の設置位置及び設置方向の少なくとも一方が変更されたことなどが例示される。
このように、制御装置170は、ユーザ端末120の周辺に配された各種のマーカを利用して、ユーザ端末120の安全性を精度よく評価することができる。これにより、情報の漏洩が高度に防止され得る。
マーカ342、マーカ344及びマーカ346には、各種の情報が付与され得る。制御装置170は、各マーカに付与された情報を利用してユーザ端末120の安全性を評価することができる。これにより、安全性の判定精度がさらに向上する。そのため、位置Cにおけるユーザ端末120の安全性がさらに向上する。各マーカの詳細は後述される。
(制御装置170における情報処理の概要)
図3に示されるとおり、ユーザ端末120のユーザ22とは異なる第三者32又は第三者34により出力画像が閲覧される可能性(閲覧可能性と称される場合がある。)の程度は、ユーザ端末120の設置位置及び設置方向によって大きく異なる。しかしながら、ユーザ22が閲覧可能性の程度を客観的に把握することは難しい。そのため、ユーザ22が、感覚的に安全だと考えた場所にユーザ端末120を設置した場合であっても、当該設置位置の周辺に存在する遮蔽物の配置の状況によっては、客観的には閲覧可能性の程度が大きいということがあり得る。なお、閲覧可能性の程度が大きいほど、第三者の覗き見による情報漏洩のリスクが大きく、安全性が小さい。
そこで、本実施形態において、制御装置170は、周辺データ生成装置152が生成した各種の周辺データに基づいて、上記の閲覧可能性の程度を導出する。これにより、ユーザ端末120の設置位置及び設置方向の安全性が客観的に担保され得る。閲覧可能性の程度を導出するための手順の詳細は後述される。
(マーカの概要)
マーカ342、マーカ344及びマーカ346のそれぞれは、各種の情報を含むことができる。マーカ342、マーカ344及びマーカ346のそれぞれは、制御装置170が各マーカを識別するための識別情報を含んでよい。マーカ342、マーカ344及びマーカ346のそれぞれは、AR(Augmented Reality)マーカ、QRコード(登録商標)、バーコードなどの符号化コードであってもよい。
マーカ342、マーカ344及びマーカ346のそれぞれがARマーカとして利用される場合、各マーカは、例えば、各マーカに対応する物体の三次元モデルに関する情報を含む。これにより、制御装置170は、作業部屋300に対応する三次元仮想空間における各マーカの位置に、各マーカにより示される物体に対応する三次元モデルを配置することができる。
マーカ342は、例えば、マーカ342の検出位置の右側に、遮蔽物330の三次元モデル又は遮蔽物330を模した点群を発生するための情報を含む。これにより、制御装置170は、三次元仮想空間上に、遮蔽物330に対応する三次元モデルを構築することができる。マーカ342は、マーカ342の検出位置の左側に、予め定められた幅及び高さを有する三次元モデル又は点群を発生させるための情報を含んでもよい。これにより、制御装置170は、三次元仮想空間上に、壁316の一部に対応する三次元モデルを構築することができる。
マーカ344は、例えば、マーカ344の検出位置の右側に、予め定められた幅及び高さを有する三次元モデル又は点群を発生させるための情報と、マーカ344の検出位置の左側に、予め定められた幅及び高さを有する三次元モデル又は点群を発生させるための情報とを含む。これにより、制御装置170は、三次元仮想空間上に、壁316の一部の三次元モデルを構築することができる。
マーカ346は、例えば、マーカ346の検出位置の右側に、予め定められた幅及び高さを有する三次元モデル又は点群を発生させるための情報を含む。これにより、制御装置170は、三次元仮想空間上に、壁316の一部に対応する三次元モデルを構築することができる。
ARマーカとしては、ArUco、カメレオンコードなどが例示される。しかしながら、ARマーカはこれらに限定されない。他の実施形態によれば、例えば、QRコード(登録商標)及びバーコードが、ARマーカとして利用される。さらに他の実施形態において、画像中の被写体がARマーカとして利用されてもよい。例えば、画像解析により画像中の被写体の中から既知の物体を検出する技術(例えば、各種の深層学習技術である。)を用いることで、当該既知の物体をARマーカとして利用することができる。上記の技術によれば、まず、道路標識、自販機、電子レンジ、本、椅子などの既知の物体の特徴を予め分類器に学習させる。次に、学習済みの分類器を用いて、画像中の被写体うち既知の物体の向き、当該物体と撮像装置との距離などを類推する。これにより、上記の物体の三次元座標が導出され得る。後述されるように、上記の物体の形状及び大きさが既知である場合、三次元仮想空間中に、上記の物体の三次元モデルが構築され得る。
例えば、マーカ342、マーカ344若しくはマーカ346がQRコード(登録商標)若しくはバーコードである場合、又は、既知の物体がARマーカとして利用される場合、制御装置170は、マーカの識別情報と、当該マーカが検出された場合における情報処理の内容とを対応付けて格納するデータベースを参照して、当該マーカが検出された場合における情報処理を実行してよい。上述されたとおり、上記の情報処理は、作業部屋300又はその一部が電子的に再現された三次元仮想空間に関する情報処理であってよい。
三次元仮想空間に関する情報処理は、例えば、上記の三次元仮想空間中の位置であって、現実世界におけるマーカ検出位置に対応する位置を特定する段階と、特定された三次元仮想空間中の位置に、当該マーカに予め対応付けられた点群又は三次元モデルを発生させる段階とを含む。この場合、上記のデータベースには、例えば、マーカの識別情報と、点群又は三次元モデルの形状及び大きさを示す情報とが対応付けて格納されている。
画像の被写体にマーカが付されることにより、制御装置170における情報処理の負荷が大きく軽減され得る。例えば、(i)マーカの寸法、並びに、(ii)表示領域142及び周辺データ生成装置152の相対的な位置関係が既知である場合、制御装置170は、当該マーカが写り込んだ二次元画像に基づいて、表示領域142と、マーカが付された物体との相対的な位置関係を決定することができる。制御装置170は、当該マーカが映り込んだ二次元画像に基づいて、マーカの法線ベクトルの向き(マーカの姿勢と称される場合がある。)を決定してもよい。
例えば、マーカの寸法が既知である場合、当該マーカが写り込んだ二次元画像に基づいて、周辺データ生成装置152及びマーカの相対的な位置関係が決定され得る。また、表示領域142及び周辺データ生成装置152の相対的な位置関係が既知である場合、周辺データ生成装置152及びマーカの相対的な位置関係に基づいて、表示領域142及びマーカの相対的な位置関係が決定され得る。
マーカが写り込んだ二次元画像に基づいて、周辺データ生成装置152及びマーカの相対的な位置関係を決定する手順は、例えば、当該二次元画像を解析して当該マーカのカメラ座標を決定する手順を含む。マーカのカメラ座標を決定するための処理は、例えば、公知のライブラリを用いて実現され得る。上述された公知のライブラリとしては、OpenCVのライブラリが例示される。OpenCVのライブラリにおいては、カメラに関する1以上の項目が設定可能に構成される。上記の項目としては、解像度、FPS、焦点距離、上下方向の歪み、左右方向の歪みなどが例示される。
マーカのカメラ座標を決定するための処理は、例えば、カメラのキャリブレーション処理と、三次元再構成処理とを含む。三次元再構成処理は、例えば、カメラ座標系、画像座標系、及び、マーカ座標系を用いて、座標変換行列を計算することで実現される。座標変換行列は、回転行列と、平行移動行列とを含んでよい。
座標系算出処理の誤差が大きい場合、制御装置170は、周辺データ生成装置152が撮像した複数のフレームにおけるマーカの座標情報を平均化することで、当該マーカの座標を算出してもよい。上記のフレーム数は、4フレーム以上であってもよく、8フレーム以上であってもよい。これにより、誤差が小さくなり得る。また、インスタンスが特定される前に、上記の平均が算出され得る。なお、複数のフレームのそれぞれにおけるマーカの座標のバラツキ具合が予め定められた程度を超えた場合、制御装置170は、周辺データ生成装置152が動いたと判定し、上記の平均化処理を中断してよい。
上述されたとおり、本実施形態によれば、制御装置170は、マーカが検出された位置に、当該マーカにより指定される点群又は3次元モデルを発生させることができる。これにより、例えば、上記の物体の輪郭を特定する処理が不要になったり、上記の物体を単純な形状の点群又はモデルに置き換えたりすることができる。その結果、表示領域142と、マーカが付された物体との相対的な位置関係を決定するための処理の計算量が大幅に削減される。特に、1組のマーカ(1組当たりのマーカの個数は限定されるものではないが、例えば、一対のマーカである。)が遮蔽物の端部に付されている場合、遮蔽物の配置を特定するための処理の計算量が大幅に削減される。
上述されたとおり、マーカ342、マーカ344及びマーカ346のそれぞれは、例えば、1以上のマーカのそれぞれを識別するための識別情報、及び/又は、各マーカの位置の周辺に生成される点群又は3次元モデルに関する情報を表すパターンを含む。上記の点群に関する情報は、生成される点群又は3次元モデルのワールド座標系における寸法を示す情報を含んでよい。上記の寸法を示す情報は、形状を示す情報と、大きさを示す情報とを含んでよい。
マーカ342、マーカ344及びマーカ346のそれぞれは、各マーカの寸法を示す情報を含んでもよく、各マーカが付された物体に関する情報を含んでもよく、各マーカが付された場所の閲覧可能性の程度に関する情報を含んでもよい。各マーカが付された物体に関する情報は、光を透過させやすい物体であることを示す情報を含んでよい。光を透過させやすい物体としては、ガラス、格子、パンチングメタルなどが例示される。
なお、本実施形態によれば、現実空間においてARマーカが配されていない物体は、三次元空間に反映されない。例えば、現実空間において幅6m高さ3mの壁に、幅1m高さ3mの壁を示す6個のARマーカが水平方向に1mごとに配置されている場合、三次元空間中には幅6m高さ3mの壁が出現する。一方、現実空間において、上記の壁に、幅1m高さ3mの壁を示す3個のARマーカが2mごとに配置されている場合、三次元仮想空間中には幅1m高さ3mの壁が3個出現し、各壁の間には1mの隙間が配される。このように、三次元仮想空間を利用して閲覧可能性の程度を算出する場合、現実空間におけるARマーカの配置が、閲覧可能性の程度の算出結果に影響を与える可能性がある。
壁312は、1以上の物体又は遮蔽物の一例であってよい。壁314は、1以上の物体又は遮蔽物の一例であってよい。壁316は、1以上の物体又は遮蔽物の一例であってよい。壁318は、1以上の物体又は遮蔽物の一例であってよい。床320は、1以上の物体又は遮蔽物の一例であってよい。ガラス窓322は、1以上の物体又は遮蔽物の一例であってよい。遮蔽物330は、1以上の物体又は遮蔽物の一例であってよい。
マーカ342は、1以上のマーカの一例であってよい。マーカ344は、1以上のマーカの一例であってよい。マーカ346は、1以上のマーカの一例であってよい。壁316は、1以上のマーカが付された1以上の物体又は被写体の一例であってよい。
図4及び図5を用いて、制御装置170における情報処理の一例が説明される。図4は、制御装置170がユーザ端末120の安全性を評価するための処理の一例を概略的に示す。図5は、ステップ416における処理の一例を概略的に示す。
図4に示されるとおり、本実施形態によれば、まず、ステップ412(ステップがSと省略される場合がある。)において、制御装置170が、ユーザ22からユーザ端末120への指示であって、ユーザ端末120又はユーザ端末120の上で動作するプログラムを起動させるための指示(起動指示と称される場合がある。)を受け付ける。上記のプログラムは、BIOS、OS又はアプリケーションプログラムであってよい。アプリケーションプログラムは、予め指定されたアプリケーションプログラムであってもよく、ユーザ端末120の安全性を評価するためのアプリケーションプログラムであってもよい。
制御装置170がユーザ22からの起動指示を受け付けると、制御装置170は、ユーザ22からの指示に対応する起動処理の実行を開始するとともに、ユーザ端末120の安全性を評価するためのアプリケーションプログラム(安全性評価プログラムと称される場合がある。)の実行を開始する。
安全性評価プログラムが実行されると、制御装置170は、環境センサ150から、ユーザ端末120の周辺に関する各種の情報を取得する。上記の起動処理が実行された直後は、ユーザ端末120の安全性を精度よく評価するために十分な量のデータが収集されない場合がある。このような場合、ユーザ端末120の安全性が確認されるまで、起動処理により示されるプログラムの実行を中断することが考えられる。しかしながら、上記の手法によれば、ユーザ22のユーザ体験が低下する。また、ユーザ端末120又はプログラムの起動直後は、ユーザ22が周囲の安全性を確認している可能性が高い。
そこで、本実施形態によれば、S414において、制御装置170は、ユーザ端末120の安全性の評価に関する設定を決定する。例えば、制御装置170は、(i)少ない量のデータに基づいてユーザ端末120の安全性を評価するための第1設定と、(ii)十分な量のデータに基づいてユーザ端末120の安全性を精度よく評価するための第2設定とを有する。上記の第1設定及び第2設定のそれぞれは、安全性を評価するための各種指標の値を導出するための設定(指標設定と称される場合がある)、及び、各種指標の値に基づいて安全性に関する評価値を導出するための設定(評価設定と称される場合がある。)の少なくとも一方を含んでよい。
後述されるとおり、各種指標の値が導出される過程において、環境センサ150により収集されるデータの量も増加する。そのため、S414において、制御装置170は、指標設定を決定し、評価設定を決定しなくてもよい。これにより、計算量が削減される。
指標設定としては、ユーザ端末120の安全性に関する1以上の指標のうち、ユーザ端末120の安全性を評価するための処理に用いられる指標の種類を示す設定、上記の指標の値を導出するための関数又はアルゴリズムに関する設定、上記の関数又はアルゴリズムに含まれるパラメータに関する設定などが例示される。評価設定としては、上記の指標の値に基づいて評価値を導出するための関数又はアルゴリズムに関する設定、上記の関数又はアルゴリズムに含まれるパラメータに関する設定などが例示される。
例えば、起動指示が受け付けられてからの経過時間が予め定められた条件を満足する場合、制御装置170は、第1設定に基づいてユーザ端末120の安全性を評価することを決定する。一方、起動指示が受け付けられてからの経過時間が予め定められた条件を満足しない場合、制御装置170は、第2設定に基づいてユーザ端末120の安全性を評価することを決定する。予め定められた条件としては、上記の経過時間の長さが予め定められた第1閾値よりも小さいという条件が例示される。
これにより、例えば、上記の起動処理が実行された直後のように、ユーザ端末120の安全性を精度よく評価するために十分な量のデータが収集されない場合であっても、制御装置170は、一定の安全性を担保しつつ、ユーザ端末120又はプログラムの起動処理を続行することができる。これにより、ユーザ22のユーザ体験が向上する。
次に、S416において、制御装置170は、ユーザ端末120の使用環境の安全性を評価するための処理を実行する。制御装置170は、S414で決定された指標設定に従って、環境センサ150が取得した各種のデータに基づいて、ユーザ端末120の安全性に関する1以上の指標のそれぞれの値(指標値と称される場合がある。)を導出する。制御装置170は、S414で決定された評価設定に従って、上記の指標の値に基づいてユーザ端末120の安全性を評価する。具体的には、上記の指標の値に基づいて、ユーザ端末120の安全性の程度を示す評価値を導出する。
一実施形態において、制御装置170は、表示領域142の現在の設置位置及び現在の設置方向に基づいて、現在のユーザ端末120の安全性に関する評価値を導出する。他の実施形態において、制御装置170は、ユーザ端末120安全性の評価が予め定められた基準を満足するような、表示領域142の設置位置及び設置方向の組み合わせ(パターンと称される場合がある。)を決定する。表示領域142の設置位置は、数値により表されてもよく、数値範囲により表されてもよい。表示領域142の設置方向は、数値により表されてもよく、数値範囲により表されてもよい。
例えば、制御装置170は、上述された閲覧可能性の程度が予め定められた値よりも小さくなるようなパターンを決定する。上述されたとおり、表示領域142が筐体130に収容されている場合、表示領域142の設置位置及び設置方向と、ユーザ端末120の設置位置及び設置方向とは略一致する。指標値の導出手順及び評価値の導出手順の詳細は後述される。
次に、S420において、制御装置170は、ユーザ端末120の安全性の評価値が予め定められた数値範囲(許容範囲と称される場合がある。)の範囲内であるか否かを判定する。上記の数値範囲は、上限及び下限の一方が定められていてもよく、上限及び下限の両方が定められていてもよい。
制御装置170は、ユーザ体験及びシステムの安定性を考慮して、ユーザ端末120の安全性の評価値の変動に対する上記の判定の感度又は応答性を調整してよい。後述されるとおり、ユーザ端末120の安全性の評価値が許容範囲外である場合、S432において、ユーザ端末120の使用を制限するための処理(使用制限処理と称される場合がある。)が実行され得る。また、ユーザ端末120の安全性の評価値が許容範囲内に戻ると、上記の使用制限が解除され得る。上記の判定の感度又は応答性が高すぎると、ユーザ端末120の使用の制限と、当該制限の解除とが頻繁に繰り返される。その結果、画面の表示が不安定になり、ユーザ体験が低下する。
本実施形態によれば、上記の使用制限及び制限解除が切り替わる頻度が予め定められた値よりも小さくなるように、上記の判定の感度又は応答性が調整される。これにより、システムが安定し、ユーザ体験も向上する。上記の判定の感度又は応答性を調整する手法は、特に限定されるものではなく、公知の任意の手法が採用され得る。
一実施形態において、制御装置170は、微小時間における評価値の変化量の積分値に基づいて、当該評価値が許容範囲外であると判定してよい。制御装置170は、微小時間における評価値の変化量の積分値に応じた度合いが予め定められた基準を満足するか否かにより、当該評価値が許容範囲外であるか否かを判定してよい。上記の微小時間の長さは、0.1秒から1秒の間であってもよく、0.5秒前後であってもよい。これにより、使用制限の応答性と、システムの安定性とのバランスが調整される。その結果、ユーザの使用体験が向上する。
制御装置170は、上記の微小時間内での評価値の変化の積分値に応じた度合いに比例して、ユーザー端末の表示領域142の使用を制限してよい。上記の積分値が予め定められた値(上限値と称される場合がある。)よりも大きい場合、制御装置170は、表示領域142に表示される1以上のウインドウの少なくとも一部の内部の色、模様又は明るさを変更して、当該ウインドウに表示される情報の見読性を低下させてもよい。制御装置170は、1以上のウインドのうち、最大の大きさを有するウインドウの内部の色、模様又は明るさを変更してよい。制御装置170は、上記のウインドの内部の色をグレー、白又は黒に変更してよい。制御装置170は、上記のウインドの内部の色をグレーに変更(グレー化と称される場合がある。)してよい。ウインドウは、ユーザ端末120の上で動作する各プログラムに割り当てられた表示領域であってよい。
上記の積分値が予め定められた値(下限値と称される場合がある。)よりも小さい場合、制御装置170は、例えば、表示領域142に100%のソース画像出力を実行する。これにより、最大の見読性が実現される。上記の積分値が上記の下限値以上上限値以下である場合、制御装置170は、当該積分値に応じて、上述された色、模様又は明るさの変更態様を決定してよい。例えば、制御装置170は、上記の積分値に応じて、グレー化(半透明)の度合いを決定する。これにより、上記の積分値に応じて、見読性の度合いが制限され得る。
制御装置170は、ユーザ又はその他の権限者からの指示に基づいて、上記の使用制限処理を一時的に解除してよい。制御装置170は、ユーザ又はその他の権限者からの指示に基づいて、上述された各種の閾値(例えば、上記の上限値及び/又は下限値である。)を緩和してもよい。使用制限処理を解除可能な時間、又は、閾値を緩和可能な時間は、例えば、ユーザ又はその他の権限者により予め決定される。上記の権限者としては、ユーザの上司、システム管理者などが例示される。
例えば、ユーザがリモート会議において発言している最中に、当該リモート会議用のプログラムに割り当てられたウインドウのグレー化の度合いが徐々に大きくなってきた場合、グレー化の進行を止めなければユーザ体験が低下する。上記の実施形態によれば、このような場合であっても、一時的にグレー化の進行を止めたり、グレー化を解除したりすることができる。これにより、ユーザ体験の低下が抑制される。
他の実施形態において、制御装置170は、上記の評価値が許容範囲外である状態の継続時間の長さが予め定められた値よりも大きくなった場合に、当該評価値が許容範囲外であると判定してよい。これにより、上記の評価値が突発的に許容範囲外となった場合に、当該評価値が許容範囲外であると判定されることが防止される。その結果、ユーザの使用体験が向上する。
制御装置170は、S416において得られたユーザ端末120の使用環境の安全性に関する評価結果に基づいて、上記の判定の感度又は応答性を調整してよい。制御装置170は、例えば、使用環境の安全性が予め定められた基準を満足する場合には、使用環境の安全性が当該基準を満足しない場合と比較して判定の感度又は応答性が低下するように、上記の判定の感度又は応答性を調整する。制御装置170は、例えば、使用環境の安全性の程度が大きいほど判定の感度又は応答性が低下するように、上記の判定の感度又は応答性を調整する。これにより、ユーザの使用体験が向上する。
ユーザ端末120の安全性の評価値が許容範囲内である場合(S420のYesの場合)、S440の処理に進む。一方、ユーザ端末120の安全性の評価値が許容範囲外である場合(S420のNoの場合)、S430において、制御装置170は、ユーザ22からの起動指示に基づいてユーザ端末120又はプログラムが起動してからの経過時間の長さが、予め定められた第2閾値より大きいか否かを判定する。上記の経過時間は、起動指示が受け付けられてからの経過時間であってもよく、ユーザ端末120又はプログラムの起動処理が完了してからの経過時間であってもよく、制御装置170がユーザ端末120又はプログラムの起動を検知してからの経過時間であってもよい。
S430において、例えば、上記の経過時間が第2閾値よりも大きい場合(S430のYesの場合)、S432において、制御装置170は、上述された使用制限処理を実行する。使用制限処理としては、ユーザ22からの指示の受け付けを制限するための処理、表示領域142に表示される画面をロックするための処理、表示領域142に予め定められた画像を表示するための処理、表示領域142に警告を表示するための処理、表示領域142の明るさを調整して画面を暗くするための処理、表示装置140の視野角を小さくするための処理などが例示される。
表示領域142に予め定められた画像を表示するための処理において、当該画像は、画面の全体に表示されてもよく、画面の一部に表示されてもよい。表示領域142に予め定められた画像を表示するための処理において、当該画像は、半透明の画像であってもよい。表示領域142に予め定められた画像を表示するための処理は、使用制限処理が実行されなければ表示されていた画面の少なくとも一部を非表示にするための処理であってもよく、使用制限処理が実行されなければ表示されていた画面の少なくとも一部に半透明の画像を重畳するための処理であってもよい。
制御装置170は、S416において得られたユーザ端末120の使用環境の安全性に関する評価結果に基づいて、使用制限処理の種類及び/又は程度を決定してもよい。上記の評価結果としては、(i)ユーザ端末120の安全性に関する1以上の指標の少なくとも1つの指標値、(ii)ユーザ端末120の安全性に関する1以上の指標のうち、指標値の大きさが予め定められた条件を満足する指標値の種類、(iii)ユーザ端末120の安全性の程度を示す評価値などが例示される。予め定められた条件としては、指標値が予め定められた値よりも大きいという条件、指標値が予め定められた値以上であるという条件、指標値が予め定められた値よりも小さいという条件、指標値が予め定められた値以下であるという条件などが例示される。
制御装置170は、特定の指標の指標値が上記の予め定められた条件を満足する場合と、当該指標の指標値が当該条件を満足しない場合とで、使用制限処理の種類及び/又は程度が異なるように、使用制限処理の種類及び/又は程度を決定してよい。制御装置170は、予め定められた条件を満足する指標の組み合わせが特定の組み合わせである場合と、そうではない場合とで、使用制限処理の種類及び/又は程度が異なるように、使用制限処理の種類及び/又は程度を決定してもよい。
例えば、安全性の評価値が許容範囲外であっても、使用環境の安全性が予め定められた基準を満足している場合、制御装置170は、ユーザ22からの指示の受け付けを制限するための処理、表示領域142に表示される画面をロックするための処理、及び、表示領域142に警告を表示するための処理の少なくとも1つとは異なる処理を、使用制限処理として決定する。この場合において、制御装置170は、表示領域142に予め定められた画像を表示するための処理、表示領域142の明るさを調整して画面を暗くするための処理、及び、表示装置140の視野角を小さくするための処理の少なくとも1つを、使用制限処理として決定してよい。これにより、例えば、使用環境が比較的安全である場合には、ユーザはユーザ端末120の使用を継続することができる。その結果、ユーザの使用体験が向上する。
使用制限処理の程度としては、明るさの変更量、視野角の変更量、重畳させる画像の大きさ、重畳させる画像の透明度などが例示される。制御装置170は、使用環境が安全であるほど、使用制限の程度が小さくなるように、使用制限処理の程度を決定してよい。制御装置170は、使用環境が安全であるほど、使用制限の程度が小さくなるように、使用制限処理の程度を決定してよい。これにより、例えば、使用環境が比較的安全である場合には、ユーザはユーザ端末120の使用を継続することができる。その結果、ユーザの使用体験が向上する。
ユーザ端末120の使用が制限されている間、制御装置170は、S416に関連して説明された処理を実行してもよく、当該処理を実行しなくてもよい。制御装置170が、ユーザ端末120の使用が制限されている期間中にS416に関連して説明された処理を実行する場合、当該期間中に安全性の評価値が許容範囲内に戻ることがあり得る。
この場合、制御装置170は、S432に関連して説明された処理又はS434に関連して説明される処理の実行を中止又は中断し、上記の制限を解除してよい。制御装置170は、例えば、ユーザ端末120の安全性の程度が予め定められた程度よりも大きい場合(つまり、第三者により出力画像が閲覧される可能性の程度が予め定められた程度よりも小さい場合)、本来の出力画像の出力を許可する。
制御装置170は、制御装置170がユーザ端末120の使用を制限するか否かを判定する場合と同様に、当該制限を解除するか否かの判定の感度又は応答性を調整してよい。これにより、使用制限及び制限解除の切り替わりが抑制される。その結果、ユーザの使用体験が向上する。
次に、S434において、制御装置170は、ユーザ22を誘導して、ユーザ端末120の安全性が向上するように、又は、ユーザ端末120の安全性が予め定められた基準を満足するように、ユーザ端末120の設置位置及び設置方向をユーザ22に調整させるための処理(誘導処理と称される場合がある)を実行する。これにより、制御装置170は、ユーザ22によるユーザ端末120の設置位置及び/又は設置方向の調整を支援することができる。
誘導処理としては、適切な設置位置及び/又は設置方向をユーザ22に案内するための処理(ガイド処理と称される場合がある。)が例示される。一実施形態において、制御装置170は、「表示領域142を、右の方に約10度向けてください」のようなメッセージを出力することで、ユーザ22を誘導する。制御装置170は、表示領域142に上記のメッセージを出力してもよく、上記のメッセージを音声で出力してもよい。他の実施形態において、制御装置170は、表示領域142に、周辺データ生成装置152及び/又はカメラ154が撮像した作業部屋300の室内の現在の画像と、安全性の基準を満足する設置位置及び設置方向のヒントとなる画像とを重畳して表示してよい。ヒントとなる画像としては、安全性が不十分である領域を強調するための画像、安全性が十分に確保されている領域を強調するための画像、表示領域142の調整方向を示すための画像などが例示される。ヒントとなる画像は、透明又は半透明の領域を有してもよい。
上述されたとおり、本実施形態の一例によれば、ユーザ端末120の安全性の評価値が許容範囲の範囲内であるか否かの判定における感度又は応答性が調整される。これにより、(i)利用環境又は表示領域142の表示内容に応じて、安全性の判定の基準となる1以上の閾値又はパラメータを動的に変更する機能、(ii)安全性の評価値が閾値を超えた後又は当該評価値が許容範囲の範囲外となった後、画面ロックなどのペナルティ又は使用制限が発現するまでの時間を遅延させるディレイ機能などが導入され得る。
例えば、執務室内なら部外者の侵入も少ないので安全とみなし、安全性の判定の基準となる閾値を下げるなど、環境や表示内容を自動判断し、動的に閾値を変更してもよいし、上席者などのオペレーションで閾値を変更してもよい。また、執務室かの自動判定では、無線接続の識別ID(一般にSIDという)で特定SIDの存在有無から執務室内と判断させてもよいし、有線接続あるいはその属性や特定サーバやインターフェースの存在で確認判断してもよい。
表示領域142の表示内容が機密情報である場合は、前述の閾値を上げて、安全性の判定を厳しく評価してもよい。ここでの表示内容の機密度合いの判定は、使用アプリケーション種類や、機密情報と感じるワードの登場度合いで自動評価させてもよい。以上の例外的な機能は、例えば、判定を下げるブーストボタンを導入して、利用者が欲するときや承認が得られた時に、ブーストボタン押下することで、閾値の動的緩和を実施してもよい。ブースト状態の解除は、時間で解除してもよいし、表示領域142の周辺の状態に大きな変動が検出されたタイミング(端末周辺状態で端末場所の移動や向きの変更、明暗などの大きな環境変化を検出したとき)で自動解除してもよい。
さらに制御装置170は、前述の表示領域142に表示される画面をロックするための処理、もしくは、安全性の程度が悪い時や、安全性の判定を明示的に緩和あるいは強化させている時のような例外的な状況下において、環境センサ150の取得した画像や情報の一部もしくは全部を保存してもよい。更にその保存情報の対象時間範囲は、例外的な状況の発生時間を包含する十分な時間であってもよいし、部分であってもよいし、離散していてもよい、少しでも関連する情報を対象してもよい。
(ガイド処理の詳細の一例)
本実施形態においては、周辺データ生成装置152及び/又はカメラ154の撮像方向と、表示領域142の法線方向とが略一致する。この場合、制御装置170は、例えば、下記の手順によりユーザ22によるユーザ端末120の設置位置及び/又は設置方向の調整を支援することができる。
一実施形態において、制御装置170は、表示装置140を制御して、(a)周辺データ生成装置152及び/又はカメラ154が撮像した作業部屋300の室内の現在の画像と、(b)S416において決定された設置位置及び設置方向の組み合わせに従って表示領域142が設置された場合における(i)作業部屋300の室内の画像(ガイド画像と称される場合がある)又は(ii)作業部屋300の室内の特徴点の位置を示すアイコン(ガイドアイコンと称される場合がある)と、が重畳された画像(調整用画像と称される場合がある。)を、表示領域142に表示させる。現在の画像と、ガイド画像又はガイドアイコンとは、公知の手法により重畳され得る。
制御装置170は、表示装置140を制御して、表示領域142の調整方向を示すアイコン(調整用アイコンと称される場合がある。)を表示領域142に表示させてもよい。制御装置170は、表示装置140を制御して、安全性が不十分である領域を強調するための画像、安全性が十分に確保されている領域を強調するための画像などを、表示領域142に表示させてもよい。
作業部屋300の室内の現在の画像は、例えば、S434において撮像された現在の二次元画像又は三次元データに基づいて生成される。一方、ガイド画像又はガイドアイコンは、例えば、S416において撮像された過去の二次元画像又は三次元データに基づいて生成される。
S416においては、撮像位置及び/又は撮像方向の異なる複数の二次元画像又は三次元データが取得され得る。制御装置170は、これらの二次元画像又は三次元データに基づいて、S416において決定された設置位置及び設置方向の組み合わせに従って表示領域142が設置された場合に、周辺データ生成装置152及び/又はカメラ154が撮像するであろう二次元画像又は三次元データを生成する。制御装置170は、上記の二次元画像又は三次元データに基づいて、ガイド画像又はガイドアイコンを生成する。
例えば、制御装置170は、周辺データ生成装置152及び/又はカメラ154が撮像した単一の二次元画像又はその一部をガイド画像として用いることを決定する。制御装置170は、上記の単一の二次元画像に基づいて、ガイドアイコンの表示位置を決定してもよい。制御装置170は、単一又は複数の周辺データ生成装置152及び/又はカメラ154が撮像した複数の二次元画像を合成して結合画像を生成し、当該結合画像又はその一部をガイド画像として用いることを決定してもよい。制御装置170は、上記の結合画像に基づいて、ガイドアイコンの表示位置を決定してもよい。
他の例において、制御装置170は、上述された三次元仮想空間を用いて、ガイド画像又はガイドアイコンを生成してもよい。例えば、まず、制御装置170は、S416において撮像された過去の二次元画像又は三次元データに基づいて、作業部屋300を構成する構造物及び/又は作業部屋300の内部に配された構造物の三次元モデルを生成する。制御装置170は、撮像位置及び/又は撮像方向の異なる複数の二次元画像又は三次元データに基づいて、上記の三次元モデルを生成してよい。
これにより、作業部屋300の三次元仮想空間が生成される。例えば、複数の二次元画像に写り込んだ複数のARマーカに基づいて、壁、柱、ドア、窓、家具などの三次元モデルが生成される。また、二次元画像を解析して得られたARマーカの位置及び姿勢に基づいて、生成された三次元モデルが、作業部屋300に対応する三次元空間中の適切な位置に配置される。
次に、制御装置170は、S416において決定された設置位置及び設置方向の組み合わせに従って表示領域142が設置された場合における、周辺データ生成装置152及び/又はカメラ154の位置及び方向(姿勢と称される場合がある。)を決定する。制御装置170は、作業部屋300の三次元仮想空間において、周辺データ生成装置152及び/又はカメラ154が上記の位置に及び上記の姿勢で配置されたと仮定して、周辺データ生成装置152及び/又はカメラ154が作業部屋300の内部を撮像した場合の画像を生成する。これにより、制御装置170は、ガイド画像又はガイドアイコンを生成することができる。
調整用画像又は調整用アイコンが表示領域142に表示されることにより、ユーザ22は、表示領域142に出力される画面を見ながら、ユーザ端末120の設置位置及び設置方向を調整することができる。例えば、ユーザ22は、作業部屋300の室内の現在の画像と、ガイド画像とが略一致するように、表示領域142の設置位置及び/又は設置方向を調整する。例えば、ユーザ22は、作業部屋300の室内の現在の画像における特徴点の位置と、調整用画像におけるガイドアイコンの位置とが略一致するように、表示領域142の設置位置及び/又は設置方向を調整する。
本実施形態によれば、表示領域142の視野角が、周辺データ生成装置152及び/又はカメラ154の視野角よりも大きい場合であっても、ユーザ端末120の設置位置及び設置方向が調整され得る。なお、本実施形態に係る調整方法は、表示領域142の視野角が、周辺データ生成装置152及び/又はカメラ154の視野角より小さい場合にも適用され得る。
本実施形態に係るユーザ端末120のように、周辺データ生成装置152及び/又はカメラ154がユーザ端末120に搭載されている場合、周辺データ生成装置152及び/又はカメラ154の種類によっては、ユーザ端末120の設置位置及び設置方向を調整するために、ユーザ22がユーザ端末120を動かしたときに、周辺データ生成装置152及び/又はカメラ154が撮像した画像に残像が強く写り込む場合がある。例えば、周辺データ生成装置152がレーザを用いたLiDARである場合には、ユーザ22がユーザ端末120を比較的速く動かしても、残像の写り込み量は極めて少ない。一方、周辺データ生成装置152及び/又はカメラ154がCMOSなどのイメージセンサである場合、ユーザ22がユーザ端末120を比較的速く動かすと、周辺データ生成装置152及び/又はカメラ154は鮮明な画像を取得することができない。また、周辺データ生成装置152及び/又はカメラ154が上述されたマーカを撮像する場合には、周辺データ生成装置152及び/又はカメラ154の動きの程度が大きくなると、マーカのカメラ座標を決定するための処理において、マーカの座標を精度よく算出することができない。
そこで、制御装置170は、ユーザ端末120の動かし方をガイドするための情報を出力してもよい。例えば、制御装置170は、ユーザ端末120の移動速度を示す指示、ユーザ端末120の移動速度が適切又は不適切であることを示す指示、ユーザ端末120を静止させるための指示などを出力する。上記の指示は、表示領域142に表示されてもよく、音声で出力されてもよい。
ガイド処理が実行されている間、制御装置170は、ユーザ端末120の安全性を繰り返し評価する。制御装置170は、例えば、ユーザ端末120の安全性の評価値が許容範囲内であるか否かを判定する。制御装置170は、表示領域142の設置位置及び設置方向がS416において決定された設置位置及び設置方向と略一致したか否かを判定してもよい。
ユーザ端末120の安全性の評価値が許容範囲内であると判定された場合、又は、表示領域142の設置位置及び設置方向がS416において決定された設置位置及び設置方向と略一致したと判定された場合、制御装置170は、ユーザ端末120が安全な位置に設置されたこと示すメッセージを出力する。例えば、制御装置170は、表示装置140を制御して、上記のメッセージを表示領域142に表示させる。制御装置170は、音声により上記のメッセージを出力してもよい。これにより、ユーザ22は、ユーザ端末120の設置位置及び設置方向を容易に調整することができる。
(誘導処理の別実施形態の一例)
本実施形態において、制御装置170は、常時、定期的又は任意のタイミングで、ユーザ端末120の安全性を繰り返し評価する。そのため、ユーザ端末120の動かし方に関するガイド情報が出力されない場合であっても、ユーザ22は、安全性の担保された位置及び方向にユーザ端末120を設置することができる。より具体的には、ユーザ22は、ユーザ端末120の設置位置及び/又は設置方向を任意に変更する。制御装置170は、ユーザ端末120の設置位置及び/又は設置方向が変更されるたびに、当該設置位置及び当該設置方向におけるユーザ端末120の安全性を評価し、当該評価の結果をユーザ22に提示する。これにより、ユーザ22は、安全性の担保された位置及び方向にユーザ端末120を設置することができる。
S434においてガイド処理が終了すると、制御装置170は、S416以降の処理を繰り返す。これにより、制御装置170は、引き続き、ユーザ端末120の安全性を監視することができる。
一方、S430において、例えば、上記の経過時間が第2閾値よりも小さい場合(S430のNoの場合)、S440において、制御装置170は、例えば、ユーザ22に対して、より適切な使用環境を提案すること希望するか否かを問い合わせる。例えば、ユーザ22が、上記の提案を希望することを示す情報をユーザ端末120に入力した場合(S440のYesの場合)、制御装置170は、上記の入力を受け付け、S434に関連して説明されたガイド処理を実行する。
一方、S440において、例えば、ユーザ22が、上記の提案を希望することを示す情報をユーザ端末120に入力しなかった場合、又は、上記の提案を希望しないことを示す情報をユーザ端末120に入力した場合(S440のNoの場合)、S440において、制御装置170は、例えば、ユーザ端末120又はS412において起動させたプログラムを終了させるか否かを判定する。具体的には、制御装置170は、ユーザ端末120又は上記のプログラムを終了させるための指示(終了指示と称される場合がある。)が受け付けられたか否かを判定する。
終了指示が受け付けられた場合(S450のYesの場合)、制御装置170はユーザ端末120又はプログラムを終了させる。これにより、処理が終了する。一方、終了指示が受け付けられていない場合(S450のNoの場合)、制御装置170は、S416以降の処理を繰り返す。これにより、制御装置170は、引き続き、ユーザ端末120の安全性を監視することができる。
(使用環境の安全性を評価するための処理の一例)
上述されたとおり、図5は、ステップ416における処理の一例を概略的に示す。図5に示されるとおり、本実施形態においては、制御装置170が、第1指標、第2指標、第3指標及び第4指標を含む複数の指標のそれぞれの値を総合的に判断して、ユーザ端末120の安全性を評価する場合を例として、ユーザ端末120の安全性を評価するための処理(評価処理と称される場合がある。)の詳細が説明される。なお、制御装置170が、複数の指標のそれぞれの値を総合的に判断してユーザ端末120の安全性を評価する場合であっても、ユーザ端末120の安全性が、結果的に、単一の指標の値に基づいて評価されることもあり得る。
上述されたとおり、S416に関連して説明される評価処理は、ユーザ端末120又はプログラムが起動している間、定期的に繰り返される。最初の評価処理が実行される場合、第1指標、第2指標、第3指標及び第4指標のそれぞれの種類は、例えば、S414において決定された指標設定に基づいて決定される。最初の評価処理においては、第1指標、第2指標、第3指標及び第4指標の少なくとも1つが導出されなくてもよい。
本実施形態によれば、まず、S512において、制御装置170は、複数の指標に含まれる第1指標の値を導出する。制御装置170は、例えば、S414において決定された指標設定に基づいて、第1指標の値を導出する。第1指標は、ユーザ端末120の設置位置の周辺において物体の動き又は光の揺らぎが検出される程度を示す指標であってよい。
S514において、制御装置170は、複数の指標に含まれる第2指標の値を導出する。制御装置170は、例えば、S414において決定された指標設定に基づいて、第2指標の値を導出する。第2指標は、ユーザ端末120の設置位置の周辺に存在する遮蔽物の配置状況を示す指標であってよい。第2指標は、上記の遮蔽物により表示領域142への第三者の視線が遮られる程度を示す指標であってよい。
S516において、制御装置170は、複数の指標に含まれる第3指標の値を導出する。制御装置170は、例えば、S414において決定された指標設定に基づいて、第3指標の値を導出する。第3指標は、ユーザ端末120の設置位置の周辺環境の状況を示す指標であってよい。
第3指標は、ユーザ端末120の設置位置の周辺における照度又は当該照度の分布若しくは変動を示す指標であってよい。第3指標は、ユーザ端末120の設置位置が属する地域における屋外の明るさを示す指標であってよい。第3指標は、ユーザ端末120の設置位置の周辺における温度分布の度合いを示す指標であってよい。第3指標は、ユーザ端末120の設置位置の周辺における視程の度合いを示す指標であってよい。第3指標は、ユーザ端末120の設置位置の周辺における浮遊物質、飛散物質若しくは臭気物質の濃度又は当該濃度の分布若しくは変動を示す指標であってよい。
S518において、制御装置170は、複数の指標に含まれる第4指標の値を導出する。制御装置170は、例えば、ユーザ端末120の設置位置の周辺において観測された物体又は事象に基づいて、第4指標の値を導出する。第4指標は、物体又は事象の種類に応じた情報漏洩のリスクを示す指標であってよい。例えば、制御装置170は、1以上の物体又は事象のそれぞれについて、物体又は事象の種類及び/又は属性と、当該物体又は事象が観測された位置から第三者が出力画像を閲覧する可能性の程度を示す値とが対応付けられたデータベースを参照して、実際に観測された物体又は事象の種類及び/又は属性に基づいて、上記の第4指標の値を決定する。
一実施形態において、S512、S514、S516及びS518に含まれる少なくとも2つのステップが、並列に実行される。他の実施形態において、S512、S514、S516及びS518に含まれる少なくとも2つのステップが、順番に実行される。
次に、S520において、制御装置170は、1以上の指標の値に基づいてユーザ端末120の安全性の程度を示す評価値を導出するための手順を決定する。本実施形態において、制御装置170は、S512、S514S、516及びS518の実行期間中に環境センサ150が取得した各種のデータに基づいて、上述された評価設定を決定する。
例えば、制御装置170は、(i)環境センサ150が取得した情報、及び/又は、(ii)現在時刻若しくは現在時刻が属する時間帯に基づいて、複数の指標のうち、評価値の導出に用いられる1以上の指標の種類を決定する。制御装置170は、(i)環境センサ150が取得した情報と、(ii)現在時刻若しくは現在時刻が属する時間帯と、(iii)ユーザ端末120の設置位置の緯度及び/又は経度とに基づいて、複数の指標のうち、評価値の導出に用いられる1以上の指標の種類を決定してよい。
例えば、制御装置170は、(i)環境センサ150が取得した情報、及び/又は、(ii)現在時刻若しくは現在時刻が属する時間帯に基づいて、評価値の導出に用いられる1以上の指標のそれぞれに設定される重みの値を決定する。制御装置170は、(i)環境センサ150が取得した情報と、(ii)現在時刻若しくは現在時刻が属する時間帯と、(iii)ユーザ端末120の設置位置の緯度及び/又は経度とに基づいて、複数の指標のうち、評価値の導出に用いられる1以上の指標のそれぞれに設定される重みの値を決定してよい。
次に、S530において、制御装置170は、1以上の指標の値に基づいてユーザ端末120の安全性の程度を示す評価値を導出する。制御装置170は、S520において決定された評価設定に基づいて、上記の評価値を導出する。例えば、制御装置170は、S512、S514及びS516において導出された複数の指標のそれぞれの値と、当該複数の指標のそれぞれに設定される重みの値とに基づいて、上記の評価値を導出する。これにより、制御装置170は、ユーザ端末120の安全性又は上述された閲覧可能性の程度を評価することができる。
ユーザ端末120の安全性を評価するための処理は、閲覧可能性を導出するための処理の一例であってよい。
(別実施形態の一例)
本実施形態においては、制御装置170が、複数の指標に基づいて、ユーザ端末120の安全性を評価する場合を例として、情報漏洩抑制システム100の詳細が説明された。しかしながら、情報漏洩抑制システム100は、本実施形態に限定されない。
他の実施形態において、制御装置170は、第1指標、第2指標、第3指標及び第4指標の少なくとも1つに基づいて、ユーザ端末120の安全性を評価してもよい。例えば、制御装置170は、1以上の指標のそれぞれの値を総合的に判断して、ユーザ端末120の安全性を評価する。さらに他の実施形態において、制御装置170は、予め定められた単一の指標の値に基づいてユーザ端末120の安全性を評価してもよい。
本実施形態においては、S432において使用制限処理が実行された後、S434において誘導処理が実行される場合を例として、情報漏洩抑制システム100の詳細が説明された。しかしながら、情報漏洩抑制システム100は、本実施形態に限定されない。
他の実施形態において、S434の手順が省略されてよい。例えば、制御装置170は、ユーザの指示又は設定に従って、S434の手順を省略してよい。
図6は、制御装置170の内部構成の一例を概略的に示す。本実施形態において、制御装置170は、例えば、周辺状態取得部610と、起動検知部622と、計時部624と、仮想空間構築部630と、安全管理部640と、配置決定部652と、配置支援部654と、出力制御部660と、格納部670とを備える。本実施形態において、周辺状態取得部610は、例えば、構造情報取得部612と、物性情報取得部614と、環境情報取得部616、属性情報取得部618とを有する。制御装置170を構成する各要素は、互いに情報を送受可能に構成される。
本実施形態において、周辺状態取得部610は、表示領域142の周辺の状態を示す情報(周辺状態情報と称される場合がある。)を取得する。周辺状態取得部610は、例えば、環境センサ150が生成した周辺状態情報を取得する。周辺状態取得部610は、周辺状態情報を安全管理部640に出力してよい。本実施形態において、表示領域142の周辺には、表示領域142の設置位置と、当該設置位置の近傍とが含まれ得る。
本実施形態において、構造情報取得部612は、表示領域142の周辺に配された1以上の物体の形状、大きさ及び/又は配置を示す情報(周辺データと称される場合がある。)を取得する。構造情報取得部612は、周辺データを、例えば安全管理部640に出力する。周辺データは、周辺状態情報の一例であってよい。
構造情報取得部612は、例えば、表示領域142の周辺に配された1以上の物体を被写体とする画像の画像データを取得する。構造情報取得部612は、例えば、周辺データ生成装置152から上記の画像データを取得する。上記の画像は、静止画像であってもよく、動画像であってもよい。上記の画像は、ステレオ画像であってよい。画像データは、周辺データの一例であってよい。
構造情報取得部612は、例えば、表示領域142の周辺に配された1以上の物体の三次元点群データ又は距離データを取得する。構造情報取得部612は、例えば、周辺データ生成装置152から上記の三次元点群データ又は距離データを取得する。距離データには、基準位置からの相対距離を示す情報、距離的な順位指標を示す情報が含まれてもよい。基準位置は、予め定められた特定の位置であってもよく、特定の物体であってもよい。三次元点群データ及び/又は距離データは、周辺データの一例であってよい。
距離的な順位指標としては、MiDaSnetなどの単眼カメラ深度推定技術を用いて導出される指標が例示される。上記の指標は、多くの場合、絶対距離に比例したものではなく、順位の参考指標として用いられ得る。例えば、学習した人物情報は、その類似性からそのスケール学習スケールを参考に、推定対象の絶対スケールを類推することができ、これより対象物との距離を類推算出できる。
本実施形態において、物性情報取得部614は、表示領域142の周辺に配された1以上の物体の物性を示す情報(物性情報と称される場合がある。)を取得する。物性情報取得部614は、物性情報を、例えば安全管理部640に出力する。物性情報は、周辺状態情報の一例であってよい。
物性情報は、例えば、上記の物体の表面の光学的な性質を示す情報を含む。物性情報は、例えば、上記の物体の表面から表示領域142に向かって進行する電磁波の特徴を示す情報を含む。電磁波の特徴は、光学的な性質に関する特徴であってよい。上記の電磁波は、上記の物体の表面で反射した電磁波であってもよく、上記の物体を透過した電磁波であってもよく、上記の物体が放射した電磁波であってもよい。光学的な性質としては、波長、振幅、強さ又は明るさなどが例示される。光の強さ又は明るさとしては、放射照度、光量子密度、照度などが例示される。
物性情報取得部614は、例えば、表示領域142の周辺に配された1以上の物体を被写体とする画像の画像データを取得する。物性情報取得部614は、例えば、カメラ154が出力した画像データを取得する。上記の画像データは、静止画像のデータであってもよく、動画像のデータであってもよい。後述されるとおり、本実施形態においては、光の強度の変動に基づいて上述された第1指標が導出される。そのため、上記の画像データは、動画像のデータであることが好ましい。
これにより、物性情報取得部614は、表示領域142の周辺に配された1以上の物体の色情報を取得することができる。色情報は、物性情報の一例であってよい。透明又は半透明な物体の物性情報は、当該物体を透過した電磁波の特徴を示す情報を含んでよい。例えば、窓ガラスの色情報は、窓ガラスを通して見える物体の色情報を含み得る。
物性情報取得部614は、現実空間における特定の位置の周辺が撮像された動画であって、撮像方向の異なる複数の動画データを取得してもよい。複数の動画データは、複数回に分割して撮像された複数の動画のデータであってもよく、単一の動画の複数の位置から切り出された複数の動画のデータであってもよい。
例えば、ユーザ22が、特定の位置にユーザ端末120を設置することを希望する場合、ユーザ22は、当該設置を希望する位置を中心としてユーザ端末120を回転させながら、ユーザ端末120のカメラ154により当該位置の周辺の様子を撮像する。これにより、撮像方向の異なる複数の動画データが取得され得る。
ユーザ22は、ユーザ22自身が画像に写り込まないように、上記の位置の周辺の様子を撮像してよい。例えば、ユーザ22は、カメラ154の背後に位置しながら、ユーザ端末120の周辺の様子を撮像する。これにより、カメラ154が撮像した画像からユーザ22の画像を排除するための処理が省略される。
本実施形態において、環境情報取得部616は、例えば、表示領域142の周辺環境の状況を示す情報(環境情報と称される場合がある。)を取得する。環境情報取得部616は、例えば、環境センサ150が生成した環境情報を取得する。環境情報取得部616は、環境情報を安全管理部640に出力してよい。環境情報は、周辺状態情報の一例であってよい。
例えば、環境情報取得部616は、表示領域142の周辺の照度を示す情報(照度情報と称される場合がある。)を取得する。例えば、環境情報取得部616は、照度センサ156から照度センサ156による照度の測定結果を示す情報を取得する。
例えば、環境情報取得部616は、表示領域142の周辺の温度を示す情報(温度情報と称される場合がある。)を取得する。例えば、カメラ154が赤外線画像を生成可能に構成されている場合、環境情報取得部616は、カメラ154が生成した熱画像の画像データを取得する。
例えば、環境情報取得部616は、通信ネットワークを介して、他の情報提供システムが提供する各種の情報を取得してよい。環境情報取得部616は、例えば、他の情報提供システムから、気象情報、時刻情報等を取得する。
本実施形態において、属性情報取得部618は、例えば、表示領域142の周辺において検出された物体又は事象の種類又は属性を示す情報(属性情報と称される場合がある。)を取得する。環境情報取得部616は、属性情報を安全管理部640に出力してよい。属性情報は、周辺状態情報の一例であってよい。
より具体的には、環境情報取得部616は、例えば、環境センサ150が出力した画像データ及び/又は音声データを取得する。属性情報取得部618は、上記の画像データ及び/又は音声データを解析して、物体又は事象を検出する。属性情報取得部618は、例えば、適切なデータベースを参照して、検出された物体又は事象の種類又は属性を決定する。これにより、属性情報取得部618は、属性情報を取得することができる。
例えば、属性情報取得部618は、表示領域142の周辺が撮像された画像データを解析して、表示領域142の周辺に配される1以上の物体を検出する。属性情報取得部618は、各種の物体の特徴及び/又は属性を格納したデータベースを参照して、検出された物体を判別したり、当該物体の属性を決定したりしてよい。画像中から物体を検出し、当該検出された物体を判別する手法は、特に限定されるものではなく、公知の任意の手法が適用され得る。
例えば、属性情報取得部618は、表示領域142の周辺の音声が収録された音声データを解析して、表示領域142の周辺で生じた事象を検出する。属性情報取得部618は、各種の事象の特徴及び/又は属性を格納したデータベースを参照して、検出された事象を判別したり、当該事象の属性を決定したりしてよい。
例えば、犬の鳴き声又は唸り声が検出された場合、近くに人が存在しているという事象が判別される。また、人の話し声又は足音が検出された場合、近くに人が存在しているという事象が判別され得る。近づいてくる人の足音が検出された場合、近くに存在する人の数が増加したという事象が判別され得る。遠ざかっていく人の足音が検出された場合、近くに存在する人の数が減少したという事象が判別され得る。
本実施形態において、起動検知部622は、ユーザ端末120の起動、又は、ユーザ端末120の上で動作するBIOS、OS若しくはアプリケーションプログラムの起動を検知する。ユーザ端末120の起動、又は、ユーザ端末120の上で動作するBIOS、OS若しくはアプリケーションプログラムの起動が検知された場合、起動検知部622は、上記の起動が検知されたことを示す情報を計時部624及び/又は安全管理部640に出力してよい。
本実施形態において、計時部624は、起動検知部622が上記の起動を検知してからの経過時間を計測する。計時部624は、計測結果を示す情報を安全管理部640に出力してよい。
本実施形態において、仮想空間構築部630は、ユーザ端末120の周辺に対応する三次元仮想空間を構築する。仮想空間構築部630は、例えば、構造情報取得部612が取得した情報に基づいて、上記の三次元仮想空間を構築する。仮想空間構築部630の詳細は後述される。
本実施形態において、安全管理部640は、周辺状態取得部610が取得した周辺状態情報により示される表示領域142の周辺の状態に基づいて、ユーザ22とは異なる第三者による出力画像の閲覧可能性の程度を導出する。安全管理部640は、上記の表示領域142の周辺の状態に基づいて、表示領域142の安全性を評価してもよい。
安全管理部640は、例えば、表示領域142に表示される情報が漏洩するリスクが小さいほど(つまり、閲覧可能性の程度が小さいほど)、表示領域142の安全性が高いと判定する。表示領域142の安全性としては、特定の位置及び方向に設置された表示領域142の安全性、表示領域142の設置位置の安全性、表示領域142の設置位置及び設置方向の安全性などが例示される。表示領域142が筐体130に収容される場合、表示領域142の安全性は、ユーザ端末120の安全性を意味してよい。
安全管理部640は、例えば、構造情報取得部612が収集した各種の情報を総合的に評価して、表示領域142が特定の位置及び方向に設置されている場合における閲覧可能性の程度を導出する。より具体的には、安全管理部640は、例えば、上記の閲覧可能性の程度を示す1以上の種類の指標の値を算出する。安全管理部640は、上記の1以上の指標の値を総合的に評価するための学習モデル又は関数を用いて、閲覧可能性の程度又は安全性の程度を示す評価値を導出する。安全管理部640は、表示領域142の配置が異なる複数のパターンのそれぞれについて、評価値を導出してもよい。安全管理部640の詳細は後述される。
一実施形態において、安全管理部640は、表示領域142の配置の決定処理が実行されるときに、表示領域142の安全性を評価する。表示領域142の配置の決定処理は、例えば、ユーザ22がユーザ端末120の使用を開始するタイミング、ユーザ22が特定のアプリケーションプログラムの使用を開始するタイミング、及び、ロック又はスリープが解除されるタイミングの少なくとも1つのタイミングで、実行される。他の実施形態において、安全管理部640は、ユーザ22がユーザ端末120を使用している期間中、定期的に、又は、任意のタイミングで、表示領域142の安全性を評価する。
本実施形態において、配置決定部652は、表示領域142の配置を決定する。配置決定部652は、安全管理部640の評価結果に基づいて、表示領域142の配置を決定してよい。安全管理部640の評価結果としては、閲覧可能性の程度が例示される。上述されたとおり、ユーザ端末120の安全性の程度は、閲覧可能性の程度の一例である。
表示領域142の配置としては、表示領域142の位置(設置位置と称される場合がある。)、及び/又は、表示領域142の法線ベクトル242の方向(設置方向と称される場合がある。)が例示される。法線ベクトル242の方向としては、水平方向におけるベクトルの向き、及び、鉛直方向におけるベクトルの向きの少なくとも一方が例示される。なお、表示領域142が筐体130に収容される場合、表示領域142の配置と、ユーザ端末120の配置とが略一致する。
一実施形態において、配置決定部652は、安全管理部640から、表示領域142の配置を示す情報と、当該配置における閲覧可能性の程度を示す情報とを取得する。表示領域142の配置を示す情報としては、表示領域142の設置位置を示す情報、表示領域142の設置位置及び設置方向を示す情報などが例示される。
上記の閲覧可能性の程度が予め定められた基準を満足する場合、配置決定部652は、上記の配置を表示領域142の配置として決定する。予め定められた基準としては、閲覧可能性の程度が予め定められた程度よりも小さくなることが例示される。
表示領域142が予め定められた特徴を有するエリアの範囲内に位置する場合と、当該エリアの範囲外に位置する場合とで、上記の予め定められた程度が異なってよい。上記エリアは、表示領域142の設置位置を規定するものであってもよく、表示領域142の設置位置及び設置方向を規定するものであってもよい。
情報漏洩抑制システム100の一実施形態によれば、閲覧可能性の程度が比較的大きいエリアであっても、ユーザ22に対してユーザ端末120の使用を許可する権限を有する人物(承認者と称される場合がある。)により、当該エリアにおけるユーザ端末120の使用が予め承認されている場合、ユーザ22は、ユーザ端末120を使用することができる。この場合、表示領域142が当該エリアの範囲内に位置することが確認された場合に適用される閲覧可能性の程度に関する基準と、表示領域142が当該エリアの範囲内に位置することが確認されていない場合に適用される閲覧可能性の程度に関する基準とが異なる。なお、上記の承認には、当該承認が有効となる開始時期が定められていてもよく、当該承認の有効期限が定められていてもよい。
表示領域142が当該エリアの範囲内に位置することが確認された場合に適用される閲覧可能性の程度は、表示領域142が当該エリアの範囲内に位置することが確認されていない場合に適用される閲覧可能性の程度よりも大きくてよい。表示領域142が当該エリアの範囲内に位置することが確認された場合には、閲覧可能性の程度に関する判定が省略されてもよい。
この場合、予め定められた特徴としては、承認者がユーザ端末120の使用を承認したエリアに配されたユーザ端末120の周辺データ生成装置152が取得した周辺データの特徴が例示される。より具体的には、周辺データ生成装置152が撮像した二次元画像に含まれる1以上の特徴点、周辺データ生成装置152が取得した点群データに含まれる1以上の特徴点が例示される。予め定められた特徴は、承認者がユーザ端末120の使用を承認したときに、周辺データ生成装置152が撮像した二次元画像又は三次元データであってもよい。なお、上記の承認には、当該承認が有効となる開始時期が定められていてもよく、当該承認の有効期限が定められていてもよい。
本実施形態によれば、ユーザ端末120には、承認者がユーザ端末120の使用を承認したときの空間構造を示す情報が記録されている。ユーザ端末120は、承認者がユーザ端末120の使用を承認したときの空間構造を示す情報と、閲覧可能性の程度を示す情報とを格納するデータベースを備えてよい。
これにより、例えば、ユーザ端末120の制御装置170は、ユーザ端末120の現在の位置及び方向において周辺データ生成装置152が取得したデータと、記録された空間構造のデータとを比較することができる。両者が一致する場合、制御装置170は、例えば、上記のデータベースを参照して、記録された空間構造に対応付けて格納されている閲覧可能性の程度を示す情報を抽出する。制御装置170は、抽出された閲覧可能性の程度を示す情報に基づいて、ユーザ端末120の安全性を評価してよい。なお、両者が一致する場合、制御装置170は、閲覧可能性の程度が予め定められた程度よりも小さく、ユーザ端末120の設置位置及び/又は方向が安全であると判定してもよい。
本実施形態によれば、ユーザ端末120又は表示領域142が過去に承認者がユーザ端末120の使用を承認した空間と同様の態様で設置されている場合、ユーザ22は、ユーザ端末120を使用することができる。例えば、新幹線の特定の特徴を有する座席において、承認者がユーザ端末120の使用を承認した場合、ユーザ22は、新幹線を利用するたびに承認を申請することなく、ユーザ端末120を使用することができる。
上記の承認は、ユーザ22ごとに設定されていてもよく、空間又は空間の特徴ごとに設定されていてもよい。上記の承認が空間又は空間の特徴ごとに設定されている場合、例えば、ユーザAが新幹線の特定の特徴を有する座席において承認作業を実施し、当該座席について承認がえられた場合、他のユーザBが、他の新幹線の同様の特徴を有する座席を利用するとき、ユーザBは、承認を申請することなく、ユーザ端末120を使用することができる。
情報漏洩抑制システム100の一実施形態によれば、閲覧可能性の程度が比較的大きいエリアであっても、例えば、ユーザ22が、守秘義務を有する者しか入室することのできない室内においてユーザ端末120を使用する場合、ユーザ22は、ユーザ端末120を使用することができる。この場合、表示領域142が当該エリアの範囲内に位置することが確認された場合に適用される閲覧可能性の程度に関する基準と、表示領域142が当該エリアの範囲内に位置することが確認されていない場合に適用される閲覧可能性の程度に関する基準とが異なる。
表示領域142が当該エリアの範囲内に位置することが確認された場合に適用される閲覧可能性の程度は、表示領域142が当該エリアの範囲内に位置することが確認されていない場合に適用される閲覧可能性の程度よりも大きくてよい。表示領域142が当該エリアの範囲内に位置することが確認された場合には、閲覧可能性の程度に関する判定が省略されてもよい。なお、表示領域142が当該エリアの範囲内に位置することが確認された場合には、閲覧可能性の程度に関する判定するための機能又はシステムが起動しなくてもよい。
この場合、予め定められた特徴としては、当該エリアで受信可能な無線信号、音波、当該エリアの有線LAN接続による特定OBJへの存在又は接続チェックなどが例示される。同様に、ユーザ端末120が、在籍管理システムなどから、ユーザ22が当該エリアの範囲内に位置することを示す情報を取得した場合、閲覧可能性の程度に関する判定が省略されてもよい。また、ユーザ端末120が、(i)承認者又は本人が、表示領域142が当該エリアの範囲内に位置することを承認したことを示す情報、又は、(ii)承認者又は本人が、ユーザ端末120の使用を承認したことを示す情報を取得した場合、閲覧可能性の程度に関する判定が省略されてもよい。
一方、上記の閲覧可能性の程度が予め定められた基準を満足しない場合、配置決定部652は、ユーザ22に対して、表示領域142の設置位置及び設置方向の少なくとも一方の変更を促すためのメッセージを出力することを決定する。配置決定部652は、例えば、表示装置140を制御して、上記のメッセージを表示領域142に表示させる。なお、上記のメッセージは音声で出力されてもよい。
他の実施形態において、配置決定部652は、安全管理部640から、表示領域142の配置が異なる複数のケースのそれぞれについて、表示領域142の配置を示す情報と、当該配置における閲覧可能性の程度を示す情報とを取得する。表示領域142の配置を示す情報としては、表示領域142の設置位置を示す情報、表示領域142の設置位置及び設置方向を示す情報などが例示される。
配置決定部652は、複数のケースのそれぞれの閲覧可能性の程度と、予め定められた基準とを比較して、上記の閲覧可能性の程度が予め定められた基準を満足するケースを抽出する。配置決定部652は、抽出されたケースにより示される配置のうちの1つを表示領域142の配置として決定する。
例えば、配置決定部652は、閲覧可能性の程度が最も優れたケースにより示される配置を表示領域142の配置として決定する。例えば、配置決定部652は、閲覧可能性の程度が特に優れた複数のケースを抽出する。配置決定部652は、閲覧可能性の程度によって上記のケースを抽出してもよく、抽出されるケースの個数が予め定められた個数以下となるように上記のケースを抽出してもよい。配置決定部652は、抽出されたケースのそれぞれにおける配置を示す情報をユーザ22に提示し、ユーザ22により選択されたケースを表示領域142の配置として決定する。
本実施形態において、配置支援部654は、ユーザ22による表示領域142又はユーザ端末120の設置を支援する。配置支援部654は、図4に関連して説明されたS434における誘導処理又はガイド処理を実行することで、ユーザ22による表示領域142又はユーザ端末120の設置を支援してよい。
本実施形態において、出力制御部660は、表示装置140による画像の出力を制御する。出力制御部660は、図4に関連して説明されたS432における各種の使用制限処理を実行してよい。出力制御部660は、使用制限を解除するための処理(制限解除処理と称される場合がある。)を実行してもよい。
例えば、安全管理部640が導出した閲覧可能性の程度が予め定められた程度より小さい場合、出力制御部660は出力画像の出力を許可する。例えば、出力制御部660は、上述された閲覧可能性の程度又は安全性の程度を示す評価値が上述された許容範囲の範囲内である場合、閲覧可能性の程度が予め定められた程度より小さいと判定する。
例えば、安全管理部640が導出した閲覧可能性の程度が予め定められた程度を超えた場合、出力制御部660は上述された使用制限処理を実行することを決定する。例えば、上述された閲覧可能性の程度又は安全性の程度を示す評価値が上述された許容範囲の範囲外である場合、出力制御部660は、閲覧可能性の程度が予め定められた程度を超えていると判定する。出力制御部660は、閲覧可能性の程度が予め定められた程度を超える前に表示されていた出力画像の出力を停止してもよく、出力画像の明るさ若しくはコントラストを調整してもよく、上記の出力画像とは異なる画像を表示領域142に表示させてもよい。
出力制御部660は、出力画像の明るさ若しくはコントラストを調整することで、表示領域142に表示される画面をホワイトアウトさせたり、ブラックアウトさせたりすることができる。これにより、本来の出力画像の出力が妨害される。出力制御部660は、本来の出力画像とは異なる画像を表示領域142に表示させることで、本来の出力画像の一部又は全部の出力が妨害される。本来の出力画像の出力を妨害するために出力される画像は、半透明の画像であってもよく、不透明の画像であってもよい。
例えば、ユーザ端末120の使用が制限されている状態において、安全管理部640が導出した閲覧可能性の程度が予め定められた程度より小さくなった場合、出力制御部660は、本来の出力画像の出力を許可する。例えば、出力制御部660は、制限解除処理の実行を決定する。制限解除処理が実行されると、本来の出力画像の出力が再開される。出力制御部660は、上述された閲覧可能性の程度又は安全性の程度を示す評価値が上述された許容範囲の範囲内である場合に、閲覧可能性の程度が予め定められた程度よりも小さいと判定してよい。
上記の出力画像とは異なる画像としては、第三者に閲覧されてもよい画面を出力するための画像、警告を出力するための画像、本来の出力画像の閲覧を妨害するための画像などが例示される。これらの画像は、使用制限処理に関連して説明された各種の画像と同様の構成を有してよい。
閲覧可能性の程度が予め定められた程度を超えた瞬間に出力制御部660が使用制限処理の実行を開始したり、閲覧可能性の程度が予め定められた程度より小さくなった瞬間に出力制御部660が制限解除処理の実行を開始したりすると、ユーザ端末120の使用が制限された状態と、ユーザ端末120の使用が制限されていない状態とが頻繁に切り替わる可能性がある。ユーザ端末120の使用が制限された状態と、ユーザ端末120の使用が制限されていない状態とが頻繁に切り替わると、ユーザ体験が低下する。
そこで、出力制御部660は、ユーザ体験及びシステムの安定性を考慮して、ユーザ端末120の安全性の評価値の変動に対する、閲覧可能性の程度に関する上記の判定の感度又は応答性を調整してよい。上述されたとおり、感度又は応答性の調整手法としては、公知の任意の手法が採用され得る。これにより、例えば、ユーザ端末120の安全性の評価値の変動が、閲覧可能性の程度及び予め定められた程度の大小関係に関する判定結果に影響を及ぼすまでの時間が調整される。これにより、ユーザ端末120の安全性の評価値が突発的に変動する場合であっても、ユーザ端末120の使用が制限された状態と、ユーザ端末120の使用が制限されていない状態との切り替わりの頻度が低減され得る。
出力制御部660は、上記の時間の長さが予め定められた値よりも大きくなるように、上記の感度又は応答性を調整してよい。ユーザ端末120の安全性の評価値に基づいて、上記の判定の感度又は応答性を調整してもよい。
上記の実施形態においては、出力制御部660が、本来の出力画像の出力を停止したり、本来の出力画像の閲覧を妨害したりすることで、ユーザ端末120の使用が制限される場合を例として、出力制御部660による使用制限の詳細が説明された。しかしながら、出力制御部660による使用制限は、上記の実施形態に限定されない。
出力制御部660は、表示装置140による画像の出力を制御することで、ユーザ22からの操作入力の受け付けを制限してもよい。操作入力の受け付けの制限は、使用制限の一例であってよい。
例えば、閲覧可能性の程度を導出するための処理、又は、表示領域142の設置位置及び/又は設置方向の安全性を評価するための処理が実行されると、出力制御部660は、表示装置140が出力するデスクトップ画面の最前面に、透明画面を表示させる。この段階では、ユーザ22は、マウス操作、キーボード操作、タッチ操作などにより、各種の指示を入力することができる。一方、安全管理部640が導出した閲覧可能性の程度が予め定められた程度を超えた場合、上述された出力画像とは異なる、第三者に閲覧されてもよい画面、警告画面などを表示させる。
これらの画面の大部分は透明ではなく、例えば、ユーザ22がこれらの画面上でマウスを操作しても、当該マウス操作では、これらの画面を透過して、これらの画面の下に配されたデスクトップ上のアイコンを操作することができない。これにより、ユーザ22からの操作入力の受け付けが制限される。
なお、上記の第三者に閲覧されてもよい画面の一部の画素の状態が透明色に指定されていてもよい。これにより、当該画素が配された領域においてユーザ22が入力した指示が受け付けられる。また、上記の第三者に閲覧されてもよい画面、及び、透明画面は、デスクトップ画面よりも小さな画面であってよい。これにより、デスクトップ画面上の一部の領域において、ユーザ22の指示が受け付けられる。
本実施形態において、格納部670は、各種の情報を格納する。一実施形態において、格納部670は、ユーザ端末120において実行される情報処理に利用される各種の情報を格納する。他の実施形態において、格納部670は、ユーザ端末120において実行される情報処理により生成される各種の情報を格納する。ユーザ端末120は、定期的に、又は、予め定められたイベントが検出されたタイミングで、格納部670に格納された情報の少なくとも一部を、外部のサーバに送信してよい。
安全管理部640は、閲覧可能性導出部の一例であってよい。安全管理部640は、周辺データ取得部又は情報処理装置の一例であってもよい。
図7は、構造情報取得部612の内部構成の一例を概略的に示す。本実施形態において、構造情報取得部612は、三次元点群取得部712と、距離画像取得部714と、ステレオ画像取得部716と、二次元画像取得部718とを備える。
本実施形態において、三次元点群取得部712は、周辺データ生成装置152から、表示領域142の周辺に配された1以上の物体の三次元点群データを取得する。三次元点群データは、1以上の点のそれぞれの三次元座標値を示す情報を有する。三次元点群データは、1以上の点のそれぞれの三次元座標値を示す情報と、各点の色を示す情報とを含んでよい。
距離画像取得部714は、周辺データ生成装置152から、表示領域142の周辺に配された1以上の物体の距離画像(深度画像、深度マップなど称される場合がある。)のデータ(距離データ又は深度データと称される場合がある。)を取得する。距離画像は、奥行き又は対象物までの距離を表現した平面画像であり、当該平面画像の各画素の値は、当該画素に対応する物体との距離を示す。
ステレオ画像取得部716は、周辺データ生成装置152から、表示領域142の周辺に配された1以上の物体を被写体とするステレオ画像のデータを取得する。ステレオ画像取得部716は、ステレオ画像に基づいて、表示領域142の周辺に配された1以上の物体の距離画像を生成してよい。
二次元画像取得部718は、周辺データ生成装置152から、表示領域142の周辺に配された1以上の物体を被写体とする二次元画像のデータを取得する(画像のデータを取得することが、単に、画像を取得すると表記される場合がある。)。二次元画像取得部718は、1以上のマーカが付された1以上の物体を被写体とする二次元画像を取得してもよい。
三次元点群取得部712は、周辺データ取得部の一例であってよい。距離画像取得部714は、周辺データ取得部の一例であってよい。ステレオ画像取得部716は、周辺データ取得部の一例であってよい。二次元画像取得部718は、周辺データ取得部の一例であってよい。
図8は、安全管理部640の内部構成の一例を概略的に示す。本実施形態において、安全管理部640は、データ変換部810と、物体位置決定部820とを備える。本実施形態において、データ変換部810は、マーカ位置決定部812と、点群生成部814とを有する。本実施形態において、物体位置決定部820は、第1計算部830と、第2計算部840とを有する。本実施形態において、第1計算部830は、点群データ取得部832と、距離算出部834と、角度算出部836とを含む。第2計算部840は、端部検出部842と、遮蔽角算出部844とを含む。
本実施形態において、データ変換部810は、二次元データを三次元データに変換する。データ変換部810は、例えば、ステレオ画像取得部716が取得したステレオ画像に基づいて、表示領域142の周辺に配された1以上の物体の少なくとも一部の三次元データを生成する。データ変換部810は、例えば、二次元画像取得部718が取得した二次元画像に基づいて、表示領域142の周辺に配された1以上の物体の少なくとも一部の三次元データを生成する。
データ変換部810は、生成された三次元データを物体位置決定部820に出力する。これにより、物体位置決定部820は、表示領域142の周辺に配された1以上の物体の少なくとも一部の三次元モデルを含む仮想空間を構築することができる。また、物体位置決定部820は、上記の仮想空間上で、表示領域142と、上記の1以上の物体との相対的な位置関係を決定することができる。
本実施形態においては、データ変換部810が、二次元画像取得部718が取得した二次元画像に予め定められた種類のマーカが写り込んでいる場合に、当該二次元画像に基づいて、表示領域142の周辺に配された1以上の物体の少なくとも一部の三次元データを生成する場合を例として、データ変換部810の詳細が説明される。予め定められた種類のマーカとしては、上述されたARマーカ、QRコード(登録商標)、バーコードなどが例示される。また、説明を簡単にすることを目的として、本実施形態においては、表示領域142と、周辺データ生成装置152とが同一の筐体130に収容されており、表示領域142の法線ベクトル242の向きと、周辺データ生成装置152の光軸252の向きとが略同一である場合を例として、データ変換部810におけるデータ変換処理の一例が説明される。
本実施形態において、マーカ位置決定部812は、1以上のマーカが付された1以上の物体を被写体とする二次元画像を解析して、当該1以上のマーカの少なくとも一部と、表示領域142との位置関係を決定する。例えば、マーカ位置決定部812は、まず、二次元画像取得部718が取得した二次元画像を解析して、予め定められた種類のマーカを検出するための処理を実行する。1以上のマーカが検出されなかった場合、マーカ位置決定部812は処理を終了する。これにより、例えば、データ変換部810におけるデータ変換処理が終了する。
例えば、マーカ位置決定部812は、各マーカの4個の頂点から、カメラ座標系における三次元座標を算出する。例えば、カメラ座標系が移動した場合、過去の基準となる時点におけるカメラ座標系のARマーカの分布座標と、現時点におけるカメラ座標系のARマーカの分布座標とが異なる場合がある。そこで、マーカ位置決定部812は、カメラ座標系の移動の有無を判定してよい。例えば、マーカ位置決定部812は、過去の基準となる時点におけるカメラ座標系と、現時点におけるカメラ座標系との間で、同一インスタンスとなるマーカーのペア(ペアマーカーと称される場合がある。)を総当たりで見つけるための処理を実行する。また、マーカ位置決定部812は、ペアマーカーの位置に基づいて、カメラ座標系の移動の有無を判定する。
具体的には、マーカ位置決定部812は、まず、上記の判定を実施する複数の時点のそれぞれにおいて、2つの座標系の変換行列を総当たりで算出する。これにより、マーカ座標が変わる変換行列が導出される。次に、マーカ位置決定部812は、導出された変換行列を用いて、実際にカレントなマーカー位置を過去の基準点に変換し、表示されているマーカー画像と一致するか、差異が大きいかどうかをユークリッド距離などで評価する。マーカ位置決定部812は、上記の処理を繰り返し試行することで、最も差の少ないペア群、又は、差の絶対値が予め定められた値よりも小さなペア群を決定する。これにより、マーカ位置決定部812は、ペアマーカーを見つけることができる。
一方、上記の画像解析により1以上のマーカが検出された場合、マーカ位置決定部812は、例えば、検出された1以上のマーカのうち、表示領域142との距離を算出可能なマーカを抽出する。例えば、マーカの寸法が既知である場合、2以上の同種のマーカが略同一平面上に付されていることが既知である場合、当該マーカが写り込んだ二次元画像を解析することで、マーカと、表示領域142との距離が算出され得る。
次に、マーカ位置決定部812は、表示領域142との距離を算出可能なマーカのそれぞれ、又は、少なくとも一部について、当該マーカと、表示領域142との位置関係を決定する。マーカと、表示領域142との位置関係は、現実世界における当該マーカ及び表示領域142の相対的な位置関係であってよい。マーカ位置決定部812は、(i)表示領域142と、各マーカの代表点との距離、及び、(ii)表示領域142の法線ベクトル242と、表示領域142の代表点から各マーカの代表点に向かう方向とのなす角度とを算出してもよい。
本実施形態において、点群生成部814は、マーカ位置決定部812が表示領域142との位置関係を決定したマーカの位置の周辺に点群を生成する。生成される点群に関する情報がマーカに埋め込まれている場合、点群生成部814は、マーカに埋め込まれた情報に従って点群を生成する。上述されたとおり、点群に関する情報としては、生成される点群のワールド座標系における寸法などが例示される。
生成される点群に関する情報がマーカに埋め込まれていない場合、点群生成部814は、例えば、マーカの周囲の予め定められた範囲に点群を生成してよい。生成される点群に関する情報がマーカに埋め込まれておらず、マーカの識別情報がマーカに埋め込まれている場合、点群生成部814は、マーカの識別情報と、当該マーカの周辺に生成される点群に関する情報とを対応付けて格納するデータベースを参照し、当該データベースに格納されている情報に従って点群を生成してよい。
本実施形態において、物体位置決定部820は、構造情報取得部612が取得した周辺データを解析して、1以上の物体のそれぞれと、表示領域142との位置関係を決定する。上記の位置関係は、現実世界における相対的な位置関係であってよい。上記の相対的な位置関係を決定する手順としては、第1計算部830における情報処理による手順と、第2計算部840における情報処理による手順とが例示される。
本実施形態において、第1計算部830は、表示領域142の周辺に配された1以上の物体の三次元データを利用して、表示領域142と、上記の1以上の物体との相対的な位置関係を決定する。第1計算部830は、表示領域142の周辺に配された1以上の物体の少なくとも一部の三次元モデルを含む仮想空間を構築してもよい。第1計算部830は、上記の仮想空間上で、表示領域142と、上記の1以上の物体との相対的な位置関係を決定してもよい。
本実施形態において、点群データ取得部832は、構造情報取得部612が取得した周辺データに基づいて、1以上の物体のそれぞれの三次元点群データを取得する。一実施形態において、点群データ取得部832は、三次元点群取得部712又は距離画像取得部714が取得した点群データを取得する。他の実施形態において、点群データ取得部832は、データ変換部810が生成した点群データを取得する。
本実施形態において、距離算出部834は、表示領域142の代表点と、点群データ取得部832が取得した三次元点群データにより示される1以上の物体のそれぞれの表面に仮想的に配された複数の点のそれぞれとの距離をする。表示領域142の代表点としては、図2に関連して説明された代表点240が例示される。なお、表示領域142の代表点は、表示領域142において出力画像が表示される側の面上の点であればよく、代表点240に限定されない。
本実施形態において、角度算出部836は、表示領域142の代表点における法線方向と、表示領域142の代表点から1以上の物体のそれぞれの表面に配された複数の点のそれぞれに向かう方向とのなす角度の絶対値を算出する。表示領域142の代表点における法線方向としては、代表点240における法線ベクトル242の向きが例示される。
本実施形態によれば、距離算出部834における情報処理より、1以上の物体のそれぞれと、表示領域142との相対的な距離が決定される。また、角度算出部836における情報処理により、1以上の物体のそれぞれと、表示領域142との相対的な方向が決定される。これにより、1以上の物体のそれぞれと、表示領域142との位置関係が決定される。
本実施形態において、第2計算部840は、周辺データの解析により表示領域142の周辺に検出された物体と、表示領域142との距離を考慮することなく、1以上の物体のそれぞれと、表示領域142との位置関係を決定する。なお、上記の物体を検出する処理において、当該物体と、表示領域142との距離を示す情報が利用されてもよい。
本実施形態においては、説明を簡単にすることを目的として、1以上の物体のそれぞれに、例えば、略水平方向における各物体の端部を示す1組のマーカが付されており、二次元画像取得部718が取得した二次元画像に当該マーカが写り込んでいる場合を例として、第2計算部840が当該二次元画像を解析して、表示領域142と、1以上の物体との相対的な位置関係を決定する手順の一例が説明される。なお、本明細書の記載に接した当業者であれば、上記の1以上の物体の略水平方向の両端の位置を決定することができれば、二次元画像にマーカが写り込んでいない場合であっても、表示領域142と、1以上の物体との相対的な位置関係が決定され得ることを理解することができる。
本実施形態において、端部検出部842は、二次元画像取得部718が取得した二次元画像を解析して、二次元画像に含まれる複数のマーカを検出する。端部検出部842は、検出された複数のマーカの組み合わせに基づいて、1以上の物体のそれぞれの略水平方向における一方の端部及び他方の端部を検出する。
本実施形態において、遮蔽角算出部844は、1以上の物体のそれぞれについて、表示領域142の代表点から各物体の一方の端部に向かう方向と、表示領域142の代表点から各物体の他方の端部に向かう方向とのなす角度である遮蔽角を算出する。遮蔽角算出部844は、1以上の物体のそれぞれの遮蔽角に基づいて、表示領域142の視野角のうち、1以上の物体により遮蔽される割合を算出する。第1の物体の遮蔽角と、第2の物体の遮蔽角が重複する場合、遮蔽角算出部844は、当該重複が計上されないようにして、1以上の物体により遮蔽される割合を算出する。
マーカ位置決定部812は、二次元画像取得部又はマーカ位置決定部の一例であってよい。
図9は、第1計算部830における情報処理の一例を概略的に示す。距離算出部834及び角度算出部836は、例えば、点群データ又は距離データを参照して、単一の物体を示す点群910に含まれるP1からPnまでのn個の点のそれぞれについて、代表点250から各点に向かうベクトルに関する情報を取得する。
図9において、ベクトル924は、代表点250から点P1に向かうベクトルを示す。ベクトル924の大きさはdp1であり、ベクトル924と、光軸252とのなす角度はθP1である。同様に、ベクトル926は、代表点250から点Pnに向かうベクトルを示す。ベクトル924の大きさはdpnであり、ベクトル926と、光軸252とのなす角度はθPnである。
図10は、第2計算部840における情報処理の一例を概略的に示す。本実施形態において、遮蔽物1020の一方の端部にはマーカ1022が付されており、遮蔽物1020の他方の端部にはマーカ1024が付されている。同様に、遮蔽物1040の一方の端部にはマーカ1042が付されており、遮蔽物1040の他方の端部にはマーカ1044が付されている。
遮蔽角算出部844は、マーカ1022及びマーカ1024を利用して、遮蔽物1020の遮蔽角θAを算出することができる。遮蔽角算出部844は、マーカ1042及びマーカ1044を利用して、遮蔽物1040の遮蔽角θBを算出することができる。
図11は、安全管理部640の内部構成の一例を概略的に示す。本実施形態において、安全管理部640は、例えば、導出手順決定部1130と、指標値導出部1140と、評価部1150とを備える。本実施形態において、導出手順決定部1130は、例えば、指標設定部1132と、評価設定部1134とを有する。本実施形態において、指標値導出部1140は、例えば、第1指標導出部1142と、第2指標導出部1144と、第3指標導出部1146と、第4指標導出部1148とを有する。
本実施形態において、導出手順決定部1130は、安全管理部640が閲覧可能性の程度又は安全性の程度を導出するための手順である導出手順を決定する。導出手順としは、上述されたユーザ端末120の安全性の評価に関する設定が例示される。導出手順決定部1130は、起動検知部622が上記の起動を検知してからの経過時間が予め定められた条件を満足する場合と、当該経過時間が予め定められた条件を満足しない場合とで導出手順が異なるように、上記の導出手順を決定してよい。上述されたとおり、予め定められた条件としては、上記の経過時間の長さが予め定められた第1閾値よりも小さいという条件が例示される。
本実施形態において、指標設定部1132は、上述された指標設定の内容を決定する。指標設定部1132は、上述された第1設定における指標設定の内容を決定してもよく、上述された第2設定における指標設定の内容を決定してもよい。指標設定の内容としては、評価処理に用いられる指標の種類、指標の値を導出するための関数又は学習モデル、当該関数又は学習モデルの説明変数の種類、当該関数又は学習モデルのパラメータの値などが例示される。上記の関数としては、公知の任意の評価関数が用いられ得る。上記の関数は、重み付け線形和であってよい。
指標設定部1132は、例えば、(i)周辺状態取得部610が取得した周辺状態情報により示される表示領域142の周辺の状態、及び/又は、(ii)現在時刻若しくは現在時刻が属する時間帯に基づいて、評価処理に用いられる1又は複数の指標の種類を決定する。指標設定部1132は、指標の種類に応じて、当該指標の値を導出するための関数又は学習モデルを決定してよい。指標設定部1132は、関数又は学習モデルの種類に応じて、当該関数又は学習モデルのパラメータの値を決定してよい。
一実施形態において、指標設定部1132は、カメラ154が出力した画像データを解析して、評価処理に用いられる指標の種類を決定する。指標設定部1132は、カメラ154が出力した画像データを解析して、評価処理において指標値又は評価値を補正するか否かを決定してよい。指標設定部1132は、解析結果に基づいて、上記の補正の態様を決定してもよく、補正の程度を決定してもよい。
例えば、指標設定部1132は、構造情報取得部612又は物性情報取得部614から、カメラ154が出力した画像データを取得する。例えば、カメラ154の撮像素子に太陽光が直接入射した場合、カメラ154は、少なくとも一部がホワイトアウトした画像を出力する。しかしながら、安全管理部640が、ホワイトアウトした画像のみに基づいて周囲の状況を正確に判断することは難しい。このような場合であっても、安全管理部640が、周辺データ生成装置152が取得した周辺データ、及び/又は、環境情報取得部616が取得した各種の環境情報に基づいて評価値を導出することで、評価値の導出精度が向上し得る。また、安全管理部640が、ホワイトアウトした領域における上述された評価値を補正することで、評価値の導出精度が向上し得る。
より具体的には、指標設定部1132は、カメラ154が出力した画像データにホワイトアウトした領域が含まれるか否かを判定する。カメラ154が出力した画像データにホワイトアウトした領域が含まれると判定された場合、指標設定部1132は、評価処理に用いられる1又は複数の指標のうち、カメラ154が出力した画像データを用いずに算出可能な指標を用いて、評価値を算出することを決定してよい。指標設定部1132は、ホワイトアウトした領域における閲覧性の程度が大きくなるように、指標値を補正してもよい。
指標設定部1132は、太陽光が撮像素子に入射したことによるホワイトアウトと、白色の物体の表面に強い光が照射されたことによるホワイトアウトとを区別してもよい。例えば、指標設定部1132は、カメラ154が上記の画像データを出力したときのGPS情報及び/又は日時から、カメラ154と、太陽との位置関係を算出する。指標設定部1132は、カメラ154及び太陽の位置関係から、画像データのホワイトアウトが、太陽光が撮像素子に入射したことによるホワイトアウトであるか否かを判定してよい。
他の実施形態において、指標設定部1132は、設置位置の周囲が暗所であるか否かに基づいて、評価処理に用いられる指標の種類を決定する。指標設定部1132は、設置位置の周囲が暗所であるか否かに基づいて、評価処理において指標値又は評価値を補正するか否かを決定してよい。指標設定部1132は、上記の補正の態様を決定してもよく、補正の程度を決定してもよい。
例えば、指標設定部1132は、照度センサ156が出力した照度デーに基づいて、設置位置の周囲が暗所であるか否かを判定する。指標設定部1132は、照度に代えて又は照度と共に、緯度経度、日時などの照度以外の環境情報を考慮して、設置位置の周囲が暗所であるか否かを判定してもよい。
これらの実施形態に関連して説明された補正の態様は、特に限定されない。例えば、複数の深度推定結果の平均値を用いることで、誤認識の程度が改善され得る。複数の深度推定結果としては、正面画像(例えば、カメラ154が出力した画像である。)を用いた深度推定の結果、及び、上下反転又は左右反転された画像を用いた深度推定の結果が例示される。理想系においては、正面画像を用いて推定された深度、左右反転された画像を用いて推定された深度、及び、上下反転された画像を用いて推定された深度は、同一の値となることが期待される。しかしながら、カメラ154が出力した画像に異常が生じている場合、正面画像を用いて推定された深度、左右反転された画像を用いて推定された深度、及び、上下反転された画像を用いて推定された深度が異なる。そこで、これらの値の統計値(例えば、平均値である。)を利用して深度を推定することで、推定精度が向上し、推定処理の安定性が向上する。
本実施形態において、評価設定部1134は、上述された評価設定の内容を決定する。評価設定部1134は、上述された第1設定における評価設定の内容を決定してもよく、上述された第2設定における評価設定の内容を決定してもよい。評価設定の内容としては、評価値を導出するための説明変数として用いられる指標の種類、評価値を導出するための関数又は学習モデル、当該関数又は学習モデルのパラメータの値などが例示される。上記の関数としては、公知の任意の評価関数が用いられ得る。評価関数は、1以上の指標の指標値を説明変数とし、評価値を目的変数とする関数であってよい。上記の関数は、重み付け線形和であってよい。
評価設定部1134は、例えば、指標設定部1132が設定した指標の種類に応じて、評価値を導出するための関数又は学習モデルを決定する。評価設定部1134は、例えば、(a)指標設定部1132が設定した指標の種類と、(b)(i)周辺状態取得部610が取得した周辺状態情報により示される表示領域142の周辺の状態、及び/又は、(ii)現在時刻若しくは現在時刻が属する時間帯とに基づいて、評価値を導出するための関数又は学習モデルを決定する。上記の関数は、重み付け線形和であってよい。評価設定部1134は、例えば、(i)周辺状態取得部610が取得した周辺状態情報により示される表示領域142の周辺の状態、及び/又は、(ii)現在時刻若しくは現在時刻が属する時間帯に基づいて、評価処理に用いられる1又は複数の指標のそれぞれに設定される重みの値を決定する。
評価設定部1134は、環境情報取得部616が取得した環境情報に基づいて、評価処理に用いられる1又は複数の指標のそれぞれに設定される重みの値を決定してよい。これにより、制御装置170は、ユーザ端末120の周辺環境に応じて、上記の重みを適切に設定することができる。
例えば、評価設定部1134は、環境情報取得部616が取得した(i)照度情報により示される照度、及び/又は、(ii)現在時刻若しくは現在時刻が属する時間帯に基づいて、評価処理に用いられる1又は複数の指標のそれぞれに設定される重みの値を決定する。上述されたとおり、現在時刻若しくは現在時刻が属する時間帯は、ユーザ端末120の周辺の明るさを示す指標として用いられ得る。これにより、制御装置170は、ユーザ端末120の周辺の照度に基づいて、上記の評価値を導出することができる。
例えば、昼間の環境下と、夜間の環境下とでは光学系カメラによる撮像結果の露光品質に大きな違いが生じる場合がある。その結果、特定の環境下では、評価値の導出精度が低下することも考えられる。例えば、極暗所では、評価値の導出精度が低下する可能性がある。そこで、評価値の導出精度が低下する可能性が比較的高い場合には、上述された使用制限処理が実行されるように評価値を導出することで、情報漏洩のリスクをさらに低下させることができる。評価値の導出精度が低下する可能性が比較的高い場合としては、照度情報により示される照度が予め定められた値よりも小さい場合、現在時刻若しくは現在時刻が属する時間帯に基づいて予測される照度が予め定められた値よりも小さい場などが例示される。
本実施形態において、指標値導出部1140は、上述された閲覧可能性の程度に関連する1又は複数の指標のそれぞれの値(指標値と称される場合がある。)を導出する。指標値導出部1140は、指標設定部1132が決定した指標設定の内容に従って、各指標の指標値を導出する。例えば、指標値導出部1140は、指標設定部1132が決定した種類の指標について、指標値を導出する。
(第1指標の指標値)
本実施形態において、第1指標導出部1142は、上述された第1指標の値を導出する。上述されたとおり、第1指標は、表示領域142の設置位置の周辺において物体の動き又は光の揺らぎが検出される程度を示す。例えば、表示領域142の設置位置の周辺を撮像した動画データにおいて、現実世界の特定の領域に対応する画素の光の強度が大きく変動している場合、当該領域において物体の移動、変形又は変質が生じている可能性が高い。また、上記の特定の領域に対応する画素における微視的な光の強度の変動を解析することで、例えば、当該領域に自然光が照射されているか否か、当該領域を自然光が透過しているか否かなどが判定され得る。
本実施形態において、第1指標導出部1142は、例えば、物性情報取得部614が取得した動画データに含まれる複数のフレームを解析して、フレーム間における光の強度の変動を導出する。第1指標導出部1142は、上記の光の強度の変動に基づいて第1指標の値を導出する。第1指標の値は、例えば、上記の光の強度の変動の統計量に基づいて導出される。
第1指標導出部1142は、同一の動画データに対して、第1指標を導出するための条件を変えて、第1指標を導出してもよい。これにより、同一の動画データから、複数の種類の第1指標が導出される。
第1指標を導出するための条件としては、(i)動画の各フレームを予め定められた複数の領域(計算単位と称される場合がある。)に区分する場合における、計算単位の形状及び/又は大きさ、(ii)第1指標を導出するために用られる複数のフレームの動画データ中における位置及び当該フレームの個数、(iii)各画素の色が複数の要素により指定されている場合における、第1指標の導出に用いられる要素などが例示される。動画データを構成する複数のフレームのそれぞれがカラー画像である場合、当該カラー画像を構成する各画素の色は、色を指定するための複数の要素のそれぞれの値により特定される。例えば、各フレームがRGB形式のカラー画像である場合、各フレームの各画素の色は、R要素の値であるR値と、G要素の値であるG値と、B要素の値であるB値とにより指定される。
第1指標導出部1142は、例えば、1以上の計算単位のそれぞれを識別するための識別情報と、各計算単位の第1指標の値とが対応付けられたデータ(変動データと称される場合がある。)を出力する。第1指標導出部1142は、複数の計算単位のそれぞれの識別情報と、各計算単位の第1指標の値とが画像形式で格納されたデータ(変動画像データと称される場合がある。)を出力してよい。この場合、各計算単位の識別情報は、例えば、画像におけるx座標及びy座標を示す。変動画像データは、変動データの一例であってよい。
一実施形態において、第1指標導出部1142は、計算単位の形状及び/又は大きさが異なる複数の変動データを出力する。例えば、第1指標導出部1142は、同一の動画データから抽出された同一のフレーム群を用いて、(i)9個の画素からなる正方形の計算単位ごとに導出された第1指標の値に基づいて生成された変動画像データと、(ii)1024個の画素からなる正方形の計算単位ごとに導出された第1指標の値に基づいて生成された変動画像データとを出力する。なお、計算単位の形状及び計算単位を構成する画素の個数は、上記の例に限定されない。
これにより、評価部1150は、複数の変動画像データのそれぞれに対して異なる評価基準を適用して、表示領域142の安全性の程度を評価することができる。その結果、表示領域142の安全性の程度が、より精度よく評価され得る。
例えば、情報漏洩のリスクが大きいほど第1指標の値が大きくなるように、第1指標の値が決定されている場合において、「9個の画素からなる正方形の計算単位ごとに導出された第1指標の値が閾値より大きい場合に、表示領域142の安全性の評価を下げる」という評価基準、又は、「1024個の画素からなる正方形の計算単位ごとに導出された第1指標の値が閾値より大きい場合に、表示領域142の安全性の評価を下げる」という評価基準の何れか一方が適用される場合、閾値の設定が難しい。その結果、評価の精度を向上させることも難しい。
これに対して、「9個の画素からなる正方形の計算単位ごとに導出された第1指標の値が、第1閾値より大きい場合、又は、1024個の画素からなる正方形の計算単位ごとに導出された第1指標の値が、第2閾値より大きい場合に、表示領域142の安全性の評価を下げる」という評価基準が適用される場合には、上記の何れか一方の評価基準が適用される場合と比較して、閾値の設定が容易になる。また、閾値が適切に設定されることにより、評価の精度も向上する。
他の実施形態において、第1指標導出部1142は、第1指標の導出に用いられるフレームの位置及び/又は個数が異なる複数の変動データを出力する。例えば、第1指標導出部1142は、同一の動画データから抽出された同一のフレーム群を用いて、(i)当該フレーム群に含まれる全てのフレームを用いて導出された第1指標の値に基づいて生成された1つの変動画像データと、(ii)当該フレーム群に含まれる一部のフレームを用いて導出された第1指標の値に基づいて生成された1以上の変動画像データとを出力する。
例えば、第1指標導出部1142は、動画データに含まれる150~399番目のフレームを、第1指標の導出に用いられるフレーム群として抽出する。第1指標導出部1142は、150~399番目のフレームを用いて各計算単位の第1指標の値を導出し、基本となる変動画像データを出力する。また、第1指標導出部1142は、150~199番目のフレームを用いて各計算単位の第1指標の値を導出し、別の変動画像データを出力する。同様に、第1指標導出部1142は、200~249番目のフレーム、250~299番目のフレーム、300~349番目のフレーム、及び、350~399番目のフレームのそれぞれを用いて各計算単位の第1指標の値を導出し、さらに別の9個の変動画像データを出力する。
計算に用いられるフレーム(対象フレームと称される場合がある。)の個数が小さいほど、対象フレームの撮像期間中に突発的に生じた事象が、対象フレームを用いて導出された第1指標の値に与える影響が大きくなる。上述されたとおり、人工光の変動の周波数分布は、多くの場合、自然光の変動の周波数分布と比較してシャープな形状を有する。上記の変動の周波数分布は、上述された光の揺らぎの周波数分布に対応する。
これにより、評価部1150は、例えば、対象フレームの個数が少ない場合における変動の周波数分布と、対象フレームの個数が多い場合における変動の周波数分布とを比較することで、各画素又は各計算単位において検出された光に含まれる自然光の割合の多寡を判定することができる。例えば、(i)上記の周波数分布の分散、標準偏差又は変動係数の差の絶対値が予め定められた値よりも大きい場合、又は、(ii)対象フレームの個数が多い場合における変動の周波数分布の分散、標準偏差又は変動係数に対する、対象フレームの個数が少ない場合における変動の周波数分布の分散、標準偏差又は変動係数の比が、予め定められた値よりも小さい場合、評価部1150は、自然光の割合が多いと判定する。
さらに他の実施形態において、第1指標導出部1142は、第1指標の導出に用いられる色の要素が異なる複数の変動データを出力する。例えば、各フレームがRGB形式のカラー画像である場合、第1指標導出部1142は、同一の動画データから抽出された同一のフレーム群を用いて、(a)R値、G値及びB値の少なくとも2つを用いて導出された第1指標の値に基づいて生成された変動画像データと、(b)(i)上記の組み合わせとは異なる組み合わせ、又は、(ii)R値、G値及びB値の何れか1つを用いて導出された第1指標の値に基づいて生成された別の変動画像データとを出力する。
本発明者は、被写体の種類又は被写体の表面の状態によって、光の揺らぎが強調される周波数が異なることを見出した。例えば、人間の皮膚の表面で反射した光のR値の変動は、当該光のG値又はB値の変動よりも大きい。また、人間の皮膚の表面で反射した光のR値の変動は、植物の表面で反射した光のR値の変動よりも大きい。さらに、人間の視覚の感度特性と、撮像装置の感度特性とが異なることから、表示装置140は、人間の視覚特性に応じた色校正が施された画像を出力する。そのため、ディスプレイ、スクリーンなどの表示装置に表示されている物体からの光と、現実に存在する物体からの光とでは、R値、G値及びB値のバランスが異なる。
これにより、第1指標導出部1142が、例えば、R値、G値及びB値の1つ又は2つに基づいて第1指標を導出することにより、評価部1150が、特定の種類の物体(例えば、人間である。)を検出する精度が向上し得る。また、評価部1150は、例えば、R要素、G要素及びB要素の第1の組み合わせに基づいて導出された第1指標と、R要素、G要素及びB要素の第2の組み合わせに基づいて導出された第1指標を比較することで、特定の種類の物体(例えば、人間である。)の検出精度を向上させることができる。第1の組み合わせ及び第2の組み合わせは、各組み合わせを構成するRGB要素が異なる。第1の組み合わせは、R要素、G要素及びB要素の1つにより構成されてもよく、第2の組み合わせは、R要素、G要素及びB要素の1つにより構成されてもよい。
第1指標導出部1142は、上述された第1指標を導出するための条件の少なくとも2つを変えて、第1指標を導出してもよい。第1指標導出部1142は、物性情報取得部614が取得した動画データに対して、カメラ154自体の移動を補正するための処理を施した後、第1指標を導出するための処理を実行してもよい。第1指標導出部1142における情報処理の詳細は後述される。
(第2指標の指標値)
本実施形態において、第2指標導出部1144は、上述された第2指標の指標値を導出する。上述されたとおり、第2指標は、表示領域142の設置位置の周辺に存在する遮蔽物の配置状況を示す。例えば、第2指標は、遮蔽物により表示領域142への第三者の視線が遮られる程度を示す。第2指標導出部1144は、例えば、構造情報取得部612が取得した周辺データを解析して、表示領域142の周囲に配された遮蔽物のそれぞれが、第三者の視線を遮る度合いを導出する。
第2指標導出部1144は、構造情報取得部612が取得した点群データ又は距離データに基づいて、表示領域142の周囲に配された遮蔽物のそれぞれが、第三者の視線を遮る度合いを導出してよい。第2指標導出部1144は、構造情報取得部612が取得した画像データから、被写体とカメラ154との距離を算出して距離データを生成し、当該距離データを用いて、表示領域142の周囲に配された遮蔽物のそれぞれが、第三者の視線を遮る度合いを導出してよい。第2指標導出部1144は、物体位置決定部820が構築した三次元仮想空間を用いて、表示領域142の周囲に配された遮蔽物のそれぞれが、第三者の視線を遮る度合いを導出してもよい。
第2指標導出部1144は、例えば、距離算出部834が算出した複数の点のそれぞれと、表示領域142の代表点との距離に基づいて、第2指標の値を導出する。第2指標導出部1144は、(i)複数の点のそれぞれについて第2指標の値を導出してもよく、(ii)1以上の遮蔽物のそれぞれを識別した後、各遮蔽物上の複数の点又は各遮蔽物の代表点と、表示領域142の代表点との距離に基づいて、遮蔽物ごとに第2指標の値を導出してもよい。
第2指標導出部1144は、例えば、角度算出部836が算出した複数の点のそれぞれに関する角度の絶対値に基づいて、第2指標の値を導出する。第2指標導出部1144は、(i)複数の点のそれぞれについて第2指標の値を導出してもよく、(ii)1以上の遮蔽物のそれぞれを識別した後、遮蔽物ごとに第2指標の値を導出してもよい。
第2指標導出部1144は、例えば、距離算出部834が算出した複数の点のそれぞれに関する距離と、角度算出部836が算出した複数の点のそれぞれに関する角度の絶対値とに基づいて、第2指標の値を導出する。第2指標導出部1144は、(i)複数の点のそれぞれについて第2指標の値を導出してもよく、(ii)1以上の遮蔽物のそれぞれを識別した後、遮蔽物ごとに第2指標の値を導出してもよい。
(第3指標の指標値)
本実施形態において、第3指標導出部1146は、上述された第3指標の指標値を導出する。上述されたとおり、第3指標は、表示領域142の設置位置の周辺環境の状況を示す。第3指標導出部1146は、例えば、環境情報取得部616が取得した環境情報により示される周辺環境の状況に基づいて、第3指標の値を導出する。
一実施形態において、第3指標導出部1146は、環境情報取得部616が取得した照度情報により示される照度に基づいて、第3指標の値を導出する。第3指標導出部1146は、照度が大きいほど第3指標の値が大きくなるように第3指標の値を導出してよい。
他の実施形態において、第3指標導出部1146は、環境情報取得部616が取得した環境情報により示される周辺環境の状況に基づいて、表示領域142の設置位置における視程の大きさを決定してよい。例えば、第3指標導出部1146は、周辺環境の状況と、視程の大きさとを対応付けて格納するデータベースを参照して、環境情報取得部616が取得した環境情報に基づいて、上記の視程の大きさを決定する。第3指標導出部1146は、上記の視程の大きさに基づいて第3指標の値を導出してよい。
例えば、視程が大きいほど、情報処理端末のユーザが周囲に存在する第三者の存在に気が付きやすくなる。一方、視程が大きいほど、第三者が情報処理端末が出力した情報を閲覧しやすくなる。そこで、第3指標導出部1146は、例えば、視程が大きくなるほど第3指標の値が大きくなるように、第3指標の値を導出してよい。第3指標導出部1146は、視程が大きくなるほど第3指標の値が小さくなるように、第3指標の値を導出してよい。
(第4指標の指標値)
本実施形態において、第4指標導出部1148は、上述された第4指標の指標値を導出する。上述されたとおり、第4指標は、物体又は事象の種類に応じた情報漏洩のリスクを示す。第4指標導出部1148は、例えば、属性情報取得部618が取得した属性情報に基づいて第4指標の値を導出する。第4指標導出部1148は、例えば、1以上の物体又は事象のそれぞれについて、物体又は事象の種類及び/又は属性と、当該物体又は事象が観測された位置から第三者が出力画像を閲覧する可能性の程度を示す値とが対応付けられたデータベースを参照して、実際に観測された物体又は事象の種類及び/又は属性に基づいて、上記の第4指標の値を決定する。
上述されたとおり、属性情報取得部618は、環境センサ150が出力した画像データを解析して物体を検出する。例えば、属性情報取得部618は、画像中から物体の輪郭を検出し、検出された物体の種類及び/属性を判別する。しかしながら、輪郭検出技術を用いた物体を検出する場合、検出された物体がディスプレイ、スクリーンなどの表示装置に表示されているのか、当該物体が現実空間に実在するのかを判別することが難しい。
一実施形態において、第4指標導出部1148は、画像中における物体が検出された位置に基づいて、検出された物体の種類及び/属性を決定又は変更してよい。例えば、第1の物体及び第2の物体が検出されている場合において、第2の物体の位置が第1の物体の輪郭の内側であり、且つ、第1の物体の種類又は属性がディスプレイ、スクリーンなどの表示装置であるとき、第4指標導出部1148は、第2の物体の種類及び/又は属性が、表示装置に表示された画像であると判定する。また、第4指標導出部1148は、第2の物体の種類及び/又は属性が、表示装置に表示された画像であるとの判定結果に基づいて、上記の第4指標の値を決定する。これにより、第4指標導出部1148は、第4指標の値を適切に決定することができる。
他の実施形態において、第4指標導出部1148は、検出された物体の色に基づいて、検出された物体の種類及び/属性を決定又は変更してよい。人間の視覚の感度特性と、撮像装置の感度特性とが異なることから、表示装置は、人間の視覚特性に応じた色校正が施された画像を出力する。そのため、物体が表示装置に表示されている場合と、当該物体が現実空間に実在する場合とでは、カメラ154により検出される色が異なる。これにより、第4指標導出部1148は、検出された物体の色に基づいて、検出された物体の種類又属性を決定又は変更することができる。また、第4指標導出部1148は、上記の決定又は変更された物体の種類又属性に基づいて、上記の第4指標の値を決定する。これにより、第4指標導出部1148は、第4指標の値を適切に決定することができる。
この場合において、第4指標導出部1148は、第1指標導出部1142と協働して、検出された物体の種類及び/属性を決定又は変更してよい。上述されたとおり、第1指標導出部1142は、R要素、G要素及びB要素の任意の組み合わせに基づいて第1指標を導出することができる。また、第1指標導出部1142は、R要素、G要素及びB要素の第1の組み合わせに基づいて導出された第1指標と、R要素、G要素及びB要素の第2の組み合わせに基づいて導出された第1指標とを出力することができる。第4指標導出部1148は、例えば、1以上の物体又は事象のそれぞれについて、(a)物体又は事象の種類及び/又は属性と、(b)(i)R要素、G要素及びB要素の特定の組み合わせにより導出される第1指標の値を示す情報、又は、(ii)R要素、G要素及びB要素の第1の組み合わせに基づいて導出された第1指標の値と、R要素、G要素及びB要素の第2の組み合わせに基づいて導出された第1指標の値との比較結果を示す情報とが対応付けられたデータベースを参照して、第1指標導出部1142が出力した第1指標に基づいて、検出された物体の種類及び/属性を決定する。上記の決定された物体の種類又属性に基づいて、上記の第4指標の値を決定する。これにより、第4指標導出部1148は、第4指標の値を適切に決定することができる。
(閲覧可能性の程度の評価)
本実施形態において、評価部1150は、指標値導出部1140が導出した1又は複数の指標の値に基づいて、閲覧可能性の程度を評価する。評価部1150は、閲覧可能性の程度を示す評価値を導出してもよい。
(総合評価)
本実施形態において、評価部1150は、評価設定部1134が決定した評価設定の内容に従って、上記の評価値を導出する。評価部1150は、任意の関数又は学習モデルに、指標設定部1132が決定した1以上の種類の指標の指標値を入力することで、上記の評価値を導出してよい。
例えば、評価部1150は、指標設定部1132が決定した1以上の種類の指標の指標値と、当該1以上の指標のそれぞれに設定される重みの値とに基づいて、上記の指標の指標値の重み付き線形和を導出する。評価部1150は、上記の重み付き線形和を上記の評価値として出力する。これにより、評価部1150は、閲覧可能性の程度を総合的に評価することができる。
なお、閲覧可能性の程度を総合的に評価する手法は、上記の実施形態に限定されない。他の実施形態において、評価部1150は、重み付け論理計算、条件分岐、繰り返し処理を含むスクリプトを用いて、閲覧可能性の程度を総合的に評価してよい。さらに他の実施形態において、評価部1150は、ニューラルネットワーク技術を用いて、閲覧可能性の程度を総合的に評価してよい。例えば、評価部1150は、指標値導出部1140が出力した各種の指標値に基づいて、当該各種の指標値の特徴を表現した1以上のダイジェスト値を導出する。評価部1150は、各種の関数処理、畳み込み処理などを含む汎用スクリプトを用いて上記のダイジェスト値を導出してよい。評価部1150は、1以上のダイジェスト値を入力とし、総合評価の結果を出力とする学習データーを準備し、任意の学習モデルの学習処理を実行する。評価部1150は、学習済みの学習モデルを用いて、閲覧可能性の程度を総合的に評価してよい。
(第1指標に基づく評価)
本実施形態において、評価部1150は、第1指標の値に基づいて、閲覧可能性の程度を評価する。例えば、評価部1150は、ユーザ端末120の設置位置の周辺において物体の動き又は光の揺らぎが検出される程度を評価することで、ユーザ端末120の安全性を評価する。評価部1150は、例えば、ユーザ端末120の設置位置の周辺において物体の動き又は光の揺らぎが検出される程度が小さいほど、ユーザ端末120の安全性を高く評価する。第1指標の値に基づいて、閲覧可能性の程度を評価する手順の詳細は後述される。
(第2指標に基づく評価)
本実施形態において、評価部1150は、第2指標の値に基づいて、閲覧可能性の程度を評価する。例えば、評価部1150は、物体位置決定部820が決定した上記の位置関係に基づいて、上記の評価値を導出する。
上述されたとおり、出力画像の閲覧可能性の程度は、情報漏洩に対する安全性の程度を示す指標として用いられる。出力画像の閲覧可能性の程度が大きくなればなるほど、遮蔽物により第三者の視線を遮ることが困難になることを意味する。つまり、出力画像の閲覧可能性の程度が大きくなるほど、情報漏洩に対する安全性の程度が小さくなる。
一実施形態において、表示領域142及び遮蔽物の距離が大きい場合と、表示領域142及び遮蔽物の距離が小さい場合とを比較すると、表示領域142及び遮蔽物の距離が大きい場合の方が、第三者による表示領域142及び遮蔽物の間への割り込みが容易になる。また、表示領域142及び遮蔽物の距離が大きくなると、ユーザ端末120のユーザ22が、第三者による表示領域142の覗き見を発見することが困難になる。つまり、表示領域142及び遮蔽物の距離が大きくなるほど、閲覧可能性の程度が大きくなるとも考えられる。
一方、表示領域142及び遮蔽物の間に第三者が存在し、当該第三者が出力画像を覗き見している場合を想定すると、当該第三者と、表示領域142との距離が大きいほど、第三者による出力画像の内容の理解が困難になる。つまり、表示領域142及び遮蔽物の距離が大きくなるほど、閲覧可能性の程度が小さくなるとも考えられる。
他の実施形態によれば、第三者が表示領域142を斜めから閲覧する場合と、第三者が表示領域142を正面から閲覧する場合とを比較すると、第三者が表示領域142を正面から閲覧する場合の方が、第三者による出力画像の内容の理解が容易になる。一方、表示領域142の正面にはユーザ22が存在する。そのため、第三者が、表示領域142の正面、且つ、ユーザ22の背後から、表示領域142を覗き見ることは比較的困難であるとも考えられる。
そのため、閲覧可能性の程度の導出方法は、目的及び状況に応じて適切に設定され得る。一実施形態において、評価部1150は、(i)表示領域142から離れた位置に配された物体ほど、閲覧可能性の程度が大きくなるように、及び/又は、(ii)表示領域142の正面に近い位置に配された物体ほど、閲覧可能性の程度が小さくなるように、閲覧可能性の程度を示す評価値を導出する。他の実施形態おいて、評価部1150は、(i)表示領域142から近い位置に配された物体ほど、閲覧可能性の程度が大きくなるように、及び/又は、(ii)表示領域142の正面に近い位置に配された物体ほど、閲覧可能性の程度が大きくなるように、閲覧可能性の程度を示す評価値を導出する。
(第1計算部830に基づいて閲覧可能性の程度が導出される実施形態)
一実施形態において、第2指標導出部1144は、距離算出部834が算出した複数の点のそれぞれに関する距離に基づいて、各点が第三者による出力画像の閲覧を抑制する程度を示す指標である抑制指標の値を、複数の点のそれぞれについて算出する。評価部1150は、複数の点のそれぞれに関する抑制指標の値を合計することで、閲覧可能性の程度を示す評価値を導出する。抑制指標は、第2指標の一例であってよい。
他の実施形態において、第2指標導出部1144は、角度算出部836が算出した複数の点のそれぞれに関する角度の絶対値に基づいて、各点が第三者による出力画像の閲覧を抑制する程度を示す指標である抑制指標の値を、複数の点のそれぞれについて算出する。評価部1150は、複数の点のそれぞれに関する抑制指標の値を合計することで、閲覧可能性の程度を示す評価値を導出する。抑制指標は、第2指標の一例であってよい。
さらに他の実施形態において、第2指標導出部1144は、距離算出部834が算出した複数の点のそれぞれに関する距離と、角度算出部836が算出した複数の点のそれぞれに関する角度の絶対値とに基づいて、複数の点のそれぞれに関する抑制指標の値を算出する。評価部1150は、複数の点のそれぞれに関する抑制指標の値を合計することで、閲覧可能性の程度を示す評価値を導出する。抑制指標は、第2指標の一例であってよい。
(第2計算部840の計算結果に基づいて閲覧可能性の程度が導出される実施形態)
評価部1150は、遮蔽角算出部844が算出した1以上の物体のそれぞれの遮蔽角に基づいて、閲覧可能性の程度を示す評価値を導出してよい。例えば、評価部1150は、表示領域142の視野角のうち、1以上の物体により遮蔽される割合の大きさに基づいて、閲覧可能性の程度を示す評価値を導出する。評価部1150は、上記の遮蔽される割合が大きいほど閲覧可能性の程度が小さくなるように、閲覧可能性の程度を示す評価値を導出してよい。
(第3指標に基づく評価)
本実施形態において、評価部1150は、第3指標の値に基づいて、閲覧可能性の程度を評価する。評価部1150は、例えば、第3指標の値に基づいて、閲覧可能性の程度を示す評価値を導出する。評価部1150は、環境情報取得部616が取得した環境情報により示される周辺環境の状況に基づいて、閲覧可能性の程度を示す評価値を導出してもよい。評価部1150は、視程が大きいほど閲覧可能性の程度が小さくなるように、閲覧可能性の程度を示す評価値を導出してよい。評価部1150は、視程が小さいほど閲覧可能性の程度が小さくなるように、閲覧可能性の程度を示す評価値を導出してもよい。
例えば、評価部1150は、照度が大きいほど閲覧可能性の程度が小さくなるように、閲覧可能性の程度を示す評価値を導出する。評価部1150は、照度が小さいほど閲覧可能性の程度が小さくなるように、閲覧可能性の程度を示す評価値を導出してもよい。
(第4指標に基づく評価)
本実施形態において、評価部1150は、第4指標の値に基づいて、閲覧可能性の程度を評価する。評価部1150は、例えば、第4指標の値に基づいて、閲覧可能性の程度を示す評価値を導出する。評価部1150は、属性情報取得部618が取得した属性情報により示される物体又は事象の種類又は属性に基づいて、閲覧可能性の程度を示す評価値を導出してもよい。評価部1150は、第4指標の値を、閲覧可能性の程度を示す評価値として出力してよい。
図12は、安全管理部640における情報処理の一例を概略的に示す。本実施形態においては、表示領域142の視野角は、周辺データ生成装置152又はカメラ154の視野角よりも小さい場合を例として、ユーザ端末120の安全性を評価するための処理の一例が説明される。より具体的には、安全管理部640が、画像1200を用いてユーザ端末120の安全性を評価するための処理の一例が説明される。画像1200は、作業部屋300の位置Aに配されたユーザ端末120の周辺データ生成装置152又はカメラ154が撮像した画像の一例を示す。
上述されたとおり、本実施形態において、表示領域142の視野角は、周辺データ生成装置152又はカメラ154の視野角よりも小さい。そのため、表示領域142の視野角に相当する領域(図中、単位画像1240として表される。)の大きさは、画像1200の大きさよりも小さくなる。安全管理部640は、表示領域142の視野角に相当する大きさの画像(図中、単位画像1240として表される。)の中心1242を、予め定められた点線1250に沿って左右方向又は上下方向にずらしながら、安全性を評価してよい。これにより、安全管理部640は、単一の画像1200を利用して、複数の設置方向に関する安全性を評価することができる。
画像1200における単位画像1240の中心1242の位置は、表示領域142の設置方向に対応する。一実施形態において、画像1200における単位画像1240の位置に応じて、単位画像1240の形状及び大きさが調整される。例えば、単位画像1240の中心1242の位置と、画像1200の中心の位置との距離が大きくなるほど、単位画像1240の大きさが大きくなり、形状の変形の度合いが大きくなるように、単位画像1240の形状及び大きさが調整される。これにより、安全管理部640は、周辺データ生成装置152又はカメラ154が生成した単一の画像データ又は単一の三次元データに基づいて、表示領域142の設置方向が異なる複数のパターンにおけるユーザ端末120の安全性を評価することができる。
他の実施形態において、安全管理部640は、表示領域142の設置方向によらず、表示領域142の視野角に相当する領域の形状及び大きさが同一であるものとして、表示領域142の設置方向が異なる複数のパターンにおけるユーザ端末120の安全性を評価してもよい。これにより、計算量を削減が削減される。
(別実施形態の一例)
本実施形態においては、表示領域142の視野角が、周辺データ生成装置152又はカメラ154の視野角よりも小さい場合を例として、画像1200及び安全管理部640の一例が説明された。しかしながら、上述されたとおり、他の実施形態において、表示領域142の視野角が、周辺データ生成装置152又はカメラ154の視野角よりも大きい場合もあり得る。
例えば、安全管理部640は、周辺データ生成装置152又はカメラ154が取得した表示領域142の設置位置の周辺環境に関する複数の情報を結合することで、周辺データ生成装置152又はカメラ154の視野角を超えた情報を取得することができる。例えば、安全管理部640は、表示領域142の設置位置の周辺の画像であって、撮像位置及び撮像方向の少なくとも一方が異なる複数の画像を取得する。複数の画像は、単一の周辺データ生成装置152が撮像した画像であってもよく、複数の周辺データ生成装置152が撮像した画像であってもよい。安全管理部640は、上記の複数の画像を合成して単一の画像(結合画像と称される場合がある。)を生成する。これにより、画像1200の他の例として、複数の画像が合成された結合画像が生成され得る。
撮像方向は、二次元で表されてもよく、三次元で表されてもよい。安全管理部640は、上記の実施形態における画像1200と同様の手順により上記の結合画像を解析することで、表示領域142の設置態様を変えた場合における、表示領域142の視野角に相当する領域の位置、形状及び大きさを算出してよい。設置態様としては、設置位置、設置方向、ロール方向などが例示される。
複数の画像を合成して結合画像を生成する具体的な手順は、特に限定されない。結合画像は、例えば、複数の画像がパノラマ合成されたパノラマ画像であってよい。
安全管理部640は、複数の二次元画像又は結合画像に基づいて、後述される三次元仮想空間を生成してもよい。しかしながら、結合される2つの画像の重複部分が各画像の約2~3割に満たない場合には、2つの画像を正確に結合するための特徴の個数が少ないことから、2つの画像を正確に結合することが難しくなる。特に、複数の二次元画像又は結合画像に基づいて三次元仮想空間を生成する場合、二次元画像上の数画素のズレが三次元座標上での大きなズレにつながる可能性がある。例えば、ピントが合っていない状態で撮像された場合、暗所で撮像された場合、又は、逆光下で撮像された場合には、二次元画像上に上記のズレが発生する可能性がある。
そこで、安全管理部640が、複数の二次元画像又は結合画像に基づいて三次元仮想空間を生成する場合、制御装置170は、結合の誤差を低減又は補正するための処理を実行することが好ましい。結合の誤差を低減又は補正する処理としては、(a)周辺データ生成装置152又はカメラ154が複数の画像を連続して撮像している間(例えば、動画像を撮像している間である)に、周辺データ生成装置152又はカメラ154の移動量を推定し、当該移動量を考慮して、順次、画像を結合していく処理、(b)(i)三次元仮想空間上で空間構造の座標系を結合した後、三次元モデル又は三次元点群を二次元表示した場合の各特徴点の二次元座標を計算し、(ii)二次元表示された各特徴点の二次元座標と、結合前の二次元画像における各特徴点の位置とが一致するか否かを判定し、(iii)上記の特徴点の全て又は一部が一致しないと判定された場合には、各特徴点同士の誤差が小さくなるように、結合位置を補正する処理などが例示される。
二次元表示された各特徴点の二次元座標と、結合前の二次元画像における各特徴点の位置とが一致するか否かを判定する処理の具体的な手順は、特に限定されない。例えば、2つの座標系で採取した構造データについて、何らかの変換行列で座標一致するような、互いの3次元変換行列を算出する。また、上記の3次元変換行列を用いて、一つの座標系に採取情報をマージしていく。この変換行列の算出には、2つの座標系に同じ特徴点が複数見つかる必要がある。そこで、例えば、当該特徴点のペアリングについて、総当たりで帰納法的に正解を類推する。上記の類推には、例えば、確率的手法が用いられる。
後述されるとおり、現実空間に複数のマーカが配される場合には、各マーカーの値をユニークにすることで、上記のペアリングが容易になる。なお、複数のマーカーの値が同一であっても、ペアとなるマーカのロール方向及び/又は位置の相関から固有の特徴を見出すことで、上記の総当たりで類推する処理が実行され得る。
本実施形態においては、光の揺らぎを検出することで、表示領域142の設置位置の周辺に第三者が存在するか否かを判定する場合を例として、情報漏洩抑制システム100の詳細が説明された。しかしながら、情報漏洩抑制システム100は、本実施形態に限定されない。
他の実施形態において、制御装置170は、隠しカメラの予防として、光の揺らぎが検出される程度を用いて、周辺における物体の散らかり度合いを示す指標の指標値を導出してよい。制御装置170は、物体の散らかり度合いに基づいて、安全性を判定してよい。散らかり度合いが高い場合としては、光の揺らぎの大きい状態が周囲に散見される状態が例示される。散らかり度合いが高い場合、例えば、隠しカメラが設置されていることが露呈しにくい。そこで、例えば、制御装置170は、散らかり度合いが高いほど、安全性の程度が小さくなるように指標値を算出してよい。散らかり度合いに基づく判定が導入されることにより、予防的な判定が可能となり、安全性の程度が高くなる場所が多くなる。一方、例えば、表示領域142の設置位置に本、雑貨などが散在しているだけで、端末の利用場所が制限され得る。そのため、上記の散らかり度合いを示す指標値に基づいて、ユーザ端末120の安全性の評価値が導出される場合には、上述された判定の感度及び/又は応答性を調整する機能が用いられてよい。
図13は、制御装置170における情報処理の一例を概略的に示す。図13を用いて、評価部1150が、第1指標の値に基づいて閲覧可能性の程度を評価する手順の一例が説明される。上述されたとおり、本実施形態において、評価部1150は、ユーザ端末120の設置位置の周辺において物体の動き又は光の揺らぎが検出される程度を評価することで、ユーザ端末120の安全性を評価する。本実施形態においては、制御装置170が、カメラ154から撮像条件データ1310と、動画データ1320とを取得し、変動画像データ1340を生成する処理の一例が説明される。
本実施形態において、制御装置170は、カメラ154が生成した動画データを取得する。制御装置170は、動画データに含まれる複数のフレームのそれぞれを構成する各画素の画素値を解析して、特定の期間の間にカメラ154に到達した光の強度の変動を導出する。
カメラ154の被写体からの光の強度の変動は、(i)光源から当該被写体までの間の空間の屈折率の変動、(ii)光源から当該被写体までの間の空間に配された物体の変動、(iii)当該被写体からカメラ154までの空間の屈折率の変動、及び/又は、(iv)当該被写体からカメラ154までの空間に配された物体の変動を反映している。被写体からの光は、当該被写体の表面で反射した反射光であってもよく、当該被写体を透過した透過光であってもよく、当該被写体が放射した放射光であってもよい。物体の変動としては、当該物体の位置、大きさ、形状及び光学特性の少なくとも1つの変動が例示される。光学特性としては、屈折率、透過率、反射率などが例示される。
そのため、上記の光の強度の変動の大きさは、カメラ154の周辺において物体の動き又は光の揺らぎが検出される程度を示す指標として利用され得る。また、上記の光の強度の変動の大きさは、上述された閲覧可能性の程度を示す指標として利用され得る。つまり、フレーム中の特定の領域における光の強度変動が小さい場合、現実世界において当該領域に対応する位置に、動き、光の透過、光の反射などの小さな物体が配されていることを表す。
例えば、制御装置170は、(a)動画の各フレームを予め定められた複数の領域(計算単位と称される場合がある。)に区分し、(b)複数の計算単位のそれぞれについて、各計算単位に含まれる画素の画素値に基づいて、複数のフレームの間における当該領域の色及び/又は明るさの変動を示す指標(変動指標と称される場合がある。)の値を導出する。変動指標としては、分散、標準偏差及び変動係数、並びに、これらを基準値で除して得られる値の少なくとも1つが例示される。変動指標は、第1指標の一例であってよい。
複数の計算単位のそれぞれは、1以上の画素を含む。各計算単位に含まれる画素数が大きくなるほど、上記の光の強度変動を計算するための負荷が減少し、計算速度が向上する。一方、各計算単位に含まれる画素数が小さくなるほど、精度又は分解能が向上する。
単一のフレームに含まれる少なくとも2つの計算単位は、大きさ及び形状の少なくとも1つが異なってもよい。例えば、画面の中央近傍に表示される計算単位の大きさと、画面の周縁部に表示される計算単位の大きさとが異なる。例えば、画面の中央近傍に表示される計算単位の形状と、画面の周縁部に表示される計算単位の形状とが異なる。
(撮像条件データ1310の構成)
本実施形態において、撮像条件データ1310は、撮像位置を示す情報を含む。撮像条件データ1310は、撮像方向及びカメラ154の焦点距離の少なくとも一方を示す情報をさらに含んでよい。
カメラ154の焦点距離fが既知であれば、制御装置170は、画像中の特定の位置qと、画像中の光軸の位置oとの位置関係から、カメラ154の光軸の方向と、カメラ154の代表点250から現実世界において当該位置qに対応する位置Qに向かう方向とのなす角度を算出することができる。カメラ154のカメラ座標系において、位置oの座標は例えば(0、0、f)として表され、位置qの座標は例えば(x、y、f)として表され、位置Qの座標は例えば(X、Y、Z)として表される。
なお、表示領域142の設置位置及び設置方向が決定されている場合、撮像条件データ1310は、撮像位置を示す情報及び撮像方向を示す情報を含まなくてもよい。例えば、ユーザ22が特定の位置及び方向にユーザ端末120を設置し、当該位置及び方向における閲覧可能性の程度が検証される場合、撮像条件データ1310は、撮像位置を示す情報及び撮像方向を示す情報を含まなくてもよい。また、カメラ154の焦点距離fが既知である場合、撮像条件データ1310は、カメラ154の焦点距離を示す情報を含まなくてもよい。
(動画データ1320の構成)
本実施形態において、動画データ1320は、フレーム1322、フレーム1324、フレーム1332及びフレーム1334を含む複数のフレームを有する。動画データ1320に含まれる各フレームは二次元画像であってよい。
動画データ1320を構成するフレームのデータ構造は、例えば、フレームを構成する各画素の識別情報と、フレーム中における各画素の位置を示す情報と、当該各画素の明るさを示す情報とを含む。例えば、フレームに含まれるi番目の画素NPiのデータは、例えば、フレームの画像平面上におけるx方向の位置を示すxiと、当該画像平面上におけるy方向の位置を示すyiと、明るさを示す画素値とを含む。明るさは、輝度で表されてもよく、明度で表されてもよい。フレームがRGB形式で表されるカラー画像である場合、明るさを示す画素値は、例えば、RGBのそれぞれの輝度の値を示す情報を含む。つまり、各画素の明るさを示す情報により各画素の色が特定され得る。
(変動画像データ1340の構成)
本実施形態において、変動画像データ1340は、フレーム1342及びフレーム1344を含む複数のフレームを有する。変動画像データ1340を構成する複数のフレームのそれぞれは、動画データ1320に含まれる複数のフレームのデータに基づいて生成される。上述されたとおり、本実施形態においては、動画の各フレームが予め定められた複数の計算単位に区分され、計算単位ごとに変動指標の値が導出される。そのため、動画データ1320を構成するフレームの各計算単位が、変動画像データ1340を構成するフレームの各画素に対応する。
変動画像データ1340を構成するフレームのデータ構造は、例えば、フレームを構成する各画素の識別情報と、フレーム中における各画素の位置を示す情報と、当該各画素の明るさの変動の程度を示す情報とを含む。例えば、フレームに含まれるi番目の画素VPiのデータは、フレームの画像平面上におけるx方向の位置を示すxiと、当該画像平面上におけるy方向の位置を示すyiと、当該画素における明るさの変動の程度を示す画素値とを含む。
上記の画素値として、上述された変動指標の値が格納されてよい。フレームがRGB形式で表されるカラー画像である場合、上記の画素値として、RGBのそれぞれの輝度の変動の程度を示す3つの値が格納されてもよく、RGBのそれぞれの輝度の合計の変動の程度を示す単一の値が格納されてもよい。
一実施形態において、一般的なカメラ154が極暗所を撮像する場合、RGBのそれぞれの輝度のうち、Bの輝度のデータが用いられる、又は、Bの輝度のデータの重みがR及びGの輝度のデータの重みよりも大きくなるように設定されることで、評価精度が向上する。他の実施形態において、カメラ154の被写体が人間の皮膚である場合、Rの輝度のデータが用いられる、又は、Rの輝度のデータの重みがB及びGの輝度のデータの重みよりも大きくなるように設定されることで、評価精度が向上する。さらに他の実施形態において、カメラ154の被写体が植物である場合、Gの輝度のデータが用いられる、又は、Gの輝度のデータの重みがB及びRの輝度のデータの重みよりも大きくなるように設定されることで、評価精度が向上する。
(制御装置170の構成)
本実施形態において、制御装置170は、物性情報取得部614と、変動指標導出部1374と、画像生成部1376と、安全管理部1378とを備える。変動指標導出部1374は、第1指標導出部1142に配される。安全管理部1378は、安全管理部640の他の例であってよい。安全管理部1378の詳細は後述される。
変動指標導出部1374は、上述された変動指標の値を導出する。これにより、特定の期間の間にカメラ154に到達した光の強度の変動の程度が導出され得る。変動指標導出部1374は、例えば、下記の手順により、変動指標の値を導出する。
本実施形態によれば、変動指標導出部1374は、まず、物性情報取得部614が取得した動画データから、予め定められた規則に従って、複数のフレームを抽出する。変動指標導出部1374は、物性情報取得部614が取得した動画データのうち、カメラ154が静止している間に撮像された動画のデータの中から、複数のフレームを抽出してよい。
予め定められた規則としては、(i)連続する予め定められた個数のフレームを抽出するという規則、(ii)予め定められた長さを有する期間(単位期間と称される場合がある。)に相当するフレームの中から、予め定められた個数のフレームを抽出するという規則、(iii)連続する予め定められた第1の個数のフレームの中から、予め定められた第2個数(第2の個数は、第1の個数よりも少ない。)のフレームを抽出するという規則などが例示される。例えば、(i)の規則によれば、連続する10個のフレームが抽出される。一方、(ii)又は(iii)の規則によれば、例えば、3フレームごとに1フレームが抽出され、合計で10個のフレームが抽出される。
次に、変動指標導出部1374は、抽出された複数のフレームのそれぞれを、複数の計算単位に区分する。変動指標導出部1374は、予め定められた規則に従って、抽出された複数のフレームのそれぞれを複数の計算単位に区分してよい。複数の計算単位の形状は、全て同一であってもよく、一部が異なってもよく、全て異なってもよい。複数の計算単位の大きさは、全て同一であってもよく、一部が異なってもよく、全て異なってもよい。
次に、変動指標導出部1374は、複数の計算単位のそれぞれについて、変動指標の値を導出する。各計算単位の変動指標の値は、例えば、各計算単位に含まれる画素の画素値に基づいて決定される。
例えば、抽出された複数のフレームが撮像された期間中にカメラ154が静止していた場合、第1フレームの第1計算単位と、第2フレームの第1計算単位とは、現実世界の同一の位置に対応する。なお、この場合、第1フレームの第1計算単位と、第2フレームの第1計算単位とが対応すると称されることがある。また、このような関係が、フレーム間における計算単位の対応関係と称される場合がある。
そこで、変動指標導出部1374は、まず、各フレームの各計算単位に含まれる画素の画素値を合計する。これにより、複数のフレームのそれぞれにおいて、計算単位ごとの画素値の合計値が得られる。次に、変動指標導出部1374は、計算単位ごとに、複数のフレームの間における上記の合計値の変動を示す指標を計算する(統計処理を実行すると称される場合がある)。上述されたとおり、変動を示す指標としては、分散、標準偏差及び変動係数、並びに、これらを基準値で除して得られる値の少なくとも1つが例示される。変動指標導出部1374は、各計算単位における変動指標の値を示す情報を、各計算単位の識別情報と対応付けて、画像生成部1376に出力する。
なお、変動指標導出部1374は、抽出された複数のフレームを解析して、当該複数のフレームが撮像された期間中におけるカメラ154の移動の有無を判定してよい。上記の期間中にカメラ154が移動したと判定された場合、変動指標導出部1374は、まず、複数のフレームの間における計算単位の対応関係を決定する。
例えば、変動指標導出部1374は、まず、複数のフレームのうちの第1フレームを、基準となるフレームとして決定する。次に、変動指標導出部1374は、第2フレームの複数の領域の中から、第1フレームの第1領域に対応する領域を特定する。他のフレームについても同様の処理を繰り返す。また、第1フレームの第2領域についても同様の処理を繰り返す。これにより、フレーム間における計算単位の対応関係が決定される。次に、変動指標導出部1374は、フレーム間における計算単位の対応関係を考慮して、対応する計算単位同士の間で上述された統計処理を実行する。これにより、各計算単位における変動指標の値が導出される。
本実施形態において、画像生成部1376は、変動画像データ1340の各フレーム(変動画像と称される場合がある。)を生成する。画像生成部1376は、変動指標導出部1374が導出した複数の計算単位のそれぞれの変動指標の値と、予め定められた階調数とに基づいて、変動画像データ1340の各フレームを生成してよい。
一実施形態において、画像生成部1376は、複数の計算単位のそれぞれが変動画像の画素を構成するように、変動画像を生成する。例えば、画像生成部1376は、まず、動画データ1320の単一のフレーム(通常画像と称される場合がある。)における複数の計算単位の位置関係に基づいて、各計算単位の変動画像における位置を決定する。変動指標導出部1374は、通常画像における複数の計算単位の位置関係が反映されるように、変動画像における各計算単位の位置を決定してよい。
次に、変動指標導出部1374は、各計算単位の識別情報と、各計算単位の変動画像における位置を示す情報と、各計算単位における変動指標の値を示す情報とを対応付けて、変動画像データ1340の各フレームを生成する。変動指標の値を示す情報は、連続する数値を示す情報であってもよく、段階的な区分を示す情報であってもよい。変動画像の階調数が予め定められている場合、変動指標導出部1374は、変動画像の各画素における変動指標の値と、階調数とに基づいて、各画素の画素値を決定してよい。
変動指標導出部1374は、例えば、直接的に各種の変動度合いから変動指標を導出する(1次導出と称される場合がある)。変動指標導出部1374は、幾つかの導出された変動指標をもとに特徴や目的に応じた絞り込みフィルタ演算を用いて、新たな変動指標を生成してもよい(2次導出と称される場合がある)。上記のフィルタ演算としては、(i)和、積、論理和のような論理計算、(ii)条件分岐などが例示される。上記のフィルタ演算の内容は、例えば、複数の変動指標のそれぞれの抽出根拠に基づいて決定される。複数の変動指標の抽出根拠としては、変動指標の算出に用いられたセンサーの種類、変動指標の算出に用いられた集計条件、変動指標の算出に用いられたRGB要素又は周波数などが例示される。既に算出された1次導出の結果に基づいて2次導出が実施されてもよく、既に算出された2次導出の結果に基づいてさらに2次導出が実施されてもよい。
2次導出の例としては、一実施形態において、カメラ154が極暗所を撮像する場合、例えば、130>B>G>Rという条件を満たす画素を抽出することで、画像中の極暗所の領域が検出され得る。上記の極暗所の領域は、画像の全体であってもよく、画像の一部であってもよい。極暗所の領域では変動指標が小さく算出される傾向があることから、極暗所の領域における変動指標の値を補正するためのフィルタ演算処理が実行される。これにより、変動指標の導出精度が向上し得る。
他の実施形態において、カメラ154が光源及び太陽を撮像する場合、例えば、色=ALL255 AND 偏差=0という条件を満たす画素を抽出することで、ホワイトアウトしている露光部分の画素が検出され得る。この場合において、変動指標を別の変動指標から重みをつけて代用することで精度が向上する。
さらに他の実施形態において、例えば、キーボードのタイピングによりユーザ端末120に微振動が生じている場合、カメラ154の振動により上記の標準偏差にも振動が現れる。この場合、例えば、前述のフィルタ演算の事例としては、2つの偏差の変動指標から積又はANDを算出することで変動指標を生成する。上記の2つの偏差としては、0.5秒と、0.1秒とが例示される。これにより、不要な振動による評価精度の低下が抑制され得る。
さらに他の実施形態において、画像生成部1376は、各計算単位に含まれる複数の画素のそれぞれが変動画像の画素を構成するように、変動画像を生成する。例えば、画像生成部1376は、まず、複数の計算単位のそれぞれに含まれる1以上の画素のそれぞれの画素値を決定する。画像生成部1376は、各計算単位における変動指標の値を、当該計算単位に含まれる画素のそれぞれにおける変動指標の値として決定してよい。
次に、変動指標導出部1374は、各画素の識別情報と、各画素の変動画像における位置を示す情報と、各画素における変動指標の値を示す情報とを対応付けて、変動画像データ1340の各フレームを生成する。変動指標の値を示す情報は、連続する数値を示す情報であってもよく、段階的な区分を示す情報であってもよい。変動画像の階調数が予め定められている場合、変動指標導出部1374は、変動画像の各画素における変動指標の値と、階調数とに基づいて、各画素の画素値を決定してよい。
上述されたとおり、物性情報取得部614が撮像方向の異なる複数の動画データ1320を取得する場合がある。この場合、変動指標導出部1374は、複数の動画データ1320のそれぞれに対応する変動画像データ1340を生成してよい。
本実施形態において、安全管理部1378は、表示領域142の安全性を評価する。安全管理部1378は、ユーザ22とは異なる第三者による出力画像の閲覧可能性の程度を導出することで、表示領域142の安全性を評価してよい。
安全管理部1378は、例えば、表示領域142がカメラ154の撮像位置に配された場合における、表示領域142の安全性を評価する。安全管理部1378は、表示領域142の設置方向がカメラ154の撮像方向と略一致するように、表示領域142がカメラ154の撮像位置に配された場合における、表示領域142の安全性を評価してもよい。安全管理部1378は、例えば、表示領域142に表示される情報が漏洩するリスクが小さいほど、表示領域142の安全性が高いと判定する。表示領域142の安全性としては、表示領域142の設置位置の安全性、表示領域142の設置位置及び設置方向の安全性などが例示される。表示領域142が筐体130に収容される場合、表示領域142の安全性は、ユーザ端末120の安全性を意味してよい。
本実施形態において、安全管理部1378は、変動指標導出部1374が導出した変動指標、又は、画像生成部1376が生成した変動画像を利用して表示領域142の安全性を評価する点で、安全管理部640と相違する。安全管理部1378は、上記の相違点を除き、安全管理部640と同様の構成を有してよい。安全管理部1378の詳細は後述される。
変動画像データ1340の各フレームは、変動画像の一例であってよい。画像生成部1376は、変動画像生成部の一例であってよい。安全管理部1378は、閲覧可能性導出部の一例であってよい。
図14は、変動画像データ1340の生成処理の一例を概略的に示す。本実施形態においては、物性情報取得部614がリングバッファ1472を備え、動画データ1320に含まれる各フレームのデータがリングバッファ1472の複数のキューのそれぞれに順番に格納される。
本実施形態において、変動指標導出部1374は、例えば、通常画像であるフレーム1322からフレーム1332のデータが入力され、入力された複数のフレームの間における色及び/又は明るさの変動を示す指標(上述されたとおり変動指標と称される場合がある。)の値を導出する。また、画像生成部1376は、変動指標導出部1374が導出した変動指標の値に基づいて、変動画像であるフレーム1342のデータを生成する。同様に、変動指標導出部1374に、フレーム1324からフレーム1334のデータが入力され、画像生成部1376がフレーム1344を生成する。変動指標導出部1374及び画像生成部1376が同様の処理を繰り返すことで、変動画像データ1340が生成される。
なお、本実施形態においては、説明を簡単にすることを目的として、変動指標導出部1374に、フレーム1322からフレーム1332までの各フレームの全領域の画素の画素値が入力され、画像生成部1376が、当該全領域に対応するフレーム1342を生成する場合を例として、変動画像データ1340の生成処理の一例が説明された。しかしながら、変動画像データ1340の生成処理は、本実施形態に限定されない。
他の実施形態において、変動指標導出部1374に各フレームの一部の領域の画素の画素値が入力され、画像生成部1376が当該一部の領域に対応するフレームを生成する。変動指標導出部1374に入力され、変動画像の生成処理の対象となる通常画像(対象画像と称される場合がある。)としては、図12に関連して説明された複数の単位画像1240のそれぞれなどが例示される。
図15は、変動指標導出部1374の内部構成の一例を概略的に示す。図15を用いて、変動指標導出部1374に入力された複数のフレームが撮像された期間中にカメラ154が移動した場合における補正処理の一例が説明される。本実施形態において、変動指標導出部1374は、変動指標算出部1522と、移動具合決定部1524と、補正部1526とを備える。
本実施形態において、変動指標算出部1522は、例えば、対象画像となる複数のフレームのデータが入力され、対象画像に含まれる複数の計算単位のそれぞれについて変動指標の値を算出する。変動指標算出部1522は、図13及び図14に関連して説明された手順と同様の手順に従って、変動指標の値を算出してよい。
本実施形態において、移動具合決定部1524は、上記の複数のフレームが撮像された期間中におけるカメラ154の移動の程度(移動具合と称される場合がある。)を決定する。移動具合としては、移動の方向及び移動の量が例示される。例えば、移動具合決定部1524は、動画データ1320を解析し、上記の複数のフレームの間における画像中の特徴点の移動具合に基づいて、当該動画データ1320を撮像したカメラ154の移動具合を決定する。
本実施形態において、補正部1526は、移動具合決定部1524が決定したカメラ154の移動具合に基づいて、複数の計算単位のそれぞれの変動指標の値を補正する。例えば、補正部1526は、移動具合決定部1524が決定した移動具合に基づいて、上記の期間中にカメラ154が移動したか否かを判定する。
上記の期間中にカメラ154が移動していないと判定された場合、補正部1526は、補正が不要であると判定する。この場合、変動指標導出部1374は、変動指標算出部1522が算出した値を、変動指標の値として出力する。
一方、上記の期間中にカメラ154が移動したと判定された場合、補正部1526は、補正が必要であると判定する。例えば、補正部1526は、まず、変動指標導出部1374に入力された複数のフレームの間における計算単位の対応関係を決定する。次に、補正部1526は、フレーム間における計算単位の対応関係を考慮して、対応する計算単位同士の間で上述された統計処理を実行し。各計算単位における変動指標の値を算出する。この場合、変動指標導出部1374は、補正部1526が算出した値を、変動指標の値として出力する。
(別実施形態の一例)
本実施形態においては、変動指標算出部1522と、補正部1526とが変動指標の値を算出する場合を例として、補正処理の一例が説明された。しかしながら、補正処理は本実施形態に限定されない。
他の実施形態において、変動指標算出部1522が、カメラ154の移動の有無に応じて、統計処理の対象となるフレームごとの計算単位を決定してよい。例えば、変動指標算出部1522が変動指標を算出する前に、補正部1526が補正の要否を判定する。補正が不要であると判定された場合、変動指標算出部1522は、各フレームの同一の位置に配された複数の計算単位の間で統計処理を実行する。一方、補正が必要であると判定された場合、変動指標算出部1522は、カメラ154の移動具合を考慮して、複数のフレームの間における計算単位の対応関係を決定する。変動指標算出部1522は、対応関係にある複数の計算単位の間で統計処理を実行する。
図16、図17、図18及び図19を用いて、安全管理部1378の詳細が説明される。図16は、安全管理部1378の内部構成の一例を概略的に示す。図17は、安全管理部1378における情報処理の一例を概略的に示す。図18は、マーカが写り込んだ通常画像である二次元画像1800の一例を概略的に示す。図19は、複数の変動画像が合成されたパノラマ画像1900の一例を概略的に示す。
図16は、安全管理部1378の内部構成の一例を概略的に示す。本実施形態において、安全管理部1378は、例えば、導出手順決定部1130と、指標値導出部1140と、評価部1150と、評価対象決定部1620とを備える。本実施形態において、評価対象決定部1620は、例えば、変動画像取得部1622と、結合画像生成部1624と、単位画像抽出部1626と、マーカ検出部1632と、画素値変更部1634と、撮像位置決定部1636と、撮像方向決定部1638とを有する。
安全管理部1378は、評価対象決定部1620を備える点で、安全管理部640と相違する。上記の相違点を除き、安全管理部1378は、安全管理部640と同様の構成を有してよい。
上述されたとおり、表示領域142と、カメラ154とが同一の筐体130に収容されている場合、カメラ154の撮像位置は、表示領域142又はユーザ端末120の設置位置と略一致する。同様に、カメラ154の撮像方向は、表示領域142又はユーザ端末120の設置方向と略一致する。
本実施形態において、評価対象決定部1620は、変動画像データ1340の中から、安全性に関する評価の対象となる対象画像を決定する。上述されたとおり、対象画像は変動画像データ1340に含まれるフレーム全体であってもよく、当該フレームの一部であってもよい。
本実施形態において、変動画像取得部1622は、画像生成部1376が生成した1以上の変動画像を取得する。カメラ154が撮像方向の異なる複数の動画を撮像している場合、変動画像取得部1622は、当該複数の動画のそれぞれに関する複数の変動画像を取得してよい。
本実施形態において、結合画像生成部1624は、画像生成部1376が生成した複数の変動画像をパノラマ合成して、結合画像を生成する。図19に関連して説明されたパノラマ画像1900は、結合画像の一例であってよい。
本実施形態において、単位画像抽出部1626は、変動画像又は結合画像の中から、評価対象となる1以上の単位画像を抽出する。各単位画像は、表示領域142が特定の位置に特定の向きに配置された場合における表示領域142の視野角に相当する。単位画像抽出部1626は、上記の特定の向きが異なる複数の単位画像を抽出してよい。
本実施形態において、マーカ検出部1632は、変動画像の元となる動画に映り込んだマーカを検出する。上述されたとおり、マーカは、閲覧可能性の程度を示す情報を含んでよい。マーカは、閲覧可能性の程度を示す情報と、閲覧可能性の程度が適用される領域の大きさを示す情報とを含んでもよい。上述されたとおり、マーカとしては、ARマーカ、QRコード(登録商標)、バーコードなどが例示される。ARマーカとしては、ArUco、カメレオンコードなどが例示されるが、ARマーカはこれらに限定されない。例えば、QRコード(登録商標)及びバーコードが、ARマーカとして利用されてよい。
本実施形態において、画素値変更部1634は、マーカ検出部1632がマーカを検出した場合に、変動画像の画素値を変更する。画素値変更部1634は、検出されたマーカにより示される情報に基づいて、変動画像の画素値を変更してよい。マーカがQRコード(登録商標)又はバーコードである場合、画素値変更部1634は、マーカの識別情報と、当該マーカが検出された場合における情報処理の内容とを対応付けて格納するデータベースを参照して、検出されたマーカにより示される情報を取得してよい。
例えば、画素値変更部1634は、通常画像の複数の領域のうちマーカが映り込んだ領域に対応する変動指標の値を、マーカにより示される閲覧可能性の程度を示す情報に基づいて決定する。検出されたマーカにより閲覧可能性の程度が適用される領域の大きさが示される場合、画素値変更部1634は、当該マーカにより示される情報に基づいて、通常画像の複数の領域のうち、閲覧可能性の程度が適用される領域を特定してよい。画素値変更部1634は、変動画像又は単位画像において上記の領域に対応する領域に含まれる画素の画素値を、検出されたマーカにより示される閲覧可能性の程度を示す情報に基づいて決定する。例えば、画素値変更部1634は、変動画像又は単位画像における上記の画素の画素値を検出されたマーカにより示される閲覧可能性の程度に対応する値に変更する。
本実施形態において、撮像位置決定部1636は、対象画像の撮像位置を決定する。撮像位置決定部1636は、例えば、撮像条件データ1310に基づいて、対象画像の撮像位置を決定する。
本実施形態において、撮像方向決定部1638は、対象画像の撮像方向を決定する。対象画像の中心点と、当該対象画像の抽出元となる変動画像におけるカメラ154の光軸の位置とが一致する場合、撮像方向決定部1638は、例えば、撮像条件データ1310に基づいて、対象画像の撮像方向を決定する。一方、対象画像の中心点と、当該対象画像の抽出元となる変動画像におけるカメラ154の光軸の位置とが一致しない場合、撮像位置決定部1636は、例えば、当該対象画像の抽出元となる変動画像におけるカメラ154の光軸の位置と、当該対象画像の抽出元となる変動画像における当該対象画像の中心点の位置と、カメラ154の焦点距離と、撮像条件データ1310とに基づいて、対象画像の撮像方向を決定する。
本実施形態において、評価部1150は、表示領域142が、カメラ154が動画を撮像した位置に配された場合における、カメラ154のユーザとは異なる第三者による出力画像の閲覧可能性の程度を導出する。閲覧可能性の程度は、安全性を示す指標の一例であってよい。
本実施形態において、評価部1150は、変動指標導出部1374が導出した複数の領域のそれぞれの変動指標の値に基づいて、上記の閲覧可能性の程度を示す評価値を導出する。評価対象決定部1620が評価対象として決定した対象画像の画素値は、変動指標導出部1374が導出した複数の領域のそれぞれの変動指標の値を示す。
そこで、本実施形態において、評価部1150は、対象画像に基づいて上記の閲覧可能性の程度を導出する。評価部1150は、複数の対象画像のそれぞれについて、上記の閲覧可能性の程度を示す評価値を導出してよい。
一実施形態において、上述されたとおり、対象画像は、撮像方向の異なる複数の変動画像又は単位画像であり得る。これにより、複数の撮像方向のそれぞれにおける閲覧可能性の程度を示す評価値が導出され得る。
他の実施形態において、対象画像は、ユーザ22がカメラ154を連続して利用している期間中の複数の時点における変動画像又は単位画像であり得る。これにより、評価部1150は、ユーザ22がユーザ端末120を利用している期間中、ユーザ端末120の安全性を監視することができる。
評価部1150は、複数の領域のそれぞれの変動指標の値に基づいて、現実空間における各領域に対応する位置から出力画像が閲覧される可能性の程度を示す指標である閲覧指標の値を、複数の領域のそれぞれについて算出してよい。評価部1150は、複数の領域のそれぞれに関する閲覧指標の値に基づいて、閲覧可能性の程度を示す評価値を導出してよい。一実施形態において、評価部1150は、複数の領域のそれぞれに関する閲覧指標の値を合計することで、閲覧可能性の程度を示す評価値を導出する。他の実施形態において、評価部1150は、特定の領域に近接する複数の領域のそれぞれに関する閲覧指標の値の平均値(各領域の閲覧指標の値の合計を、領域の個数で割った値である。)を算出することで、閲覧可能性の程度を示す評価値を導出する。
一実施形態において、評価部1150は、変動指標の値が大きな領域の閲覧指標の値が、変動指標の値が小さな領域の閲覧指標の値よりも大きくなるように、上記の閲覧指標の値を算出する。他の実施形態において、評価部1150は、動画におけるカメラ154の光軸の位置に近い領域の閲覧指標の値が、動画におけるカメラ154の光軸の位置から遠い領域の閲覧指標の値よりも大きくなるように、上記の閲覧指標の値を算出する。さらに他の実施形態において、評価部1150は、水平線に近い領域の閲覧指標の値が、水平線に遠い領域の閲覧指標の値よりも大きくなるように、上記の閲覧指標の値を算出する。
図17は、安全管理部1378における情報処理の一例を概略的に示す。図17を用いて、安全管理部1378が表示領域142の安全性を評価する手順の一例が説明される。上述されたとおり、安全管理部1378は、変動指標導出部1374が導出した変動指標、又は、画像生成部1376が生成した変動画像を利用して、表示領域142の安全性を評価する
本実施形態によれば、まず、S1722において、安全管理部1378は、1以上の変動画像と、各変動画像に対応する撮像位置及び撮像方向とを取得する。例えば、安全管理部1378は、変動画像データ1340と、変動画像データ1340の元となる動画データ1320が撮像された時の撮像条件を示す撮像条件データ1310を取得する。
次に、S1724において、安全管理部1378は、変動画像の画素値を変更するためのイベントの有無を判定する。変動画像の画素値を変更するためのイベントが検出された場合、安全管理部1378は、検出されたイベントに応じて、変動画像の画素値を変更する。
変動画像の画素値を変更するためのイベントとしては、変動画像データ1340に含まれるフレームの元となる動画データ1320のフレームに、予め定められた種類のマーカが検出されたことが例示される。例えば、安全管理部1378は、動画データ1320のフレームを解析して、予め定められた種類のマーカの有無を判定する。上記のマーカとしては、ARマーカ、QRコード(登録商標)、バーコードなどが例示される。ARマーカとしては、ArUco、カメレオンコードなどが例示されるが、ARマーカはこれらに限定されない。上述されたとおり、例えば、QRコード(登録商標)及びバーコードが、ARマーカとして利用されてよい。
本実施形態におよれば、マーカは、当該マーカが付された位置若しくは当該マーカが付された物体の安全性の程度を示す情報を含む、又は、当該安全性の程度を示す情報と対応付けられた情報(例えば、マーカの識別情報である。)を含む。マーカは、当該マーカの効力が及ぶ範囲に関する情報を含んでもよく、当該マーカの効力が及ぶ範囲に関する情報と対応付けられた情報(例えば、マーカの識別情報である。)を含んでもよい。
これにより、安全管理部1378は、動画データ1320のフレーム中に検出されたマーカが付された位置若しくは当該マーカが付された物体の安全性の程度を示す情報を取得することができる。安全管理部1378は、マーカの識別情報と、当該マーカが付された位置若しくは当該マーカが付された物体の安全性の程度を示す情報と、当該マーカの効力が及ぶ範囲に関する情報とが対応付けられたデータベースを参照することで、各種の情報を取得してもよい。
安全管理部1378は、通常画像においてマーカが検出された計算単位又は画素の位置と、当該マーカにより示される安全性の程度とに基づいて、変動画像の対応する画素の画素値を変更する。これにより、ユーザ22は、現実に即した適切な場所に、ユーザ端末120を設置することができる。
例えば、ガラス窓は光を透過させたり、光を反射したりするので、変動画像において、通常画像のガラス窓に対応する画素の変動指標の値は比較的大きくなる。しかしながら、外部から室内を覗き見られる可能性が小さい場合、現実世界のガラス窓に、安全性が高いことを示すマーカが付される。ガラス窓にマーカが付されていない場合、ユーザ22は、当該ガラス窓を背にする位置でユーザ端末120を使用することができない。一方、ガラス窓にマーカが付されている場合、ユーザ22は、当該ガラス窓を背にする位置でユーザ端末120を使用することができる。
次に、S1726において、安全管理部1378は、S1722において取得された1以上の変動画像の中から、安全性に関する評価の対象となる対象画像を抽出する。一実施形態において、安全管理部1378は、画像生成部1376が生成した単一の変動画像の全領域を対象画像として、当該対象画像に対応する位置及び/又は方向の安全性を評価する。他の実施形態において、安全管理部1378は、画像生成部1376が生成した単一の変動画像の一部の領域を対象画像として、当該対象画像に対応する位置及び/又は方向の安全性を評価する。変動画像の一部の領域としては、表示領域142の視野角に相当する領域が例示される。
次に、S1728において、安全管理部1378は、抽出された対象画像に対応する撮像位置及び撮像方向を決定する。例えば、安全管理部1378は、S1722において取得された撮像条件データ1310に基づいて、上記の撮像位置及び撮像方向を決定する。
次に、S1730において、安全管理部1378は、対象画像の安全性に関する評価値を決定する。また、安全管理部1378は、対象画像の安全性に関する評価値と、対象画像の撮像位置及び/又は撮像方向とを対応付けて出力する
図18は、二次元画像1800の一例を概略的に示す。図18において、マーカ1822は、図17のS1724に関連して説明されたマーカの一例を示す。また領域1824は、マーカ1822の効力が及ぶ範囲の一例を示す。
図19は、パノラマ画像1900の一例を概略的に示す。図17のS1726に関連して説明されたとおり、安全管理部1378は、S1722において取得された1以上の変動画像の中から、安全性に関する評価の対象となる対象画像を抽出する。この場合において、安全管理部1378は、撮像方向の異なる通常画像から生成された複数の変動画像を合成して、単一の合成画像を生成してよい。
例えば、安全管理部1378は、上記の複数の変動画像を合成してパノラマ画像1900を生成する。図19に示された例によれば、変動画像1920、変動画像1922、変動画像1924、変動画像1926及び変動画像1928により、単一のパノラマ画像1900が合成される。
安全管理部1378は、パノラマ画像1900の中から、表示領域142の視野角に相当する領域を示す画像(単位画像と称される場合がある。)を抽出し、当該単位画像を対象画像として決定してよい。安全管理部1378は、抽出される単位画像1940の中心1942の位置を、予め定められた点線1950に沿って左右方向又は上下方向にずらしていくことで、複数の単位画像1940を対象画像として抽出してよい。
(別実施形態の一例)
他の実施形態において、パノラマ画像1900は、定期的にリフレッシュされてよい。例えば、予め定められた時間間隔で新たなパノラマ画像1900が生成される。この場合において、新たなパノラマ画像1900を生成するためのガイド処理が実行されてよい。これにより、現実世界の最新の情報がパノラマ画像1900に反映される。その結果、安全性に関する評価精度が向上する。
図19に関連して説明された実施形態においては、制御装置170が、撮像方向の異なる通常画像から生成された複数の変動画像を合成して、単一の合成画像(上述されたパノラマ画像である。)を生成する処理(パノラマ化と称される場合がある。)を実行する場合を例として、撮像装置の画角を仮想的に拡張する技術(画角拡張技術と称される場合がある。)の一例が説明された。上記の複数の通常画像又は変動画像のそれぞれは、カレント画像と称される場合がある。
しかしながら、画角拡張技術は、本実施形態に限定されない。カレント画像の画角拡張技術の他の実施形態としては、電磁波及び/又は音波のn次反射(nは、2以上の整数である。)をカレント画像から検出し、画角の外に存在する物体の揺らぎ、動態変化などを検出することが例示される。例えば、画像の被写体の表面が光を反射しやすい場合、当該画像を撮像した撮像装置の背後に存在する物体が当該被写体の表面に写り込む。制御装置170は、上記の被写体の表面に写り込む光又は影の揺らぎを解析することで、撮像装置の画角の外に配された物体の動きを検出することができる。電磁波及び/又は音波を反射しやすい表面を有する物体としては、鏡、ガラス窓、ホワイトボード、指向性反射特性の高い壁、電源OFF状態のTV画面、冷蔵庫などが例示される。制御装置170は、画像を解析して被写体の境界を検出する処理、及び/又は、検出された被写体の種類を特定する処理若しくは当該被写体が反射性の表面を有するか否かを判定する処理を実行してもよい。
例えば、制御装置170は、撮像装置の画角内に存在している物体の表面に写り込む光又は影のn次反射の揺らぎ度合いに注目する。n次反射光の揺らぎ度合いの変化が大きい場合、制御装置170は、撮像装置の周辺(例えば、撮像装置の画角の外である。)に動体が存在すると判断して、安全性の程度が小さいと判定してよい。
より具体的には、制御装置170は、まず、表示領域の周辺を撮像する撮像装置から動画データを取得する。次に、制御装置170は、動画データを解析して、変動画像を生成する。次に、制御装置170は、変動画像を解析して、変動指標の値が予め定められた値よりも大きい画素又は領域を抽出する。制御装置170は、上記の画素又は領域が、反射性の表面を有する物体に対応する画素又は領域であるか否かを判定する。上記の画素又は領域が、反射性の表面を有する物体に対応する画素又は領域である場合、制御装置170は、当該画素又は領域は撮像装置の画角外に対応すると判定する。これにより、制御装置170は、撮像装置の画角外に存在している動体を検出することができる。
評価部1150は、閲覧可能性導出部の一例であってよい。
図20は、本発明の複数の態様が全体的又は部分的に具現化されてよいコンピュータ3000の一例を示す。情報漏洩抑制システム100の少なくとも一部は、コンピュータ3000により実現されてよい。例えば、ユーザ端末120の少なくとも一部が、コンピュータ3000又はその一部により実現される。例えば、ユーザ端末120の少なくとも一部が、制御装置170が、コンピュータ3000又はその一部により実現される。
コンピュータ3000にインストールされたプログラムは、コンピュータ3000に、本発明の実施形態に係る装置に関連付けられるオペレーション又は当該装置の1又は複数の「部」として機能させ、又は当該オペレーション又は当該1又は複数の「部」を実行させることができ、及び/又はコンピュータ3000に、本発明の実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ3000に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつか又はすべてに関連付けられた特定のオペレーションを実行させるべく、CPU3012によって実行されてよい。
本実施形態によるコンピュータ3000は、CPU3012、RAM3014、GPU3016、及びディスプレイデバイス3018を含み、それらはホストコントローラ3010によって相互に接続されている。コンピュータ3000はまた、通信インタフェース3022、ハードディスクドライブ3024、DVD-ROMドライブ3026、及びICカードドライブのような入出力ユニットを含み、それらは入出力コントローラ3020を介してホストコントローラ3010に接続されている。コンピュータはまた、ROM3030及びキーボード3042のようなレガシの入出力ユニットを含み、それらは入出力チップ3040を介して入出力コントローラ3020に接続されている。
CPU3012は、ROM3030及びRAM3014内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。GPU3016は、RAM3014内に提供されるフレームバッファ等又はそれ自体の中に、CPU3012によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス3018上に表示されるようにする。
通信インタフェース3022は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブ3024は、コンピュータ3000内のCPU3012によって使用されるプログラム及びデータを格納する。DVD-ROMドライブ3026は、プログラム又はデータをDVD-ROM3001から読み取り、ハードディスクドライブ3024にRAM3014を介してプログラム又はデータを提供する。ICカードドライブは、プログラム及びデータをICカードから読み取り、及び/又はプログラム及びデータをICカードに書き込む。
ROM3030はその中に、アクティブ化時にコンピュータ3000によって実行されるブートプログラム等、及び/又はコンピュータ3000のハードウエアに依存するプログラムを格納する。入出力チップ3040はまた、様々な入出力ユニットをパラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ3020に接続してよい。
プログラムが、DVD-ROM3001又はICカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもあるハードディスクドライブ3024、RAM3014、又はROM3030にインストールされ、CPU3012によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ3000に読み取られ、プログラムと、上記様々なタイプのハードウエアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ3000の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。
例えば、通信がコンピュータ3000及び外部デバイス間で実行される場合、CPU3012は、RAM3014にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース3022に対し、通信処理を命令してよい。通信インタフェース3022は、CPU3012の制御の下、RAM3014、ハードディスクドライブ3024、DVD-ROM3001、又はICカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
また、CPU3012は、ハードディスクドライブ3024、DVD-ROMドライブ3026(DVD-ROM3001)、ICカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がRAM3014に読み取られるようにし、RAM3014上のデータに対し様々なタイプの処理を実行してよい。CPU3012は次に、処理されたデータを外部記録媒体にライトバックしてよい。
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU3012は、RAM3014から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM3014に対しライトバックする。また、CPU3012は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU3012は、当該複数のエントリの中から、第1の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
上で説明したプログラム又はソフトウエアモジュールは、コンピュータ3000上又はコンピュータ3000近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それにより、上記のプログラムを、ネットワークを介してコンピュータ3000に提供する。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。また、技術的に矛盾しない範囲において、特定の実施形態について説明した事項を、他の実施形態に適用することができる。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
例えば、本願明細書には下記の事項が開示されている。
(項目A1)
画像出力装置の出力する出力画像が表示される表示領域の周辺の状態を示す周辺状態情報を取得する周辺状態取得部と、
上記周辺状態取得部が取得した上記周辺状態情報により示される上記表示領域の周辺の状態に基づいて、上記画像出力装置のユーザとは異なる第三者による上記出力画像の閲覧可能性の程度を導出する閲覧可能性導出部と、
を備える、情報処理装置。
(項目A2)
画像出力装置の出力する出力画像が表示される表示領域の周辺の状態を示す周辺状態情報を取得する周辺状態取得段階と、
上記周辺状態取得段階において取得された上記周辺状態情報により示される上記表示領域の周辺の状態に基づいて、上記画像出力装置のユーザとは異なる第三者による上記出力画像の閲覧可能性の程度を導出する閲覧可能性導出段階と、
を有する、情報処理方法。
(項目B1)
複数のフレームを含む動画のデータを取得する動画取得部と、
(a)上記動画の各フレームを予め定められた複数の領域に区分し、(b)上記複数の領域のそれぞれについて、各領域に含まれる画素の画素値に基づいて、上記複数のフレームの間における各領域の色及び/又は明るさの変動を示す指標である変動指標の値を導出する変動指標導出部と、
を備え、
上記複数の領域のそれぞれは、1以上の画素を含む、
画像処理装置。
(項目B2)
複数のフレームを含む動画のデータを取得する動画取得段階と、
(a)上記動画の各フレームを予め定められた複数の領域に区分し、(b)上記複数の領域のそれぞれについて、各領域に含まれる画素の画素値に基づいて、上記複数のフレームの間における各領域の色及び/又は明るさの変動を示す指標である変動指標の値を導出する変動指標導出段階と、
を有し、
上記複数の領域のそれぞれは、1以上の画素を含む、
画像処理方法。
(項目C1)
画像出力装置の出力する出力画像が表示される表示領域の周辺に配された1以上の物体を被写体とする画像の画像データ、又は、上記1以上の物体の三次元点群データ若しくは距離データである周辺データを取得する周辺データ取得部と、
上記周辺データ取得部が取得した上記周辺データを解析して、上記1以上の物体のそれぞれと、上記表示領域との位置関係を決定する物体位置決定部と、
上記物体位置決定部が決定した上記位置関係に基づいて、上記画像出力装置のユーザとは異なる第三者による上記出力画像の閲覧可能性の程度を導出する閲覧可能性導出部と、
を備える、情報処理装置。
(項目C2)
画像出力装置の出力する出力画像が表示される表示領域の周辺に配された1以上の物体を被写体とする画像の画像データ、又は、上記1以上の物体の三次元点群データ若しくは距離データである周辺データを取得する周辺データ取得段階と、
上記周辺データ取得段階において取得された上記周辺データを解析して、上記1以上の物体のそれぞれと、上記表示領域との位置関係を決定する物体位置決定段階と、
上記物体位置決定段階において決定された上記位置関係に基づいて、上記画像出力装置のユーザとは異なる第三者による上記出力画像の閲覧可能性の程度を導出する閲覧可能性導出段階と、
を有する、情報処理方法。