JP2020102657A - 電子機器、制御装置、制御方法および制御プログラム - Google Patents

電子機器、制御装置、制御方法および制御プログラム Download PDF

Info

Publication number
JP2020102657A
JP2020102657A JP2018237529A JP2018237529A JP2020102657A JP 2020102657 A JP2020102657 A JP 2020102657A JP 2018237529 A JP2018237529 A JP 2018237529A JP 2018237529 A JP2018237529 A JP 2018237529A JP 2020102657 A JP2020102657 A JP 2020102657A
Authority
JP
Japan
Prior art keywords
object image
image
user
priority
highlighting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018237529A
Other languages
English (en)
Inventor
弘康 伊神
Hiroyasu Igami
弘康 伊神
和典 森下
Kazunori Morishita
和典 森下
慎哉 佐藤
Shinya Sato
慎哉 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2018237529A priority Critical patent/JP2020102657A/ja
Publication of JP2020102657A publication Critical patent/JP2020102657A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

【課題】ユーザが表示装置の画像の中から注視対象を見つけ出す負担を軽減する。【解決手段】情報処理端末(1)の制御装置(10)は、監視カメラ(300)によって撮像された監視領域画像の中からオブジェクト画像(O)を抽出する画像抽出処理と、モニター(211〜218)の表示領域(211a〜211h)において、オブジェクト画像(O)を強調して表示する強調表示処理と、を実行する。【選択図】図1

Description

本発明は、電子機器、制御装置、制御方法および制御プログラムに関する。
従来、店舗に設置された複数の監視カメラで店舗内外を監視する場合など、複数の表示画像を同時に見なければならない状況では、複数の表示画像の中からユーザに注視させるべき対象を見つけ出して注視し続ける必要があり、ユーザの負担が大きかった。
この問題を解決するために、様々な技術が研究開発されている。例えば、特許文献1には、監視画像を視認する利用者の負担を軽減するための撮影制御装置が開示されている。この撮影制御装置は、利用者の視線を検出する検出部と、利用者の視線の位置に表示された被写体を特定する特定部と、被写体が監視画像として所定時間以上継続して撮影されるように監視カメラの撮影方向等を制御する制御部と、備えている。この撮影制御装置によれば、監視対象となる被写体が一旦特定されれば、制御部による監視カメラの制御によって被写体の注視を容易に継続することができる。
特開2017−212495号公報(2017年11月30日公開)
しかしながら、特許文献1に開示された撮影制御装置は、監視すべき対象を利用者自身で見つけ出さなければならない。そのため、この撮影制御装置を用いても、監視すべき対象を見つけ出すまでの利用者の負担は依然として大きいままであった。
本発明の一態様は前記の問題点に鑑みてなされたものであり、その目的は、ユーザが表示装置に表示された画像の中から注視対象を見つけ出す負担を軽減することにある。
前記の課題を解決するために、本発明の一態様に係る電子機器は、少なくとも1つの制御装置を備えた電子機器であって、前記制御装置は、前記電子機器に接続された撮像装置によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像を抽出する画像抽出処理と、前記電子機器に接続された表示装置の表示領域において、前記画像抽出処理により抽出した前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示処理と、を実行する。
前記の問題点を解決するために、本発明の一態様に係る制御装置は、電子機器を制御するための制御装置であって、前記電子機器に接続された撮像装置によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像を抽出する画像抽出部と、前記電子機器に接続された表示装置の表示領域において、前記画像抽出部により抽出された前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示部と、を備える。
前記の問題点を解決するために、本発明の一態様に係る制御方法は、少なくとも1つの制御装置を備えた電子機器を制御するための制御方法であって、前記電子機器に接続された撮像装置によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像を抽出する画像抽出ステップと、前記電子機器に接続された表示装置の表示領域において、前記画像抽出ステップで抽出した前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示ステップと、を含む。
本発明の一態様によれば、ユーザが表示装置に表示された画像の中から注視対象を見つけ出す負担を軽減することができる。
本発明の一実施形態に係る情報処理端末の機能的構成を示すブロック図である。 (a)は、本発明の一実施形態に係る監視システムを示す模式図である。(b)は、本発明の一実施形態に係るマルチモニターを構成する、個々のモニターに表示された画像の一例を示す模式図である。 本発明の一実施形態に係るオブジェクト画像管理データの一例を示す図である。 本発明の一実施形態に係る画像抽出処理の一例を示すフローチャートである。 本発明の一実施形態に係る更新処理の一例を示すフローチャートである。 本発明の一実施形態に係る条件判定処理・強調表示処理の一例を示すフローチャートである。
本発明の一実施形態について、図1〜図6を参照しながら詳細に説明する。以下、本発明の一実施形態に係る電子機器として情報処理端末を例に挙げて説明する。情報処理端末としては、例えばPC(パーソナルコンピュータ)、タブレット端末を挙げることができる。また、本発明の一態様に係る電子機器が備える制御装置、記憶装置等の各装置については、単数であってもよいし複数であってもよい。
〔監視システムの概要〕
監視システムは、ユーザ100(図2の(a)参照)に監視させるべき所定の領域(以下、「監視領域」)の様子を継続的に監視するためのシステムである。監視システムは、図1に示すように、情報処理端末1、マルチモニター200、監視カメラ300およびポインティングデバイス400で構成されている。
情報処理端末1は、通信回線(有線・無線)などを通じて他の端末と接続し、もっぱら各種情報の入出力・表示・処理を行う電子機器である。具体的には、情報処理端末1は、マルチモニター200および監視カメラ300と通信回線を通じて接続し、各種情報の送受信を行っている。
マルチモニター200は、図2の(a)に示すように8台のモニター211〜218で構成されている。モニター211〜218は、8台の監視カメラ300のそれぞれが管轄する監視領域の様子を表示領域211a〜218aに表示する表示装置であり、情報処理端末1と無線接続または有線接続されている。なお、本実施形態のように1台のモニターに1つの監視領域画像を表示させてもよいし、1台のモニターに複数の監視領域画像を表示させてもよい。
モニター211〜218は、ユーザ100がこれらのモニターを監視しながら情報処理端末1を操作するのが容易な位置に、縦2台×横4台のマトリックス状に配置されている。なお、モニターの個数・配置は、監視領域の広さ・個数、ユーザ100の監視の難易等に応じて変更してもよい。監視システムは、例えば1台のモニターで監視領域を監視するものであってもよい。
監視カメラ300は、監視領域の様子を継続的に撮像する撮像装置であり、情報処理端末1と無線接続または有線接続されている。監視カメラ300によって撮像された、監視領域の様子が写った監視領域画像(撮像画像)は、後述の画像受信部11に送信される。監視カメラ300は、静止画像および動画像の両方を撮像することができる。監視領域画像は動画像とする。
監視カメラ300は、図2の(a)に示すように、複数の監視領域をすべて網羅できるようにするために複数台設置されている。具体的には、監視カメラ300は、モニター211〜218のそれぞれに1台ずつ対応付けられて設置されており、合計で8台設置されている。監視カメラ300の個数・配置は、監視領域の広さ・個数・構造等に応じて変更してもよい。監視システムは、例えば1台の監視カメラ300で監視領域を監視するものであってもよい。
ポインティングデバイス400は、ユーザ100による情報処理端末1の入力操作を受け付ける入力機器である。ポインティングデバイス400としては、マウス、トラックボールなどを例示することができる。本実施形態では、ポインティングデバイス400としてマウスが用いられるものとする。ユーザ100がポインティングデバイス400で何らかの操作をした場合、後述の応答検知部17がこの操作を検知する。
〔情報処理端末の機能的構成〕
情報処理端末1は、図1に示すように、制御装置10および記憶装置120を備えている。
<制御装置>
制御装置10は、情報処理端末1の各装置・各部を統括的に制御する。また、制御装置10は、モニター211〜218の表示領域211a〜218aの表示態様を制御する。換言すれば、制御装置10は、モニター211〜218(複数の表示装置)を制御対象としている。制御装置10の機能は、記憶装置120に格納されたプログラムを、CPU(Central Processing Unit)が実行することで実現されてもよい。
なお、制御装置10は、例えば情報処理端末1の外部の情報処理装置に搭載されていてもよい。制御装置10が外部の情報処理装置に搭載される場合、例えば、マーカー表示および明暗表示(ともに詳細は後述)に関する情報を情報処理装置と情報処理端末1との間で送受信することにより、表示領域211a〜218aの表示が制御される。
制御装置10は、図1に示すように、画像受信部11、変化検出部12、オブジェクト画像抽出部(画像抽出部)13、オブジェクト画像管理部14、優先オブジェクト画像決定部15、マーカー生成部(強調表示部)16および応答検知部17を備えている。
(画像受信部・変化検出部)
画像受信部11は、複数の監視カメラ300のそれぞれから送信された監視領域画像を受信し、これらの監視領域画像を変化検出部12に送信する。変化検出部12は、画像受信部11から送信された各監視領域画像を解析することにより、監視領域画像における変化が顕著な画像部分を、候補画像として検出する。画像部分とは、監視領域画像の全体を格子状に区切って得られる各単位格子を指す。
変化検出部12は、監視領域画像ごとの解析結果をオブジェクト画像抽出部13に送信する。ここで、候補画像が検出された場合は当該候補画像が解析結果となる。一方、候補画像が検出されなかった場合、変化検出部12は、オブジェクト画像抽出部13に対して何らの情報も送信しない。
ここで、「変化が顕著」の「変化」は、画素の集合としての変化を指す。この「変化」には、画素の明るさ・輝度値の変化も含まれることになる。
また、変化検出部12は、「変化が顕著」か否かを、(i)変化が生じたエリアの大小、(ii)変化開始から変化終了までの時間の長短、(iii)変化率(単位時間当たりの明るさおよび/または輝度値の変化の程度)の大小の3つの観点に基づいて判断する。具体的には、監視領域画像中の変化部分について、例えば、変化が生じたエリアが小さくても大きな変化率で変化した場合には、変化検出部12は「変化が顕著」であると判断する。また例えば、変化が生じたエリアが大きくかつ当該変化が短時間で起こった場合には、変化検出部12は「変化が顕著」であると判断する。なお、前記(i)・(ii)の判断基準はあくまで一例であり、他の判断基準に基づいて「変化が顕著」か否かを判断してもよい。
変化検出部12は、前記3つの観点に基づいて「変化が顕著」であると判断した画像分を候補画像とする。候補画像としては、例えば、監視領域画像において何らかの物体が被写体となっている画像部分の個数が増加した場合における、当該増加した画像部分が挙げられる。
(オブジェクト画像抽出部)
オブジェクト画像抽出部13は、変化検出部12から解析結果として候補画像が送信された場合、候補画像を解析してオブジェクト画像O(図2の(b)参照)を抽出する画像抽出処理を実行する。
具体的には、オブジェクト画像抽出部13は、候補画像を注視喚起属性の有無の観点で解析する。注視喚起属性とは、管理領域画像が有する複数の属性のうちで、ユーザ100に監視(注視)させるべき属性を指す。本実施形態では、注視喚起属性は「座標」・「移動速度」・「移動方向」・「カテゴリー」・「脅威属性」・「行動」の6種類とする(図3参照)。
そして、オブジェクト画像抽出部13は、解析した結果、候補画像について、6種類の注視喚起属性のうちの少なくとも1つを有していることが判明した場合、当該候補画像をオブジェクト画像Oとして抽出する。すなわち、オブジェクト画像Oは、ユーザ100に監視させるべき注視喚起属性を有する画像である。
なお、オブジェクト画像抽出部13によるオブジェクト画像Oの抽出方法は前記の方法に限定されない。例えば、複数個以上の注視喚起属性を有する画像部分をオブジェクト画像Oとして抽出してもよい。また例えば、少なくとも特定の注視喚起属性(例えば、脅威属性)を有する画像部分をオブジェクト画像Oとして抽出してもよい。
また、注視喚起属性の内容・個数についても、監視領域・監視対象の種類に応じて変更してもよい。監視対象は、ユーザ100に監視させるべき対象であり、不審者、武器および危険物(毒物など)などが挙げられる。
オブジェクト画像Oを抽出した場合、オブジェクト画像抽出部13は、抽出したオブジェクト画像Oが既存オブジェクト画像に該当するか否かを判定する。既存オブジェクト画像は、画像抽出処理を実行した抽出した時点で既に抽出されていたオブジェクト画像Oである。既存オブジェクト画像に関する情報は、オブジェクト画像管理部14に記録されている。
オブジェクト画像抽出部13は、抽出したオブジェクト画像Oが既存オブジェクト画像に該当するか否かを判定する際、オブジェクト画像管理部14から既存オブジェクト画像に関する情報を呼び出す。そして、抽出したオブジェクト画像Oに関する情報と既存オブジェクト画像に関する情報とを照合することにより、抽出したオブジェクト画像Oが既存オブジェクト画像に該当するか否かを判定する。この処理を行うことにより、抽出済のオブジェクト画像Oが重複して抽出されることを防止でき、最新の監視対象をより確実に捕捉することが可能になる。
抽出したオブジェクト画像Oが既存オブジェクト画像に該当しないと判定した場合、オブジェクト画像抽出部13は、オブジェクト情報をオブジェクト画像管理部14に送信する。オブジェクト情報には、オブジェクト画像O自体、および当該オブジェクト画像Oが有する注視喚起属性が含まれている。オブジェクト情報を受信したオブジェクト画像管理部14は、オブジェクト情報に含まれるオブジェクト画像を記録する。
一方、オブジェクト画像Oを抽出しなかった場合、または抽出したオブジェクト画像Oが既存オブジェクト画像に該当すると判定した場合、オブジェクト画像抽出部13は、これらの抽出結果・判定結果を変化検出部12に送信する。
(オブジェクト画像管理部)
オブジェクト画像管理部14は、オブジェクト画像抽出部13から送信されたオブジェクト情報に基づいて、ポイント(優先度)の合計値を算出して当該合計値を総合優先度とする。
ポイントは、6種類の注視喚起属性のそれぞれに設定された、強調表示処理(詳細は後述)の優先度を示す数値である。ポイントは、数値が大きいほど前記の優先度が高い。また、図3に示すように、各属性のポイントの初期値が、予めオブジェクト画像管理部14に設定されている。ポイントの更新処理(詳細は後述)が実行されていない初期状態においては、注視喚起属性「脅威属性」がポイント「5」で最も優先度が高い。一方、注視喚起属性「座標」がポイント「1」で最も優先度が低い。
なお、図3に示す各注視喚起属性のポイントの初期値はあくまで一例であり、監視領域・監視対象の種類に応じて変更してもよい。また、ポイントの数値は更新されなくてもよく、初期値のまま固定されてもよい。さらに、優先度が高いほどポイントの数値を小さく(優先度が低いほどポイントの数値を大きく)してもよい。
オブジェクト画像管理部14は、オブジェクト情報に基づいてオブジェクト画像Oがどのような注視喚起属性を有するかを確定する。オブジェクト画像Oが有する注視喚起属性を確定したら、オブジェクト画像管理部14は、確定した注視喚起属性に設定されているポイントを合計して合計値を算出し、算出した合計値を総合優先度とする。総合優先度についても、ポイントと同様に、数値が大きいほどユーザ100に監視させるべきオブジェクト画像Oであることの優先度が高い。
なお、総合優先度はポイントの合計値でなくてもよい。例えば、総合優先度の決定対象となるオブジェクト画像Oがn個(n:2以上の自然数)ある場合において、ポイントの合計値が最も大きいオブジェクト画像Oから順に、総合優先度を「n」、「n−1」〜「1」としてもよい。あるいは、ポイントの合計値が最も大きいオブジェクト画像Oから順に、総合優先度を「1」、「2」〜「n」としてもよい。
各注視喚起属性に設定されているポイント、各注視喚起属性の詳細情報、オブジェクト画像Oにおける各注視喚起属性の有無およびオブジェクト画像の総合優先度は、図3に示すように、データテーブル形式のオブジェクト画像管理データとしてオブジェクト画像管理部14に記録される。図3に示すオブジェクト画像管理データは、被写体が人間であるオブジェクト画像Oが3つあり、総合優先度がそれぞれ「5」・「13」・「10」になった場合を例示している。
次に、オブジェクト画像管理部14は、応答検知部17から検知結果(詳細は後述)を受信することにより、優先オブジェクト画像230に対するユーザ100による指定の有無の回数をカウント・記録する。オブジェクト画像管理部14は、このカウント・記録を、優先オブジェクト画像230がマーカー生成部16によって最新のものに更新される毎に繰り返し実行する。
前記のカウント・記録の繰り返しにより、オブジェクト画像管理部14は、ユーザ100の指定があった優先オブジェクト画像230に含まれている可能性の高い注視喚起属性を予測する。すなわち、ユーザ100に指定され易い優先オブジェクト画像230の注視喚起属性を予測する。
そして、オブジェクト画像管理部14は、前記の予測に基づいて、6種類の属性のそれぞれに設定されたポイントを更新する更新処理を実行する。具体的には、オブジェクト画像管理部14は、ユーザ100の応答がされ易いと予測した注視喚起属性のポイントの値が大きくなるように、当該属性のポイントを更新する。一方、オブジェクト画像管理部14は、ユーザ100の応答がされ難いと予測した属性のポイントの値が小さくなるように、当該属性のポイントを更新する。
なお、ポイントの更新の程度、つまり、ポイントをどの程度を大きくするか、あるいはどの程度小さくするかは、例えば優先オブジェクト画像230に対するユーザ100の応答の有無の頻度等に応じて適宜変動させてもよい。
オブジェクト画像管理部14は、更新結果を随時記録する。すなわち、オブジェクト画像管理部14が記録・管理しているオブジェクト画像管理データのポイントは、常に、ユーザ100の最新の応答傾向が反映された数値になっている。
(優先オブジェクト画像決定部)
優先オブジェクト画像決定部15は、オブジェクト画像管理部14から送信された総合優先度に基づいて、オブジェクト画像Oに対する強調表示処理(詳細は後述)の要否を決定する要否決定処理を実行する。また、優先オブジェクト画像決定部15は、決定結果をマーカー生成部16に送信する。要否決定処理によって強調表示処理を施されることが決定したオブジェクト画像Oが、優先オブジェクト画像230となる。優先オブジェクト画像230は、監視領域画像のうち、ユーザ100に監視させるべき被写体が写っている可能性が高い画像部分を指す。
さらに、優先オブジェクト画像決定部15は、決定結果をオブジェクト画像管理部14にも送信する。決定結果を受信したオブジェクト画像管理部14は、当該決定結果を記録する。
優先オブジェクト画像決定部15による要否決定処理は、具体的には、総合優先度が所定の閾値よりも高い(あるいは、所定の閾値以上)か否か判定することにより、オブジェクト画像Oを優先オブジェクト画像230とするか否かを決定する。所定の閾値(所定の条件)は、オブジェクト画像Oが優先オブジェクト画像230に値するか否かの判定基準となる。
例えば閾値を「9」に設定した場合、図3に示す「1人目」のオブジェクト画像Oは総合優先度の数値が閾値よりも小さいので、優先オブジェクト画像決定部15は、「1人目」のオブジェクト画像Oを優先オブジェクト画像230にしないことを決定する。この場合、優先オブジェクト画像決定部15は、「1人目」のオブジェクト画像Oについて、オブジェクト画像Oとしての位置付けを維持する。一方、「2人目」・「3人目」のオブジェクト画像Oは、それぞれ総合優先度の数値が閾値よりも大きいので、優先オブジェクト画像決定部15は、「2人目」・「3人目」のオブジェクト画像Oを優先オブジェクト画像230に決定する。
このことから、優先オブジェクト画像230は、総合優先度が所定の閾値よりも高い(あるいは、所定の閾値以上の)オブジェクト画像Oと言い換えることもできる。
(マーカー生成部)
マーカー生成部16は、優先オブジェクト画像決定部15からオブジェクト画像Oを優先オブジェクト画像230にする旨の決定結果が送信された場合、当該オブジェクト画像Oに対して強調表示処理を実行する。
強調表示処理は、モニター211〜218の表示領域211a〜218aのいずれかにおいて、優先オブジェクト画像230を、監視領域画像における当該オブジェクト画像O以外の画像部分よりも強調して表示(以下、「強調表示」)する処理である。
マーカー生成部16は、強調表示の態様として、図2の(b)に示すように、優先オブジェクト画像230の周囲を長方形の枠形状のマーカーで取り囲むように表示する(以下、「マーカー表示」)。マーカーの色としては、ユーザ100が優先オブジェクト画像230の存在に気付き易くなることから、明るい蛍光色などが好ましい。
なお、強調表示の態様は、優先オブジェクト画像230のマーカー表示に限定されない。ユーザ100が優先オブジェクト画像230の存在に気付き易くなるような表示態様であればどのようなものであってもよい。
例えば、優先オブジェクト画像230をマーカー表示することなく、代わりに後述の非優先オブジェクト画像220をマーカー表示してもよい。すなわち、マーカー生成部16が実行する強調表示処理における「強調」の概念には、ユーザ100が管理領域画像全体を見た場合に、優先オブジェクト画像230が他の画像部分よりも相対的に際立って見えるような表示態様も含まれる。
また、オブジェクト画像Oに対して強調表示処理を実行した場合、マーカー生成部16は、当該強調表示処理の実行時点で既にマーカー表示されていた優先オブジェクト画像230のマーカーを消去する。言い換えれば、既にマーカー表示されていた優先オブジェクト画像230に対する強調表示処理の実行を解除する。この処理を行うことで、ユーザ100に監視させるべき被写体が写っている可能性が高い最新の画像のみがマーカー表示されることから、ユーザ100は、最新の監視対象をより確実に捕捉することが可能になる。
この場合、マーカーが消去された(強調表示処理の実行が解除された)優先オブジェクト画像230は、非優先オブジェクト画像220として位置付けられる。すなわち、非優先オブジェクト画像220は、特定のオブジェクト画像Oに対して強調表示処理を実行した場合に、当該強調表示処理の実行時点で既にマーカー表示されていた優先オブジェクト画像230である。
一方、優先オブジェクト画像決定部15からオブジェクト画像Oを優先オブジェクト画像230にしない旨の決定結果が送信された場合、マーカー生成部16は、当該オブジェクト画像に対して強調表示処理を実行しない。すなわち、この場合、オブジェクト画像Oにはマーカー表示されず、決定結果の送信前後でオブジェクト画像Oの表示態様は変化しない。
以下、強調表示処理が実行された場合のマルチモニター200の表示状態について、図2の(b)に示す例を用いて説明する。図2の(b)に示す例では、マルチモニター200を構成するモニター211〜218のうち、モニター211の表示領域211aにのみ、2つの優先オブジェクト画像230がマーカー表示されている。モニター211の表示領域211aには、その他、2つのオブジェクト画像Oと2つの非優先オブジェクト画像220とが、マーカー表示されることなく表示(以下、「非マーカー表示」)されている。なお、2つの優先オブジェクト画像230、2つのオブジェクト画像O、および2つの非優先オブジェクト画像220のすべてが、人間が被写体となっている画像である。
また、モニター212の表示領域212aには、1つの非優先オブジェクト画像220(人間が被写体)が非マーカー表示されている。モニター213の表示領域213aには、道路の画像が含まれた監視領域画像が表示されている。道路の画像はそもそもオブジェクト画像Oに該当しないため、当然のことながらマーカー表示されない。モニター214の表示領域214aには、1つのオブジェクト画像O(円柱状の物体が被写体)が非マーカー表示されている。
図2の(b)に示す例では、1台のモニターにのみ優先オブジェクト画像230が表示されていたが、複数のモニターに優先オブジェクト画像230が表示されるケースもあり得る。
なお、マーカー生成部16は、強調表示処理の実行後、後述の応答検知部17が優先オブジェクト画像230に対するユーザ100の指定を受け付けることなく所定時間(第2の所定時間)が経過した場合、優先オブジェクト画像230のマーカー表示を消去してもよい。すなわち、マーカー生成部16は、前記の場合に強調表示処理の実行を解除してもよい。
あるいは、マーカー生成部16は、前記の所定時間内に応答検知部17が優先オブジェクト画像230に対するユーザ100の指定を受け付けた場合でも、優先オブジェクト画像230のマーカー表示を消去してもよい。
(応答検知部)
応答検知部17は、ポインティングデバイス400を用いた、優先オブジェクト画像230に対するユーザ100の指定を受け付ける指定検知処理を実行する。具体的には、ユーザ100がポインティングデバイス400を操作して、モニター211〜218の表示領域211a〜218aにおける特定の箇所にカーソルを表示させた場合、応答検知部17は、カーソルの表示箇所(特定の箇所)の座標値を算出する。
座標値を算出した応答検知部17は、オブジェクト画像管理部14に記録・管理されているオブジェクト画像管理データを呼び出し、優先オブジェクト画像230の表示箇所の座標値(優先オブジェクト画像230の図心の値)と照合する。カーソルの表示箇所の座標値と優先オブジェクト画像230の表示箇所の座標値とが一致、または近似している場合、応答検知部17は、ユーザ100による優先オブジェクト画像230の指定(以下、「ポインティング」)を受け付ける。
ポインティングを検知した応答検知部17は、ポインティングを受け付けた旨の検知結果をオブジェクト画像管理部14に送信する。一方、ポインティングデバイス400を用いたユーザ100の指定は受け付けたものの、(i)ポインティングではなかった場合、あるいは(ii)他の優先オブジェクト画像230に対するポインティングであった場合、応答検知部17は、ポインティングを受け付けなかった旨の検知結果をオブジェクト画像管理部14に送信する。
なお、応答検知部17は、ポインティングデバイス400を用いたユーザ100の指定以外でも、ポインティングを受け付けてもよい。例えば、光センサを搭載した視線検出装置(不図示)が、ユーザ100の視線を検出して検出結果を応答検知部17に送信し、応答検知部17が、検出結果に基づいて表示領域211a〜218a上の視線の位置を特定するようにしてもよい。
<記憶装置>
記憶装置120には、制御装置10が実行する各種のプログラム、および当該プログラムの実行に使用される各種のデータが格納されている。記憶装置120は、例えば、ROM(Read Only Memory)またはRAM(Random Access Memory)で構成されている。なお、記憶装置120は、例えば制御装置10に内蔵されてもよいし、情報処理端末1の外部に具備されてもよい。また、記憶装置120には、オブジェクト画像管理部14が記録・管理しているオブジェクト画像管理データを格納してもよい。
〔制御装置による情報処理端末の制御方法〕
制御装置10による情報処理端末1の制御方法について、図4〜図6を参照しながら詳細に説明する。なお、図4〜図6の各フローチャートに示す各処理は、それぞれ並行して実行されるものとする。
<画像抽出処理>
図4に示すように、変化検出部12は、画像受信部11から送信された各監視領域画像を受信することにより(開始)、候補画像を検出する処理を実行する(S101)。次に、変化検出部12は、候補画像を検出した場合(S102でYES)、当該候補画像を解析結果としてオブジェクト画像抽出部13に送信する。一方、候補画像を検出しなかった場合(S102でNO)、変化検出部12は再びS101の処理を実行する。
次に、オブジェクト画像抽出部13は、変化検出部12から解析結果が送信された場合、画像抽出処理を実行する。画像抽出処理の実行によってオブジェクト画像Oを抽出した場合、オブジェクト画像抽出部13は、抽出したオブジェクト画像Oが既存オブジェクト画像に該当するか否かを判定する(S103)。一方、オブジェクト画像Oを抽出しなかった場合、オブジェクト画像抽出部13は、この抽出結果を変化検出部12に送信する。抽出結果を受信した変化検出部12は、再びS101の処理を実行する。
次に、抽出したオブジェクト画像Oが既存オブジェクト画像に該当しないと判定した場合(S103でNO)、オブジェクト画像抽出部13は、抽出したオブジェクト画像Oを優先オブジェクト画像230の候補画像として認定する(S104)。そして、オブジェクト画像抽出部13は、抽出したオブジェクト画像Oのオブジェクト情報をオブジェクト画像管理部14に送信する。
一方、抽出したオブジェクト画像Oが既存オブジェクト画像に該当すると判定した場合(S103でYES)、オブジェクト画像抽出部13は、この判定結果を変化検出部12に送信する。判定結果を受信した変化検出部12は、再びS101の処理を実行する。
次に、オブジェクト情報を受信したオブジェクト画像管理部14は、オブジェクト情報に含まれるオブジェクト画像を記録する(S105)。S105の処理が完了すると、変化検出部12は再びS101の処理を実行する。
<更新処理>
以下、図5を用いて、ユーザ100が、2つの優先オブジェクト画像230のうち、一方の優先オブジェクト画像230に対してポインティングした場合を例に挙げて説明する。なお、図5のフローチャートは、一方の優先オブジェクト画像230の総合優先度が、他方の優先オブジェクト画像230の総合優先度よりも高い場合において、総合優先度が低い方の優先オブジェクト画像230がポインティングされたケースを想定している。
図5に示すように、ユーザ100がモニター211〜218の表示領域211a〜218aにおける特定の箇所にカーソルを表示させた場合(開始)、応答検知部17は、ポインティングデバイス400を用いたユーザ100の指定を受け付ける(S201)。
すなわち、応答検知部17は、カーソルの表示箇所の座標値を算出する。そして、座標値を算出した応答検知部17は、オブジェクト画像管理部14に記録・管理されているオブジェクト画像管理データを呼び出し、2つの優先オブジェクト画像230における表示箇所の座標値と照合する(S202)。
いずれか一方の優先オブジェクト画像230について、カーソルの表示箇所の座標値と優先オブジェクト画像230の表示箇所の座標値とが一致、または近似していた場合、応答検知部17はポインティングを受け付ける(S202でYES)。応答検知部17は、ポインティングされた方の優先オブジェクト画像230について、ポインティングを受け付けた旨の検知結果をオブジェクト画像管理部14に送信する。また、応答検知部17は、ポインティングされなかった方の優先オブジェクト画像230について、ポインティングを受け付けなかった旨の検知結果をオブジェクト画像管理部14に送信する。
一方、2つの優先オブジェクト画像230のいずれについても、カーソルの表示箇所の座標値と優先オブジェクト画像230の表示箇所の座標値とが一致も近似もしていなかった場合、応答検知部17は再びS201の処理を実行する(S202でNO)。また、また、応答検知部17は、2つの優先オブジェクト画像230のそれぞれについて、ポインティングを受け付けなかった旨の検知結果をオブジェクト画像管理部14に送信する。
次に、オブジェクト画像管理部14は、応答検知部17から検知結果を受信することにより、ポインティングの有無の回数をカウント・記録する。そして、オブジェクト画像管理部14は、前記のカウント・記録を繰り返すことにより更新処理を実行する。
具体的には、オブジェクト画像管理部14は、一方の優先オブジェクト画像230が有する各注視喚起属性と一方の優先オブジェクト画像230が有する各注視喚起属性とを対比して、注視喚起属性の一致・不一致を確認する。そして、一方の優先オブジェクト画像230しか有していない注視喚起属性について、ポインティングされた方の優先オブジェクト画像230がその注視喚起属性を有していた場合、オブジェクト画像管理部14は、その注視喚起属性に設定されていたポイントに所定の数値を加算する(S203)。
次に、一方の優先オブジェクト画像230しか有していない注視喚起属性について、ポインティングされなかった方の優先オブジェクト画像230がその注視喚起属性を有していた場合、オブジェクト画像管理部14は、その注視喚起属性に設定されていたポイントから所定の数値を減算する(S204)。そして、オブジェクト画像管理部14が加算・減算後の各ポイントをオブジェクト画像管理データに記録することにより、更新処理が完了する(S205)。S205の処理が完了すると、応答検知部17は再びS201の処理を実行する。なお、総合優先度が高い方の優先オブジェクト画像230がポインティングされた場合、更新処理は実行されず、従前のポイントが維持される。
また、図示しないものの、優先オブジェクト画像230が1つしか表示されていない場合、優先オブジェクト画像230がポインティングされれば、オブジェクト画像管理部14は各注視喚起属性に設定されたポイントを更新せずに維持する。さらに、優先オブジェクト画像230がポインティングされなくても、オブジェクト画像管理部14は各注視喚起属性に設定されたポイントを更新せずに維持する。
なぜなら、ポインティングされなかった優先オブジェクト画像230の総合優先度を構成する各ポイントについて、どのポイントを更新すべきか、あるいはすべてのポイントを更新すべきかが不明なためである。
<条件判定処理・強調表示処理>
図6に示すように、オブジェクト画像管理部14は、オブジェクト画像抽出部13から送信されたオブジェクト情報に基づいて、ポイントの合計値を算出して当該合計値を総合優先度とする。そして、総合優先度を決定したオブジェクト画像管理部14は、当該総合優先度を優先オブジェクト画像決定部15に送信する(開始)。
次に、優先オブジェクト画像決定部15は、オブジェクト画像管理部14から送信された総合優先度に基づいて要否決定処理を実行する。具体的には、優先オブジェクト画像決定部15は、総合優先度が特定の閾値よりも高い(あるいは、特定の閾値以上)か否かを判定することにより、オブジェクト画像Oを優先オブジェクト画像230とするか否かを決定する。
総合優先度が特定の閾値よりも高い(あるいは、特定の閾値以上)と判定した場合、優先オブジェクト画像決定部15は、オブジェクト情報に含まれていたオブジェクト画像Oを優先オブジェクト画像230に決定する(S301)。優先オブジェクト画像決定部15は、決定結果をマーカー生成部16に送信する。
次に、マーカー生成部16は、優先オブジェクト画像決定部15からオブジェクト画像Oを優先オブジェクト画像230にする旨の決定結果を受信することにより、当該オブジェクト画像Oに対して強調表示処理を実行する。すなわち、優先オブジェクト画像230の周囲をマーカー表示する(S302)。
次に、マーカー生成部16は、S302の処理の時点で既にマーカー表示されていた優先オブジェクト画像230のマーカーを消去する(S303)。マーカーが消去された優先オブジェクト画像230は、非優先オブジェクト画像220として位置付けられる。S303の処理が完了すると、優先オブジェクト画像決定部15は再びS301の処理を実行する。
〔変形例〕
<情報処理端末の使用場面>
情報処理端末1は、監視システム以外でも使用することができる。例えば、児童館または公民館などの児童施設において児童を見守るためのカメラが設置されている場合は、見守りが必要な児童の特定を容易にするために情報処理端末1を使用することができる。
また例えば、複数のディスプレイに同時に表示される複数の動画コンテンツ(複数種類のスポーツ中継など)を楽しみたい場合でも、ユーザ100の嗜好、選手の動きの大小などをオブジェクト画像Oの注視喚起属性に設定して情報処理端末1を使用することができる。
これらの場合、見守りが必要な児童、注目選手は、ユーザ100に「監視」させるべき対象(監視対象)とまでは言えない。見守りが必要な児童、注目選手は、ユーザ100に「監視」させるべき対象よりもユーザ100が意識を振り向ける程度が低くて済む、ユーザ100に「注視」させるべき対象(注視対象)といえる。
このことから、情報処理端末1は、ユーザ100が意識を振り向ける程度が「注視」レベルで済むような場面においても使用することができると言える。別の見方をすれば、オブジェクト画像Oは、ユーザ100の「注視」が喚起されるレベルの注視喚起属性を有する画像であればよい。
<総合優先度・優先オブジェクト画像の決定>
オブジェクト画像管理部14は、総合優先度を決定する際、オブジェクト画像Oが有する各注視喚起属性のポイントを合計する必要は必ずしもない。例えば、最も高い数値のポイントが設定されている注視喚起属性(図3の例で言えば「脅威属性」:以下、「最重要属性」)のみに着目し、オブジェクト画像Oが最重要属性を有していた場合は総合優先度を「1」とし、有していなかった場合は「0」としてもよい。
この場合、優先オブジェクト画像決定部15は、要否決定処理において、総合優先度が「1」の場合にはオブジェクト画像Oを優先オブジェクト画像230に決定することになる。一方、総合優先度が「0」の場合には、優先オブジェクト画像決定部15は、要否決定処理において、オブジェクト画像Oを優先オブジェクト画像230としない旨決定することになる。
なお、前記の例の場合、総合優先度を決定しなくても優先オブジェクト画像230を決定することができる。すなわち、優先オブジェクト画像決定部15は、要否決定処理において、オブジェクト画像Oが最重要属性を有していた場合には当該オブジェクト画像Oを優先オブジェクト画像230に決定してもよい。一方、オブジェクト画像Oが最重要属性を有していなかった場合には、優先オブジェクト画像決定部15は、要否決定処理において、当該オブジェクト画像Oを優先オブジェクト画像230としない旨決定してもよい。
換言すれば、制御装置10の優先オブジェクト画像決定部15は、オブジェクト画像抽出部13により抽出されたオブジェクト画像Oについて、当該画像が有する注視喚起属性に設定されているポイントに基づいて、強調表示処理の要否を決定すればよい。
さらに付言すれば、制御装置10は、優先オブジェクト画像230の決定自体をしなくてもよい。この場合、制御装置10は、オブジェクト画像抽出部13が抽出したすべてのオブジェクト画像Oに対してマーカー表示を施すことになる。
すなわち、制御装置10は、監視カメラ300によって撮像された監視領域画像の中からオブジェクト画像Oを抽出する画像抽出処理と、モニター211〜218の表示領域211a〜218aにおいて、画像抽出処理の実行により抽出したオブジェクト画像Oを、監視領域画像におけるオブジェクト画像O以外の画像部分よりも強調して表示する強調表示処理と、を実行するものであればよい。
<モニターの表示領域の表示制御>
ユーザ100が監視対象(あるいは注視対象)の存在に気付いていないような場合に対応すべく、ユーザ100の意識がマルチモニター200に振り向くように、モニターの表示領域の表示態様を工夫するのが好ましい。
例えば、制御装置10は、優先オブジェクト画像230が表示されていないモニターの表示領域の明るさを、優先オブジェクト画像230が表示されていないモニターの表示領域の明るさよりも暗くする調整処理を実行してもよい。
この調整処理を実行することにより、マルチモニター200全体として見れば、優先オブジェクト画像230が表示されているモニターが他のモニターよりも相対的に際立って見える。そのため、ユーザ100は、優先オブジェクト画像230の存在、すなわち監視対象となる可能性の高い物体の存在に気付き易くなる。
なお、この場合、制御装置10はさらに、調整処理の実行後、応答検知部17が優先オブジェクト画像230に対するポインティングを受け付けることなく所定時間(第1の所定時間)が経過した場合は調整処理の実行を解除してもよい。具体的には、制御装置10は、ポインティングが受け付けられることなく所定時間が経過した場合、モニター211〜218の表示領域211a〜218aの各明るさを元の状態に戻す。あるいは、調整処理の実行後、所定時間内にポインティングが受け付けられた場合においても、調整処理の実行を解除してもよい。
また例えば、制御装置10は、モニター211〜218の表示領域211a〜218a(複数の表示領域)のそれぞれについて、順次、他の表示領域よりも明るさを暗くしてもよい。
この場合、オブジェクト画像抽出部13は、他のモニターの表示領域よりも明るさが暗くなった特定のモニターの表示領域において、応答検知部17が当該特定の表示領域に表示された監視領域画像に対するユーザ100の指定を受け付けた場合、画像抽出処理を実行することになる。この表示制御から画像抽出処理までの一連の処理は、モニターが1台の場合でも実行可能である。
なお、前記の各表示制御は、例えばマーカー生成部16が行ってもよいし、制御装置10におけるマーカー生成部16以外の構成要素のいずれかが行ってもよい。
<機械学習的手法の更新処理への適用>
オブジェクト画像管理部14による更新処理の手法は前記の実施形態に限定されない。更新処理の手法として、例えば機械学習、あるいはニューラルネットワーク(NN: Neural Network)のような機械学習的手法を用いることができる。
ニューラルネットワークを用いる場合、畳み込み処理を含む畳み込みニューラルネットワーク(CNN: Convolutional Neural Network)を用いてもよいし、再帰的処理を含むリカレントニューラルネットワーク(RNN: Recurrent Neural Network)を用いてもよい。CNNを用いる場合、より具体的には、ニューラルネットワークに含まれる1または複数の層(レイヤ)として、畳み込み演算を行う畳み込み層を設け、当該層に入力される入力データに対してフィルタ演算(積和演算)を行う構成としてもよい。
フィルタ演算を行う際には、パディング等の処理を併用したり、適宜設定されたストライド幅を採用したりしてもよい。また、ニューラルネットワークとして、数十〜数千層に至る多層型または超多層型のニューラルネットワークを用いてもよい。
さらに、オブジェクト画像管理部14による更新処理に用いられる機械学習は、教師あり学習であってもよいし、教師なし学習であってもよい。教師あり学習の場合、すなわち制御装置10が教師データを用いて機械学習する場合、教師データとしては以下に示すような構造を有するものが想定される。教師データとは、制御装置10がポインティングされ易い属性を機械学習する際に適用される学習モデルを、構築ないし更新するためのデータを指す。
例えば、優先オブジェクト画像230の総合優先度を決定するために用いられる、各属性に設定されたポイント(入力データ)と、優先オブジェクト画像230に対するポインティングの有無(出力データ)と、を含む構造を有する教師データが想定される。このような教師データを情報処理端末1の記憶装置120等に格納しておき、オブジェクト画像管理部14に機械学習させ、当該機械学習により生成された学習済みモデルを用いることで、優先オブジェクト画像230に写っている被写体が監視対象(あるいは注視対象)である確率を飛躍的に向上させることができる。
〔ソフトウェアによる実現例〕
制御装置10の制御ブロック(特にオブジェクト画像抽出部13およびマーカー生成部16)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
後者の場合、制御装置10は、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば少なくとも1つのプロセッサ(制御装置)を備えていると共に、前記プログラムを記憶したコンピュータ読み取り可能な少なくとも1つの記録媒体を備えている。そして、前記コンピュータにおいて、前記プロセッサが前記プログラムを前記記録媒体から読み取って実行することにより、本発明の目的が達成される。前記プロセッサとしては、例えばCPU(Central Processing Unit)を用いることができる。前記記録媒体としては、「一時的でない有形の媒体」、例えば、ROM(Read Only Memory)等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、前記プログラムを展開するRAM(Random Access Memory)などをさらに備えていてもよい。また、前記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して前記コンピュータに供給されてもよい。なお、本発明の一態様は、前記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
〔まとめ〕
本発明の態様1に係る電子機器(情報処理端末1)は、少なくとも1つの制御装置(10)を備えた電子機器であって、前記制御装置は、前記電子機器に接続された撮像装置(監視カメラ300)によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像(O)を抽出する画像抽出処理と、前記電子機器に接続された表示装置(モニター211〜218)の表示領域(211a〜218a)において、前記画像抽出処理により抽出した前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示処理と、を実行する。
前記の構成によれば、表示装置の表示領域において、オブジェクト画像が当該オブジェクト画像以外の画像部分よりも強調して表示される。そのため、ユーザは、表示装置の表示領域を視認するだけで、オブジェクト画像、すなわちユーザに注視させるべき被写体が写っている可能性が高い画像を見つけ出すことができる。よって、ユーザが表示装置に表示された画像の中から注視対象を見つけ出す負担を軽減(以下、「注視対象特定負担の軽減」)することができる。
本発明の態様2に係る電子機器は、前記態様1において、前記注視喚起属性は複数あり、複数の前記注視喚起属性のそれぞれには、前記強調表示処理の優先度が設定されており、前記制御装置は、前記画像抽出処理により抽出した前記オブジェクト画像(O)について、当該画像が有する前記注視喚起属性に設定されている前記優先度に基づいて、前記強調表示処理の要否を決定する要否決定処理をさらに実行してもよい。
前記の構成によれば、例えば、オブジェクト画像が有する注視喚起属性に設定された優先度が所定の値以上の場合に、制御装置は強調表示処理が必要であると決定し、オブジェクト画像に対して強調表示処理を施す。そのため、抽出されたオブジェクト画像のうち、ユーザに注視させるべき被写体が写っている可能性がより高いオブジェクト画像に対して強調処理を施すことができる。よって、ユーザはより高い確率で注視対象を見つけ出すことができ、更なる注視対象特定負担の軽減を図ることができる。
本発明の態様3に係る電子機器は、前記態様2において、前記制御装置は、前記要否決定処理において、前記画像抽出処理の実行により抽出した前記オブジェクト画像について前記優先度の合計値を算出し、前記合計値が所定の条件を充足する旨判定した場合に、前記強調表示処理を実行してもよい。
前記の構成によれば、オブジェクト画像の優先度の合計値が所定の条件を充足した場合に、オブジェクト画像に対して強調表示処理が施される。そのため、抽出されたオブジェクト画像のうち、ユーザに注視させるべき被写体が写っている可能性がより高いオブジェクト画像に対して強調処理を施すことができる。よって、ユーザはより高い確率で注視対象を見つけ出すことができ、更なる注視対象特定負担の軽減を図ることができる。
本発明の態様4に係る電子機器は、前記態様3において、前記制御装置は、前記強調表示処理を施した前記オブジェクト画像(優先オブジェクト画像230)に対する前記ユーザの指定を受け付ける指定検知処理と、前記指定検知処理により受け付けた前記ユーザの指定回数をカウントすることにより、前記ユーザに指定された複数の前記オブジェクト画像のそれぞれが有していた複数の前記注視喚起属性について、前記ユーザに指定された前記オブジェクト画像が前記注視喚起属性を有していた回数が多いほど、当該注視喚起属性に設定された前記優先度の値が大きくなるように前記優先度を更新する更新処理をさらに実行してもよい。
前記の構成によれば、制御装置は、ユーザに指定(以下、「ユーザ指定」)され易いと予測される特定の注視喚起属性に設定された優先度の値が大きくなるように、複数の注視喚起属性のそれぞれに設定された優先度を更新することができる。
よって、更新処理が進めば進むほど、ユーザに注視させるべき被写体が写っている可能性がより高いオブジェクト画像に対してより確実に強調処理を施すことができ、更なる注視対象特定負担の軽減を図ることができる。
本発明の態様5に係る電子機器は、前記態様1から4のいずれかにおいて、撮像装置は複数あり、複数の前記撮像装置のそれぞれに前記表示装置が対応付けられており、前記制御装置は、前記強調表示処理を施した前記オブジェクト画像が表示されていない前記表示装置の前記表示領域の明るさを、前記強調表示処理を施した前記オブジェクト画像が表示されている前記表示装置の前記表示領域の明るさよりも暗くする調整処理を実行してもよい。
前記の構成によれば、制御装置が調整処理を実行することにより、ユーザが複数の表示装置を同時に視認したときに、特定の表示装置の表示領域に強調表示処理が施されたオブジェクト画像が表示されていることに気づき易くなる。よって、ユーザは複数の表示装置に画像が表示される場合でも、当該複数の表示装置の中からユーザに注視させるべき被写体が写っている可能性が高い画像を容易に見つけ出すことができる。
本発明の態様6に係る電子機器は、前記態様5において、前記制御装置は、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付ける指定検知処理をさらに実行し、前記調整処理の実行後、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付けることなく第1の所定時間が経過した場合、または、前記第1の所定時間内に、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付けた場合のいずれかにおいて、前記調整処理の実行を解除してもよい。
前記の構成によれば、例えば、ユーザが強調表示処理が施されたオブジェクト画像の表示に気づいたにも拘らず調整処理が実行され続けるなど、無駄な調整処理の実行を防止することができる。また、消費電力の抑制を図ることができる。
本発明の態様7に係る電子機器は、前記態様1から6のいずれかにおいて、前記制御装置は、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付ける指定検知処理をさらに実行し、前記表示装置の前記表示領域の明るさを暗くして、暗くした前記表示領域に表示された前記撮像画像に対する前記ユーザの指定を受け付けた場合、前記撮像画像に対して前記画像抽出処理を実行してもよい。
明るさが暗くなった表示装置の表示領域において、当該表示領域に表示された撮像画像に対するユーザの指定を受け付けた場合、ユーザは撮像画像を注視していた可能性が高い。その点、前記の構成によれば、明るさが暗くなった表示装置の表示領域において、第2の所定時間内に当該表示領域に表示された撮像画像に対するユーザの指定を受け付けた場合に画像抽出処理が実行される。
よって、ユーザが注視していた可能性が高い撮像画像に対して画像抽出処理が施されることから、ユーザに注視させるべき被写体が写っている可能性が高い画像をより確実に見つけ出すことができる。
本発明の態様8に係る電子機器は、前記態様1から7のいずれかにおいて、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付ける指定検知処理をさらに実行し、前記強調表示処理の実行後、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付けることなく第2の所定時間が経過した場合、または、前記第2の所定時間内に、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付けた場合のいずれかにおいて、前記強調表示処理の実行を解除してもよい。
前記の構成によれば、ユーザが強調表示処理が施されたオブジェクト画像を注視する必要が無くなったにも拘らず、制御装置が強調表示処理を実行し続けるなど、無駄な強調処理の実行を防止することができる。よって、ユーザが他の注視対象の特定に容易に移行できるとともに、消費電力の抑制を図ることができる。
本発明の態様9に係る制御装置(10)は、電子機器(情報処理端末1)を制御するための制御装置であって、前記電子機器に接続された撮像装置(監視カメラ300)によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像(O)を抽出する画像抽出部(オブジェクト画像抽出部13)と、前記電子機器に接続された表示装置(モニター211〜218)の表示領域(211a〜218a)において、前記画像抽出部により抽出された前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示部(マーカー生成部16)と、を備える。前記の構成によれば、本発明の態様1に係る電子機器と同様の効果を奏する。
本発明の態様10に係る制御方法は、少なくとも1つの制御装置(10)を備えた電子機器(情報処理端末1)を制御するための制御方法であって、前記電子機器に接続された撮像装置(監視カメラ300)によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像(O)を抽出する画像抽出ステップと、前記電子機器に接続された表示装置(モニター211〜218)の表示領域(211a〜218a)において、前記画像抽出ステップで抽出した前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示ステップと、を含む。前記の構成によれば、本発明の態様1に係る電子機器と同様の効果を奏する。
本発明の各態様に係る制御装置は、コンピュータによって実現してもよく、この場合には、コンピュータを前記制御装置が備える各部(ソフトウェア要素)として動作させることにより前記制御装置をコンピュータにて実現させる制御装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
〔付記事項〕
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。
1 情報処理端末(電子機器)
10 制御装置
13 オブジェクト画像抽出部(画像抽出部)
16 マーカー生成部(強調表示部)
100 ユーザ
211〜218 モニター(表示装置)
211a〜218a 表示領域
220 非優先オブジェクト画像(オブジェクト画像)
230 優先オブジェクト画像(オブジェクト画像)
O オブジェクト画像

Claims (11)

  1. 少なくとも1つの制御装置を備えた電子機器であって、
    前記制御装置は、
    前記電子機器に接続された撮像装置によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像を抽出する画像抽出処理と、
    前記電子機器に接続された表示装置の表示領域において、前記画像抽出処理により抽出した前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示処理と、を実行する、電子機器。
  2. 前記注視喚起属性は複数あり、
    複数の前記注視喚起属性のそれぞれには、前記強調表示処理の優先度が設定されており、
    前記制御装置は、前記画像抽出処理により抽出した前記オブジェクト画像について、当該画像が有する前記注視喚起属性に設定されている前記優先度に基づいて、前記強調表示処理の要否を決定する要否決定処理をさらに実行する、請求項1に記載の電子機器。
  3. 前記制御装置は、前記要否決定処理において、前記画像抽出処理により抽出した前記オブジェクト画像について前記優先度の合計値を算出し、前記合計値が所定の条件を充足する旨判定した場合に、前記強調表示処理を実行する、請求項2に記載の電子機器。
  4. 前記制御装置は、
    前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付ける指定検知処理と、
    前記指定検知処理により受け付けた前記ユーザの指定回数をカウントすることにより、前記ユーザに指定された複数の前記オブジェクト画像のそれぞれが有していた複数の前記注視喚起属性について、前記ユーザに指定された前記オブジェクト画像が前記注視喚起属性を有していた回数が多いほど、当該注視喚起属性に設定された前記優先度の値が大きくなるように前記優先度を更新する更新処理をさらに実行する、請求項3に記載の電子機器。
  5. 前記撮像装置は複数あり、
    複数の前記撮像装置のそれぞれに前記表示装置が対応付けられており、
    前記制御装置は、前記強調表示処理を施した前記オブジェクト画像が表示されていない前記表示装置の前記表示領域の明るさを、前記強調表示処理を施した前記オブジェクト画像が表示されている前記表示装置の前記表示領域の明るさよりも暗くする調整処理を実行する、請求項1から4のいずれか1項に記載の電子機器。
  6. 前記制御装置は、
    前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付ける指定検知処理をさらに実行し、
    前記調整処理の実行後、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付けることなく第1の所定時間が経過した場合、または、前記第1の所定時間内に、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付けた場合のいずれかにおいて、前記調整処理の実行を解除する、請求項5に記載の電子機器。
  7. 前記制御装置は、
    前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付ける指定検知処理をさらに実行し、
    前記表示装置の前記表示領域の明るさを暗くして、暗くした前記表示領域に表示された前記撮像画像に対する前記ユーザの指定を受け付けた場合、前記撮像画像に対して前記画像抽出処理を実行する、請求項1から6のいずれか1項に記載の電子機器。
  8. 前記制御装置は、
    前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付ける指定検知処理をさらに実行し、
    前記強調表示処理の実行後、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付けることなく第2の所定時間が経過した場合、または、前記第2の所定時間内に、前記強調表示処理を施した前記オブジェクト画像に対する前記ユーザの指定を受け付けた場合のいずれかにおいて、前記強調表示処理の実行を解除する、請求項1から7のいずれか1項に記載の電子機器。
  9. 電子機器を制御するための制御装置であって、
    前記電子機器に接続された撮像装置によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像を抽出する画像抽出部と、
    前記電子機器に接続された表示装置の表示領域において、前記画像抽出部により抽出された前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示部と、を備えた、制御装置。
  10. 少なくとも1つの制御装置を備えた電子機器を制御するための制御方法であって、
    前記電子機器に接続された撮像装置によって撮像された撮像画像の中から、ユーザに注視させるべき注視喚起属性を有するオブジェクト画像を抽出する画像抽出ステップと、
    前記電子機器に接続された表示装置の表示領域において、前記画像抽出ステップで抽出した前記オブジェクト画像を、前記撮像画像における前記オブジェクト画像以外の画像部分よりも強調して表示する強調表示ステップと、を含んだ、制御方法。
  11. 請求項1に記載の電子機器における制御装置としてコンピュータを機能させるための制御プログラム。
JP2018237529A 2018-12-19 2018-12-19 電子機器、制御装置、制御方法および制御プログラム Pending JP2020102657A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018237529A JP2020102657A (ja) 2018-12-19 2018-12-19 電子機器、制御装置、制御方法および制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018237529A JP2020102657A (ja) 2018-12-19 2018-12-19 電子機器、制御装置、制御方法および制御プログラム

Publications (1)

Publication Number Publication Date
JP2020102657A true JP2020102657A (ja) 2020-07-02

Family

ID=71139919

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018237529A Pending JP2020102657A (ja) 2018-12-19 2018-12-19 電子機器、制御装置、制御方法および制御プログラム

Country Status (1)

Country Link
JP (1) JP2020102657A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023032317A1 (ja) * 2021-09-02 2023-03-09 ソニーグループ株式会社 プログラム、情報処理装置、情報処理方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023032317A1 (ja) * 2021-09-02 2023-03-09 ソニーグループ株式会社 プログラム、情報処理装置、情報処理方法

Similar Documents

Publication Publication Date Title
US20230410513A1 (en) Abnormality detection device and abnormality detection method
JP5227911B2 (ja) 監視映像検索装置及び監視システム
CN108476304B (zh) 丢弃物体监视装置和具备该丢弃物体监视装置的丢弃物体监视系统以及丢弃物体监视方法
KR101825045B1 (ko) 경보 방법 및 장치
JP6597609B2 (ja) 画像処理装置、監視システム、画像処理方法、及びプログラム
US20230067154A1 (en) Monitoring apparatus and system
CN110267010B (zh) 图像处理方法、装置、服务器及存储介质
JP6693509B2 (ja) 画像処理装置、画像処理方法、および画像処理システム
JP6720909B2 (ja) 行動検知装置、該方法および該プログラム、ならびに、被監視者監視装置
JP2009171296A (ja) 映像ネットワークシステム及び映像データ管理方法
CN108271082B (zh) 在视频管理系统中基于注视进行警报屏蔽的方法和系统
WO2011082185A1 (en) Confined motion detection for pan-tilt cameras employing motion detection and autonomous motion tracking
US20110063441A1 (en) Imager and surveillance system
KR20180086048A (ko) 카메라 및 카메라의 영상 처리 방법
CN105577983A (zh) 检测运动遮罩的设备和方法
EP2560149A2 (en) Image processing device, image processing method and program
JP2018163644A5 (ja)
JP2017125974A (ja) 表示装置、表示方法及びプログラム
CN118550403A (zh) 隔空手势识别方法、电子设备及存储介质
US11086933B2 (en) Event search system, device, and method
JP2020102657A (ja) 電子機器、制御装置、制御方法および制御プログラム
JP5015838B2 (ja) 煙検出装置
JP4889668B2 (ja) 物体検出装置
CN116301362B (zh) 图像处理方法、电子设备及存储介质
CN106710142A (zh) 面向智能手机的摔倒行为视觉检测系统