以下に、図面を参照しながら本発明に係る画像処理装置、画像処理システム、画像処理方法、及び画像処理プログラムの実施の形態を詳細に説明する。以下の実施の形態によって本発明が限定されるものではなく、以下の実施の形態における構成要素には当業者が容易に想到できるもの、実質的に同一のもの、及びいわゆる均等の範囲のものが含まれる。以下の実施の形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換、変更、及び組み合わせを行うことができる。
(第1の実施の形態)
図1は、第1の実施の形態に係る画像処理システム1のハードウェア構成の例を示す図である。画像処理システム1は撮像装置2(撮像部)、情報処理装置3(画像処理装置)、及びネットワーク4を含む。
撮像装置2は被写体から照射(反射)された光を電気信号に変換することにより被写体を撮像し、複数のフレーム(静止画像データ)で構成される動画(例えば10[FPS])の映像データを生成するビデオカメラである。例えば、撮像装置2は複数の製品を生産する生産設備、生産ライン等を撮像し、製造物であるワーク11(検体)に対する異常を検知する正否判定を実行するための映像データを生成する。なお、本例においては1台の撮像装置2が示されているが、撮像装置2の数は複数であってもよい。
情報処理装置3は撮像装置2によって生成された映像データに基づいてワーク11の正否判定を実行する装置として機能するPC(Personal Computer)、ワークステーション等である。情報処理装置3は生産設備等を構成する外部機器と、例えばフィールドバス規格による通信が可能となるように接続していてもよい。
ネットワーク4は撮像装置2と情報処理装置3とを接続するための、例えばEthernet(登録商標)規格のネットワークである。この場合、ネットワーク4ではTCP(Transmission Control Protocol)/IP(Internet Protocol)等のプロトコルによりデータ通信が行われる。この場合、撮像装置2及び情報処理装置3はTCP/IPのプロトコルにより通信するためのMAC(Media Access Control)アドレスを有し、且つプライベートIPアドレス等のIPアドレスが割り当てられる。ネットワーク4の具体的構成の一例として、例えば複数のポートを有するスイッチングハブに撮像装置2及び情報処理装置3それぞれがLAN(Local Area Network)ケーブルによって接続されたスター配線形式が挙げられる。なお、ネットワーク4はTCP/IPによるものに限定されるものではなく、例えば情報処理装置3側にVGA(Video Graphics Array)端子又はUSB(Universal Serial Bus)ポートを複数有し、複数の撮像装置2がVGAケーブル又はUSBケーブルで情報処理装置3に接続された形態等であってもよい。
図2は、第1の実施の形態に係る情報処理装置3のハードウェア構成の例を示す図である。情報処理装置3はCPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、外部記憶装置104、ディスプレイ105(表示部)、ネットワークI/F106、キーボード107、マウス108、DVD(Digital Versatile Disc)ドライブ109、外部機器I/F111、及びスピーカ112を含む。
CPU101は情報処理装置3全体の動作を制御する装置である。ROM102は情報処理装置3用のプログラムを記憶している不揮発性記憶装置である。RAM103はCPU101のワークエリアとして使用される揮発性記憶装置である。
外部記憶装置104は撮像装置2により撮像された映像データ、設定情報等の各種データを記憶するHDD(Hard Disk Drive)、SSD(Solid State Drive)等の記憶装置である。
ディスプレイ105はカーソル、メニュー、ウィンドウ、文字、画像、正否判定を実行するアプリケーションの画面等を表示する表示装置である。ディスプレイ105は例えばCRT(Cathode Ray Tube)ディスプレイ、液晶ディスプレイ、プラズマディスプレイ、有機EL(Electroluminescence)ディスプレイ等である。ディスプレイ105は例えば情報処理装置3の本体に対して、VGAケーブル、HDMI(登録商標)(High-Definition Multimedia Interface)ケーブル、Ethernetケーブル等により接続される。ディスプレイ105はタッチパネル式の入力操作を可能にするための機構を備えていてもよい。
ネットワークI/F106はネットワーク4に接続してデータ通信するためのインターフェースである。ネットワークI/F106は例えばTCP/IPプロトコルによる通信を可能にするNIC(Network Interface Card)である。具体的には、情報処理装置3は撮像装置2からネットワーク4及びネットワークI/F106を介して、映像データを取得する。
キーボード107は文字、数字、各種指示の選択、カーソルの移動、設定情報の設定等の入力を行う入力装置である。マウス108は各種指示の選択(実行)、処理対象の選択、カーソルの移動、設定情報の設定等を行うための入力装置である。
DVDドライブ109は着脱自在な記憶媒体の一例としてのDVD110に対するデータの読み出し、書き込み、及び削除を制御する装置である。
外部機器I/F111は外部機器と接続してデータ通信をするためのインターフェースである。外部機器I/F111は例えばフィールドバス規格による通信を可能にするインターフェースカードである。具体的には、情報処理装置3は外部機器と外部機器I/F111を介してデータ通信を行う。
スピーカ112はアプリケーションの動作に従って音声を出力する装置である。
上述のCPU101、ROM102、RAM103、外部記憶装置104、ディスプレイ105、ネットワークI/F106、キーボード107、マウス108、DVDドライブ109、外部機器I/F111、及びスピーカ112はアドレスバス、データバス等のバス113によって互いに通信可能に接続されている。ディスプレイ105はEthernetケーブルによって接続される場合にはネットワークI/F106に接続されることになり、この場合にはTCP/IP等のプロトコルによりデータ通信が行われる。
図3は、第1の実施の形態に係る情報処理装置3の機能的構成の例を示す図である。情報処理装置3は映像受信部201、記憶部202、入力部203、設定部204、変化点検出部205、及び出力部206を含む。変化点検出部205は取得部211、比較部212、補正部213、及び判定部214を含む。
映像受信部201はネットワーク4を介して撮像装置2とデータ通信を行い、撮像装置2から映像データを受信する部分である。映像受信部201は受信した映像データを記憶部202に記憶させる。映像受信部201は図2に示すネットワークI/F106等により実現される。
記憶部202は映像受信部201により受信された映像データ、各種設定情報、時刻情報等を記憶する部分である。記憶部202は例えば図2に示す外部記憶装置104、DVDドライブ109、DVD110等により実現される。
入力部203は情報処理装置3が実行する正否判定及びその他の処理に関する操作入力を行う部分である。入力部203は図2に示すキーボード107、マウス108、タッチパネル機構等により実現される。
設定部204は入力部203に対する入力操作に応じて正否判定に関する設定を行う部分である。設定部204は例えば記憶部202に記憶されている映像データのうち、どの時刻の画像を基準画像として扱うか、どの時間範囲の画像を検知画像として扱うか、後述する画像閾値(第1の閾値)、後述する検知閾値(第2の閾値)等を設定する。基準画像は必ずしも映像データから抽出されなければならないものではなく、映像データ以外のデータから取得されてもよい。設定部204は図2に示すCPU101、RAM103、外部記憶装置104、DVDドライブ109等により実現される。
変化点検出部205はワーク11に異常が認められた時点を示す変化点を検出する部分である。本実施の形態に係る変化点検出部206は以下に説明する取得部211、比較部212、補正部13、及び判定部14を含む。変化点検出部205はCPU101、ROM102、RAM103、外部記憶装置104、DVDドライブ109等により実現される。
取得部211は記憶部202に記憶された映像データから基準画像データ及び検知画像データを取得する部分である。基準画像データは基準画像を示すデータである。検知画像データは検知画像を示すデータである。基準画像はワーク11の正否判定の基準となる画像である。検知画像は正否判定の対象となるワーク11を撮像した画像である。以降、表現の簡素化のため、「基準画像データ」を「基準画像」と表現し、「検知画像データ」を「検知画像」と表現する場合がある。例えば、「基準画像データを取得する」ことを「基準画像を取得する」と表現し、「検知画像データを取得する」ことを「検知画像を取得する」と表現する場合がある。
図4は、第1の実施の形態に係る基準画像51の例を示す図である。図5は、第1の実施の形態に係る検知画像61の例を示す図である。本例では、基準画像51に含まれるワーク11と検知画像61に含まれるワーク11とが大きく異なっている場合が示されている。
基準画像51及び検知画像61には、それぞれワーク11が存在する部分を示すワーク領域15と、ワーク11が存在しない部分を示す空き領域16とが含まれている。取得部211は設定部204により設定された設定値に基づいて基準画像51及び検知画像61を取得する。取得部211は例えば設定部204により設定された時刻に対応する1つの基準画像51と、設定された時刻又は時間範囲に撮像された1つ以上の検知画像61とを取得する。基準画像51は映像データ以外のデータから取得されてもよい。取得部211はCPU101、RAM103、外部記憶装置104、DVDドライブ109等により実現される。
比較部212は基準画像51の基準画素値と検知画像61の検知画素値とを比較する部分である。基準画素値とは、基準画像51の画素毎の画素値、又は基準画像51の所定の画素群毎の画素値である。検知画素値とは、検知画像61の画素毎の画素値、又は検知画像61の所定の画素群毎の画素値である。画素値とは、画像を構成する画素又は画素群の特徴を示す数値であり、例えば所定の色の明るさを示す値等であり得る。所定の画素群とは、互いに隣接する複数の画素からなる群、例えば2×2=4個の画素からなる群、3×3=9個の画素からなる群等であり得る。所定の画素群の画素値とは、画素群を構成する複数の画素の各画素値を代表する画素値であり、例えば複数の画素値の平均値、最大値、最小値等であり得る。比較部212はCPU101、RAM103等により実現される。
補正部213は比較部212の比較結果及び設定部204による設定値(画素閾値)に基づいて検知画像61を示す検知画像データを補正する部分である。以降、「検知画像データを補正する」ことを「検知画像を補正する」と表現する場合がある。補正部206は基準画素値と検知画素値との間の差分が所定の画素閾値未満である場合に、検知画素値を基準画素値に変換するように検知画像61を補正する。補正部213はCPU101、RAM103等により実現される。
比較部212及び補正部213の機能について図6〜図8を参照して説明する。図6は、第1の実施の形態に係る基準画像51の画素構成の例を模式的に示す図である。図7は、第1の実施の形態に係る補正前の検知画像61A及び補正後の検知画像61Bの画素構成の第1の例を模式的に示す図である。図8は、第1の実施の形態に係る補正前の検知画像61A及び補正後の検知画像61Bの画素構成の第2の例を模式的に示す図である。
図6に示す例に係る基準画像51は全体として3×3=9個の画素52を有し、各画素52は基準画素値53を有している。図5に示す例は比較部212及び補正部213の機能を説明するために簡略化されたものであり、実際の基準画像51の画素構成は本例より大規模である。
図7及び図8には補正前の検知画像61A、補正後の検知画像61B、及び画素値差分表71が示されている。図7及び図8に示す例に係る補正前後の検知画像61A,61Bは全体として3×3=9個の画素62を有し、各画素62は検知画素値63を有している。画素値差分表71は基準画像51の各基準画素値53と補正前の検知画像61Aの各検知画素値63との間の差分72を示し、内部処理的に使用されるデータである。図7及び図8に示す例は比較部212及び補正部213の機能を説明するために簡略化されたものであり、実際の検知画像61A,61B及び画素値差分表71の画素構成は本例より大規模である。
図7及び図8に示す例は共に画素閾値T1を30に設定した場合の例である。この30の値は単なる例示であり、画素閾値T1は入力部203及び設定部204の機能により任意に設定可能なものである。
図7に示す第1の例においては、図7の画素値差分表71に示されるように、全ての差分72の絶対値が30未満となっている。このような場合、補正前の検知画像61Aの全ての検知画素値63はそれぞれ対応する基準画素値53に変換される。これにより、第1の例に係る補正後の検知画像61Bは基準画素値53と一致することとなる。
図8に示す第2の例においては、図8の画素値差分表71に示されるように、4つの差分72(34,92,53,−57)の絶対値が30以上となっており、5つの差分72(10,16,6,20,1)の絶対値が30未満となっている。このような場合、補正前の検知画像61Aの検知画素値63のうち、差分72の絶対値が30以上である4つの検知画素値63(123,100,125,90)はそのまま維持され、差分72の絶対値が30未満である5つの検知画素値63(150,37,159,25,91)はそれぞれ対応する基準画素値53(160,53,165,45,92)に変換される。
判定部214(図3参照)は基準画像51と補正後の検知画像61Bとの間の画像的特徴の相違度に基づいてワーク11の正否判定を行う部分である。画像的特徴としては、例えば所定の色の明るさを示す画素値のヒストグラム、画像の輪郭のヒストグラム、ローカルバイナリパターン等が挙げられるが、これらに限られるものではない。相違度は画像的特徴の相違の度合いを示す値であり、例えば基準画像51のヒストグラムと補正後の検知画像61Bのヒストグラムとの一致率、当該一致率の逆数である検知率(不一致率)等であり得る。なお、補正部213により補正が行われなかった場合(全ての差分72が画素閾値T1以上である場合)には、基準画像51と補正前の検知画像61Aとの間の相違度が検査される。判定部214は設定部204により設定された設定値(検知閾値)に基づいて正否判定を行う。相違度が検知率である場合、判定部214は相違度が検知閾値未満である場合にワーク11は「正常」であると判定し、相違度が検知閾値以上である場合にワーク11は「異常」であると判定する。判定部214はCPU101、RAM103等により実現される。
出力部206は判定部214の判定結果(変化点検出部205の検出結果)に基づいて正否判定の結果(変化点)を出力する部分である。正否判定の結果の出力方法は特に限定されるべきものではないが、例えば結果を示す画像をディスプレイ105に表示させたり、結果を示す音声をスピーカ112から出力させたり、結果を示すデータを外部の情報処理システムに出力したりすることが挙げられる。外部の情報処理システムは特に限定されるべきものではないが、例えばワーク10を生産する生産設備、生産ライン等を制御するシステム等であり得る。本実施の形態に係る出力部206は正否判定の結果を示す結果表示画面だけでなく、設定部204による設定時に使用される設定画面等をディスプレイ105に表示する。設定画面は設定部204による設定時にグラフィックユーザインターフェースとして機能する画面である。出力部206は結果表示画面、設定画面等をディスプレイ105に表示するためのデータ、結果を示す音声をスピーカ112から出力するためのデータ、結果を外部の情報処理システムに伝達するためのデータ等を生成する。出力部206はCPU101、RAM103、ディスプレイ105、スピーカ112、外部機器I/F111等により実現される。
図3に示した映像受信部201、記憶部202、入力部203、設定部204、変化点検出部205(取得部211、比較部212、補正部213、及び判定部214)、及び出力部206の一部又は全部は、ソフトウェア(プログラム)により制御されるCPU101ではなく、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等のハードウェア回路によって実現されてもよい。
図3に示した各機能部は機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図3で独立した機能部として図示した複数の機能部を1つの機能部として構成してもよい。図3の1つの機能部が有する機能を複数に分割し、複数の機能部として構成してもよい。
図9は、第1の実施の形態に係る情報処理装置3における全体的な処理の流れの例を示すフローチャートである。先ず、設定部204は基準画像51、検知画像61(補正前の検知画像61A)、画素閾値T1、検知閾値等を設定する設定処理を行い、このとき出力部206は設定画面が表示されるようにディスプレイ112を制御する(S101)。
その後、取得部211は設定処理の結果に基づいて記憶部202から基準画像51及び補正前の検知画像61Aを取得する取得処理を行う(S102)。
その後、比較部212は基準画像51の画素毎又は画素群毎の基準画素値53と補正前の検知画像61Aの画素毎又は画素群毎の検知画素値63とを比較する比較処理を行う(S103)。
その後、補正部213は比較処理の結果に基づいて、基準画素値53と検知画素値63との間の差分72が画素閾値T1未満である検知画素値63を基準画素値53に変換するように、補正前の検知画像61Aを補正後の検知画像61Bに補正する補正処理を行う(S104)。
その後、判定部214は基準画像51と補正後の検知画像61Bとの間の画像的特徴の相違度に基づいてワーク11の正否を判定する判定処理を行う(S105)。
その後、出力部206は判定処理の結果に基づいてワーク11の正否判定の結果を出力する(S106)。
図10は、第1の実施の形態に係る設定画面151の例を示す図である。本例に係る設定画面151は映像表示部152、表示モード設定部153、時刻調節部154、操作ボタン155、基準画像表示部156、検知画像表示部157、差分表示部158、判定方式設定部159、色成分設定部160、画素閾値設定部161、検知率設定部162、判定結果表示ボタン163、グラフ表示部164、結果表示部165、及び設定完了ボタン166を含む。
映像表示部152は撮像装置2により撮像された撮像映像171を表示する領域である。映像表示部152は記憶部202に記憶された映像データに基づいて撮像映像171を表示する。撮像映像171内には検知領域172及び日時表示173が含まれている。検知領域172は撮像映像171の一部であり、ワーク11を含むように設定される。検知領域172内の画像が検知画像61となる。ユーザが入力部203を操作することにより検知領域172の位置等を任意に設定できるようになされてもよい。日時表示173は撮像映像171(検知画像61)が撮像された日時を示している。
撮像映像171は表示モード設定部153、時刻調節部154、及び操作ボタン155への操作により変化する。表示モード設定部153は「リアルタイム」又は「撮影済み」のいずれかのモードを選択するように構成されている。「リアルタイム」が選択されることにより、撮像装置2により撮像されている映像がリアルタイムに表示される。「撮影済み」が選択されることにより、撮像装置2により録画された(記憶部202に蓄積された)過去の映像が表示される。時刻調節部154はマウス操作等により時刻の調節を可能にする。操作ボタン155はマウス操作等により撮像映像171の再生、一時停止、コマ送り再生、倍速再生等の各種操作を可能にする。「撮影済み」のモードを選択した上で時刻調節部154及び操作ボタン155を操作することにより、過去に撮像された映像の中から任意の時刻又は時間範囲の撮像映像171を表示することが可能となる。
基準画像表示部156は基準画像51を表示する領域である。基準画像51の設定方法は特に限定されるべきものではないが、例えば特定の時刻の撮像映像171の一部を基準画像51に設定する設定操作等を行うことにより基準画像51を設定することができる。
検知画像表示部157は検知画像61を表示する領域である。映像表示部152に表示されている検知領域172内の画像が検知画像61となる。検知画像61は撮像映像171の変化、すなわち表示モード設定部153、時刻調節部154、及び操作ボタン155への操作に伴い変化する。
差分表示部158は基準画像51の基準画素値53と検知画像61の検知画素値63との差分72を視覚的に表現する画像を表示する領域である。図11は、第1の実施の形態に係る差分表示部158に表示される差分表示画像81の例を示す図である。図12は、第1の実施の形態に係る補正推定画像85の例を示す図である。
図11に示す差分表示画像81は基準画像51と検知画像61とを重複して表示し、差分72の大きさを視覚的に把握できるように表示する画像である。差分表示画像81には、基準画像51及び検知画像61と同様に、ワーク11が存在する部分を示すワーク領域15と、ワーク11が存在しない部分を示す空き領域16とが含まれている。差分表示画像81におけるワーク領域15は基準画像51内のワーク11が存在する部分と検知画像61内のワーク11が存在する部分とを合わせた領域である。
本例に係る差分表示画像81は第1の領域141、第2の領域142、第3の領域143、及び第4の領域144に分割されている。これらの4つの領域141〜144は差分72の大きさの違いに基づいて決定される。ここではハッチ又は網掛けの種類によりこれらの4つの領域141〜144が表現されているが、実際の差分表示画像81では、例えば色彩、輝度、透明度、明滅等の表示方式の違いによりこれらの4つの領域141〜144が表現され得る。本例では、第1の領域141における差分72をΔV1、第2の領域142における差分72をΔV2、第3の領域143における差分72をΔV3、第4の領域における差分72をΔV4とするとき、ΔV1<ΔV2<ΔV3<ΔV4の関係が成り立つ。例えば、ΔV1<10、10≦ΔV2<30、30≦ΔV3<50、ΔV4≧50のように設定することができる。このような差分表示画像81を参照することにより、ユーザは基準画像51と検知画像61と間の相違が大きい領域又は小さい領域を、容易且つ的確に把握することが可能となる。
図12に示す補正推定画像85は検知画像61の補正後の状態をシミュレーション的に示す画像である。本例の補正推定画像85は検知画像61(補正前の検知画像61A)のうち差分72が30以上の残留領域87、すなわち第3の領域143及び第4の領域144に相当する領域のみを表示する画像である。画像閾値T1を30に設定した場合、補正部213による補正処理において、補正推定画像85内の残留領域87に対応する検知画素値63はそのまま維持されるが、残留領域87以外の領域に対応する検知画素値63は基準画素値53に変換される。補正推定画像85は検知画像61内の補正される部分と残留する部分とを明確に示している。このような補正推定画像85を参照することにより、ユーザは画像閾値T1の設定に応じて検知画像61がどのように補正されるかを容易且つ的確に把握することが可能となる。
判定方式設定部159は判定部214によりワーク11の正否判定を行う際の判定方式を設定する操作部である。換言すれば、判定方式設定部159はワーク11の正否判定において基準となる画像的特徴を設定する。判定方式(基準となる画像的特徴)としては、画素値のヒストグラムを比較する「ヒストグラム」モード、ローカルバイナリパターンを比較する「LBP」モード等が挙げられるが、これらに限られるものではない。
色成分設定部160は判定方式設定部159により設定された判定方式に対応する色成分を設定する操作部である。例えば、判定方式設定部159により「ヒストグラム」モードが選択された場合には、基準となる色成分として、色相、R(赤色)、G(緑色)、B(青色)、ユーザ設定色等が選択候補となり得る。色成分設定部160により選択される項目はこれらに限られるものではない。
画素閾値設定部161は比較部212の比較結果に基づいて補正部213により検知画像61を補正する際に用いられる画素閾値T1を設定する操作部である。本例では画素閾値T1が50に設定された状態が示されている。この場合、基準画素値53と検知画素値63との差分72が50未満である場合に、検知画素値63が基準画素値53に変換される。
検知率設定部162は判定部214による正否判定においてワーク11が正常か異常かを判定する基準となる相違度(本例では検知率)である検知閾値を設定する操作部である。本例では検知閾値が20%に設定された状態が示されている。この場合、検知率が20%以下(一致率が80%以上)である場合に、ワーク11は正常であると判定される。
結果表示ボタン163は基準画像表示部156に表示されている基準画像51、検知画像表示部157に表示されている検知画像61、判定方式設定部159により設定された判定方式、色成分設定部160により設定された成分、画素閾値設定部161により設定された画素閾値、及び検知率設定部162により設定された検知率に基づいて処理を行った場合の結果を表示させる操作部である。マウス等により結果表示ボタン163を押す操作がなされると、当該結果がグラフ表示部164及び判定結果表示部165に表示される。
本例では、グラフ表示部164に基準画像51の色相に関するヒストグラムと検知画像61(補正後の検知画像61B)の色相に関するヒストグラムとが表示されている。また、判定結果表示部165には、検知率が32.7%であり、ワーク11が異常であることを示す「基準画像に対して変化あり」という情報が表示されている。グラフ表示部164及び判定結果表示部165の表示内容は、基準画像51、検知画像61、判定方式設定部159、色成分設定部160、画素閾値設定部161、又は検知率設定部162の設定内容の変更に応じて変更される。
設定完了ボタン166は設定画面151により行われた設定の内容を確定させる操作部である。マウス等により設定完了ボタン166を押す操作がなされると、現在の設定内容が確定する。
図13は、第1の実施の形態に係る結果表示画面181の例を示す図である。本例に係る結果表示画面181は判定部214による判定結果を表示する画面であり、検知画像表示部182、ログ表示部185、日設定部186、及び表示設定部187を含む。
検知画像表示部182は正否判定の対象となるワーク11を撮像した検知画像61を表示する領域である。検知画像表示部182には設定画面151と同様に、時刻調節部154、操作ボタン155、及び日時表示173が含まれている。日時表示173は検知画像61が撮像された日時を示している。時刻調節部154は表示される検知画像61の時刻を調節する操作部である。操作ボタン155は検知画像61の再生、一時停止、コマ送り再生、倍速再生等の各種操作を行う操作部である。
ログ表示部185はワーク11の異常が認められた時点(変化発生点)とワーク11の異常が認められなくなった時点(変化終了点)とを表示する領域である。本例のログ表示部185には時刻欄191、カメラID欄192、及び変化点欄193が含まれている。時刻欄191は変化発生点又は変化終了点に対応する時刻を示している。カメラID欄191は対象となるワーク11(検知画像61)を撮像した撮像装置2を特定する情報を示している。変化点欄193は変化点の種類(変化発生点又は変化終了点)を示している。
日設定部186はログ表示部185に表示される情報の日を設定する操作部である。本例では日設定部186により設定された1日分の情報がログ表示部185に表示されているが、日設定部186により複数の日数を指定し、当該日数分の情報が表示されてもよい。
表示設定部187はログ表示部185に表示する変化点の種類を設定する操作部である。本例ではログ表示部185に変化発生点及び変化終了点の両方が表示されるように設定されているが、変化発生点又は変化終了点のどちらか一方のみが表示されるように設定されてもよい。
図14は、第1の実施の形態に係る情報処理装置3における具体的な処理の流れの例を示すフローチャートである。先ず、出力部206はディスプレイ105に設定画面151を表示させる(S201)。ユーザは設定画面151を通して基準画像51、画素閾値T1、及び検知閾値T2を設定する(S202)。その後、取得部211は検知画像61を取得する(S203)。
その後、比較部212は基準画像51の基準画素値53(Vb)と検知画像61の検知画素値63(Vd)とを順次比較し、画素毎又は画素群毎の差分72(ΔV=|Vb−Vd|)を算出する(S204)。
補正部213は比較部212により算出された各差分72(ΔV)が画素閾値T1未満であるか否かを判定し、ΔV<T1である場合(S205:Yes)、このΔVに対応する検知画素値63(Vd)を基準画素値53(Vb)に変換し(S206)、全ての画素(又は画素群)について補正の要否を判定したか否かを判定する(S207)。一方、ΔV<T1でない場合(S205:No)、検知画素値63(Vd)を変換せずにステップS207を実行する。
全ての画素について補正の要否を判定していない場合(S207:No)、ステップS204に戻る。全ての画素について補正の要否を判定した場合(S207:Yes)、判定部214は基準画像51と補正後の検知画像61Bとの間で画像的特徴(例えばヒストグラム)を比較する(S208)。判定部214は画像的特徴の比較の結果、検知率Rが検知閾値T2以下である場合(S209:Yes)、ワーク11は正常であると判定し(S210)、検知率RがT2以下でない場合(S209:No)、ワーク11は異常であると判定する(S211)。その後、出力部206はステップS210,S211の結果に基づいて結果表示画面181をディスプレイ105に表示させる(S212)。
上記第1の実施の形態に係る情報処理装置3の各種機能、すなわち映像受信部201、記憶部202、入力部203、設定部204、変化点検出部205(取得部211、比較部212、補正部213、及び判定部214)、及び出力部206の各機能の少なくとも一部がプログラムの実行によって実現される場合、プログラムはROM等に予め組み込まれて提供される。また、プログラムはインストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD等のコンピュータで読み取り可能な記録媒体に記録して提供されてもよい。また、プログラムはインターネット等のネットワークに接続されたコンピュータ上に格納され、ネットワーク経由でダウンロードさせることにより提供され得るように構成されてもよい。また、プログラムはインターネット等のネットワーク経由で提供又は配布され得るように構成されてもよい。また、プログラムは上述した各機能の少なくとも一部を含むモジュール構成となっていてもよい。
以上のように、本実施の形態によれば、基準画像51と検知画像61とを比較して検体(ワーク11)の正否判定を行う前に、基準画素値53との差分72が所定値より小さい検知画素値63を基準画素値53に一致させるように検知画像61が補正される。これにより、検体の正否判定に実質的に影響しない僅かな画像的特徴の変化を排除することが可能となる。例えば、照明の影響等により検知画像61内の空き領域16に生じた変化等を排除することが可能となる。このように、本実施の形態によれば、検体以外の要因による画像的特徴の変化を排除し、検体の正否判定の精度を向上させることが可能となる。
以下に、他の実施の形態について図面を参照して説明するが、第1の実施の形態と同一又は同様の作用効果を奏する箇所については同一の符号を付してその説明を省略する場合がある。
(第2の実施の形態)
図15は、第2の実施の形態に係る画像処理システム251のハードウェア構成の例を示す図である。画像処理システム251は撮像装置2a〜2f(撮像部)、情報処理装置253(画像処理装置)、ネットワーク4、及び外部機器255を含む。
本実施の形態においては、複数(本例では6つ)の撮像装置2a〜2fが備えられている。各撮像装置2a〜2fは第1の実施の形態に係る撮像装置2と同様に、生産設備、生産ライン等を撮像し、検体の正否判定を実行するための映像データを生成する。
情報処理装置253は各撮像装置2a〜2fによって生成された各映像データに基づいてワーク11の正否判定(変化点の検出)を実行する。情報処理装置253は生産設備等の外部機器255と、例えばフィールドバス規格による通信が可能となるように接続している。情報処理装置253のハードウェア構成は第1の実施の形態に係る情報処理装置3と同様に、図2に示す構成であり得る。
図16は、第2の実施の形態に係る情報処理装置253の機能的構成の例を示す図である。情報処理装置253は映像受信部301、記憶部302、入力部303、第1再生部304、トリガ領域指定部305、変化点検出部306、検知領域指定部307、設定部308、常時検知領域指定部309、映像振分部312、トリガ生成部313、検知領域判定部314、常時検知領域判定部315、第1制御部316、報知制御部317、第2再生部318、領域表示制御部319、リスト制御部320、第2制御部321、表示制御部331、外部出力部332、表示部333、及び報知部334を含む。本実施の形態に係る変化点検出部306は第1の実施の形態に係る変化点検出部205に対応する。
映像受信部301はネットワーク4を介して各撮像装置2a〜2fとデータ通信を行い、各撮像装置2a〜2fから映像データを受信する部分である。映像受信部301は受信した映像データを記憶部302に記憶させる。映像受信部301は図2に示すネットワークI/F106等により実現される。
記憶部302は映像受信部301により受信された映像データ、各種設定情報、後述する時刻情報等を記憶する部分である。記憶部302は映像受信部301により受信された映像データがどの撮像装置2a〜2fにより生成された映像データであるかを識別して記憶する。記憶部302は例えば図2に示す外部記憶装置104、DVDドライブ109、DVD110等により実現される。
入力部303は情報処理装置253が実行する正否判定及びその他の処理に関する操作入力を行う部分である。入力部303は図2に示すキーボード107、マウス108等により実現される。
第1再生部304はユーザにより操作される入力部303からの操作信号に従って、記憶部302から取得した映像データを表示制御部331に送り、表示制御部331に対して撮像装置2a〜2fの撮像映像を表示部333に再生表示させる部分である。具体的には、第1再生部304は、図19等で後述する、表示部333に表示される設定画面500の設定用映像表示部502に各撮像装置2a〜2fの撮像映像を再生表示させる。第1再生部304は図2に示すCPU101等により実現される。
トリガ領域指定部305はユーザにより操作される入力部303からの操作信号に従って、表示部333における撮像映像の表示領域(図19等で後述する設定用映像表示部502)においてトリガのタイミングを決定するトリガ領域を指定する部分である。トリガ領域指定部305は指定したトリガ領域の情報を撮像装置2a〜2f毎に関連付けて記憶部302に記憶させる。トリガ領域の情報とは、例えば撮像映像の表示領域におけるトリガ領域の位置を示す座標、トリガ領域の形状等の情報である。トリガ領域指定部305により指定されたトリガ領域は後述する瞬間検知機能で使用される。トリガ領域指定部305は図2に示すCPU101等により実現される。
変化点検出部306は第1の実施の形態に係る変化点検出部205に対応する部分であり、各撮像装置2a〜2fの映像データに基づいて変化点検出部205と同様の処理により検体の正否判定を行い、その判定結果に基づいて変化点を検出する部分である。すなわち、変化点検出部306は、第1の実施の形態に係る変化点検出部205と同様に、基準画像と検知画像とを取得する処理(取得部211に相当)、基準画素値と検知画素値とを比較する処理(比較部212に相当)、比較結果に基づいて各画素値の差分が所定値未満の検知画素値を基準画素値に変換するように検知画像を補正する処理(補正部213に相当)、及び基準画像と補正後の検知画像との間の画像的特徴の相違度に基づいて検体の正否判定を行う処理(判定部214に相当)を行う。変化点検出部306による検出結果は後述するトリガ生成部313、検知領域判定部314、及び常時検知領域判定部315における処理に利用される。
本実施の形態に係る変化点検出部306はトリガ領域指定部305によりトリガ領域が指定された場合、指定された時点で第1再生部304が再生表示している撮像映像のフレームの時刻の前後の所定時間分のフレームを取得し、取得されたフレームの中から基準画像となるフレームと検知画像となるフレームとを設定する。その後、変化点検出部306は、第1の実施の形態に係る変化点検出部205と同様に、基準画像の各画素値(基準画素値)と検知画像の各画素値(検知画素値)とを比較し、各画素値の比較結果に基づいて検知画像を補正し、基準画像と補正後の検知画像との間の画像的特徴の相違度に基づいてトリガ領域内の検体の正否判定を行い、正否判定の結果に基づいてトリガ領域内の画像についての変化点を検出する。このとき、フレームがグレースケールの画像である場合、画素値は輝度値と一致するので、2つのフレームのトリガ領域における輝度値を比較してもよい。フレームがRGBの画素値で構成された画像である場合、R、G、又はBのいずれかの画素値を比較してもよい。フレームの画像におけるエッジ検出処理を行い、エッジ部分の合計を算出してもよい。変化点検出部306は図2に示すCPU101等により実現される。
検知領域指定部307はユーザにより操作される入力部303からの操作信号に従って、表示部333における撮像映像の表示領域(設定用映像表示部502)において異常を検知する正否判定動作の対象となる検知領域を指定する部分である。検知領域指定部307は指定した検知領域の情報を撮像装置2a〜2f毎に関連付けて記憶部302に記憶させる。検知領域の情報とは、例えば撮像映像の表示領域における検知領域の位置を示す座標、検知領域の形状等の情報である。検知領域指定部307は後述するように、撮像映像の表示領域において複数の検知領域を指定することができる。検知領域指定部307により指定された検知領域は後述する瞬間検知機能で使用される。検知領域指定部307は図2に示すCPU101等により実現される。
設定部308はユーザにより操作される入力部303からの操作信号に従って、各種設定情報を設定して記憶部302に記憶させる部分である。設定部308は設定した設定情報のうち表示する必要がある情報を記憶部302から表示制御部331に送り、表示制御部331に対して設定情報を表示部333に表示させる。設定部308は図2に示すCPU101等により実現される。
常時検知領域指定部309はユーザにより操作される入力部303からの操作信号に従って、表示部333における撮像映像の表示領域(設定用映像表示部502)において、常時異常を検知する正否判定動作の対象となる常時検知領域を指定する部分である。常時検知領域指定部309は指定した常時検知領域の情報を撮像装置2a〜2f毎に関連付けて記憶部302に記憶させる。常時検知領域の情報とは、例えば撮像映像の表示領域における常時検知領域の位置を示す座標、常時検知領域の形状等の情報である。常時検知領域指定部309により指定された常時検知領域は後述する常時検知機能で使用される。常時検知領域指定部309は図2に示すCPU101等により実現される。
映像振分部312はユーザにより操作される入力部303からの操作信号に従って、映像受信部301から取得したリアルタイムの映像データを表示制御部331に送り、表示制御部331に対して撮像映像を表示部333に表示させる部分である。具体的には、映像振分部312は図18等で後述する、表示部333に表示されるウォッチャ画面400の映像表示部401a〜401fに、対応する撮像映像を振り分けて表示させる。映像振分部312は映像表示部401に表示させる各映像データを記憶部302に記憶(録画)させる。映像振分部312は図2に示すCPU101等により実現される。
トリガ生成部313は監視動作が開始された後、後述する図30のウォッチャ画面400の映像表示部401a〜401fにおけるトリガ領域において、差分画像と撮像映像のフレームのトリガ領域の画像とを比較して、トリガのタイミングでトリガ信号を生成する部分である。当該トリガ信号を生成するタイミングであるか否かの判定は上述した変化点検出部306による検出結果に基づいて行われる。トリガ生成部313は図2に示すCPU101等により実現される。
検知領域判定部314はトリガ生成部313により生成されたトリガ信号を受け取ったときの設定時間前又は設定時間後に、上述の映像表示部401a〜401fにおける検知領域において、基準画像と撮像映像のフレームの検知領域の画像(検知画像)とを比較して、異常であるか否かの判定をする部分である。当該異常であるか否かの判定は上述した変化点検出部306による検出結果に基づいて行われる。検知領域判定部314は図2に示すCPU101等により実現される。
常時検知領域判定部315は監視動作が開始された後、後述する図30のウォッチャ画面400の映像表示部401a〜401fにおける常時検知領域において、基準画像と撮像映像データのフレームの常時検知領域の画像(検知画像)とを比較して、異常であるか否かの判定を常時実行する部分である。当該異常であるか否かの判定は上述した変化点検出部306による検出結果に基づいて行われる。常時検知領域判定部315は図2に示すCPU101等により実現される。
第1制御部316はユーザにより操作される入力部303からの操作信号に従って、後述する図30のウォッチャ画面400において監視動作の開始及び停止を行うことの他、ウォッチャ画面400の動作全体を制御する部分である。第1制御部316は図2に示すCPU101等により実現される。
報知制御部317は検知領域判定部314による検知領域の判定の結果に基づいて報知部334に音声を出力させる部分である。報知制御部317は図2に示すCPU101等により実現される。
第2再生部318はユーザにより操作される入力部303からの操作信号に従って、記憶部302から取得した映像データを表示制御部331に送り、表示制御部331に対して撮像映像を表示部333に再生表示させる部分である。具体的には、第2再生部318は図39等で後述する、表示部333に表示されるビューワ画面700の映像表示部701a〜701fに、対応する撮像映像を振り分けて再生表示させる。第2再生部318は図2に示すCPU101等により実現される。
領域表示制御部319は記憶部303に記憶された各領域(トリガ領域、検知領域、及び常時検知領域)の検知時刻の情報(時刻情報)に基づいて、ビューワ画面700の映像表示部701a〜701fに再生表示されている撮像映像のフレームに重畳して各領域の状態を表示する部分である。領域表示制御部319は図2に示すCPU101等により実現される。
リスト制御部320はビューワ画面700で記憶部302に記憶されたマーカファイルを読み出し、マーカファイルの内容を表示させる図41で後述するマーカリスト画面800を表示する部分である。マーカファイルとは、常時検知機能により異常が検知された時刻、並びに瞬間検知機能によりトリガが発生した(トリガ信号が生成された)時刻及び異常が検知された時刻が時系列に記録されたファイルである。リスト制御部320は図2に示すCPU101等により実現される。
第2制御部321はビューワ画面700の動作全体を制御する部分である。第2制御部321は図2に示すCPU101等により実現される。
表示制御部331は表示部333の表示動作を制御する部分である。具体的には、表示制御部331は第1再生部304により取得された映像データ、設定部308により設定された設定情報、トリガ領域指定部305により指定されたトリガ領域、検知領域指定部307により指定された検知領域等を表示部333に表示させる。表示制御部331は図2に示すCPU101等により実現される。
外部出力部332は検知領域判定部314又は常時検知領域判定部315により異常の判定がされた場合に異常信号を外部機器10に出力する部分である。外部出力部332は図2に示す外部機器I/F111等により実現される。なお、外部出力部332は異常信号を出力するものとしているが、これに限定されるものではなく、メールで異常を通知するためのバッチファイルを外部機器10に送信したり、ウォッチャ画面400上に異常を報知(例えばランプアイコンで点滅表示)したりする処置を行うものとしてもよい。
表示部333は表示制御部331の制御に従って各種データを表示する部分である。表示部333は本実施の形態では特に図2に示すCPU101により実行されるプログラム(アプリケーション)により、後述するウォッチャ画面400、設定画面500、ビューワ画面700等を表示する。表示部333は図2に示すディスプレイ105等により実現される。
報知部334は報知制御部317の制御に従って音声を出力する部分である。報知部334は図2に示すスピーカ112等により実現される。
図16に示した第1再生部304、トリガ領域指定部305、変化点検出部306、検知領域指定部307、設定部308、常時検知領域指定部309、映像振分部312、トリガ生成部313、検知領域判定部314、常時検知領域判定部315、第1制御部316、報知制御部317、第2再生部318、領域表示制御部319、リスト制御部320、第2制御部321、及び表示制御部331の一部又は全部は、ソフトウェア(プログラム)により制御されるCPU101ではなく、ASIC、FPGA等のハードウェア回路によって実現されてもよい。
図16に示した各機能部は機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図16で独立した機能部として図示した複数の機能部を1つの機能部として構成してもよい。図16の1つの機能部が有する機能を複数に分割し、複数の機能部として構成するものとしてもよい。
(記憶部に記憶される情報のディレクトリ構造)
図17は、第2の実施の形態に係る情報処理装置253において記憶部302に記憶される情報のディレクトリ構造の例を示す図である。図17を参照しながら、記憶部302で情報を管理するためのディレクトリ構造について説明する。
図17に示すように、記憶部302はルートフォルダとして「Setting」フォルダと「Common」フォルダとを形成している。「Setting」フォルダの中には、各撮像装置2a〜2fに関する情報を保存するための「CAM1」〜「CAM6」フォルダ(以下、単に「カメラフォルダ」と総称する)が形成されている。「CAM1」〜「CAM6」フォルダはそれぞれ撮像装置2a〜2fに関するフォルダに相当する。
各カメラフォルダには領域情報ファイル、時刻情報ファイル、及び画像データが保存される。領域情報ファイルは対応する撮像装置2a〜2fについて設定された各領域の位置情報(位置を示す座標及び領域の形状等の情報)及び後述する属性情報を含むファイルである。時刻情報ファイルは対応する撮像装置2a〜2fについて監視動作が開始及び終了した時刻、各領域が指定(設定)された時刻、及び監視動作中に各領域が検知した時刻を含むファイルである。画像データは後述する基準画像、差分画像等のデータである。
「Common」フォルダには上述のマーカファイルが保存される。
なお、図17に示すディレクトリ構造は一例であり、これに限定されるものではなく、その他のデータ構造によって情報が管理されるものとしてもよい。図17に示すフォルダの名称も一例であり、これらに限定されるものではない。
(ウォッチャ画面の構成)
図18は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるウォッチャ画面400において複数のリアルタイムの撮像映像が表示される例を示す図である。図18を参照しながら、ウォッチャ画面400の構成及び複数のリアルタイムの撮像映像が表示される動作について説明する。
CPU101により実行されるプログラム(アプリケーション)により、図18に示すウォッチャ画面400が表示部333に表示される。ウォッチャ画面400は複数の撮像装置2a〜2fが撮像している撮像映像をリアルタイムに表示し、正否判定が実行されている場合には、指定された各領域において正否判定が実行される画面である。具体的には、ウォッチャ画面400では、監視動作が実行されている場合、トリガ領域指定部305により指定されたトリガ領域においてトリガ生成部313によりトリガのタイミングでトリガ信号が生成される。また、ウォッチャ画面400では、検知領域判定部314によりトリガ信号を受け取ったときの設定時間前又は設定時間後に、検知領域指定部307により指定された検知領域においてワークの正否判定が行われる。また、ウォッチャ画面400では、監視動作が実行されている場合、常時検知領域判定部315により、常時検知領域指定部309により指定された常時検知領域においてワークの正否判定が常時行われる。
図18に示すように、ウォッチャ画面400は映像表示部401a〜401f、監視開始ボタン411、監視停止ボタン412、監視設定ボタン413、及び状態表示部421a〜421fを含む。
映像表示部401a〜401fはユーザにより操作される入力部303からの操作信号に従って、映像振分部312により撮像装置2a〜2fから映像受信部301を介して取得されたリアルタイムの撮像映像がそれぞれ表示される表示部である。映像表示部401a〜401fはユーザによる入力部303の操作によって押下(例えば、マウス108のクリック操作等、以下同様)されると、選択状態にすることができる。なお、映像表示部401a〜401fを区別なく呼称する場合又は総称する場合、単に「映像表示部401」というものとする。
監視開始ボタン411がユーザによる入力部303の操作によって押下されると、リアルタイムの撮像映像が表示されている選択状態の映像表示部401内のトリガ領域指定部305により指定されたトリガ領域において、トリガ生成部313によりトリガのタイミングでトリガ信号が生成され、検知領域判定部314によりトリガ信号を受け取ったときの設定時間前又は設定時間後に検知領域における異常の有無の判定が開始される。また、リアルタイムの撮像映像が表示されている選択状態の映像表示部401内の常時検知領域指定部309により指定された常時検知領域における異常の有無の判定が開始される。
監視停止ボタン412がユーザによる入力部303の操作によって押下されると、選択状態の映像表示部401内のトリガ生成部313によるトリガのタイミングでのトリガ信号の生成動作、検知領域判定部314による検知領域における異常の有無の判定動作、及び常時検知領域判定部315による常時検知領域における異常の有無の判定動作が停止する。
監視設定ボタン413がユーザによる入力部303の操作によって押下されると、各領域を設定するために、第1制御部316により後述の図19等に示す設定画面500が表示部333に表示される。
状態表示部421a〜421fは各映像表示部401に対応する撮像装置2a〜2fについての状態を示す表示部である。例えば、状態表示部421a〜421fには「未接続」、「未設定」、「設定完了」、「監視中」等の撮像装置2a〜2fについての状態を示す内容が表示される。「未接続」とは、映像表示部401に対応する撮像装置2a〜2fが画像処理システム251に接続されていない状態を示し、映像表示部401には撮像映像が表示されていない状態を示す。「未設定」とは、映像表示部401に表示されている撮像映像についてトリガ領域、検知領域、及び常時検知領域等の設定がなされていない状態を示す。「設定完了」とは、映像表示部401に表示されている撮像映像についてトリガ領域、検知領域、常時検知領域等の設定が完了している状態を示す。「監視中」とは、設定された各領域の情報に基づいて正否判定動作が実行中である状態を示す。なお、状態表示部421a〜421fを区別なく呼称する場合又は総称する場合、単に「状態表示部421」というものとする。
(設定画面の構成)
図19は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500で撮像映像が表示される状態の例を示す図である。図19及び後述する図21を参照しながら、設定画面500の構成について説明する。
設定画面500はトリガ領域、検知領域、及び常時検知領域の指定、並びに検知領域及び常時検知領域における正否判定の感度及び閾値等を設定する画面である。図19に示す設定画面500は常時検知機能について設定するための画面であり、カメラ選択タブ501、設定用映像表示部502、再生ボタン503a、一時停止ボタン503b、早送りボタン503c、早戻しボタン503d、停止ボタン503e、シークバー504、スライダー505、時刻表示部506、設定読出ボタン511、設定書込ボタン512、設定反映ボタン513、閉じるボタン514、領域選択タブ551、常時検知領域情報部561、及び常時検知領域ボタン群562を含む。
カメラ選択タブ501はユーザがトリガ領域、検知領域、及び常時検知領域の指定を所望する撮像装置2a〜2fの撮像映像のうちいずれの撮像映像を設定用映像表示部502に表示させるのかを選択する操作部である。例えば、撮像装置2a〜2fによって撮像された撮像映像はそれぞれ「1」〜「6」に対応付けられており、図19の例では「6」すなわち撮像装置2fの撮像映像が選択されている。
設定用映像表示部502は第1再生部304によって、ユーザにより操作される入力部303からの操作信号に従って記憶部302から取得された撮像映像が再生表示される表示部である。図19の例では、第1再生部304は「6」のカメラ選択タブ501が選択操作されたことにより、撮像装置2fにより撮像された撮像映像を設定用映像表示部502に再生表示させている。
再生ボタン503aがユーザによる入力部303の操作によって押下されると、第1再生部304により、設定用映像表示部502に表示された撮像映像の再生が開始される。一時停止ボタン503bがユーザによる入力部303の操作によって押下されると、第1再生部304により、設定用映像表示部502に再生表示されている撮像映像が一時停止される。早送りボタン503cがユーザによる入力部303の操作によって押下されると、第1再生部304により、設定用映像表示部502に再生表示されている撮像映像が早送り表示される。早戻しボタン503dがユーザによる入力部303の操作によって押下されると、第1再生部304により、設定用映像表示部502に再生表示されている撮像映像が早戻し表示される。停止ボタン503eがユーザによる入力部303の操作によって押下されると、第1再生部304により、設定用映像表示部502に再生表示されている撮像映像が停止される。
シークバー504は、その上に配置されるスライダー505の位置により、設定用映像表示部502に再生表示されている映像データがどの時間のものなのかを示す棒状の形状体である。スライダー505は設定用映像表示部502に再生表示されている撮像映像の撮像時刻(表示されているフレームが撮像された時刻)に対応したシークバー504上の位置にスライドする形状体且つ操作部である。スライダー505がユーザによる入力部303の操作によってスライドされると、第1再生部304により、スライダー505が存在するシークバー504上の位置に対応した撮像時刻の撮像映像のフレームが設定用映像表示部502に表示される。
時刻表示部506は第1再生部304によって設定用映像表示部502に再生表示されている撮像映像の撮像日時を表示する表示部である。
設定読出ボタン511がユーザによる入力部303の操作によって押下されると、設定部308により、記憶部302に記憶された、カメラ選択タブ501で選択された撮像装置2a〜2fについてのトリガ領域、検知領域、及び常時検知領域の情報等が読み出され、設定画面500の各表示部に表示される。設定書込ボタン512がユーザによる入力部303の操作によって押下されると、設定部308により、設定画面500上で設定されたトリガ領域、検知領域、及び常時検知領域の情報等がカメラ選択タブ501で選択された撮像装置2a〜2fに関連付けられて記憶部302に記憶される。設定反映ボタン513がユーザによる入力部303の操作によって押下されると、設定部308により、設定画面500上で設定されたトリガ領域、検知領域、及び常時検知領域の情報等がウォッチャ画面400及び設定画面500等のアプリケーションが閉じられるまで有効とされる(例えばRAM103に一時記憶される)。
閉じるボタン514がユーザによる入力部303の操作によって押下されると、設定部308により、設定画面500が閉じられ、ウォッチャ画面400が表示部333に表示される。
領域選択タブ551は常時検知機能に用いる常時検知領域を指定するためのタブと、瞬間検知機能に用いるトリガ領域及び検知領域を指定するためのタブとによって構成されている。例えば、図19に示す設定画面500はユーザによる入力部303の操作によって常時検知領域を指定するためのタブが選択された状態を示している。一方、後述する図21に示す設定画面500はユーザによる入力部303の操作によってトリガ領域及び検知領域を指定するためのタブが選択された状態を示している。
常時検知領域情報部561は常時検知領域指定部309により指定された常時検知領域の名称、感度、閾値、監視方法(図19では「監視」と表記)、及びアクションの有無(図19では「アクション」と表記)(以下、常時検知領域についてのこれらの情報を属性情報という)を表示する表示部且つ選択操作部である。
常時検知領域ボタン群562は常時検知領域指定部309により指定され、常時検知領域情報部561に表示された常時検知領域についての属性情報を編集するボタン群である。常時検知領域ボタン群562はアクションボタン562a、削除ボタン562c、感度増加ボタン562e、感度減少ボタン562f、閾値増加ボタン562g、及び閾値減少ボタン562hを含む。常時検知領域ボタン群562の各ボタンの機能については後述する。
後述する図21に示す設定画面500は上述のように、領域選択タブ551でトリガ領域及び検知領域を指定するためのタブが選択された状態を示しており、トリガ領域情報部507、基準画像表示部508a、差分画像表示部508b、検知領域情報部509、及び検知領域ボタン群510を有する。
トリガ領域情報部507はトリガ領域指定部305により指定されたトリガ領域の名称、並びに変化点検出部306が上述の変化点を検出するための感度及び閾値を表示する表示部である。基準画像表示部508aは変化点検出部306により抽出されたトリガ基準画像を表示する表示部である。差分画像表示部508bは変化点検出部306により抽出された差分画像(後述)を表示する表示部である。
検知領域情報部509は検知領域指定部307により指定された検知領域の名称、感度、閾値、検知遅延時間(図21では「遅延時間」と表記)、監視方法(図21では「監視」と表記)、アクションの有無(図21では「アクション」と表記)、及び正否判定の方法(図21では「画像判定」と表記)(以下、検知領域についてのこれらの情報を属性情報という)を表示する表示部且つ選択操作部である。
検知領域ボタン群510は検知領域指定部307により指定され、検知領域情報部509に表示された検知領域についての属性情報を編集するボタン群である。検知領域ボタン群510はアクションボタン510a、画像判定選択ボタン510b、削除ボタン510c、感度増加ボタン510e、感度減少ボタン510f、閾値増加ボタン510g、及び閾値減少ボタン510hを含む。検知領域ボタン群510の各ボタンの機能については後述する。
(常時検知領域の指定)
図20は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500において設定用映像表示部502に常時検知領域570を指定する例を示す図である。図20を参照しながら、常時検知領域570の指定について説明する。
図20に示す設定画面500は第1再生部304により映像データが再生表示されている設定用映像表示部502において常時検知領域570が指定された状態を示している。具体的には、まず、設定用映像表示部502において撮像映像の再生表示中に常時検知機能の正否判定を所望する画像の部分が表示されているタイミングで、ユーザによる入力部303の操作によって一時停止ボタン503bが押下されると、第1再生部304は設定用映像表示部502に再生表示されている撮像映像を一時停止し、その時点のフレームの撮像日付及び撮像時刻を時刻表示部506に表示させる。次に、ユーザによる入力部303の操作によって領域選択タブ551の「常時」タブを選択操作されると、設定部308は常時検知領域についての情報を表示させる。
次に、ユーザによる入力部303の操作(例えばマウス108のドラッグ操作)によって、常時検知領域指定部309は設定用映像表示部502において常時検知領域570を指定して表示させる。
設定部308は常時検知領域570の属性情報として、常時検知領域指定部309により指定された常時検知領域570に命名した名前、並びにデフォルト値として、後述する正否判定で使用する所定の感度(例えば「50」)、所定の閾値(例えば「20%」)、監視方法(例えば「グレースケール」)、及びアクションの有無(例えば「なし」)を、常時検知領域情報部561に表示させる。設定部308は常時検知領域570の名前として、図20に示すように、例えば「6」の撮像装置(撮像装置2f)の撮像映像に対して指定された常時検知領域であるものとして、「A61」と命名する。常時検知領域指定部309はカメラ選択タブ501で選択された撮像装置2(図20の例では、撮像装置2f)に関連付けて、常時検知領域570を指定した時刻の設定用映像表示部502に表示されているフレーム(画像)における常時検知領域570内の画像を常時検知基準画像として抽出して記憶部302に記憶させ、指定した常時検知領域570の情報(位置及び形状等の位置情報、属性情報等)を記憶部302に記憶させる。常時検知領域指定部309はカメラ選択タブ501で選択された撮像装置2に関連付けて、常時検知領域570を指定した時刻の情報(時刻情報)を記憶部302に記憶させる。なお、上述と同様の方法で常時検知領域指定部309により複数の常時検知領域を指定することができる。
図20に示す設定画面500で指定された常時検知領域570の属性情報は編集することができる。まず、ユーザによる入力部303の操作によって、常時検知領域情報部561に属性情報が表示された常時検知領域のいずれか(図20では常時検知領域570の属性情報のみを表示)を選択すると、設定部308は選択された常時検知領域情報部561の常時検知領域の属性情報の表示部分を反転表示させる。以下、図20に示した常時検知領域570(常時検知領域名「A61」)が選択されたものとして説明する。
次に、例えば、ユーザによる入力部303の操作によってアクションボタン562aを押下すると、設定部308は選択された常時検知領域570のアクションの有無の設定値を切り替える。例えば、常時検知領域570のアクションの有無が「なし」となっている場合、アクションボタン562aが押下されると、設定部308は常時検知領域570のアクションの有無を「あり」に設定する。一方、常時検知領域570のアクションの有無が「あり」となっている場合、アクションボタン562aが押下されると、設定部308は常時検知領域570のアクションの有無を「なし」に設定する。後述するように、アクションの有無が「あり」となっている場合には、常時検知領域判定部315によってその常時検知領域570における正否判定で異常と判定された場合に外部出力部332が異常信号を出力する。
例えば、ユーザによる入力部303の操作によって削除ボタン562cを押下すると、設定部308は常時検知領域情報部561に表示された常時検知領域570の属性情報を消去し、記憶部302に記憶された常時検知領域570の情報を削除する。常時検知領域指定部309は設定用映像表示部502に表示された常時検知領域570を消去し、記憶部302に記憶された常時検知基準画像を削除する。
例えば、ユーザによる入力部303の操作によって感度増加ボタン562eを押下すると、設定部308は選択された常時検知領域570の正否判定に用いられる感度の値を所定値だけ増加させる。一方、ユーザによる入力部303の操作によって感度減少ボタン562fを押下すると、設定部308は選択された常時検知領域570の正否判定に用いられる感度の値を所定値だけ減少させる。
例えば、ユーザによる入力部303の操作によって閾値増加ボタン562gを押下すると、設定部308は選択された常時検知領域570の正否判定に用いられる閾値の値を所定値だけ増加させる。一方、ユーザによる入力部303の操作によって閾値減少ボタン562hを押下すると、設定部308は、選択された常時検知領域570の正否判定に用いられる閾値の値を所定値だけ減少させる。
(トリガ領域の指定及び変化点の検出)
図21は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500において設定用映像表示部502にトリガ領域530を指定する例を示す図である。図22は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500においてトリガ領域530における変化点が見つかった場合のマーク表示の一例を示す図である。図23は、第2の実施の形態に係る変化点検出部306が取得した複数のフレームの例を示す図である。図24は、第2の実施の形態に係る各フレームの画像的特徴の相違度を示す値の時間的変化の例を示すグラフである。図25は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500においてトリガ領域530における変化点が2点見つかった場合に表示されるダイアログの例を示す図である。図26は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500においてトリガ領域530における変化点が見つからなかった場合に表示されるダイアログの例を示す図である。図21〜26を参照しながら、トリガ領域530の指定及び変化点の検出について説明する。
図21示す設定画面500は第1再生部304により撮像映像が再生表示されている設定用映像表示部502においてトリガ領域530が指定された状態を示している。具体的には、まず、設定用映像表示部502において撮像映像の再生表示中にトリガの発生の基となる所望する画像の部分が表示されているタイミングで、ユーザによる入力部303の操作によって一時停止ボタン503bが押下されると、第1再生部304は設定用映像表示部502に再生表示されている映像データを一時停止し、その時点のフレームの撮像日付及び撮像時刻を時刻表示部506に表示させる。次に、ユーザによる入力部303の操作によって領域選択タブ551の「瞬間」タブを選択操作されると、設定部308はトリガ領域及び検知領域についての情報を表示させる。
次に、ユーザによる入力部303の操作(例えばマウス108のドラッグ操作)によって、トリガ領域指定部305は設定用映像表示部502においてトリガ領域530を指定して表示させる。
図22に示す設定画面500は変化点検出部306によってトリガ領域指定部305により指定されたトリガ領域530において変化点が検出された場合の状態を示している。具体的には、変化点検出部306は、まず、トリガ領域指定部305によりトリガ領域530が指定された場合、指定された時点で第1再生部304が再生表示している撮像映像のフレームの撮像時刻の前後の所定時間(例えば前後2分間)分のフレームを取得し、トリガ領域530が指定された時刻のトリガ領域530内の画像をトリガ基準画像(第1基準画像)として抽出する。ここでの変化点はトリガ生成部313がトリガ信号を生成するタイミングの基準とするための、トリガ領域530内の画像の所定の変化を帯びた時点をいう。以下、変化点検出部306による具体的な変化点の検出方法について説明する。
変化点検出部306は、図23に示すように、所定時間分のフレームとして13個のフレーム(フレーム(0)〜フレーム(12))を取得したものとする。この場合、変化点検出部306によって、フレーム(6)を真中としてその前後の所定時間分のフレームが取得されたことになる。説明を簡略にするため、各フレームにおけるトリガ領域530に対応する部分の画像についても、それぞれフレーム(0)〜フレーム(12)と称するものとする。変化点検出部306はフレーム毎に直前のフレームとの間の画像的特徴の相違度を演算する。このとき、変化点検出部306はあるフレーム(例えばフレーム(6))を検知画像に設定した場合、その直前のフレーム(例えばフレーム(5))を基準画像に設定する。その後、変化点検出部306は上述した比較処理(基準画素値と検知画素値とを比較する処理)、補正処理(検知画像を補正する処理)、及び判定処理(基準画像と補正後の検知画像との比較に基づいて検体を正否判定する処理)を行う。
図23は変化点検出部306が取得した13個のフレームを例示し、図24はフレーム毎の相違度を表している。本例は相違度が大きいほど基準画像と検知画像との間の画像的特徴の差が大きい場合の例である。すなわち、相違度が閾値より大きいフレームのトリガ領域530内の検体には変化が生じたと推定することができる。図24において、例えばフレーム(1)の相違度はフレーム(1)とその直前のフレームであるフレーム(0)との間の相違度を示す。本例では、変化点としてのIN点及びOUT点を次のように定義する。IN点とは、連続するフレームにおいて、トリガ領域530内の画像が変化し始めた時点とする。OUT点とは、連続するフレームにおいて、トリガ領域530内の画像の変化がおさまり始めた時点とする。なお、ここでは検知画像となるフレームの直前のフレームを検知画像とする例を示したが、基準画像の設定の仕方はこれに限られるものではなく、例えば数フレーム前のフレーム、ユーザにより設定されたフレーム等であってもよい。
変化点検出部306はフレーム毎に演算した相違度に基づいてIN点の候補及びOUT点の候補を見つける。具体的には、変化点検出部306は相違度が2フレーム分以上連続して閾値以上となった場合に、最初に相違度が閾値以上となったフレームをIN点の候補のフレームとする。図24の例では、フレーム(1)の相違度は閾値未満、フレーム(2)の相違度は閾値以上、フレーム(3)の相違度は閾値以上となっているため、最初に相違度が閾値以上となったフレーム(2)がIN点の候補のフレームとなる。同様に、フレーム(7)もIN点の候補のフレームとなる。1フレーム分のみ相違度が閾値以上となった場合はノイズの可能性があるため、そのフレームはIN点の候補のフレームとはしない。
一方、変化点検出部306は相違度が2フレーム分以上連続して所定の閾値未満となった場合に、最初に相違度が閾値未満となったフレームをOUT点の候補のフレームとする。図24の例では、フレーム(4)の相違度は閾値以上、フレーム(5)の相違度は閾値未満、フレーム(6)の相違度は閾値未満となっているため、最初に相違度が閾値未満となったフレーム(5)がOUT点の候補のフレームとなる。フレーム(12)は相違度が閾値未満となっているが、後に続くフレーム(13)は変化点検出部306が取得したフレーム以外のフレームであるため、OUT点の候補のフレームとしない。1フレーム分のみの相違度が閾値未満となった場合はノイズの可能性があるため、そのフレームはOUT点の候補のフレームとはしない。
以上のように、変化点検出部306は、図23及び図24の例では、IN点の候補のフレームとしてフレーム(2)及び(7)を特定し、OUT点の候補のフレームとしてフレーム(5)を特定する。このようにIN点の候補のフレームが複数特定された場合、変化点検出部306は取得したフレームの真中のフレーム(6)に最も近いフレーム、すなわちフレーム(7)をIN点のフレームに決定する。また、図23及び図24の例ではOUT点の候補のフレームとして1つのフレーム(フレーム(5))のみが特定されているが、IN点の候補と同様に、複数のフレームがOUT点の候補のフレームとして特定される場合もある。OUT点の候補のフレームが複数特定された場合、変化点検出部306はIN点の候補と同様に、取得したフレームの真中のフレーム(6)に最も近いフレームをOUT点のフレームに決定する。図23及び図24の例ではOUT点の候補のフレームはフレーム(5)のみであるため、変化点検出部306はフレーム(5)をOUT点のフレームに決定する。以上のように、変化点検出部306は取得した所定時間分のフレームから、IN点のフレーム及びOUT点のフレームを決定することにより、変化点(IN点及びOUT点)を検出する。
なお、変化点検出部306は変化点を検出した場合、変化点のフレームの前のフレーム若しくは後のフレーム、又は前後のフレームを用いて、トリガ領域530内の動体検知を行い、どの方向から動体(検体)が入ってきたのかを示すベクトル情報を記憶部302に記憶させるものとしてもよい。この場合、トリガ生成部313は記憶部302に記憶されたベクトル情報を用いて、動体がベクトル情報の示す方向と同一の方向から動いてきたか否かを確認し、その確認結果に基づいてトリガ信号を生成するものとしてもよい。
また、変化点検出部306によるトリガ領域530における変化点の検出方法は、上述の方法に限定されるものではなく、トリガを発生させるタイミングを規定する変化点であれば、どのように変化点を検出してもよい。
また、上述のように、変化点検出部306は相違度が2フレーム分以上連続して閾値以上となった場合に、最初に相違度が閾値以上となったフレームをIN点の候補のフレームとしているが、これに限定されるものではない。すなわち、相違度が連続して閾値以上となるべきフレームの数は2以外の数であってもよい。これは、OUT点の候補のフレームを見つける場合についても同様である。
また、図23及び図24では、IN点及びOUT点の双方のフレームが見つかる例を示したが、変化点検出部306はIN点のフレームのみ又はOUT点のフレームのみを見つける場合もある。この場合、これらのIN点又はOUT点が変化点として検出される。この場合、変化点検出部306は検出した変化点のフレームのトリガ領域530内の画像を差分画像として抽出する。変化点検出部306はカメラ選択タブ501で選択された撮像装置(本例では撮像装置2f)に関連付けて、トリガ基準画像及び差分画像を記憶部302に記憶させ、トリガ基準画像を基準画像表示部508aに表示させ、差分画像を差分画像表示部508bに表示させる。
また、変化点検出部306はシークバー504において、検出した変化点のフレームの時刻に対応する部分にトリガマーク540を表示する。変化点検出部306により変化点が検出された場合、トリガ領域指定部305はカメラ選択タブ501で選択された撮像装置(本例では撮像装置2f)に関連付けて、指定したトリガ領域530の情報(位置及び形状等の位置情報、属性情報等)を記憶部302に記憶させる。設定部308はトリガ領域530の属性情報として、トリガ領域指定部305により指定されたトリガ領域530に命名した名前、並びに変化点検出部306の変化点の検出に利用された所定の感度(例えば、「50」)及び所定の閾値(例えば、「20%」)(デフォルト値)を、トリガ領域情報部507に表示させる。設定部308はトリガ領域530の名前として、図22に示すように、例えば「6」の撮像装置(撮像装置2f)の映像データに対して指定されたトリガ領域であるものとして、「TR6」と命名する。トリガ領域指定部305はカメラ選択タブ501で選択された撮像装置(本例では撮像装置2f)に関連付けて、トリガ領域530を指定した時刻の情報(時刻情報)を記憶部302に記憶させる。
図25に示す設定画面500は変化点検出部306によって、トリガ領域指定部305により指定されたトリガ領域530において変化点が上述のように2つ(IN点及びOUT点)検出された場合に、変化点選択ダイアログ600が表示された状態を示している。このように、変化点検出部306は変化点を2つ以上検出した場合、トリガ基準画像を抽出した時点に最も近い2つの変化点(IN点及びOUT点)のうちいずれをトリガの生成のために利用するかを選択するための変化点選択ダイアログ600を表示部333に表示させる。変化点選択ダイアログ600は、はいボタン601、いいえボタン602、及び閉じるボタン603を含む。閉じるボタン603は変化点選択ダイアログ600を閉じるためのボタンである。
ユーザによる入力部303の操作によってはいボタン601を押下した場合、変化点検出部306はIN点を変化点として検出し、IN点のフレームのトリガ領域530内の画像を差分画像として抽出する。変化点検出部306はカメラ選択タブ501で選択された撮像装置(本例では撮像装置2f)に関連付けて、抽出したトリガ基準画像、及びIN点のフレームにおける差分画像を記憶部302に記憶させ、トリガ基準画像を基準画像表示部508aに表示させ、差分画像を差分画像表示部508bに表示させる。変化点検出部306はシークバー504において、検出したIN点のフレームの時刻に対応する部分にトリガマーク540を表示する。
一方、ユーザによる入力部303の操作によっていいえボタン602を押下した場合、変化点検出部306はOUT点を変化点として検出し、OUT点のフレームのトリガ領域530内の画像を差分画像として抽出する。そして、変化点検出部306はカメラ選択タブ501で選択された撮像装置(本例では撮像装置2f)に関連付けて、抽出したトリガ基準画像、及びOUT点のフレームにおける差分画像を記憶部302に記憶させ、トリガ基準画像を基準画像表示部508aに表示させ、差分画像を差分画像表示部508bに表示させる。変化点検出部306はシークバー504において、検出したOUT点のフレームの時刻に対応する部分にトリガマーク540を表示する。その他の動作は、図22を参照して上述した動作と同様である。
このように、変化点検出部306により変化点としてIN点及びOUT点が検出され、ユーザにより2つの変化点のいずれかを選択できるようにすることにより、ユーザが真に指定を所望する変化点を選択させることができる。
図26に示す設定画面500は変化点検出部306によって、トリガ領域指定部305により指定されたトリガ領域530において変化点が見つからなかった場合に、変化点無し通知ダイアログ610が表示された状態を示している。変化点検出部306は上述の図23を参照して説明した動作において、相違度が閾値以上とならず、変化点が検出できない場合がある。この場合、変化点検出部306は変化点が見つからなかった旨を示す変化点無し通知ダイアログ610を表示部333に表示させる。
変化点無し通知ダイアログ610はOKボタン611及び閉じるボタン612を含む。閉じるボタン612は変化点無し通知ダイアログ610を閉じるためのボタンである。ユーザによる入力部303の操作によってOKボタン611を押下した場合、変化点検出部306は記憶部302に何の情報も記憶せず、基準画像表示部508a及び差分画像表示部508bにも画像を表示させずに、変化点無し通知ダイアログ610を閉じる。
(検知領域の指定及び検知領域の属性情報の設定)
図27は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500において設定用映像表示部502に検知領域535を指定する例を示す図である。図28は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500において設定用映像表示部502に2つ目の検知領域536を指定する例を示す図である。図29は、第2の実施の形態に係る情報処理装置253の表示部333に表示される設定画面500において設定用映像表示部502で指定した検知領域535,536の属性情報を設定する例を示す図である。図27〜29を参照しながら、検知領域535,536の指定及び検知領域535,536の属性情報等の設定について説明する。
図27に示す設定画面500は第1再生部304により撮像映像が再生表示されている設定用映像表示部502において検知領域535が指定された状態を示している。具体的には、まず、設定用映像表示部502において撮像映像の再生表示中に瞬間検知機能の正否判定を所望する画像の部分が表示されているタイミングで、ユーザによる入力部303の操作によって一時停止ボタン503bが押下されると、第1再生部304は設定用映像表示部502に再生表示されている撮像映像を一時停止し、その時点のフレームの撮像日付及び撮像時刻を時刻表示部506に表示させる。
次に、ユーザによる入力部303の操作(例えばマウス108のドラッグ操作)によって、検知領域指定部307は設定用映像表示部502において検知領域535を指定して表示させる。ただし、検知領域指定部307が検知領域535を指定するためには、トリガ領域情報部507において、トリガ領域指定部305により指定されたトリガ領域が選択(図13の例では「TR6」)されている必要がある。すなわち、検知領域指定部307により指定された検知領域535はトリガ領域情報部507において選択されたトリガ領域と関連付けられる。
設定部308は検知領域535の属性情報として、検知領域指定部307により指定された検知領域535に命名した名前、並びにデフォルト値として、後述する正否判定で使用する所定の感度(例えば「50」)、所定の閾値(例えば「20%」)、監視方法(例えば「グレースケール」)、アクションの有無(例えば「なし」)、及び正否判定の方法(例えば「一致」)を、検知領域情報部509に表示させる。設定部308は検知領域535の名前として、図27に示すように、例えばトリガ領域「TR6」に関連付けられた1番目の領域であるものとして、「K61」と命名する。設定部308は変化点検出部306によって検出された変化点の時刻に対して、検知領域指定部307により検知領域535が指定された時点のフレームの時刻の遅延時間(図13の例では「2.14」)を属性情報として算出し、検知領域情報部509に表示させる。すなわち、この場合、「K61」と命名された検知領域535では、トリガのタイミングから「2.14」秒後に正否判定が行われるように設定されたことになる。
検知領域指定部307はカメラ選択タブ501で選択された撮像装置(図27の例では撮像装置2f)に関連付けて、検知領域535を指定した時刻の検知領域535内の画像を基準画像(第2基準画像)として抽出して記憶部302に記憶させ、指定した検知領域535の情報(位置、形状等の位置情報、及び属性情報等)を記憶部302に記憶させる。検知領域指定部307はカメラ選択タブ501で選択された撮像装置(図27の例では撮像装置2f)に関連付けて、検知領域535を指定した時刻の情報(時刻情報)を記憶部302に記憶させる。
図28に示す設定画面500は第1再生部304により撮像映像が再生表示されている設定用映像表示部502において2つ目の検知領域である検知領域536が指定された状態を示している。具体的には、まず、設定用映像表示部502において撮像映像の再生表示(一時停止)中にユーザによる入力部303の操作によってシークバー504のスライダー505をスライドさせて、瞬間検知機能の正否判定を所望する画像の部分が表示されているタイミングに調整する。第1再生部304は設定用映像表示部502に一時停止されている撮像映像のフレームの撮像日付及び撮像時刻を時刻表示部506に表示させる。
次に、ユーザによる入力部303の操作(例えばマウス108のドラッグ操作)によって、検知領域指定部307は設定用映像表示部502において2つ目の検知領域である検知領域536を指定して表示させる。ただし、検知領域指定部307が検知領域536を指定するためには、検知領域535の指定の場合と同様に、トリガ領域情報部507において、トリガ領域指定部305により指定されたトリガ領域が選択(図28の例では「TR6」)されている必要がある。すなわち、検知領域指定部307により指定された検知領域536はトリガ領域情報部507において選択されたトリガ領域と関連付けられる。
設定部308は検知領域536の属性情報として、検知領域指定部307により指定された検知領域536に命名した名前、並びにデフォルト値として、後述する正否判定で使用する所定の感度(例えば「50」)、所定の閾値(例えば「20%」)、監視方法(例えば「グレースケール」)、アクションの有無(例えば「なし」)、及び正否判定の方法(例えば「一致」)を、検知領域情報部509に表示させる。設定部308は検知領域536の名前として、図28に示すように、例えばトリガ領域「TR6」に関連付けられた2番目の領域であるものとして、「K62」と命名する。設定部308は変化点検出部306によって検出された変化点の時刻に対して、検知領域指定部307により検知領域536が指定された時点のフレームの時刻の遅延時間(図28の例では「−1.86」)を属性情報として算出し、検知領域情報部509に表示させる。すなわち、この場合、「K62」と命名された検知領域536では、トリガのタイミングから「1.86」秒前に正否判定が行われるように設定されたことになる。
検知領域指定部307はカメラ選択タブ501で選択された撮像装置(図28の例では撮像装置2f)に関連付けて、検知領域536を指定した時刻の検知領域536内の画像を基準画像として抽出して記憶部302に記憶させ、指定した検知領域536の情報(位置、形状等の位置情報、及び属性情報等)を記憶部302に記憶させる。検知領域指定部307はカメラ選択タブ501で選択された撮像装置(図28の例では撮像装置2f)に関連付けて、検知領域536を指定した時刻の情報(時刻情報)を記憶部302に記憶させる。なお、上述と同様の方法で、検知領域指定部307によりさらに別の検知領域を指定することができる。
図29に示す設定画面500は検知領域情報部509に属性情報が表示された検知領域「K61」(検知領域535)、「K62」(検知領域536)のうち「K62」が選択された状態を示している。図29を参照しながら、検知領域の属性情報の編集について説明する。
まず、図29に示すように、ユーザによる入力部303の操作によって、検知領域情報部509に属性情報が表示された検知領域のいずれかを選択すると、設定部308は選択された検知領域情報部509の検知領域の属性情報の表示部分を反転表示させる。以下、図29に示すように検知領域536(検知領域名「K62」)が選択されたものとして説明する。
次に、例えば、ユーザによる入力部303の操作によってアクションボタン510aを押下すると、設定部308は選択された検知領域536のアクションの有無の設定値を切り替える。例えば、検知領域536のアクションの有無が「なし」となっている場合、アクションボタン510aが押下されると、設定部308は検知領域536のアクションの有無を「あり」に設定する。一方、検知領域536のアクションの有無が「あり」となっている場合、アクションボタン510aが押下されると、設定部308は検知領域536のアクションの有無を「なし」に設定する。後述するように、アクションの有無が「あり」となっている場合、検知領域判定部314によってその検知領域536における正否判定で異常と判定された場合、外部出力部332が異常信号を出力する。
例えば、ユーザによる入力部303の操作によって画像判定選択ボタン510bを押下すると、設定部308は選択された検知領域536の正否判定の方法の設定値を切り替える。例えば、検知領域536の正否判定の方法が「一致」となっている場合、画像判定選択ボタン510bが押下されると、設定部308は検知領域536の正否判定の方法を「不一致」に設定する。一方、検知領域536の正否判定の方法が「不一致」となっている場合、画像判定選択ボタン510bが押下されると、設定部308は検知領域536の正否判定の方法を「一致」に設定する。
後述するように、正否判定の方法が「一致」となっている場合、検知領域判定部314は抽出した画像(検知画像)と基準画像との間の画像的特徴の相違度が属性情報の閾値以上の場合に異常と判定する。このように、正否判定の方法を「一致」とする場合の例としては、ワーク(検体)に部品を挿入する設備において、部品がワークに正常に挿入されている状態の画像を基準画像とし、ワークへの部品の挿入動作が終了したタイミングの画像を検知画像としてワークの正否判定を行う場合が挙げられる。この場合、ワークへの部品の挿入動作が失敗し、正常に部品が挿入されていない状態で検知領域判定部314により正否判定が実行されると、基準画像と検知画像との間の画像的特徴の相違度が属性情報の閾値以上となり、異常と判定されることになる。
一方、正否判定の方法が「不一致」となっている場合、検知領域判定部314は抽出した画像(検知画像)と基準画像との間の画像的特徴の相違度が属性情報の閾値未満の場合に異常と判定する。このように、正否判定の方法を「不一致」とする場合の例としては、ワークに部品を挿入する設備において、部品がワークに正常に挿入されていない状態の画像を基準画像とし、ワークへの部品の挿入動作が終了したタイミングの画像を検知画像としてワークの正否判定を行う場合が挙げられる。この場合、ワークへの部品の挿入動作が失敗し、正常に部品が挿入されていない状態で検知領域判定部314により正否判定が実行されると、基準画像と検知画像との間の画像的特徴の相違度が属性情報の閾値未満となり、異常と判定されることになる。なお、部品がワークに挿入されていない状態の画像を基準画像とする事情としては、完成品としての部品が挿入されたワークを準備するのが困難である場合等が挙げられる。
例えば、ユーザによる入力部303の操作によって削除ボタン510cを押下すると、設定部308は検知領域情報部509に表示された検知領域536の属性情報を消去し、記憶部302に記憶された検知領域536の情報を削除する。検知領域指定部307は設定用映像表示部502に表示された検知領域536を消去し、記憶部302に記憶された検知基準画像を削除する。
例えば、ユーザによる入力部303の操作によって感度増加ボタン510eを押下すると、設定部308は選択された検知領域536における正否判定に用いられる感度の値を所定値だけ増加させる。一方、ユーザによる入力部303の操作によって感度減少ボタン510fを押下すると、設定部308は選択された検知領域536における正否判定に用いられる感度の値を所定値だけ減少させる。
例えば、ユーザによる入力部303の操作によって閾値増加ボタン510gを押下すると、設定部308は選択された検知領域536における正否判定に用いられる閾値の値を所定値だけ増加させる。一方、ユーザによる入力部303の操作によって閾値減少ボタン510hを押下すると、設定部308は、選択された検知領域536における正否判定に用いられる閾値の値を所定値だけ減少させる。
(ウォッチャ画面における正否判定動作)
図30は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるウォッチャ画面400で監視動作が実行される状態の例を示す図である。図31は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるウォッチャ画面400で実行される監視動作でトリガが発生する前の状態の例を示す図である。図32は、第2の実施の形態に係る情報処理装置253の表示領域に表示されるウォッチャ画面400で実行される監視動作でトリガが発生した状態の例を示す図である。図33〜38は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるウォッチャ画面400で実行される監視動作において検知領域535〜538で正否判定が行われた状態の例を示す図である。
まず、図30を参照しながら、ウォッチャ画面400における正否判定動作の概要について説明する。図30に示すウォッチャ画面400は複数の撮像装置2a〜2fから受信した撮像映像をリアルタイムに表示し、映像表示部401fで常時検知領域「A61」、トリガ領域「TR6」、並びに検知領域「K61」、「K62」、「K63」、及び「K64」が指定された状態を示している。ただし、ウォッチャ画面400における正否判定動作においては、複数の機能(本実施の形態の場合、常時検知機能及び瞬間検知機能)が実行されるので、外観の煩雑さを回避するため、映像表示部401に表示される各領域530,535〜538,570の名称の表示は省略するものとしている。常時検知機能とは、監視動作中に常時検知領域570について正否判定を常時実行する機能である。瞬間検知機能とは、トリガが生成された場合に予め設定された条件に基づいて各検知領域535〜538について正否判定を行う機能である。具体的には、瞬間検知機能はトリガ領域530で検知されたトリガのタイミングから設定時間前又は設定時間後のタイミングで、各検知領域535〜538について正否判定を実行する機能である。第1制御部316は設定画面500からウォッチャ画面400に遷移した後、映像表示部401fについて各領域530,535〜538,570の設定が完了していれば、状態表示部421fに「設定完了」と表示させる。
次に、ユーザは入力部303を操作し、正否判定動作を開始させたい撮像装置2a〜2fに対応する映像表示部401a〜401fを押下することにより、所望の映像表示部401a〜401fを選択状態にする。図30に示す例では、映像表示部401fが押下されて選択状態になった状態が示されている。第1制御部316はユーザによる入力部303の操作によって監視開始ボタン411が押下されると、映像表示部401fに表示される撮像装置2fのリアルタイムの撮像映像について正否判定動作を開始する。このとき、第1制御部316は図30に示すように、撮像装置2fについて正否判定動作が実行中である旨を示すために、状態表示部421fに「監視中」と表示させる。第1制御部316は選択状態になっている映像表示部401fに対応する撮像装置2fに関連付けて、正否判定動作を開始した時刻の情報を記憶部302に記憶させる。第1制御部316はユーザによる入力部303の操作によって監視停止ボタン412が押下された場合に、選択状態の映像表示部401についての正否判定動作を停止し、その映像表示部401に対応する撮像装置2fに関連付けて、正否判定動作を停止した時刻の情報を記憶部302に記憶させる。
具体的なウォッチャ画面400における正否判定動作では、まず、映像振分部312が映像受信部301から取得したリアルタイムの撮像映像を映像表示部401a〜401fに振り分けて表示させる。トリガ生成部313は記憶部302から変化点検出部306により検出された変化点のフレームにおける差分画像を取得する。トリガ生成部313は映像表示部401fで指定されているトリガ領域「TR6」において、差分画像と撮像映像のフレームのトリガ領域の画像とを比較する。トリガ生成部313は撮像映像のフレームのトリガ領域の画像が、変化点のフレームにおける差分画像と比較して、画像的特徴の相違度が閾値未満となったタイミングでトリガ信号を生成(以下、「トリガを検知」するともいう場合がある)する。トリガ生成部313は正否判定動作でトリガ信号を生成した時刻の情報を、正否判定動作を実行している撮像装置2fに関連付けて記憶部302に記憶させる。トリガ生成部313は正否判定動作でトリガ信号を生成した時刻の情報を、正否判定動作を実行している撮像装置2fに関連付けて記憶部302のマーカファイルに書き込む。
検知領域535〜538(K61、K62、K63、及びK64)の属性情報のうち、検知遅延時間がそれぞれ「1.0」秒、「2.2」秒、「2.5」秒、「4.0」秒に設定されているものとする。検知領域判定部314は記憶部302から、指定された検知領域535〜538の属性情報を取得する。検知領域判定部314はトリガ生成部313により生成されたトリガ信号を受け取ったときの設定時間前又は設定時間後に、指定された検知領域535〜538において基準画像と撮像映像のフレームの検知領域の画像(検知画像)とを比較して正否判定を行う。
具体的には、検知領域判定部314はトリガ生成部313によりトリガ領域530(TR6)に対応するトリガ信号を受け取った時点から、検知領域535(K61)に対応する検知遅延時間「1.0」秒後の撮像映像のフレームの検知領域の画像(検知画像)と基準画像とを比較して正否判定を行う。このとき、正否判定として、検知領域判定部314は基準画像と検知画像との間の画像的特徴の相違度が閾値以上となった場合に、検知領域535内のワークは異常であると判定する。検知領域判定部314は正否判定動作で正常検知又は異常検知をした検知時刻の情報を、正否判定動作を実行している撮像装置2fに関連付けて記憶部302に記憶させる。検知領域判定部314は正否判定動作で異常検知をした検知時刻の情報を、正否判定動作を実行している撮像装置2fに関連付けて記憶部302のマーカファイルに書き込む。
このように、検知領域判定部314がトリガ信号を受け取った時点から先のタイミングで正否判定する場合の例としては、圧入機等の設備において、圧入動作開始のタイミングをトリガとして、圧入後の圧入状態を正否判定する場合が挙げられる。具体的には、トリガ生成部313は圧入機がワークに対して圧入部品を圧入する動作を開始するタイミングをトリガとしてトリガ信号を生成する。その後、圧入機はワークに圧入部品を圧入し、圧入動作終了後、圧入機の各アクチュエータは原点位置に戻る。検知領域判定部314は圧入後のワークの圧入状態に対して正否判定を行う。この検知領域判定部314による正否判定のタイミングが、トリガ生成部313からトリガ信号を受けてから検知遅延時間で設定された時間後のタイミングとなる。トリガ信号が生成される圧入動作の開始から圧入後の圧入状態の正否判定が実行されるまでの時間は、圧入機による自動動作により固定時間となり、トリガのタイミングから正否判定をするまでの検知遅延時間を固定の時間として設定できることになる。
検知領域判定部314は検知領域535〜538に対応するそれぞれの検知遅延時間後の撮像映像のフレームの画像(検知画像)と、各検知領域535〜538の基準画像とをそれぞれ比較して正否判定をする。正否判定の方法は上述の検知領域「K61」の場合と同様である。
外部出力部332は検知領域判定部314により異常の判定がなされた場合に異常信号を外部機器10に出力する。
常時検知領域判定部315は記憶部302から、指定された常時検知領域570の属性情報を取得する。常時検知領域判定部315は監視動作が実行されている間、指定された常時検知領域570において基準画像と撮像映像のフレームの常時検知領域の画像(検知画像)とを比較して異常であるか否かの正否判定を常時実行する。
具体的には、常時検知領域判定部315は常時検知領域570(A61)に対応する撮像映像のフレームの画像(検知画像)と検知領域とを比較して正否判定を行う。このとき、正否判定として、常時検知領域判定部315は常時検知の基準画像と常時検知領域の画像(検知画像)との間の画像的特徴の相違度が閾値以上となった場合に、常時検知領域570内のワークは異常であると判定する。常時検知領域判定部315は正否判定動作で異常検知をした検知時刻の情報を、正否判定動作を実行している撮像装置2fに関連付けて記憶部302に記憶させる。常時検知領域判定部315は正否判定動作で異常検知をした検知時刻の情報を、正否判定動作を実行している撮像装置2fに関連付けて記憶部302のマーカファイルに書き込む。
外部出力部332は常時検知領域判定部315により異常の判定がなされた場合に異常信号を外部機器10に出力する。
次に、図31〜38を参照しながら、ウォッチャ画面400における映像表示部401fを例にして、瞬間検知機能に基づく撮像映像に対する正否判定動作の詳細について説明する。まず、第1制御部316は映像表示部401fについて正否判定動作が開始されると、設定画面500で指定された各領域を示す枠を映像表示部401fの撮像映像に重畳させて表示させる。具体的には、図31に示すように、映像表示部401fにはトリガ領域530、検知領域535〜538、及び常時検知領域570が表示される。この際、第1制御部316は通常状態(各領域530,535〜538,570で検知がなされていない状態)の各領域530,535〜538,570を示す枠を別々の色によって表示させる。例えば、第1制御部316はトリガ領域530を示す枠を「白色」で、検知領域535〜538を示す枠を「黄色」で、常時検知領域570を示す枠を「緑色」で表示させる。
次に、図32に示すように、第1制御部316はトリガ生成部313がトリガを検知した場合、トリガ領域530を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示(以下、単に「太く表示」という場合がある)させる。例えば、第1制御部316はトリガ領域530を示す枠を「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後にトリガ領域530を示す枠の表示を通常状態の枠の表示に戻す。
次に、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域535について設定された検知遅延時間である「1.0」秒後に、検知領域535で正否判定をする。この判定の結果、正常検知となった場合、図33に示すように、第1制御部316は検知領域535を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域535を示す枠を「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後に検知領域535を示す枠の表示を通常状態の枠の表示に戻す。
次に、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域536について設定された検知遅延時間である「2.2」秒後に、検知領域536で正否判定をする。検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域537について設定された検知遅延時間である「2.5」秒後に、検知領域537で正否判定をする。この判定の結果、それぞれ正常検知となった場合、図34に示すように、第1制御部316は検知領域536、537を示すそれぞれの枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域536、537を示す枠をそれぞれ「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後に検知領域536、537を示すそれぞれの枠の表示を通常状態の枠の表示に戻す。
検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域538について設定された検知遅延時間である「4.0」秒後に、検知領域538で正否判定をする。この判定の結果、正常検知となった場合、図35に示すように、第1制御部316は検知領域538を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域538を示す枠を「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後に検知領域538を示す枠の表示を通常状態の枠の表示に戻す。報知制御部317は検知領域判定部314によりトリガ生成部313のトリガに伴う検知領域の正否判定がすべて終了したタイミング(すなわち、検知領域538の正否判定が終了したタイミング)で、報知部334に検知領域の正否判定の終了を示す判定終了音(図35では「ピッ」と表記)を所定時間(例えば0.2秒)出力させる。以上のように、図33〜35では、検知領域535〜538の正否判定ですべて正常検知された場合について説明した。次に、検知領域535〜538のいずれかで異常検知がなされた場合について説明する。
図32で示したように、トリガ生成部313がトリガを検知してから、再びトリガ検知をした後の動作について説明する。検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域535について設定された検知遅延時間である「1.0」秒後に、検知領域535で正否判定をする。この判定の結果、正常検知となった場合、図36に示すように、第1制御部316は検知領域535を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域535を示す枠を「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後に検知領域535を示す枠の表示を通常状態の枠の表示に戻す。
次に、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域536について設定された検知遅延時間である「2.2」秒後に、検知領域536で正否判定をする。検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域537について設定された検知遅延時間である「2.5」秒後に、検知領域537で正否判定をする。この判定の結果、検知領域536において正常検知となった場合、図37に示すように、第1制御部316は検知領域536を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域536を示す枠を「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後に検知領域536を示す枠の表示を通常状態の枠の表示に戻す。一方、上述の判定の結果、検知領域537において異常検知となった場合、図37に示すように、第1制御部316は検知領域537を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は異常検知を示すために検知領域537を示す枠を「赤色」且つ太く表示させ、この表示状態を1秒間継続させる。このとき、報知制御部317は検知領域判定部314により検知領域537において異常検知がされたタイミングで、報知部334に異常検知を報知する異常検知音(図37では「ブー」と表記)を所定時間(例えば1秒)出力させる。第1制御部316は1秒後に検知領域537を示す枠の表示を通常状態の枠の表示に戻す。
検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域538について設定された検知遅延時間である「4.0」秒後に、検知領域538で正否判定をする。この判定の結果、異常検知となった場合、図38に示すように、第1制御部316は検知領域538を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は異常検知を示すために検知領域538を示す枠を「赤色」且つ太く表示させ、この表示状態を1秒間継続させる。このとき、報知制御部317は検知領域判定部314により検知領域538において異常検知がされたタイミングで、報知部334に異常検知を報知する異常検知音(図38では「ブー」と表記)を所定時間(例えば1秒)出力させる。第1制御部316は1秒後に検知領域538を示す枠の表示を通常状態の枠の表示に戻す。報知制御部317は検知領域判定部314によりトリガ生成部313のトリガに伴う検知領域の正否判定がすべて終了したタイミング(すなわち、検知領域538の正否判定が終了したタイミング)で、報知部334に検知領域の正否判定の終了を示す判定終了音(図38では「ピッ」と表記)を所定時間(例えば0.2秒)出力させる。この場合、検知領域538の正否判定によって、報知部334により異常検知音と判定終了音とが重畳して出力されるが、異なる音(例えば異なる音階、波形、又はメロディの音)にしているので、ユーザはいずれの音も区別して聞き取ることができる。以上のように、図36〜38では、検知領域535〜538の正否判定のいずれかで異常検知がなされる場合について説明した。
なお、上述では、瞬間検知機能に基づく撮像映像に対する正否判定動作における各領域(トリガ領域530及び検知領域535〜538)の枠の表示動作について説明したが、常時検知機能に基づく正否判定動作での常時検知領域570の枠の表示動作も同様である。例えば、常時検知領域判定部315によって常時実行される正否判定の結果、常時検知領域570において異常検知となった場合、第1制御部316は常時検知領域570を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は異常検知を示すために常時検知領域570を示す枠を「赤色」且つ太く表示させ、この異常検知している間、この表示状態を継続させる。第1制御部316は常時検知領域570の画像が正常の状態に戻った場合、常時検知領域570を示す枠の表示を通常状態の枠の表示に戻す。報知制御部317は常時検知領域判定部315により常時検知領域570において異常検知がされた場合、報知部334に異常検知を報知する異常検知音を出力させるものとしてもよい。
以上のように、第1制御部316は各領域530,535〜538,570を示す枠を別々の色で表示させ、且つ各領域530,535〜538,570において各検知(トリガの検知、正常検知、又は異常検知)がなされた場合、それぞれ異なる色及び枠の太さで表示して区別できるようにしている。これによって、ユーザはどの機能の正否判定動作が行われているのか及び各検知のタイミングを視覚的に把握することができる。さらに、検知領域において異常検知がなされた場合、及び同一のトリガに伴うすべての検知領域の正否判定が終了した場合に、音を出力するものとしている。これによって、ユーザは聴覚的にも異常検知及び正否判定終了のタイミングを把握することができる。
なお、図30に示すウォッチャ画面400の例の場合、映像表示部401a〜401fの6つの表示領域で監視動作が行われ得るので、各映像表示部401で判定終了音の音階、波形、又はメロディ等を変えることが望ましい。例えば、報知制御部317は各映像表示部401での判定終了音として、音階である「ドレミファソラ」をそれぞれ割り当てて、報知部334に出力させる。これによって、いずれの映像表示部401での監視動作の判定終了音であるのかを区別することができる。上述の映像表示部401fでの正否判定動作での判定終了音は、この場合「ラ」の音が割り当てられる。
また、各領域530,535〜538,570を示す枠の色等の表示態様、判定終了音及び異常検知音の種類、メロディ、音階等は、設定により変更が可能であってもよい。
(ビューワ画面における正否判定再現動作)
図39は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるビューワ画面700で録画された映像が再生表示される状態の例を示す図である。図40は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるビューワ画面で再生表示される映像に対して正否判定の状態が再現される状態の例を示す図である。図39及び図40を参照しながら、ビューワ画面700の構成、及び録画された複数の映像が表示される動作について説明する。
CPU101により実行されるプログラム(アプリケーション)により、図39に示すビューワ画面700が表示部333に表示される。ビューワ画面700は第2再生部318によって複数の撮像装置2a〜2fから受信した撮像映像であって、映像振分部312により記憶部302に記憶された過去の撮像映像が表示され、指定された各領域530,535〜538,570において正否判定の状態を再現する画面である。
ビューワ画面700は図40に示すように、映像表示部701a〜701f、再生ボタン703a、一時停止ボタン703b、早送りボタン703c、早戻しボタン703d、停止ボタン703e、シークバー704、スライダー705、時刻表示部706、及びマーカリストボタン707を含む。
映像表示部701a〜701fはユーザにより操作される入力部303からの操作信号に従って、映像振分部312に記憶された各撮像装置2a〜2fの過去の撮像映像がそれぞれ表示される部分である。ここでは、映像表示部701a〜701fは同じ日付・時刻の撮像映像を表示するものとする。映像表示部701a〜701fはユーザによる入力部303の操作によって押下(例えばマウス108のクリック操作等、以下同様)されると、選択状態にすることができる。なお、映像表示部701a〜701fを区別なく呼称する場合、または総称する場合、単に「映像表示部701」というものとする。
再生ボタン703aがユーザによる入力部303の操作によって押下されると、第2再生部318によって、映像表示部701に表示された撮像映像が再生開始される。一時停止ボタン703bがユーザによる入力部303の操作によって押下されると、第2再生部318によって、映像表示部701に再生表示されている撮像映像が一時停止される。早送りボタン703cがユーザによる入力部303の操作によって押下されると、第2再生部318によって、映像表示部701に再生表示されている撮像映像が早送り表示される。早戻しボタン703dがユーザによる入力部303の操作によって押下されると、第2再生部318によって、映像表示部701に再生表示されている撮像映像が早戻し表示される。停止ボタン703eがユーザによる入力部303の操作によって押下されると、第2再生部318によって、映像表示部701に再生表示されている撮像映像が停止される。
シークバー704はその上に配置されるスライダー705の位置により、映像表示部701に再生表示されている撮像映像がどの時間のものなのかを示す棒状の形状体である。スライダー705は映像表示部701に再生表示されている撮像映像の撮像時刻(表示されているフレームが撮像された時刻)に対応したシークバー704上の位置にスライドする形状体且つ操作部である。スライダー705がユーザによる入力部303の操作によってスライドされると、第2再生部318によって、スライダー705が存在するシークバー704上の位置に対応した撮像時刻の撮像映像のフレームが映像表示部701に表示される。
時刻表示部706は第2再生部318によって映像表示部701に再生表示されている撮像映像の撮像日付及び撮像時刻を表示する表示部である。
マーカリストボタン707がユーザによる入力部303の操作によって押下されると、リスト制御部320により、記憶部302に記憶されたマーカファイルが読み出され、マーカファイルの内容を表示させる図41で後述するマーカリスト画面800が表示される。
ビューワ画面700の映像表示部701において、第2再生部318により、記憶部302に記憶された過去の撮像映像が表示されると、領域表示制御部319は記憶部302に記憶された、正否判定動作が開始及び終了された時刻の情報、各領域530,535〜538,570が指定された時刻の情報、及び各領域530,535〜538,570で検知された時刻の情報を読み出す。領域表示制御部319は図39に示すように、これらの時刻情報に基づいて、各領域530,535〜538,570を示す枠を映像表示部701に再生表示されている過去の撮像映像に重畳させて表示させる。例えば、領域表示制御部319は時刻情報から正否判定動作が開始された時刻よりも各領域530,535〜538,570が指定された時刻が前であれば、正否判定動作の開始時刻から指定された各領域530,535〜538,570を示す枠を表示させる。領域表示制御部319は映像表示部701に再生表示されている撮像映像の時刻が時刻情報における正否判定動作の終了時刻になった時点で、表示していた各領域530,535〜538,570を示す枠を消去する。
領域表示制御部319は図40に示すように、映像表示部701に再生表示されている撮像映像の時刻が時刻情報における特定の検知領域535〜538のトリガの検知時刻又は正常検知時刻になった時点で、その検知領域535〜538を示す枠を通常状態の色とは異なる色、且つ通常状態の枠よりも太く表示させる。具体的には、領域表示制御部319はウォッチャ画面400において表示される各検知領域535〜538を示す枠と同様に、例えば「青色」且つ太く表示させる。
領域表示制御部319は図40に示すように、映像表示部701に再生表示されている撮像映像の時刻が時刻情報における特定の検知領域535〜538の異常検知時刻になった時点で、その検知領域535〜538を示す枠を通常状態の色とは異なる色、且つ通常状態の枠よりも太く表示させる。具体的には、領域表示制御部319はウォッチャ画面400において表示される各検知領域535〜538を示す枠と同様に、例えば「赤色」且つ太く表示させる。
図40に示すビューワ画面700の例では、映像表示部701aの1つの常時検知領域570で異常検知されたことが、枠の表示によって示されている。映像表示部701fでは、検知領域536、537に相当する検知領域でそれぞれ正常検知及び異常検知されたことが、枠の表示によって示されている。
以上のように、領域表示制御部319により、記憶部302に記憶された各時刻情報に基いて各検知領域535〜538の枠の表示状態を制御することによって、ビューワ画面700における正否判定動作の状態を過去の撮像映像で再現することができる。これにより、ユーザはリアルタイムの映像ではなく、過去の映像についてどのような正否判定動作が行われていたかを確認することができる。
なお、映像表示部701a〜701fは同じ日付・時刻の映像データを表示するものとしているが、これに限定されるものではなく、例えば映像表示部701それぞれにシークバー及び操作ボタン等を有するものとし、各映像表示部701で異なる日付・時刻の映像データを表示できるものとしてもよい。
また、ビューワ画面700における正否判定動作の再現時においても、時刻情報に基づいて、ウォッチャ画面400の正否判定動作と同様に、常時検知領域570で異常検知されたタイミング、及び瞬間検知機能に基づく特定のトリガ領域530に対応する検知領域535〜538のすべてで判定が終了したタイミングで、それぞれ異常検知音及び判定終了音を出力するものとしてもよい。
図41は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるビューワ画面700でマーカリスト画面800が表示された状態の例を示す図である。図41に示すように、リスト制御部320はユーザによる入力部303の操作によってマーカリストボタン707が押下されると、記憶部302に記憶されたマーカファイルを読み出し、マーカファイルの内容を示すマーカリスト画面800を表示させる。図41に示すように、マーカリスト画面800は検知選択部801及び検知履歴表示部802を含む。
検知選択部801は常時検知機能に基づいて常時検知領域570における正否判定において異常検知がされた日付・時刻のリスト、又は瞬間検知機能に基づいてトリガ検知領域における正否判定において異常検知がされた日付・時刻のリストのいずれかの表示を選択するための選択操作部である。
検知履歴表示部802は検知選択部801で選択された常時検知機能に基づく検知の日付・時刻のリスト又は瞬間検知機能に基づく検知の日付・時刻のリストの表示部である。図41に示す検知履歴表示部802は検知選択部801で瞬間検知機能が選択された状態を示しており、瞬間検知機能に基づく検知の日付・時刻のリストを表示している。具体的には、検知履歴表示部802には瞬間検知機能に基づくトリガ領域530及び検知領域535〜538を示す領域名、検知された日付・時刻、及び対応する撮像装置2a〜2fを識別する名称が表示されている。
リスト制御部320はユーザによる入力部303の操作によって検知履歴表示部802のいずれかの領域530,535〜538,570を示すレコードを押下されると、第2再生部318にそのレコードが示す日付・時刻の撮像映像を映像表示部701に表示させる。
このように、図41に示すマーカリスト画面800を表示させることによって、各領域530,535〜538,570での検知の日付・時刻をリスト表示することによって、不具合の発生のタイミング、傾向、異常発生の原因等の特定を容易にすることができる。
(ウォッチャ画面における正否判定動作の全体的な流れ)
図42は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるウォッチャ画面400での監視動作の例を示すフローチャートである。図42を参照しながら、ウォッチャ画面400での正否判定動作の流れについて総括的に説明する。なお、図42では、瞬間検知機能に基づく正否判定動作を例にして説明する。
<ステップS311>
映像振分部312はユーザにより操作される入力部303からの操作信号に従って、映像受信部301から取得したリアルタイムの撮像映像を、表示部333に表示されるウォッチャ画面400の映像表示部401a〜401fに振り分けて表示させる。映像振分部312は映像表示部401に表示させる各映像データを記憶部302に記憶(録画)させる。その後、ステップS312へ移行する。
<ステップS312>
ユーザは入力部303の操作によって正否判定動作を開始させたい撮像装置2a〜2fに対応する映像表示部401a〜401fを押下して選択状態にする。第1制御部316はユーザによる入力部303の操作によって監視開始ボタン411が押下されると、選択状態の映像表示部401a〜401fに表示される撮像装置2a〜2fのリアルタイムの撮像映像について正否判定動作を開始する。第1制御部316は映像表示部401a〜401fについて正否判定動作が開始されると、設定画面500で指定された各領域530,535〜538,570を示す枠を映像表示部401の撮像映像に重畳させて表示させる。この際、第1制御部316は通常状態(各領域530,535〜538,570で検知がなされていない状態)の各領域530,535〜538,570を示す枠を別々の色によって表示させる。例えば、第1制御部316はトリガ領域530を示す枠を「白色」で、検知領域535〜538を示す枠を「黄色」で、常時検知領域570を示す枠を「緑色」で表示させる。第1制御部316は選択状態になっている映像表示部401(以下、単に「映像表示部401」と記載する)に対応する撮像装置2a〜2fに関連付けて、正否判定動作を開始した時刻の情報(時刻情報)を記憶部302に記憶させる。その後、ステップS313へ移行する。
<ステップS313>
トリガ生成部313は記憶部302から変化点検出部306により検出された変化点のフレームにおける差分画像を取得する。トリガ生成部313は映像表示部401で指定されているトリガ領域530において、差分画像と撮像映像のフレームのトリガ領域の画像とを比較し、両者の画像的特徴の相違度が閾値未満となった場合にトリガ信号を生成(出力)する(ステップS313:Yes)。トリガ生成部313は正否判定動作でトリガ信号を生成した時刻の情報(時刻情報)を、正否判定動作を実行している撮像装置2に関連付けて記憶部302に記憶させる。その後、ステップS314へ移行する。
トリガ生成部313は相違度が閾値未満となっていない場合(ステップS313:No)、相違度についての判定を継続する。
<ステップS314>
第1制御部316はトリガ生成部313がトリガを検知した場合、トリガ領域530を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316はトリガ領域530を示す枠を「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後にトリガ領域530を示す枠の表示を通常状態の枠の表示に戻す。その後、ステップS315へ移行する。
<ステップS315>
トリガ生成部313からトリガ信号を受け取ってから、検知領域535〜538について設定された検知遅延時間後となった検知領域535〜538がある場合(ステップS315:Yes)、ステップS316へ移行し、そうでない場合(ステップS315:No)、ステップS321へ移行する。
<ステップS316>
検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから、検知領域535〜538について設定された検知遅延時間後に、指定された検知領域535〜538において、基準画像と撮像映像のフレームの画像(検知画像)との間の画像的特徴の相違度に基づいて異常であるか否かの正否判定をする。具体的には、検知領域判定部314はトリガ生成部313によりトリガ領域530に対応するトリガ信号を受け取った時点から、変化点検出部306による検出結果に基づいて、検知領域535〜538に対応する検知遅延時間後の撮像映像のフレームの画像(検知画像)と基準画像とを比較して異常であるか否かの正否判定をする。検知領域判定部314は正否判定動作で正常検知又は異常検知をした検知時刻の情報(時刻情報)を、正否判定動作を実行している撮像装置2a〜2fに関連付けて記憶部302に記憶させる。その後、ステップS317へ移行する。
<ステップS317>
検知領域判定部314による正否判定の結果、異常検知となった場合(ステップS317:Yes)、ステップS318へ移行し、正常検知となった場合(ステップS317:No)、ステップS320へ移行する。
<ステップS318>
検知領域判定部314は正否判定で異常を検知した場合、異常検知時刻の情報(時刻情報)を、正否判定動作を実行している撮像装置2a〜2fに関連付けて記憶部302に記憶させる。検知領域535〜538において異常検知となった場合、第1制御部316は検知領域535〜538を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は異常検知を示すために検知領域535〜538を示す枠を「赤色」且つ太く表示させ、この表示状態を1秒間継続させる。このとき、報知制御部317は検知領域判定部314により検知領域535〜538において異常検知がされたタイミングで、報知部334に異常検知を報知する異常検知音を所定時間(例えば1秒)出力させる。第1制御部316は1秒後に検知領域535〜538を示す枠の表示を通常状態の枠の表示に戻す。その後、ステップS319へ移行する。
<ステップS319>
外部出力部332は検知領域判定部314により異常の判定がなされた場合、異常信号を外部機器10に出力する。その後、ステップS315へ戻る。
<ステップS320>
検知領域判定部314は正否判定動作で正常検知をした場合、正常検知時刻の情報(時刻情報)を、正否判定動作を実行している撮像装置2a〜2fに関連付けて記憶部302に記憶させる。検知領域535〜538において正常検知となった場合、第1制御部316は検知領域535〜538を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域535〜538を示す枠を「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後に検知領域535〜538を示す枠の表示を通常状態の枠の表示に戻す。その後、ステップS315へ戻る。
<ステップS321>
トリガ生成部313のトリガに伴う検知領域535〜538が残っている場合(ステップS321:Yes)、ステップS315へ戻り、そうでない場合(ステップS321:No)、ステップS322へ移行する。
<ステップS322>
報知制御部317は検知領域判定部314によりトリガ生成部313のトリガに伴う検知領域535〜538の正否判定がすべて終了したタイミングで、報知部334に検知領域535〜538の正否判定の終了を示す判定終了音を所定時間(例えば0.2秒)出力させる。
以上のように、瞬間検知機能に基づく正否判定動作は上述のステップS313〜S322が繰り返されることによって実行される。
(ビューワ画面における正否判定動作の全体的な流れ)
図43は、第2の実施の形態に係る情報処理装置253の表示部333に表示されるビューワ画面700で再生表示される映像に対して正否判定の状態が再現される動作の例を示すフローチャートである。図43を参照しながら、ビューワ画面700で正否判定の状態を再現する動作の流れについて総括的に説明する。
<ステップS331>
ユーザは入力部303の操作によって所望する再生時間(時刻)を設定する。その後、ステップS332へ移行する。
<ステップS332>
第2再生部318はユーザにより操作される入力部303からの操作信号に従って、設定された再生時間(時刻)からの過去の映像データを記憶部302から取得する。この場合、映像データが取得できた場合(すなわち、再生する撮像映像の次のフレームがある場合)(ステップS332:Yes)、ステップS333へ移行し、取得できない場合(すなわち、再生する撮像映像の次のフレームがない場合)(ステップS332:No)、正否判定の状態を再現する動作を終了する。
<ステップS333>
第2再生部318は記憶部302から取得した過去の撮像映像を表示部333に表示されるビューワ画面700の映像表示部701a〜701fに、対応する撮像映像を振り分けて再生表示させる。このとき、第2再生部318はユーザにより操作される入力部303からの操作信号に従って、ユーザの所望する再生時間(時刻)のフレームから撮像映像を再生表示させる。その後、ステップS334へ移行する。
<ステップS334>
映像表示部701で第2再生部318により記憶部302に記憶された過去の撮像映像が表示されると、領域表示制御部319は記憶部302に記憶された、正否判定動作が開始及び終了された時刻の情報、各領域530,535〜538,570が指定された時刻の情報、及び各領域530,535〜538,570で検知された時刻の情報を読み出す。領域表示制御部319はこれらの時刻情報に基づいて各領域530,535〜538,570を示す枠を映像表示部701に再生表示されている過去の撮像映像に重畳させて表示させる。例えば、領域表示制御部319は時刻情報から正否判定動作が開始された時刻よりも各領域530,535〜538,570が指定された時刻が前であれば、正否判定動作の開始時刻から、指定された各領域530,535〜538,570を示す枠を表示させる。その後、ステップS335へ移行する。
<ステップS335>
映像表示部701に再生表示されている撮像映像の時刻が時刻情報における特定の領域530,535〜538,570の検知時刻になった場合(ステップS335:Yes)、ステップS336へ移行し、検知時刻になっていない場合(ステップS335:No)、引き続き検知時刻になったか確認する。
<ステップS336>
領域表示制御部319は映像表示部701に再生表示されている撮像映像の時刻が時刻情報における特定の領域530,535〜538,570の検知時刻になった時点で、その領域530,535〜538,570を示す枠を通常状態の色とは異なる色、且つ通常状態の枠よりも太く表示させる。その後、ステップS332へ戻る。
以上のように、正否判定の状態を再現する動作は上述のステップS332〜S336が繰り返されることによって実行される。
以上のように、表示部333の表示領域(映像表示部401及び映像表示部701)に複数の種類の領域(本実施の形態ではトリガ領域530、検知領域535〜538、又は常時検知領域570のいずれか)を示す枠を、撮像映像に重畳して表示するものとしている。これによって、ユーザは各領域530,535〜538,570で検知(トリガ検知、正常検知、異常検知等)がされたタイミング及び検知の内容を把握することができるので、複数の種類の判定機能の状態を同時に把握することができる。
また、表示部333の表示領域に表示された複数の種類の領域530,535〜538,570のうち、少なくともいずれかは異なる色の枠で表示するものとしている。これによって、どの領域530,535〜538,570がどの判定機能(瞬間検知機能及び常時検知機能)に基づくものであるのかを視覚的に把握することができる。
また、表示部333の表示領域に表示された複数の種類の領域530,535〜538,570を示す枠は検知されたタイミングで通常状態の表示態様とは異なる態様で表示される。これによって、どの領域530,535〜538,570でどのような検知が行われたのかを視覚的に把握することができる。
また、表示部333の映像表示部401で表示されたリアルタイムの撮像映像に対して、上述のような正否判定動作の各領域530,535〜538,570での動作の状態を示すことができる。これによって、ユーザはリアルタイムに各領域530,535〜538,570における動作の状態を把握することができる。
また、リアルタイムの撮像映像の正否判定動作で正否判定が開始及び終了された時刻の情報、各領域530,535〜538,570が指定された時刻の情報、及び各領域530,535〜538,570で検知された時刻の情報の各時刻情報が記憶される。これによって、録画した過去の撮像映像に対して、時刻情報に基づいて正否判定動作の状態を再現して示すことができる。よって、ユーザは再現された正否判定動作を確認することによって、不具合の発生のタイミング、傾向、異常発生の原因等の特定を容易にすることができる。
また、上述の時刻情報に基づくマーカファイルが表示され、各領域530,535〜538,570における検知時刻が時系列に表示される。これによって、各領域530,535〜538,570での検知の日付・時刻を時系列に確認することができ、不具合の発生のタイミング、傾向、異常発生の原因等の特定を容易にすることができる。
また、複数の表示領域にそれぞれ複数の撮像装置2a〜2fのリアルタイムの撮像映像又は過去の撮像映像について正否判定の状態が表示される。これによって、各撮像装置2a〜2fで撮像された撮像映像に対する正否判定の状態を同時に確認することができる。
また、検知領域535〜538又は常時検知領域570で異常検知されたタイミング、及び瞬間検知機能に基づく特定のトリガ領域530に対応する検知領域535〜538のすべてで判定が終了したタイミングで、それぞれ異常検知音及び判定終了音が出力される。これによって、異常が発生したタイミング及び検知が終了したタイミングを聴覚的に認識することができる。
なお、本実施の形態においては、正否判定に関する領域530,535〜538,570として、瞬間検知機能に基づくトリガ領域530及び検知領域535〜538、並びに常時検知機能に基づく常時検知領域570を例にして説明したが、これらに限定されるものではない。例えば、生産工程における一連の作業が順序通りに実施されているかを検知する機能に基づく領域、生産物又はバーコード等に記載された文字を検知するためのOCR(Optical Character Recognition)機能に基づく領域による正否判定動作が実行されてもよい。
また、本実施の形態においては、ウォッチャ画面400によるリアルタイムの撮像映像の表示、ビューワ画面700による過去の撮像映像の表示というように画面を分けて表示する構成が示されているが、これに限定されるものではない。すなわち、ウォッチャ画面400及びビューワ画面700の機能を共通の画面で実現させてもよい。
また、各表示領域(映像表示部401,701)において各領域530,535〜538,570を示す表示要素として枠を用いているが、これに限定されるものではなく、各領域530,535〜538,570を示すことができる表示要素であればどのように表示してもよい。
また、トリガ生成部313により生成されたトリガ信号は検知領域判定部314による正否判定のタイミングの基準として用いられているが、これに限定されるものではない。例えば、トリガ信号は生産設備側で所定の処理を行わせるタイミングの基準に用いられるものであってもよく、その場合にはトリガ信号が生成された時点でトリガ信号を生産設備に送信するようにしてもよい。
(変形例)
図44は、第2の実施の形態の変形例に係る情報処理装置253の表示部333に表示されるウォッチャ画面400で実行される監視動作でトリガが発生する前の状態の例を示す図である。図45は、第2の実施の形態の変形例に係る情報処理装置253の表示部333に表示されるウォッチャ画面400で実行される監視動作でトリガが発生した状態の例を示す図である。図46〜図51は、第2の実施の形態の変形例に係る情報処理装置253の表示部333に表示されるウォッチャ画面400で実行される監視動作において検知領域535〜538で正否判定が行われた状態の例を示す図である。図44〜図51を参照しながら、ウォッチャ画面400における映像表示部401fを例にして、本変形例での瞬間検知機能に基づく撮像映像に対する正否判定動作の詳細について説明する。本変形例では、トリガ領域530に関連付けられた1以上の検知領域535〜538及び常時検知領域570についてトリガ生成部313がトリガを検知した場合、トリガ領域530に関連付けられたすべての検知領域535〜538及び常時検知領域570での正否判定がすべて終了するまで、すべての検知領域535〜538及び常時検知領域570を示す枠を正否判定の結果を示す表示状態に継続させる動作について説明する。本例は検知領域535〜538の属性情報のうち検知遅延時間がそれぞれ「1.0」秒、「2.2」秒、「2.5」秒、及び「4.0」秒に設定されている場合の例である。
まず、第1制御部316は映像表示部401fについて正否判定動作が開始されると、設定画面500で指定された各領域530,535〜538,570を示す枠を映像表示部401fの撮像映像に重畳させて表示させる。具体的には、図44に示すように、映像表示部401fにはトリガ領域530、検知領域535〜538、及び常時検知領域570が表示される。この際、第1制御部316は通常状態(各領域530,535〜538,570で検知がなされていない状態)の各領域530,535〜538,570を示す枠(表示要素の一例)を別々の色によって表示させる。例えば、第1制御部316はトリガ領域530を示す枠を「白色」で、検知領域535〜538を示す枠を「黄色」で、常時検知領域570を示す枠を「緑色」で表示させる。
次に、図45に示すように、第1制御部316はトリガ生成部313がトリガを検知した場合、トリガ領域530を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316はトリガ領域530を示す枠を「青色」且つ太く表示させ、この表示状態を1秒間継続させる。第1制御部316は1秒後にトリガ領域530を示す枠の表示を通常状態の枠の表示に戻す。
次に、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域535について設定された検知遅延時間である「1.0」秒後に検知領域535で正否判定をする。この判定の結果、正常検知となった場合、図46に示すように、第1制御部316は検知領域535を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域535を示す枠を「青色」且つ太く表示させ、この表示状態を継続させる。
次に、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域536について設定された検知遅延時間である「2.2」秒後に検知領域536で正否判定をする。更に、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域537について設定された検知遅延時間である「2.5」秒後に、検知領域537で正否判定をする。この判定の結果、それぞれ正常検知となった場合、図47に示すように、第1制御部316は検知領域536,537を示すそれぞれの枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域536,537を示す枠をそれぞれ「青色」且つ太く表示させ、この表示状態を継続させる。この時点で、図47に示すように、検知領域535〜537はいずれも正常検知の表示状態(「青色」且つ太く表示された状態)となっている。
そして、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域538について設定された検知遅延時間である「4.0」秒後に検知領域538で正否判定をする。この判定の結果、正常検知となった場合、図48に示すように、第1制御部316は検知領域538を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域538を示す枠を「青色」且つ太く表示させる。この時点で、図48に示すように、検知領域535〜538はいずれも正常検知の表示状態(「青色」且つ太く表示された状態)となっている。
第1制御部316はトリガ領域530に関連付けられた検知領域535〜538のうち最後のタイミングで正否判定される検知領域538での正否判定が終了した後、検知領域535〜538の正常検知の表示状態を所定時間(例えば1秒間)継続させる。第1制御部316は所定時間後に検知領域535〜538を示す枠の表示をそれぞれ通常状態の枠の表示に戻す。
報知制御部317は検知領域判定部314によりトリガ生成部313のトリガに伴う検知領域535〜538の正否判定がすべて終了したタイミング(すなわち、検知領域538の正否判定が終了したタイミング)で、報知部334に検知領域535〜538の正否判定の終了を示す判定終了音(図48では「ピッ」と表記)を所定時間(例えば0.2秒)出力させる。以上のように、図46〜48では、検知領域535〜538の正否判定ですべて正常検知された場合について説明した。次に、検知領域535〜538のいずれかで異常検知がなされた場合について説明する。
図45で示したように、トリガ生成部313がトリガを検知してから再びトリガ検知をした後の動作について説明する。検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域535について設定された検知遅延時間である「1.0」秒後に検知領域535で正否判定をする。この判定の結果、正常検知となった場合、図49に示すように、第1制御部316は検知領域535を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域535を示す枠を「青色」且つ太く表示させ、この表示状態を継続させる。
次に、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域536について設定された検知遅延時間である「2.2」秒後に検知領域536で正否判定をする。更に、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域537について設定された検知遅延時間である「2.5」秒後に検知領域537で正否判定をする。この判定の結果、検知領域536において正常検知となった場合、図50に示すように、第1制御部316は検知領域536を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は正常検知を示すために検知領域536を示す枠を「青色」且つ太く表示させ、この表示状態を継続させる。また、上述の判定の結果、検知領域537において異常検知となった場合、図36に示すように、第1制御部316は検知領域537を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は異常検知を示すために検知領域537を示す枠を「赤色」且つ太く表示させ、この表示状態を継続させる。このとき、報知制御部317は検知領域判定部314により検知領域537において異常検知がされたタイミングで、報知部334に異常検知を報知する異常検知音(図50では「ブー」と表記)を所定時間(例えば1秒)出力させる。この時点で、図50に示すように、検知領域535,536はいずれも正常検知の表示状態(「青色」且つ太く表示された状態)となっており、検知領域537は異常検知の表示状態(「赤色」且つ太く表示された状態)となっている。
そして、検知領域判定部314はトリガ生成部313からトリガ信号を受け取ってから検知領域538について設定された検知遅延時間である「4.0」秒後に検知領域538で正否判定をする。この判定の結果、異常検知となった場合、図51に示すように、第1制御部316は検知領域538を示す枠を通常状態の色とは異なる色で、且つ通常状態の枠よりも太く表示させる。例えば、第1制御部316は異常検知を示すために検知領域538を示す枠を「赤色」且つ太く表示させる。このとき、報知制御部317は検知領域判定部314により検知領域538において異常検知がされたタイミングで報知部334に異常検知を報知する異常検知音(図51では「ブー」と表記)を所定時間(例えば1秒)出力させる。この時点で、図51に示すように、検知領域535,536はいずれも正常検知の表示状態(「青色」且つ太く表示された状態)となっており、検知領域537,538はいずれも異常検知の表示状態(「赤色」且つ太く表示された状態)となっている。
第1制御部316はトリガ領域530に関連付けられた検知領域535〜538のうち最後のタイミングで正否判定される検知領域538での正否判定が終了した後、検知領域535,536の正常検知の表示状態を所定時間(例えば1秒間)継続させ、検知領域537,538の異常検知の表示状態を所定時間(例えば1秒間)継続させる。第1制御部316は所定時間後に検知領域535〜538を示す枠の表示をそれぞれ通常状態の枠の表示に戻す。
報知制御部317は検知領域判定部314によりトリガ生成部313のトリガに伴う検知領域の正否判定がすべて終了したタイミング(すなわち、検知領域538の正否判定が終了したタイミング)で、報知部334に検知領域535〜538の正否判定の終了を示す判定終了音(図37では「ピッ」と表記)を所定時間(例えば0.2秒)出力させる。この場合、検知領域538の正否判定によって、報知部334により異常検知音と判定終了音とが重畳して出力されるが、異なる音(例えば異なる音階、波形、又はメロディの音)にしているので、ユーザはいずれの音も区別して聞き取ることができる。以上のように、図49〜51では検知領域535〜538の正否判定のいずれかで異常検知がなされる場合について説明した。
上述の変形例のように、第1制御部316は瞬間検知機能に基づく正否判定動作においてトリガ生成部313のトリガに伴う検知領域535〜538の正否判定がすべて終了するまで、各検知領域535〜538の判定結果を示す表示状態を継続するものとしている。これによって、ユーザはトリガ生成部313のトリガに伴うすべての検知領域535〜538での正否判定の結果を一目で把握することができるので、利便性を向上させることができる。
以上、本発明の実施の形態を説明したが、上記実施の形態は例として提示したものであり、発明の範囲を限定することを意図するものではない。この新規な実施の形態はその他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で種々の省略、置き換え、変更を行うことができる。この実施の形態及びその変形は発明の範囲及び要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。