JP6390720B2 - 画像処理装置、画像処理システムおよび画像処理方法 - Google Patents
画像処理装置、画像処理システムおよび画像処理方法 Download PDFInfo
- Publication number
- JP6390720B2 JP6390720B2 JP2016573187A JP2016573187A JP6390720B2 JP 6390720 B2 JP6390720 B2 JP 6390720B2 JP 2016573187 A JP2016573187 A JP 2016573187A JP 2016573187 A JP2016573187 A JP 2016573187A JP 6390720 B2 JP6390720 B2 JP 6390720B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- image
- area
- display
- setup
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 41
- 238000003672 processing method Methods 0.000 title claims description 5
- 230000008859 change Effects 0.000 claims description 278
- 238000003384 imaging method Methods 0.000 claims description 176
- 238000003860 storage Methods 0.000 claims description 75
- 238000012937 correction Methods 0.000 claims description 4
- 238000001514 detection method Methods 0.000 description 271
- 230000010365 information processing Effects 0.000 description 80
- 238000010586 diagram Methods 0.000 description 54
- 238000000034 method Methods 0.000 description 39
- 238000012544 monitoring process Methods 0.000 description 27
- 230000005856 abnormality Effects 0.000 description 19
- 230000035945 sensitivity Effects 0.000 description 19
- 230000008569 process Effects 0.000 description 16
- 230000009471 action Effects 0.000 description 15
- 238000004519 manufacturing process Methods 0.000 description 14
- 238000009434 installation Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 11
- 238000000605 extraction Methods 0.000 description 11
- 238000009826 distribution Methods 0.000 description 10
- 239000000284 extract Substances 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 230000002159 abnormal effect Effects 0.000 description 7
- 101100438246 Arabidopsis thaliana CAM6 gene Proteins 0.000 description 6
- 230000007423 decrease Effects 0.000 description 6
- 230000007704 transition Effects 0.000 description 5
- 101100438239 Arabidopsis thaliana CAM4 gene Proteins 0.000 description 4
- 102100025579 Calmodulin-2 Human genes 0.000 description 4
- 101001077352 Homo sapiens Calcium/calmodulin-dependent protein kinase type II subunit beta Proteins 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 241001270131 Agaricus moelleri Species 0.000 description 1
- 101100118004 Arabidopsis thaliana EBP1 gene Proteins 0.000 description 1
- 101150052583 CALM1 gene Proteins 0.000 description 1
- 102100025580 Calmodulin-1 Human genes 0.000 description 1
- 101100459256 Cyprinus carpio myca gene Proteins 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 101150091339 cam-1 gene Proteins 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000001172 regenerating effect Effects 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
- H04N21/4621—Controlling the complexity of the content stream or additional data, e.g. lowering the resolution or bit-rate of the video stream for a mobile client with a small screen
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
- H04N19/15—Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Description
本発明は、画像処理装置、画像処理システムおよび画像処理方法に関する。
近年、ビデオカメラ等の撮像装置により録画して得られた映像データを分析して、目的物の検出、または、映像上の物体の動きもしくは異常の検知等を行う画像監視システムの発展が著しい。このような画像監視システムは、例えば、製品の生産ライン等において適用される。生産工程において、特に、少量多品種の生産が行われると、同一生産工程において、異なる製品を生産することがある。このような、同一生産工程において、異なる製品を生産する場合、部品を組み付ける治具等を異なる治具等に取り換えたり、あるいは、生産工程で使用するデータを異なるデータに置換する等のいわゆる段取り替えが必要になる。上述のように、生産ラインに画像監視システムを適用した場合、段取り替えの作業の際には、画像監視システムの異常検知等に使用するカメラの設定等を変更する必要が生じる場合がある。
このような、段取り替えにおいて、生産工程における異常検知対象物が変わった場合、画像監視システムのカメラの設置位置は物理的に動かすことなく、設置されたカメラのフォーカスの変更を行うことによりカメラの設定を変更するシステムが提案されている(特許文献1参照)。
しかしながら、特許文献1に記載された技術は、段取り替えにおいて、生産工程における異常検知対象物が変わり、カメラの設置位置を動かして撮影する必要がある場合、フォーカスの変更のみでは対応できないという問題点がある。
本発明は、上記に鑑みてなされたものであって、カメラを正しい変更位置に容易に設置することができる画像処理装置、画像処理システムおよび画像処理方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、撮像手段を所定の撮像位置に合わせるための基準となる静止画像が表示される第1表示領域と、前記撮像手段が撮像した映像データが表示される第2表示領域と、を表示する表示手段と、前記撮像手段により撮像された映像データに対して行われる画像判定の対象となる判定領域と、前記第1表示領域に設定された第1基準領域との位置関係を示す情報を記憶する記憶手段と、前記第2表示領域に表示される映像データのフレームで、前記第1基準領域の画像と一致する画像を探索する第1マッチング動作を実行して、該一致する画像の領域を第2基準領域として決定する決定手段と、前記第1表示領域における前記第1基準領域の位置と前記第2表示領域における前記第2基準領域の位置とのずれ量と、前記記憶手段に記憶された前記位置関係を示す情報とに基づいて前記判定領域の位置を補正する補正手段と、を備えたことを特徴とする。
本発明によれば、カメラを正しい変更位置に容易に設置することができる。
以下に、図面を参照しながら、本発明に係る画像処理装置、画像処理システムおよび画像処理方法の実施の形態を詳細に説明する。また、以下の実施の形態によって本発明が限定されるものではなく、以下の実施の形態における構成要素には、当業者が容易に想到できるもの、実質的に同一のもの、およびいわゆる均等の範囲のものが含まれる。さらに、以下の実施の形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換、変更および組み合わせを行うことができる。
(画像処理システムの全体構成)
図1は、実施の形態に係る画像処理システムの全体構成の一例を示す図である。図1を参照しながら、本実施の形態の画像処理システム1の全体構成について説明する。
図1は、実施の形態に係る画像処理システムの全体構成の一例を示す図である。図1を参照しながら、本実施の形態の画像処理システム1の全体構成について説明する。
図1に示すように、本実施の形態の画像処理システム1は、撮像装置2a〜2f(撮像手段)と、情報処理装置3と、ネットワーク4と、を含む。
撮像装置2a〜2fは、被写体から光を電気信号に変換することによって被写体を撮像(撮影)し、複数のフレーム(画像データ)で構成された動画(例えば、10[FPS])である映像データを生成するビデオカメラである。例えば、撮像装置2a〜2fは、製品を生産する生産設備または生産ライン等を撮像し、製造物であるワークに対する異常を検知するための映像データを生成する。
なお、撮像装置2a〜2fを区別なく呼称する場合、または総称する場合、単に「撮像装置2」というものとする。また、図1では、画像処理システム1は、6台の撮像装置2を含む構成となっているが、これに限定されるものではなく、他の台数の撮像装置2を含む構成であってもよい。
情報処理装置3は、撮像装置2によって撮像された映像データに基づいて画像判定を実行する画像処理装置として機能するPC(Personal Computer)またはワークステーション等である。また、情報処理装置3は、生産設備等の外部機器10と、例えば、フィールドバス規格による通信が可能となるように接続している。情報処理装置3による段取り替え動作については、後述する。
ネットワーク4は、撮像装置2a〜2fと、情報処理装置3とを接続するための、例えば、Ethernet(登録商標)規格のネットワークである。この場合、ネットワーク4では、TCP(Transmission Control Protocol)/IP(Internet Protocol)等のプロトコルによりデータ通信が行われる。また、この場合、撮像装置2a〜2fおよび情報処理装置3は、TCP/IPのプロトコルにより通信するためのMAC(Media Access Control)アドレスを有し、かつプライベートIPアドレス等のIPアドレスが割り当てられている。また、ネットワーク4の具体的な構成は、例えば、複数のポートを有するスイッチングハブに撮像装置2a〜2fおよび情報処理装置3それぞれがLAN(Local Area Network)ケーブルによって接続されたスター配線形式が一例として挙げられる。
なお、図1に示すネットワーク4は、TCP/IPにより通信される例を示したが、これに限定されるものではなく、例えば、情報処理装置3側にVGA(Video Graphics Array)端子またはUSB(Universal Serial Bus)ポートを複数有し、複数の撮像装置2がVGAケーブルまたはUSBケーブルで情報処理装置3に接続された形態等であってもよい。
(情報処理装置のハードウェア構成)
図2は、実施の形態に係る情報処理装置のハードウェア構成の一例を示す図である。図2を参照しながら、本実施の形態の情報処理装置3のハードウェア構成について説明する。
図2は、実施の形態に係る情報処理装置のハードウェア構成の一例を示す図である。図2を参照しながら、本実施の形態の情報処理装置3のハードウェア構成について説明する。
図2に示すように、情報処理装置3は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、外部記憶装置104と、ディスプレイ105と、ネットワークI/F106と、キーボード107と、マウス108と、DVD(Digital Versatile Disc)ドライブ109と、外部機器I/F111と、を備えている。
CPU101は、情報処理装置3全体の動作を制御する装置である。ROM102は、情報処理装置3用のプログラムを記憶している不揮発性記憶装置である。RAM103は、CPU101のワークエリアとして使用される揮発性記憶装置である。
外部記憶装置104は、撮像装置2により撮像された映像データ、および設定情報等の各種データを記憶するHDD(Hard Disk Drive)またはSSD(Solid State Drive)等の記憶装置である。
ディスプレイ105は、カーソル、メニュー、ウィンドウ、文字もしくは画像等の各種情報、または情報処理装置3による画像判定処理および段取り替え動作を実行するアプリケーションの画面を表示する表示装置である。ディスプレイ105は、例えば、CRT(Cathode Ray Tube)ディスプレイ、液晶ディスプレイ、プラズマディスプレイまたは有機EL(Electroluminescence)ディスプレイ等である。なお、ディスプレイ105は、例えば、情報処理装置3の本体に対して、VGAケーブルまたはHDMI(登録商標)(High−Definition Multimedia Interface)ケーブル等によって接続されたり、または、Ethernetケーブルによって接続される。
ネットワークI/F106は、ネットワーク4に接続してデータ通信するためのインターフェースである。ネットワークI/F106は、例えば、TCP/IPのプロトコルで通信可能にするNIC(Network Interface Card)である。具体的には、情報処理装置3は、撮像装置2から、ネットワーク4およびネットワークI/F106を介して、映像データを取得する。
キーボード107は、文字、数字、各種指示の選択、カーソルの移動、設定情報の設定、および、段取り替え動作において製品または設定情報を区別する品番等である段取り番号(段取り識別情報)等を行う入力装置である。なお、段取り番号は、数字のみによって構成されることに限定されるものではなく、さらに、英字および記号等を組み合わせたものであってもよい。マウス108は、各種指示の選択および実行、処理対象の選択、カーソルの移動、ならびに設定情報の設定等を行うための入力装置である。
DVDドライブ109は、着脱自在な記憶媒体の一例としてのDVD110に対するデータの読み出し、書き込みおよび削除を制御する装置である。
外部機器I/F111は、外部機器10と接続してデータ通信をするためのインターフェースである。外部機器I/F111は、例えば、フィールドバス規格により通信可能にするインターフェースカードである。具体的には、情報処理装置3は、外部機器10と、外部機器I/F111を介してデータ通信を行う。
上述のCPU101、ROM102、RAM103、外部記憶装置104、ディスプレイ105、ネットワークI/F106、キーボード107、マウス108、DVDドライブ109および外部機器I/F111は、アドレスバスおよびデータバス等のバス112によって互いに通信可能に接続されている。なお、ディスプレイ105が、Ethernetケーブルによって接続される場合には、ネットワークI/F106に接続されることになり、この場合、TCP/IP等のプロトコルによりデータ通信が行われる。
(情報処理装置のブロック構成)
図3は、実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。図3を参照しながら、情報処理装置3のブロック構成について説明する。
図3は、実施の形態に係る情報処理装置の機能ブロックの構成の一例を示す図である。図3を参照しながら、情報処理装置3のブロック構成について説明する。
図3に示すように、情報処理装置3は、映像受信部301と、記憶部302(記憶手段)と、入力部303(入力手段)と、第1再生部304と、トリガ領域指定部305と、変化点検出部306と、検知領域指定部307と、設定部308と、映像振分部312と、トリガ生成部313と、検知領域判定部314と、表示制御部315と、外部出力部316と、表示部317(表示手段)と、メッセージ制御部321と、映像表示部322と、ベース領域特定部323(特定手段)と、画像抽出部324と、静止判定部325(判定手段)と、ベース領域決定部326(決定手段、補正手段)と、段取り制御部327(制御手段)と、ベース領域指定部331と、を備えている。
映像受信部301は、ネットワーク4を介して、撮像装置2とデータ通信を行い、撮像装置2から映像データを受信する機能部である。映像受信部301は、受信した映像データを記憶部302に記憶させる。映像受信部301は、図2に示すネットワークI/F106によって実現される。なお、図3においては、説明を簡略化するため、ネットワーク4の図示を省略して説明する。
記憶部302は、映像受信部301により受信された映像データ、および各種設定情報等を記憶する記憶装置である。記憶部302は、映像受信部301により受信された映像データが、どの撮像装置2により生成された映像データであるかを識別して記憶する。記憶部302は、例えば、図2に示すRAM103または外部記憶装置104によって実現される。
入力部303は、情報処理装置3が実行する画像判定処理および段取り替え動作のための操作入力を行う装置である。入力部303は、図2に示すキーボード107およびマウス108によって実現される。
第1再生部304は、ユーザにより操作される入力部303からの操作信号に従って、記憶部302から取得した映像データを表示制御部315に送り、表示制御部315に対して映像データを表示部317に再生表示させる機能部である。具体的には、第1再生部304は、図6等で後述する表示部317に表示される設定画面500の設定用映像表示部502に映像データを再生表示させる。第1再生部304は、図2に示すCPU101により実行されるプログラムによって実現される。
トリガ領域指定部305は、ユーザにより操作される入力部303からの操作信号に従って、表示部317における映像データの表示領域(図6等で後述する設定用映像表示部502)においてトリガのタイミングを決定するトリガ領域を指定する機能部である。トリガ領域指定部305は、指定したトリガ領域の情報を、後述するように、段取り番号と関連付けて記憶部302に記憶させる。また、トリガ領域の情報とは、例えば、映像データの表示領域におけるトリガ領域の位置を示す座標、およびトリガ領域の形状等の情報である。トリガ領域指定部305は、図2に示すCPU101により実行されるプログラムによって実現される。
変化点検出部306は、トリガ領域指定部305によりトリガ領域が指定された場合、指定された時点で第1再生部304が再生表示している映像データのフレームの時刻の前後の所定時間分のフレームを取得し、取得したフレームにおいて、フレームごとに直前のフレームとの画素値についての差分を演算し、演算した差分に基づいて、トリガ領域内の画像についての変化点を検出する機能部である。変化点については、後述する。差分の演算方法としては、例えば、2つのフレームのトリガ領域における画素値を比較し、画素値が所定の感度以上異なる画素の数の合計を差分として算出する。なお、フレームがグレースケールの画像である場合、画素値は輝度値と一致するので、2つのフレームのトリガ領域における輝度値を比較し、輝度値が所定の感度以上異なる画素の数の合計を差分として算出してもよい。また、フレームがRGBの画素値で構成された画像である場合、R(赤)、G(緑)またはB(青)のいずれかの画素値を比較して、上述と同様に、画素値が所定の感度以上異なる画素の数の合計を差分として算出してもよい。また、フレームの画像におけるエッジ検出処理を行い、エッジ部分の合計を差分として算出してもよい。変化点検出部306は、図2に示すCPU101により実行されるプログラムによって実現される。
検知領域指定部307は、ユーザにより操作される入力部303からの操作信号に従って、表示部317における映像データの表示領域(設定用映像表示部502)において異常を検知する画像判定処理の対象となる検知領域を指定する機能部である。検知領域指定部307は、指定した検知領域の情報を、後述するように、段取り番号と関連付けて記憶部302に記憶させる。また、検知領域の情報とは、例えば、映像データの表示領域における検知領域の位置を示す座標、および検知領域の形状等の情報である。また、検知領域指定部307は、後述するように、映像データの表示領域において複数の検知領域を指定することができる。検知領域指定部307は、図2に示すCPU101により実行されるプログラムによって実現される。
設定部308は、ユーザにより操作される入力部303からの操作信号に従って、設定情報を設定して記憶部302に記憶させる機能部である。また、設定部308は、設定した設定情報のうち、表示する必要がある情報を、記憶部302から表示制御部315に送り、表示制御部315に対して設定情報を表示部317に表示させる。設定部308は、図2に示すCPU101により実行されるプログラムによって実現される。
映像振分部312は、ユーザにより操作される入力部303からの操作信号に従って、映像受信部301から取得したリアルタイムの映像データを表示制御部315に送り、表示制御部315に対して映像データを表示部317に表示させる機能部である。具体的には、映像振分部312は、図4等で後述する表示部317に表示されるメイン画面400の映像表示部401a〜401fに、対応する映像データを振り分けて表示させる。映像振分部312は、図2に示すCPU101により実行されるプログラムによって実現される。
トリガ生成部313は、後述する図27のメイン画面400の映像表示部401a〜401fにおけるトリガ領域において、差分画像と、映像データのフレームのトリガ領域の画像とを比較して、トリガのタイミングでトリガ信号を生成する機能部である。トリガ生成部313は、図2に示すCPU101により実行されるプログラムによって実現される。
検知領域判定部314は、トリガ生成部313により生成されたトリガ信号を受け取ったときの設定時間前または設定時間後に、上述の映像表示部401a〜401fにおける検知領域において、検知基準画像と、映像データのフレームの検知領域の画像とを比較して異常であるか否かの判定をする機能部である。検知領域判定部314は、図2に示すCPU101により実行されるプログラムによって実現される。
表示制御部315は、表示部317の表示動作を制御する機能部である。具体的には、表示制御部315は、第1再生部304により取得された映像データ、設定部308により設定された設定情報、トリガ領域指定部305により指定されたトリガ領域、および、検知領域指定部307により指定された検知領域等を、表示部317に表示させる。表示制御部315は、図2に示すCPU101により実行されるプログラム(ドライバ)によって実現される。
外部出力部316は、検知領域判定部314により異常の判定がされた場合、異常信号を外部機器10に出力する機能部である。外部出力部316は、図2に示す外部機器I/F111によって実現される。なお、外部出力部316は異常信号を出力するものとしているが、これに限定されるものではなく、メールで異常を通知するためのバッチファイルを外部機器10に送信したり、または、メイン画面400上に異常を報知(例えば、ランプアイコンで点滅表示)する等の処置を行うものとしてもよい。
表示部317は、表示制御部315の制御に従って各種データを表示する装置である。表示部317は、本実施の形態では特に、図2に示すCPU101により実行されるプログラム(アプリケーション)により、後述するメイン画面400、設定画面500、および段取り替え画面700等を表示する。表示部317は、図2に示すディスプレイ105によって実現される。
メッセージ制御部321は、段取り替え動作において、段取り替えの段階に応じたメッセージ情報を表示部317に表示させる機能部である。具体的には、メッセージ制御部321は、図17等で後述する表示部317に表示される段取り替え画面700の作業指示表示部704に作業手順のメッセージの表示等を行う。なお、メッセージ制御部321により表示されるメッセージ情報は、例えば、記憶部302により記憶されているものとすればよい。メッセージ制御部321は、図2に示すCPU101により実行されるプログラムによって実現される。
映像表示部322は、ユーザにより操作される入力部303からの操作信号によって特定される撮像装置2から映像受信部301を介して取得したリアルタイムの映像データを表示制御部315に送り、表示制御部315に対して映像データを表示部317に表示させる機能部である。具体的には、映像表示部322は、図17等で後述する表示部317に表示される段取り替え画面700のリアルタイム映像表示部703bにリアルタイムの映像データを表示させる。映像表示部322は、図2に示すCPU101により実行されるプログラムによって実現される。
ベース領域特定部323は、段取り替え動作時に撮像装置2を移動させて静止させた場合に、後述する図17等に示す段取り替え画面700のリアルタイム映像表示部703bにおいて、段取り替え動作時の基準となるベース領域の画像(ベース基準画像)とマッチングする部分を探索する機能部である。ベース領域特定部323は、図2に示すCPU101により実行されるプログラムによって実現される。
画像抽出部324は、段取り替え動作時に、後述する段取り替え画面700のリアルタイム映像表示部703bにおける仮ベース領域802の画像(抽出画像)を抽出する機能部である。画像抽出部324は、図2に示すCPU101により実行されるプログラムによって実現される。
静止判定部325は、段取り替え動作時に撮像装置2を移動させて静止させた場合に、後述する段取り替え画面700のリアルタイム映像表示部703bに表示される映像データに基づいて、撮像装置2が静止しているか否かを判定する機能部である。静止判定部325は、図2に示すCPU101により実行されるプログラムによって実現される。
ベース領域決定部326は、段取り替え動作時に撮像装置2を治具等により固定した場合に、後述する段取り替え画面700のリアルタイム映像表示部703bにおいて、段取り替え動作時の基準となるベース領域の画像(ベース基準画像)とマッチングする部分を探索してリアルタイム映像表示部703bにおけるベース領域を最終的に決定する機能部である。ベース領域決定部326は、図2に示すCPU101により実行されるプログラムによって実現される。
段取り制御部327は、段取り替え動作を全体的に制御する機能部である。段取り制御部327は、図2に示すCPU101により実行されるプログラムにより実現される。
ベース領域指定部331は、ユーザにより操作される入力部303からの操作信号に従って、表示部317における映像データの表示領域(設定用映像表示部502)において、段取り替え動作時の基準となるベース領域を指定する機能部である。ベース領域指定部331は、指定したベース領域の情報を、記憶部302に記憶させる。また、ベース領域の情報とは、例えば、映像データの表示領域におけるベース領域の位置を示す座標、およびベース領域の形状等の情報である。
なお、図3に示した第1再生部304、トリガ領域指定部305、変化点検出部306、検知領域指定部307、設定部308、映像振分部312、トリガ生成部313、検知領域判定部314、メッセージ制御部321、映像表示部322、ベース領域特定部323、画像抽出部324、静止判定部325、ベース領域決定部326、段取り制御部327およびベース領域指定部331の一部または全部は、ソフトウェアであるプログラムではなく、ASIC(Application Specific Integrated Circuit)またはFPGA(Field−Programmable Gate Array)等のハードウェア回路によって実現されてもよい。
また、図3に示した各機能部は、機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図3で独立した機能部として図示した複数の機能部を、1つの機能部として構成してもよい。一方、図3の1つの機能部が有する機能を複数に分割し、複数の機能部として構成するものとしてもよい。
また、以降の説明の簡略化のため、表示制御部315が、受け取ったデータを表示部317に表示させるという表現を、単に、そのデータを表示制御部315に送った機能部が、表示部317(または、表示部317が表示する画面)に表示させると表現するものとする。例えば、第1再生部304が、映像データを表示制御部315に送り、表示制御部315に対して映像データを表示部317に再生表示させる場合、単に、第1再生部304が、映像データを表示部317に再生表示させると表現するものとする。
(メイン画面の構成)
図4は、実施の形態に係る情報処理装置の表示装置に表示されるメイン画面において複数のリアルタイムの映像が表示される例を示す図である。図4を参照しながら、メイン画面400の構成、および複数のリアルタイムの映像が表示される動作について説明する。
図4は、実施の形態に係る情報処理装置の表示装置に表示されるメイン画面において複数のリアルタイムの映像が表示される例を示す図である。図4を参照しながら、メイン画面400の構成、および複数のリアルタイムの映像が表示される動作について説明する。
CPU101により実行されるプログラム(アプリケーション)により、図4に示すメイン画面400が表示部317に表示される。メイン画面400は、画像判定動作(監視動作)が実行されている場合には、複数の撮像装置2から受信した映像データをリアルタイムに表示し、トリガ領域指定部305により指定されたトリガ領域において、トリガ生成部313によりトリガのタイミングでトリガ信号が生成される画面である。また、メイン画面400は、検知領域判定部314によりトリガ信号を受け取ったときの設定時間前または設定時間後に、検知領域指定部307により指定された検知領域において異常の有無が判定される画面である。メイン画面400は、図4に示すように、映像表示部401a〜401fと、監視開始ボタン411と、監視停止ボタン412と、監視設定ボタン413と、段取り替えボタン414と、段取り番号入力部415と、状態表示部421a〜421fと、段取り番号表示部422a〜422fと、を含む。
映像表示部401a〜401fは、映像振分部312によって、ユーザにより操作される入力部303からの操作信号に従って、撮像装置2a〜2fから、映像受信部301を介して取得されたリアルタイムの映像データがそれぞれ表示される表示部である。また、映像表示部401a〜401fは、ユーザによる入力部303の操作によって押下(例えば、マウス108のクリック操作等、以下同様)されると、選択状態にすることができる。なお、映像表示部401a〜401fを区別なく呼称する場合、または総称する場合、単に「映像表示部401」というものとする。
監視開始ボタン411は、ユーザによる入力部303の操作によって押下されると、リアルタイムの映像データが表示されている選択状態の映像表示部401で、トリガ領域指定部305により指定されたトリガ領域において、トリガ生成部313によりトリガのタイミングでトリガ信号が生成され、検知領域判定部314によりトリガ信号を受け取ったときの設定時間前または設定時間後に検知領域における異常の有無の判定が開始される。
監視停止ボタン412は、ユーザによる入力部303の操作によって押下されると、選択状態の映像表示部401で、トリガ生成部313によるトリガのタイミングでのトリガ信号の生成動作、および、検知領域判定部314による検知領域における異常の有無の判定動作を停止させるボタンである。
監視設定ボタン413は、ユーザによる入力部303の操作によって押下されると、段取り番号入力部415に操作入力された段取り番号についての設定情報を設定するために、設定部308によって、後述の図6等に示す設定画面500を表示部317に表示させるボタンである。
段取り替えボタン414は、ユーザによる入力部303の操作によって押下されると、段取り番号入力部415に操作入力された段取り番号についての段取り替え動作を実行するために、段取り制御部327によって、後述の図17等に示す段取り替え画面700を表示部317に表示させるボタンである。段取り番号入力部415は、段取り替え動作を実行するための段取り番号を入力部303により入力する部分である。
状態表示部421a〜421fは、映像表示部401に対応する撮像装置2についての状態を示す表示部である。例えば、状態表示部421a〜421fには、「未接続」、「未設定」、「設定完了」、「監視中」等の撮像装置2についての状態を示す内容が表示される。「未接続」とは、映像表示部401に対応する撮像装置2が画像処理システム1に接続されていない状態を示し、映像表示部401には映像データが表示されていない状態を示す。「未設定」とは、映像表示部401に表示されている映像データについてベース領域、トリガ領域、および検知領域等の設定がなされていない状態、すなわち、特定の段取り番号による段取り替え動作が完了していない状態を示す。「設定完了」とは、映像表示部401に表示されている映像データについてベース領域、トリガ領域、および検知領域等の設定が完了している状態、すなわち、特定の段取り番号による段取り替え動作が完了している状態を示す。「監視中」とは、特定の段取り番号により段取り替えされた設定情報に基づいて、画像判定動作(監視動作)が実行中である状態を示す。なお、状態表示部421a〜421fを区別なく呼称する場合、または総称する場合、単に「状態表示部421」というものとする。
段取り番号表示部422a〜422fは、映像表示部401に対応する撮像装置2について段取り替えが完了している場合の段取り番号を表示する表示部である。なお、段取り番号表示部422a〜422fを区別なく呼称する場合、または総称する場合、単に「段取り番号表示部422」というものとする。
(設定情報のディレクトリ構造)
図5は、実施の形態に係る情報処理装置において段取り番号ごとに設定情報が管理されることを示す記憶装置におけるディレクトリ構造の一例を示す図である。図5を参照しながら、記憶部302で段取り番号ごとに設定情報を管理するためのディレクトリ構造について説明する。
図5は、実施の形態に係る情報処理装置において段取り番号ごとに設定情報が管理されることを示す記憶装置におけるディレクトリ構造の一例を示す図である。図5を参照しながら、記憶部302で段取り番号ごとに設定情報を管理するためのディレクトリ構造について説明する。
まず、図5に示すように、記憶部302は、段取り番号ごとに設定情報を記憶するためのルートフォルダが作成されており、そのルートフォルダ名は、例えば段取り番号とする。図5に示す例としては、フォルダ名(段取り番号)が「ABCD001」のルートフォルダが作成されていることを示す。
ルートフォルダ「ABCD001」の中には、各撮像装置2についての設定情報を記憶するための設定フォルダが作成されており、その設定フォルダ名は、図5に示すように、例えば、「Setting」とする。設定フォルダ「Setting」の中には、撮像装置2ごとの設定情報を記憶するためのカメラフォルダが作成されており、そのカメラフォルダ名は、図5に示すように、例えば、撮像装置2aの設定情報を記憶するためのカメラフォルダの名称は、「CAM1」とする。具体的には、カメラフォルダ内の設定ファイルに、その撮像装置2についての設定情報が書き込まれている。なお、段取り番号ごとの設定情報は、すべての撮像装置2についての設定情報を有することに限定されるものではなく、一部の撮像装置2についての設定情報のみを有することもあり得る。例えば、段取り番号「A1234567」の設定情報は、撮像装置2b、2d、2fについての設定情報(「CAM2」、「CAM4」、「CAM6」についての設定情報)のみを有する、ということもあり得る。
なお、図5に示した段取り番号ごとに設定情報を管理するためのディレクトリ構造は一例であり、これに限定されるものではなく、その他のデータ構造によって設定情報が管理されるものとしてもよい。
(設定画面の構成)
図6は、実施の形態に係る情報処理装置の表示装置に表示される設定画面で映像データが表示される状態の一例を示す図である。図6および後述する図8を参照しながら、設定画面500の構成について説明する。
図6は、実施の形態に係る情報処理装置の表示装置に表示される設定画面で映像データが表示される状態の一例を示す図である。図6および後述する図8を参照しながら、設定画面500の構成について説明する。
設定画面500は、ベース領域、トリガ領域および検知領域の指定、ならびに、検知領域における画像判定の感度、閾値およびタイミングを設定する画面である。設定画面500は、図6に示すように、カメラ選択タブ501と、設定用映像表示部502と、再生ボタン503aと、一時停止ボタン503bと、早送りボタン503cと、早戻しボタン503dと、停止ボタン503eと、シークバー504と、スライダー505と、時刻表示部506と、領域選択タブ551と、段取り番号表示部561と、ベース領域情報部562と、削除ボタン563と、設定読出ボタン511と、設定書込ボタン512と、設定反映ボタン513と、閉じるボタン514と、を含む。
カメラ選択タブ501は、ユーザがベース領域、トリガ領域および検知領域の指定を所望する撮像装置2a〜2fの映像データのうちいずれの映像データを設定用映像表示部502に表示させるのかを選択する操作部である。例えば、撮像装置2a〜2fによって撮像された映像データは、それぞれ「1」〜「6」に対応付けられており、図6の例では、「6」すなわち撮像装置2fの映像データが選択された例を示している。
設定用映像表示部502は、第1再生部304によって、ユーザにより操作される入力部303からの操作信号に従って記憶部302から取得された映像データが再生表示される表示部である。図6の例では、第1再生部304は、ユーザによる入力部303の操作により、「6」のカメラ選択タブ501が選択操作されると、撮像装置2fにより撮像された映像データを表示部317に表示させる。
再生ボタン503aは、ユーザによる入力部303の操作によって押下されると、第1再生部304によって、設定用映像表示部502に表示された映像データが再生開始されるボタンである。一時停止ボタン503bは、ユーザによる入力部303の操作によって押下されると、第1再生部304によって、設定用映像表示部502に再生表示されている映像データが一時停止されるボタンである。早送りボタン503cは、ユーザによる入力部303の操作によって押下されると、第1再生部304によって、設定用映像表示部502に再生表示されている映像データが早送り表示されるボタンである。早戻しボタン503dは、ユーザによる入力部303の操作によって押下されると、第1再生部304によって、設定用映像表示部502に再生表示されている映像データが早戻し表示されるボタンである。停止ボタン503eは、ユーザによる入力部303の操作によって押下されると、第1再生部304によって、設定用映像表示部502に再生表示されている映像データが停止されるボタンである。
シークバー504は、その上に配置されるスライダー505の位置により、設定用映像表示部502に再生表示されている映像データがどの時間のものなのかを示す棒状の形状体である。スライダー505は、設定用映像表示部502に再生表示されている映像データの撮像時刻(表示されているフレームが撮像された時刻)に対応したシークバー504上の位置にスライドする形状体かつ操作部である。逆に、スライダー505は、ユーザによる入力部303の操作によってスライドされると、第1再生部304によって、スライダー505が存在するシークバー504上の位置に対応した撮像時刻の映像データのフレームが設定用映像表示部502に表示される。
時刻表示部506は、第1再生部304によって、設定用映像表示部502に再生表示されている映像データの撮像日付および撮像時刻を表示する表示部である。
領域選択タブ551は、ベース領域を設定するためのタブと、トリガ領域および検知領域を設定するためのタブとによって構成されている。例えば、図6に示す設定画面500は、ユーザによる入力部303の操作によって、ベース領域を設定するためのタブが選択された状態を示す。一方、後述する図8に示す設定画面500は、ユーザによる入力部303の操作によってトリガ領域および検知領域を設定するためのタブが選択された状態を示す。
段取り番号表示部561は、上述のメイン画面400の段取り番号入力部415に操作入力された段取り番号を表示する表示部である。ベース領域情報部562は、ベース領域指定部331により指定されたベース領域の名称、および指定されたベース領域の大きさを表示する表示部である。削除ボタン563の機能は、後述する。
設定読出ボタン511は、ユーザによる入力部303の操作によって押下されると、設定部308によって、記憶部302に記憶された、段取り番号表示部561に表示された段取り番号に対応するベース領域、トリガ領域および検知領域の情報等の設定情報が読み出され、設定画面500の各表示部に設定情報が表示されるボタンである。設定書込ボタン512は、ユーザによる入力部303の操作によって押下されると、設定部308によって、設定画面500上で設定されたベース領域、トリガ領域および検知領域の情報等の設定情報が、段取り番号表示部561に表示された段取り番号に関連付けられて記憶部302に記憶されるボタンである。設定反映ボタン513は、ユーザによる入力部303の操作によって押下されると、設定部308によって、設定画面500上で設定されたベース領域、トリガ領域および検知領域の情報等の設定情報が、メイン画面400および設定画面500等のアプリケーションが閉じられるまで有効とされる(例えば、RAM103に一時記憶される)ボタンである。
閉じるボタン514は、ユーザによる入力部303の操作によって押下されると、設定部308によって、設定画面500が閉じられ、メイン画面400を表示部317に表示させるボタンである。
後述する図8に示す設定画面500は、上述のように、トリガ領域および検知領域を設定するためのタブが選択された状態を示し、段取り番号表示部515と、トリガ領域情報部507と、基準画像表示部508aと、差分画像表示部508bと、検知領域情報部509と、検知領域ボタン部510と、を有する。
段取り番号表示部515は、上述のメイン画面400の段取り番号入力部415に操作入力された段取り番号を表示する表示部である。
トリガ領域情報部507は、トリガ領域指定部305により指定されたトリガ領域の名称、ならびに、変化点検出部306が上述の変化点を検出するための感度および閾値を表示する表示部である。基準画像表示部508aは、変化点検出部306により抽出されたトリガ基準画像を表示する表示部である。差分画像表示部508bは、変化点検出部306により抽出された差分画像(後述)を表示する表示部である。
検知領域情報部509は、検知領域指定部307により指定された検知領域の名称、感度、閾値、検知遅延時間(図8では「遅延時間」と表記)、監視方法(図8では「監視」と表記)、アクションの有無(図8では「アクション」と表記)、および画像判定の方法(図8では「画像判定」と表記)(以下、検知領域についてのこれらの情報を属性情報という)を表示する表示部かつ選択操作部である。
検知領域ボタン部510は、検知領域指定部307により指定され、検知領域情報部509に表示された検知領域についての属性情報を編集するボタン群である。検知領域ボタン部510は、アクションボタン510aと、画像判定選択ボタン510bと、削除ボタン510cと、感度増加ボタン510eと、感度減少ボタン510fと、閾値増加ボタン510gと、閾値減少ボタン510hと、を含む。検知領域ボタン部510の各ボタンの機能は、後述する。
(ベース領域の指定)
図7は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部にベース領域を指定する例を示す図である。図7を参照しながら、ベース領域の指定について説明する。
図7は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部にベース領域を指定する例を示す図である。図7を参照しながら、ベース領域の指定について説明する。
図7に示す設定画面500は、第1再生部304により映像データが再生表示されている設定用映像表示部502においてベース領域570が指定された状態を示している。具体的には、まず、設定用映像表示部502において映像データの再生表示中に、ベース基準画像としての扱いを所望する部分が表示されているタイミングで、ユーザによる入力部303の操作によって一時停止ボタン503bが押下されると、第1再生部304は、設定用映像表示部502に再生表示されている映像データを一時停止し、その時点のフレームの撮像日付および撮像時刻を時刻表示部506に表示させる。次に、ユーザによる入力部303の操作(例えば、マウス108のドラッグ操作)によって、ベース領域指定部331は、設定用映像表示部502においてベース領域570を指定して表示させる。
また、設定部308は、ベース領域570の情報として、ベース領域指定部331により指定されたベース領域570に命名した名前、および、ベース領域570の大きさを、ベース領域情報部562に表示させる。設定部308は、ベース領域570の名前として、図7に示すように、例えば、「BASE」と命名する。また、ベース領域指定部331は、段取り番号表示部561に表示された段取り番号に関連付けて、ベース領域570を指定した時刻の設定用映像表示部502に表示されているフレーム(画像)を基準静止画像として、さらに、基準静止画像におけるベース領域570内の画像をベース基準画像として抽出して記憶部302に記憶させ、指定したベース領域570の情報を記憶部302に記憶させる。
(トリガ領域の指定および変化点の検出)
図8は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部にトリガ領域を指定する例を示す図である。図9は、実施の形態に係る情報処理装置の表示装置に表示される設定画面においてトリガ領域における変化点が見つかった場合のマーク表示の一例を示す図である。図10は、トリガ領域における変化点を検出する動作を説明する図である。図11は、実施の形態に係る情報処理装置の表示装置に表示される設定画面においてトリガ領域における変化点が2点見つかった場合に表示されるダイアログの一例を示す図である。図12は、実施の形態に係る情報処理装置の表示装置に表示される設定画面においてトリガ領域における変化点が見つからなかった場合に表示されるダイアログの一例を示す図である。図8〜12を参照しながら、トリガ領域の指定および変化点の検出について説明する。
図8は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部にトリガ領域を指定する例を示す図である。図9は、実施の形態に係る情報処理装置の表示装置に表示される設定画面においてトリガ領域における変化点が見つかった場合のマーク表示の一例を示す図である。図10は、トリガ領域における変化点を検出する動作を説明する図である。図11は、実施の形態に係る情報処理装置の表示装置に表示される設定画面においてトリガ領域における変化点が2点見つかった場合に表示されるダイアログの一例を示す図である。図12は、実施の形態に係る情報処理装置の表示装置に表示される設定画面においてトリガ領域における変化点が見つからなかった場合に表示されるダイアログの一例を示す図である。図8〜12を参照しながら、トリガ領域の指定および変化点の検出について説明する。
図8に示す設定画面500は、第1再生部304により映像データが再生表示されている設定用映像表示部502においてトリガ領域530が指定された状態を示している。具体的には、まず、設定用映像表示部502において映像データの再生表示中に、トリガの発生の基となる所望する画像の部分が表示されているタイミングで、ユーザによる入力部303の操作によって一時停止ボタン503bが押下されると、第1再生部304は、設定用映像表示部502に再生表示されている映像データを一時停止し、その時点のフレームの撮像日付および撮像時刻を時刻表示部506に表示させる。
次に、ユーザによる入力部303の操作(例えば、マウス108のドラッグ操作)によって、トリガ領域指定部305は、設定用映像表示部502においてトリガ領域530(判定領域)を指定して表示させる。ただし、トリガ領域指定部305が、トリガ領域530を指定するには、ベース領域指定部331によってベース領域が指定されている必要がある。これは、トリガ領域指定部305により指定されるトリガ領域530の位置は、ベース領域指定部331により指定されたベース領域との相対位置で扱われるためである。すなわち、トリガ領域指定部305により指定されたトリガ領域530は、ベース領域指定部331により指定されたベース領域と関連付けられる。
図9に示す設定画面500は、変化点検出部306によって、トリガ領域指定部305により指定されたトリガ領域530において変化点が検出された場合の状態を示している。具体的には、変化点検出部306は、まず、トリガ領域指定部305によりトリガ領域530が指定された場合、指定された時点で第1再生部304が再生表示している映像データのフレームの撮像時刻の前後の所定時間(例えば前後2分間)分のフレームを取得し、トリガ領域530が指定された時刻のトリガ領域530内の画像をトリガ基準画像として抽出する。ここで、変化点とは、トリガ生成部313がトリガ信号を生成するタイミングの基準とするための、トリガ領域530内の画像の所定の変化を帯びた時点をいう。以下、変化点検出部306による具体的な変化点の検出方法について説明する。
変化点検出部306は、図10(a)に示すように、所定時間分のフレームとして13個のフレーム(フレーム(0)〜フレーム(12))を取得したものとする。この場合、変化点検出部306によって、フレーム(6)を真中として、その前後の所定時間分のフレームが取得されたことになる。また、説明を簡略にするため、各フレームにおけるトリガ領域530に対応する部分の画像についても、それぞれフレーム(0)〜フレーム(12)と称するものとする。そして、変化点検出部306は、取得したフレームにおいて、フレームごとに直前のフレームとの画素値についての差分を演算する。差分の演算方法については、上述した通りである。変化点検出部306が図10(a)に例示したフレームを抽出し、フレームごとに演算した差分を時系列に表したグラフが、図10(b)に示すグラフである。図10(b)において、例えば、フレーム(1)の差分は、フレーム(1)と、その直前のフレームであるフレーム(0)との差分を示す。ここで、変化点としてのIN点およびOUT点を次のように定義する。すなわち、IN点とは、連続するフレームにおいて、トリガ領域530内の画像が変化し始めた時点とする。また、OUT点とは、連続するフレームにおいて、トリガ領域530内の画像の変化がおさまり始めた時点とする。なお、変化点検出部306は、取得したフレームにおいて、フレームごとに直前のフレームとの差分を演算するものとしたが、直前のフレームに限定されるものではなく、例えば、フレームごとに、数フレーム前のフレームとの差分を演算するものとしてもよい。
変化点検出部306は、フレームごとに演算した差分に基づいて、IN点の候補、およびOUT点の候補を見つける。具体的には、変化点検出部306は、演算した差分が2フレーム分以上連続して所定の閾値以上となった場合、最初に差分が所定の閾値以上となったフレームをIN点の候補のフレームとする。図10(b)の例では、フレーム(1)の差分は閾値未満、フレーム(2)の差分は閾値以上となり、そして、フレーム(3)の差分も閾値以上となり、フレーム(2)および(3)の2フレーム分の差分が閾値以上となるので、最初に差分が閾値以上となったフレーム(2)がIN点の候補のフレームとなる。同様に、フレーム(7)もIN点の候補のフレームとなる。また、2フレーム分以上連続ではなく、1フレーム分のみの差分が閾値以上となった場合は、ノイズの可能性があるので、そのフレームはIN点の候補のフレームとしない。
一方、変化点検出部306は、演算した差分が2フレーム分以上連続して所定の閾値未満となった場合、最初に差分が所定の閾値未満となったフレームをOUT点の候補のフレームとする。図10(b)の例では、フレーム(4)の差分は閾値以上、フレーム(5)の差分は閾値未満、そして、フレーム(6)の差分も閾値未満となり、フレーム(5)および(6)の2フレーム分の差分が閾値未満となるので、最初に差分が閾値未満となったフレーム(5)がOUT点の候補のフレームとなる。ここで、フレーム(12)は、差分が所定の閾値未満となっているが、後に続くフレーム(13)は、変化点検出部306が抽出したフレーム以外のフレームであるので、OUT点の候補のフレームとしない。また、2フレーム分以上連続ではなく、1フレーム分のみの差分が閾値未満となった場合は、ノイズの可能性があるので、そのフレームはOUT点の候補のフレームとしない。
以上のように、変化点検出部306は、図10の例では、IN点の候補のフレームとしてフレーム(2)および(7)を特定し、OUT点の候補のフレームとしてフレーム(5)を特定する。このように、変化点検出部306は、IN点の候補のフレームが複数特定された場合、取得したフレームの真中のフレーム(6)に最も近いフレーム、すなわちフレーム(7)をIN点のフレームに決定する。なお、図10の例では、OUT点の候補のフレームとして、1つのフレーム(フレーム(5))のみ特定されているが、IN点の候補と同様に、複数のフレームがOUT点の候補のフレームとして特定される場合もある。このように、OUT点の候補のフレームが複数特定された場合、変化点検出部306は、IN点の候補と同様に、取得したフレームの真中のフレーム(6)に最も近いフレームをOUT点のフレームに決定する。図10の例では、OUT点の候補のフレームはフレーム(5)のみなので、変化点検出部306は、フレーム(5)をOUT点のフレームに決定する。以上のように、変化点検出部306は、取得した所定時間分のフレームから、IN点のフレームおよびOUT点のフレームを決定することにより、変化点(IN点およびOUT点)を検出する。
なお、変化点検出部306は、変化点を検出した場合、変化点のフレームの前のフレーム、もしくは後のフレーム、または前後のフレームを用いて、トリガ領域530内の動体検知を行い、どの方向から動体が入ってきたのかを示すベクトル情報を記憶部302に記憶させるものとしてもよい。この場合、トリガ生成部313は、記憶部302に記憶されたベクトル情報を用いて、動体がベクトル情報の示す方向と同一の方向から動いてきたか否かを確認し、その確認結果に基づいてトリガ信号を生成するものとしてもよい。
また、変化点検出部306によるトリガ領域530における変化点の検出方法は、上述の方法に限定されるものではなく、トリガを発生させるタイミングを規定する変化点であれば、どのように変化点を検出してもよい。
また、上述のように、変化点検出部306は、差分が2フレーム分以上連続して所定の閾値以上となった場合、最初に差分が所定の閾値以上となったフレームをIN点の候補のフレームとするものとしているが、これに限定されるものではない。すなわち、差分が2フレーム分以上連続ではなく、その他の数以上のフレームが連続して所定の閾値以上となった場合としてもよい。これは、OUT点の候補のフレームを見つける場合についても同様である。
また、図10では、IN点およびOUT点の双方のフレームが見つかる例を示したが、変化点検出部306は、IN点のフレームのみ、または、OUT点のフレームのみを見つける場合もあり、この場合は、これらのIN点またはOUT点を変化点として検出する。この場合、変化点検出部306は、検出した変化点のフレームのトリガ領域530内の画像を差分画像として抽出する。変化点検出部306は、抽出したトリガ基準画像、および変化点のフレームにおける差分画像を記憶部302に記憶させ、トリガ基準画像を基準画像表示部508aに表示させ、差分画像を差分画像表示部508bに表示させる。さらに、変化点検出部306は、シークバー504において、検出した変化点のフレームの時刻に対応する部分にトリガマーク540を表示する。また、変化点検出部306により変化点が検出された場合、トリガ領域指定部305は、段取り番号表示部515に表示された段取り番号に関連付けて、指定したトリガ領域530の情報を記憶部302に記憶させる。なお、ここで記憶部302により記憶されるトリガ領域530の情報は、例えば、ベース領域570との相対位置を示す情報、およびトリガ領域530の形状等の情報である。また、設定部308は、トリガ領域指定部305により指定されたトリガ領域530に命名した名前、ならびに、変化点検出部306の変化点の検出に利用された所定の感度(例えば、「50」)および所定の閾値(例えば、「20%」)(デフォルト値)を、トリガ領域情報部507に表示させる。設定部308は、トリガ領域530の名前として、図8に示すように、例えば、「6」の撮像装置(撮像装置2f)の映像データに対して指定されたトリガ領域であるものとして、「TR6」と命名する。
図11に示す設定画面500は、変化点検出部306によって、トリガ領域指定部305により指定されたトリガ領域530において変化点が上述のように2つ(IN点およびOUT点)検出された場合に、変化点選択ダイアログ600が表示された状態を示している。このように、変化点検出部306は、変化点を2つ以上検出した場合、基準画像を抽出した時点に最も近い2つの変化点(IN点およびOUT点)のうちいずれをトリガの生成のために利用するかを選択するための変化点選択ダイアログ600を表示部317に表示させる。変化点選択ダイアログ600は、はいボタン601と、いいえボタン602と、閉じるボタン603と、を含む。閉じるボタン603は、変化点選択ダイアログ600を閉じるためのボタンである。
ユーザによる入力部303の操作によって、はいボタン601を押下した場合、変化点検出部306は、IN点を変化点として検出し、IN点のフレームのトリガ領域530内の画像を差分画像として抽出する。そして、変化点検出部306は、段取り番号表示部515に表示された段取り番号に関連付けて、抽出したトリガ基準画像、およびIN点のフレームにおける差分画像を記憶部302に記憶させ、トリガ基準画像を基準画像表示部508aに表示させ、差分画像を差分画像表示部508bに表示させる。さらに、変化点検出部306は、シークバー504において、検出したIN点のフレームの時刻に対応する部分にトリガマーク540を表示する。
一方、ユーザによる入力部303の操作によって、いいえボタン602を押下した場合、変化点検出部306は、OUT点を変化点として検出し、OUT点のフレームのトリガ領域530内の画像を差分画像として抽出する。そして、変化点検出部306は、段取り番号表示部515に表示された段取り番号に関連付けて、抽出したトリガ基準画像、およびOUT点のフレームにおける差分画像を記憶部302に記憶させ、トリガ基準画像を基準画像表示部508aに表示させ、差分画像を差分画像表示部508bに表示させる。さらに、変化点検出部306は、シークバー504において、検出したOUT点のフレームの時刻に対応する部分にトリガマーク540を表示する。その他の動作は、図9で上述した動作と同様である。
このように、変化点検出部306により変化点としてIN点およびOUT点が検出され、ユーザにより2つの変化点のいずれかを選択できるようにすることにより、ユーザが真に指定を所望する変化点を選択させることができる。
図12に示す設定画面500は、変化点検出部306によって、トリガ領域指定部305により指定されたトリガ領域530において変化点が見つからなかった場合に、変化点無し通知ダイアログ610が表示された状態を示している。変化点検出部306は、上述の図10で説明した動作において、演算した差分が所定の閾値以上とならず、変化点が検出できない場合がある。この場合、変化点検出部306は、変化点が見つからなかった旨を示す変化点無し通知ダイアログ610を表示部317に表示させる。
変化点無し通知ダイアログ610は、OKボタン611と、閉じるボタン612と、を含む。閉じるボタン612は、変化点無し通知ダイアログ610を閉じるためのボタンである。ユーザによる入力部303の操作によって、OKボタン611を押下した場合、変化点検出部306は、記憶部302に何の情報も記憶せず、基準画像表示部508aおよび差分画像表示部508bにも画像を表示させずに、変化点無し通知ダイアログ610を閉じる。
(検知領域の指定および検知領域の属性情報の設定)
図13は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部に検知領域を指定する例を示す図である。図14は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部に2つ目の検知領域を指定する例を示す図である。図15は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部で指定した検知領域の属性情報を設定する例を示す図である。図13〜15を参照しながら、検知領域の指定および検知領域の属性情報の設定について説明する。
図13は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部に検知領域を指定する例を示す図である。図14は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部に2つ目の検知領域を指定する例を示す図である。図15は、実施の形態に係る情報処理装置の表示装置に表示される設定画面において設定用映像表示部で指定した検知領域の属性情報を設定する例を示す図である。図13〜15を参照しながら、検知領域の指定および検知領域の属性情報の設定について説明する。
図13に示す設定画面500は、第1再生部304により映像データが再生表示されている設定用映像表示部502において検知領域535が指定された状態を示している。具体的には、まず、設定用映像表示部502において映像データの再生表示中に、画像判定を所望する画像の部分が表示されているタイミングで、ユーザによる入力部303の操作によって一時停止ボタン503bが押下されると、第1再生部304は、設定用映像表示部502に再生表示されている映像データを一時停止し、その時点のフレームの撮像日付および撮像時刻を時刻表示部506に表示させる。
次に、ユーザによる入力部303の操作(例えば、マウス108のドラッグ操作)によって、検知領域指定部307は、設定用映像表示部502において検知領域535(判定領域)を指定して表示させる。ただし、検知領域指定部307が、検知領域535を指定できるのは、トリガ領域情報部507において、トリガ領域指定部305により指定されたトリガ領域が選択(図13の例では「TR6」)されている必要がある。すなわち、検知領域指定部307により指定された検知領域535は、トリガ領域情報部507において選択されたトリガ領域と関連付けられる。
また、設定部308は、検知領域535の属性情報として、検知領域指定部307により指定された検知領域535に命名した名前、ならびに、デフォルト値として、後述する画像判定で使用する所定の感度(例えば、「50」)、所定の閾値(例えば、「20%」)、監視方法(例えば、「グレースケール」)、アクションの有無(例えば、「なし」)および画像判定の方法(例えば、「一致」)を、検知領域情報部509に表示させる。設定部308は、検知領域535の名前として、図13に示すように、例えば、トリガ領域「TR6」に関連付けられた1番目の領域であるものとして、「K61」と命名する。また、設定部308は、変化点検出部306によって検出された変化点の時刻に対して、検知領域指定部307により検知領域535が指定された時点のフレームの時刻の遅延時間(図13の例では「2.14」)を属性情報として算出して、検知領域情報部509に表示させる。すなわち、この場合、「K61」と命名された検知領域535では、トリガのタイミングから「2.14」秒後に画像判定が行われるように設定されたことになる。また、設定部308は、段取り番号表示部515に表示された段取り番号に関連付けて、検知領域情報部509に表示させた検知領域535の属性情報を記憶部302に記憶させる。
また、検知領域指定部307は、段取り番号表示部515に表示された段取り番号に関連付けて、検知領域535を指定した時刻の検知領域535内の画像を検知基準画像として抽出して記憶部302に記憶させ、指定した検知領域535の情報を記憶部302に記憶させる。なお、ここで記憶部302により記憶される検知領域535の情報は、例えば、ベース領域570との相対位置を示す情報、および検知領域535の形状等の情報である。
図14に示す設定画面500は、第1再生部304により映像データが再生表示されている設定用映像表示部502において2つ目の検知領域である検知領域536が指定された状態を示している。具体的には、まず、設定用映像表示部502において映像データの再生表示(一時停止)中に、ユーザによる入力部303の操作によってシークバー504のスライダー505をスライドさせて、画像判定を所望する画像の部分が表示されているタイミングに調整する。第1再生部304は、設定用映像表示部502に一時停止されている映像データのフレームの撮像日付および撮像時刻を時刻表示部506に表示させる。
次に、ユーザによる入力部303の操作(例えば、マウス108のドラッグ操作)によって、検知領域指定部307は、設定用映像表示部502において2つ目の検知領域である検知領域536(判定領域)を指定して表示させる。ただし、検知領域指定部307が、検知領域536を指定できるのは、検知領域535の指定の場合と同様に、トリガ領域情報部507において、トリガ領域指定部305により指定されたトリガ領域が選択(図14の例では「TR6」)されている必要がある。すなわち、検知領域指定部307により指定された検知領域536は、トリガ領域情報部507において選択されたトリガ領域と関連付けられる。
また、設定部308は、検知領域536の属性情報として、検知領域指定部307により指定された検知領域536に命名した名前、ならびに、デフォルト値として、後述する画像判定で使用する所定の感度(例えば、「50」)、所定の閾値(例えば、「20%」)、監視方法(例えば、「グレースケール」)、アクションの有無(例えば、「なし」)および画像判定の方法(例えば、「一致」)を、検知領域情報部509に表示させる。設定部308は、検知領域536の名前として、図14に示すように、例えば、検知領域「TR6」に関連付けられた2番目の領域であるものとして、「K62」と命名する。また、設定部308は、変化点検出部306によって検出された変化点の時刻に対して、検知領域指定部307により検知領域536が指定された時点のフレームの時刻の遅延時間(図14の例では「−1.86」)を属性情報として算出して、検知領域情報部509に表示させる。すなわち、この場合、「K62」と命名された検知領域535では、トリガのタイミングから「1.86」秒前に画像判定が行われるように設定されたことになる。また、設定部308は、段取り番号表示部515に表示された段取り番号に関連付けて、検知領域情報部509に表示させた検知領域536の属性情報を、記憶部302に記憶させる。
また、検知領域指定部307は、段取り番号表示部515に表示された段取り番号に関連付けて、検知領域536を指定した時刻の検知領域536内の画像を検知基準画像として抽出して記憶部302に記憶させ、指定した検知領域536の情報を記憶部302に記憶させる。
図15に示す設定画面500は、検知領域情報部509に属性情報が表示された検知領域「K61」(検知領域535)、「K62」(検知領域536)のうち「K62」が選択された状態を示している。図15を参照しながら、検知領域の属性情報の編集について説明する。
まず、図15に示すように、ユーザによる入力部303の操作によって、検知領域情報部509に属性情報が表示された検知領域のいずれかを選択すると、設定部308は、選択された検知領域情報部509の検知領域の属性情報の表示部分を反転表示させる。以下、図15に示すように検知領域536(検知領域名「K62」)が選択されたものとして説明する。
次に、例えば、ユーザによる入力部303の操作によって、アクションボタン510aを押下すると、設定部308は、選択された検知領域536のアクションの有無の設定値を切り替える。例えば、検知領域536のアクションの有無が「なし」となっている場合、アクションボタン510aが押下されると、設定部308は、検知領域536のアクションの有無を「あり」に設定する。一方、検知領域536のアクションの有無が「あり」となっている場合、アクションボタン510aが押下されると、設定部308は、検知領域536のアクションの有無を「なし」に設定する。後述するように、アクションの有無が「あり」となっている場合、検知領域判定部314によってその検知領域における画像判定で異常と判定された場合、外部出力部316が異常信号を出力する。
また、例えば、ユーザによる入力部303の操作によって、画像判定選択ボタン510bを押下すると、設定部308は、選択された検知領域536の画像判定の方法の設定値を切り替える。例えば、検知領域536の画像判定の方法が「一致」となっている場合、画像判定選択ボタン510bが押下されると、設定部308は、検知領域536の画像判定の方法を「不一致」に設定する。一方、検知領域536の画像判定の方法が「不一致」となっている場合、画像判定選択ボタン510bが押下されると、設定部308は、検知領域536の画像判定の方法を「一致」に設定する。
後述するように、画像判定の方法が「一致」となっている場合、検知領域判定部314は、抽出した画像と、検知基準画像との差分が属性情報の閾値以上の場合、異常と判定する。このように、画像判定の方法が「一致」とする場合の例としては、ワークに部品を挿入する設備において、部品がワークに挿入されている状態を検知基準画像とし、ワークへの部品の挿入動作が終了したタイミングで画像判定する場合が挙げられる。この場合、ワークへの部品の挿入動作が失敗し、正常に部品が挿入されていない状態で検知領域判定部314により画像判定が実行されると、検知基準画像との差分が属性情報の閾値以上となり、異常と判定されることになる。
一方、画像判定の方法が「不一致」となっている場合、検知領域判定部314は、抽出した画像と、検知基準画像との差分が属性情報の閾値未満の場合、異常と判定する。このように、画像判定の方法が「不一致」とする場合の例としては、ワークに部品を挿入する設備において、部品がワークに挿入されていない状態を検知基準画像とし、ワークへの部品の挿入動作が終了したタイミングで画像判定する場合が挙げられる。この場合、ワークへの部品の挿入動作が失敗し、正常に部品が挿入されていない状態で検知領域判定部314により画像判定が実行されると、検知基準画像との差分が属性情報の閾値未満となり、異常と判定されることになる。なお、部品がワークに挿入されていない状態を検知基準画像とする事情としては、完成品としての部品が挿入されたワークを準備するのが困難である場合等が挙げられる。
また、例えば、ユーザによる入力部303の操作によって、削除ボタン510cを押下すると、設定部308は、検知領域情報部509に表示された検知領域536の属性情報を消去し、記憶部302に記憶された検知領域536の属性情報を削除する。また、検知領域指定部307は、設定用映像表示部502に表示された検知領域536を消去し、記憶部302に記憶された検知基準画像および検知領域536の情報を削除する。
また、例えば、ユーザによる入力部303の操作によって、感度増加ボタン510eを押下すると、設定部308は、選択された検知領域536の画像判定に用いられる感度の値を所定値だけ増加させる。一方、ユーザによる入力部303の操作によって、感度減少ボタン510fを押下すると、設定部308は、選択された検知領域536の画像判定に用いられる感度の値を所定値だけ減少させる。
また、例えば、ユーザによる入力部303の操作によって、閾値増加ボタン510gを押下すると、設定部308は、選択された検知領域536の画像判定に用いられる閾値の値を所定値だけ増加させる。一方、ユーザによる入力部303の操作によって、閾値減少ボタン510hを押下すると、設定部308は、選択された検知領域536の画像判定に用いられる閾値の値を所定値だけ減少させる。
(段取り替え動作)
<段取り番号の指定>
図16は、実施の形態に係る情報処理装置の表示装置に表示されるメイン画面において指定した段取り番号が検索できなかった場合に表示されるダイアログの一例を示す図である。図16を参照しながら、メイン画面400において、段取り替え動作時に段取り番号を指定する動作について説明する。
<段取り番号の指定>
図16は、実施の形態に係る情報処理装置の表示装置に表示されるメイン画面において指定した段取り番号が検索できなかった場合に表示されるダイアログの一例を示す図である。図16を参照しながら、メイン画面400において、段取り替え動作時に段取り番号を指定する動作について説明する。
図16に示すメイン画面400は、ユーザによる入力部303の操作(例えば、キーボード107の入力操作)によって、段取り番号入力部415に段取り番号「F9876543」が入力された状態を示している。具体的には、まず、ユーザは、段取り替えを所望する撮像装置2を特定し、入力部303の操作によって、段取り替えを行う設定情報に対応する段取り番号を段取り番号入力部415に入力する。そして、ユーザは、入力部303の操作によって、段取り替えボタン414を押下する。
入力部303の操作により段取り替えボタン414が押下されると、段取り制御部327は、段取り番号入力部415に入力された段取り番号に対応する設定情報が、記憶部302に記憶されているか否かを検索する。具体的には、段取り制御部327は、上述の図5に示した設定情報のディレクトリ構造に、段取り番号入力部415に入力された段取り番号の名前のルートフォルダが存在するか否かを確認する。
図16に示すメイン画面400は、また、段取り番号入力部415に入力された段取り番号に対応する設定情報が記憶部302に記憶されていない場合に、記憶されてないことを示す段取り番号無し通知ダイアログ620が表示された状態を示している。段取り制御部327は、段取り番号に対応する設定情報が記憶部302に記憶されていない場合、段取り番号無し通知ダイアログ620を表示させる。
段取り番号無し通知ダイアログ620は、OKボタン621と、閉じるボタン622と、を含む。閉じるボタン622は、段取り番号無し通知ダイアログ620を閉じるためのボタンである。ユーザによる入力部303の操作によって、OKボタン621が押下された場合、段取り制御部327は、後述する段取り替え画面700を表示させずに、段取り番号無し通知ダイアログ620を閉じる。
一方、段取り制御部327は、段取り番号に対応する設定情報が記憶部302に記憶されている場合、メイン画面400から、後述する段取り替え画面700に遷移させる。
なお、段取り番号入力部415の段取り番号は、入力部303により入力されるものとしたが、これに限定されるものではなく、例えば、アプリケーションが起動した場合に、段取り制御部327が、記憶部302に記憶されている設定情報が格納されたルートフォルダの名称(段取り番号)を抽出し、段取り番号入力部415にプルダウン表示するものとしてもよい。この場合、ユーザは、入力部303により段取り番号をすべて入力する必要はなく、表示されたプルダウンから所望の段取り番号を選択操作すればよい。また、情報処理装置3にバーコードリーダが接続されており、段取り番号がエンコードされたバーコードを読み取ることによって、段取り番号が段取り番号入力部415に入力されるものとしてもよい。
<撮像装置静止後のマッチング動作>
図17は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において基準静止画像およびリアルタイム映像が表示される状態の一例を示す図である。図18は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において基準静止画像に合せたリアルタイム映像となるようにカメラを設置した状態の一例を示す図である。図19は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面におけるリアルタイム映像におけるマッチング動作中に表示されるダイアログの一例を示す図である。図20は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面におけるリアルタイム映像においてマッチングできなかった場合の状態の一例を示す図である。図21は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面におけるリアルタイム映像において他の設定領域が表示枠をはみ出した場合の状態の一例を示す図である。図17〜21を参照しながら、段取り替え画面700において、撮像装置2を設置位置に静止させた場合に自動起動するマッチング動作について説明する。
図17は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において基準静止画像およびリアルタイム映像が表示される状態の一例を示す図である。図18は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において基準静止画像に合せたリアルタイム映像となるようにカメラを設置した状態の一例を示す図である。図19は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面におけるリアルタイム映像におけるマッチング動作中に表示されるダイアログの一例を示す図である。図20は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面におけるリアルタイム映像においてマッチングできなかった場合の状態の一例を示す図である。図21は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面におけるリアルタイム映像において他の設定領域が表示枠をはみ出した場合の状態の一例を示す図である。図17〜21を参照しながら、段取り替え画面700において、撮像装置2を設置位置に静止させた場合に自動起動するマッチング動作について説明する。
図17に示すように、段取り替え画面700は、段取り番号表示部701と、基準画像表示部702aと、抽出画像表示部702bと、基準静止画像表示部703a(第1表示領域)と、リアルタイム映像表示部703b(第2表示領域)と、作業指示表示部704と、作業進捗表示部705と、カメラ実施状況表示部706と、中止ボタン707と、を含む。
段取り番号表示部701は、上述のメイン画面400の段取り番号入力部415に操作入力された段取り番号を表示する表示部である。
基準画像表示部702aは、画像抽出部324によって記憶部302から読み出された、段取り番号に対応するベース基準画像を表示する表示部である。抽出画像表示部702bは、画像抽出部324によって、リアルタイム映像表示部703bに表示されるリアルタイムの映像データのフレームから仮ベース領域802内の画像として抽出された抽出画像を表示する表示部である。
基準静止画像表示部703aは、画像抽出部324によって記憶部302から読み出された、段取り番号に対応する基準静止画像を表示する表示部である。リアルタイム映像表示部703bは、映像表示部322によって、段取り替え動作の対象となる撮像装置2のリアルタイムの映像データが表示される表示部である。
作業指示表示部704は、段取り替え動作において、段取り替えの段階に応じたメッセージ情報を表示する表示部である。作業進捗表示部705は、段取り替え動作の進捗状況を示す表示部である。カメラ実施状況表示部706は、段取り番号表示部701に表示されている段取り番号に関連付けられた撮像装置2の段取り替え動作の実施状態を示す表示部である。
中止ボタン707は、ユーザによる入力部303の操作によって押下されると、段取り制御部327によって、段取り替え動作が中止され、段取り替え画面700からメイン画面400に遷移されるボタンである。
図17に示す段取り替え画面700は、段取り制御部327によって、メイン画面400の段取り番号入力部415に入力された段取り番号に対応する設定情報が記憶部302に記憶されていると判定された場合に、メイン画面400から遷移された状態を示している。このとき、段取り番号表示部701には、段取り制御部327によって、メイン画面400の段取り番号入力部415に操作入力された段取り番号が表示される。
基準画像表示部702aには、画像抽出部324によって、記憶部302から読み出された、段取り番号表示部701に表示された段取り番号(以降、段取り替え動作の説明においては、単に「段取り番号」と称するものとする)に対応するベース基準画像が表示される。また、基準静止画像表示部703aには、画像抽出部324によって、記憶部302から読み出された、段取り番号に対応する基準静止画像が表示される。また、リアルタイム映像表示部703bには、映像表示部322によって、段取り替え動作の対象となる撮像装置2(図17では、「CAM6」すなわち撮像装置2f)のリアルタイムの映像データが表示される。さらに、抽出画像表示部702bには、画像抽出部324によって、リアルタイム映像表示部703bに表示されるリアルタイムの映像データのフレームから仮ベース領域802内の画像として抽出された抽出画像が表示される。
基準静止画像表示部703aには、ベース領域特定部323によって、基準静止画像に重畳して、ベース領域指定部331により指定されたベース領域570に対応する位置に第1ベース領域801(第1基準領域)が表示される。基準静止画像における第1ベース領域801内の画像が、ベース基準画像に相当する。
リアルタイム映像表示部703bには、ベース領域特定部323によって、基準静止画像表示部703aにおける第1ベース領域801の位置に相当する位置に仮ベース領域802が表示される。リアルタイム映像表示部703bに表示される映像データにおける仮ベース領域802内の画像が、抽出画像に相当する。
カメラ実施状況表示部706には、メッセージ制御部321によって、段取り番号(図17では「A1234567」)に関連付けられた撮像装置2(「CAM6」である撮像装置2f、「CAM2」である撮像装置2b、および「CAM4」である撮像装置2d)に対する段取り替えが未実施であることが示されている。段取り替え動作の対象を単に撮像装置2と表現して説明する。
図17に示すように、リアルタイム映像表示部703bに表示される映像データのフレームは、基準静止画像表示部703aに表示された基準静止画像と異なるので、撮像装置2の設置位置を変更する必要がある。そこで、メッセージ制御部321は、作業指示表示部704に、段取り替えの対象となる撮像装置2の位置を調整するように促すメッセージ情報を表示させ、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階であること表示させる。
図18に示す段取り替え画面700は、ユーザによって、段取り替えの対象となる撮像装置2の位置が、基準静止画像で示される位置の近傍に調整された状態を示している。ユーザが撮像装置2の位置を調整する間、映像表示部322は、リアルタイム映像表示部703bに表示されるリアルタイムの映像データのフレームから抽出画像(仮ベース領域802内の画像)を抽出して、抽出画像表示部702bに表示させる。ユーザによって、段取り替えの対象となる撮像装置2の位置が、基準静止画像で示される位置の近傍に調整された結果、図18に示すように、基準静止画像表示部703aに表示された基準静止画像と、リアルタイム映像表示部703bに表示された映像データのフレームとは、大体一致している。
ユーザによって、撮像装置2が、図18に示すような位置に移動され、静止判定部325によって、撮像装置2が静止しているか否かの判定が実行される。静止判定部325によって、撮像装置2が静止していると判定されると、ベース領域特定部323は、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像を探索(サーチ)するマッチング動作(第1マッチング動作)を実行する。ここで、マッチング動作の対象となるリアルタイム映像表示部703bの映像データのフレームとしては、例えば、静止判定部325によって撮像装置2が静止していると判定された時点でのフレームとすればよい。ここで、「一致する」とは、完全に一致する場合だけではなく、一致しているとみなせる程度に近似している状態も含む。なお、ベース領域特定部323は、リアルタイム映像表示部703bに表示されたフレーム全体に対してマッチング動作を実行することに限定されるものではなく、例えば、表示されている仮ベース領域802(この時点では、第1ベース領域801に対応する位置に表示)の上下左右の所定のピクセル(例えば、30ピクセル)の範囲でマッチング動作を実行するものとしてもよい。また、マッチング動作の方法としては、周知のテンプレートマッチングの方法であればよく、例えば、SAD(Sum of Absolute Difference)、SSD(Sum of Squared Difference)、NCC(Normalized Cross−Correlation)またはPOC(Phase−Only Correlation)等が適用できる。
上述の静止判定部325による撮像装置2が静止しているか否かの判定、すなわち、リアルタイム映像表示部703bに表示されているリアルタイムの映像データが静止しているか否かの判定は、例えば、以下の方法で行う。まず、静止判定部325は、リアルタイムの映像データの各フレームをグレースケール化して、画素値が、例えば、0〜255の値の輝度値で構成されるようにする。次に、静止判定部325は、リアルタイムの映像データの前後のフレームの輝度値の差分を、対応する各画素で算出する。次に、静止判定部325は、算出した各画素の輝度値の差分について、所定値(例えば、30)以下の差分に対応する画素が画像全体の所定の割合(例えば、95%)より大きい場合、前後のフレームは同一であると判定する。そして、静止判定部325は、前後のフレームが同一であると判定する動作が所定時間(例えば、2秒)継続した場合、リアルタイム映像表示部703bに表示されているリアルタイムの映像データが静止していると判定する。
図19に示す段取り替え画面700は、静止判定部325により撮像装置2が静止していると判定された場合に、ベース領域特定部323によるマッチング動作が実行され、サーチ進捗ダイアログ630が表示された状態を示している。具体的には、ベース領域特定部323は、静止判定部325によって撮像装置2が静止していると判定されると、サーチ進捗ダイアログ630を表示させ、上述のマッチング動作を実行する。サーチ進捗ダイアログ630は、マッチング動作の進捗状況を示すプログレスバーを表示するダイアログである。また、メッセージ制御部321は、ベース領域特定部323によるマッチング動作が実行されている間、作業指示表示部704に、マッチング動作が実行されている旨を示すメッセージ情報(図19の例では、「現在システムによるチェック中です」と表示)を表示させる。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「2.システムによるチェック」の段階であることを表示させる。
ベース領域特定部323によるマッチング動作の結果、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像が見つからなかった場合、図20に示すように、メッセージ制御部321は、作業指示表示部704に、その旨を示すメッセージ情報を表示させる。また、マッチング動作の結果、ベース基準画像と一致する画像が見つからなかったので、ユーザは、撮像装置2の位置を再調整する必要があるため、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階に戻る表示をさせる。
また、ベース領域特定部323によるマッチング動作の結果、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像は見つかったが、一致した画像(仮ベース領域802で表示される)の位置によって定まる他の検知領域等(上述のトリガ領域530、検知領域535および検知領域536等)が、リアルタイム映像表示部703bの枠からはみ出る場合、図21に示すように、メッセージ制御部321は、作業指示表示部704に、その旨を示すメッセージ情報を表示させる。また、マッチング動作が成功しなかったので、ユーザは、撮像装置2の位置を再調整する必要があるため、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階に戻る表示をさせる。
<撮像装置固定後のマッチング動作>
図22は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面におけるリアルタイム映像においてマッチングができた場合に表示されるダイアログの一例を示す図である。図23は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において最終チェックのためのマッチング動作中に表示されるダイアログの一例を示す図である。図24は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において最終チェックのためのマッチング動作の結果、マッチングできなかった場合の状態の一例を示す図である。図25は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において次のカメラの段取り替えを促すために表示されるダイアログの一例を示す図である。図26は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において段取り替えが終了した場合に表示されるダイアログの一例を示す図である。図22〜26を参照しながら、段取り替え画面700において、撮像装置2を固定させた場合に実行する最終的なマッチング動作について説明する。
図22は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面におけるリアルタイム映像においてマッチングができた場合に表示されるダイアログの一例を示す図である。図23は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において最終チェックのためのマッチング動作中に表示されるダイアログの一例を示す図である。図24は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において最終チェックのためのマッチング動作の結果、マッチングできなかった場合の状態の一例を示す図である。図25は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において次のカメラの段取り替えを促すために表示されるダイアログの一例を示す図である。図26は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面において段取り替えが終了した場合に表示されるダイアログの一例を示す図である。図22〜26を参照しながら、段取り替え画面700において、撮像装置2を固定させた場合に実行する最終的なマッチング動作について説明する。
ベース領域特定部323は、マッチング動作が成功した場合、図22に示すように、マッチング動作が成功した旨、および、撮像装置2の固定を促す旨を示す仮調整結果通知ダイアログ640を表示させる。仮調整結果通知ダイアログ640は、OKボタン641と、閉じるボタン642と、を含む。OKボタン641は、後述するように、ベース領域決定部326に最終的なマッチング動作を実行させるためのボタンである。閉じるボタン642は、仮調整結果通知ダイアログ640を閉じるためのボタンである。
また、ベース領域特定部323は、マッチング動作の結果、リアルタイム映像表示部703bに表示されたフレームにおいて、ベース基準画像と一致する画像を、仮ベース領域802(仮基準領域)を移動させて特定する。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「3.カメラを治具で固定」の段階であることを表示させる。
ユーザは、仮調整結果通知ダイアログ640で示されるメッセージに従って、撮像装置2を固定した後、入力部303の操作によりOKボタン641を押下する。すると、ベース領域決定部326は、図23に示すように、サーチ進捗ダイアログ630を表示させ、最終的なマッチング動作(最終確認のためのマッチング動作)(第2マッチング動作)を実行する。なお、ベース領域決定部326は、リアルタイム映像表示部703bに表示されたフレーム全体に対してマッチング動作を実行することに限定されるものではなく、例えば、表示されている仮ベース領域802(この時点では、ベース領域特定部323によるマッチング動作で探索された画像の位置に表示)の上下左右の所定のピクセル(例えば、30ピクセル)の範囲でマッチング動作を実行するものとしてもよい。また、ベース領域特定部323によるマッチング動作と同様に、第1ベース領域801に対応する位置から上下左右の所定のピクセルの範囲でマッチング動作を実行するものとしてもよい。
また、メッセージ制御部321は、ベース領域決定部326による最終的なマッチング動作が実行されている間、作業指示表示部704に、最終的なマッチング動作が実行されている旨を示すメッセージ情報(図23の例では、「現在システムによる最終チェック中です」と表示)を表示させる。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「4.システムによる最終チェック」の段階であることを表示させる。
ベース領域決定部326による最終的なマッチング動作の結果、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像が見つからなかった場合、図24に示すように、メッセージ制御部321は、作業指示表示部704に、その旨を示すメッセージ情報を表示させる。また、マッチング動作の結果、ベース基準画像と一致する画像が見つからなかったので、ユーザは、撮像装置2の位置を再調整する必要があるため、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階に戻る表示をさせる。ここで、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像が見つからない場合の例として、ユーザによる撮像装置2の固定時に、撮像装置2の撮像方向がずれてしまった場合等が挙げられる。なお、ベース基準画像と一致する画像は見つかったが、一致した画像(仮ベース領域802で表示される)の位置によって定まる他の検知領域等(上述のトリガ領域530、検知領域535および検知領域536等)が、リアルタイム映像表示部703bの枠からはみ出る場合における処置については、上述のベース領域特定部323によるマッチング動作と同様である。
ベース領域決定部326は、最終的なマッチング動作が成功した場合、図25および26に示すように、リアルタイム映像表示部703bに表示されたフレームにおいて、ベース基準画像と一致する画像を、仮ベース領域802を移動させて第2ベース領域802a(第2基準領域)として示す。すなわち、ベース領域決定部326は、第2ベース領域802aの位置を、基準静止画像表示部703aの第1ベース領域801に対応する位置から補正した位置に決定することになる。そして、ベース領域決定部326は、段取り番号に関連付けて、決定した第2ベース領域802aの情報を記憶部302に記憶させる。ここで、第2ベース領域802aの情報とは、例えば、第2ベース領域802aの位置を示す情報、および第2ベース領域802aの形状等の情報である。これによって、図25および26の例では、「CAM6」の撮像装置2、すなわち、撮像装置2fについての段取り替え動作が完了する。そして、メッセージ制御部321は、カメラ実施状況表示部706に、段取り番号に関連付けられた撮像装置2f(「CAM6」)について段取り替え動作が完了したことを示すために「実施完了」と表示させる。
また、段取り番号に関連付けられた1つの撮像装置2(上述では撮像装置2f)の段取り替え動作が完了し、同じく同一の段取り番号に関連付けられた撮像装置2であって、段取り替え動作が完了していない撮像装置2(図25の例では、「CAM2」および「CAM4」)が存在する場合、段取り制御部327は、図25に示すように、次の撮像装置2についての段取り替え動作に移行する旨を示す次カメラ処理ダイアログ650を表示させる。また、メッセージ制御部321は、作業進捗表示部705に、次の撮像装置2の段取り替え動作が行われるので、作業進捗として「5.次のカメラの段取りに進む」の段階であることを表示させる。
次カメラ処理ダイアログ650は、OKボタン651と、閉じるボタン652と、を含む。OKボタン651は、次の撮像装置2の段取り替え動作を開始させるためのボタンである。閉じるボタン652は、次カメラ処理ダイアログ650を閉じるためのボタンである。
一方、段取り番号に関連付けられた1つの撮像装置2(上述では撮像装置2f)の段取り替え動作が完了し、同じく同一の段取り番号に関連付けられた撮像装置2であって、段取り替え動作が完了してない撮像装置2が存在しない場合、段取り制御部327は、図26に示すように、段取り番号に関連付けられたすべての撮像装置2の段取り替え動作が完了した旨を示す段取り替え終了ダイアログ660を表示させる。また、メッセージ制御部321は、この場合、カメラ実施状況表示部706に、段取り番号に関連付けられたすべての撮像装置2(「CAM6」、「CAM4」および「CAM2」)について段取り替え動作が完了しているので、すべての撮像装置2について「実施完了」と表示させている。また、メッセージ制御部321は、作業進捗表示部705に、段取り番号に関連付けられたすべての撮像装置2の段取り替え動作が完了したので、作業進捗として「6.段取り替え終了」の段階であることを表示させる。
段取り替え終了ダイアログ660は、OKボタン661と、閉じるボタン662と、を含む。OKボタン661は、段取り番号に関連付けられたすべての撮像装置2についての段取り替え動作を終了させるためのボタンである。閉じるボタン662は、段取り替え終了ダイアログ660を閉じるためのボタンである。
以上の段取り替え動作が完了することによって、段取り番号の段取り替えに対応する撮像装置2の設置位置が定まることになる。
(メイン画面における画像判定動作)
図27は、実施の形態に係る情報処理装置の表示装置に表示されるメイン画面において段取り替えが終了した後の状態の例を示す図である。図27を参照しながら、メイン画面400における画像判定動作について説明する。
図27は、実施の形態に係る情報処理装置の表示装置に表示されるメイン画面において段取り替えが終了した後の状態の例を示す図である。図27を参照しながら、メイン画面400における画像判定動作について説明する。
ユーザによる入力部303の操作によって、図26に示す段取り替え終了ダイアログ660のOKボタン661が押下されると、段取り制御部327は、段取り替え画面700からメイン画面400に遷移させる。図27に示すメイン画面400は、特定の段取り番号(図27の例では「A1234567」)に関連付けられた撮像装置2(撮像装置2b、2d、2f)についての段取り替え動作が終了した後に表示されたメイン画面400である。
段取り制御部327は、段取り替え動作が終了した撮像装置2b、2d、2fにそれぞれ対応する段取り番号表示部422b、422d、422fに、段取り番号を表示させる。また、段取り制御部327は、撮像装置2b、2d、2fについて段取り替え動作が終了したので、状態表示部421b、421d、421fそれぞれに「設定完了」と表示させる。
次に、ユーザは、入力部303の操作によって、画像判定動作(監視動作)を開始させたい撮像装置2に対応する映像表示部401を押下して選択状態にする。図27に示す例では、映像表示部401fが押下されて選択状態になった状態が示されている。そして、ユーザによる入力部303の操作によって、監視開始ボタン411が押下されると、映像表示部401fに表示される撮像装置2fのリアルタイムの映像データについて画像判定動作が開始される。このとき、段取り制御部327は、図27に示すように、撮像装置2fについて画像判定動作が実行中である旨を示すために、状態表示部421fに「監視中」と表示させる。
図27に示すメイン画面400は、複数の撮像装置2から受信した映像データをリアルタイムに表示し、映像表示部401fでトリガ領域「TR6」、ならびに検知領域「K61」および「K62」が指定された状態を示している。ここで、メイン画面400において指定されているトリガ領域および検知領域は、段取り替え画面700で位置が決定した第2ベース領域802aの位置と相対的に定まる位置に存在する。これは、記憶部302に記憶されているトリガ領域および検知領域の位置情報が、画像の表示領域における絶対位置の情報ではなく、ベース領域(ここでは、第2ベース領域802a)との相対位置を示す情報であるためである。なお、記憶部302に記憶されているトリガ領域および検知領域の位置情報は、表示領域の絶対位置の情報であってもよい。この場合、トリガ領域および検知領域の位置は、それぞれトリガ領域指定部305および検知領域指定部307によって、第1ベース領域801と第2ベース領域802aとのずれた量だけ補正されるものとすればよい。
具体的なメイン画面400における画像判定動作では、まず、映像振分部312が、映像受信部301から取得したリアルタイムの映像データを映像表示部401a〜401fに振り分けて表示させる。トリガ生成部313は、記憶部302から、変化点検出部306により検出された変化点のフレームにおける差分画像を取得する。そして、トリガ生成部313は、映像表示部401fで指定されているトリガ領域「TR6」において、差分画像と、映像データのフレームのトリガ領域の画像とを比較する。トリガ生成部313は、映像データのフレームのトリガ領域の画像が、変化点のフレームにおける差分画像と比較して、画素値が所定の感度以上異なる画素の数の合計である差分が所定の閾値未満となったタイミングでトリガ信号を生成する。
検知領域「K61」、「K62」の属性情報のうち検知遅延時間が図14に示す値に設定されているものとする。検知領域判定部314は、記憶部302から、指定された検知領域の属性情報を取得する。検知領域判定部314は、トリガ生成部313により生成されたトリガ信号を受け取ったときの設定時間前または設定時間後に、指定された検知領域において、検知基準画像と、映像データのフレームの検知領域の画像とを比較して異常であるか否かの画像判定をする。
具体的には、検知領域判定部314は、トリガ生成部313によりトリガ領域「TR6」に対応するトリガ信号を受け取った時点から、検知領域「K61」に対応する検知遅延時間「2.14」秒後の映像データのフレームの検知領域の画像と、検知基準画像とを比較して異常であるか否かの画像判定をする。このとき、画像判定として、検知領域判定部314は、検知基準画像と、検知領域の画像との比較で、画素値が検知領域「K61」の属性情報の感度以上異なる画素の数の合計である差分が、当該属性情報の閾値以上となった場合に、検知領域「K61」の画像判定は異常と判定する。このように、検知領域判定部314が、トリガ信号を受け取った時点から先のタイミングで画像判定する場合の例としては、圧入機等の設備において、圧入動作開始のタイミングをトリガとして、圧入後の圧入状態を画像判定する場合が挙げられる。具体的には、トリガ生成部313は、圧入機がワークに対して圧入部品を圧入する動作を開始するタイミングをトリガとしてトリガ信号を生成する。その後、圧入機は、ワークに圧入部品を圧入し、圧入動作終了後、圧入機の各アクチュエータは原点位置に戻る。そして、検知領域判定部314は、圧入後のワークの圧入状態に対して画像判定を行う。この検知領域判定部314による画像判定のタイミングが、トリガ生成部313からトリガ信号を受けてから、検知遅延時間で設定された時間後のタイミングとなる。トリガ信号が生成される圧入動作の開始から、圧入後の圧入状態の画像判定が実行されるまでの時間は、圧入機による自動動作なので固定時間となり、トリガのタイミングから画像判定をするまでの検知遅延時間を固定の時間として設定できることになる。
また、検知領域判定部314は、トリガ生成部313によりトリガ領域「TR6」に対応するトリガ信号を受け取った時点から、検知領域「K62」に対応する検知遅延時間「−1・86」秒後、すなわち「1.86」秒前の映像データのフレームの検知領域の画像と、検知基準画像とを比較して異常であるか否かの画像判定をする。このように、検知領域判定部314が、トリガ信号を受け取った時点から前のタイミングで画像判定する場合の例としては、手動により圧入部品をワークに圧入する圧入機等の設備において、作業者が圧入後のワークを完成品入れに入れるタイミングをトリガとして、完成品入れに入れられる前に圧入器にセットされている状態の圧入後のワークを画像判定する場合が挙げられる。具体的には、まず、作業者が圧入前のワークを圧入機にセットする。次に、作業者は、圧入開始ボタンを押下し、圧入機がワークに対して圧入部品の圧入動作を開始する。圧入後、作業者は、圧入後のワークを取り上げて完成品入れに入れる。トリガ生成部313は、作業者が、圧入後のワークを完成品入れに入れるタイミングをトリガとしてトリガ信号を生成する。そして、検知領域判定部314は、トリガ信号を受け取った時点から、検知遅延時間で設定された時間前のタイミング、すなわち、完成品入れに入れられる前の圧入機にセットされているタイミングで、圧入後のワークを画像判定する。このように、トリガ信号が生成された時点から前のタイミングで圧入機にセットされているワークに対して画像判定することによって以下の事態を回避できる。すなわち、例えば、作業者がワークをセットした後に、昼休み等で作業現場を一時退去し、戻った後に圧入動作を忘れて、圧入前のワークを完成品入れに入れてしまう場合がある。この場合、完成品入れにワークを入れたタイミングをトリガとして、そのトリガの時点から検知遅延時間で設定された時間前のタイミングで画像判定することにより、作業者は、圧入前のワークであることを判断することができ、圧入前のワークが完成品入れに混入することを抑制することができる。
そして、外部出力部316は、検知領域判定部314により異常の判定がなされた場合、異常信号を外部機器10に出力する。
(段取り替え動作の全体的な流れ)
図28は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面における段取り替え動作の例を示すフローチャートである。図28を参照しながら、段取り替え動作の流れについて総括的に説明する。
図28は、実施の形態に係る情報処理装置の表示装置に表示される段取り替え画面における段取り替え動作の例を示すフローチャートである。図28を参照しながら、段取り替え動作の流れについて総括的に説明する。
<ステップS11>
ユーザは、入力部303の操作によって、メイン画面400(図4参照)の段取り番号入力部415に段取り替えをする段取り番号を入力する。ユーザによる入力部303の操作により段取り替えボタン414が押下されると、段取り制御部327は、段取り番号入力部415に入力された段取り番号に対応する設定情報が、記憶部302に記憶されているか否かを検索する。以下、段取り制御部327によって、記憶部302に記憶された段取り番号に対応する設定情報が検索された場合について説明する。そして、ステップS12へ移行する。
ユーザは、入力部303の操作によって、メイン画面400(図4参照)の段取り番号入力部415に段取り替えをする段取り番号を入力する。ユーザによる入力部303の操作により段取り替えボタン414が押下されると、段取り制御部327は、段取り番号入力部415に入力された段取り番号に対応する設定情報が、記憶部302に記憶されているか否かを検索する。以下、段取り制御部327によって、記憶部302に記憶された段取り番号に対応する設定情報が検索された場合について説明する。そして、ステップS12へ移行する。
<ステップS12>
段取り制御部327は、入力された段取り番号に関連付けられた撮像装置2による画像判定動作(監視動作)を停止させる。そして、段取り制御部327は、メイン画面400から段取り替え画面700に遷移させる。そして、ステップS13へ移行する。
段取り制御部327は、入力された段取り番号に関連付けられた撮像装置2による画像判定動作(監視動作)を停止させる。そして、段取り制御部327は、メイン画面400から段取り替え画面700に遷移させる。そして、ステップS13へ移行する。
<ステップS13>
メッセージ制御部321は、作業指示表示部704に、段取り替えの対象となる撮像装置2の位置を調整するように促すメッセージ情報を表示させ、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階であることを表示させる。ユーザが撮像装置2の位置を調整する間、映像表示部322は、リアルタイム映像表示部703bに表示されるリアルタイムの映像データのフレームから抽出画像(仮ベース領域802内の画像)を抽出して、抽出画像表示部702bに表示させる。ユーザは、撮像装置2を図18に示すような位置に移動させて静止させる。
メッセージ制御部321は、作業指示表示部704に、段取り替えの対象となる撮像装置2の位置を調整するように促すメッセージ情報を表示させ、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階であることを表示させる。ユーザが撮像装置2の位置を調整する間、映像表示部322は、リアルタイム映像表示部703bに表示されるリアルタイムの映像データのフレームから抽出画像(仮ベース領域802内の画像)を抽出して、抽出画像表示部702bに表示させる。ユーザは、撮像装置2を図18に示すような位置に移動させて静止させる。
<ステップS14>
静止判定部325は、撮像装置2が静止しているか否かの判定を実行する。静止判定部325によって、撮像装置2が静止していると判定されると、ベース領域特定部323は、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像を探索(サーチ)するマッチング動作を実行する。メッセージ制御部321は、ベース領域特定部323によるマッチング動作が実行されている間、作業指示表示部704に、マッチング動作が実行されている旨を示すメッセージ情報(図19の例では、「現在システムによるチェック中です」と表示)を表示させる。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「2.システムによるチェック」の段階であることを表示させる。そして、ステップS15へ移行する。
静止判定部325は、撮像装置2が静止しているか否かの判定を実行する。静止判定部325によって、撮像装置2が静止していると判定されると、ベース領域特定部323は、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像を探索(サーチ)するマッチング動作を実行する。メッセージ制御部321は、ベース領域特定部323によるマッチング動作が実行されている間、作業指示表示部704に、マッチング動作が実行されている旨を示すメッセージ情報(図19の例では、「現在システムによるチェック中です」と表示)を表示させる。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「2.システムによるチェック」の段階であることを表示させる。そして、ステップS15へ移行する。
<ステップS15>
ベース領域特定部323によるマッチング動作が成功(図28では「マッチングOK」と表記)した場合(ステップS15:Yes)、ステップS16へ移行し、マッチング動作の結果、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像が見つからなかった場合(ステップS15:No)、ステップS17へ移行する。
ベース領域特定部323によるマッチング動作が成功(図28では「マッチングOK」と表記)した場合(ステップS15:Yes)、ステップS16へ移行し、マッチング動作の結果、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像が見つからなかった場合(ステップS15:No)、ステップS17へ移行する。
<ステップS16>
ベース領域特定部323は、マッチング動作が成功した場合、図22に示すように、マッチング動作が成功した旨(図28では「OK表示」と表記)、および、撮像装置2の固定を促す旨を示す仮調整結果通知ダイアログ640を表示させる。また、ベース領域特定部323は、マッチング動作の結果、リアルタイム映像表示部703bに表示されたフレームにおいて、ベース基準画像と一致する画像を、仮ベース領域802を移動させて示す。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「3.カメラを治具で固定」の段階であることを表示させる。そして、ステップS18へ移行する。
ベース領域特定部323は、マッチング動作が成功した場合、図22に示すように、マッチング動作が成功した旨(図28では「OK表示」と表記)、および、撮像装置2の固定を促す旨を示す仮調整結果通知ダイアログ640を表示させる。また、ベース領域特定部323は、マッチング動作の結果、リアルタイム映像表示部703bに表示されたフレームにおいて、ベース基準画像と一致する画像を、仮ベース領域802を移動させて示す。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「3.カメラを治具で固定」の段階であることを表示させる。そして、ステップS18へ移行する。
<ステップS17>
メッセージ制御部321は、作業指示表示部704に、マッチング動作が成功しなかった旨を示すメッセージ情報(図28では「NG表示」と表記)を表示させる。また、マッチング動作が成功しなかったので、ユーザは、撮像装置2の位置を再調整する必要があるため、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階に戻る表示をさせる。そして、ステップS13へ戻る。
メッセージ制御部321は、作業指示表示部704に、マッチング動作が成功しなかった旨を示すメッセージ情報(図28では「NG表示」と表記)を表示させる。また、マッチング動作が成功しなかったので、ユーザは、撮像装置2の位置を再調整する必要があるため、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階に戻る表示をさせる。そして、ステップS13へ戻る。
<ステップS18>
ユーザは、仮調整結果通知ダイアログ640で示されるメッセージに従って、撮像装置2を固定した後、入力部303の操作によりOKボタン641を押下する。そして、ステップS19へ移行する。
ユーザは、仮調整結果通知ダイアログ640で示されるメッセージに従って、撮像装置2を固定した後、入力部303の操作によりOKボタン641を押下する。そして、ステップS19へ移行する。
<ステップS19>
ベース領域決定部326は、図23に示すように、サーチ進捗ダイアログ630を表示させ、最終的なマッチング動作(最終確認のためのマッチング動作)を実行する。また、メッセージ制御部321は、ベース領域決定部326による最終的なマッチング動作が実行されている間、作業指示表示部704に、最終的なマッチング動作が実行されている旨を示すメッセージ情報(図23の例では、「現在システムによる最終チェック中です」と表示)を表示させる。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「4.システムによる最終チェック」の段階であることを表示させる。そして、ステップS20へ移行する。
ベース領域決定部326は、図23に示すように、サーチ進捗ダイアログ630を表示させ、最終的なマッチング動作(最終確認のためのマッチング動作)を実行する。また、メッセージ制御部321は、ベース領域決定部326による最終的なマッチング動作が実行されている間、作業指示表示部704に、最終的なマッチング動作が実行されている旨を示すメッセージ情報(図23の例では、「現在システムによる最終チェック中です」と表示)を表示させる。また、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「4.システムによる最終チェック」の段階であることを表示させる。そして、ステップS20へ移行する。
<ステップS20>
ベース領域決定部326による最終的なマッチング動作が成功(図28では「マッチングOK」と表記)した場合(ステップS20:Yes)、ステップS22へ移行し、最終的なマッチング動作の結果、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像が見つからなかった場合(ステップS20:No)、ステップS21へ移行する。
ベース領域決定部326による最終的なマッチング動作が成功(図28では「マッチングOK」と表記)した場合(ステップS20:Yes)、ステップS22へ移行し、最終的なマッチング動作の結果、リアルタイム映像表示部703bに表示された映像データのフレームにおいて、ベース基準画像と一致する画像が見つからなかった場合(ステップS20:No)、ステップS21へ移行する。
<ステップS21>
メッセージ制御部321は、作業指示表示部704に、最終的なマッチング動作が成功しなかった旨を示すメッセージ情報(図28では「NG表示」と表記)を表示させる。また、最終的なマッチング動作が成功しなかったので、ユーザは、撮像装置2の位置を再調整する必要があるため、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階に戻る表示をさせる。そして、ステップS13へ戻る。
メッセージ制御部321は、作業指示表示部704に、最終的なマッチング動作が成功しなかった旨を示すメッセージ情報(図28では「NG表示」と表記)を表示させる。また、最終的なマッチング動作が成功しなかったので、ユーザは、撮像装置2の位置を再調整する必要があるため、メッセージ制御部321は、作業進捗表示部705に、段取り替え動作の作業進捗が「1.カメラを基準に合うように調整」の段階に戻る表示をさせる。そして、ステップS13へ戻る。
<ステップS22>
ベース領域決定部326は、最終的なマッチング動作が成功した場合、図25および26に示すように、リアルタイム映像表示部703bに表示されたフレームにおいて、ベース基準画像と一致する画像を、仮ベース領域802を移動させて第2ベース領域802aとして示す。すなわち、ベース領域決定部326は、第2ベース領域802aの位置を、基準静止画像表示部703aの第1ベース領域801に対応する位置から補正した位置に決定することになる。また、ベース領域決定部326は、段取り番号に関連付けて、決定した第2ベース領域802aの情報を記憶部302に記憶させる。これによって、段取り番号の関連付けられた1つの撮像装置2についての段取り替え動作が完了する。また、メッセージ制御部321は、カメラ実施状況表示部706に、段取り番号に関連付けられた撮像装置2について段取り替え動作が完了したことを示すために「実施完了」と表示させる。
ベース領域決定部326は、最終的なマッチング動作が成功した場合、図25および26に示すように、リアルタイム映像表示部703bに表示されたフレームにおいて、ベース基準画像と一致する画像を、仮ベース領域802を移動させて第2ベース領域802aとして示す。すなわち、ベース領域決定部326は、第2ベース領域802aの位置を、基準静止画像表示部703aの第1ベース領域801に対応する位置から補正した位置に決定することになる。また、ベース領域決定部326は、段取り番号に関連付けて、決定した第2ベース領域802aの情報を記憶部302に記憶させる。これによって、段取り番号の関連付けられた1つの撮像装置2についての段取り替え動作が完了する。また、メッセージ制御部321は、カメラ実施状況表示部706に、段取り番号に関連付けられた撮像装置2について段取り替え動作が完了したことを示すために「実施完了」と表示させる。
そして、段取り番号に関連付けられた1つの撮像装置2の段取り替え動作が完了し、同じく同一の段取り番号に関連付けられた撮像装置2であって、段取り替え動作が完了していない撮像装置2が存在する場合(ステップS22:Yes)、段取り制御部327は、図25に示すように、次の撮像装置2についての段取り替え動作に移行する旨を示す次カメラ処理ダイアログ650を表示させる。そして、ユーザによる入力部303の操作により、OKボタン651が押下されると、ステップS13へ移行する。
一方、段取り番号に関連付けられた1つの撮像装置2(上述では撮像装置2f)の段取り替え動作が完了し、同じく同一の段取り番号に関連付けられた撮像装置2であって、段取り替え動作が完了してない撮像装置2が存在しない場合(ステップS22:No)、段取り制御部327は、図26に示すように、段取り番号に関連付けられたすべての撮像装置2の段取り替え動作が完了した旨を示す段取り替え終了ダイアログ660を表示させる。ユーザによる入力部303の操作によって、図26に示す段取り替え終了ダイアログ660のOKボタン661が押下されると、段取り制御部327は、段取り替え画面700からメイン画面400に遷移させる。これによって、段取り番号に関連付けられたすべての撮像装置2についての段取り替え動作が終了する。
以上のように、段取り替えの際、ベース領域決定部326は、ユーザによって設置位置が変更された撮像装置2の映像データのフレームにおいて、ベース基準画像と一致(マッチング)する領域を探索するマッチング動作を実行し、撮像装置2の映像データのフレームにおいて、ベース基準画像と一致する第2ベース領域802aを決定するものとしている。このとき、トリガ領域および検知領域等の判定領域の位置は、ベース基準画像を示す第1ベース領域801の位置から、ベース領域決定部326により決定された第2ベース領域802aの位置までのずれた分だけ補正されるものとしている。これによって、段取り替えの際に、判定領域を改めて指定し直す必要がなく、さらに、マッチング動作の成否によって撮像装置2の正しい変更位置が示されるので、撮像装置2の設置位置を正しい変更位置(段取り替えの位置)に容易に設置することができる。また、段取り替えの際に、上述のマッチング動作が実行されるので、撮像装置2のリアルタイムの映像データのフレームが、基準静止画像と完全に一致するように撮像装置2を設置する必要がないので、さらに、撮像装置2の設置位置を正しい変更位置(段取り替えの位置)に容易に設置することができる。
また、段取り替えの際、撮像装置2を変更位置に設置して静止させた場合、ベース領域特定部323によって自動的にマッチング動作が実行される。そして、マッチング動作が成功した場合、ユーザによる撮像装置2の固定後、ベース領域決定部326によって、最終的なマッチング動作が実行されるものとしている。撮像装置2を固定させた後に手動でマッチング動作を行うものとすると、マッチングが失敗した場合に、撮像装置2の固定を解いて、改めて設置位置を調整しなければならないが、上述の動作のように、撮像装置2を静止させた状態で自動的にマッチング動作が実行されるので、撮像装置2の設置位置の調整が容易となり、段取り替えの作業負荷を低減することができる。
また、段取り替え画面700において、基準静止画像表示部703aに第1ベース領域801の枠、ならびに、リアルタイム映像表示部703bに仮ベース領域802および第2ベース領域802aの枠を表示させることが望ましい。これによって、ユーザは、撮像装置2についてどの方向に撮像させればよいかの目安となるので、撮像装置2の設置位置の調整が容易となり、段取り替えの作業負荷を低減することができる。
また、ベース領域特定部323およびベース領域決定部326は、リアルタイム映像表示部703bに表示されたフレームのうち所定範囲においてマッチング動作を実行することが望ましい。これによって、マッチング動作の処理負荷を低減することができる。
また、段取り替え動作の開始時に、段取り制御部327は、段取り番号に関連付けられた撮像装置2による画像判定動作(監視動作)を自動で停止させることが望ましい。これによって、段取り番号に関連付けられた1または複数の撮像装置2の監視動作を一つずつ手動で停止させる必要がないので、段取り替えの作業の負荷を低減することができる。
また、図28に示す撮像装置2の設置位置の変更作業手順は、段取り替え時に限定されるものではなく、段取り替え以外の場面における撮像装置2の設置位置の変更時にも適用可能である。
なお、設定画面500において、ベース領域570以外の領域として、トリガ領域および検知領域の指定を行うものとしているが、これに限定されるものではなく、その他の判定領域が指定されるものとしてもよい。例えば、検知領域では、トリガ信号に基づいて画像判定を行っているが、常時、画像判定を行う常時検知領域が指定できるものとしてもよい。
また、トリガ生成部313により生成されたトリガ信号は、上述の実施の形態では検知領域判定部314による画像判定のタイミングの基準として用いられているが、これに限定されるものではない。例えば、トリガ信号は、生産設備側で所定の処理を行わせるタイミングの基準に用いられるようにしてもよく、その場合には、トリガ信号が生成された時点でトリガ信号を生産設備に送信するようにしてもよい。
また、本実施の形態の第1再生部304、トリガ領域指定部305、変化点検出部306、検知領域指定部307、設定部308、映像振分部312、トリガ生成部313、検知領域判定部314、メッセージ制御部321、映像表示部322、ベース領域特定部323、画像抽出部324、静止判定部325、ベース領域決定部326、段取り制御部327およびベース領域指定部331の少なくともいずれかがプログラムの実行によって実現される場合、そのプログラムは、ROM等に予め組み込まれて提供される。また、本実施の形態の情報処理装置3で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。また、本実施の形態の情報処理装置3で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、本実施の形態の情報処理装置3で実行されるプログラムを、インターネット等のネットワーク経由で提供または配布するように構成してもよい。本実施の形態の情報処理装置3で実行されるプログラムは、上述した第1再生部304、トリガ領域指定部305、変化点検出部306、検知領域指定部307、設定部308、映像振分部312、トリガ生成部313、検知領域判定部314、メッセージ制御部321、映像表示部322、ベース領域特定部323、画像抽出部324、静止判定部325、ベース領域決定部326、段取り制御部327およびベース領域指定部331の少なくともいずれかを含むモジュール構成となっており、実際のハードウェアとしてはCPUが上述のROMからプログラムを読み出して実行することにより、上述の各部が主記憶装置上にロードされて生成されるようになっている。
1 画像処理システム
2、2a〜2f 撮像装置
3 情報処理装置
4 ネットワーク
10 外部機器
101 CPU
102 ROM
103 RAM
104 外部記憶装置
105 ディスプレイ
106 ネットワークI/F
107 キーボード
108 マウス
109 DVDドライブ
110 DVD
111 外部機器I/F
112 バス
301 映像受信部
302 記憶部
303 入力部
304 第1再生部
305 トリガ領域指定部
306 変化点検出部
307 検知領域指定部
308 設定部
312 映像振分部
313 トリガ生成部
314 検知領域判定部
315 表示制御部
316 外部出力部
317 表示部
321 メッセージ制御部
322 映像表示部
323 ベース領域特定部
324 画像抽出部
325 静止判定部
326 ベース領域決定部
327 段取り制御部
331 ベース領域指定部
400 メイン画面
401、401a〜401f 映像表示部
411 監視開始ボタン
412 監視停止ボタン
413 監視設定ボタン
414 段取り替えボタン
415 段取り番号入力部
421、421a〜421f 状態表示部
422、422a〜422f 段取り番号表示部
500 設定画面
501 カメラ選択タブ
502 設定用映像表示部
503a 再生ボタン
503b 一時停止ボタン
503c 早送りボタン
503d 早戻しボタン
503e 停止ボタン
504 シークバー
505 スライダー
506 時刻表示部
507 トリガ領域情報部
508a 基準画像表示部
508b 差分画像表示部
509 検知領域情報部
510 検知領域ボタン部
510a アクションボタン
510b 画像判定選択ボタン
510c 削除ボタン
510e 感度増加ボタン
510f 感度減少ボタン
510g 閾値増加ボタン
510h 閾値減少ボタン
511 設定読出ボタン
512 設定書込ボタン
513 設定反映ボタン
514 閉じるボタン
515 段取り番号表示部
530 トリガ領域
535、536 検知領域
540 トリガマーク
551 領域選択タブ
561 段取り番号表示部
562 ベース領域情報部
563 削除ボタン
570 ベース領域
600 変化点選択ダイアログ
601 はいボタン
602 いいえボタン
603 閉じるボタン
610 変化点無し通知ダイアログ
611 OKボタン
612 閉じるボタン
620 段取り番号無し通知ダイアログ
621 OKボタン
622 閉じるボタン
630 サーチ進捗ダイアログ
640 仮調整結果通知ダイアログ
641 OKボタン
642 閉じるボタン
650 次カメラ処理ダイアログ
651 OKボタン
652 閉じるボタン
660 段取り替え終了ダイアログ
661 OKボタン
662 閉じるボタン
700 段取り替え画面
701 段取り番号表示部
702a 基準画像表示部
702b 抽出画像表示部
703a 基準静止画像表示部
703b リアルタイム映像表示部
704 作業指示表示部
705 作業進捗表示部
706 カメラ実施状況表示部
707 中止ボタン
801 第1ベース領域
802 仮ベース領域
802a 第2ベース領域
2、2a〜2f 撮像装置
3 情報処理装置
4 ネットワーク
10 外部機器
101 CPU
102 ROM
103 RAM
104 外部記憶装置
105 ディスプレイ
106 ネットワークI/F
107 キーボード
108 マウス
109 DVDドライブ
110 DVD
111 外部機器I/F
112 バス
301 映像受信部
302 記憶部
303 入力部
304 第1再生部
305 トリガ領域指定部
306 変化点検出部
307 検知領域指定部
308 設定部
312 映像振分部
313 トリガ生成部
314 検知領域判定部
315 表示制御部
316 外部出力部
317 表示部
321 メッセージ制御部
322 映像表示部
323 ベース領域特定部
324 画像抽出部
325 静止判定部
326 ベース領域決定部
327 段取り制御部
331 ベース領域指定部
400 メイン画面
401、401a〜401f 映像表示部
411 監視開始ボタン
412 監視停止ボタン
413 監視設定ボタン
414 段取り替えボタン
415 段取り番号入力部
421、421a〜421f 状態表示部
422、422a〜422f 段取り番号表示部
500 設定画面
501 カメラ選択タブ
502 設定用映像表示部
503a 再生ボタン
503b 一時停止ボタン
503c 早送りボタン
503d 早戻しボタン
503e 停止ボタン
504 シークバー
505 スライダー
506 時刻表示部
507 トリガ領域情報部
508a 基準画像表示部
508b 差分画像表示部
509 検知領域情報部
510 検知領域ボタン部
510a アクションボタン
510b 画像判定選択ボタン
510c 削除ボタン
510e 感度増加ボタン
510f 感度減少ボタン
510g 閾値増加ボタン
510h 閾値減少ボタン
511 設定読出ボタン
512 設定書込ボタン
513 設定反映ボタン
514 閉じるボタン
515 段取り番号表示部
530 トリガ領域
535、536 検知領域
540 トリガマーク
551 領域選択タブ
561 段取り番号表示部
562 ベース領域情報部
563 削除ボタン
570 ベース領域
600 変化点選択ダイアログ
601 はいボタン
602 いいえボタン
603 閉じるボタン
610 変化点無し通知ダイアログ
611 OKボタン
612 閉じるボタン
620 段取り番号無し通知ダイアログ
621 OKボタン
622 閉じるボタン
630 サーチ進捗ダイアログ
640 仮調整結果通知ダイアログ
641 OKボタン
642 閉じるボタン
650 次カメラ処理ダイアログ
651 OKボタン
652 閉じるボタン
660 段取り替え終了ダイアログ
661 OKボタン
662 閉じるボタン
700 段取り替え画面
701 段取り番号表示部
702a 基準画像表示部
702b 抽出画像表示部
703a 基準静止画像表示部
703b リアルタイム映像表示部
704 作業指示表示部
705 作業進捗表示部
706 カメラ実施状況表示部
707 中止ボタン
801 第1ベース領域
802 仮ベース領域
802a 第2ベース領域
Claims (12)
- 撮像手段を所定の撮像位置に合わせるための基準となる静止画像が表示される第1表示領域と、前記撮像手段が撮像した映像データが表示される第2表示領域と、を表示する表示手段と、
前記撮像手段により撮像された映像データに対して行われる画像判定の対象となる判定領域と、前記第1表示領域に設定された第1基準領域との位置関係を示す情報を記憶する記憶手段と、
前記第2表示領域に表示される映像データのフレームで、前記第1基準領域の画像と一致する画像を探索する第1マッチング動作を実行して、該一致する画像の領域を第2基準領域として決定する決定手段と、
前記第1表示領域における前記第1基準領域の位置と前記第2表示領域における前記第2基準領域の位置とのずれ量と、前記記憶手段に記憶された前記位置関係を示す情報とに基づいて前記判定領域の位置を補正する補正手段と、
を備えた画像処理装置。 - 操作入力を受け付ける入力手段と、
前記撮像手段の位置が静止しているか否かを判定する判定手段と、
前記判定手段により前記撮像手段の位置が静止していると判定された場合、前記第2表示領域に表示される映像データのフレームで、前記第1基準領域の画像と一致する画像を探索する第2マッチング動作を実行して、該一致する画像の領域を仮基準領域として特定する特定手段と、
を、さらに備え、
前記決定手段は、前記特定手段により前記仮基準領域が特定されてから、前記入力手段により所定の操作入力が受け付けられた後に、前記第1マッチング動作を実行する請求項1に記載の画像処理装置。 - 前記表示手段は、前記第1表示領域の前記第1基準領域を囲う枠を表示し、前記第2表示領域の前記仮基準領域および前記第2基準領域を囲う枠を表示する請求項2に記載の画像処理装置。
- 前記判定手段は、前記第2表示領域に表示される映像データのフレームのうち所定時間分のフレームについて、隣り合う前後のフレームが同一と判定した場合、前記撮像手段の位置が静止していると判定する請求項2または3に記載の画像処理装置。
- 前記特定手段は、前記第2マッチング動作において、前記第2表示領域に表示される映像データのフレームの所定範囲内で、前記第1基準領域の画像と一致する画像を探索する請求項2〜4のいずれか一項に記載の画像処理装置。
- 前記決定手段は、前記第1マッチング動作において、前記第2表示領域に表示される映像データのフレームの所定範囲内で、前記第1基準領域の画像と一致する画像を探索する請求項1〜5のいずれか一項に記載の画像処理装置。
- 前記決定手段は、前記第1マッチング動作において、前記第2表示領域に表示される映像データのフレームでの前記第1基準領域の画像と一致する画像の領域と、前記第1基準領域とのずれ量で補正された位置に定まる前記判定領域が、前記第2表示領域からはみ出る場合、該一致する画像の領域を前記第2基準領域として決定しない請求項1〜6のいずれか一項に記載の画像処理装置。
- 前記表示手段は、
前記第2表示領域に、前記撮像手段が撮像するリアルタイムの映像データを表示させ、
前記第1表示領域および前記第2表示領域を一緒に表示させる請求項1〜7のいずれか一項に記載の画像処理装置。 - 前記撮像手段は、複数であり、
前記撮像手段の段取り替え動作において、複数の前記撮像手段のうち、段取り識別情報に関連付けられた1または複数の前記撮像手段が段取り替えの対象となる請求項1〜8のいずれか一項に記載の画像処理装置。 - 前記段取り替え動作の開始時に、前記段取り識別情報に関連付けられた1または複数の前記撮像手段の映像データに対する前記画像判定の動作を停止する制御手段を、さらに備えた請求項9に記載の画像処理装置。
- 請求項1〜10のいずれか一項に記載の画像処理装置と、
1以上の前記撮像手段と、
を備えた画像処理システム。 - 撮像手段を所定の撮像位置に合わせるための基準となる静止画像が表示される第1表示領域と、前記撮像手段が撮像した映像データが表示される第2表示領域と、を表示する表示ステップと、
前記撮像手段により撮像された映像データに対して行われる画像判定の対象となる判定領域と、前記第1表示領域に設定された第1基準領域との位置関係を示す情報を記憶する記憶ステップと、
前記第2表示領域に表示される映像データのフレームで、前記第1基準領域の画像と一致する画像を探索する第1マッチング動作を実行して、該一致する画像の領域を第2基準領域として決定する決定ステップと、
前記第1表示領域における前記第1基準領域の位置と前記第2表示領域における前記第2基準領域の位置とのずれ量と、記憶した前記位置関係を示す情報とに基づいて前記判定領域の位置を補正する補正ステップと、
を有する画像処理方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015021638 | 2015-02-05 | ||
JP2015021638 | 2015-02-05 | ||
PCT/JP2015/082626 WO2016125366A1 (ja) | 2015-02-05 | 2015-11-19 | 画像処理装置、画像処理システムおよび画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016125366A1 JPWO2016125366A1 (ja) | 2017-10-05 |
JP6390720B2 true JP6390720B2 (ja) | 2018-09-19 |
Family
ID=56563723
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016573187A Active JP6390720B2 (ja) | 2015-02-05 | 2015-11-19 | 画像処理装置、画像処理システムおよび画像処理方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10638193B2 (ja) |
EP (1) | EP3255603B1 (ja) |
JP (1) | JP6390720B2 (ja) |
CN (1) | CN107209922B (ja) |
WO (1) | WO2016125366A1 (ja) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106560827B (zh) * | 2015-09-30 | 2021-11-26 | 松下知识产权经营株式会社 | 控制方法 |
JP6822093B2 (ja) * | 2016-11-21 | 2021-01-27 | 株式会社リコー | 画像処理装置、画像処理システム、画像処理方法、及び画像処理プログラム |
JP2019022021A (ja) * | 2017-07-13 | 2019-02-07 | 株式会社メガチップス | モニタリングシステム |
CN109088786B (zh) * | 2018-06-26 | 2022-03-08 | 中国直升机设计研究所 | 一种用于测试直升机模拟器网络延迟方法 |
US11336831B2 (en) * | 2018-07-06 | 2022-05-17 | Canon Kabushiki Kaisha | Image processing device, control method, and program storage medium |
JP2020034344A (ja) * | 2018-08-28 | 2020-03-05 | 株式会社Screenホールディングス | 可動部位置検出方法、基板処理方法、基板処理装置および基板処理システム |
JP7227717B2 (ja) | 2018-08-31 | 2023-02-22 | キヤノン株式会社 | 情報処理装置、方法、及びプログラム |
JP7304508B2 (ja) * | 2019-02-19 | 2023-07-07 | 株式会社シンクアウト | 情報処理システムおよび情報処理プログラム |
JP7258605B2 (ja) * | 2019-03-05 | 2023-04-17 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
WO2020241855A1 (ja) * | 2019-05-31 | 2020-12-03 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、および画像処理プログラム |
US10791271B1 (en) * | 2019-07-17 | 2020-09-29 | Alibaba Group Holding Limited | Obtaining stable frames |
US11223802B2 (en) | 2019-07-31 | 2022-01-11 | Ricoh Company, Ltd. | Image-based determination apparatus and image-based determination system |
JP7458138B2 (ja) * | 2019-12-27 | 2024-03-29 | 株式会社アダコテック | 情報処理システム、情報処理装置、端末装置、情報処理方法及びプログラム |
JP2022012057A (ja) * | 2020-06-30 | 2022-01-17 | パナソニックIpマネジメント株式会社 | 工具システム、工具、作業対象特定システム、作業対象特定方法及びプログラム |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7031525B2 (en) * | 2002-07-30 | 2006-04-18 | Mitsubishi Electric Research Laboratories, Inc. | Edge detection based on background change |
US7643066B2 (en) * | 2004-02-19 | 2010-01-05 | Robert Bosch Gmbh | Method and apparatus for producing frame accurate position data in a PTZ dome camera with open loop control |
CN100463502C (zh) * | 2005-01-25 | 2009-02-18 | 松下电器产业株式会社 | 摄像机控制装置和所述摄像机控制装置的变焦倍率控制方法 |
EP1936576B1 (en) * | 2006-12-20 | 2011-08-17 | Axis AB | Camera tampering detection |
JP2009010728A (ja) * | 2007-06-28 | 2009-01-15 | Olympus Corp | カメラ設置支援装置 |
JP4665014B2 (ja) * | 2008-07-04 | 2011-04-06 | 三菱電機エンジニアリング株式会社 | 多面外観検査装置 |
JP5299231B2 (ja) * | 2009-11-17 | 2013-09-25 | 富士通株式会社 | キャリブレーション装置 |
JP4625874B2 (ja) * | 2010-01-18 | 2011-02-02 | 株式会社リコー | 画像形成装置及び画像形成方法 |
JP5593750B2 (ja) * | 2010-03-12 | 2014-09-24 | オムロン株式会社 | 画像処理方法および画像処理装置 |
US9256974B1 (en) * | 2010-05-04 | 2016-02-09 | Stephen P Hines | 3-D motion-parallax portable display software application |
US20120207386A1 (en) * | 2011-02-11 | 2012-08-16 | Microsoft Corporation | Updating A Low Frame Rate Image Using A High Frame Rate Image Stream |
JP5958462B2 (ja) * | 2011-03-17 | 2016-08-02 | 日本電気株式会社 | 撮影装置、撮影方法、及びプログラム |
JP5818651B2 (ja) | 2011-11-22 | 2015-11-18 | 株式会社キーエンス | 画像処理装置 |
CA2930413C (en) * | 2013-11-15 | 2021-05-11 | Free Focus Systems, Llc | Location-tag camera focusing systems |
JP6459256B2 (ja) | 2014-07-07 | 2019-01-30 | 株式会社リコー | 画像記憶再生制御装置、画像記憶再生制御方法、画像記憶再生制御システム、及びプログラム |
JP2016039496A (ja) | 2014-08-07 | 2016-03-22 | 株式会社リコー | 画像処理装置、画像処理システム、画像処理方法およびプログラム |
JP6554825B2 (ja) | 2014-08-25 | 2019-08-07 | 株式会社リコー | 画像処理装置、画像処理システム、画像処理方法およびプログラム |
CN104243833B (zh) * | 2014-09-30 | 2017-12-08 | 精宸智云(武汉)科技有限公司 | 一种相机姿态的调整方法及装置 |
-
2015
- 2015-11-19 CN CN201580075432.1A patent/CN107209922B/zh active Active
- 2015-11-19 EP EP15881183.6A patent/EP3255603B1/en active Active
- 2015-11-19 WO PCT/JP2015/082626 patent/WO2016125366A1/ja active Application Filing
- 2015-11-19 JP JP2016573187A patent/JP6390720B2/ja active Active
-
2017
- 2017-07-12 US US15/647,427 patent/US10638193B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP3255603A4 (en) | 2018-03-21 |
EP3255603A1 (en) | 2017-12-13 |
US10638193B2 (en) | 2020-04-28 |
WO2016125366A1 (ja) | 2016-08-11 |
CN107209922B (zh) | 2020-11-10 |
EP3255603B1 (en) | 2022-09-07 |
CN107209922A (zh) | 2017-09-26 |
US20170311037A1 (en) | 2017-10-26 |
JPWO2016125366A1 (ja) | 2017-10-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6390720B2 (ja) | 画像処理装置、画像処理システムおよび画像処理方法 | |
JP6816802B2 (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
JP6733785B2 (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
US9595098B2 (en) | Image overlaying and comparison for inventory display auditing | |
US7630021B2 (en) | Image processing device and image processing method | |
US8204312B2 (en) | Moving image editing apparatus | |
US8103062B2 (en) | Video processing apparatus | |
CN108605115B (zh) | 跟踪辅助装置、跟踪辅助系统以及跟踪辅助方法 | |
US8036470B2 (en) | Image processing apparatus, image processing method, and program | |
US10848742B2 (en) | Content generation device, method for controlling content generation device, and storage medium | |
JP2007020195A (ja) | 映像の検索方法および装置 | |
JP6822093B2 (ja) | 画像処理装置、画像処理システム、画像処理方法、及び画像処理プログラム | |
JP2016039496A (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
CN112307882A (zh) | 图像判断装置及图像判断系统 | |
JP2020065248A (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
JP6994993B2 (ja) | 放送用編集装置、放送システム及び画像処理方法 | |
US20200036856A1 (en) | Image processing apparatus and image processing method | |
EP1293911A1 (en) | Method and apparatus for generating editing-related metadata | |
JP2006018972A (ja) | メタデータ生成装置及びメタデータ生成プログラム | |
JP2001285782A (ja) | ビデオ記録媒体識別システム、およびビデオ記録媒体識別処理プログラムを記録した記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170524 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180724 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180806 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6390720 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |