JP7136152B2 - 画像処理装置、画像処理方法、及び、プログラム - Google Patents

画像処理装置、画像処理方法、及び、プログラム Download PDF

Info

Publication number
JP7136152B2
JP7136152B2 JP2020051053A JP2020051053A JP7136152B2 JP 7136152 B2 JP7136152 B2 JP 7136152B2 JP 2020051053 A JP2020051053 A JP 2020051053A JP 2020051053 A JP2020051053 A JP 2020051053A JP 7136152 B2 JP7136152 B2 JP 7136152B2
Authority
JP
Japan
Prior art keywords
image
pin
subject
subjects
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020051053A
Other languages
English (en)
Other versions
JP2021148714A (ja
Inventor
宗幸 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2020051053A priority Critical patent/JP7136152B2/ja
Priority to US17/204,697 priority patent/US11783468B2/en
Publication of JP2021148714A publication Critical patent/JP2021148714A/ja
Application granted granted Critical
Publication of JP7136152B2 publication Critical patent/JP7136152B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0006Industrial image inspection using a design-rule based approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/80Recognising image objects characterised by unique random patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、画像処理装置、画像処理方法、及び、プログラムに関する。
従来、コンベアチェーン等の移動する物体を撮像し、画像解析により当該物体の不具合や異常を検出する技術が知られている。この種の技術を開示するものとして例えば特許文献1がある。
特許文献1には、走行するコンベアチェーンを撮像するタイミングを制御し、内リンクと外リンクを接続するピンの位置が定位置に来る画像を逐次取得し、当該画像を解析してチェーンの形状変化を検出する技術が開示されている。
特開2006-317359号公報
画像解析の技術を利用すれば、人がノギス等の工具を使用してチェーンの結合部分の形状変化を計測することなく、チェーンの経年劣化や不具合を検出することができ、時間やコストを削減できる。しかしながら、画像解析では、ピンの個体差やチェーンに塗布される潤滑剤に付着する塵やゴミが検出精度低下の原因になる。検出精度の向上という点で従来技術には改善の余地があった。
本発明は、複数の被写体が所定の方向に配列された物体における被写体間の距離を精度良く計測できるようにすることを目的とする。
本発明の一態様の画像処理装置は、個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得手段と、前記画像取得手段によって取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成する生成手段と、予め記憶手段に記憶されているテンプレート画像と前記生成手段により生成された情報画像の類似度が所定の基準を満たすか否かを被写体毎に判別する判別手段と、前記判別手段により前記テンプレート画像との類似度が所定の基準を満たすと判別された情報画像に対応する被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御手段と、を備えることを特徴とする。
また、本発明の一態様の画像処理方法は、個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得ステップと、前記画像取得ステップによって取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成する生成ステップと、予め記憶手段に記憶されているテンプレート画像と前記生成ステップにより生成された情報画像の類似度が所定の基準を満たすか否かを被写体毎に判別する判別ステップと、前記判別ステップにより前記テンプレート画像との類似度が所定の基準を満たすと判別された情報画像に対応する被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御ステップと、を含むことを特徴とする。
また、本発明の一態様のプログラムは、コンピュータを、個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得手段、前記画像取得手段によって取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成する生成手段、予め記憶手段に記憶されているテンプレート画像と前記生成手段により生成された情報画像の類似度が所定の基準を満たすか否かを被写体毎に判別する判別手段、前記判別手段により前記テンプレート画像との類似度が所定の基準を満たすと判別された情報画像に対応する被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御手段、として機能させることを特徴とする。
本発明によれば、複数の被写体が所定の方向に配列された物体における被写体間の距離を精度良く計測できる。
本発明の一実施形態に係る画像処理装置を含む画像処理システムの構成を示すシステム構成図である。 本発明の一実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。 本発明の一実施形態に係る画像処理装置の機能的構成のうち、画像処理を実行するための機能的構成を示す機能ブロック図である。 本発明の一実施形態に係る画像処理装置のテンプレート画像データ作成処理の流れを示すフローチャートである。 本発明の一実施形態に係る画像処理装置のテンプレート画像データ蓄積処理の流れを示すフローチャートである。 本発明の一実施形態に係る画像処理装置1のテンプレート画像蓄積処理におけるマッチング処理を説明する模式図である。 本発明の一実施形態に係る画像処理装置のターゲット画像の選別処理を説明する模式図である。 本発明の一実施形態に係る画像処理装置のピン間計測処理の流れを示すフローチャートである。 本発明の一実施形態に係る画像処理装置のピン間距離の計測処理を説明する模式図である。
以下、本発明の実施形態について、図面を用いて説明する。
図1は、本発明の一実施形態に係る画像処理装置1を含む画像処理システムSの構成を示すシステム構成図である。図1に示す画像処理システムSは、コンベアチェーン21の異常を画像解析により検出する。
[計測対象]
まず、計測対象となるコンベアチェーン21について説明する。コンベアチェーン21は、コンベア装置のスプロケット(図示省略)に懸架される無端状部材である。コンベアチェーン21は、スプロケット等の伝達手段を介してチェーン駆動部22の駆動力が伝達され、所定の速度で所定のルートを周回移動する。なお、コンベアチェーン21は、移動させる対象の用途に適応して移動速度を段階的に切り替えることができるように構成されている。
本実施形態のコンベアチェーン21は、一対の外リンク23が内リンク24を両側から挟み込んだ状態でピン25により結合されて構成される。なお、図1中の破線の円弧は、内リンク24の外形の一部を示している。
ピン25は、外リンク23と内リンク24の結合部分毎に設けられており、本実施形態の画像処理装置1によって個別に特定される計測対象である。ピン25は、コンベアチェーン21の移動方向に並んでいる。なお、移動方向は図1の矢印の方向である。
コンベアチェーン21が有するピン25の数をn個とする。上述の通り、コンベアチェーン21は無端状部材であるため、n個目のピン25-nの次は1番目のピン25-1となる。本実施形態では、後述する画像処理の際に1番目のピン25-1を認識させるために、当該ピン25-1にマーキング26が施されている。マーキング26は、周回するコンベアチェーン21の始端位置を特定するために便宜的に設けられる目印である。マーキング26は、例えば、1番目のピン25-1又は当該ピン25-1が連結する外リンク23や内リンク24等に付される。マーキング26は、色、模様、形状、又はこれらの組み合わせ等により、画像処理で1番目のピン25-1であるか否かを識別できるように構成される。例えば、点検者による色付けによってマーキング26がコンベアチェーン21に施される。
以下の説明において、ピン25を区別して説明する必要がある場合には、便宜的に1番目をピン25-1とし、以降順番にピン25-2、ピン25-3、ピン25-4、ピン25-5、ピン25-6、ピン25-7・・・ピン25-nとする。また、一番目のピン25-1の中心と2番目のピン25-2の中心とを結ぶ直線の距離をピン間距離L1とし、以降順番にピン間距離L2、ピン間距離L3・・・ピン間距離Ln-1とする。
[システム構成]
本実施形態の画像処理システムSの全体構成について説明する。画像処理システムSは、撮像部16と、照明部17と、画像処理装置1と、を備える。
撮像部16は、周回するコンベアチェーン21を一定のフレームレートで動画撮影し、画像解析のための映像を取得する撮像手段である。撮像部16の撮像位置は、コンベアチェーン21の構成や点検作業の作業性を考慮して適宜設定される。
本実施形態の撮像部16は、光学レンズ部161と、イメージセンサ162と、を主要な構成として備える。光学レンズ部161は、被写体を撮像するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。イメージセンサ162はCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子や、AFE(Analog Front End)等から構成される。画像処理装置1は、撮像部16から出力される信号からフレーム(画像)を生成する。撮像部16から出力される信号を、以下、「フレーム」と呼ぶ。フレームデータは、画像処理装置1に適宜供給される。
照明部17は、撮像部16の被写体であるコンベアチェーン21を照明する照明手段である。照明部17が、照度や色成分を調整してコンベアチェーン21を照らすことにより、撮像部16の撮像環境を一定のものにすることができる。照明部17の照度は、外光以上であることが好ましい。照明部17の照度を外光以上の支配的な光とすることで、後述する画像解析による異常検出をより正確なものとすることができる。
画像処理装置1は、撮像部16から出力されるフレームデータに基づいて画像解析処理を行ってコンベアチェーン21の異常を検出する。画像処理装置1が検出した情報は、外部機器5に送信可能となっている。
[ハードウェア構成]
本実施形態の画像処理装置1のハードウェア構成について説明する。図2は、本発明の一実施形態に係る画像処理装置1のハードウェアの構成を示すブロック図である。
画像処理装置1は、図2に示すように、CPU(Central Processing Unit)11と、ROM(Read Only Memory)等で構成されるプログラムメモリ12と、RAM(Random Access Memory)等で構成されるワークメモリ13と、バス14と、入出力インタフェース15と、通信部18と、入力部19と、出力部20と、記憶部30と、を備える。
CPU11は、プログラムメモリ12に記録されているプログラム、又は、プログラムメモリ12からワークメモリ13にロードされたプログラムに従って各種の処理を実行する。ワークメモリ13には、CPU11が画像処理を含む各種の処理を実行する上において必要なデータ等も適宜記憶される。入出力インタフェース15には、通信部18、入力部19が接続されている。また、入出力インタフェース15には、撮像部16及び照明部17が有線又は無線により接続されている。
通信部18は、インターネットを含むネットワークを介して外部機器5や他の装置(図示せず)との間で行う。通信部18は、有線又は無線のインタフェースを介して外部機器5と通信し、撮像したフレームデータや検出結果を外部機器5に送信する。
入力部19は、各種釦等で構成され、ユーザの指示操作を受け付け、受け付けた指示操作に応じて各種情報を入力する。出力部20は、画像を表示するディスプレイや音声を拡声するスピーカ等を含む。尚、入力部19にタッチパネルが含まれる場合は入力部19と出力部20とを一体にしてもよい。
記憶部30は、DRAM(Dynamic Random Access Memory)等の半導体メモリで構成され、各種データを記憶する。記憶部30には、画像処理に関する各種のデータや、検出結果を示す情報等が格納される。
[機能的構成]
図3は、本発明の一実施形態に係る画像処理装置1の機能的構成のうち、画像処理を実行するための機能的構成を示す機能ブロック図である。図3に示すように、制御部としてのCPU11において、画像処理を実行する部分として、画像取得部31と、記憶制御部32と、特定部33と、出力制御部34と、判定部35と、が機能する。
画像取得部31は、撮像部16から出力されるコンベアチェーン21を被写体として含むフレームデータ(撮像画像)を連続的に取得する。詳細には5フレームのフレームデータを1単位としたピンを含むフレームデータを取得するようにフレームレート(画像取得タイミング)を制御する。
また、画像取得部31は、画像解析により、マーキング26が施されたピン25-1を、それ以外のピン25-2~25-nと区別し、ピン25-1を便宜的に先頭位置として周回するコンベアチェーン21の撮影画像を取得する。例えば、ピン25-1が認識されてから再び認識されるまでを1周とし、2周分の動画を取得する。
記憶制御部32は、コンベアチェーン21を構成する複数のピン25(ピン25-1~25-n)の夫々を区別して記憶部30に記憶する処理を実行する。そして、記憶制御部32は、複数のピン25(ピン25-1~25-n)の夫々に対し、マッチング処理を行うためのテンプレート画像(情報画像)データを対応付けて記憶部30に記憶させる処理を実行する更に、記憶制御部32は、ピン間距離L(ピン間距離L1~Ln-1)についても、複数のピン25(ピン25-1~25-n)の位置関係とともに記憶部30に記憶する処理を実行する。
なお、記憶部30に記憶されるテンプレート画像データとは、ピン25を画像の中心を基準として切り出された矩形領域の画像データに対してLBP(Local Binary Pattern)特徴を計算した結果を示す画像データである。LBP特徴は、中心画素値と周辺画素値とを比較することにより得られる特徴である。
特定部33は、記憶部30に記憶されているテンプレート画像データから抽出される特徴量と、撮像されて新たに取得されるフレームデータから抽出される特徴量と、を照合して類似度を取得する処理、すなわち、マッチング処理を実行する。上述の通り、本実施形態では、複数のピン25-1~25-nの夫々のテンプレート画像データが記憶部30に記憶されているので、ピン25-1~25-n毎にマッチング処理に用いられるテンプレート画像データは一つ一つが固有の特徴量を有することになる。
出力制御部34は、特定部33によって特定された計測対象となるピン間距離Lを算出する。そして、記憶部30に記憶される過去に取得されたピン間距離Lと比較し、比較結果を出力する。比較結果は、例えば、前回の測定時からの伸び量として出力される。なお、出力制御部34によるピン間距離の算出には、フレーム数、フレームレート及びフレームデータ中のピン25とピン25の間の距離等を利用することができる。
判定部35は、連続撮像した画像に対してピン25を特定する特定処理を実行するか否かを判定する。判定部35の使用する画像か否かを判定する基準については後述する。
次に、本実施形態の画像処理装置1による画像処理についてフローチャートを参照しながら説明する。なお、以下の説明において、各ステップは、CPU11がプログラムメモリ12に記憶された制御プログラムをワークメモリ13上にロードして実行することで実現される。
[テンプレート画像データ作成処理]
まず、テンプレート画像データの作成処理について説明する。図4は、本発明の一実施形態に係る画像処理装置1のテンプレート画像データ作成処理の流れを示すフローチャートである。
まず、画像取得部31により、ピン25の位置がフレーム(画像)の中心にあるフレームデータが取得される(ステップS1)。本実施形態では、後述するマッチング処理の精度を向上させるため、取得タイミングが夫々異なる、ピンの位置がフレームの中心にあるフレームデータが2つ取得される。
次に取得したフレームデータから、特定部33がピン25の位置が中心にある画像領域のデータを抽出するトリミング処理を実行する(ステップS2)。このトリミング処理では、ピン25の位置がそのフレームの中心となる矩形の画像領域のデータが切り取られる。以下トリミング処理された画像領域のデータをトリミング画像データとして説明する。
次に、特定部33が取得された2枚のトリミング画像データの夫々に対してLBP計算処理が実行される。
次に、記憶制御部32が、LBP計算処理が実行された結果としてのテンプレート画像(情報画像)データを記憶部30に記憶する(ステップS4)。本実施形態の場合、2枚のテンプレート画像データが記憶部30に記憶される。
[動画撮影された複数のピンのテンプレート画像データの蓄積処理]
次に図4の処理の後に実行される、複数のピン25-1~25-nのテンプレート画像データの蓄積処理について説明する。図5は、本発明の一実施形態に係る画像処理装置のテンプレート画像データ蓄積処理の流れを示すフローチャートである。図6は、本発明の一実施形態に係る画像処理装置1のテンプレート画像蓄積処理におけるマッチング処理を説明する模式図である。図6で例示する計測対象のピン25は、1番目のピン25-1である。
処理が開始されると、画像取得部31がコンベアチェーン21におけるピン25を含むフレームデータを取得する(ステップS11)。この処理では特定の番号のピン25を含むフレームデータが取得される。例えば、マーキング26が施されているピン25が最初に取得するべき対象に設定されている場合は、そのピンを含むフレームデータが取得される。
次に、特定部33は、ピン25を含むフレームデータからピン25の位置が中心となる画像領域のデータを抽出するようトリミング処理し(ステップS12)、当該トリミング処理された画像領域のデータに対しLBP計算処理を実行して図6に例示する対象画像63を生成する(ステップS13)。
次に、特定部33は、対象画像63に対して図4の処理で取得したテンプレート画像を記憶部30から読み出し、類似度を取得する処理、すなわち、マッチング処理を実行する(ステップS14)。図6の場合、テンプレート画像61のピン25aとテンプレート画像61のピン25bとは異なるピン25である。マッチング処理では、テンプレート画像61から抽出される特徴量と対象画像63から抽出される特徴量との比較が行われてピン25aとピン25-1の類似度が取得される。同様に、テンプレート画像61から抽出される特徴量と対象画像63から抽出される特徴量との比較が行われてピン25bとピン25-1の類似度が取得される。
次に、特定部33は、マッチング処理の結果に基づいて、今回トリミング処理された画像領域に含まれるピンが、記憶部30に記憶されたその位置のテンプレート画像データで示されるピンと同じか否かを判定する(ステップS15)。この判定処理では、類似度が予め設定される基準値以上の場合にYesと判定されて処理がステップS16に進み、類似度が基準値を下回っている場合にNoと判定されて処理がステップS19に進む。
本実施形態では、1個の計測対象について2回のマッチング処理が行われることになる。ピン25の検出を厳密に判断する場合は、ピン25aとピン25-1の類似度及びピン25bとピン25-1の類似度の両方が基準値を上回る場合にYesと判定されるように判定基準を設定することができる。
今回トリミング処理された画像領域に含まれるピンが記憶部30に記憶されたその位置のテンプレート画像データで示されるピンと同じと判定された場合(ステップS15;Yes)、特定部33は、図6に示すように、対象画像63に対してピン25-1及びその近傍を予め設定される領域をトリミング処理してテンプレート画像64に対応するテンプレート画像データを生成する(ステップS16)。そして、記憶制御部32が、ピンの番号に対応付けてそのテンプレート画像データを記憶部30に記憶・蓄積する処理を実行する(ステップS17)。
次に、特定部33は、記憶部30を参照し、全てのピン25-1~25-nのテンプレート画像データの蓄積が完了したか否かを判定する(ステップS18)。全てのテンプレートの画像データの蓄積が完了したと判定した場合はYesと判定され、本処理は完了する。
また、今回トリミング処理された画像領域に含まれるピンが、記憶部30に記憶されたその位置のテンプレート画像データで示されるピンと同じでないと判定された場合(ステップS15;No)又は全てのピンについてテンプレート画像データの蓄積が完了していないと判定された場合(ステップS18;No)は、次に取得するべき順番のピンが特定され、処理はステップS11に戻る(ステップS19)。例えば、ピン25-1に対してマッチング処理が行われた場合は、次の位置にあるピン25-2が特定される。なお、一周目で全てのピンについてテンプレート画像データが蓄積されず欠落したピンがある場合は次の周、つまり二周目を動画撮影した時にそのピンについてテンプレート画像データの蓄積が行われることになる。
以上説明した一連の処理により、コンベアチェーン21の全てのピン25のテンプレート画像データが記憶部30に蓄積されることになる。蓄積されたテンプレート画像データは、コンベアチェーン21の形状の変化を検出するための処理に用いられる。
なお、テンプレート画像データは、コンベアチェーン21に付着した潤滑剤や埃、または、経年劣化による錆の等、ピン表面が変化することを考慮すると、1つのピンに対して複数取得することが好ましい。
[ターゲット画像の選別処理]
次に、判定部35が実行する、ピン間距離の変化を検出するときに用いられるターゲット画像70(情報画像)の選別処理について説明する。図7は、本発明の一実施形態に係る画像処理装置のターゲット画像70の選別処理を説明する模式図である。
図7に示される一連のターゲット画像70は、ピン間距離を取得するために、2本のピン25を含む画像を取得することを目的として撮像部16により順次撮像され取得されたフレーム(画像)である。図7において、紙面上側のターゲット画像70が最も過去のものであり、紙面下側に進むにつれて新しいターゲット画像70である。フレームには左側に設定される検出枠71aと右側に設定される検出枠71bが夫々設定され、判定部35は、フレームにおける2本のピン25の画像がこれらの検出枠71a、71bで検出できたか否かを判定することで、2本のピン25の画像がターゲット画像70中に入っているか否かが判定される。
図7において、グループAに含まれるターゲット画像70は、何れも検出枠71a内にピン25-1の画像が収まるとともに、検出枠71b内にピン25-2の画像が収まっている状態である。即ち、2本のピン25-1、25-2の画像が1枚のターゲット画像70に含まれており、マッチング処理やピン間距離の計測に用いることができるフレームである。従って、判定部35は、グループAに含まれるターゲット画像70がマッチング処理やピン間距離Lを測定するために使用できる画像と判定する。
一方、グループBに含まれるターゲット画像70は、検出枠71aにピン25-1の画像が存在しない状態となっている。したがって、判定部35は、グループBに含まれるターゲット画像70は、マッチング処理やピン間距離を測定するために使用できない画像と判定する。なお、検出枠71aは、ピン25-1の画像を検出できなくなると次のピン25-2の画像を検出するために予め設定された位置に移動する。また、検出枠71bは、グループBの最新のターゲット画像70に示されるように、所定の基準位置(例えば、中央付近)まで左側に移動する。
グループCに含まれるターゲット画像70は、更に時間が経過することにより、何れも検出枠71a内にピン25-2の画像が収まるとともに、検出枠71b内にピン25-3の画像が収まっている状態である。即ち、2本のピン25-2、25-3の画像が1枚のターゲット画像70に含まれており、ピン間距離の計測に用いることができるフレームである。従って、判定部35は、グループCに含まれるターゲット画像70がマッチング処理やピン間距離Lを測定するために使用できる画像と判定する。
判定部35がターゲット画像70に2本のピン25が含まれると判定すると、記憶制御部32がこのターゲット画像に対応する画像データを記憶部30に記憶する。また、記憶制御部32は、予め設定される基準値に基づいて検出対象とするピンの画像が切り替わったか否かを判定し、ターゲット画像70の画像データに対応させて、このターゲット画像70に含まれるピン25が1番目からN番目の何れの組なのかを特定する情報を記憶部30に記憶する。具体的にはフレーム単位(コマ)でOK10回続いた後(グループA)にNGが4回続き(グループB)、再びOKが4回以上続いた場合に、計測対象が次のピン25に入れ替わったと判定する。
[ピン間計測処理]
次に、本実施形態の画像処理装置1によるピン間距離の測定処理について説明する。図8は、本発明の一実施形態に係る画像処理装置1のピン間計測処理の流れを示すフローチャートである。図9は、本発明の一実施形態に係る画像処理装置1のピン間距離Lの計測処理を説明する模式図である。以下の説明において、ターゲット画像70に含まれる2本のピン25が、1番目のピン25-1と2番目のピン25-2である場合を例として説明する。
まず、画像取得部31が、撮像部16によるコンベアチェーン21の動画撮影を開始し、撮影された動画に含まれる各フレームを解析し2本のピン25を含むターゲット画像70を取得する(ステップS31)。ターゲット画像70は、2本のピン25を含む範囲をトリミング処理したものであってもよい。ターゲット画像70の取得処理では、ターゲット画像70中のピン25の番号(1~N)も取得される。
次に、特定部33がターゲット画像70に対して前処理としてLBP計算処理を実行する(ステップS32)。次に、図9に示すように、特定部33は、ターゲット画像70の左側に位置するピン25-1と当該ピン25-1に対応するテンプレート画像64-1中のピン25-1との類似度を取得するマッチング処理を実行する(ステップS33)。同様に、特定部33は、ターゲット画像70の右側に位置するピン25-2と当該ピン25-2に対応するテンプレート画像64-2中のピン25-2との類似度を取得するマッチング処理を実行する(ステップS33)。
なお、1つのピン25に対してテンプレート画像64が複数存在する場合は、複数のテンプレート画像64の夫々と対象のピン25との間で複数回マッチング処理を行ってもよい。
特定部33は、ターゲット画像70の左側のピン25-1と右側のピン25-2に行ったマッチング処理の結果、ピン25-1、25-2の検出が成功したか否かを判定する(ステップS35)。
左側のピン25-1と右側のピン25-2の両方が適正に検出された場合、処理はステップS36に進む(ステップS35;Yes)。一方、左側のピン25-1と右側のピン25-2の少なくとも何れか一方が検出されなかった場合、処理はステップS39に進む(ステップS35;No)。
ステップS36では、特定部33によるピン間距離Lが算出される(ステップS36)。次に、特定部33は、ピン間距離Lが基準距離の誤差範囲内か否かを判定する(ステップS37)。算出されたピン間距離Lが基準距離の誤差範囲から外れている場合、また、ステップS35で出力制御部34が出力する類似度が基準値未満である場合はステップS39へ移行する。
ピン間距離Lが予め設定された基準距離の誤差範囲内であると判定された場合(ステップS37;Yes)、記憶制御部32が、ステップS38で算出されたピン間距離Lをピン25-1とピン25-2のピン間距離L1として記憶部30に記憶する処理を実行する(ステップS38)。ピン間距離Lが基準距離の誤差範囲内でないと判定された場合(ステップS37;No)、処理はステップS38を経ることなく、ステップS39に進む。
ステップS39では、特定部33が、次のピン間を特定する(ステップS39)。図9の例では、ピン25-2とピン25-3の間のピン間距離L2が計測対象のピン間距離として特定される。ステップS39の後、処理はステップS31にリターンし、ステップS31以降の処理が次の計測対象のピン間に実行される。
以上、一連の処理により、全てのピン25-1~25-2に対するピン間距離L1~Ln-1が取得される。なお、テンプレート画像64は、適宜のタイミングで更新される。
[ピン間距離の比較処理]
本実施形態の出力制御部34は、取得されたピン間距離L1~Ln-1と予め設定された上述の基準距離と比較して比較結果を出力する。より具体的には、記憶部30には、予め設定されている基準距離を記憶されており、出力制御部34は取得したピン間距離L1~Ln-1の夫々に対し、基準距離から所定距離以上伸びたか否かを判定し、所定距離以上伸びたと判定した場合はコンベアチェーン21に伸びが発生していることを示す比較結果を出力部20又は外部機器5に送信する。この際、伸びが発生している場所を特定して表示することもできる。
本実施形態の画像処理装置1による効果について説明する。
本実施形態の画像処理装置1は、個別に特定が可能な複数のピン25-1~25-n(被写体)が所定の方向に配列されたコンベアチェーン21(物体)の、少なくとも2つのピン25(例えば、ピン25-1、25-2)が含まれる画像を取得する画像取得部31(画像取得手段)と、画像取得部31によって取得された画像に含まれるピン25について、そのピン25の特徴量を含む情報画像(例えば、ターゲット画像70)を夫々生成し、予め記憶部30(記憶手段)に記憶されている情報画像(例えば、テンプレート画像64-1、64-2)と照合することによりピン25(例えば、ピン25-1、25-2)を夫々特定する特定部33(特定手段)と、特定部33によって夫々特定された被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御部34(出力制御手段)と、を備える。
これにより、複数のピン25-1~25-nが所定の方向に配列されたコンベアチェーン21における各ピン25間の距離を精度良く計測できる画像処理装置1を実現できる。
また、本実施形態の画像処理装置1は、特定部33は、生成された情報画像における特徴量と予め記憶部30に記憶されている情報画像の特徴量とを照合することにより、取得された画像におけるピン25と記憶されている情報画像の特徴量で特定されるピン25との類似度を取得し、複数のピン25-1~25-nを夫々特定する。
これにより、類似度を基準としてピン25-1~25-nが特定できたか否かを判定できるので、類似度が基準より低く誤検出の可能性がある状態でピン間距離が計測される事態の発生を抑制でき、検出精度をより向上させることができる。
また、本実施形態の画像処理装置1は、特定部33によって生成された情報画像をピン25に対応する新たな情報画像として記憶部30に記憶させるよう制御する(記憶制御部32)記憶制御手段を更に備える。
これにより、特定するときの基準となる情報画像(例えば、テンプレート画像64)を新しく取得された画像に基づいて更新できるので、実際のピン25の状況に合わせて検出精度をより向上させることができる。
また、本実施形態の画像処理装置1は、特定部33は、画像取得部31によって取得された画像からピン25を検出し、検出されたピン25を含む所定の範囲の画像領域を切り出してテンプレート画像64やテンプレート画像61、62を生成する。
これにより、ピン25を特定するために必要な領域のみをテンプレート画像64とすることができるので、画像処理の効率をより一層向上させることができる。
また、上述の通り、本実施形態の物体は、コンベアチェーン21であるとともに、被写体はコンベアチェーン21のピン25である。
これにより、移動するコンベアチェーン21のピン25とピン25との間のピン間距離Lを精度よく測定することができ、画像解析によりピン25間の伸び状態等を正確に評価できる。
なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
例えば、本発明は、画像処理機能を有する電子機器一般に適用することができる。例えば、本発明は、ノート型のパーソナルコンピュータ、ビデオカメラ、携帯型ナビゲーション装置、スマートフォン、タブレット等の各種電子装置に適用可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図3の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が画像処理装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図3の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布されるリムーバブルメディアにより構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディアは、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk),Blu-ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini-Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のプログラムメモリ12や、図示しないハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、更に、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得手段と、
前記画像取得手段によって取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成し、予め記憶手段に記憶されている情報画像と照合することにより前記被写体を夫々特定する特定手段と、
前記特定手段によって夫々特定された被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御手段と、
を備えることを特徴とする画像処理装置。
[付記2]
前記特定手段は、生成された情報画像における特徴量と予め記憶手段に記憶されている情報画像の特徴量とを照合することにより、前記取得された画像における被写体と前記記憶されている情報画像の特徴量で特定される被写体との類似度を取得し、前記複数の被写体を夫々特定することを特徴とする付記1記載の画像処理装置。
[付記3]
前記特定手段によって生成された情報画像を前記被写体に対応する新たな情報画像として前記記憶手段に記憶させるよう制御する記憶制御手段を更に備えることを特徴とする付記1又は2に記載の画像処理装置。
[付記4]
前記特定手段は、前記画像取得手段によって取得された画像から前記被写体を検出し、検出された被写体を含む所定の範囲の画像領域を切り出して前記情報画像を生成することを特徴とする付記1乃至3のいずれかに記載の画像処理装置。
[付記5]
前記物体はチェーンであるとともに、前記被写体は前記チェーンのピンであることを特徴とする付記1乃至4の何れかに記載の画像処理装置。
[付記6]
個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得ステップと、
前記画像取得ステップにて取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成し、予め記憶手段に記憶されている情報画像と照合することにより前記被写体を夫々特定する特定ステップと、
前記特定ステップにて夫々特定された被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御ステップと、
を含むことを特徴とする画像処理方法。
[付記7]
コンピュータを、
個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得手段、
前記画像取得手段によって取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成し、予め記憶手段に記憶されている情報画像と照合することにより前記被写体を夫々特定する特定手段、
前記特定手段によって夫々特定された被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御手段、
として機能させることを特徴とするプログラム。
1 画像処理装置
16 撮像部
21 コンベアチェーン(物体)
25 ピン(被写体)
30 記憶部(記憶手段)
31 画像取得部(画像取得手段)
32 記憶制御部(記憶制御手段)
33 特定部(特定手段)
34 出力制御部(出力制御手段)
35 判定部(判定手段)

Claims (8)

  1. 個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得手段と、
    前記画像取得手段によって取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成する生成手段と、
    予め記憶手段に記憶されているテンプレート画像と前記生成手段により生成された情報画像の類似度が所定の基準を満たすか否かを被写体毎に判別する判別手段と、
    前記判別手段により前記テンプレート画像との類似度が所定の基準を満たすと判別された情報画像に対応する被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記生成手段によって生成された情報画像を前記被写体に対応する新たなテンプレート画像として前記記憶手段に記憶させるよう制御する記憶制御手段を更に備えることを特徴とする請求項1に記載の画像処理装置。
  3. 前記生成手段は、前記画像取得手段によって取得された画像から前記被写体を検出し、検出された被写体を含む所定の範囲の画像領域を切り出して前記情報画像を生成することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記物体はチェーンであるとともに、前記被写体は前記チェーンのピンであることを特徴とする請求項1乃至の何れか一項に記載の画像処理装置。
  5. 前記画像取得手段は、前記被写体に対応付けて設けられたマーキングの画像を取得し、
    前記マーキングに基づいて前記画像に含まれる被写体を識別する識別手段を更に備え、
    前記判別手段は、前記識別手段により識別された被写体と対応付けて前記記憶手段に記憶されたテンプレート画像と前記生成手段により生成された前記情報画像の類似度が所定の基準を満たすか否かを被写体毎に判別することを特徴とする請求項1乃至4の何れか一項に記載の画像処理装置。
  6. 前記判別手段は、前記画像における一端側に偏った位置に設けられた第1の検出枠に含まれる被写体と、前記画像における他端側に偏った位置に設けられた第2の検出枠に含まれる被写体と、のそれぞれについて生成された情報画像と前記テンプレート画像との類似度が所定の基準を満たすか否かを判別することを特徴とする請求項1乃至5の何れか一項に記載の画像処理装置。
  7. 個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得ステップと、
    前記画像取得ステップによって取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成する生成ステップと、
    予め記憶手段に記憶されているテンプレート画像と前記生成ステップにより生成された情報画像の類似度が所定の基準を満たすか否かを被写体毎に判別する判別ステップと、
    前記判別ステップにより前記テンプレート画像との類似度が所定の基準を満たすと判別された情報画像に対応する被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御ステップと、
    を含むことを特徴とする画像処理方法。
  8. コンピュータを、
    個別に特定が可能な複数の被写体が所定の方向に配列された物体の、少なくとも2つの前記被写体が含まれる画像を取得する画像取得手段、
    前記画像取得手段によって取得された画像に含まれる被写体について、その被写体の特徴量を含む情報画像を夫々生成する生成手段、
    予め記憶手段に記憶されているテンプレート画像と前記生成手段により生成された情報画像の類似度が所定の基準を満たすか否かを被写体毎に判別する判別手段、
    記判別手段により前記テンプレート画像との類似度が所定の基準を満たすと判別された情報画像に対応する被写体同士の距離を計測し、計測結果を出力するよう制御する出力制御手段、
    として機能させることを特徴とするプログラム。
JP2020051053A 2020-03-23 2020-03-23 画像処理装置、画像処理方法、及び、プログラム Active JP7136152B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020051053A JP7136152B2 (ja) 2020-03-23 2020-03-23 画像処理装置、画像処理方法、及び、プログラム
US17/204,697 US11783468B2 (en) 2020-03-23 2021-03-17 Image processing apparatus, image processing method, and storage medium for PNIS of chains

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020051053A JP7136152B2 (ja) 2020-03-23 2020-03-23 画像処理装置、画像処理方法、及び、プログラム

Publications (2)

Publication Number Publication Date
JP2021148714A JP2021148714A (ja) 2021-09-27
JP7136152B2 true JP7136152B2 (ja) 2022-09-13

Family

ID=77748261

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020051053A Active JP7136152B2 (ja) 2020-03-23 2020-03-23 画像処理装置、画像処理方法、及び、プログラム

Country Status (2)

Country Link
US (1) US11783468B2 (ja)
JP (1) JP7136152B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007285880A (ja) 2006-04-17 2007-11-01 Omron Corp 基板検査における見本画像の登録方法および見本画像作成装置
WO2012035609A1 (ja) 2010-09-14 2012-03-22 日本たばこ産業株式会社 シガレット検査装置
JP2019132668A (ja) 2018-01-30 2019-08-08 株式会社椿本チエイン 伸長判定装置、伸長判定方法、及びコンピュータプログラム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10300426A (ja) * 1997-05-01 1998-11-13 Tsubakimoto Chain Co ローラチェーンの摩耗検出方法及び摩耗検出装置
JPH10318721A (ja) * 1997-05-19 1998-12-04 Tsubakimoto Chain Co 無端移動体の伸長度検出方法及び伸長度検出装置
JP4367644B2 (ja) 2005-05-16 2009-11-18 株式会社ダイフク コンベヤチエンの伸び検出システム
JP5283608B2 (ja) * 2009-11-30 2013-09-04 株式会社椿本チエイン 伸張度測定装置、伸張度測定システム及びコンピュータプログラム
WO2014199376A1 (en) * 2013-06-10 2014-12-18 Danimar Ltd. Device and method for monitoring a chain parameter
US9896276B2 (en) * 2016-01-26 2018-02-20 Patco Sales and Services, Inc. Method and apparatus for automatically and visually monitoring wear of a continuous chain
JP7246363B2 (ja) * 2018-03-01 2023-03-27 大同工業株式会社 情報処理装置、情報処理方法、及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007285880A (ja) 2006-04-17 2007-11-01 Omron Corp 基板検査における見本画像の登録方法および見本画像作成装置
WO2012035609A1 (ja) 2010-09-14 2012-03-22 日本たばこ産業株式会社 シガレット検査装置
JP2019132668A (ja) 2018-01-30 2019-08-08 株式会社椿本チエイン 伸長判定装置、伸長判定方法、及びコンピュータプログラム

Also Published As

Publication number Publication date
JP2021148714A (ja) 2021-09-27
US11783468B2 (en) 2023-10-10
US20210295489A1 (en) 2021-09-23

Similar Documents

Publication Publication Date Title
US11080843B2 (en) Image inspecting apparatus, image inspecting method and image inspecting program
JP7014370B2 (ja) コンクリート評価制御装置、コンクリート評価制御プログラム
US10366484B2 (en) Inspection method, inspection apparatus, processing apparatus, and recording medium for detecting defects of a work
JP2017504307A5 (ja)
US20140286546A1 (en) Apparatus and method for processing fingerprint image
JP6544716B2 (ja) データ生成装置、データ生成方法及びデータ生成プログラム
JP7076747B2 (ja) 分類器の学習支援システム、学習データの収集方法、検査システム
US8315457B2 (en) System and method for performing multi-image training for pattern recognition and registration
JP6756417B1 (ja) ワークの表面欠陥検出装置及び検出方法、ワークの表面検査システム並びにプログラム
CN105588440B (zh) 烧结机台车位置检测方法及装置
JP2022000642A (ja) 架線摩耗検査方法
JP7136152B2 (ja) 画像処理装置、画像処理方法、及び、プログラム
JP2021056182A (ja) ワークの表面欠陥検出装置及び検出方法、ワークの表面検査システム並びにプログラム
JP4038210B2 (ja) 自動流動顕微鏡のための粒子抽出
JP7400579B2 (ja) 画像処理装置、画像処理方法、及び、プログラム
JP7071301B2 (ja) 生体試料検出装置
JP7552176B2 (ja) 画像処理装置、方法、及び、プログラム
JP3675543B2 (ja) 画像位置計測方法
JP2020064019A (ja) 測定データ収集装置及びプログラム
JPS63311109A (ja) 画像処理によるキ−山形状識別方法
JP2009265998A (ja) 画像処理システム、画像処理方法及び画像処理プログラム
JP2007249743A (ja) 移動物体の識別方法、移動物体の識別装置、及び移動物体の識別処理を実行させるプログラム
JP3841882B2 (ja) 外観検査方法および外観検査装置
US20230419529A1 (en) Method and apparatus for acquiring master data of an object
JP7215492B2 (ja) 検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220815

R150 Certificate of patent or registration of utility model

Ref document number: 7136152

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150