WO2023021668A1 - 撮影ガイド装置 - Google Patents

撮影ガイド装置 Download PDF

Info

Publication number
WO2023021668A1
WO2023021668A1 PCT/JP2021/030462 JP2021030462W WO2023021668A1 WO 2023021668 A1 WO2023021668 A1 WO 2023021668A1 JP 2021030462 W JP2021030462 W JP 2021030462W WO 2023021668 A1 WO2023021668 A1 WO 2023021668A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
photographing
camera
transformation matrix
product
Prior art date
Application number
PCT/JP2021/030462
Other languages
English (en)
French (fr)
Inventor
和寛 渡邉
塁 石山
Original Assignee
日本電気株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 日本電気株式会社 filed Critical 日本電気株式会社
Priority to PCT/JP2021/030462 priority Critical patent/WO2023021668A1/ja
Priority to JP2023542138A priority patent/JPWO2023021668A1/ja
Publication of WO2023021668A1 publication Critical patent/WO2023021668A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras

Definitions

  • a fourth index 1434 consists of a rectangular figure and represents the inclination of the shooting direction of the camera 212 with respect to the camera 211 .
  • the quadrangle forming the fourth index 1434 is drawn as a square whose sides are colored in a first color (for example, green) if the camera 212 is not tilted in the shooting direction with respect to the camera 211 .
  • the quadrangle is rendered as a trapezoid having a perspective distortion in the direction corresponding to the direction of the tilt shift.
  • the registration unit 152 is configured to acquire an image of the product carried into the first process processing device 201 and store the registered image and the like in the product DB 144 in the operation phase of the production line 200 .
  • the user places the reference product on the carrier 203 and causes it to be carried toward the first process processing device 201 .
  • the reference product is carried into the first process processing apparatus 201, it is detected by a sensor (not shown) installed in the first process processing apparatus 201, and when the reference product reaches a predetermined position, transportation is temporarily stopped. It is stopped and the reference product is kept stationary.
  • the first process processing device 201 notifies the individual identification device 100 by communication that the product has been carried into the first process processing device 201 .
  • the photographing guide unit 151 adjusts the position/posture of the camera 212 by the camera position/posture adjuster 222 according to instructions input by the user through the operation input unit 120 (step S3).
  • the user inputs, for example, position/orientation information from the operation input unit 120 so that the position/orientation is the same as the position/orientation of the camera 211 that has already been adjusted. can be considered.
  • FIG. 11 is a flowchart showing an example of detailed processing in step S5.
  • the photographing guide unit 151 calculates the rigid transformation matrix Mr of the reference image 142 and the photographed image SG based on the same light-dark pattern. For example, the imaging guide unit 151 calculates the rigid transformation matrix Mr using the phase-only correlation method. Specifically, the photographing guide unit 151 first performs FFT transformation on each of the reference image 142 and the captured image SG, and then further performs logarithmic polar coordinate transformation. Next, the imaging guide unit 151 calculates the rotation angle and the amount of scaling between the reference image 142 and the captured image SG using phase-only correlation from the frequency spectrum images of the reference image 142 and the captured image SG after logarithmic-polar coordinate transformation. calculate.
  • the photographing guide unit 151 first extracts a plurality of feature points from each of the reference image 142 and the photographed image SG using any method such as SIFT or Random. Next, the shooting guide unit 151 associates a plurality of feature points between the reference image 142 and the shot image SG using the Lucas-Kanade method. Next, the photographing guide unit 151 calculates the planar projective transformation matrix Mh of the reference image 142 and the photographed image SG using the coordinates of the associated feature point group.
  • the photographing guide unit 151 multiplies the difference in length from the opposite side by a predetermined exaggeration factor f for each of the sides h 1 , h 2 , h 3 , and h 4 using the following equation, A gamma-corrected value g n is obtained (step S42).
  • g n ((h n ⁇ h n+2 ) ⁇ f/255) 1/gamma ⁇ 255 (4)
  • FIG. 16 is a flow chart showing an example of the operation of the registration unit 152 in the operation phase of the individual identification device 100.
  • FIG. 17 is a flowchart showing an example of the operation of the matching unit 153 in the operation phase of the individual identification device 100. As shown in FIG.
  • the registration unit 152 stores the registration image and the manufacturing information of the product acquired from the first process processing apparatus 201 in the product DB 144 of the storage unit 140 (step S53). The above operation is repeated each time the product is carried into the first process processing apparatus 201 .
  • step S63 of the matching unit 153 will be described.
  • the matching unit 153 may compare the two images themselves, or may compare the feature amounts obtained by performing some transformation on the two images.
  • the matching unit 153 may compare frequency spectrum images obtained by applying frequency transform such as Fourier transform to each of the two images.
  • the matching unit 153 first performs frequency transformation such as Fourier transform on each of the two images to convert them into frequency spectrum images, and then performs polar coordinate transformation or logarithmic polar coordinate transformation on the frequency spectrum images. The resulting polar images (Fourier-Mellin feature images) may be compared.
  • the matching unit 153 first performs frequency transformation such as Fourier transform on each of the two images to convert them into frequency spectrum images, and then performs polar coordinate transformation or logarithmic polar coordinate transformation on the frequency spectrum images. Phase images obtained by transforming into Fourier-Mellin features and then performing frequency transform such as Fourier transform on the Fourier-Mellin features may be compared.
  • frequency transformation such as Fourier transform
  • polar coordinate transformation or logarithmic polar coordinate transformation
  • the matching unit 153 calculates a matching score indicating the degree of similarity between the matching image and the registered image from the correlation coefficient map (step S74).
  • the matching unit 153 performs matching between the matching image and the registered image based on the matching score calculated for each registered image (step S75). For example, if the best score among the plurality of matching scores calculated for each registered image is equal to or greater than a predetermined threshold value, the matching unit 153 matches the matching image with the registered image having the best matching score. (identical). On the other hand, if the best matching score is less than the threshold, the matching unit 153 determines that the matching image does not match (is not the same as) any of the registered images.
  • the user can adjust the orientation of the camera 212 based on the orientation of the projection distortion of the figure that constitutes the fourth index 1434 displayed in the guide image 143 to register. It is possible to easily determine whether or not the direction of the camera 211 for use can be matched.
  • FIG. 19 is a block diagram of a shooting guide device according to this embodiment.
  • the generating means generates the display item further including a text indicator that textually represents the amount of rotation and position deviation.
  • the photographing guide device according to appendix 6.
  • [Appendix 8] calculating a planar projective transformation matrix of a first image obtained by photographing a plane of an object with a first photographing device and a second image obtained by photographing the plane with a second photographing device; Acquiring a second figure obtained by transforming a first figure virtually drawn in the first image in a predetermined orientation and in a predetermined shape based on the planar projective transformation matrix; generating a tilt index representing the tilt of the photographing direction of the second photographing device with respect to the first photographing device based on the second graphic, and generating a display item including the tilt index; displaying the display item superimposed on the second image; Shooting guide method.

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)

Abstract

撮影ガイド装置は、対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出する算出手段と、前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得する取得手段と、前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成する生成手段と、前記表示アイテムを前記第2の画像に重畳して表示する表示制御手段と、を含む。

Description

撮影ガイド装置
 本発明は、撮影ガイド装置、撮影ガイド方法、および、記録媒体に関する。
 物体をカメラによって撮影して得られた画像の個体差を個体認証や照合に利用する試みが行われている(例えば特許文献1参照)。
 このように物体をカメラによって撮影して得られた画像の個体差を個体認証などに利用する場合、登録対象物体を撮影したときのカメラの向きと照合対象物体を撮影したときのカメラの向きとが相違すると、射影歪み(台形歪みとも称する)の影響により認証性能が劣化する。そのため、登録時と照合時とでカメラの向きを合わせることが重要である。
 本発明に関連する技術を記載した文献として、特許文献2および特許文献3がある。
 特許文献2に記載された技術(以下、第1の関連技術と記す)では、照合時にカメラによって照合対象物体の照合領域を撮影する際に、所定の向き及び位置に設定したカメラで照合領域を事前に撮影した登録画像あるいはその輪郭線(以下、単に登録画像と記す)を、スルー画像(プレビュー画像やライブビュー画像とも呼ばれる)に重畳表示する。
 特許文献3に記載された技術(以下、第2の関連技術と記す)は、橋梁などの構造物の点検個所をカメラによって毎回同じ位置と向きで撮影する定点観測を支援する技術である。第2の関連技術では、カメラによって構造物を撮影した候補画像と同じ構造物を所定の向き及び位置に設定されたカメラで過去に撮影した登録画像の平面射影変換行列(ホモグラフィ行列とも称する)を推定する。そして、第2の関連技術では、推定した平面射影変換行列に基づき登録画像を変換した後の画像と上記候補画像とを合成した合成画像を表示装置に表示する。
特許第6217886号 特許第6206645号 WO/2020/145004
 第1の関連技術によれば、利用者は、スルー画像の照合領域と登録画像とが一致するように、カメラの向きを調整することにより、登録時と照合時とでカメラの向きを合わせることができる。しかし、利用者は、カメラをどの向きに調整すればスルー画像の照合領域と登録画像とが一致するようになるのかを、スルー画像の照合領域と登録画像とを一見しただけでは容易に判断できない。勿論、照合領域の本来の形状が分かっていれば、スルー画像の照合領域の形状の射影歪みの向きとスルー画像に重畳表示された登録画像の形状の射影歪みの向きとからカメラの向きの調整方向を推定することは理論的に可能である。しかし、照合領域の本来の形状が分からない場合がある。また、分かっている場合でも矩形などの単純な形状ではなく台形、ひし形、星形など、射影歪みの向きからカメラの向きの調整方向を推定するのが難しい形状もある。そのような理由により、第1の関連技術では、照合時にカメラの向きを登録時の向きと一致するように調整するのは容易でない。
 一方、定点観測の分野における第2の関連技術を個体認証における撮影に適用することを考える。その場合、照合時にカメラによって照合対象物体の照合領域を撮影した画像と所定の向き及び位置に設定したカメラで照合領域を事前に撮影した登録画像の平面射影変換行列を推定し、その平面射影変換行列に基づき登録画像を変換した後の画像と上記照合対象物体の照合領域を撮影した画像とを合成した合成画像を表示装置に表示する構成となる。このような構成によれば、利用者は、平面射影変換行列に基づき登録画像を変換した後の画像の形状と照合領域の本来の形状などに基づいて、カメラの向きを調整する方向を判断することになる。しかし、前述したように、照合領域の本来の形状が分からない場合がある。また、分かっている場合でも矩形などの単純な形状ではなく台形、ひし形、星形など、射影歪みの向きからカメラの向きの調整方向を推定するのが難しい形状もある。そのような理由により、第2の関連技術を個体認証における撮影に適用した場合、照合時にカメラの向きを登録時の向きと一致するように調整するのは容易でない。
 本発明は、上述した課題を解決する撮影ガイド装置を提供することにある。
 本発明の一形態に係る撮影ガイド装置は、
 対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出する算出手段と、
 前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得する取得手段と、
 前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成する生成手段と、
 前記表示アイテムを前記第2の画像に重畳して表示する表示制御手段と、
を含むように構成されている。
 本発明の他の形態に係る撮影ガイド方法は、
 対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出し、
 前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得し、
 前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成し、
 前記表示アイテムを前記第2の画像に重畳して表示する、
ように構成されている。
 本発明の他の形態に係るコンピュータ読み取り可能な記録媒体は、
 コンピュータに、
 対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出する処理と、
 前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得する処理と、
 前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成する処理と、
 前記表示アイテムを前記第2の画像に重畳して表示する処理と、
を行わせるためのプログラムを記録するように構成されている。
 本発明は、上述したような構成を有することにより、利用者は、所定形状の図形の射影歪みの向きから、カメラをどの向きに調整すれば照合時のカメラの向きを登録時の向きに合わせることができるかを容易に判断することができる。
本発明の第1の実施形態に係る個体識別システムのブロック図である。 本発明の第1の実施形態に係る個体識別システムを構成する生産ラインの第1工程処理装置における製品撮影時のカメラと製品の相対位置関係の一例を示す模式図である。 本発明の第1の実施形態に係る個体識別システムを構成する生産ラインの第1工程処理装置において撮影された登録画像の一例を示す図である。 本発明の第1の実施形態に係る個体識別システムを構成する生産ラインの第2工程処理装置における製品撮影時のカメラと製品の相対位置関係の一例を示す模式図である。 本発明の第1の実施形態に係る個体識別システムを構成する生産ラインの第2工程処理装置において撮影された照合画像の一例を示す図である。 本発明の第1の実施形態に係る個体識別システムを構成する生産ラインの第2工程処理装置において撮影された照合画像の他の例を示す図である。 本発明の第1の実施形態に係る個体識別装置のブロック図である。 本発明の第1の実施形態に係る個体識別装置が利用者に提示するガイド画像の一例を示す図である。 本発明の第1の実施形態に係る個体識別装置における製品DBの構成例を示す図である。 本発明の第1の実施形態に係る個体識別装置における撮影ガイド部の動作の一例を示すフローチャートである。 ステップS5の詳細な処理の一例を示すフローチャートである。 基準図形を描画した基準画像の例を示す図である。 第4の指標を算出する処理の一例を示すフローチャートである。 基準図形とそれを射影変換した図形、その射影歪みを誇張した図形、それを回転させた図形の例を示す図である。 図形の各辺に射影歪みに応じた着色を行う処理の一例を示すフローチャートである。 本発明の第1の実施形態に係る個体識別装置の登録部の動作の一例を示すフローチャートである。 本発明の第1の実施形態に係る個体識別装置の照合部の動作の一例を示すフローチャートである。 本発明の第1の実施形態に係る個体識別装置の照合部が照合画像と登録画像とを照合する処理の一例を示すフローチャートである。 本発明の第2の実施形態に係る撮影ガイド装置のブロック図である。
 次に、本発明の実施の形態について、図面を参照して詳細に説明する。
[第1の実施の形態]
 図1は、本発明の第1の実施形態に係る撮影ガイド装置を適用した個体識別システム10のブロック図である。この個体識別システム10は、個体識別装置100と生産ライン200とから構成される。
 生産ライン200は、工業製品を生産するラインである。生産する工業製品は特に限定されない。例えば、工業製品は、プリント配線基板などの電気製品、ネジやワッシャなどの金属製品、缶ビールなどの食料品、薬などの医薬品などであってよい。生産ライン200は、少なくとも2つの工程処理装置、すなわち第1工程処理装置201および第2工程処理装置202と、コンベアなどの搬送機203~205とを含んで構成されている。例えば、プリント配線基板のSMT(Surface Mount Technology)ラインの場合、第1工程処理装置201は、例えば基板上にはんだを塗布するはんだ印刷機であり、第2工程処理装置202は、はんだ印刷後の基板の所定の場所に複数の電子部品を搭載する部品搭載機である。或いは、第1工程処理装置201が部品搭載機であり、第2工程処理装置202が、搭載された部品を基板に固定するため、恒温槽の中を、基板を流してはんだを溶解し固めるリフロー機であってもよい。搬送機203~205は、第1工程処理装置201、第2工程処理装置202の順に1製品ずつ上流側から下流側へ製品を搬送する手段である。
 生産ライン200は、調整フェーズと運用フェーズとの2つのフェーズを少なくとも有する。調整フェーズは、運用フェーズに先だって実施され、後述するカメラ位置・姿勢の調整などの処理が実施される。運用フェーズは、大量の製品を流れ作業方式で生産する処理が実施される。この運用フェーズでは、第1工程処理装置201を通過した複数の製品は、次に第2工程処理装置202に搬入される。しかし、第1工程処理装置201と第2工程処理装置202との間に、複数の製品を順不同に一時的に蓄積するバッファ部が設けられることがある。そのため、第1工程処理装置201を通過した複数の製品は、その通過順序を保ちながら第2工程処理装置202を通過するとは限られない。そのため、第2工程処理装置202に搬入された製品が、第1工程処理装置201を通過したどの製品と同一であるかを識別する個体識別が行われる。
 個体識別装置100は、製造工程管理、品質管理、出荷管理、販売管理などのために、生産ライン200で生産される製品の個体を管理する情報処理装置である。個体識別装置100と第1工程処理装置201および第2工程処理装置202との間は、有線または無線により相互に通信可能に接続されている。第1工程処理装置201および第2工程処理装置202には、個体識別のために第1工程処理装置201および第2工程処理装置202に搬入された製品241、242を撮影するためのカメラ211、212と、カメラ211、212の位置・姿勢を調整するためのカメラ位置・姿勢調整器221、222と、撮影のための照明を製品に照射する照明器231、232とが設けられている。カメラ211、212は、例えば、数百万画素程度の画素容量を有するCCD(Charge-Coupled Device)イメージセンサやCMOS(Complementary MOS)イメージセンサを備えた可視光かつカラーカメラ或いは白黒カメラであってよい。カメラ位置・姿勢調整器221、222は、例えば、パンチルト雲台や6軸ロボットアームなどであってよい。照明器231、232は、例えばリング照明やドーム照明などであってよい。
 図2は、第1工程処理装置201における製品撮影時のカメラ211と製品241の相対位置関係の一例を示す模式図である。カメラ211は、製品241の上面を上方から撮影できる位置に置かれている。カメラ211の位置は、カメラ位置・姿勢調整器221によって、紙面の左右方向、紙面の手前と奥方向、および紙面の上下方向に調整できる。また、カメラ211の姿勢は、カメラ位置・姿勢調整器221によって、左右方向(パン方向)、上下方向(チルト方向)、およびカメラ回転方向(ロール方向)に調整できる。製品241は、搬送機203によって第1工程処理装置201に搬入されると、製品241の先端が所定位置に到達した時点で、一時的に搬送が停止され、静止した状態とされる。利用者は、静止した状態の製品241の上面に形成されたランダムパターンを明暗パターンとして撮影できるように、カメラ位置・姿勢調整器221によってカメラ211の位置・姿勢を調整する。このとき、必要に応じて水準器やセンサ等の器具を使用してカメラ211の最適な位置・姿勢を決定してよい。そして、利用者は、カメラ位置・姿勢調整器221による調整を完了すると、その位置・姿勢でカメラ211を固定する。カメラ211は、固定された位置・姿勢の状態で、静止した状態の製品241の照合領域を撮影した画像である登録画像を取得する。
 図3は、カメラ211によって製品241の照合領域を撮影して得られた登録画像の一例を示す。この例の製品241は、平面視リング状を成す金属性のワッシャである。また、照合領域は製品241の上面全体である。製品241の上面は、略同一平面を形成している。一般に同一の製造過程を経て製造される複数の製品241の表面には、個々の製品241固有の微細パターンおよび複数の製品241に共通な微細パターンや非微細パターンが存在している。
 一方、図4は、第2工程処理装置202における製品撮影時のカメラ212と製品242の相対位置関係の一例を示す模式図である。カメラ212は、製品242の上面を上方から撮影できる位置に置かれている。カメラ212の位置は、カメラ位置・姿勢調整器222によって、紙面の左右方向、紙面の手前と奥方向、および紙面の上下方向に調整できる。また、カメラ212の姿勢は、カメラ位置・姿勢調整器222によって、左右方向(パン方向)、上下方向(チルト方向)、およびカメラ回転方向(ロール方向)に調整できる。製品242は、搬送機204によって第2工程処理装置202に搬入されると、製品242の先端が所定位置に到達した時点で、一時的に搬送が停止され、静止した状態とされる。カメラ212は、静止した状態の製品242の上面を上方から撮影する。このとき、利用者は、製品242に対するカメラ212の位置・姿勢が、製品241に対するカメラ211の位置・姿勢と同じになるように、カメラ位置・姿勢調整器222によってカメラ212の位置・姿勢を初期設定する。
 しかしながら、人手によるカメラ位置の設定誤りやカメラ位置・姿勢調節器の個体差などの種々の要因によって、第2工程処理装置202における製品242に対するカメラ212の初期設定された位置・姿勢が、第1工程処理装置201における製品241に対するカメラ211の位置・姿勢と相違することがある。例えば、カメラ212の位置をカメラ211と同じ位置に設定するために、カメラ位置・姿勢調整器222に対してカメラ位置・姿勢調整器221に与えた移動量と同一の移動量を与えたとしても、カメラ位置・姿勢調整器221、222の個体差により、実際には同じ位置に設定されないことがある。また、カメラ212の姿勢をカメラ211と同じ姿勢に設定するために、カメラ位置・姿勢調整器222に対してカメラ位置・姿勢調整器221に与えた回転量と同一の回転量を与えたとしても、カメラ位置・姿勢調整器221、222の個体差により、実際には同じ回転量に設定されないことがある。
 そして、カメラ212の位置・姿勢がカメラ211と相違していると、カメラ211では製品241の上面全体が画像内におさまっているのに対して、例えば図5に示すように、カメラ212では製品242の上面全体が画像内におさまらず一部が切れることがある。また、カメラ212の位置・姿勢がカメラ211と相違していると、カメラ211では製品241の上面の像に射影歪みが発生していないのに対して、例えば図6に示すように、カメラ212では製品242の上面の像に射影歪みが発生することがある。図5に示したような照合領域全体が画像内に収まらないような位置ずれは、製品の画像上の位置によって視認できるため、利用者は比較的容易に対処することができる。しかし、図6に示したようなカメラ姿勢の相違は、10度以下の姿勢差では視認で確認することは難しい。また、数ピクセル程度の画像の差を招く僅かな射影歪みでも照合性能の劣化要因となる。そのため、特に射影歪みを引き起こすカメラ姿勢の相違がないようにカメラ212の位置・姿勢を調整できるように利用者を支援することが重要である。そこで、個体識別装置100は、カメラ211の位置・姿勢に対するカメラ212の位置・姿勢の差を示す情報を利用者に提示するように構成されている。以下、個体識別装置100について詳細に説明する。
 図7は、個体識別装置100のブロック図である。図7を参照すると、個体識別装置100は、第1工程処理装置201および第2工程処理装置202と通信可能に接続されている。また、個体識別装置100は、通信I/F(インターフェース)部110と、操作入力部120と、画面表示部130と、記憶部140と、演算処理部150とを含んで構成されている。
 通信I/F部110は、データ通信回路から構成され、無線または有線によって外部装置との間でデータ通信を行うように構成されている。操作入力部120は、キーボードやマウスなどの装置から構成され、オペレータの操作を検出して演算処理部150に出力するように構成されている。画面表示部130は、LCD(Liquid Crystal Display)などの装置から構成され、演算処理部150からの指示に応じて、各種情報を画面表示するように構成されている。
 記憶部140は、ハードディスクやメモリなどの記憶装置から構成され、演算処理部150における各種処理に必要な処理情報およびプログラム141を記憶するように構成されている。プログラム141は、演算処理部150に読み込まれて実行されることにより各種処理部を実現するプログラムであり、通信I/F部110などのデータ入出力機能を介して図示しない外部装置や記録媒体から予め読み込まれて記憶部140に保存される。記憶部140に記憶される主な処理情報には、基準画像142、ガイド画像143、および製品DB(データベース)144がある。
 基準画像142は、第1工程処理装置201に搬入された位置・姿勢調整のための製品(以下、基準製品と記す)の照合領域を、位置・姿勢を調整済みのカメラ211によって撮影した画像である。基準製品は、生産ライン200で生産する複数の製品のうちの1つである。基準製品は、生産ライン200で生産する他の製品と同様に第1工程処理装置201および第2工程処理装置202において所定の工程が施されてもよいし、それらの工程が省略されてもよい。例えば、基準製品が平面視リング状を成す金属製のワッシャの場合、基準画像142の一例は、図3に示した登録画像の一例と同じ画像になる。
 ガイド画像143は、第2工程処理装置202に搬入された基準製品の照合領域をカメラ212によって撮影した画像に、カメラ211に対するカメラ212の位置・姿勢のずれの程度を表す表示アイテムを重畳した画像である。
 図8はガイド画像143の一例を示す。この例のガイド画像143は、第1の指標1431と第2の指標1432と第3の指標1433と第4の指標1434とを含む表示アイテムを、カメラ212によって撮影した画像に重畳している。第1の指標1431は無傾斜指標とも称する。第2の指標1432は矢印指標とも称する。第3の指標1433はテキスト指標とも称する。第4の指標1434は傾斜指標とも称する。
 第1の指標1431は、正方形の図形から成り、正方形の位置及び向きにより、カメラ211に対するカメラ212の位置ずれおよび回転ずれを表している。例えば、カメラ212に回転ずれがない場合、上記正方形は正立した状態で描画される。一方、カメラ212に回転ずれがある場合、上記正方形は回転ずれ量に応じて正立した状態から回転した状態で描画される。第2の指標1432は、1本の矢印から成り、矢印の長さ及び向きにより、カメラ211に対するカメラ212の位置ずれおよび回転ずれを表している。例えば、カメラ212に位置ずれがない場合、矢印の長さはゼロになり、矢印は実質的に描画されない。一方、カメラ212に位置ずれがある場合、位置ずれ量に応じた長さの矢印が描画される。このとき、矢印の先端は、第1の指標1431を構成する正方形の中心と同じ個所に描画される。従って、第1の指標1431を構成する正方形は、カメラ212に位置ずれがある場合、矢印の長さおよび向きだけシフトして描画されることになる。第3の指標1433は、3行のテキストから成り、1行目および2行目は、カメラ211に対するカメラ212のX軸方向およびY軸方向の位置ずれ量を表し、3行目は、カメラ211に対するカメラ212の回転ずれ角を表している。このように、第1の指標1431と第2の指標1432と第3の指標1433は、何れも、カメラ211に対するカメラ212の位置ずれおよび回転ずれを表している。
 第4の指標1434は、四角形の図形から成り、カメラ211に対するカメラ212の撮影方向の傾きを表している。第4の指標1434を構成する四角形は、カメラ211に対してカメラ212に撮影方向の傾きのずれがない場合、各辺が第1の色(例えば緑色)で着色された正方形で描画される。一方、カメラ211に対してカメラ212に撮影方向の傾きのずれがある場合、上記四角形は、傾きのずれ方向に応じた向きの射影歪みを有する台形で描画される。さらに、上記台形の4つの辺のうち、対向する辺と同じ長さの辺は第1の色(例えば緑色)で着色され、対向する辺より短い長さの辺は第2の色(例えば赤色)で着色され、対向する辺より長い長さの辺は第3の色(例えば青色)で着色される。
 但し、ガイド画像143の表示アイテムを構成する指標は、上記に限定されない。例えば、表示アイテムは、第4の指標1434のみを含んでいてもよい。或いは、表示アイテムは、第4の指標1434と、第1乃至第3の指標のうちの何れか1つまたは2つを含んでいてもよい。或いは、表示アイテムは、第1乃至第4の指標とは異なる他の指標を含んでいてよい。他の指標の例として、第4の指標1434の射影歪みの向きを示す矢印で構成される指標が考えられる。
 製品DB144は、生産ライン200で大量生産される個々の製品の画像などの情報を保存するデータベースである。図9は、製品DB144の構成例を示す。この例の製品DB144は、複数のエントリから構成され、1つのエントリは、製品ID、第1工程の製造情報および登録画像、および第2工程の製造情報および照合画像の各項目から構成される。製品IDの項目には、製品に割り振られた通し番号などのIDが設定される。第1工程の製造情報および登録画像の項目には、製品に対する第1工程の作業履歴、使用する部品の形式、ロット番号などから構成される製造情報、および当該製品をカメラ211で撮影した画像である登録画像が設定される。第2工程の製造情報および照合画像の項目には、製品に対する第2工程の作業履歴、使用する部品の形式、ロット番号などから構成される製造情報、および当該製品をカメラ212で撮影した画像である照合画像が設定される。
 演算処理部150は、MPUなどのプロセッサとその周辺回路を有し、記憶部140からプログラム141を読み込んで実行することにより、上記ハードウェアとプログラム141とを協働させて各種処理部を実現するように構成されている。演算処理部150で実現される主な処理部は、撮影ガイド部151、登録部152、および照合部153である。
 撮影ガイド部151は、生産ライン200の調整フェーズにおいて、利用者がカメラ211、212の位置・姿勢を調整する作業を支援するように構成されている。例えば、撮影ガイド部151は、カメラ211の位置・姿勢に対するカメラ212の位置・姿勢の差を示す情報を、画面表示部130を通じて利用者に提示するように構成されている。
 登録部152は、生産ライン200の運用フェーズにおいて、第1工程処理装置201に搬入された製品の画像を取得し、登録画像などを製品DB144に保存するように構成されている。
 照合部153は、生産ライン200の運用フェーズにおいて、第2工程処理装置202に搬入された製品の画像を取得し、製品DB144に記録されている第1工程処理装置201を通過した製品の登録画像と照合することにより、第2工程処理装置202に搬入された製品が第1工程処理装置201を通過した何れの製品であるかを識別する個体識別を行うように構成されている。
 続いて、個体識別装置100の動作を説明する。最初に、個体識別装置100の調整フェーズの動作を説明する。
 図10は、撮影ガイド部151が調整フェーズにおいて実行する処理の一例を示すフローチャートである。図10を参照すると、先ず、撮影ガイド部151は、操作入力部120を通じて利用者から入力される指示に従って、カメラ位置・姿勢調整器221によってカメラ211の位置・姿勢を調整する(ステップS1)。製品の最適な照合領域は製品の種類によって異なるため、利用者は、製造する製品の種類に応じたカメラ211の位置・姿勢情報を操作入力部120から入力することで調整を行う。ここでは、利用者から入力された位置・姿勢情報に従って、カメラ211は、図3を参照して説明したように、製品241のほぼ真上から上面全体が画像内に収まるような位置・姿勢で調整され、固定されたものとする。
 カメラ211の位置・姿勢の調整が完了すると、利用者は基準製品を搬送機203に載置し、第1工程処理装置201に向かって搬送させる。基準製品が第1工程処理装置201に搬入されると、第1工程処理装置201内に設置された図示しないセンサによって検知され、基準製品が所定の位置に到達した時点で、一時的に搬送が停止され、基準製品は静止した状態とされる。また、製品が第1工程処理装置201に搬入されたことが第1工程処理装置201から個体識別装置100へ通信によって通知される。撮影ガイド部151は、この通信によって基準製品の搬入を検知すると、カメラ211により基準製品の画像を基準画像142として取得し、記憶部140に保存する(ステップS2)。このとき、撮影ガイド部151は、基準画像142を利用者に確認させるために画面表示部130に表示してよい。
 このように撮影ガイド部151の動作により、生産ライン200の第1工程処理装置201のカメラ211の位置・姿勢が調整され、その調整された位置・姿勢のカメラ211で撮影された基準製品の画像である基準画像142が記憶部140に保存される。
 次に、撮影ガイド部151は、操作入力部120を通じて利用者から入力される指示に従って、カメラ位置・姿勢調整器222によってカメラ212の位置・姿勢を調整する(ステップS3)。利用者は、カメラ212の最初の位置・姿勢調整時には、例えば、調整済みのカメラ211の位置・姿勢と同一の位置・姿勢となるような位置・姿勢情報を操作入力部120から入力して調整を行うことが考えられる。
 利用者は、カメラ212の位置・姿勢を調整した後、第1工程処理装置201に搬入された基準製品を第1工程処理装置201から取り出し、搬送機204に載置して第2工程処理装置202に向かって搬送させる。搬送機204によって基準製品が第2工程処理装置202に搬入されると、第2工程処理装置202内に設置された図示しないセンサによって検知され、基準製品が所定位置に到達した時点で、一時的に搬送が停止され、基準製品は静止した状態とされる。また、基準製品が第2工程処理装置202に搬入されたことが第2工程処理装置202から個体識別装置100へ通信によって通知される。撮影ガイド部151は、この基準製品の搬入を検知すると、カメラ212により基準製品の画像を撮影し、撮影された画像を取得する(ステップS4)。
 次に、撮影ガイド部151は、ステップS2で取得した基準画像142と直前のステップS4で取得した撮影画像(以下、撮影画像SGと記す)とから、図8に例示したようなガイド画像143を生成し、画面表示部130に表示する(ステップS5)。利用者は、表示されたガイド画像143を目視で確認し、カメラ211に対してカメラ212の位置・姿勢がずれていないかどうかを確認する。そして、利用者は、カメラ212の位置・姿勢を再調整する必要がなければ、例えば操作入力部120からOKを示す指示を入力し、そうでなければNGを示す指示を入力する。撮影ガイド部151は、OKの指示が入力されると、図10に示す処理を終了する。一方、NGの指示が入力されると、撮影ガイド部151は、ステップS3の処理に戻り、上述した処理と同様の処理を再び繰り返す。
 続いて、ガイド画像143を生成するステップS5の詳細について説明する。図11は、ステップS5の詳細な処理の一例を示すフローチャートである。
 先ず、撮影ガイド部151は、ステップS2で取得した基準画像142と直前のステップS4で取得した撮影画像SGの平面射影変換行列Mhを算出する(ステップS11~S12)。具体的には、先ず、撮影ガイド部151は、基準画像142と撮影画像SGの剛体変換行列Mrを算出する(ステップS11)。基準画像142と撮影画像SGは同じ基準製品を撮影した画像である。基準製品の表面には、製品個体に固有の微細パターンが存在していると共に、製品金型に起因する複数の製品に共通な微細パターンおよび非微細パターンが存在している。そのため、基準画像142と撮影画像SGには、同一の微細パターンおよび非微細パターンによる、同一の明暗パターンが存在している。撮影ガイド部151は、このような同一の明暗パターンに基づいて、基準画像142と撮影画像SGの剛体変換行列Mrを算出する。例えば、撮影ガイド部151は、位相限定相関法を用いて剛体変換行列Mrを算出する。具体的には、撮影ガイド部151は、先ず、基準画像142および撮影画像SGのそれぞれをFFT変換した後に更に対数極座標変換する。次に、撮影ガイド部151は、対数極座標変換後の基準画像142および撮影画像SGの周波数スペクトル画像から、位相限定相関を用いて、基準画像142と撮影画像SG間の回転角度および拡大縮小量を算出する。次に、上記算出した回転角度および拡大縮小量を用いて基準画像142と撮影画像SGの回転ずれおよび拡大縮小ずれを補正し、補正後の基準画像142と撮影画像SGの周波数スペクトル画像から、位相限定相関を用いて、基準画像142と撮影画像SG間の位置ずれ量(平行移動量)を算出する。上記算出した位置ずれ量、回転角度、および拡大縮小量から剛体変換行列Mrは一意に定められる。
 次に、撮影ガイド部151は、上記算出した剛体変換行列Mrを用いて撮影画像SGを剛体変換して得られる画像(以下、撮影画像SG’と記す)を取得する(ステップS12)。撮影画像SG’は、基準画像142とほぼ重なる画像となる。次に、撮影ガイド部151は、基準画像142と撮影画像SG’から2つの画像間の平面射影変換行列Mh’を算出する(ステップS13)。具体的には、先ず、撮影ガイド部151は、基準画像142と撮影画像SG’のそれぞれからSIFT、Random等の任意の手法を用いて複数の特徴点を抽出する。次に、撮影ガイド部151は、Lucas-Kanade法を用いて、基準画像142と撮影画像SG’間で複数の特徴点を対応付ける。次に、撮影ガイド部151は、対応付けられた特徴点群の座標を用いて基準画像142と撮影画像SG’の平面射影変換行列Mh’を算出する。
 基準画像142と撮影画像SGの平面射影変換行列Mhは、上記剛体変換行列Mrと上記平面射影変換行列Mh’の積で与えられる。なお、平面射影変換行列Mhは、相似変換行列とアフィン変換行列と射影変換行列とに分解できる。そのため、剛体変換行列Mrを用いた平行移動、回転、拡大縮小の変換は、平面射影変換行列Mhを分解して得られる相似変換行列およびアフィン変換行列を用いた平行移動、回転、拡大縮小の変換と同じである。また、平面射影変換行列Mh’を用いた変換は、平面射影変換行列Mhを分解して得られる射影変換行列を用いた変換と同じである。
 上記では、基準画像142と撮影画像SGの平面射影変換行列Mhを、基準画像142と撮影画像SGの剛体変換行列Mrと、基準画像142と剛体変換行列Mrによる変換後の撮影画像SG’の平面射影変換行列Mh’とに分割して算出した。しかし、平面射影変換行列Mhを算出する方法は、上記に限定されない。例えば、基準画像142と撮影画像SGとの回転ずれ、位置ずれ、および拡大縮小ずれが小さいことが保証されている環境では、基準画像142と撮影画像SGとから直接に平面射影変換行列Mhを算出してよい。すなわち、撮影ガイド部151は、先ず、基準画像142と撮影画像SGのそれぞれからSIFT、Random等の任意の手法を用いて複数の特徴点を抽出する。次に、撮影ガイド部151は、Lucas-Kanade法を用いて、基準画像142と撮影画像SG間で複数の特徴点を対応付ける。次に、撮影ガイド部151は、対応付けられた特徴点群の座標を用いて基準画像142と撮影画像SGの平面射影変換行列Mhを算出する。
 次に、撮影ガイド部151は、基準画像142中の基準製品の平面上に所定の向き且つ所定の形状の基準図形1421を仮想的に描画する(ステップS14)。図12は、基準図形1421を描画した基準画像142の例を示す。この例の基準図形1421は正方形である。また、この例では、中心が基準製品の中心に一致するように、基準図形1421を正立した向きで描画している。正立した向きとは、基準図形1421の各辺が基準画像142の横方向(X軸)または縦方向(Y軸)に平行になる向きである。基準図形1421の各頂点の位置は、基準画像142のXY座標値で特定される。但し、基準図形1421は正方形に限定されず、長方形など他の形状を有する図形であってよい。また、基準図形1421の成立した向きは上記に限定されない。
 次に、撮影ガイド部151は、基準図形1421に対してステップS11で算出した剛体変換行列Mrによる剛体変換を適用することにより、位置および向きにより位置ずれおよび回転ずれを表す正方形からなる第1の指標1431を算出する(ステップS15)。また、第1の指標1431を構成する正方形のサイズは、基準図形1421のサイズと剛体変換行列Mrの拡大縮小成分により決定される。なお、カメラ212の拡大縮小のずれ量を可視化するため、拡大縮小のずれ量のない正方形を1つの指標として作成し表示アイテムに含めるようにしてもよい。
 次に、撮影ガイド部151は、ステップS11において算出した剛体変換行列Mrの成分である位置ずれ量および回転角度から、矢印の長さおよび向きにより位置ずれおよび回転ずれを表す第2の指標1432を算出する(ステップS16)。
 次に、撮影ガイド部151は、ステップS11において算出した剛体変換行列Mrの成分である位置ずれ量および回転角度から、テキストにより位置ずれおよび回転ずれを表す第3の指標1433を算出する(ステップS17)。
 次に、撮影ガイド部151は、第4の指標1434を算出する(ステップS18)。このステップS18の詳細は後述する。次に、撮影ガイド部151は、撮影画像SGに第1乃至第4の指標を含む表示アイテムを重畳して得られるガイド画像143を取得する(ステップS19)。次に、撮影ガイド部151は、ガイド画像143を画面表示部130に表示する(ステップS20)。
 図13は、第4の指標1434を算出する処理の一例を示すフローチャートである。図13を参照すると、撮影ガイド部151は、先ず、基準図形1421をステップS13で算出された平面射影変換行列Mh’を用いて射影変換して得られる図形を算出する(ステップS31)。図14は、基準図形1421とそれを射影変換した図形1422の一例を示す。基準図形1421は、頂点a1,a2,a3,a4を持つ正方形である。射影変換後の図形1422は、頂点b1,b2,b3,b4を持つ台形である。
 次に、撮影ガイド部151は、ステップS31で算出した射影変換後の図形1422の射影歪みを誇張した図形を算出する(ステップS32)。図14に示す図形1423は、図形1422の射影歪みを誇張した図形の例である。撮影ガイド部151は、例えば以下のような方法を用いて、射影歪みを誇張した図形を算出する。
 先ず、撮影ガイド部151は、図形1422の頂点bn毎に、基準図形1421の対応する頂点anとの間のX座標値の差(bnX-anX)、およびY座標値の差(bnY-anY)を算出する。次に、撮影ガイド部151は、上記の差をe倍する。ここで、eは事前に定められた誇張係数である。次に、撮影ガイド部151は、上記e倍した差を基準図形1421の対応する頂点anの座標値に足し合わせて、誇張された射影歪みの図形1423の頂点c1,c2,c3,c4の座標値を算出する。頂点cnのX座標値およびY座標値は次式で与えられる。
 cnX=(bnX-anX)×e+anX   ・・・(1)
 cnY=(bnY-anY)×e+anY   ・・・(2)
 再び図13を参照すると、撮影ガイド部151は、ステップS32で算出した射影歪みを誇張した図形1423にステップS11で算出した剛体変換行列Mrに基づく変換を適用して得られる図形を算出する(ステップS33)。図14に示す図形1424は、図形1423に上記変換を適用して得られる図形の一例である。なお、撮影ガイド部151は、ステップS33において、図形1423に剛体変換行列Mrの回転成分だけを適用して得られる図形1424を算出するようにしてもよい。
 次に、撮影ガイド部151は、ステップS33で算出した図形1424の各辺に射影歪みに応じた着色を行って得られる図形を第4の指標1434として算出する(ステップS34)。
 図15は、図形の各辺に射影歪みに応じた着色を行う処理の一例を示すフローチャートである。図15を参照すると、撮影ガイド部151は、先ず、次式を用いて、基準図形1421を射影変換した図形1422の各辺h1,h2,h3,h4の長さを算出する(ステップS41)。
 hn=SQRT((bnX-bn+1X)2+(bnY-bn+1Y)2)   ・・・(3)
 次に、撮影ガイド部151は、次式を用いて、各々の辺h1,h2,h3,h4について、対辺との長さの差に予め定められた誇張係数fを乗算し、ガンマ補正した値gnを求める(ステップS42)。
 gn=((hn-hn+2)×f/255)1/gamma×255   (4)
 次に、撮影ガイド部151は、図形1422の各々の辺に1対1に対応する図形1424の辺について、HLS色空間において、色相:gn+75、輝度:128、彩度:255に対応する色で辺を着色する(ステップS43)。ここで、色相と輝度と彩度の値域は0~255である。色相が75の色は緑である。75より色相が小さくなると赤色になり、大きくなると青色になる。上記式から、対辺と同じ長さの辺は緑色で着色され、対辺より短い辺は赤色で着色され、対辺より長い辺は青色で着色される。
 以上が、個体識別装置100の調整フェーズの動作である。
 続いて、個体識別装置100の運用フェーズの動作を説明する。図16は、個体識別装置100の運用フェーズにおける登録部152の動作の一例を示すフローチャートである。また、図17は、個体識別装置100の運用フェーズにおける照合部153の動作の一例を示すフローチャートである。
 先ず、個体識別装置100の運用フェーズにおける登録部152の動作について図16を参照して説明する。運用フェーズにおいて、製品が第1工程処理装置201に搬入されると、第1工程処理装置201内に設置された図示しないセンサによって検知され、製品が所定位置に到達した時点で、一時的に搬送が停止され、製品は静止した状態とされる。また、製品が第1工程処理装置201に搬入されたことが第1工程処理装置201から個体識別装置100へ通信によって通知される。登録部152は、この通信によって製品の搬入を検知すると(ステップS51でYES)、製品の画像を登録画像として取得する(ステップS52)。次に、登録部152は、上記登録画像と第1工程処理装置201から取得された製品の製造情報とを記憶部140の製品DB144に保存する(ステップS53)。上記動作は、製品が第1工程処理装置201に搬入される毎に繰り返される。
 続いて、運用フェーズの照合部153の動作を説明する。搬送機204によって製品が第2工程処理装置202に搬入されると、第2工程処理装置202内に設置された図示しないセンサによって検知され、製品が所定位置に到達した時点で、一時的に搬送が停止され、製品は静止した状態とされる。また、製品が第2工程処理装置202に搬入されたことが第2工程処理装置202から個体識別装置100へ通信によって通知される。照合部153は、製品の搬入を検知すると(ステップS61)、製品の画像を照合画像として取得する(ステップS52)。次に、照合部153は、上記照合画像と製品DB144に保存されている1以上の登録画像とを照合し、照合スコアを算出する(ステップS63)。ここで、照合部153は、上記照合画像と照合する1以上の登録画像として、製品DB144に登録されている登録画像のうち未だ第2工程処理装置の照合画像と照合に成功していない登録画像を使用する。例えば、上記照合画像の照合時点で製品DB144が図9に示した状態にある場合、登録画像G101は照合画像G201と照合成功しているため、照合成功していない登録画像G102~G108と順に照合する。
 照合部153は、照合画像との照合スコアが閾値より大きい登録画像が存在した場合(ステップS64でYES)、照合画像に係る製品は照合スコアが閾値より大きい登録画像に係る製品と同一であると判定する(ステップS65)。この場合、照合部153は、上記照合画像と第2工程処理装置202から取得された製造情報とを、照合一致した登録画像に対応付けて製品DB144に保存する(ステップS66)。そして、ステップS61に戻って、上述した処理と同様の処理を繰り返す。
 一方、照合部153は、照合画像との照合スコアが閾値より大きい登録画像が製品DB144に存在しなかった場合(ステップS64でNO)、エラー処理を行い(ステップS67)、その後、ステップS61に戻って、上述した処理と同様の処理を繰り返す。
 次に、照合部153のステップS63の詳細を説明する。
 照合部153が照合画像と登録画像との2つの画像を照合する具体的な手法は各種考えられる。例えば、照合部153は、2つの画像そのものを比較してもよいし、2つの画像に対して何らかの変換を施して得られた特徴量どうしを比較してもよい。例えば、照合部153は、2つの画像のそれぞれを、フーリエ変換等の周波数変換を施して得られる周波数スペクトル画像どうしを比較してよい。或いは、照合部153は、2つの画像のそれぞれを、先ずフーリエ変換等の周波数変換を施して周波数スペクトル画像に変換し、次に、その周波数スペクトル画像に対して極座標変換あるいは対数極座標変換を施して得られる極座標画像(フーリエ・メリン特徴画像)どうしを比較してよい。或いは、照合部153は、2つの画像のそれぞれを、先ずフーリエ変換等の周波数変換を施して周波数スペクトル画像に変換し、次に、その周波数スペクトル画像に対して極座標変換あるいは対数極座標変換を施してフーリエ・メリン特徴に変換し、更に、そのフーリエ・メリン特徴に対してフーリエ変換等の周波数変換を施して得られる位相画像どうしを比較してよい。以下では、照合部153が実施する照合方法の一例を説明する。
 図18は、照合部153が照合画像と登録画像とを照合する処理の一例を示すフローチャートである。図18を参照すると、照合部153は、まず、照合画像および登録画像に対して離散フーリエ変換を施すことにより、照合画像の周波数スペクトル画像と登録画像の周波数スペクトル画像とを取得する(ステップS71)。登録画像が複数存在する場合、照合部153は、その各々の登録画像から周波数スペクトル画像を取得する。次に、照合部153は、登録画像毎に、照合画像の周波数スペクトル画像と登録画像の周波数スペクトル画像との正規化クロスパワースペクトルを算出する(ステップS72)。次に、照合部153は、登録画像毎に、正規化クロスパワースペクトルを逆フーリエ変換して相関係数マップを算出する(ステップS73)。次に、照合部153は、登録画像毎に、相関係数マップから照合画像と登録画像の類似度を示す照合スコアを算出する(ステップS74)。次に、照合部153は、登録画像毎に算出した照合スコアに基づいて、照合画像と登録画像との照合を行う(ステップS75)。例えば、照合部153は、登録画像毎に算出した複数の照合スコアのうちの最良のスコアが予め定められた閾値以上であれば、照合画像は上記最良の照合スコアとなった登録画像と一致する(同一である)と判定する。他方、照合部153は、上記最良の照合スコアが上記閾値未満であれば、照合画像は何れの登録画像とも一致しない(同一でない)と判定する。
 このように運用フェーズにおいては、調整フェーズにおいて位置・姿勢が調整されたカメラ211、212の下で、第1工程処理装置201に搬入された製品の登録画像と第2工程処理装置202に搬入された製品の照合画像とが取得されて照合され、製品個体の識別が行われる。
 以上説明したように、本実施形態によれば、利用者は、ガイド画像143に表示される第4の指標1434を構成する図形の射影歪みの向きから、カメラ212をどの向きに調整すれば登録用のカメラ211の向きに合わせることができるかを容易に判断することができる。
 また、本実施形態では、第4の指標1434を構成する図形の射影歪みを誇張しているため、利用者は、射影歪みを肉眼では確認し難い姿勢差10度以下の場合であっても、図形の射影歪みの向きを肉眼で容易に確認することができる。その結果、カメラ212の向きの調整方向を肉眼で容易に認識することができる。
 また、本実施形態では、第4の指標1434を構成する図形の各辺を射影歪みの向きに応じて着色しているため、利用者は、図形の射影歪みの向きを視覚的に容易に確認することができる。その結果、カメラ212の向きの調整方法を視覚的に容易に認識することができる。
 2つの画像の差の視認性を向上させるために画像間のずれを誇張するとしても、単純にずれ全体を誇張すると、射影歪みだけでなく回転歪みも誇張することになる。しかし、回転歪みを誇張すると、カメラを修正すべき方向が分かり難くなる。そこで、本実施形態では、第4の指標1434を構成する図形の射影歪みは誇張するが、当該図形の回転歪みは誇張しないようにしている。
 また、本実施形態によれば、利用者は、ガイド画像143に表示される第1の指標1431を構成する正方形の位置及び向きにより、カメラ211に対するカメラ212の位置ずれおよび回転ずれを認識することができる。
 また、本実施形態によれば、利用者は、ガイド画像143に表示される第2の指標1432を構成する矢印の長さ及び向きにより、カメラ211に対するカメラ212の位置ずれおよび回転ずれを認識することができる。
 また、本実施形態によれば、利用者は、ガイド画像143に表示される第3の指標1433を構成するテキストにより、カメラ211に対するカメラ212のX軸方向およびY軸方向の位置ずれ量、および、カメラ211に対するカメラ212の回転角度を認識することができる。
[第2の実施の形態]
 次に、本発明の第2の実施形態に係る撮影ガイド装置について図19を参照して説明する。図19は、本実施の形態における撮影ガイド装置のブロック図である。
 図19を参照すると、本実施形態に係る撮影ガイド装置300は、算出手段301と取得手段302と生成手段303と表示制御手段304とを含んで構成されている。
 算出手段301は、対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と上記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出するように構成されている。
 取得手段302は、上記第1の画像中に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を上記平面射影変換行列に基づいて変換して得られる第2の図形を取得するように構成されている。
 生成手段303は、上記第2の図形に基づいて、第1の撮影装置に対する第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、上記傾斜指標を含む表示アイテムを生成するように構成されている。
 表示制御手段304は、上記表示アイテムを上記第2の画像に重畳して表示するように構成されている。
 このように構成された撮影ガイド装置300は、以下のように動作する。すなわち、先ず、算出手段301は、対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と上記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出する。次に、取得手段302は、上記第1の画像中に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を上記平面射影変換行列に基づいて変換して得られる第2の図形を取得する。次に、生成手段303は、上記第2の図形に基づいて、第1の撮影装置に対する第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、上記傾斜指標を含む表示アイテムを生成する。次に、表示制御手段304は、上記表示アイテムを上記第2の画像に重畳して表示する。
 以上のように構成され動作する撮影ガイド装置300によれば、利用者は、傾斜指標を構成する図形の射影歪みの向きから、第2の撮影装置をどの向きに調整すれば第1の撮影装置の向きに合わせることができるかを容易に判断することができる。
 以上、上記各実施形態を参照して本発明を説明したが、本発明は、上述した実施形態に限定されるものではない。本発明の構成や詳細には、本発明の範囲内で当業者が理解しうる様々な変更をすることができる。
 例えば、上記第1の実施形態では、生産ラインに設定されたカメラ212の位置・姿勢をカメラ211の位置・姿勢に合わせる作業を支援するための撮影ガイド装置に本発明を適用した。しかし、利用者がカメラで撮影した製品の画像を予め撮影され登録された製品の画像と照合して個体識別や真贋判定を行う際のカメラの位置・姿勢の撮影ガイド装置に本発明を適用してもよい。
 本発明は、個体を識別する分野に利用でき、例えば、生産ラインを流れる製品の個体を識別する分野に利用できる。
 上記の実施形態の一部又は全部は、以下の付記のようにも記載され得るが、以下には限られない。
[付記1]
 対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出する算出手段と、
 前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得する取得手段と、
 前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成する生成手段と、
 前記表示アイテムを前記第2の画像に重畳して表示する表示制御手段と、
を含む撮影ガイド装置。
[付記2]
 前記算出手段は、前記第1の画像と前記第2の画像の剛体変換行列を算出し、前記第1の画像と前記第2の画像を前記剛体変換行列に基づいて変換して得られる画像の平面射影変換行列を算出する、
付記1に記載の撮影ガイド装置。
[付記3]
 前記生成手段は、前記第2の図形の射影歪みを誇張して得られる図形を前記傾斜指標として生成する、
付記1または2に記載の撮影ガイド装置。
[付記4]
 前記第1の図形は正方形であり、
 前記生成手段は、前記第2の図形の4辺のそれぞれについて、辺の長さを対向する辺の長さと比較し、対向する辺と同じ長さの辺を第1の色で着色し、対向する辺より短い長さの辺を第2の色で着色し、対向する辺より長い長さの辺を第3の色で着色して得られる図形を前記傾斜指標として生成する、
付記1乃至3の何れかに記載の撮影ガイド装置。
[付記5]
 前記取得手段は、前記第1の図形を前記剛体変換行列に基づいて変換して得られる第3の図形をさらに取得し、
 前記生成手段は、前記第3の図形を無傾斜指標としてさらに含む前記表示アイテムを生成する、
付記2に記載の撮影ガイド装置。
[付記6]
 前記取得手段は、前記第1の図形に対する前記第3の図形の回転および位置のずれ量をさらに取得し、
 前記生成手段は、前記回転および位置のずれ量を矢印の向きおよび長さで表す矢印指標をさらに含む前記表示アイテムを生成する、
付記5に記載の撮影ガイド装置。
[付記7]
 前記生成手段は、前記回転および位置のずれ量をテキストで表すテキスト指標をさらに含む前記表示アイテムを生成する、
付記6に記載の撮影ガイド装置。
[付記8]
 対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出し、
 前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得し、
 前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成し、
 前記表示アイテムを前記第2の画像に重畳して表示する、
撮影ガイド方法。
[付記9]
 コンピュータに、
 対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出する処理と、
 前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得する処理と、
 前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成する処理と、
 前記表示アイテムを前記第2の画像に重畳して表示する処理と、
を行わせるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
10 個体識別システム
100 個体識別装置
110 通信I/F部
120 操作入力部
130 画面表示部
140 記憶部
141 プログラム
142 基準画像
143 ガイド画像
144 製品DB
150 演算処理部
151 撮影ガイド部
152 登録部
153 照合部
201 第1工程処理装置
202 第2工程処理装置
203~205 搬送機
211、212 カメラ
221、222 カメラ位置・姿勢調整器
231、232 照明器
241、242 製品

Claims (9)

  1.  対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出する算出手段と、
     前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得する取得手段と、
     前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成する生成手段と、
     前記表示アイテムを前記第2の画像に重畳して表示する表示制御手段と、
    を含む撮影ガイド装置。
  2.  前記算出手段は、前記第1の画像と前記第2の画像の剛体変換行列を算出し、前記第1の画像と前記第2の画像を前記剛体変換行列に基づいて変換して得られる画像の平面射影変換行列を算出する、
    請求項1に記載の撮影ガイド装置。
  3.  前記生成手段は、前記第2の図形の射影歪みを誇張して得られる図形を前記傾斜指標として生成する、
    請求項1または2に記載の撮影ガイド装置。
  4.  前記第1の図形は正方形であり、
     前記生成手段は、前記第2の図形の4辺のそれぞれについて、辺の長さを対向する辺の長さと比較し、対向する辺と同じ長さの辺を第1の色で着色し、対向する辺より短い長さの辺を第2の色で着色し、対向する辺より長い長さの辺を第3の色で着色して得られる図形を前記傾斜指標として生成する、
    請求項1乃至3の何れかに記載の撮影ガイド装置。
  5.  前記取得手段は、前記第1の図形を前記剛体変換行列に基づいて変換して得られる第3の図形をさらに取得し、
     前記生成手段は、前記第3の図形を無傾斜指標としてさらに含む前記表示アイテムを生成する、
    請求項2に記載の撮影ガイド装置。
  6.  前記取得手段は、前記第1の図形に対する前記第3の図形の回転および位置のずれ量をさらに取得し、
     前記生成手段は、前記回転および位置のずれ量を矢印の向きおよび長さで表す矢印指標をさらに含む前記表示アイテムを生成する、
    請求項5に記載の撮影ガイド装置。
  7.  前記生成手段は、前記回転および位置のずれ量をテキストで表すテキスト指標をさらに含む前記表示アイテムを生成する、
    請求項6に記載の撮影ガイド装置。
  8.  対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出し、
     前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得し、
     前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成し、
     前記表示アイテムを前記第2の画像に重畳して表示する、
    撮影ガイド方法。
  9.  コンピュータに、
     対象物の平面を第1の撮影装置によって撮影して得られた第1の画像と前記平面を第2の撮影装置によって撮影して得られた第2の画像の平面射影変換行列を算出する処理と、
     前記第1の画像に所定の向き且つ所定の形状で仮想的に描かれた第1の図形を、前記平面射影変換行列に基づいて変換して得られる第2の図形を取得する処理と、
     前記第2の図形に基づいて、前記第1の撮影装置に対する前記第2の撮影装置の撮影方向の傾きを表す傾斜指標を生成し、前記傾斜指標を含む表示アイテムを生成する処理と、
     前記表示アイテムを前記第2の画像に重畳して表示する処理と、
    を行わせるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
PCT/JP2021/030462 2021-08-19 2021-08-19 撮影ガイド装置 WO2023021668A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
PCT/JP2021/030462 WO2023021668A1 (ja) 2021-08-19 2021-08-19 撮影ガイド装置
JP2023542138A JPWO2023021668A1 (ja) 2021-08-19 2021-08-19

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/030462 WO2023021668A1 (ja) 2021-08-19 2021-08-19 撮影ガイド装置

Publications (1)

Publication Number Publication Date
WO2023021668A1 true WO2023021668A1 (ja) 2023-02-23

Family

ID=85240392

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/030462 WO2023021668A1 (ja) 2021-08-19 2021-08-19 撮影ガイド装置

Country Status (2)

Country Link
JP (1) JPWO2023021668A1 (ja)
WO (1) WO2023021668A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012193980A (ja) * 2011-03-15 2012-10-11 Omron Corp 画像処理装置および画像処理プログラム
JP2015082830A (ja) * 2013-10-24 2015-04-27 富士通株式会社 ガイド方法、情報処理装置およびガイドプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012193980A (ja) * 2011-03-15 2012-10-11 Omron Corp 画像処理装置および画像処理プログラム
JP2015082830A (ja) * 2013-10-24 2015-04-27 富士通株式会社 ガイド方法、情報処理装置およびガイドプログラム

Also Published As

Publication number Publication date
JPWO2023021668A1 (ja) 2023-02-23

Similar Documents

Publication Publication Date Title
TWI253006B (en) Image processing system, projector, information storage medium, and image processing method
JP4906586B2 (ja) 歪み補正装置及びプログラム
WO2001047285A1 (en) Method and apparatus for calibrating projector-camera system
WO2014084148A1 (en) Image correction system, image correction method, and computer program product
TW201531960A (zh) 用於驗證產品的圖像分析
Alomran et al. Feature-based panoramic image stitching
US20090180008A1 (en) Automatic calibration for camera lens distortion correction
JP2023075366A (ja) 情報処理装置、認識支援方法およびコンピュータプログラム
WO2020220832A1 (zh) 实现投影画面拼接的方法、装置及投影系统
US20120113238A1 (en) Drawn image sharing apparatus, drawn image sharing system, and drawn image sharing method
KR20120054689A (ko) 검사방법
JP6233824B1 (ja) 画像検査装置、生産システム、画像検査方法、プログラム及び記憶媒体
JP5600954B2 (ja) 検査システム、その方法及びプログラム
CN111915485A (zh) 一种特征点稀疏工件图像的快速拼接方法及系统
WO2023021668A1 (ja) 撮影ガイド装置
JP5560722B2 (ja) 画像処理装置、画像表示システム、および画像処理方法
US9305235B1 (en) System and method for identifying and locating instances of a shape under large variations in linear degrees of freedom and/or stroke widths
JP4187458B2 (ja) 画像処理におけるアフィン変換係数算出方法および画像処理装置
CN112995641B (zh) 一种3d模组成像装置及方法、电子设备
JP2003308526A (ja) 環状画像のパノラマ画像への展開時の鉛直方向ひずみ補正方法および装置
JPH1115951A (ja) ずれ検出装置および画像合成装置
JP6665903B2 (ja) 特徴画像生成装置、検査装置、特徴画像生成方法及び特徴画像生成プログラム
JPH10320565A (ja) 画像処理方法及び装置
JP3654092B2 (ja) 画像認識方法
WO2020220827A1 (zh) 实现投影画面叠加的方法、装置及投影系统

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 2023542138

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE