JP2017009383A - 外観撮影装置及び外観撮影方法 - Google Patents

外観撮影装置及び外観撮影方法 Download PDF

Info

Publication number
JP2017009383A
JP2017009383A JP2015124021A JP2015124021A JP2017009383A JP 2017009383 A JP2017009383 A JP 2017009383A JP 2015124021 A JP2015124021 A JP 2015124021A JP 2015124021 A JP2015124021 A JP 2015124021A JP 2017009383 A JP2017009383 A JP 2017009383A
Authority
JP
Japan
Prior art keywords
camera
imaging target
photographing
equation
manipulator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015124021A
Other languages
English (en)
Other versions
JP6520451B2 (ja
Inventor
利恭 清水
Toshitaka Shimizu
利恭 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Asmo Co Ltd
Original Assignee
Asmo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asmo Co Ltd filed Critical Asmo Co Ltd
Priority to JP2015124021A priority Critical patent/JP6520451B2/ja
Publication of JP2017009383A publication Critical patent/JP2017009383A/ja
Application granted granted Critical
Publication of JP6520451B2 publication Critical patent/JP6520451B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

【課題】簡素な構成で曲面からなる撮影対象物を精密に撮影する。
【解決手段】2次元レーザ変位計を用いて撮影対象物50の表面の立体形状を計測する。制御装置30は、計測した撮影対象物50の表面の立体形状に基づいて、6軸ロボット20に取り付けられて撮影対象物50の表面を撮影するラインスキャンカメラ42のレンズの光軸が撮影対象物50の表面と垂直になるようにラインスキャンカメラ42を保持すると共にラインスキャンカメラ42を撮影対象物50の表面に倣って移動させるように6軸ロボット20を制御する
【選択図】図1

Description

本発明は、外観撮影装置及び外観撮影方法に関する。
FA(Factory Automation)分野において、製品をカメラで撮影し、当該撮影の画像データから製品の良否を判定する検査装置が用いられている。しかしながら、撮影対象製品が曲面で構成されている場合には、単にカメラを水平方向に移動させて撮影すると、撮影対象製品の画像上での大きさが一定せず、精密な撮影が困難であった。また、撮影用の照明の光が局部的に強く反射する照明ムラが生じるおそれがある。かかる照明ムラが生じると、撮影画像にはレンズフレア等が発生して、撮影対象製品の表面の描写が不完全になる場合があった。
特許文献1には、コンベヤにより搬送される車両とカメラとを相対移動させながら車体側面部の塗装面を撮影した上で、画像処理により上記塗装面における表面欠陥を抽出する自動車車体の外観検査装置の発明が開示されている。
特許文献2には、検査対象の表面を、所定の曲率の範囲に納まるまで分割し、分割後の領域毎に画像を取得することにより、検査対象の表面が曲率が一定でない曲面であっても、略平面とみなせる単位で撮影を行う外観検査支援装置の発明が開示されている。
特許文献3には、カメラを取り付けたロボットアームを予め定められた経路に従って移動させ、カメラにより撮影された画像を取り込み、傷を検出して位置を表示する表面検査装置の発明が開示されている。
特開2014−81356号公報 特開2011−180059号公報 特開2008−46103号公報
しかしながら、特許文献1に開示されている自動車車体の外観検査装置は、自動車車体を対象としているため、装置が大がかりであり、高額な設備投資を要するという問題点があった。
特許文献2に開示されている外観検査支援装置は、撮影対象物の曲率が大きい場合、又は撮影対象物が長尺の場合には、略平面とみなせる単位で撮影を行う回数が甚大となり、検査時間が長くかかるという問題点があった。
特許文献3に開示されている表面検査装置は、カメラの撮影位置や角度を設定するティーチング処理で、複数のレーザ光源を使用する必要があり、装置全体が複雑化すると共に、ティーチング処理を含めた制御が煩雑になるという問題点があった。
本発明は上記に鑑みてなされたもので、簡素な構成で曲面からなる撮影対象物を精密に撮影できる外観撮影装置及び外観撮影方法を提供することを目的とする。
前記課題を解決するために、請求項1に記載の外観撮影装置は、撮影対象物の撮影対象表面の立体形状を計測する計測部と、複数の関節を備えたマニュピレータに取り付けられて前記撮影対象表面を撮影するカメラと、前記計測部が計測した前記撮影対象表面の立体形状に基づいて、前記カメラのレンズの光軸が前記撮影対象表面と垂直になるように前記カメラを保持すると共に前記カメラを前記撮影対象表面に倣って移動させるように前記マニュピレータを制御する制御部と、を含んでいる。
この外観撮影装置は、撮影前に撮影対象部の表面の立体形状を計測し、計測した立体形状に基づいてカメラアングル及びカメラを移動させる方向を決定する。カメラアングルは、カメラのレンズの光軸が撮影対象物の表面と垂直になるように制御され、カメラの移動方向は、撮影対象物の表面に倣うように制御される。
かかる制御により、撮影対象物に対して真っ直ぐにレンズを向けられるとともに、カメラと撮影対象物との距離が略一定に保たれるので、簡素な構成ながら曲面からなる撮影対象物を精密に撮影できる。
請求項2に記載の外観撮影装置は、請求項1記載の外観撮影装置において、前記制御部は、前記計測部が計測した前記撮影対象表面の立体形状に基づいて、前記撮影対象表面に予め複数設定された撮影対象点における前記撮影対象表面の法線と、水平面への正射影が撮影時の前記カメラの水平方向の移動方向と略一致する前記撮影対象表面の接線と、を算出し、前記カメラのレンズの光軸が前記法線と一致するように前記カメラを保持すると共に前記カメラを前記接線の方向に移動させるように前記マニュピレータを制御する。
この外観撮影装置によれば、カメラのレンズの光軸が撮影対象物の表面の法線と一致するようにカメラを保持すると共にカメラを水平面への正射影が撮影時のカメラの水平方向の移動方向と略一致する接線の方向に移動させることにより曲面からなる撮影対象物を精密に撮影できる。
請求項3に記載の外観撮影装置は、請求項2記載の外観撮影装置において、前記制御部は、前記撮影対象点の座標及び前記撮影対象点の近くの複数の座標から算出した前記撮影対象表面の接平面に平行な最小二乗平面の方程式から前記法線を算出する。
この外観撮影装置によれば、撮影対象点近くの複数の座標から最小二乗法によって算出した撮影対象物の表面の接平面に平行な最小二乗平面の方程式から法線を算出することにより、カメラのレンズの光軸方向を決定できる。
請求項4に記載の外観撮影装置は、請求項2又は3記載の外観撮影装置において、前記制御部は、前記撮影対象点を通り、水平面への正射影が撮影時の前記カメラの水平方向の移動方向と略一致する曲線の方程式を3つ以上の撮影対象点の座標値を用いて算出し、該曲線の方程式を用いて前記3つ以上の撮影対象点の間で前記接線を算出する。
この外観撮影装置によれば、撮影対象物の曲面を3つ以上の撮影対象点を通ると仮想した曲線の方程式を算出し、当該方程式を用いて当該曲線上の接線を算出することにより、カメラの移動方向を連続的に算出することができる。
請求項5に記載の外観撮影装置は、請求項1〜4のいずれか1項記載の外観撮影装置において、前記カメラと共に前記マニュピレータに取り付けられ、前記撮影対象表面を照明する照明装置を備え、前記制御部は、該照明装置を前記カメラと共に前記撮影対象表面に倣って移動させるように前記マニュピレータを制御する。
この外観撮影装置によれば、照明と撮影対象物との距離を一定に保ったまま撮影対象物の表面を撮影できるので、曲面からなる撮影対象物を照明ムラなく撮影できる。
前記課題を解決するために、請求項6に記載の外観撮影方法は、 撮影対象物の撮影対象表面の立体形状を計測する手順と、計測した前記撮影対象表面の立体形状に基づいて、複数の関節を備えたマニュピレータに取り付けられて前記撮影対象表面を撮影するカメラのレンズの光軸が前記撮影対象表面と垂直になるように前記カメラを保持すると共に前記カメラを前記撮影対象表面に倣って移動させるように前記マニュピレータを制御する手順と、を含んでいる。
この外観撮影方法は、撮影前に撮影対象部の表面の立体形状を計測し、計測した立体形状に基づいてカメラアングル及びカメラを移動させる方向を決定する。カメラアングルは、カメラのレンズの光軸が撮影対象物の表面と垂直になるように制御され、カメラの移動方向は、撮影対象物の表面に倣うように制御される。
かかる制御により、撮影対象物に対して真っ直ぐにレンズを向けられるとともに、カメラと撮影対象物との距離が略一定に保たれるので、簡素な構成ながら曲面からなる撮影対象物を精密に撮影できる。
請求項7に記載の外観撮影方法は、請求項6記載の外観撮影方法において、前記マニュピレータを制御する手順は、前記計測した前記撮影対象表面の立体形状に基づいて、前記撮影対象表面に予め複数設定された撮影対象点における前記撮影対象表面の法線を算出する手順と、水平面への正射影が撮影時の前記カメラの水平方向の移動方向と略一致する前記撮影対象表面の接線を算出する手順と、前記カメラのレンズの光軸が前記法線と一致するように前記カメラを保持すると共に前記カメラを前記接線の方向に移動させるように前記マニュピレータを制御する手順と、を含んでいる。
この外観撮影方法によれば、カメラのレンズの光軸が撮影対象物の表面の法線と一致するようにカメラを保持すると共にカメラを水平面への正射影が撮影時のカメラの水平方向の移動方向と略一致する接線の方向に移動させることにより曲面からなる撮影対象物を精密に撮影できる。
請求項8に記載の外観撮影方法は、請求項7記載の外観撮影方法において、前記法線を算出する手順は、前記撮影対象点の座標及び前記撮影対象点の近くの複数の座標から算出した前記撮影対象表面の接平面に平行な最小二乗平面の方程式から前記法線を算出する。
この外観撮影方法によれば、撮影対象点近くの複数の座標から最小二乗法によって算出した撮影対象物の表面の接平面に平行な最小二乗平面の方程式から法線を算出することにより、カメラのレンズの光軸方向を決定できる。
請求項9に記載の外観撮影方法は、請求項7又は8記載の外観撮影方法において、前記接線を算出する手順は、前記撮影対象点を通り、水平面への正射影が撮影時の前記カメラの水平方向の移動方向と略一致する曲線の方程式を3つ以上の撮影対象点の座標値を用いて算出し、該曲線の方程式を用いて前記3つ以上の撮影対象点の間で前記接線を算出する。
この外観撮影方法によれば、撮影対象物の曲面を3つ以上の撮影対象点を通ると仮想した曲線の方程式を算出し、当該方程式を用いて当該曲線上の接線を算出することにより、カメラの移動方向を連続的に算出することができる。
請求項10に記載の外観撮影方法は、請求項6〜9のいずれか1項記載の外観撮影方法において、前記カメラと共に前記マニュピレータに取り付けられた前記撮影対象表面を照明する照明装置を前記カメラと共に前記撮影対象表面に倣って移動させるように前記マニュピレータを制御する手順を含む。
この外観撮影方法によれば、照明と撮影対象物との距離を一定に保ったまま撮影対象物の表面を撮影できるので、曲面からなる撮影対象物を照明ムラなく撮影できる。
第1の実施の形態に係る外観撮影装置の構成を示す概略図である。 第1の実施の形態に係る外観撮影装置の一例を示したブロック図である。 第1の実施の形態に係る外観撮影装置における撮影処理の一例を示したフローチャートである。 第1の実施の形態に係る外観撮影装置における撮影時でのラインスキャンカメラの移動方向及びカメラアングルの変化の一例を示した概略図である。 第1の実施の形態における最適カメラ姿勢算出処理の一例を示したフローチャートである。 第1の実施の形態における撮影対象物の断面データの一例を示した概略図である。 第1の実施の形態において断面データから作成された3次元メッシュ形状の一例を示した概略図である。 第1の本実施の形態において得られる撮影対象物のポリゴン形式データの概略図の一例である。 ポリゴンの撮影対象点と最小二乗平面と法線ベクトルとの関係を示した概略図である。 撮影対象物に対応するポリゴンにおいて、水平方向の変位tと垂直方向の変位zとの関係を示す模式図である。 第1の本実施の形態においてカメラ視線方向である法線ベクトル及びカメラ移動方向である接線ベクトルをポリゴン上にプロットした一例を示した概略図である。 第2の実施の形態に係る外観撮影装置の構成を示す概略図である。 第1の実施の形態及び第2の実施の形態の変形例の一例を示した概略図である。 第1の実施の形態及び第2の実施の形態の、もう一つの変形例を示す概略図である。
[第1の実施の形態]
図1は、本実施の形態に係る外観撮影装置10の構成を示す概略図である。外観撮影装置10は、複数の関節を備えたマニュピレータである垂直多関節ロボットの一種である6軸ロボット20と、6軸ロボット20及び6軸ロボットの先端に取り付けられたラインスキャンカメラ42等を制御するための制御装置30とを含んでいる。
6軸ロボット20は、第1関節20X、第2関節20Y及び第3関節20Zを備え、第1関節20Xは、第2関節20Y及び第3関節20Zは、各々、いわゆる2軸関節であり、第1の軸線回りに回転する第1旋回要素と、第1の軸線と交差する第2の軸線回りに回転する第2旋回要素とを有している。
具体的には、第1関節20Xは、第1旋回要素Xと第1旋回要素Xと交差する第2旋回要素RXとで可動可能に構成されている。また、第2関節20Yは、第1旋回要素Yと第1旋回要素Yと交差する第2旋回要素RYとで可動可能に、第3関節20Zは、第1旋回要素Zと第1旋回要素Zと交差する第2旋回要素RZとで可動可能に、各々構成されている。
第1旋回要素Xと第2旋回要素RXとの交差角は例えば略90度であるが、6軸ロボット20の仕様により90度以外の値を取りうる。同様に、第1旋回要素Yと第2旋回要素RYとの交差角、及び第1旋回要素Zと第2旋回要素RZとの交差角も、各々6軸ロボット20の仕様によって90度以外の値を取りうる。
6軸ロボット20の第1関節20Xの端部には撮影対象物50を撮影するためのラインスキャンカメラ42とラインスキャンカメラ42の撮影時に点灯する照明42Aが取り付けられている。6軸ロボット20の第1関節20Xの端部にはラインスキャンカメラ42以外にも、撮影対象物50の表面形状を計測する2次元レーザ変位計(図示せず)を取り付けることも可能である。
ラインスキャンカメラ42は、撮影対象物50の表面を所定幅のライン単位でスキャンする毎にビデオ信号を出力するカメラであり、撮影対象物50の表面を高解像度で撮影することができる。
また、2次元レーザ変位計は、発光素子である半導体レーザと、CCD(Charge Coupled Device)等の受光素子とを含んでいる。2次元レーザ変位計は、発光素子から照射されたレーザの撮影対象物50表面による反射光を受光素子で検出することにより、撮影対象物50までの距離と撮影対象物50の幅を同時に測定する。
例えば、2次元レーザ変位計は、撮影対象物50の表面で拡散反射したレーザを受光素子上に結像させ、受光素子上の像の位置及び形状の変化を検出することで撮影対象物50との距離の変位と撮影対象物50の形状とを測定する。
なお、本実施の形態では、2次元レーザ変位計とラインスキャンカメラ42とは、同時に6軸ロボット20の第1関節20Xの端部には取り付けない。撮影対象物50の表面形状を計測する場合には2次元レーザ変位計を、撮影対象物50を撮影する場合にはラインスキャンカメラ42を、6軸ロボット20の第1関節20Xの端部に各々取り付ける。
制御装置30は、2次元レーザ変位計の制御を行う変位計コントローラ32、ラインスキャンカメラ42を制御するカメラコントローラ34、及び6軸ロボット20の動作を制御するロボットコントローラ36を含んでいる。また制御装置30は、2次元レーザ変位計の計測データ及びラインスキャンカメラ42の撮影データを処理するデータ処理装置38を備えている。
図2は、本実施の形態に係る外観撮影装置10の一例を示したブロック図である。図2に示したように、制御装置30は、変位計コントローラ32によって2次元レーザ変位計44を制御すると共に、ロボットコントローラ36によって端部に2次元レーザ変位計が設けられた6軸ロボット20を例えば撮影対象物50の一端から他端までスキャンするように制御する。
2次元レーザ変位計44が撮影対象物50をスキャンしたデータはデータ処理装置38で処理され、撮影対象物50の立体的な形状が算出される。さらに、算出した形状から撮影時にラインスキャンカメラ42を移動させる方向を算出し、ラインスキャンカメラ42を当該方向へ移動させる際の6軸ロボット20の各関節の動きを算出する。
制御装置30は、ロボットコントローラ36により、6軸ロボット20の各関節がデータ処理装置38によって算出した動きになるように制御すると共に、カメラコントローラ34によりラインスキャンカメラ42を制御して撮影対象物50を撮影する。
制御装置30は、専用に設計された装置でもよいが、パーソナルコンピュータ又はPLC(Programmable Logic Controller)等の汎用機を用いてもよい。汎用機を用いる場合には、2次元レーザ変位計44、ラインスキャンカメラ42及び6軸ロボット20を各々制御するためのソフトウェア、並びに2次元レーザ変位計44の計測データに基づいて、ラインスキャンカメラ42の移動方向とカメラアングルとを算出するソフトウェアをインストールして使用する。
以下に、本実施の形態に係る外観撮影装置10の作用及び効果について説明する。図3は、本実施の形態に係る外観撮影装置10における撮影処理の一例を示したフローチャートである。
ステップ800では、6軸ロボット20の第1関節20Xの端部に取り付けた2次元レーザ変位計44を用いて撮影対象物50の表面形状を測定する。ステップ802では2次元レーザ変位計44による計測データをデータ処理装置38の記憶装置に格納する。
ステップ804では、記憶装置に格納された計測データに基づいて、ラインスキャンカメラ42の移動方向とカメラアングルとを算出する最適カメラ姿勢算出処理が行われる。最適カメラ姿勢算出処理の詳細については、後述する。
ステップ806では、ラインスキャンカメラ42の移動方向及びカメラアングルが、ステップ804の最適カメラ姿勢算出処理で算出したとおりになるようにロボットコントローラ36を設定する。また、6軸ロボット20の第1関節20Xの端部に未だ2次元レーザ変位計44が取り付けられている場合には、ラインスキャンカメラ42と交換する。
ステップ808では、撮影対象物50の表面をラインスキャンカメラ42で撮影する。図4は、本実施の形態に係る外観撮影装置10における撮影時でのラインスキャンカメラ42の移動方向及びカメラアングルの変化の一例を示した概略図である。図4に示したように、本実施の形態では、ラインスキャンカメラ42は、撮影対象物50の表面形状に従って、撮影対象物50との距離を一定に保ちながら移動する。また、ラインスキャンカメラ42のレンズの光軸が、撮影対象物50表面の法線ベクトル52の延長線と一致するようにカメラアングルを変化させる。
ずなわち、図4に示したように、ラインスキャンカメラ42を撮影対象物50の表面に倣って移動させると共に、ラインスキャンカメラ42のレンズの光軸が撮影対象物50の表面と垂直になるようにカメラアングルを制御する。ラインスキャンカメラ42のレンズの光軸が撮影対象物50の表面と垂直になるようにカメラアングルを制御することにより、曲面で構成された撮影対象物50の撮影画像に過剰な反射や過剰な暗部が生じることを抑制する。また、撮影対象物50とラインスキャンカメラ42との距離が一定になるように制御することにより、撮影対象物50の表面形状の変化による画像上での撮影対象物50の大きさの変位が抑制され、撮影対象物50の表面を精密に撮影できる。
ステップ810では、撮影データをデータ処理装置38の記憶装置に保存して処理を終了する。
続いて、図3のステップ804の最適カメラ姿勢算出処理について説明する。図5は、最適カメラ姿勢算出処理の一例を示したフローチャートである。ステップ900では、2次元レーザ変位計44の計測データから断面データを抽出し、抽出した断面データから撮影対象物50の3次元メッシュ形状を作成する。
図6は、本実施の形態における撮影対象物50の断面データの一例を示した概略図であり、図7は、本実施の形態において断面データから作成された3次元メッシュ形状の一例を示した概略図である。
ステップ902では、3次元メッシュ形状データをポリゴン形式データに変換する。図8は、本実施の形態において得られる撮影対象物50のポリゴン形式データの概略図の一例である。
ステップ904では、ステップ902で得られたポリゴン50P上にラインスキャンカメラ42のレンズの光軸が向けられる撮影対象点54を指定する。一例として撮影対象点54は、ポリゴン50P上に等間隔で指定する。撮影対象点54の間隔が狭ければ、より精密なカメラの姿勢制御が可能になるが、演算処理の負荷が大きくなるので、制御装置30の演算能力に応じて適宜設定する。また、撮影対象点54は、ユーザがポリゴン50P上から任意の点を複数選択することによって指定してもよい。
ステップ906では、カメラ視線方向(カメラアングル)が算出される。本実施の形態では、図4に示したように、ラインスキャンカメラ42のレンズの光軸が撮影対象物50の表面と垂直になるようにカメラアングルを制御する。本実施の形態では、撮影対象点54における接平面に略一致な平面の方程式を最小二乗法を用いて最小二乗平面として算出し、算出した最小二乗平面の方程式から撮影対象点54における撮影対象物50の法線ベクトル52を決定する。
具体的には、図9に示したように、ポリゴン50P上の撮影対象点54を中心とした領域58に含まれる撮影対象点54近くの対象点(x,y,z)の各座標を複数抽出する。そして、最小二乗平面56の方程式を、下記の式(1)とする。

最小二乗平面56と領域58内の複数の対象点とのz軸方向の変位Eは、下記の式(2)となる。

また、の二乗和Fは、下記の式(3)となる。

式(3)に示したFが最小になるようにm,n,pを決定することで最小二乗平面の方程式を算出する。具体的には、Fをm,n,pについて各々偏微分した結果が0になると仮定する。実際に、式(3)で示したFをm,n,pについて各々偏微分し、各偏微分の結果が0になるとすると、3元連立方程式である下記の式(4)が得られる。下記の式(4)を用いてm,n,pを算出し、最小二乗平面56の方程式を決定する。

さらに、最小二乗平面56の方程式を下記の式(5)のように変形させた場合、最小二乗平面56の法線ベクトル52の成分は(n,p,−1)となる。撮影対象点54の座標が(x,y,z)の場合、カメラ視線方向となるラインスキャンカメラ42のレンズの光軸は、座標(x,y,z)を通る法線ベクトル52(n,p,−1)の延長線と一致する。従って、座標(x,y,z)を通り法線ベクトル52(n,p,−1)に平行な法線をカメラ視線方向とする。

ステップ908では、カメラ移動方向を算出する。本実施の形態では、ラインスキャンカメラ42が撮影対象物50を撮影する際の水平の移動方向の変位をt、及び撮影対象物50のtに対する垂直方向の変位をzとする。かかる場合に、zは、tに対する撮影対象物50表面の凹凸の変位でもある。
図10は、撮影対象物50に対応するポリゴン50Pにおいて、水平方向の変位tと垂直方向の変位zとの関係を示す模式図であり、横軸にt、縦軸にzが設定されている。前述のようにtはラインスキャンカメラ42が撮影対象物50を撮影する際の水平の移動方向の変位なので、図10の横軸は、撮影時に撮影対象物50が載置される水平面と平行となる。
図10には、第1撮影対象点54A(t,z)、第2撮影対象点54B(t,z)及び第3撮影対象点54C(t,z)が各々プロットされている。そして、第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cは、ポリゴン50Pの表面形状を仮想した曲線60上に存在するものとする。
前述のように、tはラインスキャンカメラ42が撮影対象物50を撮影する際の水平の移動方向の変位であり、曲線60はラインスキャンカメラ42のレンズの光軸が向けられる第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cを通る。従って、水平面と平行である図10の横軸への曲線60の正射影は、撮影時に撮影対象物50が載置される水平面と平行であると共にラインスキャンカメラ42が撮影対象物50を撮影する際の水平の移動方向と略一致する。また、曲線60の接線ベクトルの図10の横軸への正射影もラインスキャンカメラ42が撮影対象物50を撮影する際の水平の移動方向と略一致する。
曲線60は、下記の式(6)で示される3次曲線であるとする。2次曲線では第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cの間でポリゴン50Pの表面形状の凹凸が変化する変曲点を再現できないからである。または、第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cよりも多くの撮影対象点に基づいて4次以上の高次曲線の方程式を算出してもよい。

本実施の形態では、3カ所の撮影対象点から式(6)に示した曲線60の方程式を算出する。そして、方程式を算出した曲線60上の接線ベクトルをカメラ移動方向として算出する。
3次曲線の接線の傾きは、下記の式(7)に示した常微分f'(t)で与えられるから、例えば接線ベクトル62Aは第1撮影対象点54A(t,z)を通り傾きf'(t)のベクトルとして、接線ベクトル62Bは第2撮影対象点54B(t,z)を通り傾きf'(t)のベクトルとして、各々表現される。

曲線60の方程式は以下のように算出する。具体的には、式(6)、式(7)並びに第1撮影対象点54A(t,z)、第2撮影対象点54B(t,z)及び第3撮影対象点54C(t,z)から、下記の式(8)として示した4元連立方程式を導出する。そして、下記の式(8)を用いてa,b,c,dを算出することにより、曲線60の方程式を決定する。

第1撮影対象点54A(t,z)が曲線60の方程式算出の最初の起点である場合には、曲線60の方程式が具体的に判明していないので、f'(t)は、第1撮影対象点54Aと第1撮影対象点54Aの近くの点とを結ぶ線分の傾きで代用する。または、第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cに加えて第4撮影対象点54D(t3,z3)の座標値を用いてf'(t)に代えてf(t)の式を用いて4元連立方程式を導出し、a,b,c,dを算出してもよい。
本実施の形態では、第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cを通る曲線60の方程式を算出することにより、第1撮影対象点54Aから第3撮影対象点54Cまで、連続的にカメラ移動方向である接線ベクトル又は接線を算出することができる。その結果、図4示したように、ラインスキャンカメラ42を撮影対象物50の表面に倣って移動させることが可能となる。
なお、第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cを通る曲線60の方程式を算出した後は、第3撮影対象点54Cと、第4撮影対象点54D(t,z)及び第5撮影対象点54E(t,z)等の第3撮影対象点54Cに後続する撮影対象点と、を用いて曲線60の方程式を再算出する。この場合、式(8)中のf'(t)に相当するf'(t)は、第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cを通る曲線60の方程式の常微分を用いて算出する。
制御装置30の演算能力に余裕がある場合には、第1撮影対象点54Aを起点とする曲線60の方程式を算出した後、次の起点を現在の起点に隣接する撮影対象点とし、次の起点及び次の起点に後続する2つの撮影対象点を通る曲線60の方程式を算出してもよい。具体的には、第1撮影対象点54A、第2撮影対象点54B及び第3撮影対象点54Cを通る曲線60の方程式を算出した後、第2撮影対象点54B、第3撮影対象点54C及び第4撮影対象点54Dを通る曲線60の方程式を算出する。続いて、第3撮影対象点54C、第4撮影対象点54D及び第5撮影対象点54Eを通る曲線60の方程式を算出し、以後、起点を第4撮影対象点54D、さらには第5撮影対象点54Eにして曲線60の方程式を算出していく。
図11は、上述の方法により各々算出された、カメラ視線方向である法線ベクトル52A,52B,52C,52D及びカメラ移動方向である接線ベクトル62A,62B,62Cをポリゴン50P上にプロットした一例を示した概略図である。
ステップ910では、上述のように算出した法線ベクトル52A,52B,52C,52D、接線ベクトル62A,62B,62C等のデータをロボットコントローラ36がロボットを制御可能な形式にデータ変換して処理をリターンする。ロボットコントローラ36がロボットを制御可能な形式のデータは、例えば、第1関節20Xにおける第1旋回要素X、第2旋回要素RX、第2関節20Yにおける第1旋回要素Y、第2旋回要素RY及び第3関節20Zにおける第1旋回要素Z、第2旋回要素RZの各々の角度である。
以上説明したように、本実施の形態では、撮影対象物50表面の法線ベクトルに基づいてカメラアングルを決定している。また、本実施の形態では、ラインスキャンカメラ42が撮影対象物50を撮影する際の水平の移動方向の変位tに対するに対する撮影対象物50表面の凹凸の変位に近似する3次曲線の方程式を算出し、当該方程式を用いて連続的に算出した撮影対象物50表面の接線ベクトルに基づいてカメラ移動方向を決定する。
その結果、ラインスキャンカメラ42のレンズの光軸が撮影対象物50の表面と垂直になるようにカメラアングルを制御すると共に、ラインスキャンカメラ42を撮影対象物50の表面に倣って移動させることが可能となるので、簡素な構成で曲面からなる撮影対象物を精密に撮影できる。
[第2の実施の形態]
第1の実施の形態では、2次元レーザ変位計44によって撮影対象物50の表面形状を計測した。しかしながら、第1の実施の形態に係る外観撮影装置10の2次元レーザ変位計44及び変位計コントローラ32は、他の構成に置き換えることが可能である。
図12は、第2の実施の形態に係る外観撮影装置100の構成を示す概略図である。本実施の形態に係る外観撮影装置100は、第1の実施の形態に係る外観撮影装置10の2次元レーザ変位計44及び変位計コントローラ32を、撮影対象物50のCADデータ70、ステレオカメラ72、接触式3次元計測器74、及び非接触式位置センサ76のいずれか1つで置換したものである。その他の構成は、第1の実施の形態に係る外観撮影装置10と同様なので、第1の実施の形態に係る外観撮影装置10と同一の符号を付して詳細な説明は省略する。
例えば、CADデータ70から図8に示したようなポリゴン50Pを作成することが可能であるし、ステレオカメラ72の撮影画像を画像処理することによってもポリゴン50Pは作成できる。従って、CADデータ70又はステレオカメラ72の撮影画像から作成したポリゴン50Pを用いて、第1の実施の形態と同様にラインスキャンカメラ42のカメラアングルであるカメラ視線方向、及びカメラ移動方向を決定することが可能となる。
接触式3次元計測器74は、先端が球状になったプローブで撮影対象物50の表面をなぞり、撮影対象物50の表面形状を例えばx,y,zで表わされる座標値として検出する。検出した座標値に基づいて図8に示したようなポリゴン50Pを作成し、作成したポリゴン50Pを用いて、第1の実施の形態と同様にラインスキャンカメラ42のカメラアングルであるカメラ視線方向、及びカメラ移動方向を決定することが可能となる。
非接触式位置センサ76は、例えばレーザスキャナを応用した非接触式のセンサである。レーザスキャナは、撮影対象物50にレーザを照射してレーザが返ってくるまでの時間に基づいてレーザスキャナから撮影対象物50までの距離を算出する。レーザスキャナから撮影対象物50までの距離の変位及びレーザの照射角から撮影対象物50の立体形状に係る座標(x,y,z)を算出できる。検出した座標値に基づいて図8に示したようなポリゴン50Pを作成し、作成したポリゴン50Pを用いて、第1の実施の形態と同様にラインスキャンカメラ42のカメラアングルであるカメラ視線方向、及びカメラ移動方向を決定することが可能となる。
[他の実施の形態]
以下に、第1の実施の形態及び第2の実施の形態の変形例について説明する。図13は、変形例の一例を示した概略図である。図13に示した変形例の外観撮影装置102では、撮影対象物50をベルトコンベア等の搬送装置によって水平方向に移動させ、6軸ロボット20によってラインスキャンカメラ42を保持して撮影対象物50を撮影する。6軸ロボット20は、水平方向に搬送される撮影対象物50の動きに同期して、カメラ視線方向、及びカメラ移動方向を制御する。
水平方向の移動は6軸ロボット20ではなくベルトコンベア等によるので、撮影対象物50の長さが6軸ロボット20の可動範囲よりも大きい場合であっても、撮影対象物50の一端から他端まで撮影することができる。
本変形例では、カメラ視線方向及びカメラ移動方向の制御は、撮影対象物50の搬送と同期させることを要する。しかしながら、6軸ロボット20によってラインスキャンカメラ42を水平方向に移動させないので、カメラ移動方向は高さ方向(z軸方向)で制御すればよく、カメラ移動方向の制御が第1の実施の形態及び第2の実施の形態に対して簡略化される。
その結果、ラインスキャンカメラ42を保持するロボットは6軸ロボット20よりも低コストな56軸ロボット等を用いることが可能となる。
図14は、もう一つの変形例を示す概略図であり、外観撮影装置104はラインスキャンカメラ42を固定し、撮影対象物50を6軸ロボット20で搬送して撮影する。撮影対象物50をラインスキャンカメラ42に並行して移動させると共に、ラインスキャンカメラ42のレンズの光軸が撮影対象物50の表面と垂直になるように搬送する撮影対象物50の向きを制御する。
本変形例では、撮影対象物50が剛体である場合に限られるが、ラインスキャンカメラ42が大型で、6軸ロボット20による保持が困難な場合であっても、撮影対象物50の表面を撮影できる。
10…外観撮影装置、20…6軸ロボット、20X…第1関節、20Y…第2関節、20Z…第3関節、30…制御装置、32…変位計コントローラ、34…カメラコントローラ、36…ロボットコントローラ、38…データ処理装置、42…ラインスキャンカメラ、42A…照明、44…2元レーザ変位計、50…撮影対象物、50P…ポリゴン、52…法線ベクトル、52A,52B,52C,52D…法線ベクトル、54…撮影対象点、54A,54B,54C,54D,54E…撮影対象点、56…最小二乗平面、58…領域、60…曲線、62A,62B,62C…接線ベクトル、70…CADデータ、72…ステレオカメラ、74…接触式3次元計測器、76…非接触式位置センサ、100,102,104…外観撮影装置、RX,RY,RZ…第1旋回要素、X,Y,Z…第2旋回要素

Claims (10)

  1. 撮影対象物の撮影対象表面の立体形状を計測する計測部と、
    複数の関節を備えたマニュピレータに取り付けられて前記撮影対象表面を撮影するカメラと、
    前記計測部が計測した前記撮影対象表面の立体形状に基づいて、前記カメラのレンズの光軸が前記撮影対象表面と垂直になるように前記カメラを保持すると共に前記カメラを前記撮影対象表面に倣って移動させるように前記マニュピレータを制御する制御部と、
    を含む外観撮影装置。
  2. 前記制御部は、前記計測部が計測した前記撮影対象表面の立体形状に基づいて、前記撮影対象表面に予め複数設定された撮影対象点における前記撮影対象表面の法線と、水平面への正射影が撮影時の前記カメラの水平方向の移動方向と略一致する前記撮影対象表面の接線と、を算出し、前記カメラのレンズの光軸が前記法線と一致するように前記カメラを保持すると共に前記カメラを前記接線の方向に移動させるように前記マニュピレータを制御する請求項1記載の外観撮影装置。
  3. 前記制御部は、前記撮影対象点の座標及び前記撮影対象点の近くの複数の座標から算出した前記撮影対象表面の接平面に平行な最小二乗平面の方程式から前記法線を算出する請求項2記載の外観撮影装置。
  4. 前記制御部は、前記撮影対象点を通り、水平面への正射影が撮影時の前記カメラの水平方向の移動方向と略一致する曲線の方程式を3つ以上の撮影対象点の座標値を用いて算出し、該曲線の方程式を用いて前記3つ以上の撮影対象点の間で前記接線を算出する請求項2又は3記載の外観撮影装置。
  5. 前記カメラと共に前記マニュピレータに取り付けられ、前記撮影対象表面を照明する照明装置を備え、
    前記制御部は、該照明装置を前記カメラと共に前記撮影対象表面に倣って移動させるように前記マニュピレータを制御する請求項1〜4のいずれか1項記載の外観撮影装置。
  6. 撮影対象物の撮影対象表面の立体形状を計測する手順と、
    計測した前記撮影対象表面の立体形状に基づいて、複数の関節を備えたマニュピレータに取り付けられて前記撮影対象表面を撮影するカメラのレンズの光軸が前記撮影対象表面と垂直になるように前記カメラを保持すると共に前記カメラを前記撮影対象表面に倣って移動させるように前記マニュピレータを制御する手順と、
    を含む外観撮影方法。
  7. 前記マニュピレータを制御する手順は、
    前記計測した前記撮影対象表面の立体形状に基づいて、前記撮影対象表面に予め複数設定された撮影対象点における前記撮影対象表面の法線を算出する手順と、
    水平面への正射影が撮影時の前記カメラの水平方向の移動方向と略一致する前記撮影対象表面の接線を算出する手順と、
    前記カメラのレンズの光軸が前記法線と一致するように前記カメラを保持すると共に前記カメラを前記接線の方向に移動させるように前記マニュピレータを制御する手順と、
    を含む請求項6記載の外観撮影方法。
  8. 前記法線を算出する手順は、前記撮影対象点の座標及び前記撮影対象点の近くの複数の座標から算出した前記撮影対象表面の接平面に平行な最小二乗平面の方程式から前記法線を算出する請求項7記載の外観撮影方法。
  9. 前記接線を算出する手順は、前記撮影対象点を通り、水平面への正射影が撮影時の前記カメラの水平方向の移動方向と略一致する曲線の方程式を3つ以上の撮影対象点の座標値を用いて算出し、該曲線の方程式を用いて前記3つ以上の撮影対象点の間で前記接線を算出する請求項7又は8記載の外観撮影方法。
  10. 前記カメラと共に前記マニュピレータに取り付けられた前記撮影対象表面を照明する照明装置を前記カメラと共に前記撮影対象表面に倣って移動させるように前記マニュピレータを制御する手順を含む請求項6〜9のいずれか1項記載の外観撮影方法。
JP2015124021A 2015-06-19 2015-06-19 外観撮影装置及び外観撮影方法 Active JP6520451B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015124021A JP6520451B2 (ja) 2015-06-19 2015-06-19 外観撮影装置及び外観撮影方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015124021A JP6520451B2 (ja) 2015-06-19 2015-06-19 外観撮影装置及び外観撮影方法

Publications (2)

Publication Number Publication Date
JP2017009383A true JP2017009383A (ja) 2017-01-12
JP6520451B2 JP6520451B2 (ja) 2019-05-29

Family

ID=57762459

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015124021A Active JP6520451B2 (ja) 2015-06-19 2015-06-19 外観撮影装置及び外観撮影方法

Country Status (1)

Country Link
JP (1) JP6520451B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018207313A1 (ja) * 2017-05-11 2018-11-15 株式会社Fuji 情報処理装置、3次元実装関連装置、実装システム及び情報処理方法
CN109900722A (zh) * 2019-04-01 2019-06-18 苏州凌云视界智能设备有限责任公司 一种玻璃弧面图像采集方法、系统及应用
CN110031403A (zh) * 2019-04-04 2019-07-19 山东大学 一种全自动岩石标本图像采集装置及方法
JP2019158501A (ja) * 2018-03-12 2019-09-19 オムロン株式会社 外観検査システム、画像処理装置、設定装置および検査方法
JPWO2020152866A1 (ja) * 2019-01-25 2020-07-30
JPWO2020152865A1 (ja) * 2019-01-25 2020-07-30
US20210129971A1 (en) * 2019-11-01 2021-05-06 The Boeing Company System and method for measuring localized characteristics of a transparency
JP2022037856A (ja) * 2020-08-25 2022-03-09 株式会社オプティム プログラム、方法、及びシステム
TWI772031B (zh) * 2021-05-20 2022-07-21 海量數位工程股份有限公司 具aoi動態多角度視覺品質檢測系統之移動載具
JP2023036167A (ja) * 2021-09-02 2023-03-14 株式会社ジーテクト 外観検査装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002082060A (ja) * 2000-06-30 2002-03-22 Nissan Motor Co Ltd 表面欠陥検査方法および表面欠陥検査装置
JP2002214147A (ja) * 2001-01-12 2002-07-31 Nissan Motor Co Ltd 表面欠陥検査装置
JP2005315841A (ja) * 2004-03-31 2005-11-10 Daihatsu Motor Co Ltd 表面欠陥検査装置
JP2007316019A (ja) * 2006-05-29 2007-12-06 Daihatsu Motor Co Ltd 表面欠陥検査装置
US20110298901A1 (en) * 2008-12-24 2011-12-08 Snecma Method for the non-destructive inspection of a mechanical part
US20130147947A1 (en) * 2011-12-09 2013-06-13 Andrea Terreno Method for monitoring the quality of the primer layer applied to a motor-vehicle body prior to painting

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002082060A (ja) * 2000-06-30 2002-03-22 Nissan Motor Co Ltd 表面欠陥検査方法および表面欠陥検査装置
JP2002214147A (ja) * 2001-01-12 2002-07-31 Nissan Motor Co Ltd 表面欠陥検査装置
JP2005315841A (ja) * 2004-03-31 2005-11-10 Daihatsu Motor Co Ltd 表面欠陥検査装置
JP2007316019A (ja) * 2006-05-29 2007-12-06 Daihatsu Motor Co Ltd 表面欠陥検査装置
US20110298901A1 (en) * 2008-12-24 2011-12-08 Snecma Method for the non-destructive inspection of a mechanical part
JP2012514193A (ja) * 2008-12-24 2012-06-21 スネクマ 機械部品の非破壊検査の方法
US20130147947A1 (en) * 2011-12-09 2013-06-13 Andrea Terreno Method for monitoring the quality of the primer layer applied to a motor-vehicle body prior to painting

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018207313A1 (ja) * 2017-05-11 2018-11-15 株式会社Fuji 情報処理装置、3次元実装関連装置、実装システム及び情報処理方法
JPWO2018207313A1 (ja) * 2017-05-11 2019-12-12 株式会社Fuji 情報処理装置、3次元実装関連装置、実装システム及び情報処理方法
JP2019158501A (ja) * 2018-03-12 2019-09-19 オムロン株式会社 外観検査システム、画像処理装置、設定装置および検査方法
JPWO2020152865A1 (ja) * 2019-01-25 2020-07-30
JPWO2020152866A1 (ja) * 2019-01-25 2020-07-30
WO2020152865A1 (ja) * 2019-01-25 2020-07-30 タカノ株式会社 画像検査装置
JP7138194B2 (ja) 2019-01-25 2022-09-15 タカノ株式会社 画像検査装置
CN109900722A (zh) * 2019-04-01 2019-06-18 苏州凌云视界智能设备有限责任公司 一种玻璃弧面图像采集方法、系统及应用
CN109900722B (zh) * 2019-04-01 2021-08-03 苏州凌云视界智能设备有限责任公司 一种玻璃弧面图像采集方法、系统及应用
CN110031403A (zh) * 2019-04-04 2019-07-19 山东大学 一种全自动岩石标本图像采集装置及方法
US20210129971A1 (en) * 2019-11-01 2021-05-06 The Boeing Company System and method for measuring localized characteristics of a transparency
JP2022037856A (ja) * 2020-08-25 2022-03-09 株式会社オプティム プログラム、方法、及びシステム
TWI772031B (zh) * 2021-05-20 2022-07-21 海量數位工程股份有限公司 具aoi動態多角度視覺品質檢測系統之移動載具
JP2023036167A (ja) * 2021-09-02 2023-03-14 株式会社ジーテクト 外観検査装置
JP7316332B2 (ja) 2021-09-02 2023-07-27 株式会社ジーテクト 外観検査装置

Also Published As

Publication number Publication date
JP6520451B2 (ja) 2019-05-29

Similar Documents

Publication Publication Date Title
JP6520451B2 (ja) 外観撮影装置及び外観撮影方法
US9279661B2 (en) Information processing apparatus and information processing method
JP6271953B2 (ja) 画像処理装置、画像処理方法
CN108965690B (zh) 图像处理系统、图像处理装置及计算机可读存储介质
JP5469216B2 (ja) バラ積みされた物品をロボットで取出す装置
JP6324025B2 (ja) 情報処理装置、情報処理方法
JP6380667B2 (ja) 形状測定装置及び形状測定方法
JP6734253B2 (ja) ワークを撮像する視覚センサを備える撮像装置
JP6067175B2 (ja) 位置測定装置及び位置測定方法
KR20140008262A (ko) 로봇 시스템, 로봇, 로봇 제어 장치, 로봇 제어 방법 및 로봇 제어 프로그램
JP2014013146A (ja) 3次元計測装置及びロボット装置
JP2011112402A (ja) 3次元視覚センサにおける計測有効領域の表示方法および3次元視覚センサ
JP2011175477A (ja) 3次元計測装置、処理方法及びプログラム
JP2010210458A (ja) 3次元視覚センサによる認識結果の表示方法および3次元視覚センサ
TWI493153B (zh) 非接觸式物件空間資訊量測裝置與方法及取像路徑的計算方法
US20190287258A1 (en) Control Apparatus, Robot System, And Method Of Detecting Object
JP2021193400A (ja) アーチファクトを測定するための方法
Horbach et al. 3D reconstruction of specular surfaces using a calibrated projector–camera setup
JP2019049467A (ja) 距離計測システムおよび距離計測方法
JP2009269134A (ja) 視覚検査装置のシミュレーション装置
JP7378934B2 (ja) 情報処理装置、情報処理方法及びシステム
JP2017156242A (ja) 計測装置、システム、計測方法、および物品の製造方法
JP6890422B2 (ja) 情報処理装置、情報処理装置の制御方法およびプログラム
JP2015132523A (ja) 位置姿勢計測装置、位置姿勢計測方法及びプログラム
JP2018189459A (ja) 計測装置、計測方法、システム、および物品製造方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180227

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20180409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181030

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190415

R151 Written notification of patent or utility model registration

Ref document number: 6520451

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250