JP6199690B2 - Image processing system and work robot - Google Patents
Image processing system and work robot Download PDFInfo
- Publication number
- JP6199690B2 JP6199690B2 JP2013214082A JP2013214082A JP6199690B2 JP 6199690 B2 JP6199690 B2 JP 6199690B2 JP 2013214082 A JP2013214082 A JP 2013214082A JP 2013214082 A JP2013214082 A JP 2013214082A JP 6199690 B2 JP6199690 B2 JP 6199690B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- eigenvalue
- pixel data
- pixd
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
本発明は、撮像した画素データを対象とした通信を行う画像処理システム及びその画像処理システムにより取得した画素データに基づいて動作する作業用ロボットに関するものである。 The present invention relates to an image processing system that performs communication on captured pixel data and a working robot that operates based on pixel data acquired by the image processing system.
従来、作業用ロボット、例えば電子部品装着装置は、電子部品を実装する回路基板を撮像するための撮像装置を備えるものがある(例えば、特許文献1など)。電子部品装着装置は、例えば撮像装置が撮像した画素データが通信ケーブルを介して制御装置に伝送される。制御装置は、入力された画素データに対する画像処理を行って回路基板の保持位置の誤差等を検出し、検出結果に基づいて電子部品を保持する装着ヘッドの位置を調整し実装作業を行う。また、撮像装置と制御装置との間の通信は、例えば、LVDS(Low Voltage Differential Signaling)技術を用いたCameraLink規格に準拠した通信規格によりデータが伝送される。ここでいうCameraLink規格は、産業用デジタルカメラのデータ伝送方式を定めた通信規格の1つであり、コネクタやピンアサインの標準化を図り、画素データ等をシリアル通信で伝送する通信規格である。 2. Description of the Related Art Conventionally, there are work robots, for example, electronic component mounting apparatuses, which include an imaging device for imaging a circuit board on which electronic components are mounted (for example, Patent Document 1). In the electronic component mounting apparatus, for example, pixel data captured by the imaging apparatus is transmitted to the control apparatus via a communication cable. The control device performs image processing on the input pixel data, detects an error in the holding position of the circuit board, etc., adjusts the position of the mounting head that holds the electronic component based on the detection result, and performs the mounting operation. In communication between the imaging device and the control device, for example, data is transmitted according to a communication standard based on the CameraLink standard using LVDS (Low Voltage Differential Signaling) technology. The CameraLink standard here is one of the communication standards that define the data transmission system of industrial digital cameras, and is a communication standard that standardizes connectors and pin assignments and transmits pixel data and the like by serial communication.
また、上記した撮像装置は、同一規格の装置であっても製造工程における精度の限界などによりレンズや撮像素子(例えば、CMOS)の取り付け位置に誤差が生じてレンズ歪みなどの機器固有の特性が生じる。このため、撮像装置は、制御装置が画素データを補正する際に参照するデータとしてレンズ歪みなどの固有値がメモリ等に保存されている。制御装置は、作業用ロボットの起動時において撮像装置のメモリから固有値を読み出す処理を行う。また、固有値はレンズ歪みの他に様々なデータが設定される。例えば、撮像装置は、周囲の画素に比べて出力信号のレベルが過剰に高い撮像素子に係わる欠陥点の情報が固有値としてメモリに記憶されている場合がある。 In addition, even if the above-described imaging apparatus is an apparatus of the same standard, an error occurs in the mounting position of a lens or an imaging element (for example, CMOS) due to a limit of accuracy in the manufacturing process, and the device-specific characteristics such as lens distortion are present. Arise. For this reason, in the imaging apparatus, eigenvalues such as lens distortion are stored in a memory or the like as data referred to when the control apparatus corrects pixel data. The control device performs a process of reading the eigenvalue from the memory of the imaging device when the work robot is activated. In addition to lens distortion, various data are set as eigenvalues. For example, in an imaging apparatus, information on a defect point related to an imaging element in which the level of an output signal is excessively higher than that of surrounding pixels may be stored in a memory as an eigenvalue.
また、上記したCameraLink規格などの通信規格に準拠した通信ケーブルでは、一般的に撮像装置の撮像条件を設定するパラメータなどのデータのデータ転送レートに比べて画素データのデータ転送レートが高く設定されている。そして、固有値は、この撮像条件のパラメータを伝送する低速な通信により読み出される。一方で、固有値、例えばレンズ歪みに係わるデータは、1画素ごとの補正データが設定されると、マークカメラが高解像度化により画素数が増大するとそれに比例してデータ量が大きくなる。また、制御装置は、作業用ロボットの起動時において複数の種類の固有値を読み出す必要がある。このため、作業用ロボットは、制御装置が固有値の読み出しを低速な通信により実施することで起動時間に遅延が生じることが問題となる。 Also, with communication cables compliant with the above-mentioned communication standards such as the CameraLink standard, the data transfer rate of pixel data is generally set higher than the data transfer rate of data such as parameters that set the imaging conditions of the imaging device. Yes. The eigenvalue is read out by low-speed communication that transmits the parameters of the imaging condition. On the other hand, when the correction data for each pixel is set for eigenvalues such as lens distortion data, the amount of data increases in proportion to the increase in the number of pixels of the mark camera due to higher resolution. In addition, the control device needs to read a plurality of types of eigenvalues when the work robot is activated. For this reason, the work robot has a problem in that the start-up time is delayed due to the control device reading out the eigenvalue by low-speed communication.
本発明は、上記した課題を鑑みてなされたものであり、起動時間の短縮を図ることができる画像処理システム及び作業用ロボットを提供することを目的とする。 The present invention has been made in view of the above-described problems, and an object thereof is to provide an image processing system and a working robot that can shorten the activation time.
本願に開示される技術に係る画像処理システムは、ワークからの光をレンズにより撮像素子に結像させ撮像素子が光電変換した画素データを取得する撮像手段と、レンズ又は撮像素子の少なくとも一方の機器固有の固有値に基づいて画素データを補正する補正手段と、撮像手段の撮像用のパラメータの読み出し及び書き込みの通信を行う低速伝送手段と、データ転送レートの実効速度が低速伝送手段に比べて速く、撮像手段から補正手段に向けて画素データが伝送される高速伝送手段と、画素データに対応するデータ形式に変換された固有値を、撮像手段から補正手段に向けて高速伝送手段により伝送させる固有値伝送手段と、を備える。 An image processing system according to a technique disclosed in the present application includes an imaging unit that obtains pixel data obtained by photoelectrically converting light from a workpiece onto an imaging element using a lens, and at least one device of the lens or the imaging element A correction unit that corrects pixel data based on a unique eigenvalue, a low-speed transmission unit that performs reading and writing communication of imaging parameters of the imaging unit, and an effective data transfer rate is faster than a low-speed transmission unit, High-speed transmission means for transmitting pixel data from the image pickup means to the correction means, and eigenvalue transmission means for transmitting the eigenvalue converted into a data format corresponding to the pixel data from the image pickup means to the correction means by the high-speed transmission means. And comprising.
また、本願に開示される技術に係る作業用ロボットは、画像処理システムの撮像手段により取得されたワークの画素データに基づいて動作する。この画像処理システムは、ワークからの光をレンズにより撮像素子に結像させ撮像素子が光電変換した画素データを取得する撮像手段と、レンズ又は撮像素子の少なくとも一方の機器固有の固有値に基づいて画素データを補正する補正手段と、撮像手段の撮像用のパラメータの読み出し及び書き込みの通信を行う低速伝送手段と、データ転送レートの実効速度が低速伝送手段に比べて速く、撮像手段から補正手段に向けて画素データが伝送される高速伝送手段と、画素データに対応するデータ形式に変換された固有値を、撮像手段から補正手段に向けて高速伝送手段により伝送させる固有値伝送手段と、を備える。 In addition, the work robot according to the technique disclosed in the present application operates based on pixel data of a work acquired by the imaging unit of the image processing system. The image processing system includes an imaging unit that obtains pixel data in which light from a workpiece is imaged on an imaging element by a lens and photoelectrically converted by the imaging element, and a pixel based on a unique value unique to at least one of the lens and the imaging element. A correction means for correcting data, a low-speed transmission means for reading and writing parameters for imaging of the imaging means, and an effective data transfer rate is faster than that of the low-speed transmission means. High-speed transmission means for transmitting the pixel data, and eigenvalue transmission means for transmitting the eigenvalue converted into the data format corresponding to the pixel data from the imaging means to the correction means by the high-speed transmission means.
本願に開示される技術によれば、起動時間の短縮を図ることができる画像処理システム及び作業用ロボットが提供できる。 According to the technique disclosed in the present application, it is possible to provide an image processing system and a working robot that can shorten the activation time.
以下、本発明の実施例について図を参照して説明する。初めに、本願の画像処理システムを適用する作業用ロボットの一例として電子部品装着装置(以下、「装着装置」と略する場合がある)について説明する。実施例では、装着装置の制御装置が備える画像処理ボードとカメラ(撮像装置)との間におけるデータ伝送に本願の画像処理システムが適用された構成を例示する。 Embodiments of the present invention will be described below with reference to the drawings. First, an electronic component mounting apparatus (hereinafter sometimes abbreviated as “mounting apparatus”) will be described as an example of a working robot to which the image processing system of the present application is applied. In the embodiment, a configuration in which the image processing system of the present application is applied to data transmission between an image processing board and a camera (imaging device) included in the control device of the mounting device is illustrated.
(装着装置10の構成)
図1の装着装置10は、例えば、集積回路の生産ラインにおいて、回路基板に複数の電子部品を実装する電子部品装着装置である。回路基板は、生産ラインのクリームハンダ印刷機により電子部品の装着位置にハンダを塗布され、複数の装着装置10を順に搬送されて電子部品を装着される。その後に、電子部品を装着された回路基板は、リフロー炉に搬送されてハンダ付けされることにより集積回路を構成する。また、カメラ3は、例えば、電子部品や回路基板を撮像するために装着装置10に組み込まれているFA用の撮像装置である。なお、図1は装着装置10の一部を示している。
(Configuration of mounting device 10)
The
図1に示すように、装着装置10は、画像処理ボード2と、画像処理ボード2に接続された画像入力ボード4と、画像入力ボード4と通信可能に接続されたカメラ3とを備えて構成されている。画像処理ボード2は、カメラ3が撮像した画素データPIXDを処理するCPU11と、CPU11の画像処理における処理データを保存するためのRAM(Random Access Memory)12とを備えている。画像入力ボード4は、例えば、画像処理ボード2の拡張スロットに接続され、内部バス5を介して画像処理ボード2に接続されている。画像入力ボード4は、コマンド通信部21と、CPU22と、RAM25と、FPGA(Field Programmable Gate Array)26とを備えている。一方、カメラ3は、コマンド通信部31と、CPU32と、不揮発性メモリ35と、FPGA36と、撮像素子39と、レンズ部40とを備える。画像入力ボード4は、カメラ3と通信ケーブル7を介して通信可能に接続され各種信号の送受信を行う。画像入力ボード4のFPGA26及びカメラ3のFPGA36は、通信ケーブル7を通じて例えばCameraLink規格に準拠した通信を行う。ここでいうCameraLink規格とは、LVDS(Low Voltage Differential Signaling:小振幅の差動伝送方式)によって画素データを対象としてデータを送信するシリアル通信の通信規格である。通信ケーブル7は、例えば仕様がベース・コンフィグレーションのCameraLink規格に準拠しており、画素データPIXD、コマンドデータCMD、制御信号(トリガ信号TRIGなど)を転送する3種類の信号線7A〜7Cが1本の通信ケーブル7内に設けられている。
As shown in FIG. 1, the
画像入力ボード4が備えるコマンド通信部21は、カメラ3のコマンド通信部31と通信ケーブル7の信号線7Aを介した低速なシリアル通信(例えばRS232C規格に準拠した通信)を行う。コマンド通信部21は、画像処理ボード2の制御に基づいてCPU22が処理したコマンドデータCMDが入力され、入力されたコマンドデータCMDをカメラ3のコマンド通信部31に送信する。コマンド通信部31は、受信したコマンドデータCMDをCPU32に転送する。例えば、CPU22は、CPU32に対しカメラ3が備えるメモリなどに記憶された撮像用のパラメータ(撮像素子39の出力ゲインの設定値など)の読み出し及び変更した設定値のメモリへの書き込みを指示するコマンドデータCMDを送信する。また、CPU32は、メモリに記憶された設定値に応じて撮像素子39の出力ゲインを変更する制御を行う。あるいは、CPU22は、CPU32に対しカメラ3が備える照明装置(図示略)の起動又は停止を指示するコマンドデータCMDを送信し撮像条件を変更する。
The
カメラ3のレンズ部40は、レンズやレンズ保持部材などにより構成され、被写体であるワーク(回路基板や電子部品など)からの光を撮像素子39に結像する。撮像素子39は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサである。撮像素子39は、レンズ部40により撮像面に結像された光を光電変換しアナログの撮像信号として出力する。撮像素子39が出力した撮像信号は、A/D変換回路(図示略)にてデジタル信号の画素データPIXDに変換されFPGA36に出力される。FPGA36は、プログラム可能なロジックデバイスである。FPGA36は、画像入力ボード4のFPGA26からの信号線7Bを介したトリガ信号TRIGに応じてA/D変換回路から取得した画素データPIXDに対しゲイン調整等の前処理を施し、通信ケーブル7の信号線7Cを介した高速な通信で処理結果の画素データPIXDをFPGA26に転送する。
The
(固有値について)
不揮発性メモリ35は、例えばフラッシュメモリやROMであり、CPU32が撮像素子39及びレンズ部40を制御するためのドライバなどのプログラムの他に、画像入力ボード4のFPGA26が画素データPIXDの補正処理を行う際に参照するデータとして固有値が保存されている。ここでいう固有値とは、レンズ歪み補正、欠陥補正、ガンマ補正及びホワイトバランスなどのレンズ部40や撮像素子39の機器固有の特性を示すデータである。なお、レンズ歪み補正の固有値とは、レンズ部40のレンズや撮像素子39の取り付け位置の誤差などによって被写体(ワーク)が歪んで写った画素データPIXDを補正するデータである。また、欠陥補正の固有値とは、例えば、撮像素子39が有する複数の素子(CMOS)のうち、明るさに反応せずに正常な画素値を出力しない画素(素子)に係わるデータなどである。ガンマ補正については後述する。
(About eigenvalues)
The
画像入力ボード4のCPU22は、装着装置10の起動時においてカメラ3に上記した複数の種類の固有値の送信を要求しRAM25に保存する処理を行う。FPGA26は、例えばカメラ3から取得した画素データPIXDに対しレンズ歪み補正やガンマ補正などの補正処理を行い、内部バス5を介して処理結果を画像処理ボード2に転送する。画像処理ボード2のCPU11は、FPGA26から転送された画素データPIXDに対し各種の画像処理を実行する。この画像処理は、例えば、画素データPIXDの二値化、フィルタリング、色相抽出などの加工処理と、加工処理された画素データPIXDから特定の形状やマークに基づいて被写体の有無や位置情報などを認識する認識処理が含まれる。
The
ここで、上記したCameraLink規格などの通信規格に準拠した通信ケーブル7では、一般的にコマンドデータCMDに比べてデータ量が大きい画素データPIXDのデータ転送レートが高く設定されている。コマンドデータCMDは、例えば、RS232C規格に準拠したシリアル通信により数百kbpsのデータ転送レートで送受信される。また、画素データPIXDは、例えば、LVDS技術を用いたCameraLink規格に準拠したシリアル通信により数Gbpsのデータ転送レートで転送される。例えば、画素データPIXDは、TAP数(同時に転送可能なデータ線の本数)が3TAP、出力周波数が85MHzの場合2Gbpsのデータ転送レートで転送される。一方で、例えば、レンズ歪み補正の固有値は、1画素ごとの補正データが必要となるため、カメラ3が高解像度化により画素数が増大するとそれに比例してデータ量が大きくなる。従来の装着装置10では、カメラ3の不揮発性メモリ35に保存された複数の固有値を、コマンドデータCMDを転送する低速なデータ通信により読み出す処理を行っており起動時間に遅延が生じる虞がある。そこで、本実施例の装着装置10は、固有値を画素データPIXDに含めて高速なデータ通信により伝送することで起動時間の短縮化が図られている。
Here, in the
詳述すると、カメラ3の不揮発性メモリ35には、上記した固有値のデータを含むテストパターンが記憶されている。図2は不揮発性メモリ35に記憶されたテストパターンとそれに対応するデータを示したテーブルTBの一例を示している。テーブルTBは、各テストパターンの番号に対応したデータが設定されている。例えば、テーブルTBは、1番から20番までが通常の撮像素子39の試験に用いられるデータが記憶されている。テストパターン1は、撮像素子39が有するレジスタの値を変更するテストパターンが設定されている。カメラ3のCPU32は、画像入力ボード4のCPU22からのコマンドデータCMDに応じて不揮発性メモリ35のテーブルTBを検索しテストパターン1に対応するレジスト値を読み出す。CPU32は、読み出したレジスト値を撮像素子39に出力し、撮像素子39の出力信号を実画像からテストパターン1に応じた信号に切り替える。撮像素子39が出力したテストパターン1に対応する画素データPIXDは、FPGA36から画像入力ボード4のFPGA26を介して画像処理ボード2のCPU11へ転送される。CPU11は、受信したテストパターン1の画素データPIXDに基づいて画像の上下の向きや画像位置のずれを検出及び補正する。
More specifically, a test pattern including the above-described eigenvalue data is stored in the
また、テーブルTBは、21番目以降のテストパターンに固有値が対応付けられている。テストパターン21〜28は、レンズ歪み補正の固有値が設定されている。図3は、カメラ3から画像入力ボード4へ通信ケーブル7を介して伝送される1フレームの画素データPIXDの一例を示しており、図示例ではレンズ歪み補正の固有値が設定されたテストパターンの場合を示している。画素データPIXDは、1フレームに縦1024、横1024の格子状の画素が配置された画素データである。画素データPIXDは、1画素が例えば8ビットのデータを有する。例えば、FPGA36は、FPGA26からのトリガ信号TRIGに応じて1フレームの画素データPIXDを1ラインごとに画像入力ボード4へ転送する。
In the table TB, eigenvalues are associated with the 21st and subsequent test patterns. In the
レンズ歪み補正の固有値のデータは、例えば画素データPIXDの上下方向と左右方向との各々の方向に沿った位置を補正するために64ビット(32ビット×2方向)が1画素あたりに必要となる。この場合、固有値のデータ量は次式の値となる。
固有値のデータ量=64ビット×1024×1024=67108864ビット
例えば、コマンドデータCMDのデータ転送レートの実効値を115200bpsとすると、固有値のデータ転送に必要な時間が約582秒(=67108864/115200)となる。一方、画素データPIXDのデータ転送レートの実効値を2040000000bpsとすると、固有値のデータ転送に必要な時間が約0.03秒(=67108864/2040000000)となる。従って、データ転送レートのみを単純に比較すると固有値を画素データPIXDに含めてデータ転送すれば、転送時間が約10分程度短縮できる。なお、画素データPIXDの1画素は8ビットであるため1画素あたり64ビットの補正データが必要なレンズ歪み補正の固有値を転送するには、画像入力ボード4とカメラ3とは複数のフレーム(例えば、8個(=64ビット/8ビット)のフレーム)の画素データPIXDを転送する必要がある。このため、図2に示すテーブルTBには、1種類のレンズ歪み補正の固有値が8個のテストパターン21〜28に分割して設定されている。画像入力ボード4は、カメラ3に対し指定するテストパターンの番号を変更しながら8個のテストパターン21〜28を転送させレンズ歪み補正の固有値を受信する。
The lens distortion correction eigenvalue data requires, for example, 64 bits (32 bits × 2 directions) per pixel in order to correct the position along the vertical and horizontal directions of the pixel data PIXD. . In this case, the data amount of the eigenvalue is a value of the following equation.
Eigenvalue data amount = 64 bits × 1024 × 1024 = 67108864 bits For example, if the effective value of the data transfer rate of the command data CMD is 115200 bps, the time required for data transfer of the eigenvalue is about 582 seconds (= 67108864/115200). Become. On the other hand, when the effective value of the data transfer rate of the pixel data PIXD is 2040000000 bps, the time required for data transfer of the eigenvalue is about 0.03 seconds (= 67108864/2040000000). Accordingly, when only the data transfer rate is compared, if the eigenvalue is included in the pixel data PIXD and the data transfer is performed, the transfer time can be reduced by about 10 minutes. In addition, since one pixel of the pixel data PIXD is 8 bits, the image input board 4 and the camera 3 have a plurality of frames (for example, for transferring lens distortion correction eigenvalues that require 64 bits of correction data per pixel). , 8 (= 64 bits / 8 bits) pixel data PIXD must be transferred. For this reason, in the table TB shown in FIG. 2, one type of eigenvalue for lens distortion correction is divided into eight
また、図2に示すテーブルTBは、テストパターン29にガンマ補正の固有値が対応付けられている。ガンマ補正の固有値のデータ量は、レンズ歪み補正のデータ量に比べて少ない。画像入力ボード4のFPGA26は、例えば画像処理ボード2のCPU11における画像処理(回路基板のエッジ検出処理など)の前処理として画素データPIXDの画素値を変換するガンマ補正を実施する。テーブルTBのテストパターン29には、入力の画素値に対し変換した出力の画素値を対応付けた変換データ(ルックアップテーブル)が設定されている。このルックアップテーブルは画素値のビット幅(階調)を変換する値が設定されている。FPGA26は、例えば、カメラ3から取得したルックアップテーブルを用いて画素データPIXDの各画素値を8ビットから所定のビット(例えば、6ビット)に変換しビット圧縮を図る。なお、テーブルTBは、複数のテストパターンのそれぞれに対応付けて、変換後のビット幅が異なる複数のルックアップテーブルが設定された構成でもよい。
In the table TB shown in FIG. 2, the eigenvalues for gamma correction are associated with the test pattern 29. The data amount of eigenvalues for gamma correction is smaller than the data amount for lens distortion correction. The
固有値であるルックアップテーブルのデータは、例えば8ビットで表現可能な値(256階調)の各々に対応する変換後の6ビット(64階調)のデータが必要となる。この場合、固有値のデータ量は次式の値となる。
固有値のデータ量=256×6ビット=1536ビット
この場合、テストパターン29に対応する画素データPIXDは、1ライン目の途中までの領域の画素値にルックアップテーブルのすべてのデータを割り当てることが可能となる。このため、カメラ3のFPGA36は、例えば、テストパターン29の画素データPIXDの全画素を処理対象とするのではなく、固有値に対応する一部の画素について読み出す部分読みだし処理を行う。ここでいう、部分読みだし処理とは、例えば、ROI(Region Of Interest)読み出しなどと呼ばれるもので、画素データの処理対象の領域を限定して処理するものである。FPGA36は、テストパターン29が要求された場合に、例えば、不揮発性メモリ35からルックアップテーブルを含む画素データPIXDを読み出す際に、1ライン分を読み出した時点で画素データPIXDの読み出しを終了し、1ライン分のデータのみを画像入力ボード4へ転送する。これにより、FPGA36は、ルックアップテーブルをより高速に画像入力ボード4へ転送することが可能となる。
As the data of the lookup table, which is an eigenvalue, for example, 6-bit (64 gradation) data after conversion corresponding to each value (256 gradations) that can be expressed in 8 bits is required. In this case, the data amount of the eigenvalue is a value of the following equation.
Eigenvalue data amount = 256 × 6 bits = 1536 bits In this case, the pixel data PIXD corresponding to the test pattern 29 can assign all the data in the lookup table to the pixel values in the region up to the middle of the first line. It becomes. For this reason, for example, the
なお、テーブルTBの30番以降のテストパターンには、上記した固有値と同様に、画素値に固有値(欠陥補正やホワイトバランスなど)が設定された画素データPIXDが設定されている。例えば、欠陥補正の固有値は、撮像素子39が有する複数の素子(例えば、CMOS)のうち、明るさに反応せずに正常な画素値を出力しない画素や所定のゲインの値を超えると正常な画素値を出力しない画素の情報が設定されている。欠陥補正の固有値が設定された画素データPIXDの各画素には、例えば8ビットで表現される値に欠陥点の情報が対応付けて設定されている。例えば、欠陥点の情報は、8ビットのビット値が「0」であれば正常な画素値が出力されない画素を、ビット値が「1」であればレベル1以上のゲインの値を超えると正常な画素値が出力されない画素を、ビット値が「2」であればレベル2以上のゲインの値を超えると正常な画素値が出力されない画素を、ビット値が「3」であればレベル3以上・・・、のように正常な画素値が出力可能なゲインの値に応じたビット値が設定される。
Note that, in the test patterns after the 30th in the table TB, pixel data PIXD in which a unique value (defect correction, white balance, etc.) is set as the pixel value is set similarly to the above-described unique value. For example, the eigenvalue for defect correction is normal when a pixel that does not respond to brightness and does not output a normal pixel value or exceeds a predetermined gain value among a plurality of elements (for example, CMOS) of the
次に、画像入力ボード4の固有値に係わるテストパターンの取得処理を説明する。図4は、画像入力ボード4がカメラ3にテストパターンを要求し固有値を取得する処理の動作シーケンスを示している。なお、図4の実線で示す矢印は、例えばコマンドデータCMDを転送するRS232Cに準拠したシリアル通信を示している(図1の信号線7A参照)。また、一点鎖線で示す矢印は、例えばCameraLink規格で規定された4種類のカメラ制御信号(CC1,CC2,CC3,CC4)のうち、1つ(例えばCC1)によりトリガ信号TRIGを転送する通信を示している(図1の信号線7B参照)。また、破線で示す矢印は、例えば画素データPIXDを転送するベース・コンフィグレーションのCameraLink規格に準拠した通信を示している(図1の信号線7C参照)。まず、画像入力ボード4のCPU22は、装着装置10の起動にともなって固有値に対応するテストパターンの送信を要求するコマンドデータCMD(図中の「コマンドCMD1」)をコマンド通信部21からカメラ3のコマンド通信部31へ送信する。CPU22は、例えば、画像入力ボード4が備える不揮発性メモリ(図示略)に記憶された制御プログラムに従って起動時に画像処理に必要となる固有値を順番に要求する。コマンドCMD1は、例えば、レンズ歪み補正の固有値のテストパターン21を要求するコマンドデータCMDである。カメラ3のCPU32は、コマンド通信部31からコマンドCMD1を入力すると、コマンドCMD1を受信したことを示す応答信号ACK1をコマンド通信部31から画像入力ボード4のコマンド通信部21へ送信する。この応答信号ACK1は、カメラ3から画像入力ボード4に向けたコマンドデータCMDである。CPU22は、コマンド通信部21からの応答信号ACK1が入力されると、FPGA26を制御してテストパターン21の送信の開始を指示するトリガ信号TRIG1をカメラ3のFPGA36に向けて送信させる。
Next, a test pattern acquisition process related to the eigenvalues of the image input board 4 will be described. FIG. 4 shows an operation sequence of processing in which the image input board 4 requests a test pattern from the camera 3 and acquires a unique value. In addition, the arrow shown with the continuous line of FIG. 4 has shown serial communication based on RS232C which transfers command data CMD, for example (refer
カメラ3のFPGA36は、トリガ信号TRIG1を受信すると、不揮発性メモリ35に記憶されたテストパターン21に対応する固有値を含む画素データPIXDを画像入力ボード4へ転送する処理を実行する。FPGA36は、テストパターン21に対応する画素データPIXDをFPGA26へ1ラインごとに連続して送信する。画像入力ボード4のFPGA26は、FPGA36から連続して転送される1ラインごとの画素データPIXDをRAM25に記憶する。FPGA26は、1024ライン目まで受信し1フレームの画素データPIXDの受信が終了した旨をCPU22に通知する。CPU22は、レンズ歪み補正の固有値に対応する次のテストパターン(この場合、テストパターン22)の送信を要求するコマンドデータCMD(図中の「コマンドCMD2」)をカメラ3に送信する。また、CPU22は、カメラ3のCPU32からコマンドCMD2に対する応答信号ACK2を受信すると、FPGA26を制御してテストパターン22の送信の開始を指示するトリガ信号TRIG2をカメラ3のFPGA36に向けて送信させる。このようにして、CPU22及びFPGA26は、テストパターン21〜28に含まれるレンズ歪み補正の固有値をカメラ3から受信しRAM25に記憶してその後の処理に用いる。また、CPU22は、テストパターン21〜28までの画素データPIXDを受信すると、次の固有値(例えば、ガンマ補正)に対応するテストパターン29を要求し、同様の動作シーケンスに従って取得する。
When receiving the trigger signal TRIG1, the
以上、上記した本実施例によれば以下の効果を奏する。
<効果1>画像入力ボード4とカメラ3との通信ケーブル7を介した通信は、画像入力ボード4のCPU22とカメラ3のCPU32とが送受信するコマンドデータCMD(コマンドCMD1など)に比べてカメラ3から画像入力ボード4に向けて転送される画素データPIXDのデータ転送レートが高く設定されている。また、カメラ3が備える不揮発性メモリ35には、レンズ歪み補正などのカメラ3の機器固有の固有値のデータが画素値に設定されたテストパターンが記憶されている。CPU22は、装着装置10の起動にともなって必要な固有値に対応するテストパターンの送信を要求するコマンドCMD1をカメラ3に送信する(図4参照)。また、CPU22は、カメラ3からコマンドCMD1に対する応答信号ACK1を受信すると、FPGA26を制御してテストパターンの送信開始を指示するトリガ信号TRIG1をカメラ3のFPGA36に送信させる。FPGA36は、トリガ信号TRIG1を受信すると、要求されたテストパターンに対応する画素データPIXDを送信する。これにより、装着装置10は、固有値を含む画素データPIXDをデータ転送レートが高い高速な通信により転送することによって固有値の読み出しに係る処理時間が短縮され、起動時間の短縮を図ることが可能となる。
As described above, according to the above-described embodiment, the following effects can be obtained.
<Effect 1> Communication between the image input board 4 and the camera 3 via the
ここで、図5は、従来技術における固有値のデータの取得処理の動作シーケンスを示している。図5に示す従来例では、コマンドデータCMDを伝送する低速な通信(例えばRS232C規格に準拠した通信)により固有値の転送を処理している。一般的に、撮像用のパラメータの読み出し処理などに用いられるコマンドデータCMDを転送する通信は、データ量が大きい画素データPIXDを転送する通信に比べて1回の転送におけるデータ量(パケット長)が小さく設定されることが好ましい。また、コマンドデータCMDの通信は、コマンドデータCMD内にヘッダー等の制御情報が付加されることで画素データPIXDの通信に比べて1回の転送におけるデータ量がより小さくなる場合がある。そして、図5に示すように、コマンドデータCMDに適用される通信方式を用いて固有値を転送する処理では、データ量が小さいパケットを用いて1種類の固有値を複数回に分けて受信するとともに、受信するごとに次のデータを要求するコマンドデータCMD(図中のコマンドCMD1〜コマンドCMD4)を送信する応答確認を実行している。これに対し、図4に示すように、本実施例の画素データPIXDを用いて固有値を転送する通信では、カメラ3がトリガ信号TRIG1を受信すると、応答確認を行わずに1フレームの画素データPIXDを1ラインごとに連続して送信する。従って、本実施例の装着装置10では、固有値のデータを連続して伝送することが可能となるため、起動時間の短縮を図ることが可能となる。
Here, FIG. 5 shows an operation sequence of the acquisition process of eigenvalue data in the prior art. In the conventional example shown in FIG. 5, eigenvalue transfer is processed by low-speed communication (for example, communication conforming to the RS232C standard) for transmitting command data CMD. In general, communication for transferring command data CMD used for reading processing of imaging parameters has a data amount (packet length) in one transfer compared to communication for transferring pixel data PIXD having a large data amount. It is preferable to set a small value. In addition, in the communication of the command data CMD, the amount of data in one transfer may be smaller than the communication of the pixel data PIXD by adding control information such as a header in the command data CMD. Then, as shown in FIG. 5, in the process of transferring the eigenvalue using the communication method applied to the command data CMD, one type of eigenvalue is received in multiple times using a packet with a small amount of data, and A response confirmation for transmitting command data CMD (command CMD1 to command CMD4 in the figure) for requesting the next data every time it is received is executed. On the other hand, as shown in FIG. 4, in the communication in which the eigenvalue is transferred using the pixel data PIXD of the present embodiment, when the camera 3 receives the trigger signal TRIG1, the frame data of the pixel data PIXD is not performed without confirming the response. Are continuously transmitted for each line. Therefore, in the mounting
また、装着装置10は、起動時間の短縮だけでなく、カメラ3を交換した後に作業を開始するまでの時間が短縮できる。より具体的には、レンズ歪み補正などの固有値は、レンズ部40や撮像素子39の機器固有の特性である。本実施例の装着装置10が、例えば、電子部品を保持する装着ヘッドにカメラ3が設けられ、当該装着ヘッドが着脱可能な構成であるとする。この場合、装着装置10は、種類の異なる装着ヘッドに交換する際に交換後の装着ヘッドが備えるカメラ3の固有値を画像入力ボード4が読み出す必要がある。このため、装着装置10は、装着ヘッドの交換によりカメラ3が変更された場合にも画素データPIXDを用いた固有値の読み出しを実行することによって、交換後の作業開始までの時間が短縮される。
Further, the mounting
<効果2>カメラ3の不揮発性メモリ35には、テストパターンの番号とそれに対応する固有値のデータを含む画素データPIXDが記憶されている(図2参照)。画像入力ボード4のCPU22は、コマンドデータCMDによりテストパターンの番号を指定して固有値を取得する。このため、画像入力ボード4は、要求するテストパターンの番号のみを変更するだけで必要な固有値を読み出すことができ、固有値を読み出す処理内容が簡易化され、より起動時間の短縮化を図ることが可能となる。
<
<効果3>テストパターン29に対応する画素データPIXDは、1フレームの1ライン目の途中までの領域の画素値にルックアップテーブル(ガンマ補正の固有値)のすべてのデータが割り当てられている。カメラ3のFPGA36は、不揮発性メモリ35に保存されたテストパターン29の画素データPIXDの全画素を処理対象とするのではなく、固有値に対応する一部の画素について読み出す部分読みだし処理を行う。これにより、FPGA36は、固有値が設定された画素データPIXDのすべての画素値を転送することなく、必要なデータのみを転送することが可能となる。従って、装着装置10は、固有値を読み出す処理時間が短縮されるため、起動時間の短縮を図ることが可能となる。
<Effect 3> In the pixel data PIXD corresponding to the test pattern 29, all the data in the lookup table (eigenvalue of gamma correction) are assigned to the pixel values in the region up to the middle of the first line of one frame. The
なお、本発明は、上記実施例に限定されるものではなく、当業者の知識に基づいて種々の変更、改良を施した種々の態様で実施することが可能である。
例えば、通信ケーブル7に適用された通信規格(CameraLink規格)は一例であり、他のコマンドデータCMDに比べて画素データPIXDを高速に伝送する通信規格、例えばCoaXPress規格に準拠した通信規格に変更してもよい。また、本願における画像処理システムは、画素データPIXDとコマンドデータCMDとのデータ転送レートの実効速度が異なるシステムに適用できる。例えば、画像処理システムは、画素データPIXDとコマンドデータCMDとが同一のデータ転送レートで送受信される通信規格であっても、画素データPIXDとコマンドデータCMDとの各々の通信プロトコルが互いに違うシステムに適用できる。具体的には、画素データPIXDのデータ転送における送信側と受信側との応答確認の処理回数がコマンドデータCMDの処理回数に比べて少ない通信プロトコルを用いる画像処理システムに適用できる。この画像処理システムでは、応答確認の処理の簡易化を図ることで、同一のデータ量を伝送する場合でもデータ転送レートの実効速度が高くなる画素データPIXDを転送する通信により固有値を読み出す。これにより、固有値の読み出しに必要な時間が短縮される。
In addition, this invention is not limited to the said Example, It is possible to implement in the various aspect which gave various change and improvement based on the knowledge of those skilled in the art.
For example, the communication standard (CameraLink standard) applied to the
また、上記実施例において、固有値が設定されたテストパターンに誤り訂正検出又は誤り訂正符号を付加してもよい。図6は、例えば、上記実施例のテストパターン29(ガンマ補正の固有値)に誤り検出符号を付加した画素データPIXDを示している。図6に示す画素データPIXDには、ガンマ補正の固有値が設定された1ライン目の途中までの領域に連続した画素の画素値に誤り検出符号CRCが設定されている。例えば、画像入力ボード4のFPGA26は、転送されたガンマ補正の固有値(ルックアップテーブル)のデータに誤りを検出した場合には、CPU22にその旨を通知する。CPU22はカメラ3に対してテストパターンの再送を要求する処理を行う。このような構成では、画素データPIXDのデータ転送に適用される通信規格に誤り検出の手順がない場合にも、固有値が設定された個々の画素データPIXD内に誤り検出符号を付加することにより画像入力ボード4側で固有値の誤り検出が可能となる。なお、誤り検出符号CRCは、他の固有値に設定してもよい。また、誤りの検出に限らず受信側で誤りの訂正が可能な誤り訂正符号(FECなど)をルックアップテーブルに付与してもよい。
In the above embodiment, an error correction detection or error correction code may be added to the test pattern in which the eigenvalue is set. FIG. 6 shows, for example, pixel data PIXD in which an error detection code is added to the test pattern 29 (eigenvalue of gamma correction) of the above embodiment. In the pixel data PIXD shown in FIG. 6, the error detection code CRC is set to the pixel value of the pixels continuous in the region up to the middle of the first line where the gamma correction eigenvalue is set. For example, if the
また、不揮発性メモリ35は、固有値が予めテストパターンの画素データPIXDの画素値に設定された状態で記憶されていたが、例えば、固有値のみを記憶した構成でもよい。この場合、CPU32は、例えば固有値を指定するコマンドデータCMDを受信するごとに固有値を画素値に設定した画素データPIXDを生成しFPGA36に転送させる。これにより、不揮発性メモリ35の記憶領域が小さくでき、カメラ3の製造コストの低減を図ることが可能となる。
また、不揮発性メモリ35に保存される1フレームの画素データPIXDに複数の種類の固有値を設定してもよい。例えば、図6に示す画素データPIXDの2ライン目以降の画素値に、欠陥補正、ホワイトバランスの固有値を設定してもよい。
Further, the
A plurality of types of eigenvalues may be set in one frame of pixel data PIXD stored in the
また、画像入力ボード4とカメラ3とは、画素データPIXD及びコマンドデータCMDを1本の通信ケーブル7で送受信したが、それぞれのデータを異なる通信ケーブルで伝送する構成でもよい。
In addition, the image input board 4 and the camera 3 transmit and receive the pixel data PIXD and the command data CMD through one
また、上記実施例では電子部品を回路基板に実装する電子部品装着装置10について説明したが、本願はこれに限定されるものではなく、他の様々な製造ラインにおいて稼働する作業用ロボットなどに適用することができる。例えば、二次電池(太陽電池や燃料電池など)等の組立て作業を実施する作業用ロボットに適用してもよい。また、作業用ロボットは、スキージをマスクに沿って移動させ被印刷剤を印刷対象部材に印刷するスクリーン印刷装置を含む。また、作業用ロボットとは、実装や組立を行うものに限らず、他の作業例えば切削等を行う工作機械を含む。
Moreover, although the said Example demonstrated the electronic
なお、特許請求の範囲の用語との対応関係は以下の通りである。
電子部品装着装置10は、作業用ロボットの一例である。カメラ3は、撮像手段の一例である。FPGA26を備える画像入力ボード4は、補正手段の一例である。レンズ部40は、レンズを備える装置の一例である。コマンド通信部21,31がコマンドデータCMDを伝送するRS232C規格に準拠したシリアル通信は、低速伝送手段を構成する。FPGA26,36が画素データPIXDを伝送するCameraLink規格に準拠したシリアル通信は、高速伝送手段を構成する。不揮発性メモリ35に保存された固有値が画素値に設定された画素データPIXDは、画素データに対応するデータ形式に変換された固有値の一例である。FPGA26からのトリガ信号TRIG1,TRIG2に応じて固有値を含む画素データPIXDを送信するカメラ3のFPGA36は、固有値伝送手段の一例である。回路基板及び回路基板に実装される電子部品は、ワークの一例である。
The correspondence with the terms in the claims is as follows.
The electronic
10 電子部品装着装置、3 カメラ、4 画像入力ボード、35 不揮発性メモリ、CMD コマンドデータ、PIXD 画素データ、ACK1,ACK2 応答信号、TRIG1,TRIG2 トリガ信号。 10 Electronic component mounting device, 3 camera, 4 image input board, 35 nonvolatile memory, CMD command data, PIXD pixel data, ACK1, ACK2 response signal, TRIG1, TRIG2 trigger signal.
Claims (5)
前記レンズ又は前記撮像素子の少なくとも一方の機器固有の固有値に基づいて前記画素データを補正する補正手段と、
前記撮像手段の撮像用のパラメータの読み出し及び書き込みの通信を行う低速伝送手段と、
データ転送レートの実効速度が前記低速伝送手段に比べて速く、前記撮像手段から前記補正手段に向けて前記画素データが伝送される高速伝送手段と、
前記画素データに対応するデータ形式に変換された前記固有値を、前記撮像手段から前記補正手段に向けて前記高速伝送手段により伝送させる固有値伝送手段と、
を備えることを特徴とする画像処理システム。 Imaging means for imaging light from a workpiece onto an image sensor with a lens and obtaining pixel data photoelectrically converted by the image sensor;
Correction means for correcting the pixel data based on a characteristic value unique to at least one of the lens and the image sensor;
Low-speed transmission means for performing reading and writing communication of imaging parameters of the imaging means;
A high-speed transmission means in which an effective speed of a data transfer rate is faster than the low-speed transmission means, and the pixel data is transmitted from the imaging means to the correction means;
Eigenvalue transmission means for causing the high-speed transmission means to transmit the eigenvalue converted into a data format corresponding to the pixel data from the imaging means to the correction means;
An image processing system comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013214082A JP6199690B2 (en) | 2013-10-11 | 2013-10-11 | Image processing system and work robot |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013214082A JP6199690B2 (en) | 2013-10-11 | 2013-10-11 | Image processing system and work robot |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015076067A JP2015076067A (en) | 2015-04-20 |
JP6199690B2 true JP6199690B2 (en) | 2017-09-20 |
Family
ID=53000835
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013214082A Active JP6199690B2 (en) | 2013-10-11 | 2013-10-11 | Image processing system and work robot |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6199690B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6680542B2 (en) * | 2016-01-18 | 2020-04-15 | Juki株式会社 | Data processing device, mounting device, board inspection device, data processing method and program |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2894241B2 (en) * | 1995-04-21 | 1999-05-24 | 村田機械株式会社 | Image recognition device |
JP2006300890A (en) * | 2005-04-25 | 2006-11-02 | Toyota Motor Corp | Device and method for inspecting image processing |
US20100045802A1 (en) * | 2006-10-06 | 2010-02-25 | Mamoru Oda | Imaging device, image reproducing device, image printing device, imaging device control method, image correcting method for image reproducing device, and image correcting method for image printing device |
-
2013
- 2013-10-11 JP JP2013214082A patent/JP6199690B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015076067A (en) | 2015-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9426324B2 (en) | Photoelectric conversion element, image reading device, image forming apparatus, and image reading method | |
US8106976B2 (en) | Peripheral light amount correction apparatus, peripheral light amount correction method, electronic information device, control program and readable recording medium | |
EP2224726A2 (en) | Image processing apparatus, image processing method, and program | |
JP6046095B2 (en) | Calibration system, calibration method, image forming apparatus, and calibration program | |
KR101651620B1 (en) | Calibration method of display device using camera module and apparatus thereof | |
JP6199690B2 (en) | Image processing system and work robot | |
JP5822630B2 (en) | Camera device | |
US20170310840A1 (en) | Mobile terminal, information processing system, and control method | |
JP6199985B2 (en) | Electronic component mounting device extension device and electronic component mounting device | |
JP6334528B2 (en) | Imaging device and production equipment | |
WO2018025333A1 (en) | Head separation type camera and working machine | |
US10857808B2 (en) | Calibrating printing pens of print head assemblies | |
US20230050259A1 (en) | Solid-state imaging device, electronic apparatus, and imaging system | |
US10009515B2 (en) | Calibration system, calibration method, and image forming apparatus that ensure improved accuracy of correction of tone characteristics | |
JP4393225B2 (en) | Imaging device | |
JP5832222B2 (en) | Camera device | |
CN108632534B (en) | CIS camera and image processing method based on CIS camera | |
JP6539550B2 (en) | Multiplex communication system and image transmission method | |
CN114125316B (en) | Remote image processing method and system | |
US20130077867A1 (en) | Image processing apparatus, image processing method, and method of controlling image processing apparatus | |
JP6163946B2 (en) | Image processing device | |
JP7414733B2 (en) | Receiving device and transmitting device | |
US20080024832A1 (en) | Method for amending scanned images | |
JP2016019267A (en) | Image processing system, image processing method, and program | |
JP2010103937A (en) | Imaging device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160902 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170725 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170801 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170824 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6199690 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |