JP6199690B2 - Image processing system and work robot - Google Patents

Image processing system and work robot Download PDF

Info

Publication number
JP6199690B2
JP6199690B2 JP2013214082A JP2013214082A JP6199690B2 JP 6199690 B2 JP6199690 B2 JP 6199690B2 JP 2013214082 A JP2013214082 A JP 2013214082A JP 2013214082 A JP2013214082 A JP 2013214082A JP 6199690 B2 JP6199690 B2 JP 6199690B2
Authority
JP
Japan
Prior art keywords
data
eigenvalue
pixel data
pixd
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013214082A
Other languages
Japanese (ja)
Other versions
JP2015076067A (en
Inventor
伸夫 長坂
伸夫 長坂
泰章 今寺
泰章 今寺
重元 廣田
重元 廣田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Corp
Original Assignee
Fuji Machine Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Machine Manufacturing Co Ltd filed Critical Fuji Machine Manufacturing Co Ltd
Priority to JP2013214082A priority Critical patent/JP6199690B2/en
Publication of JP2015076067A publication Critical patent/JP2015076067A/en
Application granted granted Critical
Publication of JP6199690B2 publication Critical patent/JP6199690B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、撮像した画素データを対象とした通信を行う画像処理システム及びその画像処理システムにより取得した画素データに基づいて動作する作業用ロボットに関するものである。   The present invention relates to an image processing system that performs communication on captured pixel data and a working robot that operates based on pixel data acquired by the image processing system.

従来、作業用ロボット、例えば電子部品装着装置は、電子部品を実装する回路基板を撮像するための撮像装置を備えるものがある(例えば、特許文献1など)。電子部品装着装置は、例えば撮像装置が撮像した画素データが通信ケーブルを介して制御装置に伝送される。制御装置は、入力された画素データに対する画像処理を行って回路基板の保持位置の誤差等を検出し、検出結果に基づいて電子部品を保持する装着ヘッドの位置を調整し実装作業を行う。また、撮像装置と制御装置との間の通信は、例えば、LVDS(Low Voltage Differential Signaling)技術を用いたCameraLink規格に準拠した通信規格によりデータが伝送される。ここでいうCameraLink規格は、産業用デジタルカメラのデータ伝送方式を定めた通信規格の1つであり、コネクタやピンアサインの標準化を図り、画素データ等をシリアル通信で伝送する通信規格である。   2. Description of the Related Art Conventionally, there are work robots, for example, electronic component mounting apparatuses, which include an imaging device for imaging a circuit board on which electronic components are mounted (for example, Patent Document 1). In the electronic component mounting apparatus, for example, pixel data captured by the imaging apparatus is transmitted to the control apparatus via a communication cable. The control device performs image processing on the input pixel data, detects an error in the holding position of the circuit board, etc., adjusts the position of the mounting head that holds the electronic component based on the detection result, and performs the mounting operation. In communication between the imaging device and the control device, for example, data is transmitted according to a communication standard based on the CameraLink standard using LVDS (Low Voltage Differential Signaling) technology. The CameraLink standard here is one of the communication standards that define the data transmission system of industrial digital cameras, and is a communication standard that standardizes connectors and pin assignments and transmits pixel data and the like by serial communication.

また、上記した撮像装置は、同一規格の装置であっても製造工程における精度の限界などによりレンズや撮像素子(例えば、CMOS)の取り付け位置に誤差が生じてレンズ歪みなどの機器固有の特性が生じる。このため、撮像装置は、制御装置が画素データを補正する際に参照するデータとしてレンズ歪みなどの固有値がメモリ等に保存されている。制御装置は、作業用ロボットの起動時において撮像装置のメモリから固有値を読み出す処理を行う。また、固有値はレンズ歪みの他に様々なデータが設定される。例えば、撮像装置は、周囲の画素に比べて出力信号のレベルが過剰に高い撮像素子に係わる欠陥点の情報が固有値としてメモリに記憶されている場合がある。   In addition, even if the above-described imaging apparatus is an apparatus of the same standard, an error occurs in the mounting position of a lens or an imaging element (for example, CMOS) due to a limit of accuracy in the manufacturing process, and the device-specific characteristics such as lens distortion are present. Arise. For this reason, in the imaging apparatus, eigenvalues such as lens distortion are stored in a memory or the like as data referred to when the control apparatus corrects pixel data. The control device performs a process of reading the eigenvalue from the memory of the imaging device when the work robot is activated. In addition to lens distortion, various data are set as eigenvalues. For example, in an imaging apparatus, information on a defect point related to an imaging element in which the level of an output signal is excessively higher than that of surrounding pixels may be stored in a memory as an eigenvalue.

特開2012−89552号公報JP 2012-89552 A

また、上記したCameraLink規格などの通信規格に準拠した通信ケーブルでは、一般的に撮像装置の撮像条件を設定するパラメータなどのデータのデータ転送レートに比べて画素データのデータ転送レートが高く設定されている。そして、固有値は、この撮像条件のパラメータを伝送する低速な通信により読み出される。一方で、固有値、例えばレンズ歪みに係わるデータは、1画素ごとの補正データが設定されると、マークカメラが高解像度化により画素数が増大するとそれに比例してデータ量が大きくなる。また、制御装置は、作業用ロボットの起動時において複数の種類の固有値を読み出す必要がある。このため、作業用ロボットは、制御装置が固有値の読み出しを低速な通信により実施することで起動時間に遅延が生じることが問題となる。   Also, with communication cables compliant with the above-mentioned communication standards such as the CameraLink standard, the data transfer rate of pixel data is generally set higher than the data transfer rate of data such as parameters that set the imaging conditions of the imaging device. Yes. The eigenvalue is read out by low-speed communication that transmits the parameters of the imaging condition. On the other hand, when the correction data for each pixel is set for eigenvalues such as lens distortion data, the amount of data increases in proportion to the increase in the number of pixels of the mark camera due to higher resolution. In addition, the control device needs to read a plurality of types of eigenvalues when the work robot is activated. For this reason, the work robot has a problem in that the start-up time is delayed due to the control device reading out the eigenvalue by low-speed communication.

本発明は、上記した課題を鑑みてなされたものであり、起動時間の短縮を図ることができる画像処理システム及び作業用ロボットを提供することを目的とする。   The present invention has been made in view of the above-described problems, and an object thereof is to provide an image processing system and a working robot that can shorten the activation time.

本願に開示される技術に係る画像処理システムは、ワークからの光をレンズにより撮像素子に結像させ撮像素子が光電変換した画素データを取得する撮像手段と、レンズ又は撮像素子の少なくとも一方の機器固有の固有値に基づいて画素データを補正する補正手段と、撮像手段の撮像用のパラメータの読み出し及び書き込みの通信を行う低速伝送手段と、データ転送レートの実効速度が低速伝送手段に比べて速く、撮像手段から補正手段に向けて画素データが伝送される高速伝送手段と、画素データに対応するデータ形式に変換された固有値を、撮像手段から補正手段に向けて高速伝送手段により伝送させる固有値伝送手段と、を備える。   An image processing system according to a technique disclosed in the present application includes an imaging unit that obtains pixel data obtained by photoelectrically converting light from a workpiece onto an imaging element using a lens, and at least one device of the lens or the imaging element A correction unit that corrects pixel data based on a unique eigenvalue, a low-speed transmission unit that performs reading and writing communication of imaging parameters of the imaging unit, and an effective data transfer rate is faster than a low-speed transmission unit, High-speed transmission means for transmitting pixel data from the image pickup means to the correction means, and eigenvalue transmission means for transmitting the eigenvalue converted into a data format corresponding to the pixel data from the image pickup means to the correction means by the high-speed transmission means. And comprising.

また、本願に開示される技術に係る作業用ロボットは、画像処理システムの撮像手段により取得されたワークの画素データに基づいて動作する。この画像処理システムは、ワークからの光をレンズにより撮像素子に結像させ撮像素子が光電変換した画素データを取得する撮像手段と、レンズ又は撮像素子の少なくとも一方の機器固有の固有値に基づいて画素データを補正する補正手段と、撮像手段の撮像用のパラメータの読み出し及び書き込みの通信を行う低速伝送手段と、データ転送レートの実効速度が低速伝送手段に比べて速く、撮像手段から補正手段に向けて画素データが伝送される高速伝送手段と、画素データに対応するデータ形式に変換された固有値を、撮像手段から補正手段に向けて高速伝送手段により伝送させる固有値伝送手段と、を備える。   In addition, the work robot according to the technique disclosed in the present application operates based on pixel data of a work acquired by the imaging unit of the image processing system. The image processing system includes an imaging unit that obtains pixel data in which light from a workpiece is imaged on an imaging element by a lens and photoelectrically converted by the imaging element, and a pixel based on a unique value unique to at least one of the lens and the imaging element. A correction means for correcting data, a low-speed transmission means for reading and writing parameters for imaging of the imaging means, and an effective data transfer rate is faster than that of the low-speed transmission means. High-speed transmission means for transmitting the pixel data, and eigenvalue transmission means for transmitting the eigenvalue converted into the data format corresponding to the pixel data from the imaging means to the correction means by the high-speed transmission means.

本願に開示される技術によれば、起動時間の短縮を図ることができる画像処理システム及び作業用ロボットが提供できる。   According to the technique disclosed in the present application, it is possible to provide an image processing system and a working robot that can shorten the activation time.

本実施例の装着装置に適用される画像処理システムを説明するための模式図。The schematic diagram for demonstrating the image processing system applied to the mounting apparatus of a present Example. カメラが備える不揮発性メモリに記憶されたデータであり、テストパターンとそれに対応するデータの対応関係を示す図。The figure which is the data memorize | stored in the non-volatile memory with which a camera is provided, and shows the correspondence of a test pattern and the data corresponding to it. カメラが画像入力ボードに転送する1フレームの画素データを示す図。The figure which shows the pixel data of 1 frame which a camera transfers to an image input board. 画像入力ボードがカメラからテストパターンを取得する処理の動作シーケンスを示す図。The figure which shows the operation | movement sequence of the process in which an image input board acquires a test pattern from a camera. 従来の画像入力ボードがカメラからテストパターンを取得する処理の動作シーケンスを示す図。The figure which shows the operation | movement sequence of the process in which the conventional image input board acquires a test pattern from a camera. 別例のカメラが画像入力ボードに転送する1フレームの画素データを示す図。The figure which shows the pixel data of 1 frame which the camera of another example transfers to an image input board.

以下、本発明の実施例について図を参照して説明する。初めに、本願の画像処理システムを適用する作業用ロボットの一例として電子部品装着装置(以下、「装着装置」と略する場合がある)について説明する。実施例では、装着装置の制御装置が備える画像処理ボードとカメラ(撮像装置)との間におけるデータ伝送に本願の画像処理システムが適用された構成を例示する。   Embodiments of the present invention will be described below with reference to the drawings. First, an electronic component mounting apparatus (hereinafter sometimes abbreviated as “mounting apparatus”) will be described as an example of a working robot to which the image processing system of the present application is applied. In the embodiment, a configuration in which the image processing system of the present application is applied to data transmission between an image processing board and a camera (imaging device) included in the control device of the mounting device is illustrated.

(装着装置10の構成)
図1の装着装置10は、例えば、集積回路の生産ラインにおいて、回路基板に複数の電子部品を実装する電子部品装着装置である。回路基板は、生産ラインのクリームハンダ印刷機により電子部品の装着位置にハンダを塗布され、複数の装着装置10を順に搬送されて電子部品を装着される。その後に、電子部品を装着された回路基板は、リフロー炉に搬送されてハンダ付けされることにより集積回路を構成する。また、カメラ3は、例えば、電子部品や回路基板を撮像するために装着装置10に組み込まれているFA用の撮像装置である。なお、図1は装着装置10の一部を示している。
(Configuration of mounting device 10)
The mounting device 10 in FIG. 1 is an electronic component mounting device that mounts a plurality of electronic components on a circuit board in an integrated circuit production line, for example. The circuit board is applied with solder at the mounting position of the electronic component by a cream solder printing machine on the production line, and is sequentially transported through the plurality of mounting devices 10 to mount the electronic component. Thereafter, the circuit board on which the electronic components are mounted is transferred to a reflow furnace and soldered to constitute an integrated circuit. The camera 3 is, for example, an FA imaging device incorporated in the mounting device 10 for imaging an electronic component or a circuit board. FIG. 1 shows a part of the mounting device 10.

図1に示すように、装着装置10は、画像処理ボード2と、画像処理ボード2に接続された画像入力ボード4と、画像入力ボード4と通信可能に接続されたカメラ3とを備えて構成されている。画像処理ボード2は、カメラ3が撮像した画素データPIXDを処理するCPU11と、CPU11の画像処理における処理データを保存するためのRAM(Random Access Memory)12とを備えている。画像入力ボード4は、例えば、画像処理ボード2の拡張スロットに接続され、内部バス5を介して画像処理ボード2に接続されている。画像入力ボード4は、コマンド通信部21と、CPU22と、RAM25と、FPGA(Field Programmable Gate Array)26とを備えている。一方、カメラ3は、コマンド通信部31と、CPU32と、不揮発性メモリ35と、FPGA36と、撮像素子39と、レンズ部40とを備える。画像入力ボード4は、カメラ3と通信ケーブル7を介して通信可能に接続され各種信号の送受信を行う。画像入力ボード4のFPGA26及びカメラ3のFPGA36は、通信ケーブル7を通じて例えばCameraLink規格に準拠した通信を行う。ここでいうCameraLink規格とは、LVDS(Low Voltage Differential Signaling:小振幅の差動伝送方式)によって画素データを対象としてデータを送信するシリアル通信の通信規格である。通信ケーブル7は、例えば仕様がベース・コンフィグレーションのCameraLink規格に準拠しており、画素データPIXD、コマンドデータCMD、制御信号(トリガ信号TRIGなど)を転送する3種類の信号線7A〜7Cが1本の通信ケーブル7内に設けられている。   As shown in FIG. 1, the mounting apparatus 10 includes an image processing board 2, an image input board 4 connected to the image processing board 2, and a camera 3 connected to the image input board 4 so as to be communicable. Has been. The image processing board 2 includes a CPU 11 that processes pixel data PIXD captured by the camera 3 and a RAM (Random Access Memory) 12 that stores processing data in the image processing of the CPU 11. The image input board 4 is connected to, for example, an expansion slot of the image processing board 2 and is connected to the image processing board 2 via the internal bus 5. The image input board 4 includes a command communication unit 21, a CPU 22, a RAM 25, and an FPGA (Field Programmable Gate Array) 26. On the other hand, the camera 3 includes a command communication unit 31, a CPU 32, a nonvolatile memory 35, an FPGA 36, an image sensor 39, and a lens unit 40. The image input board 4 is communicably connected to the camera 3 via a communication cable 7 and transmits and receives various signals. The FPGA 26 of the image input board 4 and the FPGA 36 of the camera 3 perform communication based on, for example, the CameraLink standard through the communication cable 7. The CameraLink standard here is a serial communication standard for transmitting data for pixel data by LVDS (Low Voltage Differential Signaling). The communication cable 7 conforms to the CameraLink standard whose specification is base configuration, for example, and includes three types of signal lines 7A to 7C for transferring pixel data PIXD, command data CMD, and control signals (trigger signal TRIG, etc.). It is provided in the communication cable 7 of the book.

画像入力ボード4が備えるコマンド通信部21は、カメラ3のコマンド通信部31と通信ケーブル7の信号線7Aを介した低速なシリアル通信(例えばRS232C規格に準拠した通信)を行う。コマンド通信部21は、画像処理ボード2の制御に基づいてCPU22が処理したコマンドデータCMDが入力され、入力されたコマンドデータCMDをカメラ3のコマンド通信部31に送信する。コマンド通信部31は、受信したコマンドデータCMDをCPU32に転送する。例えば、CPU22は、CPU32に対しカメラ3が備えるメモリなどに記憶された撮像用のパラメータ(撮像素子39の出力ゲインの設定値など)の読み出し及び変更した設定値のメモリへの書き込みを指示するコマンドデータCMDを送信する。また、CPU32は、メモリに記憶された設定値に応じて撮像素子39の出力ゲインを変更する制御を行う。あるいは、CPU22は、CPU32に対しカメラ3が備える照明装置(図示略)の起動又は停止を指示するコマンドデータCMDを送信し撮像条件を変更する。   The command communication unit 21 included in the image input board 4 performs low-speed serial communication (for example, communication based on the RS232C standard) via the command communication unit 31 of the camera 3 and the signal line 7A of the communication cable 7. The command communication unit 21 receives the command data CMD processed by the CPU 22 based on the control of the image processing board 2, and transmits the input command data CMD to the command communication unit 31 of the camera 3. The command communication unit 31 transfers the received command data CMD to the CPU 32. For example, the CPU 22 instructs the CPU 32 to read out the imaging parameters (such as the output gain setting value of the image sensor 39) stored in the memory of the camera 3 and to write the changed setting value into the memory. Data CMD is transmitted. Further, the CPU 32 performs control to change the output gain of the image sensor 39 in accordance with the set value stored in the memory. Or CPU22 transmits the command data CMD which instruct | indicates starting or a stop of the illuminating device (not shown) with which the camera 3 is provided with respect to CPU32, and changes imaging conditions.

カメラ3のレンズ部40は、レンズやレンズ保持部材などにより構成され、被写体であるワーク(回路基板や電子部品など)からの光を撮像素子39に結像する。撮像素子39は、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサである。撮像素子39は、レンズ部40により撮像面に結像された光を光電変換しアナログの撮像信号として出力する。撮像素子39が出力した撮像信号は、A/D変換回路(図示略)にてデジタル信号の画素データPIXDに変換されFPGA36に出力される。FPGA36は、プログラム可能なロジックデバイスである。FPGA36は、画像入力ボード4のFPGA26からの信号線7Bを介したトリガ信号TRIGに応じてA/D変換回路から取得した画素データPIXDに対しゲイン調整等の前処理を施し、通信ケーブル7の信号線7Cを介した高速な通信で処理結果の画素データPIXDをFPGA26に転送する。   The lens unit 40 of the camera 3 is configured by a lens, a lens holding member, and the like, and forms an image of light from a work (circuit board, electronic component, etc.) that is a subject on the image sensor 39. The image sensor 39 is an image sensor such as a CCD (Charge Coupled Device) or a CMOS (Complementary Metal Oxide Semiconductor). The imaging element 39 photoelectrically converts the light imaged on the imaging surface by the lens unit 40 and outputs it as an analog imaging signal. The image signal output from the image sensor 39 is converted to pixel data PIXD of a digital signal by an A / D conversion circuit (not shown) and output to the FPGA 36. The FPGA 36 is a programmable logic device. The FPGA 36 performs preprocessing such as gain adjustment on the pixel data PIXD acquired from the A / D conversion circuit in accordance with the trigger signal TRIG from the FPGA 26 of the image input board 4 via the signal line 7B, and the signal of the communication cable 7 The pixel data PIXD as a processing result is transferred to the FPGA 26 by high-speed communication via the line 7C.

(固有値について)
不揮発性メモリ35は、例えばフラッシュメモリやROMであり、CPU32が撮像素子39及びレンズ部40を制御するためのドライバなどのプログラムの他に、画像入力ボード4のFPGA26が画素データPIXDの補正処理を行う際に参照するデータとして固有値が保存されている。ここでいう固有値とは、レンズ歪み補正、欠陥補正、ガンマ補正及びホワイトバランスなどのレンズ部40や撮像素子39の機器固有の特性を示すデータである。なお、レンズ歪み補正の固有値とは、レンズ部40のレンズや撮像素子39の取り付け位置の誤差などによって被写体(ワーク)が歪んで写った画素データPIXDを補正するデータである。また、欠陥補正の固有値とは、例えば、撮像素子39が有する複数の素子(CMOS)のうち、明るさに反応せずに正常な画素値を出力しない画素(素子)に係わるデータなどである。ガンマ補正については後述する。
(About eigenvalues)
The nonvolatile memory 35 is, for example, a flash memory or a ROM. In addition to a program such as a driver for the CPU 32 to control the image sensor 39 and the lens unit 40, the FPGA 26 of the image input board 4 performs a correction process on the pixel data PIXD. A unique value is stored as data to be referred to when performing. The eigenvalue here is data indicating device-specific characteristics of the lens unit 40 and the image sensor 39, such as lens distortion correction, defect correction, gamma correction, and white balance. The characteristic value for lens distortion correction is data for correcting pixel data PIXD in which a subject (work) is distorted due to an error in the attachment position of the lens of the lens unit 40 or the image sensor 39 or the like. Further, the eigenvalue for defect correction is, for example, data related to a pixel (element) that does not react to brightness and does not output a normal pixel value among a plurality of elements (CMOS) included in the image sensor 39. The gamma correction will be described later.

画像入力ボード4のCPU22は、装着装置10の起動時においてカメラ3に上記した複数の種類の固有値の送信を要求しRAM25に保存する処理を行う。FPGA26は、例えばカメラ3から取得した画素データPIXDに対しレンズ歪み補正やガンマ補正などの補正処理を行い、内部バス5を介して処理結果を画像処理ボード2に転送する。画像処理ボード2のCPU11は、FPGA26から転送された画素データPIXDに対し各種の画像処理を実行する。この画像処理は、例えば、画素データPIXDの二値化、フィルタリング、色相抽出などの加工処理と、加工処理された画素データPIXDから特定の形状やマークに基づいて被写体の有無や位置情報などを認識する認識処理が含まれる。   The CPU 22 of the image input board 4 performs a process of requesting the camera 3 to transmit the above-described plurality of types of eigenvalues when the mounting apparatus 10 is activated and storing it in the RAM 25. The FPGA 26 performs correction processing such as lens distortion correction and gamma correction on the pixel data PIXD acquired from the camera 3, for example, and transfers the processing result to the image processing board 2 via the internal bus 5. The CPU 11 of the image processing board 2 executes various image processes on the pixel data PIXD transferred from the FPGA 26. In this image processing, for example, processing such as binarization of pixel data PIXD, filtering, and hue extraction, and the presence / absence of a subject and position information are recognized based on a specific shape and mark from the processed pixel data PIXD. Recognition processing is included.

ここで、上記したCameraLink規格などの通信規格に準拠した通信ケーブル7では、一般的にコマンドデータCMDに比べてデータ量が大きい画素データPIXDのデータ転送レートが高く設定されている。コマンドデータCMDは、例えば、RS232C規格に準拠したシリアル通信により数百kbpsのデータ転送レートで送受信される。また、画素データPIXDは、例えば、LVDS技術を用いたCameraLink規格に準拠したシリアル通信により数Gbpsのデータ転送レートで転送される。例えば、画素データPIXDは、TAP数(同時に転送可能なデータ線の本数)が3TAP、出力周波数が85MHzの場合2Gbpsのデータ転送レートで転送される。一方で、例えば、レンズ歪み補正の固有値は、1画素ごとの補正データが必要となるため、カメラ3が高解像度化により画素数が増大するとそれに比例してデータ量が大きくなる。従来の装着装置10では、カメラ3の不揮発性メモリ35に保存された複数の固有値を、コマンドデータCMDを転送する低速なデータ通信により読み出す処理を行っており起動時間に遅延が生じる虞がある。そこで、本実施例の装着装置10は、固有値を画素データPIXDに含めて高速なデータ通信により伝送することで起動時間の短縮化が図られている。   Here, in the communication cable 7 compliant with the above-described communication standard such as the CameraLink standard, the data transfer rate of the pixel data PIXD having a large data amount is generally set higher than the command data CMD. The command data CMD is transmitted / received at a data transfer rate of several hundred kbps by serial communication conforming to the RS232C standard, for example. Further, the pixel data PIXD is transferred at a data transfer rate of several Gbps by serial communication based on the CameraLink standard using the LVDS technology, for example. For example, the pixel data PIXD is transferred at a data transfer rate of 2 Gbps when the number of TAPs (the number of data lines that can be transferred simultaneously) is 3 TAP and the output frequency is 85 MHz. On the other hand, for example, the correction value for each pixel is necessary for the eigenvalue of lens distortion correction. Therefore, when the number of pixels of the camera 3 is increased due to higher resolution, the amount of data increases proportionally. In the conventional mounting apparatus 10, a process of reading a plurality of eigenvalues stored in the nonvolatile memory 35 of the camera 3 by low-speed data communication for transferring the command data CMD is likely to cause a delay in the startup time. Therefore, the mounting apparatus 10 of the present embodiment shortens the startup time by including the eigenvalue in the pixel data PIXD and transmitting it by high-speed data communication.

詳述すると、カメラ3の不揮発性メモリ35には、上記した固有値のデータを含むテストパターンが記憶されている。図2は不揮発性メモリ35に記憶されたテストパターンとそれに対応するデータを示したテーブルTBの一例を示している。テーブルTBは、各テストパターンの番号に対応したデータが設定されている。例えば、テーブルTBは、1番から20番までが通常の撮像素子39の試験に用いられるデータが記憶されている。テストパターン1は、撮像素子39が有するレジスタの値を変更するテストパターンが設定されている。カメラ3のCPU32は、画像入力ボード4のCPU22からのコマンドデータCMDに応じて不揮発性メモリ35のテーブルTBを検索しテストパターン1に対応するレジスト値を読み出す。CPU32は、読み出したレジスト値を撮像素子39に出力し、撮像素子39の出力信号を実画像からテストパターン1に応じた信号に切り替える。撮像素子39が出力したテストパターン1に対応する画素データPIXDは、FPGA36から画像入力ボード4のFPGA26を介して画像処理ボード2のCPU11へ転送される。CPU11は、受信したテストパターン1の画素データPIXDに基づいて画像の上下の向きや画像位置のずれを検出及び補正する。   More specifically, a test pattern including the above-described eigenvalue data is stored in the nonvolatile memory 35 of the camera 3. FIG. 2 shows an example of a table TB showing test patterns stored in the nonvolatile memory 35 and data corresponding thereto. In the table TB, data corresponding to the number of each test pattern is set. For example, in the table TB, No. 1 to No. 20 store data used for the normal test of the image sensor 39. The test pattern 1 is set with a test pattern for changing a register value of the image sensor 39. The CPU 32 of the camera 3 searches the table TB of the nonvolatile memory 35 in accordance with the command data CMD from the CPU 22 of the image input board 4 and reads the registration value corresponding to the test pattern 1. The CPU 32 outputs the read registration value to the image sensor 39 and switches the output signal of the image sensor 39 from the actual image to a signal corresponding to the test pattern 1. Pixel data PIXD corresponding to the test pattern 1 output from the image sensor 39 is transferred from the FPGA 36 to the CPU 11 of the image processing board 2 through the FPGA 26 of the image input board 4. Based on the received pixel data PIXD of the test pattern 1, the CPU 11 detects and corrects the vertical direction of the image and the image position shift.

また、テーブルTBは、21番目以降のテストパターンに固有値が対応付けられている。テストパターン21〜28は、レンズ歪み補正の固有値が設定されている。図3は、カメラ3から画像入力ボード4へ通信ケーブル7を介して伝送される1フレームの画素データPIXDの一例を示しており、図示例ではレンズ歪み補正の固有値が設定されたテストパターンの場合を示している。画素データPIXDは、1フレームに縦1024、横1024の格子状の画素が配置された画素データである。画素データPIXDは、1画素が例えば8ビットのデータを有する。例えば、FPGA36は、FPGA26からのトリガ信号TRIGに応じて1フレームの画素データPIXDを1ラインごとに画像入力ボード4へ転送する。   In the table TB, eigenvalues are associated with the 21st and subsequent test patterns. In the test patterns 21 to 28, eigenvalues for lens distortion correction are set. FIG. 3 shows an example of one frame of pixel data PIXD transmitted from the camera 3 to the image input board 4 via the communication cable 7. In the illustrated example, a test pattern in which an eigenvalue for lens distortion correction is set. Is shown. The pixel data PIXD is pixel data in which 1024 vertical and 1024 horizontal pixels are arranged in one frame. In the pixel data PIXD, one pixel has, for example, 8-bit data. For example, the FPGA 36 transfers one frame of pixel data PIXD to the image input board 4 line by line in response to the trigger signal TRIG from the FPGA 26.

レンズ歪み補正の固有値のデータは、例えば画素データPIXDの上下方向と左右方向との各々の方向に沿った位置を補正するために64ビット(32ビット×2方向)が1画素あたりに必要となる。この場合、固有値のデータ量は次式の値となる。
固有値のデータ量=64ビット×1024×1024=67108864ビット
例えば、コマンドデータCMDのデータ転送レートの実効値を115200bpsとすると、固有値のデータ転送に必要な時間が約582秒(=67108864/115200)となる。一方、画素データPIXDのデータ転送レートの実効値を2040000000bpsとすると、固有値のデータ転送に必要な時間が約0.03秒(=67108864/2040000000)となる。従って、データ転送レートのみを単純に比較すると固有値を画素データPIXDに含めてデータ転送すれば、転送時間が約10分程度短縮できる。なお、画素データPIXDの1画素は8ビットであるため1画素あたり64ビットの補正データが必要なレンズ歪み補正の固有値を転送するには、画像入力ボード4とカメラ3とは複数のフレーム(例えば、8個(=64ビット/8ビット)のフレーム)の画素データPIXDを転送する必要がある。このため、図2に示すテーブルTBには、1種類のレンズ歪み補正の固有値が8個のテストパターン21〜28に分割して設定されている。画像入力ボード4は、カメラ3に対し指定するテストパターンの番号を変更しながら8個のテストパターン21〜28を転送させレンズ歪み補正の固有値を受信する。
The lens distortion correction eigenvalue data requires, for example, 64 bits (32 bits × 2 directions) per pixel in order to correct the position along the vertical and horizontal directions of the pixel data PIXD. . In this case, the data amount of the eigenvalue is a value of the following equation.
Eigenvalue data amount = 64 bits × 1024 × 1024 = 67108864 bits For example, if the effective value of the data transfer rate of the command data CMD is 115200 bps, the time required for data transfer of the eigenvalue is about 582 seconds (= 67108864/115200). Become. On the other hand, when the effective value of the data transfer rate of the pixel data PIXD is 2040000000 bps, the time required for data transfer of the eigenvalue is about 0.03 seconds (= 67108864/2040000000). Accordingly, when only the data transfer rate is compared, if the eigenvalue is included in the pixel data PIXD and the data transfer is performed, the transfer time can be reduced by about 10 minutes. In addition, since one pixel of the pixel data PIXD is 8 bits, the image input board 4 and the camera 3 have a plurality of frames (for example, for transferring lens distortion correction eigenvalues that require 64 bits of correction data per pixel). , 8 (= 64 bits / 8 bits) pixel data PIXD must be transferred. For this reason, in the table TB shown in FIG. 2, one type of eigenvalue for lens distortion correction is divided into eight test patterns 21 to 28. The image input board 4 transfers the eight test patterns 21 to 28 while changing the number of the test pattern designated for the camera 3 and receives the eigenvalue of the lens distortion correction.

また、図2に示すテーブルTBは、テストパターン29にガンマ補正の固有値が対応付けられている。ガンマ補正の固有値のデータ量は、レンズ歪み補正のデータ量に比べて少ない。画像入力ボード4のFPGA26は、例えば画像処理ボード2のCPU11における画像処理(回路基板のエッジ検出処理など)の前処理として画素データPIXDの画素値を変換するガンマ補正を実施する。テーブルTBのテストパターン29には、入力の画素値に対し変換した出力の画素値を対応付けた変換データ(ルックアップテーブル)が設定されている。このルックアップテーブルは画素値のビット幅(階調)を変換する値が設定されている。FPGA26は、例えば、カメラ3から取得したルックアップテーブルを用いて画素データPIXDの各画素値を8ビットから所定のビット(例えば、6ビット)に変換しビット圧縮を図る。なお、テーブルTBは、複数のテストパターンのそれぞれに対応付けて、変換後のビット幅が異なる複数のルックアップテーブルが設定された構成でもよい。   In the table TB shown in FIG. 2, the eigenvalues for gamma correction are associated with the test pattern 29. The data amount of eigenvalues for gamma correction is smaller than the data amount for lens distortion correction. The FPGA 26 of the image input board 4 performs gamma correction for converting the pixel value of the pixel data PIXD as preprocessing of image processing (such as edge detection processing of the circuit board) in the CPU 11 of the image processing board 2, for example. In the test pattern 29 of the table TB, conversion data (look-up table) in which an output pixel value converted to an input pixel value is associated is set. In this lookup table, a value for converting the bit width (gradation) of the pixel value is set. For example, the FPGA 26 converts each pixel value of the pixel data PIXD from 8 bits to a predetermined bit (for example, 6 bits) using a look-up table acquired from the camera 3 and performs bit compression. The table TB may have a configuration in which a plurality of lookup tables having different bit widths after conversion are set in association with each of a plurality of test patterns.

固有値であるルックアップテーブルのデータは、例えば8ビットで表現可能な値(256階調)の各々に対応する変換後の6ビット(64階調)のデータが必要となる。この場合、固有値のデータ量は次式の値となる。
固有値のデータ量=256×6ビット=1536ビット
この場合、テストパターン29に対応する画素データPIXDは、1ライン目の途中までの領域の画素値にルックアップテーブルのすべてのデータを割り当てることが可能となる。このため、カメラ3のFPGA36は、例えば、テストパターン29の画素データPIXDの全画素を処理対象とするのではなく、固有値に対応する一部の画素について読み出す部分読みだし処理を行う。ここでいう、部分読みだし処理とは、例えば、ROI(Region Of Interest)読み出しなどと呼ばれるもので、画素データの処理対象の領域を限定して処理するものである。FPGA36は、テストパターン29が要求された場合に、例えば、不揮発性メモリ35からルックアップテーブルを含む画素データPIXDを読み出す際に、1ライン分を読み出した時点で画素データPIXDの読み出しを終了し、1ライン分のデータのみを画像入力ボード4へ転送する。これにより、FPGA36は、ルックアップテーブルをより高速に画像入力ボード4へ転送することが可能となる。
As the data of the lookup table, which is an eigenvalue, for example, 6-bit (64 gradation) data after conversion corresponding to each value (256 gradations) that can be expressed in 8 bits is required. In this case, the data amount of the eigenvalue is a value of the following equation.
Eigenvalue data amount = 256 × 6 bits = 1536 bits In this case, the pixel data PIXD corresponding to the test pattern 29 can assign all the data in the lookup table to the pixel values in the region up to the middle of the first line. It becomes. For this reason, for example, the FPGA 36 of the camera 3 does not target all the pixels of the pixel data PIXD of the test pattern 29 but performs a partial reading process for reading out some pixels corresponding to the eigenvalues. The partial reading process referred to here is, for example, called ROI (Region Of Interest) reading, and is performed by limiting the area to be processed of pixel data. When the test pattern 29 is requested, for example, when reading the pixel data PIXD including the lookup table from the nonvolatile memory 35, the FPGA 36 ends the reading of the pixel data PIXD at the time of reading one line. Only the data for one line is transferred to the image input board 4. Thereby, the FPGA 36 can transfer the lookup table to the image input board 4 at a higher speed.

なお、テーブルTBの30番以降のテストパターンには、上記した固有値と同様に、画素値に固有値(欠陥補正やホワイトバランスなど)が設定された画素データPIXDが設定されている。例えば、欠陥補正の固有値は、撮像素子39が有する複数の素子(例えば、CMOS)のうち、明るさに反応せずに正常な画素値を出力しない画素や所定のゲインの値を超えると正常な画素値を出力しない画素の情報が設定されている。欠陥補正の固有値が設定された画素データPIXDの各画素には、例えば8ビットで表現される値に欠陥点の情報が対応付けて設定されている。例えば、欠陥点の情報は、8ビットのビット値が「0」であれば正常な画素値が出力されない画素を、ビット値が「1」であればレベル1以上のゲインの値を超えると正常な画素値が出力されない画素を、ビット値が「2」であればレベル2以上のゲインの値を超えると正常な画素値が出力されない画素を、ビット値が「3」であればレベル3以上・・・、のように正常な画素値が出力可能なゲインの値に応じたビット値が設定される。   Note that, in the test patterns after the 30th in the table TB, pixel data PIXD in which a unique value (defect correction, white balance, etc.) is set as the pixel value is set similarly to the above-described unique value. For example, the eigenvalue for defect correction is normal when a pixel that does not respond to brightness and does not output a normal pixel value or exceeds a predetermined gain value among a plurality of elements (for example, CMOS) of the image sensor 39. Information on pixels that do not output pixel values is set. For each pixel of the pixel data PIXD in which a unique value for defect correction is set, defect point information is set in association with a value expressed by, for example, 8 bits. For example, the defect point information is normal when the 8-bit bit value is “0” and a normal pixel value is not output, and when the bit value is “1”, it is normal when the gain value exceeds level 1 If a bit value is “2” for a pixel that does not output a correct pixel value, a pixel that does not output a normal pixel value when a gain value of level 2 or higher is exceeded, or a level of 3 or higher if a bit value is “3” A bit value corresponding to a gain value that can output a normal pixel value is set.

次に、画像入力ボード4の固有値に係わるテストパターンの取得処理を説明する。図4は、画像入力ボード4がカメラ3にテストパターンを要求し固有値を取得する処理の動作シーケンスを示している。なお、図4の実線で示す矢印は、例えばコマンドデータCMDを転送するRS232Cに準拠したシリアル通信を示している(図1の信号線7A参照)。また、一点鎖線で示す矢印は、例えばCameraLink規格で規定された4種類のカメラ制御信号(CC1,CC2,CC3,CC4)のうち、1つ(例えばCC1)によりトリガ信号TRIGを転送する通信を示している(図1の信号線7B参照)。また、破線で示す矢印は、例えば画素データPIXDを転送するベース・コンフィグレーションのCameraLink規格に準拠した通信を示している(図1の信号線7C参照)。まず、画像入力ボード4のCPU22は、装着装置10の起動にともなって固有値に対応するテストパターンの送信を要求するコマンドデータCMD(図中の「コマンドCMD1」)をコマンド通信部21からカメラ3のコマンド通信部31へ送信する。CPU22は、例えば、画像入力ボード4が備える不揮発性メモリ(図示略)に記憶された制御プログラムに従って起動時に画像処理に必要となる固有値を順番に要求する。コマンドCMD1は、例えば、レンズ歪み補正の固有値のテストパターン21を要求するコマンドデータCMDである。カメラ3のCPU32は、コマンド通信部31からコマンドCMD1を入力すると、コマンドCMD1を受信したことを示す応答信号ACK1をコマンド通信部31から画像入力ボード4のコマンド通信部21へ送信する。この応答信号ACK1は、カメラ3から画像入力ボード4に向けたコマンドデータCMDである。CPU22は、コマンド通信部21からの応答信号ACK1が入力されると、FPGA26を制御してテストパターン21の送信の開始を指示するトリガ信号TRIG1をカメラ3のFPGA36に向けて送信させる。   Next, a test pattern acquisition process related to the eigenvalues of the image input board 4 will be described. FIG. 4 shows an operation sequence of processing in which the image input board 4 requests a test pattern from the camera 3 and acquires a unique value. In addition, the arrow shown with the continuous line of FIG. 4 has shown serial communication based on RS232C which transfers command data CMD, for example (refer signal line 7A of FIG. 1). Moreover, the arrow shown with a dashed-dotted line shows the communication which transfers trigger signal TRIG by one (for example, CC1) among four types of camera control signals (CC1, CC2, CC3, CC4) prescribed | regulated by CameraLink standard, for example. (See signal line 7B in FIG. 1). Moreover, the arrow shown with a broken line has shown the communication based on the CameraLink specification of the base configuration which transfers pixel data PIXD, for example (refer signal line 7C of FIG. 1). First, the CPU 22 of the image input board 4 sends command data CMD (“command CMD1” in the figure) requesting transmission of a test pattern corresponding to the eigenvalue from the command communication unit 21 to the camera 3 as the mounting apparatus 10 is activated. It transmits to the command communication part 31. For example, the CPU 22 sequentially requests eigenvalues necessary for image processing at the time of activation in accordance with a control program stored in a nonvolatile memory (not shown) provided in the image input board 4. The command CMD1 is, for example, command data CMD requesting the test pattern 21 having a unique value for lens distortion correction. When receiving the command CMD1 from the command communication unit 31, the CPU 32 of the camera 3 transmits a response signal ACK1 indicating that the command CMD1 has been received from the command communication unit 31 to the command communication unit 21 of the image input board 4. The response signal ACK1 is command data CMD directed from the camera 3 to the image input board 4. When the response signal ACK1 from the command communication unit 21 is input, the CPU 22 controls the FPGA 26 to transmit a trigger signal TRIG1 instructing the start of transmission of the test pattern 21 to the FPGA 36 of the camera 3.

カメラ3のFPGA36は、トリガ信号TRIG1を受信すると、不揮発性メモリ35に記憶されたテストパターン21に対応する固有値を含む画素データPIXDを画像入力ボード4へ転送する処理を実行する。FPGA36は、テストパターン21に対応する画素データPIXDをFPGA26へ1ラインごとに連続して送信する。画像入力ボード4のFPGA26は、FPGA36から連続して転送される1ラインごとの画素データPIXDをRAM25に記憶する。FPGA26は、1024ライン目まで受信し1フレームの画素データPIXDの受信が終了した旨をCPU22に通知する。CPU22は、レンズ歪み補正の固有値に対応する次のテストパターン(この場合、テストパターン22)の送信を要求するコマンドデータCMD(図中の「コマンドCMD2」)をカメラ3に送信する。また、CPU22は、カメラ3のCPU32からコマンドCMD2に対する応答信号ACK2を受信すると、FPGA26を制御してテストパターン22の送信の開始を指示するトリガ信号TRIG2をカメラ3のFPGA36に向けて送信させる。このようにして、CPU22及びFPGA26は、テストパターン21〜28に含まれるレンズ歪み補正の固有値をカメラ3から受信しRAM25に記憶してその後の処理に用いる。また、CPU22は、テストパターン21〜28までの画素データPIXDを受信すると、次の固有値(例えば、ガンマ補正)に対応するテストパターン29を要求し、同様の動作シーケンスに従って取得する。   When receiving the trigger signal TRIG1, the FPGA 36 of the camera 3 executes a process of transferring pixel data PIXD including the eigenvalue corresponding to the test pattern 21 stored in the nonvolatile memory 35 to the image input board 4. The FPGA 36 continuously transmits pixel data PIXD corresponding to the test pattern 21 to the FPGA 26 line by line. The FPGA 26 of the image input board 4 stores in the RAM 25 pixel data PIXD for each line continuously transferred from the FPGA 36. The FPGA 26 receives up to the 1024th line and notifies the CPU 22 that reception of the pixel data PIXD of one frame has been completed. The CPU 22 transmits to the camera 3 command data CMD (“command CMD2” in the drawing) for requesting transmission of the next test pattern (in this case, the test pattern 22) corresponding to the eigenvalue of lens distortion correction. When the CPU 22 receives the response signal ACK2 to the command CMD2 from the CPU 32 of the camera 3, the CPU 22 controls the FPGA 26 to transmit a trigger signal TRIG2 for instructing the start of transmission of the test pattern 22 to the FPGA 36 of the camera 3. In this manner, the CPU 22 and the FPGA 26 receive the lens distortion correction eigenvalues included in the test patterns 21 to 28 from the camera 3, store them in the RAM 25, and use them for subsequent processing. When the CPU 22 receives the pixel data PIXD of the test patterns 21 to 28, the CPU 22 requests the test pattern 29 corresponding to the next eigenvalue (for example, gamma correction) and acquires it according to the same operation sequence.

以上、上記した本実施例によれば以下の効果を奏する。
<効果1>画像入力ボード4とカメラ3との通信ケーブル7を介した通信は、画像入力ボード4のCPU22とカメラ3のCPU32とが送受信するコマンドデータCMD(コマンドCMD1など)に比べてカメラ3から画像入力ボード4に向けて転送される画素データPIXDのデータ転送レートが高く設定されている。また、カメラ3が備える不揮発性メモリ35には、レンズ歪み補正などのカメラ3の機器固有の固有値のデータが画素値に設定されたテストパターンが記憶されている。CPU22は、装着装置10の起動にともなって必要な固有値に対応するテストパターンの送信を要求するコマンドCMD1をカメラ3に送信する(図4参照)。また、CPU22は、カメラ3からコマンドCMD1に対する応答信号ACK1を受信すると、FPGA26を制御してテストパターンの送信開始を指示するトリガ信号TRIG1をカメラ3のFPGA36に送信させる。FPGA36は、トリガ信号TRIG1を受信すると、要求されたテストパターンに対応する画素データPIXDを送信する。これにより、装着装置10は、固有値を含む画素データPIXDをデータ転送レートが高い高速な通信により転送することによって固有値の読み出しに係る処理時間が短縮され、起動時間の短縮を図ることが可能となる。
As described above, according to the above-described embodiment, the following effects can be obtained.
<Effect 1> Communication between the image input board 4 and the camera 3 via the communication cable 7 is performed by comparing the camera 3 with the command data CMD (command CMD1 or the like) transmitted and received between the CPU 22 of the image input board 4 and the CPU 32 of the camera 3. The data transfer rate of the pixel data PIXD transferred from to the image input board 4 is set high. In addition, the nonvolatile memory 35 provided in the camera 3 stores a test pattern in which data of eigenvalues unique to the camera 3 such as lens distortion correction are set as pixel values. The CPU 22 transmits to the camera 3 a command CMD1 for requesting transmission of a test pattern corresponding to a necessary eigenvalue when the mounting apparatus 10 is activated (see FIG. 4). Further, when the CPU 22 receives the response signal ACK1 to the command CMD1 from the camera 3, the CPU 22 controls the FPGA 26 to transmit the trigger signal TRIG1 instructing the start of transmission of the test pattern to the FPGA 36 of the camera 3. Upon receiving the trigger signal TRIG1, the FPGA 36 transmits pixel data PIXD corresponding to the requested test pattern. As a result, the mounting apparatus 10 can reduce the processing time for reading the eigenvalue by transferring the pixel data PIXD including the eigenvalue through high-speed communication with a high data transfer rate, and can shorten the activation time. .

ここで、図5は、従来技術における固有値のデータの取得処理の動作シーケンスを示している。図5に示す従来例では、コマンドデータCMDを伝送する低速な通信(例えばRS232C規格に準拠した通信)により固有値の転送を処理している。一般的に、撮像用のパラメータの読み出し処理などに用いられるコマンドデータCMDを転送する通信は、データ量が大きい画素データPIXDを転送する通信に比べて1回の転送におけるデータ量(パケット長)が小さく設定されることが好ましい。また、コマンドデータCMDの通信は、コマンドデータCMD内にヘッダー等の制御情報が付加されることで画素データPIXDの通信に比べて1回の転送におけるデータ量がより小さくなる場合がある。そして、図5に示すように、コマンドデータCMDに適用される通信方式を用いて固有値を転送する処理では、データ量が小さいパケットを用いて1種類の固有値を複数回に分けて受信するとともに、受信するごとに次のデータを要求するコマンドデータCMD(図中のコマンドCMD1〜コマンドCMD4)を送信する応答確認を実行している。これに対し、図4に示すように、本実施例の画素データPIXDを用いて固有値を転送する通信では、カメラ3がトリガ信号TRIG1を受信すると、応答確認を行わずに1フレームの画素データPIXDを1ラインごとに連続して送信する。従って、本実施例の装着装置10では、固有値のデータを連続して伝送することが可能となるため、起動時間の短縮を図ることが可能となる。   Here, FIG. 5 shows an operation sequence of the acquisition process of eigenvalue data in the prior art. In the conventional example shown in FIG. 5, eigenvalue transfer is processed by low-speed communication (for example, communication conforming to the RS232C standard) for transmitting command data CMD. In general, communication for transferring command data CMD used for reading processing of imaging parameters has a data amount (packet length) in one transfer compared to communication for transferring pixel data PIXD having a large data amount. It is preferable to set a small value. In addition, in the communication of the command data CMD, the amount of data in one transfer may be smaller than the communication of the pixel data PIXD by adding control information such as a header in the command data CMD. Then, as shown in FIG. 5, in the process of transferring the eigenvalue using the communication method applied to the command data CMD, one type of eigenvalue is received in multiple times using a packet with a small amount of data, and A response confirmation for transmitting command data CMD (command CMD1 to command CMD4 in the figure) for requesting the next data every time it is received is executed. On the other hand, as shown in FIG. 4, in the communication in which the eigenvalue is transferred using the pixel data PIXD of the present embodiment, when the camera 3 receives the trigger signal TRIG1, the frame data of the pixel data PIXD is not performed without confirming the response. Are continuously transmitted for each line. Therefore, in the mounting apparatus 10 of the present embodiment, the eigenvalue data can be continuously transmitted, so that the activation time can be shortened.

また、装着装置10は、起動時間の短縮だけでなく、カメラ3を交換した後に作業を開始するまでの時間が短縮できる。より具体的には、レンズ歪み補正などの固有値は、レンズ部40や撮像素子39の機器固有の特性である。本実施例の装着装置10が、例えば、電子部品を保持する装着ヘッドにカメラ3が設けられ、当該装着ヘッドが着脱可能な構成であるとする。この場合、装着装置10は、種類の異なる装着ヘッドに交換する際に交換後の装着ヘッドが備えるカメラ3の固有値を画像入力ボード4が読み出す必要がある。このため、装着装置10は、装着ヘッドの交換によりカメラ3が変更された場合にも画素データPIXDを用いた固有値の読み出しを実行することによって、交換後の作業開始までの時間が短縮される。   Further, the mounting device 10 can shorten not only the startup time but also the time until the work is started after the camera 3 is replaced. More specifically, the eigenvalue such as lens distortion correction is a device-specific characteristic of the lens unit 40 and the image sensor 39. Assume that the mounting apparatus 10 of the present embodiment has a configuration in which the camera 3 is provided on a mounting head that holds an electronic component, and the mounting head is detachable. In this case, when the mounting apparatus 10 is replaced with a different type of mounting head, the image input board 4 needs to read the unique value of the camera 3 included in the replaced mounting head. For this reason, even when the camera 3 is changed by exchanging the mounting head, the mounting apparatus 10 reads the eigenvalue using the pixel data PIXD, thereby reducing the time until the start of work after the replacement.

<効果2>カメラ3の不揮発性メモリ35には、テストパターンの番号とそれに対応する固有値のデータを含む画素データPIXDが記憶されている(図2参照)。画像入力ボード4のCPU22は、コマンドデータCMDによりテストパターンの番号を指定して固有値を取得する。このため、画像入力ボード4は、要求するテストパターンの番号のみを変更するだけで必要な固有値を読み出すことができ、固有値を読み出す処理内容が簡易化され、より起動時間の短縮化を図ることが可能となる。   <Effect 2> The nonvolatile memory 35 of the camera 3 stores pixel data PIXD including test pattern numbers and eigenvalue data corresponding thereto (see FIG. 2). The CPU 22 of the image input board 4 acquires a unique value by designating a test pattern number by command data CMD. For this reason, the image input board 4 can read out the necessary eigenvalues only by changing only the number of the test pattern to be requested, the processing content for reading out the eigenvalues is simplified, and the startup time can be further shortened. It becomes possible.

<効果3>テストパターン29に対応する画素データPIXDは、1フレームの1ライン目の途中までの領域の画素値にルックアップテーブル(ガンマ補正の固有値)のすべてのデータが割り当てられている。カメラ3のFPGA36は、不揮発性メモリ35に保存されたテストパターン29の画素データPIXDの全画素を処理対象とするのではなく、固有値に対応する一部の画素について読み出す部分読みだし処理を行う。これにより、FPGA36は、固有値が設定された画素データPIXDのすべての画素値を転送することなく、必要なデータのみを転送することが可能となる。従って、装着装置10は、固有値を読み出す処理時間が短縮されるため、起動時間の短縮を図ることが可能となる。   <Effect 3> In the pixel data PIXD corresponding to the test pattern 29, all the data in the lookup table (eigenvalue of gamma correction) are assigned to the pixel values in the region up to the middle of the first line of one frame. The FPGA 36 of the camera 3 does not target all the pixels of the pixel data PIXD of the test pattern 29 stored in the nonvolatile memory 35, but performs a partial reading process for reading out some pixels corresponding to the eigenvalues. Thereby, the FPGA 36 can transfer only necessary data without transferring all the pixel values of the pixel data PIXD in which the unique value is set. Therefore, the mounting apparatus 10 can shorten the activation time because the processing time for reading the eigenvalue is shortened.

なお、本発明は、上記実施例に限定されるものではなく、当業者の知識に基づいて種々の変更、改良を施した種々の態様で実施することが可能である。
例えば、通信ケーブル7に適用された通信規格(CameraLink規格)は一例であり、他のコマンドデータCMDに比べて画素データPIXDを高速に伝送する通信規格、例えばCoaXPress規格に準拠した通信規格に変更してもよい。また、本願における画像処理システムは、画素データPIXDとコマンドデータCMDとのデータ転送レートの実効速度が異なるシステムに適用できる。例えば、画像処理システムは、画素データPIXDとコマンドデータCMDとが同一のデータ転送レートで送受信される通信規格であっても、画素データPIXDとコマンドデータCMDとの各々の通信プロトコルが互いに違うシステムに適用できる。具体的には、画素データPIXDのデータ転送における送信側と受信側との応答確認の処理回数がコマンドデータCMDの処理回数に比べて少ない通信プロトコルを用いる画像処理システムに適用できる。この画像処理システムでは、応答確認の処理の簡易化を図ることで、同一のデータ量を伝送する場合でもデータ転送レートの実効速度が高くなる画素データPIXDを転送する通信により固有値を読み出す。これにより、固有値の読み出しに必要な時間が短縮される。
In addition, this invention is not limited to the said Example, It is possible to implement in the various aspect which gave various change and improvement based on the knowledge of those skilled in the art.
For example, the communication standard (CameraLink standard) applied to the communication cable 7 is an example, and it is changed to a communication standard based on the CoaXPress standard for transmitting pixel data PIXD at a higher speed than other command data CMD. May be. Further, the image processing system in the present application can be applied to a system in which the effective speed of the data transfer rate between the pixel data PIXD and the command data CMD is different. For example, even if the image processing system is a communication standard in which the pixel data PIXD and the command data CMD are transmitted and received at the same data transfer rate, the communication protocols of the pixel data PIXD and the command data CMD are different from each other. Applicable. Specifically, the present invention can be applied to an image processing system using a communication protocol in which the number of response confirmation processes between the transmission side and the reception side in the data transfer of the pixel data PIXD is smaller than the number of command data CMD processes. In this image processing system, the response confirmation process is simplified, and the eigenvalue is read by communication for transferring the pixel data PIXD in which the effective speed of the data transfer rate is increased even when the same amount of data is transmitted. Thereby, the time required for reading the eigenvalue is shortened.

また、上記実施例において、固有値が設定されたテストパターンに誤り訂正検出又は誤り訂正符号を付加してもよい。図6は、例えば、上記実施例のテストパターン29(ガンマ補正の固有値)に誤り検出符号を付加した画素データPIXDを示している。図6に示す画素データPIXDには、ガンマ補正の固有値が設定された1ライン目の途中までの領域に連続した画素の画素値に誤り検出符号CRCが設定されている。例えば、画像入力ボード4のFPGA26は、転送されたガンマ補正の固有値(ルックアップテーブル)のデータに誤りを検出した場合には、CPU22にその旨を通知する。CPU22はカメラ3に対してテストパターンの再送を要求する処理を行う。このような構成では、画素データPIXDのデータ転送に適用される通信規格に誤り検出の手順がない場合にも、固有値が設定された個々の画素データPIXD内に誤り検出符号を付加することにより画像入力ボード4側で固有値の誤り検出が可能となる。なお、誤り検出符号CRCは、他の固有値に設定してもよい。また、誤りの検出に限らず受信側で誤りの訂正が可能な誤り訂正符号(FECなど)をルックアップテーブルに付与してもよい。   In the above embodiment, an error correction detection or error correction code may be added to the test pattern in which the eigenvalue is set. FIG. 6 shows, for example, pixel data PIXD in which an error detection code is added to the test pattern 29 (eigenvalue of gamma correction) of the above embodiment. In the pixel data PIXD shown in FIG. 6, the error detection code CRC is set to the pixel value of the pixels continuous in the region up to the middle of the first line where the gamma correction eigenvalue is set. For example, if the FPGA 26 of the image input board 4 detects an error in the transferred gamma correction eigenvalue (lookup table) data, it notifies the CPU 22 of the error. The CPU 22 performs processing for requesting the camera 3 to retransmit the test pattern. In such a configuration, even when there is no error detection procedure in the communication standard applied to the data transfer of the pixel data PIXD, an image can be obtained by adding an error detection code to each pixel data PIXD in which eigenvalues are set. It is possible to detect errors in eigenvalues on the input board 4 side. Note that the error detection code CRC may be set to another eigenvalue. In addition to error detection, an error correction code (such as FEC) that can correct an error on the receiving side may be added to the lookup table.

また、不揮発性メモリ35は、固有値が予めテストパターンの画素データPIXDの画素値に設定された状態で記憶されていたが、例えば、固有値のみを記憶した構成でもよい。この場合、CPU32は、例えば固有値を指定するコマンドデータCMDを受信するごとに固有値を画素値に設定した画素データPIXDを生成しFPGA36に転送させる。これにより、不揮発性メモリ35の記憶領域が小さくでき、カメラ3の製造コストの低減を図ることが可能となる。
また、不揮発性メモリ35に保存される1フレームの画素データPIXDに複数の種類の固有値を設定してもよい。例えば、図6に示す画素データPIXDの2ライン目以降の画素値に、欠陥補正、ホワイトバランスの固有値を設定してもよい。
Further, the non-volatile memory 35 is stored in a state where the eigenvalue is set in advance to the pixel value of the pixel data PIXD of the test pattern, but may be configured to store only the eigenvalue, for example. In this case, for example, every time the command data CMD specifying the eigenvalue is received, the CPU 32 generates the pixel data PIXD in which the eigenvalue is set to the pixel value and transfers the pixel data PIXD to the FPGA 36. As a result, the storage area of the nonvolatile memory 35 can be reduced, and the manufacturing cost of the camera 3 can be reduced.
A plurality of types of eigenvalues may be set in one frame of pixel data PIXD stored in the nonvolatile memory 35. For example, defect correction and white balance eigenvalues may be set for the pixel values of the second and subsequent lines of the pixel data PIXD shown in FIG.

また、画像入力ボード4とカメラ3とは、画素データPIXD及びコマンドデータCMDを1本の通信ケーブル7で送受信したが、それぞれのデータを異なる通信ケーブルで伝送する構成でもよい。   In addition, the image input board 4 and the camera 3 transmit and receive the pixel data PIXD and the command data CMD through one communication cable 7, but each data may be transmitted through different communication cables.

また、上記実施例では電子部品を回路基板に実装する電子部品装着装置10について説明したが、本願はこれに限定されるものではなく、他の様々な製造ラインにおいて稼働する作業用ロボットなどに適用することができる。例えば、二次電池(太陽電池や燃料電池など)等の組立て作業を実施する作業用ロボットに適用してもよい。また、作業用ロボットは、スキージをマスクに沿って移動させ被印刷剤を印刷対象部材に印刷するスクリーン印刷装置を含む。また、作業用ロボットとは、実装や組立を行うものに限らず、他の作業例えば切削等を行う工作機械を含む。   Moreover, although the said Example demonstrated the electronic component mounting apparatus 10 which mounts an electronic component on a circuit board, this application is not limited to this, It applies to the working robot etc. which operate | move in other various production lines can do. For example, the present invention may be applied to a working robot that performs assembly work such as a secondary battery (such as a solar battery or a fuel cell). The working robot includes a screen printing apparatus that moves the squeegee along the mask and prints the printing material on the print target member. Further, the work robot is not limited to a machine that performs mounting and assembly, but includes a machine tool that performs other work such as cutting.

なお、特許請求の範囲の用語との対応関係は以下の通りである。
電子部品装着装置10は、作業用ロボットの一例である。カメラ3は、撮像手段の一例である。FPGA26を備える画像入力ボード4は、補正手段の一例である。レンズ部40は、レンズを備える装置の一例である。コマンド通信部21,31がコマンドデータCMDを伝送するRS232C規格に準拠したシリアル通信は、低速伝送手段を構成する。FPGA26,36が画素データPIXDを伝送するCameraLink規格に準拠したシリアル通信は、高速伝送手段を構成する。不揮発性メモリ35に保存された固有値が画素値に設定された画素データPIXDは、画素データに対応するデータ形式に変換された固有値の一例である。FPGA26からのトリガ信号TRIG1,TRIG2に応じて固有値を含む画素データPIXDを送信するカメラ3のFPGA36は、固有値伝送手段の一例である。回路基板及び回路基板に実装される電子部品は、ワークの一例である。
The correspondence with the terms in the claims is as follows.
The electronic component mounting apparatus 10 is an example of a work robot. The camera 3 is an example of an imaging unit. The image input board 4 including the FPGA 26 is an example of a correction unit. The lens unit 40 is an example of a device including a lens. Serial communication conforming to the RS232C standard in which the command communication units 21 and 31 transmit command data CMD constitutes a low-speed transmission unit. Serial communication conforming to the CameraLink standard in which the FPGAs 26 and 36 transmit the pixel data PIXD constitutes high-speed transmission means. The pixel data PIXD in which the unique value stored in the nonvolatile memory 35 is set as the pixel value is an example of the unique value converted into a data format corresponding to the pixel data. The FPGA 36 of the camera 3 that transmits pixel data PIXD including eigenvalues in response to trigger signals TRIG1 and TRIG2 from the FPGA 26 is an example of eigenvalue transmission means. The circuit board and the electronic component mounted on the circuit board are an example of a workpiece.

10 電子部品装着装置、3 カメラ、4 画像入力ボード、35 不揮発性メモリ、CMD コマンドデータ、PIXD 画素データ、ACK1,ACK2 応答信号、TRIG1,TRIG2 トリガ信号。   10 Electronic component mounting device, 3 camera, 4 image input board, 35 nonvolatile memory, CMD command data, PIXD pixel data, ACK1, ACK2 response signal, TRIG1, TRIG2 trigger signal.

Claims (5)

ワークからの光をレンズにより撮像素子に結像させ前記撮像素子が光電変換した画素データを取得する撮像手段と、
前記レンズ又は前記撮像素子の少なくとも一方の機器固有の固有値に基づいて前記画素データを補正する補正手段と、
前記撮像手段の撮像用のパラメータの読み出し及び書き込みの通信を行う低速伝送手段と、
データ転送レートの実効速度が前記低速伝送手段に比べて速く、前記撮像手段から前記補正手段に向けて前記画素データが伝送される高速伝送手段と、
前記画素データに対応するデータ形式に変換された前記固有値を、前記撮像手段から前記補正手段に向けて前記高速伝送手段により伝送させる固有値伝送手段と、
を備えることを特徴とする画像処理システム。
Imaging means for imaging light from a workpiece onto an image sensor with a lens and obtaining pixel data photoelectrically converted by the image sensor;
Correction means for correcting the pixel data based on a characteristic value unique to at least one of the lens and the image sensor;
Low-speed transmission means for performing reading and writing communication of imaging parameters of the imaging means;
A high-speed transmission means in which an effective speed of a data transfer rate is faster than the low-speed transmission means, and the pixel data is transmitted from the imaging means to the correction means;
Eigenvalue transmission means for causing the high-speed transmission means to transmit the eigenvalue converted into a data format corresponding to the pixel data from the imaging means to the correction means;
An image processing system comprising:
前記固有値伝送手段は、前記撮像素子を試験するテストパターンに前記固有値を対応付けて前記高速伝送手段により伝送させることを特徴とする請求項1に記載の画像処理システム。   The image processing system according to claim 1, wherein the eigenvalue transmission unit associates the eigenvalue with a test pattern for testing the image sensor and transmits the test value using the high-speed transmission unit. 前記固有値伝送手段は、前記画素データに対応する1フレームのデータ中の所定領域の画素値に前記固有値が割り当てられることを特徴とする請求項1又は請求項2に記載の画像処理システム。   3. The image processing system according to claim 1, wherein the eigenvalue transmission unit assigns the eigenvalue to a pixel value in a predetermined region in one frame of data corresponding to the pixel data. 前記固有値伝送手段は、前記固有値の変換後のデータに対して誤りを検出するための誤り符号が付加されることを特徴とする請求項1乃至請求項3のいずれかに記載の画像処理システム。   4. The image processing system according to claim 1, wherein the eigenvalue transmission unit adds an error code for detecting an error to the data after conversion of the eigenvalue. 請求項1乃至請求項4のいずれかに記載の画像処理システムを有し、前記撮像手段により取得された前記ワークの前記画素データに基づいて動作することを特徴とする作業用ロボット。   5. A working robot having the image processing system according to claim 1 and operating based on the pixel data of the workpiece acquired by the imaging means.
JP2013214082A 2013-10-11 2013-10-11 Image processing system and work robot Active JP6199690B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013214082A JP6199690B2 (en) 2013-10-11 2013-10-11 Image processing system and work robot

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013214082A JP6199690B2 (en) 2013-10-11 2013-10-11 Image processing system and work robot

Publications (2)

Publication Number Publication Date
JP2015076067A JP2015076067A (en) 2015-04-20
JP6199690B2 true JP6199690B2 (en) 2017-09-20

Family

ID=53000835

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013214082A Active JP6199690B2 (en) 2013-10-11 2013-10-11 Image processing system and work robot

Country Status (1)

Country Link
JP (1) JP6199690B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6680542B2 (en) * 2016-01-18 2020-04-15 Juki株式会社 Data processing device, mounting device, board inspection device, data processing method and program

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2894241B2 (en) * 1995-04-21 1999-05-24 村田機械株式会社 Image recognition device
JP2006300890A (en) * 2005-04-25 2006-11-02 Toyota Motor Corp Device and method for inspecting image processing
US20100045802A1 (en) * 2006-10-06 2010-02-25 Mamoru Oda Imaging device, image reproducing device, image printing device, imaging device control method, image correcting method for image reproducing device, and image correcting method for image printing device

Also Published As

Publication number Publication date
JP2015076067A (en) 2015-04-20

Similar Documents

Publication Publication Date Title
US9426324B2 (en) Photoelectric conversion element, image reading device, image forming apparatus, and image reading method
US8106976B2 (en) Peripheral light amount correction apparatus, peripheral light amount correction method, electronic information device, control program and readable recording medium
EP2224726A2 (en) Image processing apparatus, image processing method, and program
JP6046095B2 (en) Calibration system, calibration method, image forming apparatus, and calibration program
KR101651620B1 (en) Calibration method of display device using camera module and apparatus thereof
JP6199690B2 (en) Image processing system and work robot
JP5822630B2 (en) Camera device
US20170310840A1 (en) Mobile terminal, information processing system, and control method
JP6199985B2 (en) Electronic component mounting device extension device and electronic component mounting device
JP6334528B2 (en) Imaging device and production equipment
WO2018025333A1 (en) Head separation type camera and working machine
US10857808B2 (en) Calibrating printing pens of print head assemblies
US20230050259A1 (en) Solid-state imaging device, electronic apparatus, and imaging system
US10009515B2 (en) Calibration system, calibration method, and image forming apparatus that ensure improved accuracy of correction of tone characteristics
JP4393225B2 (en) Imaging device
JP5832222B2 (en) Camera device
CN108632534B (en) CIS camera and image processing method based on CIS camera
JP6539550B2 (en) Multiplex communication system and image transmission method
CN114125316B (en) Remote image processing method and system
US20130077867A1 (en) Image processing apparatus, image processing method, and method of controlling image processing apparatus
JP6163946B2 (en) Image processing device
JP7414733B2 (en) Receiving device and transmitting device
US20080024832A1 (en) Method for amending scanned images
JP2016019267A (en) Image processing system, image processing method, and program
JP2010103937A (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160902

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170801

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170824

R150 Certificate of patent or registration of utility model

Ref document number: 6199690

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250