JP2017092131A - Image generation apparatus, mounting device and image generation method - Google Patents
Image generation apparatus, mounting device and image generation method Download PDFInfo
- Publication number
- JP2017092131A JP2017092131A JP2015217407A JP2015217407A JP2017092131A JP 2017092131 A JP2017092131 A JP 2017092131A JP 2015217407 A JP2015217407 A JP 2015217407A JP 2015217407 A JP2015217407 A JP 2015217407A JP 2017092131 A JP2017092131 A JP 2017092131A
- Authority
- JP
- Japan
- Prior art keywords
- subject
- image
- component
- image generation
- imaging unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 13
- 238000003384 imaging method Methods 0.000 claims abstract description 126
- 239000007788 liquid Substances 0.000 claims abstract description 34
- 239000000758 substrate Substances 0.000 claims description 26
- 238000005286 illumination Methods 0.000 claims description 19
- 238000003702 image correction Methods 0.000 claims description 6
- 238000012937 correction Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 8
- 230000007246 mechanism Effects 0.000 description 8
- 229910000679 solder Inorganic materials 0.000 description 8
- 230000008569 process Effects 0.000 description 5
- 238000012545 processing Methods 0.000 description 4
- 238000000926 separation method Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000001179 sorption measurement Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H05—ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
- H05K—PRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
- H05K13/00—Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
- H05K13/04—Mounting of components, e.g. of leadless components
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B15/00—Optical objectives with means for varying the magnification
- G02B15/02—Optical objectives with means for varying the magnification by changing, adding, or subtracting a part of the objective, e.g. convertible objective
- G02B15/04—Optical objectives with means for varying the magnification by changing, adding, or subtracting a part of the objective, e.g. convertible objective by changing a part
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B26/00—Optical devices or arrangements for the control of light using movable or deformable optical elements
- G02B26/004—Optical devices or arrangements for the control of light using movable or deformable optical elements based on a displacement or a deformation of a fluid
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B13/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B13/32—Means for focusing
-
- H—ELECTRICITY
- H05—ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
- H05K—PRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
- H05K13/00—Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
- H05K13/08—Monitoring manufacture of assemblages
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Manufacturing & Machinery (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Operations Research (AREA)
- Studio Devices (AREA)
- Supply And Installment Of Electrical Components (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
Description
本発明は、被写体の全焦点画像を生成する画像生成装置、実装装置及び画像生成方法に関する。 The present invention relates to an image generation apparatus, a mounting apparatus, and an image generation method for generating an omnifocal image of a subject.
従来、この種の画像生成装置として、被写体に対して異なる位置に焦点(ピント)を合わせた複数の撮像画像から全焦点画像を生成するものが知られている(例えば、特許文献1参照)。特許文献1に記載の画像生成装置は、撮像部に対して被写体を離間又は接近させながら、被写体と撮像部との距離を変化させた複数の撮像画像を撮像している。そして、複数の撮像画像に対して画像処理を施すと共に、画像処理後の複数の撮像画像を合成することによって、撮像画像内の被写体画像を構成する各画素に焦点が合った全焦点画像を生成している。 2. Description of the Related Art Conventionally, as this type of image generation apparatus, an apparatus that generates an omnifocal image from a plurality of captured images focused on different positions with respect to a subject is known (see, for example, Patent Document 1). The image generation apparatus described in Patent Document 1 captures a plurality of captured images in which the distance between the subject and the imaging unit is changed while the subject is separated or approached from the imaging unit. Then, image processing is performed on a plurality of captured images, and a plurality of captured images after image processing are combined to generate an omnifocal image in which each pixel constituting the subject image in the captured image is focused. doing.
特許文献1に記載の画像生成装置では、焦点位置が異なる複数の画像を撮像するために、撮像部と対象物とのいずれかを移動させる駆動機構が必須である。しかしながら、駆動機構によって撮像部と対象物を移動させると、装置構成が複雑になると共に重量が増加し、さらにメンテナンスが必要になる等の問題が生じていた。 In the image generation device described in Patent Document 1, a drive mechanism that moves either the imaging unit or the object is essential in order to capture a plurality of images having different focal positions. However, when the imaging unit and the object are moved by the drive mechanism, there are problems that the apparatus configuration becomes complicated, the weight increases, and further maintenance is required.
本発明はかかる点に鑑みてなされたものであり、簡易かつ軽量な構成で全焦点画像を生成することができる画像生成装置、実装装置及び画像生成方法を提供することを目的とする。 SUMMARY An advantage of some aspects of the invention is that it provides an image generation apparatus, a mounting apparatus, and an image generation method capable of generating an omnifocal image with a simple and lightweight configuration.
本発明の画像生成装置は、被写体の異なる位置に焦点を合わせた複数の撮像画像から、前記被写体の全焦点画像を生成する画像生成装置であって、屈折率が可変可能な液体レンズによって焦点位置を動かしながら前記被写体を複数回に亘って撮像する撮像部と、前記撮像部で撮像された複数の撮像画像から前記被写体の全焦点画像を生成する画像生成部とを備えることを特徴とする。 An image generation apparatus according to the present invention is an image generation apparatus that generates an omnifocal image of a subject from a plurality of captured images focused on different positions of the subject, and a focal position by a liquid lens having a variable refractive index. An imaging unit that images the subject a plurality of times while moving the image, and an image generation unit that generates an omnifocal image of the subject from a plurality of captured images captured by the imaging unit.
本発明の画像生成方法は、被写体の異なる位置に焦点を合わせた複数の撮像画像から、前記被写体の全焦点画像を生成する画像生成方法であって、屈折率が可変可能な液体レンズによって焦点位置を動かしながら撮像部で前記被写体を複数回に亘って撮像するステップと、前記撮像部で撮像された複数の撮像画像から前記被写体の全焦点画像を生成するステップとを備えることを特徴とする。 An image generation method of the present invention is an image generation method for generating an omnifocal image of a subject from a plurality of captured images focused on different positions of the subject, and a focal position by a liquid lens having a variable refractive index. A step of imaging the subject a plurality of times by the imaging unit while moving the image, and a step of generating an omnifocal image of the subject from the plurality of captured images captured by the imaging unit.
これらの構成によれば、液体レンズの屈折率を変えることによって、撮像部と被写体との距離を変えることなく、被写体に対して異なる位置に焦点が合わせられる。このため、被写体を複数回に亘って撮像して、複数の撮像画像から全焦点画像を生成することができる。撮像部と被写体とのいずれかを移動させる駆動機構が不要であるため、簡易かつ軽量な構成で全焦点画像を生成することができる。 According to these configurations, by changing the refractive index of the liquid lens, the subject can be focused on different positions without changing the distance between the imaging unit and the subject. For this reason, the subject can be imaged a plurality of times, and an omnifocal image can be generated from the plurality of captured images. Since a drive mechanism for moving either the imaging unit or the subject is unnecessary, an omnifocal image can be generated with a simple and lightweight configuration.
本発明の画像生成装置において、前記撮像部と前記被写体との距離が固定されており、前記撮像部が、前記被写体の異なる位置に焦点を合わせたときに当該位置に対する照射光量を一定にする。この構成によれば、撮像部と被写体との距離が固定されていても、高低差のある被写体に対する焦点を変えた時に、焦点を合わせた位置に対して同じ照射光量で照らすことができる。 In the image generation apparatus of the present invention, the distance between the imaging unit and the subject is fixed, and the imaging unit makes the amount of light irradiated to the position constant when focusing on a different position of the subject. According to this configuration, even when the distance between the imaging unit and the subject is fixed, when the focus on the subject having a height difference is changed, the focused position can be illuminated with the same amount of irradiation light.
本発明の画像生成装置において、前記撮像部が、照明の明るさを調節することで照射光量を一定にする。この構成によれば、簡易な構成により照射光量を調節することができる。また、シャッターを調節する構成と比較して、タクトタイムを短くすることができる。 In the image generation apparatus of the present invention, the imaging unit makes the amount of irradiation light constant by adjusting the brightness of illumination. According to this configuration, the amount of irradiation light can be adjusted with a simple configuration. In addition, the tact time can be shortened compared to a configuration in which the shutter is adjusted.
本発明の画像生成装置において、前記被写体の上面高さを測定する高さセンサを備え、前記撮像部が、前記被写体の上面高さを基準にして前記液体レンズの焦点位置を可変する。この構成によれば、オートフォーカスよりも短時間で液体レンズの焦点位置を調節することができる。 In the image generation apparatus of the present invention, a height sensor that measures the top surface height of the subject is provided, and the imaging unit varies the focal position of the liquid lens based on the top surface height of the subject. According to this configuration, the focal position of the liquid lens can be adjusted in a shorter time than autofocus.
本発明の画像生成装置において、前記被写体の搬送中に撮像された各撮像画像内の被写体画像を補正して、前記複数の撮像画像の間で前記被写体画像の座標位置を一致させる画像補正部を備え、前記画像生成部が、補正後の前記複数の撮像画像から前記被写体の全焦点画像を生成する。この構成によれば、被写体を搬送しながら撮像した撮像画像から全焦点画像を生成することができ、タクトタイムを短縮することができる。 In the image generation device of the present invention, an image correction unit that corrects a subject image in each captured image captured during conveyance of the subject and matches the coordinate position of the subject image between the plurality of captured images. The image generation unit generates an omnifocal image of the subject from the plurality of corrected captured images. According to this configuration, an omnifocal image can be generated from a captured image that is captured while the subject is being conveyed, and the tact time can be shortened.
本発明の画像生成装置において、前記画像生成部は、前記全焦点画像に基づいて前記被写体の高さを算出する。この構成によれば、全焦点画像から被写体を立体的に認識することができる。 In the image generation device of the present invention, the image generation unit calculates the height of the subject based on the omnifocal image. According to this configuration, the subject can be recognized three-dimensionally from the omnifocal image.
本発明の実装装置は、上記の画像生成装置と、前記被写体としての部品を基板の所定位置まで搬送する実装ヘッドとを備え、前記画像生成装置で生成された前記全焦点画像に基づいて、前記実装ヘッドが前記基板に前記部品を実装することを特徴とする。この構成によれば、全焦点画像から被写体としての部品の高さを求めて、基板に対して部品を精度よく実装することができる。 The mounting apparatus of the present invention includes the above-described image generation apparatus and a mounting head that conveys the component as the subject to a predetermined position on the board, and based on the omnifocal image generated by the image generation apparatus, A mounting head mounts the component on the substrate. According to this configuration, the height of the component as the subject can be obtained from the omnifocal image, and the component can be accurately mounted on the substrate.
本発明によれば、液体レンズの屈折率を変えることによって、撮像部と被写体との距離を変えることなく、異なる位置に焦点が合わせられた複数の撮像画像を撮像することができる。複数の撮像画像を合成することで、簡易かつ軽量な構成で全焦点画像を生成することができる。 According to the present invention, by changing the refractive index of the liquid lens, it is possible to capture a plurality of captured images focused on different positions without changing the distance between the imaging unit and the subject. By synthesizing a plurality of captured images, an omnifocal image can be generated with a simple and lightweight configuration.
以下、添付図面を参照して本実施の形態の実装装置について説明する。図1は、本実施の形態の実装装置の上面模式図である。図2は、駆動機構を使用した撮像部の撮像原理の説明図である。図3は、液体レンズを使用した撮像部の撮像原理の説明図である。なお、本実施の形態では、全焦点画像の画像生成装置を実装装置に適用した例について説明するが、画像生成装置を備えていれば実装装置以外の装置にも適用可能である。 Hereinafter, the mounting apparatus of the present embodiment will be described with reference to the accompanying drawings. FIG. 1 is a schematic top view of the mounting apparatus of the present embodiment. FIG. 2 is an explanatory diagram of the imaging principle of the imaging unit using the drive mechanism. FIG. 3 is an explanatory diagram of the imaging principle of the imaging unit using a liquid lens. In this embodiment, an example in which the image generation apparatus for an omnifocal image is applied to a mounting apparatus will be described, but the present invention can be applied to apparatuses other than the mounting apparatus as long as the image generation apparatus is provided.
図1に示すように、実装装置1は、テープフィーダ等の部品供給装置10から供給された部品P(図4参照)を、実装ヘッド40によって基板Wの載置面に搭載するように構成されている。実装装置1の基台20の略中央には、X軸方向に沿って基板搬送部21が配設されている。基板搬送部21は、X軸方向の一端側から部品搭載前の基板Wを実装ヘッド40の下方に搬入して位置決めし、部品搭載後の基板WをX軸方向の他端側から搬出する。また、基台20上には、基板搬送部21を挟んだ両側に多数の部品供給装置10がX軸方向に横並びに配置されている。
As shown in FIG. 1, the mounting apparatus 1 is configured to mount a component P (see FIG. 4) supplied from a
部品供給装置10にはテープリール11が着脱自在に装着され、テープリール11には多数の部品Pをパッケージングしたキャリアテープ(不図示)が巻回されている。各部品供給装置10は、装置内に設けられたスプロケットホイールの回転によって実装ヘッド40にピックアップされる受け渡し位置に向けて順番に部品Pを繰り出している。実装ヘッド40の受け渡し位置では、キャリアテープから表面のカバーテープが剥離され、キャリアテープのポケット(不図示)内の部品Pが外部に露出される。なお、本実施の形態では、部品供給装置10としてテープフィーダを例示したが、ボールフィーダ等で構成されていてもよい。
A
基台20上には、実装ヘッド40をX軸方向及びY軸方向に移動させるXY移動部30が設けられている。XY移動部30は、Y軸方向に平行に延びる一対のY軸テーブル31と、X軸方向に平行に延びるX軸テーブル32とを有している。一対のY軸テーブル31は、基台20の四隅に立設された支持部(不図示)に支持されており、X軸テーブル32は、一対のY軸テーブル31上にY軸方向に移動可能に設置されている。X軸テーブル32上には実装ヘッド40がX軸方向に移動可能に設置されている。実装ヘッド40は、XY移動部30によって部品供給装置10と基板Wとの間を往復移動される。
On the
実装ヘッド40は、ノズル41を備えた複数(本実施の形態では3つ)のヘッド部42を有している。ヘッド部42は、Z軸モータ(不図示)によってノズル41をZ軸方向に上下動すると共に、θモータ(不図示)によってノズル41をZ軸回りに回転する。各ノズル41は吸引源(不図示)に接続されており、吸引源からの吸引力によって部品Pを吸着保持する。なお、実装ヘッド40のノズル41は、上記のノズル41に限定されず、部品供給装置10から部品Pを取り出して基板Wに搭載可能であればよく、例えば、グリッパーノズルで構成されていてもよい。
The mounting
実装ヘッド40には、発光部と受光部を備え、反射光を受光してその距離を測定できる高さセンサ43と、基板WのBOC(Board Offset Correction)マークを撮像する基板撮像部44と、ノズル41による部品Pの搭載動作を撮像するノズル撮像部45と、ノズル41に吸着された部品Pを認識可能な不図示のレーザ認識部が設けられている。高さセンサ43では、実装ヘッド40から測定対象物への高さ(距離)が測定される。基板撮像部44では、BOCマークの撮像画像に基づいて基板Wの位置、傾き、伸縮等が認識される。また、不図示のレーザ認識部は、水平一方向に沿って受光部と発光部を備え、そのレーザ光の中に、部品Pを吸着したノズル41を上下動させたり、回転させたりすることより、部品Pの高さ寸法Zや、X、Y寸法(幅寸法)や、ノズル41に対する部品Pの吸着ズレを認識することができる。これらの認識結果に基づいて基板Wに対する部品Pの搭載位置の補正情報が生成される。ノズル撮像部45では、ノズル41による吸着前後の部品Pが撮像される他、基板Wに対する搭載前後の部品Pが撮像されて、これらの各画像がトレーサビリティ情報として保存される。また、ノズル41による吸着前の部品Pの撮像画像から部品Pの吸着位置が認識される。
The
また、実装装置1の基台20には、ノズル41に吸着された部品Pを複数回に亘って撮像して全焦点画像を生成する画像生成装置50が搭載されている。画像生成装置50には、ノズル41に吸着された部品Pを下方から撮像する部品撮像部51(撮像部)が設けられている。部品撮像部51では、部品Pに対して異なる位置に焦点を合わせながら複数の撮像画像が撮像される。そして、複数の撮像画像から全焦点画像が生成されることで、部品Pの傾き、部品Pの高さが認識され、これらの認識結果に基づいてノズル41の吸着位置や移動量等の補正情報が生成される。なお、画像生成装置50は、実装ヘッド40に設けられても良い。
In addition, the
また、実装装置1には、装置各部を統括制御する制御部60(図4参照)が設けられている。制御部60は、各種処理を実行するプロセッサやメモリ等により構成されている。メモリは、用途に応じてROM(Read Only Memory)、RAM(Random Access Memory)等の一つ又は複数の記憶媒体で構成されている。メモリには、実生産で使用される生産プログラム、全焦点画像の生成プログラム、撮像画像の補正プログラム等が記憶されている。
In addition, the mounting apparatus 1 is provided with a control unit 60 (see FIG. 4) that performs overall control of each part of the apparatus. The
図2A−2C、図3A−3Cは、実装ヘッド40に撮像部71や、液体レンズ83を含む撮像部81が設けられた例である。ここで、全焦点画像の生成時の一般的な撮像方法について説明する。図2Aに示すように、被写体Oの全焦点画像を生成する場合には、通常は撮像素子72、レンズ73、照明74からなる撮像部71を移動させるために、リニアガイド77とスライダ78からなる駆動機構76が必要になる。リニアガイド77に沿ってスライダ78を被写体Oに対する離間方向又は接近方向に動かすことで、撮像部71によって被写体Oの複数の撮像画像が撮像される。複数の撮像画像は、被写体Oから撮像部71までの距離が可変させながら撮像された画像であるため、被写体Oに対して異なる位置に焦点が合わせられている。
2A-2C and FIGS. 3A-3C are examples in which the mounting
例えば、図2Bに示すように、被写体Oから撮像部71までの離間距離がL1の場合には、被写体Oの点P1からの光(反射光)は、レンズ73を通じて撮像素子72の撮像面75で結像される。また、被写体Oの点P1よりも上面側の点P2からの光は、レンズ73を通じて撮像素子72の撮像面75よりも奥側で結像される。すなわち、離間距離L1では、被写体Oの点P1に焦点を合わせた撮像画像が撮像される。被写体Oの点P1に焦点を合わせた撮像画像は、被写体Oの下面側が鮮明に撮られており、被写体Oの下面側から上面側に向かって徐々に不鮮明になっている。
For example, as shown in FIG. 2B, when the separation distance from the subject O to the
一方で、図2Cに示すように、被写体Oから撮像部71までの離間距離がL2の場合には、被写体Oの点P1からの光(反射光)は、レンズ73を通じて撮像素子72の撮像面75よりも手前で結像される。また、被写体Oの点P1よりも上面側の点P2からの光は、レンズ73を通じて撮像素子72の撮像面75で結像される。すなわち、離間距離L2では、被写体Oの点P2に焦点が合わせられた撮像画像が撮像される。被写体Oの点P2に焦点を合わせた撮像画像は、被写体Oの上面側が鮮明に撮られており、被写体Oの下面側に向かって徐々に不鮮明になるようになっている。
On the other hand, as shown in FIG. 2C, when the separation distance from the subject O to the
被写体Oに対して異なる位置に焦点が合わせられた複数の撮像画像を合成することによって全焦点画像が生成される。しかしながら、このような構成では、被写体Oに対して撮像部71を離間又は接近させるために、リニアガイド77やスライダ78等の駆動機構やモーター等の駆動源が必要になるため、装置構成が複雑になると共に装置重量が増加するという問題がある。そこで、図3Aに示すように、撮像部81に液体レンズ83を用いることで、撮像部81と被写体Oの距離を変えることなく、被写体Oの異なる位置に焦点を合わせた複数の撮像画像を撮像するようにしている。
An omnifocal image is generated by combining a plurality of captured images focused on different positions with respect to the subject O. However, in such a configuration, a drive mechanism such as the
例えば、図3Bに示すように液体レンズ83の屈折率(界面形状)を可変させると、被写体Oの点P1からの光が撮像素子82の撮像面85で結像され、被写体Oの点P2からの光が撮像素子82の撮像面85よりも奥側で結像される。また、図3Cに示すように液体レンズ83の屈折率を可変させると、被写体Oの点P1からの光が撮像素子82の撮像面85よりも手前で結像され、被写体Oの点P2からの光が撮像素子82の撮像面85で結像される。このように、液体レンズ83の屈折率を可変することで、被写体Oの点P1、点P2に焦点を合わせた撮像画像が撮像される。
For example, as shown in FIG. 3B, when the refractive index (interface shape) of the
本実施の形態の実装装置1は、液体レンズ83を備えた撮像部81を部品撮像部51(図1参照)に適用して、部品P(図4参照)を撮像して全焦点画像を生成している。実装装置1は、BGA(Ball Grid Array)のようにパッケージ91(図4参照)から半田ボール92が突出した部品Pを扱うが、この部品Pを基板Wに差し込むためには全焦点画像から半田ボール92の正確な高さを求める必要がある。しかしながら、図3に示す撮像部81では、被写体Oの高低差が正確なコントラストとして全焦点画像に表れず、全焦点画像から半田ボール92(図4参照)の正確な高さを求めることが難しい。
The mounting apparatus 1 according to the present embodiment applies the
例えば、図2に示す撮像部71の場合には、照明74から被写体Oまでの距離が可変されるため、被写体Oの焦点が合った位置に対する照射光量にバラツキが生じない。例えば、図2Bでは被写体Oの点P1、図2Cでは被写体Oの点P2にそれぞれ焦点が合わせられるが、被写体Oの各点P1、P2から照明74までの距離La、Lbが同じであるため、照明74から被写体Oの各点P1、P2に対する照射光量が一定になっている。このため、被写体Oの点P1、P2に焦点を合わせた撮像画像を同じ明るさで撮像することが可能になっている。
For example, in the case of the
これに対し、図3に示す撮像部81の場合には、照明84から被写体Oまでの距離が固定されているため、被写体Oの焦点が合った位置に対する照射光量にバラツキが生じている。例えば、図3Bでは被写体Oの点P1、図3Cでは被写体Oの点P2にそれぞれ焦点が合わせられるが、被写体Oの各点P1、P2から照明84までの距離La、Lbが異なるため、照明84から被写体Oの点P1、P2に対する照射光量にバラツキが生じる。このように、液体レンズ83を用いた撮像部81では、簡易かつ軽量な構成にできるものの、撮像画像にコントラストを正確に付けることが難しい。
On the other hand, in the case of the
このため、本実施の形態の部品撮像部51では、被写体Oの異なる位置に焦点を合わせたときに当該位置に対する照射光量を一定になるように調節している。これにより、部品撮像部51を簡易かつ軽量な構成にすると共に、部品Pの各位置に焦点を合わせたときに一定の明るさで撮像することができる。また、部品撮像部51で撮像された複数の撮像画像から全焦点画像を生成することで、全焦点画像に明暗のコントラストを精度よく付けることができ、半田ボール92の高さを精度よく求めることができる。
For this reason, in the
以下、図4及び図5を参照して、実装装置に搭載された画像生成装置について詳細に説明する。図4は、本実施の形態の画像生成装置の模式図である。図5は、本実施の形態の撮像画像を示す図である。なお、本実施の形態では、画像生成装置の撮像部として部品撮像部を例示して説明するが、画像生成装置の撮像部は、基板撮像部及びノズル撮像部であってもよい。すなわち、液体レンズを含む撮像部は、基台20に設けてもよいし、実装ヘッド40に設けてもよい。基台20に撮像部を設けた場合は、撮像対象がノズル41やノズル41に吸着された部品Pになる。また、実装ヘッド40に撮像部を設けた場合は、撮像対象が基板Wや、基板Wに実装された部品Pや、部品供給装置11の吸着位置に供給された部品Pになる。なお、全焦点画像の生成は、撮像部を基台20、実装ヘッド40どちらに設けても同じなので、ここでは撮像部を基台20に設けた実施形態を説明する。
Hereinafter, with reference to FIG. 4 and FIG. 5, the image generation apparatus mounted on the mounting apparatus will be described in detail. FIG. 4 is a schematic diagram of the image generation apparatus according to the present embodiment. FIG. 5 is a diagram illustrating a captured image of the present embodiment. In the present embodiment, a component imaging unit will be described as an example of the imaging unit of the image generation device. However, the imaging unit of the image generation device may be a substrate imaging unit and a nozzle imaging unit. That is, the imaging unit including the liquid lens may be provided on the base 20 or the mounting
図4に示すように、画像生成装置50は、実装ヘッド40(図1参照)によって搬送中の部品Pを部品撮像部51によって下側から撮像し、複数の撮像画像から部品Pの全焦点画像を生成するように構成されている。部品撮像部51と部品Pとの高さ方向の距離が固定されているため、部品撮像部51は屈折率が可変可能な液体レンズ55によって焦点位置を動かしながら部品Pを複数回に亘って撮像している。また、部品撮像部51による部品Pの撮像時には、部品Pの焦点を合わせた位置に対する照射光量が一定になるように、液体レンズ55の焦点位置に応じて照明56の明るさが調節されている(これを照明調節手段と称する)。なお、液体レンズ55としては、例えば画角の小さなテレセントリックレンズが使用される。
As illustrated in FIG. 4, the
この場合、照明56の明るさは、照射光量を一定にする際の液体レンズ55の焦点位置(屈折率)と照明56の明るさとの関係を示すテーブルやグラフによって調節される。なお、照明56の明るさは、部品Pの端に設定された着目点の輝度が一定になるように調節されてもよい。このように、照明56の明るさを調節することで、部品撮像部51と部品Pとの距離が固定されていても、高低差のある部品Pに対する焦点を変えた時に、焦点を合わせた位置を同じ照射光量で照らすことができる。また、照明56のシャッターの調整によって照射光量が調整される構成と比較して、タクトタイムを短くすることができる。
In this case, the brightness of the
また、部品撮像部51に近くには高さセンサ52が設けられており、高さセンサ52によって部品Pの上面高さが測定される。なお、基台20側に設けた高さセンサ52は、先に述べた実装ヘッド40に設けた高さセンサ43とその機能は同じである。部品撮像部51は、高さセンサ52によって測定された部品Pの上面高さを基準にして、液体レンズ55の焦点位置を可変している。これにより、オートフォーカスよりも短時間で液体レンズ55の焦点位置を調整することが可能になっている。部品撮像部51の撮像素子57に撮像画像が取り込まれると、制御部60のメモリ61に撮像画像が出力される。このとき、部品撮像部51が搬送中の部品Pを撮像しているため、複数の撮像画像内で部品画像(被写体画像)に位置ズレが生じている。
A
このため、画像生成装置50には、各撮像画像内の部品画像を補正して、複数の撮像画像間で部品画像の座標位置を一致させる画像補正部53が設けられている。図5に示すように、画像補正部53は、例えば、各撮像画像内から部品画像を抽出して、部品画像の中心Cを撮像画像の中心座標に移動させる。このように、各部品画像の全ての画素が各撮像画像内で同一座標に位置付けられるように補正される。この場合、画像補正部53は、撮像時の実装ヘッド40(図1参照)のヘッド位置をエンコーダ等から読み取って、各撮像画像の撮像時のヘッド位置に基づいて部品画像を補正している。
For this reason, the
また、図4に戻り、画像生成装置50には、補正後の複数の撮像画像から、全ての画素について焦点が合った全焦点画像を生成する画像生成部54が設けられている。画像生成部54は、複数の撮像画像から既存のアルゴリズム(例えば、特開2012−023340号公報に記載のアルゴリズム)を用いて全焦点画像を生成する。例えば、複数の撮像画像で各画素のコントラスト値が求められ、複数の撮像画像間で同一画素のコントラスト値が比較される。これにより、各撮像画像で焦点が合った画素(図5参照)が特定されて、これらの画素を合成することによって全焦点画像が生成される。
Returning to FIG. 4, the
また、画像生成部54は、全焦点画像に基づいて部品Pの高さを算出する。この場合、全焦点画像の各画素が同一の照射光量で撮像されているため、全焦点画像からコントラストから部品Pの高さが精度よく算出される。部品Pのパッケージ91から突出した半田ボール92の突出長が算出されることで、全焦点画像から部品Pが立体的に認識される。よって、実装ヘッド40に基板Wに対して、BGA等の半田ボール92が突出した部品Pを精度よく実装させることが可能になっている。また、部品Pを搬送しながら撮像した撮像画像から全焦点画像を生成することができ、タクトタイムを短縮することが可能になっている。
In addition, the
図6及び図7を参照して、画像生成処理について説明する。図6は、本実施の形態のフローチャートの一例を示す図である。図7は、本実施の形態の撮像動作の一例を示す図である。なお、図6の説明においては、図4の符号を適宜使用して説明する。 Image generation processing will be described with reference to FIGS. 6 and 7. FIG. 6 is a diagram illustrating an example of a flowchart of the present embodiment. FIG. 7 is a diagram illustrating an example of an imaging operation according to the present embodiment. In the description of FIG. 6, the reference numerals of FIG. 4 are used as appropriate.
図6に示すように、先ず部品Pに対する撮像処理が実施される。撮像処理では、液体レンズ55の屈折率が可変されて、実装装置1(図1参照)で搬送中の部品Pよりもの奥方に焦点が合わせられる(ステップS01、図7A参照)。次に、焦点が合わせられた位置に対して所定の照射光量になるように、液体レンズ55の焦点位置に応じて照明56の明るさが調節される(ステップS02)。次に、部品Pよりも奥方に焦点が合わせられた状態で、搬送中の部品Pが所定の照射光量で撮像される(ステップS03)。次に、部品Pに対する撮像回数が所定回数以上か否かが判定される(ステップS04)。
As shown in FIG. 6, first, an imaging process for the component P is performed. In the imaging process, the refractive index of the
撮像回数が所定回数に満たない場合には(ステップS04でNo)、液体レンズ55の屈折率が可変されることで、焦点が合う位置(合焦位置)が部品Pの奥方から手前に移動される(ステップS05)。そして、撮像回数が所定回数になるまで、ステップS02からステップS04までの処理が繰り返される。これにより、焦点が合う位置が部品Pに対して奥方から手前に移動されながら、搬送中の部品Pに対して異なる位置に焦点を合わせた複数の撮像画像が撮像される(図7B参照)。搬送中の部品Pが撮像されるため、複数の撮像画像内の部品画像に位置ズレが生じている(図5参照)。
If the number of times of imaging is less than the predetermined number of times (No in step S04), the refractive index of the
一方で、撮像回数が所定回数以上になると(ステップS04でYes)、全焦点画像の画像生成処理が実施される。画像生成処理では、複数の撮像画像内の部品画像の中心Cが撮像画像の中心座標に移動するように補正される(ステップS06)。これにより、各撮像画像内の部品画像の画素が、複数の撮像画像間で同じ位置に揃えられる。次に、複数の撮像画像の焦点が合った画素が合成されることで全焦点画像が生成される(ステップS07)。このとき、全焦点画像の各画素が同一の照射光量で撮像されるため、半田ボール92の高低差が正確なコントラストとして全焦点画像に表れている。そして、全焦点画像に基づいて部品Pの半田ボール92の高さが精度よく算出される(ステップS08)。
On the other hand, when the number of times of imaging is equal to or greater than the predetermined number of times (Yes in step S04), an omnifocal image generation process is performed. In the image generation process, correction is performed so that the center C of the component images in the plurality of captured images moves to the center coordinates of the captured images (step S06). Thereby, the pixel of the component image in each captured image is aligned at the same position among a plurality of captured images. Next, an omnifocal image is generated by combining the focused pixels of the plurality of captured images (step S07). At this time, since each pixel of the omnifocal image is imaged with the same amount of irradiation light, the height difference of the
以上のように、本実施の形態の実装装置1によれば、液体レンズ55の屈折率を変えることによって、部品撮像部51と部品Pとの距離を変えることなく、部品Pに対して異なる位置に焦点が合わせられる。このため、部品Pを複数回に亘って撮像して、複数の撮像画像から全焦点画像を生成することができる。部品撮像部51と部品Pとのいずれかを移動させる駆動機構が不要であるため、簡易かつ軽量な構成で全焦点画像を生成することができる。
As described above, according to the mounting apparatus 1 of the present embodiment, by changing the refractive index of the
なお、本発明は上記実施の形態に限定されず、種々変更して実施することが可能である。上記実施の形態において、添付図面に図示されている大きさや形状などについては、これに限定されず、本発明の効果を発揮する範囲内で適宜変更することが可能である。その他、本発明の目的の範囲を逸脱しない限りにおいて適宜変更して実施することが可能である。 In addition, this invention is not limited to the said embodiment, It can change and implement variously. In the above-described embodiment, the size, shape, and the like illustrated in the accompanying drawings are not limited to this, and can be appropriately changed within a range in which the effect of the present invention is exhibited. In addition, various modifications can be made without departing from the scope of the object of the present invention.
例えば、本実施の形態において、画像生成装置50は、部品撮像部51で撮像された搬送中の部品の複数の撮像画像から全焦点画像を生成する構成について説明したが、この構成に限定されない。画像生成装置は、被写体の異なる位置に焦点を合わせた複数の撮像画像から、被写体の全焦点画像を生成する構成であればよい。例えば、画像生成装置は、基板撮像部44及びノズル撮像部45を撮像部にして、被写体として基板W及び部品Pを複数回に亘って撮像して全焦点画像を生成してもよい。基板Wの全焦点画像から反り量を求めることができ、部品Pの全焦点画像から部品Pの吸着前状態や搭載状態を確認することができる。なお、画像生成装置の撮像部として基板撮像部44及びノズル撮像部45を使用する場合には、実装ヘッド40の高さセンサ43を使用して被写体の上面高さを測定することができる。
For example, in the present embodiment, the
また、本実施の形態において、照明56の明るさを調節することで部品Pに対する照射光量を一定にする構成にしたが、この構成に限定されない。照射光量は、照被写体の異なる位置に焦点が合わせられたときに、当該位置に対して一定になるように調節されていれもよい。例えば、照射光量は、照明56のシャッター時間によって一定になるように調節されてもよいし、シャッタースピードによって一定になるように調節されてもよい。
Moreover, in this Embodiment, although it was set as the structure which makes the irradiation light quantity with respect to the components P constant by adjusting the brightness of the
また、本実施の形態において、全焦点画像から被写体の高さを算出する構成にしたが、全焦点画像から被写体の3次元画像を生成してもよい。 In the present embodiment, the height of the subject is calculated from the omnifocal image, but a three-dimensional image of the subject may be generated from the omnifocal image.
また、本実施の形態において、画像生成装置50を実装装置1に搭載する構成について説明したが、この構成に限定されない。画像生成装置50は、実装装置1以外の装置に搭載されてもよいし、全焦点画像生成の専用装置でもよい。
In the present embodiment, the configuration in which the
また、本実施の形態において、画像生成装置50が、パッケージ91から半田ボール92が突出したBGAの全焦点画像を生成する構成にしたが、他の部品の全焦点画像についても同じ方法で生成することができる。また、被写体は部品Pに限られず、基板Wやその他の撮像対象であればよい。
In the present embodiment, the
また、本実施の形態において、高さセンサ52によって部品Pの上面高さを測定して、上面高さを基準にして、液体レンズ55の焦点位置を調節する構成にしたが、この構成に限定されない。実装装置1のメモリに予め設定された部品Pの高さ等のデータを用いて、液体レンズ55の焦点位置を調整してもよい。
In the present embodiment, the
以上説明したように、本発明は、簡易かつ軽量な構成で全焦点画像を生成することができるという効果を有し、特に、基板に部品を実装する実装装置、実装装置に搭載される画像生成装置、画像生成装置による画像生成方法に有用である。 As described above, the present invention has an effect that an omnifocal image can be generated with a simple and lightweight configuration, and in particular, a mounting apparatus for mounting components on a substrate, and an image generation mounted on the mounting apparatus. It is useful for an image generation method using an apparatus and an image generation apparatus.
1 実装装置
40 実装ヘッド
44 基板撮像部(撮像部)
45 ノズル撮像部(撮像部)
50 画像生成装置
51 部品撮像部(撮像部)
52 高さセンサ
53 画像補正部
54 画像生成部
55 液体レンズ
56 照明
P 部品(被写体)
W 基板(被写体)
DESCRIPTION OF SYMBOLS 1
45 Nozzle imaging unit (imaging unit)
50
52
W Substrate (Subject)
Claims (8)
屈折率が可変可能な液体レンズによって焦点位置を動かしながら前記被写体を複数回に亘って撮像する撮像部と、
前記撮像部で撮像された複数の撮像画像から前記被写体の全焦点画像を生成する画像生成部とを備えることを特徴とする画像生成装置。 An image generation device that generates an omnifocal image of a subject from a plurality of captured images focused on different positions of the subject,
An imaging unit that images the subject a plurality of times while moving a focal position by a liquid lens having a variable refractive index;
An image generation apparatus comprising: an image generation unit configured to generate an omnifocal image of the subject from a plurality of captured images captured by the imaging unit.
前記撮像部が、前記被写体の異なる位置に焦点を合わせたときに当該位置に対する照射光量を一定にすることを特徴とする請求項1に記載の画像生成装置。 The distance between the imaging unit and the subject is fixed,
The image generation apparatus according to claim 1, wherein when the imaging unit focuses on a different position of the subject, the amount of light applied to the position is constant.
前記撮像部が、前記被写体の上面高さを基準にして前記液体レンズの焦点位置を可変することを特徴とする請求項1から請求項3のいずれかに記載の画像生成装置。 A height sensor for measuring the height of the upper surface of the subject;
The image generating apparatus according to claim 1, wherein the imaging unit varies a focal position of the liquid lens with reference to a height of an upper surface of the subject.
前記画像生成部が、補正後の前記複数の撮像画像から前記被写体の全焦点画像を生成することを特徴とする請求項1から請求項4のいずれかに記載の画像生成装置。 An image correction unit that corrects a subject image in each captured image captured during conveyance of the subject and matches the coordinate position of the subject image between the plurality of captured images;
The image generation apparatus according to claim 1, wherein the image generation unit generates an omnifocal image of the subject from the plurality of captured images after correction.
前記被写体としての部品を基板の所定位置まで搬送する実装ヘッドとを備え、
前記画像生成装置で生成された前記全焦点画像に基づいて、前記実装ヘッドが前記基板に前記部品を実装することを特徴とする実装装置。 The image generation device according to any one of claims 1 to 6,
A mounting head for transporting the component as the subject to a predetermined position on the substrate;
The mounting apparatus, wherein the mounting head mounts the component on the substrate based on the omnifocal image generated by the image generation apparatus.
屈折率が可変可能な液体レンズによって焦点位置を動かしながら撮像部で前記被写体を複数回に亘って撮像するステップと、
前記撮像部で撮像された複数の撮像画像から前記被写体の全焦点画像を生成するステップとを備えることを特徴とする画像生成方法。 An image generation method for generating an omnifocal image of a subject from a plurality of captured images focused on different positions of the subject,
Imaging the subject multiple times with an imaging unit while moving the focal position with a liquid lens having a variable refractive index;
And a step of generating an omnifocal image of the subject from a plurality of captured images captured by the imaging unit.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015217407A JP6670590B2 (en) | 2015-11-05 | 2015-11-05 | Image generation device, mounting device, and image generation method |
CN201610963404.XA CN106937525B (en) | 2015-11-05 | 2016-11-04 | Image generation device, installation device, and image generation method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015217407A JP6670590B2 (en) | 2015-11-05 | 2015-11-05 | Image generation device, mounting device, and image generation method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017092131A true JP2017092131A (en) | 2017-05-25 |
JP6670590B2 JP6670590B2 (en) | 2020-03-25 |
Family
ID=58771038
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015217407A Active JP6670590B2 (en) | 2015-11-05 | 2015-11-05 | Image generation device, mounting device, and image generation method |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6670590B2 (en) |
CN (1) | CN106937525B (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112532968A (en) * | 2019-09-18 | 2021-03-19 | 华为技术有限公司 | Surface shape calibration method for liquid lens in lens module |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS62140008A (en) * | 1985-12-16 | 1987-06-23 | Komatsu Ltd | Method for confirming object |
JP2960684B2 (en) * | 1996-08-02 | 1999-10-12 | 株式会社日立製作所 | Three-dimensional shape detection method and device |
JP2010066156A (en) * | 2008-09-11 | 2010-03-25 | Nikon Corp | Profile measuring apparatus |
JP2011086847A (en) * | 2009-10-19 | 2011-04-28 | Juki Corp | Electronic component mounting apparatus |
JP2012023340A (en) * | 2010-06-15 | 2012-02-02 | Juki Corp | Electronic component mounting device |
WO2015040696A1 (en) * | 2013-09-18 | 2015-03-26 | 富士機械製造株式会社 | Component mounting machine |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3961729B2 (en) * | 1999-03-03 | 2007-08-22 | 株式会社デンソー | All-focus imaging device |
CN102364297B (en) * | 2010-06-15 | 2016-09-28 | Juki株式会社 | Electronic component mounting apparatus |
-
2015
- 2015-11-05 JP JP2015217407A patent/JP6670590B2/en active Active
-
2016
- 2016-11-04 CN CN201610963404.XA patent/CN106937525B/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS62140008A (en) * | 1985-12-16 | 1987-06-23 | Komatsu Ltd | Method for confirming object |
JP2960684B2 (en) * | 1996-08-02 | 1999-10-12 | 株式会社日立製作所 | Three-dimensional shape detection method and device |
JP2010066156A (en) * | 2008-09-11 | 2010-03-25 | Nikon Corp | Profile measuring apparatus |
JP2011086847A (en) * | 2009-10-19 | 2011-04-28 | Juki Corp | Electronic component mounting apparatus |
JP2012023340A (en) * | 2010-06-15 | 2012-02-02 | Juki Corp | Electronic component mounting device |
WO2015040696A1 (en) * | 2013-09-18 | 2015-03-26 | 富士機械製造株式会社 | Component mounting machine |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112532968A (en) * | 2019-09-18 | 2021-03-19 | 华为技术有限公司 | Surface shape calibration method for liquid lens in lens module |
CN112532968B (en) * | 2019-09-18 | 2021-09-14 | 华为技术有限公司 | Surface shape calibration method for liquid lens in lens module |
Also Published As
Publication number | Publication date |
---|---|
CN106937525B (en) | 2020-07-10 |
JP6670590B2 (en) | 2020-03-25 |
CN106937525A (en) | 2017-07-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6138127B2 (en) | Component mounter | |
JP5776089B2 (en) | Component mounting equipment | |
WO2014174598A1 (en) | Component mounting device, mounting head, and control device | |
WO2012023251A1 (en) | Component-mounting device and component-detection method | |
JP6147927B2 (en) | Component data generation apparatus, surface mounter, and component data generation method | |
JP6190229B2 (en) | Component mounting equipment | |
TWI709835B (en) | Methods of positioning components in desired positions on a board, pick and place machines, and sensors for such pick and place machines | |
TWI639366B (en) | Installation method of electronic parts | |
JP6849815B2 (en) | How to determine the component mounting device, shooting method, and mounting order | |
JP6670590B2 (en) | Image generation device, mounting device, and image generation method | |
JP2009094295A (en) | Apparatus for measuring height of electronic component | |
JP7181292B2 (en) | Flatness acquisition system and mounter | |
JP6615321B2 (en) | Board working apparatus and component mounting apparatus | |
JP2006140391A (en) | Component recognition device and component mounting apparatus | |
JP2006024619A (en) | Method and apparatus for mounting electronic component | |
JP5254106B2 (en) | Electronic component mounting equipment | |
JP2022170080A (en) | Component mounter | |
JP6912993B2 (en) | Component mounting device | |
JP2006120995A (en) | Electronic component mounting apparatus | |
CN109257921B (en) | Electronic component mounting apparatus and electronic component mounting method | |
JP7142454B2 (en) | Mounting equipment, mounting method | |
JP2014017396A (en) | Electronic component mounting apparatus | |
JP2023089746A (en) | Image recognition device and component mounting machine | |
JP6896468B2 (en) | Parts mounting machine, parts recognition method, parts recognition program | |
JP2009085689A (en) | Three-dimensional measuring device for electronic component |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181023 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190606 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190730 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190912 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200218 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200302 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6670590 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |