WO2013118610A1 - 画像転送方法および画像転送装置 - Google Patents

画像転送方法および画像転送装置 Download PDF

Info

Publication number
WO2013118610A1
WO2013118610A1 PCT/JP2013/051863 JP2013051863W WO2013118610A1 WO 2013118610 A1 WO2013118610 A1 WO 2013118610A1 JP 2013051863 W JP2013051863 W JP 2013051863W WO 2013118610 A1 WO2013118610 A1 WO 2013118610A1
Authority
WO
WIPO (PCT)
Prior art keywords
region
interest
image
output
expanded
Prior art date
Application number
PCT/JP2013/051863
Other languages
English (en)
French (fr)
Inventor
篤規 平野
重元 廣田
泰弘 山下
伸夫 長坂
神藤 高広
Original Assignee
富士機械製造株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士機械製造株式会社 filed Critical 富士機械製造株式会社
Priority to US14/376,756 priority Critical patent/US20140347466A1/en
Priority to EP13746822.9A priority patent/EP2814237B1/en
Priority to CN201380008434.XA priority patent/CN104106258B/zh
Publication of WO2013118610A1 publication Critical patent/WO2013118610A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K1/00Printed circuits
    • H05K1/02Details
    • H05K1/0266Marks, test patterns or identification means
    • H05K1/0269Marks, test patterns or identification means for visual or optical inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0084Digital still camera

Definitions

  • the present invention relates to an image transfer method and an image transfer apparatus for transferring image data from an image sensor, and more particularly to a method and an apparatus for transferring image data of a region of interest set in an imaging region.
  • a solder printing apparatus a component mounting apparatus, a reflow apparatus, a board inspection apparatus, and the like as a board production apparatus that produces a board on which a large number of electronic components are mounted.
  • a substrate production line is constructed by connecting them with a substrate transfer device.
  • Many board production apparatuses are equipped with a camera for recognizing various marks and codes assigned to the board and inspecting the state of the board and components.
  • a camera generally includes an image sensor that has two-dimensionally arranged image sensors (Pixel Array) and digitally converts and outputs pixel data of each image sensor, and transfers images at high speed.
  • the processing content to be applied to the substrate changes after judging the situation of the captured image, so high-speed image transfer is an important factor for improving the production efficiency.
  • the entire image data of the imaging area of the camera is not required, so the area of interest is set and only a part of the image data is transferred to reduce the amount of data to be transferred and to further increase the speed. There are also attempts.
  • Patent Document 1 One example of an imaging apparatus (camera) that outputs image data by setting this type of region of interest is disclosed in Patent Document 1.
  • the imaging apparatus of Patent Literature 1 includes a self-information storage unit that stores the number of set regions (regions of interest), a use region setting unit that stores region information for setting a region to be used, and a command from the outside And first and second response means for changing / modifying the area information and means for outputting the image data set in the area information based on the IEEE (American Institute of Electrical and Electronics Engineers) standard. ing.
  • the second and subsequent claims disclose various means using packet communication as specific means. Thus, it is described that the user-friendliness can be improved even though there are a plurality of areas for imaging the subject.
  • image data of a partial area within the imaging area can be output in units of packets, and cannot be output in units of packets. Accordingly, the area cannot be set in units of packets, and the operability when setting a desired arbitrary area of interest is lowered (not convenient). Further, it is necessary to store the image data output in units of packets once in the storage device and then to convert the image data into the image data of the region of interest. For this reason, in the board
  • Patent Document 1 does not disclose a specific output method when a plurality of regions of interest overlap.
  • a CMOS element, a CCD element, or the like is used as the image pickup element, and the pixel data disappears when output once. Therefore, if pixel data of two overlapping regions of interest are output separately, the overlapping pixel data in the region of interest to be output later has already disappeared, and a correct image cannot be obtained. Even if the image sensor can output two or more times, it is inefficient to output the overlapped portion twice, and the required output time is increased accordingly.
  • the present invention has been made in view of the above problems of the background art, and can be arbitrarily set a region of interest to be transferred within an imaging region of an image sensor, and is also suitable for a case where a plurality of regions of interest overlap. It is another object of the present invention to provide an image transfer method and an image transfer apparatus that can reduce the transfer time.
  • the invention of the image transfer method according to claim 1 for solving the above-described problem is to image an imaging region of a subject using a large number of image sensors, and collect a certain number of pixel data obtained by each of the image sensors into a data block, An image transfer method from an image sensor that outputs each data block, a transfer region setting step for setting a region of interest to be transferred in the imaging region using a unit less than the predetermined number, and the region of interest An expanded region of interest that is expanded and represented as a unit of the data block, and an area expansion step of obtaining an expanded range from the region of interest to the expanded region of interest; and imaging with the image sensor; and The pixel data is obtained by each of the imaging elements that have captured the image, and the pixel data included in the extended region of interest is collected into the data block An image step; an output step of outputting a data block included in the extended region of interest from the image sensor; and an extended range erasure for erasing pixel data of the extended range from the output data block to obtain an image of the
  • the invention according to claim 2 is the method according to claim 1, wherein when a plurality of regions of interest are set in the transfer region setting step and a plurality of expanded regions of interest obtained in the region expansion step are overlapped, Subsequent to the region expanding step, the method further includes a region optimizing step of converting the plurality of expanded regions of interest into non-overlapping regions without overlapping, and in the outputting step, the expanded regions of interest are replaced with the non-overlapping regions. Output included data blocks.
  • the image sensor includes a plurality of the image pickup devices arranged in a straight line in the X-axis direction on an XY orthogonal coordinate axis and in a plurality of rows in the Y-axis direction.
  • a two-dimensional arrangement, a plurality of imaging elements arranged in a straight line in the X-axis direction is divided into a predetermined number of block elements, and pixel data of the block elements is defined as the data block.
  • the transfer region setting step a rectangular region of interest parallel to the X axis and the Y axis is set, and in the region expanding step, the rectangular region of interest is expanded in the X axis direction to obtain a rectangular expanded region of interest
  • the output step first, the Y-axis coordinate value of the image sensor to be output is fixed to the minimum value of the expanded region of interest, and the X-axis coordinate value is changed from one of the minimum value and the maximum value of the expanded region of interest to the other.
  • the data block of the first column is output, and then the Y-axis coordinate value of the image sensor to be output is increased by one image sensor and fixed, and the X-axis coordinate value is set to the minimum value and maximum value of the expanded region of interest.
  • the data block in the second column is output by changing one of the values from the other to the other, and the data block in each column is output until the Y-axis coordinate value of the imaging device to be output reaches the maximum value of the expanded region of interest. Is repeated to output all the data blocks included in the rectangular expanded region of interest.
  • a plurality of rectangular expanded regions of interest obtained by the region extending step are overlapped by setting a plurality of rectangular regions of interest in the transfer region setting step.
  • the method further includes a region optimization step for converting the plurality of rectangular expanded regions of interest into a rectangular non-overlapping region that does not overlap and does not continue in the X-axis direction, following the region expanding step.
  • the output step all data blocks included in the rectangular non-overlapping area are output instead of the rectangular extended region of interest.
  • the invention according to claim 5 is the imaging method according to claim 4, wherein the region optimization step uses all X-axis coordinate values and Y-axis coordinate values indicating boundaries of the plurality of rectangular extended regions of interest.
  • Area subdivision substep for subdividing the area into a plurality of grid-like subareas, and an area classification substep for classifying each subarea into a necessary small area within the expanded region of interest and an unnecessary small area outside the expanded region of interest
  • An X-axis direction connection sub-step for connecting a plurality of necessary small areas continuing in the X-axis direction and replacing them with new necessary small areas, and an X-axis coordinate value indicating the boundary continuing in the Y-axis direction.
  • Y-axis direction connection substep for connecting a plurality of necessary small areas that are the same and replacing them with new necessary small areas, and the necessary small areas after completion of the X-axis direction connection substep and the Y-axis direction connection substep
  • Non-overlapping area of the rectangle Has a region determined substep of, a.
  • the invention of the image transfer apparatus according to claim 6 for solving the above-described problem is to image an imaging region of a subject using a large number of image sensors, and collect a certain number of pixel data obtained by each of the image sensors into a data block, A region of interest to be transferred in the imaging region using an image sensor that outputs each data block and a large number of the pixel data obtained by a large number of imaging elements that capture the imaging region, using the unit less than the predetermined number.
  • Transfer area setting means for setting the area of interest, and an area expansion means for expanding the area of interest to obtain an expanded area of interest expressed as a unit of the data block and for obtaining an extended range from the area of interest to the expanded area of interest
  • Output means for outputting a data block included in the expanded region of interest from the image sensor; Clear the extended range of the pixel data having a extended range erasing means for obtaining an image of the region of interest.
  • a seventh aspect of the present invention when a plurality of regions of interest are set by the transfer region setting unit and a part of the plurality of expanded regions of interest obtained by the region expanding unit overlap. And an area optimizing unit that operates following the region expanding unit and converts the plurality of expanded regions of interest into non-overlapping regions without overlap, and the output unit replaces the expanded region of interest with the region of interest. Output data blocks contained in non-overlapping areas.
  • the image sensor is arranged in a plurality of lines in the X-axis direction on the XY orthogonal coordinate axis and arranged in a plurality of rows in the Y-axis direction to form a two-dimensional arrangement.
  • a plurality of image pickup devices a multiplexer unit that switches and selects a block element group obtained by dividing a plurality of image pickup devices arranged linearly in the X-axis direction into the predetermined number, and a block selected by the multiplexer unit
  • a predetermined number of AD converters for digitizing pixel data of each image element of the element group, and the transfer area setting means sets a rectangular region of interest parallel to the X axis and the Y axis
  • the area expanding unit expands the rectangular region of interest in the X-axis direction to obtain a rectangular expanded region of interest
  • the output unit first calculates the Y-axis coordinate value of the imaging device to be output as the expanded region of interest.
  • the pixel data of each image element of the block element group in the first column is digitized and output by the AD converter, and then the Y-axis coordinate value of the image sensor to be output is captured one time.
  • the pixel data of each image element in the block element group in the second column is digitized and output by the AD converter, and the Y-axis coordinate value of the imaging element to be output is By repeating the output of the pixel data of each image element in the block element group of each column until the maximum value of the expanded region of interest is reached, all data blocks included in the rectangular expanded region of interest are output.
  • the invention according to claim 9 is the method according to claim 8, wherein a plurality of rectangular regions of interest are set by the transfer region setting unit, and a part of the plurality of rectangular expanded regions of interest obtained by the region expanding unit is obtained.
  • a region optimizing unit that operates following the region expanding unit and converts the plurality of rectangular expanded regions of interest into rectangular non-overlapping regions that do not overlap and do not continue in the X-axis direction when overlapping.
  • the output means outputs all the data blocks included in the rectangular non-overlapping area instead of the rectangular expanded region of interest.
  • the extended range erasing means is configured using a field-programmable gate array.
  • the region of interest can be set using a unit less than a certain number, and at this time, the expanded region of interest is obtained and the data block included in the expanded region of interest is output from the image sensor and output.
  • An image of the region of interest can be obtained by erasing the extended range of pixel data from the data block. Therefore, the region of interest can be arbitrarily set without being aware of a certain number of data blocks. Further, since the output data block is the minimum necessary, the transfer time can be shortened compared to the case of transferring the pixel data of the entire imaging region.
  • a large number of image sensors are two-dimensionally arranged on the XY orthogonal coordinate axes, a rectangular region of interest is set, and an expanded region of interest expanded in the X-axis direction is obtained.
  • the region optimization step includes five sub-steps, and a plurality of overlapping rectangular extended regions of interest are not overlapped and do not overlap in the X-axis direction. Convert to area. Since the number of non-overlapping areas obtained by this is minimized and optimized, data blocks can be output without unnecessarily subdividing the areas, transfer control is simplified, and transfer time can be reduced.
  • the unit of interest is used by using a unit less than a certain number.
  • a region can be set.
  • an extended region of interest is obtained and a data block included in the expanded region of interest is output from the image sensor, and an image of the region of interest is obtained by erasing pixel data in the extended range from the output data block.
  • the region of interest can be arbitrarily set without being aware of a certain number of data blocks.
  • the output data block is the minimum necessary, the transfer time can be shortened compared to the case of transferring the pixel data of the entire imaging region.
  • the present invention can be implemented both as a method and an apparatus.
  • a large number of image sensors are two-dimensionally arranged on the XY orthogonal coordinate axes, a rectangular region of interest is set, and an expanded region of interest expanded in the X-axis direction is obtained.
  • the extended range erasing means is configured using a field programmable gate array.
  • the field programmable gate array passes through the data block that does not include the extended range, and erases only the pixel data in the extended range of the data block that includes the extended range.
  • software processing for erasing the pixel data in the extended range is performed. Therefore, according to this aspect, it is not necessary to spend extra time for software processing or the like to erase the pixel data in the extended range, and the transfer time can be shortened.
  • FIG. 1 is a block diagram illustrating an overall functional configuration of an image transfer apparatus according to an embodiment. It is a figure explaining the setting method of a region of interest, and how to obtain an extended region of interest. It is a figure explaining the output order of the pixel data of an extended region of interest. It is a figure explaining the image transfer method of an embodiment. It is a figure explaining the setting of a several region of interest, and has shown the case where a some extended region of interest does not overlap. It is a figure explaining the setting of a some region of interest, and has shown the case where a some extended region of interest has overlapped.
  • FIG. 1 is a hardware configuration diagram of an image sensor 2 used in the image transfer apparatus 1 according to the embodiment.
  • the image sensor 2 includes a pixel array 21, an X-axis scanning circuit 22, a Y-axis scanning circuit 23, a preprocessing unit 24, an AD converter 25, a block output unit 26, and the like.
  • the pixel array 21 has a two-dimensional arrangement in which Nx image sensors 211 are linearly arranged in the X-axis direction on the XY orthogonal coordinate axes and Ny columns are arranged in the Y-axis direction.
  • FIG. 1 illustrates the image sensors 211 up to the third in the X-axis direction and up to the third column in the Y-axis direction, and actually there are a total of (Nx ⁇ Ny) image sensors 211.
  • the image sensor 211 for example, a CMOS element for detecting light and shade is used, and analog amount of pixel data can be obtained.
  • the imaging element 211 is. Other types of elements such as CCD elements may be used.
  • the X-axis scanning circuit 22 selects and controls the coordinate value in the X-axis direction (X-axis coordinate value) in the pixel array 21 and switches the transmission of pixel data from the image sensor 211.
  • the Y-axis scanning circuit 23 selectively controls coordinate values in the Y-axis direction (Y-axis coordinate values) in the pixel array 21 to switch the columns of the image sensor 211. Accordingly, pixel data is sent to the preprocessing unit 24 only from the specific image sensor 211.
  • the preprocessing unit 24 amplifies the pixel data and sends it to the AD converter 25. Further, the preprocessing unit 24 can perform gain adjustment and offset adjustment.
  • the AD converter 25 converts the analog amount of pixel data into, for example, a 10-bit digital signal and sends it to the block output unit 26. However, the AD converter 25 may have a resolution different from 10 bits.
  • the blocking output unit 26 collects a certain number of K digital signals into data blocks and outputs the data blocks for each data block. Therefore, the blocked output unit 26 cannot designate only a specific image sensor 211 and output only the pixel data, but in units of data blocks including a certain number K (K) of image sensors 221 as a group. Is output.
  • a control unit (not shown) is provided in the image sensor 2. .
  • the control unit controls to sequentially output pixel data in units of data blocks based on an external command.
  • the control unit first fixes the Y-axis coordinate value of the Y-axis scanning circuit 23 to the first column of the minimum value, sequentially increases the X-axis coordinate value from the first to the Kth, and sets the first column of the Y-axis coordinate value.
  • the pixel data of the first K image sensors 221 are sequentially sent to the preprocessing unit 24.
  • the preprocessing unit 24 and the AD converter 25 sequentially operate to send K digital signals to the block output unit 26.
  • the block output unit 26 operates to collect the first data blocks and output them as image data.
  • control unit sequentially increases the X-axis coordinate value from the (K + 1) th to the (2K) th, and sequentially sends pixel data of the K image sensors 221 in the second block to the preprocessing unit 24.
  • preprocessing unit 24 and the AD converter 25 operate to send K digital signals to the block output unit 26.
  • the blocking output unit 26 operates to collect the second data block and output it as image data.
  • the control unit When the output of all the Nx pixel data in the first column of the Y-axis coordinate values is completed by repeating this, the control unit next increases the Y-axis coordinate value by one image sensor to the second column. Fix it. Then, the control unit returns the X-axis coordinate value from the first to the Kth and outputs from the block output unit 26. Next, the control unit changes the X-axis coordinate value from the (K + 1) th to the (2K) th and performs output from the block output unit 26, and subsequently performs output by sequentially increasing the X-axis coordinate value. . Further, the image sensor 2 repeats the same operations as those in the first and second columns after the third column of Y-axis coordinate values, and thereby outputs up to the Ny-th column which is the maximum value of the Y-axis coordinate values. .
  • FIG. 2 is a block diagram illustrating an overall functional configuration of the image transfer apparatus 1 according to the embodiment.
  • the image transfer apparatus 1 includes an image sensor 2, a transfer area setting unit 3, an area expansion unit 4, an area storage setting unit 5, an extended range erasing unit (FPGA) 6, and an area optimization unit 7.
  • the image of the region of interest RI is transferred to a transfer destination such as an external storage device.
  • FIG. 3A is a diagram for explaining a method of setting the region of interest RI and how to obtain the extended region of interest RE
  • FIG. 3B is a diagram for explaining the output order of the pixel data of the region of interest RE.
  • the transfer area setting means 3 is a means for setting a region of interest RI to be transferred in the imaging area using a unit of less than a certain number K for a large number of pixel data obtained by a large number of imaging elements 211 that have imaged the imaging area. It is.
  • the region of interest RI can be set for each image sensor 211.
  • the transfer area setting unit 3 indicates an arbitrary start point boundary value XS1 and end point boundary value XE1 (1 ⁇ XS1 ⁇ XE1 ⁇ Nx) indicated by coordinate values in the X axis direction, and coordinate values in the Y axis direction.
  • the transfer area setting unit 3 is, for example, a higher-level device that is separate from the image sensor 2.
  • the transfer area setting unit 3 commands the region of interest RI set in the area expansion unit 4.
  • the region expansion means 4 expands the rectangular region of interest RI in the X-axis direction to obtain a rectangular expanded region of interest RE.
  • the region expanding means 4 expands the region of interest RI to generate data when the start point boundary value XS1 and the end point boundary value XE1 in the X-axis direction of the region of interest RI do not coincide with the boundary of the data block.
  • the expanded region of interest RE matched with the block boundary is obtained, and its start point boundary value xs1 and end point boundary value xe1 are obtained. As a result, it is possible to eliminate an output of less than a data block unit from the image sensor 2.
  • the end point boundary value xe1 is a value that is a multiple of a certain number K, and is a value that is expanded to the side larger than the end point boundary value XE1 of the region of interest by the end point side extended range Exe.
  • the area expanding means 4 can be realized by software of a control unit (not shown) arranged integrally with the image sensor 2, for example.
  • the output is performed for each column in the Y-axis direction, it is not necessary to expand the region of interest RI, and the initial boundary value YS1 and the end point boundary value YE1 set initially are used in setting the expanded region of interest RE.
  • the area storage setting means 5 includes the above-described start point boundary value xs1 and end point boundary value xe1 in the X-axis direction, the start point side extension range Exs and the end point side extension range Exe, and the start point boundary value in the Y axis direction. YS1 and end point boundary value YE1 are stored. Further, the area storage setting unit 5 sets these values xs1, xe1, Exs, Exe, YS1, and YE1 in the image sensor 2 and the extended range erasing unit 6.
  • the area storage setting unit 5 can be realized by, for example, software of a control unit (not shown) and a memory unit which are arranged integrally with the image sensor 2.
  • the image sensor 2 After imaging, the image sensor 2 is included in the expanded region of interest RE based on the start point boundary value xs1, the end point boundary value xe1, the start point boundary value YS1, and the end point boundary value YE1 set from the region storage setting unit 5. Output data blocks in order. Specifically, as shown in FIG. 3B, the image sensor 2 first fixes the Y-axis coordinate value to the start point boundary value YS1, which is the minimum value of the expanded region of interest RE, and sets the X-axis coordinate value of the expanded region of interest.
  • the data is changed from the start point boundary value xs1 that is the minimum value to the end point boundary value xe1 that is the maximum value, and the four data blocks in the first column (DB1 to DB4 in the figure) are sequentially output.
  • the image sensor 2 fixes the Y-axis coordinate value to the coordinate value (YS1 + 1) increased by one image sensor, and sequentially outputs the four data blocks (DB5 to DB8 in the figure) in the second column. To do. Further, the image sensor 2 repeats the output of the data blocks in each column and outputs up to the last data block (DBlast in the figure) of the end point boundary value YE1 having the maximum Y-axis coordinate value. Therefore, the output means of the present invention is realized by the cooperation of the image sensor 2 and the area storage command means 5.
  • the extended range erasing means 6 erases the pixel data of the start point side extended range Exs and the end point side extended range Exe from the output data block to obtain an image of the region of interest RI.
  • the extended range erasing means 6 is configured using a field programmable gate array (FPGA).
  • a field programmable gate array is a type of programmable logic device.
  • the extended range erasing unit 6 operates based on the setting from the area storage setting unit 5.
  • the extension range erasing means 6 passes through the data block that does not include the start point side extension range Exs and the end point side extension range Exe during the data block transfer, and sets the start point side extension range Exs and the end point side extension range Exe.
  • the area optimization unit 7 is integrated into the area expansion unit 4.
  • the region optimizing unit 7 sets a plurality of regions of interest RI by the transfer region setting unit 3, and when a part of the plurality of expanded regions of interest RE obtained by the region expanding unit 4 overlaps, the region expanding unit 4 is followed.
  • the region optimizing unit 7 converts the plurality of expanded regions of interest RE into non-overlapping regions that do not overlap.
  • the region storage setting unit 5 stores and sets a non-overlapping region instead of the expanded region of interest RE.
  • the function of the area optimization unit 7 will be described in detail later in conjunction with the description of the image transfer operation.
  • FIG. 4 is a flowchart illustrating an image transfer method according to the embodiment.
  • the transfer area setting means 3 sets a region of interest RI to be transferred in the imaging area using a unit less than a certain number K of the imaging element 211. Specifically, the start point boundary value XS1 and the end point boundary value XE1 in the X axis direction of the region of interest RI, and the start point boundary value YS1 and the end point boundary value YE1 in the Y axis direction are set.
  • FIG. 4 is a flowchart illustrating an image transfer method according to the embodiment.
  • FIG. 5A is a diagram for explaining the setting of a plurality of regions of interest RI, and shows a case where a plurality of expanded regions of interest RE1 and RE2 do not overlap.
  • FIG. 5B is a diagram illustrating the setting of a plurality of regions of interest RI, and shows a case where a plurality of expanded regions of interest RD1 and RD2 overlap.
  • FIG. 5C is a diagram for explaining setting of a plurality of regions of interest RI, and shows a case where the case of FIG. 5B is converted into non-overlapping regions RN1 to RN3 having no overlap.
  • four boundary values XS1, XE1, YS1, and YE1 are set for each region of interest RI.
  • the region expansion means 4 expands the region of interest RI to obtain an expanded region of interest RE expressed as a unit of a data block, and expands the region of interest from the region of interest RI to the expanded region of interest RE.
  • the start point boundary value xs1 and end point boundary value xe1 and the start point side extended range Exs and end point side extended range Exe of the expanded region of interest RE are obtained, and the region together with the start point boundary value YS1 and end point boundary value YE1 in the Y-axis direction.
  • the storage setting means 5 Store in the storage setting means 5.
  • step S3 it is determined whether or not there is an overlap of the expanded region of interest RE.
  • the region of interest RI illustrated in FIG. 3A is one, and when the plurality of expanded regions of interest RE1 and RE2 illustrated in FIG. 5A do not overlap, the next region optimization step S4 is unnecessary, and region setting is performed. Proceed to step S5.
  • the region storage setting means 5 sets the start point boundary value xs1 and end point boundary value xe1 in the X-axis direction of one extended region of interest RE or a plurality of non-overlapping extended regions of interest RE1, RE2, and the start point.
  • the side extension range Exs, the end point side extension range Exe, and the start point boundary value YS1 and end point boundary value YE1 in the Y-axis direction are set in the image sensor 2 and the extension range erasing means 6. This completes preparations for imaging and image data transfer.
  • the image sensor 2 performs imaging and obtains pixel data with each imaging element 221 that images the imaging region. Then, the blocked output unit 26 collects the pixel data included in the expanded regions of interest RE, RE1, and RE2 into data blocks. In the next output step S ⁇ b> 7, the image sensor 2 outputs the data blocks in order from the blocking output unit 26.
  • the operation of collecting the pixel data into the data blocks in the imaging step S6 and the operation of outputting the data blocks in the output step S7 are repeated a number of times corresponding to the number of data blocks in the extended region of interest RE, RE1, RE2.
  • the extended range erasing means 6 erases the pixel data of the start side extended range Exs and the end point side extended range Exe from the data block being transferred. Thereby, an image of the region of interest RI is obtained at the transfer destination.
  • the magnitude relationship between the boundary values in the X-axis direction is xs1 ⁇ xs2 ⁇ xe1 ⁇ xe2, and the magnitude relationship between the boundary values in the Y-axis direction is ys1 ⁇ ys2 ⁇ ye1 ⁇ ye2. That is, the two expanded regions of interest overlap in the range of xs2 to xe1 in the X-axis direction and the range of ys2 to ye1 in the Y-axis direction (shown with hatching in the figure).
  • the image sensor 2 outputs the pixel data of the first and second extended regions of interest RD1 and RD2 separately in this order. Then, in the second extended region of interest RD2 to be output later, the overlapping pixel data has already disappeared, so that a correct image cannot be obtained at the transfer destination. Accordingly, in the region optimization step S4, the region optimization unit 7 converts the first and second expanded regions of interest RD1, RD2 into three non-overlapping regions RN1, RN2, RN3 having no overlap shown in FIG. 5C. .
  • FIG. 6 is a flowchart for explaining detailed substeps of the region optimization step S4.
  • FIG. 7 illustrates four expanded regions of interest Rd1 to Rd4 before starting the region optimization step S4, and
  • FIG. 8 illustrates the necessary small regions after performing the region subdivision substep Ss1 and the region classification substep Ss2. Is illustrated.
  • FIG. 9 exemplifies necessary small areas after performing the X-axis direction coupling sub-step Ss3
  • FIG. 10 exemplifies non-overlapping areas Rn1 to Rn6 after performing the area determination sub-step Ss5.
  • the imaging region Rtot is divided into a plurality of grid-like small areas using all the boundary values in the X-axis direction and the Y-axis direction of the first to fourth expanded regions of interest Rd1 to Rd4.
  • Subdivide into region rs There are eight boundary values in the X-axis direction and the Y-axis direction, respectively, and each can be easily subdivided into small regions rs by sorting in ascending order and arranging them in ascending order. The result of subdivision is as shown in FIG.
  • hatching is given to the three regions of the small region rs (1, 1), the small region rs (2, 6), and the small region rs (6, 3) for convenience.
  • each small region rs (x, y) is divided into necessary small regions inside the first to fourth expanded regions of interest Rd1 to Rd4 and the first to fourth expanded regions of interest Rd1 to Rd4. It is classified as an external unnecessary small area.
  • the small region rs (1, 1) and the small region rs (2, 1) are classified as necessary small regions in the first expanded region of interest Rd1, and the small region rs (3, 1) to the small region are classified.
  • the five areas in the X-axis direction up to rs (7, 1) are classified as unnecessary small areas.
  • the small region rs (2, 3) is a portion where the first and second expanded regions of interest Rd1 and Rd2 overlap and is classified as a necessary small region.
  • 27 necessary small areas are marked with a circle.
  • a plurality of necessary small areas continuing in the X-axis direction are connected and replaced with new necessary small areas.
  • the necessary small area rs (1,1) and the necessary small area rs (2,1) continuing in the X-axis direction are connected to form a necessary small area rs (n1,1).
  • the necessary small area rs (1,2) and the necessary small area rs (2,2) continuing in the X-axis direction are connected to form a necessary small area rs (n1,2).
  • the required small region rs (5, 2), the necessary small region rs (6, 2), and the necessary small region rs (7, 2) are connected to form a necessary small region rs (n5, 2).
  • the seven regions that continue in the X-axis direction from the necessary small region rs (1,3) to the necessary small region rs (7,3) are connected to form the necessary small region rs (n1,3).
  • the plurality of necessary small areas are replaced with new necessary small areas rs (n2, 4), necessary small areas rs (n2, 5), and necessary small areas rs (n4, 7).
  • the 27 required small areas rs marked with a circle in FIG. 8 are replaced with the seven new required small areas rs shown in FIG.
  • next Y-axis direction connecting sub-step Ss4 a plurality of necessary small areas that continue in the Y-axis direction and have the same X-axis coordinate value indicating the boundary are connected and replaced with new necessary small areas.
  • the two small regions are combined.
  • the new necessary small area rs (n1, n1) there is no necessary small area where the start point boundary value and the end point boundary value in the X-axis direction are the same.
  • the number of necessary small regions rs is six.
  • the six necessary small regions rs after the completion of the X-axis direction connection substep Ss3 and the Y-axis direction connection substep Ss4 are defined as rectangular non-overlapping regions Rn1 to Rn6.
  • the necessary small region rs (n1, n1) is set as the first non-overlapping region Rn1, and the other necessary small regions rs are similarly used in the second to sixth non-overlapping regions Rn2 to Change to Rn6.
  • the process proceeds to region setting step S5 in the flowchart of FIG. 4, and in output step S7, data blocks of non-overlapping regions Rn1 to Rn6 are output.
  • images of four regions of interest can be obtained at the transfer destination even if data blocks are output in each of the 27 necessary small regions rs without performing the X-axis direction connection sub-step Ss3 and subsequent steps.
  • 27 patterns of transfer control settings are required, and the transfer control becomes complicated and the required transfer time is extended.
  • the transfer control can be set in 6 patterns, so that the transfer control is simplified and the transfer time is shortened. .
  • the region of interest RI can be set in units of the image sensor 211.
  • the expanded regions of interest RE, RE1, and RE2 are obtained and the expanded region of interest RE is obtained from the image sensor.
  • RE1 and RE2 are output, and the pixel data of the extended ranges Exs and Exe are erased from the output data blocks to obtain an image of the region of interest RI. Therefore, the region of interest RI can be arbitrarily set without considering the number of pixel data K in the data block. Further, since the output data block is the minimum necessary, the transfer time can be shortened compared to the case where the pixel data of the entire imaging region Rtot is transferred.
  • the image transfer apparatus 1 converts the non-overlapping regions RN1 to RN3 and Rn1 to Rn6 that do not overlap when a part of the plurality of extended regions of interest RD1, RD2, and Rd1 to Rd4 overlaps, Data blocks included in the non-overlapping areas RN1 to RN3 and Rn1 to Rn6 are output. Therefore, data blocks without excess or deficiency can be output for the plurality of expanded regions of interest RD1, RD2, Rd1 to Rd4, and an accurate image of the plurality of regions of interest can be obtained, and the transfer time can be shortened. .
  • the image sensor 2 of the embodiment has a large practical effect because a large number of image sensors 221 are two-dimensionally arranged on the XY orthogonal coordinate axes.
  • the region optimization step S4 includes five sub-steps Ss1 to Ss5, and a plurality of overlapping rectangular extended regions of interest Rd1 to Rd4 are not overlapped and do not continue in the X-axis direction. Conversion to overlapping regions Rn1 to Rn6. Since the number of non-overlapping areas Rn1 to Rn6 thus obtained is optimized by minimizing, the image transfer apparatus 1 can output data blocks without unnecessarily subdividing the areas, and the transfer control is simplified. Transfer time can be shortened.
  • the extended range erasing means 6 since the extended range erasing means 6 is configured using a field programmable gate array, it does not require extra time such as software processing to erase the pixel data of the extended ranges Exs and Exe, and the transfer time is reduced. Can be shortened.
  • the transfer area setting means 3, the area expansion means 4, the area storage setting means 5, and the area optimization means 7 can be appropriately configured by software, and various setting methods and arithmetic processing methods can be applied. Is possible. Further, the extended range erasing means 6 is not limited to the field programmable gate array. In addition, the present invention can be variously applied and modified.
  • the image transfer method and the image transfer apparatus of the present invention can be suitably used for a substrate production apparatus or a substrate production line that performs a predetermined production process on a substrate based on image data obtained by imaging with a camera (image sensor).
  • an image transfer method and an image transfer apparatus according to the present invention include a process monitoring apparatus that monitors a production status by referring to a part of imaging data of an imaging area of an image sensor for a wide range of products other than substrates, and an image sensor.
  • the present invention can be widely used for an image inspection apparatus that determines the quality of a product based on some image data.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

 本発明は、多数の撮像素子で得られる画素データを一定数ずつデータブロックにまとめて出力するイメージセンサからの画像転送方法であって、一定数未満の単位を用いて関心領域を設定する転送領域設定ステップと、関心領域を拡張してデータブロックを一単位として表される拡張関心領域を求めるとともに、関心領域から拡張関心領域への拡張範囲を求める領域拡張ステップと、イメージセンサで撮像を行う撮像ステップと、イメージセンサから拡張関心領域に含まれるデータブロックを出力する出力ステップと、出力されたデータブロックから拡張範囲の画素データを消去して関心領域の画像を得る拡張範囲消去ステップと、を有する。これにより、イメージセンサの撮像領域内に転送対象となる関心領域を任意に設定でき、かつ複数の関心領域が重なる場合にも適合して、転送所要時間を短縮できる。

Description

画像転送方法および画像転送装置
 本発明は、イメージセンサから画像データを転送する画像転送方法および画像転送装置に関し、より詳細には、撮像領域内に設定された関心領域の画像データを転送する方法および装置に関する。
 多数の電子部品が実装された基板を生産する基板生産装置として、はんだ印刷装置、部品実装装置、リフロー装置、基板検査装置などがある。これらを基板搬送装置で連結して基板生産ラインを構築する場合が多い。基板生産装置の多くは、基板に付与された各種のマークやコードを認識したり、基板や部品の状態を検査したりするためにカメラを備えている。カメラは、二次元配置された撮像素子(Pixel Array)を有して各撮像素子の画素データをディジタル変換して出力するイメージセンサを備え、高速で画像を転送するのが一般的である。特に、基板生産ラインでは、撮像した画像の状況を判定して次に基板に施す処理内容が変化するので、画像の高速転送は生産効率向上の重要なファクターとなっている。また、カメラの撮像領域の全体の画像データを必要としない場合が多いので、関心領域を設定して一部の画像データのみを転送して転送データ量を削減し、一層の高速化を図ることも試みられている。
 この種の関心領域を設定して画像データを出力する撮像装置(カメラ)の一技術例が特許文献1に開示されている。特許文献1の撮像装置は、設定した領域(関心領域)の領域数を格納した自己情報格納部と、使用する領域を設定する領域情報を格納した使用領域設定部と、外部からの指令に応じて領域情報を変更・修正制御する第1および第2の応答手段と、領域情報で設定されている画像データをIEEE(米国電気電子技術者学会)の規格に基づいて出力する手段とを具備している。さらに、請求項2以降には、具体的な手段としてパケット通信を用いた各種手段が開示されている。これにより、被写体を撮像する領域を複数有するも、使い勝手を向上できる、と記載されている。
特開2006-109001号公報
 ところで、特許文献1の撮像装置によれば、撮像領域内の一部分の領域の画像データをパケット単位で出力でき、パケット単位未満の出力はできない。したがって、領域をパケット単位未満で設定できず、所望する任意の関心領域を設定するときの操作性が低下する(使い勝手がよくない)。また、パケット単位で出力された画像データを記憶装置に一度記憶させ、次いで関心領域の画像データに変換する必要が生じて手間取る。このため、特許文献1の撮像装置を用いた基板生産ラインでは、生産効率が向上しない。
 また、特許文献1には、複数の関心領域が重なっている場合の具体的な出力方法が開示されていない。通常、撮像素子にはCMOS素子やCCD素子などが用いられており、画素データは1回出力すると消失する。したがって、重なっている2つの関心領域の画素データを別々に出力すると、後から出力する関心領域では重なっている部分の画素データが既に消失していて、正しい画像が得られない。また、仮に撮像素子で2回以上の出力が可能であったとしても、重なっている部分を2回出力することは非効率であり、その分だけ出力所要時間が延びる。
 本発明は、上記背景技術の問題点に鑑みてなされたもので、イメージセンサの撮像領域内に転送対象となる関心領域を任意に設定でき、かつ複数の関心領域が重なる場合にも適合して、転送所要時間を短縮できる画像転送方法および画像転送装置を提供することを解決すべき課題とする。
 上記課題を解決する請求項1に係る画像転送方法の発明は、多数の撮像素子を用いて被写体の撮像領域を撮像し、各前記撮像素子で得られる画素データを一定数ずつデータブロックにまとめ、データブロックごとに出力するイメージセンサからの画像転送方法であって、前記一定数未満の単位を用いて前記撮像領域内に転送対象となる関心領域を設定する転送領域設定ステップと、前記関心領域を拡張して前記データブロックを一単位として表される拡張関心領域を求めるとともに、前記関心領域から前記拡張関心領域への拡張範囲を求める領域拡張ステップと、前記イメージセンサで撮像を行い、前記撮像領域を撮像した各前記撮像素子で前記画素データを得て、前記拡張関心領域に含まれる画素データを前記データブロックにまとめる撮像ステップと、前記イメージセンサから前記拡張関心領域に含まれるデータブロックを出力する出力ステップと、出力されたデータブロックから前記拡張範囲の画素データを消去して前記関心領域の画像を得る拡張範囲消去ステップと、を有する。
 請求項2に係る発明は、請求項1において、前記転送領域設定ステップで複数個の関心領域を設定して前記領域拡張ステップで求めた複数個の拡張関心領域の一部が重なった場合に、前記領域拡張ステップに続き、前記複数個の拡張関心領域を重なりの無い非重複領域に変換する領域最適化ステップをさらに有し、前記出力ステップで、前記拡張関心領域に代えて前記非重複領域に含まれるデータブロックを出力する。
 請求項3に係る発明は、請求項1において、前記イメージセンサは、前記多数の撮像素子をX-Y直交座標軸上のX軸方向に直線状に複数個配置するとともにY軸方向に複数列配置して二次元配置とし、X軸方向に直線状に配置された複数個の撮像素子を前記一定数ごとに区分してブロック素子群とし、前記ブロック素子群の画素データを前記データブロックとしており、前記転送領域設定ステップで、X軸およびY軸に平行な矩形の関心領域を設定し、前記領域拡張ステップで、前記矩形の関心領域をX軸方向に拡張して矩形の拡張関心領域を求め、前記出力ステップで、まず出力対象となる撮像素子のY軸座標値を前記拡張関心領域の最小値に固定し、X軸座標値を前記拡張関心領域の最小値および最大値の一方から他方まで変化させて第1列のデータブロックを出力し、次に前記出力対象となる撮像素子のY軸座標値を1撮像素子分だけ増加させて固定し、X軸座標値を前記拡張関心領域の最小値および最大値の一方から他方まで変化させて第2列のデータブロックを出力し、さらに前記出力対象となる撮像素子のY軸座標値が前記拡張関心領域の最大値になるまで各列のデータブロックの出力を繰返すことにより、前記矩形の拡張関心領域に含まれる全てのデータブロックを出力する。
 請求項4に係る発明は、請求項3において、前記転送領域設定ステップで複数個の矩形の関心領域を設定して前記領域拡張ステップで求めた複数個の矩形の拡張関心領域の一部が重なった場合に、前記領域拡張ステップに続き、前記複数個の矩形の拡張関心領域を、重なりが無くかつX軸方向に続いていない矩形の非重複領域に変換する領域最適化ステップをさらに有し、前記出力ステップで、前記矩形の拡張関心領域に代えて前記矩形の非重複領域に含まれる全てのデータブロックを出力する。
 請求項5に係る発明は、請求項4において、前記領域最適化ステップは、前記複数個の矩形の拡張関心領域の境界を示す全てのX軸座標値およびY軸座標値を用いて、前記撮像領域を格子状の複数の小領域に細分する領域細分サブステップと、各小領域を前記拡張関心領域内の必要小領域と、前記拡張関心領域外の不要小領域とに分類する領域分類サブステップと、X軸方向に続いている複数の必要小領域を連結して新たな必要小領域に置換するX軸方向連結サブステップと、Y軸方向に続いておりかつ境界を示すX軸座標値が同じである複数の必要小領域を連結して新たな必要小領域に置換するY軸方向連結サブステップと、X軸方向連結サブステップおよびY軸方向連結サブステップが終了した後の必要小領域を前記矩形の非重複領域とする領域確定サブステップと、を有する。
 上記課題を解決する請求項6に係る画像転送装置の発明は、多数の撮像素子を用いて被写体の撮像領域を撮像し、各前記撮像素子で得られる画素データを一定数ずつデータブロックにまとめ、データブロックごとに出力するイメージセンサと、前記撮像領域を撮像した多数の撮像素子で得られる多数の前記画素データについて、前記一定数未満の単位を用いて前記撮像領域内に転送対象となる関心領域を設定する転送領域設定手段と、前記関心領域を拡張して前記データブロックを一単位として表される拡張関心領域を求めるとともに、前記関心領域から前記拡張関心領域への拡張範囲を求める領域拡張手段と、前記イメージセンサから前記拡張関心領域に含まれるデータブロックを出力する出力手段と、出力されたデータブロックから前記拡張範囲の画素データを消去して前記関心領域の画像を得る拡張範囲消去手段と、を有する。
 請求項7に係る発明は、請求項6において、前記転送領域設定手段で複数個の関心領域を設定して、前記領域拡張手段で求めた複数個の拡張関心領域の一部が重なった場合に、前記領域拡張手段に続いて動作し、前記複数個の拡張関心領域を重なりの無い非重複領域に変換する領域最適化手段をさらに有し、前記出力手段は、前記拡張関心領域に代えて前記非重複領域に含まれるデータブロックを出力する。
 請求項8に係る発明は、請求項6において、前記イメージセンサは、X-Y直交座標軸上のX軸方向に直線状に複数個配置されるとともにY軸方向に複数列配置されて二次元配置とされた多数の撮像素子と、X軸方向に直線状に配置された複数個の撮像素子を前記一定数ごとに区分したブロック素子群を切り替えて選択するマルチプレクサ部と、マルチプレクサ部で選択したブロック素子群の各画像素子の画素データをそれぞれディジタル化する一定数に等しい個数のAD変換器とを備え、前記転送領域設定手段は、X軸およびY軸に平行な矩形の関心領域を設定し、前記領域拡張手段は、前記矩形の関心領域をX軸方向に拡張して矩形の拡張関心領域を求め、前記出力手段は、まず出力対象となる撮像素子のY軸座標値を前記拡張関心領域の最小値に固定し、第1列のブロック素子群の各画像素子の画素データを前記AD変換器でディジタル化して出力し、次に前記出力対象となる撮像素子のY軸座標値を1撮像素子分だけ増加させて固定し、第2列のブロック素子群の各画像素子の画素データを前記AD変換器でディジタル化して出力し、さらに前記出力対象となる撮像素子のY軸座標値が前記拡張関心領域の最大値になるまで各列のブロック素子群の各画像素子の画素データの出力を繰返すことにより、前記矩形の拡張関心領域に含まれる全てのデータブロックを出力する。
 請求項9に係る発明は、請求項8において、前記転送領域設定手段で複数個の矩形の関心領域を設定して、前記領域拡張手段で求めた複数個の矩形の拡張関心領域の一部が重なった場合に、前記領域拡張手段に続いて動作し、前記複数個の矩形の拡張関心領域を、重なりが無くかつX軸方向に続いていない矩形の非重複領域に変換する領域最適化手段をさらに有し、前記出力手段は、前記矩形の拡張関心領域に代えて前記矩形の非重複領域に含まれる全てのデータブロックを出力する。
 請求項10に係る発明は、請求項6~9のいずれか一項において、前記拡張範囲消去手段がフィールドプログラマブルゲートアレイ(Field-Programmable Gate Array)を用いて構成されている。
 請求項1に係る画像転送方法の発明では、一定数未満の単位を用いて関心領域を設定でき、このとき拡張関心領域を求めてイメージセンサから拡張関心領域に含まれるデータブロックを出力し、出力されたデータブロックから拡張範囲の画素データを消去して関心領域の画像を得ることができる。したがって、データブロックの一定数を意識せずに関心領域を任意に設定できる。また、出力されるデータブロックは必要最小限とされるので、撮像領域全体の画素データを転送する場合よりも転送所要時間を短縮できる。
 請求項2に係る発明では、複数個の拡張関心領域の一部が重なった場合に、重なりの無い非重複領域に変換し、非重複領域に含まれるデータブロックを出力する。したがって、複数個の拡張関心領域に対して過不足のないデータブロックを出力し、複数個の関心領域の正確な画像を得ることができるとともに、転送所要時間を短縮できる。
 請求項3に係る発明では、イメージセンサは、多数の撮像素子をX-Y直交座標軸上に二次元配置しており、矩形の関心領域を設定して、X軸方向に拡張した拡張関心領域を求め、拡張関心領域に含まれる全てのデータブロックを出力する。したがって、実用的な直交二次元の撮像領域内に矩形の関心領域を任意に設定でき、また、必要最小限のデータブロックの画素データを転送するので転送所要時間を短縮でき、実用的効果が大きい。
 請求項4に係る発明では、実用的な直交二次元の撮像領域内で複数個の矩形の関心領域が重なった場合に、重なりの無い矩形の非重複領域に変換し、非重複領域に含まれるデータブロックを出力する。したがって、過不足のないデータブロックを出力し、複数個の関心領域の正確な画像を得ることができるとともに、転送所要時間を短縮でき、実用的効果が大きい。
 請求項5に係る発明では、領域最適化ステップは、5つのサブステップを有して、重なりの有る複数個の矩形の拡張関心領域を重なりが無くかつX軸方向に続いていない矩形の非重複領域に変換する。これにより得られる非重複領域の領域数は最小となって最適化されるので、不必要に領域を細分することなくデータブロックを出力でき、転送制御が簡潔となって転送所要時間を短縮できる。
 請求項6に係る画像転送装置の発明では、イメージセンサ、転送領域設定手段、領域拡張手段、出力手段、および拡張範囲消去手段で画像転送装置を構成するので、一定数未満の単位を用いて関心領域を設定でき、このとき拡張関心領域を求めてイメージセンサから拡張関心領域に含まれるデータブロックを出力し、出力されたデータブロックから拡張範囲の画素データを消去して関心領域の画像を得ることができる。したがって、データブロックの一定数を意識せずに関心領域を任意に設定できる。また、出力されるデータブロックは必要最小限とされるので、撮像領域全体の画素データを転送する場合よりも転送所要時間を短縮できる。本発明は、方法としても装置としても実施することができる。
 請求項7に係る発明では、複数個の拡張関心領域の一部が重なった場合に、重なりの無い非重複領域に変換し、非重複領域に含まれるデータブロックを出力する。したがって、複数個の拡張関心領域に対して過不足のないデータブロックを出力し、複数個の関心領域の正確な画像を得ることができるとともに、転送所要時間を短縮できる。
 請求項8に係る発明では、イメージセンサは、多数の撮像素子をX-Y直交座標軸上に二次元配置しており、矩形の関心領域を設定して、X軸方向に拡張した拡張関心領域を求め、拡張関心領域に含まれる全てのデータブロックを出力する。したがって、実用的な直交二次元の撮像領域内に矩形の関心領域を任意に設定でき、また、必要最小限のデータブロックの画素データを転送するので転送所要時間を短縮でき、実用的効果が大きい。
 請求項9に係る発明では、実用的な直交二次元の撮像領域内で複数個の矩形の関心領域が重なった場合に、重なりの無い矩形の非重複領域に変換し、非重複領域に含まれるデータブロックを出力する。したがって、過不足のないデータブロックを出力し、複数個の関心領域の正確な画像を得ることができるとともに、転送所要時間を短縮でき、実用的効果が大きい。
 請求項10に係る発明では、拡張範囲消去手段がフィールドプログラマブルゲートアレイを用いて構成されている。フィールドプログラマブルゲートアレイは、転送途中において、拡張範囲を含まないデータブロックをスルーし、拡張範囲を含むデータブロックの拡張範囲の画素データのみを消去する。これに対して従来技術では、データブロックの全画素データをメモリ装置に転送した後に、拡張範囲の画素データを消去するソフトウェア処理を実施していた。したがって、本態様によれば、拡張範囲の画素データを消去するためにソフトウェア処理などの余分な時間を要せず、転送所要時間を短縮できる。
実施形態の画像転送装置に用いるイメージセンサのハードウェア構成図である。 実施形態の画像転送装置の全体機能構成を示すブロック図である。 関心領域の設定方法および拡張関心領域の求め方を説明する図である。 拡張関心領域の画素データの出力順序を説明する図である。 実施形態の画像転送方法を説明するフローチャートの図である。 複数の関心領域の設定を説明する図であり、複数の拡張関心領域が重ならない場合を示している。 複数の関心領域の設定を説明する図であり、複数の拡張関心領域が重なっている場合を示している。 複数の関心領域の設定を説明する図であり、図5Bの場合を重なりの無い非重複領域に変換した場合を示している。 領域最適化ステップの詳細なサブステップを説明するフローチャートの図である。 領域最適化ステップを開始する以前の4つの拡張関心領域を例示した図である。 領域細分化サブステップおよび領域分類サブステップを実施した後の必要小領域を例示した図である。 X軸方向連結サブステップを実施した後の必要小領域を例示した図である。 領域確定サブステップを実施した後の非重複領域を例示した図である。
 本発明の実施形態の画像転送装置1および画像転送方法について、図1~図10を参考にして説明する。図1は、実施形態の画像転送装置1に用いるイメージセンサ2のハードウェア構成図である。イメージセンサ2は、ピクセルアレイ21、X軸走査回路22、Y軸走査回路23、前処理部24、AD変換器25、およびブロック化出力部26などで構成されている。
 ピクセルアレイ21は、撮像素子211がX-Y直交座標軸上のX軸方向に直線状にNx個配置されるとともにY軸方向にNy列配置された二次元配置とされている。図1には、X軸方向の3個目まで、Y軸方向の第3列までの撮像素子211が例示されており、実際には撮像素子211は全部で(Nx・Ny)個ある。撮像素子211には、例えば濃淡検出用のCMOS素子を用い、アナログ量の画素データを得ることができる。なお、撮像素子211は。CCD素子など他の方式の素子を用いてもよい。
 X軸走査回路22は、ピクセルアレイ21中のX軸方向の座標値(X軸座標値)を選択制御して、撮像素子211からの画素データの送出を切り替える。Y軸走査回路23は、ピクセルアレイ21中のY軸方向の座標値(Y軸座標値)を選択制御して、撮像素子211の列を切り替える。これにより、特定の撮像素子211のみから画素データが前処理部24に送出される。前処理部24は、画素データを増幅してAD変換器25に送出する。また、前処理部24では、ゲイン調整およびオフセット調整が行えるようになっている。
 AD変換器25は、アナログ量の画素データを例えば10ビットのディジタル信号に変換してブロック化出力部26に送出する。これに限定されず、AD変換器25は10ビットと異なる分解能を有していてもよい。ブロック化出力部26は、ディジタル信号を一定数のK個ずつデータブロックにまとめ、データブロックごとに出力する。したがって、ブロック化出力部26は、特定の撮像素子211だけを指定してその画素データのみを出力することはできず、一定数K(K個)の撮像素子221をまとまりとしたデータブロック単位での出力を行う。
 イメージセンサ2のX軸走査回路22、Y軸走査回路23、AD変換器25、およびブロック化出力部26の動作を制御するために、イメージセンサ2内に図略の制御部が設けられている。制御部は、外部からの指令に基づいて、データブロック単位で画素データを順次出力するように制御する。
 例えば、外部からの指令で撮像領域全体すなわち全ての撮像素子211が出力対象とされた場合について説明する。制御部は、まずY軸走査回路23のY軸座標値を最小値の第1列に固定し、X軸座標値を1番目からK番目まで順次増加させ、Y軸座標値の第1列の最初のK個の撮像素子221の画素データを順次前処理部24に送出する。これにより、前処理部24およびAD変換器25が順次動作してK個のディジタル信号をブロック化出力部26に送出する。次いで、ブロック化出力部26が動作し、最初のデータブロックをまとめ、画像データとして出力する。次に、制御部は、X軸座標値を(K+1)番目から(2K)番目まで順次増加させ、2ブロックめのK個の撮像素子221の画素データを順次前処理部24に送出する。これにより、前処理部24およびAD変換器25が動作してK個のディジタル信号をブロック化出力部26に送出する。次いで、ブロック化出力部26が動作し、2ブロックめのデータブロックをまとめ、画像データとして出力する。
 これを繰返して、Y軸座標値の第1列のNx個の全ての画素データの出力が終了すると、制御部は、次にY軸座標値を1撮像素子分だけ増加させて第2列に固定する。そして、制御部は、X軸座標値を1番目からK番目までに戻してブロック化出力部26からの出力を行う。次いで、制御部は、X軸座標値を(K+1)番目から(2K)番目までに変更してブロック化出力部26からの出力を行い、以下は順次X軸座標値を増加させて出力を行う。さらに、イメージセンサ2は、Y軸座標値の第3列以降も、第1および第2列と同様の動作を繰り返すことにより、Y軸座標値の最大値である第Ny列までの出力を行う。
 実施形態の画像転送装置1および画像転送方法においては、イメージセンサ2の撮像領域全体の画像データを必要としない場合に、関心領域RIを設定して画像データの一部のみを転送する。図2は、実施形態の画像転送装置1の全体機能構成を示すブロック図である。図2に示されるように、画像転送装置1は、イメージセンサ2、転送領域設定手段3、領域拡張手段4、領域記憶設定手段5、拡張範囲消去手段(FPGA)6、および領域最適化手段7などで構成されており、外部記憶装置などの転送先に関心領域RIの画像を転送する。図3Aは関心領域RIの設定方法および拡張関心領域REの求め方を説明する図であり、図3Bは拡張関心領域REの画素データの出力順序を説明する図である。
 転送領域設定手段3は、撮像領域を撮像した多数の撮像素子211で得られる多数の画素データについて、一定数K未満の単位を用いて撮像領域内に転送対象となる関心領域RIを設定する手段である。関心領域RIは、撮像素子211の1個単位で設定できる。具体的に、転送領域設定手段3は、X軸方向の座標値で示される任意の始点境界値XS1および終点境界値XE1(1≦XS1≦XE1≦Nx)、ならびにY軸方向の座標値で示される任意の始点境界値YS1および終点境界値YE1(1≦YS1≦YE1≦Ny)を設定する。したがって、関心領域RIは、X軸およびY軸に平行し、かつ境界を含んだ矩形になる。転送領域設定手段3は、例えば、イメージセンサ2とは別体の上位装置がその役割を担う。転送領域設定手段3は、領域拡張手段4に設定した関心領域RIを指令する。
 領域拡張手段4は、矩形の関心領域RIをX軸方向に拡張して矩形の拡張関心領域REを求める。図3Aに示されるように、領域拡張手段4は、関心領域RIのX軸方向の始点境界値XS1および終点境界値XE1がデータブロックの境界と一致しないときに、関心領域RIを拡張してデータブロックの境界に一致させた拡張関心領域REとし、その始点境界値xs1および終点境界値xe1を求める。これにより、イメージセンサ2からデータブロック単位未満の出力を無くすことができる。
 ここで、
   始点境界値xs1=K・ks+1=XS1-Exs
   終点境界値xe1=K・ke  =XE1+Exe
        (ただし、ksとkeは整数、Exs<K、Exe<K)
つまり、始点境界値xs1は、一定数Kの倍数に1を加算した値であって、かつ関心領域の始点境界値XS1よりも始点側拡張範囲Exs分だけ小さい側に拡げた値となる。また、終点境界値xe1は、一定数Kの倍数の値であって、かつ関心領域の終点境界値XE1よりも終点側拡張範囲Exe分だけ大きい側に拡げた値となる。領域拡張手段4は、例えば、イメージセンサ2と一体的に配置される図略の制御部のソフトウェアによって実現することができる。なお、Y軸方向に関しては1列ごとの出力となるため、関心領域RIを拡げる必要はなく、拡張関心領域REの設定では当初に設定された始点境界値YS1および終点境界値YE1を用いる。
 領域記憶設定手段5は、前述した拡張関心領域REのX軸方向の始点境界値xs1および終点境界値xe1、ならびに始点側拡張範囲Exsおよび終点側拡張範囲Exe、さらにはY軸方向の始点境界値YS1および終点境界値YE1を記憶する。さらに、領域記憶設定手段5は、これらの値xs1、xe1、Exs、Exe、YS1、YE1をイメージセンサ2および拡張範囲消去手段6に設定する。領域記憶設定手段5は、例えば、イメージセンサ2と一体的に配置される図略の制御部のソフトウェアおよびメモリ部によって実現することができる。
 イメージセンサ2は、撮像を行った後に、領域記憶設定手段5から設定された始点境界値xs1および終点境界値xe1と始点境界値YS1および終点境界値YE1とに基づいて、拡張関心領域REに含まれるデータブロックを順番に出力する。具体的には、図3Bに示されるように、イメージセンサ2は、まずY軸座標値を拡張関心領域REの最小値である始点境界値YS1に固定し、X軸座標値を拡張関心領域の最小値である始点境界値xs1から最大値である終点境界値xe1まで変化させ、第1列の4つのデータブロック(図中のDB1~DB4)を順番に出力する。次に、イメージセンサ2は、Y軸座標値を1撮像素子分だけ増加させた座標値(YS1+1)に固定し、第2列の4つのデータブロック(図中のDB5~DB8)を順番に出力する。さらに、イメージセンサ2は、各列のデータブロックの出力を繰返し、Y軸座標値が最大値である終点境界値YE1の最後のデータブロック(図中のDBlast)までを出力する。したがって、イメージセンサ2および領域記憶指令手段5の協働により、本発明の出力手段が実現されている。
 拡張範囲消去手段6は、出力されたデータブロックから始点側拡張範囲Exsおよび終点側拡張範囲Exeの画素データを消去して関心領域RIの画像を得る。拡張範囲消去手段6は、フィールドプログラマブルゲートアレイ(FPGA)を用いて構成されている。フィールドプログラマブルゲートアレイは、プログラマブルロジックデバイスの一種である。拡張範囲消去手段6は、領域記憶設定手段5からの設定に基づいて動作する。拡張範囲消去手段6は、データブロックの転送途中において、始点側拡張範囲Exsおよび終点側拡張範囲Exeを含まないデータブロックをそのままスルー(通過)させ、始点側拡張範囲Exsおよび終点側拡張範囲Exeを含むデータブロックの拡張範囲Exs、Exeの画素データのみを消去する。これにより、転送先に転送される画像データは関心領域RIに限定され、設定された関心領域RIに対して過不足のない画像が得られる。
 領域最適化手段7は、領域拡張手段4に一体的に組み込まれている。領域最適化手段7は、転送領域設定手段3で複数個の関心領域RIを設定して、領域拡張手段4で求めた複数個の拡張関心領域REの一部が重なった場合に、領域拡張手段4に続いて動作する。領域最適化手段7は、複数個の拡張関心領域REを重なりの無い非重複領域に変換する。この場合、領域記憶設定手段5は、拡張関心領域REに代えて非重複領域を記憶および設定する。領域最適化手段7の機能に関しては、後で画像転送動作の説明に合わせて詳述する。
 次に、実施形態の画像転送装置1による画像転送動作、すなわち実施形態の画像転送方法について説明する。図4は、実施形態の画像転送方法を説明するフローチャートの図である。図4の転送領域設定ステップS1で、転送領域設定手段3は、撮像素子211の一定数K未満の単位を用いて撮像領域内に転送対象となる関心領域RIを設定する。具体的には、関心領域RIのX軸方向の始点境界値XS1および終点境界値XE1、ならびY軸方向の始点境界値YS1および終点境界値YE1を設定する。図5Aは、複数の関心領域RIの設定を説明する図であり、複数の拡張関心領域RE1、RE2が重ならない場合を示している。図5Bは、複数の関心領域RIの設定を説明する図であり、複数の拡張関心領域RD1、RD2が重なっている場合を示している。図5Cは、複数の関心領域RIの設定を説明する図であり、図5Bの場合を重なりの無い非重複領域RN1~RN3に変換した場合を示している。複数の関心領域RIを設定する場合は、それぞれの関心領域RIについて4つの境界値XS1、XE1、YS1、YE1を設定する。
 次の領域拡張ステップS2で、領域拡張手段4は、関心領域RIを拡張してデータブロックを一単位として表される拡張関心領域REを求めるとともに、関心領域RIから拡張関心領域REへの拡張範囲を求める。具体的には、拡張関心領域REの始点境界値xs1および終点境界値xe1、ならびに始点側拡張範囲Exsおよび終点側拡張範囲Exeを求め、Y軸方向の始点境界値YS1および終点境界値YE1とともに領域記憶設定手段5に記憶する。
 次にステップS3で、拡張関心領域REの重なりが有るか否かを判定する。図3Aに例示される関心領域RIが1つの場合、および図5Aに例示される複数の拡張関心領域RE1、RE2が重ならない場合には、次の領域最適化ステップS4は不要であり、領域設定ステップS5に進む。
 次の領域設定ステップS5で、領域記憶設定手段5は、1つの拡張関心領域REまたは重なっていない複数の拡張関心領域RE1、RE2のX軸方向の始点境界値xs1および終点境界値xe1、ならびに始点側拡張範囲Exsおよび終点側拡張範囲Exe、さらにはY軸方向の始点境界値YS1および終点境界値YE1をイメージセンサ2および拡張範囲消去手段6に設定する。これで、撮像および画像データ転送を行うための準備が整う。
 次の撮像ステップS6で、イメージセンサ2は撮像を行い、撮像領域を撮像した各撮像素子221で画素データを得る。そして、ブロック化出力部26で、拡張関心領域RE、RE1、RE2に含まれる画素データをデータブロックにまとめる。次の出力ステップS7で、イメージセンサ2は、ブロック化出力部26から順番にデータブロックを出力する。撮像ステップS6で画素データをデータブロックにまとめる動作、ならびに出力ステップS7でデータブロックを出力する動作は、拡張関心領域RE、RE1、RE2のデータブロックのブロック数に相当する回数だけ繰返される。
 次の拡張範囲消去ステップS8で、拡張範囲消去手段6は、転送途中のデータブロックから始点側拡張範囲Exsおよび終点側拡張範囲Exeの画素データを消去する。これにより、転送先では関心領域RIの画像が得られる。次に、ステップS9で関心領域RIが変更されたか否かを判定し、変更された場合は転送領域設定ステップS1に戻る。また、変更されていない場合は撮像ステップS6に戻り、連続的に次の撮像を行うことができる。
 次に、2つ拡張関心領域RD1、RD2が重なっている場合の実施形態の画像転送装置1による画像転送動作、すなわち実施形態の画像転送方法について説明する。2つ拡張関心領域RD1、RD2が重なっている場合にも、図4のフローチャートにしたがって動作し、領域最適化ステップS4を行う点が異なる。図5Bに例示されるように、転送領域設定ステップS1で設定された2つの関心領域を領域拡張ステップS2で拡張し、第1拡張関心領域RD1の境界値xs1、xe1、ys1、ye1、および第2拡張関心領域RD2の境界値xs2、xe2、ys2、ye2が得られた場合を想定する。このとき、X軸方向の境界値の大小関係は、xs1<xs2<xe1<xe2であり、Y軸方向の境界値の大小関係は、ys1<ys2<ye1<ye2となっている。つまり、X軸方向のxs2~xe1の範囲、およびY軸方向のys2~ye1の範囲で2つの拡張関心領域が重なっている(図中にハッチングを付して表示)。
 ここで、イメージセンサ2が第1および第2拡張関心領域RD1、RD2の画素データをこの順番で別々に出力した場合を仮定する。すると、後から出力する第2拡張関心領域RD2では重なっている部分の画素データが既に消失しているため、転送先では正しい画像が得られない。したがって、領域最適化ステップS4で、領域最適化手段7は、第1および第2拡張関心領域RD1、RD2を、図5Cに示される重なりの無い3つの非重複領域RN1、RN2、RN3に変換する。この例では、第1非重複領域RN1の境界値xs1、xe1、ys1、ys2、第2非重複領域RN2の境界値xs1、xe2、ys2、ye1、第3非重複領域RN3の境界値xs2、xe2、ye1、ye2となる。
 上述の場合は比較的容易に非重複領域RN1~RN3を求められるが、基になる関心領域RIの領域数が増加した場合にも適合する領域最適化ステップS4(領域最適化手段7)の一般的方法について以下に説明する。図6は、領域最適化ステップS4の詳細なサブステップを説明するフローチャートの図である。また、図7は領域最適化ステップS4を開始する以前の4つの拡張関心領域Rd1~Rd4を例示し、図8は領域細分化サブステップSs1および領域分類サブステップSs2を実施した後の必要小領域を例示している。さらに、図9はX軸方向連結サブステップSs3を実施した後の必要小領域を例示し、図10は領域確定サブステップSs5を実施した後の非重複領域Rn1~Rn6を例示している。
 まず、4つの関心領域RIが設定されて、4つの拡張関心領域Rd1~Rd4に拡げられ、それぞれの境界値が図7に例示されるように下記の値であった場合を想定する。
     第1拡張関心領域Rd1の境界値xs1、xe1、ys1、ye1
     第2拡張関心領域Rd2の境界値xs2、xe2、ys2、ye2
     第3拡張関心領域Rd3の境界値xs3、xe3、ys3、ye3
     第4拡張関心領域Rd4の境界値xs4、xe4、ys4、ye4
   ただし、
     xs1<xs2<xe1<xs4<xs3<xe2<xe4<xe3
     ys1<ys3<ys2<ye1<ye3<ye2<ys4<ye4
 すると、図6の領域細分サブステップSs1では、第1~第4拡張関心領域Rd1~Rd4の全てのX軸方向およびY軸方向の境界値を用いて、撮像領域Rtotを格子状の複数の小領域rsに細分する。X軸方向およびY軸方向の境界値は各8個あり、それぞれ昇順でソートして小さい順番に並べることで、容易に小領域rsに細分することができる。細分した結果は図8に示されるとおりであり、小領域rsの領域数は49個(=7×7)となり、小領域rs(x,y)と記す(ただし、x=1~7、y=1~7)。図8には、小領域rs(1,1)、小領域rs(2,6)、および小領域rs(6,3)の3領域にハッチングを便宜的に付して例示した。
 次の領域分類サブステップSs2では、各小領域rs(x,y)を第1~第4拡張関心領域Rd1~Rd4の内部の必要小領域と、第1~第4拡張関心領域Rd1~Rd4の外部の不要小領域とに分類する。図8では、例えば、小領域rs(1,1)および小領域rs(2,1)は第1拡張関心領域Rd1内の必要小領域に分類され、小領域rs(3,1)から小領域rs(7,1)までのX軸方向に続く5領域は不要小領域に分類される。また例えば、小領域rs(2,3)は、第1および第2拡張関心領域Rd1、Rd2が重なっている部分であり、必要小領域に分類される。図8では、分類した結果として、27個の必要小領域に○印を付して示した。
 次のX軸方向連結サブステップSs3では、X軸方向に続いている複数の必要小領域を連結して新たな必要小領域に置換する。具体的に、X軸方向に続いている必要小領域rs(1,1)および必要小領域rs(2,1)を連結して必要小領域rs(n1,1)とする。同様に、X軸方向に続いている必要小領域rs(1,2)および必要小領域rs(2,2)を連結して必要小領域rs(n1,2)とする。また、必要小領域rs(5,2)、必要小領域rs(6,2)、および必要小領域rs(7,2)の3領域を連結して必要小領域rs(n5,2)とする。また、必要小領域rs(1,3)から必要小領域rs(7,3)までのX軸方向に続く7領域を連結して必要小領域rs(n1,3)とする。以下同様にして、複数の必要小領域を新たな必要小領域rs(n2,4)、必要小領域rs(n2,5)、および必要小領域rs(n4,7)に置換する。これにより、図8で○印を付した27個の必要小領域rsは、図9に示される7つの新たな必要小領域rsに置換される。
 次のY軸方向連結サブステップSs4では、Y軸方向に続いておりかつ境界を示すX軸座標値が同じである複数の必要小領域を連結して新たな必要小領域に置換する。図9の例では、必要小領域rs(n1,1)および必要小領域rs(n1,2)に関して、始点境界値xs1および終点境界値xe1が同じであるので、この2つの小領域を結合して新たな必要小領域rs(n1,n1)に置換する。他に、X軸方向の始点境界値および終点境界値が同じになる必要小領域は無い。これで、必要小領域rsの領域数は6個になる。
 次の領域確定サブステップSs5では、X軸方向連結サブステップSs3およびY軸方向連結サブステップSs4が終了した後の6個の必要小領域rsを矩形の非重複領域Rn1~Rn6とする。例えば、図10に示されるように、必要小領域rs(n1,n1)を第1の非重複領域Rn1とし、同様に他の必要小領域rsについても第2~第6の非重複領域Rn2~Rn6に変更する。この後、図4のフローチャートの領域設定ステップS5に進み、出力ステップS7では、非重複領域Rn1~Rn6のデータブロックを出力する。
 なお、X軸方向連結サブステップSs3以降を実施せずに、27個の必要小領域rsそれぞれでデータブロックを出力しても、転送先で4個の関心領域の画像を得ることはできる。ただし、このときは転送制御の設定が27パターン必要となり、転送制御が繁雑になって転送所要時間が延びる。これに対し、撮像ステップS5を開始する以前に領域確定サブステップSs5までを実施しておけば、転送制御の設定は6パターンで済むので、転送制御が簡潔になって転送所要時間が短縮される。
 実施形態の画像転送装置1および画像転送方法によれば、撮像素子211の1個単位で関心領域RIを設定でき、このとき拡張関心領域RE、RE1、RE2を求めてイメージセンサから拡張関心領域RE、RE1、RE2に含まれるデータブロックを出力し、出力されたデータブロックから拡張範囲Exs、Exeの画素データを消去して関心領域RIの画像を得ることができる。したがって、データブロックの画素データ数K個を意識せずに関心領域RIを任意に設定できる。また、出力されるデータブロックは必要最小限とされるので、撮像領域Rtot全体の画素データを転送する場合よりも転送所要時間を短縮できる。
 また、実施形態の画像転送装置1は、複数個の拡張関心領域RD1、RD2、Rd1~Rd4の一部が重なった場合に、重なりの無い非重複領域RN1~RN3、Rn1~Rn6に変換し、非重複領域RN1~RN3、Rn1~Rn6に含まれるデータブロックを出力する。したがって、複数個の拡張関心領域RD1、RD2、Rd1~Rd4に対して過不足のないデータブロックを出力し、複数個の関心領域の正確な画像を得ることができるとともに、転送所要時間を短縮できる。
 さらに、実施形態のイメージセンサ2は、多数の撮像素子221をX-Y直交座標軸上に二次元配置しており、実用的効果が大きい。
 また、領域最適化ステップS4は、5つのサブステップSs1~Ss5を有して、重なりの有る複数個の矩形の拡張関心領域Rd1~Rd4を重なりが無くかつX軸方向に続いていない矩形の非重複領域Rn1~Rn6に変換する。これにより得られる非重複領域Rn1~Rn6の領域数は最小となって最適化されるので、画像転送装置1は不必要に領域を細分することなくデータブロックを出力でき、転送制御が簡潔となって転送所要時間を短縮できる。
 また、拡張範囲消去手段6がフィールドプログラマブルゲートアレイを用いて構成されているので、拡張範囲Exs、Exeの画素データを消去するためにソフトウェア処理などの余分な時間を要せず、転送所要時間を短縮できる。
 なお、実施形態で説明したイメージセンサ2は一例であって、他の方式のイメージセンサを用いることもできる。また、転送領域設定手段3、領域拡張手段4、領域記憶設定手段5、および領域最適化手段7の各手段は、適宜ソフトウェアによって構成することができ、様々な設定方法や演算処理方法の応用が可能である。さらに、拡張範囲消去手段6についても、フィールドプログラマブルゲートアレイに限定されない。その他、本発明はさまざまな応用や変形が可能である。
 本発明の画像転送方法および画像転送装置は、カメラ(イメージセンサ)の撮像で得られた画像データに基づいて基板に所定の生産工程を施す基板生産装置や基板生産ラインに好適に利用できる。さらに、本発明の画像転送方法および画像転送装置は、基板以外の幅広い製品を対象としてイメージセンサの撮像領域の一部の撮像データを参照して生産状況を監視する工程監視装置や、イメージセンサの一部の撮像データに基づいて製品の良否を判定する画像検査装置などに広く利用できる。
  1:画像転送装置
  2:イメージセンサ
     21:ピクセルアレイ  22:X軸走査回路  23:Y軸走査回路
     24:前処理部  25:AD変換器  26:ブロック化出力部
  3:転送領域設定手段
  4:領域拡張手段
  5:領域記憶設定手段
  6:拡張範囲消去手段(FPGA=フィールドプログラマブルゲートアレイ)
  7:領域最適化手段
  K:一定数  RI:関心領域
  RE、RE1、RE2:拡張関心領域(重なっていない)
  RD1、RD2、Rd1~Rd4:重なっている拡張関心領域
  RN1~RN3、Rn1~Rn6:非重複領域
  rs、rs(x,y):小領域、必要小領域

Claims (10)

  1.  多数の撮像素子を用いて被写体の撮像領域を撮像し、各前記撮像素子で得られる画素データを一定数ずつデータブロックにまとめ、データブロックごとに出力するイメージセンサからの画像転送方法であって、
     前記一定数未満の単位を用いて前記撮像領域内に転送対象となる関心領域を設定する転送領域設定ステップと、
     前記関心領域を拡張して前記データブロックを一単位として表される拡張関心領域を求めるとともに、前記関心領域から前記拡張関心領域への拡張範囲を求める領域拡張ステップと、
     前記イメージセンサで撮像を行い、前記撮像領域を撮像した各前記撮像素子で前記画素データを得て、前記拡張関心領域に含まれる画素データを前記データブロックにまとめる撮像ステップと、
     前記イメージセンサから前記拡張関心領域に含まれるデータブロックを出力する出力ステップと、
     出力されたデータブロックから前記拡張範囲の画素データを消去して前記関心領域の画像を得る拡張範囲消去ステップと、
     を有する画像転送方法。
  2.  請求項1において、
     前記転送領域設定ステップで複数個の関心領域を設定して前記領域拡張ステップで求めた複数個の拡張関心領域の一部が重なった場合に、前記領域拡張ステップに続き、前記複数個の拡張関心領域を重なりの無い非重複領域に変換する領域最適化ステップをさらに有し、
     前記出力ステップで、前記拡張関心領域に代えて前記非重複領域に含まれるデータブロックを出力する画像転送方法。
  3.  請求項1において、
     前記イメージセンサは、前記多数の撮像素子をX-Y直交座標軸上のX軸方向に直線状に複数個配置するとともにY軸方向に複数列配置して二次元配置とし、X軸方向に直線状に配置された複数個の撮像素子を前記一定数ごとに区分してブロック素子群とし、前記ブロック素子群の画素データを前記データブロックとしており、
     前記転送領域設定ステップで、X軸およびY軸に平行な矩形の関心領域を設定し、
     前記領域拡張ステップで、前記矩形の関心領域をX軸方向に拡張して矩形の拡張関心領域を求め、
     前記出力ステップで、まず出力対象となる撮像素子のY軸座標値を前記拡張関心領域の最小値に固定し、X軸座標値を前記拡張関心領域の最小値および最大値の一方から他方まで変化させて第1列のデータブロックを出力し、次に前記出力対象となる撮像素子のY軸座標値を1撮像素子分だけ増加させて固定し、X軸座標値を前記拡張関心領域の最小値および最大値の一方から他方まで変化させて第2列のデータブロックを出力し、さらに前記出力対象となる撮像素子のY軸座標値が前記拡張関心領域の最大値になるまで各列のデータブロックの出力を繰返すことにより、前記矩形の拡張関心領域に含まれる全てのデータブロックを出力する画像転送方法。
  4.  請求項3において、
     前記転送領域設定ステップで複数個の矩形の関心領域を設定して前記領域拡張ステップで求めた複数個の矩形の拡張関心領域の一部が重なった場合に、前記領域拡張ステップに続き、前記複数個の矩形の拡張関心領域を、重なりが無くかつX軸方向に続いていない矩形の非重複領域に変換する領域最適化ステップをさらに有し、
     前記出力ステップで、前記矩形の拡張関心領域に代えて前記矩形の非重複領域に含まれる全てのデータブロックを出力する画像転送方法。
  5.  請求項4において、前記領域最適化ステップは、
     前記複数個の矩形の拡張関心領域の境界を示す全てのX軸座標値およびY軸座標値を用いて、前記撮像領域を格子状の複数の小領域に細分する領域細分サブステップと、
     各小領域を前記拡張関心領域内の必要小領域と、前記拡張関心領域外の不要小領域とに分類する領域分類サブステップと、
     X軸方向に続いている複数の必要小領域を連結して新たな必要小領域に置換するX軸方向連結サブステップと、
     Y軸方向に続いておりかつ境界を示すX軸座標値が同じである複数の必要小領域を連結して新たな必要小領域に置換するY軸方向連結サブステップと、
     X軸方向連結サブステップおよびY軸方向連結サブステップが終了した後の必要小領域を前記矩形の非重複領域とする領域確定サブステップと、
     を有する画像転送方法。
  6.  多数の撮像素子を用いて被写体の撮像領域を撮像し、各前記撮像素子で得られる画素データを一定数ずつデータブロックにまとめ、データブロックごとに出力するイメージセンサと、
     前記撮像領域を撮像した多数の撮像素子で得られる多数の前記画素データについて、前記一定数未満の単位を用いて前記撮像領域内に転送対象となる関心領域を設定する転送領域設定手段と、
     前記関心領域を拡張して前記データブロックを一単位として表される拡張関心領域を求めるとともに、前記関心領域から前記拡張関心領域への拡張範囲を求める領域拡張手段と、
     前記イメージセンサから前記拡張関心領域に含まれるデータブロックを出力する出力手段と、
     出力されたデータブロックから前記拡張範囲の画素データを消去して前記関心領域の画像を得る拡張範囲消去手段と、
     を有する画像転送装置。
  7.  請求項6において、
     前記転送領域設定手段で複数個の関心領域を設定して、前記領域拡張手段で求めた複数個の拡張関心領域の一部が重なった場合に、前記領域拡張手段に続いて動作し、前記複数個の拡張関心領域を重なりの無い非重複領域に変換する領域最適化手段をさらに有し、
     前記出力手段は、前記拡張関心領域に代えて前記非重複領域に含まれるデータブロックを出力する画像転送装置。
  8.  請求項6において、
     前記イメージセンサは、X-Y直交座標軸上のX軸方向に直線状に複数個配置されるとともにY軸方向に複数列配置されて二次元配置とされた多数の撮像素子と、X軸方向に直線状に配置された複数個の撮像素子を前記一定数ごとに区分したブロック素子群を切り替えて選択するマルチプレクサ部と、マルチプレクサ部で選択したブロック素子群の各画像素子の画素データをそれぞれディジタル化する一定数に等しい個数のAD変換器とを備え、
     前記転送領域設定手段は、X軸およびY軸に平行な矩形の関心領域を設定し、
     前記領域拡張手段は、前記矩形の関心領域をX軸方向に拡張して矩形の拡張関心領域を求め、
     前記出力手段は、まず出力対象となる撮像素子のY軸座標値を前記拡張関心領域の最小値に固定し、第1列のブロック素子群の各画像素子の画素データを前記AD変換器でディジタル化して出力し、次に前記出力対象となる撮像素子のY軸座標値を1撮像素子分だけ増加させて固定し、第2列のブロック素子群の各画像素子の画素データを前記AD変換器でディジタル化して出力し、さらに前記出力対象となる撮像素子のY軸座標値が前記拡張関心領域の最大値になるまで各列のブロック素子群の各画像素子の画素データの出力を繰返すことにより、前記矩形の拡張関心領域に含まれる全てのデータブロックを出力する画像転送装置。
  9.  請求項8において、
     前記転送領域設定手段で複数個の矩形の関心領域を設定して、前記領域拡張手段で求めた複数個の矩形の拡張関心領域の一部が重なった場合に、前記領域拡張手段に続いて動作し、前記複数個の矩形の拡張関心領域を、重なりが無くかつX軸方向に続いていない矩形の非重複領域に変換する領域最適化手段をさらに有し、
     前記出力手段は、前記矩形の拡張関心領域に代えて前記矩形の非重複領域に含まれる全てのデータブロックを出力する画像転送装置。
  10.  請求項6~9のいずれか一項において、前記拡張範囲消去手段がフィールドプログラマブルゲートアレイ(Field-Programmable Gate Array)を用いて構成されている画像転送装置。
PCT/JP2013/051863 2012-02-08 2013-01-29 画像転送方法および画像転送装置 WO2013118610A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US14/376,756 US20140347466A1 (en) 2012-02-08 2013-01-29 Image transmission method and image transmission apparatus
EP13746822.9A EP2814237B1 (en) 2012-02-08 2013-01-29 Image output method and image output apparatus
CN201380008434.XA CN104106258B (zh) 2012-02-08 2013-01-29 图像传送方法及图像传送装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012024829A JP5932376B2 (ja) 2012-02-08 2012-02-08 画像転送方法および画像転送装置
JP2012-024829 2012-02-08

Publications (1)

Publication Number Publication Date
WO2013118610A1 true WO2013118610A1 (ja) 2013-08-15

Family

ID=48947376

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2013/051863 WO2013118610A1 (ja) 2012-02-08 2013-01-29 画像転送方法および画像転送装置

Country Status (5)

Country Link
US (1) US20140347466A1 (ja)
EP (1) EP2814237B1 (ja)
JP (1) JP5932376B2 (ja)
CN (1) CN104106258B (ja)
WO (1) WO2013118610A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019069532A1 (ja) * 2017-10-02 2019-04-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子および固体撮像装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140313381A1 (en) * 2013-04-19 2014-10-23 Canon Kabushiki Kaisha Image pickup apparatus
JP6367605B2 (ja) * 2014-05-13 2018-08-01 株式会社Fuji 画像転送方法および画像転送装置
JP6539550B2 (ja) * 2015-09-03 2019-07-03 株式会社Fuji 多重通信システム及び画像伝送方法
JP7277373B2 (ja) 2017-11-10 2023-05-18 ソニーセミコンダクタソリューションズ株式会社 送信装置
JP7357620B2 (ja) * 2018-08-20 2023-10-06 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、および画像処理システム
EP3661191A1 (de) * 2018-11-27 2020-06-03 B&R Industrial Automation GmbH Verfahren zum auslesen eines flächensensors
KR20210096090A (ko) * 2018-12-06 2021-08-04 소니 세미컨덕터 솔루션즈 가부시키가이샤 수신 장치 및 송신 장치
CN114531599B (zh) * 2022-04-25 2022-06-21 中国医学科学院阜外医院深圳医院(深圳市孙逸仙心血管医院) 一种用于医疗图像存储的图像压缩方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004023256A (ja) * 2002-06-13 2004-01-22 Tokyo Electron Ind Co Ltd 複数領域読み出し可能な撮像装置と方法
JP2004038841A (ja) * 2002-07-08 2004-02-05 Matsushita Electric Ind Co Ltd 画像読取装置および画像読取方法
JP2006109001A (ja) 2004-10-04 2006-04-20 Toshiba Teli Corp 撮像装置及び画像データ伝送処理装置及び画像データ受信装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6577757B1 (en) * 1999-07-28 2003-06-10 Intelligent Reasoning Systems, Inc. System and method for dynamic image recognition
US7030351B2 (en) * 2003-11-24 2006-04-18 Mitutoyo Corporation Systems and methods for rapidly automatically focusing a machine vision inspection system
GB0416496D0 (en) * 2004-07-23 2004-08-25 Council Of The Central Lab Of Imaging device
US7499584B2 (en) * 2004-10-21 2009-03-03 Mitutoyo Corporation Smear-limit based system and method for controlling vision systems for consistently accurate and high-speed inspection
US7561751B2 (en) * 2004-11-02 2009-07-14 Panasonic Corporation Image processing method
GB0427484D0 (en) * 2004-12-15 2005-01-19 Money Controls Ltd Acceptor device for sheet objects
US7297910B2 (en) * 2005-12-30 2007-11-20 General Electric Company System and method for utilizing an autofocus feature in an automated microscope
WO2007083704A1 (ja) * 2006-01-18 2007-07-26 National University Corporation Shizuoka University 固体撮像装置及びその画素信号の読みだし方法
US20080036864A1 (en) * 2006-08-09 2008-02-14 Mccubbrey David System and method for capturing and transmitting image data streams
JP2008048191A (ja) * 2006-08-17 2008-02-28 Nikon Corp 固定パターンノイズ除去装置および撮像装置
DE102006052059A1 (de) * 2006-11-04 2008-05-08 Leopold Kostal Gmbh & Co. Kg Verfahren zum Betreiben eines photoelektrischen Sensorarrays
US8441535B2 (en) * 2008-03-05 2013-05-14 Omnivision Technologies, Inc. System and method for independent image sensor parameter control in regions of interest
DE102009050073A1 (de) * 2009-10-20 2011-04-21 Fachhochschule Gelsenkirchen Bildsensoranordnung zur Erfassung von Bildinformationen für die automatische Bilddatenverarbeitung
JP5751986B2 (ja) * 2010-12-08 2015-07-22 キヤノン株式会社 画像生成装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004023256A (ja) * 2002-06-13 2004-01-22 Tokyo Electron Ind Co Ltd 複数領域読み出し可能な撮像装置と方法
JP2004038841A (ja) * 2002-07-08 2004-02-05 Matsushita Electric Ind Co Ltd 画像読取装置および画像読取方法
JP2006109001A (ja) 2004-10-04 2006-04-20 Toshiba Teli Corp 撮像装置及び画像データ伝送処理装置及び画像データ受信装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP2814237A4

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019069532A1 (ja) * 2017-10-02 2019-04-11 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子および固体撮像装置

Also Published As

Publication number Publication date
JP5932376B2 (ja) 2016-06-08
CN104106258B (zh) 2019-02-22
EP2814237A4 (en) 2015-11-18
JP2013162443A (ja) 2013-08-19
EP2814237A1 (en) 2014-12-17
US20140347466A1 (en) 2014-11-27
EP2814237B1 (en) 2019-03-06
CN104106258A (zh) 2014-10-15

Similar Documents

Publication Publication Date Title
JP5932376B2 (ja) 画像転送方法および画像転送装置
EP2326080A2 (en) Image sensor arrays
US20210021773A1 (en) Image sensing device and image sensing method
JP2008103992A (ja) 固体撮像装置
CN104937923B (zh) 固态成像元件、其驱动方法和成像装置
CN112995515B (zh) 数据处理方法及装置、存储介质、电子装置
KR101364050B1 (ko) 이미지 처리 방법 및 장치
KR20220030877A (ko) 다양한 인트라-프레임 아날로그 비닝을 사용하는 이미지 센서
KR102648189B1 (ko) 아날로그 디지털 변환 장치 및 이를 포함하는 리드 아웃 회로와 씨모스 이미지 센서
JP2006020037A (ja) 物理情報取得方法および物理情報取得装置並びに物理量分布検知の半導体装置
JP2006311435A (ja) 画像処理装置、撮像装置、画像処理システム
WO2009107636A1 (ja) 点滅信号検出回路、点滅信号検出方法、物体検知装置、物体検知方法、及び撮像システム
JP6367605B2 (ja) 画像転送方法および画像転送装置
Wäny et al. Ultrasmall digital image sensor for endoscopic applications
JP4540422B2 (ja) 半導体集積回路及び撮像装置
WO2021020009A1 (ja) 撮像装置、撮像素子、撮像装置の作動方法、撮像素子の作動方法、及びプログラム
JP2006109001A (ja) 撮像装置及び画像データ伝送処理装置及び画像データ受信装置
US8437546B2 (en) Image processing apparatus and method of controlling the same
US7787690B2 (en) Image compression and expansion device
WO2020170566A1 (ja) 検査装置、検査装置の制御方法、検査プログラムおよび記録媒体
JP2008048168A (ja) 色処理パラメータ設定方法及びデジタル撮像機器
JP5457270B2 (ja) 画像伸張チップおよび電子機器
EP1526710B1 (en) Image data reduction apparatus and method, program, storage medium, and image sensing apparatus
JP5605761B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2008258763A (ja) シリアル通信装置、その試験装置及びシリアル通信装置の試験方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 13746822

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2013746822

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE