JP2021048464A - 撮像デバイス、撮像システム及び撮像方法 - Google Patents

撮像デバイス、撮像システム及び撮像方法 Download PDF

Info

Publication number
JP2021048464A
JP2021048464A JP2019169086A JP2019169086A JP2021048464A JP 2021048464 A JP2021048464 A JP 2021048464A JP 2019169086 A JP2019169086 A JP 2019169086A JP 2019169086 A JP2019169086 A JP 2019169086A JP 2021048464 A JP2021048464 A JP 2021048464A
Authority
JP
Japan
Prior art keywords
subject
imaging
image
unit
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019169086A
Other languages
English (en)
Inventor
坂根 誠二郎
Seijiro Sakane
誠二郎 坂根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2019169086A priority Critical patent/JP2021048464A/ja
Priority to CN202080054660.1A priority patent/CN114175615A/zh
Priority to US17/641,954 priority patent/US20220390383A1/en
Priority to PCT/JP2020/033937 priority patent/WO2021054198A1/ja
Publication of JP2021048464A publication Critical patent/JP2021048464A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B33/00Colour photography, other than mere exposure or projection of a colour film
    • G03B33/04Colour photography, other than mere exposure or projection of a colour film by four or more separation records
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/89Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/02Bodies
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B33/00Colour photography, other than mere exposure or projection of a colour film
    • G03B33/08Sequential recording or projection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/28Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • G01N2021/8845Multiple wavelengths of illumination or detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • G03B15/03Combinations of cameras with lighting apparatus; Flash units
    • G03B15/05Combinations of cameras with electronic flash apparatus; Electronic flash units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Quality & Reliability (AREA)
  • Textile Engineering (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)
  • Camera Bodies And Camera Details Or Accessories (AREA)
  • Image Input (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Stroboscope Apparatuses (AREA)
  • Blocking Light For Cameras (AREA)

Abstract

【課題】簡単な構成で、且つ、高速に、分光画像の合成画像を得ることができる、撮像装置、撮像システム、及び撮像方法を提供する。【解決手段】移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成する撮像部と、前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成部と、を備える、撮像デバイスが提供される。【選択図】図2

Description

本開示は、撮像デバイス、撮像システム及び撮像方法に関する。
生産現場等において、製品を出荷する際、撮像画像に基づいて製品の外観等を検査する検査装置が用いられている。例えば、検査装置は、RGBカメラによる製品外観の撮像画像に基づいて、製品が良品であるか、不良品であるかを検査することができる。しかしながら、このような幅広い範囲の波長を有する光を3つのRGB原色として検出するRGBカメラによる撮像画像からは、製品の外観を正確に捉えることが難しい場合がある。そこで、製品の外観をより正確に捉えるために、被写体象に係る光の波長を細かく複数に分けて検出することによって得られた分光画像を用いることが提案されている。より具体的には、上述のようにして得られた複数の分光画像を1つに合成し、合成した画像を用いることにより、製品の外観をより正確に捉えようとするものである。例えば、分光画像を取得する撮像装置としては、下記特許文献1及び特許文献2に記載された撮像装置を挙げることができる。
特開2015−41784号公報 特開2015−126537号公報
しかしながら、上記特許文献1及び特許文献2に記載された撮像装置は、その構成が複雑となることを避けることが難しく、さらには、1つの合成画像を得るための処理時間の増加を抑えることが難しい。
そこで、本開示では、簡単な構成で、且つ、高速に、分光画像の合成画像を得ることができる、撮像装置、撮像システム、及び撮像方法を提案する。
本開示によれば、移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成する撮像部と、前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成部とを備える、撮像デバイスが提供される。
また、本開示によれば、被写体を移動させる移動装置と、移動する前記被写体の位置に応じて異なる波長を有する照射光を、前記被写体に間欠的に順次照射する照射装置と、前記照射により当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成する撮像装置と、前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成装置とを備える、撮像システムが提供される。
さらに、本開示によれば、移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成することと、前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成することとを含む、撮像方法が提供される。
本開示の第1の実施形態に係る撮像システム10の構成の一例を説明するための説明図である。 同実施形態に係る撮像モジュール100の機能的構成の一例を示すブロック図である。 同実施形態に係る撮像素子134の平面構成例を示す説明図である。 同実施形態に係る撮像方法の一例を説明するフローチャートである。 同実施形態に係る撮像方法の一例を説明するための説明図(その1)である。 同実施形態に係る撮像方法の一例を説明するための説明図(その2)である。 同実施形態に係る撮像方法の一例を説明するための説明図(その3)である。 同実施形態に係る撮像方法の一例を説明するための説明図(その4)である。 本開示の第2の実施形態に係る撮像方法の一例を説明するフローチャートである。 同実施形態に係る撮像方法の一例を説明するための説明図である。 本開示の第3の実施形態に係る撮像方法の一例を説明するフローチャートである。 同実施形態に係る撮像方法の一例を説明するための説明図(その1)である。 同実施形態に係る撮像方法の一例を説明するための説明図(その2)である。 同実施形態に係る撮像方法の一例を説明するための説明図(その3)である。 本開示の第4の実施形態に係る撮像方法の一例を説明するフローチャートである。 同実施形態に係る撮像方法の一例を説明するための説明図である。 本開示の第5の実施形態に係る撮像方法の一例を説明するフローチャートである。 同実施形態に係る撮像方法の一例を説明するための説明図である。 本開示の第6の実施形態に係る電子機器900の一例を示す説明図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。また、本明細書及び図面において、異なる実施形態の類似する構成要素については、同一の符号の後に異なるアルファベットを付して区別する場合がある。ただし、類似する構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
なお、説明は以下の順序で行うものとする。
1. 本発明者が本開示の実施形態を創作するに至った背景
2. 第1の実施形態
2.1 撮像システムの概略
2.2 撮像モジュールの詳細構成
2.3 撮像方法
2.4 変形例1
2.5 変形例2
3. 第2の実施形態
3.1 撮像モジュールの詳細構成
3.2 撮像方法
4. 第3の実施形態
4.1 撮像モジュールの詳細構成
4.2 撮像方法
5. 第4の実施形態
5.1 撮像モジュールの詳細構成
5.2 撮像方法
6. 第5の実施形態
6.1 撮像モジュールの詳細構成
6.2 撮像方法
7. 第6の実施形態
8. 移動体への応用例
9. まとめ
10. 補足
以下に説明する実施形態は、製造現場等に設置された製造ラインにおいて、傷の有無、異物の混入の有無、製造品の外観が出荷に適した合格品かどうかを、製品の外観の画像に基づいて検査を行う、検査装置に適用されるものとして説明する。しかしながら、本実施形態は、検査装置に適用されることに限定されるものではなく、他の装置や他の目的に適用されてもよい。
さらに、以下に説明する実施形態は、グローバルシャッタ方式で動作する撮像モジュールに適用されるものとして説明する。なお、以下の説明において、グローバルシャッタ方式とは、撮像モジュールの各撮像素子で得られた撮像信号(信号情報)を一括して読み出し、読み出した撮像信号に基づき、1フレーム画像を生成する方式のことを意味する。しかしながら、本実施形態は、グローバルシャッタ方式の撮像モジュールに適用されることに限定されるものではなく、他の方式の撮像モジュールに適用されてもよい。
また、以下の説明において、1フレームとは、1回の読み出しことを意味し、従って、上記1フレーム画像は、上記撮像信号の一括読み出しを1回行うことで生成される画像のこととなる。
<<1. 本発明者が本開示の実施形態を創作するに至った背景>>
先に説明したように、製品の外観をより正確に捉えるために、例えば、被写体象に係る光の波長を細かく複数に分けて検出することによって得られた複数の分光画像を1つに合成し、合成した画像を用いることが提案されている。
詳細には、分光画像を得る方法の一例としては、撮像モジュールは、回折格子やミラー等の光学部品を使用して、1水平ライン分として垂直方向に光を分光し、検出する。さらに、被写体又は撮像モジュールを水平方向に等速移動(スキャン)させて、上述の分光、検出を行うことにより、光の波長ごとの2次元画像を取得する。
また、上記特許文献1では、波長の異なるストロボ光を被写体に連続照射し、空間的に分離された被写体からの反射光を、撮像モジュールの複数の撮像素子が並ぶ受光面における異なる位置に入射させることで検出している。しかしながら、上記特許文献1では、上述したように、空間的に反射光を分離するために、回折格子やミラー等の多数の光学部品を必要とし、構成が複雑であることや、撮像モジュールの製造コストが増加することを避けることが難しい。
また、上記特許文献2では、フレーム毎に、光源から発せられる光の波長を切り替えることにより、波長ごとの画像を検出している。具体的には、上記特許文献2では、3つの異なる波長の画像を得ようとする場合、3フレーム分の撮像時間がかかることとなる。従って、上記特許文献2では、画像を得るための処理時間の増加を抑えることが難しく、リアルタイム性が乏しい。
そこで、このような状況を鑑みて、簡単な構成で、且つ、高速に、分光画像の合成画像を得ることができる、本開示の実施形態を創作するに至った。詳細には、本開示の実施形態によれば、回折格子やミラー等の多数の光学部品を必要とせず、構成が複雑になることや撮像モジュールの製造コストが増加することを避けることができ、さらには、1フレーム分の撮像時間で、複数の分光画像を1つに合成した画像を生成することができる。以下に、本発明者が創作した本開示の実施形態の詳細を順次説明する。
<<2. 第1の実施形態>>
<2.1 撮像システムの概略>
まずは、本開示の実施形態に係る撮像システム10の構成について、図1を参照して説明する。図1は、本実施形態に係る撮像システム10の構成の一例を説明するための説明図である。図1に示すように、本実施形態に係る撮像システム10は、例えば、撮像モジュール100と、制御サーバ200と、ベルトコンベア(移動装置)300とを主に含むことができる。すなわち、上記ベルトコンベア300は、製造ラインに設けられており、製造品(以下の説明においては、被写体800と呼ぶ)を搬送する。また、撮像モジュール100は、傷の有無、異物の混入の有無、製造品の外観が出荷に適した合格品かどうかを、製品の外観の画像に基づいて検査を行う、検査装置に適用される。以下に、撮像システム10に含まれる各装置の概略について順次説明する。
(撮像モジュール100)
撮像モジュール100は、光を被写体800に照射し、被写体800からの反射光を受光し、1フレーム画像を生成し、当該1フレーム画像から合成画像を生成する。当該撮像モジュール100の詳細構成については後述する。
(制御サーバ200)
制御サーバ200は、撮像モジュール100を制御し、さらには、後述するベルトコンベア300の走行スピードや、ベルトコンベア300上の被写体800の位置等を監視したり、制御したりすることができる。制御サーバ200は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等のハードウェアにより実現される。
(ベルトコンベア300)
ベルトコンベア300は、制御サーバ200による制御に応じて、被写体800を移動させることができる移動装置である。もしくは、ベルトコンベア300は、制御サーバ200によって走行速度が監視され、且つ、被写体800を移動させることができる移動装置である。なお、本実施形態においては、移動装置は、ベルトコンベア300に限定されるものではなく、被写体800を移動させることができる移動装置であれば特に限定されるものではない。
なお、本実施形態に係る撮像システム10内の各装置は、互いにネットワーク(図示省略)を介して通信可能に接続される。詳細には、例えば、撮像モジュール100と、制御サーバ200と、ベルトコンベア300とは、図示しない基地局等(例えば、携帯電話機の基地局、無線LAN(Local Area Network)のアクセスポイント等)を介して上記ネットワークに接続されることができる。なお、上記ネットワークで用いられる通信方式は、有線又は無線(例えば、WiFi(登録商標)、Bluetooth(登録商標)等)を問わず任意の方式を適用することができるが、安定した動作を維持することができる通信方式を用いることが望ましい。
<2.2 撮像モジュールの詳細構成>
次に、本実施形態に係る撮像モジュール100の構成について、図2を参照して説明する。図2は、本実施形態に係る撮像モジュール100の機能的構成の一例を示すブロック図である。図2に示すように、本実施形態に係る撮像モジュール100は、例えば、照射部110と、撮像デバイス120とを主に含むことができる。以下に、撮像モジュール100に含まれる各ブロックの詳細について説明する。なお、以下の説明においては、照射部110と撮像デバイス120とは一体の撮像モジュール100として構成されているものとして説明するが、本実施形態においては、このように一体のものとして構成されていることに限定されるものではない。すなわち、本実施形態においては、照射部110と撮像デバイス120とは別体のものとして構成されていてもよい。
(照射部110)
照射部110は、移動する被写体800の位置に応じて異なる波長(例えば、波長λ〜λ)を有する照射光を、被写体800に間欠的に順次照射することができる(パルス照射)。詳細には、図2に示すように、照射部110は、互いに異なる位置に設けられた(詳細には、ベルトコンベア300の進行方向に沿って異なる位置に設けられた)、互いに異なる波長の光を発光することが可能な複数の発光素子(Light Emitting diode;LED)112を有する。そして、本実施形態においては、これら複数の発光素子112は、被写体800の位置に応じて、言い換えると、被写体800が各発光素子112の照射可能な位置に到達したことに同期して、該当する発光素子112が該当する波長の光を順次照射する。例えば、複数の発光素子112は、近赤外光(波長800nmから1700nm程度)を発光する複数のLED発光ダイオードを含むことができる。より具体的には、図2の例では、発光素子112aは、波長が900nmの近赤外光を発光し、発光素子112bは、波長が1200nmの近赤外光を発光し、発光素子112cは、波長が1500nmの近赤外光を発光することができる。
(撮像デバイス120)
撮像デバイス120は、図2に示すように、単一の撮像装置からなり、撮像部130と、合成部140と、制御部150とを主に有することができる。なお、図2に示す例では、撮像部130と、合成部140と、制御部150とは一体の装置として構成されているが、本実施形態においては、これに限定されるものではなく、これらが別個に設けられていてもよい。以下に、撮像デバイス120に含まれる各機能部の詳細について順次説明する。
〜撮像部130〜
撮像部130は、移動する被写体800で反射された各波長(例えば、波長λ〜λ)を有する反射光を順次受光することができる。さらに、撮像部130は、各波長の反射光の受光に基づく各撮像信号(信号情報)を一時的に順次保持し、次いで、保持した前記各撮像信号を一括して読み出すことにより、1フレーム画像を生成することができる。詳細には、撮像部130は、レンズ部132、絞り機構(図示省略)、ズームレンズ(図示省略)及びフォーカスレンズ(図示省略)等により構成される光学系機構(図示省略)を有する。さらに、撮像部130は、上記光学系機構で得られた光を光電変換して撮像信号を生成する複数の撮像素子134と、生成された撮像信号を一時的に保持する複数のメモリ部136と、複数のメモリ部136から撮像信号を一括して読み出す読出部138とを有する。なお、図2においては、撮像素子134及びメモリ部136は1つずつ描かれているが、本実施形態に係る撮像部130においては、撮像素子134及びメモリ部136はそれぞれ複数個設けられることができる。
より具体的には、上記光学系機構は、上述のレンズ部132等を用いて、被写体800からの反射光を光学像として複数の撮像素子134上に集光させる。例えば、撮像素子134は、例えば、近赤外光を検出することが可能なInGaAsフォトダイオード(InGaAs撮像素子)といった化合物センサであることができ、もしくは、可視光を検出することが可能なシリコンフォトダイオードであることができる。そして、複数の撮像素子134は、受光面(結像する面)上にマトリックス状に並んでおり、それぞれ、結像された光学像を画素単位(撮像素子単位)で光電変換し、各画素の信号を撮像信号として生成する。そして、複数の撮像素子134は、生成された撮像信号を例えば画素単位で設けられたメモリ部136へ出力する。当該メモリ部136は、出力された撮像信号を一時的に保持することができる。さらに、読出部138は、複数のメモリ部136から撮像信号を一括して読み出すことにより、1フレーム画像を合成部140へ出力することができる。すなわち、本実施形態においては、撮像部130は、各メモリ部136に保持された撮像信号を一括して読み出すグローバルシャッタ方式で動作することができる。
また、本実施形態においては、例えばベルトコンベア300により被写体800が撮像位置に到達したことをトリガにして、上述した照射部110による照射と、撮像部130によるグローバルシャッタ方式の撮像(多重露光)とが同期するようにして行われることとなる。
さらに、図3を参照して、上述した複数の撮像素子134の平面構成例を以下に説明する。図3は、本実施形態に係る撮像素子134の平面構成例を示す説明図である。図3に示すように、本実施形態に係る複数の撮像素子134は、例えばシリコンからなる半導体基板500上の受光面にマトリック状に配置されている。詳細には、本実施形態に係る撮像モジュール100は、複数の撮像素子134が配置された画素アレイ部410と、当該画素アレイ部410を取り囲むように設けられた周辺回路部480とを有する。さらに、上記周辺回路部480は、垂直駆動回路部432、カラム信号処理回路部434、水平駆動回路部436、出力回路部438、制御回路部440等を含む。以下に、画素アレイ部410及び周辺回路部480の詳細について説明する。
画素アレイ部410は、半導体基板500上にマトリックス状に2次元配置された複数の撮像素子(画素)134を有する。さらに、複数の画素134には、画像生成用の画素信号を生成する通常画素と、焦点検出用の画素信号を生成する1対の位相差検出用画素とが含まれていてもよい。各画素134は、複数のInGaAs撮像素子(光電変換素子)と、複数の画素トランジスタ(例えばMOS(Metal−Oxide−Semiconductor)トランジスタ)(図示省略)とを有している。さらに詳細には、当該画素トランジスタは、例えば、転送トランジスタ、選択トランジスタ、リセットトランジスタ、及び、増幅トランジスタ等を含むことができる。
垂直駆動回路部432は、例えばシフトレジスタによって形成され、画素駆動配線442を選択し、選択された画素駆動配線442に画素134を駆動するためのパルスを供給し、行単位で画素134を駆動する。すなわち、垂直駆動回路部432は、画素アレイ部410の各画素134を行単位で順次垂直方向(図3中の上下方向)に選択走査し、各画素134の光電変換素子の受光量に応じて生成された電荷に基づく画素信号を、垂直信号線444を通して後述するカラム信号処理回路部434に供給する。
カラム信号処理回路部434は、画素134の列ごとに配置されており、1行分の画素134から出力される画素信号に対して画素列ごとにノイズ除去等の信号処理を行う。例えば、カラム信号処理回路部434は、画素固有の固定パターンノイズを除去するためにCDS(Correlated Double Sampling:相関2重サンプリング)及びAD(Analog−Degital)変換等の信号処理を行うことができる。
水平駆動回路部436は、例えばシフトレジスタによって形成され、水平走査パルスを順次出力することによって、上述したカラム信号処理回路部434の各々を順番に選択し、カラム信号処理回路部434の各々から画素信号を水平信号線446に出力させることができる。
出力回路部438は、上述したカラム信号処理回路部434の各々から水平信号線446を通して順次に供給される画素信号に対し、信号処理を行い出力することができる。出力回路部438は、例えば、バッファリング(buffering)を行う機能部として機能してもよく、もしくは、黒レベル調整、列ばらつき補正、各種デジタル信号処理等の処理を行ってもよい。なお、バッファリングとは、画素信号のやり取りの際に、処理速度や転送速度の差を補うために、一時的に画素信号を保存することをいう。また、入出力端子448は、外部装置との間で信号のやり取りを行うための端子であり、本実施形態においては必ずしも設けられていなくてもよい。
制御回路部440は、入力クロックと、動作モードなどを指令するデータを受け取り、また画素134の内部情報等のデータを出力することができる。すなわち、制御回路部440は、垂直同期信号、水平同期信号及びマスタクロックに基づいて、垂直駆動回路部432、カラム信号処理回路部434及び水平駆動回路部436等の動作の基準となるクロック信号や制御信号を生成する。そして、制御回路部440は、生成したクロック信号や制御信号を、垂直駆動回路部432、カラム信号処理回路部434及び水平駆動回路部436等に出力する。
なお、本実施形態に係る撮像素子134の平面構成例は、図3に示される例に限定されるものではなく、例えば、他の回路部等を含んでもよく、特に限定されるものではない。
〜合成部140〜
合成部140は、撮像部130から出力された1フレーム画像から、各波長(例えば、波長λ〜λ)の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の被写体象を重ねあわせて、合成画像を生成する。合成部140は、例えば、CPU、ROM、RAM等のハードウェアにより実現される。詳細には、合成部140は、図2に示すように、2値化処理部142と、撮像領域特定部144と、合成処理部146とを主に有する。以下に、合成部140に含まれる各機能部の詳細について順次説明する。
2値化処理部142は、撮像部130から出力された1フレーム画像を2段階の色調に変換する2値化処理を行うことにより、2段階色調画像(例えば、白黒画像)を生成することができる。例えば、2値化処理部142は、濃淡のある1フレーム画像内の各画素単位(詳細には各画素)の撮像信号を所定の閾値と比較し、当該閾値を挟んで、一方の範囲内の撮像信号を持つ画素単位を白色、他方の範囲内の撮像信号を持つ画素単位を黒色に変換することにより、白黒画像を生成することができる。本実施形態においては、このように、濃淡のある1フレーム画像に対して2値化処理を行い白黒画像に変換することにより、1フレーム画像内の被写体800の撮像の輪郭が明確化され、後述する被写体象の特定を容易に、且つ、精度よく行うことができるようになる。
撮像領域特定部144は、上記1フレーム画像内の、各波長(例えば、波長λ〜λ)の反射光に対応する被写体象(例えば、ROI(Region of Interest))をそれぞれ特定する。詳細には、撮像領域特定部144は、例えば、2値化処理部142で生成した2段階色調画像内に含まれる各被写体800の撮像の輪郭を検出することにより、上記1フレーム画像内における各被写体800の撮像の中心座標(例えば、X、Y座標)を特定することできる。さらに、撮像領域特定部144は、特定した中心座標に基づき、各波長の反射光に対応する被写体800の撮像の領域であるROIを特定することができる。例えば、撮像領域特定部144は、予め設定された、被写体800の撮像を含むことが可能なサイズを持つ矩形状の抽出枠の中心を、特定した各中心座標に重ねることにより、1フレーム画像内における各ROIを特定することができる。なお、本実施形態においては、上記抽出枠は、矩形状であることに限定されるものではなく、被写体800の撮像を含むことが可能なサイズを持っていれば、多角形状や円形状、もしくは、被写体800の形状と同一又は類似する形状であってもよい。また、本実施形態においては、ROIの特定は、上記中心座標に基づいて行うことに限定されるものではなく、例えば、検出した各被写体800の撮像の輪郭に基づいて行ってもよく、特に限定されるものではない。
また、本実施形態においては、撮像領域特定部144は、2段階色調画像を用いることなく、上記1フレーム画像内の、被写体800の表面に設けられた識別マーカ(図示省略)の撮像の位置を特定することにより、各ROIを特定してもよい。さらに、本実施形態においては、撮像領域特定部144は、2段階色調画像を用いることなく、上記1フレーム画像内の、予めユーザが指定した複数の所定の領域(例えば、予め領域の各頂点の座標が設定されている)に基づいて、各ROIを特定してもよい。
そして、合成処理部146は、撮像領域特定部144で特定した各ROIに基づいて、1フレーム画像から、各ROIをそれぞれ切り出し、切り出した複数のROIを重ねあわせて合成画像を生成する。具体的には、合成処理部146は、各ROIに含まれる被写体800の撮像の中心と輪郭とが一致するように位置合わせして複数のROIを重ねあわせ、合成画像を生成する。なお、本実施形態においては、合成処理部146は、各ROIに含まれる、被写体800の表面に設けられた識別マーカ(図示省略)の撮像が一致するようにして複数のROIを重ねあわせて、合成画像を生成してもよく、特に限定されるものではない。さらに、合成処理部146は、合成画像を生成する際に、各波長(例えば、波長λ〜λ)にあらかじめ割り当てられた色情報(色彩情報)を参照して(例えば、可視光帯域の赤、緑、青を割り当てる)、疑似カラー画像を生成することができる。本実施形態においては、このように疑似カラー画像の合成画像を生成することで、画像内の細部の視認性を向上させることができる。なお、疑似カラー画像の生成の詳細については、後述する。
〜制御部150〜
制御部150は、撮像部130に対して、照射部110の照射と同期させて、反射光の受光を行わせるように制御することができる。制御部150は、例えば、CPU、ROM、RAM等のハードウェアにより実現される。
以上のように、本実施形態に係る撮像モジュール100によれば、回折格子やミラー等の多数の光学部品を必要とせず、構成が複雑になることや撮像モジュール100の製造コストが増加することを避けることができる。すなわち、本実施形態によれば、簡単な構成の撮像モジュール100を提供することができる。
<2.3 撮像方法>
以上、本実施形態に係る撮像システム10及び当該撮像システム10に含まれる各装置の構成について詳細に説明した。次に、本実施形態に係る撮像方法について、図4から図8を参照して説明する。図4は、本実施形態に係る撮像方法の一例を説明するフローチャートである。図5から図8は、本実施形態に係る撮像方法の一例を説明するための説明図である。図4に示すように、本実施形態に係る撮像方法には、ステップS101からステップS121までの複数のステップが含まれる。以下に、本実施形態に係る撮像方法に含まれる各ステップの詳細を説明する。
(ステップS101)
制御部150は、例えば、制御サーバ200と協働して、ベルトコンベア300の走行スピード(例えば、等速に制御される)、又は、ベルトコンベア300上の被写体800の位置を監視する。
(ステップS103)
制御部150は、被写体800が撮影開始位置に到達したかどうかを判定する。本実施形態においては、被写体800が撮影開始位置に到達した場合には、次のステップS105へ進み、被写体800が撮影開始位置に到達していない場合には、前のステップS101へ戻る。すなわち、本実施形態においては、上述したように、ベルトコンベア300の走行と同期させて、照射/受光の動作を行うこととなる。なお、本実施形態においては、被写体800が撮影開始位置に到達したことをトリガにして、処理を進めることに限定されるものではなく、ほかの事象等をトリガにしてもよい。また、本実施形態においては、トリガとなる事象の取得も、撮像システム10内の各装置から取得してもよく、もしくは、撮像システム10の外部の装置から取得してもよく、特に限定されるものではない。
(ステップS105)
制御部150は、被写体800の位置に対応する発光素子112を制御して、被写体800に所定の波長(例えば、波長λ〜λ)を有する光(例えば、所定の波長を有する近赤外光)を照射させる。具体的には、図5に示すように、各発光素子112a〜cは、被写体800が自身の下方に到達した場合には、当該被写体800に向けて所定の波長を有する光を照射する。
(ステップS107)
制御部150は、ステップS105での発光素子112の照射と同期させるようにして、複数の撮像素子134を制御して、被写体800からの反射光を受光させる。例えば、図5に示すように、複数の撮像素子134(Photodiode;PD)は、各発光素子112a〜cの照射と同期して、受光を行い、受光により得られた被写体の撮像802を撮像信号として生成し、生成された撮像信号を各メモリ部136(Memory:MEM)へ出力する。さらに、当該各メモリ部136は、一時的に撮像信号を保持する。なお、撮像信号は、ステップS105で発光素子112が照射した光の各波長(例えば、波長λ〜λ)に対応する被写体800の撮像802に対応し、当該各撮像802は、後述する1フレーム画像に含まれることとなる(すなわち、多重露光)。
(ステップS109)
制御部150は、該当する発光素子112を制御して、照射を終了させる。
(ステップS111)
制御部150は、全ての発光素子112が照射を行ったかどうかを判定する。本実施形態においては、全ての発光素子112が照射を行った場合には、次のステップS113へ進み、全ての発光素子112が照射を行っていない場合には、前のステップS105へ戻る。
すなわち、本実施形態においては、図6の上段に示すように、照射部110は、移動する被写体800に対して、互いに異なる波長(例えば、λ〜λ)を有する光を順次パルス照射する。そして、本実施形態においては、図6の中段に示すように、照射タイミングと同期して、撮像素子134による被写体800からの反射光の受光、撮像信号のメモリ部136へ転送、及び、メモリ部136による撮像信号の一時的な保持を順次実行する。次いで、図6の下段に示すように、この後のステップにおいて、各メモリ部136から撮像信号を一括して読み出すことにより、言い換えると、被写体800の軌跡を捉える多重露光を行うことにより、各波長に対応する被写体800の撮像802(分光画像)を含む1フレーム画像を取得することができる。
(ステップS113)
制御部150は、読出部138を制御して、各メモリ部136に格納された撮像信号を一括して読み出し、各波長(例えば、波長λ〜λ)に対応する被写体800の撮像802(分光画像)を含む1フレーム画像を取得し、合成部140に出力する(グローバルシャッタ方式)。
(ステップS115)
制御部150は、合成部140の2値化処理部142を制御して、ステップS113で取得した1フレーム画像を2段階の色調に変換して、2段階色調画像を生成する2値化処理を行う。例えば、当該ステップS115においては、図7の中段に示すような白黒画像を得ることができる。さらに、制御部150は、合成部140の撮像領域特定部144を制御して、2値化処理後の画像に含まれる輪郭等を検出することにより、各被写体800の撮像802の位置を検出する。例えば、当該ステップS115においては、図7の中段に示すように、白黒画像から、各被写体800の撮像802の中心座標(X,Y)を検出する。
(ステップS117)
制御部150は、図7の下段に示すように、合成部140の合成処理部146を制御して、上記ステップS115で検出した被写体800の各撮像802の位置に基づき、事前に定められた抽出枠を有する各ROIを切り出す。
(ステップS119)
制御部150は、図7の下段に示すように、合成処理部146を制御して、各ROIに含まれる被写体800の撮像の中心と輪郭とが一致するように位置合わせして、切り出した複数のROIを重ねあわせる。さらに、制御部150は、合成処理部146を制御して、各波長(例えば、波長λ〜λ)にあらかじめ割り当てられた色情報を参照して、合成画像として、疑似カラー画像を生成する。
以下に、本実施形態における疑似カラー画像の生成方法の一例を説明する。ここで、わかりやすくするために、波長λ〜λの3つの波長に対応する被写体800の撮像802(分光画像)を含む1フレーム画像を取得するものとして、疑似カラー画像の生成方法を説明する。
当該例においては、上記色情報として、波長λには赤色が、波長λには緑色が、波長λには青色が事前に割り当てられているものとする。さらに、本実施形態においては、疑似カラー画像を生成する際、撮像モジュール100の、複数の撮像素子134が可視光を検出することができるものと仮定する。すなわち、撮像モジュール100の、複数の撮像素子134がマトリックス状に配置されている受光面においては、赤色を検出する撮像素子、緑色を検出する撮像素子、及び青色を検出する撮像素子がベイヤー配列に従って並んでいるものと仮定する。
そして、本実施形態においては、上述した割り当て及び仮定の条件の下で、以下のように疑似カラー画像を合成することができる。詳細には、まずは、図8の上段左側に示すように、波長λに対応するROIの画像データをベイヤー配列上の赤色(R)の位置に割り当て、画素データ群804aを生成する。次に、図8の中段左側に示すように、波長λに対応するROIの画像データをベイヤー配列上の緑色(G)の位置に割り当て、画素データ群804bを生成する。さらに、図8の下段左側に示すように、波長λに対応するROIの画像データをベイヤー配列上の青色(B)の位置に割り当て、画素データ群804cを生成する。そして、本実施形態においては、各色の位置に画像データが割り当てられた画素データ群804a、804b、804cを合成することにより、図8の右側に示す疑似カラー画像806を合成することができる。本実施形態においては、このように疑似カラー画像806の合成画像を生成することで、画像内の細部の視認性を向上させることができる。
なお、本実施形態においては、疑似カラー画像806の合成は、上述の例に限定されるものではなく、色彩パラメータ等の画素ごとの加算平均を用いる等の他の手法を用いて実施されてもよい。
(ステップS121)
制御部150は、合成処理部146を制御して、制御部150に生成した合成画像を出力する。さらに、出力した合成画像は、制御部150にて適切なフォーマットに変換され、例えば、制御サーバ200等に出力される。
以上のように、本実施形態によれば、1フレーム画像を用いて合成画像を生成することから、1フレーム分の撮像時間で、複数の分光画像を1つに合成した画像を生成することができる。すなわち、本実施形態によれば、高速に、分光画像の合成画像を得ることができる。
<2.4 変形例1>
なお、本実施形態においては、変形例として、先に説明したように、2段階色調画像を用いることなく、上記1フレーム画像内の、予めユーザが指定した複数の所定の領域に基づいて、各ROIを特定することもできる。
<2.5 変形例2>
なお、上述した説明においては、切り出した複数のROIを重ねあわせて合成画像を生成するものとして説明したが、本実施形態及び変形例1は、これに限定されるものではない。例えば、本実施形態及び変形例1においては、上記1フレーム画像そのものを出力してもよく、もしくは、上記1フレーム画像から切り出したROIを出力してもよい。例えば、この場合、光の各波長に対応する画像を別々に取得、解析することができることから、該当する波長に対する成分の有無や分布等を容易に認識することが可能となる。
<<3. 第2の実施形態>>
上述の第1の実施形態においては、互いに異なる波長の光を照射するために複数の発光素子112を設けていたが、複数のフィルタ162(図10 参照)を用いることにより、白色光を発光する1つの発光素子112d(図10 参照)でも、上述の実施形態と同様に合成画像を得ることができる。このようにすることで、本実施形態においては、複数のフィルタ162を用いることにより、照射部110の構成が複雑になることや照射部110の製造コストが増加することを避けることができる。そこで、複数のフィルタ162からなるフィルタ部160(図10 参照)を設けた実施形態を、本開示の第2の実施形態として、図9及び図10を参照して説明する。図9は、本実施形態に係る撮像方法の一例を説明するフローチャートであり、図10は、本実施形態に係る撮像方法の一例を説明するための説明図である。
<3.1 撮像モジュールの詳細構成>
まずは、本開示の第2の実施形態に係る撮像モジュール100の詳細構成について説明する。以下の説明においては、上述した第1の実施形態と共通する点については説明を省略し、異なる点のみを説明する。本実施形態においては、撮像モジュール100の照射部110は、被写体800に白色光を照射することができる発光素子112d(図10 参照)を有する。なお、本実施形態においては、発光素子112dであることに限定されるものではなく、例えば、照射部110の代わりに室内灯等を用いてもよく、自然光であってもよい(この場合、照射部110自体が不要となる)。すなわち、本実施形態によれば、特別な構成を持つ照射部110は不要となり、一般的な照明装置等を用いることが可能となる。
また、本実施形態に係る撮像デバイス120の撮像部130は、レンズ部132の被写体800側に、フィルタ部160(図10 参照)をさらに有する。詳細には、フィルタ部160は、図10に示すように、ベルトコンベア300の進行方向(移動方向)に沿って順次並ぶように設けられた複数のフィルタ162a、162b、162cを有する(なお、図10においては、3つのフィルタ162a〜cが描かれているが、本実施形態においては、3つのフィルタに限定されるものではなく、複数個設けることができる)。各フィルタ162a、162b、162cは、狭帯域のOCCF(On Chip Color Filter)又はプラズモンフィルタ(表面プラズモンを用いて、特定の波長のみを透過させるフィルタ)からなり、互いに異なる波長の光を透過させることができる。例えば、各フィルタ162a、162b、162cは、第1の実施形態における各波長λ〜λを有する光をそれぞれ透過させることができる。
また、本実施形態においては、例えばベルトコンベア300により被写体800が撮像位置に到達したことをトリガにして、撮像部130によるグローバルシャッタ方式の撮像(多重露光)が行われることとなる。
このように、本実施形態においては、複数のフィルタ162を用いることにより1種類の発光素子112dがあればよいことから、照射部110の構成が複雑になることや照射部110の製造コストが増加することを避けることができる。また、本実施形態においては、一般的な室内灯や自然光等を用いることにより、照射部110を不要にすることができる。すなわち、本実施形態によれば、特別な構成を持つ照射部110は不要となり、一般的な照明装置等を用いることが可能となる。
<3.2 撮像方法>
以上、本実施形態に係る撮像モジュール100の詳細構成に説明した。次に、本実施形態に係る撮像方法について、図9及び図10を参照して説明する。図9に示すように、本実施形態に係る撮像方法には、ステップS201からステップS217までの複数のステップが含まれる。以下に、本実施形態に係る撮像方法に含まれる各ステップの詳細を説明する。
まず、本実施形態においては、上述の発光素子112dは、光の照射を開始する。
(ステップS201からステップS205)
本実施形態に係るステップS201からステップS205は、図4に示す第1の実施形態に係るステップS101、ステップS103、ステップS107とそれぞれ同様であるため、ここでは説明を省略する。
(ステップS207)
制御部150は、撮像部130が全ての波長の反射光を受光したかどうかを判定する。本実施形態においては、全ての波長の反射光を受光した場合には、次のステップS209へ進み、全ての波長の反射光を受光していない場合には、前のステップS205へ戻る。
本実施形態においては、図10の上段に示すように、移動する被写体800に対して、例えば白色光が照射される。そして、図10の中段に示すように、被写体800が各フィルタ162a〜cの上に到達するタイミングと同期して、撮像素子134による被写体800からの反射光の受光、撮像信号のメモリ部136へ転送、及び、メモリ部136による撮像信号の一時的な保持を順次実行する。次いで、第1の実施形態と同様に、図10の下段に示すように、この後のステップにおいて、各メモリ部136から撮像信号を一括して読み出すことにより、各波長に対応する被写体800の撮像802を含む1フレーム画像を取得することができる。
(ステップS209からステップS217)
本実施形態に係るステップS209からステップS207は、図4に示す第1の実施形態に係るステップS113からステップS121とそれぞれ同様であるため、ここでは説明を省略する。
<<4. 第3の実施形態>>
上述の第1の実施形態においては、各波長(例えば、波長λ〜λ)の反射光に対応する被写体800の撮像802を含む1フレーム画像を2段階色調画像に変換して、1フレーム画像内における各被写体800の撮像802の位置を特定していた。一方、以下に説明する本開示の第3の実施形態においては、位置の検出の精度をより高めるために、可視光(基準光)の反射光に対応する被写体800の撮像802を含む1フレーム画像を用いて、可視光以外の各波長の反射光に対応する被写体800の撮像802の位置を特定してもよい。このようにすることで、本実施形態においては、2段階色調画像において撮像802の輪郭が検出しやすい可視光象等を用いることができることから、精度よく、可視光以外の近赤外等の反射光に対応する被写体800の撮像802の位置を検出することができる。そこで、このような第3の実施形態を、図11から図14を参照して説明する。図11は、本実施形態に係る撮像方法の一例を説明するフローチャートであり、図12から図14は、本実施形態に係る撮像方法の一例を説明するための説明図である。
<4.1 撮像モジュールの詳細構成>
まずは、本実施形態に係る撮像モジュール100の詳細構成について説明する。以下の説明においては、上述した第1の実施形態と共通する点については説明を省略し、異なる点のみを説明する。本実施形態においては、第1の実施形態と比べて、照射部110は、被写体800に可視光(基準光)を照射することができる発光素子(基準光発光素子)112f(図12 参照)をさらに有する。詳細には、本実施形態においては、例えば、異なる波長(例えば、波長λ〜λ)を有する例えば近赤外光を照射する複数の発光素子112a、112bの間に、可視光を照射することができる発光素子112fが設けられている。なお、図12においては、複数の発光素子112fが描かれているが、本実施形態においては、発光素子112fは複数個に限定されるものではなく、1個であってもよい。そして、本実施形態においては、例えば、発光素子112a、112bによって異なる波長を有する近赤外光の照射と、発光素子112fによる可視光の照射とを、交互に行うこととなる。また、以下の説明においては、発光素子112fは、基準光として可視光(例えば、波長λrefを有する)を照射するものとして説明するが、本実施形態においては、可視光に限定されるものではなく、例えば、近赤外光以外の所定の波長を有する光を照射してもよい。
また、本実施形態においても、例えばベルトコンベア300により被写体800が撮像位置に到達したことをトリガにして、上記発光素子112fを含む照射部110による照射と、撮像部130によるグローバルシャッタ方式の撮像(多重露光)とが同期するようにして行われることとなる。
<4.2 撮像方法>
以上、本実施形態に係る撮像モジュール100の詳細構成に説明した。次に、本実施形態に係る撮像方法について、図11から図14を参照して説明する。図11に示すように、本実施形態に係る撮像方法には、ステップS301からステップS321までの複数のステップが含まれる。以下に、本実施形態に係る撮像方法に含まれる各ステップの詳細を説明する。なお、本実施形態においては、被写体800は、ベルトコンベア300により等速に移動するものとする。
(ステップS301及びステップS303)
本実施形態に係るステップS301及びステップS303は、図4に示す第1の実施形態に係るステップS101及びステップS103とそれぞれ同様であるため、ここでは説明を省略する。
(ステップS305)
制御部150は、被写体800の位置に対応する発光素子112を制御して、被写体800に、可視光(例えば、波長λref)を有する光、及び、所定の波長(例えば、波長λ〜λ)を有する近赤外光を交互に照射させる。具体的には、図12に示すように、各発光素子112a、112b、112fは、被写体800が自身の下方に到達した場合には、当該被写体800に向けて可視光又は近赤外光を照射する。
(ステップS307)
制御部150は、ステップS305での発光素子112の照射と同期させるようにして、複数の撮像素子134を制御して、被写体800からの反射光を受光させる。例えば、図12に示すように、複数の撮像素子134は、各発光素子112a、112b、112fの照射と同期して、受光を行い、受光により得られた被写体の撮像802を撮像信号として生成し、生成された撮像信号を各メモリ部136へ出力する。さらに、当該各メモリ部136は、一時的に撮像信号を保持する。なお、撮像信号は、ステップS305で発光素子112a、112b、112fが照射した光の各波長(例えば、波長λ〜λ、λref)に対応する被写体800の撮像802に対応し、当該各撮像802は、後述する1フレーム画像に含まれることとなる。
(ステップS309からステップS313)
本実施形態に係るステップS309からステップS313は、図4に示す第1の実施形態に係るステップS109からステップS113とそれぞれ同様であるため、ここでは説明を省略する。
(ステップS315)
制御部150は、合成部140の2値化処理部142を制御して、ステップS313で取得した1フレーム画像を2段階の色調に変換して、2段階色調画像を生成する2値化処理を行う(例えば、白黒画像化する)。
さらに、制御部150は、図14の中段に示すように、合成部140の撮像領域特定部144を制御して、2値化処理後の画像に含まれる、可視光に対応する被写体800の各撮像802の輪郭を検出する。次いで、制御部150は、合成部140の撮像領域特定部144を制御して、2つの、可視光に対応する被写体800の各撮像802の位置から、これら撮像802に挟まれた、近赤外光に対応する被写体800の撮像802の中心座標(X,Y)を検出する。本実施形態においては、被写体800は、ベルトコンベア300により等速に移動していることから、1フレーム画像内においては、2つの、可視光に対応する被写体800の各撮像802の間の中心に、近赤外光に対応する被写体800の撮像802は位置しているはずである。そこで、本実施形態においては、2段階色調画像において輪郭を検出することが容易な、可視光に対応する2つの撮像802を用いて、これら2つの撮像802の中心を算出することにより、精度よく、近赤外光等に対応する被写体800の撮像802の中心座標(X,Y)を検出することができる。
(ステップS317からステップS321)
本実施形態に係るステップS317からステップS321は、図4に示す第1の実施形態に係るステップS117からステップS121とそれぞれ同様であるため、ここでは説明を省略する。
このように、本実施形態においては、2段階色調画像において輪郭を検出することが容易な、可視光に対応する2つの撮像802を用いて、これら2つの撮像802の中心を算出することにより、精度よく、近赤外光等に対応する被写体800の撮像802の位置を検出することができる。
<<5. 第4の実施形態>>
上述の第1の実施形態においては、2段階色調画像を用いて、近赤外光等に対応する被写体800の撮像802の位置を検出していた。一方、以下に説明する実施形態においては、上記1フレーム画像内の被写体800の撮像802の位置が予め分かっている場合には、上記1フレーム画像内の、予めユーザが指定した複数の所定の領域に基づいて、最初から各ROI内に対応する画素(撮像素子134)からの撮像信号のみを取得するようにしてもよい。このようにすることで、本実施形態においては、読出部138が一括して読み出す撮像信号量を減らし、その後の処理の負担を軽くすることができる。そこで、このような本開示の第4の実施形態を、図15及び図16を参照して説明する。図15は、本実施形態に係る撮像方法の一例を説明するフローチャートであり、図16は、本実施形態に係る撮像方法の一例を説明するための説明図である。
<5.1 撮像モジュールの詳細構成>
本実施形態に係る撮像モジュール100の詳細構成は、合成部140に、2値化処理部142及び撮像領域特定部144を設けていないこと以外は、上述した第1の実施形態と共通することから、ここでは説明を省略する。
<5.2 撮像方法>
次に、本実施形態に係る撮像方法について、図15及び図16を参照して説明する。図15に示すように、本実施形態に係る撮像方法には、ステップS401からステップS417までの複数のステップが含まれる。以下に、本実施形態に係る撮像方法に含まれる各ステップの詳細を説明する。なお、本実施形態においては、1フレーム画像内の被写体800の撮像802の位置が予め分かっているものとする。
(ステップS401からステップS405)
本実施形態に係るステップS401からステップS405は、図4に示す第1の実施形態に係るステップS101からステップS105とそれぞれ同様であるため、ここでは説明を省略する。
(ステップS407)
制御部150は、第1の実施形態と同様に、ステップS405での発光素子112の照射と同期させるようにして、複数の撮像素子134を制御して、被写体800からの反射光を受光させる。本実施形態においては、図16に示すように、予めユーザが指定した複数の所定の領域に対応する各ROI804内に対応する撮像素子134が、各発光素子112a〜cの照射と同期して、受光を行い、受光により得られた被写体の撮像802を撮像信号(信号情報の一部)として生成し、生成された撮像信号を各メモリ部136へ出力する。さらに、当該各メモリ部136は、一時的に上記撮像信号を保持する。なお、撮像信号は、ステップS405で発光素子112が照射した光の各波長(例えば、波長λ〜λ)のROI804に対応し、当該各ROI804は、後述する1フレーム画像に含まれることとなる(すなわち、ROI露光)。すなわち、本実施形態においては、予めユーザが指定した複数の所定の領域に対応する各ROI804内に対応する撮像信号のみを読み出すことから、読出部138が一括して読み出す撮像信号量を減らし、その後の処理の負担を軽くすることができる。
(ステップS409及びステップS411)
本実施形態に係るステップS409及びステップS411は、図4に示す第1の実施形態に係るステップS109及びステップS111とそれぞれ同様であるため、ここでは説明を省略する。
(ステップS413)
制御部150は、合成部140の合成処理部146を制御して、1フレーム画像に含まれる各ROIを切り出す。
(ステップS415及びステップS417)
本実施形態に係るステップS415及びステップS417は、図4に示す第1の実施形態に係るステップS119及びステップS121とそれぞれ同様であるため、ここでは説明を省略する。
このように、本実施形態においては、上記1フレーム画像内の被写体800の撮像802の位置が予め分かっている場合には、上記1フレーム画像内の、予めユーザが指定した複数の所定の領域に基づいて、最初から各ROI804内に対応する画素からの撮像信号のみを取得する。このようにすることで、本実施形態によれば、読出部138が一括して読み出す撮像信号量を減らし、その後の処理の負担を軽くすることができる。
<<6. 第5の実施形態>>
また、本開示においては、上述した第4の実施形態に係る撮像方法を、第2の実施形態に係る撮像モジュール100に適用することもできる。このようにすることで、以下に説明する実施形態によれば、読出部138が一括して読み出す撮像信号量を減らし、その後の処理の負担を軽くすることができるばかりか、特別な構成を持つ照射部110は不要となり、一般的な照明装置等を用いることが可能となる。そこで、このような本開示の第5の実施形態を、図17及び図18を参照して説明する。図17は、本実施形態に係る撮像方法の一例を説明するフローチャートであり、図18は、本実施形態に係る撮像方法の一例を説明するための説明図である。
<6.1 撮像モジュールの詳細構成>
本実施形態に係る撮像モジュール100の詳細構成は、合成部140に、2値化処理部142及び撮像領域特定部144を設けていないこと以外は、上述した第2の実施形態と共通することから、ここでは説明を省略する。
<6.2 撮像方法>
次に、本実施形態に係る撮像方法について、図17及び図18を参照して説明する。図17に示すように、本実施形態に係る撮像方法には、ステップS501からステップS513までの複数のステップが含まれる。以下に、本実施形態に係る撮像方法に含まれる各ステップの詳細を説明する。なお、本実施形態においても、1フレーム画像内の被写体800の撮像802の位置が予め分かっているものとする。
(ステップS501及びステップS503)
本実施形態に係るステップS501及びステップS503は、図4に示す第1の実施形態に係るステップS101及びステップS103とそれぞれ同様であるため、ここでは説明を省略する。
(ステップS505)
制御部150は、複数の撮像素子134を制御して、被写体800からの反射光を受光させる。本実施形態においては、上述の第4の実施形態と同様に、図18に示すように、予めユーザが指定した複数の所定の領域に対応する各ROI804内に対応する撮像素子134が、受光を行い、受光により得られた被写体の撮像802を撮像信号(信号情報の一部)として生成し、生成された撮像信号を各メモリ部136へ出力する。さらに、当該各メモリ部136は、一時的に上記撮像信号を保持する。なお、撮像信号は、各フィルタ162a〜cが透過した光の各波長(例えば、波長λ〜λ)のROI804に対応し、当該各ROI804は、後述する1フレーム画像に含まれることとなる(すなわち、ROI露光)。すなわち、本実施形態においては、予めユーザが指定した複数の所定の領域に対応する各ROI804内に対応する撮像信号のみを読み出すことから、読出部138が一括して読み出す撮像信号量を減らし、その後の処理の負担を軽くすることができる。
(ステップS507)
本実施形態に係るステップS507は、図9に示す第2の実施形態に係るステップS207と同様であるため、ここでは説明を省略する。
(ステップS509)
本実施形態に係るステップS509は、図15に示す第4の実施形態に係るステップS413と同様であるため、ここでは説明を省略する。
(ステップS511及びステップS513)
本実施形態に係るステップS511及びステップS513は、図4に示す第1の実施形態に係るステップS119及びステップS121とそれぞれ同様であるため、ここでは説明を省略する。
このように、本実施形態によれば、読出部138が一括して読み出す撮像信号量を減らし、その後の処理の負担を軽くすることができるばかりか、特別な構成を持つ照射部110は不要となり、一般的な照明装置等を用いることが可能となる。
<<7. 第6の実施形態>>
上述した本開示の実施形態に係る技術は、デジタルスチルカメラやビデオカメラ等の撮像装置や、撮像機能を有する携帯端末装置や、画像読取部に撮像装置を用いる複写機等、画像取込部に撮像装置を用いる電子機器全般に対して適用可能である。さらに、本開示の技術は、自動車、ロボット、航空機、ドローン、各種検査機器(例えば、食品検査等)、医療機器(内視鏡)等にも適用可能である。以下に、本開示の実施形態に係る技術を適用した電子機器900の一例を、本開示の第6の実施形態として、図19を参照して説明する。図19は、本実施形態に係る電子機器900の一例を示す説明図である。
図19に示すように、電子機器900は、撮像装置902、光学レンズ(図2のレンズ部132に対応)910、シャッタ機構912、駆動回路ユニット(図2の制御部150に対応)914、及び、信号処理回路ユニット(図2の合成部140に対応)916を有する。光学レンズ910は、被写体からの像光(入射光)を撮像装置902の受光面上の複数の撮像素子134(図2 参照)に結像させる。これにより、撮像装置902のメモリ部136(図2 参照)内に、一定期間、信号電荷が蓄積される。シャッタ機構912は、開閉することにより、撮像装置902への光照射期間及び遮光期間を制御する。駆動回路ユニット914は、撮像装置902の信号の転送動作やシャッタ機構912のシャッタ動作等を制御する駆動信号をこれらに供給する。すなわち、撮像装置902は、駆動回路ユニット914から供給される駆動信号(タイミング信号)に基づいて信号転送を行うこととなる。信号処理回路ユニット916は、各種の信号処理を行うことができる。
なお、本開示の実施形態は、製造現場等に設置された製造ラインにおいて、傷の有無、異物の混入の有無、製造品の外観が出荷に適した合格品かどうかを、製品の外観の画像に基づいて検査を行う、検査装置に適用されることに限定されるものではない。例えば、本実施形態は、工業製品の外観検査(傷の有無、製造品の外観の出荷適合判定)等に適用することができる。また、本実施形態は、様々な波長の光を用いることができることから、物質特有の吸光特性に基づき、例えば、医薬品及び食品の異物混入検査等に用いることもできる(異物特有の吸光特性を利用することができる)。さらに、本実施形態においては、様々な波長の光を用いることができることから、例えば、可視光では認識が難しい、色認識や、傷又は異物の位置する深さ等を検出することができる。
<<8. 移動体への応用例>>
また、本開示の実施形態は、被写体800が移動する代わりに、撮像モジュール100を移動体に搭載し、撮像モジュール100側が移動するようにしてもよい。例えば、撮像モジュール100をドローン等の移動体に搭載した場合、撮像モジュール100の発光素子112の真下に被写体800が位置した場合に所定の波長の光を照射するようにしてもよい。このような場合、本実施形態により、地表等における特定成分の分布を検出したり、農作物の状態を検出したりすることができる。すなわち、本実施形態に係る撮像モジュール100は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図20は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図20に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図20の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図21は、撮像部12031の設置位置の例を示す図である。
図21では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図21には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031等に適用され得る。
<<9. まとめ>>
以上説明したように、本開示の各実施形態によれば、回折格子やミラー等の多数の光学部品を必要とせず、構成が複雑になることや撮像モジュール100の製造コストが増加することを避けることができる。さらに、本開示の各実施形態によれば、1フレーム画像を用いて合成画像を生成することから、1フレーム分の撮像時間で、複数の分光画像を1つに合成した画像を生成することができる。すなわち、本実施形態によれば、簡単な構成で、且つ、高速に、分光画像の合成画像を得ることができる。
なお、上述した本開示の各実施形態及び変形例においては、切り出した複数のROIを重ねあわせて合成画像を生成するものとして説明したが、本開示の各実施形態及び変形例は、これに限定されるものではない。例えば、各実施形態では、上記1フレーム画像そのものを出力してもよく、もしくは、上記1フレーム画像から切り出したROIを出力してもよい。例えば、このような場合、光の各波長に対応する画像を別々に取得、解析することができることから、該当する波長に対する成分の有無や分布等を容易に認識することが可能となる。
<<10. 補足>>
なお、先に説明した本開示の実施形態は、例えば、コンピュータを本実施形態に係る撮像システム10として機能させるためのプログラム、及びプログラムが記録された一時的でない有形の媒体を含みうる。また、プログラムをインターネット等の通信回線(無線通信も含む)を介して頒布してもよい。
また、上述した本開示の実施形態の撮像方法における各ステップは、必ずしも記載された順序に沿って処理されなくてもよい。例えば、各ステップは、適宜順序が変更されて処理されてもよい。また、各ステップは、時系列的に処理される代わりに、一部並列的に又は個別的に処理されてもよい。さらに、各ステップの処理方法についても、必ずしも記載された方法に沿って処理されなくてもよく、例えば、他の機能部によって他の方法で処理されていてもよい。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、本技術は以下のような構成も取ることができる。
(1)
移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成する撮像部と、
前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成部と、
を備える、撮像デバイス。
(2)
前記撮像部は、複数の画素を有し、
前記各画素は、
前記反射光を受光して、前記信号情報を生成する撮像素子と、
前記撮像素子からの前記信号情報を一時的にそれぞれ保持するメモリ部と、
を含む、
上記(1)に記載の撮像デバイス。
(3)
前記撮像部は、前記各メモリ部に保持された前記信号情報を一括して読み出すグローバルシャッタ方式で動作する、
上記(2)に記載の撮像デバイス。
(4)
前記画素は、近赤外光を検出するInGaAs撮像素子を含む、上記(2)又は(3)に記載の撮像デバイス。
(5)
前記合成部は、前記1フレーム画像から予め指定した複数の所定の領域を切り出すことにより、前記各波長の反射光に対応する被写体象をそれぞれ切り出す、上記(2)〜(4)のいずれか1つに記載の撮像デバイス。
(6)
前記合成部は、前記1フレーム画像内の、前記各波長の反射光に対応する被写体象をそれぞれ特定する撮像領域特定部を有する、上記(2)〜(4)のいずれか1つに記載の撮像デバイス。
(7)
前記合成部は、前記1フレーム画像を2段階の色調に変換して、2段階色調画像を生成する2値化処理部をさらに有し、
前記撮像領域特定部は、前記2段階色調画像に基づいて、前記各波長の反射光に対応する被写体象をそれぞれ特定する、上記(6)に記載の撮像デバイス。
(8)
前記撮像部は、
前記各照射光の照射の前後に、所定の方向に沿って等速移動する前記被写体に間欠的に順次照射されることにより当該被写体で反射された各基準光を順次受光し、
前記各基準光に基づく前記信号情報を一時的に順次保持し、保持した当該各信号情報を一括して読み出すことにより、前記基準光に対応する被写体象を含む前記1フレーム画像を生成し、
前記撮像領域特定部は、2つの前記基準光に対応する被写体象に基づき、当該2つの基準光に対応する被写体象の間に位置する、前記各波長の反射光に対応する被写体象を特定する、
上記(6)に記載の撮像デバイス。
(9)
前記合成部は、
前記各波長に対応するように事前に設定された色彩情報と、前記各波長の反射光に対応する被写体象における前記各画素の信号情報とに基づき、前記各波長の反射光に対応する被写体象における前記各画素の色彩パラメータを算出し、前記複数の被写体象における前記色彩パラメータの加算平均を前記画素ごとに算出し、算出した前記加算平均に基づき、前記合成画像としてカラー画像を生成する、合成処理部を有する、
上記(2)〜(8)のいずれか1つに記載の撮像デバイス。
(10)
前記撮像部は、前記被写体と対向するように設けられ、前記被写体の移動方向に沿って順次並ぶ、互いに異なる波長の光を透過させる複数のフィルタを有する、
上記(1)〜(9)のいずれか1つに記載の撮像デバイス。
(11)
前記複数のフィルタは、オンチップカラーフィルタ又はプラズモンフィルタである、上記(10)に記載の撮像デバイス。
(12)
移動する前記被写体の位置に応じて異なる波長を有する前記照射光を、前記被写体に間欠的に順次照射する照射部をさらに備える、上記(1)〜(9)のいずれか1つに記載の撮像デバイス。
(13)
前記照射部は、互いに異なる波長の光を発光する複数の発光素子を有する、上記(12)に記載の撮像デバイス。
(14)
前記複数の発光素子は、近赤外光を発光する複数の発光ダイオードを含む、上記(13)に記載の撮像デバイス。
(15)
前記複数の発光素子は、近赤外光以外の所定の波長を有する基準光を発光する基準光発光素子を含む、上記(13)又は(14)に記載の撮像デバイス。
(16)
前記基準光発光素子は、前記基準光として可視光を発光する、上記(15)に記載の撮像デバイス。
(17)
前記撮像部に対して、前記照射部の照射と同期させて、前記反射光の受光を行わせるように制御する制御部をさらに備える、上記(12)〜(16)のいずれか1つに記載の撮像デバイス。
(18)
移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報のうち、予め指定した複数の所定の領域に対応する前記信号情報の一部を一括して読み出すことにより、1フレーム画像を生成する撮像部と、
前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成部と、
を備える、撮像デバイス。
(19)
被写体を移動させる移動装置と、
移動する前記被写体の位置に応じて異なる波長を有する照射光を、前記被写体に間欠的に順次照射する照射装置と、
前記照射により当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成する撮像装置と、
前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成装置と、
を備える、撮像システム。
(20)
移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成することと、
前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成することと、
を含む、撮像方法。
10 撮像システム
100 撮像モジュール
110 照射部
112a、112b、112c、112d、112f 発光素子
120 撮像デバイス
130 撮像部
132 レンズ部
134 撮像素子
136 メモリ部
138 読出部
140 合成部
142 2値化処理部
144 撮像領域特定部
146 合成処理部
150 制御部
160 フィルタ部
162a、162b、162c フィルタ
200 制御サーバ
300 ベルトコンベア
410 画素アレイ部
432 垂直駆動回路部
434 カラム信号処理回路部
436 水平駆動回路部
438 出力回路部
440 制御回路部
442 画素駆動配線
444 垂直信号線
446 水平信号線
448 入出力端子
480 周辺回路部
500 半導体基板
800 被写体
802 撮像
804 ROI
804a、804b、804c 画素データ群
806 疑似カラー画像
900 電子機器
902 撮像装置
910 光学レンズ
912 シャッタ機構
914 駆動回路ユニット
916 信号処理回路ユニット

Claims (20)

  1. 移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成する撮像部と、
    前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成部と、
    を備える、撮像デバイス。
  2. 前記撮像部は、複数の画素を有し、
    前記各画素は、
    前記反射光を受光して、前記信号情報を生成する撮像素子と、
    前記撮像素子からの前記信号情報を一時的にそれぞれ保持するメモリ部と、
    を含む、
    請求項1に記載の撮像デバイス。
  3. 前記撮像部は、前記各メモリ部に保持された前記信号情報を一括して読み出すグローバルシャッタ方式で動作する、
    請求項2に記載の撮像デバイス。
  4. 前記画素は、近赤外光を検出するInGaAs撮像素子を含む、請求項2に記載の撮像デバイス。
  5. 前記合成部は、前記1フレーム画像から予め指定した複数の所定の領域を切り出すことにより、前記各波長の反射光に対応する被写体象をそれぞれ切り出す、請求項2に記載の撮像デバイス。
  6. 前記合成部は、前記1フレーム画像内の、前記各波長の反射光に対応する被写体象をそれぞれ特定する撮像領域特定部を有する、請求項2に記載の撮像デバイス。
  7. 前記合成部は、前記1フレーム画像を2段階の色調に変換して、2段階色調画像を生成する2値化処理部をさらに有し、
    前記撮像領域特定部は、前記2段階色調画像に基づいて、前記各波長の反射光に対応する被写体象をそれぞれ特定する、請求項6に記載の撮像デバイス。
  8. 前記撮像部は、
    前記各照射光の照射の前後に、所定の方向に沿って等速移動する前記被写体に間欠的に順次照射されることにより当該被写体で反射された各基準光を順次受光し、
    前記各基準光に基づく前記信号情報を一時的に順次保持し、保持した当該各信号情報を一括して読み出すことにより、前記基準光に対応する被写体象を含む前記1フレーム画像を生成し、
    前記撮像領域特定部は、2つの前記基準光に対応する被写体象に基づき、当該2つの基準光に対応する被写体象の間に位置する、前記各波長の反射光に対応する被写体象を特定する、
    請求項6に記載の撮像デバイス。
  9. 前記合成部は、
    前記各波長に対応するように事前に設定された色彩情報と、前記各波長の反射光に対応する被写体象における前記各画素の信号情報とに基づき、前記各波長の反射光に対応する被写体象における前記各画素の色彩パラメータを算出し、前記複数の被写体象における前記色彩パラメータの加算平均を前記画素ごとに算出し、算出した前記加算平均に基づき、前記合成画像としてカラー画像を生成する、合成処理部を有する、
    請求項2に記載の撮像デバイス。
  10. 前記撮像部は、前記被写体と対向するように設けられ、前記被写体の移動方向に沿って順次並ぶ、互いに異なる波長の光を透過させる複数のフィルタを有する、
    請求項1に記載の撮像デバイス。
  11. 前記複数のフィルタは、オンチップカラーフィルタ又はプラズモンフィルタである、請求項10に記載の撮像デバイス。
  12. 移動する前記被写体の位置に応じて異なる波長を有する前記照射光を、前記被写体に間欠的に順次照射する照射部をさらに備える、請求項1に記載の撮像デバイス。
  13. 前記照射部は、互いに異なる波長の光を発光する複数の発光素子を有する、請求項12に記載の撮像デバイス。
  14. 前記複数の発光素子は、近赤外光を発光する複数の発光ダイオードを含む、請求項13に記載の撮像デバイス。
  15. 前記複数の発光素子は、近赤外光以外の所定の波長を有する基準光を発光する基準光発光素子を含む、請求項13に記載の撮像デバイス。
  16. 前記基準光発光素子は、前記基準光として可視光を発光する、請求項15に記載の撮像デバイス。
  17. 前記撮像部に対して、前記照射部の照射と同期させて、前記反射光の受光を行わせるように制御する制御部をさらに備える、請求項12に記載の撮像デバイス。
  18. 移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報のうち、予め指定した複数の所定の領域に対応する前記信号情報の一部を一括して読み出すことにより、1フレーム画像を生成する撮像部と、
    前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成部と、
    を備える、撮像デバイス。
  19. 被写体を移動させる移動装置と、
    移動する前記被写体の位置に応じて異なる波長を有する照射光を、前記被写体に間欠的に順次照射する照射装置と、
    前記照射により当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成する撮像装置と、
    前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成する合成装置と、
    を備える、撮像システム。
  20. 移動する被写体の位置に応じて異なる波長を有する各照射光を当該被写体に間欠的に順次照射することにより当該被写体で反射された各反射光を順次受光し、各波長の前記反射光に基づく各信号情報を一時的に順次保持し、保持した前記各信号情報を一括して読み出すことにより、1フレーム画像を生成することと、
    前記1フレーム画像から、前記各波長の反射光に対応する被写体象をそれぞれ切り出し、切り出した複数の前記被写体象を重ねあわせて、合成画像を生成することと、
    を含む、撮像方法。
JP2019169086A 2019-09-18 2019-09-18 撮像デバイス、撮像システム及び撮像方法 Pending JP2021048464A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019169086A JP2021048464A (ja) 2019-09-18 2019-09-18 撮像デバイス、撮像システム及び撮像方法
CN202080054660.1A CN114175615A (zh) 2019-09-18 2020-09-08 摄像器件、摄像系统和摄像方法
US17/641,954 US20220390383A1 (en) 2019-09-18 2020-09-08 Imaging device, imaging system, and imaging method
PCT/JP2020/033937 WO2021054198A1 (ja) 2019-09-18 2020-09-08 撮像デバイス、撮像システム及び撮像方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019169086A JP2021048464A (ja) 2019-09-18 2019-09-18 撮像デバイス、撮像システム及び撮像方法

Publications (1)

Publication Number Publication Date
JP2021048464A true JP2021048464A (ja) 2021-03-25

Family

ID=74878790

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019169086A Pending JP2021048464A (ja) 2019-09-18 2019-09-18 撮像デバイス、撮像システム及び撮像方法

Country Status (4)

Country Link
US (1) US20220390383A1 (ja)
JP (1) JP2021048464A (ja)
CN (1) CN114175615A (ja)
WO (1) WO2021054198A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023171142A1 (ja) * 2022-03-07 2023-09-14 東レエンジニアリング株式会社 蛍光検査装置
WO2024004388A1 (ja) * 2022-06-29 2024-01-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023018822A (ja) * 2021-07-28 2023-02-09 パナソニックIpマネジメント株式会社 検査方法および検査装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4161145B2 (ja) * 1998-12-24 2008-10-08 株式会社Ihi Ccdカメラとレーザ照明を用いた発光体の撮像装置
JP4952329B2 (ja) * 2007-03-27 2012-06-13 カシオ計算機株式会社 撮像装置、色収差補正方法およびプログラム
JP6010723B2 (ja) * 2009-07-30 2016-10-19 国立研究開発法人産業技術総合研究所 画像撮影装置および画像撮影方法
JP2012014668A (ja) * 2010-06-04 2012-01-19 Sony Corp 画像処理装置、画像処理方法、プログラム、および電子装置
CN103430551B (zh) * 2011-01-14 2017-06-09 索尼公司 使用具有纵色像差的透镜单元的成像系统及其操作方法
JP5979500B2 (ja) * 2011-04-07 2016-08-24 パナソニックIpマネジメント株式会社 立体撮像装置
JP2014140117A (ja) * 2013-01-21 2014-07-31 Panasonic Corp カメラ装置及び撮像方法
JP5692446B1 (ja) * 2014-07-01 2015-04-01 株式会社Jvcケンウッド 撮像装置、撮像装置の制御方法及び制御プログラム
JP6484504B2 (ja) * 2015-06-10 2019-03-13 株式会社 日立産業制御ソリューションズ 撮像装置
JP6806591B2 (ja) * 2017-02-27 2021-01-06 日本放送協会 撮影装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023171142A1 (ja) * 2022-03-07 2023-09-14 東レエンジニアリング株式会社 蛍光検査装置
WO2024004388A1 (ja) * 2022-06-29 2024-01-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置

Also Published As

Publication number Publication date
US20220390383A1 (en) 2022-12-08
CN114175615A (zh) 2022-03-11
WO2021054198A1 (ja) 2021-03-25

Similar Documents

Publication Publication Date Title
WO2021054198A1 (ja) 撮像デバイス、撮像システム及び撮像方法
US9904859B2 (en) Object detection enhancement of reflection-based imaging unit
US11888004B2 (en) Imaging apparatus having phase difference detection pixels receiving light transmitted through a same color filter
JP6971722B2 (ja) 固体撮像装置および電子機器
CN110998367B (zh) 深度图像获取设备、控制方法及深度图像获取系统
EP2870031B1 (en) Gated stereo imaging system and method
JP7044107B2 (ja) 光センサ、及び、電子機器
WO2020230660A1 (ja) 画像認識装置、固体撮像装置、および画像認識方法
EP3428677B1 (en) A vision system and a vision method for a vehicle
WO2020230636A1 (ja) 画像認識装置および画像認識方法
WO2020241336A1 (ja) 画像認識装置および画像認識方法
US20210341616A1 (en) Sensor fusion system, synchronization control apparatus, and synchronization control method
US20230402475A1 (en) Imaging apparatus and electronic device
US20220345606A1 (en) Imaging device
US20200396400A1 (en) Imaging apparatus and electronic equipment
JP2021051015A (ja) 測距装置、測距方法、並びにプログラム
JP2021034496A (ja) 撮像素子、測距装置
EP3182453A1 (en) Image sensor for a vision device and vision method for a motor vehicle
US20220276379A1 (en) Device, measuring device, distance measuring system, and method
JP2021190848A (ja) 検出装置、検出システム及び検出方法
CN115136593A (zh) 成像装置、成像方法和电子装置
EP3227742B1 (en) Object detection enhancement of reflection-based imaging unit
WO2021192459A1 (ja) 撮像装置
WO2022004441A1 (ja) 測距装置および測距方法
WO2021235033A1 (ja) センシングシステム