JP7048301B2 - Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit - Google Patents

Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit Download PDF

Info

Publication number
JP7048301B2
JP7048301B2 JP2017245015A JP2017245015A JP7048301B2 JP 7048301 B2 JP7048301 B2 JP 7048301B2 JP 2017245015 A JP2017245015 A JP 2017245015A JP 2017245015 A JP2017245015 A JP 2017245015A JP 7048301 B2 JP7048301 B2 JP 7048301B2
Authority
JP
Japan
Prior art keywords
image
abnormality detection
output
unit
image sensor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017245015A
Other languages
Japanese (ja)
Other versions
JP2019114848A (en
Inventor
圭佑 月足
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Faurecia Clarion Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd, Faurecia Clarion Electronics Co Ltd filed Critical Clarion Co Ltd
Priority to JP2017245015A priority Critical patent/JP7048301B2/en
Publication of JP2019114848A publication Critical patent/JP2019114848A/en
Application granted granted Critical
Publication of JP7048301B2 publication Critical patent/JP7048301B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮影システム、撮影ユニット、情報処理ユニット、撮影ユニットの異常検出方法に関する。 The present invention relates to an abnormality detection method for an imaging system, an imaging unit, an information processing unit, and an imaging unit.

自動運転システムや電子ミラーの普及に伴い、車載カメラを含めたシステム全体のフェールセーフが求められている。従来のシステムには、車載カメラへの供給電源の監視や、車載カメラからの同期信号を監視するECUを設けることで、車載カメラの正常/異常の判断を行うものがある。
ところが、車載カメラの出荷後に、画像の表示単位である画素が何らかの不具合により正常に表示されない場合、上記ECUでは車載カメラが正常と判断してしまう。出荷後の画素異常を検出する方法として、所定の画素と所定の画素の周囲の複数の画素との信号出力レベルの差に基づいて、欠陥画素と判定する技術が開示されている(例えば特許文献1参照)。
With the widespread use of autonomous driving systems and electronic mirrors, there is a demand for fail-safe systems for the entire system, including in-vehicle cameras. Some conventional systems determine whether the vehicle-mounted camera is normal or abnormal by providing an ECU that monitors the power supply to the vehicle-mounted camera and monitors the synchronization signal from the vehicle-mounted camera.
However, if the pixel, which is the display unit of the image, is not normally displayed due to some problem after the in-vehicle camera is shipped, the ECU determines that the in-vehicle camera is normal. As a method for detecting a pixel abnormality after shipment, a technique for determining a defective pixel based on a difference in signal output level between a predetermined pixel and a plurality of pixels around the predetermined pixel is disclosed (for example, Patent Document). 1).

特開2002-22391号公報JP-A-2002-22391

しかし、特許文献1記載の技術は、検出に使用する際の画像が通常動作の撮影画像であるため、所定の画素と周囲の複数画素との信号出力レベルの差が、画素異常による結果ではなく、実際の映像そのものに起因することがあり、誤検出が生じる。
そこで、本発明は、画素異常の検出精度を高めることを目的とする。
However, in the technique described in Patent Document 1, since the image used for detection is a captured image in normal operation, the difference in signal output level between a predetermined pixel and a plurality of surrounding pixels is not the result of a pixel abnormality. , It may be caused by the actual image itself, and false detection occurs.
Therefore, an object of the present invention is to improve the detection accuracy of pixel abnormality.

上記目的を達成するために、本発明は、イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備える撮影システムにおいて、前記ケース内に配置され、前記イメージセンサーの受光部に、前記イメージセンサーの滅点を顕在化させる光を照射する光源と、前記光源の光が照射されたときの前記イメージセンサーの出力画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行う異常検出部とを備え、前記出力画像は、前記異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする。 In order to achieve the above object, the present invention is an imaging system including an image sensor and a case for accommodating the image sensor so that an image outside the case can be captured. A pixel abnormality of the output image is detected based on a light source that irradiates the light receiving portion with light that makes the destructive point of the image sensor manifest, and an output image of the image sensor when the light of the light source is irradiated. The output image is an image of a moving image in which a frame image for abnormality detection to be the target of the abnormality detection process is mixed, and the frame image for abnormality detection includes an abnormality detection unit for performing an abnormality detection process. It is characterized in that identification information indicating that the image is for abnormality detection is added .

上記構成において、前記イメージセンサーの露光時間を制御する露光時間制御部を備え、前記異常検出用のフレーム画像は、前記露光時間を、前記イメージセンサーの輝点を顕在化させる設定露光時間に制御したときの前記出力画像を含み、前記異常検出部は、前記異常検出処理として、更に、前記設定露光時間に制御したときの前記出力画像に基づいて、前記出力画像の画素異常を検出してもよい。 In the above configuration, an exposure time control unit for controlling the exposure time of the image sensor is provided, and the frame image for detecting an abnormality controls the exposure time to a set exposure time that makes the bright spot of the image sensor manifest. Even if the abnormality detection unit detects a pixel abnormality of the output image based on the output image when the set exposure time is controlled , the abnormality detection unit includes the output image of the time. good.

また、上記構成において、前記異常検出用のフレーム画像は、前記光源の光が照射され、且つ、前記イメージセンサーの露光時間を、前記光源の光で前記イメージセンサーの画素値を飽和させる第1露光時間にしたときの前記出力画像と、前記光源を消灯し、且つ、前記イメージセンサーの露光時間を最小値である第2露光時間にしたときの前記出力画像とを含み、前記異常検出部は、前記異常検出処理として、前記第1露光時間にしたときの前記出力画像に基づいて、前記出力画像の滅点を検出するとともに、前記第2露光時間にしたときの前記出力画像に基づいて、前記出力画像の輝点を検出してもよい。 Further, in the above configuration, the frame image for abnormality detection is irradiated with the light of the light source, and the exposure time of the image sensor is the first exposure that saturates the pixel value of the image sensor with the light of the light source. The abnormality detection unit includes the output image when the time is set and the output image when the light source is turned off and the exposure time of the image sensor is set to the minimum second exposure time. As the abnormality detection process, the dead point of the output image is detected based on the output image when the first exposure time is set, and the output image is based on the output image when the second exposure time is set . The bright spot of the output image may be detected.

また、上記構成において、前記イメージセンサーの撮影開始時に、前記異常検出用のフレーム画像が出力されてもよい。 Further, in the above configuration, the frame image for detecting an abnormality may be output at the start of shooting by the image sensor.

また、上記構成において、前記イメージセンサーによって撮影を行う間、前記異常検出用のフレーム画像が、時間間隔を空けて継続的に出力されてもよい。 Further, in the above configuration, the frame image for abnormality detection may be continuously output at intervals of time while the image sensor is used for shooting.

また、イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備える撮影ユニットにおいて、前記ケース内に配置され、前記イメージセンサーの受光部に、前記イメージセンサーの滅点を顕在化させる光を照射する光源を有し、前記光源の光が照射されたときの前記イメージセンサーの出力画像を少なくとも出力し、前記出力画像は、前記出力画像の画素異常の検出に用いる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする。 Further, in an imaging unit including an image sensor and a case for accommodating an image outside the case so that an image outside the case can be captured, the image sensor is arranged in the case, and a light receiving portion of the image sensor is a dead point of the image sensor. It has a light source that irradiates light that makes it manifest, and at least outputs an output image of the image sensor when the light of the light source is irradiated, and the output image is an abnormality used for detecting a pixel abnormality in the output image. It is an image of a moving image in which frame images for detection are mixed, and the frame image for abnormality detection is characterized in that identification information indicating that it is an image for abnormality detection is added .

また、画像を入力する入力部と、入力した画像を処理する情報処理部とを備える情報処理ユニットにおいて、前記入力部は、上記撮影ユニットから、前記光源の光が照射されたときの前記出力画像を少なくとも入力し、前記情報処理部は、入力した前記出力画像に含まれる各フレーム画像の識別情報に基づいて、前記異常検出用のフレーム画像を特定し、特定した前記異常検出用のフレーム画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行うことを特徴とする。 Further, in an information processing unit including an input unit for inputting an image and an information processing unit for processing the input image, the input unit is the output image when the light of the light source is irradiated from the photographing unit. Is input at least, and the information processing unit identifies the frame image for abnormality detection based on the identification information of each frame image included in the input output image, and uses the identified frame image for abnormality detection. Based on this, it is characterized in that an abnormality detection process for detecting a pixel abnormality in the output image is performed.

また、イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備えた撮影ユニットの異常検出方法において、前記ケース内に配置された光源から、前記イメージセンサーの受光部に、前記受光部の滅点を顕在化させる光を照射し、前記光源の光が照射されたときの前記イメージセンサーの出力画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行い、前記出力画像は、前記異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする。
Further, in an abnormality detection method of an imaging unit including an image sensor and a case for accommodating the image sensor so that an image outside the case can be captured, a light receiving unit of the image sensor is transmitted from a light source arranged in the case. An abnormality detection process for detecting a pixel abnormality in the output image based on the output image of the image sensor when the light of the light source is irradiated with light that makes the dead point of the light receiving portion manifest. The output image is an image of a moving image in which a frame image for abnormality detection to be the target of the abnormality detection process is mixed, and the frame image for abnormality detection is an image for abnormality detection. It is characterized in that the identification information shown is added .

本発明によれば、画素異常の検出精度を高めることができる。 According to the present invention, it is possible to improve the detection accuracy of pixel abnormality.

本発明の実施形態に係る撮影システムの構成を示すブロック図である。It is a block diagram which shows the structure of the photographing system which concerns on embodiment of this invention. 車載カメラの動作を示すフローチャートである。It is a flowchart which shows the operation of an in-vehicle camera. 車載カメラの出力画像を模式的に示す図である。It is a figure which shows the output image of an in-vehicle camera schematically. 情報処理ユニットの動作を示すフローチャートである。It is a flowchart which shows the operation of an information processing unit.

以下、図面を参照して本発明の実施の形態について説明する。
図1は本発明の実施形態に係る撮影システム1の構成を示すブロック図である。
この撮影システム1は、車両に搭載された撮影ユニット11(以下、車載カメラと言う)と、車載カメラ11の異常を検出する情報処理ユニット31とを備えている。
この撮影システム1は、車載カメラ11を利用した車載システムに使用される。例えば、この撮影システム1は、ドアミラーの代わりに、車載カメラ11と表示装置を利用して周囲を確認可能にする電子ミラーシステム、又は、車載カメラ11を利用して車両を自動運転(先行車追従、自動ブレーキ等を含む)する自動運転システムに使用される。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram showing a configuration of a photographing system 1 according to an embodiment of the present invention.
The photographing system 1 includes an photographing unit 11 mounted on a vehicle (hereinafter referred to as an in-vehicle camera) and an information processing unit 31 for detecting an abnormality in the in-vehicle camera 11.
This photographing system 1 is used in an in-vehicle system using an in-vehicle camera 11. For example, this photographing system 1 automatically drives a vehicle by using an electronic mirror system that makes it possible to check the surroundings by using an in-vehicle camera 11 and a display device instead of a door mirror, or an in-vehicle camera 11 (following a preceding vehicle). , Including automatic braking, etc.) Used in automatic driving systems.

車載カメラ11は、イメージセンサー12と、イメージセンサー12を収容するケース13とを有し、ケース13は、車載カメラ11を覆う部材を構成し、イメージセンサー12を雨水等から保護する保護ケースとして機能する。ケース13には、レンズ部15が設けられ、レンズ部15を介してイメージセンサー12によりケース13外の映像を撮影する。
イメージセンサー12は、撮影画像に対応する画像データを出力するセンサーである。本構成のイメージセンサー12は、マトリクス状に配置されたCMOSの光電変換素子と、電子回路とを備えたCMOSイメージセンサーであり、これらによって、受光部16、光電変換部17、画像処理部18、画像データ出力部19、露光時間制御部20、及びカメラ制御部21が構成される。
The vehicle-mounted camera 11 has an image sensor 12 and a case 13 that houses the image sensor 12, and the case 13 constitutes a member that covers the vehicle-mounted camera 11 and functions as a protective case that protects the image sensor 12 from rainwater and the like. do. A lens unit 15 is provided in the case 13, and an image outside the case 13 is captured by the image sensor 12 via the lens unit 15.
The image sensor 12 is a sensor that outputs image data corresponding to the captured image. The image sensor 12 having this configuration is a CMOS image sensor including CMOS photoelectric conversion elements arranged in a matrix and an electronic circuit, whereby the light receiving unit 16, the photoelectric conversion unit 17, and the image processing unit 18 are provided. An image data output unit 19, an exposure time control unit 20, and a camera control unit 21 are configured.

レンズ部15は、ケース13外の映像を示す光を受光部16に集光させ、結像させる。受光部16は、複数の画素に対応する領域毎に、受光量に応じた信号を光電変換部17に出力する。光電変換部17は、受光部16からの信号を所定の電気データに変換する。画像処理部18は、光電変換部17からの電気データに基づいて1フレーム分の画像データ(フレーム画像とも言う)を順次生成し、出力することで動画の画像データを出力する。 The lens unit 15 condenses the light indicating the image outside the case 13 on the light receiving unit 16 and forms an image. The light receiving unit 16 outputs a signal corresponding to the amount of light received to the photoelectric conversion unit 17 for each region corresponding to the plurality of pixels. The photoelectric conversion unit 17 converts the signal from the light receiving unit 16 into predetermined electrical data. The image processing unit 18 sequentially generates image data (also referred to as a frame image) for one frame based on the electrical data from the photoelectric conversion unit 17, and outputs the image data of the moving image by outputting the image data.

また、画像処理部18は、カメラ制御部21の制御の下、動画の画像データを構成する各フレーム画像の付加領域に、画像識別番号を記述する。この画像識別番号は、このフレーム画像が、車載カメラ11内の撮影画像(イメージセンサー12の画像)に関する異常検出用の画像か否かを識別する識別情報を兼用する。画像データ出力部19は、画像処理部18から出力された画像データを、所定の出力形式で車載カメラ11外の情報処理ユニット31に出力する。 Further, the image processing unit 18 describes an image identification number in an additional area of each frame image constituting the image data of the moving image under the control of the camera control unit 21. The image identification number also serves as identification information for identifying whether or not the frame image is an image for detecting an abnormality related to the captured image (image of the image sensor 12) in the vehicle-mounted camera 11. The image data output unit 19 outputs the image data output from the image processing unit 18 to the information processing unit 31 outside the vehicle-mounted camera 11 in a predetermined output format.

露光時間制御部20は、カメラ制御部21の制御の下、イメージセンサー12の露光時間を制御する。露光時間を適切な値に設定することで、公知の通り、いわゆる白飛びや黒潰れを抑制した画像が得られる。なお、露光時間を短くするほど全体的に暗い画像が得られ、露光時間を長くするほど全体的に明るい画像が得られる。
カメラ制御部21は、車載カメラ11の各部を制御することにより、露光時間制御部20による露光時間等を制御する。また、カメラ制御部21は、情報処理ユニット31と通信接続され、情報処理ユニット31からの信号に基づいて車載カメラ11の動作を停止させることが可能である。
The exposure time control unit 20 controls the exposure time of the image sensor 12 under the control of the camera control unit 21. By setting the exposure time to an appropriate value, as is known, an image in which so-called overexposure and underexposure are suppressed can be obtained. The shorter the exposure time, the darker the image as a whole, and the longer the exposure time, the brighter the image as a whole.
The camera control unit 21 controls the exposure time and the like by the exposure time control unit 20 by controlling each unit of the vehicle-mounted camera 11. Further, the camera control unit 21 is connected to the information processing unit 31 by communication, and can stop the operation of the vehicle-mounted camera 11 based on the signal from the information processing unit 31.

ところで、この種のイメージセンサー12は、一般的に、製品出荷時に、滅点(常時非点灯、又は常時最小画素値の画素に相当)、及び輝点(常時点灯、又は常時最大画素値の画素に相当)といった画素異常の有無が検査されている。
しかし、イメージセンサー12は、温度が高い環境で使用されたり、微量なX線等の影響を受けたりすることで、光電変換素子等にダメージが蓄積され、出荷後に滅点や輝点が発生することがある。
By the way, in general, this type of image sensor 12 has a dead point (corresponding to a pixel that is not always lit or a pixel with a minimum pixel value at all times) and a bright spot (a pixel that is always lit or has a maximum pixel value at all times) at the time of product shipment. The presence or absence of pixel abnormalities such as (corresponding to) is inspected.
However, when the image sensor 12 is used in an environment with a high temperature or is affected by a small amount of X-rays or the like, damage is accumulated in the photoelectric conversion element or the like, and a spot or a bright spot is generated after shipment. Sometimes.

本構成の車載カメラ11は、図1に示すように、ケース13内に光源22が配置され、この光源22によって、イメージセンサー12の受光部16に、滅点となる画素を顕在化させるのに十分な光量の光を照射可能に構成されている。このため、光源22の光が照射された場合、イメージセンサー12からは、滅点を除いて、受光領域の全画素値が飽和した画像(全体的に白飛びさせた画像に相当)を示す画像データが出力される。この画像データは、異常検出用の画像(フレーム画像)として使用される。 In the vehicle-mounted camera 11 having the present configuration, as shown in FIG. 1, a light source 22 is arranged in the case 13, and the light source 22 causes the light receiving unit 16 of the image sensor 12 to reveal a pixel that becomes a vanishing point. It is configured to be able to irradiate a sufficient amount of light. Therefore, when the light of the light source 22 is irradiated, the image sensor 12 shows an image in which all the pixel values in the light receiving region are saturated (corresponding to an image that is totally overexposed) except for the dead point. The data is output. This image data is used as an image (frame image) for detecting an abnormality.

光源22には、例えば、LED等の発光素子が適用され、カメラ制御部21の制御の下、発光時間、及び発光タイミングが制御される。この光源22の出射光は、受光部16に直接照射されてもよいし、ケース13の内壁で反射して受光部16に照射されてもよい。このため、受光部16に光を照射可能な範囲で、光源22の配置や向きは限定されず、ケース13内に空くデッドスペースを利用して光源22を配置し易い。なお、光源22からの光が受光部16に効率良く届くように、ケース13内に、光源22の光を受光部16に向けて反射させる反射部材23(図1中、二点鎖線で示す)を配置してもよい。 For example, a light emitting element such as an LED is applied to the light source 22, and the light emitting time and the light emitting timing are controlled under the control of the camera control unit 21. The emitted light of the light source 22 may be directly irradiated to the light receiving unit 16, or may be reflected by the inner wall of the case 13 and irradiated to the light receiving unit 16. Therefore, the arrangement and orientation of the light source 22 are not limited within the range in which the light receiving unit 16 can be irradiated with light, and the light source 22 can be easily arranged by utilizing the dead space vacated in the case 13. A reflective member 23 that reflects the light of the light source 22 toward the light receiving unit 16 in the case 13 so that the light from the light source 22 reaches the light receiving unit 16 efficiently (indicated by a two-dot chain line in FIG. 1). May be placed.

次に情報処理ユニット31について説明する。
情報処理ユニット31は、CPUと周辺回路とからなるコンピューターを備え、所定の制御プログラムをCPUが実行することにより、画像データ入力部32、画像データ判定部33、画像データ出力部34、画像データ異常判定部35、及び信号出力部36が構成される。
画像データ入力部32は、車載カメラ11から出力される画像データ(車載カメラ11の出力画像に相当)を入力する。画像データ判定部33及び画像データ異常判定部35は、入力した画像を処理する情報処理部として機能する。具体的には、画像データ判定部33は、画像データを構成する各フレーム画像の画像識別番号を読み取ることにより、異常検出用の画像か否かを判定する。
Next, the information processing unit 31 will be described.
The information processing unit 31 includes a computer including a CPU and peripheral circuits, and the CPU executes a predetermined control program to execute an image data input unit 32, an image data determination unit 33, an image data output unit 34, and an image data abnormality. The determination unit 35 and the signal output unit 36 are configured.
The image data input unit 32 inputs image data (corresponding to an output image of the vehicle-mounted camera 11) output from the vehicle-mounted camera 11. The image data determination unit 33 and the image data abnormality determination unit 35 function as an information processing unit that processes the input image. Specifically, the image data determination unit 33 determines whether or not the image is for abnormality detection by reading the image identification number of each frame image constituting the image data.

画像データ出力部34は、車載カメラ11から出力される画像データから、画像データ判定部33によって特定された異常検出用の画像を除いた画像データを生成することで、車載カメラ11外の実際の映像(実映像に相当)に対応する画像データを出力する。この画像データ出力部34が出力する画像データが、電子ミラー、又は自動運転等に使用される。
画像データ異常判定部35は、画像データ判定部33によって特定された異常検出用の画像に基づいて、この画像中の異常画素数を計数し、計数結果に基づいて画像データが正常か否か、つまり、イメージセンサー12の画像が正常か否かを判定する。
信号出力部36は、車載カメラ11と通信接続され、画像データが正常でない(異常)と判定された場合、車載カメラ11を停止させる信号である停止信号を、車載カメラ11のカメラ制御部21に出力する。
The image data output unit 34 generates image data excluding the image for abnormality detection specified by the image data determination unit 33 from the image data output from the vehicle-mounted camera 11, so that the actual image data outside the vehicle-mounted camera 11 is actually generated. Outputs image data corresponding to video (corresponding to actual video). The image data output by the image data output unit 34 is used for an electronic mirror, automatic operation, or the like.
The image data abnormality determination unit 35 counts the number of abnormal pixels in this image based on the image for abnormality detection identified by the image data determination unit 33, and based on the counting result, whether or not the image data is normal. That is, it is determined whether or not the image of the image sensor 12 is normal.
The signal output unit 36 communicates with the vehicle-mounted camera 11, and when it is determined that the image data is not normal (abnormal), the signal output unit 36 sends a stop signal, which is a signal for stopping the vehicle-mounted camera 11, to the camera control unit 21 of the vehicle-mounted camera 11. Output.

図2は車載カメラ11の動作を示すフローチャートである。
車載カメラ11は車両側からの電源供給等によって動作を開始し、まず、イメージセンサー12によって実映像の撮影を開始する(ステップS1)。
図3は車載カメラ11の出力画像を模式的に示す図である。図3に示すように、イメージセンサー12からは、静止画に相当する1フレームの画像(図3中、フレーム画像G1、G2、G3、G4・・・)が順次出力され、つまり、動画の画像データが出力される。
FIG. 2 is a flowchart showing the operation of the vehicle-mounted camera 11.
The in-vehicle camera 11 starts operation by supplying power from the vehicle side or the like, and first starts shooting an actual image by the image sensor 12 (step S1).
FIG. 3 is a diagram schematically showing an output image of the vehicle-mounted camera 11. As shown in FIG. 3, the image sensor 12 sequentially outputs one frame image (frame images G1, G2, G3, G4 ... In FIG. 3) corresponding to a still image, that is, a moving image. The data is output.

また、イメージセンサー12内のカメラ制御部21は、動画の画像データを構成する各フレーム画像G1~G4等に、画像識別番号を付加する処理を開始する(ステップS2)。図3に示すように、イメージセンサー12から出力される各フレームのデータには、画像データを格納する画像データ領域R1と、付加データを格納する付加データ領域R2とがあり、付加データ領域に画像識別番号が格納されることによって、各フレーム画像に画像識別番号が付加される。 Further, the camera control unit 21 in the image sensor 12 starts a process of adding an image identification number to each frame image G1 to G4 or the like constituting the image data of the moving image (step S2). As shown in FIG. 3, the data of each frame output from the image sensor 12 includes an image data area R1 for storing image data and an additional data area R2 for storing additional data, and the image is in the additional data area. By storing the identification number, the image identification number is added to each frame image.

本構成では、実画像のフレーム(図3中、フレーム画像G1、G4)に、実画像であることを示す値00の画像識別番号が付加され、実画像でないフレーム(図3中、フレーム画像G2、G3)に、異常検出用の画像であることを示す値01、02の画像識別番号が付加される。
なお、フレーム画像G1、G4に対応する実画像は、車載カメラ11によって、車両の運転者がドアミラーによって得られる周囲画像と同等の画像を撮影している場合を例示している。
In this configuration, an image identification number having a value of 00 indicating that the image is a real image is added to the frame of the real image (frame images G1 and G4 in FIG. 3), and a frame that is not a real image (frame image G2 in FIG. 3) is added. , G3), the image identification numbers of the values 01 and 02 indicating that the image is for abnormality detection are added.
The actual image corresponding to the frame images G1 and G4 illustrates a case where the driver of the vehicle is taking an image equivalent to the surrounding image obtained by the door mirror by the vehicle-mounted camera 11.

図2に示すように、撮影開始後、カメラ制御部21は、イメージセンサー12の滅点の検出用画像を得るための第1処理を行う(ステップS3)。
この第1処理の動作は次の通りである。まず、カメラ制御部21は、露光時間制御部20によって、露光時間を、光源22の光によって画素値(例えば輝度レベル)を飽和させるのに十分な最大定値である第1露光時間(例えば30fpsの場合、33ms)に設定する。次に、カメラ制御部21は、露光開始と同時に光源22を発光させ、露光終了と同時に、光源22を消灯させる。これによって、図3に示すように、イメージセンサー12の滅点(図3中の黒点P1に相当)だけが顕在化したフレーム画像G2(イメージセンサー12の滅点の検出用画像に相当)が得られる。
As shown in FIG. 2, after the start of shooting, the camera control unit 21 performs a first process for obtaining an image for detecting a dead point of the image sensor 12 (step S3).
The operation of this first process is as follows. First, the camera control unit 21 uses the exposure time control unit 20 to set the exposure time to the first exposure time (for example, 30 fps), which is a maximum constant value sufficient to saturate the pixel value (for example, the luminance level) with the light of the light source 22. In the case, it is set to 33 ms). Next, the camera control unit 21 causes the light source 22 to emit light at the same time as the start of exposure, and turns off the light source 22 at the same time as the end of exposure. As a result, as shown in FIG. 3, a frame image G2 (corresponding to an image for detecting the vanishing point of the image sensor 12) in which only the vanishing point of the image sensor 12 (corresponding to the black dot P1 in FIG. 3) is manifested is obtained. Be done.

上述したように、このフレーム画像G2には、異常検出用の画像であることを示す値01の画像識別番号が付加されるので(図3参照)、情報処理ユニット31側で異常検出用の画像か否かを容易に判定可能である。
なお、第1処理において、光源22を露光時間の間、継続して発光させる場合を説明したが、これに限定されない。例えば、フレーム画像GXと同等の画像が得られる範囲で、光源22の発光時間を露光時間よりも短くしてもよいし、光源22を複数回、発光させてもよい。
As described above, since the image identification number of the value 01 indicating that the frame image G2 is an image for abnormality detection is added (see FIG. 3), the image for abnormality detection on the information processing unit 31 side is added. Whether or not it can be easily determined.
In the first process, the case where the light source 22 continuously emits light during the exposure time has been described, but the present invention is not limited to this. For example, the light emission time of the light source 22 may be shorter than the exposure time or the light source 22 may be made to emit light a plurality of times within a range in which an image equivalent to the frame image GX can be obtained.

第1処理の後、カメラ制御部21は、イメージセンサー12の輝点の検出用画像を得るための第2処理を行う(ステップS4)。この場合、カメラ制御部21は、露光時間制御部20によって、露光時間を、真っ黒の画像を得るのに十分な最小値である第2露光時間(本構成の場合、0ms)に設定する。
これによって、図3に示すように、イメージセンサー12の輝点(図3中の白点P2に相当)だけが顕在化したフレーム画像G3が得られる。このフレーム画像G3は、出力画像の輝点の検出用画像に使用される。なお、第2露光時間は0msが好ましいが、輝点を判別可能な範囲であれば0ms以外でもよい。
After the first process, the camera control unit 21 performs a second process for obtaining an image for detecting the bright spot of the image sensor 12 (step S4). In this case, the camera control unit 21 sets the exposure time to the second exposure time (0 ms in the case of this configuration), which is a minimum value sufficient to obtain a black image, by the exposure time control unit 20.
As a result, as shown in FIG. 3, a frame image G3 in which only the bright spots (corresponding to the white spots P2 in FIG. 3) of the image sensor 12 are manifested can be obtained. This frame image G3 is used as an image for detecting bright spots in the output image. The second exposure time is preferably 0 ms, but may be other than 0 ms as long as the bright spot can be discriminated.

このフレーム画像G3にも、異常検出用の画像であることを示す値02の画像識別番号が付加され(図3参照)、情報処理ユニット31側で異常検出用の画像か否かを容易に判定可能である。 An image identification number having a value of 02 indicating that the image is for abnormality detection is also added to this frame image G3 (see FIG. 3), and the information processing unit 31 can easily determine whether or not the image is for abnormality detection. It is possible.

上記第1処理、及び第2処理は、少なくとも撮影開始時(本構成では撮影を開始してから数秒内)に実行される。これによって、車載カメラ11の撮影画像を、電子ミラー、又は自動運転に実質的に利用する前に、異常検出用の画像(フレーム画像G2、G3)が得られ、これら画像に基づいて情報処理ユニット31が出力画像の画素異常を検出する異常検出処理を行う。
カメラ制御部21は、第2処理が終了した後、車載カメラ11への電源供給が停止されるまで、又は、情報処理ユニット31から停止信号を受信するまで、撮影を継続する(ステップS5)。
The first process and the second process are executed at least at the start of shooting (in this configuration, within a few seconds after the start of shooting). As a result, images for abnormality detection (frame images G2 and G3) are obtained before the captured image of the vehicle-mounted camera 11 is substantially used for the electronic mirror or automatic operation, and the information processing unit is based on these images. 31 performs an abnormality detection process for detecting a pixel abnormality in the output image.
After the second processing is completed, the camera control unit 21 continues shooting until the power supply to the vehicle-mounted camera 11 is stopped or until the stop signal is received from the information processing unit 31 (step S5).

なお、上記第1処理、及び第2処理は、撮影開始時だけ実行してもよいし、車載カメラ11によって動画を撮影する間、時間間隔を空けて継続的に実行してもよく、実行するタイミングは任意に設定してもよい。上記第1処理、及び第2処理を継続的に実行した場合、撮影された動画に、時間間隔を空けて異常検出用の画像(フレーム画像G2、G3)が含まれることになる。 The first process and the second process may be executed only at the start of shooting, or may be continuously executed at intervals of time while the in-vehicle camera 11 is shooting a moving image. The timing may be set arbitrarily. When the first process and the second process are continuously executed, the captured moving image includes images for abnormality detection (frame images G2 and G3) at time intervals.

図4は情報処理ユニット31の動作を示すフローチャートである。この動作は、車載カメラ11の出力画像の画素異常を検出する異常検出処理に対応する動作である。
情報処理ユニット31は、車両側からの電源供給等によって動作を開始し(ステップS11)、車載カメラ11から画像データを入力すると(ステップS11)、画像データ判定部33は、画像データを構成する各フレーム画像の画像識別番号に基づいて、異常検出用の画像か否かを判定する(ステップS12)。
異常検出用の画像でない場合(ステップS12;NO)、情報処理ユニット31は、その画像データを画像データ出力部34に伝送し、外部に出力させる(ステップS13)。
FIG. 4 is a flowchart showing the operation of the information processing unit 31. This operation corresponds to an abnormality detection process for detecting a pixel abnormality in the output image of the vehicle-mounted camera 11.
The information processing unit 31 starts operation by supplying power from the vehicle side (step S11), and when image data is input from the in-vehicle camera 11 (step S11), the image data determination unit 33 constitutes each of the image data. Based on the image identification number of the frame image, it is determined whether or not the image is for abnormality detection (step S12).
When the image is not an abnormality detection image (step S12; NO), the information processing unit 31 transmits the image data to the image data output unit 34 and outputs the image data to the outside (step S13).

一方、異常検出用の画像の場合(ステップS12;YES)、情報処理ユニット31は、その画像データを画像データ異常判定部35に伝送し、画像データ異常判定部35によって異常画素数を計数する(ステップS14)。
この場合、異常検出用の画像は、滅点又は輝点に対応する黒点P1又は白点P2だけが現れた画像(フレーム画像G2、G3)であるので、滅点、及び輝点のそれぞれを容易に特定でき、それぞれの異常画素数を正確に計数することができる。例えば、各画素の受光量に比例する画素値が、滅点判定閾値を下回る画素を滅点と判定し、輝点判定閾値を上回る画素を輝点と判定する、といった簡易な方法だけで異常画素を検出できる。
On the other hand, in the case of an image for abnormality detection (step S12; YES), the information processing unit 31 transmits the image data to the image data abnormality determination unit 35, and the image data abnormality determination unit 35 counts the number of abnormal pixels (step S12; YES). Step S14).
In this case, since the image for detecting an abnormality is an image (frame images G2, G3) in which only the black spot P1 or the white spot P2 corresponding to the blind spot or the bright spot appears, it is easy to make each of the blind spot and the bright spot. The number of abnormal pixels can be accurately counted. For example, an abnormal pixel is determined only by a simple method such that a pixel whose pixel value proportional to the light receiving amount of each pixel is lower than the dead point determination threshold is determined to be a dead point, and a pixel whose pixel value is higher than the bright point determination threshold is determined to be a bright point. Can be detected.

異常画素数を計数した場合(ステップS14)、情報処理ユニット31は、画像データ異常判定部35によって、異常画素数を予め定めた閾値と比較する(ステップS15)。そして、閾値以上の場合(ステップS15;YES)、画像データが異常、つまり、車載カメラ11の出力画像が異常と判定し、車載カメラ11を停止させる停止信号を、信号出力部36から出力させる。これによって、情報処理ユニット31は、出力画像の画素異常を検出すると、車載カメラ11を停止させる。
一方、異常画素数が閾値未満の場合(ステップS15;YES)、情報処理ユニット31は、ステップS11の処理に移行する。以上が情報処理ユニット31の動作である。
When the number of abnormal pixels is counted (step S14), the information processing unit 31 compares the number of abnormal pixels with a predetermined threshold value by the image data abnormality determination unit 35 (step S15). Then, when the value is equal to or greater than the threshold value (step S15; YES), the image data is determined to be abnormal, that is, the output image of the vehicle-mounted camera 11 is determined to be abnormal, and a stop signal for stopping the vehicle-mounted camera 11 is output from the signal output unit 36. As a result, when the information processing unit 31 detects a pixel abnormality in the output image, the in-vehicle camera 11 is stopped.
On the other hand, when the number of abnormal pixels is less than the threshold value (step S15; YES), the information processing unit 31 shifts to the process of step S11. The above is the operation of the information processing unit 31.

このように、本実施の形態の車載カメラ11は、イメージセンサー12の受光部16に、このイメージセンサー12の滅点を顕在化させる光を照射する光源22を備えている。情報処理ユニット31は、光源22の光が照射されたときの出力画像に基づいて、出力画像の画素異常を検出する異常検出処理を行う異常検出部として機能する。これにより、実画像を利用して滅点の画素異常を検出する場合と比べて、画素異常を容易に検出できるとともに、画素異常の検出精度を高めることができる。従って、車載カメラ11の故障診断に好適である。 As described above, the vehicle-mounted camera 11 of the present embodiment is provided with a light source 22 that irradiates the light receiving unit 16 of the image sensor 12 with light that makes the destructive point of the image sensor 12 manifest. The information processing unit 31 functions as an abnormality detection unit that performs an abnormality detection process for detecting a pixel abnormality in the output image based on the output image when the light of the light source 22 is irradiated. As a result, the pixel abnormality can be easily detected and the pixel abnormality detection accuracy can be improved as compared with the case where the pixel abnormality of the dead point is detected by using the actual image. Therefore, it is suitable for failure diagnosis of the vehicle-mounted camera 11.

また、イメージセンサー12の露光時間を制御する露光時間制御部20を備え、情報処理ユニット31は、異常検出処理として、更に、露光時間を、このイメージセンサー12の輝点を顕在化させる露光時間(設定露光時間に相当)に制御したときの出力画像に基づいて、出力画像の画素異常を検出する。これにより、実画像を利用して輝点の画素異常を検出する場合と比べて、画素異常を容易に検出でき、且つ、画素異常の検出精度を高めることができる。 Further, an exposure time control unit 20 for controlling the exposure time of the image sensor 12 is provided, and the information processing unit 31 further uses the exposure time as an abnormality detection process to make the bright spot of the image sensor 12 manifest. Detects pixel abnormalities in the output image based on the output image when controlled to (corresponding to the set exposure time). As a result, the pixel abnormality can be easily detected and the pixel abnormality detection accuracy can be improved as compared with the case where the pixel abnormality of the bright spot is detected by using the actual image.

この場合、情報処理ユニット31は、光源22の光が照射され、且つ、イメージセンサー12の露光時間を、光源22の光でイメージセンサー12の画素値を飽和させる第1露光時間にしたときの出力画像に基づいて、出力画像の滅点を検出するので、滅点を高精度で検出できる。
さらに、情報処理ユニット31は、光源22を消灯し、且つ、イメージセンサー12の露光時間を最小値である第2露光時間にしたときの出力画像に基づいて、出力画像の輝点を検出するので、輝点を高精度で検出できる。
In this case, the information processing unit 31 outputs when the light of the light source 22 is irradiated and the exposure time of the image sensor 12 is set to the first exposure time in which the pixel value of the image sensor 12 is saturated with the light of the light source 22. Since the extinction point of the output image is detected based on the image, the extinction point can be detected with high accuracy.
Further, since the information processing unit 31 detects the bright spot of the output image based on the output image when the light source 22 is turned off and the exposure time of the image sensor 12 is set to the second exposure time which is the minimum value. , Bright spots can be detected with high accuracy.

また、車載カメラ11の出力画像は、異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、異常検出用のフレーム画像には、異常検出用の画像であることを示す画像識別番号(識別情報に相当)が付加されるので、動画を撮影しながら画素異常を検出でき、且つ、異常検出用の画像を容易に特定できる。
また、撮影開始時に、異常検出処理の対象となる異常検出用のフレーム画像が出力されるので、撮影画像を、電子ミラー、又は自動運転に利用する際に、早期のタイミングで画素異常を検出できる。従って、画素異常のまま電子ミラー又は自動運転への利用が継続する事態を効果的に防止できる。
Further, the output image of the in-vehicle camera 11 is an image of a moving image in which a frame image for abnormality detection to be an abnormality detection process is mixed, and the frame image for abnormality detection is an image for abnormality detection. Since the indicated image identification number (corresponding to the identification information) is added, the pixel abnormality can be detected while shooting a moving image, and the image for detecting the abnormality can be easily specified.
In addition, since the frame image for abnormality detection that is the target of abnormality detection processing is output at the start of shooting, pixel abnormality can be detected at an early timing when the shot image is used for an electronic mirror or automatic operation. .. Therefore, it is possible to effectively prevent the situation where the use of the electronic mirror or the automatic operation is continued with the pixel abnormality.

さらに、撮影開始時に限定せず、車載カメラ11によって動画を撮影する間、時間間隔を空けて継続的に、異常検出用のフレーム画像が時間間隔を空けて継続的に出力されるようにすることで、撮影の間、画素異常の有無を継続的に監視できる。これにより、撮影途中で画素異常が発生した場合に、略リアルタイムで画素異常を検出でき、適切な対処がし易くなる。言い換えると、画素異常が検出されない間は、撮影画像の品質(画素異常がない撮影画像であること)が保たれていることを担保できる。 Further, not limited to the start of shooting, the frame image for abnormality detection is continuously output at time intervals while the vehicle-mounted camera 11 is shooting a moving image. Therefore, the presence or absence of pixel abnormality can be continuously monitored during shooting. As a result, when a pixel abnormality occurs during shooting, the pixel abnormality can be detected in substantially real time, and it becomes easy to take appropriate measures. In other words, it can be ensured that the quality of the captured image (the captured image has no pixel abnormality) is maintained while the pixel abnormality is not detected.

上記の実施形態は、あくまでも本発明の一実施の態様を例示するものであって、本発明の趣旨を逸脱しない範囲で任意に変形、及び応用が可能である。
例えば、情報処理ユニット31が、電子ミラーシステム内、又は自動運転システム内にあってもよい。また、車載カメラ11と情報処理ユニット31とが一体でもよい。
The above embodiment is merely an example of an embodiment of the present invention, and can be arbitrarily modified and applied without departing from the spirit of the present invention.
For example, the information processing unit 31 may be in an electronic mirror system or an automatic driving system. Further, the vehicle-mounted camera 11 and the information processing unit 31 may be integrated.

また、本発明を、車載の撮影システム1、車載の撮影ユニット(車載カメラ11)、車載の情報処理ユニット31、及び車載カメラ11の異常検出方法に適用する場合を説明したが、これに限定されない。本発明は、車載以外の撮影システム、撮影ユニット、情報処理ユニット、及び撮影ユニットの異常検出方法に適用可能である。
さらに、動画を撮影する撮影ユニットを使用する場合を説明したが、静止画を撮影する撮影ユニットでもよい。例えば、一眼レフタイプのデジタルカメラ等に生じる画像異常を、本発明によって検出してもよい。
Further, the case where the present invention is applied to an in-vehicle photography system 1, an in-vehicle photography unit (in-vehicle camera 11), an in-vehicle information processing unit 31, and an abnormality detection method of the in-vehicle camera 11 has been described, but the present invention is not limited thereto. .. INDUSTRIAL APPLICABILITY The present invention can be applied to an abnormality detection method for an imaging system, an imaging unit, an information processing unit, and an imaging unit other than those mounted on a vehicle.
Further, although the case of using a shooting unit for shooting a moving image has been described, a shooting unit for shooting a still image may be used. For example, an image abnormality occurring in a single-lens reflex type digital camera or the like may be detected by the present invention.

また、図1は車載カメラ11及び情報処理ユニット31の機能ブロックを示したものであり、機能ブロックのそれぞれは、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成でもよい。
また、図2及び図4に示すフローチャートの処理単位は、処理の理解を容易にするために、主な処理内容に応じて分割したものである。処理単位の分割の仕方や名称によって、本願発明が制限されることはない。すなわち、各処理は、処理内容に応じて、さらに多くの処理ステップに分割することもできる。また、1つの処理ステップがさらに多くの処理を含むように分割することもできる。
Further, FIG. 1 shows the functional blocks of the vehicle-mounted camera 11 and the information processing unit 31, and each of the functional blocks may be realized by hardware or realized by the cooperation of hardware and software. It may be configured.
Further, the processing units of the flowcharts shown in FIGS. 2 and 4 are divided according to the main processing contents in order to facilitate understanding of the processing. The invention of the present application is not limited by the method and name of division of the processing unit. That is, each process can be further divided into more process steps according to the process content. It is also possible to divide one processing step so as to include more processing.

1 撮影システム
11 撮影ユニット(車載カメラ)
12 イメージセンサー
13 ケース
15 レンズ部
16 受光部
17 光電変換部
18 画像処理部
19、34 画像データ出力部
20 露光時間制御部
21 カメラ制御部
22 光源
31 情報処理ユニット(異常検出部)
32 画像データ入力部
33 画像データ判定部(情報処理部)
35 画像データ異常判定部(情報処理部)
36 信号出力部
1 Shooting system 11 Shooting unit (vehicle-mounted camera)
12 Image sensor 13 Case 15 Lens unit 16 Light receiving unit 17 Photoelectric conversion unit 18 Image processing unit 19, 34 Image data output unit 20 Exposure time control unit 21 Camera control unit 22 Light source 31 Information processing unit (abnormality detection unit)
32 Image data input unit 33 Image data judgment unit (information processing unit)
35 Image data abnormality judgment unit (information processing unit)
36 Signal output section

Claims (8)

イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備える撮影システムにおいて、
前記ケース内に配置され、前記イメージセンサーの受光部に、前記イメージセンサーの滅点を顕在化させる光を照射する光源と、
前記光源の光が照射されたときの前記イメージセンサーの出力画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行う異常検出部とを備え
前記出力画像は、前記異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする撮影システム。
In a shooting system including an image sensor and a case for accommodating the image sensor so that an image outside the case can be shot.
A light source arranged in the case and irradiating the light receiving portion of the image sensor with light that makes the destructive point of the image sensor manifest.
It is provided with an abnormality detection unit that performs an abnormality detection process for detecting a pixel abnormality in the output image based on the output image of the image sensor when the light of the light source is irradiated .
The output image is an image of a moving image in which a frame image for abnormality detection to be the target of the abnormality detection process is mixed, and the frame image for abnormality detection is identification information indicating that the image is an image for abnormality detection. A shooting system characterized by the addition of.
前記イメージセンサーの露光時間を制御する露光時間制御部を備え、
前記異常検出用のフレーム画像は、前記露光時間を、前記イメージセンサーの輝点を顕在化させる設定露光時間に制御したときの前記出力画像を含み、
前記異常検出部は、前記異常検出処理として、更に、前記設定露光時間に制御したときの前記出力画像に基づいて、前記出力画像の画素異常を検出することを特徴とする請求項1に記載の撮影システム。
An exposure time control unit for controlling the exposure time of the image sensor is provided.
The frame image for anomaly detection includes the output image when the exposure time is controlled to a set exposure time that makes the bright spot of the image sensor manifest.
The first aspect of the present invention is characterized in that, as the abnormality detection process , the abnormality detection unit further detects a pixel abnormality in the output image based on the output image when controlled to the set exposure time. Shooting system.
前記異常検出用のフレーム画像は、前記光源の光が照射され、且つ、前記イメージセンサーの露光時間を、前記光源の光で前記イメージセンサーの画素値を飽和させる第1露光時間にしたときの前記出力画像と、前記光源を消灯し、且つ、前記イメージセンサーの露光時間を最小値である第2露光時間にしたときの前記出力画像とを含み、
前記異常検出部は、前記異常検出処理として、前記第1露光時間にしたときの前記出力画像に基づいて、前記出力画像の滅点を検出するとともに、前記第2露光時間にしたときの前記出力画像に基づいて、前記出力画像の輝点を検出することを特徴とする請求項2に記載の撮影システム。
The frame image for abnormality detection is the first exposure time when the light of the light source is irradiated and the exposure time of the image sensor is set to the first exposure time in which the pixel value of the image sensor is saturated with the light of the light source. The output image and the output image when the light source is turned off and the exposure time of the image sensor is set to the minimum value of the second exposure time are included.
As the abnormality detection process, the abnormality detection unit detects a dead point of the output image based on the output image when the first exposure time is set, and the output when the second exposure time is set. The photographing system according to claim 2, wherein the bright spot of the output image is detected based on the image .
前記イメージセンサーの撮影開始時に、前記異常検出用のフレーム画像が出力されることを特徴とする請求項1から3のいずれかに記載の撮影システム。The imaging system according to any one of claims 1 to 3, wherein a frame image for detecting an abnormality is output at the start of imaging of the image sensor. 前記イメージセンサーによって撮影を行う間、前記異常検出用のフレーム画像が、時間間隔を空けて継続的に出力されることを特徴とする請求項1から4のいずれかに記載の撮影システム。The imaging system according to any one of claims 1 to 4, wherein the frame image for abnormality detection is continuously output at intervals of time while imaging is performed by the image sensor. イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備える撮影ユニットにおいて、In a shooting unit including an image sensor and a case for accommodating the image sensor so that an image outside the case can be shot.
前記ケース内に配置され、前記イメージセンサーの受光部に、前記イメージセンサーの滅点を顕在化させる光を照射する光源を有し、前記光源の光が照射されたときの前記イメージセンサーの出力画像を少なくとも出力し、 The light receiving portion of the image sensor, which is arranged in the case, has a light source that irradiates light that makes the destructive point of the image sensor manifest, and is an output image of the image sensor when the light of the light source is irradiated. At least output,
前記出力画像は、前記出力画像の画素異常の検出に用いる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする撮影ユニット。 The output image is an image of a moving image in which a frame image for abnormality detection used for detecting a pixel abnormality in the output image is mixed, and the frame image for abnormality detection is an image for abnormality detection. A shooting unit characterized by having identification information added.
画像を入力する入力部と、入力した画像を処理する情報処理部とを備える情報処理ユニットにおいて、In an information processing unit including an input unit for inputting an image and an information processing unit for processing the input image.
前記入力部は、請求項6記載の撮影ユニットから、前記光源の光が照射されたときの前記出力画像を少なくとも入力し、 The input unit inputs at least the output image when the light of the light source is irradiated from the photographing unit according to claim 6.
前記情報処理部は、入力した前記出力画像に含まれる各フレーム画像の識別情報に基づいて、前記異常検出用のフレーム画像を特定し、特定した前記異常検出用のフレーム画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行うことを特徴とする情報処理ユニット。 The information processing unit identifies the frame image for abnormality detection based on the identification information of each frame image included in the input output image, and outputs the output based on the identified frame image for abnormality detection. An information processing unit characterized by performing anomaly detection processing for detecting pixel anomalies in an image.
イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備えた撮影ユニットの異常検出方法において、In a method for detecting an abnormality in an imaging unit including an image sensor and a case that accommodates the image sensor so that an image outside the case can be captured.
前記ケース内に配置された光源から、前記イメージセンサーの受光部に、前記受光部の滅点を顕在化させる光を照射し、 From the light source arranged in the case, the light receiving portion of the image sensor is irradiated with light that makes the destructive point of the light receiving portion manifest.
前記光源の光が照射されたときの前記イメージセンサーの出力画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行い、 Based on the output image of the image sensor when the light of the light source is irradiated, an abnormality detection process for detecting a pixel abnormality in the output image is performed.
前記出力画像は、前記異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする撮影ユニットの異常検出方法。 The output image is an image of a moving image in which a frame image for abnormality detection to be the target of the abnormality detection process is mixed, and the frame image for abnormality detection is identification information indicating that the image is an image for abnormality detection. An abnormality detection method for an imaging unit, which is characterized by the addition of.
JP2017245015A 2017-12-21 2017-12-21 Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit Active JP7048301B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017245015A JP7048301B2 (en) 2017-12-21 2017-12-21 Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017245015A JP7048301B2 (en) 2017-12-21 2017-12-21 Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit

Publications (2)

Publication Number Publication Date
JP2019114848A JP2019114848A (en) 2019-07-11
JP7048301B2 true JP7048301B2 (en) 2022-04-05

Family

ID=67223261

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017245015A Active JP7048301B2 (en) 2017-12-21 2017-12-21 Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit

Country Status (1)

Country Link
JP (1) JP7048301B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001128068A (en) 1999-11-01 2001-05-11 Sharp Corp Video camera
JP2002112118A (en) 2000-09-27 2002-04-12 Matsushita Electric Ind Co Ltd Defective pixel detector for solid-state image pickup element
JP2005318465A (en) 2004-04-30 2005-11-10 Casio Comput Co Ltd Imaging apparatus and method for processing image data thereof

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001128068A (en) 1999-11-01 2001-05-11 Sharp Corp Video camera
JP2002112118A (en) 2000-09-27 2002-04-12 Matsushita Electric Ind Co Ltd Defective pixel detector for solid-state image pickup element
JP2005318465A (en) 2004-04-30 2005-11-10 Casio Comput Co Ltd Imaging apparatus and method for processing image data thereof

Also Published As

Publication number Publication date
JP2019114848A (en) 2019-07-11

Similar Documents

Publication Publication Date Title
JP4738778B2 (en) Image processing device, driving support device, and driving support system
US7889890B2 (en) Image capture apparatus and control method therefor
CN114827573A (en) Adjusting camera exposure for three-dimensional depth sensing and two-dimensional imaging
CN107079120A (en) The method of fault detect and detection failure in digital imaging system
JP2017026316A5 (en)
JPWO2018042481A1 (en) Imaging apparatus and imaging method
JP2007147506A (en) Piping inspection system and self-propelled piping inspection apparatus used therefor
JP2023002656A (en) Image processing device, projection system, image processing method, and image processing program
JP2017225073A (en) Imaging device and control method for the same, program and imaging system
JP7048301B2 (en) Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit
JP2012010282A (en) Imaging device, exposure control method, and exposure control program
CN112638232A (en) Light source control device, endoscope system, and light control method
JP2008167299A5 (en)
CN112770021B (en) Camera and filter switching method
JP7278764B2 (en) IMAGING DEVICE, ELECTRONIC DEVICE, IMAGING DEVICE CONTROL METHOD AND PROGRAM
US20190289185A1 (en) Occupant monitoring apparatus
KR20110067700A (en) Image acquisition method and digital camera system
US10829042B2 (en) Imaging apparatus with image sensor for detecting light in an atmospheric peak and vehicle having same
JP5407785B2 (en) Imaging apparatus and image processing state determination method
US11178339B2 (en) Control of an illuminator
CN115398883B (en) Infrared imaging device and infrared imaging system
JP2010008717A (en) Photographing device
JP7543930B2 (en) Detection system, detection device and program
JP2009273684A (en) Endoscope apparatus capable of detecting color unevenness
JP4677924B2 (en) Imaging system, moving image processing method, and moving image processing apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211028

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220324

R150 Certificate of patent or registration of utility model

Ref document number: 7048301

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150