JP7048301B2 - Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit - Google Patents
Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit Download PDFInfo
- Publication number
- JP7048301B2 JP7048301B2 JP2017245015A JP2017245015A JP7048301B2 JP 7048301 B2 JP7048301 B2 JP 7048301B2 JP 2017245015 A JP2017245015 A JP 2017245015A JP 2017245015 A JP2017245015 A JP 2017245015A JP 7048301 B2 JP7048301 B2 JP 7048301B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- abnormality detection
- output
- unit
- image sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Description
本発明は、撮影システム、撮影ユニット、情報処理ユニット、撮影ユニットの異常検出方法に関する。 The present invention relates to an abnormality detection method for an imaging system, an imaging unit, an information processing unit, and an imaging unit.
自動運転システムや電子ミラーの普及に伴い、車載カメラを含めたシステム全体のフェールセーフが求められている。従来のシステムには、車載カメラへの供給電源の監視や、車載カメラからの同期信号を監視するECUを設けることで、車載カメラの正常/異常の判断を行うものがある。
ところが、車載カメラの出荷後に、画像の表示単位である画素が何らかの不具合により正常に表示されない場合、上記ECUでは車載カメラが正常と判断してしまう。出荷後の画素異常を検出する方法として、所定の画素と所定の画素の周囲の複数の画素との信号出力レベルの差に基づいて、欠陥画素と判定する技術が開示されている(例えば特許文献1参照)。
With the widespread use of autonomous driving systems and electronic mirrors, there is a demand for fail-safe systems for the entire system, including in-vehicle cameras. Some conventional systems determine whether the vehicle-mounted camera is normal or abnormal by providing an ECU that monitors the power supply to the vehicle-mounted camera and monitors the synchronization signal from the vehicle-mounted camera.
However, if the pixel, which is the display unit of the image, is not normally displayed due to some problem after the in-vehicle camera is shipped, the ECU determines that the in-vehicle camera is normal. As a method for detecting a pixel abnormality after shipment, a technique for determining a defective pixel based on a difference in signal output level between a predetermined pixel and a plurality of pixels around the predetermined pixel is disclosed (for example, Patent Document). 1).
しかし、特許文献1記載の技術は、検出に使用する際の画像が通常動作の撮影画像であるため、所定の画素と周囲の複数画素との信号出力レベルの差が、画素異常による結果ではなく、実際の映像そのものに起因することがあり、誤検出が生じる。
そこで、本発明は、画素異常の検出精度を高めることを目的とする。
However, in the technique described in
Therefore, an object of the present invention is to improve the detection accuracy of pixel abnormality.
上記目的を達成するために、本発明は、イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備える撮影システムにおいて、前記ケース内に配置され、前記イメージセンサーの受光部に、前記イメージセンサーの滅点を顕在化させる光を照射する光源と、前記光源の光が照射されたときの前記イメージセンサーの出力画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行う異常検出部とを備え、前記出力画像は、前記異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする。 In order to achieve the above object, the present invention is an imaging system including an image sensor and a case for accommodating the image sensor so that an image outside the case can be captured. A pixel abnormality of the output image is detected based on a light source that irradiates the light receiving portion with light that makes the destructive point of the image sensor manifest, and an output image of the image sensor when the light of the light source is irradiated. The output image is an image of a moving image in which a frame image for abnormality detection to be the target of the abnormality detection process is mixed, and the frame image for abnormality detection includes an abnormality detection unit for performing an abnormality detection process. It is characterized in that identification information indicating that the image is for abnormality detection is added .
上記構成において、前記イメージセンサーの露光時間を制御する露光時間制御部を備え、前記異常検出用のフレーム画像は、前記露光時間を、前記イメージセンサーの輝点を顕在化させる設定露光時間に制御したときの前記出力画像を含み、前記異常検出部は、前記異常検出処理として、更に、前記設定露光時間に制御したときの前記出力画像に基づいて、前記出力画像の画素異常を検出してもよい。 In the above configuration, an exposure time control unit for controlling the exposure time of the image sensor is provided, and the frame image for detecting an abnormality controls the exposure time to a set exposure time that makes the bright spot of the image sensor manifest. Even if the abnormality detection unit detects a pixel abnormality of the output image based on the output image when the set exposure time is controlled , the abnormality detection unit includes the output image of the time. good.
また、上記構成において、前記異常検出用のフレーム画像は、前記光源の光が照射され、且つ、前記イメージセンサーの露光時間を、前記光源の光で前記イメージセンサーの画素値を飽和させる第1露光時間にしたときの前記出力画像と、前記光源を消灯し、且つ、前記イメージセンサーの露光時間を最小値である第2露光時間にしたときの前記出力画像とを含み、前記異常検出部は、前記異常検出処理として、前記第1露光時間にしたときの前記出力画像に基づいて、前記出力画像の滅点を検出するとともに、前記第2露光時間にしたときの前記出力画像に基づいて、前記出力画像の輝点を検出してもよい。 Further, in the above configuration, the frame image for abnormality detection is irradiated with the light of the light source, and the exposure time of the image sensor is the first exposure that saturates the pixel value of the image sensor with the light of the light source. The abnormality detection unit includes the output image when the time is set and the output image when the light source is turned off and the exposure time of the image sensor is set to the minimum second exposure time. As the abnormality detection process, the dead point of the output image is detected based on the output image when the first exposure time is set, and the output image is based on the output image when the second exposure time is set . The bright spot of the output image may be detected.
また、上記構成において、前記イメージセンサーの撮影開始時に、前記異常検出用のフレーム画像が出力されてもよい。 Further, in the above configuration, the frame image for detecting an abnormality may be output at the start of shooting by the image sensor.
また、上記構成において、前記イメージセンサーによって撮影を行う間、前記異常検出用のフレーム画像が、時間間隔を空けて継続的に出力されてもよい。 Further, in the above configuration, the frame image for abnormality detection may be continuously output at intervals of time while the image sensor is used for shooting.
また、イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備える撮影ユニットにおいて、前記ケース内に配置され、前記イメージセンサーの受光部に、前記イメージセンサーの滅点を顕在化させる光を照射する光源を有し、前記光源の光が照射されたときの前記イメージセンサーの出力画像を少なくとも出力し、前記出力画像は、前記出力画像の画素異常の検出に用いる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする。 Further, in an imaging unit including an image sensor and a case for accommodating an image outside the case so that an image outside the case can be captured, the image sensor is arranged in the case, and a light receiving portion of the image sensor is a dead point of the image sensor. It has a light source that irradiates light that makes it manifest, and at least outputs an output image of the image sensor when the light of the light source is irradiated, and the output image is an abnormality used for detecting a pixel abnormality in the output image. It is an image of a moving image in which frame images for detection are mixed, and the frame image for abnormality detection is characterized in that identification information indicating that it is an image for abnormality detection is added .
また、画像を入力する入力部と、入力した画像を処理する情報処理部とを備える情報処理ユニットにおいて、前記入力部は、上記撮影ユニットから、前記光源の光が照射されたときの前記出力画像を少なくとも入力し、前記情報処理部は、入力した前記出力画像に含まれる各フレーム画像の識別情報に基づいて、前記異常検出用のフレーム画像を特定し、特定した前記異常検出用のフレーム画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行うことを特徴とする。 Further, in an information processing unit including an input unit for inputting an image and an information processing unit for processing the input image, the input unit is the output image when the light of the light source is irradiated from the photographing unit. Is input at least, and the information processing unit identifies the frame image for abnormality detection based on the identification information of each frame image included in the input output image, and uses the identified frame image for abnormality detection. Based on this, it is characterized in that an abnormality detection process for detecting a pixel abnormality in the output image is performed.
また、イメージセンサーと、前記イメージセンサーを、ケース外の映像を撮影可能に収容するケースとを備えた撮影ユニットの異常検出方法において、前記ケース内に配置された光源から、前記イメージセンサーの受光部に、前記受光部の滅点を顕在化させる光を照射し、前記光源の光が照射されたときの前記イメージセンサーの出力画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行い、前記出力画像は、前記異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする。
Further, in an abnormality detection method of an imaging unit including an image sensor and a case for accommodating the image sensor so that an image outside the case can be captured, a light receiving unit of the image sensor is transmitted from a light source arranged in the case. An abnormality detection process for detecting a pixel abnormality in the output image based on the output image of the image sensor when the light of the light source is irradiated with light that makes the dead point of the light receiving portion manifest. The output image is an image of a moving image in which a frame image for abnormality detection to be the target of the abnormality detection process is mixed, and the frame image for abnormality detection is an image for abnormality detection. It is characterized in that the identification information shown is added .
本発明によれば、画素異常の検出精度を高めることができる。 According to the present invention, it is possible to improve the detection accuracy of pixel abnormality.
以下、図面を参照して本発明の実施の形態について説明する。
図1は本発明の実施形態に係る撮影システム1の構成を示すブロック図である。
この撮影システム1は、車両に搭載された撮影ユニット11(以下、車載カメラと言う)と、車載カメラ11の異常を検出する情報処理ユニット31とを備えている。
この撮影システム1は、車載カメラ11を利用した車載システムに使用される。例えば、この撮影システム1は、ドアミラーの代わりに、車載カメラ11と表示装置を利用して周囲を確認可能にする電子ミラーシステム、又は、車載カメラ11を利用して車両を自動運転(先行車追従、自動ブレーキ等を含む)する自動運転システムに使用される。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram showing a configuration of a photographing
The photographing
This photographing
車載カメラ11は、イメージセンサー12と、イメージセンサー12を収容するケース13とを有し、ケース13は、車載カメラ11を覆う部材を構成し、イメージセンサー12を雨水等から保護する保護ケースとして機能する。ケース13には、レンズ部15が設けられ、レンズ部15を介してイメージセンサー12によりケース13外の映像を撮影する。
イメージセンサー12は、撮影画像に対応する画像データを出力するセンサーである。本構成のイメージセンサー12は、マトリクス状に配置されたCMOSの光電変換素子と、電子回路とを備えたCMOSイメージセンサーであり、これらによって、受光部16、光電変換部17、画像処理部18、画像データ出力部19、露光時間制御部20、及びカメラ制御部21が構成される。
The vehicle-mounted
The
レンズ部15は、ケース13外の映像を示す光を受光部16に集光させ、結像させる。受光部16は、複数の画素に対応する領域毎に、受光量に応じた信号を光電変換部17に出力する。光電変換部17は、受光部16からの信号を所定の電気データに変換する。画像処理部18は、光電変換部17からの電気データに基づいて1フレーム分の画像データ(フレーム画像とも言う)を順次生成し、出力することで動画の画像データを出力する。
The
また、画像処理部18は、カメラ制御部21の制御の下、動画の画像データを構成する各フレーム画像の付加領域に、画像識別番号を記述する。この画像識別番号は、このフレーム画像が、車載カメラ11内の撮影画像(イメージセンサー12の画像)に関する異常検出用の画像か否かを識別する識別情報を兼用する。画像データ出力部19は、画像処理部18から出力された画像データを、所定の出力形式で車載カメラ11外の情報処理ユニット31に出力する。
Further, the
露光時間制御部20は、カメラ制御部21の制御の下、イメージセンサー12の露光時間を制御する。露光時間を適切な値に設定することで、公知の通り、いわゆる白飛びや黒潰れを抑制した画像が得られる。なお、露光時間を短くするほど全体的に暗い画像が得られ、露光時間を長くするほど全体的に明るい画像が得られる。
カメラ制御部21は、車載カメラ11の各部を制御することにより、露光時間制御部20による露光時間等を制御する。また、カメラ制御部21は、情報処理ユニット31と通信接続され、情報処理ユニット31からの信号に基づいて車載カメラ11の動作を停止させることが可能である。
The exposure
The
ところで、この種のイメージセンサー12は、一般的に、製品出荷時に、滅点(常時非点灯、又は常時最小画素値の画素に相当)、及び輝点(常時点灯、又は常時最大画素値の画素に相当)といった画素異常の有無が検査されている。
しかし、イメージセンサー12は、温度が高い環境で使用されたり、微量なX線等の影響を受けたりすることで、光電変換素子等にダメージが蓄積され、出荷後に滅点や輝点が発生することがある。
By the way, in general, this type of
However, when the
本構成の車載カメラ11は、図1に示すように、ケース13内に光源22が配置され、この光源22によって、イメージセンサー12の受光部16に、滅点となる画素を顕在化させるのに十分な光量の光を照射可能に構成されている。このため、光源22の光が照射された場合、イメージセンサー12からは、滅点を除いて、受光領域の全画素値が飽和した画像(全体的に白飛びさせた画像に相当)を示す画像データが出力される。この画像データは、異常検出用の画像(フレーム画像)として使用される。
In the vehicle-mounted
光源22には、例えば、LED等の発光素子が適用され、カメラ制御部21の制御の下、発光時間、及び発光タイミングが制御される。この光源22の出射光は、受光部16に直接照射されてもよいし、ケース13の内壁で反射して受光部16に照射されてもよい。このため、受光部16に光を照射可能な範囲で、光源22の配置や向きは限定されず、ケース13内に空くデッドスペースを利用して光源22を配置し易い。なお、光源22からの光が受光部16に効率良く届くように、ケース13内に、光源22の光を受光部16に向けて反射させる反射部材23(図1中、二点鎖線で示す)を配置してもよい。
For example, a light emitting element such as an LED is applied to the
次に情報処理ユニット31について説明する。
情報処理ユニット31は、CPUと周辺回路とからなるコンピューターを備え、所定の制御プログラムをCPUが実行することにより、画像データ入力部32、画像データ判定部33、画像データ出力部34、画像データ異常判定部35、及び信号出力部36が構成される。
画像データ入力部32は、車載カメラ11から出力される画像データ(車載カメラ11の出力画像に相当)を入力する。画像データ判定部33及び画像データ異常判定部35は、入力した画像を処理する情報処理部として機能する。具体的には、画像データ判定部33は、画像データを構成する各フレーム画像の画像識別番号を読み取ることにより、異常検出用の画像か否かを判定する。
Next, the
The
The image
画像データ出力部34は、車載カメラ11から出力される画像データから、画像データ判定部33によって特定された異常検出用の画像を除いた画像データを生成することで、車載カメラ11外の実際の映像(実映像に相当)に対応する画像データを出力する。この画像データ出力部34が出力する画像データが、電子ミラー、又は自動運転等に使用される。
画像データ異常判定部35は、画像データ判定部33によって特定された異常検出用の画像に基づいて、この画像中の異常画素数を計数し、計数結果に基づいて画像データが正常か否か、つまり、イメージセンサー12の画像が正常か否かを判定する。
信号出力部36は、車載カメラ11と通信接続され、画像データが正常でない(異常)と判定された場合、車載カメラ11を停止させる信号である停止信号を、車載カメラ11のカメラ制御部21に出力する。
The image
The image data
The
図2は車載カメラ11の動作を示すフローチャートである。
車載カメラ11は車両側からの電源供給等によって動作を開始し、まず、イメージセンサー12によって実映像の撮影を開始する(ステップS1)。
図3は車載カメラ11の出力画像を模式的に示す図である。図3に示すように、イメージセンサー12からは、静止画に相当する1フレームの画像(図3中、フレーム画像G1、G2、G3、G4・・・)が順次出力され、つまり、動画の画像データが出力される。
FIG. 2 is a flowchart showing the operation of the vehicle-mounted
The in-
FIG. 3 is a diagram schematically showing an output image of the vehicle-mounted
また、イメージセンサー12内のカメラ制御部21は、動画の画像データを構成する各フレーム画像G1~G4等に、画像識別番号を付加する処理を開始する(ステップS2)。図3に示すように、イメージセンサー12から出力される各フレームのデータには、画像データを格納する画像データ領域R1と、付加データを格納する付加データ領域R2とがあり、付加データ領域に画像識別番号が格納されることによって、各フレーム画像に画像識別番号が付加される。
Further, the
本構成では、実画像のフレーム(図3中、フレーム画像G1、G4)に、実画像であることを示す値00の画像識別番号が付加され、実画像でないフレーム(図3中、フレーム画像G2、G3)に、異常検出用の画像であることを示す値01、02の画像識別番号が付加される。
なお、フレーム画像G1、G4に対応する実画像は、車載カメラ11によって、車両の運転者がドアミラーによって得られる周囲画像と同等の画像を撮影している場合を例示している。
In this configuration, an image identification number having a value of 00 indicating that the image is a real image is added to the frame of the real image (frame images G1 and G4 in FIG. 3), and a frame that is not a real image (frame image G2 in FIG. 3) is added. , G3), the image identification numbers of the
The actual image corresponding to the frame images G1 and G4 illustrates a case where the driver of the vehicle is taking an image equivalent to the surrounding image obtained by the door mirror by the vehicle-mounted
図2に示すように、撮影開始後、カメラ制御部21は、イメージセンサー12の滅点の検出用画像を得るための第1処理を行う(ステップS3)。
この第1処理の動作は次の通りである。まず、カメラ制御部21は、露光時間制御部20によって、露光時間を、光源22の光によって画素値(例えば輝度レベル)を飽和させるのに十分な最大定値である第1露光時間(例えば30fpsの場合、33ms)に設定する。次に、カメラ制御部21は、露光開始と同時に光源22を発光させ、露光終了と同時に、光源22を消灯させる。これによって、図3に示すように、イメージセンサー12の滅点(図3中の黒点P1に相当)だけが顕在化したフレーム画像G2(イメージセンサー12の滅点の検出用画像に相当)が得られる。
As shown in FIG. 2, after the start of shooting, the
The operation of this first process is as follows. First, the
上述したように、このフレーム画像G2には、異常検出用の画像であることを示す値01の画像識別番号が付加されるので(図3参照)、情報処理ユニット31側で異常検出用の画像か否かを容易に判定可能である。
なお、第1処理において、光源22を露光時間の間、継続して発光させる場合を説明したが、これに限定されない。例えば、フレーム画像GXと同等の画像が得られる範囲で、光源22の発光時間を露光時間よりも短くしてもよいし、光源22を複数回、発光させてもよい。
As described above, since the image identification number of the
In the first process, the case where the
第1処理の後、カメラ制御部21は、イメージセンサー12の輝点の検出用画像を得るための第2処理を行う(ステップS4)。この場合、カメラ制御部21は、露光時間制御部20によって、露光時間を、真っ黒の画像を得るのに十分な最小値である第2露光時間(本構成の場合、0ms)に設定する。
これによって、図3に示すように、イメージセンサー12の輝点(図3中の白点P2に相当)だけが顕在化したフレーム画像G3が得られる。このフレーム画像G3は、出力画像の輝点の検出用画像に使用される。なお、第2露光時間は0msが好ましいが、輝点を判別可能な範囲であれば0ms以外でもよい。
After the first process, the
As a result, as shown in FIG. 3, a frame image G3 in which only the bright spots (corresponding to the white spots P2 in FIG. 3) of the
このフレーム画像G3にも、異常検出用の画像であることを示す値02の画像識別番号が付加され(図3参照)、情報処理ユニット31側で異常検出用の画像か否かを容易に判定可能である。
An image identification number having a value of 02 indicating that the image is for abnormality detection is also added to this frame image G3 (see FIG. 3), and the
上記第1処理、及び第2処理は、少なくとも撮影開始時(本構成では撮影を開始してから数秒内)に実行される。これによって、車載カメラ11の撮影画像を、電子ミラー、又は自動運転に実質的に利用する前に、異常検出用の画像(フレーム画像G2、G3)が得られ、これら画像に基づいて情報処理ユニット31が出力画像の画素異常を検出する異常検出処理を行う。
カメラ制御部21は、第2処理が終了した後、車載カメラ11への電源供給が停止されるまで、又は、情報処理ユニット31から停止信号を受信するまで、撮影を継続する(ステップS5)。
The first process and the second process are executed at least at the start of shooting (in this configuration, within a few seconds after the start of shooting). As a result, images for abnormality detection (frame images G2 and G3) are obtained before the captured image of the vehicle-mounted
After the second processing is completed, the
なお、上記第1処理、及び第2処理は、撮影開始時だけ実行してもよいし、車載カメラ11によって動画を撮影する間、時間間隔を空けて継続的に実行してもよく、実行するタイミングは任意に設定してもよい。上記第1処理、及び第2処理を継続的に実行した場合、撮影された動画に、時間間隔を空けて異常検出用の画像(フレーム画像G2、G3)が含まれることになる。
The first process and the second process may be executed only at the start of shooting, or may be continuously executed at intervals of time while the in-
図4は情報処理ユニット31の動作を示すフローチャートである。この動作は、車載カメラ11の出力画像の画素異常を検出する異常検出処理に対応する動作である。
情報処理ユニット31は、車両側からの電源供給等によって動作を開始し(ステップS11)、車載カメラ11から画像データを入力すると(ステップS11)、画像データ判定部33は、画像データを構成する各フレーム画像の画像識別番号に基づいて、異常検出用の画像か否かを判定する(ステップS12)。
異常検出用の画像でない場合(ステップS12;NO)、情報処理ユニット31は、その画像データを画像データ出力部34に伝送し、外部に出力させる(ステップS13)。
FIG. 4 is a flowchart showing the operation of the
The
When the image is not an abnormality detection image (step S12; NO), the
一方、異常検出用の画像の場合(ステップS12;YES)、情報処理ユニット31は、その画像データを画像データ異常判定部35に伝送し、画像データ異常判定部35によって異常画素数を計数する(ステップS14)。
この場合、異常検出用の画像は、滅点又は輝点に対応する黒点P1又は白点P2だけが現れた画像(フレーム画像G2、G3)であるので、滅点、及び輝点のそれぞれを容易に特定でき、それぞれの異常画素数を正確に計数することができる。例えば、各画素の受光量に比例する画素値が、滅点判定閾値を下回る画素を滅点と判定し、輝点判定閾値を上回る画素を輝点と判定する、といった簡易な方法だけで異常画素を検出できる。
On the other hand, in the case of an image for abnormality detection (step S12; YES), the
In this case, since the image for detecting an abnormality is an image (frame images G2, G3) in which only the black spot P1 or the white spot P2 corresponding to the blind spot or the bright spot appears, it is easy to make each of the blind spot and the bright spot. The number of abnormal pixels can be accurately counted. For example, an abnormal pixel is determined only by a simple method such that a pixel whose pixel value proportional to the light receiving amount of each pixel is lower than the dead point determination threshold is determined to be a dead point, and a pixel whose pixel value is higher than the bright point determination threshold is determined to be a bright point. Can be detected.
異常画素数を計数した場合(ステップS14)、情報処理ユニット31は、画像データ異常判定部35によって、異常画素数を予め定めた閾値と比較する(ステップS15)。そして、閾値以上の場合(ステップS15;YES)、画像データが異常、つまり、車載カメラ11の出力画像が異常と判定し、車載カメラ11を停止させる停止信号を、信号出力部36から出力させる。これによって、情報処理ユニット31は、出力画像の画素異常を検出すると、車載カメラ11を停止させる。
一方、異常画素数が閾値未満の場合(ステップS15;YES)、情報処理ユニット31は、ステップS11の処理に移行する。以上が情報処理ユニット31の動作である。
When the number of abnormal pixels is counted (step S14), the
On the other hand, when the number of abnormal pixels is less than the threshold value (step S15; YES), the
このように、本実施の形態の車載カメラ11は、イメージセンサー12の受光部16に、このイメージセンサー12の滅点を顕在化させる光を照射する光源22を備えている。情報処理ユニット31は、光源22の光が照射されたときの出力画像に基づいて、出力画像の画素異常を検出する異常検出処理を行う異常検出部として機能する。これにより、実画像を利用して滅点の画素異常を検出する場合と比べて、画素異常を容易に検出できるとともに、画素異常の検出精度を高めることができる。従って、車載カメラ11の故障診断に好適である。
As described above, the vehicle-mounted
また、イメージセンサー12の露光時間を制御する露光時間制御部20を備え、情報処理ユニット31は、異常検出処理として、更に、露光時間を、このイメージセンサー12の輝点を顕在化させる露光時間(設定露光時間に相当)に制御したときの出力画像に基づいて、出力画像の画素異常を検出する。これにより、実画像を利用して輝点の画素異常を検出する場合と比べて、画素異常を容易に検出でき、且つ、画素異常の検出精度を高めることができる。
Further, an exposure
この場合、情報処理ユニット31は、光源22の光が照射され、且つ、イメージセンサー12の露光時間を、光源22の光でイメージセンサー12の画素値を飽和させる第1露光時間にしたときの出力画像に基づいて、出力画像の滅点を検出するので、滅点を高精度で検出できる。
さらに、情報処理ユニット31は、光源22を消灯し、且つ、イメージセンサー12の露光時間を最小値である第2露光時間にしたときの出力画像に基づいて、出力画像の輝点を検出するので、輝点を高精度で検出できる。
In this case, the
Further, since the
また、車載カメラ11の出力画像は、異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、異常検出用のフレーム画像には、異常検出用の画像であることを示す画像識別番号(識別情報に相当)が付加されるので、動画を撮影しながら画素異常を検出でき、且つ、異常検出用の画像を容易に特定できる。
また、撮影開始時に、異常検出処理の対象となる異常検出用のフレーム画像が出力されるので、撮影画像を、電子ミラー、又は自動運転に利用する際に、早期のタイミングで画素異常を検出できる。従って、画素異常のまま電子ミラー又は自動運転への利用が継続する事態を効果的に防止できる。
Further, the output image of the in-
In addition, since the frame image for abnormality detection that is the target of abnormality detection processing is output at the start of shooting, pixel abnormality can be detected at an early timing when the shot image is used for an electronic mirror or automatic operation. .. Therefore, it is possible to effectively prevent the situation where the use of the electronic mirror or the automatic operation is continued with the pixel abnormality.
さらに、撮影開始時に限定せず、車載カメラ11によって動画を撮影する間、時間間隔を空けて継続的に、異常検出用のフレーム画像が時間間隔を空けて継続的に出力されるようにすることで、撮影の間、画素異常の有無を継続的に監視できる。これにより、撮影途中で画素異常が発生した場合に、略リアルタイムで画素異常を検出でき、適切な対処がし易くなる。言い換えると、画素異常が検出されない間は、撮影画像の品質(画素異常がない撮影画像であること)が保たれていることを担保できる。
Further, not limited to the start of shooting, the frame image for abnormality detection is continuously output at time intervals while the vehicle-mounted
上記の実施形態は、あくまでも本発明の一実施の態様を例示するものであって、本発明の趣旨を逸脱しない範囲で任意に変形、及び応用が可能である。
例えば、情報処理ユニット31が、電子ミラーシステム内、又は自動運転システム内にあってもよい。また、車載カメラ11と情報処理ユニット31とが一体でもよい。
The above embodiment is merely an example of an embodiment of the present invention, and can be arbitrarily modified and applied without departing from the spirit of the present invention.
For example, the
また、本発明を、車載の撮影システム1、車載の撮影ユニット(車載カメラ11)、車載の情報処理ユニット31、及び車載カメラ11の異常検出方法に適用する場合を説明したが、これに限定されない。本発明は、車載以外の撮影システム、撮影ユニット、情報処理ユニット、及び撮影ユニットの異常検出方法に適用可能である。
さらに、動画を撮影する撮影ユニットを使用する場合を説明したが、静止画を撮影する撮影ユニットでもよい。例えば、一眼レフタイプのデジタルカメラ等に生じる画像異常を、本発明によって検出してもよい。
Further, the case where the present invention is applied to an in-
Further, although the case of using a shooting unit for shooting a moving image has been described, a shooting unit for shooting a still image may be used. For example, an image abnormality occurring in a single-lens reflex type digital camera or the like may be detected by the present invention.
また、図1は車載カメラ11及び情報処理ユニット31の機能ブロックを示したものであり、機能ブロックのそれぞれは、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成でもよい。
また、図2及び図4に示すフローチャートの処理単位は、処理の理解を容易にするために、主な処理内容に応じて分割したものである。処理単位の分割の仕方や名称によって、本願発明が制限されることはない。すなわち、各処理は、処理内容に応じて、さらに多くの処理ステップに分割することもできる。また、1つの処理ステップがさらに多くの処理を含むように分割することもできる。
Further, FIG. 1 shows the functional blocks of the vehicle-mounted
Further, the processing units of the flowcharts shown in FIGS. 2 and 4 are divided according to the main processing contents in order to facilitate understanding of the processing. The invention of the present application is not limited by the method and name of division of the processing unit. That is, each process can be further divided into more process steps according to the process content. It is also possible to divide one processing step so as to include more processing.
1 撮影システム
11 撮影ユニット(車載カメラ)
12 イメージセンサー
13 ケース
15 レンズ部
16 受光部
17 光電変換部
18 画像処理部
19、34 画像データ出力部
20 露光時間制御部
21 カメラ制御部
22 光源
31 情報処理ユニット(異常検出部)
32 画像データ入力部
33 画像データ判定部(情報処理部)
35 画像データ異常判定部(情報処理部)
36 信号出力部
1
12
32 Image
35 Image data abnormality judgment unit (information processing unit)
36 Signal output section
Claims (8)
前記ケース内に配置され、前記イメージセンサーの受光部に、前記イメージセンサーの滅点を顕在化させる光を照射する光源と、
前記光源の光が照射されたときの前記イメージセンサーの出力画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行う異常検出部とを備え、
前記出力画像は、前記異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする撮影システム。 In a shooting system including an image sensor and a case for accommodating the image sensor so that an image outside the case can be shot.
A light source arranged in the case and irradiating the light receiving portion of the image sensor with light that makes the destructive point of the image sensor manifest.
It is provided with an abnormality detection unit that performs an abnormality detection process for detecting a pixel abnormality in the output image based on the output image of the image sensor when the light of the light source is irradiated .
The output image is an image of a moving image in which a frame image for abnormality detection to be the target of the abnormality detection process is mixed, and the frame image for abnormality detection is identification information indicating that the image is an image for abnormality detection. A shooting system characterized by the addition of.
前記異常検出用のフレーム画像は、前記露光時間を、前記イメージセンサーの輝点を顕在化させる設定露光時間に制御したときの前記出力画像を含み、
前記異常検出部は、前記異常検出処理として、更に、前記設定露光時間に制御したときの前記出力画像に基づいて、前記出力画像の画素異常を検出することを特徴とする請求項1に記載の撮影システム。 An exposure time control unit for controlling the exposure time of the image sensor is provided.
The frame image for anomaly detection includes the output image when the exposure time is controlled to a set exposure time that makes the bright spot of the image sensor manifest.
The first aspect of the present invention is characterized in that, as the abnormality detection process , the abnormality detection unit further detects a pixel abnormality in the output image based on the output image when controlled to the set exposure time. Shooting system.
前記異常検出部は、前記異常検出処理として、前記第1露光時間にしたときの前記出力画像に基づいて、前記出力画像の滅点を検出するとともに、前記第2露光時間にしたときの前記出力画像に基づいて、前記出力画像の輝点を検出することを特徴とする請求項2に記載の撮影システム。 The frame image for abnormality detection is the first exposure time when the light of the light source is irradiated and the exposure time of the image sensor is set to the first exposure time in which the pixel value of the image sensor is saturated with the light of the light source. The output image and the output image when the light source is turned off and the exposure time of the image sensor is set to the minimum value of the second exposure time are included.
As the abnormality detection process, the abnormality detection unit detects a dead point of the output image based on the output image when the first exposure time is set, and the output when the second exposure time is set. The photographing system according to claim 2, wherein the bright spot of the output image is detected based on the image .
前記ケース内に配置され、前記イメージセンサーの受光部に、前記イメージセンサーの滅点を顕在化させる光を照射する光源を有し、前記光源の光が照射されたときの前記イメージセンサーの出力画像を少なくとも出力し、 The light receiving portion of the image sensor, which is arranged in the case, has a light source that irradiates light that makes the destructive point of the image sensor manifest, and is an output image of the image sensor when the light of the light source is irradiated. At least output,
前記出力画像は、前記出力画像の画素異常の検出に用いる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする撮影ユニット。 The output image is an image of a moving image in which a frame image for abnormality detection used for detecting a pixel abnormality in the output image is mixed, and the frame image for abnormality detection is an image for abnormality detection. A shooting unit characterized by having identification information added.
前記入力部は、請求項6記載の撮影ユニットから、前記光源の光が照射されたときの前記出力画像を少なくとも入力し、 The input unit inputs at least the output image when the light of the light source is irradiated from the photographing unit according to claim 6.
前記情報処理部は、入力した前記出力画像に含まれる各フレーム画像の識別情報に基づいて、前記異常検出用のフレーム画像を特定し、特定した前記異常検出用のフレーム画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行うことを特徴とする情報処理ユニット。 The information processing unit identifies the frame image for abnormality detection based on the identification information of each frame image included in the input output image, and outputs the output based on the identified frame image for abnormality detection. An information processing unit characterized by performing anomaly detection processing for detecting pixel anomalies in an image.
前記ケース内に配置された光源から、前記イメージセンサーの受光部に、前記受光部の滅点を顕在化させる光を照射し、 From the light source arranged in the case, the light receiving portion of the image sensor is irradiated with light that makes the destructive point of the light receiving portion manifest.
前記光源の光が照射されたときの前記イメージセンサーの出力画像に基づいて、前記出力画像の画素異常を検出する異常検出処理を行い、 Based on the output image of the image sensor when the light of the light source is irradiated, an abnormality detection process for detecting a pixel abnormality in the output image is performed.
前記出力画像は、前記異常検出処理の対象となる異常検出用のフレーム画像が混在した動画の画像であり、前記異常検出用のフレーム画像には、異常検出用の画像であることを示す識別情報が付加されていることを特徴とする撮影ユニットの異常検出方法。 The output image is an image of a moving image in which a frame image for abnormality detection to be the target of the abnormality detection process is mixed, and the frame image for abnormality detection is identification information indicating that the image is an image for abnormality detection. An abnormality detection method for an imaging unit, which is characterized by the addition of.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017245015A JP7048301B2 (en) | 2017-12-21 | 2017-12-21 | Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017245015A JP7048301B2 (en) | 2017-12-21 | 2017-12-21 | Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019114848A JP2019114848A (en) | 2019-07-11 |
JP7048301B2 true JP7048301B2 (en) | 2022-04-05 |
Family
ID=67223261
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017245015A Active JP7048301B2 (en) | 2017-12-21 | 2017-12-21 | Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7048301B2 (en) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001128068A (en) | 1999-11-01 | 2001-05-11 | Sharp Corp | Video camera |
JP2002112118A (en) | 2000-09-27 | 2002-04-12 | Matsushita Electric Ind Co Ltd | Defective pixel detector for solid-state image pickup element |
JP2005318465A (en) | 2004-04-30 | 2005-11-10 | Casio Comput Co Ltd | Imaging apparatus and method for processing image data thereof |
-
2017
- 2017-12-21 JP JP2017245015A patent/JP7048301B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001128068A (en) | 1999-11-01 | 2001-05-11 | Sharp Corp | Video camera |
JP2002112118A (en) | 2000-09-27 | 2002-04-12 | Matsushita Electric Ind Co Ltd | Defective pixel detector for solid-state image pickup element |
JP2005318465A (en) | 2004-04-30 | 2005-11-10 | Casio Comput Co Ltd | Imaging apparatus and method for processing image data thereof |
Also Published As
Publication number | Publication date |
---|---|
JP2019114848A (en) | 2019-07-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4738778B2 (en) | Image processing device, driving support device, and driving support system | |
US7889890B2 (en) | Image capture apparatus and control method therefor | |
CN114827573A (en) | Adjusting camera exposure for three-dimensional depth sensing and two-dimensional imaging | |
CN107079120A (en) | The method of fault detect and detection failure in digital imaging system | |
JP2017026316A5 (en) | ||
JPWO2018042481A1 (en) | Imaging apparatus and imaging method | |
JP2007147506A (en) | Piping inspection system and self-propelled piping inspection apparatus used therefor | |
JP2023002656A (en) | Image processing device, projection system, image processing method, and image processing program | |
JP2017225073A (en) | Imaging device and control method for the same, program and imaging system | |
JP7048301B2 (en) | Anomaly detection method for shooting system, shooting unit, information processing unit, shooting unit | |
JP2012010282A (en) | Imaging device, exposure control method, and exposure control program | |
CN112638232A (en) | Light source control device, endoscope system, and light control method | |
JP2008167299A5 (en) | ||
CN112770021B (en) | Camera and filter switching method | |
JP7278764B2 (en) | IMAGING DEVICE, ELECTRONIC DEVICE, IMAGING DEVICE CONTROL METHOD AND PROGRAM | |
US20190289185A1 (en) | Occupant monitoring apparatus | |
KR20110067700A (en) | Image acquisition method and digital camera system | |
US10829042B2 (en) | Imaging apparatus with image sensor for detecting light in an atmospheric peak and vehicle having same | |
JP5407785B2 (en) | Imaging apparatus and image processing state determination method | |
US11178339B2 (en) | Control of an illuminator | |
CN115398883B (en) | Infrared imaging device and infrared imaging system | |
JP2010008717A (en) | Photographing device | |
JP7543930B2 (en) | Detection system, detection device and program | |
JP2009273684A (en) | Endoscope apparatus capable of detecting color unevenness | |
JP4677924B2 (en) | Imaging system, moving image processing method, and moving image processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210819 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210831 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211028 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220322 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220324 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7048301 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |