JP2020108108A - 画像処理装置、画像処理装置の故障検知方法、及びプログラム - Google Patents

画像処理装置、画像処理装置の故障検知方法、及びプログラム Download PDF

Info

Publication number
JP2020108108A
JP2020108108A JP2018248205A JP2018248205A JP2020108108A JP 2020108108 A JP2020108108 A JP 2020108108A JP 2018248205 A JP2018248205 A JP 2018248205A JP 2018248205 A JP2018248205 A JP 2018248205A JP 2020108108 A JP2020108108 A JP 2020108108A
Authority
JP
Japan
Prior art keywords
image
image processing
test
unit
partial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018248205A
Other languages
English (en)
Other versions
JP7310138B2 (ja
Inventor
敦史 川田
Atsushi Kawada
敦史 川田
優貴 ▲高▼橋
優貴 ▲高▼橋
Yuki Takahashi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2018248205A priority Critical patent/JP7310138B2/ja
Priority to US16/720,329 priority patent/US11272172B2/en
Publication of JP2020108108A publication Critical patent/JP2020108108A/ja
Application granted granted Critical
Publication of JP7310138B2 publication Critical patent/JP7310138B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)

Abstract

【課題】動作中の画像処理装置において、入力される画像のフレームレートを低下させることなく、多くの種類の画像処理における故障を検知すること。【解決手段】開示の技術の一態様に係る画像処理装置は、入力された画像に対して画像処理を実行する画像処理装置であって、前記入力された画像における予め定められた領域の部分画像をテスト画像に置き換えるテスト画像置換部と、前記部分画像のデータを保持する部分画像保持部と、前記画像処理後の前記テスト画像に基づき、前記画像処理装置の故障の有無を検知する故障検知部と、前記故障検知部による処理の実行後に、前記画像処理後の前記テスト画像を、前記部分画像保持部に保持された前記部分画像に置き換える画像復元部と、を有する。【選択図】図2

Description

本願は、画像処理装置、画像処理装置の故障検知方法、及びプログラムに関する。
従来、車載分野等で使用される画像処理装置では、機能の安全性を確保するために、故障を検知する機能が求められる。
故障検知機能を有する画像処理装置として、画像処理の種類毎にテスト画像と期待値画像とを用意し、画像処理後のテスト画像と期待値画像とを比較して、画像処理装置の故障を検知するものが開示されている(例えば、特許文献1参照)。
また、入力される画像のブランキング期間に該当する画像領域(以下、ブランキング領域という)にテスト画像を挿入し、画像処理後のテスト画像に基づき、故障を検知する画像処理装置が開示されている(例えば、特許文献2参照)。
しかしながら、画像処理の種類に応じて必要なテスト画像のサイズが異なり、サイズが大きいテスト画像をブランキング領域に挿入すると、動作中の画像処理装置において、入力される画像のフレームレートが低下する場合があった。
本発明は、上記の点に鑑みてなされたものであって、動作中の画像処理装置において、入力される画像のフレームレートを低下させることなく、多くの種類の画像処理における故障を検知することを課題とする。
開示の技術の一態様に係る画像処理装置は、入力された画像に対して画像処理を実行する画像処理装置であって、前記入力された画像における予め定められた領域の部分画像をテスト画像に置き換えるテスト画像置換部と、前記部分画像のデータを保持する部分画像保持部と、前記画像処理後の前記テスト画像に基づき、前記画像処理装置の故障の有無を検知する故障検知部と、前記故障検知部による処理の実行後に、前記画像処理後の前記テスト画像を、前記部分画像保持部に保持された前記部分画像に置き換える画像復元部と、を有する。
本発明の一実施形態によれば、動作中の画像処理装置において、入力される画像のフレームレートを低下させることなく、多くの種類の画像処理における故障を検知することができる。
実施形態に係る画像処理システムのハードウェア構成の一例を示すブロック図である。 第1の実施形態に係る画像処理装置の機能構成の一例を示すブロック図である。 入力された画像の一部がテスト画像に置き換えられた画像の一例を説明する図であり、(a)は画像処理装置に入力された画像を説明する図、(b)は一部がテスト画像に置き換えられた画像の第1例を説明する図、(c)は一部がテスト画像に置き換えられた画像の第2例を説明する図である。 OB領域をテスト画像領域として用いる場合の一例を説明する図である。 第1の実施形態に係る画像処理装置の動作の一例を示すフローチャートである。 第2の実施形態に係る画像処理装置の機能構成の一例を示すブロック図である。 検知結果が挿入された画像の一例を説明する図である。 第2の実施形態に係る画像処理装置の動作の一例を示すフローチャートである。
以下、図面を参照して発明を実施するための形態について説明する。各図面において、同一の構成部分には同一符号を付し、重複した説明を省略する場合がある。
実施形態に係る画像処理装置は、撮像素子等から入力された画像に対して各種の画像処理を実行するものであり、また、入力される画像のフレームレートを低下させることなく、多くの種類の画像処理において、画像処理装置の故障を検知する機能を有するものである。以下では、実施形態に係る画像処理装置を有する画像処理システムを、一例として説明する。
<画像処理システムの構成>
図1は、実施形態に係る画像処理システムのハードウェア構成の一例を示すブロック図である。図1に示すように、画像処理システム100は、撮像素子1と、画像処理装置2と、CPU3と、ROM4とを有する。
撮像素子1は、画像を撮像するCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor Device)等のイメージセンサであり、撮像した画像を画像処理装置2に出力する。
画像処理装置2は、画像処理を実行可能なASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)等の集積回路で構成されている。画像処理装置2は、撮像素子1から入力される画像に対して所定の種類の画像処理を実行し、処理後の画像を出力することができる。
また、画像処理装置2は、CPU3を介してROM4に保持されているテスト画像領域や検知結果領域の位置を示すデータを入力し、故障検知処理を実行する際に使用することができる。なお、テスト画像領域については第1の実施形態の説明において、また検知結果領域については第2の実施形態の説明において、それぞれ詳述する。
さらに、画像処理装置2は、処理を実行するために撮像素子1から入力した画像データの少なくとも一部や、故障検知で用いられる期待値画像のデータ等を保持する半導体メモリ(記憶装置)等のメモリ21を有している。
画像処理装置2による処理後の画像は、外部装置に向けて出力される。画像処理装置2の外部装置として、CPUやPC(Personal Computer)、後工程の画像処理装置、表示装置等が挙げられる。外部装置は、画像処理装置2から入力した画像に応じて処理を実行したり、表示装置に表示したりすることができる。
CPU3は、画像処理システム100全体の動作を制御する演算装置である。ROM4は、電源を切ってもプログラムやデータを保持することが可能な不揮発性の半導体メモリ(記憶装置)である。
なお、図1に示す画像処理システム100の構成は、一例であって他の構成であっても良い。
[第1の実施形態]
<第1の実施形態に係る画像処理装置の機能構成>
次に、第1の実施形態に係る画像処理装置2の機能構成について説明する。
図2は、本実施形態に係る画像処理装置の機能構成の一例を示すブロック図である。なお、図2に示されている各機能ブロックの全部又は一部は、任意の単位で機能的又は物理的に分散・結合して構成されてもよい。
図2に示すように、画像処理装置2は、画像入力部22と、テスト画像置換部23と、部分画像保持部24と、画像処理部25と、故障検知部26と、画像復元部27と、画像出力部28とを有する。
テスト画像置換部23に備えられた判定部231は、画像入力部22を介して撮像素子1から画像を入力し、また、予め定められたテスト画像領域の位置を示す座標データをCPU3から入力する。そして、入力した画像を構成する画素毎に、テスト画像に置き換える画素(座標)に該当するか否かを判定する機能を有する。
ここで、テスト画像とは、各種の画像処理を実行する処理回路の故障を検知するために用いられる画像である。カメラで予め撮像された画像や、座標に応じて画素輝度が徐々に増加するインクリメント画像等、故障検知の対象となる画像処理の種類に応じて、故障を検知しやすい画像をテスト画像として用いることができる。
テスト画像は、水平走査ライン数が1ラインから数ライン程度のサイズの画像であり、故障を検知する画像処理の種類に応じて画像のサイズが異なる。例えば、5×5画素のタップサイズのフィルタを用いる画像処理や、5×5の周辺画素を使用する画像処理において故障を検知する場合、テスト画像には少なくとも5ライン分の画像サイズが必要になる。
このようなテスト画像は、テスト画像置換部23が生成してもよいし、メモリ21等に予め保持させておいたテスト画像を、テスト画像置換部23が読み出すことで取得されても良い。
テスト画像領域は、撮像素子1から入力された画像の一部をテスト画像に置き換えるための領域である。本実施形態では、画像処理装置2、或いは画像処理システム100で画像処理の対象外とされている領域(以下、対象外領域という)をテスト画像領域としている。テスト画像領域は、対象外領域であればどの位置にある領域であっても良く、また、1フレームの画像の中の複数の領域に分散されていても良い。さらに、画像処理装置2に入力される画像フレーム毎で、テスト画像領域が変更されても良い。
テスト画像置換部23は、判定部231の判定結果に応じて、入力画像の一部をテスト画像に置き換える。詳しくは、テスト画像置換部23は、入力画像におけるテスト画像へ置き換える領域の画像(以下では、部分画像という)データを抽出し、部分画像保持部24に出力して保持させる。また、入力画像における部分画像をテスト画像に置き換える処理を実行する。一部がテスト画像に置き換えられた画像は、画像処理部25に出力される。
部分画像保持部24は、メモリ21等により実現され、テスト画像置換部23から入力した部分画像データを保持する。部分画像保持部24は、画像処理部25がテスト画像に対して画像処理を実行するために要する時間を帰線期間で除算した商(ライン数)に1を加えた数をAとし、撮像素子1から入力した画像の水平方向の画素数をBとした場合に、A×Bに該当するサイズの画像データを、少なくとも保持するための記憶容量を備える。例えば、撮像素子1から入力した画像の水平方向の画素数を1000画素とし、画像処理部25がテスト画像に対して画像処理を実行するために2ライン分に該当する時間が必要な場合、部分画像保持部24は、少なくとも(2+1)×1000のサイズの画像データを保持することができる。なお、帰線期間は、入力された画像の1ライン分の水平走査に要する時間である。
画像処理部25は、入力した画像に対して画像処理を実行する機能を有する。画像処理部25は、故障検知において、一部がテスト画像に置き換えられた画像を入力し、故障検知の対象となる画像処理を実行して、処理後の画像を故障検知部26に出力する。
画像処理部25は、一部がテスト画像に置き換えられた画像全体に対して画像処理を実行することで、画像処理装置2が動作中の状態で故障検知を行うことができる。つまり、画像全体の中でテスト画像に対する処理結果を故障検知のために用い、テスト画像以外の画像に対する処理結果を、画像処理装置2による画像処理後の画像として用いることができる。但し、画像処理装置2が動作中の状態でなければ、画像処理部25は故障検知を行う際に、テスト画像のみに画像処理を実行してもよい。
故障検知部26は、画像処理部25から入力した画像処理後のテスト画像と、予め定められた期待値画像とを比較し、比較結果に基づいて画像処理部25の故障を検知する機能を有する。
詳しくは、故障検知部26は、画像処理後のテスト画像と期待値画像の画像差分処理を実行し、差分値の最大値が予め定めた閾値より大きい場合に、故障ありと判定して故障を検知する。そして、故障検知部26は、検知結果をレジスタ等に保持させ、また、画像処理部25から入力した画像を画像復元部27に出力する。なお、故障検知のための処理方法は、上述したものに限定はされず、公知の他の故障検知処理方法を適用してもよい。
画像復元部27は、部分画像保持部24に保持された部分画像データを読み出し、故障検知部26から入力した画像におけるテスト画像を、部分画像に置き換える処理を実行する。これにより、故障検知のためにテスト画像に置き換えられた画像領域を、元の状態に復元することができる。復元された画像は画像出力部28を介して、画像処理装置2から外部装置に向けて出力される。
ここで、図3は、入力された画像の一部がテスト画像に置き換えられた画像の一例を説明する図である。(a)は画像処理装置に入力された画像を説明する図であり、(b)は一部がテスト画像に置き換えられた画像の第1例を説明する図であり、(c)は一部がテスト画像に置き換えられた画像の第2例を説明する図である。
図3(a)において、画像30aは、OB(Optical Blanking)領域31aと有効画像領域32aとを含んでいる。OB領域31aは、画像処理装置2に入力される画像(動画等)のブランキング期間に該当する領域で、画像として視認されない領域である。一方の有効画像領域32aは画像として視認される領域である。
また、図3(b)の画像30bは、OB領域31bと、有効画像領域32bと、OB領域31b及び有効画像領域32bの間に設けられたテスト画像領域33bとを含んでいる。
OB領域31bをテスト画像に置き換えることも考えられるが、OB領域31bのサイズ(ライン数)は、撮像素子1の仕様等で異なる場合があり、また、画像処理の種類によってはテスト画像に大きなライン数が要求される場合がある。
例えば、5×5画素のタップサイズのフィルタを用いる画像処理や5×5画素の周辺画素を使用する画像処理では、少なくとも5ライン分以上のテスト画像が必要となる。OB領域31bが1ライン分しかない場合等には、この画像処理における故障検知は行えなくなる。
そこで、本実施形態では、入力された画像における対象外領域の少なくとも一部をテスト画像に置き換えて、テスト画像領域としている。
この対象外領域は、画像処理装置2、或いは画像処理システム100毎で異なり、また複数の領域に分散されている場合もある。そのため、図3(c)に示すように、有効画像領域32cの複数の領域をテスト画像に置き換え、テスト画像領域33cとしても良い。また、OB領域31cを含めた複数の領域に、テスト画像領域33cを分散させても良い。
テスト画像に置き換える領域は、画像処理装置2、或いは画像処理システム100の仕様に応じて決定することができる。そのため、テスト画像に置き換える領域を予め定めておき、テスト画像領域の位置を示すデータをCPU3から画像処理装置2に入力させることで、画像処理装置2は、入力された画像における予め定められた領域の部分画像をテスト画像に置き換えることができる。
また、図4は、OB領域を活用してテスト画像に置き換える場合の一例を説明する図である。図中の白抜きの矢印は時間の経過を示している。
先ず、OB領域31aと有効画像領域32aを含む画像30aが撮像素子1から画像処理装置2に入力される。OB領域31aは、従来、撮像素子1が黒色をどのレベルの画素値で検出したかを判定するための領域である。OB領域31aにおける画素の輝度値はゼロになるのが好ましいが、ホワイトノイズ等により実際にはゼロ以上の輝度値となる。そのため、画像処理装置2に初期(1枚目の画像フレーム等)に入力される画像30aでは、OB領域31aを利用して、ホワイトノイズレベルの検出等の処理が実行される場合がある。
この場合は、OB領域を故障検知のためにテスト画像に置き換えることはできないため、画像30bに示すように、OB領域31bと有効画像領域32bとの間の一部をテスト画像領域33bに置き換える。そして、画像30bを用いて、OB領域31aを用いたホワイトノイズレベルの検出等の処理と、テスト画像領域33bを用いた故障検知処理とが実行される。
次の画像フレームで画像処理装置2に入力された画像30cでは、OB領域31cを用いたホワイトノイズレベルの検出等の処理は既に行われており、実行する必要はないため、OB領域31cをテスト画像領域として用いることができる。画像30dは、OB領域をテスト画像領域33dに置き換えた画像であり、このような画像30dを用いて故障検知処理を実行することができる。
このように、画像フレーム毎でテスト画像領域を変更して故障検知処理を実行できる。なお、図4では、OB領域及びOB領域と有効画像領域との間の領域をテスト画像に置き換える例を示したが、これに限定されるものではない。図3で説明したように、複数の領域にテスト画像領域を分散させてもよい。
また、フレーム毎で変更されるテスト画像領域に、OB領域が含まれなくてもよい。例えば、所定の画像フレームでは、図3(b)のテスト画像領域33bのように、画像の一部がテスト画像に置き換えられ、別の画像フレームでは、図3(c)のテスト画像領域33cのように、画像の一部がテスト画像に置き換えられるようにしてもよい。
<第1の実施形態に係る画像処理装置の動作>
図5は、本実施形態に係る画像処理装置の動作の一例を示すフローチャートである。
先ず、ステップS51において、画像入力部22は、撮像素子1から入力した画像をテスト画像置換部23に出力する。
続いて、ステップS52において、テスト画像置換部23は、CPU3からテスト画像領域の位置を示すデータを入力する。
続いて、ステップS53において、判定部231は、入力された画像を構成する画素毎に、テスト画像に置き換える画素(座標)に該当するか否かを判定し、テスト画像領域を特定する。
続いて、ステップS54において、テスト画像置換部23は、入力された画像のテスト画像へ置き換える領域の部分画像データを抽出し、部分画像保持部24に出力して保持させる。
続いて、ステップS55において、テスト画像置換部23は、入力された画像の部分画像をテスト画像に置き換え、置き換え後の画像を画像処理部25に出力する。
続いて、ステップS56において、画像処理部25は、テスト画像置換部23から入力した画像に対して画像処理を実行し、画像処理後の画像を故障検知部26に出力する。
続いて、ステップS57において、故障検知部26は、画像処理部25から入力した画像処理後のテスト画像と、予め定められた期待値画像と比較し、故障を検知する。そして、検知結果をレジスタ等に保持させ、また、画像処理部25から入力した画像処理後の画像を画像復元部27に出力する。
続いて、ステップS58において、画像復元部27は、部分画像保持部24から部分画像データを読み出し、画像処理部25から入力した画像のテスト画像を部分画像に置き換える。そして、置き換えた画像を画像出力部28に出力する。
続いて、ステップS59において、画像出力部28は、画像復元部27から入力した画像を画像処理装置2の外部装置に向けて出力する。
このようにして、画像処理装置2は入力した画像に対して画像処理を実行するとともに、故障検知処理を実行することができる。
<効果等>
車載分野など、機能安全が要求される分野では、画像処理装置が動作中に故障したことを検知する機能の実装が必要不可欠となっている。画像処理装置では、画像処理の種類に応じて専用のテスト画像を用い、画像処理装置の故障を検知するものがある。
各種の画像処理装置の動作率が100%に近くなる(ほぼ全ての画像処理装置が故障なく動作する)ことが好適であるため、画像処理の種類に応じて適正なテスト画像を用意するこのが好ましい。また、複数画素で構成されるフィルタを用いる画像処理や、周辺画素を使用する画像処理の場合、数十ラインのサイズの大きなテスト画像が必要になる場合がある。
このようなテスト画像を用いて故障検知処理を実行する方法には以下のものがある。
1つは、画像処理装置を起動した直後において、予め用意されたテスト画像、或いは画像処理装置の内部で生成したテスト画像に対して、故障検知の対象となる画像処理を実行し、画像処理後の画像を予め定められた期待値画像と比較することで、画像処理装置の故障を検知するものである。
この方法では、任意のサイズのテスト画像を使用できるが、故障検知を行える時期が、画像処理装置の起動直後に限定される場合がある。つまり、動作中の画像処理装置に対して、常時故障検知を行うことができない場合がある。
また、他の方法として、画像処理装置の動作中に、画像処理装置に入力される画像のフレーム間のブランキング領域にテスト画像を挿入し、挿入されたテスト画像に対して上述した故障検知処理を実行するものがある。
この方法では、時期が限定されずに常時故障検知を行うことができるが、テスト画像のサイズが大きいと、ブランキング領域に挿入できなくなる場合がある。また、大きいサイズのテスト画像を挿入するためにブランキング領域を大きくすると、ブランキング期間が長くなるためにフレームレートが低下する場合がある。
本実施形態では、画像処理装置2に入力された画像において、対象外領域をテスト画像に置き換え、画像処理後のテスト画像を期待値画像と比較することで、画像処理装置の故障を検知する。ブランキング領域以外の対象外領域も併せて利用するため、大きいサイズのテスト画像が必要になった場合でも、ブランキング期間を長くすることなく、入力された画像の一部をテスト画像に置き換えることができる。そして、フレームレートを低下させずにテスト画像を用いて故障検知を行うことができる。
また、画像処理装置2、或いは画像処理システム100で元々使用されない対象外領域を利用するため、動作中の画像処理装置2においても、入力される画像毎で故障検知を行うことができる。
このようにして、動作中の画像処理装置において、入力される画像のフレームレートを低下させることなく、多くの種類の画像処理における故障を検知することができ、動作率(故障検知率)が高い画像処理装置を実現することができる。
また、本実施形態では、画像処理部25がテスト画像に対して画像処理を実行するために要する時間を帰線期間で除算した商(ライン数)に1を加えた数をAとし、撮像素子1から入力した画像の水平方向の画素数をBとした場合に、部分画像保持部24は、A×Bに該当するサイズの画像データを少なくとも保持すればよい。これにより、画像処理装置2の備えるメモリ21の記憶容量を低減させることができる。
なお、本実施形態では、画像単位で処理を実行するように説明したが、上述した処理を画像処理装置2に入力された画像の画素毎に実行することもできる。この場合、図2において、画像処理装置2には撮像素子1から画素データ(輝度値)が入力され、画素データに対して、各処理部で処理が実行され、処理後の画素データが画像処理装置2から出力される。
より詳しくは、判定部231は、入力された画素データがテスト画像領域の画素であるか否かを判定する。判定部231でテスト画像領域の画素であると判定された場合は、入力された画素データに対して、テスト画像置換部23、画像処理部25、故障検知部26、及び画像復元部27による処理が実行される。そして、処理後の画素データが画像出力部28を介して画像処理装置2から出力される。
一方、判定部231でテスト画像領域の画素でないと判定された場合は、入力された画素データに対して、画像処理部25による処理が実行され、処理後の画素データが画像出力部28を介して画像処理装置2から出力される。つまり、故障検知処理ではない通常の画像処理が実行される。
[第2の実施形態]
次に、第2の実施形態に係る画像処理装置について説明する。なお、既に説明した実施形態と同一の構成部についての説明を省略する。
<第2の実施形態に係る画像処理装置の機能構成>
図6は、本実施形態に係る画像処理装置の機能構成の一例を示すブロック図である。図6に示すように、画像処理装置2aは、検知結果挿入部29を有する。
検知結果挿入部29は、故障検知部26がレジスタ等に保持させた故障の検知結果をレジスタ等から読み出し、また、画像復元部27から入力した画像における故障の検知結果領域の位置を示すデータをCPU3から入力する。そして、画像復元部27から入力した画像の検知結果領域に、故障の検知結果を示すデータを挿入する機能を有する。
この検知結果領域は、画像処理装置2、或いは画像処理システム100で画像処理の対象外としている対象外領域であって、且つ画像の垂直走査方向において、テスト画像領域の最大座標よりも大きい座標に位置する領域である。検知結果領域は予め定められ、ROM4等に保持されている。
ここで、図7は、検知結果が挿入された画像の一例を説明する図である。画像30eには、OB領域31eと、有効画像領域32eと、テスト画像領域33eと、対象外領域34eと、検知結果領域35eとが含まれている。
図7に示すように、検知結果領域35eは、対象外領域34eであって、画像30eの垂直走査方向において、テスト画像領域33eの最大座標よりも大きい座標に位置する領域である。なお、図7では、図中の下方向に向かうにつれ、画像30eの垂直走査方向における座標は大きくなるものとする。
CPUや後工程の画像処理装置、表示装置等といった画像処理装置2の外部装置は、画像処理装置2から入力した画像の検知結果領域35eを参照することで、画像処理装置2が故障しているか否かを容易に判定することが可能となる。
<第2の実施形態に係る画像処理装置の動作>
図8は、本実施形態に係る画像処理装置の動作の一例を示すフローチャートである。図8のステップS81〜S88は、図5のステップS51〜S58と同様であるため、説明を省略する。
ステップS89において、検知結果挿入部29は、故障検知部26がレジスタ等に保持させた故障の検知結果をレジスタ等から読み出し、また、画像復元部27から入力した画像における故障の検知結果領域の位置を示すデータをCPU3から入力する。そして、画像復元部27から入力した画像の検知結果領域に、故障の検知結果を示すデータを挿入する。その後、故障の検知結果を示すデータを挿入後の画像を、画像出力部28に出力する。
続いて、ステップS90において、画像出力部28は、検知結果挿入部29から入力した画像を画像処理装置2aの外部装置に向けて出力する。
このようにして、画像処理装置2aは、入力した画像に対して画像処理を実行するとともに、故障検知処理を実行し、出力する画像の一部の領域に故障の検知結果を示すデータを挿入することができる。
以上説明したように、本実施形態に係る画像処理装置2aは、出力する画像の一部の領域に故障の検知結果を示すデータを挿入し、画像処理装置2aの外部装置に向けて処理後の画像を出力することができる。外部装置は、画像処理装置2aから入力した画像の検知結果領域に挿入されたデータを参照することで、画像処理装置2aの故障の有無を容易に判定することができ、故障を示す警告等をユーザに報知することができる。
なお、本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
また、実施形態は、画像処理システム100の仕様等に応じて第1の実施形態、及び第2の実施形態を選択することができる。換言すると、画像処理装置が検知結果挿入部29を備えるか否かを、画像処理システム100の仕様等に応じて選択することができる。
また、実施形態は、画像処理装置の故障検知方法も含む。例えば、画像処理装置の故障検知方法は、入力された画像に対して画像処理を実行する画像処理装置の故障検知方法であって、前記入力された画像における予め定められた領域の部分画像をテスト画像に置き換えるテスト画像置換工程と、前記部分画像のデータを保持する部分画像保持工程と、前記画像処理後の前記テスト画像に基づき、前記画像処理装置の故障の有無を検知する故障検知工程と、前記故障検知工程による処理の実行後に、前記画像処理後の前記テスト画像を、前記部分画像保持工程で保持された前記部分画像に置き換える画像復元工程と、を含む。
このような画像処理装置の故障検知方法により、上述した画像処理装置と同様の効果を得ることができる。
さらに、実施形態は、プログラムも含む。例えば、プログラムは、入力された画像に対して画像処理を実行する画像処理装置で実行されるプログラムであって、コンピュータを、前記入力された画像における予め定められた領域の部分画像をテスト画像に置き換えるテスト画像置換部、前記部分画像のデータを保持する部分画像保持部、前記画像処理後の前記テスト画像に基づき、前記画像処理装置の故障の有無を検知する故障検知部、前記故障検知部による処理の実行後に、前記画像処理後の前記テスト画像を、前記部分画像保持部に保持された前記部分画像に戻す画像復元部、として機能させる。
このようなプログラムにより、上述した画像処理装置と同様の効果を得ることができる。
1 撮像素子
2、2a 画像処理装置
3 CPU
4 ROM
21 メモリ
22 画像入力部
23 テスト画像置換部
231 判定部
24 部分画像保持部
25 画像処理部
26 故障検知部
27 画像復元部
28 画像出力部
29 検知結果挿入部
30a、30b、30c、30d、30e 画像
31a、31b、31c、31d、31e OB領域
32a、32b、32c、32d、32e 有効画像領域
33b、33c、33d、33e テスト画像領域
34e 対象外領域
35e 検知結果領域
特開平11−088585号公報 特開2017−92757号公報

Claims (6)

  1. 入力された画像に対して画像処理を実行する画像処理装置であって、
    前記入力された画像における予め定められた領域の部分画像をテスト画像に置き換えるテスト画像置換部と、
    前記部分画像のデータを保持する部分画像保持部と、
    前記画像処理後の前記テスト画像に基づき、前記画像処理装置の故障の有無を検知する故障検知部と、
    前記故障検知部による処理の実行後に、前記画像処理後の前記テスト画像を、前記部分画像保持部に保持された前記部分画像に置き換える画像復元部と、を有する
    画像処理装置。
  2. 検知された前記故障の有無を示すデータを、前記入力された画像における予め定められた領域に挿入する検知結果挿入部を有する
    請求項1に記載の画像処理装置。
  3. 前記部分画像保持部は、前記テスト画像への前記画像処理に要する時間を帰線期間で除算した商に1を加えた数をAとし、前記入力された画像の水平方向の画素数をBとした場合に、A×Bに該当するサイズの画像データを少なくとも保持する
    請求項1、又は2に記載の画像処理装置。
  4. 前記入力された画像を構成する各画素が、前記部分画像を構成する画素であるか否かを判定する判定部を有する
    請求項1乃至3の何れか1項に記載の画像処理装置。
  5. 入力された画像に対して画像処理を実行する画像処理装置の故障検知方法であって、
    前記入力された画像における予め定められた領域の部分画像をテスト画像に置き換えるテスト画像置換工程と、
    前記部分画像のデータを保持する部分画像保持工程と、
    前記画像処理後の前記テスト画像に基づき、前記画像処理装置の故障の有無を検知する故障検知工程と、
    前記故障検知工程による処理の実行後に、前記画像処理後の前記テスト画像を、前記部分画像保持工程で保持された前記部分画像に置き換える画像復元工程と、を含む
    画像処理装置の故障検知方法。
  6. 入力された画像に対して画像処理を実行する画像処理装置で実行されるプログラムであって、
    コンピュータを、
    前記入力された画像における予め定められた領域の部分画像をテスト画像に置き換えるテスト画像置換部、
    前記部分画像のデータを保持する部分画像保持部、
    前記画像処理後の前記テスト画像に基づき、前記画像処理装置の故障の有無を検知する故障検知部、
    前記故障検知部による処理の実行後に、前記画像処理後の前記テスト画像を、前記部分画像保持部に保持された前記部分画像に戻す画像復元部、
    として機能させるためのプログラム。
JP2018248205A 2018-12-28 2018-12-28 画像処理装置、画像処理装置の故障検知方法、及びプログラム Active JP7310138B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018248205A JP7310138B2 (ja) 2018-12-28 2018-12-28 画像処理装置、画像処理装置の故障検知方法、及びプログラム
US16/720,329 US11272172B2 (en) 2018-12-28 2019-12-19 Image processing apparatus, failure detection method performed by image processing apparatus, and non-transitory recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018248205A JP7310138B2 (ja) 2018-12-28 2018-12-28 画像処理装置、画像処理装置の故障検知方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2020108108A true JP2020108108A (ja) 2020-07-09
JP7310138B2 JP7310138B2 (ja) 2023-07-19

Family

ID=71121888

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018248205A Active JP7310138B2 (ja) 2018-12-28 2018-12-28 画像処理装置、画像処理装置の故障検知方法、及びプログラム

Country Status (2)

Country Link
US (1) US11272172B2 (ja)
JP (1) JP7310138B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112021003350T5 (de) 2020-06-23 2023-04-20 Sony Semiconductor Solutions Corporation Fotodetektionsvorrichtung und elektronische einrichtung

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005107850A (ja) * 2003-09-30 2005-04-21 Matsushita Electric Ind Co Ltd 画像処理装置、データ埋込み方法、及び、内部情報監視システム
WO2017053029A1 (en) * 2015-09-24 2017-03-30 Qualcomm Incorporated Testing of display subsystems
US20170262731A1 (en) * 2016-03-14 2017-09-14 Kabushiki Kaisha Toshiba Image processor and image processing method

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH088661B2 (ja) * 1988-07-11 1996-01-29 三星電子株式会社 ズーム機能のためのアドレス発生回路
EP0541870B1 (en) * 1991-11-14 1996-05-15 International Business Machines Corporation Image processing apparatus with improved data conversion testing
JPH1188585A (ja) 1997-09-03 1999-03-30 Fuji Photo Film Co Ltd 画像処理装置
JP3687675B2 (ja) * 2002-12-25 2005-08-24 株式会社ニコン 電子透かし機能を有する電子カメラ、および画像処理プログラム
KR100647957B1 (ko) * 2004-12-14 2006-11-23 엘지전자 주식회사 사전 기반 압축 방법을 이용한 연속된 이미지 압축 및복원 방법
US7548647B2 (en) * 2005-04-29 2009-06-16 Hewlett-Packard Development Company, L.P. Method and apparatus for digital-image red-eye correction that facilitates undo operation
US20070176000A1 (en) * 2006-01-31 2007-08-02 Konica Minolta Systems Laboratory, Inc. Selective image encoding and replacement
WO2008146334A1 (ja) * 2007-05-30 2008-12-04 Fujitsu Limited 画像暗号化装置、画像復号装置、方法、及びプログラム
JP2013196640A (ja) * 2012-03-22 2013-09-30 Hitachi Solutions Ltd 画像解析装置、画像解析方法及びプログラム
JP5735933B2 (ja) * 2012-06-15 2015-06-17 富士フイルム株式会社 画像処理装置及び方法、プログラム、印刷システム並びに印刷物の製造方法
JP2016103169A (ja) 2014-11-28 2016-06-02 株式会社リコー 画像処理装置、画像処理方法および電子機器
JP2017092757A (ja) 2015-11-12 2017-05-25 株式会社リコー 画像処理装置、及び画像処理方法
EP3422187B1 (en) * 2016-02-24 2020-05-13 Sony Corporation Signal processing device, signal processing method, and program
JP2018005339A (ja) 2016-06-28 2018-01-11 株式会社リコー 画像処理装置および画像処理装置の故障検知方法
TWI591615B (zh) * 2016-07-07 2017-07-11 友達光電股份有限公司 顯示面板控制方法及其驅動電路
JP6939069B2 (ja) * 2017-05-09 2021-09-22 株式会社リコー 画像読取装置、画像形成装置、画像読取方法、及び画像読取プログラム
JP2019049884A (ja) * 2017-09-11 2019-03-28 株式会社東芝 画像処理装置、および故障診断制御方法
US11042990B2 (en) * 2018-10-31 2021-06-22 Adobe Inc. Automatic object replacement in an image

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005107850A (ja) * 2003-09-30 2005-04-21 Matsushita Electric Ind Co Ltd 画像処理装置、データ埋込み方法、及び、内部情報監視システム
WO2017053029A1 (en) * 2015-09-24 2017-03-30 Qualcomm Incorporated Testing of display subsystems
US20170262731A1 (en) * 2016-03-14 2017-09-14 Kabushiki Kaisha Toshiba Image processor and image processing method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112021003350T5 (de) 2020-06-23 2023-04-20 Sony Semiconductor Solutions Corporation Fotodetektionsvorrichtung und elektronische einrichtung

Also Published As

Publication number Publication date
JP7310138B2 (ja) 2023-07-19
US11272172B2 (en) 2022-03-08
US20200213583A1 (en) 2020-07-02

Similar Documents

Publication Publication Date Title
JP4261068B2 (ja) イメージセンサ内の欠陥ピクセルの検出における高速の決定論的なアプローチ
US20110013053A1 (en) Defective pixel detection and correction
JP7173763B2 (ja) 画像生成装置および画像生成方法
US8643751B2 (en) Method for detecting dead pixels and computer program product thereof
US9456127B2 (en) Blur detection method of images, monitoring device, and monitoring system
JP2017045166A (ja) ワークの処理方法、基準画像の作成方法、基準画像の作成装置、ワークの処理装置、プログラム、及び記録媒体
JP5610106B1 (ja) 撮像装置の異物情報検出装置および異物情報検出方法
US10755385B2 (en) Image processing apparatus and recording medium
US10116865B2 (en) Image processing apparatus and image processing method for calculating motion vector between images with different in-focus positions
JP7310138B2 (ja) 画像処理装置、画像処理装置の故障検知方法、及びプログラム
JP2004239733A (ja) 画面の欠陥検出方法及び装置
JP5262953B2 (ja) 画像処理装置、画像処理方法及びプログラム
US10965877B2 (en) Image generating method and electronic apparatus
KR101559338B1 (ko) 카메라 모듈용 결함 픽셀 평가 시스템 및 이를 사용한 카메라 모듈용 결함 픽셀 평가 방법
CN110062151B (zh) 平滑图像生成装置、异常判定装置、平滑图像生成方法
US10089519B2 (en) Image capturing apparatus and image processing method
US11276186B2 (en) Image processing apparatus, image capturing apparatus, image processing method, and non-transitory computer-readable storage medium
JP7479530B1 (ja) ディスプレイ異常検出システム及びディスプレイ異常検出方法
US20230069744A1 (en) Method of operating assessment device assessing color distortion of image sensor
CN101335827B (zh) 使用定向检测方法的影像缺陷校正系统
KR100762586B1 (ko) 불량 화소 복원 장치 및 방법
JP2017034608A (ja) 画像処理装置、画像処理方法及びプログラム
KR102172634B1 (ko) 카메라 모듈, 전자 디바이스 및 그 동작 방법
JP2016225960A (ja) 撮像装置および撮像方法
JP2005318337A (ja) 固体撮像素子の欠陥検出補正装置および撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210916

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230210

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230606

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230619

R151 Written notification of patent or utility model registration

Ref document number: 7310138

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151