JPWO2006043483A1 - 映像信号処理装置 - Google Patents

映像信号処理装置 Download PDF

Info

Publication number
JPWO2006043483A1
JPWO2006043483A1 JP2006542950A JP2006542950A JPWO2006043483A1 JP WO2006043483 A1 JPWO2006043483 A1 JP WO2006043483A1 JP 2006542950 A JP2006542950 A JP 2006542950A JP 2006542950 A JP2006542950 A JP 2006542950A JP WO2006043483 A1 JPWO2006043483 A1 JP WO2006043483A1
Authority
JP
Japan
Prior art keywords
interpolation
horizontal
vertical
video signal
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2006542950A
Other languages
English (en)
Inventor
田部井 憲治
憲治 田部井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JPWO2006043483A1 publication Critical patent/JPWO2006043483A1/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

低コストで電子ズーム機能を実現することができる映像信号処理装置を提供すること。 撮像素子12から出力された映像信号は、アナログ前処理手段13により、ノイズ除去とゲイン調整された後、A/D変換器14により水平同期信号およびA/D変換のクロックに従ってディジタル信号に変換され、Y/C信号処理手段15により、輝度信号及び色差信号が生成され、ライン遅延手段16により、1水平走査期間遅延される。内挿手段18は、Y/C信号処理手段15の出力とライン遅延手段16の出力からズーム制御手段17の出力する垂直内挿係数に従って垂直方向の内挿処理を行い、ズーム制御手段17の出力する水平内挿係数に従って水平方向に隣接する画素間で水平方向の内挿処理を行う。

Description

本発明は映像信号の電子ズーム処理を行う映像信号処理装置に関するものである。
一般的なビデオカメラ等では、CCD(Charge−Coupled Device)等の固体撮像素子で撮像した映像信号を電子ズーム処理により拡大や縮小している(例えば、特許文献1参照)。
図13は、従来の電子ズームを用いる撮像装置のブロック図である。
図13に示すように、従来の撮像装置は、撮像レンズ・絞り・フィルターを有するレンズ51と、撮像素子であるCCD52と、ガンマ補正・ローパスフィルター・クリップ回路を有する撮像信号処理回路53と、アナログ信号をディジタル信号に変換するADコンバータ(ADC)54と、1フレームごとの撮像信号を格納するフレームメモリ55と、画像の画素間データを補間する補間回路56と、画像のエッジ強調を行うエッジ強調処理回路57と、ディジタル信号をアナログ信号に変換するDAコンバータ(DAC)58と、撮像信号を記録する記録回路59と、フレームメモリ55の書込みアドレスを指定する書込みアドレスコントローラ60と、フレームメモリ55の読出しアドレスを指定する読出しアドレスコントローラ61と、テレ(望遠)とワイド(広角)とを切り替えるテレワイド(T/W)切替スイッチ62と、テレワイド切替スイッチ62の切替状態に応じて電子ズームの倍率を発生する倍率発生回路63とを備えている。
このような撮像装置において、電子ズームの機能は、フレームメモリ55と、書込みアドレスコントローラ60と、読出しアドレスコントローラ61と、補間回路56と、倍率発生回路63とによって実現されている。
この撮像装置においては、ADコンバータ54でAD変換された信号は、書込みアドレスコントローラ60に指示されたフレームメモリ55内のアドレスに書き込まれる。1フレーム分書き込まれた後、倍率発生回路63の指示により、読出しアドレスコントローラ61が読出しアドレスを生成し、そのアドレスから信号が読み出される。
読み出された信号は、倍率発生回路63の指示に基づいて補間回路56により補間されることで所望の倍率の撮像信号が得られる。
特開平7−170461号公報
しかしながら、このような従来の撮像装置においては、撮像素子の出力信号を1フレーム(1画面)分記憶することができるフレームメモリが必要となるが、このフレームメモリは、一般的に高価であるため、コストアップに繋がるという問題点があった。また、部品点数が増大し、カメラ形状が大きくなるという問題もあった。
本発明は、従来の問題を解決するためになされたもので、低コストで電子ズーム機能を実現することができる映像信号処理装置を提供することを目的とする。
本発明の映像信号処理装置は、映像信号を1水平走査期間分遅延させるライン遅延手段と、前記映像信号と前記ライン遅延手段の出力から垂直方向の内挿処理を行い、水平方向に隣接する画素間で水平方向の内挿処理を行い、出力する信号が有効となる期間を示す有効フラグを出力する内挿手段とを備える構成を有している。
この構成により、内挿処理が水平方向と垂直方向に分けて行われ、垂直方向の処理は1ライン毎に行われるので、フレームメモリを使う必要が無くなることとなる。
さらに、前記内挿手段が出力する信号を少なくとも2ラインずつ使って垂直方向の補間処理を行うとともに、水平方向に隣接する画素間で水平方向の補間処理を行い、出力する信号が有効となる期間を示す有効フラグを出力する補間手段を備える構成とした。
この構成により、内挿処理とともに補間処理も行われ、縮小から拡大まで任意の倍率で電子ズームを行うことができる。
また、本発明の映像信号処理装置は、水平同期信号及び垂直同期信号に同期して映像信号を出力する映像信号出力手段と、前記映像信号を前記水平同期信号の1周期と同じ期間分遅延するライン遅延手段と、前記ライン遅延手段が遅延した映像信号を前記映像信号出力手段が出力した映像信号と比較し、前記ライン遅延手段が遅延した映像信号によって表わされる映像の垂直方向に隣接する画素間を内挿する内挿手段と、垂直倍率に応じて前記垂直方向に隣接する画素間を内挿するよう前記内挿手段を制御するズーム制御手段とを備える構成を有している。
この構成により、フレームメモリを使うことなく垂直方向の画素間の内挿処理を実行することができる。
また、前記内挿手段は、更に、前記垂直方向に隣接する画素間が内挿された映像の水平方向に隣接する画素間を内挿し、前記ズーム制御手段は、水平倍率に応じて前記水平方向に隣接する画素間を内挿するよう前記内挿手段を制御する構成を有している。
この構成により、フレームメモリを使うことなく水平方向の画素間の内挿処理を実行することができる。
さらに、前記ズーム制御手段は、前記ライン遅延手段によって遅延される前に、前記内挿手段が水平方向に隣接する画素間を内挿するよう制御する構成を有している。
この構成により、水平方向の画素間の内挿処理を実行したあとで垂直方向の画素間の内挿処理を実行することができる。
さらに、前記内挿手段は、前記垂直方向に隣接する画素間を内挿した映像が示された映像信号を生成する垂直内挿手段と、前記水平方向に隣接する画素間を内挿した映像が示された映像信号を生成する水平内挿手段とを有し、前記ズーム制御手段は、前記垂直内挿手段が生成した映像信号の有効な期間を垂直ライン有効フラグで指示する垂直ズーム制御手段と、前記水平内挿手段が生成した映像信号の有効な期間を水平ライン有効フラグで指示する水平ズーム制御手段と、前記水平ライン有効フラグと前記垂直ライン有効フラグの指示に応答し、前記水平方向と前記垂直方向の両方が有効な期間を示す有効フラグ信号を生成し、前記生成した有効フラグ信号を前記水平内挿手段が生成する映像信号に同期して出力する論理積回路を有する構成とした。
この構成により、垂直方向の内挿処理と水平方向の内挿処理を個別に行うことができる。
さらに、前記垂直ズーム制御手段は、前記垂直倍率から垂直内挿係数を算出し、前記垂直内挿手段は、前記ライン遅延手段が遅延した映像信号に前記垂直倍率を乗算する第1の乗算器と、前記映像信号出力手段が出力した映像信号に前記垂直倍率の補数を乗算する第2の乗算器と、前記垂直倍率が乗算された映像信号と前記垂直倍率の補数が乗算された映像信号との和を示す映像信号を生成する加算器とを有し、前記垂直ズーム制御手段は、前記垂直内挿手段が、前記加算器が生成した映像信号を前記水平同期信号及び垂直同期信号に同期して前記水平内挿手段に出力するよう制御する構成とした。
この構成により、垂直倍率から算出する垂直内挿係数を使って垂直方向の内挿処理を容易に行うことができる。
さらに、前記水平ズーム制御手段は、前記水平倍率から水平内挿係数を算出し、前記水平内挿手段は、前記垂直内挿手段から受け取った映像信号を1画素分遅延する1画素遅延手段と、前記垂直内挿手段から受け取った映像信号に前記水平内挿係数を乗算する第1の乗算器と、前記1画素遅延手段が遅延した映像信号に前記水平内挿係数の補数を乗算する第2の乗算器と、前記水平内挿係数を乗算した映像信号と前記水平内挿係数の補数を乗算した映像信号の和を示す映像信号を生成する加算器とを有し、前記水平ズーム制御手段は、前記水平内挿手段の加算器が生成した映像信号を前記水平同期信号及び垂直同期信号に同期して出力する構成とした。
この構成により、水平倍率から算出する水平内挿係数を使って水平方向の内挿処理を容易に行うことができる。
さらに、前記ライン遅延手段は、映像信号が表わす映像の水平方向の1ライン分を記憶することが可能な3つのバンクを有するライン記憶手段によって構成され、前記ライン記憶手段は、前記3つのバンクの内の1つ目のバンクから順次前記水平方向の1ライン分の映像を書き込み、3つ目のバンクに1ライン分の映像を書き込み後、前記1つ目のバンクに戻って、先に書き込んだ前記1ライン分の映像の上に次の1ライン分の映像を書き込み、1フレーム分の映像の水平方向の全ラインの映像を書き込むまで前記3つのバンクへの書込み動作を繰り返し、前記ライン記憶手段は、前記3つバンクの何れか1つに書き込むとき、前記3つのバンクの内の残りの2つに記憶されている2ライン分の映像を読み出し、前記読み出した2ライン分の映像を前記内挿手段に出力し、前記内挿手段は、前記ライン記憶手段が読み出した2ライン分の映像の垂直方向に隣接する画素間を内挿する構成とした。
この構成により、3つのバンクの内の1つ目のバンクから順次水平方向の1ライン分の映像を書き込み、3つ目のバンクに1ライン分の映像を書き込み後、1つ目のバンクに戻って、先に書き込んだ1ライン分の映像の上に次の1ライン分の映像を書き込み、1フレーム分の映像の水平方向の全ラインの映像を書き込むまで3つのバンクへの書込み動作を繰り返すようにしているので、容易に、垂直方向の隣接する画素間の内挿処理を実行することができる。
さらに、前記ズーム制御手段は、前記ライン記憶手段に記憶される前に、前記内挿手段が水平方向に隣接する画素間を内挿するよう制御する構成とした。
この構成により、水平方向の内挿処理と垂直方向の内挿処理の順序を容易に変更することができる。
本発明によれば、ライン遅延手段で遅延したラインと入力されたラインとにより垂直方向の内挿処理を行い、水平方向に隣接する画素間で水平方向の内挿処理を行っているので、フレームメモリを使う必要が無く、低コストで電子ズーム機能を実現することができる。
図1は、本発明の第1の実施の形態における映像信号処理装置のブロック図である。 図2は、本発明の第1の実施の形態における映像信号処理装置の同期信号と撮像素子の出力信号を示すタイミングチャートである。 図3は、本発明の第1の実施の形態における映像信号処理装置のズーム制御手段と内挿手段のブロック図である。 図4は、本発明の第1の実施の形態における映像信号処理装置の垂直内挿手段のブロック図である。 図5は、本発明の第1の実施の形態における映像信号処理装置の垂直内挿の動作を示すタイミングチャートである。 図6は、本発明の第1の実施の形態における映像信号処理装置の水平内挿手段のブロック図である。 図7は、本発明の第1の実施の形態における映像信号処理装置の水平内挿の動作を示すタイミングチャートである。 図8は、本発明の第1の実施の形態における映像信号処理装置の電子ズーム処理後の出力信号を示すタイミングチャートである。 図9は、本発明の第2の実施の形態における映像信号処理装置のブロック図である。 図10は、本発明の第2の実施の形態における映像信号処理装置の補間手段のブロック図である。 図11は、本発明の第2の実施の形態における映像信号処理装置の垂直補間の動作を示すタイミングチャートである。 図12は、本発明の第2の実施の形態における映像信号処理装置の水平補間の動作を示すタイミングチャートである。 図13は、従来の撮像装置のブロック図である。
符号の説明
11 レンズ
12 撮像素子
13 アナログ前処理手段
14 アナログデジタル(A/D)変換器
15 Y/C信号処理手段
16 ライン遅延手段
17 ズーム制御手段
18 内挿手段
19 撮像素子駆動手段
21 補間手段
171 垂直ズーム制御手段
172 水平ズーム制御手段
173 論理積回路
181 垂直内挿手段
181a 演算部
181b 第1の乗算器
181c 第2の乗算器
181d 加算器
182 水平内挿手段
182a 演算部
182b 第1の乗算器
182c 1画素遅延手段
182d 第2の乗算器
182e 加算器
211 ライン記憶手段
212 垂直補間演算手段
213 画素記憶手段
214 水平補間演算手段
215 垂直補間制御手段
216 水平補間制御手段
51 レンズ
52 CCD
53 撮像信号処理回路
54 ADコンバータ(ADC)
55 フレームメモリ
56 補間回路
57 エッジ強調処理回路
58 DAコンバータ(DAC)
59 記録回路
60 書込みアドレスコントローラ
61 読出しアドレスコントローラ
62 テレワイド(T/W)切替スイッチ
63 倍率発生回路
以下、図面を参照し、本発明の実施の形態の映像信号処理装置について説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態の映像信号処理装置の構成を示すブロック図である。
図1に示すように、本実施の形態の映像信号処理装置は、光を集光し、像が予め設定された位置に結像するようフォーカス調整を行うレンズ11と、レンズ11が集光した光を電気信号に変換し、予め設定された位置に結像した像を示すナログ映像信号を生成する撮像素子12と、撮像素子12から出力されたアナログ映像信号をアナログ前処理し、アナログ映像信号のノイズ除去とゲイン調整を行うアナログ前処理手段13と、アナログ前処理手段13によってアナログ前処理されたアナログ映像信号をデジタル信号に変換するアナログデジタル変換器(以下単にA/D変換器という)14と、A/D変換器14から出力されたデジタル信号に対して輝度(Y)信号処理と色差(C)信号処理を行い、輝度信号及び色差信号を生成するY/C信号処理手段15と、撮像素子12を駆動する駆動パルス信号(水平同期信号及び垂直同期信号を含む)を生成する撮像素子駆動手段19と、Y/C信号処理手段15が生成した輝度信号及び色差信号を予め設定された時間だけ遅延するライン遅延手段16と、Y/C信号処理手段15が出力した輝度信号及び色差信号の内挿処理を行う内挿手段18と、内挿手段18が内挿処理を行うよう制御するズーム制御手段17と、内挿処理に必要な垂直倍率と水平倍率をズーム制御手段17に設定する図示しない倍率設定手段とを備えている。
ここで、アナログ前処理手段13と、A/D変換器14と、Y/C処理手段15と、撮像素子駆動手段1とが映像信号出力手段を構成している。映像信号出力手段は、映像信号を水平同期信号及び垂直同期信号に同期してライン遅延手段16と内挿手段18に出力するようになっている。
ここで、本実施例のライン遅延手段16の予め設定された遅延時間は、水平同期信号の1周期(1水平走査期間)と同じである。
図2は、撮像素子12が生成するアナログ映像信号の水平同期信号及び垂直同期信号に対するタイミングを示すタイミングチャートである。
図2に示すように、撮像素子12は、水平同期信号及び垂直同期信号に同期してアナログ映像信号をY/C信号処理手段15に出力するようになっている。一方、Y/C信号処理手段15は、水平同期信号及び垂直同期信号に同期して輝度信号及び色差信号をライン遅延手段16と内挿手段18に出力するようになっている。
内挿手段18は、Y/C信号処理手段15が出力した輝度信号及び色差信号とライン遅延手段16が遅延した輝度信号及び色差信号を水平同期信号及び垂直同期信号に同期して取得するようになっている。したがって、内挿手段18は、Y/C信号処理手段15が出力した輝度信号及び色差信号よりも水平同期信号の1周期に等しい時間だけ遅れた輝度信号及び色差信号をライン遅延手段16から取得できるので、垂直方向に隣接した2つの画素の輝度と色差夫々について容易に比較することができる。
なお、本実施例では、Y/C信号処理手段15が、A/D変換器14で変換されたデジタル信号から輝度信号及び色差信号を生成するようになっているが、輝度信号及び色差信号の代わりに、RGB(Red−Green−Blue)信号を生成するようにしてもよい。したがって、内挿手段18が、RGB信号の内挿処理を行うようにしてもよい。
次に、図3を参照し、本実施の形態の映像信号処理装置のズーム制御手段17と内挿手段18の構成を更に詳しく説明する。なお、RBG信号であっても、輝度信号及び色差信号の内挿処理と同じように電子ズーム処理することができるので、輝度信号及び色差信号やRBG信号のように信号の種類を明記しないで説明する。
電子ズーム処理では、垂直方向の内挿処理と水平方向の内挿処理を独立に行えばよいため、図3に示すように、ズーム制御手段17は、垂直方向のズーム制御を行う垂直ズーム制御手段171と、水平方向のズーム制御を行う水平ズーム制御手段172と、垂直ズーム制御手段171が出力する垂直ライン有効フラグと水平ズーム制御手段172が出力する水平画素有効フラグとの論理積をとる論理積回路173とを備えており、内挿手段18は、垂直方向の処理を行う垂直内挿手段181と、水平方向の処理を行う水平内挿手段182とを備えている。
まず、垂直方向の内挿処理を行う垂直ズーム制御手段171と垂直内挿手段181とについて説明する。
図4は、垂直内挿手段181の構成を更に詳しく示すブロック図である。図4に示すように、垂直内挿手段181は、入力される垂直内挿係数αvから1−αvを演算する演算部181aと、入力される垂直内挿係数αvとY/C信号処理手段15の出力とを乗算する第1の乗算器181bと、演算部181aの出力する1−αvとライン遅延手段16の出力とを乗算する第2の乗算器181cと、第1の乗算器181bの出力と第2の乗算器181cの出力とを加算する加算器181dとを備えている。
図5は、垂直倍率2/3の場合の映像信号処理装置の動作例を、垂直同期信号と、Y/C信号処理手段15の出力信号と、ライン遅延手段16の出力信号と、垂直内挿手段181の出力信号と、垂直ライン有効フラグのタイミングチャートで示している。ここで、垂直倍率2/3とは、垂直内挿手段181の入力画素数:垂直内挿手段181の出力画素数=3:2を意味している。また、図5では、1垂直走査期間中の有効ライン数が12ラインの例を示している。
図5において、V(0),V(1),…,V(11)は、垂直内挿手段181への入力信号であり、1ライン分の各画素に対応していることを示している。ライン遅延手段16からの出力信号は、Y/C信号処理手段15の出力の1ライン遅れとなっている。W(0),W(1),…,W(7)は、垂直内挿手段181の出力信号であり、1ライン分の各画素に対応していることを示している。
垂直内挿手段181では、次式に基づいて、入力信号V(i)(i=0,1,2,…,11)から出力信号W(j)(j=0,1,2,…,7)を生成するようになっている。
W(j)=(1−αv)×V(int(βv))+αv×V(int(βv)+1)
ここで、
βv=j/垂直倍率=j×3/2
αv=βv−int(βv)
int(β)は、βの小数点以下を切り捨てて、整数にしている。
なお、上式は、2点からの線形内挿の演算式であるが、高次の内挿を行ってもよい。
また、垂直内挿手段181において、出力信号W(j)の演算を行うためには、入力信号V(int(j/垂直倍率)+1)が必要となるため、V(int(j/垂直倍率)+1)が入力されるラインで演算を行ようにしている。つまり、ライン毎にV(i)が入力されるが、全ラインで演算する必要は無く、V(int(j/垂直倍率)+1)が入力されたときだけ演算すればよい。なお、1ライン中の演算は各画素単位で行い、同一の水平位置の画素に対して行う必要がある。
この演算を行っているラインにおいて、垂直内挿手段181の出力信号が有効となり、それ以外のラインにおける出力は無効となるため、有効か無効かを示す有効フラグが必要となる。この垂直ライン有効フラグを垂直ズーム制御手段171で生成している。
垂直ズーム制御手段171は、垂直倍率を入力され、この垂直倍率に基づいてαvとβvを演算し、上式に基づいてW(j)の演算を行うタイミングを算出し、有効ラインを示す垂直ライン有効フラグを出力するとともに、W(j)の演算を行うタイミングに合わせて対応する垂直内挿係数αvを垂直内挿手段181に出力する。ここでは、”H”レベルを有効ライン、”L”レベルを無効ラインとしている。
次に、水平方向の内挿処理を行う水平ズーム制御手段172と水平内挿手段182について説明する。
図6は、水平内挿手段182の構成を更に詳しく示すブロック図である。図6に示すように、水平内挿手段182は、入力される水平内挿係数αhから1−αhを演算する演算部182aと、入力される水平内挿係数αhと垂直内挿手段181の出力とを乗算する第1の乗算器182bと、垂直内挿手段181の出力を1画素分遅延させる1画素遅延手段182cと、演算部182aの出力する1−αhと1画素遅延手段182cの出力とを乗算する第2の乗算器182dと、第1の乗算器182bの出力と第2の乗算器182dの出力とを加算する加算器182eとを備えている。
図7は、水平倍率2/3の場合の映像信号処理装置の動作例を、水平同期信号と、クロックと、水平内挿手段182への入力信号と、水平内挿手段182の出力信号と、水平画素有効フラグのタイミングチャートで示している。ここで、水平倍率2/3とは、水平内挿手段182の入力画素数:水平内挿手段182の出力画素数=3:2を意味している。また、図7に示すように、1水平走査期間中の有効画素数が15画素の例を示しており、1クロックで1画素を処理するようになっている。
図7において、x(0),x(1),…,x(14)は、水平内挿手段182への入力信号で、1ライン分の入力画素に対応しており、y(0),y(1),…,y(9)は、水平内挿手段182の出力信号で、1ライン分の出力画素に対応している。
水平内挿手段182では、次式に基づいて、入力信号x(i)(i=0,1,2,…,14)から出力信号y(j)(j=0,1,2,…,9)を生成するようになっている。
y(j)=(1−αh)×x(int(βh))+αh×x(int(βh)+1)
ここで、
βh=j/水平倍率=j×3/2
αh=βh−int(βh)
である。
なお、上式は、2点からの線形内挿の演算式であるが、高次の内挿を行ってもよい。
また、水平内挿手段182において、出力信号y(j)の演算を行うためには、入力信号x(int(j/水平倍率)+1)が必要となるため、x(int(j/水平倍率)+1)が入力されたタイミングで演算を行うようにしている。つまり、クロック毎にx(i)が入力されるが、全クロックで演算する必要は無く、x(int(j/水平倍率)+1)が入力されたクロック期間だけ演算すればよい。
この演算を行っている期間が、水平内挿手段182の出力信号が有効となり、それ以外の期間における出力は無効となるため、有効か無効かを示す有効フラグが必要となる。この水平画素有効フラグを水平ズーム制御手段172で生成している。
水平ズーム制御手段172は、水平倍率を入力され、この水平倍率に基づいてαhとβhを演算し、上式に基づいてy(j)の演算を行うタイミングを算出し、有効ラインを示す水平画素有効フラグを出力するとともに、y(j)の演算を行うタイミングに合わせて対応する水平内挿係数αhを水平内挿手段182に出力する。ここでは、”H”レベルを有効画素、”L”レベルを無効画素としている。
さらに、ズーム制御手段17の論理積回路173において、垂直ライン有効フラグと水平画素有効フラグとのAND(論理積)を行って有効フラグ信号を生成するようになっている。
図8は、水平同期信号と垂直同期信号に同期して撮像素子12から出力される映像信号(出力信号)と、電子ズーム処理後の出力信号と、論理積回路173の有効フラグ信号のタイミングチャートである。図8に示すように、映像信号処理装置から出力される電子ズーム処理後の出力信号と有効フラグ信号を受け取った機器は、有効フラグ信号に基づいて電子ズーム処理後の出力信号から有効な画素情報だけを取り出すことができる。したがって、電子ズーム処理後の出力信号と有効フラグ信号を受け取った機器は、電子ズームされた画像を取得することができる。
以上説明したように、本実施の形態の映像信号処理装置は、電子ズーム処理を水平方向と垂直方向に分けて行い、垂直方向の処理を1ライン毎に行っているので、フレームメモリを使う必要が無く、ラインメモリだけで電子ズーム機能を実現することができ、低コストで電子ズーム機能を実現することができる。
なお、水平倍率と垂直倍率とが異なる値でも電子ズーム処理を行うことができる。
また、本実施の形態の映像信号処理装置では、垂直内挿を行った後で、水平内挿を行っている。しかしながら、垂直方向の処理と水平方向の処理は独立で順序は問わないので、水平内挿を行った後に垂直内挿を行うようにしてもかまわない。ただし、その場合には、水平内挿手段182と垂直内挿手段181の間にライン遅延手段16を入れる構成となる。
また、ライン遅延手段が、映像信号が表わす映像の水平方向の1ライン分を記憶することが可能な3つのバンクを有するライン記憶手段によって構成されてもよい。この場合、ライン記憶手段は、3つのバンクの内の1つ目のバンクから水平方向の1ライン分の映像を順次書き込み、3つ目のバンクに1ライン分の映像を書き込み後、1つ目のバンクに戻って、先に書き込んだ1ライン分の映像の上に次の1ライン分の映像を書き込み、1フレーム分の映像の水平方向の全ラインの映像を書き込むまで3つのバンクへの書込み動作を繰り返し、ライン記憶手段は、3つバンクの何れか1つに書き込むとき、3つのバンクの内の残りの2つに記憶されている2ライン分の映像を読み出し、読み出した2ライン分の映像を内挿手段に出力するようになっている。一方、内挿手段では、ライン記憶手段が読み出した2ライン分の映像の垂直方向に隣接する画素間を内挿するようになっている。
(第2の実施の形態)
次に、図9は、本発明の第2の実施の形態の映像信号処理装置の構成を示すブロック図である。なお、本実施の形態の映像信号処理装置は、上述の第1の実施の形態の映像信号処理装置と略同様に構成されており、同一の構成要素には同一の符号を付し、同一の符号を付した構成要素の説明を省略し、第1の実施の形態の映像信号処理装置の構成要素と異なる特徴部分についてのみ説明する。
本実施の形態の映像信号処理装置は、内挿手段18が出力する電子ズーム処理後の出力信号に対し補間処理を行う補間手段21を備えることを特徴としている。
補間手段21は、電子ズーム出力信号を書込みアドレス・バンクに応じて記憶し、読出しアドレス・バンクに応じて2つのバンクを同時に読み出すことができるライン記憶手段211と、ライン記憶手段211から出力される2ライン分の信号から垂直補間係数に応じて補間処理を行う垂直補間演算手段212と、1画素分の信号を記憶する画素記憶手段213と、画素記憶手段213の出力から水平補間係数に応じて補間処理を行う水平補間演算手段214と、ライン記憶手段211と垂直補間演算手段212を制御して垂直補間処理を制御する垂直補間制御手段215と、水平補間演算手段214を制御して水平補間処理を制御する水平補間制御手段216とを備えている。
このような補間手段21において垂直方向に2倍の補間処理を行う場合を説明する。
図11は、垂直方向に2倍の補間処理行う場合の動作例を示すタイミングチャートである。
図11において、Z(0),Z(1),…は、内挿手段18が出力する電子ズーム出力で補間手段21の入力であり、L(0),L(1),…は、垂直補間演算手段212の出力である。
補間手段21に入力された電子ズーム出力は、垂直補間制御手段215が出力する書込みアドレス・バンクに従ってライン記憶手段211に記憶される。
ライン記憶手段211は、3バンクの記憶領域を有しており、ライン毎に書き込むバンクが切り替えられる。3バンクを順次切り替えることで、読み出しが完了するまで上書きされないようにしている。
補完したい倍率をNv(図では2)とすると、ライン記憶手段211からの読み出しは、既に書き込みが完了している2つのバンクから、書込み速度のNv倍の速度で、Nv回だけ読み出す。図11では、2倍の速度で2回同じバンクからラインを読み出す。
Nv回読み出したうちのi回目の垂直補間係数γvは、
γv=(i−1)/Nv(i=1,2,…,Nv)
である。
垂直補間演算手段212は、Nv回読み出した2つのライン(Z(j),Z(j+1)(j=0,1,…)に対して、それぞれの読出し回数i(i=1,2,…,Nv)に対応した垂直補間係数γvにより次式に基づいてL(0),L(1),L(2),…を生成する。
L(j×Nv+i−1)=(1−γv)×Z(j)+γv×Z(j+1)
図11の2倍補間の例では、1回目の垂直補間係数=0、2回目の垂直補間係数=0.5である。
また、ライン記憶手段211は、入力される有効フラグも記憶しており、Nv倍速で読み出した有効フラグを垂直補間有効フラグとする。
次に、水平方向に2倍の補間処理を行う場合を説明する。
図12は、水平方向に2倍の補間処理行う場合の動作例を示すタイミングチャートである。
図12において、K(0),K(1),…は、垂直補間演算手段212の出力で水平補間演算手段214の入力画素であり、M(0),M(1),…は、水平補間演算手段214の出力画素である。
垂直補間演算手段212が出力した垂直補間出力は、水平補間演算手段214に入力されるとともに、画素記憶手段213にも入力され、画素記憶手段213により1画素分のタイミングを遅延されて水平補間演算手段214に入力される。
補完したい倍率をNh(図では2)とすると、水平補間演算手段214は、入力の1クロック(画素)の間にNhクロック(画素)分の補間処理を行い、入力された信号クロックのNh倍のクロック単位で補間した画素を出力する。
Nh回演算(補間処理)するうちのi回目の水平補間係数γhは、
γh=(i−1)/Nh(i=1,2,…,Nh)
である。
水平補間演算手段214は、垂直補間演算手段212から入力された画素K(j+1)と画素記憶手段213で遅延された画素K(j)に対して、それぞれの演算回数i(i=1,2,…,Nh)に対応した垂直補間係数γhにより次式に基づいてM(0),M(1),M(2),…を生成する。
M(j×Nh+i−1)=(1−γh)×K(j)+γh×K(j+1)
図12の2倍補間の例では、1クロック目は水平補間係数=0で補間し、2クロック目は水平補間係数=0.5で補間する。
このように本実施の形態においては、補間手段21により内挿手段18の出力に補間処理を行っているので、映像処理装置の倍率としては、内挿の倍率×補間の倍率となるため、縮小から拡大まで任意の倍率を設定することができる。
以上のように、本発明にかかる映像信号処理装置は、低コストで電子ズーム機能を実現することができるという効果を有し、映像信号の電子ズーム処理を行う映像信号処理装置等として有用である。
本発明は映像信号の電子ズーム処理を行う映像信号処理装置に関するものである。
一般的なビデオカメラ等では、CCD(Charge-Coupled Device)等の固体撮像素子で撮像した映像信号を電子ズーム処理により拡大や縮小している(例えば、特許文献1参照)。
図13は、従来の電子ズームを用いる撮像装置のブロック図である。
図13に示すように、従来の撮像装置は、撮像レンズ・絞り・フィルターを有するレンズ51と、撮像素子であるCCD52と、ガンマ補正・ローパスフィルター・クリップ回路を有する撮像信号処理回路53と、アナログ信号をディジタル信号に変換するADコンバータ(ADC)54と、1フレームごとの撮像信号を格納するフレームメモリ55と、画像の画素間データを補間する補間回路56と、画像のエッジ強調を行うエッジ強調処理回路57と、ディジタル信号をアナログ信号に変換するDAコンバータ(DAC)58と、撮像信号を記録する記録回路59と、フレームメモリ55の書込みアドレスを指定する書込みアドレスコントローラ60と、フレームメモリ55の読出しアドレスを指定する読出しアドレスコントローラ61と、テレ(望遠)とワイド(広角)とを切り替えるテレワイド(T/W)切替スイッチ62と、テレワイド切替スイッチ62の切替状態に応じて電子ズームの倍率を発生する倍率発生回路63とを備えている。
このような撮像装置において、電子ズームの機能は、フレームメモリ55と、書込みアドレスコントローラ60と、読出しアドレスコントローラ61と、補間回路56と、倍率発生回路63とによって実現されている。
この撮像装置においては、ADコンバータ54でAD変換された信号は、書込みアドレスコントローラ60に指示されたフレームメモリ55内のアドレスに書き込まれる。1フレーム分書き込まれた後、倍率発生回路63の指示により、読出しアドレスコントローラ61が読出しアドレスを生成し、そのアドレスから信号が読み出される。
読み出された信号は、倍率発生回路63の指示に基づいて補間回路56により補間されることで所望の倍率の撮像信号が得られる。
特開平7−170461号公報
しかしながら、このような従来の撮像装置においては、撮像素子の出力信号を1フレーム(1画面)分記憶することができるフレームメモリが必要となるが、このフレームメモリは、一般的に高価であるため、コストアップに繋がるという問題点があった。また、部品点数が増大し、カメラ形状が大きくなるという問題もあった。
本発明は、従来の問題を解決するためになされたもので、低コストで電子ズーム機能を実現することができる映像信号処理装置を提供することを目的とする。
本発明の映像信号処理装置は、映像信号を1水平走査期間分遅延させるライン遅延手段と、前記映像信号と前記ライン遅延手段の出力から垂直方向の内挿処理を行い、水平方向に隣接する画素間で水平方向の内挿処理を行い、出力する信号が有効となる期間を示す有効フラグを出力する内挿手段とを備える構成を有している。
この構成により、内挿処理が水平方向と垂直方向に分けて行われ、垂直方向の処理は1ライン毎に行われるので、フレームメモリを使う必要が無くなることとなる。
さらに、前記内挿手段が出力する信号を少なくとも2ラインずつ使って垂直方向の補間処理を行うとともに、水平方向に隣接する画素間で水平方向の補間処理を行い、出力する信号が有効となる期間を示す有効フラグを出力する補間手段を備える構成とした。
この構成により、内挿処理とともに補間処理も行われ、縮小から拡大まで任意の倍率で電子ズームを行うことができる。
また、本発明の映像信号処理装置は、水平同期信号及び垂直同期信号に同期して映像信号を出力する映像信号出力手段と、前記映像信号を前記水平同期信号の1周期と同じ期間分遅延するライン遅延手段と、前記ライン遅延手段が遅延した映像信号を前記映像信号出力手段が出力した映像信号と比較し、前記ライン遅延手段が遅延した映像信号によって表わされる映像の垂直方向に隣接する画素間を内挿する内挿手段と、垂直倍率に応じて前記垂直方向に隣接する画素間を内挿するよう前記内挿手段を制御するズーム制御手段とを備える構成を有している。
この構成により、フレームメモリを使うことなく垂直方向の画素間の内挿処理を実行することができる。
また、前記内挿手段は、更に、前記垂直方向に隣接する画素間が内挿された映像の水平方向に隣接する画素間を内挿し、前記ズーム制御手段は、水平倍率に応じて前記水平方向に隣接する画素間を内挿するよう前記内挿手段を制御する構成を有している。
この構成により、フレームメモリを使うことなく水平方向の画素間の内挿処理を実行することができる。
さらに、前記ズーム制御手段は、前記ライン遅延手段によって遅延される前に、前記内挿手段が水平方向に隣接する画素間を内挿するよう制御する構成を有している。
この構成により、水平方向の画素間の内挿処理を実行したあとで垂直方向の画素間の内挿処理を実行することができる。
さらに、前記内挿手段は、前記垂直方向に隣接する画素間を内挿した映像が示された映像信号を生成する垂直内挿手段と、前記水平方向に隣接する画素間を内挿した映像が示された映像信号を生成する水平内挿手段とを有し、前記ズーム制御手段は、前記垂直内挿手段が生成した映像信号の有効な期間を垂直ライン有効フラグで指示する垂直ズーム制御手段と、前記水平内挿手段が生成した映像信号の有効な期間を水平ライン有効フラグで指示する水平ズーム制御手段と、前記水平ライン有効フラグと前記垂直ライン有効フラグの指示に応答し、前記水平方向と前記垂直方向の両方が有効な期間を示す有効フラグ信号を生成し、前記生成した有効フラグ信号を前記水平内挿手段が生成する映像信号に同期して出力する論理積回路を有する構成とした。
この構成により、垂直方向の内挿処理と水平方向の内挿処理を個別に行うことができる。
さらに、前記垂直ズーム制御手段は、前記垂直倍率から垂直内挿係数を算出し、前記垂直内挿手段は、前記ライン遅延手段が遅延した映像信号に前記垂直倍率を乗算する第1の乗算器と、前記映像信号出力手段が出力した映像信号に前記垂直倍率の補数を乗算する第2の乗算器と、前記垂直倍率が乗算された映像信号と前記垂直倍率の補数が乗算された映像信号との和を示す映像信号を生成する加算器とを有し、前記垂直ズーム制御手段は、前記垂直内挿手段が、前記加算器が生成した映像信号を前記水平同期信号及び垂直同期信号に同期して前記水平内挿手段に出力するよう制御する構成とした。
この構成により、垂直倍率から算出する垂直内挿係数を使って垂直方向の内挿処理を容易に行うことができる。
さらに、前記水平ズーム制御手段は、前記水平倍率から水平内挿係数を算出し、前記水平内挿手段は、前記垂直内挿手段から受け取った映像信号を1画素分遅延する1画素遅延手段と、前記垂直内挿手段から受け取った映像信号に前記水平内挿係数を乗算する第1の乗算器と、前記1画素遅延手段が遅延した映像信号に前記水平内挿係数の補数を乗算する第2の乗算器と、前記水平内挿係数を乗算した映像信号と前記水平内挿係数の補数を乗算した映像信号の和を示す映像信号を生成する加算器とを有し、前記水平ズーム制御手段は、前記水平内挿手段の加算器が生成した映像信号を前記水平同期信号及び垂直同期信号に同期して出力する構成とした。
この構成により、水平倍率から算出する水平内挿係数を使って水平方向の内挿処理を容易に行うことができる。
さらに、前記ライン遅延手段は、映像信号が表わす映像の水平方向の1ライン分を記憶することが可能な3つのバンクを有するライン記憶手段によって構成され、前記ライン記憶手段は、前記3つのバンクの内の1つ目のバンクから順次前記水平方向の1ライン分の映像を書き込み、3つ目のバンクに1ライン分の映像を書き込み後、前記1つ目のバンクに戻って、先に書き込んだ前記1ライン分の映像の上に次の1ライン分の映像を書き込み、1フレーム分の映像の水平方向の全ラインの映像を書き込むまで前記3つのバンクへの書込み動作を繰り返し、前記ライン記憶手段は、前記3つバンクの何れか1つに書き込むとき、前記3つのバンクの内の残りの2つに記憶されている2ライン分の映像を読み出し、前記読み出した2ライン分の映像を前記内挿手段に出力し、前記内挿手段は、前記ライン記憶手段が読み出した2ライン分の映像の垂直方向に隣接する画素間を内挿する構成とした。
この構成により、3つのバンクの内の1つ目のバンクから順次水平方向の1ライン分の映像を書き込み、3つ目のバンクに1ライン分の映像を書き込み後、1つ目のバンクに戻って、先に書き込んだ1ライン分の映像の上に次の1ライン分の映像を書き込み、1フレーム分の映像の水平方向の全ラインの映像を書き込むまで3つのバンクへの書込み動作を繰り返すようにしているので、容易に、垂直方向の隣接する画素間の内挿処理を実行することができる。
さらに、前記ズーム制御手段は、前記ライン記憶手段に記憶される前に、前記内挿手段が水平方向に隣接する画素間を内挿するよう制御する構成とした。
この構成により、水平方向の内挿処理と垂直方向の内挿処理の順序を容易に変更することができる。
本発明によれば、ライン遅延手段で遅延したラインと入力されたラインとにより垂直方向の内挿処理を行い、水平方向に隣接する画素間で水平方向の内挿処理を行っているので、フレームメモリを使う必要が無く、低コストで電子ズーム機能を実現することができる。
以下、図面を参照し、本発明の実施の形態の映像信号処理装置について説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態の映像信号処理装置の構成を示すブロック図である。
図1に示すように、本実施の形態の映像信号処理装置は、光を集光し、像が予め設定された位置に結像するようフォーカス調整を行うレンズ11と、レンズ11が集光した光を電気信号に変換し、予め設定された位置に結像した像を示すナログ映像信号を生成する撮像素子12と、撮像素子12から出力されたアナログ映像信号をアナログ前処理し、アナログ映像信号のノイズ除去とゲイン調整を行うアナログ前処理手段13と、アナログ前処理手段13によってアナログ前処理されたアナログ映像信号をデジタル信号に変換するアナログデジタル変換器(以下単にA/D変換器という)14と、A/D変換器14から出力されたデジタル信号に対して輝度(Y)信号処理と色差(C)信号処理を行い、輝度信号及び色差信号を生成するY/C信号処理手段15と、撮像素子12を駆動する駆動パルス信号(水平同期信号及び垂直同期信号を含む)を生成する撮像素子駆動手段19と、Y/C信号処理手段15が生成した輝度信号及び色差信号を予め設定された時間だけ遅延するライン遅延手段16と、Y/C信号処理手段15が出力した輝度信号及び色差信号の内挿処理を行う内挿手段18と、内挿手段18が内挿処理を行うよう制御するズーム制御手段17と、内挿処理に必要な垂直倍率と水平倍率をズーム制御手段17に設定する図示しない倍率設定手段とを備えている。
ここで、アナログ前処理手段13と、A/D変換器14と、Y/C処理手段15と、撮像素子駆動手段1とが映像信号出力手段を構成している。映像信号出力手段は、映像信号を水平同期信号及び垂直同期信号に同期してライン遅延手段16と内挿手段18に出力するようになっている。
ここで、本実施例のライン遅延手段16の予め設定された遅延時間は、水平同期信号の1周期(1水平走査期間)と同じである。
図2は、撮像素子12が生成するアナログ映像信号の水平同期信号及び垂直同期信号に対するタイミングを示すタイミングチャートである。
図2に示すように、撮像素子12は、水平同期信号及び垂直同期信号に同期してアナログ映像信号をY/C信号処理手段15に出力するようになっている。一方、Y/C信号処理手段15は、水平同期信号及び垂直同期信号に同期して輝度信号及び色差信号をライン遅延手段16と内挿手段18に出力するようになっている。
内挿手段18は、Y/C信号処理手段15が出力した輝度信号及び色差信号とライン遅延手段16が遅延した輝度信号及び色差信号を水平同期信号及び垂直同期信号に同期して取得するようになっている。したがって、内挿手段18は、Y/C信号処理手段15が出力した輝度信号及び色差信号よりも水平同期信号の1周期に等しい時間だけ遅れた輝度信号及び色差信号をライン遅延手段16から取得できるので、垂直方向に隣接した2つの画素の輝度と色差夫々について容易に比較することができる。
なお、本実施例では、Y/C信号処理手段15が、A/D変換器14で変換されたデジタル信号から輝度信号及び色差信号を生成するようになっているが、輝度信号及び色差信号の代わりに、RGB(Red-Green-Blue)信号を生成するようにしてもよい。したがって、内挿手段18が、RGB信号の内挿処理を行うようにしてもよい。
次に、図3を参照し、本実施の形態の映像信号処理装置のズーム制御手段17と内挿手段18の構成を更に詳しく説明する。なお、RBG信号であっても、輝度信号及び色差信号の内挿処理と同じように電子ズーム処理することができるので、輝度信号及び色差信号やRBG信号のように信号の種類を明記しないで説明する。
電子ズーム処理では、垂直方向の内挿処理と水平方向の内挿処理を独立に行えばよいため、図3に示すように、ズーム制御手段17は、垂直方向のズーム制御を行う垂直ズーム制御手段171と、水平方向のズーム制御を行う水平ズーム制御手段172と、垂直ズーム制御手段171が出力する垂直ライン有効フラグと水平ズーム制御手段172が出力する水平画素有効フラグとの論理積をとる論理積回路173とを備えており、内挿手段18は、垂直方向の処理を行う垂直内挿手段181と、水平方向の処理を行う水平内挿手段182とを備えている。
まず、垂直方向の内挿処理を行う垂直ズーム制御手段171と垂直内挿手段181とについて説明する。
図4は、垂直内挿手段181の構成を更に詳しく示すブロック図である。図4に示すように、垂直内挿手段181は、入力される垂直内挿係数αvから1−αvを演算する演算部181aと、入力される垂直内挿係数αvとY/C信号処理手段15の出力とを乗算する第1の乗算器181bと、演算部181aの出力する1−αvとライン遅延手段16の出力とを乗算する第2の乗算器181cと、第1の乗算器181bの出力と第2の乗算器181cの出力とを加算する加算器181dとを備えている。
図5は、垂直倍率2/3の場合の映像信号処理装置の動作例を、垂直同期信号と、Y/C信号処理手段15の出力信号と、ライン遅延手段16の出力信号と、垂直内挿手段181の出力信号と、垂直ライン有効フラグのタイミングチャートで示している。ここで、垂直倍率2/3とは、垂直内挿手段181の入力画素数:垂直内挿手段181の出力画素数=3:2を意味している。また、図5では、1垂直走査期間中の有効ライン数が12ラインの例を示している。
図5において、V(0),V(1),…,V(11)は、垂直内挿手段181への入力信号であり、1ライン分の各画素に対応していることを示している。ライン遅延手段16からの出力信号は、Y/C信号処理手段15の出力の1ライン遅れとなっている。W(0),W(1),…,W(7)は、垂直内挿手段181の出力信号であり、1ライン分の各画素に対応していることを示している。
垂直内挿手段181では、次式に基づいて、入力信号V(i)(i=0,1,2,…,11)から出力信号W(j)(j=0,1,2,…,7)を生成するようになっている。
W(j)=(1−αv)×V(int(βv))+αv×V(int(βv)+1)
ここで、
βv=j/垂直倍率=j×3/2
αv=βv−int(βv)
int(β)は、βの小数点以下を切り捨てて、整数にしている。
なお、上式は、2点からの線形内挿の演算式であるが、高次の内挿を行ってもよい。
また、垂直内挿手段181において、出力信号W(j)の演算を行うためには、入力信号V(int(j/垂直倍率)+1)が必要となるため、V(int(j/垂直倍率)+1)が入力されるラインで演算を行ようにしている。つまり、ライン毎にV(i)が入力されるが、全ラインで演算する必要は無く、V(int(j/垂直倍率)+1)が入力されたときだけ演算すればよい。なお、1ライン中の演算は各画素単位で行い、同一の水平位置の画素に対して行う必要がある。
この演算を行っているラインにおいて、垂直内挿手段181の出力信号が有効となり、それ以外のラインにおける出力は無効となるため、有効か無効かを示す有効フラグが必要となる。この垂直ライン有効フラグを垂直ズーム制御手段171で生成している。
垂直ズーム制御手段171は、垂直倍率を入力され、この垂直倍率に基づいてαvとβvを演算し、上式に基づいてW(j)の演算を行うタイミングを算出し、有効ラインを示す垂直ライン有効フラグを出力するとともに、W(j)の演算を行うタイミングに合わせて対応する垂直内挿係数αvを垂直内挿手段181に出力する。ここでは、”H”レベルを有効ライン、”L”レベルを無効ラインとしている。
次に、水平方向の内挿処理を行う水平ズーム制御手段172と水平内挿手段182について説明する。
図6は、水平内挿手段182の構成を更に詳しく示すブロック図である。図6に示すように、水平内挿手段182は、入力される水平内挿係数αhから1−αhを演算する演算部182aと、入力される水平内挿係数αhと垂直内挿手段181の出力とを乗算する第1の乗算器182bと、垂直内挿手段181の出力を1画素分遅延させる1画素遅延手段182cと、演算部182aの出力する1−αhと1画素遅延手段182cの出力とを乗算する第2の乗算器182dと、第1の乗算器182bの出力と第2の乗算器182dの出力とを加算する加算器182eとを備えている。
図7は、水平倍率2/3の場合の映像信号処理装置の動作例を、水平同期信号と、クロックと、水平内挿手段182への入力信号と、水平内挿手段182の出力信号と、水平画素有効フラグのタイミングチャートで示している。ここで、水平倍率2/3とは、水平内挿手段182の入力画素数:水平内挿手段182の出力画素数=3:2を意味している。また、図7に示すように、1水平走査期間中の有効画素数が15画素の例を示しており、1クロックで1画素を処理するようになっている。
図7において、x(0),x(1),…,x(14)は、水平内挿手段182への入力信号で、1ライン分の入力画素に対応しており、y(0),y(1),…,y(9)は、水平内挿手段182の出力信号で、1ライン分の出力画素に対応している。
水平内挿手段182では、次式に基づいて、入力信号x(i)(i=0,1,2,…,14)から出力信号y(j)(j=0,1,2,…,9)を生成するようになっている。
y(j)=(1−αh)×x(int(βh))+αh×x(int(βh)+1)
ここで、
βh=j/水平倍率=j×3/2
αh=βh−int(βh)
である。
なお、上式は、2点からの線形内挿の演算式であるが、高次の内挿を行ってもよい。
また、水平内挿手段182において、出力信号y(j)の演算を行うためには、入力信号x(int(j/水平倍率)+1)が必要となるため、x(int(j/水平倍率)+1)が入力されたタイミングで演算を行うようにしている。つまり、クロック毎にx(i)が入力されるが、全クロックで演算する必要は無く、x(int(j/水平倍率)+1)が入力されたクロック期間だけ演算すればよい。
この演算を行っている期間が、水平内挿手段182の出力信号が有効となり、それ以外の期間における出力は無効となるため、有効か無効かを示す有効フラグが必要となる。この水平画素有効フラグを水平ズーム制御手段172で生成している。
水平ズーム制御手段172は、水平倍率を入力され、この水平倍率に基づいてαhとβhを演算し、上式に基づいてy(j)の演算を行うタイミングを算出し、有効ラインを示す水平画素有効フラグを出力するとともに、y(j)の演算を行うタイミングに合わせて対応する水平内挿係数αhを水平内挿手段182に出力する。ここでは、”H”レベルを有効画素、”L”レベルを無効画素としている。
さらに、ズーム制御手段17の論理積回路173において、垂直ライン有効フラグと水平画素有効フラグとのAND(論理積)を行って有効フラグ信号を生成するようになっている。
図8は、水平同期信号と垂直同期信号に同期して撮像素子12から出力される映像信号(出力信号)と、電子ズーム処理後の出力信号と、論理積回路173の有効フラグ信号のタイミングチャートである。図8に示すように、映像信号処理装置から出力される電子ズーム処理後の出力信号と有効フラグ信号を受け取った機器は、有効フラグ信号に基づいて電子ズーム処理後の出力信号から有効な画素情報だけを取り出すことができる。したがって、電子ズーム処理後の出力信号と有効フラグ信号を受け取った機器は、電子ズームされた画像を取得することができる。
以上説明したように、本実施の形態の映像信号処理装置は、電子ズーム処理を水平方向と垂直方向に分けて行い、垂直方向の処理を1ライン毎に行っているので、フレームメモリを使う必要が無く、ラインメモリだけで電子ズーム機能を実現することができ、低コストで電子ズーム機能を実現することができる。
なお、水平倍率と垂直倍率とが異なる値でも電子ズーム処理を行うことができる。
また、本実施の形態の映像信号処理装置では、垂直内挿を行った後で、水平内挿を行っている。しかしながら、垂直方向の処理と水平方向の処理は独立で順序は問わないので、水平内挿を行った後に垂直内挿を行うようにしてもかまわない。ただし、その場合には、水平内挿手段182と垂直内挿手段181の間にライン遅延手段16を入れる構成となる。
また、ライン遅延手段が、映像信号が表わす映像の水平方向の1ライン分を記憶することが可能な3つのバンクを有するライン記憶手段によって構成されてもよい。この場合、ライン記憶手段は、3つのバンクの内の1つ目のバンクから水平方向の1ライン分の映像を順次書き込み、3つ目のバンクに1ライン分の映像を書き込み後、1つ目のバンクに戻って、先に書き込んだ1ライン分の映像の上に次の1ライン分の映像を書き込み、1フレーム分の映像の水平方向の全ラインの映像を書き込むまで3つのバンクへの書込み動作を繰り返し、ライン記憶手段は、3つバンクの何れか1つに書き込むとき、3つのバンクの内の残りの2つに記憶されている2ライン分の映像を読み出し、読み出した2ライン分の映像を内挿手段に出力するようになっている。一方、内挿手段では、ライン記憶手段が読み出した2ライン分の映像の垂直方向に隣接する画素間を内挿するようになっている。
(第2の実施の形態)
次に、図9は、本発明の第2の実施の形態の映像信号処理装置の構成を示すブロック図である。なお、本実施の形態の映像信号処理装置は、上述の第1の実施の形態の映像信号処理装置と略同様に構成されており、同一の構成要素には同一の符号を付し、同一の符号を付した構成要素の説明を省略し、第1の実施の形態の映像信号処理装置の構成要素と異なる特徴部分についてのみ説明する。
本実施の形態の映像信号処理装置は、内挿手段18が出力する電子ズーム処理後の出力信号に対し補間処理を行う補間手段21を備えることを特徴としている。
補間手段21は、電子ズーム出力信号を書込みアドレス・バンクに応じて記憶し、読出しアドレス・バンクに応じて2つのバンクを同時に読み出すことができるライン記憶手段211と、ライン記憶手段211から出力される2ライン分の信号から垂直補間係数に応じて補間処理を行う垂直補間演算手段212と、1画素分の信号を記憶する画素記憶手段213と、画素記憶手段213の出力から水平補間係数に応じて補間処理を行う水平補間演算手段214と、ライン記憶手段211と垂直補間演算手段212を制御して垂直補間処理を制御する垂直補間制御手段215と、水平補間演算手段214を制御して水平補間処理を制御する水平補間制御手段216とを備えている。
このような補間手段21において垂直方向に2倍の補間処理を行う場合を説明する。
図11は、垂直方向に2倍の補間処理行う場合の動作例を示すタイミングチャートである。
図11において、Z(0),Z(1),…は、内挿手段18が出力する電子ズーム出力で補間手段21の入力であり、L(0),L(1),…は、垂直補間演算手段212の出力である。
補間手段21に入力された電子ズーム出力は、垂直補間制御手段215が出力する書込みアドレス・バンクに従ってライン記憶手段211に記憶される。
ライン記憶手段211は、3バンクの記憶領域を有しており、ライン毎に書き込むバンクが切り替えられる。3バンクを順次切り替えることで、読み出しが完了するまで上書きされないようにしている。
補完したい倍率をNv(図では2)とすると、ライン記憶手段211からの読み出しは、既に書き込みが完了している2つのバンクから、書込み速度のNv倍の速度で、Nv回だけ読み出す。図11では、2倍の速度で2回同じバンクからラインを読み出す。
Nv回読み出したうちのi回目の垂直補間係数γvは、
γv=(i−1)/Nv(i=1,2,…,Nv)
である。
垂直補間演算手段212は、Nv回読み出した2つのライン(Z(j),Z(j+1)(j=0,1,…)に対して、それぞれの読出し回数i(i=1,2,…,Nv)に対応した垂直補間係数γvにより次式に基づいてL(0),L(1),L(2),…を生成する。
L(j×Nv+i−1)=(1−γv)×Z(j)+γv×Z(j+1)
図11の2倍補間の例では、1回目の垂直補間係数=0、2回目の垂直補間係数=0.5である。
また、ライン記憶手段211は、入力される有効フラグも記憶しており、Nv倍速で読み出した有効フラグを垂直補間有効フラグとする。
次に、水平方向に2倍の補間処理を行う場合を説明する。
図12は、水平方向に2倍の補間処理行う場合の動作例を示すタイミングチャートである。
図12において、K(0),K(1),…は、垂直補間演算手段212の出力で水平補間演算手段214の入力画素であり、M(0),M(1),…は、水平補間演算手段214の出力画素である。
垂直補間演算手段212が出力した垂直補間出力は、水平補間演算手段214に入力されるとともに、画素記憶手段213にも入力され、画素記憶手段213により1画素分のタイミングを遅延されて水平補間演算手段214に入力される。
補完したい倍率をNh(図では2)とすると、水平補間演算手段214は、入力の1クロック(画素)の間にNhクロック(画素)分の補間処理を行い、入力された信号クロックのNh倍のクロック単位で補間した画素を出力する。
Nh回演算(補間処理)するうちのi回目の水平補間係数γhは、
γh=(i−1)/Nh(i=1,2,…,Nh)
である。
水平補間演算手段214は、垂直補間演算手段212から入力された画素K(j+1)と画素記憶手段213で遅延された画素K(j)に対して、それぞれの演算回数i(i=1,2,…,Nh)に対応した垂直補間係数γhにより次式に基づいてM(0),M(1),M(2),…を生成する。
M(j×Nh+i−1)=(1−γh)×K(j)+γh×K(j+1)
図12の2倍補間の例では、1クロック目は水平補間係数=0で補間し、2クロック目は水平補間係数=0.5で補間する。
このように本実施の形態においては、補間手段21により内挿手段18の出力に補間処理を行っているので、映像処理装置の倍率としては、内挿の倍率×補間の倍率となるため、縮小から拡大まで任意の倍率を設定することができる。
以上のように、本発明にかかる映像信号処理装置は、低コストで電子ズーム機能を実現することができるという効果を有し、映像信号の電子ズーム処理を行う映像信号処理装置等として有用である。
図1は、本発明の第1の実施の形態における映像信号処理装置のブロック図 図2は、本発明の第1の実施の形態における映像信号処理装置の同期信号と撮像素子の出力信号を示すタイミングチャート 図3は、本発明の第1の実施の形態における映像信号処理装置のズーム制御手段と内挿手段のブロック図 図4は、本発明の第1の実施の形態における映像信号処理装置の垂直内挿手段のブロック図 図5は、本発明の第1の実施の形態における映像信号処理装置の垂直内挿の動作を示すタイミングチャート 図6は、本発明の第1の実施の形態における映像信号処理装置の水平内挿手段のブロック図 図7は、本発明の第1の実施の形態における映像信号処理装置の水平内挿の動作を示すタイミングチャート 図8は、本発明の第1の実施の形態における映像信号処理装置の電子ズーム処理後の出力信号を示すタイミングチャート 図9は、本発明の第2の実施の形態における映像信号処理装置のブロック図 図10は、本発明の第2の実施の形態における映像信号処理装置の補間手段のブロック図 図11は、本発明の第2の実施の形態における映像信号処理装置の垂直補間の動作を示すタイミングチャート 図12は、本発明の第2の実施の形態における映像信号処理装置の水平補間の動作を示すタイミングチャート 図13は、従来の撮像装置のブロック図
符号の説明
11 レンズ
12 撮像素子
13 アナログ前処理手段
14 アナログデジタル(A/D)変換器
15 Y/C信号処理手段
16 ライン遅延手段
17 ズーム制御手段
18 内挿手段
19 撮像素子駆動手段
21 補間手段
171 垂直ズーム制御手段
172 水平ズーム制御手段
173 論理積回路
181 垂直内挿手段
181a 演算部
181b 第1の乗算器
181c 第2の乗算器
181d 加算器
182 水平内挿手段
182a 演算部
182b 第1の乗算器
182c 1画素遅延手段
182d 第2の乗算器
182e 加算器
211 ライン記憶手段
212 垂直補間演算手段
213 画素記憶手段
214 水平補間演算手段
215 垂直補間制御手段
216 水平補間制御手段
51 レンズ
52 CCD
53 撮像信号処理回路
54 ADコンバータ(ADC)
55 フレームメモリ
56 補間回路
57 エッジ強調処理回路
58 DAコンバータ(DAC)
59 記録回路
60 書込みアドレスコントローラ
61 読出しアドレスコントローラ
62 テレワイド(T/W)切替スイッチ
63 倍率発生回路

Claims (10)

  1. 映像信号を1水平走査期間分遅延させるライン遅延手段と、前記映像信号と前記ライン遅延手段の出力から垂直方向の内挿処理を行い、水平方向に隣接する画素間で水平方向の内挿処理を行い、出力する信号が有効となる期間を示す有効フラグを出力する内挿手段とを備えることを特徴とする映像信号処理装置。
  2. 前記内挿手段が出力する信号を少なくとも2ラインずつ使って垂直方向の補間処理を行うとともに、水平方向に隣接する画素間で水平方向の補間処理を行い、出力する信号が有効となる期間を示す有効フラグを出力する補間手段を備えることを特徴とする請求項1記載の映像信号処理装置。
  3. 水平同期信号及び垂直同期信号に同期して映像信号を出力する映像信号出力手段と、
    前記映像信号を前記水平同期信号の1周期と同じ期間分遅延するライン遅延手段と、
    前記遅延手段が遅延した映像信号を前記映像信号出力手段が出力した映像信号と比較し、前記遅延手段が遅延した映像信号によって表わされる映像の垂直方向に隣接する画素間を内挿する内挿手段と、
    垂直倍率に応じて前記垂直方向に隣接する画素間を内挿するよう前記内挿手段を制御するズーム制御手段とを備える映像信号処理装置。
  4. 前記内挿手段は、更に、前記垂直方向に隣接する画素間が内挿された映像の水平方向に隣接する画素間を内挿し、
    前記ズーム制御手段は、水平倍率に応じて前記水平方向に隣接する画素間を内挿するよう前記内挿手段を制御するようにしたことを特徴とする請求項3に記載の映像信号処理装置。
  5. 前記ズーム制御手段は、前記ライン遅延手段によって遅延される前に、前記内挿手段が水平方向に隣接する画素間を内挿するよう制御するようにしたことを特徴とする請求項3に記載の映像信号処理装置。
  6. 前記内挿手段は、前記垂直方向に隣接する画素間を内挿した映像が示された映像信号を生成する垂直内挿手段と、前記水平方向に隣接する画素間を内挿した映像が示された映像信号を生成する水平内挿手段とを有し、
    前記ズーム制御手段は、前記垂直内挿手段が生成した映像信号の有効な期間を垂直ライン有効フラグで指示する垂直ズーム制御手段と、前記水平内挿手段が生成した映像信号の有効な期間を水平ライン有効フラグで指示する水平ズーム制御手段と、前記水平ライン有効フラグと前記垂直ライン有効フラグの指示に応答し、前記水平方向と前記垂直方向の両方が有効な期間を示す有効フラグ信号を生成し、前記生成した有効フラグ信号を前記水平内挿手段が生成する映像信号に同期して出力する論理積回路を有することを特徴とする請求項4に記載の映像信号処理装置。
  7. 前記垂直ズーム制御手段は、前記垂直倍率から垂直内挿係数を算出し、
    前記垂直内挿手段は、前記ライン遅延手段が遅延した映像信号に前記垂直倍率を乗算する第1の乗算器と、前記映像信号出力手段が出力した映像信号に前記垂直倍率の補数を乗算する第2の乗算器と、前記垂直倍率が乗算された映像信号と前記垂直倍率の補数が乗算された映像信号との和を示す映像信号を生成する加算器とを有し、
    前記垂直ズーム制御手段は、前記垂直内挿手段が、前記加算器が生成した映像信号を前記水平同期信号及び垂直同期信号に同期して前記水平内挿手段に出力するよう制御するようにしたことを特徴とする請求項6に記載の映像信号処理装置。
  8. 前記水平ズーム制御手段は、前記水平倍率から水平内挿係数を算出し、
    前記水平内挿手段は、前記垂直内挿手段から受け取った映像信号を1画素分遅延する1画素遅延手段と、前記垂直内挿手段から受け取った映像信号に前記水平内挿係数を乗算する第1の乗算器と、前記1画素遅延手段が遅延した映像信号に前記水平内挿係数の補数を乗算する第2の乗算器と、前記水平内挿係数を乗算した映像信号と前記水平内挿係数の補数を乗算した映像信号の和を示す映像信号を生成する加算器とを有し、
    前記水平ズーム制御手段は、前記水平内挿手段の加算器が生成した映像信号を前記水平同期信号及び垂直同期信号に同期して出力するようにしたことを特徴とする請求項7に記載の映像信号処理装置。
  9. 前記ライン遅延手段は、映像信号が表わす映像の水平方向の1ライン分を記憶することが可能な3つのバンクを有するライン記憶手段によって構成され、
    前記ライン記憶手段は、前記3つのバンクの内の1つ目のバンクから順次前記水平方向の1ライン分の映像を書き込み、3つ目のバンクに1ライン分の映像を書き込み後、前記1つ目のバンクに戻って、先に書き込んだ前記1ライン分の映像の上に次の1ライン分の映像を書き込み、1フレーム分の映像の水平方向の全ラインの映像を書き込むまで前記3つのバンクへの書込み動作を繰り返し、
    前記ライン記憶手段は、前記3つバンクの何れか1つに書き込むとき、前記3つのバンクの内の残りの2つに記憶されている2ライン分の映像を読み出し、前記読み出した2ライン分の映像を前記内挿手段に出力し、
    前記内挿手段は、前記ライン記憶手段が読み出した2ライン分の映像の垂直方向に隣接する画素間を内挿するようにしたことを特徴とする請求項3に記載の映像信号処理装置。
  10. 前記ズーム制御手段は、前記ライン記憶手段に記憶される前に、前記内挿手段が水平方向に隣接する画素間を内挿するよう制御するようにしたことを特徴とする請求項9に記載の映像信号処理装置。
JP2006542950A 2004-10-18 2005-10-14 映像信号処理装置 Withdrawn JPWO2006043483A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2004302747 2004-10-18
JP2004302747 2004-10-18
PCT/JP2005/018968 WO2006043483A1 (ja) 2004-10-18 2005-10-14 映像信号処理装置

Publications (1)

Publication Number Publication Date
JPWO2006043483A1 true JPWO2006043483A1 (ja) 2008-05-22

Family

ID=36202900

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006542950A Withdrawn JPWO2006043483A1 (ja) 2004-10-18 2005-10-14 映像信号処理装置

Country Status (3)

Country Link
US (1) US20090046176A1 (ja)
JP (1) JPWO2006043483A1 (ja)
WO (1) WO2006043483A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8994877B2 (en) * 2008-07-30 2015-03-31 Semiconductor Components Industries, Llc Method and system for synchronizing a flash to an imager
TW201037626A (en) * 2009-04-01 2010-10-16 Novatek Microelectronics Corp Method for accessing image data and related apparatus
KR102295526B1 (ko) * 2017-04-10 2021-08-30 삼성전자 주식회사 이미지 센서 및 이를 포함하는 이미지 처리 장치

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH083956B2 (ja) * 1986-09-18 1996-01-17 日本テキサス・インスツルメンツ株式会社 半導体記憶装置
US4988984A (en) * 1988-10-31 1991-01-29 International Business Machines Corporation Image interpolator for an image display system
US5469222A (en) * 1992-12-23 1995-11-21 Intel Corporation Non-linear pixel interpolator function for video and graphic processing
JP3231142B2 (ja) * 1993-06-18 2001-11-19 株式会社日立製作所 映像圧縮拡大回路及び装置
KR0175406B1 (ko) * 1995-11-15 1999-03-20 김광호 고해상도의 전자식 영상확대장치 및 그 방법
JP3747523B2 (ja) * 1996-07-02 2006-02-22 ソニー株式会社 画像処理装置および処理方法
JP2001109442A (ja) * 1999-10-01 2001-04-20 Sanyo Electric Co Ltd 映像信号処理回路

Also Published As

Publication number Publication date
US20090046176A1 (en) 2009-02-19
WO2006043483A1 (ja) 2006-04-27

Similar Documents

Publication Publication Date Title
JP4208904B2 (ja) 撮像装置及びその制御方法並びに撮像システム
KR100783992B1 (ko) 화상데이터의 화소보간을 실행하는 화소보간장치, 및촬영화상의 화소보간을 실행하는 카메라장치
JP4255345B2 (ja) 撮像装置
JP2007228019A (ja) 撮像装置
WO2004019607A1 (ja) 画像処理装置と画像処理システム及び画像処理方法
JP2006352715A (ja) デジタルカメラ、及びその露出制御方法
TW201223268A (en) Imaging apparatus, signal processing method, and program
JP5829122B2 (ja) 撮像装置および評価値生成装置
JPWO2006043483A1 (ja) 映像信号処理装置
JP4225241B2 (ja) 画像表示装置
JPH06261238A (ja) 撮像装置
JP2004193911A (ja) 画像処理装置および画像処理方法、デジタルスチルカメラ
JP4697094B2 (ja) 画像信号出力装置及びその制御方法
JP4836500B2 (ja) デジタルカメラ、及びその画像処理方法
JP2006352716A (ja) 撮像装置及び撮像方法
JP4424097B2 (ja) 電子ズーム装置
JP3972478B2 (ja) 撮像装置
JP3358725B2 (ja) 撮像装置
KR20060022575A (ko) 이미지센서의 디지털 줌 방법
JPH07177531A (ja) 撮像装置
JPH07177408A (ja) 信号処理装置
JP2001320721A (ja) 撮像装置およびその動作処理方法およびその動作処理プログラムおよびその動作処理プログラムを記憶した記憶媒体
JP3977156B2 (ja) 撮像装置
JP2010206591A (ja) 固体撮像装置、集積回路及びプログラム
JP2006003481A (ja) 画サイズ変換装置及び撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080729

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20100712