JP2010108284A - 画像処理プロセッサ - Google Patents

画像処理プロセッサ Download PDF

Info

Publication number
JP2010108284A
JP2010108284A JP2008280180A JP2008280180A JP2010108284A JP 2010108284 A JP2010108284 A JP 2010108284A JP 2008280180 A JP2008280180 A JP 2008280180A JP 2008280180 A JP2008280180 A JP 2008280180A JP 2010108284 A JP2010108284 A JP 2010108284A
Authority
JP
Japan
Prior art keywords
image processing
input
unit
instruction
command
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008280180A
Other languages
English (en)
Other versions
JP5121671B2 (ja
Inventor
Katsuyuki Kimura
克行 木村
Takashi Miyamori
高 宮森
Shunichi Ishiwatari
俊一 石渡
Takahisa Wada
卓久 和田
Keiri Nakanishi
圭里 中西
Masato Sumiyoshi
正人 住吉
Yasutaka Tanabe
靖貴 田邉
Ryuji Haneda
隆二 羽田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2008280180A priority Critical patent/JP5121671B2/ja
Priority to US12/552,680 priority patent/US20100110213A1/en
Publication of JP2010108284A publication Critical patent/JP2010108284A/ja
Application granted granted Critical
Publication of JP5121671B2 publication Critical patent/JP5121671B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00912Arrangements for controlling a still picture apparatus or components thereof not otherwise provided for
    • H04N1/00931Synchronising different operations or sub-apparatus, e.g. controlling on-times taking into account different warm-up times
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • H04N1/2137Intermediate information storage for one or a few pictures using still video cameras with temporary storage before final recording, e.g. in a frame buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3285Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device using picture signal storage, e.g. at transmitter
    • H04N2201/3287Storage of at least one complete document page or image frame
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3285Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device using picture signal storage, e.g. at transmitter
    • H04N2201/329Storage of less than a complete document page or image frame
    • H04N2201/3292Storage of less than a complete document page or image frame of one or two complete lines

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Input (AREA)
  • Studio Devices (AREA)

Abstract

【課題】バッファ容量を可及的に削減した画像処理プロセッサを提供する。
【解決手段】デジタル映像信号が入力されてから画像処理が実行されるまでの遅延量を示す情報を有する命令を取得し、該遅延量と外部から入力された画素数のカウンタ値とに基づいて画素位置を算出し、画素位置が有効領域に位置する場合、取得した命令を実行し、画素位置が無効領域に位置する場合、取得した命令を実行しないように構成した。
【選択図】 図1

Description

この発明は、画像処理プロセッサに関する。
従来、ビデオカメラやデジタルスチルカメラなどの撮像装置などに搭載され、CMOSセンサなどから出力された画像データに対して画像処理を実行する画像処理プロセッサは、固定のデータレートで連続的に入力されるラスタスキャン順の画像データに対して逐次画像処理を実行するために、画像データを一時的に格納するバッファを使用し、パイプライン処理を実行する構成となっている。
一方、このような画像処理プロセッサに関し、一般的に、要求される物理的な面積の制約が厳しいため、バッファの容量を小さくして画像処理プロセッサの面積を小さくしたいという要望がある。この要望に対する解決策として、同期のポイントを多く(同期の周期を小さく)することによって一回の同期の動作において受け渡しされる画像データのサイズを小さくし、バッファの容量を削減するということが考えられる。
特許文献1によれば、受け付けた画像データが一定量に達したとき同期を行うように構成することによって、受け渡しされる画像データのサイズを1ラインの画素数以下のサイズにする技術が開示されている。しかしながら、該技術によれば、外部から入力されてくる画像データが一時的に格納される入力バッファおよび外部に出力する画像データが一時的に格納される出力バッファの容量は削減できるが、プロセッサコアが中間データを一時的に格納する中間バッファにおいては画素位置をメモリアドレスで管理可能なように画像データを格納するように構成されているので、中間バッファは少なくともライン単位やフレーム単位の容量を必要とする。したがって、バッファ容量の削減には限界があった。
特開2003−29979号公報
本発明は、バッファ容量を可及的に削減した画像処理プロセッサを提供することを目的とする。
本願発明の一態様によれば、固定のデータレートで入力されてくるデジタル映像信号に対し、デジタル映像信号の入力に同期して順次画像処理を実行する画像処理プロセッサにおいて、入力されてくるデジタル映像信号の画素数をカウントするとともに入力されてくるデジタル映像信号を順次第1のバッファに書き込み、前記第1のバッファに書き込まれたデジタル映像信号を読み出して第2のバッファに書き込む入力ユニットと、デジタル映像信号が前記入力ユニットに入力されてから自身の命令による画像処理が開始されるまでの遅延量を示す処理遅延情報が付加された画像処理命令を記憶している命令記憶部と、前記命令記憶部から画像処理命令を取得し、該取得した画像処理命令に付加されている処理遅延情報および前記入力ユニットによる画素数のカウンタ値に基づいて前記取得した画像処理命令による画像処理対象の画素のデジタル映像信号の画像フレームにおける画素位置を算出し、該算出した画素位置が有効な領域に位置する場合、前記取得した画像処理命令を発行し、前記算出した画素位置が有効な領域に位置しない場合、前記取得した画像処理命令を発行しない命令取得/発行部と、前記命令取得/発行部が発行した画像処理命令を実行することにより前記第2のバッファに書き込まれている前記画像処理対象の画素に対して画像処理を実行する命令実行部と、を備える画像処理プロセッサが提供される。
本発明によれば、バッファ容量を可及的に削減した画像処理プロセッサを提供することができるという効果を奏する。
以下に添付図面を参照して、この発明にかかる画像処理プロセッサの最良な実施の形態を詳細に説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態にかかる画像処理プロセッサの構成を示すブロック図である。図示するように、第1の実施の形態の画像処理プロセッサ1は、外部から1映像クロック毎に1画素ずつラスタスキャン順に入力されてくるデジタル映像信号(以下、単に画像データという)を受ける入力ユニット2と、入力ユニット2が受けた画像データに対して例えばレンズシェーディング処理や補間処理などの画像処理を行うプロセッサコア3と、プロセッサコア3が画像処理を行った画像データを1映像クロック毎に1画素ずつラスタスキャン順に外部に出力する出力ユニット4とを備える。
ここで、バッファおよび画像データの流れについて説明する。入力ユニット2は、ラスタスキャン順に入力されてくる画像データを一時的に蓄える入力バッファ24を備える。プロセッサコア3は、画像処理の作業領域として使用する中間バッファ35を備える。入力バッファ24は、入力ユニット2は、入力バッファ24から画像データを読み出して中間バッファ35に書き込む。中間バッファ35は、画像処理対象の画素(注目画素)と該注目画素に対する画像処理に使用される周辺画素の画素データ、および該画像処理によって発生する中間データを記憶する。出力ユニット4は、出力バッファ41を備え、画像処理結果の画像データを中間バッファ35から読み出して、出力バッファ41に一時的に蓄える。出力バッファ41に蓄えられた画像データは、外部にラスタスキャン順に出力される。
入力バッファ24から画像データを読み出して中間バッファ35に書き込む動作、中間バッファ35に書き込まれた画像データに対する画像処理、出力バッファ41に画像処理結果を書き込む動作、および出力バッファ41から外部に画像データが出力される動作は、外部からの画像データの入力に同期して同期のポイントから次の同期のポイントまでに入力される画像データの画素数である処理単位画素数毎にパイプライン処理的に実行される。したがって、入力バッファ24および出力バッファ41の容量は、処理単位画素数に応じた容量を有するように構成されている。例えば入力バッファ24および出力バッファ41は、処理単位画素数と同一または倍程度の容量を有する。入力バッファ24および出力バッファ41の容量を削減するために、処理単位画素数は例えば1画素分などできるだけ小さい値となるように、同期の周期は小さく設定される。
外部から入力されてくる画像データについて説明する。外部から入力されてくる画像データはブランキング期間などの無効な領域を含む。図2は、画像フレームの一例を示す図である。図示するように、H方向10画素×V方向3画素の画像フレームにおいて、1、2ラインの右側2画素と3ライン目の全ての画素が無効領域となっている。画像処理プロセッサ1は、画像処理のための命令をフェッチ(取得)する毎に該命令の注目画素の画素位置をハードウェア的に算出し、該注目画素が有効領域(無効領域ではない領域)に位置するか否かを判定し、該注目画素が無効領域に位置する場合、フェッチした命令を実行しないようにする機能を有する。
図1に戻り、入力ユニット2は、入力バッファ24と、入力された画素数をカウントする画素カウンタ22と、処理単位画素数分の画像データが入力される毎に同期タイミング信号を発行する同期タイミング信号生成部23と、注目画素が有効領域に位置するか否かを判定するために使用される有効領域レジスタ21と、を備える。
プロセッサコア3は、中間バッファ35と、画像処理にかかる命令(画像処理命令)を記憶する命令記憶部である命令メモリ31と、命令を実行する命令実行部である演算ユニット33およびロードストアユニット34と、命令メモリ31から命令をフェッチして演算ユニット33およびロードストアユニット34に命令を発行する命令取得/発行部である命令フェッチ/発行ユニット32と、を備える。ロードストアユニット34は、中間バッファ35に対する画像データの読み書きを行う。
命令メモリ31に記憶されている命令のフォーマットについて説明する。命令メモリ31に記憶されている命令(以下、命令列という)は、同時に実行できる複数の命令(以下、小命令という)が組み込まれた構成となっている。図3は、命令メモリ31に記憶されている命令列のフォーマットの一例を説明する図である。図3において、一つの命令列は、夫々小命令を格納する第1の領域、第2の領域、および第3の領域と、注目画素指定命令を格納する第4の領域と、を有する。
注目画素指定命令は、注目画素が属する画像フレームの先頭画素が外部から入力されてから該先頭画素に対して同じ命令列の小命令による操作が開始されるまでの遅延量を示す処理遅延情報を有し、該処理遅延情報および画素カウンタ22のカウンタ値に基づいて注目画素の画素位置を算出し、該注目画素が有効領域にある場合、同じ命令列の小命令を実行させ、該注目画素が無効領域にある場合、同じ命令列の小命令を実行させないようにする命令である。なお、処理遅延情報に示される遅延量は、同期ポイントから別の同期ポイントまでの入力画素数または該入力画素数に対応する映像クロック数などの時間で示される。
第1の領域、第2の領域および第3の領域に格納される小命令には、画像データを読み出し先から読み出すロード命令、画像データを書き込み先に書き込むストア命令、画像処理を実行する演算命令など、画素の操作を実行させる命令のほか、外部からの画像データの入力と入力された画像データに対する画像処理の実行との間に同期を取るための同期命令と、次の命令列の取得先のアドレスを変更させるジャンプ命令とがある。
命令フェッチ/発行ユニット32は、命令列をフェッチした後、該命令列に含まれている小命令を発行する。すなわち、命令フェッチ/発行ユニット32は、演算命令を演算ユニット33に発行し、ロード命令、ストア命令をロードストアユニット34に発行する。ただし、命令フェッチ/発行ユニット32は、同期命令、ジャンプ命令および注目画素指定命令を自身が実行する。
命令フェッチ/発行ユニット32は、注目画素指定命令を実行するために、注目画素指定命令が有する処理遅延情報と画素カウンタ22の値に基づき注目画素の位置を算出する画素位置算出部321と、算出した注目画素の画素位置が有効領域にあるか否かを有効領域レジスタ21の値に基づいて判定し、該画素位置が有効領域でない場合、同じ命令列に含まれる小命令を演算ユニット33、ロードストアユニット34に発行しないようにする命令無効化部322とを有する。
また、命令フェッチ/発行ユニット32は、同期命令を実行する同期ユニット323を有する。同期ユニット323は、フェッチした命令列に同期命令が含まれていた場合、該同期命令を解釈し、同期タイミング信号生成部23から次の同期タイミング信号が発行されるまで命令フェッチ/発行ユニット32に命令列をフェッチする動作を待機させる制御を実行する。同期ユニット323は、次の同期タイミング信号が発行されたとき、命令をフェッチする動作の待機を解除し、命令フェッチ/発行ユニット32に次の命令列をフェッチさせる。
命令フェッチ/発行ユニット32は、ジャンプ命令を実行したとき、該ジャンプ命令に指定される命令メモリ31の読み出し先から次の命令列を読み出す。
出力ユニット4は、前述したように出力バッファ41を備える。
次に、以上のように構成される第1の実施の形態の画像処理プロセッサ1の動作を説明する。なお、以下の動作の説明においては、図2に示す画像フレームが入力されることとし、同期タイミング信号生成部23は、1画素入力される毎に同期タイミング信号を発行し、画素カウンタ22のカウンタ値は、画像フレームの先頭画素が入力されたときリセットされて1を示すようにすることとする。
図4は、第1の実施の形態の画像処理プロセッサ1が、入力される画像データと画像処理の実行の間で同期をとる動作を説明するフローチャートである。図4左図は、入力ユニット2の動作を説明するフローチャートである。図示するように、入力ユニット2は、1画素入力されると(ステップS1)、同期タイミング信号を発行して、入力ユニット2は入力された1画素を入力バッファ24に書き込み、画素カウンタ22のインクリメントを行う(ステップS2)。そして、入力ユニット2は入力バッファ24に入力された1画素を中間バッファ35に書き込む(ステップS3)。そして、ステップS1に移行する。
プロセッサコア3は、同期タイミング信号を検知してから次の同期タイミング信号を検知するまでに、中間バッファ35に書き込まれている注目画素1画素に対して種々の画像処理を実行する動作を、同期命令が組み込まれていない命令列1〜命令列n−1および同期命令が組み込まれた命令列nに基づいてパイプライン処理的に実行する。図4右図は、プロセッサコア3の動作を説明するフローチャートである。
図4右図において、プロセッサコア3は、同期ユニット323が同期タイミング信号の発行を検知したとき(ステップS11)、命令フェッチ/発行ユニット32は、命令列1をフェッチし(ステップS12)、命令列1の注目画素1画素に対して該命令列1が実行される(ステップS13)。命令列のフェッチおよびフェッチした命令列の実行は、命令列n−1に至るまで繰り返される(ステップS14〜ステップS16)。続いて、命令フェッチ/発行ユニット32は、同期命令が組み込まれた命令列nをフェッチし(ステップS17)、命令列nが実行されると(ステップS18)、同期命令を解釈した同期ユニット323により、命令フェッチ/発行ユニット32は次の同期タイミング信号の発行を検知するまで新たな命令列のフェッチを待機する状態に移行する(ステップS19)。その後、同期ユニット323が同期タイミング信号の発行を検知すると(ステップS11)、次の画素についてステップS12〜ステップS19の動作が実行される。なお、プロセッサコア3はパイプライン処理的にステップS11〜ステップS19の動作を実行するので、命令列1〜nに基づく各操作が対象とする画素は全て同一の画素を指しているとは限らない。
このように、入力ユニット2に入力される画像データと、プロセッサコア3による画像データに対する画像処理とが同期される。なお、他の同期の方式として、入力ユニット2、出力ユニット4内部に処理単位画素数の画像データが蓄えられたことを示すレジスタを配備し、該レジスタをプロセッサコア3が一定の間隔で読み出すことにより同期を取るポーリング方式や、入力ユニット2が処理単位画素数の画像データが蓄えられたときハードウェア信号として通知し、受け側をプロセッサコア3の割込コントローラに接続する割込方式などがあるが、上述した第1の実施の形態の同期方式はこれらの他の同期方式よりも同期のオーバーヘッドが少ないため、より高速な同期を実現する。すなわち、ポーリング方式や割込方式にくらべ、オーバーヘッドの増加量を抑えつつ同期の周期を短く設定することが可能である。
図5は、フェッチされた命令列の実行(ステップS13、ステップS15、・・・、ステップS18)をさらに詳しく説明するフローチャートである。
図5において、命令フェッチ/発行ユニット32は、命令列をフェッチすると、画素位置算出部321は画素カウンタ22のカウンタ値および注目画素指定命令に含まれる処理遅延情報に基づき、該命令列に含まれる小命令が操作対象とする画素の画素位置を算出する(ステップS21)。以下に画素位置の求め方の一例を説明する。
図2の画像フレームにおける操作対象の画素の位置をYライン目のX画素目とし、処理遅延情報が示す遅延量をD画素とし、現在のカウンタ値をCとすると、
C−D=(X−1)+(Y−1)×10 (式1)
(ただしX、Yは、1≦X≦10、1≦Y≦3を満たす整数)
の関係が成り立つ。したがって、カウンタ値Cおよび遅延量DによりX、Yを算出することができる。例えば、現在の画素カウンタ22のカウンタ値が14であり、遅延量がD画素である場合、(X、Y)=(3、1)と求まる。すなわち、操作対象の画素の画素位置は1ライン目の3画素目であることがわかる。
ステップS21に続いて、命令無効化部322は、有効領域レジスタ21を参照し、求めた画素位置が有効領域であるか否かを判定する(ステップS22)。有効領域レジスタ21による有効領域を示す形態は特に限定されるものではないが、図2の画像フレームにおける有効領域は、1≦X≦8、かつ1≦Y≦2の範囲であるため、例えば4つのレジスタを用いてX、Yの有効領域における最小値と最大値を並べ、1、8、1、2のように表現するようにしてよい。
画素位置が有効領域であった場合(ステップS22、Yes)、命令フェッチ/発行ユニット32は、第1〜第3の領域に格納されている小命令を発行する(ステップS23)。画素位置が有効領域ではなかった場合(ステップS22、No)、命令無効化部322は命令列に含まれる小命令を無効とし、命令フェッチ/発行ユニット32に該小命令を発行しないで命令列の実行を終了する。ただし、ステップS17においてフェッチされた命令列nが扱う画素が無効領域に位置する場合でも次の同期タイミング信号まで待機するために、画素位置が有効領域ではなかった場合でも同期命令のみ例外として同期ユニット323に発行される。
このように、命令フェッチ/発行ユニット32は、フェッチした命令列が含んでいる遅延量を示す処理遅延情報とカウンタ値に基づき、該命令列に含まれる小命令の操作対象の画素の画素位置を算出するので、中間バッファ35は、画素の格納先のアドレスで画像位置を管理する特許文献1の技術が受けるライン単位やフレーム単位のような大きな容量を必要とするという制約を受けなくなるため、中間バッファ35の容量を削減することができる。例えば、H方向3画素×V方向3画素の画素を用いて中心の画素に関する画像処理の演算を行うように構成されている場合、特許文献1の技術によれば、例え処理単位画素数が1ライン以下のサイズであっても、中間バッファは画像処理前の注目画素と該注目画素に関する画像処理の演算に使用される周辺画素の画像データを格納する領域だけでも少なくとも3ライン分の容量が必要となる。これに対し、画像処理プロセッサ1は、処理単位画素数を1画素に設定すると、2ライン分+3画素分の容量まで削減できる。
また、算出した画素位置が無効領域の場合、命令列に含まれる小命令を発行しない動作を行うので、中間バッファ35は、無効領域の画素に関する画像処理の中間データを記憶するための容量を必要としない。すなわち、中間バッファ35は、無効領域分の中間データを格納する分の容量をさらに削減することができる。
また、注目画素の画素位置を算出する動作と、該算出した画素位置が有効領域に位置するか否かを判定する動作とをソフトウェアで実行すると、いくつかの条件分岐の処理を要し、該条件分岐の処理に起因するオーバーヘッドが大きくなるが、画像処理プロセッサ1は、これらの動作をハードウェアで実現するため、ソフトウェアで実現する場合に比して高速に実行することができる。
図6は、画像データの流れの具体例を説明するタイミングチャートである。図6において、最上段は映像クロック、2段目はフレームの先頭でアサートされ、フレームの終わりでデアサートされる垂直同期信号、3段目はH方向の有効領域の画像でアサートされ、有効領域の画素の終わりでデアサートされる水平同期信号、4段目は入力されてくる画素を示している。最上段から最下段に至る直線は1画素毎に発行されている同期タイミング信号を示している。ここで、入力ユニット2は、水平同期信号に基づき無効領域の画素は入力バッファ24に書き込まないこととしている。
入力ユニット2は、最上段〜4段目に示すように入力ユニット2に入力されてくる画像データに対し、5段目に示すように1画素ずつ順次画像データを入力バッファ24に書き込む。そして、入力ユニット2は、該書き込んだ画像データを中間バッファ35に1画素ずつ順次書き込む。プロセッサコア3は、命令列1〜nに基づき、6段目に示す処理Aおよび7段目に示す処理Bと、を実行する。出力ユニット4は、8段目に示すように、処理Bが実行された後の画像データを1画素ずつ読み出して出力バッファ41に書き込む。
処理Aに係る操作を実行させる命令列は、図中矢印(1)に示すように11画素の遅延量が指定されている処理遅延情報を有する注目画素指定命令を有する。カウンタ値が11のとき処理Aに係る命令列が実行されたとき、該命令列の注目画素は式(1)により画像フレームの先頭画素であると認識される。処理Aに関し、カウンタ値が19、20、29、および30のとき、式(1)および有効領域レジスタ21により、注目画素は無効領域に位置すると認識され、小命令が実行されず、中間データの読み書きは実行されない。同様に、処理Bに係る操作を実行させる命令列は、図中矢印(2)に示すように14画素の遅延量が指定されている処理遅延情報を有する注目画素指定命令を有する。カウンタ値が14のとき処理Bに関する命令列が実行されたとき、該命令列の注目画素は画像フレームの先頭画素であると認識される。処理Bに関しても、カウンタ値が22、23、32および33のとき、中間データの読み書きは実行されない。このように、無効領域の画素に関する中間データの読み書きは実行されないので、中間バッファ35は、無効領域の画素データに関する中間データを格納する領域分だけ削減することができることがわかる。
以上述べたように、第1の実施の形態によれば、デジタル映像信号が入力されてから画像処理が実行されるまでの遅延量を示す情報を有する命令を取得し、該遅延量と外部から入力された画素数のカウンタ値とに基づいて画素位置を算出し、画素位置が有効領域に位置する場合、取得した命令を実行し、画素位置が無効領域に位置する場合、取得した命令を実行しないように構成したので、同期の周期を短く設定すると、入力バッファ、出力バッファおよび中間バッファの容量を削減することができるので、バッファの容量を可及的に削減した画像処理プロセッサを提供することができるようになる。
ところで、以上の説明において、入力ユニット2、プロセッサコア3、出力ユニット4は夫々入力バッファ24、中間バッファ35、出力バッファ41を備えるとしたが、各バッファが配備される位置はこれに限定しない。
また、画素カウンタ22は、例として画像フレームの先頭画素が入力されたときリセットされて1を示す動作を行うとして説明したが、画素位置とカウンタ値との対応付けがなされ、カウンタ値と遅延量との関係から画素位置が算出できるように構成される限りどのようにリセットされるように構成されてもよい。例えば、画素カウンタ22は、H方向およびV方向の2種類のカウンタからなる2次元カウンタとし、H方向に1画素入力される毎にH方向のカウンタ値をインクリメントし、1ライン分の画素が入力される毎にV方向のカウンタ値をインクリメントするようにしてもよい。同様に、遅延量に関してもH方向およびV方向の2種類の量で表現されるように構成してもよい。
また、処理遅延情報が遅延量をどのように示すかについては特に言及しなかったが、遅延量の数値を直接示すようにしてもよいし、遅延量の数値が格納されたレジスタを示す、いわゆるレジスタ間接で示すようにしてもよい。
また、有効領域レジスタ21が示す値の設定方法については特に言及しなかったが、初期設定時に設定されるようにしてもよいし、例えば水平同期信号および垂直同期信号に基づいて自動で設定する機能を入力ユニット2に付すようにしてもよい。自動で設定する機能を付すように構成した場合、有効領域レジスタ21の初期設定の手間を削減することができる。
また、同期命令にジャンプ命令の機能を持たせるようにしてもよい。このようにすることにより、ジャンプ命令を同期命令とは別に命令列に組み込む必要をなくすることができる。なお、同期命令にジャンプ命令の機能を持たせる場合、予め定められたアドレスにジャンプさせるようにしてもよいし、同期命令中に即値やレジスタ間接指定などによりジャンプ先のアドレスを指定するようにしてもよい。
(第2の実施の形態)
次に、本発明の第2の実施の形態の画像処理プロセッサについて説明する。図7は、本発明の第2の実施の形態の画像処理プロセッサ5の構成を説明するブロック図である。図7に示す画像処理プロセッサ5が有する各構成要素に関し、実施の形態1と同一の機能を有する構成要素には同一の符号を記し、詳細な説明を省略する。
図7において、画像処理プロセッサ5は、外部から1映像クロック毎に1画素ずつラスタスキャン順に入力されてくる画像データを受ける入力ユニット6と、入力ユニット6が受けた画像データに対して画像処理を行うプロセッサコア7と、プロセッサコア7が画像処理を行った画像データを1映像クロック毎に1画素ずつラスタスキャン順に外部に出力する出力ユニット4とを備える。
プロセッサコア7はSIMD(Single Instruction Multiple Data)型のデータに対する画像処理を行う構成となっている。すなわち、プロセッサコア7は、演算ユニット33の代わりに、一つの演算命令で複数の画素に対して同時に同一の演算を実行するSIMD演算ユニット71を備える。処理単位画素数は、SIMD演算ユニット71が演算可能な画素数、すなわちSIMD幅に設定される。
入力ユニット6は、同期タイミング信号生成部23の替わりに同期タイミング信号生成部61を備える。同期タイミング信号生成部61は、処理単位画素数分、すなわちSIMD幅分の画像データが入力される毎に同期タイミング信号を発行する。ただし、同期タイミング信号生成部61は、水平画素数がSIMD幅の整数倍ではない場合、同じSIMDデータに異なるラインの画像データを含まないように、次のラインの先頭に同期ポイントがくるように同期タイミング信号の発行間隔を一部調節する。
以上のように構成される画像処理プロセッサ5における画像データの流れを説明する。図8は画像データの流れを説明するタイミングチャートである。なお、図8においては、図8に示す画像フレームが入力されたものとし、SIMD幅は3画素であるとしている。
図示するように、1ライン分の画素データが入力バッファ24に順次書き込まれるとき、SIMD幅である3映像クロック毎に同期タイミング信号が発行され、1ラインの最後の同期タイミング信号は、前回の同期タイミング信号が発行されてから4画素入力されたとき発行される。これによって、SIMDデータ、すなわち処理単位画素数のデータにラインの異なる画素が混在することが防止されている。
以上述べたように、第2の実施の形態によれば、処理単位画素数の画素に対して同一の演算を実行することができるように構成したので、第1の実施に形態に比して命令フェッチ/発行ユニットの動作を効率化できるようになる。
第1の実施形態の画像処理プロセッサの構成を示すブロック図。 画像フレームの一例を説明する図。 命令列のフォーマットの一例を説明する図。 第1の実施形態の画像処理プロセッサの画像データの入力と画像処理の実行との間の同期の動作を説明するフローチャート。 第1の実施形態の画像処理プロセッサの命令列の実行を説明するフローチャート。 第1の実施形態の画像処理プロセッサにおける画像データの流れを説明するタイミングチャート。 第2の実施形態の画像処理プロセッサの構成を示すブロック図。 第2の実施形態の画像処理プロセッサにおける画像データの流れを説明するタイミングチャート。
符号の説明
1 画像処理プロセッサ、2 入力ユニット、3 プロセッサコア、4 出力ユニット、5 画像処理プロセッサ、6 入力ユニット、7 プロセッサコア、21 有効領域レジスタ、22 画素カウンタ、23 同期タイミング信号生成部、24 入力バッファ、31命令メモリ、32 命令フェッチ/発行ユニット、33 演算ユニット、34 ロードストアユニット、35 中間バッファ、41 出力バッファ、61 同期タイミング信号生成部、71 SIMD演算ユニット、321 画素位置算出部、322 命令無効化部、323 同期ユニット。

Claims (5)

  1. 固定のデータレートで入力されてくるデジタル映像信号に対し、デジタル映像信号の入力に同期して順次画像処理を実行する画像処理プロセッサにおいて、
    入力されてくるデジタル映像信号の画素数をカウントするとともに入力されてくるデジタル映像信号を順次第1のバッファに書き込み、前記第1のバッファに書き込まれたデジタル映像信号を読み出して第2のバッファに書き込む入力ユニットと、
    デジタル映像信号が前記入力ユニットに入力されてから自身の命令による画像処理が開始されるまでの遅延量を示す処理遅延情報が付加された画像処理命令を記憶している命令記憶部と、
    前記命令記憶部から画像処理命令を取得し、該取得した画像処理命令に付加されている処理遅延情報および前記入力ユニットによる画素数のカウンタ値に基づいて前記取得した画像処理命令による画像処理対象の画素のデジタル映像信号の画像フレームにおける画素位置を算出し、該算出した画素位置が有効な領域に位置する場合、前記取得した画像処理命令を発行し、前記算出した画素位置が有効な領域に位置しない場合、前記取得した画像処理命令を発行しない命令取得/発行部と、
    前記命令取得/発行部が発行した画像処理命令を実行することにより前記第2のバッファに書き込まれている前記画像処理対象の画素に対して画像処理を実行する命令実行部と、
    を備えることを特徴とする画像処理プロセッサ。
  2. 前記入力ユニットは、所定数の画素が入力される毎に同期タイミング信号を発行する同期タイミング信号発行部を備え、同期タイミング信号が発行される毎に所定数の画素を前記第1のバッファから読み出して前記第2のバッファに書き込み、
    前記命令取得/発行部は、同期タイミング信号が発行されてから次の同期タイミング信号が発行されるまでの間に前記第2のバッファに書き込まれている所定数の画素に対する画像処理を完了し、前記次の同期タイミング信号が発行されるまで次の画像処理命令の取得を待機する、
    ことを特徴とする請求項1に記載の画像処理プロセッサ。
  3. 前記命令実行部は、所定数の画素に対して同時に同一の画像処理を実行することが可能に構成される、ことを特徴とする請求項2に記載の画像処理プロセッサ。
  4. 前記同期タイミング信号発行部は、デジタル映像信号の各ラインの先頭が入力されてくるタイミングで同期タイミング信号を発行するように同期タイミング信号の発行間隔を調節する、ことを特徴とする請求項3に記載の画像処理プロセッサ。
  5. 前記処理遅延情報は、直接的にまたはレジスタを用いて間接的に遅延量を示す、ことを特徴とする請求項1〜4のうちの何れか一つに記載の画像処理プロセッサ。
JP2008280180A 2008-10-30 2008-10-30 画像処理プロセッサ Active JP5121671B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008280180A JP5121671B2 (ja) 2008-10-30 2008-10-30 画像処理プロセッサ
US12/552,680 US20100110213A1 (en) 2008-10-30 2009-09-02 Image processing processor, image processing method, and imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008280180A JP5121671B2 (ja) 2008-10-30 2008-10-30 画像処理プロセッサ

Publications (2)

Publication Number Publication Date
JP2010108284A true JP2010108284A (ja) 2010-05-13
JP5121671B2 JP5121671B2 (ja) 2013-01-16

Family

ID=42130880

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008280180A Active JP5121671B2 (ja) 2008-10-30 2008-10-30 画像処理プロセッサ

Country Status (2)

Country Link
US (1) US20100110213A1 (ja)
JP (1) JP5121671B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5380102B2 (ja) * 2009-02-16 2014-01-08 株式会社東芝 マイクロプロセッサ
KR20150035330A (ko) * 2013-09-27 2015-04-06 삼성전자주식회사 데이터 변환 방법 및 장치
JP7170478B2 (ja) * 2018-09-18 2022-11-14 株式会社東芝 画像処理装置、画像処理方法及び画像処理プログラム
US10467142B1 (en) * 2019-05-07 2019-11-05 12 Sigma Technologies Enhancement of real-time response to request for detached data analytics

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1145083A (ja) * 1998-05-06 1999-02-16 Hitachi Ltd 画像データ処理装置及びそれを用いたシステム
JP2003029979A (ja) * 2001-07-12 2003-01-31 Matsushita Electric Ind Co Ltd 信号処理装置、及び信号処理方法
JP2004362086A (ja) * 2003-06-03 2004-12-24 Matsushita Electric Ind Co Ltd 情報処理装置および機械語プログラム変換装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3579461B2 (ja) * 1993-10-15 2004-10-20 株式会社ルネサステクノロジ データ処理システム及びデータ処理装置
JP3532781B2 (ja) * 1999-02-12 2004-05-31 株式会社メガチップス 画像入力装置の画像処理回路
JP2002111989A (ja) * 2000-10-02 2002-04-12 Mega Chips Corp 画像処理回路
KR100410557B1 (ko) * 2001-11-19 2003-12-18 주식회사 하이닉스반도체 프로그램 수정 가능한 마이크로컨트롤러 및 구동방법
KR100771299B1 (ko) * 2003-06-26 2007-10-29 삼성전기주식회사 색 보간용 라인 버퍼 및 라인 데이터 제공 방법
JP4260696B2 (ja) * 2004-06-29 2009-04-30 富士通マイクロエレクトロニクス株式会社 固体撮像装置、イメージセンサ、画像処理装置、及び撮像方法
JP4640989B2 (ja) * 2006-01-12 2011-03-02 株式会社リコー 画像処理装置及び画像処理制御方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1145083A (ja) * 1998-05-06 1999-02-16 Hitachi Ltd 画像データ処理装置及びそれを用いたシステム
JP2003029979A (ja) * 2001-07-12 2003-01-31 Matsushita Electric Ind Co Ltd 信号処理装置、及び信号処理方法
JP2004362086A (ja) * 2003-06-03 2004-12-24 Matsushita Electric Ind Co Ltd 情報処理装置および機械語プログラム変換装置

Also Published As

Publication number Publication date
JP5121671B2 (ja) 2013-01-16
US20100110213A1 (en) 2010-05-06

Similar Documents

Publication Publication Date Title
US8904069B2 (en) Data processing apparatus and image processing apparatus
US8363893B2 (en) Object detection control apparatus, object detecting system, object detection control method, and computer program
US9460489B2 (en) Image processing apparatus and image processing method for performing pixel alignment
JP5679763B2 (ja) 半導体集積回路及び全周囲映像システム
JP5121671B2 (ja) 画像処理プロセッサ
JP2012128589A (ja) データ転送装置、データ転送方法、及び半導体装置
JP2015219592A (ja) 画像処理装置、撮像装置、及び画像処理方法
JP2010081024A (ja) 画像補間処理装置
JP2010176547A (ja) 画像処理装置に含まれる制御装置、制御方法、及び制御処理プログラム
JP5327482B2 (ja) 画像処理装置及び画像処理方法
JP5740949B2 (ja) データ転送装置、データ転送方法、及び半導体装置
JP2008172410A (ja) 撮像装置、画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JP4547321B2 (ja) 動きベクトル検出装置及び撮像装置
JP4970378B2 (ja) メモリコントローラおよび画像処理装置
JP7292961B2 (ja) 撮像装置およびその制御方法
JP7087187B2 (ja) ぶれ補正装置、撮像装置、監視システム、及びプログラム
KR101437021B1 (ko) 화상 처리 장치, 화상 처리 방법 및 기록 매체
JP2006211402A (ja) カメラ装置、画像処理方法
JP5583563B2 (ja) データ処理装置
US7558424B2 (en) Scene change determination device/method and data transfer device/method
JP5632997B2 (ja) 画像処理装置
JP2015154455A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2016134123A (ja) 画像処理装置、画像処理方法及びプログラム
JP6413385B2 (ja) 画像処理装置、撮像装置、及び画像データ出力方法
JP2009003632A (ja) 画像処理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120925

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121023

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 5121671

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151102

Year of fee payment: 3