JP2015508515A - 密結合低電力画像処理のための方法および装置 - Google Patents

密結合低電力画像処理のための方法および装置 Download PDF

Info

Publication number
JP2015508515A
JP2015508515A JP2014541392A JP2014541392A JP2015508515A JP 2015508515 A JP2015508515 A JP 2015508515A JP 2014541392 A JP2014541392 A JP 2014541392A JP 2014541392 A JP2014541392 A JP 2014541392A JP 2015508515 A JP2015508515 A JP 2015508515A
Authority
JP
Japan
Prior art keywords
image
camera core
processing engine
block
downstream processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014541392A
Other languages
English (en)
Other versions
JP6058687B2 (ja
Inventor
シェン、ジアン
チュア−オーアン、リュウ・ジー.
シャオ、イ−ピン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2015508515A publication Critical patent/JP2015508515A/ja
Application granted granted Critical
Publication of JP6058687B2 publication Critical patent/JP6058687B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/443Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading pixels from selected 2D regions of the array, e.g. for windowing or digital zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Input (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

画像が、N個のピクセルブロックに分割され、ブロックごとにカメラコアに記憶され、カメラコアからブロックごとに、ローカルメモリに対してローカルなダウンストリーム処理エンジンに転送される。ブロックごとの転送において、カメラコアとダウンストリーム処理エンジンとの間で直接のハンドシェーキングが通信される。場合によっては、光学センサースキャナが画像をフレームレートのN倍の走査レートで分割し、各走査がフレームのブロックを与える。場合によっては、ブロックごとの転送は、直接のハンドシェーキングによって制御される、カメラコアに対してローカルなローカルメモリを通る転送を含む。

Description

本開示の技術分野はビデオデータ通信および処理に関する。
いくつかのビデオシステムは、ビデオコーダ/デコーダ(VCODEC)とローカルメモリとを有するビデオ回路内のカメラコア(camera core)にビデオフレームを転送する光学センサーを有する。ビデオフレームは、コーディングおよび後続の処理のためにカメラコアから移り、最終的にVCODECに到達しなければならない。しかしながら、カメラコアおよびローカルメモリにはビデオフレームバッファとして機能するために十分な記憶容量がないので、カメラコアはビデオフレームをVCODECに直接ハンドオフすることができない。カメラコアにはまた、概して、ビデオフレームをVCODECに移すために必要とされるハンドシェーキング機能がない。ビデオ回路は、したがって、カメラコアからビデオフレーム全体を外部メモリにオフロードし、次いで、外部メモリからこれらのオフロードされたビデオフレームを取り出し、フレームをVCODECに入力する。ビデオフレームのオフロードおよび取出しは概してアプリケーションプロセッサによって制御される。しかしながら、外部メモリおよびアプリケーションプロセッサはそれぞれかなりの電力を消費する。
この電力を低減またはオフセットするための従来の手段および取り組みは、外部メモリ、およびカメラコアと外部メモリとの間のインターフェース回路をより極めて近接して配置すること、ならびにバス効率を高めるためにビデオフレーム転送のためにより高いバースト長を使用することを含む。従来の手段および取り組みはまた、バスおよびコアクロックのスケーリングを含む。従来の手段および取り組みは、電力消費を低減するが、外部メモリまたはアプリケーションプロセッサによる電力消費を除去しない。
本概要は、すべての企図された態様の概観ではなく、あるいはすべての実施形態またはそれらのすべての態様の範囲を定めるものでもない。それの唯一の目的はいくつかの例示的な概念を提示することであり、それらの概念のすべては、特に、本開示の後のセクションに記載した様々な例示的な実施形態のより詳細な説明からさらに理解されよう。
例示的な一実施形態によれば、画像処理の方法は、画像をカメラコアにおいて受信することと、次いで、カメラコアから画像をブロックベース(block basis)でダウンストリーム処理エンジンに転送することとを含み得、一態様では、ブロックベースでの転送は、カメラコアとダウンストリーム処理エンジンとの間で直接のハンドシェイク信号(direct handshake signals)を通信することを含み得る。
一態様では、カメラコアとダウンストリーム処理エンジンとの間で直接のハンドシェイク信号を通信することは、カメラコアとダウンストリーム処理エンジンとに結合された直接のハンドシェーキング経路(direct handshaking path)を介して行われ得る。
一態様では、画像をカメラコアにおいて受信することは、光学センサーにおいて画像を複数のN個のブロックに分割することと、N個のブロックの量をカメラコアとローカルメモリとのうちの少なくとも1つに同時に並行して(concurrently)記憶することとを含み得る。
一態様では、画像をカメラコアにおいて受信することは、光学センサーにおいて画像のN個の走査を実行することと、N個の走査の各々について、画像の少なくとも1つのブロックをカメラコアとカメラコアに関連するローカルメモリとのうちの少なくとも1つに転送することと、N個のブロックの量(quantity)をカメラコアとローカルメモリとのうちの少なくとも1つに同時に若しくは並行して(concurrently)記憶することとを含み得る。
例示的な一実施形態によれば、画像処理の方法は、画像の1つの走査を取得するために光学センサーを走査することと、画像の1つの走査の所与のNブロック分割のブロックを抽出することと、抽出されたブロックをカメラコアまたはカメラコアに関連するローカルメモリのうちの少なくとも1つに記憶することと、カメラコアまたはローカルメモリのうちの少なくとも1つから、1つの抽出されたブロックをダウンストリーム処理エンジンに転送することと、処理エンジンに画像を与えるために、走査すること、抽出すること、記憶すること、および転送することをN回繰り返すこととを含み得る。
一態様では、カメラコアまたはローカルメモリのうちの少なくとも1つから、1つの抽出されたブロックをダウンストリーム処理エンジンに転送することは、カメラコアとダウンストリーム処理エンジンとの間でハンドシェーキング信号(handshaking signal)を通信することを含む。
例示的な一実施形態によれば、画像プロセッサは、画像の1つの走査を取得するために光学センサーを走査するための手段と、画像の1つの走査の所与のNブロック分割のブロックを抽出するための手段と、抽出されたブロックをカメラコアまたはカメラコアに関連するローカルメモリのうちの少なくとも1つに記憶するための手段と、カメラコアまたはローカルメモリのうちの少なくとも1つから、1つの抽出されたブロックをダウンストリーム処理エンジンに転送するための手段であって、カメラコアまたはローカルメモリのうちの少なくとも1つから、1つの抽出されたブロックをダウンストリーム処理エンジンに転送することが、カメラコアとダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信することを含む、転送するための手段とを含み得る。
例示的な一実施形態によれば、画像プロセッサは、カメラコアと、データ相互接続を介して(over)カメラコアに結合されたダウンストリームプロセッサと、カメラコアとダウンストリームプロセッサとに結合された直接のハンドシェーキング経路とを含み得、一態様では、カメラコアは、所与のビデオフレームを受信することと、ビデオフレームをN個のピクセルブロックとしてダウンストリームプロセッサに転送することと、直接のハンドシェーキング経路を通して各ピクセルブロックの転送を制御することとを行うように構成され得る。
例示的な一実施形態によれば、コンピュータプログラム製品は、画像の1つの走査を取得するために光学センサーを走査することを少なくとも1つのコンピュータに行わせるためのコードと、画像の1つの走査の所与のNブロック分割のブロックを抽出することを少なくとも1つのコンピュータに行わせるためのコードと、抽出されたブロックをカメラコアまたはカメラコアに関連するローカルメモリのうちの少なくとも1つに記憶することを少なくとも1つのコンピュータに行わせるためのコードと、カメラコアまたはローカルメモリのうちの少なくとも1つから、1つの抽出されたブロックをダウンストリーム処理エンジンに転送することを少なくとも1つのコンピュータに行わせるためのコードと、処理エンジンに画像を与えるために、走査すること、抽出すること、記憶すること、および転送することをN回繰り返すことを少なくとも1つのコンピュータに行わせるためのコードとを備えるコンピュータ可読媒体を含むことができる。
例示的な一実施形態によれば、画像プロセッサは、画像を受信するための手段、および受信された画像の少なくとも一部分を記憶するための手段を有するカメラコアと、カメラコアから画像をブロックベースでダウンストリーム処理エンジンに転送するための手段であって、転送することが、カメラコアとダウンストリーム処理エンジンとの間のハンドシェーキング信号の通信を含む、転送するための手段とを含み得る。
付属文書において見つけられる添付の図面は、本発明の実施形態の説明において助けとなるように提示され、実施形態の限定ではなく、実施形態の例示のみのために与えられるものである。
1つの例示的な関連技術のビデオフローおよびビデオシステムを示す図。 例示的な一実施形態による、ダウンストリームプロセッサ転送システムへの1つのビデオダイレクトカメラと、ダウンストリームプロセッサブロック転送への1つの例示的なダイレクトビデオカメラとの機能ブロック図。 様々な例示的な実施形態による、ビデオフレームをN個のピクセルブロックに分割する一例と、ピクセルブロックのダウンストリームプロセッサ転送への対応するダイレクトカメラの流れ図。 例示的な一実施形態による、1つの例示的なパーソナルコンピューティングデバイスの機能ブロック図。
本発明による特定の例示的な実施形態の以下の説明および関連する図面において、本発明の態様が開示される。これらの特定の例示的な実施形態は、当業者が様々な概念をさらに理解するのを支援するためのもの、および本開示からそのような当業者に明らかになり得る様々な実施形態または代替実施形態のいずれかにおいて本発明を実施するためのものにすぎないことを理解されよう。
本明細書で使用する用語は、特定の実施形態について説明するためのものにすぎず、本発明の実施形態、またはそれの態様の範囲を限定するものではない。さらに用語に関して、「例示的」という単語は、本明細書では、「例、事例、または例示の働きをすること」を意味するために使用する。本明細書で「例示的」と記載されたいかなる実施形態も、必ずしも他の実施形態よりも好ましいまたは有利であると解釈すべきではない。同様に、「本発明の実施形態」という用語は、本発明のすべての実施形態が、説明する特徴、利点または動作モードを含むことを必要としない。
さらに、単数形「a」、「an」および「the」は、文脈が別段に明確に示すのでなければ、複数形をも含むものとする。さらに、本明細書で使用する「備える(comprises)」、「備えている(comprising)」、「含む(includes)」、および/または「含んでいる(including)」という用語は、述べられた特徴、整数、ステップ、動作、要素、および/または構成要素の存在を明示するが、1つまたは複数の他の特徴、整数、ステップ、動作、要素、構成要素、および/またはそれらのグループの存在または追加を排除しないことを理解されよう。
さらに、いくつかの実施形態では、たとえば、コンピューティングデバイスの要素によって実行され得る一連のアクションに関して説明する。本明細書で説明する様々なアクションは、特定の回路(たとえば、特定用途向け集積回路(ASIC))によって、1つまたは複数のプロセッサによって実行されるプログラム命令によって、あるいは両方の組合せによって実行され得ることを認識されよう。さらに、本明細書で説明するこれらの一連のアクションは、実行時に、コンピュータまたは関連するプロセッサに本明細書で説明する機能を実行させるコンピュータ命令の対応するセットを記憶した任意の形態のコンピュータ可読記憶媒体内で全体として実施されるべきものと見なされ得る。したがって、本発明の様々な態様は、すべてが添付の特許請求の範囲の範囲内に入ることが企図されているいくつかの異なる形態で実施され得る。さらに、本明細書で説明する実施形態の各々について、任意のそのような実施形態の対応する形式について、本明細書では、たとえば、説明するアクションを実行する「ように構成された論理」として説明することがある。
情報および信号は、多種多様な技術および技法のいずれかを使用して表され得ることを当業者は諒解されよう。たとえば、上記の説明全体にわたって言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、およびチップは、電圧、電流、電磁波、磁界または磁性粒子、光界、電子スピン粒子、電子スピン、あるいはそれらの任意の組合せによって表され得る。
さらに、本明細書で開示する実施形態に関連して説明する様々な例示的な論理ブロック、モジュール、回路、およびアルゴリズムステップは、電子ハードウェア、コンピュータソフトウェア、または両方の組合せとして実装され得ることを、当業者は諒解されよう。ハードウェアとソフトウェアのこの互換性を明確に示すために、様々な例示的な構成要素、ブロック、モジュール、回路、およびステップについて、概してそれらの機能に関して説明する。当業者が諒解するように、そのような機能がハードウェアとして実装されるか、ソフトウェアとして実装されるか、または組合せとして実装されるかは、特定の適用例および全体的なシステムに課された設計制約に依存する。当業者は、説明する機能を特定の適用例ごとに様々な方法で実装し得るが、そのような実装の決定は、本発明の範囲からの逸脱を生じるものと解釈すべきではない。
本明細書で開示する実施形態と関連して説明する方法、シーケンスおよび/またはアルゴリズムは、ハードウェアで直接実装されるか、プロセッサによって実行されるソフトウェアモジュールで実装されるか、またはそれらの2つの組合せで実装され得る。ソフトウェアモジュールは、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROM(登録商標)メモリ、レジスタ、ハードディスク、リムーバブルディスク、CD−ROM、または当技術分野で知られている任意の他の形態の記憶媒体中に常駐し得る。例示的な記憶媒体は、プロセッサが記憶媒体から情報を読み取り、記憶媒体に情報を書き込むことができるように、プロセッサに結合される。代替として、記憶媒体はプロセッサに一体化され得る。
したがって、本発明の様々な実施形態は、本実施形態に従ってプロセスを実行すること、またはプロセスを実行するように他の構造を制御することをコンピュータに行わせる命令を実施するコンピュータ可読媒体を含むか、あるいはそのコンピュータ可読媒体を使用して実施され得る。したがって、本発明は、図示の例に限定されるものではなく、本明細書で説明する機能を実行するための任意の手段が本発明の実施形態に含まれる。
関連技術の図1に、光学センサー103をインターフェースし、マルチメディアファブリック112によって相互接続されたカメラコア104とローカルメモリ(local memory)106とビデオコーダ/デコーダ(VCODEC)108と3Dプロセッサ110とを有する、従来のビデオ回路102を有する従来のビデオシステム100を示す。従来のビデオ回路102はまた、マルチメディアファブリック(multimedia fabric)112に接続し、アプリケーションプロセッサ116と外部メモリコントローラ118とを相互接続する、アプリケーション(または「アプリ」)ファブリック(application (or “apps”) fabric)114を有する。外部メモリコントローラ118は、以下でより詳細に説明するように、外部メモリ120(たとえば、外部DDR)とインターフェースし、外部メモリ120へのデータのオフロードと外部メモリ120からのデータの取出しとを制御する。
引き続き図1を参照すると、従来のビデオシステム100において、外部光学センサー103は、光ピクセルセンサーのM行×N列ピクセルアレイ(別個に図示せず)であり得る。従来のビデオシステム100のある動作では、光学センサー103は一連のラスタ走査を実行し、各ラスタ走査は、(以下で代替的に「生ビデオフレーム(raw video frame)」と呼ぶ)M×Nピクセルフレームを生成する。ラスタ走査レートは、毎分FSフレームのフレームレートで生ビデオフレームを生成する、毎分FSラスタ走査であり得る。従来のビデオ回路102は、光学センサー103からフレームレートFSで受信した生ビデオフレームをカメラコア104に入力する。カメラコア104は、次いで、クロップ(crop)およびブロックおよび輝度など、各フレームに対して単純なフォーマッティング機能を実行して、本明細書で「フォーマット済み生フレーム(formatted raw frames)」と呼ぶものを生成する。より実質的でより高い計算負荷動作(computational burden operations)、たとえばビデオ圧縮または3D処理は、デコーダVCODEC108および/または3Dプロセッサ110などのダウンストリームプロセッサによって実行される。
引き続き図1を参照すると、それの限られたメモリスペースにより、カメラコア104は実質的に2つ以上のフレームを保持することができない。また、長い間知られているように、カメラコア104と、マルチメディアファブリック112と、ダウンストリームプロセッサ(たとえば、VCODEC108または3Dプロセッサ110)とのアーキテクチャにより、カメラコア104は、多くのアプリケーションにおいて使用されるフレームレートFSに対応するのに十分なレートでフォーマット済み生フレームをこれらのダウンストリームプロセッサに直接転送することが実行不可能になる。
図1などに示す従来のビデオシステムの上記で説明した制限に対する知られている解決策は、データフローOFFLOADによって示され、それに続いて、その外部メモリからのフォーマット済み生フレームの制御された取出しと、選択されたダウンストリームプロセッサ、たとえば、従来のビデオ回路102の内部のVCODEC108へのこれらのフレームの順序付き入力とを伴うデータフローRTRVによって示されるように、例示的なアプリケーションプロセッサ116およびメモリコントローラ118などのプロセッサリソースが、例示的な外部メモリ120などの外部メモリへのフォーマット済み生フレームのオフロードを実行することである。図1に示すOFFLOADは、データカメラコア104からマルチメディアファブリック112を通り、アプリファブリック114およびメモリコントローラ118を通って外部メモリ120に到達することができる。RTRVは、実質的に逆方向であり得、すなわち、外部メモリ120から、外部メモリコントローラ118を通り、アプリファブリック114およびマルチメディアファブリック112を通ってVCODEC108に到達することができる。上記のように、アプリケーションプロセッサ116は、VCODEC108(または別の選択されたダウンストリームプロセッサ、たとえば3Dプロセッサ110)にフォーマット済み生フレームデータを順序付き入力として与えるように取出しおよびデータフローRTRVを制御し、その順序は、そのVCODEC108または他のダウンストリームプロセッサと、それが実行している特定の動作とに特有である。アプリケーションプロセッサ116によって実行される制御は、VCODEC108または他のダウンストリームプロセッサによって必要とされるハンドシェーキング信号を通信することを含むことができる。
しかしながら、カメラコア104の限られた記憶域、およびカメラコア104とダウンストリームプロセッサ(たとえば、VCODEC108)との間の限られた転送能力に対するこの上記で説明した既知のオフロードおよび取出しの解決策はかなりの電力を消費する。このかなりの電力消費の要因としては、たとえば、アプリケーションプロセッサ116ならびに外部メモリコントローラ118、さらに外部メモリ120がある。さらに、電力は外部メモリ120よって消費される。
本開示から理解されるように、例示的な実施形態は、様々な特徴および利益の中でも、これらの上記で説明したオフロードおよび取出し動作の除去と、したがって、たとえば、これらの動作を実行する際のアプリケーションプロセッサ116による上記で説明した電力消費の除去とを実現する。さらに、当業者なら本開示から諒解するように、例示的な実施形態は、ビデオ回路102の内部のメモリの実質的増加を必要とせずに、これらおよび他の特徴および利益を提供する。
本明細書で使用する用語に関して、「ダウンストリームプロセッサ(downstream processor)」および「ダウンストリーム処理エンジン(downstream processing engine)」という用語は、互換的に使用され、それは、意図された意味の変更を伴うことなしに一方が他方の代わりに使用され得ることを意味する。
さらに、本明細書で使用する用語に関して、以下において、異なる意味を有するものとして明示的に述べられているか、または異なる意味を有することが文脈から明らかになる場合を除いて、「VCODEC」という用語は、「VCODECまたは他のダウンストリームプロセッサ、たとえば、限定はしないが、3Dプロセッサ」を意味することを理解されよう。同様に、以下において、異なる意味を有するものとして明示的に述べられているか、または異なる意味を有することが文脈から明らかになる場合を除いて、「ダウンストリームプロセッサ」および「ダウンストリーム処理エンジン」という用語は、「VCODEC」、「3D」または他の特定の画像処理機能を具陳する文脈をもたずに単独では、「限定はしないが、VCODEC、3Dプロセッサ、あるいは画像処理を実行するために専用のまたは実行するために構成可能な任意の他の画像プロセッサなどの、ダウンストリームプロセッサ」を意味することを理解されよう。
さらに、以下において、別段に明示的に述べられているか、または異なる意味を有することが文脈から明らかになる場合を除いて、「ビデオ」および「画像」という用語は、交換可能であり、それは、意図された意味の変更を伴うことなしに一方が他方の代わりに使用され得ることを意味することを理解されよう。
また、以下において、別段に明示的に述べられているか、または異なる意味を有することが文脈から明らかになる場合を除いて、「フレーム」、「ピクセルフレーム」、および「ビデオフレーム」という用語は、交換可能であり、それは、意図された意味の変更を伴うことなしにいずれかが他の代わりに使用され得ることを意味することを理解されよう。
例示的な一実施形態によるビデオ回路または方法では、カメラコアと、ローカルメモリと、VCODECなどのダウンストリームプロセッサとが与えられ、マルチメディア経路、たとえば、マルチメディアバス、ファブリックまたは他のデータ相互接続(data interconnect)によって相互接続され、カメラコアとVCODECとの間に直接のハンドシェイク経路を備え得る。一態様では、カメラコアは、カメラコアからVCODECへの(本明細書では代替的に画像の「ブロックごとの」転送と呼ぶ)画像のブロックベースでの転送を実現し、制御するために、直接のハンドシェイク経路を介してハンドシェーキング信号を通信(たとえば、生成、送信および受信)するように構成され得る。この態様に加えて、カメラコアは、VCODECが画像データを受信し、処理するために必要なハンドシェーキング信号を直接のハンドシェイク経路を介してVCODECに通信しながら、マルチメディア経路を介したVCODECへの画像のブロックごとの転送を実行するように構成され得る。
一態様では、光検出器ピクセルのX行×Y列アレイを有する光学センサーが、例示的な実施形態に従ってビデオ回路とインターフェースする。一態様では、光学センサーは、公称フレームレートFSの倍数である、たとえば整数N倍であるレートで光検出器ピクセルのそれのX行×Y列アレイのラスタ走査を実行するように構成され得る。さらなる一態様では、これらのラスタ走査の各々は、すべてのX×Yピクセルを有するフレーム全体の代わりに、ピクセルのブロックのみを送り得る。この態様による一例では、ラスタ走査の各々が、フレームのピクセルの1/Nのクロップおよびブロックの結果を有する画像ブロックをビデオ回路に出力し得るように、クロップおよびブロック機能が光学センサーにおいて提供されるか、または光学センサーに関連付けられ得る。図3を参照してより詳細に説明するように、各画像ブロックはX×Yピクセルのフレーム内の「タイル」に対応し得る。別の例では、クロップおよびブロックは、光学センサーから省略され得、代わりに、カメラコアの内部で実行される低複雑度処理中に含まれ得る。
上記で導入された態様の一例として、1つまたは複数の例示的な実施形態による1つの実施では、Nは16などの整数に設定され得、光学センサーは、16×公称フレームレートFSのレートでそれのX×Y光検出器ピクセルのラスタ走査を実行するように構成され得る。16のNの例を仮定すると、クロップおよびブロックは、これらのラスタ走査の各々が画像のN個のブロックのうちの異なる1つを出力し(各ブロックは代替的に「画像ブロック」または「タイル」と呼ばれる)、各画像ブロックまたはタイルがX・Y/16ピクセルであるように、光学センサー中に含まれ得る。したがって、もしN=16であり、画像ブロック間に重複がないこと(これは、例示的な実施形態を実施する際に採用されてもよく、または省略されてもよい)を仮定すると、光検出器ピクセルのそれのX×Yアレイの光学センサーによる16個のラスタ走査は、画像データの一連の16個の画像ブロック若しくは画像ブロックの連続として、X×Yピクセルの1フレームをカメラコアに送ることになる(succession of N scan frames)。16のNは一例にすぎず、当業者なら本開示から諒解するように、Nの実際の値は、適用例固有であり得るが、たとえば、後のセクションにおいてより詳細に説明するように、特定のカメラコアの特性(たとえば、データバッファ容量)、およびカメラコアとVCODECとを相互接続するビデオ回路の内部の特定のデータパス(たとえば、マルチメディアファブリック)の特性に基づいて、そのような当業者によって容易に判断され得ることを理解されよう。
上記で導入され、後のセクションにおいてより詳細に説明する例示的な実施形態によれば、ビデオ回路は、たとえば、マルチメディアファブリックまたは等価な手段によって相互接続されたカメラコアとVCODECとを備え得、一態様では、ビデオ回路は、カメラコアとVCODECとの間に直接のハンドシェイク経路をさらに含み得る。この態様に加えて、カメラコアは、VCODECに画像を転送するために必要なハンドシェーキング信号を直接のハンドシェイク経路を介して通信することと、VCODECが画像データを受信し、処理するために必要とされるハンドシェーキング信号を直接のハンドシェイク経路を介して通信しながら、VCODECに画像データを、たとえば、マルチメディア経路を介して転送することとを行うように構成され得る。
一態様では、例示的な実施形態によるビデオ回路のカメラコアは、ビデオ回路の内部の小さいローカルメモリを使用してX×Yピクセルフレームの画像ブロックをダウンストリームプロセッサに転送し得、カメラコアとVCODECとの間のハンドシェーキング経路を利用してローカルメモリからVCODECへの画像ブロックの転送を制御し得る。
一態様では、X×Yピクセルフレームのブロックごとの転送は、N×FSにおいてラスタ走査を実行する光学センサーを含み得る光学センサーにおいて、X×YピクセルフレームをN個のピクセルブロックに初期セグメント化または分割することを含み得、ただし、FSはフレーム毎秒のフレームレートであり、各ラスタ走査において、各X×Yビデオフレームがそれらにセグメント化または分割された(それぞれX・Y/N個のピクセルをもつ)N個の画像ブロックまたはタイルのうちの異なる1つを送る。このN×FS(または「N・FS」)レートラスタ走査の特徴は、関連技術の図1に関する外部メモリへのビデオフレームのオフロードと外部メモリからの取出しとを用いることなしに、したがって、そのような動作のための電力消費なしに、本開示を読むことによって理解されるように、使用可能なフレームレートFSで光学センサーからカメラコアへのビデオフレームのフローを与えるために、カメラコアからダウンストリーム画像プロセッサへの画像ブロックの本実施形態のブロックごとの転送と組み合わせられ得る。
一態様では、カメラコアは、レイテンシバッファまたは等価なデータストレージを含み得、そのレイテンシバッファまたは他のデータストレージの充填状態を検出または監視するための手段を含み得る。さらなる一態様では、カメラコアは、データ利用可能性を示し(すなわち、レイテンシバッファは、ブロックごとの転送を開始するために光学センサーからの十分な画像データを有する)、カメラコアのレイテンシバッファにおけるオーバーフローを防ぐために、レイテンシバッファの検出された充填状態に基づいて、それの直接のハンドシェイク信号を生成し、ダウンストリーム画像プロセッサと通信するように構成され得る。関係する態様では、カメラコア中のレイテンシバッファの追加または代替として、例示的な実施形態によるビデオ回路は、レイテンシバッファまたは等価なデータストレージを備えた、内部マルチメディアファブリックまたは等価物によってカメラコアとダウンストリームビデオプロセッサとに結合された前述のローカルメモリなど、内部ローカルメモリを有し得る。この関係する態様に加えて、カメラコアは、ローカルメモリのレイテンシバッファの充填状態を検出または監視することと、その検出または監視された充填状態に少なくとも部分的に基づいて直接のハンドシェイク信号を生成し、通信することとを行うように構成され得る。
図2に、ビデオ回路202が光学センサー250をインターフェースする例示的な環境における、例示的な一実施形態によるビデオ回路202を有するシステムの1つの例示的な機能ブロック図200を示す。光学センサー250は、プログラム可能な走査レートで光検出器ピクセル(個々に図示せず、以下で「検出器ピクセル」と呼ぶ)を走査し、「走査の開始」および「走査の終了」フォーマットを有する対応するデータストリームを出力する回路(具体的に図示せず)をもつ、光検出器ピクセルのQ行×R列アレイを有する従来のピクセルアレイ光学センサーであり得るが、必ずしもそのようなピクセルアレイ光学センサーであるとは限らない。ラベル「Q」および「R」は、固有の意味を有しない恣意的な参照ラベルにすぎず、任意の他の参照ラベル、たとえば、「X」および「Y」がそれらの代わりに使用され得ることを理解されよう。例示的な実施形態に関係する当業者は、例示的な実施形態に従って実施するために、本開示に鑑みて市販のまたは他の従来技術のピクセルアレイ光学センサーを設計し、構築するか、あるいは選択し、構成するための、従来のピクセルアレイ光学センサー技術の知識を有し、および/または従来のピクセルアレイ光学センサーと同ピクセルアレイ光学センサーを供給する様々な商用ベンダーとの知識を有する。したがって、例示的な実施形態による実施に関する例示的な走査動作を除いて、光学センサー250についての詳細な説明を省略する。ビデオ回路202は、たとえば、内部マルチメディアファブリックまたはバス210によって相互接続された、カメラコア204と、ビデオコーダ/デコーダ(VCODEC)206および3Dプロセッサ208などのダウンストリームプロセッサとを含み得る。一態様によれば、ビデオ回路202は、カメラコア204と、ダウンストリームプロセッサのうちの1つまたは複数、たとえば、VCODEC206および3Dプロセッサ208の一方または両方との間に、例示的な直接のハンドシェイク経路212Aおよび212Bなどの直接のハンドシェイク経路を含むか、またはそのような直接のハンドシェイク経路を形成するように構成され得、それらのダウンストリームプロセッサに、例示的な実施形態に従ってカメラコア204から画像データをブロックごとに直接転送することが望まれ得る。理解されるように、直接のハンドシェイク経路、たとえば、212Aおよび212Bのこの態様に加えて、ビデオ回路202内のダウンストリームプロセッサへのブロックごとの転送のカメラコア204による制御を行うと、212Aおよび212Bなどの直接のハンドシェイク経路は専用化され得る。
引き続き図2を参照すると、別段に明示的に述べられている場合、または異なる意味を有することが文脈から明らかになる場合を除いて、本明細書で使用する、カメラコア204からの「画像データの直接の転送」という用語は、以下(または図1の外部メモリ120)でさらに説明する、外部メモリ252などの外部メモリへのオフロードなしの、内部マルチメディアファブリック210または等価物などの内部経路を通る、カメラコア204または等価物によってまたはそれを通して制御される画像データの転送を包含することを理解されよう。また、「内部マルチメディアファブリック210または等価物などの内部経路」は、一態様によれば、カメラコア204または等価物からダウンストリームプロセッサへの、たとえば、例示的なビデオ回路202に示す「IMEM」214などのローカルメモリを通過することができるVCODEC206および/または3Dプロセッサ208への転送を包含し得ることを理解されよう。カメラコアからダウンストリームプロセッサへの画像データの直接の転送のこの態様による一例は、図2では、カメラコア204からIMEM214への転送DT1と、IMEM214からVCODEC206への転送DT2とを含むものとして示され、後のセクションにおいてより詳細に説明する。この態様に加えて、図2のIMEM214からVCODEC206または3Dプロセッサ208への転送DT2など、カメラコアからダウンストリームプロセッサへの画像データの直接の転送において、画像データは、直接のハンドシェイク信号経路212Aまたは212Bを介したカメラコア204とVCODEC206または3Dプロセッサ208との間のハンドシェーキング信号の同時通信とともにマルチメディアファブリック210または等価物を通過し得る。
さらに図2を参照すると、内部マルチメディアファブリック210の構造およびプロトコルに関して、これらは必ずしも本実施形態に特有であるとは限らないことを理解されよう。見方を変えれば、当業者が所有するノウハウを本開示に適用するそのような当業者は、例示的な実施形態に従って実施するために、現在の標準の内部マルチメディアファブリック210または等価物を構成するために従来のプロトコルおよび相互接続の仕様の中から容易に選択することができる。したがって、内部マルチメディアファブリック210の委細についてのさらに詳細な説明を省略する。さらに、そのような当業者は、本開示に鑑みて、例示的な実施形態に従って実施するために、カメラコア204およびVCODEC206などの機能ブロックの相互接続のために、後で開発され得るファブリック、バス、および他の相互接続を容易に適応させることができる。また、本実施形態は、「バス」または「ファブリック」の意味内にある(カメラコア204およびVCODEC206などの)機能ブロックの相互接続に限定されないことを理解されよう。
引き続き図2を参照すると、ビデオ回路202は、たとえばアプリケーションファブリック256によって内部マルチメディアファブリック210に接続され得るアプリケーションプロセッサ254を含み得るが、本開示から理解されるように、例示的な実施形態による実施では省略し得る。例示的な機能ブロック図200中のビデオ回路202はまた、メモリコントローラ258を有し、外部メモリ252とインターフェースするものとして示されている。とはいえ、メモリコントローラ258および外部メモリ252、またはそのようなデバイスの使用は、例示的な実施形態による実施では省略され得る。したがって、アプリケーションプロセッサ254、アプリケーションファブリック256、メモリコントローラ258、および外部メモリ252についてのさらに詳細な説明を省略する。
例示的な一実施形態によれば、図2の機能ブロック図200によるシステムまたは方法は、一態様では、前に説明したように、検出器ピクセルのQ×Rアレイを有する光学センサー250を採用し得る。一態様では、光学センサー250は、所与のフレームレートFSの整数N倍においてQ×R検出器ピクセルのラスタ走査を実行するように構成され得る。一態様では、光学センサー250は、ラスタ走査の各々において、ブロックのみ、たとえば検出器ピクセルのそれのQ×Rアレイの1/Nを走査することが可能な「クロップおよびブロック」または等価な機能を含み得る。図3を参照して後でより詳細に説明するように、そのようなクロップおよびブロックまたは等価な動作を使用して、光学センサー250は、検出器ピクセルのそれのQ×Rアレイを、各タイルがQR/Nピクセルを有するN個のタイルのテッセレーションされた(tessellated)パターンとして走査し得る。一例として、不要な算術的複雑さなしに説明に集中するために、例示的な光学センサー250は検出器ピクセルのQ×Rアレイを有し得、QおよびRは1024(すなわち1K)の例示的な値を有し、Nは16の例示的な値に設定される。クロップおよびブロックまたは等価物が光学センサー250内で実行されると仮定すると、各ラスタ走査は、したがって、256×256すなわち64K個のピクセルのブロックを生成し、カメラコア204に送ることになる。例について説明する際の算術的複雑さを最小限に抑えるためのものにすぎないこれらの値の被整除性を除いて、QおよびRのこれらの値は恣意的であることを理解されよう。Nの例示的な値は、部分的に恣意的であり、当業者なら本明細書から理解するように、1つの例示的なブロックサイズとして64Kピクセルを示すように選択されたものである。
上記で説明したクロップおよびブロックまたは等価な機能を実行するように従来のQ×R光学センサーを構成するための一般的な方法および手段は概して知られており、したがって、さらに詳細な説明を省略する。本実施形態は、光学センサー250内でクロップおよびブロックまたは等価な機能を実行することに限定されないことを理解されよう。後のセクションにおいてより詳細に説明する別の態様では、カメラコア204は、光学センサー250からフレーム全体を受信し、次いで、例示的な実施形態に従って、フレームの各々をブロック方式でN個のブロックとしてダウンストリームプロセッサに転送するように構成され得る。また、この他の態様によれば、後のセクションにおいてより詳細に説明するように、カメラコア204はレイテンシバッファ(明示的に図示せず)を用いて構成され得る。さらに、カメラコア204は、ダウンストリームプロセッサへのブロック転送(block transfer)によって空にされた空間に光学センサー250からの新しいフレームデータを記憶するようにレイテンシバッファを管理するように構成され得る。さらに、本開示に基づいて、各ラスタ走査においてQ×R光学センサーの1/Nのブロックのみを走査するかあるいは場合によっては選択または抽出するための代替手段および方法が当業者に明らかになり得る。一例として、ブロック選択バッファ(図中に明示的に図示せず)がビデオ回路202内に、たとえば、カメラコア204と、ビデオ回路202と光学センサー250との間のインターフェース(図示したが、別個に番号付けせず)との間に含まれ得る。そのようなブロック選択バッファは、光学センサー250によって実行されるラスタ走査の各々において、ピクセルのQ×Rフレーム全体を受信し(QおよびRの上記で説明した例示的な値を使用することは1Mピクセルフレームであり得る)、これらのピクセルのただ1つのQR/N=1M/16=64Kブロックをカメラコア204に転送し、残りを廃棄し得る。当業者なら、本開示を読むと、光学センサー250内のQ×R光学センサーまたは等価物からブロックを選択または抽出するためのそのような手段または方法を実装する回路を容易に選択、設計および/または構成し得る。
図2を参照し、説明のために識別された例示的な値Q=R=1024およびN=16を使用して、例示的な実施形態による方法およびシステムについての例示的なプロセスの説明を続けると、図2の機能ブロック図200による一例では、例示的なラスタ走査シーケンスは、1K×1K光学センサーの例示的なアレイの左上において光学センサーの256×256(64K)サブブロックまたはサブアレイ(別個に図示せず)を走査し、対応する64Kピクセルブロックを生成することによって開始し得る。64Kピクセルブロックは、次いで、カメラコア204に転送され得る。図2では、NBLKとして、この64Kピクセルブロック転送など、ピクセルブロック転送の一例を示している。光学センサー250とビデオ回路202との間のインターフェースの詳細と、カメラコア204へのNBLKピクセルブロック転送の関連する詳細とに関して、前に説明したように、各画素走査についての光学センサー250からのデータ出力は一般的な従来のラスタ走査出力フォーマットに従い得る。また、インターフェース回路は、選択された光学センサー250の回路と、カメラコア204に対して選択された回路とに特有になり得ることが、当業者なら容易に諒解されよう。本開示から、そのような当業者は、例示的な実施形態に従って実施するためにそのようなインターフェースおよびブロック転送動作を実行するための回路を容易に選択、構成および/または設計することができ、したがって、これらの機能についてのさらに詳細な説明を省略する。
Q=R=1024およびN=16の上記で説明した例示的な値を使用して、例示的な実施形態によるシステムおよびプロセスにおける1つの例示的な動作についてさらに説明し続けると、一態様では、カメラコア204はレイテンシバッファ(明示的に図示せず)を用いて構成され得る。説明のために、カメラコア204が、光学センサー250の各ラスタ走査において生成されたピクセルブロックのうちのM個を保持することができるレイテンシバッファを有する例を仮定する。Mの値に関して、当業者なら本開示から容易に理解するように、その値はピクセルブロックのサイズに依存し得、そのサイズは、QおよびRの値と併せて、Nの値に依存する。これらの条件を受けて、いくつかの例では、MはNに等しくなり得るが、他の例では、MはNよりも小さくなり得、さらに、MはNよりも大きくさえなり得ることが明らかである。言い換えれば、カメラコア204が、光学センサー250からの画像データのフレームの一部分のみを保持することが可能であり得るか、またはフレーム全体を保持することが可能であり得る実施形態が企図される。一態様では、カメラコア204は、レイテンシバッファの充填レベル(fill level)を検出することと、この検出に少なくとも部分的に基づいて、たとえば、212Aまたは212Bなどの直接のハンドシェイク経路を介して、ハンドシェイク信号を通信して、レイテンシバッファのオーバーフローを回避するレートにおいてダウンストリームプロセッサ(たとえば、VCODEC206または3Dプロセッサ208)への、記憶されたピクセルブロックの転送を実現することとを行うように構成され得る。カメラコア204中のそのようなレイテンシバッファと、それの充填状態を検出するための手段との特定の構造に関して、一般的なレイテンシバッファと、そのようなバッファの充填状態の検出とのための様々な構造および方法は、これらの実施形態に関係する処理技術における当業者に知られている。そのような当業者は、したがって、本開示を読むと、例示的な実施形態に従って実施するために、そのようなバッファリングおよび検出機能を実行するための回路を選択、構成および/または設計するためにこの一般的なノウハウを容易に適用することができ、したがって、そのような構造についてのさらに詳細な説明を省略する。
カメラコア204中のレイテンシバッファの上記で説明した態様の追加または1つの代替として、別の態様では、IMEM214などのローカルメモリが、光学センサー250の各ラスタ走査において生成されたピクセルブロックのうちの、たとえばS個を保持することができるレイテンシバッファ(明示的に図示せず)を有するように構成され得る。Sは、Mのように、ピクセルブロックのサイズ、すなわち、N、QおよびRに依存し得ることを理解されよう。さらなる一態様では、カメラコア204は、IMEM214中のそのようなレイテンシバッファの充填レベルを検出するかまたは場合によっては監視することと、そのような検出または監視に少なくとも部分的に基づいて、たとえば、212Aまたは212Bなどの直接のハンドシェイク経路を介して、ハンドシェイク信号を通信し、それによって、IMEM214のレイテンシバッファのオーバーフローを回避するレートにおいてIMEM214からダウンストリームプロセッサ(たとえば、VCODEC206または3Dプロセッサ208)への、記憶されたピクセルブロックの転送を実現することとを行うように構成され得る。IMEM214中のそのようなレイテンシバッファと、それの充填状態をカメラコア204が検出または監視するための手段との特定の構造に関して、レイテンシバッファとそのようなバッファの充填状態の検出とのための上記の様々な構造および方法のように、カメラコア204のレイテンシバッファ態様に関して前に説明した理由により、そのような構造についての詳細な説明は、例示的な実施形態に従って実施するために本開示を閲覧する当業者にとって必要でなく、したがって、省略される。
図2を参照すると、前に説明したように、機能ブロック図200による例示的なシステムにおいて、Q=R=1024およびN=16を使用すると、1つの例示的なNラスタ走査シーケンス内の第1のラスタ走査は、1K×1K光学センサーの左上の256×256ブロックを走査して64Kピクセルブロックを生成し得、このピクセルブロックは、NBLKとしてカメラコア204に転送され得る。一例では、カメラコア204中のレイテンシバッファ(図中に明示的に図示せず)の選択された構成と特定の状態とに依存し得るレイテンシの直後あるいはそのレイテンシの後に、カメラコア204は、DT1などによって表される転送において、この第1の64KピクセルブロックをIMEM214に転送し得る。さらに、DT1転送より前の時間において、またはさらにはDT1転送と重複する時間において、光学センサー250は、第2のラスタ走査を実行し、別の64Kブロックを別のNBLK転送としてカメラコア204に送り得る。1つの例示的なNラスタ走査シーケンス内の第2のラスタ走査は、たとえば、第1の256×256ブロックのすぐ右側にある、1K×1K光学センサーのアレイの上側の256×256ブロックを走査して、別のまたは第2の64Kピクセルブロックを生成し得る。再び、カメラコア204中のレイテンシバッファの選択された構成と特定の状態とに依存し得るレイテンシの直後あるいはそのレイテンシの後に、カメラコア204は、DT1などによって表される別の転送において、この第2の64KピクセルブロックをIMEM214に転送し得る。
図3における図式表現と、後のセクションにおける関係する説明とからさらに理解されるように、本例では、Q=R=1024およびN=16を使用すると、各タイルが64Kピクセルのブロックである、4つのタイルの4つの行を走査する、個々のピクセルを走査する代わりに、16個のラスタ走査がより高いレベルのラスタ走査として概念化され得る。そのようなものとして概念化され、光学センサー250のQ×R光学センサーピクセルのアレイを左から右、上から下への配向で閲覧すると、16個のラスタ走査のうちの第1の走査は、(左上隅にある64Kブロックとして前に説明した)左上隅にあるタイルのものであり得、16個の走査のうちの最後の走査は、右下隅にあるタイル(すなわち、64Kピクセルブロック)であり得る。また、光学センサー250によって実行される走査のこの順序、すなわち、左上から開始し、右下で終了することは、一例にすぎず、いかなる実施形態またはいかなる実施形態のいかなる態様の範囲をも限定するものでないことが理解されよう。たとえば、第1のラスタ走査は、光学センサー250を形成するQ×R検出器ピクセルアレイの右下にあるQR/Nピクセルブロックのものであり得る。当業者なら理解するように、前に説明したより高いレベルまたはタイル走査は、画像をN個のブロックに分割するものしても見なされ得る。
さらに図2の機能ブロック図200を参照し、Q=R=1024およびN=16を使用して例示的な構成を続けると、16個のラスタ走査の上記で説明したシーケンス、ならびに対応する16個のNBLK転送および対応する転送DT1中の一部において、IMEM214は、転送DT1を通してIMEM214が受信した64Kブロックを所望のダウンストリームプロセッサ、たとえば、VCODEC206に転送することを開始し得る。一例を示すために、所望のダウンストリームプロセッサがVCODEC206であると恣意的に仮定する。これらの転送の例は図2にDT2として示されており、一態様によれば、これらは、カメラコア204とVCODEC206との間の直接のハンドシェーキング信号通信、すなわち、直接のハンドシェイク経路212Aによって制御され得る。前に説明したように、一態様によれば、IMEM214は、レイテンシバッファ(図中に明示的に図示せず)を有し得、それのレイテンシバッファの充填状態を検出するための手段を有し得、関係する態様では、カメラコア204は、その状態を検出または場合によっては監視するように構成され得る。この態様に加えて、16の例示的なNを使用して、VCODEC206へのフレーム全体のブロックごとの転送を実施するために16個の転送DT2のシーケンスが実行され得る。16個の転送DT2のシーケンスのために必要とされる時間帯は、16個の転送DT1のシーケンスのために必要とされる時間帯と部分的に重複し得、その時間帯よりある量だけ遅れ得ることを理解されよう。また、内部マルチメディアファブリック210のために選択された特定の構成に応じて、転送DT1およびDT2は、内部マルチメディアファブリック210上で、たとえば、時分割多重化でインターリーブされ得ることを理解されよう。
図2を参照すると、転送のうちのN個が、光学センサー250によって生成されたQ×Rピクセルのフレームごとに実行されなければならないので、転送NBLK、転送DT1および転送DT2は、N×FRの平均転送レートを有するパイプラインとして見なされるかまたは概念化され得ることを理解されよう。また、カメラコア204およびIMEM214および、含まれる場合、これらの回路の(1つまたは複数の)レイテンシバッファは、NBLKとして転送される16個のピクセルブロックを生成する16個(または他のN個)のラスタ走査と、カメラコア204からIMEM214への16個(または他のN個)のDT1転送と、IMEM214からダウンストリームプロセッサ(たとえば、VCODEC206)への16個(または他のN個)のDT2転送との間のラグまたはレイテンシの融通性を有するように構成され得ることを、当業者なら容易に理解されよう。当業者が持つパケットバッファ管理の基本的ノウハウを有するそのような当業者なら、本開示に基づいて、そのような融通性を与えるために、カメラコア204およびIMEM214中の回路を選択、構成および/または設計するためにそのような一般的なノウハウを容易に適用することができ、したがって、これらの機能についてのさらに詳細な説明を省略する。
再び図2を参照すると、別の態様では、カメラコア204は、各々がQ×Rピクセルフレーム全体である完全なラスタ走査として光学センサー250から生フレームデータを受信するように構成され得る。この態様によれば、転送NBLKは、N×FSとは対照的に、フレームレートFSである。この態様に加えて、カメラコア204は、生フレームデータを1フレームまたはより大きい容量のレイテンシバッファ(図中に明示的に図示せず)に記憶することと、次いで、光学センサー250からの転送NBLKとして、各転送DT1によってレイテンシバッファ中で空にされた空間が、次のフレームからその量のピクセルデータを受信するために利用可能になるようなレイテンシとともに、レートN×FSで、N個の転送DT1を実行することとを行うように構成され得る。転送DT1から利用可能にされた(1つまたは複数の)空間に記憶することを含む、カメラコア204中のレイテンシバッファが光学センサー250からの新しいフレームデータを記憶するための(1つまたは複数の)特定の構造に関して、一般的なレイテンシバッファリングのための様々な構造および方法が、これらの実施形態に関係する当業者に知られており、本開示を閲覧したそのような当業者は、例示的な実施形態に従ってそのような態様を実施するために、レイテンシバッファリングを実装するためにそのような構造および方法を容易に選択し、構成することができる。
図3は、例示的な実施形態による方法およびシステムについての1つの例示的なプロセスの流れ図300である。流れ図300の特定の態様を示すために、いくつかの例について、図2の機能ブロック図200を参照して説明する。ただし、これは、特定の例を通して概念を示すためのものにすぎず、いかなる実施形態またはいかなる実施形態のいかなる態様の範囲をも限定するものでないことを理解されよう。
図3を参照すると、フレーム302は、1つの完全なQ×Rフレーム、たとえば、光学センサー250からのQ×Rピクセル検出器のすべてを表す。走査線304−1、304−2...304−j...304−N(「走査304」と総称する)はそれぞれ、一態様では、フレーム302ごとに実行される光学センサー250のN個の走査のうちの1つを表す。走査304の各々は、「走査フレーム」306と呼ぶことになるものを出力し、したがって、1つのQ×Rフレーム、または画像は、N個の走査フレームの連続またはシーケンスと見なされ得る。図2および図3を参照すると、各走査フレーム306からのデータは、図2に示された対応する1つの転送NBLKによって搬送され得る。図3は、このことを、各走査フレーム306が、その走査において取得されたN個のピクセルブロックのうちの特定の1つを表す、走査フレーム306−1内のピクセルブロック308−1などのピクセルブロックを備えるものとして示している。本開示を読んだ当業者なら諒解するように、ピクセルブロック308−1などのピクセルブロックは、代替的に「画像ブロック」とラベルをつけられ得る。
光学センサー250がピクセルブロックのクロップおよびブロック選択または抽出を実行する態様では、走査フレーム306はピクセルブロック308のみを含み得る。たとえば、これらの態様では、走査フレーム306−1に対応するNBLKはピクセルブロック308−1のみからなる。同様に、走査フレーム306−2に対応するNBLKはピクセルブロック308−2のみからなり得、走査フレーム306−jに対応するNBLKはピクセルブロック308−jのみを含み得、走査フレーム306−Nに対応するN番目のNBLKはピクセルブロック308−Nのみからなり得る。Q=R=1024およびN=16を使用した上記で説明した例では、走査フレーム306−1...306−Nの各々は、したがって、ピクセルブロック308−1...308−N(「画素ブロック308」と総称する)の64Kのみを有し得る。
さらに図3を参照すると、対照的に、カメラコア204または等価物が走査フレーム306上でピクセルブロックのクロップおよびブロック選択または抽出を実行する態様では、走査フレーム306の各々はQ×Rピクセルであり得る。ピクセルブロック308は、これらの態様に関して、カメラコア204または等価物において実行されるクロップおよびブロック選択または抽出を表す。図3の例示的なフロー300では、第1のラスタ走査304−1に対応する走査フレーム306−1は、それの左上にピクセルブロック308−1を有する。前に説明したように、これは、光学センサー250内の光学センサーのQ×Rアレイの左上におけるタイルとして概念化され得る。図3に示すように、連続する走査フレーム306がピクセルブロック308を取得し得る1つの例示的な順序は、タイルの左側から右側への「走査」を生成し、タイルの「最上」行の「左側」から開始し、「最上」行の「右側」で終了し、1つ下の行に移動し、「右下」タイルにおいて終了するまで、「左側」から「右側」への順序を繰り返すことである。図3のフロー300は、この例示的な順序の追加のスナップショットを、走査フレーム306−jのピクセルブロック308−jがフレーム302の中央または中心領域にあり、走査フレーム306−Nのピクセルブロック308−Nがフレーム302の右下にあるものとして示している。「左側」、「右側」、「上側」、「下側」、「最上」および「最下」のこれらの例示的な方向および配向は、相対的なものであり、必ずしもフレーム302内のピクセルの実際の位置または配向に対応するとは限らないことを理解されよう。
「順序」は、走査フレーム306がピクセルブロック308を抽出するフレーム302内のピクセルブロックのロケーションの進行を意味し、上記の例示的な順序は、一例にすぎず、いかなる実施形態の範囲、または実施形態のいずれかのいかなる態様の範囲をも限定するものでないことを理解されよう。たとえば、企図された一代替形態では、第2の走査フレーム306−2は、ピクセルブロック308−1に水平方向に隣接するのではなく、ピクセルブロック308−1から垂直方向にずれているかまたは対角的にずれていることがあるピクセルブロック308−2を抽出し得る。当業者なら本開示から理解するように、N個のピクセルブロック308の順序は、たとえば、VCODEC206によって使用される特定のコーディング方式に部分的に依存し得る。また、走査フレーム306は、N個のピクセルブロックがダウンストリームプロセッサ(たとえば、図2のVCODEC206または3Dプロセッサ208)によって必要とされる順序に対応するようにピクセルブロック308を抽出する順序を選定することが好ましいことがあることを、そのような当業者なら理解されよう。たとえば、そのような当業者なら本開示から容易に理解するように、ダウンストリームプロセッサによって必要とされる順序に対応しないピクセルブロック308のための選択または抽出の順序は、選択または抽出の順序がダウンストリームプロセッサの順序に対応した場合、たとえばカメラコア204またはIMEM214に、必要とされ得るよりも大きい数のN個のピクセルブロック308を記憶することを必要とし得る。
さらに図3を参照すると、ブロック転送310(たとえば、図示された310−1〜310N)はそれぞれ、図2のカメラコア204または等価物から図2のVCODEC206または3Dプロセッサ208などのダウンストリームプロセッサの入力312への、ピクセルブロック308のブロック転送(たとえば、308−jに対して310−j)を表す。一態様では、各ブロック転送310は、カメラコア204からIMEM214などのローカルメモリへのピクセルブロック308のDT1転送と、それに続いて、IMEM214または等価物からダウンストリームプロセッサへの同じピクセルブロックの対応するDT2転送とを含み得る。この一態様に加えて、各ブロック転送310は、DT2または等価な転送を実行するためにVCODEC206または他のダウンストリームプロセッサと直接のハンドシェイク信号を通信するカメラコア204、または等価物を含み得る。またさらにこの一態様に加えて、各ブロック転送310は、カメラコア204またはIMEM214内のレイテンシバッファ(図中に明示的に図示せず)の充填日を検出するかまたは場合によっては監視し、この検出および/または監視を使用してDT1および/またはDT2転送を制御するカメラコア204、または等価物を含み得る。
図4に、本開示の1つまたは複数の実施形態が有利に採用され得る例示的なワイヤレス通信システム400を示す。説明のために、図4には、3つのリモートユニット420、430、および450と、2つの基地局440とを示してある。従来のワイヤレス通信システムは、より多くのリモートユニットと基地局とを有し得ることを認識されよう。リモートユニット420、430、および450は、以下でさらに説明する本開示の実施形態のうちに入る半導体デバイス425、435および455を含む。図4は、基地局440とリモートユニット420、430、および450とからの順方向リンク信号480と、リモートユニット420、430、および450から基地局440への逆方向リンク信号490とを示している。
図4では、リモートユニット420は携帯電話として示され、リモートユニット430はポータブルコンピュータとして示され、リモートユニット450はワイヤレスローカルループシステム中の固定ロケーションリモートユニットとして示されている。リモートユニットは、たとえば、モバイルフォン、ハンドヘルドパーソナル通信システム(PCS)ユニット、個人情報端末などのポータブルデータユニット、(GPS対応デバイスなどの)ナビゲーションデバイス、セットトップボックス、音楽プレーヤ、ビデオプレーヤ、エンターテインメントユニット、メーター読取り機器などの固定ロケーションデータユニット、あるいはデータまたはコンピュータ命令を記憶するかまたは取り出す他のデバイス、あるいはそれらの任意の組合せのいずれかであり得る。図4は、本開示の教示によるリモートユニットを示すが、本開示はこれらの例示的な図示されたユニットに限定されない。開示するデバイスは、オンチップ電圧調整器をもつ半導体デバイスを含むどんなデバイスにおいても適切に採用され得る。
当業者なら諒解するように、本実施形態の特徴および利点は、特に、相互接続を通るトラフィックを低減することによる電力の低下と、外部I/Oへのアクセスの低減と、さらに、外部メモリによる電力消費量の低下とを含む。追加の特徴および利点は、限定はしないが、バストラフィックを低減し、外部メモリへのオフロードすることを除去することによるシステム並行性の改善と、図2のVCODEC206または3Dプロセッサ208によって実行されるダウンストリーム処理など、ダウンストリーム処理のレイテンシの低減とを含む。別の例示的な特徴は、上記で説明したより低い電力とより低いレイテンシとの利益が、少なくとも数メガバイトであり得る、従来のフレームバッファ、たとえば、関連技術の図1に示した外部メモリ120と比較して、たとえば、数百キロバイトの範囲内にあり得る、ビデオ回路の内部の小さいローカルメモリ、たとえば、IMEM214のみを使用して取得されることである。さらに別の例示的な特徴および利益は、カメラコアとダウンストリームプロセッサとの間の直接のハンドシェイク経路を様々な組合せおよび構成で有する例示的な実施形態を通して、ローカルメモリと、カメラ中のレイテンシバッファとにおいて、これらは小さい容量を有するにもかかわらず、オーバーフローが防止され得ることである。
上記の開示は本発明の例示的な実施形態を示しているが、添付の特許請求の範囲によって規定される本発明の範囲から逸脱することなく、本明細書において様々な変更および修正が行われ得ることに留意されたい。本明細書で説明した本発明の実施形態による方法クレームの機能、ステップおよび/またはアクションは、特定の順序で実行されなくてもよい。さらに、本発明の要素は、単数形で説明または請求されていることがあるが、単数形に限定することが明示的に述べられていない限り、複数形が企図される。
上記の開示は本発明の例示的な実施形態を示しているが、添付の特許請求の範囲によって規定される本発明の範囲から逸脱することなく、本明細書において様々な変更および修正が行われ得ることに留意されたい。本明細書で説明した本発明の実施形態による方法クレームの機能、ステップおよび/またはアクションは、特定の順序で実行されなくてもよい。さらに、本発明の要素は、単数形で説明または請求されていることがあるが、単数形に限定することが明示的に述べられていない限り、複数形が企図される。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[C1]
画像を処理する方法であって、当該方法は下記を具備する。
カメラコアにおいて前記画像を受信することと、及び、
前記カメラコアからダウンストリーム処理エンジンへ、ブロックベース上で前記画像を転送すること、ここにおいて、前記転送することは、前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信すること。
[C2]
前記転送することは、前記カメラコアに及び前記ダウンストリーム処理エンジンに結合されたローカルな相互接続上でN個の画像ブロックとして前記画像を転送する、C1に記載の方法。
[C3]
前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を前記通信することは、前記カメラコアに及び前記ダウンストリーム処理エンジンに結合された直接のハンドシェイキング経路上で行われる、C2に記載の方法。
[C4]
所与の順序に従う前記ダウンストリーム処理エンジンにおける画像処理をさらに備え、ここにおいて、前記転送することは、前記所与の順序に従って複数の画像ブロックのシーケンスとして前記画像を転送する、C1に記載の方法。
[C5]
前記ダウンストリーム処理エンジンは、ビデオコーダ/デコーダ(VCODEC)、グラフィックス処理ユニット(GPU)またはディスプレイである、C1に記載の方法。
[C6]
前記転送することは、前記カメラコアからローカルメモリにローカルな相互接続上で前記画像を送ることと、及び、前記ローカルメモリから前記ダウンストリーム処理エンジンに、前記ローカルな相互接続上で、複数の画像ブロックとしての前記画像を転送することとを含む、C1に記載の方法。
[C7]
前記転送することは、前記カメラコア、前記ローカルメモリ及び前記ダウンストリーム処理エンジンに結合されたローカルな相互接続上でローカルメモリに前記画像を転送すること、及び前記ローカルな相互接続上で前記ダウンストリーム処理エンジンに前記ローカルメモリからN個の画像ブロックとして前記画像を転送すること。
[C8]
前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーク信号を前記通信することは、前記ローカルメモリから前記ダウンストリーム処理エンジンにN個の画像ブロックとして前記画像を前記転送することに関連する、C7に記載の方法。
[C9]
前記カメラコアと前記ダウンストリーム処理エンジンとの間で複数の前記ハンドシェーク信号を通信することは、データ利用可能性を示す複数のハンドシェーク信号を通信することを含む、C8に記載の方法。
[C10]
前記カメラコアと前記ダウンストリーム処理エンジンとの間で複数の前記ハンドシェーク信号を通信することは、前記カメラコアに関連するバッファにおけるオーバーフローを防ぐことに基づく、C8に記載の方法。
[C11]
前記バッファは、前記ローカルメモリ中にまたは前記ダウンストリーム処理エンジン中にある、C10に記載の方法。
[C12]
前記カメラコアにおいて前記画像を受信することは、
光学センサーにおいて前記画像を生成することと、
N個の画像ブロックに前記画像を分割することと、
前記カメラコアに連続的に前記N個の画像ブロックを転送することと、及び、
前記カメラコア中に前記N個の画像ブロックの数を同時に記憶すること。
[C13]
Nが1〜20の範囲内にある、C12に記載の方法。
[C14]
前記カメラコア中の複数の前記画像ブロックの前記数は、Nよりも少ない、C12に記載の方法。
[C15]
前記カメラコアにおいて前記画像を受信することは、
光学センサーにおいて前記画像を生成することと、
複数のN個の画像ブロックに前記画像を分割することと、
前記カメラコアと前記カメラコアに関連するローカルメモリとのうちの少なくとも1つに連続的に前記複数の画像ブロックを転送することと、及び、
前記カメラコア及び前記ローカルメモリとのうちの少なくとも1つに前記N個の画像ブロックの量を同時に記憶することと
を備える、C1に記載の方法。
[C16]
前記ダウンストリーム処理エンジンに前記カメラコアからブロックベース上で前記画像を転送することは、前記ローカルダウンストリーム処理エンジンに、ローカルな相互接続上で、前記カメラコア及び前記ローカルメモリの少なくとも1つから、複数の前記画像ブロックを転送することを含む、C15に記載の方法。
[C17]
前記カメラコアにおいて前記画像を受信することは、
N個の走査を生成するために光学センサーにおいてN回前記画像を走査することと、
前記N個の走査の各々に関して、前記カメラコア及び前記カメラコアに関連するローカルメモリの少なくとも1つに前記画像の少なくとも1つの画像ブロックを転送することと、及び、
前記カメラコア及び前記ローカルメモリの少なくとも1つに前記N個の画像ブロックの量を同時に記憶することとを備える、C1に記載の方法。
[C18]
前記ダウンストリーム処理エンジンに前記カメラコアからブロックベースごとの上で前記画像を転送することは、前記ローカルダウンストリーム処理エンジンに、ローカルな相互接続上で、前記カメラコアと前記ローカルメモリとのうちの少なくとも1つから前記画像の複数の前記画像ブロックを転送することを含む、C17に記載の方法。
[C19]
処理エンジンに画像を転送する方法であって、当該方法は下記を具備する。
前記画像の1つの走査を取得するために光学センサーを走査することと、
前記画像の前記1つの走査の所与のNブロック分割の画像ブロックを抽出することと、
カメラコアまたは前記カメラコアに関連するローカルメモリのうちの少なくとも1つに、前記抽出された画像ブロックを記憶することと、
ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出された画像ブロックを転送することと、及び、
前記ダウンストリーム処理エンジンに前記画像を与えるために、前記走査すること、前記抽出すること、前記記憶すること、および前記転送することをN回繰り返すこと。
[C20]
ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出された画像ブロックを前記転送することは、前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信することを含む、C19に記載の方法。
[C21]
前記1つの抽出された画像ブロックを転送することは、前記ダウンストリーム処理エンジンに及び前記カメラコアおよび前記ローカルメモリのうちの少なくとも1つに結合されたローカルな相互接続上で前記抽出された画像ブロックを転送する、C20に記載の方法。
[C22]
前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信することは、前記カメラコアに及び前記ダウンストリーム処理エンジンに結合された直接のハンドシェイキング経路上で行われる、C21に記載の方法。
[C23]
前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つに前記抽出された画像ブロックを記憶することは、
前記カメラコアに前記抽出された画像ブロックを記憶することと、及び、
前記ローカルメモリに前記カメラコアから前記抽出された画像ブロックを転送することとを含む、C22に記載の方法。
[C24]
前記画像はビデオフレームであり、前記方法は、N×FSの走査レートにおいて前記走査することによって前記処理エンジンに複数の前記ビデオフレームのシーケンスを与えることと、及び、複数の前記ビデオフレームの各々について、FSのフレームレートにおいて複数の前記ビデオフレームの前記シーケンスを与えるレートにおいて、前記走査すること、前記抽出すること、前記記憶すること、および前記転送することをN回前記繰り返すことを実行することとをさらに備える、C20に記載の方法。
[C25]
下記を備える画像プロセッサ。
カメラコアと、
前記カメラコアにデータ相互接続上で結合されたダウンストリームプロセッサと、及び、
前記カメラコア及び前記ダウンストリームプロセッサに結合された直接のハンドシェイキング経路と、
ここにおいて、前記カメラコアは、ビデオフレームを受信すること、及び、前記ダウンストリームプロセッサに前記データ相互接続を介してN個のブロック転送によって前記ビデオフレームを転送することを備え、前記ブロック転送の各々は前記ビデオフレームのN個のピクセルブロックのうちの対応する1つを転送することと、前記直接のハンドシェイキング経路上で前記N個のブロック転送を制御すること。
[C26]
前記カメラコアは、N個の走査フレームの連続として前記ビデオフレームを受信するように構成された、C25に記載の画像プロセッサ。
[C27]
前記カメラコアは、前記N個のピクセルブロックのうちの対応する1つを前記N個の走査フレームの各々から抽出するように構成された、C26に記載の画像プロセッサ。
[C28]
前記ダウンストリームプロセッサは、ビデオコーダ/デコーダ(VCODEC)、グラフィックス処理ユニット(GPU)またはディスプレイのなかからのいずれかである、C25に記載の画像プロセッサ。
[C29]
前記データ相互接続に結合されたローカルメモリをさらに備え、
ここにおいて、前記カメラコア及び前記ローカルメモリは、前記データ相互接続上で前記ローカルメモリに前記カメラコアからピクセルブロックを転送することによって、および前記ダウンストリームプロセッサへ前記ローカルメモリから前記データ相互接続上での複数のブロック転送によって、前記ブロック転送を実行するように構成され、及び、
前記カメラコアは、前記直接のハンドシェイキング経路を通して前記ダウンストリームプロセッサへ前記ローカルメモリからの複数の前記ブロック転送を制御するように構成される。
[C30]
前記カメラコアは、前記ビデオフレームの少なくとも一部分を記憶するバッファを含み、ここにおいて、前記カメラコアは、前記バッファの充填レベルを検出すること、及び、前記検出された充填レベルに基づいて前記ダウンストリームプロセッサへの複数の前記ブロック転送を制御することを行うように構成された、C25に記載の画像プロセッサ。
[C31]
前記複数のブロック転送の前記制御は、前記検出された充填レベルに少なくとも部分的に基づき、前記検出された充填レベルに基づいて複数の直接のハンドシェイク信号を通信することを含む、C30に記載の画像プロセッサ。
[C32]
前記検出された充填レベルに基づく前記複数のブロック転送の前記制御は、前記バッファのオーバーフローを防ぐために前記複数のブロック転送を制御する、C30に記載の画像プロセッサ。
[C33]
前記画像プロセッサは少なくとも1つの半導体ダイに組み込まれる、C25に記載の画像プロセッサ。
[C34]
前記画像プロセッサがその中に組み込まれる、セットトップボックス、音楽プレーヤ、ビデオプレーヤ、エンターテインメントユニット、ナビゲーションデバイス、通信デバイス、携帯情報端末(PDA)、固定ロケーションデータユニット、およびコンピュータからなるグループから選択される、デバイスをさらに備える、C25に記載の画像プロセッサ。
[C35]
下記を備える画像プロセッサ。
前記画像の1つの走査を取得するために光学センサーを走査するための手段と、
前記画像の前記1つの走査の所与のNブロック分割のブロックを抽出するための手段と、
カメラコアまたは前記カメラコアに関連するローカルメモリのうちの少なくとも1つに、前記抽出することから得られた、抽出されたブロックを記憶するための手段と、及び、
ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出されたブロックを転送するための手段と、ここにおいて、前記ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出されたブロックを転送することは、前記カメラコアと前記ダウンストリーム処理エンジンとの間で複数のハンドシェーキング信号を通信することを含む。
[C36]
前記画像プロセッサが少なくとも1つの半導体ダイに組み込まれる、C35に記載の画像プロセッサ。
[C37]
前記画像プロセッサがその中に組み込まれる、セットトップボックス、音楽プレーヤ、ビデオプレーヤ、エンターテインメントユニット、ナビゲーションデバイス、通信デバイス、携帯情報端末(PDA)、固定ロケーションデータユニット、およびコンピュータからなるグループから選択されるデバイスをさらに備える、C35に記載の画像プロセッサ。
[C38]
下記を備えるコンピュータ可読媒体を有する、コンピュータプログラム製品。
画像をカメラコアにおいて受信することを少なくとも1つのコンピュータに行わせるためのコードと、
ダウンストリーム処理エンジンに、ブロックベース上で前記画像を転送すること、及び、前記カメラコアに及び前記ダウンストリーム処理エンジンに結合された直接のハンドシェイキング経路上で、前記カメラコア及び前記ダウンストリーム処理エンジンの間でハンドシェーキング信号を、ブロックベース上での前記転送に関連して、通信することとを少なくとも1つのコンピュータに行わせるためのコード。
[C39]
所与の順序に従って前記ダウンストリーム処理エンジンにおいて前記画像の処理を行わせるためのコードをさらに備え、及び、ここにおいて、ブロックベースで前記画像を転送することは、前記所与の順序に従って複数の画像ブロックのシーケンスとして前記画像を転送する、C38に記載のコンピュータプログラム製品。
[C40]
ブロックベース上で前記画像を転送することを少なくとも1つのコンピュータに行わせるための前記コードは、前記カメラコア、前記ローカルメモリ及び前記ダウンストリーム処理エンジンに結合されたローカル相互接続上でローカルメモリに前記画像を転送することと、前記ローカル相互接続上で前記ダウンストリーム処理エンジンに前記ローカルメモリから前記画像を転送することとを前記少なくとも1つのコンピュータに行わせる、C38に記載のコンピュータプログラム製品。
[C41]
前記ダウンストリーム処理エンジンへ前記ローカルメモリからの前記画像ブロックの転送は、前記カメラコアに及び前記ダウンストリーム処理エンジンに結合された直接のハンドシェーキング経路上で前記カメラコアと前記ダウンストリーム処理エンジンとの間で直接のハンドシェーク信号を通信することを含む、C40に記載のコンピュータプログラム製品。
[C42]
前記カメラコア及び前記ダウンストリーム処理エンジンの間で前記複数の直接のハンドシェイク信号を通信することは、前記カメラコアに関連するバッファ中のオーバーフローを防ぐことに基づく、C41に記載のコンピュータプログラム製品。
[C43]
前記画像を受信することを少なくとも1つのコンピュータに行わせるための前記コードは、
N個の走査を生成するために光学センサーにおいてN回前記画像を走査することを少なくとも1つのコンピュータに行わせるためのコードと、
前記N個の走査の各々について、前記カメラコア及び前記カメラコアに関連するローカルメモリのうちの少なくとも1つに前記画像の少なくとも1つのブロックを転送することを少なくとも1つのコンピュータに行わせるためのコードと、及び、
前記カメラコアと前記ローカルメモリとのうちの少なくとも1つに前記画像の前記ブロックのN個の量を同時に記憶することを少なくとも1つのコンピュータに行わせるためのコードとを備える、C38に記載のコンピュータプログラム製品。
[C44]
下記を備えるコンピュータ可読媒体を有する、コンピュータプログラム製品。
前記画像の1つの走査を取得するために光学センサーを走査することを少なくとも1つのコンピュータに行わせるためのコードと、
所与のNブロック分割に従って、前記画像の前記1つの走査の画像ブロックを抽出することを少なくとも1つのコンピュータに行わせるためのコードと、
カメラコアまたは前記カメラコアに関連するローカルメモリのうちの少なくとも1つに前記抽出された画像ブロックを記憶することを少なくとも1つのコンピュータに行わせるためのコードと、
ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出された画像ブロックを転送することを少なくとも1つのコンピュータに行わせるためのコードと、及び、
前記ダウンストリーム処理エンジンに前記画像を与えるために、N回、前記走査すること、抽出すること、記憶すること、および転送することを繰り返すことを少なくとも1つのコンピュータに行わせるためのコード。
[C45]
前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つに前記抽出された画像ブロックを記憶することを少なくとも1つのコンピュータに行わせるための前記コードは、
前記カメラコア中に前記抽出された画像ブロックを記憶することを少なくとも1つのコンピュータに行わせるためのコードと、及び、
前記ローカルメモリに前記カメラコアから前記抽出された画像ブロックを転送することを少なくとも1つのコンピュータに行わせるためのコードとを含む、C44に記載のコンピュータプログラム製品。
[C46]
下記を備える画像プロセッサ。
画像を受信するための及び前記画像の少なくとも一部分を同時に記憶するための手段を有するカメラコアと、及び、
ダウンストリーム処理エンジンに前記カメラコアからブロックベース上で前記画像を転送するための手段と、ここにおいて、前記転送することは、前記カメラコア及び前記ダウンストリーム処理エンジンの間でハンドシェーキング信号を通信することを含む。
[C47]
画像を記憶するための前記手段に関連する充填レベルを検出するための手段をさらに備え、ここにおいて、前記カメラコアと前記ダウンストリーム処理エンジンとの間で前記ハンドシェーク信号を通信することは、前記検出することに基づく、C46に記載の画像プロセッサ。
[C48]
前記画像プロセッサは少なくとも1つの半導体ダイに組み込まれる、C46に記載の画像プロセッサ。
[C49]
前記画像プロセッサがその中に組み込まれる、セットトップボックス、音楽プレーヤ、ビデオプレーヤ、エンターテインメントユニット、ナビゲーションデバイス、通信デバイス、携帯情報端末(PDA)、固定ロケーションデータユニット、およびコンピュータからなるグループから選択されるデバイスをさらに備える、C46に記載の画像プロセッサ。
[C50]
下記を備える、画像処理の方法。
カメラコアにおいて画像を受信するステップと、及び、
ダウンストリーム処理エンジンに前記カメラコアからブロックベース上で前記画像を転送するステップと、ここにおいて、前記転送することは、前記カメラコアに及び前記ダウンストリーム処理エンジンに結合された直接のハンドシェーキング経路上で前記カメラコア及び前記ダウンストリーム処理エンジンの間でハンドシェーキング信号を通信することを含む。
[C51]
処理エンジンに画像を転送する方法であって、当該方法は下記を具備する。
前記画像の1つの走査を取得するために光学センサーを走査するステップと、
前記1つの走査の所与のNブロック分割に従って前記画像の前記1つの走査の画像ブロックを抽出するステップと、
カメラコアまたは前記カメラコアに関連するローカルメモリのうちの少なくとも1つに前記抽出された画像ブロックを記憶するステップと、
ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出された画像ブロックを転送するステップと、及び、
前記ダウンストリーム処理エンジンに前記画像を与えるために、走査する前記ステップ、抽出する前記ステップ、記憶する前記ステップ、および転送する前記ステップをN回繰り返すこと。
[C52]
前記ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出された画像ブロックを転送することは、前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信することを含む、C51に記載の方法。

Claims (52)

  1. 画像を処理する方法であって、当該方法は下記を具備する。
    前記画像をカメラコアにおいて受信することと、及び、
    前記カメラコアからダウンストリーム処理エンジンへ、ブロックベース上で前記画像を転送することであって、ここにおいて、前記転送することは、前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信すること。
  2. 前記転送することは、前記カメラコアに及び前記ダウンストリーム処理エンジンに結合されたローカルな相互接続上でN個の画像ブロックとして前記画像を転送する、請求項1に記載の方法。
  3. 前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を前記通信することは、前記カメラコアに及び前記ダウンストリーム処理エンジンに結合された直接のハンドシェーキング経路上で行われる、請求項2に記載の方法。
  4. 所与の順序に従う前記ダウンストリーム処理エンジンにおける画像処理をさらに備え、ここにおいて、前記転送することは、前記所与の順序に従って画像ブロックのシーケンスとして前記画像を転送する、請求項1に記載の方法。
  5. 前記ダウンストリーム処理エンジンは、ビデオコーダ/デコーダ(VCODEC)、グラフィックス処理ユニット(GPU)またはディスプレイである、請求項1に記載の方法。
  6. 前記転送することは、前記カメラコアからローカルメモリにローカルな相互接続上で前記画像を送ることと、及び、前記ローカルメモリから前記ダウンストリーム処理エンジンに、前記ローカルな相互接続上で、画像ブロックとしての前記画像を転送することとを含む、請求項1に記載の方法。
  7. 前記転送することは、前記カメラコアと前記ローカルメモリ及び前記ダウンストリーム処理エンジンに結合されたローカルな相互接続上でローカルメモリに前記画像を転送すること、及び前記ローカルな相互接続上で前記ローカルメモリから前記ダウンストリーム処理エンジンにN個の画像ブロックとして前記画像を転送すること。
  8. 前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェイク信号を前記通信することは、前記ローカルメモリから前記ダウンストリーム処理エンジンにN個の画像ブロックとして前記画像を前記転送することに関連する、請求項7に記載の方法。
  9. 前記カメラコアと前記ダウンストリーム処理エンジンとの間で前記ハンドシェイク信号を通信することは、データ利用可能性を示すハンドシェイク信号を通信することを含む、請求項8に記載の方法。
  10. 前記カメラコアと前記ダウンストリーム処理エンジンとの間で前記ハンドシェイク信号を通信することは、前記カメラコアに関連するバッファにおけるオーバーフローを防ぐことに基づく、請求項8に記載の方法。
  11. 前記バッファは、前記ローカルメモリまたは前記ダウンストリーム処理エンジン中にある、請求項10に記載の方法。
  12. 前記カメラコアにおいて前記画像を受信することは、
    光学センサーにおいて前記画像を生成することと、
    N個の画像ブロックに前記画像を分割することと、
    前記カメラコアに連続的に前記N個の画像ブロックを転送することと、及び、
    前記カメラコアに前記N個の画像ブロックの数を同時に記憶すること。
  13. Nが1〜20の範囲内にある、請求項12に記載の方法。
  14. 前記カメラコア中の前記画像ブロックの前記数は、Nよりも少ない、請求項12に記載の方法。
  15. 前記カメラコアにおいて前記画像を受信することは、
    光学センサーにおいて前記画像を生成することと、
    複数のN個の画像ブロックに前記画像を分割することと、
    前記カメラコアと前記カメラコアに関連するローカルメモリとのうちの少なくとも1つに連続的に前記画像ブロックを転送することと、及び、
    前記カメラコア及び前記ローカルメモリとのうちの少なくとも1つに前記N個の画像ブロックの量を同時に記憶することと
    を備える、請求項1に記載の方法。
  16. 前記カメラコアから前記ダウンストリーム処理エンジンにブロックベース上で前記画像を転送することは、前記カメラコア及び前記ローカルメモリの少なくとも1つから、前記ローカルダウンストリーム処理エンジンに、ローカルな相互接続上で、前記画像ブロックを転送することを含む、請求項15に記載の方法。
  17. 前記カメラコアにおいて前記画像を受信することは、
    N個の走査を生成するために光学センサーにおいてN回前記画像を走査することと、
    前記N個の走査の各々の間、前記カメラコア及び前記カメラコアに関連するローカルメモリの少なくとも1つに前記画像の少なくとも1つの画像ブロックを転送することと、及び、
    前記カメラコア及び前記ローカルメモリの少なくとも1つに前記N個の画像ブロックの量を同時に記憶することとを備える、請求項1に記載の方法。
  18. 前記カメラコアから前記画像をブロックベース上で前記ダウンストリーム処理エンジンに転送することは、前記カメラコアと前記ローカルメモリとのうちの少なくとも1つから前記ローカルダウンストリーム処理エンジンに、ローカルな相互接続上で、前記画像の前記画像ブロックを転送することを含む、請求項17に記載の方法。
  19. 処理エンジンに画像を転送する方法であって、当該方法は下記を具備する。
    前記画像の1つの走査を取得するために光学センサーを走査することと、
    前記画像の前記1つの走査の所与のNブロック分割の画像ブロックを抽出することと、
    カメラコアまたは前記カメラコアに関連するローカルメモリのうちの少なくとも1つに、前記抽出された画像ブロックを記憶することと、
    前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つからダウンストリーム処理エンジンに前記抽出された画像ブロックを転送することと、及び、
    前記ダウンストリーム処理エンジンに前記画像を与えるために、前記走査すること、前記抽出すること、前記記憶すること、および前記転送することをN回繰り返すこと。
  20. 前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つからダウンストリーム処理エンジンに前記抽出された画像ブロックを前記転送することは、前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信することを含む、請求項19に記載の方法。
  21. 前記1つの抽出された画像ブロックを転送することは、前記ダウンストリーム処理エンジンに及び前記カメラコアおよび前記ローカルメモリのうちの少なくとも1つに結合されたローカルな相互接続上で前記抽出された画像ブロックを転送する、請求項20に記載の方法。
  22. 前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信することは、前記カメラコア及び前記ダウンストリーム処理エンジンに結合された直接のハンドシェーキング経路上で行われる、請求項21に記載の方法。
  23. 前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つに前記抽出された画像ブロックを記憶することは、
    前記カメラコアに前記抽出された画像ブロックを記憶することと、及び、
    前記カメラコアから前記ローカルメモリに前記抽出された画像ブロックを転送することとを含む、請求項22に記載の方法。
  24. 前記画像がビデオフレームであり、前記方法は、N×FSの走査レートにおいて前記走査することによって前記処理エンジンに前記ビデオフレームのシーケンスを与えることと、及び、前記ビデオフレームの各々について、FSのフレームレートにおいて前記ビデオフレームの前記シーケンスを与えるレートにおいて、前記走査すること、前記抽出すること、前記記憶すること、および前記転送することをN回前記繰り返すことを実行することとをさらに備える、請求項20に記載の方法。
  25. 下記を備える画像プロセッサ。
    カメラコアと、
    前記カメラコアにデータ相互接続上で結合されたダウンストリームプロセッサと、及び、
    前記カメラコア及び前記ダウンストリームプロセッサに結合された直接のハンドシェーキング経路と、
    ここにおいて、前記カメラコアは、ビデオフレームを受信することと、前記ビデオフレームをN個のブロック転送によって前記データ相互接続を介して前記ダウンストリームプロセッサに転送することを備え、前記ブロック転送の各々が前記ビデオフレームのN個のピクセルブロックのうちの対応する1つを転送する、転送することと、前記直接のハンドシェーキング経路を介して前記N個のブロック転送を制御すること。
  26. 前記カメラコアは、N個の走査フレームの連続として前記ビデオフレームを受信するように構成された、請求項25に記載の画像プロセッサ。
  27. 前記カメラコアは、前記N個の走査フレームの各々から前記N個のピクセルブロックのうちの対応する1つを抽出するように構成された、請求項26に記載の画像プロセッサ。
  28. 前記ダウンストリームプロセッサは、ビデオコーダ/デコーダ(VCODEC)、グラフィックス処理ユニット(GPU)またはディスプレイののなかからのいずれかである、請求項25に記載の画像プロセッサ。
  29. 前記データ相互接続に結合されたローカルメモリをさらに備え、
    ここにおいて、前記カメラコアと前記ローカルメモリとは、前記データ相互接続上で前記ローカルメモリに前記カメラコアからピクセルブロックを転送することによって、および前記ダウンストリームプロセッサへ前記ローカルメモリから前記データ相互接続上でのブロック転送によって、前記ブロック転送を実行するように構成され、及び、
    前記カメラコアは、前記直接のハンドシェーキング経路を通して前記ダウンストリームプロセッサへ前記ローカルメモリからの前記ブロック転送を制御するように構成される。
  30. 前記カメラコアは、前記ビデオフレームの少なくとも一部分を記憶するバッファを含み、前記カメラコアは、前記バッファの充填レベルを検出すること、及び、前記検出された充填レベルに基づいて前記ダウンストリームプロセッサへの前記ブロック転送を制御することを行うように構成された、請求項25に記載の画像プロセッサ。
  31. 前記検出された充填レベルに少なくとも部分的に基づく前記ブロック転送の前記制御は、前記検出された充填レベルに基づいて直接のハンドシェイク信号を通信することを含む、請求項30に記載の画像プロセッサ。
  32. 前記検出された充填レベルに基づく前記ブロック転送の前記制御は、前記バッファのオーバーフローを防ぐために前記ブロック転送を制御する、請求項30に記載の画像プロセッサ。
  33. 前記画像プロセッサが少なくとも1つの半導体ダイに組み込まれる、請求項25に記載の画像プロセッサ。
  34. 前記画像プロセッサがその中に組み込まれる、セットトップボックス、音楽プレーヤ、ビデオプレーヤ、エンターテインメントユニット、ナビゲーションデバイス、通信デバイス、携帯情報端末(PDA)、固定ロケーションデータユニット、およびコンピュータからなるグループから選択される、デバイスをさらに備える、請求項25に記載の画像プロセッサ。
  35. 下記を備える画像プロセッサ。
    前記画像の1つの走査を取得するために光学センサーを走査するための手段と、
    前記画像の前記1つの走査の所与のNブロック分割のブロックを抽出するための手段と、
    カメラコアまたは前記カメラコアに関連するローカルメモリのうちの少なくとも1つに、前記抽出することから得られた、抽出されたブロックを記憶するための手段と、及び、
    ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出されたブロックを転送するための手段と、ここにおいて、前記ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出されたブロックを転送することは、前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信することを含む。
  36. 前記画像プロセッサが少なくとも1つの半導体ダイに組み込まれる、請求項35に記載の画像プロセッサ。
  37. 前記画像プロセッサがその中に組み込まれる、セットトップボックス、音楽プレーヤ、ビデオプレーヤ、エンターテインメントユニット、ナビゲーションデバイス、通信デバイス、携帯情報端末(PDA)、固定ロケーションデータユニット、およびコンピュータからなるグループから選択されるデバイスをさらに備える、請求項35に記載の画像プロセッサ。
  38. 下記を備えるコンピュータ可読媒体を有する、コンピュータプログラム製品。
    画像をカメラコアにおいて受信することを少なくとも1つのコンピュータに行わせるためのコードと、
    ダウンストリーム処理エンジンにブロックベース上で前記画像を転送することと、及び、前記カメラコアと前記ダウンストリーム処理エンジンとに結合された直接のハンドシェーキング経路上で、前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を、ブロックベース上での前記転送に関連して、通信することとを少なくとも1つのコンピュータに行わせるためのコード。
  39. 所与の順序に従って前記ダウンストリーム処理エンジンにおいて前記画像の処理を行わせるためのコードをさらに備え、及び、ここにおいて、ブロックベースで前記画像を転送することは、前記所与の順序に従って画像ブロックのシーケンスとして前記画像を転送する、請求項38に記載のコンピュータプログラム製品。
  40. ブロックベースで前記画像を転送することを少なくとも1つのコンピュータに行わせるための前記コードは、前記カメラコアとローカルメモリ及び前記ダウンストリーム処理エンジンとに結合されたローカル相互接続上で前記ローカルメモリに前記画像を転送することと、前記ローカル相互接続上で前記ダウンストリーム処理エンジンに前記ローカルメモリから前記画像を転送することとを前記少なくとも1つのコンピュータに行わせる、請求項38に記載のコンピュータプログラム製品。
  41. 前記ダウンストリーム処理エンジンへ前記ローカルメモリからの前記画像ブロックの転送は、前記カメラコアと前記ダウンストリーム処理エンジンとに結合された直接のハンドシェーキング経路上で前記カメラコアと前記ダウンストリーム処理エンジンとの間で直接のハンドシェイク信号を通信することを含む、請求項40に記載のコンピュータプログラム製品。
  42. 前記カメラコアと前記ダウンストリーム処理エンジンとの間で前記直接のハンドシェイク信号を通信することは、前記カメラコアに関連するバッファにおけるオーバーフローを防ぐことに基づく、請求項41に記載のコンピュータプログラム製品。
  43. 前記画像を受信することを少なくとも1つのコンピュータに行わせるための前記コードは、
    N個の走査を生成するために光学センサーにおいてN回前記画像を走査することを少なくとも1つのコンピュータに行わせるためのコードと、
    前記N個の走査の各々について、前記カメラコア及び前記カメラコアに関連するローカルメモリのうちの少なくとも1つに前記画像の少なくとも1つのブロックを転送することを少なくとも1つのコンピュータに行わせるためのコードと、及び、
    前記カメラコアと前記ローカルメモリとのうちの少なくとも1つに前記画像の前記ブロックのN個の量を同時に記憶することを少なくとも1つのコンピュータに行わせるためのコードとを備える、請求項38に記載のコンピュータプログラム製品。
  44. 下記を備えるコンピュータ可読媒体を有する、コンピュータプログラム製品。
    前記画像の1つの走査を取得するために光学センサーを走査することを少なくとも1つのコンピュータに行わせるためのコードと、
    所与のNブロック分割に従って、前記画像の前記1つの走査の画像ブロックを抽出することを少なくとも1つのコンピュータに行わせるためのコードと、
    カメラコアまたは前記カメラコアに関連するローカルメモリのうちの少なくとも1つに前記抽出された画像ブロックを記憶することを少なくとも1つのコンピュータに行わせるためのコードと、
    ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出された画像ブロックを転送することを少なくとも1つのコンピュータに行わせるためのコードと、及び、
    前記ダウンストリーム処理エンジンに前記画像を与えるために、N回、前記走査すること、前記抽出すること、前記記憶すること、および前記転送することを繰り返すことを少なくとも1つのコンピュータに行わせるためのコード。
  45. 前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つに前記抽出された画像ブロックを記憶することを少なくとも1つのコンピュータに行わせるための前記コードは、
    前記カメラコアに前記抽出された画像ブロックを記憶することを少なくとも1つのコンピュータに行わせるためのコードと、及び、
    前記ローカルメモリに前記カメラコアから前記抽出された画像ブロックを転送することを少なくとも1つのコンピュータに行わせるためのコードとを含む、請求項44に記載のコンピュータプログラム製品。
  46. 下記を備える画像プロセッサ。
    画像を受信することと、前記画像の少なくとも一部分を同時に記憶することとを行うための手段を有するカメラコアと、及び、
    ダウンストリーム処理エンジンに前記カメラコアからブロックベースで前記画像を転送するための手段であって、ここにおいて、前記転送することは、前記カメラコア及び前記ダウンストリーム処理エンジンの間でハンドシェーキング信号を通信することを含む
  47. 画像を記憶するための前記手段に関連する充填レベルを検出するための手段であって、ここにおいて、前記カメラコアと前記ダウンストリーム処理エンジンとの間で前記ハンドシェイク信号を通信することは、前記検出することに基づく。
  48. 前記画像プロセッサが少なくとも1つの半導体ダイに組み込まれる、請求項46に記載の画像プロセッサ。
  49. 前記画像プロセッサがその中に組み込まれる、セットトップボックス、音楽プレーヤ、ビデオプレーヤ、エンターテインメントユニット、ナビゲーションデバイス、通信デバイス、携帯情報端末(PDA)、固定ロケーションデータユニット、およびコンピュータからなるグループから選択されるデバイスをさらに備える、請求項46に記載の画像プロセッサ。
  50. 下記を備える、画像処理の方法。
    カメラコアにおいて画像を受信するステップと、及び、
    ダウンストリーム処理エンジンに前記カメラコアからブロックベース上で前記画像を転送するステップであって、ここにおいて、前記転送することは、前記カメラコアと前記ダウンストリーム処理エンジンとに結合された直接のハンドシェーキング経路を介して前記カメラコア及び前記ダウンストリーム処理エンジンの間でハンドシェーキング信号を通信することを含む
  51. 画像を処理エンジンに転送する方法であって、当該方法は下記を具備する。
    前記画像の1つの走査を取得するために光学センサーを走査するステップと、
    前記1つの走査の所与のNブロック分割に従って前記画像の前記1つの走査の画像ブロックを抽出するステップと、
    カメラコアまたは前記カメラコアに関連するローカルメモリのうちの少なくとも1つに前記抽出された画像ブロックを記憶するステップと、
    ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出された画像ブロックを転送するステップと、及び、
    前記ダウンストリーム処理エンジンに前記画像を与えるために、走査する前記ステップ、抽出する前記ステップ、記憶する前記ステップ、および転送する前記ステップをN回繰り返すこと。
  52. 前記ダウンストリーム処理エンジンに前記カメラコアまたは前記ローカルメモリのうちの少なくとも1つから前記抽出された画像ブロックを転送することが、前記カメラコアと前記ダウンストリーム処理エンジンとの間でハンドシェーキング信号を通信することを含む、請求項51に記載の方法。
JP2014541392A 2011-11-11 2012-11-12 密結合低電力画像処理のための方法および装置 Active JP6058687B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/294,681 US9001267B2 (en) 2011-11-11 2011-11-11 Method and apparatus for tightly coupled, low power image processing
US13/294,681 2011-11-11
PCT/US2012/064730 WO2013071273A1 (en) 2011-11-11 2012-11-12 Method and apparatus for tightly coupled, low power image processing

Publications (2)

Publication Number Publication Date
JP2015508515A true JP2015508515A (ja) 2015-03-19
JP6058687B2 JP6058687B2 (ja) 2017-01-11

Family

ID=47278521

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014541392A Active JP6058687B2 (ja) 2011-11-11 2012-11-12 密結合低電力画像処理のための方法および装置

Country Status (7)

Country Link
US (1) US9001267B2 (ja)
EP (1) EP2777014B1 (ja)
JP (1) JP6058687B2 (ja)
KR (1) KR101648518B1 (ja)
CN (1) CN104520895B (ja)
IN (1) IN2014CN02944A (ja)
WO (1) WO2013071273A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10111591B2 (en) 2014-08-26 2018-10-30 Nanthealth, Inc. Real-time monitoring systems and methods in a healthcare environment
CN106547505B (zh) * 2015-09-22 2021-02-05 同方威视技术股份有限公司 用于实时滑动显示扫描图像的方法及系统
US10148972B2 (en) * 2016-01-08 2018-12-04 Futurewei Technologies, Inc. JPEG image to compressed GPU texture transcoder

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02257352A (ja) * 1989-03-30 1990-10-18 Sharp Corp Vmeバスを用いた高速ローカルバス
JPH08101806A (ja) * 1994-09-30 1996-04-16 Oki Electric Ind Co Ltd Dma装置、マイクロプロセッサ及びマイクロコンピュータシステム
JPH08289207A (ja) * 1995-04-19 1996-11-01 Hitachi Ltd ディジタルカメラ
JPH11194995A (ja) * 1997-12-26 1999-07-21 Mitsubishi Electric Corp Dram内蔵マイクロプロセッサ及びdram内蔵マイクロプロセッサのデータ転送方法
US6593963B1 (en) * 1998-05-29 2003-07-15 Agilent Technologies, Inc. Programmable control of operational signals in a digital camera
US20070008325A1 (en) * 2005-07-08 2007-01-11 Rai Barinder S Method and apparatus providing for high efficiency data capture for compression encoding
JP2008048130A (ja) * 2006-08-15 2008-02-28 Fujitsu Ltd Jpeg画像処理回路
JP2011078137A (ja) * 2011-01-12 2011-04-14 Fujifilm Corp 画像処理装置および方法並びにプログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4845663A (en) 1987-09-03 1989-07-04 Minnesota Mining And Manufacturing Company Image processor with free flow pipeline bus
KR920007920B1 (ko) 1989-05-30 1992-09-19 재단법인 한국전자통신연구소 비디오폰 시스템
KR100251457B1 (ko) 1997-11-18 2000-04-15 윤종용 실시간수행이 가능한 비데오코덱
US6995794B2 (en) 1999-06-30 2006-02-07 Logitech Europe S.A. Video camera with major functions implemented in host software
JP3768182B2 (ja) 2002-10-23 2006-04-19 三洋電機株式会社 電子カメラ
US7483058B1 (en) * 2003-08-04 2009-01-27 Pixim, Inc. Video imaging system including a digital image sensor and a digital signal processor
US7606427B2 (en) 2004-07-08 2009-10-20 Qualcomm Incorporated Efficient rate control techniques for video encoding
JP4156615B2 (ja) * 2005-08-22 2008-09-24 ソニー・エリクソン・モバイルコミュニケーションズ株式会社 携帯電話機、通信端末、通話方法及び通話プログラム
JP4135755B2 (ja) 2006-07-19 2008-08-20 株式会社日立製作所 情報記録再生装置及びデータ移動方法
KR100840004B1 (ko) * 2006-09-29 2008-06-20 임정순 거푸집용 인코너 연결구
US8570393B2 (en) * 2007-11-30 2013-10-29 Cognex Corporation System and method for processing image data relative to a focus of attention within the overall image
US8890955B2 (en) * 2010-02-10 2014-11-18 Magna Mirrors Of America, Inc. Adaptable wireless vehicle vision system based on wireless communication error

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02257352A (ja) * 1989-03-30 1990-10-18 Sharp Corp Vmeバスを用いた高速ローカルバス
JPH08101806A (ja) * 1994-09-30 1996-04-16 Oki Electric Ind Co Ltd Dma装置、マイクロプロセッサ及びマイクロコンピュータシステム
JPH08289207A (ja) * 1995-04-19 1996-11-01 Hitachi Ltd ディジタルカメラ
JPH11194995A (ja) * 1997-12-26 1999-07-21 Mitsubishi Electric Corp Dram内蔵マイクロプロセッサ及びdram内蔵マイクロプロセッサのデータ転送方法
US6593963B1 (en) * 1998-05-29 2003-07-15 Agilent Technologies, Inc. Programmable control of operational signals in a digital camera
US20070008325A1 (en) * 2005-07-08 2007-01-11 Rai Barinder S Method and apparatus providing for high efficiency data capture for compression encoding
JP2008048130A (ja) * 2006-08-15 2008-02-28 Fujitsu Ltd Jpeg画像処理回路
JP2011078137A (ja) * 2011-01-12 2011-04-14 Fujifilm Corp 画像処理装置および方法並びにプログラム

Also Published As

Publication number Publication date
IN2014CN02944A (ja) 2015-07-03
CN104520895B (zh) 2018-01-30
WO2013071273A1 (en) 2013-05-16
US20130120593A1 (en) 2013-05-16
EP2777014A1 (en) 2014-09-17
US9001267B2 (en) 2015-04-07
KR101648518B1 (ko) 2016-08-17
CN104520895A (zh) 2015-04-15
EP2777014B1 (en) 2016-03-23
JP6058687B2 (ja) 2017-01-11
KR20140090260A (ko) 2014-07-16

Similar Documents

Publication Publication Date Title
US9538087B2 (en) Image processing device with multiple image signal processors and image processing method
US9251553B2 (en) Dual control of a dynamically reconfigurable pipelined pre-processor
CN106408502B (zh) 实时视频帧预处理硬件
US10282805B2 (en) Image signal processor and devices including the same
KR20130111579A (ko) 복수의 프로세서들을 이용한 병렬 이미지 프로세싱
US20170046101A1 (en) Data reordering using buffers and memory
CN106797424A (zh) 具有多个输出端口的图像传感器
US20220188969A1 (en) Methods, systems and apparatus to reduce memory latency when fetching pixel kernels
US20240007608A1 (en) Multi-Processor Support for Array Imagers
JP6058687B2 (ja) 密結合低電力画像処理のための方法および装置
US9508109B2 (en) Graphics processing
US9456110B2 (en) Method for improving video output definition and terminal device
JP2018198406A (ja) 監視カメラシステムおよび画像処理装置
CN108540689B (zh) 图像信号处理器、应用处理器及移动装置
CN112995505B (zh) 一种图像处理方法、装置及存储介质
JP2007199815A (ja) メモリ制御装置およびメモリ制御方法
US8938133B2 (en) Image resizing apparatus and method that interpolates image blocks with abuttal regions
CN102497514B (zh) 一种三通道视频转发设备和转发方法
WO2022188120A1 (en) Event-based vision sensor and method of event filtering
JP2008034953A (ja) 画像処理プロセッサ
WO2021102857A1 (zh) 图像处理方法、装置、设备及存储介质
JP2004356673A (ja) 動きベクトル検出方法及び同方法を用いた画像処理装置
US11756154B2 (en) Apparatuses and computer-implemented methods for middle frame image processing
JP4345273B2 (ja) 動きベクトル検出装置および動きベクトル検出方法
US20180286006A1 (en) Tile reuse in imaging

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150818

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20151118

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20151218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160722

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161207

R150 Certificate of patent or registration of utility model

Ref document number: 6058687

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250