JP2008271461A - カメラシステムおよびデータ伝送方法 - Google Patents
カメラシステムおよびデータ伝送方法 Download PDFInfo
- Publication number
- JP2008271461A JP2008271461A JP2007115034A JP2007115034A JP2008271461A JP 2008271461 A JP2008271461 A JP 2008271461A JP 2007115034 A JP2007115034 A JP 2007115034A JP 2007115034 A JP2007115034 A JP 2007115034A JP 2008271461 A JP2008271461 A JP 2008271461A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- transfer
- data
- signal
- transmission
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
【課題】カメラシステムやデータ伝送方法において、同期転送のみを用いる場合に生じる問題点を回避しつつ、ユーザーの利便性をも向上させる。
【解決手段】撮像素子部2と撮像センサI/FLSI3との間、撮像センサI/FLSI3と信号処理LSI4との間、信号処理LSI4と表示処理LSI5との間の3箇所の内の1箇所以上において、いわゆるハンドシェイク転送により画像データの送受を行うことができるように構成する。ハンドシェイク転送は、送信側と受信側とでRDY信号とVALID信号とを送受するようにし、転送可能か否かを確認しながらデータの転送を行うようにするものであり、種々の処理を時分割的に均一に実行することができるようにする。
【選択図】図1
【解決手段】撮像素子部2と撮像センサI/FLSI3との間、撮像センサI/FLSI3と信号処理LSI4との間、信号処理LSI4と表示処理LSI5との間の3箇所の内の1箇所以上において、いわゆるハンドシェイク転送により画像データの送受を行うことができるように構成する。ハンドシェイク転送は、送信側と受信側とでRDY信号とVALID信号とを送受するようにし、転送可能か否かを確認しながらデータの転送を行うようにするものであり、種々の処理を時分割的に均一に実行することができるようにする。
【選択図】図1
Description
この発明は、例えば、デジタルビデオカメラなどのカメラシステム、および、カメラシステムなどの画像データを処理するシステムで用いられるデータ伝送方法に関する。
動画映像(動画像)信号の転送に関するインターフェイス(以下、I/Fと略称する。)規格としては、全米映画テレビジョン技術者協会のSMPTE274M、SMPTE296Mなどの標準規格がよく知られている。これらの規格は、テレビ等の映像機器間において、動画映像信号を同期させて処理できるようにすることを目的とした規格だが、突き詰めていけば、LSI(Large Scale Integrated Circuit)からLSIへデータを転送するためのI/F規格ということになる。もちろん、LSI内のブロック間のデータ転送にも適用できる。
SMPTE274M、SMPTE296Mなどの標準規格の内容を簡単にまとめると、フレーム開始基準信号線やライン開始基準信号線などの複数のタイミング基準信号線とデータバスとで接続された2つのデバイスがあり、送信デバイス側は基準信号に基づき、決められたタイミングに合わせて、画像データを1ライン単位に、1フレーム分、順次に送出し、受信デバイス側は基準信号に基づき、決められたタイミングに合わせて、画像データを受け取ることができるようにするものである。
同様に、デジタルカメラにおいては、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの撮像センサから、フレーム開始基準信号VDやライン開始基準信号HDに同期して、画像情報を読み出し、画像処理LSIに入力させていることもよく知られている。
なお、この明細書において、フレーム開始基準信号VDやライン開始基準信号HDと言ったいわゆる同期タイミング信号に合わせて、データのやり取りを行う転送方式を、便宜上、同期転送あるいは同期転送方式と呼ぶことにする。また、以下においては、必要に応じて、フレーム開始基準信号VDを信号VDと、ライン開始基準信号HDを信号HDと略称する場合がある。
図12は同期転送方式が適用されて構成された同期転送システムの基本的な例を説明するためのブロック図であり、また、図13は、同期転送方式が用いられてデータが転送される場合の同期タイミングのイメージについて説明するための図である。図12に示した同期転送システムでは、動画映像データ(以下、動画像データという。)が送受されるものとする。
同期転送方式の場合、上述もしたように、フレーム開始基準信号VD、ライン開始基準信号HDがある一定間隔で入力される。例えば、フレーム開始基準信号VDは、NTSC(National Television System Committee)方式の場合には、59.94分の1秒毎に、PAL(Phase Alternation by Line)方式の場合には、50分の1秒毎に入力されるものである。
また、ライン開始基準信号HDは、NTSC(National Television System Committee)方式の場合には、1フレーム内に525本のラインが存在するように(垂直解像度が525本となるように)、PAL(Phase Alternation by Line)方式の場合には、1フレーム内に625本のラインが存在するように(垂直解像度が625本となるように)入力されるものである。
このように一定間隔で入力されるフレーム開始基準信号VD、ライン開始基準信号HDなどの同期基準信号は、送信側で生成される場合もあるし、受信側で生成される場合もある。また、別の場所で生成され、送受信双方に配られることもある。どこで作成されるかは問題ではなく、相互接続された共通信号であればよい。
図12に示した同期転送システムにおいて、同期基準信号は、例えば送信デバイス100の同期信号送信制御部101で生成されるものとして説明する。送信デバイス100においては、データ処理部102により処理された送信対象の動画像データは送信バッファ103に蓄えられる。
この場合、予め送信側と受信側とで、同期基準信号に基づく座標と送信データとの関係の取り決めが行われており、同期信号送信制御部101では、フレーム開始基準信号VD、ライン開始基準信号HDを基準として、(信号VD後何ライン目、信号HD後の何クロック目)と言う座標情報と、送信データとを1対1で関係付け、必要に応じて、送信バッファ103、データ送信部104へ指示を出し、送信すべきタイミングで送信データを出力する。同時に、同期信号送信制御部101は、フレーム開始基準信号VD、ライン開始基準信号HDを受信デバイス200に送信する。
一方、受信デバイス200の同期信号受信制御部201では、送信デバイス100から提供されるフレーム開始基準信号VD、ライン開始基準信号HDを基準として、送信デバイス100のデータ送信部104から送信される動画像データをデータ受信部202において受信し、これを受信バッファ203に一時記憶させる。受信バッファ203に一時記憶された動画像データは、データ処理部204により読み出されて処理されることになる。
このように、同期転送方式が適用された同期転送システムでは、送信デバイス100と受信デバイス200とでは、共通のフレーム開始基準信号VDと共通のライン開始基準信号HDとを基準として、ライン単位、フレーム単位に動画像データの送受を行うことができるようにしている。
そして、図13の(1)、(2)、(3)が示すように、フレーム開始基準信号VD(図13(1))とライン開始基準信号HD(図13(2))と動画像データ(図13(3))とが送信デバイス100から受信デバイス200に供給されるのであるが、図13(5)、(6)に図13(2)、(3)の拡大図を示したように、一般に、ライン開始信号HD後の、あるクロック経過後において、1ライン分のデータを連続して有効データとしている。
その後、再び、信号HD+(プラス)あるクロック数の期間までは無効データである。この無効データの部分の期間は、図13(7)に示したように水平ブランキング期間HDBLKと呼ばれる。また、信号VD直後数ライン、信号VD直前数ラインは無効データのラインとなる場合が多く、図13(4)に示したように垂直ブランキング期間VDBLKと呼ばれる。
そして、同期転送の場合、転送しなければならないデータ量が予め決まっており、処理部からバッファメモリへのアクセスをWAIT(待機)することが許されない。そのため、同期転送時に使用される処理部のメモリアクセスチャンネルのアクセス要求の優先度は、最上位になるのが普通である。
転送中の瞬間最大速度でもアクセスがWAIT(待機)することのない(破綻することのない)ようにという意味で、同期転送は、リアルタイム優先度もしくはリアルタイム転送などと呼ばれる場合もある。もちろん、リアルタイム優先度の中にも優先度の序列は存在する場合もある。
上述したような同期転送を用いる技術は上述した全米映画テレビジョン技術者協会のSMPTE274M、SMPTE296Mなどの標準規格において用いられている他、映像データや音声データなどのリアルタイムに処理すべきデータを伝送する技術として、例えば、後に記す特許文献1に記載の発明等においても用いられている。
なお、上記の特許文献1は、以下の通りである。
特開平10−174050号公報
しかしながら、図12、図13を用いて説明したように、動画像データ(動画映像信号)の同期転送においては、ライン開始基準信号HDの直前直後や、フレーム開始基準信号VDの前後数ラインは、ブランキングとして、転送対象の動画像データの同期転送が行われていない時間帯がある。すなわち、メモリへデータの要求を行わない時間帯が存在する。そのため、全時間帯に平均してリアルタイム系アクセスがあるのではなく、ある時間帯に集中してリアルタイム系アクセスが存在することになる。
特に、デジタルビデオカメラのように、被写体を撮影することにより得た動画像データを、漏らすことなく適切に記録媒体に記録すると共に、LCD(Liquid Crystal Display)などの表示素子にも表示するというように、動画像データの入力と出力とが並行して行われるいわゆる映像(動画像)入出力システムにおいては、動画像データの入力処理と出力処理とが重なり合う期間がある。
つまり、デジタルビデオカメラシステムなどの映像入出力システムにおいては、リアルタイム系で入力されたデータがあるということは、対として、リアルタイム系で出力するデータがあるのが一般的であり、撮像センサからの入力等の映像入力系と表示出力等の映像出力に関連する処理部のリアルタイム系アクセスが重なり、ある時間帯にメモリへのアクセスが集中してしまうことになる。また、同期転送されてくるデータを確実に処理しなければならない同期転送時間帯に、入力、出力に直結していない処理部も機能するので、さらに、メモリアクセスが集中する傾向にある。以下に同期転送における問題点についてまとめる。
(1)処理部の完全並列動作が困難
リアルタイム系アクセスがあるということは、そのデータを元にベストエフォート系処理部でも処理すべきデータがあることが普通である。ここでベストエフォート系処理部は、所定の時間単位での処理完了保証の必要のない処理、すなわち優先度の低い処理を行う処理部を意味する。また、ベストエフォート処理という文言は、優先度は比較的に低く、CPU(Central Processing Unit)やメモリアクセスチャンネルなどの空き具合に応じてできるだけ迅速に行うようにすれば足りる処理を意味する。
リアルタイム系アクセスがあるということは、そのデータを元にベストエフォート系処理部でも処理すべきデータがあることが普通である。ここでベストエフォート系処理部は、所定の時間単位での処理完了保証の必要のない処理、すなわち優先度の低い処理を行う処理部を意味する。また、ベストエフォート処理という文言は、優先度は比較的に低く、CPU(Central Processing Unit)やメモリアクセスチャンネルなどの空き具合に応じてできるだけ迅速に行うようにすれば足りる処理を意味する。
そして、リアルタイム優先度のアクセスが集中する時間帯は、リアルタイム系処理の占有度が極めて高くなり、隙間を縫ってベストエフォート優先度アクセスが処理されるだけである。基本的にベストエフォート系処理部は、長時間ウエイト状態(長時間待機状態)に置かれ、その処理部は一時的に停止した状態になるなど、バスの利用効率が悪くなり、システム全体としての効率も非常に悪くなってしまう可能性がある。
(2)帯域(処理能力)のオーバースペック
LSI内の同期転送にかかわりのある全ての処理部の完全並列動作(WAIT(待機)ないで処理できる)を前提とすれば、同期転送によるアクセスの集中する時にも、全ての処理部がリアルタイム優先度で処理できる帯域を持たせなければならない。しかし、アクセスの疎密が存在する以上、疎の時間帯には、完全なオーバースペックとなる。
LSI内の同期転送にかかわりのある全ての処理部の完全並列動作(WAIT(待機)ないで処理できる)を前提とすれば、同期転送によるアクセスの集中する時にも、全ての処理部がリアルタイム優先度で処理できる帯域を持たせなければならない。しかし、アクセスの疎密が存在する以上、疎の時間帯には、完全なオーバースペックとなる。
すなわち、同期転送を用いたシステムにおいては、種々の処理を完全並列動作で行う、行わないにかかわらず、いずれにしろ、同期転送によるデータ転送がある時間帯に処理が集中することになる。このため、全時間帯で見るとアクセスの疎密が生じ、システムが破綻しないためには、密の時の帯域(処理能力)を保証しなければならず、疎の時間帯には余分な帯域(処理能力)となり、システム効率の面からも無駄となる場合がある。
(3)システム設計の複雑さ
上述したように、同期転送システムを設計する場合、リアルタイム優先度アクセスが集中する時間帯でもその他の処理ができないと出力すべきデータが準備できないので、瞬間最大時のアクセスでも破綻しないように、複雑な帯域計算を行い、限界を正確に見積もり、必要最大帯域を設定するか、十分に余裕のある帯域を持ったシステムにする必要がある。前者は、システム設計が複雑となり、後者は、システムに余分な性能を生じさせることになる。
上述したように、同期転送システムを設計する場合、リアルタイム優先度アクセスが集中する時間帯でもその他の処理ができないと出力すべきデータが準備できないので、瞬間最大時のアクセスでも破綻しないように、複雑な帯域計算を行い、限界を正確に見積もり、必要最大帯域を設定するか、十分に余裕のある帯域を持ったシステムにする必要がある。前者は、システム設計が複雑となり、後者は、システムに余分な性能を生じさせることになる。
上述した(1)〜(3)の問題点は、デジタルビデオカメラなどのほか、ハードディスクレコーダやDVD(Digital Versatile Disc)レコーダ、IRD(Integrated Receiver Decoder)やセットトップボックス(Set-Top Box)などと呼ばれるデジタル放送のチューナ装置、テレビ受信機等の画像データの入出力が存在する映像機器、さらには、再生を専用に行うDVDプレイヤー等、少なくとも入出力の片方のみしか存在しない映像機器でも、ある特定の時間帯にアクセスが集中する同期転送がどこかに用いられていれば、同じことが言える。また、LSIからLSIへの転送においての同期転送について説明したが、LSI内部の処理部同士で同期転送が行われるものがあれば、同じことが言える。
また、同期転送の制約として以下のようなものがある。
(A)同期転送のため、基準タイミングを待たなければ転送できない。
(A)同期転送のため、基準タイミングを待たなければ転送できない。
(B)同期転送のため、単位時間内には、規定されたサイズの画像1枚だけの転送しかできない。このように、同期転送の場合には、転送のためのタイミングや転送可能なデータ量に制約があり、転送の自由度がない。
以上の点に鑑み、この発明は、例えば、カメラシステムやデータ伝送方法において、同期転送のみを用いる場合に生じる問題点を回避しつつ、ユーザーの利便性をも向上させることを目的とする。
上記課題を解決するため、請求項1に記載の発明のカメラシステムは、
被写体像を撮像する撮像素子部と、
撮像した画像信号を出力する撮像素子インターフェイス部と、
前記画像信号に所定の信号処理を施す信号処理部と、
表示処理部とを備え、
前記撮像素子インターフェイス部から出力された前記画像信号を前記信号処理部に供給し、前記信号処理部において所定の信号処理を施した画像データを前記表示処理部に供給するカメラシステムにおいて、
前記撮像素子部と前記撮像素子インターフェイス部の間、前記撮像素子インターフェイス部と前記信号処理部の間、または前記信号処理部と表示処理部との間の少なくとも1箇所において、ハンドシェイク転送により画像データの送受を行うこと
を特徴とする。
被写体像を撮像する撮像素子部と、
撮像した画像信号を出力する撮像素子インターフェイス部と、
前記画像信号に所定の信号処理を施す信号処理部と、
表示処理部とを備え、
前記撮像素子インターフェイス部から出力された前記画像信号を前記信号処理部に供給し、前記信号処理部において所定の信号処理を施した画像データを前記表示処理部に供給するカメラシステムにおいて、
前記撮像素子部と前記撮像素子インターフェイス部の間、前記撮像素子インターフェイス部と前記信号処理部の間、または前記信号処理部と表示処理部との間の少なくとも1箇所において、ハンドシェイク転送により画像データの送受を行うこと
を特徴とする。
この請求項1に記載のカメラシステムによれば、前記撮像素子部と前記撮像素子インターフェイス部の間、前記撮像素子インターフェイス部と前記信号処理部の間、または前記信号処理部と表示処理部の間の3箇所の内の1箇所以上において、いわゆるハンドシェイク転送により画像データの送受が行うようにされる。ハンドシェイク転送は、送信側と受信側とでRDY信号とVALID信号とを送受するようにし、転送可能か否かを確認しながらデータの転送を行うようにするものである。RDY信号とVALID信号とは、転送制御信号である。
これにより、同期転送のみを用いた場合の問題点を解消し、ユーザーの利便性をも向上させることができる。具体的には、通常、リアルタイムに転送すべき動画像データについても、時分割的に伝送することができ、種々の処理が並列的に行われる場合であっても、優先度の低い処理が長期に渡って待機状態になることを防止し、種々の処理を均一に行うようにすることができるなどの効果を奏し、ユーザーの利便性をも向上させることができる。
また、請求項2に記載のカメラシステムは、請求項1に記載のカメラシステムであって、
画像データの送信側は、
送信バッファ手段と、
前記送信バッファ手段に記憶された画像データを受信側に送信する送信手段と、
前記送信バッファ手段の使用状態を監視すると共に、受信側と転送制御信号の送受を行い、前記転送制御信号に応じたタイミングで前記送信バッファ手段に記憶された画像データを送信するように前記送信手段を制御するハンドシェイク送信制御手段と
を備え、
画像データの受信側は、
送信側から送信されてくる画像データを受信する受信手段と、
前記受信手段で受信された画像データを保持する受信バッファ手段と、
前記受信バッファ手段の使用状態を監視すると共に、送信側と転送制御信号の送受を行い、前記転送制御信号に応じたタイミングで前記送信側からの画像データを受信するように前記受信手段を制御するハンドシェイク受信制御手段と
を備えることを特徴とする。
画像データの送信側は、
送信バッファ手段と、
前記送信バッファ手段に記憶された画像データを受信側に送信する送信手段と、
前記送信バッファ手段の使用状態を監視すると共に、受信側と転送制御信号の送受を行い、前記転送制御信号に応じたタイミングで前記送信バッファ手段に記憶された画像データを送信するように前記送信手段を制御するハンドシェイク送信制御手段と
を備え、
画像データの受信側は、
送信側から送信されてくる画像データを受信する受信手段と、
前記受信手段で受信された画像データを保持する受信バッファ手段と、
前記受信バッファ手段の使用状態を監視すると共に、送信側と転送制御信号の送受を行い、前記転送制御信号に応じたタイミングで前記送信側からの画像データを受信するように前記受信手段を制御するハンドシェイク受信制御手段と
を備えることを特徴とする。
この請求項2に記載の発明のカメラシステムによれば、画像データの送信側は送信手段、送信バッファ手段、ハンドシェイク送信制御手段を備え、画像データの受信側は受信手段、受信バッファ手段、ハンドシェイク受信制御手段を備え、これらの各部が機能して、ハンドシェイク通信が行うようにされる。
これにより、ハンドシェイク通信を行うための構成を整え、ハンドシェイク通信を確実に行えるようにし、同期転送のみを用いた場合の問題点を解消して、ユーザーの利便性をも向上させることができる。
また、請求項3に記載の発明のカメラシステムは、請求項2に記載のカメラシステムであって、
前記画像データの送信側は、
受信側にタイミング基準信号を送信すると共に、当該タイミング基準信号に応じたタイミングで前記送信バッファ手段に記憶された画像データを送信するように前記送信手段を制御する同期送信制御手段を備え、
前記画像データの受信側は、
前記送信側からのタイミング基準信号を受信すると共に、受信した前記タイミング基準信号に応じたタイミングで前記送信側からの画像データを受信するように前記受信手段を制御する同期受信制御手段を備え、
前記受信側と前記送信側とにおいて、同期転送により画像データの送受を行うこともできるようにされており、ハンドシェイク転送により画像データの転送を行うか、同期転送により画像データの転送を行うかを切り替えることができることを特徴とする。
前記画像データの送信側は、
受信側にタイミング基準信号を送信すると共に、当該タイミング基準信号に応じたタイミングで前記送信バッファ手段に記憶された画像データを送信するように前記送信手段を制御する同期送信制御手段を備え、
前記画像データの受信側は、
前記送信側からのタイミング基準信号を受信すると共に、受信した前記タイミング基準信号に応じたタイミングで前記送信側からの画像データを受信するように前記受信手段を制御する同期受信制御手段を備え、
前記受信側と前記送信側とにおいて、同期転送により画像データの送受を行うこともできるようにされており、ハンドシェイク転送により画像データの転送を行うか、同期転送により画像データの転送を行うかを切り替えることができることを特徴とする。
この請求項3に記載のカメラシステムによれば、ハンドシェイク転送と同期転送とを切り替えて利用することができるようにされる。これにより、ハンドシェイク転送を用いているときには、通常であれば、リアルタイムに転送すべき動画像データについても、時分割的に伝送することができ、種々の処理が並列的に行われる場合であっても、優先度の低い処理が長期に渡って待機状態になることを防止し、種々の処理を均一に行うようにすることができる。
また、ハンドシェイク転送では、信頼性高く画像データの転送ができないような場合には、同期転送を用いることにより、従来通り、信頼性高く画像データの転送を行うようにすることができるようにされる。従って、ハンドシェイク転送と同期転送の両方の利用が可能な、ユーザーにとっての利便性をも向上させたカメラシステムを実現できる。
また、請求項4に記載の発明のカメラシステムは、請求項3に記載のカメラシステムであって、
前記送信側のハンドシェイク送信制御手段と前記受信側のハンドシェイク受信制御手段との間で送受される前記転送制御信号と、前記送信側の同期送信制御手段と前記受信側の同期受信制御手段との間で送受される前記タイミング基準信号とを同一の信号線路を通じて送受するように構成したことを特徴とする。
前記送信側のハンドシェイク送信制御手段と前記受信側のハンドシェイク受信制御手段との間で送受される前記転送制御信号と、前記送信側の同期送信制御手段と前記受信側の同期受信制御手段との間で送受される前記タイミング基準信号とを同一の信号線路を通じて送受するように構成したことを特徴とする。
この請求項4に記載のカメラシステムの場合には、ハンドシェイク転送時に用いる転送制御信号と、同期転送時に用いるタイミング基準信号とを共通の信号線路で送受できるように構成される。
これにより、転送制御信号とタイミング基準信号とをそれぞれ異なる信号線路で送受するように構成しなくてもよいので、構成を複雑にすることを回避しながら、ハンドシェイク転送と同期転送の使い分けが可能なカメラシステムを構成することができるようにされる。
この発明によれば、同期転送を用いることにより生じる問題点、すなわち、処理部の完全並列処理が困難、帯域のオーバースペックが必須、システム設計が複雑などのことを回避することができると共に、ユーザーの利便性をも向上させることができる。
以下、図を参照しながら、この発明による装置、方法の一実施の形態について説明する。
[カメラシステムの構成について]
図1は、この発明による装置、方法の一実施の形態が適用されたカメラシステム(デジタルビデオカメラを説明するためのブロック図である。この実施の形態のカメラシステムは、被写体の画像を動画像データとして取り込んで、記録媒体に記録したり、再生したりすることができると共に、被写体の画像を静止画像データとして取り込んで、記録媒体に記録したり、再生したりすることができるものである。なお、以下においては、動画像データを処理する場合を例にして説明する。
図1は、この発明による装置、方法の一実施の形態が適用されたカメラシステム(デジタルビデオカメラを説明するためのブロック図である。この実施の形態のカメラシステムは、被写体の画像を動画像データとして取り込んで、記録媒体に記録したり、再生したりすることができると共に、被写体の画像を静止画像データとして取り込んで、記録媒体に記録したり、再生したりすることができるものである。なお、以下においては、動画像データを処理する場合を例にして説明する。
図1に示すように、この実施の形態のカメラシステムは、大きく分けると、レンズ1と、撮像素子部2と、撮像センサインターフェースLSI(以下、撮像センサI/FLSIと略称する。)3と、信号処理LSI4と、表示処置LSI5と、表示デバイス6を備えると共に、信号処理LSI4には、汎用DRAM4Dと、記録媒体4Mとが接続されたものである。
そして、それぞれのLSI内には、機能別に複数の処理部が存在する。図1に示した構成は、その一例であり、設計思想により、図1に示した各LSI内の処理部が他のLSI内に属するようにされる場合ももちろんある。各LSIを構成する処理部の数や各LSIの機能は、目的に応じて、種々存在する。
そして、この図1に示したカメラシステムの場合には、撮像素子部2と撮像センサI/FLSI3との間、撮像センサI/FLSI3と信号処理LSI4との間、信号処理LSI4と表示処理LSI5と間においては、詳しくは後述するハンドシェイク転送を用いるようにしているものである。
図1に示すように、撮像センサI/FLSI3は、信号処理LSI4に対して信号を送信するLSII/F部301を備えたものである。このLSII/F部301は、詳しくは後述するが、ハンドシェイク送信処理を行うものである。
信号処理LSI4は、図1に示すように、センサI/F部401、検波処理部402、画像処理部403、解像度変換処理部404、圧縮処理部405、表示処理部406、メモリコントローラ407、伸張処理部408、記録再生処理部409を備えている。これらの各処理部のそれぞれに対しては、図1に示したようにバスI/F(図1においては単にI/Fと記載。)421〜429が接続されており、各I/F421〜429のそれぞれは、1本ないし複数の共通のバスに接続されている。
なお、図1に示した例の場合には、各処理部は対応するI/F421〜429を通じて1本のバスに接続されている場合の例を示している。また、各処理部間のデータのやり取りは、バスを経由することを原則とするが、バスを経由せず、処理部間で直接データをやり取りする場合もある。処理部同士でI/Fを経由せずに直接接続しデータの転送を行う場合は、それをひとつの処理部とみなせる。
また、この実施の形態のカメラシステムの信号処理LSI4の内部には、CPU(Central Processing Unit)410や同期信号生成部411が設けられている。CPU410は、信号処理LSI4内部の各部を制御するものである。また、同期信号生成部411は、各種の処理において用いられる種々のタイミング基準信号を生成し、これを必要とする処理部に供給するものである。なお、タイミング基準信号は、種々のものがあるが、例えば、フレーム開始基準信号VDやライン開始基準信号HD等などである。
そして、信号処理LSI4のセンサI/F部401は、撮像センサI/FLSI3のLSII/F部301からの信号を受信するものである。すなわち、センサI/F401は、詳しくは後述するが、ハンドシェイク受信処理を行うものである。
検波処理部402は、センサI/F部401を通じて供給されるLSII/F部301からの画像データ(動画像データ)に基づいて、フォーカス調整やホワイトバランス調整、明るさ調整など、カメラ制御を行うための各種のパラメータを算出する。画像処理部403は、センサI/F部3からの画像データ(Rawデータ)に対して、検波処理部402において算出されたパラメータ等を用い、必要に応じて各種補正処理を行い、最終的にYCデータ(色差データ)に変換する。なお、画像処理部403は、YCデータに対しても必要に応じてアパコン処理やノイズリダクション処理などの画像処理を行うことができるものである。
解像度変換処理部404は、RawデータないしはYCデータの状態の画像データに対して、画像のスケーリングを行うものである。また、圧縮処理部405は、YCデータをJPEG(Joint Photographic Experts Group)方式やMPEG(Moving Picture Experts Group)方式などの符号化を行う。
そして、信号処理LSI4においては、撮像センサI/FLSI3のLSII/F部301からの画像データに対して、いくつかの必要な処理、例えば、検波処理や画像処理等を行うと、処理後の画像データを、一旦、DRAM4Dに保存する。DRAM4Dに画像データを記録する場合には、I/F427を介してバスに接続されたメモリコントローラ407を経由して記録することになる。
このようにして、一旦、DRAM4Dに保存された画像データは、必要に応じて、DRAM4Dから読み出され、各処理部で処理され、再びDRAM4Dに書き戻されるというように、DRAM4Dを作業領域として用いて、目的とする形式の画像データを形成することができるようにしている。なお、信号処理LSI4の各処理部での処理の内容や処理の順番、組み合わせはデータフローに応じて、多種多様である。
そして、上述した処理部の幾つかが機能して、表示処理LSI5に送る状態となった画像データ、例えばYCデータとされた画像データがDRAM4Dに準備できたとする。すなわち、検波処理部402、画像処理部403、解像度変換処理部404が機能し、表示処理LSI5に供給する形式のYCデータがDRAM4Dに準備できたとする。この場合、DRAM4Dに準備された画像データは、メモリコントローラ407によって読み出され、I/F427、バス、I/F426を通じて表示処理部406に供給される。
表示処理部405は、表示処理LSI5に対して信号を送信するものであり、上述した撮像センサI/FLSI3のLSII/F部301の場合と同様に、後述するハンドシェイク送信処理を行うものである。表示処理LIS5は、表示処理部406からの画像データをハンドシェイク受信する受信側の表示処理部501を備えるものである。
表示処理LSI5の表示処理部501は、信号処理LSI4からの画像データをフォーマットに則って解釈し、液晶パネルなどの表示デバイス6に供給して表示デバイス6の表示画面に画像を表示するようにする。
また、信号処理LSI4は、図1に示したように、伸張処理部408、記録再生処理部409を備えている。ここで、伸張処理部408は、圧縮処理された画像データを伸張処理して圧縮前の元の画像データを復元するものである。記録再生処理部409は、記録媒体4Mに対して画像データを記録したり、記録媒体4Mに記録されている画像データを読み出したりするものである。
そして、信号処理LSI4においては、圧縮処理部405において圧縮処理された画像データを、I/F429を介して記録再生処理部409に供給し、記録再生処理部409の機能により、画像データを記録媒体4Mに記録することもできるようにしている。記録媒体4Mとしては、磁気テープ、光磁気ディスク、半導体メモリなど種々のものを用いることが可能であるが、この実施の形態においては、例えばフラッシュメモリなどの半導体不揮発性メモリが用いられているものとする。
また、信号処理LSI4は、記録媒体4Mに記録された圧縮処理されている画像データを記録再生処理部409の機能により読み出し、これを伸張処理部408に供給して伸張処理して圧縮前の元のYCデータを復元し、これをI/F426、表示処理部406を介して、表示処理LSI5に供給することもできるようにしている。
このように、この実施の形態のカメラシステムは、レンズ1、撮像素子部2を通じて撮像して得た画像データを、撮像センサI/FLSI3を通じて信号処理LSI4に供給して、ここで目的とする画像データを形成し、これを表示処理LSI5を通じて表示デバイス6に供給して、撮影して得た画像データに応じた画像を表示デバイスの表示画面に表示することができるものである。
また、この実施の形態のカメラシステムは、撮影して得た画像データを圧縮処理して記録媒体4Mに記録するようにしたり、記録媒体4Mから圧縮されて記録されている画像データを読み出して伸張処理し、これをI/F426、表示処理部406を介して、表示処理LSI5にして、記録媒体4Mに記録されている画像データに応じた画像を表示デバイスの表示画面に表示したりすることもできるものである。
[ハンドシェイク転送について]
そして、上述もしたように、この実施の形態のカメラシステムにおいては、撮像素子部2と撮像センサI/FLSI3との間、撮像センサI/FLSI3と信号処理LSI4との間、信号処理LSI4と表示処理LSI5と間においては、ハンドシェイク転送を用いるようにしている。ここで、ハンドシェイク転送について説明する。
そして、上述もしたように、この実施の形態のカメラシステムにおいては、撮像素子部2と撮像センサI/FLSI3との間、撮像センサI/FLSI3と信号処理LSI4との間、信号処理LSI4と表示処理LSI5と間においては、ハンドシェイク転送を用いるようにしている。ここで、ハンドシェイク転送について説明する。
上述した同期転送は、送信側と受信側とでフレーム開始基準信号VDやライン開始基準信号HDなどのタイミング基準信号を共通に用いることにより、送信側と受信側とで同期を取ってデータの送受を行うようにするものである。これに対してハンドシェイク転送は、RDY信号とVALID信号とを用い、転送可能か否かを確認しながらデータの転送を行うようにするものである。
ここで、RDY信号は、データの受信や送信の準備ができたことを相手先に通知することにより、データの送信や受信を相手先に要求するための信号であり、リクエスト(REQ)信号とも呼ばれるものである。また、VALID信号は、RDY信号に応じてデータを送信したり受信したりする場合にこれを通知する信号であり、アクノーレッジ(ACK)信号とも呼ばれるものである。すなわち、RDY信号とVALID信号とは転送制御信号として用いられるものである。
図2、図3は、基本的なハンドシェイク転送システムの一例を説明するためのブロック図である。図2に示すハンドシェイク転送システムと、図3に示すハンドシェイク転送システムとは、転送元と転送先でどちらがRDY信号(リクエスト信号)を出すかが異なるだけで、本質的に同じものである。
[受信側がRDY信号を出すシステムについて]
まず、図2のハンドシェイク転送システム(受信側がRDY信号を出すシステムについて)について説明する。図2に示すように、この例のシステムは、送信デバイス10と受信デバイス20とからなっている。
まず、図2のハンドシェイク転送システム(受信側がRDY信号を出すシステムについて)について説明する。図2に示すように、この例のシステムは、送信デバイス10と受信デバイス20とからなっている。
送信デバイス10は、送信デバイス10の各部を制御するCPU11と、HS(ハンドシェイク)送信制御部12と、データ処理部13と、送信バッファ14と、データ送信部15とを備えたものである。また、受信デバイス20は、受信デバイス20の各部を制御するCPU21と、HS(ハンドシェイク)受信制御部22と、データ受信部23と、受信バッファ24と、データ処理部25とを備えたものである。
受信デバイス20において、HS受信制御部22は、受信バッファ24の使用状態を監視しており、データ受け取り準備ができている場合、すなわち受信バッファ24に空きがある場合に、送信デバイス10に対してW_RDY信号を送信する。
送信デバイス10のHS送信制御部12は、受信デバイス20からのW_RDY信号を受信すると、送信バッファ14に出力すべきデータがあるかを確認し、送信バッファ14に出力すべきデータがある場合には、W_VALID信号を返信するとともに、データ送信部15を制御して、送信バッファ14に一時記憶されているデータを受信デバイス20に送信する。
受信デバイス20のHS受信制御部22は、送信デバイス10からのW_VALID信号を受信し、これに応じてデータ受信部23を制御して、送信デバイス10からのデータを受信し、これを受信バッファ24に書き出して、データ処理部25により処理できるようにする。
このように、図2に示した受信側がRDY信号を出すハンドシェイク転送システムにおいて、W_RDY信号は、データの送信を転送元に要求するための信号として用いられるものである。また、W_VALID信号は、W_RDY信号に応じてデータを送信する場合に有効データを送信することを通知する信号である。
そして、上述したように、図2に示した受信側がRDY信号を出すハンドシェイク転送システムの場合、受信デバイス20の受信バッファ24に空きがあり、かつ、送信デバイス10の送信バッファ14に送信データがある場合においてのみ、データの転送が行うようにされる。
[送信側がRDY信号を出すシステム]
次に、図3のハンドシェイク転送システム(送信側がRDY信号を出すシステム)について説明する。図3に示すように、この例のシステムは、送信デバイス30と受信デバイス40とからなっている。
次に、図3のハンドシェイク転送システム(送信側がRDY信号を出すシステム)について説明する。図3に示すように、この例のシステムは、送信デバイス30と受信デバイス40とからなっている。
送信デバイス30は、送信デバイス30の各部を制御するCPU31と、HS(ハンドシェイク)送信制御部32と、データ処理部33と、送信バッファ34と、データ送信部35とを備えたものである。また、受信デバイス40は、受信デバイス40の各部を制御するCPU41と、HS(ハンドシェイク)受信制御部42と、データ受信部43と、受信バッファ44と、データ処理部45とを備えたものである。
送信デバイス30において、HS送信制御部32は、送信バッファ34の使用状態を監視しており、送信すべきデータが送信バッファ34にあり、データ送信準備ができている場合に、受信デバイス40に対してR_RDY信号を送信する。
受信デバイス40のHS受信制御部42は、受信バッファ44の使用状態を監視しており、送信デバイス30からのR_RDY信号を受信すると、受信バッファ44に空きがあるかを確認し、受信バッファ44に空きがある場合には、HS受信制御部42は、R_VALID信号を返信して来るので、送信デバイス30のHS送信制御部32は、受信デバイス40からのR_VALID信号に合わせて、データ送信部35を制御し、送信バッファ34に蓄積されているデータを受信デバイス30に送信する。
受信デバイス40のHS受信制御部42は、自機が送出するR_VALID信号に応じてデータ受信部43を制御して、送信デバイス40からのデータを受信し、これを受信バッファ44に書き出して、データ処理部45により処理できるようにする。
このように、図3に示した送信側がRDY信号を出すハンドシェイク転送システムにおいて、R_RDY信号は、データの受信を転送先に要求するための信号として用いられるものである。また、R_VALID信号は、R_RDY信号に応じてデータを受信する場合に有効データを受信することを通知する信号である。
そして、上述したように、図3に示した送信側がRDY信号を出すハンドシェイク転送システムの場合、送信デバイス10の送信バッファ14に送信データがあり、かつ、受信デバイス20の受信バッファ24に空きがある場合においてのみ、データの転送が行うようにされる。
[ハンドシェイク転送を用いたデータ転送時の処理タイミングの一例]
次に、図2に示した受信側がRDY信号を出すハンドシェイク転送システムにおいて、実際にデータの転送が行われる場合の処理タイミングについて具体例を用いて説明する。図4は、ハンドシェイク転送を用いてデータの転送が行われる場合の処理の様子を説明するための図である。
次に、図2に示した受信側がRDY信号を出すハンドシェイク転送システムにおいて、実際にデータの転送が行われる場合の処理タイミングについて具体例を用いて説明する。図4は、ハンドシェイク転送を用いてデータの転送が行われる場合の処理の様子を説明するための図である。
図4(1)は、この例のハンドシェイク転送システムで用いられるクロック信号CLKを示している。図4(2)は、クロック信号CLKの1周期の区間を区別して示している。そして、図4に示す例において、受信デバイス20は、図4(3)に示すように、クロック信号CLKが示す区間b、および、区間e〜区間iにおいて、ハイレベル(オン)となるW_RDY信号を送信デバイスに送信している。
これに応じて、送信デバイス10は、図4(4)に示すように、区間c、区間g、区間i〜区間jにおいて、ハイレベル(オン)となるW_VALID信号を受信デバイス20に送信すると共に、W_VALID信号がハイレベルとなる期間において、データWD0、WD1、WD2、WD3を受信デバイス20に送信している。
なお、図4に示した例の場合には、送信デバイス10は、受信デバイス20からのW_RDY信号を受信してからW_VALID信号を出力するまでに、1クロック分遅延するシステムの例である。
このように、ハンドシェイク転送の場合には、送信デバイスと受信デバイスとが相互にデータ転送が可能である場合においてのみ、データの送受を行うようにしている。従って、ある処理部が、ハンドシェイク転送の入力部と出力部を持っていた場合、どちらかの転送が停止状態に陥ると、逆側のRDY信号が落ち(送出されず)、回路全体が停止状態になる。
すなわち、入力データが途切れると、データが入力されるまで、データを出力しない。再びデータが入力されると、データを処理して、データの出力が再開される。逆に、データの出力ができない状態に陥ると、データの入力を受け付けないようにして、データの出力が可能になったら、データの入力も再開するのである。従って、ハンドシェイク転送を持った処理部では、処理すべきデータがあるときだけ動作し、それ以外のときは停止していることになる。
これに対して、上述した同期転送では、データの受け渡しのタイミングが最優先の条件であり、転送されるデータを事前に準備している事が前提となる。連続転送を行うので、転送中は、送信側では、送信バッファが空にならない様に、常に送信バッファにデータが存在する状態にしておかなければならないし、受信側では、受信バッファが溢れない様に、受信バッファからデータを読み出し、受信バッファに空きがある状態にしておかなければならない。
しかし、ハンドシェイク転送では、タイミングは規定されておらず、転送されるデータの存在が最優先の条件となる。受信側の受信バッファに空きがあり、送信側の送信バッファに転送されるデータがあるという、送受信両方の条件が満たされて初めて転送動作が行われる。送信すべきデータがなければ(送信バッファが空)、もしくは、受信バッファに空きがなければ、転送しないだけなので、送信バッファを常に満たしておく必要はないし、受信バッファに常に空きがある必要もない。
そこで、この実施の形態のカメラシステムにおいては、上述もしたように、撮像素子部2と撮像センサI/FLSI3との間、撮像センサI/FLSI3と信号処理LSI4との間、信号処理LSI4と表示処理LSI5と間においては、ハンドシェイク転送を用いるようにしている。この場合、画像データの送信側と受信側との双方においては、単位時間(例えば、ライン開始基準信号HDによって規定される水平区間毎)に決まったデータ量の画像データの転送ができる帯域は確保している。
すなわち、図1に示したカメラシステムにおいて、ハンドシェイク転送を行う部分においては、所定の単位時間(例えば1水平区間)毎に、時分割的に画像データの入力と出力とを行うようにした場合であっても、当該単位時間内において一定量の画像データ(例えば、1ライン分の画像データ)を処理可能な帯域を保証できるようにしている。
[ハンドシェイク転送を行う部分の詳細について]
次に、図1に示したこの実施の形態のカメラシステムにおいて、ハンドシェイク転送を行う部分の詳細について説明する。ここでは、図1に示したカメラシステムのハンドシェイク転送を行う部分の内、画像データを取り込む部分と、画像データを出力する部分とに分けて説明する。
次に、図1に示したこの実施の形態のカメラシステムにおいて、ハンドシェイク転送を行う部分の詳細について説明する。ここでは、図1に示したカメラシステムのハンドシェイク転送を行う部分の内、画像データを取り込む部分と、画像データを出力する部分とに分けて説明する。
まず、画像データを取り込む部分について説明する。図5は、図1に示したカメラシステムのハンドシェイク転送を行う部分の内、画像データを取り込む部分である撮像素子部2と、撮像センサI/FLSI3のLSII/F部301と、信号処理LSI4のセンサI/F部401とからなる部分について説明するためのブロック図である。
図5に示すように、撮像素子部2は、撮像素子201と、取り込み部202と、フレームバッファ203と、データ送信部204と、HS(ハンドシェイク)送信制御部205とを備えるものである。また、LSII/F部301は、データ受信部3011と、バッファ3012と、データ送信部3013と、HS(ハンドシェイク)受信/送信制御部3014とを備えるものである。また、センサI/F部401は、データ受信部4011と、バッファ4012と、データ処理部4013と、HS(ハンドシェイク)受信制御部4014とを備えるものである。
そして、図1に示したカメラシステムが撮影モードにあるときには、撮像素子201を介して取り込まれた画像データは、取り込み部202を通じてフレームバッファ203に書き込まれる。一方、LSII/F部301のHS受信/送信制御部3014は、バッファ3012の使用状態を監視しており、バッファ3012に空き領域があり、データの書き込みが可能な状態にあるときには、撮像素子部2のHS送信制御部205に対して、W_RDY信号を送信する。
撮像素子部2のHS送信制御部205は、フレームバッファ203の使用状態を監視しており、LSII/F部301のHS受信/送信制御部3014からのW_RDY信号を受信し、かつ、フレームバッファ203に送信すべき画像データがあるときには、LSII/F部301のHS受信/送信制御部3014に対してW_VALID信号を送信すると共に、これに合わせてデータ送信部204を制御し、フレームバッファ203から送信すべき画像データDtを読み出してLSII/F部301に送信する。
LSII/F部301のデータ受信部3011は、HS受信/送信制御部3014からのW_VALID信号に応じた制御信号に応じて、撮像素子部2からの画像データDtを受信し、これをバッファ3012に記録する。一方、センサI/F部401のHS受信制御部4014は、バッファ4012の使用状態を監視しており、バッファ4012に空き領域があり、データの書き込みが可能な状態にあるときには、LSII/F部301のHS受信/送信制御部3014に対して、W_RDY信号を送信する。
LSII/F部301のHS受信/送信制御部3014は、バッファ3012の使用状態を監視しており、センサI/F部401のHS受信制御部4014からのW_RDY信号を受信し、かつ、バッファ3012に送信すべき画像データDtがあるときには、センサI/F部401のHS受信制御部4014に対してW_VALID信号を送信すると共に、これに合わせてデータ送信部3013を制御し、バッファ3012から送信すべき画像データDtを読み出してセンサI/F部401に送信する。
センサI/F部401のデータ受信部4011は、HS受信制御部4014からのW_VALID信号に応じた制御信号に応じて、LSII/F部301からの画像データDtを受信し、これをバッファ4012に記録する。このようにして、バッファ4012に記録された画像データDtは、データ処理部4013により読み出され、後段の処理部に供給するようにされる。
このように、図1に示したこの実施の形態のカメラシステムにおいては、ハンドシェイク転送により、撮像素子部2からLSII/F部301へ、LSII/F部301からセンサI/F部401へというように、撮像することにより得られた画像データが転送され、信号処理LSI4に供給されて所定のカメラ信号処理がなされ、処理後の画像データが、表示デバイス6に供給されて再生するようにされたり、あるいは、記録媒体4Mに記録するようにされたりする。
なお、ここでは、撮像素子部2にはフレームバッファ203を設けた場合を説明したが、撮像素子自体が画像データを保持することができ、必要なタイミングで読み出すことができるようになっている場合には、取り込み部202やフレームバッファ203は必要ないことになる。
次に、画像データを出力する部分について説明する。図6は、図1に示したカメラシステムのハンドシェイク転送を行う部分の内、画像データを出力する部分である信号処理LSI4の表示処理部406と、表示処理LSI5の表示処理部501とからなる部分について説明するためのブロック図である。
図6に示すように、データを送信する側の表示処理部406は、データ処理部4061と、バッファ4062と、データ送信部4063と、HS送信制御部4064とを備えるものである。また、データを受信する側の表示処理部501は、データ受信部5011と、バッファ5012と、データ処理部5013と、HS受信制御部5014とを備えるものである。
データを送信する側の表示処理部406のデータ処理部4061は、DRAM4Dから読み出された表示用の画像データの供給を受けて、これをバッファ4062に記録する。一方、データを受信する側の表示処理部501のHS受信制御部5014は、バッファ5012の使用状態を監視しており、バッファ5012に空き領域があり、データの書き込みが可能な状態にあるときには、データを送信する側の表示処理部406のHS送信制御部4064に対して、W_RDY信号を送信する。
送信側の表示処理部406のHS送信制御部4064は、バッファ4062の使用状態を監視しており、受信側の表示処理部501のHS受信制御部5014からのW_RDY信号を受信し、かつ、バッファ4062に送信すべき画像データがあるときには、受信側の表示処理部501のHS受信制御部5014に対してW_VALID信号を送信すると共に、これに合わせてデータ送信部4063を制御し、バッファ4062から送信すべき画像データDtを読み出して受信側の表示処理部501に送信する。
受信側の表示処理部501のデータ受信部5011は、送信側の表示処理部406のHS送信制御部4064からのW_VALID信号に応じた制御信号に応じて、送信側の表示処理部406からの画像データDtを受信し、これをバッファ5012に記録する。このようにして、バッファ5012に記録された画像データは、データ処理部5013により読み出され、後段の表示デバイス6に供給するようにされる。
このように、図1に示したこの実施の形態のカメラシステムにおいては、ハンドシェイク転送により、送信側の表示処理部406から受信側の表示処理部501へ表示対象の画像データが転送され、これに応じた画像が表示デバイス6の表示画面に表示するようにされる。
そして、図5、図6を用いた説明からも分かるように、信号処理LSI4への画像データの転送、および、信号LSIから表示処理LSI5への画像データの転送は、ハンドシェイク転送により行われるので、同期転送のように、システムに負荷を与えることなく画像データの転送を行うことができるようにされる。
なお、図5、図6は、受信側がRDY信号を送出するシステムとして構成したが、図3を用いて説明した送信側がRDY信号を送出するシステムで構成することももちろん可能である。
[同期転送が無い場合と、同期転送がある場合のメモリアクセスのイメージ]
図7Aは、図1に示したカメラシステムの信号処理LSI4におけるDRAM4Dへのアクセスのイメージを説明するための図である。すなわち、図7Aは、同期転送を用いず、ハンドシェイク転送により画像データが転送するようにされるカメラシステムにおけるDRAM4Dに対するアクセスの状態を説明するための図である。
図7Aは、図1に示したカメラシステムの信号処理LSI4におけるDRAM4Dへのアクセスのイメージを説明するための図である。すなわち、図7Aは、同期転送を用いず、ハンドシェイク転送により画像データが転送するようにされるカメラシステムにおけるDRAM4Dに対するアクセスの状態を説明するための図である。
上述したように、信号処理LSIでは、センサI/F部401を通じて受け付けた画像データは、所定の処理が施された後にDRAM4Dに記録され、この後、表示処理LSI5に出力するために読み出されて、表示処理部406を通じて表示処理LSI5に出力される。
このような画像データについてのDRAM4Dへの書き込みと読み出しとについては、当然ながら、ライン開始基準信号HDによって規定される1水平区間毎の画像データについては、単位時間、すなわち、1水平区間毎に、書き込みも読み出しも完結していなけければならない。この状態を示したのが図7Aである。
図7Aの(1)は、1水平区間におけるDRAM4Dへのアクセス数の変化を示すグラフである。図7Aの(2)は、ライン開始基準信号HDを示している。図7Aの(3)は、センサ入力によるライトアクセスが行われる期間、すなわち、センサI/F部401を通じて受け付けた画像データを処理してDRAM4Dに書き込む処理が行われる期間を示している。
また、図7Aの(4)は、映像出力のためのリードアクセスが行われる期間、すなわち、表示処理部406を通じて出力する画像データをDRAM4Dから読み出す処理が行われる期間を示している。また、図7Aの(5)は、上記の画像データの書き込み処理や読み出し処理以外に、DRAM4Dへのアクセスを伴う処理が行われる期間を示している。
上述したように、図1に示した実施の形態のカメラシステムの場合、同期転送を行う部分は存在しないので、リアルタイム優先度の処理は無く、全ての処理はベストエフォート優先とされ、長時間待たされる処理は無くなる。これにより、図7Aの(3)、(4)、(5)に示すように、撮影された画像データのDRAM4Dへの書き込み処理も、再生対象の画像データのDRAM4Dからの読み出し処理も、さらに、その他のDRAM4Dへのアクセス処理も、全て、1水平区間毎に均等に処理され、その全てを1水平区間毎に完結するように処理することができるようにされる。
従って、ハンドシェイク転送のみを用いた図1に示した実施の形態のカメラシステムの場合には、図7Aの(1)に示すように、各水平区間において、DRAM4Dへのアクセス数を一定に保つようにすることが可能となり、種々の処理を並列に実行することができる共に、必要な帯域も大きくすることもないようにすることができるのである。
これに対して、図7Bは、図1に示したカメラシステムにおいて、信号処理LSI4への画像データの転送と、信号処理LSI4からの画像データの転送とを同期転送方式を用いて行うようにした場合のDRAM4Dに対するアクセスの状態を説明するための図である。
この図7Bにおいても、図7Aの場合と同様に、図7Bの(1)は、1水平区間におけるDRAM4Dへのアクセス数の変化を示すグラフである。図7Bの(2)は、ライン開始基準信号HDを示している。図7Bの(3)は、センサ入力によるライトアクセスを行う期間、すなわち、センサI/F部401を通じて受け付けた画像データを処理してDRAM4Dに書き込む処理を行う期間を示している。
また、図7Bの(4)は、映像出力のためのリードアクセスを行う期間、すなわち、表示処理部406を通じて出力する画像データをDRAM4Dから読み出す処理を行う期間を示している。また、図7Bの(5)は、上記の画像データの書き込み処理や読み出し処理以外に、DRAM4Dへのアクセスを伴う処理を行う期間を示している。
同期転送の場合、図7Bの(3)に示した画像データのDRAM4Dへのライトアクセスと、図7Bの(4)に示した画像データのDRAM4Dへのリードアクセスとは、リアルタイム処理しなければならない。
つまり、センサI/F部401からの画像データをリアルタイムに書き込む処理が待たされると、書き込むべき画像データはどんどん消滅してしまう。また、表示デバイス6に供給する画像データをDRAM4Dから読み出す処理が待たされると、表示デバイス6に供給する画像データが不足し、表示デバイス6における画像の表示に支障をきたすことになるため、両処理ともリアルタイム優先の処理となる。
このように、信号処理LSI4への画像データの供給と、信号処理LSI4からの画像データの出力とが同期転送で行うようにされた場合、信号処理LSI4においては、ライン開始基準信号HD、フレーム開始基準信号VDとを基準信号として用いて、リアルタイム処理がなされるために、図7Bの(3)、(4)に示すように、リアルタイム優先の処理が重なり合うことになり、図7Bの(1)に示すように、DRAM4Dに対するアクセス数は、リアルタイム優先の処理が重なり合う部分において大きくなり、これに見合う十分な帯域が必要になる。
また、リアルタイム優先度の処理が多いと、図7Bの(5)に示したようなその他の処理が待たされてしまうことになる。図7Bの(5)において、矢印Xが示す区間においては、ライトアクセスとリードアクセスとが重なりあっているために、他の処理によるR(リード)/W(ライト)アクセスのWAIT(待機)状態が長くなっている。
なお、その他の処理によりDRAM4Dへのアクセスが発生しないときに、DRAM4Dが空いていても仕方が無く、リアルタイム優先度以外の処理についても、リアルタイム優先度の処理に大きく影響を受けることなく、DRAM4Dへのアクセスを行えるようにすることが望ましいと言える。
そして、図7Aと図7Bとを比較すると分かるように、図7Aに示したハンドシェイク転送を用いたシステムにおいては、ライトアクセス、リードアクセス、その他のアクセスは、単位時間内に分散して行うことができるようにされるので、図7A(1)に示すように、単位時間内においては、各処理を均一に実行することができ、広い帯域を実現しなくても、所定量のデータ処理を実行することができるのである。
このように、図7Aの同期転送を用いることなくハンドシェイク転送を用いるようにしたシステムのメモリアクセスイメージと、同期転送を用いるようにしたシステムのメモリアクセスイメージとを比較すると分かるように、大きな帯域が必要でなく、種々の処理を1水平区間において均等に、かつ、確実に実行することが可能なハンドシェイク転送を用いたシステムが安定して動作することが分かる。
[映像システムへの適用について]
上述した実施の形態においては、この発明をカメラシステムに適用した場合を例にして説明した。しかし、これに限るものではない。例えば、DVD(Digital Versatile Disc)プレイヤー、VTR(Video Tape Recorder)、IRD(Integrated Receiver Decoder)やSTB(Set-Top Box)などと呼ばれるデジタル放送受信用の受信機、デジタル放送のテレビ受信機など、種々の種々の映像機器にも適用できる。
上述した実施の形態においては、この発明をカメラシステムに適用した場合を例にして説明した。しかし、これに限るものではない。例えば、DVD(Digital Versatile Disc)プレイヤー、VTR(Video Tape Recorder)、IRD(Integrated Receiver Decoder)やSTB(Set-Top Box)などと呼ばれるデジタル放送受信用の受信機、デジタル放送のテレビ受信機など、種々の種々の映像機器にも適用できる。
図8は、一般的な映像機器にこの発明を適用した場合について説明するためのブロック図である。図1に示したカメラシステムが、被写体の画像を画像データとして取り込む部分としてレンズ1、撮像素子部2、撮像センサI/FLSI3を備えているのに対して、図8に示した一般的な映像機器は、既に存在する画像データの供給を受けて処理するものである。
図8に示すように、この例の映像機器は、大きく分けると、信号処理LSI7と、表示システム部8と、表示デバイス9とを備えると共に、信号処理LSI7には、汎用DRAM7Dと、記録媒体7Mとが接続するようにされたものである。そして、図8に示した映像機器においては、信号処理LSIへの画像データの入力と、信号処理LSIからの画像データの出力とは、何れもハンドシェイク転送を用いて行うようにしている。
信号処理LSI7は、図8に示すように、ハンドシェイク受信処理を行う映像入力処理部701、画像処理部702、解像度変換処理部703、ハンドシェイク送信処理を行う映像出力処理部704、チューナ705、メモリコントローラ706、圧縮伸張処理部707、記録再生処理部708、同期信号生成部709、CPU710を備えたものである。
そして、画像処理部702、解像度変換処理部703、映像出力処理部704、メモリコントローラ706、圧縮伸張処理部707、記録再生処理部708のそれぞれに対しては、図8に示すようにバスI/F(図8においては単にI/Fと記載)712、713、714、716、717、718が接続されており、I/F712、713、714、716、717、718のそれぞれは、1本ないし複数本の共通バスに接続されている。
なお、図8に示した例の場合には、各処理部は対応するI/F712、713、714、716、717、718を通じて1本のバスに接続されている場合の例を示している。また、各処理部間のデータのやり取りは、バスを経由することを原則とするが、バスを経由せず、処理部間で直接データをやり取りする場合もある。処理部同士でI/Fを経由せずに直接接続しデータの転送を行う場合は、それをひとつの処理部とみなせる。
信号処理LSI7のCPU710は、信号処理LSI7内部の各部を制御するものである。また、同期信号生成部709は、各種の処理において用いられる種々のタイミング基準信号を生成し、これを必要とする処理部に供給するものである。なお、タイミング基準信号は、種々のものがあるが、例えば、フレーム開始基準信号VDやライン開始基準信号HD等などである。
そして、信号処理LSI7の映像入力処理部701は、ハンドシェイク受信処理を行うものであり、画像データの供給元へのW_RDY信号の送信、画像データの供給元からのW_VALID信号と画像データとの受信を行うものである。
画像データの供給元としては、図示しないが、DVD等の記録媒体に記録されている画像データを読み出す記録媒体ドライバや、デジタル放送波を受信、選局し、目的とする放送番組を選択するいわゆるフロントエンド部や、外部機器からの画像データの入力を受け付けて、自機において処理可能な形式の画像データに変換して取り込むI/F回路部等が挙げられる。
すなわち、映像入力処理部701は、図2を用いて説明した受信デバイス20の機能を実現するものであり、図示しない画像データの供給元が図2を用いて説明した送信デバイス10の機能を実現するものである。
画像処理部702は、映像入力処理部701からの画像データに対して、必要に応じた各種補正処理を行い、最終的にYCデータ(色差データ)に変換する。なお、画像処理部702は、YCデータに対しても必要に応じてアパコン処理やノイズリダクション処理などの画像処理を行うことができるものである。
解像度変換処理部703は、YCデータの状態の画像データに対して、画像のスケーリングを行うものである。また、圧縮処理部405は、YCデータをJPEG(Joint Photographic Experts Group)方式やMPEG(Moving Picture Experts Group)方式などの符号化したり、逆に、JPEG(Joint Photographic Experts Group)方式やMPEG(Moving Picture Experts Group)方式などで符号化されている画像データを復号化して(伸張処理して)符号化前の画像データを復元したりする。
そして、信号処理LSI4においては、映像入力処理部701からの画像データに対して、いくつかの必要な処理、例えば、画像処理等を行うと、処理後の画像データを、一旦、DRAM7Dに保存する。DRAM7Dに画像データを記録する場合には、I/F716を介してバスに接続されたメモリコントローラ706を経由して記録することになる。
このようにして、一旦、DRAM7Dに保存された画像データは、必要に応じて、DRAM7Dから読み出され、各処理部で処理され、再びDRAM7Dに書き戻されるというように、DRAM7Dを作業領域として用いて、目的とする形式の画像データを形成することができるようにしている。なお、信号処理LSI7の各処理部での処理の内容や処理の順番、組み合わせはデータフローに応じて、多種多様である。
そして、上述した処理部の幾つかが機能して、表示システム部8に送る状態となった画像データ、例えばYCデータとされた画像データがDRAM7Dに準備できたとする。すなわち、画像処理部702、解像度変換処理部703が機能し、表示システム部8に供給する形式のYCデータがDRAM7Dに準備できたとする。この場合、DRAM7Dに準備された画像データは、メモリコントローラ706によって読み出され、I/F716、バス、I/F714を通じて映像出力処理部704に供給される。
映像出力処理部704は、表示システム部8に対して信号を送信するものであり、ハンドシェイク送信処理を行うものである。表示システム部85は、映像出力処理部704からの画像データをハンドシェイク受信する受信側の映像入力処理部81を備えるものである。表示システム部8の映像入力処理部81は、信号処理LSI7からの画像データをフォーマットに則って解釈し、液晶パネルなどの表示デバイス9に供給して表示デバイス9の表示画面に画像を表示するようにする。
このように、信号処理LSI7の映像出力処理部704は、図2を用いて説明した送信デバイス10の機能を実現するものであり、表示システム部8の映像入力処理部81は、図2を用いて説明した受信デバイス20の機能を実現するものである。
また、図8に示した映像機器の信号処理LSI7においては、圧縮伸張処理部707において圧縮処理された画像データを、I/F718を介して記録再生処理部708に供給し、記録再生処理部708の機能により、画像データを記録媒体7Mに記録することもできるようにしている。記録媒体7Mとしては、磁気テープ、光磁気ディスク、半導体メモリなど種々のものを用いることが可能であるが、ここではフラッシュメモリなどの半導体不揮発性メモリが用いられているものとする。
また、信号処理LSI7は、記録媒体7Mに記録された圧縮処理されている画像データを記録再生処理部708の機能により読み出し、これを圧縮伸張処理部707に供給して伸張処理して圧縮前の元のYCデータを復元し、これをI/F714、映像出力処理部704を介して、表示システム部8に供給することもできるようにしている。
このような、一般的な映像機器においても、信号処理LSI7の入力部分と出力部分とにおいて、ハンドシェイク転送を用いることにより、上述もしたように、同期転送を用いた場合のようにリアルタイム処理が重複することによる帯域増大やリアルタイム処理以外の処理の遅延を招くことなく、全ての処理をライン開始基準信号HDによって定められる1水平区間毎に均一に処理することができる。
さらに詳しく言えば、図1に示したカメラシステムや、図8に示した一般的な映像機器を用いて説明したように、LSI間において、同期転送を用いることなく、ハンドシェイク転送のみでデータの転送を行えるようにすることにより、システム設計において、バス帯域を考慮する場合も、最大瞬間速度を考慮する必要はなく、単位時間あたりのアクセスを考慮するだけでよく、設計が飛躍的に簡単になる。すなわち、設計の難易度を飛躍的に低減させることができる。
また、同期転送がなくなり、ハンドシェイク転送のみでシステムが設計され、単位時間当たりの帯域が確保された場合、全てのメモリアクセスがベストエフォート要求になるため、WAIT(待機)できない機能処理部は存在しない。
その場合、入力データの準備ができた処理部から順次メモリアクセス要求を出し、処理を行い、次の処理部用のデータの出力が行える。入力データの準備ができていない処理部はWAIT(待機)状態にあるだけで、データの準備ができしだい処理を再開する。結果として、必要なアクセス要求が長時間待たされることなく随時処理できるようになり、アクセスが分散される。
どの処理部においても、単位時間当たりのメモリアクセスの全てが可能な帯域が確保されているので、必要に応じて、順次アクセスしていけば全てのアクセスが完了し、それに応じて、必要な処理が行われる。
結果として、アクセス頻度の疎密も少なくなり、時間軸に関して、アクセス頻度の平滑化もなされ、オーバースペックな帯域を保証する必要もなくなり、適切なスペックになる。すなわち、メモリのビット幅(メモリの個数)やクロック数などを必要以上にあげる必要もなくなるので、消費電力の低減にもつながる。
また、プロトコルに従った同期転送ではないので、タイミング待ちを行う必要もなく、即時、転送の開始が可能になったり、CPUに転送終了を知らせる割り込み等を用いることにより、単位時間に複数回の転送を行うことも可能になったりするなど、自由度の高い転送システムにすることもできる。
[変形例]
上述した実施の形態においては、各LSI間(デバイス間)においてハンドシェイク転送を用いることにより、必要帯域を圧縮し、種々の処理を1水平区間毎に均一に処理することができるようにした。しかし、これに限るものではない。例えば、リアルタイム処理することが望ましいデータが処理対象である場合には同期転送を用い、それ以外の場合にはハンドシェイク転送を用いるというように、処理対象のデータに応じて、同期転送とハンドシェイク転送とを切り替えるようにすることもできる。
上述した実施の形態においては、各LSI間(デバイス間)においてハンドシェイク転送を用いることにより、必要帯域を圧縮し、種々の処理を1水平区間毎に均一に処理することができるようにした。しかし、これに限るものではない。例えば、リアルタイム処理することが望ましいデータが処理対象である場合には同期転送を用い、それ以外の場合にはハンドシェイク転送を用いるというように、処理対象のデータに応じて、同期転送とハンドシェイク転送とを切り替えるようにすることもできる。
図9は、同期転送とハンドシェイク転送とを切り替えるようにするシステムの構成例を説明するためのブロック図である。図9に示すように、この変形例のシステムは、送信デバイス50と、受信デバイス60とからなっている。
送信デバイス50は、CPU51、送信制御部52、外部端子機能セレクタ53、画像処理部54、送信バッファ55、データ送信部56を備えると共に、主にワークエリアとして用いられるメモリM5が接続されたものである。CPU51は、当該送信デバイス50の各部を制御するものである。送信制御部52は、図9に示すように同期送信制御部521とHS(ハンドシェイク)送信制御部522とを備え、CPU51の制御に応じて、いずれか一方の送信制御部を機能させるようにすることができるものである。
外部端子機能セレクタ53は、同期送信制御部521と受信デバイス60とを接続するようにするのか、HS送信制御部522と受信デバイス60とを接続するようにするのかを切り替えるものである。画像処理部54は、これに供給された画像データに対して送信用の画像データを形成し、これを送信バッファ55に書き込むものである。送信バッファ55は、送信すべき画像データ(送信データ)を一時記憶するものである。また、データ送信部56は、送信制御部55の制御に応じて送信バッファ55に記憶されている画像データを読み出し、これを受信デバイス60に対して送信するものである。
一方、受信デバイス60は、CPU61、受信制御部62、外部端子機能セレクタ63、データ受信部64、受信バッファ65、画像処理部66を備えると共に、主にワークエリアとして用いられるメモリM6が接続されたものである。CPU61は、当該受信デバイス60の各部を制御するものである。受信制御部62は、図9に示すように同期受信制御部621とHS(ハンドシェイク)受信制御部622とを備え、CPU61の制御に応じて、いずれか一方の受信制御部を機能させるようにすることができるものである。
外部端子機能セレクタ63は、同期受信制御部621と送信デバイス50とを接続するようにするのか、HS受信制御部622と送信デバイス50とを接続するようにするのかを切り替えるものである。データ受信部64は、受信制御部62の制御に応じて、送信デバイス50から送信される画像データを受信し、これを受信バッファに書き込むものである。受信バッファ65は、上述のように、データ受信部64を通じて受信した画像データ(受信データ)を一時記憶するものである。また、画像処理部66は、受信バッファ65に一時記憶された画像データを読み出して、これに所定の処理を施し、後段の回路部に供給するものである。
そして、この変形例において、動画像データを処理する場合には、従来通り同期転送を用い、静止画像データを処理する場合には、上述した実施の形態のカメラシステムや映像機器の場合と同様にハンドシェイク転送を用いるものとして説明する。
例えば、処理対象のデータの形式を確認することにより、処理対象のデータが動画像データか静止画像データかは判別することが可能である。当該システムの全体を制御する図示しない制御部は、送信デバイス50と受信デバイス60との双方に対して、処理対象の画像データの形式を通知する。これに応じて、送信デバイス50CPU51と受信デバイス60のCPU61は、自デバイスの関連する各部を制御する。
そして、処理対象の画像データが動画像データである場合には、送信デバイス50のCPU51は、送信制御部52を制御し、同期送信制御部521を機能させるようにすると共に、外部端子機能セレクタ53を制御して、同期送信制御部521と、受信デバイス60とを接続するように切り替える。一方、受信デバイス60のCPU61は、受信制御部62を制御し、同期受信制御部621を機能させるようにすると共に、外部端子機能セレクタ63を制御して、同期受信制御部621と送信デバイス50とを接続するように切り替える。
これにより、送信デバイス50の同期送信制御部522は、フレーム開始基準信号VDとライン開始基準信号HDとを形成し、これを外部端子機能セレクタ53を通じて受信デバイスに送信すると共に、データ送信部56を制御し、フレーム開始基準信号VDとライン開始基準信号HDとに応じたタイミング(同期したタイミング)で画像データを受信デバイス60に送信する。
一方、受信デバイス60においては、外部端子機能セレクタ63を通じて受け付けたフレーム開始基準信号VDとライン開始基準信号HDとが同期信号制御部621に供給される。同期信号制御部621は、これに供給されたフレーム開始基準信号VDとライン開始基準信号HDとに基づいて、データ受信部64を制御し、送信デバイス50のデータ送信部56からの画像データを同期を取って受信し、受信バッファ65に書き込む。
また、処理対象の画像データが静止画像データである場合には、送信デバイス50のCPU51は、送信制御部52を制御し、HS送信制御部522を機能させるようにすると共に、外部端子機能セレクタ53を制御して、HS送信制御部522と、受信デバイス60とを接続するように切り替える。一方、受信デバイス60のCPU61は、受信制御部62を制御し、HS受信制御部622を機能させるようにすると共に、外部端子機能セレクタ63を制御して、HS受信制御部622と送信デバイス50とを接続するように切り替える。
これにより、受信デバイス62のHS受信制御部622は、受信バッファ65のデータの記録状態を監視し、空きがある場合には、RDY信号を形成し、これを外部端子機能セレクタ63を通じて受信デバイス50に送信する。受信デバイス50のHS送信制御部522は、外部端子機能セレクタ53を通じて、受信デバイス60からのRDY信号を受信した場合には、自機の送信バッファ55に送信すべきデータが存在するか否かを確認する。
HS送信制御部522は、送信バッファ55に送信すべきデータが存在する場合には、VALID信号を形成して、これを外部端子機能セレクタ53を通じて受信デバイス60に送信すると共に、データ送信部56を制御し、VALID信号に応じたタイミングで送信バッファ55に記憶されている画像データを受信デバイス60に送信する。
そして、受信デバイス60は、外部端子機能セレクタ63を通じて、HS受信制御部622が、送信デバイス50からのVALID信号を受信すると、これに応じてデータ受信部64を制御して、送信デバイス50のデータ送信部56からの画像データを受信し、これを受信バッファ65に格納する。
このようにして、処理対象のデータに応じて、同期転送でデータを送受するか、ハンドシェイク転送でデータを送受するかを選択し、適切な転送モードで画像データを転送処理することができるようにされる。
このように、目的によって2種のモード(同期転送モードとハンドシェイク転送モード)とを切り替えて、使い分けできるようにすれば、自由度の高い転送システムを構成することができる。特に、図9に示したように、同期転送時のフレーム開始基準信号VD、ライン開始基準信号HD等の基準信号を伝送する信号線路(同期信号線)と、ハンドシェイク転送時のRDY信号とVALID信号を伝送する信号線路(制御線)とを共用するように構成することによって、デバイス間(LSI間)の接続線を増やすことなく、2種類の転送モードを比較的容易に実装することが可能である。
[変形例のシステムの処理について]
次に、図9に示したように構成されるシステムの送信デバイス50、受信デバイス60で行われる基本的な処理について、図10、図11のフローチャートを参照しながら説明する。
次に、図9に示したように構成されるシステムの送信デバイス50、受信デバイス60で行われる基本的な処理について、図10、図11のフローチャートを参照しながら説明する。
[送信デバイス50の処理について]
図10は、図9に示したシステムの送信デバイス50で行われる基本的な処理を説明するためのフローチャートである。この図10に示す処理は、送信デバイス50のCPU51の制御により実行される。
図10は、図9に示したシステムの送信デバイス50で行われる基本的な処理を説明するためのフローチャートである。この図10に示す処理は、送信デバイス50のCPU51の制御により実行される。
上述もしたように、図9に示したシステムの全体を制御する図示しない制御部は、送信デバイス50に対して、処理対象の画像データの形式を通知する。これに応じて、送信デバイス50CPU51は、まず、リアルタイム処理が必要なデータか否かを判断する(ステップS101)。このステップS101の判断処理においては、処理対象の画像データが動画像データである場合には、リアルタイム処理が必要であると判断し、動画像データでない場合には、リアルタイム処理は必要ないと判断する。
ステップS101の判断処理において、リアルタイム処理が必要であると判断した場合には、CPU51は関連する各部を制御し、動画像データについてはリアルタイム処理(帯域確保型処理)を行うようにするために、同期転送モードで動作するようにする(ステップS102)。
このステップS102の処理は、送信制御部52では同期送信制御部521が機能するようにし、外部端子機能セレクタ53は、同期送信制御部521と受信デバイス60とを接続するようにして、送信バッファ55に格納された送信データである動画像データを、フレーム開始基準信号VDとライン開始基準信号HDとに応じて送信できるようにする。
また、ステップS101の判断処理において、リアルタイム処理が必要でないと判断した場合には、CPU51は関連する各部を制御し、動画像データ以外のデータについてはベストエフォート型処理を行うようにするために、ハンドシェイク転送モードで動作するようにする(ステップS103)。
このステップS103の処理は、送信制御部52ではHS(ハンドシェイク)送信制御部522が機能するようにし、外部端子機能セレクタ53は、HS送信制御部522と受信デバイス60とを接続するようにして、送信バッファ55に格納された送信データである動画像データ以外の画像データ(静止画像データ)を、受信デバイス60からのRDY信号受信後において、VALID信号にタイミングを合わせて送信できるようにする。
そして、ステップS102の処理の後、または、ステップS103の処理の後においては、ステップS102において選択された同期転送モードにより、あるいは、ステップS103において選択されたハンドシェイク転送モードにより、フレーム単位にライン毎のデータの送信処理を開始する(ステップS104)。そして、送信対象の全画像データの送信が終了したか否かを判断する(ステップS105)。
ステップS105の判断処理において、送信対象の画像データの送信が終了していないと判断したときには、ステップS105からの処理を繰り返し、画像データの送信処理を続行する。ステップS105の判断処理において、送信対象の画像データの送信が終了したと判断したときには、この図10に示す処理を終了する。
[受信デバイス60の処理について]
図11は、図9に示したシステムの受信デバイス60で行われる基本的な処理を説明するためのフローチャートである。この図11に示す処理は、受信デバイス60のCPU61の制御により実行される。送信と受信との違いがあるものの、受信デバイス60においても、送信デバイス50と同様の処理が行われることになる。
図11は、図9に示したシステムの受信デバイス60で行われる基本的な処理を説明するためのフローチャートである。この図11に示す処理は、受信デバイス60のCPU61の制御により実行される。送信と受信との違いがあるものの、受信デバイス60においても、送信デバイス50と同様の処理が行われることになる。
すなわち、上述もしたように、図9に示したシステムの全体を制御する図示しない制御部は、受信デバイス60に対しても、処理対象の画像データの形式を通知する。これに応じて、受信デバイス60CPU61は、まず、リアルタイム処理が必要なデータか否かを判断する(ステップS201)。このステップS201の判断処理においては、処理対象の画像データが動画像データである場合には、リアルタイム処理が必要であると判断し、動画像データでない場合には、リアルタイム処理は必要ないと判断する。
ステップS201の判断処理において、リアルタイム処理が必要であると判断した場合には、CPU61は関連する各部を制御し、動画像データについてはリアルタイム処理(帯域確保型処理)を行うようにするために、同期転送モードで動作するようにする(ステップS202)。
このステップS202の処理は、受信制御部62では同期送信制御部621が機能するようにし、外部端子機能セレクタ63は、同期送信制御部621と送信デバイス50とを接続するようにして、送信デバイス50から送信されてくる動画像データをフレーム開始基準信号VDとライン開始基準信号HDとに応じて受信できるようにする。
また、ステップS201の判断処理において、リアルタイム処理が必要でないと判断した場合には、CPU61は関連する各部を制御し、動画像データ以外のデータについてはベストエフォート型処理を行うようにするために、ハンドシェイク転送モードで動作するようにする(ステップS203)。
このステップS203の処理は、受信制御部62ではHS(ハンドシェイク)受信制御部622が機能するようにし、外部端子機能セレクタ63は、HS受信制御部622と送信デバイス50とを接続するようにして、受信バッファ65に空き容量がある場合に、送信デバイスにRDY信号を送信し、これに応じて送信デバイス50から送信されてくる静止画像データを、送信デバイスからのVALID信号に基づいて受信できるようにする。
そして、ステップS202の処理の後、または、ステップS203の処理の後においては、ステップS202において選択された同期転送モードにより、あるいは、ステップS203において選択されたハンドシェイク転送モードにより、フレーム単位にライン毎のデータの受信処理を開始する(ステップS204)。そして、送信対象の全画像データの受信が終了したか否かを判断する(ステップS205)。
ステップS205の判断処理において、送信対象の画像データの受信が終了していないと判断したときには、ステップS205からの処理を繰り返し、画像データの受信処理を続行する。ステップS205の判断処理において、送信対象の画像データの受信が終了したと判断したときには、この図11に示す処理を終了する。
このようにして、図9に示したシステムにおいては、処理対象のデータに応じて、同期転送でデータを送受するか、ハンドシェイク転送でデータを送受するかを選択し、適切な転送モードで画像データを転送処理することができるようにされる。
なお、処理対象のデータに応じて、データの転送モードを切り替えるようにしたが、これに限るものではない。例えば、ユーザーの指示入力に応じてデータの転送モードを切り替えるようにしてもよい。例えば、DVDに記録された高品位の映像信号とマルチチャンネルの音声信号とからなる映画のAVデータを再生して試聴する場合には、同期転送モードに切り替えるようにし、デジタルスチルカメラで撮影した多数の静止画像を一定時間ずつ表示して観賞できるようにするいわゆるスライドショー再生の場合には、ハンドシェイク転送モードに切り替えるようにすることが考えられる。
もちろん、通常は、動画像データであっても静止画像データであってもハンドシェイク転送モードを用いてデータ転送を行うようにするが、例えば、何らかの影響により正常な再生ができない場合に、同期転送モードに切り替えるようにするなどのことも可能である。
なお、この変形例のシステムも、受信側がRDY信号を送出するシステムとして構成したが、これに限るものではない。図3を用いて説明した送信側がRDY信号を送出するシステムで構成することももちろん可能である。
[同期転送とハンドシェイク転送のメモリアクセス要求優先度と処理タイミングについてのまとめ]
従来、同期転送方式でデータの転送が行われるのは、例えば図1に示したカメラシステムの場合であれば、撮像センサI/F部3とセンサI/F部(画像入力部)401との間、および、表示処理部(画像出力部)406と表示処理LSI5との間である。
従来、同期転送方式でデータの転送が行われるのは、例えば図1に示したカメラシステムの場合であれば、撮像センサI/F部3とセンサI/F部(画像入力部)401との間、および、表示処理部(画像出力部)406と表示処理LSI5との間である。
そして、同期転送、ハンドシェイク転送に関係なく、データの転送動作にはメモリが介在するのが普通である。すなわち、送信側では、転送するデータをメモリから読み出して各種処理後、送信バッファに蓄えるし、受信側では、転送されてきたデータを受信して受信バッファに蓄え、そのデータに各種処理を行い、メモリに書き込む。
メモリへのアクセスの帯域は、メモリのバス幅、動作クロック等で決定されるが、当然ながら有限の値を持っている。上述もしたように、同期転送は、転送しなければならないデータ量が予め決まっており、処理部からメモリへのアクセスをWAIT(待機)させることが許されない。そのため、同期転送時に使用される処理部のメモリアクセスチャンネルのアクセス要求の優先度は、最上位になるのが普通である。
ハンドシェイク転送の処理部は、メモリアクセスが待たされても動作が可能なので、一般にそのメモリアクセスチャンネルの優先度はリアルタイム優先度よりも下位の優先度になる。リアルタイムより下位の優先度としては、ある時間単位(例えば、1/60秒等)で最低限の帯域を保証したフレームレートの優先度や、何の保証もないベストエフォートの優先度などがある。
メモリの全帯域からリアルタイム転送で使用される帯域を除いた帯域で目的の転送が時間内に可能であればフレームレート転送ということになり、それより下位であれば、何の保証もできないだけで、両者は、本質的に同じベストエフォートと言って差し支えない。ベストエフォート優先度の中に優先度の序列が存在するだけである。したがって、リアルタイム優先度(リアルタイム転送)とベストエフォート優先度(ベストエフォート転送)の2種に大別できる。
ベストエフォート優先度のアクセス要求とリアルタイム優先度のアクセス要求が重なった場合、リアルタイム優先度の方が上位なので優先される。リアルタイム優先度の要求も、それぞれの処理部にデータバッファを搭載しているので、随時連続というわけではないので、バスを占有することはなく、リアルタイム優先度のアクセス要求の隙間を縫って、ベストエフォート優先度のアクセス要求も受理され、処理される。
このため、図1に示した撮像センサI/F部3とセンサI/F部(画像入力部)401との間、および、表示処理部(画像出力部)406と表示処理LSIとの間において同期転送方式を用いたのでは、上述したように、(1)処理部の完全並列動作が困難、(2)帯域(処理能力)のオーバースペック、(3)システム設計の複雑さなどの問題点を生じさせてしまう。また、同期転送方式を用いた場合には、上述したように、(A)同期転送のため、基準タイミングを待たなければ転送できない。(B)同期転送のため、単位時間内には、規定されたサイズの画像1枚だけの転送しかできないといった制約も受けてしまう。
しかし、図1に示したカメラシステムのように、動画像データを処理するいわゆる動画転送システムにおいては、単位時間に決まった量のデータが転送できればよいだけで、その単位時間内の一部の時間帯に集中してデータの転送を行う必要はない。すなわち、動画転送システムにおいては、入力された動画像データを逐次かつ順次に処理し、単位時間の中で均等に処理を行い、単位時間の中で全ての処理が完了できればよい。すなわち、動画像データの転送に当たっても、リアルタイム転送は必要絶対条件ではなく、動画転送システムをフレームレート転送で構成できればよい。
そこで、図1〜図11を用いて説明したように、動画像データの送信と受信とを行う動画転送システムであって、送信と受信との双方において、同期転送を用いることなく、ハンドシェイク転送を用いることによって、単位時間に決まったデータ量の転送ができる帯域の保証ができるシステムを構成するようにしているのが、上述した実施の形態の図1に示したカメラシステム、図9に示した映像機器である。このように、従来、同期転送であった部分をハンドシェイク転送にすることにより、動画データの入出力のためのデータ転送要求の優先度を下げることができる。
すなわち、図1に示したこの実施の形態のカメラシステムにおいては、撮像素子部2からの画像データの読み出しや、表示処理LSI5への画像データの出力等、従来、同期転送で転送されていて、メモリアクセスがリアルタイム優先度であるものについては、同期転送ではなく、全てハンドシェイク転送(ベストエフォートアクセス)で行うようにしている。つまり、図1に示したカメラシステムの場合、同期転送を行う部分がLSI内の転送にも、LSI間にも存在せず、全て、WAIT(待機)可能な処理部のみで構成されている。
そして、バス自体の帯域は、バス幅、動作クロック等で、単位時間当たりに必要なメモリアクセスの総数を問題なく行える帯域保証がされている。ここで、単位時間は、例えばテレビジョン信号方式に応じて、1/60秒(NTSC方式の場合)、あるいは、1/50秒(PAL方式の場合)のように定められる。
これにより、図1に示したカメラシステムの信号処理LSI4において、動画像データの入力と出力とをライン開始基準信号HDによって規定される水平区間毎に完結するようにようにするが、同期転送を用いることなく、ハンドシェイク転送によって適切に入力と出力とを行うようにすることができるのである。
これらのことは、図9に示した一般的な映像機器にも同様にいえる。すなわち、例えば図9に示したような、送信もしくは受信の片方しか持たないシステムについては、それぞれその部分の同期転送をハンドシェイク転送にしたシステム構成にする。表示デバイス等、同期転送の規格に合わせていた画像入力部は、ハンドシェイク機能を持った入力部にする。
また、図1に示したカメラシステムにおいて、撮像素子部2にフレームバッファを設けたように、図9に示した映像機器の信号処理LSI7に動画像データを供給する例えばフロントエンド部等の供給元にフレームバッファ機能を持たせ、その出力を同期転送からハンドシェイク転送にすることにより、図9を用いて説明したように、動画像データの入力部分と出力部分との双方において、ハンドシェイク転送を行うようにすることができる。
[実施の形態の効果について]
これらのことからも明らかなように、図1に示したカメラシステムのように、撮像センサシステム等からの映像入力系に同期転送がない場合、特定の時間帯に集中したメモリアクセスをする必要がなくなる。全時間帯に渡り、均等なメモリアクセスを実現できる。この結果として、動画入力のためのデータ転送要求の優先度を下げることができ、動画データを転送するバスの利用効率を上げることができる。
これらのことからも明らかなように、図1に示したカメラシステムのように、撮像センサシステム等からの映像入力系に同期転送がない場合、特定の時間帯に集中したメモリアクセスをする必要がなくなる。全時間帯に渡り、均等なメモリアクセスを実現できる。この結果として、動画入力のためのデータ転送要求の優先度を下げることができ、動画データを転送するバスの利用効率を上げることができる。
また、図1に示したカメラシステムのように、表示システム等への映像出力系に同期転送がない場合、特定の時間帯に集中したメモリアクセスをする必要がなくなる。全時間帯に渡り、均等なメモリアクセスを実現することができる。この結果として、動画出力のためのデータ転送要求の優先度を下げることができ、動画データを転送するバスの利用効率を上げることができる。
また、図1に示したカメラシステムのように、システム内の処理部内のデータ転送系に同期転送がない場合、特定の時間帯に集中したメモリアクセスをする必要がなくなる。全時間帯に渡り、均等なメモリアクセスを実現できる。結果として、動画出力のためのデータ転送要求の優先度を下げることができ、動画データを転送するバスの利用効率を上げることができる。
すなわち、図1に示したカメラシステムの場合には、どの部分にも同期転送モードを用いないようにしたが、映像入力系、信号処理系、映像出力系のいずれか1箇所においても、同期転送でなくハンドシェイク転送を用いるようにした場合には、その部分におけるバスの利用効率を上げることができ、全体的なシステムにかかる負荷を軽減できる。
また、図1に示したカメラシステムのように、システム内に同期転送がない場合、リアルタイム優先度の処理部がなくなることにより、メモリアクセスの均等化がなされ、帯域見積もり等、システム設計の複雑さが少なくなり、構成、設計の難易度が改善される。
また、システム内に同期転送がない場合、リアルタイム優先度の処理部がなくなることにより、WAIT(待機)できない機能ブロックがなくなり、ハンドシェイク系処理部のみで構成でき、処理部のI/Fの共通化等、構成、設計の難易度が改善される。
また、システム内に同期転送がない場合、リアルタイム転送時の疎密の差が激しいアクセスにおける最大帯域保証ではなく、平滑化されたアクセスにおける帯域保証保証でよいので、より低い帯域保証で同じ性能が実現できるので、クロックを落とすなど、より少ない消費電力で設計可能となる。
また、ハンドシェイク転送なので、同期転送と異なり、同期タイミングであるフレーム開始基準信号VDを待って転送する必要もなく、即時に転送開始が可能になるなど、転送のフレキシビリティが増加する。
また、割り込み等を用いて、1回のハンドシェイク転送の終了を感知し、単位時間内にサイズの小さい、サイズの異なる複数のデータを転送可能になるなど、転送のフレキシビリティが増加する。
また、同期転送とハンドシェイク転送の両方を実装し、その制御線を機能多重化により共通化すれば、端子数を増やすことなく、目的により、2種のモードの使い分けを行うことも可能となる。
なお、これらの効果については、図9を用いて説明した一般的な映像機器にこの発明を適用した場合にも、同様に奏することができる。
1…レンズ、2…撮像素子部2、3…撮像センサI/FLSI、301…LSII/F部、4…信号処理LSI、401…センサI/F部、402…検波処理部、403…画像処理部、404…解像度変換処理部、405…圧縮処理部、406…表示処理部、407…メモリコントローラ、408…伸張処理部、409…記録再生処理部、410…CPU、411…同期信号生成部、421〜429…バスI/F、5…表示処理LSI、501…表示処理部、6…表示デバイス、4D…汎用DRAM、4M…記録媒体
Claims (8)
- 被写体像を撮像する撮像素子部と、
撮像した画像信号を出力する撮像素子インターフェイス部と、
前記画像信号に所定の信号処理を施す信号処理部と、
表示処理部とを備え、
前記撮像素子インターフェイス部から出力された前記画像信号を前記信号処理部に供給し、前記信号処理部において所定の信号処理を施した画像データを前記表示処理部に供給するカメラシステムにおいて、
前記撮像素子部と前記撮像素子インターフェイス部の間、前記撮像素子インターフェイス部と前記信号処理部の間、または前記信号処理部と表示処理部の間の少なくとも1箇所において、ハンドシェイク転送により画像データの送受を行うこと
を特徴とするカメラシステム。 - 請求項1に記載のカメラシステムであって、
画像データの送信側は、
送信バッファ手段と、
前記送信バッファ手段に記憶された画像データを受信側に送信する送信手段と、
前記送信バッファ手段の使用状態を監視すると共に、受信側と転送制御信号の送受を行い、前記転送制御信号に応じたタイミングで前記送信バッファ手段に記憶された画像データを送信するように前記送信手段を制御するハンドシェイク送信制御手段と
を備え、
画像データの受信側は、
送信側から送信されてくる画像データを受信する受信手段と、
前記受信手段で受信された画像データを保持する受信バッファ手段と、
前記受信バッファ手段の使用状態を監視すると共に、送信側と転送制御信号の送受を行い、前記転送制御信号に応じたタイミングで前記送信側からの画像データを受信するように前記受信手段を制御するハンドシェイク受信制御手段と
を備えることを特徴とするカメラシステム。 - 請求項2に記載のカメラシステムであって、
前記画像データの送信側は、
受信側にタイミング基準信号を送信すると共に、当該タイミング基準信号に応じたタイミングで前記送信バッファ手段に記憶された画像データを送信するように前記送信手段を制御する同期送信制御手段を備え、
前記画像データの受信側は、
前記送信側からのタイミング基準信号を受信すると共に、受信した前記タイミング基準信号に応じたタイミングで前記送信側からの画像データを受信するように前記受信手段を制御する同期受信制御手段を備え、
前記受信側と前記送信側とにおいて、同期転送により画像データの送受を行うこともできるようにされており、ハンドシェイク転送により画像データの転送を行うか、同期転送により画像データの転送を行うかを切り替えることができることを特徴とするカメラシステム。 - 請求項3に記載のカメラシステムであって、
前記送信側のハンドシェイク送信制御手段と前記受信側のハンドシェイク受信制御手段との間で送受される前記転送制御信号と、前記送信側の同期送信制御手段と前記受信側の同期受信制御手段との間で送受される前記タイミング基準信号とを同一の信号線路を通じて送受するように構成したことを特徴とするカメラシステム。 - 被写体像を撮像する撮像素子部と、
撮像した画像信号を出力する撮像素子インターフェイス部と、
前記画像信号に所定の信号処理を施す信号処理部と、
表示処理部とを備え、
前記撮像素子インターフェイス部から出力された前記画像信号を前記信号処理部に供給し、前記信号処理部において所定の信号処理を施した画像データを前記表示処理部に供給するカメラシステムで用いられるデータ伝送方法であって、
前記撮像素子部と前記撮像素子インターフェイス部の間、前記撮像素子インターフェイス部と前記信号処理部の間、または前記信号処理部と表示処理部の間の少なくとも1箇所において、ハンドシェイク転送により画像データの送受を行うこと
を特徴とするデータ伝送方法。 - 請求項5に記載のデータ伝送方法であって、
送信側と受信側との間で、転送制御信号を送受し、相互にデータのやり取りが可能な状態にあることが確認できたときに、前記転送制御信号に応じたタイミングで、送信側から受信側に画像データを転送するハンドシェイク転送により画像データを伝送するデータ伝送方法。 - 請求項6に記載のデータ伝送方法であって、
前記送信側と受信側との間においては、タイミング基準信号を送受すると共に、当該タイミング基準信号に応じたタイミングで画像データを送受する同期転送により画像データを伝送することもできるものであり、
ハンドシェイク転送により画像データの転送を行うか、同期転送により画像データの転送を行うかを切り替えることができることを特徴とするデータ伝送方法。 - 請求項7に記載のデータ伝送方法であって、
前記送信側と前記受信側とで送受される前記転送制御信号と前記タイミング基準信号とは、同一の信号線路を通じて送受することを特徴とするデータ伝送方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007115034A JP2008271461A (ja) | 2007-04-25 | 2007-04-25 | カメラシステムおよびデータ伝送方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007115034A JP2008271461A (ja) | 2007-04-25 | 2007-04-25 | カメラシステムおよびデータ伝送方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008271461A true JP2008271461A (ja) | 2008-11-06 |
Family
ID=40050340
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007115034A Pending JP2008271461A (ja) | 2007-04-25 | 2007-04-25 | カメラシステムおよびデータ伝送方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008271461A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011093465A (ja) * | 2009-10-30 | 2011-05-12 | Denso Corp | 移動体用周辺監視システム |
JP2013090161A (ja) * | 2011-10-18 | 2013-05-13 | Fujitsu Ltd | 撮像装置及びアクセス制御方法 |
-
2007
- 2007-04-25 JP JP2007115034A patent/JP2008271461A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011093465A (ja) * | 2009-10-30 | 2011-05-12 | Denso Corp | 移動体用周辺監視システム |
US8461972B2 (en) | 2009-10-30 | 2013-06-11 | Denso Corporation | Movable object periphery monitoring system and method for controlling data transmission in the same |
JP2013090161A (ja) * | 2011-10-18 | 2013-05-13 | Fujitsu Ltd | 撮像装置及びアクセス制御方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5056370B2 (ja) | 撮像装置、撮像装置の制御方法および撮像装置の制御プログラム、ならびに、データ処理装置、データ処理方法およびデータ処理プログラム | |
KR20070011335A (ko) | 영상음성 처리용 집적회로 | |
JP2008187536A (ja) | データ処理装置、画像処理方法、及びコンピュータプログラム | |
KR101197436B1 (ko) | 영상 장치, 영상 출력 제어 방법 및 재생 제어 방법 | |
JP2013214346A (ja) | 撮像装置およびプログラム | |
JP2004080327A (ja) | 画像処理装置および画像処理方法、記録媒体、並びにプログラム | |
US9179065B2 (en) | Image processing apparatus, image processing method, and program product | |
JP2008271461A (ja) | カメラシステムおよびデータ伝送方法 | |
JP4750379B2 (ja) | 電子機器 | |
JP2003299038A (ja) | フレーム変換装置及びフレーム変換方法 | |
US9609215B2 (en) | Moving-image recording/reproduction apparatus | |
US10362216B2 (en) | Image pickup apparatus of which display start timing and display quality are selectable, method of controlling the same | |
JP2010130664A (ja) | データ転送方法およびデータ転送システム | |
JP2004048464A (ja) | 音声映像データ記録再生装置 | |
US20050013585A1 (en) | Communication apparatus, communication information recording method and memory medium | |
US9258540B2 (en) | Imaging apparatus | |
JP2005057321A (ja) | 信号処理装置 | |
US8345760B2 (en) | Information processing apparatus and information processing method | |
JP2019075724A (ja) | 映像伝送方法、映像伝送システム及び選択装置 | |
JP4363300B2 (ja) | 映像装置および映像出力制御方法 | |
JPH10294939A (ja) | 画像伝送システム及び画像伝送装置 | |
JP7016663B2 (ja) | 映像伝送方法、映像伝送システム及び選択装置 | |
JP2006229552A (ja) | ビデオカメラ | |
JP3897753B2 (ja) | 記憶出力装置 | |
JP5930807B2 (ja) | 撮像装置 |