JP3791904B2 - マルチディスプレイ装置 - Google Patents
マルチディスプレイ装置 Download PDFInfo
- Publication number
- JP3791904B2 JP3791904B2 JP2001349210A JP2001349210A JP3791904B2 JP 3791904 B2 JP3791904 B2 JP 3791904B2 JP 2001349210 A JP2001349210 A JP 2001349210A JP 2001349210 A JP2001349210 A JP 2001349210A JP 3791904 B2 JP3791904 B2 JP 3791904B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- information
- output
- image information
- audio
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- Transforming Electric Information Into Light Information (AREA)
Description
【発明の属する技術分野】
本発明は、複数の画像表示装置を用いて1枚の画像を表示するマルチディスプレイ装置に関する。
【0002】
【従来の技術】
複数の画像表示装置(プロジェクタ等の画像投影装置)で1枚の画像を表示するマルチディスプレイ装置では、それぞれの画像表示装置に入力される信号の同期が取れていないと、隣接する表示部分間で動画像が繋がって表示されない。例えば、図13に示すように、4台の画像表示装置のうち1台の表示が1フレーム以上遅れると、その部分の画像がずれて途切れて見える。
【0003】
画像を分割した時に同期が取れていても、絵柄によって演算処理が重くなる場合、例えば動画を抽出して輪郭強調をする処理や肌色部分のみについて色補正をする処理を行うような場合、規定の時間(例えば垂直ブランキング期間)内に演算処理が終了しないことがあり、その結果分割映像信号間の出力フレームがずれることがある。
【0004】
このような問題に対し、特開平6-35436或いは特開平6-259048では、画像メモリの読み出しのタイミングを同期させることで、分割画像間でのフレームずれをなくす提案がなされている。
【0005】
また、映像信号と音声信号が入力された場合、映像信号はフレームメモリにデータを出し入れして処理を行う(例えば、IP変換や輪郭強調等の信号処理を行う時、前後のフレームからデータを算出するため、画像データを一旦フレームメモリに格納する必要がある)ため、入力に対して出力は数フレーム遅延してしまう。これに対して音声処理の遅延は少ないため、ディスプレイ上で映像と音声が時間的にずれる、所謂リップシンクが発生する。これを防ぐために、デジタル放送では、送信時に映像と音声にタイムスタンプを付与し、受信機側ではタイムスタンプに基づいて映像と音声のタイミングを合わせている。
【0006】
【発明が解決しようとする課題】
しかしながら、従来は、複数の映像信号と音声信号とのタイミングを合わせる手法、すなわち複数の分割画像情報と音声情報との同期をとる手法について有効な提案がなされていなかった。
【0007】
本発明は、上記従来の課題に対してなされたものであり、複数の分割画像情報と音声情報との同期を効果的にとることが可能なマルチディスプレイ装置を提供することを目的としている。
【0008】
【課題を解決するための手段】
本発明は、表示された複数の画像を合成して1枚の画像を構成するマルチディスプレイ装置において、前記複数の画像の画像情報を記憶する複数の画像記憶手段と、前記合成される1枚の画像に対応する音声の音声情報を記憶する音声記憶手段と、前記複数の画像記憶手段から同期を取って画像情報を並列的に読み出す画像読み出し手段と、前記音声記憶手段から音声情報を読み出す音声読み出し手段と、前記画像読み出し手段によって並列的に読み出された複数の画像情報に基づく複数の画像を表示する複数の画像表示手段と、を有し、前記画像読み出し手段は、前記複数の画像記憶手段からの読み出しタイミングのうち最も遅れたタイミングに同期させて全ての画像記憶手段からの読み出しタイミングを調整し、前記音声読み出し手段は、前記画像読み出し手段によって調整されたタイミングに同期させて音声情報を読み出すことを特徴とする。
【0009】
前記発明において、前記合成される1枚の画像の画像情報が入力される画像情報入力手段と、前記画像情報入力手段に入力された画像情報を前記複数の画像情報に分割する画像情報分割手段と、前記分割された分割画像情報に対してそれぞれ画像処理を行う画像処理手段と、をさらに有し、前記画像読み出し手段は、画像処理が最も遅れた分割画像情報に同期させて前記読み出しタイミングを調整することが好ましい。
【0010】
本発明によれば、画像処理等が最も遅れた分割画像情報に同期させて全画像メモリからの読み出しタイミングを制御することにより、隣接する表示部分にまたがった動画映像等を切れ目なく表示することができる。
【0011】
例えば、画像処理された分割画像の各画像データを保持する出力メモリはCPUやFPGA等で管理されるが、最も処理が遅れた画像データの出力タイミングに合わせて全出力メモリから画像データを出力することで、分割画像データ全体の同期を取ることができる。これにより、連続して入力される動画像に対して、出力信号が不連続(一定時間内に連続して更新されない)になる状態が発生し得る。出力信号が不連続になると、スムーズな動画像が表示されないことが懸念されるが、1フレーム(1/60秒)程度の不連続であれば特に問題はなく、なめらかな動画を認識することが可能である。
【0012】
また、本発明では、画像メモリの出力タイミングに合わせて、音声メモリの出力タイミングも制御する。例えば、画像データに対してフレームメモリを使った処理を行い、画像データの入出力間で2フレームの遅延が生じる場合は、2フレーム(1/30秒)分以上の音声データを記憶可能な音声メモリを用い、音声データも画像データと同様に入出力間で2フレーム遅らせることで、リップシンク現象を防止することができる。また、演算処理の遅れ等により画像データが間引かれた場合(例えば、同じフレームを2回以上出力する等)には、画像データとともに対応するフレームの音声データも同様に間引くことで、映像と音声の同期を取ることができる。
【0013】
また、前記発明において、前記複数の画像記憶手段に記憶される複数の画像情報は、それぞれのフレーム番号とともに記憶され、前記画像読み出し手段は1以上の前記画像表示手段毎に設けられ、複数の前記画像読み出し手段で、読み出し可能な画像情報のフレーム番号を互いに通信することによって読み出しタイミングを調整するようにしてもよい。
【0014】
本態様では、例えば、画像読み出し手段をCPUで構成した場合、画像表示手段毎(すなわち画像メモリ毎)にCPUを設け、これらの複数のCPU間で通信を行うことにより、複数の装置間で同期を取りながら、多数の分割画像データを処理することが可能となる(例えば図6参照)
また、複数の分割画像を処理する分割画像処理装置毎にCPUを設ける(2以上の画像表示装置(プロジェクタ)毎に一つのCPUを設ける)ようにしてもよい。例えば、1台の分割画像処理装置によって4台の画像表示装置を制御する場合を想定すると、1枚の画像を4枚に分割して4台の画像表示装置に送る場合には、1台の分割画像処理装置内のCPUで各画像メモリを制御し、1枚の画像を8枚に分割して8台の画像表示装置に送る場合には、2台の分割画像処理装置それぞれに設けられたCPUにより、それぞれの分割画像処理装置内の画像データ間の同期を取りながら、分割画像処理装置相互間でも画像データ間の同期を取ることにより、8台の画像表示装置に対して同期した画像データを送ることが可能となる(例えば図7参照)。
【0015】
また、前記発明において、前記音声読み出し手段は、前記画像読み出し手段によって読み出される複数フレームの画像情報に対応する音声情報をまとめて読み出すとともに、これらの複数フレーム毎に音声情報と画像情報との読み出しタイミングの同期をとるようにしてもよい。
【0016】
本態様は、例えば画像データと音声データがコンピュータから出力された場合の同期の取り方に関するものである。
【0017】
コンピュータからの画像データと音声データがシリアル形式で出力される場合、例えば図9に示すように、第1〜第8フレームの音声データ、第1フレームの画像データ、第2フレームの画像データ、………、第8フレームの画像データ、その次には、第9〜第16フレームの音声データ、第9フレームの画像データ、第10フレームの画像データ、………、第16フレームの画像データ、といったようにしてコンピュータからデータを読み出す。そして、画像データ及び音声データともに一旦メモリに格納した後、画像データの処理の遅延に合わせて音声データを出力することで同期を取ることができる。この時、画像データにはフレーム番号を付与するが、音声データにはフレーム番号を付与してもしなくてもよい。フレーム番号を付与すればフレーム毎の同期が取れ、付与しなければ8フレーム毎の同期が取れる。
【0018】
また、画像データが演算処理の遅延等により数フレーム遅れ、その結果画像データに不連続が生じるような場合もある。例えば、演算処理の遅延はJPEG圧縮/伸張処理等で発生する。JPEGの伸張処理では、圧縮率が低い場合や、変化量の少ない画像の一部に微細な画像が存在するような場合に、多くの伸張時間を要する傾向がある。通常は、圧縮率が低い方が高画質であるため、コンピュータからの出力データは、可能な限り低圧縮のデータを出力するのが一般的である。そのため、伸張処理等を含む演算処理において画像データに大きな遅延が生じる場合がある。このような場合には、例えば図9に示すような形式でデータが出力される場合を想定すると、ある8フレーム(第1〜第8フレーム)の期間において画像データに所定時間以上の遅延が発生した時には音声データの出力を停止し、その次の8フレーム(第9〜第16フレーム)から再度画像データと音声データとの同期を取って出力する。これにより、画像データに大きな遅延が発生した場合でも早期に同期を取ることが可能となる。
【0019】
また、前記発明において、前記複数の画像記憶手段及び前記音声記憶手段に送られる画像情報及び音声情報の出力を制御する出力制御手段を有するコンピュータと、前記出力制御手段の制御によって前記コンピュータから出力された画像情報に対する処理を制御する画像情報制御手段と、をさらに有し、前記画像情報制御手段によって制御される処理が所定の時間内に終了しない場合に、前記画像情報制御手段から前記コンピュータに遅延情報を通信することにより、前記コンピュータから出力される画像情報及び音声情報を間引くように構成してもよい。
【0020】
本態様は、例えば、画像データが演算処理の遅延等により数フレーム遅れ、その結果画像データに不連続が生じるような場合に、遅延情報をコンピュータ(デジタル記録メディア)に通信し、コンピュータからの出力データを間引くようにするものである。このような方策を講じない場合には、演算処理の遅延が生じているときでもコンピュータからは画像データが連続的に出力されることになるため、画像処理部のメモリに数フレーム以上の多くの画像データを保持しておく必要がある。そのため、メモリ容量の増大により、コストが増大したり制御が煩雑になったりする。そこで、演算処理等の大幅な遅延が発生した場合には、遅延情報をコンピュータに通知し、コンピュータからのデータを間引くことで、このような問題を解決するようにしている。
【0021】
また、前記発明において、画像情報を圧縮する画像圧縮手段を有し、圧縮された複数の画像情報を前記複数の画像記憶手段に送出するコンピュータと、前記コンピュータから読み出された圧縮された画像情報の伸張処理を含む処理の制御を行う画像情報制御手段と、をさらに有し、前記画像情報制御手段によって制御される処理が所定の時間内に終了しない場合に、前記画像情報制御手段から前記コンピュータに遅延情報を通信することにより、前記画像圧縮手段での画像圧縮率を増大させるように構成してもよい。
【0022】
本態様は、例えば、画像データが演算処理の遅延等により数フレーム遅れ、その結果画像データに不連続が生じるような場合に、遅延情報をコンピュータに通信し、画像圧縮率を上げるようにするものである。すでに説明したように、JPEGの伸張処理では、圧縮率が低い場合に多くの伸張時間を要する。そこで、遅延が少ない場合にはコンピュータから低圧縮率の画像データを出力し、遅延が大きい場合には圧縮率を上げて画像処理時間を短縮することで、画像データを連続的に画像表示装置に出力することが可能となる。
【0023】
【発明の実施の形態】
以下、本発明の実施形態を図面を参照して説明する。
【0024】
(実施形態1)
図1は、本発明の第1の実施形態に係るマルチディスプレイシステムの一例を示した図である。
【0025】
画像分割部2は、入力映像信号1を受けて、分割信号3〜6(分割信号A〜D)を出力するものである。具体的には、A/D変換を行った後、画像データを2フレーム以上のデータを格納できるメモリに格納し、必要な部分を切り出して出力する(画像分割手段については、特開平6-259048号公報、特に該公報の図1〜図7に説明されている)。また、必要に応じて画像の拡大/縮小処理を行う。例えば、入力がXGA(1024×768)で、XGAの解像度を持つ4台のプロジェクタに出力する場合は、入力信号を画素毎に縦横2倍に拡大し、XGA×4の画素数で出力する。
【0026】
7〜10は演算処理部、11〜14は演算用メモリであり、映像信号のデータをメモリに出し入れして処理(例えば、NTSC等のインターレース信号をプログレッシブ信号に変換するために、2フィールドのインターレース信号を一旦メモリに記憶し、それを合成して1フレームのプログレッシブ信号にして出力するIP変換や、輪郭強調等の信号処理)を行う際に用いられる。演算処理部7〜10及び演算用メモリ11〜14によって画像処理部が構成され、各種フィルタや色/輝度補正を行ったり、またプロジェクタに位置ずれがある場合には幾何補正等を行う。15〜18は出力メモリであり、2フレーム以上の画像データを格納することができる。なお、メモリ11〜14と出力メモリ15〜18をまとめることで、メモリ数を減らすようにしてもよい。
【0027】
上述した画像処理部7〜14と出力メモリ15〜18は、CPU19によって制御される。また、後述する音声メモリ30も、このCPU19によって制御される。
【0028】
出力メモリ15〜18の出力はドライバ20〜23に入力しており、ドライバ20〜23によってプロジェクタ24〜27が駆動される。プロジェクタ24〜27として本例では液晶プロジェクタを用いている。プロジェクタ24〜27からの各画像は、背面投射型のスクリーン33に投影され、スクリーン33上で合成されて1枚の画像が表示される。なお、プロジェクタ入力がアナログの場合には、出力メモリ15〜18とプロジェクタ24〜27との間にさらにD/A変換器を介在させる。
【0029】
音声系は、入力音声信号28をA/D変換するA/D変換部29、A/D変換された音声データを記憶する音声メモリ30、音声メモリ30からの音声データをD/A変換するD/A変換器及びアンプで構成された音声ドライバ31、音声ドライバ31によってドライブされるスピーカー32等で構成されている。
【0030】
以下、本実施形態の動作について説明する。
【0031】
入力映像信号1は、画像分割部2でA/D変換処理、分割処理、さらに必要に応じて拡大/縮小処理が行われ、画像分割部2からは分割信号3〜6(分割信号A〜D)が演算処理部7〜10及び演算用メモリ11〜14からなる画像処理部に出力される。
【0032】
画像処理部7〜14では、各種フィルタや色/輝度補正、幾何変換、シェーディング補正等の処理を行うとともに、絵柄によって演算処理が重くなる処理(例えば、動画を抽出して輪郭強調する処理や肌色部分のみを色補正をする処理)が行われ、これらの画像演算処理を施された画像データは出力メモリ15〜18に出力される。
【0033】
図2は、各出力メモリ15〜18の構成の一例を示した図である。各出力メモリは、4フレーム分のエリア(BANK1〜BANK4)を有するバンク形式であり、CPU19とはバス線を介してバンク選択端子、リード端子、ライト端子が接続されている。書き込みは、CPUからのライト信号及びバンク選択信号により、フレーム1から2,3,4と順に行われる。読み出しは、CPUからのリード信号及びバンク制御信号によって行われる。
【0034】
入力音声信号28はA/D変換部29によってA/D変換され、A/D変換された音声データは音声メモリ30に記憶される。音声メモリ30には、数フレーム分のデータを格納可能である。例えば、サンプリング周波数44.1kHz、ステレオ、分解能16ビットの性能の音声を、60フレーム(1秒)分格納する場合には、44.1kHz×2(ステレオ)×16ビット=176.4kバイトのメモリを用意する。
【0035】
CPU19では、画像分割処理や画像演算処理等によって遅延した画像データに合わせて画像データの処理時間分遅らせて音声データが出力されるように、音声メモリ30の制御を行う。例えば、5フレーム目の分割信号が画像処理部7、11に送られ、画像処理部7、11及び出力メモリ15によって2フレーム分の遅延が発生して、出力メモリ15から3フレーム目が出力しているような場合には、音声データは音声メモリ30の入出力間で2フレーム分(1/30秒)遅延させる。すなわち、音声メモリ30には画像データの5フレーム目に対応する音声データが入力され、音声メモリ30からは画像データの3フレーム目に対応する音声データが出力される。
【0036】
分割された各画像データは、それぞれの出力メモリ15〜18の読み出しバンクにデータが揃ってから同一タイミングで並列的に出力される。つまり、画像処理が最も遅れた分割画像データのタイミングに合わせて、出力メモリ15〜18から同一タイミングで各分割画像データが出力される。また、ある分割画像の処理が遅れて、出力メモリからの出力データが不連続になる場合(垂直ブランキング信号をCPU19に取り込み、CPU19内のカウンタで常時チェックして、1/60秒以上になった時に不連続と見なす)、音声データも同じように遅延させて出力させる。
【0037】
図3は、上述した処理の詳細を示した図である。図3(a)に示すように、映像信号は、第1フレーム(フレーム1)、第2フレーム(フレーム2)、・・・と連続して入力する。
【0038】
図3(b)に示すように、分割されたフレーム1の各画像データは、それぞれの出力メモリ15〜18のBANK1に書き込まれる。BANK1にフレーム1の画像データが書き込まれると、出力メモリからCPU19に書き込み完了を通知する。それと同時に、出力メモリのBANK2にフレーム2の画像データの書き込みが始まる。CPU19は、全出力メモリ15〜18からフレーム1の書き込み完了の通知が来ると、全出力メモリにBANK1のデータ(フレーム1の画像データ)の読出しを通知し、全出力メモリ15〜18は、その通知により同一のタイミングでBANK1のデータ(フレーム1の画像データ)を読み出す。音声データは、音声メモリ30に書き込まれた後、全出力メモリ15〜18から画像データが読み出されるタイミングに同期して、音声メモリ30から読み出される。
【0039】
なお、出力メモリの読み出し方として、同じフレームを同じタイミングで出力する以外に、上下の画像表示装置(プロジェクタ24〜27)間で出力するフレームを変えるようにしてもよい。上下の表示装置で同じタイミングで同じフレームを表示すると、合せ目の部分において、上側の画像表示装置(図1の例ではプロジェクタ24及び26)では1フレーム目の最後の部分がスキャンされているに対し、下側の画像表示装置(図1の例ではプロジェクタ25及び27)では2フレーム目の最初の部分がスキャンされるため、合せ目の部分で動画が切れて見えてしまうという問題が生じるからである。
【0040】
そこで、画像が連接するように、画像処理が最も遅い部分に合わせて画像データを出力する際に、上側のプロジェクタ24及び26の出力メモリ15及び17に対し、下側のプロジェクタ25及び27の出力メモリ16及び18では約1フレーム遅れた信号を出力するように、画像メモリを制御する。
【0041】
上述した処理について、図2及び図4を参照して具体的に説明する。全出力メモリ15〜18において、フレーム1をBANK1に記憶し、現在BANK2にフレーム2の書き込みが終了したとする。次に、全出力メモリ15〜18のBANK3にフレーム3の書き込みが開始されるが、同時に出力メモリ15及び17ではBANK2からフレーム2のデータの読み出しを開始し、同じタイミングで出力メモリ16及び18ではBANK1からフレーム1のデータの読み出しを開始する。すなわち、図4に示すように、上側のプロジェクタではフレーム2のスキャンを上から下に向かって行い、同時に下側のプロジェクタではフレーム1のスキャンを上から下に向かって行う。
【0042】
なお、上述したような処理についての詳細は、特公平5-78232或いは特開2000-33780に記載されている。特公平5-78232には、上下の画像表示装置に供給する映像信号を相対的に1垂直期間だけ時間シフトする方式が記載されており、特開2000-33780には、上下の画像表示装置間の重なり量を測定して、上下の画像表示装置に供給する映像信号を相対的に(1−重なり量)×垂直期間だけ時間シフトする方式が記載されている。
【0043】
また、画像を連接するための他の方法として、図5に示すような方式も提案されている(例えば特開平6-259048)。これによれば、同一フレームに対して、上側の画像表示装置は下から上に向かってスキャンを開始し、同時に下側の画像表示装置は上から下に向かってスキャンを開始することで、合せ目の時間ずれを解消するようにしている。ただし、上側の画像表示装置では、フレームの最終ラインから遡ってデータを読み出していく必要がある。
【0044】
以上のように、本実施形態では、処理が最も遅れた分割画像データのタイミングに同期させて全分割画像データの読み出しタイミングを調整するとともに、この調整されたタイミングに同期させて音声データを読み出すため、各分割画像データ及び音声データの出力タイミングの最適化をはかることが可能となる。
【0045】
(実施形態2)
図6は、本発明の第2の実施形態に係るマルチディスプレイシステムの一例を示した図である。なお、図1に示した構成要素に対応する構成要素については、同一の参照番号を付し、それらの詳細な説明は省略する(他の実施形態についても同様)。
【0046】
図1に示したマルチディスプレイシステムではCPU19が単数だったが、図6に示したマルチディスプレイシステムでは、分割画像処理部51〜54毎にそれぞれCPU19a〜19dが設けられている。各CPU19a〜19d間では通信が可能であり、各分割画像データとともに記憶されたフレーム番号を用いて情報の送受を行うことができるようになっている。例えば、各分割画像処理部51〜54の各出力メモリ15〜18に何フレーム目が書き込まれ、読み出し可能なフレームは何フレームかといった情報を互いに通信することにより、画像メモリ及び音声メモリを制御し、分割画像出力の同期及び音声出力の同期を取ることが可能である。
【0047】
図7は、本発明の第2の実施形態に係るマルチディスプレイシステムの他の例を示した図である。
【0048】
図7に示したシステムでは、図1に示したようなシステムを二つ用い、互いのCPU19間で通信が可能になっている。図に示した例では、入力映像信号から分割信号A〜Hを作成し、分割信号A〜Dを分割画像処理装置61に、分割信号E〜Hを分割画像処理装置62に送り、分割画像処理装置61及び62それぞれのCPUでそれぞれの画像分割処理装置内の画像データの同期を取りながら、分割画像処理装置間でも画像データの同期を取ることで、8台のプロジェクタに同期した画像を送るようにしている。
【0049】
このように、図6及び図7に示したシステムでは、複数のCPU間で演算処理時の遅延情報等を通信することにより、各分割画像の処理状況等を互いに把握することができ、画像データや音声データの同期を容易にとることが可能である。なお、CPU間のデータ通信には、RS232C、USB、IEEE1394、LAN等の汎用通信を用いることが可能である。
【0050】
(実施形態3)
図8は、本発明の第3の実施形態に係るマルチディスプレイシステムの一例を示した図である。
【0051】
コンピュータ101内のハードディスクには、1枚の画像を分割して、それぞれの画像表示装置のサイズ(例えばXGA)にした複数のデジタル映像信号とデジタル音声信号が記憶されており、コンピュータ101からはパケット単位で映像及び音声のデジタルデータが、1フレームが1/60秒よりも速い速度で連続して出力される。
【0052】
図9は、パケット単位で出力されるデータについて示したものである。図9では便宜上、数フレーム分の音声データ(フレーム1〜8の音声データ)を1パケット、1フレーム分の画像データを1パケットとしたが、それぞれ複数のパケットに分割して出力してもよい。また、パケットのサイズも任意でよい。
【0053】
映像データには、コンピュータ101内でフレーム番号が付与される。音声データにはフレーム番号を付与してもよいし付与しなくてもよい。フレーム番号の付与の方法は、例えば1パケットを32kバイトとして、先頭の4バイトをヘッダとする。このヘッダの2バイトをデータ長に、他の2バイトをデータの種類に割り当てる。データの種類の中に、静止画/JPEG動画/音声の有無/画像のフレーム番号/分割画像の位置、等の情報を入れればよい。
【0054】
なお、本例ではデジタル映像信号はコンピュータ101から分割信号として出力されているが、コンピュータからは分割前のデジタル映像信号を出力し、例えば図1で示したように、コンピュータの外部に設けた画像分割部2で分割されたデジタル映像信号を作成するようにしてもよい。
【0055】
以下、本実施形態の動作について説明する。
【0056】
まず、画像データ及び音声データの読み出しについて、その基本的な動作を説明する。音声メモリ30には8フレーム分の音声データが記憶されており、画像データは画像処理部7〜14及び出力メモリ15〜18での処理により数フレーム遅延して出力されるものとする。この時、出力メモリのどのバンクに何フレーム目が書き込まれ、どのバンクから何フレーム目が読み出されているかといった情報は、CPU19が把握している。例えば、3フレーム目の画像データが出力バッファから出力された時、音声メモリ30に記憶された8フレーム分の音声データの中から3番目の音声データを出力するようにCPU19で制御する。もちろん、音声データにもフレーム番号が付与されている場合には、音声メモリ30に記憶された順番ではなく、音声データに付与されたフレーム番号に対応する音声データを読み出せばよい。
【0057】
図9に示したような形式でコンピュータ101から音声データと画像データが送られてくる際に、例えばJPEG伸張等の演算処理によって画像データの処理が遅れ、連続的に画像データが更新されないような場合には、例えば図10のフローチャートに示すような処理を行う。以下、図10のフローチャートに示した処理を説明する。
【0058】
まず、初期設定として、フレームを1フレーム目(n=1)とし、フラグを0とする。このフラグは、音声データの出力を停止するか否かを示すものであり、フラグ=1の場合に音声データの出力が停止される(S1)。その後、以下に示すような各ステップが実行される。
【0059】
出力メモリ15〜18へのnフレーム目の画像データの転送を指示し(S2)、所定の転送規定期間内にnフレーム目の画像データの転送が全て完了したか否かを判断する(S3)。
【0060】
転送が完了していない場合には、音声メモリ30からの音声データの出力を停止し、フラグを1にする。例えば、出力メモリ15〜17には7フレーム目のデータが転送されてきたが、出力メモリ18には6フレーム目のデータしかないような場合には、7フレーム以降の音声データは出力しないようにする(S4)。続いて、n=n+1とし(S5)、n=9m(mは整数)であるか否かを判断する(S6)。n=9mである場合には、フラグを0に設定して、音声データの出力停止を解除する(S7)。
【0061】
S3のステップで転送が完了していると判断された場合には、フラグが0であるか否かが判断される(S8)。フラグが0の場合には、出力メモリ15〜18からnフレーム目の画像データを出力するとともに、音声メモリ30からnフレーム目の音声データを出力し(S9)、さらにn=n+1とする(S10)。
【0062】
S8のステップでフラグが0でない場合(フラグ=1の場合)には、出力メモリ15〜18からnフレーム目の画像データを出力し(S11)、さらにn=n+1とし(S12)、n=9m(mは整数)であるか否かを判断する(S13)。n=9mである場合には、フラグを0に設定して、音声データの出力停止を解除する(S14)。
【0063】
以上述べたように、本実施形態では、複数フレームの画像データ毎に対応する複数フレーム分の音声データを1パケットとしてまとめて読み出す。そして、出力メモリからの画像データの読み出し時間が大きく遅れて画像が不連続になるような場合には、音声データの出力を停止し、その次の複数フレーム分のデータを読み出す時に画像データと音声データとの同期を取るようにしている。したがって、画像と音声の同期ずれが発生した場合にも、素早く同期ずれを解消することができる。
【0064】
(実施形態4)
図11は、本発明の第4の実施形態に係るマルチディスプレイシステムの一例を示した図である。
【0065】
コンピュータ101内のハードディスクには画像データ102が格納されており、CPU104の制御により、数フレーム分の画像を保持できるフレームメモリとドライバで構成された出力バッファ103から、分割画像データ(分割信号3〜6)が出力される(音声データも出力バッファ103から出力される)。ハードディスク内に格納された画像データ102は、分割処理前の1枚の画像データであってもよいし、或いは分割処理後の画像データであってもよい。また、圧縮された画像データがハードディスクに格納されていてもよいし、圧縮されていない状態でハードディスクに格納されていてもよい。
【0066】
出力バッファ103から出力された分割画像データは、画像処理部7〜14に送られ、CPU19の制御により、各画像データは対応する画像処理部7〜14で演算処理される。画像処理部7〜14での各分割画像の演算処理時間はCPU19内のカウンタの値と比較され、例えばある分割画像の処理が遅れて、出力メモリ15〜18からの出力データが不連続になる場合(例えば、あるフレームの全分割画像のデータが出力メモリ15〜18に揃うのが、その前のフレームに比べて1/60秒以上遅くなるような場合)には、CPU19からコンピュータ101内のCPU104に遅延情報が通信される。CPU間のデータ通信には、RS232C、USB、IEEE1394、LAN等の汎用通信を用いることが可能である。CPU104が遅延情報を受け取ると、CPU104が出力バッファ103等を制御し、出力バッファ103から新たな画像データ及び音声データが出力されないようにする。すなわち、出力バッファ103からは1フレーム(場合によっては数フレーム)分の画像データ及び音声データが間引かれて出力される。
【0067】
このように、本実施形態では、分割画像の演算処理が規定時間以上遅れ、出力メモリからの出力データが不連続になるような場合に、コンピュータに遅延情報を通信することで、コンピュータは画像データ及び音声データを間引くようにしている。したがって、分割画像の演算処理に遅れが生じた場合にも、画像処理部のメモリ数を増やすことなく、各分割画像データ及び音声データの同期を確実に取ることができる。
【0068】
(実施形態5)
図12は、本発明の第5の実施形態に係るマルチディスプレイシステムの一例を示した図である。
【0069】
コンピュータ101内のハードディスクには画像データ102が格納されており(圧縮前の状態でハードディスクに格納されている)、ハードディスクからの画像データは、CPU104の制御により、画像圧縮部105で所定のサイズに圧縮処理されて出力バッファ103に送られる。ハードディスク内に格納された画像データ102は、分割処理前の1枚の画像データであってもよいし、或いは分割処理後の画像データであってもよい。出力バッファ103は数フレーム分の画像を保持できるフレームメモリとドライバで構成されており、CPU104の制御により、出力バッファ103からは圧縮された分割画像データが出力される(音声データも出力バッファ103から出力される)。
【0070】
出力バッファ103から出力された圧縮された分割画像データは、画像処理部7〜14に送られ、CPU19の制御により、各画像データは対応する画像処理部7〜14で演算処理される。この演算処理には、圧縮された画像データを伸張する処理も含まれる。画像処理部7〜14での各分割画像の演算処理が遅れて、出力メモリ15〜18からのデータが不連続になる場合(例えば、あるフレームの全分割画像のデータが出力メモリ15に揃うのが、その前のフレームに比べて1/60秒以上遅くなるような場合)には、CPU19からコンピュータ101内のCPU104に遅延情報が通信される。CPU間のデータ通信には、RS232C、USB、IEEE1394、LAN等の汎用通信を用いることが可能である。
【0071】
画像圧縮回路105では、通常は低圧縮率でデータを圧縮しているが、コンピュータ101内のCPU104がCPU19から遅延情報を受け取ると、CPU104は画像圧縮回路105に対して圧縮率を上げるよう要求する。画像圧縮回路105では圧縮率を上げて画像圧縮処理を行うため、画像処理部7〜14で行われる画像伸張処理に費やされる時間が短縮され、演算処理が遅れて出力メモリ15〜18からのデータが不連続になるといった問題を回避することができる。なお、画像圧縮回路105での圧縮処理には、JPEGやMPEGが考えられる。JPEGの場合、直交変換(DCT)、量子化及びエントロピー符号化で構成されるが、DCT変換を行った後、量子化のためのステップサイズを可変にすることにより圧縮率を変えることが可能である。
【0072】
このように、本実施形態では、分割画像の演算処理が規定時間以上遅れたような場合に、コンピュータに遅延情報を通信することで、コンピュータは画像圧縮処理の圧縮率を上げるようにしている。これにより、分割画像の演算処理の遅延を防止することができ、出力メモリから出力される画像データが不連続になるといった問題を防止することができる。
【0073】
以上、本発明の実施形態を説明したが、本発明は上記実施形態に限定されるものではなく、その趣旨を逸脱しない範囲内において種々変形して実施することが可能である。さらに、上記実施形態には種々の段階の発明が含まれており、開示された構成要件を適宜組み合わせることによって種々の発明が抽出され得る。例えば、開示された構成要件からいくつかの構成要件が削除されても、所定の効果が得られるものであれば発明として抽出され得る。
【0074】
【発明の効果】
本発明によれば、複数の分割画像情報と音声情報との同期を効果的にとることが可能となり、分割画像のつなぎ目の画像が途切れて見えるといった問題や画像と音声が時間的にずれるといった問題を同時に解決することが可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係るマルチディスプレイ装置の構成の一例を示した図。
【図2】図1に示したマルチディスプレイ装置に含まれる出力メモリの構成の一例を説明するための図。
【図3】本発明の第1の実施形態に係るマルチディスプレイ装置で行われる処理の一例を示した図。
【図4】本発明の第1の実施形態に係り、表示装置のスキャン方法の一例を説明するための図。
【図5】本発明の第1の実施形態に係り、表示装置のスキャン方法の他の例を説明するための図。
【図6】本発明の第2の実施形態に係るマルチディスプレイ装置の構成の一例を示した図。
【図7】本発明の第2の実施形態に係るマルチディスプレイ装置の構成の他の例を示した図。
【図8】本発明の第3の実施形態に係るマルチディスプレイ装置の構成の一例を示した図。
【図9】本発明の第3の実施形態に係り、コンピュータから出力されるデータの形式の一例を示した図。
【図10】本発明の第3の実施形態に係るマルチディスプレイ装置で行われる処理の一例を示した図。
【図11】本発明の第4の実施形態に係るマルチディスプレイ装置の構成の一例を示した図。
【図12】本発明の第5の実施形態に係るマルチディスプレイ装置の構成の一例を示した図。
【図13】従来技術の問題点を説明するための図。
【符号の説明】
1…入力映像信号
2…画像分割部
3〜6…分割信号
7〜10…演算処理部
11〜14…演算用メモリ
15〜18…出力メモリ
19…CPU
20〜23…ドライバ
24〜27…プロジェクタ
28…入力音声信号
29…A/D変換部
30…音声メモリ
31…音声ドライバ
32…スピーカー
33…スクリーン
51〜54…分割画像処理部
61、62…分割画像処理装置
101…コンピュータ
102…画像データ
103…出力バッファ
104…CPU
105…画像圧縮部
Claims (6)
- 表示された複数の画像を合成して1枚の画像を構成するマルチディスプレイ装置において、
前記複数の画像の画像情報を記憶する複数の画像記憶手段と、
前記合成される1枚の画像に対応する音声の音声情報を記憶する音声記憶手段と、
前記複数の画像記憶手段から同期を取って画像情報を並列的に読み出す画像読み出し手段と、
前記音声記憶手段から音声情報を読み出す音声読み出し手段と、
前記画像読み出し手段によって並列的に読み出された複数の画像情報に基づく複数の画像を表示する複数の画像表示手段と、を有し、
前記画像読み出し手段は、前記複数の画像記憶手段からの読み出しタイミングのうち最も遅れたタイミングに同期させて全ての画像記憶手段からの読み出しタイミングを調整し、
前記音声読み出し手段は、前記画像読み出し手段によって調整されたタイミングに同期させて音声情報を読み出す
ことを特徴とするマルチディスプレイ装置。 - 前記合成される1枚の画像の画像情報が入力される画像情報入力手段と、
前記画像情報入力手段に入力された画像情報を前記複数の画像情報に分割する画像情報分割手段と、
前記分割された分割画像情報に対してそれぞれ画像処理を行う画像処理手段と、をさらに有し、
前記画像読み出し手段は、画像処理が最も遅れた分割画像情報に同期させて前記読み出しタイミングを調整する
ことを特徴とする請求項1に記載のマルチディスプレイ装置。 - 前記複数の画像記憶手段に記憶される複数の画像情報は、それぞれのフレーム番号とともに記憶され、
前記画像読み出し手段は1以上の前記画像表示手段毎に設けられ、
複数の前記画像読み出し手段で、読み出し可能な画像情報のフレーム番号を互いに通信することによって読み出しタイミングを調整する
ことを特徴とする請求項1に記載のマルチディスプレイ装置。 - 前記音声読み出し手段は、前記画像読み出し手段によって読み出される複数フレームの画像情報に対応する音声情報をまとめて読み出すとともに、これらの複数フレーム毎に音声情報と画像情報との読み出しタイミングの同期をとる
ことを特徴とする請求項1に記載のマルチディスプレイ装置。 - 前記複数の画像記憶手段及び前記音声記憶手段に送られる画像情報及び音声情報の出力を制御する出力制御手段を有するコンピュータと、
前記出力制御手段の制御によって前記コンピュータから出力された画像情報に対する処理を制御する画像情報制御手段と、をさらに有し、
前記画像情報制御手段によって制御される処理が所定の時間内に終了しない場合に、前記画像情報制御手段から前記コンピュータに遅延情報を通信することにより、前記コンピュータから出力される画像情報及び音声情報を間引くように構成された
ことを特徴とする請求項1に記載のマルチディスプレイ装置 - 画像情報を圧縮する画像圧縮手段を有し、圧縮された複数の画像情報を前記複数の画像記憶手段に送出するコンピュータと、
前記コンピュータから読み出された圧縮された画像情報の伸張処理を含む処理の制御を行う画像情報制御手段と、をさらに有し、
前記画像情報制御手段によって制御される処理が所定の時間内に終了しない場合に、前記画像情報制御手段から前記コンピュータに遅延情報を通信することにより、前記画像圧縮手段での画像圧縮率を増大させるように構成された
ことを特徴とする請求項1に記載のマルチディスプレイ装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001349210A JP3791904B2 (ja) | 2001-11-14 | 2001-11-14 | マルチディスプレイ装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001349210A JP3791904B2 (ja) | 2001-11-14 | 2001-11-14 | マルチディスプレイ装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003153128A JP2003153128A (ja) | 2003-05-23 |
JP3791904B2 true JP3791904B2 (ja) | 2006-06-28 |
Family
ID=19161912
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001349210A Expired - Fee Related JP3791904B2 (ja) | 2001-11-14 | 2001-11-14 | マルチディスプレイ装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3791904B2 (ja) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4042573B2 (ja) * | 2003-01-21 | 2008-02-06 | 凸版印刷株式会社 | 画像同期装置及び同期制御装置 |
JP2005244931A (ja) * | 2004-01-26 | 2005-09-08 | Seiko Epson Corp | マルチ画面映像再生システム |
JP4731827B2 (ja) * | 2004-04-09 | 2011-07-27 | 三菱電機株式会社 | マルチ画面映像表示装置及びマルチ画面映像表示方法 |
KR100654775B1 (ko) | 2004-12-08 | 2006-12-08 | 엘지.필립스 엘시디 주식회사 | 액정표시장치 및 이를 이용한 모바일단말기 |
JP2006211164A (ja) * | 2005-01-27 | 2006-08-10 | Hitachi Ltd | マルチディスプレイ構成方法及び装置 |
JP2007164060A (ja) * | 2005-12-16 | 2007-06-28 | Sharp Corp | 多画面表示装置 |
JP5306152B2 (ja) * | 2009-11-12 | 2013-10-02 | 日本電信電話株式会社 | 映像分割再生方法、映像分割再生装置、及びプログラム |
JP5455594B2 (ja) * | 2009-12-10 | 2014-03-26 | 日本電信電話株式会社 | 映像分割再生方法、映像分割再生装置、及びプログラム |
JP5461454B2 (ja) * | 2011-02-10 | 2014-04-02 | 日本電信電話株式会社 | 映像分割再生方法、映像再生方法、映像分割再生システム、及び映像分割再生プログラム |
JP5765963B2 (ja) * | 2011-02-18 | 2015-08-19 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
DE112011105224B4 (de) | 2011-05-11 | 2019-02-07 | Mitsubishi Electric Corp. | Bildinformations-Wiedergabeeinheit, Bildinformations-Wiedergabevorrichtung und Synchronisationskontrollverfahren |
JP5896642B2 (ja) * | 2011-08-10 | 2016-03-30 | キヤノン株式会社 | 映像処理装置、映像処理方法、及びプログラム |
JP6188284B2 (ja) * | 2012-07-03 | 2017-08-30 | キヤノン株式会社 | 画像表示装置、その制御方法及びプログラム |
CN103974050B (zh) * | 2014-05-13 | 2016-04-13 | 中国人民解放军68029部队 | 单机多通道投影同步方法 |
JP6418010B2 (ja) * | 2015-03-02 | 2018-11-07 | セイコーエプソン株式会社 | 画像処理装置、画像処理方法及び表示装置 |
CN104717438B (zh) * | 2015-03-02 | 2018-12-14 | 联想(北京)有限公司 | 信息处理方法及电子设备 |
US9912845B2 (en) | 2015-03-26 | 2018-03-06 | Mitsubishi Electric Corporation | Video information reproduction system and video information reproduction device |
JP6620079B2 (ja) | 2016-09-08 | 2019-12-11 | 株式会社ソニー・インタラクティブエンタテインメント | 画像処理システム、画像処理方法およびコンピュータプログラム |
JP6787146B2 (ja) * | 2017-01-20 | 2020-11-18 | セイコーエプソン株式会社 | 表示システム、表示装置及び表示システムの制御方法 |
TW202019149A (zh) * | 2018-11-01 | 2020-05-16 | 宏正自動科技股份有限公司 | 影像控制裝置以及使用該裝置之電視牆系統與輸出影像至電視牆的控制方法 |
JP7547912B2 (ja) | 2020-10-07 | 2024-09-10 | 株式会社リコー | 表示システム、表示装置、表示方法、及びプログラム |
JP2022088031A (ja) * | 2020-12-02 | 2022-06-14 | ソニーセミコンダクタソリューションズ株式会社 | 信号処理装置、信号処理方法、および表示システム |
CN112817548B (zh) * | 2021-01-28 | 2022-08-12 | 浙江大华技术股份有限公司 | 电子设备、显示控制方法、显示方法、装置和存储介质 |
-
2001
- 2001-11-14 JP JP2001349210A patent/JP3791904B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2003153128A (ja) | 2003-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3791904B2 (ja) | マルチディスプレイ装置 | |
RU2214066C2 (ru) | Архитектура памяти для многоформатного процессора видеосигнала | |
JP3617573B2 (ja) | フォーマット変換回路並びに該フォーマット変換回路を備えたテレビジョン受像機 | |
JP4375313B2 (ja) | 画像音声出力システム、画像音声データ出力装置、音声処理プログラム、及び記録媒体 | |
CA2210196C (en) | Video signal converter and television signal processing apparatus | |
EP0703706B1 (en) | Digital television set | |
JP2004522365A (ja) | 多チャンネル入力の高画質多重画面分割装置及び方法 | |
US20040119847A1 (en) | Image processing apparatus, image processing method, recording medium, and program | |
JP4940030B2 (ja) | 送信装置、受信装置、およびプログラム | |
JP5330015B2 (ja) | 動画像送信端末 | |
JP2000042247A5 (ja) | ||
WO2006064604A1 (ja) | 画像処理装置 | |
JP2002125200A (ja) | 動画像フォーマット変換装置 | |
JP2014216668A (ja) | 撮像装置 | |
JP2008015565A (ja) | 画像処理回路および画像処理システムならびに画像処理方法 | |
JP3685386B2 (ja) | 複数のビデオ・ソースを有し、オンスクリーン表示グラフィックスでピクチャ内ピクチャを実現する統合ビデオ処理システム | |
JP2000092365A (ja) | 信号処理装置 | |
JP2002135772A (ja) | 画像伝送システム | |
JP2000333166A (ja) | 高効率符号化画像の復号手段及び同手段を有する画像表示装置 | |
JPH09116898A (ja) | 映像信号伝送システム | |
KR100378706B1 (ko) | 디지털 영상 시스템의 다 채널 지원 장치 및 그 방법 | |
JPH10155123A (ja) | 圧縮復号データ表示システム | |
JP2000032475A (ja) | 動画像再生装置 | |
JP2002135768A (ja) | データ受信装置、データ送受信システム | |
JP2894870B2 (ja) | 画像蓄積装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20041115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20060320 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060328 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060403 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090414 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100414 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110414 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120414 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130414 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140414 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |