[本願発明の実施形態の概要]
最初に本発明の実施形態の概要を列記して説明する。
(1)本発明の一実施形態に係る映像伝送システムは、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行し、前記間引き処理後の前記複数の映像データを送信する映像送信装置と、前記映像送信装置から受信した前記間引き処理後の前記複数の映像データを表示装置に表示する映像受信装置とを備える。
この構成によると、映像送信装置は、所定の映像データのフレームレートよりも他の映像データのフレームレートが低くなるように間引き処理を行った後、複数の映像データを映像受信装置に送信する。映像受信装置は、間引き処理後の複数の映像データを表示装置に表示することができる。このような間引き処理を行うことにより、間引き処理を行わない場合に比べて複数の映像データの伝送量を減少させることができるため、複数の映像データを低遅延で伝送することができる。また、所定の映像データは、他の映像データに比べ高フレームレートであるため、所定の映像データを操作対象の操作に必要な映像データとすることにより、操作対象の操作に必要な映像データを高画質で伝送することができる。
(2)好ましくは、前記映像送信装置は、前記所定の映像データに対するフレームの間引き処理を実行しない。
この構成によると、所定の映像データのフレームレートを、カメラによる撮影時のフレームレートと同じにすることができる。このため、所定の映像データを高画質で伝送し、表示装置に表示することができる。これにより、ユーザは、所定の映像データを高画質な状態で見ることができる。
(3)また、前記映像送信装置は、前記他の映像データに含まれる映像データ間で画面データの抽出を開始するフレームである開始フレームをずらした前記間引き処理を実行してもよい。
この構成によると、他の映像データに含まれる映像データ間で開始フレームが重複しないように間引き処理を行うことができる。これにより、あるフレームに送信対象の画面データが集中することを防ぎ、フレーム間で送信対象の画面データを分散させることができる。よって、複数の映像データを低遅延で伝送することができる。
(4)また、前記映像送信装置は、前記他の映像データの数に基づくフレームレートに従って前記他の映像データの間引き処理を実行してもよい。
例えば、他の映像データの数をnとし、nフレームに1枚の画面データが選択されるように間引き処理を行うことにより、全てのフレームにおいて、フレームごとに1枚の画面データを、所定の映像データの画面データとともに送信することができる。これにより、送信する映像データのフレーム間での偏りを軽減することができる。
(5)また、前記映像送信装置は、前記間引き処理後の前記他の映像データに含まれる各画面データを、複数のフレームに亘り時分割で送信してもよい。
この構成によると、間引き処理後の各画面データを時分割で送信することにより、フレーム間で伝送量を平準化することができる。これにより、映像データ伝送時の伝送レートを低く抑えることができる。
(6)また、前記映像送信装置は、前記間引き処理後の前記複数の映像データに対して圧縮処理を実行し、前記圧縮処理済みの前記複数の映像データを送信し、前記映像受信装置は、前記映像送信装置から受信した前記圧縮処理済みの前記複数の映像データに対して伸長処理を実行し、伸長処理後の前記複数の映像データを表示装置に表示してもよい。
この構成によると、間引き処理後の複数の映像データを圧縮して、映像受信装置に配信することができる。これにより、複数の映像データを圧縮した後に間引き処理する場合に比べて映像送信装置の処理量を減少させることができるため、複数の映像データを低遅延で伝送することができる。
(7)また、前記映像送信装置は、前記複数の映像データの各々について、1画面を複数のブロックに分割し、前記ブロックごとに画像データの圧縮処理を実行し、前記映像受信装置は、前記映像送信装置から受信した前記圧縮処理済みの前記複数の映像データの各々について、前記ブロックごとに画像データの伸長処理を実行し、前記圧縮処理において、可逆圧縮のアルゴリズムおよび不可逆圧縮のアルゴリズムを前記ブロックごとに選択可能であり、前記伸長処理において、可逆伸長のアルゴリズムおよび不可逆伸長のアルゴリズムを前記ブロックごとに選択可能であってもよい。
この構成によると、可逆圧縮のアルゴリズムを適用したブロックについては、圧縮処理負荷を軽くするとともに、オリジナル映像に対する同一性を保持した画像データを映像受信装置において復元することができる。また、非可逆圧縮のアルゴリズムを適用したブロックについては、伝送時のデータサイズを小さくするとともに、オリジナル映像に近い画像データを映像受信装置において復元することができる。また、画面内の画像データを用いて圧縮処理を行うことで、画面間の画像データを用いて圧縮処理を行わないようにしてもよいので、処理負荷を軽減することができる。すなわち、映像送信装置および映像受信装置間のデータ伝送能力と、より多くのオリジナル映像データを送信する目的とのバランスを考慮しながら、可逆圧縮または非可逆圧縮の別をブロックごとに適宜選択し、ブロックごとの圧縮処理を施した画像データを伝送することができる。したがって、オリジナル映像との同一性および伝送レートを考慮した適切な映像伝送を実現することができる。
(8)また、前記映像受信装置は、前記所定の映像データを指定してもよい。
この構成によると、映像受信装置が所定の映像データを指定することができる。このため、映像送信装置は、映像受信装置が所望する所定の映像データを高画質で送信することができる。また、映像受信装置は所定の映像データを高画質で表示することができる。
(9)また、前記映像受信装置は、ユーザ操作に基づいて前記所定の映像データを指定してもよい。
この構成によると、ユーザがユーザ操作により指定した映像データを所定の映像データとして指定することができる。このため、映像送信装置は、ユーザが指定した映像データを高画質で映像受信装置に送信することができ、映像受信装置は、ユーザが指定した映像データを高画質で表示することができる。また、映像送信装置は、ユーザが指定した映像データ以外の他の映像データをフレームレートが相対的に低くなるように間引いて、映像受信装置に送信することができる。これにより、複数の映像データを低遅延で伝送することができる。
(10)また、前記映像受信装置は、ユーザの視線の検知結果に基づいて前記所定の映像データを指定してもよい。
この構成によると、表示装置に表示された複数の映像データのうち、ユーザが視線を向けて見ている映像データを所定の映像データとして指定することができる。このため、映像送信装置はユーザが注視している映像データを高画質で映像受信装置に送信し、ユーザが注視していない他の映像データをフレームレートが相対的に低くなるように間引いて、映像受信装置に送信することができる。これにより、複数の映像データを低遅延で伝送することができる。
(11)また、前記映像データの解像度は、8K UHDTVであってもよい。
この構成によると、8Kの所定の映像データを高画質で伝送し、かつ複数の8Kの映像データを低遅延で伝送することができる。
(12)本発明の他の実施形態に係る映像送信装置は、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行する間引き処理部と、前記間引き処理後の前記複数の映像データを送信する送信部とを備える。
この構成によると、映像送信装置は、所定の映像データのフレームレートよりも他の映像データのフレームレートが低くなるように間引き処理を行った後、複数の映像データを送信する。よって、映像送信装置から複数の映像データを受信した映像受信装置は、間引き処理後の複数の映像データを表示装置に表示することができる。このような間引き処理を行うことにより、間引き処理を行わない場合に比べて複数の映像データの伝送量を減少させることができるため、複数の映像データを低遅延で伝送することができる。また、所定の映像データは、他の映像データに比べ高フレームレートであるため、所定の映像データを操作対象の操作に必要な映像データとすることにより、操作対象の操作に必要な映像データを高画質で伝送することができる。
(13)本発明の他の実施形態に係る映像受信装置は、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信する受信部と、前記受信部が受信した前記間引き処理後の前記複数の映像データを表示装置に表示する表示制御部とを備える。
この構成によると、映像受信装置は、所定の映像データのフレームレートよりも他の映像データのフレームレートが低くなるように間引き処理が行われた後の複数の映像データを映像送信装置から受信し、受信した複数の映像データを表示装置に表示することができる。映像送信装置においてこのような間引き処理を行うことにより、間引き処理を行わない場合に比べて複数の映像データの伝送量を減少させることができるため、複数の映像データを低遅延で伝送することができる。また、所定の映像データは、他の映像データに比べ高フレームレートであるため、所定の映像データを操作対象の操作に必要な映像データとすることにより、操作対象の操作に必要な映像データを高画質で伝送することができる。
(14)本発明の他の実施形態に係る映像送信方法は、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行するステップと、前記間引き処理後の前記複数の映像データを送信するステップとを含む。
この構成は、上述の映像送信装置が備える特徴的な処理部に対応するステップを含む。このため、上述の映像送信装置と同様の作用および効果を奏することができる。
(15)本発明の他の実施形態に係る映像受信方法は、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信するステップと、受信した前記間引き処理後の前記複数の映像データを表示装置に表示するステップとを含む。
この構成は、上述の映像受信装置が備える特徴的な処理部に対応するステップを含む。このため、上述の映像受信装置と同様の作用および効果を奏することができる。
(16)本発明の他の実施形態に係るコンピュータプログラムは、コンピュータを、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行する間引き処理部と、前記間引き処理後の前記複数の映像データを送信する送信部として機能させる。
この構成によると、コンピュータを上述の映像送信装置として機能させることができる。このため、上述の映像送信装置と同様の作用および効果を奏することができる。
(17)本発明の他の実施形態に係るコンピュータプログラムは、コンピュータを、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信する受信部と、前記受信部が受信した前記間引き処理後の前記複数の映像データを表示装置に表示する表示制御部として機能させる。
この構成によると、コンピュータを上述の映像受信装置として機能させることができる。このため、上述の映像送信装置と同様の作用および効果を奏することができる。
[本願発明の実施形態の詳細]
以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示すものである。以下の実施の形態で示される数値、形状、構成要素、構成要素の配置位置および接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。本発明は、特許請求の範囲によって特定される。よって、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、本発明の課題を達成するのに必ずしも必要ではないが、より好ましい形態を構成するものとして説明される。
また、同一の構成要素には同一の符号を付す。それらの機能および名称も同様であるため、それらの説明は適宜省略する。
(実施の形態1)
<映像伝送システムの全体構成>
図1は、本発明の実施の形態1に係る映像伝送システムの構成を示す図である。
図1を参照して、映像伝送システム1は、映像送信装置10と、映像受信装置20と、複数のカメラ30A〜30H(以下、カメラ30A〜30Hを区別しない場合には、「カメラ30」と称する。)と、複数の表示装置40A〜40H(以下、表示装置40A〜40Hを区別しない場合には、「表示装置40」と称する。)と、入力装置50とを備える。映像送信装置10と映像受信装置20とは、ネットワーク60を介して相互に接続される。カメラ30A〜30Hは、映像送信装置10に接続される。表示装置40A〜40Hおよび入力装置50は、映像受信装置20に接続される。なお、カメラ30および表示装置40の台数は8に限定されるものではない。
映像送信装置10は、カメラ30A〜30Hが撮影対象を撮影した映像データを、ネットワーク60を介して映像受信装置20に送信する。
映像受信装置20は、映像送信装置10から映像データを受信し、受信した映像データを表示装置40A〜40Hに表示する。
カメラ30A〜30Hおよび映像送信装置10は、例えば、自動車などの車両、フォークリフトに代表される産業車両、油圧ショベルなどの車両系建設機械、ドローンなど、ユーザによる遠隔からの操作対象に設置される。
図2は、本発明の実施の形態1に係るカメラの設置位置の一例を示す図である。
図2を参照して、操作対象としての車両2には、例えば、車両2の周囲360°を監視するために、45°間隔で8台のカメラ30A〜30Hが設置される。
カメラ30A〜30Hは、撮影対象の高精細映像を撮影する。映像には複数の画面が含まれる。例えば、60fps(frame per second)の映像データには、1秒当たり60枚の画面が含まれる。
より詳細には、カメラ30A〜30Hは、例えば、デュアルグリーン方式または4:2:2方式等に従って、8K UHDTVの解像度を有する撮影対象物の映像データを生成する。この映像データには、画面ごとの画面データが含まれる。
デュアルグリーン方式に従って生成された60fpsの映像データの伝送レートは、例えば23.89Gbpsまたは19.91Gbpsである。また、4:2:2方式に従って生成された映像データの伝送レートは、例えば47.78Gbpsまたは39.81Gbpsである。
再び図1を参照して、映像受信装置20、表示装置40A〜40Hおよび入力装置50は、カメラ30A〜30Hおよび映像送信装置10とは離れた場所に設置される。
図3は、本発明の実施の形態1に係る表示装置の設置位置の一例を示す図である。
図3を参照して、ユーザ3を取り囲むようにユーザ3の周囲に表示装置40A〜40Hが設置される。各表示装置は、ユーザ3の側に表示画面が来るように配置される。表示装置40Aには、カメラ30Aが撮影した映像データが表示され、表示装置40Bには、カメラ30Bが撮影した映像データが表示される。表示装置40C〜40Hについても、同様に、それぞれ、カメラ30C〜30Hが撮影した映像データが表示される。
表示装置40A〜40Hの中心に位置するユーザ3が、各表示装置に表示された映像データを見ることにより、車両2に搭乗しているのと同様の映像を見ることができる。これにより、ユーザ3は、車両2の制御装置を操作することにより、遠隔地から車両2を操作することが可能となる。
<映像送信装置10の構成>
図4は、本発明の実施の形態1に係る映像送信装置の構成を示すブロック図である。
図4を参照して、映像送信装置10は、同期処理部11と、間引き処理部12A〜12H(以下、間引き処理部12A〜12Hを区別しない場合には、「間引き処理部12」と称する。)と、間引き制御部13と、映像圧縮部14A〜14H(以下、映像圧縮部14A〜14Hを区別しない場合には、「映像圧縮部14」と称する。)と、多重化部15と、符号化部16と、送信部17と、受信部18と、映像指定情報伝送部19とを備える。なお、間引き処理部12および映像圧縮部14の数は8に限定されるものではない。
映像送信装置10の一部または全部は、ASIC(Application Specific Integrated Circuit)またはFPGA(Field-Programmable Gate Array)等の集積回路等を含むハードウェアにより実現される。
なお、映像送信装置10は、CPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Memory)等を備えるコンピュータにより実現することもできる。CPU等の演算処理装置上でコンピュータプログラムを実行することにより、各処理部は機能的な構成要素として実現される。
同期処理部11は、カメラ30A〜30Hがそれぞれ撮影した映像データA〜Hを受け、映像データA〜Hの時刻同期を行う処理部である。同期処理部11は、例えば、同期信号発生回路が発生する時刻同期信号に基づいて、フレームごとに、映像データA〜Hの各フレームの時刻が一致するように、フレーム時刻を調整する。または、同期処理部11は、映像データA〜Hのうちのいずれか1つの映像データのフレーム時刻に他の映像データのフレーム時刻が一致するように、他の映像データのフレーム時刻を調整してもよい。
間引き処理部12A〜12Hは、それぞれ、映像データA〜Hのフレームレートを低下させるために、映像データの中から一定のフレーム間隔で画面データを抽出し、抽出されなかった画面データを間引く間引き処理を実行する。例えば、画面データをnフレーム間隔で抽出する間引き処理を行うことにより、当該映像データのフレームレートを1/nに変更することができる。間引き処理部12A〜12Hは、間引き処理後の映像データA〜Hを、映像圧縮部14A〜14Hにそれぞれ出力する。
間引き制御部13は、間引き処理部12A〜12Hにおける間引きを制御する。具体的には、間引き制御部13は、間引き処理部12A〜12Hにおいて間引きを行うか否かを決定する。つまり、間引き制御部13は、後述する映像指定情報伝送部19が映像受信装置20から受信した映像指定情報に基づいて、映像指定情報で指定された映像データについては間引き処理を実行せずに、それ以外の映像データについては間引き処理を実行するように、間引き処理部12を制御する。ここで、映像指定情報は、映像受信装置20または映像受信装置20のユーザが注目している映像データを示す情報である。
また、間引き制御部13は、間引き処理部12において間引き処理を行う際のフレーム間隔を制御するとともに、間引き処理を開始するフレームを決定する。間引き処理のフレーム間隔および開始フレームについては後述する。
映像圧縮部14A〜14Hは、間引き処理が実行された後の映像データA〜Hを、それぞれ、画面データごとに圧縮し、圧縮画面データを含む映像データA〜Hを、多重化部15に出力する。圧縮処理については後述する。
多重化部15は、フレームごとに、映像圧縮部14A〜14Hから圧縮処理済みの映像データA〜Hを受け、当該映像データA〜Hを多重化した多重化データを生成する。多重化部15は、生成した多重化データを符号化部16に出力する。
符号化部16は、多重化部15から、フレームごとに、多重化データを受け、当該多重化データを符号化する。符号化部16は、符号化された多重化データを送信部17へ出力する。
送信部17は、通信インタフェースを含んで構成され、符号化部16から、符号化された多重化データを受け、当該多重化データを、ネットワーク60を介して、映像受信装置20に送信する。
受信部18は、通信インタフェースを含んで構成され、映像指定情報を、ネットワーク60を介して映像受信装置20から受信する。受信部18は、受信した映像指定情報を映像指定情報伝送部19に出力する。
映像指定情報伝送部19は、受信部18から映像指定情報を受け、当該映像指定情報を間引き制御部13へ出力する。
ここで、映像指定情報は、上述したように、映像受信装置20または映像受信装置20を利用するユーザが注目している映像データを示す情報である。例えば、映像受信装置20のユーザが映像データAに注目している場合には、映像指定情報には、映像データAの識別子が含まれる。このため、間引き制御部13は、映像データAに対する間引き処理を実行しないように間引き処理部12Aを制御し、映像データB〜Hに対する間引き処理を実行するように間引き処理部12B〜12Hを制御する。
図5は、本発明の実施の形態1に係る映像送信装置による間引き処理および多重化処理について説明するための図である。図5を参照して、映像指定情報に映像データAの識別子が含まれる場合の各処理について説明する。
間引き制御部13は、映像データAに対する間引き処理を実行しないように間引き処理部12Aを制御する。このため、図5の(A)に示すように、間引き処理部12Aは、映像データAについて、間引き処理を実行せずに、全てのフレームの画面データが揃った映像データを出力する。
また、間引き制御部13は、映像データB〜Hに対する間引き処理を実行するように間引き処理部12B〜12Hを制御する。つまり、間引き制御部13は、映像データB〜Hから7フレーム間隔で画面データを抽出するように、間引き処理部12B〜12Hをそれぞれ制御する。また、間引き制御部13は、映像データB〜H間で、抽出される画面データを1フレームずつずらすように間引き処理部12B〜12Hをそれぞれ制御する。
つまり、図5の(A)に示すように、間引き処理部12B〜12Hは、それぞれ、映像データB〜Hについて、間引き処理を実行する。ここで、間引かれたフレームの画面データは破線で示している。
具体的には、間引き処理部12Bは、映像データBについて、第1フレームを開始フレームとして、7フレーム間隔で画面データを抽出し、抽出されなかった画面データを間引く。これにより、第1フレームから第11フレームのうち、第1フレームと第8フレームの画面データが抽出され、それ以外のフレーム画面データは間引かれる。
間引き処理部12Cは、映像データCについて、第2フレームを開始フレームとして、7フレーム間隔で画面データを抽出し、抽出されなかった画面データを間引く。これにより、第1フレームから第11フレームのうち、第2フレームと第9フレームの画面データが抽出され、それ以外のフレーム画面データは間引かれる。
以下同様に、間引き処理部12D〜12Hは、開始フレームを1フレームずつずらして、映像データD〜Hを、映像データBまたはCと同様に間引く。
このように開始フレームを1フレームずつずらして間引き処理を行うことにより、映像データ間で開始フレームが重複しないように間引き処理を行うことができる。これにより、あるフレームに送信対象の画面データが集中することを防ぎ、フレーム間で送信対象の画面データを分散させることができる。
多重化部15は、フレームごとに、間引き処理部12A〜12Hで間引き処理され、映像圧縮部14A〜14Hで圧縮処理された後の映像データA〜Hを多重化する。つまり、図5の(B)に示すように、フレームごとに、映像データAに含まれる画面データと、間引き処理部12B〜12Hの間引き処理により映像データB〜Hから抽出された画面データとを、多重化する。例えば、多重化部15は、映像データAに含まれる画面データの次に、映像データB〜Hから抽出された画面データを結合することにより多重化を行うこととする。
例えば、多重化部15は、映像データAに含まれる第1フレームの画面データと、映像データBから抽出された第1フレームの画面データとを多重化したデータを、第1フレームの多重化データとして出力する。また、多重化部15は、映像データBに含まれる第2フレームの画面データと、映像データCから抽出された第2フレームの画面データとを多重化したデータを、第2フレームの多重化データとして出力する。同様に、多重化部15は、第3フレーム以降についても、映像データAに含まれる画面データと、映像データB〜Hから抽出された1枚の画面データとを多重化したデータを、当該フレームの多重化データとして出力する。
図5の(A)に示すように、間引き処理対象の映像データB〜Hのフレーム抽出間隔を、映像データB〜Hの数と同じ7フレームとすることにより、多重化部15が出力する全てのフレームの多重化データに、同数(2枚)の画面データを含めることができる。これにより、送信する多重化データのフレーム間での偏りを軽減することができる。
<映像圧縮部14の構成>
図6は、本発明の実施の形態1に係る映像圧縮部の詳細な構成を示すブロック図である。
図6を参照して、映像圧縮部14は、ブロック分割部141と、データ分配部142と、可逆圧縮部143と、非可逆圧縮部144と、方式選択部145とを含む。
映像圧縮部14は、間引き処理部12から出力された映像データにおいて、当該映像データを構成する画像の1つである1画面ごとに圧縮処理を行う。より詳細には、映像圧縮部14は、当該映像データにおいて、1画面を複数のブロックに分割し、ブロックごとに画像データの圧縮処理を行う。また、映像圧縮部14は、可逆圧縮のアルゴリズムおよび非可逆圧縮のアルゴリズムをブロックごとに選択可能である。
たとえば、映像圧縮部14は、ブロックの画像データの圧縮率が所定値A1となるように圧縮処理を行う。詳細には、映像圧縮部14は、たとえば、圧縮率が所定値A1となるように可逆圧縮のアルゴリズムおよび非可逆圧縮のアルゴリズムのいずれか一方を選択する。ここで、圧縮率は、圧縮後のデータサイズを圧縮前のデータサイズで除した値と定義する。また、所定値A1は、ユーザまたは映像圧縮部14により設定変更可能である。
より詳細には、映像圧縮部14におけるブロック分割部141は、間引き処理部12から映像データを受けて1画面分の画面データを確保すると、確保した画面データの示す1画面を複数のブロックに分割する。
具体的には、ブロック分割部141は、画面データの示す画面を、同じ形状および同じ大きさを有する複数のブロックに分割する。より具体的には、ブロック分割部141は、画面を1または複数の行ごとにスライスしたブロックに分割したり、1または複数の列ごとにスライスしたブロックに分割したり、縦n個×横m個(ここで、n,mは正の整数。)の画素を有するブロックに分割したりする。
なお、各ブロックの形状は任意の形状でよい。また、各ブロックの大きさは任意の大きさでよい。しかしながら、各ブロックの形状および大きさを統一すると、利便性が高まるので好ましい。また、ブロックのサイズが大きくなるほど圧縮率を高めることが可能となるが、処理負荷、処理回路、処理に要するメモリ容量および処理時間が増大するので、適正なサイズにすることが好ましい。
ブロック分割部141は、ブロックにおける画像データ(以下、「ブロックデータ」とも称する。)をブロックの画面における位置順にデータ分配部142へ出力する。
データ分配部142は、ブロック分割部141から受けるブロックデータを分配する。より詳細には、データ分配部142は、各ブロックデータを先頭から順に、後段の可逆圧縮部143において並列処理可能な数ごとに可逆圧縮部143へ出力する。
可逆圧縮部143は、たとえば複数の可逆的な圧縮処理を並列して行うことが可能である。可逆圧縮部143において用いられる可逆圧縮のアルゴリズムは、たとえば専用の半導体集積回路により実装される。ここで、可逆的な圧縮とは、圧縮後のブロックデータを圧縮前のブロックデータに戻すことが可能なように圧縮することであり、一般に圧縮率が低く、画像により圧縮率が大きく変動する。具体的には、雑音に近い画像の圧縮率は低い。一方、シャープな画像の圧縮率は高い。
より詳細には、可逆圧縮部143は、データ分配部142から複数のブロックデータを受けると、受けたブロックデータを並列に可逆的に圧縮し、圧縮後のブロックデータ(以下、「可逆ブロックデータ」とも称する。)を方式選択部145へ出力する。
映像圧縮部14は、たとえば、アルゴリズムの選択結果を示す選択情報を作成する。より詳細には、映像圧縮部14における方式選択部145は、可逆圧縮部143から可逆ブロックデータを受けると、受けた可逆ブロックデータのサイズに基づいて、可逆ブロックデータの圧縮率を確認する。
具体的には、方式選択部145は、可逆ブロックデータのサイズと所定サイズBSとの比を算出することにより可逆ブロックデータの圧縮率を確認する。ここで、所定サイズBSは、たとえばブロックデータを所定値A1の圧縮率で圧縮したときのサイズである。
方式選択部145は、確認した圧縮率が所定値A1である場合、すなわち、可逆ブロックデータのサイズが所定サイズBSである場合、可逆圧縮を行ったことを示す選択情報および圧縮方法を含む圧縮情報Rを可逆ブロックデータに付加する。圧縮情報は、たとえばフラグビットにより表される。
また、方式選択部145は、可逆ブロックデータのサイズが所定サイズBSより小さい場合、可逆ブロックデータにパディングを施すことにより可逆ブロックデータのサイズを所定サイズBSにした後、圧縮情報Rを可逆ブロックデータに付加する。
また、方式選択部145は、可逆ブロックデータのサイズが所定サイズBSより大きい場合、可逆ブロックデータを破棄するとともに、当該可逆ブロックデータの順番をデータ分配部142へ通知する。
データ分配部142は、方式選択部145から順番の通知を受けると、通知された順番のブロックデータを非可逆圧縮部144へ出力する。
非可逆圧縮部144は、たとえば、圧縮後のサイズを設定することが可能な、Visually Lossless CompressionまたはVisually Reversible Compressionと呼ばれるアルゴリズムを用いてブロックデータを非可逆的に圧縮する。非可逆圧縮部144において用いられる非可逆圧縮のアルゴリズムは、たとえば専用の半導体集積回路に実装される。ここで、非可逆的な圧縮とは、圧縮後のブロックデータを圧縮前のブロックデータに戻すことが不可能なように圧縮することである。ただし、Visually Lossless CompressionまたはVisually Reversible Compressionと呼ばれるアルゴリズムは、視覚的な可逆性を有する圧縮方法である。
具体的には、非可逆圧縮部144は、データ分配部142から受けるブロックデータを、圧縮後のサイズが所定サイズBSになるように非可逆的に圧縮し、圧縮後のブロックデータ(以下、「非可逆ブロックデータ」とも称する。)を方式選択部145へ出力する。
方式選択部145は、非可逆圧縮部144から非可逆ブロックデータを受けると、受けた非可逆ブロックデータに、非可逆圧縮を行ったことを示す選択情報と圧縮方法および圧縮パラメータとを含む圧縮情報Iを非可逆ブロックデータに付加する。
以下、可逆ブロックデータおよび非可逆ブロックデータの各々を、「圧縮ブロックデータ」とも称する。方式選択部145は、圧縮ブロックデータを位置順に多重化部15へ出力する。
<映像受信装置20の構成>
図7は、本発明の実施の形態1に係る映像受信装置の構成を示すブロック図である。
図7を参照して、映像受信装置20は、受信部21と、復号化部22と、映像分離部23と、映像メモリ24A〜24H(以下、映像メモリ24A〜24Hを区別しない場合には、「映像メモリ24」と称する。)と、映像伸長部25A〜25H(以下、映像伸長部25A〜25Hを区別しない場合には、「映像伸長部25」と称する。)と、入力受付部26と、注目映像決定部27と、映像指定情報伝送部28と、送信部29とを備える。なお、映像メモリ24および映像伸長部25の数は、8に限定されるものではない。
映像受信装置20の一部または全部は、ASICまたはFPGA等の集積回路等を含むハードウェアにより実現される。
なお、映像受信装置20は、CPU、RAMおよびROM等を備えるコンピュータにより実現することもできる。CPU等の演算処理装置上でコンピュータプログラムを実行することにより、各処理部は機能的な構成要素として実現される。
受信部21は、通信インタフェースを含んで構成される。受信部21は、ネットワーク60を介して映像送信装置10から、フレームごとに、符号化された多重化データを受信する。受信部21は、受信した符号化された多重化データを復号化部22に出力する。
復号化部22は、フレームごとに、受信部21から符号化された多重化データを受け、当該多重化データを復号化する。復号化部22は、復号化した多重化データを映像分離部23に出力する。
映像分離部23は、フレームごとに、映像分離部23から多重化データを受ける。また、映像分離部23は、後述する注目映像決定部27から、映像指定情報を受ける。映像分離部23は、映像指定情報に基づいて、多重化データを複数の圧縮画面データに分離する。例えば、映像分離部23は、図5の(B)に示すような多重化データをフレームごとに受けたとする。また、映像指定情報は映像データAの識別子を含んでいるものとする。この場合、映像分離部23は、多重化データの先頭から半分のデータを、映像指定情報が示す映像データAの圧縮画面データとして分離する。また、映像分離部23は、多重化データの半分から終了までのデータを、映像データB〜Hから抽出され圧縮された圧縮画面データとして分離する。
なお、映像分離部23は、フレームごとに、多重化データにどの映像データB〜Hの圧縮画面データが含まれているかを事前に知っているものとする。つまり、映像分離部23は、映像送信装置10の間引き制御部13による間引きのルールを、事前に知っているものとする。これにより、映像分離部23は、フレームごとに、多重化データにどの映像データの圧縮画面データが含まれるかを知ることができる。例えば、映像指定情報が映像データAの場合には、映像データB、C、D、E、F、G、Hの順に間引き処理が行われるという間引きのルールを、映像分離部23と間引き制御部13との間で共有している。
映像分離部23は、さらに、分離した映像データA〜Hの圧縮画面データを、それぞれ、映像メモリ24A〜24Hに出力する。
映像メモリ24A〜24Hは、それぞれ、映像分離部23から受けた映像データA〜Hの圧縮画面データを記憶する。映像メモリ24A〜24Hは、DRAM等のメモリにより構成される。
映像伸長部25A〜25Hは、それぞれ、映像メモリ24A〜24Hから、映像メモリ24A〜24Hに記憶された圧縮画面データをそれぞれ読み出し、読み出した圧縮画面データを伸長する。伸長処理については後述する。映像伸長部25A〜25Hは、表示制御部として機能し、伸長処理後の画面データを、表示装置40A〜40Hにそれぞれ表示する。
なお、上述の例では、映像データA以外の映像データB〜Hに対して間引き処理が施されている。このため、映像伸長部25B〜25Hは、画面データが間引かれたフレームについては、映像メモリ24B〜24Hに記憶されている最新の圧縮画面データを読み出して、伸長処理を行う。
図8および図9は、本発明の実施の形態1に係る映像伸長部による間引きフレームについての伸長処理を説明するための図である。
例えば、図8に示すように、映像データBについて、第2〜第7フレームの画面データと、第9〜第14フレームの画面データが間引かれているとする。このため、図9に示すように、映像伸長部25Bは、第1〜第7フレームにおいて、第1フレームの圧縮画面データを繰り返し読み出して伸長処理を行い、第8〜第14フレームにおいて、第8フレームの圧縮画面データを繰り返し読み出して伸長処理を行う。
このような処理により、表示装置40B〜40Hは、フレームが間引かれた映像データをコマ落ちさせることなく再生することができる。ただし、画面データは7フレームごとにしか更新されないため、いわゆるカクカクした動きの映像が再生される。
入力受付部26は、ユーザ3が入力装置50を操作して指定した、ユーザが注目している映像データの情報を受け付け、受け付けた情報を注目映像決定部27に出力する。
注目映像決定部27は、受け付けた情報から、ユーザが注目している映像データの識別子を含む映像指定情報を作成し、作成した映像指定情報を映像分離部23および映像指定情報伝送部28に出力する。
例えば、入力装置50は、キーボードやマウス等である。ユーザは、表示装置40A〜40Hに表示されている映像データA〜Hの中から、注目している映像データの識別子を、入力装置50を操作して入力する。入力受付部26は、ユーザが入力した映像データの識別子を、ユーザが注目している映像データの情報として受け付ける。注目映像決定部27は、入力受付部26が受け付けた映像データの識別子を含む映像指定情報を作成する。
なお、入力装置50は、ユーザの視線を検知する視線検知装置であってもよい。例えば、入力装置50は、ユーザの目元を撮影した映像データからユーザの視線方向を検知する。入力受付部26は、入力装置50が検知したユーザの視線方向の情報を受け付け、当該情報を注目映像決定部27に出力する。注目映像決定部27は、入力受付部26から受け付けた視線方向の情報に基づいて、ユーザがどの表示装置40を見ているかを判断する。注目映像決定部27は、ユーザの視線の先にある表示装置40に表示されている映像データの識別子を、ユーザが注目している映像データの情報として、当該識別子を含む映像指定情報を作成する。
映像指定情報伝送部28は、注目映像決定部27から映像指定情報を受け、当該映像指定情報を送信部29に出力する。
送信部29は、通信インタフェースを含んで構成され、映像指定情報伝送部28から映像指定情報を受け、当該映像指定情報をネットワーク60を介して映像送信装置10に送信する。
<映像伸長部25の構成>
図10は、本発明の実施の形態1に係る映像伸長部の詳細な構成を示すブロック図である。
図10を参照して、映像伸長部25は、伸長部251と、ブロック合成部253とを含む。
映像伸長部25は、映像メモリ24に記憶されている圧縮画面データにおいて、ブロックごとにデータの伸長処理を行う。また、映像伸長部25は、可逆伸長のアルゴリズムおよび非可逆伸長のアルゴリズムをブロックごとに選択可能である。
たとえば、映像伸長部25は、映像送信装置10から受信した選択情報を用いて伸長処理を行う。
より詳細には、映像伸長部25における伸長部251は、映像メモリ24に記憶されている圧縮画面データから圧縮ブロックデータを位置順に読み出し、読み出した圧縮ブロックデータから圧縮情報Rまたは圧縮情報Iを取得する。
伸長部251は、取得した圧縮情報が圧縮情報Rである場合には、圧縮情報Rから選択情報および圧縮方法を取得する。伸長部251は、取得した選択情報に基づいて、読み出した圧縮ブロックデータが可逆ブロックデータであることを認識し、圧縮情報Rを取り除いた可逆ブロックデータを、取得した圧縮方法に従って伸長する。
一方、伸長部251は、取得した圧縮情報が圧縮情報Iである場合には、圧縮情報Iから選択情報、圧縮方法および圧縮パラメータを取得する。伸長部251は、取得した選択情報に基づいて、読み出した圧縮ブロックデータが非可逆ブロックデータであることを認識し、圧縮情報Iを取り除いた非可逆ブロックデータを、取得した圧縮方法に従って、取得した圧縮パラメータを用いて伸長する。
伸長部251において用いられる可逆伸縮のアルゴリズムおよび非可逆伸縮のアルゴリズムは、たとえば専用の半導体集積回路に実装される。
伸長部251は、伸長後のブロックデータを位置順にブロック合成部253へ出力する。
ブロック合成部253は、伸長部251から受けるブロックデータから画面の一部を生成し、生成した画面の一部を伸長部251から受けた順番に並べることにより1画面を完成させる。ブロック合成部253は、完成させた1画面を示す画面情報を表示装置40へ出力する。
<映像伝送システム1の処理シーケンス>
図11は、本発明の実施の形態1に係る映像伝送システムが実行する処理のシーケンスを示す図である。
映像伝送システム1は、図11に示すシーケンス処理を、フレームごとに繰り返し実行する。
映像受信装置20の注目映像決定部27は、ユーザ3が注目している映像データを決定する(S1)。
映像受信装置20の映像指定情報伝送部28および送信部29は、ユーザ3が注目している映像データの識別子を含む映像指定情報を、映像送信装置10に送信する(S2)。映像送信装置10の受信部18は、映像指定情報を受信し、映像送信装置10の映像指定情報伝送部19は、受信部18が受信した映像指定情報を間引き制御部13に出力する。なお、映像受信装置20は、フレームごとに映像指定情報を映像送信装置10に送信するようにしてもよいし、映像指定情報の変更があった場合のみ映像指定情報を送信するようにしてもよい。
映像送信装置10の同期処理部11は、カメラ30A〜30Hがそれぞれ撮影した映像データA〜Hを取得する(S3)。
同期処理部11は、映像データA〜Hの同期処理を行う(S4)。
映像送信装置10の間引き制御部13および間引き処理部12A〜12Hは、映像データA〜Hのうち、映像指定情報が示す映像データを除く映像データに対して、フレームの間引き処理を行う(S5)。
映像送信装置10の映像圧縮部14A〜14Hは、間引き処理後の映像データA〜Hを、それぞれ、画面データごとに圧縮する(S6)。映像圧縮処理の詳細については後述する。
映像送信装置10の多重化部15は、圧縮処理済みの映像データA〜Hを多重化する(S7)。
映像送信装置10の符号化部16は、多重化データを符号化する(S8)。
送信部17は、符号化済みの多重化データを映像受信装置20に送信する(S9)。映像受信装置20の受信部21は、符号化済みの多重化データを受信する。
映像受信装置20の復号化部22は、符号化済みの多重化データを復号化する(S10)。
映像受信装置20の映像分離部23は、復号化された多重化データを複数の圧縮画面データに分離し、各圧縮画面データを、当該圧縮画面データの映像データに対応する映像メモリ24に書き込む(S11)。
映像伸長部25A〜25Hは、映像メモリ24A〜24Hから、最新フレームの圧縮画面データを読み出し、読み出した圧縮画面データを伸長する(S12)。映像伸長処理の詳細については後述する(S12)。
映像伸長部25A〜25Hは、伸長後の画面データを表示装置40A〜40Hにそれぞれ出力する。これにより、表示装置40A〜40Hは、映像データA〜Hの画面データをそれぞれ表示する(S13)。
<映像圧縮処理の処理シーケンス>
図12は、本発明の実施の形態1に係る映像送信装置が映像データにおける1画面の圧縮処理を行う際の動作手順を定めたフローチャートである。
図12を参照して、ブロック分割部141は、間引き処理部12から1画面分の映像データを取得する。ブロック分割部141は、取得した1画面分の映像データの示す画面を複数のブロックに分割する(S104)。
データ分配部142は、分割した複数のブロックのブロックデータの中からブロックデータを選択し、選択したブロックデータを可逆圧縮部143に分配する。可逆圧縮部143は、分配されたブロックデータを可逆圧縮処理する(S106)。
方式選択部145は、圧縮ブロックデータのデータサイズが、圧縮率が所定値A1に相当するサイズすなわち所定サイズBSより大きい場合(S108でYES)、可逆ブロックデータを破棄するとともに、当該可逆ブロックデータの順番をデータ分配部142へ通知する。データ分配部142は、当該ブロックデータを非可逆圧縮部144に分配し、非可逆圧縮部144は、当該ブロックデータを非可逆圧縮処理する(S120)。
非可逆圧縮部144は、非可逆圧縮処理後の圧縮ブロックデータに圧縮情報Iを付加する(S122)。
一方、可逆圧縮部143は、圧縮ブロックデータのデータサイズが所定サイズBSより小さい場合(S108でNOおよびS110でYES)、圧縮ブロックデータのデータサイズが所定サイズBSとなるように圧縮ブロックデータにパディングを施す(S112)。
可逆圧縮部143は、圧縮ブロックデータのデータサイズが所定サイズBSであるか(S108でNOおよびS110でNO)、または圧縮ブロックデータにパディングを施すと(S112)、圧縮ブロックデータに圧縮情報Rを付加する(S114)。
データ分配部142は、圧縮ブロックデータに圧縮情報Iを付加するか(S122)、または圧縮ブロックデータに圧縮情報Rを付加すると(S114)、すべてのブロックデータを選択したか否かを確認する(S116)。
データ分配部142は、すべてのブロックデータを選択していないことを確認すると(S116でNO)、分割した複数のブロックのブロックデータの中から新たなブロックデータを選択し、選択したブロックデータを可逆圧縮部143に分配する。可逆圧縮部143は、分配されたブロックデータを可逆圧縮処理する(S106)。
データ分配部142がすべてのブロックデータを選択したことを確認すると(S116でYES)、方式選択部145は、圧縮ブロックデータを位置順に多重化部15へ送信する(S118)。
なお、映像圧縮部14は、ブロックデータを可逆圧縮処理してから(S106)、圧縮ブロックデータのデータサイズが所定サイズBSより大きいブロックの画像データを非可逆圧縮処理したが(S108でYESおよびS120)、これに限定するものではない。映像圧縮部14は、ブロックデータを非可逆圧縮処理してから、当該ブロックデータを可逆圧縮処理してもよいし、非可逆圧縮処理および可逆圧縮処理を並行して行ってもよい。
また、映像圧縮部14は、ブロックデータを可逆圧縮処理してから(S106)、圧縮ブロックデータのデータサイズが所定サイズBSより大きいか否かを判定したが(S108)、これに限定するものではない。映像圧縮部14は、ブロックデータの可逆圧縮処理の途中において、圧縮処理後のデータサイズが所定サイズBSより大きくなることが明らかになったとき、当該可逆圧縮処理を中断して非可逆圧縮処理を開始してもよい。
映像圧縮部14が、1画面分の映像データを間引き処理部12から取得するごとに上記ステップS104〜S122の動作を行うことにより、複数の画面の画面データを含む映像データの圧縮処理が行われる。
<映像伸長処理の処理シーケンス>
図13は、本発明の実施の形態1に係る映像受信装置が映像データにおける1画面の伸長処理を行う際の動作手順を定めたフローチャートである。
図13を参照して、伸長部251は、映像メモリ24に記憶されている圧縮画面データから圧縮ブロックデータを取得する(S202)。
伸長部251は、圧縮ブロックデータに付加された圧縮情報Rまたは圧縮情報Iに基づいて、当該圧縮ブロックデータが可逆圧縮されたか否かを判定する(S204)。
伸長部251は、当該圧縮ブロックデータが可逆圧縮されたと判定すると(S204でYES)、圧縮情報Rに基づいて、当該圧縮ブロックデータすなわち可逆ブロックデータを伸長する(S206)。
一方、伸長部251は、当該圧縮ブロックデータが非可逆圧縮されたと判定すると(S204でNO)、圧縮情報Iに基づいて、当該圧縮ブロックデータすなわち非可逆ブロックデータを伸長する(S214)。
次に、映像伸長部25は、可逆ブロックデータを伸長するか(S206)、または非可逆ブロックデータを伸長すると(S214)、1画面分のブロックデータが蓄積されたか否かを判定する(S208)。
映像伸長部25は、1画面分のブロックデータが蓄積されていないと判定すると(S208でNO)、映像メモリ24に記憶されている圧縮画面データから新たな圧縮ブロックデータを取得する(S202)。
一方、映像伸長部25が1画面分のブロックデータが蓄積されたと判定すると(S208でYES)、ブロック合成部253は、蓄積したブロックデータを用いて1画面を生成する(S210)。
ブロック合成部253は、生成した1画面を所定のフレーム周期で表示装置40に表示する制御を行う(S212)。
映像伸長部25が、1画面分のブロックデータを蓄積し、蓄積したブロックデータを用いて生成した1画面を表示装置40に表示する上記ステップS202〜S212の動作を繰り返し行うことにより、複数の画面の画面データを含む映像データの伸長処理が行われる。
<実施の形態1の効果等>
以上説明したように、本発明の実施の形態1によると、映像送信装置10は、映像指定情報で指定された所定の映像データのフレームレートよりも指定されなかった他の映像データのフレームレートが低くなるように間引き処理を行った後、複数の映像データを映像受信装置20に送信する。映像受信装置20は、間引き処理後の複数の映像データを表示装置40に表示することができる。このような間引き処理を行うことにより、間引き処理を行わない場合に比べて複数の映像データの伝送量を減少させることができるため、複数の映像データを低遅延で伝送することができる。また、所定の映像データは、他の映像データに比べ高フレームレートであるため、所定の映像データを操作対象(例えば、車両2)の操作に必要な映像データとすることにより、操作対象の操作に必要な映像データを高画質で伝送することができる。
また、映像送信装置10は、映像指定情報で指定された所定の映像データを間引かないことしている。このため、所定の映像データを高画質で伝送し、表示装置40に表示することができる。これにより、ユーザは、所定の映像データを高画質な状態で見ることができる。
また、映像送信装置10は、間引き処理後の複数の映像データを圧縮して、映像受信装置20に配信している。これにより、複数の映像データをさらに低遅延で伝送することができる。
また、映像送信装置10は、映像データの1画面を複数のブロックに分割し、ブロックごとに画像データの圧縮処理を実行している。圧縮処理の際、可逆圧縮のアルゴリズムおよび不可逆圧縮のアルゴリズムをブロックごとに選択可能である。このため、可逆圧縮のアルゴリズムを適用したブロックについては、圧縮処理負荷を軽くするとともに、オリジナル映像に対する同一性を保持した画像データを映像受信装置20において復元することができる。また、非可逆圧縮のアルゴリズムを適用したブロックについては、伝送時のデータサイズを小さくするとともに、オリジナル映像に近い画像データを映像受信装置20において復元することができる。また、画面内の画像データを用いて圧縮処理を行うことで、画面間の画像データを用いて圧縮処理を行わないようにしてもよいので、処理負荷を軽減することができる。すなわち、映像送信装置10および映像受信装置20間のデータ伝送能力と、より多くのオリジナル映像データを送信する目的とのバランスを考慮しながら、可逆圧縮または非可逆圧縮の別をブロックごとに適宜選択し、ブロックごとの圧縮処理を施した画像データを伝送することができる。したがって、オリジナル映像との同一性および伝送レートを考慮した適切な映像伝送を実現することができる。
また、映像受信装置20は、車両2などの操作対象の操作に必要な映像データを指定することができる。このため、映像送信装置10は、映像受信装置20が所望する所定の映像データを高画質で送信することができる。また、映像受信装置20は所定の映像データを高画質で表示することができる。
なお、映像受信装置20のユーザは、車両2などの操作対象の操作に必要な映像データを指定することができる。このため、映像送信装置は、ユーザが指定した映像データを高画質で映像受信装置に送信することができ、映像受信装置は、ユーザが指定した映像データを高画質で表示することができる。また、映像送信装置は、ユーザが指定した映像データ以外の他の映像データをフレームレートが相対的に低くなるように間引いて、映像受信装置に送信することができる。これにより、複数の映像データを低遅延で伝送することができる。
なお、映像受信装置20は、入力装置50が検知したユーザの視線方向の情報に基づいて、ユーザが所望する映像データを指定することもできる。つまり、表示装置40A〜40Hに表示された複数の映像データのうち、ユーザが視線を向けて見ている映像データをユーザが所望する映像データとして指定することができる。このため、映像送信装置10はユーザが注視している映像データを高画質で映像受信装置20に送信し、ユーザが注視していない他の映像データをフレームレートが相対的に低くなるように間引いて、映像受信装置20に送信することができる。これにより、複数の映像データを低遅延で伝送することができる。
つまり、5Gの無線通信などの伝送能力が限定された通信環境においては、高精細な複数の映像データを伝送することは困難であるが、実施の形態1によると、ユーザが注視していない表示装置40には間引き処理された映像が表示され、ユーザが注視する表示装置40には毀損の無い映像が表示される。このため、ユーザにとって実用的な映像を表示することができる。
なお、本発明の実施の形態1に係る映像送信装置10では、映像圧縮部14は、ブロックデータの圧縮率が所定値A1となるように圧縮処理を行う構成であるとしたが、これに限定するものではない。映像圧縮部14は、当該圧縮率が所定範囲となるように圧縮処理を行う構成であってもよい。たとえば、映像圧縮部14は、ブロックデータを可逆圧縮したときのデータサイズが、圧縮率の所定範囲における上限値に相当するサイズより大きい場合、当該サイズ以下を目標として当該ブロックデータを非可逆圧縮する。一方、映像圧縮部14は、ブロックデータを可逆圧縮したときのデータサイズが、圧縮率の所定範囲における下限値に相当するサイズより小さい場合、データサイズが当該サイズになるようにパディングを施す。
また、本発明の実施の形態1に係る映像受信装置20では、映像伸長部25は、映像送信装置10から受信した選択情報を用いて伸長処理を行う構成であるとしたが、これに限定するものではない。映像伸長部25は、選択情報を用いず伸長処理を行う構成であってもよい。具体的には、たとえば、映像伸長部25は、ブロックごとの画像データを可逆伸長することを試みる。映像伸長部25は、可逆伸長処理に成功すると、伸長後の画像データを採用し、可逆伸長処理に失敗すると、当該画像データを非可逆伸長する。
また、本発明の実施の形態1では、映像指定情報で指定される映像データは1つとしたが、複数であってもよい。映像指定情報で複数の映像データが指定された場合には、指定された映像データのうち少なくとも一部のデータに対して間引き処理を施すようにしてもよい。例えば、互いに隣接する位置に配置された3つの表示装置40へ表示される3つの映像データが映像指定情報で指定された場合には、中心の表示装置40に表示される映像データは間引かずに、左右の表示装置40に表示される映像データを間引くようにしてもよい。なお、その間引き間隔は、映像指定情報で指定されなかった間引き対象とされる映像データの間引き間隔よりも小さくするのが好ましい。
(実施の形態2)
実施の形態1では、映像送信装置10が映像受信装置20に映像データを送信する際に、1フレーム分の画面データを1フレームに収めて送信することとしたが、実施の形態2では、1フレーム分の画面データを複数フレームに亘って送信する例について説明する。
映像伝送システム1の構成は実施の形態1と同様である。このため、その詳細な説明はここでは繰り返さない。
なお、本実施の形態では、例えば、映像送信装置10において、同期処理部11は、映像データA〜Cを受けるものとする。また、映像送信装置10が映像受信装置20から受け取る映像指定情報において、映像データAが指定されているものとする。
図14は、本発明の実施の形態2に係る映像送信装置による間引き処理および多重化処理について説明するための図である。図14を参照して、映像指定情報に映像データAの識別子が含まれる場合の各処理について説明する。
間引き制御部13は、映像データAに対する間引き処理を実行しないように間引き処理部12Aを制御する。このため、図14の(A)に示すように、間引き処理部12Aは、映像データAについて、間引き処理を実行せずに、全てのフレームの画面データが揃った映像データを出力する。
また、間引き制御部13は、映像データBおよびCに対する間引き処理を実行するように間引き処理部12Bおよび12Cを制御する。例えば、間引き制御部13は、映像データBおよびCから7フレーム間隔で画面データを抽出するように、間引き処理部12Bおよび12Cをそれぞれ制御する。
つまり、図14の(A)に示すように、間引き処理部12Bおよび12Cは、それぞれ、映像データBおよびCについて、間引き処理を実行する。ここで、間引かれたフレームの画面データは破線で示している。
具体的には、間引き処理部12Bは、映像データBおよび映像データCの各々について、第1フレームを開始フレームとして、7フレーム間隔で画面データを抽出し、抽出されなかった画面データを間引く。これにより、第1フレームから第11フレームのうち、第1フレームと第8フレームの画面データが抽出され、それ以外のフレーム画面データは間引かれる。
多重化部15は、フレームごとに、間引き処理部12A〜12Cで間引き処理され、映像圧縮部14A〜14Cで圧縮処理された後の映像データA〜Cを多重化する。その際、多重化部15は、間引き処理後の映像データBおよびCに含まれる各画面データを時分割し、複数のフレームに亘り多重化する。つまり、図14の(B)に示すように、フレームごとに、映像データAに含まれる画面データと、間引き処理部12Bおよび12Cの間引き処理により映像データBおよびCから抽出された画面データとを、多重化する。例えば、多重化部15は、映像データAに含まれる画面データの次に、映像データBおよびCから抽出され、時分割された画面データを結合することにより多重化を行うこととする。
具体的には、多重化部15は、映像データに含まれる第1フレームの画面データと、映像データBから抽出された第1フレームの画面データを7分割したデータのうち1番目のデータと、映像データCから抽出された第1フレームの画面データを7分割したデータのうち1番目のデータとを多重化したデータを、第1フレームの多重化データとして出力する。
また、多重化部15は、映像データに含まれる第2フレームの画面データと、映像データBから抽出された第1フレームの画面データを7分割したデータのうち2番目のデータと、映像データCから抽出された第1フレームの画面データを7分割したデータのうち2番目のデータとを多重化したデータを、第2フレームの多重化データとして出力する。
以下同様の処理を行うことで、多重化部15は、7フレームかけて映像データBおよびCの第1フレームの画面データを多重化する。
映像データBおよびCの第2フレームの画面データについても、同様の処理を繰り返すことにより、多重化される。
映像受信装置20の映像分離部23は、フレームごとに、映像分離部23から多重化データを受ける。また、映像分離部23は、後述する注目映像決定部27から、映像指定情報を受ける。映像分離部23は、映像指定情報に基づいて、多重化データを複数の圧縮画面データに分離する。例えば、映像分離部23は、図14の(B)に示すような多重化データをフレームごとに受けたとする。また、映像指定情報は映像データAの識別子を含んでいるものとする。この場合、映像分離部23は、多重化データの先頭から第1所定サイズのデータを、映像指定情報が示す映像データAの圧縮画面データとして分離する。また、映像分離部23は、多重化データの残りのデータのうち第2所定サイズのデータを、映像データBから抽出され圧縮された圧縮画面データの部分データとして分離する。さらに、映像分離部23は、多重化データの残りのデータを、映像データCから抽出され圧縮された圧縮画面データの部分データとして分離する。
なお、映像送信装置10の映像圧縮部14においては、各ブロックデータのサイズが所定サイズBSとなるように圧縮処理が行われる。このため、第1所定サイズおよび第2所定サイズは固定サイズとすることができる。
7フレーム分の部分データが映像メモリ24Bおよび24Cに記憶された段階で、1フレーム分の圧縮画面データが揃うことになる。映像伸長部25Bおよび25Cは、1フレーム分の圧縮画面データがそろった段階で、当該圧縮画面データを伸長する。映像伸長部25Bおよび25Cは、次の圧縮画面データが揃うまでの間、同じ圧縮画面データを毎フレーム伸長する。これにより、映像伸長部25Bおよび25Cは、それぞれ同じ画面データを7フレームに亘り表示装置40Bおよび40Cに表示する。
一方、映像伸長部25Aは、毎フレーム、映像データAの圧縮画面データを伸長し、表示装置40Aに表示する。
以上説明したように、実施の形態2によると、間引き処理後の各画面データを時分割で送信することにより、フレーム間で伝送量を平準化することができる。これにより、映像データ伝送時の伝送レートを低く抑えることができる。
例えば、図14に示した例において、間引き処理後の各画面データを時分割送信しない場合には、第1フレームにおいて、3枚の画面データを伝送し、第2〜第7フレームにおいて1枚の画面データを伝送する必要がある。このため、フレームごとに伝送量が異なるが、実施の形態2によると、フレーム間の伝送量を平準化することができる。
(実施の形態3)
実施の形態3では、映像送信装置および映像受信装置を低コストで構成する例について説明する。実施の形態1および2に示した映像送信装置および映像受信装置は、FPGAにより実現可能である。しかし、映像データの取り扱いには大容量のメモリを要する。FPGAには有限容量の内蔵メモリを備えるものがあるが、映像データを記憶するには容量不足であることが多い。また、大容量のメモリを内蔵するFPGAは高価である。
そこで、実施の形態3では、FPGAとは別に汎用品の外付けメモリを用いて映像送信装置および映像受信装置を実現する例について説明する。
図15は、本発明の実施の形態3に係る映像送信装置の構成を示すブロック図である。
図15を参照して、映像送信装置10Aは、入力I/F部71と、FPGA72と、外付けメモリ73と、送信部17と、受信部18とを備える。
入力I/F部71は、カメラ30とFPGA72とを接続するためのインタフェースである。入力I/F部71は、カメラ30が撮影した映像データを取得し、取得した映像データをFPGA72に出力する。
FPGA72は、入力I/F部71を介してカメラ30から取得した映像データに対して、間引き処理、映像圧縮処理、多重化処理および符号化処理を施す集積回路である。
FPGA72は、同期処理部11と、間引き処理部12A〜12Hと、間引き制御部13と、映像圧縮部14A〜14H、メモリI/F部74と、多重化部15と、符号化部16と、映像指定情報伝送部19とを含む。メモリI/F部74以外の各処理部は、実施の形態1で説明したものと同様である。
メモリI/F部74は、外付けメモリ73とFPGA72を接続するためのインタフェースである。メモリI/F部74は、映像圧縮部14A〜14Hから出力される圧縮画面データを、外付けメモリ73に書き込む。また、メモリI/F部74は、外付けメモリ73から圧縮画像データを読み出して、多重化部15に出力する。
外付けメモリ73は、FPGA72の処理過程で生じるデータを一時的に記憶する記憶装置であり、例えば、DDR3 SDRAM(Double-Data-Rate3 Synchronous Dynamic Random Access Memory)やDDR4 SDRAM(Double-Data-Rate4 Synchronous Dynamic Random Access Memory)などのDRAMにより構成される。
送信部17は、実施の形態1に示したものと同様であり、通信インタフェースを含んで構成され、FPGA72から、符号化された多重化データを受け、当該多重化データを、ネットワーク60を介して、映像受信装置20に送信する。
受信部18は、実施の形態1に示したものと同様であり、通信インタフェースを含んで構成され、映像指定情報を、ネットワーク60を介して映像受信装置20から受信する。受信部18は、受信した映像指定情報を、FPGA72の映像指定情報伝送部19に出力する。
図16は、本発明の実施の形態3に係る映像受信装置の構成を示すブロック図である。
図16を参照して、映像受信装置20Aは、受信部21と、送信部29と、FPGA81と、外付けメモリ82とを備える。
受信部21は、実施の形態1に示したものと同様であり、通信インタフェースを含んで構成される。受信部21は、ネットワーク60を介して映像送信装置10Aから、フレームごとに、符号化された多重化データを受信する。受信部21は、受信した符号化された多重化データを、FPGA81の復号化部22に出力する。
送信部29は、実施の形態1に示したものと同様であり、通信インタフェースを含んで構成され、FPGA81の映像指定情報伝送部28から映像指定情報を受け、当該映像指定情報をネットワーク60を介して映像送信装置10Aに送信する。
FPGA81は、受信部21が受信した符号化された多重化データに対して、復号化処理、映像分離処理および映像伸長処理を施す集積回路である。
FPGA81は、復号化部22と、映像分離部23と、メモリI/F部83と、映像伸長部25A〜25Hと、入力受付部26と、注目映像決定部27と、映像指定情報伝送部28とを含む。メモリI/F部83以外の各処理部は、実施の形態1で説明したものと同様である。
メモリI/F部83は、外付けメモリ82とFPGA81を接続するためのインタフェースである。メモリI/F部83は、映像分離部23で分離された圧縮画面データを、外付けメモリ73に書き込む。また、メモリI/F部83は、外付けメモリ82から圧縮画像データを読み出して、映像伸長部25A〜25Hに出力する。
以上説明したように、実施の形態3に係る映像送信装置10Aおよび映像受信装置20Aは、FPGAと外付けメモリとを組み合わせて構成され、処理の途中で発生する映像データを外付けメモリに記憶させる。外付けメモリとして、汎用のDRAM等を用いることができる。このため、低コストで映像送信装置10Aおよび映像受信装置20Aを構成することができる。
また、8Kのデュアルグリーン方式の映像データの伝送レートは24Gbps程度であるため、そのままの形で映像データを外付けメモリに格納し、リアルタイム再生を行うのは、メモリアクセス速度の点から困難である。これに対し、実施の形態3では、間引き処理および圧縮処理を行った後の映像データを外付けメモリに格納しているため、メモリへ格納されるデータ容量を減らすことができ、これに伴いデータアクセス時間を短縮することができる。よって、リアルタイム再生も可能となる。このように、外付けメモリを利用して映像送信装置10Aおよび映像受信装置20Aを構成することができる。
なお、上記実施の形態の少なくとも一部を任意に組み合わせるとしてもよい。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。