JP2022157463A - 映像送信装置、映像送信方法、プログラム及び記録媒体 - Google Patents

映像送信装置、映像送信方法、プログラム及び記録媒体 Download PDF

Info

Publication number
JP2022157463A
JP2022157463A JP2021061700A JP2021061700A JP2022157463A JP 2022157463 A JP2022157463 A JP 2022157463A JP 2021061700 A JP2021061700 A JP 2021061700A JP 2021061700 A JP2021061700 A JP 2021061700A JP 2022157463 A JP2022157463 A JP 2022157463A
Authority
JP
Japan
Prior art keywords
video
vehicle
landscape
quality
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021061700A
Other languages
English (en)
Inventor
廣人 根岸
Hiroto Negishi
昂生 加峯
Takao Kamine
晶勅 床井
Akitoki Tokoi
靖之 野田
Yasuyuki Noda
裕一 伊田
Yuichi Ida
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Electronic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Electronic Corp filed Critical Pioneer Electronic Corp
Priority to JP2021061700A priority Critical patent/JP2022157463A/ja
Publication of JP2022157463A publication Critical patent/JP2022157463A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】車外端末の操作者に対して、通信時の通信量を低くしつつ、車両の外部の映像を状況に応じて適切な態様で送信することが可能な映像送信装置及び映像送信方法を提供する。【解決手段】移動体と共に移動する映像送信装置であって、移動体の周囲の映像を逐次取得する映像取得部と、移動体の前方の景観の良否に関する景観情報を逐次取得する景観良否判定部と、景観の良否に応じたフレームレートの前記映像を送信する映像送信部と、を有することを特徴とする映像送信装置。【選択図】図1

Description

本発明は、映像送信装置、映像送信方法、プログラム及び記録媒体に関する。
車両に搭載される車載機と当該車両の外部に位置する車外端末との間で通信を行う通信システムがある。例えば、特許文献1には、車両の運転者と車外端末の操作者との間で音声通話を行い、当該音声通話がなされているときに、車両の前方の映像を表す映像データを車載機から車外端末に送信し、当該映像を車外端末に表示させるシステムが開示されている。
特開2016-213791号公報
特許文献1のようなシステムにおいて、例えば、映像送信時の通信量が必要以上に多くなることを避けるために、通信量を極力抑えたモードで映像を車外端末に送信する場合がある。このような場合であっても、車両の運転者と車外端末の操作者との間で映像の共有感が薄れないことが好ましい。
本発明は、上記した点に鑑みてなされたものであり、車外端末の操作者に対して、通信時の通信量を低くしつつ、車両の外部の映像を状況に応じて適切な態様で送信することが可能な映像送信装置及び映像送信方法を提供することを目的とする。
本発明による映像送信装置は、移動体と共に移動する映像送信装置であって、移動体の周囲の映像を逐次取得する映像取得部と、移動体の前方の景観の良否に関する景観情報を逐次取得する景観良否判定部と、景観の良否に応じたフレームレートの映像を送信する映像送信部と、を有することを特徴とする。
本発明による映像送信方法は、移動体と共に移動する映像送信装置が実行する映像送信方法であって、移動体の周囲の映像を逐次取得する映像取得ステップと、移動体の前方の景観の良否に関する景観情報を逐次取得する景観良否判定ステップと、景観の良否に応じたフレームレートの映像を送信する映像送信ステップと、を有することを特徴とする。
本発明によるプログラムは、コンピュータに実行させるプログラムであって、移動体の周囲の映像を逐次取得する映像取得ステップと、移動体の前方の景観の良否に関する景観情報を逐次取得する景観良否判定ステップと、景観の良否に応じたフレームレートの映像を送信する映像送信ステップと、を有することを特徴とする。
本発明による記録媒体は、上記プログラムが記録されている記録媒体である。
実施例1に係る映像配信システムの構成を示す斜視図である。 実施例1に係る車両の前席部分の構成を示す図である。 実施例1に係る端末装置Tの構成の一例を示す図である。 実施例1に係る映像送信装置の構成の一例を示すブロック図である。 実施例1に係るサーバの構成の一例を示すブロック図である。 実施例1に係る端末装置の構成の一例を示すブロック図である。 実施例1に係る映像送信装置の制御ルーチンを示すフローチャートである。 実施例1に係る映像送信装置の制御ルーチンを示すフローチャートである。
以下、本発明の実施例について図面を参照して具体的に説明する。なお、図面において同一の構成要素については同一の符号を付け、重複する構成要素の説明は省略する。
図1は、実施例1に係る映像配信システム100の構成を示す図である。図1に示すように、映像配信システム100は、移動体としての車両Mに搭載されている車載装置10と端末装置TとサーバSとがネットワークNWを介して、例えば、TCP/IPや、UDP/IP等の通信プロトコルを用いて相互にデータの送受信が可能になっている。
ネットワークNWは、例えば、LTE(Long Term Evolution)、4G(4th Generation)又は5G(5th Generation:第5世代移動通信システム)等の移動体通信網、Wi-Fi(登録商標)等の無線通信及び有線通信を含むインターネット通信により構築され得る。
図2は、実施例1に係る車載装置10が搭載されている車両Mの前席部分を示す斜視図である。車載装置10は、車両M内に設置された車外撮影カメラ12、車内撮影カメラ13、GPS受信機14、マイク15、タッチパネルディスプレイ16及びスピーカー17の各々に接続されており、これらを制御する制御部を含む。車載装置10は、例えば、車両Mの前席のダッシュボードDB内の中央部に配置されている。
車外撮影カメラ12は、車両Mの外部の状況を撮影する撮像装置である。本実施例において、車外撮影カメラ12は、フロントガラスFGを介して車両Mの前方の広い領域を撮影する広角カメラである。本実施例において、車外撮影カメラ12は、ダッシュボードDB上に配されている。
車内撮影カメラ13は、車両Mの内部の状況を撮影する撮像装置である。本実施例において、車内撮影カメラ13は、車両Mの運転者を撮影するカメラである。本実施例において、車内撮影カメラ13は、フロントガラスFGの上端または当該上端付近の天井部に設けられている。
GPS受信機14は、GPS(Global Positioning System)衛星からの信号(GPS信号)を受信する受信機である。本実施例において、GPS受信機14は、ダッシュボードDB上に配されている。
マイク15は、車内の音、例えば運転者が発した音声を受けて電気信号に変換する音声入力装置である。本実施例において、マイク15は、ダッシュボードDB上に配されている。
タッチパネルディスプレイ16は、車載装置10の制御に基づいて画面表示を行うディスプレイと、車両Mの搭乗者(例えば運転者)からの入力操作を受け付けるタッチパネルとが組み合わされている表示装置である。本実施例において、タッチパネルディスプレイ16は、ダッシュボードDBの中央部に配されている。
タッチパネルディスプレイ16には、例えば、地図に車両Mの現在の位置や移動予定経路が重畳されたカーナビゲーション画像が表示され得る。また、タッチパネルディスプレイ16を介して目的地の設定がなされる等、カーナビゲーション機能に関する操作が可能であってもよい。
スピーカー17は、外部から送信された電気信号に基づいて音声を出力する音声出力装置である。本実施例において、スピーカー17は、2つのAピラーAPの各々にそれぞれ設けられている。
本実施例において、車両Mの運転者は、車載装置10に接続されているマイク15及びスピーカー17を介して端末装置Tの操作者と音声通話可能である。
上記した車両Mの前席部分における車載装置10、車外撮影カメラ12、車内撮影カメラ13、GPS受信機14、マイク15、タッチパネルディスプレイ16及びスピーカー17の各々の位置は例示に過ぎず、これらは他の位置に配されていてもよい。
例えば、車外撮影カメラ12は、車両Mの前方の状況を撮影可能であればどこに設けられていてもよく、フロントガラスFGの上端または当該上端付近の天井部に設けられていてもよい。
本実施例において、車載装置10は、車外撮影カメラ12によって撮像されている車両Mの外部(前方)の映像を示す映像情報を、サーバSを介して端末装置Tに逐次送信している。
図3は、端末装置Tの構成及び端末装置Tに表示される映像及び画像の表示態様を示す図である。図3は、端末装置Tにおいて、車両Mの前方に景観が美しい山々MTが存在している風景映像が表示されている場合を示している。端末装置Tは、フレームFと、当該フレームFに収められているマイク21、スピーカー22及びタッチパネルディスプレイ23とを含む通信機器である。本実施例において、端末装置Tは、通信を介して他者との通話が可能なスマートフォンである。
マイク21は、端末装置Tのユーザが発した音声を受けて電気信号に変換する音声入力装置である。マイク21は、端末装置Tの一端部側に設けられている。
スピーカー22は、外部から送信された電気信号に基づいて音声を出力する音声出力装置である。スピーカー22は、端末装置Tの他端部側に設けられている。
タッチパネルディスプレイ23は、端末装置Tの制御に基づいて画面表示を行うディスプレイと、端末装置Tのユーザからの入力操作を受け付けるタッチパネルとが組み合わされている表示装置である。タッチパネルディスプレイ23は、端末装置Tの中央に設けられている。
本実施例において、端末装置Tの操作者は、上記したマイク21及びスピーカー22を介して車載装置10が搭載されている車両Mの運転者と音声通話可能に構成されている。
本実施例において、端末装置Tは、車両Mの車載装置10から逐次送信されている車両Mの外部の映像を示す映像情報を、サーバSを介して逐次受信している。具体的には、端末装置Tは、車外撮影カメラ12によって撮像されている車両Mの前方の映像を示す映像情報を、サーバSを介して逐次受信している。
上記したように、本実施例において、映像配信システム100は、車載装置10を搭載した車両Mの運転者と端末装置Tの操作者とが互いに音声通話可能に構成されている。また、本実施例において、映像配信システム100は、車外撮影カメラ12によって撮影されている車両Mの外部の映像が、端末装置Tのタッチパネルディスプレイ23にリアルタイム表示可能に構成されている。言い換えれば、映像配信システム100は、車載装置10が端末装置Tに対してライブストリーミングを実施可能に構成されている。
このように、車載装置10と端末装置Tとの間の音声通信を確立しつつ、車載装置10から端末装置Tに、車両Mの外部の映像等の映像と車両Mの現在位置と移動経路とをリアルタイムで送信する通信形態を、ビデオ通信と称する。本実施例において、車載装置10と端末装置Tとは、サーバSを介してビデオ通信を行っている。
このようなビデオ通信が行われることで、車載装置10から送信される映像を視聴している端末装置Tのユーザは、あたかも車両Mの運転者と車両Mに同乗しているような感覚を得ることができる。言い換えれば、ビデオ通信によって、端末装置Tのユーザの車両Mへの仮想同乗を実現することができる。このようなビデオ通信によって構成されるシステムを仮想同乗システムと称する。
以下に、図4~6を用いて映像配信システム100を構成する車載装置10、サーバS及び端末装置Tの各々の構成について説明する。
図4は、車載装置10の構成を示すブロック図である。制御部25は、CPU(Central Processing Unit)やROM(Read Only Memory)、RAM(Random Access Memory)を含む処理装置である。本実施例において、制御部25は、コンピュータとして機能し、当該制御部25によってビデオ通信時における映像送信機能が発揮される。
エンコード部26は、制御部25からの命令に基づいて、車外撮影カメラ12又は車内撮影カメラ13によって撮像される映像(撮像映像とも称する)をエンコーディングする部分である。エンコード部26は、映像エンコード用のCPU、いわゆるGPUを有しており、当該GPUによってエンコーディングがなされてもよい。
エンコード部26は、例えば、MPEG-4規格のエンコード方式で撮像映像をエンコーディングして映像データとしてのエンコードデータを生成する。例えば、エンコード部26は、H.264、Xvid、DivX、VP8、VP9等のコーデックを用いて、撮像映像からエンコードデータを生成する。
通信部27は、制御部25の指示に従って外部機器とのデータの送受信を行う通信装置である。通信部27は、例えば、ネットワークNWに接続するためのNIC(Network Interface Card)である。
通信部27は、上記したネットワークNWに接続されており、種々のデータを車載装置10と端末装置Tとの間で送受信する。本実施例において、制御部25、エンコード部26及び通信部27は、例えば、エンコード部26によって生成された撮像映像のエンコードデータをサーバSを介して端末装置Tに送信する映像送信部であり得る。
記憶部28は、制御部25の処理に必要なデータを記憶管理する記憶デバイスである。記憶部28は、例えば、ハードディスク、フラッシュメモリ、SSD(Solid State Drive)等の記憶デバイスである。記憶部28は、例えば、ビデオ通信の相手としての端末装置Tの連絡先を記憶している。また、記憶部28は、例えば、上記したタッチパネルディスプレイ16に表示させるための地図データを記憶している。
以下、制御部25の機能ブロックについて説明する。
映像取得部31は、上記した車外撮影カメラ12又は車内撮影カメラ13によって撮像される撮像映像を取得する部分である。制御部25は、映像取得部31が取得した撮像映像をエンコード部26を介してエンコーディングし、当該エンコーディングされた撮像映像を通信部27を介してサーバSに送信する。
画像認識部32は、映像取得部31が取得した撮像映像を示す画像に対して画像認識を行い、車両Mの前方における物体の認識結果を示す情報を取得する部分である。画像認識部32は、例えば、画像から認識対象となる物体の輪郭を検出し、当該物体を他の物体などから分離した上で参照データとしての画像に照らし合わせることで、当該物体が何であるかを認識する。当該参照データとしての画像は、例えば、記憶部28に記憶されている。
本実施例において、画像認識部32は、上記した撮像映像における車両Mの前方の景観の良否に関与し得る物体を認識する。具体的には、画像認識部32は、例えば、車両Mの前方において美しい景観を構成する物体が存在しているかを認識する。より具体的には、画像認識部32は、例えば、山、海、川、湖沼などの自然物や、ダム、橋梁、道路や家屋などの構造物を認識する。
景観良否判定部33は、画像認識部32によって得られた画像認識結果に基づいて、車両Mの前方における景観の良否を決定する部分である。すなわち、景観良否判定部33は、画像認識結果に基づいて車両Mの前方の景観の良否に関する景観情報を取得する景観情報取得部である。
例えば、景観良否判定部33は、画像認識部32によって認識された美しい景観を構成する物体の有無や当該物体の存在位置などに基づいて、車両Mの前方における景観の良否を判定する。例えば、景観良否判定部33は、車両Mの前方に上記した美しい景観を構成する自然物や構造物が位置しているというような画像認識結果を取得した場合、車両Mの前方の景観が良好であるものとして決定する。
制御部25は、景観良否判定部33によって判定された車両Mの前方の景観の良否に基づいて、エンコード部26による撮像映像のエンコーディングの態様を変化させる。
ここで、本実施例におけるエンコード部26によって行われる撮像映像送信時のエンコーディングの態様について説明する。以下、車外撮影カメラ12は、例えば常時27.5fpsなどの、以下に説明するエンコード処理後の映像データのフレームレートよりも十分高いフレームレートで撮影するものであって、当該エンコード処理によってフレームレートが落とされることで、フレームレート可変にエンコードデータが生成されるものとして説明する。
エンコード部26は、制御部25の指示に基づいて、異なる複数のエンコードモードで撮影映像のエンコーディングを実施する。具体的には、エンコード部26は、エンコーディング時の動作モードとして、第1のエンコードモードとしての通常モード及び第2のエンコードモードとしての高フレームレートモードを有する。
第1のエンコードモードとしての通常モードは、第2のエンコードモードよりも低いフレームレートの撮像映像をエンコーディングするエンコードモードである。本実施例において、通常モードは、例えば、車両Mの前方の景観が良好ではないときに適用される。
第2のエンコードモードとしての高フレームレートモードは、第1のエンコードモードよりもフレームレートを上げる態様で撮像映像をエンコーディングするエンコードモードである。本実施例において、高フレームレートモードは、例えば、車両Mの前方の景観が良好であるときに適用される。
例えば、エンコード部26は、車両Mの前方の景観が良好ではないときに、通常モードとして10fpsのフレームレートで撮像映像のエンコーディングを行う。そして、エンコード部26は、例えば、車両Mが当該車両Mの前方の景観が良好である道路を通行している場合にはエンコードモードが通常モードから高フレームレートモードに変更され、24fpsのフレームレートで撮像映像のエンコーディングを行う。
本実施例において、車載装置10と端末装置Tとの間でビデオ通信が確立されると、車載装置10から送信される車両Mの外部の映像は、車両Mの前方の映像の画像認識結果に基づいて決定される車両Mの前方の景観の良否に応じて、そのエンコーディングの態様が自動的に変更される。
車載装置10と端末装置Tとのビデオ通信において、例えば、図3に示したように、車両Mの前方の景観が良好であるときに、車両Mの運転者は、映像を視聴している端末装置Tの操作者、すなわち視聴者に対して当該景観をよく見せたいと感じる場合がある。また、当該映像を視聴している視聴者側においても景観の良い映像をよく見たいと感じる場合がある。
このような場合、例えば、車両Mの外部の映像が全てフレームレートが低い通常モードの態様でエンコーディングされて送信されると、車両Mの運転者と端末装置Tの操作者との間において当該映像に対する感じ方にずれが生じる恐れがある。
例えば、車両Mの前方の景観が美しい映像を互いに共有している際に、上記したフレームレートが低い通常モードによりエンコーディングがなされるという理由で、車両Mの運転者が感動している一方で端末装置Tの操作者にはその感動が伝わりにくいような状況が生じ得る。
本実施例によれば、エンコード部26は、ビデオ通信時の通信量を抑えるために通常モードによって低いフレームレートで映像のエンコーディングを行いつつ、車両Mの前方の景観が良好である場合には高フレームレートモードで映像のエンコーディングを行う。これにより、車載装置10は、通信時の通信量を低くしつつ、状況に応じて車両Mの外部の映像を適切な態様で端末装置Tに送信することができる。
従って、車両Mの外部の映像を受信した端末装置Tの操作者は、車両Mの前方の景観が良好である場合に、当該映像を高いフレームレートで視聴することができる。よって、車両Mの運転者と端末装置Tの操作者との間で、映像の共有感を高めることができ、円滑に情報の共有を行うことができる。
図5は、サーバSの構成を示すブロック図である。サーバSは、ビデオ通信中において、車載装置10と端末装置Tとの間の音声通話を確立し、当該音声通話のデータを転送するSIPサーバのような機能を有している。
制御部35は、CPUやROM、RAMを含む処理装置である。本実施例において、制御部35は、ビデオ通信時において車載装置10から送信される撮像映像を端末装置Tへ転送する。
通信部36は、制御部25の指示に従って外部機器とのデータの送受信を行う通信装置である。通信部36は、例えば、ネットワークNWに接続するためのNICである。本実施例において、通信部36は、エンコーディングされた車両Mの外部の映像を車載装置10から受信する受信部であり得る。また、通信部36は、エンコーディングされた車両Mの外部の映像を端末装置Tに送信する送信部であり得る。
図6は、端末装置Tの構成を示すブロック図である。制御部37は、CPUやROM、RAMを含む処理装置である。
通信部38は、制御部37の指示に従って外部機器とのデータの送受信を行う通信装置である。通信部38は、例えば、ネットワークNWに接続するためのNICである。本実施例において、通信部38は、サーバSから転送されるエンコーディングされた車両Mの外部の映像を受信する受信部であり得る。
デコード部39は、制御部37からの命令に基づいて、サーバSを介して車載装置10から受信したエンコーディングされた車両Mの外部の映像をデコーディングして再生し出力する部分である。
デコード部39は、エンコードデータのエンコード時のコーデック、例えば、MPEG-4規格のエンコード方式でエンコードデータをデコーディングして映像を再生して出力する。当該再生された映像は、制御部37によってタッチパネルディスプレイ23に表示される。
このように、端末装置Tは、ビデオ通信において車載装置10から送信される車両Mの外部の映像(エンコーディングデータ)を受信してデコーディングを行うことで、タッチパネルディスプレイ23上に当該映像を表示させることができる。また、端末装置Tは、上記した車載装置10のデコーディング時の異なる複数のエンコードモードによって、車両Mの前方の景観の良否に応じて異なるフレームレートの映像を表示させることができる。
以下に、本実施例における車載装置10の具体的な動作について説明する。
図7は、車載装置10の制御部25において実行される映像配信ルーチンRT1を示すフローチャートである。制御部25は、例えば、サーバSを介して車載装置10と端末装置Tとの間でビデオ通信のための接続(以後、ビデオ接続と称する)が確立されたことを開始トリガーとして映像配信ルーチンRT1を開始する。
具体的には、例えば、車両Mの運転者によって車載装置10のタッチパネルディスプレイ16に電源が投入されると、当該タッチパネルディスプレイ16上にビデオ通話の受付画面が表示される。そして、当該画面においてビデオ接続の相手先として端末装置Tが選択されることで、車載装置10と端末装置Tの間においてビデオ接続が確立される。これにより、制御部25は、映像配信ルーチンRT1を開始する。
制御部25は、ビデオ接続が確立されたことをしてビデオ通信が開始されているか否かを判定する(ステップS101)。制御部25は、ビデオ通信が開始されていないと判定すると(ステップS101:NO)、映像配信ルーチンRT1を終了する。
制御部25は、ビデオ通信が開始されたと判定すると(ステップS101:YES)、撮像映像を取得し、当該映像をエンコーディングしてサーバSを介して端末装置Tに送信する映像配信動作を開始する(ステップS102)。
具体的には、ステップS102において、制御部25の映像取得部31は、車外撮影カメラ12から車両Mの外部の撮像映像を取得し、制御部25の画像認識部32は、当該撮像映像を示す画像に対して処理を行い、当該画像内にある物体を認識する。そして、景観良否判定部33は、画像認識部32による撮像映像を示す画像の認識結果、すなわち景観情報を取得する。制御部25は、エンコード部26及び通信部27に指示を行い、撮像映像をエンコーディングして得られるエンコードデータをサーバSを介して端末装置Tに送信する。
制御部25は、ステップS102の後に、ビデオ通信が終了したか否かを判定する(ステップS103)。制御部25は、ビデオ通信が終了したと判定すると(ステップS103:YES)、映像配信動作を終了する(ステップS104)。言い換えれば、制御部25は、外部装置70とのビデオ通信が終了したと判定すると、撮像映像の取得、画像認識、当該撮像映像のエンコーディング及び送信を終了する。
制御部25は、ビデオ通信が終了していないと判定すると(ステップS103:NO)、ステップS103を繰り返し実行する。
車載装置10の制御部25は、上記した映像配信ルーチンRT1によって、車載装置10と端末装置Tとのビデオ通信が継続する限り、車両Mの外部の映像をエンコーディングしてサーバSを介して端末装置Tに送信し続ける。
図8は、車載装置10の制御部25において実行されるフレームレート制御ルーチンRT2を示すフローチャートである。制御部25は、例えば、ビデオ通信によって車載装置10において上記した映像配信動作が開始されたことを開始トリガーとしてフレームレート制御ルーチンRT2を開始する。
まず、制御部25は、車両Mの前方の映像の認識結果に基づいて、車両Mの前方の景観が良好であるか否かを判定する(ステップS201)。制御部25は、車両Mの前方の景観が良好ではないと判定すると(ステップS201:NO)、フレームレート制御ルーチンRT2を終了する。
制御部25は、車両Mの前方の景観が良好であると判定すると(ステップS201:YES)、エンコード部26のエンコードモードを高フレームレートモードに変更する(ステップS202)。具体的には、制御部25は、エンコード部26のエンコードモードを通常モードよりもエンコーディング時における撮像映像のフレームレートを上げる態様である高フレームレートモードに変更する。
制御部25は、ステップS202の後に、車両Mの前方の景観が良好であるか否かを判定する(ステップS203)。制御部25は、車両Mの前方の景観が良好ではないと判定すると(ステップS203:NO)、エンコード部26のエンコードモードを通常モードに変更する(ステップS204)。なお、制御部25は、ステップS202において高フレームレートモードに変更した後に、一定時間が経過したことをしてフレームレートが低い通常モードに変更してもよい。
制御部25は、車両Mの前方の景観が良好であると判定すると(ステップS203:YES)、ステップS203を繰り返し実行する。
なお、フレームレート制御ルーチンRT2において、制御部25は、通常モードから高フレームレートモードへの変更の際、及び高フレームレートモードから通常モードへの変更の際に、エンコード部26のエンコーディング時のエンコードモードを変更したこと通知するモード変更信号を、端末装置Tに送信してもよい。
本実施例によれば、上記したように、車載装置10と端末装置Tとのビデオ通信中において、車載装置10から送信される車両Mの外部の映像は、車両Mの前方の景観が良好であるとされた際に、そのエンコーディングの態様が自動的に変更される。
従って、本実施例によれば、車載装置10は、通信時の通信量を低くしつつ、状況に応じて車両Mの外部の映像を適切な態様で送信することができる。よって、本実施例によれば、通信時の通信量を低くしつつ、車両Mの運転者と端末装置Tの操作者との間において、円滑に情報の共有を行うことができる。
なお、本実施例において、制御部25の景観良否判定部33は、景観情報としての車両Mの前方の映像における画像認識の結果に基づいて景観の良否を判定するとしたが、当該景観の良否を判定するための手法はこれに限られない。
例えば、車両Mの現在位置及び地図情報を用いて景観の良否が決定されてもよい。制御部25は、例えば、GPS受信機14を介して車両Mの現在位置を取得する位置情報取得部として機能してもよく、記憶部28に記憶されている地図データには、地図上の領域ごとに属性情報が付与されていてもよい。具体的には、地図データには、例えば、リンクやノードごとにその周辺領域の環境として住宅密集地、海岸沿い、山沿い、工業地域、田園地域などといった属性を示す情報が付されていてもよい。景観良否判定部33は、地図上の車両Mの現在位置及び上記した属性情報を景観情報として取得する。
これにより、景観良否判定部33は、地図上の車両Mの現在位置及び上記した属性情報に基づき、車両Mの現在位置を含む領域の属性情報が特定の属性情報である場合、例えば、上記した美しい景観を構成する自然物や構造物が存在し得る属性情報である場合に、景観が良好であるものと決定する。
従って、制御部25は、地図上における車両Mの現在位置を含む領域の属性情報に基づいて車両Mの前方の景観の良否を決定し、当該景観の良否に応じてエンコーディングの態様を変更させることができる。
また、景観の良否は、車外撮影カメラ12によって撮影される車両Mの前方の映像データを、当該映像データから景観の良否判定をする学習モデルを有するAIに入力し、その出力を得ることによって判定しても良い。
なお、実施例1において、車載装置10の制御部25は、車両Mの前方の景観が良好である場合にエンコード部26のエンコーディングの態様を変更させることについて、すなわち2段階でフレームレートを変更する例について説明したが、この態様の変更は3段階以上でなされてもよい。すなわち、映像のフレームレートを変更するエンコードモードは3つ以上あってもよい。
例えば、車両Mの前方の景観の良好度合いを示す景観レベルが段階的に設定されていてもよく、制御部25は、車両Mの前方の景観レベルが高いほど、すなわち、景観が良好であるほどフレームレートが高くなるエンコードモードで映像のエンコーディングを行ってもよい。
本実施例において、エンコード部26によるエンコーディング時における映像の解像度は、上記したエンコードモードに応じて変更されてもよい。例えば、制御部25は、車両Mの前方の景観が良好である場合に高フレームレートモードで映像をエンコーディングする際に、当該映像の解像度を上げる態様としてもよい。これにより、端末装置Tのユーザは、景観が良好であり且つ解像度が高い映像を視聴することで、車両Mの運転者との間で感動を共有することができ、端末装置Tのユーザの車両Mへの同乗感を向上させることができる。
本実施例において、車載装置10と端末装置TとがサーバSを介してビデオ通信を行うことについて説明したが、当該ビデオ通信は、車載装置10と端末装置Tとの間でP2P(Peer to Peer)通信などによって直接なされてもよい。
本実施例において、車載装置10がタッチパネルディスプレイ16に接続されている場合について説明したが、これに限られない。例えば、車載装置10は、車両Mの運転者が携帯するスマートフォンと通信を行って、タッチパネルディスプレイ16に代えて当該スマートフォンのディスプレイにビデオ通信に関する画面等を表示させてもよい。
また、車載装置10は、車両Mの運転者に提示する画面を表示しない構成であってもよい。例えば、車載装置10は、ドライブレコーダのような構成を有していてもよく、例えば、車外撮影カメラ12と一体となった装置であってもよい。具体的には、車載装置10は、例えば、車外撮影カメラ12の筐体内に上記した車載装置10の機能を果たすハードウェアを内蔵したような装置であってもよい。この場合、車載装置10は、上記において説明したような種々の表示出力を行わないこととしてもよい。
さらに、本願の映像送信装置は、本実施例における車載装置10と同様の構成を有する端末装置(例えば、図4)と車外撮影カメラ12とタッチパネルディスプレイ16とが一体化された構成であってもよい。
本実施例において、車両Mの外部の映像が車載装置10から端末装置Tに送信される場合について説明したが、車載装置10から端末装置Tに送信される映像は、車両Mの外部の映像から車内撮影カメラ13によって撮影される車両Mの内部の映像に切り替えられてもよい。車両Mの内部の映像が送信されている際には、端末装置Tのユーザは、例えば、車両Mの内部の様子を見ながら車両Mの運転者とコミュニケーションをとることができる。
なお、端末装置Tに送信する映像を車外撮影カメラ12の映像と車内撮影カメラ13の映像との間で切り替える切換操作は、車載装置10においてなされてもよい。また、当該切換操作は、端末装置Tのユーザによる当該端末装置Tへの操作によって遠隔的になされてもよい。
本実施例において、端末装置Tの制御部37は、車載装置10から送信されている車両Mの外部の映像をサーバSを介して受信するとしたが、当該映像に加えて、車両Mの現在地及び移動予定経路が記された地図画像や、車両Mの運転者の氏名、車両Mの走行速度などを受信してもよい。
例えば、端末装置Tの制御部37は、タッチパネルディスプレイ23において、車載装置10から受信した地図画像や車両Mの運転者の氏名、車両Mの走行速度を車両Mの外部の映像上に表示させてもよく、又は車両Mの外部の映像とは異なる表示領域に表示させてもよい。このとき、地図画像や車両Mの運転者の氏名、車両Mの走行速度は、端末装置Tの操作者によって、その表示/非表示を自由に切り替え可能であってもよい。
本実施例において、車載装置10が車両Mに搭載される例を説明したが、車載装置10は、自転車、バイク等他の移動体に搭載されていていてもよい。また、車載装置10を人が保持しており、例えば歩きながらビデオ通信を行って映像を配信することしてもよい。
本実施例において、端末装置Tは、スマートフォンである場合について説明したが、これに限られない。例えば、端末装置Tは、車載装置10とビデオ通信が可能なタブレット端末であってもよい。
本実施例において、車載装置10の制御部25が、車載装置10と端末装置Tとのビデオ通信が確立されてから映像配信動作を開始する場合を例に説明した。しかしながら、制御部25は、YouTube(登録商標)やニコニコ生放送(登録商標)の動画配信のような態様で動画配信がなされてもよい。すなわち、端末装置Tの操作者側の端末との通信の確立が無くとも、映像配信動作が開始されてもよい。具体的には、車載装置10と端末装置Tの操作者側との端末との通信の確立が無くとも、車載装置10によるサーバSへの動画データのアップロードが開始されても良い。
例えば、車載装置10による映像配信動作は、車載装置10とサーバSとの通信が確立された後に、端末装置Tとの通信接続の確立無しに開始されてもよい。この場合、不特定の又は許可を受けた特定の端末装置TがサーバSに接続することで、車載装置10から配信された映像を受信し、端末装置Tの操作者が当該映像を視聴することが可能となる。
なお、実施例1において説明した車載装置10の制御部25における一連の処理は、コンピュータにより実行させるプログラムとしてもよい。当該プログラムは、コンピュータに読み取り可能な記録媒体に記録されていてもよい。記録媒体のタイプは、特に限定されず、例えば、光ディスク、ハードディスク、またはフラッシュメモリもしくはSSD等の半導体メモリであってもよい。また、上記プログラムは、通信を介して車載装置10、サーバS及び端末装置Tにダウンロードされインストールされてもよい。
上記した実施例1において示した制御ルーチンは例示に過ぎず、用途または使用条件等に応じて適宜選択及び変更可能である。
100 情報処理システム
M 車両
10 車載装置
S サーバ
T 端末装置
12 車外撮影カメラ
13 車内撮影カメラ
14 GPS受信機
15、21 マイク
16、23 タッチパネルディスプレイ
17、22 スピーカー
25、35、37 制御部
26 エンコード部
27、36、38 通信部
28 記憶部
31 映像取得部
32 画像認識部
33 景観良否判定部
39 デコード部

Claims (9)

  1. 移動体と共に移動する映像送信装置であって、
    前記移動体の周囲の映像を逐次取得する映像取得部と、
    前記移動体の前方の景観の良否に関する景観情報を逐次取得する景観良否判定部と、
    前記景観の良否に応じたフレームレートの前記映像を送信する映像送信部と、を有することを特徴とする映像送信装置。
  2. 前記景観の良否は、前記映像の画像認識の結果に基づいて決定されることを特徴とする、請求項1に記載の映像送信装置。
  3. 前記景観の良否は、地図上での前記移動体の位置が含まれる領域の属性情報に基づいて決定されることを特徴とする、請求項1に記載の映像送信装置。
  4. 前記映像送信部は、前記景観が良好であるほどフレームレートの高い前記映像を送信することを特徴とする請求項1乃至3のいずれか1つに記載の映像送信装置。
  5. 前記映像送信部は、前記映像をエンコーディングする際の動作モードとして第1のエンコードモード及び前記第1のエンコードモードよりもフレームレートを上げる態様で前記映像をエンコーディングする第2のエンコードモードを有するエンコード部を有し、
    前記エンコード部は、前記景観が良好であるときに、前記第2のエンコードモードで動作することを特徴とする、請求項1乃至4のいずれか1つに記載の映像送信装置。
  6. 前記第2のエンコードモードにおける前記映像の解像度は、前記第1のエンコードモードにおける前記映像の解像度よりも大きいことを特徴とする、請求項5に記載の映像送信装置。
  7. 移動体と共に移動する映像送信装置が実行する映像送信方法であって、
    前記移動体の周囲の映像を逐次取得する映像取得ステップと、
    前記移動体の前方の景観の良否に関する景観情報を逐次取得する景観良否判定ステップと、
    前記景観の良否に応じたフレームレートの前記映像を送信する映像送信ステップと、を有することを特徴とする映像送信方法。
  8. コンピュータに実行させるプログラムであって、
    移動体の周囲の映像を逐次取得する映像取得ステップと、
    前記移動体の前方の景観の良否に関する景観情報を逐次取得する景観良否判定ステップと、
    前記景観の良否に応じたフレームレートの前記映像を送信する映像送信ステップと、を有することを特徴とするプログラム。
  9. 請求項8に記載のプログラムが格納されている記録媒体。
JP2021061700A 2021-03-31 2021-03-31 映像送信装置、映像送信方法、プログラム及び記録媒体 Pending JP2022157463A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021061700A JP2022157463A (ja) 2021-03-31 2021-03-31 映像送信装置、映像送信方法、プログラム及び記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021061700A JP2022157463A (ja) 2021-03-31 2021-03-31 映像送信装置、映像送信方法、プログラム及び記録媒体

Publications (1)

Publication Number Publication Date
JP2022157463A true JP2022157463A (ja) 2022-10-14

Family

ID=83558793

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021061700A Pending JP2022157463A (ja) 2021-03-31 2021-03-31 映像送信装置、映像送信方法、プログラム及び記録媒体

Country Status (1)

Country Link
JP (1) JP2022157463A (ja)

Similar Documents

Publication Publication Date Title
TWI493971B (zh) 在行動裝置中之影像重疊
KR20170023885A (ko) 음성 또는 영상 통화 중 컨텍스트 정보 합성 및 전송 기법
CN106060569A (zh) 一种视频直播方法、装置、设备及系统
CN111301284A (zh) 车载装置、程序以及车辆
CN110996117A (zh) 视频转码方法、装置、电子设备和存储介质
JP4567646B2 (ja) 動画像・音声再生携帯端末、及び、動画像・音声配信端末、及び、システム
KR20130117991A (ko) 영상통신장치, 영상통신서버 및 영상통신을 위한 영상처리방법
JP2022157463A (ja) 映像送信装置、映像送信方法、プログラム及び記録媒体
WO2022208808A1 (ja) 映像送信装置、映像送信方法、プログラム及び記録媒体
KR101021594B1 (ko) 영상통화 기능을 갖는 네비게이션 단말 및 그를 이용한 네비게이션 시스템 및 영상통화 방법
JP2022157267A (ja) 映像送信装置、映像送信方法、プログラム及び記録媒体
JP2007074081A (ja) 車載用通信装置
WO2023112115A1 (ja) 通信システム、情報処理装置、情報処理方法、プログラム及び記録媒体
JP3736732B2 (ja) 車両用ナビゲーション装置及びコンピュータ読み取り可能な記憶媒体
JP2022157277A (ja) 映像送信装置、サーバ装置、映像送信方法、映像送信プログラム、記憶媒体、及びデータ構造
JP6563694B2 (ja) 画像処理装置、画像処理システム、画像合成装置、画像処理方法及びプログラム
WO2023127118A1 (ja) 情報処理装置、情報処理方法、情報処理プログラム及び記憶媒体
JP2022157323A (ja) 映像送信装置、映像出力装置、映像出力システム、映像送信方法、映像送信プログラム及び記憶媒体
JP5170278B2 (ja) 表示制御装置、表示制御方法、プログラム、および表示制御システム
JP2022157413A (ja) 映像送信装置、映像生成装置、映像送信方法、映像送信プログラム及び記憶媒体
WO2023112114A1 (ja) 通信システム、情報処理装置、情報処理方法、プログラム及び記録媒体
US7545404B2 (en) Videophone and videophone system
WO2022208656A1 (ja) 情報処理装置、情報処理方法、プログラム及び記録媒体
CN108833822A (zh) 具有全景摄像功能的虚拟现实设备
JP2023094982A (ja) 通信システム、情報処理装置、情報処理方法、プログラム及び記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240207